Hugging Face Blog·· 24 jsélectionAI Score62
Async GRPO avec LoRA sur HF Jobs : un bucket, un proxy, sans NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI Introduction
TRL v1.14 prend en charge l'entraînement d'un adaptateur LoRA dans AsyncGRPOTrainer et ne synchronise que cet adaptateur vers vLLM。
Raison de la recommandation
L'article détaille une architecture concrète pour entraîner un adaptateur LoRA avec Async GRPO sur des Jobs séparés, avec des chiffres de bout en bout et un diagnostic du goulot d'étranglement.
Source :Hugging Face Blog · huggingface.co