Hugging Face TRL : synchronisation de poids par deltas sparse via Hub Buckets pour l'RL asynchrone
Hugging Face a fusionné une PR dans TRL qui encode uniquement les éléments modifiés des poids bf16 sous forme de fichier safetensors sparse。
Motif de la recommandation :Le texte détaille un protocole de synchronisation de poids par deltas sparse via HF Buckets, avec code et architecture, utile pour réduire les coûts de l'RL asynchrone.