Hugging Face Blog·· 2023-03-09sélectionAI Score72
Hugging Face intègre trl et peft pour un fine-tuning RLHF de LLM 20B sur un GPU 24GB
Fine-tuning 20B LLMs with RLHF on a 24GB consumer GPU
AI Introduction
Hugging Face annonce l'intégration officielle de trl avec peft.
Raison de la recommandation
Présente une méthode concrète pour exécuter un fine-tuning RLHF de modèle 20B sur un seul GPU 24GB, avec les étapes et les bibliothèques utilisées.
Source :Hugging Face Blog · huggingface.co