Hugging Face Blog·· 2022-09-27sélectionAI Score62
Comment Accelerate de Hugging Face exécute de très grands modèles grâce à PyTorch
How 🤗 Accelerate runs very large models thanks to PyTorch
AI Introduction
Hugging Face explique comment Accelerate s'appuie sur le device meta de PyTorch.
Raison de la recommandation
L'article détaille le mécanisme de chargement par sharding et de répartition sur plusieurs appareils, une méthode directement transférable pour exécuter de grands modèles sur du matériel limité.
Source :Hugging Face Blog · huggingface.co