Hugging Face publie pytorch_block_sparse pour des modèles de langage plus petits et plus rapides
Hugging Face publie l'extension pytorch_block_sparse.
#Déploiement/ingénierie
Hugging Face BlogAI Score5252
Hugging Face BlogAI Score5252 Le Reformer comment entraîner sur un demi-million de tokens avec moins de 8 Go de RAM
Le blog Hugging Face détaille les quatre optimisations mémoire du Reformer, un modèle Transformer capable de traiter jusqu'à un demi-million de tokens en une seule passe.
Hugging Face BlogAI Score4242 Comment générer du texte : utiliser différentes méthodes de décodage pour la génération de langage avec Transformers
Le blog Hugging Face détaille les méthodes de décodage pour la génération de langage autorégressive avec la bibliothèque transformers.