Hugging Face Blog·· 2020-07-03AI Score52
Le Reformer comment entraîner sur un demi-million de tokens avec moins de 8 Go de RAM
The Reformer - Pushing the limits of language modeling
AI Introduction
Le blog Hugging Face détaille les quatre optimisations mémoire du Reformer, un modèle Transformer capable de traiter jusqu'à un demi-million de tokens en une seule passe.
Source :Hugging Face Blog · huggingface.co