Aller au contenu
Hugging Face Blog·· 2023-04-27AI Score36

Utiliser Transformers avec TensorFlow et TPU pour entraîner un modèle de langage

Training a language model with 🤗 Transformers using TensorFlow and TPUs

AI Introduction

Hugging Face détaille l'entraînement from scratch d'un RoBERTa (modèle base) sur le jeu de données WikiText (v1) avec TensorFlow et TPU.

Source :Hugging Face Blog · huggingface.co