OpenAI améliore la compréhension du langage grâce à l'apprentissage non supervisé
OpenAI a obtenu des résultats de pointe sur une série de tâches linguistiques variées avec un système évolutif et agnostique à la tâche.
Orientations techniques
Les dessous de l'entraînement : construction de jeux de données, données synthétiques, méthodes de pré-entraînement et de post-entraînement, puissance de calcul et coûts d'entraînement.
182 sélections30 derniers jours 46 entréesTotal : 500 entrées
OpenAI a obtenu des résultats de pointe sur une série de tâches linguistiques variées avec un système évolutif et agnostique à la tâche.
OpenAI publie une analyse montrant que depuis 2012, la quantité de calcul utilisée dans les plus grands entraînements d'IA croît de façon exponentielle avec un temps de doublement de 3.
Motif de la recommandation :L'analyse quantifie la croissance exponentielle du calcul d'entraînement depuis 2012 et son rythme de doublement, un repère pour situer les capacités des futurs systèmes.