Motif de la recommandation :La publication de la version complète de GPT-2 1.5B et de ses poids permet de comprendre le processus de publication échelonnée et ses implications pour la détection des sorties.
Motif de la recommandation :L'original expose les préférences humaines et le nombre d'annotations nécessaires pour différentes tâches, ce qui permet de comprendre le coût et les limites du fine-tuning par retour humain.
OpenAI a mis au point une méthode évaluant si un classifieur de réseau de neurones peut résister à des attaques adversariales non vues pendant l'entraînement. Elle introduit une nouvelle métrique, UAR (Unforeseen Attack Robustness), qui mesure la robustesse d'un modèle unique face à une attaque imprévue. Ces travaux soulignent la nécessité d'évaluer les performances sur un éventail plus diversifié d'attaques imprévues.
OpenAI publie le modèle de langage GPT-2 de 774 millions de paramètres, après la sortie du petit modèle 124M en février et la publication échelonnée du modèle moyen 355M en mai.
Motif de la recommandation :L'article retrace le calendrier de publication par étapes de GPT-2 et expose un accord juridique open source pour les partenariats de partage de modèles.
Microsoft investit 1 milliard de dollars dans OpenAI pour soutenir la construction d'une intelligence artificielle générale (AGI) aux bénéfices économiques largement distribués. Les deux entreprises s'associent pour développer sur Microsoft Azure une plateforme matérielle et logicielle évolutive vers l'AGI, et développeront conjointement de nouvelles technologies de supercalcul Azure AI. Microsoft devient le fournisseur cloud exclusif d'OpenAI.
OpenAI a publié un document de recherche politique identifiant quatre stratégies pour renforcer la coopération industrielle à long terme sur les normes de sécurité en IA.
La deuxième promotion d'OpenAI Scholars a achevé son programme, les huit boursiers ayant présenté leur projet final lors du Scholars Demo Day organisé chez OpenAI.
OpenAI a créé MuseNet, un réseau neuronal profond capable de générer des compositions musicales de 4 minutes avec 10 instruments différents et de combiner des styles allant de la country à Mozart en passant par les Beatles. MuseNet n'a pas été programmé explicitement avec une compréhension musicale, mais a découvert des motifs d'harmonie, de rythme et de style en apprenant à prédire le token suivant dans des centaines de milliers de fichiers MIDI. Il utilise la même technologie non supervisée généraliste que GPT-2, un grand modèle Transformer entraîné à prédire le token suivant dans une séquence, qu'il s'agisse d'audio ou de texte.
Motif de la recommandation :MuseNet montre comment une architecture Transformer généraliste, celle de GPT-2, peut être réutilisée pour générer de la musique sur des fichiers MIDI.
OpenAI Five est la première IA à battre les champions du monde d'un jeu esport, en remportant deux parties consécutives face à l'équipe championne du monde de Dota 2.
OpenAI annonce la création d'OpenAI LP, une nouvelle société à but lucratif plafonné qui lui permet d'accroître rapidement ses investissements dans la puissance de calcul et les talents.
OpenAI publie Neural MMO, un environnement de jeu massivement multiagent destiné aux agents d'apprentissage par renforcement. La plateforme prend en charge un nombre important et variable d'agents dans une tâche persistante et ouverte, et l'inclusion de nombreux agents et espèces favorise une meilleure exploration, la formation de niches divergentes et une compétence globale accrue.
OpenAI a organisé le 2 février son premier Spinning Up Workshop, dans le cadre de sa nouvelle initiative éducative. L'atelier s'inscrit dans le programme Spinning Up consacré au deep RL.
OpenAI publie un article affirmant que la recherche sur la sécurité à long terme de l'IA a besoin des sciences sociales pour garantir le succès des algorithmes d'alignement lorsque de vrais humains sont impliqués. L'alignement des systèmes d'IA avancés sur les valeurs humaines exige de lever de nombreuses incertitudes liées à la psychologie de la rationalité, aux émotions et aux biais humains. OpenAI prévoit de recruter des chercheurs en sciences sociales pour travailler à plein temps sur ce sujet.
OpenAI publie CoinRun, un environnement d'entraînement qui fournit une métrique pour mesurer la capacité d'un agent à transférer son expérience vers des situations nouvelles. CoinRun a déjà contribué à clarifier un puzzle de longue date en apprentissage par renforcement. L'environnement se situe à un niveau de complexité intermédiaire : plus simple que des jeux de plateforme traditionnels comme Sonic the Hedgehog, mais suffisamment exigeant pour constituer un défi de généralisation pour les algorithmes de pointe.
OpenAI publie Spinning Up in Deep RL, une ressource éducative conçue pour permettre à quiconque d'apprendre à devenir praticien du deep reinforcement learning. Elle comprend des exemples clairs de code RL, des exercices pédagogiques, de la documentation et des tutoriels.
OpenAI ouvre les candidatures pour ses programmes Fellows (hiver 2019) et Interns (été 2019). Les candidatures sont acceptées dès maintenant pour ces deux sessions.
OpenAI présente Glow, un modèle génératif réversible qui utilise des convolutions 1x1 inversibles. Il étend les travaux antérieurs sur les modèles génératifs réversibles et simplifie l'architecture. Le modèle peut générer des images réalistes à haute résolution, prend en charge un échantillonnage efficace et découvre des caractéristiques permettant de manipuler les attributs des données. Le code du modèle et un outil de visualisation en ligne sont publiés.
Motif de la recommandation :L'article explique comment un agent atteint 74 500 points sur Montezuma's Revenge à partir d'une seule démonstration, avec un algorithme simple fondé sur PPO.
OpenAI publie la version complète de Gym Retro, une plateforme de recherche en apprentissage par renforcement sur les jeux. Le nombre de jeux publics passe d'environ 70 jeux Atari et 30 jeux Sega à plus de 1000 jeux couvrant plusieurs émulateurs sous-jacents. OpenAI publie également l'outil utilisé pour ajouter de nouveaux jeux à la plateforme.
Motif de la recommandation :OpenAI ouvre une plateforme d'apprentissage par renforcement sur plus de 1000 jeux et publie l'outil d'ajout de jeux, ce qui permet de mesurer l'évolution de l'échelle des environnements disponibles.
OpenAI publie une analyse montrant que depuis 2012, la quantité de calcul utilisée dans les plus grands entraînements d'IA croît de façon exponentielle avec un temps de doublement de 3.
Motif de la recommandation :L'analyse quantifie la croissance exponentielle du calcul d'entraînement depuis 2012 et son rythme de doublement, un repère pour situer les capacités des futurs systèmes.