Aller au contenu
13 juinlun.
  1. OpenAI News62

    OpenAI entraîne des modèles de rédaction de critiques pour aider les humains à repérer les défauts des résumés

    OpenAI indique avoir entraîné des modèles de rédaction de critiques chargés de décrire les défauts dans les résumés. Les évaluateurs humains repèrent beaucoup plus souvent ces défauts lorsqu'on leur montre les critiques du modèle. Les modèles plus grands sont meilleurs pour s'autocritiquer, et l'augmentation d'échelle améliore davantage la rédaction de critiques que la rédaction de résumés. Cela ouvre une piste pour que des systèmes d'IA assistent la supervision humaine d'autres systèmes d'IA sur des tâches difficiles.

    Motif de la recommandation :Un modèle de rédaction de critiques aide les évaluateurs humains à repérer davantage de défauts dans les résumés, et l'échelle améliore davantage la critique que la rédaction.

19 maijeu.
13 maiven.
23 marsmer.
3 marsjeu.
27 janvierjeu.
8 septembremer.
10 juinjeu.
21 novembrejeu.
5 novembremar.
19 septembrejeu.
  1. OpenAI News62

    OpenAI ajuste GPT-2 774M par les préférences humaines

    OpenAI a ajusté le modèle de langage GPT-2 de 774M paramètres à l'aide de retours humains pour diverses tâches.

    Motif de la recommandation :L'original expose les préférences humaines et le nombre d'annotations nécessaires pour différentes tâches, ce qui permet de comprendre le coût et les limites du fine-tuning par retour humain.

22 aoûtjeu.
  1. OpenAI News32

    OpenAI développe une méthode pour tester la robustesse des classifieurs face à des attaques adversariales imprévues

    OpenAI a mis au point une méthode évaluant si un classifieur de réseau de neurones peut résister à des attaques adversariales non vues pendant l'entraînement. Elle introduit une nouvelle métrique, UAR (Unforeseen Attack Robustness), qui mesure la robustesse d'un modèle unique face à une attaque imprévue. Ces travaux soulignent la nécessité d'évaluer les performances sur un éventail plus diversifié d'attaques imprévues.

20 aoûtmar.
  1. OpenAI News83

    OpenAI publie GPT-2 774M et un accord juridique open source

    OpenAI publie le modèle de langage GPT-2 de 774 millions de paramètres, après la sortie du petit modèle 124M en février et la publication échelonnée du modèle moyen 355M en mai.

    Motif de la recommandation :L'article retrace le calendrier de publication par étapes de GPT-2 et expose un accord juridique open source pour les partenariats de partage de modèles.

10 juilletmer.
19 févriermar.
  1. OpenAI News32

    OpenAI : la sécurité de l'IA a besoin des sciences sociales

    OpenAI publie un article affirmant que la recherche sur la sécurité à long terme de l'IA a besoin des sciences sociales pour garantir le succès des algorithmes d'alignement lorsque de vrais humains sont impliqués. L'alignement des systèmes d'IA avancés sur les valeurs humaines exige de lever de nombreuses incertitudes liées à la psychologie de la rationalité, aux émotions et aux biais humains. OpenAI prévoit de recruter des chercheurs en sciences sociales pour travailler à plein temps sur ce sujet.

22 octobrelun.
3 maijeu.
20 févriermar.
3 aoûtjeu.
  1. OpenAI News52

    OpenAI publie RL-Teacher, une implémentation open source pour entraîner les IA via des retours humains

    OpenAI a publié RL-Teacher, une implémentation open source de son interface permettant d'entraîner des IA via des retours humains occasionnels plutôt que des fonctions de récompense écrites à la main. La technique sous-jacente a été développée comme une étape vers des systèmes d'IA sûrs, et s'applique aussi aux problèmes d'apprentissage par renforcement dont les récompenses sont difficiles à spécifier.

17 juilletlun.
  1. OpenAI News31

    OpenAI crée des images adverses robustes trompant les classifieurs neuronaux

    OpenAI a créé des images qui trompent de manière fiable les classifieurs de réseaux neuronaux lorsqu'elles sont vues sous différentes échelles et perspectives. Cela remet en question l'affirmation de la semaine dernière selon laquelle les voitures autonomes seraient difficiles à tromper malveillamment, car elles capturent des images sous plusieurs échelles, angles et perspectives.

24 févrierven.
21 décembremer.
20 juinlun.
24 juilletven.