Aller au contenu
14 févriermer.
9 févrierven.
1 févrierjeu.
31 janviermer.
  1. OpenAI News62

    OpenAI construit un système d'alerte précoce pour les menaces biologiques assistées par LLM

    OpenAI développe un cadre d'évaluation du risque qu'un grand modèle de langage (LLM) aide une personne à créer une menace biologique. Dans une évaluation menée avec des experts en biologie et des étudiants, GPT-4 n'apporte au plus qu'une légère amélioration de la précision en matière de création de menaces biologiques. OpenAI précise que cette amélioration n'est pas assez importante pour être concluante, mais que ce résultat constitue un point de départ pour poursuivre la recherche et la réflexion communautaire.

    Motif de la recommandation :OpenAI expose un cadre d'évaluation du risque biologique lié aux LLM et publie les résultats préliminaires sur GPT-4, utiles pour situer les travaux de sécurité.

29 janvierlun.
26 janvierven.
15 janvierlun.
14 décembrejeu.
26 octobrejeu.
25 octobremer.
3 octobremar.
29 septembreven.
19 septembremar.
15 aoûtmar.
2 aoûtmer.
26 juilletmer.
21 juilletven.
26 juinlun.
1 juinjeu.
31 maimer.
  1. OpenAI News78

    OpenAI améliore le raisonnement mathématique par la supervision du processus

    OpenAI indique avoir entraîné un modèle qui atteint un nouvel état de l'art en résolution de problèmes mathématiques en récompensant chaque étape de raisonnement correcte (supervision du processus) plutôt qu'en récompensant simplement la réponse finale correcte (supervision du résultat). Outre l'amélioration des performances par rapport à la supervision du résultat, la supervision du processus présente un avantage d'alignement : elle entraîne directement le modèle à produire une chaîne de pensée validée par des humains.

    Motif de la recommandation :L'article expose la différence entre supervision du processus et supervision du résultat, ainsi que l'avantage d'alignement qui en découle, ce qui permet de comprendre une voie d'entraînement du raisonnement.

25 maijeu.
  1. OpenAI News42

    OpenAI lance un programme de subventions de 100 000 dollars pour des expériences de gouvernance démocratique de l'IA

    OpenAI, Inc. lance un programme doté de dix subventions de 100 000 dollars chacune pour financer des expériences visant à mettre en place un processus démocratique chargé de définir les règles que les systèmes d'IA doivent suivre, dans les limites fixées par la loi. L'organisation à but non lucratif précise que ces expériences porteront sur la détermination des règles applicables aux systèmes d'IA.

23 maimar.
  1. Hugging Face Blog67

    Hugging Face, EleutherAI et Stability AI font de safetensors le format par défaut après un audit de sécurité externe

    Hugging Face, EleutherAI et Stability AI ont commandé un audit de sécurité externe de la bibliothèque safetensors.

    Motif de la recommandation :L'audit externe confirme l'absence de faille critique et le passage de safetensors au statut de dépendance par défaut dans transformers.

22 mailun.
11 avrilmar.
  1. OpenAI News42

    OpenAI annonce son programme de bug bounty

    OpenAI lance un programme de bug bounty pour faire appel à la communauté dans l'identification des vulnérabilités de ses technologies. L'initiative s'inscrit dans l'engagement de l'entreprise à développer une IA sûre et avancée, ainsi qu'à créer des technologies et services sécurisés, fiables et dignes de confiance.

5 avrilmer.
30 marsjeu.
2 marsjeu.
24 févrierven.
16 févrierjeu.
24 janviermar.
15 décembrejeu.
9 décembreven.
24 octobrelun.
22 septembrejeu.
31 aoûtmer.
24 aoûtmer.
10 aoûtmer.
18 juilletlun.
  1. OpenAI News52

    OpenAI déploie une nouvelle technique pour réduire les biais et améliorer la sécurité de DALL·E 2

    OpenAI annonce la mise en œuvre d'une nouvelle technique afin que DALL·E génère des images de personnes reflétant plus fidèlement la diversité de la population mondiale. Cette mise à jour s'inscrit dans les efforts de réduction des biais et d'amélioration de la sécurité du modèle.

28 juinmar.