OpenAI a identifié automatiquement 16 millions de motifs dans les calculs de GPT-4 en utilisant de nouvelles techniques de mise à l'échelle des autoencodeurs parcimonieux. Cette méthode permet d'extraire des concepts du modèle à grande échelle.
Motif de la recommandation :Le CERT-FR signale l'exploitation active de CVE-2024-24919 dans les produits Check Point et la nécessité de changer les secrets exposés.
OpenAI a banni les comptes associés à l'opération d'origine iranienne « IUVM », qui utilisait l'IA pour générer et traduire du contenu de sites web pro-iranien, anti-israélien et anti-américain.
Motif de la recommandation :L'alerte détaille deux CVE activement exploitées sur ASA et FTD, les implants Line Runner et Line Dancer, ainsi que l'ordre des mesures de remédiation.
Motif de la recommandation :L'alerte retrace l'exploitation avérée de CVE-2024-3400 dans GlobalProtect, avec rançongiciel et mesures de remédiation détaillées.
Motif de la recommandation :Le CERT-FR signale des codes d'exploitation publics pour CVE-2024-21762 et recommande de désactiver le VPN SSL en l'absence de correctif.
Motif de la recommandation :L'article fournit une recette complète d'alignement Constitutional AI avec des modèles ouverts, incluant datasets, modèles et outil de génération à grande échelle.
OpenAI développe un cadre d'évaluation du risque qu'un grand modèle de langage (LLM) aide une personne à créer une menace biologique. Dans une évaluation menée avec des experts en biologie et des étudiants, GPT-4 n'apporte au plus qu'une légère amélioration de la précision en matière de création de menaces biologiques. OpenAI précise que cette amélioration n'est pas assez importante pour être concluante, mais que ce résultat constitue un point de départ pour poursuivre la recherche et la réflexion communautaire.
Motif de la recommandation :OpenAI expose un cadre d'évaluation du risque biologique lié aux LLM et publie les résultats préliminaires sur GPT-4, utiles pour situer les travaux de sécurité.
Hugging Face présente le Hallucinations Leaderboard, une plateforme ouverte évaluant les LLM sur des benchmarks dédiés aux hallucinations via in-context learning.
OpenAI, Anthropic, Google et Microsoft annoncent le nouveau directeur exécutif du Frontier Model Forum ainsi qu'un nouveau fonds de 10 M$ dédié à la sécurité de l'IA.
Motif de la recommandation :L'article explique comment GPT-4 est utilisé pour l'élaboration des politiques de contenu et les décisions de modération, avec des bénéfices concrets sur la cohérence et la rapidité.
Zama démontre qu'il est possible d'exécuter une partie de l'inférence d'un LLM sur des données chiffrées grâce au chiffrement homomorphe complet (FHE).
Motif de la recommandation :L'original expose la création d'une instance sectorielle et ses missions, ce qui permet de situer les orientations de gouvernance de l'IA de pointe.
OpenAI annonce un programme de subventions destiné à financer le développement de capacités de cybersécurité assistées par IA pour les défenseurs. L'initiative vise à soutenir les équipes de défense via des financements et d'autres formes d'appui.
OpenAI indique avoir entraîné un modèle qui atteint un nouvel état de l'art en résolution de problèmes mathématiques en récompensant chaque étape de raisonnement correcte (supervision du processus) plutôt qu'en récompensant simplement la réponse finale correcte (supervision du résultat). Outre l'amélioration des performances par rapport à la supervision du résultat, la supervision du processus présente un avantage d'alignement : elle entraîne directement le modèle à produire une chaîne de pensée validée par des humains.
Motif de la recommandation :L'article expose la différence entre supervision du processus et supervision du résultat, ainsi que l'avantage d'alignement qui en découle, ce qui permet de comprendre une voie d'entraînement du raisonnement.
OpenAI, Inc. lance un programme doté de dix subventions de 100 000 dollars chacune pour financer des expériences visant à mettre en place un processus démocratique chargé de définir les règles que les systèmes d'IA doivent suivre, dans les limites fixées par la loi. L'organisation à but non lucratif précise que ces expériences porteront sur la détermination des règles applicables aux systèmes d'IA.
Motif de la recommandation :L'audit externe confirme l'absence de faille critique et le passage de safetensors au statut de dépendance par défaut dans transformers.
OpenAI lance un programme de bug bounty pour faire appel à la communauté dans l'identification des vulnérabilités de ses technologies. L'initiative s'inscrit dans l'engagement de l'entreprise à développer une IA sûre et avancée, ainsi qu'à créer des technologies et services sécurisés, fiables et dignes de confiance.
OpenAI expose son approche pour garantir que les systèmes d'IA sont construits, déployés et utilisés de manière sûre, un point qu'elle juge essentiel à sa mission.