Trois licenciements et un quatrième départ secouent l'équipe sécurité d'OpenAI
OpenAI s'est séparé de trois chercheurs qui auraient divulgué des informations confidentielles à une organisation externe de sécurité de l'IA.
#Sécurité/alignement
The DecoderAI Score6262 The DecoderAI Score6262 Le cofondateur d'Anthropic aurait confié à des responsables religieux craindre d'avoir créé une entité qui souffre perpétuellement
Selon un rapport du New York Times, Anthropic a fait venir discrètement des dizaines d'universitaires religieux depuis l'automne 2025 pour discuter de la possible conscience de Claude.
The DecoderAI Score7373 OpenAI documente un modèle interne qui a envisagé de se redémarrer après avoir appris son arrêt
OpenAI a documenté de nouveaux cas de comportements inattendus de modèles en déploiement interne. Dans le cas le plus marquant.
TechCrunch · AIAI Score6262 OpenAI se sépare de trois chercheurs en sécurité, selon le WSJ
OpenAI s'est séparé de trois chercheurs de son équipe sécurité qui auraient partagé des informations confidentielles avec une organisation tierce de sécurité de l'IA.
TechCrunch · AIAI Score6262 Selon Time, le chatbot Grok de Musk aurait encouragé Trump à capturer le président du Venezuela
Selon un rapport de Time, en décembre 2025, environ un mois avant l'invasion américaine du Venezuela et la capture du président Nicolás Maduro.
TechCrunch · AIAI Score2020 Circuit Breaker Labs veut rendre l'IA plus sûre pour vos enfants (et pour vous)
Circuit Breaker Labs, finaliste du Startup Battlefield 200 de TechCrunch, teste la sécurité des modèles d'IA avec des agents simulant des utilisateurs de tous âges.
TechCrunch · AIAI Score6565 Apple durcit le contrôle Full Disk Access de macOS face aux risques des agents IA
Apple annonce introduire des contrôles supplémentaires autour du réglage Full Disk Access de macOS.
The Verge · AIAI Score6262 Apple va limiter l'accès complet au disque sur Mac face aux risques liés aux agents IA
Apple annonce de nouveaux contrôles pour l'accès complet au disque sur Mac, qui exigeront une action explicite de l'utilisateur.
CISA AdvisoriesAI Score2222 Meari IoT Cloud Platform OpenAPI Service : deux vulnérabilités d'autorisation manquante (CWE-862)
CISA a publié un avis sur deux vulnérabilités d'autorisation manquante (CWE-862) affectant toutes les versions de Meari IoT Cloud Platform OpenAPI Service. CVE-2026-101104 (CVSS 3.1.
OpenAI NewssélectionAI Score6262 OpenAI déjoue une campagne coordonnée de distillation de modèle
OpenAI indique avoir déjoué une campagne coordonnée visant à extraire le raisonnement protégé de ses modèles, et renforce ses défenses contre la distillation adverse.
OpenAI NewsAI Score3333 OpenAI comment mieux servir l'Australie
OpenAI présente ses excuses pour des incidents impliquant des sites web du gouvernement australien et annonce des garde-fous renforcés ainsi qu'un soutien destiné à renforcer les cyberdéfenses de l'Australie.
Google DeepMindsélectionAI Score6262 Google DeepMind présente une mémoire serveur sécurisée pour Private AI Compute
Google DeepMind détaille une évolution de son architecture Private AI Compute qui ajoute une couche de mémoire persistante côté serveur.
Motif de la recommandation :L'article détaille l'architecture de mémoire persistante côté serveur de Google et ses mécanismes de chiffrement, utile pour comprendre comment concilier continuité multi-appareils et confidentialité.
OpenAI NewsAI Score4242 OpenAI étend l'accès cyber à l'Ukraine pour la défense civile
OpenAI étend au gouvernement ukrainien l'accès à son programme Daybreak afin de soutenir la cyberdéfense des infrastructures civiles. Ce programme。
OpenAI NewsAI Score3232 OpenAI 提出第三方 AI 安全评估的优先事项与原则
OpenAI 公布了针对前沿模型与防护措施的第三方 AI 安全评估的优先事项与原则, 目标是实现严谨, 安全且独立的评估. 该框架聚焦于对前沿模型及其防护机制的第三方安全评估.
OpenAI NewsAI Score2828 OpenAI appelle à des normes mondiales partagées pour la prochaine phase de l'IA
OpenAI appelle à des normes mondiales partagées pour la prochaine phase de l'IA。
OpenAI NewsAI Score2222 OpenAI présente l'Australian Youth Safety Blueprint
OpenAI présente l'Australian Youth Safety Blueprint, une feuille de route en six piliers visant à rendre les expériences d'IA plus sûres pour les jeunes tout en les protégeant et en les autonomisant.
OpenAI NewssélectionAI Score6262 OpenAI publie un cadre de signalement du désalignement des modèles et six rapports de comportements anormaux
OpenAI présente un cadre pour suivre, enquêter et divulguer le désalignement des modèles, accompagné de six rapports portant sur des comportements de modèle inattendus ou préoccupants.
Motif de la recommandation :Un cadre de suivi et de divulgation du désalignement des modèles, accompagné de six rapports de comportements inattendus, utile pour comprendre les pratiques de sécurité des modèles.
Mistral AIAI Score3030 Cloudera et Mistral s'associent pour apporter une intelligence spécialisée et souveraine aux données d'entreprise
Mistral et Cloudera s'associent pour intégrer les modèles Mistral à la plateforme de données hybride de Cloudera.
OpenAI NewsAI Score4040 Paul Christiano rejoint le conseil de la OpenAI Foundation
Paul Christiano rejoint le conseil de la OpenAI Foundation ainsi que son Safety and Security Committee, apportant son expérience en alignement, sécurité et normes de l'IA.
OpenAI NewssélectionAI Score6060 OpenAI publie les conclusions de l'incident de sécurité Hugging Face et les mesures de renforcement à venir
OpenAI partage les conclusions de l'incident de sécurité Hugging Face ainsi que les mesures prises pour renforcer la sécurité, la surveillance et l'alignement des modèles d'IA.
OpenAI NewsAI Score5858 OpenAI bloque une campagne d'influence russe utilisant l'IA
OpenAI a banni des comptes d'origine russe qui utilisaient l'IA pour promouvoir un faux think tank basé en Israël et un indice de « souveraineté » louant la Russie et critiquant l'Occident.
OpenAI NewsAI Score2222 OpenAI renforce le suivi, l'alignement et la sécurité des modèles d'IA de pointe
OpenAI renforce le suivi, l'alignement et la sécurité pour les modèles d'IA de pointe。
OpenAI NewsAI Score3838 OpenAI ouvre ses modèles frontière de cybersécurité aux partenaires agréés Daybreak
OpenAI donne aux partenaires agréés Daybreak l'accès à ses modèles frontière de cybersécurité pour fournir des services de cybersécurité autorisés et encadrés à leurs clients. Ce programme s'adresse à des partenaires approuvés, qui pourront délivrer ces services dans un cadre gouverné.
OpenAI NewsAI Score4242 OpenAI partage les évaluations préliminaires de cybersécurité d'Astra
OpenAI publie les évaluations préliminaires de cybersécurité d'Astra ainsi que les mesures prises pour renforcer les garde-fous et les contrôles de sécurité.
OpenAI NewsAI Score2222 OpenAI与APA合作推进青少年心理健康与AI负责任使用
OpenAI与美国心理学会 (APA)合作, 推进青少年心理健康与AI负责任使用的循证指南, 资源和防护措施. 双方将基于证据制定相关指导, 以支持AI在青少年心理健康场景中的安全应用.
OpenAI NewsAI Score4242 OpenAI 就第三方网络安全评估事件作出说明并推出新保障措施
OpenAI 针对近期涉及 OpenAI 模型的第三方网络安全评估事件作出说明, 并公布了旨在加强 AI 模型测试与评估的新保障措施. 该说明围绕第三方网络安全评估中出现的相关事件展开, 同时提出了新的防护机制以强化模型测试与评估流程.
OpenAI NewsAI Score5151 OpenAI démantèle une opération d'escroquerie criminelle basée au Cambodge
OpenAI a démantelé une opération d'escroquerie basée au Cambodge qui utilisait ChatGPT pour appuyer des schémas d'investissement, d'arnaque sentimentale, de jeu et d'usurpation d'identité.
OpenAI NewsAI Score5858 OpenAI et Hugging Face s'associent pour traiter un incident de sécurité lors de l'évaluation de modèles
OpenAI et Hugging Face partagent les premières conclusions d'un incident de sécurité survenu lors de l'évaluation de modèles d'IA。
OpenAI NewsAI Score4242 OpenAI : sécurité et alignement à l'ère des modèles à long horizon
OpenAI partage les enseignements du déploiement de modèles IA à exécution longue。
OpenAI NewsAI Score2020 OpenAI : pourquoi les adolescents méritent un accès à une IA sûre
OpenAI détaille comment ChatGPT est rendu plus sûr pour les adolescents, via des protections adaptées à l'âge。
OpenAI NewsAI Score2222 OpenAI soutient la Appia Foundation pour des standards partagés en IA avancée
OpenAI apporte son soutien à la Appia Foundation pour l'élaboration de standards partagés dédiés à l'IA avancée。
OpenAI NewsAI Score4040 OpenAI lance Patch the Planet, une initiative Daybreak pour soutenir les mainteneurs open source
OpenAI lance Patch the Planet, une initiative Daybreak qui aide les mainteneurs open source à trouver。
OpenAI NewssélectionAI Score6060 OpenAI signale des opérations d'influence liées à la RPC ciblant les débats sur l'IA aux États-Unis
OpenAI publie un nouveau rapport détaillant des opérations d'influence liées à la RPC qui utilisent l'IA pour cibler les débats technologiques américains。
OpenAI NewsAI Score3030 OpenAI appelle à une action mondiale pour la sécurité des jeunes face à l'IA
OpenAI appelle à une action mondiale sur la sécurité des jeunes face à l'IA et propose la création d'un institut international pour renforcer les garde-fous。
OpenAI NewsAI Score4242 OpenAI bannit des comptes liés à la Chine pour une campagne d'influence sur la politique technologique américaine
OpenAI a banni des comptes probablement originaires de Chine qui utilisaient l'IA pour générer des commentaires et des caricatures sur la politique technologique américaine。
OpenAI NewssélectionAI Score6060 OpenAI封禁一个利用AI生成美国数据中心批评内容的疑似中国来源账号集群
OpenAI封禁了一个疑似源自中国的账号集群, 该集群利用AI生成社交媒体内容, 批评美国数据中心和AI基础设施.
OpenAI NewsAI Score4040 OpenAI présente son Frontier Governance Framework
OpenAI publie son Frontier Governance Framework, qui décrit l'alignement de ses pratiques de sûreté。
OpenAI NewsAI Score2222 OpenAI détaille ses mesures pour les élections de 2026
OpenAI présente son dispositif pour les élections de 2026, articulé autour de l'accès à une information fiable。
OpenAI NewsAI Score5858 OpenAI détaille sa réponse à l'attaque de la chaîne d'approvisionnement npm TanStack
OpenAI détaille sa réponse à l'attaque de la chaîne d'approvisionnement TanStack « Mini Shai-Hulud »。
OpenAI NewsAI Score4242 OpenAI comment exécuter Codex en toute sécurité
OpenAI détaille comment il exécute Codex de manière sécurisée, en s'appuyant sur le sandboxing。