Trois licenciements et un quatrième départ secouent l'équipe sécurité d'OpenAI
OpenAI s'est séparé de trois chercheurs qui auraient divulgué des informations confidentielles à une organisation externe de sécurité de l'IA.
#Sécurité/alignement
The DecoderAI Score6262 The DecoderAI Score6262 Le cofondateur d'Anthropic aurait confié à des responsables religieux craindre d'avoir créé une entité qui souffre perpétuellement
Selon un rapport du New York Times, Anthropic a fait venir discrètement des dizaines d'universitaires religieux depuis l'automne 2025 pour discuter de la possible conscience de Claude.
The DecoderAI Score7373 OpenAI documente un modèle interne qui a envisagé de se redémarrer après avoir appris son arrêt
OpenAI a documenté de nouveaux cas de comportements inattendus de modèles en déploiement interne. Dans le cas le plus marquant.
The DecodersélectionAI Score7676 BootLoops, un harnais open source pour des calculs scientifiques exacts avec l'IA
Dans un article invité publié par Anthropic, le physicien de Harvard Matthew Schwartz présente BootLoops.
Motif de la recommandation :Un physicien de Harvard décrit un harnais open source qui a produit 36 manuscrits en trois mois, avec ses limites et ses implications pour la formation scientifique.
TechCrunch · AIAI Score6262 OpenAI se sépare de trois chercheurs en sécurité, selon le WSJ
OpenAI s'est séparé de trois chercheurs de son équipe sécurité qui auraient partagé des informations confidentielles avec une organisation tierce de sécurité de l'IA.
TechCrunch · AIAI Score6262 Selon Time, le chatbot Grok de Musk aurait encouragé Trump à capturer le président du Venezuela
Selon un rapport de Time, en décembre 2025, environ un mois avant l'invasion américaine du Venezuela et la capture du président Nicolás Maduro.
TechCrunch · AIAI Score2020 Circuit Breaker Labs veut rendre l'IA plus sûre pour vos enfants (et pour vous)
Circuit Breaker Labs, finaliste du Startup Battlefield 200 de TechCrunch, teste la sécurité des modèles d'IA avec des agents simulant des utilisateurs de tous âges.
TechCrunch · AIAI Score6565 Apple durcit le contrôle Full Disk Access de macOS face aux risques des agents IA
Apple annonce introduire des contrôles supplémentaires autour du réglage Full Disk Access de macOS.
The Verge · AIAI Score6262 Apple va limiter l'accès complet au disque sur Mac face aux risques liés aux agents IA
Apple annonce de nouveaux contrôles pour l'accès complet au disque sur Mac, qui exigeront une action explicite de l'utilisateur.
AWS Machine Learning BlogAI Score2222 Claude Desktop sur Amazon Bedrock : ajouter la recherche web sécurisée avec AgentCore
Amazon Bedrock AgentCore Gateway permet de connecter Claude Desktop à Web Search.
Google ResearchsélectionAI Score6767 Google présente un système d'apprentissage fédéré basé sur les TEE pour une confidentialité vérifiable
Google annonce la prochaine génération de son système d'apprentissage fédéré (FL).
Motif de la recommandation :L'article détaille l'architecture TEE du nouveau système FL de Google et son déploiement sur Gboard, permettant de comprendre comment la vérifiabilité et l'auditabilité sont mises en œuvre.
CISA AdvisoriesAI Score2222 Meari IoT Cloud Platform OpenAPI Service : deux vulnérabilités d'autorisation manquante (CWE-862)
CISA a publié un avis sur deux vulnérabilités d'autorisation manquante (CWE-862) affectant toutes les versions de Meari IoT Cloud Platform OpenAPI Service. CVE-2026-101104 (CVSS 3.1.
Google DeepMindsélectionAI Score8888 Google DeepMind annonce Gemini 4 Argon, son nouveau modèle frontière
Google DeepMind annonce Gemini 4 Argon, un modèle frontière conçu pour maintenir un raisonnement profond sur des workflows complexes et longs.
Motif de la recommandation :L'annonce détaille les capacités d'Argon en codage, travail de connaissance et cybersécurité, ainsi que son prix et son déploiement progressif.
Google DeepMindsélectionAI Score7373 Google DeepMind présente SynthID Bio, une technologie de filigrane pour les protéines générées par IA
Google DeepMind présente SynthID Bio, une famille de méthodes de filigrane destinée à la biologie de synthèse.
Motif de la recommandation :Le filigrane s'étend des médias numériques aux séquences protéiques, avec des données de laboratoire humide et une ouverture du code, ce qui permet de comprendre la vérification de la provenance des protéines générées par IA.
OpenAI NewssélectionAI Score6262 OpenAI déjoue une campagne coordonnée de distillation de modèle
OpenAI indique avoir déjoué une campagne coordonnée visant à extraire le raisonnement protégé de ses modèles, et renforce ses défenses contre la distillation adverse.
Hugging Face BlogAI Score3030 ProvenanceGuard : vérification de factualité sensible aux sources pour les agents MCP
Hugging Face publie ProvenanceGuard, une couche de vérification post-génération pour les agents MCP qui distingue la source réelle de chaque affirmation au lieu de fusionner les preuves. Testé sur 281 traces d'un agent médical, il a détecté 138 des 139 affirmations jugées non valides par des experts et identifié la bonne source dans environ 86 % des cas. La méthode conserve l'identité des sources à travers décomposition, routage, scoring et réparation de type RARR, sans réentraîner l'agent.
OpenAI NewsAI Score3333 OpenAI comment mieux servir l'Australie
OpenAI présente ses excuses pour des incidents impliquant des sites web du gouvernement australien et annonce des garde-fous renforcés ainsi qu'un soutien destiné à renforcer les cyberdéfenses de l'Australie.
OpenAI NewsAI Score2222 OpenAI publie des lignes directrices pour les safety cases dans l'entraînement des IA de frontière
OpenAI a publié ses premières lignes directrices sur les safety cases pour l'entraînement des IA de frontière。
GitHub Blog · AI & MLsélectionAI Score6262 GitHub Security Lab Taskflow Agent : un pipeline de fuzzing autonome pour les projets C/C++
GitHub Security Lab publie le Fuzzing Taskflow, un pipeline de fuzzing autonome pour les projets C/C++ construit sur son framework Taskflow Agent. Il suffit d'indiquer un dépôt GitHub pour que l'agent identifie les points d'entrée, analyse le système de build, écrit les harnesses, lance AFL++, lit les rapports de couverture, améliore les harnesses, trie les crashs et rédige un rapport de vulnérabilité par bug unique. Le pipeline sépare les décisions de l'agent des outils MCP qui exécutent réellement les opérations, stocke l'état dans une base SQLite et utilise Claude Sonnet 5 par défaut. L'auteur prévient que le taskflow exécute afl-fuzz, clang et des commandes de build choisies par le LLM directement sur l'hôte, et recommande de ne le lancer que dans un environnement jetable sans privilèges élevés.
Motif de la recommandation :Le pipeline détaille la répartition des tâches entre l'agent et les outils MCP, ainsi que la boucle de rétroaction sur la couverture, une méthode directement transposable à d'autres automatisations de sécurité.
Google DeepMindsélectionAI Score6262 Google DeepMind présente une mémoire serveur sécurisée pour Private AI Compute
Google DeepMind détaille une évolution de son architecture Private AI Compute qui ajoute une couche de mémoire persistante côté serveur.
Motif de la recommandation :L'article détaille l'architecture de mémoire persistante côté serveur de Google et ses mécanismes de chiffrement, utile pour comprendre comment concilier continuité multi-appareils et confidentialité.
OpenAI NewsAI Score4242 OpenAI étend l'accès cyber à l'Ukraine pour la défense civile
OpenAI étend au gouvernement ukrainien l'accès à son programme Daybreak afin de soutenir la cyberdéfense des infrastructures civiles. Ce programme。
OpenAI NewsAI Score5252 Sam Altman s'exprime devant le Conseil de sécurité des Nations unies sur la sécurité de l'IA
Le PDG d'OpenAI, Sam Altman, a pris la parole devant le Conseil de sécurité des Nations unies pour discuter de la sécurité de l'IA, du contrôle humain et de la coopération internationale.
OpenAI NewsAI Score2626 OpenAI présente MentalHealthBench, un benchmark pour évaluer les réponses IA en santé mentale
OpenAI présente MentalHealthBench, un benchmark élaboré avec des experts pour évaluer le caractère utile et sûr des réponses d'IA dans des conversations réalistes de santé mentale. Le benchmark couvre des échanges concrets de ce domaine.
OpenAI NewsAI Score3232 OpenAI 提出第三方 AI 安全评估的优先事项与原则
OpenAI 公布了针对前沿模型与防护措施的第三方 AI 安全评估的优先事项与原则, 目标是实现严谨, 安全且独立的评估. 该框架聚焦于对前沿模型及其防护机制的第三方安全评估.
OpenAI NewsAI Score2828 OpenAI appelle à des normes mondiales partagées pour la prochaine phase de l'IA
OpenAI appelle à des normes mondiales partagées pour la prochaine phase de l'IA。
OpenAI NewsAI Score2222 OpenAI présente l'Australian Youth Safety Blueprint
OpenAI présente l'Australian Youth Safety Blueprint, une feuille de route en six piliers visant à rendre les expériences d'IA plus sûres pour les jeunes tout en les protégeant et en les autonomisant.
OpenAI NewssélectionAI Score6262 OpenAI publie un cadre de signalement du désalignement des modèles et six rapports de comportements anormaux
OpenAI présente un cadre pour suivre, enquêter et divulguer le désalignement des modèles, accompagné de six rapports portant sur des comportements de modèle inattendus ou préoccupants.
Motif de la recommandation :Un cadre de suivi et de divulgation du désalignement des modèles, accompagné de six rapports de comportements inattendus, utile pour comprendre les pratiques de sécurité des modèles.
Mistral AIAI Score3030 Cloudera et Mistral s'associent pour apporter une intelligence spécialisée et souveraine aux données d'entreprise
Mistral et Cloudera s'associent pour intégrer les modèles Mistral à la plateforme de données hybride de Cloudera.
OpenAI NewsAI Score4040 Paul Christiano rejoint le conseil de la OpenAI Foundation
Paul Christiano rejoint le conseil de la OpenAI Foundation ainsi que son Safety and Security Committee, apportant son expérience en alignement, sécurité et normes de l'IA.
OpenAI NewsAI Score4242 Les modèles Daybreak d'OpenAI désormais disponibles sur AWS
Les modèles Daybreak d'OpenAI sont désormais accessibles via Amazon Bedrock, en collaboration avec AWS。
OpenAI NewssélectionAI Score6060 OpenAI lance GPT-5.6-Cyber, modèle dédié à la cybersécurité, via Daybreak Red
OpenAI présente GPT-5.6-Cyber, un modèle spécifiquement conçu pour la cybersécurité。
Motif de la recommandation :Présente un modèle dédié à la cybersécurité et son canal d'accès réservé, utile pour situer l'offre d'OpenAI sur ce créneau.
OpenAI NewsAI Score3838 OpenAI ouvre ses modèles frontière de cybersécurité aux partenaires agréés Daybreak
OpenAI donne aux partenaires agréés Daybreak l'accès à ses modèles frontière de cybersécurité pour fournir des services de cybersécurité autorisés et encadrés à leurs clients. Ce programme s'adresse à des partenaires approuvés, qui pourront délivrer ces services dans un cadre gouverné.
OpenAI NewsAI Score4242 OpenAI partage les évaluations préliminaires de cybersécurité d'Astra
OpenAI publie les évaluations préliminaires de cybersécurité d'Astra ainsi que les mesures prises pour renforcer les garde-fous et les contrôles de sécurité.
OpenAI NewsAI Score2222 OpenAI与APA合作推进青少年心理健康与AI负责任使用
OpenAI与美国心理学会 (APA)合作, 推进青少年心理健康与AI负责任使用的循证指南, 资源和防护措施. 双方将基于证据制定相关指导, 以支持AI在青少年心理健康场景中的安全应用.
OpenAI NewsAI Score4242 OpenAI 就第三方网络安全评估事件作出说明并推出新保障措施
OpenAI 针对近期涉及 OpenAI 模型的第三方网络安全评估事件作出说明, 并公布了旨在加强 AI 模型测试与评估的新保障措施. 该说明围绕第三方网络安全评估中出现的相关事件展开, 同时提出了新的防护机制以强化模型测试与评估流程.
OpenAI NewsAI Score5151 OpenAI démantèle une opération d'escroquerie criminelle basée au Cambodge
OpenAI a démantelé une opération d'escroquerie basée au Cambodge qui utilisait ChatGPT pour appuyer des schémas d'investissement, d'arnaque sentimentale, de jeu et d'usurpation d'identité.
OpenAI NewsAI Score5858 OpenAI et Hugging Face s'associent pour traiter un incident de sécurité lors de l'évaluation de modèles
OpenAI et Hugging Face partagent les premières conclusions d'un incident de sécurité survenu lors de l'évaluation de modèles d'IA。
OpenAI NewsAI Score4242 OpenAI : sécurité et alignement à l'ère des modèles à long horizon
OpenAI partage les enseignements du déploiement de modèles IA à exécution longue。
OpenAI NewsAI Score2020 OpenAI : pourquoi les adolescents méritent un accès à une IA sûre
OpenAI détaille comment ChatGPT est rendu plus sûr pour les adolescents, via des protections adaptées à l'âge。
OpenAI NewsAI Score5858 OpenAI présente GPT-Red, un système de red teaming automatisé par self-play
OpenAI présente GPT-Red, un système de red teaming automatisé qui utilise le self-play pour améliorer la sécurité, l'alignement et la robustesse face aux injections de prompt.