OpenAI a banni des comptes probablement d'origine chinoise qui utilisaient l'IA pour rechercher des informations sur des personnes et des lieux aux États-Unis et pour élaborer des tactiques d'ingénierie sociale.
OpenAI a banni des comptes probablement originaires du Cambodge qui utilisaient l'IA pour des arnaques sentimentales ciblant des internautes indonésiens en quête d'amour.
Motif de la recommandation :L'original précise les maillons de la chaîne d'arnaque sentimentale assistée par IA et les mesures de bannissement d'OpenAI, ce qui aide le lecteur à comprendre les limites d'usage des modèles.
Le CERT-FR relaie un avis d'Ivanti du 29 janvier 2026 sur les vulnérabilités critiques CVE-2026-1281 et CVE-2026-1340 affectant Ivanti Endpoint Manager Mobile.
Motif de la recommandation :Le bulletin détaille les versions affectées, les indicateurs de compromission et les mesures de remédiation, utile pour les équipes gérant des instances EPMM.
OpenAI ouvre les candidatures pour l'EMEA Youth & Wellbeing Grant, un programme de 500 000 € destiné aux ONG et aux chercheurs qui œuvrent pour la sécurité et le bien-être des jeunes à l'ère de l'IA.
OpenAI détaille les protections intégrées qui empêchent l'exfiltration de données via URL et l'injection de prompt lorsqu'un agent IA ouvre un lien. Ces garde-fous sont présentés comme natifs, sans qu'aucun chiffre, version de modèle ou benchmark ne soit avancé.
ServiceNow-AI publie AprielGuard, un modèle de garde-fou de 8B paramètres conçu pour détecter 16 catégories de risques de sécurité ainsi que diverses attaques adversariales.
Motif de la recommandation :Un modèle de garde-fou de 8B paramètres couvrant 16 catégories de risques et les attaques adversariales des workflows agentiques, avec les résultats d'évaluation détaillés.
OpenAI renforce ChatGPT Atlas contre les attaques d'injection de prompt en s'appuyant sur un red teaming automatisé entraîné par apprentissage par renforcement. Cette boucle proactive de découverte et de correction vise à identifier en amont de nouveaux exploits et à durcir les défenses de l'agent navigateur à mesure que l'IA devient plus agentique.
Motif de la recommandation :L'original expose la boucle automatique de red teaming et de correction d'Atlas, ce qui permet de comprendre comment les défenses d'un agent navigateur sont renforcées.
Motif de la recommandation :L'original expose la couverture complète de Gemma Scope 2 sur la famille Gemma 3 et les techniques d'entraînement employées, ce qui permet de situer les outils d'interprétabilité disponibles pour l'audit des modèles.
OpenAI présente un cadre d'évaluation en conditions réelles pour mesurer comment l'IA peut accélérer la recherche biologique en laboratoire humide. GPT-5 a été utilisé pour optimiser un protocole de clonage moléculaire, explorant à la fois les promesses et les risques de l'expérimentation assistée par IA.
Google DeepMind élargit son partenariat avec l'UK AI Security Institute (AISI) via un nouveau Memorandum of Understanding portant sur la recherche fondamentale en sécurité et sûreté. Le partenariat, qui s'appuie sur une collaboration entamée depuis la création de l'AISI en novembre 2023, inclut le partage d'accès aux modèles propriétaires, des rapports conjoints et des recherches collaboratives. Les axes clés couvrent la surveillance des processus de raisonnement (chain-of-thought), l'étude des impacts sociaux et émotionnels du désalignement socioaffectif, et l'évaluation de l'impact économique de l'IA par simulation de tâches réelles.
Google Research présente Urania, un framework de confidentialité différentielle (DP) qui génère des insights sur les conversations avec les chatbots LLM avec des garanties mathématiques de bout en bout, présenté à COLM 2025. Le pipeline combine clustering DP, extraction de mots-clés par histogramme DP et summarization par LLM sur les seuls mots-clés anonymisés, sans jamais exposer les conversations originales. Face au baseline non privé Simple-CLIO, les résumés DP ont été préférés jusqu'à 70 % du temps par les évaluateurs LLM, malgré une couverture thématique réduite lorsque le budget de confidentialité ε diminue.
Motif de la recommandation :Le partenariat détaille des accès prioritaires à des modèles scientifiques et un laboratoire automatisé, ce qui éclaire la trajectoire de l'IA appliquée à la recherche publique.
OpenAI investit dans des protections et des capacités défensives renforcées à mesure que ses modèles gagnent en puissance en cybersécurité. L'entreprise détaille sa méthode d'évaluation des risques, les limites imposées aux usages abusifs et sa collaboration avec la communauté de la sécurité pour renforcer la cyber-résilience.
Motif de la recommandation :Le CERT-FR confirme des exploitations actives de CVE-2025-55182 et liste les versions Next.js et react-server-dom-* à corriger.
Les chercheurs d'OpenAI testent les « confessions », une méthode qui entraîne les modèles à admettre leurs erreurs ou comportements indésirables afin d'améliorer l'honnêteté.
OpenAI accorde jusqu'à 2 millions de dollars de subventions pour financer des recherches à l'intersection de l'IA et de la santé mentale. Le programme soutient des projets étudiant les risques, bénéfices et applications réels afin d'améliorer la sécurité et le bien-être.
Motif de la recommandation :L'original détaille le fonctionnement de la vérification SynthID dans Gemini et l'extension à venir aux formats vidéo et audio.
Motif de la recommandation :JAX-Privacy 1.0 expose les briques DP, la scalabilité et des exemples de fine-tuning Gemma, ce qui permet de juger de son intégration dans les pipelines existants.
Motif de la recommandation :L'addendum présente les métriques de sécurité mises à jour de GPT-5.1 Instant et Thinking, avec de nouvelles évaluations sur la santé mentale et la dépendance émotionnelle.
OpenAI publie le Teen Safety Blueprint, une feuille de route pour concevoir une IA protégeant et autonomisant les jeunes en ligne. Le document mise sur des garde-fous.
Motif de la recommandation :Présentation du positionnement et du mode d'accès d'un agent de sécurité, utile pour suivre l'évolution des capacités des agents dans le domaine de la sécurité.
Motif de la recommandation :Présente un système combinant LLM, confidentialité différentielle et TEE pour analyser l'usage des outils GenAI sans exposer les données individuelles, avec code open source.
Motif de la recommandation :Un modèle de raisonnement à poids ouverts dédié à la classification de sécurité, qui permet aux développeurs d'appliquer et d'itérer leurs propres politiques.
Motif de la recommandation :Deux modèles ouverts de raisonnement dédiés au marquage de contenu selon une politique fournie, avec évaluations de sécurité comparées aux gpt-oss de base.
Motif de la recommandation :L'original expose la collaboration avec plus de 170 experts en santé mentale et la baisse des réponses dangereuses, ce qui permet de juger de l'orientation de ChatGPT sur les sujets sensibles.
OpenAI a publié son rapport d'octobre 2025 sur la détection et la perturbation des usages malveillants de l'IA. Le document détaille comment l'entreprise contrecarre les détournements.
OpenAI a banni des comptes en langue coréenne qui utilisaient l'IA pour le développement de malwares, le débogage, le phishing et le vol d'identifiants.