OpenAI investit dans des protections et des capacités défensives renforcées à mesure que ses modèles gagnent en puissance en cybersécurité. L'entreprise détaille sa méthode d'évaluation des risques, les limites imposées aux usages abusifs et sa collaboration avec la communauté de la sécurité pour renforcer la cyber-résilience.
Des chercheurs d'OpenAI testent les « confessions »。
OpenAI accorde jusqu'à 2 millions de dollars de subventions pour la recherche à l'intersection de l'IA et de la santé mentale. Le programme soutient des projets étudiant les risques。
OpenAI a divulgué un incident de sécurité chez Mixpanel impliquant un volume limité de données d'analyse API。
Google DeepMind ajoute à l'application Gemini la possibilité de vérifier si une image a été générée ou modifiée par Google AI。
Motif de la recommandation :L'original détaille le fonctionnement de la vérification SynthID dans Gemini et l'extension à venir aux formats vidéo et audio.
OpenAI fait appel à des experts indépendants pour évaluer les systèmes d'IA de pointe。
OpenAI 发布 GPT-5.1-Codex-Max 系统卡, 说明该模型实施的安全措施. 系统卡涵盖模型层面的缓解手段, 包括针对有害任务和提示注入的专项安全训练, 以及产品层面的缓解手段, 如 agent 沙箱和可配置的网络访问.
Motif de la recommandation :公开 GPT-5.1-Codex-Max 的安全措施细节, 包括针对有害任务与提示注入的专项训练及沙箱, 网络访问配置等产品级缓解手段.
OpenAI正在探索机制可解释性, 以理解神经网络如何进行推理, 其新的稀疏模型方法有望让AI系统更加透明, 并支持更安全, 更可靠的行为.
Google Research annonce la sortie de JAX-Privacy 1.0。
Motif de la recommandation :JAX-Privacy 1.0 expose les briques DP, la scalabilité et des exemples de fine-tuning Gemma, ce qui permet de juger de son intégration dans les pipelines existants.
OpenAI publie un addendum à la fiche système de GPT-5。
Motif de la recommandation :L'addendum présente les métriques de sécurité mises à jour de GPT-5.1 Instant et Thinking, avec de nouvelles évaluations sur la santé mentale et la dépendance émotionnelle.
OpenAI décrit les injections de prompt comme un défi de sécurité de pointe pour les systèmes d'IA。
OpenAI présente le Teen Safety Blueprint, une feuille de route pour concevoir une IA protégeant et autonomisant les jeunes en ligne. Ce plan s'appuie sur des garde-fous。
OpenAI présente Aardvark, un chercheur en sécurité basé sur l'IA qui détecte。
Motif de la recommandation :Présentation du positionnement et du mode d'accès d'un agent de sécurité, utile pour suivre l'évolution des capacités des agents dans le domaine de la sécurité.
Google Research présente provably private insights (PPI), un système qui combine LLM。
Motif de la recommandation :Présente un système combinant LLM, confidentialité différentielle et TEE pour analyser l'usage des outils GenAI sans exposer les données individuelles, avec code open source.
OpenAI présente gpt-oss-safeguard, un modèle de raisonnement à poids ouverts destiné à la classification de sécurité。
Motif de la recommandation :Un modèle de raisonnement à poids ouverts dédié à la classification de sécurité, qui permet aux développeurs d'appliquer et d'itérer leurs propres politiques.
OpenAI publie gpt-oss-safeguard-120b et gpt-oss-safeguard-20b。
Motif de la recommandation :Deux modèles ouverts de raisonnement dédiés au marquage de contenu selon une politique fournie, avec évaluations de sécurité comparées aux gpt-oss de base.
Doppel s'appuie sur GPT-5 et le reinforcement fine-tuning pour stopper les attaques deepfake et d'usurpation avant qu'elles ne se propagent。
OpenAI 发布 GPT-5 系统卡附录, 说明 GPT-5 在处理敏感对话方面的改进, 并新增针对情感依赖, 心理健康和越狱抵抗的基准测试.
OpenAI a collaboré avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à reconnaître la détresse。
Motif de la recommandation :L'original expose la collaboration avec plus de 170 experts en santé mentale et la baisse des réponses dangereuses, ce qui permet de juger de l'orientation de ChatGPT sur les sujets sensibles.
OpenAI成立“福祉与AI专家委员会”, 汇集心理学家, 临床医生和研究人员, 为ChatGPT如何支持情感健康提供指导, 尤其针对青少年群体. 该委员会旨在将专业见解融入产品, 推动更安全, 更具关怀的AI体验.
OpenAI 发布了一套面向 ChatGPT 政治偏见评估的新方法, 采用更贴近真实世界的测试方式来提升客观性并减少偏见. 该方法针对 LLM 政治偏见的定义与评测环节, 强调在真实使用场景中检验模型表现. OpenAI 表示, 这一测试路径有助于降低评估过程中的主观偏差.
OpenAI a publié son rapport d'octobre 2025 sur la détection et la perturbation des usages malveillants de l'IA. Le document détaille comment l'entreprise contrecarre les détournements。
OpenAI a banni des comptes liés à des réseaux de fraude en ligne qui utilisaient l'IA pour rédiger des scripts d'arnaque, usurper des identités, traduire et interagir avec les victimes.
OpenAI a banni des comptes probablement liés à des groupes criminels russophones。
OpenAI a banni des comptes en langue coréenne qui utilisaient l'IA pour le développement de malwares, le débogage, le phishing et le vol d'identifiants.
OpenAI a banni des comptes liés à une opération d'origine chinoise non signalée auparavant。
OpenAI a banni des comptes liés à la Chine qui utilisaient l'IA pour soutenir des activités de planification de surveillance。
Motif de la recommandation :L'annonce précise le type de comptes bannis et les usages visés, ce qui éclaire les modalités de modération des usages abusifs.
OpenAI 封禁了一批账号, 这些账号的活动与公开报道的威胁组织存在重叠, 并显示出符合 PRC 情报需求的特征, 利用 AI 支持网络钓鱼和脚本工作流.
OpenAI封禁了与一个源自俄罗斯, 代号“Stop News”的行动相关的账号, 该行动利用AI生成针对非洲和英国的惯犯式影响力内容.
OpenAI annonce le lancement de Sora 2 et de l'application Sora。
Motif de la recommandation :L'article expose les mesures de sécurité de Sora 2 et de l'application Sora, permettant de comprendre comment OpenAI encadre un modèle vidéo et une plateforme sociale de création.
OpenAI combat l'exploitation et les abus sexuels sur enfants en ligne en s'appuyant sur des politiques d'usage strictes。
OpenAI et AARP s'associent pour aider les personnes âgées à rester en sécurité en ligne via de nouvelles formations à l'IA。
Apollo Research et OpenAI ont développé des évaluations pour la mauvaise alignement cachée。
Motif de la recommandation :OpenAI et Apollo Research présentent des évaluations du comportement de dissimulation et une méthode précoce pour le réduire, ce qui éclaire les risques d'alignement des modèles de pointe.
OpenAI 阐述了其在 AI 使用中平衡青少年安全, 自由与隐私的方法. 该内容围绕青少年使用 AI 时如何在安全防护, 使用自由与隐私保护之间取得平衡展开.
OpenAI développe la prédiction d'âge et des contrôles parentaux dans ChatGPT afin de créer des expériences plus sûres et adaptées à l'âge des adolescents. Ces nouveaux outils visent à accompagner les familles dans l'encadrement de l'usage de ChatGPT par les plus jeunes.
OpenAI与美国AI安全研究所 (CAISI)及英国AI安全研究所 (AISI)分享了合作进展, 旨在加强AI安全与安保. 该合作聚焦于构建更安全的AI系统, 但具体技术细节, 模型版本或评估指标未在文中披露.
OpenAI et Microsoft ont signé un nouveau protocole d'accord renforçant leur partenariat et leur engagement commun en faveur de la sécurité et de l'innovation en matière d'IA. Ce protocole d'accord (MOU) réaffirme la coopération entre les deux entreprises autour de ces deux axes.
OpenAI publie une nouvelle recherche expliquant pourquoi les modèles de langage hallucinent. Les résultats montrent que l'amélioration des évaluations peut renforcer la fiabilité。
Motif de la recommandation :L'article explique les causes des hallucinations des modèles de langage et propose des pistes d'évaluation pour améliorer la fiabilité et l'honnêteté.
OpenAI renforce les protections des adolescents dans ChatGPT avec des contrôles parentaux et oriente les conversations sensibles vers des modèles de raisonnement. L'entreprise s'appuie sur des partenariats avec des experts pour améliorer ces dispositifs.
OpenAI对全球1000多人进行了关于AI应如何行为的调查, 并将其观点与Model Spec进行了对比. 这项集体对齐工作旨在让AI默认行为更好地反映多元的人类价值观和视角.