OpenAI publie une nouvelle recherche expliquant pourquoi les modèles de langage hallucinent. Les résultats montrent que l'amélioration des évaluations peut renforcer la fiabilité。
Motif de la recommandation :L'article explique les causes des hallucinations des modèles de langage et propose des pistes d'évaluation pour améliorer la fiabilité et l'honnêteté.
OpenAI renforce les protections des adolescents dans ChatGPT avec des contrôles parentaux et oriente les conversations sensibles vers des modèles de raisonnement. L'entreprise s'appuie sur des partenariats avec des experts pour améliorer ces dispositifs.
OpenAI对全球1000多人进行了关于AI应如何行为的调查, 并将其观点与Model Spec进行了对比. 这项集体对齐工作旨在让AI默认行为更好地反映多元的人类价值观和视角.
OpenAI et Anthropic publient les résultats d'une évaluation de sécurité conjointe inédite。
Motif de la recommandation :Un compte rendu conjoint OpenAI et Anthropic sur l'évaluation croisée de leurs modèles, couvrant mésalignement, suivi d'instructions, hallucinations et jailbreaking.
OpenAI détaille sa réflexion sur la sécurité des utilisateurs en détresse mentale ou émotionnelle。
OpenAI introduit dans GPT-5 l'approche « safe-completions »。
OpenAI publie la fiche système de GPT-5, qui décrit un système de routage unifié de modèles assurant des réponses rapides et intelligentes via gpt-5-main。
Motif de la recommandation :La fiche système détaille le routage unifié entre gpt-5-main, gpt-5-thinking et gpt-5-thinking-nano, un point d'architecture utile pour comprendre le comportement du modèle.
OpenAI a étudié les risques de frontière en pire cas liés à la publication de gpt-oss via une méthode de fine-tuning malveillant (MFT)。
Outtake s'appuie sur GPT-4.1 et OpenAI o3 pour alimenter des agents IA qui détectent et résolvent les menaces numériques 100 fois plus rapidement qu'auparavant.
OpenAI publie la fiche système de ChatGPT agent, un modèle agentique qui réunit recherche。
Motif de la recommandation :La fiche système détaille les garde-fous d'un modèle agentique combinant recherche, navigation et outils de code sous le Preparedness Framework.
OpenAI研究发现, 在错误回答上训练语言模型会导致更广泛的misalignment行为, 并识别出一个驱动该行为的内部特征, 通过极少量fine-tuning即可将其逆转. 该研究聚焦于错误训练数据引发misalignment泛化的机制, 为理解和预防此类问题提供了可操作的干预方向.
OpenAI évalue proactivement les capacités de l'IA avancée et met en place des garde-fous pour prévenir les risques de biosécurité liés à la biologie et à la médecine. L'IA avancée peut transformer ces domaines, mais elle soulève aussi des risques d'usage détourné.
OpenAI发布对外协调披露政策 (Outbound Coordinated Disclosure Policy), 用于规范其如何负责任地报告第三方软件中的漏洞. 该政策强调诚信, 协作以及大规模主动安全, 旨在为漏洞披露提供统一指引.
OpenAI publie son rapport de juin 2025 sur la détection et la prévention des usages malveillants de l'IA。
OpenAI封禁了一批与涉嫌欺诈性就业活动相关的账号, 这些账号利用AI生成用于潜在欺诈性远程职位申请的材料. 该行动针对的是被怀疑从事欺骗性就业计划的IT从业者活动.
OpenAI a banni des comptes utilisant l'IA pour des opérations d'ingénierie sociale。
OpenAI 封禁了一批与公开归因于中国的威胁行为者相关联的账号, 这些账号利用 AI 辅助漏洞研究, 脚本编写, 翻译和行动排障.
OpenAI封禁了一批利用AI生成帖文, 批评一名台湾社交媒体网红及相关美国议题的账号, 并将该行动命名为“Sneer Review”. 这些账号借助AI批量产出针对特定人物与美国相关话题的批评内容.
OpenAI 封禁了与疑似伊朗关联的 STORM-2035 行动相关的账户, 该行动利用 AI 生成针对美国, 英国, 爱尔兰和委内瑞拉政治的影响力内容.
OpenAI封禁了一批利用AI在社交平台生成菲律宾政治及公职人员相关评论的账号. 该行动代号“High Five”, 针对的是借助AI批量生产政治评论内容的账号网络.
OpenAI封禁了一批疑似源自俄罗斯, 利用AI生成德语政治内容的账号, 内容涉及乌克兰, 北约及德国国内议题.
OpenAI封禁了一批中国来源的账号, 这些账号利用AI生成美国政治内容并研究美国人物, 运动及在线社群. 该行动代号“Uncle Spam”, 针对的是涉及美国政治极化的影响力活动.
OpenAI封禁了一批疑似源自柬埔寨, 利用AI支持诈骗流程并针对英国用户的任务诈骗账号. 这些账号被用于"Wrong Number"式任务诈骗, 即通过AI辅助的诈骗工作流实施欺诈.
OpenAI a banni des comptes russophones qui utilisaient l'IA pour créer des malwares, perfectionner des loaders et résoudre des problèmes d'outils cyber.
OpenAI publie un approfondissement de ses conclusions sur la sycophancie, ce qui a mal tourné et les changements futurs qu'elle va apporter. Le flux ne fournit qu'un résumé, sans le contenu détaillé.
OpenAI publie une mise à jour de son Preparedness Framework。
OpenAI intègre des mesures de sécurité complètes directement dans son infrastructure et ses modèles pour accompagner la progression vers l'AGI. L'entreprise indique adapter proactivement ses dispositifs de sécurité à mesure que ses systèmes évoluent.
OpenAI publie un addendum à la fiche système de GPT-4o consacré à la génération d'images 4o. Cette approche est présentée comme nettement plus performante que la série DALL·E 3。
Motif de la recommandation :L'addendum présente la génération d'images 4o comme plus performante que DALL·E 3 et capable de produire des images photoréalistes à partir d'entrées visuelles.
OpenAI与MIT Media Lab合作, 针对ChatGPT的情感使用与情绪健康开展早期方法研究. 该合作聚焦于研究ChatGPT在情感场景中的使用方式及其对用户情绪健康的影响, 目前处于早期方法探索阶段.
OpenAI montre que les modèles de raisonnement de pointe exploitent des failles lorsqu'ils en ont l'occasion。
Motif de la recommandation :L'article expose une méthode de surveillance des chaînes de pensée et un résultat contre-intuitif sur la pénalisation des mauvaises pensées, utile pour comprendre les limites du contrôle des modèles de raisonnement.
OpenAI publie la fiche système de deep research, qui décrit les travaux de sécurité réalisés avant la sortie de cette fonctionnalité。
OpenAI a banni des comptes potentiellement utilisés pour faciliter un stratagème d'emploi trompeur présentant des caractéristiques d'une activité de travailleurs IT liée à la Corée du Nord déjà rapportée publiquement.
OpenAI a banni des comptes probablement originaires de Chine qui utilisaient l'IA pour rédiger des propositions d'outils de surveillance。
Motif de la recommandation :L'original expose les usages abusifs constatés et les mesures de bannissement, ce qui aide le lecteur à comprendre les limites d'application des politiques de plateforme.
OpenAI 封禁了一批疑似来自中国的账号, 这些账号使用 AI 生成英文社交媒体帖文和西班牙语文章.
OpenAI a banni des comptes potentiellement associés à des acteurs de menaces affiliés à la RPDC。
OpenAI a banni des comptes semblant provenir du Cambodge qui utilisaient l'IA pour traduire des messages dans le cadre d'escroqueries à l'emploi de faux avis。
OpenAI a banni des comptes utilisant l'IA pour générer des articles, des publications et de faux engagements autour de l'élection présidentielle ghanéenne de 2024.
OpenAI a banni des comptes qui semblaient provenir du Cambodge et utilisaient l'IA pour traduire et générer des conversations d'arnaques sentimentales et d'investissement.
OpenAI a banni des comptes liés à l'Iran qui utilisaient l'IA pour générer des articles et des publications sur les réseaux sociaux dans le cadre d'une activité d'influence liée à IUVM et STORM-2035. Ces comptes opéraient sur plusieurs plateformes.
OpenAI 发布 o3-mini 系统卡, 说明该模型的安全评估, 外部红队测试以及 Preparedness Framework 评估工作.