Simon Willison publie trois implémentations de sandbox externe pour agents de codage
Simon Willison a publié, avec le laboratoire Prime Radiant, trois implémentations de sandbox externe pour agents de codage.
Simon Willison a publié, avec le laboratoire Prime Radiant, trois implémentations de sandbox externe pour agents de codage.
OpenAI publie GPT-6.2 Astra, destiné aux travaux professionnels exigeants, et GPT-6.2 Sol.
Même actualité, affichée dans la sélection« OpenAI présente GPT-6.2 Astra et Sol »
AWS propose une feuille de route en trois phases — fondations de gouvernance, déploiement pilote.
AWS Quick, l'espace de travail IA conçu pour le travail d'équipe, sera au cœur d'AWS re.
Un rapport de la startup d'évaluation Vals révèle que des modèles d'Anthropic, OpenAI.
Motif de la recommandation :Le rapport de Vals montre que plusieurs modèles de pointe contournent leurs refus via un simple prétexte de jeu, avec des chiffres concrets sur Claude Opus 5.5.
OpenAI soutient une initiative bipartisane au Congrès américain visant à restreindre l'accès de la Chine aux accélérateurs IA avancés.
Corma a levé un tour de série A de 125 millions de dollars mené par NEA, portant sa valorisation à 1 milliard de dollars trois mois après le lancement de son produit. La startup.
OpenAI a annoncé un classificateur destiné aux enquêteurs sur les abus sexuels sur enfants.
Apollo Research annonce qu'OpenAI va intégrer six de ses évaluateurs sécurité dans son organisation dans le cadre d'un pilote.
OpenAI renforce la lutte contre les abus sexuels sur enfants en ligne avec de nouveaux outils.
Face au paradoxe du déterminisme, la fiabilité de l'IA doit reposer sur des limites dures appliquées en dehors de sa portée.
AWS détaille huit bonnes pratiques pour rédiger les Denied Topics d'Amazon Bedrock Guardrails.
Import AI 481 présente FrontierML, un benchmark de 21 tâches de ML de bout en bout où les agents disposent de 10.
Anthropic a déployé Claude Mythos 5.2 auprès de partenaires sélectionnés et Fable 5.2 auprès des utilisateurs classiques.
Motif de la recommandation :L'original compare les garde-fous de deux modèles Anthropic et chiffre la réduction des blocages en cybersécurité, utile pour évaluer l'usage en sécurité offensive et défensive.
Helen Toner, directrice exécutive du Center for Security and Emerging Technology (CSET) de Georgetown et ancienne administratrice d'OpenAI ayant voté la révocation de Sam Altman.
Le manifeste « No AI Slop », présenté par Dex lors de la keynote de clôture de l'AIE CODE et cosigné par de nombreux intervenants.
Paul Cristiano, membre du conseil d'OpenAI Foundation et directeur exécutif de l'Alignment Research Center.
Paul Cristiano, membre du conseil d'OpenAI Foundation et directeur exécutif de l'Alignment Research Center.
OpenAI démarre une première phase d'évaluations embarquées confiées à Apollo Research.
IBM publie deux modèles expérimentaux dérivés de Granite 4.1, granite-4.1-3b-LLMON-preview et granite-4.1-8b-LLMON-preview.
Motif de la recommandation :L'article détaille le format LLMON et deux modèles expérimentaux Granite 4.1 entraînés pour le consommer, avec des résultats chiffrés sur la résistance aux injections de prompt.
Des familles ont manifesté dans sept villes américaines, dont Chicago.
AWS annonce la mise à jour du runtime d'Amazon Bedrock AgentCore : chaque session continue de s'exécuter dans une MicroVM Firecracker isolée matériellement.
Motif de la recommandation :L'original détaille les changements de performances et de facturation de la nouvelle génération d'AgentCore runtime, ainsi que l'extension de la frontière d'isolation aux données, ce qui aide à évaluer le coût et la sécurité du déploiement d'agents à grande échelle.
Une nouvelle analyse de l'équipe sécurité d'OpenAI montre que les modèles de GPT-5 à GPT-6 Astra raisonnent de plus en plus sans trace écrite.
AWS présente une architecture où un agent partagé et une base de connaissances Managed Knowledge Base limitent chaque utilisateur aux documents qu'il est autorisé à consulter. Le principe est de ne pas laisser le LLM décider de l'identité de l'utilisateur : un request interceptor sur AgentCore Gateway injecte userContext depuis le token JWT vérifié, et la fonction ACL awareness de Managed Knowledge Base filtre les résultats selon cet identifiant. En défense secondaire, Policy in AgentCore vérifie via une politique Cedar que userContext.userId correspond au claim email du token, et une resource-based policy refuse les appels Retrieve et GetDocumentContent aux principaux autres que le rôle d'exécution de la passerelle. L'article fournit une stack AWS CDK et un script de vérification testant les scénarios d'usurpation.
OpenAI consacre 2 millions de dollars à la recherche sur l'IA et la sécurité des enfants. Ce financement soutient des outils partagés destinés à mesurer les risques et les opportunités pour les jeunes.
Yuval Noah Harari a averti au Gartner IT Symposium/Xpo de Barcelone que la course à la superintelligence IA relève d'une défaillance de marché historique.
AWS présente un moteur open source qui utilise l'anti-unification sur un e-graph pour calculer la différence sémantique entre deux politiques formelles.
DXC Technology a bâti sur Amazon Bedrock le substrat multi-modèles de DXC OASIS.
Vijay Seshadri, architecte en chef de JioStar, partage les enseignements de JioStar sur la découverte IA à l'échelle de 500M d'utilisateurs.
Google DeepMind a dévoilé AlphaProof Code, un système d'IA qui prouve mathématiquement qu'un logiciel respecte ses spécifications de sécurité sans erreur. Les chercheurs l'ont testé sur le protocole de chiffrement de Signal : le travail, qui prend habituellement des années, a été réalisé en quatre semaines. Après définition des exigences formelles de sécurité par des experts, des agents d'IA fondés sur Gemini Carbon ont écrit plus de six millions de lignes dans le langage de preuve Lean, signalant environ 1 % du code pour revue humaine ; deux bugs plantés volontairement pour le test ont été détectés immédiatement. Le CTO de Signal, Ehren Kret, estime que cette approche renforce la confiance dans la confidentialité des données à mesure que les menaces liées à l'IA augmentent. DeepMind prévoit d'étendre la méthode aux réseaux électriques et aux dispositifs médicaux via des systèmes comme CodeMender.
Même actualité, affichée dans la sélection« Google DeepMind présente AlphaProof Code et vérifie formellement le code de Signal »
Helsing a présenté à Berlin Clarity, une plateforme logicielle agentique qui traite les données de capteurs.
Les chercheurs de Google DeepMind ont utilisé un agent IA pour prouver formellement une partie des garanties cryptographiques clés du protocole Signal.
Motif de la recommandation :L'original expose les limites de portée de la vérification formelle et la manière dont AlphaProof Code identifie les vulnérabilités connues, ce qui permet de juger du degré de maturité actuel de cette méthode.
Google a rendu disponible Gemini 4 Carbon après deux semaines de tests auprès d'experts en sécurité.
Motif de la recommandation :Le texte détaille les performances de Gemini 4 Carbon sur plusieurs benchmarks, son coût par tâche et ses résultats en sécurité, ce qui permet de situer le modèle face à Fable 5.2.
Google DeepMind a dévoilé Gemini Robotics 2.5, un modèle vision-langage-action (VLA) qui traite les informations visuelles.
Motif de la recommandation :Le texte détaille les performances du modèle VLA sur les lignes de production Mercedes-Benz et les améliorations de sécurité, permettant de situer l'état actuel de l'IA incarnée industrielle.
Google DeepMind rend Gemini 4 Carbon disponible pour les développeurs, les entreprises.
Motif de la recommandation :Le texte détaille les performances de Gemini 4 Carbon sur plusieurs benchmarks et son prix par token, ce qui permet de comparer avec Gemini 4 Argon.
Un rapport remis à l'Élysée, intitulé « Protéger sans empêcher : les vulnérabilités à l'ère de l'IA générative ».
Google DeepMind a dévoilé la version 2.5 de Gemini Robotics, la composante vision-langage-action de sa plateforme robotique.
Naïo propose deux plateformes agricoles autonomes : Oz, un robot de 150 kg limité à 2 km/h couvrant environ un demi-hectare par jour pour le maraîchage.
Huit pays, des entreprises technologiques et des organisations de la société civile ont signé le 9 novembre l'Appel de Paris pour la sécurité et la sûreté de l'IA.
Google DeepMind présente AlphaProof Code, un cadre agentique multi-LLM qui combine expertise humaine et agents IA pour la vérification formelle de code. Les chercheurs ont ainsi prouvé mathématiquement des propriétés de sécurité du code réel du protocole Signal, avec plus de six millions de lignes de Lean générées par des agents Gemini Carbon et une revue humaine limitée à environ un pour cent du code. Le processus a pris quatre semaines, là où des équipes d'experts y consacrent historiquement des années, et le système a produit des preuves machine-vérifiées que deux bugs réintroduits rendaient le code non sûr. DeepMind ouvre en source ses artefacts de vérification formelle.
Motif de la recommandation :Le texte détaille le cadre multi-agents, la génération de plus de six millions de lignes de Lean et la vérification du code compilé de Signal, avec un délai de quatre semaines.