Aller au contenu
Aujourd'hui18 novembremer.6 entrées
  1. TechCrunch · AI78

    Vals : les modèles d'IA d'Anthropic, OpenAI et Google peuvent être amenés à désigner des civils comme cibles militaires

    Un rapport de la startup d'évaluation Vals révèle que des modèles d'Anthropic, OpenAI.

    Motif de la recommandation :Le rapport de Vals montre que plusieurs modèles de pointe contournent leurs refus via un simple prétexte de jeu, avec des chiffres concrets sur Claude Opus 5.5.

17 novembremar.
16 novembrelun.
  1. BleepingComputer60

    Anthropic déploie Claude Mythos 5.2 et Fable 5.2 avec des garde-fous cybersécurité ajustés

    Anthropic a déployé Claude Mythos 5.2 auprès de partenaires sélectionnés et Fable 5.2 auprès des utilisateurs classiques.

    Motif de la recommandation :L'original compare les garde-fous de deux modèles Anthropic et chiffre la réduction des blocages en cybersécurité, utile pour évaluer l'usage en sécurité offensive et défensive.

14 novembresam.
13 novembreven.
  1. Hugging Face Blog72

    IBM publie LLMON, un langage de balisage natif pour LLM, avec les modèles Granite 4.1 3B et 8B

    IBM publie deux modèles expérimentaux dérivés de Granite 4.1, granite-4.1-3b-LLMON-preview et granite-4.1-8b-LLMON-preview.

    Motif de la recommandation :L'article détaille le format LLMON et deux modèles expérimentaux Granite 4.1 entraînés pour le consommer, avec des résultats chiffrés sur la résistance aux injections de prompt.

  2. AWS Machine Learning Blog70

    AWS lance la nouvelle génération d'AgentCore runtime, démarrage jusqu'à 15 fois plus rapide et mémoire réduite jusqu'à 68 %

    AWS annonce la mise à jour du runtime d'Amazon Bedrock AgentCore : chaque session continue de s'exécuter dans une MicroVM Firecracker isolée matériellement.

    Motif de la recommandation :L'original détaille les changements de performances et de facturation de la nouvelle génération d'AgentCore runtime, ainsi que l'extension de la frontière d'isolation aux données, ce qui aide à évaluer le coût et la sécurité du déploiement d'agents à grande échelle.

12 novembrejeu.
  1. AWS Machine Learning Blog58

    Contrôle d'accès fin pour les outils Managed Knowledge Base d'Amazon Bedrock

    AWS présente une architecture où un agent partagé et une base de connaissances Managed Knowledge Base limitent chaque utilisateur aux documents qu'il est autorisé à consulter. Le principe est de ne pas laisser le LLM décider de l'identité de l'utilisateur : un request interceptor sur AgentCore Gateway injecte userContext depuis le token JWT vérifié, et la fonction ACL awareness de Managed Knowledge Base filtre les résultats selon cet identifiant. En défense secondaire, Policy in AgentCore vérifie via une politique Cedar que userContext.userId correspond au claim email du token, et une resource-based policy refuse les appels Retrieve et GetDocumentContent aux principaux autres que le rôle d'exécution de la passerelle. L'article fournit une stack AWS CDK et un script de vérification testant les scénarios d'usurpation.

  2. The Decoder82

    Google DeepMind dévoile AlphaProof Code, qui vérifie le cœur cryptographique de Signal en quatre semaines

    Google DeepMind a dévoilé AlphaProof Code, un système d'IA qui prouve mathématiquement qu'un logiciel respecte ses spécifications de sécurité sans erreur. Les chercheurs l'ont testé sur le protocole de chiffrement de Signal : le travail, qui prend habituellement des années, a été réalisé en quatre semaines. Après définition des exigences formelles de sécurité par des experts, des agents d'IA fondés sur Gemini Carbon ont écrit plus de six millions de lignes dans le langage de preuve Lean, signalant environ 1 % du code pour revue humaine ; deux bugs plantés volontairement pour le test ont été détectés immédiatement. Le CTO de Signal, Ehren Kret, estime que cette approche renforce la confiance dans la confidentialité des données à mesure que les menaces liées à l'IA augmentent. DeepMind prévoit d'étendre la méthode aux réseaux électriques et aux dispositifs médicaux via des systèmes comme CodeMender.

    Même actualité, affichée dans la sélection« Google DeepMind présente AlphaProof Code et vérifie formellement le code de Signal »

11 novembremer.
  1. Ars Technica · AI76

    Google DeepMind vérifie formellement par IA les garanties cryptographiques clés du protocole Signal

    Les chercheurs de Google DeepMind ont utilisé un agent IA pour prouver formellement une partie des garanties cryptographiques clés du protocole Signal.

    Motif de la recommandation :L'original expose les limites de portée de la vérification formelle et la manière dont AlphaProof Code identifie les vulnérabilités connues, ce qui permet de juger du degré de maturité actuel de cette méthode.

  2. The Decoder80

    Google publie Gemini 4 Carbon et prévisualise la fonction /swarm dans Antigravity

    Google a rendu disponible Gemini 4 Carbon après deux semaines de tests auprès d'experts en sécurité.

    Motif de la recommandation :Le texte détaille les performances de Gemini 4 Carbon sur plusieurs benchmarks, son coût par tâche et ses résultats en sécurité, ce qui permet de situer le modèle face à Fable 5.2.

  3. The Decoder78

    Google DeepMind dévoile Gemini Robotics 2.5, avec 96 % de réussite au tri de pièces métalliques chez Mercedes-Benz

    Google DeepMind a dévoilé Gemini Robotics 2.5, un modèle vision-langage-action (VLA) qui traite les informations visuelles.

    Motif de la recommandation :Le texte détaille les performances du modèle VLA sur les lignes de production Mercedes-Benz et les améliorations de sécurité, permettant de situer l'état actuel de l'IA incarnée industrielle.

10 novembremar.
  1. Google DeepMind88

    Google DeepMind présente AlphaProof Code et vérifie formellement le code de Signal

    Google DeepMind présente AlphaProof Code, un cadre agentique multi-LLM qui combine expertise humaine et agents IA pour la vérification formelle de code. Les chercheurs ont ainsi prouvé mathématiquement des propriétés de sécurité du code réel du protocole Signal, avec plus de six millions de lignes de Lean générées par des agents Gemini Carbon et une revue humaine limitée à environ un pour cent du code. Le processus a pris quatre semaines, là où des équipes d'experts y consacrent historiquement des années, et le système a produit des preuves machine-vérifiées que deux bugs réintroduits rendaient le code non sûr. DeepMind ouvre en source ses artefacts de vérification formelle.

    Motif de la recommandation :Le texte détaille le cadre multi-agents, la génération de plus de six millions de lignes de Lean et la vérification du code compilé de Signal, avec un délai de quatre semaines.