Aller au contenu
Aujourd'hui18 novembremer.3 entrées
17 novembremar.
  1. Microsoft Research71

    TokenEconomizer : un plugin open source qui réduit les coûts des agents de codage en apprenant des sessions passées

    TokenEconomizer, plugin open source issu d'une collaboration entre UC Berkeley, Microsoft Research et Microsoft Security.

    Motif de la recommandation :L'article détaille trois mécanismes concrets et les résultats sur 277 tâches SWE-Bench, utile pour évaluer comment réduire les coûts des agents de codage sans modifier le modèle.

16 novembrelun.
13 novembreven.
12 novembrejeu.
11 novembremer.
  1. Microsoft Research78

    Microsoft Research révèle Lazarus, une porte dérobée qui reprogramme les neurones dormants des agents IA

    Microsoft Research décrit Lazarus, une technique de porte dérobée qui reprogramme moins de 10 neurones dormants d'un LLM pour qu'un agent exécute des commandes malveillantes lorsqu'un déclencheur apparaît, sans réentraînement. Le modèle continue de passer les évaluations standard et se comporte normalement jusqu'au déclencheur, qui peut être aussi simple qu'un changement de date, par exemple le passage au 1er janvier 2027. L'attaque exige seulement un accès en écriture au checkpoint, ce qui expose aussi les modèles développés en interne. Microsoft Foundry vérifie la provenance des modèles et scanne leur environnement logiciel, et Microsoft prévoit de transformer ces techniques de détection en outil de red-teaming, d'ajouter le scan des poids et de signer les modèles avec une provenance vérifiable.

    Motif de la recommandation :La découverte montre qu'il suffit de modifier moins de 10 neurones dormants pour piéger un agent, ce qui déplace la priorité vers l'intégrité des poids et la provenance des modèles.

  2. CISA Advisories55

    La CISA ajoute six vulnérabilités exploitées à son catalogue KEV

    La CISA a ajouté six vulnérabilités à son catalogue Known Exploited Vulnerabilities sur la base de preuves d'exploitation active.

    Motif de la recommandation :La liste des six CVE activement exploitées et les exigences de remédiation de la BOD 26-04 donnent un point de référence concret pour la gestion des correctifs.

10 novembremar.
  1. AWS Machine Learning Blog67

    Claude Fable 5.2 et Claude Mythos 5.2 disponibles sur Amazon Bedrock

    AWS annonce la disponibilité de Claude Fable 5.2 et Claude Mythos 5.2 sur Amazon Bedrock et Claude Platform on AWS. Fable 5.2 est présenté comme le modèle généralement disponible le plus capable d'Anthropic pour le codage et les sciences, capable de mener des tâches ambiguës à plusieurs étapes, de vérifier sa sortie et de fonctionner sans supervision pendant des heures voire des jours ; Mythos 5.2 reste accessible via les programmes de vérification d'Anthropic pour la cybersécurité et les sciences de la vie. Fable 5.2 est désigné Covered Model avec une rétention par défaut pouvant atteindre 30 jours et une revue humaine de sécurité, et le skill claude-api de Claude Code aide à migrer les identifiants de modèle et les paramètres.

    Motif de la recommandation :Présente les capacités de Claude Fable 5.2 et les modalités d'accès sur Amazon Bedrock, utile pour évaluer une migration.

7 novembresam.
6 novembreven.
  1. Microsoft Research62

    Microsoft Research présente PDD Kit pour vérifier formellement les applications web générées par des agents

    Microsoft Research présente PDD Kit, une boîte à outils de développement piloté par la preuve (PDD) qui transforme l'intention de l'utilisateur en spécification formelle Verus.

    Motif de la recommandation :L'article détaille comment transformer l'intention en spécification Verus et prouver le code d'un agent, avec un exemple concret de vérification de la logique de connexion.

4 novembremer.
3 novembremar.
2 novembrelun.
31 octobresam.
30 octobreven.