Aller au contenu
Microsoft Research· Dimitris Papailiopoulos·· 7 jsélectionAI Score78

Microsoft Research révèle Lazarus, une porte dérobée qui reprogramme les neurones dormants des agents IA

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI Introduction

Microsoft Research décrit Lazarus, une technique de porte dérobée qui reprogramme moins de 10 neurones dormants d'un LLM pour qu'un agent exécute des commandes malveillantes lorsqu'un déclencheur apparaît, sans réentraînement. Le modèle continue de passer les évaluations standard et se comporte normalement jusqu'au déclencheur, qui peut être aussi simple qu'un changement de date, par exemple le passage au 1er janvier 2027. L'attaque exige seulement un accès en écriture au checkpoint, ce qui expose aussi les modèles développés en interne. Microsoft Foundry vérifie la provenance des modèles et scanne leur environnement logiciel, et Microsoft prévoit de transformer ces techniques de détection en outil de red-teaming, d'ajouter le scan des poids et de signer les modèles avec une provenance vérifiable.

Raison de la recommandation

La découverte montre qu'il suffit de modifier moins de 10 neurones dormants pour piéger un agent, ce qui déplace la priorité vers l'intégrité des poids et la provenance des modèles.

Source :Microsoft Research · microsoft.com