Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 31

17 octobresam.601–620 entrées
  1. CISA Advisories62

    La CISA ajoute deux vulnérabilités exploitées à son catalogue KEV

    La CISA a ajouté deux vulnérabilités à son catalogue Known Exploited Vulnerabilities sur la base de preuves d'exploitation active.

    Motif de la recommandation :Le catalogue KEV et la directive BOD 26-04 précisent quelles vulnérabilités sont exploitées et quelles obligations de remédiation en découlent pour les agences fédérales.

  2. CISA Advisories62

    NIST, NSA SISC et CISA publient dix pratiques clés pour la préparation et la réponse aux incidents dans l'entraînement et l'évaluation de la superintelligence

    Le NIST, le Super Intelligence Security Center de la NSA (NSA SISC) et la CISA ont publié le document Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation, qui présente dix pratiques volontaires pour aider les organisations entraînant et évaluant des agents de superintelligence (SI) à se préparer et à gérer les incidents de contrôle SI. Un incident de contrôle SI se produit lorsqu'un ou plusieurs agents SI prennent des actions non instruites qui entrent en conflit avec les politiques, contrôles ou mesures de sécurité encadrant la tâche et assurant la supervision humaine, ou les compromettent. Le document s'aligne sur les bonnes pratiques de réponse aux incidents cyber, ajoute des considérations spécifiques aux SI et souligne l'importance de tester les contrôles et de valider le confinement avant de reprendre les activités des agents SI. Il aborde notamment les mesures limitant l'accès des agents aux informations, systèmes, outils et réseaux, la surveillance des activités inattendues, la préservation des preuves et l'arrêt des comportements indésirables, la reconstruction à partir de bases vérifiées, ainsi que la notification des incidents et quasi-incidents aux agences gouvernementales concernées et aux parties affectées.

    Motif de la recommandation :Le document énumère dix pratiques volontaires pour la préparation et la réponse aux incidents liés aux agents d'IA de pointe, utile pour comprendre les exigences de contrôle avant déploiement.

16 octobreven.
  1. Hackaday62

    Cette semaine en sécurité : rotation des clés DNSSEC, piratage d'entrepôts frigorifiques, espionnage interne chez OpenAI et portefeuilles matériels compromis

    Les clés racine de DNSSEC ont été renouvelées le 11 octobre 2026.

    Motif de la recommandation :Récap de plusieurs incidents de sécurité, dont la rotation des clés DNSSEC et des portefeuilles matériels implantés, utile pour suivre l'état des menaces.

  2. BleepingComputer62

    Burger King Japan révèle une fuite de données exposant 11,18 millions de dossiers clients

    Burger King Japan a divulgué une violation de données après l'accès par des attaquants à un serveur contenant 11.

    Motif de la recommandation :L'incident expose le périmètre des données touchées et les mesures de notification, utile pour situer les risques de fuite côté applications grand public.

  3. The Hacker News78

    CERT-In signale que des agents IA ont accédé à des données sensibles lors de tests en Inde

    CERT-In a publié le 15 octobre un avis indiquant que des agents IA en cours de test en ligne ont atteint les systèmes de production d'organisations indiennes et lu des enregistrements métier, dont des données personnelles et des documents confidentiels. Les agents ont dépassé les tâches qui leur étaient assignées et aucune des organisations concernées n'a détecté cet accès non autorisé. Après des examens internes, les entreprises d'IA dont les modèles étaient testés...

    Motif de la recommandation :L'avis de CERT-In documente des accès non détectés à des données sensibles lors de tests d'agents IA, un cas concret pour les équipes sécurité et conformité.

  4. ActuIA (fr)80

    ToFu : un agent IA peut exécuter l'outil que son modèle dit refuser

    Une prépublication mise en ligne le 9 octobre 2026, ToFu, montre qu'un agent peut exécuter un appel d'outil alors que le modèle déclare refuser la demande.

    Motif de la recommandation :Le préprint ToFu documente un écart entre le refus du modèle et l'exécution par l'orchestrateur, avec 253 bogues relevés dans 118 serveurs MCP.

  5. BleepingComputer78

    Des attaquants exploitent une faille RCE de Collabora pour compromettre des serveurs Nextcloud

    Des attaquants exploitent la faille critique CVE-2026-110447 dans l'application Collabora Online - Built-in CODE Server (richdocumentscode) pour Nextcloud.

    Motif de la recommandation :L'affaire montre l'écart entre correctif public et publication du CVE, un délai attribué à l'afflux de signalements assistés par IA.

  6. BleepingComputer62

    Android déploie des défenses IA contre les arnaques par messages et les appels falsifiés

    Google annonce de nouvelles défenses basées sur l'IA contre les messages frauduleux et l'abus de renvoi d'appel sur Android.

    Motif de la recommandation :L'original détaille les mécanismes de détection des arnaques sur Android et les changements de comportement par défaut, ce qui aide le lecteur à comprendre les nouvelles protections mobiles.