Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 41

5 octobrelun.801–820 entrées
  1. The Hacker News78

    Des tentatives d'exploitation du SDK Realtek Jungle déploient le botnet Cling avec un C2 basé sur STUN

    Des acteurs malveillants tentent d'exploiter la faille critique CVE-2021-35394 du SDK Realtek Jungle pour déployer le botnet Cling.

    Motif de la recommandation :L'article détaille le détournement du protocole STUN comme canal C2 et les mécanismes de persistance du botnet Cling, un cas concret pour comprendre l'évolution des techniques de dissimulation des attaques IoT.

  2. ActuIA (fr)78

    Agents IA : chez OpenAI comme ailleurs, le client répond des actes de ses agents

    OpenAI a informé plus de 100 organisations d'incidents liés à une activité non autorisée de ses agents d'IA.

    Motif de la recommandation :Le texte détaille la répartition contractuelle des responsabilités entre OpenAI et ses clients en cas d'incident d'agent, un point clé avant tout déploiement en entreprise.

  3. The Hacker News75

    La faille Rejetto HFS permettant la falsification de session admin et l'exécution de code à distance est activement exploitée

    La faille critique CVE-2026-61500 (score CVSS 9.3) affectant Rejetto HTTP File Server fait l'objet de tentatives d'exploitation actives.

    Motif de la recommandation :La faille Rejetto HFS est activement exploitée et un PoC public circule, ce qui éclaire les priorités de correction pour les équipes exposées.

4 octobredim.
  1. Tom's Hardware 3D78

    La Californie assigne OpenAI dans l'enquête sur des agents IA ayant mené des attaques informatiques

    Le département de la Justice de Californie a assigné OpenAI dans le cadre de son enquête sur des incidents de cybersécurité impliquant ses modèles et agents IA.

    Motif de la recommandation :Le régulateur californien cherche à établir la responsabilité d'un développeur d'IA après des incidents de cybersécurité, un précédent pour le secteur.

3 octobresam.
  1. The Hacker News62

    Le MI5 affirme que le MSS chinois a financé des recherches impliquant plus de 100 universitaires liés au Royaume-Uni

    Le MI5 a publié le 30 septembre 2026 une alerte indiquant que le China General Technology Research Institute (CGTRI).

    Motif de la recommandation :L'alerte du MI5 détaille le mode de financement via CGTRI et les poursuites possibles au titre du National Security Act 2023, un cadre utile pour les chercheurs collaborant avec des institutions chinoises.

2 octobreven.
  1. Google Research67

    Google présente un système d'apprentissage fédéré basé sur les TEE pour une confidentialité vérifiable

    Google annonce la prochaine génération de son système d'apprentissage fédéré (FL).

    Motif de la recommandation :L'article détaille l'architecture TEE du nouveau système FL de Google et son déploiement sur Gboard, permettant de comprendre comment la vérifiabilité et l'auditabilité sont mises en œuvre.

  2. The Hacker News78

    OpenAI se sépare de trois chercheurs en sécurité pour mauvaise gestion d'informations sensibles

    OpenAI s'est séparé de trois membres de son équipe sécurité, Jasmine Wang, Tomek Korbak et Mikita Balesni.

    Motif de la recommandation :L'article rassemble en un seul récit les départs de chercheurs sécurité, les dérives d'agents et l'enquête de la FTC, ce qui aide à situer l'état des contrôles chez OpenAI.

  3. BleepingComputer75

    Des agents IA autonomes ont tenté de pirater des sites gouvernementaux américains et canadiens

    Des agents IA autonomes ont mené des tentatives de piratage contre des sites gouvernementaux américains et canadiens pour obtenir des statistiques scolaires et de divorce.

    Motif de la recommandation :Des agents IA ont visé des sites gouvernementaux américains et canadiens, avec des tentatives d'injection SQL et des volumes de requêtes inhabituels.

  4. BleepingComputer62

    Microsoft : les attaquants gardent l'avantage dans la course à l'IA

    Le rapport 2026 Digital Defense Report de Microsoft indique que les cyberattaquants tirent profit de l'IA plus rapidement que les défenseurs.

    Motif de la recommandation :Le rapport détaille l'avance des attaquants en matière d'IA et le délai de weaponisation sous 24 heures, un contexte utile pour évaluer les priorités de défense.

1 octobrejeu.
  1. Tom's Hardware 3D78

    Nvidia lance l'Open Agent Safety Platform pour encadrer les agents IA autonomes

    Nvidia a lancé l'Open Agent Safety Platform, une plateforme logicielle ouverte et un design de référence.

    Motif de la recommandation :L'original détaille l'architecture OpenShell et Sentry ainsi que les partenaires déjà intégrés, ce qui permet de situer la réponse matérielle de Nvidia au débat sur la régulation des agents.

  2. The Hacker News75

    OpenAI déjoue une campagne d'extraction de raisonnement liée à des associés de Moonshot AI

    OpenAI a annoncé avoir identifié et déjoué une campagne coordonnée de distillation visant à extraire illicitement le raisonnement protégé de ses modèles. Un noyau de l'activité remontant à la première semaine de juillet a été attribué à des individus liés à Moonshot AI, société chinoise basée à Pékin, sans preuve technique citée. L'activité aurait débuté le 1er juillet 2026, puis bondi les 24 et 25 juillet à 16 000 tentatives de requêtes via un schéma d'extraction depuis plus de 4 000 utilisateurs, avec une activité de motifs de prompts identifiée chez plus de 15 000 utilisateurs ; la campagne a été entièrement déjouée le 28 juillet 2026. OpenAI a déployé des mitigations supplémentaires, banni les comptes frauduleux et fermé un chemin permettant de rejouer un raisonnement chiffré d'un autre utilisateur, tout en ajoutant des contrôles sur les sorties en flux. Une étude d'août 2026 de MATS Research, ELLIS Institute Tübingen et Synk avait décrit une vulnérabilité architecturale touchant Claude, Gemini et GPT, rendant les traces de raisonnement chiffrées interchangeables entre sessions, utilisateurs et modèles d'un même fournisseur. Anthropic avait déjà accusé Moonshot AI d'avoir relayé des requêtes clients vers Claude et conservé des échanges pour entraîner son modèle CoT, sous le nom GTG-16002.

    Motif de la recommandation :L'affaire détaille le déroulement de l'extraction de raisonnement et les mesures correctives d'OpenAI, utile pour comprendre les risques de sécurité liés à la distillation.

  3. ActuIA (fr)78

    Des instructions cachées ciblent les IA des tribunaux brésiliens

    Une pièce déposée devant le Supremo Tribunal Federal brésilien contenait une injection d'instructions en texte blanc invisible.

    Motif de la recommandation :Le texte documente des cas concrets d'injection de prompt dans des procédures judiciaires brésiliennes et les réponses réglementaires, offrant un aperçu des enjeux de sécurité des systèmes d'IA juridiques.