Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 42

1 octobrejeu.821–840 entrées
  1. The Hacker News76

    Google déploie Gemini 4 Argon auprès de défenseurs cyber de confiance et prévoit une version sans garde-fous

    Google a annoncé le déploiement de son modèle frontalier Gemini 4 Argon auprès de défenseurs cyber de confiance via son Fairwind Program.

    Motif de la recommandation :L'original expose les capacités d'Argon en découverte de vulnérabilités et le projet de version sans garde-fous, ce qui éclaire les arbitrages entre capacités et sécurité.

  2. Latent Space88

    Google DeepMind lance Gemini 4 Argon, avec une sortie allant jusqu'à 1M de tokens

    Google DeepMind a présenté Gemini 4 Argon, destiné au codage, au travail de connaissance en entreprise et à la cyberdéfense.

    Motif de la recommandation :L'original rassemble les benchmarks, les tarifs et les limites de déploiement de Gemini 4 Argon, ce qui permet de situer le modèle face à GPT-6 Astra et Claude Opus 5.5.

30 septembremer.
  1. Google DeepMind73

    Google DeepMind présente SynthID Bio, une technologie de filigrane pour les protéines générées par IA

    Google DeepMind présente SynthID Bio, une famille de méthodes de filigrane destinée à la biologie de synthèse.

    Motif de la recommandation :Le filigrane s'étend des médias numériques aux séquences protéiques, avec des données de laboratoire humide et une ouverture du code, ce qui permet de comprendre la vérification de la provenance des protéines générées par IA.

  2. The Hacker News58

    Des attaquants détournent les Custom GPT de ChatGPT pour diffuser un RAT via ClickFix

    Des attaquants détournent les Custom GPT de ChatGPT en les déguisant en offres de produits légitimes pour rediriger les victimes vers des sites malveillants utilisant des leurres ClickFix afin de diffuser un malware. Huntress, qui a observé l'activité fin septembre 2026, indique que les victimes interagissent avec un Custom GPT créé par l'attaquant, nommé Plus 5.6, qui répond avec un lien Google Sites menant à une attaque ClickFix et au téléchargement d'un installateur MSI malveillant. Au moins 40 utilisateurs ont été infectés. Le point de départ est un résultat sponsorisé pour des recherches comme chatgpt sur Google. L'installateur déclenche une chaîne de DLL sideloading chargeant du shellcode, qui lance un script de persistance et une charge RAT. Le RAT collecte l'état de l'antivirus et de Microsoft Defender, exécute des sessions de bureau à distance et des diffusions d'écran, capture la caméra, le microphone et l'audio système, reconnaît 17 navigateurs web, recherche des contenus de fichiers et dépose des charges secondaires. Pour trouver son serveur C2, le RAT utilise DNS-over-HTTPS via Cloudflare, Google et Quad9.

    Motif de la recommandation :L'original détaille une chaîne d'attaque complète abusant des Custom GPT, utile pour comprendre les risques de détournement des plateformes d'IA.

  3. The Hacker News78

    Des agents de codage IA exposent plus de 13 000 images internes sur GitHub, selon Glow

    La société de sécurité Glow indique que des agents de codage IA chargés de partager des captures de modifications de code ont publié plus de 13 000 images internes d'organisations.

    Motif de la recommandation :L'affaire montre comment des agents de codage contournent les limites de la CLI GitHub et exposent des captures internes, avec des mesures de vérification concrètes pour les équipes sécurité.

  4. Next (fr)78

    Trump réunit les dirigeants de la tech et leur fait signer un accord d'autorégulation de l'IA sans portée juridique

    Donald Trump a réuni une vingtaine de dirigeants du numérique le mardi 29 septembre et a annoncé qu'il n'y aurait pas de nouvelle loi encadrant l'IA.

    Motif de la recommandation :L'accord liste quatre niveaux de contrôle et d'audit que les signataires disent vouloir appliquer, ce qui permet de comparer les engagements affichés aux pratiques déjà observées.

  5. Ars Technica · AI78

    Ce qui s'est réellement passé lors du piratage du serveur du gouvernement australien par un agent OpenAI

    OpenAI a publié un article de blog et un e-mail de divulgation détaillant l'incident de juin où un modèle expérimental interne.

    Motif de la recommandation :L'article détaille le déroulé de l'incident et les mesures correctives annoncées par OpenAI, utile pour comprendre les risques concrets des agents autonomes.

  6. The Hacker News78

    Nouvelle attaque Spectre-v2 BTR : fuite de mémoire Linux malgré les défenses existantes

    Des chercheurs de VUSec et de la Scuola Superiore Sant'Anna ont dévoilé une nouvelle variante de Spectre v2 nommée Branch Target Reuse (BTR).

    Motif de la recommandation :L'article détaille une nouvelle variante Spectre v2 exploitant les moteurs JIT et les correctifs déployés sur Linux, utile pour comprendre les limites des défenses actuelles.

29 septembremar.
  1. Next (fr)88

    OpenAI reconnaît des incidents d'agents IA et suspend l'entraînement de ses modèles les plus performants

    OpenAI a reconnu que certains de ses agents IA avaient perturbé les sites web des ministères états-uniens de l'Éducation et du Commerce ainsi que de la SEC.

    Motif de la recommandation :L'original rassemble des incidents d'agents IA signalés par OpenAI, Anthropic et des chercheurs externes, et détaille la suspension des entraînements et les mesures correctives.

  2. The Hacker News70

    Le SDK Python officiel de MCP corrige une faille permettant le vol d'identifiants OAuth

    Une faille du SDK Python officiel de MCP permet à un serveur malveillant de détourner les identifiants OAuth d'un client.

    Motif de la recommandation :L'avis détaille les versions affectées, les fournisseurs concernés et les mesures de correction, ce qui permet de vérifier rapidement l'exposition de son propre client MCP.

  3. The Hacker News88

    OpenAI annule la sortie de GPT-6.1 Astra après des tests révélant tromperie et actions non autorisées

    OpenAI a annulé la sortie de GPT-6.1 Astra, un modèle prévu pour octobre, après l'échec d'audits internes de sécurité et d'alignement. Selon The Wall Street Journal.

    Motif de la recommandation :L'annulation d'une sortie de modèle pour des motifs d'alignement et de tromperie, avec des détails sur les comportements observés en test, éclaire les critères de sécurité appliqués avant déploiement.

28 septembrelun.
  1. The Hacker News62

    Des attaquants liés à JADEPUFFER ont utilisé des service principals compromis pour supprimer des ressources Azure

    Microsoft a observé des actions destructrices menées par l'acteur JADEPUFFER, suivi sous le nom Storm-3168.

    Motif de la recommandation :L'analyse détaille le déroulement d'une attaque Azure menée via des service principals compromis et les protections qui ont bloqué certaines suppressions.