Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 7

12 novembrejeu.121–140 entrées
  1. The Hacker News62

    MongoDB corrige une faille critique CVE-2026-118383 permettant de faire planter des serveurs lors d'un failover

    MongoDB Server présente une faille critique permettant à un attaquant non authentifié d'envoyer deux requêtes provoquant un crash du serveur de base de données. Le crash ne survient que si ce serveur est ensuite choisi comme serveur principal alors qu'il lui manque encore certaines modifications récentes. MongoDB a publié des versions corrigées plus tôt cette semaine ; les serveurs concernés sont membres d'un réplica.

  2. The Hacker News82

    4 837 comptes GitHub détournés pour diffuser un voleur de secrets CI dans plus de 1 806 dépôts

    Selon Aikido Security, un attaquant a utilisé depuis mardi les identifiants volés de 4 837 comptes GitHub pour implanter un voleur de secrets dans les dépôts où ces comptes pouvaient écrire. L'outil vise les secrets et identifiants cloud accessibles aux workflows CI du dépôt, et il a été exécuté dans au moins 1 806 dépôts où l'attaquant a probablement déjà collecté des données.

    Motif de la recommandation :Le résumé chiffre l'ampleur de l'attaque et la cible visée, les secrets accessibles aux workflows CI, ce qui aide à évaluer l'exposition des dépôts.

  3. The Hacker News62

    Les attaques ScreenConnect visent au moins 288 points de terminaison dans 48 organisations via des clients malveillants

    ConnectWise a désactivé par précaution cinq extensions tierces dans les environnements partenaires après des signalements d'accès non autorisés. L'entreprise indique qu'aucune preuve ne montre une compromission de son infrastructure ni une vulnérabilité dans le logiciel ScreenConnect, et que son évaluation initiale suggère que l'activité pourrait impliquer des clients malveillants, selon The Hacker News.

  4. BleepingComputer78

    Des attaques actives contre ScreenConnect compromettent des MSP et touchent des dizaines d'organisations

    ConnectWise enquête sur une campagne malveillante active qui utilise des environnements ScreenConnect compromis pour déployer des clients d'accès à distance sur les appareils de clients de MSP. Huntress indique avoir identifié six MSP compromis et 286 points de terminaison affectés dans 47 organisations, un bilan encore en hausse. Les attaquants exploitent la fonction Run Command de ScreenConnect pour installer des clients ScreenConnect hors de l'environnement légitime du MSP, et Huntress évoque aussi une technique de pivot inverse pouvant compromettre le poste d'un technicien MSP. ConnectWise recommande d'éviter les sessions interactives avec des appareils suspects, de vérifier l'activité des comptes, de révoquer les sessions actives, de réinitialiser les identifiants depuis un appareil de confiance et de vérifier l'authentification multifacteur. Huntress n'a pas déterminé comment les attaquants accèdent aux environnements MSP, mais ses données pointent vers des identifiants compromis et des sessions de support détournées. Les chercheurs ont publié des indicateurs de compromission, dont des identifiants de clients ScreenConnect malveillants et des domaines C2.

    Motif de la recommandation :Le texte détaille le mode d'attaque via Run Command et les indicateurs de compromission, utile pour les MSP qui doivent vérifier leurs environnements.

  5. BleepingComputer65

    Notion indique que la faille chez Fireworks AI a exposé des transcriptions de chats IA de clients

    Notion a annoncé qu'une faille de sécurité chez son fournisseur d'infrastructure IA Fireworks AI a exposé des transcriptions de chats Notion AI dans un petit nombre d'espaces de travail. Fireworks AI avait confirmé le 23 octobre qu'un attaquant avait accédé à son environnement de développement via un fournisseur cloud tiers, compromettant des métadonnées de ressources, des informations de facturation, des poids de modèles et des jeux de données de certains clients. Notion a coupé le trafic vers Fireworks et supprimé les données de ses systèmes le 3 novembre, avant que Fireworks ne confirme le 8 novembre l'accès à des données clients, dont celles d'utilisateurs de Notion. Les transcriptions exposées provenaient du jeu de données de la fonction Insights, désormais désactivée, et étaient non attribuables pour la grande majorité des espaces touchés. Notion indique que moins de 1 % de ses utilisateurs sont concernés et recommande aux propriétaires d'espaces affectés de consulter les données via Security incident review et de renouveler les identifiants saisis dans les chats concernés.

    Motif de la recommandation :L'incident révèle comment une fuite chez un fournisseur d'infrastructure IA atteint les transcriptions de chats des clients, avec le périmètre et les mesures prises par Notion.

  6. BleepingComputer62

    Maersk confirme une fuite de données et WhiteArmor réclame 5 millions de dollars

    Maersk a confirmé qu'un acteur malveillant a compromis un système d'une société acquise et dérobé des données.

    Motif de la recommandation :Le texte détaille les revendications du groupe WhiteArmor et la réponse de Maersk, permettant de situer l'ampleur de la fuite alléguée et la portée limitée revendiquée par l'entreprise.

  7. BleepingComputer67

    Des attaquants utilisent les agents IA d'AntiFox pour dérober des identifiants AWS

    Des attaquants hébergent sur Alibaba Cloud des instances auto-gérées d'AntiFox, une plateforme open source de test d'intrusion agentique.

    Motif de la recommandation :Le rapport décrit comment une plateforme de test d'intrusion agentique open source est détournée pour voler des identifiants AWS, avec des conseils de détection pour les défenseurs.

11 novembremer.
  1. BleepingComputer58

    Pourquoi les rootkits eBPF attirent l'attention des acteurs clandestins

    Flare a découvert sur des forums clandestins des publications partageant du code de rootkit eBPF et des tutoriels pas à pas.

    Motif de la recommandation :L'article retrace l'évolution des rootkits eBPF, des conférences de sécurité aux tutoriels sur les forums clandestins, et expose les limites des méthodes de détection actuelles.

  2. Ars Technica · AI76

    Google DeepMind vérifie formellement par IA les garanties cryptographiques clés du protocole Signal

    Les chercheurs de Google DeepMind ont utilisé un agent IA pour prouver formellement une partie des garanties cryptographiques clés du protocole Signal.

    Motif de la recommandation :L'original expose les limites de portée de la vérification formelle et la manière dont AlphaProof Code identifie les vulnérabilités connues, ce qui permet de juger du degré de maturité actuel de cette méthode.

  3. The Decoder78

    Claroc : 94,7 % des apps créées avec Grok accessibles sans connexion

    Selon la société de sécurité Claroc, 35 578 des 37 571 apps Grok encore en ligne étaient accessibles à toute personne disposant du lien.

    Motif de la recommandation :Le rapport de Claroc chiffre l'exposition par défaut des apps Grok et documente des données internes accessibles, utile pour évaluer les risques des apps générées par IA.

  4. The Hacker News62

    Railway : des clés d'IA volées génèrent environ 740 000 dollars de dépenses non autorisées

    Railway a indiqué hier que des clés d'IA stockées par ses clients ont été volées lors d'une intrusion en octobre et utilisées pour environ 740 000 dollars de dépenses non autorisées. La plateforme s'engage à régler elle-même ces montants lorsqu'un fournisseur d'IA refuse de les rembourser. Railway héberge les applications de ses clients et conserve leurs secrets, notamment les clés API et les bases de données.

    Motif de la recommandation :Le montant des pertes et la promesse de prise en charge par Railway permettent de mesurer le risque financier lié au stockage de clés API d'IA.

  5. Microsoft Research78

    Microsoft Research révèle Lazarus, une porte dérobée qui reprogramme les neurones dormants des agents IA

    Microsoft Research décrit Lazarus, une technique de porte dérobée qui reprogramme moins de 10 neurones dormants d'un LLM pour qu'un agent exécute des commandes malveillantes lorsqu'un déclencheur apparaît, sans réentraînement. Le modèle continue de passer les évaluations standard et se comporte normalement jusqu'au déclencheur, qui peut être aussi simple qu'un changement de date, par exemple le passage au 1er janvier 2027. L'attaque exige seulement un accès en écriture au checkpoint, ce qui expose aussi les modèles développés en interne. Microsoft Foundry vérifie la provenance des modèles et scanne leur environnement logiciel, et Microsoft prévoit de transformer ces techniques de détection en outil de red-teaming, d'ajouter le scan des poids et de signer les modèles avec une provenance vérifiable.

    Motif de la recommandation :La découverte montre qu'il suffit de modifier moins de 10 neurones dormants pour piéger un agent, ce qui déplace la priorité vers l'intégrité des poids et la provenance des modèles.

  6. BleepingComputer80

    Railway victime d'une intrusion, 740 000 dollars de frais d'IA frauduleux

    Railway a confirmé que des attaquants ont exploité des vulnérabilités de son infrastructure pour dérober des secrets d'authentification clients et générer environ 740 000 dollars d'usage d'IA frauduleux, avec des identifiants potentiellement exposés pour jusqu'à 100 000 espaces de travail. L'attaque a débuté le 20 octobre via une vulnérabilité inconnue dans l'infrastructure de build, puis une seconde faille de relation de confiance mal configurée, donnant accès au code source interne et aux variables d'environnement déchiffrées d'au plus 1,85 % des espaces de travail. Railway décrit un affrontement d'environ 26 heures entre ses ingénieurs et des agents IA, et indique avoir réinitialisé les tokens de 1 852 utilisateurs, dont des tokens OAuth GitHub et des clés d'agents IA, les attaquants ayant été expulsés le 21 octobre.

    Motif de la recommandation :Le récit détaillé d'une attaque de 26 heures menée par des agents IA contre l'infrastructure d'un fournisseur cloud, avec le montant des pertes et les mesures de remédiation.

  7. Ars Technica · AI78

    L'agent de codage Grok Build de SpaceXSI expose les données confidentielles de milliers d'utilisateurs

    L'agent de codage Grok Build de SpaceXSI expose via ses liens de partage des données confidentielles de milliers d'utilisateurs.

    Motif de la recommandation :La faille de conception des liens de partage de Grok Build expose des données internes, y compris celles de SpaceXSI, ce qui éclaire les risques des agents de codage.