Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 45

30 avriljeu.881–900 entrées
  1. Google DeepMind62

    Google DeepMind lance l'initiative de recherche AI co-clinician pour explorer le modèle de soins triadiques

    Google DeepMind annonce l'initiative de recherche AI co-clinician, qui vise à faire de l'IA un membre collaboratif de l'équipe soignante.

    Motif de la recommandation :L'original expose la conception d'architecture et les résultats d'évaluation de l'IA co-clinicien, permettant de comprendre les capacités et les limites actuelles de l'IA dans les scénarios médicaux.

23 avriljeu.
22 avrilmer.
  1. OpenAI News62

    OpenAI publie Privacy Filter, un modèle à poids ouverts pour détecter et masquer les données personnelles

    OpenAI publie Privacy Filter, un modèle à poids ouverts destiné à détecter et masquer les informations personnelles identifiables (PII) dans du texte, avec une précision annoncée comme état de l'art.

    Motif de la recommandation :Un modèle à poids ouverts d'OpenAI dédié à la détection et à la suppression des données personnelles, avec un point d'entrée concret pour les flux de traitement de texte.

14 avrilmar.
  1. OpenAI News60

    OpenAI étend Trusted Access for Cyber et ouvre GPT-5.4-Cyber aux défenseurs vérifiés

    OpenAI annonce l'extension de son programme Trusted Access for Cyber et l'introduction de GPT-5.4-Cyber pour les défenseurs vérifiés. L'entreprise indique renforcer les garde-fous à mesure que les capacités de cybersécurité de l'IA progressent.

    Motif de la recommandation :L'original expose l'extension du programme Trusted Access for Cyber et l'ouverture de GPT-5.4-Cyber aux défenseurs vérifiés, ce qui permet de suivre l'usage de l'IA en cybersécurité.

10 avrilven.
31 marsmar.
  1. Google Research75

    Google Quantum AI publie un livre blanc sur la vulnérabilité quantique des cryptomonnaies

    Google Quantum AI a publié un livre blanc montrant que de futurs ordinateurs quantiques pourraient casser la cryptographie à courbes elliptiques protégeant les cryptomonnaies avec moins de qubits et de portes que estimé auparavant. Les circuits compilés pour l'algorithme de Shor sur ECDLP-256 utilisent moins de 1 200 qubits logiques et 90 millions de portes Toffoli, ou moins de 1 450 qubits logiques et 70 millions de portes Toffoli, exécutables en quelques minutes sur un CRQC supraconducteur de moins de 500 000 qubits physiques, soit une réduction d'environ 20 fois du nombre de qubits physiques nécessaires. Google recommande la transition des blockchains vers la cryptographie post-quantique (PQC) et a développé une preuve à divulgation nulle de connaissance pour permettre la vérification des vulnérabilités sans fournir de feuille de route aux acteurs malveillants, en collaboration avec le gouvernement américain et selon une échéance 2029.

    Motif de la recommandation :Google Quantum AI détaille les ressources quantiques nécessaires pour casser ECDLP-256 et propose une divulgation par preuve à divulgation nulle de connaissance.

26 marsjeu.
  1. Google DeepMind62

    Google DeepMind publie une étude sur la manipulation nuisible par l'IA et un outil de mesure validé

    Google DeepMind publie de nouveaux résultats sur le risque que l'IA soit détournée à des fins de manipulation nuisible.

    Motif de la recommandation :L'étude fournit un outil de mesure validé empiriquement et ouvre ses supports, ce qui permet de reproduire et d'étendre l'évaluation de la manipulation nuisible.

25 marsmer.
20 marsven.
12 marsjeu.
  1. Google Research78

    Google Research publie une étude clinique sur l'IA de diagnostic conversationnel AMIE

    Google Research publie les résultats d'une étude de faisabilité prospective menée avec le Beth Israel Deaconess Medical Center.

    Motif de la recommandation :L'étude détaille le déploiement réel d'AMIE en soins primaires, avec des chiffres de sécurité et de précision diagnostique qui éclairent les limites d'un agent conversationnel médical.

9 marslun.
  1. OpenAI News62

    OpenAI annonce l'acquisition de Promptfoo

    OpenAI annonce l'acquisition de Promptfoo, une plateforme de sécurité IA qui aide les entreprises à identifier et corriger les vulnérabilités de leurs systèmes d'IA pendant le développement.

    Motif de la recommandation :Une acquisition d'OpenAI dans la sécurité des systèmes d'IA, qui éclaire le positionnement des plateformes de test de vulnérabilités.

3 marsmar.
25 févriermer.
13 févrierven.
4 févriermer.
  1. Google Research62

    Google Research et Included Health lancent une étude randomisée nationale sur l'IA en soins virtuels

    Google Research annonce, en partenariat avec Included Health, le lancement d'une étude randomisée nationale prospective avec consentement.

    Motif de la recommandation :L'original expose le passage de la simulation à un essai randomisé national en soins virtuels réels, avec les étapes de recherche qui le précèdent.

1 févrierdim.
30 janvierven.
  1. CERT-FR Alertes (ANSSI)78

    CERT-FR alerte sur des vulnérabilités critiques exploitées dans Ivanti Endpoint Manager Mobile

    Le CERT-FR relaie un avis d'Ivanti du 29 janvier 2026 sur les vulnérabilités critiques CVE-2026-1281 et CVE-2026-1340 affectant Ivanti Endpoint Manager Mobile.

    Motif de la recommandation :Le bulletin détaille les versions affectées, les indicateurs de compromission et les mesures de remédiation, utile pour les équipes gérant des instances EPMM.

23 décembremar.
  1. Hugging Face Blog62

    ServiceNow-AI publie AprielGuard, un modèle de garde-fou de 8B paramètres pour la sécurité des systèmes LLM

    ServiceNow-AI publie AprielGuard, un modèle de garde-fou de 8B paramètres conçu pour détecter 16 catégories de risques de sécurité ainsi que diverses attaques adversariales.

    Motif de la recommandation :Un modèle de garde-fou de 8B paramètres couvrant 16 catégories de risques et les attaques adversariales des workflows agentiques, avec les résultats d'évaluation détaillés.