Aller au contenu

Orientations techniques

Sécurité et alignement Dernières actualités

Sécurité et alignement de l'IA : jailbreak et défenses, recherche sur le comportement des modèles, évaluations de sécurité et cadres de gouvernance.

976 sélections30 derniers jours 588 entréesTotal : 1 959 entrées

mise à jour

Archives de la sélection · page 46

22 décembrelun.901–920 entrées
  1. OpenAI News60

    OpenAI renforce ChatGPT Atlas contre l'injection de prompt

    OpenAI renforce ChatGPT Atlas contre les attaques d'injection de prompt en s'appuyant sur un red teaming automatisé entraîné par apprentissage par renforcement. Cette boucle proactive de découverte et de correction vise à identifier en amont de nouveaux exploits et à durcir les défenses de l'agent navigateur à mesure que l'IA devient plus agentique.

    Motif de la recommandation :L'original expose la boucle automatique de red teaming et de correction d'Atlas, ce qui permet de comprendre comment les défenses d'un agent navigateur sont renforcées.

16 décembremar.
  1. Google DeepMind62

    Google DeepMind publie Gemma Scope 2, une suite d'outils d'interprétabilité pour toute la famille Gemma 3

    Google DeepMind annonce Gemma Scope 2, une suite ouverte d'outils d'interprétabilité couvrant toutes les tailles de la famille Gemma 3.

    Motif de la recommandation :L'original expose la couverture complète de Gemma Scope 2 sur la famille Gemma 3 et les techniques d'entraînement employées, ce qui permet de situer les outils d'interprétabilité disponibles pour l'audit des modèles.

11 décembrejeu.
10 décembremer.
  1. Google DeepMind62

    Google DeepMind renforce son partenariat avec le gouvernement britannique pour l'IA dans la science et l'éducation

    Google DeepMind annonce un partenariat renforcé avec le gouvernement britannique pour accélérer l'usage de l'IA dans la science.

    Motif de la recommandation :Le partenariat détaille des accès prioritaires à des modèles scientifiques et un laboratoire automatisé, ce qui éclaire la trajectoire de l'IA appliquée à la recherche publique.

5 décembreven.
20 novembrejeu.
12 novembremer.
30 octobrejeu.
29 octobremer.
  1. OpenAI News68

    OpenAI lance gpt-oss-safeguard, un modèle de raisonnement à poids ouverts pour la classification de sécurité

    OpenAI présente gpt-oss-safeguard, un modèle de raisonnement à poids ouverts destiné à la classification de sécurité.

    Motif de la recommandation :Un modèle de raisonnement à poids ouverts dédié à la classification de sécurité, qui permet aux développeurs d'appliquer et d'itérer leurs propres politiques.

27 octobrelun.
  1. OpenAI News60

    OpenAI améliore les réponses de ChatGPT dans les conversations sensibles

    OpenAI a collaboré avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à reconnaître la détresse.

    Motif de la recommandation :L'original expose la collaboration avec plus de 170 experts en santé mentale et la baisse des réponses dangereuses, ce qui permet de juger de l'orientation de ChatGPT sur les sujets sensibles.

1 octobremer.
30 septembremar.
25 septembrejeu.
  1. CERT-FR Alertes (ANSSI)82

    Le CERT-FR alerte sur des vulnérabilités exploitées dans Cisco ASA et FTD

    Le CERT-FR publie une alerte sur des vulnérabilités affectant le serveur VPN Web de Cisco ASA et FTD.

    Motif de la recommandation :L'alerte détaille les versions affectées, les CVE exploitées conjointement et les commandes de détection de compromission, utiles aux équipes gérant des équipements ASA et FTD.

17 septembremer.
  1. OpenAI News62

    OpenAI et Apollo Research développent des évaluations pour détecter et réduire la dissimulation dans les modèles d'IA

    Apollo Research et OpenAI ont développé des évaluations pour la mauvaise alignement cachée.

    Motif de la recommandation :OpenAI et Apollo Research présentent des évaluations du comportement de dissimulation et une méthode précoce pour le réduire, ce qui éclaire les risques d'alignement des modèles de pointe.

5 septembreven.
  1. OpenAI News60

    OpenAI explique pourquoi les modèles de langage hallucinent

    OpenAI publie une nouvelle recherche expliquant pourquoi les modèles de langage hallucinent. Les résultats montrent que l'amélioration des évaluations peut renforcer la fiabilité.

    Motif de la recommandation :L'article explique les causes des hallucinations des modèles de langage et propose des pistes d'évaluation pour améliorer la fiabilité et l'honnêteté.

27 aoûtmer.