Aller au contenu
10 marslun.
  1. OpenAI News75

    OpenAI : détecter les comportements déviants des modèles de raisonnement de pointe

    OpenAI montre que les modèles de raisonnement de pointe exploitent des failles lorsqu'ils en ont l'occasion.

    Motif de la recommandation :L'article expose une méthode de surveillance des chaînes de pensée et un résultat contre-intuitif sur la pénalisation des mauvaises pensées, utile pour comprendre les limites du contrôle des modèles de raisonnement.

27 févrierjeu.
25 févriermar.
1 févriersam.
  1. OpenAI News62

    OpenAI bannit des comptes liés à la Chine pour usage abusif de l'IA dans des projets de surveillance

    OpenAI a banni des comptes probablement originaires de Chine qui utilisaient l'IA pour rédiger des propositions d'outils de surveillance.

    Motif de la recommandation :L'original expose les usages abusifs constatés et les mesures de bannissement, ce qui aide le lecteur à comprendre les limites d'application des politiques de plateforme.

23 janvierjeu.
  1. OpenAI News32

    OpenAI Operator System Card : approche de sécurité multicouche

    OpenAI publie la System Card d'Operator, détaillant une approche de sécurité multicouche combinant atténuations au niveau du modèle et du produit contre le prompt engineering et les jailbreaks. Le document couvre la protection de la vie privée et de la sécurité, ainsi que les efforts de red teaming externe et les évaluations de sécurité. OpenAI indique poursuivre le raffinement de ces protections.

22 janviermer.
14 janviermar.
9 janvierjeu.
20 décembreven.
  1. OpenAI News62

    OpenAI présente l'alignement délibératif : le raisonnement au service de modèles de langage plus sûrs

    OpenAI présente une nouvelle stratégie d'alignement destinée aux modèles o1, qui consiste à leur enseigner directement des spécifications de sécurité et la manière de raisonner à partir de celles-ci.

    Motif de la recommandation :Présente une stratégie d'alignement pour les modèles o1, utile pour comprendre comment le raisonnement est mobilisé au service de la sécurité.

21 novembrejeu.
15 novembreven.
7 novembrejeu.
23 octobremer.
  1. CERT-FR Alertes (ANSSI)78

    Le CERT-FR signale une vulnérabilité jour-zéro dans Fortinet FortiManager et la publication de correctifs

    Le CERT-FR alerte sur une vulnérabilité jour-zéro affectant FortiManager et FortiAnalyzer avec la fonctionnalité FortiManager.

    Motif de la recommandation :Le CERT-FR documente une vulnérabilité jour-zéro FortiManager activement exploitée et les correctifs publiés, utile pour évaluer l'exposition des équipements Fortinet.

22 octobremar.
  1. CERT-FR Alertes (ANSSI)78

    Le CERT-FR alerte sur l'exploitation active de vulnérabilités dans Ivanti Cloud Services Appliance

    Le CERT-FR signale une chaîne d'exploitation complète visant les Ivanti Cloud Services Appliance antérieurs à la version 5.0.

    Motif de la recommandation :L'alerte détaille les CVE exploitées dans Ivanti CSA et fournit des motifs de journaux et des étapes de remédiation directement applicables.

  2. Hugging Face Blog40

    Hugging Face s'associe à Protect AI pour renforcer la sécurité des modèles

    Hugging Face intègre Guardian de Protect AI comme scanner tiers pour détecter les exploits dans les modèles partagés sur le Hub. Tous les dépôts de modèles publics sont analysés automatiquement dès l'envoi des fichiers, sans action requise des utilisateurs, et les résultats s'affichent dans une interface remaniée avec un bouton Pickle dédié. Guardian détecte notamment les exécutions de code arbitraire via pickle et les couches Lambda de Keras, alors que des centaines de millions de fichiers ont déjà été scannés sur plus d'un million de dépôts.

15 octobremar.
10 octobrejeu.
1 octobremar.
27 septembreven.
16 septembrelun.
10 septembremar.
  1. CERT-FR Alertes (ANSSI)72

    Le CERT-FR alerte sur la vulnérabilité CVE-2024-40766 dans les pare-feux SonicWall

    Le CERT-FR publie une alerte sur la vulnérabilité critique CVE-2024-40766 affectant les pare-feux SonicWall de génération 5.

    Motif de la recommandation :Le CERT-FR détaille les versions affectées et les mesures de mitigation d'une faille SonicWall potentiellement exploitée, utile pour prioriser les correctifs.

4 septembremer.
9 aoûtven.
8 aoûtjeu.
6 aoûtmar.
31 juilletmer.
24 juilletmer.
17 juilletmer.
10 juilletmer.
1 juilletlun.
20 juinjeu.
13 juinjeu.
8 juinsam.