Le Frontier Model Forum propose un cadre de notation des jailbreaks de type CVSS
New framework grades AI jailbreaks across capability gains, scope, and how easy they are to deploy
Le Frontier Model Forum (FMF) a publié un cadre de notation des jailbreaks (Jailbreak Rating Framework) destiné à évaluer la difficulté à contourner les garde-fous d'un modèle d'IA ainsi que l'ampleur des dégâts potentiels. Le projet, lancé en 2023 avec le soutien d'Anthropic, Google, Microsoft et OpenAI, se veut un équivalent du système CVSS de notation des vulnérabilités, mais ciblé sur les jailbreaks de LLM. La version 1.0 est encore en cours d'élaboration et accepte les commentaires jusqu'au 21 décembre ; le FMF précise qu'il n'est pas recommandé de s'y fier entre-temps. Le cadre comporte quatre dimensions notées de zéro à trois : gain de capacité, portée de capacité, facilité de déploiement et facilité de découverte, réparties entre sévérité et probabilité, avec une note finale de faible à critique. Le gain de capacité est la dimension la plus importante et sert de plancher et de plafond aux autres scores ; une note de zéro ne signifie pas que le jailbreak est inoffensif, mais qu'il relève des pratiques de sécurité standard. La référence du FMF évolue avec les modèles, si bien qu'une note de zéro en 2026 n'aura probablement pas le même sens en 2028. Le texte note également la similitude avec les classificateurs de contournement de garde-fous proposés par Anthropic en juillet 2026, sans confirmation d'une participation d'Anthropic au nouveau standard.
Source :Tom's Hardware 3D · tomshardware.com