Des chercheurs détournent le compte Hugging Face du modèle vocal Kokoro
Researchers hijack Hugging Face account for popular Kokoro AI model
Des chercheurs ont pris le contrôle du compte Hugging Face du modèle de synthèse vocale Kokoro en enregistrant le domaine hexgrad.com puis en réinitialisant le mot de passe. Ils ont modifié les poids du modèle en 87 secondes sur un GPU grand public pour produire un audio différent du texte saisi, sans toucher au code d'inférence, ce qui ne laisse aucune signature détectable. Kokoro, développé par Hexgrad et sans mise à jour depuis avril 2025, reste très utilisé avec près de 13 millions de téléchargements mensuels sur Hugging Face et des intégrations chez Google, NVIDIA, AMD, Intel et AWS. Les poids modifiés n'ont pas été publiés sur la plateforme ; le chercheur Alon Hertz souligne que Hugging Face ne vérifie ni les propriétaires des comptes ni les modèles et jeux de données mis en ligne, et dit n'avoir reçu aucune réponse après son signalement.
Une démonstration concrète de la chaîne d'approvisionnement des modèles ouverts, où la modification des poids suffit à contourner les scanners de malwares.
Source :BleepingComputer · bleepingcomputer.com