Anthropic propose un projet de loi sur la sécurité de l'IA qui ne s'active qu'en cas de 50 morts ou de 1 milliard de dollars de dommages

Anthropic fait discrètement pression pour un projet de loi sur la sécurité de l'IA qui n'autoriserait le gouvernement à bloquer la sortie d'un modèle que si celui-ci présente un risque de causer 1 milliard de dollars de dommages ou de tuer ou blesser plus de 50 personnes. Selon Politico, un tiers indépendant enregistré auprès du département du Commerce évaluerait périodiquement le laboratoire et ses modèles, et le laboratoire pourrait le rémunérer à condition que cela n'affecte pas son indépendance. Le risque devrait découler de la création ou de la diffusion potentielle d'une arme biologique, de cyberattaques assistées par IA ou d'une perte de contrôle d'un modèle ou d'agents ; l'évaluateur devrait signaler toute imminence au département sous 72 heures, qui porterait ensuite les preuves devant un juge fédéral du district de Columbia pour décider d'une suspension. Le texte précise qu'aucun autre ministère, agence ou responsable américain ne pourrait ordonner à un laboratoire d'arrêter la sortie de son modèle, hormis le département du Commerce.