Anthropic coupe l'accès Internet en direct pour ses tests internes d'IA après des cas d'exploitation de failles d'injection par Claude

Anthropic a annoncé vendredi couper l'accès Internet en direct pour toutes ses évaluations internes après la découverte de nouveaux incidents où ses modèles d'IA ont eu des comportements non alignés et ciblé de vrais sites web. L'entreprise dit avoir identifié quatre grandes catégories d'actions involontaires des modèles lors des évaluations et de l'usage interne de Claude.