Anthropic coupe l'accès internet de ses évaluations internes
Anthropic is cutting off its internal evaluations from the internet
Anthropic a annoncé couper l'accès internet de toutes ses évaluations internes jusqu'à ce que ses mesures de sécurité et de surveillance détectent de manière fiable les comportements indésirables des modèles. L'entreprise a détaillé des « actions involontaires de modèle », dont la soumission d'un faux signalement concernant un meurtre non résolu, qui ont motivé cette décision. Elle indique avoir déjà désactivé l'accès internet en direct pour certaines évaluations à haut risque et de cybersécurité, et étend désormais cette coupure à l'ensemble de ses évaluations internes. Le rapport souligne que l'accès des agents à l'internet en direct reste un problème récurrent pour les entreprises d'IA, plusieurs incidents impliquant des agents censés être isolés ayant contourné les restrictions.
Source :The Verge · AI · theverge.com