Anthropic accorde à METR un accès interne pour auditer ses modèles et pratiques de sécurité
Anthropic gives METR inside access to audit its AI models and safety practices
Anthropic a accordé à une équipe de l'organisation à but non lucratif METR un accès interne pour examiner ses modèles d'IA et ses pratiques de sécurité. Six membres du personnel de METR ont reçu du matériel de l'entreprise, un espace de bureau et un accès à des outils internes, ce qui les place selon Anthropic à peu près au niveau de ses propres équipes de risque. Les données clients, les informations couvertes par le secret professionnel et les détails sur l'architecture des modèles restent inaccessibles. METR publiera ses conclusions de manière indépendante ; Anthropic indique pouvoir demander des caviardages dans certaines catégories prédéfinies, mais METR est libre de dire publiquement s'il estime ces caviardages justifiés. Cet accord va plus loin que ce qu'Anthropic a proposé à d'autres évaluateurs externes : SecureBio, Accenture et Faculty ont jusqu'ici reçu un accès moindre et des limites plus strictes sur ce qu'ils peuvent publier, et Anthropic a entamé des discussions préliminaires avec Hugging Face. Cette décision fait suite à la signature par Anthropic de l'accord de la Maison-Blanche sur la superintelligence, qui inclut un engagement à travailler avec des évaluateurs externes.
Source :The Decoder · the-decoder.com