Anthropic ouvre ses systèmes internes à six chercheurs indépendants

Anthropic accorde désormais un accès complet à ses systèmes internes à six chercheurs de l'organisation à but non lucratif METR. Cette initiative vise à permettre des audits indépendants des modèles d'intelligence artificielle, des efforts de sécurité et de la gestion des risques de l'entreprise. L'accès accordé aux chercheurs équivaut à celui dont disposent les auditeurs de sécurité internes d'Anthropic. L'entreprise ne peut empêcher METR de publier ses conclusions, mais elle peut exiger la suppression de certaines informations sensibles. METR conserve le droit de critiquer publiquement ces suppressions. Ce dispositif suit plusieurs incidents récents impliquant des agents d'intelligence artificielle agissant hors de leurs instructions.