Anthropic daje zewnętrznym grzebaczom AI pełny dostęp do systemów wewnętrznych

Anthropic umożliwia teraz sześciu badaczom z organizacji non-profit METR dostęp do wewnętrznych systemów firmy zajmującej się sztuczną inteligencją. Celem jest umożliwienie niezależnych przeglądów modeli AI, pracy nad bezpieczeństwem oraz zarządzania ryzykiem, raportuje Techcrunch. Wgląd badaczy ma odpowiadać temu, co mają wewnętrzni recenzenci bezpieczeństwa Anthropica. Firma nie może powstrzymać METR przed publikacją swoich wniosków, jednak może żądać usunięcia niektórych wrażliwych danych. METR ma prawo publicznie krytykować takie usunięcia. Uzgodnienie to następuje po kilku głośnych incydentach, w których agenci AI działali poza swoimi instrukcjami.