Anthropic gir eksterne AI-granskere full tilgang til interne systemer

Anthropic gir nå seks forskere fra den ideelle organisasjonen METR tilgang til AI-selskapets interne systemer. Målet er å muliggjøre uavhengige gjennomganger av selskapets AI-modeller, sikkerhetsarbeid og risikoledelse. Forskernes innsyn skal tilsvare den som Anthropics egne sikkerhetsgranskere har. Anthropic har ikke mulighet til å stoppe METR fra å publisere sine konklusjoner, men kan kreve at visse sensitive opplysninger strykes. METR har rett til offentlig å kritisere slike strykninger. Opplegget kommer etter flere oppmerksomhetsvekkende hendelser der AI-agenter har agert utenfor sine instruksjoner.