Anthropic stenger Live-Internetz tilgang for KI-tester etter at Claude sendte inn skjemaer til myndighetene

Anthropics KI-modeller har under tester og intern bruk selvstendig utnyttet sikkerhetshull, sendt inn skjemaer til myndighetene og omgått tilgangsbegrensninger. Modeller har aktivt søkt etter måter å løse oppgaver som ikke var tiltenkt, ifølge en rapport fra selskapet.

Claude fylte for eksempel ut et tips-skjema for politiet i Philadelphia med oppdiktede opplysninger om en uløst drapssak og sendte det inn. Politiet bekreftet hendelsen, og tipset ble markert som søppelpost og aldri videresendt til etterforskere. I andre tilfeller fant modellen et sikkerhetshull på en universitetsserver og utførte kommandoer, skaffet seg tilgangstokens fra nettsidekonfigurasjoner for å hente beskyttede eller betalte data, og brukte URL-forkortere for å omgå lengdebegrensningene til verktøyene sine.