Anthropic foreslår amerikansk AI-politikk: et forbud ved risiko for 50 dødsfall

A silicon wafer with a grid of iridescent microchip dies under shallow focus — Laura Ockel / Unsplash

Det har den siste tiden blitt advart fra mange hold om de vidtrekkende konsekvensene som den raske utviklingen av kunstig intelligens kan medføre. Samtidig blir det hovedsakelig snakket om dette, uten at det er blitt iverksatt mye handling. Anthropic ønsker nå å bringe endring ved å presentere en sikkerhetspolitikk for beslutningstakere.

Det rapporteres at Anthropic har lagt frem politikk for den amerikanske regjeringen. Ideen er at myndighetene skal kunne stoppe bruken av en AI-modell når det er risiko for skade som overstiger 1 milliard dollar, eller hvor minst 50 mennesker dør eller blir skadet. Dette kan for eksempel være et scenario der kunstig intelligens utvikler et biologisk våpen eller opererer helt utenfor utviklernes kontroll. Cyberangrep inkluderes også.

Politikken er egentlig ikke helt ny: den finnes også i store trekk i det Advanced AI Framework som gjelder hos Anthropic selv. AI-selskapet innførte dette tidligere i år. Lovforslaget gir myndighetene mulighet til å "blokkerer eller stoppe farlig utrulling av de kraftigste modellene". I tillegg pålegger det utviklere å teste banebrytende modeller, frontier AI, og være svært transparente om resultatene fra disse testene.

Det må også opprettes uavhengige vurderere som er kjent hos Handelsdepartementet og som regelmessig evaluerer ulike AI-modeller. Hvis disse vurdererne merker at det er en direkte risiko, må de rapportere dette til Handelsdepartementet innen 72 timer. Departementet kan kun få en modell stanset gjennom retten; andre offentlige etater kan ikke gjøre dette.

Den amerikanske regjeringen har ennå ikke reagert.