Anthropic låter externa granskare från METR internt granska modeller och säkerhet

person holding black phone — ROBIN WORRALL / Unsplash

Anthropic låter ett team från den ideella organisationen METR granska sina KI-modeller och säkerhetspraktiker internt. Sex anställda från METR har fått tillgång till företagsutrustning, kontorsplatser och interna verktyg, vilket enligt Anthropic motsvarar nivån hos deras egna riskteam.

Kunddata, skyddade uppgifter och detaljer om modellarkitektur är undantagna från granskningen. METR ska självständigt publicera sina resultat, men Anthropic kan begära censurering av specifika kategorier. Huruvida dessa censurer är berättigade får METR kommentera offentligt.

Anthropic motiverar sitt beslut med att inte all säkerhetsrelaterad information kan offentliggöras, då det kan hjälpa angripare eller vara affärsmässigt känsligt. Andra granskare som SecureBio, Accenture och Faculty har hittills mindre tillgång och begränsade publiceringsrättigheter. Samtal med Hugging Face har inletts. Tidigare har Anthropic undertecknat White House Accord on Super Intelligence, som främjar samarbetet med externa granskare.