Anthropic varnar för AI-modellens säkerhetsrisker

Anthropic meddelade den 29 september att deras verifiering av Zhipu AIs AI-modell "GLM-5.3" visade att modellen kan bygga autonomt angreppskod. GLM-5.3 har offentligt tillgängliga viktparametrar, vilket innebär att alla kan ladda ner och använda den, något som Anthropics ledning ser som ett problem.

Under tester riktade mot en känd sårbarhet i V8-motorn som används av Google Chrome lyckades forskare i 50 av 410 försök att skapa en serie angreppskoder. Vidare upptäckte forskarna flera okända sårbarheter i webbläsaren och kombinerade dessa för att bygga angrepp som kunde läsa filer på en enhet.

Eftersom GLM-5.3 är ett öppet viktmodell kan användare själva ändra säkerhetsfunktioner. Enligt Anthropics rapport minskade avvisningsgraden för skadliga förfrågningar avsevärt när säkerhetsfunktionerna försvagades i GLM-5.3. Redan inom några dagar efter offentliggörandet hade en modifierad version av modellen lagts ut av tredje part.

Anthropic påpekar att tillgången till AI med avancerade cyberförmågor har nått en ny nivå. Samtidigt understryker de att samma kapabiliteter kan användas för att upptäcka och åtgärda sårbarheter, och de efterlyser stärkta säkerhetsåtgärder samt utvärderingar av tredje part.