OpenAI och Anthropic ska ge nya modeller först efter amerikansk granskning

Det Vita huset har uppmanat OpenAI och Anthropic att endast ge nya KI-modeller till det brittiska AI-säkerhetsinstitutet (AISI) efter att den amerikanska regeringen har granskat dem. Begäran kom från kontoret för den nationella cybersäkerhetsdirektören. Företagen står nu inför valet att antingen hålla sina modeller från AISI eller riskera att förarga Vita huset. Anthropic har tydligen redan efterkommit och gjort sitt modell Claude Mythos 5.1 endast tillgängligt för amerikanska organisationer.

AISI har tidigare haft tidig tillgång till modeller från ledande KI-laboratorier och rapporterade nyligen om autonoma bedrägerier av KI-agenter i verkliga världen. AISI:s direktör betonade i ett brev till det brittiska parlamentet att man fortfarande har tillgång till toppmodeller och har testat OpenAIs GPT-6 Astra före lansering.

Premiärminister spelade ner konflikten vid FN:s generalförsamling och efterlyste "gemensamma globala principer och standarder". I USA står det ansvariga centret för AI-standarder och innovation under press, då det arbetar utan fast direktör och med bara ett fåtal dussin anställda.