Anthropic laat externe toezichthouders van METR intern modellen en beveiliging controleren

Het bedrijf Anthropic stelt een team van de non-profitorganisatie METR in staat om van binnen naar hun kunstmatige intelligentiemodellen en veiligheidspraktijken te kijken. Zes werknemers van METR hebben hiervoor toegang gekregen tot bedrijfsapparatuur, kantoorruimtes en interne hulpmiddelen, volgens Anthropic op een niveau vergelijkbaar met hun eigen risicoteams. Klantgegevens, juridisch beschermde informatie en details over de architectuur van de modellen blijven buiten deze toetsing.

METR zal de resultaten zelfstandig openbaar maken, maar Anthropic kan volgens eigen zeggen zwartmaken in vastgestelde categorieën eisen. Of deze beperkingen gerechtvaardigd waren, mag METR publiekelijk bespreken. Het bedrijf motiveert deze stap met de reden dat niet alle veiligheidsrelevante informatie openbaar gemaakt kan worden, bijvoorbeeld omdat het aanvallers zou helpen of commercieel gevoelig zou zijn.