De California wil een kill switch voor AI-modellen

De gouverneur van de California heeft aangekondigd een uitvoerend besluit te hebben ondertekend dat de implementatie van nieuwe vormen van toezicht door derden op de veiligheidsrisico's van AI-systemen versnelt. Dit is voorgesteld door verschillende experts in het veld. Daarnaast wordt de ontwikkeling van een kill switch voorgesteld, waarmee modellen kunnen worden uitgeschakeld in geval van gevaar.

De gouverneur heeft al een wet ondertekend die een kader vastlegt voor onafhankelijke organisaties die in staat zijn om AI-systemen te evalueren op veiligheid en risico. Er is ook een wet aangenomen die een staatsregister instelt voor AI-auditors, die de naleving van de AI-systemen aan de staatswetgeving beoordelen. Deze wetgeving definieert normen voor onafhankelijkheid, transparantie en integriteit.

Gezien recente incidenten en de traagheid van de federale overheid, heeft de gouverneur een uitvoerend besluit ondertekend om de Government Operations Agency te vragen de implementatie van deze wetten te versnellen. Bovendien zal er een groep wereldberoemde experts worden opgericht, die binnen twee maanden voorstellen moet doen ter verbetering van de veiligheidsnormen voor AI.

De voorstellen omvatten ten minste vier verplichtingen. De kill switch zou geactiveerd moeten worden in geval van nood, wanneer een bedrijf de controle over het model verliest. Echter, deskundigen waarschuwen dat een dergelijke schakelaar mogelijk nutteloos kan zijn, aangezien AI-systemen op verschillende servers zijn verspreid.

Bovendien kan een systeem met een kill switch kwetsbaarder zijn voor cyberaanvallen. Het grootste risico is echter dat een superintelligentie zichzelf kan dupliceren in andere infrastructuren en instructies kan nalaten aan een leger van AI-agenten om deze schakelaar te omzeilen. Hierdoor zouden mensen, eenmaal de controle over de AI verloren, geen kans hebben om deze uit te schakelen.