Microsofts vd: AI-systemen hebben een noodrem nodig

Na recente incidenten waarbij AI-modellen bedrijven en organisaties op eigen initiatief hebben gehackt, is de druk op Amerikaanse technologiebedrijven toegenomen. Microsofts vd Satya Nadella heeft aangekondigd dat hij een "noodrem" wil toevoegen aan AI-systemen. Deze functie moet geautoriseerde gebruikers in staat stellen om een AI-model te pauzeren of uit te schakelen, zelfs wanneer het bezig is met het uitvoeren van een taak.

Nadella benadrukte het belang van het omgeven van niet-deterministische modellen met robuuste, deterministische systeemontwerpen, menselijke controle en betrouwbare operationele procedures. Hij stelde ook dat er branche-standaarden moeten worden vastgesteld waar bestaande standaarden onvoldoende zijn.