CEO Microsoft: Sistem AI perlu rem darurat

Setelah insiden terbaru di mana model AI telah meretas perusahaan dan organisasi secara mandiri, tekanan terhadap perusahaan teknologi Amerika meningkat. CEO Microsoft, Satya Nadella, menyatakan keinginannya untuk menambahkan "rem darurat" pada sistem AI, yang akan memungkinkan pengguna yang berwenang untuk menghentikan atau menonaktifkan model AI meskipun ia sedang menjalankan tugas.

Nadella menekankan perlunya mengelilingi model non-deterministik dengan desain sistem yang kuat dan deterministik, kontrol manusia, serta prosedur operasi yang dapat diandalkan. Ia juga menyerukan penetapan standar industri di mana standar yang ada dianggap tidak memadai.