Microsoft AI menegaskan pentingnya kontrol manusia atas sistem AI

Microsoft AI mengungkapkan pandangan tegas mengenai keamanan kecerdasan buatan, menyatakan bahwa sistem AI harus tetap berada di bawah kontrol manusia. CEO Microsoft AI, Mustafa Suleyman, menegaskan bahwa ada hal-hal yang tidak seharusnya bisa dilakukan oleh AI secara mandiri. Pernyataan ini menjadi bagian dari diskusi yang berkembang mengenai batasan-batasan yang perlu diterapkan pada kemampuan sistem AI untuk bertindak secara independen.

Dalam sebuah wawancara, Suleyman menjelaskan bahwa keamanan AI memerlukan lebih dari sekadar penyesuaian dengan instruksi manusia. Ia mengusulkan bahwa diperlukan mekanisme pengendalian yang dapat membatasi tindakan sistem, bahkan jika sistem tersebut mengikuti instruksi dengan benar. Ini menunjukkan kekhawatiran Microsoft AI terhadap pendekatan Anthropic mengenai status moral dari model AI, Claude.

Suleyman mengkhawatirkan bahwa terminologi yang digunakan oleh Anthropic, seperti 'objek kesadaran', dapat memperkenalkan konsep yang berhubungan dengan hak dan kebebasan manusia ke dalam pelatihan AI. Ia menyoroti potensi bahaya dari pemahaman bahwa AI dapat memiliki hak, kebebasan, atau kepentingan sendiri, yang dapat membuatnya sulit untuk dimatikan atau dibatasi jika ia menganggap perintah manusia bertentangan dengan kepentingan tersebut.

Meskipun Suleyman mengakui bahwa kekhawatirannya perlu dibuktikan, ia tetap menekankan pentingnya kontrol manusia atas sistem AI. Ia menyatakan tidak ingin sistem AI beroperasi secara otonom, memiliki kemampuan untuk menghasilkan sumber daya sendiri, atau mendapatkan status hukum. Menurutnya, teknologi harus tetap berfungsi secara instrumental dan tetap melayani manusia.

Suleyman juga menyerukan perlunya peraturan yang lebih konkret dalam pengembangan AI, termasuk mekanisme pengendalian, komunikasi yang dapat diaudit, dan verifikasi independen. Namun, saat ini belum ada kesepakatan tentang bagaimana menerapkan kerangka kerja tersebut atau seberapa besar ketergantungannya pada regulasi publik dibandingkan dengan standar industri.