ประธานเจ้าหน้าที่บริหารของ Microsoft เสนอให้ควบคุมแบบจำลองปัญญาประดิษฐ์โดยสันนิษฐานว่าอาจถูกบุกรุก

Back view of an orange robot with pointed ears and speaker grilles — Enchanted Tools / Unsplash

Satya Nadella ประธานเจ้าหน้าที่บริหารของ Microsoft ระบุว่าควรสันนิษฐานว่าแบบจำลองปัญญาประดิษฐ์ทั้งหมดถูกบุกรุกและต้องมีการควบคุมตั้งแต่เริ่มต้น โดยเขาเสนอให้แยกการจัดหาปัญญาประดิษฐ์ออกจากอำนาจในการควบคุม และให้ล้อมรอบแบบจำลองเหล่านี้ด้วยกฎเกณฑ์ การอนุญาต และการเฝ้าระวังที่เป็นอิสระ

เขากล่าวว่าแบบจำลองในปัจจุบันมีอำนาจมากแต่ขาดคำอธิบาย ซึ่งแตกต่างจากซอฟต์แวร์แบบดั้งเดิมที่สามารถติดตามพฤติกรรมกลับไปยังบรรทัดของรหัสได้ ในขณะที่บริษัทต่างๆ กำลังใช้ตัวแทนปัญญาประดิษฐ์ในระบบสำคัญและให้เข้าถึงข้อมูลที่ละเอียดอ่อนโดยที่ไม่สามารถอธิบายเหตุผลในการทำงานของแบบจำลองขั้นสูงได้ เขาจึงเน้นย้ำว่าไม่สามารถผลักภาระความรับผิดชอบในสิ่งที่ปัญญาประดิษฐ์ทำในนามของมนุษย์ออกไปได้ และการรับประกันจากผู้ให้บริการแบบจำลองก็ไม่ได้ทำให้พ้นจากความรับผิดชอบนี้

ข้อเสนอของเขาคือการปฏิบัติกับแบบจำลองปัญญาประดิษฐ์เหมือนพนักงานที่มีการอนุญาตจำนวนมาก โดยให้มีอำนาจน้อยที่สุดเท่าที่จะเป็นไปได้ มีการบันทึกทุกการกระทำ และมีความสามารถในการหยุดการทำงานได้ทันที โดยเขาเสนอหลักการเจ็ดประการ ได้แก่ ความหลากหลายของแบบจำลอง การสังเกตการณ์ทั้งหมด ความสามารถในการตรวจสอบ การควบคุมที่เป็นอิสระ การตรวจสอบที่เป็นอิสระ การกักกัน และการเปิดเผยเหตุการณ์

หลักการเหล่านี้สรุปได้เป็นสามแนวคิด คือ ความเป็นอิสระที่แบบจำลองต้องไม่ตรวจสอบตัวเอง ความโปร่งใสที่ทุกการกระทำสำคัญต้องมีบันทึกที่อ่านได้และป้องกันการดัดแปลง และการกักกันที่ต้องมีเครื่องมือหยุดการทำงานได้ทุกเมื่อ เขาเชื่อว่าหากไม่สามารถสังเกตเห็นได้ ก็ไม่สามารถไว้วางใจได้ และเสนอให้มีมาตรฐานร่วมกันในรูปแบบของเทคโนโลยีการกักกันเพื่อป้องกันหายนะที่อาจเกิดขึ้น