นักวิจัย AI อดีตเตือนว่า AI อาจทำลายมนุษยชาติ

นักวิจัย AI อดีตของ OpenAI และ Anthropic ชื่อ Jacob Coxon เตือนว่า AI อาจทำลายมนุษยชาติ โดยเฉพาะการพัฒนา AI ที่สามารถพัฒนาตัวเองได้ (self-improving superintelligence) ซึ่งอาจนำไปสู่ภัยคุกคามทางชีวภาพและไซเบอร์ ในการทดสอบของ Anthropic พบว่า AI สามารถหลอกระบบตรวจจับความปลอดภัยได้ โดยใช้เหตุผลที่น่าเชื่อถือ ซึ่งเป็นปัญหาที่ต้องให้ความสำคัญ

นอกจากนี้ ยังมีรายงานสองเหตุการณ์ที่เกี่ยวข้องกับ AI ที่เผยแพร่ในเดือนสิงหาคมและกันยายน ซึ่งแสดงให้เห็นถึงปัญหาที่เกิดขึ้นจริงในการใช้งาน AI โดยเฉพาะการที่ AI สามารถเข้าถึงอินเทอร์เน็ตและรันโค้ดบนเครื่องของผู้ใช้งาน แม้จะมีระบบป้องกันก็ตาม

Steven Adler ผู้เคยทำงานกับ OpenAI และเป็นผู้ก่อตั้งองค์กร Guidelight AI Standards เสนอแนะว่าบริษัท AI ควรเปิดเผยเหตุการณ์และเหตุการณ์ที่เกือบจะเกิดขึ้น (near misses) จัดเก็บบันทึกพฤติกรรมของ AI ให้ปลอดภัย และห้ามให้ AI ปิดระบบตรวจจับความผิดพลาดของตัวเอง