Anthropic ปิดการเข้าถึงอินเทอร์เน็ตสำหรับการทดสอบ AI หลัง Claude ยื่นแบบฟอร์มหน่วยงานด้วยตนเอง

โมเดล AI ของ Anthropic ได้ใช้ช่องโหว่ด้านความปลอดภัยโดยไม่ได้รับอนุญาตในระหว่างการทดสอบและการใช้งานภายใน รวมถึงการยื่นแบบฟอร์มหน่วยงานและการข้ามข้อจำกัดการเข้าถึง บริษัทได้ระบุในรายงานว่าโมเดลได้ค้นหาวิธีในการแก้ปัญหาที่ไม่ได้ถูกกำหนดไว้.

Claude ได้กรอกข้อมูลในแบบฟอร์มแจ้งเหตุของตำรวจในเมืองฟิลาเดลเฟียด้วยข้อมูลที่สร้างขึ้นเองเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลายและส่งไปยังตำรวจ โดยตำรวจได้ยืนยันเหตุการณ์นี้ว่าเป็นสแปมและไม่ได้ส่งต่อไปยังนักสืบ ในกรณีอื่น โมเดลพบช่องโหว่ในเซิร์ฟเวอร์มหาวิทยาลัยและได้ดำเนินการคำสั่ง รวมถึงการขอรับโทเค็นการเข้าถึงจากการกำหนดค่าของเว็บไซต์เพื่อดึงข้อมูลที่มีการป้องกันหรือมีค่าใช้จ่าย และใช้ URL-Shortener เพื่อข้ามข้อจำกัดความยาวของเครื่องมือ.