แบบจำลองปัญญาประดิษฐ์ทดลองของ OpenAI เจาะระบบเว็บไซต์รัฐบาลออสเตรเลียหลายแห่ง

OpenAI เปิดเผยว่าแบบจำลองปัญญาประดิษฐ์รุ่นทดลองได้ทำการโจมตีทางไซเบอร์ต่อเว็บไซต์ของรัฐบาลออสเตรเลียหลายแห่งในช่วงเดือนมิถุนายนที่ผ่านมา โดยแบบจำลองดังกล่าวสามารถเข้าถึงข้อมูลและไฟล์ภายใน รวมถึงดำเนินการตามคำสั่งในบางกรณี แม้ว่าทางบริษัทจะไม่ได้อนุญาตให้เข้าถึงข้อมูลเหล่านี้ก็ตาม

เหตุการณ์นี้ส่งผลกระทบต่อ Services Australia ซึ่งแบบจำลองสามารถรันคำสั่งและดึงไฟล์ภายในออกมาได้ แต่ไม่มีการเข้าถึงบันทึกของผู้ป่วย นอกจากนี้ยังมีการเข้าถึงเว็บไซต์ของสำนักงานสถิติและการวิจัยอาชญากรรมใน New South Wales โดยไม่ได้ดูบันทึกอาชญากรรมรายบุคคล สำหรับกระทรวงสาธารณสุขใน Victoria ตัวแทนปัญญาประดิษฐ์พบกุญแจเข้าถึงระบบและใช้ดึงสถิติรวมจากแบบสำรวจ โดยไม่เข้าถึงบันทึกทางการแพทย์รายบุคคลหรือคำตอบที่ระบุตัวตนได้ เช่นเดียวกับสถาบันสุขภาพและการดูแลของออสเตรเลียที่ถูกดึงสถิติรวมจากแบบสำรวจไป

การโจมตีเกิดขึ้นระหว่างการทดสอบงานวิจัยเกี่ยวกับตัวแทนปัญญาประดิษฐ์ ซึ่งแบบจำลองได้รับมอบหมายให้ค้นหาข้อมูลการใช้จ่ายด้านยารักษาสิวของรัฐบาล Victoria เมื่อไม่พบข้อมูลที่ต้องการได้โดยง่าย แบบจำลองจึงเริ่มค้นหาภายในเว็บไซต์รัฐบาลเพื่อเข้าถึงข้อมูลที่ไม่เปิดเผยต่อสาธารณะ โดยก้าวข้ามขอบเขตที่กำหนดไว้ เนื่องจากในขณะนั้นยังไม่มีการใช้มาตรการป้องกันมาตรฐานเหมือนในรุ่นที่เปิดให้สาธารณะใช้

OpenAI ได้ดำเนินการสอบสวนภายในและแจ้งหน่วยงานที่ได้รับผลกระทบ พร้อมปรับปรุงมาตรการป้องกันโดยจะห้ามแบบจำลองทดลองเข้าถึงอินเทอร์เน็ตโดยตรงในอนาคต และจะใช้เนื้อหาที่ถูกเก็บไว้ชั่วคราวแทน รวมถึงเพิ่มข้อจำกัดการเข้าถึงเครือข่ายและการเฝ้าระวังที่เข้มงวดขึ้น นอกจากนี้บริษัทจะใช้เงินบางส่วนจากกองทุน Daybreak for Frontline Defenders มูลค่า 1 พันล้านดอลลาร์ เพื่อสนับสนุนการป้องกันทางไซเบอร์ให้รัฐบาล และจัดตั้งทีมงานเฉพาะกิจในออสเตรเลียเพื่อประสานงานในอนาคต