กลุ่มนักคณิตศาสตร์ชั้นนำ 42 คนเตือนเกี่ยวกับความเสี่ยงจากปัญญาประดิษฐ์

กลุ่มนักคณิตศาสตร์ชั้นนำเตือนเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจากปัญญาประดิษฐ์ในจดหมายเปิดผนึกถึงประธานราชสมาคม โดยมีนักคณิตศาสตร์ 42 คนรวมถึงผู้ได้รับรางวัล Fields Medal อย่าง Martin Hairer, Peter Scholze และ Wendelin Werner ร้องขอให้รัฐบาลและสื่อมวลชนตระหนักถึงความเร่งด่วนของสถานการณ์นี้ ไม่มีผู้ลงนามคนใดมีส่วนเกี่ยวข้องกับบริษัทปัญญาประดิษฐ์

ภายในสามเดือน โมเดลชั้นนำจาก OpenAI และ Anthropic ได้แก้ปัญหาการวิจัยที่เปิดเผย รวมถึงหนึ่งในเจ็ดปัญหามิลเลนเนียม โดยทำงานในระดับเดียวกับนักคณิตศาสตร์ที่ดีที่สุด

กลุ่มนี้เตือนว่าความสามารถเหล่านี้อาจมีผลกระทบอย่างมากในด้านความมั่นคงไซเบอร์ อาวุธอัตโนมัติ สารชีวภาพและเคมี รวมถึงการบิดเบือนข้อมูล หากมีข้อบ่งชี้จากห้องปฏิบัติการปัญญาประดิษฐ์เกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นเกินกว่า 10 เปอร์เซ็นต์ จะไม่สามารถมองว่าเป็นการพูดเกินจริงได้ หากสถานการณ์ชัดเจนสำหรับสาธารณะ อาจจะสายเกินไปสำหรับการดำเนินการ