42 מתמטיקאים מובילים מזהירים במכתב פתוח על סיכוני קיומיים של בינה מלאכותית

קבוצה של מתמטיקאים מובילים מזהירה כעת על סיכוני הקיום של בינה מלאכותית מתקדמת. במכתב פתוח שנשלח לנשיא החברה המלכותית, 42 עמיתי מתמטיקה, כולל זוכי מדליות פילדס מרטין הייר, פטר שולצה וונדלין וורנר, קוראים למוסדות הממשלה והמדיה להדגיש את הדחיפות של המצב.

במהלך שלושה חודשים, דגמים מובילים של OpenAI ו-Anthropic הצליחו לפתור שאלות מחקר פתוחות, כולל אחת משבע בעיות המילניום, והתקדמו לרמה של המתמטיקאים הטובים ביותר.

עם זאת, ההשפעות על התחום עצמו אינן הסיבה למכתב. הקבוצה מזהירה כי יכולות אלו עשויות להיות רלוונטיות גם בתחומים כמו אבטחת סייבר, נשק אוטונומי, כלי נשק ביולוגיים וכימיים ודיסאינפורמציה ממוקדת. אינדיקציות ממעבדות הבינה המלאכותית על סיכון קיומי מעבר ל-10 אחוזים אינן צריכות להתפרש כהגזמה, בהתחשב בהתקדמות הנצפית. אם המצב יהפוך להיות ברור לציבור, יתכן שיהיה מאוחר מדי לפעול.