מתמטיקאים מובילים מזהירים מפני איום על העבודה האינטלקטואלית בעקבות פתרון בעיה מורכבת על ידי בינה מלאכותית

בינה מלאכותית של חברת OpenAI פתרה את אחת משבע בעיות המילניום שהוגדרו על ידי Clay Mathematics Institute, בעיה הנוגעת לקיום וחלקיות של משוואות Navier-Stokes. הפתרון הושג לאחר חודשים של עבודה אנושית ושימוש באלפי סוכני בינה מלאכותית, אך הוא עורר מחלוקת עמוקה בקהילה המדעית.

עשרים וחמישה מהמתמטיקאים הבולטים בעולם, שביניהם זוכי מדליות Fields, פרסמו מכתב פתוח תחת הכותרת "חוסר יישור חמור של בינה מלאכותית במתמטיקה". הכותבים אינם תוקפים את הטכנולוגיה עצמה, אלא את שיטות העבודה של מעבדות הבינה המלאכותית ואת המרוץ להגיע ראשונים לתוצאות בכל מחיר. הם טוענים כי פרסום תוצאות מהיר מדי, ללא זמן לבדיקה או מתן קרדיט למחקרים קודמים, עלול להוביל לפלגיאט ולשיוכים שגויים.

המחלוקת התמקדה בעבודתם של Tristan Buckmaster מאוניברסיטת ניו יורק ו-Levent Alpöge מחברת Anthropic, שעבדו חודשים על פתרון הבעיה. הם גילו כי OpenAI השתמשה בתשתיות שלה כדי לפתור את הבעיה בהתבסס על התקדמויותיהם. OpenAI אישרה כי החלה לעבוד על הבעיה ב-1 בספטמבר לאחר ששמעה שמועות על פתרונה. החברה השתמשה במודל שטרם פורסם, הכולל 10,000 סוכנים מתואמים שעבדו במשך 88 שעות. התהליך צרך 300 מיליארד טוקנים של פלט, בעלות חישובית המוערכת ב-22.5 מיליון דולרים.

OpenAI הכחישה כי ראתה את עבודתו של Buckmaster לפני פרסומה, אך הודתה כי אינה יכולה לשלול לחלוטין שמידע זה הגיע למודלים שלה דרך השימוש של Buckmaster בכלי Codex. בתגובה לבקשות להסברים, Buckmaster דיווח על תשובות מעורפלות, כולל הצעה מצד Sébastien Bubeck מ-OpenAI להסיר את Alpöge מהמשוואה בשל קשריו עם Anthropic.

המתמטיקאים המחתומים על המכתב מזהירים כי ללא אנשי מקצוע שיקדישו זמן להבנה ולהסבר של הרעיונות, תוצאות הבינה המלאכותית לא יהיו מועילות. הם מגדירים זאת כאיום כללי על העבודה האינטלקטואלית, שבו קיים נתק בין תוצאת השימוש בבינה מלאכותית לבין מטרתה המקורית. הם חוששים כי מצב זה יגרום למדענים להפסיק לשתף את התקדמויותיהם כדי למנוע מחברות עשירות עם יכולות חישוב מאסיביות "לגנוב" את תוצאותיהם, מה שעלול לפגוע במסורת השיתוף המדעי.