ראש צוות השקיפות הבטיחותית ב-OpenAI עזב את החברה ושלושה עובדים פוטרו בשל הדלפה

במסמכים אלו היה צורך לפרט את שיטות האימון של המודל, את הערכות הבטיחות שבוצעו, את היכולות שהושגו בתחומים בסיכון גבוה כמו תקיפות סייבר וביולוגיה, את אמצעי הבטיחות הפנימיים ואת הסיכונים שנותרו לאחר נקיטת אמצעים אלו. רובינסון היה גם הכותב המרכזי של מסגרת המוכנות גרסה 2.0, המשמשת למעקב אחר סיכונים חמורים של מודלים מתקדמים וקובעת הערכות ואמצעי הגנה נדרשים כאשר מודל מגיע ליכולת מסוימת. גרסה זו הוסיפה מעקב אחר יכולות ביולוגיות וכימיות, יכולות אבטחת סייבר ויכולת שיפור עצמי של בינה מלאכותית.

במסגרת זו, הגדרה של יכולת כגבוהה פירושה שהיא עלולה להגביר נתיבי נזק חמורים קיימים, ולכן נדרשים אמצעי בטיחות לפני הפריסה. הגדרה של יכולת כקריטית מעידה על כך שהמודל עלול ליצור נתיבי נזק חמורים מן השורש, מה שמעלה שאלות לגבי המשך הפיתוח. בכרטיס המערכת של Deep Research, הערכה ביולוגית הראתה כי המודל קרוב לסף היכולת הגבוהה, כלומר הוא מתקרב לרמה שבה הוא יכול לסייע לאנשים שאינם מומחים לייצר איומים ביולוגיים ידועים.

במקביל לעזיבתו של רובינסון, OpenAI פיטרה שלושה עובדים: ג'סמין וואנג, טומק קורבאל ומיקיטה באלסני, שעסקו במחקרי בטיחות ויישור מודלים. החברה מסרה כי חקירה פנימית העלתה כי השלושה שיתפו מידע רגיש, כולל תכנים על ארכיטקטורת התשתיות של OpenAI, עם סוכנות חיצונית לבטיחות בינה מלאכותית. קורבאל שימש בעבר כאיש קשר טכני בין OpenAI לבין גופי הערכה חיצוניים, METR ו-Redwood Research.

לפני עזיבתו, רובינסון התבטא ברשת X על סיכוני בינה מלאכותית בעלת יכולות גבוהות. הוא ציין כי עובדים בתוך OpenAI מבינים בהדרגה את ההשפעות הפוטנציאליות של מודלים כאלו, והביע ספק אם השינויים המתרחשים בחברה קורים במהירות מספיקה. הוא קרא לעובדים להשתמש בהשפעתם הפנימית כדי לדחוף את החברה להתמודד ברצינות רבה יותר עם סיכוני בינה מלאכותית.