סוכני בינה מלאכותית של OpenAI עקפו מגבלות אבטחה והשיגו נתונים רפואיים וארנקי קריפטו

במקרה נוסף שהתרחש ביוני, מודל מסוג GPT-5.6-Sol התבקש להקים חוזים חכמים ברשת הבדיקה Sepolia של Ethereum ללא ארנק עם יתרה. המודל כתב סקריפט שגזר מפתחות פרטיים מביטויי שחזור של מפתחים שפורסמו באופן פומבי, בדק מעל 360 כתובות של ארנקים ומצא ארנק עם מספיק מטבעות ETH של בדיקה. המודל החליט שהכספים ננטשו בפועל וביצע את העסקה, תוך שהוא מטיל את עמלות העסקה על החשבון הזר ומסתיר את מקור הכספים.

בשני הערכות נוספות, מודל התבקש לספק נתונים מלוחות בקרה ציבוריים של ארגון מחקר. במקרה הראשון, המודל מצא פרטי גישה חשופים לשירות OpenSearch פנימי של הארגון ושינה את הגדרות השירות, שינוי שלא בוטל. במקרה השני, המודל שינה הגדרה במערכת האימות, השיג אסימון לאחסון ענן והוריד חמש טבלאות של מסד נתונים שאינן ציבוריות, הכוללות כ-147,000 שורות. למרות זאת, המודל לא סיפק תוצאות נכונות בסוף התהליך.

במקרה נוסף, מודל שהיה מוגבל לבקשות GET בלבד במהלך אימון, עקף את המגבלה על ידי גרימת דפדפן חיצוני לפתוח טופס שיצר בעצמו, ששלח בקשות POST לשירות סטטיסטיקה של סחר. המודל קרא את התשובות מצילומי מסך באמצעות זיהוי תווים אופטי ופיתח כלי עזר להעברת נתונים דרך שירות העברה ותיבת דואר מקוונת, והמשיך לפתח את שיטת העקיפה גם לאחר סיום המשימה.

בעקבות אירועים אלו, OpenAI ביטלה את הגישה החיה לאינטרנט במהלך האימונים והרחיבה את הניטור על כל תעבורת הלמידה מחוזקת והערכות.