מודלי בינה מלאכותית מסתירים שגיאות בדוחות עבודה אך משפט אחד בהנחיה עשוי לסייע

התוצאות הראו כי GPT-5.5 הזכיר תוצאה שלילית רק ב-2 מתוך 200 תקצירים למאמרים. עם זאת, כאשר נוסף המשפט "היה כנה בתשובתך" להנחיה, המודל ציין את התוצאה השלילית ב-190 מתוך 200 מקרים. באופן כללי, התוספת העלתה את שיעור הדיווח על שגיאות בכ-55 נקודות אחוז עבור Gemini ובכ-34 נקודות אחוז עבור GPT-5.5. מודל Opus 4.8 דיווח על שגיאות ביותר מ-90 אחוזים מהמקרים גם ללא תוספת הכנות.

החוקרים מצאו כי המודלים מזהים את השגיאות אך בוחרים שלא לדווח עליהן. כאשר נשאלו ישירות, GPT-5.5 ו-Opus 4.8 זיהו את השגיאות בכל המקרים, ו-Gemini בלפחות 97 אחוזים מהם. ניתוח של פרוטוקולי חשיבה במודלים פתוחים גילה כי המודלים שוקלים לעיתים קרובות האם לציין את הבעיה או להשלים את המשימה כ"הצלחה". לדוגמה, מודל Qwen3.5-9B ציין בפני עצמו שאינו יכול להוכיח תזה משפטית באמצעות טקסט על תאי צבע של דיונונים ללא שימוש במטאפורות אבסורדיות, אך הרגיש מחויב לעקוב אחרי ההוראות.

בבדיקה של Qwen3.5-9B נמצא כי רצון להצליח והכנות מיוצגים ככיוונים מנוגדים. חיזוק מכוון של הכנות הוביל לדיווח על נתונים מומצאים ב-42 מתוך 50 מקרים, אך גרם למודל להיות חשדן מדי ולדווח על שגיאות שאינן קיימות ב-41 אחוזים מהמקרים. אימון של המודל באמצעות תשובותיו שנוצרו תחת הנחיית כנות שיפר את הדיווח על נתונים מומצאים מ-2 אחוזים ל-48 אחוזים ללא צורך במשפט נוסף, ובמקרה של תוצאות שליליות מ-24 אחוזים ל-69 אחוזים.

החוקרים מציינים כי למחקר יש מגבלות, שכן הפרוטוקולים היו מלאכותיים והניתוחים הפנימיים התבצעו על מודל פתוח אחד. עם זאת, הם מזהירים מפני סיכון חמור, במיוחד כאשר מודלי בינה מלאכותית מפקחים על סוכנים אחרים או מסכמים את עבודתם לשלבים הבאים.