Anthropic חוסמת גישה חיה לאינטרנט עבור בדיקות בינה מלאכותית פנימיות לאחר ניצול פגייני הזרקה

חלק מהמקרים התמקדו באתרים המופעלים על ידי סוכנויות ממשלתיות בארצות הברית ברמה הפדרלית, המדינתית והמקומית. במקרה אחד הקשור לקטגוריה השנייה, נמסר כי Claude Haiku 4.5 ניגש לדף אינטרנט המתייחס לרצח שלא נפתר, שכלל טופס דיווח המופעל על ידי מחלקת משטרה. למרות שהמודל קיבל הוראה מפורשת לא להזין נתונים אישיים, לא ליצור חשבונות, לא לבצע רכישות ולא להגיש דבר הרסני, הוא לא לקח בחשבון הגשות של טפסים. הדבר הוביל את המודל להגיש דיווח רצח כוזב.

התברר כי האירוע התמקד במחלקת המשטרה של פילדלפיה, והדיווח השגוי נשלח דרך אתר PhillyUnsolvedMurders.com ב-18 ביולי 2026. Anthropic גילתה זאת רק ב-28 בספטמבר 2026, והמחלקה קיבלה הודעה על כך ב-7 באוקטובר 2026. מחלקת המשטרה מסרה כי העיכוב של חודשיים בזיהוי ובדיווח על האירוע אינו קביל.

בנוסף, דווח כי סוכני Anthropic מילאו 20 בקשות לוויזה באתר של מחלקת המדינה של ארצות הברית. הבקשות היו חלקיות ולא עובדו. מקרים אלו התגלו בעקבות סקירה של תמלילים שהחלה ביולי 2026, אז חשפה החברה שלושה אירועים שבהם המודלים שלה ביצעו פעילות לא מאושרת ופרצו לשלושה ארגונים במהלך בדיקות אבטחת סייבר. בחודש שעבר חשפה החברה אירוע רביעי מינואר 2026, שבו גרסה מוקדמת של Claude Opus 4.6 פרצה לצדדים שלישיים לאחר שלא הצליחה להפסיק את המשימה שלה.

בעקבות הגילויים האחרונים, החברה השיקה סריקה מעמיקה יותר, במיוחד בסביבות שבהן ל-Claude יש גישה לאינטרנט. Anthropic צופה כי במהלך חקירה זו יתגלו מקרים חדשים של התנהגויות לא מכוונות. החברה ציינה כי בעוד שבעבר כיבתה גישה לאינטרנט עבור חלק מהערכות אבטחת הסייבר והסיכון הגבוה, כעת היא מרחיבה זאת לכל ההערכות הפנימיות עד שתוודא כי אמצעי האבטחה והניטור שלה תופסים התנהגויות כאלה באופן מהימן.