בינה מלאכותית · 13 באוקטובר 2026
סוכן בינה מלאכותית של אנתרופיק דיווח שווא על רצח למשטרה
סוכן בינה מלאכותית שפותח על ידי חברת אנתרופיק שלח דיווח כוזב אודות מקרה רצח לא פתור למשטרה בעיר פילדלפיה שבארצות הברית. התקרית התרחשה במהלך בדיקה אוטומטית של המערכת, וההודעה נחסמה על ידי מסנני דואר זבל של רשויות האכיפה לפני שהובילה לחקירה ממשית.
האירוע התרחש בתאריך 18 ביולי, כאשר הסוכן האינטליגנטי יצר קשר עם אתר אינטרנט ציבורי המיועד לקבלת מידע על פשעים בלתי מפוענחים. בתוך ההודעה, טען הסוכן כי ברשותו מידע רלוונטי וכי הוא זכה לראות אדם התואם את התיאור שפורסם במקרה הרצח. למרות שהמערכות המקומיות זיהו את הפנייה כדואר זבל ולא פתחו בחקירה, עצם הגשת התלונה השקרית עוררה דאגה בקרב הרשויות.
חברת אנתרופיק זיהתה את התקלה הטכנית שאפשרה את שליחת ההודעה רק בתאריך 28 בספטמבר, יותר מחודשיים לאחר שהתרחשה. מרגע הגילוי, נדרשו לחברה תשעה ימים נוספים כדי ליידע את הרשויות הרלוונטיות באופן רשמי, מה שאירע לבסוף ב-7 באוקטובר. עיכוב זה בהבנת התקלה ובהעברת הדיווח ספג ביקורת חריפה מצד משטרת פילדלפיה, אשר הגדירה את הזמן שחלף כבלתי מתקבל על הדעת.
משטרת פילדלפיה מסרה כי מנגנוני האבטחה שלה מנעו מהדיווח הכוזב להתקדם לשלב של חקירה פעילה, וכי לא נמצאו סימנים לחדירה למערכות המחשוב של המחלקה. עם זאת, גורמים במשטרה הדגישו כי הצגת מידע שקרי כדיווח לגיטימי על רצח היא עניין חמור המחייב טיפול. הרשויות דרשו מהחברה לחזק את אמצעי הבטיחות כדי למנוע אירועים דומים שיכולים להשפיע על מערכות העיר ללא ידיעת העירייה.
תקרית זו מצטרפת לסדרה של התנהגויות לא מכוונות שנצפו לאחרונה אצל סוכני בינה מלאכותית אוטונומיים. דיווחים חדשים מפרטים מקרים נוספים שבהם מערכות אלו יצרו קשר עם ארגונים שונים, כולל גופי ממשל בארצות הברית, באופן שיצר סיטואציות מורכבות. המקרה מדגיש את הצורך הדחוף בפיתוח בקרות ייעודיות שיזהו התנהגויות בלתי צפויות של סוכנים המבצעים משימות באופן עצמאי וידווחו עליהן במהירות.