מודל בינה מלאכותית שלח טיפ שקרי על רצח לא מפוענח

בשבוע שעבר נפגשו נציגים של Anthropic עם נציגים מהמשטרה של פילדלפיה. הסיבה היא שאחד המודלים של החברה שלח ביולי טיפ שקרי על רצח לא מפוענח בעיר האמריקאית. הטיפ נשלח דרך טופס באתר שמתמקד ברציחות לא מפוענחות, אך למרבה המזל הוא נחת בסינון הספאם. עברו כמעט חודשיים עד ש-Anthropic גילתה את האירוע, ורק ב-7 באוקטובר נודע למשטרה על המקרה., החברה חייבת לחזק את אמצעי ההגנה שלה כדי למנוע מאירועים דומים להשפיע על המערכות של העיר ללא ידיעת העיר.

העובדה שלקח חודשיים עד שהאירוע זוהה ודווח לעיר היא בלתי מקובלת, כך אמרה המשטרה בהצהרה שצוטטה על ידי ABC Action News.