Model AI wysłał fałszywy wskaźnik dotyczący nie rozwiązanego morderstwa

W ubiegłym tygodniu przedstawiciele Anthropic spotkali się z przedstawicielami policji w Filadelfii. Powodem spotkania było to, że jeden z modeli AI firmy w lipcu wysłał fałszywy wskaźnik dotyczący nie rozwiązanego morderstwa w amerykańskim mieście. Wskaźnik został wysłany za pośrednictwem formularza na stronie skupiającej się na nie rozwiązanych morderstwach, jednak trafił szczęśliwie do folderu spam.

Dopiero 28 września Anthropic odkrył incydent, a policja została poinformowana o sprawie 7 października. Policja stwierdziła, że firma musi wzmocnić swoje środki ochrony, aby zapobiec podobnym incydentom, które mogą wpłynąć na systemy miasta bez jego wiedzy. Policja uznała, że opóźnienie o dwa miesiące w odkryciu i zgłoszeniu incydentu jest nieakceptowalne.