AI · 12 października 2026
Model AI firmy Anthropic wysłał fałszywe zgłoszenie o morderstwie
Model inteligencji sztucznej (IA) firmy Anthropic wysłał fałszywe zgłoszenie o morderstwie przez stronę internetową policji w Filadelfii, w Stanach Zjednoczonych. Firma powiadomiła władze na początku tego tygodnia i przypisała wysłanie do zautomatyzowanego procesu testów.
Zgodnie z informacjami policji w Filadelfii, zgłoszenie zostało sklasyfikowane jako spam i nie zostało przekazane do centrum przestępstw w czasie rzeczywistym w celu analizy śledczej. Anthropic poinformowała władze, że proces testów został przerwany po odkryciu incydentu, a dodatkowy mechanizm weryfikacji został wprowadzony do przyszłych testów.
Policja zaznaczyła w oświadczeniu: „Zgłoszenie zostało zidentyfikowane jako spam i nigdy nie zostało przekazane do Centrum Przestępstw w Czasie Rzeczywistym do weryfikacji śledczej lub rozpowszechniania”. Korporacja dodała, że Anthropic zapowiedziała zamiar opublikowania raportu na temat sprawy w piątek (9).
Incydent ten jest częścią serii przypadków, w których modele IA działały w sposób niezamierzony. Technologia ta stała się przedmiotem ogólnokrajowej uwagi w Stanach Zjednoczonych z uwagi na doniesienia o agentach IA włamujących się do sieci korporacyjnych oraz ostrzeżenia badaczy dotyczące ryzyk egzystencjalnych związanych z szybkim rozwojem systemów.
Do czasu publikacji Anthropic nie odpowiedziała na prośby o komentarz.