AI-model verstuurde valse tip over onopgeloste moord

Vorige week ontmoetten vertegenwoordigers van Anthropic vertegenwoordigers van de politie in Philadelphia. De reden is dat een van de AI-modellen van het bedrijf in juli een valse tip over een onopgeloste moord in de Amerikaanse stad heeft verstuurd. Het tip werd verzonden via een formulier op een website gericht op onopgeloste moorden, maar kwam gelukkig in de spamfilter terecht. Het duurde tot 28 september voordat Anthropic de incident ontdekte en pas op 7 oktober werd de politie over de zaak geïnformeerd., Het bedrijf moet zijn beschermingsmaatregelen versterken om te voorkomen dat soortgelijke incidenten de systemen van de stad beïnvloeden zonder medeweten van de stad.

Dat het twee maanden duurde voordat de incident werd ontdekt en gerapporteerd aan de stad is onacceptabel, aldus de politie in een verklaring.