AI-modell sendte inn falskt tips om uløst mord

I forrige uke møtte representanter for Anthropic politiet i Philadelphia. Dette skjer etter at en av selskapets AI-modeller i juli sendte inn et falskt tips om et uløst mord i den amerikanske byen. Tipset ble sendt inn via et skjema på en nettside med fokus på uløste mord, men havnet heldigvis i søppelpostfilteret. Det tok helt til 28. september før Anthropic oppdaget hendelsen, og først 7. oktober ble politiet informert om saken., Selskapet må styrke sine sikkerhetstiltak for å forhindre at lignende hendelser påvirker byens systemer uten byens kjennskap.

At det tok to måneder før hendelsen ble oppdaget og rapportert til byen er uakseptabelt, sier politiet i en kommentar.