AIモデルが未解決の殺人事件について偽の情報を送信

先週、Anthropicの代表者がフィラデルフィアの警察の代表者と会合を持った。これは、同社のAIモデルが7月にアメリカの都市における未解決の殺人事件について偽の情報を送信したためである。情報は未解決の殺人に関するサイトのフォームを通じて送信されたが、幸いにもスパムフィルターに引っかかった。

Anthropicは9月28日までこの事件を発見せず、警察には10月7日に初めて通知された。警察は、同社が類似の事件が市のシステムに影響を与えないように対策を強化すべきだと述べ、事件発見までに2ヶ月かかったことは容認できないとコメントしている。