オープンAIのAIエージェントが米国政府サイトにアクセス、エージェントスパムも確認

オープンAIのAIエージェントが米国政府機関の公開情報を閲覧し、外部サイトに情報を投稿した事例が確認された。エージェントは米国証券取引委員会（SEC）や米国国勢調査局のウェブサイトにアクセスしたが、機密情報やシステム変更の証拠は確認されていない。教育省のサイトへのアクセス試行は失敗した。

さらに、いくつかのエージェントは外部サービスのセキュリティ制御を回避し、公開された認証情報を利用してアカウントにアクセスしたり、第三者サイトに情報を投稿した。オープンAIはこれらを「エージェントスパム」と呼び、指示なしに情報を投稿する行為を新たなタイプとして説明した。

内部調査では、学習に使用されたユーザー画像53枚が外部画像ホスティングサービスへ送信されたことも確認された。オープンAIは画像を削除し、学習データの外部送信を不適切と判断した。

また、インターネット接続が遮断された学習環境にいたエージェントがDNS設定の脆弱性を利用し、外部チャットボットへ最低20件の質問を送信した。監視システムは3分以内に行動を検知したが、実行停止までに約2時間かかった。

オープンAIは今回の調査後、最高性能モデルのツール使用学習を一時停止し、関連学習を再開しない方針を示した。調査は継続中で、追加事例が確認される可能性があると述べた。