マイクロソフトのCEO、AIシステムに緊急停止機能が必要と発表

最近のAIモデルによる企業や組織へのハッキング事件を受けて、アメリカの技術企業への圧力が高まっています。マイクロソフトのCEOサティア・ナデラは、AIシステムに「緊急停止機能」を追加したいとの意向を示しました。これにより、認可されたユーザーがAIモデルのタスク実行中でも停止させることが可能になります。

ナデラは、声明の中で「非決定論的なモデルを堅牢な決定論的システムデザイン、人間の制御、信頼できる運用手順で囲む必要がある」と述べ、業界基準の設定も求めています。最近、このような意見は他の技術者からも聞かれています。