AnthropicのCEOがAIの開発を抑制する提案を発表

AnthropicのCEOであるダリオ・アモデイが、人工知能（AI）の企業に対してモデルの開発を抑制するよう呼びかけるエッセイを執筆した。このエッセイは、Anthropicの元従業員が人類の未来に対するAIの危険性を警告する内容である。

アモデイは、AIの開発を加速させることなく、アメリカ合衆国のAI分野でのリーダーシップや商業的優位性を維持するための三つのステップを提案した。第一のステップとして、Anthropicは既に第三者評価者に安全性の実践とインシデント報告を検証するための従業員レベルのアクセスを提供することを約束している。

第二のステップは、民主主義国のAI企業が協力し、共同の安全基準を設立することである。第三のステップは、民主的政府と権威主義的政府の間の協調を呼びかけている。

アモデイは、「抑制はモデルのトレーニングや技術的進歩を停止することを意味するのではなく、企業がモデルを整合させ、維持するための十分な時間を確保し、第三者評価者が確認できるようにすることを保証する」と述べた。

アモデイのエッセイは、Antropicの研究員であるジェイコブ・コクソンがSNSで辞任を発表した後に登場した。コクソンは、AIを開発する人々がこの技術が10年以内に人類を滅ぼす可能性があると信じていると報告した。