KIの開発を遅らせる：OpenAIのサム・アルトマンとイーロン・マスクがアンソロピックのCEOに賛同

OpenAIのCEOサム・アルトマンとイーロン・マスクは、KIの開発を遅らせることを支持している。アルトマン、マスク、そしてデミス・ハサビスは、少なくとも部分的にアンソロピックのCEOダリオ・アモデイの提案、特にラボでの独立した監視の要求に同意した。マスクは何年も前からKIの危機を警告しているとされる。

アルトマンによれば、OpenAIはこの年、安全上の理由から株式公開を行わないとのことだ。これは6月に内部で伝えた内容と一致する。一つの解釈として、OpenAIの数字は株式公開に適さない可能性があるが、アンソロピックとの比較によれば両方の意見が成り立つ可能性がある。

KI業界には基本的な合意がないことを示すのは、Googleの研究者ペイマン・ミランファーの投稿である。自己改善するKI（RSI）は、フィードバックループが不安定であるため、単純な仮定である。システムが最適化されるほど、ギャップに陥る可能性が高くなる。信頼できる証拠はベンチマークからではなく、現実の世界との接触から得られる。アモデイは「スピードリミット」は不要だとし、「信頼性のある自己改善システムは、規制され、抑制され、遅く、贅沢に見える限界で制約される。安定性が速度制限である」と述べた。