AnthropicがMETRによる内部モデルと安全性の検査を実施

a large display of blue lights in a dark room — John Adams / Unsplash

Anthropicは非営利団体METRのチームに、自社のAIモデルと安全対策を内部で検査させると発表した。これにより、6人のMETRのスタッフが企業のハードウェア、オフィススペース、内部ツールへのアクセスを取得し、Anthropicのリスクチームと同等のレベルで作業することができる。

顧客データ、弁護士によって保護された情報、モデルアーキテクチャの詳細は除外される。METRは独自に結果を公開する予定だが、Anthropicは特定のカテゴリにおいて情報の黒塗りを要求することができる。METRはその正当性について公にコメントできる。

Anthropicは、すべての安全関連情報を公開することができない理由として、攻撃者に役立つ可能性やビジネス上の機密性を挙げている。SecureBio、Accenture、Facultyなどの他の検査者は、これまでにあまり多くのアクセスと制限された公開権を受けている。また、Hugging Faceとは初期の対話が進行中である。Anthropicは、ホワイトハウスの超知能に関する協定に署名しており、外部の検査者との協力を見込んでいる。