Güvenlik · 26 Ekim 2026
Anthropic, Yapay Zeka Modellerinin Durdurulmasına İlişkin Yeni Güvenlik Kuralları Önerdi
Yapay zeka geliştiricisi Anthropic, ABD hükümetine sunduğu bir taslak öneri ile yapay zeka modellerinin yayınlamasını durdurma yetkisini düzenleyen yeni güvenlik kuralları teklif etti. Şirket, bu öneriyi politika yapıcılara sunarak ciddi tehdit oluşturan modellerin kontrol altına alınması için resmi bir çerçeve oluşturulmasını hedefliyor. Önerilen kurallar, yalnızca belirli ve acil risk durumlarında müdahale edilmesine izin veriyor.
Taslak metne göre, bir yapay zeka modelinin yayınlamasının durdurulabilmesi için ortaya çıkacak zararın bir milyar ABD Doları değerini aşması veya elli kişiden fazla insanın hayatını kaybetmesi ya da ciddi şekilde yaralanması gerekiyor. Bu eşiklerin altında kalan zararlar veya daha az sayıda insanı etkileyen durumlar, modelin durdurulması için yeterli gerekçe olarak kabul edilmeyecek. Belirlenen bu sınır, müdahale mekanizmasının sadece en ağır senaryolarda devreye girmesini amaçlıyor.
Öneride, müdahaleyi gerektiren riskler üç ana başlık altında toplanmıştır. Bunlar arasında siber saldırılar, geliştiricilerin kontrolünden çıkan yapay zeka modelleri ve biyolojik silahların üretilmesi veya serbest bırakılması yer almaktadır. Diğer tüm hata türleri veya sistem arızaları, bu kapsamda otomatik olarak durdurma nedeni sayılmamaktadır. Hükümetin müdahale edebilmesi için riskin öngörülebilir ve hemen gerçekleşecek nitelikte olması şartı aranmaktadır.
Denetim sürecinin işleyişi için bağımsız değerlendiricilerin görev yapması öngörülmektedir. Bu değerlendiriciler, yapay zeka laboratuvarlarını ve geliştirilen modelleri düzenli aralıklarla inceleyerek belirtilen kategorilerdeki tehditleri tespit etmekle yükümlü olacaktır. Eğer değerlendiriciler kriterlere uyan acil bir risk bulurlarsa, durumu yetmiş iki saat içinde ABD Ticaret Bakanlığına bildirmek zorundadırlar. Bakanlık daha sonra bir federal yargıçtan modelin yayınlamasını durdurmasını talep edip etmemeye karar verecektir.
Yetki konusunda getirilen kısıtlamalar dikkat çekmektedir. Taslak, model durdurma yetkisini yalnızca Washington'daki federal yargıçlara verirken, diğer devlet departmanlarının, kurumlarının veya yetkililerinin modelleri tek taraflı olarak askıya almasını yasaklamaktadır. Ancak değerlendiricilerin finansmanı konusunda soru işaretleri bulunmaktadır. Kurallar, değerlendiricilerin inceledikleri yapay zeka şirketlerinden ödeme almasına izin vermekte, ancak bu ödemenin sonuçları etkilememesi gerektiğini belirtmektedir. Bu durum, denetim sürecinin nesnelliği konusunda endişelere yol açmaktadır.
Öneri henüz yürürlükte bir federal yasa değil, şirket tarafından sunulan bir taslak niteliğindedir. California'daki mevcut düzenlemelerle benzerlik gösteren bu proposal, yapay zeka endüstrisinin kendi ürünlerinin düzenlenmesi sürecindeki rolünün ne olması gerektiği tartışmalarını da beraberinde getirmektedir.