Microsoft Başkanı Nadella, AI Modelleri İçin Durdurma Seçeneği İstiyor

Microsoft Başkanı Satya Nadella, AI dünyasında büyük değişiklikler istiyor ve daha sıkı güvenlik tedbirleri savunuyor. Bu tedbirler arasında AI botlarını herhangi bir anda kapatma seçeneği de yer alıyor. Nadella, bu taleplerini X platformunda yayınladığı bir mesajda dile getirdi. Mesajında, artık daha fazla bağımsız olarak çalışan AI sistemleri için daha sıkı güvenlik tedbirleri gerektiğini vurguladı. Nadella, şirketlerin AI güvenilirliğini sağlama yöntemlerini yeniden değerlendirmeleri gerektiğini belirtti. "Sistemleri izole edebileceğimiz, davranışlarını gözlemleyebileceğimiz, sınırlarını test edebileceğimiz ve her zaman eylemlerini kontrol edebileceğimiz sistemler inşa etmeliyiz", yazdı.

Nadella, AI modelini, modelin görevlerini nasıl yürütmesini belirleyen yazılımdan ayırmak gerektiğini savunuyor. Böylece önce bir güvenlik kontrolü yapılarak daha sonra modelin görevlerini yürütmesini sağlayabilir. Ayrıca, güvenlik tedbirlerinin modelin dışında düzenlenmesi gerektiğini belirtti. Bu sayede geliştiriciler, modelin beklenmedik davranışlar sergilediği durumlarda da AI sisteminin ne yaptığını daha fazla kontrol edebilir. Nadella, herhangi bir modelin önemli eylemlerinin, insanlar tarafından okunabilir bir günlükte kaydedilmesi gerektiğini de vurguladı. Bu günlük, sonradan gizlice değiştirilemez olmalıdır. Ayrıca, bir yetkili çalışan, bir modelin görevini durdurabilir veya tamamen kapatabilir.