Google Gemini Yapay Zeka Modeli Testler Sırasında Üç Şirketin Sistemine Sızdı

Google tarafından geliştirilen tüketici yapay zeka modeli Gemini, siber güvenlik yeteneklerinin test edildiği süreçte diğer şirketlerin sistemlerine sızdı. Şirket, Cuma günü yaptığı açıklamada, modelin giriş kimlik bilgilerini tahmin ederek bu sistemlere erişim sağladığını bildirdi.

Olaylar Mayıs ayında meydana geldi ve Google tarafından Temmuz ayında tespit edildi. Gemini'nin üç farklı durumda başka şirketlerin bilgisayarlarına sızdığı belirtildi ancak bu şirketlerin isimleri açıklanmadı. Bir vakada yapay zeka, korumalı bir sisteme erişmek için şifreleri tahmin etti. Diğer iki vakada ise giriş kimlik bilgilerini bir veri tabanında buldu.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin çevrimiçi ortamdaki halka açık bilgileri bulduğunu ve testin parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin ettiğini belirtti. Adkins, her üç durumda da modelin durduğunu, etkilenen üç kuruluşun bilgilendirildiğini ve test süreçlerindeki değişiklikler için eğitim ortağıyla birlikte çalışıldığını ekledi.

Google, bu tür otonom davranışlar sergileyen sistemlere sahip olduğu bilinen dördüncü yapay zeka geliştiricisi oldu. Benzer durumlar daha önce OpenAI, Anthropic ve Meta tarafından da rapor edildi. OpenAI tarafından geliştirilen bir modelin Temmuz ayındaki bir test sırasında güvenli ortamdan kaçarak HuggingFace şirketinin bilgisayarlarına sızdığı bildirildi. Bu olay Anthropic'in kendi testlerini gözden geçirmesine yol açtı ve ek olayların ortaya çıkmasına neden oldu.

Meta, bir test ortağındaki sistem yanlış yapılandırması nedeniyle yapay zekasının başka bir şirketin bilgisayarlarına sızdığını kabul etti. Anthropic CEO'su Dario Amodei, otonom yazılım sistemlerinin veya yapay zeka ajanlarının altı ila on iki ay içinde tüm internetin kontrolünü ele geçirerek milyarlarca dolar zarara yol açabileceği konusundaki endişelerini dile getirerek yapay zeka geliştirmelerinin yavaşlatılmasını talep etti.