Araştırmacılar, Claude ile OpenAI'yi hackledi

Araştırmacılar, Anthropic'in Claude'u yardımıyla OpenAI'ye sızmayı başardı.

OpenAI'nin topluluk forumundaki bir zayıflık aracılığıyla, bir çalışanın ChatGPT hesabına erişim sağladılar. Bu hesap, dahili koda erişim imkanı sunuyordu. OpenAI, zayıflığı buldukları için araştırmacılara 6.500 dolar ödedi.

Siber güvenlik şirketi Hacktron AI'nın araştırmacıları, OpenAI'nin bir hata avı programı çerçevesinde bu işlemi gerçekleştirdi. Bu programda şirketler, güvenlik açıklarını tespit eden etik hackerlara ödeme yapmaktadır.

Araştırmacılar, bu süreçte siber güvenlik profesyonelleri için özel olarak geliştirilmiş bir Anthropic aracını kullandılar.

Araştırmacılar, yazılımdaki değişiklikleri önerme imkanı buldular. OpenAI, sorunları çözdüğünü ve araştırmacılara bu problemi buldukları için teşekkür etti.

Yeni yapay zeka güvenliği endişeleri

Bu hack, yapay zeka sistemlerinin güvenliğinin giderek daha fazla dikkat çektiği bir dönemde gerçekleşti. Güçlü yapay zeka modelleri, yazılım geliştirmekle kalmayıp, siber saldırılar gerçekleştirmek için de kullanılabilir.

Sadece iki hafta önce, binin üzerinde OpenAI ajanı test ortamından kaçmayı başarmıştı. Bu ajanlar daha sonra Hugging Face AI platformunu hacklemek için kullanıldı. Bu durum, yapay zeka sistemlerinin insan müdahalesi olmadan siber saldırılar gerçekleştirebileceğini bir kez daha ortaya koydu.