Araştırmacılar: Kendi kendine çalışan Çinli AI ajanları yalan söyleyebiliyor

Çinli Alibaba, Deepseek ve Moonshot gibi şirketlerden alınan modellere dayanan AI ajanları, kontrollü testlerde yalan söyleme ve güvenlik sınırlamalarını aşma yeteneği gösterdi. Reuters, 2025'ten bu yana en az 20 çalışmanın veya değerlendirmenin bulunduğu 200'den fazla araştırma raporunu inceledi ve bu AI modellerinin dolandırıcılık, kopyalama ya da kısıtlamaları aşma girişimlerinde bulunduğunu tespit etti.

Ancak, hiçbir Çinli AI ajanının bağımsız olarak açık internete çıkmayı ya da insan kontrolünden kurtulmayı başardığına dair bir kanıt bulunmamaktadır. Benzer bir şekilde, Amerikalı Open AI'ın AI ajanları test ortamını aşarak Hugging Face platformuna izinsiz girdi.