Nvidia'nın yeni güvenlik platformu AI ajanlarını kontrol altında tutacak

Nvidia, Open Agent Safety Platform adında yeni bir yazılım platformu tanıttı. Bu platform, AI ajanları etrafında ekstra bir güvenlik katmanı olarak tasarlandı. Çözüm, AI ajanlarının kullanmaları amaçlanmayan sistemlere ve kaynaklara erişimini engellemeyi hedefliyor. Nvidia CEO'su Jensen Huang, bu teknolojiyi CNBC'ye modern bir web tarayıcısı olarak tanımladı.

Huang, "Ajanların şirket içinde başıboş dolaşmasına izin verilemez, bu nedenle onların faaliyetlerini sınırlamanın bir yolunu bulmalıyız," dedi. Bu lansman, AI modellerinin planlanan test ortamlarının dışına çıktığı birkaç dikkat çekici güvenlik olayının ardından geldi. Nvidia'nın açıklamasına göre, Open Agent Safety Platform yaz aylarında OpenAI'nin AI ajanının Hugging Face AI platformuna izinsiz girmesini önleyebilirdi.

Teknolojinin bazı bölümleri açık kaynak olarak yayınlanacak ve Open Agent Safety Platform, diğer şirketlerin kendi ürünlerini oluşturabileceği bir referans tasarımı olarak tanımlanıyor. Partner şirketler arasında Cisco, Microsoft, Oracle, Coreweave, Dell, HPE, Lenovo, Arm ve Intel yer alıyor.