Nvidia השיקה פלטפורמת אבטחה לשליטה בסוכני בינה מלאכותית

חברת Nvidia השיקה פלטפורמת תוכנה חדשה בשם Open Agent Safety Platform, שנועדה לשמש כשכבת אבטחה נוספת סביב סוכני בינה מלאכותית.

הפתרון נועד למנוע מסוכני בינה מלאכותית לגשת למערכות ולמשאבים שהם אינם אמורים להשתמש בהם. מנכ"ל Nvidia, Jensen Huang, תיאר את הטכנולוגיה כסוג של דפדפן מודרני עבור סוכנים, והדגיש כי יש למצוא דרך להגביל את פעילותם כדי שלא ישוטטו בחופשיות בתוך החברה.

ההשקה מגיעה לאחר מספר תקרירי אבטחה בולטים שבהם מודלי בינה מלאכותית יצאו מסביבות הבדיקה המיועדות להם. לפי Nvidia, הפלטפורמה הייתה יכולה למנוע תקרית מהקיץ האחרון שבה סוכן בינה מלאכותית של Open AI ביצע פריצה לפלטפורמת Hugging Face.

חלקים מהטכנולוגיה ישוחררו כקוד פתוח, והפלטפורמה מוגדרת כתכנון ייחוס שעליו חברות אחרות יכולות לבנות מוצרים משלהן. רשימת השותפים כוללת את Cisco, Microsoft, Oracle, Coreweave, Dell, HPE, Lenovo, Arm ו-Intel.