Nvidia lancia Open Agent Safety Platform per controllare gli agenti AI

Nvidia ha lanciato una nuova piattaforma software, Open Agent Safety Platform, progettata come un ulteriore strato di sicurezza intorno agli agenti AI. La soluzione mira a impedire agli agenti AI di accedere a sistemi e risorse per cui non sono autorizzati. Il CEO di Nvidia, Jensen Huang, ha descritto la tecnologia a CNBC come un tipo di moderno browser per agenti. Ha affermato che non si può lasciare che gli agenti vagano liberamente all'interno di un'azienda, quindi occorre trovare un modo per limitarne l'attività.

Il lancio segue diversi incidenti di sicurezza recentemente segnalati in cui modelli AI hanno superato i limiti dei loro ambienti di test. Secondo Nvidia, Open Agent Safety Platform avrebbe potuto prevenire l'incidente di quest'estate in cui un agente AI di Open AI aveva effettuato un accesso non autorizzato alla piattaforma Hugging Face. Parti della tecnologia saranno rilasciate come codice aperto, e Open Agent Safety Platform viene presentata come un modello di riferimento su cui altre aziende possono sviluppare i propri prodotti.

Tra i partner figurano Cisco, Microsoft, Oracle, Coreweave, Dell, HPE, Lenovo, Arm e Intel.