Nvidia betonar säkerhet för AI‑agenter med OpenShell och SAFE‑initiativ

Nvidia presenterar en ny säkerhetsstrategi för AI‑agenter som riktar sig mot ökad öppenhet och möjlighet att dela felrapporteringar mellan företag. I en intervju med The New Stack säger Nvidia VP för produkt Adel el Hallak att den traditionella observabiliteten blir otillräcklig när agenter kan välja egna verktyg och avvika från sina uppgifter utan tydlig felindikation. För att hantera detta föreslår Nvidia OpenShell, en sandboxad körningsmiljö som hanterar policyer och ger detaljerad insyn i agentens resonemangsspår. OpenShell är enligt el Hallak ett icke‑förhandlingsbart komponent i Nvidias referensarkitekturer och möjliggör spårning av hur agenter tar beslut, vilka verktyg de använder och var de fastnar.

För att underlätta samarbete har Nvidia medverkat till att skapa SAFE‑initiativet, Secure Agent Findings Exchange, som nu stöds av omkring 140 företag och bygger på en gemensam infrastruktur för att rapportera agentfel likt sårbarhetsrapportering i vanlig programvara. El Hallak betonar att fel i AI‑agenter inte alltid kan kopplas till en specifik modellkomponent utan kan bero på hur agentens körningsmiljö är konfigurerad eller hur den interagerar med sina verktyg. Nvidia har dessutom visat i sitt NOAH‑forskningsprojekt att en felaktig orchestration kan försämra prestanda även med en stark modell, vilket understryker vikten av välmatchade harnessar.

Företaget kombinerar OpenShell med konfidentiell beräkning och sandboxing för att skydda både modeller och användardata, och hävdar att sådana garantier kan sträcka sig till hårdvarans nivå. Genom SAFE‑nätverket hoppas Nvidia skapa en gemensam plattform där organisationer kan dela lärdomar från misslyckade agentutföranden och därmed snabbare identifiera och reparera problem. Denna strategi speglar en bredare industriell förskjutning mot att behandla AI‑säkerhet som ett ingenjörsproblem snarare än ett teoretiskt forskningsområde.