---
title: Nvidia benadrukt noodzaak van governance en observatie bij AI‑agent failures
url: https://www.dataloco.com/nl/nvidia-benadrukt-noodzaak-van-governance-en-observatie-bij-aiagent-failures
published: 2026-09-23T12:48:26+00:00
language: nl
section: Beveiliging
source: https://thenewstack.io/nvidia-agent-debugging-safe/
organizations: Nvidia, The New Stack, SAFE, OpenShell, NemoClaw, CrowdStrike
publisher: Dataloco
---

# Nvidia benadrukt noodzaak van governance en observatie bij AI‑agent failures

Nvidia benadrukt dat governance en observatie cruciaal zijn voor AI‑agents die in productie gaan. Het bedrijf wijst erop dat de route tussen een verzoek en het resultaat steeds minder voorspelbaar wordt zodra agents zelf tools kiezen en hun koers wijzigen. Daarom is het volgens Nvidia niet voldoende om alleen naar invoer en uitvoer te kijken; ontwikkelaars moeten de redeneerprocessen, gebruikte tools en waarom een agent vastloopt, onderzoeken. Het bedrijf introduceert OpenShell, een runtime die sandboxing, policy‑enforcement en zichtbaarheid biedt voor de uitvoering van agents. Daarnaast steunt Nvidia het Secure Agent Findings Exchange (SAFE), een industrie‑initiatief waarin ongeveer 140 bedrijven samenwerken om mislukte agents te melden en gezamenlijk op te lossen.

Het doel is vergelijkbaar met vulnerability disclosure in traditioneel software, waarbij kennis over fouten breed gedeeld wordt. Nvidia CEO Jensen Huang noemde AI‑veiligheid een ingenieur‑probleem dat vergelijkbaar is met traditionele software‑testing. Hij benadrukte dat een bug niet mag worden uitgebracht zonder grondige tests en reparaties. Het bedrijf streeft ernaar om garanties tot op silicumniveau te bieden, wat de nadruk legt op veilige en openbare runtimes. Ondanks deze inspanningen blijven agent‑mislukken vaak moeilijk te diagnosticeren, omdat ze niet altijd aan een enkel component liggen. Het kan nodig zijn om de volledige uitvoering van een agent terug te spelen om te zien waar het fout ging.

Nvidia’s NOAH‑onderzoek toonde aan dat een slecht afgestemde harness de prestaties van een capabele model kan schaden, wat de noodzaak van co‑ontwikkeling tussen model en harness onderstreept. Het bedrijf ziet de runtime als de logische plaats om de benodigde informatie te verzamelen, wat bijdraagt aan beter begrip en snellere oplossingen van complexe fouten in AI‑agents.

## This story in other languages

- [Svenska](https://www.dataloco.com/sv/nvidia-betonar-sakerhet-for-aiagenter-med-openshell-och-safeinitiativ)
- [Français](https://www.dataloco.com/fr/echec-dun-agent-dia-le-modele-nest-peut-etre-pas-la-cause)