KI · 27. Oktober 2026
IA-Governance als Schutz vor Abschaltung autonomer Agenten
Ein Professor der Fundação Dom Cabral hat sieben Empfehlungen für Unternehmen vorgestellt, die künstliche Intelligenz bereits einsetzen. Die Vorstoß geht von der Erkenntnis aus, dass gutgemachte Richtlinien allein nicht ausreichen. Stattdessen braucht es klare Strukturen, benannte Verantwortlichkeiten und aktive Kontrollen. Ohne diese Elemente könnten Unternehmen gezwungen sein, ihre KI-Agenten zu deaktivieren.
Die Dringlichkeit des Themas wird durch eine Prognose der Beratungsfirma Gartner gestützt, die im Mai 2026 veröffentlicht wurde. Demnach erwarten die Analysten, dass bis 2027 40 Prozent der Unternehmen die Autonomie ihrer KI-Agenten reduzieren oder diese vollständig abschalten werden. Der Grund dafür seien unzureichende Governance-Mechanismen, die erst nach Fehlern in der Produktion sichtbar würden. Der Professor betont, dass es besser sei, vorbeugend zu handeln, anstatt erst nach einem Vorfall zu reagieren.
Zu den sieben empfohlenen Praktiken zählen unter anderem die Kartierung aller im Unternehmen genutzten KI-Tools sowie die Schaffung eines gesicherten Umfelds, in dem Mitarbeitende ohne Angst vor Konsequenzen ihre Erfahrungen teilen können. Zudem sollte eine regelmäßige Schulung stattfinden, idealerweise alle sechs Monate oder jährlich. Weitere Punkte beinhalten die klare Definition von Rollen und Aufgaben für jeden Agenten sowie die Benennung eines menschlichen Verantwortlichen. Auch ein zentraler Dashboard-Zugriff für alle Beteiligten wird als wichtig angesehen.
Zusätzlich müssen Unternehmen messbare Indikatoren für die Leistung ihrer KI-Agenten etablieren. Diese sollten Aufschluss geben darüber, ob Aufgaben korrekt erledigt wurden, wie viel Zeit und Ressourcen dabei verbraucht wurden und ob Kunden zufrieden sind. Abschließend ist auch der Schutz der Agenten selbst gefordert. Dazu zählen die Überwachung von Token-Verbrauch, die Erkennung von Prompt-Injection-Versuchen und die Einplanung von Guardrails in das Budget.