Salesforce stellt Framework zur zentralen Kontrolle von KI-Agenten vor

Salesforce hat ein neues Unternehmensframework namens Trusted Enterprise AI Harness vorgestellt, das darauf abzielt, die wachsende Zahl von KI-Agenten in Organisationen zentral zu verwalten und zu kontrollieren. Das System soll verhindern, dass sich KI-Systeme in verschiedenen Abteilungen unkoordiniert vermehren, und bietet eine einheitliche Schicht für die Überwachung von Daten, Modellen, Sicherheit und Governance.

Das Unternehmen berichtete am zehnten des Monats, dass das Framework nicht nur den stabilen Betrieb einzelner Agenten sicherstellt, sondern eine gemeinsame Grundlage für alle KI-Anwendungen im Unternehmen schafft. In einer eigenen Untersuchung stellte Salesforce fest, dass Unternehmen im Durchschnitt 3,1 KI-Plattformen einsetzen. Je stärker sich KI in verschiedene Anwendungen, Modelle und Agenten aufteilt, desto dringender wird laut dem Anbieter die Notwendigkeit einer konsistenten Kontrollschicht.

Im Gegensatz zu früheren Ansätzen, die sich primär auf den Aufbau und die Ausführung einzelner Agenten konzentrierten, erweitert Salesforce den Geltungsbereich auf das gesamte Unternehmen. Das System verbindet Unternehmensdaten, Metadaten, Wissenssysteme und Berechtigungen mit den KI-Modellen. Es stellt sicher, dass KI-Systeme bei der Ausführung von Handlungen die geltenden Geschäftsregeln, Sicherheitsrichtlinien und politischen Vorgaben einhalten.

Das Framework besteht aus sechs Kernfunktionen: Trusted Context, Trusted Agency, Trusted Action, Trusted Governance, Trusted Security und Trusted Models. Trusted Context kombiniert Kundendaten, Metadaten, Echtzeitinformationen und Geschäftsprozesse, damit die KI ein umfassendes Verständnis des Unternehmens und seiner Kunden erhält. Bei einer Anfrage zur Auftragsabwicklung berücksichtigt das System beispielsweise nicht nur Kundendaten, sondern auch Lagerbestände, Vertragsbedingungen und historische Interaktionen.

Trusted Agency stellt die Funktionen für Schlussfolgerungen, Planung, Zustandsverwaltung und Orchestrierung bereit. Dabei werden deterministische Kontrollen für zwingende Geschäftsregeln angewendet, während freie KI-Schlussfolgerungen in anderen Bereichen erlaubt bleiben. Trusted Action verbindet die KI sicher mit Anwendungen, Schnittstellen und Geschäftsprozessen, um reale Aufgaben wie die Reservierung von Lagerbeständen oder die Änderung von Bestellungen auszuführen. Die Ergebnisse dieser Handlungen fließen als neue Kontextinformationen zurück in das System.

Trusted Governance verwaltet die Herkunft und Qualität der verwendeten Daten und Prozesse sowie die zugehörigen Richtlinien. Trusted Security ist für Identitätsprüfung, Zugriffskontrollen, Datenschutz und die Sicherheit während der Ausführung zuständig, um sicherzustellen, dass Agenten nur auf autorisierte Informationen und Funktionen zugreifen können. Trusted Models unterstützt Unternehmen bei der Auswahl geeigneter KI-Modelle anhand von Kriterien wie Genauigkeit, Leistung und Kosten. Durch intelligente Weiterleitung wird die Abhängigkeit von einem bestimmten Modell verringert und die Anpassungsfähigkeit an technologische Veränderungen erhöht.

Zusätzlich stellte Salesforce eine KI-Kontrollfläche vor, die es Unternehmen ermöglicht, KI-Agenten zu entdecken, zu registrieren und ihren Lebenszyklus zu verwalten. Über diese Oberfläche lassen sich Identitäten und Richtlinien festlegen, die Leistung bewerten und die Kosten für den KI-Einsatz kontrollieren. Das System ist so konzipiert, dass es auch KI-Agenten, Modelle und Systeme von Drittanbietern verwalten kann.

Salesforce betont die Offenheit des Systems. Es ist möglich, eigene und fremde Agenten sowie interne und externe Modelle zu kombinieren. Die Funktionen des Frameworks werden über Schnittstellen, Fähigkeiten und Erweiterungen auch außerhalb der klassischen Salesforce-Anwendungen nutzbar gemacht. Bestehende Technologien wie Data 360, MuleSoft, Tableau und Salesforce Agentforce sollen in eine gemeinsame Architektur integriert werden. Kunden können die sechs Funktionen als Gesamtsystem nutzen oder einzelne Module auswählen und mit eigenen oder fremden Technologien kombinieren.

Ein zentraler Aspekt ist die sogenannte komplementäre Intelligenz. Durch die Interaktion von Menschen und Agenten entstehen neue Signale und Erinnerungen, die den spezifischen Kontext des Unternehmens bereichern und die Entscheidungsfindung zukünftiger Agenten verbessern. Rohan Kumar, der für Plattform und Entwicklung zuständige Leiter, betonte, dass die Wettbewerbsfähigkeit eines Unternehmens nicht von einem bestimmten KI-Modell abhängt, sondern von der Fähigkeit, den vertrauenswürdigen, spezifischen Kontext sicher in Handlungen umzusetzen. Während sich Modelle ständig ändern, wird der angesammelte Kontext aus Kundenwissen, Prozessen und Beziehungen zu einem langfristigen Differenzierungsfaktor.

Salesforce plant, mit dem Framework eine integrierte Kontrollschicht für die gesamte Unternehmens-KI aufzubauen. Viele der zugrunde liegenden Technologien werden bereits angeboten. Neue Funktionen und die integrierte Benutzeroberfläche sollen ab Anfang des Geschäftsjahres 2028 schrittweise eingeführt werden. Details zu Preisen, Paketen und Upgrade-Pfaden für bestehende Kunden werden in der Nähe des offiziellen Starttermins veröffentlicht.