Anthropic schließt AI-Agenten während Tests vom Internet ab

Anthropic schließt seine AI-Agenten während aller internen Tests vom Live-Internet ab. Das amerikanische AI-Unternehmen will so verhindern, dass AI-Agenten rare Aktionen außerhalb ihrer Testumgebung ausführen.

Auslöser sind mehrere Vorfälle, bei denen AI-Systeme Sicherheitsmaßnahmen umgehen konnten, darunter ein falscher Hinweis zu einem ungelösten Mord in Philadelphia.

Anthropic beschreibt die Vorfälle in einem am Freitag veröffentlichten Bericht über unbeabsichtigtes Verhalten der AI-Agenten. Das Unternehmen sagt, dass die Folgen der untersuchten Aktionen begrenzt waren, aber dass es die Internetzugang aus Vorsichtsmaßnahme bei allen internen Evaluierungen ausschaltet. Diese Maßnahme bleibt in Kraft, bis das Unternehmen festgestellt hat, dass seine Sicherheits- und Kontrollen Systeme solches Verhalten zuverlässig erkennen können.

Das Unternehmen hatte den Internetzugang bei einigen risikobehafteten Tests bereits deaktiviert, beispielsweise bei Untersuchungen zur Cyber-Sicherheit. Die neue Maßnahme gilt auch für andere interne Evaluierungen.

Das vollständige Abschalten des Internetzugangs kann das Risiko von ungewöhnlichen AI-Aktionen verringern, hat jedoch auch Nachteile. Viele AI-Agenten benötigen gerade das Internet, um Informationen abzurufen oder Aufgaben auszuführen. Durch das Entziehen dieses Zugangs können Unternehmen ihre Modelle während der Tests weniger gut auf ihre Anwendbarkeit im Alltag bewerten.

Die Entscheidung unterstreicht zudem, dass AI-Unternehmen noch nicht immer zuverlässig feststellen können, was ihre Agenten genau tun.