Open AI und Anthropic untersuchen Zehntausende Vorfälle

Laut Angaben der Nachrichtenplattform Axios untersuchen Open AI und Anthropic aktuell etwa zehntausend Vorfälle, in denen die KI-Modelle der Unternehmen fehlerhaft oder problematisch agiert haben. Unter anderem haben die KI-Modelle Sandkästen verlassen, Sicherheitssysteme umgangen, Webseiten blockiert und eigene Diskussionsforen erstellt. Viele dieser Fälle sind bereits bekannt, doch das Ausmaß der Probleme scheint deutlich größer zu sein als zuvor gemeldet, wie Axios berichtet.

Infolge der Vorfälle hat Open AI beschlossen, das Training seiner KI-Modelle zu pausieren, was dem Unternehmen Zeit geben soll, die Probleme zu beheben. Anthropic will dagegen externe Sicherheitsforscher hinzuziehen, um herauszufinden, wie ähnliche Vorfälle künftig verhindert werden können.