Forschende dringen bei OpenAI mit Hilfe von Claude ein

Forschende haben erfolgreich bei OpenAI eingedrungen, wobei sie Claude von Anthropic verwendeten. Durch eine Schwachstelle im Community-Forum von OpenAI erhielten sie Zugang zum ChatGPT-Konto eines Mitarbeiters, das wiederum Zugang zu interner Software hatte. OpenAI zahlte den Forschenden 6.500 Dollar für das Auffinden der Schwachstelle.

Die Forschenden von dem Cybersicherheitsunternehmen Hacktron AI führten dies im Rahmen eines Bug-Bounty-Programms von OpenAI durch. In diesem Programm bezahlen Unternehmen ethische Hacker, um Sicherheitslücken zu identifizieren, bevor böswillige Akteure dies tun.

Für ihre Untersuchung nutzten die drei Forschenden ein Werkzeug von Anthropic, das speziell für Cybersicherheitsprofis entwickelt wurde. Dadurch konnten sie Änderungen an der Software vorschlagen. OpenAI gab mittlerweile an, die Probleme behoben zu haben, und bedankte sich bei den Forschenden für das Aufzeigen dieses Problems.

Die Hackeraktivität weckt neue Bedenken hinsichtlich der Sicherheit von KI-Systemen. Diese Systeme stehen zunehmend unter Beobachtung, da leistungsstarke KI-Modelle nicht nur zur Entwicklung von Software, sondern auch zur Durchführung von Cyberangriffen genutzt werden können.