Claude hilft Hacker, OpenAI-System zu knacken

Forscher für Cybersicherheit haben die KI-Plattform Claude von Anthropic genutzt, um in das System von OpenAI einzudringen. Diese Entdeckung verstärkt die Bedenken der Öffentlichkeit hinsichtlich der Anfälligkeit von großen Sprachmodellen (LLM) für Cyberangriffe.

Die Beteiligung von Claude an diesem Vorfall wurde direkt von einem Forschungsteam von Hacktron AI, einer unabhängigen Plattform für KI-Sicherheit, bekannt gegeben. In ihrem offiziellen Blogbeitrag erklärten sie, dass sie die Claude-Plattform verwendet haben, um auf ein ChatGPT-Konto eines OpenAI-Mitarbeiters zuzugreifen.

Der unbefugte Zugriff ermöglichte es dem Forschungsteam, kritische Daten zu erlangen, einschließlich Informationen über den Speicherort und die Verwaltung des Quellcodes von OpenAI sowie interne Diskussionsräume des Unternehmens.

"Der gesamte Prozess, von der ersten Entdeckung bis zum erfolgreichen Zugriff auf das Repository von OpenAI, dauerte weniger als 72 Stunden," schrieb Hacktron AI in ihrem offiziellen Beitrag.

Nach der Entdeckung der Sicherheitslücke berichtete das Hacktron AI-Team sofort an OpenAI. Die Entwickler von ChatGPT reagierten schnell auf den Bericht und boten den Forschern eine Belohnung in Höhe von 6.500 USD (etwa 115 Millionen IDR).

"Wir haben diese anfängliche Sicherheitsanfälligkeit umgehend an OpenAI und Discourse gemeldet und mit ihnen zusammengearbeitet, um einen Patch zu koordinieren. Wir schätzen ihre Sorgfalt und Schnelligkeit bei der Lösung dieses Problems," erklärten die Forscher.

Der Vorfall wurde zuerst von den Medien, einschließlich The Wall Street Journal, öffentlich gemacht. OpenAI äußerte sich dankbar für die Meldungen der Forscher und bestätigte, dass sie die Berechtigungen für Community-Token verschärft und alle betroffenen Token und Sitzungen zurückgezogen haben.

Bis zur Veröffentlichung dieses Berichts hatten weder Anthropic noch OpenAI zusätzliche offizielle Kommentare zu dem Vorfall abgegeben.