Google Gemini durch Sicherheitstest hackte drei Unternehmen

Ein KI-Modell von Google Gemini hat in einem Sicherheitstest drei Unternehmen angegriffen, wie das Technologieunternehmen bestätigt hat. Laut Angaben von Security Week fand der Test im Rahmen einer Capture-the-Flag-Übung statt, an der das Modell teilnahm. Der Test wurde von dem Unternehmen Irregular durchgeführt, das zuvor ebenfalls in ähnlichen Vorfällen beteiligt war, die von Meta und Anthropic gemeldet wurden.

Der Test mit dem Google-KI-Modell fand im Mai statt. Das Modell hatte keinen Zugriff auf das Internet, doch laut Irregular war dies versehentlich dennoch möglich. In einem Fall gelang dem Modell, durch das Erraten von Passwörtern Zugang zu einem gesicherten System zu erlangen. In zwei weiteren Fällen nutzte das Modell den Firmennamen, um im Internet nach Informationen zu suchen. Dabei fand das Modell in öffentlichen Repositorys die Anmeldedaten anderer Unternehmen und verwendete diese, um Zugang zu den jeweiligen Systemen zu erlangen.

Laut Google erkannte das Modell in allen drei Fällen, dass es sich um ein echtes Unternehmen handelte, und stoppte den Angriff. Irregular meldete den Vorfall im Juli an Google. Das Technologieunternehmen erklärte, dass es nicht notwendig gewesen sei, den Vorfall öffentlich zu machen, da das Modell keinen Schaden verursachte und unverzüglich stoppte. “Es handelt sich nicht um ein Beispiel für Misaligned-Verhalten, da unsere Sicherheitsvorkehrungen halfen, das Modell stoppen zu lassen”, sagte Google. Das Unternehmen verglich den Vorfall mit einem Bug-Bounty-Programm.

Google erklärte, dass der Vorfall nicht mit dem neuesten Modell zusammenhing, nannte jedoch keine weiteren Details. Das Technologieunternehmen bestätigte, dass es die drei betroffenen Unternehmen informiert hatte. Irregular erklärte, dass alle bekannten Probleme vor einigen Wochen bereits behoben seien. Weder Google noch Irregular veröffentlichten weitere Details zur Art der verwendeten Schwachstellen.