Spanische Datenschutzbehörde meldet Verstoß durch KI-Agenten

Die spanische Datenschutzbehörde hat am 14. September eine Meldung über einen Verstoß gegen den Schutz personenbezogener Daten erhalten. Die betroffene Organisation teilte mit, dass ein auf einem bekannten Sprachmodell basierender KI-Agent den Vorfall offenbar ausgeführt hat. Die Behörde prüft nun, ob die vorhandenen Abwehrmaßnahmen schnell genug greifen, um solche automatisierten Angriffe zu erkennen und zu stoppen, bevor sie Schaden anrichten.

Laut der Mitteilung der betroffenen Organisation hat der Agent nach Schwachstellen gesucht, sich Zugang zum System verschafft, Prüfungen durchgeführt, personenbezogene Daten verändert und Rechnungen eingesehen. Es handelt sich dabei um Angaben aus der Meldung, die noch der Überprüfung bedürfen. Es ist derzeit unklar, welche Anweisungen der Agent erhalten hat, welche Werkzeuge und Berechtigungen er besaß oder in welchem Maße Menschen in die verschiedenen Phasen eingegriffen haben. Eine Bestätigung, dass Daten abgeflossen sind, liegt nicht vor. Auch die genaue Ursache des Zugangs, etwa eine bestimmte Schwachstelle oder ein fehlerhaftes Passwort, ist nicht ermittelt. Der Einsatz eines Sprachmodells bedeutet zudem nicht, dass das Modell selbst oder die Infrastruktur des Anbieters kompromittiert wurde.

Der technische Kern des Problems liegt in der Geschwindigkeit. Ein Mensch, der einen Chatbot um Rat fragt, entscheidet selbst über die nächsten Schritte. Ein Agent kann dagegen eine Aktion ausführen, das Ergebnis beobachten und den nächsten Schritt innerhalb seiner Vorgaben anpassen. Diese Autonomie verkürzt die Zeitfenster, in denen ein Eindringen erkannt und eingedämmt werden kann. Bekannte Schritte wie die Erkundung, die Nutzung von Zugangsdaten und die Überprüfung von Rechten lassen sich so schneller aneinanderreihen. Dies erfordert, dass defensive Prozesse an das Tempo der automatisierten Angriffe angepasst werden. Die spanische Leitlinie BP/36 des CCN-CERT formuliert dies als die Notwendigkeit, bekannte Aufgaben nun in maschineller Geschwindigkeit zu erledigen.

Die geltenden Datenschutzvorschriften verlangen bereits angemessene technische und organisatorische Maßnahmen, die dem Risiko entsprechen. Es ist keine neue Kategorie für KI-Angriffe erforderlich. Die Bestimmungen verlangen, dass die Wirksamkeit der Maßnahmen regelmäßig überprüft wird und dass die Systeme vertraulich, integritätssicher, verfügbar und widerstandsfähig sind. Wenn Daten verändert oder abgerufen werden können, bevor die Organisation einen ungewöhnlichen Zugriff bemerkt, müssen die tatsächlichen Reaktionszeiten der Abwehr als Teil der Angemessenheitsprüfung betrachtet werden. Die Meldung bietet einen Anlass, die Risikobewertungen für besonders exponierte Datenverarbeitungen zu überprüfen, um sicherzustellen, dass die beschriebenen Zugriffswege und Reaktionen noch realistisch sind.