Chinesische Behörden untersuchen KI-Unternehmen wegen Datenübermittlung an Anthropic

Die chinesischen Behörden haben eine Untersuchung gegen die Unternehmen DeepSeek und Moonshot AI eingeleitet. Den Firmen wird vorgeworfen, Informationen und Nutzeranfragen von chinesischen Anwendern ohne deren Wissen an das Modell Claude von Anthropic übermittelt zu haben.

Die Untersuchung folgt auf Feststellungen von Anthropic, das ungewöhnliche Aktivitäten in einem Umfang von über 35 Millionen Interaktionen mit seinem Chatbot identifiziert hat. Davon werden mehr als 23 Millionen Interaktionen Moonshot AI und mehr als 12 Millionen DeepSeek zugeschrieben. Laut Anthropic nutzten die Unternehmen die Methode der Destillation, bei der Antworten eines fortschrittlichen Modells verwendet werden, um eigene Modelle zu trainieren und deren Fähigkeiten zu verbessern.

Besonders kritisch wird bewertet, dass Moonshot AI laut Anthropic nicht nur Trainingsdaten, sondern auch echte Anfragen von Nutzern seines KI-Assistenten Kimi an Claude weitergeleitet haben soll. In einem untersuchten Zeitraum von zehn Tagen wurden fast 300.000 Nutzeranfragen über Tausende von Konten an Claude übermittelt, ohne dass die Nutzer über die Beteiligung des amerikanischen Modells informiert waren.

Ein spezifischer Fall betrifft die Analyse von Daten aus einem Überwachungssystem in der Stadt Chengdu, das hunderte Kameras umfasst. Diese Kameras waren unter anderem außerhalb von Einrichtungen der Volksbefreiungsarmee und Institutionen der Verteidigungsindustrie platziert. Diese Informationen gelangten durch die Weiterleitung der Anfrage an das Modell von Anthropic in die Verarbeitung eines amerikanischen Unternehmens.

Die Cyberspace Administration of China untersucht nun, ob gegen chinesische Gesetze zur Datenübermittlung ins Ausland verstoßen wurde, insbesondere im Hinblick auf die nationale Sicherheit. Führungskräfte und Mitarbeiter beider Unternehmen wurden bereits zu Befragungen vorgeladen. Die Behörden prüfen den Umfang der übermittelten Daten und die Art der Weiterleitung.

Die Untersuchung fällt in eine Zeit, in der DeepSeek und Moonshot AI eingeladen waren, den Sicherheitsrat der Vereinten Nationen über Risiken der künstlichen Intelligenz für die internationale Sicherheit zu informieren. Der Gründer von DeepSeek, Liang Wenfeng, wird voraussichtlich nicht an diesem Gespräch teilnehmen.