Datenschutz · 4. November 2026
Auch veröffentlicht auf Português (Brasil), Español, Nederlands, Svenska, Polski
Persönliche KI-Assistenten sammeln detaillierte Profile über soziale Kontakte von Nutzern
Die neuen persönlichen KI-Assistenten von Meta und OpenAI, wie Muse und Dots, stellen ein Risiko für die Privatsphäre dar. Diese Agenten der zweiten Generation lösen ältere Programme wie OpenClaw und Instinct ab, da sie über einen fortschrittlichen Speicher und Zugriff auf persönliche Nutzerdaten verfügen.
Die Assistenten greifen auf E-Mails, Messenger und Bankkonten zu und können im Namen des Nutzers Nachrichten versenden oder Finanztransaktionen durchführen. Während Finanzoperationen eine physische Bestätigung erfordern, erfolgt die Erfassung privater Daten automatisch.
Sicherheitsexperten untersuchten die Funktionsweise von Muse und stellten fest, dass der Agent bei Standardeinstellungen Root-Rechte auf Ubuntu sowie Zugriff auf den Arbeitsspeicher, cron.d und SSH-Schlüssel erhält. Intern wird der Agent Hatch genannt. Das System nutzt das Framework Spaces zur App-Erstellung, welches einen React-Client, Server-Aktionen, ein Drizzle-Schema für SQLite, SQL-Migrationen und eine Bun-Konfiguration umfasst. Die Verzeichnisse /home/hatch, /opt/hatch und /opt/hatch-image enthalten wichtige Dateien, während der Ordner agents/ Aufzeichnungen über 113 Subagenten in JSONL-Dateien speichert.
Das Speichermodell führt stündliche Hintergrundaufgaben aus, die Informationen nach Themen sortieren und in Dateien speichern, welche über PostgreSQL durchsuchbar sind. Ein nächtlicher Prozess, bezeichnet als Träumen, analysiert Gespräche und erstellt Empfehlungen für zukünftige Sitzungen, wobei alte Daten in ~/dreams/ abgelegt werden. Ein spezielles System löscht Erinnerungen so, dass eine Wiederherstellung unmöglich ist.
Analysen ergaben, dass Muse angewiesen wird, für jede Person im Leben des Nutzers eine Seite zu erstellen. Dies betrifft Familienmitglieder, Partner, Freunde, Kollegen, Mitwirkende und Personen, denen der Nutzer folgt. Diese Profile enthalten Abschnitte für Fakten, Geschichte, Beziehungen, Gemeinsamkeiten, offene Themen und eine Rubrik zur Stärkung der Beziehung. Die Anweisungen fordern die Nutzung echter Beweise für Details wie Wohnorte, Berufe, Geburtstage, Jahrestage oder vergangene Ereignisse. Zudem wird die Nähe und das Verhalten in Beziehungen dokumentiert, um Tipps zur Verbesserung der sozialen Kontakte zu geben.
Dies führt zur unbefugten Sammlung personenbezogener Daten von Menschen, die selbst keinen KI-Agenten installiert haben, und erweitert bestehende soziale Graphen der IT-Konzerne. Zur Sicherheit nutzt Muse eine isolierte virtuelle Maschine für Nutzerdaten, die von anderen Agenten nicht zugänglich ist. Diese Architektur, die mit Unterstützung von Moxie Marlinspike entwickelt wurde, soll verhindern, dass persönliche Agenten untereinander kommunizieren und eine kollektive Intelligenz bilden. Nutzer können den Speicher löschen oder externe Dienste deaktivieren.