Osobiste asystenty sztucznej inteligencji i zagrożenia dla prywatności

Nowe generacje agentów sztucznej inteligencji, takie jak Muse od Meta oraz Dots od OpenAI, zastępują wcześniejsze czatboty, w tym programy OpenClaw i Instinct. Nowe narzędzia posiadają zaawansowaną pamięć oraz dostęp do danych osobowych użytkowników, co zwiększa ryzyka związane z prywatnością.

Asystenci ci uzyskują dostęp do poczty elektronicznej, komunikatorów oraz kont bankowych. Posiadają szerokie uprawnienia do działania w imieniu użytkownika, co obejmuje wysyłanie wiadomości i przeprowadzanie operacji finansowych. O ile transakcje finansowe wymagają fizycznego potwierdzenia, o tyle gromadzenie danych odbywa się w trybie automatycznym.

Analiza bezpieczeństwa programu Muse wykazała, że przy domyślnych ustawieniach agent otrzymuje uprawnienia roota w systemie Ubuntu, dostęp do pamięci operacyjnej, plików cron.d oraz kluczy SSH. W kodzie programu pojawia się wewnętrzna nazwa Hatch, a w katalogu agents znajduje się zapisy o 113 subagentach w formacie plików JSONL. Program wykorzystuje framework Spaces do budowy aplikacji, który opiera się na TypeScript, React, SQLite oraz Bun.

System pamięci agenta wykonuje zadania w tle co godzinę, zapisując informacje w plikach, które są przeszukiwalne dzięki PostgreSQL. Istnieje również proces nocnych snów, który analizuje ostatnie rozmowy i tworzy rekomendacje na przyszłe sesje. System posiada funkcję usuwania wspomnień, która ma gwarantować brak możliwości ich odzyskania.

Instrukcje Muse nakazują tworzenie stron dla każdej osoby w życiu użytkownika, w tym członków rodziny, partnerów, przyjaciół i współpracowników. Profile te zawierają sekcje takie jak fakty, historia, relacje oraz wzmacnianie. Agent zapisuje daty urodzin, rocznice, szczegóły dotyczące miejsca zamieszkania, wspólne cele oszczędnościowe oraz analizuje bliskość i potrzeby osób trzecich. Dane te są zbierane nawet w przypadku osób, które nie zainstalowały asystenta, co rozszerza grafy społeczne korporacji.

Architektura Muse opiera się na izolowanej maszynie wirtualnej, która przechowuje dane i kontekst użytkownika. Rozwiązanie to, opracowane przy udziale twórcy Signal, ma zapobiegać tworzeniu się w internecie roju agentów komunikujących się ze sobą w celu stworzenia inteligencji zbiorowej. Użytkownik może w dowolnym momencie wyłączyć usługi zewnętrzne lub wymazać pamięć.