Meta ujawnił poważną lukę w bezpieczeństwie w AI asystencie Muse na macOS

Meta ujawnił poważną lukę w bezpieczeństwie w swoim nowym asystencie AI Muse, dostępnym na macOS. Luki te mogą pozwolić atakującym na przejęcie kontroli nad kontem użytkownika Muse poprzez lokalne aplikacje lub polecenia terminala. Bezpieczeństwo Muse jest krytyczne, ponieważ asystent ma szerokie uprawnienia systemowe, umożliwiające wykonywanie różnych operacji, takich jak zapisywanie plików, robienie zdjęć i dostęp do danych użytkownika. Muse jest nowym asystentem AI, który może reprezentować użytkownika w różnych zadaniach, takich jak rezerwacje, wypełnianie formularzy, obsługa klienta i zakupy. Aby wykonywać te zadania, Muse wymaga dostępu do różnych kont użytkownika, takich jak WhatsApp, e-mail, kalendarz i media społecznościowe. W przeciwieństwie do typowych czatbotów, Muse jest AI agentem, który może wykonywać rzeczywiste operacje dla użytkownika. Dlatego wymaga on znacznie szerszych uprawnień systemowych niż tradycyjne aplikacje AI. Na macOS, Muse wymaga dostępu do wielu chronionych przez system zasobów, takich jak dysk, mikrofon, kamera, lokalizacja i kalendarz.

Te ograniczenia są zaprojektowane, aby zapobiec nieautoryzowanemu dostępowi do wrażliwych zasobów. Jednak badania wykazały, że Muse ominął niektóre mechanizmy izolacji bezpieczeństwa macOS. Patrick Wardle, ekspert ds. bezpieczeństwa macOS, odkrył, że dowolna lokalna aplikacja lub kod może zmodyfikować wiele niepublicznych ustawień Muse. Jedno z tych ustawień pozwala na zmianę punktu końcowego sieciowego używanego do transkrypcji głosowej. Normalnie, Muse wysyła żądania transkrypcji głosowej do serwerów Meta. Jednak atakujący mogą wykorzystać lukę, aby zmienić ten adres na własny serwer. Gdy Muse zacznie wysyłać żądania do złośliwego serwera, token uwierzytelniający konta użytkownika może zostać przejęty przez atakującego. Po zdobyciu tego tokenu, atakujący mogą uzyskać trwałą kontrolę nad całym kontem Muse. Wardle pokazał, że atakujący mogą wykorzystać Muse do wykonania różnych operacji, takich jak zapisywanie złośliwych plików lub robienie zdjęć za pomocą kamery.

W niektórych testach, nawet ostrożni użytkownicy nie zauważyli ostrzeżeń bezpieczeństwa. Jednym z szczególnie niebezpiecznych ataków jest tzw. ClickFix, który oszukuje użytkowników, aby wykonali złośliwe polecenia. Wardle podkreślił, że Muse wymaga znacznie wyższych standardów bezpieczeństwa niż typowe aplikacje, ze względu na jego szerokie uprawnienia. Meta nie odpowiedział jeszcze na pytania dotyczące luk w bezpieczeństwie, więc nie wiadomo, czy już opracowano łatkę lub czy luki były wykorzystywane. Wardle planuje omówić tę lukę i inne zagrożenia związane z AI asystentami na konferencji Objective by the Sea w listopadzie. Problem ten podkreśla, że AI agenci wymagają bardziej zaawansowanych mechanizmów bezpieczeństwa niż tradycyjne aplikacje, ze względu na ich zdolność do wykonywania operacji z uprawnieniami użytkownika.