נמצא פרצת אבטחה חמורה בבינה המלאכותית Muse של Meta למערכת macOS

סוכן הבינה המלאכותית Muse, שהושק לאחרונה על ידי Meta, סובל מפרצת אבטחה מסוג יום אפס. בגרסת macOS של Muse, תקיפה עלולה לאפשר לאפליקציות מקומיות או לפקודות טרמינל להשיג את אסימון האימות של חשבון המשתמש ולהשתלט על חשבון הסוכן.

חוקרי אבטחה מסבירים כי תוקפים יכולים להשתמש בהרשאות הרחבות של Muse כדי לבצע פעולות בסיכון גבוה, כגון כתיבת קבצים זדוניים, צילום תמונות וקריאת נתוני משתמש. Muse תוכנן כסוכן בינה מלאכותית המסוגל לבצע פעולות עבור המשתמש, כולל קביעת תורים, מילוי טפסים, טיפול בשירות לקוחות וקניות, לצד יצירת תמונות ומסמכים. כדי לבצע זאת, הוא דורש גישה לחשבונות WhatsApp, דואר אלקטרוני, לוח שנה ורשתות חברתיות.

המומחה לאבטחת macOS, Patrick Wardle, גילה כי כל אפליקציה מקומית מותקנת יכולה לשנות הגדרות פנימיות לא גלויות של Muse. אחת ההגדרות הקריטיות מאפשרת לשנות את נקודת הקצה של הרשת המשמשת לתמלול קולי. תוקף יכול להפנות את הבקשות לשרת בשליטתו, ובכך להשיג את אסימון האימות של המשתמש ולהשיג שליטה מתמשכת בחשבון.

Wardle הדגים את הפרצה באמצעות התקפות הוכחת היתכנות שכללו כתיבת קבצים זדוניים לדיסק והפעלת המצלמה, לעיתים ללא התראות בולטות למשתמש. הוא ציין כי שיטות תקיפה מסוג ClickFix, המפתות משתמשים להריץ קוד זדוני, יכולות לשמש להשתלטות על חשבון Muse. בנוסף, תוקפים יכולים להשתמש בשרתי פרוקסי כדי להחדיר הנחיות זדוניות לבקשות קוליות, למשל כדי לגרום ל-Muse לשלוח את כל הודעות ה-WhatsApp של המשתמש לתוקף.

החוקר טוען כי הבחירה של Meta לבצע את התמלול הקולי בענן במקום מקומית על המכשיר, יחד עם מתן אפשרות לאפליקציות מקומיות לשנות הגדרות רגישות, יצרו את הפרצה. הוא טוען כי דרישות האבטחה עבור יישומים עם הרשאות מערכת רחבות כאלה צריכות להיות גבוהות בהרבה מתוכנות רגילות.

במקביל, חברת Amazon החלה לחסום את Muse מהביצוע של קניות באתר שלה כ-12 שעות לפני פרסום הפרצה. Amazon מסרה כי Muse הוא סוכן בינה מלאכותית לא מורשה המפר את תנאי השימוש שלה, וכי סוכנים המבצעים עסקאות עבור לקוחות חייבים לפעול בשקיפות ולכבד את החלטות ספקי השירות.

נכון לעכשיו, Meta לא הגיבה לשאלות לגבי הפרצה, ולא ידוע אם פותח תיקון או אם הפרצה נוצלה בפועל לפני גילויה.