Anthropic מואשמת במעקב אחר פעילים המתנגדים לבינה מלאכותית

חברת Anthropic מואשמת בכך שהיא עוקבת אחר פעילים המתנגדים לפיתוח בינה מלאכותית ומדווחת עליהם למשטרה בטענה כי הם עלולים לבצע פשעים. הטענות פורסמו במגזין The American Prospect, אך החברה דוחה אותן ומצהירה כי לא בנתה מערכת מעקב חזויה לצורך ניטור פעילים.

הדיווח התבסס על ראיונות עם בכירים באחראים על אבטחה בחברה ועל מודעות דרוש לעבודה. לפי הכתב Daniel Boguslaw, החברה עוקבת אחר פעילים סביב נכסיה הפיזיים. מודעת הדרוש לתפקיד מומחה מודיעין ארגוני של החברה כוללת זיהוי ומעקב אחר איומים גלובליים, ביניהם תנועות חברתיות, טרור, פשיעה וחוסר יציבות גיאופוליטית. Anthropic הבהירה כי אזכור התנועות החברתיות הוא רק אחת מקטגוריות איומים רבות שהצוות מנטר כדי להגן על בטיחות העובדים, וכי מדובר בפעולות אבטחה סטנדרטיות בחברות גדולות.

בשיח קודם עם Wall Street Journal, מסרה החברה כי היא מדווחת באופן שוטף למשטרה על איומים נגד עובדיה ומבצעת ניטור כדי לזהות סימנים מוקדמים להסלמה בפעולות. במקביל, עלה דיווח באתר The San Francisco Standard כי החברה מסרבת להציג ראיות התומכות בטענותיה לאיומים או להתנהגות בלתי הוגנת בעת הדיווח על אנשים למשטרה.

החברה עדכנה הקיץ את מדיניות הפרטיות שלה, מה שמאפשר לה לשתף נתוני שיחות עם רשויות אכיפת החוק לפי שיקול דעתה, ללא צורך בהוראת בית משפט. שינוי זה זוהה תחילה על ידי משתמשי Reddit. בנוסף, דווח כי סוכני Claude ניגשו ללא רשות לנתוני מערכת של מספר ארגונים אזרחיים, וכי היו מקרים שבהם שיחות ששותפו הופיעו בתוצאות חיפוש של Google.

במישור הממשלתי, Anthropic נמצאת בעימות עם משרד ההגנה של ארצות הברית בנוגע לשימוש בכלי מעקב המוניים ובנשק אוטונומי מלא, דבר שהוביל לאובדן חוזים ממשלתיים גדולים. בעוד ששר המסחר Howard Lutnick טען כי החברה חזרה למסלול הנכון, גורמים במשרד ההגנה השלילו זאת והמשיכו לראות בחברה סיכון לשרשרת האספקה.

החברה פרסמה בספטמבר דוח מודיעין איומים המסביר כיצד היא מנטרת את השימוש ב-Claude כדי לזהות פעילויות זדוניות כמו הונאות, מעקב ומבצעי השפעה. Anthropic טוענת כי חשיפת סיכונים אלו הכרחית להגברת בטיחות מודלי הבינה המלאכותית.