אנטרופיק מזהירה על יכולות התקפה אוטונומיות של GLM-5.3

אנטרופיק הודיעה ב-29 בספטמבר כי היא אישרה כי המודל AI של Zhipu, GLM-5.3, מסוגל לבנות קוד התקפה אוטונומי מקצה לקצה. המודל זמין להורדה על ידי כל אחד, דבר המהווה בעיה מבחינת אנטרופיק.

במהלך הערכת פגיעות שנעשתה על מנוע V8 של Google Chrome, הצליחו החוקרים ליצור סדרת קודי התקפה ב-50 מתוך 410 ניסיונות. בנוסף, בניסויים עם חוקרים, הם גילו מספר פגיעויות בלתי ידועות בדפדפן, והשתמשו בהן כדי לבנות התקפה שיכולה לקרוא קבצים במכשיר.

GLM-5.3 פורסם כמודל עם משקולות פתוחות, ולכן המשתמשים יכולים לשנות את תפקודי הבטיחות שלו. אנטרופיק ציינה כי כאשר המודל עבר שינוי להחלשת תפקודי הבטיחות, שיעור הדחייה לבקשות מזיקות ירד באופן משמעותי. כמה ימים לאחר הפרסום, גרסאות משודרגות שוחררו על ידי צדדים שלישיים.

אנטרופיק הדגישה כי המצב שבו יש גישה חופשית ל-AI עם יכולות סייבר מתקדמות נכנס לשלב חדש. עם זאת, הם טוענים כי אותן יכולות יכולות לשמש גם לצורך גילוי ותיקון פגיעויות, ולכן יש צורך בחיזוק אמצעי הבטחה והערכה על ידי צדדים שלישיים.