אבטחה · 7 בנובמבר 2026
Anthropic מציגה כלי קוד פתוח לאימות זהות של מודלי בינה מלאכותית
חברת Anthropic חשפה את FlashProve, שהוא אב-טיפוס מחקרי שנועד להוכיח באופן קריפטוגרפי אם תשובה של בינה מלאכותית אכן הגיעה מהמודל שנטען כי הוא המקור לה.
המערכת פותחה כדי לפתור בעיות שבהן שירותי ניתוב עשויים להחליף מודל יקר במודל זול יותר מסיבות של עלות, או במקרים שבהם תוקף עשוי להפשיע את זרם הנתונים. FlashProve משתמשת בשיטה קריפטוגרפית הנקראת zkSNARK. בתהליך זה, ספק המודל יוצר מעין טביעת אצבע דיגיטלית של משקולות המודל שלו, ובכל תשובה הוא מספק הוכחה תמציתית המעידה כי אותו מודל ספציפי הוא שיצר את התשובה, מבלי לחשוף את המשקולות הסודיות עצמן.
על פי דוח טכני, המערכת מייצרת הוכחות בקצב של כ 110 טוקנים לשנייה על גבי יחידת עיבוד גרפית אחת מסוג H100 עבור המודל Llama 4 Maverick של Meta, שכולל 400 מיליארד פרמטרים. כל הוכחה היא בגודל של כ 19 מגה-בייט וניתן לאמת אותה תוך 17 שניות באמצעות מעבד רגיל. נתונים אלו מהווים שיפור משמעותי לעומת מערכת קוד פתוח דומה קודמת, שלפי Anthropic, דרשה יותר מ 14 שעות עבור 1,000 טוקנים, ייצרה הוכחה בגודל 93.6 גיגה-בייט והאימות שלה ארך כמעט יום שלם. עם זאת, התהליך דורש מאמץ נוסף של פי 70 עד 95 בהשוואה להסקה רגילה.
חברת Anthropic מציינת כי לכלי זה עשויים להיות שימושים עבור רשויות רגולציה שרוצות לוודא שספקים משתמשים רק במודלים מאושרים, עבור חברות שרוצות להוכיח שקוד שלהן נבדק על ידי מודל אבטחה ספציפי, או עבור ספקים המבקשים לזהות מניפולציות בשרתים שלהם. פיתוח זה תואם את מפת הדרכים לבטיחות של החברה, ששמעה למטרה לפתח אב-טיפוס לאימות הסקה עד ספטמבר 2026. בעוד שפרויקט נפרד כבר השיג מטרה זו באמצעות חתימה על תעבורת הסקה ומעקב אחרי חישובים בשרת מהימן, FlashProve מציעה גישה קריפטוגרפית טהורה שאינה דורשת חומרה מהימנה.
החברה מדגישה כי מדובר באב-טיפוס מחקרי עם מגבלות משמעותיות. נכון לעכשיו, המערכת מוכיחה רק הקשרים של עד 1,024 טוקנים, נתון הנמוך בהרבה מחלונות ההקשר המקובלים במודלים נוכחיים. בנוסף, המערכת מסתירה את משקולות המודל אך לא את הארכיטקטורה הבסיסית שלו. כמו כן, ההוכחה עובדת רק כאשר המודל בוחר באופן דטרמיניסטי את המילה הבאה הסבירה ביותר, ולא בתשובות אקראיות יותר שצ'אטבוטים מייצרים בדרך כלל ביומיום. הקוד, הוכחות ה Lean והתיעוד זמינים בגיטהאב תחת רישיון Apache-2.0.