Akamai משיקה שירותי בינה מלאכותית חדשים ומגדילה את צי יחידות העיבוד הגרפיות שלה

a blue background with lines and dots — Conny Schneider / Unsplash

חברת Akamai השיקה את Akamai Inference, שירות להגשה מנוהלת של מודלים, ואת Akamai Agent Sandbox, סביבה מבודדת להרצת קוד של סוכני בינה מלאכותית על גבי Akamai Cloud.

שני השירותים החדשים נועדו לאפשר לארגונים לבנות, להתאים ולהריץ מודלי בינה מלאכותית מסוג משקולות פתוחות או מודלים עצמאיים, תוך חיבור לנתוני הארגון והרצת סוכני בינה מלאכותית תחת פיקוח ובטיחות בפלטפורמה אחת. Akamai Inference מאפשר גישה למודלים דרך ממשק תכנות יישומים התואם ל-OpenAI, מה שמאפשר שימוש באפליקציות קיימות ללא צורך בכתיבה מחדש. לקוחות יכולים לבחור בין דגם ללא שרת עם תשלום לפי שימוש לבין פריסה ייעודית. בשלב ההשקה מוצעים 12 מודלים של משקולות פתוחות בגדלים שבין 8 מיליארד ל-2.8 טריליון פרמטרים, כולל מודלים של NVIDIA, OpenAI ו-Google, וכן מודלי שיכון למשימות של יצירה מוגברתת אחזור.

שירות Akamai Agent Sandbox מספק מרחב להרצת סוכני בינה מלאכותית והקוד שהם יוצרים. הסוכנים פועלים על Akamai Functions, בעוד שהקוד שנוצר רץ בסביבה נפרדת באמצעות בידוד WebAssembly, המגדיר גבולות ברורים למחשוב, זיכרון, חיבורים יוצאים ויכולות מערכת. רכיב זה הוא חלק מקוד פתוח של מסגרת Spin.

במקביל, Akamai הרחיבה את צי יחידות העיבוד הגרפיות שלה עם NVIDIA Blackwell Ultra. כל צומת של Blackwell Ultra כולל 8 יחידות עיבוד גרפיות עם זיכרון HBM3e של 288 גיגה-בייט לכל יחידה, ובסך הכל 2.3 טרה-בייט. תשתית זו מיועדת למודלים מתקדמים ולעומסי עבודה של סוכנים הדורשים הקשר ארוך, ללא הגבלת קצב או תורי המתנה. החברה מכינה כעת את מרכזי הנתונים שלה לתמיכה בפלטפורמת NVIDIA Vera Rubin בשנת 2027.

Akamai Cloud מספקת כוח מחשוב הכולל צבירי יחידות עיבוד גרפיות ויחידות עיבוד מרכזיות באזורי ליבה ובמעל 4,350 מיקומי קצה. נכון לעכשיו, החברה רשמה חוזים רב-שנתיים עבור Akamai Cloud בשווי כולל של למעלה מ-14 מיליארד דולר. שירותי Akamai Inference ו-Akamai Agent Sandbox זמינים כעת בגרסת בטא.