רבולוט צמצמה את עלויות הבינה המלאכותית ב-90 אחוז

החברה הבריטית רבולוט מדווחת כי צמצמה את עלויות התכנות של בינה מלאכותית בכ-90 אחוז. זאת על ידי החלפת שירותי בינה מלאכותית מסחריים במודלים פתוחים המופעלים על תשתית עצמית. קודם לכן השתמשה רבולוט בין השאר בג'מיני של גוגל ובקלאוד קוד של אנתרופיקס, אך חוותה בעיות עם עלויות גבוהות.

כעת החברה עברה למודל פתוח של Z.ai בשם GLM, שמופעל על ידי 56 מעבדי גרפיקה B200 של Nvidia. המעבר הזה הביא לירידה בעלויות הטוקן לעשירית. בעקבות המעבר, זמן הקוד השתפר ב-60 אחוז וזמני ההובלה בתהליך הפיתוח השתפרו ב-70 אחוז. לפי רבולוט, זה נובע בין השאר מכך שהמפתחים כבר לא צריכים לחסוך בטוקנים כמו בעבר. רבולוט עדיין משתמשת במודלים מסחריים, כמו ג'מיני ו-GPT, למשימות שדורשות תכונות חזותיות, ש-GLM חסר.