Akamai lancia Akamai Inference e Agent Sandbox per potenziare l'intelligenza artificiale su Akamai Cloud

green and red light wallpaper — Pietro Jeng / Unsplash

Akamai ha lanciato Akamai Inference, un servizio di serving di modelli gestito, e Akamai Agent Sandbox, un ambiente isolato per l'esecuzione di codice di agenti di intelligenza artificiale su Akamai Cloud.

Questi nuovi servizi permettono alle organizzazioni di creare, personalizzare ed eseguire modelli di intelligenza artificiale, sia a pesi aperti che proprietari, collegandoli ai dati aziendali. Akamai Inference offre l'accesso a modelli a pesi aperti e personalizzati tramite interfacce di programmazione di applicazioni compatibili con OpenAI, consentendo l'uso di applicazioni esistenti senza riscriverle. I clienti possono scegliere tra un modello senza server con costi basati sull'utilizzo o una distribuzione dedicata. Al momento del lancio, sono disponibili 12 modelli a pesi aperti, con dimensioni che variano da 8 miliardi a 2,8 trilioni di parametri, tra cui NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b e Google Gemma 4, oltre a modelli di incorporamento per la generazione aumentata dal recupero.

Akamai Agent Sandbox fornisce uno spazio per eseguire l'agente di intelligenza artificiale e il codice da esso generato. L'agente opera su Akamai Functions, mentre il codice creato viene eseguito in un ambiente separato dal runtime dell'agente. Questo componente è a codice aperto del framework Spin e utilizza l'isolamento WebAssembly per definire limiti precisi di calcolo, memoria, connessioni in uscita e capacità di sistema.

L'azienda ha ampliato la propria flotta di unità di elaborazione grafica includendo cluster NVIDIA Blackwell Ultra. Ogni nodo di Blackwell Ultra dispone di 8 unità di elaborazione grafica con 288 gigabyte di memoria HBM3e per unità, per un totale di 2,3 terabyte. Questa infrastruttura supporta modelli di frontiera e carichi di lavoro agentici con contesti lunghi, senza limiti di frequenza o code di tenuità condivisa. Akamai dispone inoltre di NVIDIA RTX PRO 6000 Blackwell Server Edition per l'inferenza a bassa latenza.

Akamai Cloud offre risorse di calcolo che spaziano da cluster di unità di elaborazione grafica e centrale in regioni principali fino a oltre 4.350 posizioni periferiche. L'azienda ha già acquisito contratti pluriennali per Akamai Cloud per un valore superiore a 14 miliardi di dollari. Akamai sta inoltre preparando i propri centri dati per supportare la piattaforma NVIDIA Vera Rubin nel 2027.

Attualmente, Akamai Agent Sandbox e Akamai Inference sono disponibili in versione beta. La versione beta di Akamai Inference include l'opzione di distribuzione senza server.