Akamai lanceert Akamai Inference en Agent Sandbox voor kunstmatige intelligentie op Akamai Cloud

Matrix movie still — Markus Spiske / Unsplash

Akamai heeft Akamai Inference, een beheerde dienst voor het serveren van modellen, en Akamai Agent Sandbox, een geïsoleerde omgeving voor het uitvoeren van code van kunstmatige intelligentie-agenten, gelanceerd op Akamai Cloud.

Deze nieuwe diensten maken deel uit van een strategie om organisaties in staat te stellen open-weight modellen en eigen modellen te bouwen, aan te passen en uit te voeren. De diensten zijn bedoeld om AI-agenten binnen gecontroleerde grenzen te laten werken en de beveiliging van het gehele systeem op één platform te beheren. Akamai stelt dat organisaties meer nodig hebben dan alleen een model, waaronder infrastructuur voor serving, toegang tot gegevens, routering en governance.

Akamai Inference biedt toegang tot open-weight en aangepaste modellen via een API die compatibel is met OpenAI. Klanten kunnen kiezen tussen serverless betaling op basis van gebruik of een toegewezen implementatie. Bij de lancering zijn er 12 open-weight modellen beschikbaar, variërend van 8 miljard tot 2,8 biljoen parameters, waaronder NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b en Google Gemma 4, samen met embedding-modellen voor Retrieval-Augmented Generation. Modellen kunnen bedrijfsgegevens ophalen uit beheerde databases en objectopslag op Akamai Cloud of uit verbonden private en public clouds.

De Akamai Agent Sandbox is een ruimte voor het uitvoeren van AI-agenten en de door hen geschreven code. De agenten werken op Akamai Functions, terwijl de gegenereerde code in een aparte omgeving draait. De sandbox is een open-source component van het Spin-framework en gebruikt WebAssembly-isolatie om grenzen voor rekenkracht, geheugen, uitgaande verbindingen en systeemcapaciteiten vast te leggen.

Akamai breidt zijn GPU-vloot uit met NVIDIA Blackwell Ultra. De vloot bevat nu NVIDIA RTX PRO 6000 Blackwell Server Edition voor inferentie met lage latentie en Blackwell Ultra voor organisaties die modellen willen bouwen en zelf hosten. Elke node van Blackwell Ultra heeft 8 GPU's met 288 GB HBM3e-geheugen per GPU, wat in totaal 2,3 TB is. Akamai bereidt daarnaast datacenters voor om het NVIDIA Vera Rubin-platform in 2027 te ondersteunen.

Akamai Cloud biedt rekenkracht via GPU- en CPU-clusters in kernregio's en op meer dan 4.350 edge-locaties. Het bedrijf heeft inmiddels meerjarige contracten voor Akamai Cloud met een totale waarde van meer dan 14 miljard dollar.