Akamai lanza servicios de inferencia y entorno aislado para agentes de inteligencia artificial en su nube

closeup photo of eyeglasses — Kevin Ku / Unsplash

Akamai ha presentado Akamai Inference y Akamai Agent Sandbox, dos nuevas herramientas diseñadas para ejecutar modelos de inteligencia artificial y código generado por agentes dentro de la plataforma Akamai Cloud. Estos productos permiten a las organizaciones desplegar modelos de pesos abiertos y personalizados, así como gestionar la ejecución de agentes en entornos controlados. La compañía afirma que estas soluciones forman parte de su estrategia para ofrecer una infraestructura unificada que abarca desde el servicio de modelos hasta la gobernanza de la seguridad.

Akamai Inference ofrece un servicio de administración de modelos que permite a los clientes acceder a modelos de pesos abiertos y a los que han ajustado ellos mismos a través de una interfaz de programación de aplicaciones compatible con el estándar de OpenAI. Esta compatibilidad permite reutilizar aplicaciones existentes sin necesidad de reescribir el código. Los usuarios pueden elegir entre un despliegue sin servidor, con costos basados en el uso, o un despliegue dedicado. En el momento del lanzamiento, la plataforma incluye doce modelos de pesos abiertos, con tamaños que van desde ocho mil millones hasta dos billones ochocientos mil millones de parámetros. Entre los modelos disponibles se encuentran NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b y Google Gemma 4, además de modelos de incrustación para tareas de generación aumentada por recuperación.

El servicio de inferencia permite a los modelos extraer información de bases de datos administradas y almacenamiento de objetos en Akamai Cloud, o desde nubes privadas y públicas conectadas. Akamai Inference gestiona la orquestación de la ejecución de los modelos y la autenticación, mientras que las solicitudes se procesan en la red global de la empresa para reducir la latencia. La compañía sostiene que las organizaciones que implementan inteligencia artificial requieren más que el modelo en sí, necesitando también infraestructura de servicio, acceso a datos, enrutamiento y gobernanza, elementos que actualmente suelen obtenerse de múltiples proveedores.

Akamai Agent Sandbox es un entorno aislado diseñado para ejecutar tanto a los agentes de inteligencia artificial como el código que estos generan. El agente opera sobre Akamai Functions, mientras que el código creado por el agente se ejecuta en un entorno separado del tiempo de ejecución del propio agente. Este componente es de código abierto y forma parte del marco de trabajo Spin, utilizando el aislamiento de WebAssembly para definir límites claros en el cómputo, la memoria, las conexiones salientes y las capacidades del sistema. Akamai indica que existen diversas formas de aislar agentes, como máquinas virtuales micro, contenedores con políticas forzadas o funciones aisladas con WebAssembly, y permite a los desarrolladores elegir la arquitectura según sus necesidades.

Para respaldar estas cargas de trabajo, Akamai ha expandido su flota de unidades de procesamiento gráfico para incluir clústeres de NVIDIA Blackwell Ultra. La infraestructura actual también incluye NVIDIA RTX PRO 6000 Blackwell Server Edition para tareas de inferencia que requieren baja latencia. Cada nodo de Blackwell Ultra cuenta con ocho unidades de procesamiento gráfico, cada una con 288 gigabytes de memoria HBM3e, lo que suma 2.3 terabytes por nodo. Esta capacidad es suficiente para modelos de frontera y soporta tareas como el escalado en tiempo de prueba, el razonamiento de cadena de pensamiento y las cargas de trabajo agénticas con contexto largo. Los clústeres permiten a las organizaciones controlar las versiones de los modelos y establecer su obsolescencia, sin límites de velocidad ni colas de espera compartidas.

Akamai Cloud ofrece capacidad de cómputo desde clústeres de unidades de procesamiento gráfico y de procesamiento central en regiones centrales hasta más de 4,350 ubicaciones en el borde, con soluciones de seguridad que cubren todo el sistema. La empresa ha firmado contratos plurianuales para su nube por un valor superior a 14,000 millones de dólares. Actualmente, Akamai Agent Sandbox y Akamai Inference están disponibles en versión beta, y la compañía prepara centros de datos para soportar la plataforma NVIDIA Vera Rubin en 2027.