Google Cloud advierte que la IA agente acelerará los ciberataques en 2027 y exige auditoría de decisiones

Dusty old piano keys with 'alwin katz berlin' visible — Pauline Bernfeld / Unsplash

Google Cloud prevé que la inteligencia artificial agente aumentará la velocidad de los ciberataques y las defensas en 2027, lo que obligará a las empresas a modificar sus estrategias de protección. La organización tecnológica señala que este cambio transformará la naturaleza de los activos que deben protegerse.

La compañía indica que los agentes de inteligencia artificial autónomos asumirán responsabilidades críticas como la fijación de precios, la negociación de contratos con proveedores, la asignación de capital y la coordinación de la cadena de suministro. Ante esta evolución, las organizaciones no solo deberán prevenir fugas de datos y fallos del sistema, sino también verificar las bases y los permisos que utilizan estos agentes para ejecutar sus tareas. Chris Betz, director de seguridad de la información de Google Cloud, afirmó en su informe de perspectivas de seguridad para 2027 que las vulnerabilidades basadas en modelos de lenguaje grande y agentes se están expandiendo desde algunas organizaciones al resto de la empresa. Señaló que los ciclos de despliegue de software se han reducido de semanas o meses a horas o días, lo que incrementa la necesidad de realizar desarrollo y verificación de seguridad simultáneamente.

Google Cloud recomienda que cada agente tenga una identidad independiente verificable y los permisos mínimos necesarios. Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, enfatizó la necesidad de extender la confianza cero a cada transacción y solicitud. Advirtió que si varios agentes comparten cuentas humanas o tokens de administrador, una violación en un agente podría propagarse a otros sistemas. Sugirió que las solicitudes idénticas deben poder bloquearse si aparecen anomalías en el momento de la ejecución. Karthik Narain, director de producto y cliente de Google Cloud, explicó que es necesario registrar los datos de entrada, la base de la decisión, las herramientas llamadas, los valores transmitidos y las políticas que permitieron la tarea para poder reconstruir y verificar las decisiones automatizadas.

En los centros de operaciones de seguridad, se espera que los agentes de inteligencia artificial recopilen registros de múltiples sistemas y analicen la correlación entre alertas para presentar resultados de investigación inicial. Los operadores definirán el alcance de la respuesta automática y las condiciones que requieren aprobación humana. Google Cloud propuso un modelo operativo donde los responsables puedan comprender la base de la respuesta automática en sesenta segundos y revertirla en treinta segundos si es necesario. En el desarrollo, las herramientas de codificación de inteligencia artificial y los protocolos de contexto de modelo podrían ser objetivos de ataques a la cadena de suministro. La empresa sugiere rastrear los riesgos desde el entorno de operación hasta el código fuente.

Google Cloud anticipa que los grupos criminales se centrarán en extraer datos rápidamente y exigir rescates mediante la amenaza de publicación, en lugar de usar ransomware de cifrado de archivos. Los pesos de los modelos de inteligencia artificial desarrollados internamente, las funciones de los agentes y las bibliotecas de indicaciones se convertirán en objetivos. El secuestro de unidades de procesamiento gráfico en la nube también se considera una amenaza. Charles Carmakal, director de tecnología de Mandiant Consulting, insistió en que los agentes autónomos deben someterse a pruebas de equipo rojo antes de su implementación para verificar los controles de seguridad y permisos. Google advirtió que la implementación descentralizada de agentes por departamento podría crear tecnología de la información oculta, por lo que se deben definir claramente los roles y los puntos de transferencia de decisión a humanos antes del despliegue.