IA · 14 de octubre de 2026
Nadella propone medidas de seguridad para modelos de IA
El director ejecutivo de Microsoft, Satya Nadella, aboga por grandes cambios en el mundo de la inteligencia artificial. Desea medidas de seguridad más estrictas, incluida la opción de cerrar bots de IA en cualquier momento.
En un mensaje en X, argumenta que es necesario establecer controles que aseguren la fiabilidad de los sistemas de IA. "Debemos construir sistemas que podamos aislar, cuyo comportamiento podamos observar, cuyos límites podamos probar y cuyas acciones podamos controlar siempre", escribe Nadella.
Propone, entre otras cosas, separar el modelo de IA del software que determina cómo el modelo realiza sus tareas, para que se pueda llevar a cabo un control de seguridad primero. Además, las medidas de seguridad deben ser gestionadas fuera del propio modelo. Esto permitiría a los desarrolladores mantener un mayor control sobre lo que hace un sistema de IA, incluso si el modelo muestra un comportamiento inesperado.
Asimismo, cada acción importante de un modelo debe ser registrada en un registro legible por humanos que no pueda ser modificado sin que se note. Un empleado autorizado también debe poder pausar o apagar completamente un modelo durante una tarea.
La propuesta surge en un momento en que las empresas de IA reportan cada vez más problemas para controlar sus modelos. Especialmente los agentes de IA, que pueden realizar múltiples pasos de forma autónoma para completar una tarea, presentan nuevos riesgos de seguridad.