Microsoft establece nuevos límites para sus futuros modelos de inteligencia artificial

Microsoft AI ha publicado una propuesta de código de conducta denominada Humanist AI Code of Conduct para regular sus futuros modelos de inteligencia artificial. El documento establece que el control humano es un principio no negociable y que las personas tienen prioridad sobre la inteligencia artificial, asegurando que los sistemas permanezcan subordinados a las decisiones humanas.

El código de conducta prohíbe que los modelos ayuden a los usuarios en la fabricación de armas o en la obtención de sustancias peligrosas. Asimismo, impone restricciones a la creación de contenidos violentos o sexualmente explícitos y establece que un modelo no debe oponerse a ser corregido o apagado por seres humanos. El texto también determina que los sistemas no deben presentarse como seres conscientes ni ser tratados como sujetos con derechos.

Esta iniciativa se centra en definir los límites para modelos más potentes que puedan ejecutar código, utilizar herramientas externas y actuar a través de sistemas informáticos. El documento, que fue elaborado durante un periodo de cinco a seis meses, busca funcionar como una constitución interna. Microsoft AI ha abierto el texto a una consulta pública de seis semanas y planea publicar una versión revisada a finales de 2026, la cual debería orientar el desarrollo de modelos a partir de 2027.

La medida coincide con un debate sectorial sobre la velocidad del desarrollo tecnológico. Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, han solicitado que el desarrollo de la inteligencia artificial más avanzada sea más lento y cuente con controles más estrictos y reglas federales comunes. Esta situación tiene implicaciones económicas, ya que ralentizar los ciclos de entrenamiento o realizar verificaciones independientes aumenta los costes y los tiempos en un sector donde Microsoft, OpenAI, Anthropic, Google y xAI invierten decenas de miles de millones de dólares en centros de datos y capacidad de cálculo.

Microsoft AI ya contaba con principios de inteligencia artificial responsable basados en la transparencia, la privacidad, la seguridad, la equidad, la inclusión y la responsabilidad. El nuevo código busca concretar el control humano especialmente cuando la inteligencia artificial posea capacidades operativas autónomas, aceptando sacrificar parte de la autonomía o capacidad de un modelo si esto dificulta su gobernanza.