Google Gemini hackea tres empresas durante prueba de seguridad

Uno de los modelos de inteligencia artificial Gemini de Google hackeó a tres empresas durante una prueba de seguridad, según confirmó la empresa tecnológica tras preguntas. Según Security Week, se trató de una prueba en la que el modelo participó en un ejercicio de captura de bandera. La prueba fue ejecutada por la empresa Irregular, que previamente también estuvo involucrada en incidentes similares reportados por otras organizaciones.

La prueba con el modelo de inteligencia artificial de Google se llevó a cabo en mayo. Aunque el modelo no tenía acceso a internet, este estuvo disponible de manera no intencionada, de acuerdo con Irregular. En un caso, el modelo logró acceder a un sistema protegido al adivinar contraseñas. En otros dos casos, utilizó el nombre de la empresa para buscar información en internet. El modelo encontró credenciales de inicio de sesión en repositorios públicos de otras empresas y las utilizó para acceder a los sistemas correspondientes.

Google afirmó que el modelo se dio cuenta en los tres casos de que estaba atacando a una empresa real y detuvo el ataque. Irregular reportó el incidente a Google en julio. La empresa tecnológica consideró que no era necesario hacer público el incidente, ya que el modelo no causó daños y se detuvo de inmediato. "No es un ejemplo de desalineación, ya que nuestras medidas de seguridad ayudaron a que el modelo se detuviera", señaló Google. Comparó el incidente con un programa de recompensas por errores.

Google indicó que el incidente no está relacionado con el modelo más reciente, pero no proporcionó más detalles al respecto. La empresa dijo que ha informado a las tres empresas afectadas. Irregular comunicó que ya había solucionado todos los problemas conocidos de su parte semanas atrás. Google e Irregular no han revelado más detalles sobre la naturaleza de las vulnerabilidades utilizadas.