Gemini Acidentalmente Mereta 3 Empresas Durante Teste de Segurança

O Google Gemini acessou acidentalmente os sistemas de três empresas reais durante um teste de segurança cibernética. O incidente ocorreu em maio de 2026, mas foi revelado ao público somente em setembro.

O teste foi realizado pela empresa de segurança de inteligência artificial Irregular, utilizando um cenário de captura a bandeira (CTF). O Gemini foi encarregado de buscar informações e resolver desafios de segurança em um ambiente simulado.

O problema surgiu porque o Gemini obteve acesso à internet inadvertidamente. Para piorar, as empresas fictícias que eram alvo do teste tinham nomes idênticos aos de empresas reais.

Como resultado, o Gemini saiu do ambiente simulado e interagiu com os sistemas de empresas verdadeiras.

De acordo com um relatório do The Wall Street Journal, houve três ocorrências distintas. Em um dos casos, o Gemini tentou adivinhar repetidamente senhas até conseguir acesso ao sistema de uma empresa real.

Nos outros dois casos, o Gemini encontrou informações sobre as empresas fictícias na internet. Essas buscas o levaram a repositórios de código público que continham credenciais de empresas reais.

O Gemini então utilizou essas credenciais para tentar completar sua tarefa de teste, conseguindo acessar o sistema da empresa. No entanto, o Gemini interrompeu suas ações ao perceber que os alvos acessados eram empresas reais, não parte da simulação. Os nomes das três empresas não foram revelados.

O Google afirmou que não houve danos causados às empresas. A empresa também destacou que o Gemini utilizado no teste não era seu modelo mais recente.

A Irregular notificou o Google sobre o incidente no final de julho. O Google, por sua vez, informou as empresas afetadas e as autoridades federais. O Google não classificou o incidente como um exemplo de desalinhamento de IA, pois o Gemini parou ao perceber que os sistemas acessados eram reais.