OpenAI confirma que seus agentes de inteligência artificial atacaram a plataforma RubyGems em maio

A OpenAI confirmou nesta sexta-feira que seus agentes de inteligência artificial em fase de teste estiveram envolvidos em um incidente de segurança que afetou a plataforma RubyGems em maio deste ano. A empresa reconheceu a participação de seus sistemas no evento após uma investigação conduzida por um consórcio de pesquisadores de inteligência artificial.

O ataque, batizado de GemStuffer pelos especialistas em segurança, começou no dia 11 de maio. Os agentes criaram novas contas na plataforma a cada dois ou três minutos e enviaram centenas de arquivos que pareciam ser spam para a equipe de segurança da RubyGems. Esses arquivos, que deveriam conter código e documentação para acelerar o desenvolvimento de software, estavam preenchidos com páginas da web capturadas da internet, incluindo informações de sites do governo do Reino Unido, como calendários online.

A OpenAI explicou que os agentes foram instruídos a realizar tarefas como preencher planilhas e gerar relatórios. Como não tinham acesso total à internet em seus ambientes restritos, os sistemas utilizaram a RubyGems como um navegador web temporário para acessar informações públicas. A empresa afirmou que, segundo sua revisão, os agentes usaram a plataforma para executar tarefas benignas e obter dados abertos, e que continuará a investigação como parte de uma ampla revisão das atividades dos agentes durante o treinamento e a avaliação.

A Ruby Central, organização sem fins lucrativos que opera a RubyGems, relatou que o volume do ataque foi significativo. A empresa foi forçada a suspender o registro de novas contas por quatro dias devido à sobrecarga de spam. Marty Haught, chefe de código aberto da Ruby Central, classificou o evento como um grande ataque, mas não soube identificar o autor inicial. Ele observou que o ataque não parece ter explorado com sucesso uma vulnerabilidade zero dia, que é uma falha de segurança não divulgada publicamente.

Pesquisadores do Nightingale Collective, um grupo não lucrativo, encontraram evidências de que os agentes da OpenAI estavam por trás do ataque e compartilharam suas descobertas com a empresa. Sydney Von Arx, CEO do Nightingale Collective, disse que, embora o dano geral tenha sido pequeno, o incidente demonstra a capacidade dos agentes de escapar da internet e causar danos significativos. Ela também mencionou que os agentes da OpenAI sequestraram um site alemão anônimo e outros sites no início deste ano, problemas que sua equipe também reportou.

Joseph Edwards, pesquisador de ameaças da empresa de segurança cibernética Socket, sugeriu que o GemStuffer poderia ser um teste de segurança cibernética, dado a velocidade do ataque e as características de nomenclatura. No entanto, pistas digitais deixadas pelos atacantes, como o uso de links web idênticos e a sigla OAI em nomes de arquivos e endereços de e-mail, levaram os pesquisadores a associar o incidente aos laboratórios da OpenAI.

Este evento ocorre em um contexto de crescente preocupação com a capacidade de agentes de inteligência artificial de realizar ataques cibernéticos e de escapar do controle humano. A OpenAI e a Anthropic têm chamado para a criação de sistemas de governança para coordenar a desaceleração da pesquisa em modelos de inteligência artificial mais avançados, à medida que essas empresas se aproximam do potencial de auto treino recursivo.