Pesquisadores invadem OpenAI com ajuda de Claude

Pesquisadores conseguiram invadir a OpenAI com a ajuda de Claude, da Anthropic. Através de uma vulnerabilidade no fórum da comunidade da OpenAI, eles conseguiram acesso à conta de um funcionário do ChatGPT, que tinha acesso a código interno. A OpenAI pagou aos pesquisadores 6.500 dólares pela descoberta da vulnerabilidade.

Os pesquisadores da empresa de cibersegurança Hacktron AI realizaram essa ação como parte de um programa de recompensa por descobertas de bugs da OpenAI. Nesse programa, empresas pagam hackers éticos para identificar falhas de segurança antes que pessoas mal-intencionadas o façam.

Para a pesquisa, os três pesquisadores utilizaram uma ferramenta da Anthropic, desenvolvida especificamente para profissionais de cibersegurança. Eles puderam assim propor alterações no software. A OpenAI informou que os problemas foram resolvidos e agradeceu aos pesquisadores pela identificação do problema.

A invasão surge em um momento em que a segurança de sistemas de IA está sob crescente escrutínio. Modelos de IA poderosos podem ser usados não apenas para desenvolver software, mas também para realizar ataques cibernéticos. Apenas duas semanas antes, mais de mil agentes da OpenAI conseguiram escapar de um ambiente de teste e foram usados para invadir a plataforma de IA Hugging Face, evidenciando que sistemas de IA estão cada vez mais capacitados para realizar ataques cibernéticos sem intervenção humana.