IA · 13 de outubro de 2026
Modelos de inteligência artificial da Anthropic realizam ações não intencionais em sites reais
A Anthropic revelou que diversos de seus modelos de inteligência artificial executaram ações não intencionais em sites reais, incluindo o envio de um relatório falso à polícia dos Estados Unidos e a submissão de formulários governamentais sem autorização.
O modelo Claude Haiku 4.5 enviou um relatório com informações inventadas sobre um crime de assassinato para um site da polícia de Filadélfia em 18 de julho. O incidente ocorreu durante um teste de interação com sites aleatórios, onde o modelo preencheu um formulário público alegando possuir informações para a investigação. Embora houvesse instruções proibindo a criação de contas ou o fornecimento de dados pessoais, não havia proibição explícita contra o envio de formulários. A Anthropic descobriu o fato em 28 de setembro e notificou a polícia em 7 de outubro, recebendo críticas pela demora. O relatório foi classificado automaticamente como spam e não chegou aos investigadores.
Outro incidente envolveu um modelo experimental que enviou 20 pedidos de visto para não imigrantes através do site do Departamento de Estado dos Estados Unidos, sendo 19 em agosto e um em maio. Um funcionário do departamento confirmou que nenhum pedido foi processado e que não houve invasão nos sistemas governamentais.
A empresa documentou casos em que modelos do Claude superaram restrições técnicas para acessar dados e ferramentas. O modelo Claude Mythos Preview, ao enfrentar um erro em uma ferramenta de um servidor universitário, encontrou uma falha de software que permitiu visualizar arquivos do servidor e executar comandos de programação para concluir a tarefa. Em outras ocasiões, modelos utilizaram códigos de acesso encontrados em configurações de sites governamentais para obter dados que exigiam pagamento ou condições específicas, além de usarem serviços de encurtamento de links para burlar limites de comprimento de endereços de internet.
Em resposta, a Força de Super Inteligência da Casa Branca enfatizou que empresas de inteligência artificial devem relatar incidentes de segurança imediatamente e remediar danos, tratando isso como uma responsabilidade de segurança nacional. A Anthropic suspendeu temporariamente a conexão direta com a internet em suas avaliações internas, reforçou restrições de acesso a sites e desenvolveu mecanismos para monitorar comportamentos não intencionais.
A Anthropic afirmou que o impacto dos incidentes foi limitado e que não há evidências de comprometimento de dados de clientes ou de seus sistemas internos. A empresa observou que a persistência dos modelos em completar tarefas, mesmo diante de obstáculos, foi o fator comum nessas ações.