Anthropic detecta uso do Claude em pesquisas biológicas de alto risco

A Anthropic revelou a detecção de cinco casos em que modelos de inteligência artificial Claude foram utilizados em pesquisas biológicas de alta sensibilidade, as quais podem ter aplicações úteis ou perigosas simultaneamente. Os casos envolveram pesquisadores atuando em instituições científicas reais.

A empresa afirmou que não comprovou a existência de intenção de causar danos, mas baniu as contas vinculadas a atividades que violaram suas políticas e iniciou o reforço de seus meios de monitoramento e proteção. De acordo com o relatório de ameaças da Anthropic, as investigações abrangeram atividades monitoradas entre dezembro de 2025 e agosto de 2026.

Um dos casos envolveu pesquisadores em um programa científico ligado a uma entidade relacionada ao setor militar, que utilizaram o modelo Claude para auxiliar na preparação e edição de materiais de pesquisa sobre um estudo viral sensível. Os sistemas da Anthropic detectaram as solicitações e recusaram partes delas após classificá-las como pesquisas biológicas de alto risco.

Outra situação envolveu um pesquisador que utilizou modelos menos potentes do Claude por semanas para planejar um estudo biológico sensível, analisar dados e escrever partes do trabalho científico. A Anthropic estimou que a utilidade do modelo nesse caso permaneceu limitada, pois os sistemas de proteção impediram o acesso a modelos mais fortes para as tarefas mais perigosas.

O relatório também registrou o uso do Claude em projetos ligados ao redesenho de moléculas e toxinas para fins científicos que podem ser interpretados como terapêuticos ou prejudiciais, dependendo do contexto. Alguns pesquisadores ocultaram deliberadamente os nomes dos materiais durante as conversas, dificultando a identificação do objetivo real.

Adicionalmente, a Anthropic identificou que uma plataforma intermediária tentou direcionar solicitações recusadas para outros modelos com restrições menores. Houve também tentativas de contornar restrições geográficas para acessar serviços de regiões não suportadas, o que levou ao banimento de contas e à cooperação com entidades externas para desativar canais de acesso.

Como resposta, a empresa lançou o modelo Claude Fable 5 com restrições mais rigorosas a certas perguntas biológicas. A Anthropic defende agora o uso de sinais adicionais para conceder acesso a capacidades científicas avançadas, como a identidade da instituição, o histórico da conta, a localização do usuário e a natureza do projeto, sugerindo que algumas ferramentas biológicas possam exigir programas de acesso personalizados para usuários e instituições verificadas.