Anthropic expande marcação de texto para quatro modelos Claude, mas falha em versões antigas permite contorno

A Anthropic informou aos seus clientes da interface de programação de aplicações que estenderá a sua marcação de texto invisível a quatro modelos adicionais da família Claude a partir de três de novembro de dois mil e vinte e seis. Esta medida visa cumprir prazos regulatórios, contudo, a implementação revela uma inconsistência técnica em dois dos modelos mais antigos, permitindo que utilizadores contornem a identificação através do ajuste de parâmetros específicos de geração de texto.

Os modelos beneficiados pela atualização incluem o Claude Mythos cinco, o Claude Opus quatro ponto sete, o Claude Opus quatro ponto seis e o Claude Sonnet quatro ponto seis. A empresa esclareceu que a marcação consiste num padrão impercetível na escolha das palavras, não alterando o significado, a qualidade ou a legibilidade das respostas geradas. Segundo a Anthropic, o processo não adiciona caracteres ou tokens extras, não influencia os preços nem os formatos de pedido e resposta, e tem um impacto negligenciável na velocidade de saída. A empresa garante ainda que a marcação não contém informações sobre o utilizador, a sua organização ou as conversas mantidas com o sistema.

Uma distinção crítica foi estabelecida entre os modelos atualizados. Para as versões mais recentes, nomeadamente o Claude Mythos cinco e o Claude Opus quatro ponto sete, a marcação aplica-se independentemente das configurações utilizadas. No entanto, para os modelos mais antigos, especificamente o Claude Opus quatro ponto seis e o Claude Sonnet quatro ponto seis, a marcação só é aplicada se os parâmetros de amostragem conhecidos como temperatura, top_p e top_k forem mantidos nos seus valores padrão. Qualquer alteração nestes valores resulta numa saída que pode não conter a marcação, criando assim uma lacuna de conformidade para clientes que dependam desta funcionalidade para fins regulatórios.

A motivação principal para esta expansão técnica é a proximidade do prazo de dezembro imposto pela Lei de Inteligência Artificial da União Europeia. Todos os modelos lançados após dois de agosto de dois mil e vinte e seis já possuem a marcação desde o primeiro dia, enquanto os modelos anteriores estão a ser atualizados gradualmente. Como a identificação está incorporada ao nível do modelo, a Anthropic afirma que a medida é válida em todas as plataformas onde os modelos são oferecidos, incluindo serviços de nuvem de grandes fornecedores tecnológicos. A solução técnica baseia-se numa variante do método SynthID-Text da Google DeepMind, que modifica a fonte de aleatoriedade na seleção de palavras para criar um padrão estatisticamente detetável.

Enquanto a Anthropic torna a marcação obrigatória e impossível de desativar pelo cliente, outros concorrentes adotam abordagens diferentes. A OpenAI introduziu recentemente uma solução que pode ser ativada ou desativada pelos clientes da interface de programação de aplicações e que, por padrão, permanece desligada. Por outro lado, a Google DeepMind disponibilizou a sua tecnologia de marcação de texto como código aberto. Apesar das garantias da Anthropic, persistem debates sobre se a qualidade do texto permanece verdadeiramente inalterada, com críticos a argumentarem que a seleção de palavras baseada numa chave de marcação em vez de precisão semântica pode inevitavelmente afetar a qualidade final do conteúdo gerado.