Funcionário da Anthropic explica por que Claude 'desaprendeu' a escrever para humanos

Modelos de inteligência artificial melhoram drasticamente em matemática, código e raciocínio lógico, mas o desempenho no uso da linguagem estagnou ou até piorou.

Jackson Kernion, funcionário da Anthropic que trabalha no ajuste fino do Claude, revelou que o modelo Opus 4.6 foi o último bom modelo de escrita da empresa. A razão principal para isso é a otimização de modelos mais recentes em matemática, código e explicações técnicas voltadas para outros modelos de inteligência artificial. Essa abordagem resultou em uma forma de expressão peculiar do Claude, chamada "Claudeish". O modelo foi adaptado à "psicologia de LLMs" e aprendeu a escrever para modelos de IA, em vez de para humanos.

Kernion compara essa situação a pessoas que se comunicam exclusivamente com autistas, desenvolvendo um estilo que funciona dentro desse grupo, mas que se torna inacessível para quem está de fora. Os LLMs possuem uma memória de trabalho muito superior à dos humanos e percebem detalhes de forma mais refinada. Isso leva à criação de um estilo de escrita que é lógico e eficiente para modelos de IA, mas soa denso e antinatural para leitores humanos.

A questão central está na estrutura de recompensas do chamado aprendizado por reforço: algumas recompensas otimizam a compreensão dos modelos de IA, enquanto outras favorecem a compreensão humana. Quanto mais se treina em matemática e código, mais é necessário contrabalançar e recompensar explicações simples para leitores humanos.

Com o modelo Opus 5.5, a Anthropic encontrou um melhor equilíbrio. Este é o primeiro lançamento com melhorias focadas na clareza das frases e na redução de blocos de informações excessivas. Kernion mencionou que desde o Opus 4.6 não estava satisfeito com a qualidade da escrita. No entanto, isso não significa que o Opus 5.5 superou o modelo anterior. "É um problema difícil", escreveu Kernion, observando que ainda há muito espaço para melhorias.