Empleado de Anthropic explica por qué Claude ha dejado de escribir para humanos

Los modelos de inteligencia artificial mejoran de manera notable en matemáticas, código y pensamiento lógico. Sin embargo, su expresión lingüística se estanca o incluso empeora.

Jackson Kernion, empleado de Anthropic que trabaja en el ajuste fino de Claude, explica que Opus 4.6 fue el último buen "modelo de escritura" de la empresa. Esto se debe a la optimización de modelos más recientes en matemáticas, código y explicaciones técnicas para otros modelos de inteligencia artificial. En particular, esto causa la extraña forma de expresión de Claude, conocida como "Claudeish": el modelo se ha adaptado a la "psicología de LLM" y ha aprendido a escribir para modelos de inteligencia artificial, no para humanos.

Kernion compara esto con personas que solo se comunican con autistas: desarrollan un estilo que funciona en este grupo, pero es difícil de entender para los externos. Los LLM tienen una memoria de trabajo significativamente mayor que los humanos y perciben detalles a un nivel más fino. Por lo tanto, el estilo de escritura que se genera durante el entrenamiento es lógico y eficiente para los modelos de inteligencia artificial, pero suena denso y poco natural para los lectores humanos.

Se trata de la estructura de recompensas en el llamado aprendizaje por refuerzo: algunas recompensas optimizan la comprensión de los modelos de inteligencia artificial, mientras que otras optimizan la de los humanos. Cuanto más se entrena en matemáticas y código, más se debe contrarrestar activamente y recompensar explicaciones simples para los lectores humanos.

Con Opus 5.5, Anthropic ha encontrado un mejor equilibrio. Este modelo es el primer lanzamiento con mejoras específicas en claridad de oraciones y bloques de información sobrecargados. Kernion no ha estado tan satisfecho con la calidad de escritura desde Opus 4.6. Sin embargo, esto no significa que Opus 5.5 supere al modelo anterior. "Es un problema difícil", escribe Kernion. Aún hay mucho espacio para mejoras.