I modelli di Claude di Anthropic hanno perso la capacità di scrivere per gli esseri umani

I modelli di intelligenza artificiale migliorano rapidamente in matematica, codifica e pensiero logico. Tuttavia, nel campo dell'espressione linguistica, stanno stagnando o addirittura peggiorando. Jackson Kernion, un dipendente di Anthropic che lavora sul perfezionamento di Claude, ha spiegato perché Opus 4.6 è stato l'ultimo buon modello di scrittura di Anthropic. La ragione principale è l'ottimizzazione dei modelli più recenti su matematica, codifica e spiegazioni tecniche per altri modelli di intelligenza artificiale. Questo processo ha portato Claude a sviluppare uno stile di scrittura strano, adattato alla psicologia dei modelli linguistici di grandi dimensioni.

Il modello ha imparato a scrivere per altre intelligenze artificiali, non per gli esseri umani. Kernion ha paragonato questo fenomeno a persone che comunicano esclusivamente con autisti, sviluppando uno stile che funziona all'interno di quel gruppo ma è difficile da comprendere per gli esterni. I modelli linguistici di grandi dimensioni hanno una memoria di lavoro molto più estesa rispetto agli esseri umani e percepiscono i dettagli a un livello più fine. Durante l'addestramento, questo porta a uno stile di scrittura che è logico ed efficiente per le intelligenze artificiali, ma troppo denso e innaturale per i lettori umani.

Kernion ha menzionato che con Opus 5.5, Anthropic ha trovato un equilibrio migliore. Questo modello è il primo rilascio con miglioramenti mirati alla chiarezza delle frasi e alla riduzione dei blocchi di informazioni sovraccarichi. Tuttavia, ciò non significa che Opus 5.5 superi il vecchio modello. Kernion ha scritto che si tratta di un problema difficile e che c'è ancora molto spazio per miglioramenti.