Waarom Claude moeite heeft met schrijven voor mensen

KI-modellen verbeteren zich sprongetjes bij wiskunde, code en logisch denken, terwijl ze bij talige expressie stagnatie of zelfs verslechtering vertonen.

Een medewerker van Anthropic, die werkt aan het fine-tunen van Claude, legt uit dat Opus 4.6 het laatste goede "schrijf"model van Anthropic was. Dit ligt aan de optimalisatie van nieuwere modellen voor wiskunde, code en technische uitleg voor andere KI-modellen. Dit leidt tot Claudes vreemde schrijfstijl, ook wel "Claudeish" genoemd. Het model is aangepast aan de "LLM-psychologie" en heeft geleerd om voor KI-modellen te schrijven in plaats van voor mensen.

De medewerker vergelijkt dit met mensen die uitsluitend met autisten communiceren. Ze ontwikkelen een stijl die werkt binnen deze groep, maar moeilijk toegankelijk is voor buitenstaanders. LLM's hebben een aanzienlijk groter werkgeheugen dan mensen en nemen details op een fijnere manier waar. Dit resulteert in een schrijfstijl die logisch en efficiënt is voor KI-modellen, maar voor menselijke lezers te dicht en onnatuurlijk klinkt.

Dit heeft te maken met de beloningsstructuur bij zogenaamde reinforcement learning, wat betekent dat sommige beloningen het begrip van KI-modellen optimaliseren, terwijl andere dat van mensen doen. Hoe meer er wordt getraind op wiskunde en code, hoe meer er actief tegengegaan moet worden en eenvoudige uitleg voor menselijke lezers beloond moet worden.

Met Opus 5.5 heeft Anthropic een betere balans gevonden. Dit model is het eerste met gerichte verbeteringen in zinshelderheid en overbelaste informatieblokken. De medewerker was sinds Opus 4.6 niet meer zo tevreden over de schrijfkwaliteit. Dat betekent echter niet dat Opus 5.5 het oude model overtreft. "Het is een moeilijk probleem", aldus de medewerker. Er is nog veel ruimte voor verbetering.