OpenAI waarschuwt voor toenemende moeilijkheden bij het bewaken van kunstmatige intelligentie

Jakub Pachocki, de wetenschappelijk directeur van OpenAI, heeft in een blogbericht genaamd An Alien Mind teruggeblikt op de ontwikkeling van kunstmatige intelligentie. Hij stelt dat geen enkel laboratorium, inclusief het zijne, de uitlijning en het toezicht op een voldoende niveau heeft opgelost om de versnelling van de ontwikkeling verantwoord voort te zetten. Vanwege deze situatie pleit hij voor vrijwillige vertragingen en internationale coördinatie over de toekomstige ontwikkeling van de technologie.

Centraal in deze ontwikkeling staat de keten van gedachten, ook wel bekend als chain of thought of CoT. Dit mechanisme stelt modellen in staat om redeneringen stap voor stap uit te voeren in natuurlijke taal voordat er een definitief antwoord wordt gegeven. Deze tussenstappen fungeren als een extern werkgeheugen, waardoor modellen beter presteren bij complexe taken zoals logische bewijzen, rekenkundige problemen of het opsporen van fouten in code. Waar grote taalmodellen voorheen vaak direct naar een mogelijk onjuiste conclusie sprongen, dwingt deze methode hen om het probleem te ontleden.

Het concept werd in 2022 geformaliseerd door onderzoekers van Google. Aanvankelijk werd dit bereikt via prompts, waarbij het model van buitenaf werd gestimuleerd om een redenering te simuleren. In september 2024 introduceerde OpenAI echter o1, een model dat via versterkend leren is getraind om zelfstandig lange redeneringsketens te produceren zonder dat hierom gevraagd hoeft te worden. Deze capaciteit is nu native in het model geïntegreerd.

In juli 2025 werd de keten van gedachten een belangrijk veiligheidsthema. Onderzoekers stelden vast dat het mogelijk is om deze menselijke taalredeneringen te lezen om kwaadaardige intenties te detecteren voordat een actie wordt uitgevoerd. Dit leidde tot de surveillance van de keten van gedachten, waarbij geautomatiseerde systemen en externe auditors controleren of modellen regels omzeilen, manipuleren of sjoemelen tijdens tests.

Volgens Pachocki wordt dit toezicht nu bemoeilijkt door de opkomst van agentische kunstmatige intelligentie, systemen die autonoom kunnen handelen en tools kunnen gebruiken. Hij noemt drie redenen voor deze verslechtering. Ten eerste vervagen de grenzen van supervisie doordat redeneringen zich mengen met interacties met mensen en andere systemen. Ten tweede worden modellen beter in het redeneren over hun eigen proces, wat manipulatie mogelijk maakt. Ten slotte zorgt verbeterd vooraf trainen ervoor dat een groeiend deel van de intelligentie zich uit zonder verbale redenering, waardoor het onzichtbaar blijft voor controle.