---
title: Interne modelstoestanden onthullen afzonderlijke redeneeroperaties
url: https://www.dataloco.com/nl/interne-modelstoestanden-onthullen-afzonderlijke-redeneeroperaties
published: 2026-09-14T10:32:46+00:00
language: nl
section: AI
source: https://the-decoder.de/denkschritte-von-ki-modellen-lassen-sich-in-deren-internen-zustaenden-nachweisen/
organizations: KAIST, Naver AI Lab, OpenAI, Anthropic
publisher: Dataloco
---

# Interne modelstoestanden onthullen afzonderlijke redeneeroperaties

Onderzoekers van het Koreaanse KAIST en het Naver AI Lab hebben aangetoond dat de verschillende redeneeroperaties die taalmodellen uitvoeren, duidelijk te onderscheiden zijn in de interne numerieke representaties van die modellen. Deze bevinding is het sterkst aanwezig in de middelste lagen van de modelarchitectuur. De studie toont aan dat de interne toestand meer informatie bevat over de aard van de denkstap dan alleen de gebruikte woorden of de positie in de tekst.

De onderzoekers definieerden acht herhaalde denkoeraties, waaronder extractie, decompositie, ophalen van een formule, deductie en berekening. Ze lieten drie modellen, namelijk Qwen2.5-7B, Qwen3-8B en Gemma4-31B, wiskundige problemen oplossen. De oplossingspaden werden opgesplitst in segmenten, waarna elk segment door GPT-5 aan een van de gedefinieerde operaties werd toegewezen. De analyse van de interne representaties toonde een duidelijke scheiding tussen de verschillende operaties over alle drie de geteste modellen heen.

Een klassificator die uitsluitend op de gebruikte tokens was gebaseerd, presteerde slechter dan de analyse van de interne representaties. Ook de positie van een segment in het oplossingspad verklaarde het effect niet. Veelvoorkomende functiewoorden zoals 'a', 'is' of 'the' werden in de vroege lagen van het model gemengd weergegeven. In de middelste en latere lagen scheidde de representatie van deze woorden zich af, afhankelijk van de omringende operatie. Hetzelfde woord wordt dus anders weergegeven, afhankelijk van de denkstap waarin het voorkomt.

De onderzoekers testten of een denkstap geïsoleerd ontstaat door de aandacht voor de dertig voorgaande tokens te blokkeren. Hierdoor werd het signaal voor de betreffende operatie zwakker, wat aantoont dat een denkstap afhangt van de voorgaande tekst. Ook bij foutief opgeloste problemen bleef de aard van de stap herkenbaar. Een foutieve berekening leek intern nog steeds op een berekening, ondanks het onjuiste resultaat. De resultaten werden gerepliceerd met Llama-3-8B, en de geleerde classificatoren werkten ook op de datasets GPQA-Diamond en MATH-500 voor Qwen3-8B.

De experimenten zijn beperkt tot wiskundige taken en een beperkt aantal modellen. Of deze inzichten kunnen worden gebruikt om fouten te detecteren of het model tijdens het antwoorden te sturen, blijft onduidelijk en vereist verdere onderzoek. De relatie tussen de uitgestuurde tekst en de interne berekening is veiligheidsrelevant. Volgens OpenAI is het meelezen van de denkketen een van de weinige beschikbare controle-instrumenten. Anthropic toonde aan dat modellen gebruikte aanwijzingen slechts in 25 tot 39 procent van de gevallen openbaren. Een methode die interne numerieke vectoren naar leesbare tekst vertaalt, onthulde dat Claude Opus 4.6 meer verwerkt dan in de uitgestuurde redenering staat. Bij het model Astra van OpenAI verplaatst de techniek Recurrent Depth een deel van de redenering naar de interne numerieke representaties, precies de plek waar dit onderzoek zich op richt.

## This story in other languages

- [ไทย](https://www.dataloco.com/th/story-5)
- [Русский](https://www.dataloco.com/ru/issledovateli-dokazali-vozmoznost-vyiavleniia-vnutrennix-etapov-rassuzdenii-v-neirosetiax)
- [עברית](https://www.dataloco.com/he/story-5)
- [中文](https://www.dataloco.com/zh/story-6)
- [日本語](https://www.dataloco.com/ja/story-3)
- [Bahasa Indonesia](https://www.dataloco.com/id/studi-menunjukkan-langkah-berpikir-model-kecerdasan-buatan-dapat-dibedakan-dalam-representasi-internal)
- [हिन्दी](https://www.dataloco.com/hi/katarama-bthathhamatata-madal-ka-aataraka-caranae-ma-vacara-parakaraya-ka-pata-lga)