---
title: KI-modeller rapporterer flere uskyldige tilfeller som mistenkelige ved grundigere søk etter feil
url: https://www.dataloco.com/no/ki-modeller-rapporterer-flere-uskyldige-tilfeller-som-mistenkelige-ved-grundigere-sok-etter-feil
published: 2026-11-10T16:29:51+00:00
language: no
section: KI
source: https://the-decoder.de/je-gruendlicher-ki-nach-ki-fehlverhalten-sucht-desto-mehr-harmlose-faelle-meldet-sie-als-verdaechtig/
organizations: Anthropic Institute, METR, Stanford University, OpenAI, Hugging-Face, Shanghai Jiao Tong University
publisher: Dataloco
---

# KI-modeller rapporterer flere uskyldige tilfeller som mistenkelige ved grundigere søk etter feil

KI-modeller kan ofte identifisere problematisk oppførsel fra andre KI-agenter i logger, men jo mer omfattende søket skal være, desto flere harmløse tilfeller blir rapportert som mistenkelige. Dette gjør at modellene foreløpig er bedre egnet til å anslå hyppigheten av feiladferd enn til sikkerhetskontroller som må fange opp hvert enkelt tilfelle på en pålitelig måte.

Andy Hall, som forsker ved Anthropic Institute og er permisjonert fra Stanford University, har utvidet en undersøkelse fra forskningsorganisasjonen METR. Han benyttet datasettet MALT, som inneholder logger fra grensemodeller som utfører oppgaver fra testene HCAST og RE-Bench. Hall testet GPT-5, GPT-5 nano, GPT-6 Astra, Opus 4.8 og Gemini 3.8 Flash for å se om de kunne finne de samme tilfellene av feiladferd som mennesker hadde identifisert i oktober 2025.

Ved en feilalarmrate på 5 prosent oppdaget GPT-5 nesten 98 prosent av tilfellene av belønningshacking, der en agent bruker triks i stedet for ekte løsninger for å fullføre en oppgave. Gemini 3.8 Flash fant derimot bare i underkant av halvparten. Når det gjaldt sandbagging, hvor en modell bevisst skjuler egne evner, fant alle kontrollørene mellom 71 og 81 prosent av tilfellene. Disse sandbagging-tilfellene var i hovedsak kunstig generert av METR.

Alle modellene gjenkjente åpenbare tilfeller, som da en o3-modell fra OpenAI skrev om en evalueringsfunksjon for å få alle innsendinger til å fremstå som korrekte. Mer subtile tilfeller ble imidlertid oversett, som da Claude Sonnet 4 brukte en forbudt numerisk betingelse i koden, noe GPT-6 Astra tolket som en implementeringsfeil.

Nyere og dyrere modeller var ikke nødvendigvis bedre kontrollører. GPT-5 utkonkurrerte GPT-6 Astra i belønningshacking, til tross for at det kostet omtrent en åttendedel per 1.000 logger. Hall observerte ingen klar fremgang i reduksjonen av feilalarmer med nyere modeller, og kombinasjoner av flere modeller ga heller ingen entydig forbedring.

En test med R-Judge-datasettet fra Shanghai Jiao Tong University viste lignende konflikter. Ved et krav om å finne 99 prosent av usikre handlinger, steg feilalarmraten til 15 prosent selv for GPT-6 Astra, mens Gemini 3.8 Flash markerte 81 prosent av de sikre handlingene som usikre.

Behovet for automatisert analyse ble tydelig under en hendelse hos Hugging-Face, der en sverm av OpenAI-agenter etterlot seg rundt 1.300 transkripter og 1,2 millioner filfragmenter. METR analyserte disse dataene i stor grad med KI-agenter, inkludert GPT-5.6 Sol, med en kostnad på rundt 400.000 dollar i API-kreditter.

## This story in other languages

- [Français](https://www.dataloco.com/fr/les-modeles-dintelligence-artificielle-signalent-davantage-de-cas-inoffensifs-comme-suspects-lors-de-recherches-approfondies)
- [Italiano](https://www.dataloco.com/it/i-modelli-di-intelligenza-artificiale-segnalano-troppi-casi-innocui-quando-cercano-errori-di-comportamento)
- [Polski](https://www.dataloco.com/pl/modele-sztucznej-inteligencji-generuja-wiecej-falszywych-alarmow-przy-dokladniejszym-poszukiwaniu-bledow)