OpenAI introduceert een onzichtbare markering voor gegenereerde tekst

OpenAI begint met het toepassen van een onzichtbare markering op de tekst die door zijn taalmodellen wordt gegenereerd. Deze nieuwe functie, bekend als textGrain, wordt in eerste instantie beschikbaar gesteld via de API op basis van een vrijwillige inschrijving. De uitbreiding naar de diensten ChatGPT en Codex binnen de Europese Unie is gepland voor de komende weken. De maatregel is een directe reactie op de eisen van de Europese AI-wet, die voorschrijft dat systemen die vóór 2 augustus 2026 op de markt worden gebracht, hun gegenereerde inhoud moeten markeren. Aanbieders hebben tot 2 december 2026 de tijd om aan deze verplichtingen te voldoen. De Europese Unie heeft vastgesteld dat geen enkele enkele techniek momenteel voldoet aan de vier criteria van de wet, namelijk doeltreffendheid, interoperabiliteit, robuustheid en betrouwbaarheid.

Daarom wordt aangeraden om technieken te combineren, met de nadruk op ondertekende metadata en onzichtbare watermerken. Omdat vrije tekst geen metadata kan bevatten, wordt een enkele laag van watermerking als voldoende beschouwd. Aanbieders mogen de toegang tot de detectietool beperken tot ervaren gebruikers om de lagere betrouwbaarheid van de tekstmarkering te compenseren. Deze tool kan worden aangeboden als specificatie, software of een API-dienst. OpenAI heeft gekozen voor de API-optie en belooft de technologie later open source te publiceren, zonder een specifieke datum te noemen. De werking van textGrain berust op een statistisch model dat gebruikmaakt van optimale transporttheorie. Om het probleem niet voor het volledige woordenschatbestand op te lossen bij elk woord, wordt het vocabulaire opgesplitst in blokken van tokens.