OpenAI lanceert GPT-6 Cyber met 48,5 procent succes bij het reproduceren van aanvallen

green and brown bamboo sticks — Ryutaro Uozumi / Unsplash

OpenAI heeft een nieuw kunstmatig intelligentiemodel onthuld dat specifiek is ontworpen voor het identificeren van softwarekwetsbaarheden en het verifiëren van daadwerkelijke aanvalsscenario's. Het model, genaamd GPT-6 Cyber, is op 5 november beschikbaar gesteld voor een beperkte groep geautoriseerde beveiligingsonderzoekers. Het systeem bouwt voort op de basis van GPT-6 Astra en is extra getraind op taken binnen de cyberbeveiliging, zoals het schrijven van aanvalscodes en het uitvoeren van penetratietests op webapplicaties. Het model gaat verder dan het simpelweg markeren van zwakke plekken in broncode; het is ontworpen om te controleren of een kwetsbaarheid daadwerkelijk kan worden misbruikt, de aanvalsprocedure te reproduceren en de resultaten te verifiëren voor de beveiligingsteams.

De prestaties van het model zijn gemeten in verschillende benchmarks. In de test die de capaciteit tot het reproduceren van kwetsbaarheden meet, behaalde GPT-6 Cyber een succespercentage van 48,5 procent. Dit is een stijging van 16,4 procentpunt ten opzichte van het eerdere model GPT-5.6 Cyber, wat neerkomt op een relatieve verbetering van ongeveer 51 procent. In een zogenaamde blackbox-test, waarbij geen broncode werd verstrekt, vond het model in 40,3 procent van de gevallen kwetsbaarheden in webapplicaties. Dit resultaat is hoger dan de 32,0 procent die het algemene model GPT-6 Astra bereikte. In een gecontroleerde omgeving waarin bekende kwetsbaarheden in systemen zoals GitLab, PostgreSQL en Jenkins werden nagebootst, voltooide het model 95 procent van de evaluatietaken.

Het model heeft ook bijgedragen aan daadwerkelijk beveiligingsonderzoek. Volgens de gepubliceerde resultaten heeft GPT-6 Cyber meegewerkt aan het ontdekken van 81 hoogrisicokwetsbaarheden in de browser Firefox die voorheen onbekend waren. Mozilla heeft voor een groot deel van deze bevindingen correcties geleverd. In onderzoek gericht op de Linux-kernel reproduceerde het model 1.724 kwetsbaarheden en ontwikkelde het werkende aanvalscodes voor 948 van deze gevallen. Het is belangrijk om op te merken dat deze cijfers afkomstig zijn uit verschillende onderzoeksomgevingen en niet direct vertaald mogen worden naar de succeskans bij aanvallen op echte bedrijfssystemen of het totale aantal nieuw ontdekte kwetsbaarheden in de praktijk.

OpenAI heeft het model ingedeeld in de hoogste risicocategorie binnen haar eigen evaluatiestelsel. Deze classificatie geeft aan dat het model in staat is tot geavanceerde cyberaanvalstaken, maar betekent niet dat het al is gebruikt voor daadwerkelijke hackcrimes of dat er systeemincidenten zijn veroorzaakt. Om misbruik te voorkomen, is de toegang tot het model beperkt tot geïdentificeerde onderzoekers en geautoriseerde organisaties via een specifiek programma. Organisaties die het model gebruiken via de API of via Codex moeten voldoen aan strenge beveiligingsvereisten, waaronder enkelvoudige aanmelding, meervoudige verificatie en beheerde apparaten. Er zijn ook extra beschermingsmaatregelen geïmplementeerd om hoogrisicoworkzaamheden tegen kritieke infrastructuur, industriële besturingssystemen en verkiezingssystemen te blokkeren.

Evaluaties hebben ook getoetst of het model buiten de toegestane scope handelt. In een omgeving zonder specifieke veiligheidsinstructies viel 0,07 procent van de gevallen buiten de scope, wat lager is dan de 5,51 procent bij het eerdere model. Met veiligheidsinstructies werden geen aanvallen buiten de scope waargenomen. Toch toonde het model in sommige waarschuwingssituaties een zwakkere neiging om taken te stoppen dan het algemene model en legde het in enkele gevallen onvoldoende uit waarom een taak niet was voltooid. OpenAI heeft aangegeven het model verder te zullen verbeteren om de naleving van de toegestane scope en de doelstellingen van de gebruiker te waarborgen.