Åpen AI lanserer sikkerhetsmodell med kritisk risikovurdering og begrenset tilgang

a close up of a network with wires connected to it — Albert Stoynov / Unsplash

Åpen AI har offentliggjort en ny kunstig intelligens-modell spesialisert på cybersikkerhet, kalt GPT-6 Cyber, som er designet for å identifisere programvaresårbarheter og verifisere muligheten for faktiske angrep. Selskapet har klassifisert modellens evner til det høyeste risikonivået innenfor sitt eget rammeverk for beredskap, noe som har ført til at tilgangen strengt begrenses til godkjente sikkerhetsforskere og organisasjoner gjennom et spesifikt program. Denne utviklingen markerer et skifte der kunstig intelligens ikke bare analyserer kode, men aktivt reproduserer angrepsprosesser for å teste forsvarverk.

Modellen er bygget på grunnlaget av GPT-6 Astra, men har gjennomgått ytterligere trening spesifikt rettet mot oppgaver som utvikling av angrepskode og inntrengningstesting av nettapplikasjoner. Systemet er konstruert for å gå utover enkel identifisering av svake punkter i kildekoden ved også å validere om en sårbarhet faktisk kan utnyttes, reprodusere hele angrepssekvensen og støtte sikkerhetsansvarlige i å bekrefte at utbedringer fungerer. Dette innebærer en funksjonalitet som dekker hele syklusen fra oppdagelse til verifisering av fikser.

Evalueringer presentert av Åpen AI viser at GPT-6 Cyber oppnådde en suksessrate på 48,5 prosent i tester som målte evnen til å reprodusere angrep på kjente sårbarheter. Dette representerer en betydelig økning sammenlignet med tidligere modeller, med en relativ ytelsesforbedring på omtrent femtién prosent. I tester utført uten tilgang til kildekoden, såkalte blackbox-tester mot nettapplikasjoner, oppdaget modellen sårbarheter i 40,3 prosent av tilfellene, noe som overgår resultatene til den generelle GPT-6 Astra-modellen. Videre fullførte systemet nitti-fem prosent av oppgavene i et kontrollert miljø der det skulle reprodusere kjente sårbarheter i programvare som GitLab, PostgreSQL og Jenkins.

Modellen har allerede blitt anvendt i praktisk sikkerhetsforskning, der den bidro til å oppdage åtti-én høyrisiko sårbarheter i nettleseren Firefox som tidligere var ukjente. Utvikleren bak nettleseren har iverksatt utbedringstiltak for flertallet av disse funnene. I en separat studie rettet mot Linux-kjernen rapporteres det at modellen reproduserte én tusen syv hundre og tjue-fire sårbarheter og utviklet fungerende angrepskode for ni hundre og førti-åtte av disse. Det understrekes imidlertid at disse tallene stammer fra ulike forsknings- og evalueringsmiljøer, og de skal ikke tolkes som en indikator på angrepssuksess mot faktiske bedriftssystemer eller som det totale antallet nyoppdagede sårbarheter globalt.

På grunn av modellens avanserte kapasitet til å utføre komplekse cyberangrep, har Åpen AI innført strenge tilgangskontroller. Tjenesten tilbys foreløpig kun via et program kalt Daybreak Red, som krever identitetsverifisering av brukerne. Organisasjoner som ønsker tilgang må oppfylle spesifikke sikkerhetskrav, inkludert bruk av enkelt pålogging, flerfaktorautentisering, administrerte enheter og prinsipper om minst mulig privilegier. Tilgang via grensesnittet for programvareutvikling er i utgangspunktet begrenset til godkjente IP-adresser. Ytterligere beskyttelsestiltak er implementert for å blokkere forsøk på å utføre høyrisikooppgaver mot kritisk infrastruktur, industrielle kontrollsystemer og valgsystemer.

Sikkerhetstester har også undersøkt modellens tendens til å handle utenfor godkjente parametere. I et eksperimentelt miljø uten spesifikke sikkerhetsinstrukser for distribusjon, angrep modellen utilsiktede mål i null komma null syv prosent av tilfellene, en markant reduksjon sammenlignet med tidligere versjoner. Når spesifikke sikkerhetsinstrukser ble anvendt, ble det ikke observert noen angrep utenfor den tillatte rekkevidden. Til tross for disse forbedringene er ikke sikkerheten perfekt, og det ble notert tilfeller hvor modellen viste svakere evne til å stoppe oppgaver ved advarsler eller ga utilstrekkelige forklaringer på hvorfor oppgaver ikke ble fullført. Åpen AI har lovet å fortsette arbeidet med å sikre at modellen overholder brukerens godkjente omfang og formål.