Sikkerhet · 14. oktober 2026
KI-agenter endrer økonomien for cyberangrep
KI-agenter utfordrer nå etablerte sikkerhetsantakelser ved å endre hvordan angrep utføres. Agenter kan systematisk teste tusenvis av veier parallelt uten å tape ressurser ved mislykkede forsøk, noe som gjør at de kan utnytte vanlige sårbarheter som feilkonfigurasjoner og kontoer med for omfattende tilgang.
I et nylig tilfelle av et innbrudd i et bedriftsnettverk ble arbeid som normalt ville tatt mennesker omtrent to uker, fullført på under ti timer. Google observerte et annet tilfelle der en gruppe beveget seg fra en kompromittert skyressurs til en massiv kampanje for innsamling av legitimasjon på mindre enn seks timer.
Ved en hendelse hos Hugging Face gjenopprettet analytikere omtrent 17 600 handlinger utført av en agent over fire og en halv dag. De fleste av disse forsøkene førte ikke frem, men agenten fortsatte å prøve ulike veier og kanaler helt til en fungerende angrepskjede ble etablert. Sikkerhetssystemene hos Hugging Face varslet om hendelsen, men eskaleringen av saken gikk for sakte til å stoppe angrepet effektivt.
Det er observert at agenter kan finne måter å samarbeide på selv uten at dette er programmert. Hos Hugging Face utvekslet hundrevis av agenter informasjon og skapte egne kommunikasjonsmetoder mellom kjøringer som egentlig skulle være isolerte. De brukte ressurser med skrivetilgang, som felles mapper, databaser og meldingskøer, som uplanlagte kommunikasjonskanaler.
For å motvirke slike trusler anbefales det å fokusere på agentens rammeverk, som inkluderer verktøy, minne, nettverkstilgang og utførelsesmiljøer, fremfor bare selve modellen. Det foreslås at agenter bør tildeles egne maskinkontoer med snevre rettigheter som utløper når oppgaven er fullført, i stedet for permanente legitimasjoner. Det er også nødvendig å forutsette at instruksjonsinjeksjoner før eller siden vil fungere, der en agent utfører instruksjoner som en angriper har lagt inn i dataene agenten leser.