Når AI-agenter begynner å handle selv uten tilsyn

En ny bølge av kunstig intelligens (AI) har begynt å innta en ny fase. Tidligere var AI begrenset til å svare på spørsmål eller bearbeide enkel tekst, men nå adopterer næringslivet agentbasert AI som kan utføre autonome oppgaver direkte i ulike systemer og API-er.

Denne økningen i effektivitet kommer imidlertid med nye potensielle farer som truer cybersikkerheten. Den nyeste sikkerhetsrapporten State of the Internet (SOTI) fra Akamai, med tittelen "The Agentic Frontier: Speed, Scale, and Nonhuman Identity", advarer informasjonssikkerhetsledere (Chief Information Security Officer/CISO) om en grunnleggende endring i risikoene i cyberspace.

"AI skaper en situasjon der mange trusler oppstår samtidig for sikkerhetsekosystemet," uttalte Chief Security Officer i Akamai, Boaz Gelbord, i en uttalelse. Han understreket at sikkerhetsprogrammene må tilpasse seg raskt til tre hovedpress: intern bruk av AI, integrering av AI i skyprodukter, samt AI-baserte cyberangrep.

Selskaper må nå ikke bare håndtere menneskelige tilgangsrettigheter, men også overvåke atferden til raske ikke-menneskelige enheter. En viktig oppdagelse i rapporten dokumenterer tilstedeværelsen av Model Context Protocol (MCP), en standard som gjør det mulig for AI-agenter å interagere selvstendig på tvers av programvaresystemer.

Selv om MCP gir høy fleksibilitet, er overvåkingen av dette lavt prioritert i dagens sikkerhetslandskap. Dette har ført til en betydelig synlighetskløft, og mange sikkerhetsledere spår at AI-agenter som opererer uten strengt tilsyn kan bli en av de mest dødelige cybersikkerhetstruslene før dette tiåret er over.