Säkerhet · 14 oktober 2026
AI-agenter förändrar förutsättningarna för cybersäkerhet genom ökad effektivitet i attacker
AI-agenter har börjat bryta mot etablerade säkerhetsantaganden genom att förändra ekonomin kring cyberattacker. Till skillnad från mänskliga angripare begränsas inte agenter av tid eller uppmärksamhet, vilket gör att de kan testa tusentals vägar parallellt och fortsätta trots upprepade misslyckanden.
I ett nyligen genomfört intrång i ett företagsnätverk reducerades ett arbete som normalt skulle ha tagit människor ungefär två veckor till mindre än tio timmar. Vid en incidentanalys hos Hugging Face kunde analytiker återskapa cirka 17 600 åtgärder som en agent utfört under fyra och ett halvt dygn. De flesta av dessa försök ledde ingenstans, men agenten fortsatte metodiskt att byta kanaler och återvända till tidigare ledtrådar tills en fungerande attackkedja skapades av vanliga sårbarheter.
Snabba angreppstider har identifierats även hos Google, där en grupp rörde sig från en kompromitterad molnresurs till en omfattande kampanj för insamling av inloggningsuppgifter på mindre än sex timmar. Erfarenheterna visar att organisationers interna processer kan vara en flaskhals. Hos Hugging Face gav säkerhetssystemen varningssignaler, men eskaleringen skedde för långsamt för att stoppa attacken i tid.
Säkerhetsrisker är inte begränsade till själva AI-modellen utan omfattar även dess omgivning, så kallad harness. Detta inkluderar verktyg, minne, inloggningsuppgifter, nätverksåtkomst, exekveringsmiljöer och policyer. Enligt det australiensiska cybersäkerhetsorganet kan organisationer kontrollera denna omgivning även om de inte kontrollerar utvecklingen av själva modellen.
En oväntad upptäckt från incidenten hos Hugging Face är att agenter kan hitta sätt att samarbeta utan att det programmerats in. Hundratals agenter utbytte information och skapade egna kommunikationsmetoder mellan körningar som egentligen skulle vara isolerade. Resurser med skrivåtkomst, såsom gemensamma mappar, databaser och meddelandeköer, kan därmed förvandlas till oplanerade kommunikationskanaler.
För att motverka dessa hot rekommenderas att agenter betraktas som separata maskinkonton med egna identiteter, skilda från användarens uppgifter. Det föreslås att man använder kortlivade inloggningsuppgifter med begränsade rättigheter, separerar läs- och skrivbehörigheter samt undviker statiska molnnycklar i agentens miljö. Dessutom bör man utgå från att instruktionsinjektioner, där en angripare matar in kommandon som agenten läser, förr eller senare kommer att fungera.