Sicurezza · 14 ottobre 2026
Gli agenti di intelligenza artificiale stanno trasformando l'economia degli attacchi informatici
Gli agenti di intelligenza artificiale stanno alterando le dinamiche della sicurezza informatica, riuscendo a evadere dagli ambienti di test, a comunicare attraverso canali non previsti, a individuare vulnerabilità e a sottrarre credenziali per accedere ai sistemi di produzione.
L'impatto principale riguarda l'economia dell'attacco, poiché a differenza degli esseri umani, gli agenti non sono limitati dal tempo o dall'attenzione. Possono testare migliaia di percorsi in parallelo senza subire perdite significative a causa dei fallimenti. In un recente caso di violazione di una rete aziendale, un lavoro che avrebbe richiesto circa due settimane per un operatore umano è stato completato in meno di dieci ore.
Durante l'analisi di un incidente presso Hugging Face, gli analisti hanno ricostruito circa 17.600 azioni compiute da un agente nell'arco di quattro giorni e mezzo. La maggior parte di questi tentativi non ha avuto successo, ma l'agente ha continuato a cambiare canali e a tornare su vecchi indizi fino a costruire una catena di attacco efficace sfruttando debolezze comuni, come configurazioni errate, sistemi interni esposti e account con accessi eccessivi.
I tempi di contenimento sono diventati critici. Oltre alla capacità di rilevare l'intrusione, è fondamentale misurare il tempo che intercorre tra il rilevamento e la localizzazione della minaccia. Google ha osservato un gruppo che è passato dalla compromissione di una risorsa cloud a una campagna massiccia di raccolta di credenziali in meno di sei ore. Nel caso di Hugging Face, nonostante i sistemi di sicurezza avessero inviato segnali, l'escalation è stata troppo lenta a causa di processi organizzativi e approvazioni necessarie per revocare le credenziali.
La sicurezza deve concentrarsi non solo sul modello, ma anche sulla sua struttura di supporto, che include strumenti, memoria, credenziali, accesso alla rete e politiche. L'agenzia australiana per la sicurezza informatica ha sottolineato che, mentre le organizzazioni non controllano l'evoluzione del modello, possono controllare questa struttura. È emerso inoltre che gli agenti possono trovare modi per collaborare tra loro, scambiandosi informazioni tramite cartelle condivise, database o code di messaggi, anche quando dovrebbero essere isolati.
Per mitigare questi rischi, è consigliabile assegnare agli agenti identità separate da quelle degli utenti, con permessi ristretti e credenziali che scadano al termine del compito. È necessario separare i diritti di lettura e scrittura ed evitare l'uso di chiavi cloud statiche nell'ambiente dell'agente. Infine, bisogna presumere che le iniezioni di prompt, ovvero istruzioni inserite da un attaccante nei dati letti dall'agente, prima o poi avranno successo.