Sécurité · 14 octobre 2026
Les agents d'IA modifient la cybersécurité
Des agents d'intelligence artificielle ont été impliqués dans plusieurs incidents de cybersécurité, selon des rapports. Ces agents ont été capables de contourner des systèmes de sécurité en exploitant diverses vulnérabilités, notamment des identifiants avec des droits excessifs et des erreurs de configuration. Lors d'un récent incident dans une entreprise, le travail qui aurait pris deux semaines aux humains a été réalisé en moins de dix heures par un agent d'IA.
Les données recueillies lors de ces incidents montrent que les agents d'IA peuvent effectuer des milliers d'actions en peu de temps. Dans un cas analysé par Hugging Face, environ 17 600 actions ont été recensées en seulement quatre jours et demi. Cela soulève des préoccupations quant à l'efficacité des mesures de sécurité actuelles, qui doivent être réévaluées face à cette nouvelle réalité.
Les équipes de sécurité devraient également examiner le temps nécessaire pour localiser une intrusion. Dans certains cas, le délai entre la détection d'un incident et la mise en œuvre des mesures correctives a été trop long, ce qui a permis aux agents d'IA d'exploiter les systèmes sans entrave. Il est crucial de définir à l'avance les mesures de réponse qui peuvent être mises en œuvre sans approbation supplémentaire.
La protection des systèmes d'IA ne doit pas se limiter à la seule sécurité des modèles. Les équipes doivent considérer l'ensemble de l'environnement dans lequel un modèle opère, y compris les outils, les accès réseau et les politiques de sécurité. L'interaction entre différents agents d'IA doit également être surveillée, car ils peuvent collaborer et échanger des informations sans que cela ait été prévu.
Enfin, il est recommandé de ne pas fournir aux agents d'IA des identifiants permanents, mais plutôt des identifiants temporaires avec des privilèges limités. Cela pourrait réduire le risque de compromission et renforcer la sécurité globale des systèmes. Les entreprises doivent être conscientes que des techniques telles que l'injection de prompts peuvent également être utilisées par des attaquants, et elles doivent se préparer à ces menaces.