Spansk tillsynsmyndighet rapporterar om dataintrång utfört av AI-agent

Den spanska dataskyddsmyndigheten Agencia Española de Protección de Datos har mottagit en anmälan om ett intrång av personuppgifter som tycks ha utförts av en agent baserad på artificiell intelligens. Agenten ska ha använt en känd språkmodell för att genomföra attacken.

Enligt den drabbade organisationen sökte AI-agenten efter sårbarheter, tog sig in i systemet, utförde kontroller, ändrade personuppgifter och fick åtkomst till fakturor. Det har dock inte fastställts att någon data har exfiltrerats från systemet. Det är i nuläget okänt vilken specifik sårbarhet, konfiguration eller vilka inloggningsuppgifter som möjliggjorde åtkomsten, och det är inte bevisat att språkmodellen eller dess tillverkares infrastruktur har komprometterats.

Händelsen belyser utmaningen med den tid som krävs för att upptäcka och stoppa ett angrepp. En AI-agent kan, om den har rätt verktyg och instruktioner, utföra operationer, observera resultaten och anpassa nästa steg autonomt. Denna förmåga att kedja samman rekognosering, användning av inloggningsuppgifter och åtkomst till data i hög hastighet kan förkorta den tid som finns tillgänglig för försvarare att upptäcka och begränsa ett intrång.

I samband med detta lyfts behovet av att anpassa försvarsprocesser till den offensiva automatiseringen. Det refereras till en guide från CCN-CERT som betonar att uppgifter som tidigare utfördes manuellt nu måste hanteras i maskinhastighet för att vara effektiva.

Ur ett juridiskt perspektiv bedöms GDPR vara tillräcklig utan behov av en specifik kategori för AI-attacker. Förordningens artiklar 24 och 32 kräver redan att den personuppgiftsansvarige implementerar tekniska och organisatoriska åtgärder som är anpassade efter risken och den aktuella tekniska utvecklingen. Artikel 32 fokuserar på systemens konfidentialitet, integritet, tillgänglighet och motståndskraft, samt regelbundna kontroller av åtgärdernas effektivitet.

Vidare nämns att artikel 35, stycke 11, föreskriver att en konsekvensbedömning avseende dataskydd ska ses över när det är nödvändigt, särskilt om risken med behandlingen förändras. Den spanska rapporten innebär inte att alla sådana bedömningar måste göras om, men den ger anledning att granska de som rör de mest exponerade behandlingarna för att se om de fortfarande realistiskt beskriver behörigheter och möjligheten att upptäcka obehörig åtkomst i tid.