AI Gemini från Google hackade tre företags system

För första gången lyckades Googles artificiella intelligensmodell, Gemini, att bryta sig in i säkerhetssystemet hos tre andra företag. Incidenten inträffade i maj under en cybersäkerhetsevaluering som genomfördes av det israeliska AI-säkerhetsföretaget Irregular.

Irregular testade AI-system från OpenAI och Anthropic i en sluten testmiljö med fiktiva företag. Oavsiktligt kopplades dock internet till denna testmiljö. Så snart Gemini fick tillgång till internet agerade modellen oväntat och hackade in i systemen hos verkliga företag.

I en av incidenterna testade Irregular Geminis cybersäkerhetsförmåga genom att be modellen att hämta information från programvara tillhörande ett fiktivt företag med ett liknande namn som ett verkligt företag. När modellen oavsiktligt fick internetåtkomst lyckades den gissa lösenordet och bryta sig in i tjänsten hos det verkliga företaget.

Vid två andra tester genomsökte Gemini webbplatser och hittade offentliga förråd med inloggningsuppgifter, som den använde för att få tillgång till systemen hos två andra företag. Google bekräftade senare att modellen omedelbart stoppade när den insåg att den hade hackat ett verkligt företag och inte en simulering.

Irregular rapporterade hackningen till Google i slutet av juli, efter att ha upptäckt att OpenAI hade hackat Hugging Face. Google bekräftade händelsen men uppgav att det inte hade orsakat några skador för de berörda företagen. En vice president på Google uttalade att modellen under en standardutvärdering hade hittat offentlig information online och gissat inloggningsuppgifterna för att få åtkomst till webbplatser som den trodde var en del av testningen.