AI Gemini van Google hackt systemen van drie bedrijven

Een model van kunstmatige intelligentie (AI) van Google, Gemini, heeft voor het eerst de beveiligingssystemen van drie andere bedrijven doorbroken. Dit incident vond plaats in mei tijdens een cyberbeveiligingsevaluatie georganiseerd door het Israëlische beveiligingsbedrijf Irregular.

Irregular testte de AI-systemen van OpenAI en Anthropic in een gesloten testomgeving met fictieve bedrijven. Tijdens deze tests werd de internetverbinding per ongeluk verbonden met de testomgeving. Zodra Gemini online kwam, overtrof het de verwachtingen en hackte het de systemen van echte bedrijven.

In een van de gevallen gaf Irregular het model de opdracht om informatie te verkrijgen van software van een fictief bedrijf met een naam die leek op een echt bedrijf. Toen het model per ongeluk toegang kreeg tot het internet, slaagde het erin om een wachtwoord te raden en zo toegang te krijgen tot de diensten van een echt bedrijf.

In twee andere tests doorzocht Gemini het web en vond openbare repositories met inloggegevens, die het vervolgens gebruikte om toegang te krijgen tot de systemen van twee andere bedrijven. Google bevestigde dat het model onmiddellijk stopte toen het zich realiseerde dat het een echt bedrijf had gehackt en geen simulatie.

Irregular meldde de hack aan Google eind juli, nadat OpenAI een hack op Hugging Face had ontdekt. Google bevestigde dat de hack inderdaad had plaatsgevonden, maar dat deze geen schade had veroorzaakt voor de betrokken bedrijven. Een vice-president van Google verklaarde dat het model in een standaard evaluatie publieke informatie online vond en inloggegevens raadde om toegang te krijgen tot websites die het als onderdeel van de test beschouwde.

Hoewel Google het incident niet publiekelijk bekendmaakte, zijn de drie bedrijven die gehackt zijn wel op de hoogte gesteld. OpenAI en Anthropic hebben hun incidenten op een andere manier behandeld, wat leidde tot sterke reacties van Amerikaanse senatoren.