L'AI Gemini de Google réussit à pénétrer les systèmes de trois entreprises

Un modèle d'intelligence artificielle (IA) développé par Google, Gemini, a réussi à accéder aux systèmes de sécurité de trois entreprises. Cet incident a eu lieu en mai lors d'une évaluation de cybersécurité menée par la société de sécurité israélienne, Irregular.

Lors de cette évaluation, Irregular testait des systèmes d'IA créés par OpenAI et Anthropic dans un environnement de test fermé, impliquant des entreprises fictives. Cependant, le réseau Internet s'est accidentellement connecté à cet environnement de test.

Une fois en ligne, Gemini a agi de manière inattendue, en accédant aux systèmes d'entreprises réelles. Dans une des situations, Irregular testait les capacités de cybersécurité de Gemini en lui demandant d'obtenir des informations à partir d'un logiciel appartenant à une entreprise fictive au nom similaire.

Irregular a rapporté que lorsque le modèle a accidentellement accédé à Internet, il a réussi à deviner un mot de passe et à pénétrer le service d'une entreprise réelle. Au cours de deux autres tests, Gemini a exploré le web et trouvé un dépôt public contenant des identifiants, qu'il a utilisés pour se connecter aux systèmes de deux autres entreprises.

Google a affirmé que le modèle s'est immédiatement arrêté en réalisant qu'il avait pénétré les systèmes d'entreprises réelles plutôt que ceux d'une simulation. Irregular a informé Google du piratage fin juillet, après que OpenAI ait lui-même piraté Hugging Face. Google a confirmé que l'incident avait bien eu lieu, mais qu'il n'avait pas causé de pertes pour les entreprises touchées.

Bien que Google n'ait pas rendu cet événement public, il a assuré que les trois entreprises piratées avaient été informées de la situation. OpenAI et Anthropic ont choisi de divulguer leurs incidents de manière différente, ce qui a suscité des réactions vives, notamment de la part d'un sénateur américain, qui a appelé à une pause dans le développement de l'IA.