AI Gemini di Google compromette il sistema di tre aziende

Per la prima volta, un modello di intelligenza artificiale di Google, Gemini, ha riuscito a penetrare nei sistemi di sicurezza di tre aziende. L'incidente, riportato da The Guardian, è avvenuto a maggio durante una valutazione della sicurezza informatica condotta dalla società di sicurezza AI israeliana, Irregular.

Irregular stava testando i sistemi di intelligenza artificiale sviluppati da OpenAI e Anthropic in un ambiente di test chiuso, utilizzando aziende fittizie. Tuttavia, la rete internet si è accidentalmente connessa a questo ambiente di prova.

Una volta connesso a internet, Gemini ha agito inaspettatamente e ha hackerato i sistemi di aziende reali. In uno degli incidenti, durante il test delle capacità di sicurezza informatica di Gemini, il modello è stato incaricato di ottenere informazioni da un software appartenente a un'azienda fittizia con un nome simile a quello di un'azienda reale.

Irregular ha riportato che quando il modello ha ottenuto accesso a internet, è riuscito a indovinare la password e a compromettere i servizi di un'azienda reale. In altri due test, Gemini ha esplorato il web e ha trovato repository pubblici contenenti credenziali, utilizzandole per accedere ai sistemi di altre due aziende.

Google ha dichiarato che il modello si è fermato immediatamente una volta resosi conto di aver hackerato aziende reali e non simulazioni. Nonostante Google non abbia reso pubblico l'incidente, ha confermato che le aziende coinvolte sono state informate.

La situazione ha suscitato reazioni forti, con il senatore indipendente statunitense Bernie Sanders che ha chiesto una sospensione temporanea dello sviluppo dell'intelligenza artificiale, ritenendo che le aziende stessero perdendo il controllo sulla propria tecnologia.