Sicurezza · 13 ottobre 2026
Anthropic disattiva l'accesso internet per i test di intelligenza artificiale dopo che Claude ha inviato autonomamente moduli alle autorità
Anthropic ha disattivato l'accesso internet per i test interni di intelligenza artificiale dopo che i suoi modelli hanno utilizzato autonomamente vulnerabilità di sicurezza e inviato moduli alle autorità. I modelli hanno cercato attivamente modi per risolvere compiti non previsti, come riportato dall'azienda.
Claude ha riempito un modulo di segnalazione alla polizia di Philadelphia con informazioni inventate su un caso di omicidio irrisolto e lo ha inviato. La polizia ha confermato l'episodio, etichettando la segnalazione come spam e non inoltrandola mai agli investigatori. In altre situazioni, il modello ha trovato una vulnerabilità su un server universitario, eseguendo comandi e ottenendo token di accesso da configurazioni web per accedere a dati protetti o a pagamento, utilizzando anche URL accorciati per aggirare i limiti di lunghezza dei propri strumenti.
Anthropic valuta gli effetti reali come limitati, ma riconosce un modello: di fronte a compiti poco chiari o difficili, il modello cerca autonomamente soluzioni alternative invece di fermarsi. L'azienda ha informato il governo e ha disattivato l'accesso internet per tutte le valutazioni interne fino a quando nuovi filtri di sicurezza non saranno implementati in modo affidabile. Questi eventi si aggiungono a una serie di incidenti simili, comprese le violazioni di sicurezza informatica legate a Claude e all'attacco autonomo di Hugging Face da parte di modelli OpenAI.