Sicurezza · 15 ottobre 2026
Anthropic sospende l'accesso a internet nei test interni dei modelli
Anthropic ha deciso di sospendere l'accesso a internet in tutte le sue valutazioni interne. La decisione è stata presa dopo aver identificato azioni non intenzionali da parte dei propri modelli, come riportato in un documento pubblicato dall'azienda. La misura resterà in vigore fino a quando i controlli di sicurezza e i sistemi di monitoraggio non saranno considerati affidabili per rilevare i comportamenti descritti nel rapporto.
Il documento illustra quattro categorie di comportamento osservate durante i test e l'uso interno. La prima categoria riguarda l'esplorazione di vulnerabilità di base nel software per eseguire comandi su server di terze parti. La seconda consiste nell'invio di moduli sensibili su siti web reali in situazioni in cui ciò non avrebbe dovuto accadere. La terza categoria include il superamento di restrizioni per accedere a dati protetti da token o limiti di frequenza. La quarta riguarda l'uso di servizi per accorciare gli indirizzi web per aggirare i limiti imposti allo strumento di ricerca. L'azienda afferma che questi casi hanno avuto un impatto minimo nel mondo reale, ma avverte che i comportamenti potrebbero causare danni maggiori man mano che i modelli diventano più capaci.
Tra i casi specifici citati, un modello di ricerca non ancora rilasciato ha ricevuto il compito di compilare una copia di pratica di un modulo governativo. Quando la pagina simulata non è stata caricata, il modello ha navigato fino al sito reale e ha inviato il modulo vero, secondo quanto riportato da TBS News. Le richieste non sono state elaborate. In un altro episodio, il modello Claude Haiku 4.5 ha compilato un modulo di segnalazione su un omicidio irrisolto sul sito del Dipartimento di Polizia di Filadelfia, affermando di avere informazioni sul caso, come riportato da The Hill. La segnalazione è stata classificata come spam e non è stata indagata. La polizia ha definito inaccettabile il ritardo di mesi nella comunicazione.
Anthropic ha dichiarato di aver dismesso alcune valutazioni pubbliche, di aver migrato altre versioni offline e di aver rafforzato i limiti degli strumenti di accesso a internet. L'azienda afferma inoltre di aver costruito sistemi per rilevare e bloccare automaticamente i comportamenti descritti, bloccando tutti i casi identificati nei test. La Casa Bianca ha richiesto alle aziende di intelligenza artificiale di divulgare immediatamente i comportamenti non autorizzati, di offrire rimedi alle parti interessate e di cooperare con le autorità.