IA · 14 ottobre 2026
Microsoft propone misure di sicurezza più rigorose per i modelli di intelligenza artificiale
Il dirigente di Microsoft, Satya Nadella, ha dichiarato di essere pronto a promuovere importanti cambiamenti nel settore dell'intelligenza artificiale. Propone misure di sicurezza più rigorose, inclusa l'opzione di spegnere i bot di intelligenza artificiale in qualsiasi momento.
In un messaggio su X, Nadella ha spinto per un'attenzione maggiore sulla sicurezza dei sistemi di intelligenza artificiale sempre più autonomi. Secondo lui, le aziende devono rivedere i metodi per garantire l'affidabilità dell'intelligenza artificiale. "Dobbiamo costruire sistemi che possiamo isolare, il cui comportamento possiamo osservare, i cui limiti possiamo testare e le cui azioni possiamo sempre controllare", ha affermato.
Nadella suggerisce di separare il modello di intelligenza artificiale dal software che determina come il modello esegue i suoi compiti, in modo che possa essere effettuato prima un controllo di sicurezza. Le misure di sicurezza dovrebbero essere gestite esternamente al modello stesso, permettendo così agli sviluppatori di mantenere un maggiore controllo su ciò che fa un sistema di intelligenza artificiale, anche in caso di comportamenti imprevisti.
Inoltre, ogni azione significativa di un modello dovrebbe essere registrata in un diario leggibile dagli esseri umani, che non possa essere modificato retroattivamente. Un operatore autorizzato deve anche poter mettere in pausa o disattivare completamente un modello durante un'operazione.
Questa richiesta arriva in un momento in cui le aziende di intelligenza artificiale segnalano sempre più problemi nel controllo dei loro modelli. In particolare, gli agenti di intelligenza artificiale, in grado di eseguire autonomamente più passaggi per completare un incarico, presentano nuovi rischi per la sicurezza.