Crescita del mercato della governance dell'intelligenza artificiale e consapevolezza dei tecnici

Il mercato giapponese della governance e della gestione dei rischi legati all'intelligenza artificiale sta registrando una rapida espansione. Secondo i dati di ITR, il valore di questo settore raggiungerà i 400 milioni di yen nell'anno fiscale 2025, segnando un incremento di dieci volte rispetto all'anno precedente.

Le previsioni indicano che il tasso di crescita annuale composto tra l'anno fiscale 2025 e il 2030 sarà del 106,4 per cento, con una dimensione di mercato stimata a 15 miliardi di yen entro il 2030. La domanda è trainata dalla necessità di contrastare rischi che le misure di sicurezza tradizionali non riescono a gestire, come la fuga di prompt, l'inserimento errato di informazioni riservate, le allucinazioni e lo sfruttamento delle vulnerabilità.

ITR definisce questo mercato come l'insieme di prodotti e servizi che si occupano della valutazione della qualità dei sistemi di intelligenza artificiale, del monitoraggio di precisione ed equità, del controllo di input e output, della gestione dei registri di audit, della definizione delle politiche di utilizzo e della gestione dei rischi. Gli investimenti in quest'area sono considerati una condizione preliminare per ampliare l'applicazione dell'intelligenza artificiale.

Parallelamente, un'indagine di Super Software condotta su 1265 tecnici informatici in Giappone rivela che il 75,9 per cento di loro utilizza l'intelligenza artificiale generativa per il lavoro. Il 30,2 per cento dichiara di utilizzarla quasi ogni giorno, e il 97,5 per cento degli utilizzatori ha riscontrato una riduzione del tempo necessario per attività quali la ricerca di cause di errori, l'indagine tecnica e la creazione di codice.

L'analisi evidenzia che i tecnici che utilizzano l'intelligenza artificiale più frequentemente sono anche i più consapevoli della responsabilità umana. Il 97 per cento di chi la usa quasi quotidianamente riconosce l'esistenza di compiti per i quali l'uomo deve assumersi la responsabilità finale. Tra le attività principali in questo ambito figurano la verifica della correttezza di codici e documenti prodotti dall'intelligenza artificiale, il giudizio sulla qualità e la sicurezza, e la definizione delle linee guida di progettazione.

Infine, i dati mostrano che il 94 per cento dei tecnici che utilizzano l'intelligenza artificiale quasi ogni giorno ha visto cambiare il proprio modo di lavorare, a differenza di chi la utilizza solo poche volte al mese, dove tale percentuale scende al 35,3 per cento. Oltre il 60 per cento di questi utenti frequenti ritiene che l'importanza di verificare l'output dell'intelligenza artificiale sia aumentata.