L'ente di vigilanza avverte sul uso eccessivo di AI da parte di AIVD e MIVD

L'ente di vigilanza sui servizi di intelligence, il CTIVD, esprime preoccupazione per la mancanza di controllo sull'uso dell'intelligenza artificiale (AI) da parte dei servizi di intelligence. AIVD e MIVD utilizzano frequentemente l'AI per l'elaborazione dei dati e per riassumere e tradurre documenti. Di solito, vengono impiegati sistemi sviluppati dagli stessi servizi di intelligence, ma manca una chiara politica sull'AI.

Poiché molte applicazioni sono costruite o configurate internamente, la gestione dipende fortemente dal giudizio dei singoli tecnici. Sebbene il CTIVD indichi nel suo rapporto che c'è "evidente attenzione" per l'argomento e che coloro che sono responsabili dello sviluppo dei sistemi "sono consapevoli dei rischi e ne danno prova nelle loro azioni", ciò suscita comunque preoccupazione all'ente di vigilanza.

La mancanza di una visione chiara rende difficile per il CTIVD verificare se tutto avviene secondo le regole e se non ci si fida eccessivamente del giudizio dei dipendenti. L'ente di vigilanza sottolinea che "per lo sviluppo decentralizzato e l'uso di AI e GDA (analisi dei dati automatizzata) le agenzie hanno una visibilità limitata. Di conseguenza, le agenzie non sono sufficientemente 'in controllo' e ciò rende difficile anche per il CTIVD ottenere informazioni su possibili applicazioni illegittime di AI e GDA." Pertanto, il CTIVD conclude che le agenzie "devono compiere passi per garantire un uso e sviluppo responsabili di AI e GDA" e che discuterà ulteriormente con le agenzie sui necessari passi successivi.

Il CTIVD ha criticato due settimane fa una nuova proposta di legge che avrebbe conferito maggiori poteri ai servizi di intelligence, mentre la vigilanza su punti importanti sarebbe stata ridotta.