Les autorités de surveillance s'inquiètent de l'utilisation excessive de l'IA par l'AIVD et la MIVD

La CTIVD, l'autorité de surveillance des services de renseignement, exprime des inquiétudes concernant le manque de contrôle sur l'utilisation de l'intelligence artificielle (IA) par l'AIVD et la MIVD. Ces agences utilisent fréquemment l'IA pour le traitement des données ainsi que pour la synthèse et la traduction de documents. Généralement, elles recourent à des systèmes développés par elles-mêmes, mais un politique claire sur l'IA fait défaut.

Étant donné que de nombreuses applications sont construites ou configurées en interne, la gestion repose fortement sur le jugement des employés techniques individuels. Bien que la CTIVD indique dans son rapport qu'il y a "une attention manifeste" portée à ce sujet et que les responsables du développement des systèmes "sont conscients des risques et le montrent dans leurs actions", cela suscite néanmoins des préoccupations pour l'autorité de surveillance.

Le manque de visibilité complique la tâche de la CTIVD pour s'assurer que tout est conforme aux règles et qu'il n'y a pas une trop grande confiance accordée au jugement des employés. L'autorité de surveillance déclare, "Pour le développement décentralisé et l'utilisation de l'IA et de l'analyse de données automatisée (GDA), il est vrai que les services ont une visibilité limitée. Cela les rend insuffisamment 'en contrôle' et complique également pour la CTIVD l'obtention d'un aperçu des possibles applications illégales de l'IA et de la GDA." La CTIVD conclut donc que les services "doivent prendre des mesures pour parvenir à une utilisation et un développement responsables de l'IA et de la GDA" et qu'elle discutera davantage avec les agences des étapes nécessaires à suivre.

Deux semaines auparavant, la CTIVD avait déjà critiqué un nouveau projet de loi qui accorderait plus de pouvoirs aux services de renseignement tout en réduisant la surveillance sur des points importants.