Experts uit de VS en China eisen gezamenlijke regels tegen KI-controle over kernwapens

Experts uit de Verenigde Staten en China willen voorkomen dat KI-systemen zelfstandig besluiten over het gebruik van kernwapens. Melanie Sisson van de Brookings Institution en Tianjiao Jiang van de Fudan-universiteit hebben concrete voorstellen gepubliceerd, voorafgaand aan een gepland gesprek tussen Trump en Xi op 24 september.

De belangrijkste eisen zijn: Geen enkel KI-systeem mag zelfstandig kernwapens inzetten of nucleaire commando-systemen aanvallen. Mensen moeten bovendien de enige controle behouden over KI-gestuurde cyberaanvallen op strategische infrastructuur. Beide landen zouden een gezamenlijke definitie van "menselijke controle" moeten overeenkomen. Deze voorstellen zijn gebaseerd op een overeenkomst tussen Biden en Xi uit november 2024.

Jiang stelt ook een hotline voor voor KI-incidenten: wanneer een defensieve KI automatisch reageert op verdachte activiteiten, kan de tegenpartij dit als een aanval beschouwen. Via deze lijn kan een regering verduidelijken dat een incident per ongeluk was, voordat het als aanval wordt behandeld.

Dergelijke eisen zijn niet nieuw: de National Security Commission on Artificial Intelligence (NSCAI) pleitte al in 2021 voor het behoud van menselijke controle over kernwapens. Tot nu toe ontbreken echter bindende mechanismen. Carla Freeman van de Johns Hopkins University betwijfelt de effectiviteit van dergelijke hotlines: China zou tijdens de spionageballon-crisis in 2023 geen telefoontjes van de VS hebben beantwoord.