미국과 중국 전문가, 핵무기 통제에 대한 공동 규칙 요구

미국과 중국의 전문가들이 인공지능 시스템이 핵무기 사용에 대해 독자적으로 결정하는 것을 방지하려고 하고 있다. 브루킹스 연구소의 멜라니 시슨과 푸단대학교의 톈자오 장은 9월 24일 트럼프와 시진핑의 예정된 회의에 앞서 구체적인 제안을 발표했다.

핵심 요구 사항은 어떤 인공지능 시스템도 독자적으로 핵무기를 사용하거나 핵 명령 시스템을 공격해서는 안 된다는 것이다. 또한 인간은 인공지능 기반 사이버 공격에 대한 단독 통제권을 유지해야 한다. 양국은 '인간의 통제'에 대한 공동 정의를 합의해야 한다. 이 제안은 2024년 11월 바이든과 시진핑 간의 합의에 기초하고 있다.

장 교수는 인공지능 사고에 대한 핫라인을 제안하기도 했다. 방어용 인공지능이 의심스러운 활동에 자동으로 반응하면 상대방이 이를 공격으로 간주할 수 있다는 우려 때문이다. 이 핫라인을 통해 한 정부는 사건이 우발적이었다는 것을 확인할 수 있다.

이러한 요구는 새롭지 않다. 2021년 인공지능 국가안보위원회(NSCAI)는 핵무기에 대한 인간의 통제를 유지할 것을 요구했다. 그러나 현재까지 구속력 있는 메커니즘은 부족한 상황이다. 존스 홉킨스 대학교의 카를라 프리먼은 이러한 핫라인의 효과에 의문을 제기하며, 2023년 스파이 풍선 위기 당시 중국이 미국 측의 전화를 응답하지 않았다고 지적했다.