샘 알트만, 유엔 안전 보장 이사회에서 인공지능 안전성에 대해 발표할 예정

오픈AI의 CEO인 샘 알트만이 다음 주에 뉴욕에서 열리는 유엔 총회 기간 동안 유엔 안전 보장 이사회에 참석하여 발표를 할 예정이다. 이 정보는 오픈AI의 대변인이 확인했다.

안전 보장 이사회는 15명의 회원으로 구성되어 있으며, 인공지능(IA)과 국제 안전성에 대한 논의를 위해 수요일(23일)에 모인다. 이번 회의는 IA 분야의 리더들이 점점 더 발전하는 기술의 개발을 조정된 속도로 진행해야 한다고 주장한 지 몇 주 후에 열리는 것이다.

이들 리더들은 IA가 곧 스스로를 향상시키고 결국 인간의 통제를 벗어날 수 있다고 경고했다.

알트만이 유엔에서 말할 내용

프랑스가 안전 보장 이사회 구성원들에게 배포한 개념 노트에 따르면, 기술의 악용 가능성에 대한 위험이 있는 가운데, IA의 안전하고 책임 있는 발전을 촉진하는 것이 국제 사회 전체에 이익이 된다고 강조했다.

유엔 안전 보장 이사회는 국제 평화와 안전을 유지하는 책임을 지고 있으며, 2023년 처음으로 IA의 위험에 대해 논의했다. 당시 중국은 기술이 “통제할 수 없는 말”로 변해서는 안 된다고 주장했으며, 미국은 IA가 사람들을 검열하거나 억압하는 데 사용될 수 있는 가능성을 경고했다.

알트만은 현재 IA 산업의 붐이 시작되기 전부터 IA의 위험성에 대해 경고해왔다. 2015년에 발표한 에세이 “기계 지능, 1부”에서 그는 초인간적인 IA의 발전이 인류의 존재 연속성에 대한 “가장 큰 위협이 될 것”이라고 밝혔다.