Anthropic 대표, 인공지능 발전 속도 조절 제안하고 OpenAI와 xAI 지지 얻어

Anthropic의 대표인 Dario Amodei가 인공지능 스타트업들에게 발전 속도를 늦출 것을 촉구했습니다. 이 제안은 경쟁사인 OpenAI와 SpaceX의 xAI로부터 예비 승인을 받았습니다.

Amodei 대표는 Anthropic 블로그를 통해 스타트업의 상업적 이익이나 미국의 선도적 지위를 해치지 않으면서 인공지능 발전 속도를 억제하는 3단계 계획을 제시했습니다. 첫 번째 단계는 독립 전문가들에게 내부 보안 절차와 사고 보고서에 대한 접근 권한을 제공하는 것입니다. 두 번째 단계는 민주주의 국가의 주요 기업들이 서로 협력하여 공통의 보안 표준을 개발하는 것이며, 세 번째 단계는 서로 다른 정치 체제를 가진 국가들이 인공지능 발전에 대해 합의하는 것입니다.

Amodei 대표는 인공지능 모델이 인류에게 실질적인 위협이 될 만큼 강력하지 않았던 2023년에는 이러한 조절 아이디어가 덜 시급했지만, 지금은 적절한 발전 속도를 선택하는 것이 필요하다고 설명했습니다. 그는 발전 속도를 늦춰 1년 또는 2년의 시간을 벌어 상황을 정리한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있다고 믿는다고 밝혔습니다. 다만 미국이 너무 느리게 발전할 경우 지정학적 경쟁국들이 앞서 나갈 수 있다는 점을 강조했습니다.

OpenAI의 Sam Altman은 Amodei 대표의 의견에 동의하며, OpenAI 내부에서도 몇 주 동안 유사한 논의가 진행되었다고 밝혔습니다. Altman은 외부 전문가에게 최첨단 인공지능 모델 작업에 대한 접근 권한을 부여하는 아이디어를 지지하며 OpenAI에서도 이를 실행할 준비가 되어 있다고 말했습니다. 또한 그는 인공지능 보안 상황을 정리해야 할 필요성 때문에 2026년으로 예정되었던 기업 공개를 더 나중으로 미루기로 결정했다고 설명했습니다.

SpaceX 산하의 xAI를 이끄는 Elon Musk는 소셜 네트워크 X를 통해 Amodei 대표의 말이 옳다며 간결하게 지지 의사를 표명했습니다. 한편 OpenAI의 수석 과학자인 Jacub Pachocki 역시 공통의 보안 표준이 마련될 때까지 시장 참여자들이 자발적으로 발전 속도를 늦출 것을 촉구했습니다.