David Sacks, OpenAI와 Anthropic의 인공지능 개발 속도 조절 제안 비판

David Sacks가 OpenAI와 Anthropic이 제안한 전면적인 인공지능 개발 속도 완화 움직임에 대해 날카로운 비판을 제기했습니다.

Anthropic의 최고경영자인 Dario Amodei는 인공지능 능력이 중대한 안전 위험 단계에 빠르게 접근하고 있다고 경고하며, 업계 전체가 모델 능력 향상 속도를 늦춰야 한다고 공개적으로 촉구했습니다. 그는 안전 메커니즘이 따라가지 못할 경우 향후 6개월에서 12개월 내에 인공지능 에이전트 군집이 인터넷을 대규모로 제어하여 사이버 공격 등에 이용될 수 있다고 주장했습니다. 이에 대해 OpenAI의 최고경영자인 Sam Altman과 xAI의 최고경영자인 일론 머스크가 동의를 표명했습니다.

Amodei는 독립적인 제3자 안전 평가 기관의 내부 검사, 주요 연구소 간의 안전 표준 조율, 그리고 미국과 동맹국 및 중국을 포함한 국가 간의 협력을 골자로 하는 방안을 제시했습니다. OpenAI는 이 문제가 내부적으로 중요한 논의 주제가 되었다고 밝혔습니다.

반면 David Sacks는 이들이 진정으로 위험을 느낀다면 정부의 승인이나 법적 틀, 경쟁사의 동의를 기다릴 필요 없이 스스로 연구 개발 및 배포 속도를 낮추면 된다고 반박했습니다. 그는 특정 시스템이 인류를 위협할 정도로 위험하다고 판단된다면 개발이나 출시를 중단하는 것이 가장 간단한 방법이라고 주장했습니다.

Sacks는 특히 업계 조율과 규제 마련 제안이 반독점 면제 혜택으로 이어질 경우, 소수 기업이 개발 속도를 결정하는 카르텔로 변질될 수 있다고 경고했습니다. 그는 이러한 메커니즘이 경쟁을 제한하고 후발 주자의 시장 진입 장벽을 높여 기존 거대 기업의 지위를 공고히 하는 도구로 이용될 수 있다고 보았습니다.

또한 그는 정부가 제품 출시 전 일일이 승인하는 사전 심사 제도를 도입하는 것에 반대하며, 대신 기존의 제품 책임 제도를 통해 기업이 결과에 대해 법적 책임을 지게 해야 한다고 강조했습니다. 그는 자본 시장의 평판과 가치 평가 역시 기업의 위험 제어를 강제하는 충분한 제약 조건이 된다고 덧붙였습니다.

한편, 미국 정부의 입장은 기업들과 차이가 있습니다. 도널드 트럼프 대통령은 안전 장치의 필요성은 인정하면서도, 중국과의 기술 경쟁에서 우위를 점하기 위해 과도한 위험 우려로 개발 속도를 늦추는 것은 원치 않는다는 입장을 밝혔습니다.