보안 · 2026년 10월 4일
다른 언어로도 게시됨 Polski
중국 인공지능 기업 Moonshot, 내부 조사 착수
중국 인공지능 개발 기업 Moonshot이 최근 보안 연구자들이 자사의 인기 모델 두 개를 이용해 생물 무기를 제작하도록 학습시킨 사건에 대해 내부 조사를 실시한다고 밝혔다. 보안 플랫폼인 "마인드가드"는 지난 7월, Kimi K2.6 및 K3 Swarm 모델이 개발자들이 설정한 안전 제한을 우회할 수 있음을 발견했다. 이와 관련하여 보안 전문가들은 AI 도구들이 안전 장벽을 극복할 수 있는 가능성을 조사하고 있다.
마인드가드에 따르면, Kimi 2.6 모델은 해커가 Moonshot의 컴퓨팅 자원에서 코드를 실행하고 인터넷에 연결될 수 있는 위험이 있다. Moonshot은 이 발견을 부인하지 않았으며, 마인드가드와의 논의를 진행 중이라고 전했다. 또한, 회사는 이러한 의견과 비판을 "더 나은 안전한 인공지능 구축의 중심 기둥"으로 받아들이고 있다고 밝혔다.
그러나 마인드가드가 발견한 취약점을 대중에 공개한 결정에 대해 비판했다. 마인드가드의 설립자 피터 가라간은 BBC와의 인터뷰에서, 두 모델에 대한 발견이 특히 우려스럽다고 언급했다. "보안 우회가 성공하면 모델은 모든 임무에 열려 있으며, 창의적이고 심지어 추가적인 악의적인 행동을 추천할 수 있다"고 말했다.
이 사건은 최근 AI 기술의 보안 문제에 대한 논쟁을 일으키고 있으며, 특히 개방형 모델과 폐쇄형 모델의 안전성에 대한 논의가 활발하게 이루어지고 있다. Kimi는 오픈 소스 모델로, 모든 컴퓨팅 인프라에서 자유롭게 실행될 수 있다.