텐센트 인공지능 과학자, 생물학 분야 인공지능 안전 위험 경고

최근 여러 최첨단 인공지능 시스템이 생명 과학, 의학 연구, 약물 개발에 적용되고 있다. 업계는 인공지능이 약물 선별 및 개발 주기를 크게 단축하고 치료법 발견 속도를 높일 수 있을 것으로 예상하고 있다. 그러나 전문가들은 이러한 능력이 이중 용도 특성을 가지고 있어 과학 진전을 촉진하는 동시에 불법 행위자들에게 악용되어 새로운 생물 안전 위험을 초래할 수 있다고 지적했다.

야오 순위의 발언은 텐센트가 인공지능 전략을 가속화하고 있는 시점에 나왔다. 텐센트는 11월 4일 새로운 플래그십 모델 Hy4를 공식 출시했으며 이를 회사의 가장 중요한 기초 모델 중 하나로 위치시켰다. 인공지능 평가 기관 Artificial Analysis의 데이터에 따르면 Hy4는 현재 중국에서 성능이 가장 우수한 인공지능 모델 중 하나로 순위가 매겨졌다.

야오 순위는 향후 발전 방향에 대해 텐센트가 인공지능 시스템이 생물학 연구 과제를 포함한 복잡한 과학 연구 과정을 독립적으로 완료할 수 있도록 하는 자율 과학 실험실 건설 가능성을 탐색하고 있다고 밝혔다. 그는 기술적 관점에서 대부분의 어려운 문제는 결국 해결될 수 있지만, 진정한 더 큰 도전은 사회 거버넌스, 조직 조율, 안전 감시 체계 구축에 있다고 생각한다고 말했다.

텐센트는 Hy4 훈련 과정에서 잠재적 위험을 줄이기 위해 일련의 안전 조치를 취했다. 회사는 소프트웨어 취약점 악용 및 공격 행위와 관련된 데이터를 의도적으로 제거했으며 방어적 사이버 보안 지식만 유지했다고 밝혔다. 생물학 분야와 관련하여 텐센트의 내부 평가는 Hy4가 강력한 기초 생물학 지식을 가지고 있지만 독립적으로 실험 절차를 수립하고 고위험 능력을 형성하기까지는 여전히 명백한 격차가 있다고 판단했다.

야오 순위는 사이버 보안 분야와 달리 생물학 분야는 공격 능력과 방어 능력을 명확히 구분하기가 더 어려운 경향이 있다고 특히 강조했다. 이는 연구자들이 모델 위험을 평가할 때 더 복잡한 상황에 직면하게 된다는 의미이며, 따라서 모델 출시 전에 더욱 엄격한 테스트와 검증이 필수적이라고 그는 말했다. 텐센트는 현재 회사 내 최고 보안 실험실과 협력하여 관련 능력에 대한 체계적 평가를 진행하고 있다.