AI · 2026년 10월 14일
다른 언어로도 게시됨 日本語
사티아 나델라, 인공지능 모델에 대한 비상 제어 장치 도입 촉구
사티아 나델라가 인공지능 모델에 대한 외부 제어 메커니즘과 비상 제어 장치 도입을 촉구했다. 그는 비즈니스 환경에서 더 큰 안전이 필요하다고 강조했다.
고급 인공지능 기술에 대한 통제 부족에 대한 우려가 커짐에 따라, 마이크로소프트의 CEO인 사티아 나델라는 인공지능 시스템 주위의 신뢰 아키텍처에 대한 근본적인 재구성을 제안했다. 그는 현재 이러한 시스템을 블랙박스로 간주하고, 그 권고와 행동을 무비판적으로 수용하거나 거부하는 접근이 불충분하다고 지적했다.
제안된 보안 아키텍처의 핵심 요소는 모델의 중요한 모든 작업을 조작에 강한 인간이 이해할 수 있는 증거로 문서화하는 것이다. 나델라는 승인된 사람이 언제든지 작업 중인 모델을 중단하거나 완전히 정지시킬 수 있도록 시스템을 설계해야 한다고 강조했다. 이러한 접근은 인공지능 시스템이 언제든지 타협될 수 있다는 전제에 기초하며, 이는 초기 기능 시작부터 즉각적인 격리를 요구한다.
마이크로소프트의 CEO의 발언은 알고리즘 보안에 대한 더 넓은 산업 논의와 관련이 있으며, 최근 주요 기술 기업들이 자사의 솔루션에 대한 완전한 통제를 상실했음을 인정한 사건들이 이를 더욱 부각시켰다. 나델라의 발언은 앤트로픽의 CEO인 다리오 아모데이가 인공지능 기술의 훨씬 더 신중하고 통제된 개발 계획을 발표한 직후에 나타났다. IT 관리자들과 기업 경영진에게 이러한 문제는 생산 환경에서 AI 솔루션을 구현하는 데 있어 근본적인 중요성을 가진다.