새로운 에이전틱 AI의 위험: 챗봇 데이터 유출

A computer screen displays lines of code — Rob Wingate / Unsplash

자율 에이전트 기반의 인공지능(AI) 사용이 다양한 기업 시스템에서 사이버 보안 위험의 기본적인 변화를 촉발하고 있다. 아카마이의 최신 인터넷 상태 보고서(State of the Internet, SOTI)인 '에이전틱 프론티어: 속도, 규모, 비인간 정체성'에 따르면, 최고정보보안책임자(CISO)의 주요 도전 과제가 인간의 신원 관리에서 비인간 실체의 행동 거버넌스로 발전하고 있다.

아카마이의 SOTI 12호 보고서에서는 기업 환경에서 AI 채택으로 인해 발생하는 몇 가지 중요한 보안 취약점을 강조하고 있다. 아카마이의 최고 보안 책임자 보아즈 겔보르드(Boaz Gelbord)는 AI의 빠른 발전이 전체 네트워크 보안 생태계에 거대한 압력을 가하고 있다고 설명했다.

그는 "AI는 전체 보안 생태계에 대해 '모든 것, 어디서나, 동시에'라는 순간을 가져오고 있다. 세 가지 주요 위협이 있다: 조직 전반에 걸친 내부 AI 사용, 제품 및 클라우드 작업 부하에 AI 직접 통합, 기업을 목표로 하는 AI 기반 공격이다. 보안 프로그램은 이러한 빠르게 발전하는 현실에 적응해야 한다,"고 말했다.

아카마이는 에이전트 기반 AI 시대를 대비하기 위해 CISO를 위한 네 가지 전략적 단계를 제시했다.