AI 에이전트가 오픈소스 보안 공개를 교란하고 있다

InfoQ 뉴스 기사가 최근 AI 에이전트가 오픈소스 취약점 공개를 악용해 실제 악용으로 이어질 수 있다고 주장한다는 내용을 전한다. Anil Madhavapeddy는 AI 에이전트가 공개된 단서를 이용해 취약점을 빠르게 악용할 수 있다고 설명하고, 전통적인 공개 금지 기간이 효과를 잃고 있다고 말한다. 그는 최근 경로 탐색 취약점을 수정하던 중, PR을 개설한 직후 해당 버그 패턴을 탐지하는 로그를 확인했다고 밝힌다. 전통적인 보안 프로세스는 취약점 정보를 비공개로 유지하면 사용자를 보호할 수 있다고 가정하지만, AI 에이전트는 제한된 단서만으로도 독립적으로 취약점을 연구하고, 최근 연구에서 GPT-4 에이전트가 15개의 취약점 중 87%를 악용에 성공했다고 보고한다.

Madhavapeddy는 "보그노믹스가 이제 오픈소스 유지보수자에게 불리하다"고 주장하며, 단일 연구자가 이슈 클래스를 찾아내면 다른 에이전트가 즉시 악용 코드를 생성할 수 있다고 말한다. Adrian Mouat은 오픈소스 유지보수자에게 부담이 커지고 있다고 지적한다. PR을 개방해 수정하면 프로젝트와 사용자가 위험에 노출되고, 업데이트가 나오기 전까지 악용이 진행될 수 있기 때문이다. 그는 오픈소스의 근본이 흔들릴 수 있다고 우려한다. Madhavapeddy는 비공개 논의, 빠른 지속적 릴리즈, 프로토콜 수준의 신속한 완화 등 세 가지 접근법을 제안한다.