AI · 2026년 10월 12일
다른 언어로도 게시됨 日本語, Nederlands
오픈에이가 텍스트 생성물에 디지털 문신을 도입하며 유럽연합 규제 대응에 착수
오픈에이가 자체 개발한 대규모 언어 모델이 생성하는 텍스트에 디지털 문신을 삽입하는 기술을 도입하기 시작했습니다. 이 초기 배포는 현재 개발자용 인터페이스를 통해 선택적으로 제공되며, 향후 몇 주 안에 챗지피티와 코드에이까지 확장될 것으로 예상됩니다. 이러한 조치는 유럽연합 내에서만 우선 적용될 예정입니다.
이러한 기술적 변화의 배경에는 유럽연합의 인공지능법이 자리 잡고 있습니다. 해당 규정은 2026년 8월 2일 이전에 시장에 출시된 인공지능 시스템이 생성한 콘텐츠에 표식을 부착하도록 의무화하고 있습니다. 관련 공급업체들은 2026년 12월 2일까지 이 규정에 부합하도록 시스템을 조정해야 합니다. 유럽연합은 현재까지 인공지능법이 명시한 효율성, 상호운용성, 견고성, 신뢰성이라는 네 가지 기준을 모두 충족하는 단일 기술이 없다고 판단하고 있습니다. 따라서 유럽연합은 서명된 메타데이터와 보이지 않는 워터마크를 우선시하는 복합적인 접근 방식을 제안하고 있습니다.
일반적인 텍스트는 메타데이터를 포함할 수 없으므로, 단일 계층의 처리만으로도 충분하다고 여겨집니다. 텍스트 문신의 잠재적 신뢰성 부족을 보완하기 위해, 관련 공급업체는 해당 탐지 솔루션의 접근을 전문가 사용자로 제한할 수 있습니다. 이 탐지 도구는 사양 문서, 실행 파일이나 라이브러리 형태의 소프트웨어, 또는 인터페이스를 통한 서비스 형태로 제공될 수 있습니다.
오픈에이는 인터페이스를 통한 서비스 제공이라는 마지막 옵션을 선택했습니다. 회사는 구체적인 일정은 제시하지 않았으나, 해당 기술을 오픈소스로 공개할 것을 약속했습니다. 이 기술은 텍스트그레인이라고 불리며, 이전 텍스트와 결합된 비밀 키를 사용하여 토큰 선택에 약간의 편향을 부여하는 방식으로 작동합니다. 생성된 응답의 다양성을 유지하면서 추적 가능한 신호를 삽입하는 균형점을 찾기 위해, 이 문제는 최적 운송을 통한 통계적 결합으로 모델링되었습니다. 대규모 언어 모델의 전체 어휘에 대해 매 단어마다 이 문제를 해결해야 하는 부담을 줄이기 위해, 텍스트그레인은 어휘를 토큰 블록으로 나누고 키에 기반하여 최적 운송을 적용해 블록을 선택합니다.
오픈에이는 이 기술이 테스트한 다른 접근 방식, 특히 신스아이디를 포함하여, 그 성능을 달성하거나 초과한다고 주장합니다. 그러나 회사는 이 기술의 한계도 인정하고 있습니다. 예를 들어, 400토큰 분량의 텍스트에서 단어의 10퍼센트를 동의어로 교체하면 탐지율이 92퍼센트에서 66퍼센트로 떨어집니다. 단어의 4분의 1을 교체하면 이 비율은 17퍼센트로 급감합니다. 짧은 텍스트 구간에서는 탐지 효율이 더 낮아져, 200토큰 구간에서 1퍼센트의 오경보율을 목표로 할 때 탐지율은 80퍼센트에 그칩니다. 또한 수학처럼 모델이 출력을 변경할 자유도가 적은 분야에서는 탐지 효율이 더욱 떨어집니다. 이미지와 오디오의 경우, 오픈에이는 이미 공개적으로 접근 가능한 웹 도구와 콘텐츠 출처 인터페이스를 보유하고 있습니다.