OpenAI, 챗GPT 텍스트에 보이지 않는 워터마크 ‘textGrain’ 도입

유럽 내 챗GPT 및 코덱스(Codex) 생성 텍스트 대상 의무 적용​

글로벌 API는 '선택(옵트인)' 방식 채택…전 세계 일괄 적용했던 앤트로픽과 차별화

텍스트 수정·패러프레이징 시 탐지율 급감 등 기술적 한계 공존

생성형 인공지능(AI) 선두 주자 오픈AI가 유럽연합(EU)의 인공지능 규제법(EU AI Act) 시행에 발맞춰 챗GPT가 생성한 텍스트에 육안으로 보이지 않는 디지털 워터마크를 도입하기로 했다. AI가 작성한 글을 식별할 수 있는 기술적 장치를 마련해 투명성을 확보하라는 규제 당국의 압박에 대응하는 조치다.

오픈AI는 유럽연합(EU) 지역 내 적격 챗GPT 및 코덱스(Codex) 출력 텍스트를 대상으로 향후 수주에 걸쳐 보이지 않는 텍스트 워터마크 기술인 ‘텍스트그레인(textGrain)’을 순차 적용한다고 10월 5일(현지시간) 발표했다. 이는 AI 생성 콘텐츠에 대한 출처 표기 의무를 명시한 EU AI법 제50조 요건을 준수하기 위한 조치다.

이번 정책에서 눈에 띄는 점은 ‘지역적 분리 적용’이다. EU 지역 내 일반 사용자의 챗GPT 및 코덱스 생성물에는 워터마크가 기본 활성화되지만, 전 세계 기업 고객을 대상으로 하는 API 환경에서는 워터마크가 기본적으로 비활성화되며 개발사가 필요에 따라 선택(Opt-in)하는 방식으로 운영된다. 앞서 클로드(Claude)의 워터마크를 전 세계 모든 서비스에 일괄 강제 적용해 이용자 반발을 샀던 경쟁사 앤스로픽(Anthropic)과 달리, 규제 준수와 개발자 편의 사이에서 완급을 조절한 것으로 풀이된다.

오픈AI 측은 워터마크 삽입이 AI의 지능이나 문장 생성 품질에 영향을 주지 않는다고 강조했다. 최신 플래그십 모델 아스트라(Astra)를 기반으로 자체 벤치마크를 수행한 결과, 워터마크 적용 전후로 유의미한 성능 차이가 발생하지 않았다는 설명이다. 회사는 향후 관련 기술을 오픈소스로 공개해 생태계 차원의 검증을 유도할 방침이다.

다만 텍스트 워터마크 기술의 실효성을 둘러싼 회의론도 여전히 팽팽하다. 단어 선택의 다양성이 높은 심리학 관련 400토큰(약 300단어) 분량에서는 탐지율이 95% 수준에 달하지만, 수식이나 고정 용어가 많은 수학 콘텐츠는 탐지율이 크게 떨어진다. 특히 생성된 텍스트 중 단어의 10%만 동의어로 바꾸면 탐지율이 66%로 떨어지고, 25% 이상 수정하면 17% 수준으로 급락해 우회 및 훼손이 손쉽다는 취약점을 안고 있다.

오픈AI 역시 워터마크가 절대적 판별 기준이 될 수 없다는 점을 분명히 했다. 회사는 "워터마크는 텍스트 작성자의 신원을 식별하거나 인간의 기여도, 소유권, 사실 여부를 증명하지 못하며, 워터마크가 감지되지 않았다고 해서 인간이 썼다는 증거가 되지는 않는다"고 선을 그었다. 오탐(False Positive)과 미탐 리스크를 고려해 식별용 탐지기(Detector) 접근 권한도 일반에 공개하지 않고, 승인된 학술 연구자와 전문 기관에만 제한적으로 부여하기로 했다.

업계에서는 EU의 고강도 AI 규제가 현실화되면서 글로벌 빅테크들이 앞다퉈 기술적 타협책을 내놓고 있으나, 텍스트 변형에 취약한 워터마크의 구조적 한계 탓에 규제 실효성을 둘러싼 실무적 논쟁은 당분간 계속될 것으로 내다보고 있다.

Welaunch  김아현 기자

스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.

보도자료/기고  : editor@welaunch.kr

광고/제휴 문의 : we@welaunch.kr