GitHub 등 오픈소스 커뮤니티서 SynthID 제거 및 우회 도구 잇따라 공개 신호 처리 기법 및 AI 재렌더링 활용... 워터마크 기술의 ‘신뢰성’ 도마 위 인공지능(AI)이 생성한 이미지와 텍스트를 식별하기 위해 구글 딥마인드(Google DeepMind)가 내놓은 야심작 ‘신스ID(SynthID)’가 기술적 도전에 직면했다. 최근 오픈소스 커뮤니티를 중심으로 SynthID의 탐지를 피하거나 워터마크 자체를 제거하는 기술이 빠르게 확산하면서, AI 투명성 확보를 위한 국제적 기준 마련에 비상이 걸렸다. ■ ‘절대 삭제 불가’라던 호언장담 무색... 기술적 허점 드러나 지난 2023년 8월 처음 공개된 SynthID는 이미지의 픽셀 데이터에 인간의 눈으로는 볼 수 없는 미세한 디지털 신호를 직접 삽입하는 방식이다. 구글은 이 기술이 이미지의 크기 조정, 자르기, 압축 등 일반적인 편집 과정에서도 파괴되지 않는 강력한 복원력을 가졌다고 강조해 왔다. 하지만 최근 GitHub에 공개된 ‘aloshdenny’ 등의 리포지토리에 따르면, SynthID의 작동 원리를 역공학(Reverse Engineering)하여 워터마크 신호를 분석하고 이를 데이터에서 제거하는 것이 가능한 것으로 나타났다. 특히 신호 처리 기법(FFT)을 활용해 워터마크가 삽입된 특정 주파수 패턴을 찾아내고, 원본의 시각적 품질을 크게 해치지 않으면서 해당 신호만 ‘빼내는’ 방식이 입증되며 기술적 방어막에 균열이 생겼다. ■ 확산 모델 역이용한 ‘재세탁’ 기법 확산 이미지 생성 도구인 ComfyUI와 같은 Stable Diffusion 생태계 내에서도 우회 시도가 활발하다. 일명 ‘디퓨전 기반 사후 처리’ 기법은 SynthID가 적용된 AI 이미지를 낮은 노이즈 설정으로 다시 한번 AI에 통과시켜 미세한 픽셀 구조를 재배치하는 방식이다. 이 과정을 거치면 인간의 눈에는 원본 이미지와 거의 차이가 없지만, SynthID 검출기는 해당 이미지를 ‘AI 생성물이 아님’ 혹은 ‘판별 불가’로 분류하게 된다. 이는 구글의 검증 시스템이 미세한 확률 분포의 변동에 의존한다는 점을 역이용한 결과다. ■ 구글의 대응... 텍스트 워터마크 오픈소스화로 정면 돌파 이러한 공격적 기술 확산에 대응해 구글은 역설적으로 SynthID의 핵심 기술을 공개하는 강수를 뒀다. 지난 2024년 10월, 구글은 LLM(거대언어모델)용 SynthID Text 기술을 오픈소스로 전환하며 Hugging Face Transformers 라이브러리에 통합시켰다. 이는 특정 플랫폼에 국한되지 않고 업계 전반이 동일한 워터마킹 표준을 사용하게 함으로써, 제거 기술보다 더 빠른 속도로 탐지 인프라를 구축하겠다는 의도로 풀이된다. 구글 딥마인드 측은 “워터마킹은 완벽한 해결책이 아니며, 여러 보안 장치 중 하나일 뿐”이라며 기술적 한계를 인정하면서도 “공동의 노력이 악의적인 AI 사용을 억제하는 데 도움을 줄 것”이라고 밝혔다. 보안 전문가들은 워터마크 제거 기술의 등장이 예견된 수순이었다고 지적한다. University of Chicago의 벤 자오(Ben Zhao) 교수는 “시간이 지나도 견고함이 유지되는 워터마크는 거의 없다”며 회의적인 시각을 드러내기도 했다. 전문가들은 향후 AI 콘텐츠 식별이 단순한 워터마크 삽입을 넘어, 생성부터 유통까지의 이력을 기록하는 C2PA(콘텐츠 출처 및 진위 확인을 위한 연합)와 같은 메타데이터 방식과 결합되어야 한다고 조언한다. SynthID를 둘러싼 이번 논란은 AI 규제 및 투명성 기술이 단순한 알고리즘 개발을 넘어 끊임없는 기술적 공격에 노출될 수밖에 없음을 시사하고 있다. Welaunch 지현우 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr