KAIST(한국과학기술원)와 국가보안기술연구소가 공동으로 인공지능(AI)이 생성한 한국어 댓글을 98.5%의 높은 정확도로 식별할 수 있는 탐지 기술 ‘XDAC’를 개발했다. 이 기술은 최근 급증하는 AI 기반 여론 조작 시도를 효과적으로 막을 수 있을 것으로 기대된다. KAIST 김용대 전기및전자공학부 교수 연구팀은 다양한 생성형 AI가 작성한 댓글과 사람이 쓴 댓글을 구분하는 데 어려움이 있다는 점에 주목했다. 실제 실험에서 평가자 4명은 210개의 댓글 중 AI가 쓴 댓글의 67%를 사람이 쓴 것으로 착각했으며, 사람이 쓴 댓글을 정확히 판별한 비율도 73%에 그쳤다. 이처럼 인간이 AI 댓글을 구분하기 어려운 상황에서 XDAC는 AI가 생성한 댓글을 98.5%의 확률로 식별할 뿐만 아니라, 어떤 AI 모델이 사용됐는지도 판별할 수 있다. 연구팀은 14종의 다양한 대형언어모델(LLM)을 활용해 AI 댓글 생성 프레임워크와 벤치마크 데이터셋을 구축했다. XDAC는 AI가 작성한 댓글의 미묘한 언어적 특징과 감정, 논조 조절 패턴 등을 분석해 인간의 댓글과 구별한다. 이번 연구 결과는 AI 자연어처리 분야 최고 권위 학술대회인 ‘ACL 2025’에도 채택됐다. 특히, 최근 AI를 활용한 댓글 조작 비용이 매우 낮아진 점도 우려를 키운다. 대표적인 생성형 AI인 챗GPT-4o 기준으로 댓글 1개를 생성하는 데 약 1원밖에 들지 않아, 하루 20만 개의 댓글이 달리는 국내 주요 뉴스 플랫폼 전체를 20만 원만으로도 조작할 수 있다. GPU 등 자체 인프라를 보유하면 사실상 무료로 대량 댓글 생성이 가능하다. KAIST 연구팀은 “XDAC 기술 적용으로 온라인 여론 조작에 대한 우려를 상당 부분 해소할 수 있을 것”이라고 밝혔다. 이번 기술은 앞으로 온라인 뉴스 댓글 등에서의 여론 조작 시도를 효과적으로 차단하는 데 중요한 역할을 할 전망이다. Welaunch 서아림 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr