예스24, AI 기반 '클린봇' 서비스 도입... 혐오 표현 자동 필터링

문화콘텐츠 플랫폼 예스24가 AI를 활용해 부적절한 혐오 표현을 자동 감지하고 필터링하는 ‘클린봇’ 서비스를 도입했다고 19일 밝혔다. 예스24는 이를 서점 업계 최초로 도입하여, 독자들에게 보다 건강한 정보 제공을 목표로 한다. ‘클린봇’은 도서와 직접적인 관련이 없는 작가 및 책에 대한 혐오 표현을 AI가 스스로 감지하고 필터링하는 시스템이다. 활성화되면, 도서 상세페이지 하단의 ‘한줄평’과 작가 페이지의 ‘작가에게 한마디’에 포함된 부적절한 표현을 자동으로 감지하여 해당 글을 숨김 처리한다. 사용자는 필요에 따라 클린봇 기능을 켜거나 끄는 선택을 할 수 있으며, 숨김 처리된 글도 직접 확인할 수 있다. 이번 서비스에는 예스24가 20여 년 동안 축적한 도서 리뷰 및 한줄평 데이터를 활용했다. 이를 기반으로 AI는 문장의 맥락을 분석해 직접적인 욕설이나 비속어뿐만 아니라 폭력적이거나 차별적인 용어 등 불쾌감을 일으킬 수 있는 표현도 차단하고 필터링한다. 2024년 기준으로 예스24에는 약 150만 건의 한줄평이 등록될 만큼 활발한 상품 후기 활동이 이루어지고 있으며, 클린봇 도입을 통해 더욱 건강한 소통 환경을 조성할 수 있을 것으로 기대된다. 예스24 유서영 커뮤니티팀 팀장은 "이번 클린봇 서비스는 도서나 작가와 관계없는 무분별한 혐오 표현으로 인해 독자들이 느낄 수 있는 피로감을 줄이기 위해 도입됐다"며, "앞으로도 예스24는 정확하고 건전한 정보를 제공하여 고객들의 편안한 독서 활동을 지원할 것"이라고 말했다. Welaunch 서아림 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr