최근 실제 인물의 키스 장면을 합성한 영상을 만들 수 있는 AI 서비스들이 소셜 미디어에 넘쳐나며 미국에서 논란을 일으키고 있다. 이는 손쉽게 사용 가능한 생성형 AI 도구의 확산으로, 동의의 경계가 모호해지는 최신 트렌드를 반영하고 있다. 일부 서비스는 조부모의 키스 영상을 만드는 등의 순수한 용도로 광고되지만, 대부분의 경우 사용자들에게 좋아하는 사람이나 전 연인과의 키스 영상을 만들도록 유도하며 불법적 영역으로 빠르게 이용되고 있다. 예를 들어, 엑스(전 트위터)에서 한 앱은 교정기를 낀 소녀와 나이 든 남성의 이미지를 사용해 둘이 격렬하게 키스하는 영상을 만들도록 하는 광고를 게재했다. 이러한 앱들은 사용자가 실제 인물들의 친밀하거나 노골적인 장면을 저렴하고 쉽게 딥페이크로 생성할 수 있도록 돕고 있으며, 당사자의 동의는 전혀 필요하지 않다. 웹 브라우저와 모바일 앱을 통해 제공되는 유사한 서비스들이 급증하고 있으며, 이들 중 상당수는 10대 사용자를 대상으로 하고 있다. 예를 들어, '키스 및 포옹 영상 생성기'로 등록된 Fotorama라는 서비스는 iOS에서 4세 이상, 구글 플레이에서 "모든 연령"으로 분류되어 있다. 일부 앱은 키스 기능을 다른 여러 기능 중 하나로 광고하지만, 다른 앱들은 이 기능을 노골적으로 내세우며 사용자들이 이를 부적절하게 활용할 수 있음을 암시한다. 예를 들어, YouCam은 "AI 키스 영상 생성기"를 통해 사용자들이 좋아하는 연예인과 키스하는 꿈을 이룰 수 있다고 홍보한다. AIKiss.AI는 "기술 지식 없이 누구나 몇 분 만에 아름다운 AI 키스 영상을 만들 수 있다"고 자랑하며, 성인용 콘텐츠 제작을 권장하기도 한다. 이들은 스칼렛 요한슨과 같은 유명 배우를 예시로 들며, 동의 없이 더욱 노골적인 영상을 만들 수 있는 위험을 내포하고 있다. 이러한 AI 키스 서비스들은 전체 관람가와 포르노 사이의 애매한 영역에 위치하며, 생성된 친밀한 콘텐츠와 동의에 대한 논란을 불러일으키고 있다. 특히, 연예인을 대상으로 한 딥페이크 포르노와 AI로 만든 누드 이미지가 급증하고 있으며, 중고등학생들까지 AI를 사용해 친구들의 사진으로 미성년 누드를 만들고 있다는 사례도 늘고 있다. 성인 범죄자들은 이러한 AI 기술을 악용해 아동 성착취물을 생성하고 있으며, 인터넷 감시 단체들은 이를 웹상에서 급증하고 있다고 경고하고 있다. AI 기술로 만들어진 이와 같은 콘텐츠는 법적 대응이 일부 이루어졌으나, 피해자들이 실질적인 구제책을 찾기 어려운 상황이다. AI 키스 앱들은 원래 연인과의 소통이나 연예인에 대한 팬심을 표현하는 수단으로 홍보되지만, 실제로는 동의 없이 인물들의 친밀한 영상을 만들고 유포하는 또 다른 경로가 되고 있다. Welaunch 김아현 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr