"AI 생성 콘텐츠, 신뢰할 수 있을까?"…인스타그램 대표 모세리의 경고

인스타그램의 대표 애덤 모세리가 "AI가 현실처럼 보이는 콘텐츠를 생산하고 있다"며 온라인에서 보는 이미지와 정보를 맹신해서는 안 된다고 경고했다. 모세리는 16일(현지시간) 자신의 소셜 미디어 플랫폼 'Threads'를 통해 AI 콘텐츠가 현실과 쉽게 혼동될 수 있다고 지적하며, 사용자들은 출처를 확인하고 소셜 플랫폼은 이를 지원해야 한다고 강조했다. 모세리는 "인터넷 플랫폼의 역할은 가능한 한 AI로 생성된 콘텐츠에 라벨을 붙이는 것"이라며 "그러나 일부 콘텐츠는 이러한 라벨링에서 누락될 수 있다"고 인정했다. 따라서 "누가 콘텐츠를 공유했는지에 대한 맥락을 제공해 사용자가 신뢰 여부를 판단할 수 있도록 해야 한다"고 덧붙였다. 그는 또한 AI 기반 검색 엔진을 신뢰하기 전에 챗봇이 자신 있게 잘못된 정보를 제공할 수 있다는 점을 기억하듯, 게시된 이미지나 주장 역시 신뢰할 수 있는 계정에서 나왔는지 확인하는 것이 중요하다고 언급했다. 현재 메타(Meta)의 플랫폼은 모세리가 언급한 것처럼 출처를 명확히 제공하는 기능을 충분히 지원하지 않고 있다. 그러나 메타는 최근 콘텐츠 규칙에 대대적인 변화를 암시한 바 있어, 관련 기능 도입 가능성에 대한 기대가 커지고 있다. 모세리가 제안한 방식은 X(구 트위터)의 '커뮤니티 노트'나 유튜브, 블루스카이의 맞춤형 필터와 비슷한 사용자 주도형 검열 시스템에 가깝다. 메타가 이러한 기능을 도입할지는 확실하지 않지만, 과거 블루스카이의 시스템을 벤치마킹한 사례가 있는 만큼 도입 가능성을 배제할 수는 없다는 관측이다. 사용자들이 AI 콘텐츠에 대한 경각심을 가지고 플랫폼의 신뢰도를 스스로 판단하는 노력이 요구되는 시대가 도래하고 있다. Welaunch 김선호 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved