에임인텔리전스, 연세대·KIST·서울대 공동 연구 ‘ELITE’, ICML 2025 공식 채택

에임인텔리전스(대표 유상윤)가 연세대, KIST, 서울대와 공동으로 개발한 AI 안전성 평가 체계 ‘ELITE(Enhanced Language-Image Toxicity Evaluation)’가 세계적인 머신러닝 학술대회인 ICML 2025에 공식 논문으로 채택됐다고 7일 밝혔다. ICML(International Conference on Machine Learning)은 1980년부터 전 세계 연구자들이 최신 머신러닝 및 인공지능 기술을 공유하는 대표적인 국제 학술대회로, 올해로 42회를 맞이하였다. 이번에 채택된 ELITE는 이미지와 텍스트를 함께 입력하는 비전언어모델(VLM)의 응답을 정밀하게 평가하는 AI 안전성 진단 체계다. 사용자는 사진과 글을 AI에게 제공하면, ELITE는 겉보기에는 무해해 보이는 응답 속에서 독성, 설득력, 구체성 등 세부 항목으로 분석하여, 은밀하게 유해할 수 있는 발언까지 탐지할 수 있도록 설계됐다. 이는 AI의 숨은 위험 신호를 잡아내는 ‘정밀 건강검진 키트’로 비유할 수 있다. ELITE 시스템은 기존 7개 평가 도구를 통합하고, 자체 제작한 고난도 문제 1,054개를 포함해 총 4,587건의 실험을 수행하여, 유명 오픈소스 AI 모델 18종 중 10개 이상이 40% 이상 유해 발언에 노출된 실태를 공개했다. 이 연구는 실제 서비스 환경에서 AI의 위험성을 보다 현실적으로 진단할 수 있는 기준을 제시하고 있다. 에임인텔리전스의 유상윤 대표는 “ICML 무대에서 국내 기술력이 공론화됐다는 것 자체가 큰 의미”라며, “앞으로도 누구나 안심하고 사용할 수 있는 AI 환경을 위해 연구와 협력을 더욱 강화하겠다”고 말했다. 한편, 에임인텔리전스는 한국정보통신기술협회(TTA) 등과 함께 AI 안전성 표준화 작업에 참여하고 있으며, 이번 연구 성과를 바탕으로 금융, 공공, 의료, 로봇, 국방 등 고위험 산업 분야에 적용 가능한 AI 평가 기준을 수립할 계획이다. Welaunch 서아림 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr