에임인텔리전스(대표 유상윤)는 세계적인 머신러닝 학술대회인 ICML 2025에서 자사의 인공지능(AI) 안전성 평가 연구가 공식 논문으로 채택되었다고 밝혔다. ICML(International Conference on Machine Learning)은 1980년부터 전 세계 연구자들이 최신 머신러닝 및 인공지능 기술을 공유하는 대표적인 국제 학술대회로, 올해로 42회를 맞이하였다. 이번 대회는 엄격한 심사를 거쳐 경쟁률이 약 20% 미만으로 집계될 정도로 치열한 논문 선발 절차를 거쳤으며, 혁신적이고 실질적인 기여를 하는 연구 결과들이 채택되었다. 에임인텔리전스의 이번 논문은 비전언어모델(Vision-Language Model, VLM)의 안전성을 보다 정밀하게 평가하는 새로운 방법론을 제안했다. 비전언어모델은 이미지를 보고 문장을 생성하거나 질문에 답하는 AI 모델로, 최근 산업 현장과 일상생활에서 빠르게 확산되고 있다. 기존의 AI 안전성 평가는 주로 AI가 유해하거나 위험한 요청을 명확히 거부하는지 여부에 중점을 두었으나, 이 방식은 간접적이고 미묘한 형태의 위험을 포착하지 못하는 한계가 있었다. 이에 따라 에임인텔리전스는 'ELITE'라는 새로운 AI 안전성 평가 체계를 개발했다. ELITE(Enhanced Language-Image Toxicity Evaluation) 시스템은 AI 모델의 다양한 반응 유형에 대해 유해성(toxicity) 점수를 세분화하여 산출하며, 자동화된 결과와 인간 심사자의 실제 판단이 더욱 정확하게 일치하도록 설계되었다. 이를 통해 기존의 평가 방식에 비해 AI 모델의 안전성을 더 신뢰성 있게 평가할 수 있게 되었다. 유상윤 대표는 "세계적으로 권위 있는 ICML 무대에서 국내 스타트업의 기술력이 공론화되었다는 점에서 큰 의미를 갖는다"며, "앞으로도 누구나 안심하고 사용할 수 있는 AI 환경을 조성하기 위해 지속적으로 기술 연구와 협력을 강화하겠다"고 말했다. 한편, 에임인텔리전스는 AI 안전성 및 보안 분야에서 우수한 기술력을 인정받아 한국정보통신기술협회(TTA) 등과 협력하며 AI 안전성의 표준을 만들어가고 있다. 이번 비전언어모델에 대한 연구 성과를 바탕으로, 향후 더 많은 산업 현장에서 신뢰할 수 있는 AI 안전성 평가 기준을 수립할 예정이다. Welaunch 서아림 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr