과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 과기정통부)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 10월 28일 서울 호텔 나루 엠갤러리에서 성황리에 개막했다. ‘보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로 열린 이번 포럼은 국내외 학계·산업계·정부 관계자 150여 명이 참여해 AI 안전 거버넌스·평가·레드티밍의 방향성을 모색하는 국제적 플랫폼으로 자리 잡았다. 이는 2024년 AI Seoul Summit의 후속으로, AI 안전 연구소 네트워크 강화와 실질적 협력을 강조한 행사로 평가받고 있다. 개회식에서 송상훈 국가인공지능전략위원회 지원단장이 축사를 통해 “AI 안전은 국가 안보와 직결된 과제”라며 국제 협력의 필요성을 강조했으며, 김명주 소장은 환영사에서 “한국의 AI 안전 연구소가 글로벌 네트워크의 허브가 될 것”이라고 밝혔다. 포럼은 이틀간 진행되며, 첫째 날에는 AI 안전연구소 글로벌 네트워크, 빅테크의 안전 개발 전략, AI 모델 평가, 한국 인공지능안전연구소의 실천적 접근을 주제로 세션이 이어졌다. 일본·싱가포르 AI 안전연구소, EU AI 사무국, Anthropic, Google, LG AI연구원, 네이버클라우드, Safer AI, Scale AI, CARMA(Center for AI Risk Management & Alignment) 등에서 연사가 참여해 AI 안전성 확보를 위한 정책·기술·산업 접근을 공유했다. 첫째 날 하이라이트: AI 안전 네트워크와 빅테크 전략 논의…한국 모델의 글로벌 벤치마킹 포럼 첫째 날 세션에서는 각국 AI 안전연구소의 활동과 프론티어 AI 모델 개발 기관의 안전 확보 노력, AI 평가 전문 기관의 방법론이 중점 논의됐다. 일본·싱가포르 연구소 대표는 “지역 맞춤형 AI 거버넌스 구축”을 강조하며, EU AI 사무국은 “위험 기반 규제 프레임워크”를 소개했다. 빅테크 측에서는 Anthropic과 Google이 모델 평가와 윤리 가이드라인을 공유하며, LG AI연구원·네이버클라우드는 한국의 AI 안전 실증 사례를 발표했다. 한국 인공지능안전연구소 실무자들과의 대화 세션에서는 한국의 AI 안전 정책과 연구 방향이 논의되며, 참석자들은 “한국의 민관 협력 모델이 아시아 AI 안전의 표준이 될 수 있다”고 평가했다. 이날 논의는 AI 안전의 국제적 필요성을 재확인하며, 2024년 AI Seoul Summit(28개국 참여, Bletchley Declaration 후속)의 연장선으로서 SFASS의 실질적 플랫폼 역할을 강조했다. 참석자들은 “AI 안전 연구소 간 네트워크 구축이 프랑스 AI Action Summit(2025년 2월)까지의 핵심 과제”라고 공감했다. 둘째 날: AI 평가·레드티밍 세션과 MOU 체결…Scale AI와 글로벌 협력 출범 포럼 둘째 날(29일)에는 AI 시스템 평가 및 벤치마킹 세션과 ‘프론티어 AI 안전을 위한 레드티밍’ 프로그램이 진행된다. MLCommons, METR, Anthropic, Epoch AI, Future of Life Institute, Oxford University 등에서 연사가 참여해 AI 평가 방법론과 벤치마킹 경험을 공유한다. 특히 한국 인공지능안전연구소와 미국 AI 전문기업 Scale AI 간 MOU 체결식이 열리며, AI 평가·레드티밍·안전 연구 고도화를 위한 글로벌 협력 체계가 공식 출범한다. 오후 세션에서는 양 기관이 공동으로 레드티밍 실습을 진행해 AI 취약점 탐지 기술을 실증한다. 이 MOU는 SFASS의 핵심 성과로, 한국의 AI 안전 연구가 글로벌 네트워크에 편입되는 상징적 사건이다. Scale AI는 프론티어 AI 모델 평가 전문 기업으로, 이번 협력은 한국의 AI 안전 생태계 강화에 기여할 전망이다. SFASS, AI 안전 국제 협력의 이정표…한국, 아시아 AI 거버넌스 허브로 부상 이번 포럼은 AI 안전의 글로벌 협력을 실현하는 플랫폼으로서의 가능성을 확인했다. 과기정통부 배경훈 장관은 “SFASS는 한국의 AI 안전 리더십을 세계에 알리는 계기”라며, 향후 프랑스 AI Action Summit(2025년 2월)과 연계한 후속 협력을 강조했다. 유현석 콘진원 원장직무대행은 “AI 안전 연구소 네트워크가 K-콘텐츠와 융합되면 산업 혁신이 가속화될 것”이라고 덧붙였다. 국내 AI 안전 시장은 2030년 10조 원 규모로 성장할 전망으로, SFASS는 한국의 민관 협력 모델을 글로벌 벤치마킹 대상으로 만든다. 자세한 세션 영상과 자료는 한국전자통신연구원 홈페이지에서 확인 가능하며, 후속 포럼은 2026년 예정이다. Welaunch 강한나 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr