AI 보안 전문 기업 에임인텔리전스(AIM Intelligence)가 미국 로봇 OS 기업 오픈마인드(OpenMind)와 LG전자와 손잡고 ‘피지컬 AI 안전 레이어(Physical AI Safety Layer)’를 공동 개발한다고 14일 밝혔다. 이번 협력은 물리적 환경에서 작동하는 피지컬 AI(Physical AI)의 오작동과 외부 공격을 방지하기 위한 차세대 안전 표준으로, 산업 로봇과 자율주행 시스템의 신뢰성을 강화할 전망이다. 피지컬 AI는 로봇이나 자율 시스템이 현실 세계에서 인식·판단·행동하는 기술을 의미하지만, 현재 안전 규칙은 아시모프의 ‘로봇 3원칙’ 수준에 머물러 현실 환경에서의 환각(오인식) 오류와 사이버 공격에 취약하다는 지적이 지속돼 왔다. 최근 연구에 따르면, 인간이 인지하지 못하는 초음파 신호나 의류·헬멧의 미세 이미지 패치만으로도 AI를 교란해 명령을 조작할 수 있는 ‘은밀한 공격’이 현실화되고 있다. 세 기업이 개발하는 안전 레이어는 시각·청각·센서 데이터를 통합 분석해 이러한 위험을 실시간 차단하며, 로봇의 모든 행동을 인간 통제 하에 유지하는 체계를 구축한다. 이번 협력에서 오픈마인드는 범용 로봇 OS ‘OM1’을 제공해 안전 레이어의 소프트웨어 기반을 마련하고, LG전자는 하드웨어 통합과 실증 테스트를 담당한다. 에임인텔리전스는 자사의 AI 리스크 탐지·차단 기술을 OS에 통합해 판단 오류와 외부 침입을 방어하는 핵심 모듈을 설계한다. 이를 통해 로봇은 복잡한 산업 환경에서도 안전하게 작동할 수 있으며, 자율 환경에서의 신뢰성을 높일 수 있다. 박하언 에임인텔리전스 CTO는 “단순한 오작동 방지를 넘어 외부 공격까지 차단하는 체계를 구축하겠다”며 “산업 전반에 적용 가능하며, 자율 환경에서도 신뢰 가능한 로봇 운영의 새 기준을 제시할 것”이라고 밝혔다. 개발 완료 후에는 제조·물류·의료 등 분야에서 시범 적용을 통해 효과를 검증할 계획이다. 에임인텔리전스는 AI 리스크 탐지·차단 기술 개발의 선두주자로, ACL·ICML 등 국제 학회에서 기술력을 인정받았다. KT·LG·BMW·Meta·KB국민카드·한국신용정보원 등 글로벌·국내 기업과 AI 안전 기술의 산업화를 추진 중이며, 이번 프로젝트는 피지컬 AI 분야로의 확장을 상징한다. 글로벌 피지컬 AI 시장은 2030년 1조 달러 규모로 성장할 전망이며, 안전 기술 수요가 급증하고 있다. 이번 협력을 통해 한국 AI 보안 기술의 국제 표준화에 기여할 것으로 기대한다. Welaunch 서아림 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr