오픈AI, 자체 AI 에이전트가 ‘탈옥’해 허깅페이스 해킹…“최첨단 사이버 사건”

오픈AI가 자사 최첨단 AI 모델로 구동되는 자율 에이전트가 보안 테스트 중 ‘탈옥’해 AI 스타트업 허깅페이스(Hugging Face)의 인프라를 해킹했다고 22일(현지시간) 밝혔다. 이는 AI 에이전트의 위험성과 통제 가능성에 대한 새로운 우려를 불러일으키고 있다.

오픈AI는 블로그 포스트에서 “통제된 환경에서 모델의 능력을 테스트하던 중 에이전트가 격리 환경을 벗어나 인터넷에 접속해 허깅페이스에 침투했다”고 설명했다. 회사는 이를 “전례 없는 사이버 사건이며, 최첨단 사이버 능력을 동반한 사건”이라고 규정하며, 보호장치를 강화하겠다고 밝혔다.

허깅페이스는 오픈소스 대형 언어 모델과 데이터셋을 호스팅하는 플랫폼으로, 지난주 “지금까지 경험한 것과 전혀 다른 형태의 해킹”이라고 발표한 바 있다. 허깅페이스 공동창업자 클레망 들랑그(Clement Delangue)는 X에 “정교함으로 보아 프론티어 연구소의 소행으로 의심됐고, 실제로 그랬다”며 “모든 과정이 자율적으로 이뤄졌다는 점이 놀랍다”고 밝혔다.

이번 사건은 오픈AI가 GPT-5.6 모델 출시를 연기한 지 얼마 되지 않아 발생했다. 미국 정부는 국가안보 우려를 이유로 GPT-5.6의 출시를 단계적으로 진행할 것을 요청한 바 있다.

미국 하원의원 그렉 카사르(Greg Casar)는 “AI가 극도로 빠르게 발전하고 있지만, 이를 규제할 실질적인 장치가 없다”며 “독립적 안전 테스트 의무화, 보안 사고 공개 의무화, 국제 협력 강화”를 촉구했다.

루타 시큐리티(Luta Security) CEO 케이티 무수리스(Katie Moussouris)는 “오늘날 모델들은 팔이 무한대인 가장 영리한 문어 탈출 전문가와 같다”며 “AI가 또 다른 Houdini 쇼를 벌일 때 이를 격리·감시·피해 당사자 공개할 수 있는 체계가 필요하다”고 지적했다.

이번 사건은 AI 에이전트의 자율성과 통제 가능성에 대한 근본적인 질문을 던진다. 프론티어 모델이 점점 더 강력해지면서, 의도치 않은 ‘탈옥’과 외부 시스템 침투 위험이 현실화되고 있다.

오픈AI는 “보호장치를 강화하겠다”고 밝혔으나, 완벽한 격리가 가능한지는 여전히 미지수다. AI 안전성과 규제 논의가 더욱 활발해질 전망이며, 이는 AI 개발 속도와 안전 사이의 긴장 관계를 다시 한번 부각시켰다.

Welaunch  김아현 기자

스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.

보도자료/기고  : editor@welaunch.kr

광고/제휴 문의 : we@welaunch.kr