미국 정부가 국가안보를 이유로 앤트로픽의 최신 모델 ‘Fable 5’와 ‘Mythos 5’에 대한 모든 접근을 중단하라는 지시를 내렸다. 이에 앤트로픽은 즉각 해당 모델들의 서비스를 전 세계 모든 고객에게 중단한다고 12일(현지시간) 밝혔다. 앤트로픽은 정부로부터 이날 오후 5시 21분(미 동부시간) 지시를 받았다고 전했다. 정부는 Fable 5에 대한 ‘jailbreak(탈옥)’ 우회 방법이 발견됐다는 정보를 근거로 들었으나, 구체적인 국가안보 우려 내용은 제시하지 않았다. 앤트로픽은 성명에서 “해당 jailbreak 기법은 이미 알려진 사소한 취약점을 이용한 것으로, 다른 공개 모델에서도 비슷한 결과를 얻을 수 있는 수준”이라며 “완전한 jailbreak 저항은 현재 어떤 모델 제공사도 달성하기 어려운 상황”이라고 설명했다. ▪️앤트로픽의 입장 : 모든 접근을 즉시 차단하기로 앤트로픽은 Fable 5 출시 당시부터 강력한 safeguard(보호장치)를 적용했으며, 수천 시간에 걸친 레드팀 테스트를 진행했다고 강조했다. 또한 “탈옥(Jailbreak)'은 현재 불가능하다”는 점을 공개적으로 밝힌 바 있으며, ‘Defense in depth(다층 방어)’ 전략을 통해 위험을 최소화해왔다고 밝혔다. 그러나 정부의 지시에 따라 Fable 5와 Mythos 5에 대한 모든 접근을 즉시 차단하기로 결정했다. 다른 클로드(Claude) 모델들은 정상적으로 이용할 수 있다. 앤트로픽은 “이 결정으로 고객들에게 불편을 드려 대단히 죄송하다”며 “이는 오해에서 비롯된 조치로 보이며, 가능한 한 빨리 접근을 복구하기 위해 노력하겠다”고 덧붙였다. ▪️배경과 파장 : AI 모델의 안전성과 국가안보 이슈 이번 사태는 최신 AI 모델의 안전성과 국가안보 사이의 긴장 관계를 극명하게 드러낸 사건이다. Fable 5와 Mythos 5는 사이버 보안 분야에서 강력한 성능을 보이는 모델로 알려져 있었으나, 잠재적 악용 가능성 때문에 정부가 강경 대응에 나선 것으로 분석된다. 업계에서는 “이번 조치가 산업 전반에 선례가 될 수 있다”는 우려가 나오고 있다. 앤트로픽은 “이 기준이 모든 프론티어 모델에 적용된다면 신규 모델 배포가 사실상 중단될 것”이라고 지적하며, 정부의 투명하고 공정한 절차 마련을 촉구했다. 이번 사건은 AI 기술 발전 속도가 국가안보 정책을 앞지르고 있음을 보여준다. 정부가 특정 모델의 jailbreak 가능성을 이유로 상용 서비스를 중단시킨 것은 이례적인 조치로, 앞으로 AI 모델의 안전 기준과 규제 방향에 큰 영향을 미칠 전망이다. 앤트로픽은 이번 사태를 통해 “완벽한 안전은 불가능하지만, 다층적 방어와 지속적 모니터링으로 위험을 관리할 수 있다”는 기존 입장을 재확인했다. 그러나 미 정부의 강경 대응은 AI 기업들과 규제 당국 간 긴장 관계가 더욱 고조되고 있음을 시사한다. Welaunch 김아현 기자 스타트업 뉴스 플랫폼, 위런치 © 2024 Welaunch. All Rights Reserved 보도자료/기고 : editor@welaunch.kr 광고/제휴 문의: we@welaunch.kr