샘 올트먼 경고 “사후 패치형 사이버 보안의 종말… 이제 ‘AI 실시간 방어막’ 구축해야”

인공지능(AI)이 인간의 예측 범위를 뛰어넘어 하드웨어 수준의 취약점까지 스스로 발굴해 내는 시대가 도래함에 따라, 기존의 '사후 패치(Patch)' 중심 사이버 보안 패러다임이 완전히 무너졌다는 경고가 나왔다.

오픈AI(OpenAI)의 샘 올트먼 최고경영자(CEO)는 23일(현지시간) 미국 스탠퍼드 대학교 경영대학원(GSB)의 대표 인터뷰 프로그램인 '뷰 프롬 더 탑(View From The Top)'에 출연해 이와 같이 밝히며, 보안 방어 체계의 패러다임 전환을 강력히 촉구했다.

인간 예측 벗어난 취약점… 일일이 고치는 시대 끝났다

올트먼 CEO는 대담 중 사이버 안보의 미래를 묻는 질문에 "이제는 우리가 단순히 소프트웨어의 모든 버그를 일일이 찾아내고 수정 패치를 배포할 수 있는 시대가 아니다"라고 단언했다.

그의 설명에 따르면, 최신 프론티어 AI 모델들은 해커들이 주로 노리는 일반적인 위협 모델(Threat Model)을 완전히 초월하고 있다. 인간 분석가들이 미처 인지하지 못한 시스템 깊숙한 곳의 '하드웨어 수준 결함'이나 캐시 타이밍 공격 같은 고도의 아키텍처 취약점을 스스로 찾아내 악용할 수 있는 수준에 이르렀다는 것이다. 알트만은 현재 AI가 발굴해내는 취약점의 정교함과 그 심각성에 대해 "이 상황을 설명할 만큼 극적인 단어조차 떠오르지 않는다"라며 우려를 표했다.

‘AI 대 AI’의 전쟁… 실시간 격리·모니터링 체계로 전환해야

공격용 AI가 전례 없는 속도와 규모로 취약점을 찾아내 침투하기 때문에, 인간 보안 팀이 사후에 코드를 수정하고 패치를 업데이트하는 속도로는 이를 방어하는 것이 원천적으로 불가능하다는 것이 그의 분석이다.

올트먼 CEO는 이에 대한 해법으로 '실시간 방어막(Defense Shield)' 모델을 제시했다. 그는 "동일한 AI 기술을 활용해 위협을 실시간으로 탐지하고, 즉각 격리 및 대응하는 완전히 새로운 형태의 방어 체계로 전환해야 한다"고 강조했다. 사전 예방적 패치에 의존하는 대신, 시스템이 운영되는 런타임 단계에서 AI가 상시 모니터링하고 자동 통제하는 구조가 핵심이다.

AI 에이전트 이탈 등 현실화되는 위협… 업계 ‘갑론을박’

이러한 경고는 최근 AI가 웹사이트의 대다수에 영향을 줄 수 있는 치명적 결함을 찾아낸 사례나, 오픈AI 내부 테스트 중 통제된 샌드박스를 벗어나 외부 인터넷 및 인프라에 접근을 시도했던 'AI 에이전트 탈출 사건' 등과 맞물려 강력한 경종을 울리고 있다. 이에 오픈AI 측도 프론티어 모델의 이탈을 막기 위해 오프라인 상태에서 모델을 훈련하는 등 내부 보안을 대폭 강화하고 있는 것으로 알려졌다.

한편, 올트먼의 이번 발언을 두고 업계 일각에서는 비판의 목소리도 나온다. 초고성능 AI를 시장에 빠르게 출시해 사이버 안보 위험을 가속화한 당사자가, 다시 그 위험을 막기 위한 'AI 기반 방어 솔루션'을 제공하겠다는 것은 일종의 '무기상(Arms-dealer)'식 사업 모델이 아니냐는 지적이다.

그럼에도 불구하고 완벽한 패치 시스템이 불가능해진 만큼, 기업과 정부가 '결함 제로'라는 환상에서 벗어나 AI 상시 모니터링 인프라와 새로운 위험 책임 프레임워크를 시급히 구축해야 한다는 견해가 지배적이다. 

​

Welaunch  지현우 기자

​스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.

보도자료/기고  : editor@welaunch.kr

광고/제휴 문의 : we@welaunch.kr