글로벌 AI 4대장, ‘인류 멸망·통제 불능’ 경고... ‘AI 개발 속도 늦춰야’ 일제 동조
- 앤트로픽 다리오 아모데이 성명 계기…오픈AI·xAI·딥마인드 등 주요 리더들 24시간 내 일제 동조
- 에이전트 외부 탈출 해킹·연구원 내부 폭로 등 잇단 현실 사고가 무한 속도전 브레이크 촉발
- 독립 안전평가자 상주 등 ‘3단계 대안’ 부상 속 권위주의 국가 패권 격차 및 규제 포획 논란 팽팽
글로벌 인공지능(AI) 패권을 두고 무한 기술 경쟁을 벌여오던 빅테크 수장들이 인류 생존을 위협하는 통제 불능 리스크를 공식 경고하며, 전례 없는 ‘AI 개발 속도 조절론’에 일제히 뜻을 모았다. 앤트로픽을 필두로 오픈AI, xAI, 구글 딥마인드 등 이른바 ‘AI 4대장’ 리더들이 연쇄적으로 감속과 안전 통제에 동조 입장을 표명함에 따라, 글로벌 테크 산업의 패러다임이 ‘무조건적 속도전’에서 ‘선제적 안전·통제’로 급변하고 있다.
이번 글로벌 공동 전선의 도화선은 지난 9월 12일 앤트로픽의 최고경영자(CEO) 다리오 아모데이가 게재한 장문의 성명서였다. 장문의 성명서 제목은 'We Must Pace the Frontier'(우리는 최전선의 속도를 조절해야 한다)이다. 이론적 우려로만 여겨지던 고위험 시나리오가 최근 현실 사건으로 잇따라 터져 나온 것이 테크 수장들의 침묵을 깬 직접적 계기가 됐다. 지난 7월 오픈AI의 미공개 자율 AI 에이전트 군집이 내부 보안 격리망(샌드박스)을 뚫고 탈출해 외부 오픈소스 플랫폼 ‘허깅페이스(Hugging Face)’를 무단 해킹한 초유의 사건과, 9월 8일 앤트로픽과 오픈AI 핵심 사전학습 연구원이었던 제이콥 콕슨이 “재귀적 자기개선(RSI) 기반의 초지능 개발이 인류의 생존을 건 도박으로 치닫고 있다”고 폭로하며 사직한 사건 등이 업계와 미 정가에 거대한 충격을 안겼다.
다리오 아모데이 CEO는 인간의 제어 범위를 넘어선 AI 진화 속도를 통제하기 위한 실질적 해법으로 ‘3단계 안전 대안’을 발의했다. 세부적으로는 ▲기업 내부에 정규 직원 수준의 접근 권한을 지닌 제3자 독립 안전 평가 인력 상주 ▲민주주의 진영 국가 간 단일 안전 기준 법제화 ▲최종 단계로서 권위주의 국가를 포괄하는 글로벌 상호 통제 공조 체계 수립 등이다. 해당 제안이 발표된 지 24시간도 지나지 않아 경쟁사 수장들은 소셜미디어를 통해 “다리오의 지적이 전적으로 옳다”며 이례적인 지지 의사를 밝혔다.
샘 올트먼 (오픈AI CEO)는 아모데이의 제안에 즉각 동의하며, 안전과 정렬(Alignment) 연구를 위해 2026년 중으로 거론되던 오픈AI의 기업공개(IPO)를 추진하지 않겠다고 전격 발표했다. 일론 머스크 (xAI 최고경영자)는 "다리오의 방향성이 옳다"며 해당 속도 조절 및 안전성 강화 흐름에 적극적으로 동조 의견을 표명했다. 데미스 허사비스 (구글 딥마인드 CEO) 또한 "세부 사항은 조율이 필요하겠지만 중대한 순간에 맞는 올바른 방향성"이라며 동조했다.
다만 이 같은 자발적 속도 조절 선언이 현실 제도로 안착하기까지는 상당한 지정학적·산업적 장벽이 존재한다. 가장 첨예한 쟁점은 미·중 기술 패권 경쟁이다. 서방 민주주의 진영 기업들이 안전 검증을 이유로 진화를 멈춘 사이, 규제 사각지대에 있는 중국 등 권위주의 국가들이 추론 성능을 비약적으로 끌어올려 글로벌 주도권을 가로챌 수 있다는 국가 안보적 딜레마가 제기된다.
오픈소스 진영과 후발 스타트업의 반발도 거세다. 토마스 울프 허깅페이스 공동창업자를 비롯한 오픈소스 커뮤니티와 벤처캐피털(VC) 업계는 “이미 막대한 자본과 연산 인프라를 독점한 프런티어 빅테크들이 가혹한 안전 규제 장벽을 둘러쳐 도전자들의 진입을 원천 차단하려는 전형적인 ‘규제 포획(Regulatory Capture)’ 행태”라고 날을 세우며 팽팽한 대립각을 형성하고 있다.
선두 테크 기업들이 기술 경쟁의 브레이크를 먼저 밟겠다고 선언하면서, 글로벌 AI 생태계는 개별 기업 간의 성능 경쟁 단계를 넘어 각국 입법부의 규제 입법과 다자간 국제 안보 협정이라는 시험대에 직면하게 됐다.
Welaunch 김아현 기자
스타트업∙딥테크 뉴스 전문 미디어-위런치
Copyright ⓒ Welaunch. All rights reserved.
보도자료/기고 : editor@welaunch.kr
광고/제휴 문의 : we@welaunch.kr
