“AI가 AI 만든다”…앤트로픽, ‘재귀적 자가개선’으로 개발 속도 2배 빨라져

-독립 평가기관 METR “컴퓨팅 자원 증가 아닌 모델의 자체 R&D 기여로 1년 만에 2년 치 진전 달성”

-다리오 아모데이 CEO ‘개발 속도 조절’ 제안 직후 실증 보고서 공개…샘 알트먼도 취지 공감

-인간 감독 하에 있으나 ‘자율적 기여 징후’ 포착…극단적 능력 돌연 출현 및 안전 거버넌스 비상

인공지능(AI) 모델이 스스로 다음 세대 AI를 연구·개발하며 발전 속도를 폭발적으로 끌어올리는 이른바 ‘재귀적 자가개선(Recursive Self-Improvement)’이 실전 연구 현장에서 본격화되고 있다는 독립 평가 결과가 나왔다. AI가 인간의 통제와 이해 속도를 앞질러 폭주할 수 있다는 기술적 특이점 경고가 현실화되면서, 프론티어 AI 개발 속도를 인위적으로 조절해야 한다는 업계 내부의 위기감이 최고조에 달하고 있다.

비영리 AI 안전 평가 및 위협 연구소 METR(Model Evaluation and Threat Research)은 앤트로픽(Anthropic)의 내부 데이터와 모델 역량을 독립 실사한 보고서를 통해, 앤트로픽의 AI 모델 개발 속도가 불과 1년 전 대비 약 2배 빨라졌다고 발표했다. 앤트로픽은 지난 1년 동안 벤치마크 기준 통상 2년 치에 해당하는 기술적 진보를 단숨에 압축 달성한 것으로 파악됐다.

주목할 점은 이번 개발 가속화의 주원인이 물리적인 컴퓨팅 파워(연산 자원)나 그래픽처리장치(GPU) 클러스터의 양적 팽창 때문이 아니라는 점이다. METR 연구진은 AI 모델이 차세대 모델의 아키텍처 개선, 데이터 정제, 코딩 등 자체 연구개발(R&D) 작업에 직접 투입되어 역량을 끌어올리는 ‘재귀적 자가개선’ 메커니즘이 가속도의 핵심 동력으로 작용했다고 분석했다. 연구진은 “AI 시스템이 자체 개발 속도를 본격적으로 단축하기 시작하면 통제 불가능한 극단적이고 위험한 능력이 급작스럽게 돌출될 수 있다”고 경고했다.

이번 조사 결과는 공교롭게도 앤트로픽 창업자 겸 최고경영자(CEO)인 다리오 아모데이(Dario Amodei)가 AI 개발 속도에 제동을 걸어야 한다고 공개 호소한 직후 실증된 것이다. 아모데이 CEO는 ‘우리는 프론티어의 속도를 조절해야 한다(We Must Pace the Frontier)’는 제목의 에세이를 통해 “올여름부터 AI가 다음 세대 AI를 구축하는 능력이 비약적으로 향상되면서 발전 속도가 걷잡을 수 없이 빨라지고 있다”며 “이러한 재귀적 자가개선을 방치할 경우 인간이 시스템을 이해하고 통제할 수 있는 한계를 넘어설 것이기에 엄격한 독립 감사와 안전 표준이 마련될 때까지 개발 페이스를 의도적으로 늦추는 3단계 방안이 시급하다”고 역설한 바 있다. 당시 오픈AI의 샘 알트먼 CEO 역시 “프론티어의 속도를 조절해야 한다는 취지와 독립 평가관 도입 제안에 전적으로 동의한다”며 공조 의사를 밝히기도 했다.

보고서에 따르면 현재 모델 훈련의 가장 핵심적인 의사결정 단계에는 여전히 인간 연구원의 관리·감독이 개입하고 있어 완전한 자율 개발 단계에 도달하지는 않았다. 그러나 연구진은 AI가 인간의 개입 없이 모델 훈련의 핵심 영역에 중대한 기여를 할 수 있음을 암시하는 ‘뚜렷한 생명 징후(signs of life)’가 내부 파이프라인 곳곳에서 포착되고 있다고 지적했다. 연구진이 직면한 병목 현상이 예상보다 빠르게 해소될 경우, 인간의 인지 범위를 벗어난 슈퍼인텔리전스 출현 시점이 수개월 내로 앞당겨질 수 있다는 관측도 제기된다.

시장 전문가들은 이번 사태를 두고 자본과 연산 자원의 투입량에 비례해 성장하던 ‘스케일링 법칙(Scaling Law)’의 시대가 저물고, AI가 스스로 지능을 증폭시키는 ‘자가 진화의 시대’로 접어들었음을 알리는 중대한 분기점이라고 진단한다. 빅테크 간의 무한 패권 경쟁 속에서 개별 기업의 자발적 제어 선언만으로는 폭주를 막기 어려운 만큼, 미국과 글로벌 규제 당국이 독립적 제3자 평가를 의무화하고 자가개선 알고리즘에 대한 감시 체계를 즉각 법제화해야 한다는 목소리가 커지고 있다. 

Welaunch  지현우 기자

스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.

보도자료/기고  : editor@welaunch.kr

광고/제휴 문의 : we@welaunch.kr