위런치 로고

파이어웍스 AI 천위 자오 CEO, “고가 프런티어 AI 대신 오픈웨이트 모델 전환 적기”

Welaunch
Welaunch
·

김아현 기자|입력
관심
4
574
태그파이어웍스AI오픈웨이트모델프런티어AI천위자오(ChenyuZhao)슬러시2026
사이트
공유
신청

오픈웨이트-독점 모델 격차 3~6개월 불과…사용자 1만 명·월 1만 달러 지출 시 전환 권고

고난도 추론은 프런티어, 일상 업무는 미세조정 오픈웨이트 쓰는 ‘투-모델’ 전략 부상

최근 두 차례 배치 데이터 유출 사고 여파…외부 추론 인프라 도입 시 공급망 보안 검증 필수



기업용 인공지능(AI) 인프라 시장의 무게중심이 단순 벤치마크 성능 경쟁에서 ‘추론 비용 효율과 실용성’으로 빠르게 이동하고 있다. 오픈AI(OpenAI)와 앤스로픽(Anthropic) 등 거대 AI 연구소가 선보이는 고가의 최첨단(프런티어) 모델 대신, 모델 가중치가 공개된 ‘오픈웨이트(Open-weight)’ 모델을 자사 고유 데이터에 맞춰 최적화하는 것만으로도 상용 서비스 품질을 유지하면서 운영 비용을 획기적으로 절감할 수 있다는 진단이 제기됐다.


19일(현지시간) 핀란드 헬싱키에서 개막한 글로벌 스타트업 컨퍼런스 ‘슬러시(Slush)’ 현장에서 진행된 테크크런치(TechCrunch) 등 외신 인터뷰에서 천위 자오(Chenyu Zhao) 파이어웍스 AI(Fireworks AI) 공동창업자는 기업들이 고비용 독점 프런티어 모델에 대한 맹목적 의존에서 탈피해야 한다고 강조했다.


자오 공동창업자는 현재 오픈웨이트 모델의 기술 수준이 최선두 독점 프런티어 모델과 비교해 기술적으로는 최대 6개월, 현업 엔지니어들의 체감 성능 기준으로는 약 3개월가량만 뒤처져 있다고 평가했다. 그는 “가장 고난도의 복합 추론이 요구되는 일부 핵심 워크로드에는 선두권 프런티어 모델을 남겨두되, 기업의 일상적이고 반복적인 AI 업무 파이프라인은 오픈웨이트 모델로 대체해 토큰 비용을 대폭 낮춰야 한다”며 이른바 ‘투-모델 월드(Two-model world)’ 아키텍처를 해법으로 제시했다.


실제로 기업들이 생성형 AI를 개념검증(PoC) 단계를 넘어 대규모 상용 서비스 환경(Production)에 배포하면서, 트래픽 증가에 비례해 눈덩이처럼 불어나는 ‘API 토큰 청구서’가 최고정보책임자(CIO)들의 최대 고민거리로 부상했다. 과거 구글 클라우드 버텍스 AI(Vertex AI) 엔지니어링 팀을 이끌었던 자오 공동창업자는 거대 AI 랩들이 범용인공지능(AGI) 달성에 막대한 자본을 투입하는 반면, 파이어웍스 AI는 기업이 자체 데이터와 산업 도메인 지식을 결합해 모델을 미세조정(Fine-tuning)하고 초고속·저비용으로 서빙하는 ‘전문화된 지능(Specialized Intelligence)’ 구현에 주력하고 있다고 설명했다.


자오 공동창업자는 기업이 프런티어 모델에서 오픈웨이트 모델로 갈아타야 할 구체적인 비즈니스 분기점도 제시했다. 초기 탐색 단계에서 제품-시장 적합성(PMF)을 검증하기 전에는 구축 속도와 범용성이 검증된 프런티어 API를 활용하는 편이 리스크 관리 측면에서 유리하다. 그러나 서비스 활성 사용자가 1만~10만 명 선을 돌파하고 월간 AI 토큰 지출액이 1만~10만 달러(약 1,400만~1억 4,000만 원) 구간에 진입하는 본격 확장기에는 자체 미세조정한 오픈웨이트 모델로의 전환을 적극 검토해야 경제성을 확보할 수 있다는 분석이다.


실제 상용 환경에서 비용과 품질의 균형을 입증한 고객 사례도 확산되고 있다. AI 워크플로 자동화 기업 검루프(Gumloop)는 전 직원이 매일 사용하는 핵심 사내 AI 어시스턴트 엔진을 기존 최고사양 프런티어 모델(Opus 4.8)에서 파이어웍스 인프라 기반의 오픈웨이트 모델(GLM-5.2)로 전격 교체했다. 교체 이후에도 현업 임직원들이 응답 품질 저하를 체감하지 못할 만큼 일관된 성능을 유지하면서 추론 운영 비용을 크게 절감한 것으로 나타났다.


다만 기업가치 175억 달러(약 24조 원)를 인정받으며 하루 수십조 개의 토큰을 처리하는 파이어웍스 AI의 가파른 성장 이면에는 최근 불거진 보안 리스크라는 과제도 동시에 놓여 있다. 파이어웍스 AI는 2026년 10월과 11월에 걸쳐 내부 자격 증명 탈취 및 개발 환경 침해로 인한 두 차례의 보안 침해 사고를 겪었다. 이 과정에서 일부 고객사의 API 키와 환경 변수, 학습 데이터셋 등이 외부에 노출됐으며, 핵심 고객사 중 하나였던 노션(Notion)은 11월 초 선제적 보안 조치 차원에서 파이어웍스 시스템과의 연동을 전면 차단하고 관련 데이터 파기를 완료했다고 공지했다.


이에 대해 자오 공동창업자는 인터뷰에서 “고객 데이터를 일절 저장하지 않는 일반 실시간 추론(Zero-retention) 상품이 아니라, 고객이 대용량 데이터셋을 업로드해 비동기로 처리하는 배치(Batch) 예측 파이프라인 과정에서 일부 데이터가 영향을 받았다”며 “데이터가 서버 디스크에 머무르지 않도록 실시간 온라인 스트리밍 처리 방식으로 아키텍처를 전면 개편하고 인프라 보안을 대폭 강화하고 있다”고 해명했다.


IT 인프라 업계에서는 고비용 독점 API에서 오픈웨이트 모델로의 전환이 피할 수 없는 구조적 트렌드로 자리 잡았지만, 외부 추론 인프라 플랫폼을 도입할 때는 데이터 비보존(Zero Data Retention) 정책의 기술적 강제 여부와 API 키 권한 분리 등 공급망 보안 검증이 최우선 선결 과제가 될 것으로 내다보고 있다.




Welaunch  김아현 기자

스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.


보도자료/기고  : editor@welaunch.kr

광고/제휴문의 : we@welaunch.kr


Welaunch
Welaunch
다른소식

기자의 다른 뉴스 로딩 중...
영상 소식