프라이빗에이아이, 테크 서밋 개최…‘AI 거버넌스·위험통제’ 전문 기업으로 도약

​- 자율 행동 AI 에이전트 확산 속 비인가 API 호출·데이터 반출 등 신종 위협 통제

- 금융 제로트러스트·국가 N2SF 망보안·SW 공급망 보안 등 산업별 통제 전략 제시

AI 거버넌스·위험통제 전문 테크 기업 프라이빗에이아이(PRIBIT AI, 대표 김영랑)가 지난 4일 서울 중구 반얀트리 클럽 앤 스파 서울에서 ‘PRIBIT AI Tech Summit’을 개최하고, AI 전환(AX) 국면에서 기업이 직면한 신종 보안 위협과 이를 체계적으로 제어하기 위한 통합 관리 전략을 공개했다고 8일 밝혔다.

지난 7월 사명 변경을 단행한 프라이빗에이아이는 기존 사이버 보안 영역을 넘어 ‘AI 거버넌스·위험통제 전문 기업’으로 비즈니스 정체성을 전면 재정립했다. 생성형 AI가 기업 내부 ERP, 데이터베이스, API와 직결되면서 발생하는 데이터 접근 권한 오남용과 자율 실행 위험을 전사적 관점에서 다스려야 한다는 취지다.

이날 행사는 임문영 더불어민주당 의원의 축사와 손기욱 사이버안보학회 회장(서울과학기술대 교수)의 기조연설(‘AI 에이전트 시대, 사이버보안’)로 포문을 열었다. 이어 연단에 오른 김영랑 대표는 ‘사람과 AI가 공존하는 시대, 우리는 어떠한 Risk를 대비해야 하는가?’를 주제로 회사의 차세대 비전을 선포했다.

프라이빗에이아이는 AI 자체의 벤치마크 성능보다 ‘AI 에이전트의 현장 업무 수행 리스크’에 주목했다. 에이전트가 사내 시스템을 직접 조작하기 시작하면 ▲과도한 내부 데이터 접근 ▲비인가 도구 및 API 호출 ▲핵심 기밀 무단 반출 ▲오류 기반 자동 실행 등 종전의 외부 침입 방어 체계로는 걸러낼 수 없는 내부적 통제 결함이 발생한다. 이에 따라 기업이 AI의 자율 작동 허용 범위를 명문화하고, 데이터 권한과 실행 프로세스가 내부 규정에 부합하는지 실시간 모니터링하는 상위 거버넌스 프레임워크를 대안으로 제시했다.

오후 세션에서는 산업별·국가 차원의 규제 대응 방안이 심도 있게 다뤄졌다.

• 금융권 제로트러스트: 강형우 금융보안연구회 위원장(고려대 교수)이 엄격한 금융 컴플라이언스 환경에서 SaaS 및 AI를 안전하게 결합하는 신뢰 구조와 권한 통제 모델을 발표했다.

​

• 망 보안 및 온디바이스 AI: 프라이빗에이아이는 기기 내부에서 작동하는 온디바이스 AI 위협 탐지 기술과 공공기관 다중 계층 보안체계 ‘N2SF’ 도입 가이드를 소개했다. 파트너사인 KT의 박성식 법인사업담당 상무는 정보 맥락을 반영한 N2SF 기반 네트워크 통제 방안을 공유했다.
  

​

• 국가 프레임워크 및 공급망: 김창훈 N2SF연구회 위원장(대구대 교수)이 ‘국가 AI 사이버보안 프레임워크(CSF)’ 표준을 짚었으며, 이만희 공급망보안연구회 위원장(한남대 교수)이 데이터 및 오픈소스 소프트웨어 공급망 보안 체계를 제언했다.
  

김영랑 프라이빗에이아이 대표는 “AI 도입의 본질은 기술 도입 그 자체가 아니라, 기업이 AI의 작동 조건을 어디까지 허용하고 통제할 수 있는가에 있다”며 “진정한 ‘소버린 AI’는 외산 기술 배제가 아닌, 외부 파운데이션 모델을 쓰더라도 데이터의 주권과 최종 실행 통제권을 기업이 온전히 쥐는 것”이라고 정의했다. 또한 “무조건적인 차단이 아니라 위험을 완벽히 통제함으로써 안심하고 AI를 확장할 수 있는 실행 환경을 구축해, 글로벌 엔터프라이즈의 필수 AI 거버넌스 파트너로 도약하겠다”고 강조했다. 

Welaunch  서아림 기자

스타트업∙딥테크 뉴스 전문 미디어-위런치

Copyright ⓒ Welaunch. All rights reserved.

보도자료/기고  : editor@welaunch.kr

광고/제휴 문의 : we@welaunch.kr