Getty Images Bank
Getty Images Bank
기업들이 ‘챗봇’을 넘어 결재까지 가능케하는 인공지능(AI)을 속속 도입하고 있다. 이 과정에선 회사 내부 데이터를 학습한 AI를 업무에 활용하면서도 이 정보가 외부로 새어나가지 않게 통제하는 게 중요하다. 챗GPT나 제미나이 등 대규모언어모델(LLM)의 한계를 극복할 기업용 AI(엔터프라이즈 AI) 시대가 본격화하는 이유다.

"회사서 챗GPT 못 쓴다" 이젠 옛말…보안 해결사 '엔터프라이즈 AI' 뜬다
삼성SDS는 최근 내부 저장소 기반의 MCP(모델 컨텍스트 프로토콜) 서버를 구축하고 챗GPT를 보안 울타리 안에서 실무에 적용한 기술검증(PoC) 사례를 공개했다. 배경에는 그 동안 기업 현장에서 보안 정책과 AI 활용 간 발생했던 충돌이 있다. 임직원이 업무에 도움을 얻고자 챗GPT와 제미나이 등에 업무 파일을 올리면 외부 서버에 기록이 남기 때문이다.

다른 회사도 마찬가지다. SPC그룹 계열사인 섹타나인은 내부디지털저작권관리(DRM) 정책에 기반해 챗GPT에 업무 파일을 올리지 못하게 한다. 섹타나인은 이 문제를 삼성SDS의 도움을 받아 별도 서버를 구축하는 방식으로 해결했다. 사용자가 파일 업로드를 신청하고 관리자가 승인하면 기업 내부 저장소에 보관되는 식이다. 이후 챗GPT에서 내부 파일을 불러와 업무에 활용할 수 있다.

이처럼 엔터프라이즈 AI는 단순한 분석이나 학습 단계를 넘어 기업의 핵심 업무 프레임워크와 결합한 플랫폼을 뜻한다. 챗GPT, 제미나이 등 범용 AI는 인터넷에 있는 방대한 데이터를 학습해 불특정 다수에게 답변을 제공한다. 엔터프라이즈 AI는 기업의 독점적인 데이터 주권을 유지하면서 기술 종속성 위험을 낮춘다. 클라우드와 사내 구축형(온프레미스) 인프라 위에서 구동하는 생태계로 자리 잡은 이유다.

엔터프라이즈 AI의 가장 큰 차별점은 실행력이다. 개인용 AI가 비서 역할에 그친다면, 보안이 강화된 엔터프라이즈 AI는 전사적자원관리(ERP)와 고객관계관리(CRM) 등 사내 시스템에 접근해 실질적 도움을 줄 수 있다.

국내 AI 기업도 엔터프라이즈 AI 시장 선점에 나섰다. 업스테이지는 자체 개발한 대규모언어모델(LLM) 솔라를 앞세워 금융 및 공공기관 특화 생성형 AI 사업을 추진 중이다. 세부 내용이 복잡한 상품 설명서와 약관을 데이터화해 분석하는 보험사 문서 AI 솔루션이 본보기다. 엔씨소프트의 자회사 NC AI도 제조·방위산업·건설 등 산업 현장에 특화된 피지컬 AI와 에이전틱 AI 사업에 속도를 내고 있다.

라현진 기자 raraland@hankyung.com