[기고] 데이터 중심의 AI 활용 전략, AI를 데이터가 있는 곳으로
인공지능(AI) 도입 경쟁이 본격화하면서 기업들의 시선은 최신 모델과 고성능 그래픽처리장치(GPU) 확보에 쏠려 있다. 그러나 AI를 도입하는 것과 이를 실제 사업 성과로 연결하는 것은 전혀 다른 문제다. 시범 프로젝트에서 성능을 입증하더라도, AI를 실제 업무에 적용하고 전사로 확장하는 단계에 이르면 예상치 못한 비용과 복잡한 운영 문제에 부딪히는 경우가 적지 않다.

이 문제는 AI 모델만으로는 풀리지 않는다. AI가 얼마나 정확하고 일관된 결과를 내는지는 결국 데이터를 얼마나 잘 관리하고 활용하느냐에 달려 있기 때문이다. 기업이 AI 경쟁력을 확보하려면 모델 도입을 넘어 데이터 인프라를 전략적으로 설계해야 한다.

◇데이터 이동 줄여야 병목 막는다

AI 프로젝트가 확장 단계에서 어려움을 겪는 주된 이유 중 하나는 데이터를 AI 환경으로 옮기는 과정에 있다. 시범 사업에서는 일부 문서를 별도 환경에 올리는 것만으로 충분할 수 있다.

하지만 실제 기업 환경은 다르다. 수십 년간 축적된 자료와 민감한 고객 정보가 여러 시스템과 사업장에 흩어져 있다. 이를 새로운 AI 환경으로 복제하면 데이터 전송과 저장에 추가 비용이 들고, 복제본의 접근 권한과 보관 기간, 최신성까지 따로 관리해야 한다.

데이터가 쌓일수록 옮기기 어려워지는 현상을 ‘데이터 중력’(data gra

vity)이라고 부른다. 데이터 규모가 수백 테라바이트에서 페타바이트 단위로 커지면, 이를 옮기는 일은 단순한 기술 작업을 넘어 비용과 보안, 운영 체계 전반에 영향을 미치는 경영 과제가 된다.

해법은 데이터를 무조건 한곳에 모으는 것이 아니라, AI 연산을 데이터가 있는 곳으로 가져가는 데 있다. 예컨대 제조 공장의 카메라 영상을 모두 중앙 AI 플랫폼으로 보내는 대신, 현장에서 AI 모델로 영상을 분석하고 이상 징후가 발견된 시점과 관련 정보만 전달하는 방식이다. 데이터를 잘 통제된 기존 환경에 그대로 두고, 업무에 필요한 정보만 AI가 활용하도록 설계하는 것이다.

◇목적에 맞게 AI 배치해야

모든 AI 업무를 하나의 시스템에서 처리할 필요도 없다. 대규모 모델은 데이터센터에서 실행하고, 빠른 응답이 필요한 영상 분석은 공장 같은 엣지 환경에서 수행하며, 민감한 데이터는 기존의 보안 경계선 안에서 처리하면 된다. AI를 어디서 실행할지는 데이터의 규모와 민감도, 그리고 요구되는 응답 속도를 기준으로 결정해야 한다.

이처럼 AI를 목적에 맞게 배치하려면 데이터 수집부터 정제, 검색, 추론까지 전 과정을 하나로 잇는 스토리지 인프라가 뒷받침돼야 한다. 데이터를 저장하는 스토리지는 블록, 파일, 오브젝트 등 여러 형태로 존재한다. 서로 다른 시스템을 유기적으로 연결하고, 데이터가 어디에 있든 일관된 방식으로 관리할 수 있어야 한다.

특정 모델이나 플랫폼에 종속되지 않는 개방형 구조도 중요하다. 모델이 바뀔 때마다 데이터를 옮기고 인프라를 새로 구축하는 방식으로는 AI의 확장성과 경제성을 함께 확보하기 어렵다.

◇데이터 통제력이 결국 AI 경쟁력

기업이 AI로 이루려는 목표는 모델을 보유하는 데서 끝나지 않는다. 축적된 데이터를 활용해 의사결정의 질을 높이고, 업무 효율을 끌어올리며, 새로운 사업 가치를 창출하는 데 있다. 그렇다면 AI 투자 역시 GPU와 연산 자원 확보에만 머물러서는 안 된다. 데이터가 저장된 곳에서 필요한 연산을 수행하고, 꼭 필요한 정보만 이동시키며, 데이터에 대한 통제권을 유지하는 구조를 갖춰야 한다.

AI 모델은 앞으로도 빠르게 진화할 것이다. 그러나 기업이 오랜 시간 쌓아온 데이터 자산은 장기적으로 남는다. 데이터를 중심에 두고 AI 인프라를 설계하며, 업무 목적에 맞게 AI를 배치하는 기업이 AI 투자를 실질적인 경쟁 우위로 바꿀 수 있다. AI를 데이터가 있는 곳으로 가져가는 것, 그것이 AI 시대 기업 경쟁력의 출발점이다.