미 USPS, 엔비디아 AI 플랫폼 도입
AI가 이미지 인식해 우편물 분류
엔비디아의 AI 플랫폼에 연결된 USPS의 우편물 분류 기계가 작업을 수행하고 있다. USPS는 AI 시스템 도입으로 하루 20테라바이트(TB)의 이미지를 처리할 수 있게 됐다. 엔비디아 제공.

엔비디아의 AI 플랫폼에 연결된 USPS의 우편물 분류 기계가 작업을 수행하고 있다. USPS는 AI 시스템 도입으로 하루 20테라바이트(TB)의 이미지를 처리할 수 있게 됐다. 엔비디아 제공.

하루에 1억 개가 넘는 우편물이 쌓이는 미국우정공사(USPS)는 미국 우편배달 시스템의 심장이다. 조직법상 지위는 한국의 우정사업본부와 비슷하지만, 북미 최대 배송망을 갖춘 만큼 분류 작업에 들이는 시간과 인력은 타국과의 비교가 힘들다. 방대한 물량을 다루던 USPS는 최근 엔비디아와 함께 '실험'에 나섰다. 인공지능(AI) 기술을 활용해 우편물을 분류하기 시작한 것이다.

10일 정보기술(IT)업계에 따르면, USPS는 지난해 8월 엔비디아 'EGX 플랫폼' 기반의 '엣지 AI' 시스템을 구축하고 올해 본격적인 운영에 나섰다. USPS의 IT시스템을 총괄하던 휴렛팩커드엔터프라이즈(HPE)의 서버에 엔비디아의 AI 플랫폼을 심은 것이다.

USPS에 구축된 분산형 AI 시스템 '엣지 컴퓨팅 인프라 프로그램(ECIP)'은 우편 분류의 자동화를 탄생시켰다. USPS의 시스템 관리자인 토드 쉬멜 HPE 매니저는 "예전에는 8명에서 10명의 직원이 한 가지 우편물을 추적하는 데 며칠이 걸렸지만, 이제 같은 작업을 한두 명의 직원이 두 시간 정도면 완료할 수 있다"고 말했다.
USPS는 HPE의 서버에 엔비디아 GPU를 심어 'AI 추론 작업'을 완성시켰다. 2시간 분량의 작업은 20분으로 줄었다. 엔비디아 제공.

USPS는 HPE의 서버에 엔비디아 GPU를 심어 'AI 추론 작업'을 완성시켰다. 2시간 분량의 작업은 20분으로 줄었다. 엔비디아 제공.

ECIP는 이미지 처리 작업에 특화돼있다. 분류 기계에 장착된 카메라가 주소와 바코드, 위험 물질 기호와 같은 데이터를 실시간으로 인식한다. 1000개 이상의 메일 처리 기계가 처리하는 이미지 파일 규모는 하루 20테라바이트(TB)에 달한다. HPE 아폴로 6500 서버에는 4개의 엔비디아 'V100 텐서 코어' GPU가 장착돼 빠른 처리를 돕는다. 기존의 서버 컴퓨터가 2주에 걸쳐 수행하던 작업 시간은 20분으로 단축됐다는 설명이다.

USPS는 광학문자판독(OCR) 단계에서도 AI를 활용한다. 엔비디아의 오픈소스 소프트웨어(SW)인 트리론 추론 서버에서 OCR에 필요한 딥러닝 모델을 보강한다. 기존엔 OCR만을 위한 새로운 하드웨어와 SW를 구입하고 클라우드 비용까지 소모해야 했지만, 이런 복잡한 과정이 사라지게 됐다. USPS는 연내 분석 부서에서 마케팅 부서에 이르기까지 ECIP와 연동해 운용할 수 있는 애플리케이션을 추가 설치할 예정이다.

엔비디아 측은 "ECIP의 트리론 추론 서버는 서로 다른 버전의 GPU와 CPU를 통해 딥러닝 프레임워크를 위한 AI 모델 전달을 자동화한다"며 "200대에 달하는 분산형 엣지 시스템에 AI 모델을 제공해 시간을 절약할 수 있을 전망"이라고 전했다.

이시은 기자

ⓒ 한경닷컴, 무단전재 및 재배포 금지