AI 프로젝트가 실패하는 여섯 가지 이유

오춘호 선임기자

입력2021.07.07 23:24 수정2021.07.08 06:16

AI 프로젝트 28% 실패 … 전략 잘못이 가장 큰 원인
'선택과 집중' 제대로 못하면 프로젝트가 산으로 올라가

AI 프로젝트를 제대로 수행하기 위해선 철저한 준비가 우선돼야 한다는 지적이 일고 있다

인공지능(AI)이 비즈니스의 미래를 지배할 것이라고 합니다. 많은 기업이 AI 도입에 집중하고 있습니다. 하지만 AI 프로젝트를 수행한 기업들의 28%가 실패했다는 보고서도 있습니다. AI 프로젝트가 실패한 이유는 AI 전략이 충분하지 않기 때문일 것입니다. 준비를 철저하게 하고 목표가 명확해야 하며 강력한 프로젝트 관리 그룹이 필요한 건 당연합니다. 미국 애널리틱스 인사이트가 제시한 AI 프로젝트가 실패한 여섯 가지 원인을 살펴봅니다.

① 잘못된 알고리즘 전개
AI 알고리즘 전개 과정에서 여러 가지 사안들이 잘못될 수 있습니다. 프로그램 개발자는 일부 데이터를 제거하거나 삽입하려는 강력한 유혹에 빠지기 일쑤입니다. 이런 과정은 데이터를 엉망으로 만들고 잘못된 결론을 도출할 수 있습니다.
② 데이터 전략의 부실
AI 프로젝트를 꾸려가는 과정에서 가장 큰 문제로 부상하는 게 부실한 데이터 전략입니다. 프로젝트를 본격 운영하기 전에 신뢰할 수 있는 데이터 전략을 수립하는 것이 중요합니다. 보유한 데이터를 파악하고, 서로 다른 리소스의 데이터들을 통합하는 방법에 대한 전략을 수립해야 합니다. 아울러 필요한 데이터 양을 예측하며 데이터를 선택하고 수정하는 방법까지 계획에 넣어야 합니다. 이런 데이터 전략이 불충분하거나 데이터가 부족하면 결국 AI 프로젝트의 실패를 낳습니다.

충분한 투자 확보되지 않으면 우수한 프로젝트도 무용지물

③ 투자의 부족
AI 프로젝트를 개발하고 생산하는 데 막대한 비용이 들기 때문에 대다수 회사들은 필요한 소프트웨어에 투자하기를 꺼립니다. 데이터 전문가들이 처음부터 막히는 걸림돌이 될 수 있습니다. 모델을 만들더라도 이를 유지하고 자동화된 방법으로 생성된 모델을 유지 관리하고 검증하는 데 필요한 데이터 전문가들이 확보돼야 합니다. 투자가 확보되지 못하면 아무리 모델이 좋다고 하더라도 아무것도 할 수 없는 무용지물이 되고 맙니다.

④ 데이터 전문가의 역량 부족
비즈니스를 운영하려면 모든 일을 처리하고 관리할 수 있는 해당 분야의 전문가가 필요합니다. 데이터 분석에서 일하는 일부 사람들은 온라인 과정만 수강한 후 스스로 데이터 과학자로 부릅니다. 경험이 부족한 이들은 시작을 잘못하거나 작은 디자인에 몰입하거나 시간을 많이 소비해버립니다. 그렇다고 데이터 전문가들을 고용하기는 쉽지 않습니다. 숙련된 전문가를 만들기 위해선 통계와 수학, 프로그래밍기술 등이 모두 갖춰져야 합니다.

⑤ 규칙의 부적절성
AI의 가장 큰 장애물 중 하나는 다양한 모델이 아직 구축되지 않았다는 점입니다. 데이터 분석가들이 평균적으로 측정하는 모델의 정확성은 50~90% 이내입니다. 개발자들이 AI 모델을 만들더라도 엉뚱한 방향으로 전개되거나 배포되는 경우가 너무 많습니다. 모델을 구축하기 전에 효과적으로 다시 테스트하고 확인해야 합니다. 이 방법은 시간이 걸릴 수 있지만 패턴이 완성될 때까지는 모든 게 적절하다고 볼 수 없습니다.

⑥ 프로젝트가 너무 복잡
기업은 AI 프로젝트들이 시간과 자원 측면에서 상당히 비용이 많이 들어간다는 걸 알고 있습니다. AI의 가치는 궁극적으로 비즈니스를 재편하고 막대한 수익을 올릴 수 있는 데 있습니다. 일반적이고 보편적인 전략을 늘어놓으면 프로젝트가 자칫 산으로 갈 공산이 있습니다. 될성부른 나무에 집중 투자하는 선택과 집중 자세가 필요합니다. AI 프로젝트의 수를 줄이는 게 중요합니다.
오춘호 연구위원

관련 뉴스

1

위치 지능시스템을 적용해 볼 만한 유망 비즈니스 네 가지

AI가 필수적으로 익혀야 하는 내용으로 위치 지능시스템(LI· Location Intelligence)이 갈수록 중요해지고 있습니다. GIS(지리정보체계) 기반으로 시공간의 좌표를 익혀 비즈니스와 연결하는 작업입니다. 부동산이나 건설 등 각종 비즈니스의 동향과 사람들의 유동성, 각종 이벤트 등이 모두 LI와 관련이 있습니다. 국내에서도 배달 앱은 물론 약국 마스크 검색, 백신 접종 등 코로나 시대에 접하는 많은 사안들을 위치 지능시스템이 해결하고 있습니다. 위치 지능으로 전개될 비즈니스는 무궁무진합니다. 포브스가 뽑은 네 가지 유망 LI 관련 비즈니스들을 살펴봅니다. ①더욱 정교한 추천 비즈니스 = 젠슨 황 엔비디아 CEO는 앞으로 AI를 활용하는 비즈니스는 식품 생산과 물류, 헬스 케어라고 했습니다. 그는 이런 분야에서 습관과 선호도를 기반으로 소비자의 선택을 예측해 아이템을 추천하는 추천 알고리즘이 가장 중요한 AI라고 했습니다. AI가 추천 시스템에 위치 기반을 학습한다면 앞으로 소비자들이 선택하는 상품을 시간과 장소까지 정확하게 예측할 수 있습니다. ② 소비 트렌드 포착 = AI에 LI를 활용하면 소비 트렌드를 쉽게 찾아낼 수 있습니다. 예를 들어 은행은 LI가 내장된 AI를 이용해 기존 지점들의 수익을 분석하고 잠재적인 새 지점을 물색할 수 있습니다. 태양광 패널 기업도 날씨 데이터와 LI 시스템, 이미징 기술을 결합해 옥상 태양광 설치 최적의 후보를 선택할 수 있습니다. 공간 스캔으로 미래 상권 파악도…신규 사업 진출에 필수 아이템③ 온라인과 오프라인 결합 = 성장 기업들이 수요 급증을 예측하고 더 높은 수익을 올릴 수 있는 곳을 예측하는 데도 위치 지능이 쓰일 수 있습니다. 위치 지능은 인구 통계 데이터와 결합해 잠재고객이 누구인지, 이들이 어떤 위치에서 움직이는 지 파악하는 데 도움이 됩니다. 특히 인터넷 판매를 유도할 수 있는 장소 식별이 위치 지능에 의해 파악될 수 있습니다. 온라인과 오프라인을 결합하는 소매 업체는 이런 LI 모델로 신규 사업을 시작할 적절한 장소를 찾는 데 결정적인 정보를 발굴할 수 있습니다. ④이미지 수집 = 이미지와 위치 정보를 결합하면 또 다른 생태계가 열립니다. 특히 경쟁 기업 정보가 필요한 경우 경쟁기업의 주차장을 스캔하더라도 어떤 종류의 차가 주차하는지 파악할 수 있습니다. 비어있는 공지를 이미지로 스캔하면 주택건설과 리테일 매장이 들어서는 지역을 찾을 수 있습니다. 이를 통한 새로운 판로확보가 가능합니다. 에너지 기업의 경우 경쟁사가 유정을 건설하는 것을 위성사진을 통해 판독할 수 있습니다. 위치 지능은 인간이 볼 수 없는 데이터 세트에서 마케팅의 주요 패턴을 찾을 수 있는 게 핵심 역량입니다. 전문가들은 LI가 앞으로 기업 경영자들이 의사결정을 내리는 데 중요한 도구로 발전할 것으로 예측합니다. 오춘호 연구위원
2

AI라는 대항해 시대의 생존법

한 시대의 패러다임이 전환될 때, 기존 강자는 몰락하기도 하고 신생 기업들이 부상하기도 한다. 가장 흔히 언급되는 사례 중 하나는 ‘범선과 증기선’의 사례이다. 15세기 중반부터 18세기까지 대항해 시대에는 바람을 타고 항해하는 범선들의 시대였다. 그러던 중 산업혁명으로 증기기관이 발명되고 이를 활용한 증기선이 19세기 초반에 출현하였다. 분명 증기선은 범선에 비해 효율적인 항해방식이었다. 상식적으로 기존 범선 회사들이 앞 다투어 기술적으로 우월한 증기기관을 도입하여 더 긴 항해를 이어 나갔을 것만 같았으나, 결과적으로는 기존 범선 회사는 증기기관을 채택하지 않고 몰락한 경우가 빈번했다. 기존 범선에 맞는 조직, 인력, 예산 구조로 운영되기엔 증기기관이라는 신기술을 전격적으로 수용하기 어려웠기 때문이다. 그 결과 시대를 주름잡던 범선들은 20세기 초반 사라졌고, 증기기관과 함께 시작하여 태생적으로 모든 것이 새롭게 설계된 신생 회사들이 그 자리를 물려받았다.200년이 지난 지금, 새로운 형태의 범선과 증기선이 존재한다. 증기기관처럼 우리는 AI라는 혁신 기술을 맞이하고 있다. AI를 통하여 기업들은 기존 방식을 탈피한 ‘디지털혁신(DX, Digital Transformation)’ 시대로 진입하고 있는 것이다. 더욱이 코로나 팬데믹으로 재택근무, 원격수업, 비대면 구매 등 온라인방식이 확산되면서 기업들의 디지털혁신은 더욱 가속화될 것이라고 많은 전문가들은 전망하고 있다. 디지털혁신을 수용하는 방식은 과거 범선과 증기선처럼 기업의 상황에 따라 크게 두 가지 유형으로 나눌 수 있다.먼저 아예 처음부터 디지털혁신으로 탄생한 기업들이다. 이들 기업들은 철저하게 제로베이스에서 디지털 관점으로 사고하고 사업모델을 설계하고 운영한다. 몸집이 가볍기에 기존 사업과 다른 서비스와 상품 개발이 가능하다. 전 산업계에 걸쳐 이러한 기업들은 속속 나타나고 있다. 대표적인 사례가 인터넷 은행이다. 인터넷은행들은 오프라인 유통망 등 고비용 요소는 배제하고 소액/단기 적금, 간편 대출 등 본질적인 고객 서비스 향상에 집중하며 가입자를 확장하고 있다. 규모가 작은 소상공인 사업모델에도 디지털 기업들이 등장하고 있다. 요식업이 대표적이다. 기존에는 식당 창업 준비를 할 때, 해당 지역의 유동인구, 주요 고객 계층에 맞는 메뉴 및 가격, 식당 테이블 수 등이 우선적으로 고려되었다.하지만 요즘 창업방식은 크게 달라지고 있다. 요식업을 준비하면서 가장 먼저 주요 ‘배달앱’의 사용법과 활용방안부터 알아본다. 영업점을 굳이 비싼1층을 고집하지 않고 영업 상권을 넓게 잡고 고객과 연결시켜줄 라이더를 확보하고 실시간 고객 반응에 따라 메뉴 개발과 수정이 이루어진다. 아예 배달앱 전문 식당도 등장하고 있다. 다만, 이들 유형에는 인터넷은행처럼 충분한 자본력을 확보하고 출발한 기업도 있지만 작게 출발한 스타트업처럼 자본력이 부족한 기업들도 많다. 디지털 관점에서 참신한 아이디어가 있지만 디지털화에 필요한 기술을 활용하기에 제한이 있을 수 있다. 데이터의 수집과 전송, 저장, AI 분석 등 디지털혁신 기술과 장비들은 고가인 경우가 많다. 따라서 혁신적인 디지털기업들이 등장하기 위해서는 신생 기업들이 디지털혁신에 필요한 요소들을 저렴하고 쉽게 이용할 수 있는 환경이 제도적으로 마련되어야 한다.다음으로 기존 오프라인에 기반을 둔 레거시 기업들이다. 이제까지 안정적인 사업모델을 만들어 왔으나, 디지털혁신이라는 큰 파도에 직면하고 있다. 증기기관을 도입하지 않고 기존 범선 사업모델을 고수할 경우, 향후 생존을 장담할 수 없는 처지에 있는 것이다. 이들 기업이 디지털혁신을 수용하기 위해서는 뼈를 깎는 고통이 필요하다. 인력, 조직, 예산 등 기존 시스템에 최적화된 구조를 제로베이스에서 시작한다는 것은 만만한 일이 아니다. 하자만 디지털전환은 기존 기업이 반드시 넘어야 할 숙제이다. 디지털 전환을 비교적 성공적으로 이행하고 있는 기업도 있다. 글로벌 소비재 제조기업 P&G가 대표적이다. P&G는 아예 전통적인 생산방식과 다른 공장, 즉 스마트팩토리를 별도로 짓고 생산함으로써 디지털혁신을 순조롭게 진행하고 있다. 미국 이동통신사업자 Verizon도 새로운 판매방식을 도입하였다.기존 Verizon 브랜드와는 분리된 ‘Visible’이라는 브랜드와 조직을 별도 설립하고 완전히 디지털에 적합한 운영방식을 채택하고 있다. 이에 적합한 전산시스템도 새롭게 구축하였다. 온라인에 익숙한 MZ세대를 대상으로 기존의 오프라인 매장 중심의 복잡한 구매 절차를 과감히 버리고 가입부터 요금납부, 고객센터까지 간편한 디지털 방식을 도입하였다. 이렇듯 디지털전환에 성공하고 있는 기업들은 기존 레거시 시스템과는 완전히 단절된 새로운 별도 조직을 만들고 디지털혁신을 적용한 공통점이 있다. 또한 이들 기업들은 부족한 기술 역량을 외부에서 수혈 받기도 하였다. 앞서 언급한 P&G는 스마트공장을 설립하면서 핀란드 통신기업 Elisa의 도움을 받았다. Elisa는 통신사로서의 장점을 살려 공장에서 진행되는 공정을 라우터, 스위치, 서버 등 수백만 개의 네트워크 장치에 연결하였다. 게다가 실시간으로 데이터를 수집, 분석해 공장관리자가 쉽게 알아볼 수 있도록 시각화한 솔루션을 제공하였다. 레거시 기업의 디지털 전환을 위해서는 현명한 조력자(Enabler)를 찾는 것도 중요하다.인류역사는 항상 거대한 변혁이 있어왔고 이에 적응한 기업들만이 생존해 왔다. 증기, 전기, 컴퓨터/인터넷 등 혁신 기술이 도입될 때마다 인류의 소비 방식과 생산방식은 근본적으로 달라졌다. 전혀 새로운 방식으로 제로베이스에서 시작한 기업들이 속속 등장하고 기존 체계에 안주하며 변화의 흐름을 따라가지 못한 레거시 기업들은 생존하지 못하고 도태된 것이 역사의 교훈이다. 이제 AI를 통한 디지털전환이라는 패러다임으로 새로운 대항해 시대가 열리고 있다. 태생부터 디지털로 무장한 기업들이 배를 띄우고 있으며 기존 레거시 기업들도 새로운 방식으로 항해할 준비를 하고 있다. AI라는 대항해 시대를 맞아 각자 기업들이 현명하게 순항하기를 기대해 본다.
3

최재식의 AI 톺아보기 <1>인공지능의 묵비권

대한민국 헌법 제12조 2항의 ‘진술거부권(묵비권)’은 ‘모든 국민은 형사상 자기에게 불리한 진술을 강요당하지 아니한다’라고 보장하고 있습니다. 이는 누군가 형사상 불법적인 일(의도적이든 아니든)을 저질렀을 경우 불리한 진술은 거부할 수 있다는 것을 의미합니다. “왜 그런 행동을 하였나?”라는 질문에 “잘 모르겠습니다” 또는 “기억이 나지 않습니다”라고 답해도 그 대답 자체로는 벌을 받지 않는다는 의미이기도 합니다.최근 더욱 발전하고 있는 인공지능 기술은 다양한 분야에서 사람에 버금가는 능력을 확보한 것으로 평가받고 있습니다. 특히 국내외 인터넷 기업들의 서비스에 활발하게 적용되어, 정확하고 빠른 검색을 위한 키워드 및 이미지 검색 서비스를 제공하고, 상품을 구매할 때 더 정확한 후속 구매 상품을 추천하고 있습니다. 이러한 이유로 한 유명작가는 인공지능을 “제3의 인류”라고 부르기도 하였습니다. 인공지능의 자동화된 서비스는 우리의 삶을 더 윤택하게 만들어 주고 있으며, 우리는 자연스럽게 일상의 중요한 부분들을 인공지능에 의지하고 있습니다. 그리고 최근에는 인공지능 시스템이 의료, 국방, 채용, 운송 등 중요한 작업을 자동화하는데도 활발하게 활용되고 있습니다.우리는 여기서 이렇게 활발하게 활용되는 인공지능 기술에 대해 질문해 볼 수 있을 것 같습니다. 만약 인공지능의 내부적인 문제로 인해 인공지능이 제공하는 서비스를 받은 사람이 신체적, 재산적 피해를 받았다면, 그 인공지능 서비스의 잘못된 결정에 대한 책임은 어떻게 물을 수 있는가? 만약 인공지능 알고리즘의 자동화된 의사결정 때문에 의도적 또는 비의도적으로 사람이 피해를 받았다면 어떻게 할 것인가? 그리고 이 경우에 만약 인공지능 알고리즘이 “저도 정확히 왜 그랬는지 잘 모르겠어요”라고 대답한다면 우리는 어떻게 판단해야 하는가?최근 이슈가 되고 있는 사례로, 미국의 한 유명 전기차 생산업체의 인공지능 기반 자율 주행의 실수로 인해 자동차 사고가 발생했고, 치명적인 사망사고에 대한 책임소재 논의가 활발하게 이뤄지고 있습니다. 또한, 글로벌 기업들은 인공지능을 활용한 인력 및 성과 관리를 활발하게 도입하고 있습니다. 즉, 구성원의 인사평가에 중요한 자료를 인공지능이 모니터링하여 평가하고 결정하는 것입니다. 그동안 결정과 판단의 주체였던 사람에서 인공지능으로 판단의 주체가 바뀌었을 때 우리는 인공지능의 판단과 결정에 대해 어디까지 신뢰해야 하는지 고민하지 않을 수 없습니다.이러한 문제를 해결하기 위해서는 인공지능 시스템을 만드는 사람도, 인공지능을 통해 서비스를 제공받은 사람도 인공지능의 의사결정 과정에 대해서 더 자세히 이해하려는 노력이 필요합니다. 이를 위해서 유럽연합(EU)는 2018년 일반정보보호법(GDPR)을 발효하여 자동화된 인공지능의 의사결정에 대해서 소비자가 설명을 요구할 권리를 가질 수 있도록 하였습니다. 또한, 최근에는 사람에게 큰 영향을 줄 수 있는 생체정보, 신용정보, 인사 정보를 관리하는 인공지능을 ‘고위험 인공지능’으로 정의하여 그 의사결정 과정을 투명하고 안전하게 관리하는 개정안을 발표하였습니다. 국내에서도 최근 정필모 의원이 국회에서 대표 발의한 “인공지능 기본법”에 의료, 공공재, 범죄 수사 등 주요 분야에 인공지능 이용자의 설명요구권을 보장하는 법을 포함하고 있습니다.물론 사람의 뇌가 약 1000억 개의 신경세포로 구성되어 있어, 개별적인 뇌세포가 어떤 역할을 하는지 알기 어렵듯, 1750억 개의 파라미터를 갖고 있다고 알려진 인공지능 언어 모델의 의사결정 과정을 정확하게 이해하고 설명하는 것은 어려운 작업일 수 있습니다. 그럼에도 불구하고 이런 인공지능을 우리의 삶에 중요한 일을 함께하는 “제3의 인류”로서 공식적으로 함께 살아가려면, 최소한 인공지능이 스스로 왜 그러한 의사결정을 내렸는지 자의적 혹은 타의적으로 검증할 수 있는 도구와 방안을 마련하는 것이 중요합니다.인공지능은 그 결과물이 사람의 지능적인 행동을 따라가는 것이기 때문에, 역사적으로 과도한 기대와 그에 뒤따르는 과도한 실망으로 지속적이고 꾸준한 발전이 어려운 경우가 많이 있습니다. 인공지능의 의사결정에 대한 설명성은 다양한 분야에서 인공지능의 기술이 꾸준하고 지속적으로 발전하는데 중요한 토양이 될 것으로 기대합니다. 그리고 설명성을 보유한 인공지능을 통해 우리의 의사결정은 한층 더 견고해지고, 확장될 수 있을 것입니다. 인공지능이 한 선택과 결과에 대해 스스로 설명하고 검증할 수 있는 인공지능이라면, 우리는 이에 대해 충분히 이해한 후 인공지능에게 묵비권을 부여하는 것을 고려해도 결코 늦지 않을 것입니다.