AI를 잘못 활용하는 4가지 유형

오춘호 선임기자

입력2021.05.19 23:46 수정2021.05.19 23:49

AI에 의사결정 책임 떠넘기면 낭패
오픈소스 데이터에도 오류 많아

AI의 핵심은 추론입니다. 엄청난 세부 사항을 분석하는 데 도움이 될 수 있지만 큰 그림은 사람만이 이해할 수가 있습니다. 인간은 AI보다 실수를 많이 하지만 이를 인식할 힘도 더 큽니다. 인공지능을 구축하는 방법이 잘못되는 건 결국 사람의 문제입니다. 미국 IT 전문 매체 벤처비트가 AI를 활용하는 최악의 방법 네 가지를 선정했습니다. 이들을 소개합니다.

①잘못된 데이터를 기반으로 의사 결정하기
AI는 방대한 데이터 세트에서 일정한 패턴을 찾는데 탁월합니다. 하지만 잘못된 데이터가 있으면 큰 문제가 발생합니다. MIT 연구원들이 컴퓨터 알고리즘 훈련에 사용하는 이미지 데이터 세트 10개를 분석한 결과 모든 세트에서 평균 3.4%의 오류를 발견했다고 합니다. 또한 퀵드로(QuickDraw),사이파(CIFAR) 등 오픈 소스 데이터 세트에서도 데이터의 오류가 발견됐습니다. 긍정적인 사안을 부정적으로 판단하는 데이터 등의 오류가 있었습니다.

②AI 학습의 실패
AI 엔진은 정확한 데이터가 제공된다면 옳은 답을 구해낼 수 있습니다. 하지만 테스트를 거치기 이전까지 어떤 작업이 수행될지는 알 수 없습니다. 특히 금융에서 좋은 엔진을 구축하려면 동질적인 대규모 데이터 세트가 필요하고 측정하려는 데이터의 값이 정확해야 합니다. AI 엔진이 잘 설계되지 않으면 특정 데이터 세트에 치우칠 수가 있습니다. AI가 새로운 정보를 처리하고 학습하는 시간이 절대적입니다.

③의사 결정에 대한 인간 책임 회피
AI가 무슨 일을 하도록 프로그래밍하더라도 인간의 목표를 공유하거나 그 결과를 책임지지도 않습니다. AI 소프트웨어가 판단에 도움을 줄 수는 있지만, 실제 결정을 내리진 못하며 인간만이 의사결정을 내릴 수가 있습니다. 법률에서도 결정에 대한 책임은 인간에 있다는 데 동의합니다. 금융 AI가 대출을 거부했을 때 거부가 발생한 사유를 사람이 적절히 설명할 수 없으면 곤란해지는 일이 한 두 가지가 아닙니다. 결국 모든 책임은 결과적으로 인간이 지게 해야 합니다.

④ 데이터의 과대평가
데이터가 확보되면 모든 문제가 해결된다고 믿는 사람들이 많습니다. 하지만 데이터는 제대로 갖춰져야 하며 편향되지 않아야 합니다. 데이터 세트마다 각기 서로 다른 문제를 설명하고 있다면 실제 공통분모를 찾기가 어렵습니다.
부동산을 예로 들면 지역별로 데이터를 수집한다고 하더라도 부동산 시장은 지역마다 특성이 모두 다르기 때문에 이들을 모두 아우르는 알고리즘을 찾기는 하늘의 별 따기입니다. 데이터 세트가 너무 작아도 의미 있는 분류 알고리즘을 구축할 수 없습니다. AI 엔진을 구축하기 이전에 데이터가 잘 갖춰져 있는지 확인해야 합니다.
오춘호 연구위원

관련 뉴스

1

AI가 만드는 우주 빅데이터, 그 놀라운 부가가치

세계적으로 위성개발 국가가 늘고 있다. 여기에 성능이 뛰어나지만 개발비용이 저렴한 초소형 위성이 대량으로 발사되고 있다. 이렇게 발사된 수 많은 위성에서 매일 엄청난 데이터가 생산되고 있다. 4차 산업혁명 시대에 방대한 양의 위성데이터는 산업적으로도 활용 가치가 높은 중요한 빅데이터로 평가받고 있다. 따라서 위성데이터를 보다 빠르고 정확하게 활용하는 것이 매우 중요해졌다. 이전에는 위성에서 확보된 영상을 사람이 분석했다. 하지만 지금은 사람이 처리할 수 없을 정도로 많은 양의 위성 데이터가 쌓이다보니 인공지능(AI)을 활용한 위성영상 처리 기술이 각광받고 있다. 인공지능 기술이 빠른 속도로 발전하면서 항공우주 분야에서도 인공지능을 활용하는 새로운 시도가 늘어나고 있다. 대량 확보되는 위성 데이터를 사람이 처리하기에는 감당하기 어렵고 경쟁력이 없기 때문이다. 이미 인공지능 기술로 분석한 위성영상 데이터 서비스는 빠르게 성장하고 있다. 대표적으로 미국의 오비탈 인사이트 사는 위성이 매일 촬영해 보내오는 방대한 양의 위성영상을 클라우드 컴퓨팅 기술을 통해 내려받은 뒤 인공지능 기반 알고리즘을 통해 고객이 원하는 정보로 가공한다. 매일 업데이트되는 수 많은 위성 영상을 분석하려면 산술적으로 800만 명의 인력이 필요하다. 하지만 오비탈 인사이트 등이 개발한 AI 알고리즘을 활용하면 단 몇 명만으로도 정보 처리가 가능하다. 또 특정 하루의 경제 현상 관련 통계가 나오려면 약 1개월 정도 걸리지만, AI 알고리즘을 활용하면 단 몇 시간 만에 필요한 답을 찾을 수 있다. 인공지능으로 분석한 위성영상 데이터는 투자를 위한 경제지표로도 사용되고 있다. 전 세계 항만, 광산, 정유 시설, 대형마트 등의 위성사진을 수집해 이를 경제지표로 해석하는 서비스가 주목을 받고 있다. 실제로 인공지능 기반 알고리즘 기술을 활용해 중국 원유 저장 탱크를 찍은 위성영상을 통해 세계 최대 에너지 소비국인 중국의 원유 현황을 파악한 사례로 있다. 원유 저장 탱크를 촬영한 위성영상에서 탱크 지붕에 생긴 그림자를 딥러닝 알고리즘으로 분석해 원유가 얼마나 저장되어 있는지 파악할 수 있고 이것을 실시간으로 지속해서 분석하면 현재 저장량과 일일 변동량, 향후 수요량 등의 정보를 얻을 수 있다. 원유 회사는 이 데이터를 활용해 수요량을 예측하고 이에 따른 적정한 원유 공급가를 결정하는데 활용하고 있다. 이 방법을 통해 지난해 중국 원유 저장량이 중국 당국의 공식 발표보다 많다는 사실을 밝혀내 미 월가를 비롯한 전 세계 금융업계로부터 주목을 받았었다. 스위스의 한 기업은 포도나무가 빼곡하게 심어진 땅에서 어디가 비어 있는지를 분석할 수 있고 개별 작물의 성장 상태를 단 몇 분 만에 파악해 대규모 포도밭을 관리해야 하는 농부들에게 의미 있는 정보를 제공한다. 중국 정부도 건물 위 무허가 건물을 찾아내는 데에 위성과 인공지능 기술을 활용하고 있다. 사람이 업무를 수행했을 때는 위성이나 항공촬영 영상으로 건축물 하나하나를 비교했기 때문에 작업 시간이 수개월이나 걸렸다. 하지만 인공지능 기술을 적용하기 시작하면서 몇 개월이 걸리는 위성사진 분석 작업을 단 1분 안에 해결할 수 있게 됐다.이처럼 위성에서 확보된 수 많은 데이터가 엄청나게 빠른 속도로 분석, 처리할 수 있는 인공지능 기술과 결합해 큰 위력을 발휘하고 있다. 한국항공우주연구원도 위성영상 빅데이터를 인공지능을 통해 분석하는 알고리즘을 개발하고 있다. 현재 해외 위성영상, 항공사진 등을 바탕으로 선박이나 비행기, 차량, 건물 등 지구상의 특정 물체를 인식할 수 있는 인공지능 알고리즘을 구현하고 있다. 아리랑위성으로 1년간 확보하는 위성영상은 약 70만 장으로 향후 차세대중형위성과 초소형 위성에서 얻는 영상까지 합하면 막대한 양이다. 이렇게 확보된 고해상도 위성영상을 인공지능을 통해 분석하면 단시간 내에 광범위한 지역 정보를 얻을 수 있게 된다. 위성영상 뿐만 아니라 드론을 인공지능과 접목해 국민의 안전을 높일 수 있는 군집 드론에 관한 연구도 하고 있다. 다수의 드론이 촬영한 고화질 영상 정보를 실시간으로 수신해 인공지능을 통해 영상을 합쳐 넓은 지역에 대한 실시간 탐색이 가능하다. 이렇게 확보한 데이터는 국내외 각종 재난재해를 실시간으로 모니터링하고 경제지표를 생성하는 등 국민 생활과 안전에 기여할 수 있다.4차 산업혁명 시대 인공위성이 확보한 빅데이터와 인공지능 기술의 융합은 공간과 시간을 초월해 새로운 고부가가치 데이터를 만들어 내고 있다. IT 강국인 우리가 인공지능 기술과 항공우주기술과의 융합을 통해 4차 산업혁명 시대를 선도하는 국가로 도약하기를 기대해 본다.
2

세계 최초 유럽연합 인공지능법과 우리 기업의 대응 방향

유럽 연합이 세계 최초의 인공지능 법안(이하 인공지능법안)을 2021년 4월 21일 유럽의회에 제출했다. 유럽 연합은 인공지능이 뛰어난 기술이지만, 자칫 인종차별, 프라이버시 침해와 같은 문제를 야기할 수 있다고 보고 규제를 시작한 것이다. 법안 내용은 무엇이고, 우리 기업은 어떻게 대응해야 할 것인가. 위험에 따라 차등 규제인공지능법안을 살펴보면 모든 인공지능을 규제하는 것이 아니라 위험한 인공지능만 규제한다. 위험도에 따라, 사용이 금지되는 매우 위험한(unacceptable risk) 인공지능, 금지되지는 않지만 엄격한 절차를 요구한 고위험 인공지능, 관련 사항만 고지하면 되는 제한된 위험의 인공지능으로 분류하여 규제하고 다른 인공지능은 규제하지 않는다.먼저 매우 위험한 인공지능은 인권침해 우려가 매우 커서 사용이 금지되며 사용시 전 세계 매출의 6%를 과징금으로 부과한다. 법안은 4가지를 열거하고 있다. 첫째, 공공장소에서 모든 국민의 행동을 감시하는 안면인식 CCTV다. 현재 많은 나라들이 안면인식 알고리즘을 결합한 CCTV를 공공장소에 설치해 범죄 예방과 용의자 추적 등에 이용하고 있다. 안면인식 CCTV가 언제나 금지되는 것이 아니라 모든 일반인의 얼굴까지 데이터 베이스로 만들어 실시간으로 전 국민을 감시하는 것만 금지된다. 유럽연합은 이러한 기술을 프라이버시와 인권에 미치는 영향을 고려하여 금지한 것이다.둘째, 정부가 모든 행동을 감시하여 점수화한 소셜 스코어링을 금지하고 있다. 이러한 기술은 프라이버시를 침해하고 정부에 비판적인 시민을 통제하는데 이용될 수 있다는 이유로 금지한 것이다. 예를 들어 중국의 소셜 스코어링은 신용 정보뿐만 아니라 범죄 내역, 교통범칙금, 심지어 헌혈 내역 등 시민의 모든 행동을 종합하여 점수화한 것이다. 이 점수가 낮으면 대출 축소 등 서비스 이용이 제한된다. 실제로 소셜 스코어링이 낮은 기자가 기차나 비행기 같은 공공 서비스를 이용하지 못한 사례도 보도됐다. 이외에 인공지능을 통한 아동 감시처럼 아동과 장애인 등 취약한 집단을 대상으로 하는 인공지능, 시민의 잠재의식을 조작해 위험을 야기하는 인공지능도 금지된다.고위험 인공지능은 안전과 인권에 큰 영향을 주는 시스템에 인공지능이 사용되는 경우다. 사용은 허용되지만 출시 전에 제반 법규 준수 여부 검토(적합성 평가), 편향성 없는 정확한 데이터 사용 의무 준수 여부를 검토받아야 하는 등 엄격한 규제를 받는다. 유럽연합은 고위험 인공지능으로 6가지를 열거했다. 첫째, 안면인식 같은 생체인식이다. 전 국민 얼굴 데이터와 결합해 국민을 감시하는 안면인식은 아예 금지되지만, 수배자만 탐지하는 CCTV는 고위험 인공지능으로 분류되어 엄격한 규제 아래 허용된다. 둘째, 운송이나 전력 등 오작동시 큰 위험이 발생할 수 있는 중요 인프라에 인공지능이 적용되는 경우다. 셋째, 인공지능을 통한 대입 채점처럼 인공지능이 시민의 인생에 큰 영향을 주는 경우다. 넷째, 채용, 승진, 성과 측정 등과 같은 인사관리에 인공지능이 관여하는 경우다. 이미 국내에서도 많은 기업들이 화상면접에 인공지능을 이용하고 있는데, 유럽연합의 인공지능법안은 이를 엄격히 규제하고 있다. 우리나라 시민단체들도 작년에 인공지능을 채용에 활용한 13개 공공기관에 편향성 여부와 평가 기준 정보공개를 요구했다.다섯째, 대출, 보조금 결정처럼 필수적인 민간 서비스와 공공 서비스 결정에 인공지능이 이용되는 경우다. 미국은 신용기회균등법 등으로 대출에서 인종차별을 금지하고 있다. 유럽연합도 인공지능 기반 대출로 소수자들이 차별받는 것을 막기 위해 고위험 인공지능으로 규제한 것이다. 마지막으로 수사, 판사업무 보조와 이민업무에 인공지능이 활용될 경우 자칫 무고한 시민이 처벌되거나 추방될 수 있기 때문에 고위험 인공지능으로 규제했다. 구체적으로 범죄자 데이터를 인공지능으로 분석해 피의자를 추려내거나, 영주권 신청의 적격성 평가, 거짓말 탐지기 등에 인공지능이 사용될 경우 엄격한 절차를 거쳐야 한다.제한된 위험의 인공지능은 특별한 규제 없이 인공지능이 상대하고 있다는 점만 알리면 된다. 실제 인물이 행동하는 것처럼 인공지능이 생성한 영상(deep fake)과 챗봇처럼 인공지능이 사람처럼 작동하는 경우 제한된 위험의 인공지능에 해당된다. 매우 위험한 인공지능, 고위험 인공지능, 제한된 위험의 인공지능이 아닌 경우 아무런 규제는 없다. 혁신보다 소비자 보호가 우선소비자 보호를 위해 유럽연합은 인공지능법안을 제출했다. 하지만 유럽 산업계는 인공지능법안이 혁신을 저해한다며 반대하고 있다. 유럽 산업연맹(Orgalim)은 고위험 인공지능에 대한 적합성 평가는 안전성을 높이지도 못하면서 기업의 부담만 늘릴 것이라고 주장하고 있다. 적합성 평가 비용도 문제지만, 치열한 경쟁 속에서 출시가 늦어지면 경쟁에서 이기기 어렵다는 이유를 들고 있다.이러한 반대에도 불구하고 유럽연합은 향후 인공지능 위반 기업에 대한 손해배상 강화 등 인공지능 규제를 지속적으로 강화하겠다는 입장을 밝히고 있다. 사실 유럽이 엄격한 인공지능법안을 만든 이유는 기존 차별금지법과 소비자 보호법이 있기는 하지만, 미국과 달리 사후 배상제도가 강력하지 않기 때문이다. 미국의 경우 차별금지법제와 소비자보호법 위반시 집단소송과 징벌적 배상의무를 부과하고 있기 때문에, 아직까지는 연방정부 차원에서 인공지능법안 도입을 고려하지 않고 있다. 따라서 유럽연합뿐만 아니라 기존 차별금지나 소비자보호법제를 통해 인공지능으로 인한 소비자 보호가 어려운 나라들은 유럽연합처럼 인공지능 규제법을 도입할 가능성이 있는 것이다. 우리 기업도 적극적인 대책 마련 필요국내외에서 인공지능 부작용 통제를 위한 법제도 도입이 잇따르고 있는 만큼 우리 기업들도 대비를 서둘러야 할 것이다. 유럽 인공지능법이 통과되면 유럽에 수출하는 우리 기업도 이 법을 준수해야 한다. 또한 인공지능법이 없는 나라라 하더라도 많은 나라들이 인공지능의 부작용에 관심을 가지면서 자율 규제의 일환으로 인공지능 윤리를 제정하고 있는데, 이런 나라에서 인권침해적인 인공지능을 사용한다면 우리 기업의 명성이 훼손될 것이다.이미 선진국 기업들은 인공지능의 인권침해 문제에 적극적으로 나서고 있다. 구글은 인공지능 윤리 전문가가 무려 200여 명이나 있는데, 향후 발생하는 다양한 인공지능 윤리 문제를 대처하기 위해 400명으로 증원하기로 결정했다. 아마존과 IBM, 마이크로소프트는 경찰이 안면인식기술이 결합된 CCTV를 이용할 경우 흑인을 집중적으로 감시할 수 있다는 이유로 안면인식 기술 제공을 중단했다.우리 기업들도 인공지능 윤리 문제가 심각하게 논의되고 있는 점을 감안해 선진국 기업처럼 적극적으로 대처할 필요가 있다. 글로벌 기업으로 성장한 현재의 위상과 달리 인권침해에 무관심하다면 글로벌 시장에서 생존할 수 없을 것이다. 인공지능의 인권침해를 최소화하기 위해 내부 비판이 허용되는 기업 문화와 시스템을 만들고, 인공지능 윤리 관련 인력을 확보해 소비자 인권 보호에 충실한 기술을 개발해야 할 것이다.
3

오프라인서 소비자 읽는 베타(B8TA) AI,소매업 패러다임 확 바꾼다

미국 실리콘밸리에 자리 잡은 독특한 매장이 세계 AI 업계의 주목을 받고 있습니다. 바로 베타(b8ta)입니다. 가게 안에는 천장 등에 설치된 여러대 의 카메라가 고객의 동선을 체크하고 있습니다. 이를 통해 진열된 특정 상품을 그냥 통과한 고객의 수와 한 상품에 5초 이상 멈춰 선 고객(이를 디스커버리라고 부릅니다) 수, 점원이 고객 앞에서 상품 설명이나 시연을 보인 횟수 등등 각종 데이터가 상품별로 수집됩니다. 이 데이터는 실시간으로 제품을 출품한 기업에 전달됩니다. 기업은 이 데이터를 AI로 분석해 마케팅의 초점을 파악하게 됩니다. 오프라인에서 소비자들의 행동을 제품 개발 등에 반영하고 싶은 기업들은 베타를 찾습니다. 상품보다 고객들의 데이터를 파는 가게라고 할 수 있습니다. 물론 AI 기술이 그 핵심에 있습니다. 5초 이상 제품에 멈춰 선 고객 주목 베타는 창립 6년 만에 이 비즈니스 모델로 세계적인 기업으로 자리 잡았습니다. 미국 전역에 24개의 매장을 열었고 아랍에미리트 두바이에 1개, 일본에 2 개의 매장을 차렸습니다. 코로나가 발생하기 이전인 2019년에는 300만 명 넘게 매장을 방문해 미국 출장을 가면 꼭 방문해야 할 명소로 꼽히기도 했습니다. 전시되는 상품도 갖가지입니다. 일반적인 생활용품이 많지만, 첨단 IT제품들도 있습니다. 와이파이 스피커와 전기자전거 스마트홈 기기들이 인기를 끕니다. 전기차 브랜드 미니는 2019년 자동차를 출품하기도 했습니다. 청바지 대표기업인 리바이스는 구글과 개발한 'IoT청재킷'의 패션쇼를 이곳에서 열었습니다. 한국에선 네오랩컨버전스가 만든 '네오펜'을 전시하고 있고 최근 웰스케어가 레이저통증 치료기를 내놓았습니다. 디자이너 김영세씨가 이끄는 이노디자인도 신형 커피 텀블러를 베타에 전시했습니다. 지난해 8월 문을 연 일본 도쿄 베타 매장에는 일본 생활용품 전문점 카인즈가 출품을 결정해 더욱 화제가 됐습니다. 카인즈는 미국 베타 매장에도 선을 보였습니다. AI 카메라로 소비자의 움직임을 파악하는 데이터를 상품 개선과 마케팅 정책등에 활용하기 위해서입니다. 카인즈가 더욱 주목하는 건 매장 판매원이 고객을 맞을 때 대화하는 데이터입니다. 이 데이터는 정량 데이터가 아니라 정성 데이터입니다. 이런 데이터야말로 신상품 개발이나 서비스 개선에 직결된다고 카인즈는 보고 있습니다. 이를 해석하는 것은 AI의 몫입니다. 베타 모델, 다른 기업들에 급격하게 퍼져나가 이런 비즈니스 모델은 다른 기업들에 급격하게 번져가고 있습니다. 일본에선 쓰타야로 유명한 컬처 컨비니언스 클럽이 2019년에 이 모델을 도입했습니다. 쓰타야는 음반, DVD, 책 등을 대여해주고 판매도 하는 매장입니다. 이전의 비디오 대여점과 책 대여점과 비슷한 기업입니다. 일본에 1400개의 매장이 있습니다. 쓰타야는 이용자 동의 아래 결제 명세 등의 데이터를 관리하고 있습니다. 이 데이터를 다른 기업에 팔아 수익을 내기도 합니다. 일본의 소매점 기업인 이온리테일도 가게 내 영상을 분석해 고객서비스 와 전시 전략을 개선할 AI 카메라를 설치, 운영할 계획이라고 합니다. 상품의 판매 실적과 고객 방문 수 등의 데이터를 AI가 학습해 가격을 결정하는 데에도 활용하기로 했다고 합니다. 독일의 체험형 쇼핑매장 블랭크(Blaenk)도 뒤셸도르프와 쾰른 등에 베타와 비슷한 체험형 쇼핑 매장을 운영하고 있습니다. 이 기업은 아파트 생활에 맞춘 각종 라이프스타일 상품을 소개하고 고객들의 동선을 살피며 쇼핑 카트 데이터를 AI로 분석합니다. 하노버에 자리 잡은 소매업체 파운드 역시 상품의 진열 위치를 바꾸면서 고객들의 반응을 살피는 시스템을 구축했습니다. 프라이라움은 온라인에서 유명한 브랜드들을 매장으로 끌어들여 소개하는 사업을 시작했습니다. 옴니채널전략, 새로운 유통 질서 선도할 듯 베타는 코로나로 인해 타격을 많이 받았습니다. 지난해에는 고객이 급격히 줄었습니다. 텍사스 휴스턴의 한 상점에는 주말 고객이 40명에 그쳤다는 보도도 있었습니다. 코로나 이전에 1000명을 넘던 고객 수와는 차이가 크게 납니다. 지난해 베타는 인력을 대폭 감축할 것이라고 발표하기도 했습니다. 하지만 베타의 목표는 분명합니다. 오프라인을 강화하기 위해 데이터를 쓰는 것도 필요하지만 기업의 온라인을 더욱 강화하기 위해 오프라인서 학습이 더욱 필요합니다. 온라인 고객들도 상품을 체험할 수 있는 환경을 더욱 찾을 것입니다. 월마트는 온라인과 오프라인 채널간 연계를 통한 옴니채널 전략을 활발히 구사하고 있습니다. 베타는 비슷한 작업을 수행하는 리테일 업체 리스토어를 인수했습니다. 샌프란시스코 매장 공간도 늘리기로 했습니다. 이제소비자들은 온라인으로 베타 제품을 구매하고 있습니다. 온라인과 오프라인을 맺는 가교 역할을 결국 데이터와 AI가 해내고 있다는 걸 베타는 보여주고 있습니다. 오춘호 연구위원