인공지능 대중화 시대, 공공 영역 AI 도입 확대를 기대하며
지난 해 대통령직속 4차산업혁명위원회의 주관으로 진행된 『인공지능 대중화를 위한 대국민 인공지능 이용 인식조사』는 국민들의 인공지능에 대한 인식과 활용 정도를 확인하고, 정책 방안을 도출할 목적으로 실시되었다. 조사 결과를 보면 정책 당국 입장에선 ‘발등에 불이 떨어졌다’는 말이 나올 만 하다. 우리 국민들은 인공지능을 먼 미래의 일이 아닌, ‘코 앞의 닥친’ 미래로 체감하고 있고, 또 인공지능의 적극적인 도입과 확대를 기대하고 있는 것으로 나타났기 때문이다. 조사 결과에 따르면 국민 대부분(99%)은 이미 인공지능을 인지하고 있으며, 그 관심도 또한 60% 수준으로 높았다. 프라이버시 침해, 일자리 축소에 대한 우려도 있었으나 대다수 국민들은 인공지능이 개인과 민간 영역을 넘어 의료(62%)와 공공 영역(재난방역 33%, 치안안전 27%)으로 더욱 확장해 나가야 한다는 의견을 보였다. 소수가 독점하는 인공지능이 아닌 누구나 누리고 편리하게 이용하는 진정한 ‘대중화 시대’를 원하고 있는 것이다. 그렇다면 국민들의 관심도가 높은 ‘공공 영역의 인공지능(AI) 도입’은 어디까지 진행 되었고 또 어떤 문제들을 해소해 나가야 할까?
‘챗봇’부터 ‘난민정책’까지, 공공 AI 도입 분야 다양해져
정보통신정책연구원(KISDI)에 따르면 우리나라 공공기관은 ‘민원’, ‘안전/보안’, ‘정보제공/통계분석’을 중심으로 AI를 활용하고 있는 것으로 나타났는데, 챗봇 서비스(14%), 고객센터(11%) 서비스 등이 주요 사례였다. 최근에는 복지 정책 확대, 코로나19 등의 영향으로 AI를 보조적 행정 수단으로 활용하기도 한다. 자가격리자, 독거노인 등을 대상으로 ‘AI 콜’ 제도를 운영하고 있는데 하루 1~3차례 전화 연결을 통해 AI가 대상자의 건강 상태를 체크하고, 분석 결과를 보건소에 전달하는 방식이다. 광주 서구청에서는 KT의 인공지능컨택센터(AICC) 솔루션을 활용한 ‘AI복지사’ 서비스도 시범 운영 중이다. 한국전자통신연구원(ETRI)과 경찰청은 위험 상황을 초기 인지하고 범죄 위험도를 예측하는 AI 시스템 개발을 2022년까지 수행 완료할 예정이라고 밝히기도 했다.
해외의 AI 활용 분야는 조금 더 다양하다. 행정 서비스 영역에서 활용되는 기술은 우리나라와 마찬가지로 챗봇 서비스가 눈에 띈다. 미국 이민국으로 들어오는 문의를 영어와 스페인어로 응대하고 있는 챗봇 ‘엠마(Emma)’는 한 달에 100만 건이 넘는 문의를 처리한다. 최초 도입 시 85% 수준이었던 응답 성공률도 92%까지 향상됐다. AI의 예측 능력과 시뮬레이션 결과 등을 정책 결정 과정에 반영하는 ‘정책 지능(Policy Intelligence)’ 방식의 도입 사례도 눈에 띈다(NIA IF보고서, 2017). 미국 국무부는 NGO 단체인 ‘히브리 이민자 구호협회(HIAS)’와 협업해 난민들을 적절한 지방 정부에 배정하는 데 AI 솔루션을 활용하고 있다. 이를 통해 기존 대비 난민 취업률을 최대 30%까지 높였다. 미국의 노인의료보험제도인 ‘메디케어(Medicare)’도 AI와 빅데이터를 활용해 보험 청구 데이터를 분석한다. 지역 집중도, 진료 패턴을 기반으로 남용 건을 파악하는데 실제 사람이 전수조사 하기 어려운 물리적 한계를 AI를 통해 해소하고 있다.
행정 효율성과 정책 의사 결정의 합리성을 높이는 AI
일반적으로 공공 서비스는 효율성이나 비용 절감 측면보다는 공정성과 절차적 정당성 확보 여부를 더 중요시 한다. 그렇기에 효율성을 특징으로 하는 AI의 도입은 공공 서비스가 가진 구조적 비효율성을 합리적으로 개선하는 기회가 된다. 딜로이트(Deloitte)에 따르면 미국 연방정부 직원의 업무 자동화를 통해 연간 9670만~12억 시간을 절감할 수 있고, 이를 통해 33억~ 411억 달러의 행정 비용도 절감 가능하다고 보았다. 반복적인 작업 또는 대량의 데이터를 처리해야 하는 경우 AI가 이를 대신하고, 이를 통해 절감 가능한 비용과 시간을 창의성이 필요한 기획 업무에 투입한다면 행정 효율성 제고와 국민의 눈높이에 맞는 질 높은 공공 서비스를 제공할 수 있게 된다.
AI 도입을 통해 추가로 기대하는 부분은 ‘데이터 기반 정책 결정’을 할 수 있게 된다는 점이다. 캡제미니(Capgemini), 한국지능정보사회진흥원(NIA) 등은 AI 도입이 공공 기관의 관료제 문화가 만들어 낸 도덕적 해이와 그로 인한 잘못된 정책 결정을 개선할 수 있다고 보았다. 공무원이 자신의 고과나 승진을 위해 국가 전체의 이익이 아닌 상사의 입맛에만 맞는 정책을 기안한다거나, 선거 표심 확보만을 위한 ‘선심 쓰기’ 정책을 사전에 거르는 거름망이 된다는 것이다. 정보 오류, 담당자의 오판 등으로 잘못된 정책 결정을 내리는 경우에도 AI를 통한 교차 검증, AI 기반 분석을 통해 근거를 마련하는 등의 방법으로 더 합리적인 의사 결정을 할 수 있다.
도입 이점은 분명한데, 속도 내기 어려운 이유는?
그렇다면 예상되는 여러 이점에도 불구하고, 민간 대비 공공 영역에 AI 도입이 어려운 이유는 무엇일까? 이는 공공 영역의 본질적인 특징에 기인한다. 공공 영역의 활동은 보안성은 물론 투명한 과정과 공정성이 강조되며, 이를 증명하는 체계적이고 제도적인 뒷받침이 필요하기 때문이다. 또한 공공 AI 시스템 운영에 이용되는 개인정보의 양과 중요도를 고려할 때 민간 대비 훨씬 높은 수준의 보안이 요구되며, 유출 시의 리스크와 보상 문제도 더 복잡하다. 편향된 알고리즘으로 인한 부작용의 피해 범위도 넓다. 가령 영국에서는 코로나 19 사태로 대입 시험(A-LEVEL)을 치르기 어렵게 되자, 각 학교의 기존 성과와 학생의 교내 성적 등을 고려한 평가 알고리즘을 개발했고 이를 기반으로 성적을 부여했으나, ‘낙후지역 학생을 불리하게 평가했다’는 항의가 빗발치는 등 사회적으로 큰 혼란을 빚었다.
공공 영역의 AI 도입을 어렵게 하는 실행 단계의 문제도 존재한다. 세계경제포럼(WEF)은 ①수집된 데이터의 효용성 ②정부의 AI 기술과 인력 수준 ③소규모 기업 위주의 AI 생태계 ④지적재산권에 대한 민간 영역과의 이해 차이 등 공공 조달 방식의 특수성 ⑤공공 조직의 경직적 문화를 AI 도입을 가로막는 5가지 어려움으로 보았다. 이 같은 업무상의 허들은 공공 기관으로 하여금 보다 적극적으로 AI를 도입하는 시도를 어렵게 만든다.
공공 AI 도입을 위한 다각도의 ‘감독’ 필요
공공 영역 AI 도입은 피할 수 없는 흐름이다. 그 적용 범위가 ‘자동화’를 넘어 정책 결정 과정에 인사이트를 주는 ‘정책지능’ 단계로 점차 확대되고 있다. 이러한 흐름을 뒷받침하는 기술적, 법적, 제도적 장치는 보완 중이나, 다양한 영역에 적용될 공공 AI 모델이 모두 확립되기 까지는 시간이 필요하다. 그리고 이러한 '준비단계’에서 올바른 AI 모델이 확립될 수 있도록 관계 당국은 물론 서비스의 수혜를 받는 국민들의 역할도 필요해진다.
앞에서도 언급했듯이 공공 서비스는 공정성과 형평성을 특징으로 한다. 따라서 AI를 설계하는 정책 당국은 AI가 가질 수 있는 편향성에 대해 충분한 사전 연구와 검토를 진행해야 한다. AI가 성별, 나이, 지역에 대한 고정 관념 등 잘못된 사회 통념을 습득하고 그를 기반으로 시스템을 만드는 일이 생겨서는 안 된다. AI 설계자가 개인적인 또는 정치적인 의도를 가지고 있는지 감독하는 별도 조직과 프로세스도 명확히 규정해야 한다. 또한 이러한 편향성을 제거하기 위한 다양한 주체의 의견 수렴 과정도 주도해 나가야 한다.

국민들의 역할도 있다. 주도적 추진이 어려운 부분이지만 AI 공공 서비스에 대해 관계 당국에 지속적인 설명을 요청하고 의문을 제기해야 한다. 유럽연합(EU)은 ‘개인정보보호규정(General Data Protection Regulation)’에 AI 기반 의사 결정에 대한 ‘설명요구권리’를 명시하고 있다. 일반인이 쉽게 이해할 수 있는 투명하고 설명 가능한 AI 알고리즘만이 사회에 도입될 수 있다는 의지가 반영된 조항이다. 우리도 향후 공공 영역에 적용될 AI의 모델이 공공의 이익을 대변하는 합당한 모델인지 여부를 질문하고, 도입 시 예상되는 부작용도 공론화 하며, AI 설계의 주체가 되는 정책 당국을 끊임없이 감독해야 한다. 그것이 우리의 공공 AI 모델을 공정하고 바른 방향으로 이끄는 길이 될 것이다.