[위클리 스마트] 인공지능은 결국 인류를 위협할까

EU, AI 위험 4단계 분류·규제 법안 마련…국내선 관련 논의 걸음마 단계

매트릭스·터미네이터 등 음울한 미래를 다룬 창작물에서 흔히 등장하는 설정이 고도로 발달한 '강(强) 인공지능'이 자신의 창조자인 인류를 위협한다는 플롯이다.

그러나 현실의 인류는 그리 호락호락하지 않다.

얼마 전 유럽연합(EU)에서 등장한 인공지능(AI) 법안은 한국식으로 하면 '스카이넷(터미네이터 속 만악의 근원) 방지법'으로 불릴 법하다.

EU 집행위원회가 지난달 말 마련한 AI 법안은 총 85개 조문으로, AI의 위험 수준을 4단계로 분류해 규제를 각기 다르게 적용한 것이 특징이다.

가장 높은 '용납될 수 없는 위험'은 인간의 안전·생계·권리에 위협이 되는 AI 시스템으로, 아예 개발 자체를 금지했다.

신용평가·교통·채용 등에 사용되는 AI는 '고위험'으로 분류해 출시 전 적합성 평가를 거치도록 했다.

더 낮은 '제한된 위험' 단계에는 투명성 의무를 적용하도록 했고, '최소 위험' 등급에는 규제가 없다.

규정을 위반한 업체에는 글로벌 연 매출의 최대 6%까지 벌금을 물린다.

이는 EU 일반개인정보보호법(GDPR) 위반 과징금인 연 매출의 최대 4%보다 더 강한 것이다.

규제만 있는 것은 아니다.

혁신적인 AI 시스템에는 일정한 조건 아래 다른 목적으로 수집한 개인정보를 활용할 수 있게 허용해주는 등 내용도 포함돼 있다.

우리나라에서는 아직 AI 윤리나 규제와 관련해 본격적인 논의가 시작된 단계는 아니다.

한때 AI 챗봇 '이루다' 논란이 관련 담론을 촉발하는 듯했지만, 개인정보 보호 문제로 넘어가 일단락된 분위기다.

그러나 AI는 이미 우리 생활 깊숙이 들어와 있다.

당장 대부분 한국인이 뉴스를 접하는 통로인 포털은 기사 배치를 AI에 맡기고 있다.

민간 영리 업체가 비밀리에 설계한 AI가 민주주의 사회의 핵심인 여론 형성에 결정적인 영향을 미치고 있던 셈이다.

그 AI가 편향될 수 있다는 진단은 포털 업체도 인정하는 바다.

미국 스탠퍼드대학교 인간중심 AI 연구소(HAI) 페이페이 리 공동소장은 엔씨소프트윤송이 최고보안책임자(CSO)와의 대담에서 "AI 기술은 발전하면 할수록 속도가 붙어 멈출 수 없게 된다"며 "알고리즘의 편향성, 인류에게 미칠 잠재적 피해, 사생활 침해 등 문제가 불거질 수 있다"고 지적했다.

그는 "정부는 이런 기술의 상용화에서 공정한 경쟁이 이뤄지도록 조정할 책임이 있다"며 "기술이 올바른 방향으로 발전할 수 있도록 주춧돌을 놓는 역할도 해야 한다"고 강조했다.

/연합뉴스