끔찍한 스마트 (Scary Smart)

비윤리적 가치가 지배하는 불길한 미래
기계에도 '도덕' 주입해야 피할 수 있어
"지금 제어하지 않으면 걷잡을 수 없다"
[홍순철의 글로벌 북 트렌드] '과학기술의 역습'…인공지능에 누가 윤리를 가르치나

“과학기술은 인간을 전례 없는 수준의 위험 속으로 빠트리고 있습니다. 이 책은 인공지능 분야의 기술자나 관련 정책 입안자를 위한 책이 아닙니다. 이 책은 당신을 위한 책입니다. 믿거나 말거나, 당신만이 현재 상황을 바로잡을 수 있는 유일한 사람이기 때문입니다… 2049년까지 인공지능(AI)은 인간보다 10억 배 더 똑똑해질 겁니다. 책은 미래의 인공지능이 인간을 보호할 수 있도록 하기 위해 현재의 궤적을 수정하는 방법을 알려줍니다. 우리 자신과 우리가 사랑하는 사람들, 그리고 지구 생태계를 보호하기 위해 지금 당장 실천할 수 있는 아이디어를 제공합니다.”

인공지능이 초래할 디스토피아적 미래에 대한 우려가 커지고 있는 가운데 지난 9월 말 출간된 책 《끔찍한 스마트(Scary Smart)》가 영국에서 화제다. 세계적인 베스트셀러 《행복을 풀다》의 저자이면서, IBM과 마이크로소프트를 거쳐 현재 구글의 핵심 부서이자 ‘꿈의 공장’이라고 불리는 ‘구글X’의 신규사업개발총책임자(CBO)로 일하고 있는 모 가댓은 《끔찍한 스마트》를 통해 인공지능이 지배하는 불길한 미래를 전망하고 있다. 제목처럼 ‘끔찍한’ 스마트한 세상이 되지 않기 위해 인간이 기계에 가르쳐야만 하는 ‘윤리적 규범’에 대해 소개하면서, 기계에뿐 아니라 인간, 특히 미래 세대에도 가르쳐야 할 것이 많다고 전한다. 30년 넘게 최첨단 과학기술 분야에서 종사한 엔지니어답게 냉철한 분석으로 인공지능과 인간의 미래 공존 전략을 소개한다.
[홍순철의 글로벌 북 트렌드] '과학기술의 역습'…인공지능에 누가 윤리를 가르치나

자율주행차가 빠른 속도로 도로 위를 잘 달리고 있다. 이때 갑자기 한 어린 소녀가 도로 한복판으로 뛰어든다. 자율주행차는 불가피하게 누군가를 다치게 할 수밖에 없는 시급한 결정을 내려야 한다. 핸들을 급히 왼쪽으로 돌리면 노부인을 칠 수밖에 없지만, 어린 소녀의 생명을 구할 수 있다. 자율주행차는 노인보다 젊은이의 생명을 더 소중하게 생각해야 할까. 도로 한복판으로 갑작스럽게 뛰어든 소녀의 생명보다 아무런 행위도 하지 않은 노부인의 생명을 더 하찮게 여겨야 하는 합리적 근거는 무엇인가. 만일 두 명이 모두 중년의 부인이고 그중 한 명이 획기적인 암 치료법을 개발할 과학자라는 사실을 자율주행차가 알고 있다면? 이외에도 가능한 수많은 시나리오 가운데 무엇이 과연 올바른 결정일까. 그리고 자율주행차가 내린 결정에 대해 누가 책임을 질 것인가. 자동차 소유자? 자동차 판매회사? 아니면 소프트웨어 개발자? 자율주행차와 같은 인공지능이 지배하는 사회에서 흔히 제기될 수밖에 없는 질문들이다. 윤리, 평등, 인권, 사생활 등 인공지능의 시대에 접어들면서 인간이 오랫동안 중요하게 생각해왔던 가치들이 무너지고 있다. ‘패턴’ ‘추세’ ‘범주화’ ‘순위 매김’ 등으로 판단하는 인공지능 알고리즘은 특정 피부색이나 종교 또는 민족에 대해 편향된 데이터를 내놓을 수 있고, 상상하지 못한 끔찍한 결과를 초래할 수 있다.

[홍순철의 글로벌 북 트렌드] '과학기술의 역습'…인공지능에 누가 윤리를 가르치나

책은 특히 오늘날 인공지능의 미래를 구축하고 있는 백인 남성 중심의 개발자 풀이 이른바 ‘남성적인’ 특성을 선호하는 기계를 탄생시킬 가능성이 높다고 경고한다. ‘지금 제어하지 않는다면, 인공지능은 인간이 통제할 수 없을 정도로 강력해질 것이다!’ 이제는 이런 주장을 허투루 여길 때가 아닌 것 같다.

홍순철 < BC에이전시 대표·북칼럼니스트 >

ⓒ 한경닷컴, 무단전재 및 재배포 금지