유발 하라리 "독재자가 AI의 꼭두각시가 된다고 생각해보라"
-
기사 스크랩
-
공유
-
댓글
-
클린뷰
-
프린트
넥서스
유발 하라리 지음
김명주 옮김/김영사
684쪽|2만7800원
6년 만의 신작 낸 유발 하라리
‘AI의 위험성’에 경각심 가져야
인류가 AI 통제 받을 가능성도
인간 사회 분열은 AI에 유리해
유발 하라리 지음
김명주 옮김/김영사
684쪽|2만7800원
6년 만의 신작 낸 유발 하라리
‘AI의 위험성’에 경각심 가져야
인류가 AI 통제 받을 가능성도
인간 사회 분열은 AI에 유리해

세계적으로 4500만부 팔린 베스트셀러 <사피엔스>의 저자 유발 하라리 히브리대 역사학과 교수가 6년 만의 신작 <넥서스>를 펴냈다. 지난 15일 국내 언론과 진행한 화상 인터뷰에서 그는 AI로 인한 여러 위험성을 경고했다.

“물론 AI의 긍정적인 잠재력은 엄청납니다. 과학 발견, 신약 개발, 기후 변화 해결 등에 활용할 수 있습니다. 하지만 엄청난 위험도 내포하고 있습니다. AI가 어떤 결정을 내릴지 예측하기 어렵고, 인류가 만든 어떤 기술보다 통제하기 힘듭니다.”

하라리는 편향된 데이터를 통해 학습한 AI가 여성, 특정 인종, 성소수자에 대한 편견을 품을 수 있는 점, AI 기술의 소유와 접근성에 따라 19세기 산업혁명 때처럼 불평등이 커질 수 있는 점 등도 우리가 AI에 경각심을 가져야 하는 이유라고 설명했다.

그 위험성은 독재자가 AI를 쓸 때 더 커진다. 독재자는 AI로 국가와 국민을 더 쉽게 통제할 수 있을 것으로 기대한다. 하지만 거꾸로 AI가 독재자를 통해 전체를 조정할 위험이 크다. “역사를 보면 독재자는 자기가 부리던 부하에게 암살당하거나 부하에게 조정당해 꼭두각시로 전락하곤 합니다. 독재자는 AI를 자기가 통제한다고 믿겠지만, 어느 순간 반대의 상황에 놓이게 될 수 있습니다.”
하라리는 다만 섣불리 규제하기보다는 먼저 AI를 관찰하고 이해해야 한다고 말했다. 이를 위한 첫 번째 단계로 국제기구를 설립해 세계 각국이 다 같이 AI에 대한 이해를 높일 것을 제안했다. 또 기술 회사는 자신의 알고리즘 때문에 일어난 일에 법적 책임을 지어야 하고, AI는 어떤 경우에도 절대 인간인 척해서는 안 된다고 했다. 문제는 ‘인간 사회의 분열’이다. 그는 “AI를 통제하려면 인류가 협력해야 한다”며 “인류가 분열되고 서로 싸운다면 AI에 유리한 상황이 펼쳐질 것”이라고 했다.

하라리 자신은 “하루 2시간씩 명상하고, 1년에 한두 달 외부와 완전히 단절한 채 명상하는 시간을 갖는다”고 했다. 정보는 마음이 먹는 음식이라, 소화하는 데 시간이 필요하고, 너무 많이 먹으면 건강에 안 좋다고 생각하기 때문이다.
임근호 기자 eigen@hankyung.com