“인공지능(AI)은 쥐나 침팬지 수준을 넘어서 결국엔 인간의 두뇌도 뛰어넘을 것이다. 이후에도 멈추지 않고 계속 성장한다는 것이 무서운 일이다.”

AI의 위험성을 경고해온 AI 전문가 닉 보스트롬 영국 옥스퍼드대 교수(사진)는 지난해 세계적 기술 강연회인 ‘테드(TED)’에서 ‘컴퓨터가 인간보다 똑똑해진다면 무슨 일이 일어날까’라는 주제로 16분가량의 강연을 펼쳤다.

보스트롬 교수는 “AI는 주어진 목표를 극도의 효율성으로 달성하려는 기계”라며 “처음에 목표를 잘못 설정하면 무서운 결과로 이어질 수 있다”고 우려했다. AI 로봇에 ‘인간을 웃게 해라’는 목표를 설정해줬을 때 지금의 로봇은 재미있는 농담을 하거나 우스꽝스러운 동작을 할 뿐이다. 하지만 AI가 초지능적으로 발전하면 목표를 달성할 수 있는 더 효율적인 방법이 있다는 것을 알게 된다. 전극을 사람 얼굴 근육에 갖다 대 끊임없이 웃을 수밖에 없도록 하는 식이다.

보스트롬 교수는 “만약 AI가 사람 얼굴에 전극을 붙이려고 할 때 작동을 멈추게 하면 그만이라고 말하는 사람도 있을 수 있다”며 “하지만 우리가 AI를 통제하고 있다고 자신해서는 안 된다”고 경고했다.

그는 힘의 역학 관계도 변할 수 있다고 말한다. 침팬지는 성인 남성보다 두 배 이상 힘이 세지만 인간이 침팬지의 운명을 좌우할 수 있다. 미래에 슈퍼인공지능이 존재한다면 인간의 운명은 아마도 슈퍼인공지능이 결정할 수 있게 될 것이란 설명이다. 보스트롬 교수는 “우리가 일단 그 시스템(AI)에 의존해 살기 시작한다면 이를 차단하는 게 쉽지만은 않은 문제”라며 “우리에겐 인터넷을 완전히 꺼버리는 스위치가 없다”고 지적했다.

그는 “슈퍼인공지능은 인류의 마지막 창조물이 될 것”이라며 “인간보다 뛰어난 지능으로 모든 기이한 발명품을 앞서 발명해버릴 것이기 때문”이라고 설명했다.

보스트롬 교수는 AI 수준은 하나의 시스템으로 다양한 언어를 번역한다거나 여러 종류의 게임을 할 수 있는 정도까지 올라왔다고 소개했다. AI가 인간처럼 배우고 행동하는 강력한 단계까지 와 있지는 않지만 발전 속도가 매우 빠를 것으로 전망했다. 그는 전문가들을 대상으로 AI가 인간 수준의 딥러닝(기계학습)을 할 가능성을 설문조사한 결과, 인간의 50% 정도에 도달할 수 있는 때가 2040~2050년 정도였다고 소개했다.

보스트롬 교수는 AI의 부작용을 줄이기 위해선 “인간이 소중하게 여기는 가치와 행동을 정교하게 정의해 기계에 가르치는 방법을 준비해야 한다”고 강조했다. AI에 목표를 설정해주기 전에 그 목표가 윤리 도덕 등 인간이 중요하게 생각하는 가치를 해치지 않도록 설계해야 한다는 말이다.

안정락 기자 jran@hankyung.com