[책마을] "기술이 인간을 자유롭게 한다"는 신화 해부
엘리에저 유드코스키는 인공지능(AI) 안전 분야의 대표적 사상가다. 그는 모든 분야에서 사람을 능가하는 인공일반지능(AGI)이 등장하면 인류가 소멸할 수 있다며, 핵무기로 위협해서라도 AI 연구를 즉각 중단해야 한다고 주장해 왔다. 그런데 인터뷰에서는 “완벽한 건강, 영생, 초인본주의가 미래 시나리오에 당연히 들어가야 한다”고 말했다. 종말을 경고하면서도 기술이 열어줄 찬란한 미래를 꿈꾸는 것이다. 이 모순적인 장면이 ＜기술이 인류를 구원한다는 착각＞의 출발점이다.

천체물리학자 출신 과학 저널리스트 애덤 베커는 실리콘밸리를 지배하는 사상의 뿌리를 추적한다. 효율적 이타주의, 장기론, 특이점, AI 가속주의는 서로 다른 흐름처럼 보인다. 그러나 저자가 보기에 이들은 하나의 거대한 이데올로기, 곧 ‘기술을 통한 구원’이라는 믿음으로 수렴한다. 그는 유드코스키를 비롯한 핵심 인물을 직접 인터뷰하고, 그들의 논문과 저작을 과학적으로 검증한다. 이 책이 단순한 비판서가 아니라 탐사보도처럼 읽히는 이유다.

논지는 세 갈래다. 첫째, 이들이 내세우는 미래 비전은 과학적 근거가 빈약하다. 둘째, 설령 실현된다고 해도 인류에게 재앙이 될 수 있다. 셋째, 그 실현 여부와 무관하게 이미 지금 여기에서 권력으로 작동한다.

레이 커즈와일의 ‘특이점’ 이론이 대표적이다. 2045년 인간을 뛰어넘는 기계 지능이 탄생한다는 그의 예언은 실리콘밸리의 복음이 됐고, 커즈와일은 구글 엔지니어링 디렉터가 됐다. 베커는 그 근거인 ‘수확 가속의 법칙’이 무어의 법칙을 기술사 전체로 무리하게 확장한 데서 비롯됐다고 지적한다. 커즈와일이 세상을 떠난 아버지를 AI로 되살리고 싶어 한다는 대목은, 이 ‘과학’에 깃든 종교적 열망을 드러낸다.

‘효율적 이타주의’가 어떻게 변질했는지도 꼼꼼히 따진다. “가장 효율적인 방법으로 세계의 고통을 줄이자”는 피터 싱어의 제안은 윌리엄 매캐스킬의 ‘장기론’을 거치며 현재의 80억 인류보다 미래에 존재할 수조 명이 도덕적으로 더 중요하다는 주장으로 나아간다. 이 논리에서는 지금 당장 사람을 살리는 일보다 실리콘밸리 AI 기업에 투자하는 일이 더 가치 있는 선택이 된다.

저자가 겨누는 핵심은 분명하다. 기술 종말론자와 낙관론자는 반대편에 선 것처럼 보이지만, 실은 같은 전제를 공유한다. 기술 발전은 필연이고, 항구적 성장은 가능하며, 인류의 운명은 우주를 향해 있다는 믿음이다. 결론만 다를 뿐이다. 한쪽은 구원을 말하고, 다른 쪽은 재앙을 말한다. 그러나 귀결은 같다. 미래의 서사를 독점한 자들이 현재의 권력을 쥔다.

설지연 기자 sjy@hankyung.com