"인간 수준 AI 개발 당장 멈춰야"…머스크, 중단 요구 이유는
일론 머스크 테슬라 최고경영자(CEO)와 스티브 워즈니악 애플 공동 창업자를 비롯한 1100여명의 테크업계 지도자들이 인간과 경쟁하는 수준의 인공지능(AI)을 개발하기 위한 학습을 당장 중단해야 한다고 촉구했다.

미국 메사추세츠주 케임브리지에 기반을 둔 비영리 AI 연구소인 퓨처오브라이프인스티튜트(The Future of Life Institute)는 29일(현지시간) 오픈AI가 개발한 대규모 언어모델의 최신 버전인 GPT-4보다 더 강력한 모델을 만들기 위한 AI 학습을 멈춰야 한다는 성명을 냈다. 이 성명에는 머스크와 워즈니악을 비롯해 2020년 대선 후보였던 앤드류 양 등 수십명의 지도자급 인사들이 서명했다.

기술 리더들은 이날 성명을 통해 "GPT-4보다 강력한 AI 시스템을 개발하기 위한 학습을 최소한 6개월 동안 즉시 중단해야 한다"고 촉구했다. 그들은 "오픈AI 스스로 중단할 수 없다면 정부가 개입해 중지시켜야 한다"고 강조했다.

인간과 경쟁하는 지능을 갖춘 AI가 사회와 인류에 심각한 위험을 초래할 수 있다는 게 이유다. 이들은 "AI 연구 개발은 오늘날 최첨단 시스템을 보다 정확하고, 안전하며, 투명하고, 신뢰할 수 있게 만드는 데 다시 집중해야 한다"고 주장했다.

이 연구소는 AI를 책임 있고, 윤리적으로 개발해야 한다는 캠페인을 벌이고 있다. 머신러닝 연구자인 막스 테그마크 메사추세츠공대(MIT) 물리학 교수와 얀 탈린 스카이프 창업자 등이 공동으로 설립했다. 앞서 머스크를 비롯해 구글의 AI연구소인 딥마인드에 "치명적인 자율 무기 시스템을 개발하지 않겠다"는 약속을 받아내기도 했다.

이들은 성명을 통해 "현재 AI 시스템은 일반적인 작업에서도 인간과 경쟁하고 있다"며 "기계가 정보의 공간을 선전과 허위로 가득 채우도록 내버려둬야 하는지 스스로 질문해야 한다"고 말했다. 그들은 "인간을 대체할 수 있는 비인간적인 시스템을 개발하고, 우리 문명에 대한 통제력을 잃을 위험을 감수해야 할까"라고 물으며 "이런 결정을 선출되지 않은 테크 지도자에게 위임해서는 안 된다"고 강조했다.

실리콘밸리=서기열 특파원 philos@hankyung.com