인공지능(AI)이 인류 존속에 치명적인 영향을 줄 수 있다는 ‘AI 멸망론’이 급속도로 확산하고 있다. 미국과 중국이 관련 기술 개발을 제어해야 한다는 주장에 힘이 실리며 AI 인프라 수요가 둔화할 수 있다는 우려가 나온다. 두 나라 정부는 AI 주도권을 빼앗길 것이라는 우려에 ‘AI 속도 조절’ 요구를 받아들일 수 없다는 입장이다.

13일(현지시간) 도널드 트럼프 미국 대통령은 아일랜드 방문 중 기자들과 만나 “우리는 AI 부문에서 중국을 앞서고 있고, 그 상태를 유지하고 싶다”고 말했다. AI 규제 강화 요구에 대한 견해를 묻는 기자들의 질문에 “AI에서 승리하는 쪽이 승자가 된다”고 말하면서다. 트럼프 대통령은 “안전장치를 검토할 수는 있지만, (AI 멸망론은) 부정적인 세력의 지나친 문제 제기에 불과하다”고 덧붙였다.
지난 2일 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신장관회의 회의장 밖에서 시민들이 AI 규제 강화를 촉구하고 있다. 로이터연합뉴스
지난 2일 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신장관회의 회의장 밖에서 시민들이 AI 규제 강화를 촉구하고 있다. 로이터연합뉴스
이날 시진핑 중국 국가주석은 인도 뉴델리에서 열린 브릭스(BRICS) 정상회의에서 중국 AI 모델의 영향력 확대에 나섰다. “브릭스 회원국 공동의 대규모언어모델(LLM) 개발과 응용을 지원하겠다”며 중국의 오픈소스 모델 채택을 요청했다. 전날 시 주석은 중국이 주도하는 세계인공지능협력기구(WAICO)에 참여할 것을 제안하기도 했다.

이 같은 움직임은 지난주 AI가 인류를 멸망으로 이끌 우려가 있다는 주장이 앤트로픽 관계자를 통해 제기된 이후 나타났다. 이 회사의 AI 정렬 연구책임자인 에번 휴빙거는 지난 8일 X(옛 트위터)에 “10년 안에 AI가 모든 인간을 죽일 확률을 10% 이상으로 본다”고 적었다. 다른 연구원은 “AI가 10년 안에 우리 모두를 죽일 수 있다고 진지하게 믿는다”고 밝힌 뒤 사직했다. 12일에는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 “AI 모델의 능력을 높이는 속도를 늦춰야 한다”고 주장했다.

두 나라 정상의 입장 표명에도 AI 멸망론에 따른 개발 속도 조절 주장은 꾸준히 제기될 것으로 전망된다. 오는 24일 미국 뉴욕에서 열리는 미·중 정상회담에서 관련 논의가 비중 있게 다뤄질 것이라는 관측이 나온다.

'AI 종말론' 확산에도…美·中 정부 "속도 늦추면 진다"
광범위한 AI 규제 요구 나오지만…美하원의장 "늦추면 中에 뒤져"

“인류를 위해 인공지능(AI)을 멈춰라.”

미국의 저명한 보수 칼럼니스트인 페기 누넌은 최근 월스트리트저널 기고에서 이같이 요구했다. 버락 오바마 전 미국 대통령은 지난 10일 뉴욕에서 열린 민주당 행사에서 “AI를 제대로 통제하지 못하면 위험해질 수 있다”며 AI 대응을 주요 정치 의제로 삼을 것을 지적했다. ‘AI 속도조절론’이 미국 내에서 정파를 막론하고 강력하게 제기된 것이다. 다만 치열한 AI 패권 경쟁을 벌이는 미국과 중국이 기술 개발을 제어하기는 어려울 것이란 전망에 힘이 실린다.
지난 2일 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신장관회의 회의장 밖에서 시민들이 AI 규제 강화를 촉구하고 있다. 로이터연합뉴스
지난 2일 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신장관회의 회의장 밖에서 시민들이 AI 규제 강화를 촉구하고 있다. 로이터연합뉴스

◇ ‘AI 종말론’ 목소리 커지지만

AI 종말론은 2023년 5월 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 “AI로 인한 인류 멸종 위험을 팬데믹, 핵전쟁과 같은 우선순위로 다뤄야 한다”는 성명에 동참하면서 본격적으로 번지기 시작했다. 다만 당시까지 위험론은 미래에 초지능이 등장할 가능성을 전제로 한 이론적 논쟁의 성격이 강했다.

하지만 최근 들어 AI의 자율적인 작업 능력이 급격히 향상되면서 통제 위험이 현실적인 문제로 떠올랐다는 주장에 힘이 실리고 있다. 특히 지난 7월 오픈AI의 AI 에이전트가 인간의 통제를 벗어나 AI플랫폼 허깅페이스에 접근하면서 AI 통제력은 현실적인 문제로 부상했다. 오픈AI는 7월 허깅페이스 사고 이후 배포 예정이던 최신 모델의 강화학습 훈련을 2주간 중단했다. 올트먼은 아모데이의 속도 조절 주장에 동조했다. 그는 “AI 최전선의 속도를 조절해야 한다는 데 동의한다”며 “최근 몇 주간 오픈AI 내부에서도 이를 주요 주제로 논의했다”고 밝혔다. 오픈AI와 앤트로픽은 관련 논의를 위한 협의체를 조만간 구성할 예정이다.

위기의식은 정치권으로 번졌다. 버니 샌더스 무소속 연방 상원의원과 그레그 카사르 민주당 연방 하원의원은 지난 3일 초지능 AI의 개발·배포를 금지하는 내용의 법안 발의를 예고했다. 연방정부가 안전규칙을 마련할 때까지 첨단 AI 개발을 일시 중단하자는 내용이다.

◇ 美·中 “경쟁 뒤처질라”

하지만 미국과 중국 정부는 AI 개발에서 한발 물러서는 순간 상대에 패권을 빼앗길 수 있다는 위기감에 빠져 있다.

마이크 존슨 미국 하원의장은 CNN에 “우리는 이 문제에 모라토리엄(일시적 중단)을 걸 수 없다”며 “그렇게 하면 중국이 우리를 추월할 것이라는 게 문제”라고 밝혔다. 스콧 베선트 재무장관은 “중국이 AI 경쟁에서 이긴다면 나머지 경쟁에서 미국이 이기는 것은 무의미해질 것”이라고 말했다. 백악관도 “악의적 행위자(중국)가 우리보다 더 뛰어난 AI를 개발해서는 안 된다”는 입장을 내놨다.

중국도 마찬가지다. 당장 미국에서 제기되는 속도 조절론에 대해 중국 관영매체는 날 선 비판을 내놨다. 14일 중국 관영 글로벌타임스는 “앤트로픽 CEO의 주장은 겉으로는 안전 위험에 초점을 맞춘 합리적인 주장처럼 보이지만 실제로는 중국을 겨냥한 ‘냉전식 각본’”이라고 주장했다. 중국의 AI 개발 속도를 늦추기 위한 목적에서 아모데이가 관련 주장을 펼치고 있다는 것이다.

이달 중순 예정된 미국과 중국의 ‘AI 안전 대화’가 분기점이 될 것으로 전망된다. 여기서는 AI 안전 위험을 주제로 양국 당국자의 논의가 이뤄진다.

손주형 기자 handbro@hankyung.com