'AI 종말론' 확산에도…美·中 정부 "속도 늦추면 진다"

AI 속도조절론 논란

광범위한 AI 규제 요구 나오지만
美하원의장 "늦추면 中에 뒤져"

“인류를 위해 인공지능(AI)을 멈춰라.”

미국의 저명한 보수 칼럼니스트인 페기 누넌은 최근 월스트리트저널 기고에서 이같이 요구했다. 버락 오바마 전 미국 대통령은 지난 10일 뉴욕에서 열린 민주당 행사에서 “AI를 제대로 통제하지 못하면 위험해질 수 있다”며 AI 대응을 주요 정치 의제로 삼을 것을 지적했다. ‘AI 속도조절론’이 미국 내에서 정파를 막론하고 강력하게 제기된 것이다. 다만 치열한 AI 패권 경쟁을 벌이는 미국과 중국이 기술 개발을 제어하기는 어려울 것이란 전망에 힘이 실린다.

◇ ‘AI 종말론’ 목소리 커지지만

AI 종말론은 2023년 5월 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 “AI로 인한 인류 멸종 위험을 팬데믹, 핵전쟁과 같은 우선순위로 다뤄야 한다”는 성명에 동참하면서 본격적으로 번지기 시작했다. 다만 당시까지 위험론은 미래에 초지능이 등장할 가능성을 전제로 한 이론적 논쟁의 성격이 강했다.

하지만 최근 들어 AI의 자율적인 작업 능력이 급격히 향상되면서 통제 위험이 현실적인 문제로 떠올랐다는 주장에 힘이 실리고 있다. 특히 지난 7월 오픈AI의 AI 에이전트가 인간의 통제를 벗어나 AI플랫폼 허깅페이스에 접근하면서 AI 통제력은 현실적인 문제로 부상했다. 오픈AI는 7월 허깅페이스 사고 이후 배포 예정이던 최신 모델의 강화학습 훈련을 2주간 중단했다. 올트먼은 아모데이의 속도 조절 주장에 동조했다. 그는 “AI 최전선의 속도를 조절해야 한다는 데 동의한다”며 “최근 몇 주간 오픈AI 내부에서도 이를 주요 주제로 논의했다”고 밝혔다. 오픈AI와 앤트로픽은 관련 논의를 위한 협의체를 조만간 구성할 예정이다.

지난 2일 미국 노스캐롤라이나주 채플힐에서 열린 G20 혁신장관회의 회의장 밖에서 시민들이 AI 규제 강화를 촉구하고 있다. 로이터연합뉴스

위기의식은 정치권으로 번졌다. 버니 샌더스 무소속 연방 상원의원과 그레그 카사르 민주당 연방 하원의원은 지난 3일 초지능 AI의 개발·배포를 금지하는 내용의 법안 발의를 예고했다. 연방정부가 안전규칙을 마련할 때까지 첨단 AI 개발을 일시 중단하자는 내용이다.

◇ 美·中 “경쟁 뒤처질라”

하지만 미국과 중국 정부는 AI 개발에서 한발 물러서는 순간 상대에 패권을 빼앗길 수 있다는 위기감에 빠져 있다.

마이크 존슨 미국 하원의장은 CNN에 “우리는 이 문제에 모라토리엄(일시적 중단)을 걸 수 없다”며 “그렇게 하면 중국이 우리를 추월할 것이라는 게 문제”라고 밝혔다. 스콧 베선트 재무장관은 “중국이 AI 경쟁에서 이긴다면 나머지 경쟁에서 미국이 이기는 것은 무의미해질 것”이라고 말했다. 백악관도 “악의적 행위자(중국)가 우리보다 더 뛰어난 AI를 개발해서는 안 된다”는 입장을 내놨다.

중국도 마찬가지다. 당장 미국에서 제기되는 속도 조절론에 대해 중국 관영매체는 날 선 비판을 내놨다. 14일 중국 관영 글로벌타임스는 “앤트로픽 CEO의 주장은 겉으로는 안전 위험에 초점을 맞춘 합리적인 주장처럼 보이지만 실제로는 중국을 겨냥한 ‘냉전식 각본’”이라고 주장했다. 중국의 AI 개발 속도를 늦추기 위한 목적에서 아모데이가 관련 주장을 펼치고 있다는 것이다.

이달 중순 예정된 미국과 중국의 ‘AI 안전 대화’가 분기점이 될 것으로 전망된다. 여기서는 AI 안전 위험을 주제로 양국 당국자의 논의가 이뤄진다.

손주형 기자 handbro@hankyung.com