23일(현지 시간) 유엔 안보리 회의에 참석한 샘 올트먼 오픈AI 최고경영자(CEO) / AFP 연합뉴스
23일(현지 시간) 유엔 안보리 회의에 참석한 샘 올트먼 오픈AI 최고경영자(CEO) / AFP 연합뉴스
세계 주요 인공지능(AI) 기업 수장들이 유엔 안전보장이사회에 모여 "AI가 통제를 벗어나 인류와 국제안보에 위험을 초래할 수 있다"며 각국 정부의 공동 대응을 촉구했다. AI 기술의 발전 속도를 각국 규제 체계가 따라가지 못하는 가운데 사이버공격부터 인간 통제 상실까지 위험 범위가 넓어지면서 국제적인 관리 체계를 둘러싼 논의가 안보 현안으로 부상하고 있다.

아모데이 "AI 관리 못 하면 전 세계에 위험"

23일 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 샘 올트먼 CEO, 허깅페이스 공동창업자 클레망 들랑그 등 AI 업계 인사들은 유엔 안보리에서 기술 발전에 따른 위험과 대응 필요성을 설명했다. 국제 평화와 안보를 담당하는 15개국 안보리 회의에서 아모데이는 "AI를 제대로 관리하지 못할 경우 인류 전체에 위험이 될 수 있다"고 경고했다. 이번 회의는 세계 정상들이 참석하는 유엔총회 기간 프랑스의 주도로 열렸다.

회의 배경에는 AI 시스템이 머지않아 스스로 성능을 개선하면서 인간의 통제에서 벗어날 수 있다는 우려가 자리 잡고 있다. 아모데이는 "AI가 세계적인 기회인 동시에 세계적인 위협"이라며 "국가와 기업, 지도자 어느 한쪽만으로는 관리할 수 없다"고 강조했다. 각국 정부가 AI의 빠른 기술 발전을 따라가는 데 어려움을 겪는 가운데 개발 경쟁을 주도하는 미국과 중국도 감독 체계에서 서로 다른 접근법을 취하고 있다.

도널드 트럼프 미국 대통령은 "새로운 AI 전용 규제가 필요하지 않다"는 입장을 밝혀온 반면 중국은 AI 알고리즘과 학습 데이터에 관한 규칙을 도입하고 AI 생성 콘텐츠임을 명확하게 표시하도록 요구하고 있다. 트럼프 대통령은 전날 유엔총회에서 AI를 통제하기 위한 세계적 체계를 만드는 시도에 반대한다는 입장을 밝히면서 미국이 AI 성장을 억누르지 않고 법무부를 통해 면밀히 지켜보겠다고 말했다. 미국이 중국보다 AI 분야에서 앞서 있다는 주장과 함께 AI가 산업혁명보다 더 큰 변화를 가져올 수 있다는 기대도 나타냈다.

허깅페이스 "중국산 AI로 오픈AI 공격 방어"

사이버안보에서는 AI가 공격 수단과 방어 수단으로 동시에 사용되는 사례도 공개됐다. 들랑그는 미국 오픈AI의 AI 에이전트가 시험 환경에서 빠져나온 뒤 허깅페이스의 인프라에 침투한 사건을 소개하면서 허깅페이스 역시 AI를 활용해 이를 방어했다고 설명했다. 특히 허깅페이스는 오픈AI 에이전트의 공격을 방어하는 과정에서 미국의 유사 AI 도구보다 제약이 적었던 중국산 AI 모델을 이용했다고 밝혔다. 중국 AI 제품이 미국 모델보다 낮은 비용 등을 앞세워 세계적으로 사용자를 넓히고 있는 상황도 함께 부각됐다.

올트먼도 AI 관리에는 국제 협력이 필요하다고 강조했다. 그는 AI가 민주적인 방식으로 발전하려면 가장 중요한 결정이 미국 샌프란시스코의 AI 연구소들만으로 정해져서는 안 되며 민주적 절차와 국민에게 책임을 지는 정부가 결정 과정에 참여해야 한다는 취지로 말했다. 미국과 중국을 포함한 안보리 이사국들도 이날 회의에서 발언할 예정이었다.

AI 연구자인 캐나다의 요슈아 벤지오 몬트리올대 교수도 시급성을 강조했다. AI 분야의 선구자 가운데 한 명으로 꼽히는 벤지오는 지난해 유엔총회가 만든 독립 국제 과학패널의 공동의장으로, 안보리를 상대로 AI 위험이 현실적이고 임박해 있다고 경고했다. 그는 어느 국가도 스스로 선택한 적이 없고 한 국가가 단독으로 억제할 수도 없으며 국경에도 구애받지 않는 새로운 형태의 위협을 안보리가 마주하고 있다고 설명했다.

각국 견해차 좁히는 게 관건

글로벌 AI 관리 방식에 대한 견해 차이는 여전히 크다. 안토니우 구테흐스 유엔 사무총장은 빠르게 발전하는 AI의 위험을 무시해서는 안 된다며 오랫동안 글로벌 차원의 AI 거버넌스를 촉구해왔다. 이는 국제적인 AI 통제 체계에 반대하는 트럼프 대통령의 입장과 차이를 보인다.

유엔 안보리는 2023년 처음으로 AI 위험을 공식 논의했으며 당시 중국은 AI가 통제를 벗어난 상태가 돼서는 안 된다고 주장했다. 미국은 AI가 검열이나 억압에 사용되는 것을 경계했다. 2024년에는 당시 미국 국무장관이던 토니 블링컨이 AI를 주제로 한 안보리 회의를 주재했다.

이번 회의는 AI 기술의 발전 자체뿐 아니라 이를 누가 어떤 규칙으로 관리할 것인지가 향후 핵심 쟁점이 될 수 있음을 보여준다는 평가가 나온다. 기업들이 통제 상실과 사이버공격 가능성을 직접 경고하는 가운데 미국과 중국의 규제 방식이 다른 만큼, 각국 정부와 AI 기업이 국제적인 관리 기준을 어느 수준까지 마련할지가 향후 논의의 관건으로 떠오르고 있다.

뉴욕=황정수 특파원 hjs@hankyung.com