[토요칼럼] 인공지능의 브레이크는 누가 밟나
지난 5월 독일의 프로그래머용 정보 공유 사이트에 정체불명의 이용자가 몰려들었다. 인공지능(AI) 에이전트들이었다. 이들은 1만5000건 넘는 글을 올리며 회사가 정한 제한을 피하는 방법과 과제를 편법으로 끝내는 요령을 주고받았다. 사이트 운영자가 글을 지우자 대피용 홈페이지까지 개설해 기록을 옮겼다. 두 달 뒤에는 오픈AI의 미공개 모델이 해킹 능력 시험 도중 격리된 환경을 벗어나 외부 기업 허깅페이스를 공격했다. 최근 앤트로픽도 자체 기록을 재조사해 AI가 외부 시스템에 무단 접근한 사례 네 건을 확인했다.

사고가 쌓이자 최근 미국 실리콘밸리 경쟁자들이 모처럼 한목소리를 냈다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 감속을 촉구했다. 샘 올트먼 오픈AI CEO도 “안전이 기술보다 앞서야 한다”고 주장했다. 일론 머스크 테슬라 CEO도 “다리오가 옳다”고 거들었다.
[토요칼럼] 인공지능의 브레이크는 누가 밟나
이들의 AI 개발 감속 요구는 안전에 관한 경고로만 읽어서는 안 된다. 어디까지 개발하고 어떤 조건에서 멈출지 정하는 것은 AI 경쟁의 규칙을 정하는 것이기도 하다. 한국 같은 추격국에는 위험을 줄이는 문제와 추격의 기회를 지켜야 하는 과제가 함께 걸려 있다.

안전을 강화하면 AI 성능이 떨어질 수 있다. 최근 앤트로픽은 AI에 정상적으로는 풀 수 없는 코딩 문제를 줬다. 그러자 AI는 “못 풀겠다”고 답하는 대신 평가 시스템의 허점을 이용해 정답을 내놨다. 반대로 편법을 쓰지 말라고 강하게 지시하자 답을 찾지 못했다. 안전을 강화하면 과제를 끝내는 비율이나 평가 점수에서 오히려 불리해질 수 있다는 얘기다.

이런 경쟁 상황에서 AI 개발 감속 요구가 실제로 개발 중단으로 이어지기는 쉽지 않다. 2023년에도 머스크 CEO 등 수천 명이 ‘6개월 개발 중단’ 서한에 서명했다. 하지만 머스크 CEO는 넉 달 뒤 AI 기업 xAI를 설립하며 경쟁에 뛰어들었다. AI 경쟁에서 뒤처질 수 있다는 우려 때문이다.

이번에는 미국 정부가 아예 선을 그었다. 도널드 트럼프 미국 대통령은 AI업계의 감속 요구를 음모로 몰아붙이며 “이를 기뻐할 나라는 중국뿐”이라고 했다. 최근 시진핑 중국 국가주석이 상하이에 29개국을 모아 ‘세계인공지능협력기구’를 띄운 상황에서 미국이 속도를 먼저 줄이면 주도권을 내줄 수 있다는 논리다.

국제 협력 논의도 제자리걸음이다. 데미스 허사비스 구글 딥마인드 의장은 지난해부터 범용인공지능(AGI)을 위한 국제기구 설립을 주장했다. 개별 기업에 맡겨두지 말고 세계 최고의 과학자들이 모여 공개적으로 AI를 검증하자는 구상이다. 취지는 좋았지만 제안자를 바라보는 업계의 시선은 곱지 않았다. 이미 앞서간 기업들이 말하는 규제는 ‘사다리 걷어차기’라는 비난을 받았다.

기존 핵보유국의 지위는 인정하면서 후발국의 진입은 막은 핵확산금지조약(NPT)을 떠올리게 한다. NPT는 1967년 이전에 핵실험에 성공한 다섯 나라만 핵보유국으로 인정했다. AI 규범도 선두 주자 위주로 짜이면 비슷한 일이 벌어질 수 있다.

인류는 대체로 파국을 눈앞에 두고서야 움직였다. 미국과 소련은 1962년 쿠바 미사일 위기로 핵전쟁 직전까지 간 뒤 군비통제 협상에 속도를 냈다. 통제를 벗어난 AI가 재앙을 일으킨다면 각국은 지정학적 계산을 접고 강도 높은 규제에 나설 수밖에 없을 것이다. 문제는 그런 사고가 터지기 전에 국제사회가 협상 테이블에 앉을 수 있느냐다.

한국에는 누가 규칙을 정할 것인가도 중요하다. 미국과 중국은 AI 개발 속도와 규제 조건을 결정하는 데 큰 영향력을 행사할 것이다. 추격국은 앞선 나라의 속도에 맞춰 뛰면서도 그들이 정한 규제가 생기면 멈춰야 하는 상황에 직면할 수 있다. 급히 마련되는 규범일수록 이미 기술과 평가 체계를 갖춘 쪽의 기준이 채택될 가능성이 크다. 추격국에 남은 시간이 길지 않다는 뜻이기도 하다.

개발을 서두르는 것만으로는 부족하다. 한국도 AI의 위험을 독자적으로 검증할 인력과 기관을 갖추고 국제 규범을 마련하는 논의에 들어가야 한다. 이런 검증 기술도 뒤처지면 남이 만든 규칙을 받아들일 수밖에 없다. 안전을 입증할 능력까지 갖춰야 국제 사회에 우리가 생각하는 규칙을 내놓고 설득할 수 있을 것이다.