미국 정부가 앤스로픽의 최첨단 인공지능(AI) 모델인 페이블5와 미토스5를 수출 통제 대상으로 전격 지정했다. 이에 따라 앤스로픽은 이들 모델을 출시한 지 사흘 만에 서비스를 전면 중단했다. 각국 정부가 AI 모델을 핵탄두, 반도체처럼 전략 무기로 통제하는 시작점이 될 것이라는 분석이 나온다.

14일 로이터통신 등에 따르면 하워드 러트닉 미국 상무장관은 지난 12일 “두 AI 모델에 외국인의 접근을 차단하라”는 내용의 서한을 앤스로픽에 보냈다. 해외 접속은 물론 미국 내 외국인의 모델 접근도 통제하라는 명령이다. 앤스로픽의 외국인 직원까지 접근 제한 대상에 포함됐다. 앤스로픽은 이용자 국적을 구분할 수단이 여의찮아 일단 접속을 전면 차단했다.

이번 수출 통제는 아마존이 페이블5의 ‘탈옥’(AI 모델의 안전장치를 인위적으로 푸는 행위) 가능성을 인지하며 시작됐다. 페이블5는 사이버 보안이나 생화학무기 등에 악용될 수 있는 명령은 차단하도록 설계됐지만 아마존 연구원들은 이를 우회하는 방법을 찾아내 미국 정부에 알렸다. 미국 보안당국은 아마존 주장을 검증한 뒤 이들 모델에 대한 외국 정부, 기업, 개인의 접근을 금지해야 한다고 결론 내렸다.

미국 정부가 최고 수준 AI 모델의 해외 접근을 차단해 각국에서 ‘AI 종속’ 우려가 커질 전망이다. 하정우 전 청와대 AI미래기획수석은 13일 페이스북에 올린 글에서 이번 수출 통제와 관련해 “AI 기술 종속이 됐을 때 벌어지는 일”이라며 “이런 일이 계속 생길 수 있기 때문에 자체적인 AI 역량, 즉 소버린 AI 확보가 중요하다”고 했다. 과학기술정보통신부는 수출 통제 조치에 대해 “앤스로픽과 계속 소통하며 사실관계를 파악 중”이라고 밝혔다.

페이블5를 이용하는 국내 이용자들도 혼란에 빠졌다. 한 정보기술(IT)기업 개발자는 “페이블5를 써서 14일까지 상품을 만들려고 했는데 갑자기 서비스가 중단돼 작업을 멈췄다”고 했다.

"앤스로픽 AI, 美공격에 악용될 가능성"…보안결함 제기되자 통제
앤스로픽 연구인력 다수 외국인…이들 접근도 수출로 간주해 규제

“이건 초강력 무기다. 사용하려면 총기 허가증이 필요할 정도다.”

다리오 아모데이 앤스로픽 최고경영자(CEO)는 자사 최첨단 인공지능(AI) 모델 미토스를 초기에 사용한 기업의 반응을 이렇게 전했다. 미토스 개발을 마치고도 공개를 미룬 이유를 설명하는 과정에서다. 이 같은 우려는 결국 미토스 계열 AI 모델 미토스5와 페이블5에 대한 해외·외국인 접속을 전면 차단하는 결과로 이어졌다. 이들 모델이 사이버 공격에 악용될 수 있다는 게 미국 정부 판단이다. 최고 수준 AI 모델의 접근권을 미국이 사실상 독점하면서 AI 기술의 글로벌 불균형에 대한 우려와 논란이 커질 전망이다.
핵탄두도 아닌데…"이건 초강력 무기" 美, 수출통제 나섰다

◇앤스로픽 반발에도 서비스 중단 명령

13일(현지시간) 폴리티코에 따르면 도널드 트럼프 행정부와 앤스로픽은 지난 11일부터 이틀간 페이블5·미토스5 서비스 중단을 두고 물밑에서 긴박하게 움직였다. 발단은 아마존의 제보였다. 페이블5를 자사 플랫폼 ‘베드록’에서 운용 중인 아마존의 앤디 재시 최고경영자(CEO)는 해커들이 이 모델에 적용된 안전 장치를 풀고 기업 사이버 공격에 악용할 수 있다는 우려를 트럼프 행정부 관계자에게 전달했다.

다음 날 백악관은 수지 와일스 백악관 비서실장, 숀 케언크로스 국가사이버국장 등의 주도로 긴급회의를 열었다. 회의 직후엔 아모데이 CEO에게 두 모델의 서비스를 자발적으로 중단하라고 요구했다. 아모데이 CEO는 “‘탈옥’으로 발견된 취약점은 단순하며 다른 모델에서도 재연될 수 있는 수준”이라고 맞섰지만 상무장관 명의의 서한이 전달되자 결국 서비스 중단을 결정했다.

미국 외 국가들은 첨단 AI 모델 접근권을 미국 정부 판단에 의존해야 하는 상황에 놓였다. 안톤 라이히트 카네기 국제평화재단 연구원은 “이번 조치는 미국을 제외한 대부분의 국가가 AI 정책 논의에서 배제됐다는 점을 잘 보여준다”고 말했다.

특히 미국 내 외국인에게까지 모델 이용을 금지한 것에 대해 최첨단 무기와 핵탄두, 반도체 분야 통제 수준을 적용했다는 평가가 나온다. 이들 산업에서 미국은 외국인 연구원에게 기술을 보여주는 행위만으로도 수출 통제를 어긴 것으로 간주한다. 앤스로픽이 서비스 전면 중단을 택한 것도 연구 인력 상당수가 외국인이기 때문인 것으로 알려졌다.

미 상무부는 올초 AI 모델의 ‘가중치’를 수출관리규정(EAR) 목록에 올리며 AI를 전략자원으로 바라보기 시작했다. EAR은 핵, 군수품, 반도체 등 민군 이중용도로 쓰일 가능성이 있는 물품의 수출을 통제할 수 있게 관리하는 규정이다.

◇국내 사용자 혼란·불만도 커져

최근 미토스 접근권을 확보하며 앤스로픽과 AI 보안 협력을 늘리려던 국내 기업·기관들도 수출 통제의 직격탄을 맞았다. 앤스로픽은 2일 미토스 기반 보안 협의체인 ‘프로젝트 글라스윙’ 참여 대상을 확대하면서 삼성전자, SK하이닉스, SK텔레콤, 한국인터넷진흥원 등을 포함시켰다. 하지만 이번 조치로 이들의 접근 또한 차단됐을 가능성이 높다. 과학기술정보통신부 관계자는 “앤스로픽 측과 지속적으로 소통해온 만큼 차분하게 사실관계를 파악 중”이라고 말했다.

잠재 적국뿐만 아니라 최우방국의 접근까지 전면 차단한 미국의 조치에 각국에선 ‘소버린 AI 모델’ 논의가 다시 불붙고 있다. 미국이 AI에서도 협력보다는 ‘미국 우선주의’를 적용할 수 있다는 우려에서다. 조르당 바르델라 프랑스 국민연합(RN) 대표는 12일 X(옛 트위터)에 “자체 AI 모델을 신속하게 개발하지 않는 국가는 다른 강대국의 선택에 점점 더 의존하게 될 것”이라고 경고했다. 호주 법률 AI 기업 아이자쿠스AI는 “해외 대규모언어모델(LLM)에 의존하는 서비스는 수출 통제 지침에 따라 언제든지 차단될 수 있다는 뜻”이라고 지적했다.

페이블5를 이용하던 국내 일반 이용자 사이에서도 불만이 속출하고 있다. 한 개발자는 “페이블5를 이용해 진행하던 작업이 갑자기 멈췄다”고 토로했다. 다른 사용자는 “페이블5 성능이 너무 뛰어나 이걸 계속 공개할 수 있을까 하는 생각이 들던 차에 서비스가 막혔다”고 했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com