미국 정부가 앤스로픽의 최신 인공지능(AI) 모델인 ‘페이블’과 ‘미토스’의 사용을 전격 중단시키면서 AI 업계가 충격에 휩싸였다. 미국 정부가 최첨단 AI 모델을 어떤 방식으로 통제할지 보여주는 첫 사례가 될 수 있다는 점에서 업계 전반의 불확실성을 키우고 있다.

16일 파이낸셜타임스(FT)에 따르면 도널드 트럼프 행정부는 지난 13일 미 상무부를 통해 앤스로픽의 최신 AI 모델인 페이블과 미토스에 수출통제를 적용했다. 이에 따라 외국 국적자의 해당 모델 사용이 금지됐고, 앤스로픽은 모든 이용자를 대상으로 두 모델의 서비스를 중단했다.

회사 측은 사전 경고 없이 갑작스럽게 조치를 통보받은 것으로 전해졌다. 사안에 정통한 관계자에 따르면 앤스로픽은 정부로부터 약 90분 안에 조치를 이행하라는 통보받았으며 구체적인 우려 사항도 충분히 전달받지 못했다. 회사는 주말 동안 고위 기술 인력을 워싱턴으로 급파해 대응에 나섰다.

이번 조치는 아마존 연구진이 페이블 모델에서 보안 장치를 우회하는 이른바 ‘탈옥(jailbreak)’ 가능성을 발견한 뒤 이뤄졌다. 해당 취약점은 모델로부터 소프트웨어 보안 취약성 관련 정보를 추출할 수 있는 방법으로 알려졌다. 아마존은 관련 내용을 먼저 앤스로픽에 전달했으며, 이후 앤디 재시 아마존 최고경영자(CEO)가 미국 정부 관계자들과 해당 문제를 논의한 것으로 전해졌다.

다만 재시는 앤스로픽 개별 사안보다는 최첨단 AI 모델 전반의 위험성과 역량에 대한 우려를 전달한 것으로 알려졌다. 아마존은 “정부가 잠재적 보안 위험과 관련해 의견을 구하는 것은 드문 일이 아니다”라면서도 구체적인 논의 내용은 공개하지 않았다.

논란은 규제의 형평성 문제로 확대되고 있다. 페이블 모델은 출시 직전 같은 상무부 산하 기관들로부터 테스트와 승인을 마친 상태였던 것으로 알려졌다. 앤스로픽은 이번에 지적된 기능이 자사 모델만의 문제가 아니며 오픈AI를 포함한 경쟁사 모델에서도 확인될 수 있다고 주장하고 있다.

보안 전문가들 역시 이 같은 유형의 탈옥 문제를 완전히 해결하는 것은 사실상 불가능하다고 보고 있다. 새로운 방어 장치를 마련하더라도 다른 우회 방식이 다시 등장할 수 있기 때문이다. 앤스로픽은 현재 정부와 협력해 해결 방안을 모색하고 있다고 밝혔다.

업계에서는 정부가 모델 안전성 문제를 이유로 수출통제를 활용한 점에 우려를 나타내고 있다. 조지타운대 안보·신기술센터(CSET)의 헬렌 토너 전 오픈AI 이사는 “탈옥 문제를 완전히 해결할 수 없다는 점은 업계에서 널리 인정된 사실”이라며 “오픈AI나 구글 모델도 유사한 능력을 보유하고 있을 것으로 정부는 예상해야 한다”고 말했다.

실제로 이번 조치는 오픈AI의 최신 모델에는 적용되지 않았다. 정부가 앤스로픽 모델만 겨냥한 배경을 두고 의문이 제기되는 이유다. 특히 앤스로픽 공동창업자 다리오 아모데이는 그동안 강력한 AI의 위험성을 가장 적극적으로 경고해온 인물 가운데 한 명으로 꼽혀 왔다.

미토스 모델은 기존 사이버 방어 체계를 일부 우회할 수 있는 능력을 보여준 것으로 알려졌다. 회사는 정부와 협력해 제한적 배포 방안을 논의한 뒤 지난주 공개 범위를 확대했다. 그러나 결과적으로 정부는 모델 공개 직후 사용 중단이라는 강경 조치를 내렸다.

이번 사태는 정부와 앤스로픽 간 누적된 갈등 속에서 발생했다는 점에서도 주목된다. 양측은 AI 규제, 국내 감시 기술 활용, 치명적 자율무기 적용 문제 등을 놓고 공개적으로 충돌해 왔다. 미 국방부는 과거 앤스로픽을 국가안보상 공급망 위험 기업으로 지정했으며 현재 관련 소송도 진행 중이다.

트럼프 행정부는 이번 조치가 과거 갈등과는 무관한 국가안보 조치라고 설명하고 있다. 미국 정부 관계자는 FT에 탈옥 취약점이 해결될 경우 현재의 대립도 해소될 수 있다고 말했다. 그러나 피트 헤그세스 국방장관은 사회관계망서비스(SNS)에 과거 앤스로픽을 국방부에서 배제했던 결정을 언급하며 “그것이 옳은 결정이었음이 매일 입증되고 있다”고 적었다.

반면 미국 정부 기관과 기업 관계자들은 국방부를 비롯한 여러 정부 기관이 여전히 앤스로픽의 최신 모델을 사용하고 있다고 전했다. 유럽연합(EU) 집행위원회 역시 최근 앤스로픽 최신 모델에 접근 권한을 확보한 뒤 이번 조치의 영향을 검토하고 있다고 밝혔다.

전문가들은 수출통제가 이번 문제를 해결하기 위한 적절한 수단인지에 대해서도 의문을 제기한다. 토너는 “정부가 선택한 수단은 목표에 적합하지 않다”며 “지금은 동맹국들이 사이버 방어를 위해 이런 모델을 활용해야 할 시점인데 수출통제는 오히려 이를 막는다”고 지적했다.

이번 조치는 트럼프 행정부가 AI 산업에 상대적으로 적은 개입을 예고해왔다는 점에서도 예상 밖이라는 평가받고 있다. 이달 발표된 행정명령에도 정부가 특정 AI 모델의 출시를 중단시킬 수 있는 명시적 장치는 포함되지 않았다. 업계는 최근까지 외국 국적 연구자들도 최첨단 AI 개발에 참여할 수 있도록 제도 정비를 논의해왔지만, 이번 조치로 해당 활동 역시 금지됐다.

사이버보안 기업 루타 시큐리티의 케이티 무수리스 CEO는 아마존이 발견한 기능은 업계에서 흔히 볼 수 있는 수준이라고 평가했다. 그는 오픈AI의 GPT 5.5 역시 유사한 작업이 가능하며 앤스로픽의 안전장치도 의도대로 작동하고 있었다며 “행정부가 잘못 판단했다”고 말했다.