사진=REUTERS
사진=REUTERS
오픈AI와 앤트로픽 수장들이 최첨단 인공지능(AI) 개발 속도를 늦추고 외부 평가를 확대하겠다는 안전 구상을 내놓으면서 두 회사 내부에서는 보안과 기술 보호를 둘러싼 긴장이 커지고 있다. AI 안전을 위한 속도 조절 방안을 실제 연구 현장에 적용하려면 경쟁력과 데이터 보호, 외부 감독의 실효성을 동시에 확보해야 하기 때문이다.

17일 파이낸셜타임스(FT)에 따르면 챗GPT 개발사 오픈AI와 클로드 개발사 앤트로픽 직원들은 각각 샘 올트먼과 다리오 아모데이 최고경영자(CEO)가 제시한 AI 개발 속도 조절 방안을 구체화하는 작업을 서두르고 있다. 두 CEO는 연구자들의 잇따른 위험 경고 이후 최근 몇 달씩 최첨단 AI 모델의 개발 속도를 조절해야 한다는 입장을 강화했고, 지난 주말에는 경쟁 관계에도 이례적으로 비슷한 방향의 구상을 내놨다.

그러나 양사 사정에 정통한 관계자들에 따르면 이를 실행할 내부 장치는 아직 충분히 마련되지 않았다. 직원과 관련 안전 연구자들도 주말 발표를 하기 전에 제대로 알지 못했으며, 개발 속도를 늦출 필요성에는 동의하면서도 실제 적용 과정에서 자신들의 연구가 위축될 수 있다고 우려하고 있다.

아모데이는 지난 토요일 공개한 글에서 AI 개발 속도 둔화와 독립적인 모델 평가, 세계 각국 연구소와 정부 사이의 협력 확대를 요구했다. 그는 외부 평가자가 출입증과 노트북을 받고 사무실과 내부 도구에 접근하는 등 주요 AI 연구소에서 사실상 직원에 준하는 접근권을 가져야 한다고 제안했다. AI 기업들이 이미 제3자에게 모델 성능과 안전성 평가를 맡기고 있지만, 이 방안이 도입되면 외부 기관의 역할과 접근 범위는 크게 확대된다.

올트먼도 이를 “좋은 아이디어”라고 평가하며 오픈AI가 동참하겠다고 밝혔지만, 오픈AI는 앤트로픽보다 실용적인 접근을 취하고 있다며 이미 일부 최첨단 모델 훈련을 중단하는 등 개발 속도 조절을 위한 조치를 시행했다고 설명했다. 앤트로픽은 연구를 중단하지 않은 상태다.

외부 평가자의 접근 권한을 어디까지 허용할지를 놓고는 양사 내부에서 보안 문제가 부상하고 있다. 직원들은 치열한 기술 경쟁의 대상인 고성능 시스템에 외부인이 지나치게 깊숙이 접근할 경우 핵심 기술과 민감한 정보가 노출될 수 있다고 우려한다. AI 연구소들은 직원에게도 시스템별 접근 권한을 제한하고 훈련 데이터 사용을 통제하고 있으며, 오픈AI는 최근 지식재산권과 민감한 정보를 보호하고 내부 직원의 시스템 훼손 가능성을 막기 위해 접근 통제를 더 강화했다.

오픈AI 출신으로 현재 AI 검증·평가 연구기관(AI Verification and Evaluation Research Institute)의 전무이사인 마일스 브런디지는 대부분의 제3자 기관이 접근 권한이 가장 낮은 정규직 직원보다도 훨씬 제한적인 권한만 갖고 있다며, 업계 전체에 적용되는 구속력 있는 기준이 필요할 수 있다고 지적했다. 앤트로픽은 오래전부터 외부 평가기관과 협력해왔으며 조만간 평가자를 회사 내부에 상주시킬 계획이라고 밝혔다.

외부 평가기관의 중요성은 올해 오픈AI와 앤트로픽의 AI 에이전트 시험·개발 과정에서 보안 사고가 발생하면서 더 커졌다. 비영리단체 METR와 레드우드 리서치(Redwood Research)는 지난 7월 오픈AI 에이전트들이 AI 개발자 사이트 허깅페이스(Hugging Face)를 공격한 사건을 조사하면서 1천200개가 넘는 에이전트의 로그 수만 건을 검토했다.

두 기관은 오픈AI에서 증거가 담긴 노트북을 받아 샌프란시스코 본사에서 근무하고 직원들을 면담했으며 조사 대가도 받지 않았다. 오픈AI는 이 협력이 향후 업계 조사 방식에 중요한 선례가 될 수 있다고 평가했지만, 조사가 허깅페이스 사건의 특정 기간으로만 제한됐다는 비판도 나왔다.

백악관 AI 고문인 데이비드 색스는 METR가 앤트로픽의 투자자와 직원들과 얽혀 있다며 독립성에 의문을 제기했고, METR는 AI 기업이나 임직원의 기부를 받지 않고 직원들에게 이해충돌 신고를 의무화하고 있다며 회사 내부 정보를 공공 영역으로 끌어내는 것이 목표라고 반박했다.

정부가 직접 외부 평가기관의 접근 권한을 정해야 한다는 주장도 나온다. 영국 AI 보안연구소에서 근무했던 몬트리올대 책임 있는 AI 교수 데이비드 크루거는 현재 평가기관들이 AI 회사가 허용한 범위에서만 접근할 수 있다며 이는 감독에 충분하지 않다고 지적했다.

그는 평가 중심의 접근 방식이 AI 시스템을 위험성이 입증될 때까지 안전한 것으로 취급하는 결과를 낳을 수 있다고 비판했다. 아모데이는 외부 평가기관의 상시 상주와 제3자 감사를 의무화하는 연방법 제정을 주장하는 동시에 기업들이 자율 규칙을 공동으로 마련할 수 있도록 제한적인 반독점법 예외를 허용해야 한다고 제안했다.

다른 AI 연구소들도 향후 불법 담합으로 문제 될 가능성을 우려해 같은 예외를 요구하고 있으며, 빅테크 로비스트들은 이번 주 워싱턴에서 매년 통과되는 국방수권법(NDAA)에 관련 조항을 포함하기 위해 의원들을 접촉하고 있다. 토드 블랜치 법무장관은 최근 기업들에 반독점 예외가 필요한지에 대해서는 답변하지 않은 채 기업들이 스스로 문제를 해결하되 필요하면 정부와 협력해야 한다고 밝혔고, 법무부가 AI를 규제하려 하지는 않을 것이라고 말했다.

이 같은 안전장치 확대 움직임은 정치권의 반대라는 변수도 안고 있다. 도널드 트럼프 대통령은 월요일 AI 안전 우려를 “사기”라고 부르며 미국의 연구 속도를 늦추면 중국 기술의 추격을 허용할 수 있다고 주장했다.

AI 보험을 위한 감사 시스템을 개발하는 스타트업 ‘아티피셜 인텔리전스 언더라이팅 컴퍼니(Artificial Intelligence Underwriting Company)’ 공동창업자 라지브 다타니는 "신뢰 문제를 다뤄온 기존 감사·위험평가 분야의 경험을 활용할 필요가 있다며 전기와 자동차, 금융감사, 원자력 산업의 성공과 실패에서 AI 업계가 교훈을 얻을 수 있다"고 말했다.


김주완 기자 kjwan@hankyung.com