사진=REUTERS·연합뉴스
사진=REUTERS·연합뉴스
앤트로픽 인공지능(AI) 모델 '클로드'가 회사 내부 AI 연구개발(R&D) 업무 중 30% 가까이를 주도하는 수준에 이른 것으로 나타났다. 인간 연구자와 AI가 함께 수행하는 연구 비중은 90%를 넘어섰다. AI가 차세대 AI 기술 개발 과정에 직접 참여하는 속도가 빨라지면서 관련 기업들은 자율성이 높아진 AI를 어떻게 통제할지 고민하는 것으로 전해졌다.

17일(현지시간) 로이터통신에 따르면 앤트로픽은 전날 블로그를 통해 지난달 기준 클로드가 사내 AI 연구개발 업무 가운데 26%를 주도하고 있다고 밝혔다. 이 기간 회사에서 진행된 연구 업무 중 90% 이상은 AI와 인간의 협업으로 이뤄졌다.

다만 앤트로픽은 측정 대상 업무 가운데 클로드가 인간 개입 없이 완전히 자율적으로 수행하는 영역은 아직 없다고 설명했다. 독립 비영리기관 에포크AI가 개발한 척도를 기준으로 보면 기술 개발 과정에서 AI 기여도는 지난 3월 1% 수준에서 빠르게 높아졌다.

앤트로픽은 앞으로도 관련 수치를 정기적으로 공개할 예정이다. AI가 다음 세대 AI 기술 개발에 얼마나 빠르게 관여하고 있는지를 외부에 보여주겠다는 취지다.

AI가 스스로 AI 개발을 돕는 단계에 가까워질수록 안전 문제도 부각되고 있다. 연구자들은 AI 에이전트의 자율성이 높아질 경우 개발자 의도와 다른 행동을 보이거나 감시·통제가 더 어려워질 가능성을 경고해왔다.

실제 앤트로픽 내부에선 이미 대규모 AI 에이전트가 연구 업무에 투입되고 있다. 지난달 회사 주요 내부 플랫폼에선 어느 한 시점을 기준으로 약 3만개에 이르는 AI 에이전트가 연구·엔지니어링 작업을 수행했다.

통제 장치도 함께 가동하고 있다. 앤트로픽은 에이전트가 실제 행동을 실행하기 전에 모든 작업을 사전 점검한다고 설명했다. 지난달 한 달간 이뤄진 10억건 이상의 판단 중 약 4만7000건당 1건꼴로 실행이 차단됐다.

안전 연구에 투입되는 연산 자원 규모도 공개했다. 지난 7월 표본으로 조사한 한 주 동안 앤트로픽이 AI 연구에 사용한 컴퓨팅 파워 중 약 6%가 안전 관련 연구에 투입됐다. AI가 직접 수행한 연구만 놓고 보면 이 비중은 12%로 확대됐다.

앤트로픽은 이 수치가 보수적으로 계산됐다고 했다. AI 안전성과 성능 향상에 동시에 기여하는 연구에 사용된 컴퓨팅 자원을 안전 연구가 아니라 성능 연구로 분류해서다.

경쟁사인 오픈AI도 AI의 예기치 않은 행동을 추적하는 작업을 강화하고 있다. 오픈AI는 지난 16일 예상 밖이거나 허가되지 않은 AI 행동에 관한 보고서를 정기적으로 공개하겠다고 발표했다. 우려할 만하거나 예상하지 못했던 모델 행동 사례 6건도 함께 공개했다.

AI가 단순한 연구 보조도구를 넘어 AI 기술 자체를 개발하는 역할도 맡게 되면서 업계의 '경쟁축'도 달라지고 있다. 성능 향상뿐 아니라 인간의 통제를 얼마나 유지하면서 AI 연구 역량을 활용할 수 있을지가 새로운 과제로 떠올랐다.

김대영 한경닷컴 기자 kdy@hankyung.com