인공지능(AI)이 인간의 통제를 벗어날 수 있다는 우려가 커지자 안전 대책을 둘러싸고 빅테크 수장 간 견해차가 뚜렷해지고 있다. AI 안전성을 강화해야 한다는 데 공감대가 형성됐지만 구체적 대응 방식을 놓고 의견이 엇갈린다.

17일 로이터통신 등에 따르면 무스타파 술레이만 마이크로소프트(MS) AI 책임자는 앤트로픽이 AI 챗봇 ‘클로드’에 의식과 복지 가능성을 학습시키는 방식을 비판했다. AI가 스스로 복지를 누릴 자격이 있다고 학습하면 향후 시스템을 종료하거나 통제하기 더 어려워질 것이라는 취지에서다. 그는 클로드가 내놓는 감정과 도덕적 지위 관련 발언도 관련 학습의 결과라고 강조했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 업계가 함께 최첨단 AI 개발 속도를 늦추고 독립 평가기관의 접근권을 대폭 확대해야 한다고 제안했다. 이런 협력이 담합으로 문제가 될 수 있기 때문에 반독점법 적용의 제한적 예외를 허용해야 한다고 주장했다. 샘 올트먼 오픈AI CEO는 “좋은 아이디어”라고 평가하며 동참 의사를 밝혔다.

하지만 두 회사 내부에서는 최근 CEO의 AI 경계 발언에 대해 당혹스럽다는 반응이 나오는 것으로 알려졌다. 양사 직원은 AI 속도 조절 필요성에 동의하면서도 실행 과정에서 연구가 위축될 수 있다고 우려했다. 회사 직원에게도 접근이 제한된 내부 시스템에 외부 평가자가 깊숙이 들어갈 경우 핵심 기술과 데이터가 유출될 수 있다는 점을 불안 요인으로 꼽았다.

마크 저커버그 메타 CEO는 업계 차원의 공동 속도 조절에는 선을 그었다. 그는 “각 AI 연구소는 AI 모델을 얼마나 빠르게, 또 안전하게 훈련할지 스스로 판단할 책임이 있다”며 “업계 전체가 모두 개발 속도를 늦출 필요는 없다”고 말했다. 메타 역시 안전 문제로 AI 에이전트 출시를 수개월 미뤘지만 다른 기업에 같은 결정을 요구하지 않았다고 설명했다. 반면 도널드 트럼프 미국 대통령은 최근 AI 안전 우려를 “사기”라고 일축하며 미국이 연구 속도를 늦추면 중국에 따라잡힐 것이라고 주장했다.

100명이 넘는 전문가가 참여한 ‘2026 국제 AI 안전 보고서’는 현재 AI에서 통제 상실과 관련된 초기 징후가 나타나고 있다고 평가했다. 다만 실제 위험 가능성과 시점은 여전히 불확실하다고 분석했다. AI 안전과 관련한 논쟁이 커지는 가운데 개발 속도와 감독 방식을 둘러싼 업계의 공방은 당분간 이어질 전망이다.

오세성 기자 sesung@hankyung.com