[사진출처=ChatGPT Image]
[사진출처=ChatGPT Image]
인공지능(AI)의 발전 속도를 놓고 벌어지는 논쟁이 점점 거칠어지고 있다. 미국 월스트리트저널(WSJ)은 최근 주요 AI 기업들이 처한 상황을 두고 “돈과 안전의 충돌이 AI에 엄청난 위기를 초래했다”고 진단했다. 과학적 진보를 멈출 수는 없지만, 기술이 초래할 위험을 외면하기도 어렵다. 여기에 천문학적 투자금을 회수해야 하는 기업의 현실과 미국과 중국 사이의 기술 패권 경쟁까지 겹쳐 있다. 어느 하나 쉽게 양보하기 어려운 문제들이다.

이런 가운데 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 AI 발전 속도를 조절할 필요가 있다는 이른바 ‘페이싱(Pacing)’을 제안했다. 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO 등도 이에 공감하는 목소리를 냈다. 마이크로소프트 역시 'AI 행동강령 초안'을 공개하면서 AI가 인간을 대체하는 방향으로 가서는 안 된다는 원칙을 내세웠다.

겉으로만 보면 빅테크 기업들이 AI의 위험성을 걱정하기 시작한 것처럼 보인다. 하지만 한편으로는 이런 움직임을 마냥 순수한 자정 노력으로만 보기도 어렵다. 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추려는 움직임에 대해 정치적 의도나 중국의 전략과 연결될 수 있다고 비판했다. 젠슨 황 엔비디오 CEO도 트럼프 대통령에 동의하는 취지의 발언을 했다. AI를 둘러싼 속도 논쟁에는 기술과 안전뿐 아니라 미국의 패권, 중국과의 경쟁, 기업의 이해관계까지 함께 얽혀 있는 셈이다.

그렇다면 AI 개발을 멈추는 것이 가능할까? 현실적으로는 쉽지 않다. 핵무기나 오존층 파괴 물질처럼 인류 전체가 명백한 위험에 직면했을 때 국제적 합의가 이루어진 사례는 있다. 하지만 AI는 성격이 다르다. 경제 성장의 핵심 수단인 동시에 사이버 안보와 군사력, 정보전의 능력을 좌우하는 기술이 됐다.

미국과 중국 중 한쪽이 개발을 멈춘다고 해서 다른 쪽도 함께 멈출 것이라는 보장이 없다. 오히려 한쪽이 멈춘 사이 다른 쪽이 앞서간다면 기술 격차는 곧 경제적·군사적 격차로 이어질 수 있다. 이 같은 상황에서 전 세계가 동시에 AI 개발을 중단하자는 모라토리엄(지불유예)은 이상적으로는 매력적일지 몰라도 현실 정치에서는 실행하기가 매우 어렵다.

그래서 주목할 부분이 페이싱이다. 페이싱은 AI 개발 자체를 중단하자는 이야기가 아니다. 계속 발전시키되, 기술이 실제 산업과 사회에 적용되는 과정에서 일정한 검증 절차를 거치자는 것이다. 쉽게 말해 자동차의 엔진을 끄자는 것이 아니라 너무 빠르게 달리는 자동차에 브레이크와 센서를 달자는 접근이다.

이 방식이라면 현실적인 여지가 있다. 대규모 AI 모델을 훈련하는 것 자체를 막기보다는 실제 서비스에 적용하기 전에 안전성 검증을 강화하고, 독립적인 검증 절차를 거치도록 하는 것이다. 대규모 컴퓨팅 인프라와 전력, 클라우드 같은 물리적 기반을 관리하는 것도 하나의 방법이 될 수 있다.

문제는 여기서부터다. AI 선두 기업들이 왜 굳이 속도를 조절하자고 나서는지 생각해볼 필요가 있다. 안전성 검증이나 독립적인 감사가 의무화되면 기업 입장에서는 비용이 늘어난다. 하지만 모든 기업이 같은 부담을 지는 것은 아니다. 이미 막대한 자본과 데이터센터, 컴퓨팅 자원을 확보한 기업에게는 감당할 수 있는 비용일 수 있다. 반면 이제 막 AI 시장에 뛰어드는 후발 기업이나 오픈소스 개발자들에게는 '상당한 진입장벽'이 될 수 있다. 규제가 강해질수록 기존 선두 기업의 위치가 오히려 더 공고해질 수 있다는 이야기다.

또 다른 이유도 있다. AI가 예상보다 빠르게 발전하면서 기업들은 동시에 여러 위험을 떠안고 있다. 환각 문제부터 사이버 공격, 저작권, 개인정보, 일자리 문제까지 어느 하나 간단하지 않다. 만약 심각한 사고가 발생한다면 기업의 책임도 피하기 어렵다. 이때 “우리는 개발 속도를 조절하고 안전성을 확보하려고 노력했다”는 입장은 중요한 방어 논리가 될 수 있다. 더 나아가 정부가 AI 산업에 강한 규제를 도입하기 전에 기업들이 스스로 기준을 만들고 그 기준을 국제적인 표준으로 확대한다면 이야기는 달라진다. 규칙을 따르는 것과 규칙을 만드는 것은 전혀 다른 문제이기 때문이다.

사업적 이유도 무시하기 어렵다. AI 산업에는 이미 막대한 돈이 들어가고 있다. 거대한 데이터센터를 짓고, 그래픽처리장치(GPU)를 확보하고, 전력을 공급받는 데는 천문학적 비용이 필요하다. 새로운 모델이 나올 때마다 막대한 자금을 투입해야 한다면 기업으로서도 부담이 커질 수밖에 없다. 따라서 일정 기간 개발 속도를 조절하면서 기존 모델의 성능을 안정화하고 실제 서비스에서 수익을 만들어내는 것도 충분히 합리적인 선택이다. 겉으로는 ‘안전’을 이야기하지만 기업 입장에서는 투자와 수익 사이의 시간을 벌 수 있는 기회가 될 수도 있다.

여기에 미국의 안보 전략까지 더해지면 상황은 더욱 복잡해진다. AI는 이제 단순한 민간 기술이 아니다. 국방과 정보, 사이버 보안과 직결된다. 미국 정부 입장에서는 자국의 AI 기업들이 무분별하게 기술을 확산시키는 것보다 일정한 통제 아래에서 발전하는 것이 유리할 수 있다. 기업 역시 정부와 협력하면서 자신들이 책임 있는 기술 개발자라는 이미지를 확보할 수 있다.

결국 이들이 말하는 페이싱은 ‘우리가 판을 짠 속도와 규격으로 산업의 문을 좁히고 잠그는 일’이다. 멈추는 순간 도태되는 패권 자산의 특성상 전면 제동은 오답이나, 인프라 밸브와 프로토콜 동기화라는 관리형 페이싱은 작동한다. 안타깝게도 WSJ의 진단대로 과학적 진보, 도덕적 의무, 경제적 유인이 충돌하는 위기 속에서 AI 시대의 승부는 더 빨리 달리는 쪽이 아니라 폭주하지 않고 완주하는 체력과 거버넌스 룰을 장악하는 쪽에 달렸다.

<한경닷컴 The Lifeist> 정인호 GGL리더십그룹 대표/경영평론가(ijeong13@naver.com)

"외부 필진의 기고 내용은 본지의 편집 방향과 다를 수 있습니다."
독자 문의 : thepen@hankyung.com