젠슨 황 엔비디아 최고경영자(CEO)가 14일(현지시간) 미국 로스앤젤레스에서 열린 올인 서밋 중 도널드 트럼프 미국 대통령이 건 전화를 받고 있다. /사진=올인
젠슨 황 엔비디아 최고경영자(CEO)가 14일(현지시간) 미국 로스앤젤레스에서 열린 올인 서밋 중 도널드 트럼프 미국 대통령이 건 전화를 받고 있다. /사진=올인
젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류를 멸종시킬 수 있다는 주장에 “무책임하다”며 AI 개발 속도조절론을 정면으로 비판했다. 대담 도중 전화로 연결된 도널드 트럼프 미국 대통령도 “산업을 멈추지는 않을 것”이라며 힘을 실었다. AI의 위험에 대비해야 한다는 주장에 미국의 기술 주도권과 산업 성장을 앞세운 반론이 맞붙는 모습이다.

황 CEO는 ‘올인’ 대담에서 다리오 아모데이 앤트로픽 CEO의 AI 안전 관련 글을 어떻게 읽었느냐는 질문에 “안전은 무엇보다 중요하다”면서도 “안전과 리더십은 양자택일의 문제가 아니다”고 말했다. 빠르게 혁신하면서도 안전을 확보할 수 있다는 주장이다.

그는 진행자가 ‘인류 멸종 확률 10%’ 같은 예측을 거론하자 “만들어낸 것”이라고 비판했다. 연구자가 제시했다는 이유만으로 과학적 근거가 있는 예측으로 받아들여서는 안 된다는 것이다. 황 CEO는 “이런 예측은 사람들을 불안하게 하고 혼란스럽게 한다”며 “해서는 안 되는 일”이라고 말했다.

다만 내부고발 자체와 미래에 대한 예측은 구분했다. AI 기업 내부의 통제 문제를 지적한 내부고발에 대해서는 “매우 심각하게 받아들여야 한다”고 했다. 회사가 실제로 통제력을 잃었다면 자발적으로 개발을 멈추거나 속도를 조절할 수 있다는 입장도 밝혔다.

황 CEO가 제시한 해법은 산업 전반의 감속보다 개별 기업의 개발·검증 체계를 강화하는 것이다. 그는 AI 연구소들이 새로운 기술을 발견하는 연구 조직에서 안정적인 제품을 공급하는 엔지니어링 조직으로 전환하고 있다고 진단했다. 이 과정에서 사고 원인을 분석하고 같은 문제가 반복되지 않도록 기술과 절차를 갖춰야 한다는 설명이다.

AI가 후속 AI 개발을 돕는 ‘재귀적 자기개선’도 같은 맥락에서 바라봤다. AI로 학습용 데이터를 만들거나 개발 생산성을 높이는 것은 합리적인 기술 활용이라는 것이다. 그는 이런 과정이 통제 불능으로 치달을 수 있다는 주장에 동의하지 않는다며 “회사 안에서 하루 종일 자기개선을 하더라도 제품을 내놓을 때는 평가하고 다시 시험해야 하지 않느냐”고 반문했다.

독립적인 외부 평가에는 찬성했다. 기업이 회계감사를 받듯 AI 개발사도 제3자의 검증을 받을 수 있다는 설명이다. 평가기관은 여러 곳을 둬 특정 기관이 영향력에 휘둘릴 가능성을 줄여야 한다고 덧붙였다.
대담 도중 황 CEO에게 전화를 건 트럼프 대통령은 스피커폰을 통해 청중에게 자신의 입장을 밝혔다. 그는 “로봇이 세상을 장악하지 않을 것”이라며 AI가 세계를 지배할 것이라는 주장을 “허풍(hoax)”이라고 표현했다.

트럼프 대통령은 “신중하게 일을 해야 한다”면서도 “그렇다고 산업을 멈추겠다는 뜻은 아니다”고 말했다. 이어 “AI에서 이기는 자가 승리한다”며 미국이 AI 경쟁에서 앞서야 한다고 강조했다. 데이터센터에 대해서도 지역과 주를 부유하게 만드는 산업이라며 건설을 옹호했다.

황 CEO 역시 미국이 속도를 늦추면 경쟁에서 불리해질 수 있다는 입장을 드러냈다. 중국의 첨단 노광장비 개발 수준을 묻는 질문에는 “2030년이면 도달할 것”이라고 전망했다. 구체적인 장비 사양이나 전망의 근거는 제시하지 않았다. 그는 “미국은 달려야 한다”며 “속도를 늦추는 것은 분명히 잘못된 전략”이라고 말했다.

이 같은 낙관론이 AI의 통제 가능성을 입증한 것은 아니다. 황 CEO는 AI 기업들이 사고 원인을 파악하고 해결했을 것이라고 확신했지만, 대담에서 개별 사고의 조사 결과를 제시하지는 않았다. 제품 출시 전 평가를 강화하는 것이 개발 과정에서 제기되는 위험까지 얼마나 막을 수 있는지도 별도의 검증이 필요한 문제다.

황 CEO는 범용인공지능(AGI)에 대해 “이미 도달했다고 생각한다”고 밝혔다. 초지능 역시 자율주행이나 단백질 분석처럼 특정한 영역에서는 이미 존재한다고 봤다. 모든 분야에서 인간을 뛰어넘는 AI가 완성됐다는 뜻보다는, 개별 과제에서 인간 이상의 능력을 보이는 AI가 등장했다는 의미다.

그는 대담을 마무리하며 AI 개발사들이 중요한 일을 하고 있고 성공하기를 바란다고 말했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com