사진=연합뉴스
사진=연합뉴스
“범용 인공지능(AGI)의 위험이 허구라는 생각이 맞으면 좋겠습니다. 하지만 우리는 이런 위험이 실재한다고 간주하고 인공지능(AI)을 운영할 것입니다.”

샘 올트먼 오픈AI 최고경영자(CEO)는 올해 초 자신의 홈페이지에 글을 올려 돌연 ‘AI 규제론’을 꺼내 들었다. AI 기술 개발에 속도 조절이 필요하다는 주장이다. 오픈AI는 작년 말 챗 GPT를 공개해 전 세계에 생성형 AI 열풍을 몰고 온 주역이다. 오픈AI와 챗 GPT를 사실상 공동 개발한 마이크로소프트(MS)의 브래드 스미스 부회장도 “AI 개발을 감시할 연방정부 차원의 기구를 설치해야 한다”고 했다. 오픈AI의 초기 투자자인 일론 머스크 테슬라 CEO는 올트먼보다 먼저 “AI는 인간 문명의 미래에 가장 큰 위험 중 하나”라고 했다. 테슬라는 자율주행 AI 개발에 속도를 내는 기업이다.

올트먼은 지난 5월엔 미국 상원 법사위원회에서 열린 청문회에 출석해 “AI는 예측할 수 없는 방식으로 사회를 변화시킬 만큼 강력하다”며 “위험을 줄이기 위해서는 규제를 통한 정부의 개입이 필수”라고 강조했다. 올트먼은 앞으로 AI를 개발·출시하는 기업에 정부가 라이선스를 발급하는 기관을 설립할 것을 제안했다. AI가 대중에게 공개되기 전 안전 규정 및 사전 테스트 등을 통과하게 함으로써 위험을 완화하자는 논리다.

미국 비영리단체인 AI안전센터(CAIS)는 성명을 통해 “AI 때문에 인류가 멸망할 수 있다”며 “그 같은 위험을 줄이는 것은 핵전쟁 대응과 마찬가지로 전 세계의 우선순위가 돼야 한다”고 밝혔다. 올트먼을 비롯해 데미스 허사비스 구글 딥마인드 CEO 등 350여 명의 업계 인사가 성명에 동참했다.

하지만 AI 선도 기업들이 규제 논의를 주도하는 것은 ‘제 밥그릇 지키기’라는 분석도 나온다. 후발주자의 성장을 가로막기 위한 ‘사다리 걷어차기’이자 그들만의 리그를 만드는 게 규제 요구의 본질이라는 주장이다. 기술기업은 소규모 자본으로 시작해도 급성장해 얼마든 기존 기업을 위협할 수 있다. 오픈AI와 MS 등 소수의 선도 기업으로서는 규제 장벽을 세워둬야 선점 효과를 극대화할 수 있다.

김리안 기자 knra@hankyung.com