“우리는 항상 인공지능(AI)을 통제할 수 있어야 한다. 이것이 기술기업과 정부 모두에게 최우선 순위가 돼야 한다” (브래드 스미스 마이크로소프트 부회장)

생성형 AI ‘챗 GPT’를 개발한 오픈AI, 마이크로소프트(MS) 등 AI 산업을 선도하는 기술기업들이 AI 규제가 필요하다고 나서고 있다. 기업이 자신을 옭아맬 규제를 먼저 요구하는 이례적인 상황이 벌어진 것이다. 이들 기업은 AI의 개발 속도가 너무 빨라 가짜뉴스 확산, 대규모 실업 등 부작용이 발생할 수 있다는 점을 이유로 들고 있다.

이러한 주장을 있는 그대로 선의라고 받아들여도 될까? AI 선도 기업들이 규제 논의를 주도하는 것은 선점 효과를 극대화하기 위한 노력이라는 분석이 일각에서 나온다. 후발주자들의 성장을 가로막기 위한 ‘사다리 걷어차기’가 규제 요구의 본질이라는 주장이다.
AI 선도기업의 'AI 규제론'…선의일까, 기득권 지키기일까

기업들 “AI 규제기구, 라이선스 필요”

지난달 30일(현지시간) CNN 등 외신에 따르면 미국 비영리단체인 AI안전센터(CAIS)는 성명을 통해 “AI 때문에 인류가 멸망할 위험을 줄이는 것은 전염병, 핵전쟁과 같은 위협 대응과 마찬가지로 세계의 우선순위가 돼야 한다”고 밝혔다. 성명에는 샘 올트먼 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO 등이 동참했다.

MS 최고법무책임자인 스미스 부회장은 지난달 25일 MS 블로그를 통해 AI 개발을 감시할 연방정부 차원의 기구를 설치해야 한다고 주장했다. 그는 “AI를 이용해 사람들을 속이려는 의도로 콘텐츠가 변경되는 것을 막기 위한 조치가 필요하다”며 “물리적 보안, 사이버 보안, 국가 보안 등 중요한 형태의 AI에 대해서는 라이선스가 필요하다”고 강조했다.

챗 GPT를 개발한 올트먼 CEO는 AI 규제를 가장 적극적으로 주장하는 인물 중 하나다. 그는 지난달 16일 미국 상원에서 열린 AI 청문회에 참석해 “점점 더 강력해지는 AI 모델의 위험을 완화하는 데 정부의 개입이 중요할 것”이라고 했다. 일론 머스크 테슬라 CEO도 규제 필요성을 인정하고 있다. 그는 지난달 23일 영국 런던에서 열린 CEO카운슬서밋에 참석해 “AI가 인류를 발전시킬 수 있지만 인류를 전멸시키거나 인류의 성장을 제약할 위험도 있다”고 지적했다.

규제 깃발 들어 후발주자 막나

기업들의 선제적인 AI 규제 요구는 ‘그들만의 리그’를 만들기 위한 것이라는 분석이 나온다. 미국 보수언론 매체인 워싱턴이그재미너는 ‘오픈AI CEO가 더 많은 규제를 위해 로비하는 4가지 이유‘라는 제목의 칼럼에서 이런 주장을 펼쳤다.

워싱턴이그재미너는 오픈AI가 ‘규제 깃발’을 먼저 들고 나섬으로써 규제의 틀을 정할 수 있게 됐다고 분석했다. 정부와 의회가 규제 법안을 만들 경우 조언을 구할 기업이 필요한데, 오픈AI가 그 파트너가 될 수 있다는 얘기다. 오픈AI가 유럽연합(EU)에서 추진하고 있는 AI 규제안에 대한 입장을 공식적으로 밝힌 게 대표적인 사례다. 지난달 유럽을 방문한 올트먼 CEO는 트위터에 “AI를 잘 규제할 방법에 대해 유럽에서 매우 생산적으로 한 주 동안 대화했다”며 “우리는 여기(유럽)에서 계속 운영하게 돼 매우 기쁘고, 떠날 계획도 없다”고 했다. 그는 앞서 EU가 추진하는 AI 규제에 대한 우려를 드러내며 ”준수하기 어려울 경우 유럽에서 사업을 철수할 것“고 말한 바 있다.

이를 통해 AI 선두 주자들은 ‘사다리를 걷어차’ 후발 주자의 추격을 막아설 수 있다는 분석이다. 규제 장벽을 세워 오픈AI, MS 등이 선점 효과를 극대화할 수 있다는 것이다. AI 등 기술기업은 소규모 자본으로 시작해 급성장해서 기존 기업들을 위협할 수 있다. 오픈AI 스스로가 대표적인 예다. 비영리단체였던 오픈AI는 10억달러 기부금의 자본으로 시작해 현재 규모로 성장했다. AI 알고리즘을 정부가 사전에 승인하는 등 규제가 도입된다면 ‘제2의 오픈AI’가 등장하는 건 한층 더 어려워질 것으로 보인다.

EU 올해 안에 AI 규제안 낸다

미국, 유럽 등 주요국들은 AI 규제안을 만들기 위해 속도를 내고 있다. 가장 앞장서는 지역은 유럽이다. EU는 올해 안에 AI 규제법을 입법 완료할 계획이다. 앞서 EU 행정부 격인 집행위원회는 지난 2021년 4월 세계 최초로 AI 규제법 초안을 발의했다.

미국은 당초 유럽에 비해 AI 규제에 소극적이라는 평가를 받았다. 그러나 최근 AI가 만든 미 국방부 청사(펜타곤) 폭발 가짜 사진 확산 등 우려가 커지자 AI를 통제해야 한다는 힘이 정치권 내에서 힘을 얻고 있다.

AI 연구·개발에 적극적인 중국도 부작용을 우려하며 통제 필요성을 강조하고 나섰다. 지난달 30일 베이징에서 열린 제20기 중앙 국가안전위원회 제1차 회의에서는 인터넷 데이터와 AI 안전과 관련한 거버넌스 수준을 높여야 한다는 의견이 제기됐다.

김인엽 기자 inside@hankyung.com