다리오 아모데이 앤트로픽 CEO. / 사진=AP 연합
다리오 아모데이 앤트로픽 CEO. / 사진=AP 연합
기업공개(IPO)를 앞둔 다리오 아모데이 앤트로픽 최고경영자(CEO·사진)가 인공지능(AI) 모델을 항공기처럼 정부가 검증하고, 안전 기준에 못 미치면 출시를 막을 수 있어야 한다고 제안했다. 규제 완화를 요구해온 통상적 목소리와 반대로 자사 제품을 겨냥한 규제를 오히려 요구하고 나섰다는 점에서 주목된다.

아모데이 CEO는 10일(현지시간) 블로그에 'AI 발전에 대응하기 위한 정책 제언'이라는 제목의 에세이를 공개해 이 같이 밝혔다.

그는 먼저 AI 발전 속도가 정책과 제도의 변화 속도를 크게 앞지르고 있다고 진단했다. 말 한마디 건네는 데에 하루가 걸리는 영화 '반지의 제왕' 속 나무수염(트리비어드)에 정치 제도를 빗대면서다. AI는 4년 만에 코드 한 줄을 겨우 쓰는 수준에서 주요 AI 기업 코드 대부분을 작성하는 수준으로 발전했는데, 정치권이 움직이는 데는 몇년이 걸린다는 지적이다.

제안의 핵심은 규제의 수위를 한 단계 올리자는 것이다. 앤트로픽은 그간 AI 기업이 안전 절차와 시험 결과를 공개하도록 하는 '투명성' 중심 입법을 지지해왔다. 지난해 캘리포니아주 'AI 안전성·투명성법'(SB 53) 통과를 도운 게 대표적이다. 그러나 아모데이 CEO는 "이제 위험이 분명히 도래한 만큼 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때"라며 미 연방항공청(FAA)의 항공기 인증을 모델로 제시했다.

구체적으로는 일정 컴퓨팅 기준을 넘는 첨단 AI 모델에 대해 사이버보안, 생물학무기, AI 통제 상실, 위험을 가속화할 수 있는 자동화 연구개발(R&D) 등 4개 영역에서 자격을 갖춘 제3자의 검증을 의무화하자고 했다. 검증 결과 용납할 수 없는 위험이 확인되면 정부가 해당 모델의 배포를 차단하거나 철회시킬 권한을 가져야 한다는 내용도 담겼다. 다만 이 권한은 4개 위험 영역으로 엄격히 제한하고, 정치적 편향이나 자의적 결정을 막을 보호 장치를 둬야 한다고 단서를 달았다.
사진=EPA연합뉴스
사진=EPA연합뉴스
경제 정책 제언도 눈에 띈다. 아모데이 CEO는 "초고속 성장과 극심한 불평등이 동시에 굳어진 경제에 갇힌 채 빠져나오지 못하는 세상이 될 위험이 있다"며 "그런 세상에서 중요한 건 성장을 어떻게 끌어내느냐가 아니라 모두가 혜택을 나눠 갖는 방법을 찾는 것"이라고 했다. 대응책으로는 낮은 임금의 일자리로 옮긴 노동자에게 차액을 보전하는 임금보험, 감원을 자제한 기업에 대한 세제 혜택 등을 거론했다. 노동 수요 감소가 장기화하면 AI 기업 과세나 자본이득세 인상을 재원으로 한 기본소득까지 검토해야 한다고 했다.

AI가 권위주의 통제 수단이 될 가능성에 대한 경고도 담겼다. 그는 완전 자율무기의 국내(대민) 사용을 법으로 금지하고, 정부의 대량 데이터 수집 허점을 막아야 한다고 제안했다. 반대로 바이오의학 같은 분야에서는 신약 승인에 7~8년이 걸리는 기존 규제 체계가 AI가 가져올 혁신의 속도를 따라가지 못해 오히려 발목을 잡을 수 있다며 제도 정비를 주문했다. AI가 국가 군사력과 경제력의 지배적 원천이 될 것이라며, 민주주의 국가들이 반도체 공급망을 공유하는 연합을 구축해야 한다는 지정학 구상도 내놨다.

아모데이 CEO는 AI 업계 일각의 'AI에 필요한 건 더 나은 마케팅'이라는 시각도 정면으로 반박했다. 그는 "사람들이 AI를 걱정하는 건 그 위험이 실제라는 사실을 정확히 알고 있기 때문"이라며 "AI 기업을 이끄는 사람으로서 위험을 계속 투명하게 알리는 게 내 의무"라고 했다.

홍민성 한경닷컴 기자 mshong@hankyung.com