안철수 국민의힘 의원이 인공지능(AI)의 위험도를 구분해 고위험 AI 개발을 금지하거나 강도 높은 규제를 적용하는 내용의 ‘인공지능 책임 및 규제법안’을 내놨다. AI 관련 업계에서는 “미국처럼 세계를 선도하는 AI 기업도 없는 한국에서 규제법부터 만들고 있다”며 황당하다는 반응을 보이고 있다. AI 개발과 육성에 힘을 쏟아야 할 시기에 한국 국회가 나서 ‘어떤 AI를 금지할 것인지’부터 논하고 있다는 비판이 나온다.

안 의원이 지난 8일 대표 발의한 이 법은 AI를 ‘금지’ ‘고위험’ ‘저위험’으로 나눠 정의하고, 금지된 AI는 원칙적으로 개발을 금지하도록 하는 내용을 담고 있다. 또 저위험이라도 이용자의 생체 정보를 감지해 상호 작용하는 경우 또는 사진·음성·영상 등을 실제와 같이 만들어내는 경우 해당 사실을 공시하도록 했다. 금지·고위험 AI는 확인 제도를 도입하고, 고위험 AI에 대해선 정부와 사업자의 역할·책무를 강화하는 내용을 포함했다.

이 밖에 과학기술정보통신부 장관이 3년마다 AI의 ‘안전하고 합리적인’ 개발과 이용을 위해 AI 기본계획을 세우고 시행하도록 했다. AI를 심의할 기구로 국무총리 산하 인공지능위원회를 두는 내용도 담겼다.

안 의원은 “AI가 인간의 통제 수준을 넘어서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있다”고 발의 취지를 밝혔다. 이어 “챗GPT 4.0 출시 이후 가이드라인 설정이 더 시급해졌고, 유럽의회가 ‘인공지능법’을 세계 최초로 제정할 예정”이라며 “한국도 최소한의 규제를 만들어야 한다”고 덧붙였다.

국회엔 AI 관련 법안이 다수 발의돼 있다. 지난 2월엔 ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률’이 과학기술정보방송통신위원회 소위원회를 통과했다. 안 의원안은 이들 법안보다 AI의 책임과 규제에 더 초점을 맞춘 것으로 분석된다.

AI 및 스타트업업계에서는 과학기술 전문가를 자처하는 안 의원이 이런 법을 발의해 더 당황스럽다는 분위기다. 한국인공지능협회 관계자는 “신산업에서 이미 미국에 뒤처진 유럽이 앞장서 내놓고 있는 규제를 한국이 수입해오고 있다”며 “대형 플랫폼과 다양한 토종 스타트업을 보유한 우리나라가 왜 유럽을 따라가려는 것인지 모르겠다”고 비판했다.

대통령 직속 디지털플랫폼정부위원회 위원인 구태언 법무법인 린 변호사는 “어떤 AI를 금지할 것인지는 시장과 사회가 먼저 자율적으로 정할 문제”라며 “아직 체험하지 못한 기술에 대한 규제를 만들어 혁신가를 가로막는 시기상조 악법”이라고 말했다.

설지연 기자 sjy@hankyung.com