인공지능(AI)의 위험성이 현실로 다가오면서 세계 주요 국가가 AI 규제의 고삐를 죄는 모양새다. 지난 21~22일 서울에서 열린 ‘AI 서울 정상회의’에서도 안전한 AI를 두고 다양한 논의가 이뤄졌다. 전 세계가 AI의 위험성을 방지하기 위해 머리를 맞대고 있지만, 국가의 상황에 따라 규제 방향과 강도는 제각각이다.

가장 강력한 규제 드라이브를 거는 곳은 유럽이다. 유럽연합(EU)은 21일 세계에서 처음으로 포괄적인 AI 기술 규제법인 ‘AI 법(AI Act)’을 최종 승인했다. 오는 11월부터 EU 국가에서 인권 침해적 요소를 지닌 AI 서비스가 모두 금지된다.

이 법은 금지하는 AI, 고위험 AI, 투명성 의무를 부여하는 AI, 범용 AI 등 위험 단계에 따라 AI를 네 단계로 구분한다. 등급에 따라 각기 다른 의무사항을 규정하고 법 위반 시 과징금 부과를 명시하는 등 강력한 규제 방안을 담고 있다. 업계에선 EU가 미국 빅테크 기업을 견제하기 위해 강력한 법안을 도입한 것으로 분석하고 있다.

미국은 작년 10월 이전의 알고리즘 책임 법안보다 강력한 의무를 AI 사업자에게 부과하는 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’을 발표했다. AI 안전성 평가 의무화, 안전성 표준 마련 등이 주요 내용이다.

중국도 작년 8월부터 ‘생성형 AI 서비스 관리에 관한 임시 조치’를 시행 중이다. 생성형 AI 서비스 제공자들이 출시 전 보안 평가를 받아야 한다는 내용이 포함됐다. 중국에서 서비스할 경우 사회주의 가치에 부합해야 한다고 명시해 외국 기업을 견제하려는 의도가 담긴 것으로 풀이된다.

한국은 규제와 진흥 내용을 모두 포함한 ‘AI산업 육성 및 신뢰 기반 조성에 관한 법안’(AI 기본법) 제정을 추진했지만 1년 넘게 국회 과학기술정보방송통신위원회에 계류됐다. 오는 29일 21대 국회 임기가 끝나는 만큼 사실상 폐기 수순이다.

AI 서울 정상회의에서도 안전한 AI가 핵심 의제였다. 작년 11월 영국에서 열린 ‘AI 안전성 정상회의’ 후속 회의로 주요 국가와 기업 관계자들이 참석한 가운데 ‘안전하고 혁신적이며 포용적인 AI를 위한 서울 선언’(서울 선언)을 채택했다.

이승우 기자 leeswoo@hankyung.com