잠재의식 이용한 서비스 금지
실시간 생체정보 수집도 불허

적용 범위 너무 넓어 논란
업계 "예상보다 강력" 우려

미·중 '패권 다툼' 겨낭한 조치
규제 현실화까진 시일 걸릴 듯
유럽연합(EU) 집행위원회가 글로벌 인공지능(AI) 산업을 겨냥한 ‘규제의 칼’을 빼들었다. 보안감시 시스템·인력 채용 분야 등 광범위한 산업을 거론한 데 이어 ‘고위험 AI’라는 표현을 내세우며 위반 국가와 기업에 상당한 벌금을 부과하겠다는 처벌 조항까지 포함시켜 파장이 커지고 있다. 업계에선 “예상보다 강력한 내용”이라는 평가가 나온다.
EU "비도덕적 AI 내놓는 기업, 매출 6% 벌금"

○‘도덕적 AI’ 법제화…처벌 기준 눈길
EU 집행위원회는 21일(현지시간) ‘AI에 대한 조화로운 규칙 수립 및 개정 입법 제안’을 공개하며 AI에 대한 법적 규제를 예고했다. 국가나 지역 그룹이 AI 규제안을 공개한 것은 이번이 처음이다. 인간의 안전과 생계에 위협을 끼칠 수 있는 모든 AI를 포괄적으로 금지하고, 기본권을 해칠 수 있는 AI는 서비스 출시 전 평가 등 의무 사항을 지켜야 한다는 것이 핵심이다.

EU는 ‘시민 안전’을 명분으로 내세웠다. 사람의 잠재의식을 이용하거나, 취약 연령·신체적 또는 정신적 장애 등 특정 계층에 피해가 갈 수 있는 AI 서비스를 원천적으로 금지했다. 신용등급이나 기타 집단 신뢰도에 영향을 미칠 수 있는 사회적 점수(social credit)에 대한 AI 활용도 폭넓게 막겠다는 방침이다. 특히 정부가 AI로 시민을 평가하는 행위가 가장 위험하다고 특정했다.

AI 기술 중 가장 활성화된 ‘이미지 인식’에 대해서도 엄격한 요건을 부과했다. 얼굴을 그대로 복사하는 딥페이크 같은 데이터 활용 콘텐츠는 물론 인간 감정 인지 등 AI의 실시간 생체 데이터 수집도 금지했다. 공개적으로 접근 가능한 원격 인식 시스템은 법 집행기관의 적절한 판단을 받을 것을 요구했다.

벌금 부과안이 핵심 쟁점으로 떠오를 전망이다. EU는 이미지 인식을 포함해 고용과 사법 처리에 이르기까지 광범위한 고위험 AI를 규정했다. 기업은 고위험 AI에 대한 수칙 위반 정도에 따라 글로벌 연 매출의 6%를 벌금으로 부과받을 수 있다.

고환경 법무법인 광장 변호사는 “EU의 일반개인정보보호법(GDPR)은 사업의 확장 가능성을 따져 4%라는 높은 벌금이 책정됐다”며 “이보다 2%포인트 강화된 규제가 나온 셈인데, 국내 기업들이 GDPR 맞춤형 컴플라이언스를 구축한 데 들인 자원을 생각하면 파장이 매우 클 것”이라고 말했다.
○미·중 견제 가속화?…‘제3의 길’ 나선 EU
이번 EU의 규제안은 사실상 기술 패권을 다투고 있는 미국과 중국을 겨냥한 견제 조치라는 분석이다. 특허와 논문, 주요 인력에서 유럽보다 절대 우위를 점하고 있는 두 국가는 최근 AI 기술의 상업적 활용과 확장에 우선순위를 두고 있다. 지난달 미국 AI 국가안보위원회는 “AI 기반 무기체계 구축 등 미국의 AI 기술을 더 강화해야 한다”고 밝혔다. 중국은 이미 AI가 개인의 학력과 보유자산을 따져 신용점수를 산출하는 서비스가 활성화돼 있다. 모두 EU의 AI 활용 금지 분야에 해당할 수 있는 것들이다.

자국 산업에 대한 방어 조치로 평가하는 견해도 상당수다. EU가 이번 제안 공개를 통해 미국 구글과 아마존 등 글로벌 빅테크 기업으로부터 ‘플랫폼 지배를 받지 않겠다’는 의견을 담았다는 것이다. 한 법조계 관계자는 “지난해 EU가 초안을 내놓은 ‘디지털서비스법안(DSA)’과 ‘디지털시장법안(DMA)’의 연장선으로 볼 수 있다”며 “EU의 전략은 자체적인 플랫폼회사를 키우기보다는 외국 기업의 침입을 막는 데 집중돼 있다”고 했다.

EU의 이번 규제안이 한국 기업에까지 영향을 미치는 등 현실화하기까진 상당한 시간이 걸릴 것이란 전망이 많다. 고학수 서울대 법학전문대학원 교수는 “개인정보보호의 사례에 비춰 유럽 의회와 회원국 승인을 거치는 데 최소 2년 이상이 더 필요할 것”으로 내다봤다.

이시은 기자 see@hankyung.com

ⓒ 한경닷컴, 무단전재 및 재배포 금지