유럽연합(EU)이 세계 최초의 인공지능(AI) 규제 법안에 최종 합의했다.

EU 이사회는 9일(현지시간) 보도자료를 통해 “세계 최초의 AI 관련 법인 이 법은 개인정보보호규정(GDPR)처럼 AI 규제에 대한 국제 표준을 설정해 유럽의 기술 규제 접근 방식을 세계에 알릴 것”이라고 밝혔다. EU 집행위원회와 이사회, 유럽의회로 구성된 3자 협의체는 37시간에 걸친 마라톤 회의 끝에 지난 8일 합의에 이르렀다.

블룸버그통신에 따르면 합의안에는 EU에서 범용 AI를 운영하는 회사는 투명성 요건을 충족해야 한다는 내용이 담겼다. 범용 AI 운영사는 모델 훈련 방법과 데이터를 요약 보고해야 하고 EU 저작권법을 준수하는 정책을 마련해야 한다.

법 도입 과정에서 가장 논란이 됐던 ‘생체정보 수집’은 금지된다. AI 업체들이 안면 인식 데이터베이스를 구축하기 위해 인터넷에서 무차별적으로 이미지를 모으는 일은 불가능하게 됐다. 다만 테러 공격 등 심각한 범죄가 발생할 경우 행정당국이 AI를 이용해 혐의자를 수색할 수 있다는 예외 조항이 적용된다.

AI로 정직성 등 사회적 점수를 매기거나 직원이나 교육 대상의 감정을 인식하는 행위도 규제된다. 또 AI가 만든 창작물에는 출처가 AI라고 명시해야 한다.

연산 능력이 초당 1셉틸리언(10의 24제곱)이 넘는 AI는 ‘시스템적 위험이 있는 AI’로 분류해 더 엄격한 규제를 적용하기로 했다. 오픈AI의 GPT-4가 이 기준에 해당하는 것으로 알려졌다.

법을 위반하는 회사는 최대 3500만유로(약 497억원) 또는 직전 회계연도 글로벌 매출의 7%를 벌금으로 내야 한다. 이 법안은 EU 집행위원회가 2021년 4월 초안을 발의하면서 수면 위로 떠올랐다. 그러나 독일 프랑스 이탈리아 등이 “신산업 성장을 가로막을 수 있다”는 이유로 법안에 반대해 논의에 진통을 겪었다. 합의안은 27개 EU 회원국이 승인하면 2년 뒤 시행된다.

이번 합의로 무분별한 AI 사용에 따른 피해를 막을 수 있는 규정이 마련됐다는 평가가 나온다. 다만 새 규제가 성장하는 AI 산업의 발목을 잡을 것이라는 우려도 있다. 세실리아 보네펠드달 디지털유럽 사무총장은 “기업들은 AI 엔지니어 대신 변호사를 고용하는 데 자원을 활용할 것”이라고 지적했다.

김인엽 기자 inside@hankyung.com