너무 잘 나가는 AI…'선거의 해' 지구촌 비상 걸렸다

딥페이크 선거운동 속출…본질은 민주주의 훼손
미·EU 등 규제 강화…기술기업들도 자율규제 박차

인공지능(AI)의 발전 속도가 예상보다 빨라지면서 올해 대형 선거를 치르는 세계 각국에 비상이 걸렸다.

주요국 정부들은 AI로 생성되는 허위정보를 규제할 법규를 정비하고 기술기업들은 사회적 책임을 의식해 자율규제를 서두르고 있다.

23일(현지시간) 영국 일간 가디언 등에 따르면 조 바이든 미국 대통령은 오는 11월 대선을 앞두고 지난해 말 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다.

AI 역량에 대한 안전 및 보안 우려를 해소하기 위해 AI 시스템 개발자가 안전 테스트 결과 등 중요 정보를 정부와 공유하도록 요구하는 게 골자다.

유럽연합(EU)도 지난해 말 AI 위험성을 분류하고 투명성을 강화하며 관련 규정을 준수하지 않은 기업에 벌금을 부과하는 내용의 AI 규제 법안에 합의했다.

이는 AI에 관한 세계 첫 규제 법안이다.

지난주에는 오픈AI, 구글, 메타, 마이크로소프트(MS) 등 20개 거대 정보통신 기업이 유권자를 속이는 AI 생성 콘텐츠를 방지하는 데 노력하기로 합의했다.

이들 기업은 독일 뮌헨 안보 회의(MSC)에서 이 같은 내용의 합의문을 발표하고 유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표를 붙이는 등 조치를 자발적으로 시행하기로 했다.

이같이 발빠른 움직임은 올해 약 40개국에서 대통령이나 의회 선거가 진행되는 중요한 시점에 AI가 부실규제를 통해 악영향을 끼칠 우려 때문이다.

전문가들은 AI가 생성하는 허위정보가 유권자들의 결정에 영향을 미친다는 점에서 민주주의를 위협하는 중대 위험으로 본다.

실제로 진짜처럼 보이는 가짜 콘텐츠인 딥페이크(Deep fake·AI로 만든 영상, 이미지, 음성 조작물)이 선거판에 유입된 적이 있었다.

지난달 미국에서 뉴햄프셔주 프라이머리(대선후보 예비경선)를 하루 앞두고 민주당 당원에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화가 걸려 왔다.

미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지하는 등 대책 마련에 착수했으나 딥페이크 선거운동에 대한 우려는 가라앉지 않고 있다.

슬로바키아, 대만, 인도네시아에서도 AI를 악용한 선거운동 사례가 잇따라 적발됐다.

가디언은 AI가 생성하는 조작 생성물을 검열하는 기술업체의 인력이 대량으로 해고되면서 디지털 매체들이 악용에 특히 취약해졌다고 지적했다.

그러나 일각에서는 유권자가 이미 AI 악용 가능성에 잘 대비하고 있다는 낙관적 분석도 나온다.

페이스북 정책 개발 분야에서 10년간 근무한 케이티 하배스는 "유권자는 우리가 생각하는 것보다 훨씬 더 현명하다"며 "정보 환경에서 무슨 일이 일어나는지 이해하고 있다"고 말했다.

/연합뉴스