MS·구글도 후원하고 학계도 참여…美대선 여론조작 우려 앞두고 추진

페이스북이 인공지능(AI) 기술로 감쪽같이 조작된 '딥페이크'(deepfake) 영상을 가려내기 위한 '딥페이크 탐지 챌린지' 프로젝트를 진행한다.

페이스북은 1천만 달러(약 120억원)를 투입해 딥페이크 영상 탐지 기술 연구에 박차를 가하기로 했다고 로이터, AFP 통신 등이 5일(현지시간) 보도했다.

'딥러닝'(deep learning)과 '페이크'(fake·가짜)의 합성어인 딥페이크는 인공지능(AI)을 활용한 동영상 편집 기술로 특정인의 표정이나 억양, 목소리 등을 그대로 흉내내 하지도 않은 말을 한 것처럼 꾸밀 수 있다.

'진짜 같은' 이런 가짜 영상은 여론에 영향을 미칠 수 있다는 우려를 낳아왔다.

이번 프로젝트를 통해 페이스북은 연구자들에게 딥페이크 영상의 샘플 데이터 세트를 만들어낸 뒤 탐지 도구를 시험해 보도록 할 예정이다.

페이스북은 올 12월 공개될 실험용 딥페이크 영상들에 전문 배우들이 등장할 것이며 이용자 데이터는 활용되지 않을 것이라고 설명했다.

페이스북을 비롯해 마이크로소프트, 알파벳(구글 모기업), 애플 등이 속한 연구 그룹 'AI 파트너십' 등이 후원하는 이 프로젝트에는 미국 매사추세츠공대(MIT), 코넬대, 버클리 캘리포니아대(UC버클리)와 영국 옥스퍼드대 등 명문대 소속 학자들도 다수 참여한다.

페이스북 마이크 슈레퍼 최고기술책임자(CTO)는 이번 프로젝트의 목표에 대해 "시청자들을 현혹하려는 의도로 편집된 영상에 사용돼 온 AI 기술을 모두가 더 잘 탐지해낼 수 있는 기술을 만드는 것"이라고 말했다.

슈레퍼 CTO는 딥페이크 기술이 "온라인에 있는 정보의 정당성을 결정하는 데 상당한 영향을 미치지만, 업계는 지금까지 이런 것들을 탐지해낼 좋은 샘플 데이터 세트를 확보하지 못했다"고 지적했다.

이번 프로젝트는 내년 미국 대선을 앞두고 딥페이크 기술이 악의적인 가짜 정보를 유포해 여론을 뒤흔들 수 있다는 우려가 고조되는 가운데 추진된다.

민주당 애덤 시프 미 하원 정보위원장은 지난 6월 내년 대선에 러시아가 또다시 개입할 수 있다면서 가장 심각한 경우는 "후보자가 절대 한 적 없는 발언을 하는 딥페이크 동영상"이 될 것이라고 우려했다.

최근 워싱턴 정가에서는 민주당 소속인 낸시 펠로시 하원의장의 가짜 영상이 확산해 논란을 빚은 바 있다.

이 영상은 딥페이크 기술이 활용된 것도 아니고 단지 원래 속도보다 느리게 편집하고 음조를 변조해 술에 취한 것처럼 왜곡한 기초적인 수준의 조작이었지만 보수 성향 소셜미디어를 중심으로 빠르게 확산됐다.

이는 앞으로 더욱 발전할 딥페이크 기술이 악용될 경우 닥칠 문제에 대한 경고성 사건이라는 분석이 나왔다.

/연합뉴스