방문자 많은 딥페이크 웹사이트 5곳 분석

전 세계 유명인 4천명 가량이 딥페이크(인공지능으로 만든 영상·이미지 합성 조작물) 음란물의 피해자가 됐다는 분석 결과가 나왔다고 영국 일간 가디언이 21일(현지시간) 보도했다.

이에 따르면 영국 방송사 채널4 뉴스는 방문자가 많은 딥페이크 웹사이트 5곳을 분석한 결과, 영국인 250명을 포함해 유명인 4천명 가량의 딥페이크 음란물을 찾아냈다고 밝혔다.

채널4 뉴스는 분석 대상 딥페이크 웹사이트가 3개월간 1억뷰를 기록했다면서 피해자 중에는 유명한 여배우와 TV 스타, 음악가, 유튜버 등이 포함돼 있다고 설명했다.

딥페이크 음란물 피해자로 확인된 채널4 뉴스의 진행자인 캐시 뉴먼은 이것을 만든 누군가가 자신의 가상 버전, 가짜 버전을 볼 수 있다는 것이 정말 악의적으로 느껴진다고 말했다.

영국은 지난 1월31일 이래 온라인 안전법(Online Safety Act)에 따라 동의 없는 딥페이크 음란물 공유를 불법으로 규정했으나 딥페이크 음란물 제작은 불법화하지는 않았다.

지난 2016년 조사에서는 온라인상 딥페이크 음란물이 단 1개밖에 발견되지 않았다.

그러나 지난해 1월부터 9월 사이에만 이용자가 많은 40개 딥페이크 음란물 사이트에 무려 14만3천733개의 딥페이크 음란물이 올라왔다.

영국 통신 미디어 규제 기관인 오프콤(Ofcom)의 대변인은 딥페이크 음란물은 큰 충격과 피해를 야기한다면서 기업들은 온라인 안전법에 따라 신속히 이런 유해한 콘텐츠를 제거하고 유통을 차단해야 한다고 강조했다.

오프콤은 온라인 안전법의 시행과 적용 방법에 대한 논의가 이뤄지고 있는 상태지만 기업들이 이런 조치를 시행해 사용자를 보호하도록 권장하고 있다고 말했다.

구글 대변인은 딥페이크 음란물이 얼마나 큰 고통을 야기하는지 잘 이해하고 있다면서 딥페이크 피해를 막기 위해 검색에 대한 추가적인 안전장치를 적극적으로 개발하고 있다고 밝혔다.

페이스북과 인스타그램의 모회사인 메타의 라이언 대니얼스는 아동 음란물과 AI가 동의 없이 생성한 음란물 제공을 엄격히 금지하고 있으며 딥페이크 앱에 대한 광고와 계정도 제거하고 있다고 설명했다.

최근 미국에서도 인공지능이 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있다.

지난 1월 미국의 세계적 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산한 것을 계기로 이러한 목소리는 더욱 커졌다.

/연합뉴스