재난이 장난이냐…네팔 참사 뉴스 속 영상에 발칵

"다리 부서지는거 뉴스에도 나왔는데 AI였다니"

"저런 쓰레기 영상 때문에 구조도 늦어지는거다"

"재난이 장난이냐, 이제 뭐가 진짜인지도 모르겠다"

홍수가 마을을 집어삼키고 거센 물살에 다리가 무너진다. 구조대원들은 발밑까지 밀려든 흙탕물을 바라본다. 최근 사회관계망서비스(SNS)에 ‘네팔 홍수 현장’이라는 설명과 함께 빠르게 퍼진 사진과 영상들이다.

문제는 이 가운데 적지 않은 콘텐츠가 네팔에서 촬영된 것이 아니라는 점이다. 인공지능(AI)이 처음부터 만들어낸 장면도 있고, 몇 년 전 일본이나 인도에서 발생한 재난 영상을 가져와 이번 홍수인 것처럼 다시 올린 사례도 등장했다. 대형 재난이 발생할 때마다 SNS에서 실제 현장 영상과 AI 생성물, 오래된 영상이 한꺼번에 섞이는 일이 반복되고 있다.

30일 온라인커뮤니티에 따르면 지난 26일 네팔과 중국 티베트 접경 지역에서 대규모 홍수와 산사태가 발생한 뒤 페이스북과 엑스(X), 유튜브 등에는 현장 상황을 전한다는 게시물이 쏟아졌다.

가장 많이 공유된 콘텐츠 가운데 하나는 한 산간 마을의 홍수 발생 전후를 비교한 사진이었다. 평소에는 계곡을 따라 집들이 빼곡하게 들어서 있지만 다른 사진에서는 건물 대부분이 사라지고 마을 전체가 진흙에 뒤덮여 있다.

실제 위성사진이나 현장 사진처럼 보이지만 AI로 만든 이미지였다. 플랫폼에도 AI 생성 콘텐츠라는 표시가 붙었다. 이미지에 남아 있는 생성 정보를 확인하는 기술을 통해서도 실제 카메라로 촬영한 사진이 아닌 것으로 확인됐다.

비슷한 장면은 곧바로 영상으로도 번졌다. 유튜브에는 급류가 다리를 무너뜨리고 건물을 덮치는 모습을 담은 콘텐츠가 잇따라 등장했다. 일부 영상은 AI로 생성하거나 실제 영상을 AI로 변형한 것으로 확인됐다.

허위 영상이 걷잡을 수 없이 퍼지자 네팔 당국도 플랫폼 사업자에 제동을 걸었다. 메타와 틱톡 측에 AI로 만든 영상과 사실과 다른 게시물을 신속히 걸러내고, 재난 상황을 과도하게 자극적으로 전달하는 콘텐츠의 노출도 줄여달라고 요청했다.

◇AI보다 더 구별하기 어려운 ‘진짜 가짜영상’

오히려 더 골치 아픈 것은 AI를 쓰지 않은 가짜 영상이다. SNS에서 네팔 홍수 영상으로 수십만회 이상 조회된 한 영상은 실제 자연재해를 촬영한 것이었다. 하지만 장소와 시기가 달랐다. 2021년 일본 시즈오카현 아타미시를 덮친 대규모 산사태 영상이었다. 원본 화면을 좌우로 뒤집은 뒤 이번 네팔 홍수 영상이라는 설명을 붙여 다시 퍼뜨렸다.

지난해 인도에서 촬영된 산사태 영상 역시 네팔 피해 모습으로 둔갑해 온라인을 돌았다.

이런 영상은 AI 생성물보다 가려내기가 더 어렵다. 사람과 건물, 물의 움직임이 모두 실제이기 때문이다. 손가락 모양이 이상하거나 간판 글자가 일그러지는 등 AI 영상에서 종종 나타나는 흔적을 아무리 찾아도 발견할 수 없다.

재난이 발생하면 과거 영상까지 함께 다시 등장하는 이유는 SNS의 구조와도 관련이 있다. 충격적인 화면일수록 이용자가 오래 머물고 공유도 많이 한다. 어디에서 언제 찍혔는지보다 장면 자체가 강렬한 콘텐츠가 빠르게 확산하기 쉬운 셈이다.

여기에 생성형 AI가 가세하면서 가짜 재난 콘텐츠를 만드는 문턱도 크게 낮아졌다. 과거에는 다른 영상을 찾아 편집해야 했다면 이제는 몇 줄의 설명만 입력해도 홍수나 지진, 산불 현장을 연상시키는 장면을 만들 수 있다.

국내에서도 비슷한 일이 있었다. 지난해 여름 온라인에서는 참새와 까치가 도심에 대량 출몰한 러브버그를 잡아먹는다는 영상이 빠르게 퍼졌다. “새들이 러브버그를 무료급식소처럼 이용한다”는 목격담까지 뒤따랐지만 일부 영상은 실제 촬영물이 아니라 AI로 만든 것으로 확인됐다.

◇AI 영상, 어떻게 구별해야 할까

과거에는 영상 길이가 하나의 단서로 활용되기도 했다. 초기 동영상 생성 AI가 한 번에 몇 초짜리 영상밖에 만들지 못했기 때문이다. 하지만 이제 영상 길이만으로 AI 여부를 판단하기는 어렵다. 여러 개의 생성 영상을 이어 붙이거나 실제 영상 중간에 AI 장면을 섞는 방식으로 얼마든지 긴 영상을 만들 수 있다.

사람의 손이나 발 모양, 물체의 움직임 등을 살펴보는 방법 역시 완벽하지 않다. 최근 AI 모델은 이런 오류를 빠르게 줄이고 있다.

대신 영상이나 사진이 어디에서 만들어졌는지를 확인하는 기술이 중요해지고 있다. 구글은 ‘신스ID(SynthID)’라는 기술을 활용하고 있다. AI가 만든 이미지와 동영상, 음성 등에 사람 눈에는 보이지 않는 정보를 넣어 생성 여부를 확인할 수 있도록 하는 방식이다. 이미지 자체를 일부 편집하거나 압축해도 정보를 찾아낼 수 있도록 설계됐다.

콘텐츠의 제작 이력을 기록하는 ‘C2PA’ 역시 활용되고 있다. 사진이 어떤 기기로 촬영됐는지, AI로 생성되거나 편집됐는지 등의 정보를 파일에 담는 방식이다.

다만 이런 표시가 없다고 해서 무조건 실제 영상이라는 뜻은 아니다. 모든 AI 서비스가 같은 기술을 쓰는 것은 아니고 SNS에 다시 올리거나 파일을 편집하는 과정에서 정보가 사라질 수도 있다.

유지희 기자 keephee@hankyung.com

테크

"재난이 장난이냐"…'네팔 참사' 뉴스 속 영상에 '발칵' [유지희의 ITMI]

◇AI보다 더 구별하기 어려운 ‘진짜 가짜영상’

◇AI 영상, 어떻게 구별해야 할까