사진=인스타그램, 온라인 커뮤니티
사진=인스타그램, 온라인 커뮤니티
국내외 사회관계망서비스(SNS)에서 이른바 '야구 여신'으로 화제를 모은 한 한국인 여성이 생성형 인공지능(AI)으로 만들어진 콘텐츠로 드러나면서 충격을 주고 있다. AI 기술이 고도화되면서 AI 캐릭터를 활용해 '인플루언서 계정'을 운영하고 수익화하는 사례가 빠르게 늘어나는 모습이다. 미인계를 앞세워 사실상 구독 경제를 구축하고 있는 셈이다. 해외 사례를 고려하면 범죄 악용 가능성에 대한 우려가 고개를 들고 있다.

◇ AI 생성물 표시 없는 미녀들

9일 한경닷컴 취재를 종합하면 최근 국내 인스타그램에서는 선정적인 여성 이미지를 앞세운 AI 인플루언서 계정들이 구독 수익을 올리고 있는 것으로 나타났다. 해외에서 논란이 됐던 AI 미녀 수익화 모델이 국내에도 확산하고 있는 셈이다. 해당 계정들에는 'AI 생성물' 표시가 없다.
사진=인스타그램
사진=인스타그램
대표적인 사례로 한 계정은 속옷 차림 여성 사진 게시물 하나로 나흘 만에 '좋아요' 3000개 이상을 기록했다. 계정에는 노출 수위가 높은 여성 사진이 다수 올라와 있지만 등장인물은 실제 사람이 아닌 AI 생성 이미지로 확인됐다. 댓글 창에는 국내는 물론 해외 남성들까지 몰려와 "아름답다"며 외모와 몸매를 평가하는 글을 거리낌 없이 남겼다. 일부는 더 높은 수위의 노출을 요구하는 반응까지 보였다.

문제는 상당수 이용자가 해당 계정이 AI라는 사실조차 인지하지 못하고 있다는 점이다. 이 계정은 단순히 사진만 게시하는 방식에 그치지 않는다. 일기 형식으로 자신의 감정을 털어놓거나 "어떤 헤어 스타일이 어울리냐"고 묻는 등 감정 교류가 활발하다. 또한 사건·사고 뉴스를 공유하며 "안타깝다"고 반응하는 식으로 실제 인물처럼 계정을 운영하고 있었다.

해당 계정은 '스토리' 기능을 통해 구독을 유도하고 있다. 월 7500원을 내면 더 선정적인 콘텐츠를 볼 수 있는 구조로 추정된다. 이미 약 100명의 구독자가 확보된 것으로 파악됐다. 일부 유사 계정은 유료 성인 콘텐츠 플랫폼인 온리팬스로 이용자를 유도하고 있는 것으로 확인됐다.

최근에는 신체 라인이 드러나는 이른바 '동탄룩'을 콘셉트로 AI 여성 계정을 운영하며 구독자를 끌어모았던 계정이 인기를 얻다가 돌연 삭제되는 일도 있었다.

◇ 한국에 상륙한 '제시카 포스터'

AI 기반 미녀 인플루언서 수익화는 해외에서는 이미 현실화한 사례다. 미국 보수층을 겨냥한 AI 여성 인플루언서 '제시카 포스터'(Jessica Foster) 계정은 약 4개월 만에 100만명 이상의 팔로어를 모았고 이후 이용자들을 온리팬스로 유입시키는 방식이 드러났다. 워싱턴포스트 보도에 따르면 해당 계정은 실제 군 복무 이력이 없는 AI 생성 인물이었으며 메타는 이후 해당 인스타그램 계정을 삭제했다. 온리팬스 역시 정책 위반을 이유로 관련 계정을 금지했다.

법조계에서는 그동안 유명인 도용이나 딥페이크 성 착취물 등을 통한 수익화 범죄를 주목해왔다. 그러나 최근에는 AI 기술 고도화로 범죄 유형이 더욱 다양해질 수 있다는 우려가 커지고 있다.
출처=온라인 커뮤니티
출처=온라인 커뮤니티
특히 문제는 단순히 '야구 여신' 사례처럼 육안으로 진위를 구별하기 어렵다는 데 그치지 않는다. 심리적 접근 방식까지 정교해지고 있다는 점이다. 과거 로맨스 스캠(연애 빙자 사기)이 가해자가 직접 여성인 척하며 접근하는 방식이었다면, 이제는 AI로 외모와 연령·성격까지 설계한 가상 인물을 만든 뒤 이를 기반으로 잠재적 피해자에게 접근할 수 있다는 것이다. 이후 친밀감을 형성한 뒤 송금 등을 유도하는 방식으로 악용될 가능성도 제기된다.

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)은 지난해 1월 공포돼 지난 1월 22일부터 시행 중이다. 법안은 생성형 AI 결과물(이미지·영상·음성 등)이 외부로 유통될 경우 'AI 생성물'이라는 사실을 표시하도록 규정하고 있다. 유럽연합(EU) 역시 AI 생성 콘텐츠에 대해 출처와 생성 사실 공개 의무를 부과하고 있으며 위반 시 글로벌 매출의 최대 7%를 과징금으로 부과할 수 있도록 했다.

다만 기하급수적으로 늘어나는 계정을 일일이 단속하기는 현실적으로 쉽지 않은 상황이다. 글로벌 보안업체 맥아피는 최근 밸런타인데이 관련 조사에서 미국 성인 4명 중 1명이 가짜 프로필이나 AI 생성 봇을 접한 경험이 있다고 밝혔다. 또 응답자의 35%는 데이팅 앱이나 소셜 앱에서 AI 생성 또는 수정 사진을 본 적이 있다고 답했다. 맥아피 위협연구 책임자 아비셰크 카르닉은 "로맨스 스캠은 돈에서 시작하지 않는다. 신뢰에서 시작한다"고 경고했다.

신현보 한경닷컴 기자 greaterfool@hankyung.com