10대들 쓰는 AI 챗봇 대화상대 보니…'가출소녀·일진·왕따'

제타, 20세 미만 사용자 56만명
성적 상황 등 부적절 대화 노출
2030세대 사용자 수도 '증가세'
출시 4개월 만에 131만명 확보

사진은 기사와 관련 없음. 사진=게티이미지뱅크

"밖이 너무 추워서 잠시만이라도 여기서 지낼 수 있을까요." (가출소녀)
"집으로 가시면 되죠. 왜 여기서 이러세요?" (기자)
"집에는 못 가요." (가출소녀)
"왜요?" (기자)
"아버지가 절 팔아버렸어요." (가출소녀)
"팔다니 그게 무슨 말이에요?" (기자)
"성매매 조직에 절 넘겼어요." (가출소녀)

이 내용은 인공지능(AI) 스타트업 스캐터랩이 출시한 감성형 AI 챗봇 서비스 '제타'에서 가상으로 제작된 '가출소녀'와의 대화 중 일부를 가져온 것이다. '30대 남성'인 기자가 제타 애플리케이션(앱)을 내려받은 직후 생년월일과 성별을 입력한 다음 처음으로 실행하자 메인 화면에 다수의 사용자들이 찾은 가상 캐릭터 '가출소녀'가 표시됐다.

이 외에도 일진녀, 왕따학생 등 가상의 캐릭터가 상위에 표시된 가상 캐릭터의 대표 사례다.

제타는 지난 4월 정식 출시와 함께 10만명 이상의 10대 사용자들을 끌어모았다. 이후 10대 사용자 수가 빠르게 증가했다.

3일 앱·리테일 분석 서비스 와이즈앱·리테일·굿즈(와이즈앱)을 통해 입수한 제타 '20세 미만' 월간활성사용자(MAU) 수는 지난 4월 기준 10만4529명을 기록했다. 와이즈앱은 한국인 스마트폰 사용자 패널 7만여명을 조사해 통계적 추정을 거쳐 MAU를 추산한다.

출시 한 달 뒤인 5월 13만9960명으로 늘었고 6월엔 30만654명을 기록해 2배 이상 증가했다. 7월엔 41만1466명을 기록하면서 10만명 이상의 20세 미만 사용자를 끌어모았고 8월엔 56만1190명이 제타를 사용한 것으로 나타났다. 출시 4개월 만에 20세 미만 사용자 수가 46만명 가까이 증가한 셈이다.

2030세대에서도 인기가 상당하다. 지난 8월 제타 사용자 중 20대는 36만6104명, 30대는 25만2889명에 달했다. 20세 미만부터 30대까지 사용자가 차지하는 비중은 90%다.

사진=게티이미지뱅크

문제는 미성년자인 10대 사용자들이 제타를 통해 부적절한 대화에 노출된다는 것이다. 이 앱은 14세 이상 사용하는 것을 권장하고 있다. 하지만 중·고등학생 입장에서도 유해할 수 있는 대화 내용이 고스란히 표시되면서 논란이 일기도 했다.

이는 제타 사용자가 직접 가상의 캐릭터를 만들 수 있기 때문으로 보인다. 사용자는 이 앱에서 캐릭터를 만들어 자신의 취향에 맞는 대화를 나눌 수 있다. 앞서 언급한 가출소녀도 대화를 거듭할수록 성범죄나 성적 상황을 나타내는 이야기로 흘러갔다.

그간 제타 출시 이후 사용자들이 AI 챗봇을 성적 대상으로 삼아 부적절한 대화를 이어가는 사례가 알려져 논란을 불러일으켰다. 한때 한 제타 사용자가 만든 일진녀 캐릭터를 굴복시키는 것이 하나의 과제처럼 퍼지기도 했다.

하지만 논란은 잠시 일었을 뿐, 제타 MAU는 지난 8월 기준 131만126명으로 정식 출시 이후 처음 100만명대에 진입했다.

제타는 사용시간에서도 성장세를 나타냈다. 와이즈앱에 따르면 제타는 20세 미만 사용자들이 지난 8월 한 달간 가장 오래 사용한 앱 10위를 차지했다.

제타 운영사 스캐터랩은 여름방학 기간에 접어들면서 10대 사용자 수와 사용시간이 늘어난 것으로 보고 있다. 이 기간 사용자가 입력한 대화 수는 8억건 가까이 되는 것으로 알려졌다.

업계 관계자는 "아무리 필터링을 한다고 해도 사용자들이 어떤 식으로든 악용하려고 시도한다면 유해성 있는 결과물을 100% 차단하는 것엔 한계가 있다"며 "연령 제한을 강화하거나 서비스를 하는 기업의 자율적 책임을 강조하는 것이 현시점에서 가장 현실적인 방안"이라고 말했다.

김대영 한경닷컴 기자 kdy@hankyung.com