/사진=게티이미지뱅크
/사진=게티이미지뱅크
청소년의 생성형 인공지능(AI) 이용이 일상화되는 가운데 초등학생도 생성형 AI를 통해 성인용 영상물을 접한 사례가 있는 것으로 조사됐다. 하지만 정부는 어떤 AI 서비스에서 이런 콘텐츠가 노출됐는지 파악하지 않고 관련 피해나 상담 건수도 따로 관리하지 않는 것으로 나타났다.

21일 국회 성평등가족위원회 소속 박지혜 더불어민주당 의원이 성평등가족부에서 제출받은 자료에 따르면 청소년의 생성형 AI 이용률은 49.9%였다. 2024년 '청소년 매체 이용 및 유해환경 실태조사'에서는 초등학교 4~6학년의 27.7%가 생성형 AI를 이용한 경험이 있다고 답했다.

생성형 AI를 통해 성인용 영상물을 접했다는 응답도 학교급별로 확인됐다. 초등학생은 1.4%, 중학생은 1.6%, 고등학생은 2.6%였다. 생성형 AI가 학습과 일상에서 빠르게 쓰이는 가운데 초등학생 단계에서도 성인용 콘텐츠 이용 경험이 나온 셈이다.

하지만 정부는 청소년들이 어떤 생성형 AI 플랫폼이나 서비스를 통해 성인용 영상물을 접했는지는 별도로 파악하지 않고 있다. 성평등가족부는 미디어 과의존 청소년을 대상으로 상담 서비스를 제공하고 있지만 생성형 AI 관련 피해나 상담 건수 역시 따로 구분해 집계하지 않는다고 밝혔다.

청소년 유해매체물로 지정된 생성형 AI도 현재까지 한 건도 없었다. 성평등가족부는 개인별로 생성되는 콘텐츠가 서로 달라 외부에서 모니터링하기 어렵고, 객관적인 유해성 판단 기준을 적용하는 데도 한계가 있다고 설명했다.

연령 확인 절차가 실제 차단 장치로 작동하는지도 점검이 필요하다는 지적이 나온다. 생성형 AI를 통한 성인용 영상물 이용 경험이 있다고 답한 청소년 282명 가운데 56.2%는 당시 나이 확인 절차를 거쳤다고 응답했다.

박 의원은 "생성형 AI는 이미 청소년의 학습과 일상에 폭넓게 활용되고 있다"며 "청소년이 생성형 AI를 안전하게 활용할 수 있도록 실효성 있는 연령 확인과 청소년 보호 기능 등 AI 환경에 맞는 보호체계를 마련해야 한다"고 강조했다.


홍민성 한경닷컴 기자 mshong@hankyung.com