“막아놨다더니 다 뚫렸네”…청소년 음란물, AI가 실시간 차단한다

디벗 우회·성인방송 무방비 노출 논란 속
윌리소프트, 화면 직접 보는 ‘라이브 AI 블라인드’ 공개

청소년 스마트기기 교육사업 ‘디벗’망을 우회해 불법 콘텐츠나 성인방송 채널에 접근하는 청소년들을 막기 위한 솔루션이 최근 등장했다. 윌리소프트는 인공지능(AI) 기반 음란물 차단 서비스인 ‘라이브 AI 블라인드’를 개발했다고 30일 발표했다.

윌리소프트는 수십만장에 달하는 데이터를 확보한 뒤 AI로 학습시켜 3년간 개발한 음란물 차단 엔진 ‘라이브 AI 블라인드’를 공식 출시할 예정이다.

이 서비스는 디지털기기 화면 자체를 하나의 객체로 인식해 AI가 초당 4번에서 60번까지 화면내 이미지를 바탕으로 음란물 여부를 판단한다. 음란물로 판단되면 화면을 알아볼수 없도록 흐리게 만들고 부모이나 교사 등 관리자에게 자동 연락한다.

그동안 교육청은 디벗 사업 등을 통해 청소년들에게 태블릿PC·노트북 등을 보급하고 교육 플랫폼에만 접속 가능토록 해 왔다. 하지만 최근 이를 우회하는 기술이 등장해 청소년들이 음란물 등에 무방비로 노출된다는 지적이 제기돼 왔다.

윌리소프트 관계자는 “성인방송플랫폼에서도 음란물 여부 판단과 보호 서비스 확보가 절실했다”며 “윌리소프트 기술은 단말은 물론이고, 네트워크 시스템 단에서 적용 가능해 효과적으로 우회를 저지할 수 있을 것으로 기대한다”고 말했다.

은정진 기자 silver@hankyung.com