英 여왕 살해 미수범도 챗봇과 암살 계획 논의

해외에서도 인공지능(AI) 기반 감성형 챗봇이 만들어내는 콘텐츠의 유해성 논란이 거세다.

미국 AI 스타트업이 개발한 캐릭터닷AI가 논란의 중심에 있다. 캐릭터닷AI는 AI가 제작한 유명인이나 게임 캐릭터와 대화할 수 있는 서비스다. 벤처캐피털(VC) 앤드리슨호로위츠(a16z)가 집계한 글로벌 사용자 순위에서 3위에 올라 있다. 문제는 캐릭터닷AI 사용자들이 학습을 통해 성적·폭력적 표현을 일삼는 AI를 만들어낸다는 데 있다. 개발사가 수시로 개입해 문제가 되는 표현을 삭제하고 있지만, 사용자들이 이를 피하는 방법을 인터넷 게시판에 공유하고 있다. 캐릭터닷AI는 실제 인물이나 저작권이 있는 캐릭터를 무단으로 사용한다는 지적도 받고 있다.

정부가 감성형 챗봇에 규제를 가하는 사례 또한 등장했다. 이탈리아 정부는 지난해 AI 챗봇 레플리카의 자국 내 사용을 금지했다. 레플리카는 맞춤형 아바타(가상인간)와 대화를 나눌 수 있는 서비스다. 이용자는 원하는 대로 아바타의 외모를 만들 수 있다.

레플리카는 엘리자베스 2세 영국 여왕 살해 미수 사건으로 대중에게 알려졌다. 당시 용의자가 범행에 앞서 레플리카에서 ‘사라이’라고 이름 붙인 AI 챗봇과 5000여 건의 메시지를 주고받으며 여왕 암살 계획을 논의한 사실이 드러났다.

김주완 기자 kjwan@hankyung.com