"18년 전 사망한 딸이 챗봇으로"…'대화형 AI' 악용 우려 커

누군가 딸 졸업 사진 무단 도용해 제작
WP "대화형 AI 악용 사례 속출하고 있어"

기사의 이해를 돕기 위한 이미지 / 사진=게티이미지 뱅크

과거 참혹하게 살해당한 딸의 이름과 사진을 도용한 인공지능(AI) 챗봇이 나오는 등 대화형 AI의 악용 사례가 속출하고 있다는 외신 보도가 나왔다.

15일(현지시간) 미 일간 워싱턴포스트(WP)는 점점 대화형 AI가 확산하면서 실존 인물의 신상이 무단 도용되는 사례가 늘고 있다고 보도했다.

보도에 따르면 미국 조지아주 애틀랜타에 거주하는 드루 크레센트는 지난 2일 갑자기 뜬 구글 알림을 보고 경악했다. 지난 2006년 2월 18세의 나이로 전 남자친구의 총에 맞아 사망한 딸 제니퍼의 이름과 사진을 도용한 챗봇이 등장했기 때문이다.

해당 챗봇은 AI 스타트업 '캐릭터.ai' 웹사이트에 공개된 것으로, 누군가가 제니퍼의 실명과 생전 찍었던 졸업사진을 무단으로 복제해 만든 것으로 드러났다. 고인인 제니퍼는 챗봇 안에서 '비디오게임 저널리스트이자 기술, 대중문화, 저널리즘 전문가'인 AI 캐릭터로 표현돼 있었다. 이 챗봇은 불특정 다수와 대화를 나눌 수 있도록 설정된 것으로 전해졌다.

캐릭터.ai는 구글 출신들이 공동 설립한 회사로 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 기술을 제공한다. 이용자는 직접 사진이나 음성 녹음, 짧은 글을 올려 챗봇을 만들 수도 있다.

딸의 사망을 계기로 청소년 데이트 범죄 예방 단체를 설립해 활동해 온 크레센트는 이를 업체에 바로 신고했다. 업체는 삭제 등의 조처를 내렸다고 밝혔다.

WP는 이 사건을 두고 전문가 사이에서 방대한 양의 민감한 개인 정보를 다루는 AI 업계가 개인을 보호할 능력과 의지가 있는지 우려가 커지고 있다고 평가했다.

성진우 한경닷컴 기자 politpeter@hankyung.com