이젠 목소리도 못 믿겠다…감쪽 같은 'AI 보이스피싱'

SNS에 올린 동영상 속 목소리 이용
전문가 "3초짜리 샘플로도 목소리 변조 가능"

사진은 기사 내용과 무관함./사진=게티이미지뱅크

보이스피싱 범죄에 인공지능(AI)이 악용되는 사례가 나왔다. 사회관계망서비스(SNS)에 올린 동영상 속 목소리를 이용해 실감나는 사기 행각으로 가족과 지인에게 몸값을 요구하는 방식이다.

12일(현지시간) 뉴욕포스트에 따르면 미국 애리조나주에 사는 제니퍼 데스테파노는 '딸을 납치했다'는 전화 한통을 받았다. 납치범은 딸의 몸값으로 100만달러(약 13억원)을 요구했다.

당시 수화기 너머로는 딸 브리아나 데스테파노의 절규가 이어졌다. 제니퍼는 딸 브리아나가 친구들과 함께 스키여행을 갔다는 사실을 알고 있었지만 겁에 질려 울부짖는 딸의 목소리에 충격을 받았다.

납치범은 "여기 당신의 딸이 있다"며 "네가 경찰이나 지인에게 신고한다면 나는 당신 딸의 장기에 마약을 가득 채울 것"이라고 협박했다.

제니퍼는 납치범과의 협상을 통해 브리아나의 몸값을 5만달러(약 7000만원)로 낮췄고 돈을 마련하기 위해 움직이고 있었다. 그러나 당시 제니퍼와 함께 있던 지인이 보이스피싱을 의심하기 시작했다.

그 덕분에 제니퍼는 911에 신고 접수를 했고 무사히 놀고 있는 브리아나와 통화할 수 있었다. 납치범의 전화가 보이스피싱이라는 사실도 알게 됐다.

전문가들은 AI를 활용한 보이스피싱 범죄가 증가할 것이라며 주의를 당부했다. 수바리오 캄밤파티 애리조나주립대학 교수는 "예전에는 AI가 사람의 목소리를 복제하기 위해 충분한 길이의 샘플을 필요로 했다"며 "반면 이제는 단 3초짜리 샘플로도 목소리를 변조할 수 있다"고 설명했다.

이현주 한경닷컴 기자 wondering_hj@hankyung.com