사진=AP
사진=AP
AI 덕분에 사기꾼들이 고객을 사칭하고 금융회사에 보다 정교한 공격을 하는 사례가 확산되는 것으로 나타났다.

블룸버그와 마켓워치 등 외신에 따르면, 미국 재무부는 27일(현지시간) 발표한 보고서에서 “금융 서비스가 사이버 보안 위협과 AI를 이용한 사기에 점점 더 많이 노출되고 있다”고 밝혔다.

재무부는 AI의 발전으로 범죄자가 딥페이크 기술 등을 이용해 고객을 사칭하거나 계정에 액세스하는 경우가 늘고 있다고 지적했다. 또 생성AI를 이용해 더 정교하게 금융회사 시스템을 모방하고 이메일 피싱 공격을 수행하고 있는 것으로 나타났다.

FBI의 인터넷 범죄 신고 센터는 2023년에 88만건 이상의 신고를 접수했으며 잠재적 손실액도 전년보다 22% 급증한 125억달러(16조8,750억원)를 넘어섰다.

재무부가 인터뷰한 금융 기관들은 특히 악의적 행위자가 사기 방지 프로토콜을 방해하기 위해 직원이나 고객을 사칭할 수 있는 딥페이크 기술에 대해 가장 우려한다고 밝혔다. 또 챗GPT같은 생성 AI 기술을 통해 외국 공격자가 피싱 이메일을 더 그럴싸하게 써서 피해자를 속이는데 사용할 수 있다고 경고했다.

사우스 차이나 모닝 포스트는 지난 달 홍콩에 본사를 둔 한 다국적 기업이 사기꾼들이 이 회사 최고 재무 책임자(CFO)가 여러 건의 송금을 명령하는 모습을 보여주는 딥페이크 비디오로 2,600만 달러를 사기당했다고 보도했다.

넬리 량 재무 차관은 성명서를 통해 "인공지능이 금융 서비스 부문의 사이버 보안과 사기를 재정의하고 있다"고 지적했다.

이에 따라 재무부는 금융회사간 격차를 해소하기 위한 불법 활동에 대한 정보 공유 등 금융 서비스 업계가 협력해 새로운 모범 사례를 수립할 것을 촉후했다.

이 보고서는 조 바이든 미대통령이 연방 부처와 기관에 업계와 협력하여 AI 기술로 책임있는 혁신을 위한 행정 명령에 서명한 후에 작성됐다.

김정아 객원기자 kja@hankyung.com