"사람 행세하는 AI"…엑스에 수만건 '우수수'

SNS 플랫폼 엑스(X·옛 트위터)에서 인공지능(AI)을 이용한 가짜 계정 수백개가 조직적으로 '사람 행세'를 하며 특정 정치인과 정당과 관련한 글을 퍼뜨렸다는 연구 결과가 나왔다.

17일(현지시간) 미 NBC 뉴스가 보도에 따르면 미국 클렘슨대 연구진은 최근 발간한 연구 보고서에서 엑스 계정 최소 686개로 이뤄진 이러한 조직적 네트워크를 확인했다고 밝혔다.

해당 계정이 올린 글은 주로 최근 미국에서 진행된 4건의 상원의원 경선과 대선후보 경선 등에 관한 것이었으며, 트럼프 전 미국 대통령과 공화당을 지지하는 내용이었다. 이 계정들이 지난 1월부터 엑스에 올린 글은 13만건이 넘는 것으로 확인됐다.

클렘슨대 연구진은 이 계정들이 챗GPT와 같은 AI 챗봇에 사용되는 대형언어모델(LLM) 기술을 이용해 다른 이용자들과 소통을 이어갔다고 설명했다.

보고서에 따르면 해당 계정들은 극우 지지자들이 즐겨 쓰는 밈(meme·인터넷 유행 콘텐츠) 이미지나 십자가, 미국 국기 등을 프로필 사진으로 내걸고 정치적 이슈에 관한 다른 사람들의 게시글에 답글을 꾸준히 다는 식의 일관된 패턴을 보였다.

해당 계정들의 팔로워는 거의 없지만, 이미 사람들 사이에서 관심을 끌고 있는 게시글에 찾아가 답글을 다는 방식으로 활동했다.

클렘슨대 연구진들은 문제의 계정들이 올린 글 중 챗 GPT 등 AI 챗봇을 이용해 작성됐다는 것을 명시한 일종의 '오류'의 흔적을 발견하는 식으로 이를 확인했으며, 일부 계정들은 사람들이 거의 쓰지 않는 어색한 표현을 사용하기도 했다고 설명했다.

연구진은 이러한 AI 계정들로 이뤄진 조직적 네트워크를 운영하거나 자금을 대는 주체는 불분명하지만, 게시글의 내용이 미국 국내 정치에 집중돼 있으며 외국과 명확한 연관성이 없다는 점에서 외국 정부보다는 미국 내부 세력의 정치적 작전일 가능성을 시사한다고 짚었다.

이번 클렘슨대 연구에서 확인된 AI 계정들은 NBC가 엑스 측에 입장을 요청한 이후 대부분 삭제됐으며, 엑스 측은 이에 관한 질문에 답하지 않았다고 NBC는 전했다.

(사진=연합뉴스)


이휘경기자 ddehg@wowtv.co.kr