[천자칼럼] 일상 위협하는 'AI 웜'

주로 땅속에 사는 벌레를 뜻하는 ‘웜(worm)’이라는 단어를 컴퓨터 프로그램에 빗대 처음 사용한 사람은 영국 공상과학(SF) 소설 작가 존 브러너다. 그는 1975년 소설 <충격파 라이더(The Shockwave Rider)>에서 네트워크를 자유롭게 넘나들며 스스로 복제하는 프로그램을 웜이라고 표현했다. 다른 컴퓨터를 옮겨 다니며 증식하는 모습이 흙 속 벌레를 연상시킨다.

소설 속 이야기는 몇 년 뒤 현실이 됐다. 1980년대 초 미국 제록스 팰로앨토연구소(PARC)의 컴퓨터 과학자 존 쇼치와 존 허프는 네트워크로 연결된 컴퓨터의 남는 자원을 활용하기 위해 스스로 다른 컴퓨터로 이동·복제하는 프로그램을 개발했다. 두 사람은 1982년 미국컴퓨터학회 학술지에 발표한 논문에서 이 프로그램을 웜이라고 불렀다. 브러너의 소설에서 명칭과 아이디어를 따온 것이다.

웜은 ‘버그’ ‘바이러스’와는 작동 방식이 다르다. 버그는 시스템 자체의 오류와 결함을 뜻한다. 다른 곳으로 확산한다는 전파의 의미는 없다. 바이러스는 정상 파일이나 프로그램에 달라붙어 퍼진다. 숙주가 필요하다는 점에서 웜과 차별화된다.

미국 인공지능(AI) 기업 앤트로픽이 최근 연구 보고서를 통해 이른바 ‘AI 웜’이 새로운 사이버 보안 위협으로 떠오를 수 있다는 경고 메시지를 내놨다. AI가 스마트TV와 오븐 등 가정용 기기를 넘나들며 감염시킬 수 있다는 것이다. 저가 가전과 보안 업데이트가 끊긴 사물인터넷(IoT) 기기 등을 통로로 삼아 점균류처럼 세력을 확장해 나가는 방식이다.

대형 데이터센터에 기반한 AI 서비스가 수많은 일상 기기로 퍼져나가면 통제는 한층 어려워진다. 중앙 서버를 차단하는 것만으로 확산을 막기 힘들기 때문이다. 해킹으로 인한 데이터 유출은 물론 각종 기기의 제어권마저 빼앗길 수 있다.

제프리 힌턴, 요슈아 벤지오 등 세계적 석학 400여 명이 어제 공동서한을 통해 최첨단 AI 모델의 외부 네트워크 격리와 국제관리기구 설립을 촉구한 것도 이 같은 통제 불능의 위험을 우려해서다. AI 웜이 일상을 위협하기 전에 안전망을 구축해야 한다.

안정락 논설위원 jran@hankyung.com