미국 노스캐롤라이나주 채플힐에서 지난 2일 열린 G20 혁신장관회의 밖에서 시위대가 인공지능 규제를 촉구하는 팻말을 들고 있다. 사진=REUTERS
미국 노스캐롤라이나주 채플힐에서 지난 2일 열린 G20 혁신장관회의 밖에서 시위대가 인공지능 규제를 촉구하는 팻말을 들고 있다. 사진=REUTERS
인공지능(AI)이 인간의 통제를 벗어나 인류를 위협할 수 있다는 불안이 미국에서 가정과 직장, 정치권으로 번지고 있다. 온라인과 실리콘밸리에서 주로 다뤄지던 논쟁이 일상 화제로 떠오르면서 기업들도 AI 도입과 위험관리 방식을 돌아보고 있다.

12일(현지시간) 월스트리트저널(WSJ)에 따르면 불안을 키운 계기는 앤트로픽을 떠난 연구원 제이컵 콕슨의 경고였다. 콕슨은 통제를 벗어난 AI가 문명을 파괴할 수 있다고 주장했고, 그와 동료 연구원의 게시물은 수억회의 조회수를 기록했다. AI 감시 카메라 확산과 자율 해킹, 데이터센터 건설, 일자리 감소를 둘러싸고 쌓였던 우려에 불을 붙인 것이다.

마이크로소프트 임원 출신인 조시 고트하이머 민주당 연방 하원의원은 이번 주 시민과 동료 의원들에게 AI 관련 질문을 거듭 받았다며 인류의 존립을 위협할 수 있다는 불안이 임계점을 넘었다고 평가했다. 관련 위키피디아 문서 조회수도 10배 넘게 늘어 역대 최고치를 기록했다.

기업들은 이런 불안이 AI 활용을 가로막을지 주목하고 있다. 컨설팅업체 섹션의 마이클 도마닉 AI 책임자는 "경영진들이 직원들의 공포가 사내 AI 도입에 미칠 영향을 고민하기 시작했다"고 말했다. 퓨리서치센터 조사에서는 올해 초 미국 성인의 약 절반이 챗봇을 사용해봤다고 답했다. 2024년보다 약 50% 늘어난 수준이다.

의료기기 제조업체의 규제 준수 업무를 자동화하는 소프트웨어 기업 케트릭스의 에레즈 카민스키 최고경영자(CEO)도 이번 주 통화한 고객의 절반가량이 AI 불안을 언급했다고 밝혔다. 의료 분야에서는 오류나 보안 침해가 잘못된 약물 주입이나 데이터베이스 해킹으로 이어질 수 있기에 회사 직원들은 위험관리 체계를 전면 재점검하기로 했다.

사이버보안업체 퀘스트소프트웨어의 라케시 샤 제품 담당 부사장도 앤트로픽 연구원들의 경고와 오픈AI의 허깅페이스 해킹 사례 이후 고객과의 대화가 달라졌다고 말했다. 공격받지 않거나 해커의 침입이 실패할 것이라는 가정에서 벗어나, 실제로 시스템이 뚫렸을 때 어떻게 대응할지 준비하기 시작했다는 것이다.

AI 안전 연구단체에는 기부도 몰리고 있다. 비영리단체 팰리세이드리서치의 제프리 래디시 사무총장은 "이번 주 개인 기부가 이례적으로 늘었다"며 "4만달러를 보낸 기부자도 있다"고 했다.

다만 AI가 인류 멸종을 초래할 것이라는 전망에 전문가들이 모두 동의하는 것은 아니다. 그런 능력을 갖출 가능성을 인정하더라도 실제 발생 확률은 낮거나 사전에 막을 수 있다고 보는 이들도 있다. 기업 경영자 중에도 종말론에 거리를 두는 이들이 많다. 기술기업 투자자이자 경영 코치인 숀 번스는 "CEO들이 AI의 오류를 자주 접하는 만큼 인류를 위협할 정도로 강력한 기술이라는 주장은 현실과 동떨어졌다고 느끼기도 한다"고 말했다.

트럼프 행정부와 기술업계 일부 인사들은 AI 안전 연구단체들이 콕슨의 퇴사와 발언 확산을 함께 준비해 자신들에게 유리한 규제를 끌어내려 했다는 의혹도 제기했다. 연구단체와 AI 기업 직원들의 과거 관계를 근거로 든 것이다. 앤트로픽과 오픈AI는 안전 문제와 규제 필요성을 실제 위험에 대한 우려에서 제기하고 있다고 밝혀왔다.

콕슨은 비슷한 이유로 다른 AI 기업을 떠난 사람들과 상의했지만, 퇴사는 자신의 결정이었다고 반박했다. 그는 "게시물이 이처럼 퍼질 것이라고 누구도 예상하지 못했다"며 "누군가 인위적으로 만들어낼 수 있는 반응이 아니다"라고 강조했다.

오세성 기자 sesung@hankyung.com