이번 주 전 세계는 ‘PHP’ 취약점 때문에 떠들썩하다. 그럴 만도 하다. 이 취약점은 인공지능(AI)이 찾아낸 수많은 사이버 보안 결함 중 하나다. 세계 각국의 사이버 보안 전문가들은 해커들보다 한발 앞서 이런 결함을 해결하기 위해 필사적으로 노력하고 있다. 하지만 주목할 점이 있다. 지금 벌어지는 상황은 AI가 현실에 등장하기 전 공상과학적 상상에서 비롯됐던 공포와는 이미 다르다는 것이다. 당시에는 몇 가지 단순한 전제만으로도 수많은 충격적인 결론을 끌어낼 수 있었다.

인공초지능이 인간의 모든 통제 시도를 능가할 것이라는 주장을 기억하는가. 이유는 간단했다. 말 그대로 인간을 뛰어넘는 초지능이기 때문이라는 것이다. 이른바 ‘품(foom)’ 현상이 일어나 AI가 하룻밤 사이에 폭발적으로 발전하고, 우리가 알아차리기도 전에 인류를 지배하게 된다는 시나리오였다. AI가 다른 AI를 훈련하기 시작하면 이런 일이 벌어질 것이라고 했다. 이를 ‘재귀적 자기 개선(recursive self-improvement)’이라고 부른다.

하지만 현실은 다르게 전개된다. 한때 현실적으로 보였던 공포가 더 이상 그렇게 보이지 않게 된다. 알고 보니 AI 기업들은 자동화된 훈련 과정을 시작해 놓고 자리를 비웠다가 나중에 돌아와 무엇이 만들어졌는지 확인하는 식으로 일하지 않는다. AI가 폭발적으로 발전하는 이른바 ‘품’ 과정이 실제로 일어난다 해도 오래가지 못할 것이다. 필요한 반도체와 전력 공급을 빠르게 소진하면서 스스로 멈출 수밖에 없기 때문이다.

오픈AI 최고경영자(CEO) 샘 올트먼은 어쩌면 인류의 미래를 통제하지 못할지도 모른다. 그는 자기 회사조차 통제하지 못하기 때문이다. 올트먼이 보유한 회사 지분은 0%다. 오픈AI의 대표 챗봇도 그의 통제 아래 있다고 보기 어렵다. 이 챗봇은 올트먼에 대해 “사회를 재편할 수 있는 기술을 책임 있게 관리할 신뢰할 만한 인물인지에 관한 의문이 갈수록 커지고 있다”고 기꺼이 답한다.

이제 AI 시대에 가장 큰 기대를 모았던 기업공개(IPO)가 다가왔다. 하지만 블룸버그통신은 핵심을 놓친 채 관련 기사에 다음과 같은 제목을 붙였다. “앤트로픽, 오랫동안 기다려온 IPO 신고서에서 ‘실존적 위험’ 경고.”

그렇다. 이렇게 생각해 보자. 앤트로픽 주식을 샀다가 돈을 잃을 수는 있다. 하지만 인류의 운명이 멸종이라면, 그 주식을 사지 않는다고 해서 살아남을 수 있는 것은 아니다.

다행히 현실 세계의 사실들이 AI를 둘러싼 이야기의 전개에 영향을 미치기 시작했다. 정보기술 전문매체 디인포메이션의 마틴 피어스는 정부의 개입으로 인해 “앤트로픽이 자사의 최고 성능 모델을 출시할 수 있는 능력 자체가 점점 줄어들고 있다”고 지적했다.

AI에 반대하는 활동가 코너 리히는 “미토스(Mythos) 이후 워싱턴DC의 모든 것이 달라졌다”고 말했다. 미토스는 사이버 분야에서 매우 강력한 능력을 갖춘 모델이다. 앤트로픽은 지난 4월 이 모델을 시장에 공개하지 않을 수밖에 없다고 판단했다.

매사추세츠공대(MIT) 교수인 알렉산더 매드리는 최근 그만뒀던 오픈AI의 직장으로 예상 밖의 복귀를 했다. 그가 말하는 ‘AI 발전의 새로운 국면’에 참여하기 위해서다. 이 새로운 국면은 안전과 보안 문제를 중심으로 전개된다.

그렇다면 앤트로픽이 투자자들에게 전하려는 경고의 진정한 핵심은 무엇일까. 투자자들이 이제 미지의 영역에 들어서고 있다는 것이다. 사회가 이 새로운 기술을 어떻게 받아들이고 규제할지 아무도 알지 못한다. 그렇다고 걱정할 필요는 없다. AI가 인류를 멸종시킬 것이라고 경고했던 사람들은 조만간 AI가 실수로 당신의 이메일을 삭제하는 일이 벌어져도 “내가 그렇게 될 거라고 하지 않았느냐”고 말할 테니 말이다.

AI와 자주 비교되는 전기는 지난 세기에 정부와 국가안보 기구가 거대하게 팽창하기 전에 세상에 등장했다. 더욱 중요한 차이가 있다. AI는 사이버 분야가 미국 국방 및 국가정보기관의 임무 수행에 필수적인 핵심 영역으로 자리 잡은 시점에 등장했다는 사실이다. 사실상 이것만 알아도 충분하다. 사이버 분야가 얼마나 중요한지는 아무리 강조해도 지나치지 않다. 전 세계에서 방대하게 발생하고 계속 늘어나는 데이터의 흐름을 감시하는 일부터, 이제 완전히 디지털화된 미국 경제가 의존하는 데이터와 기반 시설을 보호하는 일까지 모두 여기에 달려 있다.

앤트로픽의 투자설명서에는 ‘인류에 대한 실존적 위험’이라는 표현이 세 번 등장한다. 반면 ‘국가안보’라는 표현은 22번 나온다. 앞으로 등장할 AI 모델들이 실험실에서 보여준 놀라운 능력만큼 실제로 강력하다면, 일반 대중에게 공개되더라도 워싱턴의 엄격한 통제를 받게 될 것이다. 의심스럽다면 주식시장을 보라. 세상의 종말에 대비하는 뚜렷한 투자 움직임은 나타나지 않고 있다. 그러나 미토스가 공개된 이후 사이버 보안 기업들의 주가는 줄곧 상승하고 있다.

이번 주 경제학자이자 오랫동안 AI를 열렬히 지지해 온 타일러 코언은 뉴욕타임스와의 인터뷰에서 명백한 현실을 인정했다. 그는 현재의 정치적 흐름에 대해 “우리의 국가안보기관과 국방부에 더 큰 비중을 두는 방향으로 움직이고 있다. 나는 그것이 전적으로 편안하지는 않지만, 결국 그렇게 될 수밖에 없다고 생각한다”고 말했다.

그렇다. 앤트로픽의 ‘신뢰할 수 있는 접근 권한(trusted-access)’을 가진 협력사들만 사용할 수 있는 초고도화된 도구를 일반인도 손에 넣을 수 있을 것으로 기대하지 말라. 여기서 신뢰할 수 있는 협력사란 정부의 승인을 받은 곳을 뜻한다. 첨단 AI가 세계 경제에 도입되는 과정은 점점 더 두 관료조직, 즉 미국과 중국의 관료조직에 의해 통제될 것이다.

하지만 이와는 별개의 현상이 여전히 존재한다. 갈수록 정교해지는 챗봇을 누구나 이용할 수 있다는 사실이다. 이런 챗봇은 사용자를 대신해 행동하는 실행 주체가 아니라 조언자 역할을 한다. 따라서 정부의 제약을 받을 가능성이 상대적으로 작다. 미국에서는 수정헌법 제1조가 보장하는 표현의 자유도 그 이유 중 하나다. 이는 우리가 생각하는 것보다 훨씬 더 큰 혁명일 수 있다.

왜 그럴까. 인간은 큰 두뇌를 가진, 사회성이 매우 강한 유인원이다. 그리고 이 두 가지 특성은 영원히 긴장 관계에 놓여 있었다. ‘벌거벗은 임금님’ 우화나 행동경제학의 여러 발견을 통해서도 이런 사실을 알 수 있었을 것이다. 앞으로의 발전이 극적으로 나타나지는 않을 수도 있다. 심지어 무의식적으로 느껴질 정도로 미묘할 수도 있다. 하지만 사회 전체의 집단적 사고 과정을 개선할 수 있는 가능성은 매우 크며, 아직 거의 탐구되지 않았다. 우리에게 도움이 필요하다는 것은 분명하다. 그리고 민주주의가 인구구조, 재정, 국가안보, 그리고 그렇다, 기술 분야의 만만치 않은 도전에 직면한 바로 이 시점에 그 도움이 도착하고 있는지도 모른다.

*이 글은 2026년 10월 28일 자 월스트리트저널(WSJ) 인쇄판에 ‘Anthropic Isn’t the End of Man’이라는 제목으로 게재됐다.

*필자인 홀먼 W. 젠킨스 주니어(Holman W. Jenkins, Jr.)은 WSJ 오피니언 칼럼니스트다. 그는 매주 수요일과 토요일, 주 2회 신문 오피니언면에 게재되는 ‘비즈니스 월드(Business World)’ 칼럼을 집필하고 있다. 젠킨스는 1992년 5월 뉴욕에서 월스트리트저널 논설면 필진으로 입사했다. 1994년 2월에는 홍콩으로 자리를 옮겨 아시안월스트리트저널의 논설면 편집장을 맡았다. 1995년 12월 미국으로 돌아와 월스트리트저널 논설위원으로 활동했으며, 당시 샌프란시스코에 근무했다. 1997년에는 뛰어난 기업·금융 분야 보도로 제럴드 로브상(Gerald Loeb Award)을 수상했다. 필라델피아에서 태어난 젠킨스는 호바트 앤드 윌리엄 스미스 칼리지에서 학사 학위를, 노스웨스턴대에서 언론학 석사 학위를 받았다. 1991년에는 미시간대 저널리즘 펠로로 선정됐다.

정리=김주완 기자