[양준영 칼럼] 'AI 종말론'에 대처하는 자세
‘인공지능(AI) 종말론’이 세계를 강타하고 있다. AI가 인간 통제를 벗어나 인류의 생존을 위협할 것이라는 경고다. 새로운 이야기는 아니다. AI 석학과 연구자들이 비슷한 주장을 여러 차례 내놨지만, 당장 실현 가능성이 낮은 미래의 이야기로 치부됐다.

최근 들어 분위기가 달라졌다. 앤트로픽 연구자가 “10년 내 AI가 인류를 멸종시킬 확률을 10% 이상으로 본다”고 경고한 데 이어 세계 최상위 AI기업 수장들이 개발 속도를 늦추자고 한목소리를 냈다. 미국 중간선거를 앞두고 정치 쟁점으로 떠오르면서 논쟁은 AI업계 내부를 넘어 확산하고 있다.

AI기업 CEO들은 얼마 전까지만 해도 주요 20개국(G20) 기술장관회의에서 AI에 대한 규제를 반대했다. 이들이 신중론으로 돌아선 이유로는 기업공개(IPO)를 앞둔 마케팅, 후발업체를 배제하기 위한 ‘사다리 걷어차기’ 등 여러 추측이 나온다. 하지만 통제 불능 AI에 대한 위기감이 가장 크게 작용했다는 분석이 틀리지는 않을 것이다.

자고 나면 진화하는 게 AI의 능력이다. 일부 영역에선 이미 인간을 능가했다. 오픈AI는 AI 에이전트 1만 개를 투입해 수학계 대표 난제인 ‘나비에-스토크스 방정식’의 해법을 제시했다. 이 회사 최신 AI 모델은 인간 인증 테스트 48단계를 통과해 인간과의 경계를 허물었다.

문제는 AI의 자율적 작업 능력이 급격히 향상되면서 일탈 우려가 커졌다는 점이다. 지난 7월 오픈AI의 AI 에이전트가 사이버 보안 테스트 중 통제를 벗어나 다른 AI 플랫폼 허깅페이스를 해킹한 사건 이후 AI 통제는 현실적 문제로 떠올랐다. AI가 스스로 성능을 개선하는 ‘재귀적 자기 개선(RSI)’ 단계에 들어서면 안전장치를 마련하기도 전에 초인공지능(ASI)으로 진화할 수 있다. AI의 지적 능력이 인류 전체의 능력을 뛰어넘는 기술적 특이점도 앞당겨질 전망이다. 영화 ‘터미네이터’ 속 AI 스카이넷의 반란은 공상과학이 아니라 현실이 될지도 모른다.

하지만 AI 개발 속도를 늦추자는 주장이 실현 가능한지 의문이 남는다. 도널드 트럼프 미국 대통령의 말을 빌리지 않더라도 AI 개발이 중단될 가능성은 기대하기 어렵다. AI기업 수장들의 속도 조절론도 실행방식 등에 있어 구체성이 떨어진다는 지적이 나온다. 역사적으로도 인류가 혁신적 기술의 발전을 온전히 멈춰 세운 적은 없다. 선의로 개발 속도를 늦추면 규제를 우회하는 경쟁자에게 기술 통제권을 넘겨줄 수 있기 때문이다. AI 패권 경쟁을 벌이고 있는 미국과 중국이 죄수의 딜레마에 빠진 이유다.

미국의 원자폭탄 개발도 나치 독일이 먼저 만들 수 있다는 우려에서 출발했다. 히로시마·나가사키 원폭 투하의 참상은 국제원자력기구(IAEA), 핵확산금지조약(NPT)의 시발점이 됐다. 현재 AI 국제 거버넌스는 권고 수준이고, 미국 중국 유럽 등의 규제는 제각각이다. AI 기술 역시 핵무기처럼 재앙이 현실화하기 전에 국제적인 통제 체계를 구축해야 한다는 목소리가 높다.

한국은 메모리 반도체 경쟁력을 바탕으로 글로벌 AI 생태계에서 핵심 위치를 차지하고 있다. AI 안전 기준을 세우는 글로벌 논의에 적극 참여해 목소리를 내는 것이 필요하다. 하지만 AI 종말론에 대처하기 위해서는 통제가 가능한 더 나은 AI 기술을 확보하는 것이 중요하다. AI가 만든 가짜를 더 정교한 AI가 가려내고, AI를 악용한 사이버 테러를 AI 보안 시스템이 방어하는 식이다. AI의 안전성을 감시·통제하는 것도 기술적 고도화 없이는 달성할 수 없다. 우리가 강점을 지닌 제조 특화 AI에 안전성까지 강화해 경쟁력을 높이는 전략이 필요하다.