수백만 AI 초거대 집단지성’…인간 통제될까?

지금의 대형언어모델(LLM)은 인간보다 훨씬 더 많은 내용을 접해서 초인적인 지식을 갖게 됐습니다. 앞으로 등장할 인공지능(AI) 모델들의 적응력과 학습 능력도 초인적 수준이 될 것입니다. 하나의 AGI(인공일반지능)가 단순히 한 번에 하나씩만 학습하지 않을 것으로 예상합니다. 수백만 개의 VGI(가상 일반 지능)이 동시에 학습하게 되는 형태로 나타날 겁니다. 이 모델은 서로 시너지를 얻으며 학습할 겁니다. 특정 모델이 무언가를 배울 때마다 학습 내용은 즉시 다른 모든 모델과 공유될 것입니다.
-지난 12일 유튜브 채널 'ARC Prize'에서 프랑수아 콜레

프랑수아 콜레는 누구

프랑스 출신의 AI 연구자. '케라스 AI' 프레임워크의 창시자다. 전 구글 연구원이기도 하다. 최근 AGI(인공일반지능) 개발을 목표로 하는 AI 연구소인 'Ndea'를 설립했다. 이 연구소는 대규모 딥러닝 대신 딥러닝과 프로그램 합성을 결합해 인간과 비슷한 효율로 학습하고 적응하는 AI를 개발하는 것을 목표로 한다.

프랑수아 콜레가 하고 싶은 얘기는

현재 오픈AI의 챗GPT와 같은 LLM은 이미 '초인적인 지식'을 가지고 있다. 어떤 한 인간도 평생 읽을 수 없는 방대한 양의 텍스트 데이터를 학습했기 때문이다. 지식의 양에선 이미 인간을 뛰어넘었다. 콜레는 미래의 AI는 지식의 양뿐만 아니라 '학습하고 적응하는 능력'도 초인적인 수준이 될 것이라고 예측한다. 인간이 하나를 배우면 하나를 아는 방식과는 근본적으로 다를 것이라는 뜻이다.

하나의 AGI는 한 번에 하나씩 과제를 배우는 방식이 아닐 것이라고도 주장한다. 인간이 학습하는 방식이 비효율적이라고 지적이다. 대신 수백만 개의 AI들이 동시에 병렬적으로 학습하게 될 것이라는 전망이다. 예를 들어 한 AI는 물리학을, 다른 AI는 프로그래밍을, 또 다른 AI는 음악 작곡을 동시에 배운다. 수백만 개의 AI가 각기 다른 영역에서 동시에 학습을 진행한다. 이 학습들은 서로 무관한 것이 아니다. 시너지를 낸다. 물리학을 학습하며 얻은 통찰력이 프로그래밍 문제 해결에 도움을 주고, 음악 작곡에서 발견한 패턴이 수학적 문제를 푸는 데 영감을 줄 수 있다.

수백만 개의 AI 중 어느 하나가 무언가 새로운 것을 배우거나 깨닫는 순간, 그 지식과 경험이 즉시 네트워크로 연결된 다른 모든 AI에게 공유된다. 인간이 책을 쓰고 강의를 하고 수년에 걸쳐 지식을 전파하는 것과는 비교할 수 없는 속도다. 콜레가 말하는 미래 AI의 모습은 하나의 천재가 아니다. 모든 경험과 지식을 실시간으로 공유하는 '초거대 집단 지성'이다. 수백만 개의 AI가 각자의 영역에서 24시간 계속 학습한다. 하나의 AI가 얻은 깨달음은 0.1초 만에 수백만 개의 다른 AI에게 완벽하게 복제되고 공유된다.

콜레의 아이디어는 현재 기술 수준을 훨씬 뛰어넘는다. 이상에 가까운 가정을 전제로 한다는 지적도 나온다. AI의 지식 융합이 가장 큰 기술적 걸림돌이다. '하나의 모델이 배운 것을 모든 모델이 즉시 공유한다'는 구상은 실현되기 쉽지 않다. 신경망의 학습이란 수십억 개 매개변수(가중치)의 미세 조정이다. 서로 다른 과제를 학습한 두 모델의 가중치를 단순히 합친다고 두 능력이 모두 발휘되기 어렵다. 오히려 성능이 급격히 저하되는 일명 '파국적 망각' 현상이 발생할 수 있다.

엄청난 비용과 자원도 필요하다. 수백만 개의 고성능 AI 모델을 동시에 훈련하고, 이들 간의 데이터를 끊임없이 동기화하는 데 필요한 컴퓨팅 자원과 에너지의 규모를 가늠하기 어렵다. 극소수의 거대 기업은 시도할 수도 있을 것이다. 하지만 자원의 중앙집중화와 전력 소비 문제를 극도로 심화할 것이다.

무엇보다 '시너지'는 보장되지 않는다. 콜레는 병렬 학습이 서로에게 도움이 되는 '시너지'를 낼 것이라고 가정한다. 하지만 관련 없거나 심지어 상충하는 작업을 AI에 동시에 학습시키면, 유용한 지식이 아니라 오히려 '소음'만 증폭해 전체 시스템의 효율을 떨어뜨릴 수 있다. IEEE(미국전지전자학회)에 발표된 논문 ‘부정적 전이 현상에 대한 조사(A Survey on Negative Transfer)’에 따르면 도메인(개별 AI)이 다르면 기존 지식이 오히려 성능을 깎아먹는 경우가 빈번하다. 해당 과정에서 유용한 작업을 어떻게 선별하고 배분할 것인지 그것 자체도 또 다른 문제다.

지극히 현실적인 걸림돌도 있다. 바로 규제다. 지난 2일부터 시행된 EU의 AI법은 AI에 위험 관리, 안전성 평가, 투명성을 요구한다. 콜레 방식의 지속적인 대규모 업데이트는 해당 법의 '중대한 변경'으로 해당될 가능성이 크다. 그렇게 되면 AI 기업은 정부에 평가, 보고 등의 의무를 자주 해야할 것이다. 이는 AI 운영 속도를 늦추는 구조적 제약으로 작동한다.

이런저런 문제를 해결했다고 가정하자. 이런 AI 시스템은 인류가 통제하기 매우 어려울 가능성이 크다. 수백만 개의 AI가 상호작용하며 초인적인 속도로 학습한 AI 시스템은 인간이 예측하거나 이해할 수 없는 행동을 보이기 쉽다. AI 시스템이 스스로 인간의 의도와 다른 목표를 설정하고 행동할 때, 이를 감지하고 바로잡는 것은 거의 불가능할 것이다. 콜레의 비전은 AI 발전의 유일한 길은 아니다. 여러 가능성 중 하나다. 비판적으로 검토해야 할 중요한 '사고실험'으로 봐야 한다.

[AI 엑스파일은 글로벌 AI 산업, 학계 등의 최전선에서 AI를 고민하는 이들의 얘기를 전달합니다. 색다른 AI 이슈를 편하게 보시려면 기자 페이지를 구독해 주세요]

김주완 기자 kjwan@hankyung.com