제프리 힌튼 캐나다 토론토대 교수가 딥러닝의 신이론 'GLOM'을 발표했다.
제프리 힌튼 캐나다 토론토대 교수가 딥러닝의 신이론 'GLOM'을 발표했다.
인공지능(AI)과 딥러닝의 대부 제프리 힌튼 캐나다 토론토대 교수가 최근 공개한 새 논문(http://arxiv.org/abs/2102.12627)을 두고 관련 학계가 흥분에 휩싸였습니다. 그는 이 논문에서 인간의 뇌 신경과 시냅스와 관련있는 수리적 컴퓨팅시스템을 제안합니다. 인간이 갖는 직관으로 작동하는 컴퓨터 신경망을 설계하는 것입니다. 힌튼 교수가 딥러닝 이론을 소개한 지 10년 만에 발표한 논문입니다. 추후 연구에 따라 딥러닝의 확장판이 될지 아니면 새로운 AI 연구 장르가 열릴지는 알 수 없습니다.

힌튼 교수가 초점을 맞추고 있는 분야는 인간의 직관을 컴퓨터로 모델링하는 작업이라고 합니다. 미국 기술저널 테크놀로지리뷰도 이 분야를 집중 조명하고 있습니다. 직관(Intuition)은 인간의 인지 활동만큼 핵심적이고 민감한 부분입니다. 그는 인간이 직관을 통해 별다른 노력 없이 사물과 대상을 유추할 수 있다고 했습니다. 인간만이 갖는 가장 큰 능력입니다. 유추는 물론 비슷한 것에 기반을 두고 다른 대상과 사물의 속성과 기능 등을 추측하는 일입니다. 인간은 어릴 때부터 유추적 추론(analogical reasoning)을 사용해 대상과 사물의 개념과 속성에 대한 비슷한 점과 다른 점을 찾아 세상을 이해한다고 합니다. 이런 유추적 추론을 할 수 있는 힘이 바로 직관입니다. 힌튼 스스로도 자신이 직관을 활용해 일한다고 했습니다.

글롬, 벡터 활용해 사물의 전체와 부분 인식


이 직관을 컴퓨터로 모델링한다는 건 대단히 힘든 작업입니다. 힌튼 교수는 직관을 얻는 데 쓰이는 뇌 활동을 벡터의 작업에 비유합니다. 벡터는 정보를 코드화한 숫자들의 조합입니다. 3차원 벡터는 XYZ 좌표로 설명됩니다. 신경망에서 수천 차원의 벡터는 이미지나 단어들로 표현됩니다. 힌튼은 우리의 두뇌는 신경 활동의 큰 벡터라고 말합니다. 큰 벡터는 작은 벡터들과 계층적 관계를 맺게 됩니다. 그는 신경망이 어떻게 직관적인 유추적 추론을 하는지 설명합니다. 예를 들어 코의 일부만 보면서도 사람의 얼굴을 알아맞힐 수 있다는 것입니다.

그는 AI가 이런 직관의 기본이 되는 수천 차원의 벡터를 습득하는 일이 필요하다고 역설합니다. AI가 인간의 신경망과 마찬가지로 시각 정보를 처리하고 표현하는 직관을 배우는 것입니다.
힌튼 교수는 직관을 갖는 AI가 되기 위해 이처럼 인간의 두뇌를 복제하는 기법을 글롬(GLOM)이라고 명명했습니다. 글롬은 벡터를 활용해 사물의 부분과 전체의 관계를 인식하는 모델입니다. 컴퓨터 시스템이 결코 경험하지 못했던 일을 이해하는, 인간과 같은 사고를 할 수 있도록 하는 것입니다. 이 점이 딥러닝과 차별되는 것입니다.

당분간 완성 가능성 희박


힌튼은 당분간 글롬이 베이퍼 웨어(개발 중부터 요란하게 선전하지만, 실제로는 완성될 가능성이 없는 소프트웨어)가 될 것이라고 말합니다. 하지만 그는 이 글롬이 최후의 AI 모델이 될 것으로 봅니다.

2012년 힌튼은 딥러닝을 통해 명성과 부를 얻었습니다. 두 명의 학생과 함께 그는 대규모 이미지 데이터센터에서 물체를 인식하도록 훈련된 다층 신경망을 구현했습니다. 딥러닝은 컴퓨터비전과 함께 최근의 AI 혁명을 이끌었습니다. 힌튼은 딥러닝이 인간지능을 완전히 복제하는데 필요한 모든 것이어야 한다고 믿습니다. 글롬이 개발돼 실제로 작동한다면 현재의 딥러닝보다 훨씬 더 인간적인 방식으로 인식하는 AI가 될 것 같습니다.
오춘호 연구위원