수학이 세상을 바꾼다

3일 'AI시대 융합교육' 토론회
기초 AI 수학설계 28년 걸렸다
10년 뒤 가상공간 벗어난 AI 등장
"30년 뒤엔 자유 의지 갖춘 '초인간 AI' 나온다"

“2050년엔 인간을 뛰어넘는 ‘초인공지능(superhuman AI)’이 나온다.”

3일 한국과학기술단체총연합회와 한국통계학회, 한국정보과학회 등이 주최하는 ‘AI시대의 융합교육’ 토론회에서 장병탁 서울대 컴퓨터공학부 교수(사진)가 내놓을 주장이다. 이번 토론회는 국내에서 AI를 어떻게 가르치고 연구할지 모색하기 위해 마련됐다.

과총 관계자는 “4차 산업혁명을 이끄는 AI, 로봇, 사물인터넷(IoT) 등 기술은 기존 학문 간 융합이 필수”라며 “수학과 통계학 등 정보과학을 기반으로 한 융합교육으로 패러다임의 변화가 요구되고 있다”고 말했다.

이날 기조강연에선 AI 곳곳에 수학이 깊숙이 자리한다는 사실을 다룰 예정이다. 장 교수는 토론회에 앞서 “자동프로그래밍으로서 기계학습과 딥러닝은 인간의 뇌 구조를 모방한 다층퍼셉트론신경망(MLP)으로 구현된다”고 설명했다. MLP는 인공신경망(ANN)의 일종이다. 수많은 입력값을 두고 가중치를 부여해 값을 줄여나가다 결국 일정 개수의 출력값을 내놓는데, 이 과정이 모두 함수 선형대수 미분 등 수학으로 구성된다는 설명이다. 정확한 출력값을 내기 위해선 중간중간에 ‘은닉값’을 배치하는 게 중요하다. 그는 “이 기초적인 수학적 설계를 완성하는 데만 1958년부터 1986년까지 28년의 시간이 걸렸다”고 덧붙였다.

자율주행차를 예로 들면 특정 도로 구간을 달리게 하는데 수천~수만 개의 해당 도로 구간 사진을 준다. 이어 운전 상황을 함수로 설계한 뒤 알고리즘을 가동하면 가속 또는 브레이크, 스티어링휠을 어떻게 돌릴지 결정하는 출력값 몇십 개가 나온다.

장 교수에 따르면 딥러닝으로 대표되는 강화학습엔 ‘벨만방정식’이라는 수학기법이 적용된다. 복합신경망 중 하나인 순환신경망(RNN) 역시 밑바탕을 들여다보면 전부 편미분방정식으로 구성돼 있다.

장 교수는 “AI 성능은 다변수와 다항식으로 구성된 목적함수를 어떻게 두느냐에 따라 성능이 달라진다”고 설명했다. 수학 기법에 따라 AI의 똑똑함과 멍청함이 갈린다는 뜻이다. 다만 항과 변수의 개수가 많다고 무조건 좋은 건 아니다. 그는 “AI 신경망 모델이 너무 복잡하면 과다학습이 나타나 오히려 에러가 많아진다”며 “수학적인 최적 설계를 하는 게 중요하다”고 강조했다.

그는 2030년 이후엔 현재처럼 디지털 가상공간에 머물러 있는 AI가 아닌, 물리적인 AI가 나올 것으로 내다봤다. 장 교수는 “2030년대엔 독자적 방법과 목표를 갖고 일하는 인간 수준의 AI가, 2050년대엔 자유 의지를 지니는 초인간 AI가 등장할 것”이라고 전망했다.

주요국 AI 인프라에 비해 국내 상황은 많이 뒤처져 있다는 게 전문가들의 공통된 분석이다. 독일 통계포털 스타티스타에 따르면 미국과 중국은 한국보다 각각 약 11배, 7배 많은 AI 전문인력을 보유하고 있다. 고급 인력으로 갈수록 격차는 더 벌어진다. AI 연구능력 상위 10% 이내 전문가는 미국이 5158명이고, 중국이 977명, 일본이 651명이다. 한국은 아직 통계조차 없다.

초·중·고 수학 교육과정 중 하나로 다뤄지는 통계교육을 개선해야 한다는 의견도 제시될 예정이다. 유연주 서울대 수학교육과 교수는 “수학과 통계의 본질적 차이를 반영하지 못한 교육 방식이 문제라는 목소리가 높다”며 “통계는 수학뿐 아니라 코딩, 컴퓨터과학과 함께 융합교육 과정으로 편성해야 한다”고 말했다.

이해성 기자 ihs@hankyung.com

ⓒ 한경닷컴, 무단전재 및 재배포 금지