인간만이 갖는 '상식' 알기 힘들어 … AI 발전에 큰 과제
AI, 부도덕한 게 아닌 무도덕 … 윤리 어긋난 행동 쏟아내
AI가 아직 인간에 비해 많은 한계가 있는 것으로 지적됐다.  AI 게티이미지

AI가 아직 인간에 비해 많은 한계가 있는 것으로 지적됐다. AI 게티이미지

인공지능은 산업혁명에 비교할 만큼 많은 분야에서 놀랄만한 혁신을 이뤄냈습니다. 인간의 지능과 역량을 뛰어넘는 분야도 있습니다. 하지만 아직 인공지능은 갈 길이 멉니다. 근본적인 한계를 내포하고 있습니다. 미국 포브스가 꼽은 인간만 할 수있고 AI가 할 수 없는 네 가지 역량을 정리했습니다.

① '상식'을 모른다
인간이 경험을 통해 이해하는 세상의 상식은 너무나 많습니다. 우유는 유리컵에 마시고 식사는 세 차례 하는 것은 바로 상식입니다. 2~4세에 학습하는 내용들은 책에 나오지도 않습니다. 머신러닝과 심층 신경망은 이러한 모델을 만들지 못합니다. 한 기업가가 최첨단 언어 모델인 GPT-3에게 토스터 기기와 연필중 어느 게 무거우냐고 질문한 결과 GPT-3는 연필이 무겁다고 했습니다. 이미 상식이 인공지능의 가장 취약하고 암울한 문제라고 결론 내리는 전문가도 있습니다. 과연 인간이 '상식'을 인공지능에 학습시킬 수 있을지 궁금합니다.

② 지속적 학습과 적용을 하지 못한다
전통적 AI의 구현과정은 크게 두 가지입니다. 대상을 학습하고 다른 대상에 적용하는 것입니다. AI 모델은 특정 사업을 수행하는 방법을 학습하기 위해 기존 데이터를 수집합니다. 학습 단계가 완료되면 모델의 매개 변수를 고려합니다. 그런 다음 데이터에서 학습한 내용을 기반으로 새로운 데이터에 대한 통찰력을 가지게 됩니다. 하지만 상황이 변하면 AI는 다시 새 데이터로 학습과 적용과정을 반복해야 합니다.
인간은 변화하는 환경에서 지속해서 데이터를 입력해 실시간으로 훈련하고 적용합니다. 지속적 학습과 평생 학습이 가능한 이유입니다. AI는 새 정보가 이전 지식을 방해하거나 완전히 바꿔버리면 치명적인 망각이 발생합니다. 학자들은 이런 지속 학습에 AI를 노출하려 하고 있습니다. 앞으로 지속 학습이 인공지능 아키텍처의 중요한 구성 요소가 될 것으로 보입니다.
AI는 모기가 말라리아 유발 추론 못한다
③원인과 결과 이해 못한다
기계학습은 패턴 인식에서 탁월한 성과를 보입니다. 하지만 AI는 패턴의 기반이 되는 인과적 메커니즘을 이해하는 데엔 아주 약합니다. 사람들은 꽃병을 떨어뜨리면 꽃병이 산산조각이 나고 커피를 마시면 활력이 생긴다는 사실을 인과적 추론으로 자연스레 인지합니다. 모기와 말라리아가 함께 발생한다는 사실을 인지해도 AI는 모기가 말라리아를 유발한다는 추론에 도달하기가 힘듭니다. 많은 학자가 최근 원인과 결과를 이해하고 추론하는 AI 개발에 도전하고 있습니다. 이 도전에 대한 성과가 정교한 인공지능을 개발하는데 열쇠가 될 것입니다.

④ 윤리적이지 못하다
한국에서 이루다 사건과 같은 AI 윤리 문제가 각국에서 논란이 되고 있습니다. 문제는 AI가 부도덕한 게 아니라 무(無)도덕적이라는데 있습니다. AI는 인종차별적이고 성차별적이지는 않습니다. 하지만 무의미한 통계 분석의 결과로 윤리와 동떨어진 발언을 합니다. 잘못된 AI의 위험이 직접 표면화되면서 윤리적으로 인공지능을 구축하는 게 인공지능 학계 및 업계에서 중요한 우선 순위가 되고 있습니다.
오춘호 연구위원

ⓒ 한경닷컴, 무단전재 및 재배포 금지