이종관 성균관대 철학과 교수·하이브리드 미래문화연구소장
[철학교수의 AI 이야기 (4)] 테슬라 AI 데이의 빛과 그림자

철학의 역할에는 여러가지가 있다. 그중 하나는 다르게 생각할 수 있는 길을 여는 것이다. 당대가 추종하는 대세에 대해서도 문젯거리를 만드는 황당한 골칫덩어리 노릇, 그것이 철학자의 역할일 수 있다. 오늘날 그 대세를 이끌어 가는 견인차 중 하나가 테슬라다. 이 테슬라가 얼마 전 세계의 이목을 집중시킨 AI 데이를 열었다. 이럴 때 테슬라 AI 데이를 비판적으로 성찰해보는 작업이 철학의 책무가 아닐까. 물론 대세 추종자들의 반발을 감수하면서… .

테슬라는 기존 자율주행 자동차의 공식에 속했던 레이다와 라이다를 버리는 과감한 변신을 꾀했다. 대신 8개의 카메라를 통해 외부 교통 상황에 대한 시각이미지를 확보한 후, 이를 다시 3차원 벡터 좌표계의 데이타로 변환하여 시뮬레이션하는 길을 택했다. 현실 교통상황에 대한 일종의 디지털 트윈을 메타버스 형태로 구축하는 것이다. 이때 이미 도로에서 운용되고 있는 다수의 테슬라 자동차들은 단순 교통수단이 아니라 도로교통 상황에 대한 데이타 발생기 역할을 한다. 이 과정을 통해 모은 엄청난 양의 영상데이타는 서로 합성되어 실제 교통상황을 완벽하게 시뮬레이션하는 데 결정적 역할을 한다. 현실 교통 상황을 완벽하게 재현하기 때문이다. 여기서 끝이 아니다. 이렇게 재현된 디지털 트윈 교통상황에서 다시 테슬라의 완전주행시스템, 즉 FSD가 모든 예상 가능한 교통 상황을 가상 학습하고, 이를 통해 어떤 상황에도 대응이 가능한 완전한 자율주행 기능을 구현하게 된다는 것이 테슬라 측의 설명이다. 물론 이를 위해서는 초고속 초효율 기계학습 인공지능이 필수적이다. 이를 위해 곧 개발 완료할 지능이 '도조'라고 명명된 거대 인공지능이라고 테슬라는 설명한다.

이상이 단순화의 오류를 무릅쓰고 압축된 테슬라가 인공지능 데이에 과시한 새로운 완전자율 주행기술의 기본 아이디어다. 과연 도조라는 엄청난 인공지능의 지시로 작동하는 테슬라의 완전자율주행은 성공할 수 있을까?
카메라와 생물학적 인지활동
가장 기본적인 문제는 테슬라가 라이다를 포기하고 카메라를 통해 외부교통상황을 영상정보 데이터로 구축하려 한 결정이다. 테슬라는 이 결정이 임의로 내린 것이 아니라고 주장한다. FSD, 즉 완전자율 주행 시스템의 외부 교통 상황 인지 시스템을 생물학적 인지 패러다임에 근거했다는 것인데, 이 지점이 문제다. 테슬라에 따르면 외부 교통상황에 대한 가장 보편적인 생물학적 인지 모델은 객관적 물리세계로부터 생명체의 눈으로 시각정보가 입력되면 두뇌가 이 정보를 처리하여 시각 상이 정립되고 이에 대한 판단이 내려진다는 것이다. 그런데 상황 인지에 대한 생물학적 시각중심의 설명방식은 커다란 문제점을 내포한다. 특히 현상학적 존재-인식론의 입장에서 보면 다음과 같은 사실을 간과하고 있다.
생명체는 생존에 적합한 환경 내에서만 생존한다. 이 환경 내에서 일어나는 생명체의 인지활동은 그 생명체의 생존에 적합한 자극과 정보로만 구성되어 있다. 쉽게 말하면 인간과 진화론적으로 가장 근접해 있는 고릴라가 생존하는 환경에는 바나나는 존재해도 다이아몬드는 존재하지 않는다. 인간이 볼 때 고릴라 앞에 다이아몬드가 놓여 빛을 발하고 있어도 고릴라에게는 어떠한 실험적 조작을 하지 않는 한 다이아몬드로부터 발생하는 어떤 물리적 자극이나 정보도 무의미하다. 따라서 고릴라는 다이아몬드와 관계하는 어떤 행동을 취하지 않는다. 생명체의 시각인지과정은 생존에 적합한 환경을 구성하는 객체로부터만 자극과 정보를 입력 받을 뿐 그 환경을 구성하지 못하는 객체들의 존재는 사실상 존재하지 않는다. 바로 이것이 생명체의 눈과 카메라가 다른 점이다.

카메라는 앞에 전개되는 외부상황에서 빛을 반사하는 것들을 무차별적으로 촬영하여 영상정보를 수집한다. 하지만 생명체는 생존과 관계없이 펼쳐지는 무차별적 외부상황이 없다. 더 나아가 생명체는 생존 적합 환경에서 인지활동을 할 때 눈이라는 시각인지 기관에 전적으로 의존하지 않는다. 어떤 생명체의 경우 눈은 거의 액세서리에 가깝다. 그 생명체에게 시각정보는 사실상 없는 것이나 마찬가지라는 얘기다.테슬라는 AI 데이에서 카메라와 영상정보를 처리하는 기계학습 알고리즘 RNN을 설명하면서, 테슬라자동차를 생명체로 이해하고 생명체의 인지능력을 이뮬레이션한 것으로 소개하고 있다. 그러나 진정 테슬라가 자율주행자동차를 생명체로 설계한 것이라면, 생명체의 인지활동과 환경의 상호의존성에 대해 철저히 연구한 후 적용해야 할 것이다.
완전자율주행의 원리적 불가능성과 돌파구
또 다른 문제는 테슬라가 인간보다는 사고를 낼 확률이 낮은 자율주행기술을 개발할 수는 있어도 진정한 자율주행기술을 완성할 수 있는가 하는 점이다. 사실 모든 사고는 예상치 못한 요인으로 발생한다. 우리가 살고 있는 상황은 굳이 물리학적 메타포를 동원해 표현하면 '열린계'다. 이렇게 열린계에서는 사고 유발요인이 무한할 수밖에 없다. 사고 유발 요인을 완벽히 예측한다는 것은 원리적으로 불가능하다. 교통상황도 우리가 사는 열린 현실의 일부인 이상, 이 교통 상황에서 발생할 모든 사건을 예상하여 시뮬레이션한다는 것은 아무리 많은 데이터와 아무리 거대한 AI라 해도 원리적으로 불가능하다.
그렇다면 이 문제를 어떻게 돌파해야 하는가. 그것은 교통상황을 완벽하게 정의할 수 있는 닫힌계, 혹은 도메인으로 만드는 것이다. 그렇다면, 교통상황을 완벽하게 정의 할 방법은 무엇일까. 바로 교통상황에 유한수의 질서를 부여해 닫힌계로 규제하는 법규다. 교통상황의 예측 불가능한 발생요인은 셀 수 없이 많다. 행동을 예측하기 힘든 존재들이 대표적이다. 행동 예측이 불가능한 존재가 어떤 상황을 헤집고 다니면 그 상황은 열린계가 된다. 예측 불가능한 대표적 사례가 인간이다. 실제로 실험결과에 따르면 자율자동차와 인간 운행 자동차를 혼류 운행했을 때 자율주행자동차의 오류 발생 리스크는 훨씬 커진다. 따라서 인간이 운전하는 자동차를 운행 금지하면 일단 교통상황 예측블가능성의 한 요인이 제거된다. 그 다음 필수 단계가 교통상황을 규칙과 법규를 통해 완벽하게 정의할 수 있는 도메인으로 구성하는 것이다. 즉, 자율자동차들의 주행을 관제할 수 있는 정보교환시스템을 구축하는 작업이다. 예를 들면 현재 교통 법규와 신호체계는 인간 운전자의 문화사회적 인지능력에 최적화된 시각 문화적 기호체계로 고안되었다. 각종 교통표지판과 이정표가 바로 그것이다. 그러나 이런 교통상황 신호체계에서 자율주행자동차가 주행할 경우 오류가 생길 수 있다. 지난번 칼럼에서 언급한 바와 같이 자율자동차는 천체 물리현상인 밤하늘 달과 문화적 기호의미 현상인 노란색 신호등을 구별 못하는 오작동을 일으킬 수 있다. 모든 데이타를 디지털 신호의 양자화라는 전처리 과정을 거쳐 인식한 뒤 작동하기 때문이다. 좀 더 일반적으로 말하면, 디지털화라는 전처리 과정을 통해서만 연산능력을 발휘하는 인공지능은 물리 영역과 문화 영역, 혹은 도메인을 구별할 수 있는 영역 존재론적 통찰능력이 결여되어 있다.
디지털 신호 송수신 체계로 전면 교체해야
따라서 자율 자동차 운행을 결정하는 신호체계는 인간의 시각 문화 기호체계가 아니라 디지털 신호 송수신체계로 전면 교체해야 한다. 여기서 우리가 생각해야 할 문제는 다음과 같은 사태다. 자율자동차가 시각문화 기호체계인 이정표를 영상 정보화하여 인식하고, 거기에 쓰여 있는 문자와 거리를 해독함으로써 갈 길을 판단하게 하면 어떤 일이 벌어질까. 그러나 네비게이션을 통해 길을 찾아가는 방식은 인간이 이정표를 해독하고 방향을 결정하는 방식과는 전혀 다른 방식으로 진행된다. 내비게이션을 사용한다면, 사실상 이정표는 필요 없다. 대신 GPS 디지털 정보를 수신해 훨씬 효율적으로 길을 찾아간다. 결국 완전자율 주행이 가능하기 위한 기본 조건 중의 하나는 교통상황이 규칙이나 법규에 의해 완벽하게 정의될 수 있는 도메인으로 구성되어야 한다는 것이다. 동시에 이 규칙과 법규는 현재와 같은 교통신호등이나 이정표와 같은 인간의 시각 문화 기호체계가 필요하지 않는 디지털정보 송수신 시스템으로 구현되어야 한다.
FSD의 역설적 적용 가능성?
이번 AI 데이에서 테슬라가 기존 자율 주행 기술은 물론 인간운전 자동차보다 상대적으로 낮은 사고확률을 갖는 자율주행 기술의 진보 가능성을 보여 준 것은 분명하다. 그러나 상대적으로 그럴 뿐이다. 그들이 주장하는 완전자율주행은 교통상황 자체를 지능화하고 규제하여 닫힌계로서 변조하지 않고는 불가능하다. 한마디로 자율자동차의 완전자율 주행을 위해 도시 전체를 다시 건설해야 한다는 얘기다.
문제는 '미래 도시는 과연 자율주행자동차를 위해 존재해야 하는가'라는 의문이다. 마치 현대 도시가 자동차를 위해 존재했던 것처럼?
광범위한 사회적 합의가 필요한 문제다.

물론 테슬라가 이번에 선보인 새로운 FSD는 정녕 새로운 가능성을 열었다. 그런데 역설적으로도 새로 개발되는 반도체칩과 도조라는 거대 AI는 완전자율주행이 아니라 다른 영역에 응용하면 더 바람직할 수도 있다. 예를 들면 FSD 기술을 어떤 충돌도 피할 수 있는 완전자율자동차가 아니라 오히려 절묘한 방식의 적절한 빈도수의 충돌이 오히려 유의미한 영역에 적용하는 것이다. 그 영역은 무엇일까? 독자들의 상상력에 맡긴다.

이종관 성균관대 철학과 교수·하이브리드 미래문화연구소장

ⓒ 한경닷컴, 무단전재 및 재배포 금지