[MZ 톡톡] 확신이 환각이 될 때
“너 J야?” 약속 장소를 일찌감치 정하거나 여행 일정을 촘촘하게 짜는 사람에게 흔히 하는 말이다. MBTI의 J(Judging)는 계획적이고 체계적으로 결론을 내리는 경향을 의미한다. 계획을 세우고 선택지를 미리 정리하는 것은 효율적인 생활 방식이지만, 그 이면에는 결정되지 않은 상태를 빠르게 해소하고 싶은 마음도 공존한다.

우리는 대체로 불확실성을 빠르게 없애고 싶어 한다. 그래서 해외여행에서 계획하지 않은 변수를 마주하면 심리적 부담을 느끼기도 하고, 생필품 하나를 구입하기 전에도 더 나은 선택을 위해 수십 개의 후기를 살펴본다. 양질의 정보가 많을수록 더 정확한 판단에 가까워질 수 있기 때문이다.

문제는 정보 획득을 곧 불확실성의 해소라고 생각할 때 발생한다. 신뢰도와 진위를 확인하지 않은 정보는 오히려 정확한 판단을 방해할 수 있기 때문이다. 극단적인 사례가 생성형 AI의 환각(hallucination) 현상이다. AI는 사실이 아닌 내용을 그럴듯한 답으로 생성하기도 한다. 존재하지 않는 논문이나 판례를 제시하거나 실제 인물과 사건에 관한 정보를 만들어내는 식이다.

AI가 빠르게 답을 제시해주는 환경에서는 모르는 것을 직접 찾아보는 과정도 줄어든다. 챗GPT 개발사 오픈AI는 AI 환각이 지속되는 이유 중 하나로 현재의 개발 방식이 불확실성을 솔직하게 드러내는 것보다 답을 추측하는 쪽에 유리하게 작동한다는 점을 설명했다. 모르는 시험 문제를 빈칸으로 두기보다 일단 정답이라고 생각되는 답을 적는 편이 유리한 것과 비슷하다.

그래서 ‘알지 못하는 것’과 ‘현재로서는 알 수 없는 것’을 구분할 필요가 있다. 전자는 추가적인 검색과 학습으로 해결할 수 있지만, 후자는 미래의 변화처럼 아직 존재하지 않는 정보에 달려 있다. 아무리 많은 정보를 수집하고 AI에 질문해도 모든 불확실성을 현재의 정보로 바꿀 수는 없다. 답을 얻는 일이 쉬워질수록 확인된 사실과 추정, 가능성과 결론을 구분하는 일이 오히려 중요해지는 이유다.

생성형 AI의 편리함이 커질수록 이용자의 역할도 중요해진다. AI가 내놓은 답을 판단의 종착점으로 삼기보다 출발점으로 활용하고, 중요한 정보일수록 출처와 근거를 다시 확인해야 한다. 특히 의료와 법률, 투자처럼 잘못된 정보의 비용이 큰 영역에서는 그럴듯한 답을 곧바로 신뢰하기보다 비판적으로 수용하는 태도가 필요하다. AI에 대한 의존도가 높아질수록 인간의 판단까지 함께 위임해서는 안 된다.

모르는 것을 아는 것처럼 받아들이지 않고, 아직 알 수 없는 것을 섣불리 확신으로 바꾸지 않는 것. AI가 답하는 시대일수록 인간에게 남는 역할은 그 답을 의심하고 판단하는 것이다.