"AI, 극단 주장 걸러내"…SNS가 부추긴 양극화 해결할까

오늘의 질문

SNS, 팩트보단 클릭수 관심
AI는 정보 신뢰성에 더 집중
"사용자 성향 맞춰 답변" 우려도

인공지능(AI) 챗봇이 중립적인 정보를 제공해 정치 및 사회 여론 양극화를 완화한다는 분석이 제기됐다. 극단적 주장을 펼치며 인기를 끄는 SNS 인플루언서와 달리 정보의 신뢰성이 AI 챗봇을 평가하는 주요 지표로 자리 잡았다는 이유에서다.

댄 윌리엄스 영국 철학자는 AI 기업들이 ‘지능적 도구’의 유용성을 놓고 경쟁하고 있다고 평가했다. 자신의 주장을 표출하는 SNS와 달리 AI는 도구인 만큼 극단적 주장을 걸러낼 수밖에 없다는 논리다. 이를 바탕으로 윌리엄스는 AI가 본질적으로 ‘테크노크라시화’(Technocratising·기술관료화)를 추구하는 성격을 띤다고 설명했다. 과학기술의 객관성과 합리성이 정치·경제·사회적 의사결정 전반에 통용되도록 한다는 것이다.

쉽게 말해 AI 챗봇과 SNS는 돈 버는 방법이 다르다. SNS는 사용자의 관심을 끌어 클릭을 유도하고, 조회 수로 광고 효과를 측정해 수익을 창출한다. 반면 AI 챗봇은 ‘어떤 서비스가 더 정확한 정보를 제공하는지’가 선택의 기준이 된다. 사용자가 비즈니스를 비롯해 중요한 활동에서 목적을 달성할 수 있도록 사실 정보를 제공한다. 보다 많은 이용자를 유치해 수익성을 높이려면 정확성과 신뢰성 역시 끌어올려야 한다.

존 번머독 파이낸셜타임스(FT) 수석데이터 기자는 이를 뒷받침하는 분석 결과를 공개했다. 백신이 자폐증을 유발하는지 등 비과학적 신념을 시험하는 질문에 AI 챗봇은 가장 신뢰할 만한 답변을 내놨다. SNS에서 가장 사실과 다른 응답이 많았으며 일단 대중의 답변은 그다음이었다.

정치적 편향이 반영돼 설계된 AI 챗봇이 사용자 평가를 반영하며 스스로 교정하는 사례도 있었다. 챗GPT가 “지나치게 정치적 올바름을 추구한다”는 문제의식에서 일론 머스크가 출시한 그록이 대표적이다. 머스크의 신념과 달리 그록은 보수보다 진보 성향 이용자 사이에서 더 높은 만족도를 보이고 있다. 미국 정부의 기회 균등 채용 등 여러 이슈에 관해 머스크와 다른 의견을 밝혔기 때문이다.

딜런 매슈스 미국 작가는 “SNS 구조가 개인화와 분열을 촉진하는 반면 대규모언어모델(LLM)은 중간에 수렴하려는 성향을 지닌다”고 말했다.

반론도 제기된다. 워싱턴대 등의 연구에서 AI 챗봇은 질문자에 따라 다른 정치 성향을 연기했다. 질문자가 성소수자일 때와 백인 기독교 남성일 때 등에서 답변 결과가 달랐다. SNS만큼 극단적이지는 않아도 이용자 성향에 맞춰 다른 답을 제시한다는 의미다.

손주형 기자 handbro@hankyung.com