AI 생성 이미지
AI 생성 이미지
인공지능(AI)이 과거에 생성한 추천 결과를 다시 학습하면서 특정 상품에 대한 쏠림과 잘못된 추천이 반복될 수 있다는 연구 결과가 나왔다.

UNIST 인공지능대학원 이연창 교수팀은 대규모언어모델(LLM) 기반 AI 추천 시스템의 편향과 오류 누적 과정을 추적하는 진단 도구 ‘에코트레이스’를 개발했다고 8일 발표했다. 연구팀은 세 종류의 추천 시스템을 분석해 초기 단계에서 발생한 편향과 오류가 추천과 재학습을 거듭해도 사라지지 않고 일부 시스템에서는 오히려 심화할 수 있다는 점을 확인했다.

LLM은 상품이나 콘텐츠를 직접 추천하는 데 그치지 않는다. 기존 추천 모델의 성능을 높이기 위해 사용자의 취향을 반영한 프로필을 만들거나 부족한 학습자료를 생성하는 데도 활용된다. 에코트레이스는 LLM이 생성한 정보와 최종 추천 목록을 분석하고, 추천 결과가 다시 학습에 반영되는 과정에서 편향과 오류가 어떻게 이어지는지 추적한다.

분석 결과 LLM이 직접 추천 목록을 만드는 모델에서는 추천 대상에 포함되지 않은 항목을 제시하는 오류가 나타났다. 영화 추천의 4.07%, 도서 추천의 7.40%, 가게 추천의 13.14%가 이에 해당했다. 사용자의 프로필을 생성하는 방식에서도 영화 이용 기록을 바탕으로 추정한 직업의 93.16%가 실제 정보와 일치하지 않았다. 학습자료를 생성하는 방식에서는 특정 장르나 업종에 치우친 데이터가 만들어지는 현상도 확인됐다.

이 같은 편향과 오류가 반복적인 추천과 재학습 과정에서도 지속된다는 게 문제로 꼽혔다. 일부 시스템에서는 인기 항목에 대한 쏠림이 더욱 커졌다. 특히 영화를 직접 추천하는 모델은 이용자 100명 중 86~92명에 대해 다음 영화를 추천할 때 앞서 자신이 추천했던 작품을 가장 중요한 참고 정보로 활용했다.

연구팀은 “AI 생성 추천 결과가 이용자의 선택 기록으로 다시 학습되고, 이후 추천 과정에서 해당 기록을 근거로 삼는 이른바 ‘피드백 루프’가 작동하기 때문”이라며 “초기 추천 단계에서 발생한 오류와 편향이 다음 학습에 반영되면서 이후 추천에도 영향을 미칠 수 있다”고 설명했다.

연구팀은 LLM 기반 추천 AI의 활용이 확대되는 만큼 추천 결과의 정확성뿐 아니라 생성된 정보가 재학습 과정에서 어떤 영향을 미치는지를 지속 점검해야 한다고 강조했다. 이 연구는 지난 7일 이탈리아 로마에서 열린 ‘ACM 국제 정보·지식관리 학술대회(CIKM) 2026’에 채택됐다.

정지은 기자 jeong@hankyung.com