"췌장암·간검사 정보 오류"…가디언, 구글 AI 오버뷰 위험 초래 가능성 지적

구글 "사례 상당수 불완전한 스크린샷"
"신뢰할만한 출처로 연결"

사진=로이터(연합뉴스)

구글의 인공지능(AI) 요약 기능이 부정확한 건강 정보를 제공해 사람들에게 위험을 초래할 가능성이 있다고 영국 일간 가디언이 2일(현지시간) 보도했다.

구글은 생성형 AI를 활용해 특정 주제나 질문에 대한 핵심 정보를 간단히 제시하는 'AI 오버뷰' 기능이 유용하고 신뢰할 수 있다고 밝혀왔다. 그러나 가디언은 조사 결과 검색 결과 최상단에 표시되는 'AI 오버뷰'가 부정확한 건강 정보를 제공해 이용자의 건강을 위협할 수 있는 사례가 확인됐다고 전했다.

일례로 구글은 췌장암 환자에게 고지방 음식을 피하라고 안내했다. 하지만 이는 권고 사항과 정반대로, 오히려 사망 위험을 높일 수 있다고 전문가들은 지적했다.

췌장암 자선단체 '췌장암 영국'의 연구·지원 담당자 안나 주얼은 "이 검색 결과를 그대로 따르면 충분한 열량을 섭취하고 체중을 늘리기 어려워지며, 항암치료나 생명을 살리는 수술을 견디지 못할 수 있다"고 설명했다.

또, 간 혈액검사의 정상 범위를 검색하면 간 질환자들이 자신이 건강하다고 오해할 수 있는 정보가 제공되는 경우도 있었다. 정상 범위 수치가 나열됐지만, 근거 설명은 거의 없었고, 환자의 국적·성별·인종·연령 등에 따른 차이도 고려되지 않았다.

간 질환 자선단체 '영국 간 신탁'의 파멜라 힐리 대표는 "심각한 간 질환이 있는 사람들이 본인 검사 결과를 정상으로 생각하고 후속 진료를 받지 않을 수 있어 위험하다"고 경고했다.

가디언은 여러 보건 단체와 의료 전문가들이 부정확한 건강 정보에 관한 우려를 제기한 이후 구글 'AI 오버뷰'의 검색 결과를 점검했고, 유사 사례를 다수 확인했다고 전했다.

건강 정보를 제공하는 '환자정보포럼'의 소피 랜들 이사는 "이번 사례는 구글 'AI 오버뷰'가 정확하지 않은 건강 정보를 온라인 검색 최상단에 올려 사람들의 건강에 위험을 초래할 수 있음을 보여준다"고 말했다.

구글 측은 'AI 오버뷰'가 제공하는 정보 대다수는 사실에 기반해 유용하며, 지속해서 품질을 개선하고 있다고 밝혔다. 또한 제시된 사례 상당수가 "불완전한 스크린샷"이라며 "회사 측이 확인한 범위에서는 잘 알려지고 신뢰할만한 출처로 연결돼 있고, 전문가 조언을 구하도록 권고하고 있다"고 말했다.

신용현 한경닷컴 기자 yonghyun@hankyung.com