여성·인종 차별 조장하는 검색 알고리즘

사피야 우모자 노블 '구글은 어떻게 여성을 차별하는가'

사피야 우모자 노블 캘리포니아대학교 교육정보학대학원 교수는 2010년 가을 어느 날 딸과 사촌 여자아이들이 좋아할 만한 놀잇감을 찾고자 구글 검색을 시작했다.

검색창에 '흑인 소녀'라는 단어를 입력한 그는 당혹스러운 결과를 마주했다.

검색 결과 최상단에는 흑인 소녀를 등장시킨 포르노그래피 사이트가 있었다.

충격적이고 모욕적인 결과를 접한 이후 노블 교수는 여성 혐오와 인종차별적 정보를 확산시키는 검색 엔진을 연구하기 시작했다.

'구글은 어떻게 여성을 차별하는가'는 그런 연구 결과를 담아 차별, 혐오, 불평등을 조장하는 알고리즘을 고발하는 책이다.

'죽이는'(hot), '달콤한'(sugary), '흑인 소녀의 성기'(black pxxsy) 같은 단어들이 어떻게 흑인 소녀에 대한 첫 번째 검색 결과로 나타날 수 있는지, 어떻게 '포르노'라는 단어를 함께 검색하지 않았는데 이러한 정보들이 이용자들에게 일방적으로 제공되는지 구글로 대표되는 검색 엔진 운영 시스템을 비판적으로 분석한다.

여성, 유색인종에 대한 편향적인 검색 결과는 여러 사례에서 드러난다.

2013년 1월 노블 교수가 구글 검색창에 '흑인 여성은 왜 그토록'을 입력하자 자동완성 문구에는 '화를 내는가', '목소리가 큰가', '인색한가', '매력적인가', '게으른가', '귀찮은가' 등의 단어가 붙었다.

반면에 '백인 여성은 왜 그토록'을 입력하자 '예쁜가', '아름다운가', '인색한가', '쉬운가', '불안한가', '말랐나' 등이 상단을 차지했다.

흑인에 대한 단어가 대체로 더 부정적이다.

2016년 '10대 흑인'과 '10대 백인'을 검색한 결과도 마찬가지다.

'10대 흑인 3명'을 검색하자 구글을 무수히 많은 머그샷 사진을 보여줬고, '10대 백인 3명'을 검색하자 건전한 백인 소년들이 나타났다.

저자는 우리가 흔히 빅데이터나 알고리즘을 공공 이익에 수렴되는 중립적이고 객관적인 소프트웨어라고 생각하지만 사실이 아니라고 강조한다.

구글은 개인이 운영하는 영리기업으로, 많은 광고비를 지불한 광고주 웹 페이지가 검색 상단을 차지한다.

또한 특정 엘리트 그룹의 가치관이 알고리즘에 녹아들어 오류와 편견을 더욱 구조화한다고 저자는 지적한다.

구글과 같은 검색 엔진은 알고리즘을 끊임없이 개선하기 때문에 노블 교수가 제시한 사례와 달라진 결과도 있다.

또한 알고리즘은 사적인 특허권이어서 기업은 그 시스템이 어떤 식으로 구동되는지 알려주지 않으며 대중의 의견을 수렴할 책임도 없다.

그러나 노블 교수는 구글뿐만 아니라 인터넷과 SNS상에서 무분별하게 퍼진 왜곡된 정보가 믿을 만한 정보로 탈바꿈되고 사람들의 인식을 바꾸는 기준이 된다는 점을 우려한다.

그는 현대인들에게 인터넷에서 습득한 정보는 의사 결정을 가름하는 중요한 기준이 되므로, 특정 집단이 자신의 이익을 위해 검색 키워드를 구입하고 검색 결과를 조작하는 것은 기술적 차원을 넘어선 심각한 문제라고 지적한다.

노블 교수는 알고리즘과 인공지능이 발전할수록 인권이 더욱 깊이 있게 논의돼야 한다며 지금이라도 이 문제에 관심을 가지고 규제 정책을 마련해야 한다고 주장했다.

그는 "알고리즘 기반의 의사 결정 시스템은 인간이 살아가는 공동체에 대한 고려 없이 작동되고 있으며, 정보 기술을 일상적으로 사용하는 우리에게 이는 매우 중요한 문제"라며 우리 일상을 지배하는 디지털 미디어에 대해 강력한 의구심을 가져야 한다고 촉구했다.

한스미디어. 노윤기 옮김. 344쪽. 1만6천원.

/연합뉴스