[신간] 무자비한 알고리즘·리얼리티 버블

▲ 무자비한 알고리즘 = 카타리나 츠바이크 지음. 유영미 옮김.
최근 인공지능(AI) 챗봇 '이루다'가 동성애·장애인 혐오와 성차별을 학습했다는 등의 논란으로 출시 3주 만에 서비스를 중단하는 등 AI 알고리즘 윤리 문제가 화두로 떠오르고 있다.

독일 카이저슬라우테른 공대 교수이자 독일연방의회 인공지능조사위원회 위원인 저자는 책에서 인공지능에도 윤리가 필요하다고 역설한다.

알고리즘, 빅데이터, 머신러닝 등에 관한 총체적이고 통합적인 시각에 기초해 알고리즘의 기술적 토대를 설명함과 동시에 알고리즘의 투명성과 인공지능의 사회적 책임을 촉구한다.

흔히 가치중립적으로 생각하는 기계 규칙인 머신러닝 알고리즘이 실제로는 많은 수작업이 필요하고 인간이 변수를 조절할 수 있다는 점, 정확하고 객관적이라 생각한 데이터는 실제로는 충분하지 않고 오류나 차별이 끼어드는 경우가 얼마나 많았는지 등을 상세히 보여준다.

일례로 아마존은 2014년 채용 과정에서 자동평가 시스템 구축을 시작하면서 이전 10년간 지원 서류를 활용했는데, 이 시기에 성공적인 지원자들은 거의 남성이었다는 점을 들었다.

저자는 남성이 남녀 각각의 지원자 수와 관련해 월등하게 높은 비율로 채용됐는지는 알려지지 않았으며, 알려진 것은 애플, 페이스북, 구글, 마이크로소프트 등 IT 업계 근무자 중 여직원은 5명 중 1명꼴임을 지적한다.

따라서 인간과 관련된 알고리즘 기반 의사결정 시스템은 막대한 손해 잠재력을 지니고 있다고 주장하면서 사용자의 개입과 감시가 필요하다고 강조한다.

니케북스. 334쪽. 1만8천원.

▲ 리얼리티 버블 = 지야 통 지음. 장호연 옮김.
캐나다의 과학 저널리스트인 저자가 과학이란 렌즈로 본 우리 세계의 진실들에 관한 이야기를 담았다.

저자는 우리가 지구 대기라는 물리적 거품 덕분에 우주에서 펼쳐지는 극심한 대혼란을 피해 평온하게 살고 있듯, 일상 세계에 대한 우리 생각들을 형성하는 심리적 거품에 둘러싸여 산다고 말한다.

인간의 눈에 보이지 않는 것과 보기 싫은 것들을 무시하고 거품 속에서 안온한 현실을 즐긴다는 것이다.

그러나 모든 거품은 종국에는 똑같은 운명을 맞는다.

결국 터지고 마는 것.
책에는 인간의 가장 큰 맹점 열 가지를 차례로 살펴본다.

먼저 인간으로서 타고나는 생물학적 맹점들을 소개하고, 과학과 기술이 어떻게 생물학적 한계 너머를 보도록 하는지 살펴본다.

이어 사회적 맹점들을 살펴보고, 우리가 하나의 사회로서 어떻게 고집스러운 맹목에 갇혀 있는지 알아본다.

인간의 생명 활동에서 가장 중요한 요소인 식량, 에너지, 쓰레기에 집중한다.

즉, 대부분의 사람에게는 완전히 감추어진, 우리 삶을 지탱하는 시스템을 과학이 어떻게 급속하게 바꿔 왔는지를 살펴본다.

마지막으로 다루는 '세대로 전승된 맹점'이 이 책의 핵심이다.

우리는 기후 변화, 쓰레기 재앙 등 세계가 어딘가 잘못되고 있다는 것을 알지만, 그런데도 우리를 거품 속에 그대로 머물게 만드는 것들을 지적한다.

우리를 실제 세계로부터 유리시킨 거품은 근대로부터 물려받은 사회 체제라고 저자는 주장한다.

코쿤북스. 456쪽. 1만7천600원.

/연합뉴스