인간을 위한 빅테크는 가능한가…디지털 시대의 윤리학

신간 '하이프 머신'·'시스템 에러'

데이터과학자 시난 아랄은 2014년 러시아의 크림반도 합병에 소셜미디어를 이용한 정보전이 한몫했다고 분석한다.

친우크라이나 성향의 게시물이 올라올 때마다 음란성 발언이나 혐오 표현이 포함됐다고 주장하는 신고가 수백 건씩 접수됐다.

가짜뉴스도 급격하게 늘었다.

친러―반러 세력의 충돌 과정에서 우크라이나 국수주의자들이 진료를 방해했다고 주장한 의사 이고르 로조프스키는 실존하지 않는 인물이었다.

최근 번역·출간된 시난 아랄의 '하이프 머신'은 이제 개인의 일상은 물론 세계를 점령하다시피 한 소셜미디어의 명암을 분석한 책이다.

미국 매사추세츠공대(MIT) 교수이자 여러 스타트업과 함께 일한 저자는 소셜미디어 시대를 유토피아 또는 디스토피아로 규정하지 않는다.

소셜미디어에서 정보가 어떻게 확산·차단되는지, 그 파급효과는 어디까지 미치는지 설명하는 데 주력한다.

핵심 개념은 '하이프 머신'(Hype Machine)이다.

오늘날 인류는 하루에도 수조 건의 메시지가 오가는 네트워크에 연결돼 있다.

데이터와 알고리즘으로 설계된 하이프 머신은 각종 정보와 생각·행동의 흐름을 제어한다.

인간의 충동을 자극하고 쇼핑과 투표, 심지어 사랑하는 방식까지 설득하고 바꾸게 만든다.

소셜미디어에 노출된 인간의 뇌는 페이스북에서 '좋아요'를 많이 받은 게시물을 보면 도파민 시스템을 활성화한다는 연구결과도 있다.

저자는 하이프 머신을 '디지털 마케팅 기계'이자 '소셜미디어 산업단지'라고 부른다.

이익의 극대화를 위한 도구인 하이프 머신 안에서 인간은 이미 '초(超)사회화'했다고 주장한다.

페이스북을 만든 마크 저커버그는 자신의 소셜미디어가 전세계 민주주의와 국제정치에 미치는 영향을 과소평가한다는 비난을 이미 몇 년째 받고 있다.

2016년 미국 대선 이전에 2014년 크림반도 사태 때도 그에게 가짜뉴스 확산과 '정보전'에 대한 대책을 요구하는 목소리가 나왔다.

저자는 하이프 머신의 밝은 면도 살핀다.

2015년 네팔 지진 당시 페이스북은 '세이프티 체크'를 작동시켜 수백만 사용자의 위치와 안전 여부를 확인한 뒤 1억명 넘는 지인들에게 무사를 알렸다.

이후 페이스북이 '기부' 버튼으로 모은 구호자금은 미국과 유럽연합(EU)을 합친 것보다 많은 1천550만 달러(약 190억원)였다.

시난 아랄은 "하이프 머신에는 장밋빛 약속과 위험 가능성이 모두 존재한다"며 소셜미디어를 어떻게 설계·통제·활용할지 현명한 결정이 필요하다고 말한다.

신간 '시스템 에러'는 빅테크의 이윤논리에 잠식된 인간적 가치를 어떻게 복원할지 본격적으로 논의하는 책이다.

마크 저커버그는 이 책에서도 "비민주적인 페이스북 국가에 군림하는 독재자"라는 악평을 받는다.

중국 인구의 두 배에 달하는 사용자를 보유한 페이스북은 점점 기업보다는 정부에 가까운 역할을 요구받고 있다.

저자들은 히포크라테스 선서를 하는 의사처럼, 기술과학자에게도 일련의 규범이 필요하다고 말한다.

저자들은 그러나 효율성을 최선의 가치로 여기는 기술자들의 자율적 규제에 온전히 기대지는 않는다.

'기술이 우리 사회를 어떻게 바꾸어야 하는가'라는 문제에 대한 결정권을 기술자가 아닌 우리 모두가 가져야 한다고 본다.

소수 기업의 독점을 막는 정책적 대안을 준비하고, 기술적 현안에 대한 정치인들의 입장을 묻는 방식으로 빅테크 시대 민주주의에 참여하자고 제안한다.

"민주주의는 그 자체가 일종의 기술이다.

개인의 권리를 옹호하고, 시민의 목소리에 힘을 실어주고, 끊임없이 변화하는 사회 환경에 적응하는 것을 가장 큰 미덕으로 삼는 사회 문제 해결의 기술인 것이다.

"
▲ 하이프 머신 = 쌤앤파커스. 시난 아랄 지음. 엄성수 옮김. 564쪽. 2만4천800원.
▲ 시스템 에러 = 어크로스. 롭 라이히·메흐란 사하미·제러미 M. 와인스타인 지음. 이영래 옮김. 448쪽. 1만9천800원.

/연합뉴스