'AI 윤리' 논쟁에 카카오의 응답…국내 첫 증오발언 근절 원칙

"모든 차별·배척 반대"…정치권 망설이는 '성 정체성·성적 지향' 포함
공개 게시물에 적용…카톡·메일 등 사적 공간은 대상 아냐

카카오가 국내 기업 중 처음으로 '증오(혐오) 발언 근절 원칙'을 수립해 서비스에 적용한다고 발표했다.

카카오는 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"고 강조했다.

이른바 '이루다 사건'으로 '디지털·인공지능(AI) 윤리' 논쟁이 뜨거운 상황에서 업계 선례로 작용할 전망이다.

카카오는 13일 공식 브런치를 통해 '증오 발언 근절을 위한 카카오의 원칙'을 내놓았다.

카카오는 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다"며 "카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립했다"고 설명했다.

카카오는 약 1년에 걸쳐 증오 발언 근절을 위한 원칙을 마련했다고 밝혔다.

카카오는 첫 번째 원칙으로 "한 인간의 정체성을 이유로 특정 대상을 차별하거나, 이에 대한 편견을 조장하거나, 일방적으로 모욕·배척하는 행위를 반대한다"고 선언했다.

인간의 정체성으로는 '출신(국가·지역 등), 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향, 기타 정체성 요인 등'이 명시됐다.

주요 정치인이나 정당마저 여전히 "사회적 합의가 필요하다"고 주장하는 성 정체성, 성적 지향에 관해 차별·배척하지 않겠다고 선언한 점이 눈에 띈다.

카카오는 이런 차별에 기반을 두고 특정 집단을 공격하는 발언을 증오 발언으로 정의한다면서, 증오 발언에 앞으로 강경하게 대처하겠다고 예고했다.

증오 발언은 이용자의 안전을 위협할 뿐 아니라 사회적 배척 및 물리적 폭력을 유발하며, 발언의 자유와 사회 신뢰·건강성까지 저해한다는 이유에서다.

카카오는 이용자들에게 "서비스 내에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간 존엄성을 훼손하는 발언에 유의해야 한다"고 당부했다.

그렇다고 카톡 대화를 카카오가 들여다보겠다는 것은 아니다.

카카오는 "위 원칙은 '공개 게시물' 영역에 한한다"며 "카톡의 사적 대화 공간, 메일, 톡 서랍 등 개인화 서비스와 커뮤니티의 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 강조했다.

그러면서 "증오 발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화하겠다"며 "사내 교육과 모니터링도 강화하겠다"고 덧붙였다.

카카오의 증오 발언 근절 원칙 수립 과정에는 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다.

카카오는 보통 '혐오 발언'이라고 번역하는 'hate speech'를 증오 발언으로 표현한 이유 등에 관해 어떤 숙의 과정을 거쳤는지 공식 블로그에 공개했다.

숙의 및 연구 결과는 녹서(green paper) 형태로 블로그에 게재했다.

이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 활동의 일환이다.

카카오는 전날 이사회 산하에 ESG위원회를 신설하고 김범수 이사회 의장이 위원장을 맡는다고 밝혔다.

카카오 관계자는 "국내에서 증오 발언 근절을 위해 기업이 원칙을 제정해 적용하는 것은 이번이 처음"이라고 말했다.

/연합뉴스