세계 최대 전자상거래 업체 아마존은 인공지능(AI) 서비스에서 기술적 한계로 인종 등 다양한 인구집단을 차별하는 결과가 나올 수 있다는 점을 알리는 경고문을 제공할 계획이라고 밝혔다.

30일(현지시간) 로이터통신에 따르면 아마존은 상세한 식품 성분표시와 유사한 경고문 형식의 'AI 서비스카드'를 제공해 얼굴 인식이나 음성 텍스트 변환 기능 등 AI 서비스의 한계를 고객들에게 알릴 방침이다.

아마존의 AI 이미지 분석 서비스인 '레코니션'(Rekognition)의 경고문은 너무 흐리고 선명하지 않거나 상당 부분이 머리카락이나 손 등으로 가려진 얼굴 이미지는 인식하지 못한다는 내용을 담고 있다.

또 사람 얼굴이 만화 속 얼굴이나 인간이 아닌 사물로 잘못 인식되는 경우에 대해서도 경고하게 된다.

앞서 2019년 이 서비스가 피부색이 일반적인 백인보다 어두운 사람의 성별을 인식하는 데 어려움이 있다는 연구 결과가 나오자 아마존은 반발했다.

그러나 이듬해 비무장 흑인 조지 플로이드가 체포 과정에서 경찰에 살해되자 아마존은 이 서비스를 경찰에 제공하던 것을 중단했다.

또 음성 텍스트 변환 서비스 관련 경고문에는 일관성 없이 변환된 음성을 입력하면 인종 등 인구학적 집단별로 잘못된 인식 결과가 나올 수 있다고 돼 있다.

이는 지역적으로 특색있는 억양이나 방언 등을 정확하게 옮기기가 쉽지 않기 때문이라고 아마존 측은 설명했다.

아마존은 AI 경고문을 통해 AI 기술이 그릇된 인식하에 쓰이지 않도록 막고 시스템 작동·개인정보 관리 방식을 고객에게 설명하는 것을 목표로 하고 있다.

아마존이 이 같은 경고문을 제공하기로 한 것은 업계 선두 기업이 경쟁사들보다 AI 윤리 문제를 등한시한다는 시민단체의 계속된 비판을 수용한 것이라고 로이터는 전했다.

IBM도 1년 전부터 AI 관련 경고문을 제공하고 있으며, 구글도 AI를 훈련에 활용할 수 있도록 훨씬 구체적인 내용이 담긴 경고문을 발표했다.

제시카 뉴먼 버클리 캘리포니아대(UC버클리) 교수는 AI 관행과 관련된 정보기술(IT) 기업들의 경고문 제공이 늘어나겠지만, 기업의 선의에만 의존할 수 없으며 산업 표준이 마련돼야 하는 등 아직 가야 할 길이 멀다고 말했다.

아마존, AI에 경고문 붙인다…"기술한계로 인종 등 인식 오류"
/연합뉴스