"AI 개발·활용 때 인간 존엄성 보장돼야"…인권위 가이드라인

인권적 관점서 AI 정책 수립·이행 권고

국가인권위원회가 인공지능(AI) 개발과 활용 과정에서 인간의 존엄성과 기본권이 보장되도록 공공기관 등이 준수해야 할 기준을 제시하라는 가이드라인을 내놓았다.

인권위는 17일 '인공지능 개발과 활용에 관한 인권 가이드라인'을 마련하고 국무총리와 관련 부처 장관에게 이행을 권고했다.

인권위는 국무총리에게 가이드라인에 기초한 인공지능 관련 정책의 수립·이행과 관계 법령의 제·개정이 이뤄질 수 있도록 관련 부처를 유기적으로 조정하고 통할하라고 권고했다.

과학기술정보통신부장관, 개인정보보호위원회 위원장, 방송통신위원회 위원장, 공정거래위원회 위원장, 금융위원회 위원장에게도 가이드라인에 기초한 인공지능 관련 정책의 수립·이행, 관계 법령 제·개정, 공공기관 및 민간기업의 준수 여부 관리·감독 등을 권고했다.

가이드라인은 ▲ 인간의 존엄성 및 개인의 자율성과 다양성 보장 ▲ 투명성과 설명 의무 ▲ 자기 결정권의 보장 ▲ 차별금지 ▲ 인공지능 인권영향평가 시행 ▲ 위험도 등급 및 관련 법·제도 마련 등을 골자로 한다.

인공지능이 인간의 존엄성과 행복을 추구할 권리에 부합하는 방향으로 개발·활용돼야 하고, 개인의 자율성을 침해해서는 안 된다는 것이 큰 원칙이다.

또 인공지능 기술을 활용한 판단 과정과 그 결과에 대해 적절하고 합리적인 설명이 보장돼야 하며, 기본적 인권에 중대한 영향을 미치는 경우에는 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하고 설명할 수 있어야 한다.

인공지능이 개인의 인권과 안전에 미치는 위험성을 단계별로 구분해 그에 걸맞은 수준의 규제와 인적 개입이 이뤄지도록 법과 제도를 마련하라는 내용 등도 포함됐다.

인권위는 "인공지능 기술의 발전이 사회 전반에서 영향을 미치지만, 영향을 받는 당사자들은 인공지능 도입·운영·결정 과정에서 의견을 제시하거나 참여할 기회를 보장받지 못하고 있다"며 "인권적 관점에서 인공지능을 개발·활용할 때 준수해야 할 기준을 마련할 필요가 있다고 보고 관련 내용을 검토했다"고 설명했다.

인권위는 "이번 가이드라인을 통해 인공지능 기술의 개발과 활용 전 과정에서 인권적 가치가 보호되는 계기가 마련되기를 기대한다"고 덧붙였다.

/연합뉴스