브라질 최고선거법원, 선거운동 때 딥페이크 사용 금지

브라질에서 오는 10월 지방선거를 앞두고 있는 가운데 브라질 최고 선거법원(TSE)이 선거운동 기간에 인공지능(AI)을 기반으로 활용한 이미지 합성 기술인 '딥페이크' 사용을 금지했다.

28일(현지시간) CNN 브라질 등 현지 매체에 따르면 최고 선거법원은 전날 인공지능 기술 사용에 대한 규정을 담은 새로운 선거 규칙을 승인했다.

인공지능 기술 사용 관련 규정은 멀티미디어 내의 합성 콘텐츠에 대한 식별 라벨 표시, 선거 캠페인 커뮤니케이션을 위한 챗봇 및 아바타 사용 제한, 딥페이크 사용 절대 금지 등을 핵심내용으로 담고 있다.

이 규정에 따라 선거운동 기간에 후보자나 실제 인물과의 대화를 아바타 등을 사용해 재현하는 것도 금지된다.

최고 선거법원은 '딥페이크'를 "오디오, 비디오 혹은 그 둘이 조합된 형식의 합성 콘텐츠로, 인증을 받은 경우라도 디지털 방식으로 살아 있거나 사망한 인물과 가상 인물의 이미지나 음성을 생성, 교체, 변경한 것"으로 정의했다.

규정을 어기고 인공지능 기술을 사용할 경우, 언론 오용으로 간주 공천 취소나 후보 등록 취소로 이어질 수 있다.

최고 선거법원은 또한 선거 캠페인에서 소셜 네트워크를 담당하는 빅테크 기업의 책임과 역할을 확대하는 내용도 포함했다.

규정에 따라 소셜 네트워크 플랫폼은 선거 과정의 무결성에 영향을 미치는 "심각한 허위 사실이나 맥락에서 크게 벗어난" 사실의 유포 방지와 그 내용을 공개할 의무를 지닌다.

또한 선거 기간 소셜 네트워크 플랫폼은 "형법에 규정된 비민주적 행위"와 "출신, 인종, 성별, 피부색, 연령 및 기타 형태의 차별에 근거한 편견을 통해 개인이나 집단에 대해 인종차별, 동성애 혐오, 나치, 파시스트 또는 증오 이데올로기를 조장하는 혐오 행위 및 발언"을 담은 콘텐츠와 계정을 삭제하지 않을 경우 민사 및 행정 분야에 대한 책임을 지게 된다.

알레샨드리지 모라이스 최고 선거법원장은 규정 승인 후 "허위 정보와 인공지능 불법 사용 방지에 있어서 세계에서 가장 현대적인 규정 중 하나를 승인했다"고 말했다.

/연합뉴스