AI가 만든 콘텐츠 '워터마크' 붙을까…정부 "업계와 협의"

가짜뉴스 등 부작용 막기 위해
AI 생성물 구분하는 장치 도입

정부가 인공지능(AI)을 활용해 만든 콘텐츠를 구분하기 위한 조치를 취하기로 했다. 생성 AI의 부작용을 최소화하자는 취지다.

25일 과학기술정보통신부에 따르면 정부는 AI 생성물을 구분할 수 있는 기술 도입 방식을 두고 AI업계와 협의 중이다. 생성 AI 기술 등장으로 가짜뉴스, 딥페이크 이미지 등을 누구나 손쉽게 만들 수 있게 됐다. 지난 5월 미국 펜타곤(국방부 청사) 인근에서 폭발이 일어났다는 가짜 사진이 퍼져 증시가 술렁였다. 이 같은 부작용을 막고 원본 콘텐츠의 저작권을 보호하려면 AI로 만든 콘텐츠를 구분해야 한다는 게 국내외 규제당국의 공통된 입장이다.

박윤규 과기정통부 2차관은 최근 기자간담회에서 “가짜뉴스 등 AI 부작용과 의도적인 AI 오남용 시도에 대한 기술적인 대책이 필요하다”고 말했다. 조 바이든 미국 대통령도 지난달 주요 AI 기업 대표들과 만난 자리에서 “동맹국들과 협력해 AI 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 구성하겠다”고 밝혔다.

주요 AI 업체들은 자율규제 방안을 들고나왔다. 구글과 마이크로소프트, 메타, 아마존, 오픈AI 등 미국 빅테크 일곱 곳은 지난달 생성 AI가 만든 콘텐츠에 자발적으로 ‘워터마크’를 삽입하기로 했다. 워터마크는 문서와 사진, 동영상 등에 저작권 정보, 소유권, 인증 등을 위해 표시하는 이미지를 뜻한다.

다만 콘텐츠에 어떤 방식으로 워터마크를 표시할지는 결정되지 않았다. 눈으로 보이는 표식보다는 기계가 AI 생성 콘텐츠를 확인할 수 있도록 하는 방식이 유력해 보인다. 마이크로소프트, 구글, 오픈AI, 앤스로픽 등 4개사는 별도로 AI 기술의 안전 표준을 개발하기 위한 협의체 ‘프런티어 모델 포럼’을 꾸렸다. 과기정통부는 국내 업체들과 함께 AI 콘텐츠 표기 방법을 폭넓게 검토한다는 방침이다. 과기정통부 관계자는 “AI로 인한 부작용을 막는 동시에 성장 중인 AI 산업이 위축하지 않도록 업계와 최선의 방법을 찾아볼 계획”이라고 설명했다.

이승우 기자 leeswoo@hankyung.com