AI가 '뚝딱' 만들어낸 걸그룹 합성사진…"악용 가능성" 우려[영상]

이송렬 기자

입력2023.06.27 09:54 수정2023.06.27 14:24

K팝 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 인공지능(AI) 모델 데이터가 온라인상에 유포됐다. 수익 창출이나 음란물 제작 등 악용 가능성이 제기된다. 소속사는 대응을 검토하고 있다.

27일 관련 업계에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 인기 KPOP 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있다.

올라온 파일들은 작년 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI '스테이블 디퓨전'에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 스테이블 디퓨전은 '챗GPT' 같은 고성능 대화형 인공지능과 달리, 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있다.

문제는 이런 AI 모델이 수익 창출이나 음란물 제작에 쓰일 수 있다는 점이다. 유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 전시하는 'AI 룩북' 콘텐츠가 성행하고 있다. 일부 이용자들은 후원 플랫폼 '패트리온'에서 AI가 생성한 음란물을 판매하고 있다.

연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 내면 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조와 성폭력처벌법 14조의2 등에서 관련 내용을 다루고 있다.

K팝 업계도 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있다. 생성형 AI로 제작하는 이미지가 아티스트의 명예나 초상권을 침해하는 경우 해당 저작물 삭제를 요청하고 필요한 경우 법적 대응도 고려하고 있는 것으로 전해졌다.

이송렬 한경닷컴 기자 yisr0203@hankyung.com

관련 뉴스

1

테슬라에 의문 품은 월가…투자의견 '줄하향'에 주가 6%↓

최근 이어진 테슬라 주가 랠리에 월스트리트에서 테슬라 투자 등급을 잇따라 낮춰잡았다. 모건스탠리와 바클레이즈에 이어 26일(현지시간) 투자은행 골드만삭스가 테슬라에 대해 부정적인 전망을 내놓으며 테슬라 주가는 6% 급락했다.이날 테슬라 주가는 전장 대비 15.55달러(6.06%) 하락한 241.05달러에 마감했다. 이날 골드만삭스가 테슬라 투자의견을 ‘매수’에서 ‘중립’으로 낮춘 영향이다.마크 델라이니 골드만삭스 애널리스트는 “현재 시장은 장기적인 기회를 주목하고 있지만, 테슬라는 올해 신차 가격 책정이 쉽지 않아 수익성에 부담이 올 수 있다”고 짚었다. 전기차 경쟁이 심화되면서 가격을 낮춰야 한다는 압박에 시달릴 수 있다는 지적이다.테슬라 주가는 올 들어 상승세를 탔다. 이날 급락세를 제외하고 올 들어 지난 23일까지 108% 이상 올랐다. 최근 한 달 동안은 20% 이상 오르며 강세를 굳혔다. 테슬라의 전기차 충전소 수퍼차저를 포드와 제너럴모터스(GM) 등 다른 기업들이 이용할 수 있도록 계약을 잇따라 체결하며 신성장동력에 대한 기대가 커졌다.그러나 핵심 사업인 전기차 시장에서의 경쟁은 심화되고 있다. 미국과 유럽의 보조금 경쟁을 바탕으로 비야디 등 중국 전기차 업체들에 이어 GM, 폭스바겐 등 전통 완성차 업체들이 전기차 사업을 확장하고 있어서다. 테슬라는 시장 점유율을 지키기 위해 수익성 악화를 감수하고 지난해 말부터 전 세계 시장에서 주요 모델 가격 인하 정책을 펴고 있다.때문에 펀더멘털(기초체력) 대비 주가 수준이 지나치다는 지적이 최근 제기되고 있다. 앞서 지난주 바클레이즈와 모건스탠리도 테슬라 투자의견을 ‘비중 확대’에서 ‘동일 비중’으로 낮춰잡았다.테슬라의 오랜 강세론자로 꼽히는 아담 조나스 모건스탠리 애널리스트는 “올 들어 주가가 111% 뛰는 랠리는 예상하지 못했다”며 “테슬라 랠리의 끝을 말하는 것은 아니지만 주위에서 향후 랠리에 대한 회의가 상당한 수준”이라고 설명했다.조나스는 테슬라가 엔비디아와 마이크로소프트 등 빅테크 기업 중심으로 촉발된 인공지능(AI) 붐에 탑승하며 주가가 더 올랐다고 분석했다. 그러나 AI 붐은 힘을 다했을 수 있다며 “테슬라가 핵심 차량에 대한 가격 인하 정책을 마무리했는지 아직 모른다”고 말했다.현재 테슬라를 커버하는 애널리스트 43명 중 매수 의견은 적극 매수 6명, 매수 13명으로 19명이다. 중립이 18명, 부진 및 매도는 총 6명이다.노유정 기자 yjroh@hankyung.com
2

국내 데뷔하는 '로봇 지휘자'…박자만 맞춰주면 오케스트라가 될까

국립국악관현악단은 무표정한 얼굴의 지휘자를 바라보며 합을 맞췄다. 연주자들은 지휘봉의 움직임에 맞춰 악기를 움직였지만 상당히 어색한 모습이었다. 지휘자의 이름은 ‘에버6’. 그는 인간이 아니다. 국내 최초로 지휘에 나서는 로봇이다. 에버6는 오는 30일 서울 국립극장 해오름극장에서 실제 공연 ‘부재(不在)’를 이끌 예정이다.공연을 나흘 앞두고 26일 해오름극장에서 열린 기자간담회에서 여미순 국립국악관현악단 예술감독 직무대리는 “‘박자만 정확히 셀 수 있다면 지휘자 없는 오케스트라가 가능할까?’라는 상상이 ‘로봇이 지휘자를 대체할 수 있을까?’란 호기심으로 이어졌다”고 말했다. 이어 “그동안 연주자에겐 당연했던 인간 지휘자의 역할을 되돌아보는 공연이 될 것”이라고 덧붙였다.로봇이 지휘자로 나서는 무대는 과거 일본과 스위스 등에서 시도됐으나 국내에선 이번이 처음이다. 공연의 지휘자 에버6는 한국생산기술연구원이 개발한 안드로이드 로봇이다. 인간 지휘자의 몸에 센서를 달아 움직임을 디지털화한 뒤 로봇에 입력해 따라 하게 하는 식으로 지휘 동작을 구현했다. 이동욱 한국생산기술연구원 수석연구원은 “상당히 빠른 속도로 움직이는 지휘 동작을 구현하기 위해 여러 차례 수정과 보완을 거쳤다”며 “지휘봉을 움직이는 동작이 자연스러울 수 있도록 팔 하나에 관절 일곱 개를 달았다”고 설명했다.에버6가 지휘하는 곡은 국립국악관현악단의 대표 레퍼토리 중 하나인 비얌바수렌 샤라브 작곡의 ‘깨어난 초원’과 만다흐빌레그 비르바 작곡의 ‘말발굽 소리’ 등이다. 두 곡 모두 빠른 속도로 반복적인 움직임을 정확히 수행할 수 있는 로봇의 강점에 초점을 맞춰 골랐다.인간 지휘자와 협업하는 곡도 선보인다. 최수열 지휘자와 나란히 지휘대에 서서 ‘감’(손일훈 작곡)을 지휘할 예정이다. 최 지휘자는 “‘감’이란 곡은 악보 없이 지휘자와 연주자의 즉흥성에 크게 의존하는 곡”이라며 “에버6가 특정 악기가 들어가야 하는 시간이나 쉬어야 하는 시간 등을 정확히 체크해주기 때문에 저는 그 안에서 즉흥적인 요소를 만들어내는 데 집중할 수 있다”고 말했다. 이어 “지휘자의 역할은 무대에서 지휘봉을 흔드는 것보다 무대에 서기 전 악단과 함께 연습하고 소통하는 게 더 중요하다”며 “그런 면에서 로봇 지휘자는 보조적인 역할을 할 수밖에 없다고 생각한다”고 했다.신연수 기자 sys@hankyung.com
3

음주운전 사고부담금 '억대'로 오르니…'보험 지급액 급감' [1분뉴스]

음주운전 등 중대 법규 위반 사고에 대한 운전자 사고부담금을 강화한 이후 보험사가 관련 사고로 지급한 보험금이 절반 가까이 줄어든 것으로 나타났다.국회 정무위원회 소속 국민의힘 최승재 의원이 26일 금융감독원을 통해 각 손해보험사들로부터 제출받은 자료에 따르면, 올해 4월 보험사의 음주운전 사고부담금 지급액은 대인 39억원, 대물 44억원으로, 지난해 8월 대인 지급액 83억원, 대물 지급액 84억원 대비 각각 절반 수준으로 떨어졌다.지난해 7월 28일 음주운전, 뺑소니, 무면허 등 중대 법규 위반 사고에 대해 운전자 사고부담금이 대폭 상향된 이후 급감한 것이다.사고부담금은 사고를 낸 사람이 보험금 일부를 부담하도록 한 제도다. 기존에는 사고를 낸 사람이 대인 1000만원, 대물 500만원 한도로 자기부담금을 냈으나, 지난해 7월 이후에는 의무보험 보상한도 전액인 대인 1명당 1억5000만원(사망), 3000만원(부상), 사고 1건당 대물 2000만원까지 부담하도록 바뀌었다.다만, 사고부담금에 대한 회수율이 낮다는 점은 문제로 지적됐다. 음주사고 운전자에 대해 부과된 대인 사고부담금액의 2018년 회수율은 90.8%에 달했지만, 2019년(91%) 이후부터는 매년 감소해 올해 4월에는 38.9%까지 급감했다. 대물 사고부담금액 또한 2018년 회수율은 93.9%에 달했으나 올해 4월에는 43.4%로 낮아졌다. 사고부담금이 대폭 강화되면서 부담금을 납부하지 못하거나 혹은 납부하지 않고 있는 것으로 추측된다.한편 최승재 의원실이 경찰청으로부터 제출받은 자료에 따르면 음주운전 사고는 2018년 1만9381건에서 작년 1만5059건으로 줄어들었고, 같은 기간 전체 사고에서 차지하는 비율 또한 8.9%에서 7.7%로 감소했다.유채영 한경닷컴 기자 ycycy@hankyung.com