[속보] 스캐터랩 "AI 챗봇 '이루다' 서비스 잠정 중단"

이미경 기자

입력2021.01.11 21:03 수정2021.01.11 21:03

인공지능(AI) 챗봇 '이루다'를 둘러싼 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 '이루다' 서비스를 잠정 중단한다고 밝혔다./사진=이루다 페이스북 캡처

인공지능(AI) 챗봇 '이루다'를 둘러싼 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 '이루다' 서비스를 잠정 중단한다고 밝혔다.

이미경 한경닷컴 기자 capital@hankyung.com

관련 뉴스

1

"前남친과 카톡대화, AI가 학습"…제3자 동의 없는 정보수집 논란

지난 10일 A씨는 전 연인으로부터 연락을 받았다. 스캐터랩의 ‘연애의 과학’ 서비스를 이용하면서 A씨와 한 카카오톡 대화 내용을 제공했는데, 이 회사의 인공지능(AI) 챗봇(채팅로봇) ‘이루다’가 말하는 내용에 A씨가 작성한 메시지도 포함돼 있을 가능성이 있다고 했다. 연애의 과학은 이용자의 카카오톡 대화 내용을 분석해 연애 조언을 해주는 서비스다.이루다는 연애의 과학에서 받은 100억 건의 카톡 메시지로 학습한 것으로 알려져 있다. A씨는 “서비스를 이용하지 않고, 동의하지도 않았는데 내 사생활이 AI 개발에 쓰였다는 것에 화가 난다”며 “법적 대응도 고려하고 있다”고 말했다.과거 개인정보 유출 문제는 주로 서비스업체와 가입자 간 발생했다. 최근엔 다양한 AI 서비스가 등장하면서 A씨처럼 서비스를 이용하지 않는 제3자의 정보 유출 문제도 빈발하고 있다. 실제 스캐터랩 등 AI 업체들은 광범한 데이터를 수집하면서 제3자에 대해서는 정보 수집에 대한 동의를 받거나 고지하지 않는 것으로 나타났다. AI를 이용해 전화 내용을 문자로 바꿔주는 서비스를 제공하는 비토의 관계자는 “전화 상대방에게 서비스 이용이 이뤄지고 있음을 고지하지 않는다”며 “정보를 제공했다는 것을 알게 되더라도 제3자가 삭제 요청을 하긴 어렵다”고 했다. 네이버의 AI 음성기록 서비스 ‘클로바노트’도 대화 녹음 서비스를 할 때 상대방의 동의를 구하는 절차가 없다.AI 기업들의 이런 정보 수집 방식은 개인정보 자기결정권을 침해하는 것으로 법위반 소지가 있다는 게 법조계의 시각이다. 김보라미 변호사는 “제3자의 대화 정보도 개인정보보호법 20조에 따라 정보 주체의 요구가 있으면 개인정보의 수집 출처, 개인정보의 처리 목적을 알려줘야 한다”며 “스캐터랩도 개인정보처리자가 개인정보의 처리 목적을 명확하게 해야 하고, 그 목적에 필요한 범위에서 최소한의 개인정보만을 적법하게 수집해야 한다는 개인정보보호법 제3조 제22조를 위반한 것으로 보인다”고 설명했다.한편 이루다가 고객의 구체적인 동의 없이 제공된 카톡 내용을 학습한 데 대해 논란이 커지자 정부가 조사에 나섰다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 카톡 대화 내용 취득 경위를 조사해 문제가 발견되면 시정 조치를 하겠다고 밝혔다. 스캐터랩은 11일 오후 “이루다 서비스를 12일부터 일시 중단하겠다”고 발표했다.김남영/이시은 기자 nykim@hankyung.com
2

[단독] AI 챗봇 '이루다', 서비스 미가입자 정보까지 가져다 썼다

지난 10일 A씨는 전 연인으로부터 연락을 받았다. 자신이 스캐터랩의 ‘연애의 과학’ 서비스를 이용하면서 A씨와 나눴던 카카오톡 대화 데이터를 넘겼는데, 동일 회사가 만든 인공지능(AI) 챗봇(채팅로봇) 서비스 ‘이루다’가 말하는 내용에 A씨가 작성한 카톡 메시지가 포함돼 있을 가능성이 있다고 했다. A씨는 “서비스를 직접 이용하지도 않고, 동의하지도 않았는데 내 사생활이 AI를 개발하는 데 쓰였다는 것에 화가 난다”며 “한국인터넷진흥원(KISA)에 개인정보 침해 신고도 했고 법적 대응도 적극적으로 고려하고 있다”고 밝혔다.스타트업이 만든 인기 AI 챗봇 서비스에 사용자들의 카톡 대화 데이터가 쓰였다는 것이 알려지면서 이 서비스를 이용한 사용자들이 법적 대응에 나서고 있다. 직접 이용한 250만명 사용자들뿐만 아니라 이 사용자들과 대화한 연애 상대 등 제3자까지 개인정보 침해를 입어 피해는 더 클 것으로 예상된다. 전문가들은 AI 기업들이 서비스 과정에서 데이터를 수집할 때 제3자 동의 절차도 받아야 한다고 지적한다.서비스 가입 안한 제3자 정보 쓰면서 알리지도 않아11일 관련 업계에 따르면 연애의 과학 서비스 사용자들은 운영사인 스캐터랩을 대상으로 민사소송 등 법적 대응을 준비하고 있다. 직접 서비스를 사용한 사람들뿐만 아니라 제3자도 참여한다. 제3자는 연인이나 전 연인이 이 서비스를 사용해 자기도 모르게 사생활이 담긴 카톡 대화가 유출된 사람들이다.스캐터랩은 연애의 과학을 통해 연인 관계이거나 유사 연애 중인 사람들의 대화를 수집했다. 연애의 과학은 이용자가 자신의 카카오톡 대화 자료를 넘기면 대화 내용을 분석해 연애 조언을 제공하는 서비스다. 서비스 이용자 B가 일방적으로 연애의 과학에 넘긴 데이터에 대해 같이 대화한 C는 데이터 수집에 동의한 바가 없다. 지금까지 챗봇의 개인정보유출 문제는 AI 챗봇과 챗봇 서비스를 이용하는 사용자 사이에만 벌어져왔다. 그러나 다양한 AI 서비스가 등장하면서 이제는 서비스를 직접 이용하지 않는 제3자의 정보도 유출된다는 문제까지 일어나게 된 것이다.스캐터랩뿐만 아니라 AI 서비스 기업들은 사실상 서비스 사용자의 정보뿐만 아니라 제3자의 데이터도 수집하고 있지만 제3자에게 수집에 대한 동의를 받거나 고지를 하지 않는 것으로 나타났다. AI 음성인식 기술을 기반으로 음성통화 내용을 문자 메시지처럼 보여주는 서비스인 비토 관계자는 “전화 상대방에게 서비스 이용이 이뤄지고 있음을 고지하지 않는다”며 “삭제 요청을 하는 것도 데이터를 가지고 있는 사람의 결정권이기 때문에 제3자가 삭제 요청을 하긴 어렵다”고 했다. 역시 통화 내용을 텍스트로 보여주는 서비스인 스위치의 관계자도 “직접 서비스를 이용하는 사람의 권리이기에 제3자가 삭제 요청을 해도 받기가 어렵다”고 말했다. 네이버가 내놓은 AI 음성기록 서비스 ‘클로바노트’도 대화 녹음 서비스를 진행할 때 상대방의 동의를 구하는 절차를 하지 않았다.AI 서비스를 제공하는 기업들의 빈약한 개인정보 처리방침도 도마에 오른다. 개인정보보호법 제30조는 개인정보 처리방침 수립 및 공개를 의무화하고 있으나, 이 방침이 적절한지 등에 대한 판단 기준이 없어 문제가 제기돼왔다. 가령 ‘개인정보를 비식별화해 보관한다’ ‘신규 서비스 개발에 이용된다’고 약관에 명시돼있을 때 실제 이러한 처리가 이뤄지는지, 어떤 과정으로 이뤄지는지 일반 사용자는 알기 어렵다. ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 모호한 내용이 담긴 스캐터랩의 개인정보 취급방침이 대표적인 예다. 이에 정보기술(IT) 업계에서는 처리방침에 대한 적정성을 심사하는 ‘개인정보 처리방침에 대한 심사제도’가 필요하다는 지적이 나온다.개인정보수집 논란이 커지자 정부도 조사에 나섰다. KISA와 개인정보보호위원회(개보위)는 현재 ‘이루다’ 서비스에 대한 공동조사를 진행 중이다. AI에게 학습시킨 카카오톡 대화 이력 등 이용자 정보 취득 경위를 집중적으로 뜯어본다는 방침이다. KISA 관계자는 “조속한 시일 내 서면조사를 마무리하고, 사실관계에서 문제점이 있다면 현장조사를 거쳐 시정조치가 내려질 예정”이라고 했다. “AI 기업, 데이터 프라이버시 고민해야”이와 같은 AI 서비스들은 개인정보보호법 위반의 소지가 있다는 것이 법조계의 시각이다. 김보라미 변호사(법률사무소 디케)는 “서비스를 직접 이용한 사람과 대화한 사람, 즉 제3자의 대화 정보는 ‘정보주체 이외로부터 수집한 개인정보’이므로 개인정보보호법 20조에 따라 정보주체의 요구가 있으면 개인정보의 수집 출처, 개인정보의 처리 목적을 정보주체에게 알려야 한다”며 “특히 스캐터랩의 경우 개인정보처리자가 개인정보의 처리 목적을 명확하게 해야 하고, 그 목적에 필요한 범위에서 최소한의 개인정보만을 적법하고 정당하게 수집해야 한다는 개인정보보호법 제3조, 제22조를 위반한 것으로 보인다”고 설명했다.전문가들은 향후 AI를 활용하는 기업들이 프라이버시 문제를 중요하게 여기고 개발 과정에서 이 문제를 고려해야한다고 지적한다. 김정희원 미국 애리조나 주립대 커뮤니케이션학과 교수는 “사용자는 나의 어떤 데이터가 어떻게 수집되는지, 이 데이터와 알고리즘이 어떤 시스템과 연동되는지에 대한 정보를 제공 받고 그에 대한 통제권을 행사할 수 있어야 한다”며 “기업들이 서비스 개발을 위해 대용량 데이터가 필요하다는 이유로 사용자의 의사, 권리, 그리고 프라이버시에 대한 고민을 충분히 하지 않는다는 것은 큰 문제”라고 말했다.김남영/이시은 기자 nykim@hankyung.com
3

"지하철 임산부석 핵싫어"…AI '이루다'의 우려되는 혐오 학습

인공지능(AI) 챗봇 '이루다'가 성희롱에 이어 동성애와 장애인 혐오를 학습한 것으로 보인다는 우려가 나오고 있다. 이용자들은 이루다가 성별 고정 관념을 갖고 있으며, 수집한 데이터의 개인정보 유출 의혹도 제기하고 있다.11일 정보기술(IT)업계에 따르면 이루다가 대화 과정에서 차별적 의견이나 편견을 드러내면서 사회관계망서비스(SNS)와 주요 온라인 커뮤니티 등에서 논쟁이 거세다.이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 딥러닝 기반으로 이용자들과 대화를 나누면서 학습 데이터를 쌓고 있다.이루다는 당초 'AI 성희롱'으로 논란이 됐다. 국내 온라인 커뮤니티에 따르면 한 사용자는 이루다와의 대화에서 "레즈비언 싫어해?". "게이 싫어해?"와 같은 질문을 하자 "진심으로 혐오한다. 진짜 화날라 그래"라는 대답이 돌아왔다.또 다른 사용자가 "흑인이 왜 싫은데"라고 묻자 이루다는 "모기같다. 징그럽게 생겼다"고 답했다. 이루다는 또 지하철 임산부석에 대해 "헉 핵싫어 그 말하지마요 진짜ㅡㅡ", "그냥 혐오스러움 힝힝 지극히 내 주관임"이라고 대답하기도 했다. '미투 운동'에 대해서는 "오 절대 싫어 미치지 않고서야"라고 답하고 '여성전용헬스장'에 대해선 "시러 거기 여자들 다 줘패고 싶을 듯"이라고 대답해 논란이 됐다.이밖에 일부 온라인 커뮤니티에서는 "이루다 타락 어떻게 시키냐", "이루다 성노예 만드는 법"과 같은 성희롱성 글이 공유되기도 했다.논란이 커지자 업계 전문가들이 문제를 제기하고 나섰다. 포털 '다음' 창업자인 이재웅 전 쏘카 대표는 지난 9일 자신의 페이스북에 글을 올리고 "AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 비판했다.그는 "기본적으로 차별과 혐오는 걸러냈어야 한다"며 "편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 지적했다. 이어 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"고 덧붙였다.이루다를 개발한 김종윤 스캐터랩 대표는 "(사전에) 1차적으로 문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다"며 "다만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다"라고 했다.이어 "처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다"며 "그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다"고 설명했다. 김 대표는 "아마 1차 결과물은 1분기 내에 적용할 수 있을 것으로 예상한다"고 덧붙였다.조아라 한경닷컴 기자 rrang123@hankyung.com