과기정통부, AI윤리정책 포럼…스캐터랩, 챗봇 윤리점검표 공유(종합)

과학기술정보통신부(과기정통부)는 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA)와 26일 서울 중구 포스트타워에서 제3차 인공지능(AI) 윤리정책 포럼을 개최했다고 밝혔다.

포럼은 AI의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 지난 2월 출범했다.

산업계를 비롯해 AI, 윤리, 교육, 법제도, 공공 등 다양한 분야의 전문가 30명이 제1기 포럼 위원으로 활동하고 있다.

이날 포럼에서는 AI 챗봇 '이루다'를 개발한 '스캐터랩', AI 기반 영상인식 솔루션 등을 개발한 '알체라', AI 기반 글쓰기 솔루션 등을 제공하는 '뤼튼테크놀로지스'가 AI 서비스를 개발하는 과정에서 어떠한 고민을 가지고, 어떻게 노력하였는지 등 경험을 공유했다.

이 자리에서 스캐터랩은 개별 기업 특화 윤리점검표 1호인 '스캐터랩 AI 챗봇 윤리점검표' 최종안을 공개했다.

스캐터랩은 2020년 12월 과기정통부와 KISDI가 발표한 '사람이 중심이 되는 인공지능 윤리기준'을 바탕으로 AI 챗봇을 기획, 개발, 운영할 때 지켜야 할 규범 21가지를 점검표 형태로 선정했다.

앞서 스캐터랩은 AI 챗봇 '이루다'를 2020년 12월 23일 출시했으나, 일부 이용자들의 성적(性的) 접근 시도, 개인정보 유출 등 논란이 일자 출시 3주 만인 2021년 1월 11일 서비스를 잠정 중단했다.

이후 신뢰할 수 있는 AI 모델 개발에 집중한 스캐터랩은 지난 1월부터 '이루다 2.0' 베타 테스트를 진행하고 있다.

김종윤 스캐터랩 대표는 "이루다가 우리 사회의 보편적인 윤리를 지향하면서, 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다"고 말했다.

과기정통부는 포럼 결과물, 기업 애로사항 등을 종합해 챗봇, 위기 상황 감지, 작문 등 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검항목 후보군(pool)을 공개할 예정이다.

엄열 과기정통부 인공지능기반정책관은 "혁신을 저해하지 않으면서 국민이 믿고 이용할 수 있는 인공지능 제품·서비스를 개발하기 위해서는 기업 스스로 인공지능 윤리를 실천하고자 하는 노력이 중요하다"고 말했다.

엄 국장은 "인공지능 기술 수준, 인공지능 윤리 관련 국내외 동향, 이해관계자의 목소리 등을 종합적으로 고려해 현장에서 공감할 수 있는 자율 규제 환경을 조성하기 위해 적극 지원하겠다"고 강조했다.

/연합뉴스