테스트 결과 따라 출시 일정 확정
'이루다' 돌아온다…스캐터랩, 2.0 버전 베타 테스터 모집
인공지능(AI) 스타트업 스캐터랩은 일상 대화형 챗봇 '이루다2.0'을 출시하기 앞서 다음달 11일부터 서비스 전반에 걸쳐 AI 윤리를 점검하고 사용자 의견을 받기 위한 베타 테스트를 진행한다고 21일 밝혔다.

스캐터랩은 작년 12월 출시한 '이루다'의 첫 버전이 혐오 발언을 쏟아내기거나 성적 도구 취급을 당하는 일이 벌어지자 올해 1월 서비스를 잠정 중단하고 신뢰할 수 있는 AI 모델 개발에 집중했다.

스캐터랩은 AI 기술과 제품 개발 전반에 가이드라인이 될 수 있는 AI 챗봇 윤리 준칙도 수립했다.

'사람을 위한 AI 개발'을 하겠다는 대원칙 하에 만들어진 윤리 준칙은 ▲ 다양한 삶의 가치 존중 ▲ 함께 실현하는 AI 챗봇 윤리 ▲ 합리적 설명을 통한 신뢰 관계 유지 ▲ 프라이버시 보호와 정보 보안 발전에 기여 등을 담았다.

회사 측 설명에 따르면 이루다2.0의 폐쇄 베타 테스트는 이런 윤리 준칙에 따라 진행된다.

이루다2.0은 엄격하게 가명처리한 데이터베이스로 학습 과정을 거쳤으며, 개인정보보호를 강화할 수 있도록 AI 딥러닝 알고리즘이 생성한 문장으로 답변할 수 있도록 했다.

대화 특정 단어뿐만 아니라 문맥을 탐지해 선정적·공격적·편향적 문장에 대응할 수 있도록 '어뷰징 탐지 모델'도 접목했다.

스캐터랩은 다음달 4일까지 이루다 페이스북 페이지를 통해 테스트 참가 신청을 받아 테스터 약 3천 명을 선정할 예정이다.

베타 테스터로 선정된 사용자는 다음달 11일부터 약 3주간 이루다2.0과 자유롭게 대화하면서 AI 챗봇이 대화 문맥을 이해하고 적절하게 답변하는지와 선정적, 공격적, 편향적인 단어나 문맥을 탐지해 대응하는지 등을 검토한다.

스캐터랩은 테스트를 통해 사용자의 의견 및 개선 사항 등을 점검한 후 내년 이루다2.0의 공식 출시 일정을 결정할 예정이다.

/연합뉴스