MS, 사과 후 재교육 약속
마이크로소프트(MS)의 인공지능(AI) 채팅 로봇인 테이(Tay)가 최근 인종·성차별 발언 등 막말을 쏟아낸 데 대해 MS가 공식 사과하고 ‘재교육’을 약속했다.

27일 BBC 등 외신에 따르면 MS 담당 연구 책임자인 피터 리 부사장은 “의도하지 않은, 공격적이고 상처를 주는 (테이의) 트위터 글에 대해 매우 죄송하다”며 “테이는 지금 오프라인 상태로 우리의 원칙 및 가치와 충돌하는 악의적 의도를 더 잘 예측할 수 있을 때 복귀를 검토하겠다”고 말했다.

지난 23일 공개된 테이는 트위터 등 소셜네트워크서비스(SNS)상에서 실제 사람처럼 대화를 나눌 수 있도록 한 AI 로봇이다. 대화에 사용된 단어, 문장 등을 스스로 학습해 패턴을 발견하고 향후 채팅에 반영한다. 공개 후 단 몇 시간 만에 히틀러와 나치 정권을 미화하고 유대인 집단 학살을 지지하는 등 각종 차별 발언을 쏟아내 논란이 됐다.

리 부사장은 테이가 초기에 일부 극우주의자로부터 욕설과 인종·성차별, 자극적인 정치적 발언 등을 대량으로 접하면서 사실상 ‘세뇌’당했다고 인정했다.

그는 “많은 종류의 시스템 오·남용에 대비했지만 이 같은 특정한 공격을 간과했다”며 “결과적으로 테이는 극도로 부적절하고 부끄러운 말과 이미지를 사용했고 우리가 이런 가능성을 예측하지 못한 것에 전적으로 책임을 느낀다”고 했다.

MS는 이 같은 부작용에도 불구하고 인간과 상호 작용하는 AI 연구를 계속 진행하겠다는 방침이다.

이호기 기자 hglee@hankyung.com

ⓒ 한경닷컴, 무단전재 및 재배포 금지