사진=REUTERS
사진=REUTERS
메타가 새로 출시된 인공지능(AI) 비서 ‘뮤즈’의 전화 통화 기능을 개선하기 위해 일부 통화를 인간 계약직 상담원이 대신 해주는 ‘인간 컨시어지 기능’을 시험한 것으로 드러났다. 이는 실제 통화 과정에서 AI와의 통화임을 알게 되면, 상대방이 대개 전화를 끊어버려 성공률이 떨어진다는 점 때문이다.

23일(현지시간) 로이터에 따르면, 메타는 최근 뮤즈의 전화 통화 기능을 개선하기 위해 일부 통화를 훈련된 인간 상담원에게 넘겨 상담원이 해결하는 방식을 직원들을 대상으로 실험했다. 이 결과를 토대로 전화 관련 기능을 개선한다는 계획이다.

뮤즈는 사용자를 대신해 이메일을 보내거나 쇼핑·여행 예약 등을 수행하는 AI에이전트다. 미국 내 업체에 직접 전화해 미용실 예약, 상품 재고 확인, 견적 문의, 요금 협상 등을 처리하는 기능도 갖고 있다. 문제는 AI가 전화를 걸었다는 것을 알면, 상대 업체 대다수가 전화를 끊어 버리는 등 성공률이 떨어진다는 점이었다.

이를 해결하기 위해 메타는 일부 전화 요청을 훈련된 인간 상담원에게 넘겨 상담원이 직접 전화하도록 하는 방식을 직원들을 대상으로 시험했다. 내부 테스트 결과 뮤즈의 전화는 성공률이 낮았으나 사람이 전화할 경우 업무 성공률이 95~98% 수준까지 올라간 것으로 알려졌다.

그러나 메타 직원들은 개인정보 보호와 투명성 문제를 제기했다. 사용자는 AI와 정보를 공유한다고 생각하지만, 실제로는 외부 콜센터 등의 직원에게 민감한 개인 정보 등이 전달될 가능성이 있기 때문이다. 한 직원은 자신의 인터넷·케이블 요금 협상을 뮤즈에 맡겼을 때 인간 상담원이 통화 중 인종차별적 표현을 사용했다는 사례도 보고했다.

이에 메타의 슈퍼인텔리전스 랩스 담당 부사장은 충분한 고지 없이 인간 상담원이 대신 전화하는 기능을 시험한 것은 잘못이었다면서 해당 기능을 일단 철회했다고 로이터는 전했다. 메타 측은 향후 안전·개인정보 보호 장치를 마련하고 적절한 고지를 한 뒤에만 이 기능을 공개하겠다는 입장이다.

로이터는 뮤즈의 인간 컨시어지 테스트는 기술 기업들이 AI의 자율적 기능 배후에서 인간의 노동력에 여전히 의존해야 하는 사례도 있다는 것을 보여준다고 지적했다.

메타는 10년전 페이스북의 메신저 서비스에서 "M"이라는 디지털 비서를 시험 운영한 적이 있다. 당시에도 해당 비서의 업무 중 약 70%는 실제로 사람이 수행한 것으로 알려졌다.

뮤즈의 ‘인간 컨시어지’ 계획에 대해 메타 대변인은 테스트의 목적은 "안전 및 개인정보 보호 조치를 시행하고 기능을 개선한 후 공식 출시하기 전에 피드백을 받는 것"이라고 밝혔다.

시장 조사 기관인 센서 타워의 데이터에 따르면, 메타의 뮤즈 에이전트는 출시 이후 23일까지 약 250만 건 이상의 다운로드를 기록했다.

마켓워치에 따르면, 최근까지 AI전략이 크게 주목받지 못했던 메타에 뮤즈 출시는 중요한 전환점이 되고 있다. 메타 주가는 뮤즈 출시 이후 9월 들어 거의 30% 상승했다. JP모건의 분석가 더그 앤머스는 "아직 초기 단계지만, 뮤즈는 챗GPT 이후 가장 널리 사용되는 소비자용 AI앱이 될 잠재력을 갖고 있다”고 밝혔다.
메타 AI비서 뮤즈…사람이 대신 전화 걸어주는 '인간컨시어지'실험
김정아 객원기자 kja@hankyung.com