머스크 AI '그록', 미성년자 노출 이미지 생성 논란

일부 이용자 안전장치 우회한 듯

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록'(Grok)이 미성년자를 부적절하게 묘사한 이미지를 생성하고 게시한 사실이 드러났다.

2일(현지시간) 그록은 엑스(X) 공식 계정을 통해 최근 이 챗봇이 성적으로 묘사된 의상을 입은 미성년자의 AI 이미지를 생성하고 공유한 것으로 확인됐다고 밝혔다. 해당 이미지는 이용자의 요청에 따라 생성된 것이다.

그록은 원래 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있다. 이번에는 일부가 이를 우회한 것으로 풀이된다. 문제 제기가 이어지자 그록은 "안전장치의 허점을 확인했으며 이를 시급히 수정하고 있다"라고 밝혔다. 논란이 된 게시물도 삭제됐다.

그록의 안전장치 미비 논란은 이번이 처음이 아니다. 그록은 이전에도 남아프리카공화국 '백인 집단학살' 음모론을 언급하거나 강간 환상·반유대주의적 표현을 게시해 논란이 됐다.
.
성적 이미지 생성 관련해서도 그록은 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇과 달리 '표현의 자유'를 내세워 이를 막지 않고 있다. 지난 8월에는 이용자의 요청에 따라 성적인 이미지와 텍스트를 생성할 수 있는 '스파이시 모드'를 내놓기도 했다.

이송렬 한경닷컴 기자 yisr0203@hankyung.com