사진=게티이미지뱅크
사진=게티이미지뱅크
사회관계망서비스(SNS)가 청소년에게 미친 부작용보다 인공지능(AI)의 파장이 더 클 수 있다는 경고가 나왔다.

22일(현지시간) 로이터통신에 따르면 톰 시걸 전 구글 신뢰·안전 담당 부사장은 시민단체 커먼센스미디어가 만든 '청소년 AI 안전 연구소'의 초대 집행이사로 취임하면서 "AI가 아동에게 미치는 영향을 둘러싸고 매우 심각한 상황에 놓여 있다"고 말했다.

그는 "우리는 AI가 아동에 미치는 영향과 관련해 매우 끔찍한 상황에 부닥쳐 있다"며 "기술 업계가 외부의 도움 없이 스스로 문제를 해결할 것이라는 생각은 비현실적"이라고 지적했다.

시걸 이사는 기술기업들이 과거 SNS 확산 과정에서 겪었던 시행착오를 AI에서 되풀이하고 있다고도 우려했다. 충분한 안전장치가 마련되기 전에 서비스를 빠르게 출시하고, 미성년자 이용 문제는 뒤늦게 손보는 방식이 반복되고 있다는 것이다.

그는 "우리는 매우 심각한 피해 시나리오를 직면하고 있다"며 청소년 자살과 정신질환, 그리고 AI 의존에 따라 비판적 사고 능력이 저하하는 '인지 외주화'를 그 피해 사례로 들었다.

대책으로는 미성년자의 챗봇 접근을 막을 수 있는 보다 강력한 연령 확인 절차를 제시했다. 검색엔진에서 자동으로 노출되는 AI 답변을 이용자가 끌 수 있도록 선택권도 보장해야 한다고 주장했다.

청소년 AI 안전 연구소는 앞으로 AI의 위험성을 객관적으로 평가할 수 있는 공개 기준 마련에도 나설 계획이다. 자동차 충돌시험처럼 일정한 기준을 바탕으로 AI 서비스의 위험도를 측정할 수 있는 체계를 만들겠다는 구상이다.

시걸 이사의 이와 같은 발언에 대한 논평 요청에 구글 대변인은 관련 기업들은 이미 안전 조치를 마련하고 있다는 입장을 내놨다. 구글 대변인은 자사 AI 검색 기능이 아동·청소년이 정보를 탐색하는 데 도움이 된다고 설명했다. 오픈AI 역시 서비스 이용 가능 연령에 미달하는 이용자를 행동 분석 등을 통해 식별하고 있다고 밝혔다.

시걸 이사는 2004년부터 2019년까지 구글에서 근무하며 플랫폼 안전성 강화 업무를 담당했다. 이후 구글을 떠나 AI 유해 요소를 감지하는 스타트업 '트러스트랩'을 공동 창업해 운영해왔다.

오픈AI의 상위 조직인 오픈AI 재단과 앤트로픽은 이번에 출범한 청소년 AI 안전 연구소를 후원하고 있다.

김희선 한경닷컴 기자 gimme_sun@hankyung.com