사진=REUTERS
사진=REUTERS
오픈AI 내부에서 인공지능(AI) 개발 속도를 두고 논쟁이 벌어졌다. 야쿠프 파호츠키 오픈AI 최고과학자는 6일(현지시간) 오픈AI 홈페이지에 올린 글에서 “기계 지능(AI)의 지속적인 급속한 발전이 초래한 결과에 아무도 대비하지 않고 있다는 점이 우려스럽다”며 AI 개발 속도를 조절해야 한다고 주장했다. 오픈AI의 AI 개발 속도가 재귀적 자기개선(RSI)으로 속도가 붙고 있다는 판단에서다. RSI는 AI가 후속 AI 모델을 개발하는 단계를 뜻한다.

파호츠키는 “몇 년 안에 우리가 볼 AI 시스템은 스스로 발전을 가속화할 가능성이 높다”며 “(AI의) 사고 사슬(CoT)을 모니터링하는 능력이 점차 떨어지고 있다”고 우려했다. 사고 사슬은 AI가 복잡한 작업을 할 때 표시하는 과정이다.

파호츠키는 AI가 인간에게 위협이 되는 행동을 거부하도록 하는 ‘정렬’ 문제를 충분히 해결한 연구소는 아직 한 곳도 없다고 했다. 그는 “공동 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화되기를 기대하고 희망한다”고 강조했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 파호츠키 글을 X(옛 트위터)에 “중요한 글”이라며 공유했다.

같은 날 오픈AI 홈페이지에는 AI를 통한 과학 연구에 더욱 속도를 내야 한다는 보고서도 올라왔다. 보고서엔 지난 3일 발표한 신모델 GPT-6 아스트라를 통해 ‘자동화된 연구 인턴’ 수준을 달성했으며 2028년 3월까지 자동화 AI 연구원을 개발한다는 목표가 순조롭게 진행되고 있다고 적혀 있다. 자동화된 연구 인턴은 며칠 걸리는 작업을 포함해 사람 지시에 따라 연구를 수행하는 AI를 말한다. 보고서는 “자동화된 AI 연구로 인류 복지가 향상되고 전 세계 사람이 혜택을 누릴 수 있다”고 했다.

오픈AI는 이와 관련해 “파호츠키 글은 위험 대비와 국제적 공조의 시급성을, 연구보고서는 연구 자동화 현황과 안전한 추진 조건을 강조한다”며 “두 글 모두 자동화 AI 연구가 방어 체계 구축에 도움이 되고 안전을 위해 필요하면 개발을 늦춰야 한다는 공통의 시각을 담고 있다”고 설명했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com