사진=챗GPT 생성 이미지
사진=챗GPT 생성 이미지
오픈AI가 신모델 GPT-6 아스트라를 공개하면서 일반인공지능(AGI)에 한 걸음 다가갔다는 평이 나오는 가운데 안전성 논란이 커지고 있다.

7일(현지시간) 실리콘밸리에서는 GPT-6 아스트라 개발에 사용된 ‘반복형 트랜스포머(looped transformer)’ 기술이 위험하다는 의견이 대두되고 있다. 오픈AI 전 안전 연구자였던 스티븐 애들러는 이에 대해 “오픈AI가 업계에 존재하는 레드라인을 넘어섰다”고 했다.

AI모델의 근간인 트랜스포머 모델은 여러 층을 거쳐 정보를 처리하는 방식으로 작동한다. 각 층에는 단어의 중요도를 평가하는 ‘어텐션’과, 이를 기반으로 각 단어의 정보를 가공하는 ‘순방향신경망(FFN)’이 작동한다. 최신 AI모델은 이런 층이 수십~수백 개로 구성되고, 층수가 늘어날 때마다 추론 수준도 깊어진다. 다만 층을 더 늘리려면 모델 크기(파라미터)를 키워야 하고, 추론에 드는 컴퓨팅 자원도 많아진다.

이런 문제를 해결한 기술이 바로 특정 층을 여러 번 연산하는 반복형 트랜스포머다. 한 층에서 계산을 반복해 성능을 유지할 수 있다. 이론 수준으로 평가되던 이 기술은 지난해 10월 틱톡 모기업 바이트댄스가 기존 모델 대비 3분의 1 크기인 AI모델을 개발하면서 증명됐다.

이 기술은 그러나 AI업계에서 ‘금단의 기술’로 취급된다. 기존 트랜스포머 모델은 각 층에서 연산을 마칠 때마다 사고 과정을 출력한다. 이를 사고 사슬(CoT)이라고 한다. CoT를 통해 인간은 AI의 추론 과정을 파악할 수 있다. 반면 반복형 트랜스포머에서는 한 개 층에서 연산을 반복한 뒤 결과값만 도출해 AI가 어떤 생각을 하는지 읽을 수 없다. 반복형 트랜스포머 기술이 ‘불투명 반복(opaque recurrence)’이라고도 불리는 이유다.

비영리 AI 안전 연구조직인 레드우드리서치의 빅 슐레게리스 최고경영자(CEO)는 “오픈AI가 이 기법을 더 밀어붙이면 반복 횟수를 크게 늘려 CoT 감시를 완전히 무력화할 선택지를 갖게 된다”고 경고했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com