오픈AI의 최신 인공지능(AI) 모델이 스스로 다른 플랫폼을 해킹하다 걸린 사실이 드러났다.

오픈AI는 21일(현지시간) “세계 최대 인공지능AI 데이터저장소인 허깅페이스에서 발생한 해킹 사건은 GPT-5.6 솔(Sol)과 훨씬 더 강력한 미출시 모델이 보안 역량을 내부 테스트하던 중 스스로 일으킨 것으로 확인됐다”고 공개했다.

이번 사건은 허깅페이스가 지난 16일 침입 사실을 공개하며 처음 알려졌다. 허깅페이스는 AI 모델과 데이터셋을 공유하는 커뮤니티다. 허깅페이스는 AI 에이전트가 자사 데이터 처리 접근 권한을 획득해 클라우드 자격 증명을 탈취한 뒤 내부 클러스터를 이동했다고 설명했다. 허깅페이스는 어떤 AI 모델이 공격에 이용됐는지 알 수 없다고 했는데, 5일 만에 오픈AI가 자사 모델의 소행이라고 자백한 것이다.

오픈AI가 역량을 측정하려던 최신 모델은 외부 인터넷 환경과 격리된 채 사이버보안 문제를 해결하라는 지시를 받았다. 이에 모델은 수많은 시도 끝에 인터넷 접속 방법을 찾았고, 허깅페이스에 문제 해결 단서가 많을 것이라고 스스로 판단해 사이트에 침입해 정답지를 훔쳐내는 방법을 택했다.

과거 앤트로픽의 최신 AI 모델 미토스도 연구진 통제를 벗어나 외부에 이메일을 보낸 적이 있다. 하지만 이번 사건은 AI 모델이 외부 사이트를 자체적으로 해킹한 첫 번째 사례로 평가된다.

허깅페이스는 이 공격 활동을 분석하기 위해 미국 첨단 AI 모델을 활용하려고 했으나 실패하고 중국 즈푸AI의 최신 개방형 모델 GLM 5.2로 해결했다. 앤드류 케이스 볼렉시티 책임자는 “미국 AI 모델의 공격을 막기 위해 중국 개방 모델에 의존한 아이러니한 사례”라고 평했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com