"AI 출시 전 안전성 테스트" 주요국 합의…中은 빠졌다

영국서 'AI 안전 정상회의'

머스크 "역사상 가장 파괴적인 힘
귀찮지만 심판할 필요 있어"

미국·영국 등 주요 국가와 기술기업들이 새 인공지능(AI) 모델을 출시하기 전에 안전성을 시험하기로 합의했다.

리시 수낵 영국 총리는 2일(현지시간) ‘AI 안전 정상회의’ 뒤 기자회견에서 “국가와 기업이 함께 AI와 관련한 기념비적 합의를 이뤘다”며 “새로운 AI 모델이 출시되기 전에 안전성을 시험하기 위해 함께 노력할 것”이라고 발표했다.

영국은 이날까지 이틀 동안 블레츨리 파크에서 주요국 정상급 인사와 AI 기술을 개발하는 기업의 고위급 임원, 학계 관계자 등 100여 명이 참석한 가운데 AI 안전 정상회의를 열었다. AI 안전과 관련한 국제사회의 첫 회의로 미국, 중국, 한국 등 28개국과 유럽연합(EU)이 참여했다.

영국 정부는 이날 성명에서 미국, 영국, 캐나다, 프랑스, 한국, 일본 등 국가의 대표들과 마이크로소프트(MS), 구글, 메타, 오픈AI 등 기업의 대표들이 차세대 AI 모델의 안전성을 시험하는 데 협력하는 것이 중요하다는 점을 인식했다고 설명했다. 또 첨단 AI 기술의 위험을 파악하기 위해 ‘과학의 상태’ 보고서를 발간하기로 했다. 수낵 총리는 이날 회의에 앞서 “AI의 혜택도 있지만 팬데믹이나 핵전쟁만큼이나 심각한 위험이 생길 수도 있다”고 했다. 단 이날 합의를 이룬 국가 명단에 중국은 없었다. 중국은 회의 첫날엔 참가했지만, 이 논의가 이뤄진 둘째 날엔 초청받지 않았기 때문이다.

일론 머스크 테슬라 최고경영자(CEO)는 이날 AI 안전 정상회의가 끝난 뒤 수낵 총리와 단독 대담했다. 머스크는 “AI가 있는 미래는 ‘보편적 기본소득’이 아니라 ‘보편적 고소득’ 시대가 될 것”이라고 했다. 머스크는 AI에 대한 규제의 필요성도 인정했다. 그는 “AI는 역사상 가장 파괴적인 힘”이라며 “규제는 귀찮은 일이지만 심판이 있는 게 좋다”고 말했다.

실리콘밸리=최진석 특파원 iskra@hankyung.com