인공지능 위협 막자…글로벌 대응 위한 첫 AI정상회의 내일 개막

대량살상무기 고도화·허위정보발 민주주의 위협 등 대처
G7 정상급 인사, 일론 머스크 등 빅테크 기업인 영국 집결
'개발자 행동규범' 마련…美 'AI모델 위험 정부에 의무통지' 규제 도입

인공지능(AI) 기술이 인류 존립을 위협할 수 있다는 우려 속에 지구촌이 집단적 대응의 막을 올린다.

개별적 규제 마련에 박차를 가하는 세계 각국이 한자리에 모여 국제사회 차원의 대안을 논의하는 첫 정상회의가 열린다.

31일 영국 정부와 AFP·블룸버그 통신 등에 따르면 'AI 안전 정상회의'((AI Safety Summit 2023)가 내달 1∼2일 영국 버킹엄셔의 블레츨리 파크에서 개최된다.

영국 정부가 주도한 이번 회의는 주요 7개국(G7) 정상급 인사와 국제기구 수장 등이 모여 AI에 대한 국제사회의 접근 방식을 논의하는 최초의 자리다.

AI 관련 기술을 안전하게 개발·활용하고 악용되지 않게 하기 위한 방안이 이번 회의의 주요 의제다.

최근 AI가 비약적으로 발전하면서 그 잠재적 위험을 경고하는 목소리가 높아진 상황이다.

AI 기술이 생화학 무기 개발이나 테러, 사이버 공격, 사기 등 범죄에 이용될 수 있고, 저숙련직을 대체해 노동자들에게 악영향을 미칠 수 있다는 것이다.

생성형 AI가 만들어낸 허위 정보가 선거 결과를 좌우해 민주주의의 근간을 뒤흔들 수 있다는 점도 심각한 우려로 거론되고 있다.

리시 수낵 영국 총리는 앞서 지난 26일 왕립협회 연설에서 더 국제적인 접근법으로 이러한 AI의 위험을 막는 것이 궁극적 목표라고 강조했다.

수낵 총리는 또한 이번 회의에서 "이러한 위험의 본질에 대한 최초의 구체적 성명에 합의하기 위해 노력할 것"이며 기후변화에 대처하기 위한 것과 유사한 국제 전문가 패널을 구성하는 방안도 제안할 것이라고 말했다.

이번 회의를 앞두고 AI 규제 움직임은 보다 구체화하고 있다.

미국은 기업들이 개발하는 AI 모델이 국가 안보나 경제에 위험을 초래할 경우 연방정부에 의무적으로 통지하도록 했다.

이날 조 바이든 미국 대통령은 이런 내용 등을 담은 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다.

바이든 대통령은 관련 연설에서 AI 규제 필요성을 강조하면서 자신의 '딥페이크' 영상을 본 경험을 소개하기도 했다.

G7 국가들은 지난 30일 AI 시스템 개발 조직이 지켜야 할 국 지침 및 행동규범에 합의했다.

국제지침과 행동규범은 인권에 중대한 위험을 초래할 방법으로 고도의 AI를 개발·도입해서는 안 된다고 강조했다.

개발자들이 AI의 위험을 파악하고 완화하기 위한 독립적인 외부 검사와 같은 '적절한 조치'를 취할 것, AI 생성 콘텐츠를 식별할 수 있도록 인증 메커니즘 등을 도입할 것, 개인 데이터 및 지식재산권을 보호할 것 등의 내용도 지침에 포함했다.

이번 합의 내용은 자발적으로 지키는 행동강령 같은 것으로 구속력은 없지만 각국이 자체 AI 규정을 마련하는 데 기준이 될 수 있다고 외신들은 전했다.

또 미국, 영국, 독일, 호주 등 27개국 정부와 틱톡, 스냅챗 등 기업들은 30일 공동성명을 내고 AI가 생성하는 아동 성 학대 이미지 문제를 해결하기 위해 협력하기로 했다.

이번 AI 안전 정상회의에는 수낵 총리와 카멀라 해리스 미국 부통령, 조르자 멜로니 이탈리아 총리, 우르술라 폰데어라이엔 유럽연합(EU) 집행위원장, 안토니우 구테흐스 유엔 사무총장 등이 참석한다.

이번 회의에는 AI 분야 선도국으로 꼽히는 중국과 이스라엘도 초청됐다.

베냐민 네타냐후 이스라엘 총리는 원격 화상 연결로 참여하고 중국에서는 우자후이 과학기술부 부부장(차관)이 참석한다.

AI 관련 대기업의 최고경영진들도 함께 모인다.

블룸버그와 로이터는 영국 정부 관계자들을 인용해 일론 머스크 테슬라 최고경영자(CEO)도 회의에 참석한다고 전했다.

지난 7월 AI 기업 'xAI'를 설립한 머스크는 AI 정상회의 후 수낵 총리와 따로 만나 대화할 예정이다.

브래드 스미스 마이크로소프트(MS) 부회장, 챗GPT 개발사인 오픈AI의 샘 올트먼 CEO, 알파벳(구글 모회사)의 AI 조직인 딥마인드의 데미스 허사비스 CEO 등도 참석할 것으로 알려졌다.

이들이 모이는 블레츨리 파크 저택은 컴퓨터 과학의 발상지로 일컬어지는 곳이다.

제2차 세계대전 당시 천재 수학자이자 현대 컴퓨터 과학의 아버지로 불리는 앨런 튜링을 비롯한 암호 해독자들이 이곳에서 근무하며 독일군 암호 체계 '에니그마'를 해독해 연합군의 승리에 결정적 기여를 했다.

/연합뉴스