국무부 의뢰로 AI 최고경영진 등 200여명 인터뷰해 작성 AI로 인한 재앙적 국가안보 위험 경고…"정부 개입해야"
' />
빠르게 진화하는 인공지능(AI)이 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 미국에서 나왔다.
AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 미국 국무부의 의뢰를 받아 이번 주 발표한 보고서는 가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 개입해야 한다고 지적했다.
미국 CNN 방송은 12일(현지시간) 보고서 내용을 전하면서 "빠르게 진화하는 AI로 인한 재앙적인 국가 안보 위험에 대한 경고"라고 짚었다.
CNN은 또 보고서에 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 담겼다고 전했다.
보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다.
인터뷰한 인원은 200명이 넘는다.
보고서는 크게 두 가지 위험을 꼽았다.
우선 가장 발전한 AI 시스템이 무기화되어 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다는 것이다.
보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다.
어느 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 개별적인 우려들도 AI 연구실 내에 존재했다.
보고서는 "AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다.
그러면서 이러한 위협에 대응하기 위해 획기적인 조치에 나설 것을 촉구했다.
새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다.
보고서 저자들은 "미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다"고 강조했다.
글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 "AI는 이미 경제적으로 혁신적인 기술"이라면서 "하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다"고 지적했다.
그는 "세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다"고 말했다.
그는 자신의 팀이 공공 및 민간 부문 관계자들에게 "전례 없는 수준으로" 접근할 수 있었던 덕분에 놀라운 결론에 도달할 수 있었다고 설명했다.
글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다.
또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.
글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다.
보고서는 "한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다"며 "이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문"이라고 전했다.
보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다.
보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다.
보고서는 또 인간을 뛰어넘을 수도 있는 AGI의 진화 속도를 가장 큰 관건으로 꼽았다.
보고서는 "AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다"며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다.
미국 국무부 당국자는 국무부가 국내외에서 미국의 국익을 보호하려는 목표에 AI가 어떻게 부합하는지를 지속적으로 평가하고 있어 이 보고서를 의뢰했다고 CNN에 확인했다.
독일 기독민주당·기독사회당 연합과 사회민주당, 녹색당이 14일(현지시간) 12년간 5000억유로(약 790조원)에 이르는 정부 재정을 인프라에 투자하고 국방비를 사실상 무제한 증액할 수 있도록 하는 기본법(헌법) 개정에 합의했다. 도널드 트럼프 미국 대통령이 ‘자국 우선주의’를 내세워 유럽에서 안보 불안이 커진 가운데 독일이 재무장에 나서는 것이다. 독일 경제연구소들은 이번 합의안이 의회를 통과하면 독일 경제성장에도 플러스 효과가 날 것으로 기대한다. ◇獨, 국방비 차입 제한 해제이번 개정안에서 가장 주목할 점은 국방비 증가를 제한하는 ‘부채 브레이크’ 폐지다. 기존 규정에선 정부의 신규 부채를 연간 국내총생산(GDP) 대비 0.35%로 제한했다. 개정안은 국방비에 한해 이 규정을 적용하지 않기로 했다. 나랏빚을 늘리더라도 국방비를 사실상 무제한으로 확대할 수 있다는 뜻이다. 독일에서 부채 브레이크가 해제된 것은 2008년 금융위기 때 이 제도가 도입된 이후 처음이다.현재 독일 정부의 정규 국방 예산은 연간 500억유로다. 2022년 2월 우크라이나 전쟁 발발 이후 정규 예산과 별도로 투입된 특별예산 1000억유로는 2027년 소진될 예정이다. 독일 킬세계경제연구소는 미국 지원 없이 독일이 자체적으로 국방비를 충당하려면 현재 정규 예산과 특별예산을 합쳐 연간 800억유로(GDP의 2.1%) 수준인 국방비를 최대 1400억유로(GDP의 3.5%)까지 증액해야 한다고 분석했다.개정안에는 5000억유로 규모 인프라 예산도 포함됐다. 이는 지난해 독일 전체 예산(4657억유로)을 넘는 금액이다. 이 예산은 교통, 에너지, 교육, 복지, 과학 인프라 투자에 사용될 예정이다. 이 중 1000억유로는 기후변
주요 7개국(G7)이 러시아에 미국과 우크라이나가 합의한 ‘30일 휴전’안에 합의하라고 촉구했다. 러시아가 받아들이지 않으면 추가 제재에 나서겠다고 경고했다.14일(현지시간) G7 외교장관은 캐나다 퀘벡 샤를부아에서 회의한 뒤 공동성명을 내고 “지난 11일 열린 미국과 우크라이나 간 고위급 회담을 환영한다”며 “우크라이나의 즉각 휴전에 대한 약속에 박수를 보낸다”고 밝혔다. 이어 “러시아가 동등한 조건의 휴전에 동의하고 이를 완전하게 이행할 것을 촉구한다”고 강조했다.미국과 우크라이나는 사우디아라비아에서 회담을 열고 종전에 앞서 우선 30일간 휴전하는 방안에 합의했다. 블라디미르 푸틴 러시아 대통령은 원칙적 찬성 입장을 밝히긴 했지만 세부 조건 논의가 더 필요하다며 유보적 태도를 보였다. 유리 우샤코프 크렘린궁 보좌관도 러시아의 이익을 고려해 휴전안을 수정할 것을 요구하며 원안을 사실상 거부했다.G7은 러시아가 휴전안을 수용하지 않으면 국제사회의 추가 제재 등 비용을 치를 것이라고 경고했다. 이들은 “러시아가 휴전을 완전히 이행하지 않으면 러시아산 석유 가격 상한제 등 추가 제재와 동결된 러시아 자산 수익금을 우크라이나 지원에 활용하는 방안을 검토하겠다”고 밝혔다.당초 이번 회의에서 공동성명 도출이 어려울 것이라는 관측이 많았다. 도널드 트럼프 미국 대통령의 관세 부과 등 잇따른 ‘동맹 때리기’에 불편한 기류가 형성됐기 때문이다. 그러나 미국 대표로 나온 마코 루비오 국무장관(사진)이 유화적 태도를 보이면서 합의가 원활하게 이뤄졌다는 분석이 나온다. 영국 로이터통신은 “이번 합의는 장
미국과 중국이 파나마 운하를 둘러싸고 본격적인 ‘힘겨루기’에 들어갔다. 홍콩 기업 CK허치슨이 파나마 운하 항구 운영권을 매각하기로 한 결정에 중국이 강력 반발하고 나서면서다.중국 관영 매체인 홍콩 대공보는 지난 13일 논평을 내고 CK허치슨이 파나마 운하 항구 운영 사업권을 미국 블랙록 컨소시엄에 매각하기로 한 결정에 대해 “전체 중국인을 배신하고 팔아넘긴 것”이라며 “미국이 협박, 압박, 회유 등 비열한 수단을 통해 다른 나라의 정당한 권익을 착복한 패권적 행위를 하고 있다”고 강하게 비판했다. 홍콩 대공보는 중앙정부 홍콩 주재 연락판공실이 통제하는 매체로, 사실상 중국 중앙정부 입장을 대변한다. 이 논평은 중국 국무원 홍콩·마카오 사무판공실과 중앙정부 홍콩 주재 연락판공실의 공식 홈페이지에 게시됐다.앞서 파나마 운하 양쪽 입구에 있는 두 항구의 운영권이 미국으로 넘어가면서 논란이 일단락되는 듯했다. CK허치슨은 파나마 운하 항구를 포함한 전 세계 23개국 43개 항만 사업 부문 지분 등을 228억달러(약 33조2000억원)에 블랙록 컨소시엄에 매각하기로 하고 협상을 벌이고 있다고 이달 4일 밝혔다.이혜인 기자