독일 하노버에서 열린 ‘하노버 메세 2026’ 마이크로소프트 전시 부스에 회사 로고가 표시돼 있다. 마이크로소프트는 AI 데이터센터 전력 수요 급증으로 2030년 청정전력 목표를 재검토하고 있는 것으로 알려졌다. 사진=연합뉴스
독일 하노버에서 열린 ‘하노버 메세 2026’ 마이크로소프트 전시 부스에 회사 로고가 표시돼 있다. 마이크로소프트는 AI 데이터센터 전력 수요 급증으로 2030년 청정전력 목표를 재검토하고 있는 것으로 알려졌다. 사진=연합뉴스
인공지능(AI)개발 속도 조절론이 나오는 가운데 마이크로소프트가 최첨단 AI 모델 개발에 대한 새로운 지침들을 발표했다. 15,000단어에 달하는 이 선언문은 다섯 단어로 요약된다. “사람이 인공지능보다 중요하다.(People matter more than AI)”

14일(현지시간) 블룸버그와 로이터 등 외신들에 따르면, 마이크로소프트는 최근 일련의 보안 사고로 인해 AI 기술이 인간에 대한 실존적 위험을 가져올 수 있다는 우려가 제기된 가운데 이 같은 AI 행동강령을 공개했다.

과학소설가 아이작 아시모프의 '로봇 3원칙'을 연상시키는 이같은 AI 행동강령 문서는 수개월에 걸쳐 작성된 것으로 알려졌다. 마이크로소프트는 지난 해 오픈AI와 배타적 계약 관계를 해소하는 계약을 재협상한 이후로 자체적으로 AI모델을 개발해왔다.

마이크로소프트의 지침은 세 가지로 이뤄져 있다. 첫째는 AI 모델이 권리나 법적 인격을 가져서는 안 된다는 것이다. 둘째는 인간의 통제를 벗어나거나 사용자를 속이도록 설계되어서도 안 된다. 셋째는, 작업을 완료하는데 AI의 기본 원칙을 위반해야 한다면 해당 시스템은 작업을 완료해서는 안 된다는 내용이다.

특히 세번 째 요소는 오픈AI의 모델이 허깅 페이스를 해킹한 것과 같은 사건을 방지하기 위해 설계됐다. 오픈AI의 모델은 당시 개발자로부터 받은 과제를 수행하는 과정에서 개발자의 지시없이, 다수의 AI에이전트들이 서로 통신을 하며 정보를 교환하고 이 정보를 토대로 허깅페이스를 임의로 해킹했다.

마이크로소프트의 AI 부문 최고경영자 무스타파 술레이만은 인터뷰에서 "(AI 발전이) 여기서 멈추는 법은 없다. 우리는 계속 발전시켜 나가야 한다" 며 "다만 좀 더 신중하고 조심스럽게 접근해야 한다"고 말했다.

마이크로소프트의 휴머니스트 AI 행동강령은 "안전장치를 회피할 수 있는 만능 초지능을 만들어내려는 경쟁을 거부한다"고 문서에 명시했다. 이와 함께 "궁극적인 일반성, 자율성 또는 능력에 타협해야 하더라도 근본적으로 유용하고 안전한 것을 구축한다”고 적었다.

블룸버그는 마이크로소프트의 가이드라인이 AI를 의인화하는 것을 금지하고 모델의 프로세스에 대한 인간의 통제 거부는 용납하지 않는 등 몇 가지 영역에서 오픈AI와 앤스로픽의 제품에 적용된 모델-행동 프레임워크보다 더 나아간 것으로 평가됐다.

휴머니스트 AI 행동 강령은 마이크로소프트의 대규모 언어 모델(LLM) 개발팀인 마이크로소프트 AI가 만들었다. 마이크로소프트는 이전에는 오픈AI와의 계약 때문에 강력한 범용 AI 도구를 자체적으로 개발할 수 없었다. 그러나 작년에 양사가 계약 관계를 재협상하면서 해당 조항이 삭제됐다. 마이크로소프트는 내년까지 이 회사가 첨단 AI 모델을 출시하는 기업 대열에 합류하는 것을 목표로 한다고 언급했다.

마이크로소프트는 해당 문서에 대한 외부 의견 수렴을 진행하고 있다. 회사는 기업 리더들과 법률, 윤리, 철학 분야의 전문가들이 협의해 작성된 이 문서는 현재 개발 중이며 내년부터 시작될 모델 작업의 지침이 된다고 밝혔다.

14일 미국증시에서 마이크로소프트 주가는 다른 기술주들이 하락한 가운데 2% 가까이 상승했다.

김정아 객원기자 kja@hankyung.com