주요 인공지능(AI) 기업 수장이 AI 개발 속도 조절을 요구하고 나선 상황에서 마이크로소프트(MS)가 인간의 통제를 최우선으로 하는 자체 AI 행동강령을 내놨다.

MS가 14일(현지시간) 초안을 공개한 ‘휴머니스트 AI 행동강령’은 “인간이 AI보다 중요하다”로 시작한다. MS는 인간의 필요에 기반하고 인간의 지침에 따라 움직이는 AI 모델을 개발·배포하겠다는 원칙을 담았다.

행동강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위에서만 작동하고 스스로 독립적인 목표를 설정하거나 부여된 권한을 넘어서는 행동을 할 수 없다.

인간의 중단, 수정, 종료 명령에 저항하는 것을 금지했다. 자신의 추론을 감사하는 사람에게 이를 숨기는 행위 등도 허용하지 않는다. 행동강령은 “AI는 인간처럼 설계돼서도, 의식을 모방하도록 설계돼서도 안 된다”고 했다.

무스타파 술레이만 MS AI 최고경영자(CEO)는 이날 CNBC 인터뷰에서 “행동강령을 5개월 전부터 준비했다”며 “AI가 아첨하지 않고 항상 인간의 판단과 자율성을 촉진하도록 해야 한다는 의견을 다수 확인했다”고 제정 배경을 설명했다.

라현진 기자 raraland@hankyung.com