미 국방부 "군사분야 AI 사용시 책임감 필요"…윤리규범 채택

공정함·신뢰성·통제력 등 주문…"강력 제약 못된다" 지적도

미국 국방부는 군사 분야에서 인공지능(AI) 기술 사용 시 유의해야 할 사항을 정리한 윤리규범을 채택했다고 AP통신이 24일(현지시간) 보도했다.

AP 등 외신에 따르면 마크 에스퍼 국방장관은 국방혁신위원회가 권고한 윤리규범을 승인했다.

앞서 에릭 슈밋 전 구글 회장 등 민간인 위주로 구성된 국방혁신위는 업계, 학계, 국민의 의견을 수렴해 작년 10월 권고안을 마련했다.

기존 2012년 군사 지침도 인간이 자동화 무기를 통제할 것을 요구하지만 더 넓은 AI 사용에 관해 다루진 않았다고 AP는 전했다.

이번에 채택된 윤리규범은 국방부 요원이 AI 능력을 개발·배치·활용할 때 적절한 수준의 판단과 주의를 하도록 해 책임감을 가져야 한다는 내용이 포함됐다.

또 국방부가 AI 능력의 의도하지 않은 편견을 최소화하는 데 신중한 조처를 하도록 하는 공정함을 주문하고, 관련 요원이 기술과 개발 과정, 운영 방법을 적절히 이해할 수 있게 AI 능력을 개발·배치해 추적 가능성을 갖추도록 했다.

이 규범은 AI 능력의 용도를 명확히 한정하는 한편 안전, 보안, 효율성이 한정된 용도 내에서 시험되고 보장되도록 하는 신뢰성을 주문했다.

또 의도하지 않은 결과를 탐지하고 피할 수 있는 능력과 의도치 않은 행동을 하는 시스템을 정지하는 능력을 포함해 AI가 의도한 기능을 수행하도록 설계하는 통제력을 요구했다.

국방부 당국자는 "AI 사용은 새로운 윤리적 모호성과 위험을 야기한다"며 규범 채택 배경을 설명했지만 무기통제 옹호자들이 선호하는 더 강력한 제약에는 못 미친다는 지적도 나온다고 AP는 전했다.

최근 몇 년간 AI 기술에 집중 투자한 국방부는 2021 회계연도 예산에서도 전투 작전 시 AI 기술 활용에 비중을 두면서 AI 관련 자금 증액을 의회에 요청한 상태다.

/연합뉴스