美 백악관, AI 부작용 우려에…"정부기관 안전장치 마련하라"

검증 의무화 담은 새 규칙 발표
12월까지 '위험방지 조치' 요구

조 바이든 미국 행정부가 28일 연방 정부의 인공지능(AI) 기술 활용과 관련한 규제·혁신안을 발표했다. AI 기술을 업무에 활용하는 정부 기관들에 AI로 인해 자국민에게 피해가 가지 않게끔 안전장치를 마련하도록 하는 내용 등이 담겼다.

백악관 예산관리국(OMB)은 연방 정부 기관들이 AI를 활용할 경우 그 내용을 대중에게 투명하게 공개하고 부작용과 영향력을 검증 및 모니터링하도록 하는 새 정책 규칙을 발표했다. 각 기관은 AI 기술 활용을 감시할 수 있는 ‘최고 AI 담당관’(Chief AI Officer)을 채용하고 AI 사용 현황을 공개해야 한다는 게 새 대책의 핵심이다. 이에 따라 앞으로 연방 기관들은 사용 중인 AI 기술의 오용에 따른 위험성이나 미 대중에게 미치는 영향 등을 매년 분석·평가해 결과물을 공개해야 한다.

백악관은 구체적으로 미국 공항의 안면 인식 사용 현황을 거론했다. 지난해부터 미국 일부 공항에서 AI 안면 인식 기술을 시범 시행하고 있는 교통안전청(TSA)이 공항 이용객들에게 안면 인식 사용을 거부할 권한을 보장해야 한다고 지적했다. 또 정부가 불법 복지 수급 등 각종 사기 행위를 탐지하는 데 AI를 활용할 경우 오류로 인해 개인이 피해를 보지 않게 구제권을 보장하도록 했다. 백악관은 올해 12월까지 모든 연방 기관이 이 같은 AI 안전장치를 마련하도록 요구했다.

안전장치를 도입하지 않은 기관에 대해선 “기관의 수장이 AI 시스템 사용을 중단했을 시 업무에 심각한 장애가 초래되는 등의 사유를 밝히지 못하는 이상 AI 사용을 반드시 중단해야 한다”고 했다. 카멀라 해리스 미 부통령은 “앞으로 정부 기관들이 AI 도구를 사용하면 그 도구들이 미국인의 권리 및 안전을 위험하게 만들지 않는다는 사실을 입증하도록 요구할 것”이라고 설명했다. AI 무기 도입 등에 대해 추가 논의가 진행 중인 정보 당국과 국방부 등 일부 기관은 이번 규칙 적용 대상에서 제외됐다.

다만 미 정부는 AI 기술을 적극 지원하고 공공 부문 활용도 확대하겠다는 방침이다. 백악관은 연방 정부의 AI 혁신 촉진을 위해 올여름까지 AI 전문가 100명을 채용하겠다는 계획도 공개했다. 이번 정책은 바이든 대통령이 지난해 10월 서명한 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 따른 후속 조치다. 당시 기업의 AI 개발 및 활용에 대한 안전장치 마련을 의무화한 백악관은 이번 정책 규칙에서는 정부 기관의 AI 활용에 초점을 맞췄다.

김리안 기자 knra@hankyung.com