애플에서 넷플릭스까지…AI 리스크 공시 요구 급증

[한경ESG] 글로벌 - AI

2024년 12월 10일 마이크로소프트 연례 주주총회에서 주주가 제기한 AI 관련 질문에 임원들이 답변하고 있다. (사진 왼쪽부터) 에이미 후드 수석부사장 겸 CFO, 사티아 나델라 회장 겸 CEO, 브래드 스미스 부회장 겸 사장, 브렛 아이버슨 전 IR 담당 부사장. 사진=마이크로소프트

인공지능(AI) 보급과 함께 기업의 인권침해, 고용 차별, 기밀정보 유출 등 다양한 문제가 드러나고 있다. 이런 상황에서 AI를 활용해 기업가치를 높이는 동시에 발생하는 리스크를 적절히 관리하는 AI 지배구조에 투자자의 관심이 집중되고 있다. 이는 AI 리스크가 기업의 지속적인 성장에 간과할 수 없는 요소가 되었기 때문이다.

2024년 12월 미국 마이크로소프트(MS)의 연차 주주총회에서 ‘윤리적 AI 데이터 조달과 이용에 관한 보고서’를 요구하는 주주제안이 제출됐다. 투표 결과 부결되었지만, 6건의 주주제안 중 가장 높은 36.2%의 지지를 얻었다. 이 제안은 보수 성향의 싱크탱크인 전미법률정책센터(NLPC)에서 제출했다. AI 시스템 개발에는 대량의 데이터가 필요한데, 이를 수집하는 과정에서 개인정보가 비윤리적으로 유출되어 인권을 위협하거나 기밀성이 높은 비즈니스 정보가 불법적으로 사용될 우려가 있다는 것이다.

NLPC는 2025년 1월 미국 애플을 대상으로 동일한 주주제안을 냈다. 애플은 지난 2월 25일 개최된 연차 주주총회에 앞서 투표를 위임한 주주에게 반대표를 행사할 것을 촉구하는 장문의 성명을 발표했다. 애플은 자사가 개인정보 보호에 대한 실적을 보유하고 있으며, 필요한 정보는 이미 공개되었기에 새로운 보고서는 불필요하다고 주장했다. 투표 결과 NLPC의 제안은 부결됐다.

AI 관련 일부 주주제안 폭발적 증가

미국에서 AI 관련 주주제안이 증가하고 있다. 2024년에는 최소 12개 기업에 제안이 제출되었으며, 이는 전년 대비 3배 급증한 수치다. 이 중 넷플릭스에 AI 이용 및 윤리 가이드라인 공개를 요구하는 주주제안은 43.3%의 찬성표를 얻었다. 이는 가결에 필요한 과반수까지 6.7%p 차이로 근접한 수치다.

넷플릭스에 AI 관련 주주제안을 제출한 단체는 미국 노동총동맹·산업별조합회의(AFL-CIO)다. AI의 활용이 생산성 향상 및 신사업 개발에 기여하는 한편, 노동자의 권리 및 고용 기회를 위협할 가능성이 있다고 봤다. AFL-CIO는 2023년까지 AI 관련 주주제안을 제출하지 않았으나 같은 해 미국 할리우드 영화배우조합(SAG-AFTRA)이 벌인 시위가 하나의 계기가 된 것으로 보인다.

에나쓰 아카네 노무라자본시장연구소 연구센터장은 “AI는 기업 성장에 필수인 ‘공격 무기’지만 개발 및 활용에 따른 리스크도 존재한다. 투자자들은 기업이 AI 지배구조 체계를 어떻게 구축하고 있는지 주목하기 시작했다”고 분석했다.

자본시장의 글로벌화와 함께 미국 기업을 대상으로 한 ESG 관련 주주제안이 시차를 두고 일본 기업에도 적용된 것처럼, AI 관련 주주제안 역시 일본 기업으로 확대될 가능성이 크다. IT 기업뿐 아니라 소매업, 외식 체인, 헬스케어 등 다양한 산업으로 확산될 것으로 예상되는 만큼 주의가 필요하다.

주요국을 중심으로 AI 규제 논의가 빠르게 진행되면서 이에 대한 투자자의 관심도 높아지고 있다. 2024년 8월 유럽연합(EU)은 금지 행위 및 규정 위반 시 제재금을 부과하는 AI 규제법을 발효했다. 미국에서는 2023년 조 바이든 전 대통령이 AI가 노동시장에 미치는 영향을 평가하도록 의무화하는 행정명령을 내렸으나 도널드 트럼프 대통령이 이를 수정하거나 철회할 가능성이 제기되고 있다. 일본에서는 정부가 연구회를 구성해 AI 규제 방안을 검토해왔다. AI 활용을 위한 기본계획 수립과 권리침해에 대응하는 조사기관 설립 등을 포함한 법안이 조만간 국회에 제출될 전망이다.

중요 경영 과제로 부상한 AI

이와 관련해 구마가이 겐 KPMG컨설팅 집행임원파트너는 “경영진은 AI의 장점과 리스크를 깊이 이해하고, 이를 중요 경영 과제로 설정해야 한다. 또 AI를 통해 기업가치를 어떻게 높일 것인지, 리스크를 어떻게 관리할 것인지 명확히 설명할 책임이 있다”고 강조했다.

실제로 생성형 AI 보급 이후 기업의 AI 활용 범위는 연구개발, 상품 개발, 고객 대응, 인재 채용, 재무 보고 등 다양한 분야로 확산됐다. 이에 따라 AI 리스크 또한 관리 부서만의 책임으로 한정하기에는 어려운 상황이 되었다. 기업 내 AI 리스크의 투명성을 높이고 설명 책임을 다하기 위해서는 AI 관련 데이터를 통합적으로 관리할 수 있는 정보 인프라가 필요하다.

각 부서에서 활용되는 데이터를 일괄 관리하고, 이를 기반으로 자사 고유의 AI 모델을 개발하며 규제 및 안전성 요건에 부합하는지 평가해야 한다. 이러한 정보 인프라 구축을 지원하는 IT 벤더들이 등장하고 있다. 구마가이 파트너는 “앞으로는 AI 모델 및 시스템의 기획, 개발, 운영 전반에 걸친 라이프 사이클 리스크 관리뿐 아니라 공급망 전체의 투명성을 확보하는 리스크 관리 체계도 필수적일 것”이라고 말했다.

AI 리스크 공시 의무화 대비해야

현재 AI 관련 리스크 공개는 기후변화, 자연자본, 인적자본 등 기타 비재무 정보 공개 체계 내에서 요구되는 단계에는 이르지 않았지만, 이에 대한 준비는 필요하다. 에나쓰 연구센터장은 “투자자들은 기업과의 대화(인게이지먼트) 과정에서 AI 관련 이슈를 ESG 평가에 어떻게 반영할지 모색 중이다”라고 설명했다.

기업별 AI 활용 수준은 다르며, 아직 국제표준이 확립되지 않은 상황이다. 따라서 기업들은 성장에 필요한 혁신과 리스크의 균형을 유지하면서 자사에 적합한 AI 지배구조를 구축하는 것이 중요하다. AI 기술의 발전 속도가 빠르기 때문에 법제도 정비를 기다리다 예상치 못한 사태가 발생해 대응이 늦어질 위험도 있다.

다카기 구니코 니케이ESG 기자
번역 김병일
Copyright © 2025 Nikkei ESG / Nikkei Business Publications Inc. All rights reserved.