[한경ESG]-투자 트렌드
AI 거버넌스, 기업 핵심 경쟁력으로 부상
올해 ESG(환경·사회·지배구조) 투자의 세계에서 가장 주목받는 키워드는 ‘인공지능(AI) 거버넌스’다. 과거 기후변화(E)나 이사회 독립성(G) 등에 주로 쏠려 있던 글로벌 ESG 투자의 무게중심이 AI 기술의 잠재적 위험을 통제하고 투명성을 확보하는 거버넌스 체계로 급격히 이동하고 있다. 해외 주식시장을 움직이는 대형 기관투자자들은 이제 기업의 AI 개발 및 활용 능력뿐 아니라, AI 리스크에 대한 통제 능력도 기업의 생존 역량으로 평가하기 시작했다.

전력 수요 ‘대폭발’…‘E(환경)’ 리스크로 부상한 AI

AI 활용으로 인한 리스크가 가장 직관적인 분야는 환경(E)이다. 거대언어모델(LLM)을 훈련하고 상시 가동하기 위한 데이터센터는 막대한 전력을 소모하며 탄소 배출량이 급증하고 있다. 글로벌 컨설팅업체 EY에 따르면 단일 딥러닝 자연어 처리(NLP) 모델 하나를 훈련하는 과정에서만 약 60만 파운드의 이산화탄소가 배출될 수 있다.

이는 일반 내연기관 자동차 5대가 평생 동안 배출하는 탄소량과 맞먹는 규모다. 국제에너지기구(IEA)는 지난해 보고서에서 2030년까지 글로벌 데이터센터 전력 수요가 2024년 대비 두 배 이상 증가, 945테라와트시(TWh)에 달할 것으로 예상했다. 골드만삭스는 이 전망을 인용하며 증가한 전력 수요의 60% 이상이 화석연료로 충당될 것이고, 이로 인해 전 세계 탄소 배출이 2억2000만 톤 급증할 것으로 추산했다.

이 같은 우려는 개별 기업의 탄소중립 목표에 어긋나는 결과로 이어지고 있다. 마이크로소프트는 AI와 클라우드 관련 인프라 확장으로 인해 지난해 탄소 배출량이 2020년 대비 23% 증가했다고 공시한 바 있다. 이에 마이크로소프트는 2030년까지 시간 단위 전력 사용량의 100%를 재생에너지 구매로 맞추겠다는 기존 약속을 지연하거나 폐기하는 방안을 검토하고 있는 것으로 알려졌다.

AI로 인한 자원 소모와 환경 파괴 우려는 기업의 인허가 리스크로도 직결되고 있다. 갤럽 여론조사에 따르면 미국인의 71%는 전력 고갈과 수질 오염 등을 이유로 거주 지역 내 데이터센터 건설에 반대하고 있다. 그 결과 2025년 한 해 동안 미국 내에서만 무려 48개 프로젝트, 1560억 달러(약 210조 원) 규모의 데이터센터 개발이 주민 반대로 인해 전면 차단되거나 무기한 지연되는 사태가 벌어졌다. 기업의 환경적 부주의가 거대한 재무적 타격으로 되돌아오고 있는 셈이다.

고객 거부에도 강제 주문하는 AI, 기업 평판에 ‘직격’

사회(S)와 지배구조(G) 측면에서의 AI 리스크는 기업의 브랜드 평판에 타격을 입히고 천문학적인 소송전이나 규제 당국의 개입으로 이어질 수 있다는 점에서 더욱 치명적이다. 미국 조사기관인 콘퍼런스보드가 발표한 보고서에 따르면 S&P500지수에 편입된 500개 기업 중 72%는 2025년 사업보고서(10-K)를 통해 최소 한 건 이상의 ‘AI 관련 중대한 위험’을 보고했다.

보고서는 “이 수치는 2023년 12%의 6배 급증한 값으로, 기업의 AI 관련 리스크가 급격한 속도로 확대되고 있다는 점을 시사한다”며 “특히 중대한 위험을 보고한 기업 중 38%가 AI로 인한 평판 훼손을 우려한 점을 주목해야 한다”고 지적했다. 실제로 경영진과 이사회의 적절한 통제 없이 도입된 AI가 알고리즘 차별이나 지식재산권 도용, 환각 현상으로 인한 허위 정보를 생산하는 사례가 속출하고 있다.

아마존은 2014년부터 인사관리(HR) 업무 자동화의 일환으로 AI 기반 채용을 도입했지만, 과거 제출된 자기소개서를 기반으로 학습한 알고리즘이 남성 지원자들을 선호하는 편향을 보이자 4년 만에 관련 절차를 폐지한 바 있다. 맥도날드도 IBM과 협력해 3년에 걸쳐 드라이브 스루 음성 주문에 AI를 적용하려고 시도했으나, 구매자의 만류에도 AI가 강제로 주문을 넣고 결제를 진행하는 사례가 이어지자 2024년 관련 실험을 종료하고 IBM과의 파트너십을 끝마쳤다.

기업 AI 거버넌스 단속 나선 기관·당국

글로벌 기관투자자들은 주주행동주의라는 무기를 활용해 AI 거버넌스 단속에 나섰다. 리서치업체 모닝스타가 분석한 2024년과 2025년 글로벌 상장사 주주총회 의결권 행사 기록에 따르면 AI 관련 주주제안은 평균 30%의 지지율을 기록했다. 이는 같은 기간 ESG 관련 결의안 전반이 기록한 지지율 16%의 두 배에 육박하는 수치다. 2024년 애플 정기주주총회에선 AI 사용 투명성 보고서를 공개하라는 내용의 주주제안이 37.5%의 지지율을 기록하기도 했다.

전 세계 규제 당국도 기업들이 AI 통제에 보다 많은 비용과 자원을 투여할 것을 요구하고 나섰다. 유럽연합(EU)은 2024년 세계 최초의 포괄적 AI 규제 법안인 EU AI법을 통해 AI를 위험 정도에 따라 4가지 단계로 분류하고 각기 다른 통제 의무를 부과했다. 고위험 단계로 분류되는 AI 시스템은 위험 관리 시스템 구축과 데이터 관리, 기술 문서화, 투명성 정보 제공 등 포괄적인 통제 체계를 요구받는다. 이를 위반할 경우 AI법은 최대 글로벌 연간 매출의 7%를 과징금으로 징수할 수 있다.

AI원칙·전담조직 도입 나선 상장사들

기관투자자와 당국의 압박에 글로벌 상장사들은 앞다퉈 AI 윤리 원칙을 명시적으로 도입하거나, AI 거버넌스 조직을 설치하고 있다. 신영증권 분석에 따르면 국내에선 삼성전자와 LG전자, 네이버, SK텔레콤, KT 등 총 30개 기업이 자체 AI 원칙을 도입하거나 담당 조직을 창설했다. 통신과 인터넷, 금융 업종 등이 AI 거버넌스 도입에 가장 적극적인 것으로 나타났다.

오광영 신영증권 연구원은 “AI 거버넌스는 규제 대응 차원의 이슈가 아니라 기업가치부터 자본조달 비용, ESG 평가, 산업 경쟁력에 직접 영향을 미치는 투자 판단 요소로 부상했다“며 “빠른 시간 내에 AI 거버넌스 역량이 글로벌 자본시장의 새로운 변수이자 향후 ESG 평가의 차세대 핵심축으로 성장할 것”이라고 내다봤다.

전범진 기자 forward@hankyung.com