사진은 기사와 관련 없음. 사진=챗GPT 생성 이미지
사진은 기사와 관련 없음. 사진=챗GPT 생성 이미지
직장인 A씨는 인공지능(AI)에 고객 반응을 분석해 판매 전략을 짜달라고 지시했다. 그는 사내 교육도 받은 데다 동료들과 각종 업무용 프롬프트를 공유하면서 AI를 곧잘 활용하는 편이었다. AI는 그럴듯한 보고서를 내놨다. A씨는 결과물을 확인한 다음 상사에게 제출했다. 상사는 "왜 이런 결론이 나왔느냐"고 물었다. 하지만 A씨는 제대로 답하지 못했다. AI가 내놓은 결과물이 틀렸는지는 철저히 확인했지만 분석 과정을 이해하지 못했어서다.

AI가 업무 속도를 높이는 사이 직장인의 '생각하는 능력'은 오히려 떨어질 수 있다는 경고가 나왔다. 시장조사업체 가트너는 2030년까지 전체 조직 중 30%가 AI 사용으로 직원의 독립적인 판단 능력이 떨어진 핵심 직무를 최소 1개 이상 발견할 것으로 전망했다.

12일 업계에 따르면 가트너는 최근 발간한 보고서를 통해 생성형 AI가 직장 내에서 단순 계산·문서 작성뿐 아니라 분석, 정보 종합, 문제 해결, 의사결정도 대신하고 있다고 밝혔다. 이 업체는 "AI 시대에는 좋은 결과물이 더 이상 인력의 역량을 보여주는 신뢰할 만한 증거가 아니다"라고 지적했다. 겉보기엔 비슷한 보고서를 제출하더라도 근거를 설명할 수 있는 직원과 그렇지 못한 직원 간 역량 차이가 두드러진다는 것이다.

기업들의 대비는 충분하지 않다. 가트너 조사를 보면 최고정보책임자(CIO)·고위 IT 리더 가운데 AI 사용에 따른 직원 역량 저하를 막을 전략이 있다고 답한 응답자는 40%에 그쳤다. 지난해 11~12월 연매출 5000만달러 이상 기업 CIO·IT 고위 책임자 533명을 대상으로 한 조사 결과다. 지역별로는 북미 250명, 유럽 150명, 아시아·태평양 133명이 조사에 참여했다.

가트너가 주목한 위험은 단순한 업무 자동화에 그치지 않는다. AI가 그럴듯한 답을 반복해서 내놓으면 직원들은 독립적으로 검증할 필요를 갈수록 덜 느끼게 된다. AI가 판단력을 키우는 업무를 대신하는 동안 사람이 검토해야 할 결과물은 오히려 늘어날 수 있는 것. 가트너는 "AI 시대에 비판적 사고는 인력의 업무 준비도를 결정하는 핵심 역량"이라고 규정했다. 그러면서 AI가 제시한 결과물의 증거를 검증·평가하고 결과를 책임지는 능력이 강조된다고 설명했다.

가트너가 구분한 AI 활용 유형은 네 갈래로 나뉜다. '게으른 위임'은 최소한의 지시만 내리고 결과를 대충 확인하는 방식이다. '우연한 적중'은 AI의 답이 기대에 부합하더라도 이용자가 그 이유와 한계를 설명하지 못하는 경우다. 반면 '전문가적 조율'은 업무 맥락, 제약 조건, 평가 기준, 검증 절차를 사람이 직접 설계하는 방식을 말한다. '직접 수행'은 스스로 분석·판단하고 AI가 편집·서식 정리 같은 보조 작업만 맡는 형태다.

가트너가 강조한 역량은 '스튜어드십'이다. 업무에 필요한 인간의 개입 수준을 조절하면서 목적·평가·결과에 따른 책임은 사람이 부담하는 역량이다. 위험도가 낮은 업무는 AI에 맡겨도 되지만 판단력을 길러야 할 업무를 넘기는 것은 경계해야 한다는 것. 사람의 개입 정도는 △오류 발생 시 피해·복구 가능성 △AI 결과 객관적 검증 △해당 업무의 직원 역량 향상 가능성 등에 따라 다르게 봐야 한다고 주문했다.

가트너는 '유용한 마찰'을 해법으로 제안했다. AI의 답을 즉시 채택하는 대신 근거를 확인하고 반론을 검토하면서 판단 이유를 설명할 수 있어야 한다는 조언이다.

예컨대 소프트웨어 개발자를 코드 작성량이나 커밋(코드 변경사항을 저장소에 기록하는 작업) 건수로만 평가할 경우 업무 활동량은 늘어도 검증·결과물에 대한 이해는 소홀해질 수 있다. 이에 AI가 작성한 중요도가 높은 보고서나 분석 자료를 상사에게 제출하기 전에 담당자가 직접 사실관계를 검증했는지, 검토했는지 여부를 확인하는 방안을 제안했다.

AI 도구의 설계도 바꿔야 한다. 질문을 받자마자 정답부터 제시하는 대신 문제의 전제와 제약 조건을 묻고 별도 AI 모델이 결과에 반론을 제기하도록 하는 방식이다.

가트너는 "조직은 게으른 위임과 우연한 적중을 계속 보상하는 환경을 만들면서 직원들이 AI 활용 수준을 책임 있게 조절하길 기대할 수 없다"며 "중요한 곳에선 숙고가 쉬워지도록 하고 정당한 경우에만 손쉬운 위임이 이뤄지도록 여건을 마련해야 한다"고 강조했다.

김대영 한경닷컴 기자 kdy@hankyung.com