김명신 LG AI연구원 신뢰안전사무국 총괄은 “인공지능(AI)에는 사람이 감당할 수 있는 몫만 맡겨야 한다”고 강조했다.

김 총괄은 4일 서울 광장동 그랜드워커힐서울에서 열린 ‘글로벌인재포럼 2026’에서 “되돌릴 수 없는 행동을 AI 단독으로 결정하게 해선 안 된다”며 이렇게 말했다. 이날 ‘AI 시대, 국가 지속가능을 위한 사회 시스템 변화’ 세션에서는 AI에 맡길 권한을 제한하고 책임은 사람이 져야 한다는 제언이 이어졌다.

송대섭 네이버 AI 안전정책 리더는 “위험도가 낮거나 복원 가능한 일은 AI에 자율성을 주되 중대한 행동은 사전에 정해진 기준에 따라 인간의 승인을 받도록 개입 범위를 정해야 한다”고 말했다.

강민구 법무법인 도울 대표변호사는 “AI에 법인격을 부여하면 배후의 기업이 기계 뒤로 숨는 통로가 된다”며 “사고의 최종 책임 종착점은 언제나 사람과 법인이어야 한다”고 강조했다.

전문가들은 안전 지침을 준수하고 그 과정을 투명하게 기록한 기업에 공공조달 가점 등을 줘 자율적인 안전망 구축을 유도해야 한다고 제안했다.

안시욱 기자 siook95@hankyung.com