“AI 법관은 인간 대체 안돼”...대법관, AI 전문가들 한목소리

판결 최종 책임자는 인간
각국 사법체계 고려해 AI개발 나서야

23일 오전 서울 중구 신라호텔에서 열린 ‘세종 국제 콘퍼런스’ 2일차 행사에서 순다레쉬 메논 싱가포르 대법원장이 주제 발표를 하고 있는 모습 / 사진=뉴스1

국내외 대법관들과 인공지능(AI) 업계 관계자들이 “사법 영역에서 인간의 판단을 AI가 대체할 수 없다”는 데 한목소리를 냈다. 전 세계 법관들은 AI가 사법 접근성을 넓히는 도구일 뿐, 판결의 최종 판단과 책임은 사람에게 있다는 원칙을 재확인했다.

대법관들과 AI 업계 관계자들은 23일 서울 신라호텔에서 열린 ‘세종 국제 콘퍼런스’ 2일 차 세 번째 세션 ‘AI와 사법의 미래: 법이 기술을 만나다’에서 이같이 말했다. 이날 연사로 나선 순다레쉬 메논 싱가포르 대법원장은 “AI는 정의를 위한 도구일 뿐 사람의 판단과 책임은 대체될 수 없다”고 강조했다.

"AI는 한글"...사법접근성 높이는 도구 돼야

다만 이날 행사에 참석한 각국 대법원장들은 인공지능(AI)이 사법 접근성을 확장하는 도구로는 적극 활용될 수 있다고 했다. 법원이 내리는 인간의 판단은 대체할 수 없지만 그 판단에 대한 접근을 모두에게 넓히는 도구로서 AI가 최적이라는 뜻이다.

순다레쉬 메논 싱가포르 대법원장은 싱가포르 법원이 생성형 AI를 어떻게 활용하는지 소개하며, AI가 소외 계층의 사법 접근성 격차를 해소할 수 있다고 밝혔다. 그는 “무료 법률구조와 지원은 한정된 판사·변호사 수로 인해 한계가 있다”며 “법률 쟁점이 단순한 소액 사건의 경우, 재판 당사자들이 AI를 통해 변론을 준비할 수 있도록 하는 시범사업을 진행 중”이라고 설명했다. 법률 서비스 접근 자체가 어려운 ‘법률 소외계층’을 위해 반복·표준화가 가능한 업무에서 비용을 크게 줄이고 적용 범위를 넓힐 수 있는 AI가 최적의 해법이라는 평가다.

한국 대법원도 같은 취지에서 준비를 서두르고 있다고 밝혔다. 이숙연 대법관(사법연수원 26기)은 “조선 시대 한글 창제로 백성들의 법 접근이 가능해졌던 것처럼, AI와 같은 문서·정보 처리 기술의 발전은 국민의 사법 접근 방식을 획기적으로 바꿔놓을 것”이라며 “사법부도 온프레미스 기반 대규모 언어 모델(LLM) 플랫폼 개발에 착수한 만큼 국민의 사법 접근성 강화를 위한 방안을 면밀히 검토하고 추진 중”이라고 설명했다.

AI가 인간의 판단을 보조하는 성격으로 규정돼야 하는 만큼 ‘인공지능’이 아니라 ‘증강지능’으로 불러야 한다는 주장도 나왔다. 호세 마르케스 필리핀 대법관은 “인간의 지혜를 떠받치는 힘으로서 AI는 인간의 ‘증강지능’으로 불러야 한다”며 “판사 개인의 법률 해석이 사법의 근본으로 남아야 한다”고 말했다.

AI도 자체 헌법 근거로 답변해야...주권형 LLM 개발 주장도

이날 행사에 참석한 AI 기업 관계자들도 “인간이 최종 결정의 책임자”라는 원칙 아래 AI 개발이 이뤄져야 한다고 한목소리로 강조했다. 데보라 임 오픈AI 수석 정책자문가는 “판결은 법적 질문에 대한 해답을 넘어 ‘책임의 행위’이며, 어떤 알고리즘도 그 책임을 대신할 수 없다”고 말했다. 그는 AI가 판사와 변호사를 대체하는 수단이 아니라는 점도 분명히 했다.

마이클 셀리토 앤트로픽 글로벌 총괄은 자사의 클로드와 같은 생성형 AI 모델이 자체 ‘헌법(Constitution)’ 아래 답변의 대원칙을 지키도록 설계돼 있다고 설명했다. 기술이 인간의 가치에 맞닿도록 개발돼야만 인간의 도구로서 AI가 의미를 갖는다는 취지다. 그는 “앤트로픽의 AI모델은 모든 사람을 평등하게 대하고 편향과 차별을 피한다는 세계인권선언 등의 기준을 참고해 생성형 AI 모델이 지켜야 할 원칙을 명시하고 있다”며 “어떤 답변이 왜 나왔는지 근거를 찾아 인용할 수 있게 만들어야 기술적 구현과 인간적 판단을 구별할 수 있다”고 밝혔다.

개발자 관점에서 각국 법원이 ‘주권형 LLM’ 전략을 취해야 한다는 조언도 나왔다. 각국의 법체계와 맥락이 서로 다르기 때문이다. 이날 연사로 나선 김성훈 업스테이지 대표는 “싱가포르의 훌륭한 사례도 한국에 그대로 이식할 수는 없다”며 “각국 법원이 생성형 AI를 개발할 때 인권을 중심으로 글로벌 공동 기준을 마련하되, 국가별 사법 특성을 반영한 데이터로 미세 조정을 해야 한다”고 제안했다.

정희원 기자 tophee@hankyung.com