사진=게티이미지뱅크
사진=게티이미지뱅크
인공지능(AI)이 만들어낸 가짜 판례가 재판에 제출되는 사례가 잇따르고 있다. 판사 10명 중 8명가량이 존재하지 않거나 내용이 조작된 판례 등을 접한 경험이 있는 것으로 나타났다. 법원은 허위 판례를 인용하면 과태료를 부과하는 방안 등을 검토하기로 했다.

법원행정처는 2일 이 같은 내용을 담은 ‘AI 허위 판례 등 인용 관련 설문조사’ 결과를 발표했다. 민사·가사·행정 담당 법관 360명이 참여한 이번 조사에서 응답자 약 80%가 허위·부존재 판례 등의 인용 사례를 경험했다고 답했다.

경험한 사례 유형으로는 존재하지 않는 판례 인용이 196명(80.7%)으로 가장 많았다. 이어 허위 판례 인용이 159명(65.4%), 허위·부존재 법령 인용은 41명(16.9%)이었다. 허위 자료를 제출한 주체로는 소송 당사자 본인을 지목한 응답이 164명(69.5%), 변호사를 선택한 응답이 136명(57.6%)이었다.

실제로 대법원 판결서 형식을 그대로 흉내 낸 AI 생성 허위 판결서가 제출된 사례도 있었다. 존재하지 않는 대법원 사건번호가 서면에 적히거나 실제 판결 취지와 다르게 인용한 경우도 확인됐다. AI와 나눈 대화 내용이나 소송 전략에 관한 문구가 그대로 서면에 들어간 사례까지 있었다.

응답자의 91.7%는 제도적 대응이 필요하다고 봤다. ‘매우 필요하다’는 응답도 64.8%에 달했다. 구체적인 방안으로는 과태료 부과 근거 마련(61.4%), 인용자료 검증의무 부과(61.1%), AI 활용 사실 기재의무 부과(60.6%), 변호사 징계 의뢰 등 제재 도입(55.4%) 등이 제시됐다.

법원행정처는 허위 판례 인용이 소송 상대방의 확인·반박 비용을 늘리고 재판을 지연시킬 수 있다고 지적했다. 민사소송법·형사소송법 개정을 통한 과태료 부과 근거 마련을 위해 법무부 등 관계기관과 협의하고 국회에 의견을 제출할 계획이다. 전자소송 사이트에 AI 활용 시 유의 사항을 안내하는 방안도 검토하기로 했다.

이승우 기자 leeswoo@hankyung.com