AI 피해보상 요구 늘어나자…美 보험업계 "책임 못진다"

"손배 규모 크고 예측 불가"
당국에 면책조항 포함 요구

미국 대형 보험사들이 인공지능(AI) 챗봇이나 에이전트(비서)AI를 활용한 기업들의 보험 책임을 지지 않으려는 움직임을 보이고 있다. AI를 통한 기업들의 서비스가 거짓으로 판명 날 경우 보험사의 법적·재정적 리스크가 커져 ‘면책조항’ 등을 주장하고 있다는 분석이 나온다.

23일(현지시간) 파이낸셜타임스(FT)에 따르면 AIG, 그레이트아메리칸, WR버클리 등 미국 보험사들이 미국 규제당국에 ‘AI챗봇’ 등에서 발생한 책임을 기업 보험에서 제외할 것을 요구하고 있다.

WR버클리가 제안한 면책조항을 보면 사용자가 AI를 사용해 찾은 회사의 제품·서비스 관련한 책임에 대해 보험 청구를 하는 것을 차단하는 내용을 담고 있다. 여기에는 기업이 판매하는 제품과 서비스에 AI 기술이 통합된 경우도 포함된다.

보험업계는 AI 모델이 만들어내는 결과물이 예측 불가능하고, AI가 실수했을 때 비용이 너무 많이 드는 점을 이유로 들고 있다. 실제 AI가 거짓 정보를 사실인 양 꾸며내는 ‘환각’(할루시네이션) 현상으로 소비자가 피해를 보는 일이 늘고 있어서다. 지난 3월 구글의 AI 기반 검색 요약 서비스인 ‘AI오버뷰’는 “태양광 업체 울프리버일렉트릭이 미네소타 법무장관에게 소송당했다”고 거짓으로 밝혀 업체로부터 1억1000만달러 규모 손해배상 소송을 당했다. 지난해 캐나다 민영 항공사 에어캐나다는 “챗봇이 만든 할인 정책을 그대로 적용해 고객에게 적용해야 한다”고 법원에서 판결받기도 했다.

단일 사고뿐만 아니라 AI 모델 오류로 보험 청구 수천 건이 동시에 발생할 수 있는 리스크도 있다. 글로벌 보험중개업체 에이온의 한 임원은 “AI의 실수로 1000~1만 건의 상관관계 있는 손실이 한꺼번에 나면 (보험사들이) 감당할 수 없다”고 우려했다.

보험업계에선 앞으로 AI의 실수에 따른 손실이 크게 증가하면 보험사들이 적극적으로 법정 소송에 나설 것으로 보고 있다. 영국 대형 로펌 스튜어트 관계자는 “대형 (AI 사고) 사건이 발생하면 보험사들이 ‘우리는 이런 종류의 사건을 보장할 의도가 없었다’고 항변할 것”이라고 전망했다.

김동현 기자 3code@hankyung.com