바이오산업에서 인공지능(AI)은 진단·예측·치료 보조 등 생명·신체 안전과 직결되는 영역으로 확장되면서 윤리 문제를 넘어 책임과 입증의 문제로 이동하고 있다. 국제기구가 제시한 AI 원칙은 각국의 법제·표준·감독 체계에 반영되고 있다. 한국 역시 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」과 「디지털의료제품법」의 시행을 통해 의료 AI의 설명, 감독, 문서화, 변경관리 구조를 본격적으로 요구하기 시작했다. 본 기고는 이러한 변화를 ‘윤리의 선언’이 아니라 ‘증적 기반 거버넌스’의 문제로 재정리하고, 바이오 기업의 실무 대응 방향을 제시한다.

글로벌 규범화와 주요국 책임 체계의 재편

인공지능(AI) 윤리는 오랫동안 선언, 권고, 자율 규범의 영역으로 이해돼 왔지만, 헬스케어에서는 그 구분이 점차 약해지고 있다. 의료 AI가 관여하는 판단이 환자의 안전, 기본권, 정보 통제, 의료진의 임상적 재량, 제품의 사후 운영과 직결되기 때문이다.

세계보건기구(WHO)의 「Ethics and Governance of AI for Health」(2021년, 2024년 보강)와 유네스코(UNESCO) 「AI 윤리 권고」(2021년)가 제시한 보건의료 AI 관련 원칙도 같은 흐름 속에서 이해할 수 있다. 이들 기준은 곧바로 동일한 법적 구속력을 갖는 것은 아니지만 규제기관, 법원, 거래 상대방이 기업의 합리적 주의의무와 관리 가능성을 평가하는 참고 준거로 활용할 가능성이 크다.

이러한 변화는 주요국의 규제 구조에서도 확인된다. 미국은 포괄적 AI 일반법보다는 자율 프레임워크와 부문별 가이던스를 결합하는 방식을 취하고 있다. 유럽연합(EU)은 인공지능법(AI Act)을 통해 고위험 AI의 운영 요건을 구조화하고 있으며, 2024년 말 채택된 개정 제조물책임지침(PLD)은 2026년 12월까지 각 회원국의 전환 입법이 예정돼 있다. 한국은「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(인공지능기본법)과 디지털의료제품법의 병행 시행을 통해 고영향 AI의 관리·감독, 설명, 문서 보관, 품질 및 변경관리의 틀을 정비하고 있다.