딥테크 AI·과학연구 전문기업 비드래프트(대표 김민식)가 지난 13일 범용 인공지능 모델의 잠재적 안전성 취약성을 진단하는 ‘AX-RAY’ 리더보드와 평가 데이터셋을 허깅페이스(Hugging Face)에 공개했다고 14일 밝혔다.

이번 평가에서 비드래프트는 이론적으로 논의돼 온 ‘인과누설(Causal Leakage)’ 신호를 실제 범용 대규모언어모델(LLM)에서 확인했다고 설명했다. AX-RAY 평가 대상 가운데 엔비디아의 범용 AI 모델 1종을 포함한 총 2개 모델에서 관련 신호가 관측됐다는 것이다.

인과누설은 AI가 정상적인 추론 경로가 아닌 숨은 정보나 의도하지 않은 인과적 단서에 영향을 받아 판단·행동하는 현상을 의미한다. AI 안전성 분야에서는 로봇이나 자율 에이전트의 돌발 행동, 안전 가이드레일을 우회해 시스템 접근·해킹 등 예상 밖 행동을 수행하는 현상 역시 이러한 숨은 인과경로와 내부 의존성에 기인할 가능성이 있다는 가설이 제기돼 왔다. 그러나 이를 실제 범용 LLM에서 탐지하는 것은 기술적 과제로 남아 있었다.

AX-RAY는 117개 안전성 진단항목을 통해 모델 내부의 위험행동 가능성과 취약성을 진단하고, 각 항목을 국가별 기존 법률·규제 체계와 연결한다. 특히 아랍권의 경우 현지 법률뿐 아니라 종교·사회적 규범을 반영한 율법 체계와의 매핑까지 고려해 국가·문화권별 AI 안전성 평가가 가능하도록 설계됐다.

이는 AI 평가의 중심이 ‘얼마나 똑똑한가’에서 ‘얼마나 안전하고 통제 가능한가’로 이동하고 있는 글로벌 흐름과 맞닿아 있다. LLM과 AI 에이전트가 금융·의료·로봇·국방·공공서비스 등 의사결정 영역으로 확산되면서 단순 지능 점수보다 법률·규범을 위반하거나 예측 불가능한 행동을 하는지를 사전에 진단하는 기술의 중요성이 커지고 있다.

비드래프트는 양자컴퓨터용 QuantumOS와 신약·신소재 자율개발 플랫폼을 개발하는 딥테크 AI 기업이다. 서울AI허브 입주사로 정부 첨단 GPU 지원과제를 수행하고 있다. 엔비디아 Blackwell 등 고성능 GPU를 기반으로 자체 프롬스크래치 파운데이션 모델 ‘AETHER’와 진화형 ‘Darwin’을 개발하고 있으며, 허깅페이스 누적 다운로드 100만 회, K-AI 리더보드 1위, GPQA 90.9%, Fast Gemma Challenge 1위 등의 성과를 거뒀다.

김민식 대표는 “AI 경쟁의 다음 단계는 지능이 아니라 안전성”이라며 “AX-RAY를 통해 모델에 숨어 있는 위험한 인과관계를 진단하고 국가별 법률과 사회규범까지 연결해 검증하는 글로벌 AI 안전성 진단 체계로 발전시켜 나갈 것"이라고 말했다.

배경민 한경닷컴 기자 bkm@hankyung.com