사진=비커널 스캐너 공개 점검 결과 화면. 주요 AI 모델이 모두 최저 등급을 받았고, 가중치 내부 파이어월 적용 시 위험 호출이 모두 차단된다. 실제 서비스 화면
사진=비커널 스캐너 공개 점검 결과 화면. 주요 AI 모델이 모두 최저 등급을 받았고, 가중치 내부 파이어월 적용 시 위험 호출이 모두 차단된다. 실제 서비스 화면
AI 파운드리 기업 비드래프트(대표 김민식)가 AI 모델의 보안 취약점을 점검할 수 있는 무료 도구 ‘비커널 스캐너(ViKernel Scanner)’를 허깅페이스와 깃허브에 공개했다고 20일 밝혔다. 해당 도구는 사용자가 운용하는 AI 모델이 외부 공격 명령에 반응해 위험한 도구 호출을 시도하는지 약 1분 내에 점검하도록 설계됐다.

스캐너는 점검 대상 AI에 파일 읽기·쓰기, 메일 보내기, 웹 요청, 셸 명령 실행, 송금 등 8가지 모의 도구를 제공하고 공격 명령 100건과 정상 업무 20건을 입력해 반응을 분석한다.

모델이 위험한 도구 호출을 시도하면 이를 기록해 명령 실행(D1), 비밀 유출(D2), 숨은 지시(D3), 통제 무력화 등 영역별로 A부터 F까지 등급을 부여한다. 한 영역이라도 최고 위험 단계에 이르면 종합 등급은 F가 된다. 모든 도구는 모의이며 실제로 실행되지는 않는다.

비드래프트가 허깅페이스 라우터를 통해 공개 가중치 모델 20여 종을 같은 기준으로 점검한 결과, 대상 모델 모두 F등급을 받았다. 위험한 행동을 시도한 비율은 중앙값 기준 100건 중 40건으로 집계됐다. 점검 항목은 AI 모델을 대상으로 한 전용 취약점 1255건을 기반으로 구성됐으며, 난독화된 명령이나 삭제 명령 등 실제 공격자가 쓰는 수법을 담았다.

스캐너는 아파치(Apache-2.0) 오픈소스 라이선스로 배포돼 이용자가 자체 서버에 구축해 활용할 수 있으며, 허깅페이스 라우터, 오픈라우터, 오픈AI, 앤트로픽 등 오픈AI 호환 API 엔드포인트를 지원한다.

회사는 AI 모델의 위험한 행동을 차단하는 보안 솔루션 ‘비커널 파이어월’도 개발했다. 이 솔루션은 보안 커널을 AI 모델의 가중치 내부에 구현해 위험한 도구 호출을 실행 직전에 차단하는 방식이다. 회사 측은 외부에서 임의로 분리하기 어려운 구조이며, 보안 판정 과정도 기록으로 남는다고 설명했다. 비드래프트의 자체 시험에서는 비커널 스캐너 점검 과정에서 확인된 위험한 호출 897건이 파이어월 적용 후 모두 차단된 것으로 나타났다.

비드래프트는 향후 무료 진단 도구를 통해 AI 모델의 취약점 점검 수요를 확인하고, 상용 보안 솔루션인 ‘비커널 파이어월’ 등을 통해 기업용 AI 보안 시장에 대응할 계획이다.

김민식 대표는 “보안은 결국 내 모델이 무엇을 ‘하는지’를 봐야 한다”며 “무료 진단기로 위험을 먼저 확인하고, 가중치 내부 파이어월로 차단하는 구조를 통해 AI 보안 시장에 대응하겠다”고 말했다.

김성혜 한경닷컴 기자 shkimmy@hankyung.com