유상윤 대표 "해킹당한 로봇, 사람 공격할 수도…AI 보안시장 커진다"
“해킹당한 가정용 로봇이 갑자기 사람을 공격한다고 생각해보세요.”

국내 인공지능(AI) 보안 스타트업 에임인텔리전스를 이끄는 유상윤 창업자 겸 대표(30·사진)는 “피지컬 AI 시대 정보 보안의 중요성은 더 커질 수밖에 없다”며 이같이 말했다. 유 대표는 “텍스트 기반의 대규모언어모델(LLM)과 달리 로봇은 AI의 판단이 곧 행동으로 이어진다”며 “로봇이 손을 휘두르는 행위가 단순한 명령 수행인지, 누군가를 해치려는 의도가 담긴 것인지 구분하는 게 쉽지 않기 때문”이라고 설명했다.

◇MS·네이버 등서 잇단 러브콜

1997년 의사 부모 사이에서 태어난 유 대표는 어릴 적부터 의료 현장을 가까이 접했다. 하지만 의료인보다는 의료공학에 더 관심이 많았다. 고등학교 재학 때 의료 분야 머신러닝 모델을 직접 개발하기도 했다. 2016년 서울대 전기정보공학부에 진학하며 더욱 체계적인 공부를 시작했고 동대학원에서 석사학위까지 마쳤다.

국내에는 AI 보안을 전문적으로 다루는 기업이 사실상 전무했다. 기술력은 자신 있었다. 그는 2024년 과학기술정보통신부와 한국정보통신기술협회가 주최한 ‘생성형 인공지능 레드팀 챌린지’에서 AI를 공격해 취약점을 찾아내는 자동화 도구를 개발해 우승을 차지했다. 이를 계기로 창업을 결심한 그는 대회 준우승자인 박하언 씨를 최고기술책임자(CTO)로 영입해 회사를 설립했다.

◇美 NASA 챗봇 취약점도 발견

에임인텔리전스는 올해 현대차그룹 제로원벤처스, 네이버 D2SF 등으로부터 전략적 투자를 유치했다. 지난달 마이크로소프트의 차세대 AI 보안 시스템 초기 파트너로 국내 기업 중 유일하게 선정됐다.

에임인텔리전스의 핵심 제품은 AI 레드티밍 솔루션 ‘스팅어’와 AI 가드레일 솔루션 ‘스타포트’다. 스팅어는 AI 시스템을 공격해 보안 취약점을 찾아내고, 스타포트는 발견된 취약점이 실제 서비스에서 악용되지 않도록 차단한다. AI를 공격하는 ‘창’과 AI를 보호하는 ‘방패’를 동시에 만드는 셈이다.

에임인텔리전스의 차별성도 여기에 있다. 최근 미국 항공우주국(NASA)의 태양 탐사 미션 사이트에 적용된 챗봇의 보안 취약점을 발견해 주목받기도 했다.

챗봇은 검증된 자료만을 기반으로 답변한다고 안내했지만, 존재하지 않는 내부 유출 문건을 사실처럼 만들어내 허위 과학 통계를 제시한 것으로 드러났다. 유 대표는 “시스템을 만든 사람과 취약점을 찾는 사람의 사고방식은 다르다”며 “직접 공격해봐야 진짜 약점을 알 수 있다”고 했다.

현재 유 대표의 목표는 LG전자와 함께 가정용 로봇에 적용할 AI 가드레일을 상용화하는 것이다. 로봇이 가연성 물질을 열원 가까이에 두거나 사람을 무리하게 끌어당기는 행동처럼 위험 상황을 스스로 인지하지 못할 가능성에 대비해 행동을 실시간으로 감시한다. 위험 행동이 감지되면 즉시 동작을 멈추게 하는 방식이다.

최진영 기자