정보 빼내려는 모든 공격 방어…기존 대비 3.6배 빠른 학습 능력
한국과학기술원(KAIST)은 전기및전자공학부 유민수 교수 연구팀이 '차등 프라이버시 보호 기술이 적용된 인공지능(AI) 애플리케이션'의 성능을 향상할 AI 반도체칩을 개발했다고 19일 밝혔다.
AI 기술을 기반으로 시청자 취향에 맞춰 동영상 콘텐츠·상품 등을 추천하는 '개인화 추천 시스템 기술'이나 사진을 인물 별로 분류해주는 '안면 인식 기술' 등은 사용자 정보를 대량으로 수집하는데, 이 과정에서 정보가 유출되는 문제가 발생하기도 한다.
'차등 프라이버시' 기술은 AI 기계학습에 사용되는 그라디언트(gradient·학습 방향 기울기)에 잡음(노이즈)을 섞어 AI 모델에서 사용자 개인정보를 유출하는 모든 종류의 공격을 방어할 수 있다.
다만 이 기술을 적용하면 기존 대비 애플리케이션 속도·성능이 크게 하락하는 문제 때문에 아직 널리 적용되지는 못했다.
연구팀은 이 기술이 적용된 애플리케이션 성능을 크게 향상할 가속기인 AI 반도체 칩을 개발했다.
이 칩은 현재 가장 널리 사용되는 AI 프로세서 보다 차등 프라이버시 AI 학습 과정을 3.6 배 빠르게 실행할 수 있고, 최신 그래픽처리장치(GPU) 대비 10배 적은 전력 자원 등으로도 대등한 성능을 보인다고 연구팀은 설명했다.
연구팀 관계자는 "이번에 개발한 AI 반도체 칩은 다양한 분야에서 이미 적용된 차등 프라이버시 기계 학습 전 과정을 가속화 할 수 있다"며 "기존보다 더 빠른 학습 속도를 가져갈 수 있어서 더 복잡한 차등 프라이버시 알고리즘을 적용해 볼 수도 있다"고 말했다.
이번 연구 결과는 오는 10월 미국 시카고에서 열리는 컴퓨터 구조 분야 국제 학술대회에서 발표될 예정이다.
/연합뉴스
AI 기술을 기반으로 시청자 취향에 맞춰 동영상 콘텐츠·상품 등을 추천하는 '개인화 추천 시스템 기술'이나 사진을 인물 별로 분류해주는 '안면 인식 기술' 등은 사용자 정보를 대량으로 수집하는데, 이 과정에서 정보가 유출되는 문제가 발생하기도 한다.
'차등 프라이버시' 기술은 AI 기계학습에 사용되는 그라디언트(gradient·학습 방향 기울기)에 잡음(노이즈)을 섞어 AI 모델에서 사용자 개인정보를 유출하는 모든 종류의 공격을 방어할 수 있다.
다만 이 기술을 적용하면 기존 대비 애플리케이션 속도·성능이 크게 하락하는 문제 때문에 아직 널리 적용되지는 못했다.
연구팀은 이 기술이 적용된 애플리케이션 성능을 크게 향상할 가속기인 AI 반도체 칩을 개발했다.
이 칩은 현재 가장 널리 사용되는 AI 프로세서 보다 차등 프라이버시 AI 학습 과정을 3.6 배 빠르게 실행할 수 있고, 최신 그래픽처리장치(GPU) 대비 10배 적은 전력 자원 등으로도 대등한 성능을 보인다고 연구팀은 설명했다.
연구팀 관계자는 "이번에 개발한 AI 반도체 칩은 다양한 분야에서 이미 적용된 차등 프라이버시 기계 학습 전 과정을 가속화 할 수 있다"며 "기존보다 더 빠른 학습 속도를 가져갈 수 있어서 더 복잡한 차등 프라이버시 알고리즘을 적용해 볼 수도 있다"고 말했다.
이번 연구 결과는 오는 10월 미국 시카고에서 열리는 컴퓨터 구조 분야 국제 학술대회에서 발표될 예정이다.
/연합뉴스
