SK하이닉스 데이터 사이언스담당 박찬진 상무(맨 왼쪽)와 임직원들이 반도체 불량률을 낮추기 위한 회의를 하고 있다. SK하이닉스 제공
SK하이닉스 데이터 사이언스담당 박찬진 상무(맨 왼쪽)와 임직원들이 반도체 불량률을 낮추기 위한 회의를 하고 있다. SK하이닉스 제공
반도체 업계의 화두는 ‘불량과의 전쟁’이다. 공정 초미세화로 효율은 이미 극한으로 올라갔다. 반도체의 원재료가 되는 동그란 웨이퍼에서 수백~수천 개의 반도체 칩이 만들어지는데 여기에서 불량률을 최소화해야 수율이 올라간다. ‘호떡에서 덜 익은 부분을 찾아내듯’ 웨이퍼에서 특정하게 나타나는 불량 패턴을 찾는 것이 중요하다. 반복되는 패턴을 찾아내면 어떤 공정에서 문제가 생겼는지를 확인할 수 있기 때문이다.

◆머신러닝으로 불량 원인 찾아내

복잡한 반도체 제조 공정 중에서 특정한 불량 패턴을 확인하는 것은 쉽지 않다. 엔지니어들의 경험과 감에 의존할 수밖에 없어서다. SK하이닉스 데이터 사이언스담당 전문가들은 ‘이미지 데이터’를 활용해 작업 효율을 개선하기로 했다. 웨이퍼 이미지를 모두 모아 데이터화한 후 머신러닝을 통해 불량품들이 발생한 웨이퍼의 공통된 분포 패턴을 찾아내고 이를 유형화했다.

유형화된 분포 패턴과 새로운 웨이퍼들을 비교해 보면 불량 원인이 되는 공정을 쉽게 찾을 수 있게 된다. 웨이퍼에서 불량 원인이 되는 공정을 찾아내는데 기존에는 60분이 걸렸다면, 이제는 5분 만에 작업이 끝난다. 작업 시간을 약 92% 단축시킨 것이다. 사람의 눈으로 봤을 때 놓치는 부분을 잡아내 정확도도 높였다. 현재 일부 제품에만 적용하고 있는 불량 원인 공정 자동 분석 시스템은 앞으로 더 많은 제품군으로 확대할 계획이다.

◆빅데이터·AI로 수율 개선

반도체 업계가 빅데이터 분석, 인공지능(AI)을 활용한 수율 개선에 열을 올리고 있다. 이미 최고 수준의 미세화와 공정 혁신을 이룬 상황에서 데이터 분석을 통해 수율을 한 단계 더 끌어올리기 위해서다. SK하이닉스는 지난해 9월 데이터 사이언스담당을 임원급 조직으로 격상시키고, 올해 초 인원도 기존 두 배 수준인 60여 명으로 확대했다. 통계학과 산업공학을 전공한 데이터 전문가들이 반도체 장비에 설치된 센서를 통해 수집한 빅데이터를 분석해 공정 개선을 이끌어내고 있다. 지금까지 수집한 데이터는 6페타바이트 규모다.

데이터 분석의 적용 범위는 무궁무진하다. 데이터 전문가들의 분석으로 지난해 낸드 제품의 수율을 기존 대비 1~3% 개선했다. ‘신의 영역’이라 불리는 반도체 가격을 예측하는 실험도 진행 중이다. 지난해 TF 활동 중 시행했던 시뮬레이션 결과 과거 일정 시점으로부터 5분기 이후까지의 제품 가격 하락률과 상승률을 실제와 거의 비슷한 수준까지 산출하는 데 성공했다.

박찬진 SK하이닉스 데이터 사이언스담당 상무는 “소재 업체, 설비 업체, SK하이닉스 등 ‘반도체 생산 생태계’ 전반에서 수집한 데이터를 공유하고 공정을 근본적으로 개선하는 것도 가능할 것”이라고 설명했다.

◆마케팅에도 데이터 분석 활용

제조 공정에서 얻은 데이터로 훈련시킨 알고리즘을 개발 중인 제품에 적용하는 실험도 하고 있다. 웨이퍼 불량 원인 분석 시스템은 이미 불량품이 발생한 웨이퍼 이미지 샘플 수천 장을 학습해 불량 패턴을 유형화할 수 있다. 하지만 아직 데이터가 쌓이지 않은 개발 제품은 불량이 발생한 웨이퍼의 이미지 샘플을 구하는 것이 어렵다. 딥러닝을 통해 학습한 알고리즘은 그동안 나타나지 않았던 새로운 종류의 불량까지 탐지할 수 있다. 기존에 학습했던 상황과 다른 환경에서도 불량 패턴을 찾아낼 수 있도록 한 것이 핵심이다.

SK하이닉스는 생산 현장에 집중돼 있는 데이터 분석 범위를 마케팅과 SCM(공급망 관리) 등 다른 부문까지 확장한다는 계획이다. 올해 안에 데이터 사이언스담당 임직원을 두 배로 확대해 분석 능력을 키우는 것이 목표다.

이천=고재연 기자 yeon@hankyung.com