12단에서 16단으로…HBM, 얼마나 더 쌓을 수 있을까 [ET의 칩스토리]

이론상 20층 이상 가능하지만
물리적 높이·공정 정밀도 한계
하이브리드 본딩으로 HBM 혁신 기대

글로벌 기술 패권 경쟁 속 반도체의 가치는 ‘핵무기’와 동급으로 불립니다. 국가 안보 핵심 자산이자 국력과 직결된 전략 산업이죠. 첨단 반도체 기술의 지배력은 글로벌 기술 패권과 군사 안보의 핵심으로 통합니다. 미국과 중국이 자국의 반도체 산업을 전폭적으로 지원하는 배경으로도 꼽히죠. 이렇듯 중요한 반도체는 명실상부한 한국 대표 수출 산업입니다. 삼성전자와 SK하이닉스는 글로벌 간판 반도체 기업으로 기술 경쟁에서 뒤쳐지지 않기 위해 막대한 투자를 쏟아붓고 있습니다. 본지는 ‘ET의 칩스토리’ 코너를 통해 반도체 기술 트렌드와 업계 동향을 심층 분석하고, 시장의 흐름을 조명할 예정입니다. 빠르게 변화하는 반도체 시장의 핵심 이슈를 짚어보며, 독자 여러분께 유익한 인사이트를 제공해 드리겠습니다.

인공지능(AI) 시대의 핵심 반도체로 떠오른 고대역폭메모리(HBM)는 다수의 D램 칩을 수직으로 쌓아 만드는 구조다. 8단, 12단처럼 단 수가 늘어날수록 데이터 전송 속도와 메모리 용량도 함께 증가한다. 이론적으로는 제한이 없지만, 업계에서는 기술적·물리적 제약으로 인해 16단이 사실상 ‘마지노선’이라는 전망이 우세하다.

25일 업계에 따르면, SK하이닉스는 올해 16단으로 구성된 차세대 HBM3E(HBM 6세대) 제품을 상용화할 계획이다. HBM3E는 엔비디아를 비롯한 AI 반도체 기업들이 차세대 AI 가속기용 메모리로 채택하고 있는 최신 규격이다.

SK하이닉스는 이미 16단 HBM3E 개발을 완료한 상태다. 지난해 11월 곽노정 SK하이닉스 대표이사 사장은 “D램 칩 16개를 수직으로 적층해 총 48GB 용량을 구현했고, 양산성이 검증된 ‘어드밴스드 MR-MUF’(Advanced Mass Reflow Molded Underfill) 기술을 적용했다”며 “백업 공정으로는 하이브리드 본딩 기술도 함께 개발 중”이라고 밝혔다. 그는 또 “16단은 기존 12단 대비 AI 학습 성능은 최대 18%, 추론 성능은 최대 32% 향상할 수 있다”고 강조했다.

어드밴스드 MR-MUF는 적층 시 발생할 수 있는 발열이나 휨(Warping) 현상을 최소화하는 공정 기술이다. D램을 높게 쌓을수록 내부 열이 증가하고, 이로 인해 제품의 안정성이 떨어질 수 있는데, MR-MUF 기술은 이러한 구조적 문제를 해결해준다. 이 기술을 기반으로 SK하이닉스는 20단까지 적층이 가능하다고 본다.

▲SK하이닉스 HBM4 12단 샘플 (사진제공=SK하이닉스)

그러나 일부 전문가들은 HBM3E가 16단 이상으로 가는 것은 현실적으로 어렵다고 보고 있다. D램을 적층하는 기술은 물리적인 높이와 연결 공정의 정밀도라는 한계를 갖고 있기 때문이다. 칩 간 접합을 위해 필요한 ‘범프’의 크기를 줄이지 않는 이상, 규격 범위 내에서 더 높은 단 수를 구현하는 것은 어렵다는 지적이다.

한 대학교 반도체공학과 교수는 “이론적으로 20단까지도 가능하겠지만, 16단까지 구현한 것만으로도 업계에서는 매우 큰 기술적 진전으로 평가된다”며 “HBM4(HBM 7세대)로 넘어가면서 적층보다 접합 방식의 혁신이 더 중요해질 것”이라고 내다봤다.

▲곽노정 SK하이닉스 사장이 지난해 11월 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋(Summit) 2024’에서 ‘차세대 AI 메모리의 새로운 여정, 하드웨어를 넘어 일상으로'를 주제로 한 기조 연설을 하고 있다. (박민웅 기자 pmw7001@)

HBM의 다음 세대로의 도약은 더욱 정교하고 복잡한 기술을 요구한다. 권태우 하나증권 연구원은 “HBM 기술은 진화할수록 적층 공정이 복잡해지고, 이에 따라 생산 과정에서의 수율 확보가 도전 과제로 떠오른다”며 “HBM4에서는 16~20단 적층, 전력 효율 개선, 데이터 입출력(I/O) 대역폭 확장 등이 동시에 요구되기 때문에 장비와 공정 전반의 정밀도가 크게 향상돼야 한다”고 설명했다.

HBM4로 넘어가면 업계의 핵심은 ‘하이브리드 본딩(Hybrid Bonding)’ 기술이 될 것으로 보인다. 기존의 범프 방식은 칩과 칩 사이에 미세한 돌기를 만들어 연결하는 방식이지만, 하이브리드 본딩은 이 범프 없이 칩을 직접 접합한다. 불필요한 두께를 줄일 수 있어 단 수를 늘리는 데 유리하고, 전기적 신호 손실도 줄일 수 있다는 장점이 있다.

또 다른 대학교 반도체시스템공학과 교수는 “현재도 범프의 크기를 줄이려는 연구가 활발하게 이뤄지고 있지만, 하이브리드 본딩이 상용화되면 기존 한계를 뛰어넘는 전환점이 될 것”이라며 “HBM의 집적도와 효율성을 동시에 끌어올릴 수 있는 핵심 기술로 주목받고 있다”고 말했다.