SK하이닉스, 세계 최초 ‘12단 적층 HBM3E’ 양산… 연내 엔비디아 공급 [종합]

현존 최고 성능과 용량 갖춘 HBM3E 12단, 연내 고객에 공급
D램 단품 칩 40% 얇게 만들어 기존과 동일한 두께로 용량 50% 높여

SK하이닉스가 현존 고대역폭 메모리(HBM) 최대 용량인 36GB(기가바이트)를 구현한 HBM3E 12단 신제품을 세계 최초로 양산하기 시작했다고 26일 밝혔다.

지난 3월 HBM3E 8단 제품을 업계 최초로 고객에게 납품한 지 6개월 만에 또 한 번 기술력을 증명했다. 기존 HBM3E의 최대 용량은 3GB D램 단품 칩 8개를 수직 적층한 24GB였다.

회사는 양산 제품을 연내 엔비디아 등 빅테크 고객사에 공급할 예정이다.

SK하이닉스 관계자는 “2013년 세계 최초로 HBM 1세대(HBM1)를 출시한 데 이어 HBM 5세대(HBM3E)까지 전 세대 라인업을 개발해 시장에 공급해온 유일한 기업”이라며 "높아지고 있는 인공지능(AI) 기업들의 눈높이에 맞춘 12단 신제품도 가장 먼저 양산에 성공해 AI 메모리 시장에서 독보적인 지위를 이어가고 있다”고 강조했다.

회사는 HBM3E 12단 제품이 AI 메모리에 필수적인 속도, 용량, 안정성 등 모든 부문에서 세계 최고 수준을 충족시켰다고 설명했다.

우선 이번 제품의 동작 속도를 현존 메모리 최고 속도인 9.6Gbps로 높였다. 이번 제품 4개를 탑재한 단일 GPU로 거대언어모델(LLM)인 ‘라마 3 70B‘를 구동할 경우 700억 개의 전체 파라미터를 초당 35번 읽어낼 수 있는 수준이다.

회사는 또 기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘렸다. 이를 위해 D램 단품 칩을 기존보다 40% 얇게 만들고 실리콘관통전극(TSV) 기술을 활용해 수직으로 쌓았다.

여기에 얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다. 자사 핵심 기술인 어드밴스드(Advanced) 매스 리플로우 몰디드 언더 필(MR-MUF) 패키징 공정을 이번 제품에 적용해 전 세대보다 방열 성능을 10% 높였으며, 강화된 휨 현상 제어를 통해 제품의 안정성과 신뢰성을 확보했다.

김주선 SK하이닉스 사장은 “다시 한번 기술 한계를 돌파하며 시대를 선도하는 독보적인 AI 메모리 리더로서의 면모를 입증했다”며 “앞으로도 AI 시대의 난제들을 극복하기 위한 차세대 메모리 제품을 착실히 준비해 ‘글로벌 1위 AI 메모리 프로바이더(Provider)’로서의 위상을 이어가겠다”고 말했다.

SK하이닉스는 이번 'HBM3E 12단' 양산을 통해 후발 주자인 삼성전자, 미국 마이크론과의 격차를 더욱 벌리게 됐다. 시장조사업체 트렌드포스에 따르면 지난해 HBM 시장 점유율은 SK하이닉스 53%, 삼성전자 38%, 마이크론 9%다.

특히 SK하이닉스는 전체 HBM 비중에서 HBM3E 12단 제품 비중을 확대할 계획이다. 현재 시장 주류는 HBM3와 HBM3E 8단이지만, 엔비디아의 후속 제품에서 12단 제품이 대거 채택될 것으로 예상된다. 시장조사기관 트렌드포스에 따르면 엔비디아 최신 전용칩 '블랙웰 울트라'는 8개의 HBM3E 12단 스택을 활용할 것으로 전해졌다.

삼성전자와 마이크론은 HBM3E 12단 제품에 대한 엔비디아 퀄(품질) 테스트를 진행하며 추격에 나서고 있다.

최근 마이크론은 36GB HBM3E 12단 제품을 개발하고, 고객들에게 샘플을 공급하고 있다고 발표했다. 삼성전자는 2분기 실적 콘퍼런스콜에서 HBM3E 8단 제품을 3분기 내 양산해 공급을 본격화하고, 12단 제품도 하반기에 공급할 예정이라고 밝혔다.