“더 빠르고 저렴하게” 차세대 메모리 중요한 이유 [HBM, 그 후①]

AI 시대에 급부상한 HBM…“그다음은?”
비싼 가격과 엔비디아 독과점에 시장 우려
저렴하고 다양한 기능 갖춘 제품군 떠올라
짐 켈러 “33% 저렴한 GDDR 사용 중”

▲SK하이닉스의 주요 HBM 패키징 기술 (사진제공-SK하이닉스 뉴스룸)

인공지능(AI) 열풍으로 고대역폭메모리(HBM)가 시장의 관심을 한 몸에 받고 있다. 그러나 HBM 시장에 대한 엔비디아의 지나친 독과점과 HBM 제품의 높은 가격 등의 이유로 기업들은 다른 AI 반도체 제품에 눈을 돌리고 있다. 향후 어떤 반도체가 HBM의 뒤를 이을지는 아직 알 수 없지만, 기업들은 ‘넥스트 HBM’를 준비하고 있다.

11일 업계에 따르면 삼성전자와 SK하이닉스 등 반도체 기업들은 차세대 기술로 불리는 CXL 개발에 한창이다. CXL은 중앙처리장치(CPU)와 그래픽처리장치(GPU) 등 다른 시스템의 장치를 서로 연결해주는 기술로, 데이터 처리를 최적화해준다. CXL는 HBM과 함께 AI 시대에 최적화한 기술로 꼽힌다.

AI 기술에는 데이터 처리 속도와 에너지 효율성 등의 이유로 HBM과 같은 고성능 칩이 필요하다. 기존의 D램은 용량이 작기 때문에 D램을 수직으로 쌓아 처리 속도를 높인 것이 HBM이다.

그런데 AI 기능이 빠르게 발전하다 보니, HBM의 기능을 뛰어넘거나 보완할 수 있는 다른 칩에 대한 수요도 늘어나고 있다. AI 기능을 구동하는 데에는 전력이 많이 들기 때문에 HBM보다 전력을 적게 사용하는 칩이나, 연산 속도가 더 빠른 칩 등이다.

안기현 한국반도체산업협회 전무는 “온디바이스 AI로 넘어가면 HBM이 아니라 GDDR을 사용해야 한다”며 “온디바이스AI냐, 클라우드 기반 AI냐에 따라 필요한 칩은 달라지기 때문에 기업들은 제품을 다각화할 필요가 있다”고 말했다.

(사진제공=SK하이닉스)

HBM의 단점을 보완하는 다양한 제품군을 마련해야 한다는 제언도 나온다. 경희권 산업연구원(KIET) 연구위원은 “HBM은 수율을 높이기 어려운 제품이기 때문에 한 번 만들 때 생산량이 많지 않고 가격도 비싸다”고 지적했다.

반도체 거장이자 캐나다 AI 반도체 스타트업 텐스토렌트의 짐 켈러 CEO(최고 경영자)는 HBM 대신 GDDR6를 사용하고 있다. 켈러 CEO가 AI 반도체에 HBM을 사용하지 않는 이유는 비용 때문이다. 켈러 CEO는 최근 한 언론과의 인터뷰에서 “텐스토렌트의 AI 컴퓨팅 솔루션 ‘갤럭시’가 엔비디아의 AI 서버보다 3배 더 효율적이고 33% 더 저렴하다”고 말했다.

▲짐 켈러 텐스토렌트 CEO가 기조 강연을 하고 있다. (자료제공=삼성전자)

하이엔드 AI 가속기에는 HBM이 주로 쓰이고, 전 세계의 HBM은 미국의 엔비디아가 독점하고 있다. 이런 상황에서 최근 엔비디아의 신제품 B100의 출시 취소와 블랙웰 아키텍처 출시 지연 소식이 전해지자 엔비디아 HBM에 대한 불안감이 증폭되고 있다.

패키징의 수율과 GPU 다이의 연결 부분의 설계 등에 문제가 있다는 소문도 함께 알려졌다. 엔비디아는 해당 의혹을 부인했지만, 이러한 이슈가 생길 때마다 전 세계 반도체 공급망은 직격탄을 맞게 된다. HBM을 손에 쥔 엔비다아가 독주하는 만큼 글로벌 IT 기업들은 대체품 개발에 집중할 수밖에 없는 상황이다.

▲젠슨 황 엔비디아 최고경영자(CEO)가 4일 대만 타이베이에서 열린 ‘컴퓨텍스 2024’ 행사에서 연설하고 있다. 사진=타이베이/AFP연합뉴스

반도체 업계의 한 관계자는 “HBM이 처음 출시된 것은 2013년인데 빛을 보기까지 오랜 시간이 걸렸듯 미래에 어떤 칩이 급부상할지 알 수 없다”고 말했다.

특히 SK하이닉스가 엔비디아 HBM의 상당 부분을 공급하고 있는 것에 대해 이 관계자는 “SK하이닉스는 포트폴리오를 더 다각화하며 다양한 제품 개발에 신경 써야 할 것으로 보인다”고 조언했다.