JEDEC 표준화가 느려지자, 하이퍼스케일러들이 HBM 커스터마이즈에 나섰다

JEDEC이 표준을 정하는 속도가 데이터센터가 크는 속도를 못 따라가고 있어. HBM4부터 메모리 스택의 맨 밑 다이, base die를 회사가 원하는 대로 고칠 수 있는 옵션이 생겼는데, 이 옵션은 처음부터 하이퍼스케일러를 겨냥해.¹

Marvell의 데이터센터 메모리 솔루션 부사장 Khurram Malik은 이유를 이렇게 말해. “JEDEC은 표준화가 느립니다. 하이퍼스케일러는 훨씬 빠르게 움직이고, 질문은 ‘자기 워크로드에 맞춰 HBM base die를 어떻게 커스터마이즈할 것인가’로 바뀝니다.”¹

왜 하필 base die가 바뀌나

HBM3까지는 마이크론·삼성·SK하이닉스 같은 메모리 제조사가 base die를 포함해 스택의 모든 레이어를 직접 설계하고 만들었어.¹ base die는 원래 D램과 같은 공정으로 찍었거든.

그런데 HBM4부터는 전력과 성능을 위해 base die가 더 앞선 로직 공정(4나노급 이하로 추정)으로 옮겨갔어. D램 공정으로는 거기까지 못 가니까, 메모리 회사는 표준 base die를 여전히 설계하지만 실제로 찍는 건 로직 파운드리 몫이 됐지.¹

결국 커스텀 base die는 차별화 얘기야. Synopsys의 제품관리 이사 Rob Kruger는 “차별화하는 방법 중 하나가 cHBM 모델”이라고 말해.¹

누가 얼마나 가져가나

Marvell을 보면 감이 와. Marvell은 커스텀 클라우드 컴퓨팅 전담 사업부를 두고 고객사별 XPU를 커스터마이즈하는데, 커스텀 HBM 구현을 추진 중인 대표 사례로 꼽혀.¹

최근 TSMC가 윈본드와 협력한다고 밝힌 것도 같은 흐름이야. 윈본드가 메모리 웨이퍼를 공급하고 TSMC가 스택을 조립하는 구조인데, 이게 마이크론·삼성·SK하이닉스 등 나머지 3대 메모리 제조사의 부담을 덜어준다는 평가가 나와.¹

SK하이닉스 아메리카의 패키지 엔지니어링 부사장 Jaesik Lee는 지금 상황을 이렇게 요약해. “고객이 원하는 건 이제 다 커스텀입니다. 더 높은 대역폭을 원하니까요. 그런데 메모리 회사는 설계와 제조를 다 해야 하는데, 자원이 제한돼 있습니다.”¹

숫자로 보는 이득

메모리 컨트롤러를 호스트에서 커스텀 base die로 옮기면 실제로 뭐가 좋아질까. PHY(물리 인터페이스)가 표준 D램 PHY보다 약 70% 작아지고, 컴퓨트 다이 위에서 확보하는 연산 능력이 약 25% 늘어나.¹

메모리가 모자란데 더 만들어도 되나

메모리 공급이 이미 빠듯한데 커스텀 HBM까지 더하면 수요를 더 압박하는 거 아닐까 싶지만, 원문은 그렇게 안 봐. cHBM이 그 수요를 추가로 압박하지는 않을 거라는 게 업계 시각이야.¹

오히려 공급 부족 자체에 대한 다른 대안도 같이 나와. 표준 D램 다이를 호스트 위에 쌓는 방식인데, 진짜 HBM 스택만큼 높지는 않지만 최대 4개까지 쌓을 수 있어. Synopsys는 이 방식으로 가는 프로젝트가 연간 20건이 안 될 거라고 봐.¹

다음에 볼 것

지금 진행 중인 프로젝트들을 감안하면 커스텀 HBM 스택은 1~2년 안에 데이터센터에 등장할 걸로 예상돼.¹ 그런데 그 사이에도 공급 자체는 빠듯해. Malik은 메모리 공급사들이 이미 향후 1년 반에서 2년치 팹 생산분을 매진시켰다고 말해.¹

커스텀 base die가 실제로 이 일정대로 나오는지, 그리고 그 무렵 공급 상황이 얼마나 풀리는지가 다음 확인 지점이야.

각주

1. Semiconductor Engineering, Bryon Moyer, 「How Will The Custom HBM Business Work?」(2026-08-20) 원문 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹² ↩︎¹³