AI 반도체 - 메모리 - Semianalysis, 차세대 AI 추론용 4단 HBM

https://newsletter.semianalysis.com/p/long-live-the-short-king-why-4-hi

2026.9.14
[Long Live the Short King: Why 4-hi HBM Wins]

이 보고서는 AI 가속기 시장에서 HBM의 적정 용량에 대한 패러다임 변화를 분석하며, 왜 차세대 HBM4 공정에서 4단 적층(4-hi) 방식이 가장 경제적이고 효율적인 선택지가 되는지 설명합니다. 필자는 과거에 메모리 용량을 무조건 늘리던 추세가 공급 부족과 비용 효율성 문제로 인해 변곡점에 도달했다고 진단하며, 추론 작업에서는 용량보다 대역폭(Bandwidth)이 성능을 결정짓는 핵심 요소임을 강조합니다. 특히 시스템 규모가 커지면서 개별 칩의 메모리 용량이 남는 유휴 용량(Stranded Capacity) 현상이 발생하기 때문에, 적층 높이를 낮춘 4단 HBM이 토큰당 비용을 최소화하고 한정된 웨이퍼 공급량 내에서 산출량을 극대화하는 가장 우수한 설계 전략임을 논증하고 있습니다.