|
시장보고서
상품코드
2100781
AI 메모리 수요의 급증 : HBM 메모리와 GPU 메모리의 대역폭 혁신AI Memory Demand Surge: HBM Memory and GPU Memory Bandwidth Transformation |
||||||
가격
※ 부가세 별도
한글목차
영문목차
※ 본 상품은 영문 자료로 한글과 영문 목차에 불일치하는 내용이 있을 경우 영문을 우선합니다. 정확한 검토를 위해 영문 목차를 참고해주시기 바랍니다.
본 보고서에서는 먼저 HBM이 LLM 및 AIGC 애플리케이션의 진화에서 중요한 역할을 수행하는 이유에 대해 설명합니다. 이어서 HBM의 업그레이드 로드맵을 검토하고, 이종 메모리 통합 전략을 통해 용량을 확대하고 대역폭을 향상시킴으로써 미래의 AIGC 수요에 대응하는 방법에 대해 고찰합니다.
주요 하이라이트
- LLM 및 AIGC 워크로드에서 HBM이 수행하는 매우 중요한 역할에 대해 설명합니다.
- HBM의 업그레이드 로드맵과 향후 전개 방향에 대해 개괄합니다.
- 용량과 대역폭을 향상시키기 위한 이종 메모리 통합에 대해 검증합니다.
- 이러한 전략을 새롭게 부상하고 있는 AIGC의 성능 요구 사항과 연관 지어 설명합니다.
목차
- 1. LLM의 급속한 진화와 AIGC 애플리케이션의 폭발적인 성장에 힘입어 촉진되는 무한한 HBM 수요
- 2. HBM 중심의 이종 메모리 통합을 통해 용량 및 대역폭 향상에 주력
- 3. TRI의 견해
This report first explains why HBM plays a key role in the evolution of LLM and AIGC applications. It then examines the HBM upgrade roadmap and explores how heterogeneous memory integration strategies can expand capacity and increase bandwidth to meet future AIGC demand.
Key Highlights
- Explains the pivotal role of HBM in LLM and AIGC workloads.
- Reviews the HBM upgrade roadmap and future development.
- Examines heterogeneous memory integration to boost capacity and bandwidth.
- Links these strategies to emerging AIGC performance requirements.
Table of Contents
- 1. Infinite HBM Demand Fueled by Rapid LLM Evolution and Explosive Growth of AIGC Applications
- Table 1: Token Processing Capacity Across GPT Model Generations
- Figure 1: Text Generation Workflow and HBM Usage
- Figure 2: Image Generation Workflow and HBM Usage
- Figure 3: Video Generation Workflow and HBM Usage
- Table 2: Estimated HBM Requirements for Three Types of AI Generation Workloads
- 2. HBM-Centric Heterogeneous Memory Integration to Focus on Capacity and Bandwidth Upgrades
- Table 3: Theoretical Performance and Specification Parameters of Past HBM
- Figure 4: Schematics of Integration between HBM4 and LPDDR
- Figure 5: Integration between HBM and NMC Die
- Figure 6: Schematics of Integration between HBM5 and SOCAMM
- Figure 7: Schematics of HBM6 with Dual-Tower Architecture
- Figure 8: Schematics of Integration between HBM7 and HBF
- 3. TRI’s View
