|
시장보고서
상품코드
2108404
메가와트급 AI 랙 : 인프라 진화와 와이드 밴드갭 전력 반도체의 기회(-2030년)Megawatt AI Racks: Infrastructure Evolution & Wide-Bandgap Power Semiconductor Opportunities by 2030 |
||||||
메가와트급 AI 랙 - 2030년까지의 인프라 진화와 와이드 밴드갭 전력 반도체의 비즈니스 기회
요약
20년 이상 동안 데이터센터의 전력 배전은 고도로 표준화되고 성숙하며 변화가 완만한 공학 분야로 기능해 왔습니다. 차세대 AI 랙 아키텍처에서는 더 많은 AI GPU/ASIC 다이와 멀티테라비트급 SerDes 스위칭 패브릭이 고밀도 풋프린트에 통합되어 있습니다. 그 결과, 랙의 전력 요구 사항은 큰 패러다임 전환을 맞이하고 있습니다.
NVIDIA의 Hopper 및 Blackwell 아키텍처 도입이 정점에 달했을 당시, GB300 NVL72와 같은 개별 서버 프레임의 전력 소비량은 약 140kW에 달했습니다. 데이터센터의 전망은 이제 'Vera Rubin' 및 'Feynman' 세대로 빠르게 나아가고 있습니다. 개별 랙의 전력 요구 사항은 ‘Rubin Ultra’에서 600kW 이상으로 급증하고 있으며, 2028-2030년에 랙당 1메가와트(1,000kW)라는 상한선을 수학적으로 확실하게 넘어설 것으로 전망됩니다.
생성형 AI와 대규모 언어 모델(LLM)의 급속한 성장으로 인해 이러한 가정은 근본적으로 바뀌었습니다. 현대의 AI 클러스터는 더 이상 프로세서 성능만으로 제한되지 않습니다. 대신 시스템 아키텍트는 점점 더 소형화되는 랙 스케일 시스템 내에서 연산 밀도, 메모리 대역폭, 상호 연결 용량, 열 관리 및 전력 공급을 동시에 최적화해야 합니다. 그 결과, 전력 소비량은 기존 인프라 설계의 가정을 크게 상회하는 속도로 증가하고 있습니다.
목차
서론
- 800V HVDC에 대한 진화
- 기존 아키텍처는 물리적인 한계에 도달
- 도표 1 : AI 랙 파워업이 초래하는 새로운 과제
- 800V HVDC의 이점
- 도표 2 : 800V HVDC의 이점
- 800V HVDC에 대한 아키텍처 전환을 원활히 진행한다.
- 도표 3 : 800V HVDC로의 전환
- AI 데이터센터와 전력 인프라에서 와이드 밴드갭 반도체의 가능성
- SiC 및 GaN 관련 기업이 800V 고압직류 송전(HVDC) 공급망에 참여
- 도표 4 : NVIDIA 800V HVDC 공급망
- AI 전력 인프라에서 SiC와 GaN의 경쟁 우위성
- 도표 5 : AI 데이터센터 및 전력 인프라에서 SiC와 GaN의 역할
- AI 랙에서 Si, SiC, GaN 디바이스의 경쟁력 평가
- 도표 6 : AI 랙내에서 SiC 및 GaN 디바이스의 경쟁력
- AI 데이터센터 및 전력 인프라에서 SiC 및 GaN 디바이스의 시장 가능성
- 도표 7 : SiC와 GaN의 AI 데이터센터 및 전력 인프라에서의 기회
요약
KSA 26.08.20Megawatt AI Racks: Infrastructure Evolution & Wide-Bandgap Power Semiconductor Opportunities by 2030
Abstract
For more than two decades, data center electrical power distribution operated as a highly standardized, mature, and slow-moving engineering discipline. The architecture of new-generation AI racks integrates more AI GPU/ASIC dies and multi-terabit SerDes switching fabrics into dense footprints. Consequently, rack power requirements are experiencing a massive paradigm shift.
During the peak deployment of the NVIDIA Hopper and Blackwell architectures, individual server frames like the GB300 NVL72 reached around 140 kW. The data center horizon is pushing straight into the Vera Rubin and Feynman generations; individual rack power requirements are soaring to 600 kW+ for Rubin Ultra and are mathematically certain to exceed the 1 Megawatt (1,000 kW) per rack ceiling by 2028-2030.
The rapid growth of generative AI and large language models (LLMs) has fundamentally changed these assumptions. Modern AI clusters are no longer limited by processor performance alone. Instead, system architects must simultaneously optimize computing density, memory bandwidth, interconnect capacity, thermal management, and energy delivery within increasingly compact rack-scale systems. As a result, power consumption is increasing at a pace that significantly exceeds historical infrastructure design assumptions.
Table of Contents
Introduction
- The Evolution to 800V HVDC
- Traditional Architecture Hits Its Physical Ceiling
- Chart 1: The Rising AI Rack Power Brings New Challenges
- The Benefits of 800V HVDC
- Chart 2: The Benefits of 800V HVDC
- Navigating the Architectural Transition to 800V HVDC
- Chart 3: The Transition to 800V HVDC
- The Wide-Bandgap Semiconductor Opportunities in AI Data Centers and Power Infrastructure
- SiC and GaN Players Join 800V HVDC Supply Chain
- Chart 4: The NVIDIA 800V HVDC Supply Chain
- SiC and GaN with Their Competitive Edges in AI Power Infrastructure
- Chart 5: The Role of SiC and GaN in AI Data Center and Power Infrastructure
- Evaluation of the Competitiveness between Si, SiC, and GaN Devices in AI Racks
- Chart 6: The Competitiveness of SiC and GaN Devices inside AI Racks
- Market Potential for SiC and GaN Devices in AI Data Centers and Power Infrastructure
- Chart 7: AI Data Center & Power Infrastructure Opportunities for SiC and GaN
