|
시장보고서
상품코드
2123816
AI 인프라 분야에서 멀티 아키텍처 패브릭 경쟁 격화 : 광·동배선에 의한 상호 접속과 공급망 제휴가 시스템 성능 좌우AI Infrastructure Enters Multi-Architecture Fabric Competition; Optical-Copper Interconnects and Supply-Chain Coordination Determine System Performance |
||||||
AI 인프라 분야에서 멀티 아키텍처 패브릭 간 경쟁이 격화되고 있으며, 광 및 구리 배선을 통한 상호 연결과 공급망 간의 연계가 시스템 성능을 좌우합니다.
요약
DIGITIMES의 분석에 따르면, AI 시스템은 단일 서버 구성에서 랙 수준, 멀티랙, 포드 수준의 구축으로 전환되고 있으며, 성능 경쟁의 초점은 컴퓨팅 칩에서 보다 광범위한 AI 패브릭으로 옮겨가고 있습니다. 스케일업은 노드 내 및 랙 내의 고속 상호 연결을 처리하는 반면, 스케일아웃은 네트워크 인터페이스 카드(NIC)/DPU 및 리프-스파인 아키텍처를 통해 AI 클러스터를 연결합니다. 전체 경로에는 PCIe(Peripheral Component Interconnect Express), 스위치, 직렬화기/역직렬화기(SerDes), 디지털 신호 프로세서(DSP), 광 모듈, 케이블, 커넥터가 포함되어 있으며, 단거리 구리선 상호 연결과 스위치용 광 백본 간에 역할 분담이 이루어지고 있습니다. CSP(클라우드 서비스 제공업체)가 자체 개발한 ASIC을 점점 더 많이 개발함에 따라, AI 패브릭은 다중 아키텍처화 및 맞춤화가 더욱 진전될 것이며, 물리적 상호 연결의 전체 공급망 전반에 걸쳐 고속 I/O, 광통신, 그리고 대만 공급업체를 위한 비즈니스 기회가 더욱 확대될 전망입니다.
생성형 AI 및 대규모 모델 용도의 확대가 지속되는 가운데, AI 인프라는 랙 수준, 멀티랙, 포드 수준으로의 확장을 통해 빠르게 규모를 확장하고 있습니다. NVIDIA, Advanced Micro Devices(AMD), Alphabet 산하의 Google이 각각 ‘Vera Rubin NVL72’, ‘Helios’, ‘TPU Rack’ 시스템을 잇달아 발표한 것은 연산, 메모리, 스토리지, 상호 연결 리소스를 통합한 AI 랙이 점차 기본적인 배포 단위가 되어가고 있음을 보여줍니다. 가속기의 수와 시스템 규모가 계속 확대되는 가운데, 성능 경쟁은 서로 다른 연산 노드 및 리소스 간의 패브릭 기반 연결에 점점 더 의존하게 되었으며, 상호 연결 기능은 시스템의 확장성과 가속기의 효율성 측면에서 중요한 요소가 되었습니다.
본 보고서에서는 AI 패브릭의 중요성, 이를 판매하는 벤더의 유형, 그리고 도입에 영향을 미치는 주요 구성 요소에 대해 고찰합니다.
목차
서론
- 그림 1 : 락 기반 AI가 패브릭 중요성을 높입니다.상호 접속이 확장성을 결정
- 그림 2 : 스케일 업 : 노드 또는 락내 AI가속기 상호 접속
AI 패브릭 아키텍처와 주요 기업
- 그림 3 : 노드간 AI가속기 상호 접속성능은 NIC, 스위치 및 빛 구리 선상호 접속에 의존
- 그림 4 : AI 패브릭 분야 주요 3사는 플랫폼 칩으로부터 물리적인 상호 접속까지를 구축
주요 AI 패브릭 벤더 3 유형 분석
- 그림 5 : 플랫폼 칩 벤더 각사는 통합, 오픈성 및 종합적 대응을 통해서 AI패브릭 실현을 목표로 합니다.
- 그림 6 : 3 유형 능동형 상호 접속 IC전략에 의해 전기 경로가 단축되어 광상호 접속 효율이 향상합니다.
- 그림 7 : Astera Labs와 Credo는 다른 인터페이스로부터 AI 패브릭 주요 갭을 묻습니다.
- 그림 8 : Ayar Labs와 Celestial AI는 광인터커넥트 스케일 업에 대응 하기 위해서 다른 아키텍처 채택
- 그림 9 : AI 패브릭 전개는 여전히 고속 케이블과 레이저 광학 부품에 의존
요약
- 그림 10 : AI 패브릭 확장성은 완전한 상호 접속 공급망 협력에 의존
AI infrastructure enters multi-architecture fabric competition; Optical-copper interconnects and supply-chain coordination determine system performance
Abstract
DIGITIMES observes that AI systems are moving from single-server setups to rack-level, multi-rack, and pod-level deployments, shifting the performance contest from compute chips to the broader AI fabric. Scale-up handles high-speed interconnects within nodes and racks, while scale-out links AI clusters through network interface cards (NICs)/DPUs and leaf-spine architecture. The full path spans PCIe (peripheral component interconnect express), switches, serializers/deserializers (SerDes), digital signal processors (DSPs), optical modules, cables, and connectors, creating a division of labor between short-reach copper interconnects and optical backbones for switches. As CSPs increasingly develop their own ASICs, the AI fabric is set to become more multi-architectural and customized, further expanding opportunities for high-speed I/O, optical communications, and Taiwanese suppliers across the physical interconnect supply chain.
As generative AI and large-model applications continue to expand, AI infrastructure is rapidly scaling to rack-level, multi-rack, and pod-level deployments. Recent launches by Nvidia, Advanced Micro Devices (AMD), and Alphabet's Google of Vera Rubin NVL72, Helios, and TPU Rack systems, respectively, show that AI racks are gradually becoming the basic deployment unit after integrating compute, memory, storage, and interconnect resources. As the number of accelerators and system scale keep growing, performance competition increasingly depends on fabric-based connections among different compute nodes and resources, making interconnect capability a key factor in system scalability and accelerator efficiency.
This report looks at the importance of AI Fabric, the vendor types that sell them, and the key components that will affect its deployment.
Table of Contents
Introduction
- Chart 1: Rack-based AI lifts fabric importance; Interconnect determines scalability
- Chart 2: Scale-up: AI accelerator interconnects within a node or rack
AI Fabric architecture and key players
- Chart 3: Cross-node AI accelerator interconnect performance depends on NICs, switches, and optical-copper interconnects
- Chart 4: Three key AI Fabric players build from platform chips to physical interconnects
Analysis of the three types of key AI Fabric vendors
- Chart 5: Platform chip vendors plan for AI fabric through integration, openness, and full-range coverage
- Chart 6: Three types of active interconnect IC strategies shorten electrical paths and improve optical interconnect efficiency
- Chart 7: Astera Labs and Credo fill key AI fabric gaps from different interfaces
- Chart 8: Ayar Labs and Celestial AI use different architectures to address scale-up optical interconnect
- Chart 9: AI fabric deployment still depends on high-speed cables and laser optical components
Summary
- Chart 10: Expandability of AI Fabric depends on complete interconnect supply chain cooperation
