驱动人工智能数据中心的半导体生态系统速览
· 数智金融
✨ 飞凡点评
💡 对银行与投行而言,AI算力需求正拉动半导体全产业链,宜关注HBM、先进封装、电源与液冷等高景气环节的投融资机会,同时留意周期性产能风险。
Summary
半导体是AI的基础使能技术,AI的进步与芯片性能形成相互驱动、双向升级的关系。本文系统梳理AI数据中心服务器中的完整芯片体系——AI加速器、存储、网络、电源与冷却芯片,并剖析其如何协同完成AI训练与推理负载,揍示AI已成半导体行业的核心需求驱动力。
Key Findings
- 半导体是AI的基础使能技术,为现代AI系统提供基础硬件层,AI则是整个半导体行业的主要需求驱动力。
- AI数据中心需要大量计算、存储与内存带宽、电力分配和网络能力,均由全套芯片技术提供。
- AI数据中心服务器机架包含超过4,500颗封装芯片,由约20,000个独立晶粒组成。
- 服务器机架由计算、电源、网络与IPMI、AI加速器互连及冷却液分配单元(CDU)等多种托盘组成。
- 芯片种类繁多,涵盖先进逻辑、存储与模拟基础芯片,包括AI加速器、HBM、CPU、RAM、SSD、DPU、NIC、PDU等。
- 高速低延迟互连、高效电源管理与冷却系统分别依赖网络、电源与冷却芯片。