本文来自微信公众号：财联社 （ID：cailianpress），作者：郑远方，题图来自：视觉中国
GPU 新品出现散热问题、大客户订单受影响，这些天的英伟达，或许并不好过。想要保住 " 算力霸主 " 的宝座，这家巨头亟需一剂良药。
日前有消息称，英伟达将在今年 3 月的 GTC 大会上推出 CPO 交换机，若试产顺利，则有望 8 月量产，届时 CPO 交换机可实现 115.2T 的信号传输。
媒体援引供应链猜测称，" 针对（CPO 交换机）产能，英伟达非常着急。"
虽然黄仁勋对外宣称供货一切顺利，但目前 GB200 系列出货实在不容乐观。GB200 NVL72 机柜设计复杂，高性能计算带来了高功耗及高散热需求。零部件厂商表示，单机柜问题已经 " 大致解决 "，但多机柜连接问题 " 巨大 " ——机柜连接需要高达 8 万根铜线，散热、信号干扰等问题陆续浮现。
这不是耸人听闻的夸大其词——散热和连接的巨大问题，已经影响到了英伟达那些顶级大客户的订单。
本周有另一报道指出，微软、亚马逊、谷歌和 Meta 等公司已经选择推迟 Blackwell 订单、或直接 " 弃 B（Blackwell）投 H（Hopper）"。一方面，GB200 的功耗 " 前所未有地高 "，每个机柜功耗高达 120-132 千瓦，直接将传统冷却系统推向极限。另一方面，Blackwell 机柜还出现连接故障，妨碍了热量分配，又进一步加剧了热管理问题。
散热互连问题步步紧逼，英伟达拿什么解决？芯片级优化，更先进的冷却方案，还是彻底改造机柜？
这一次，光通信或许成为现阶段的最佳技术解药，英伟达将目光投向了 CPO。
7 年千倍成长空间与 172％CAGR
为什么是 CPO？
CPO 全称为 Co-Packaged Optics，中文译为光电共封装，是一种新型光电子集成技术。通过进一步缩短光信号输入和运算单位之间的电学互连长度，CPO 在提高光模块和 ASIC 芯片之间互连密度的同时，实现了更低功耗，已成为解决未来数据运算处理中海量数据高速传输问题的重要技术途径。
在 2023 年 2 月发表的一篇研究论文中，英伟达研究人员曾直言，" 现在，随着 CPO 面世，我们正处于新一场重大变革的边缘。在 CPO 架构中，光学器件将和 ASIC 封装在一起，以降低能耗、实现更高带宽。虽然十年前 CPO 就已开启系统部署，但最近的一系列研究演示以及相关产品说明都表明，未来几年，CPO 将得到市场广泛采用。"
摩根士丹利在最新发布的 AI 供应链产业报告中指出，CPO 具备 AI 数据中心的传输潜力，预估 2023 年至 2030 年期间，其市场规模将从 800 万美元激增至 93 亿美元—— 7 年千倍的成长空间，年复合成长率高达 172％。
此前有消息称，英伟达计划从 2025 年下半年推出的 GB300 芯片开始采用 CPO，Rubin 平台（Blackwell 下一代平台）也将采用该技术，旨在突破目前 NVLink 72 互连（最多可连接 72 个 GB200 芯片）的限制，提升通信质量。
大摩的报告则指出，英伟达的 Rubin 平台及其 NVL 服务器机柜系统，在导入 CPO 的能见度更高，且每系统中的内含价值更高，预估 2027 年占全球 CPO 需求的 75％。
与巨头同行
不论如何，CPO 这条路，英伟达也许是选对了，从 AMD、思科、IBM 到英特尔，都是同行者。
例如 1 月 6 日，美国芯片大厂Marvell（美满电子）宣布，公司在定制 AI 加速器架构上取得突破，整合了 CPO 技术，大幅提升服务器性能。这种新架构能让 AI 服务器能力实现拓展，从目前使用铜互连的单个机架内的数十个 XPU，拓展到横跨多个机架的数百个 XPU。通过这一架构，超大云服务商将能开发定制 XPU，实现更高的带宽密度，并在单个 AI 服务器内提供更长距离的 XPU 到 XPU 连接，同时具有最佳延迟和功率效率。
2024 年末 IBM 宣布实现一项重大 CPO 技术突破，可以以 " 光速 " 训练 AI 模型，同时节省大量能源。根据 IBM 结论，这项 CPO 技术可以将标准大模型的训练时间从 3 个月缩短至 3 周；并且，与中端电气连接相比，能耗降低了 5 倍多，数据中心互连电缆的长度可以从 1 米延伸至数百米，大幅降低拓展生成式 AI 的成本。
除此之外，英特尔、AMD、思科等均有在近年 OFC 展上推出 CPO 原型机。
还有多远？
站在当下节点，CPO 这根 " 稻草 " 能救得了英伟达吗？
或许还需要等待。
在 1 月 16 日的投资者会议上，作为英伟达 CPO 合作伙伴台积电的董事长，魏哲家表示，虽然 CPO 已经有初步成果（Good Result），但想要达到量产阶段仍需要 1 年甚至 1 年半以上时间。
另有媒体援引分析师表述称，CPO 进度将影响英伟达 Rubin 系列的量产进程。供应链透露，目前 " 量产确实有难度，尤其是在设备部分仍相当吃紧，另外良率也有待提升 "。
值得一提的是，1 月 16 日，针对 GB200 服务器散热问题，黄仁勋表示，Blackwell 平台散热技术相对复杂，不过 Blackwell 系统已开始全面量产，初期面对的挑战对比系统的复杂度，是很正常的，Blackwell 系统已开始销售给全球客户。
本文来自微信公众号：财联社 （ID：cailianpress），作者：郑远方
还没有评论，来说两句吧...