qinbafrank|2026年08月07日 07:02
关于英伟达RubinUltra上HBM减配,之前这里https://x.com/qinbafrank/status/2083890594796257652?s=46&t=k6rimWsEbo2D2tXolYcM-A、今天TheInformation也报道了,再聊聊:
1、英伟达预览给大客户的主流SKU已偏向更低内存(例如192GB 8-Hi HBM4,甚至低于标准Rubin的288GB 12-Hi),同时保持相近的峰值算力(约35 PFLOPS),功耗主流控制在1800W左右。
之前在这里https://x.com/qinbafrank/status/2083917947731578909?s=46&t=k6rimWsEbo2D2tXolYcM-A聊到,如果Ultra版本的hbm配置低于Vera rubin标准版,标准版(Vera Rubin)优势明显就显现出来了:它已进入量产,7月陆续向AWS、Google、Microsoft、Oracle、CoreWeave等8家CSP大规模交付。内存规格更“正常”(288GB HBM4级别),单价和系统复杂度更可控,适合快速扩容。Ultra如果内存进一步减配(甚至低于标准版),对内存敏感的大型模型训练/推理,单卡有效容量下降,CSP自然会倾向先用更多标准版来堆量。
2、减配核心原因还是供给不够、而非需求问题。TrendForce 指出2027年整体DRAM供应仍会紧张,晶圆分配给HBM的空间有限,加上HBM4E(尤其是更高层数如12-Hi/16-Hi)的验证、良率和量产进度存在不确定性。
产能真正明显缓解要到2027下半年至2028年(SK Hynix、Samsung等新厂/扩产陆续释放,SK Hynix计划5年晶圆产能翻倍,但新产能落地有滞后)
3、减配直接推高对“更多GPU”的需求:更低HBM意味着模型可能放不下、或需要更多切分/流水线,最终要用更多卡才能达到同等有效算力或吞吐。这会放大总GPU采购量,也抬高系统TCO。
那么未来CSP云厂采购最多的估计还是标准版。
4、减配也利好互连
如果CSP买更多标准版或低配Ultra,机架间/机柜间互连带宽、延迟、软件调度(NVLink域扩展、集体通信)会更吃紧。Nvidia也在强化这方面(更高代NVSwitch、CPO光学等)。
HBM短缺把压力从“内存”部分转移到“互连+系统软件+电力/冷却”上。CSP的采购策略会更看重“能高效互联多少卡”,而不是单卡规格有多猛。
总结
HBM短缺是结构性的(至少到2027-2028),达子用减配换出货量其实是理性选择,这会让标准Vera Rubin在2026-2027成为CSP的“主力军”,Ultra更多扮演“大规模互联优化版”。互连(NVLink生态)的重要性会被进一步放大,成为下一阶段差异化关键。(qinbafrank)
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接