据报道，英伟达正考虑将下一代Rubin Ultra人工智能加速器的高带宽内存（HBM）方案，从此前的12层堆叠调整为8层。在存储成本不断上涨的背景下，英伟达更加重视单位带宽成本以及整机系统的经济性。
市场分析机构SemiAnalysis称，英伟达调整Rubin Ultra的HBM堆叠高度，是因为当前更关键的约束已从“单位容量成本”转向“单位带宽成本”。该机构预计，采用8层HBM4后，Rubin Ultra每颗GPU的显存容量约为192GB；此前12层设计对应的容量则为288GB。
这一变化发生在人工智能需求持续加速、英伟达供应仍然受限之际。三星电子和SK海力士也在调整HBM产品结构，增加8层产品的供应比例。
HBM堆叠层数会直接影响显存容量。在堆叠数量和单颗DRAM芯片密度不变的情况下，从12层改为8层，意味着每个堆叠中的DRAM芯片数量减少约三分之一。
但带宽的决定因素并不完全相同。HBM带宽主要取决于堆叠数量、接口宽度和数据传输速率，而不是垂直堆叠的DRAM芯片数量。
因此，在堆叠数量、2048位接口和引脚速率保持不变的情况下，从12层改为8层可以使容量减少三分之一，同时维持甚至小幅提高总带宽。相应地，单位容量对应的带宽将提升约50%。
这一取舍对AI推理尤其重要。在生成token的过程中，模型权重和KV缓存数据需要反复从显存中读取，内存带宽因此成为影响性能的关键因素。更大的显存容量仍有助于运行参数规模更大的模型、支持更长上下文以及容纳更大的KV缓存，但单纯增加堆叠层数并不会提高带宽。
英伟达当前的Rubin GPU正体现了容量与带宽之间的差异。该产品采用12层HBM4，单颗GPU可提供最高288GB显存和22TB/s带宽。若Rubin Ultra转向8层HBM4，则表明英伟达更看重以更具成本效益的方式提供系统所需带宽。
这一调整已经开始影响英伟达的存储供应链。报道称，三星电子和SK海力士计划在2026年下半年提高向英伟达供应的8层HBM4占比。此前，英伟达已要求供应商将更多HBM4产能从12层产品转向8层产品。
相关材料和零部件订单也开始反映出市场对8层产品需求增强，不过最终供应结构仍存在不确定性。
成本并非唯一考量。散热管理、制造良率和供应灵活性同样推动了这一变化。HBM4的接口宽度较上一代翻倍至2048位，而更高层数的堆叠需要更复杂的芯片堆叠、键合和封装工艺。随着AI系统规模扩大，这些环节可能进一步增加散热和良率方面的挑战。
提高8层产品供应，有助于英伟达在HBM供应紧张之际，更灵活地平衡显存容量、散热、制造难度和产品可获得性。
这一趋势未来还可能延伸至HBM4E。8层产品或将成为2027年供应HBM4E的主流配置，而12层和16层产品仍在讨论之中。不过，Rubin Ultra最终采用HBM4还是HBM4E，以及其具体显存规格，目前仍未完全确定。
英伟达最新财务信息显示，这一调整并非源于AI投资降温，而是在需求强劲增长的背景下进行的。英伟达在8月预计，截至2028年1月的财年营收将增长约70%；公司首席财务官科莱特·克雷斯表示，在客户需求持续加速的同时，公司仍受到供应限制。
存储芯片价格飙升和零部件成本上涨预计将继续挤压利润率。英伟达预计，第四季度毛利率将降至约71%~72%的低点。
英伟达为确保供应所采取的措施，也体现在其最新监管文件中。截至7月26日，公司供应与产能承诺金额已达到2790亿美元，高于上一季度的1190亿美元。
这些承诺主要涉及数据中心基础设施系统所需的存储器和制造设施，旨在支持当前及未来产品架构的长期需求。
对三星电子等而言，Rubin Ultra调整内存方案，可能使下一代HBM的竞争维度更加多元。最大容量和堆叠层数仍然重要，但随着存储器在AI系统总成本中的占比上升，单位带宽成本、散热表现、封装良率和供应灵活性正变得越来越关键。
因此，转向8层配置并不意味着HBM需求减弱，而是反映出英伟达对内存价值判断的变化。对于HBM4和HBM4E供应商而言，未来能否赢得AI加速器订单，可能不再只是比拼最高堆叠层数，而是要在容量、带宽、散热、良率和成本之间实现更优平衡。（校对/赵月）
