内存墙挑战：HBF容量达HBM的16倍，HBC能效超HBM六倍

9月17日消息，据报道，在近日于硅谷举行的AI基础设施峰会上，<strong>内存短缺</strong>被列为核心障碍。

面对AI推理带来的内存需求激增，传统HBM已难兼顾容量与成本。峰会因此将目光投向新型存储架构，HBF（高带宽闪存）和HBC（高带宽计算）成为焦点，分别从大容量和高能效两个方向寻求突破。

HBF定位介于HBM与SSD之间的存储层级，采用TSV硅通孔技术垂直堆叠NAND闪存，兼顾高带宽与大容量。

SK海力士与闪迪于2026年8月通过OCP发布了首个HBF标准规范，最高容量可达512GB，带宽覆盖0.4TB/s至3.0TB/s。谷歌与Tenstorrent已加入HBF联盟。

据报道，GPU IP公司OXMIQ Labs在Hot Chips 2026上指出，在72 GPU机架运行1万亿参数模型的模拟中，用HBF替代HBM虽可将内存容量从20.7TB提升至294.9TB，但聚合带宽仅为HBM的约60%。

因此，HBF更适合存储不常访问的MoE专家池和KV缓存，而非全面替代HBM。

另一条路线HBC由高通主推。HBC将多个LPDDR芯片垂直堆叠在加速器上方，通过近存计算将部分计算逻辑直接放到内存下方。高通数据显示，完整加速器级别下，HBC单位功耗带宽是HBM的6倍，单位功耗存储容量是SRAM的200倍。

三星和SK海力士已主动提出与高通合作推进HBC商业化，台积电负责整合封装工艺。第一代HBC产品预计2027年出货，将集成到高通AI250推理加速器中。

不过HBC目前仅适用于推理场景中内存带宽受限的解码阶段，预填充阶段仍以计算能力为主导。