Aiignitions
科技新闻

SK hynix 与 SanDisk 发布首个 HBF 标准:专为 AI 推理而打造的 NAND 内存

SanDisk 和 SK hynix 通过 OCP 发布了第一个 HBF 规范:HBM 和 SSD 之间的 NAND 内存层,高达 512GB 和 3.0 TB/s,用于 AI 推理。

SK hynix 与 SanDisk 发布首个 HBF 标准:专为 AI 推理而打造的 NAND 内存

发生了什么

2026 年 8 月 4 日,闪迪和 SK 海力士发布了第一个高带宽闪存 (HBF) 技术规范,这是一种基于 NAND 的内存类型,旨在介于与 AI 加速器绑定的快速、昂贵的内存和其下方的较慢存储之间。该文件是通过开放计算项目 (OCP) 发布的,该项目是为大型云运营商标准化服务器和机架硬件的行业机构,并与 8 月 4 日至 6 日在圣克拉拉会议中心举行的内存和存储未来 (FMS) 会议同时发布。

两家公司于 2025 年 8 月开始就 HBF 进行合作,并于 2026 年 2 月围绕 HBF 组建了一个联盟。本周的发布将这一年的工作变成了其他供应商可以参考的实际标准。

SK hynix and SanDisk announcement graphic for the first High Bandwidth Flash standard specification

记忆墙HBF的目的是

现代人工智能推理较少受到原始计算的限制,而更多的是受到芯片旁边的快速内存的限制。高带宽内存 (HBM) 是与 GPU 绑定的 DRAM 堆栈,可提供带宽,但容量有限,而且价格昂贵。在它之下,SSD 价格便宜、容量大,但速度太慢,无法直接为加速器提供数据。这两层之间的差距是大型模型花费大量时间等待的地方。

HBF 是 SK 海力士和 SanDisk 针对这一差距提出的解决方案。它以 HBM 堆叠 DRAM 的方式堆叠 NAND 闪存,以牺牲一定的速度换取容量的大幅提升。 SK hynix 表示,单个 HBF 堆栈可容纳 HBM 堆栈容量的大约 8 至 16 倍,同时仍以 HBM 范围内的带宽移动数据。对于需要保持大量键值缓存或模型权重接近计算的推理来说,这种交换比 DRAM 峰值速度更重要。

Diagram showing High Bandwidth Flash positioned as a memory tier between HBM and SSD storage

第一个 HBF 规范内部

最初的规格对数字是具体的。它定义了两种堆栈配置,即 8 高和 16 高 NAND 芯片排列,每个堆栈高达 512GB。带宽分为三个等级,从低端的约 0.4 TB/秒到最高的 3.0 TB/秒。设计人员选择适合系统功率和成本范围的等级。

对于与处理器的连接,该规范采用 UCIe(通用 Chiplet Interconnect Express),这是一种开放式芯片间互连,越来越多的芯片设计已经在使用。这种选择让 HBF 堆栈能够通过接口与 CPU 或 GPU 通信,而芯片设计人员不必从头开始发明。

除了标题数据之外,该文档还列出了 xPU 到 HBF 主机接口、电气指南、芯片堆栈的可靠性和封装指南、预期性能以及涵盖读写操作的软件用户指南。对于系统架构师来说,围绕 HBF 开始设计就足够了,而不是阅读营销幻灯片。

High Bandwidth Flash specification detailing stack heights, capacity and bandwidth grades

为什么开放 OCP 标准很重要

通过 OCP 发布是值得关注的部分。 HBM已被少数内存厂商有效控制,其产能上限和定价已成为AI硬件的真正制约因素。将 HBF 作为开放规范发布会邀请多个供应商来构建兼容的部件,并让加速器设计人员能够进行规划,而无需押注于单一供应商。

该标准背后的工作流程已经超越了两家存储器公司。 Google 和 Tenstorrent 被指定为参与者,SanDisk 和 SK hynix 为主要贡献者。该规范的编写还使得 HBF 可以与 HBM 在同一系统上共存,而不是取代它,这就是公司期望的使用方式:HBM 用于最热门的数据,HBF 用于其背后的大型池。

SanDisk 首席技术官阿尔珀·伊尔克巴哈 (Alper Ilkbahar) 将其围绕每个代币的成本进行设计。他说,该规范为系统设计人员提供了“一条使高容量、高带宽内存更接近计算的实用途径”,旨在“为大规模提高代币经济性而构建的人工智能系统”。 SK 海力士解决方案开发负责人 Kim Chun-sung 表示,人工智能的普及意味着“必须重新设计整体数据处理结构”。

SanDisk and SK hynix company logos

SK海力士在FMS 2026上展示了什么

HBF并不是SK海力士展台上唯一的东西。该公司在 FMS 2026 上展示了其 V10 375 层 4D NAND,据称其能效约为上一代产品的 2.5 倍,并将于 2027 年初在高容量企业级 SSD 中实现量产。 NAND 是最终制造 HBF 堆栈的构建块。

各公司还将HBF直接列入会议议程。 8 月 4 日,SK 海力士高管 Kim Chun-sung 和 Kang Uk-song 发表了题为“通过分层内存编排高效人工智能基础设施”的主题演讲,8 月 6 日的一场小组讨论将 SK 海力士、SanDisk 和 Google DeepMind 聚集在一起,标题为“用高带宽闪存打破内存墙”。

Rendering of the SK hynix exhibition booth at the FMS 2026 conference

接下来是什么

规格是起跑线,而不是运输产品。 2026 年 8 月的版本告诉设计师 HBF 会是什么样子;截至 2026 年 8 月,它没有将任何部件放入服务器中。 SK hynix 绘制了一个名为 H3 的架构,其中 HBM 和 HBF 共享 GPU 旁边的中介层,并且 HBM 基础芯片内部的地址路由器在两者之​​间分配请求。这是一个设计方案,而不是价目表上的产品。

近期需要关注的信号包括第三家内存供应商是否承诺遵守该标准、主要加速器供应商是否将 HBF 接口设计到即将推出的芯片中,以及基于 NAND 的层的实际带宽和耐用性在持续的推理流量下如何保持。如果这些都落实到位,HBF 将成为人工智能内存层次结构中真正的第三级。如果他们不这样做,这仍然是对市场以另一种方式解决的问题的优雅答案。不管怎样,与大多数内存概念相比,谷歌和 Tenstorrent 已经提出的开放标准是一个更严肃的开始。

阅读原始来源

前往原始来源查看完整公告和详细信息。

阅读原始来源