2026.09.28 | Primer | XL-Flash

• NVIDIA 是否把"按需细粒度取 KV"做进 Dynamo / SCADA。这是 XL-FLASH 唯一能打开大市场的路：注意力计算时用到哪块取哪块，单次读小到 512B，KV 才变成 IOPS 需求。今天 LMCache、Mooncake、CMX 都是整段预取。GTC 2027 NVIDIA 发布按需读 KV 的参考实现并给出 goodput 数据 → 转向 bull (a 从 4% 到 12%)；只停在"支持 embedding / 向量检索" → base 不动对应第 5 节矩阵的 IOPS 滑块和第 10 节的 a
• SSD 层 KV 实际留存多久。留存决定周转：短于约 2.7 小时，TLC 会被写坏，SLC / pSLC 更便宜。参照点是商用 prompt cache 的有效期 (5 分钟到 1 小时，训练知识)。专家访谈问到 CMX / KV 存储层的平均留存 ≤ 2 小时 → SLC 位元需求成立，但先看是 pSLC 还是 XL-FLASH；≥ 1 天 → KV 对 SLC 没有需求对应第 5 节矩阵的留存滑块
• GP1 与 AI-N P 样品实测：IOPS、IOPS/W。两家颗粒路线相同，胜负在控制器。AI-N P 样品 ≥ 25M 且每 IO 功耗与 GP1 相当 → Kioxia 份额 m 从 30% 下调到 15%；AI-N P 延期或只到 10M 级 → m 上调到 40%对应第 2、3 节和第 10 节的 m
• 第一个公开的 GPU 直读推荐 / 检索部署。base 的需求全部来自这里，但目前一个都没有。2027 年内 Meta、字节或某家云公开用 SCADA 把 embedding 表或向量索引放到 flash → base 成立；2027 年底仍只有厂商 demo → a 从 4% 降到 2%对应第 7 节 PMF 和第 10 节的 a
• XL-FLASH 的 $/GB 相对 TLC 的溢价。SLC 每 GB 吃 3 倍 wafer，NAND 紧缺时 Kioxia 只会把 wafer 给每片利润最高的产品。溢价 ≥ 3 倍 → 有动力放量；< 2 倍 → 供给端自己不会推对应第 10 节的 ASP

一句话：XL-FLASH 是一种专门为"快速读小块数据"设计的闪存颗粒。Kioxia 拿它做成一块插在 GPU 服务器里的 SSD (叫 GP1)，让 GPU 能绕过 CPU，直接、同时地从盘里抓成千上万个小块数据。

先说闪存怎么存数据

• SSD 里的闪存由几千亿个存储单元 (cell) 组成，每个 cell 靠里面存了多少电荷来表示数据
• 一个 cell 存 1 位叫 SLC，存 3 位叫 TLC，存 4 位叫 QLC。存得越多，每 GB 越便宜，但读得越慢、越不耐写
• 今天数据中心的盘几乎全是 TLC 和 QLC，因为大家买盘主要是买容量

IOPS 是什么

• IOPS 是一块盘每秒能完成多少次读或写，一次就算一次，不管这次读的是 512 字节还是 1MB
• 带宽 = IOPS × 每次多大。带宽像货车一小时能运多少吨，IOPS 像快递员一小时能送多少单
• 每次只读几百字节时，盘先用完的是"趟数"：Micron 9650 顺序读 28GB/s，但 512B 随机读最多 550 万次，只相当于 2.8GB/s。XL-FLASH 要解决的就是这种情况

XL-FLASH 和普通 SLC 有什么不同

• 任何一颗 TLC 颗粒都能"降级"当 SLC 用，每个 cell 只存 1 位，改固件就行，叫 pSLC。便宜，但只快一点
• XL-FLASH 是从芯片设计上就为"读小块"重新画的：一次读的最小单位 (页) 从 16KB 缩到 4KB，能同时读的分区 (plane) 从 4–6 个加到 16 个，读一次的时间从约 50μs 降到 5μs 以内
• 打个比方：闪存像一个仓库，叉车每趟必须搬出一整排货架 (页)，仓库里有几条通道就有几辆叉车同时干活 (plane)。普通 TLC 是"排很长、通道很少"的仓库，适合囤货；XL-FLASH 是"排很短、通道很多"的仓库，适合同时捡很多小件。pSLC 只是规定每格少放点货，仓库格局没变
• 结果是每 TB 能扛的随机读：普通 TLC 约 0.9M 次，pSLC 约 7M 次，XL-FLASH 约 60M 次 (估算，见第 2 节)
• 这不是专利或工艺秘密，是设计取舍：拿芯片面积换速度，所以每 GB 比 TLC 贵 3 倍以上。Samsung 2018 年的 Z-NAND 做过同样的事，SK hynix 正在做。Kioxia 只是目前唯一在卖，不是只有它能做

做成了什么产品

• GP1：一块 PCIe 6.0 SSD，大小和普通服务器盘一样 (E3.S/E1.S)，可以液冷。每秒最多 1000 万次 512B 随机读，目前最快的普通盘 (Micron 9650) 是 550 万次。下一代目标 1 亿次
• XL1：插在 CXL 槽上的内存扩展条，替服务器 DRAM 放不常用的数据

拿来干什么：推荐系统的例子

• 一个推荐模型有一张 2TB 的 embedding 表，每个用户、每个商品一行，一行几百字节。给一个用户算推荐，要从表里捞出几千行，这几千行散落在各处
• 今天：表放不进 GPU 的显存，只能切开放在几十台机器的内存里，由 CPU 去各台机器取、拼好再喂给 GPU，GPU 大部分时间在等
• 用 GP1：整张表放进 GPU 旁边的一两块盘，GPU 通过 NVIDIA 的 SCADA 软件直接发出几千个 512B 读请求，几十微秒内拿回来。省掉 CPU、网络和几十台机器的内存
• 同类场景：向量检索 (RAG 一跳一跳走索引图)、图计算。KV cache 按今天的做法用不上它，见第 5 节

现在到哪一步

• 没量产，也没有任何公开部署。GP1 评估样品 2026 年底才给选定客户；对手 SK hynix AI-N P 同一路线，样品也在 2026 年底
• AI 机架里今天出货的是 TLC (Micron 9650、Kioxia CM9) 和 QLC (Micron、Kioxia 的 245TB 大盘)
• 让 GPU 直接读盘的 SCADA 软件 2026 年 8 月才开源；推荐、检索框架要改成由 GPU 发起读取，这一步还没人走完

一句话：一块盘每秒能读多少次小块，由三样东西决定——闪存颗粒、控制器、接口，最弱的那一样说了算。

还是用仓库打比方。闪存颗粒是仓库和叉车，控制器是门口接单的前台，接口 (PCIe) 是仓库通往外面的公路。一张单子要走完三段，哪一段最慢，整块盘就只能跑那么快。

第一段：颗粒，决定最多能跑多少趟

• 闪存每次读都要把一整页读出来，读一页要花固定的时间；颗粒里有几个能同时干活的分区 (plane)，就能同时读几页
• 所以颗粒每秒能读几次 = 同时几路 ÷ 读一次多久。再除以容量，就是每 TB 每秒能读几次

• pSLC 只让读变快了，一次还得读 16KB、还是 6 路，所以只比 TLC 高近 10 倍
• XL-FLASH 三样都改了：一次读得少、路数多、读得快，所以比 TLC 高约 60 倍
• 浪费有多大：在普通 TLC 上要 512 字节，颗粒得读出整整 16KB，用到的只有 3%

第二段：控制器，决定能用出来多少

• 每来一单，前台都要做同样几件事：收单、查货在哪 (地址映射)、检查有没有读错 (纠错)、交出去。单子只有 512 字节时，这些手续比搬货本身还费时间
• GP1 的颗粒按上表每 TB 能扛约 6000 万次，整块盘只标 1000 万次，差的就在前台
• SK hynix 明确说 AI-N P 的颗粒和控制器都重新设计了，相当于把前台重建。Kioxia 没说 GP1 的控制器改了多少，从数字看更像先把盘做出来的第一步 (推测)
• 所以两家比的不是谁的颗粒更好 (都是 SLC)，而是谁先把前台做到每秒 1 亿单

第三段：接口，决定最后的天花板

• 一块盘接 4 条 PCIe 6.0 通道，约 28GB/s
• 5000 万次 × 512 字节 ≈ 26GB/s，已经用掉这条路的八成。所以 1 亿次要等 PCIe 7.0，两家的目标时间都在 2027–28 年

延迟什么时候重要

• 大量请求能同时发的时候，不重要。比如推荐系统一次要几千行，全部同时发出去，1 亿次 × 每次 5μs 也就 500 个请求同时在路上，GPU 挂几十万个都没问题
• 一步接一步的时候，重要。比如向量检索沿索引走 10 跳，下一跳去哪要看上一跳的结果：TLC 约 60μs 一跳，10 跳是 0.6ms；XL-FLASH 约 8μs 一跳，是 0.08ms (盘内开销为估算)

• 按"每次读"比价，而不是按每 GB：SLC 每 GB 贵 3 倍，但盘小。当你买盘是为了凑 IOPS，TLC 大盘的容量大半空着
• embedding 表 (2TB、1000 万次，密度 5M/TB)：TLC 要 61TB 容量，花费 61；GP1 3.2TB，花费约 10，便宜 6 倍
• RAG 语料 (100TB、500 万次，密度 0.05M/TB)：TLC 花费 123，GP1 约 302，TLC 便宜 2.5 倍
• 多配 TLC 还受插槽和功耗限制：Micron 的 SCADA 演示用 44 块盘配 3 颗 GPU 才跑到 2.3 亿次，真实机架放不下

判断一份数据该不该放 XL-FLASH，只问一句：它每 TB 每秒要被随机读多少次 (IOPS/TB)。这里说的"热"就是指这个数高，不是"经常被用到"。

• 超过约 1M 次 / TB，又是小块、读多写少 → XL-FLASH
• 低于约 1M 次 / TB → TLC 大盘，按容量买更便宜
• 大块整段读 (权重加载、KV 整段搬回、checkpoint) → 跟 IOPS 无关，看带宽和容量，TLC / QLC
• 每步都读写 (生成中的 KV、激活) → 只能 HBM

三种访问方式，用图书馆打比方：

KV cache 是推理集群里最大的一类数据，也是市场上最常被拿来论证 SLC 需求的一类。判断它该放哪，分三步：先看每种介质能给什么，再看 KV 在不同状态下要什么，最后算满足需求最便宜的是谁。

最重要的一列是"到 GPU 的带宽"：四种 SSD 共用同一根管子。SLC 在颗粒延迟上比 TLC 快 10 倍，但搬一大段 KV 回 HBM 时一样快，因为都卡在 PCIe 上。

三项分别对应"按容量买"、"按寿命买"(写坏了要多买)、"按 IOPS 买"(趟数不够要多买)。管子带宽达不到恢复预算的格子直接写"做不到"。

• 默认情形 (整段预取、留存 6 小时)：生成中 → HBM，暂停几秒 → DRAM (SSD 的管子做不到 10ms 搬回 7GB)，暂停几小时 → TLC，存几天 → QLC。XL-FLASH 一格都没赢
• 留存拖到约 2.7 小时以下：TLC 因寿命要多买，pSLC 开始赢。这是 SLC 位元的需求，但 NAND 厂都能做，不专属 Kioxia
• 留存再短到约 40 分钟以下：pSLC 也开始写坏，XL-FLASH 靠 50 DWPD 反超；短到约 5 分钟以下，又回到 DRAM 最便宜。XL-FLASH 靠寿命能赢的只是"40 分钟到 5 分钟"这一窄段，而且这一段的 DWPD 数字是估的
• IOPS 密度拖到约 1M/TB 以上 (按需细粒度取 KV)：TLC 和 pSLC 因趟数不够要多买，XL-FLASH 开始赢。这是 NVIDIA 想推的方向，今天没有生产系统这么做
• 交叉验证：Kioxia 投资者日把 KV cache 分给 CM 系列 TLC 盘 (对应 NVIDIA CMX)，GP 系列只写"GPU 内存扩展"；NVIDIA CMX 也用 TLC。业界今天的实际选择和默认情形一致

• 天生的三条是同一件事：NAND 在封装外、按块读、一个 cell 存得少。所以它进不了"每步都读写"的热路径 (生成中和暂停几秒的 KV)，也不会变成大容量便宜的存储，下一代不会翻
• 会翻的是软件和供应商：SCADA 成熟 → 需求打开；对手追上 → 份额和价格下来。Follow-up 盯这两条，不盯 IOPS 宣传
• 设计三角是"IOPS 密度 / $/GB / 容量"，只能选一个半。XL-FLASH 选 IOPS 密度，代价是贵和小

• 确定的 PMF 只有推荐和检索：买家是推荐大户 (Meta、字节) 和做 RAG 的云。替代的是放 embedding 和索引的 DRAM，对 HBM 中性。但这两类都还没有一个 GPU 直读的公开部署
• 大模型推理里最大的数据 (KV) 今天用不上它：这意味着大模型推理集群不会普遍配这类盘，attach 率要按推荐和检索集群的份额算
• KV 的期权只有一个：NVIDIA 把按需细粒度取 KV 做成主流。成了，KV 会是比 embedding 大得多的需求来源；这是 bull 和 base 的分界

• 512B 这个粒度很可能来自 KV：GQA 模型里，一个 token、一个注意力头、一层的 K 和 V 加起来正好 512 字节 (head_dim 128、FP16，我算的)。NVIDIA 设想的是按这个粒度按需取 KV
• 厂商口径的分歧恰好就是本文的分歧：Kioxia 按今天的做法把 KV 分给 TLC，NVIDIA 按未来的做法把 KV 算进 IOPS 需求

XL-FLASH 像快递柜：每格很小，但几万格能同时开，适合大量小件，不适合搬家具。普通 TLC 盘像大仓库，一次能搬很多，但同时只能开几个门。

• N：2030 年 AI 加速器出货 (GPU + ASIC，颗)。25M 是占位，应换成 AI Economy Model 的 2030 XPU 出货
• a：配 GPU 直读高 IOPS 盘的加速器占比。base 4%：KV 用不上，只有推荐和检索集群配；bull 12%：NVIDIA 把按需细粒度取 KV 推成主流，大模型推理集群也配
• d：每颗配几块，base 1，bull 2。最软的锚，每颗 GPU 需要多少 512B IOPS 没有公开数据
• ASP：每块单价，按 1.6TB × 约 $1.2–1.9/GB (TLC 3 倍左右，估)
• m：XL-FLASH 在品类里的份额。颗粒不构成护城河、胜负在控制器，base 30%，bull 也只给 35%
• 1.5：MLC 相对 TLC 每 GB 吃的 wafer 倍数

Base → Bull：a 4% → 12%，d 1 → 2，ASP $2,000 → $2,500，m 30% → 35%。上限：a 30%、ASP $3,000、m 40%。

为什么不能更多：

• 大模型推理最大的数据 (KV) 今天用不上它，需求只剩推荐和检索
• 应用要改成 GPU 发起读取才用得上，SCADA 2026-08 才开源，还没人走完
• 颗粒谁都能做：SK hynix、Samsung 跟进后，m 和溢价都会往下走
• NAND 紧缺时，XL-FLASH 的 $/GB 要到 TLC 的 3 倍以上 Kioxia 才有动力给 wafer

为什么两家还做：对厂商是便宜的期权。NVIDIA 在拉，不接会在参考设计里缺席；Kioxia 的颗粒 2019 年就有，成本早花掉了；SLC 每 GB 吃 3 倍 wafer 还能卖贵，和 HBM 对 DRAM 一样；HBM 在 2013–2022 年也是小生意。下行最多是重演 XL-FLASH 和 Z-NAND 当年没人用。

• 早而平：盘插 PCIe 槽就能用，不用等新芯片设计。2026 年底送样，2027 是验证年，财务数字里看不到；2028 跟 STX / CMX 系统和 Rubin 平台出货，之后被对手分流
• 能看到信号的节点：2026-12 两家样品 → GTC 2027 能否进 NVIDIA 参考设计、是否发布按需读 KV → 2027 年底 1 亿次代 → 2028 PCIe 7.0

• NAND 位元：base 1.6 EB，折 TLC 当量 2.4 EB，按 2030 年 NAND 位元供给约 2,000 EB (假设) 约 0.1%；bull 约 1% 以上
• SLC 位元的另一条来源：如果 SSD 层 KV 留存很短，会带来 pSLC 需求，每 GB 吃 3 倍 wafer，受益的是所有 NAND 厂，不在这个 TAM 里
• DRAM：替代一部分放 embedding / 索引的服务器 DRAM，量级小，方向是减项
• HBM：中性
• 谁拿钱：Kioxia (颗粒 + 自研控制器)；对手 SK hynix / Samsung / Micron；控制器 Marvell；PCIe switch Broadcom

怎么把锚做硬：

• N：换成 AI Economy Model 的 2030 XPU 出货
• a 和 d：问 Meta / 字节推荐 infra 的人，embedding 表多大、每 GPU 每秒随机读多少行、愿不愿意为此改框架
• KV 的留存：问 CMX / KV 存储层的平均留存时长和每天写入量
• ASP 和 m：问 Kioxia / SK hynix 的 SSD 业务，AI SSD 的目标 $/GB 相对 TLC eSSD 的倍数

• Kioxia：GP 系列发布 (2026-03-16/17，GTC)；GP1 发布 (2026-08-03/04，FMS)；XL1 CXL 模块 (2026-08-04)；投资者日 (2026-06-02)
• StorageReview：NVIDIA SCADA / Storage-Next (2026-08-04)；GP 系列 (2026-03-17)
• SK hynix：AI NAND 战略 (Tom's Hardware，2025-10-28)；SLC AI SSD (TrendForce，2025-12-29)
• Micron：9650 量产与 HBM4 规格 (GTC 2026)；6600 ION 245TB 出货 (2026-05-05)
• ServeTheHome：GP 系列与 CM9 (2026-03-18)
• 未在本次核实、来自训练知识：XL-FLASH gen1 参数；Optane / Z-NAND 历史；页、纠错、映射粒度；DeepSeek V3 KV 大小；C2C 带宽；商用 prompt cache 有效期
• 假设：2030 AI 加速器出货 25M 颗；2030 NAND 位元供给约 2,000 EB；GP1 单盘 1.6TB；第 5 节价格倍数与寿命

v1 · 2026-09-26 · 从 Flash Tier Primer 拆出，单独成篇
v1.1 · 2026-09-28 · 第 1 节改成白话；"独家"改为"目前唯一在卖"
v2.1 · 2026-09-28 · 加左侧目录；去掉顶部标识栏；第 2 节改写：按颗粒 / 控制器 / 接口三段讲，删掉重复的表格
v2 · 2026-09-28 · 标题改为"日期 | 类型 | 主题"格式并加 tag；按讨论重写：新增第 5 节"KV cache 放哪"矩阵 (介质规格 × KV 状态，带留存和 IOPS 密度滑块)、第 8 节管理层口径；第 2 节加 pSLC、读 512B 的各层最小单位、颗粒 / 控制器 / 接口三层瓶颈、"为什么不多配 TLC"；第 4 节定义"热"并加图书馆比方；PMF 改为 KV 今天无 PMF、只是期权；base a 从 10% 下调到 4%，XL-FLASH 2030 base 从 $1.5B 降到 $0.6B；Follow-up 重排