2026.10.21 | Analysis | DeepSeek KV Storage ROI
DeepSeek 10 月 20 日公开了 V4.1 Flash 线上推理的运营数据：每卡收入、吞吐、缓存命中率、缓存存几天、存储集群多大。这篇用这些数算一笔账：它花在 SSD 上的钱回报有多高，多存几天还划不划算，以及这套算法套到全行业时 NAND 需求是多少。背景见 DeepInfer Primer。
DeepSeek 买存储整体非常划算：约 $0.56 亿的 SSD 顶掉了约 $14 亿的 GPU，回报约 26 倍。
但最后多存的那几天只是勉强回本：聊天缓存从 3 天加到 7 天，按 $0.5/GB 要 1.25–2.5 年回本，因为命中的请求只收 1/50 的钱，好处大多让给了用户。
所以 KV 缓存对 NAND 的需求，主体是刚性的，尾巴对价格敏感。3 天 / 7 天是 DeepSeek 在当前价格下的最优点，不是行业标准；套到海外模型上，关键看 KV 能不能压到几 KB。
Follow-up (复查 2026.11.20)
海外大厂的缓存保存时长和命中价。 这是"存几天"会不会从 DeepSeek 扩散到全行业的直接信号。现在海外大厂的缓存大多存 5 分钟到 1 小时 (训练知识，未核实)，命中折扣也没有 DeepSeek 的 1/50 那么深。哪家推出按天保存、命中价大幅下调，说明它在往 SSD 上放 KV，第 6 节的行业需求往 80 EB 那一档走；一直停在小时级，需求更接近 DeepSeek 一家的量级。
海外新模型的 KV 大小。 这是行业需求里最大的变量，差 50–100 倍。看新发布的开源模型和技术报告有没有用类似 DeepSeek V4 的 KV 压缩、FP4 存 KV。压到几 KB，按天存才划算；还在几十 KB，只能按小时存。
NAND 价格。 第 4 节算出来，$1/GB 时多存 4 天要 2.5–5 年回本，厂商会缩短保存天数。NAND 价格每涨一档，砍掉的是 KV 需求的尾巴。
DeepSeek 下一次披露。 原文没给卡数、没给"只存一小时"的命中率，这两个数决定整体回报到底是 26 倍还是更低。下次技术文章或开源 KV 系统时补上。
1. DeepSeek 给了什么数
全部来自 DeepSeek 2026.10.20 的知乎技术文章 (官方机构号) 和 V4.1 Flash 技术报告。原文没有给 rack 收入，也没有给"每卡配多少 SSD"或"少多少 NAND 掉多少命中率"，这些都是下面换算出来的。
| 项目 | 原文数字 | 说明 |
|---|---|---|
| 每卡每小时收入 | $38 | 按谷价，不考虑波峰波谷，是理论收入 |
| 单集群吞吐 | 155 万亿 token/天 | 含命中缓存的输入 |
| 预填充每卡吞吐 | 150 万 / 6 万 token/秒 | 含 / 不含命中缓存 |
| 解码每卡吞吐 | 1.4 万 token/秒 | 预填充和解码卡数接近 1:1 |
| 输入命中缓存 | 96% | 平均输入 7.7 万 token |
| 缓存保存时间 | agent 3 天、聊天 7 天 | 不活跃后开始计时 |
| 存几天对命中率的影响 | 0.5–1% | 聊天流量如果只存 3 天左右，命中率会下降这么多 (没说是百分点还是相对值，下面按百分点算) |
| KV 缓存存储 | 约 100 PiB SSD | 独立 3FS 集群，10+2 纠删码，峰值读 10 TiB/s、写 850 GiB/s |
| 每 token KV 大小 | 890 字节 | V4.1 技术报告；128 token 一块约 112 KiB，和原文一致 |
一句话：原文给的是每卡收入和"存几天掉多少命中率"，不是 rack 收入和"少多少 NAND"；后者是我换算的。
2. 每一美元买到多少 token
预填充卡和解码卡各一半，平均每卡每秒处理约 76 万 token，一小时约 27 亿。$38 ÷ 27 亿 ≈ 每百万 token $0.014。
其中九成以上是命中缓存的输入，几乎不花算力。只算真正要 GPU 去算的 token (没命中的输入 + 输出，平均每卡每秒约 3.7 万，一小时约 1.3 亿)，是 每百万 token $0.29。
两者差 20 倍，差额就是缓存的价值：同一张卡，因为有缓存，能多接 20 倍的输入。
一句话：$38/卡时折合每百万 token $0.014；只算 GPU 真正干活的部分是 $0.29，差的 20 倍是缓存带来的。
3. 每张卡要多少 SSD
原文没给卡数。用实测吞吐反推一个集群约 2,400 张卡 (155 万亿 ÷ 每卡每秒 76 万 ÷ 86,400 秒)，这个数也能把 $38 算回来 (预填充卡约 $48、解码卡约 $30，平均 $39)。
| 算法 | 每卡 | 算式 |
|---|---|---|
| 自上而下 (配置) | 约 47 TB | 100 PiB ÷ 2,400 卡。上限：原文没说 100 PiB 只服务这一个集群 |
| 自下而上，存 3 天 | 约 13 TB | 每卡每秒新写 3.7 万 token × 86,400 × 890 字节 = 每天 2.85 TB；× 3 天 × 1.2 (纠删码) ÷ 0.8 (不写满) |
| 自下而上，存 7 天 | 约 30 TB | 同上，× 7 天 |
| 对照：Vera Rubin 参考设计 | 16 TB | 用户提供的口径，未单独核实 |
一句话：DeepSeek 每卡实际要 13–30 TB SSD，和 Vera Rubin 每卡 16 TB 同量级到 2 倍，不是"多出好几倍"。
4. 买存储划不划算
分两个问题：有缓存比没缓存好多少 (平均回报)；在现有基础上多存几天还值不值 (边际回报)。
平均回报：有没有缓存
| 项目 | 数值 | 算式 |
|---|---|---|
| 存储花了多少 | $0.56 亿 | 100 PiB ≈ 1.13 亿 GB × NAND 单价 × 整机加价 |
| 不存缓存要多少预填充卡 | 约 3 万张 | 1,200 张 × 25 倍 (每卡 150 万 ÷ 6 万) |
| 多买的 GPU 要花多少 | $14.4 亿 | 约 2.9 万张 × 每卡价格 |
| 回报倍数 | 约 26 倍 | 省下的 GPU ÷ 存储 |
这是上限。不存 SSD 也可以在内存里存一小时左右，能接住一部分命中；原文没给"只存一小时"的命中率。
边际回报：聊天缓存从 3 天加到 7 天
以"一张预填充卡 + 一张解码卡、全跑聊天流量"为单位。多存几天要多买盘；换来命中率提高、预填充少算；腾出来的算力可以去接新客户，但命中的请求只收 $0.003 (没命中 $0.15)，命中率越高，从老客户那儿收的钱越少。
Source: DeepSeek 知乎原文、V4.1 技术报告；每卡 GPU 价格 $5 万、整机加价为我的估计
| NAND 单价 (颗粒) | 命中率 +0.5 点 | 命中率 +1 点 |
|---|---|---|
| $0.3/GB | 1.5 年 | 0.75 年 |
| $0.5/GB | 2.5 年 | 1.25 年 |
| $1.0/GB | 5 年 | 2.5 年 |
回本年数，腾出算力按 $38/卡时计。如果把省下的算力只当作"少买 GPU" (每卡 $5 万)，$0.5/GB 下省下的 GPU 钱只有存储花费的 0.4–0.7 倍，不回本。
一句话：有缓存比没缓存好 26 倍左右；多存最后几天只是勉强回本，因为命中率提高的好处大部分以降价的形式给了用户。
5. 这对 NAND 意味着什么
- 需求分两段：从"不存"到"存几小时、几天"回报极高，是刚性需求；最后那几天对价格敏感。NAND 涨价砍的是尾巴，不是主体
- 3 天 / 7 天是 DeepSeek 的最优点，不是行业标准：它 KV 极小 (890 字节)、流量大、回头客多，所以存几天才划算。我能验证的只有聊天这一段；agent 存 3 天是否最优，原文没给数
- 最优天数会随三个价格移动：NAND 贵了，天数变短；GPU 贵了 (重算更贵)，天数变长；KV 压得更小，天数变长
- KV 压缩不是减项：每 token 占的盘少了，但存得起更多天。KV 压小 10 倍、保存时间拉长 10 倍，SSD 需求不变
- 长程 agent 是加项，关键看停顿多久：下次用到前等几秒，KV 留显存 (HBM)；等几分钟，放内存 (DRAM)；等几小时到几天 (等 CI、等人审、定时 loop)，只能放 SSD。loop 任务、跨天任务"跑一段、等一段"，是 NAND 这条线里最硬的逻辑。反向力量是上下文压缩 (定期总结历史)
一句话：KV 缓存对 NAND 是加项，主体刚性、尾巴有价格弹性；能不能从 DeepSeek 扩散到全行业，看海外模型的 KV 压缩和缓存保存时长。
6. 推到全行业：2027E
算式：出货 × 推理比例 × 每卡每秒新写 token × 86,400 × 每 token KV × 存 3 天 × 1.2 ÷ 0.8。默认出货 2,000 万颗 GPU + ASIC (占位数，AI Economy model 未找到)、推理 50%、每卡每秒新写 4,000 token (海外旗舰模型更大，按 DeepSeek 的约 1/10 取)。可调版本见 DeepInfer Primer 第 10 节。
| 每 token KV (存 3 天) | 每卡 SSD | 2027E 全球 | 占 NAND (约 1,400 EB) |
|---|---|---|---|
| 890 字节 (DeepSeek V4.1) | 1.4 TB | 14 EB | 1.0% |
| 5 KB (V4 级压缩) | 7.8 TB | 78 EB | 5.6% |
| 35 KB (MLA + FP8) | 54 TB | 544 EB | 39% |
| 100 KB (普通大模型) | 156 TB | 1,555 EB | 111% |
| 对照：推理卡全按 Vera Rubin 16 TB 配满 | 16 TB | 160 EB | 11% |
为什么 160 EB 只占 11%，但对服务器很大
AI 卡数量少：1,000 万颗推理卡 × 16 TB = 160 EB；而 12 亿部手机每部两三百 GB 就是约 300 EB。但 160 EB 相当于今天整个服务器 NAND 的四分之一到三分之一；训练卡也配满就是 320 EB，相当于再造半个服务器市场。
| 2026 年 NAND 用途 (约 1,200 EB) | 占比 | 约 EB | 依据 |
|---|---|---|---|
| 服务器 / 企业级 SSD | 45–50% | 550–600 | Counterpoint：Q2 2026 企业级 SSD 占出货 48% (一年前 26%)；TrendForce：40% 以上；SanDisk：约 50% |
| 手机 | 约 25% | 约 300 | 我的拆分 (TrendForce 只给了手机 + 笔记本合计接近 40%) |
| PC | 约 15% | 约 180 | 同上 |
| 其他 | 10–15% | 120–180 | 倒算：存储卡、U 盘、汽车、工业、游戏机 |
2026 年 1.2 ZB 来自 SanDisk；2027 年约 1,400 EB 是按行业位元增速 15–20% 推的，机构没直接给。
一句话：照搬 3 天规则，KV 不压缩时需求超过全球产量，不会发生；海外模型压到约 5 KB 才存得起，2027E 约 80 EB、占 NAND 5–6%，集中加在服务器那一块。
证据分级与假设
| 数字 | 级别 | 说明 |
|---|---|---|
| $38、吞吐、96%、3 / 7 天、100 PiB、0.5–1% | 一手，已读原文 | DeepSeek 自测，没有第三方核实 |
| 890 字节 / token | 一手 | V4.1 技术报告 |
| 约 2,400 张卡、每卡 13–30 TB | 我的推算 | 由吞吐、1:1 卡数比、保存天数推出；和 $38 能对上 |
| 每卡 GPU $5 万、整机加价 1.5–2 倍 | 我的估计 | 未核实 |
| 腾出的算力能按 $38 卖满 | 假设 | 需求不足时边际回报更低 |
| 0.5–1% 按百分点算 | 假设 | 原文没说明；若是相对值，边际回报更低 |
| 2027E 出货 2,000 万颗、每卡每秒新写 4,000 token、海外 KV 区间 | 我的估计 | 出货应换成 AI Economy model 的数；KV 按开源模型结构推算 |
| 2026 年 NAND 用途结构 | 部分一手 | 服务器占比来自 Counterpoint / TrendForce / SanDisk；手机和 PC 怎么分是我估的 |
数据来源与 changelog
- DeepSeek：DeepSeek V4.1 Flash 大规模推理部署实践 (知乎原文) · V4.1 Flash 技术报告
- SanDisk：2026 年闪存出货 1.2 ZB · Counterpoint：SanDisk 投资者日
- Counterpoint：企业级 SSD 占 NAND 出货 48% · TrendForce：2027 年 NAND 供需
- DeepInfer Primer (本篇的背景和 2027E 计算器)
v1 (2026.10.21)：从 DeepInfer Primer 的讨论里整理成独立一篇：原文数字、token / 美元、每卡 SSD、平均和边际 ROI (带计算器)、对 NAND 的含义、2027E 行业推演和 2026 年 NAND 结构。