2026.09.29 | FUNDA | LLM | Anthropic Model Tiering Economics

原标题：Anthropic — 模型分层经济性与生命周期价值

#llm

Funda · 2026-09-29

Expert · Lead, Leading AI research & deployment company Shiyi Meng Patrick Guest Eleven

摘要

推理利用率与吞吐量 — 据该行业专家估计，前沿、中端和小型模型的有效利用率分别约为 40%-60%、60%-75% 和 70%-85%，其中小型模型需有健康流量。相同 H100 级硬件上，小型模型的总词元吞吐量可能是大型模型的 3-10 倍。
结构性服务成本差距 — 前沿模型通常横跨多块 GPU，带来通信、同步、内存带宽和批处理损耗。更优的调度、连续批处理、前缀缓存和推测解码有所帮助，但无法消除这一结构性差距。
产品组合收入结构 — 据该行业专家估计，成熟组合的 API 收入可能有 15%-30% 来自前沿模型、50%-65% 来自中端模型、15%-30% 来自小型模型。最高端单一模型或贡献 5%-15%，生产流量往往逐渐迁往更便宜的层级。
收入生命周期 — 据该行业专家估计，模型可持续供应 2-3 年，但 60%-80% 的生命周期收入可能在最初 18-24 个月产生。企业评估、提示词、护栏、审批及工作流迁移要求，可使模型在发布后 18-30 个月仍产生可观收入。
生命周期收入倍数 — 据该行业专家估计，前沿、中端和小型模型的累计生命周期收入可能分别为峰值年化收入的 0.8-1.3 倍、1.3-1.8 倍和 1.5-2.2 倍。前沿模型更快被替代，小型模型则受嵌入式成本敏感型工作流支撑而拥有更长尾部。
模型经济性示例 — 据该行业专家估计，在模型 API 年化收入为 40 亿-60 亿美元的假设组合中，成功的中端模型峰值年化收入约为 20 亿美元，累计生命周期收入为 30 亿-50 亿美元；最高端前沿模型的直接收入约为 10 亿-20 亿美元。
吞吐量基准 — 据该行业专家估计，公开开放模型基准显示，在 H100 上进行大批量批处理时，8B 级模型每块 GPU 的总输出吞吐量约为每秒 3,000-5,000 个词元，70B 级模型约为 1,000-2,000 个。一项被引用的 505B 基准在 8 块 H100 上约为每秒 1,200 个总输出词元。
训练成本范围 — 据该行业专家估计，当前前沿训练项目的总计算支出可达数亿美元，中端模型为数千万至数亿美元低位，小型模型低于 1000 万美元。前沿模型主预训练运行可能占成本的 60%-75%，周边工作占 25%-40%。
内部研发价值 — 据该行业专家估计，可将下一代开发成本的 10%-30% 示例性归因于上一代前沿模型；若项目成本为 5 亿美元，对应 5000 万-1.5 亿美元。该价值与客户收入分开计算。
AI 赋能的研发产能 — 据该行业专家估计，假设研发团队有 1,000 人、每人完全成本为 60 万美元，年度人工成本基数为 6 亿美元；若 AI 的生产力等价值为 15%-30%，每年可创造约 7000 万-1.8 亿美元的产能，而非意味着等额削减薪资。
提前发布 — 据该行业专家估计，若模型提前 2 个月发布并向 10 亿美元年化收入爬坡，可能提前实现 1 亿-1.5 亿美元总收入；扣除对旧模型支出的内部替代后，净增量可能仅为 5000 万-1 亿美元。

关键要点

中端模型可能是直接变现支柱 — 据该行业专家估计，50%-65% 的组合收入占比、更高吞吐量及 1.3-1.8 倍的生命周期收入倍数，使中端层可能成为经济性主力，尽管前沿模型定义了能力上限。
前沿模型 ROI 依赖间接收益 — 据该行业专家估计，最高端模型可能仅贡献模型 API 收入的 5%-15%，生命周期倍数为 0.8-1.3 倍，因此平台获客、蒸馏、研发生产力和提前发布构成更广泛价值的重要部分。
服务经济性应按已配置 GPU 小时衡量 — 据该行业专家估计，将活跃吞吐量与利用率结合后，示例中的有效输出差距为每秒 600 个词元对 2,400 个词元。仅看利用率可能高估前沿模型效率。
更高训练支出未必带来同比例前沿收入 — 据该行业专家估计，平台总需求可能翻倍，但随着常规工作负载下迁，前沿模型占比可能从 20% 降至 12%-15%。生命周期绝对收入仍可能增长，但未必与训练计算量或成本同步。
版本级 ROI 可能制造虚假精度 — 据该行业专家估计，除非小版本需要新的大规模训练运行，或实质重置定价与服务成本，否则通常应与主要代际合并。运营版本跟踪与训练 ROI 分析因而采用不同核算单位。
AI 生产力体现为产能创造，而非直接裁减薪资 — 据该行业专家估计，即使模型显示每年有 7000 万-1.8 亿美元的生产力等价值，也应视为额外研发产出。同样，除非产生净新增需求，否则提前发布主要改变收入确认时点。

Eleven

今天我们主要想讨论不同层级模型的利润率和价值。过去，我们看到所有前沿实验室都投入巨资开发最先进、能力最强的前沿模型。我们想弄清楚，继续为顶级能力投入如此巨额资金是否真的合理，以及这些模型能否在生命周期内产生有吸引力的回报。你之前的评论提到比较不同模型层级的推理利润率。首先，你能否谈谈如何评估这些模型的推理利润率，尤其是如何评估推理服务成本？

Expert · Lead

这是一个很好的切入点。我先从每个有效词元的成本说起，而不只是原始词元。推理的关键驱动因素包括加速器成本、利用率、批处理、内存带宽、上下文长度和输出词元生成。前沿模型通常需要更多 GPU，也更难高效批处理，因此每个词元的成本更高。然后，我会将其与每个词元实际实现的 API 收入进行比较。实际中，利用率对利润率的影响可能与底层硬件成本一样大。我把服务成本拆分为每个请求的 GPU 小时、有效利用率和每秒生成词元数。此外，预填充和解码阶段的表现非常不同：长上下文工作负载可能占用大量内存，而生成通常受带宽限制。因此，同一个模型运行两种不同工作负载时，单位经济性可能差异很大。

Eleven

这个框架说得通。假设所有配置都相同，例如批处理方式、运行在相同硬件上，并且延迟要求也相同，正如你提到的，利用率和每秒生成词元数仍可能不同，对吗？

Expert · Lead

对，这个理解是正确的。

Eleven

你能否粗略估计不同模型层级的利用率和 TPS？我想了解差距有多大。

Expert · Lead

只给一个利用率数字需要谨慎，但从方向上看，我认为前沿模型的有效利用率约为 40%-60%，中端模型可能为 60%-75%，而据我估计，在流量相当健康时，小型模型可达到 70%-85%。吞吐量差距很容易达到数倍。在相同 H100 级硬件上，小型模型的总词元吞吐量可能是大型模型的 3-10 倍，具体高度取决于模型架构和内存占用。关键是，利用率和每秒词元数并非同一指标。即使前沿模型让 GPU 非常繁忙，每美元获得的词元仍可能更少，因为需要移动更多模型状态，还可能要在多块 GPU 之间通信。因此，比起只看利用率，我更愿意对每百万词元所需的 GPU 秒数建模。

Eleven

关于利用率，我确实看到不同模型层级之间存在差距。你认为这一差距的主要驱动因素是什么？仅仅是模型自身的框架或设置所致，还是因为模型提供商的容量分配效率不高？

Expert · Lead

我认为两者都有，但更大的结构性驱动因素是模型本身。前沿模型往往必须横跨多块 GPU，从而引入张量或专家并行、通信开销、同步，以及大得多的内存占用。解码对内存带宽尤其敏感，因此很难把每个 GPU 周期都转化为有效词元。在运营层面，前沿模型流量在上下文长度、输出长度、延迟要求和工具使用方面通常更加异质，使批处理更困难。提供商还需要为流量峰值和延迟 SLA 预留容量。小型模型更容易装载到硬件上并持续保持繁忙。因此，50% 与 75% 这样的有效利用率差异，不应简单理解为容量规划不佳；部分差距本质上是在可接受延迟下服务更大型分布式模型的成本。以批处理为例，小型模型可在一块 GPU 上放置更多独立请求，批处理自由度更大。前沿模型横跨多块 GPU 时，一个请求会占用整个 GPU 组的资源；再加上长上下文请求或不均匀的生成长度，就会出现空泡和同步开销。更好的调度器、连续批处理、前缀缓存和推测解码有所帮助，但无法消除这种结构性差距。

Eleven

我能否把你提到的前沿模型理解为 Fable 之类的模型，把中端理解为 Sonnet 或 Opus 之类的模型，把小型模型理解为 Haiku 之类的模型？

Expert · Lead

我认为这是一个相当合理的标准。在我看来，Opus 类代表前沿或最高能力层级，Sonnet 类是中端或性能均衡层级，Haiku 类是更小型、针对延迟和成本优化的层级。我更愿意把它们视为产品类别，而不是固定的模型规模，因为每一代背后的架构和计算量可能变化。不过，对经济性的讨论而言，这种映射是非常有用的思考方式。关键在于每一层所优化的工作负载：Opus 类模型面向客户愿意为最高能力付费的任务；Sonnet 更像主力，因为它以更好的吞吐量和成本提供强大能力；Haiku 更适合不需要最高推理能力的大批量、延迟敏感型工作负载。

Eleven

所以它们共同构成了一个非常均衡的产品组合。

Expert · Lead

对，完全正确。

Eleven

我还注意到你把 Opus 放在最高层级，那么 Fable 呢？它的利用率处于什么位置？

Expert · Lead

在这种情况下，就服务难度而言，我会把 Fable 放在标准 Opus 层级之上。因为它是真正的前沿级模型，在其他条件相同的情况下，我预计其有效利用率低于 Opus，每个生成词元的成本则更高。原因完全相同：每个词元需要更多计算、更大的分布式服务规模、更多跨设备通信，以及更低的批处理灵活性。Anthropic 自己将 Fable 5.1 定位为先进模型，并指出新的 Opus 5.5在大多数任务上大致达到 Fable 水平，而运行成本显著更低。因此，从方向上看，如果把 40%-60% 视为前沿服务的宽泛有效利用率区间，我会把 Fable 放在较低端，Opus 则略高一些。不过，在没有具体服务数据的情况下，我不会给出精确数字，因为利用率可能随架构而显著变化。

Eleven

你还提到了不同模型层级的定位。根据你与客户打交道的经验和行业观察，不同模型的收入结构会是什么样？具体来说，像 Fable 这样的最前沿模型可能贡献多少收入？

Expert · Lead

在我看来，我预计前沿模型不会占据稳态 API 收入的大多数。从方向上看，在一个相当成熟的产品组合中，前沿模型约占 15%-30%，中端模型占 50%-65%，小型模型占 15%-30%。中端模型往往成为主力，因为客户虽然重视能力，但当调用量达到数百万次时，也非常重视延迟和成本。前沿层受到的关注不成比例，因为它定义了能力上限并支撑溢价，但生产工作负载往往会向下迁移。例如，客户可能用前沿模型制作 Agent 原型，随后发现 80% 的工作流在中端模型上也运行良好。在这种情况下，他们会把前沿模型调用保留给高难度推理、升级处理或高价值任务。因此，前沿模型在战略上可能非常重要，但并不直接产生大部分推理收入。

Eleven

所以，前沿模型 15%-30% 的贡献包括 Fable 和 Opus，对吗？

Expert · Lead

对，完全正确。

Eleven

其中大约有多少会来自最先进的模型 Fable？

Expert · Lead

根据我的估计，对于最高端的单一模型，我会把模型 API 总收入的 5%-15% 作为粗略区间。我预计前沿层其余收入将来自能力仍然很强、但性价比更好的模型。最新旗舰在发布前后以及高难度推理或编码任务中使用量很大，但大多数客户最终都会进行优化。达到规模后，他们通常不希望每个请求都调用最昂贵的模型。刚发布后，这一比例可能更高，随着客户进行基准测试并迁移工作负载，可能暂时达到百分之十几或更高。但在模型生命周期内，随着客户把较简单的任务路由到更便宜的模型，我预计流量会向下恢复正常。因此，我会区分发布期和稳态的收入结构。

Eleven

你提到情况会随时间变化，存在时间序列，这很有意思。我们还想讨论某个模型在整个生命周期内能产生多少收入。这个问题也可以理解为：稳定期的收入贡献是多少，以及模型的典型寿命有多长？你如何分析这个问题？

Expert · Lead

我喜欢把技术寿命和有意义的收入寿命分开。一个模型可以持续供应 2-3 年，但大部分收入通常来自最初 12-24 个月，也就是最初 1-2 年。前沿模型的收入更加前置，因为新一代模型可能很快取代它们。通常，模型发布后会经历爬坡期，客户进行测试和集成；生产工作负载上线后，则进入强劲阶段。下一代模型发布后，收入不会一夜消失。现有企业客户迁移速度很慢，因为他们已经围绕该特定模型构建了提示词、评估、护栏和工作流。因此，还可能有 1 年或更长的长尾，但从经济性建模看，我认为大约 60%-80% 的生命周期收入会在最初 18-24 个月产生。小型或中端模型有时可能有更长的有效尾部，因为成本敏感型生产工作负载立即迁移的动力较弱。此外，迁移摩擦在某些情况下确实非常重要。

Eleven

关于这种摩擦，你能分享一些例子吗？

Expert · Lead

即使新模型的基准表现更好，企业也必须重新运行评估、检查回归问题并可能修改提示词，还要让新版本通过审批。一个典型例子可以是强劲的中端模型。发布时，真正限制收入的其实不是需求，而是客户仍在进行基准测试和集成。之后 3-6 个月，生产流量会相当快地爬坡。然后，可能在 12 个月后出现更好的一代模型。所以，我预计旧模型的收入不会崩塌，但拥有大型生产工作负载的客户可能还需要 6-12 个月迁移，因为他们需要重新运行评估、验证提示词、检查延迟等。按照我的预期，上升阶段是一条 S 曲线，之后是相当缓慢的下降。因此，即使某个模型早已不再是新工作负载的首选，它在发布后 18-30 个月仍完全可能产生可观收入。

Eleven

所以它有点像钟形曲线。

Expert · Lead

对，完全正确。

Eleven

我明白这里的规律，但仍然很难估算某个模型收入贡献的绝对值。你能否以现有模型或之前的模型为例，比如预测一下它们的生命周期收入？

Expert · Lead

我更愿意自下而上估算，而不是声称某个具体历史数字。举一个示例，假设有一家大型实验室，其模型 API 年化收入为 40 亿-60 亿美元，一款成功的中端模型在峰值时占其中的 40%-50%。这可能意味着该模型的峰值年化收入约为 20 亿美元。然后应用生命周期曲线：可能有 6 个月爬坡、约 1 年处于峰值附近，再有 12-18 个月的旧版流量下降期。在此基础上，一代非常成功的中端模型累计生命周期收入可能达到 30 亿-50 亿美元。至于最高端前沿模型，我通常预计其累计直接收入更低，在同一假设组合中可能约为 10 亿或 20 亿美元。原因是它的收入占比小得多，替代周期也更快。但我认为，它可以通过吸引客户进入平台创造可观的间接价值。

Eleven

但我想知道如何推导这个数字？或者在你提到的例子中，对于生命周期约为 18 到 20 多个月的模型，整体收入贡献会是峰值 ARR 的约 1.2 倍或 2 倍吗？

Expert · Lead

我给出的数字大致就是我通常的建模方式，不过对于 18-24 个月的商业寿命，我可能会使用峰值年化收入的 1.3-1.8 倍。它基本上就是收入曲线下面积。整个期间并不会一直赚取峰值收入，对吧？可能先用 6 个月从接近零开始爬坡，在峰值附近维持 6-9 个月，然后随着流量迁移，再用 6-12 个月下降。把这些阶段加总，就会落在大约 1.3-1.8 倍的区间。例如，假设峰值年化收入为 20 亿美元，前 6 个月平均为峰值的 50%，贡献约 5 亿美元；在峰值附近的 9 个月可贡献 15 亿美元；之后 9 个月以大约 50% 的水平下降，再贡献 7.5 亿美元。这样，生命周期收入约为 27.5 亿美元，约为峰值年化收入运行率的 1.4 倍。

Eleven

你提到这是中端模型的例子。那么前沿模型和小型模型的倍数分别是多少？

Expert · Lead

从方向上看，我通常会把前沿模型设为峰值年化收入的约 0.8-1.3 倍，中端模型如前所述为约 1.3-1.8 倍，小型模型可能为 1.5-2.2 倍。差异主要来自生命周期。前沿模型被替代得最快，因为客户明确是为最高能力付费，所以会较快迁移到下一代。中端模型往往在生产模式中停留更久；小型模型可能有最长的尾部，因为它们嵌入大批量、成本敏感型工作流，客户认为迁移带来的收益很小。即使小型模型的峰值收入低得多，其生命周期经济价值也可能有更大比例来自漫长的下降尾部。

Eleven

是的，说得通。

Patrick

我能否问一下，为什么不同代际模型的生命周期收入相对固定，例如前沿模型？我的理解是，这一代模型，比如 Fable，处于某个数字区间；下一代——我不知道叫什么——参数量增加、训练成本也增加，但每一代的生命周期收入似乎仍相对持平？

Expert · Lead

我其实并不假设它保持不变。随着整体客户群和 AI 支出扩大，我预计绝对生命周期收入会逐代增长。可能保持相对稳定的是模型在产品组合中的占比。新前沿模型的能力可能强得多，但商业窗口也可能缩短，客户也越来越多地把常规流量路由到更便宜的模型。更高定价和更多需求，会被更快替代和工作负载迁移部分抵消。可以把收入理解为平台总需求乘以前沿模型占比。即使两代之间总需求可能翻倍，前沿模型占比也可能从 20% 降至 12%-15%，因为中端模型足以完成更多任务。因此，前沿模型的生命周期收入仍会增长，只是不一定与训练计算量或训练成本成比例。对吗？

Patrick

这非常说得通。谢谢。

Eleven

你认为在模型代际层面评估生命周期贡献更合理，还是应该分别分析小版本？例如，衡量生命周期贡献时，应把 Fable 5.0 和 5.1 放在一起评估，还是分别看 5.0 和 5.1？

Expert · Lead

通常，我倾向于把小版本合并为同一代来评估生命周期经济性，除非更新需要有意义的新训练计算，或实质改变了定价和服务成本。5.1 这类版本往往更接近改进或刷新同一项经济资产，而非推出全新资产。客户可能很快迁移，因此拆分收入可能制造虚假精度。运营上，我通常会按版本跟踪收入，但在代际或主要训练运行层面评估训练 ROI。我通常使用的判断标准是，是否进行了新的主要训练运行。如果 5.1 主要来自后训练、蒸馏或更好的推理，我会把它归入 5.0。如果它需要再次进行前沿规模的预训练，并实质重置成本基础，那么我会单独处理。你明白我的意思吗？

Eleven

对，这取决于它们是否使用相同的预训练基础模型。

Expert · Lead

完全正确。

Eleven

你已经解释了应该如何评估不同模型生命周期收入的逻辑，但我想知道你能否分享对具体模型的估算，让我们了解大致区间。例如，Fable 5.0 的生命周期收入预测是多少，或者对于 4.6 等前几代模型，预测会是多少？

Expert · Lead

在我看来，对于具体模型，我只能提供由外而内的区间，因为没有可引用的模型级收入台账。使用刚才讨论的框架，我会把更早一代前沿模型的直接生命周期收入放在数亿美元高位至 15 亿美元左右。对于在大得多的客户基础上推出的新一代，10 亿-25 亿美元是合理区间。可以从该实验室在模型生命周期内的收入运行率推导：估算实际由该前沿模型承载的份额，然后应用生命周期曲线。如果平台年化收入为 50 亿美元，该模型在峰值时占 15%-20%，那么模型峰值年化收入为 7.5 亿-10 亿美元。应用约 1-1.5 倍的生命周期倍数，得到约 7.5 亿-15 亿美元。新一代可以更高，主要因为平台本身已经相当大。就是这样。

Eleven

让我们回到你之前提到的推理服务成本。我们已经讨论过，不同模型层级的利用率可能不同，每秒生成词元数也因模型而异。当你看每秒词元数时，是否已经考虑了利用率？

Expert · Lead

是的。我更愿意把两者分开。当我说每秒词元数时，指的是服务硬件主动处理工作负载时的吞吐量；利用率则表示已配置容量随时间有多少真正保持有效工作。分析单位经济性时，我会先取可实现吞吐量，再根据有效利用率调整，否则可能重复计算。我最终关注的指标是每个已配置 GPU 小时交付的词元数。例如，假设某个配置在负载下可维持每秒 1,000 个词元，但平均有效利用率只有 60%。非常粗略地说，其集群层面相对于已配置容量的输出更接近每秒 600 个有效词元。小型模型可能维持每秒 3,000 个词元，并以 80% 利用率运行，得到约 2,400，对吧？因此，成本差距可能远大于原始吞吐量本身的差异。

Eleven

先讨论不同模型的吞吐量，再乘以利用率。关于不同模型层级的理论吞吐量，你已经提到小型模型可能达到前沿模型的 3-10 倍。你是否有在相同硬件上测试这些不同模型的具体基准数据，显示实际每秒吞吐量？

Expert · Lead

我可以分享一些粗略估算值。作为合理性检查，我通常使用公开开放模型的基准，而不是假装拥有专有模型之间可直接比较的数据。首先，在 H100 上进行大批量批处理时，8B 级模型每块 GPU 可达到每秒约 3,000-5,000 个总输出词元。70B 级模型则更接近每块 GPU 每秒约 1,000-2,000 个词元，取决于延迟目标和配置。到了数千亿参数的前沿级模型，通常一个副本要分布在多块 GPU 上，因此按每块 GPU 归一化后的吞吐量显著下降。在一项公开基准中，505B 模型在 8 块 H100 上产生每秒约 1,200 个总词元，而 8B 模型在 8 块 H100 上约为 4,000 个。根据架构不同，我之前提到的 4-10 倍差距因此是一个合理的数量级假设，但我不会把它视为普遍常数。比较必须按每块 GPU 归一化，而不能只看每个副本。如果 8B 模型在一块 H100 上每秒提供约 3,000-8,000 个词元，而前沿模型需要 8 块 GPU 才能产生每秒约 1,000-2,000 个总词元，那么未来每块 GPU 的经济吞吐量差距实际上可能远大于副本层面的表面数字。

Eleven

所以你的意思是，对于最先进的前沿模型，生成每秒 1,000-2,000 个输出词元可能需要 8 块 GPU，意味着每块 GPU 的 TPS 实际上只有 200 左右？

Expert · Lead

是的，这个理解是正确的。

Eleven

这些是实际测试结果。你能否也解释一下底层逻辑？输出词元吞吐量是否与参数规模成比例变化？我知道吞吐量会随参数增加而下降，但它们是否大致成比例？

Expert · Lead

大致如此，但绝对不是严格成比例。对稠密模型而言，作为一阶估算，可以把吞吐量看作与参数数量大致成反比，但我不会视其为严格线性关系。在解码过程中，生成每个新词元基本都需要读取全部模型权重。如果参数翻倍，权重的内存流量也大致翻倍；如果内存带宽不变，每秒词元数就接近减半。实际中偏差相当大。模型横跨多块 GPU 后，虽然获得了总内存带宽，但也引入了通信和同步开销。批处理同样会改变算术强度。此外，对于混合专家模型，只有一部分专家会针对每个词元激活，因此总参数量很容易产生误导。粗略来说，每秒事务数（TPS）更接近于总有效内存带宽除以每个词元的激活参数量，并乘以通信和内核的效率系数。这比仅依赖总参数量是更好的思考模型。

Eleven

说到参数，我看到一份新闻稿称 Fable 5 可能有 5 万亿总参数，我不知道是否正确。它也没有说明使用时会激活其中多少比例。你能否谈谈不同模型层级的总参数和激活参数，比如 Fable、Opus 和 Sonnet 分别是多少？

Expert · Lead

我不想把 5 万亿这个数字视为已确认，因为 Anthropic 历来没有披露 Claude 的参数量或详细架构；这些数字是第三方估算。对于经济性而言，激活参数比总参数重要得多。如果是混合专家模型，理论上可以有数万亿总参数，但每个词元可能只激活 10%-20%。从方向上看，前沿模型可能有数千亿激活参数，较低层级更少，小型模型则更少。不过，我不想为专有 Claude 层级给出精确数字。我实际做的是根据观察到的吞吐量反推激活计算量：GPU 数量、内存带宽和服务成本，比采用传闻中的总参数量并假设全部激活更站得住脚。一个有用的公开参照是 DeepSeek-V3。如果我没记错的话——不过我并不完全确定——它有 6710 亿总参数，但每个词元只激活约 350 亿-400 亿。这说明，在混合专家模型的推理经济性中，总参数量可能具有误导性。对于闭源前沿模型，我通常采用同一原则，但在不知道专家架构的情况下，不想假设相同的激活比例。

Eleven

我们问参数规模，是因为想找到一种计算不同模型层级训练成本的方法，这与参数规模、词元数量和额外实验运行密切相关。你能否分享对这些不同模型层级训练成本及其差异的了解？

Expert · Lead

我通常根据计算量估算训练成本，而不是只看参数量。对于稠密 Transformer，粗略的预训练计算关系约为 6 乘以参数量再乘以训练词元数；然后，使用实际达到的利用率把 FLOPs 转换成加速器小时，并加上失败运行、实验、后训练和工程开销。从方向上看，当前前沿训练项目的总计算支出可以达到数亿美元；若实验计划范围更广，可能更高。中端模型可能需要数千万至数亿美元低位，小型模型可能为数百万美元个位数，低于 1000 万美元，不过这高度取决于它是从头训练，还是从更大的模型训练而来。关键区别是单次最终训练运行的成本与产出模型的全部成本。前沿层在发布前会大量投入扩展实验、数据工作、失败检查点、强化学习、后训练和评估。因此，评估生命周期经济性时，我更愿意采用完整的模型开发计算成本范围，而不仅仅是最终预训练运行。

Eleven

我们还想考察每个模型计算出的完整开发成本。你提到的公式——参数规模乘以训练词元数再乘以 6——适用于预训练阶段。我知道前沿实验室也越来越重视后训练和实验。你能否粗略估计这里的成本构成？在前沿模型的总开发成本中，后训练和实验大约贡献多少比例？

Expert · Lead

在我看来，一个实用估算是，主要预训练运行约占 60%-75%，其周边所有工作可能再占 25%-40%。在这 25%-40% 中，我会认为约 10%-20% 用于后训练，例如强化学习、推理、工具使用和合成数据生成；另有 10%-25% 用于实验、失败运行和训练方案开发。这里的边界相当模糊，因为部分实验工作发生在最终预训练运行之前，但大致构成如此。

Eleven

所以，预训练仍占前沿模型总开发成本的大部分。

Expert · Lead

对，完全正确。

Eleven

说到训练，我们听到的另一个有关前沿模型价值的论点是，它们可以为内部研发，甚至未来几代模型的训练作出贡献。你是否对此做过估算？前沿模型为这类研发贡献多少价值？

Expert · Lead

这种价值是真实的，但另一方面，我不想把它直接指定为一个清晰的收入数字。在我的估算中，我倾向于把它视为避免的未来研发成本，加上更快的能力开发。前沿模型可以充当教师：生成合成训练数据、评判输出、协助编码和研究，并可把能力蒸馏到更便宜的模型。公开研究显示，大型教师模型可以通过合成数据显著改善小型模型。如果建模，我可能会用一个示例区间，把下一代开发成本的约 10%-30% 归因于上一代前沿模型。例如，若下一个项目成本为 5 亿美元，那么拥有上一代前沿模型可归因的研发价值约为 5000 万-1.5 亿美元。我通常把它与生命周期收入分开，因为否则可能把内部生产力与客户变现混为一谈。

Eleven

另一种看法是，Anthropic 最近披露，其 26% 的研发工作由 AI 主导。我们能否根据 Anthropic 当前研发团队规模和平均薪资水平，计算 AI 节省了多少薪资？

Expert · Lead

在讨论之前，我不想把 26% 理解为节省了 26% 的薪资。我的意思是，Anthropic 将其定义为由 Claude 主导任务、但仍由人类监督，而且超过 90% 的模型研发涉及 AI 协作。做粗略建模时，我通常用研发人数乘以完全成本薪酬，再应用一个生产力等价百分比。根据我的记忆，研究工程岗位招聘信息显示约为 35 万-85 万美元，因此每名技术员工 50 万-70 万美元的完全成本是合理建模区间。举例来说，如果假设有 1,000 名研发人员，每人完全成本为 60 万美元，就代表 6 亿美元的年度人工成本基数。如果目前把 15%-30% 的生产力等价值归因于 AI，那么每年约为 7000 万-1.8 亿美元。我通常称之为创造的产能，而不是节省的薪资，因为通常是获得更多研发产出，而不是削减 26% 的团队。

Eleven

你提到的另一个方面是，在前沿模型协助研发工作的情况下，某些下一代模型或许可以更早发布，从而加快开发速度。更快发布能否带来增量收入？

Expert · Lead

我认为，这实际上可能比节省薪资更有价值。我通常把它估值为提前发布，但只计算净增量收入。例如，假设下一款模型提前 2 个月发布，并向 10 亿美元年化收入运行率爬坡。这可能提前产生 1 亿-1.5 亿美元总收入，但部分客户原本会把这笔钱花在上一款模型上，所以我通常会扣除这部分。在这种情景下，净收益可能更接近 5000 万-1 亿美元。这样说得通吗？

Eleven

所以实际增量收入并没有那么大，因为如果这款模型没有提前发布，部分收入会流向同一家族的其他模型。此外，对于新发布的模型，其生命周期收入可能保持不变，只是更早实现。

Expert · Lead

对，完全正确。

Eleven

我们看到新闻报道称 Anthropic 的 IPO 可能推迟到中期选举之后。你最近是否听到任何相关传闻？

Expert · Lead

我个人看过这些报道，但不想把它描述为已经确定的决定。最初有人报道称，推介可能在 10 月中旬左右开始，并在中期选举前上市；较新的报道则称，可能推迟到选举之后。我认为时间仍在变化。公开层面，它只表示 IPO 取决于市场状况和其他因素。这看起来属于正常的 IPO 时间灵活性。