2026.09.29 | FUNDA | Healthcare | CVS Health Expert: AI Spend to Production

原标题：CVS Health — AI 支出向生产环境接口倾斜

#healthcare #software

Funda · 2026-09-29

CVS Healthcare Services

Expert · Executive, Top Medical Service Provider Joshua Jiang Leon Zhao Patrick Shiyi Meng

摘要

狭义 AI 月度支出约为 15 万美元 — 在该行业专家可观察的范围内，最近一个月的企业 AI 席位及接口和模型调用支出估算为 12.5 万-17.5 万美元，工作口径约为 15 万美元；其中约 70% 为订阅费用，30% 为接口调用费用，后者约 4.5 万美元。
接口调用支出增速高于订阅支出 — 六个月前的月度支出估算为 11 万-12 万美元，平均约 11.5 万美元，其中约 80% 为订阅费用，20% 为接口调用费用，即 2 万-2.5 万美元。接口调用支出约翻倍，订阅支出则增长得更为平缓。
支出结构预计继续向接口调用倾斜 — 据该行业专家估计，六个月后的月度支出可能达到 18.5 万-20 万美元，工作口径为 19 万美元；订阅费用可能占 60%-65%，即 11.5 万-12.5 万美元，接口调用费用可能占 35%-40%，即 6.5 万-7.5 万美元。
数据平台支出随工作负载扩大 — Databricks、Snowflake 及更广泛的云端数据技术栈用于数据准备、模型开发、编排，有时也用于模型服务。该范围当前月度支出估算为 3.5 万-4 万美元，六个月前为 2 万-2.5 万美元；该行业专家预计六个月后约为 5 万-6 万美元。
模型选择遵循任务经济性 — Sonnet 是编码、摘要、文档审阅和研究综合的主力模型；Haiku 用于更轻量、高用量的分类、路由和提取；Opus 则用于复杂推理、多步骤流程、工具调用和长上下文分析。GPT-4.1 或 GPT-4o 同级模型通过 Azure OpenAI 调用，Gemini 则通过 Google Vertex AI 使用。
闭源模型主导接口调用支出 — 在估算约 4.5 万美元的月度接口调用支出中，约 3.3 万-3.4 万美元用于闭源模型，1.1 万-1.2 万美元用于开源模型，按支出计算约为 75%/25%；按调用量计算则估算为闭源模型 65%、开源模型 35%。
开源模型的采用仍附带条件 — 开源模型通过获批的云环境用于可重复的分类、提取和部分内部摘要任务，真正的本地或自有部署可忽略不计。除价格外，安全性、可靠性、可支持性、托管方式、数据隔离、日志记录、质量和运营风险仍是必要条件。
开源模型支出占比可能提升 — 据该行业专家估计，接口调用支出结构可能从目前闭源模型 75%、开源模型 25%，转向年末的 65%/35%，并在明年末接近 55%/45%。
付费使用仅覆盖员工总数的一小部分 — 在超过 30 万名员工中，该行业专家估计约 1%-2% 使用企业付费 AI 工具，即约 6,000 个席位，对应订阅支出约 10 万-12 万美元。访谈其他部分也提到当前付费席位为 3,000-6,000 个。
AI 仍是规模较小但增长较快的预算类别 — 在该行业专家可观察的范围内，AI 支出估算约占更广泛信息技术支出的 2%-4%。企业平台和控制措施由中央统一出资，而具体业务部门会在可量化 ROI 支持增量投入时为应用场景提供资金。
路由和缓存可带来可观节省 — 以每月约 4.5 万美元的接口调用支出为基础，该行业专家估计，更好的模型路由和选择可在不减少工作产出的情况下节省 20%-30%，即每月约 9,000-1.4 万美元；上下文管理、缓存、更短的提示词及减少不必要的代理循环，可能消除约 10%-20% 的词元用量。
运营层面的 ROI 已有体现 — AI 辅助处理使较复杂理赔的处理时间缩短超过 20%；部分 AI 辅助临床工作流通过减少文档和行政工作，每天为护士节省约 90 分钟。该行业专家提醒，不应自动将这些新增产能全部视作现金成本节省。
工作流设计比模型的边际进步更重要 — 现有模型已足以处理日常摘要、编码支持和提取任务；前沿模型的价值主要集中在最困难的 10%-20% 任务，包括多步骤推理、长上下文分析或会引发大量后续人工复核的场景。

核心观点

生产环境采用正在改变支出结构 — 月度支出从六个月前约 11.5 万美元增至约 15 万美元，其中接口调用支出从约 2 万-2.5 万美元升至约 4.5 万美元。据该行业专家估计，随着更多工作流进入生产环境，未来六个月接口调用占比可能进一步升至 35%-40%。
模型分层管理可使使用量增速超过支出增速 — 该行业专家预计，AI 总支出将继续增加，但单项任务成本会下降，因为缓存和路由可将常规工作转移至更便宜的模型，同时任务量可能增加 5-10 倍。
闭源模型优势可能收窄但不会消失 — 闭源模型约占接口调用支出的 75% 和调用量的 65%；但该行业专家估计，如果开源模型满足安全、质量、可靠性和运营风险要求，到明年末其接口调用支出占比可能达到 45%。
优化可释放可观预算空间 — 当前由用户手动选择模型会造成配置过高；在每月 4.5 万美元的接口调用账单上，估算每月可通过路由节省 9,000-1.4 万美元，在维持产出的同时减少高价模型使用。
试验阶段之后，ROI 决定扩展规模 — 当申请额外 50 万或 100 万美元时，需要以周期时间、人工接触次数、单笔交易成本、错误率或返工率等运营 KPI 的前后对比证明价值。已报告的改善包括较复杂理赔处理速度提高超过 20%，以及部分工作流每天为护士节省约 90 分钟。
席位数量存在内部区间差异 — 该行业专家在讨论超过 30 万名员工中的 1%-2% 时估算约有 6,000 个付费席位，但随后又称当前付费席位为 3,000-6,000 个。因此，访谈支持区间而非单一精确数字。
工作流架构正成为主要约束 — 该行业专家认为，现有模型足以处理许多常规任务，而上下文、检索、路由、评估、追踪和获批的数据路径才是决定企业应用效果的更重要因素。

Joshua Jiang

今天我们将讨论贵公司的AI支出及相关话题。首先，能否请您简单介绍一下贵公司，以及您所能观察到的公司AI支出范围？

Expert · Executive

我是一名资深的企业级分析专业人士，在零售、医疗健康和保险行业拥有丰富经验。我的整个职业背景都围绕零售、医疗健康和保险分析展开。我曾有机会开发涵盖预测、定价、促销、客户行为、个性化和决策科学的产品。

Expert · Executive

过去两年中，人工智能自然成为这项工作中更重要的一部分。我很欣赏的一点是，不同业务板块的用例截然不同：在零售业务中，可以是商品企划或个性化推荐；在Aetna方面，可以是理赔，或是临床与行政工作流；而在Caremark，则是药房和药品福利管理业务。因此，我通常不会过多关注哪个模型最好，而是更多地思考：哪里存在实际的工作流问题、人工智能究竟能改变什么、成本是多少，以及规模化是否合理。从我负责的数据与人工智能领域来看，我们每月的支出大致在50万美元左右，年化约为600万美元。老实说，模型本身只是其中的一部分；很大一部分支出是在云资源、许可、集成、数据、治理以及使工作流达到生产就绪状态上。因此，我今天在经济性方面可能会最有帮助，比如支出、模型选择、开源还是闭源、优化，以及我们如何实际决定某项方案是否值得规模化推广。

Joshua Jiang

贵公司最近一个月的 AI 支出是多少？所谓 AI 支出，我指的是席位订阅，例如 Copilot 或 Claude，以及 API 成本。我们只将这两部分计为 AI 总支出。

Expert · Executive

如果把AI支出限定在如此狭窄的范围内——仅指像Copilot、Claude这样的企业席位以及API和模型调用消耗——就我能了解的业务范围而言，最近一个月的支出大致在12.5万至17.5万美元之间，我们通常以15万美元作为基准数字。其中占大头的仍然是基于席位的许可证费用，因为这些属于经常性支出，并且覆盖了相当规模的用户群体。目前我们的API支出要小得多，但其增长速度更快，因为越来越多的工作流正在从实验阶段走向生产部署，且实际业务流程中的使用也更加深入。因此，基于席位的费用目前仍然是更大的资金支出项，因为我们每月都要为庞大的用户基础付费。

Joshua Jiang

能否请您重复一下最近一个月的AI总支出，以及订阅与API成本之间的百分比分配？

Expert · Executive

好的，没问题。关于最近一个月企业AI席位加上API模型调用的支出，就我能了解的范围而言，总额大约为15万美元。其中大约70%是订阅和基于席位的成本，30%是API或模型调用费用，约为4.5万美元。

Joshua Jiang

那么六个月前的支出情况是怎样的？具体来说，每月的支出是多少，在 API 和订阅之间又是如何分配的？

Expert · Executive

六个月前，我估计月支出大约在 11 万到 12 万美元之间，平均大概在 11.5 万美元左右。当时的支出结构偏向订阅而非 API：订阅大约占 80%，即 9 万到 9.5 万美元左右；API 使用占 20%，大约在 2 万到 2.5 万美元。这里值得注意的变化不仅在于总支出从约 11.5 万美元增长到 15 万美元，更在于 API 部分大约翻了一倍，而订阅支出的增长则平缓得多。这也符合我的预期，因为我们正在从单纯为员工提供 AI 工具访问权限，转向在生产环境中由更多工作流实际调用模型。

Joshua Jiang

那你预计六个月后的数字会是怎样的？届时的每月总支出以及订阅与 API 成本的分配比例会如何变化？

Expert · Executive

从现在起六个月后，我预计月支出将在 18.5 万至 20 万美元之间，可以以 19 万美元作为基准参考值。支出结构应该会继续向 API 使用倾斜。我预计订阅将占 60% 至 65%，约为 11.5 万到 12.5 万美元；而 API 模型使用将占 35% 至 40%，约为 6.5 万到 7.5 万美元。与目前相比，更大的变化确实体现在 API 方面。订阅支出虽然仍在增长，但增速放缓许多。API 支出持续攀升是因为更多工作流在生产环境中实际调用模型。背后的原因也很简单：一旦核心用户群体覆盖完毕，席位增长就会开始趋于平缓，但随着更多工作流投入生产，API 使用量会呈复合式增长。

Joshua Jiang

再来看看垂直类 SaaS 或工具，比如 Snowflake。你们是否在使用这些垂直 AI 工具？每月的相应支出大概是多少？

Expert · Executive

好的。你也需要按同样的格式来看吗——比如目前的月支出、六个月前以及六个月后的预测，还是只需要大致的月度数据？

Joshua Jiang

对，范围类似即可。我说的垂直工具包括 Salesforce、Figma 以及 Snowflake，这些都算在内。做个整体介绍就行。

Expert · Executive

明白。这类平台我们用得相当多。Databricks、Snowflake 以及更广泛的云数据技术栈是我们日常 AI 和分析工作的核心，Snowflake 无疑也是我们企业数据平台讨论的一部分。不过，像 Snowflake 或 Databricks 这样的工具对我们来说并不是单纯的又一项 AI 订阅，而是作为底层基础设施支撑各项工作流，涵盖数据准备、模型开发、编排以及有时用于模型推理服务。因此，这项支出更多与算力、存储和工作负载规模挂钩，而不是席位数量。在这个范围内，我估计目前每月的支出大约在 3.5 万至 4 万美元之间。六个月前大约只有现在的一半，约为 2 万到 2.5 万美元；而六个月后，我预计会在当前基础上增长约 20%，达到每月约 5 万至 6 万美元。这一趋势反映出我们正从通用型访问转向特定工作流工具。这类工具更容易获得预算支持，因为你可以明确指出它每周为分析师节省五个小时，或者从工作流中减少两个手动步骤。一旦这种具体价值得以确立，讨论的重点就不再是是否购买该工具，而是将其扩展到多少个应用场景中。

Joshua Jiang

明白。总体而言，从宏观层面来看，你认为贵公司 AI 支出的增长率是在加速、保持之前的增速，还是有所放缓？

Expert · Executive

CVS 本身已在未来数年的 AI 基础设施上分配了 200 亿美元。当然，从我所看到的情况来看，他们如今确实正在向增长方向加速。从非常宏观的整体层面来看，就CVS Health 这部分业务而言，我认为 AI 支出确实在增长，目前每六个月增长 25% 到 35%。不过同样重要的是，支出的增长实际上慢于使用量的增长。

Joshua Jiang

不过相比过去的几个月，对于接下来的几个月，您认为增长率是更高还是更低？

Expert · Executive

大约六个月前，我们的支出约为11.5万美元，如今已增长到约15万美元。我预计六个月后会达到19万美元左右，因此每六个月的增长率大致仍在25%到30%左右。增长率依然保持高位，但可能会略有放缓。

Joshua Jiang

请问贵公司目前正在使用哪些模型，分别用于哪些工作负载？你们是通过席位订阅这些模型，还是通过AWS或Azure等云服务商调用API，亦或是直接向最前沿的模型实验室采购服务？

Expert · Executive

这两种方式都有。目前，我们通过Azure OpenAI使用OpenAI同级别的模型；在一些生产力和编程场景中使用Claude；在特定工作流程中通过谷歌云使用Gemini；而在对成本、延迟或控制力要求更高的场景下，则通过Databricks等平台使用规模小得多的开源模型。例如，如果是更复杂的推理或总结工作流，我很乐意使用性能更强的前沿模型。但在日常或内部工作流中，成本差异很重要，因为一旦调用量达到数千次甚至数百万次，单次调用的微小差异就会变成真金白银。在访问模式上，两者兼具：对于员工生产力，我们采用基于席位的订阅模式，例如Copilot或Claude企业版访问；而对于嵌入应用程序的工作流，我们则通过API调用，通常借助Azure或谷歌云等企业级云环境，而不是让开发人员直接在模型厂商那里刷信用卡。直接与厂商建立关系在席位方面更为重要——员工直接使用产品的场景；但一旦AI进入理赔流程、分析流水线或面向客户的应用程序中，我更看重的是企业级的管控层。

Joshua Jiang

贵公司在各类工作负载中具体使用的是哪些模型？这是否涉及使用像Astra或Fable这样的前沿模型？

Expert · Executive

目前在全公司范围内，我们还没有Fable的访问权限，只有Opus 5的访问权限。因为我们拥有Claude的企业许可证，所以可以使用Haiku、Sonnet和Opus。同样，在Google Vertex AI上，我们也可以使用谷歌的Gemini模型。在OpenAI方面，我们目前主要通过Azure OpenAI使用GPT-4.1或GPT-4o级别的模型。因此总的来说，我们会根据具体的任务来区分要使用的模型。

Joshua Jiang

所以目前几乎没有使用像Fable和Astra这样的前沿模型，对吗？

Expert · Executive

不，对于 Fable 而言，其 Token 成本要高得多。而且我认为根据 Claude 最近的发布，他们自己公布的数据显示，Opus 5.5 相比 Fable 本身要便宜 40%。所以我想我们正在等待公司与 Claude 合作以启用 Opus 5.5 本身，因为目前 Opus 5 的成本要高得多。因此我们真的很想引入 Opus 5.5，在我们正在进行的工作中，它可能会以更低的成本提高效率。

Joshua Jiang

对于贵公司使用的每种模型，分别对应哪些具体的工作负载？例如，哪种模型负责处理哪类任务？

Expert · Executive

目前我们大部分时间将这些模型用于构建智能体。例如，在对话式人工智能中，临床从业人员需要与患者沟通；在与患者交谈之前，他们希望对之前的互动记录进行总结。

Joshua Jiang

不过你能把具体任务和确切的模型做一下对应映射吗？

Expert · Executive

明白了。如果从 Claude 系列说起，Sonnet 是主力模型。我们将其用于代码编写支持、总结概括、文档审核、论题与研究综合，以及大量通识知识工作场景。我们选择它是因为它在质量、速度和成本之间取得了很好的平衡。Haiku 则用于轻量级、大批量的任务，比如摘要生成器、路由或分类等需要处理大量交易且对延迟和成本极为敏感的场景。我不会为了给文档分类或从表单中提取五个字段而支付 Opus 的价格，这正是较小模型在经济效益上更具优势的地方。 Opus 的使用则非常具有针对性，我们只在任务确实更难时使用它，例如复杂推理、多步流程、多工具调用以及长上下文分析。我的考虑方式是：如果 Sonnet 能达到 95% 的效果，我就会继续使用 Sonnet。如果 Opus 能够切实减少人工审核或提高决策质量，我才愿意为之支付溢价。我们确实是这样路由工作负载的——不是看品牌，而是看额外智能带来的价值。

Joshua Jiang

接下来谈谈公司的 AI 预算。AI 预算是包含在整体 IT 预算之内，还是单独管理的？另外，在整体 IT 预算的大局中，AI 支出的预算占比大概是多少？

Expert · Executive

CVS 设有一个名为 DDAT 的纵向支柱部门，即数字化、数据、分析与技术部（Digital, Data, Analytics and Technology）。该职能部门负责管理整个 CVS 企业级的预算，因为它包含监督数据、数字化、分析和技术等多个支柱。因此，我不认为 AI 预算完全独立于更广泛的技术预算。像云、安全和企业工具等核心平台都隶属于更大的技术组织，而许多具体场景的用例支出则由零售、Aetna、Caremark以及运营等各个独立业务部门出资。如果看目前 AI 在更广泛 IT 支出中的占比，在我能看到的领域大约是 2% 到 4%。与 CVS 在基础设施、药房系统、网络安全和理赔平台上所需资助的庞大规模相比，这仍然较小，但它也是增长较快的部分之一，我认为这一比例还会持续上升。

Joshua Jiang

那你认为 AI 预算或 AI 支出是受 IT 总预算限制，还是说 AI 预算是由 IT 预算推动的？

Expert · Executive

它目前是技术预算的一部分。我不会说 AI 预算受到 IT 预算的机械性限制，因为云、安全、治理等核心平台自然位于更广泛的技术框架之内。但一旦进入实际用例，资金可以来自从中受益的业务部门。更好的理解方式是：IT 部门设立护栏并为我们提供平台支持，而投资回报率驱动增量支出。如果用例具有显著的投资回报，即使基础 IT 预算相对持平，该预算也可以扩大。

Joshua Jiang

有时 API 调用可能会发送给前沿模型或模型实验室的模型，而在其他时候，公司可能会使用自己的开放权重模型。贵公司目前是否有实际发送给开放权重模型的 API 调用？

Expert · Executive

鉴于 CVS 作为医疗健康公司的定位，公司受 HIPAA 规则管辖，且对患者和药房数据有极高的安全性要求。我们有明确的边界限制：不会将数据发送到 CVS 网络之外，因此出于这些限制，我们不会轻易向外部的 OpenAI 模型或开放模型发起 API 调用。

Expert · Executive

按照现有的架构设定，我们有明确的约束和边界。在处理会员理赔、药房或其他 PHI 数据时，我们不会直接把这些信息发送到公开的 OpenAI 端点。针对哪些数据可以流出应用环境，存在非常明确的安全、HIPAA 以及数据治理边界。

Joshua Jiang

抱歉，我不明白，因为医疗行业受到相关监管机构的高度监管与审查。但是，开源权重模型也可以托管在亚马逊等云平台上，这或许能够满足合规要求。请问贵公司目前是否使用了开源权重模型？无论是模型厂商自身托管，还是部署在 AWS 或 Azure 上？

Expert · Executive

是的，这两个云平台我们都在使用。在某些特定场景下我们确实会使用开源模型，但通常部署在经批准的企业受限环境中。这些工作负载通常是重复性较高的任务，比如分类、信息抽取和部分内部摘要，这些场景不需要支付前沿模型的高昂价格。如果一个较小的开源模型能提供足够接近的质量，那它就很有吸引力，因为数据能够留在可控的环境内。

Joshua Jiang

所以基本上，开源权重模型也是以 API 调用形式使用的，对吗？

Expert · Executive

是的。

Joshua Jiang

那么开源权重模型和闭源权重模型的比例是怎样的？如果以总 API 调用量为分母，这两种类型各自占比多少？

Expert · Executive

如果按调用量来看，目前大约是 65% 的闭源模型和 35% 的开源模型。但如果按资金支出来看，比例则更偏向闭源模型，大约接近 75% 闭源和 25% 开源。这是因为前沿模型单次调用费用更高；开源模型虽然承担了相当比例的日常常规任务量，但消耗的资金并没有那么多。在我们之前讨论的每月约 45,000 美元的总 API 支出中，我估计闭源模型大约占 33,000 到 34,000 美元，开源模型大约占 11,000 到 12,000 美元。若按使用量来算，目前大概是 65% 闭源模型和 35% 开源模型。

Joshua Jiang

贵公司对使用开源模型持什么看法？针对特定的开源权重模型（比如 DeepSeek、Kimi 等），你们是否有特定的评价？另外，您认为这些开源权重模型相比闭源模型大概便宜多少个百分点？

Expert · Executive

回到我们刚才谈到的支出：还是在每月约 45,000 美元支出的那个例子中，闭源模型花费大约 34,000 美元，开源模型花费大约 11,000 美元。这意味着相比闭源模型，开源模型大约便宜了三分之一。

Joshua Jiang

贵公司对待开源权重模型的态度或立场是怎样的？

Expert · Executive

从实际使用量来看，我们目前仍然严重偏向闭源模型而非开源模型。部分原因在于，我们仍在探索哪些应用场景可以将完整工作流彻底路由至开源模型。根据 Claude 和 OpenAI 原生功能所展现的实力，我们建立起了较强的信任，因此更多工作流还是倾向于重度使用闭源模型。

Expert · Executive

我们的态度是务实的：我们乐于接纳开源模型，但它们必须达到与任何其他模型相同的标准，特别是在安全性、可靠性和可支持性方面。与闭源模型相比，这正是我们在使用方面有所顾虑的关键所在。尤其是因为我们是一家医疗保健公司，模型开源这一事实并不能自动使其符合要求。我们仍然关注它的托管位置、数据如何隔离以及实际上如何记录日志。我所认同的标准是：获得批准的环境、足以胜任该任务的质量、稳定的性能、明确的成本优势以及可控的运营风险。如果开源模型符合这些条件，我们非常乐意使用它。但如果它仅仅在价格上有优势，我认为对于CVS这样规模的公司来说，目前这还不够。

Joshua Jiang

既然您提到了目前发送给开源权重模型与闭源权重模型的API调用比例，那么您预计今年年底以及明年年底这个比例会是怎样的？

Expert · Executive

到明年年底，按资金投入计算，我认为可能会非常接近55%到60%闭源、40%到45%开源。到今年年底，我预计比例将从目前的约75/25转变为65/35，即65%为闭源。

Joshua Jiang

这些百分比是指AI支出还是使用量？是支出吗？

Expert · Executive

是的，这是按AI支出来算的。到明年年底，我认为闭源会接近55%，开源会达到45%。

Joshua Jiang

既然您提到贵公司很看重开源权重模型的托管方式，那么贵公司是否有任何部署在本地、本地数据中心或自己服务器上的开源权重模型？这个比例大概是多少？

Expert · Executive

目前来看，真正的本地或本地私有化部署微乎其微。在整个CVS，我还没听说过有人在做本地或私有化部署。一切要么是私有托管，要么完全是跑在云端。

Joshua Jiang

好的，所以目前在贵公司内部，没有任何私有化本地托管的模型，对吧？

Expert · Executive

是的，没有。目前我们使用的所有开源模型，都是通过微软Azure或亚马逊AWS等云服务供应商来访问的。

Joshua Jiang

贵公司对于本地托管或本地私有化部署的态度是怎样的？

Expert · Executive

坦白讲，我们还没有深入到那一步。我没有参与那些讨论，所以目前不太清楚具体的情绪倾向。但尽管CVS是一家大型企业，我们甚至没有看到哪怕很小比例的此类部署。在我看来，CVS目前坦率地希望将私有云作为自然的默认选择。通过微软Azure或亚马逊AWS，我们已经在网络、日志记录和加密方面建立了强大的控制机制。对于极度敏感的数据、可预测的高业务量或对低延迟有严格要求，且在经济效益上合理的非常特定的工作负载，本地托管可能会变得有吸引力。但就目前而言，我认为它更像是一种例外情况，而不是默认的发展方向。

Joshua Jiang

请问贵公司的员工总数是多少？

Expert · Executive

就实体门店而言，我们也有很多零售门店。算上门店员工，总人数超过30万人。

Joshua Jiang

贵公司的员工中，有多大比例拥有公司为其购买的订阅或企业级套餐？

Expert · Executive

目前所有企业员工都可以使用云端工具。但在全公司范围内，这仍然只占很小的比例，因为我们超过30万的员工队伍中，绝大多数都是一线人员——比如药剂师、技术人员、门店团队或临床人员。至于我们讨论的付费企业级工具，我估计大约占员工总数的1%到2%，也就是大约6,000个付费席位。相应的订阅支出大致在10万到12万美元左右。

Joshua Jiang

所以大多数员工其实是药妆店或药房的员工，对吗？

Expert · Executive

是的，技术人员、店员和门店员工。

Joshua Jiang

但每位企业员工都可以使用这些订阅方案，对吧？

Expert · Executive

是的，没错。

Joshua Jiang

我理解人员正常流动会有小幅波动，但你预计在未来六个月或明年内会有任何重大变化发生吗？

Expert · Executive

坦率地说，我不认为整体员工基数仅仅因为 AI 就会发生剧烈变动。药房和门店的人员配置更多是由处方量和顾客需求驱动的。企业层面的员工人数可能会有更多浮动，但我不会把 AI 的发展逻辑建立在员工总数的大幅变动上。变化速度快得多的，是 AI 在知识型员工群体中的渗透率。今天我们谈到了大约 3,000 到 6,000 个付费席位。在接下来的 12 到 18 个月里，随着数据分析、技术、财务、产品和运营等更多团队获得使用权限，这个数字有望大幅增长。因此，更大的杠杆不在于增加员工总数，而在于让更多员工拥有 AI 能力，并提高每位员工的使用率。

Joshua Jiang

你之前提到，目前所有企业员工都可以使用订阅服务。那未来还会如何进一步提高普及率呢？

Expert · Executive

如今，OpenAI 或 Claude 已经集成到了微软 Office 和 Word 文档中，因此在日常工作中自然而然就能获得这些闭源模型的帮助。并不是说每个企业员工都必须专门去单独获取这些模型的权限——当他们打开 Outlook 邮箱时，就会看到“用 Copilot 总结邮件”的选项。Copilot 插件本身就在那里。因此，渗透率的增长实际上体现在更深度的使用和更丰富的功能权限上。

Joshua Jiang

你认为每位付费员工的支出会增加吗？类似于一种追加销售？

Expert · Executive

关于每位付费员工的支出，企业自然也会设置限制措施。不可能让每个人都无限制地消耗 token。CVS 同样设有常规的限制，比如目前每位员工每天允许使用 100 美元，无法超出这个额度。

Joshua Jiang

所以目前贵公司每个席位或订阅的额度是每位员工 100 美元，对吗？

Expert · Executive

没错。比如如果我今天使用 Claude，会分到价值 100 美元的 token。具体使用哪个模型由你自己决定。如果使用 Opus，可能半小时之内就会耗尽这 100 美元；如果使用 Sonnet，大概可以用半天；如果能在调用合适模型之间做好优化，或许可以把这 100 美元合理分配在全天使用。但总之是有上限的。

Joshua Jiang

那你认为每位付费员工 100 美元这个数额，在未来六个月底或明年底会发生变化吗？

Expert · Executive

我认为可能会变。如果闭源模型施加诸多限制，大家可能会转向开源模型，因为开源模型没有相关成本。

Joshua Jiang

那么，你预计在未来六个月结束时以及明年年底，这些数字会是多少？因为目前每个付费席位大约是100美元。所以你预计在未来六个月结束时和明年年底，这些数字会达到多少？

Expert · Executive

如今如果是每名员工每天100美元，对于重度知识型员工群体，我预计在未来六个月内会在110至120美元左右，到明年年底可能会达到125至150美元。我认为预算在增长，但使用量的增长速度远快于人均支出，这其实正是我们的目标。如果有人明年完成的AI工作量翻倍，而其月度成本仅从100美元上升到130美元，对我们来说这远比简单地将上限翻倍要好得多。

Joshua Jiang

哪些部门在重度消耗Token预算，相关的任务又有哪些？能否请您详细介绍一下具体的工作负载或任务？

Expert · Executive

如果按部门排优先级的话：目前使用量最大的是技术与工程部门，其次是数据科学与分析，第三是产品，第四是运营团队。工程部门消耗大量Token，因为编写代码具有极高的迭代性：生成代码、调试、编写测试以及探讨架构问题。一名开发者消耗的Token可能远超主要使用Copilot总结电子邮件的人。就我所在的领域而言，分析与数据科学可能是第二大主要领域。我们将其用于SQL与Python支持、模型诊断、建模研究（比如利用市场上近期发布的新模型进行顶尖预测）、研究综合、编写文档、将业务问题转化为分析步骤，以及向商品企划或运营团队解释输出结果。当涉及长上下文时，例如多个文档、代码和模型输出，这种使用量就会变得非常庞大。此外，产品、运营以及一些企业职能部门会将其用于撰写需求文档、流程规范、调研或客户/会员服务工作流。但关键的区别在于，最大的Token消耗者通常不是让AI总结邮件的人，而是那些从事长上下文编程、分析和多步推理的团队。其共同模式非常明确：工作越偏向迭代和重度上下文，如今消耗的Token就越多。

Joshua Jiang

我们来谈谈预算决策。贵公司的AI支出预算是如何决定的，谁对总预算拥有话语权？

Expert · Executive

正如我提到的，我们分两个层级。第一层是企业层——包括云基础设施、核准的模型访问权限、安全、治理和通用平台。这一层高度中心化，由技术、数据、AI领导层、财务和安全部门统管。第二层是用例预算。例如，如果安泰想推广一个特定的用例（如理赔工作流），或者零售业务想推广某个分析用例，业务部门就必须证明增加这笔支出的合理性。因此，决策并非单纯由IT部门说‘行’或‘不行’。对于真正的生产级用例，通常需要业务主管、技术或数据团队、财务、安全和采购部门全员参与。业务主管必须展示其实际价值，技术主管必须证明架构可行，安全部门必须认可数据传输路径，而财务和采购部门则负责审核经济效益和供应商条款。因此，如果我们申请追加30万到50万美元的预算，我想知道这在运营上会带来什么改变：是减少了人工介入、缩短了周期时间，还是降低了返工率？如果没人能用可衡量的方式讲清楚，预算方案很快就会失去说服力。最经得起考验的AI预算根本算不上是纯粹的‘AI预算’；它们之所以能获得资金，是因为其工作流带来的经济效益确实极具说服力。

Joshua Jiang

这些更多是用于控制AI支出的内部流程。贵公司是否有任何控制AI支出的技术手段？例如路由机制、缓存，或者其他技术方法？

Expert · Executive

是的。对于我们目前正在构建的任何智能体AI工作流，我们目前采取了三种方法。首先，我们重点关注文档建设——即‘大脑’——确保在一个唯一的地方集中管理文档，而不是反复将全部信息重复倾倒进去。

Expert · Executive

第二点是，一旦智能体完成了端到端的工作流，我们希望有一套回溯机制，追踪智能体采取了哪些步骤，以及调用了哪些工具和API。第三点是关于缓存：我们希望在数据缓存方面提高效率，这样我们的RAG系统就不会去检索整个知识库（Wiki），而是清楚该去哪里搜索，从而消耗更少的Token，并更快地返回响应。所以我们真正考虑的其实有三个方面：第一是知识层必须保持整洁；第二是追踪与溯源，了解智能体如何调用工具、如何提供输出，以及我们对其输出有多大的信心；最后则是路由和缓存。

Joshua Jiang

你能否详细讲讲路由机制？贵公司是自研路由器，还是直接使用云服务商提供的路由功能？

Expert · Executive

目前我们是由人工来决定使用哪种模型，现阶段基本上还是手动操作的。如果同一个问题、策略或中间结果之前已经处理过了，我们就会将其缓存，而不是付费让模型重新推理一遍。如果任务很简单，我们就会把它路由给Haiku，而不是Opus。这就是我们目前系统中正在建立的缓存机制：明确哪些问答已经解决且我们对其答案有充分把握，然后进行缓存，以便系统直接从缓存中获取答案。至于路由，目前还处于早期阶段。我们今天还没有完全实现这种自动化，比如“如果是SQL代码，就调用更便宜的模型；如果需要复杂推理，就调用更高级的模型”。我们目前仍处于评估阶段，但已经在逐步向这个方向推进了。

Joshua Jiang

所以贵公司目前正在尝试自研路由机制，对吧？

Expert · Executive

是的。

Joshua Jiang

也就是说，目前基本上是员工自行选择他们认为最合适的模型，对吗？

Expert · Executive

没错。

Joshua Jiang

好的，也就是说贵公司肯定存在资源过度配置的情况。那么，如果将任务路由到合适的模型，你认为在Token用量和美元金额上分别能节省多少？无论是从使用量还是金额来看，你认为可以节省的比例大概是多少？

Expert · Executive

肯定很多。目前确实存在过度配置的情况。如果每个用户都手动选择模型，大家自然会在Haiku或开源模型完全能够胜任的任务上过度使用Sonnet或Opus。在我们讨论过的每月大约4.5万美元的API支出中，我认为仅通过优化路由和模型选择，实际上就有20%到30%的缩减空间。这意味着在不减少工作量的前提下，每月潜在可节省约9,000到14,000美元。对我来说，这是实打实的节省。至于Token用量，比例会有些不同，因为从Opus切换到Haiku并不一定会减少Token数量，而是降低了每个Token的单价。但如果我们加上更好的上下文管理、缓存、更精简的提示词以及减少不必要的智能体循环，大约10%到20%的Token消耗量本身是可以省掉的。因此，真正的机会不在于少用AI，而在于不再为常规工作支付昂贵的高端模型费用。如果在保持相同业务产出的同时削减25%的API账单，那就非常有意义了。随着我们每月的API支出从4.5万美元增长到超过10万美元，这种路由规范将为我们省下真金白银。

Joshua Jiang

既然你提到了预算制定机制，能否谈谈这些预算在制定时是否侧重于投资回报率？你认为ROI是AI支出预算的主要考量因素吗？鉴于工作流的ROI往往很难衡量，贵公司是如何衡量的？对企业来说最可行的衡量指标有哪些——具体来说，ROI是否决定了贵公司的预算，你们又是如何衡量这些ROI的？

Expert · Executive

一旦我们脱离了实验阶段，投资回报率就是主要考量因素之一。但对于小型试点项目，因为我们还在摸索学习，所以可以容忍一定的不确定性。然而，一旦有人为了扩大规模而要求追加 50 万或 100 万，问题就会变得非常简单：“嘿，我们能收回什么回报？”

Expert · Executive

所以在 CVS Health，不同业务的回报表现形式各不相同。在零售业务中，我或许可以通过缩短分析人员的周期时间来提高预测准确性；在 Aetna，我或许可以减少理赔或会员服务工作流中的人工干预；在 Caremark，我或许可以缩短周转时间或减少返工。因此，我需要一个引入 AI 前的基线，以及引入 AI 后的同一指标——比如节省的工时、单笔交易成本、错误率等。我们衡量的方式通常是对工作流进行前后对比：任务之前耗时多久？有多少人参与处理？在准确度衡量上我会比较谨慎。很多 AI 的投资回报率都被夸大了，因为人们把节省下来的每一分钟都直接算作硬性成本节省。我更倾向于这样表述：‘这个工作流每年耗费我们50万美元，但通过释放产能或加快吞吐量，为我们带来了100万到150万美元的可衡量价值。’这样才令人信服。关键在于将 AI 挂钩回业务部门在 AI 出现之前就已经关心的运营关键绩效指标。

Joshua Jiang

那么在 ROI 方面，有没有什么实际实现回报的典型案例呢？

Expert · Executive

在 CVS Health 这边，一个很好的例子是在理赔和行政工作流方面。我们看到，引入 AI 辅助处理后，处理较复杂理赔的时间缩短了20%以上。这意义重大，因为以 Aetna 的体量，并不需要百分比上有极其巨大的提升，其经济效益就会非常显著。如果一个工作流涉及数以百万计的交易，哪怕每笔业务省下几分钟，都能为我们创造切实的产能空间。另一个临床方面的例子是：在某些工作流中，AI 辅助工具通过减少文档和行政类事务，每天能给护士省出大约90分钟的时间。我不会直接把这些全部算作真金白银的资金节省，否则会有夸大之嫌，但这些时间可以重新投入到会员护理、个案管理中，或者在不按比例增加人力的情况下处理更大的业务量。实际上我就是这样看待 ROI 的。最有力的案例不是‘模型回答得更好了’，而是运营指标切实发生了变动——比如处理速度加快了20%、人工干预减少了30%、每名员工省出1到1.5个小时，或是返工率下降了。所以当我说 ROI 得到了实现，意思是我们能看到运营指标发生了切实改变，随后财务部门就能将其折算成财务价值。这远比说‘我们部署了 AI 而且大家都挺喜欢’要有力得多。

Joshua Jiang

你认为通过使用 AI 节省下来的这些资金，会被重新投资到 AI 领域，还是仅仅被公司纳入利润中？

Expert · Executive

我认为相当一部分会被重新投资，但绝不会是每一分钱都自动再投入。举例来说，如果 AI 在某个工作流中省下了100万美元，财务可能会将其中一部分作为生产力提升的红利收回，另一部分则可能循环投入到下一波 AI 用例中。更好的衡量信号是业务负责人是否会回过头来说：‘这个效果非常好，再给我50万美元来扩大规模。’这才是预算得以真正扩大的方式。我认为这就像一个飞轮：你必须先证明价值，释放出产能或削减成本，然后将其中一部分重新投资于更多的自动化。但是，只有当运营指标持续改善时，资金才会不断涌入。因此我认为，随着时间推移，AI 完全可以实现自给自足式发展，前提是我们必须持续将效率转化为可衡量的业务价值。

Joshua Jiang

既然您介绍了目前由不同模型处理的许多工作负载或任务，您认为这些模型目前已经足够好了吗？随着更多前沿模型的开发，您认为贵公司会出现新的用例，还是说现有的模型就已经足够了？

Expert · Executive

我认为对于许多日常工作负载来说，是的，现有模型已经足够好了——比如文本摘要、代码辅助或信息提取。因此，差距实际上不再是模型的能力本身，更关键的问题在于我们围绕它构建的工作流是否合理。如果有糟糕的上下文、低劣的检索、差劲的路由以及缺乏评估，即便是最顶尖的模型在那种架构下也会表现得平平无奇。前沿模型的价值依然体现在那难度较高的10%到20%的任务上，比如多步推理、长上下文分析，以及任何因回答质量欠佳而会导致大量后续人工审核的场景。我认为这正是下一代模型能够带来真正价值的地方。因此我的看法是，下一代前沿模型绝对会提升质量，但并不意味着所有工作流都会向上迁移。事实恰恰相反：随着模型变得更好，企业会变得更加自律——只在能改变最终结果的关键环节使用最强的模型，而将其他任务分流给成本最低的模型。所以，我不认为未来会是每出一个新模型就替换掉我们今天使用的所有东西，而是会更加讲求针对性。更强大的模型去承担质量至关重要的那10%到20%的高难度任务，其余任务则保留在已经足够好的廉价模型上。在我看来，比起把所有任务都堆给最新的前沿模型，这实际上是一种更优的企业级架构。

Joshua Jiang

您觉得还有什么值得分享的吗？无论来自您对整个行业的观察，还是在贵公司的业务范围内，只要是您认为值得分享的内容都可以。

Expert · Executive

从CVS的角度来看，我想补充的一点是，讨论的焦点正在真正从“我们应该采购哪款模型？”转变为“我们如何围绕模型本身来设计工作流？”这是一个非常重大的转变。第二点是经济账变得越来越有意思了：我预计AI的总支出会持续上升，但单项任务的成本却在下降。这听起来有些矛盾，但事实并非如此，因为我们正在将更多工作路由到成本更低的模型，采用缓存技术，并且在模型选型上越来越熟练。因此，单项任务的成本可能降低了，但我们处理的任务量却是以前的5到10倍。最后一点，特别是在医疗健康领域，治理绝不能仅仅充当刹车。如果每个新用例都需要耗费三个月的审核，人们就会停止创新。更好的模式是建立经过批准的固定范式、核准的模型以及合规的数据链路，让团队能够在这些明确的边界内快速推进。另外，我会密切关注“获得AI访问权限”与“真正实现AI生产力”之间的差距。成本维度的考量只会越来越值得关注。我不会因为看到AI账单上涨就武断地认为效率变差了；如果我多支出了30%的费用，却完成了两倍的有价值工作，在我看来这其实是好得多的经济成果。