2026.09.22 | AC | LLM | Open Models vs OpenAI & Anthropic

摘要

• Astra的性能提升判断，Token定价展望。
• 企业AI落地对模型的选择，ROI衡量等。

专家观点：

您对 OpenAI 最近推出的 Astra 模型有什么评估，特别是在它与在线推理相比，在计算机使用和工作流完成等方面的改进如何？

我大体同意，Astra 最显著的质变似乎体现在其行动能力上，而不是纯粹的推理能力。该模型在执行长任务、使用工具、导航软件以及从错误中恢复方面表现出了更高的熟练度。虽然纯粹的推理能力也有所改善，但在许多传统基准测试中，其提升幅度相对较小。对于企业应用而言，这种智能体可靠性的提升可以说是更为关键的，因为它将模型从一个问答工具转变为能够完成整个工作流的系统。一个清晰的例子是它在基准测试中的表现：在 OS-World 上，Astra 的得分约为 70%，而 GPT-5.6 为 66%；但在 Automation-Bench 上，其表现从约 18% 跃升至 41%，这是一个大得多的相对改进。这表明 Astra 的主要进步在于保持状态和执行复杂任务，而不是简单地为标准提示词生成更聪明的答案。

鉴于“raw intelligence”的进展可能正在放缓，未来 12 个月模型能力发展的可能路径是什么，与预训练时代相比，这如何改变了进入门槛？

预计投资将从单纯扩大预训练规模转向增强推理时计算、智能体能力和效率。虽然预训练规模将继续扩大，但更多能力提升将来自于使模型能够进行更长时间的推理、更有效地使用工具、在扩展的任务中保持上下文以及自我纠正工作。在未来 12 个月内，预计最显着的实际进展将出现在编程、计算机使用和多步骤研究工作流中，而不是在基础问答方面出现另一次重大飞跃。 这种转变改变了竞争壁垒。在预训练时代，门槛高度集中，前期需要大量的计算、数据和资本。随着重点转移到推理时规模和智能体上，创新门槛正在降低。较小的团队可以通过建立在现有强大基础模型的基础上，改进工具使用、上下文管理、重试和验证，以更低的成本进行创新。然而，瓶颈转移到了下游的后训练、环境设置、评估、工具集成，尤其是推理成本和可靠性。虽然这些改进的研发成本可能相对较低，但以最前沿的规模运营它们的成本仍然很高，因为一个推理数十万个 Token 并伴随重复工具调用的智能体会急剧增加成本。因此，创新门槛正在下降，但大规模运营的门槛依然存在。

我们观察到一个趋势，即美国实验室通过对来自中国实验室的强大开源权重模型进行后训练，以较低的成本实现类似的能力。您如何看待这一趋势在未来 6 到 12 个月内的演变？

这一趋势预计将加速。关键的变化是，预训练正在成为一种可复用的基础架构。美国团队可以采用中国实验室强大的开源权重基础模型，并通过后训练、工具集成、特定领域数据和推理优化来进行差异化，而无需承担前沿预训练运行的成本。对于许多编程和智能体任务，能力差距可能仍将保持在大约一个模型代际（或大约三到六个月），而成本竞争则会变得更加激烈。一个典型的例子是 Qwen 模型；一项分析估计，它在新的开源模型微调和适配中所占的份额从 2024 年初的大约 1% 增长到 2026 年初的大约 70%。这使得初创公司能够采用像 Qwen 这样的模型，在专门的后训练和投放优化方面投入相对适度的资金，从而产出高度竞争力的编程或智能体模型，而无需资助数十亿美元的训练运行。

如果前沿模型与后训练开源模型之间的能力差距正在缩小，这会对 OpenAI 和 Anthropic 等前沿实验室的商业模式构成怎样的威胁，他们的可能应对措施是什么？

纯粹为原始模型智能收取高额费用的特定护城河正在受到侵蚀，但前沿实验室的整体护城河并未完全消失。从历史上看，对预训练的大规模投资可以确保 6 到 12 个月的独特能力期。现在，开源模型通常可以在几个月内缩小这一差距。这构成了真实的利润率威胁，尽管还算不上生存威胁。前沿实验室的应对措施是将它们的护城河从模型本身转移到围绕它构建的完整系统。这涉及更快的模型发布周期、激进的推理成本削减，以及对智能体、编程工具、企业集成和专有基础设施的大幅增加的投资。OpenAI 已经在向这种全栈模型迈进。同样，Anthropic 必须基于可靠性和复杂任务性能进行变现，而不仅仅是依靠基准测试的领导地位。

考虑到对更快发布模型的市场压力，为什么 Anthropic 具有显着能力跃升的模型的发布节奏在今年夏天显得较慢，在 Fable 5 发布后只有 Fable 5.1 跟进？

虽然 Anthropic 确实在 7 月推出了 Opus 5，在 9 月推出了 Fable

1. 1，但质变改进的节奏确实显得较慢。瓶颈不仅仅是训练另一个模型；而是在后训练中实现足够大的能力提升，同时还要通过安全评估并确保经济效益是可行的。在这个阶段，基准测试中 5-10%

的提升不足以自动证明推出新一代产品是合理的。Anthropic 在内部讨论了在某些任务上更强但并不计划公开发布的探索性模型。这说明了挑战所在：内部可能存在更好的检查点，但如果改进不够实质性，或者其安全性、可靠性或服务经济性不令人满意，它就不会立即被产品化。

随着微软等超大规模企业为企业引入模型路由功能，这种动态将如何与 OpenAI 和 Anthropic 等构建自身全栈系统的 AI 实验室展开竞争？

市场上的控制点正在向编排（Orchestration）转移。当微软这样的平台能够动态地将编程任务路由到一个模型、将简单的数据提取路由到一个更便宜的模型、将复杂的推理路由到一个前沿模型时，它就拥有了客户关系和经济效益。这与 OpenAI 和 Anthropic 等实验室产生了紧张关系，因为它们的模型成为了更大平台中的组件，而不是企业直接购买的最终产品。例如，在企业编程智能体中，60-70% 的调用可能是针对代码搜索或摘要等简单任务，这些任务可以在更便宜的模型上运行。只有 20-30% 可能需要昂贵的前沿推理。能够智能路由的平台可以在不实质性损害任务完成度的情况下，将与模型相关的支出削减 30-60%，从而使该路由层极具价值。这将引发关于谁拥有智能体运行时的竞争。前沿实验室将尝试向上游发展进入应用程序和智能体，而微软、谷歌和 AWS 等超大规模企业则将通过模型目录、路由以及他们自己的模型向下游发展。超大规模企业的优势在于它们可以保持模型无关性，这随着前沿能力的日益商品化赋予了它们筹码。

鉴于竞争日益激烈以及模型路由的兴起，Token 定价的前景如何，特别是对于编程应用而言，这可能会如何影响 Anthropic 的推理毛利率？

是的，编程特别容易受到价格压力的影响，因为模型能力正在趋同，开源模型提供了更便宜的后备方案，并且路由使客户能够避免在每次调用时都使用前沿智能。我们已经看到了这种压力；例如，Anthropic 将 Sonnet 5 每百万 Token 输入 2 美元、输出 10 美元的定价永久化。粗略估计，未来六个月内，竞争工作负载的有效价格将再压缩 20-40%。这将影响利润率。这就是为什么缓存、路由和提高利用率等技术变得至关重要的原因。例如，Anthropic 曾表示，Fable 5.1 的缓存可以将典型的工作负载成本降低约 25%。

需要发生哪些发展才能使关于前沿模型即将面临价格压力的论点失效？

主要的失效因素将是前沿能力再次推进并与同类产品拉开差距，其速度超过竞争对手能够赶上的速度。如果 Anthropic 或 OpenAI 发布了一个在经济上有价值的任务上表现显著更好的模型——例如，一个能完成两倍实际工作的编程智能体——并且这种优势持续 6 到 12 个月，客户将容忍高昂的 Token 定价。第二种情况是如果需求增长如此之快，以至于推理能力仍然受到限制，从而消除了供应商降价的需求。核心论点取决于新能力是否能产生远超其推理成本的经济价值。一个清晰的例子是真正长视野智能体的开发。如果一个模型从协助员工 5 分钟进化为自主完成通常需要几个小时的工作，企业将把重点从优化 Token 价格转移到优化每个完成任务的成本上。尽管每 Token 价格下降，但这实际上可能会增加总体的推理支出。

在 Anthropic 的下一个重大模型发布中可以期待哪些改进，最显著的收益可能出现在哪些特定领域？

Anthropic 的下一个有意义的步骤预计将在长视野自主性方面，而不是在原始的单提示词推理方面。重点可能放在增强编程、研究和计算机使用方面的能力，使模型能够在更长、更复杂的任务中保持连贯的工作。这遵循了从 Fable 5 到 Opus 5 和 Fable 5.1 已经看到的轨迹。虽然预计会有渐进的推理收益，但最实质性的改进可能是在可靠的任务完成方面。今天，智能体在单个错误假设破坏整个工作流程之前，可能只能在 20 或 30 个步骤中表现良好。下一代模型将能够识别这种失败、回滚、重新评估，并以显著更少的监督继续工作数小时。Anthropic 本身正在发出信号，表明其正在向从几分钟延伸到几天甚至几周的任务视野迈进。

在可比条件下进行测试时，OpenAI 和 Anthropic 的最新模型在哪里表现出最显著的能力差异？

最显著的区别在于，OpenAI 的模型在通用计算机使用和广泛的工具执行方面更强，而 Anthropic 的模型在编程和长视野技术工作方面表现出色。例如，Astra 在 OS-World 上的得分约为 73%，而 Opus 5 为 70%，其 Automation-Bench 的结果明显更强。相反，与与桌面环境交互相比，Anthropic 的模型往往在涉及深度软件工程、维护代码库或持续技术推理的任务上表现更好。为了说明这一点，如果两个模型都被赋予浏览器和桌面来执行涉及多个应用程序、文件操作和信息提取的工作流，OpenAI 可能会占据优势。然而，如果它们被赋予一个大型代码库，任务是诊断问题、修改几个文件、运行测试并在很长一段时间内进行迭代，Claude 将是更受倾向的选择。这种区别比它们在普通问答中的差异要清晰得多。

鉴于 OpenAI 在正在扩展到标准白领任务的通用智能体工作流中似乎具有优势，为什么 Anthropic 似乎仍在企业采用方面保持领先？

虽然 OpenAI 在智能体进入通用知识工作时确实具有优势，但企业的采用受到显著惯性的制约。企业不会仅仅因为一个新模型在基准测试中好 10% 就更换供应商。Anthropic 在现有的部署、安全审批、深度的云集成以及强烈的开发者采用方面拥有既定地位。此外，Claude 在编程方面的优势是一个主要因素，因为工程是智能体的第一个大规模用例。因此，OpenAI 可以在新领域获得市场份额，而不会导致 Anthropic 突然失去其安装基础。对于自动化电子邮件或 IT 工单等任务，OpenAI 可能会提供更强的横向智能体体验。然而，已经在 Bedrock 或 Vertex 等平台上运行 Claude 的企业——拥有既定的单点登录、权限、审计控制和工作流——面临着真正的转换成本。Anthropic 还报告称，57% 的受访组织已经将其次多阶段工作流智能体用于工作，这表明其使用并不局限于编程。

对于在 Bedrock 等平台上运行智能体工作流的企业来说，将底层模型从 Claude 切换到 OpenAI 的模型有多困难？

在 API 层，切换变得相对容易，但在智能体层，它仍然是一项不简单的任务。Bedrock 等平台现在提供统一且与 OpenAI 兼容的接口，这可以将技术切换时间从几个月缩短到几天。然而，生产级智能体是用针对特定模型调优的特定提示词、工具架构、重试逻辑、安全规则和评估套件构建的。一个简单的工作负载可能需要几天时间来迁移，但一个复杂的生产智能体可能需要两到六周才能安全切换。例如，用 GPT 替换拥有 15 个工具的 IT 支持智能体的 Claude 可能只需要最少的 API 更改。然而，GPT 可能会以不同的方式选择工具、错误地格式化参数，或者在失败的工具调用后表现出意想不到的行为。工程团队需要重新运行数百或数千个回归测试用例，并微调提示词和准则。诸如 AWS Bedrock 之类的平台在同一环境中公开了来自 Claude、GPT 和开源权重的模型，使这种比较和迁移过程变得容易得多。

考虑到迁移提示词和规则的复杂性，这会为现有模型提供商创造持久的护城河，还是这种迁移过程本身可以被自动化？

这不是一条非常持久的护城河，因为迁移过程的很大一部分是可以自动化的。可以开发一个智能体来分析现有的提示词和评估套件，针对新模型运行它们，识别回归，并提出对提示词或工具架构的更改建议。虽然人类仍然需要定义成功标准并在高风险场景中批准更改，但 AI 很可能可以为成熟的企业智能体自动化 60-80% 的机械迁移工作。例如，如果您为 IT 智能体拥有 1,000 个回归案例并希望从 Claude 迁移到 GPT，迁移智能体可以运行这两个模型，按类型对失败进行聚类（例如工具选择、格式化、推理），并自动提出修复建议。然后，人类工程师将只需审查涉及安全或核心业务逻辑的 50 到 100 个关键案例，而不是全部 1,000 个。

您是否观察到有意义的企业向新 AI 模型的迁移，推动这些决策的关键因素是什么？

是的，选择性迁移已经开始发生，尽管通常不是对现有模型的整体替换。企业正在针对个别工作负载对新模型进行基准测试，并在存在显著优势的地方转移流量。这些迁移的主要驱动因素是每个完成任务的成本、可靠性、延迟、模型能力、安全性和提供弹性的能力。新兴架构日益走向多模型，可能首先迁移 20% 或 30% 的流量，而不是一次性迁移整个应用程序。例如，在客户支持的上下文中，企业可能会保留更强大的模型用于复杂的升级，但将分类和简单响应任务转移到更便宜的模型。新模型在保持相同通过率的同时降低 40% 的成本，足以成为此类迁移的充分理由。此外，能够自动扫描应用程序并生成多模型迁移计划的工具正在涌现，这正在降低技术转换成本。

在您最近观察到的企业 AI 项目中，哪些生产用例正在达到持续规模并从概念验证转向融入生产工作流？

AI 达到持续生产使用的最明显例子是在软件工程、客户支持和 IT 运营中，知识工作流也显示出越来越多的采用。编程是最成熟的领域，因为环境定义明确，允许对输出进行直接测试和资格认证。客户支持和 IT 运营紧随其后，因为它们具有高容量、重复性的特征。最近的企业数据表明，IT 运营和客户支持正在从 AI 智能体产生一些最强劲、可测量的成果。虽然法律、招聘和销售增长迅速，但它们是从较小的基础开始的。一个好的生产例子是 IT 支持智能体，它可以读取传入的工单、提取设备或账户上下文、对问题进行分类、执行批准的补救措施并升级异常。合理预期此领域 50% 到 70% 的重复性一级工作负载将受到 AI 的触及，而较高风险的操作仍需人工批准。目前的调查证实，IT 支持已经是智能体部署最集中的领域之一。

在您提到的领域中，AI 智能体能在多大程度上取代人类员工，是否有任何具体的数字可以分享？

区分任务替代和工作替代是很重要的。对于特定任务，粗略的替代范围将是：编程中 30% 到 50% 的实施工作；客户支持中 50% 到 80% 的路由和初始交互；IT 运营中 30% 到 50% 的重复性任务；以及一般知识工作中 20% 到 40% 的结构化任务。然而，这些数字并不直接转化为裁员，因为仍然需要人类来处理异常、审批、客户关系并维持问责制。

将 AI 智能体的采用率从当前水平（例如在 IT 服务中从 10-20% 提升到 50-80%）的主要障碍是什么？

主要的障碍是在高度自主性水平上实现可靠性，而不是缺乏原始模型智能。从 10% 自动化推进到 50% 是可以实现的，因为它涉及选择高容量、重复性的任务。然而，从 50% 进展到 80% 需要处理异常、复杂的权限、模棱两可的请求并确保故障安全。在这个阶段，数据访问、系统集成和安全协议成为主要的瓶颈。生产研究一致认为可靠性是智能体面临的头号开发挑战。例如，IT 支持智能体可以高可靠性地处理密码重置和标准访问请求。但是，如果用户请求涉及三个不同系统且属于政策例外的异常生产访问，智能体必须正确管理身份、权限、上下文和全局行为。一个不正确的操作可能会升级为安全事件。正是这种异常的长尾效应，使得通往 50% 到 80% 自动化的道路比最初从 10% 跨越到 50% 显著更加困难。

达到 50% 到 80% 自动化所面临的处理边缘情况的挑战，类似于完全自动驾驶中的挑战，主要是一个等待技术随时间成熟的问题吗？

这是一个很好的类比。最初 50% 的自动化相对容易，因为它针对的是可预测的情况。接下来的 30% 难度不成比例地高，因为每个额外的工作流都会暴露出新的异常。然而，解决方案不仅在于等待模型改进。企业还需要为权限、集成、监控、回滚和升级程序设计更好的系统。因此，进展取决于模型改进以及为解决异常长尾而进行的逐步工程解决方案的结合。

企业如何跨不同用例衡量 AI 智能体工作负载的投资回报率？

测量应侧重于业务产出，而不是 Token 或模型使用等技术指标。对于编程，关键指标是周期时间、拉取请求吞吐量和缺陷率。在客户支持中，ROI 通过每个已解决工单的成本、包含率和客户满意度来衡量。对于 IT，指标是平均解决时间、自主解决的工单数量以及避免的停机时间。在知识工作中，它是节省的小时数和产出质量的结合。在已经存在清晰性能基准的领域观察到了最强的 ROI。面临的挑战是，今天只有大约一半的企业将这些 KPI 正式化。

鉴于许多企业缺乏正式化的 KPI，它们如何确定自己是否为智能体工作流支付过高费用，以及如何解决这一测量问题以加速采用？

这个问题应该逐个工作流地解决，而不是试图创建一个单一的、全企业范围的 AI ROI 指标。在部署智能体之前，至关重要的是衡量该特定工作流的人类基准，包括体量、每个任务的劳动力分钟数、完成率以及每个完成任务的成本。然后应针对这些完全相同的指标评估智能体的性能。完美的财务数据并不总是必要的；如果智能体在不增加错误率的情况下将每个成功结果的成本降低 30% 到 50%，这就提供了扩展部署的充足证据。例如，在发票处理中，如果 10,000 张发票每张都需要 8 分钟的人工工作，就可以计算出基准劳动力成本。然后，可以衡量智能体的自动化率、异常率、推理成本以及人工审查所需的时间。如果每张成功处理的发票的总成本从 6 美元下降到 3 美元，这比简单地说明智能体消耗了 20,000 个 Token 要有用得多。

以您的发票处理为例，在比较人工主导的过程与 AI 自动化过程时，现实世界的指标是什么样的？

今天观察到的最显著差异通常在于速度和劳动强度，而不一定是实现完美的质量。例如，在 IT 服务台中，涵盖 50,000 多个工单的 2026 年数据集发现，严重依赖 AI自动化的工单的中位解决时间约为 4.4 小时，而主要由人工驱动的工作流则为 70 小时。然而，至关重要的是还要追踪升级率和重新打开率，因为自动化在速度方面可能显得非常高效，同时却可能掩盖潜在的质量问题。

当企业 AI 项目表现不佳时，如何确定模型本身是瓶颈，还是问题出在与遗留系统的集成上？

最好的方法是将模型与系统隔离。首先，在离线状态下测试失败的生产案例，为模型提供完美的上下文和模拟工具。如果模型在这些理想条件下仍然失败，则问题很可能出在模型或提示词策略上。如果模型在离线状态下成功但在生产环境中失败，则调查应集中在系统级因素 上，如数据检索、工具调用、权限、延迟和上游数据质量。在实践中，一旦使用了能力强的强大前沿模型，据估计超过一半的生产失败是由系统级问题引起的，而不是模型核心能力的缺陷。

在其 IPO 之后，Anthropic 将有哪些资金来源来支付其显著的 AI 计算费用？

IPO 本身只是融资战略的一个组成部分。在 IPO 之后，有四个主要的资金来源：营运收入、公开股票市场、公司债务以及通过合作伙伴实现的基础设施融资。需要指出的是，Anthropic 不必预先资助每一个数据中心。其中很大一部分可以由 AWS 和谷歌等合作伙伴或由基础设施基金提供资金，Anthropic 实际上是通过长期容量合同来支付费用。IPO 还赋予了该公司获得更深债务市场的权限。

Anthropic 试图收购以色列初创公司 Decart 的战略基础是什么，为什么这笔交易最终被取消？

对 Decart 的战略兴趣主要集中在其推理效率和系统人才上，而不仅仅是其面向客户的产品。Decart 开发的软件可以从 GPU 和其他加速器中提取更多有用的计算，这直接解决了 Anthropic 最大的成本中心。该公司还拥有与世界模型和实时视频相关的技术。关于取消交易，Anthropic 并未公开说明原因。然而，报道表明，该决定是由尽职调查过程中出现的问题，加上对将关键 Decart 人才重新安置到加利福尼亚的分歧共同导致的。