← 返回

2026.09.22 | AC | LLM | From Token to Decision: Jev Tiering

原标题:从Token到Decision:Jev带来的快慢模型分层如何重塑Agent、AI SaaS与端侧芯片

#llm #agents

AceCamp · 2026-09-22 · article 70567354

摘要

一个不会说话、只负责选择和打分的模型,为什么会在几天内刷屏开发者社区?Jev瞄准的,是企业Agent最不起眼也最昂贵的环节:一次任务中反复发生的分类、路由、验证、重试与风险判断。本文从这个小切口出发,研究AI应用的成本结构是否正在发生变化。

  1. 笔者没有停留在厂商宣称的百倍提速与降本,而是交叉核对官方接口、价格、首日采用率、独立实测和快速出现的开源复刻,并把一项Agent任务拆成模型推理、微决策、人工接管与失败损失四个维度。文章试图回答:Jev究竟创造了新的模型范式,还是补齐了

现有工作流的一块短板?判断成本大幅下降后,杰文斯效应会不会真的带来需求爆发?

  1. 文章进一步沿着“任务量—计价方式—利润归属—硬件负载”向产业链传导,比较企业软件、模型路由、服务器CPU、GPU与端侧芯片的兑现条件。研究得到的排序与市场最直观的想象并不完全相同:技术品类能否成立、单一厂商能否建立护城河、哪些公司最先获

得利润,可能是三个不同的答案。正文将给出判断依据、受益环节和需要持续跟踪的证伪指标。

企业采购AI,最终算的是一笔订单有没有完成、一张工单有没有关闭,或者一辆车能否在复杂路口安全通行。今天的大模型主要按Token收费。Token是模型处理文本的计量单位,类似电表上的“度”;客户购买的却是已经完成的工作。两者之间隔着大量微小判 断:下一步调用哪个工具、结果是否可信、是否需要重试、何时转人工、哪个模型值得调用。

Jev切入的正是这一层。它放弃自由文本生成,专门返回选项、评分、概率和置信度,让软件直接使用。若这条路线成立,AI产业的计价单位会从Token延伸到Decision,也就是一次可执行的判断,再逐步靠近工作结果。

笔者的判断很明确:Jev仍处在产品验证早期,“廉价决策层”却值得进入投资框架。发布后迅速出现的开源复刻说明,决策模型这个品类可能成立得很快,但这个品类的模型壁垒也可能商品化得更快。对应的产业链直接受益的是掌握客户数据和工作结果的AI软件、模型路由与治理平台。硬件内部,服务器CPU及主机侧内存、网络的逻辑比端侧芯片更直接;自动驾驶、机器人与端侧芯片构成远期期权。数据中心GPU同时受到简单推理分流和使用量扩大的影响,Jev取名自杰文斯悖论暗示了Typesafe研发人员对其模型将发挥的作用的美好寓意。

一、 13%的首日采用率,引发市场热议

TypeSafe在2026年9月15日发布Jev,将其定义为面向软件自动化的System One Model,可译为“快思考模型”。官方称模型采用新的架构、并行采样器和Reinforcement Learning for Calibrated Decisions,即面向校准决策的强化学习。Jev接收非结构化信息和程序状态,输出预先定义的类型化结果及概率,不再逐Token生成句子。[1]

这套产品形态迅速吸引开发者。Jev接入Vercel AI Gateway后的24小时内,接近13%的付费团队至少使用过一次,首日覆盖团队数超过此前其他模型发布。[2] 分母是Vercel AI Gateway的付费团队,指标是“至少使用过一次”。它不等于Jev的付费客户占比、收入份额或生产部署率。发布期的免费推广还会放大尝鲜数据。Netlify、Cloudflare和OpenRouter随后接入Jev,证明分发渠道正在快速铺开,仍不能替代留存和生产调用验证。[13][14][15]

厂商公布的输入价格为每百万Token

  1. 042美元,输出不收费,端到端响应约70至500毫秒。TypeSafe自建工作流测试给出最高193.6倍提速和444.6倍降本,同时主动承认这些数字可能处于真实收益的高端。[1]

官方已经确认“新架构”,但没有公开结构图、参数量和完整技术论文。公开资料不足以判断它是否脱离Transformer,也不足以把它定义为基础模型范式的替代者。Jev目前证明的是一种产品分工:开放式推理交给通用大模型,高频判断交给决策模型,精确 执行继续由代码和控制器完成。

二 AI智能体的成本,会在几十次小判断中累积

一个企业AI智能体(Agent)完成报销审核,看起来只是一项任务,内部可能经历材料完整性检查、费用分类、政策匹配、异常识别、审批路由和人工升级。每一步都调用前沿大模型,单次费用并不显眼,几十次调用叠加后,延迟、推理成本和失败概率都会上升。

Agent总成本可以拆成三部分:慢思考成本,加上微决策次数乘以单次判断成本,再加上错误和人工复核成本。过去市场主要关注第一项,即通用模型单价。Agent进入真实工作流后,后两项决定客户最终的Return on Investment(ROI,投资回报率)。

这与公司的组织分工相似。董事长负责少数复杂决策,日常审批需要中层和规则体系。如果每张报销单都送到董事长办公桌,公司不会因为董事长更聪明而运行得更快。Jev试图为软件补上这层“中间判断”:它比固定规则灵活,又比通用大模型便宜。

Jev更适合边界清楚的任务。候选动作需要提前定义,结果最好能够验证,业务方还要设定什么置信度可以自动执行、什么置信度必须升级。开放式研究、长篇写作和复杂战略判断仍然属于慢模型。

这里还有一笔经常被忽略的固定成本:业务人员需要先定义问题、候选项、判断标准和升级阈值,再完成集成和测试。Jev只有在任务大量重复后,才能把这笔投入摊薄。它的总成本应写成:

工作流总成本 = 问题与规则设计 + 集成测试 + 任务量 ×(模型判断 + 异常复核 + 预期错误损失)

所以,Jev的最佳场景不只是“判断简单”,还要同时满足边界稳定、重复次数多、错误可以检查。低频任务或规则经常变化的任务,便宜的模型调用未必能覆盖前期工程成本。

三 更合理的分工是:大模型编译,Jev运行,代码执行

未来Agent更可能由三层组成。第一层是通用大模型,负责把自然语言业务要求整理成问题、候选答案和判断标准,也处理规则覆盖不了的异常。第二层是Jev类决策模型,反复读取业务状态,完成路由、评分、重试、风控和是否升级。第三层是确定性程序,负责更新数据库、调用Application Programming Interface(API,应用程序接口)或者执行具体操作。OpenRouter已经展示由Claude生成Jev问题、再由Jev批量判断的两阶段流程。[15]

这个结构很像工艺工程师设计生产线,再让检测设备重复工作。通用模型的调用次数可以很少,Jev的调用次数可以很大。Netlify披露,同一份状态可以并行评估多个独立问题,十几个问题放在一次请求中,成本可能只比问一个问题略高。[13] Jev的经济优势由此不只来自少生成文字,也来自共享输入和并行判断。

这套分工降低了昂贵模型的调用频率,也把错误限制在更小的动作集合中。厂商所说的“零幻觉”,准确含义是输出不会越出预设类型:只允许选择A或B,它不会凭空返回C。Jev仍可能把A选成B,所以类型安全不能等同于判断正确。

概率输出也不等于概率已经校准。模型声称有80%把握,只有在大量同类任务中确实约80%正确,这个数字才具有自动执行价值。近期两份分析师实测中,Jev在缺少关键日期时仍给出较高把握,也曾把明确的“不续费”判断成较弱的流失风险。[16][17] 这些单例不足以估算总体准确率,却足以说明企业必须先用自己的历史数据画出可靠性曲线,再决定高置信度自动执行、中间区域补充信息、低置信度转人工。

决策模型能留下多少价值,取决于它在系统中的位置。一个便宜分类器很容易陷入价格竞争;能够持续获得任务结果、识别哪些判断带来成功,并参与路由与安全治理的模型,才有机会形成控制层。

四 三类场景,为什么会需要同一层“小脑”

企业Agent最有可能率先兑现。工单分类、模型路由、命令安全、上下文压缩、任务终止和转人工,都具有高频、动作有限、结果可追踪的特点。Jev降低微决策成本后,一批原本需要人工处理、自动化回报又太低的长尾任务开始算得过账。

AI游戏是物理AI的低风险试验场。世界模型负责创造环境、剧情和角色,决策模型负责Non-Player Character(NPC,非玩家角色)是否逃跑、呼叫援军或者改变策略。游戏状态可以快速生成,失败成本较低,适合训练和验证高频决策。Jev官方的Doom演示使用结构化文本状态,并未直接读取画面。它当前更像策略层,尚未承担视觉感知。[1]

自动驾驶和机器人提供最大的远期想象空间。多模态大模型理解复杂场景,Jev类模型可以在让行、并线、停止和重新规划等有限动作中快速选择,底层控制器再把选择变成轨迹、方向盘和刹车动作。Waymo的End-to-End Multimodal Model for Autonomous Driving(EMMA,端到端多模态自动驾驶模型)已经展示统一场景理解和轨迹生成的潜力,同时承认多帧输入、激光雷达和计算成本仍有限制。[12]

高风险场景不会从云端API直接跳到车辆控制。合理路径是驾驶日志分类、影子模式、模型路由、安全复核、高层战术决策,最后才可能进入闭环控制。当前公开资料没有披露Jev参数量、端侧内存占用、功耗、确定性时延和功能安全认证。自动驾驶的潜在市场最大, 证据距离也最远。

五 客户会怎样为“一次判断”付钱

Jev目前仍按输入Token收费,但客户价值不由输入长度决定。一次判断可能只消耗很少Token,却决定一笔交易是否拦截、一台机器是否停机,或者一辆车是否变道。随着Agent进入业务流程,计费方式会沿着Token、模型调用、决策、工作流和业务 结果逐级移动。

Salesforce已经提供现实样本。Agentforce既可以按用户或对话收费,也通过Flex Credits按Agent执行的具体Action计费。标准Agent Action消耗20个积分,按公开牌价折算约0.10美元一次。[3] 企业软件已经开始把计价单位从“模型说了多少”移向“软件做了什么”。

Jev类模型可能衍生五种模式:按决策次数、成功工作流、SaaS高级模块、设备授权,以及安全审计和服务等级收费。模型公司更容易获得调用收入;掌握客户、流程和结果数据的平台,更有机会按工作结果定价。Jev虽然以Jevons命名,低价却不会自动带 来收入爆发。客服分类、审批和邮件路由大多属于封闭任务,处理完就结束了。决策层收入可以拆成“生产任务量×每项任务的判断次数×单次判断价格”。只有前两项的增长超过价格下降,总支出才会上升。因此,杰文斯效应应在完整Agent工作流上验证,不能根据 调用次数直接推导收入和算力需求。

六 谁掌握工作结果,谁更容易留下利润

TypeSafe目前建立了品类认知,决策模型的技术形态却已开始快速扩散。Jev发布后数日,第三方分别基于Gemma 4 E2B、Gemma 3 270M和DeBERTa-v3-large推出了Jev式开源模型。Gemma版本在TypeSafe公开评测的共同子集上取得76.7%,低于Jev的86.9%;DeBERTa版本在自身测试中取得85.4%的域内准确率,但面对训练中未出现的新问题和新选项时降至69%。两组测试口径不同,虽然不能横向比较,却共同证明“状态输入—并行判断—概率输出”这一产品形态可以被较小模型快速复现。

这使TypeSafe的护城河问题更加明显。Choice、Score和Noul等输出接口很难构成长期壁垒,更持久的价值可能来自跨任务泛化、客户数据校准、低延迟运行、工作流集成和高风险行业认证。前沿实验室、开源模型、传统分类器和云平台都能进入这 一层;微软、Amazon和Cloudflare已经提供模型路由与控制功能。如果TypeSafe无法持续获得真实任务结果和客户反馈,Jev可能成为一个低价功能,最终被云平台或者SaaS厂商吸收。

这一变化对AI SaaS更有利。便宜的判断层可以降低推理成本,提高自动化覆盖率,并让厂商按动作和结果收费。模型分工越细,客户越需要一个平台管理权限、审计、异常和人工交接。收入与毛利率改善,更可能先出现在拥有客户关系和工作流的平台。

七 硬件增量先落在CPU上,端侧还要等证据

Jev类模型首先改变的是服务器内部的负载分工。GPU或其他加速器负责模型前向计算;CPU负责把客户数据整理成状态、构造请求、检查权限、调度模型、访问数据库、调用工具、运行Sandbox并处理异常。Jev降低一次判断的模型计算量,却可能让Ag ent承担更多工作流、做出更多判断和工具调用。GPU-seconds未必同比增长,CPU-seconds反而可能先上升。

Agent硬件需求 = 成功任务量 ×(每任务CPU秒 + 每任务加速器秒 + 内存与网络占用)

这并不等于Jev模型已经改在CPU上推理。当前能确认的是云端API产品,底层模型大小和运行硬件没有充分披露。CPU的受益逻辑主要来自Agent控制面和工具执行负载增加。若Agent生产任务持续增加,服务器CPU、主机侧DRAM、网络接口和存 储I/O会承担更多非模型计算。它们能否转化成收入,还要看现有CPU利用率、每台加速器的CPU配置、云厂商自研CPU占比以及任务增长能否超过软件效率提升。Jev提供了相对利好CPU的负载机制,还没有提供CPU出货和平均售价上修的数量证据。

Meta的Muse补上了一条更接近生产形态的应用证据。Muse为每位用户配置一台持久、隔离的Linux虚拟机,虚拟机内有浏览器、存储、CPU和内存,还要运行安全代理、定时任务与并发子Agent。[18][19] 聊天机器人通常在提问时才消耗推理资源;这类个人Agent即使关闭前端,也可能继续浏览网页、调用工具和维护状态。对应的资源函数因此更接近:

Agent主机需求 = 活跃用户数 × 虚拟机在线时长 ×(CPU负载 + 内存占用 + 存储与网络I/O)

Jev解释了高频判断为什么变便宜,Muse说明便宜判断如何嵌入一台持续工作的云端电脑。二者共同强化服务器CPU逻辑,但Muse本身并未披露单用户资源配置,尚不能据此测算服务器数量。

自动驾驶、机器人、无人机和游戏终端更强调低延迟、低功耗与断网可用,快模型具备进入端侧的架构理由。若类似决策模型进入终端,对应硬件包括Neural Processing Unit(NPU,神经网络处理器)、System on Chip(SoC,片上系统)、片上缓存、Low-Power Double Data Rate Memory(LPDDR,低功耗内存)、Microcontroller Unit(MCU,微控制器)和传感器融合芯片。

云端Graphics Processing Unit(GPU,图形处理器)的影响更复杂。简单判断从前沿模型迁出,会降低单个Agent任务的GPU推理量;自动化成本下降又可能扩大Agent、仿真和世界模型训练。这正是“效率提高会不会带来更多使用”的杰文斯效应问题,笔者认为,给模型取名Jev,正是研发人员对其能够带来杰文斯飞轮的期许。NVIDIA仍可同时承接云端训练、Jetson机器人计算和DRIVE汽车计算,但Jev本身不足以单独上调GPU、HBM和先进封装需求预测。[10]

八 投资上的implications

近期最值得跟踪的是Salesforce、ServiceNow和UiPath。Salesforce已经按Action收费,Jev类模型若降低后台判断成本,可同时推高Flex Credits消耗和Agentforce毛利率。ServiceNow掌握信息技术、客服、人力和安全工作流,并把平台延伸到AI治理、决策和执行。[4]

UiPath把Agent、机器人、API和人工审批统一编排,转型成功后的业绩弹性更高;风险在于Agent也可能绕过传统Robotic Process Automation(RPA,机器人流程自动化)平台。[5]

第二组是模型路由和控制层。微软、Amazon和Alphabet可以把决策路由吸收到云平台,降低客户使用多模型的复杂度,但Jev对这些公司的整体估值影响有限。Cloudflare更接近AI流量控制期权,潜在弹性较高,当前收入贡献和商业模式仍需 验证。

第三组是服务器CPU及主机平台。AMD EPYC和Intel Xeon承接通用计算、工具执行和数据处理,Agent工作流越长、API、Sandbox和常驻虚拟机越多,CPU负载越容易上升。Meta已将AMD列为第六代EPYC Venice及面向特定负载优化的Verano的先导客户,因而AMD同时拥有CPU与Instinct GPU两条映射;但该合作早于Muse发布,不能把全部订单归因于个人Agent。[21] Amazon Graviton、Google Axion和Microsoft Cobalt等自研CPU也会分享增量,因此“CPU需求增加”不能直接等同于x86厂商份额提高。投资上需要跟踪AI服务器的CPU配置、CPU与加速器配比、云厂商自研CPU份额、服务器DRAM容量和CPU业务收入,而不是只看Agent调用次数。

第四组是端侧物理AI,当前只能列入观察池。Qualcomm的Snapdragon Ride整合Central Processing Unit(CPU,中央处理器)、GPU、NPU和独立安全模块,具备承接不同实时性和安全等级工作负载的技术位置。[9] NVIDIA覆盖训练、仿真、机器人与汽车,但Jev带来的边际贡献会被更大的物理AI业务稀释。

地平线机器人征程6支持大参数Transformer、交互式决策和车规安全。[11] Mobileye也具备汽车专用计算与量产基础。二者要获得Jev逻辑下的收入增量,仍需看到决策模型进入车端、获得定点并提高单车芯片价值。

国内企业软件可观察金蝶国际和用友网络,但现阶段应检查付费工作流、续费和推理毛利,不宜用发布了多少Agent代替商业验证。数据中心芯片与HBM属于二阶影响,不应以Jev作为独立上修依据。

从兑现顺序看,企业Agent和AI SaaS最早,路由与治理平台其次。服务器CPU和主机侧资源拥有较直接的负载逻辑,但仍需生产任务和服务器配置数据验证。端侧芯片需要等待模型规格、本地部署、设计定点和量产。掌握客户和工作流的平台更可能先获得利润;CPU是第二层硬件线索;端侧保留远期期权;独立决策模型公司的护城河最需要验证。

九 四道产品验证,四组财务指标

Jev能否成为独立品类,至少要通过四道验证。第一,免费推广结束后仍有付费留存和持续调用;第二,在同等任务质量下,计入问题设计、人工复核和错误损失后的完整工作流成本,仍低于小模型、分类器和规则系统;第三,置信度能在不同客户、场景和时间段保持校 准;第四,决策模型能够进入生产流程,而非停留在开发者演示。端侧部署属于下一阶段的额外验证,不应混入近期产品采用率。

投资上还要观察相应公司的财务信号。Salesforce看付费Action和Flex Credits,ServiceNow看AI合同增量与自动解决率,UiPath看Agentic Automation相关Annual Recurring Revenue(ARR,年度经常性收入)和大客户留存。

Cloudflare看AI Gateway使用量及其对付费产品的贡献。AMD和Intel看AI服务器CPU配置、数据中心CPU收入和云厂商自研CPU替代。Qualcomm、NVIDIA、地平线和Mobileye先看端侧模型规格与软件支持,再看车企定点、量产节奏与单机价值量。

开源复刻已经使“小模型能否复制Jev”从假设变成正在发生的竞争,后续应提高验证门槛。三种情况会推翻Jev形成独立收费层的判断:开源模型在多个真实企业数据集上与Jev的准确率差距缩小至5个百分点以内,同时延迟和完整成本接近;问题配置、概率校准 和人工审核成本长期超过推理节省;免费尝鲜在六个月内无法转化为生产部署和持续付费。任何一项长期存在,决策模型都可能保留产业价值,利润却更可能被云平台和企业软件拿走。

十 结论:先重估工作流,端侧仍要等证据

大模型解决了机器理解和生成人类语言的问题,Agent把竞争推进到下一层:机器能否在正确时间,以足够低的成本做出可以执行的判断。Jev仍处在产品验证早期,底层架构、外部评测和长期定价均未充分披露,但它已经把一个长期被Token报价遮住的问题摆 到台前。

未来的AI系统可能由少数慢模型和大量快模型共同运行。慢模型设计任务和处理异常,快模型反复判断,传统代码负责可靠执行。衡量这套系统时,模型调用价格只是其中一项,问题设计、概率校准、人工升级和错误损失同样进入成本表。

这条路线最早改善企业Agent的成本和AI SaaS的毛利率,随后提高模型路由与治理的价值。硬件上,Agent控制面扩大使服务器CPU和主机侧资源的逻辑比端侧更近,但仍须穿过生产任务、CPU配置和市场份额三道门。端侧芯片只有在本地运行、设计定点和单机价值量依次得到验证后,才进入业绩逻辑。Jev能否成为赢家仍不确定,“决策模型”这一层已经值得进入投资者的跟踪框架。

数据来源

  1. TypeSafe AI, Introducing System One Models and Jev,

2026-09-15.原文

  1. Vercel, Jev is the fastest-adopted model in AI Gateway history,

2026-09-18.原文

  1. Salesforce, Agentforce Pricing.原文
  2. ServiceNow, ServiceNow turns enterprise AI chaos into control with the platform for governed autonomous work,

2026-05-05.原文

  1. UiPath, Enterprise AI agents.原文
  2. Microsoft, Model router for Microsoft

Foundry.原文

  1. Amazon Web Services, Intelligent prompt routing in Amazon

Bedrock.原文

  1. Cloudflare, AI Gateway Dynamic Routing.原文
  2. Qualcomm, Snapdragon Ride.原文
  3. NVIDIA, Jetson Thor and DRIVE AGX Thor.原文
  4. Horizon Robotics, Horizon Journey.原文
  5. Waymo, EMMA End-to-End Multimodal Model for Autonomous Driving.原文
  6. Netlify, TypeSafe Jev now available in AI Gateway,

2026-09-17.原文

  1. Cloudflare AI Docs, TypeSafe Jev.原文
  2. OpenRouter Labs, Prompt to questions: Claude compiles questions and Jev executes

decisions.原文

  1. 华福证券AI互联网团队,Jev产品实测交流转写纪要,2026-09
  2. 国金证券计算机团队,Jev产品演示转写纪要,2026-09
  3. Meta, Introducing Muse: The World's First Personal AI Agent Built for Everyone,

2026-09-08.原文

  1. Meta AI Research, How We Built Safety Into Muse,

2026-09-08.原文

  1. Reuters, Stocks rise on AI optimism; lower oil helps bonds,

2026-09-21.原文

  1. AMD, Form 8-K: Strategic partnership with Meta,

2026-02-24.原文

本文仅用于产业研究,不构成投资建议。公司业务映射属于基于公开资料的分析推演,后续需以订单、收入、利润率和量产进度验证。