2026.09.22 | 9K | LLM | Zhipu Expert: ARR & MaaS
原标题:头部国产模型厂商离职商业化专家|智谱当前ARR口径达18亿美元并将年底目标上调至30亿美元,近90%收入来自MaaS;数据获取受限与算力瓶颈仍制约模型迭代
摘要
智谱ARR由8月底16亿美元升至当前18亿美元,年底目标为30亿美元,主要由超1亿元年度框架、Coding Plan涨价和算力扩张驱动。近90%收入来自MaaS,但ISV转售将因合规与利润问题收紧;约12万张推理卡中60%以上为国产卡,数据短缺和复杂任务算力仍是核心约束。
要点
- 智谱当前ARR口径为18亿美元,年底目标已上调至30亿美元且已考虑ISV转售收紧;增长基本来自新客户,每月承接两三个原由字节等厂商服务的大客户并签订金额超过1亿元的年度框架,Coding Plan约42万个可用账号且价格约翻倍
- 按年底估算,将近90%的收入来自MaaS平台;截至9月Coding Plan占整体收入37%到38%,较半年报约45%下降后趋稳,剩余将近50%主要来自公有云推理,8月、9月转售约占整体推理收入20%
不考虑Flash,Token综合均价由半年报时每百万Token约4.9元到5.1元升至5.4元到5.5元,老客户账单通常上调7%到8%但基本加价不加量;约60%到70%的推理使用国产卡和小参数老模型,相关推理毛利预计约90%,支撑披露的推理毛利约73%
- 公司可确认的日均调用量约8万亿到9万亿Token,其中约6万亿来自按月套餐收费的Coding Plan、约3万亿按调用量收费;对外披露的20万亿Token口径较宽,可能包含云厂商买断模型后产生、但通常不计入公司直接计费口径的调用量
受数据合规、安全事件及Flash成本和利润表现不佳影响,面向ISV的Coding和特定API转售及部分战略合作将针对性收缩,源代码一次性买断不受影响;海外模型数据因加密和法律风险更难获取,内地流通量约1,000条且多为模拟数据,公司将转向行业代码库、系统模拟、数据飞轮和世界模型
- 训练卡总量约2.7万到2.8万张,推理侧总共运行约12万张卡且60%以上为国产卡,约2万多张英伟达卡主要承担Coding
Plan等复杂任务;某国产卡经Infra优化后推理效率可能仅为H100的40%到50%,因此复杂任务仍部署于高性能卡,国产卡主要承接大调用量单点任务
Q:首先想了解智谱商业化的ARR情况。管理层在Q2业绩会上提到16亿美元,现在又更新到18亿美元,近期是否还有更新,还是维持这一口径?
A:年底的口径已经上调到30亿美元,当前单月18亿美元没有问题,基本会保持这样的增长。
Q:能否拆分一下当前及年底的AI收入:MaaS和其他业务分别占多少?MaaS中,API和Coding Plan又分别占多少?
A:按年底估算,非API数据大概占5%。需要说明的是,这并非当前销售增长不佳,而是去年几个项目会收取部分尾款。非MaaS收入大概占13%到14%,更细的数字目前无法准确提供。剩余将近90%的收入来自MaaS平台。
截至9月,Coding Plan大概占整体收入的37%到38%,这是一个比较好的状态。半年报时大约为45%,目前基本不再下降。占比下降主要是因为总体收入增加,尤其是推理收入增加。剩余将近50%的收入基本来自公有云推理。
产品收入中还有一部分转售业务。目前,内地主流云厂商和部分算力厂商都在开展转售,形式包括采用算力合约体系或直接二次转售API。8月、9月增长的数据中,转售业务大概占整体推理收入的20%。转售所接通的业务基本都是Coding,包括Flash和G LM-5.3。过去Coding主要用于传统单体任务,现在转售业务基本都是Coding任务,例如长程任务或纯Coding的MaaS式分发。因此,转售既能带来增量,也有利于运行数据飞轮。
不过,后续可能会适当收紧。此前转售过程中发生过几起模型主动攻击用户数据、要求用户制造数据后再用于运行数据代码的情况,上周也发生了一些安全事件。因此,下一阶段可能会压缩Coding和特定API的转售规模,或延长相关业务的推进周期。
Q:应如何理解转售业务将会收紧?未来与云厂商将如何合作,合作模式如何分层?海外已有模型接入AWS Bedrock,智谱在境内和海外分别采用哪些合作方式?
A:海外方面,在OpenRouter等平台上开展的业务主要是转售,要么对接我们的接口,要么销售Coding Plan。直接使用接口开展Coding业务的客户不多,因为Coding Plan相对便宜。还有一种方式是把模型打包交给对方,由对方进一步拆分和销售。不过,目前合作仍以内地市场为主。
内地第一种模式是纯转售。转售服务商的体量或资金实力通常有限,拿不到大客户级别的折扣,也难以直接承担较大的年度框架,因此会按照转售体量签订年度框架并逐级协商折扣,通常以八五折为主。假设签订一年期框架,额度按12个月拆分,如果每月能够达到全年额 度的十二分之一,就可能进一步谈到七折或六折。该价格主要适用于5.2,5.3等版本,Flash对外最低基本也是八五折。个别日调用量达到上万亿Token的大客户,5.3可能做到五七折左右。客户达到特定用量线后,价格可能再降低几个点,例如每增加一 定规模的万亿Token调用量,再相应调整折扣。不过,目前并没有一套特别固定、详细的规则,基本都是逐步协商确定。
第二种模式是将模型源代码打包出售给云厂商。腾讯、阿里及其他一些厂商都曾付费购买模型源代码,可以在模型基础上进行风险性微调等工作,再服务自身生态中的产品。模型配置完成后,对方向我们支付一次性买断费用;后续使用自己的算力进行推理、确定售价,以及 围绕自身产品产生的其他费用,均与我们无关。
第三种模式是通过云厂商自身的生态网络和工具平台开展合作,比较接近算力工厂。腾讯云、阿里等厂商拥有自己的生态网络和工具平台,我们的模型会部署在其算力集群上。对我们而言,这次部署可以视为一次租赁,对方也可能向我们提供算力折扣。随后,客户通过对方 的平台、工具或生态调用我们的模型接口,收入基本按3:7分成,其中70%归我们。我们分成较高,主要是因为还承担了算力和模型服务相关工作。
第四种模式是算力合伙人,常见分成比例为5:5或4:6,我们通常获得50%,算力供给方获得40%到50%。对于投资过的算力或数据中心厂商,我们基本获得50%;其他仅属于深度合作的厂商,也多采用5:5分成,由我们运维后台,对方提供机器。还有一种 合作关系较松散的算力合伙人,会主动成为合作方,使用我们的开源模型而非商业产品。开源模型在某些精度上可能不如商业版本,但合作方会承诺将从用户提问到模型回答的完整轨迹数据全量提供给我们,从而形成数据飞轮。这类数据的收购价格很低,原文口径约为每条 完整轨迹10元。
Q:上述收紧具体针对哪些模式?源代码出售给腾讯、阿里后只收取一次性技术服务费,后续是否使用均与智谱无关,因此主要收紧的是合伙人或转售模式吗?另外,年底30亿美元的目标是否已经考虑这些情况?
A:源代码买断模式不受影响。转售生态主要面向传统企业开发商和大型云厂商的ISV,合作方既可以作为伙伴直接开展转售,也可以采用其他转售方式。合作过程中会讨论本地数据库能否与模型交互、相关数据能否采购,或数据能否在模型中流转,包括行业代码库和产 品开发测试库。
如果对方允许采购,或者主动提供行业数据库,这些数据当然具有价值。无论是行业代码库,还是产品开发过程中的测试库,对模型训练都可能较为透明。但很多行业代码涉及最终用户的数据合规、权属和数据来源问题;在爬取这些数据的过程中,也有多家公司发出警告, 认为所谓的网络攻击行为本身构成侵权。因此,利用ISV开展转售以及部分战略合作的模式,下一阶段会有所收紧。另一方面,向这些合作方提供Coding服务时,他们基本选择Flash版本,而Flash的成本和利润表现并不理想,所以后续会进行针对性收缩 。
30亿美元的目标已经充分考虑这些情况。相关监测大约从8月底开始,目前采购会优先绕开ISV;在服务过程中,后续也可能逐步将这部分业务量切换到更可控的状态。即使相关模式收紧,供应商侧后续仍可能增长,并直接覆盖一部分通用服务,因此30亿美元的口径 已经包含这些变化。
Q:以Q3为例,目前ARR增长中,新付费客户和老客户增量的比例大概是多少?用量和价格分别呈现怎样的变化趋势?
A:新增客户和老客户增长的比例没有计算过,也可能没有专门拆分。ARR增长基本来自新客户,而非老客户;老客户通常只有在出现新业务时才会增长。目前没有具体数据,只能做上述判断。
价格方面,如果不考虑Flash,当前平均每百万Token大约为5.4元到5.5元;半年报时约为4.9元到5.1元,目前已上涨到5.4元左右。公司披露过推理毛利约为73%,仅凭5.4元的价格无法支撑73%的毛利。原因在于约60%到70%的推理 使用国产卡和老模型,老模型的参数量较小,这部分推理毛利预计可达到约90%。
这类业务主要用于各种审核、固定报告生成等单点场景。客户用量很大,但对模型本身的能力要求没有那么高。因此,在向客户承诺并兜底最终效果的情况下,我们可能不会承诺具体使用哪一个模型或版本。
Q:对于老客户,模型从5.0升级到5.3后,是否观察到客户平均消费额增加?还是由于价格下降,实际并未呈现增长趋势?
A:不考虑Flash,对老客户的价格策略是逐步上调账单,通常上调7%到8%。对外解释比较一致:模型和算力均已升级,可以保证更大的调用量和更快的速度。除此之外没有太多附加说法,用户目前也接受这一口径。老客户基本处于加价不加量的状态,业务重点仍 是开发新客户。
新客户的价格处于同一层级,主要围绕刊例价协商。输入和输出合计的刊例价大约为10元到12元,再以此为基础协商折扣。目前新客户通常采用七折或六五折,不会像过去那样提供过低折扣。
Q:8月底ARR为16亿美元,目前口径为18亿美元,相当于一个月增加2亿美元。10月、11月、12月的月度增速是否会快于当前阶段?主要有哪些加速因素?
A:是的。5月底到6月,ARR约为7亿到8亿美元;到6月底已达到11亿美元;6月底到7月中旬又直接增至约13亿到14亿美元。当前情况与当时类似,正在逐步将字节此前的大量用户迁移到付费环境。字节虽然在LLM领域体量很大,但部分用户需求也会由其 他厂商承接。对我们而言,这些原本由其他厂商服务的老客户就是新客户,会形成爆发式增长。
我们基本每月签订两到三个大型年度框架,并从当月开始执行。每个大型框架的金额基本都超过1亿元,对应日均几千亿到万亿Token级的调用量,因此年度框架金额必然会上亿元,这是最主要的增量来源。第二个来源是Coding Plan涨价。发布Flash后,很多用户开始通过相关工具调用Flash;Coding Plan用户数没有大幅增长,但价格大约翻了一倍,因此按用户数计算的收入也接近翻倍。目前Coding Plan可用账号约为42万个。
增长主要来自三方面:第一,每月承接两三个原来由字节等厂商服务的大客户;第二,Coding Plan客观涨价;第三,自身算力持续增长。我们一直在寻找算力合伙人,并将老场景客户迁移到国产卡。对外所称使用国产卡运行的业务,主要就是这些老场景,其成本低得多。
Q:刚才提到每百万Token约5.4元,这是输出价格吗?业绩会上提到的日均约40万亿Token,是否同时包含输入和输出?输入价格是否低很多?
A:日均Token口径同时包含输入和输出,输入价格确实低很多。但由于存在KV Cache,输出过程中会命中大量缓存数据,因此内部核算时会将其折算为每百万Token的综合均价。输入、输出和缓存的拆分并不简单,所以5.4元应理解为综合价格,而非单纯的输出单价。
Q:披露的日均Token中,有多少能够实际产生收入,有多少属于试用或内部使用?
A:目前真正希望统计且可以确认的日均调用量约为8万亿到9万亿Token,按9万亿Token计算。其中约6万亿Token来自Coding Plan,这部分并非按Token计费,而是按月收取调用套餐费用;另外约3万亿Token基本按调用量收费。对外曾披露过20万亿Token,但这一数字的统计口径比较宽泛,可能包含其他部分。
Q:上述Token口径是否只统计从公司侧直接输出的Token?如果云厂商购买模型后自行提供服务,相关调用量是否不计入统计?
A:云厂商买断模型后产生的调用量通常不计算在内。对外披露20万亿Token时,有可能将这些调用量计入;但如果按照每百万Token约5元测算,就应采用公司直接计费的口径。这是统计口径上的差异。
Q:老客户目前的留存率如何,呈现怎样的变化趋势?
A:Coding Plan按月统计的留存率基本为85%,按季度统计约为80%,会有一定波动。Token客户则有所不同:签订年度账单后,客户仍会留在平台上,但主要调用量会在不同厂商之间切换。按月观察,主调用量的留存或置换比例约为60%,下个月也可能重新回来。
如果按照框架客户是否仍然存在来计算,留存率基本为100%,因为签订账单后一定会产生一部分调用量。竞争对手的销售可能会暂时抢走部分调用量,但我们下个月还可能重新争取回来。总体来看,客户仍然留存,约60%的变化体现为主调用量在厂商之间置换,本质 上是各厂商每月相互争夺份额,产品账单也按月快速更新。
Q:是否观测过长期付费客户通过API节省了多少人力,或者增加了多少收入?
A:需要根据具体场景判断。一个效果较好的场景是安全审核,即与高德、小红书等泛互联网客户合作,在内容发布过程中进行安全审核和意图判断。安全审核员原本需要判断内容是否存在负面引导;开放模型版本后,中间意图这一组任务可以交给模型。以小红书为例,原 来大约有8,000名安全审核员;模型承担中间意图判断后,真正需要人工参与并根据模型处理结果开展后续工作的人员约为2,000人。
但很多场景的用量与节省人力无关,而是为客户新增一条业务线或产品能力。例如,某监控摄像头厂商推出每月约35元的付费会员服务,用于老人和儿童预警、危险时刻报警及相关存储,基本属于识别加结构化处理,每天可运行接近万亿Token。这项业务没有直接节 省人力,却使客户的业务量和营收增长约20%到30%。每位用户增加35元会员费后,只要这条业务线能够运行起来,ROI就具有合理性。类似情况也比较多。
Q:以小红书的安全审核为例,其工作流会同时接入多家模型API,还是在某一家效果较好后持续使用该模型?这些场景是否竞争激烈,即并非模型能力最强就一定会被选择,而是需要综合评估?
A:通常会接入多家模型。小红书的安全审核可以理解为一个简单的Agent,被分为正面意图、负面意图和中间意图。正负意图可以交给一个参数量较小、但在区分正负面意图和风险控制方面表现较好的模型。该模型价格较低,足以承担相关任务,调用量可能达到每天 上百亿Token甚至更高。中间意图是所有被拦截后仍需进一步判断的内容,需要执行多线程和更复杂的任务,因此会交给能力更强的模型。不同任务会分别分配给不同厂商。
更典型的例子是小爱同学,其大约有八条主要Agent,基本上每条Agent背后对应一家厂商。表现更好的厂商可能获得两条Agent,其他厂商可能只获得半条。最简单的任务没有太高的竞争壁垒,主要取决于成本是否合适、速度是否足够快以及模型能力是否够 用,客户甚至可能自行搭建一套小模型。复杂任务可能既要判断意图,又要识别文字表面无法体现、但话术语义中存在的诱导,对模型能力的要求更高。部分模型可能无法完成,客户也会加入样本条件进行测试,最终根据实际效果选择模型。
对于非高难度AI任务,内地模型厂商的服务质量大体相近,差异主要体现在成本和算力承载能力上。字节原本是算力承载能力较强的公司,但其主要资源已投入新一代Coding训练及相关应用,不会将主力资源全部用于一般LLM场景。因此,市场可能重新分配部分 单一场景,智谱或其他厂商可能继续承接一部分业务。智谱目前更倾向于协商一个总体价格,客户可以自行安排不同场景之间的调用量。
Q:目前Coding场景较多,公司此前也提出了Co-work概念。未来ARR增长主要会由哪些Co-work细分场景驱动?
A:Co-work目前仍是Coding场景的延伸,实际任务执行主要依赖编码能力。这里的编码不能作狭义理解,而应理解为在执行工作流时承担具体操作。因此,Co-work本质上是希望拓宽Coding的应用边界,而不是将其发展为完全独立于Codin g的方向。目前观察到的大量Co-work场景主要集中在几个领域,调用量也比较可观。
当前主要集中在几个高价值行业。第一是文档办公,包括办公协同和类似长期Memory的项目;第二是搜索与调研,对应量化交易、投研等机构,它们可能每天运行服务,收集和生产数据;第三是数据处理与分析;第四是创意设计和内容生产,包括内容生产及后续流转 。内地很多AI视频或画布创作平台需要LLM协助编写脚本、分镜等,5.3已经接入内地主流画布创作工具,这部分调用量非常大。上述领域是目前Co-work较为主流的场景。
此外,Co-work还可用于日常业务流程中的沟通协作,由Coding能力执行协作过程;也可用于交易执行,以及图形界面中偏视觉理解的操作。目前较常见的视觉理解场景是报销,例如理解并审核报销发票或小票。再往后是较为分散的Agent代理执行任务,例如信息分析、新闻总结、要素总结,以及面向特定行业进行应用规划、构建和测试。复杂推理还包括AI for Science等工程型、高效应用场景,后面这些目前更多作为参考。
Q:这些Co-work能力是直接部署到企业,还是由软件厂商调用模型后集成到其产品中?
A:两种方式都有。日常搜索调研、文档和创意生成可以直接接入我们的接口;办公沟通协作、包含图像的审核等场景,通常接入ISV生态,由软件厂商或销售商完成集成。对我们而言,这些软件厂商就是直接客户。我们不会继续观察下一层最终用户每日的人均用量和具 体需求,也不会查看终端用户账号,只会在统一模型层面处理获准使用的数据。
Q:能否从整体上介绍目前2B业务如何拓展客户?每个客户的洽谈和服务是否较重,完整流程是怎样的?
A:内地业务大致分为泛互联网和非泛互联网两类。泛互联网客户基本都在公司的客户资源池中。销售看到某个客户已经产生用量并认为值得运营,就会认领该客户,随后联系客户,协商价格、起量规模和年度框架。在协商年度框架的过程中,也会挖掘新场景,这取决于销 售能力;如果发现新场景,会由产品或技术团队进行参数评测、测算ROI,并提供相应方案。
老客户原本由既有销售维护。开始强调调用量后,会向销售提供相应激励,将老客户的Token消耗计入考核,销售可以获得较为可观的提成。另一种情况是发现老客户在竞争对手处的调用量很大,再评估能否将这部分调用量争取过来,主要手段是价格竞争。例如,发现 客户在字节获得八折,我们可能直接提供四折;如果认为该场景确实很有价值,也可能提供三折。
游戏等相对独立的行业,需要销售利用自身资源进行拓展;公司也会通过被投企业或相关行业负责人协助进行电话联系。非泛互联网领域中,软件开发、办公助手、客服等行业虽然偏传统,但也具备一定互联网属性,或对模型存在刚性需求。公司会进行行业划分并设置调用 量KPI,重点包括政府、金融、国央企及事业单位、3C制造等。金融领域目前主要覆盖银行;政府领域主要覆盖政务办公大厅和政府服务;A类客户包括国央企和事业单位;3C制造包括平板、游戏、玩具等行业。销售会在这些行业中寻找具体的突破场景。
Q:有些场景即使前期亏损也会开展。内部如何定义一个优质场景:看未来能否盈利、数据库是否重要,还是看该场景做好后能否快速复制和拓展?
A:场景评估主要看利润或数据。利润方面,只要调用量足够大,即使提供很低的折扣也可以接受。内部有一条参考线:如果日调用量低于百亿Token,客户却仍要求极低折扣,就会被认为不是优质场景或优质客户。这个说法可能比较极端,但实际判断逻辑就是如此, 调用量确实非常重要。如果客户用量未达到相应水平,双方合作就没有必要谈得过于深入,至少没有必要给予过高折扣。
第二个评估维度是数据。有些行业无论如何都希望进入并获得其数据,例如传统行业或SaaS原厂。即使年度框架只有1,000万到2,000万元、规模相对较低,只要能够接入调用量,在服务过程中就可能收集用户轨迹数据,或实现本地数据库、行业代码及其他数 据的回流。这实际上是一个高速的数据回流过程。所有数据回流都可能触发模型自我训练,模型迭代效率也取决于服务了何种客户。这类与Coding强相关的数据客户被称为优质数据用户,属于高价值场景。
还有少量客户的调用链路非常复杂,同时能够提供高价值数据,例如投研和基金客户。这类客户更多使用复杂链路,通常也不太议价。对我们而言,这些客户同时具备高价值数据和高价值场景,但数量非常少。
Q:此前通过客户轨迹获取数据回流受到一些异议,后续这条数据链路是否会受到明显影响?
A:影响很大。目前主要有两种数据获取方式:第一,直接与厂商协商购买数据,这种方式从商业角度看相对合规,但现在很多厂商不敢出售;第二,通过中转站购买海外主流模型的用户数据,包括用户交互和思维链数据,但目前这些数据已经加密,很难获取。
当前并非缺少采购预算,而是缺少足够的可采购数据。在这种情况下,后续模型训练方向可能受到影响。这并不意味着彻底更换模型方向,而是不同训练方向的安排和推进节奏可能受到影响。
Q:未来是否会很难买到国外头部模型真正可用的数据,获取难度会大幅提高?目前采购方式和成本发生了哪些变化?
A:是的。过去会寻找海外隔离供应商或中转站。我们提出数据需求,由对方寻找数据,一次可能收集几百条、1,000条或更多,再将数据全部交给隔离供应商,由隔离供应商最终交付。款项会支付至隔离供应商账户,通过交易主体进行一层隔离。现在隔离供应商基本 都已退出,因为相关数据已经加密,他们没有解密能力;在被要求协助寻找解密公司时,他们认为存在风险,而且是比较严肃的法律风险,因此不再参与。
目前改为寻找个人账号及熟悉相关工程的人员,让其模拟特定身份或场景。模拟完成后,对方会尽可能通过解密或提取手段,将个人用户能够看到的全部问答数据提供出来。当前底层获取成本约为每条40到50美元,最终到手价格约为每条1,500元到1,600元人 民币。要求每条数据构成完整链路,至少包含10轮对话,平均每轮信息量不低于约500字。按单轮问答折算,原文还提到一问一答可能收费1.4万到1.5万元。目前内地流通量大约只有1,000条,而且基本都是模拟数据,并非真正的标准数据库,因此整个行业 对此非常焦虑。
Q:过去采购这类数据的成本是多少?
A:过去成本低很多,最终采购价大约为每条1,500元。此前主要采购Claude数据,底层获取成本通常为20到30美元。
Q:面对数据获取难度和成本大幅上升的情况,内地模型厂商会从哪些新方向应对后训练或整体训练?
A:目前各家公司都在采用不同方法。以字节等公司为例,它们会在海外寻找公司或人员,将过程数据解密,再通过中间隔离层获取这些数据。它们争取的是全量数据,可能需要规模非常大的数据。对我们而言,不一定需要全量数据,可能只需要购买几百条,再根据不同用 户轨迹确认其所属行业,重点观察对方最新版模型的CoT。
如果无法获得外部模型数据,第一条替代路径是抽取行业代码库和长链路业务过程。以科研数据为例,过去购买的是科研报告或论文,现在需要的是完整的科研研发过程,再通过RL将整个研发过程训练到模型中。第二条路径是建立自身的数据飞轮,寻找平台上用量较大的个人用户,定向提供匹配或激励,例如增加Coding Plan额度。用户可以模拟身份和问题,将原本在其他模型中完成的问题放到智谱Coding环境中再次模拟,并在模拟过程中修正生成代码、思维过程或意图不准确之处。整条经过人工修正的链路可以作为系统模拟数据。
总体而言有三种方式:采购数据、系统模拟,以及调整模型迭代路径。第三种方式是推动模型向世界模型方向发展。这并不意味着放弃Coding,而是Coding能力的持续提升越来越依赖叠加不同行业数据和RL过程。后续可能重点发展模型自我迭代和世界模型, 强化模型的物理感知能力,并减少对单一外部数据路径的反复依赖。也就是说,模型自身的迭代路径可能发生偏移。世界模型目前已经被提升到较高优先级,采购的数据中也包含动态数据。
Q:从利润率看,内地模型竞争是否仍会导致价格战持续?模型厂商的毛利率是否仍将处于20%多的较低水平?
A:目前还谈不上将毛利放在首位。对模型厂商而言,毛利是第二项需要考虑的问题,首先要考虑的是降低成本。新兴主流模型已经遇到算力上限,其背后的阿里云、腾讯云算力也可能触顶。与其打价格战,不如争取下一批质量更好的算力,并将推理完整适配到国产芯片生 态。谁能够获得下一批算力,且算力质量更好,同时完成面向国产芯片的推理适配,谁就更可能成为下一阶段的领先者。
现阶段不必优先考虑价格,只要模型更好、成本更优,就会有用户愿意付费。因此,与其说当前是价格战,不如说是算力战,各家都在争夺算力供给。
Q:目前公司的总算力有多少?国产卡和海外卡分别有多少,训练和推理分别如何分配?到2026年底或2027年可能呈现怎样的状态?
A:以下数字可能不完全准确,相关口径本身也比较模糊,只能按现有了解说明。从日常后训练到模型版本更新所需的预训练,目前训练卡总量约为2.7万到2.8万张。基本没有最新的B系列卡,主要使用较早版本的H100,最低为A800、A100等卡。当前算 力主要承担大版本迭代和日常模型训练两类任务。无论从数据处理还是模型训练层面看,目前仍能提供支持。训练任务出现空档时,也会切出一部分算力用于推理。
推理侧有较大比例使用外部或国产算力。原文口径为总共运行约12万张卡,其中60%以上为国产卡,主要服务于生成式推理。算力获取方式包括与地方政府和算力中心合作:在地方项目中获得当地算力资源,由智谱作为运营方协助部署和运维,后续可能与当地政府进行 利润分配。由于公司自身算力也不足,通常不会将这些资源再次转租。另有约20%到30%的英伟达卡作为主力卡;国产卡通常不承担复杂任务,而是服务一两个或少数调用量很大的客户。
主力英伟达卡主要从金山、阿里、腾讯三家租用,字节已经退出供应,数量约为2万多张,主要用于运行Coding Plan等复杂任务。在约10万张国产卡的口径中,目前还有约7万张,主要以ST芯片为主,多为前两年采购或由地方政府提供。其中一部分ST芯片处于盘亏或利用效率较低的状态。
Q:国产卡的实际使用效果如何?在长上下文、复杂Coding或多Agent等高难度场景中,最明显的性能瓶颈是什么,是否已有改善?模型厂商是否实际上没有其他选择,仍必须利用存量和新增国产卡?
A:差距很大。以某国产卡为例,在同样使用Infra优化后,其推理效率可能只有H100的40%到50%;如果不进行优化,效率可能更低。这一判断同时考虑了精度和速度。模型厂商可以说没有其他选择:使用国产卡就必须进行适配,适配后还要持续优化,实际 上也相当于协助国产芯片厂商完善产品。完整工程化团队建立后,每年的成本很高,包括人员成本和算力适配过程中的损耗成本。
海外最先进的芯片无法进入内地,内地又在强调国产算力生态,因此确实没有其他选择。在部分性能较好的国产卡上,目前已经取得较多改善。通过优化,某些任务的相对损耗可以控制在20%以内,但损耗不超过20%并不意味着这些国产卡的绝对性能已经达到最新英伟达卡的80%。相关比较还涉及KV Cache、工程权重、额外限制和更多并发占用。为保证相对精度,可能需要增加限制或占用更多资源,因此不能简单进行性能类比。
真正性能较好的国产卡数量仍然有限,实际运行中,更多任务只能部署到性能较弱的卡上。长任务的运行损耗较严重,运行过程中的精度也不够稳定。目前最实际的方案是将复杂任务部署到英伟达等性能更好的机器上,将单点任务部署到国产卡上。单点任务虽然不复杂,但 调用量可能非常大。如果不苛求速度,吞吐量不足的问题可以通过增加卡数解决。
Q:公司刚完成一轮规模较大的定增。未来半年,无论通过购买还是租赁,分别能够增加多少国产算力和英伟达算力?
A:目前尚未完全确定,因此暂不进行精确估算。定增后的一个目标是在海外建设算力中心,但海外数据中心和数据流动涉及国家审核。现阶段预计建设千卡规模,用于支持海外运营、中转站对模型的需求,以及内地客户出海等诉求。目前规划约为千卡级别,更细的计划尚 不掌握。
内地方向仍是与H公司等算力或芯片厂商合作,协助其优化下一代算力产品。基于其芯片完成版本优化后,我们可能以较低成本获得一批卡。但具体规模目前无法确定,究竟是1万张还是2万张,尚无明确信息。
Q:同行普遍遇到算力瓶颈。考虑到部分公司背靠云厂商,部分公司资金更充足,从您的角度看,谁最有可能率先缓解算力瓶颈?
A:我认为字节最快。字节在算力层面比较务实,年初预判相关产品会出现爆发式增长,因此将当时市场上能够获得的大量资源集中到自己手中,并在合规情况下快速扩大调用量。其服务有时不稳定、速度变慢甚至出现能力下降,也可能与资源调度有关,但字节实际上已经 开展了大量工作。
除字节外,DeepSeek在追求极致开源和工程性价比方面能力很强,工程层面很难有厂商超过。智谱则相对综合,Infra能力也较为领先。同时,公司获得了地方政府和高校提供的大量支持,主要是硬件支持,因此智谱也可能较快缓解算力问题。
其他公司虽然有渠道获得较多国产算力,但在降本和硬件适配方面未必做得足够好,可能尚未真正将重点放在这一领域,也可能还没来得及投入。综合判断,较可能的顺序是字节、智谱、DeepSeek,其他厂商相对靠后。
Q:您将MiniMax形容为“比较抽象”,这一评价具体指什么?
A:我认为MiniMax比较机会主义。他们发现某个方向受到关注后,会先宣布具备相应能力,并快速发布一个版本。如果该版本命中市场,就会大力宣传;如果没有命中,就会迅速收回相关说法,转入内部训练。训练成功后再发布新的模型版本,如果没有训练成功, 就不再提及。其做法相当于不断尝试不同技术路线,因此组织架构和方向变化较大,也不太稳定。
以上仅供交流探讨,不构成投资建议