← 返回

2026.09.23 | 9K | LLM | Kimi Expert: ARR & K4

原标题:KIMI离职专家|Kimi 8月ARR约11亿美元、2026年底预计达15亿至16亿美元且海外业务占60%;K3通过非MIT License推动云平台分销,未来目标占ARR至少35%;K4拟以4.5万亿至6万亿参数强化原生多模态与GUI,但4万至5万张B卡训练需求使发布时间更可能落在2027年Q1

#llm #china

Meritco 久谦 · 2026-09-23

摘要

Kimi 8月ARR约11亿美元,2026年底预计达15亿至16亿美元,海外业务占60%,云平台分销目标占ARR至少35%。K4拟达4.5万亿至6万亿参数,但需4万至5万张B卡,算力短缺使其更可能于2027年Q1上线。

要点

  1. Kimi 8月ARR约为11亿美元,9月预计达到12亿至13亿美元,2026年底预计升至15亿至16亿美元,2027年底目标为35亿至40亿美元;目前海外业务约占60%,国内业务约占40%
  1. K3采用非MIT License,任意连续12个月总营收超过2,000万美元的模型服务运营方需另签商业协议;云厂商实际分成比例通常为12%至18%,未来云平台分销占ARR的目标至少为35%
  1. K4计划采用4.5万亿至6万亿参数的原生多模态架构,重点增强GUI、视觉、视频和语音理解与生成;约5万亿参数训练需4万至5万张B卡,受资源不足影响,发布时间更可能落在2027年Q1
  1. Kimi训练侧拥有约2.5万张等效卡,推理侧按GB300等效计算约3万张,而国内B卡总存量可能仅12万至13万张;模型能力提升中算力贡献至少50%,架构创新约占25%至30%,算力已成为第一瓶颈
  1. K3蒸馏数据占比仅约15%至20%,后续将更多依赖CoT、合成数据、真实Agent轨迹及多模态数据;完全依赖蒸馏通常只能达到目标模型80%至90%的能力,且难以形成差异化优势
  1. K3与2.8构成旗舰和中端模型分层,动态路由可兼顾ARR、用户规模与推理成本;但云厂商通常同时部署3至4款开源模型且替换成本极低,K3必须持续保持领先,才能获得推荐及非MIT协议分成

Q:能否介绍公司8月或9月最新的ARR,以及海外和国内业务的构成?

A:8月ARR为11亿美元。9月目前仅过了三周,基本已经达到12亿美元,因此理论上9月ARR可能达到15亿美元。

Q:您指的是9月底达到15亿美元吗?为什么会有这么大的增长?

A:不是。8月约为11亿美元,9月可能达到12亿至13亿美元,今年年底预计可以达到15亿至16亿美元。

Q:国内和海外业务分别占多少?

A:目前海外业务占比较高,约为60%;国内业务约占40%。

Q:目前的商业化模式是什么?近期Amazon Bedrock也接入了K3。目前订阅计划的收入占比以及通过云厂商分成的收入占比分别是多少?未来是否会逐步扩大与云厂商的合作,整体规划是什么?

A:订阅计划可以理解为主要面向C端用户。6月17日模型上线后,推理算力较为紧缺,因此一度关闭了订阅。2.8 Preview上线后,推理算力瓶颈略有缓解,订阅随之重新开放,这也是9月ARR可能高于8月的原因之一。

第二,K3并非采用MIT License,而是采用非MIT条款。条款规定,如果相关方运营该模型服务,并且任意连续12个月的总营收超过2,000万美元,就需要另行签署商业协议并进行收入分成。最初讨论的分成比例为3%,但实际谈判相对困难。个人开发者或研究机构如果收入低于条款门槛,一般不受影响;超过门槛并参与托管服务,则需要协商分成。

AWS等厂商的议价能力较强,因为其整体营收和获客能力都很强,分成比例通常只能谈到12%至15%左右,而且按照K3上线后由其推动产生的实际收入计算,其中还会涉及平台折扣。相关谈判推进不快,核心原因之一是数据安全和隐私。例如,在Amazon Bedrock上运行时,平台不会向模型提供方交付用户数据,所有用户数据均在云厂商的数据沙盒中运行;这些数据不能用于训练底层模型,推理请求基本采用零数据保留机制。即使通过编码、解码方式处理推理请求和提示词,在输出返回后也无法留存相关数据。

未来希望云平台分销成为ARR的重要组成部分,占比至少达到35%。这也会倒逼模型能力持续提升,后续还会推出K4。为了在与云平台协商token使用数据、审计方式和审计频率时获得一定权利,模型能力必须足够强,并且确实有用户愿意使用,平台才愿意谈判 。此外,协议还会涉及数据合规、出口管制和反规避条款等。海外谈判相对较慢,没有外界想象得那么快;国内谈判相对较快。

Q:能否从更高层面介绍整体出海方案,包括可能采用的渠道、合作厂商及定价方式?除Amazon Bedrock外,整体出海路径是什么?

A:海外主要关注AWS、Google和Microsoft等大型云厂商,因为海外推理算力主要来自这些平台。目前与几家厂商都在洽谈,基本采用收入分成方式。K3已经进入相关云平台;原来的模式是调用云厂商的推理资源销售token,现在更多转向直接抽 佣。非MIT条款中规定的比例为30%,但实际基本无法达到,通常处于12%至18%的区间。

结算依据是用户部署K3后,基于K3获得的下游收入。相关要求已经写入模型条款:超过2,000万美元门槛后,需要另行签署协议。协议通常包括分成比例、token定价的保底区间、数据安全要求、执行规则、产品规则和审计规则等。整体上,商业化与资本化会 同步推进;由于今年和明年的ARR目标都比较高,海外流量能够提供较大帮助。

国内业务受到推理卡供给的较大限制,而海外可以使用当地厂商的算力,限制相对较少。一方面,可以通过海外分销持续销售token;另一方面,可以通过非MIT License获得更多分成和分销收入。这可能成为后续新的收入来源,但也存在较多安全边界和潜在挑战。

Q:明年的ARR目标能否分享具体数字?与云厂商合作后,ARR的统计口径是计入云厂商产生的全部营收,还是只计入抽佣收入?

A:目前希望到2027年年底达到35亿至40亿美元左右。ARR的统计口径比较灵活,目前尚未明确确定;按我的判断,应该会将云平台合作产生的相关收入纳入。

如果将AWS、Google等平台产生的全部原始收入都纳入,30亿美元的目标可能远远不够,目标可能需要设定为80亿至100亿美元。如果ARR目标约为30亿美元,我的判断是基本只计算收入分成部分。

Q:目前K3的能力较强,您提到年底可能推出K4。K4会在哪些领域实现提升?

A:K4可以理解为大参数模型,参数量会高于现有模型,基本在4.5万亿至6万亿左右。当前里程碑设定在今年年底,但我认为实现难度较大,因为Blackwell卡数量较少,现有B卡基本用于训练。K3训练时曾使用约2.5万张GB300,理论上可以支持

  1. 8万亿至3万亿参数模型训练4至5个月;但五六万亿参数的模型需要更多、性能更强的GB300。目前卡的数量不足,如果无法获得足量资源或更多英伟达高端卡,发布时间肯定会推迟。

K4的目标与Astra有些类似。2.8 Preview已在综合理解、多模态视觉生成、语言理解和GUI能力方面进行增强。随着视觉能力提升以及后训练算力强化,模型在系统级GUI理解、端到端系统理解和进入较旧应用执行操作等任务上的能力会更强。整体提升方向包括GUI能力,以及多模态视觉理解和生成。

这并非K2.7采用的编译器式方案,而是原生多模态方案。在预训练的核心阶段就加入动态数据,使模型具备较强的视频、图片和语音理解能力,最终输出也可以包含部分视频和语音。其代价是模型参数量巨大,推理成本较高。

目标是通过Scaling Law将大模型能力提升到较高水平,可能超过当前部分旗舰模型。未来也可能推出中低端、非旗舰模型,因为大参数模型推理难度较高、成本较高,用户也未必拥有足够的GPU资源,实际部署会面临一定问题。

Q:结合现实算力情况,K4更合理的发布时间预计是明年什么时候?

A:今年Q4可能会获得新的GB200、GB300资源。按这一情况判断,K4基本可能在明年Q1上线。在此之前,2.8 Preview已经发布,今年Q4至少会推出2.8正式版或Pro版。

  1. 8正式版在代码库修复、SWE类任务、Coding、代理型知识工作和Deep

Research方面会有一定优势。Agent能力也会增强,包括长代理任务中的中断处理、任务准确率、工具调用准确率以及不同路由下的MCP生态。多模态方面将继续迭代原生视觉能力,处理更复杂的视觉与语言联合任务,并扩展音频、视频等模态。

Q:如果K4的参数量约为5万亿,完成训练需要多大规模的B卡集群?

A:大约需要4万至5万张卡才能支撑训练。

Q:国内B卡总存量是否只有约10万张?在这种情况下,模型训练是否会受到限制?

A:国内云厂商、中立云和模型公司等主体合计持有的B卡可能约为12万至13万张。获得足够数量的卡并不容易,而且各家公司都在开发大参数模型:有的计划在12月发布更大参数模型,有的据说计划发布10万亿参数模型,M3 Pro也约为3万亿参数。因此,算力卡是当前最大的问题。

如果卡无法及时供应,模型发布速度就会放缓,窗口期也会被压缩。如果K4推迟到明年较晚时间才上线,其意义就会明显下降,因为届时其他模型可能已经迭代至5.2,5.3或5.4版本。开源赛道竞争也很激烈,如果新模型无法达到K3这样的领先水平,用户可能 转向免费的中低端模型。

Q:各家都宣称年底推出下一代旗舰模型,但结合算力卡数量来看,这些模型是否大概率会延期至明年年初?

A:目前各家模型迭代很快,一般每2至3个月发布一个新版本。行业趋势是形成路由式产品组合,既包括K3、K4等旗舰模型,也包括类似2.8的中端模型和更低端模型。当算力卡不足但又需要获得市场曝光时,厂商可能在1至2个月后先发布非旗舰或垂类模型;大参数模型需要大量算力卡,而且训练管线无法共用,发布时间可能需要半年左右。旗舰模型开发难度较高,但非旗舰模型不同,例如2.7偏重Coding,2.8 Preview偏重多模态视觉理解。厂商可以通过低价垂类模型吸引用户和流量,待大参数模型推出后再提高毛利或溢价。

Q:这是否意味着今年各家的毛利率都较难提升,基本会先通过价格战留住客户,待下一代模型推出后再尝试提价?

A:我的判断是,各家都在追赶大参数模型。K3上线后,毛利和ARR迅速提升,8月结算中大部分收入也由推理业务贡献。因此,各家普遍认为这类模型具有较高溢价和毛利,都希望发布大参数模型,同时也会推出一些小模型。

因此,各家都在争抢算力卡,公司内部不同团队之间也会竞争资源。关键在于谁能获得更多卡,并据此快速研发大参数模型,通过Scaling Law进一步提升通用能力。这项工作越来越接近制造业:投入的资金和时间越多,通常能够获得越强的能力,最终演变为数据、GPU等资源的争夺,同时也考验公司策略。

Q:目前国内哪些大厂或模型厂商掌握的B卡资源较多?

A:据说阿里云持有量最多,至少有8万张;火山约有2万张;部分中立云厂商合计约有1.5万张;其余1万至2万张可能分布在各大模型公司和直接算力供应方手中,各家约有4,000至6,000张,很难再获得更多。

Q:字节拥有较多算力卡,但豆包的模型能力似乎尚未完全跟上。您如何看待算力卡很多、模型能力却相对一般的现象?

A:云厂商的算力需要商业化,不会全部提供给内部模型团队;内部团队同样需要通过市场化方式获取资源,因此不一定能够拿到足够算力。豆包也存在一些历史问题,早期团队在预训练、后训练和Sandbox环境构建方面积累不足。训练约1.2万亿参数的豆包2. 0时,Infra稳定性和数据环境都比较一般,导致项目推进困难,2024年底至2025年初至少损失了半年时间。

字节早期持有的英伟达卡在云厂商中可能最多,包括H200、H800等,合计至少有20万至25万张,但B卡数量不多。其目标更多偏向DAU、MAU和流量入口,希望通过模型将用户导入抖音、TikTok等生态,因此可能会为了流量牺牲部分模型能力。

豆包的免费用户较多,付费比例较低,约为3.2%至3.3%。其采用算力分层策略,在高峰和高并发时段,会将用户分配到推理深度压缩程度更高的集群,首token延迟约为150至180毫秒,用户体验较差,容易认为模型能力不足。模型能力与预训练的优先级 也有所降低。我认为这是一种阶段性取舍:字节的商业化和流量运营能力很强,但在模型架构、基础迭代和资源投入方面的重心相对不足。豆包本身并不赚钱,投入算力成本主要是为了获取流量,再通过其他生态实现变现。

Q:回到Kimi,目前可使用的算力有多少?后续是否还会继续获取算力卡?当前训练和推理分别使用多少算力,占比如何?

A:按等效卡计算,训练侧约有2.5万张,推理侧按GB300等效计算约有3万张。推理侧基本不使用B卡,或使用量很少,主要采用英伟达H卡,例如H200、H800等,同时也使用国产卡,包括ST芯片、HWJ公司、沐曦和昆仑芯等产品。整体上形成了一个 GPU资源池。

Q:在国产算力卡中,哪些产品对AI推理的适配较好?完成适配后,哪一类产品的效果更好?

A:目前来看,ST芯片体系的表现较好。相关方案包括920B、920C三卡超级节点以及部分920T2单卡。不论是950还是920,其MFU和每秒百万token吞吐效率,在国产卡中基本处于最优水平。

但受ZX公司制造良率和产能限制,相关产品一年可能只有10万至20万片,因此难以获得足够数量。其余需求需要由其他卡补充,例如HWJ公司590系列的性能目前大约相当于920B的70%至75%。沐曦等产品的适配程度更低,适配率只能达到35%至40 %左右。由于其他厂商尚缺少H公司这样完整的超级节点方案,从当前可用性能看,H公司的方案最好。

Q:新一代模型训练除算力紧张外,数据是否也存在瓶颈?有人认为获取头部模型的蒸馏数据很困难,也有人认为只是时间和成本较以前更高,数据仍然可以蒸馏。您如何看待这一问题?

A:以K3为例,蒸馏数据的整体占比较低,约为15%至20%。国内模型使用蒸馏数据的比例会越来越低。当前更重要的是CoT,即获取推理过程、数据配比和权重,数据本身的重要性正在降低。现有合成数据的规模不断扩大,真实用户在Agent操作过程中产生 的问题和轨迹数据占比也在增加。

另一类重要资源是多模态数据。当前模型普遍向原生多模态发展,因此需要外采更多多模态数据,并接触更多数据供应商。整体上会存在一定问题,但我认为相对可控。真正进行大规模蒸馏,需要极高的并发量、数百万个IP和账号,再将每次输出中的部分思维链拼接起来 ,整个过程很慢且成本很高,因此并不建议采用这种方式。

更合理的方式是只蒸馏部分CoT或部分数据,而且不需要对每一代模型都进行蒸馏,因为相邻版本的数据可能高度相似。也可以根据目标数据质量购买或合成数据,以部分弥补缺口。问题在于,如果完全跟随某一家模型进行蒸馏,最终可能只能达到对方80%至90%的 能力,缺少自身独特优势,只能依靠降价竞争。海外模型也在持续降价,推出新的路由模型和中低端模型,并从Dense架构转向MoE架构,采用稀疏注意力等方式降低成本。因此,单纯依赖蒸馏并不是理想方案。

Q:有专家认为目前合成数据的质量并不高。能否简要介绍合成数据的概念和生成方式,以及未来质量能否进一步提升?

A:目前各家的合成数据规模都在增长,特别是在大参数模型出现后,合成数据逐渐成为重要的数据来源。无论在预训练还是后训练阶段,合成数据都很重要,因为高质量真实文本和多模态视频数据非常有限,后期需要引入大量Coding、Math、指令遵循和Computer Use合成数据。

一种基础方法是针对同一个问题生成多个候选回答,再通过验证器和奖励模型对候选回答评分,保留最优回答作为一条问答训练数据。第二种方法是针对偏好模型进行过程奖励和过程标注。传统方式只对最终答案评分,无法判断CoT中每一步推理是否正确,因此可以使用 PRM对两条推理链的每个中间步骤进行标注和评分。

例如,K3在长链Agent任务中会使用步骤级合成数据,将约200个步骤的复杂任务拆分为10至20个子步骤,每个子步骤都有正确的工作流,再由PRM对每个步骤评分并筛选合格结果,从而提高推理任务的准确性。对于Math、Coding和逻辑等具有客 观验证标准的数据,还可以使用形式化验证,通过解码器、编译器等自动生成答案、完成验证和评分,再保留合格数据。

合成数据也存在问题。例如,长期使用合成数据可能导致模型坍塌和真实数据多样性下降,进而出现过拟合或欠拟合。通常需要混合真实数据与合成数据来缓解这些问题。验证器本身也可能出错;如果验证器能力不足,筛选出的数据质量也会受到影响。此外,还需要控制数 据多样性。因此,未来合成数据质量可以提升,但取决于验证器能力、数据配比和多样性控制。

Q:从K3到K4的能力提升中,算力和数据分别贡献多少?模型持续迭代可以依赖哪些因素,哪些因素目前存在明显瓶颈?听起来算力是主要瓶颈,数据是否相对可控?

A:算力是第一瓶颈。这里的算力资源除GPU外,也包括HBM等。影响模型能力的主要因素有三个:一是数据;二是Infra,即算力、HBM等基础资源;三是训练方式和基础架构,包括预训练和后训练阶段采用的方法。

在预训练阶段,高智能数据非常重要。国内仍在探索Scaling Law,是因为算力和数据都不充分,尚不清楚通用能力涌现能够达到什么程度。通过合成高智能数据、增加算力投入和改善预训练规划,可以提升预训练能力。但综合来看,我认为算力的重要性高于数据。高质量轨迹数据和偏好数据并非完全缺失;真正进入后训练阶段后,需要大量算力卡完成推理和训练,用于探索空间、验证规模,并决定采样次数、方向和难度分布,因此对算力的要求很高。

架构创新同样非常重要。例如,KDA是一套类似DSA压缩注意力的机制,下一代会进一步调整压缩比,并结合Linear Attention进行动态压缩,从全局窗口和本地窗口中筛选最有效的信息后再进行组合。这类Attention机制可以降低KV Cache和显存占用;由于参数量也相对较小,推理算力需求和并发压力都会下降。按贡献权重估算,算力至少占50%,架构创新约占25%至30%,剩余部分来自数据。

Q:站在当前时间点,头部国产模型的能力提升主要依靠预训练还是后训练?目前是否主要依靠后训练?

A:目前大部分能力提升依靠后训练。许多新版本与前一版本相比,预训练内容、系统设计和模型架构均未发生变化,只是在后训练阶段加入轨迹数据和合成数据,从而提升Coding、Agent等单项能力。这类训练对算力和负载的要求相对较低,因此各家都在采用 。

预训练对通用能力提升的上限较高,后训练对部分垂类能力提升的上限较高,因此两者会交错进行。行业中可能每5至6个月发布一个大参数模型,每2至3个月发布一个小模型;小模型主要通过后训练迭代,大参数模型主要依靠预训练。

Q:假设Kimi、智谱等下一代大参数模型在2026年底或2027年初推出,同时海外头部模型也发布新版本,届时国产模型与海外模型之间的差距会扩大还是缩小?原因是什么?

A:我对此比较看好。K4可能是五六万亿参数模型,其他国内模型可能约为三万亿参数。到明年这一阶段,K4这类模型的参数规模和通用能力可能超过明年Q1的部分海外模型,但不会在所有能力上实现全面超越。我认为在GUI、Agentic Coding以及部分非复杂推理和常规任务上可能实现超越。

在Deep Research和逻辑推理等方面,国产模型可能与海外模型持平或略差。智谱等模型到明年Q1可能仍难以追上,只能达到当前海外部分版本的水平,在Coding方面大约存在3至4个月的差距。M3 Pro即使发布,我认为其能力可能仅与K3相当或略高,难以超过更强的海外旗舰模型,更多只能作为独立的多模态模型。

Q:M3 Pro迟迟没有发布的原因是什么?是否因为当前能力较为一般,所以选择继续训练?其决策思路可能是什么?

A:其决策思路可能与其他厂商类似:GPU算力不足时,很难直接训练规模很大的模型。M3 Pro的B卡资源还需要分配给海螺、Music、Image等多个模型,算力资源较为分散,因此整体训练速度较慢。

从其迟迟未发布的情况判断,模型能力可能仍需继续提升,特别是在Coding方面。此前M3发布后曾面临股价层面的压力,因此M3 Pro可能会更加谨慎,并继续进行几轮后训练。我估计可能还需要约一个月,或在11月底左右发布。

我判断其最终能力最多与K3相当或略高,价格可能比K3低约三分之一。如果能力略高且价格更低,发布初期可能对股价和调用量形成一定拉动,但这种效果可能只能维持两个月。随着其他公司的新模型以及K4上线,M3 Pro可能再次承压。目前模型每2至3个月就会迭代一轮,如果发布速度较慢且能力没有爆发式增长,就很难形成核心优势。

Q:从下一代大参数模型的研发进度来看,Kimi是否相对领先?

A:可以这样理解。一方面,Kimi在研发进度上相对领先;另一方面,除云厂商外,其掌握的B卡资源在国内模型公司中相对较多,因此具有一定优势,目前在数据方面也有较大优势。

Q:应当如何理解Kimi的数据优势?能否具体说明?

A:主要有两个方面。第一,与K3和K2的调用量有关。K3上线后并发量大幅增长。由于其属于旗舰模型,许多专业用户和企业客户直接调用K3,由此产生了大量专业行业数据。这些数据质量很高,可以补充Computer Use以及真实业务场景中的一手数据。

第二,2.8 Preview是一款完整的多模态模型。部分用户认可K3但认为价格较高,因此会被路由至2.8等中端模型。这些用户通常也是行业内的专业用户或老用户,对视觉理解、视觉判断、视频和图片任务都有需求,因而会产生大量多模态数据。无论从数据规模还是数据质量看,这些数据都相对更具优势,能够为后续训练提供保障。

Q:要保持数据优势,是否必须持续早于竞争对手发布更领先的模型?

A:是的,这是强者恒强的逻辑。率先发布更强的旗舰模型,就能获得更多数据和GPU使用反馈,进而训练更强的模型。如果K4也能保持领先,后续数据质量会更高,并可以继续迭代K5。唯一的问题是,模型能力增强后,推理成本也会上升;如果用户认为价格过高, 可能转向其他模型,进而导致数据质量下降。因此,本质上是成本与能力之间的博弈。

Q:模型能力增强后,推理成本上升并可能导致用户流失,这一问题通常如何解决?是否需要再发布一款能力相对较弱的模型?

A:这正是模型矩阵的价值。K3属于旗舰模型,毛利目标和定价都较高;2.8定位为中端模型,架构和成本相对较低,单点能力突出,但通用能力弱于旗舰模型。后续还会形成由旗舰、非旗舰和中端模型构成的产品矩阵,基本只能通过模型分层解决这一问题。

模型矩阵和动态路由可以保障ARR和用户规模,但会导致K3等旗舰模型的使用量下降,因为部分流量会被分流,进而使旗舰模型获得的数据减少或数据质量降低。这会倒逼厂商持续提升旗舰模型能力,同时将价格控制在用户可接受的区间,以获得更多流量和使用数据。

Q:海外头部闭源模型持续降价或变相降价,会对开源模型产生什么影响?开源模型本身价格已经较低,受影响的程度有多大?

A:海外闭源模型的降价速度超出预期。开源模型的优势在于价格较低且能力接近,但随着闭源模型持续降价,未来双方的价格可能趋于一致。闭源模型也在采用部分MoE架构,并使用更多高端卡进行推理,整体推理效率较高。未来双方在能力和推理成本方面的差异都可 能逐渐缩小。

但只要坚持开源,我认为仍然具有优势。海外金融、教育和医疗等行业高度重视数据隐私,无法使用闭源模型,必须采用开源模型。如果K3仍是领先的开源模型,这些行业就会使用K3进行本地业务推理。再通过非MIT License,对营收超过2,000万美元的商业部署收取分成,可以同时保障使用量和ARR收入。

Q:对于有数据隐私需求、需要自行部署开源模型的企业,它们会只选择能力最强的一款开源模型吗?如果其他开源模型的能力随后赶上,企业更换已部署模型的成本有多高?

A:主要有两种部署方式。第一种是客户自建机房,将模型下载到自己的服务器,并使用自有GPU进行推理。模型提供方通常无法判断客户是内部使用、对外提供服务还是对外销售,因此此类部署一般不会直接产生商业收入。但这种部署对客户业务有帮助,而且替换成本 较高。模型完成本地化部署后,部分模型特征和数据会留在本地服务器中,工作流、Agent生态、Know-how以及推理CoT都与具体模型相关。更换模型可能影响业务增量和业务曲线,因此大部分客户不会轻易替换。

第二种是由云厂商下载模型并向用户提供算力。对用户而言,这与调用闭源模型类似,数据和流程均保留在云厂商侧,而不在客户自己的服务器上,因此替换模型几乎没有成本。用户今天可以使用一款模型,明天换成另一款。多数云厂商会同时部署3至4款开源模型,并根 据推理效率、成本和业务价值进行动态路由:高成本模型用于高价值场景,低成本模型用于价值相对较低的工作流。

因此,在云厂商侧,模型很容易被替换,模型提供方必须持续保持核心竞争力。如果未来不再拥有国内或全球领先的开源模型,就很容易被其他模型取代。

Q:AWS等大型云厂商会同时部署多种开源模型,还是会因为Kimi目前能力较强而优先推荐Kimi?

A:云厂商同样需要盈利。K3采用非MIT License,而部分模型采用MIT License,权重可以免费使用。对云厂商而言,通常会优先部署免费且无需分成的模型,因为这样不会影响其收入。只有当这些免费开源模型无法满足用户需求,或者用户明确要求最顶尖的开源模型时,云厂商才会选择K3。

这意味着K3必须持续保持领先能力,才可能通过非MIT协议获得收入分成。如果未来模型能力下降,即使已经签署协议,云厂商也可以选择不进行推荐;如果没有调用量,就不会产生收入。

Q:在商业化过程中,是否统计过B端客户中有多少比例因数据隐私等原因,对开源模型存在刚性需求,必须使用开源模型?

A:目前无法确定这一比例。直接接触的客户主要是API用户,他们选择API是因为使用方式更灵活,而且推理成本有时低于自行部署或通过其他平台部署。如果客户对数据隐私要求很高,通常不会选择API服务商,因此无法根据现有客户准确统计这一比例。

根据目前的定性统计和调研,金融、医疗行业对数据隐私的要求极高,基本以开源模型私有化部署为主;互联网行业也有一部分相关需求。其他行业大多仍以调用API为主,因为目前涉及的数据隐私问题相对较少。

以上仅供交流探讨,不构成投资建议