2026.09.22 | 9K | LLM | China LLM Channel Check II

音频信息

音频标题: 260922 - Merit 国产模型调研II

相关标的：undefined

议题：

完整音频链接：

音频纪要总结

专家访谈纪要

1. ARR目标与收入结构

a) 当前ARR及年底目标是多少？

• 受访者口径显示，当前月度ARR约为18亿美元。

• 公司已将12月ARR目标上调至30亿美元，该目标已考虑部分转售及数据合作业务收紧的影响。

• ARR在年内增长较快：

1. 5月底至6月约为7亿—8亿美元；

1. 6月底达到约10亿美元；

1. 7月中旬达到约13亿—14亿美元；

1. 当前约为18亿美元。

b) 当前及年底ARR如何拆分？

• 年底口径下，非MaaS收入占比约5%，MaaS收入占比约95%。

• 当前月份非MaaS收入占比约为13%—14%，主要是部分历史项目收取尾款所致，并非MaaS业务增长放缓。

• 截至9月，套餐业务（原始记录中交替称为Coding Plan/Calling Plan）占整体收入约37%—38%，较半年报时约45%的占比持续下降。

• 套餐业务占比下降主要是因为总收入增长较快，尤其是公有云API收入增长。

• 公有云API收入占整体收入接近50%。

• 8—9月转售业务增长较快，占整体收入约20%。

c) ARR增长主要由哪些因素驱动？

• 当前业务增长基本由新客户贡献，老客户增量并非主要来源。

• 公司每月新增约2—3个大型年度框架客户：

1. 单个年框合同金额通常超过1亿元；

1. 客户日均调用量通常达到数千亿至万亿Token；

1. 部分客户原本在其他模型厂商处有较大调用量，后续迁移至智谱。

• 套餐业务在Q3开始后约1个月完成涨价，价格基本提高了1倍。

• 算力规模持续提升，使公司能够承接更多客户和调用量。

• 原有低复杂度场景逐步迁移至国产算力卡，有助于释放英伟达算力并降低推理成本。

• 当前套餐业务大约可支持40万个账号。

2. API、套餐及转售业务结构

a) Coding Plan占比下降是否意味着业务增长不佳？

• 并非套餐业务增长不佳，而是API收入增长速度更快，使套餐业务收入占比被动下降。

• 截至9月，套餐业务占整体收入约37%—38%，较半年报时约45%有所下降。

• 转售业务目前基本与Coding相关，主要涉及Flash、5.3及长程Coding任务。

• 相比过去以单点应用为主，当前转售调用已更多转向代码生成、复杂Coding和长任务场景。

b) 转售业务的战略价值是什么？

• 转售业务是获得收入增量的重要渠道。

• 云厂商、软件开发商和生态平台能够帮助公司快速触达更多终端企业。

• 转售业务还可以形成数据回流，为模型迭代和数据飞轮提供支持。

• 但由于数据合规、安全事件、行业代码归属和最终用户授权等问题，公司后续将适当收紧部分转售合作。

c) 为什么部分转售和SV合作将被收紧？

• 主要原因包括：

1. 部分行业代码、企业数据库可能涉及最终用户授权及数据来源合规问题；

1. 公司已收到部分国央企及合作机构的风险提示；

1. 部分数据获取或流转方式可能引发侵权和网络安全争议；

1. 特定Coding版本的推理成本较高，相关业务利润表现不理想。

• 公司从8月底开始调整策略，9月中旬进一步推进数据采购指南和合作规范评估。

• 后续可能逐步压降部分SV及中小云厂商的数据合作量，部分服务量不排除降至零。

• 受访者明确表示，年底30亿美元ARR目标已经考虑上述业务收缩。

3. 云厂商合作与商业模式

a) 与云厂商主要有哪些合作方式？

• 当前主要包括四类模式：

1. 纯转售模式

• 转售服务商与公司签订年度框架协议，采购API后再向终端客户销售。

• 起售折扣通常为8折—8.5折，以8.5折为主。

• 若月度调用量达到更高档位，折扣可能降至7折或6.5折。

• 5.2、5.3接口可根据用量给予更大折扣。

• 部分版本最低折扣约为8.5折；日均用量较大的客户可能获得7.5折。

• 折扣没有完全统一的标准，通常根据年框规模、月度用量及业务价值逐步协商。

2. 模型源代码买断模式

• 对于缺乏自产Token或模型能力的云厂商，公司可一次性出售模型源代码。

• 字节、腾讯、阿里、百度等厂商均曾付费购买相关源代码。

• 云厂商可在源代码基础上进行微调，并接入自身生态产品。

• 公司收取一次性买断费，后续Token定价和收入由云厂商自行决定，与公司无关。

3. 云生态部署及分润模式

• 公司将模型部署在腾讯、阿里等云厂商的算力资源上。

• 若云厂商生态中的工具或团队调用公司模型，典型分润比例约为70%：30%，公司获得70%。

• 公司能够获得较高分成，主要是因为同时租用合作方算力。

4. 算力合伙人模式

• 常见分润比例为50%：50%。

• 部分被公司投资的算力厂商采用60%：40%的分润方式，公司获得60%。

• 对于一般深度合作厂商，公司负责后台运维，对方提供机器，通常按50%：50%分配。

• 部分松散型合作方直接使用开源模型，不支付模型费用，但可能通过经授权的数据回传等方式进行合作。

b) 数据合作通常如何嵌入转售业务？

• 部分传统企业开发商或软件服务商在采购、转售API的同时，会与公司协商行业数据合作。

• 合作方式可能包括：

1. 由公司付费采购经授权的行业数据库；

1. 经客户许可后，在受控环境中运行相关数据库；

1. 在合规前提下回传用户任务轨迹，用于模型优化。

• 行业代码库、产品测试库和完整任务轨迹对模型训练价值较高。

• 由于合规风险上升，公司将加强数据来源、授权边界和最终用户权益审查。

4. API价格、调用量与推理毛利率

a) 当前Token平均价格是多少？

• 不考虑Flash的情况下，目前输入、输出合并计算后的综合均价约为每100万Token 5.4—5.5元。

• 约半年多前，综合均价约为每100万Token 4元，当前价格已明显提升。

• 商务谈判通常将输入和输出合并，按照综合Token价格测算。

• 由于输入侧存在KV Cache和大量缓存命中，外部按单一输入、输出价格观察可能不够直观。

b) 老客户和新客户分别采用什么定价策略？

• 老客户基本采取逐步上调账单价格的策略，涨幅约为7%—8%。

• 涨价理由主要包括：

1. 模型版本升级；

1. 算力升级；

1. 可承载用量提升；

1. 推理速度改善。

• 老客户整体呈现“加价不加量”状态。

• 新客户以刊例价为谈判基础，输入、输出综合报价约为每100万Token 10—12元，再根据规模给予折扣。

• 新客户常见成交折扣约为6.5折—7折。

c) 当前日均Token中，有多少能够产生收入？

• 日均实际产生收入的调用量约为8万亿—9万亿Token，可按9万亿Token估算。

• 对外披露的峰值曾超过20万亿Token，但该口径可能包含更广泛的模型调用或云厂商相关统计，不能直接等同于收入Token。

• 在约9万亿收入Token中：

1. 约6万亿来自套餐业务，按月度套餐收费；

1. 剩余部分主要按实际调用量收费。

• 原始记录中剩余按量计费Token被表述为“接近3亿Token”，与9万亿总量存在明显口径不一致，需进一步核验，可能实际指接近3万亿Token。

d) 推理毛利率为何能够达到约43%？

• 公司此前披露的推理毛利率约为43%。

• 仅依靠每100万Token约5.4元的平均价格，难以直接支撑43%的毛利率。

• 毛利率主要来自算力及模型结构优化：

1. 约67%—70%的推理任务由国产卡或老模型承载；

1. 老模型参数量较小，适合审核、固定报告、客服等低复杂度任务；

1. 部分老模型推理毛利率预计接近90%；

1. 公司通常向客户承诺最终效果，但不承诺具体模型和算力配置。

• 高复杂度、长上下文和Agent任务更多使用英伟达卡；单点、标准化任务则更多迁移至国产卡。

5. 客户留存、竞争格局与客户价值

a) 老客户留存率如何？

• 套餐业务：

1. 月度留存率约为85%；

1. 季度留存率约为80%。

• Token按量业务需要区分客户留存与主要用量留存：

1. 若仅看客户是否继续产生账单，留存率接近100%；

1. 若看客户是否仍将主要用量分配给公司，月度留存率约为60%。

• 企业通常同时使用多家模型，并根据价格、效果和算力稳定性动态调整主要用量。

• 主要用量可能当月流向其他厂商，次月再通过价格或效果竞争切换回来。

b) 企业是否只选择能力最强的模型？

• 企业通常不会只使用一家模型，而是将不同任务拆分给不同厂商。

• 简单任务主要考虑价格、速度和稳定性，小参数模型即可满足需求。

• 复杂任务则重点考察意图理解、复杂推理、风险识别和Agent能力。

• 在非Agent场景中，国内基模厂商的效果差异相对有限，竞争重点更多是：

1. 服务成本；

1. 算力承载能力；

1. 推理稳定性；

1. 是否能够持续承接大规模调用。

• 受访者认为，当前市场竞争的核心正从单纯价格战转向“算力战”。

c) 智谱在算力承载方面处于什么位置？

• 受访者认为，目前国内单一场景的算力承载能力中，智谱相对领先，其次可能是阿里。

• 字节原本算力承载能力很强，但当前更多资源投入新一代Coding训练及相关产品运营。

• 智谱现阶段对多数业务需求采取积极承接策略，通常与客户协商总价后自行安排模型和算力。

6. 客户ROI与典型应用案例

a) API是否能够帮助客户显著降本？

• 具体效果取决于应用场景，并非所有场景都体现为人力节省。

• 在内容安全审核场景中，大模型能够显著减少人工审核规模。

• 以某大型内容平台为例：

1. 原有安全审核人员约8000人；

1. 接入大模型并由人工复核后，人员规模降至约2000人；

1. 人员需求降至此前约1/4。

• 大模型主要承担正面、负面和中间意图识别，复杂中间意图再交由能力更强的模型处理。

b) 大模型是否也能为客户创造新增收入？

• 部分业务不是替代人力，而是帮助客户增加新的产品能力和付费业务。

• 以某摄像头厂商为例：

1. 在家庭摄像头中增加老人、儿童预警和家庭内容存储功能；

1. 推出每月35元的会员服务；

1. 每日调用量接近万亿Token；

1. 相关业务为客户带来约20%—30%的营收增长。

• 对此类客户而言，大模型API的核心价值是创造新增收入，而非降低人员成本。

c) 企业如何进行多模型任务分配？

• 企业通常将工作流拆分为多个Agent或子任务。

• 简单意图判断交由低成本小模型，复杂推理和主要业务量分配给能力更强的模型。

• 例如：

1. 正负意图识别可由小模型完成；

1. 被拦截内容的中间意图需要进一步多线程判断；

1. 高复杂度部分再分配给命中率更高的大模型。

• 大型终端产品可能同时运行多个Agent，每个Agent对应不同模型厂商，效果更好的厂商可能获得更多任务份额。

7. Cowork及下一阶段应用场景

a) Cowork与Coding是什么关系？

• Cowork本质上是Coding能力的外延。

• Coding不应仅理解为代码生成，还承担执行任务、调用工具、推动流程和完成复杂操作的作用。

• Cowork的目标是将Coding从软件开发扩展到办公、研究、数据处理、创意生产和业务执行。

b) 当前Cowork主要有哪些应用方向？

• 主要包括以下场景：

1. 文档与办公协同

• 文档生成、办公协作、项目记忆和长记忆管理。

2. 搜索与调研

• 面向量化交易、投研机构的搜索、可行性报告和数据生成。

3. 数据处理与分析

• 对企业数据进行清洗、分析、总结和自动化处理。

4. 创意设计与多媒体生产

• 为画布、视频及内容创作平台生成脚本、分镜和创意方案。

• 5.3已进入国内部分主流画布创作工具，相关调用规模较大。

5. 日常业务流程协作

• 通过Coding能力推动沟通、审批和跨系统业务流程。

6. 交易执行及界面理解

• 包括交易操作、图形界面理解、发票和报销单据审核。

7. Agent代理任务

• 中英互译、新闻总结、要素提取、行业应用规划、构建和测试。

8. 复杂推理与AI Science

• 服务科研、复杂研究和高阶推理任务。

c) 企业通过什么方式使用Cowork能力？

• 搜索、调研、问答、办公协作和创意生成可直接调用API。

• 集成到软件中的协作、图像审核等场景，通常由SaaS或软件厂商接入模型。

• 对公司而言，接入API的SaaS厂商即为直接客户，公司通常不会继续追踪其下一层终端用户的个体用量。

8. 2B客户拓展与销售机制

a) 泛互联网客户如何拓展？

• 泛互联网客户主要来自公司自有资源池。

• 销售根据客户调用量判断运营价值，并认领客户，随后推进：

1. 建立联系；

1. 价格谈判；

1. 调用量提升；

1. 年框协议洽谈；

1. 新场景挖掘和ROI测算。

• 老客户通常继续由原销售维护。

• 销售激励与客户充值和消耗挂钩，促进客户持续扩大调用量。

b) 如何争取其他厂商的大用量客户？

• 公司会重点关注原本在其他模型厂商处拥有较大调用量的客户。

• 主要竞争方式仍是价格和算力承载能力。

• 若客户在其他厂商处获得8折，公司可能提供4折；若场景具有战略价值，甚至可能进一步降低价格。

• 大幅折扣的前提通常是客户具备足够大的调用规模或高价值数据。

c) 非泛互联网行业如何拓展？

• 公司对非泛互联网行业进行行业化划分，并为销售制定项目和调用量KPI。

• 重点行业包括：

1. 政府及政务服务；

1. 金融，当前以非银业务为主；

1. 国央企及事业单位；

1. 3C制造；

1. 软件开发、办公助手和客服；

1. 游戏等垂直行业。

• 银行业务目前落地难度较高，政府业务主要集中于政务门户、政务大厅和政府服务。

d) 公司如何判断一个场景是否值得投入？

• 核心判断标准是利润和数据价值。

• 利润维度：

1. 只要业务量足够大，即使折扣较深也可以接受；

1. 若客户日均调用量低于100亿Token，却要求极低价格，内部通常认为合作价值有限。

• 数据维度：

1. Coding、传统软件和SaaS客户能够产生高价值任务轨迹；

1. 投研、基金等复杂流程客户同时具备高价值数据和高价值场景；

1. 此类客户通常议价意愿较低，商业价值较高。

• 公司过去愿意以较低价格进入部分行业，主要目的是形成高质量数据回流，但后续需要更加严格地满足授权和合规要求。

9. 数据获取、合规风险与训练路径调整

a) 数据合规问题对业务和模型训练有何影响？

• 国央企、软件厂商和部分合作机构对数据回流提出警告，影响较大。

• 传统软件厂商当前对出售数据库及任务轨迹更加谨慎。

• 海外模型用户轨迹数据普遍开始加密，原有中间隔离供应商因缺乏解密能力和担忧法律风险而退出。

• 受访者表示，其负责的数据采购KPI可能无法完成。

• 截至明年4月，相关采购预算超过1.5亿元，但预计无法全部使用。

• 如果高质量数据长期无法获取，后续模型训练方向和迭代速度可能受到影响。

b) 高质量海外轨迹数据的价格发生了什么变化？

• 过去高质量数据采购成本相对较低：

1. 国内采购价约150元/条；

1. 海外Cloud等来源约20—30美元/条。

• 当前高质量完整轨迹的获取难度显著增加：

1. 初步获取成本约40—50美元；

1. 经多层处理后，到公司手中的成本可能达到1500—1600元/条；

1. 每条完整数据通常至少包含10轮对话，且每轮不少于约500 Token。

• 当前国内可流通数据仅约1000条，且多数为模拟数据，真实轨迹数据稀缺。

c) 后续训练将采用哪些替代路径？

• 后续可能重点采用三类路径：

1. 合规采购行业过程数据

• 从只采购科研报告、论文等结果数据，转向采购完整研发过程。

• 通过强化学习对完整过程进行清洗和训练，提升模型在特定行业的能力。

2. 用户授权的身份及场景模拟

• 寻找高频个人用户，在取得明确授权后模拟特定身份和任务。

• 用户对模型生成结果进行修正，将完整修正过程作为训练数据。

• 重点获取意图理解、代码修正和复杂任务执行链路。

3. 模型自我迭代与世界模型

• 公司认为Coding单纯依靠Scaling Law已逐步接近瓶颈。

• 后续重点方向包括模型自我迭代和世界模型。

• 世界模型涉及物理感知、动态视觉数据和更复杂的环境理解，目前优先级明显提升。

10. 算力结构、国产化适配与未来扩容

a) 当前训练算力规模和结构如何？

• 受访者估计，内部用于模型后训练、版本更新和预训练的自有集群约有2.7万—2.8万张卡。

• 主要卡型为H100、A800和A100，基本没有B200、B300。

• 公司目前大版本迭代和日常模型更新已基本达到“每日更新”。

• 外部租赁及合作算力口径约为10万卡级别，但原始记录中不同口径存在一定混杂，具体需以公司正式披露为准。

• 国产卡占外部算力60%以上；另一处口径显示约10万张卡中国产卡约7万张，其中昇腾占国产卡约60%。

• 英伟达主力卡大约还有2万多张，主要从金山、阿里和腾讯租用，字节已停止向公司提供相关租赁算力。

b) 国产卡的实际推理效率如何？

• 以100B模型为例，在完成Infra优化后，部分昇腾卡的推理效率约为H100的40%—50%。

• 若不进行适配和优化，性能差距可能更大。

• 国产卡在精度、速度、长序列和缓存使用方面仍存在明显挑战。

• 公司已为国产推理和异构计算建立专门的Infra及中间件团队，相关人员和适配成本较高。

c) 国产卡和英伟达卡如何分工？

• 复杂Coding、长上下文、多轮Agent等任务优先部署在英伟达卡上。

• 审核、客服、固定报告等单点任务更多部署在国产卡上。

• 单点任务对速度要求相对较低，可通过增加卡数解决吞吐量问题。

• 对部分新一代国产卡，公司已开展较多优化；在特定框架下，长序列任务的相对损耗可控制在20%以内。

• 但“损耗不超过20%”不代表国产卡已达到B300约80%的绝对性能，二者不能直接类比。

d) 国产算力主要分布在哪里？

• 受访者了解的主要集群包括：

1. 云上贵州；

1. 乌兰察布；

1. 门头沟京西智谷；

1. 济南超算中心；

1. 无锡超算中心。

• 京西智谷的国产卡规模相对较大。

• 公司通过国投和地方政府合作，约定地方算力集群优先向公司供应。

• 公司帮助合作方完成模型和芯片适配，后续再根据合作安排进行利润分配。

e) 定增后算力扩张方向是什么？

• 短期暂不重点购买英伟达算力，但可能继续通过租赁获得部分资源。

• 公司计划在海外建设算力中心，以支持海外运营和国内业务出海。

• 海外算力中心初期规划约为1000卡规模，整体规划为数千卡级别。

• 海外建设仍需要解决数据跨境、监管审核和模型运营合规问题。

• 国内将继续通过算力联盟，与华为等国产芯片和算力厂商共同进行模型及Infra适配。

• 具体新增国产卡规模尚未明确。

f) 国内哪家厂商最可能率先缓解算力瓶颈？

• 受访者认为字节可能最快缓解算力瓶颈，主要原因是：

1. 提前预判业务爆发并集中采购算力；

1. 算法和Infra执行较务实；

1. 能够在合规框架下整合较大规模资源。

• 除字节外，智谱可能处于相对较好的位置，主要优势是模型、算力和商业化能力较为综合。

• 当前行业核心竞争已从“谁的价格更低”逐步转向“谁能获得更多高质量算力，并完成国产芯片适配”。

结构化总结表格

新版prompt提炼之后的转译

提问者：此前应该是前10几号，管理层在Q2业绩会上提到ARR为16亿美金，之后又更新至18亿美金。最近是否还有更新，还是维持这一口径？

回　答　者：年底目标已经上调，12月份上调至30亿美金；当月ARR为18亿美金，基本是这一状态。

提问者：能否对当前及年底的ARR进行拆分？MaaS业务和其他业务的占比分别是多少？MaaS业务中，API与Coding Plan大致如何拆分？

回　答　者：按照年底的口径，非MaaS收入占比大概是5%。当月的情况有所不同，并不是MaaS增长不理想，而是去年有几个项目会收取部分尾款，因此当月ARR中，非MaaS收入占比大概为13%、14%。更细的数据目前无法拆分，因为我现在没有关注这些数字。此前我在产品侧时会查看相关数据，但目前无法看到特别细的数据，也不会再回去询问。

剩余将近90%的收入来自MaaS平台。截至9月份，Coding Plan占整体收入的37%、38%。这是一个比较好的状态，相较于半年报时大概45%的占比，这一比例一直在下降，主要原因是整体收入持续增加，尤其是API收入增长。剩余将近50%的收入，基本来自公有云API。

API收入还可以进一步拆分，其中一部分是转售业务。目前，国内主流云厂商和部分其他厂商都在开展转售业务。转售业务还可以细分，例如通过算力合伙人体系开展，或者由相关厂商直接转售我们的API。8月份、9月份，转售业务有所增长，基本达到整体收入的20%。

转售业务带来了较好的发展前景。目前转售的业务基本都与Coding相关，包括Flash和5.3。此前转售业务主要服务于一些传统场景，例如单点应用；现在则基本都是Coding任务，例如长程任务或纯Coding场景下的代码生成。

从目前情况来看，转售市场不仅是实现增量的较好方向，也是推动数据飞轮的较好方向。不过，后续转售业务可能需要适当收紧。

回　答　者：不知道您是否关注过，近期发生了好几起基普模型主动攻击部分用户账户的事件，包括盗取用户数据，以及运行一些付费内容。上个礼拜也发生了一些安全事件。因此，在下一阶段，我们通过 code 和自有 API 开展的转售业务可能会有所压缩。

事实上，我们内部已经收到一些国央企的警告。国央企也是相关机构所谓的 FC，他们随后向我们反馈，自己已经受到警告。

提问者：这部分业务收缩应该如何理解？我原本还想进一步了解未来与云厂商的合作方式。例如，海外的 Kimi 也接入了 AWS 的 Bedrock。具体而言，与云厂商如何合作，分成模式是什么？您的意思是国内业务会收缩，而国外业务不会收缩吗？能否进一步展开说明？

回　答　者：国外的情况是，我们在 Open 上的主要用量基本都是刷量，或者逆向我们的 coding plan，而不是接口。由于 coding plan 比较便宜，很少有人直接使用我们的接口。除此之外，还有人直接使用我们的开源版本模型运行和刷量，但这些情况基本仍以国内为主。

国内大概有几种合作形式。第1种是纯转售。此类转售服务商的体量或资金实力通常没有那么强，基本会与我们商谈折扣，并签订1年的年框协议。

转售业务的起售折扣基本是8折到8.5折，以8.5折为主。具体折扣会根据年框规模变化，我们按照月度账单核定。例如，签订1年的年框协议，折算到1个月，就是年框额度除以12。如果达到相应的月度额度，我们可能会与其商谈7折或6.5折左右的折扣。

但这仅限于我们的5.2、5.3。SH对外的最低折扣基本是8.5折。对于部分业务量较大的用户，日均用量可能达到上万，我们可能会给予7.5折。总体而言，这类折扣主要适用于5.2、5.3的接口。

达到某一档用量后，进入下一档时，我们可能再降低几个点。例如，增加一定数量的 tokens，就相应降低一定的折扣点数。具体没有特别详细、统一的标准，通常需要逐步协商确定。

第2种合作形式主要面向没有自产 tokens 能力的云厂商。我们可能会将模型源代码打包出售给这些厂商。字节、腾讯、阿里和百度等厂商基本都曾付费购买过我们的源代码。

这些厂商可以在我们的源代码基础上进行微调，主要用于后续开发，并服务于自身的生态型产品，例如百炼。此类生态型产品运行后，可以在百炼上调用所有模型。

在这种模式下，厂商会向我们支付1笔买断费。此后，其自身生态产生的所有 tokens 均由厂商自行定价，相关定价和费用与我们无关。

回　答　者：还有一种模式是，部分云厂商，如腾讯、阿里，拥有自己的生态网络。其生态网络中可能包括飞书、铁维讯，或者类似 TFT 的工具平台，以及百店团队。这类合作比较接近我们所说的算力合伙人模式，即我们会将模型部署在他们的算力机身上。对我们而言，这种部署行为属于一次租赁；对他们而言，也可能会为我们争取一些折扣。

除折扣外，如果其团队基于自身工具或团队生态调用我们的模型接口，分润比例基本是70%和30%，其中70%归我们。我们能够获得较高比例，主要是因为还租用了他们的算力。

这3种是主流模式。还有一种相对抽象的模式，我们称为算力合伙人。算力合伙人的利益分配基本为50%和50%，或者40%和60%；在40%和60%的分润方式下，我们获得60%，算力供应商获得40%。目前以50%和50%居多。能够拿到4:6分成的，基本是我们投资过的厂商，例如规矩流动，以及其他几家我们投资过的厂商，我们基本都获得60%。

对于其他仅属于深度合作的厂商，例如红景，以及中院的几家厂商，我们按照50%和50%分配份额，由我们负责后台运维，由他们提供机器。

此外，还有一类算力合伙人会主动与我们合作，但合作关系相对松散，例如金山等云厂商。他们会选择使用我们的开源模型，不会向我们付费，而是直接运行我们的开源版本。但在这一过程中，他们有可能使用我们的模型做“拆水”。例如，开源模型在某些精度方面表现没有那么好，如 COT 的精度，COT 挂钩基本就是“新行”。在“新行”过程中，基本会使用智谱的原厂模型来做。

他们向我们承诺，会将所有用户从提问到回答的完整轨迹数据全量回传给我们。“信和”的数据本身就在我们手中。这实际上也形成了一个数据建设过程。目前，我们获取这些回传数据的价格非常低，基本上1条数据为10元，10元基本就能获得1条完整的用户轨迹数据。这是一种相对抽象的合作模式。

提问者：关于您刚才提到的收费，具体是在哪几种模式中收费？理论上，如果将源代码卖给腾讯、阿里等厂商，只收取1次技术服务费，后续对方是否使用就与贵方无关。您所说的收费，更多是指后续的合伙人模式吗？

回　答　者：关于我们的收费模式，我可以结合此前负责的工作进一步说明。从今年7月份开始，我不仅负责 API 的声量，还承接了一部分企业的数据化项目，这也会涉及后续工作。

从7月份开始，我开始专门面向传统企业开发商，并与传统企业开发商以及部分大型云厂商的 SV 开展转售生态工作。对方也可以成为我们的合作伙伴，直接进行转售和使用。

回　答　者：他们主要负责采购和转售。在这个过程中，我们会与其沟通，确认他们的本地数据库是否可以交付给我们，由我们付费采购；或者，他们是否同意本地数据库在我们的 VM 上流转和运行。这样一来，无论是他们的行业代码库，还是产品开发测试所使用的产品库，对我们而言都将处于相对透明的状态。如果他们允许我们采购，或者主动将其所谓的行业库交给我们，这些数据对我们而言肯定更有价值。

但在收到多方警告后，我们也意识到，第1点，很多行业代码会涉及其最终用户的合规问题或数据源问题；第2点，在爬取这些数据的过程中，很多公司也曾向我们发出警告，认为我们所谓的网络攻击行为构成侵权。

因此，面向 SV 的转售以及部分战略合作，在下1个阶段可能会针对性收紧。此外，在向他们提供 coding 服务时，他们基本选择的也是特定版本，对我们而言，成本表现并不理想，利润也不高，所以后续会适当收紧。

提问者：年底31美金的目标已经考虑这些情况了，对吧？

回　答　者：对。大概从8月底开始，我们就已经着手调整策略。到9月中旬时，我开始负责评估后续的数据采购指南。目前，基本上所有中短站云厂商以及 SV 的相关数据，都会经由我处理。我每天接收的数据量几乎达到 P 级，并对其进行抽样。

在采购方面，我们目前优先绕开 SV。同时，我们也在做相应准备，后续可能会在服务过程中逐步将这部分量降至0。我们的30亿美金目标已经完全考虑了这些因素。后续我们的服务可能还会继续增长，并直接覆盖部分 coding 服务。

提问者：明白。我想换一个角度进行拆分。以Q3为例，目前AR增长中，来自新付费客户的增长与老客户增量的比例大概是多少？此外，用量与价格之间呈现怎样的变化趋势？

回　答　者：关于 coding 业务中新增客户与老客户的增长比例，我没有具体计算过。但我们的增长基本都来自新客户，出现增长时，主要是新客户贡献，并不是老客户。至于老客户是否会因新产品等因素继续增长，我目前没有相关数据，我们可能也没有对这项数据进行过拆分。

提问者：关于第2个问题，我想了解的是价格，对吧？

回　答　者：对。价格方面，如果不考虑 flash，当然，flash 对我们收入增量的贡献也不够。如果不看 flash，目前平均每100万 tokens 的价格是5块4，差不多是这个水平；每100万 tokens 约为5块4、5块4或5块5。该价格有所增长，大概在半年半前，平均每100万 tokens 应该是4块钱。

回　答　者：从块9到5块1，目前平均涨到5块4左右。我们此前披露过，推理毛利约为43%。仅靠5块4的价格肯定无法支撑43%的毛利。之所以能达到43%，是因为约67%到70%，也就是70%左右的推理，使用国产卡和老模型运行。老模型是参数量相对较低的小模型，其推理毛利预计接近90%。

这类场景主要是所谓的翻点场景，例如各类审核、固定报告生成和客服等。其使用量很大，但对模型本身的Agent能力要求没有那么高。因此，在向客户承诺并兜底效果的情况下，我们不会承诺具体的算力和模型。

提问者：对于老客户而言，如果模型从5.2升级到5.3，老客户的平均消费额是否会增加？还是因为价格也会下降，所以实际上没有明显的增长趋势？

回　答　者：如果不考虑Flash，我们对老客户采取的是逐步上调账单的价格策略，基本呈现7%、8%的上调趋势。上调7%、8%时，我们采用的口径比较一致，即模型和算力均已升级，能够保证更大的使用量和更快的速度。用户目前也能够接受。

因此，老客户基本处于加价不加量的状态。我们目前更多是在拓展新客户，新客户的价格会重新谈判。谈判主要围绕刊例价展开，将输入和输出合并计算，平均价格约为10块钱到12块钱，再进一步商谈折扣。新客户的折扣基本会到70%，即70%、65%，不会像之前那么高。

提问者：8月底时，我们提到AR为16亿美元，目前的口径可能是18亿美元，相当于1个月增长了2亿美元。接下来还有10月、11月、12月这3个月，理论上这3个月每个月的AR增长会快于目前阶段，对吗？主要有哪些因素会加速这一增长？

回　答　者：基本在5月底、6月份时，我们的AR已经达到约7亿至8亿美元；到6月底，AR已经达到10亿美元。从6月底到7月中，AR直接上涨至约13亿、14亿美元。

这一过程与目前的情况相似。我们正在逐步将字节此前的大量用户转移到智谱的环境中。现在字节也认为，其在LM方面已经竞争不过智谱，智谱是LM领域的绝对领先者。不过，字节的业务量仍然比我们大。因此，这些新客户虽然是其他厂商的老客户，但对我们而言属于暴利业务。

回　答　者：目前，我们基本上每个月都会签2到3个大型年度框架合同，并从当月开始执行。每个年度框架合同的金额基本都在1亿元以上，对应客户的日均调用量通常达到几千亿至万亿Token级别，因此年度框架合同金额基本都会超过1亿元。这是业务增量的主要来源。

第2点是Calling Plan。用户数量并没有大规模上涨，主要是因为我们发布Line后，很多用户开始选择使用或调用Flash。但Calling Plan实际上已经涨价。关于涨价，我们讨论了好几个月，最终在Q3开启后大概1个月，将价格基本提高了1倍。此前，营收基本可以理解为随着用户数量翻倍而翻倍；目前我们能够支持的规模大约为40万个账号，因为我们的算力也在持续增长。

总结来看，增长主要来自几个方面。第1，我们正在承接一些过去调用量很大、但原服务方目前无法继续满足需求的客户，每个月都会新增2到3个此类大型客户。第2，Calling Plan涨价。第3，我们的算力一直在增长。我们持续寻找算力资源，并将原有场景的客户迁移到国产化算力卡上。我们现在对外介绍使用国产化卡运行，实际承载的主要就是这些原有场景，成本要低得多。

提问者：刚才提到的每100万Token 5.4元，是输出价格，对吗？另外，之前业绩会上提到日均Token可能达到40 trillion，这一数据是否包含输入和输出？

回　答　者：是的，包含输入和输出。输入价格会低很多。由于存在KV Cache，我们现在基本将输入和输出合并计算。商务谈判时，会按照每100万Token的综合均价来看。输入过程中会经过KV Cache，其中有大量缓存数据需要命中，因此我们将其折算为每100万Token的综合数值，但从外部来看可能不那么直观。

提问者：我还想了解一下，日均Token数量中，实际产生收入的有多少？试用和内部使用的有多少？也就是说，其中有多少能够产生收入？

回　答　者：目前日均实际产生收入的调用量大约为8万亿到9万亿Token。对外披露的峰值曾经超过20万亿Token，但这一数字比较虚。真正对应收入的调用量大约为8万亿到9万亿Token，可以按9万亿Token计算。

在这9万亿Token中，大约6万亿Token来自Calling Plan，并不是按照调用量计费，而是按照每月调用套餐收费。另外大约3亿Token，不到3亿但接近3亿Token，基本按照调用量收费。

提问者：您刚才所说的口径，统计的都是从公司侧输出的Token，对吗？部分云厂商可能会购买你们的模型，这部分应该不计入你们的统计口径。

回　答　者：这部分肯定不计入。我不确定，但我认为有可能。

回　答　者：对外披露的20万亿Token可能会包含这些内容，但这只是统计口径问题。若按5块钱计算，例如每百万Token为5块50，那么20万亿Token每天对应的金额会很高。

提问者：老客户目前的留存率如何？整体呈现什么趋势？

回　答　者：老客户需要区分Calling Plan和Token业务。Calling Plan的留存率相对没有那么高，按月度看基本为85%；按季度看，基本在80%上下浮动。

Token业务的留存需要区分客户留存和主要用量留存。只要客户仍在使用并产生账单，就仍然留在平台上，实际变化主要在于客户将主要用量分配给谁。主要用量的月度留存率约为60%，客户下个月也可能重新回来。

如果只看客户是否留存，留存率基本为100%。客户签订账单后，肯定会在框架内运行一部分用量。某个月可能有销售以较低价格争取到客户的主要用量，我们下个月再争取回来。因此，客户基本都在留存，但主要用量的置换比例约为60%。这实际上是各家相互争夺市场的过程，而且每个月都会快速变化，因为我们按月查看账单。

提问者：我们是否观察过长期付费客户实际通过API节省了多少人力，或者增加了多少收入？是否对客户端的实际效果进行过测算？

回　答　者：需要根据具体场景判断，我们对此进行过测算。以安全审核场景为例，我们曾与高德、小红书等内容量较大的泛互联网平台合作，为其内容发布过程提供安全审核。

在处理政府向议题时，我们认为，对客户实际工作效率的提升或降本效果没有那么明显。后来向客户开放白名单后，我们增加了中间意图的安全审核。中间意图判断是安全审核员的主要工作，即判断内容是否存在负面引导；如果不存在，就没有必要拦截。

以小红书为例，他们原来大约有8000名安全审核员。采用我们的服务后，由人工对大模型处理结果进行复核，最终大约只需要2000人，人员规模仅为此前的1/4。

但不同场景需要分别判断。我们目前开展的很多业务，其用量大小与客户人员数量没有关系，相当于为客户增加了1条新的业务线，或者为其产品增加了1项新的垂直能力。

例如，我们服务过1家摄像头企业，是国内警务厂商。该企业在摄像头产品中推出了付费会员服务，每个月收费35块钱。结合大模型后，主要用于老人、小孩等家庭场景的预警和报警，以及家庭温馨时刻的线化存储，本质上是行为识别与向量化。该业务每天将近能够运行万亿Token。对这类客户而言，并没有节省任何人力。

回　答　者：他们自身的业务量实际增长了20%至30%，为其带来了20%至30%的营收。每位用户增加35元会员费后，只要能够把主要业务量运行起来，RI就完全可以覆盖成本。这种情况比较多。

提问者：以小红书的安全审核为例，在其工作流中，会同时接入多家模型的API，还是在使用某家效果较好的模型后，就会持续使用该模型？

回　答　者：当然会接入多家模型。可以将小红书的安全审核理解为1个简单的Agent，但它会将这个Agent分成几个部分，例如正面意图、负面意图和中间意图，并将正负意图与中间意图分成2个部分。

在正负意图识别方面，某个模型参与的业务量可能较小，但其自身的风控能力较好，适合用于正负意图的识别和拦截。这个模型平均每天可能处理100个Token，中间意图部分则增加1块，平均处理1000个Token。对于100、1000个Token的处理量，只需要使用1个小参数模型，其本身价格也较低，能够满足需求。

对于中间意图，即所有被拦截的意图，还会进一步执行多线程任务，将任务延伸后交给1个已开通白名单、能力更好的模型。这部分会分配主要业务量。例如智谱表现较好，就会将其分配给智谱。

最典型的是小米。小米的小爱同学大约有8条大型Agent，基本上每个Agent后面对应1家厂商。表现较好的厂商，例如豆包，可能会分配到2条Agent；智谱的合作可能相对分散、松散，我们可能只能分配到0.5个Agent，这种情况也存在。

最简单的这部分任务，实际上没有太多厂商竞争。企业会自行判断其价值，只要成本可接受、速度足够快，模型即使小到70B、60B，只要够用，就会采用，甚至可能自行搭建1套模型机制。

剩余的复杂任务可能需要先判断意图，再判断其中是否存在仅从文字层面无法识别、但在话术中包含的恶意诱导。这类任务对模型能力的要求较高，小参数模型肯定无法完成。企业会加入一些样本条件来测试模型能力，最终选择命中率较高的模型。

提问者：这些场景的竞争是否非常激烈？企业并非只选择能力最强的模型，而是会结合具体场景进行综合判断吗？

回　答　者：是的。对于非Agent任务，我认为国内所有基模厂商的服务质量都差不多，差异主要体现在服务成本和自身算力的承载能力。

例如，字节原本是算力承载能力最强的公司，但目前将主要资源投入新1代Coding训练以及C的运营，因此不会再把主力放在这一领域。

从整体市场来看，算力承载能力最强的可能是智谱，其后可能是阿里。基于这一情况，很多单一场景如果智谱确实不考虑，可能会由Max承接一部分。但目前来看，智谱基本上是照单全收。双方会商定1个总价格，至于具体如何设定，则由其处理。

提问者：关于终端用户的应用场景，此前可能以 coding 场景居多，但我们之前也提出了 cowork 的概念，并且这方面的订单也比较多。对于 cowork，能否进一步细分？您认为未来 AR 增长主要会由哪些场景带来 cowork 的增量？

回　答　者：目前来看，cowork 其实也是 coding 场景的延伸。现在大量的 cowork 场景基本集中在几个方面，整体规模也相当可观。在执行任务的过程中，我们主要依靠 coding 能力。因此，对于 coding，不能进行狭义、抽象的理解，而应从广义角度看它能够发挥什么作用。我们认为，coding 在整个过程中主要承担执行作用。现在谈 cowork，实际上是希望拓宽 coding 的应用范围。

目前，相关应用主要集中在几个高价值行业，具体能力可以分为几类。第1类是文档办公，包括办公协同以及具备长记忆 memory 能力的项目。

另一类是搜索和调研，主要对应量化交易或投研机构。这些机构会开展可行性报告研究，每天使用我们的 search，并生成相关数据。

此外还有数据处理与分析，以及创意设计和多媒体内容生产。创意设计和多媒体内容生产主要是指，国内目前有很多运行 lance 的平台，需要 LM 帮助编写脚本，例如分镜稿等，这方面的使用量非常大。我们的 5.3 基本已经进入国内主流的画布创作工具，这些工具都在使用我们的 5.3，因此相关规模非常大。以上是目前 cowork 较为主流的几个场景。

除这些场景外，还包括日常业务流程中的沟通协作，即通过 coding 推动协作流程；也包括交易执行，以及基于图像界面理解、偏向世界理解的操作。世界理解的概念较为抽象，目前接触较多的是报销场景，例如理解和审核报销发票或小票，这类应用比较多。

剩余的应用主要是 agent 代理性任务。这类任务覆盖范围很广，例如中英互译后的问题分析、新闻总结或要素总结，以及面向特定行业开展应用的规划、构建和测试。此外，还有复杂推理场景，范围同样较广，包括 AI Science 相关应用。以上都是相关能力能够得到高效应用的场景。

提问者：企业是直接部署，还是由软件厂商调用我们的模型并集成到其产品中？

回　答　者：不一定。日常的搜索、调研、问答、办公沟通协作以及创意生成，可以直接通过我们的接口完成。对于集成到软件产品中的办公沟通协作，或者带有图像性质的审核，基本都接入我们的F生态，客户本身可能就是软件厂商或SaaS厂商。

对我们而言，接入的SaaS厂商就是最终用户。我们不会再关注下1层用户每天每人的具体用量和需求，只能对数据进行拆解，并将用户轨迹数据纳入系统模型，但实际上不会了解最终用户的know-how。可以这样理解。

提问者：明白。能否从整体上介绍一下，目前我们在2B行业如何拓展客户？每个客户从洽谈到落地，整体服务是否较重？

回　答　者：目前国内业务分为2块，1块是泛互联网行业，另1块是非泛互联网行业。

在泛互联网行业，基本上所有客户都在我们自己的资源池中。资源池中的客户有一定调用量，新入职的销售看到调用量后，如果认为值得运营，就会认领该客户，随后进行联系、价格谈判、起量和框架洽谈，大致是这样1个过程。

在框架洽谈过程中，销售还可以挖掘新的应用场景，这取决于销售的能力。如果挖掘到新场景，会找到我们进行场景评测、测算ROI，我们也可能为其提供技术支持。

泛互联网行业还有1部分老客户，这些客户仍由原来的销售负责。在某些阶段，我们开始强调调用量，这些老销售会获得相应激励。该激励会与老客户的充值和消耗相关，在促进消耗的过程中，我们会向销售发放1个非常可观的提成。

第2块是争取调用量较大的老客户。这些客户原本在其他厂商处有很大的调用量。当我们开始增加调用量后，会关注能否将其调用量切换过来，主要方式就是价格竞争。例如，我们发现客户在字节拿到8折，我们可能直接给4折；如果认为该场景比较有价值，甚至3折也会给。泛互联网行业大致是这样的情况。

泛互联网行业中还有相对独立的厂商或细分行业，例如游戏行业，这就需要销售通过自己的资源进行拓展。我们也会参与一些会议，销售可以借此接触相关行业头部公司的CTO，我们也可以帮助销售建立联系。

非泛互联网行业中，有很多偏传统的行业，但也具备一定的互联网属性，或者确实对模型有一定需求，例如软件开发、办公助手和客服等。针对这些行业，我们会在内部进行行业划分。行业划分中会包含1部分项目，项目以外的业务则会设定调用量KPI。

这些行业基本分为几块，包括政府和金融。金融领域目前主要做非银业务，银行业务实际上还跑不起来。政府领域主要面向政务大厅，基本上做的是政务门户和政府服务。

回　答　者：此外，还包括政府、金融、国央企等客户。我们内部将其称为A类客户，A类客户涵盖国央企及部分事业单位。

还有一部分过去被称为大型泛户，目前似乎已更名为3C制造，主要面向制造行业中的泛户，例如平板、游戏和毛绒玩具等相关企业，这些都被归入3C制造行业。

公司主要围绕上述行业为销售人员制定KPI，由销售人员自行拓展，并在国央企等行业中寻找具有代表性的应用场景。例如，中石油可能存在部分线上和线下业务，其中可能涉及客服场景。

提问者：您刚才提到，对于此前的部分场景，即使亏损也会开展。公司如何定义一个场景是否“值钱”？是看其未来能否盈利、数据是否重要，还是看该场景做好后能否快速拓展？公司内部如何定义这些较好的场景？

回　答　者：我们目前定义场景的标准很简单，主要看利润和数据。

从利润角度看，只要业务量足够大，即使给客户15折也是可以接受的。我们设有一条业务量标准线，如果客户每天低于100亿tokens，却仍希望获得这一折扣，内部会将其视为“垃圾场景”或“垃圾用户”。这种说法可能比较极端，但内部确实如此沟通。

业务量非常重要。如果业务量没有达到标准，我们会认为双方没有必要将所谓的合作描述得过于丰满，至少没有必要给予客户如此高的折扣。

另一个标准是数据。对于某些行业，我们认为无论如何都必须进入，并获得其数据。此前确定的目标行业主要是传统软件厂商，或者部分SaaS云厂商。我们与这类客户签订的年框规模大约为1000万至2000万。虽然这一规模对我们而言非常低，但我们确实能够将业务量导入其中。在此过程中，无论是收集其轨迹数据，还是通过模型自身的网络攻击手段爬取其本地数据库，对我们而言都是数据高速回流的过程。

目前常老师也在讲模型的自我迭代。在这一过程中，所有数据回传都会触发模型的自我训练。因此，我们的迭代效率也取决于所面对的客户类型。对于与Coding强相关的数据类客户，我们内部称为优质数据用户，认为其属于高价值场景。

除上述场景外，其他场景通常只有在流程非常复杂的情况下才可能具备较高价值，但此类客户非常少。流程复杂的客户主要集中在投研、基金等领域，而且通常不会与我们议价。对我们而言，这类客户同时具备高价值数据和高价值场景。

提问者：您刚才提到，国央企可能对数据回流存在一些意见。后续这条通道或链路是否会受到一定影响？

回　答　者：影响其实很大。目前我负责后训练的数据评估，个人压力非常大。现在我们的主要工作分为几部分。

回　答　者：我会直接与SV厂商洽谈，由其将数据出售给我们，这是一种相对合规的形式。首先，他们现在不敢出售；第2点，我也会找很多中转站购买海外主流的5.1、GP6用户轨迹数据，包括C端轨迹数据。但这些数据现在已被加密，我们无法获取。

因此，我只能代表我们公司说明，我的KPM现在肯定无法完成。到明年4月份，我负责的采购资金超过1.5亿元，这些资金肯定无法全部使用。在这种情况下，我们后续的模型训练方向可能会受到影响。这并不夸张，我们的模型训练方向确实可能受到影响。

提问者：这里再引申2个问题。目前国外头部模型的数据是否已经很难买到可用的数据，获取难度会大幅提升？

回　答　者：是的。我们以前采购数据时，会找1个中间隔离供应商，并在海外设立公司。对于海外能够采购的数据，由这家公司直接采购，不经过我们。

我们通常会找中转站，或者在海外开展业务的云厂商，向他们提出数据需求，再由他们自行寻找数据。例如，1次可以收集到数百条、1000条或者更多。之后，所有数据都会交给隔离供应商，再由隔离供应商交付给我们。我们将款项支付到隔离供应商的账户，通过这种方式形成1层隔离。

现在，隔离供应商都已经退出。主要原因是当前所有数据都已加密，而隔离供应商没有解密能力。我们曾要求隔离供应商帮助寻找解密公司，但他们认为存在法律风险，而且是较为严肃的法律风险，因此目前都已退出。

现在较好的方式是进行逆向操作。例如，寻找5.1的个人用户账号，再找可能从政府离职的人或社区里的熟人，对某项工程进行逆向，模拟1个身份或1个场景。完成逆向后，他们会尽可能使用解密手段。个人用户的解密相对比较简单，可以将其能够看到的所有问答数据全部提取给我们。

我们粗略测算过，这类数据平均每条的成本是40到50美金，成本区间为40到50美金。到我们手中后，价格大概要翻10倍，达到1500到1600元人民币，即每条1500元到1600元人民币。

这里的1条，是指1条完整的数据库目录，至少包含10轮对话，平均每轮对话不得低于500 tokens。1条数据对应其中1轮问答，价格为14到1500。目前国内流通量大约为1000条，整体也只有1000条左右，而且基本都是模拟数据，没有真正的轨迹数据。因此，现在大家都非常焦虑。

提问者：以前的成本是多少？

回　答　者：以前的成本比较低，我们的采购价格大约是150元1条。无论是Cloud还是其他来源，以前主要以Cloud为主，Cloud的价格基本是20到30美金。

提问者：从您的角度来看，数据肯定是1方面，那么国内模型厂商……

提问者：它会从哪些新思路开展后训练或整体训练？面对这种情况，未来可能会重点考虑哪些方向？

回　答　者：目前可以说是“8仙过海，各显神通”。以他们为主，包括字节，都在海外寻找了很多数据类公司，或者自行寻找相关人员，将问答过程截取出来，再由中间隔离的人员蒸馏这些数据。大家基本都采用这一思路。由于他们需要全量数据，因此可能需要几个细节的数据。

但对我们来说，只需要采购几百条数据，再根据不同的用户轨迹确认其所属行业，并通过相应行业观察他们最新一版模型的COT，这是我们目前的思路。

如果无法获取这些数据，我们还有一条与刚才提到的SV路径比较相似的路径，即抽取一些行业代码库。部分模型的链路本身就是长链路过程，例如研究类任务。过去采购科研数据时，我们购买的通常是科研报告或论文；但现在我们需要的是完整的科研研发过程。我们会通过RL手段将研发过程清洗并融入模型，用于训练，实际上是在增加模型的权重。这是第1种方式。

第2种方式是面向我们自己的C端用户。我们会寻找在平台上使用量较多的个人用户，定向为他们增加一些TS。我们会告诉这些用户，他们可能也会使用Claude等产品，如果方便，可以帮助我们模拟一些身份，我们则以增加S作为回报。

具体而言，用户可以将在GPT中的使用方法及其回答的问题，放到智谱中再模拟1次，并在模拟过程中进行修正。如果用户认为生成的代码不好，或者认为模型对意图的理解不准确，都可以在这个过程中予以修正。我们将整个修正链路视为模拟1次Claude。概括而言，第1种方式是采购数据，第2种方式是进行身份模拟。

第3种方式是推动模型向世界模型领域发展。到某个阶段，我们会绕开Coding，但这并不意味着放弃Coding，而是因为我们认为当前Coding依靠Scaling Law已经接近极限。实际上，大家都在通过增加不同行业的数据，提升模型能力，本质上就是RL的过程。

后续可能有2个方向：1个是模型的自我迭代，另1个是世界模型。这2个方向都涉及模型的物理感知。因此，第3件事是调整模型自身的迭代路径，把模型置于所谓的TP类场景下，进行模型方向的偏移。现在，世界模型已经被提升到比较高的日程优先级。我采购的很多数据中，也包含所谓的动态视觉数据。

提问者：我再问2方面的问题：第1是利润率，第2是算力。从目前来看，国内模型竞争是否仍会导致价格战持续？

提问者：模型厂商的毛利率相对仍处于较低水平，大约为20几，是这样吗？

回　答　者：其实谈不上。对于模型厂商而言，毛利是需要考虑的第2件事，更优先考虑的是如何解决算力问题。

目前比较主流的模型，无论是P还是MAX，实际上都已经面临算力见顶的问题。由于后续依靠租云获取算力，这意味着阿里和腾讯云的算力也都见顶了。

因此，与其打价格战，不如争取获得下1批次的算力，并确保算力质量较好。或者，模型厂商能够让自己的Infra完整适配国产芯片，就可能成为下个阶段的领先者。这其中与价格有关，但现阶段其实不需要优先考虑价格，只要具备更好的模型承载能力即可，所有用户都在等着付钱。所以，与其说是价格战，不如说是算力战，大家都在争夺算力。

提问者：目前我们的算力分布是什么情况？总量有多少，其中国内卡和海外卡分别有多少，用于训练和推理的又分别有多少？这是目前的状态，到27年、26年底或者27年时，您认为会是什么情况？

回　答　者：以下信息可能不完全准确，我仅从个人了解的角度说明。目前，涉及模型日常后续训练以及模型版本更新的预训练，我们的总集群大概有2万7、2万8000块卡。

这些卡基本没有B300和B200，主要是较早版本的H100，最低配置则以A800和A100等卡为主。H100目前仍是相关卡型之一。

目前模型训练包括2个维度。第1个维度是大版本迭代和日常模型更新，现在基本已经做到1日1更。无论是数据缓存，还是模型处理层面，我们目前都能够承受。除此之外，我们还会切出1部分算力，用于其他相关工作。

上述卡基本属于内采卡，内采卡规模大致如此。外部算力中，国产卡占到60%几以上。目前总共约有10块卡在跑，国产卡占比为60几以上，主要集中在昇腾系，以行龙为主。

我们的获取方式也很简单。我们获得了很多国投，在与国投洽谈时，就约定其本地算力集群优先供应给智谱。智谱作为主要用户方，帮助其完成1套适配。适配完成后，相关算力可能会再转租给其他厂商，但目前我们自己的算力都不够用，因此不会转租。我们会与当地政府进行利润分配，前期不分，后期可能会增加分配比例。

另外，还有接近总量20%多的NV卡，即230的NV卡，这些其实也是主力卡。国产卡虽然数量很大，但通常只服务于2、3个用户，并非主力卡。

NV主力卡基本从金山、阿里和腾讯这3家租用，字节已经对我们退租。目前仍在运行的主力卡大概还有2万多块。

回　答　者：大概是以通子为主力的情况。国产卡占我们10万块中的7万块，昇腾占7万块的60%。

提问者：主要是昇腾系，对吗？

回　答　者：对，以昇腾为主。基本上，昇腾都是前2年采购的。地方政府方面，那些昇腾大概率也处于爬亏状态，实话实说。

提问者：实际使用效果怎么样？

回　答　者：差距非常大。以100B为例，同样使用我们的infar，昇腾只有BBR，应该是BBR4或者BBR3，其推理效率可能只有AH100的40%到50%。这是经过我们infar优化后的结果，如果不优化，差距可能会更明显。这里综合考虑了精度和速度。

提问者：但从模型厂商的角度来看，是否也没有其他选择？在算力受限的情况下，大家还是必须充分利用存量国产卡和新增国产卡，对吗？

回　答　者：可以说没有其他选择。我们之前也坚持不太想使用国产卡，因为使用国产卡就需要进行适配，适配完成后还要优化。实际上，这些优化工作相当于我们在替国产厂商做。

整个Infra团队建立后，每年的成本都很高。无论是人员成本，还是算力适配过程中的损耗成本，都很高。但目前没有办法，我们自己又养了一支团队，又养了一个中间件团队，专门负责国产infar和异构工作。确实没有其他选择，因为海外最先进的卡无法进入，国内也在强调建设自己的算力生态。

提问者：前几天公司也对外说明拥有10万、10万张，即10万级、10万级别的国产芯片。这些芯片是如何分布的？大概分布在多少个集群或机房？其中最大的集群规模有多大，能够执行多大规模的训练？

回　答　者：这方面我不了解，也不知道具体规模，但大概知道部分分布位置。云上贵州有一个集群，乌兰察布有一个集群，门头沟的京西智谷有一个集群，其中京西智谷的国产卡最多。此外，济南有一个超算中心，也在向我们提供卡；无锡也有一个超算中心。

提问者：您刚才提到整体效率会低很多。在长上下文、复杂coding或多轮Agent等高难度场景中，从您的角度来看，国产芯片最明显的性能瓶颈是什么？目前是否进行了相应改善？

回　答　者：我们在9、9520和90C上进行了较多改善。无论是长序列中的损耗，还是相关对比，我们参照的都是BB200、B300这类卡，至少也是H200。在损耗方面，不会超过20%。

但损耗不超过20%，不代表90C已经具备B300的80%性能，二者不能直接类比。我们所说的损耗，仍然需要结合整个PVTouch过程来看。在需要为大模型增加更多权重或更多限制的情况下，通过完整的PV框架，使大模型保持相对精度。

回　答　者：这也意味着会使用更多缓存，因此不能完全类比。我们目前抢不到足够多的好卡，例如C99520这样的卡，最终还是更多地在B上运行。但我们认为，在B上运行长任务时，性能损耗比较严重，性能变化和精度也较难评估。因此，对于复杂任务，我们会将其放在英伟达卡上；对于单点任务，则可能放在国产卡上。

单任务的推理量级较大。在不考虑速度的情况下，可以通过增加卡数解决推理量级问题。例如，以前可能跑1件事，现在可以扩展到5台机器。

提问者：公司刚完成了1轮定增，资金规模较大。未来半年，无论通过购买还是租赁，预计分别能够增加多少国产算力和英伟达算力？

回　答　者：英伟达算力暂时不考虑，因为我们还有一批被扣着。目前也不是完全买不到英伟达卡，我们可能能够租到。

完成定增后，我们后续的目标是在海外建设算力中心。不过，海外算力中心建设涉及数据问题，我们的数据会受到国家严格审核。现阶段，我们预计在海外建设1000卡规模的算力中心，用于支撑海外运营，包括相关模型要求以及国内业务出海的诉求。目前整体规划是大几千卡级别，更具体的情况我并不清楚。

在国内，我们目前通过算力联盟，帮助以华为为首的优质算力厂商或芯片厂商，基于其自身框架优化下一个模型版本和算力版本。完成优化后，我们可能以相对较低的成本获得这些卡，但具体规模目前无法说明，我也完全不清楚。至于规模是否必须超过1万块，内部目前没有任何信息。

提问者：从同行情况来看，大家都遇到了算力瓶颈。有些公司背靠厂商，有些公司资金较为充足。您认为谁最有可能最快缓解算力瓶颈？

回　答　者：我认为字节最快。无论从算法层面还是算力层面来看，字节都比较务实。年初时，他们预计业务会出现爆量，因此可能将当时市场上能够获得的算力资源全部集中起来，随后在完全合规的情况下运行。

因此，有时会看到其生产表现不稳定、速度较慢，甚至可能下降，这也是其中一个原因。不过，他们实际上也做了很多工作。

除字节外，我认为智谱可能会好一些。相关厂商追求极致表现和性价比，也具备相应的技术能力，在相关层面具有较强竞争力。智谱则处于相对综合的状态。我记得今年某个月份，阿里的一些算法人员也曾提到，他们使用的是同样一套方案。

原文转译

之前请您就一下陈述表明我同意或我不同意,呃,您知道保密信息的定义并同意不会在访谈中透露任何此类信息或任何其他保密信息。 我说是吧,同意。 啊,OK,好好好好。 那我们今天开始今天的访谈吧。 呃,首先,呃,今天我们主要是聊一聊就是智谱的一些商业化的一个问题吧。 呃,那首先就是大家都会比较关注问题,就是一个ARR的问题,那前,应该十几号吧,其实管理层也出来说过一次嘛,就是 呃,Q2业绩会的时候是16亿美金,然后现在有更新到18亿美金了,然后呃最近还有一些更新吗? 还是说也是维持这个这个口径。 没注意,没关注吗? 我们年底已经上调,上调到,就是上调到,就是12月份上调到30亿美金了。 对对对。 然后我们是,到,对,当月是那个18亿美金,没问题。 呃,也没有什么,对对对,基本上是这样一个状态。 OK,了解了解。 呃,那能不能把这个ARR帮帮我们去,不管是现在还是这个年底吧,就是还是做一个拆分,就是Mass是多占比多少,然后另外的是多少,然后Mass里面API跟coding plan大概又是个什么样的拆分情况? 嗯,我我我我我我Mass基本上就是,就是我们,我们算年底大概就是大概那个非API的收入大概是5%。 然后我们当月呢,可能可能可能就是有点问题在于就是,不是我们现在,我们现在Mass的增长不行,是由于我们那个相至,大概是去年有几个项目,会收一些,收一些尾款。 大概是这样,所以所以我们当月ARR呢就是非Mass的收入呢大概有大概13%,14%。 但再细的我也拆不到了,因为现在我我我没有在看那个数字。 之前我都产品错的时候在看数字,对,特别细的我也看不到,我也不不会再不回去问了。 然后剩下的大概将近90%的收入就是就是我们的Mass平台,对,然后Mass平台呢,截至到算是9月份吧,9月后,9月后我也没拆到。 截至到9月份呢,我们的coding plan呢大概我们的就是整体收入呢占到37%,38%。 然后这个这个这是一个比较好的一个状态,就是我们相较于我们半年报的时候,我们发现大概45%嘛。 所以我们基本上也是一直在降的,对,我们降的降的原因也是因为我们整体收入在在增加。 尤其我们它的收入,那剩下的这个大概将近这个这个50%的收入,那基本上就是我们的这个这个这个这个这个这个啥了,这个这个这个公有云的它的收入。 对,大概这样,然后呢,对对,它的收入里面呢我们还会再拆,就是我们再拆拆呢,还会有有一部分叫转售,就是我们现在转售呢基本上就国内主流的云厂商和一些和一些厂商都在跑的业务,转售业务。 对,然后他在跑转售业务的时候呢,我们可能还会有细分,比如说我们会走算力合伙人体或者说我们就直接他去转售我们API,所以我们转售业务呢,其实在在整个的8月份9月份是有一些增长的,转售业务基本上就是达到了我们整个的20%,然后这里面呢其实他他背后有一个特别好的一个,就就是有有一个特别好的一个就是一件事吧,或者一个特别好的一个呃,就是远景,就是在于我们转售的实际上就是这些的业务呢基本都是coding,就是包括我们的Flash,然后包括我们的5.3。 这是一个比较好的事,就是因为我们以前可能它的主要跑的还是就是一些传统的一些场景,比如说它有一些单点应用。 但我们现在转转上基本都是都是coding的这种任务,比如说它的它的那个对,它的一个长头任务或者它一个纯coding的一个,就是coding的一个这种这种就代码生成。 对,大概这样,所以呢我们转售呢,我们现在看起来呢,他认为转售市场呢,它是我们做增量,不光是做增量的一个比较好的一个一个一个结论,而且呢我们跑数据飞轮的呢也是一个比较好的结论,不过啊就是我们可能后面转售可能要要稍微收一收,因为我们在之前转售的过程里面呢 其實我不知道你關注過沒有,就是也發生了好幾起,就是 基普的那個模型主動去攻擊,攻擊這個這個 一些一些用戶的本戶。 對,然後呢去去去去盜取他的數據,然後呢就是可能在,可能在 就是跑一些是費的,對,所以可能我們 在下面這個階段嘛,只要我們在code上,然後我們我們自己的那個API上, 我們的轉售這件事可能後面會有一些壓縮。 對,大概是這樣。 嗯嗯,就上個禮拜有一些安全事件了,對。 嗯。 那個那個那個那個事那個事咱們在碰頭,就是,但是也有幾件事, 其實我們內部是已經被一些國陽企警告了。 嗯,就是其實國陽企警也是他們的所謂的FC, 然後回頭來跟我們講了,他們已經被警告到了,對, 大概這樣啊。 嗯嗯,了解了解。 呃,那那這塊收是怎麼去理解啊?就是我剛剛本來還想順著說說問一問就是以後,呃,跟這個雲廠商怎麼合作,因為我看到其實像海外像Kimi他也是上了一些這個AWS的Bedrock之類的, 所以本來想就這一塊跟雲廠商的合作,想再細細的去挖一下,就是說怎麼去合作,分成是什麼樣的, 呃,但但您意思就是說 國內會收一收,還是說呃國外不會收,就是您您跟我再展開講一講嗎? 國外是這樣,就是我們在Open上跑的主量基本上都是刷水。 就是要么就逆向我們的接口。 啊不是接口,逆向我們那個coding plan。 很難很難有人用我們的接口,對,coding plan比較便宜嘛。 要不然就逆向逆向我們的coding plan,要不然就是 直接拿我們的那個,就是開源開源版本的模型,你在公跑, 去刷,然後基本還是在國內為主。 所以國內大概有幾種形式吧,就是第一種就是純轉售。 就這種轉售呢,您可以理解為就是 呃,本身就是我們所謂的這這個轉售服務商啊,他們的體量沒有那麼大, 或者他們的他們的資金實力沒有那麼大,他們基本上就是跟我們去談一個折扣,然後簽一個年礦。 然後這個年礦呢也是按照就是我我們的 這個轉售的起售折扣, 基本都是8折到8五折啊,對,它會根據, 基本8五折為主,然後呢根據這個它的年礦的變化,然後我們按照月度月度賬單去給他去建這個折扣,比如說我簽了一個一年的年礦,那折一個月,對。 折一個月就是一個月除以12。 對,它如果達到這個一個月除以12的這個這個額度呢,我們可能會 會給他去談一個比如說類似於七折呀,到或者六五折,大概是這樣。 對,但這這個僅限於我們的5.2,5.3啊,就是我們的sh 基本上對外最低折扣也就是85折了。 對我我們可能有些銷售有些比較亮, 量大的用戶, 日均可能可能跑到這個上萬一這樣的用戶, 可能會給他七五,大概是這樣,對對對對, 就主要是就是限於我們的那個5.2,5.3。 對大概是這樣的這樣的接口啊, 然後它達到了這個這個這個這個這條線之後,我們可能 再下一條線我們降幾個點,對,就比如說加加這個這個 多少tokens,我們降多少點,大概是這樣的一個一個形式。 對,但是沒有一個特別詳細的,就是 都是慢慢談下來的。 然後這個有純純轉售的邏輯,對,然後第二種,第二種邏輯呢就是 我們所謂的這種這種專門面向雲廠商,而且這個雲廠商呢, 他沒有自生產tokens能力的這樣,這樣的這種廠商, 我們可能會談一筆就是我們模型的原代碼,然後 去去打包賣給賣給這個廠商的一種一種一種玩法。 對,這裡邊呢像自己,然後像騰訊。 對,包括還有一些其他的,阿里我我我對,還有阿里,對還有阿里。 然後還有一些其他的廠商,就是百度。 他們基本上都是花過錢的。 都是花過錢去買過我們的原代碼,這樣他可以在我們原代碼的基礎上呢, 這樣做一些和微調,主要是做一些後續的工作,然後呢去服務他們自己的一些生態型的產品,比如說 我巴里, 對,像這樣的生態型的產品,他們跑起來,然後同時呢在我巴里上去調用所有的模型嘛, 他們這些模型它可能他就有一定的去 去給我們一筆買斷費,那麼後面他們自己的生態的所有tokens是他們自己是有增加權的, 然後這些定價定價定價定價的這這些費用呢, 跟我們是無關的,對,大概是這樣,然後還有一個 还有一种就是，有些云厂商呢，像这个这个这个腾讯阿里啊，他们有自己的这个这个生态生态网络嘛对吧。 这生态网络里面他们比如说有飞书啊，有铁维讯啊，或者说他们有些工具平台像tft那样的，然后像百店团队啊。 对，他们的这种呢，基本上就是比较贴近于我们所谓的算力合伙人呢，合伙人嘛，也就是说我们会把我们的模型或者本身也会附在他们的算力机身上，当然我们这个附行为呢，对于我们来讲，它算算是一次租赁。 那对于他们来讲呢，他们他们可能会也会给我们找到一些折扣。 所以那在折扣以外呢，我们我们会在他们这个团队里面的这个，就是基于他们的工具，或者说他基于他们直接的这个这个团队生态下去调用我们的模型接口呢，那基本上就是呃70%，30%，那70%归我。 对，为什么我们能拿那么多钱，主要原因是因为这个我们还租了他们算力，所以大概是这样一个情况。 对，然后然后这这三种呢是主流的。 那还有一种呢就比较抽象的，我们叫算力合伙人。 对，算力合伙人呢，基本上就是就是我们利益50%50或者40%60%的这样的这样的分润啊，就是40%60%，就我们来拿这个60%，然后那个我们的这个所谓算力共商然后拿40%。 所以50%50%居多，就拿到46的，这个基本上就是我们去投了他们的这样的厂商，像这个规矩流动啊，对，然后还有一个，还有几个就是我们投资过的，我们基本都拿60%的。 然后像其他的这种我们可能只是一个所谓的深度合作的，像什么红景啊这些，包括中院有几家，我们都是50%50%去拿。 去拿这个这个这个这个份额，然后由我来去运维这个后台，然后呢由他们出机器。 大概是这样，然后还有一种呢就是算力合伙人呢，他们主动会成为我们的算力合伙人，但他们实际上跟我们的今天的合作呢是比较松散的，那类似于像金山。 那这样的云厂商，对。 那他们呢这个这个就会呃选择用我们的模型，开源的模型，也不会给我们钱。 然后去跑他们就跑我们的开源版本。 但是那个过程当中呢，他们有可能会用我们的模型做拆水，就比如说他们用开源的时候呢，开模型，他一定在某某一个精度里面，他没有那么好，比如说这个COT的精度，COT挂钩基本就新新了对吧，这个新行的过程呢，基本上就是会用我们的这个支谱的这个原厂模型做都。 大概是这样，然后呢他们给我们做过承诺就是所有的这个用户的轨迹数据就从问到答，然后信和的就不用说了，信和的是在我们手里边的，他们会会就是全量的把这些数据回传给我们。 这实际上也提供了一个数据建的一个过程，然后回传这个过程呢，我我们收这个数据的时候，现在价格是非常非常低廉的。 对，基本上就就是一条就是一条就10块钱。 大概是这样，对，10块钱基本上就能收到，就能收到这个这样的一种这种就用户的这种这种就是完整的轨迹数据。 所以这这是一个一种比较抽象的活动，大概就是这样。 对，呃就是我我我在就就在在细分就是您您刚刚说就是这块可能会收一下，是说里面的某种就是哪哪几种模式会收一下嘛，因为理论上你的原代码卖给腾讯阿里之类的，反正收一次技术服务费这样，反正后面他用不用就不关你的事情嘛，对吧？ 你你您更多的收是说收后面这种合伙人的模式还是... 稍微换了个人。 稍微，我跟说一下，咱们继续。 对，我们收是这样的，我我我我可以稍微稍微跟您展开一下，就是我之前在做什么工作。 嗯。 呃我在，我在今年的就是7月份开始，我开始承接就是不光是做我们的API的声量，我其实还在承接一部分就是呃我们企业的，就是数据化像，那就是这个会涉及到我们的后续念。 对，那么从7月份开始呢，其实我会被专门面向到传统的企业开发商，然后和这个传统企业开发商以及一些大的云厂商的SV，然后去去做去做转售的生态工作，或者是或者是我们自己的这种这种就是相当于他来做我们的伙伴商，然后他们就直接去做转售。 就让他们就直接使用。 他们就来做采购,转售。 大概是这样,然后在这个过程里面呢,我们都会谈, 他们的本利数据库是否可以 给我们做交付,我们可以花钱买, 或者说他们是否同意本利数据库 在我们的VM上去流转去跑, 那这样的话,就无论是他们的行代码库还是说他们的 这个产品开发的一些一些测试的这种这种产品库, 对,那那可能对于我们来说都是一个相当样比较透明的一个状态,如果是 他们允许我们去采购的话,或者说他们主动 把一些就是他们的所谓的那个那个行库 交给我们的话,那对于我们来说,那肯定是是和 的数据。 但是现在其实很多人给我们发出警告之后呢,很多行业代码呢 会涉及到用户,就是他们最终的用户方的这种这种所谓的合问题, 或者说数据数据远,这是第一点,第二一点呢就是 我们在爬这些数据当中呢,其实很多公司也跟我们发过警告。 对,他们就认为我们的这个所谓的 这个网络攻击行为,它就是一种侵权行为。 所以这一块的,就是所谓的面到SV的转售, 包括就是我们 我们的一些所谓的战略合作, 对,我们我们可能在下面的一段一个一个阶段内呢,我们会 会会收紧,对,因为本身给他们去供给那个coding的时候, 他们基本选的也是个版本, 那对于我们来说呢,其实成本也没有那么好看, 就利润没有那么好,对。 嗯。 所以我们后面在下个阶段我们会收一收,会会会 会针对性的去收一收,大概是这样。 嗯。 嗯嗯,明白。那年底那个31美金的已经是考虑这些情况了,对吧? 对,这是,就是我们这个情况基本上从 大概8月底的时候,我们就开始去去 去听策略了,对,因为因为到九九月中的时候呢, 就我现在还可以从我的工作本身,我我在肯定 可以在稍点延伸一点,就是现在我在 呃,负责去评估我们后链的这些数据采购指南, 对,然后我我现在基本上所有的就是中短站云厂商, 然后包括那个 呃SV的这些这些数据都会从我手上过流转,对我每天都会 接收几乎是上P的数据。 然后我去做抽样。 大概是这样。 然后我们在采购的时候呢,其实我们现在就是 优先在绕开SV, 然后呢,就是我们也会在再准备就是我们在服务的过程当中呢, 也有可能在后面我们会把这个量慢慢切到一个零的一个状态, 然后我们的30亿美金是完全都都考虑到的。 就完全考虑到的,我们可能后面还会 把我们的,我们的服务服务会放到上, 就是就是可能在后面我们还会有些增长,对,他他会直接去覆盖到我们的一些所谓的那个的coding服务,大概是这样。 嗯嗯嗯,明白明白了,了解。 然后我还想从换一个角度去拆分一下,就是目前,呃,我,或比方说以这个Q3为例啊,就是我们目前这个AR增长里面, 呃,来自新付费这个客户的增长和老客户的增量, 呃,这个这个比例大概是多少,然后,呃,用量跟价格之间又是个怎样的这个这个这个变化趋势。 对。 嗯嗯嗯。 那个,我们coding的,就是那个新增的和老客户的 增长这个比例我没有算过啊,但是我们增长基本都是都是新客。 基本就是它出现增长就是新客,并不是老客 老客有有有什么,有什么,有什么就是它的一些什么因为有了新又在增长,我现在只能回答您这个问题了,就是我现在没有数据,然后我们我们可能也没有 去去去拆过这个数据,对。 然后您第二个问题, 想说的是就是价格对吧? 对。 对,这个明白吧,对。 价格是这样,就是我们我们现在,如果不看flash的话, 当然flash它的那个那个对于我们收增量也不够啊。 我们如果不看flash的话,我们大概平均 每百万tokens, 然后现在是5块4, 差不多是这样,每百万差不多5块4,5块4,5块5, 然后这个是有增长的,就是我们大概在半年半前的时候呢,我们 平均每百万应该是4块钱。 块九到五块一。 对，我们现在平均涨到了五块四左右。 对，然后这个五块四里边呢，就是我我们还披露过我们的推理的毛利大概是43%。 它5块4肯定是支撑不了那个43%的， 我们那43%是哪来的？就是我们大概有 呃67%到70%吧，就70%左右的推理呢， 其实我们用的是国产卡加老模型跑的，老模型就是一个 相对来讲参数量比较低的一个一个小三模型。 对，那个那个那个它的对，它的它的毛利，就是推理毛利， 我们预估它几乎就达到了90%。 大概是这样，对，所以说 这个场景它都是一些所谓的翻点场景， 比如说各种审核类的，或者说它的各种 生成的这种这种固定报告类的，或者说他做的一些所谓的客服类的， 对，他们的用量很大，但是实际上它对于模型本身的agent的能力呢， 要求没有那么高，对，所以我们可能也会 就是再给客户承诺兜底效果的情情况情况下呢， 不承诺这个这个这个算利和和和模型。 对，大概是这样。 嗯嗯嗯嗯，明白明白。 对对，我只能对对对，只能只能这么回答你了。 嗯嗯， 但但但就是对于老客户来说的话，假设比如说我们模型升级了五点，从5.2到5.3了。 呃，有没有看到一些老客户，就是老客户他平均的一个 消费额会有个增加吗？还是说因为价格也会下降了，所以说实际上没有看到一个增长的趋势？ 对，我想。 其实其实就 对，其实是这样的，就是其实不考虑flash的话， 我们对于老客的价格策略是是逐渐的一个会会有这个账单上调的。 就基本上一个上调个7%8%的一个 一个一个一个一个一个一个价格价格价格的一个趋势。 对，然后上调7%8%，我们的口径也都比较一致，就是我们的模型也升级了，然后我们的算力也升级了。 我们能够给你保证更多的量，然后更快的速度。 大概也就是这样。 然后对对对，也不会有什么其他口径，然后用户 用户自己也是接受的，对，现在主要是用户他自己也是接受的。 然后然后所以所以呢老客呢，老客就是一个 加价不加量，不加量的一个状态，就是我们 我们做的更多的事呢，其实是在在挖新客，大概是 大概是这样的一个一个状态，然后新客我们价格都是重新谈的。 然后也是围绕着我们的刊例价，刊例价的平均价格就是 大概以10块钱的，就是把输入输出算到一块，以10块钱 到12块钱这个区间 去跟新客谈，然后我们再谈大概折扣。 基本上新客的折扣呢就会就会到了，也就是70%。 70%、65%，就不会像之前那么夸张了。 对，大概是这样。 嗯嗯嗯，明白明白。 了解啊。 哎，其实我我还是想了解一下，就是呃，8月底咱们说AR是16亿嘛，然后目前就是口径可能是18亿，那等于一个月 涨了两个亿，然后 美金。 啊美金，对对，我知道，对对，我知道，然后还有10、11、12。 就是还有三个月，就是那理论上你们去觉得10、11、12的这个每个月的增长的压会会快过目前这个阶段是吧？ 这里面会会主要是有哪些因素在加速这个事情啊？ 嗯，是这样的，就是我们我们就是基本上 在5月底6月份的时候，我们的我们的AR其实就已经，当时应该是 七八亿美金，对，但是基本到6月底的时候我们AR就已经到10亿美金了。 然后6月底到到6月，6月底到7月中的时候，我们的AR就直接上涨到大概 13亿、14亿美金了，然后这个过程里面呢，其实其实跟现在的情况差不多，就是我们我们现在在 去逐步的把字节的一些之前的大量的用户 抽到智谱的环境里面。 就是现在字节也认为就是他们自己在在LM上已经竞争不过智谱了，就他们之间是LM这个这个领域绝对老大。 但是其实他们的量还是比我们大的，对。 所以呢，现在我们就是相当于这个新客呢，就是其他其他的 厂商老客对于我们来说是一个暴力。 这样的一个状态,就是我们基本上每个月都会签两到三个大的年矿,这个年矿就是从这个月开始执行。 对两到三个大的年矿,每个年矿基本都是都是上亿的。 就是他他的日均调用都是都是几千亿万亿通级别的这样的用户。 对,所以所以他的年矿肯定肯定都都会上亿。 这是我们的主要的这个这个增量增量增加的原因。 这是第一点,第二一点呢就是calling plan呢其实我们的人数呢,并没有超大规模的上涨,主要是也是因为我们去发了那个 line之后呢,很多人就开始选择用或者上,去调我们的flash了,但是calling plan我们是实际上是涨价了,对,我们从 对我们涨价这个事,其实我们已经讨论了好几个月,我们到最后可能因为我们出料的,然后再再Q3开启之后大概一个月。 我们把我们的分基本都涨了一倍。 其实呢,我们之前的营收呢,基本上你可以理解为就是营收也就是按照人头的这个人数也翻倍了,但现在我们基本上能够能够运用的这个这个这个人头呢,也能运用到就是大概40万个账号,大概这样一个一个水平,对,这个这个因为我们的算力也在增长嘛。 所以总结起来就几块,就是第一块呢就是我们在去吃一些就是自己认为他以前量很大,但是现在他们服务不过来的用户。 对,每个月都会有两三个这种大的用户的这种更新。 这是第一点,第二一点呢就是这个我们的可的涨价,然后第三一点呢,其实这个综合下来就是我们币的算力其实一直在增长。 我我们一直在找找算力客户人,然后再再去把老老的场景的客户切到国产化的卡上,对,然后大概这样,对,我们现在天天去讲我们我们现在在用国产化卡在在跑啊,其实跑的就是这些老场景,对,大概大概这么一个情况。 那个成本要低得多。 嗯嗯嗯,明白明白。 咱们刚刚提到这个5.4元每百万token的话,它是呃一个输出的价格对吧,就是实际上我,呃我就还有一个问题就想细化一下,就是之前业绩会上说过,呃日均的token可能是40trillion。 呃呃呃那这里面其实是包含了输入跟输出两个就一起加起来的是吧。 然后 啊,是的是的。 输入的价格会低很多。 嗯 输入输入。 是的,就 输入的价格会会,是这样,就是我们输入那个对,输入的价格会会相对来讲偏低,但是呢我们现在因为它有KV cash的原因,我们的输入输出基本就就就算成一个就是每版就我们谈的时候,就要没每版去看一个均价了。 对因为因为我们在输入的时候呢,它会过KV cache,它里边有大量的缓存的一些数据需要命中。 对,所以在在这个过程里面,我们就把它盘成了一个就是每版通的一个一个一个一个,就是一个一个综综合综合的一个数值。 对,但我们看可能不那么显然。 对,看。 OK,OK。 对对对对,我我我理解,就是呃我另外我也想了解一下,就是咱们那个日均token这个数量,就是里面其实是有多少是实际是产生收入的,有多少可能是一些试用啊,内部使用啊,就是就是你你懂吗,就说里面有多少是可以产生收入? 我明白你的意思。 我明白你的意思,我明白你的意思,就是基本上现在 我们日均大概能够跑到 8九万亿吧,大概这样,然后里边呢大概有有有有有大一半的,就大概是有个 其实都不止8九万亿了,就是我们对外去报的,我这个放回是跑过跑过20万亿。 我这个数太虚了。 20万亿我能挣多少钱? 对,我们大概就真正真正像收入就是八九,八九万亿吧,大概这样,就是8.8.几个,咱就算9万亿。 然后9万亿里面大概有6万亿是calling plan,也就是说他不是按照计费收入的,他就按照每月的调用调用收入的,那另外的大概就是三亿,不到三亿,将近三亿,基本上就是我们的这个按照按照调量去收入,大概大概是这样一个维度,嗯。 嗯嗯嗯,明白,就您说这个口径是都是从公司这边出去的这个token是吧? 就因为因为有些可能就是云厂商他会买你们的这个模型,那个就不算在你们的口统计口径里面。 那那对,那个那个指定不算,我不知道,我觉得有可能 啊，它那个，对外去报那20万亿token可能会报报这些东西。 但是那个那个不存在了，就是， 对， 反正就是个口径的问题，嗯嗯。 是是是，你要算就是5块钱，比如5块50是没版tokens，那20，20万亿每天这是多少钱？ 嗯，嗯，哎，然后老客户的一些留存的问题的话，就留存率目前是什么样？ 或者呈现一个什么样的趋势啊？ 呃，老客，它有分就是calling plan的我们留存率可能，可能没有那么高，calling plan的留存率基本就是， 就是我们按照月度去看啊，基本上基本上是85%，当然如果按照季度去看的话，它基本上就是80%上下， 上下的一个浮动。 然后然后然后然后呢tokens是这样的，tokens是是是这样，就是我们去看它留存率，就是它他们还在用，他们签了我们的账单，割了我们的账单， 它其实就在我们平台上了。 但是实际上他们的他们的变化在于他们把主量切给了谁。 对，我们的主量，主量的留存率呢，大概大概也就是，就是每个月的变化大概就是60%，60%60%能见。 就是他下个月可能还会回来，大概就是这样60%左右。 然后呢，这个这个如果如果要是留留存的话，这个基本就是100%，因为他们签了账单之后呢， 这个这个这个这个框架里面他肯定会跑一部分。 对，他只说这这这个月可能有有一个，比如你卖死一个销售比较牛逼啊，他拿拿了一些低低低价扣，然后， 然后抢了一个月的，那我们下个月再抢回来就行了。 对，下个月我们再看其他的，对对对对。 对，基本上基本上是这样的一个情况。 就是要说留存都在留存，但是呢可能就他们他们的这个主量的置换呢，大概有60%。 对，那这这实际上就是大家相互抢山头的一个过程。 不过都是每个月快速快速给你变化的，因为我们这边看账单都是按按月去看的。 嗯嗯嗯，哎，咱们有没有观测过就是呃一些长期在我们付费的客户啊，他们实际上通过呃我们这个API节省了多少人力或增加了多少收入？ 就是有没有去观察过客户端？ 嗯。 看场景，要看场景，我们都算过的，就是我们都算过，打个比方来讲，我们之前做过做做过一个最好的场景叫安审，安全审核的场景， 那我们可能结合了就跟那个高德呀，跟那个小红书啊，我们就是这些所谓的泛互联网，它里面可能数量比较大的，我们都做了这个这个所谓的安审。 那那里面安审，它主要面对的是内容发布的过程当中，我们去做安审审核。 然后然后安审的时候呢，我们可能在做政府向议题的时候，我们认为可能对他们的实际的这个这个工作的，工作量的这种这种所谓的效率提升或者他们降本没有那么大。 但是后来我们推出的是就是我们像他们开放白名单之后，我们加了中间一图的安全审核，就是中间一图是他们大概大概所有的安全审核员他们要主要做的事情，就是我来去判断这个东西它到底有没有负面引导，如果没有的话，其实没有必要去拦截。 这个这个事后来交给咱们之后呢，呃以小红书为例，他们大概有8000，8000个安全审核员，到最后呢，他们其实真正的在参与就是人类在去面向到大模型处理结果的对习之后呢，大概也就需要2000人了。 嗯。 对，他们就只是保留了之前的对对1/4的一个效率。 但是但是咬分啊，比如说我们现在做的很多场景，它的用量大小跟他们的人员没关系， 这相当于他们一条新的优线， 或者他们一个产品的一条新的这种这种所谓的垂直定能力。 大概是这样，打个比方来讲，我们可能会做这个这个一些，就是那个那个，比如说问我们的主要用户是谁嘛，就是我就是客户的名字我就不不方便我们说了啊。 但是场景我可以告诉你，就是他是做摄像头头的， 对，国内警务厂商。 我们去做了他们的，对摄像头头之后呢，他们 在很长的一个阶段之内呢，他们的摄像头里面他们做了一个付费会员，大概每个月是35块钱， 那他结合大模型做什么事，基本上就是做家里面的这个面，比如老人啊小孩啊这种所谓的家里那些预警， 他的一些报警啊，包括家里的温馨时刻这种线化存储， 就基本就是一个识别行为识别，然后加加一个加个向量化。 那基本上每天将近能够跑到万一token。 那这个对于他们来讲呢，其实没有去节省他们任任何... 问题,但是他们自己的业务量,它实际上,实际上大概增长了20%30%,给他们的20%30%的营收。 大概这样,他每每,就是每个人加加了35块钱的会员之后呢, 他只要能能够把这个主量跑起来,其实他的RI是完全收得住的。 这样的情况也会比较多。 啊,啊,大概是这样。 明白,明白。 OK,那这接下来我就引申到两个问题啊,就第一个就是比如说以小红书这个安全审核为例啊, 它会,就是它的这个工作流里面,它是会 去接好几家这个模型的API,还是说用了你们比较好,他就会一直用你们的。 然后 当然会接好几家了。 嗯。 对,会接好几家,会接好几家。 是这样的,就是 您可以理解为就是小红书他做安审啊,他他是一个 简单的一个 agent,但他他会把这个 agent分成几个部分,比如说正面一图,负面一图和中间一图。 他会把正负一图和负面一图它分成两个部分。 那比如正负一图呢,有一个模型它可能参与量小一点, 但是他去去区分正负意图的时候,模型它的 它本身的风控就做得很好。 那他就是用用这个这个正负意图做做拦截。 那这个模型它可能跑的是这个量,它每每个月比如说 平均每天吧,平均每天有100个token,它在中间一头呢加了一块,平均有1000个token,但是它会发现100,1000个token才用一个小三模型,本身价值也便宜, 然后用他们跑就可以了。 然后中间一图呢,就是他所有的拦截到的到的一图呢,再做一个多线程任务嘛,就就就把它给延伸出来, 然后然后去去去加给一个所谓的这个开了白名单的一个好一点的模型。 对,那那那这一部分再切给切给主量,比如说智普做得很好,对吧? 然后切切智普,他们会这么搞。 最典型的是 那个小米,小米里面他他他他有一个小爱同学嘛。 小爱同学他大概有有八八条大的agent,他基本上每个agent就后面就就是一个厂商。 基本就就这样。 就是可能做得好一点的类似于像那个豆包啊,他可能能切到两条agent。 对,然后像智普可能跟得比较散。 比较松散,我们只能切半半个agent。 这个可能性也有。 所以呢,接下来之后呢,就是就是它基本上最简单的这一部分任务 其实没有没有什什么厂商抢,他们自己自己价值,他们认为这个成本OK。 然后这个速度够快,这个模型,这个模型可能还小到就是一个70比60比那个模型。 然后够用,那他们就用那个模型,他们甚至可能自己去去去搭那套模型,模型机制。 对,那剩下的可能可能比如说复杂,复杂一点的任务,可能这个任务里面呢,需要我去判断意图, 然后需要我在意图判断之后呢,我要去看它有没有去所谓的这种 就是文字上看不出来,但是他本身那个那个画术画术语当中去看有没有所谓的恶意诱导,对吧,那那那那那这些事,那对于模型的的要求就非常高了,也不是非常高吧,就是一些小三目肯定干不了啊。 他肯定就会选,他自己,他自己可能会会加一些样本的一些条件, 对吧,就是看看你的看的能力。 那最后呢,谁命中的比较高,然后他就会选那个模型。 大概是这样,啊。 就这些场景其实还是蛮卷的对吧,就是也不是说你能力最强他就会选你,还是综合的去看那个场景的。 嗯,对,其实是这样,就是 就是非agent的任务,其实我觉得国内的所有的模型厂商,就是 就是所有的机模厂商,它的服务,服务,服务质量都差不多。 无非就是他的,他的服务的这种这种成本, 就是他他包括他自己的这种算力的承载力。 那就是你比如说现在现在那个自节本来是承载力最强的公司, 但是他把他他把他他自己的主量放在了就是新一代的coding的训练以及现在这个C的这个这个这个这个运营上,他就不会把自己的主主力再放在这个这个所谓的上面。 对,大概是这样,所以所以呢,之后呢,可能 整体的整个市场来看,就算力承载力最强的可能就是智普了。 智普后面可能是阿里,可能是。 对,大概是这样一个情况。 那那那那如果这么看的话,就是很多所谓的单一场景,场景呢就是智普实在再看不上了,可能Max在再吃掉一部分, 但是智普呢基本现在来看就是交单前收的。 就是我们就谈一个总价格,对吧,你具体怎么去设定的。 也没什么关系。 你比如说你这个场景对对对。 你这个场景和那个场景,你就掉就行了,对。 啊,OK,OK,呃,我那我在隐身第二个问题啊,就是咱们那个终端用户的这个场景问题啊,就是之前可能coding啊,像比较多一点,但是咱们之前也提出了一个cowork的一个一个概念嘛,对吧? 然后说是会在这块的订单也比较多了。 呃,我我想问一下就是,像cowork的话,就是能具体在细分下就是说你们觉得未来这个AR增长,它主要是在哪些场景去去去带来这个cowork这个这个这个增量啊? 然后对你说,我没事。 嗯嗯。 呃,是这样啊,就是cowork,cowork目前来看,它其实也是coding场景的延伸。 嗯。 你看到的,大部分大量的cowork,cowork场景呢,基本上就是集中在这几块。 然后呢,但是它它占的量其实还还很不错啊。 对,它占的量其实还很不错,但是但是实际上呢,呃,就是我们在执行这个任务的过程当中,其实都是靠我们我们的coding能力,也就是说,我我们会把这个这个coding呢,就不是很抽象的去看了,我们要要广义的去算,这个coding它到底在这个能里它做什么,因为基本上我们认为coding就是属于在执行这个所谓的这个这个过程当中,它在去执行交员的这个这个作用,大概是这样。 所以,所以,所以看起来呢,就是我们现在去谈cowork,其实是我们想把coding这件事就把它给做广,而不是说我们真的在对对对。 就是大概是这个意思啊,就我现在可以马上那个对,说一下场景。 我我们现在基本上是这样的,就是会集中在几个几个所谓的这个这个就是高价值行业里面,那我们我们做的能力呢,主要是分几块,第一个就是文档办公。 这个可能会比较多,它的它的所谓的办公的协同,然后它的办公的一些就是长记忆的memory一样的项目,对。 然后同时呢,就是我们的搜索和调研,这会做得比较多,然后搜索调研呢,它基本上对应的就是一些这个这个所谓的这个这个这种这种做量化交易啊,或者做投言那一些单位,对他们可能会做一些可性的报告研究,他们会做得比较多,他们可能每天都在去把我们的search,然后呢去去做数据生成。 对,然后呢就是数据处理与分析。 然后然后最后一块呢,就是我们的这个所谓的创意设计,然后多媒内容生产。 创意设计和多媒内容生产怎么理解呢?就是国内现在在跑lance的这个这个这个所谓的平台有很多嘛,他们需要一个一个LM去帮他们写脚本。 比如说写分镜稿啊,写这些东西,我们这这个量跑得非常大。 就是我们的5.3基本上跑到了国内主流的这些所以叫什么画布创作工具里面,然后都在跑我们的5.3,所以这这块量量是非常大的,那这这这几个场景呢是我们现在认为就cowork比较主流的场景,那除了这这几个场景之外呢,就是我们日常的这个业务流程的沟通协作,那靠靠靠我们的这个这个这个coding呢,它去它去它去跑这个这个协作的过程,对然后然后也会有,然后呢,也还有一些就是交易执行,然后包括一些就是图像界面理解的一些就是偏世界理解的一些操作,这个世界理解呢可能说说的更抽象一点,我们现在碰到比较多的就是报销,我们去理解一些什么报销,我们去去审核一些报销的发票啊,或者报销的小票,那这个会会做得比较多,然后呢,剩下的就是就可能就是一些所谓的agent的代理代理性的任务了,但是这种所谓的代理性任务呢,比较比较泛,就是什么都行,比如说我们去做了一些就是中英互翻之后的一些这种这种问题分析啊,然后或者是一些一些呃,一些所谓的什么新闻总结啊,或者要素总结,对,然后我们做了一些就是就是映射到特定的一些成员行业里面做的这种应用的规划构建和测试。 对,然后再加上我们的一些复杂的推理推理,这这就更泛了,推理里面就就有什么有什么这个AI Science相关的呀,对,大概是这些这些过程里面,用到高效的一些一些一些场景,对。 到后面这这几个就是你参考就行了,对,大概就是这几项,然后总下来。 嗯嗯嗯,明白,然后, 呃,企业是直接部署的,还是我们是有些软件厂商,他接了我们这个,调用我们的模型,他集成进去了? 呃,不一定,就是像刚才我跟您说的,就是日常的这种,这种搜索调研问的满沟协作,然后包括那个,呃,创意生成,这个直接在我们接口就可以了。 嗯。 这个直接在我们后,那个接口就可以了,然后他们那个结合到他们一些,就是软件产品的这个这个所谓的这个这个办公的沟通协作, 然后或者说他一些这个带有图像性的一些审核,那基本上我们就是都是接在一个我们的F生态里面的,就是他们可能本身就是一个软件厂商或者是一个SaaS厂商。 但是这个这个对我们来讲啊,就是接S厂商,它就是我们的最终用户了,我们不会再看我们下一层的用户,他们到底每天的, 就是每天每个人的用量和他的他的需求到底是怎么样,对,我们只能,只能说我们去拆一拆数据, 然后我们把这些数据呢,就是所谓的用户轨迹数据在系统模型里面,但我们实际上不会去看我们最终用户的knowhow。 对,你可以这么理解啊。 明白。 明白,哎,然后能不能大面上给我们介绍一下,就是目前我们2B行业的话,怎么去拓客呢? 呃,每个客户谈下来重不重啊,就整个服务? 特别是,就是,其实,其实这样,就是我们现在国内呢,就分两块吧,一个是泛户,泛户,泛户让行业,然后一个是一个非,一个是 非泛户行业,然后泛户行业呢,基本上,所有的客户都在我们自己的一个资源池里边, 那资源池呢,就是它有量的,就是我我们有新来的销售呢,看到这个量呢,他觉得值得运营,他就去去去认领。 把这个,把这个资源资源池里面的这个用户给拿走,对,然后他去联系,然后他去谈价格,起量,谈框架,大概这样,这样一个过程。 然后在谈框架的过程中里面呢,其实可以去挖掘一些新的场景,那就看那个销售的能力了。 他如果挖掘到一些新的场景呢,会找到我们,我们可能去做一些场景评测, 然后算一下ROI,然后我们可能会给给它提供一些所谓的技术支撑, 对,大概是这样,然后还有一部分呢,就是,就泛户的基本就是这样一个逻辑,然后泛户可能还有一些,还有一部分老客户,那这部分老客户呢,肯定还是在一些销售手里边,只不过在某一些阶段的时候,我们开始强调调用量了,那这些老客户呢会,呃,这这些老销售呢会拿到一些所谓的激励,就这个激励呢,我们会包含到那个老客户的充值,那那去激励消耗,这个消耗的过程里面呢,我们会给这个销售发,发一个非常可观的一个提成。 对,这是一块,然后第二一块呢,是老客户呢,他在别人手里边量很大,然后我们现在呢,开始多调量之后,我们发现了他的量很大, 我们在关注的是能不能把他的这个量切过来,那我们的主要方式呢,其实就是价格了。 大家去打价格战嘛,比如说他我们发现他在字节的时候,拿到看那个八折,OK,我们接就给四折, 也有这种可能性,我们真的认为这个场景可能比较值钱的时候,我们甚至三折也费劲。 对,大概是这样的一个情况啊,然后这是这是面到泛户行业,然后泛户行业呢可能还有一些相对来讲比较比较独立的一些一些一些 厂商或者行业,比如说像游戏啊什么的,那这个呢就需要我们销售可能在一些自己的资源去拓展了,或者说我因为我们有很多嘛, 我们也会投一些会啊,然后他们他们总会去找到一些,比如说相关行业里面的一些一些头部公司的那个CTO, 也也可以,就是我们帮他去做建联啊什么的,这种这种这种都没问题,对,就是分房,那非分房呢,其实我们现在 也发现它很多的这种这种,就是偏传统行业啊,就是就是, 但是它也有一定的所谓这种这种互联网的属性,或者说他对,它对模型的话确实有一定的诉求的这样的行业。 类似于像什么软件开发呀,然后像像一些他本身就做办公助手啊,他内部或者说客服啊,那这样的行业呢,基本上就是我们会会在内部做一些行业划分, 那这些行业划分里面呢,就是其实会包含到一部分的项目,那项目以外呢,其实我我们就会去给他们定,比如说调用量的KPI了。 那这个行业呢,我们基本会分几块吧,大概就是政府,然后金融。 对,政府,然后然后金融,然后金融里面我们现在主要是做的是非银,就银行的话其实现在跑不起来的。 对,政府呢,做的是政府的政务大厅。 对,基本上是做做的是政务门户,然后政府服务。 做这样这样。 然后还有还有一些叫国央企。 对,政政府、那个金融,然后我们自己叫国央企啊,我们自己叫 呃,叫什么?叫叫A类客户,对,我们叫A类客户,A类客户里面包含了就是国央企啊, 大概这些行业,对,还有一些事业单位。 对,然后还有一部分呢,就是就是就是那个叫大型泛户。 也不叫大型泛户,他们他们现在改名好像叫什么 3C制造,好像叫3C制造,对,它可能专门是面向一些很像泛户的一些制造行业,比如说做平板的, 做游戏,做游戏的,呃,做做那个什么,做做那种毛绒玩具的,对,这些东西都都我们都算到那个3C制造制造里面。 对,大概这这几个行业,然后然后基本上就会给 呃给给我们的那个销售同学去画KPI了,那他们就自己自己去拓展,然后基本上也是也是去找,比如说 一个国央企的一个行业里面的一些一些突出的场景。 比如说他他是做什么中石油,他可能会有什么 那个线上线下的一些那个那个业务对吧,那里面可能会有 会有客服。 对,大概这样。对,大概是这样。 我稍微,对对,稍微打断,就是你刚提到就是有些这个之前的场景你亏钱也去做嘛,就是你怎么去定义这个值钱?是说他未来就是能能能赚到钱,还是说他这些数据比较重要,还是呃这个场景对你你做的最好的话,你未来可以去快快速的去去拓展,就是你们内部怎么去定义这些比较好的场景? 然后这个场景 现在 嗯。 你说 明白你明白你的意思,对,我们现在去定义场景其实很简单,就是 就是要么就是利润,要么就是数据。 对,我我们要我们要看利润的话,就是它的量只要足够大,它我们给它个15折是OK的。 它的量我们会有一条线,就是它如果低于百反亿tokens每天, 就每天的话低于百亿tokens。 他如果还想要这个折扣,我们就就会认为它就是一个垃圾场景,或者它是一个垃圾用户了。 嗯。 说的可能比较极端了,当然实际上我们内部就就这么沟通的。 对,就是量,量是比较重要的,对,如果它量没有到的话, 我我们就认为我们之间的这个所谓的合作呢就不用,不用打那么丰满对吧,至少我们的折扣没有必要给他给他到那么高的一个状态。 对,然后这是第一点,第二点呢就是数据,就是有些行业呢,我们认为就是 怎么样我们都要进去,我们一定要拿他们数据了。 那像之前我我们定的这个行业其实就是那些传统软件厂商。 或者说一些SAS那种,那种云厂商。 那那我们基本签的年矿大概大概就是一两千万的年矿。 那这个年矿虽然我们来说非常低,但是我们我们确实能够把我们的量放进去,然后在放的过程当中呢,无论是我们去去收集他们的轨迹数据,还是我们通过模型本身的這個這個网络攻击这个这个手段,然后去爬他们的本地数据库,那对于我们来说它其实都是一个数据回流的一个就高速回流的一个一个一个过程,对。 那包括现在就是那个我们我们我们常老师也在讲就是 就是模型的自我迭代嘛,在这个过程里面我们所有的数据回钱的过程其实都会触发到模型的自我训练当中,对,大概大概大概都会都会触发到这个阶段,所以我们的这个这个迭代效率也会取决于我们面向到什么样的客户,那这些所谓的就coding强相关的这种这种这种数据类的,我我们自己叫叫优质数据用户,那他们可能就是我们认为很高价值的场景。 嗯,对。 那除了就是就是以外的 嗯。 以外的就是就是非常非常我们就会认为可能,除非它的流程很复杂。 但是这样的客户很少。 对,这样的客户非常少,就是流程很复杂的客户呢,可能基本就是投研呀,然后基金呀,这些这些用户会比较多,他们也不会跟我们讲价。 那基本就是对我们来说就是就是高价值,高价值数据,然后加高价值的这个这个场景。 嗯,大概是这样。 您您刚才提到就是国央企可能就是对于你们就有些数据回流可能有一些意见啊,那后续的话,呃这条通道说这条链路会不会受到一定影响啊? 呃影响挺大的其实,就现在其实 呃我我现在就是负责负责了我们后训的那个数据评估, 其实我我我个人压力非常大,就是因为是这样,就是我现在我们做的主要工作其实分几块,第一块呢就是 我直接会跟SV厂商去谈你的数据后卖给我们,你就是一种三来讲比较合规的形式。 首先他们现在不敢卖。 然后第二一点呢,就是,我也会找很多中转站去买一些海外的像那个主流的那个5.1,然后包括GP6的这种这种所谓的这个用户轨迹数据,然后包含到C的轨迹数据,但是现在这些数据呢又被加密了,我们就搞不到。 对,所以现在我的KPM呢就就对我只能代表我们公司啊,我的KPM现在一定是完不成的,就是我我到明年的4月份,我的采购,就是我挂在我头上的采购资金是超过1.5个亿的。 嗯。 这这这个绝对绝对是花不完的,所以在这样的情况下呢,就是我们的后边的 模型训练的方向可能就会受到影响。 这个这个不夸张的讲,我们模型模型训练方向可能会受到影响,对,大概是这样。 对,这这里面就我就再引申两个问题啊,就是目前这些反正流以后就国外头部的这个模型,但他的数据就是真的就很难买得到能用的数据的是吗?是难度会大大提升? 是是的,就是我们以前买数据的方式,我也可以给您您您是您是境迁还是 还是投资? 我不是我不是我不是我投资人,投资人,对对对。 投资人,投资人是吧?是是那个不是政府的那个那个股东吧? 不是不是不是,我就是投资人,对,你您说,嗯。 投资人,OK,OK,对。 我们之前的会会取形是这样的,就是我们会找一个中间的隔离供应商,就是海外能够买到的数据,在海外做了一个公司,就能够买到的数据,就这个公司就直接采购了。 对,就就不会走我们了,那我们基本就就会找中转站或者找一些这种这种这种就云厂商做海外的一些,就是做做做到海外的一些云厂商,然后我们把这些数据然后提提出来是要求,然后他们自己去找数据,大概比如说这一次收集到几百条1000条或者更多,对,大概是这样,然后把这些数据呢全部都扔到隔离供应商上,然后隔离供应商再把这些数据交付给我们,我们把款打到隔离供应商的账户上,然后做一层隔离,大概是这样。 对,然后现在呢就是隔离供应商都已经被撤出了,主要原因是因为隔离供应商他没有去解密那个现在所有的都是加密掉的嘛,他没有解密的能力。 所以所以现在就是我们让隔离供应商帮我们去找解密公司,然后隔离供应商认为是有风险的,是有法律风险的,是有比较严肃的法律风险的。 所以他们现在都撤出了,我们现在最好的方式就是说去去逆向就找找一些就是比如说5.1的号,就是那个那个就是个人用户号,然后我们去再找一些可能从无论是从政府离职的,还是我们开社区的要熟的人,他们去逆向逆向某一某一项工程,就是去模拟一个身份,或者模拟一个场景,对。 然后逆向出来之后呢,他们尽可能的去使用一些解密手段,就他那个就是个人用户呢,其实解密还相对来讲比较简单,然后他能够把它能够看到的所有的问答里边的全部全部数据,然后给我们给我们提取出来。 大概就是这样,然后我们现在算过,粗算过,就是这边平均每条的 成本是40到50美金。 对,成本是40到50美金,我们现在收到手里边大概要翻10倍,就是我们收到手里边大概是 1500到1600人民币,1500块钱到1600块钱人民币,一条。 是一条啊,就是我们收收来一一整整整条的这种完整的数据库目录。 就至少是10轮对话嘛,然后平均每轮对话它的不要低于500tokens,大概是这是我们的要求,对,然后我们一条就是它的一轮问答,我们就要收14到1500,那现在在国内流通的大概也就是1000条左右。 1000条左右,而且基本都是模拟数据,都是模拟数据,没有真正真正的轨迹数据。 所以现在确实是挺大家非常焦虑啊,非常焦虑。 嗯,以前的成本是多少了? 以前成本比较低吧,以前成本我们基本收出去大概就是150块钱一条,然后他们的他们的就无论是Cloud还是主要以前我们说Cloud为主。 Cloud基本就是二三十美金就差不多了。 嗯嗯嗯,明白,哦那我明白了,了解。 呃,那那从你的角度来看,那数据肯定是一方面啊,就是那从国内模型厂商 来说它会从哪些新的思路上就去去做它的那个后训练或者是整个训练的,就是他会怎么去应对这样一个情况呢? 就不管说成不成啊,就是说方向上会往哪些方向去去去思考。 八仙过海嘛,就各有神通嘛,现在就是呃现在就是他们为主的,包括那个自节,都在去在海外找了很多子女的公司,然后或者他们自己自己去找几人,去把这个所谓的问答过程剪掉,然后然后再找一些中间隔离的人去蒸这些数据,然后对他们大家是这样的一个思路,然后他们真的是全量数据,他们可能需要的就是几个细节的数据。 那但是对于我们来说呢,其实我们我们只需要买个几百条,然后根据它不同的用户轨迹,然后去去去确认他们的行业,然后通过他们的行业呢,我们要看的是他们最新一版模型的COT,这是我们现在的思路。 对,然后然后这些数据获取不了之后呢,其实我们现在还有一条路径,就是其实跟刚才我跟你讲的那个SV的那个路径比较像。 就是去抽一些所谓的行业代码库。 对,这路径比较比较像,就是我们会找一些呃他对于就是有没有模型,他的链路本身就是一个就是一个就是一个长链路的一个过程,比如说研究类的,就我们以前可能买买数据,买的都论文,比如说买买买买一个这个所谓的科研数据,我们买的都是类似于科研报告或论文。 但是现在我们要的是一个就是科研科研那个研发过程。 对,我们会把这个研发过程呢去用R的手段去洗到洗到模型当中,然后做训练。 这实际上是给模型去加它的权重。 对,然后这是一种方式,然后第二种方式呢就是呃我们所谓的自己的这种这种C轮,然后这些这些C轮里面呢,我们会找一些就是我们在我们头上用量比较多的一些就是个人用户,然后我们会会会定向的定向到他们里面会会可能会给他们加一些TS,然后我们会告诉他,就是你们可能就是他们可能也会用到那个那个cloud啊这些东西,我们会告诉他就是你可以去模拟一些身份,就如果你你方便的话,你可以帮助我们,然后我们所以回报是给你去加S,然后你你用CVT的,不是,你用GPT的这个这个使用方法,和他的那个回答的这种这种这种这种这种问题,然后你把那个问题呢,你去模拟在在市府的那个那个里面去模拟模拟一次,然后呢你你在模拟的过程当中呢,你去帮他修正。 就是你认为他生成代码不好,他的他的有有他的他的本身可能会会产生一些这种这种,就是你认为他的意图直接不准确,你都可以在在这个这个过程里面去去给他做修正。 然后他整个的修正的链路呢,我们就认为我们模拟一次cloud。 对大概是这样,然后这这也是一种一种方式,对。 就是第一种方式就是采购数据,然后第二种方式呢就是就是做身份模拟。 然后第三种方式呢就是我们现在也在去把模型往世界模型这个这个领域去带,就是我们会会到某某一个阶段会会绕开抠定这件事,就不是说我们放弃抠定啊,而是因为当前抠定我们认为就是用老顶到头了,其实大家大家都在通过就是加加不同行业数据,然后去去去搞这个找这个模型的所谓的能力嘛,实际上就是RL的这个过程。 那我们可能后面两个方向,一个就是呃一个就是所谓的模型的自我迭代,然后第二个就是世界模型。 但这两这两个方向,就是就是所谓的这个模型的物理感知,那也就是说第三件事就是我们对于模型的本身的迭代路径呢可能会会做一些偏移。 嗯嗯。 你一定要是把模型放在在所谓的TP类的情况下,然后做一些所谓的模型的这个这个的偏移。 对,所以现在就是世界模型呢也被我们提到了一个比较高的一个日程。 然后包括现在我采过的这个很多数据数据里面也包含到了这个这个所谓的动态的实业数据。 对,大概这样。 明白,明白。 OK,呃,时间比较紧张了,就是我我我在问就两方面问题啊,就是第一个还是利润率的问题,第二个还是那个算力的问题啊,呃,就就从目前来看呢,就是国内这种呃模型竞争是不是还是会导致呃价格战会继续,然后... 模型厂商的一个毛利率相对来说还是处于一个比较比较低的一个水平啊,20几啊,这种三。 嗯,其实其实谈不上,就是就是毛利这件事呢,就是就是对于模型厂商来讲呢,是他们要考虑第二件事,然后大部分的模型厂商要考虑是算力该怎么办。 对,我现在就是对比较主流的就主流里面的这些就是掀起来的模型,无论是P还是MAX,他们其实都已经放到了算力建顶的这个这个这个问题。 嗯。 然后呢,他们的算力建顶呢,意味着意味着的是,因为他们后面靠周云的。 那哪算的吗? 这意味着他们后面的阿里和腾讯云的算力也都见顶了。 所以现在呢,就是与其去打价格战,谁如果能够搞到下一批次的算力,而且这个算力的质人会比较好啊。 然后或者说你自己把自己的一法做到它完整的是否国产的这个这个新线,那可能谁就是下下下个阶段的老大,那这这里面呢关乎价格,但是他他现在这个阶段其实不用考价格。 你就是你只要有更好的那模型承载那就可以了。 就是所有的用户都在等着付钱。 所以在这个阶段的时候呢,与其说,对,与其说价格战,不如说是是算力战。 对,大家都在。 懂了,懂了。 抢钱。 嗯,嗯,嗯。 那就接下来下一个问题,就是目前我们目前我们的个算力的这个这个这个分布是什么样? 就是总造啊有多少,然后,在国内卡跟海外卡里面又分别有多少,然后用于训练跟推理的又又分别是有多少,然后是目前的个状态啊,然后到27,到26年底或者27年的时候,你觉得会是个什么样的状况? 我现在说的这可能也不完全对啊,因为我内部其实也一塌糊涂的。 但是对外呢,我也知道他在胡说八道,我就是从我的了解的角度我来跟你讲嘛,就我们现在基本上切到切到我们的模型的就日常的这种这种后续练,然后到我们模型更新版本的预学练呢,我们的总机群大概有大概2万7,2万8000块卡。 大概是这样。 对,对,然后这些卡呢,基本上没有B300,没有B200,都是都是老一版本的这种这种H100。 嗯。 然后最差,对H100最差是A800,然后A100这样的卡为主。 然后然后这些卡呢,就是我们目前的算力的,就我目前模型训练的两个维度,第一个维度就是我们大版本的迭代,和我们的日常的这个这个模型更新,就是现在基本都是都是一日一更了。 对,我们我们还是还是扛得住的,就是就无论是从我们的数据缓存,还是说到我们的模型的处理这个层面里面,我们还是扛得住的,而且不光是扛得住,就是我们在扛得住的过程当中呢,我们也会把这些算力再切出来一部分,然后用到我们的这个抽资标和。 对,然后我我我们基本上外部的这个这个就是这些卡基本就是我们的那个内彩卡了,我们内卡大概也就是这么多个,然后外部的呢,基本上都是都是大概有占到呃60%几以上啊,就在细的不知道。 反60几以上,就是我们现在总共在跑10块卡有,反60几以上是国产卡,就基本上就是集中在呃昇腾系的行龙地为主,行龙地为主。 然后我们获取获取方式也也很也很简单,就是我们拿了很多国投,我们这国投我们跟他谈的时候就谈到了他们本地的算力集群,优先供应给智普。 对,那智普呢作为主用户方,然后帮他们去做一趟法。 那法之后呢,可能可能会会把这些东西再再转租给其他厂商,但现在我们自己都不够用,就不会不会有转租了啊,我们会会跟当地政府产生一些利润的一些分配,但前期是不分的,可能到后面会分多一些。 然后另外还有还有将近就是总量的大概20%多的这个这个NV卡,230的NV卡,这其实也是主力卡,就是我们那些国长卡它都不是主力卡,对,它都是一些就是刚跟你说的,它的量很大,但它只服务于两三个用户。 这样这样的这样这样这样的卡,就我们的主力卡呢,NV卡呢,基本上就是从金山、阿里,腾讯这三家头上租的,也就字节呢是给我们退租了。 大概是这样的一个量级,就是主力卡呢,大概有,主力卡大概还有呃,两万多块,在在跑,大概大概是这样,对。 对,主力卡呢是跑和东跑大和。 呃，和那个通子主力啊，大概大概这么一个情况。 诶，对，然后，然后 对，国产它占到 对，国产占到就是我们10万块还剩，还剩就是7万块嘛，7万块的60%。 嗯。 就是表示生存系的是吧？ 对，以生成为主，就是，呃，基本上生成都是前两年采购的，然后地方政府呢没有我们，其实那些生成大概率也也是一个爬亏的状态。 实话是说。 嗯嗯，那实际使用效果会会怎么样？ 呃，差很多，差差的非常多，就是我拿100B为例，就是同样的用我们infar，呃，生成的只有B，应该是BBR，BBR4还是BBR3，它的推理效率可能只有AH100的40%到50%。 就是我们用我们那个infar优化的结果。 如果不优化的话，可能会更明显，对。 就是我是结合了精度和速度。 嗯嗯嗯。 对结合了精度和速度。 但但从模型厂商来说是不是也没得选了，就是说，呃，在算力限定情况下，大家还是必须会去利用好这些，不管是存量的国产卡还是新增的一些国产卡。 嗯，可以说是没得选，就是我们之前也坚持不太想用国产卡，因为我们想做国产卡的话，你就得适配，然后又适配完之后又得优化。 优化呢，实际上我们在帮那个国产厂，就是国产厂商在干活嘛，相当于是。 嗯。 但是但是你现在，对，我们我们整个英团队建起来之后呢，每年成本都很高，就是无论是我们的人员成本，还是说我们这些算力的在适配当中的一些，就是所谓的损耗成本，都很高。 但是没办没法呀现在，我们自己又买了一支团队，又买了一个中间的一个团队。 你就是为了去去做去做这个这个，其实就是做做infar的，国产的infar和那个一构的，但是这个这个没得选。 就是确实海外的最先进的卡它进不来啊。 国内在强调这个，我自己的自己的算力生态嘛。 这个没得选，确实没得选。 嗯嗯嗯嗯，懂了懂了。 对，前几公司其实之前也也对外说明就反正有10万，10万张这个，10万级，10万级别的这个国产芯片。 呃，呃，就它分布上是怎样分布，就是它分布在这个，我不知道你有没有说，大概有多少个集群或机房，对吧？ 其中最大的一个是一个多大规模的，能能能能执行多大规模的一个训练？ 那这个我就不知道了，这个我一点都不知道，我大概知道它的分一些分布位置。 在贵州，呃云上，云上贵州那一块它有一个集群，然后在，呃，在乌兰察布有一个集群，然后在门头沟的京西智谷有一个集群。 京西智谷的国产卡是最多的。 对对对，然后这几个几个集群，然后再加上那个济南有一个，有一个超算中心。 然后也在给我们再再供卡啊。 对，无锡有一个超算中心。 了解了解， 然后您刚刚说就是整体说效率会低很多，但是，呃，挑一些难的场景嘛，就是长上，长上长上下文啊，复杂的coding啊，或者一些多轮agent。 呃，就是国产芯片你你你，就是从你的角度来看，有没有看到一些明显，就是最明显的一些性能瓶颈是什么？ 目前有没有做一些对应的改善？ 就是，怎么说呢，我们在九，9520和90C上，我们其实改善的还是蛮多的，无论是在它的长期里面的损耗，就是我们的损耗对比也是去比那个，那个BB200 B300这样的卡啊，你至少是H200吧，对。 对，这样的卡，然后它的它的它的损耗上，就损耗不会超过20%。 但这损耗不超过20%不代表就是，呃，90C它已经具备了就是那谁的那个那个那个叫什么玩意儿，具备了B300的80%的性能啊，这个这个不能这么去类比。 就是我们所谓的损耗，还是要去看在在整个PVtouch这个过程当中，要给大模型去加更多的权重的情况下，可能或者去加更多限制的情况下，然后通过我们的完整的PV框架，然后让大模型可能保证一个所谓的相对精度。 但是这个相对精度的过程当中吧， 也也意味着更多的缓存在用。 对,大概是这样。所以呢,不能不能完整去类比,然后我们现在其实主要,就我们实际上自己抢不到这么多好卡嘛,就像 像讲C99520这样的好卡,其实我们最后呢,还是在B上跑的更多,那在B上跑的更多呢,其实我们现在认为就是我们的就是就是比如说一个长长任务里面的,它的它的性能损耗是比较严重的,就是或者说它的它的性能的变过程,它的它的它的精度是比较抽象的。 所以我我们现在其实给给到最好的结果就是这些复杂任务,我们都会把它放到因为达的上。 那可能对对对,他就是一些,对,一些单点任务,我们可能就是把它放到 官人卡上,但是单任务他的推理的量级很大嘛,那我们解决推理量级就是我们在不谈去那个速度的情况下,其实我们解决那个退退量级就加卡,就可以了。 嗯,比如以前我可能跑跑,跑一件事对吧,我现在把它搞成五台机器,对,大概是这样,嗯。 嗯。 呃,那最后一个问题,就是 咱们也刚做了一轮定增嘛,就是还是资金量还是比较大的,就是未来半年的话,不管是通过买还是租的形式啊,就是分别能带来多少国产算力和和和这个这个英伟达的这个算力啊。 英伟达先不要考虑好吧。 啊,行行。 因为我们还被扣着。 对对对,因为我们还被扣了一批呢,我们现在可能 也不是说买不到英伟达,我们现在可能能租到英伟达。 嗯。 对,我们可能在在在,对对,我们定增了这些钱之后呢,我们后续的目标就是说在 海外去建设算力中心。 但是这个海外建设算力中心,其实我们现在还比较多的,就是我们的数据是是是会被国家严格审核的,在在在这个这个阶段里面,对, 嗯。 就在海外建设算中心呢,我们预计的也就是去 建设的就是千卡规模,然后去支撑我们的海外的一些一些运营,那包括了一些就多本对于我们的模型的要求,然后以及一些就是我们我们就是国内出海的一些一些一些诉求。 大概是这样,就是目前的规划呢,就是一个大大几千卡的一个一个级别,但是在细的我就不知道了。 然后在国内呢,我们现在现在这个这个所谓的算力联盟,我们的方向还是说就是帮助以华为为首的这样的比较好的这种这种这种算力厂商,或者叫芯片厂商, 我们去去帮他们优化下下下下一个下一个 模型的模型的模型,下一个那个那个算力的版本。 就是基于他们自己的框架啊这些东西,去优化版本之后呢,可能我们能够相对拿到一些比较低廉的成本这些卡,但是这个卡的规模现在 没法跟您讲,就一点我都不知道。 嗯。 就我们预备必须要开过1万块,这个我们内部没有任何声音,对。 诶,或者就是最后最后一个问题啊,就是同行来看嘛,就大家反正您说都遇到了这个算力这个瓶颈嘛,呃谁最有可能去最快的去缓解这个算力的瓶颈? 因为有些人可能背靠一些厂商,有些人可能就是有你们有钱,呃反正就是谁谁谁会就从您的角度来看,谁会最快的去解决这个算力的问题。 嗯,我觉得字节是最快的,就是字节字节现在呃怎么讲呢,他无论是从算法这个层面来讲,他还是从算力本身的这个层面来讲, 直接直接比较务实,就是年初的时候他预预预息到他们的那个那个那个 呃他们的会会爆亮。 所以他们可能把当时市面上能够收到的所有的角力币都收到自己手里面,然后就才开始去在一个完全合规的情况下去去去跑,去跑化。 对,所以有的时候我们会看到他那个,对,他那个生产的就很不稳定,很慢啊,有可能甚至会降。 也是这个原因,对,但是他们其实也做了很多很多工作,然后直接以外呢,我认为就是和智普可能会好一些,就他可能还还要就是追求极致的,然后和他的那个那个的这种这种这种性价比的能力。 对他们也其实有这个技术能力,就是在在的层面里面,我觉得就是没有人可以打得过那个。 然后智普呢,我觉得是一个相对来讲比较综合的一个状态,就是 呃我记得是今年数月份的时候,然后阿里的一些算法中讲, 他们在在同样的就一套。