2026.10.09 | AC | China AI | Doubao Expert: Distillation & Meta Muse Impact

摘要

本文核心要点包括：1， 模型蒸馏成本提升及对国内大模型迭代影响2， 独立模型厂商与云厂商竞合关系变化3， Meta Muse对国内豆包等AI应用影响4， 互联网大厂AI投入策略变化等

以下为专家观点：

1，目前国内各主要模型公司，包括字节跳动的豆包在内，对模型蒸馏技术的应用现状如何？

关于模型蒸馏，主要有三点观察。

第一，国内过去在蒸馏技术上的应用非常普遍和深入。

第二，当前GPT和Claude的反蒸馏措施已颇为有效，其主要效果并非阻止访问，而是将蒸馏方的成本提高了十倍以上，导致经济账需要重算。这一变化也影响了国内专业模型公司的战略。这些公司原计划在2026年下半年推出参数量更大的模型，但这些大模型项目均已延期。与此同时，这些公司原本也计划推出Flash或Mini版的轻量级模型，以满足云服务市场上对中低端、高性价比模型的大量需求，从而扩大盈利面。在OpenAI和Anthropic加强反蒸馏措施后，这些专业模型公司不约而同地将研发重心从大尺寸模型转向了轻量级模型，以应对蒸馏成本的重新评估和市场需求的变化。

第三，关于字节跳动的蒸馏情况，存在两个制约因素。其一，蒸馏效果受限于学生模型自身的能力和容量。字节当前的模型能力要么因处于持续训练中而无稳定版本，无需蒸馏；要么稳定版本的水平较低，没有必要去蒸馏GPT-6这类顶级模型。其二，字节自2025年初官方已宣布停止蒸馏。后续未再进行大规模蒸馏，主要是因为其模型一直处于训练迭代中。由于蒸馏对模型技术基础有较高要求，而近期关于蒸馏的讨论中并未提及字节，这间接反映了其模型技术和容量的不足。

2，模型蒸馏的成本构成是怎样的，以及近期成本显著上升十倍的具体原因是什么？

模型蒸馏的投入主要分为三个环节。第一是购买API的直接资金投入，尤其是在账号可能被封禁的情况下，需要持续投入资金开设新账号。第二是人力、算力和时间的投入，这包括研发用于生成高质量提示词的专门模型，以及对提示词进行分析、筛选和管理。第三是工程系统的投入，蒸馏过程需要通过多轮、递归式的提问来深挖目标模型的完整思维链和推理步骤，这会产生海量的交互数据（每日可达数亿甚至数十亿条），需要建立相应的大数据管理体系进行处理。

在当前OpenAI和Anthropic的反蒸馏措施下，成本上升最显著的是第一个环节，即API购买成本。具体来看：

GPT-6等新模型不再直接展示思维链，甚至取消了模型思考深度的选项。这迫使蒸馏方必须通过更多轮次的提问来还原其思考路径。原先通过2到5次提问就能获取的信息，现在可能需要10次、25次甚至30次，导致API调用成本直接上升5到10倍。同时，账号被封禁的风险也更高。

Anthropic则采取了另一种策略，它会限制用户对单一问题进行刨根问底式的追问。例如，当连续追问一个敏感或复杂话题（如核武器原理）到一定深度（如三至五个问题）时，账号就可能被封禁。为了规避这一机制，蒸馏方需要在核心问题周围插入大量其他问题进行混淆和掩饰，可能需要用十几个问题来铺垫一个真正想问的问题。这同样大幅增加了API的调用量和封号成本。

综合来看，仅API采购环节的成本就至少上升了5倍，甚至超过10倍，具体取决于问题的复杂度。第一环节成本的剧增，也相应加重了第二和第三环节在人力、算力及工程系统上的负担。

3，如果OpenAI等领先企业不再提供“思维链”等技术捷径，国内模型厂商若要达到同等效果，其研发成本将如何变化？这种变化对国内厂商的研发路径和行业格局可能产生怎样的长期影响？

若OpenAI等公司提高技术门槛，不再提供“思维链”等便利，国内模型厂商为达到同等效果，其研发过程将变得更为复杂。首先，需要生成更多、连贯性更强的问题，这将直接导致中间环节的投入增加和数据量的激增。其次，工程系统的存储需求和复杂度会随之升高，而当前存储成本依然高昂。综合来看，整体成本将显著上升。对于能力较强的公司，成本增幅预计在五倍以上；而对于能力稍弱的公司，直接的现金成本增幅可能高达十倍。

这种变化将促使国内厂商在发展路径上做出选择。如果部分公司仍倾向于用资金投入换取短期效果的“捷径”，那么行业受到的影响可能不大。然而，如果领先企业持续抬高技术壁垒，国内公司最终将被迫回归到更扎实、更基础的研发道路上来。届时，行业可能会出现一种新的态势：领先的海外公司API收入或许会略有下降，而国内公司的研发成本增速将放缓，研发周期相应拉长，模型迭代速度变慢，但其发展路径会走上正轨。

4，如何看待国内外互联网大厂在模型能力上的表现普遍不及独立的专业模型厂商？这是否源于组织架构或考核机制的差异？展望未来，尤其是在国内市场，字节跳动和阿里巴巴等大厂在算力资源上具备优势，当其模型参数量达到5T级别后，国内独立模型厂商是否还能在通用或特定领域保持领先地位？

互联网大厂等业务型公司虽然现金流和资源充沛，但其大模型表现不及专业模型公司，这主要是由一系列客观因素和战略抉择驱动的，而非单一的行业定性问题。

在海外，Meta和Google是典型案例。Meta的Llama模型初期与自身业务结合良好，但在看到OpenAI等公司的API收入快速增长后，其精力被分散，急于进入API市场，对模型提出了“既要又要”的过高要求，导致模型研发节奏被打乱，走了一段弯路，目前才调整回以个人Agent为中心的业务节奏。Google的问题则不同，其技术在GPT-3时期已实现，但因模型推理的算力消耗过大而无法商业化，本质上是技术实现与算力成本不匹配的问题。

国内大厂的情况则更为复杂，呈现出一种循环。字节跳动在2024年起步阶段就出现战略失误，在大模型本身尚未训练成熟时，便急于推出十几个App，这导致其在国内市场处于落后地位，因为像DeepSeek、KIMI和智谱等公司早在2023年之前就已开始深耕大模型。阿里巴巴的“通义千问”本有稳定的技术积累，但后来受“豆包”日活数据的吸引，将战略重点转移，影响了自身模型的迭代节奏。腾讯最初认为大模型对其核心业务并非必需，但在发现阿里和字节开始侵蚀其业务根基后，又仓促地进行战略补防，显得较为慌乱。总体而言，国内业务型公司大模型表现落后的核心原因在于，其对大模型业务的重视程度摇摆不定，时常与本体核心业务产生战略冲突，这是一个抉择问题。

展望未来，中美市场的发展将出现分化。在国内，一个清晰的趋势是，尽管KIMI、智谱等独立厂商在技术上领先，但其2026年的实际营收预计不会很高，相应收入会与大厂有巨大差距。核心原因在于，当前国内B端客户的核心需求是获得可用的IT资源，这是大厂的优势所在。

5，如何看待国内专业模型公司与云厂商的竞合关系，以及这种关系与海外市场有何不同？

国内专业模型公司与云厂商的合作既是必然也是一个非常好的选择。国内市场的一个显著特点是，用户在选择AI模型前，首先需要具备可用的AI IT资源，因此控制一级入口资源的云厂商占据了天然优势。对于专业模型公司而言，与云厂商合作可以避免在推理算力上进行大规模投资，同时也能借助云平台提升自身模型的销量和市场触及。

在这种生态下，市场呈现出两种发展路径：拥有大模型的云厂商，如百度、腾讯等，倾向于提供广泛且性价比高的“AI+”赋能解决方案，覆盖金融、交通、政务等多个行业；而专业的模型公司则依附于云生态，在特定细分领域深耕，追求更高的产品价值。以KIMI为例，尽管其应用已获得部分B端金融客户，但面对复杂的任务需求和私有化部署时，最终仍需与云厂商合作。

相比之下，海外市场存在更多不确定性。首先，像Gemini这类模型，尽管其多模态能力和应用结合能力很强，但面临算力消耗过大的问题。如果其后续版本（如Gemini 4）能解决推理成本问题，并达到与GPT-3相当的表现，便有望开辟新的应用市场，巩固谷歌的生态系统。其次，OpenAI势头强劲，专注于大模型的广泛应用，例如工具调用；而Anthropic则聚焦于高级专业场景。

此外，海外市场对大模型Agent自动化的探索也呈现出不同的逻辑。业内对Agent存在两种路径的分歧：一种是让Agent与大模型及工作流紧密结合，以更精准、深入地完成智能化任务，例如通过多步骤辅助模型完成金融分析；另一种则是将大模型整合进原有的RPA、网络爬虫等自动化流程中，执行更高级的自动化任务，如自媒体数据统计。尽管后者曾被视为“大材小用”，但在当前（2026年第四季度），受市场对增长斜率的重视，美国主要公司如OpenAI和Musk的Grok Bot等均已跟进，使其逐渐成为一种趋势。然而，这类Agent应用对CPU、NAND等资源消耗巨大。由于国内在相关硬件采购方面成本更高、周期更长，因此可能无法大规模跟进这种由资本驱动的自动化Agent应用趋势，从而导致国内外在Agent应用场景上产生差异。

6，对于国内的5T级别大模型，预计将由独立模型厂商还是大型科技公司率先推出？其技术路径是基于多模态应用驱动，还是在算力受限下选择MoE架构的结果？

预计国内的5T级别模型大概率会首先由像KIMI这样的公司推出。根据当前了解到的情况，阿里巴巴自身的5T路径主要体现在“千问4”的多模态输入版本，而非核心的、基于标准MoE架构的大语言模型。目前只有KIMI在明确地推动其标准大语言模型向3T以上参数量发展。

从各家进度来看：

KIMI当前的模型参数量已接近3T，预计在2026年底至2027年初，有很大概率能推出一款超过3T的标准大语言模型。

阿里巴巴在林俊旸离职后，研发节奏受到了一定影响。原计划于2026年八九月份发布的“千问4”标准版要对齐Gemini能力的目标，从近期云栖大会上透露的模糊信息来看，其多模态标准输入能否实现存在疑问。预计在10月下旬“千问4”正式开放后，可能会呈现两种情况：其文本方向的模型参数量大约在3T上下；而其多模态输入分支版本，若能实现，根据模型结构推断，参数量将接近5T。不过，其标准文本模型在未来三到四个月内，很有可能被KIMI反超。

字节跳动的节奏则相对阿里更慢。顺利的话，预计在2026年12月可以发布参数量超过2T的标准大语言模型，最乐观的情况下可能达到2.8T或3T；若进展不顺，则可能在2T至2.2T之间。由于字节跳动尚未解决端到端的多模态输入问题，其多模态理解与后续思考部分是分离的。其思考模型部分落后于阿里和KIMI，因此模型会比较小，多模态理解部分也无需做得很大，导致其多模态模型的总参数量（预计3T多）将小于“千问4”的多模态版本。

7，如何看待近期Meta Muse等海外AI应用的发展对国内市场，尤其是对标产品豆包的影响？考虑到豆包目前模型能力相对较弱，其未来的发展预期如何？

Meta Muse这类产品的技术结构具有其独特性。它并非一个通用型个人Agent，而是为特定场景预设了工作流，例如交易、工作助理和资讯发现。这种设计降低了技术难度，并使得用户体验和表现更为可控。从技术层面看，这类个人Agent的门槛并不高，它们不一定需要完全依赖自研模型，可以通过整合如DeepSeek、Kimi等开源模型来提升效果。因此，国内厂商在技术上实现类似产品是可行的。

然而，这类产品的核心挑战在于流量获取和商业变现，这使得中小公司难以参与。在国内市场，除了少数一线城市，类似手机日程管理等效率工具的用户习惯尚未普及。因此，这类应用需要有流量基础的大公司来推动，并且最好拥有集中的变现场景，例如字节跳动的电商业务。此外，个人Agent应用对算力等IT基础资源的消耗巨大。以Meta为例，其庞大的日活用户数若有20%使用Agent功能，高峰期可能产生每分钟数千万级别的任务量，只有全球少数几家大厂能够支撑这样的消耗。

对于字节跳动而言，由于豆包前期的沉没成本较高，不太可能轻易推出一个全新的独立APP。其策略规划应是双向并行的：一方面，在豆包内部快速迭代，集成“我的购物助手”、“我的工作生活助手”等功能，并允许用户通过扣子开发自己的Agent并关联至豆包；另一方面，可能会推出一个与硬件、抖音、电商及资讯内容互通的轻量版APP，以实现更高效的使用。

8，在C端AI Agent产品领域，如何对比字节跳动（豆包）、阿里巴巴（千问）和腾讯各自的优势与发展路径？

在国内市场，个人Agent产品面临一个关键的变现难题。直接采用类似Meta Muse的收费模式并不现实，用户为效率付费的意愿较低。因此，产品需要依赖巨大的流量基础，通过广告等方式变现。若以独立的轻量化应用形态运营，在国内市场大概率会面临亏损。

字节跳动的优势在于其强大的C端运营能力和早期布局。其策略是将豆包打造为一个AI多媒体入口，已经整合了电商、教育、出行、音乐等多个场景，这种集中入口的模式是其所擅长的。

腾讯的C端AI发展则受到微信产品策略的制约。业界存在一种观点，认为只要张小龙坚持微信的简洁理念，AI功能就难以全面整合进去，这限制了其流量优势的发挥。由于上半年模型能力受限，且C端面临豆包的强势竞争，腾讯的策略重心只能转向B端。

对于阿里巴巴和腾讯而言，在C端个人Agent领域进行大规模投入可能并非理性选择。因为无论字节跳动最终能否在该领域成功盈利，其他两家公司在与字节跳动的竞争中可能连日活跃用户数都难以获取，容易沦为市场竞争的“炮灰”。

9，从近期观察来看，字节跳动对于AI领域的投入力度和内部策略是否出现了变化？

字节跳动在AI领域的推进策略与其一贯的商业化导向风格紧密相连。目前，几乎所有模型的推进都与商业化目标挂钩。一个具体的例子是其AI for Science（AI制药）业务的变动。该业务最初隶属于AI Lab，在2025年被合并进Flow事业部，但在2026年又被分拆出去并寻求独立融资。

这一系列调整反映了字节跳动AI业务的核心决策逻辑：2025年的决策是将所有与AI及模型推进直接相关的团队统一并入Flow事业部；而到了2026年，Flow事业部要求所有项目都必须具备明确的商业化前景。由于AI for Science团队无法清晰地阐述其商业化愿景，因此被剥离出去。这体现了管理层明确的态度，即除了作为基础设施的大模型本身，其他所有AI相关的项目都必须以商业化为导向进行规划和推进。