2026.10.11 | AC | China AI | GLM-6 Expert: Distillation & RSI
原标题:大模型行业调研-GLM:GLM-6系列对标Fable5可能性,海外反蒸馏影响,国内RSI进展
摘要
本文核心要点包括:1, GLM模型迭代规划及参数量提升预期2, GLM6系列对标Fable5可能性3, 海外反蒸馏影响4, 国内RSI进展
正文
以下为专家观点:
1,考虑到近期字节跳动、阿里巴巴及Kimi等公司都在尝试研发更大参数的基础模型,相应参数量可能超过5T,智谱AI在超大参数模型领域后续的迭代规划是怎样的?以及如何看待未来国内大模型领域的竞争格局?
目前海外厂商主要致力于实现10万亿参数规模,而国内包括字节跳动、DeepSeek和Kimi在内的公司则主要在追赶3万亿以上参数规模的稳定训练。智谱AI目前的规划并非无限堆砌参数,而是聚焦于1T至5T之间的参数规模,例如GLM-6的参数量为1.6T。公司的核心策略是构建强大的基础模型,然后通过持续的后训练(post-training)来刷新和提升模型能力,追求极致的“质价比”,即在同等智能密度下实现最高的性价比,这一点与Anthropic的策略对标。以GLM-5系列为例,其5.2和5.3版本均基于同一个7,440亿参数的基座模型,能力的提升完全来源于后训练。这种策略也为下一代模型的推理系统进行了预演,目标是在模型发布第一天即可提供大规模服务。
2,如何理解“质价比”这一概念?它是否意味着智谱AI将专注于特定领域,例如编程?
“质价比”与DeepSeek追求的纯粹“性价比”有所不同。DeepSeek的目标是在特定任务(如千字成本)下实现成本最低,而智谱AI的“质价比”策略是对标Anthropic,追求在通用智能的前提下,单位智能密度的价值最高。这意味着公司并非单纯追求低价,而是在保证同等智能水平的基础上实现最优的性价比。为此,公司采用了后训练驱动的技术路线,例如GLM-5系列的一个基座模型可以长期使用半年以上,通过后训练工程化持续刷新能力。
3,智谱AI在GLM-6系列的预计发布时间,核心能力提升方向?
GLM-6系列预计将于明年(2027年)第一季度发布,主要对标GPT-5,参数规模将达到1.6T。在GLM-5系列上,公司会继续深化在编程和Code Agent赛道的布局,充分利用预训练的红利,以保持在国内市场该领域的第一梯队领先优势。
4,如何看待当前大模型领域的竞争格局?
目前的竞争格局可以分为开源和闭源两大阵营。国内开源市场的第一梯队主要包括智谱AI、DeepSeek、阿里巴巴的千问以及Kimi。闭源市场则由海外的OpenAI、Anthropic以及Google主导。在能力上,国内模型与海外模型的主要差距已经缩短,尤其是在编程和Agent领域,基本处于同一梯队。整体来看,可以概括为“开源四强,海外两强”的格局。
5,此前管理层曾提到,预计在今年(2026年)底新款模型将达到Fable5的水平,这具体是指GLM-6系列,还是GLM-5系列的后期迭代版本?
这应该指的是GLM-6系列。GLM-5系列的后续版本,如5.5版本,参数量为1.3T,其能力预计能接近Fable的水平,但尚未达到Fable。
6,GLM-6系列以1.6T的参数量,是如何实现对标参数规模远超于此的Fable5的能力?
GLM-6系列实现能力对标主要依赖于以下几点:首先是参数规模的提升至1.6T。其次,也是核心技术之一,是采用了RSI技术,该技术能自动生成模型所需的数据,并使模型具备自我纠错、判断、迭代和进化的能力,从而显著增强其信息化处理能力。此外,GLM-6系列还将继承GLM-5.5版本在多模态原生、Coding Agent以及后训练工程效率方面的优化成果。
相比于其他模型厂商,智谱AI的优势还体现在后训练的工程能力上。首先,公司自研的Slime异步强化学习框架,极大地提升了工程迭代效率,基本可以按周进行迭代。其次,智谱AI是首批采用DSA稀疏注意力机制和MoE架构的厂商之一。在具体应用上,模型在Coding的SWE-bench上达到了SOTA水平,在Agent能力上也对标并基本对齐了当时的GPT-4.5。核心工程优势还包括在后训练阶段对任务环境的大量投入,以及Agent能力的纵深发展,在工具调用和稳定性方面实现了业界极低的幻觉率。最后,对国产算力的全栈适配也是一项关键的工程优势。而Kimi则选择了另一条技术路线,专注于大窗口长上下文和长程Agent,其2.8万亿参数、1兆上下文的模型是全球最大的开源全中文模型。
7,如何看待Kimi后续可能在K4模型上持续提升参数的计划?这是否会对行业格局产生显著影响?
国内目前尚无任何一家能够稳定训练超过3万亿参数的模型。如果Kimi或字节跳动这类拥有大量NV卡的公司能够率先突破这一瓶颈,理论上会带来一定的技术裂变,但其带来的红利大小尚不确定。
此外,Kimi在技术上较大规模地应用了蒸馏方法。近期,Anthropic和OpenAI已经采取了反蒸馏措施,例如通过API报错和上下文篡改机制来限制API蒸馏。这些举措将对依赖此路径的模型迭代产生较大影响,因此短期内Kimi大参数规模模型的性能提升可能会受限。尽管如此,Kimi在长文本处理和长程Agent方面依然保有其核心优势。
8,智谱AI对模型蒸馏的依赖程度如何?海外主流厂商的反蒸馏策略,例如隐藏COT(思维链)过程,具体会产生哪些影响?
影响需要分不同策略来看。首先,针对通过API进行蒸馏的限制,例如5.1版本更新中引入的上下文篡改和报错机制,对智谱的影响不大,这主要是因为智谱的数据来源以环境驱动数据为主,而非单纯依赖API蒸馏。
其次,关于未来可能出现的隐藏完整COT过程的架构(例如在GPT-6级别的模型中),如果这种架构成为主流,将会对智谱产生影响,因为它使得智谱无法获取完整的推理过程数据。这也是智谱从2026年6、7月份开始决定全面投入RSI研发的核心考量之一。通过发展RSI,智谱旨在让模型生成更多自身所需的数据,从而在极限情况下将对外部蒸馏数据的依赖降至接近零。智谱的目标是实现模型的迭代式自我改进,让模型能够参与自身的预训练、中训练和后训练全过程,形成自我进化。目前,在模型何时停止训练、如何发现错误以及如何评价自身训练结果等关键问题上,业界尚未有统一的解决方案,智谱与Anthropic、OpenAI等仍处于同一梯队。
9,在GLM-6这类模型上直接推进RSI的可行性如何?当前面临的核心难点以及算力是否构成瓶颈?
RSI的推进分为几个阶段。L1阶段(执行自主),即由人设定目标、方法和验收标准,AI负责执行,这一阶段已经完成。L2阶段(策略自主),即AI自行决定改进方法,人负责验收,智谱与OpenAI等公司目前已经做到。智谱期望在设计实验环境、制定验收标准和改进执行方面实现100%自动化,但在设定目标、预算和跨领域边界以及最终验收环节仍在探索中。预计到2027年上半年,智谱能在L2到L3阶段取得进化。L3阶段(经验自主),即AI决定下一轮学习内容,目前各方都在探索中。L4(环境适应)和L5(递归继承)阶段目前仍停留在概念层面。
RSI的核心难点主要有四方面:验证器瓶颈:从可执行测试到形式化验证,再到大语言模型的自我评估,都存在挑战。模型的自评类似于“学生自己批改试卷”,存在被欺骗的风险;改进的保留:需要建立有效的门控和回滚机制,确保只有被验证为有效的改进才会被保留;探索与利用的平衡:需要在多样性的探索和对新发现的有效利用之间找到平衡;资源与安全失控:目前没有人敢在完全无监督的情况下让AI消耗计算资源进行训练,存在资源失控的风险。
关于算力,在预训练阶段,智谱的算力确实是不足的。不过,RSI本身能够提高单次智能迭代的产出增速,从而提升算力应用效率。因此,智谱也会加大在RSI方向的投入和验证。
10,如何理解在RSI的工程实践上,智谱的工程密度竞争比海外更强?
这里指的是工程密度竞争,而非算力密度竞争。具体而言,智谱在验证技术基础设施方面进行了大量的、快速的迭代。这意味着智谱的迭代速度比海外同行更快,从而在工程实践层面积累了相对优势。
评估迭代速度主要基于几个方面。首先,通过对标验证环境、数据闭环以及instruct agent团队的实践,可以进行比较。其次,从迭代频率来看,国内团队基本能实现每周一次的迭代,这一速度相较于海外同行更快。此外,在算力基础设施方面,包括自有的Slime 异步强化学习框架及整体工程优化技术,使得在后训练链上的迭代效率显著高于Anthropic和OpenAI等公司。