2026.09.22 | AC | LLM | GPT-6 Astra Mild Gains & M3 Pro Coding

摘要

• RSI在GPT-6和M3 Pro中的应用情况。
• M3 Pro值得关注的提升和可能的短板等。

专家观点：

GPT-6 Astral的发布对行业带来了哪些变化，它是否具有颠覆性？

GPT-6 Astral是一个很好的模型，它首次正式地阐述了蒸馏问题，但谈不上颠覆性。其更多是形式化了一些行业内已在实践的措施，例如隐藏知识蒸馏过程中的logits信息。从MiniMax的角度看，并未观察到特别大的变化。因此，GPT-6 Astral发布带来的影响相对有限，更多是引发了行业讨论，本质上并未产生重大影响。

从内部评测来看，GPT-6 Astral在性能上是否取得了显著进步，其性能水平与Fable相比如何？

GPT-6 Astral的性能并未超出预期，其水平与Fable 5.1 Max大致相当，同属第一梯队模型。可以认为，GPT-6 Astral的性能基本与Fable持平。这主要得益于其在预训练阶段的加强，积累了约3-4个月的高质量用量和数据，并将其反哺到模型训练中，而此前其主要集中于RL。

GPT-6 Astral中提到的RSI和Loop Transformer等技术，在模型框架、训练及推理成本方面是否带来了重大进步？

RSI（Reinforcement Self-Improvement）MiniMax也可以实现，并且MiniMax从M2.5版本开始就是较早将其形式化应用的模型之一。对于GPT而言，应用RSI更多是为了追平Fable。但需要指出的是，Fable是一个在2026年3月就已完成预训练的模型。根据MiniMax了解的情况，Anthropic内部正在使用的模型要比GPT-6 Astral强很多。至于RSI本身，MiniMax以及国内同行早已在实践，通过使用小模型进行持续学习（continuous learning）是MiniMax进行优化的常规手段。由于MiniMax的算力资源相对有限，参数堆叠不如海外厂商，因此MiniMax的MoE架构原生就非常适合进行RSI，因为其尺寸较小、更灵活，且MiniMax在蒸馏方面也更有经验。GPT-6 Astral所用的小模型也是其内部蒸馏模型。所以，这只是他们首次公开阐述这种做法，对MiniMax而言并非意外，而是他们早就应该采取的措施。

RSI技术对于未来的模型迭代具体有哪些助益？

RSI在模型迭代中具有重要价值。首先，它解决了模型训练效率的瓶颈。传统的异步强化学习需要按顺序等待模型输出结果再进行人工反馈，对于大参数模型而言，这个过程时延很长，可能导致训练周期从两三个月延长至半年。RSI通过让AI模型自我修正，自动化了反馈循环，解除了对人工标注和反馈的依赖，从而大幅缩短了训练时间。例如，MiniMax借助RSI，从2.1版本迭代到2.5版本仅用了不到三周时间。过去，数据清洗、合成、代码训练、编写调试以及算子优化等环节都非常耗时，现在则可以自动化运行，MiniMax只需优化RSI所用的小模型。MiniMax最新的3.1和M3 Pro模型都采用了RSI技术。

其次，RSI提供的反馈比人类反馈更公正，质量也更高，能够形成一个自供血的飞轮效应，使模型持续自我提升。

最后，RSI对于提升推理效率也至关重要。现代模型训练范式需要在训练过程中并行进行大量推理。RSI能够支撑大参数模型进行多轮次、大吞吐量的数据推理，这是实现高效训练的必要条件。

RSI具体可以在模型研发的哪些环节中发挥作用，其核心逻辑是什么？

RSI主要通过模型自迭代的方式，替代了以往需要研究员手动完成的工作，从而加速研发进程。具体而言，过去研究员需要投入大量精力设计奖励机制，例如在特定垂直领域定义何为优质回答、何为精准的工具调用，这构成了人力瓶颈。现在，RSI能够让模型自主完成 对非结构化数据的清洗与合成，以及构建评估框架。一旦评估框架构建完成，模型便能举一反三，自动化地并行验证更多假设，形成一个研发飞轮。只要设定好R1（第一轮）的环境、具备数据资产和到位的基础设施，模型就可以通过不断执行任务，从成功甚至失败的经验 中学习，迭代自身，避免重复犯错。这种自动化能力覆盖了从R1环境设计到基础设施优化的多个层面。

有观点认为RSI的训练过程非常消耗算力，需要三到五个模型同时迭代，这个说法是否准确？

这种说法是准确的。RSI的算力消耗巨大，主要因为当前的前沿模型尺寸庞大，例如OpenAI或Anthropic的模型参数量可达5T甚至10T。这些模型，特别是Anthropic的模型，其结构较为密集，而非高度稀疏的MoE（Mixture of Experts）架构。因此，在每一轮迭代中，无法像稀疏模型那样仅激活部分参数，而是需要对整个庞大的神经网络进行计算和反馈，这导致了高昂的算力成本。相比之下，OpenAI的模型稀疏度稍高一些。正是由于这种高消耗，才出现了需要数十万张计算卡进行训练的说法。

相较于其他更优化的模型框架，RSI的优势主要体现在哪些方面？

RSI最大的优势在于其规模化（scale up）的能力，它显著加速了新研究想法的产生与验证速度，解决了研发过程中的主要瓶颈。具体体现在两个方面：首先是算力层面，RSI支持并行化（in parallel）处理，提高了计算效率；其次是评估层面，以往需要人工进行判断，现在只需调整模型的temperature等参数，模型就能举一反三地进行自动化验证。尽管这种研发自动化方法在算力和人力受限的团队中早已被采用，但近期由OpenAI等资源雄厚的公司提出，更多是制造了一种市场声势，其核心理念业界早已认知。

近期硅谷对RSI的反应非常热烈，甚至有观点认为它将加速AGI的到来，导致OpenAI延后上市，应如何理解这种现象？

这种现象更多是出于叙事构建和市场宣传的需要。此前，OpenAI曾以模型能力过强可能引发安全问题为由，制造了一种市场恐慌情绪。现在，其创始人则提出了RSI这一新叙事。然而，正如Anthropic的路线所展示的，这种模型自迭代的方法在业内早已是 普遍实践，并非颠覆性的突破。因此，当前围绕RSI的热潮主要是为了制造市场热度，而从实际技术进展来看，并没有产生根本性的变革。

在当前大模型已在Coding领域取得显著进展的背景下，未来哪些应用场景能够接力Coding，将大模型的能力提升至新的台阶并实现商业兑现？

Coding领域因其任务的明确性和数字世界的底层属性，其模型能力进步迅速，但从用户渗透率来看已趋于饱和，在催生颠覆性的AI原生产品和商业收入方面仍有不足。下一个潜力远超Coding的场景将是智能体任务。所有涉及智能、多步规划（multi-step planning）和多方协作（multi-stakeholder）的任务，无论是白领工作还是其他泛化智能任务，理论上都可以交由模型完成。当前模型在该领域能力有限，主要是因为训练数据中缺乏相应的环境和私域数据。因此，Agent将是未来能够将大模型能力提升至新高度并实现商业价值的关键方向。

提升Agentic能力的主要瓶颈是缺乏特定领域（如医疗）的优质数据吗？

提升Agentic能力的主要瓶颈并非缺乏优质数据，而是缺乏优质的训练环境。模型在训练过程中无法接触到非公开互联网上的内容，例如法律领域的专业软件、财务领域的专业知识，以及其他专业服务（professional services）领域的是非标准。模型对这些领域的知识储备是相对欠缺的。针对不同模态，MiniMax也进行了专门的环境构建，例如邀请媒体领域的专业人士来构造数据和环境。这本质上是构建了一个用户界面健身房（UI gym），MiniMax自主搭建了这个环境，让模型搭载MiniMax自身的Agent在其中运行，从而使其能力提升到新的层次。过去MiniMax基本都跳过了这些步骤。虽然现在有其他厂商也在做类似的事情，但他们的数据多为外包采购，MiniMax是第一家自主进行环境构建和数据标注的。

Agentic能力与长上下文任务（long-context task）的处理效果之间是否存在关联？

两者之间存在非常紧密的联系。在处理长上下文任务时，并非每个环节都会调用到深度或不熟悉的环境。然而，当任务链条被拉长后，就可能需要模型在这些环境中进行操作。

下一代模型在处理特定领域专业任务（如涉及提案、诊断、分流、处方等多个环节）以及多方协作（multi-stakeholder）任务时，其性能提升是飞跃式的还是小幅度的？

模型的整体智能水平很高，其提升更多体现在执行能力上，呈现幂律（power rule）分布的特征。对于特定领域的专业人士，例如在法律领域，这种提升是飞跃式的，模型表现出的智能水平已接近专业人士，达到了完全可以信赖的程度。然而，对于通用能力，例如编写代码，用户可能感觉提升并不明显，甚至会认为模型没有太大进步。此外，下一代模型将能更好地处理涉及多个利益相关方（如销售、财务、合规、法务）的协作任务，即使增加新的协作方，模型也能顺利完成任务，而现有模型在类似情况下通常会失败。

M3 Pro模型的研发进展如何，预计何时发布？

M3模型表现不佳，但M3 Pro有显著不同。M3 Pro的能力提升主要体现在Agent层面，尤其是在医疗、金融、法律等垂直领域。其能力提升得益于MiniMax从零开始构建了全新的训练环境，因为模型若未接触过特定环境，执行任务时会非常不稳定，容易一步错、步步错。M3 Pro是一个参数量3T以下的模型，其最大的不同在于MiniMax建立了自有的EVAL SETS。MiniMax组建了TENX TEAM进行数据标注，并非完全从零开始，而是借鉴了OpenAI和Anthropic上游标注商（如Surge和Scale AI）的GOAL STANDARD标注集。

除了重建数据体系和实现基于该体系的RSI自动化之外，M3 Pro模型还有哪些其他的重要新特性？

M3 Pro模型的重要新特性在于其多模态能力。作为第一梯队的模型，MiniMax具备原生理解视频和多模态内容的显著优势，这一点已在M3 Pro中实现。因此，M3 Pro支持多图对照和视频输入，这是GPT、Claude甚至Kimi目前都无法做到的。此外，M3 Pro是在A3芯片上运行一个多月后才计划推出的，因此也吸收了A3在数据处理方面的一些优势。多模态能力与Agent能力是相辅相成的，两者都关系到对多维世界的理解。当前市场上能力较强的模型通常在编码或单图理解方面表现突出，而MiniMax将能力提升到了新的维度，即多模态能力，特别是营销视频的输入输出能力，以及Agentic能力。这是MiniMax观察到市场上其他厂商没有采取的独特路径。

Agentic任务的内核是否可以理解为coding，即在coding层之上实现多工具调用和对环境更好的理解？另外，下一代模型M3 Pro的coding能力与业界主流模型相比处于什么水平？

Coding是Agentic任务的基础能力。关于M3 Pro的coding能力，其对标的是Fable 5。相较于GPT-5.3，由于数据优势，后者在coding方面表现更强。在M3 Pro推出时，其coding能力预计会比K3稍强一些。

除了多模态理解和Agentic任务执行能力外，M3 Pro在推理成本等方面还有哪些亮点或优势？

在推理成本方面，M3.1版本已经通过算法优化取得了显著成效，其成本大约是M3的三分之一。M3 Pro的主要提升集中在已提及的多模态和Agentic能力上，其他优化则更多是在硬件和训练效率等层面，相对常规。

M3 Pro发布时，预计会产生像K3面世时那样激动人心的市场反响吗？

预计M3 Pro的市场反响可能与K3相当，或略逊一筹。主要原因是K3作为市场在较长沉寂期后出现的优秀模型，其发布时的起点较低，因此带来的惊喜感更强。而现在行业整体模型的起点已经较高，即使M3 Pro推出一个略好于K3的模型，其引发的市场反响可能也不会那么剧烈。市场预期可能是，既然发布时间晚了两三个月，模型性能理应更好一些，而实际情况也确实是好一点，但并非大幅领先。

M3 Pro模型是否存在短板？

M3 Pro的主要短板在于其模型尺寸较大。这是一个参数量达到3T的模型，激活参数量在50-60 billion的区间，稀疏度较高。由于是首次推出如此大规模参数量的模型，其推理速度相比M3会有所下降。为了弥补这一短板，公司会相继推出M3.1和M3 Pro。M3.1旨在满足对时延和TPS（每秒事务处理量）要求较高的应用场景，从而与M3 Pro形成互补。

M3 Pro模型尺寸的增大会不会导致推理成本过高或token消耗过快等问题？

成本的增长并非线性。虽然M3 Pro的总参数量从500 billion增加到3T，大约是五到六倍的提升，但其激活参数量仅增长了约一倍。因此，推理成本并未受到太大影响。主要影响在于速度，推理速度确实会变慢。不过，得益于M3成熟的工程管线，M3 Pro在推理稳定性方面仍有保障。综合来看，在TV caching的命中率和TPS速度方面，其表现优于GLM，与Kimi的水平相当。

H3模型自8月份推出以来的收入表现如何，尤其是在视频模态方面？

H3模型在视频模态的收入表现良好。自8月份推出以来，与7月份相比，其月度收入在国内和海外市场均实现翻倍增长。预计9月份的增长斜率将更高，主要因为to B客户集中度较高，客户转换需要一定时间。目前，视频模型推理的主要厂商FAL（F-A-L）已开始主动接洽并采用H3模型进行first-party推理，并基于此开发了衍生的A3max模型，其性能特点可与H3平起平坐。尽管可灵的模型并非最优，但创作者对特定风格和画风有偏好，需要一个学习和转换的周期。从9月份的数据来看，这种转换已经开始加速。

近期市场对实时视频模型的反响较好，这项技术是否能为视频模型市场带来显著的增量空间，例如在直播、实时互动广告和千人千面广告生成等场景的应用？

实时视频模型确实可以为市场带来新的增长空间，但目前技术尚不成熟。当前，在实时模型方面表现较好的是微度和fix first模型，而MiniMax的模型和GDS模型并非主攻实时方向。尽管A3max模型已能支持一些实时直播应用，但这并非MiniMax的核心主打方向。要实现广泛且效果一致的应用，需要基模型能力的显著提升。目前在向客户进行实时理解功能的演示时，效果尚不够稳定和理想。

实现实时视频推理的技术瓶颈是什么？是否可以通过增加推理算力（例如，将一张卡增加到一百张卡）来线性提升速度？

逻辑上，通过增加推理卡数量确实可以提升处理速度。然而，当前的主要瓶颈在于基模型自身的能力不足，尤其是在推理效率和表现稳定性方面。因此，根本问题是基模型的能力尚待提升，而非单纯的算力堆叠。

同时开发文本和视频两种模型，是否会分散公司的计算资源和人力，导致无法像专注于单一模型的竞争对手那样形成强大的单点优势？

这种资源分配的挑战一直存在。为应对此问题，公司采取了序列化的开发策略，明确了优先级，即先发布文本模型，再发布视频模型。在计算资源方面，公司目前的高端卡储备在三家主要的小型厂商中是最多的，足以支持训练需求。在推理层面，公司并非承担所有负载，而 是构建了一个包含第三方推理服务的生态系统。此外，视频模型的训练开销相对较小。以开源和未开源模块合计来看，视频模型是一个66B参数量的小模型，其训练所占用的算力资源仅是很小一部分，不会对整体资源构成显著影响，只需在少数几个集群中运行训练即可。

从内部资源分配来看，文本模型和视频模型的资源投入比例大致是怎样的？

总体来看，文本模型与视频模型的资源分配比例大约为7:3。不过，这个比例在不同时间节点会有所变化。例如，在2026年6月至7月期间，视频模型在训练阶段占用的资源会相对更多。尽管只投入了约30%的资源，视频模型的能力已经超越了C3

1. 0。这得益于团队在视频模态领域长期的技术积累和不断优化的训练know-how。