2026.09.24 | TB | Auto | Autonomous Driving World Models
原标题:AI Application Space 2026 Series – Autonomous Driving Algorithms & World Model Technical Roadmaps in Focus (Conducted in Mandarin)
分析师主导 • 21 Sep 2026
Companies: LI US, TSLA US, XPEV US
专家 Director, Product at Li Auto Inc
Eric Shen (ES) — Third Bridge Sector Analyst
Agenda
- VLA与世界模型的混合架构演进、不同路线的进展、训练推理成本
- 物理仿真与生成式仿真的边界、数据需求变化趋势
- 无接管稳定运行时长增长、误差收敛、商业化落地难点突破时间预期
- 具身算法与自动驾驶算法边界、后续行业格局变化
Key Insights
- 极佳视界等第三方世界模型厂商的增量客户在第二、三梯队车企。头部主机厂坚持全栈自研,只把这类厂商当技术参考。腰部、合资车企和本土Tier 1已在实际使用,项目金额仍在增长。
- 世界模型作为强化学习环境尚难规模化,推演超过8-10秒就会出现结构性扭曲。目前主要用于数据生成,生成式数据占主流训练的15-25%,极致安全场景可达40%。
- 头部车企城区NOA接管里程停在约300公里的平台期,L3需要达到上千公里。专家预计2027年年中至年底出现阶跃式突破。
Introduction
ES: 欢迎参加高临 (Third Bridge) 关于AI应用行业2026年系列——聚焦自动驾驶算法与世界模型技术路线的访谈。我是高临公司 (Third Bridge) 的行业分析师Eric Shen,将负责协调本次访谈。非常荣幸邀请到[专家]参与此次访谈,[专家]是前任百度在线网络技术(北京)有限公司项目管理经理。
[专家],您好。在我们开始今天的访谈前,请您就以下陈述表明我同意或我不同意:您知道保密信息的定义,并同意不会在访谈中透露任何此类信息或任何其他的保密信息。
专家 [00:00:34]: 我同意。
Questions
[00:00:38] 从行业角度来看,国内车企现在把世界模型主要放在数据生成和场景评测这个环节,还是已经有厂商真的把它当成强化学习的环境在跑闭环?
专家 [00:00:56]: 目前大部分车企还是把世界模型在高保真数据生成,比如开环、闭环的一些simulation上。所以还是非常极少数的头部玩家,比如像一些自研算法的主机厂,还有特斯拉、蔚小理,把强化学习reinforce learning作为算是环境的一些基座进行探索,但这个还没有特别大规模地推广。因为比如在数据生成与评测端,基于diffusion的一些架构、多视角的视频生成的一些模型,包括3D、4D的一些高斯splatting的重建,其实已经非常成熟了,所以行业普遍用世界模型来解决一些corner case,踩不到的一些痛点。比如定向的恶劣天气、近距离的加塞等等一系列。
但是要把世界模型作为强化学习训练的交互环境,这个其实技术门槛是非常高的。首先,在大概两个层面有一些瓶颈。第一个就是长时序因果性的一致性的坍塌。因为在自车像动作action、进行连续的rollout的时候,现有的自回归或者扩散机制在推演到8-10秒之后,环境背景就会出现结构性的扭曲、车道线的虚构,包括动态障碍物的凭空消失,这些就会产生物理幻觉,会导致reinforce learning的policy会学到模拟器的bug、一些作弊的策略,这其实是非常严重的。这是第一层。
第二层就是动力学的响应的保真度也有比较大的一些问题。因为很多基于视频生成的环境只能做到视觉逼真,但是并未建立非常严格的六自由度的底盘动力学,还有轮地接触的一些模型。所以自车给出了一个急转弯或者紧急制动的动作,环境反馈的移动视角其实往往脱离了物理约束的边界性。基本上这两个非常关键的问题,所以reinforce learning其实还是有非常大的一些难点在里面。
[00:03:41] 您提到有一些少量的车企在做世界模型方面的准备,除了特斯拉以外的一些自研主机厂中,您了解有哪些在做这方面的动作?目前进展上各家的差异如何?
专家 [00:04:10]: 非常少的一些企业,比如像理想、Momenta,会有一些单独的技术。因为比如世界模型可以在车端构建一个latent world model潜世界模型,潜世界模型优点是有几点。第一,相应的一些推理预测,相当于prediction,可以在潜世界模型里面来去做,这方面可以大幅度优化推理延迟。因为常规的技术,prediction预测是预测未来几帧的图像,相当于就构建了未来几帧的图像信息,这个其实耗时是非常大的,尤其是自动驾驶高速移动,并且推理延迟要求非常敏感。针对要求非常敏感的物理现状或者现实情况,预测如果是基于图像的重构,其实是非常大的问题。
所以现在刚才提到的像Momenta、小鹏,用了相关类似的技术,每家可能不太一样,就是构建了latent world model,在潜世界模型里面去预测未来几帧的图像。这部分其实不是输出或构建图像信息,它相当于去虚构了特征的相应一些点,通过latent world model预测的这部分信息给出来,给出来之后再给到action layer,action layer输出的action token再给到下游的信息。所以它相对算是世界模型在推理环节中用于预测的应用,这部分其实也比较少一些玩家会使用。
[00:06:04] 现在VLA跟世界模型还是走融合方案,您判断智驾这块走哪一种方式会是主流?
专家 [00:06:17]: 到今年开始的时候,智驾已经探索了到端到端的自回归、扩散、去噪等多路径,正在快速收敛到分层异步的快慢系统,相当于是将VLA,vision、language和action model,与世界模型world model这个policy再加上model-based simulator,比如基于预测跟验证的并行协同的一个方式。具体而言,它其实是摒弃了单一超大网络预测,又直接输出方向盘转角的粗暴融合的路线。所以这个相当于是把系统分为快系统和算是一个慢系统,但不是有两套模型,更多是有两套系统综合来去做实现。所以在今年把VLA跟世界模型融合到一起去做深度的推理和预测,这是目前行业里面的主流。
但每家企业对于融合的方式可能不太一样。因为VLA其实是具备三层,vision具有对于视觉的识别能力、推理能力,language对于语音、语料信息的拆解,还有tokenisation化,还有相应输出一些语音信息,根据语音信息来输出一些指令,还有action行为层。所以这个里面VLA本身的language部分是非常重的,但这部分重,恰恰是一些企业的分歧点。
有些企业认为language推理延时太大了,推理延时高,哪怕用MoE,它的经济效益也不足够,所以它会把language这部分去掉。相当于它是一个类似于VA加world model,直接是vision来输出action、来经过world model,对物理世界的理解能力更上一层。所以它相当于不太使用或不那么重地依赖于language层或者language语言模型本身的CoT能力。这里面典型的一些代表,比如像华为和小鹏是比较典型。
但另一个层面,有些企业认为language又非常重要,比如像理想,认为VLA里面的language部分又非常重要。它第一可以起到大语言模型中非常关键的推理能力、CoT能力,它可以通过language部分拿过来的比如车道线、早晚高峰、对于物理世界的视觉识别能力,使用CoT的能力会更好收敛出所需要的轨迹规划线。所以它是相当于通过language能力来提升VLA模型对于物理世界的理解能力,而第一个阵营相当于是通过更强的世界模型的能力来学习对于物理世界的理解。
所以双方对于模型、对于物理世界的理解能力的侧重是不一样的,没有所谓真正意义上的对与错,当前各家都在自己的技术路线上去做拓展。这个问题就相当于是基于视觉方案,还是基于多传感器方案一样,所以也没有所谓的正确答案。到现在特斯拉也是基于纯视觉,剩余的一些企业基于视觉加上激光雷达的方案,也没有所谓的一个最终的。所以只是各家基于自己技术方案的独特性加上自己的技术优势,来去进一步地拓展。
[00:10:16] 传感器这块,目前市场上普遍认为未来可能会走向终极的纯视觉方案,当然这方面还是有一些争论。而在技术上,对于世界模型加VLA的融合,您觉得未来也会朝向抛弃language model的方向去往终极发展吗?当然,当前可能会有不同的路线,但对于未来中长期的趋势,您是怎么看的?VLA加世界模型融合的方式,各家企业现在的路线会走向趋同吗,会是抛弃language model的模式吗?
专家 [00:11:17]: 这个其实没有所谓的对与错,到底使不使用language部分对于自动驾驶模型在于最终的表现上,是不是会有一定的差距,其实都很难去做回答。因为不使用语言模型,那就是增强世界模型对于物理世界的理解能力,这方面也没问题。如果保底增加了语言部分,它有成本,但解决的问题也OK。所以其实很难说哪种方案一定是一个终局,或者哪种方案一定是一个最优解,都会有自己的道路,都是一种解决思路或解决方案。
[00:12:04] 这种融合方案,不同技术路线的模型的参数总量大概在什么样的量级?对于车端的算力和存储的带宽,大概是有多大的资源需求?您怎么看后续比如芯片底层的升级对于技术路线的影响,以及对于目前自动驾驶在算法能力进一步提升的帮助?
专家 [00:12:36]: 现在把世界模型和VLA部署在车端上的时候,它还是会符合scaling law一些法则。在当前的工程约束下,部署在车端的VLA或者轻量化的世界模型,它实际的参数普遍就会到达至少是1-3B以上区间。所以一般来说都会使用MoE稀疏架构,做到大概4-7B,单次推理一般是1-2B。所以宣称在车端能运行十几亿、百亿的稠密的、密集的方案,在现阶段其实是不可行的。这是一个当前的特点。
在不同的模型它的体量参数,传统的比如像端到端的这种方案,基本上参数量非常小,0.2-0.5B,有效算力的需求大概也就是在80-150TOPS,内存4-8G,推理延时3-50ms,基本上也差不多,确定性的一些前馈。基于车端VLA轻量化加上隐世界模型的一些,它的参数量基本上都会来到1-3B,有效算力基本上都得需要500+ TFLOPS算力水平,内存基本上都得到16-32GB,推理延时基本能来到80-150ms,100ms以内,所以都会有非常大的上升。因为随着参数量的增加,计算的功耗算是符合scaling law的法则,但是通过一些MoE专家混合训练的方式,其实是可以提升在车端的比较重的workload。这是大概情况。
ES [00:14:59]: 您怎么看芯片这块的升级预期对模型算法落地的帮助?后面1-2年,在哪些方面上会能够帮助比较大一些?
专家 [00:15:16]: 现阶段比如主流的像Thor-X都是已经量产很多年的,几百TOPS算力平台的,它目前是没法来实现车端的VLA与世界模型,所以必须要进行升级,升级到Thor-U这样一个700TOPS算力以下的算是下一代的平台。主要是体现于几方面的限制,第一就是内存带宽严重不足。单Orin X的话,它的DDR5带宽只有大概200GB每秒,双颗虽然能达到500TOPS,但两个芯片之间通过PCIe的跨芯片通信,无法形成统一的高速共享内存池。这个都是面对1B以上的Transformer模型的高频的token的交互,200GB每秒的带宽,所以在第一时间会彻底堵死,这是第一个问题。
第二就是缺少原生态的Transformer的硬件加速。因为现有的一些平台对于比如像FP8和FP4这种混合精度的支持非常低,效率也非常折损。执行大维度的softmax或者LayerNorm算子的时候,它的NPU的有效率通常不足30%,这个其实没法很好地支持Transformer-based相应的一些混合训练的VLA加上世界模型。
所以在下一代的平台上,基本上要求车端的算力要达到将近1,000TOPS,并且具备高带宽的架构的下一代平台,比如Thor-U和高通的Ride Flex,或者是自研的一些芯片。这也就是为什么现在很多车企或者芯片公司在做芯片的一个原因,解决一部分内存带宽问题,另一部分解决Transformer硬件加速的原生态支持。第三就是自研芯片会有更多的其他的一些好处,比如效率更高、NPU自己来去做,推理延迟也会非常快,迭代效率也会比较快。
[00:17:47] 现在主流的车企在推城区NOA的方案上,智驾的训练集群算力规模大概是什么样的量级?引入世界模型之后,算力的训练规模还要提升多少?
专家 [00:18:06]: 到目前在第一梯队的话,比如主攻全场景无图的city NOA的一些车企,它的算力基本上能拿到2亿-3亿FLOPS到10亿FLOPS不等。如果是换算为物理硬件,板卡,相当于至少1万-2万高端的AI显卡,比如像H800、H20等主力的折算,这是目前的基线。如果车企比如全面引进了视频生成的,基于视频生成或者潜世界的VLA模型和world model,其实算力的需求还是会出现非常大的增长,基本上要增长80%到一倍,直接算力可能能达到将近10亿-20亿FLOPS水平。
所以其实底层算力的增加是有几方面维度来去考虑的。首先,训练目标的维度升级。因为传统的端到端训练本质上是做3D几何预测与轨迹的回归,输入的是多视频压缩之后的feature token,监督的信号也是人类驾驶员的信息,loss的计算代价相对来说有限,这个跟Transformer-based完全不一样。
而视频生成与隐世界转移的计算是第二,就是非常耗资源。因为世界模型的核心是预测未来时空的物理与感知演化,所以无论是训练一个3D fusion的model,还是自回归视频生成器,这个模型需要逐帧地去噪和预测多路高分辨率摄像头在未来数秒之内的像素跟feature的分布。训练一个比如像十几亿参数的多视角的世界模型,单次的cost的FLOPS是非常高的,耗费也是非常高。
其次就是强化学习的大规模环境采样的消耗。如果车企将世界模型作为环境,云端强化学习,集群不仅要承载着网络的更新,还要并行地开辟成千上万个环境示例,实时地运行世界模型的状态迭代,这使得计算消耗又放大、又增加。所以基本上得需要有这么大的算力池,世界模型的更新频率就会保持天级,而不是从天级退化到月级,失去了数据飞轮,或者高速运转、高速迭代的意义。
ES [00:21:05]: 现在这部分模型的训练主要还是用Nvidia的卡为主,是吗?国产卡现在进入到自动驾驶的算法训练环节里,还是主要做一些后训练吗?
专家 [00:21:20]: 嗯。国产AI芯片还是少数,比如像华为昇腾的910,这个还是非常少。国产卡主要是在一些世界模型的分布式预训练的任务上还是非常受限的,因为核心的卡点不在于峰值的算力,而在于高度复杂的系统工程与生态的壁垒。首先第一点,比如互连宽带的一些瓶颈,因为视频扩散世界模型需要极高维度的张量并行,并行计算,包括时序和序列并行化,所以多机、多卡,建立一些高频的all-to-all或者all-reduce的通信,这些都是非常大的问题。所以国际上主流的还是使用超高带宽的NVLink或者InfiniBand,构建非常低的通信延迟。这个国产芯片差距非常明显,这是第一。
第二就是大模型算子的生态与混合精度的稳定性。因为复杂的视频生成的一些框架,比如DiT或者Flow Matching算法,引入了大量非标算子和动态shape计算,主流的开源生态对于国外的主流芯片具有高度原生的深度的亲和性。而国产的架构在迁移的时候,经常会面临算子的未对齐,需要大量手工定制地写kernel,或者长期训练FP8和FP16数据溢出的一些问题,最基本的一些问题还需要提前来去做解决,所以这个基本上很难。
ES [00:23:23]: 现在主流的车企或自动驾驶芯片厂商、算法厂商,训练还是用上一代的英伟达的产品为主,是吗?因为您刚提到的是H800,B卡用得多吗?后面Rubin也在出货了,可能大家预期基础模型厂商在明年会有比较大的升级。您觉得底层算力架构的升级对于自动驾驶这一块的帮助有多大,明年会看到跃迁式的发展吗?
专家 [00:23:56]: 底层架构指的是云端算力的底层架构的升级,是吧?
ES [00:24:01]: 对,还有芯片算力的升级,因为Rubin毕竟相比于B系列还是提升非常多。
专家 [00:24:11]: 对。但说实话,算力的话,哪怕一些企业像小鹏[等新势力],一部分是自己买板卡,另一部分也使用供应商的云服务,混合云或者私有云和公有云加混合云,其实就是混合云的方式。所以如果供应商能部署最新的算力的一些集群,包括高速互连,这肯定是一个好事。但它主要的问题在于两点,第一就是价格,第二就是高性能的板也会存在受限和地缘政治的一些风险。所以到底能不能用、用多少,这个可能存在不确定性。保底肯定是用现有的,但你要说升级是不是有好处,肯定是有好处,数据的传输效率,还包括混合训练的稳定性,这些都是非常好。
[00:25:15] 智驾训练里,生成式仿真数据的占比大概能够占到总体多少水平?哪些场景现在已经不需要靠真车路采,靠合成数据就可以做?
专家 [00:25:33]: 在今年比如主流的一些智驾的训练管线中,生成式的仿真数据在整个大模型训练中的综合占比已经能达到15-25%了,好的可能达到25-30%,差的就多低的都有,但在主流里面稍微差一点的就10-15%也有,在追求比如极致安全的特定的环境里面,合成的场景基本上能达到40%。所以整个行业,尤其是头部,已经脱离了早期纯靠真实的real driven data堆底层的原始人阶段,已经进入到了分布式的底色,再加上合成、扩充corner case的一些场景化,数据生成的维度。
所以当前三类场景基本上已经摆脱了对于真实的实采车的依赖,基本上算是由世界模型跟物理仿真器的合成。首先第一个就是致命碰撞与极限物理的干预场景。这个其实是类似于由于安全和伦理的底线,真实车在公开道路上无法绝对主动地采集,比如对向车辆逆行高速碰撞、高速行驶中前方货车的翻滚,没法真实地做模拟,因为这也不安全,再说开放道路上去做也不合规,行人比如从盲区突然鬼探头,以及车辆的自车失控打滑的边界性控制。这些其实都是可以100%数据生成,通过高精度的数字孪生跟扩散的修复,模拟它的物理边界和毫秒级的避险,这个已经可以做到,这是第一点。
第二点就是极端的恶劣天气跟环境的感知的一些退化场景,比如极浓的沙尘暴、特大的暴风雪,还有强逆光直射摄像头造成的传感器的动态范围的穿击,以及大暴雨,路面复杂,水雾、漫雾的反射。生成式的模型可以利用物理渲染器施加精度非常高的气候学的噪声与lidar多径的衰减,所以不需要测试车辆常年驻扎在极端的物理天气的区域来去做蹲守、来去收集这部分数据,完全没必要,成本也非常高。
第三就是在规控的博弈反事实的一些推理场景上。就是在非保护左转或者极度拥堵的合流中,车端只能记录人类司机做出的唯一真实动作和当时的环境的一些反应。但如果自车当时提前一秒进行强行加塞,周围的车辆如何反应,这一典型的命题场景在现实中无法回溯,世界模型能够重塑这个4D场景,允许自车施加完全不同的动作序列,并让周围的交通流根据博弈做出逼真的反馈,形成无限分支的无限推演的反事实的训练数据。这些都是可以作为高保真的、有效的golden data给到模型去做训练。
[00:29:19] 现在量产车队每天回传的数据里,真正能进数据训练集的比例大概有多少?这个瓶颈是在于采不到数据,还是比较难筛选,还是标记是比较贵?未来您判断合成数据在里的占比还会进一步提升吗,还是现在在某些场景里达到40%就已经是一个非常高的水平?
专家 [00:29:49]: 每天回传给云端的原始的传感器的数据和总线数据,其实是大概有数PB级,经过层层清洗、去除,真正沉淀了有效的token给到核心基础模型做训练的占比是非常少的,可能是个位数;剩余大部分,百分之九十几的数据在云端其实是存储,或者直接去除掉,所以其实数据的有效性是非常差。
面对这种低有效率的读点问题其实是有几点,首先就是标注问题和清洗问题。将原始的传感器也好,作为大模型的token,代价其实是非常昂贵的,因为训练世界模型需要非常高质量度的4D时空一致性标注的标注结果,精确的动态物体各方面,还有车道拓扑因果关系,还有到场景的自然语言的全景描述。虽然整个行业已经,像头部的一些企业,比如特斯拉、华为还有理想就已经开始4D化的auto-labeling,但自动化标注本身消耗非常高的算力,并且每天无节制地将很多小时去精细化、自动化标注,云端的算力其实是非常low的、非常重,并且自动化标注还会出现一些错误,所以清洗的和标注的成本目前还是会有非常大的人工的交叉check,所以这部分其实是非常。这是第一。
第二就是在筛选环节,因为每一天回传的数据中,清洗、标注刚才说过,但是超过非常多的一部分数据是高度重复的、信息熵值极低的“垃圾数据”。比如标准的高速上单调巡航的,或者行驶过程中路畅,非常平缓的跟车,这大量的数据也不是无效,大量的数据都是重复的,差异性非常低的这种算是“垃圾数据”。这个“垃圾数据”打引号的,不是说它数据那个,而是说重复性数据。所以要把这些低熵类的数据直接喂给模型,不仅无法提升它自己的智能,反而会引发这种灾难性的遗忘,或者是拉泛化性的上限。
这什么意思?就像模型大量地记住它以前重复性好的结果,它以前不好的场景又没有训练,那它就会导致针对于简单场景的,它会越训越呆,这个就是最大的问题。还有数据采不到的问题,因为极个别罕见的非常典型的场景,对于某些区域是很难采到的。最典型的像欧美的数据,中国的路况那完全是天然的、各家的,因为交通道路和风俗习惯方方面面的区别,导致它的数据结构完全不一样。所以这部分数据的采集性也是一个非常大的问题。
[00:33:28] 行业内还有一些公司专门做自动驾驶世界模型和仿真,比如极佳视界对外宣称有这样的能力,它做出来这种东西是在车企内部真的能够被利用起来,还是车企已经主要是靠自研的方式了?您怎么看外界第三方公司的成长性和发展潜力,您认为它们能不能够走出来?
专家 [00:33:57]: 其实车企内部研发的,极佳视界做世界模型、仿真,这个其实是呈现非常大的分化,就什么意思?就是头部的一些主机厂在核心的算法闭环,尤其是世界模型跟simulation的环节,要坚持走的还是全栈自研的道路,逐步内卷替代供应商。
像极佳视界或者Wayve或者类似这些世界模型,这种初创公司在头部的主机厂内还是定义为技术的支持者,或者是前沿技术的参考者。但在一些腰部企业、合资企业或者local的Tier 1,这种软硬件的工具链和生成模型,那确实被真正地使用了起来。所以它其实是有非常大的区别。
第二就是针对于不同的梯队,它们有哪些区别?像提到的第一类企业或者叫第一梯队,它们是基于世界模型自动驾驶,所以它是天然的护城墙,因为车企内部的算法保证了迭代策略性的优化性、数据的一些资产,还有数据闭环的工具链的效率是它们非常看重。哪怕像头部的,比如华为、特斯拉还有理想,其实在早年把这个工具链、世界模型、simulation已经打磨得非常多了,闭环好几轮了,所以它已经不是非常早期了,而是已经非常成熟,所以它对于在自研云端的世界模型和NeRF重建和管线和评测仿真器上,已经有非常大量的经验。
所以初创公司的这种交钥匙的算法、系统,或世界模型系统、仿真器,基本上不可能来直接采用,因为它逻辑很简单。自己搭的,自己花费很大人力、物力,专门为自己来高效使用的,效率非常高的,成本也非常高的,效率也非常好的,跑了好几轮的,突然有一天切换成供应商的,那肯定是没有任何的意义,所以这个基本上是很难将供应商这样一个数据的平台也好,嵌入到自己的系统里。
但是对于这种第二、第三梯队的,对于这种研发预算有限的、算力紧缩的传统或者是global的一些车厂,这类企业其实不太具备,就是大概,也没有那么绝对,就不太具备都投入这种数万张GPU的训练跟专属世界模型、搭建数百人的数据闭环团队的条件。其实不是没有钱,这是另一个话题,因为有些企业可能确实资金量是够,但本身的基因属性是不具备的,因为更多是出厂,它要去做这方面云端还有各方面的数据闭环,所以自研算法就非常有限。
它会面临着一方面这种城区NOA、高速NOA高阶智能驾驶的交付压力,所以像极佳视界这种公司提供生成数据的一种扩展平台,声音、网络的、仿真的评测工具,成了性价比非常高的这种外挂的供应商或者工具。所以它们可以通过API调用本地私有化部署,直接采用第三方生成的数百万的工具和corner case数据集,再弥补算法极端工况下的性能短板,所以这是有用的。这个就相当于分开来看,看是谁、哪个梯队对于第三方供应商的使用。
ES [00:38:17]: 第二、三梯队的公司跟专门做算法的极佳视界这类公司合作的话,它们项目的金额规模量级大概在什么样的体量?您了解这几年这种项目的金额是不是也在下降?
专家 [00:39:11]: 没有下降,第二梯队对于这部分的需求还是比较大的,依赖程度也比较高,极佳视界这种第三方的资源,依赖程度其实是非常高的,那是下降不了,肯定是增长。
[00:39:33] 从L2到城区NOA这几年的发展,自动驾驶接管的间隔里程提升的实际斜率大概是怎么样的?到支撑L3责任转移这块还差多少,还是说现在就差政策的临门一脚?
专家 [00:39:53]: 就说从过去几年,从早期依赖于高精地图的L2+,跨越当前无图的NOA,所以整个行业在接管里程上,其实提升是一个曲线,而并非是线性,但又会出现阶梯性的陡升,所以这是一个特点。首先第一个点,在2023年时代,就是规则加上小模型时代,所以城区复杂道路上真实的MPI也就是在10-30公里,系统极易在无保护左转,机动车的混流和复杂合流处发生意外的锁死,频繁地人工进行介入和油门的修正,这是当时的点。
近期2024-25年,就是端到端加上大模型的重构阶段。基本上随着分段式的端到端向一段式的演进,系统的博弈能力跟粘性有非常大的增强,所以它的接管率能来到,一二线城市主流车企能达到150-300,我们这个斜率表现非常陡,所以这是当前。
在2026年这个当下,这块就是one model也好和世界模型也好,已经到了攻坚期,所以行业头部基本上能在300多这一个平台期。所以系统已经能在很多场景下表现地像老司机,剩余1%长尾的corner case下,接管率还是压缩得比较缓慢。所以要真正达到实际意义上的L3级别的自动驾驶,在非受限城市开放道路,当前这个接管率还是会差一个数量级。
真正要L3责任转移,意味着系统安全必须超越人类平均驾驶员的数量级,因为驾驶员的严重事故也好,基本上要到几十万到上百万公里会出现一次,所以当前的要达到L3级别,政策其实有,在技术的实现上还需要大概1-2年的时间来做积累。所以到今年,各个头部车企陆续才刚刚推出L3级别的试点园区,所以在明年这个L3会有陆续的落地,在后年L3相应会有一个相对比较成熟的阶段。
[00:42:43] 您说目前头部车企可能还是做到300多公里,要到真正落地到成熟,量大概要到多少是硬指标,我们到时候可以提前去追踪、能够看到它的进展?
专家 [00:43:00]: 至少要到达上千公里。
ES [00:43:18]: 关于量级的提升,您提到在时间节奏上会有预期,且法规其实并不是约束的瓶颈。后续会有哪些关键节点或指标可以用来观察?除了前面提到的间隔里程之外,在模型架构、数据量或其他维度上,还有什么硬指标可以追踪吗?
专家 [00:43:48]: 在跨越最后一个维度的方向上,绝对不是纯粹的数据量上,而是受限于各个方面,大概是归因为三层。第一就是技术的关键性,就是端到端大模型的这个算是幻觉也好,或者不可控的一些泛化问题,这些是非常大的block点。因为当前的端到端跟VLA模型,本质上还是基于概率分布的关联推演,不是因果逻辑的引起。
虽然是通过海量的数据训练,模型在大多数场景下,其实是可以拟合出一个非常好的拟合效果,但内部表征还是缺乏确定性的一些约束。所以在极低概率的输入的扰动下,哪怕是比如特定的光影还有斑驳,还有异形障碍物巧合的一些重叠下,系统可能在十几万次正确反应中之后,第十几万零一次输出一个致命转向的实现,就是无规律的幻觉。所以目前的神经网络架构上,在数学上其实是比较困难提供一个可以供证明的安全边际的包络。这种不确定性其实是主机厂在责任划分各方面的根源,所以这方面需要去解决。
但这是不是不能解,肯定不是,肯定还是通过技术手段是能实现的。比如通过模型中间输出的一些结果,来预测出来模型在未来的可行性,包括如果出现了一些可能的问题,系统是不是有fallback,系统本身来做接管,这些都是另一个话题。这是第一个,模型的幻觉。
第二就是在于评测体系的复杂性。如果是上新更高的MPI值,按照统计学的抽样,你需要从非常多的数据里面,来训练你们,来达到一个安全阈值。所以传统的训练方式也好、数据的生成方式也好,其实是不足够的,就会导致你训练的频次还有安全性达到不了所需要的要求。这是第二。
第三就是法规方面的一些政策,因为法规层面主要是在真正的落地、实施。目前的法规,比如规则清晰的环境下给了L3的一些口子,但一进入到城区,面对到非机动车的逆行、交警临时的人手势的指挥,或者是道路的坍塌、施工,或者是这种场景,责任的界限又会非常模糊化。所以车企对于一个黑盒系统在开放区域引发的不可预测的碰撞要进行无限的兜底,在这个实现上还是需要有一段的时间。
[00:47:25] 按照现在的进展,您觉得智驾这块大概在什么时间节点会出现阶跃式的突破?对于2028年L3成熟,您认为它是在政策层面也会打开,还是这两年主要还是技术上的升级?
专家 [00:47:46]: 时间窗口,相当于智能驾驶的ChatGPT的时代,就相当于是模型不再依赖于打补丁,出现一种涌现式通用理解的能力的阶跃,我们认为大概是在2027年年中到2027年年底这个时间节点。首先有几点,就是算力与算法的叠加。像2026年间下半年,单颗上千TOPS算力、超高内存带宽和下一代的车载芯片,大家都逐步在进行交付量产,其实已经消除了端侧模型容量的物理方面的限制。并且同时在云端已经构建出十几亿FLOPS这种多模态的世界模型,经过这两年的预训练和强化学习对弈之后,模型的参数与高质量的token的吞吐量已经跨过了scaling law的涌现的阈值,所以这块我们认为是几个方面。
有几个算是可以监测的硬性信号,首先第一个就是零样本的长尾泛化能力。这个其实就车辆在行驶过程中是不是遇到此前从未见过的极端的异形物体,奇异服装的一些行人,还有倒伏在路中非标准化的一些农机,还有从未标注过的一些异形的特殊障碍物,系统不再表现为急刹、退出或幽灵刹车,而是自然地表现出人类防御性的一些驾驶,所以这就是零样本这种长尾泛化性的能力是不是能达到。这是第一点。
第二就是一些复杂的、非言语类的博弈类的自然语境。比如在极端拥堵、狭窄的错车、无信号灯的环岛等非常极高的博弈场景下,系统展现出类人这种微动作的行驶能力或者决策能力。比如轻微地向前蠕动压迫空间来表达通行意图,这个其实是非常典型的叫作中国司机、中国驾驶风格,你在国外不会有这样。所以通过微小的姿势、让位来示意对方先行,这其实都是非言语类的博弈的自然语境,这是第二点。
第三就是研发端基本上废除了case-by-case的针对性的一些规则的工程化。比如在工程内部出现了一个标志性的转折点,团队已经取消了对于特定场景的专门微调和后处理的保护策略。简单来说,就去除了大量的这种兜底、这种后处理,任何接管问题完全都是将这个场景化转化为token为主给大模型,通过定位的增加,计算量和自监督loss的下降,来自然地消除这种bad case,所以车企已经是完全可以把这些后处理、规则式的兜底部分来取缔。所以这几个信号如果出现了,那其实这个智驾算是阶跃式的突破。
[00:51:30] 今天主要聊的是世界模型在自动驾驶这块的整合,当然世界模型除了在自动驾驶,在机器人、在一些决策类的模型里都会有一些应用场景或对它的预期。您怎么看智驾这一套的数据闭环跟仿真的工具链,整个目前的know-how往具身搬的时候,有哪些可以直接复用、有哪些是没有价值的?
专家 [00:51:59]: 智驾的这个与具身智能的底层逻辑,基本上都遵循着感知、建图、modelisation、认知、规划、控制这种大模型端到端的逻辑闭环。但两者对于物理的交互跟维度还有自由度上是有非常大的区别,所以它会出现非常极强的非对称性。这什么意思?就是从智驾向具身智能的复用率,有些能复用,比如可以复用部分大概能占据60-70%。
第一,就是云端AI异构的算力基础设施与分布式的训练基座。这个其实很好理解,就是你海量的数据、存储、计算、体系、万级别的GPU显卡、并行的计算,还有模型断点的续训、自动化流水线、编译,这些基本的最纯粹的技术工程化可以100%地进行一个复用,这是第一点。
第二就是静态3D空间的重建与数字孪生相应的工具。比如3DGS跟NeRF的一些working pipeline,成熟的、离线的、多视角的3D高斯溅射与神经辐射性的重建,基本上能搬到室内,工厂跟物流仓储三维的高保真度,可以作为机器人构建厘米级别的全视觉化的基座,这个也是可以的。
第三就是视觉多模态的大模型的特征提取。因为智驾训练好了大型的视觉的Transformer backbone,它的具身智能可以直接拿去作为颗粒优化、相应特征来去做提取,所以这部分其实是有高度的复用性,所以这个是。这是第三。第四就是影子模式,shadow mode数据飞轮的整个捕捉。比如异常数据的捕捉、tracker、上传、云端的半自动化的标注、数据的筛选还有数据的挖掘mining,还有数据的治理、整个平台软件的架构,基本上可以无缝迁移。主要四点,它的复用率是非常高的,基本能达到90%水平。
但是它也有不能复用的部分,就是搬不动的,非要从零到一推翻重来的这部分,它大概有三个。首先第一个就是它的物理交互与动力学接触的仿真器,这个是非常大的本质区别。因为智驾的本质是轮式这个底盘在2.5D或者3D的非接触性的一个轨迹规划,智驾仿真的核心使命是避免碰撞,它对于微观接触的力学没有任何要求。但具身智能的本质是在高自由度3D空间内与空间进行频繁地物理的主动式和被动式的接触,包括抓取、摩擦、碰撞、拧螺丝、推门各方面。
所以智驾这个重心,纯视频生成与神经渲染的仿真器在机器人就完全不一样。因为机器人必须依赖基础力学的仿真引擎,需要精细化模拟关节的扭矩、静动的摩擦力、刚柔的变形等一系列。所以这些,基本上智驾的仿真、引擎、积累的新know-how在机器人里面其实是不work的。这是第一点。
第二点就是边缘端的数据的采集范式。因为智驾有数百万的车辆在公开道路上作为数据的收集器,每天还有低成本的自监督的数据采集。但具身智能目前没有走进千家万户,所以缺乏那种真正意义上物理的海量的终端。但机器人复杂的操作数又是依赖于数据的,所以它也依赖于人类佩戴这种VR或外骨骼进行遥控采集,所以它成本还是比较高的。所以智驾的数据飞轮在具身智能上,它也需要回退为手工作坊式的慢速采集,又回退到上一世代。这是第二点。
第三就是实时高频运动的执行与运动的控制,这个也不一样。因为智驾规划的轨迹大概在10-20Hz,底盘执行器平滑的曲线与加速度的指令都是大概在这个数量范围级。但具身智能需要全身运动的控制,在500-1,000Hz的微秒级周期下进行运行,对于电机的扭矩、关节的阻抗,它闭环的响应不是一个数量级,所以智驾现有的这种控制和端到端的输出,完全无法直接移植适配到具身智能,所以这也需要做大量的重构和更改。
[00:57:31] 总体来讲,具身智能这块的世界模型的应用、算法的深度可能都会更多一些,后面这些厂商如果有所突破,会不会改变现有车企自研和外界三方在自动驾驶里的世界模型加自动驾驶的格局?它可能会是一个降维打击吗?
专家 [00:58:00]: 说是比如具身智能公司已经解决完具身智能刚才说的诸多问题,然后去做自动驾驶,是不是会有降维打击的情况,对吧?
ES [00:58:09]: 是的。
专家 [00:58:13]: 我们认为还不太一样,可以理解为一句话概括,就是具身智能跟自动驾驶本身技术同源,技术的复用性高度同源、高度复用,但最终业务的场景又是非常不一样。一个是车规级,一个是消规级;一个是车辆高速移动的金属壳体,一种是居家的算是管家或者服务者,是一个帮助者。所以它执行的各方面的场景和要求是完全不一样。
你要说自动驾驶搞好去搞具身智能行不行,它肯定是有基础,刚才提到有些技术方案完全复用,但有些地方它完全得需要重新去做。反过来一个道理,这个做具身智能的,那它可能擅长做具身智能,但你说它真正要去做车规级,车辆高速运转的功能安全、信息安全,因为车规级跟消规级这个要求完全不一样,所以在这个维度上来看,它是不是能做好车辆自动驾驶也不一定。它需要趟的路是不一样的,所以各走各的路,只不过它们有本源,但未来除了模型化跟基础能力设施之外的部分,还是有高度的差异化。
ES [00:59:47]: 非常感谢专家参与本次访谈。本次访谈结束了,再见!