
前几天,小鹏汽车在 arXiv 上庄重公开了他们在物理 AI 与寰宇模子规模的最新讨论服从:X-Foresight: A Joint Vision-Action Causal Forecasting Network via Predictive World Modeling。

这无疑是全球缱绻机视觉顶会 CVPR 2026 开幕前夜的一项分量级服从,而小鹏亦然本届会议中独一受邀进行主题演讲的中国车企。这篇论文的公开,意味着继本年 3 月发布 X-World、4 月发布 X-Cache 之后,小鹏智驾生态的终末一块中枢拼图庄重落地。
看成这套体系的灵魂 X-Foresight 是一套基于预计式寰宇模子(Predictive World Modeling)的视觉 - 动作因果预计收罗。而它的推出,直指现时统统智驾行业的底层瓶颈。
目前,大部分自动驾驶系统(包括特斯拉 FSD V12)和最前沿的 VLA 架构(Vision-Language-Action),都是端到端的,骨子上偏向"条款反射"。
系统就像一个凭本能开车的赛车手,走的是"感知→径直动作"的黑盒阶梯。因为枯竭对物理寰宇的学问,它们无法在脑海里提前模拟:"要是我这样开,3 秒后会发生什么?"
怎么冲突这个瓶颈?小鹏的 X-Foresight 在这里面加入了一个中间层:"感知→预计改日状态→评估动作后果→聘请最优动作"。
相较于传统 VLA 依赖言语看成中间表现,X-Foresight 聘请了一条更底层、锻练难度更高、但更具颠覆性的通路——径直建模物理因果。就像给智驾系统安上了"预言家的大脑",一边高频控车,一边及时"脑补"出高清全景改日画面。不论是行东谈主突横穿、前车急刹,如故违法掉头等高危长尾场景,都能在提前预判中简陋拿持。

( A ) X-Foresight 的推理经过
( B ) 在 t=2 s、t=4 s、t=6 s 时刻预计改日帧的闭环推理可视化闭幕
( C ) X-Foresight 在多项基准测试中均优于基线要道
而这套物理模拟器之是以梗概从纸面走向现实,全靠以下四个中枢时候模块的超越式鼎新:

架构:"分块预判"冲突大模子的正当舞弊
许多东谈主合计,既然 Sora 能把视频生成得那么传神,那径直把这套"逐帧预计下一帧画面"的绝活搬到智能驾驶上不就行了?
然则,这样作念会遭逢一个致命的"预计退化罗网"。由于自动驾驶视频的相邻两帧画面竟然太相似了,要是让大模子去"逐帧预计",它会马上学会偷懒舞弊,径直把上一帧画面平移或者复制夙昔。这样赔本函数诚然降下来了,但执行上退化成了毫无好奇的像素外推,根底没学到信得过的物理通顺规则,妥妥的"无效刷题"。
同期,寰宇建模还濒临着"时序窘境":你念念看清前车变谈的逐个瞬,就得死盯着每一帧(高帧率繁茂预计);但你念念看懂前线过十字街头的恒久因果,又得往后看好几秒。要是把这两件事混在全部强行死磕每一帧,车机算力一霎就会被榨干。
是以,X-Foresight 的架构中枢,改用了"永劫域分块自转头"(Chunk-wise Auto-Regressive)战略:
内密外疏,詈骂通吃:它不再一帧一帧地生啃,而是把时辰切成了一个个 1 秒钟的"大块(Chunk)"。在块的里面,密集采样,把前车变谈、刹车灯亮这种"瞬时动态"抓得死死的;在块与块之间,径直超越式地疏淡跳转,专门用来推演几秒后的"恒久因果"。这样既不会让模子躺平抄功课,又用极低的算力老本兼顾了目前的细节和远处的因果。
BSA 算力加快:为了选藏这种长序列锻练让系统崩掉,团队我方手写了一个半因果块疏淡预防力机制(BSA)看成底层核,径直把传统的 Flash Attention-2 给换掉了。这一换,端到端锻练的迷糊量径直暴涨了 1.59 倍!用最经济的算力,齐备责罚了这个时辰两难的窘境。

用于长序列锻练的半因果块疏淡预防力掩码
两个面板展示了分拨给不同预防力头组的互补疏淡花式

战略:由易到难,无痛拓宽 21 秒远见视界
念念让一个刚出身的大模子连气儿看清 21 秒后的改日,算力不仅吃不用,模子也根底学不会,极易导致锻练崩溃。
为了破这个局,小鹏引入了渐进式课程学习贯串推广视界战略(Curriculum Learning for Extended Foresight,CLEF),像教孩子念书相同,厚爱顺序渐进:
第一步(普及班): 先让模子学会预计挨在全部的短时辰块(以 1 秒为步前途行短期脑补)。
第二步(进阶班): 等模子基础底细塌实了,徐徐把块之间的跳转间距拉大到 3 秒。
通过这种由易到难的"喂养"神志,系统在莫得增多一丁点特等算力使命的前提下,硬生生把前瞻视线拉长到了 21 秒的超长地平线。这径直让 AI 领有了老司机"走一步、看十步"的顶级远见,即使遭逢突发现象,控车战略也稳如老狗,不掉链子。

数据:拒却活水账,免强盛模子死磕"错题本"
海量的开赴行车视频看似是一大笔钞票,但其实大部分时辰车辆都在寂静地匀速直线行驶。这种毫无海潮的"寂静巡航谎话画面"要是均匀采样、高密度地喂给大模子,只会白白滥用算力和监督信号,还会稀释中枢知识的学习效果,让模子变得粗笨。
为了不让数据注水,小鹏鼎新欺诈了时序首要性采样(Temporal Importance Sampling,简称 TIS)。这套战略不看别的,专挑"艰难"和"突发现象"下手:
用公式给路况精确打分: 系统不是盲目地乱选视频,而是通过一套基于车辆横向和纵向加快度的算法,及时给前瞻、当下、后滞三个时辰窗口的动态变动进行定量评估。
专攻安全重要: 唯有遭逢变谈、急刹、强插、猛打标的等安全重要块,leyu·乐鱼(中国)体育官方网站该片断的分数就会飙升。系统会自动把珍贵的算力歪斜给这些高价值片断。这至极于免强盛模子解除无好奇的活水账,全神灌注地死磕"硬核错题本",大大栽培了应酬危急时的有辩论前途。

渲染:脑眼分离,留神遵从的"防舞弊天条"
为了把大脑念念的"因果好奇"酿周全球都能看懂的高清画面,小鹏在假想形而上学上提议了一个相称泄露的不雅点:学好奇不需要高清。
要是隐空间里塞满了过多的像素细节,反而会稀释掉模子对寰宇中枢结构规则的交融。就像咱们东谈主类学开车,脑子里念念的是车流怎么走、路怎么弯,而不需要去强行记着路边每棵树的树叶是怎么飘的。
因此,X-Foresight 依托两大中枢模块,收场了"脑眼分离":
大型驾驶模子(Large Drive Model)充任"智囊": 看成中枢大脑,在隐空间进行抽象的物理推理和控车有辩论。它输出三种东西:适度动作(高频控车)、BEV 俯视图(空间结构交融)和每路录像头的隐向量 Token。
视觉渲染器(Vision Renderer)充任"画师": 基于 X-World 优化的扩散式多视角渲染器与 3D 因果 VAE(变分自编码器),它不参与有辩论,专门负责把 LDM 智囊脑海里那些抽象的 Token,复原成几何一致、真假难辨的 7 路环顾录像头高清全景闭环画面。1 秒预计视界 FID 值低至 1.51,即便到了 6 秒永劫预计仍能保持极低漂移!

锻练经过暗示
而这里,遵从着一条绝妙的"防舞弊天条":在最终的对皆阶段,渲染器是皆备不输入车辆适度动作(Action Token)的!
为什么要成心瞒着它?因为要是让渲染器同期看到动作(比如踩油门或打标的),扩散模子就会暗暗走捷径,径直字据动作去硬套、瞎编改日的画面,从而与 LDM 大脑里面真实的物理推理脱节。
目前,小鹏逼着渲染器只可通过 LDM 的 Camera Token 这一根独木桥来传导信息,反而死死确保了车机画出来的改日画面,与智驾大脑的里面真实念念象皆备对皆。

战绩:13.8 万亿 Token 喂出的工业级家底与实测震荡
一套强盛的寰宇模子收罗,必须有巨大的产业级数据和生态来喂养。
小鹏此次径直掏出了令东谈主咋舌的工业级家底:基于小鹏 28 万小时自有驾驶数据锻练,涵盖 3400 万条视频片断,Token 限制达到了恐怖的 13.8 万亿! 接受 7 目环顾录像头,收场 360 度无死角粉饰,凡俗横跨城市谈路(86.8%)与高速(13.2%),完整保留了环岛、匝谈、收费站、症结谈路使用者交互等长尾安全场景。
在这层弥散式锻练下,完整体的 X-Foresight 在运筹帷幄安全与生成保真度上全面起初传统基线,径直用一连串硬核的数据砸碎了传统 VLA 的黑盒瓶颈:
安全合规目的暴涨:中枢碰撞率相对暴跌了 16.2%!安全(Safety)目的栽培 9.1%,合规(Compliance)目的栽培 8.2%。
轨迹精确控线:推断 AI 走线准不准的轨迹差错上,横向和纵向的 ADE(平均位移差错)别离栽培 6.4% 和 3.6%;而长久预判的 FDE(畸形位移差错)更是别离大幅优化了 8.8% 和 4.1%。
六边形战士:依据小鹏自家的 CCES(合规性、闲隙地、服从、安全性)测评目的体系,X-Foresight 在四个目的上的笼统推崇栽培了 4.6%。

X-Foresight 与基线模子进行的实测数据对比
在执行场景中,对比传统两眼一抹黑、动不动就车谈偏离、盲目制动点刹的旧模子,X-Foresight 现场演示了什么叫领有物理寰宇知识的"顶级老司机":
多出口大环岛场景:传统的响应式模子由于视界太短,一进环岛看到近处的出口,很容易按"肌肉挂念"跑偏、提前切出。而 X-Foresight 展现出强盛的前瞻性有辩论技艺,精确锚定导航方针出口,一齐上稳压阵地,毫不受近处出口的干与。

多出口环岛下,X-Foresight 字据执行情况跟踪方针出口
夜间路口信号灯切换预判:面对前线红灯,正常基线模子不竭因为短视而早早一脚把刹车踩死,以致把预计轨迹掐断。但 X-Foresight 通过脑补改日,精确预判了信号灯的切换趋势 —— 它算准了车辆滑行到罢手线前红灯就会变绿,从而在里面画出了一条无需延缓、滑行通过路口的优雅轨迹。

夜间十字街头下,X-Foresight 预计信号灯休养

全栈协同,和特斯拉国皮毛见的那天越来越近了
跟着 X-Foresight 的庄重亮相,小鹏通往高阶自动驾驶的"超等三件套"终于透澈完成了拼图,构筑起了闭环的自动驾驶生态:
X-World 负责责罚"数据": 用超传神的多视角仿真生成,给 AI 创造出用之束缚、包罗万象的"模拟考卷";
X-Cache 负责责罚"速率": 把端到端的及时性和迷糊率拉满,确保车机大脑在应酬海量高频信号时毫不卡顿、原地升起;
X-Foresight 负责责罚"智能": 注入灵魂级的物理因果推理,让车子信得过学会像东谈主类老司机相同去"预判改日"。
这三张王牌凑皆,协同构建起"知识学习 - 场景仿真 - 推理加快" 的全栈体系,才算信得过赞助起 L4 级别智驾所必需的"系统级安全冗余"。全面质变从来都不是靠某一个算法的单点爆种,而是靠这种为德不卒紊的系统级全栈工程技艺。
从数据动手、模子动手,再到如今 X-Foresight 开启的"寰宇知识动手"(World-knowledge-driven)新范式,自动驾驶的下半场要变天了。改日的物理寰宇模拟器,小鹏如故率先开上了骨干谈。
回念念起 2020 年,马斯克责骂小鹏智驾时,何小鹏在酬酢媒体上的硬气复兴:

如今的小鹏,已被许多东谈主认为时国内能与特斯拉正面硬刚的最强竞争者。
2026世界杯开云(中国)官方入口而何小鹏当年说的"国皮毛见"的那一天,如故越来越近了。
参考阅读:
X-Foresight 官方技俩主页:https://x-foresight-1.github.io/en/
•END •
迎接点击科技逐日推送视频号,看最新视频 ~
↓↓↓leyu·乐鱼(中国)体育官方网站
易简传媒为一家新三板挂牌公司 ( 股票代码 :834498 ) ,旗下新媒体微信粉丝 2500 万 +,禀报各行业的精彩故事,迎接全球护理以下账号
↓↓↓