黄,18人精品艹,色花堂AV在线观看,好吊操网站

監(jiān)督稀疏解決了！DriveVLA-W0用世界模型放大自動(dòng)駕駛Data Scaling Law

2025-12-01 16:50

近日，特斯拉在 ICCV 的會(huì)議中就分享了其當(dāng)下面臨的挑戰(zhàn) ——監(jiān)督稀疏。

監(jiān)督信號(hào)是低維、稀疏的駕駛動(dòng)作，和 VLA 高維、稠密的視覺(jué)信息流不符。即便使用海量數(shù)據(jù)也無(wú)法釋放 VLA 模型的巨大潛力。

針對(duì)這個(gè)問(wèn)題，一支由國(guó)內(nèi)頂尖技術(shù)機(jī)構(gòu)和華為合作的論文給出了解答。他們提出了 DriveVLA-W0，這是一種利用世界建模來(lái)預(yù)測(cè)未來(lái)圖像的訓(xùn)練范式，表明世界模型是解鎖 VLA 數(shù)據(jù)規(guī)模定律的關(guān)鍵。

三步研究方法

研究法分為三個(gè)關(guān)鍵步驟。

構(gòu)建一個(gè) VLA 基線模型，以展示僅基于稀疏動(dòng)作的監(jiān)督所面臨的挑戰(zhàn)。
利用世界建模增強(qiáng)了該基線模型，提供了密集的自監(jiān)督信息。
引入一個(gè)輕量級(jí)的、基于 MoE 的動(dòng)作專家來(lái)解決推理瓶頸，從而確保模型能夠?qū)崿F(xiàn)實(shí)時(shí)性能。

視覺(jué)-語(yǔ)言-動(dòng)作（VLA）基線模型處理語(yǔ)言指令（L）、正面圖像（V）和過(guò)去動(dòng)作（A）序列。為了確保其廣泛的適用性，團(tuán)隊(duì)還構(gòu)建了兩種主流視覺(jué)語(yǔ)言模型（VLM）的變體：VLA（VQ），它將圖像量化為離散的視覺(jué)標(biāo)記；**VLA (ViT)**，它為 Qwen2.5-VL 風(fēng)格的骨干網(wǎng)提取連續(xù)特征。

為了解決問(wèn)題，研究團(tuán)隊(duì)引入世界建模作為自監(jiān)督目標(biāo)。包括 AR 世界模型、擴(kuò)散世界模型等。

輕量級(jí)的動(dòng)作專家（500M）與主 VLA 專家在混合專家 (MoE) 架構(gòu)中協(xié)同工作。這種架構(gòu)上的相似性使得它們能夠通過(guò)聯(lián)合注意力機(jī)制實(shí)現(xiàn)深度且高效的信息融合。

實(shí)驗(yàn)結(jié)果

DriveVLA-W0 在 NAVSIM 基準(zhǔn)測(cè)試中取得了新的最佳性能，超越了不同架構(gòu)范式下的頂級(jí)方法，包括基于 BEV 的 WoTE和基于 VLA 的 AutoVLA。

值得注意的是，模型僅使用單個(gè)前視攝像頭就實(shí)現(xiàn)了如此性能。

在數(shù)據(jù)擴(kuò)展的情況下，世界建模優(yōu)于僅依賴動(dòng)作的監(jiān)督方法。使用基線方法模型在稀疏監(jiān)督下早期就會(huì)達(dá)到瓶頸，而 VLA-W0 會(huì)表現(xiàn)出持續(xù)的改進(jìn)。

研究人員通過(guò)在 H200 GPU 上測(cè)量推理延遲來(lái)驗(yàn)證 MoE 架構(gòu)的效率。與基線 DriveVLA-W0（延遲 117.8 毫秒，PDMS 為 85.6）相比，VLA-W0 延遲降低至 74.3 毫秒，同時(shí)性能提升至 88.4 PDMS。

研究顯示，監(jiān)督不足是阻礙自動(dòng)駕駛中視覺(jué)-語(yǔ)言-動(dòng)作模型可擴(kuò)展性的根本瓶頸。采用密集型預(yù)測(cè)世界建模是實(shí)現(xiàn)大規(guī)模數(shù)據(jù)全部潛力、構(gòu)建更通用駕駛智能的關(guān)鍵一步。

參考資料：

https://arxiv.org/abs/2510.12796

特斯拉