详解“端到端”下一代模型VLA,通向自动驾驶的关键跳板

发布日期:2024-11-13 15:17

来源类型:趣味萌宠 | 作者:凯文·格思里

阅读提醒: 文|李安琪 编辑|李勤 像海鲜市场一样,智能驾驶行业技术浪潮正在快速更迭。“端到端”刚成为新的技术范式,甚至大量公司还没来得及完成研发模式切换,端到端就进入了技术换代时期。 “...
【新澳门彩最新开奖记录查询表图片】 【2024新奥天天免费资料】 【2024年澳门精准免费大全】 【新澳正版资料免费大全】 【2024香港澳门免费资料】 【2004新奥精准资料免费提供】 【二四天天正版资料免费大全】 【2024新澳门精准免费大全】 【2024年天天彩免费资料大全】 【二四六香港资料期期准一】 【2o24年新澳正版资料大全视频】 【新奥最精准资料大全】 【全年资料免费大全正版资料最新版】

文|李安琪

编辑|李勤

像海鲜市场一样,智能驾驶行业技术浪潮正在快速更迭。“端到端”刚成为新的技术范式,甚至大量公司还没来得及完成研发模式切换,端到端就进入了技术换代时期。

“端到端”的最新进化方向是,深度融入多模态大模型。过去两年,大模型已经展现出了读文、识图、拍电影的能力,但大模型开车恐怕还是头一遭。

近期,智驾行业出现了一个融合了视觉、语言和动作的多模态大模型范式——VLA(Vision-Language-Action Model,即视觉-语言-动作模型),拥有更高的场景推理能力与泛化能力。不少智驾人士都将VLA视为当下“端到端”方案的2.0版本。

事实上,VLA模型最早见于机器人行业。2023年7月28日,谷歌 DeepMind推出了全球首个控制机器人的视觉语言动作(VLA)模型。

不过这个模型概念正快速扩散到智驾领域。今年10月底,谷歌旗下自动驾驶公司Waymo推出了一个基于端到端的自动驾驶多模态模型EMMA。有行业人士表示,这就是一个VLA模型架构,既有端到端智驾能力,还融合了多模态大模型。

过去,智能驾驶行业基于规则算法,进行了十数年探索。近两年,特斯拉引领的“端到端”智能驾驶,成为新的技术方向,不仅让智驾具备更拟人的表现,也能应对城市中海量的复杂交通场景。

配合“端到端”技术,行业玩家还会增加大语言模型等来提升智驾能力上限。端到端+VLM(视觉语言模型),就被理想等公司推崇。

但不同于VLM相对独立、低频地为端到端提供驾驶建议的模式,VLA架构下,端到端与多模态大模型的结合会更彻底。就连理想人士也向36氪汽车坦承,“可以把VLA看成是端到端+VLM的合体。”

VLA模型,很可能是“端到端+VLM”技术框架的“终结者”。

有行业人士表示,VLA模型对智驾的演进意义重大,让端到端理解世界的能力更强后,“长远来看,在L2辅助驾驶到L4自动驾驶的飞跃中,VLA可能会成为关键跳板”。

一些车企智驾玩家已经在暗自发力。此前,理想汽车曾在三季度财报电话会议上表示,内部已经启动了L4级别自动驾驶的预研,在当前的技术路线基础上,研发能力更强的车端VLA模型与云端世界模型相结合的强化学习体系。

智驾公司元戎启行在获得长城汽车的7亿元注资之后,也表示将进一步布局VLA模型。元戎启行称,公司将基于英伟达最新智驾芯片Thor进行VLA模型研发,模型预计于2025年推出。

但也存有共识,VLA模型的上车难度不小,对技术和车端的芯片算力都有高强度要求,“能够支持VLA模型上车交付的芯片,可能在2026年才会出现。”

端到端最新方向:融入多模态大模型

自2023年以来智驾行业掀起的BEV、端到端技术浪潮后,智驾正逐步将AI神经网络融入感知、规划、控制等环节。比起传统基于规则的方案,基于AI、数据驱动的“端到端”拥有更高能力天花板。

图源:元戎启行

但在“端到端”模型之外,车企们还辅以了大语言模、视觉语言模型等外挂,来提供更强大的环境理解能力。年中,理想就推出了端到端模型+VLM(视觉语言模型)的方案。VLM模型对复杂交通环境具有更强的理解能力,可以给端到端提供相关驾驶建议。

不过据36氪汽车了解,理想的端到端模型+VLM模型,是相对独立的两个模型。“理想VLM占用了一颗Ori芯片算力,目前主要对限速提醒等场景做出驾驶建议。”

而VLA模型,是将端到端、VLM两个模型合二为一。也就是说,多模态大模型不再作为端到端的外挂,而是成为端到端自生的一种能力。

谷歌Waymo近期发表的论文中,端到端自动驾驶多模态模型,不仅将摄像头的视频和图像作为感知输入,同时还能以谷歌地图“请在前方第二个匝道右转出匝道”这种指令作为输入,以及结合车辆历史状态,输出车辆未来轨迹。

有行业人士向36氪汽车表示,目前对于一些特殊的复杂场景,智驾仍然缺少学习数据样本。如果融入模态大模型,就能将大模型学习到的知识迁移给智驾系统,可以有效应对corner case(长尾场景)。

智驾公司元戎启行CEO周光也认为,VLA模型是端到端的2.0版本。他表示,遇到一些复杂的交通规则、潮汐车道、长时序推理等特殊场景时,智驾会比过往理解、应对得更好。

比如在推理时长上,传统rule-base(基于规则)方案下,智驾只能推理1秒钟路况信息然后做出决策控制;端到端1.0阶段系统能够推理出未来7秒路况,而VLA能对几十秒路况进行推理。

“目前基本上大家沿着这条线已经预研1年多了,不过明年想要量产还是有很大难度。”有行业人士表示。

端到端变奏,后发者的机会更少了

在进入规模推广之前,下一代端到端方案还面临很现实的挑战。

一方面,现阶段车端芯片硬件不足以支撑多模态大模型的部署落地。有行业人士向36氪汽车表示,将端到端与VLM模型二合一后,车端模型参数变得更大,既要有高效实时推理能力,同时还要有大模型认识复杂世界并给出建议的能力,对车端芯片硬件有相当高要求。

当下,高阶智驾的算力硬件基本为2颗英伟达OrinX芯片,算力在508Tops。有行业人士表示,现在车端的算力很难支撑VLA模型的部署。

而英伟达的最新一代车载AI芯片Thor有望改变这种局面,Thor的单片AI算力达1000Tops,并对AI、大模型等算力都有不错支持。

不过跟英伟达接触的人士向36氪汽车表示,明年英伟达Thor芯片大概会延期发布,上半年最先有望先推出的是700Tops算力版本。但一颗700Tops算力的芯片也可能支撑不了VLA模型,两片Thor的成本又高出不少。

英伟达的芯片量产时间与成本挑战,横亘在车企前面。为此,一些自研芯片的新势力也在紧追芯片进度。据36氪汽车了解,一家头部新势力的VLA模型预计2026年正式上车。“届时结合自研的大算力芯片,VLA的效果会更惊艳。”上述行业人士表示。

好在,VLA模型架构下,数据方面的挑战没有骤然提升。

有行业人士告诉36氪,在端到端基础上,VLA模型融入了视觉语言模型、动作模型。但多模态大模型的数据并不难获得,包括已经开源的大模型、互联网上已有的通用语言,都可能成为智驾多模态大模型的养料。

更具挑战的是,如何将端到端与多模态大模型的数据与信息作深度交融。这考验着头部智驾团队的模型框架定义能力、模型快速迭代能力。

这些都决定了VLA模型不会太快进入智驾的量产环节。

然而,技术路线的骤然升级与竞赛变奏,为还没发力端到端的玩家设置了更高门槛,后发制人的机会更加稀少。

【新澳门资料免费资料】 【新澳精准资料网址】 【新2024年澳门天天开好彩】 【澳门正版精准免费挂牌】 【新澳2024资料大全免费】 【澳门最精准免费资料】 【7777788888精准新传真112】 【新澳2024年最新版资料】 【资料大全正版资料免费】 【新澳门彩历史开奖结果走势图表】 【2024新奥门正版资料免费提拱】 【新澳门三肖中特期期准】 【2024新澳精准资料免费提供下载】 【澳门六开彩天天正版澳门注】
【7777788888王中王传真】 【新澳好彩免费资料查询2024期】 【2024澳门天天彩免费正版资料】 【新奥彩2024最新资料大全】 【新澳门资料大全正版资料查询】 【新奥门免费资料大全在线查看】 【新澳全年免费资料大全】 【澳门王中王六肖网址】 【新澳资料免费大全】 【新澳免费资料网站大全】 【澳门资料大全夭天免费】 【新澳门免费资料大全精准正版优势】 【2024澳门天天六开彩开奖结果】 【2024天天彩正版资料大全】

下载中心

视频封面

视频名称:统筹投融资平衡 营造支持创新生态环境

大小: 3.8GB 下载:(406872) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:遛狗不牵绳致老人摔伤 主人被判赔14万余元

大小: 9.5GB 下载:(792288) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:欧洲 “降息潮”:影响几何?风险何在?

大小: 9.9GB 下载:(429561) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:郑州共享单车联合公告:超区骑行将强制锁车白T粉色裤子好干净的一套!!

大小: 9.8GB 下载:(114095) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:人类记者被AI替代了,波兰电台正式启用 AI 主播3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 2.1GB 下载:(961331) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:泽连斯基祝贺,马斯克接了电话

大小: 2.3GB 下载:(403810) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:一分钟看完今日热点新闻

大小: 8.1GB 下载:(148472) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:德国总理解除他的财政部长职务!自民党所有部长退出联合政府!啥情况?

大小: 3.6GB 下载:(446007) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:一个疯子父亲,复活了去世3年的女儿

大小: 8.3GB 下载:(165033) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:女子以吃出虫子敲诈海底捞,被判有期徒刑7个月

大小: 7.9GB 下载:(387661) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:满屏都是双11跳转广告,但消费者依旧想逃

大小: 7.8GB 下载:(178852) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“武汉理工北京校友会科创俱乐部首届沙龙交流论坛”成功举办

大小: 6.9GB 下载:(771945) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:养了宠物之后哪些方面有了明显的改变?

大小: 5.4GB 下载:(507828) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:我们准备着深深地领受,那些意想不到的奇迹|冯至诞辰117周年

大小: 2.3GB 下载:(499819) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:虞书欣:以观众之心,演绎共鸣之旅

大小: 8.6GB 下载:(877802) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:Meta 公布机器人触觉感知能力研究成果:传感器理解操作外界物体

大小: 4.3GB 下载:(929094) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:印章是假的,检测报告是假的,连官网也是假的……一起伪造公司印章案告破

大小: 2.2GB 下载:(876096) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中非地方政府合作论坛首次在穗举办 广东渐成主场外交重要舞台

大小: 9.4GB 下载:(539366) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特朗普横扫七大摇摆州:谈谈美国选举制度中的漏洞为何长期存在

大小: 4.2GB 下载:(124946) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:10月CPI同比涨幅略有回落,环比降03%,食品价格下降成影响主因

大小: 2.9GB 下载:(726557) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:温州这名消防员的身影火了!而他说:这只是平常的一次

大小: 5.4GB 下载:(673920) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:凯莱赫:我们正朝着正确的方向前进,希望每个人都能保持健康

大小: 7.8GB 下载:(997490) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:拜登一天两个基调不同的演讲

大小: 2.6GB 下载:(583844) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:加强互联互通 实现互利共赢

大小: 8.3GB 下载:(920294) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:河南安阳妇幼保健院暗藏摄像头,护士更衣室遭偷拍!警方:已抓到偷拍者

大小: 3.6GB 下载:(198793) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:LPL传奇杯感动一幕,Uzi陷入困境,MLXG出手相助

大小: 1.1GB 下载:(841108) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:日前,市民刘先生捧着一个纸盒走进派出所接警大厅

大小: 9.6GB 下载:(328150) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特朗普重返白宫,如何冲击世界?

大小: 8.1GB 下载:(76682) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:因“高考誓师”被网暴的女孩,最新发声→围观|大龙猫老婆罕见上镜!得知要跟大宝等女主播做节目“杀意”拉满!

大小: 5.4GB 下载:(505446) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特朗普重返白宫,丰田汽车押对宝了吗?

大小: 6.8GB 下载:(962978) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:人工智能及其创造力

大小: 8.9GB 下载:(786614) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看39条评论

阿莱西·瓦塞尔

9秒前

谷歌Waymo近期发表的论文中,端到端自动驾驶多模态模型,不仅将摄像头的视频和图像作为感知输入,同时还能以谷歌地图“请在前方第二个匝道右转出匝道”这种指令作为输入,以及结合车辆历史状态,输出车辆未来轨迹。

杰德·阿努克

1分钟前

过去两年,大模型已经展现出了读文、识图、拍电影的能力,但大模型开车恐怕还是头一遭。

Bostwick

7天前

一些车企智驾玩家已经在暗自发力。

发表您的评论: