每日信息:BEV 感知模型实用的一些经验

目前实用BEV的技术方案已经有大概半年时间了,多个BEV模型都在不同项目做了实际部署,可以在这些工作的基础上做一些经验总结了。目前来看,特

来源 |智能汽车设计

知圈 | 进“底盘社群”请加微yanzhi-6,备注底盘


(资料图片)

目前实用 BEV 的技术方案已经有大概半年时间了,多个 BEV 模型都在不同项目做了实际部署,可以在这些工作的基础上做一些经验总结了。

内容其实是断断续续写的,因为新冠的脑雾在我身上可感知的大概持续了半个月。

BEV 带来的优势:

1. 实际的运行性能提升

虽然这个看起来比较反直觉。但是实际上性能反而比 2D 任务更好,而且还能保持基本对标甚至更好的指标。同样的两个任务,我们使用更少的算力(1/3 不到),由单相机扩展到 6相机,依然保持了实时运行。在测试指标上,基本保持了一致。当然,我们的 BEV 感知范围减少了侧向和后向的范围。

相比传统的方案,主要的提升来源:

整个 Pipeline 处理更加简单和一致,相比一些传统的方案,代码量降低了很多,在工程方向上,这个极大的一个优点。越少的代码,代表越少的bug,越低的维护成本。 由于没有了 infer 后的一些额外后处理工作带来的指标降低,模型结构可以进一步简化,不用在模型这里去补偿。 Multi-scale 的融合集中在模型内部。 在 BEV 的统一框架下,我们可以将多个任务融合在一个模型中统一处理 。 2. 稳定性提升

这个无需怀疑,我们的经验和之前 Tesla AI day 上的一些宣传是一致的:

模型预测正确的情况下,车道线的内外八、大幅度的抖动基本不会出现。单单这一点,已经解决了非常多的问题。 从上一点引申出来,之前的很多问题都可以很容易的归约到一个问题上:更多的数据。看起来很粗暴,但是这是数据驱动的前置条件,不满足这个条件,就不用谈什么数据驱动。 3. 多目模型无盲区

在使用多目的 BEV 模型后,车身周边的障碍物感知是提升显著的。由于多个原因,评测集合中的车身侧后的 GT 是有盲区的,模型都可以正常检测。目标在切换不同相机感知范围时,在我们自己的测试集上看,很少有跳变。

4. 功能扩展难度降低

由于这一框架更加稳定,通用,功能扩展基本都可以在 head 上简单增加内容。比如 Tracking Embedding 的功能,代码 + 验证训练,仅仅需要 3 天,实际上绝大部分时间都在训练上。

问题:1. 硬件支持

主要的来源是算子限制。最近一年中,BEV 的论文,百家齐放。但是落实到我们使用的 AI 加速器上,大部分都不支持。即使勉强支持,性能也不行。我们最终还是切换到 MLP 的方案上实现上车运行。

2. 信息丢失

2D -> 3D 的转换模块带来的信息损失,带来的直接问题就是远距离、小目标的检测不理想。不过由于目前阶段的感知范围相对比较小,还没有要求到100m开外,所以整体上表现还不明显。但是这个问题可能依然是未来必须要面对的问题,我这里有一部分的工作也在尝试缓解这个问题。

3. 数据需求

数据量需求较大:

由于2D -> 3D 的部分我们使用的是 MLP,非常容易过拟合。

视觉上 3D 本身的 augmentation 很难做,而且对于硬件标定有依赖。

生成难度也较大:目前阶段还大量使用激光来辅助数据生成,但是这样的方案由于传感器的原因,在未来是没法扩展的。这也是目前阶段我们在尝试考虑的一个问题。

随着多目任务的引入,带来了一个很难避免的问题:模型和相机的布置基本处于一个硬绑定的状态。对于普通的公司,必须面对这个问题:怎么样可以用尽量少的数据、更快的适配新的车型。在我看来这是一个体系化的解决方案,数据、硬件、算法、工程,都需要针对这一问题作出适应。

目前来看,特斯拉的 4D 标注在静态元素上确实是一个比较符合逻辑的方案,成本和效率都比较高(当然也会有一些问题)。但是动态元素上的工作,我们还在考虑。

挑战:1. 感知面对战争迷雾的挑战

当然这个和 BEV 本身并没有直接关系。但是感知模块即使做到完美也存在盲区、遮挡、极限范围外的问题。所以,如何更好的处理不确定性,增加容错度是依然需要面对的问题。

我自己爱说的一句:感知做到最后都是预测。一旦涉及到预测,就引入了不确定性和概率。如何利用模型来应对这个问题,应该是未来工作内容的一个重点。

2. 新的 2D -> 3D 转换模块的探索

在学界,已经有很多方案。主要方向:利用投影、Transformer 及其变体、直接的MLP。

目前从应用角度来看,都还有或多或少的缺陷。怎样实用化一个新的转换模块,也是需要考虑的。公司内部也有其他的 team 做了一些探索性的工作,提供了一些情报支持,我们自己也在开展下一代转换模块的选型和试验。

从我个人的角度来看,逐渐的减少先验限制才可能会有更好的结果。当然,从工业界研发来看,要把握好时机和程度,做好平衡。

3. 数据量的提升

BEV 方案相对来说是比较吃数据的。当然,也没有夸张到是数据怪兽,非特斯拉的数据量不行,正常的公司慢慢迭代稳定后,是可以达到一个基准线的。

本身引入 3D 空间后,augmentation 变得很难,尤其是多相机相互之间的关系让这个问题更加复杂。最可靠的方法反而是:堆更多的数据。

标签: 这个问题 转换模块 数据驱动

相关阅读

六代中医传人张喜海:守正中医创新治骨...

张医生,我们是专门过来找您看病的张院长,你看看我的病还能治吗?治骨病,找张喜海医生 纷杂的诊室...

2019-12-17 更新

庆70华诞 迎民族盛会——新阶层 新担...

拼搏砥砺七十载,大展宏图喜露颜。7月26日,由中华网河南频道主办,河南省委统战部新的社会阶层人士统战工作处...

2019-07-28 更新

河南首家无人机表演编队亮相 夜空中上...

【导语】河南地图、少林功夫、司母戊鼎、甲骨文、卢舍那大佛、鲸鱼、金字塔、雪花……200架无人机编队在夜空中...

2019-07-15 更新

每日信息:BEV 感知模型实用的一些经验

目前实用BEV的技术方案已经有大概半年时间了,多个BEV模型都在不同项目做了实际部署,可以在这些工作的基础上...

2023-01-24 更新

环球微资讯!90后的购车首选,一汽-大众...

一辆无法忽略的宝藏车型一汽-大众探岳X,是品牌旗下一款中型SUV车型,是一个非常新的品牌。在动力系统方面,一...

2023-01-24 更新

微速讯:社区充电论坛-社区充电产业大会...

论坛现场限量40个精品展示台,设立社区充电解决方案,展示行业最新产品与技术。

2023-01-24 更新

许多电动车恶意占充电位,男子气不过插...

现在很多人都开始买电动车了,是真的方便,如果自己充电,每公里的费用不过几分钱。这不,前段时间还有一个厉...

2023-01-24 更新

天天速读:英歌舞突然火了,潮汕的年轻...

英歌舞突然火了,潮汕的年轻人有理由骄傲

2023-01-24 更新

天天快资讯丨雨滴美图100张_雨滴美化社区

1、你这种问题我看过N次,都没人回答激活码获得方法1(关注创始人和管理员的新浪微博不定期会发放的不过一次只...

2023-01-23 更新

世界观察:沈阳炼焦煤气有限公司好不好_...

1、确实有这事!死伤不祥啊。2、没有死伤的内部员工很幸运,没有伤亡。3、大罐爆燃时是职工吃饭时间,周围没有...

2023-01-23 更新

环球观天下!k256列车途经站点_k25次列车

1、您好!anytrain为您解答疑惑!K25次为南京西站始发车,停靠南京站,应该不会有始发晚点的情况!由于是长途...

2023-01-23 更新

世界时讯:地暖放水排气方法_dnf雪碧

1、对!现在就是最近DNF察瓜察的很严!被瓜带的玩家都被无故封号。2、我就是其中一个。3、真冤枉所以很多瓜都...

2023-01-23 更新

重点聚焦!酷派大众_酷派d280

1、你还没有装驱动,在你用数据线把手机和电脑链接的时候电脑会提醒你安装的,之后你把随机带的光盘放进去。2...

2023-01-23 更新

会呼吸的痛许嵩在线播放_会呼吸的痛许嵩

1、“这是你最喜欢的一首歌,我把它重新的编曲,给你的最后一首歌吧 ”这是唱之前前面那段话。2、可能因为突然...

2023-01-23 更新

每日看点!松林古寺景点介绍_松林古寺

1、十一届三中全会之后,宗教政策得到贯彻,该寺产权落习归还宗教团体——潮州市佛教协会管理使用。2、在市佛...

2023-01-23 更新

世界快消息!【韩系动向880】国内见不到...

现代i10属于微型车,定位类似于铃木奥拓,这款车在印度市场很受欢迎,目前在欧洲市场也有销售。在欧洲市场i30...

2023-01-23 更新

中国高端SUV销量冠军:一年卖出31.5万辆...

比奔驰GLC、奥迪Q5总和还多

2023-01-23 更新

全球微头条丨丰田在华新车10年首次下滑...

丰田的另一个问题是市场问题,丰田如今的核心市场其实是中国和美国了,而中美两国都是要发展电气化,全球其他...

2023-01-23 更新

足球小子飞毛腿最后一场比赛_足球小子飞...

1、《足球小子飞毛腿》是方军亮执导,郑挚、战卫华等主演的儿童励志电影。2、影片讲述了一个有着过人足球天分...

2023-01-23 更新

高天国的个人资料_高天明

1、高天明,男,湖北浠水人,博士学位,深圳大学师范学院教育系副教授,2004年遴选为深圳大学课程与教学论专业...

2023-01-23 更新

天天即时:诺珉宇的视频_诺珉宇女友

1、韩国官网介绍朴东株的身份是小妖,但是据剧情观察来看,Rose的身份不止是小妖。2、他应该是活了很多年,阅...

2023-01-23 更新

今日报丨世界野生动物基金会会徽上是哪...

1、世界自然基金会是在全球享有盛誉的、最大的独立性非政府环境保护组织之一,简称WWF。2、1961年9月11日成立...

2023-01-23 更新

环球热头条丨特斯拉减产,漂亮国车企缺...

先说我国市场,我国形成了完整的电动车产业生态,产业竞争也从电动化、也就是替代燃油车,向智能化,也就是电...

2023-01-23 更新

世界热资讯!强劲实力,凯迪拉克LYRIQ锐...

凯迪拉克首次进军新能源领域的纯电SUV——凯迪拉克纯电LYRIQ锐歌,在40万豪华中大型纯电SUV领域中有很高的水准...

2023-01-23 更新

纽曼p70手机_纽曼p7

1、1支持AVI,WMV,MP4。2、MKV,RM,RMVB。3、FLV,MOV格式,支持1080P视频2支持FLASH111 13支持三星i9100(G

2023-01-23 更新

当前快讯:摩组词语造句_摩组词语

1、mó◎摩擦:刀。2、墨。3、练。4、砺(摩擦使锐利,喻经受磨练)。5、合。6、粉碎粮食的工具:石。7、电。8...

2023-01-23 更新

欧股开盘普涨 德国DAX30指数涨0.37%

意大利富时MIB指数涨0 12%,西班牙IBEX35指数涨0 08%,法国CAC40指数涨0 30%,英国富时100指数涨0 13%,欧洲斯托克50指数涨0 3

2023-01-23 更新

今儿个金街,热闹非凡!

天津北方网讯:大年初一上午,和平区滨江道、和平路步行街人流如织、热闹非凡,大家纷纷走上街头,感受年味。...

2023-01-23 更新

世界新资讯:龙族之信仰外观_龙族之信仰

1、物理攻击力+677魔法攻击力+746独立攻击力+427力量+53智力+78释放速度+4%物理暴击率+10%魔法暴击率+10%命中率-1%暴

2023-01-23 更新

爱过的人不说后悔烟嗓男声_爱过的人不说...

1、《爱过的人不说后悔》《东邪西毒》有一句经典台词:“当你不能够再拥有,你唯一可以做的,就是令自己不要忘...

2023-01-23 更新

三国赵云传之纵横天下修改器_三国赵云传...

1、修改器没有,但有秘籍:打开game ini文件在[Init]下面(回车)输入GodMode=1(注意大小写),可打开秘籍:游戏中shift+g:开关无

2023-01-23 更新

全球快资讯丨特斯拉北美再出事!幽灵刹...

特斯拉FSD距离这一目标还很遥远,它的纯视觉自动驾驶技术方案,甚至很难在高阶自动驾驶领域根治“幽灵刹车”这...

2023-01-23 更新

今日最新!关注 - 问界被曝泄露用户隐...

文:懂车帝原创常思玥[懂车帝原创行业]近日,某媒体报道称,一位问界M7车主王女士在投诉车辆问题后接到了自己...

2023-01-23 更新

新闻频道

社会

财经频道