车联网中基于英特尔架构的激光雷达3D点云处理与感知融合方案快科技

在基于车联网(C-V2X)的车路协同应用中,路侧感知设备获取的交通目标与交通环境信息由路侧边缘计算设备进行分析处理,生成各类I2V(Infrastructure-to-Vehicle)消息,并由路侧单元(RSU)通过无线链路发送给各类道路交通参与者(包括联网车辆和弱势交通参与者),用于提升交通安全与交通效率。作为路侧感知设备的激光雷达,由于其3D成像和精确测距等卓越性能,受到越来越广泛的应用。基于英特尔架构的路侧边缘计算设备,在处理激光雷达生成的3D点云中(无论是深度学习还是传统计算机视觉),都显示出了卓越的性能。本文介绍了基于第11代英特尔酷睿处理器和英特尔OpenVINO工具套件分发版的集和诚路侧MEC设备,用于支持基于深度学习的3D点云处理和镭神雷视一体机(激光雷达与摄像头)的感知融合计算。我们为车联网产业界提供了高性价比的路侧感知和路侧边缘计算解决方案。

背景:中国的智能交通基础设施的快速发展

近几年,国家有关部门出台多项产业政策支持智能交通发展,如《交通强国建设纲要》、《国家综合立体交通网规划纲要》和《国民经济和社会发展第十四个五年规划和2035年远景目标纲要》

等,均强调全方位布局交通感知系统是实现交通基础设施智能化的重要步骤。

车联网作为半导体、智能计算、无线通信、汽车制造和交通运输等行业深度融合的新型产业形态,在提升交通安全与交通效率方面拥有巨大的潜能。随着人工智能、边缘计算和移动组网等技术的快速发展,车联网的功能与性能也不断的完善和提升之中,将在未来的智能交通系统中将发挥重要的作用。我国高度重视车联网产业的发展,相继出台了《车联网(智能网联汽车)产业发展行动计划》和《智能汽车创新发展战略》等系列政策文件。中国产业界一直在积极推动围绕C-V2X技术构建的车路协同技术路线。

车路协同中的路侧感知与路侧边缘计算

如图1所示,车路协同依靠路侧感知设备(包括摄像头、激光雷达和毫米波雷达在内的各类交通传感器)采集交通目标的原始信息(包括2D视频图像和3D点云等),交给路侧边缘计算设备进行分析计算(包括目标检测与目标分类)以及与感知融合,生成结构化数据用以表示交通目标的属性(例如车辆的速度与航向、交通事件的类别与影响范围等)。这些结构化数据被进一步处理成V2X消息,准确地说是I2V消息。这些I2V消息被RSU(路侧单元)经由PC5无线空中接口、或者5G/4G基站经由Uu无线空中接口发送给包括机动车和行人在内的道路交通参与者。

图1.车路协同的系统概念

车路协同的路侧系统架构由图2所示,可分为路侧感知(包括摄像头、激光雷达和毫米波雷达在内的各种交通传感器)、路侧边缘计算(包括路侧MEC计算设备)和路侧通信(包括RSU)三大部分。本文主要涉及路侧感知和路侧边缘计算这两个部分。

图2.车路协同的路侧系统架构

路侧感知

在车路协同的路侧感知领域,常用的传感器包括摄像头、激光雷达与毫米波雷达。本文中介绍的技术方案涉及前两种,下面我们分别介绍它们的技术特点。

摄像头

摄像头是最为常见的交通路侧传感器,基于对其所采集的图像和视频的分析,能够获得丰富的色彩、纹理和语义信息,实现精细化的交通目标的分类。但其局限性也比较突出,主要体现在受夜晚弱光或恶劣天气条件的影响较大,难以对交通目标进行有效可靠的感知。摄像头作为交通传感器的性能优缺点总结于表1中。

激光雷达

激光雷达正在成为智能交通领域越来越重要的一种传感器。它主动向待测空间区域发射激光光束,并接收反射回来的信号并将其与发射信号进行比较生成3D点云,经过进一步的处理,可获得目标物体的距离、方位、速度、3D尺寸及类别等精确信息。

激光雷达按照其内部激光扫描机构的工作原理可以分为以下大、小类别:

机械式

整体旋转式

棱镜旋转式

非机械式

Flash

光学相控阵

以微机电(MEMS)镜式为主

混合固态式

固态式

激光雷达作为交通传感器的性能优缺点总结于表1中。

表1.摄像头与激光雷达的优缺点对比

感知融合:基于激光雷达与摄像头

感知融合指的是两种或两种以上传感器互相配合共同完成对目标的检测与分类。由于在性能上“取长补短”,感知融合比单种传感器具有更全面的感知能力和更优秀的性能。基于激光雷达和摄像头组合的感知融合在发挥激光雷达精确测距性能优势的同时,可以依靠摄像头来识别目标颜色、交通标志和交通信号等信息。也就是说,感知融合可以通过摄像头与激光雷达的“分工”,将摄像头用于目标分类而激光雷达用于目标检测。在这种情况下,3D点云的处理可以使用PCL(PointCloudLibrary)[2][3]等非深度学习的方法,从而降低了算法的整体复杂度及相应的硬件成本,使得高性价比的解决方案成为可能。

路侧边缘计算:促进感知融合在车路协同中的应用

基于英特尔架构的路侧边缘计算设备可对2D视频图像和3D点云信息,分别进行基于深度学习的推理或基于传统计算机视觉的分析,并将两者得到的结果进行融合。

系统架构

在车路协同的应用中,MEC发挥着无可替代的重要作用。根据部署的位置和对时延与算力的具体需求,MEC可以有多种形式,包括路侧MEC和网络边缘MEC等(如图2所示)。基于英特尔架构的各种MEC设备[4][5]为实现车路协同的各种用例提供强大可靠的通用和AI算力支持,从而使得我们能够对来自不同种类传感器的信息进行实时的高效分析并将结果融合,显著提升了智能交通系统的安全与效率。

面向交通安全的车路协同应用对于端到端时延有着比较严格的要求,部署地点靠近路侧感知设备和路侧通信设备(RSU)的路侧MEC对于降低时延有着更好的保障。

第11代英特尔酷睿处理器(产品代号:TigerLake)

针对于包括车路协同在内的众多垂直行业应用,英特尔发布了第11代酷睿系列处理器,在具备强大通用计算与AI加速运算能力的同时,功耗很低、散热设计容易,是路侧边缘计算设备非常理想的高性价比和高能效比计算平台。这一系列处理器中的很多型号还支持宽温工作以及对设备进行远程管理维护的英特尔博锐平台技术。

本文中的性能评估基于以下两款第11代英特尔酷睿处理器,其配置如表2中所示。

英特尔酷睿i7-1185GRE处理器

英特尔酷睿i7-1165G7处理器

两款处理器的最高性能详见产品技术规格[6][7]。

表2.第11代英特尔酷睿处理器(TigerLake)配置

集和诚路侧MEC设备

基于上述两款第11代英特尔酷睿处理器,集和诚开发了全新的KMDA-3301型路侧MEC设备(如图3所示)。其主要特点包括:无风扇散热、IO接口丰富、铝型材质、机身纤薄、减震设计等,非常适合部署在路侧等严苛环境,为车路协同应用提供稳定可靠的高算力保障。产品规格详见集和诚公司网站[8]。

图3.集和诚路侧MEC设备(KMDA-3301型)

英特尔OpenVINO工具套件分发版(以下简称OpenVINO)

OpenVINO是源自英特尔的一款功能非常全面的优秀软件工具套件,用于加速高性能计算机视觉和深度学习丰富多样的应用开发[9][10]。其显著的三个特点是:高性能深度学习推理,非常易于使用的简化开发流程,一次编写可任意部署。

具体来说,OpenVINO支持快速开发丰富多样的应用和解决方案,来模拟人类的视觉。它能显著提升视频分析的准确度,加速推理,并节约算力资源。该工具套件基于卷积神经网络(CNN:ConvolutionalNeuralNetwork),支持直接异构执行,可在多种英特尔芯片平台中扩展计算机视觉和深度学习的工作负载,实现卓越性能。套件中的英特尔MediaSDK支持在英特尔核芯显卡上进行高性能的视频编码和解码。OpenVINO支持多种操作系统(包括Windows、Linux和macOS)和编程语言(包括Python和C++)。

OpenVINO免费提供超过280个经预先训练好的神经网络模型和参考代码,支持模型的量化和调优,加速深度学习的推理运算。

操作系统与软件配置

本文的性能实测部分所涉及的操作系统与软件采用表3中所列的配置。

表3.操作系统与软件配置

基于英特尔架构的激光雷达3D点云处理方案

作为车路协同中的路侧感知设备,激光雷达可以作为独立的传感器使用,也可和摄像头配合形成感知融合的技术方案。这两种方案中信息处理所需要的算力,均由MEC设备中最核心的英特尔处理器来承载。下面,我们分别介绍这两种方案所需解决的技术挑战、基于英特尔架构的解决方案和性能实测效果。

激光雷达作为独立传感器

基于英特尔架构的解决方案

在这种方案中,交通目标的检测基于对激光雷达生成的3D点云进行深度学习的推理,对算力的要求非常高。在实际的交通应用中,处理速度需要达到至少10帧/秒。通过优化基于深度学习的3D点云处理流程[11][12]来提升处理速度,对于提升基于部署于路侧的MEC平台的性价比和能效比,至关重要。

我们使用OpenVINO对开源3D点云深度学习模型PointPillars[12]做了优化。如图4所示,蓝色模块依然沿用原生代码的Python实现,而绿色模块则使用了OpenVINO中的模型优化工具(ModelOptimizer)进行了加速,具体细节详见[13][14]。

图4.基于英特尔酷睿处理器(TigerLake)实现的PointPillars模型

性能实测效果

我们采用KITTI数据集[15]中的训练集来测试性能。相对于OpenVINO优化之前的PyTorch格式模型,OpenVINO优化之后IR格式模型可以显著提升吞吐率与处理时延性能(如表4所示)。

表4.吞吐率与处理时延(基于深度学习的3D点云处理)

感知融合:激光雷达与摄像头

镭神雷视一体机

镭神雷视一体机及其实际部署场景如图5所示。该设备采用摄像头和镭神CH128X1型激光雷达相结合的方式,获取交通目标与交通环境的原始数据,通过以太网将其传递给基于第11代英特尔酷睿处理器的集和诚路侧MEC设备进行分析处理。

图5.镭神雷视一体机(激光雷达与摄像头)及实际部署场景

镭神CH128X1型激光雷达的激光源不动,通过棱镜旋转来扫描空间区域,实现对水平120°区域的扫描。其具体规格参数如下表5所示。

表5.镭神CH128X1激光雷达规格参数表

为了兼顾处理效率与准确性的需求,镭神和英特尔共同提出了基于传统算法和深度学习相结合的目标级感知融合方案,其处理流程如图6所示。其中,对于激光雷达所采集的3D点云数据,我们采用PCL[2][3]中的聚类和追踪算法来获取目标的的位置距离和速度等信息;对于摄像头所采集的2D图像数据,我们采用基于Yolo-v5神经网络和OpenVINO的深度学习算法来获取目标的类别信息。

我们将3D点云数据聚类得到的目标中心点投影到2D图像上,判断该点与基于深度学习算法得出的2D图像中目标位置中心的距离是否小于某一阈值:若是,则确定激光雷达和摄像头分别检测到的目标为同一物体,并将该两种传感器获取的目标级结果进行融合。如图6所示,融合的结果包括目标的类别、位置距离和速度等信息,可根据需要显示在2D图像或者3D点云中。

图6.激光雷达与摄像头的目标级感知融合

我们使用采集自镭神CH128X1型激光雷达的3D点云数据集,其数据文件包含多帧点云数据,每个点的参数包括3D坐标(x,y,z)和反射率(r)。3D点云经过处理之后生成围绕目标的3D框,其检测结果的标注采用类似于KITTI数据集所采用的格式。我们使用集和诚KMDA-3301型路侧MEC设备[8]和OpenVINO[9][10],对于感知融合方案进行了测试,其性能如表6所示。

表6.感知融合方案的实测性能

实测性能表明,激光雷达无论是作为独立的传感器使用,还是和摄像头配合形成感知融合的技术方案,基于英特尔架构的激光雷达3D点云处理可实现优异的性能。

结语与展望

5G在中国已经大规模商用,为终端设备的互联互通奠定了高速率、低时延和广泛连接的网络基础。作为5G垂直行业应用中最受瞩目的应用场景之一,车联网也将在此基础上加速发展。基于5G新空口的蜂窝车联网标准已经于2020年6月完成制定,大规模试验和测试即将展开。基于英特尔架构的激光雷达3D点云处理和感知融合方案为车联网积极赋能,使能丰富多样的智能交通场景,显著提升交通安全与效率。

以数据为中心的英特尔公司以世界领先的端到端AI与计算机视觉技术以及性能强大、功能完善的硬件与软件产品组合,联合产业界伙伴,为全球车联网产业的加速发展奠定了坚实的基础。

公司简介

关于英特尔

英特尔作为行业引领者,创造改变世界的技术,推动全球进步并让生活丰富多彩。在摩尔定律的启迪下,我们不断致力于推进半导体设计与制造,帮助我们的客户应对最重大的挑战。通过将智能融入云、网络、边缘和各种计算设备,我们释放数据潜能,助力商业和社会变得更美好。

关于镭神智能

关于集和诚

集和诚科技于2002年4月成立于深圳,作为一家集研发、生产、销售、服务于一体的智能物联系统供应商,自创立以来,依托深耕多年的行业经验和强大的科研背景,践行“自主创新,中国智造”的战略方针,持续专注于工业计算机及系统应用平台的研发与生产。其多元化的产品及服务,包括工业平板电脑、工业触摸显示器、嵌入式箱体电脑、单板电脑等以及专注行业应用的客制化解决方案和AI赋能增值服务。产品通过CE、FCC、E-Mark、EN50155等安规及行业认证,广泛应用于工业物联网(IIoT)、智能交通(ITS)、智能安防、能源环保和生物安全等领域,助力打造智能物联网边缘计算应用新高地。

性能测试结果基于配置信息中显示的日期进行测试,且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。没有任何产品或组件是绝对安全的。

具体成本和结果可能不同。

英特尔技术可能需要启用硬件、软件或激活服务。

英特尔未做出任何明示和默示的保证,包括但不限于,关于适销性、适合特定目的及不侵权的默示保证,以及在履约过程、交易过程或贸易惯例中引起的任何保证。

THE END
1.5G物联网应用:车联网系统架构设计车联网系统的应用层架构设计需要充分考虑车辆远程控制、交通信息采集与处理、智能驾驶辅助等功能。这就需要在应用层设计上充分考虑数据采集、数据处理、决策与控制等环节,确保车联网系统的功能实现和用户体验。 三、案例分析:特斯拉车联网系统架构 以特斯拉车联网系统为例,其架构设计充分利用了5G物联网技术。特斯拉车载设备https://www.jianshu.com/p/8a137b70f633
2.基于物联网技术的智能车辆管理系统物联网与车联网技术资源其目的是实现物与物、物与人,所有的物品与网络的连接,方便识别、管理和控制。 本文设计了一种基于物联网相关技术的区域智能车辆管理系统,实现缴费无人化,信息透明化、实时化,能够减少缴费时间,缓解交通压力,节省人力、财力,最终实现交通管理智能化。 1 设计背景 电子不停车收费系统是目前世界上最先进的收费系统,是https://download.csdn.net/download/weixin_38746515/13023720
3.基于大数据的智能交通信号控制系统袋鼠社区此外,智能交通信号系统还具有自适应能力。它可以根据实际的交通情况自动调整信号灯的绿灯和红灯时间,甚至能够为特定车辆如救护车和消防车提供“绿色通道”。通过与车辆通信系统相结合,ITS能够实现车联网技术,进一步提高交通管理的智能化水平。用户界面则是系统与用户互动的桥梁。它可以是交通管理中心的监控大屏,也可以是https://www.dtstack.com/bbs/article/18343
4.高新兴2022年半年度董事会经营评述股票频道2022年1月,国务院发布《“十四五”现代综合交通运输体系发展规划》,推动车联网部署和应用,支持构建“车—路—交通管理”一体化协作的智能管理系统。稳妥发展自动驾驶和车路协同等出行服务,鼓励自动驾驶在港口、物流园区等限定区域测试应用,推动发展智能公交、智慧停车、智慧安检等。 https://stock.stockstar.com/IG2022082900011727.shtml
5.易明辉:汽车行业的“互联网+”探索与实践V课堂第78期对大型网络数据库系统、企业信息化建设、车联网、物联网以及系统集成控制、汽车及零部件智能制造等领域进行了多方面开发应用,积累了丰富的经验。 电池管理系统主要是以监控电池的状态,防止电池出现过充电和过放电,从而提高电池利用率和寿命。该系统可以准确估测动力电池组的荷电状态,即电池剩余电量,防止https://www.51cto.com/article/548150.html
6.智慧交通管理系统综述AR视频监控系统可以根据实际管理需求联动各种智能交通系统,如交通信号控制系统、交通视频监控系统、交通信息发布系统、交通流量采集系统等业务系统,在高点监控的交通运行监测驱动下,既着眼于交通态势实时监测,又及时准确地进行交通综合管控。在前端不仅实现各个业务系统界面的统一展示和控制,同https://mp.weixin.qq.com/s?__biz=Mzk0NzE4MTQwMg==&mid=2247527001&idx=1&sn=6d699ee48e06d238069d70e8f9383559&chksm=c378e86cf40f617a92beb6b86c753cb7a6dc7dcd1f007d0f4f28f21b566ec18cd21cd079f265&scene=27
7.智能交通系统中的车辆协作控制(豆瓣)《智能交通系统中的车辆协作控制》针对下一代智能交通系统中的车辆协作控制这一核心技术,全面概括了著者及其团队在车辆协作控制领域的一系列研究成果,重点介绍了车联网中的车辆通信协调、基于车联网和车载传感器的自适应车辆巡航控制、非线性动态恶劣天气条件下车载传感器检测受限或失效时的车辆协作巡航控制、通信调度与车辆https://book.douban.com/subject/26790261/