CN109683155B - 传感器融合系统、方法、终端及存储介质 - Google Patents

传感器融合系统、方法、终端及存储介质 Download PDF

Info

Publication number
CN109683155B
CN109683155B CN201811561461.0A CN201811561461A CN109683155B CN 109683155 B CN109683155 B CN 109683155B CN 201811561461 A CN201811561461 A CN 201811561461A CN 109683155 B CN109683155 B CN 109683155B
Authority
CN
China
Prior art keywords
data
point cloud
cloud data
fusion
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811561461.0A
Other languages
English (en)
Other versions
CN109683155A (zh
Inventor
刘新
宋朝忠
郑亚伟
张诚实
王超凯
冯宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Echiev Autonomous Driving Technology Co ltd
Original Assignee
Shenzhen Echiev Autonomous Driving Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Echiev Autonomous Driving Technology Co ltd filed Critical Shenzhen Echiev Autonomous Driving Technology Co ltd
Priority to CN201811561461.0A priority Critical patent/CN109683155B/zh
Publication of CN109683155A publication Critical patent/CN109683155A/zh
Application granted granted Critical
Publication of CN109683155B publication Critical patent/CN109683155B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating
    • G01S7/4972Alignment of sensor

Abstract

本发明公开了一种传感器融合系统、方法、终端及计算机可读存储介质。该传感器融合系统包括:融合计算组件和至少一个雷达组件,所述融合计算组件与所述雷达组件通信连接;所述融合计算组件包括数据融合模块和数据交换模块,所述数据交换模块上集成有至少一个车载以太网接口或者传统以太网接口。本发明在融合计算组件的数据交换模块上集成至少一个车载以太网接口或者传统以太网接口,实现同时进行多组环境点云数据的传输,提高了传输效率,精简了自动驾驶系统中的连接线束,使得系统成本更低,并且耗能更少,且精简线束后的自动驾驶系统,减小了整体体积,便于安装,基于车载以太网数据传输协议进行数据传输,保证了数据传输的准确性和安全性。

Description

传感器融合系统、方法、终端及存储介质
技术领域
本发明涉及车辆自动驾驶技术领域,尤其涉及一种传感器融合系统、方法、终端及计算机可读存储介质。
背景技术
随着辅助驾驶和汽车网联技术逐步趋于成熟,汽车自动驾驶技术也正快速的发展着。自动驾驶系统包含感知周围环境、融合各感知数据等单元。
在现有的自动驾驶系统中,融合传感器感知数据采用的是基于传统以太网方案独立输送和处理各个传感器采集到的环境数据,并在接收到大量环境数据后进行汽车各项环境数据的集中融合,如此,使得整个自动驾驶系统存在耗能高、连接线束冗长、复杂,且成本高昂的问题。
或者,现有的自动驾驶系统还拥有通过各个独立的传感器集成处理器直接进行环境数据处理,将处理后的环境数据发送至融合计算平台的方式,如此,虽然降低了融合计算平台的功耗,但由于各独立传感器在处理环境数据时,过滤掉了大量的有用数据,最终造成的融合数据不准确,并且各独立传感器由于集成处理器致使体积增大,不便进行安装。
发明内容
本发明的主要目的在于提供一种传感器融合系统、方法、终端及计算机可读存储介质,旨在解决目前自动驾驶传感器融合系统耗能高、连接线束冗长、复杂,成本高昂和不便于安装的技术问题。
为实现上述目的,本发明提供一种传感器融合系统,所述传感器融合系统包括:融合计算组件和至少一个雷达组件,所述融合计算组件与所述雷达组件通信连接;所述融合计算组件包括数据融合模块和数据交换模块,所述数据交换模块上集成有至少一个车载以太网接口或者传统以太网接口。
可选地,所述雷达组件包括激光雷达、数据集成部件和通信单元,所述通信单元设置有车载以太网接口或者传统以太网接口,所述融合计算组件中的数据交换模块与所述通信单元通信连接。
本发明还提供一种传感器融合方法,所述传感器融合方法基于上述传感器融合系统,所述传感器融合系统还包括与所述数据融合模块通信连接的其它传感器组件。
所述传感器融合方法包括:
所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;
所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块;
所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。
可选地,所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块的步骤包括:
所述激光雷达采集环境点云数据,将所述环境点云数据传递至所述数据集成部件;
所述数据集成部件将所述环境点云数据加速集成处理后,传递至所述通信单元;
所述通信单元通过车载以太网接口或者传统以太网接口,将所述环境点云数据发送至所述融合计算组件中的所述数据交换模块。
可选地,所述雷达组件中的通信单元和融合计算组件中的所述数据交换模块之间基于车载以太网标准数据传输协议100BASE-T1完成所述环境点云数据的传输。
可选地,所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块的步骤包括:
所述数据交换模块通过车载以太网接口或者传统以太网接口同时接收各所述雷达组件中的所述通信单元发送的所述环境点云数据;
所述数据交换模块将所述环境点云数据压缩为点云数据包,并将所述点云数据包发送至所述数据融合模块。
可选地,所述其它传感器组件包括但不限于图像传感器组件、生物传感器组件和声波传感器组件,所述其它传感器组件包括传感器、数据集成部件和通信单元。
在所述数据融合模块将接收到的所述环境雷达数据和其它传感器组件发送的对应环境数据进行融合处理的步骤之前,所述方法还包括:
各所述其它传感器组件获取各传感器采集到的其它环境数据;
各所述其它传感器组件的各所述数据集成部件将所述其它环境数据加速集成后传递至各通信单元;
各所述通信单元将所述其它环境数据发送至所述数据融合模块。
可选地,所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理的步骤包括:
所述数据融合模块接收到所述点云数据包后,提取所述环境点云数据和发送提取的所述环境点云数据的雷达组件标识;
根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域;
获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。
此外,为实现上述目的,本发明还提供一种传感器融合终端,所述传感器融合终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的传感器融合程序,所述传感器融合程序被所述处理器执行时实现如上所述的传感器融合方法的步骤。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有传感器融合程序,所述传感器融合程序被处理器执行时实现如上所述的传感器融合方法步骤。
本发明通过所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块;所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。实现了通过在数据交换模块中集成多个车载以太网接口或者传统以太网接口,同时接收多个激光雷达传感器采集的环境点云数据,并将环境点云数据压缩后基于车载以太网数据传输协议,统一传输给数据融合模块,数据融合模块根据环境点云数据中的发送方标识确定发送方激光雷达的探测区域,并提取相同探测区域的其它传感器采集到的环境数据,将提取出的环境数据和环境点云数据进行融合。通过上述方式,在融合计算组件中的数据交换模块中集成多个车载以太网接口或者传统以太网接口,实现同时进行多个雷达组件发送的点云数据的传输,提高了传输效率,精简了自动驾驶系统中的连接线束,使得系统成本更低,并且耗能更少,且精简线束后的自动驾驶系统,减小了整体体积,便于安装,基于车载以太网数据传输协议进行数据传输,保证了数据传输的准确性和安全性。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的终端结构示意图;
图2为本发明传感器融合系统一实施例的结构布局示意图;
图3为本发明传感器融合方法第一实施例的流程示意图;
图4为本发明传感器融合方法第二实施例的流程示意图;
图5为本发明传感器融合方法第三实施例的流程示意图;
图6为本发明传感器融合方法第四实施例的流程示意图;
图7为本发明传感器融合方法第五实施例的流程示意图。
附图标号说明:
标号 名称 标号 名称
10 融合计算组件 20 雷达组件
30 其它传感器组件 11 数据融合模块
12 数据交换模块 21 激光雷达
22 数据集成部件 23 通信单元
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例的主要解决方案是:所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块;所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。
如图1所示,图1是本发明实施例方案涉及的硬件运行环境的装置所属终端结构示意图。
本发明实施例终端承载有汽车的自动驾驶系统。
如图1所示,该终端可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
可选地,终端还可以包括摄像头、RF(Radio Frequency,射频)电路,传感器、音频电路、WiFi模块等等。其中,传感器比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示屏的亮度,接近传感器可在移动终端移动到耳边时,关闭显示屏和/或背光。作为运动传感器的一种,重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;当然,移动终端还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
本领域技术人员可以理解,图1中示出的终端结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及传感器融合程序。
在图1所示的终端中,网络接口1004主要用于连接后台服务器,与后台服务器进行数据通信;用户接口1003主要用于连接客户端(用户端),与客户端进行数据通信;而处理器1001可以用于调用存储器1005中存储的传感器融合程序,并执行以下操作:
所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;
所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块;
所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。
进一步地,所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块的步骤包括:
所述激光雷达采集环境点云数据,将所述环境点云数据传递至所述数据集成部件;
所述数据集成部件将所述环境点云数据加速集成处理后,传递至所述通信单元;
所述通信单元通过车载以太网接口或者传统以太网接口,将所述环境点云数据发送至所述融合计算组件中的所述数据交换模块。
进一步地,所述雷达组件中的通信单元和融合计算组件中的所述数据交换模块之间基于车载以太网标准数据传输协议100BASE-T1完成所述环境点云数据的传输。
进一步地,所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块的步骤包括:
所述数据交换模块通过车载以太网接口或者传统以太网接口同时接收各所述雷达组件中的所述通信单元发送的所述环境点云数据;
所述数据交换模块将所述环境点云数据压缩为点云数据包,并将所述点云数据包发送至所述数据融合模块。
进一步地,所述其它传感器组件包括但不限于图像传感器组件、生物传感器组件和声波传感器组件,所述其它传感器组件包括传感器、数据集成部件和通信单元。
在所述数据融合模块将接收到的所述环境雷达数据和其它传感器组件发送的对应环境数据进行融合处理的步骤之前,所述方法还包括:
各所述其它传感器组件获取各传感器采集到的其它环境数据;
各所述其它传感器组件的各所述数据集成部件将所述其它环境数据加速集成后传递至各通信单元;
各所述通信单元将所述其它环境数据发送至所述数据融合模块。
进一步地,所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理的步骤包括:
所述数据融合模块接收到所述点云数据包后,提取所述环境点云数据和发送提取的所述环境点云数据的雷达组件标识;
根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域;
获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。
参照图2,图2是本发明传感器融合系统一实施例的结构布局示意图。
本发明提出一种传感器融合系统,如图2所示,所述传感器融合系统包括:融合计算组件10、多个雷达组件20和多个其它传感器组件30,融合计算组件10包括数据融合模块11和数据交换模块12,数据交换模块12上集成有多个车载以太网接口或者传统以太网接口,数据融合模块11与数据交换模块12通信连接,融合计算组件10分别与多个雷达组件20和多个其它传感器组件30通信连接。
雷达组件20包括:激光雷达21、数据集成部件22和通信单元23,通信单元23上设置有车载以太网接口或者传统以太网接口,融合计算组件10通过数据交换模块12与多个雷达组件20中的通信单元23通信连接,融合计算组件10中的数据融合模块11与各其它传感器组件30通信连接。
在雷达组件20中,激光雷达21将采集到的环境点云数据传递至数据集成部件22,数据集成部件22对环境点云数据进行加速集成处理后传递至通信单元23,通信单元23通过车载以太网接口或者传统以太网接口,基于车载以太网标准数据传输协议(100BASE-T1)将环境点云数据发送给融合计算组件10中的数据交换模块12,通信单元23在将环境点云数据发送给数据交换模块12时,自动在环境点云数据中添加雷达组件20的发送方标识。
在融合计算组件10中,数据交换模块12基于100BASE-T1,通过集成的多个车载以太网接口或者传统以太网接口同时接收多个雷达组件20中的通信单元23发送的环境点云数据,将接收到的环境点云数据压缩为点云数据包,并将环境点云数据包发送至数据融合模块11。
在其它传感器组件30中,基于雷达组件20采集环境数据和加速集成处理环境数据同样的实现过程和方式,将各自探测区域的其它环境数据直接发送至融合计算组件10中的数据融合模块11。
在融合计算组件10中,数据融合模块11接收数据交换模块12发送的环境点云数据包,和各其它传感器组件30发送的其它环境数据,数据融合模块11在接收到的环境点云数据包中提取环境点云数据,并获取环境点云数据中雷达组件20的发送方标识,根据发送方标识确定多个雷达组件中的目标雷达组件20,并获取目标雷达组件20的探测区域,根据探测区域从接收到的其他环境数据中确定与目标雷达组件20相同探测区域的其他环境数据,并对目标雷达组件20相同探测区域的其他环境数据和环境点云数据进行融合处理。
在本实施例中,通过在融合计算组件10中的数据交换模块12上集成多个车载以太网接口或者传统以太网接口,并基于100BASE-T1数据传输协议,实现同时接收多个雷达组件20中通信单元23发送的环境点云数据,并根据环境点云数据上雷达组件20发送方标识确定多个雷达组件20中的目标雷达组件20的探测区域,并将相同探测区域的其它传感器组件30发送的其他环境数据与环境点云数据进行融合处理,提高了数据传输效率和融合的准确性,进一步保证了自动驾驶的安全,并且集成多个传输接口精简了自动驾驶系统中的连接线束,从而降低了系统成本和耗能,并且减小了体积,便于安装。
基于上述硬件结构和传感器融合系统,提出本发明传感器融合方法的各个实施例。
参照图3,图3为本发明传感器融合方法第一实施例的流程示意图。
发明实施例提供了传感器融合方法的实施例,需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
如图3所示,所述传感器融合方法包括:
步骤S10,所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块。
在雷达组件中,激光雷达采集环境点云数据,数据集成部件将环境点云数据进行加速集成处理,通信单元通过车载以太网接口或者传统以太网接口,基于车载以太网标准数据传输协议(100BASE-T1)将加速处理后的环境点云数据发送至融合计算组件中的数据交换模块。
具体地,例如,激光雷达传感器通过激光发送模块发射激光,激光在碰到环境中的障碍物时发生反射,激光接收模块接收反射回来的激光,生成环境点云数据,数据集成部件可以为FPGA加速集成芯片,FPGA加速集成芯片获取激光雷达传感器生成的环境点云数据,并对环境点云数据进行加速集成处理,FPGA加速集成芯片将经过加速集成处理后的环境点云数据传递给激光雷达传感器中的通信单元,通信单元可以为以太网芯片,以太网芯片上设置有车载以太网接口(BroadR-Reach)或者传统以太网接口(PHY),以太网芯片将FPGA加速集成芯片传递的加速集成处理后的环境点云数据基于车载以太网标准数据传输协议(100BASE-T1)发送给融合计算组件中的数据交换模块。
需要说明的是,雷达组件中的通信单元上设置的以太网接口与融合计算组件中数据交换模块上集成的以太网接口类型相同,例如,若数据交换模块上集成的以太网接口类型为车载以太网接口(BroadR-Reach),则雷达组件上通信单元的以太网接口类型同为车载以太网接口(BroadR-Reach),或者,若数据交换模块上集成的以太网接口类型为传统以太网接口(PHY),则雷达组件上通信单元的以太网接口类型同为传统以太网接口(PHY)。
步骤S20,所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块。
在融合计算组件中,数据交换模块通过集成的多个车载以太网接口(BroadR-Reach)或者传统以太网接口(PHY)同时接收多个雷达组件通信单元发送的环境点云数据,并将接收到的环境点云数据压缩为点云数据包后发送至数据融合模块。
具体地,例如,融合计算组件中数据交换模块可以为Switch芯片,在Switch芯片上集成有三个(或者更多)BroadR-Reach车载以太网接口,则Switch芯片可以同时接收五个(或者更多)雷达组件通信单元通过BroadR-Reach接口发送的环境点云数据,在接收到的环境点云数据后,将环境点云数据压缩为点云数据包,并统一发送至数据融合模块。
需要说明的是,融合计算组件中数据交换模块与雷达组件中的通信单元基于车载以太网标准数据传输协议(100BASE-T1)完成环境点云数据的传输。
步骤S30,所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。
在融合计算组件中,数据融合模块接收数据交换模块发送的点云数据包,从点云数据包中提取出环境点云数据,并根据环境点数据上的雷达组件发送方标识确定目标雷达组件的探测区域,将相同探测区域的其它传感器组件发送的其他环境数据与环境点云数据进行融合处理。
具体地,例如,数据融合模块接收数据交换模块发送的环境点云数据包,和各其它传感器组件发送的其它环境数据,数据融合模块在接收到的环境点云数据包中提取环境点云数据,并获取环境点云数据中雷达组件的发送方标识,根据发送方标识确定多个雷达组件中的目标雷达组件,并获取目标雷达组件的探测区域,根据探测区域从接收到的其他环境数据中确定与目标雷达组件相同探测区域的其他环境数据,并对目标雷达组件相同探测区域的其他环境数据和环境点云数据进行融合处理。
在本实施例中,通过所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块;所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理。
实现了,通过在数据交换模块中集成多个车载以太网接口或者传统以太网接口,同时接收多个激光雷达传感器采集的环境点云数据,并将环境点云数据压缩后基于车载以太网数据传输协议,统一传输给数据融合模块,数据融合模块根据环境点云数据中的发送方标识确定发送方激光雷达的探测区域,并提取相同探测区域的其它传感器采集到的环境数据,将提取出的环境数据和环境点云数据进行融合。在融合计算组件中的数据交换模块中集成多个车载以太网接口或者传统以太网接口,实现同时进行多个传感器数据的传输,提高了传输效率,精简了自动驾驶系统中的连接线束,使得系统成本更低,并且耗能更少,且精简线束后的自动驾驶系统,减小了整体体积,便于安装,基于车载以太网数据传输协议进行数据传输,保证了数据传输的准确性和安全性。
进一步的,提出本发明传感器融合方法第二实施例。
所述传感器融合方法第二实施例与所述传感器融合方法第一实施例的区别在于,参照图4,所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块的步骤包括:
步骤S11,所述激光雷达采集环境点云数据,将所述环境点云数据传递至所述数据集成部件。
雷达组件中的激光雷达通过激光发送模块发射激光,激光在碰到环境中的障碍物后发生反射,激光接收模块接收反射回来的激光,由此生成环境点云数据,将连续生成的环境点云数据传递给数据集成部件。
步骤S12,所述数据集成部件将所述环境点云数据加速集成处理后,传递至所述通信单元。
雷达组件中的数据集成部件将激光雷达采集到的环境点云数据进行加速集成处理,并将经过加速集成处理后的环境点云数据传递至通信单元。
具体地,例如,数据集成部件可以为FPGA加速集成芯片,FPGA加速集成芯片在接收到激光雷达传递的环境点云数据后,对环境点云数据进行加速集成处理,并在加速集成处理完成后,将环境点云数据传递给雷达组件中的通信单元。
步骤S13,所述通信单元通过车载以太网接口或者传统以太网接口,将所述环境点云数据发送至所述融合计算组件中的所述数据交换模块。
雷达组件中的通信单元接收数据集成模块传递的加速集成处理后的环境点云数据,并通过车载以太网接口或者传统以太网接口,基于车载以太网标准数据传输协议(100BASE-T1)将环境点云数据发送给融合计算组件中的数据交换模块。
具体地,例如,雷达组件中的通信单元可以为以太网芯片,以太网芯片在接收到数据集成部件FPGA芯片传递的经过加速集成处理的环境点云数据后,通过以太网芯片上设置的BroadR-Reach车载以太网接口,并基于100BASE-T1数据传输协议将环境点云数据发送给融合计算组件中的数据交换模块。
在本实施例中,通过所述激光雷达采集环境点云数据,将所述环境点云数据传递至所述数据集成部件;所述数据集成部件将所述环境点云数据加速集成处理后,传递至所述通信单元;所述通信单元通过车载以太网接口或者传统以太网接口,将所述环境点云数据发送至所述融合计算组件中的所述数据交换模块。通过数据集成部件对激光雷达激光收发模块生成的环境点云数据经过加速集成处理后,由设置有BroadR-Reach接口或者PHY接口的通信单元,基于100BASE-T1数据传输协议将环境点云数据传输至融合计算组件中的数据交换模块,提高了环境雷达数据传输的速度和效率,并且基于标准认证协议进行数据传输进一步保证了数据的安全性,进一步提高了数据融合的准确率,此外,基于100BASE-T1进行环境雷达数据传输减少了连接线束,从而降低系统成本。
进一步的,提出本发明传感器融合方法第三实施例。
所述传感器融合方法第三实施例与所述所述传感器融合方法第一实施例和第二实施例的区别在于,参照图5,所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据发送至数据融合模块的步骤包括:
步骤S21,所述数据交换模块通过车载以太网接口或者传统以太网接口同时接收各所述雷达组件中的所述通信单元发送的所述环境点云数据。
融合计算组件中的数据交换模块上集成有多个车载以太网接口或者传统以太网接口,数据交换模块通过多个车载以太网接口或者传统以太网接口同时接收多个雷达组件中通信单元通过车载以太网接口或者传统以太网接口基于100BASE-T1数据传输协议发送的环境点云数据。
具体地,例如,数据交换模块可以为Switch芯片,在Switch芯片集成三个BroadR-Reach车载以太网接口,当多个雷达组件中的通信单元,通过BroadR-Reach车载以太网接口将环境点云数据基于100BASE-T1数据传输协议发送给Switch芯片时,Switch芯片通过集成三个BroadR-Reach同时快速接收大量的环境点云数据。
步骤S22,所述数据交换模块将所述环境点云数据压缩为点云数据包,并将所述点云数据包发送至所述数据融合模块。
雷达组件中的数据交换模块在接收到环境点云数据之后,将环境点云数据整合压缩为点云数据包,并将点云数据包通过标准接口统一传输给融合计算组件中的数据融合模块。
在本实施例中,通过所述数据交换模块通过车载以太网接口或者传统以太网接口同时接收各所述雷达组件中的所述通信单元发送的所述环境点云数据;所述数据交换模块将所述环境点云数据压缩为点云数据包,并将所述点云数据包发送至所述数据融合模块。通过在融合计算组件中的数据交换模块上集成多个与雷达组件中通信单元上相同类型的车载以太网接口或者传统以太网接口,实现同时接收多个雷达组件通信单元发送的大量环境点云数据,并将环境点云数据压缩为数据包传输至数据融合模块,相比独立的数据交换模块接收对应单个雷达组件发送的环境点云数据,不仅减少了冗长、复杂的连接线束,提高了数据传输效率,更节省了数据传输时间,令整个自动驾驶系统的运行得以更为迅速,进而保证了自动驾驶的安全性。
进一步的,提出本发明传感器融合方法第四实施例。
所述传感器融合方法第四实施例与所述所述传感器融合方法第一实施例、第二实施例和第三实施例的区别在于,参照图6,在所述数据融合模块将接收到的所述环境雷达数据和其它传感器组件发送的对应环境数据进行融合处理的步骤之前,所述方法还包括:
步骤S40,各所述其它传感器组件获取各传感器采集到的其它环境数据。
需要说明的是,所述其它传感器组件包括但不限于图像传感器组件、生物传感器组件和声波传感器组件,所述其它传感器组件包括传感器、数据集成部件和通信单元,所述声波传感器组件包括毫米波雷达传感器和超声波雷达传感器。
在各其它传感器组件中,各传感器采集相应的环境数据,例如,在图像传感器组件中,摄像头传感器持续摄取环境画面并保存,以生成环境图像数据。
步骤S50,各所述其它传感器组件的各所述数据集成部件将所述其它环境数据加速集成后传递至各通信单元。
在各其它传感器组件中,各数据集成部件对传感器采集的环境数据进行加速集成处理,并将加速集成处理后的环境数据传递至通信单元。
具体地,例如,在图像传感器组件中,数据集成部件可以为串行解串芯片,串行解串芯片对摄像头传感器采集到的环境图像数据进行加速处理,并将加速处理后的环境图像数据传递至通信单元。
步骤S60,各所述通信单元将所述其它环境数据发送至所述数据融合模块。
在各其它传感器组件中,各通信单元将数据集成部件传递的经过加速集成处理后的环境数据通过标准接口直接发送给融合计算组件中的数据融合模块。
具体地,例如,在图像传感器组件中,通信单元将串行解串芯片传递的经过加速处理后的环境图像数据,通过移动行业处理器接口发送给融合计算组件上的数据融合模块。
本实施例中,通过各所述其它传感器组件获取各传感器采集到的其它环境数据;各所述其它传感器组件的各所述数据集成部件将所述其它环境数据加速集成后传递至各通信单元;各所述通信单元将所述其它环境数据发送至所述数据融合模块。基于雷达组件采集环境数据和加速集成处理环境数据同样的实现过程和方式,将各自探测区域的其它传感器组件中各传感器采集到的其它环境数据,发送至融合计算组件中的数据融合模块,以供数据融合模块提取与环境点云数据上雷达组件发送方标识的目标雷达组件的探测区域相同的其他环境数据,并将提取出的其他环境数据与环境点云数据进行融合处理,提高了传感器融合的整体效率,提高了数据融合的准确率,进而保证自动驾驶的安全性。
进一步的,提出本发明传感器融合方法第五实施例。
所述传感器融合方法第五实施例与所述所述传感器融合方法第一实施例、第二实施例、第三实施例和第四实施例的区别在于,参照图7,所述数据融合模块将接收到的所述环境点云数据和所述其它传感器组件发送的其它环境数据进行融合处理的步骤包括:
步骤S31,所述数据融合模块接收到所述点云数据包后,提取所述环境点云数据和发送提取的所述环境点云数据的雷达组件标识。
在融合计算组件中,数据融合模块接收数据交换模块发送的环境点云数据包,从点云数据包中提取环境点云数据,进一步识别出环境点云数据上的雷达组件发送方标识。
具体地,例如,数据融合模块在接收到Switch芯片发送的点云数据包后,逐条提取点云数据包中环境点云数据,并识别提取的环境点云数据上,雷达组件中通信单元发送本条环境点云数据时添加的雷达组件的发送方标识。
步骤S32,根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域。
数据融合模块根据识别出的雷达组件发送方标识从多个雷达组件中,确定与当前发送方标识匹配的目标雷达组件,并获取目标雷达组件的探测区域。
具体地,例如,数据融合模块识别出的雷达组件发送方标识为“01”,根据“01”标识从传感器融合系统的全部雷达组件中确定目标雷达组件为同样标识了“01”的1#雷达组件,并检测到1#雷达组件的探测区域为车辆后方角度175°的扇形区域。
步骤S33,获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。
从各其它传感器组件发送的其他环境数据中,获取与目标雷达组件相同探测区域的传感器组件中传感器采集到的环境数据,并对获取的环境数据和环境点云数据进行融合处理。
具体地,例如,从接收到的其他环境数据中,检测到环境图像数据中对应的各图像传感器组件的探测区域,检测到3#图像传感器组件探测区域为车辆后方角度175°的扇形区域,与1#雷达组件的探测区域相同,则获取3#图像传感器组件中通信单元发送的3#环境图像数据,并对3#环境图像数据和标识有“01”的环境点云数据进行融合处理。
本实施例中,通过所述数据融合模块接收到所述点云数据包后,提取所述环境点云数据和发送提取的所述环境点云数据的雷达组件标识;根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域;获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。数据融合模块提取与环境点云数据上雷达组件发送方标识的目标雷达组件的探测区域相同的其他环境数据,并将提取出的其他环境数据与环境点云数据进行融合处理,提高了传感器数据融合的准确率,进而保证自动驾驶的安全性,提升用户的安全保障。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有传感器融合程序,所述传感器融合程序被处理器执行时实现如上所述的传感器融合方法的步骤。
本发明计算机可读存储介质具体实施方式与上述传感器融合方法各实施例基本相同,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种传感器融合系统,其特征在于,所述传感器融合系统包括:融合计算组件和至少一个雷达组件,所述融合计算组件与所述雷达组件通信连接;其中,所述雷达组件包括激光雷达、数据集成部件和通信单元,所述融合计算组件包括数据融合模块和数据交换模块,所述数据交换模块上集成有至少一个车载以太网接口或者传统以太网接口;
所述传感器融合系统还包括与所述数据融合模块通信连接的其它传感器组件;
所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;
所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据压缩为点云数据包发送至数据融合模块;
所述数据融合模块将接收到的所述环境点云数据的点云数据包和所述其它传感器组件发送的其它环境数据进行融合处理;
其中,所述数据融合模块将接收到的所述环境点云数据的点云数据包和所述其它传感器组件发送的其它环境数据进行融合处理的步骤包括:
所述数据融合模块接收到所述环境点云数据的点云数据包后,逐条提取所述点云数据包中的环境点云数据,并识别提取的环境点云数据上雷达组件中通信单元发送本条环境点云数据时添加的雷达组件标识;
根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域;
获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。
2.如权利要求1所述的传感器融合系统,其特征在于,所述通信单元设置有车载以太网接口或者传统以太网接口,所述融合计算组件中的数据交换模块与所述通信单元通信连接。
3.一种传感器融合方法,其特征在于,应用于如权利要求1或2所述的传感器融合系统,所述传感器融合方法包括:
所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块;
所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据压缩为点云数据包发送至数据融合模块;
所述数据融合模块将接收到的所述环境点云数据的点云数据包和所述其它传感器组件发送的其它环境数据进行融合处理;
其中,所述数据融合模块将接收到的所述环境点云数据的点云数据包和所述其它传感器组件发送的其它环境数据进行融合处理的步骤包括:
所述数据融合模块接收到所述环境点云数据的点云数据包后,逐条提取所述点云数据包中的环境点云数据,并识别提取的环境点云数据上雷达组件中通信单元发送本条环境点云数据时添加的雷达组件标识;
根据所述雷达组件标识确定目标雷达组件,并获取所述目标雷达组件的探测区域;
获取相同探测区域的所述其它传感器组件发送的所述其它环境数据,并将所述其它环境数据和所述环境点云数据进行融合处理。
4.如权利要求3所述的传感器融合方法,其特征在于,所述雷达组件获取所述激光雷达采集到的环境点云数据,将所述环境点云数据发送至所述数据交换模块的步骤包括:
所述激光雷达采集环境点云数据,将所述环境点云数据传递至所述数据集成部件;
所述数据集成部件将所述环境点云数据加速集成处理后,传递至所述通信单元;
所述通信单元通过车载以太网接口或者传统以太网接口,将所述环境点云数据发送至所述融合计算组件中的所述数据交换模块。
5.如权利要求4所述的传感器融合方法,其特征在于,所述雷达组件中的通信单元和融合计算组件中的所述数据交换模块之间基于车载以太网标准数据传输协议100BASE-T1完成所述环境点云数据的传输。
6.如权利要求3所述的传感器融合方法,其特征在于,所述数据交换模块同时接收各所述雷达组件发送的所述环境点云数据,并将所述环境点云数据压缩为点云数据包发送至数据融合模块的步骤包括:
所述数据交换模块通过车载以太网接口或者传统以太网接口同时接收各所述雷达组件中的所述通信单元发送的所述环境点云数据;
所述数据交换模块将所述环境点云数据压缩为点云数据包,并将所述点云数据包发送至所述数据融合模块。
7.如权利要求3所述的传感器融合方法,所述其它传感器组件包括:图像传感器组件、生物传感器组件和声波传感器组件,所述其它传感器组件包括传感器、数据集成部件和通信单元,
在所述数据融合模块将接收到的所述环境点云数据的点云数据包和其它传感器组件发送的对应环境数据进行融合处理的步骤之前,所述方法还包括:
各所述其它传感器组件获取各其它传感器组件中的传感器采集到的其它环境数据;
各所述其它传感器组件的各所述数据集成部件将所述其它环境数据加速集成后传递至各其它传感器组件中的通信单元;
所述各其它传感器组件中的通信单元将所述其它环境数据发送至所述数据融合模块。
8.一种传感器融合终端,其特征在于,所述传感器融合终端包括:存储器、处理器及存储在所述存储器上运行的传感器融合程序,所述传感器融合程序被所述处理器执行时实现如权利要求3至7任一项所述的传感器融合方法的步骤。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有传感器融合程序,所述传感器融合程序被处理器执行时实现如权利要求3至7任一项所述的传感器融合方法的步骤。
CN201811561461.0A 2018-12-19 2018-12-19 传感器融合系统、方法、终端及存储介质 Active CN109683155B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811561461.0A CN109683155B (zh) 2018-12-19 2018-12-19 传感器融合系统、方法、终端及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811561461.0A CN109683155B (zh) 2018-12-19 2018-12-19 传感器融合系统、方法、终端及存储介质

Publications (2)

Publication Number Publication Date
CN109683155A CN109683155A (zh) 2019-04-26
CN109683155B true CN109683155B (zh) 2021-04-20

Family

ID=66186877

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811561461.0A Active CN109683155B (zh) 2018-12-19 2018-12-19 传感器融合系统、方法、终端及存储介质

Country Status (1)

Country Link
CN (1) CN109683155B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3968054A4 (en) * 2019-06-20 2022-05-11 Huawei Technologies Co., Ltd. RADAR SYSTEM
CN112804306A (zh) * 2020-12-31 2021-05-14 的卢技术有限公司 基于车载以太网的汽车雷达通信装置、方法及系统
CN117788592A (zh) * 2024-02-26 2024-03-29 北京理工大学前沿技术研究院 一种矿井车辆的雷达点云处理装置、方法、设备及介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6773046B2 (ja) * 2015-11-19 2020-10-21 ソニー株式会社 運転支援装置及び運転支援方法、並びに移動体
US20170242117A1 (en) * 2016-02-19 2017-08-24 Delphi Technologies, Inc. Vision algorithm performance using low level sensor fusion
CN108874728A (zh) * 2017-05-12 2018-11-23 华为技术有限公司 数据处理方法及装置
CN108459319A (zh) * 2018-03-13 2018-08-28 燕山大学 一种车辆行驶区域地形高度快速扫描系统
CN108596081B (zh) * 2018-04-23 2021-04-20 吉林大学 一种基于雷达和摄像机融合的车辆行人探测方法
CN108804249A (zh) * 2018-05-24 2018-11-13 联想(北京)有限公司 信息处理方法及电子设备
CN109032113A (zh) * 2018-08-09 2018-12-18 北京智行者科技有限公司 车辆控制单元

Also Published As

Publication number Publication date
CN109683155A (zh) 2019-04-26

Similar Documents

Publication Publication Date Title
CN109683155B (zh) 传感器融合系统、方法、终端及存储介质
WO2018068647A1 (zh) 一种汽车与无人机之间的通信方法、装置、设备和操作系统
CN109257722B (zh) 用于与外部电子装置进行通信的电子装置及其控制方法
CN106407984B (zh) 目标对象识别方法及装置
CN105471931B (zh) 一种查询业务数据的方法、装置和系统
US20150192660A1 (en) Method and system for a head unit application host for a radar detector
CN107430524B (zh) 一种定位声音发出位置的方法和终端设备
KR102547441B1 (ko) 차량 간 메시지 전송 장치 및 방법
CN107826109B (zh) 车道保持方法和装置
CN112199266B (zh) 车机系统的日志传输方法、系统、车辆及存储介质
US11405744B2 (en) Positioning method and device, on-board equipment, vehicle, and positioning system
CN110769363A (zh) 车辆间的点对点通信方法、装置、系统及存储介质
US20220113957A1 (en) Software Upgrade Method, Apparatus, and System
CN111641928A (zh) 一种确定密切接触者的方法、终端设备及服务器
CN113489630A (zh) 配网方法、装置、存储介质及电子终端
CN110972059A (zh) 无线设备寻回方法、移动终端及计算机存储介质
CN112492611A (zh) 网络配置方法、网络配置装置、电子设备和可读存储介质
KR102611775B1 (ko) 그룹 메시지의 전달 방법 및 이를 수행하는 전자 장치
WO2019130300A1 (en) Method, device, and system of traffic light control utilizing virtual detectors
JP2019174993A (ja) 情報処理装置及びプログラム
JP2019174992A (ja) 情報処理装置及びプログラム
CN217435657U (zh) 自动驾驶车辆的电气系统和自动驾驶车辆
CN109257739B (zh) eSIM卡操作方法、移动终端及eSIM卡设备
CN114666363B (zh) 信息传输方法、装置、电子设备、存储介质及产品
CN110831114A (zh) 与无线设备的连接方法、终端及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Sensor fusion system, method, terminal and storage medium

Effective date of registration: 20220623

Granted publication date: 20210420

Pledgee: Industrial and Commercial Bank of China Limited Shenzhen Fuyong sub branch

Pledgor: SHENZHEN ECHIEV AUTONOMOUS DRIVING TECHNOLOGY Co.,Ltd.

Registration number: Y2022980008778

PE01 Entry into force of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20230818

Granted publication date: 20210420

Pledgee: Industrial and Commercial Bank of China Limited Shenzhen Fuyong sub branch

Pledgor: SHENZHEN ECHIEV AUTONOMOUS DRIVING TECHNOLOGY Co.,Ltd.

Registration number: Y2022980008778

PC01 Cancellation of the registration of the contract for pledge of patent right