CN109737981A - 基于多传感器的无人车目标搜索装置及方法 - Google Patents
基于多传感器的无人车目标搜索装置及方法 Download PDFInfo
- Publication number
- CN109737981A CN109737981A CN201910025004.8A CN201910025004A CN109737981A CN 109737981 A CN109737981 A CN 109737981A CN 201910025004 A CN201910025004 A CN 201910025004A CN 109737981 A CN109737981 A CN 109737981A
- Authority
- CN
- China
- Prior art keywords
- target
- unmanned vehicle
- information
- turntable
- low profile
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
本发明提出了一种基于多传感器的无人车目标搜索装置及方法,解决了小型无人设备传感器功能少和大型无人设备试验成本高的问题。本发明的装置为安装有工控机和多种传感器的无人车,360°实时采集目标信息。集成在工控机上的目标搜索系统以无人车多源信息综合处理单元为中心,获取并分析来自无人车状态获取及运动控制单元等七个单元的信息,产生相应的控制信号。目标搜索方法综合分析各单元获取的信息,控制无人车小型光电转台运动,完成目标搜索。本发明工控机实时采集信息,数据融合、综合分析控制无人设备自主完成目标搜索。本发明适用范围更广、体积更小、精度高。用于无人设备目标搜索,还可用于大型无人设备控制系统的模拟试验。
Description
技术领域
本发明属于设备控制技术领域,主要涉及无人设备控制,具体是一种基于多传感器的无人车目标搜索装置及方法。用于控制无人车在指定区域内进行目标搜索。
背景技术
随着无人机、无人车等无人设备的快速发展,渐渐开始利用在生产生活中,比如航拍、监测、快递等等。结合近年来发展迅速的深度学习,通过给无人设备搭载相机等传感器,使无人设备实现更多的目标检测、目标跟踪等功能。
目前的无人设备上主要搭载的传感器为相机,例如:专利《一种基于视觉的无人机动态目标跟踪与定位方法》(申请号:CN201710241962)提出了一种基于视觉的无人机动态目标跟踪与定位方法,该方法利用两个摄像头采集监控区域图像,结合目标物体提取和双目识别定位原理,动态跟踪定位目标物体。
相机在无人设备上的使用,可以完成目标检测。普通相机通过目标检测可以得到目标信息,但无法得到目标相对于相机的角度和相对于相机的距离,因而无法对目标进行定位。如果无人设备上装有可以得到深度信息的双目摄像机,根据双目识别定位原理对目标进行检测,可以得到目标相对无人设备的距离,由于无法得知目标相对于双目相机的角度以及由于双目相机上没有定位装置及相应的位置处理方法,无法得到无人设备的位置,进而无法得到目标的绝对位置,难以达到目标搜索的定位要求。
一些其它投入使用或即将投入使用的无人设备,比如无人驾驶汽车、无人艇等,搭载的传感器更加复杂,但由于在使用过程中,常常存在不同程度的载人需求,所以体积往往较大,在前期设备调试以及试验的过程中十分不方便且成本较高,比如无人艇在进行调试或者试验时,必须在海上或者湖上进行试验,受环境的限制较大,另外无人艇以油作为燃料,每次试验的成本较高。因此需要一种模拟设备,可以在常用的室内或者室外环境对这类试验成本较高的无人设备的工作模式进行模拟。
现有技术中,根据单一传感器进行简单任务的无人设备往往不具备自身位置信息获取功能,在执行任务的过程中不同程度的需要人工参与,不能够智能的获取传感器的信息并进行处理,也不能够根据处理结果产生相应的控制信息指导无人设备工作,同时人工参与会引入不必要的误差。安装了复杂传感器的无人设备,往往为大型的无人设备,在调试与试验的过程中受环境限制较大,其功耗较高、试验成本较高。
发明内容
本发明的目的在于克服上述已有技术的缺陷,提出一种传感器功能更为完善的、适用范围更广的、体积更小的、实时响应的、高精度的基于多传感器的无人车目标搜索装置及方法。
本发明是一种基于多传感器的无人车目标搜索装置,包括有无人车、传感器和工控机,传感器一般为单个传感器或者为多个传感器的组合,工控机作为上位机,其特征在于,所述传感器包括有四台广角摄像机组成的全景相机、一个集成了可见光相机与激光测距机的小型光电转台、一个激光雷达、一个陀螺仪以及一个室内定位系统的标签或者GPS定位模块;所述无人车为通过工控机进行运动控制的机器人小车,无人车上搭载传感器;工控机直接与各传感器、无人车相连,工控机实时获取各传感器的采集数据,经过工控机上集成的基于多传感器的无人车目标搜索系统处理后产生控制信号控制传感器、无人车运动,并输出目标搜索处理结果;全景相机进行无人车周围360°的实时视频信息获取;小型光电转台集成了可见光相机与激光测距机,三者同心并联动,通过小型光电转台输出方位角和俯仰角给工控机,小型光电转台的方位角、俯仰角、可见光相机焦距以及激光测距机的测距状态可根据目标搜索的需要通过工控机调整,小型光电转台对某一特定角度的目标进行探测并进行激光测距;激光雷达进行无人车周围360°的实时目标信息获取;陀螺仪进行无人车方位角的实时获取。
本发明还是一种基于多传感器的无人车目标搜索系统,在权利要求1-2的基于多传感器的无人车目标搜索装置上实现,其特征在于,该系统集成于多传感器的无人车目标搜索装置上的工控机中,包括有八个单元,分别为:无人车多源信息综合处理单元、无人车状态获取及运动控制单元、全景相机视频获取单元、小型光电转台状态获取及运动控制单元、可见光相机视频获取单元、激光雷达信息获取单元、陀螺仪信息获取单元、位置信息获取单元;无人车多源信息综合处理单元为基于多传感器的无人车目标搜索系统的核心单元,其他七个单元均将采集到的传感器信息传输给无人车多源信息综合处理单元,经过无人车多源信息综合处理单元的综合分析处理后,产生小型光电转台规划指令发送给小型光电转台状态获取及运动控制单元,产生无人车路径规划指令发送给无人车状态获取及运动控制单元。
本发明还是一种基于多传感器的无人车目标搜索方法,其特征在于,在权利要求1-5所述的任一基于多传感器的无人车目标搜索装置和系统上实现,无人车任务规划模块将各单元采集到的信息综合分析并产生对应的控制信号,指导各设备运动完成目标搜索任务,包括有如下步骤:
(1)传感器信息获取与视频处理:装置启动后,装置中无人车、工控机和所有的传感器以及系统中的单元均开始工作,各传感器将采集到的数据实时回传给对应的信息采集单元,无人车多源信息综合处理模块实时接收各单元的回传信息;视频处理模块对输入的全景视频与可见光视频进行预处理与目标检测;无人车多源信息综合处理模块融合激光雷达获取的目标信息与陀螺仪信息后,完善目标检测结果信息;传感器信息获取与视频处理在装置启动后一直处于工作状态,实时采集与处理信息。
(2)规划初始搜索路径:无人车任务规划模块接收用户指令,得到目标搜索区域,生成初始搜索路径规划信号并发送到无人车路径规划模块,无人车路径规划模块首先规划一条从无人车起点到目标搜索区域中心的直线路径,再从目标搜索区域中心向外辐射,规划一条扩展螺旋形路径,直至覆盖全部搜索区域,直线路径与扩展螺旋形路径共同作为初始搜索路径;无人车沿着初始搜索路径进行运动,执行步骤(3)。
(3)发现疑似目标:无人车沿着初始搜索路径运动的过程中,无人车任务规划模块持续读取视频处理模块输出的全景视频目标检测结果信息中的目标分类号与置信度,如果连续多帧出现某个目标,其目标分类号与待搜索目标匹配,且置信度大于预先设置的全景疑似目标置信度阈值P,使小型光电转台转动到此目标所在角度,如果连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q1,则将此目标作为疑似目标;如果在连续多帧全景视频目标检测结果信息中存在多个符合要求的目标,则使用小型光电转台依次转动到目标所在角度,进行检测,执行步骤(4);如果未发现疑似目标,则一直沿着初始搜索路径运动,执行步骤(3),直至走完初始搜索路径,任务结束,未搜索到目标。
(4)靠近疑似目标:发现疑似目标后,无人车任务规划模块生成靠近疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块从无人车当前位置到无人车与疑似目标连线的中间位置规划一条直线路径,即靠近疑似目标路径,无人车沿着靠近疑似目标路径运动,逐渐靠近疑似目标,执行步骤(5)。
(5)疑似目标一次确认:无人车在沿着靠近疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果在到达疑似目标路径终点前存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q2(Q2>Q1),则认为该疑似目标有极大的概率为待搜索目标,准备进行二次疑似目标确认,执行步骤(6);否则,返回到初始搜索路径运动,执行步骤(3)。
(6)疑似目标二次确认:进行最后一步目标确认,无人车任务规划模块生成确认疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块以无人车当前位置为起点,疑似目标位置为终点,规划一条收缩螺旋形路径,即为确认疑似目标路径,无人车沿着确认疑似目标路径运动。在无人车沿着确认疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q3(Q3>Q2>Q1),则认为该疑似目标为待搜索目标,启动激光测距机进行距离测量,执行步骤(7);如果目标检测结果信息中不存在符合条件的目标,则认为该疑似目标不是待搜索目标,返回到初始搜索路径运动,执行步骤(3)。
(7)对目标进行激光测距:确认疑似目标为待搜索目标后,启动激光测距机进行距离测量,激光测距结果通过小型光电转台状态获取及运动控制单元输出的小型光电转台状态得到,将测距结果填入目标检测结果信息中,完成目标搜索任务。
与现有技术相比,本发明的技术优势:
实时处理,高精度,本发明中,无人车上的工控机直接与传感器相连,实时获取各传感器回传数据,通过基于多传感器的无人车目标搜索方法处理后,产生各设备的运动控制指令,指导各设备协同工作实现目标搜索的任务。整个过程不需要人工参与,实现了自主的无人车目标搜索,同时也实现了各传感器信息的实时处理,通过计算得到高精度的设备控制信号的具体参数值。
适用于多种场合,本发明中,基于多传感器的无人车目标搜索装置与方法适用于多种场合。无人车上搭载的全套传感器设备以及工控机可以作为整体,移植到其他无人设备上,用户在其他无人设备上使用时,只需要将新的无人设备的运动控制与基于多传感器的无人车目标搜索方法中的无人车状态获取及运动控制单元相匹配,即可实现在新无人设备上的目标搜索;本发明在室内与室外环境均可使用,区别在于在室内环境中,由于GPS无效,所以使用室内定位系统代替GPS进行无人车的定位;在室外环境中,使用GPS进行无人车的定位。
体积较小,方便调试及试验,本发明中,无人车与各传感器的体积均较小,无人车体积小于1立方米,安装全部传感器后,长和宽均小于1m,高度小于1.5m,方便进行设备调试以及试验。
便于进行二次开发,本发明中,基于多传感器的无人车目标搜索方法将各传感器的信息接收与发送作为单独的单元,如果需要使用基于多传感器的无人车目标搜索设备进行其他的任务,只需要将基于多传感器的无人车目标搜索方法中的无人车多源信息综合处理单元替换成需要的算法即可,方便其他用户进行二次开发。
附图说明
图1是基于多传感器的无人车目标搜索装置示意图。
图2是基于多传感器的无人车目标搜索系统结构图。
图3是基于多传感器的无人车目标搜索方法流程图。
具体实施方式
以下结合附图和具体实施例,对本发明作详细描述。
实施例1
随着无人机、无人车等无人设备的快速发展,渐渐开始融入人们的生产生活中,比如航拍、环境监测、快递等等。无人设备常用的工作模式为,预先规划好运动路线,无人设备沿着预先规划好的路线进行运动,到指定位置后完成简单的任务,比如信息采集、运送物品等。结合近年来发展迅速的深度学习,通过给无人设备搭载相机等传感器,使无人设备可以实现目标检测、目标跟踪等功能。无人设备上常用的传感器为相机,相机可以是高清摄像机、运动相机、全景相机或者双目相机等等,通过对相机采集到的图像进行处理,可以实现目标检测、目标搜索、目标跟踪等功能,用户通过分析处理后的图像,控制无人设备进行运动。
相机在无人设备上的使用,可以完成目标检测。普通相机通过目标检测可以得到目标信息,但无法得到目标相对于相机的角度和相对于相机的距离,因而无法对目标进行定位。如果无人设备上装有可以得到深度信息的双目摄像机,根据双目识别定位原理对目标进行检测,可以得到目标相对无人设备的距离,由于无法得知目标相对于双目相机的角度以及由于双目相机上没有定位装置及相应的位置处理方法,无法得到无人设备的位置,进而无法得到目标的绝对位置,难以达到目标搜索的定位要求。
一些其它投入使用或即将投入使用的无人设备,比如无人驾驶汽车、无人艇等,搭载的传感器更加复杂,但由于在使用过程中,常常存在不同程度的载人需求,所以体积往往较大,在前期设备调试以及试验的过程中十分不方便且成本较高,比如无人艇在进行调试或者试验时,必须在海上或者湖上进行试验,受环境的限制较大,另外无人艇以油作为燃料,每次试验的成本较高。因此需要一种模拟设备,可以在常用的室内或者室外环境对这类试验成本较高的无人设备的工作模式进行模拟。
现有技术中,根据单一传感器进行简单任务的无人设备往往不具备自身位置信息获取功能,在执行任务的过程中不同程度的需要人工参与,不能够智能的获取传感器的信息并进行处理,也不能够根据处理结果产生相应的控制信息指导无人设备工作,同时人工参与会引入不必要的误差。安装了复杂传感器的无人设备,往往为大型的无人设备,在调试与试验的过程中受环境限制较大,其功耗较高、试验成本较高。如果有配套的小型无人设备进行模拟,可以在简单的环境下进行调试和试验,完成相应的任务,既方便进行大量的试验,也降低了科研成本。
本发明针对上述研究现状,首先提出了一种基于多传感器的无人车目标搜索装置,参见图1,包括有无人车、传感器和工控机,传感器为多个传感器的组合,工控机作为上位机。本发明中的传感器包括有四台广角摄像机组成的全景相机、一个集成了可见光相机与激光测距机的小型光电转台、一个激光雷达、一个陀螺仪以及一个室内定位系统的标签或者GPS定位模块。
本发明中所述无人车为通过工控机进行运动控制的机器人小车,机器人小车用于模拟实际应用中的无人车、无人艇等无人设备,无人车上搭载传感器,并根据工控机指令进行运动。工控机通过网线或者数据线与各传感器、无人车相连,工控机实时获取各传感器的采集数据,经过工控机上集成的基于多传感器的无人车目标搜索系统处理后产生控制信号控制传感器、无人车运动,并输出目标搜索处理结果。本发明的全景相机进行无人车周围360°的实时视频信息获取;小型光电转台集成了可见光相机与激光测距机,三者同心并联动,小型光电转台的方位角、俯仰角即为可见光相机与激光测距机中心的方位角、俯仰角;通过小型光电转台输出方位角和俯仰角给工控机,小型光电转台的方位角、俯仰角、可见光相机焦距以及激光测距机的测距状态均可根据目标搜索的需要通过工控机调整。小型光电转台对某一特定角度的目标进行探测并进行激光测距;激光雷达进行无人车周围360°的实时目标信息获取;陀螺仪进行无人车方位角的实时获取;本发明中搭载的室内定位系统的标签或者GPS定位模块进行无人车位置信息的实时获取。
另外,本发明中,基于多传感器的无人车目标搜索装置,仅有无人车、传感器和工控机,即无人设备的核心控制设备和运动设备,不含有其他载人或载物空间,各传感器的体积均较小,无人车体积小于1立方米,安装全部传感器后,长和宽均小于1m,高度小于1.5m,方便进行设备调试以及实验。
现有技术中传感器多为可见光相机或者可见光相机与雷达的组合,本发明不仅有可见光相机、激光雷达,还有全景相机、陀螺仪、激光测距机等传感器,并且使用了集成了可见光相机与激光测距机的小型光电转台,可以实时获取全景视频、特定角度的可见光视频、无人车周围360°目标信息、无人车实时位置等信息,通过对上述信息的分析、融合,可以得到用于无人设备目标搜索的相关信息,并用来指导无人设备以及无人设备上的传感器运动。
基于多传感器的无人车目标搜索装置及方法适用于多种场合。无人车上搭载的全套传感器设备以及工控机可以作为整体,移植到其他无人设备上,用户在其他无人设备上使用时,只需要将新的无人设备的运动控制与基于多传感器的无人车目标搜索系统中的无人车状态获取及运动控制单元相匹配,即可实现在新无人设备上的目标搜索。也可以用作无人驾驶汽车或无人艇的模拟设备,用于功能模拟和试验。
实施例2
基于多传感器的无人车目标搜索装置同实施例1,无人车、全景相机、小型光电转台、激光雷达、陀螺仪、室内定位系统的标签或者GPS定位模块均直接与工控机相连,参见图1,无人车为1,全景相机为2.1-2.4,小型光电转台为3,激光雷达为4,陀螺仪为5,室内定位系统或GPS定位模块为6,工控机为7,8为给各传感器供电的蓄电池。各传感器在无人车上的安装要求为:
以无人车,即机器人小车车头中心位置处为方位角0°,方位角沿顺时针方向增加,取值范围为[0,360);以水平方向为俯仰角0°,取值范围为[-90,90]。
全景相机:全景相机为四台广角摄像机组合而成,将四台摄像机分别编号1、2、3、4,安装在无人车顶部平面的四角,高度一致,1号相机画面中心方位角为45°,2号相机画面中心方位角为135°,3号相机画面中心方位角为225°,4号相机画面中心方位角为315°,四台相机画面中心的俯仰角一致,以能看到的有效范围最大,且不被遮挡的俯仰角为最佳。
小型光电转台:在无人车顶部平面的前端安装小型光电转台,小型光电转台的方位角0°与无人车的0°保持一致,小型光电转台的俯仰角0°与水平方向一致。
激光雷达:在无人车顶部平面、小型光电转台的后方安装激光雷达支架,将激光雷达安装在支架上,调整支架与小型光电转台的距离,使光电转台可以无障碍转动;调整支架的高度,使激光雷达不受其他传感器遮挡;激光雷达以正北方向为方位角0°,安装时激光雷达0°与无人车的0°一致,激光雷达的俯仰角0°与水平方向一致。
工控机:工控机安装在无人车表面、激光雷达的后方,工控机左侧安装蓄电池,用于给其他传感器供电。
陀螺仪:陀螺仪固定在工控机上,陀螺仪的方位角0°与无人车的0°一致,陀螺仪的俯仰角0°与水平方向一致。
室内定位系统或GPS模块:室内定位系统或GPS模块固定在工控机上。
本发明中,无人车与各传感器的体积均较小,无人车体积小于1立方米,安装全部传感器后,长和宽均小于1m,高度小于1.5m,方便进行设备调试以及试验。将多个传感器安装在无人车的表面,利用较小的空间,实现了全景相机无遮挡、激光雷达无遮挡、小型光电转台无障碍转动、小型光电转台上集成的可见光摄像机和激光测距机无遮挡。
实施例3
本发明还是一种基于多传感器的无人车目标搜索系统,参见图2,该系统集成于基于多传感器的无人车目标搜索装置上的工控机中,包括有八个单元,分别为:无人车多源信息综合处理单元、无人车状态获取及运动控制单元、全景相机视频获取单元、小型光电转台状态获取及运动控制单元、可见光相机视频获取单元、激光雷达信息获取单元、陀螺仪信息获取单元、位置信息获取单元。
无人车多源信息综合处理单元为基于多传感器的无人车目标搜索系统的核心单元,其他七个单元均将采集到的传感器信息传输给无人车多源信息综合处理单元,经过无人车多源信息综合处理单元的综合分析处理后,产生小型光电转台规划指令发送给小型光电转台状态获取及运动控制单元,产生无人车路径规划模块发送给无人车状态获取及运动控制单元。
本发明中,基于多传感器的无人车目标搜索系统将各传感器的信息接收与发送作为单独的单元,如果需要使用无人车上的传感器进行其他工作,只需要按照各单元中传感器的通信协议进行信息的接收和控制信号的发送即可,无需进行各传感器与上位机接口的匹配和通信开发,方便其他用户进行二次开发。
实施例4
基于多传感器的无人车目标搜索系统同实施例1-3,参见图2,基于多传感器的无人车目标搜索系统中的无人车多源信息综合处理单元设有四个处理模块,分别为:无人车任务规划模块、无人车路径规划模块、小型光电转台运动规划模块和视频处理模块。
在无人车多源信息综合处理单元中,以无人车任务规划模块为中心;视频处理模块分别接收来自全景相机视频获取单元的全景视频和来自可见光相机视频获取单元的可见光视频,经过视频处理后将全景视频与其目标检测信息、可见光视频与其目标检测信息输出给无人车任务规划模块。无人车任务规划模块分别接收来自陀螺仪信息获取单元的陀螺仪信息、位置信息获取单元的无人车位置信息、无人车状态获取及运动控制单元的无人车状态信息、小型光电转台状态获取及运动控制单元的小型光电转台状态信息以及视频处理模块的全景视频与目标检测信息、可见光视频与目标检测信息,综合处理分析后,产生小型光电转台规划指令发送给小型光电转台运动规划模块,小型光电转台运动规划模块进行小型光电转台运动规划后,产生小型光电转台控制信息发送给小型光电转台状态获取及运动控制单元,无人车任务规划模块综合分析各单元及模块的输入信息产生无人车路径规划指令发送给无人车路径规划模块,无人车路径规划模块进行无人车路径规划后,产生无人车运动控制信息发送给无人车状态获取及运动控制单元。
本发明中,基于多传感器的无人车目标搜索系统将各传感器的信息接收与发送作为独立的单元,如果需要使用基于多传感器的无人车目标搜索装置和系统进行其他的任务,只需要将基于多传感器的无人车目标搜索系统中的无人车多源信息综合处理单元替换成需要的算法即可,或者从装置和系统的角度,将需要进行的其他任务封装成对应的处理单元,方便其他用户进行二次开发。
实施例5
基于多传感器的无人车目标搜索系统同实施例1-4,系统各单元与无人车多源信息综合处理单元中的各模块的功能为:
无人车多源信息综合处理单元中的无人车任务规划模块将各单元采集到的信息综合分析并产生对应的控制信号,指导各设备运动完成目标搜索任务;无人车路径规划模块接收无人车任务规划模块的指令并产生相应的路径规划信息指导无人车运动;小型光电转台运动规划模块用于接收无人车任务规划模块的指令并产生相应的小型光电转台运动控制信息指导小型光电转台以及转台上的可见光相机、激光测距机工作;视频处理模块接收全景相机视频获取单元以及可见光相机视频获取单元的视频信息,进行视频预处理、目标检测后,将产生的信息发送给无人车任务规划模块进行分析。
无人车状态获取及运动控制单元实时获取无人车两侧车轮的转速,可进行对两侧车轮转速的控制,实现无人车的直线运动、转弯运动的控制。
全景相机视频获取单元实时获取全景相机采集到的视频,并将视频转换成基于多传感器的无人车目标搜索方法可用的视频格式。
小型光电转台状态获取及运动控制单元实时获取小型光电转台的方位角、俯仰角信息,可见光相机焦距、视场角信息以及激光测距信息,可对小型光电转台的方位角、俯仰角、可见光相机焦距、激光测距机工作状态进行控制。
可见光相机视频获取单元实时获取可见光相机采集到的视频,并将视频转换成基于多传感器的无人车目标搜索方法可用的视频格式。
激光雷达信息获取单元实时获取激光雷达采集到的目标信息,并将目标信息转换成基于多传感器的无人车目标搜索方法可用的目标信息格式。
陀螺仪信息获取单元实时获取陀螺仪测量到的无人车方位角,并将方位角信息转换成基于多传感器的无人车目标搜索方法可用的信息格式。
位置信息获取单元实时获取无人车的位置信息,并将位置信息转换成基于多传感器的无人车目标搜索方法可用的位置信息格式。
实施例6
基于多传感器的无人车目标搜索系统同实施例1-5,本发明的系统八个单元中的位置信息获取单元,获取的无人车位置信息是通过室内定位系统或GPS模块得到。如果无人车在室外环境使用,则在无人车上搭载GPS定位模块;如果无人车在室内环境使用,则在无人车上搭载室内定位系统的标签,并在室内安装室内定位系统,从而实现无人车位置信息的获取。
室内定位系统由基站和标签构成,基站用于对室内空间进行二维建模,通常使用三个或四个,安装在室内空间的边界或拐角处,标签用于标记室内环境中需要定位的目标的位置,安装在需要定位的目标上。
本发明适用于室内、室外两种环境,在室内环境中,由于GPS无效,所以使用室内定位系统代替GPS进行无人车的定位;在室外环境中,使用GPS进行无人车的定位。本发明相对于现有技术中的其他无人目标搜索装置或系统,具有更广泛的适用环境,简言之,适用范围更广。
实施例7
本发明还提出了一种基于多传感器的无人车目标搜索方法,参见图3,在基于多传感器的无人车目标搜索装置和系统上实现,无人车任务规划模块将各单元采集到的信息综合分析并产生对应的控制信号,指导各设备运动完成目标搜索任务,包括有如下步骤:
(1)传感器信息获取与视频处理:装置启动后,装置中无人车、工控机和所有的传感器以及系统中的单元均开始工作,各传感器将采集到的数据实时回传给对应的信息采集单元,无人车多源信息综合处理模块实时接收各单元的回传信息;视频处理模块对输入的全景视频与可见光视频进行预处理与目标检测;无人车多源信息综合处理模块融合激光雷达获取的目标信息与陀螺仪信息后,完善目标检测结果信息;传感器信息获取与视频处理在装置启动后一直处于工作状态,实时采集与处理信息。
(2)规划初始搜索路径:无人车任务规划模块接收用户指令,得到目标搜索区域,生成初始搜索路径规划信号并发送到无人车路径规划模块,无人车路径规划模块首先规划一条从无人车起点到目标搜索区域中心的直线路径,再从目标搜索区域中心向外辐射,规划一条扩展螺旋形路径,直至覆盖全部搜索区域,直线路径与扩展螺旋形路径共同作为初始搜索路径;无人车沿着初始搜索路径进行运动,执行步骤(3)。
(3)发现疑似目标:无人车沿着初始搜索路径运动的过程中,无人车任务规划模块持续读取视频处理模块输出的全景视频目标检测结果信息中的目标分类号与置信度,如果连续多帧出现某个目标,其目标分类号与待搜索目标匹配,且置信度大于预先设置的全景疑似目标置信度阈值P,使小型光电转台转动到此目标所在角度,如果连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q1,则将此目标作为疑似目标;如果在连续多帧全景视频目标检测结果信息中存在多个符合要求的目标,则使用小型光电转台依次转动到目标所在角度,进行检测,执行步骤(4);如果未发现疑似目标,则一直沿着初始搜索路径运动,执行步骤(3),直至走完初始搜索路径,任务结束,未搜索到目标。
(4)靠近疑似目标:发现疑似目标后,无人车任务规划模块生成靠近疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块从无人车当前位置到无人车与疑似目标连线的中间位置规划一条直线路径,即靠近疑似目标路径,无人车沿着靠近疑似目标路径运动,逐渐靠近疑似目标,执行步骤(5)。
(5)疑似目标一次确认:无人车在沿着靠近疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果在到达疑似目标路径终点前存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q2(Q2>Q1),则认为该疑似目标有极大的概率为待搜索目标,准备进行二次疑似目标确认,执行步骤(6);否则,返回到初始搜索路径运动,执行步骤(3)。
(6)疑似目标二次确认:进行最后一步目标确认,无人车任务规划模块生成确认疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块以无人车当前位置为起点,疑似目标位置为终点,规划一条收缩螺旋形路径,即为确认疑似目标路径,无人车沿着确认疑似目标路径运动。在无人车沿着确认疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q3(Q3>Q2>Q1),则认为该疑似目标为待搜索目标,启动激光测距机进行距离测量,执行步骤(7);如果目标检测结果信息中不存在符合条件的目标,则认为该疑似目标不是待搜索目标,返回到初始搜索路径运动,执行步骤(3)。
(7)对目标进行激光测距:确认疑似目标为待搜索目标后,启动激光测距机进行距离测量,激光测距结果通过小型光电转台状态获取及运动控制单元输出的小型光电转台状态得到,将测距结果填入目标检测结果信息中,完成目标搜索任务。
本发明中,无人车上的工控机直接与传感器和无人车相连,实时获取各传感器及无人车的回传数据,通过基于多传感器的无人车目标搜索方法处理后,产生无人车和传感器的运动控制指令,指导无人车和传感器协同运动实现目标搜索的任务。整个过程不需要人工参与,实现了自主的无人车目标搜索,同时也实现了各传感器信息的实时处理,通过计算得到高精度的设备控制信号的具体参数值。
实施例8
基于多传感器的无人车目标搜索方法同实施例1-7,全景视频和可见光视频目标检测结果信息和激光雷达获取的目标信息,具体包括有:
目标检测结果信息具体为:目标中心点在图像上的横、纵坐标,目标标识框的宽、高,目标置信度,目标分类号、目标相对于无人车的方位角、俯仰角,目标在空间中的位置信息和目标相对无人车的距离。
激光雷达获取的目标信息具体为:目标相对于激光雷达0°的角度、目标相对于激光雷达的距离。
目标检测结果信息中目标相对于无人车的方位角、俯仰角是通过目标中心点在图像上的横、纵坐标与图像的比例计算获得,结合目标标识框的宽、高共同用于后续生成小型光电转台的控制指令,即小型光电转台的运动控制;目标置信度与分类号用于确定目标种类以及概率;目标相对无人车的距离在激光雷达获取的目标信息中获取,目标在空间中的位置信息通过目标相对无人车的距离及无人车的实时位置计算得到。
激光雷达获取的目标信息中目标相对于激光雷达0°的角度结合陀螺仪测量得到的无人车车头中心的角度计算得到目标相对于无人车车头中心的角度;目标相对无人车的距离用于填充目标检测结果信息中的目标相对无人车的距离。
实施例9
基于多传感器的无人车目标搜索方法同实施例1-8,步骤(1)中所述的无人车任务规划模块接收到处理后全景视频和可见光视频及目标检测结果信息后,将其与激光雷达获取的目标信息进行融合,融合的过程需要陀螺仪信息获取单元输出的陀螺仪信息进行辅助,完善目标检测结果信息,全景视频和可见光视频目标检测结果信息中得到目标相对于无人车的方位角;激光雷达获取的目标信息中得到目标相对于激光雷达0°的角度;陀螺仪信息中得到无人车车头中心的实时方位角;信息融合方法为:
(1A)计算激光雷达获取的目标相对于无人车车头中心的方位角:激光雷达获取的目标信息中目标相对于激光雷达0°的角度减去陀螺仪信息中得到无人车车头中心的实时方位角得到差值结果A,如果A大于等于0,A即为激光雷达获取的目标相对于无人车车头中心的方位角;如果A小于0,A+360作为激光雷达获取的目标相对于无人车车头中心的方位角。
(1B)信息融合:设置方位角误差阈值T,全景视频或可见光视频目标检测结果信息中得到目标相对于无人车车头中心的方位角与激光雷达获取的目标相对于无人车车头中心的方位角作差,如果差值小于T,则将激光雷达获取的目标信息中的目标相对于激光雷达的距离填入目标检测结果信息中的目标相对无人车的距离。
下面给出一个更加详尽的例子,结合附图和具体实施例,对本发明作进一步详细的描述。
实施例10
基于多传感器的无人车目标搜索装置,参见图1,包括有无人车、传感器和工控机,传感器为多个传感器的组合,工控机作为上位机。本发明中的传感器包括有四台广角摄像机组成的全景相机、一个集成了可见光相机与激光测距机的小型光电转台、一个激光雷达、一个陀螺仪以及一个室内定位系统的标签或者GPS定位模块。
以无人车,即机器人小车车头中心位置处为方位角0°,方位角沿顺时针方向增加,取值范围为[0,360);以水平方向为俯仰角0°,取值范围为[-90,90]。
全景相机为四台广角摄像机组合而成,用于进行无人车周围360°的实时视频信息获取,将四台摄像机分别编号1、2、3、4,安装在无人车顶部平面的四角,高度一致,1号相机画面中心方位角为45°,2号相机画面中心方位角为135°,3号相机画面中心方位角为225°,4号相机画面中心方位角为315°,四台相机画面中心的俯仰角一致,以能看到的有效范围最大,且不被遮挡的俯仰角为最佳。
小型光电转台集成了可见光相机与激光测距机,三者同心并联动,小型光电转台的方位角、俯仰角即为可见光相机与激光测距机中心的方位角、俯仰角;通过小型光电转台输出方位角和俯仰角给工控机,小型光电转台的方位角、俯仰角、可见光相机焦距以及激光测距机的测距状态均可根据目标搜索的需要通过工控机调整。小型光电转台对某一特定角度的目标进行探测并进行激光测距。在无人车顶部平面的前端安装小型光电转台,小型光电转台的方位角0°与无人车的0°保持一致,小型光电转台的俯仰角0°与水平方向一致。
激光雷达用于进行无人车周围360°的实时目标信息获取,在无人车顶部平面、小型光电转台的后方安装激光雷达支架,将激光雷达安装在支架上,调整支架与小型光电转台的距离,使光电转台可以无障碍转动。调整支架的高度,使激光雷达不受其他传感器遮挡。激光雷达以正北方向为方位角0°,安装时激光雷达0°与无人车的0°一致,激光雷达的俯仰角0°与水平方向一致。
工控机安装在无人车表面、激光雷达的后方,工控机左侧安装蓄电池,用于给其他传感器供电。
陀螺仪固定在工控机上,进行无人车方位角的实时获取,陀螺仪的方位角0°与无人车的0°一致,陀螺仪的俯仰角0°与水平方向一致。
室内定位系统的标签或者GPS定位模块固定在工控机上,进行无人车位置信息的实时获取。
无人车和各传感器通过网线或数据线与工控机相连,工控机上集成了基于多传感器的无人车目标搜索系统,该系统包括有八个单元,分别为:无人车多源信息综合处理单元、无人车状态获取及运动控制单元、全景相机视频获取单元、小型光电转台状态获取及运动控制单元、可见光相机视频获取单元、激光雷达信息获取单元、陀螺仪信息获取单元、位置信息获取单元。
无人车多源信息综合处理单元为基于多传感器的无人车目标搜索系统的核心单元,其他七个单元均将采集到的传感器信息传输给无人车多源信息综合处理单元,经过无人车多源信息综合处理单元的综合分析处理后,产生小型光电转台规划指令发送给小型光电转台状态获取及运动控制单元,产生无人车路径规划模块发送给无人车状态获取及运动控制单元。
基于多传感器的无人车目标搜索方法在基于多传感器的无人车目标搜索装置和系统上实现,无人车任务规划模块将各单元采集到的信息综合分析并产生对应的控制信号,指导各设备运动完成目标搜索任务,包括有如下步骤:
(1)传感器信息获取与视频处理:装置启动后,装置中无人车、工控机和所有的传感器以及系统中的单元均开始工作,即无人车状态获取及运动控制单元实时获取无人车两侧车轮的转速,全景相机视频获取单元实时获取全景相机采集到的视频,小型光电转台状态获取及运动控制单元实时获取小型光电转台的方位角、俯仰角信息,可见光相机焦距、视场角信息以及激光测距信息,可见光相机视频获取单元实时获取可见光相机采集到的视频,激光雷达信息获取单元实时获取激光雷达采集到的目标信息,陀螺仪信息获取单元实时获取陀螺仪测量到的无人车方位角,室内定位系统信息或GPS信息获取单元实时获取无人车的位置信息和视频处理模块对全景视频和可见光视频进行视频预处理与目标检测。各传感器将采集到的数据实时回传给对应的信息采集单元,无人车多源信息综合处理模块实时接收各单元的回传信息;视频处理模块对输入的全景视频与可见光视频进行预处理与目标检测;无人车多源信息综合处理模块融合激光雷达获取的目标信息与陀螺仪信息后,完善目标检测结果信息;传感器信息获取与视频处理在装置启动后一直处于工作状态,实时采集与处理信息。
视频处理模块的输入为全景相机视频获取单元输出的全景视频和可见光相机视频获取单元输出的可见光视频,对视频的预处理为对输入的视频进行去噪处理,如果在室外环境使用,且天气能见度较差时,在去噪处理后再进行去雾处理。视频处理模块对经过视频预处理的视频进行目标检测,得到处理后的全景视频和可见光视频及目标检测结果信息,输出给无人车任务规划模块。无人车任务规划模块接收到处理后的全景视频和可见光视频及目标检测结果信息后,将其与激光雷达获取的目标信息进行融合,融合的过程需要陀螺仪信息获取单元输出的陀螺仪信息进行辅助,完善目标检测结果信息。
(2)规划初始搜索路径:无人车任务规划模块接受用户指令,得到目标搜索区域,生成初始搜索路径规划信号并发送到无人车路径规划模块,无人车路径规划模块接收到初始搜索路径规划信号后,首先规划一条从无人车起点到目标搜索区域中心的直线路径,再以目标搜索区域中心向外辐射,规划一条扩展螺旋形路径,直至覆盖全部搜索区域,直线路径与扩展螺旋形路径共同作为初始搜索路径。
初始搜索路径规划完成后,无人车路径规划模块按照规划信息中的时间依次将运动控制信息发送到无人车状态获取及运动控制单元,无人车接收到运动控制信息后开始沿着初始搜索路径运动,执行步骤(3)。
(3)发现疑似目标:无人车沿着初始搜索路径运动的过程中,无人车任务规划模块持续读取视频处理模块输出的全景视频目标检测结果信息中的目标分类号与置信度。如果连续多帧出现某个目标,其目标分类号与待搜索目标匹配,且置信度大于预先设置的全景疑似目标置信度阈值P,无人车任务规划模块生成小型光电转台控制信号并发送到小型光电转台运动规划模块,小型光电转台运动规划模块接收到指令后,产生小型光电转台运动控制信息,并发送到小型光电转台状态获取及运动控制单元,使小型光电转台转动到此目标所在角度。如果连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q1,则将此目标作为疑似目标;如果在连续多帧全景视频目标检测结果信息中存在多个符合要求的目标,则使用小型光电转台依次转动到目标所在角度,进行检测,执行步骤(4);如果未发现疑似目标,则一直沿着初始搜索路径运动,执行步骤(3),直至走完初始搜索路径,任务结束,未搜索到目标;
(4)靠近疑似目标:发现疑似目标后,无人车任务规划模块生成靠近疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块接收到靠近疑似目标路径规划信号后,从无人车当前位置到无人车与疑似目标连线的中间位置规划一条直线路径,即靠近疑似目标路径。无人车当前位置通过室内定位系统信息或GPS信息获取单元获得。靠近疑似目标路径规划完成后,无人车路径规划模块按照规划信息中的时间依次将运动控制信息发送到无人车状态获取及运动控制单元,无人车接收到运动控制信息后开始沿着靠近疑似目标路径运动,逐渐靠近疑似目标,执行步骤(5);
(5)疑似目标一次确认:无人车在沿着疑似目标路径运动的过程中,使用小型光电转台探测疑似目标,无人车任务规划模块生成小型光电转台控制信号并发送到小型光电转台运动规划模块,小型光电转台运动规划模块接收到指令后,产生小型光电转台运动控制信息,并发送到小型光电转台状态获取及运动控制单元,使小型光电转台转动到此目标所在角度。如果在到达疑似目标路径终点前存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q2(Q2>Q1),则认为该疑似目标有极大的概率为待搜索目标,准备进行二次疑似目标确认,执行步骤(6);否则,返回到初始搜索路径运动,执行步骤(3);
(6)疑似目标二次确认:进行最后一步目标确认,无人车任务规划模块生成确认疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块接收到确认疑似目标路径规划信号后,以无人车当前位置为起点,疑似目标位置为终点,规划一条收缩螺旋形路径,即为确认疑似目标路径。确认疑似目标路径规划完成后,无人车路径规划模块按照规划信息中的时间依次将运动控制信息发送到无人车状态获取及运动控制单元,无人车接收到运动控制信息后开始沿着确认疑似目标搜索路径运动。在无人车沿着确认疑似目标路径运动的过程中,使用小型光电转台探测疑似目标,无人车任务规划模块生成小型光电转台控制信号并发送到小型光电转台运动规划模块,小型光电转台运动规划模块接收到指令后,产生小型光电转台运动控制信息,并发送到小型光电转台状态获取及运动控制单元,使小型光电转台转动到此目标所在角度。如果存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q3(Q3>Q2>Q1),则认为该疑似目标为待搜索目标,启动激光测距机进行距离测量,执行步骤(7);如果目标检测结果信息中不存在符合条件的目标,则认为该疑似目标不是待搜索目标,返回到初始搜索路径运动,执行步骤(3);
(7)对目标进行激光测距:确认疑似目标为待搜索目标后,启动激光测距机进行距离测量,无人车任务规划模块生成激光测距信号并发送到小型光电转台运动规划模块。小型光电转台运动规划模块接收到指令后,产生激光测距机运动控制信息,并发送到小型光电转台状态获取及运动控制单元,使激光测距机开机并进行目标的距离测量。激光测距结果通过小型光电转台状态获取及运动控制单元输出的小型光电转台状态得到,将测距结果填入目标检测结果信息中,完成目标搜索任务。
简而言之,本发明提出了一种基于多传感器的无人车目标搜索装置及方法,解决了小型目标搜索无人设备传感器功能较少、需要人工干预的问题和大型目标搜索无人设备调试试验受场地限制大、成本大的问题。基于多传感器的无人车目标搜索装置包括无人车、工控机、全景相机、集成了可见光相机与激光测距机的小型光电转台、激光雷达、陀螺仪以及室内定位系统的标签或GPS定位模块;基于多传感器的无人车目标搜索系统包括无人车多源信息综合处理单元、无人车状态获取及运动控制单元、全景相机视频获取单元、小型光电转台状态获取及运动控制单元、可见光相机视频获取单元、激光雷达信息获取单元、陀螺仪信息获取单元、位置信息获取单元;基于多传感器的无人车目标搜索方法结合各单元获取的信息,综合分析处理后,产生控制信号控制无人车运动及小型光电转台运动,完成目标搜索任务。本发明集成了多个传感器,采用工控机实时采集传感器信息,通过系统进行数据融合、综合分析后,控制无人设备自主的完成目标搜索。本发明功能更为完善、适用范围更广、体积更小、高精度的实时响应,用于无人设备的目标搜索,还可以用于进行大型无人设备控制系统的模拟试验。
Claims (8)
1.一种基于多传感器的无人车目标搜索装置,包括有无人车、传感器和工控机,传感器一般为单个传感器或者为多个传感器的组合,工控机作为上位机,其特征在于,所述传感器包括有四台广角摄像机组成的全景相机、一个集成了可见光相机与激光测距机的小型光电转台、一个激光雷达、一个陀螺仪以及一个室内定位系统的标签或者GPS定位模块;所述无人车为通过工控机进行运动控制的机器人小车,无人车上搭载传感器;工控机直接与各传感器、无人车相连,工控机实时获取各传感器的采集数据,经过工控机上集成的基于多传感器的无人车目标搜索系统处理后产生控制信号控制传感器、无人车运动,并输出目标搜索处理结果;全景相机进行无人车周围360°的实时视频信息获取;小型光电转台集成了可见光相机与激光测距机,三者同心并联动,通过小型光电转台输出方位角和俯仰角给工控机,小型光电转台的方位角、俯仰角、可见光相机焦距以及激光测距机的测距状态可根据目标搜索的需要通过工控机调整,小型光电转台对某一特定角度的目标进行探测并进行激光测距;激光雷达进行无人车周围360°的实时目标信息获取;陀螺仪进行无人车方位角的实时获取。
2.根据权利要求1中所述的基于多传感器的无人车目标搜索装置,其特征在于,各传感器的安装要求为:
以无人车,即机器人小车车头中心位置处为方位角0°,方位角沿顺时针方向增加,取值范围为[0,360);以水平方向为俯仰角0°,取值范围为[-90,90];
全景相机:全景相机为四台摄像机组合而成,将四台摄像机分别编号1、2、3、4,安装在无人车顶部平面的四角,高度一致,1号相机画面中心方位角为45°,2号相机画面中心方位角为135°,3号相机画面中心方位角为225°,4号相机画面中心方位角为315°,四台相机画面中心的俯仰角一致,以能看到的有效范围最大,且不被遮挡的俯仰角为最佳;
小型光电转台:在无人车顶部平面的前端安装小型光电转台,小型光电转台的方位角0°与无人车的0°保持一致,小型光电转台的俯仰角0°与水平方向一致;
激光雷达:在无人车顶部平面、小型光电转台的后方安装激光雷达支架,将激光雷达安装在支架上,调整支架与小型光电转台的距离,使光电转台可以无障碍转动;调整支架的高度,使激光雷达不受其他传感器遮挡;激光雷达以正北方向为方位角0°,安装时激光雷达0°与无人车的0°一致,激光雷达的俯仰角0°与水平方向一致;
工控机:工控机安装在无人车表面、激光雷达的后方,工控机左侧安装蓄电池,用于给其他传感器供电;
陀螺仪:陀螺仪固定在工控机的表面,陀螺仪的方位角0°与无人车的0°一致,陀螺仪的俯仰角0°与水平方向一致;
室内定位系统或GPS模块:室内定位系统或GPS模块固定在工控机上。
3.一种基于多传感器的无人车目标搜索系统,在权利要求1-2的基于多传感器的无人车目标搜索装置上实现,其特征在于,该系统集成于多传感器的无人车目标搜索装置上的工控机中,该系统包括有八个单元,分别为:无人车多源信息综合处理单元、无人车状态获取及运动控制单元、全景相机视频获取单元、小型光电转台状态获取及运动控制单元、可见光相机视频获取单元、激光雷达信息获取单元、陀螺仪信息获取单元、位置信息获取单元;无人车多源信息综合处理单元为基于多传感器的无人车目标搜索系统的核心单元,其他七个单元均将采集到的传感器信息传输给无人车多源信息综合处理单元,经过无人车多源信息综合处理单元的综合分析处理后,产生小型光电转台规划指令发送给小型光电转台状态获取及运动控制单元,产生无人车路径规划模块发送给无人车状态获取及运动控制单元。
4.根据权利要求3所述的基于多传感器的无人车目标搜索系统,其特征在于,基于多传感器的无人车目标搜索系统中的无人车多源信息综合处理单元设有四个处理模块,分别为无人车任务规划模块、无人车路径规划模块、小型光电转台运动规划模块和视频处理模块;在无人车多源信息综合处理单元中,以无人车任务规划模块为中心;视频处理模块分别接收来自全景相机视频获取单元的全景视频和来自可见光相机视频获取单元的可见光视频,经过视频处理后将全景视频与其目标检测信息、可见光视频与其目标检测信息输出给无人车任务规划模块;无人车任务规划模块分别接收陀螺仪信息、无人车位置信息、无人车状态信息、小型光电转台状态信息、以及全景视频与其目标检测信息、可见光视频与其目标检测信息,综合处理分析后,产生小型光电转台规划指令发送给小型光电转台运动规划模块,进行小型光电转台运动规划后,产生小型光电转台控制信息发送给小型光电转台状态获取及运动控制单元,无人车任务规划模块综合分析各单元及模块的输入信息发送给无人车路径规划模块,无人车路径规划模块产生无人车运动控制信息发送给无人车状态获取及运动控制单元。
5.根据权利要求3中所述的基于多传感器的无人车目标搜索系统,其特征在于,所述位置信息获取单元,获取的无人车位置信息通过室内定位系统或GPS模块得到,如果无人车在室外环境使用,则在无人车上搭载GPS定位模块,如果无人车在室内环境使用,则在无人车上搭载室内定位系统的标签,并在室内安装室内定位系统。
6.一种基于多传感器的无人车目标搜索方法,其特征在于,在权利要求1-5所述的任一基于多传感器的无人车目标搜索装置和系统上实现,无人车任务规划模块将各单元采集到的信息综合分析并产生对应的控制信号,指导各设备运动完成目标搜索任务,包括有如下步骤:
(1)传感器信息获取与视频处理:装置启动后,装置中无人车、工控机和所有的传感器以及系统中的单元均开始工作,各传感器将采集到的数据实时回传给对应的信息采集单元,无人车多源信息综合处理模块实时接收各单元的回传信息;视频处理模块对输入的全景视频与可见光视频进行预处理与目标检测;无人车多源信息综合处理模块融合激光雷达获取的目标信息与陀螺仪信息后,完善目标检测结果信息;传感器信息获取与视频处理在装置启动后一直处于工作状态,实时采集与处理信息;
(2)规划初始搜索路径:无人车任务规划模块接收用户指令,得到目标搜索区域,生成初始搜索路径规划信号并发送到无人车路径规划模块,无人车路径规划模块首先规划一条从无人车起点到目标搜索区域中心的直线路径,再从目标搜索区域中心向外辐射,规划一条扩展螺旋形路径,直至覆盖全部搜索区域,直线路径与扩展螺旋形路径共同作为初始搜索路径;无人车沿着初始搜索路径进行运动,执行步骤(3);
(3)发现疑似目标:无人车沿着初始搜索路径运动的过程中,无人车任务规划模块持续读取视频处理模块输出的全景视频目标检测结果信息中的目标分类号与置信度,如果连续多帧出现某个目标,其目标分类号与待搜索目标匹配,且置信度大于预先设置的全景疑似目标置信度阈值P,使小型光电转台转动到此目标所在角度,如果连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q1,则将此目标作为疑似目标;如果在连续多帧全景视频目标检测结果信息中存在多个符合要求的目标,则使用小型光电转台依次转动到目标所在角度,进行检测,执行步骤(4);如果未发现疑似目标,则一直沿着初始搜索路径运动,执行步骤(3),直至走完初始搜索路径,任务结束,未搜索到目标;
(4)靠近疑似目标:发现疑似目标后,无人车任务规划模块生成靠近疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块从无人车当前位置到无人车与疑似目标连线的中间位置规划一条直线路径,即靠近疑似目标路径;无人车沿着靠近疑似目标路径运动,逐渐靠近疑似目标,执行步骤(5);
(5)疑似目标一次确认:无人车在沿着靠近疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果在到达疑似目标路径终点前存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q2(Q2>Q1),则认为该疑似目标有极大的概率为待搜索目标,准备进行二次疑似目标确认,执行步骤(6);否则,返回到初始搜索路径运动,执行步骤(3);
(6)疑似目标二次确认:进行最后一步目标确认,无人车任务规划模块生成确认疑似目标路径规划信号并发送到无人车路径规划模块,无人车路径规划模块以无人车当前位置为起点,疑似目标位置为终点,规划一条收缩螺旋形路径,即为确认疑似目标路径;无人车沿着确认疑似目标路径运动;在无人车沿着确认疑似目标路径运动的过程中,使小型光电转台转动到此目标所在角度,如果存在连续多帧视频处理模块输出的可见光视频目标检测结果信息中的目标分类号与待搜索目标匹配,且置信度大于预先设置的可见光疑似目标置信度阈值Q3(Q3>Q2>Q1),则认为该疑似目标为待搜索目标,启动激光测距机进行距离测量,执行步骤(7);如果目标检测结果信息中不存在符合条件的目标,则认为该疑似目标不是待搜索目标,返回到初始搜索路径运动,执行步骤(3);
(7)对目标进行激光测距:确认疑似目标为待搜索目标后,启动激光测距机进行距离测量,激光测距结果通过小型光电转台状态获取及运动控制单元输出的小型光电转台状态得到,将测距结果填入目标检测结果信息中,完成目标搜索任务。
7.根据权利要求6中所述的目基于多传感器的无人车目标搜索方法,其特征在于,全景视频和可见光视频目标检测结果信息和激光雷达获取的目标信息,具体包括有:
目标检测结果信息具体为:目标中心点在图像上的横、纵坐标,目标标识框的宽、高,目标置信度,目标分类号、目标相对于无人车的方位角、俯仰角,目标在空间中的位置信息和目标相对无人车的距离;
激光雷达获取的目标信息具体为:目标相对于激光雷达0°的角度、目标相对于激光雷达的距离。
8.根据权利要求6中所述的目基于多传感器的无人车目标搜索方法,其特征在于,步骤(1)中所述的全景视频和可见光视频目标检测结果信息中得到目标相对于无人车的方位角;激光雷达获取的目标信息中得到目标相对于激光雷达0°的角度;陀螺仪信息中得到无人车车头中心的实时方位角;信息融合方法为:
(1a)计算激光雷达获取的目标相对于无人车车头中心的方位角:激光雷达获取的目标信息中目标相对于激光雷达0°的角度减去陀螺仪信息中得到无人车车头中心的实时方位角得到差值结果A,如果A大于等于0,A即为激光雷达获取的目标相对于无人车车头中心的方位角;如果A小于0,A+360作为激光雷达获取的目标相对于无人车车头中心的方位角;
(1b)信息融合:设置方位角误差阈值T,全景视频或可见光视频目标检测结果信息中得到目标相对于无人车车头中心的方位角与激光雷达获取的目标相对于无人车车头中心的方位角作差,如果差值小于T,则将激光雷达获取的目标信息中的目标相对于激光雷达的距离填入目标检测结果信息中的目标相对无人车的距离。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910025004.8A CN109737981B (zh) | 2019-01-11 | 2019-01-11 | 基于多传感器的无人车目标搜索装置及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910025004.8A CN109737981B (zh) | 2019-01-11 | 2019-01-11 | 基于多传感器的无人车目标搜索装置及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109737981A true CN109737981A (zh) | 2019-05-10 |
CN109737981B CN109737981B (zh) | 2022-12-02 |
Family
ID=66364456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910025004.8A Active CN109737981B (zh) | 2019-01-11 | 2019-01-11 | 基于多传感器的无人车目标搜索装置及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109737981B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110244314A (zh) * | 2019-06-24 | 2019-09-17 | 北京机械设备研究所 | 一种“低慢小”目标探测识别系统与方法 |
CN110515086A (zh) * | 2019-08-09 | 2019-11-29 | 西安电子科技大学 | 一种应用于无人艇的海上目标搜索模拟系统及方法 |
CN111553634A (zh) * | 2020-04-27 | 2020-08-18 | 新石器慧通(北京)科技有限公司 | 无人购物车的追踪方法、装置及系统 |
CN111693050A (zh) * | 2020-05-25 | 2020-09-22 | 电子科技大学 | 基于建筑信息模型的室内中大型机器人导航方法 |
CN111753694A (zh) * | 2020-06-16 | 2020-10-09 | 西安电子科技大学 | 无人车目标搜索系统及方法 |
CN112816813A (zh) * | 2020-12-31 | 2021-05-18 | 中国人民解放军总参谋部第六十研究所 | 一种电离辐照验证试验系统 |
CN113415355A (zh) * | 2021-06-18 | 2021-09-21 | 李哲瀚 | 一种应用于城市安防巡检工作的无人车与无人机协同系统 |
CN114553363A (zh) * | 2020-11-20 | 2022-05-27 | 海鹰航空通用装备有限责任公司 | 基于侦测、反制一体化的低空防御装置及低空防御系统 |
CN115127523A (zh) * | 2022-05-09 | 2022-09-30 | 湖南傲英创视信息科技有限公司 | 一种基于双线列相机的异构处理全景检测及测距系统 |
CN117268496A (zh) * | 2023-11-21 | 2023-12-22 | 无锡航征科技有限公司 | 基于雷达波的水位测量方法、装置及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060114251A1 (en) * | 2004-02-11 | 2006-06-01 | Miller Jacob J | Methods for simulating movement of a computer user through a remote environment |
US20080215231A1 (en) * | 1997-10-22 | 2008-09-04 | Intelligent Technologies International, Inc. | Method for Obtaining Information about Objects Outside of a Vehicle |
JP2011196916A (ja) * | 2010-03-23 | 2011-10-06 | Mitsubishi Electric Corp | 計測車両、道路地物計測システム |
CN105606113A (zh) * | 2016-01-28 | 2016-05-25 | 福州华鹰重工机械有限公司 | 快速规划最优路径方法及装置 |
CN106127115A (zh) * | 2016-06-16 | 2016-11-16 | 哈尔滨工程大学 | 一种基于全景和常规视觉的混合视觉目标定位方法 |
CN106874854A (zh) * | 2017-01-19 | 2017-06-20 | 西安电子科技大学 | 基于嵌入式平台的无人机车辆跟踪方法 |
CN107071341A (zh) * | 2016-12-09 | 2017-08-18 | 河南中光学集团有限公司 | 小型雷达和光电转台的联动控制系统及其控制方法 |
CN107223275A (zh) * | 2016-11-14 | 2017-09-29 | 深圳市大疆创新科技有限公司 | 多路传感数据融合的方法和系统 |
CN107478214A (zh) * | 2017-07-24 | 2017-12-15 | 杨华军 | 一种基于多传感器融合的室内定位方法及系统 |
CN107490382A (zh) * | 2017-07-31 | 2017-12-19 | 中北智杰科技(北京)有限公司 | 一种无人驾驶汽车路径规划系统及控制方法 |
US20180267558A1 (en) * | 2017-03-14 | 2018-09-20 | Starsky Robotics, Inc. | Vehicle sensor system and method of use |
CN108983781A (zh) * | 2018-07-25 | 2018-12-11 | 北京理工大学 | 一种无人车目标搜索系统中的环境探测方法 |
-
2019
- 2019-01-11 CN CN201910025004.8A patent/CN109737981B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080215231A1 (en) * | 1997-10-22 | 2008-09-04 | Intelligent Technologies International, Inc. | Method for Obtaining Information about Objects Outside of a Vehicle |
US20060114251A1 (en) * | 2004-02-11 | 2006-06-01 | Miller Jacob J | Methods for simulating movement of a computer user through a remote environment |
JP2011196916A (ja) * | 2010-03-23 | 2011-10-06 | Mitsubishi Electric Corp | 計測車両、道路地物計測システム |
CN105606113A (zh) * | 2016-01-28 | 2016-05-25 | 福州华鹰重工机械有限公司 | 快速规划最优路径方法及装置 |
CN106127115A (zh) * | 2016-06-16 | 2016-11-16 | 哈尔滨工程大学 | 一种基于全景和常规视觉的混合视觉目标定位方法 |
CN107223275A (zh) * | 2016-11-14 | 2017-09-29 | 深圳市大疆创新科技有限公司 | 多路传感数据融合的方法和系统 |
CN107071341A (zh) * | 2016-12-09 | 2017-08-18 | 河南中光学集团有限公司 | 小型雷达和光电转台的联动控制系统及其控制方法 |
CN106874854A (zh) * | 2017-01-19 | 2017-06-20 | 西安电子科技大学 | 基于嵌入式平台的无人机车辆跟踪方法 |
US20180267558A1 (en) * | 2017-03-14 | 2018-09-20 | Starsky Robotics, Inc. | Vehicle sensor system and method of use |
CN107478214A (zh) * | 2017-07-24 | 2017-12-15 | 杨华军 | 一种基于多传感器融合的室内定位方法及系统 |
CN107490382A (zh) * | 2017-07-31 | 2017-12-19 | 中北智杰科技(北京)有限公司 | 一种无人驾驶汽车路径规划系统及控制方法 |
CN108983781A (zh) * | 2018-07-25 | 2018-12-11 | 北京理工大学 | 一种无人车目标搜索系统中的环境探测方法 |
Non-Patent Citations (3)
Title |
---|
ZHIJUN TANG; U. OZGUNER: "On non-escape search for a moving target by multiple mobile sensor agents", 《2006 AMERICAN CONTROL CONFERENCE》 * |
方朋朋,杨家富,施杨洋,于凌宇: "基于梯度下降法和改进人工势场法的无人车避障方法", 《制造业自动化》 * |
陈建平等: "移动机器人系统多传感器信息融合研究", 《肇庆学院学报》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110244314A (zh) * | 2019-06-24 | 2019-09-17 | 北京机械设备研究所 | 一种“低慢小”目标探测识别系统与方法 |
CN110244314B (zh) * | 2019-06-24 | 2022-04-19 | 北京机械设备研究所 | 一种“低慢小”目标探测识别系统与方法 |
CN110515086A (zh) * | 2019-08-09 | 2019-11-29 | 西安电子科技大学 | 一种应用于无人艇的海上目标搜索模拟系统及方法 |
CN111553634B (zh) * | 2020-04-27 | 2023-11-21 | 新石器慧通(北京)科技有限公司 | 无人购物车的追踪方法、装置及系统 |
CN111553634A (zh) * | 2020-04-27 | 2020-08-18 | 新石器慧通(北京)科技有限公司 | 无人购物车的追踪方法、装置及系统 |
CN111693050A (zh) * | 2020-05-25 | 2020-09-22 | 电子科技大学 | 基于建筑信息模型的室内中大型机器人导航方法 |
CN111753694A (zh) * | 2020-06-16 | 2020-10-09 | 西安电子科技大学 | 无人车目标搜索系统及方法 |
CN111753694B (zh) * | 2020-06-16 | 2024-02-09 | 西安电子科技大学 | 无人车目标搜索系统及方法 |
CN114553363A (zh) * | 2020-11-20 | 2022-05-27 | 海鹰航空通用装备有限责任公司 | 基于侦测、反制一体化的低空防御装置及低空防御系统 |
CN112816813A (zh) * | 2020-12-31 | 2021-05-18 | 中国人民解放军总参谋部第六十研究所 | 一种电离辐照验证试验系统 |
CN113415355A (zh) * | 2021-06-18 | 2021-09-21 | 李哲瀚 | 一种应用于城市安防巡检工作的无人车与无人机协同系统 |
CN115127523B (zh) * | 2022-05-09 | 2023-08-11 | 湖南傲英创视信息科技有限公司 | 一种基于双线列相机的异构处理全景检测及测距系统 |
CN115127523A (zh) * | 2022-05-09 | 2022-09-30 | 湖南傲英创视信息科技有限公司 | 一种基于双线列相机的异构处理全景检测及测距系统 |
CN117268496A (zh) * | 2023-11-21 | 2023-12-22 | 无锡航征科技有限公司 | 基于雷达波的水位测量方法、装置及存储介质 |
CN117268496B (zh) * | 2023-11-21 | 2024-01-30 | 无锡航征科技有限公司 | 基于雷达波的水位测量方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109737981B (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109737981A (zh) | 基于多传感器的无人车目标搜索装置及方法 | |
CN111897332B (zh) | 一种语义智能变电站机器人仿人巡视作业方法及系统 | |
CN105492985B (zh) | 一种用于在环境内控制可移动物体的系统及方法 | |
CN110446159B (zh) | 一种室内无人机精确定位与自主导航的系统及方法 | |
CN111958592B (zh) | 一种变电站巡检机器人图像语义分析系统及方法 | |
CN104217439B (zh) | 一种室内视觉定位系统及方法 | |
CN109901580A (zh) | 一种无人机与无人地面机器人协作循径避障系统及其方法 | |
CN109579843A (zh) | 一种空地多视角下的多机器人协同定位及融合建图方法 | |
CN108536145A (zh) | 一种使用机器视觉进行智能跟随的机器人系统及运行方法 | |
WO2015180021A1 (zh) | 剪枝机器人系统 | |
CN110333735B (zh) | 一种实现无人机水陆二次定位的系统和方法 | |
CN105823478A (zh) | 一种自主避障导航信息共享和使用方法 | |
CN108073167A (zh) | 一种基于深度相机与激光雷达的定位与导航方法 | |
CN105928498A (zh) | 通过基于模板的uav控制来确定对象数据 | |
CN107209514A (zh) | 传感器数据的选择性处理 | |
CN112326686A (zh) | 无人机智能巡航路面病害检测方法、无人机和检测系统 | |
CN107168314A (zh) | 基于无人船系统的浮标数据信息中转装置 | |
CN111061266A (zh) | 一种实时场景分析和空间避障的夜间值守机器人 | |
CN109946564B (zh) | 一种配网架空线路巡检数据采集方法及巡检系统 | |
CN106355647A (zh) | 增强现实系统和方法 | |
CN110560373A (zh) | 一种多机器人协作分拣运输方法及系统 | |
CN109976339B (zh) | 一种车载配网巡检数据采集方法与巡检系统 | |
CN109459023A (zh) | 一种基于无人机视觉slam的辅助地面机器人导航方法及装置 | |
CN111862200B (zh) | 一种煤棚内无人机定位方法 | |
CN106525007A (zh) | 分布交互式测绘通用机器人 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |