发明内容
根据本申请的一个方面,提出了一种用于航拍监测建模的监测建模装置,该监测建模装置可设置飞行器上以在航拍现场进行航拍监测建模,该监测建模装置可包括:
数据采集模块,可用于采集航拍现场的多模态信息;
融合定位模块,可用于接收多模态信息并通过SLAM算法对多模态信息进行融合以获得位姿信息;
地图模块,可基于位姿信息进行三维建图以获得三维地图信息;以及
发送模块,可用于将三维地图信息进行发送。
根据本申请的实施方式的用于航拍监测建模的监测建模装置还可以包括:
回环检测模块,可用于对位姿信息进行校正;以及
信息优化模块,可用于接收经校正的位姿信息并根据经校正的位姿信息对全部位置的位姿信息进行优化。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,数据采集模块可包括:
惯性导航传感器,可用于获取飞行器的加速度和角速度信息;
实时动态传感器,可用于获取飞行器的卫星定位信息;
雷达传感器,可用于获取航拍现场的点云定位信息;以及
相机,可用于获取航拍现场的视觉定位信息,
其中,加速度信息、角速度信息、卫星定位信息、点云定位信息和/或视觉定位信息构成多模态信息。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,融合定位模块还可将多模态信息中的预测信息与精准信息进行融合,从而输出具有多自由度的位姿信息,
其中,预测信息可以为高频率的加速度信息、角速度信息和卫星定位信息,精准信息可以为低频率、高精度的点云定位信息和视觉定位信息。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,回环检测模块还可实时接收新的位姿信息,并将新的位姿信息与已接收的位姿信息进行对比,以判断新的位姿信息与已接收的位姿信息是否相同。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,如果新的位姿信息与所述已接收的位姿信息相同,则根据新的位姿信息对位姿信息进行更新。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,信息优化模块还可对全部位置的位姿信息进行重新定位,以获得轨迹信息和周围环境信息,以及根据经校正的位姿信息确定优化标准,依据优化标准对所述轨迹信息和周围环境信息进行优化,并将经优化的轨迹信息和周围环境信息转换为坐标信息。
在根据本申请实施方式的用于航拍监测建模的监测建模装置中,地图模块还可接收所述坐标信息并将坐标信息进行结合,以建立全局信息一致的三维地图。
通过根据本申请的用于航拍监测建模的监测建模装置,可以采用航拍的方式获取现场的信息,并利用采集到的信息进行三维建图,其中,采用SLAM算法对采集的多模态信息进行融合,采用回环检测的方式对位姿信息进行校正,可获取更加精准的位姿信息,从而可快速准确地建立三维地图。
根据本申请的另一个方面,还提出了一种森林应急消防监测系统,其包括上述用于航拍监测建模的监测建模装置以及调度指挥装置,该调度指挥装置可包括:
接收模块,可用于与监测建模装置的发送模块进行通讯、接收三维建图信息、接收无人机基站和救援人员定位信息、以及接收红外视频信号和航拍视频信号;以及
显示模块,可用于显示监测的状态信息,显示模块显示的状态信息还可包括如下中的一种或多种:
时间、日期、信号质量、环境信息、定位显示平台、搜救人员信息平台、三维地图、红外视频和航拍视频。
在根据本申请实施方式的森林应急消防监测系统中,调度指挥装置还可包括:
存储模块,可用于自动记录时间、地点和救援人员轨迹。
和/或
地图优化模块,用于通过回环检测对三维地图进行优化。
和/或
识别模块,用于采集火灾现场的场景信息,场景信息包括如下中的一种或多种:
草木种类、风力、风向、温度、湿度。
通过根据本申请的用于航拍监测建模的森林应急消防监测系统,可以接收火灾现场信息,并进行显示,为调度中心指挥提供依据,实现全局监测。
具体实施方式
下面结合附图和实施方式对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施方式仅用于解释相关内容,而非对本申请的限制。为简明起见,在本申请各实施方式的描述中,对于相同或者类似的装置/方法步骤,使用相同或者相似的附图标记。
需要说明的是,在不冲突的情况下,本申请中的实施方式及实施方式中的特征可以相互组合。
根据本申请的实施方式,提供了一种用于航拍监测建模的监测建模装置。监测建模装置搭载在飞行器(如无人机,特别是长航程无人机)上,通过飞行器在森林火灾现场进行循环飞行,利用监测建模装置采集现场信息,可以基于这些采集到的信息进行三维建图等。
图1示出根据本申请实施方式的用于航拍监测建模的监测建模装置的框图。如图1所示,该用于航拍监测建模装置10包括数据采集模块110、融合定位模块120、地图模块130、以及发送模块140。具体而言,数据采集模块110可用于采集航拍现场的多模态信息,融合定位模块120可用于接收多模态信息,地图模块130可基于位姿信息进行三维建图以获得三维地图信息,发送模块140可用于将三维地图信息进行发送。通过该用于航拍监测建模的监测建模装置,可以采用航拍的方式获取现场的信息,并利用采集到的信息进行三维建图,其中,采用SLAM算法对采集的多模态信息进行融合,采用回环检测的方式对位姿信息进行校正,可获取更加精准的位姿信息,从而可快速准确地建立三维地图。
下面结合图2对根据本申请实施方式的用于航拍监测建模的监测建模装置做进一步说明。图2示出根据本申请实施方式的用于航拍监测建模的监测建模装置的框图。如图2所示,用于航拍监测建模装置10包括数据采集模块110、融合定位模块120、地图模块130、以及发送模块140,其中数据采集模块110还包括:惯性导航传感器1110,其用于获取所述飞行器的加速度和角速度信息;实时动态传感器1120,其用于获取所述飞行器的卫星定位信息;雷达传感器1130,其用于获取所述航拍现场的点云定位信息;以及相机1140,其用于获取所述航拍现场的视觉定位信息,数据采集模块110采集到的所述加速度信息、角速度信息、卫星定位信息、点云定位信息和/或视觉定位信息构成所述多模态信息。
此外,如上所述,监测建模装置中的融合定位模块120可用于接收多模态信息,并通过SLAM算法对多模态信息进行融合以获得位姿信息。在多模态信息中,惯性导航传感器1110能够获取相对可靠的角速度和线加速度信息,但是在长时间监测状态下,其也存在较大的漂移误差,因此,惯性导航传感器1110不能够持续输出可靠的自身运动信息;实时动态传感器1120主要是通过GPS信息进行传输,但是在山林等复杂环境区域的林区上空,其并无法保证长时间获取连续的相关数据,即无法确保定位精度;雷达传感器1130进行点云定位,能够保证相对精确的信息,但是,雷达传感器1130的输出频率过低,无法在运行速度过快的状态下输出实时信息;相机1140的应用范围较广,但其受视野变化,光照变化、运动变化等因素影响,无法保障视觉定位信息的获取。
上述各传感器均存在各自的优缺点,为此融合定位模块120采用融合定位的方法,对多个传感器采集的信息进行处理和融合。具体地,多模态信息可分为预测信息和精准信息,其中,预测信息为高频率的加速度信息、角速度信息和卫星定位信息,精准信息为低频率、高精度的点云定位信息和视觉定位信息,通过将以上信息融合,可输出一个6自由度的姿位信息。
进一步地,如上所述,地图模块130可根据姿位信息进行三维建图,以获得三维地图信息。该三维地图信息可由发送模块140以无线的方式发送给地面的调度中心。在其他实施方式中,三维地图信息还可由发送模块140以包括有线方式在内的其他方式发送给调度中心。
下面结合图3对根据本申请实施方式的用于航拍监测建模的监测建模装置做进一步说明。图3示出根据本申请实施方式的监测建模装置的框图。如图3所示,用于航拍监测建模装置10包括数据采集模块110、融合定位模块120、地图模块130、以及发送模块140,其中数据采集模块110还包括:惯性导航传感器1110,其用于获取所述飞行器的加速度和角速度信息;实时动态传感器1120,其用于获取所述飞行器的卫星定位信息;雷达传感器1130,其用于获取所述航拍现场的点云定位信息;以及相机1140,其用于获取所述航拍现场的视觉定位信息,数据采集模块110采集到的所述加速度信息、角速度信息、卫星定位信息、点云定位信息和/或视觉定位信息构成所述多模态信息。
监测建模装置中的融合定位模块120可用于接收多模态信息,并通过SLAM算法对多模态信息进行融合以获得位姿信息。在多模态信息中,惯性导航传感器1110能够获取相对可靠的角速度和线加速度信息,但是在长时间监测状态下,其也存在较大的漂移误差,因此,惯性导航传感器1110不能够持续输出可靠的自身运动信息;实时动态传感器1120主要是通过GPS信息进行传输,但是在山林等复杂环境区域的林区上空,其并无法保证长时间获取连续的相关数据,即无法确保定位精度;雷达传感器1130进行点云定位,能够保证相对精确的信息,但是,雷达传感器1130的输出频率过低,无法在运行速度过快的状态下输出实时信息;相机1140的应用范围较广,但其受视野变化,光照变化、运动变化等因素影响,无法保障视觉定位信息的获取。
上述各传感器均存在各自的优缺点,为此融合定位模块120采用融合定位的方法,对多个传感器采集的信息进行处理和融合。具体地,多模态信息可分为预测信息和精准信息,其中,预测信息为高频率的加速度信息、角速度信息和卫星定位信息,精准信息为低频率、高精度的点云定位信息和视觉定位信息,通过将以上信息融合,可输出一个6自由度的姿位信息。
进一步地,如上所述,地图模块130可根据姿位信息进行三维建图,以获得三维地图信息。该三维地图信息可由发送模块140以无线的方式发送给地面的调度中心。在其他实施方式中,三维地图信息还可由发送模块140以包括有线方式在内的其他方式发送给调度中心。
在进行信息采集时,不可避免的存在数据噪声,而且融合计算时同样存在数据误差,因此,为了避免误差进一步的叠加,造成更大的影响,可增加对位姿信息校正和优化的操作。在该实施方式中,在地图模块130进行三维建图步骤之前,还可以进行校正操作,利用回环检测模块150和信息优化模块160对姿位信息进行校正和优化。
在进行位姿信息校正时,回环检测模块150实时地接收新的位姿信息,并将所述新的位姿信息与已接收的位姿信息进行对比,以判断所述新的位姿信息与所述已接收的位姿信息是否相同,如果相同,则根据所述新的位姿信息对位姿信息进行更新。校正的主要步骤即为相似性识别,校正时,如果判断两个位姿信息(新接收的和已接收的)为一个位置的位姿信息,但是两者存在较大的区别,也就是说其中的一个或两个存在偏差,通过不断的数据积累,可根据更多的位姿信息计算出该位置趋于正确的位姿信息,进而对位姿信息进行更新,降低甚至消除误差。
在监测建模装置中,设置信息优化模块160的目的在于:对全部位置的位姿信息进行重新定位,以获得轨迹信息和周围环境信息,通过校正的位姿信息确定优化标准,依据所述优化标准对所述轨迹信息和周围环境信息进行优化,并将经优化的轨迹信息和周围环境信息转换为坐标信息。优化标准,即一个位置的位姿信息由初始值至校正值,其数值(或数值范围)所发生的比例变化。
地图模块130可接收所述坐标信息并将所述坐标信息进行结合,以建立全局信息一致的三维地图,以及获取三维地图信息。
本申请实施方式提供的监测建模装置可搭载在无人机上,在遇森林火灾时,多个无人机协同多个监测建模装置在火灾现场进行航拍监测,可快速、准确的获取三维地图信息,并将该部分信息发送至地面的调度中心,为调度中心提供判断依据。
根据本申请的另一个方面,还提供了一种森林应急消防监测系统。图4示出根据本申请实施方式的森林应急消防监测系统的框图。如图4所示,森林应急消防监测系统包括如上所述的监测建模装置10以及调度指挥装置20,其中,监测建模装置10可在火灾现场将三维地图信息发送给调度指挥装置20,而调度指挥装置20可设置在地面指挥中心,地面指挥中心中的指挥人员可根据监测建模装置10发送的信息提供判断依据,实现全局监测。
下面结合图5对根据本申请实施方式的森林应急消防监测系统的调度指挥装置进行说明。图5示出根据本申请实施方式的森林应急消防监测系统的调度指挥装置的框图。如图5所示,调度指挥装置20可包括接收模块210,该接收模块210可同时接收无人机基站和救援人员发出的定位信息,以及接收红外视频信号和航拍视频信号,其中,红外视频信号和航拍视频信号同样由无人机上的相应设备发出。调度指挥装置20可通过显示模块220将接收到的信息进行显示。
地面调度中心的人员可通过显示模块220直接获取相关监测信息,该监测信息包括但不局限于以下中的一种或多种:时间、日期、信号质量、环境信息、定位显示平台、搜救人员信息平台、三维地图、红外视频和航拍视频。全局监测信息均在显示模块显示,利于指挥人员对全局信息有更好的把控。
下面结合图6对根据本申请实施方式的森林应急消防监测系统的调度指挥装置做进一步说明。图6示出根据本申请实施方式的森林应急消防监测系统的调度指挥装置的框图。如图6所示,调度指挥装置20可包括接收模块210,该接收模块210可同时接收无人机基站和救援人员发出的定位信息,以及接收红外视频信号和航拍视频信号,其中,红外视频信号和航拍视频信号同样可由无人机上的相应设备发出。调度指挥装置20可通过显示模块220将接收到的信息进行显示。
在该实施方式中,调度指挥装置20还可包括存储模块230,存储模块230可用于自动记录时间、地点和救援人员轨迹。工作人员可对存储的信息进行历史查询操作,能够根据需求查询救援人员的轨迹信息,实现有据可查。
此外,调度指挥装置20还可包括地图优化模块240,其通过回环检测对三维地图进行优化,即森林应急消防监测系统再次利用回环检测的方式优化三维地图,进一步消除三维地图的误差,提高三维地图的精准度。
另外,如图6所示,调度指挥装置20还可包括识别模块250,识别模块250可可获取航拍视频信息,并根据视频内容获取火灾现场的场景信息,其中,场景信息包括但不局限于如下中的一种或多种:草木种类、风力、风向、温度、湿度。识别模块250可为调度中心提供辅助判断和分析信息,例如,识别模块250可判断火灾现场林木属针叶还是阔叶,以便调度中心采用对应的救援措施。
在根据本申请其他实施方式中,调度指挥装置20还可包括供电模块、车辆、车载安装架等,而且接收模块可通过车载安装架与车辆连接。
在本申请的实施方式中,森林应急消防监测系统的组成单元可均采用模块化设计,从而便于后续的扩展升级。
在本说明书的描述中,参考术语“一个实施例/方式”、“一些实施例/方式”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例/方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例/方式或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例/方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例/方式或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例/方式或示例以及不同实施例/方式或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
本领域的技术人员应当理解,上述实施方式仅仅是为了清楚地说明本申请,而并非是对本申请的范围进行限定。对于所属领域的技术人员而言,在上述公开的基础上还可以做出其它变化或变型,并且这些变化或变型仍处于本申请的范围内。