CN114247071B - 引导车辆行驶的方法及控制消防车灭火的方法 - Google Patents
引导车辆行驶的方法及控制消防车灭火的方法 Download PDFInfo
- Publication number
- CN114247071B CN114247071B CN202010995962.0A CN202010995962A CN114247071B CN 114247071 B CN114247071 B CN 114247071B CN 202010995962 A CN202010995962 A CN 202010995962A CN 114247071 B CN114247071 B CN 114247071B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- unmanned aerial
- aerial vehicle
- fire
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 83
- 238000001514 detection method Methods 0.000 claims description 71
- 238000001931 thermography Methods 0.000 claims description 35
- 238000004891 communication Methods 0.000 claims description 20
- 230000000007 visual effect Effects 0.000 claims description 19
- 238000010586 diagram Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 7
- 230000011218 segmentation Effects 0.000 claims description 7
- 230000001629 suppression Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000010276 construction Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 17
- 238000009434 installation Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 3
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000002341 toxic gas Substances 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A62—LIFE-SAVING; FIRE-FIGHTING
- A62C—FIRE-FIGHTING
- A62C27/00—Fire-fighting land vehicles
-
- A—HUMAN NECESSITIES
- A62—LIFE-SAVING; FIRE-FIGHTING
- A62C—FIRE-FIGHTING
- A62C37/00—Control of fire-fighting equipment
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
- B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
Landscapes
- Health & Medical Sciences (AREA)
- Public Health (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
本发明涉及车辆领域,公开了一种引导车辆行驶的方法及控制消防车灭火的方法。引导车辆行驶的方法包括在采集图像中确定所述无人机对应的无人机区域,其中,所述采集图像为安装在所述车辆上的图像采集模块采集的所述无人机的图像;计算所述无人机区域的中心位置与所述采集图像的中心位置之间的相对偏移量;以及基于所述相对偏移量控制所述车辆跟随所述无人机,以引导所述车辆行驶。籍此,实现了自动引导车辆行驶。
Description
技术领域
本发明涉及车辆领域,具体地,涉及一种引导车辆行驶的方法及控制消防车灭火的方法。
背景技术
消防车辆是一种快速到达火灾现场并开展救援的重要设备,而目前,消防车辆进入火场并实施救援过程主要是通过消防人员驾驶消防车进入现场,到达现场后,由消防人员进入未知危险的火场操作灭火设备来实施灭火救援,这样容易导致消防人员发生伤亡事故。
此外,现有技术中还公开了一些关于消防车的技术方案。例如,消防车远程遥控车载控制系统公开了一种应用于消防车远程遥控车载控制系统,包括中央控制器、转向控制器、车速控制器、档位控制器及电源管理模块,然后依靠消防人员对消防车辆进行远程控制,车载控制器接收远程控制终端发送的指令后执行消防车作业;可远程遥控进入火灾现场的救援消防车公开了一种可远程遥控进入火灾现场的救援消防车,通过无线通讯方式与远程控制中心进行连接,由消防人员遥控操作消防车进入火场进行灭火,同时还可以通过语音播报呼叫被困人员,通过外部的传感器获取火灾现场的图片、温度以及烟雾浓度等数据,方便外部指挥人员对火灾现场内部情况的了解;无人机消防车公开了一种利用无人机搭载消防器械升至高空,替代消防人员对火灾现场实施灭火救援,接触消防人员的安全隐患。现有技术中公开的关于消防车的技术方案存在以下缺点:消防车远程遥控车载控制系统仅仅只是实现消防车的远程遥控功能,且消防车行驶过程中无法主动检测车辆周围存在的障碍物并进行避障,消防车行驶过程全程仍然需要人工操控,没有降低劳动强度;一种可远程遥控进入火灾现场的救援消防车虽然提供了许多传感器用于感知火灾现场的环境,但是不具备自动避障功能,消防车行驶过程全程需要人工遥控,没有降低劳动强度;无人机消防车仅仅只实现了到达火灾现场后利用无人机搭载消防器械,飞至高空中获取高空视野,对火灾现场实施灭火,但是灭火过程中,水炮枪的控制仍然需要由操作人员控制,同样也没有降低劳动强度。
发明内容
本发明的目的是提供一种引导车辆行驶的方法及控制消防车灭火的方法,其可实现自动引导车辆行驶。
为了实现上述目的,本发明的一个方面提供一种用于引导车辆行驶的方法,该方法包括:在采集图像中确定所述无人机对应的无人机区域,其中,所述采集图像为安装在所述车辆上的图像采集模块采集的所述无人机的图像;计算所述无人机区域的中心位置与所述采集图像的中心位置之间的相对偏移量;以及基于所述相对偏移量控制所述车辆跟随所述无人机,以引导所述车辆行驶。
可选地,所述采集图像包括可见光图像和/或热成像图像,所述在采集图像中确定所述无人机对应的无人机区域包括:对所述可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或基于所述热成像图像中的温度分布,确定所述无人机的疑似区域,将所确定的疑似区域及所述无人机的模板图进行特征提取与匹配,确定第二目标区域;以及基于所述第一目标区域或所述第二目标区域,确定所述无人机区域。
可选地,以所述车辆的运动方向为基准划分前后左右,所述相对偏移量包括前后方向偏移量和左右方向偏移量,所述基于所述相对偏移量控制所述车辆跟随所述无人机包括:在所述无人机在非转向区域的情况下,根据所述前后方向偏移量控制所述车辆;以及在所述无人机在转向区域的情况下,根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级。
可选地,所述根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级包括以下至少一者:在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧且距离所述图像的中心位置的相对距离大于第一左右距离的情况下,控制所述车辆朝左偏移;在所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧且所述相对距离大于第二左右距离的情况下,控制所述车辆朝右偏移;以及在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧但所述相对距离小于或等于所述第一左右距离或所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧但所述相对距离小于或等于所述第二左右距离的情况下,不控制所述车辆进行偏移,根据所述前后方向偏移量控制所述车辆。
可选地,所述根据所述前后方向偏移量控制所述车辆包括以下至少一者:在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面且距离所述图像的中心位置的相对距离大于第一前后距离的情况下,控制所述车辆朝前运动;在所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面且所述相对距离大于第二前后距离的情况下,控制所述车辆朝后运动;以及在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面但所述相对距离小于或等于所述第一前后距离或所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面但所述相对距离小于或等于所述第二前后距离的情况下,维持所述车辆的当前运动。
此外,本发明的另一方面提供一种用于控制消防车灭火的方法,该方法包括:基于无人机判断是否存在火灾;以及在存在火灾的情况下,执行以下操作:控制所述无人机朝所述火灾飞行;以及根据上述用于引导车辆行驶的方法控制所述消防车跟随所述无人机,使得所述无人机引导所述消防车移动至距离所述火灾预设距离处,以使得所述消防车进行灭火。
可选地,所述基于无人机判断是否存在火灾包括:控制所述无人机采集视角内的图像;以及基于所采集的图像判断所述无人机的视角内是否存在火灾。
另外,本发明的另一方面还提供一种用于控制行驶中的车辆避障的方法,该方法包括:在控制所述车辆行驶过程中,检测在所述车辆的运行方向上是否有障碍物,其中,所述车辆被根据上述用于引导车辆行驶的方法引导;以及在检测到障碍物的情况下,控制所述车辆减速直至停止运动。
可选地,在检测到障碍物的情况下,该方法还包括:确定用于检测障碍物的检测模块相对所述车辆的相对位置坐标;将所述相对位置坐标转换到所述车辆的位置坐标系中,以确定所述检测模块的新位置坐标;基于所检测到的障碍物相对于所述检测模块的相对位置及所述新位置坐标,确定出所述障碍物的位置坐标;基于所述障碍物的位置坐标及所述车辆的位置坐标,构建车辆运行场景;随着所述车辆的运动,基于所述车辆的位置坐标及所述障碍物的位置坐标,确定所述障碍物相对所述车辆的相对位置随时间的变化,以确定所述障碍物相对所述车辆的运动轨迹;以及显示所述车辆运行场景和所述运动轨迹。
相应地,本发明的另一方面还提供一种用于引导车辆行驶的装置,该装置包括:无人机区域确定模块,用于在采集图像中确定所述无人机对应的无人机区域,其中,所述采集图像为安装在所述车辆上的图像采集模块采集的所述无人机的图像;相对偏移量计算模块,用于计算所述无人机区域的中心位置与所述采集图像的中心位置之间的相对偏移量;以及跟随控制模块,用于基于所述相对偏移量控制所述车辆跟随所述无人机,以引导所述车辆行驶。
可选地,所述采集图像包括可见光图像和/或热成像图像,所述无人机区域确定模块在采集图像中确定所述无人机对应的无人机区域包括:对所述可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或基于所述热成像图像中的温度分布,确定所述无人机的疑似区域,将所确定的疑似区域及所述无人机的模板图进行特征提取与匹配,确定第二目标区域;以及基于所述第一目标区域或所述第二目标区域,确定所述无人机区域。
可选地,以所述车辆的运动方向为基准划分前后左右,所述相对偏移量包括前后方向偏移量和左右方向偏移量,所述跟随控制模块基于所述相对偏移量控制所述车辆跟随所述无人机包括:在所述无人机在非转向区域的情况下,根据所述前后方向偏移量控制所述车辆;以及在所述无人机在转向区域的情况下,根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级。
可选地,所述根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级包括以下至少一者:在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧且距离所述图像的中心位置的相对距离大于第一左右距离的情况下,控制所述车辆朝左偏移;在所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧且所述相对距离大于第二左右距离的情况下,控制所述车辆朝右偏移;以及在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧但所述相对距离小于或等于所述第一左右距离或所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧但所述相对距离小于或等于所述第二左右距离的情况下,不控制所述车辆进行偏移,根据所述前后方向偏移量控制所述车辆。
可选地,所述根据所述前后方向偏移量控制所述车辆包括以下至少一者:在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面且距离所述图像的中心位置的相对距离大于第一前后距离的情况下,控制所述车辆朝前运动;在所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面且所述相对距离大于第二前后距离的情况下,控制所述车辆朝后运动;以及在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面但所述相对距离小于或等于所述第一前后距离或所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面但所述相对距离小于或等于所述第二前后距离的情况下,维持所述车辆的当前运动。
此外,本发明的另一方面还提供一种用于引导车辆行驶的系统,该系统包括:上述用于引导车辆行驶的装置;以及图像采集模块,被安装在所述车辆上,用于采集无人机的图像。
另外,本发明的另一方面还提供一种用于控制消防车灭火的装置,该装置包括:火灾判断模块,用于基于无人机判断是否存在火灾;以及处理模块,用于在存在火灾的情况下,执行以下操作:控制所述无人机朝所述火灾飞行;以及根据上述用于引导车辆行驶的方法控制所述消防车跟随所述无人机,使得所述无人机引导所述消防车移动至距离所述火灾预设距离处,以使得所述消防车进行灭火。
可选地,所述火灾判断模块基于无人机判断是否存在火灾包括:控制所述无人机采集视角内的图像;以及基于所采集的图像判断所述无人机的视角内是否存在火灾。
此外,本发明的另一方面还提供一种消防车,该消防车包括上述用于控制消防车灭火的装置。
另外,本发明的另一方面还提供一种用于控制行驶中的车辆避障的装置,该装置还包括:检测模块,用于在控制所述车辆行驶过程中,检测在所述车辆的运行方向上是否有障碍物,其中,所述车辆被根据上述用于引导车辆行驶的方法引导;以及车速控制模块,用于在检测到障碍物的情况下,控制所述车辆减速直至停止运动。
可选地,该装置还包括:相对位置坐标确定模块,用于在检测到障碍物的情况下,确定用于所述检测模块相对所述车辆的相对位置坐标;新位置坐标确定模块,用于将所述相对位置坐标转换到所述车辆的位置坐标系中,以确定所述检测模块的新位置坐标;障碍物坐标确定模块,用于基于所检测到的障碍物相对于所述检测模块的相对位置及所述新位置坐标,确定出所述障碍物的位置坐标;场景构建模块,用于基于所述障碍物的位置坐标及所述车辆的位置坐标,构建车辆运行场景;运动轨迹确定模块,用于随着所述车辆的运动,基于所述车辆的位置坐标及所述障碍物的位置坐标,确定所述障碍物相对所述车辆的相对位置随时间的变化,以确定所述障碍物相对所述车辆的运动轨迹;以及显示模块,用于显示所述车辆运行场景和所述运动轨迹。
此外,本发明的另一方面还提供一种机器可读存储介质,该机器可读存储介质上存储有指令,该指令用于使得机器执行上述的方法。
通过上述技术方案,控制车辆跟随无人机,实现了自动引导车辆行驶,无需人员控制车辆行驶,降低了劳动强度。
本发明的其它特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本发明的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明,但并不构成对本发明的限制。在附图中:
图1是本发明一实施例提供的用于引导车辆行驶的方法的流程图;
图2是本发明另一实施例提供的相对偏移量的示意图;
图3是本发明另一实施例提供的用于控制消防车灭火的方法的流程图;
图4是本发明另一实施例提供的控制消防车灭火的逻辑示意图;
图5是本发明另一实施例提供的通信示意图;
图6是本发明另一实施例提供的判断火灾存在与否的逻辑示意图;
图7是本发明另一实施例提供的车辆前方超声波与毫米波雷达前向安装示意图;
图8是本发明另一实施例提供的车辆左右两侧二维激光雷达前向安装示意图;
图9是本发明另一实施例提供的二维激光雷达侧向安装示意图;
图10是本发明另一实施例提供的车辆上方二维激光雷达前向安装示意图;
图11是本发明另一实施例提供的车辆上方二维激光雷达俯视角安装示意图;以及
图12是本发明另一实施例提供的用于引导车辆行驶的装置的结构框图。
附图标记说明
1 无人机区域确定模块 2 相对偏移量计算模块
3 跟随控制模块
具体实施方式
以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明,并不用于限制本发明。
本发明实施例的一个方面提供一种用于引导车辆行驶的方法。
图1是本发明一实施例提供的用于引导车辆行驶的方法的流程图。如图1所示,该方法包括以下内容。其中,车辆可以是消防车。在消防车灭火的过程中通过无人机引导消防车行驶。
在步骤S10中,在采集图像中确定无人机对应的无人机区域,其中,采集图像为安装在车辆上的图像采集模块采集的无人机的图像。
可选地,采集图像可以包括可见光图像和/或热成像图像,则在采集图像中确定无人机对应的无人机区域包括三种方式。一种是基于可见光图像确定无人机区域,一种基于热成像图像确定无人机区域,再一种是基于可见光图像和热成像图像确定无人机区域。其中,可见光图像可以是采用可见光相机等基于可见光进行拍摄的设备拍摄的图像,热成像图像可以是采用红外热成像设备等基于红外热成像进行拍摄的设备拍摄的图像。
具体地,采集图像包括可见光图像和/或热成像图像,在采集图像中确定无人机对应的无人机区域包括:对可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或基于热成像图像中的温度分布,确定无人机的疑似区域,将所确定的疑似区域及无人机的模板图进行特征提取与匹配,确定第二目标区域;以及基于第一目标区域或第二目标区域,确定无人机区域。在本发明实施例中,不论采集图像包括可见光图像和热成像图像中的一者还是这两者都包括,仅根据两者中的一者确定出的目标区域,确定无人机区域。具体地,当采集图像包括可见光图像和热成像图像中的一者时,根据该一者确定无人机区域;此外,还可以通过设置权重系数,来表示对根据可见光图像和热成像图像中的每一者分别确定的目标区域的信任度。此外,当采集图像包括可见光图像和热成像图像中的两者时,可以设置选用两者中的哪一者,此外,还可以通过设置权重系数来决定,例如,选用权值系数较高的一者。可选地,在本发明实施例中,可以通过对所获取的连通区域进行轮廓匹配、模板匹配及模式识别等方式确定出第一目标区域。
在步骤S11中,计算无人机区域的中心位置与采集图像的中心位置之间的相对偏移量。
在步骤S12中,基于相对偏移量控制车辆跟随无人机,以引导车辆行驶。
通过上述技术方案,控制车辆跟随无人机,实现了自动引导车辆行驶,无需人员控制车辆行驶,降低了劳动强度。
可选地,在本发明实施例中,控制车辆跟随无人机可以采用以下方式。以车辆的运动方向为基准划分前后左右,相对偏移量包括前后方向偏移量和左右方向偏移量,基于相对偏移量控制车辆跟随无人机包括:在无人机在非转向区域的情况下,根据前后方向偏移量控制车辆;以及在无人机在转向区域的情况下,根据左右方向偏移量和前后方向偏移量控制车辆且左右方向偏移量的优先级高于前后方向偏移量的优先级。其中,转向区域和非转向区域可以根据具体情况而定,例如,设置在采集图像的整个区域中,距离采集图像的每一边的预设距离的界限组成的区域为非转向区域,采集图像的整个区域中去掉非转向区域的部分为转向区域,其中,预设距离可以根据情况而定,例如,以两边之间距离的八分之一为预设距离,如图2所示,虚线部分组成的区域为非转向区域,虚线与实线之间的部分为转向区域,每一虚线距离与其距离最近的采集图像的边的距离为与该虚线平行的采集图像的两边之间的距离的八分之一。可选地,在本发明实施例中,可以建立坐标系,将前后方向偏移量和左右方向偏移量表示成二维坐标系中的两个参量。
可选地,在本发明实施例中,根据左右方向偏移量和前后方向偏移量控制车辆且左右方向偏移量的优先级高于前后方向偏移量的优先级包括以下至少一者:在左右方向偏移量显示无人机在图像的中心位置的左侧且距离图像的中心位置的相对距离大于第一左右距离的情况下,控制车辆朝左偏移;在左右方向偏移量显示无人机在图像的中心位置的右侧且相对距离大于第二左右距离的情况下,控制车辆朝右偏移;以及在左右方向偏移量显示无人机在图像的中心位置的左侧但相对距离小于或等于第一左右距离或左右方向偏移量显示无人机在图像的中心位置的右侧但相对距离小于或等于第二左右距离的情况下,不控制车辆进行偏移,根据前后方向偏移量控制车辆。其中,在本发明实施例中,第一左右距离和第二左右距离可以根据具体情况而定,对此,不用于限制本发明,只要能保证车辆跟随无人机运动即可。
可选地,在本发明实施例中,根据前后方向偏移量控制车辆包括以下至少一者:在前后方向偏移量显示无人机在图像的中心位置的前面且距离图像的中心位置的相对距离大于第一前后距离的情况下,控制车辆朝前运动;在前后方向偏移量显示无人机在图像的中心位置的后面且相对距离大于第二前后距离的情况下,控制车辆朝后运动;以及在前后方向偏移量显示无人机在图像的中心位置的前面但相对距离小于或等于第一前后距离或前后方向偏移量显示无人机在图像的中心位置的后面但相对距离小于或等于第二前后距离的情况下,维持车辆的当前运动。其中,在本发明实施例中,第一前后距离和第二前后距离可以根据具体情况而定,对此,不用于限制本发明,只要能保证车辆跟随无人机运动即可。可选地,在本发明实施例中,第一前后距离和第二前后距离均为0。
此外,本发明实施例中的另一方面提供一种用于控制消防车灭火的方法。
图3是本发明一实施例提供的用于控制消防车灭火的方法的流程图。如图3所示,该方法包括以下内容。
在步骤S30中,基于无人机判断是否存在火灾。若存在火灾则执行步骤S31;若不存在火灾则执行步骤S30。例如,可以基于以下内容判断是否存在火灾:控制无人机采集视角内的图像;基于所采集的图像判断所述无人机的视角内是否存在火灾。例如,无人机上安装有拍摄图像的设备,可以在无人机视角内进行拍摄,采集的图像即为所拍摄出来的图像。可选地,拍摄设备可以是红外热成像设备和无线中继设备。另外,可以是通过控制无人机旋转来采集视角内的图像,也可以在无人机处于其他的运动状态下采集视角内的图像。此外,为了无人机的视角更好、根据采集的图像的效果更便于判断是否存在火灾,可以将无人机升高至预设高度位置处,其中,该预设高度可以根据具体情况而定,只要能满足采集的图像判断是否存在火灾即可。另外,无人机的视线内可能有障碍物遮挡,也可能没有障碍物遮挡。若为了基于采集的图像更好的判断是否存在火灾,可以将无人机上升至某一高度处,使得视线内没有障碍物遮挡。无人机上升至预设高度位置处后,获取最佳大视角,视线内没有障碍物遮挡,然后悬停搜索附近火灾现场。可选地,预设高度还需要满足以下原则:拍摄到的图像的分辨率大于或等于最小阈值分辨率。当拍摄到的图像的分辨率大于最小阈值分辨率时,可以根据需要调整无人机的飞行高度;当拍摄到达图像的分辨率等于最小阈值分辨率时,则不能再继续调高无人机的飞行高度。另外,无人机可以安装在消防车上,当需要判断是否存在火灾时,可以是控制安装在消防车上的无人机上升至预设高度位置处。例如,可以通过远程遥控的方式启动安装在消防车上的无人机。可选地,在本发明实施例中,预设高度可以根据当前需要灭火的环境内最大建筑物来设定,例如,通常设置默认高度100米。基于所采集的图像判断无人机的视角内是否存在火灾,具体地,当存在火灾时,所采集的图像上的信息能反映出来存在火灾。例如,所采集的图像是用红外热成像设备拍摄的,采集的图像反映了温度信息,对采集的图像进行分析,当某区域的温度超过设置的阈值时,认为存在火灾,如此,基于采集的图像,判断无人机的视角内是否存在火灾。
在步骤S31中,控制无人机朝火灾飞行。其中,无人机可以与消防车通信,由消防车来控制无人机朝火灾飞行;无人机还可以与远程指挥中心通过,远程指挥中心来控制无人机朝火灾飞行,对此,不用于限制本发明。具体地,可以是基于采集的图像控制无人机朝火灾飞行。例如,在采集的图像中,确定火灾在采集的图像上的位置,控制无人机飞行,使得火灾的位置始终出现在采集的图像中,如此,使得无人机朝火灾飞行。例如,采集的图像是用红外热成像设备拍摄的,采集的图像上反映了温度信息,温度超过设置的阈值的区域就是火灾的位置。例如,无人机在旋转过程中拍摄图像,实时分析图像,当分析得出存在火灾时,无人机停止旋转,则说明火灾在无人机的前方,控制无人机向前飞,并且始终保持火灾出现在拍摄的图像上,则可以实现控制无人机朝火灾飞行。
在步骤S32中,控制消防车跟随无人机,使得无人机引导消防车移动至距离火灾预设距离处,以使得消防车进行灭火。控制消防车跟随无人机移动,当移动到距离火灾预设距离处时,停止移动,其中,预设距离可以根据具体情况而定,该预设距离保证了无人机和/或消防车的安全。其中,可以通过以下方式来保证消防车移动至距离火灾预设距离处,一种是在无人机上安装距离传感器,可以直接检测无人机与火灾之间的距离,当无人机与火灾之间的距离达到设定的条件时,控制无人机停止移动,进而使得消防车停止移动,使得消防车距离火灾的距离为预设距离;另一种是直接确定消防车与火灾之间的距离,当消防车与火灾之间的距离为预设距离时,控制无人机停止移动,使得消防车停止移动。在本发明实施例中,控制消防车跟随无人机的方式有很多,例如,可以是通过控制消防车与无人机之间的距离始终满足预设条件来控制消防车跟随无人机,例如,预设条件可以是设定的距离或者距离范围。此外,控制消防车跟随无人机还可以采用本发明实施例中所述的用于引导车辆行驶的方法来控制消防车跟随无人机。
通过上述技术方案,在存在火灾的情况下,通过控制消防车跟随无人机使得消防车移动至火灾附近,使得消防车进行灭火,如此,实现了自动控制消防车移动至火灾处进行灭火,无需人员进入火场,降低了人员发生伤亡事故的概率;此外,通过无人机引导消防车,如此,消防车行驶过程中无需人员远程遥控消防车,降低了劳动强度。
此外,在本发明实施例中,还可以在车辆运动的过程中,检测车辆的运动方向上是否有障碍物,以及在检测到障碍物的情况下,及时采取措施。
具体地,本发明实施例的另一方面还提供一种用于控制行驶中的车辆避障的方法,该方法包括:在控制车辆行驶过程中,检测在车辆的运行方向上是否有障碍物,其中,车辆被根据本发明实施例中所述的用于引导车辆行驶的方法引导;以及在检测到障碍物的情况下,控制车辆减速直至停止运动。具体地,可以是在检测到障碍物的情况下,确定出车辆距离障碍物的距离或者以当前速度运动到障碍物的时间,根据预先设置的安全距离或者安全时间,控制车辆减速运动,直到车辆停止运动。其中,安全距离为车辆至障碍物安全距离,安全时间为车辆运动至障碍物所需要的的安全时间。此外,在遇到多个障碍物的情况下,依据距离车辆最近的这个障碍物控制车辆的运动直至车辆停止运动。可选地,车辆可以是消防车,在消防车行驶至火灾所在位置的过程中,控制消防车避障。
此外,障碍物的检测范围可以包括相对车辆的前向和后向、车辆的左侧和右侧及车辆上方的障碍物。例如,可以通过在车辆的前向左下脚和右下脚位置处安装检测模块(例如超声波雷达)来检测是否有相对位置在车辆的前向(车辆向前运动)或后向(车辆后退)的障碍物。此外,还可以在车辆的后向左下脚和右下脚位置处安装检测模块来检测是否有相对位置在车辆的前向(车辆向前运动)或后向(车辆后退)的障碍物。另外,还可以在车辆中间偏下的位置安装检测模块来检测是否有相对位置在车辆的前向(车辆向前运动)或后向(车辆后退)的障碍物。此外,还可以在车辆的左右两侧设置检测模块(例如360°二维激光雷达),来检测是否有相对位置在车辆的左右两侧的障碍物。再者,还可以在车辆上方设置检测模块(例如360°二维激光雷达),来检测是否有相对位置在车辆上方的障碍物。另外,可以通过设置雷达来检测是否有障碍物,也可以设置其他可以检测障碍物的设备来检测是否存在障碍物。
可选地,在本发明实施例中,用于控制行驶中的车辆避障的方法还包括以下内容,来对检测到的障碍物的位置及车辆的位置进行显示,使得远程遥控驾驶人员实时了解车辆及障碍物的情况;确定障碍物相对于车辆的运动轨迹,以辅助远程遥控驾驶人员驾驶决策。在检测到障碍物的情况下,确定用于检测障碍物的检测模块相对车辆的相对位置坐标。具体地,以车辆所在位置为坐标原点,建立坐标系,根据检测模块相对检测模块的相对位置,确定出检测模块相对车辆的相对位置坐标。将相对位置坐标转换到车辆的位置坐标系中,以确定检测模块的新位置坐标。车辆的位置坐标系为以大地为基准的坐标系,例如,通过GPS获取车辆的位置坐标。采用坐标标定法将检测模块的相对位置坐标转换到车辆的位置坐标系中,来获取检测模块的新位置坐标。基于所检测到的障碍物相对于检测模块的相对位置及新位置坐标,确定出障碍物的位置坐标。障碍物相对于检测模块的相对位置可以通过检测模块得到,结合检测模块的新位置坐标,则可以在车辆的位置坐标系中确定出障碍物的位置坐标。基于障碍物的位置坐标及车辆的位置坐标,构建车辆运行场景。其中,车辆运行场景包括在车辆行驶过程中,车辆和被检测到的障碍物的实时位置。此外,在车辆运行场景中还可以标记出车辆的可行驶区域,来区分车辆的行驶区域及非行驶区域。随着车辆的运动,基于车辆的位置坐标及障碍物的位置坐标,确定障碍物相对车辆的相对位置随时间的变化,以确定障碍物相对车辆的运动轨迹。随着车辆的运动,车辆的位置在实时变化,障碍物与车辆的相对位置在实时变化。根据车辆的实时位置坐标和障碍物的位置坐标,确定出障碍物与车辆的相对位置随时间的变化,从而确定出障碍物相对车辆的运动轨迹。显示车辆运行场景和运动轨迹。可选地,在本发明实施例中,可以通过栅格化显示的方式显示车辆运行场景。通过显示车辆运行场景,使得遥控驾驶员可以实时了解车辆及障碍物的位置信息。通过障碍物相对车辆的运动轨迹,实时预测车辆的运动趋势,也就是车辆距离障碍物的运动趋势,对车辆进行提前预警,辅助遥控驾驶员驾驶决策。
需要说明的是,本发明实施例中提供的用于引导车辆行驶的方法及用于控制行驶中的车辆避障的方法均可以应用在控制消防车灭火的过程中。下面结合图2及图4至图11对控制消防车灭火进行示例性介绍。
本发明实施例提供的基于无人机引导的多模操控消防车智能控制系统及方法,实现控制消防车灭火,包括基于无人机的热源自动搜索;无人机搜索到热源之后,自动控制无人机朝火场位置飞行;消防车上安装有视觉传感器(包括:可见光和热成像设备),基于视觉检测技术实现无人机的检测跟踪,并将检测结果反馈给车载控制系统,控制消防车自动跟随无人机朝火场方向运动;消防车上安装多个检测传感设备,实现车辆自动行驶过程中前向方向的障碍物自动检测及避障操作;到达火场安全位置后,自动伸展支腿、伸展臂、调整水炮,实现自动灭火。具体内容流程参见图4所示。
远程指挥中心与消防车之间采用多种无线通讯的冗余方式(包括:无线电台、4G、5G等)进行连接,同时消防车上还配备了无人机,无人机上安装了无线中继设备,使远程指挥中心可以超远距离(至少2公里)对消防车进行遥控,消防车上安装有多种传感检测设备,传感检测设备采集的数据通过无线网络反馈到指挥中心进行实时显示。如图5所示,远程指挥中心与消防车之间的网络通讯既可以直接连接,也可以通过无人机进行信号中转。多种无线通讯之间的工作方式采用基于时间分配的调度机制,当网络负载较重情况下,通过分布式节点通讯网络重定向实现某基站出现故障或者过载等问题时能够自动重新连接到其他网络上,提高无线通讯技术在超远距离、复杂环境下保障系统的冗余性和稳定性。
消防车与远程指挥中心数据连接成功后,消防人员在远程驾驶指挥中心对消防车进行遥控,并启动消防车上的无人机开始工作。
无人机上安装有红外热成像设备和无线中继设备,无人机飞行至消防车正上方一定高度H位置处,获取最佳大视角,视线内没有障碍物遮挡,然后悬停搜索附近火灾现场。其中,高度H还需要满足消防车上安装的图像拍摄设备拍摄出来的图像的分辨率大于或等于设定的分辨率。
无人机悬停后,水平360°旋转,红外热成像设备实时采集图像数据分析,判断热成像图像中是否存在温度超过设定阈值的区域,从而判断是否存在火灾。
其中,关于判断是否存在火灾的相关内容可以参见图6所示。如图6所示,若不存在检测温度超过设定温度,则调整飞行高度,继续360度水平旋转搜索。需要说明的是,在调整飞行高度时,高度H需要满足消防车上安装的图像拍摄设备拍摄出来的图像的分辨率大于或等于设定的分辨率。若不满足大于或等于设定的分辨率时,则不能再继续升高悬停高度。当检测到某区域的温度值超过设置的阈值时,无人机识别到火灾现场,并不再水平旋转。同时,给远程指挥中心进行报警提示,指挥中心消防人员收到报警信息之后,再次确认报警信息真实性,也就是消防人员确认是否存在火灾,具体地,根据传输的热成像图像判断是否存在火灾。在消防人员未确认存在火灾的情况下,调整飞行高度,继续360度水平旋转搜索。在消防人员确定存在火灾的情况下,将确认结果反馈给无人机,无人机停止旋转,调整飞行方向,准备朝火灾方向飞行。其中,关于调整飞行方向朝火灾方向飞行可以的具体实施可以参见上述实施例中所述的关于控制无人机朝火灾飞行的相关内容。
需要说明的是,在本发明实施例中,在无人机判断存在火灾的情况下,可以不经过远程指挥中心的再次确认,直接控制无人机朝火灾飞行。
无人机识别到火灾位置后,锁定火灾位置并自动控制无人机朝火灾现场位置飞行;同时地面指挥中心监控平台上也会实时显示无人机飞行方向的图像数据。其中,所述火灾位置为在热成像图像上的位置。
消防车车顶上某位置处安装可见光与红外热成像传感器,该安装位置与无人机起飞位置相邻,当无人机垂直向上飞行过程中,可以保证无人机基本处在图像的中心区域附近;当无人机检测到火灾位置后,该可见光与红外热成像传感器分别开始自动检测无人机,并对无人机进行跟踪定位。可见光相机通过对无人机的检测,首先通过边缘分割提取无人机的轮廓信息,然后再对轮廓进行填充获取连通区域,通过对联通区域的筛选提取候选目标区域,再对每个候选区域进行轮廓匹配、模板匹配、模式识别等方式实现对无人机目标的检测,确定出无人机的目标检测区域S1。红外热成像设备检测包括无人机在内的较大范围内的热源、采集图像,根据热源分布位置初步定位无人机在图像中的疑似区域,然后将事先记录好的无人机模板图与各候选区域(疑似区域)分别进行特征提取与匹配,筛选非目标区域,最终实现无人机在红外热成像图像上的目标检测区域S2。分别附权值系数α、β,其中α对应可见光相机拍摄的图像确定出的目标检测区域,β对应红外热成像设备拍摄的图像确定出的目标检测区域。权值系数体现出了对确定的目标检测区域的信任度,选用权重系数较大的一者对应的目标检测区域作为无人机的区域。
无人机搜索到火灾后,朝火灾飞行,消防车检测无人机,并自动跟随无人机朝火灾位置前进。其中,通过无人机引导消防车运动,实现消防车的自动驾驶功能,具体内容可以参见以下内容。
消防车上的图像传感器检测到无人机后,确定出在图像中的无人机对应的无人机区域,对无人机进行目标锁定及跟踪,并计算无人机中心位置(无人机区域的中心位置)与图像中心位置(图像传感器采集的图像的中心位置)之间的相对偏移量。其中,以消防车的运动方向为基准划分前后左右,相对偏移量包括前后和左右方向的偏移量。将图像传感器采集的图像的中心位置定义为图像原点,建立二维坐标系,如图2所示,其中,向前为x轴的正方向,向右为y轴的正方向,将相对偏移量表示成坐标(dx,dy),并在图像检测区域内设置消防车非转向区域和转向区域。其中,dx表示消防车前后方向的偏移量,dy表示消防车左右方向的偏移量。
根据相对偏移量控制消防车做相应的运动控制,使消防车始终跟随无人机运动,直至无人机引导消防车移动到火灾现场位置附近,具体内容如下。
(1)若无人机在非转向区域内,dx有效,dy无效,并根据dx的结果,控制消防车前进和后退操作。当dx>0时,消防车朝前运动;当dx<0时,消防车朝后运动;当dx==0时,消防车静止不动;且消防车运动速度根据偏移量大小有关,设置多级运动速度,偏移值越大,速度越大,偏移值越小,速度越慢。
(2)若无人机在转向区域内,则dx和dy均有效,且dy的优先级高于dx,先根据dy的结果进行转向控制,再根据dx进行前后控制。设定转向缓冲阈值s,当dy>s时,消防车朝右偏移;当dy<-s时,消防车朝左偏移;当-s≤dy≤s时,消防车不偏移,消防车根据dx的结果进行前后控制,如上述步骤(1)。
消防车移动过程中,自动进行运动方向上障碍物的检测。消防车身上多个关键位置安装有超声波雷达、激光雷达、毫米波雷达等设备,这些设备用于消防车在行径过程中车身周围障碍物的检测,检测的区域包括:车辆前向运动方向、车辆左侧、车辆右侧、车辆上方,也就是检测是否有障碍物,其相对于车辆的相对位置在车辆的前向运动方向、车辆左侧、车辆右侧及车辆上方。需要说明的是,在该实施例中,以车辆向前运动为例进行说明;此外,还可以是在车辆后退的过程中,检测是否有障碍物,也就是检测是否有障碍物,其相对于车辆的相对位置在车辆的后向运动方向、车辆左侧、车辆右侧及车辆上方。其中,当检测是否有相对位置在车辆的后向运动方向上时可以采用下述中设置的用于检测前向运动方向上的障碍物的检测模块,也可以在车辆的后向位置处设置检测模块来检测后向运动方向上的障碍物。
前向运动方向:在车辆前向左下脚和右下脚两个位置处安装超声波雷达,实现前向短距离(例如,10米)范围内的障碍物检测;在中间偏下的位置安装毫米波雷达,实现前向远距离(例如,70米)范围内的障碍物检测;通过超声波雷达与毫米波雷达互补,实现车辆前向方向下方范围内障碍物的检测。其中,车辆前方超声波与毫米波雷达前向安装示意图如图7所示。
车辆左侧、右侧:分别在车辆左侧和右侧中间位置处安装360°二维激光雷达,激光雷达向外侧凸出一段距离,例如0.5米,形成半圆形检测区域,例如,以激光雷达为中心、半径为30米的半圆形检测区域,实现该区域内障碍物的检测。二维激光雷达的安装示意图可以参见图8和图9所示。其中,图8为车辆左右两侧二维激光雷达前向安装示意图,图9为二维激光雷达侧向安装示意图。
车辆上方:在消防车车头上方中间位置处安装360°二维激光雷达,通过相关设置,行程半圆形检测区域,实现车头前向方向上方范围内障碍物的检测。例如,形成以激光雷达为中心、半径为30米的车辆前向方向的半圆形检测区域。其中,二维激光雷达的安装示意图如图10和图11所示,图10为车辆上方二维激光雷达前向安装示意图,图11为车辆上方二维激光雷达俯视角安装示意图。
消防车在行驶过程中,车辆自动检测车辆行驶方向内的障碍物,并根据检测结果进行减速急停处理,同时提醒消防员前方存在障碍物,使消防员随时介入消防车的自动驾驶模式,改为人工操控。具体地,当检测到障碍物时,根据检测到障碍物的距离值与车辆运动速度分析,计算并预测车辆运动至车身扫描空间内静/动态目标(障碍物)的冲突时距,以设定安全时距为目标,限制车辆安全速度,实现车辆自动限速或急停处理。其中,冲突时距和安全时距均为时间。消防车停止后,由消防人员远程遥控消防车运动。
在远程显示终端界面上将消防车上所有的传感器信息进行融合显示形成车辆行驶过程中的实时栅格化地图,供消防人员直观掌握消防车周围的障碍物情况。采用坐标标定法将所有传感器的位置信息统一到同一坐标系中;采用2D可视化技术,将车身、车辆周围存在的障碍物等目标进行栅格化显示,结合障碍物在车辆坐标系中的位置坐标及车辆的GPS定位信息构建全局的车辆运行场景和可行驶区域地图;结合连续障碍物检测结果的时序性,也就是本发明实施例中所述的随着车辆的运动,确定障碍物相对于车辆的相对位置随时间的变化,从而确定出障碍物相对车辆的运动轨迹,通过运动目标轨迹管理实时预测车辆的运动趋势实现提前预警功能,辅助遥控驾驶员驾驶决策。
当无人机飞行到火灾现场安全区域,消防车跟随无人机自动驾驶到该区域并停靠在安全位置,消防车自动展开支腿、臂架,自动调整水炮枪方位,实施灭火救援工作。其中,所述安全区域可以根据情况设定。无人机是否到达安全区域可以根据无人机与火灾之间的距离而定,设置距离传感器时刻检测无人机与火灾之间的距离,达到设定距离后,停止,此时,无人机到达安全区域,无人机停止运动后,消防车停止运动,消防车到达安全区域并停靠在安全位置。
目前,消防车的入场和灭火过程主要是通过消防人员自主操控来实现,而本发明专利提供了一种无人机搭载热传感设备识别判断火灾现场的初步位置,识别火灾位置后,无人机主动朝火灾现场位置飞行;然后,消防车自动识别无人机并对其进行跟踪控制,实现无人机引导消防车远程遥控/自动驾驶至火灾现场安全区域,同时在自动驾驶过程中,消防车具备前向方向及周围其他方向障碍物的检测及消防车自主避障;到达火灾现场安全区域后,通过无人机还可以再次确认火灾现场的具体位置,实现消防车自动对火灾位置进行灭火救援,同时将现场环境的感知数据(包括视频图像、有毒气体、温度等数据)实时反馈给远程控制指挥中心。该技术方案使消防车能够快速、安全入场并开展灭火救援,消防人员无需随车一起进入未知危险的火场,且入场和灭火过程无需人工介入,降低消防人员工作强度,减少人员伤亡事故,可满足数字化施工要求。
本发明实施例提供的技术方案实现了:1)基于热成像与可见光双光谱视觉检测技术与数据融合技术实现无人机的检测与定位;2)根据无人机检测结果控制消防车对无人机进行自动跟随,实现无人机对消防车的自动驾驶引导;3)在消防车身上多个关键位置安装超声波雷达、毫米波雷达及激光雷达,通过多传感融合技术实现消防车全身范围内的障碍物检测;4)消防车车身周围障碍物信息实时栅格化地图显示,将障碍物检测结果叠加到地图上,并对障碍物检测结果进行运动目标轨迹管理,实时预测车辆的运动趋势实现提前预警功能,辅助远程遥控驾驶人员驾驶决策。
相应地,本发明实施例的另一方面提供一种用于引导车辆行驶的装置。
图12是本发明另一实施例提供的用于引导车辆行驶的装置的结构框图。如图9所示,该装置包括无人机区域确定模块1、相对偏移量计算模块2和跟随控制模块3。其中,无人机区域确定模块1用于在采集图像中确定无人机对应的无人机区域,其中,采集图像为安装在车辆上的图像采集模块采集的无人机的图像;相对偏移量计算模块2用于计算无人机区域的中心位置与采集图像的中心位置之间的相对偏移量;跟随控制模块3用于基于相对偏移量控制车辆跟随无人机,以引导车辆行驶。
可选地,在本发明实施例中,采集图像包括可见光图像和/或热成像图像,无人机区域确定模块在采集图像中确定无人机对应的无人机区域包括:对可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或基于热成像图像中的温度分布,确定无人机的疑似区域,将所确定的疑似区域及无人机的模板图进行特征提取与匹配,确定第二目标区域;以及基于第一目标区域或第二目标区域,确定无人机区域。
可选地,在本发明实施例中,以车辆的运动方向为基准划分前后左右,相对偏移量包括前后方向偏移量和左右方向偏移量,跟随控制模块基于相对偏移量控制车辆跟随无人机包括:在无人机在非转向区域的情况下,根据前后方向偏移量控制车辆;以及在无人机在转向区域的情况下,根据左右方向偏移量和前后方向偏移量控制车辆且左右方向偏移量的优先级高于前后方向偏移量的优先级。
可选地,在本发明实施例中,根据左右方向偏移量和前后方向偏移量控制车辆且左右方向偏移量的优先级高于前后方向偏移量的优先级包括以下至少一者:在左右方向偏移量显示无人机在图像的中心位置的左侧且距离图像的中心位置的相对距离大于第一左右距离的情况下,控制车辆朝左偏移;在左右方向偏移量显示无人机在图像的中心位置的右侧且相对距离大于第二左右距离的情况下,控制车辆朝右偏移;以及在左右方向偏移量显示无人机在图像的中心位置的左侧但相对距离小于或等于第一左右距离或左右方向偏移量显示无人机在图像的中心位置的右侧但相对距离小于或等于第二左右距离的情况下,不控制车辆进行偏移,根据前后方向偏移量控制车辆。
可选地,在本发明实施例中,根据前后方向偏移量控制车辆包括以下至少一者:在前后方向偏移量显示无人机在图像的中心位置的前面且距离图像的中心位置的相对距离大于第一前后距离的情况下,控制车辆朝前运动;在前后方向偏移量显示无人机在图像的中心位置的后面且相对距离大于第二前后距离的情况下,控制车辆朝后运动;以及在前后方向偏移量显示无人机在图像的中心位置的前面但相对距离小于或等于第一前后距离或前后方向偏移量显示无人机在图像的中心位置的后面但相对距离小于或等于第二前后距离的情况下,维持车辆的当前运动。
本发明实施例提供的用于引导车辆行驶的装置的具体工作原理及益处与本发明实施例提供的用于引动车辆行驶的方法的具体工作原理及益处相似,这里将不再赘述。
此外,本发明实施例的另一方面还提供一种用于引导车辆行驶的系统,该系统包括:上述实施例中所述的用于引导车辆行驶的装置;以及图像采集模块,被安装在车辆上,用于采集无人机的图像。其中,无人机可以被安装在车辆上,用于引导车辆行驶。例如,当需要引导车辆行驶时,无人机上升至预设高度位置处,采集无人机的图像,进而基于采集的图像引导车辆行驶。
相应地,本发明实施例的另一方面还提供一种用于控制消防车灭火的装置,该装置包括:火灾判断模块,用于基于无人机判断是否存在火灾;以及处理模块,用于在存在火灾的情况下,执行以下操作:控制无人机朝火灾飞行;以及根据本发明实施例所述的用于引导车辆行驶的方法控制消防车跟随无人机,使得无人机引导消防车移动至距离火灾预设距离处,以使得消防车进行灭火。
可选地,在本发明实施例中,火灾判断模块基于无人机判断是否存在火灾包括:控制无人机采集视角内的图像;以及基于所采集的图像判断无人机的视角内是否存在火灾。
本发明实施例提供的用于控制消防车灭火的装置的具体工作原理及益处与本发明实施例提供的用于控制消防车灭火的方法的具体工作原理及益处相似,这里将不再赘述。
此外,本发明实施例的另一方面还提供一种消防车,该消防车包括上述实施例中所述的用于控制消防车灭火的装置。
相应地,本发明实施例的另一方面还提供一种用于控制行驶中的车辆避障的装置,该装置还包括:检测模块,用于在控制车辆行驶过程中,检测在车辆的运行方向上是否有障碍物,其中,车辆被根据本发明实施例提供的用于引导车辆行驶的方法引导;以及车速控制模块,用于在检测到障碍物的情况下,控制车辆减速直至停止运动。
可选地,在本发明实施例中,该装置还包括:相对位置坐标确定模块,用于在检测到障碍物的情况下,确定用于检测模块相对车辆的相对位置坐标;新位置坐标确定模块,用于将相对位置坐标转换到车辆的位置坐标系中,以确定检测模块的新位置坐标;障碍物坐标确定模块,用于基于所检测到的障碍物相对于检测模块的相对位置及新位置坐标,确定出障碍物的位置坐标;场景构建模块,用于基于障碍物的位置坐标及车辆的位置坐标,构建车辆运行场景;运动轨迹确定模块,用于随着车辆的运动,基于车辆的位置坐标及障碍物的位置坐标,确定障碍物相对车辆的相对位置随时间的变化,以确定障碍物相对车辆的运动轨迹;以及显示模块,用于显示车辆运行场景和运动轨迹。
本发明实施例提供的用于控制行驶中的车辆避障的装置的具体工作原理及益处与本发明实施例提供的用于控制行驶中的车辆避障的方法的具体工作原理及益处相似,这里将不再赘述。
此外,本发明实施例的另一方面还提供一种机器可读存储介质,该机器可读存储介质上存储有指令,该指令用于使得机器执行上述实施例中所述的方法。
以上结合附图详细描述了本发明的优选实施方式,但是,本发明并不限于上述实施方式中的具体细节,在本发明的技术构思范围内,可以对本发明的技术方案进行多种简单变型,这些简单变型均属于本发明的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本发明对各种可能的组合方式不再另行说明。
此外,本发明的各种不同的实施方式之间也可以进行任意组合,只要其不违背本发明的思想,其同样应当视为本发明所公开的内容。
Claims (19)
1.一种用于引导车辆行驶的方法,其特征在于,该方法包括:
在采集图像中确定无人机对应的无人机区域,其中,所述采集图像为安装在所述车辆上的图像采集模块采集的所述无人机的图像;
计算所述无人机区域的中心位置与所述采集图像的中心位置之间的相对偏移量;以及
基于所述相对偏移量控制所述车辆跟随所述无人机,以引导所述车辆行驶;
其中,以所述车辆的运动方向为基准划分前后左右,所述相对偏移量包括前后方向偏移量和左右方向偏移量,所述基于所述相对偏移量控制所述车辆跟随所述无人机包括:
在所述无人机在非转向区域的情况下,根据所述前后方向偏移量控制所述车辆;以及
在所述无人机在转向区域的情况下,根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级。
2.根据权利要求1所述的方法,其特征在于,所述采集图像包括可见光图像和/或热成像图像,所述在采集图像中确定所述无人机对应的无人机区域包括:
对所述可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或
基于所述热成像图像中的温度分布,确定所述无人机的疑似区域,将所确定的疑似区域及所述无人机的模板图进行特征提取与匹配,确定第二目标区域;以及
基于所述第一目标区域或所述第二目标区域,确定所述无人机区域。
3.根据权利要求1所述的方法,其特征在于,所述根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级包括以下至少一者:
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧且距离所述图像的中心位置的相对距离大于第一左右距离的情况下,控制所述车辆朝左偏移;
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧且所述相对距离大于第二左右距离的情况下,控制所述车辆朝右偏移;以及
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧但所述相对距离小于或等于所述第一左右距离或所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧但所述相对距离小于或等于所述第二左右距离的情况下,不控制所述车辆进行偏移,根据所述前后方向偏移量控制所述车辆。
4.根据权利要求1或3所述的方法,其特征在于,所述根据所述前后方向偏移量控制所述车辆包括以下至少一者:
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面且距离所述图像的中心位置的相对距离大于第一前后距离的情况下,控制所述车辆朝前运动;
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面且所述相对距离大于第二前后距离的情况下,控制所述车辆朝后运动;以及
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面但所述相对距离小于或等于所述第一前后距离或所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面但所述相对距离小于或等于所述第二前后距离的情况下,维持所述车辆的当前运动。
5.一种用于控制消防车灭火的方法,其特征在于,该方法包括:
基于无人机判断是否存在火灾;以及
在存在火灾的情况下,执行以下操作:
控制所述无人机朝所述火灾飞行;以及
根据权利要求1-4中任一项所述的方法控制所述消防车跟随所述无人机,使得所述无人机引导所述消防车移动至距离所述火灾预设距离处,以使得所述消防车进行灭火。
6.根据权利要求5所述的方法,其特征在于,所述基于无人机判断是否存在火灾包括:
控制所述无人机采集视角内的图像;以及
基于所采集的图像判断所述无人机的视角内是否存在火灾。
7.一种用于控制行驶中的车辆避障的方法,其特征在于,该方法包括:
在控制所述车辆行驶过程中,检测在所述车辆的运行方向上是否有障碍物,其中,所述车辆被根据权利要求1-4中任一项所述的方法引导;以及
在检测到障碍物的情况下,控制所述车辆减速直至停止运动。
8.根据权利要求7所述的方法,其特征在于,在检测到障碍物的情况下,该方法还包括:
确定用于检测障碍物的检测模块相对所述车辆的相对位置坐标;
将所述相对位置坐标转换到所述车辆的位置坐标系中,以确定所述检测模块的新位置坐标;
基于所检测到的障碍物相对于所述检测模块的相对位置及所述新位置坐标,确定出所述障碍物的位置坐标;
基于所述障碍物的位置坐标及所述车辆的位置坐标,构建车辆运行场景;
随着所述车辆的运动,基于所述车辆的位置坐标及所述障碍物的位置坐标,确定所述障碍物相对所述车辆的相对位置随时间的变化,以确定所述障碍物相对所述车辆的运动轨迹;以及
显示所述车辆运行场景和所述运动轨迹。
9.一种用于引导车辆行驶的装置,其特征在于,该装置包括:
无人机区域确定模块,用于在采集图像中确定无人机对应的无人机区域,其中,所述采集图像为安装在所述车辆上的图像采集模块采集的所述无人机的图像;
相对偏移量计算模块,用于计算所述无人机区域的中心位置与所述采集图像的中心位置之间的相对偏移量;以及
跟随控制模块,用于基于所述相对偏移量控制所述车辆跟随所述无人机,以引导所述车辆行驶;
其中,以所述车辆的运动方向为基准划分前后左右,所述相对偏移量包括前后方向偏移量和左右方向偏移量,所述跟随控制模块基于所述相对偏移量控制所述车辆跟随所述无人机包括:
在所述无人机在非转向区域的情况下,根据所述前后方向偏移量控制所述车辆;以及
在所述无人机在转向区域的情况下,根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级。
10.根据权利要求9所述的装置,其特征在于,所述采集图像包括可见光图像和/或热成像图像,所述无人机区域确定模块在采集图像中确定所述无人机对应的无人机区域包括:
对所述可见光图像进行边缘分割提取轮廓,对所提取的轮廓进行填充获取连通区域,对所获取的连通区域进行处理,确定第一目标区域;和/或
基于所述热成像图像中的温度分布,确定所述无人机的疑似区域,将所确定的疑似区域及所述无人机的模板图进行特征提取与匹配,确定第二目标区域;以及
基于所述第一目标区域或所述第二目标区域,确定所述无人机区域。
11.根据权利要求9所述的装置,其特征在于,所述根据所述左右方向偏移量和所述前后方向偏移量控制所述车辆且所述左右方向偏移量的优先级高于所述前后方向偏移量的优先级包括以下至少一者:
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧且距离所述图像的中心位置的相对距离大于第一左右距离的情况下,控制所述车辆朝左偏移;
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧且所述相对距离大于第二左右距离的情况下,控制所述车辆朝右偏移;以及
在所述左右方向偏移量显示所述无人机在所述图像的中心位置的左侧但所述相对距离小于或等于所述第一左右距离或所述左右方向偏移量显示所述无人机在所述图像的中心位置的右侧但所述相对距离小于或等于所述第二左右距离的情况下,不控制所述车辆进行偏移,根据所述前后方向偏移量控制所述车辆。
12.根据权利要求9或11所述的装置,其特征在于,所述根据所述前后方向偏移量控制所述车辆包括以下至少一者:
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面且距离所述图像的中心位置的相对距离大于第一前后距离的情况下,控制所述车辆朝前运动;
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面且所述相对距离大于第二前后距离的情况下,控制所述车辆朝后运动;以及
在所述前后方向偏移量显示所述无人机在所述图像的中心位置的前面但所述相对距离小于或等于所述第一前后距离或所述前后方向偏移量显示所述无人机在所述图像的中心位置的后面但所述相对距离小于或等于所述第二前后距离的情况下,维持所述车辆的当前运动。
13.一种用于引导车辆行驶的系统,其特征在于,该系统包括:
权利要求9-12中任一项所述的装置;以及
图像采集模块,被安装在所述车辆上,用于采集无人机的图像。
14.一种用于控制消防车灭火的装置,其特征在于,该装置包括:
火灾判断模块,用于基于无人机判断是否存在火灾;以及
处理模块,用于在存在火灾的情况下,执行以下操作:
控制所述无人机朝所述火灾飞行;以及
根据权利要求1-4中任一项所述的方法控制所述消防车跟随所述无人机,使得所述无人机引导所述消防车移动至距离所述火灾预设距离处,以使得所述消防车进行灭火。
15.根据权利要求14所述的装置,其特征在于,所述火灾判断模块基于无人机判断是否存在火灾包括:
控制所述无人机采集视角内的图像;以及
基于所采集的图像判断所述无人机的视角内是否存在火灾。
16.一种消防车,其特征在于,该消防车包括权利要求14或15所述的装置。
17.一种用于控制行驶中的车辆避障的装置,其特征在于,该装置还包括:
检测模块,用于在控制所述车辆行驶过程中,检测在所述车辆的运行方向上是否有障碍物,其中,所述车辆被根据权利要求1-4中任一项所述的方法引导;以及
车速控制模块,用于在检测到障碍物的情况下,控制所述车辆减速直至停止运动。
18.根据权利要求17所述的装置,其特征在于,该装置还包括:
相对位置坐标确定模块,用于在检测到障碍物的情况下,确定用于所述检测模块相对所述车辆的相对位置坐标;
新位置坐标确定模块,用于将所述相对位置坐标转换到所述车辆的位置坐标系中,以确定所述检测模块的新位置坐标;
障碍物坐标确定模块,用于基于所检测到的障碍物相对于所述检测模块的相对位置及所述新位置坐标,确定出所述障碍物的位置坐标;
场景构建模块,用于基于所述障碍物的位置坐标及所述车辆的位置坐标,构建车辆运行场景;
运动轨迹确定模块,用于随着所述车辆的运动,基于所述车辆的位置坐标及所述障碍物的位置坐标,确定所述障碍物相对所述车辆的相对位置随时间的变化,以确定所述障碍物相对所述车辆的运动轨迹;以及
显示模块,用于显示所述车辆运行场景和所述运动轨迹。
19.一种机器可读存储介质,该机器可读存储介质上存储有指令,该指令用于使得机器执行权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010995962.0A CN114247071B (zh) | 2020-09-21 | 2020-09-21 | 引导车辆行驶的方法及控制消防车灭火的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010995962.0A CN114247071B (zh) | 2020-09-21 | 2020-09-21 | 引导车辆行驶的方法及控制消防车灭火的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114247071A CN114247071A (zh) | 2022-03-29 |
CN114247071B true CN114247071B (zh) | 2023-04-28 |
Family
ID=80788999
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010995962.0A Active CN114247071B (zh) | 2020-09-21 | 2020-09-21 | 引导车辆行驶的方法及控制消防车灭火的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114247071B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105512628A (zh) * | 2015-12-07 | 2016-04-20 | 北京航空航天大学 | 基于无人机的车辆环境感知系统及方法 |
CN105654773A (zh) * | 2016-01-07 | 2016-06-08 | 张文忠 | 一种车载伴飞无人机智能导引系统 |
CN106845491A (zh) * | 2017-01-18 | 2017-06-13 | 浙江大学 | 一种停车场场景下基于无人机的自动纠偏方法 |
CN108877273A (zh) * | 2018-08-30 | 2018-11-23 | 深圳市研本品牌设计有限公司 | 一种无人机配合救援的方法 |
CN109125994A (zh) * | 2018-09-20 | 2019-01-04 | 长沙中联消防机械有限公司 | 消防车智能控制系统和方法及消防车 |
CN109276831A (zh) * | 2018-07-26 | 2019-01-29 | 长沙中联消防机械有限公司 | 举高消防车灭火系统、方法以及举高消防车 |
CN110782095A (zh) * | 2019-10-29 | 2020-02-11 | 广东中科瑞泰智能科技有限公司 | 一种消防路线规划方法、装置、电子设备及存储介质 |
JP2020052629A (ja) * | 2018-09-26 | 2020-04-02 | 三菱ロジスネクスト株式会社 | 搬送システム |
-
2020
- 2020-09-21 CN CN202010995962.0A patent/CN114247071B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105512628A (zh) * | 2015-12-07 | 2016-04-20 | 北京航空航天大学 | 基于无人机的车辆环境感知系统及方法 |
CN105654773A (zh) * | 2016-01-07 | 2016-06-08 | 张文忠 | 一种车载伴飞无人机智能导引系统 |
CN106845491A (zh) * | 2017-01-18 | 2017-06-13 | 浙江大学 | 一种停车场场景下基于无人机的自动纠偏方法 |
CN109276831A (zh) * | 2018-07-26 | 2019-01-29 | 长沙中联消防机械有限公司 | 举高消防车灭火系统、方法以及举高消防车 |
CN108877273A (zh) * | 2018-08-30 | 2018-11-23 | 深圳市研本品牌设计有限公司 | 一种无人机配合救援的方法 |
CN109125994A (zh) * | 2018-09-20 | 2019-01-04 | 长沙中联消防机械有限公司 | 消防车智能控制系统和方法及消防车 |
JP2020052629A (ja) * | 2018-09-26 | 2020-04-02 | 三菱ロジスネクスト株式会社 | 搬送システム |
CN110782095A (zh) * | 2019-10-29 | 2020-02-11 | 广东中科瑞泰智能科技有限公司 | 一种消防路线规划方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114247071A (zh) | 2022-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108334103B (zh) | 无人机多距离避障方法及避障系统 | |
US9783320B2 (en) | Airplane collision avoidance | |
US7061401B2 (en) | Method and apparatus for detecting a flight obstacle | |
CN206691107U (zh) | 无人驾驶汽车系统及汽车 | |
JP6267972B2 (ja) | 作業機械の周囲監視装置 | |
JP5456123B1 (ja) | 作業車両用周辺監視システム及び作業車両 | |
US11014667B2 (en) | Rail vehicle and on-board safety drone | |
JP6539073B2 (ja) | 監視システム及び飛行ロボット | |
CN110176156A (zh) | 一种机载地面预警系统 | |
CA3010965C (en) | Rail vehicle and on-board safety drone | |
KR101587479B1 (ko) | 영상 정보를 이용한 무인비행체의 위치 유도 제어방법 | |
KR20180104956A (ko) | 드론 관리 시스템 | |
CN109521780B (zh) | 遥控作业车辆的控制系统及控制方法 | |
CN109597077A (zh) | 一种基于无人机的探测系统 | |
EP3640915A1 (en) | Uav network assisted situational self-driving | |
CN110989642B (zh) | 基于三维路径跟踪的航空器地面牵引智能辅助方法及系统 | |
CN110209200A (zh) | 列车轨道用障碍物探测方法及障碍物探测系统 | |
KR102184598B1 (ko) | 자율주행차량의 운전자 응급상황발생판단에 기반한 주행예측 및 안전주행시스템 | |
KR101944952B1 (ko) | 화재 탐지 기능의 무인항공기 | |
JP2018055362A (ja) | 監視システム | |
CN114247071B (zh) | 引导车辆行驶的方法及控制消防车灭火的方法 | |
CN111405252B (zh) | 飞行器的安全监控系统 | |
CN108154715B (zh) | 一种侧向碰撞监测方法 | |
CN115188091B (zh) | 一种融合电力输变配设备的无人机网格化巡检系统及方法 | |
EP4152289A1 (en) | Computer system and method for providing wildfire evacuation support |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |