具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种无人机的控制方法,参见图1所示,该方法包括:
步骤S101:获取飞行空间中的障碍物的深度数据。
具体地,参见图2,控制终端204控制无人机在飞行空间中飞行,无人机上安装有深度传感器201,例如深度传感器201可以安装在无人机的机头上,或者安装在无人机的云台上,或者安装在无人机的机腹或机背等,其中深度传感器201如图2所示被安装在无人机的机身内只是为了进行示意性说明,当无人机在飞行空间中飞行时,无人机上的深度传感器201会获取飞行空间中的障碍物205、206的深度数据,根据深度数据可以获取深度图像。其中,获取上述深度数据的深度传感器为所有可以获取深度数据的传感器,所述深度传感器可以具体为TOF相机、RGB相机、双目摄像头、单目摄像头、激光雷达等。在获取到障碍物的深度数据或者深度图像后,通过相应的换算可以获取障碍物205、206的点云信息,这样,通过点云信息,即可以知道在当前的飞行空间内的障碍物205、206的位置信息、轮廓信息、大小信息等等。
另外,无人机上配置有效负载203,其中,有效负载203通过承载件202与无人机的机身连接,其中有效负载可以为拍摄设备,承载件202可以为拍摄设备增稳的部件,例如云台。拍摄设备可以对飞行空间中的物体进行拍摄,同时,无人机可以将拍摄设备拍摄获取的实时图像通过无人机的下行数据链路传输给无人机的控制终端204,控制终端204可以配置有交互装置,交互装置可以显示所述实时图像。其中,本实施例中的控制终端可以为膝上型电脑、平板电脑、智能手机、穿戴式设备(手表、手环)、地面控制站等及其组合。其中交互装置可以包括显示器(例如触摸显示器)、智能手机、平板电脑等。
步骤S102:根据所述深度数据确定触发避障操作的障碍物的信息。
本实施例中,参见图2,上述深度传感器201获取的深度数据能够反映出当前飞行空间中的不同障碍物205、206与无人机之间的距离状况信息,在无人机飞行的过程中,当无人机与飞行空间障碍物接近时,当无人机与障碍物之间的距离小于或等于预设的距离阈值时,例如,当无人机与障碍物205之间的距离小于或等于预设的距离阈值时,障碍物205触发了无人机的避障操作,为了无人机的飞行安全,无人机将对障碍物205绕飞,或者在障碍物205前面悬停,此时,无人机根据获取的深度数据,确定触发避障操作的障碍物205的信息。其中,所述障碍物205的信息可以包括障碍物205的位置信息、障碍物205的深度数据、障碍物205的分类标记(本文后述部分会对分类标记进行介绍,在这里先不赘述)中的至少一种。
步骤S103:将障碍物的信息发送给无人机的控制终端。
可以理解的是,在确定出触发无人机的避障操作的障碍物205的信息时,无人机可以通过下行数据链路将障碍物205的信息发送给控制终端204,当上述控制终端204获取到障碍物205的信息之后,将可以根据障碍物205的信息对控制终端上的交互装置的显示内容和/或显示方式进行调整控制,以使得经过调整后的显示内容和/或显示方式能够起到提示用户的作用,具体地,可以将障碍物205的信息映射到控制终端204接收到的无人机上的拍摄设备获取的实时图像上,控制终端204可以配置交互装置,控制终端204可以将障碍物的信息映射到交互装置显示的实时图像上,这样用户通过观察映射后得到的图像,即可以知道当前触发避障的障碍物是障碍物205,当前无人机正在对障碍物205进行避障操作,也即起到提示用户当前无人机的不受控制的行为是由于避障操作导致的,而并非是由无人机的故障所导致的。
通过上述公开的技术方案可知,本发明实施例在无人机触发避障操作的情况下,将会根据飞行空间中障碍物的深度数据来确定触发避障操作的障碍物的信息,然后将上述确定出的障碍物的信息发送至无人机的控制终端,控制终端将障碍物的信息映射到交互装置显示的实时图像上,这样当触发避障操作时,用户将可以通过控制终端获知当前触发无人机避障的是飞行空间中的哪个障碍物,此时将会让用户及时地意识到当前无人机正在进行避障操作,而不会误以为无人机自身出现故障,使得用户能够及时了解无人机当前所处的飞行状态。
在图1中实施例公开的无人机的控制方法的基础上,参见图3所示,本发明实施例公开了一种具体的无人机的控制方法,包括以下步骤:
步骤S201:获取飞行空间中的障碍物的深度数据。
本实施例中,考虑到深度传感器获取到的深度数据通常会存在噪声以及由误检测引起的错误信息,导致数据出现不连续性和信息缺失等问题,所以本实施例可以在获取到飞行空间中障碍物的深度数据后,可以对深度数据进行相应的预处理,此处的深度数据具体可以为深度图像。例如,可以对深度数据进行形态学滤波处理,以断开障碍物之间狭窄的间隙和/或消除孤立的噪点和/或平滑障碍物的轮廓等,后续的步骤均可基于上述预处理后的深度数据来展开。
在某些实施例中,由于飞行空间中的障碍物都是连续的,可以根据深度数据对飞行空间中的连通区域进行搜索,通过找出空间中的连通区域,提取出飞行空间中的障碍物,进一步地,可以通过连通区域对障碍物进行分块,将不同的障碍物区分开来,此时可以对不同的障碍物进行分类标记。通过对连通域进行处理,分类标记可以指示障碍物的种类,例如指示障碍物为用户、汽车、建筑等。
步骤S202:根据深度数据建立障碍物地图。
具体地,在获取障碍物的深度数据后,基于上述深度数据,对飞行空间中障碍物进行三维建模,得到上述障碍物地图。具体的,无人机通过传感器系统获取无人机的位置信息和/或无人机的姿态信息,根据所述深度数据与无人机的位置信息和/或姿态信息建立障碍物地图,其中可以根据无人机的姿态信息来确定深度传感器的姿态。需要指出的是,本步骤中所涉及的深度数据优先为上述经过预处理后的深度数据。
在某些实施例中,本实施例在建立障碍物地图的过程中,具体可以根据上述多帧深度数据来建立障碍物地图。具体地,无人机上的深度传感器可以以一定的帧率来获取飞行空间的深度数据,无人机在飞行空间中飞行的过程中,深度传感器可以获取飞行空间中不同位置的障碍物的深度数据,根据深度传感器在不同位置获取的所述多帧深度数据,如前所述,并结合无人机的位置信息和/或姿态信息,即可以得到与所有无人机飞行的地方对应的障碍物地图。另外,在某些情况下,飞行空间中的某些障碍物可能会移动,导致障碍物在飞行空间中的位置发生改变,另外,一帧深度数据只能反映障碍物在某一时刻的空间位置,并且一帧深度数据只能反映无人机在一个位置上时障碍物的空间分布,因此结合深度传感器获取的多帧深度数据,即可以得到在不同时刻的障碍物的空间位置,即能够更加全面地确定障碍物在空间中的分布。在判定障碍物移动时,无人机可以使用深度传感器获取的最新的深度数据来更新障碍物地图,此时障碍物地图即可以反映飞行空间中障碍物位置的变化,同时,能够感应障碍物完整的空间分布情况,保证障碍物地图的准确性。
步骤S203:从障碍物地图中获取触发避障操作的障碍物的信息。
具体地,在建立障碍物地图后,无人机便已经知悉障碍物在飞行空间中的障碍物的位置分布情况,可以根据所述建立的障碍物地图和无人机的位置确定是否触发避障操作。无人机在飞行空间中飞行时,无人机可以根据自身的位置信息、姿态信息等查询障碍物地图以获取无人机周围的障碍物相关信息,即可以获取无人机周围每一个障碍物与无人机之间的距离。当无人机与无人机周围的某个障碍物之间的距离小于或等于预设的距离阈值时,可由此确定当前存在障碍物触发了无人机的避障操作,此时,无人机可以查询障碍物地图,以确定在当前的位置上具体是飞行空间中的哪个障碍物触发了避障操作,通过上述障碍物地图还可以获取触发避障操作的障碍物的位置信息、深度数据、分类标记等。
步骤S204:将障碍物的信息发送给无人机的控制终端。
步骤S204和步骤S103的具体方法和原理一致,此处不再赘述。
在某些实施例中,根据预设的运算模型为多帧深度数据中的至少两帧深度数据配置相应的权值,根据所述配置的权值和所述深度数据建立障碍物地图。具体地,在不同的深度数据测量时刻下,无人机与飞行空间中的障碍物之间的距离不相同,即深度传感器与障碍物之间的距离不相同,在不同的测量距离下,深度传感器的测量精度不一样,例如TOF相机在离障碍物1m左右时,其测量的深度数据是最准确的,深度传感器获取的多帧深度数据中每一帧对应的测量精度会有所不同,所以本实施例可以根据预设的运算模型为不同时刻测量到的深度数据配置对应的权重,当障碍物位于深度传感器测量精度较高的距离范围内时,为获取到的该帧深度数据配置较高的权值,当障碍物位于深度传感器测量精度较低的距离范围内时,为获取到的该帧深度数据配置较低的权值,通过配置权值后的多帧深度数据来建立障碍物地图,这样可以使构建的地图更加精准。其中,上述预设的运算模型具体为深度传感器的测量精度模型。
进一步的,在同一帧深度数据中,可能存在多个障碍物对应的深度数据,所述多个障碍物可能距离深度传感器的距离各不相同,每一个障碍物对应的深度数据的测量精度可能各不相同,不同测量距离范围内的障碍物所对应的深度数据的测量精度也会有所不同,因此,本实施例可以为同一帧深度数据中的不同障碍物进行分块处理,通过分块处理,可以将不同的障碍物进行分开,然后可以根据深度传感器距离障碍物的距离和深度传感器的精度模型为每一个障碍物对应的深度配置相应的权值。根据所述配置权值后的深度数据来构建障碍物地图,可以使得障碍物地图具有更高的精确度。
具体的,本实施例可以在上述利用上述连通区域对飞行空间中的障碍物进行三维建模的过程之前,对上述连通区域进行分块处理,然后根据深度传感器的测量精度与测量距离之间的关系模型,为上述分块处理得到的每个分块分配相应的权重,后续便可在上述三维建模的过程中把每个分块的权重考虑进去。为了降低数据处理量,本实施例还可以从上述连通区域中将权重低于预设权重阈值的分块删除掉。
在某些实施例中,确定障碍物地图中的待删除的障碍物地图部分,将待删除的障碍物地图部分删除。具体地,随着无人机在飞行空间中飞行范围的加大,利用深度数据构建的障碍物的地图也会越来越大,这样无人机需要更大的存储空间去存储构建的障碍物地图,由于考虑到无人机的存储空间有限,如果将无人机将所有飞行过的区域的障碍物地图存储在无人机的存储空间会导致存储资源的浪费。因此,有必要对特定区域中的已构建的障碍物地图进行删除,其中,特定区域可以是与无人机的当前位置距离较远的区域,或者是无人机在预设时间内没有再次进入的区域,确定特定区域的障碍物地图,将特定区域的障碍物地图删除以节省无人机的存储资源。
进一步地,待删除的障碍物地图部分可以根据无人机的位置信息、预设的距离阈值中的一种或多种确定。具体的,无人机在飞行的过程中,通过无人机携带的深度传感器不断地获取障碍物的深度数据,通过障碍物的深度数据构建障碍物的地图,无人机可以将包括无人机当前的位置的特定区域内的障碍物地图进行保存,将特定区域之外区域的障碍物地图确定为待删除的障碍物地图部分,进一步,特定区域还根据预设的距离阈值来确定,例如特定区域可以为以无人机当前的位置为圆心、以预设的距离阈值为半径构成的区域,无人机保存该区域内的障碍物地图,将该区域之外的其他区域中已构建的障碍物地图删除,这样,无人机在飞行过程中,只需要保存包含当前位置的特定区域的障碍物地图,有效地节省了无人机的存储资源。
在某些实施例中,根据障碍物地图确定障碍物之间的间隙的距离信息,然后根据距离信息评估间隙的可通过性信息,接着将可通过性信息发送给控制终端,其中可通过性信息可以包括可通过性结果、间隙的距离(间隙的最小距离、间隙的最大距离、间隙的平均距离等)。具体地,无人机在飞行过程中,经常会在障碍物之间穿行,在没有构建障碍物地图的情况中,控制终端从无人机接收的实时图像只有RGB信息,用户无法通过控制终端获取障碍物之间的可通过性,这样,若用户预判错误,在障碍物之间穿行时,可能导致无人机碰撞障碍物而产生飞行事故。如前所述,在已经构建了当前飞行空间的障碍物地图的前提下,无人机可以根据障碍物地图确定障碍物之间的间隙的距离信息,并根据所述距离信息评估无人机的可通过性,并将评估的可通过性结果发送给控制终端,其中可通过性可以安全系数的形式表示,另外,无人机还可以将障碍物之间的距离信息发送给控制终端,控制终端可以将可通过性结果、障碍物之间的间隙的距离信息映射到交互装置显示的实时图像上,这样,用户便可通过控制终端上显示的实时图像上的可通过性信息来直观地判定无人机是否能够通过某两个特定的障碍物之间的间隙或者障碍物上的间隙,提高用户操作无人机的安全程度。
在某些实施例中,根据障碍物地图确定避绕触发避障操作的障碍物的飞行路径。具体地,在获取到障碍物地图时,无人机即对飞行空间中障碍物分布、障碍物轮廓、障碍物大小建立了清晰的模型,在障碍物触发无人机的避障操作时,无人机可以通过查询障碍物地图确定避绕该障碍物的飞行路径,例如,根据障碍物地图确定避绕该障碍物的最短飞行路径,如确定是向左避饶、向右避饶,还是从障碍物的上方避饶,或者根据障碍物地图确定避绕该障碍物的最安全飞行路径,如查询障碍物地图发现该障碍物的左、右两边都有其他障碍物,该障碍物的上面没有其他障碍物,则可以将从该障碍物的上面避饶确定为最安全飞行路径。无人机可以通过查询障碍物地图,根据障碍物地图确定避绕触发避障操作的障碍物的飞行路径,无人机按照确定的飞行路径避饶该障碍物。
进一步的,还可以将上述飞行路径相关的信息发送给控制终端。具体地,在通过查询障碍物地图确定了避饶触发避障操作的障碍物的飞行路径后,无人机可以将飞行路径相关的信息发送给地面的控制终端,控制终端可以将该飞行路径相关的信息映射到交互装置显示的实时图像上,这样用户可以在实时图像上了解无人机的避饶的飞行路径、在飞行路径上时无人机的飞行方向等信息。目前,无人机一般只在机头部分设置了深度传感器或者其他探测设备,只能探测到机头方向的障碍物,难以探测到无人机其他方向上的障碍物,从而影响无人机的安全。在本实施例中,利用无人机当前的位置信息以及上述障碍物地图,确定无人机当前四周的障碍物的信息,具体地,无人机可以获取自身的位置信息,这样可以确定无人机在已经构建的障碍物地图中的位置,无人机通过查询该位置附近的障碍物地图,可以获取无人机的任何方向上的障碍物相关信息,当无人机的任何一个方向上存在触发无人机避障操作的障碍物时,可以将该障碍物的信息发送给控制终端,从而使得用户可以更加全面地了解无人机当前所处的飞行空间中的障碍物的信息。
本发明实施例还公开了一种障碍物的提示方法,参见图4所示,该方法包括:
步骤S401:接收无人机上的拍摄设备拍摄的实时图像。
具体地,无人机上配置拍摄设备,在无人机飞行过程中,拍摄设备对飞行空间中的目标对象进行拍摄以获取实时图像,无人机通过下行数据链路将所述实时图像发送给控制终端,控制终端可以配置交互装置,交互装置对拍摄设备获取的实时图像进行显示。
步骤S402:接收无人机发送的触发避障操作的障碍物的信息。
如前所述,在飞行空间中的障碍物触发了无人机的避障操作时,无人机将触发避障的障碍物的信息发送给控制终端,关于如何确定障碍物的信息,具体可以参考前述实施例中公开的相应内容,在此不再进行赘述。
步骤S403:将障碍物的信息映射到交互装置显示的实时图像上。
具体地,在控制终端接收到如图5所示的实时图像时,飞行空间中的障碍物触发无人机的避障操作,控制终端在接收无人机发送的障碍物的信息时,将障碍物的信息映射到交互装置显示的如图5所示的实时图像上,即以某种形式将障碍物的信息显示在交互装置显示的实时图像上,其中此处的显示并不局限于将无人机发送的障碍物的信息直接显示在实时图像上,也可以将障碍物的信息转换成其他的形式,例如图标(数字图标、文字图标、图形图标等及其组合)的形式,然后显示在实时图像上。进一步地,可以将障碍物的信息以图标的形式映射到交互装置显示的如图5所示的实时图像上,其中,可以通过如下几种可行的方式实现:
在一种具体的实施方式中,上述将障碍物的信息映射至交互装置显示的实时图像上的过程可以包括:将障碍物的信息映射在交互装置显示的实时图像中的触发避障操作的障碍物上。具体地,当无人机接收到的实时图像中包括触发避障操作的障碍物时,即触发避障操作的障碍物在无人机的拍摄设备的拍摄范围内时,如图6所示,触发无人机避障操作的障碍物是障碍物501,可以将从无人机发送的障碍501的信息映射交互装置显示的到实时图像中的障碍物501上,即根据障碍物501的信息,在实时图像中的障碍物501上呈现出图标。这样,当实时图像中的某个障碍物上出现了图标时,则用户便可以知道当前无人机正在进行避障操作,并且知道是实时图像中的哪个障碍物触发了无人机的避障操作。
在另一种具体的实施方式中,上述将障碍物的信息映射至交互装置显示的实时图像上的过程可以包括:将障碍物的信息映射到交互装置显示的在实时图像的边缘。具体地,如前所述,无人机可以通过查询构建的障碍物地图,并结合自身的位置信息,对无人机的后方、侧方向等没有设置避障设备的方向的障碍物进行避障操作,在某些情况中,在所述方向的障碍物往往不在无人机的拍摄设备的拍摄范围之内,如图7所示,触发避障操作的障碍物不在实时图像中,此时,在接收到无人机发送的障碍物的信息后,根据障碍物的信息确定出障碍物与无人机的相对方位,将障碍物的信息以图标的形式映射在交互装置显示的实时图像的边缘,如图7所示,通过观察实时图像,即可以知道,当前无人机正在进行避障操作,且触发避障操作的障碍物位于无人机的拍摄设备的拍摄方向的左边,这样即可知道触发避障的障碍物在无人机的哪个方位。
通过上述公开的技术方案可知,本发明实施例在无人机触发避障操作的情况下,控制终端将障碍物的信息映射到交互装置显示的实时图像上,这样当无人机触发避障操作时,用户将可以通过控制终端获知当前触发无人机避障的是飞行空间中的哪个障碍物,此时将会让用户及时地意识到当前无人机正在进行避障操作,而不会误以为无人机自身出现故障,使得用户能够及时了解无人机当前所处的飞行状态。
在某些实施例中,根据所述无人机上的拍摄设备的姿态信息、拍摄设备的参数信息、所述无人机的位置信息中的一种或多种将障碍物的信息映射到交互装置显示的实时图像上。具体地,在障碍物触发无人机的避障操作时,无人机可以将拍摄设备的姿态信息发送给控制终端。其中,拍摄设备的参数信息至少包括拍摄设备的焦距、FOV、内参、外参中的一种。
在某些实施例中,如前所述可以以图标的形式将上述障碍物的信息映射至交互装置显示的上述实时图像。具体地,本实施例的图标是表示任何能够对触发避障操作的障碍物进行提示的图标,如图6和图7所示,以圆形点阵图标的形式将障碍物的信息映射到交互装置显示的实时图像上。另外,这里图标为圆形点阵图标只是为了进行示意性说明,本领域技术人员可以采用其他形式的图标,例如三角形点阵图标、四边形图标点阵图标、高亮图标、框选图标等等,其中高亮图标在实时图像中对触发避障操作的障碍物进行高亮或者高亮闪烁,或者高亮图标可以在实时图像的边缘进行高亮或者高亮闪烁。框选图标可以将实时图像中触发避障操作的障碍物框选出来,进一步地可以对框选图标进行高亮闪烁。另外,在图6中,在触发避障操作的障碍物501上,越靠近障碍物的边缘部分的图标,其透明度越高,对于图标透明度的设置,本领域技术人员可以采取其他方式。在这里不做具体的限定。另外,图标的大小、颜色等,本领域技术人员都可以根据需求和视觉效果进行设置,在这里不作具备的限定。
在某些实施例中,上述图标的种类、大小、颜色、透明度中的一种或多种图标参数具体为根据上述障碍物的信息确定的参数。这样,当实时图像上出现表示上述障碍物的信息的图标信息时,用户便可知道当前无人机触发了避障操作。在与上述障碍物的信息对应的图标信息中,图标的尺寸大小与该图标对应的障碍物深度数值之间可成负相关关系。也即,在上述图标信息中,某一图标所对应的障碍物深度数值越大,则该图标的尺寸越小,相反,若某一图标所对应的障碍物深度数值越小,则该图标的尺寸越大。另外,在与上述障碍物的信息对应的图标信息中,若某一图标所对应的障碍物深度数值越大,则该图标的颜色越浅,相反,若某一图标所对应的障碍物深度数值越小,则该图标的颜色越深。其次,在与上述障碍物的信息对应的图标信息中,图标的透明度与该图标对应的障碍物深度数值之间可成正相关关系。也即,若某一图标所对应的障碍物深度数值越大,则该图标的透明度越大,相反,若某一图标所对应的障碍物深度数值越小,则该图标的透明度越小。另外,根据上述障碍物的信息的信息量大小程度可以确定出图标的种类,具体的,若上述障碍物的信息的信息量比较大的情况下,所采用的图标的种类可以是圆形图标,若上述障碍物的信息的信息量比较小的情况下,所采用的图标的种类可以是三角形图标。
进一步的,在将上述障碍物的信息映射至上述实时图像的某个区域之后,还可以对上述实时图像上的相应区域进行闪烁处理,其中,可以根据上述障碍物的信息中最小障碍物深度数值的大小来确定相应的闪烁频率,具体的,上述最小障碍物深度数值的大小与闪烁频率之间呈负相关关系。
考虑到用户在操控无人机的过程中,经常需要抬头观察无人机的飞行状况,所以用户可能无法及时注意到实时图像上显示内容的变化,为了能够让用户更加及时地获知障碍物对无人机飞行状态的干扰,本发明实施例还可以在将障碍物的信息映射到交互装置显示的实时图像上的时候,根据上述障碍物的信息生成相应的语音提示信息,然后播放该语音提示信息。
在某些实施例中,接收无人机发送的障碍物之间的间隙的可通过性信息,然后将可通过性信息映射到交互装置显示的实时图像上。具体地,如前所述,无人机可以将障碍物之间的间隙的可通过性信息发送给控制终端,控制终端可以将可通过性信息映射在交互装置显示的实时图像中上,如图8所示,障碍物501上有一个通孔503,通过查询构建的地图,无人机可以获取通孔503的大小,无人机将通孔503的可通过性信息发送给控制终端,例如控制终端可以将可通过性信息中的安全系数(0.3)映射到通孔503上,另外还可以以图标的形式将可通过性信息映射到通孔503上,例如,当安全系数低于预设的安全系数阈值时,可以通过映射图标,如图8中的虚线圆形图标,指示用户该通孔503不可通过,这样,用户便可通过观察实时图像即可以直观地判定无人机是否能够通过障碍物之间的间隙。
在某些实施例中,接收无人机发送的避绕触发避障操作的障碍物的飞行路径相关信息,然后将相关信息映射到交互装置显示的实时图像上。具体地,如前所述,无人机可以通过查询障碍物地图,确定对触发避障操作的障碍物501进行避绕的飞行路径,无人机可以将所述路径相关信息发送到控制终端,控制终端可以将飞行路径相关信息映射到交互装置显示的实时图像上,如图9所示,控制终端可以将飞行路径504映射到交互装置显示的实时图像上。这样,通过观察实时图像,用户即可以知道无人机在进行避障时,将按照何种飞行路径对触发避障的障碍物进行绕飞。上述飞行路径的确定过程可以参考前述实施例中公开的相应内容,在此不再进行赘述。
通过上述公开的技术方案可知,本发明实施例在无人机触发避障操作的情况下,会将相应的障碍物的信息映射至无人机上的拍摄设备拍摄到的实时图像上,这样当无人机触发避障操作时,实时图像上将会出现相应的障碍物的信息,此时将会让用户及时地意识到当前无人机正在进行避障操作,而不会误以为无人机自身出现故障,从而改善了用户的实际使用体验。
本发明实施例提供一种无人机的控制设备,图10为本发明实施例提供的无人机的控制设备的结构示意图,所述无人机的控制设备1000,包括:
深度传感1001,获取飞行空间中的障碍物的深度数据;
一个或多个处理器1002,单独或协同地工作,用于:根据所述深度数据确定触发避障操作的障碍物的信息,将所述障碍物的信息发送给无人机的控制终端。
可选地,所述处理器1002,具体用于:根据所述深度数据建立障碍物地图,从所述障碍物地图中获取触发避障操作的障碍物的信息。
可选地,所述处理器1002,还具体用于:根据所述障碍物地图确定是否触发避障操作。
可选地,所述处理器1002,具体用于:根据所述障碍物地图和所述无人机的位置确定是否触发避障操作。
可选地,所述深度传感器1001,具体用于获取飞行空间中多帧障碍物的深度数据;
所处理器1002,具体用于根据所述多帧深度数据建立障碍物地图。
可选地,所述处理器1002,具体用于:根据预设的运算模型为所述多帧深度数据中的至少两帧深度数据配置相应的权值,根据所述配置的权值以及相应的深度数据建立障碍物地图。
可选地,所述预设的运算模型包括所述深度传感器的测量精度模型。
可选地,所述处理器1002,具体用于:获取所述无人机的位置信息和/或姿态信息,根据所述深度数据与所述无人机的位置信息和/或姿态信息建立障碍物地图。
可选地,所述处理器1002,具体用于:对获取的深度数据进行预处理,根据预处理后的深度数据建立障碍物地图。
可选地,所述预处理包括形态学滤波处理。
可选地,所述处理器1002,还具体用于:确定所述障碍物地图中的待删除的障碍物地图部分,将所述待删除的障碍物地图部分删除。
可选地,所述处理器1002,具体用于:根据所述无人机的位置信息、预设的距离阈值中的一种或多种来确定所述待删除的障碍物地图部分。
可选地,所述处理器1002,还具体用于:根据所述障碍物地图确定障碍物之间的间隙的距离信息,根据所述距离信息确定所述间隙的可通过性信息,将所述可通过性信息发送给所述控制终端。
可选地,所述处理器1002,还具体用于:根据所述障碍物地图确定避绕所述触发避障操作的障碍物的飞行路径。
可选地,所述处理器1002,还具体用于:将所述飞行路径相关的信息发送给所述控制终端。
本发明实施例提供一种障碍物的提示设备,图11为本发明实施例提供的障碍物的提示设备的结构示意图,所述障碍物的提示设备1100,包括:
通讯接口1101,用于接收无人机上的拍摄设备拍摄的实时图像,以及接收所述无人机发送的触发避障操作的障碍物的信息;
一个或多个处理器1102,单独或协同地工作,用于:将所述障碍物的信息映射到交互装置显示的所述实时图像上。
可选地,所述处理器1102,具体用于:将所述障碍物的信息映射在所述实时图像中的所述触发避障操作的障碍物上。
可选地,所述处理器1102,具体用于:将所述障碍物的信息映射在交互装置显示的所述实时图像的边缘。
可选地,所述处理器1102,具体用于:获取所述无人机发送的所述拍摄设备的姿态信息和/或所述拍摄设备的参数信息,根据所述拍摄设备的姿态信息和/或所述拍摄设备的参数信息将所述障碍物的信息映射到交互装置显示的所述实时图像上。
可选地,所述拍摄设备的参数信息包括:所述拍摄设备的焦距、FOV、内参、外参中的一种或多种。
可选地,所述处理器1102,具体被配置用于:将所述障碍物的信息以图标的形式映射到交互装置显示的所述实时图像上。
可选地,所述图标的种类、大小、颜色、透明度中的一种或多种图标参数为根据所述障碍物的信息确定的参数。
可选地,所述通讯接口1101,用于接收所述无人机发送的障碍物之间的间隙的可通过性信息;
所述处理器1102,还具体用于:将所述可通过性信息映射到交互装置显示的所述实时图像上。
可选地,所述通讯接口1101,用于接收所述无人机发送的避绕所述触发避障操作的障碍物的飞行路径相关信息;
所述处理器1102,还具体被配置用于:将所述相关信息映射到交互装置显示的所述实时图像上。
本发明实施例提供一种无人机,其中,所述无人机,包括:
机身;
固定在机身上的动力系统,用于提供飞行动力;
如前所述的无人机的控制设备。
通过上述公开的技术方案可知,本发明实施例在无人机触发避障操作的情况下,会将相应的障碍物的信息映射至无人机上的拍摄设备拍摄到的实时图像上,这样当无人机触发避障操作时,实时图像上将会出现相应的障碍物的信息,此时将会让用户及时地意识到当前无人机正在进行避障操作,而不会误以为无人机自身出现故障,从而改善了用户的实际使用体验。
本发明实施例还公开一种无人机的控制方法,包括:
步骤S1201:获取拍摄设备拍摄的实时图像;
步骤S1202:获取飞行空间中的障碍物的深度数据;
步骤S1203:根据深度数据确定触发避障操作的障碍物的信息;
步骤S1204:将所述障碍物的信息映射到实时图像上。
步骤S1205:将映射后的实时图像发送给控制终端。
具体地,区别于前述实施例,本实施中在根据深度数据确定触发避障操作的障碍物的信息后,无人机的处理器可以将触发避障的障碍物的信息映射到实时图像上,具体地,可以以图标的形式将障碍物的信息映射到所述实时图像上。进一步地,将所述障碍物的信息映射在所述实时图像中的所述触发避障操作的障碍物上;将所述障碍物的信息映射在所述实时图像的边缘。其中,与前述实施例相比,本实施例中映射处理是在无人机一侧进行,前述实施例中映射处理是在控制终端一侧进行,除了这点区别以外,利用深度数据构建障碍物地图、障碍物的信息的映射到实时图像的方法与前述实施例相同,故前述实施例中的对应部分,在本实施例中可以引用,在此不再赘述。
需要说明的是,步骤S1201和步骤S1202之间的先后顺序不做具体的要求,可以先后执行,也可以同时执行。
本发明实施例还公开一种障碍物的提示方法,包括:
接收无人机发送实时图像,其中,所述实时图像中映射有触发无人机避障操作的障碍物的信息;
将所述实时图像显示在交互装置上。
本实施例还公开一种无人机的控制设备,包括:
拍摄设备,用于获取实时图像;
深度传感器,用于获取飞行空间中的障碍物的深度数据;
处理器,用于根据深度数据确定触发避障操作的障碍物的信息;
将所述障碍物的信息映射到实时图像上;
将映射后的实时图像发送给控制终端。
具体地,区别于前述实施例,本实施中在根据深度数据确定触发避障操作的障碍物的信息后,无人机的处理器可以将触发避障的障碍物的信息映射到实时图像上,具体地,处理器,可以以图标的形式将障碍物的信息映射到所述实时图像上。进一步地,处理器,将所述障碍物的信息映射在所述实时图像中的所述触发避障操作的障碍物上;处理器,将所述障碍物的信息映射在所述实时图像的边缘。其中,与前述实施例相比,本实施例中映射处理是在无人机一侧进行,前述实施例中映射处理是在控制终端一侧进行,除了这点区别以外,处理器,利用深度数据构建障碍物地图、障碍物的信息的映射到实时图像的方法与前述实施例相同,故前述实施例中的对应部分,在本实施例中可以引用,在此不再赘述。
本发明实施例还公开一种障碍物的提示设备,包括:
通讯接口,用于接收无人机发送实时图像,其中,所述实时图像中映射有触发无人机避障操作的障碍物的信息;
处理器,用于将所述实时图像显示在交互装置上。
本发明实施例还提供一种无人机,包括:
机身;
固定在机身上的动力系统,用于提供飞行动力;
如前所述的无人机的控制设备。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。