CN108121350B - 一种控制飞行器降落的方法以及相关装置 - Google Patents
一种控制飞行器降落的方法以及相关装置 Download PDFInfo
- Publication number
- CN108121350B CN108121350B CN201611071489.7A CN201611071489A CN108121350B CN 108121350 B CN108121350 B CN 108121350B CN 201611071489 A CN201611071489 A CN 201611071489A CN 108121350 B CN108121350 B CN 108121350B
- Authority
- CN
- China
- Prior art keywords
- palm
- aircraft
- target
- landing
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000013519 translation Methods 0.000 claims description 72
- 238000012549 training Methods 0.000 claims description 42
- 238000001514 detection method Methods 0.000 claims description 35
- 230000006870 function Effects 0.000 claims description 23
- 238000004422 calculation algorithm Methods 0.000 claims description 20
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 8
- 238000012706 support-vector machine Methods 0.000 claims description 8
- 230000000007 visual effect Effects 0.000 claims description 8
- 238000010606 normalization Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims 3
- 230000033001 locomotion Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010224 classification analysis Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000000611 regression analysis Methods 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/04—Control of altitude or depth
- G05D1/06—Rate of change of altitude or depth
- G05D1/0607—Rate of change of altitude or depth specially adapted for aircraft
- G05D1/0653—Rate of change of altitude or depth specially adapted for aircraft during a phase of take-off or landing
- G05D1/0676—Rate of change of altitude or depth specially adapted for aircraft during a phase of take-off or landing specially adapted for landing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种控制飞行器降落的方法,包括:当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为所述飞行器处于飞行状态时通过所述飞行器内置摄像头拍摄的;检测所述目标实时图像是否满足降落条件;若所述目标实时图像满足所述降落条件,则根据所述目标实时图像确定待降落位置;向所述飞行器发送降落控制指令,所述降落控制指令用于指示所述飞行器降落至所述待降落位置。本发明还提供一种飞行器降落控制装置。本发明采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
Description
技术领域
本发明涉及智能飞行器技术领域,尤其涉及一种控制飞行器降落的方法以及相关装置。
背景技术
随着飞行器的不断发展,飞行器应用的领域也越来越广。带有飞行功能的飞行器可以根据终端发送的降落指令进行降落,当然,有些智能飞行器具有自动返航或者一键降落的功能。
但是一键降落到地面上时难免会占到地面上的杂物或者脏物等,为了避免这种情况的发生,目前提供了一种飞行器降落到手掌上的方法,具体为先通过终端上安装的应用程序采集并识别图像内容,然后把手掌放在终端摄像头前面,再次通过该应用程序采集并识别图像内容,最后生成控制指令,并向飞行器发送该控制指令,使得飞行器降落到手掌上。
然而采用终端摄像头采集图像一方面需要额外的终端支持,另一方面需要一只手拿着终端,另一只手放在终端摄像头的前面,并且放在摄像头前面那只手还要接住降落的飞行器,给操作人员带来较大的不便,不利于方案的实用性。
发明内容
本发明实施例提供了一种控制飞行器降落的方法以及相关装置,可以采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
有鉴于此,本发明第一方面提供了控制飞行器降落的方法,包括:
当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的
检测所述目标实时图像是否满足降落条件;
若所述目标实时图像满足所述降落条件,则根据所述目标实时图像确定待降落位置;
向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述待降落位置。
本发明第二方面提供了一种飞行器降落控制装置,包括:
采集模块,用于当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的
检测模块,用于检测所述采集模块采集的所述目标实时图像是否满足降落条件;
第一确定模块,用于若所述检测模块检测得到所述目标实时图像满足所述降落条件,则根据所述目标实时图像确定待降落位置;
发送模块,用于向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述第一确定模块确定的所述待降落位置。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明实施例中,提供了一种控制飞行器降落的方法,当飞行器处于飞行状态时,飞行器降落控制装置采集目标实时图像,该目标实时图像为飞行器处于飞行状态时通过飞行器内置摄像头拍摄的,然后飞行器降落控制装置检测目标实时图像是否满足降落条件,若满足,则根据目标实时图像确定待降落位置,最后飞行器降落控制装置向飞行器发送降落控制指令,降落控制指令用于指示飞行器降落至待降落位置。通过上述方式,采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
附图说明
图1为本发明实施例中控制飞行器降落方法的用例图;
图2为本发明实施例中控制飞行器降落的方法一个实施例示意图;
图3为本发明实施例中生成手掌检测器的一个流程示意图;
图4为本发明实施例中飞行器检测手掌的一个流程示意图;
图5为本发明实施例中检测手掌中心位置的示意图;
图6为本发明实施例中飞行器水平方向移动的示意图;
图7为本发明实施例中飞行器垂直方向移动的示意图;
图8为本发明应用场景中控制飞行器降落的流程示意图;
图9为本发明实施例中飞行器降落控制装置一个实施例示意图;
图10为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图11为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图12为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图13为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图14为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图15为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图16为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图17为本发明实施例中飞行器降落控制装置另一个实施例示意图;
图18为本发明实施例中飞行器降落控制装置一个结构示意图。
具体实施方式
本发明实施例提供了一种控制飞行器降落的方法以及相关装置,可以采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应理解,本发明方案主要应用于飞行器的降落,飞行器(英文全称:UnmannedAerial Vehicle,英文缩写:UAV)就是利用无线遥控或程序控制来执行特定航空任务的飞行器,指不搭载操作人员的一种动力空中飞行器,采用空气动力为飞行器提供所需的升力,能够自动飞行或远程引导,既能一次性使用也能进行回收,又能够携带致命性和非致命性有效负载。
需要说明的是,飞行器可以是无人机,也可以是航模飞机,或者其他类型的飞行机器,此处不做限定。
请参阅图1,图1为本发明实施例中控制飞行器降落方法的用例图,如图所示,飞行器包括至少一个摄像头,该摄像头用于拍摄飞行器的视频,该视频包含多帧实时图像,通过分析实时图像判断操作者的手掌位置。其中,采用飞行器的内置摄像头进行视频拍摄可以称为空中摄影或者航空摄影,还可以利用三轴陀螺仪稳定功能,提供高质量的稳定画面。
图1中的飞行器是可以采用“X字”飞行方式或者“十字”飞行方式,此处不做限定。而飞行器中选用的三轴陀螺仪能够在同一时间内测量三个不同方向的加速度、角速度和角度。单轴的话就只可以测定一个方向的量,那么一个三轴陀螺仪就可以代替三个单轴陀螺。目前已经称为激光陀螺的发展趋向,具有可靠性好、结构简单、重量轻以及体积小等特点,但是其输出数据需要大量的浮点预算才能保证较高的精度。
飞行器中的内置摄像头具体可以是电荷耦合器件(英文全称:Charge CoupledDevice,英文缩写:CCD)摄像头,它是一种半导体成像器件,因而具有灵敏度高、抗强光、畸变小、体积小、寿命长、抗震动等优点。
下面将从飞行器降落控制装置的角度,对本发明中控制飞行器降落的方法进行介绍,请参阅图2,本发明实施例中控制飞行器降落的方法一个实施例包括:
101、当飞行器处于飞行状态时,采集目标实时图像,目标实时图像为处于飞行状态的飞行器通过飞行器内置摄像头拍摄的;
本实施例中,当飞行器降落控制装置检测到飞行器处于飞行状态时,通过飞行器的内置摄像头拍摄俯视视频,俯视视频中包含了多帧目标实时图像。飞行器降落控制装置既可以是飞行器,也可以是飞行器中的一个控制模块,本发明中飞行器降落控制装置主要用于控制飞行器降落在用户的手掌上。
102、检测目标实时图像是否满足降落条件;
本实施例中,飞行器降落控制装置在获取到至少一帧目标实时图像之后,根据这至少一帧目标实时图像判断是否满足降落条件。
假设10秒内拍摄到的视频中有100帧目标实时图像,则飞行器降落控制装置需要逐帧检测这100帧目标实时图像内是否存在满足降落条件的目标实时图像。
103、若目标实时图像满足降落条件,则根据目标实时图像确定待降落位置;
本实施例中,如果飞行器降落控制装置检测到存在满足降落条件的目标实时图像,那么进一步地需要通过该目标实时图像确定待降落位置。通常情况下,只要飞行器降落控制装置从视频中检测到一帧满足降落条件的目标实时图像,即可确定待降落位置。
104、向飞行器发送降落控制指令,以使飞行器根据降落控制指令降落至待降落位置。
本实施例中,飞行器降落控制装置根据确定的待降落位置生成相应的降落控制指令,降落控制指令中携带有至少两个信息,其中一个为通知飞行器需要进行降落的信息,另一个为告知飞行器降落到待降落位置需要调整的飞行姿态信息。
本发明实施例中,提供了一种控制飞行器降落的方法,当飞行器处于飞行状态时,飞行器降落控制装置采集目标实时图像,该目标实时图像为飞行器处于飞行状态时通过飞行器内置摄像头拍摄的,然后飞行器降落控制装置检测目标实时图像是否满足降落条件,若满足,则根据目标实时图像确定待降落位置,最后飞行器降落控制装置向飞行器发送降落控制指令,降落控制指令用于指示飞行器降落至待降落位置。通过上述方式,采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
可选地,在上述图2对应的实施例的基础上,本发明实施例提供的控制飞行器降落的方法第一个可选实施例中,检测目标实时图像是否满足降落条件,可以包括:
采用手掌检测器检测目标实时图像中是否包含目标手掌,手掌检测器为预先根据多个手掌样本图像训练得到的检测器;
若目标实时图像中包含目标手掌,则确定目标实时图像满足降落条件。
本实施例中,飞行器降落控制装置需要采用手掌检测器检测目标实时图像中是否包含目标手掌,目标手掌为用于托接该飞行器的手掌。手掌检测器是预先根据多个手掌样本图像训练得到的,也就是说手掌检测器是通过机器学习得到的模型。
其中,机器学习至少包含确定模型、训练模型和使用模型这三个步骤,确定模型是说用户认为这些数据的特征符合哪个函数;训练模型就是用已有的数据,通过一些方法(例如最优化或者其他方法)确定函数的参数,参数确定后的函数就是训练的结果;使用模型就是把新的数据代入函数求值。
具体为,从手掌检测器中输入目标实时图像,然后利用训练模型判断目标实时图像中是否包含目标手掌,如果确定了目标实时图像中包含目标手掌,则认为该目标实时图像满足降落条件,也就是可以控制飞行器开始进行降落。
其次,本发明实施例中,飞行器降落控制装置采用手掌检测器检测目标实时图像中是否包含目标手掌,手掌检测器为预先根据多个手掌样本图像训练得到的检测器,若目标实时图像中包含目标手掌,则确定目标实时图像满足降落条件。通过上述方式,利用已经训练好的手掌检测器来检测目标实时图像中是否包含目标手掌,可以提升检测的有效性,从而提高飞行器降落多指定地点的准确性。
可选地,在上述图2对应的第一个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第二个可选实施例中,根据目标实时图像确定待降落位置,可以包括:
根据目标实时图像确定目标手掌的位置信息,目标手掌的位置信息用于指示待降落位置。
本实施例中,飞行器降落控制装置在确定目标实时图像满足降落条件之后,可以根据目标实时图像确定目标手掌的位置信息,而且根据该目标手掌的位置信息可以确定待降落位置。
具体地,假设目标实时图像的像素为640×360,可以由此构建一个坐标系,坐标系X轴总长度为640,坐标系Y轴总长度为360。然后检测包含目标手掌的像素点,分别可以在坐标系中表示出各个像素点的坐标位置,利用这些像素点的坐标位置即可确定目标手掌的位置信息,即目标手掌的位置信息为多个像素点所对应的坐标信息。
再次,本发明实施例中,进一步限定了飞行器降落控制装置可以根据目标实时图像确定目标手掌的位置信息,以目标手掌的位置作为待降落位置。通过上述方式,飞行器可以直接降落在用户的手掌上,而不是地面上,从而不会弄脏飞行器,同时也不需要用户弯腰捡飞行器,以此提升飞行器操作的便利性,有利于增强用户体验。
可选地,在上述图2对应的第一个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第三个可选实施例中,采集目标实时图像之前,还可以包括:
获取多个第一手掌样本图像以及多个第二手掌样本图像,第一手掌样本图像为手掌处于张开状态下的图像,第二手掌样本图像为手掌处于非张开状态下的图像;
分别提取第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息;
根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。
本实施例中,为了训练手掌检测器,飞行器降落控制装置可以预先采集大量的第一手掌样本图像以及多个第二手掌样本图像,其中,第一手掌样本图像为手掌处于张开状态下的图像,具体可以是包含五指张开,手心朝上,五指向前的并且有一个小范围倾斜角度的图像,又可称为正样本图像。而第二手掌样本图像为手掌处于非张开状态下的图像,具体还可以为不包含手掌的背景图像,又可称为负样本图像。
接下来分别提取这些第一手掌样本图像和第二手掌样本图像的特征信息,特征信息具体为方向梯度直方图(英文全称:Histogram of Oriented Gradient,英文缩写:HOG)特征,其中,HOG特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。
具体地,HOG特征的具体提取步骤如下:
第一步为对第一手掌样本图像和第二手掌样本图像进行色彩和伽马归一化,即为了减少光照因素的影响,首先需要将整个图像进行归一化处理。
第二步为计算第一手掌样本图像和第二手掌样本图像的梯度,即计算图像横坐标和纵坐标方向的梯度,并据此计算每个像素位置的梯度方向值。
第三步为构建方向的直方图,即细胞单元中的每一个像素点都为某个基于方向的直方图通道投票,投票是采取加权投票的方式,即每一票都是带有权值的,这个权值是根据该像素点的梯度幅度计算出来。
第四步为将细胞单元组合成大的区间,这是由于局部光照的变化以及前景到背景对比度的变化,使得梯度强度的变化范围非常大。这就需要对梯度强度做归一化。归一化能够进一步地对光照、阴影和边缘进行压缩。
第五步为收集HOG特征,把提取的第一手掌样本图像的HOG特征以及第而手掌样本图像的HOG特征输入到支持向量机(英文全称:Support Vector Machine,英文缩写:SVM)分类器中,寻找一个最优超平面作为决策函数。根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。
在机器学习领域,支持向量机SVM是一个有监督的学习模型,通常用来进行模式识别、分类、以及回归分析。
再次,本发明实施例中,介绍了训练得到手掌检测器的方式,即飞行器降落控制装置先获取多个第一手掌样本图像以及多个第二手掌样本图像,然后分别提取第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息,最后根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。通过上述方式,能够获取到较为精准的手掌检测器,以此快速且准确地检测出目标实时图像中是否包含目标手掌,从而增强方案的实用性和可行性。
可选地,在上述图2对应的第三个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第四个可选实施例中,根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器之后,还可以包括:
采用手掌检测器对多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率;
若分类检测结果的准确率小于或等于预置门限,则根据多个第二手掌样本图像中分类错误的目标手掌样本图像重新对手掌检测器进行训练。
本实施例中,对于训练得到手指检测器还需要验证其可靠性,采用的方法可以是利用手掌检测器对多个第二手掌样本图像进行分类检测,统计被错误分类的比例,假设分类检测100帧第二手掌样本图像,检测结果为有90帧图像为第二手掌样本图像,另外10帧被判断为第一手掌样本图像,那么与实际结果相比,准确率为90%。假设预置门限为95%,那么90%小于预置门限,因此认为手掌检测器的效果不佳,需要重新训练。
于是把分类错误的这10帧第二手掌样本图像重新加入到负样本中进行训练,直到训练得到的准确率大于预置门限,或者训练次数达到最大训练次数,训练即可中止。其中,分类错误的第二手掌样本图像可以只提取其中一部分的图像进行训练。
为了便于介绍,请参阅图3,图3为本发明实施例中生成手掌检测器的一个流程示意图,具体为:
步骤201中,飞行器降落控制装置采集大量的五指张开的正手掌样本图像以及不包含五指张开的负手掌样本图像;
步骤202中,接下来分别提取正手掌样本图像的HOG特征以及负手掌样本图像的HOG特征;
步骤203中,进而采用SVM分类器开始对这些HOG特征进行训练;
步骤204中,根据SVM分类器训练HOG特征得到的结果生成相应的手掌检测器;
步骤205中,从步骤205开始将开始对生成的手掌检测器进行验证,首先采用手掌检测器检测负样本图像;
步骤206中,然后与实际情况进行对比,得到计算错误率;
步骤207中,再判断计算的错误率是否小于给定的阈值门限,或者判断计算的错误率是否达到最大训练次数,若是,则进入步骤208,若否,则进入步骤209;
步骤208中,训练中止,生成最终的手掌检测器;
步骤209中,保存错误的案例,然后判断错误的案例重新加入负样本进行再次训练。
进一步地,本发明实施例中,在训练得到手掌检测器之后,还可以采用手掌检测器对多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率,如果分类检测结果的准确率小于或等于预置门限,则根据多个第二手掌样本图像中分类错误的目标手掌样本图像重新对手掌检测器进行训练。通过上述方式,利用校验第二手掌样本图像的结果,可以在生成了手掌检测器后进而优化该手掌检测器的检测准确性,从而提升方案的可靠性和实用性。
可选地,在上述图2对应的第二个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第五个可选实施例中,根据目标实时图像确定目标手掌的位置信息,可以包括:
采用基于核化相关滤波器KCF的跟踪算法计算在目标实时图像中目标手掌的位置信息。
本实施例中,将介绍确定目标手掌位置信息的具体方式,即采用基于核化相关滤波器(英文全称:Kernelized Correlation Filters,英文全称:KCF)的跟踪算法计算在目标实时图像中目标手掌的位置信息。
KCF跟踪算法通过核函数对多通道的HOG特征进行了融合,使得训练所得的分类器对待检测目标的解释力更强。KCF跟踪器对光照变化、遮挡、非刚性形变、运动模糊、背景杂乱和旋转等视频均能良好跟踪。
需要说明的是,在实际应用中,还可以采用颜色特征(英文全称:Color Name,英文缩写:CN)算法,或者采用时空上下文视觉跟踪(英文全称:Spatio-Temporal Context,英文缩写:STC)算法。
为了便于介绍,请参阅图4,图4为本发明实施例中飞行器检测手掌的一个流程示意图,具体为:
步骤301中,飞行器降落控制装置实时采集图像;
步骤302中,飞行器降落控制装置采用生成的手掌检测器对图像进行检测,并判断是否有张开的手掌,若有,则进入步骤303,反之,则跳转至步骤301,即飞行器降落控制装置继续采集图像;
步骤303中,如果检测到了张开的手掌,则根据手掌的位置信息初始化KCF算法;
步骤304中,飞行器降落控制装置继续实时采集图像;
步骤305中,飞行器降落控制装置采用KCF算法计算手掌的在图像中的位置;
步骤306中,判断KCF算法是否计算成功,如果无人机运动速度较快,或是姿态变化较大的情况下,KCF算法会计算失败,这样会跳转至步骤301,即重新起用手掌检测器,检测当前图像中是否有张开的手掌,如果检测到目标手掌,就继续重新初始化KCF。
步骤307中,把位置信息和降落信息发送给无人机控制端。
进一步地,本发明实施例中,飞行器降落控制装置采用基于KCF的跟踪算法计算在目标实时图像中目标手掌的位置信息。通过上述方式,飞行器降落控制装置结合KCF算法计算目标手掌的位置信息,可以提升计算的速度和精度,从而增强方案的实用性。
可选地,在上述图2对应的第二个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第六个可选实施例中,向飞行器发送降落控制指令之前,还可以包括:
根据目标手掌的位置信息确定目标手掌的中心位置;
根据目标手掌的中心位置计算飞行器的水平平移量,水平平移量用于指示所述飞行器与目标手掌之间的水平距离;
根据目标手掌的中心位置计算飞行器的垂直平移量,垂直平移量用于指示飞行器与目标手掌之间的垂直距离;
根据水平平移量与垂直平移量生成降落控制指令。
本实施例中,飞行器在发送降落控制指令之前还可以生成该指令,生成的过程具体为,先确定出目标手掌的中心位置,通常情况下,目标手掌的中心位置位于感兴趣区域(英文全称:Region Of Interest,英文缩写:ROI),对于相同手掌的掌纹图像,ROI所处位置应该相同。接着飞行器降落控制装置可以根据目标手掌的中心位置计算飞行器的水平平移量和垂直平移量,根据水平平移量与垂直平移量生成降落控制指令。例如水平平移量为1.8米,垂直平移量为3米,则降落控制指令中携带了向水平方向飞行1.8米,向下方降落3米的信息。
请参阅图5,图5为本发明实施例中检测手掌中心位置的示意图,飞行器降落控制装置401在检测到目标手掌403后,以目标手掌403的中心位置P(x,y)点标记手掌的整体位置,飞行器会根据距离目标点距离和方向,调整自身的飞行。其中,显示区域402仅为一个示意,主要用于显示飞行器内置摄像头拍摄到的画面。
进一步地,本发明实施例中,在飞行器降落控制装置向飞行器发送降落控制指令之前,还可以利用飞行器的水平平移量以及飞行器的垂直平移量生成降落控制指令。通过上述方式,能够提升飞行器降落到待降落位置的准确性,在水平方向和垂直方向上都达到了有效的距离估计,从而优化了飞行器降落的可靠性。
可选地,在上述图2对应的第六个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第七个可选实施例中,根据目标手掌的中心位置计算飞行器的水平平移量,可以包括:
按照如下方式计算飞行器的水平平移量:
Sx=(2*x*H*tanα)/(X*cosβ);
其中,Sx表示飞行器的水平平移量,x表示目标手掌的中心位置在坐标系中的横坐标,X表示坐标系的横轴长度,H表示飞行器与地面的垂直高度,α表示飞行器内置摄像头横轴方向视角的半角,β表示飞行器内置摄像头中心线和垂直线之间的夹角。
本实施例中,具体介绍了如何方式计算飞行器的水平平移量的方法,为了便于介绍,将结合图6进行说明,请参阅图6,图6为本发明实施例中飞行器水平方向移动的示意图,如图所示,假设A点为飞行器内置摄像头的位置,AB和AC分别是飞行器内置摄像头横轴视线的极限,BMC为地面,则BC线段为飞行器内置摄像头在横轴方向上的视线范围,虚线AM为飞行器内置摄像头中心线,BC上的每个点均匀的落在飞行器内置摄像头采集图像的横轴坐标上,P点是地面上的手掌位置在水平方向上的投影点,OA是飞行器离地面的垂直高度。
∠OAM是飞行器内置摄像头中心线和垂直方向的角度,∠BAM是飞行器内置摄像头横轴方向视角的半角,MP为目标位置在图像横轴上的横坐标的长度,也就是要求计算的水平平移量,BC为图像对应的横向长度。
若∠OAM为β,β即为飞行器内置摄像头中心线和垂直线之间的夹角,∠BAM为α,即为飞行器内置摄像头横轴方向视角的半角,再假设当前目标手掌的中心位置在坐标系中的横坐标为x,界面坐标系的横轴长度为X,其中,如果采集的图像为640像素×360像素,则X为640。飞行器的当前位置与地面的垂直高度为H,则可以得到水平平移量Sx的计算公式:
Sx=(2*x*H*tanα)/(X*cosβ)
更进一步地,本发明实施例中,具体说明了飞行器降落控制装置如何获取飞行器的水平平移量,即采用相应的公式可以计算得到水平平移量。通过上述方式,能够准确地计算出飞行器到待降落位置的水平平移量,从而增加方案的可行性。
可选地,在上述图2对应的第六个实施例的基础上,本发明实施例提供的控制飞行器降落的方法第七个可选实施例中,根据目标手掌的中心位置计算飞行器的垂直平移量,可以包括:
按照如下方式计算飞行器的垂直平移量:
Sy=H*(tan(δ+θ)-tan(δ+θ-arctan(2*y*tanθ/Y)));
其中,Sy表示飞行器的垂直平移量,H表示飞行器与地面的垂直高度,δ表示飞行器内置摄像头投影线和垂直线之间的夹角,θ表示飞行器内置摄像头纵轴方向视角的半角,y表示目标手掌的中心位置在坐标系中的纵坐标,Y表示坐标系的纵轴长度。
本实施例中,具体介绍了如何方式计算飞行器的垂直平移量的方法,为了便于介绍,将结合图7进行说明,请参阅图7,图7为本发明实施例中飞行器垂直方向移动的示意图,如图所示,假设A点为飞行器内置摄像头的位置,AB和AC分别是飞行器内置摄像头横轴视线的极限,BCO为地面,则BC线段为飞行器内置摄像头在纵轴方向上的视线范围,虚线AD为飞行器内置摄像头中心线,BC上的每个点均匀的落在飞行器内置摄像头采集图像的纵轴坐标上,P点是地面上的手掌位置在垂直方向上的投影点,OA是飞行器离地面的垂直高度。
假设当前目标手掌中心点的纵坐标为y,界面坐标系的纵轴高度为Y,其中,如果采集的图像为640像素×360像素,则Y为360。飞行器内置摄像头纵轴视角半角∠CAD为θ,飞行器内置摄像头投影线和垂直线之间的夹角∠OAC为δ,可以得出纵轴上竖直移动距离Sy的计算公式:
Sy=H*(tan(δ+θ)-tan(δ+θ-arctan(2*y*tanθ/Y)))
更进一步地,本发明实施例中,具体说明了飞行器降落控制装置如何获取飞行器的垂直平移量,即采用相应的公式可以计算得到垂直平移量。通过上述方式,能够准确地计算出飞行器到待降落位置的垂直平移量,从而增加方案的可行性。
为便于理解,下面还可以以一个具体应用场景对本发明中控制飞行器降落的过程进行详细描述,请参阅图8,图8为本发明应用场景中控制飞行器降落的流程示意图,具体为:
步骤501中,首先可以采集大量的包含五指张开的正手掌样本图像,以及不包含有手掌的负手掌样本图像;
步骤502中,对这些大量的正手掌样本图像和正手掌样本图像进行训练,从而生成手掌检测器,手掌检测器具体可以是一个训练模型,包含数据输入模块和数据输出模块;
步骤503中,无人机判断当前自身是否处于飞行状态,如果是,则进入步骤504,如果没有处于飞行状态,则将继续进行飞行状态的判断,这是由于本方案需要在无人机飞行前提下实现;
步骤504中,如果当前无人机正处于飞行状态,那么无人机将通过自身的摄像头实时采集图像;
步骤505中,采用训练得到的手掌检测器对采集到的至少一帧图像进行分析和检测,判断是否在图像中有张开的手掌出现,以及判断该张开手掌的位置,若存在张开的手掌,则进入步骤506,反之,则无人机继续采集图像;
步骤506中,如果检测到的图像中有张开的手掌,则进一步计算手掌所对应的位置信息;
步骤507中,把手掌的位置信息和降落消息一起发送给无人机控制端;
步骤508中,无人机根据收到的手掌的位置信息和降落消息,不断地进行自身位置的调整,且不断靠近手掌;
步骤509中,无人机判断是否已经成功降落,若是,则进入步骤510,反之,则跳转至步骤504,即利用自身的摄像头继续实时采集图像;
步骤510中,至此,完成控制飞行器降落的整个流程。
下面对本发明中的飞行器降落控制装置进行详细描述,请参阅图9,本发明实施例中的飞行器降落控制装置为应用于控制飞行器降落的方法中的服务器,飞行器降落控制装置60包括:
采集模块601,用于当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的;
检测模块602,用于检测所述采集模块601采集的所述目标实时图像是否满足降落条件;
第一确定模块603,用于若所述检测模块602检测得到所述目标实时图像满足所述降落条件,则根据所述目标实时图像确定待降落位置;
发送模块604,用于向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述第一确定模块603确定的所述待降落位置。
本实施例中,当飞行器处于飞行状态时,采集模块601采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的,检测模块602检测所述采集模块601采集的所述目标实时图像是否满足降落条件,若所述检测模块602检测得到所述目标实时图像满足所述降落条件,则第一确定模块603根据所述目标实时图像确定待降落位置,发送模块604向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述第一确定模块603确定的所述待降落位置。
本发明实施例中,提供了一种飞行器降落控制装置,当飞行器处于飞行状态时,飞行器降落控制装置采集目标实时图像,该目标实时图像为飞行器处于飞行状态时通过飞行器内置摄像头拍摄的,然后飞行器降落控制装置检测目标实时图像是否满足降落条件,若满足,则根据目标实时图像确定待降落位置,最后飞行器降落控制装置向飞行器发送降落控制指令,降落控制指令用于指示飞行器降落至待降落位置。通过上述方式,采用飞行器内置摄像头获取实时图像,根据实时图像确定操作人员的手掌位置,并直接落在操作人员的手掌上,无需额外的硬件设备,不但减少了飞行器的重量和成本,而且也有利于提升方案的便利性和实用性。
可选地,在上述图9所对应的实施例的基础上,请参阅图10,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述检测模块602包括:
检测单元6021,用于采用手掌检测器检测所述目标实时图像中是否包含目标手掌,所述手掌检测器为预先根据多个手掌样本图像训练得到的检测器;
第一确定单元6022,用于若所述检测单元6021检测得到所述目标实时图像中包含所述目标手掌,则确定所述目标实时图像满足所述降落条件。
其次,本发明实施例中,飞行器降落控制装置采用手掌检测器检测目标实时图像中是否包含目标手掌,手掌检测器为预先根据多个手掌样本图像训练得到的检测器,若目标实时图像中包含目标手掌,则确定目标实时图像满足降落条件。通过上述方式,利用已经训练好的手掌检测器来检测目标实时图像中是否包含目标手掌,可以提升检测的有效性,从而提高飞行器降落多指定地点的准确性。
可选地,在上述图10对应的实施例的基础上,请参阅图11,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述第一确定模块603包括:
第二确定单元6031,用于根据所述目标实时图像确定所述目标手掌的位置信息,所述目标手掌的位置信息用于指示所述待降落位置。
再次,本发明实施例中,进一步限定了飞行器降落控制装置可以根据目标实时图像确定目标手掌的位置信息,以目标手掌的位置作为待降落位置。通过上述方式,飞行器可以直接降落在用户的手掌上,而不是地面上,从而不会弄脏飞行器,同时也不需要用户弯腰捡飞行器,以此提升飞行器操作的便利性,有利于增强用户体验。
可选地,在上述图10对应的实施例的基础上,请参阅图12,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述飞行器降落控制装置60还包括:
获取模块605,用于所述采集模块601采集目标实时图像之前,获取多个第一手掌样本图像以及多个第二手掌样本图像,所述第一手掌样本图像为手掌处于张开状态下的图像,第二手掌样本图像为手掌处于非张开状态下的图像;
提取模块606,用于分别提取所述获取模块605获取的所述第一手掌样本图像的特征信息以及所述第二手掌样本图像的特征信息;
第一训练模块607,用于根据所述提取模块606提取的所述第一手掌样本图像的特征信息以及所述第二手掌样本图像的特征信息训练得到所述手掌检测器。
再次,本发明实施例中,介绍了训练得到手掌检测器的方式,即飞行器降落控制装置先获取多个第一手掌样本图像以及多个第二手掌样本图像,然后分别提取第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息,最后根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。通过上述方式,能够获取到较为精准的手掌检测器,以此快速且准确地检测出目标实时图像中是否包含目标手掌,从而增强方案的实用性和可行性。
可选地,在上述图12对应的实施例的基础上,请参阅图13,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述飞行器降落控制装置60还包括:
统计模块608,用于所述第一训练模块607根据所述第一手掌样本图像的特征信息以及所述第二手掌样本图像的特征信息训练得到所述手掌检测器之后,采用所述手掌检测器对所述多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率;
第二训练模块609,若所述统计模块608统计得到所述分类检测结果的准确率小于或等于预置门限,则根据所述多个第二手掌样本图像中分类错误的目标手掌样本图像重新对所述手掌检测器进行训练。
进一步地,本发明实施例中,在训练得到手掌检测器之后,还可以采用手掌检测器对多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率,如果分类检测结果的准确率小于或等于预置门限,则根据多个第二手掌样本图像中分类错误的目标手掌样本图像重新对手掌检测器进行训练。通过上述方式,利用校验第二手掌样本图像的结果,可以在生成了手掌检测器后进而优化该手掌检测器的检测准确性,从而提升方案的可靠性和实用性。
可选地,在上述图11对应的实施例的基础上,请参阅图14,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述第二确定单元6031包括:
计算子单元60311,用于采用基于核化相关滤波器KCF的跟踪算法计算在所述目标实时图像中所述目标手掌的位置信息。
进一步地,本发明实施例中,飞行器降落控制装置采用基于KCF的跟踪算法计算在目标实时图像中目标手掌的位置信息。通过上述方式,飞行器降落控制装置结合KCF算法计算目标手掌的位置信息,可以提升计算的速度和精度,从而增强方案的实用性。
可选地,在上述图11对应的实施例的基础上,请参阅图15,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述飞行器降落控制装置60还包括:
第二确定模块609A,用于所述发送模块604向所述飞行器发送降落控制指令之前,根据所述目标手掌的位置信息确定所述目标手掌的中心位置;
第一计算模块609B,用于根据所述第二确定模块609A确定的所述目标手掌的中心位置计算所述飞行器的水平平移量,所述水平平移量用于指示所述飞行器与所述目标手掌之间的水平距离;
第二计算模块609C,用于根据所述第二确定模块609B确定的所述目标手掌的中心位置计算所述飞行器的垂直平移量,所述垂直平移量用于指示所述飞行器与所述目标手掌之间的垂直距离;
生成模块609D,用于根据所述第一计算模块609C计算得到的所述水平平移量与所述第二计算模块计算得到的所述垂直平移量生成所述降落控制指令。
进一步地,本发明实施例中,在飞行器降落控制装置向飞行器发送降落控制指令之前,还可以利用飞行器的水平平移量以及飞行器的垂直平移量生成降落控制指令。通过上述方式,能够提升飞行器降落到待降落位置的准确性,在水平方向和垂直方向上都达到了有效的距离估计,从而优化了飞行器降落的可靠性。
可选地,在上述图15对应的实施例的基础上,请参阅图16,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述第一计算模块609B包括:
第一计算单元609B1,用于按照如下方式计算所述飞行器的水平平移量:
Sx=(2*x*H*tanα)/(X*cosβ);
其中,所述Sx表示所述飞行器的水平平移量,所述x表示所述目标手掌的中心位置在坐标系中的横坐标,所述X表示所述坐标系的横轴长度,所述H表示所述飞行器与地面的垂直高度,所述α表示所述飞行器内置摄像头横轴方向视角的半角,所述β表示所述飞行器内置摄像头中心线和垂直线之间的夹角。
更进一步地,本发明实施例中,具体说明了飞行器降落控制装置如何获取飞行器的水平平移量,即采用相应的公式可以计算得到水平平移量。通过上述方式,能够准确地计算出飞行器到待降落位置的水平平移量,从而增加方案的可行性。
可选地,在上述图15对应的实施例的基础上,请参阅17,本发明实施例提供的飞行器降落控制装置60的另一实施例中,
所述第二计算模块609C包括:
第二计算单元609C1,用于按照如下方式计算所述飞行器的垂直平移量:
Sy=H*(tan(δ+θ)-tan(δ+θ-arctan(2*y*tanθ/Y)));
其中,所述Sy表示所述飞行器的垂直平移量,所述H表示所述飞行器与地面的垂直高度,所述δ表示所述飞行器内置摄像头投影线和垂直线之间的夹角,所述θ表示所述飞行器内置摄像头纵轴方向视角的半角,所述y表示所述目标手掌的中心位置在坐标系中的纵坐标,所述Y表示所述坐标系的纵轴长度。
更进一步地,本发明实施例中,具体说明了飞行器降落控制装置如何获取飞行器的垂直平移量,即采用相应的公式可以计算得到垂直平移量。通过上述方式,能够准确地计算出飞行器到待降落位置的垂直平移量,从而增加方案的可行性。
本发明实施例还提供了另一种飞行器降落控制装置,如图18所示,为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例方法部分。该飞行器降落控制装置可以为无人机、航模飞机或者其他类型的飞行机器,以飞行器降落控制装置为无人机为例:
图18示出的是与本发明实施例提供的飞行器降落控制装置相关的无人机的部分结构的框图。参考图18,无人机包括:射频(英文全称:Radio Frequency,英文缩写:RF)电路710、存储器720、输入单元730、显示单元740、传感器750、音频电路760、无线保真(英文全称:wireless fidelity,英文缩写:WiFi)模块770、处理器780、以及电源790等部件。本领域技术人员可以理解,图18中示出的无人机结构并不构成对无人机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图18对无人机的各个构成部件进行具体的介绍:
RF电路710可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,给处理器780处理;另外,将设计上行的数据发送给基站。通常,RF电路710包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(英文全称:LowNoise Amplifier,英文缩写:LNA)、双工器等。此外,RF电路710还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(英文全称:Global System of Mobile communication,英文缩写:GSM)、通用分组无线服务(英文全称:General Packet Radio Service,GPRS)、码分多址(英文全称:CodeDivision Multiple Access,英文缩写:CDMA)、宽带码分多址(英文全称:Wideband CodeDivision Multiple Access,英文缩写:WCDMA)、长期演进(英文全称:Long TermEvolution,英文缩写:LTE)、电子邮件、短消息服务(英文全称:Short Messaging Service,SMS)等。
存储器720可用于存储软件程序以及模块,处理器780通过运行存储在存储器720的软件程序以及模块,从而执行无人机的各种功能应用以及数据处理。存储器720可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据无人机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器720可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元730可用于接收输入的数字或字符信息,以及产生与无人机的用户设置以及功能控制有关的键信号输入。具体地,输入单元730可包括触控面板731以及其他输入设备732。触控面板731,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板731上或在触控面板731附近的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板731可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器780,并能接收处理器780发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板731。除了触控面板731,输入单元730还可以包括其他输入设备732。具体地,其他输入设备732可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元740可用于显示由用户输入的信息或提供给用户的信息以及无人机的各种菜单。显示单元740可包括显示面板741,可选的,可以采用液晶显示器(英文全称:LiquidCrystal Display,英文缩写:LCD)、有机发光二极管(英文全称:Organic Light-EmittingDiode,英文缩写:OLED)等形式来配置显示面板741。进一步的,触控面板731可覆盖显示面板741,当触控面板731检测到在其上或附近的触摸操作后,传送给处理器780以确定触摸事件的类型,随后处理器780根据触摸事件的类型在显示面板741上提供相应的视觉输出。虽然在图18中,触控面板731与显示面板741是作为两个独立的部件来实现无人机的输入和输入功能,但是在某些实施例中,可以将触控面板731与显示面板741集成而实现无人机的输入和输出功能。
无人机还可包括至少一种传感器750,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板741的亮度,接近传感器可在无人机移动到耳边时,关闭显示面板741和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别无人机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于无人机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路760、扬声器761,传声器762可提供用户与无人机之间的音频接口。音频电路760可将接收到的音频数据转换后的电信号,传输到扬声器761,由扬声器761转换为声音信号输出;另一方面,传声器762将收集的声音信号转换为电信号,由音频电路760接收后转换为音频数据,再将音频数据输出处理器780处理后,经RF电路710以发送给比如另一无人机,或者将音频数据输出至存储器720以便进一步处理。
WiFi属于短距离无线传输技术,无人机通过WiFi模块770可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图18示出了WiFi模块770,但是可以理解的是,其并不属于无人机的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器780是无人机的控制中心,利用各种接口和线路连接整个无人机的各个部分,通过运行或执行存储在存储器720内的软件程序和/或模块,以及调用存储在存储器720内的数据,执行无人机的各种功能和处理数据,从而对无人机进行整体监控。可选的,处理器780可包括一个或多个处理单元;优选的,处理器780可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器780中。
无人机还包括给各个部件供电的电源790(比如电池),优选的,电源可以通过电源管理系统与处理器780逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出,无人机还可以包括摄像头、蓝牙模块等,在此不再赘述。
在本发明实施例中,该终端所包括的处理器780还具有以下功能:
当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的;
检测所述目标实时图像是否满足降落条件;
若所述目标实时图像满足所述降落条件,则根据所述目标实时图像确定待降落位置;
向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述待降落位置。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(英文全称:Read-OnlyMemory,英文缩写:ROM)、随机存取存储器(英文全称:Random Access Memory,英文缩写:RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (12)
1.一种控制飞行器降落的方法,其特征在于,包括:
当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的;
采用手掌检测器检测所述目标实时图像中是否包含张开的手掌,若有,则确定所述目标实时图像满足所述降落条件,在所述目标实时图像满足降落条件的情况下,在所述目标实时图像中,根据所述张开的手掌的位置信息初始化核化相关滤波器KCF算法;所述手掌检测器为预先根据多个手掌样本图像训练得到的检测器;
继续实时采集图像;采用所述KCF算法通过核函数对多通道的HOG特征进行融合,计算张开的手掌在图像中的位置;
判断KCF算法是否计算成功;
如果计算成功,则把所述张开的手掌的位置信息和通知飞行器需要进行降落的降落信息发送给飞行器控制端,所述张开的手掌的位置信息用于指示待降落位置;
向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至所述待降落位置;
所述手掌检测器的训练过程包括:
获取多个第一手掌样本图像以及多个第二手掌样本图像,所述第一手掌样本图像为手掌处于张开状态下的图像,第二手掌样本图像为手掌处于非张开状态下的图像;
对所述第一手掌样本图像和所述第二手掌样本图像进行色彩和伽马归一化处理;
计算所述第一手掌样本图像和所述第二手掌样本图像的横坐标和纵坐标方向的梯度,并据此计算每个像素位置的梯度方向值;
构建方向梯度直方图,细胞单元中的每一个像素点都为某个基于方向的直方图通道投票,投票采取加权投票的方式,每一票都带有权值,所述权值是根据该像素点的梯度幅度计算出来;
将细胞单元组合成大的区间,对梯度强度做归一化;
收集方向梯度直方图特征,把提取的第一手掌样本图像的方向梯度直方图特征以及第二手掌样本图像的方向梯度直方图特征输入到支持向量机分类器中,寻找最优超平面作为决策函数,根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一手掌样本图像的特征信息以及所述第二手掌样本图像的特征信息训练得到所述手掌检测器之后,所述方法还包括:
采用所述手掌检测器对所述多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率;
若所述分类检测结果的准确率小于或等于预置门限,则根据所述多个第二手掌样本图像中分类错误的目标手掌样本图像重新对所述手掌检测器进行训练。
3.根据权利要求1所述的方法,其特征在于,所述向所述飞行器发送降落控制指令之前,所述方法还包括:
根据所述目标手掌的位置信息确定所述目标手掌的中心位置;
根据所述目标手掌的中心位置计算所述飞行器的水平平移量,所述水平平移量用于指示所述飞行器与所述目标手掌之间的水平距离;
根据所述目标手掌的中心位置计算所述飞行器的垂直平移量,所述垂直平移量用于指示所述飞行器与所述目标手掌之间的垂直距离;
根据所述水平平移量与所述垂直平移量生成所述降落控制指令。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标手掌的中心位置计算所述飞行器的水平平移量,包括:
按照如下方式计算所述飞行器的水平平移量:
Sx=(2*x*H*tanα)/(X*cosβ);
其中,所述Sx表示所述飞行器的水平平移量,所述x表示所述目标手掌的中心位置在坐标系中的横坐标,所述X表示所述坐标系的横轴长度,所述H表示所述飞行器与地面的垂直高度,所述α表示所述飞行器内置摄像头横轴方向视角的半角,所述β表示所述飞行器内置摄像头中心线和垂直线之间的夹角。
5.根据权利要求4所述的方法,其特征在于,所述根据所述目标手掌的中心位置计算所述飞行器的垂直平移量,包括:
按照如下方式计算所述飞行器的垂直平移量:
Sy=H*(tan(δ+θ)-tan(δ+θ-arctan(2*y*tanθ/Y)));
其中,所述Sy表示所述飞行器的垂直平移量,所述H表示所述飞行器与地面的垂直高度,所述δ表示所述飞行器内置摄像头投影线和垂直线之间的夹角,所述θ表示所述飞行器内置摄像头纵轴方向视角的半角,所述y表示所述目标手掌的中心位置在坐标系中的纵坐标,所述Y表示所述坐标系的纵轴长度。
6.一种飞行器降落控制装置,其特征在于,包括:
采集模块,用于当飞行器处于飞行状态时,采集目标实时图像,所述目标实时图像为处于飞行状态的所述飞行器通过飞行器内置摄像头拍摄的;
检测模块,用于采用手掌检测器检测所述目标实时图像中是否包含张开的手掌,若有,则确定所述目标实时图像满足降落条件,在所述目标实时图像满足所述降落条件的情况下,在所述目标实时图像中,根据所述张开的手掌的位置信息初始化核化相关滤波器KCF算法;所述手掌检测器为预先根据多个手掌样本图像训练得到的检测器;继续实时采集图像;采用所述KCF算法通过核函数对多通道的HOG特征进行融合,计算张开的手掌在图像中的位置;判断KCF算法是否计算成功;如果计算成功,则把所述张开的手掌的位置信息和通知飞行器需要进行降落的降落信息发送给飞行器控制端,所述张开的手掌的位置信息用于指示待降落位置;
发送模块,用于向所述飞行器发送降落控制指令,以使所述飞行器根据所述降落控制指令降落至第一确定模块确定的所述待降落位置;
所述手掌检测器的训练过程包括:
获取多个第一手掌样本图像以及多个第二手掌样本图像,所述第一手掌样本图像为手掌处于张开状态下的图像,第二手掌样本图像为手掌处于非张开状态下的图像;
对所述第一手掌样本图像和所述第二手掌样本图像进行色彩和伽马归一化处理;
计算所述第一手掌样本图像和所述第二手掌样本图像的横坐标和纵坐标方向的梯度,并据此计算每个像素位置的梯度方向值;
构建方向梯度直方图,细胞单元中的每一个像素点都为某个基于方向的直方图通道投票,投票采取加权投票的方式,每一票都带有权值,所述权值是根据该像素点的梯度幅度计算出来;
将细胞单元组合成大的区间,对梯度强度做归一化;
收集方向梯度直方图特征,把提取的第一手掌样本图像的方向梯度直方图特征以及第二手掌样本图像的方向梯度直方图特征输入到支持向量机分类器中,寻找最优超平面作为决策函数,根据第一手掌样本图像的特征信息以及第二手掌样本图像的特征信息训练得到手掌检测器。
7.根据权利要求6所述的飞行器降落控制装置,其特征在于,所述飞行器降落控制装置还包括:
统计模块,用于第一训练模块根据所述第一手掌样本图像的特征信息以及所述第二手掌样本图像的特征信息训练得到所述手掌检测器之后,采用所述手掌检测器对所述多个第二手掌样本图像进行分类检测,并统计分类检测结果的准确率;
第二训练模块,若所述统计模块统计得到所述分类检测结果的准确率小于或等于预置门限,则根据所述多个第二手掌样本图像中分类错误的目标手掌样本图像重新对所述手掌检测器进行训练。
8.根据权利要求6所述的飞行器降落控制装置,其特征在于,所述飞行器降落控制装置还包括:
第二确定模块,用于所述发送模块向所述飞行器发送降落控制指令之前,根据所述目标手掌的位置信息确定所述目标手掌的中心位置;
第一计算模块,用于根据所述第二确定模块确定的所述目标手掌的中心位置计算所述飞行器的水平平移量,所述水平平移量用于指示所述飞行器与所述目标手掌之间的水平距离;
第二计算模块,用于根据所述第二确定模块确定的所述目标手掌的中心位置计算所述飞行器的垂直平移量,所述垂直平移量用于指示所述飞行器与所述目标手掌之间的垂直距离;
生成模块,用于根据所述第一计算模块计算得到的所述水平平移量与所述第二计算模块计算得到的所述垂直平移量生成所述降落控制指令。
9.根据权利要求8所述的飞行器降落控制装置,其特征在于,所述第一计算模块包括:
第一计算单元,用于按照如下方式计算所述飞行器的水平平移量:
Sx=(2*x*H*tanα)/(X*cosβ);
其中,所述Sx表示所述飞行器的水平平移量,所述x表示所述目标手掌的中心位置在坐标系中的横坐标,所述X表示所述坐标系的横轴长度,所述H表示所述飞行器与地面的垂直高度,所述α表示所述飞行器内置摄像头横轴方向视角的半角,所述β表示所述飞行器内置摄像头中心线和垂直线之间的夹角。
10.根据权利要求8所述的飞行器降落控制装置,其特征在于,所述第二计算模块包括:
第二计算单元,用于按照如下方式计算所述飞行器的垂直平移量:
Sy=H*(tan(δ+θ)-tan(δ+θ-arctan(2*y*tanθ/Y)));
其中,所述Sy表示所述飞行器的垂直平移量,所述H表示所述飞行器与地面的垂直高度,所述δ表示所述飞行器内置摄像头投影线和垂直线之间的夹角,所述θ表示所述飞行器内置摄像头纵轴方向视角的半角,所述y表示所述目标手掌的中心位置在坐标系中的纵坐标,所述Y表示所述坐标系的纵轴长度。
11.一种飞行器降落控制装置,其特征在于,包括:存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器用于执行所述存储器中存储的计算机程序;
所述计算机程序用于执行权利要求1-5任一项所述的控制飞行器降落的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机可执行程序,所述计算机可执行程序被处理器加载并执行时,实现权利要求1-5任一项所述的控制飞行器降落的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611071489.7A CN108121350B (zh) | 2016-11-29 | 2016-11-29 | 一种控制飞行器降落的方法以及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611071489.7A CN108121350B (zh) | 2016-11-29 | 2016-11-29 | 一种控制飞行器降落的方法以及相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108121350A CN108121350A (zh) | 2018-06-05 |
CN108121350B true CN108121350B (zh) | 2021-08-24 |
Family
ID=62225289
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611071489.7A Active CN108121350B (zh) | 2016-11-29 | 2016-11-29 | 一种控制飞行器降落的方法以及相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108121350B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111724651B (zh) * | 2019-03-19 | 2023-04-21 | 中国人民解放军第四军医大学 | 一种飞行员错觉训练系统及方法 |
CN110018692A (zh) * | 2019-04-24 | 2019-07-16 | 五邑大学 | 一种无人机制导方法、系统、装置及存储介质 |
US11106223B2 (en) | 2019-05-09 | 2021-08-31 | GEOSAT Aerospace & Technology | Apparatus and methods for landing unmanned aerial vehicle |
CN112154390A (zh) * | 2019-07-30 | 2020-12-29 | 深圳市大疆创新科技有限公司 | 飞行器的降落方法、无人飞行器及计算机可读存储介质 |
CN110597297A (zh) * | 2019-10-21 | 2019-12-20 | 深圳市道通智能航空技术有限公司 | 一种飞行器返航控制方法、装置、飞行器和存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787419A (zh) * | 2014-12-23 | 2016-07-20 | 阿里巴巴集团控股有限公司 | 手掌图像的手掌检测方法及系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101257871B1 (ko) * | 2011-08-05 | 2013-04-23 | 엘지전자 주식회사 | 소실점 및 광류를 기반으로 한 검출 장치 및 검출 방법 |
CN104049641B (zh) * | 2014-05-29 | 2017-08-25 | 深圳市大疆创新科技有限公司 | 一种自动降落方法、装置及飞行器 |
CN104898524B (zh) * | 2015-06-12 | 2018-01-09 | 江苏数字鹰科技发展有限公司 | 基于手势的无人机遥控系统 |
CN105278541B (zh) * | 2015-09-02 | 2018-08-17 | 盐城智博科技有限公司 | 一种飞行器辅助降落控制方法及系统 |
CN105354551B (zh) * | 2015-11-03 | 2019-07-16 | 北京英梅吉科技有限公司 | 基于单目摄像头的手势识别方法 |
CN105607740A (zh) * | 2015-12-29 | 2016-05-25 | 清华大学深圳研究生院 | 一种基于计算机视觉的无人飞行器控制方法及装置 |
CN105955292B (zh) * | 2016-05-20 | 2018-01-09 | 腾讯科技(深圳)有限公司 | 一种控制飞行器飞行的方法、移动终端、飞行器及系统 |
CN106043694B (zh) * | 2016-05-20 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 一种控制飞行器飞行的方法、移动终端、飞行器及系统 |
-
2016
- 2016-11-29 CN CN201611071489.7A patent/CN108121350B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787419A (zh) * | 2014-12-23 | 2016-07-20 | 阿里巴巴集团控股有限公司 | 手掌图像的手掌检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108121350A (zh) | 2018-06-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108121350B (zh) | 一种控制飞行器降落的方法以及相关装置 | |
TWI786313B (zh) | 目標跟蹤方法、裝置、介質以及設備 | |
CN107909600B (zh) | 一种基于视觉的无人机实时运动目标分类与检测方法 | |
CN109918975B (zh) | 一种增强现实的处理方法、对象识别的方法及终端 | |
CN109785368B (zh) | 一种目标跟踪方法和装置 | |
CN109391762B (zh) | 一种跟踪拍摄的方法和装置 | |
CN105956518A (zh) | 一种人脸识别方法、装置和系统 | |
CN106407984B (zh) | 目标对象识别方法及装置 | |
CN106444797A (zh) | 一种控制飞行器降落的方法以及相关装置 | |
CN108198159A (zh) | 一种图像处理方法、移动终端以及计算机可读存储介质 | |
CN109495616B (zh) | 一种拍照方法及终端设备 | |
WO2014180121A1 (en) | Systems and methods for facial age identification | |
CN111598857A (zh) | 产品表面缺陷的检测方法、装置、终端设备及介质 | |
CN109063558A (zh) | 一种图像分类处理方法、移动终端及计算机可读存储介质 | |
CN109977845A (zh) | 一种可行驶区域检测方法及车载终端 | |
US20200358940A1 (en) | Following control method, control terminal, and unmanned aerial vehicle | |
CN110942022A (zh) | 投篮数据的输出方法和电子设备 | |
CN113421211A (zh) | 光斑虚化的方法、终端设备及存储介质 | |
CN110083742B (zh) | 一种视频查询方法和装置 | |
CN117765564A (zh) | 用户姿态的识别方法、装置、电子设备及存储介质 | |
CN109711477B (zh) | 一种自动驾驶模型的训练方法及装置 | |
CN108848321B (zh) | 曝光优化方法、装置及计算机可读存储介质 | |
WO2019087891A1 (ja) | 情報処理装置及び飛行制御システム | |
US11964775B2 (en) | Mobile object, information processing apparatus, information processing method, and program | |
WO2022082440A1 (zh) | 确定目标跟随策略的方法、装置、系统、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |