CN103914065B - 飞行器状态实时修正的方法和装置 - Google Patents
飞行器状态实时修正的方法和装置 Download PDFInfo
- Publication number
- CN103914065B CN103914065B CN201410112714.1A CN201410112714A CN103914065B CN 103914065 B CN103914065 B CN 103914065B CN 201410112714 A CN201410112714 A CN 201410112714A CN 103914065 B CN103914065 B CN 103914065B
- Authority
- CN
- China
- Prior art keywords
- information
- image
- image unit
- unit
- state information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000012937 correction Methods 0.000 claims abstract description 19
- 238000012360 testing method Methods 0.000 claims abstract description 7
- 238000005259 measurement Methods 0.000 claims description 19
- 238000013507 mapping Methods 0.000 claims description 15
- 230000001133 acceleration Effects 0.000 claims description 10
- 230000007613 environmental effect Effects 0.000 claims description 6
- 230000004446 light reflex Effects 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 description 4
- 230000000052 comparative effect Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 208000010877 cognitive disease Diseases 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000011157 data evaluation Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Abstract
本发明公开了一种飞行器状态实时修正的方法和装置。该方法包括获取摄像单元的一历史状态信息、摄像单元拍摄的当前图像和当前图像之前的一历史图像、以及至少一种传感器感测当前测量的外部信息或内部信息;根据历史状态信息预测与历史图像中的目标特征点对应的当前图像中的匹配特征点,并由匹配特征点计算当前摄像单元的外部信息或内部信息;根据预先标定的至少一种传感器相对于摄像单元的位置关系计算摄像单元的外部信息与至少一种传感器的外部信息之间或者摄像单元的内部信息与至少一种传感器的内部信息之间的相对比例关系;利用相对比例关系修正由历史状态信息估计得到的摄像单元的当前状态信息。实施本发明修正飞行器的状态信息,减小偏差。
Description
技术领域
本发明涉及无人飞行控制领域,特别是涉及一种飞行器状态实时修正的方法,还涉及一种飞行器状态实时修正的装置。
背景技术
近年来,携带摄像设备的无人驾驶的飞行器(例如固定翼飞机、旋翼飞行器包括直升机)在监控、侦测、搜救等应用领域扮演着十分重要的作用。对于这些飞行器的操纵通常由用户通过遥控器来实现。
操控者在遥控飞信器过程中,由于操控者视距有限,在飞行器飞远或被阻碍视线的情况下操控者很难观察出飞行器的状态,如果飞行器没有辅助飞行手段,那么飞行器极容易飞丢或者撞击障碍物。因此,具备辅助飞行手段的飞行器应运而生。现有的飞行器通常借助于摄像设备进行视觉导航,从而估计自身的状态信息。然而,估计的状态信息与实际的状态信息之间存在着偏差,当视觉导航时间越长,偏差发散越大,从而降低了视觉导航的可靠性。
发明内容
本发明的主要目的是提供一种飞行器状态实时修正的方法和装置,能够修正飞行器的状态信息,减小偏差。
为解决上述技术问题,本发明采用的一个技术方案是:提供一种飞行器状态实时修正的方法,包括:获取摄像单元的一历史状态信息、所述摄像单元拍摄的当前图像和所述当前图像之前的一历史图像、以及至少一种传感器感测当前测量的外部信息或内部信息;根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点,并由所述匹配特征点计算当前所述摄像单元的外部信息或内部信息;根据预先标定的所述至少一种传感器相对于所述摄像单元的位置关系计算所述摄像单元的外部信息与所述至少一种传感器的外部信息之间或者所述摄像单元的内部信息与所述至少一种传感器的内部信息之间的相对比例关系;利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息。
其中,所述利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息的步骤包括:根据预先建立的状态模型和测量模型对所述历史状态信息采用卡尔曼滤波器进行滤波,得到所述摄像单元的当前状态信息;将所述相对比例关系与所述当前状态信息进行积运算。
其中,所述根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点的步骤包括:根据所述历史状态信息预测所述历史图像中的目标特征点在所述当前图像中的坐标位置;选择离所述坐标位置最近的特征点作为与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点。
其中,所述摄像单元包括单目摄像头。
其中,所述单目摄像头为全景摄像头,所述摄像单元还包括反射镜,用于将外部光线反射至所述单目摄像头,则在所述获取所述摄像单元拍摄的当前图像的步骤之后,所述方法还包括:根据预先建立的与所述反射镜对应的校正模型获取外部空间中任一点与所述摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用所述坐标映射关系对所述摄像单元拍摄的当前图像进行校正。
其中,所述状态信息包括摄像单元的姿态、位置、速度、方向和周围的环境信息。
其中,所述外部信息包括相对于外部对象的距离信息,所述内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。
为解决上述技术问题,本发明采用的另一个技术方案是:提供一种飞行器状态实时修正的装置,所述飞行器包括摄像单元和至少一个传感器,所述装置包括:获取模块,用于获取所述摄像单元的一历史状态信息、所述摄像单元拍摄的当前图像和所述当前图像之前的一历史图像、以及所述至少一种传感器感测当前测量的外部信息或内部信息;匹配模块,用于根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点,并由所述匹配特征点计算当前所述摄像单元的外部信息或内部信息;计算模块,用于根据预先标定的所述至少一种传感器相对于所述摄像单元的位置关系计算所述摄像单元的外部信息与所述至少一种传感器的外部信息之间或者所述摄像单元的内部信息与所述至少一种传感器的内部信息之间的相对比例关系;修正模块,用于利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息。
其中,所述修正模块包括滤波器单元和修正单元,其中,所述滤波器单元用于根据预先建立的状态模型和测量模型对所述历史状态信息采用卡尔曼滤波器进行滤波,得到所述摄像单元的当前状态信息;所述修正单元用于将所述相对比例关系与所述当前状态信息进行积运算。
其中,所述匹配模块具体用于根据所述历史状态信息预测所述历史图像中的目标特征点在所述当前图像中的坐标位置,并选择离所述坐标位置最近的特征点作为与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点。
其中,所述摄像单元包括单目摄像头。
其中,所述单目摄像头为全景摄像头,所述摄像单元还包括反射镜,用于将外部光线反射至所述单目摄像头,所述装置还包括校正模块,所述校正模块用于在所述获取模块获取所述摄像单元拍摄的当前图像之后,根据预先建立的与所述反射镜对应的校正模型获取外部空间中任一点与所述摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用所述坐标映射关系对所述摄像单元拍摄的当前图像进行校正。
其中,所述状态信息包括摄像单元的姿态、位置、速度、方向和周围的环境信息。
其中,所述外部信息包括相对于外部对象的距离信息,所述内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。
本发明的有益效果是:区别于现有技术的情况,本发明提供的飞行器状态实时修正的方法和装置,通过历史状态信息以及摄像单元拍摄的历史图像和当前图像中的特征点,计算摄像单元的外部信息或内部信息,再结合至少一种传感器的外部信息或内部信息得到两个外部信息或内部信息之间的相对比例关系,利用相对比例关系来修正基于历史状态信息得到的当前状态信息,从而能够达到修正飞行器的状态信息的目的,可以减小状态信息的偏差,提高准确性和可靠性。
附图说明
图1是本发明飞行器状态实时修正的方法一实施例的流程示意图;
图2是本发明飞行器状态实时修正的方法中图像校正前和校正后的对比示意图;
图3是图1所示的飞行器状态实时修正的方法在具体应用场景中的流程示意图;
图4是本发明飞行器状态实时修正的装置一实施例的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
图1所示为本发明飞行器状态实时修正的方法一实施例的流程示意图,该方法包括:
S101:获取摄像单元的一历史状态信息、摄像单元拍摄的当前图像和当前图像之前的一历史图像、以及至少一种传感器感测当前测量的外部信息或内部信息。
其中,在飞行器起飞时刻的状态信息的信息量为0,起飞之后每个单位时刻的状态信息都与前一单位时刻的状态信息有关。由于摄像单元是固定在飞行器上的,飞行器的状态信息可视为摄像单元的状态信息。在本实施例中,状态信息至少包括摄像单元的姿态、位置、速度、方向和周围的环境信息等。在本实施例中,摄像单元包括单目摄像头。
如果每个单位时刻之间间隔较长,则历史状态信息可以优选为前一单位时刻的状态信息,历史图像优选为前一单位时刻的图像;如果每个单位时刻间隔较短,则历史状态信息可以为间隔多个单位时刻的状态信息,历史图像为间隔多个单位时刻的图像。
在本实施例中,外部信息包括相对于外部对象的距离信息,内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。在具体实施时,可以采用激光传感器、超声波传感器等外部传感器测量相对于外部对象的距离,采用加速度传感器、方向传感器、里程器等内部传感器测量加速度、方向、里程等内部信息。
S102:根据历史状态信息预测与历史图像中的目标特征点对应的当前图像中的匹配特征点,并由匹配特征点计算当前摄像单元的外部信息或内部信息。
具体来说,摄像单元拍摄的图像中包含很多物体信息,例如树木、建筑物等,这些物体的边缘角点均可以作为目标特征点。由于历史状态信息包括方向、速度等表征运动向量的信息,当选取历史图像中的目标特征点后,根据历史状态信息中的方向和速度就可以推断出与历史图像中的目标特征点对应的当前图像中的匹配特征点。
摄像单元的外部信息或内部信息与传感器测量的外部信息或内部信息属于不同的测量结果。摄像单元的外部信息或内部信息均可以由匹配特征点计算得到,例如当计算相对于外部对象的距离信息时,通过当前特征点的坐标值计算摄像单元与匹配特征点的距离,当计算速度信息时,通过当前特征点的坐标值、目标特征点的坐标值以及间隔的单位时刻计算摄像单元的速度。
作为本实施例的一种优选的方案,根据历史状态信息预测与历史图像中的目标特征点对应的当前图像中的匹配特征点的步骤具体可以包括:根据历史状态信息预测历史图像中的目标特征点在当前图像中的坐标位置;选择离坐标位置最近的特征点作为与历史图像中的目标特征点对应的当前图像中的匹配特征点。
其中,通过历史状态信息可以得到目标特征点所处坐标位置的位移,从而确定目标特征点在当前图像中的坐标位置,该过程可以采用光流法、基于特征描述符的匹配法等方法。当然,飞行器的状态信息可能存在变化,目标特征点在当前图像中的坐标位置上可能并没有坐标点,所以可以寻找离该坐标位置最近的特征点作为匹配特征点。
S103:根据预先标定的至少一种传感器相对于摄像单元的位置关系计算摄像单元的外部信息与至少一种传感器的外部信息之间或者摄像单元的内部信息与至少一种传感器的内部信息之间的相对比例关系。
其中,飞行器上传感器与摄像单元之间的位置关系是通过预先标定得到的,为已知量。位置关系包括传感器与摄像单元之间的距离。根据位置关系、传感器的外部信息或内部信息、摄像单元的外部信息或内部信息,就可以得到两个外部信息之间或两个内部信息之间的相对比例关系。
S104:利用相对比例关系修正由历史状态信息估计得到的摄像单元的当前状态信息。
作为本实施例的一种优选的方案,S104具体包括:根据预先建立的状态模型和测量模型对历史状态信息采用卡尔曼滤波器进行滤波,得到摄像单元的当前状态信息;将相对比例关系与当前状态信息进行积运算。
其中,状态模型和测量模型都是预先建立的,是已知的。采用卡尔曼滤波器得到的当前状态信息与实际状态信息存在比例关系,通过将相对比例关系与当前状态信息进行积运算可以让当前状态信息进一步接近实际状态信息,甚至等于实际状态信息,从而达到修正目的。
需要说明的是,本实施例除了采用卡尔曼滤波器之外,还可以采用其它滤波器,例如EKF(Extended Kalman Filter,扩展卡尔曼滤波器)。
在更多实施例中,考虑到摄像单元的摄像范围,单目摄像头采用全景摄像头,并且摄像单元还包括反射镜,反射镜用于将外部光线反射至单目摄像头。则在获取摄像单元拍摄的当前图像的步骤之后,该方法还包括:根据预先建立的与反射镜对应的校正模型获取外部空间中任一点与摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用坐标映射关系对摄像单元拍摄的当前图像进行校正。
其中,反射镜的曲面通常为抛物线或双曲线。以抛物线为例,单目摄像头的成像点位于抛物线的准线上,并且抛物线的焦点到成像点的连线与准线垂直。由于抛物线上任一点到准线的距离与到焦点的距离相等,则可以根据这个性质建立校正模型,从而根据校正模型可以得到外部空间中任一点与摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用坐标映射关系在展开单目摄像头的当前图像时进行校正,如图2所示,校正前的当前图像由于反射镜的影响即便较严重,经过柱形展开校正后可以得到正确的图像。
图3所示为图1所示的飞行器状态实时修正的方法在具体应用场景中的流程示意图,在本实施例中,摄像单元包括反射镜和单目摄像头,传感器采用激光传感器。该方法包括:
S201:进行初始化,获取预先标定的摄像单元与至少一种传感器之间的位置关系、预先建立的状态模型和测量模型、预先建立的与反射镜对应的校正模型、以及摄像机的初始状态信息。
其中,状态模型的方程为:
x(k|k-1)=Ax(k-1|k-1)+BU(k)+w(k)
其中,k为时间系数,x(k|k-1)为当前状态信息预测值,x(k-1|k-1)为上一状态信息估算值,U(k)为已知的输入量,w为过程噪声,A、B均为状态参数。
测量模型的方程为:
Z(k)=Hx(k|k-1)+v(k)
其中,Z(k)为匹配特征点测量值,v为过程噪声,H为测量参数。
S202:根据上一状态信息和状态模型预测得到系统的当前状态信息预测值。
S203:获取摄像单元拍摄的当前图像和当前图像之前的上一图像以及激光传感器测量的世界坐标系下的特征点。
S204:根据校正模型获取外部空间中任一点与当前图像中的对应点的坐标映射关系,利用坐标映射关系对当前图像进行校正。
S205:根据上一状态信息预测与上一图像中的目标特征点对应的校正后的当前图像中的匹配特征点,根据预设的测量模型和匹配特征点得到匹配特征点测量值。
其中,在测量模型的方程中,x(k|k-1)为目标特征点,是当前状态信息预测值中的一项参数。
S206:对当前状态信息预测值和匹配特征点测量值采用卡尔曼滤波器进行滤波,得到摄像单元的当前状态信息估算值。
其中,卡尔曼滤波器的时间更新方程为:
x(k|k)=x(k|k-1)+kg(k)(Z(k)-Hx(k|k-1))
kg(k)=P(k|k-1)H'/(HP(k|k-1))H′+R)
其中,x(k|k)为当前状态信息估算值,kg(k)为卡尔曼增益,P(k|k-1)为x(k|k-1)对应的协方差,R为v的协方差,H′为H的转置矩阵。
S207:计算激光传感器到与世界坐标系下的特征点的第一距离以及摄像单元到匹配特征点测量值的第二距离,并根据位置关系计算第一距离与第二距离之间的相对比例关系。
其中,激光传感器发出的激光束上如果没有特征点,那么将选定离激光束最近的特征点。
S208:将相对比例关系与当前状态信息估算值进行积运算。
其中,进行积运算之后,可以利用当前状态信息以及外部信息,例如外部标识点云建立局部地图,通过该局部地图可以识别障碍物空间位置,从而飞行器在操控者视野之外时可以进行避障和导航。
图4所示为本发明飞行器状态实时修正的装置一实施例的结构示意图。飞行器包括摄像单元和至少一个传感器,该装置包括获取模块10、匹配模块20、计算模块30和修正模块40。
获取模块10用于获取摄像单元的一历史状态信息、摄像单元拍摄的当前图像和当前图像之前的一历史图像、以及至少一种传感器感测当前测量的外部信息或内部信息。
其中,在飞行器起飞时刻的状态信息的信息量为0,起飞之后每个单位时刻的状态信息都与前一单位时刻的状态信息有关。由于摄像单元是固定在飞行器上的,飞行器的状态信息可视为摄像单元的状态信息。在本实施例中,状态信息至少包括摄像单元的姿态、位置、速度、方向和周围的环境信息等。在本实施例中,摄像单元包括单目摄像头。
如果每个单位时刻之间间隔较长,则历史状态信息可以优选为前一单位时刻的状态信息,历史图像优选为前一单位时刻的图像;如果每个单位时刻间隔较短,则历史状态信息可以为间隔多个单位时刻的状态信息,历史图像为间隔多个单位时刻的图像。
在本实施例中,外部信息包括相对于外部对象的距离信息,内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。在具体实施时,可以采用激光传感器、超声波传感器等外部传感器测量相对于外部对象的距离,采用加速度传感器、方向传感器、里程器等内部传感器测量加速度、方向、里程等内部信息。
匹配模块20用于根据历史状态信息预测与历史图像中的目标特征点对应的当前图像中的匹配特征点,并由匹配特征点计算当前摄像单元的外部信息或内部信息。
其中,具体来说,摄像单元拍摄的图像中包含很多物体信息,例如树木、建筑物等,这些物体的边缘角点均可以作为目标特征点。由于历史状态信息包括方向、速度等表征运动向量的信息,当选取历史图像中的目标特征点后,根据历史状态信息中的方向和速度就可以推断出与历史图像中的目标特征点对应的当前图像中的匹配特征点。
摄像单元的外部信息或内部信息与传感器测量的外部信息或内部信息属于不同的测量结果。摄像单元的外部信息或内部信息均可以由匹配特征点计算得到,例如当计算相对于外部对象的距离信息时,通过当前特征点的坐标值计算摄像单元与匹配特征点的距离,当计算速度信息时,通过当前特征点的坐标值、目标特征点的坐标值以及间隔的单位时刻计算摄像单元的速度。
作为本实施例的一种优选的方案,匹配模块20具体用于根据历史状态信息预测历史图像中的目标特征点在当前图像中的坐标位置,选择离坐标位置最近的特征点作为与历史图像中的目标特征点对应的当前图像中的匹配特征点。
其中,通过历史状态信息可以得到目标特征点所处坐标位置的位移,从而确定目标特征点在当前图像中的坐标位置,该过程可以采用光流法、基于特征描述符的匹配法等方法。当然,飞行器的状态信息可能存在变化,目标特征点在当前图像中的坐标位置上可能并没有坐标点,所以可以寻找离该坐标位置最近的特征点作为匹配特征点。
计算模块30用于根据预先标定的至少一种传感器相对于摄像单元的位置关系计算摄像单元的外部信息与至少一种传感器的外部信息之间或者摄像单元的内部信息与至少一种传感器的内部信息之间的相对比例关系。
其中,飞行器上传感器与摄像单元之间的位置关系是通过预先标定得到的,为已知量。位置关系包括传感器与摄像单元之间的距离。根据位置关系、传感器的外部信息或内部信息、摄像单元的外部信息或内部信息,就可以得到两个外部信息之间或两个内部信息之间的相对比例关系。
修正模块40用于利用相对比例关系修正由历史状态信息估计得到的摄像单元的当前状态信息。
其中,作为本实施例的一种优选的方案,修正模块40包括滤波器单元410和修正单元420。滤波器单元410用于根据预先建立的状态模型和测量模型对历史状态信息采用卡尔曼滤波器进行滤波,得到摄像单元的当前状态信息。修正单元420用于将相对比例关系与当前状态信息进行积运算。
其中,状态模型和测量模型都是预先建立的,是已知的。采用卡尔曼滤波器得到的当前状态信息与实际状态信息存在比例关系,通过将相对比例关系与当前状态信息进行积运算可以让当前状态信息进一步接近实际状态信息,甚至等于实际状态信息,从而达到修正目的。
需要说明的是,本实施例除了采用卡尔曼滤波器之外,还可以采用其它滤波器,例如EKF。
在更多实施例中,考虑到摄像单元的摄像范围,单目摄像头采用全景摄像头,并且摄像单元还包括反射镜,反射镜用于将外部光线反射至单目摄像头。则该装置还可以包括校正模块50。校正模块50用于在获取模块10获取摄像单元拍摄的当前图像之后,根据预先建立的与反射镜对应的校正模型获取外部空间中任一点与摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用坐标映射关系对摄像单元拍摄的当前图像进行校正。
其中,反射镜的曲面通常为抛物线或双曲线。以抛物线为例,单目摄像头的成像点位于抛物线的准线上,并且抛物线的焦点到成像点的连线与准线垂直。由于抛物线上任一点到准线的距离与到焦点的距离相等,则可以根据这个性质建立校正模型,从而根据校正模型可以得到外部空间中任一点与摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用坐标映射关系在展开单目摄像头的当前图像时进行校正。
本发明实施例还提供一种飞行器,包括上述实施例的装置,飞行棋的其它结构请参照现有技术,此处不再详述。
通过上述方式,本发明的飞行器状态实时修正的方法和装置,通过历史状态信息以及摄像单元拍摄的历史图像和当前图像中的特征点,计算摄像单元的外部信息或内部信息,再结合至少一种传感器的外部信息或内部信息得到两个外部信息或内部信息之间的相对比例关系,利用相对比例关系来修正基于历史状态信息得到的当前状态信息,从而能够达到修正飞行器的状态信息的目的,可以减小状态信息的偏差,提高准确性和可靠性,避免飞行器飞丢,丰富操控者的飞行体验。
以上所述仅为本发明的实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其它相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (14)
1.一种飞行器状态实时修正的方法,其特征在于,包括:
获取摄像单元的一历史状态信息、所述摄像单元拍摄的当前图像和所述当前图像之前的一历史图像、以及至少一种传感器感测当前测量的外部信息或内部信息;
根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点,并由所述匹配特征点计算当前所述摄像单元的外部信息或内部信息;
根据预先标定的所述至少一种传感器相对于所述摄像单元的位置关系计算所述摄像单元的外部信息与所述至少一种传感器的外部信息之间或者所述摄像单元的内部信息与所述至少一种传感器的内部信息之间的相对比例关系;
利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息。
2.根据权利要求1所述的方法,其特征在于,所述利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息的步骤包括:
根据预先建立的状态模型和测量模型对所述历史状态信息采用卡尔曼滤波器进行滤波,得到所述摄像单元的当前状态信息;
将所述相对比例关系与所述当前状态信息进行积运算。
3.根据权利要求1所述的方法,其特征在于,所述根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点的步骤包括:
根据所述历史状态信息预测所述历史图像中的目标特征点在所述当前图像中的坐标位置;
选择离所述坐标位置最近的特征点作为与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点。
4.根据权利要求1所述的方法,其特征在于,所述摄像单元包括单目摄像头。
5.根据权利要求4所述的方法,其特征在于,所述单目摄像头为全景摄像头,所述摄像单元还包括反射镜,用于将外部光线反射至所述单目摄像头,则在所述获取所述摄像单元拍摄的当前图像的步骤之后,所述方法还包括:
根据预先建立的与所述反射镜对应的校正模型获取外部空间中任一点与所述摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用所述坐标映射关系对所述摄像单元拍摄的当前图像进行校正。
6.根据权利要求1所述的方法,其特征在于,所述状态信息包括摄像单元的姿态、位置、速度、方向和周围的环境信息。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述外部信息包括相对于外部对象的距离信息,所述内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。
8.一种飞行器状态实时修正的装置,其特征在于,所述飞行器包括摄像单元和至少一个传感器,所述装置包括:
获取模块,用于获取所述摄像单元的一历史状态信息、所述摄像单元拍摄的当前图像和所述当前图像之前的一历史图像、以及所述至少一种传感器感测当前测量的外部信息或内部信息;
匹配模块,用于根据所述历史状态信息预测与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点,并由所述匹配特征点计算当前所述摄像单元的外部信息或内部信息;
计算模块,用于根据预先标定的所述至少一种传感器相对于所述摄像单元的位置关系计算所述摄像单元的外部信息与所述至少一种传感器的外部信息之间或者所述摄像单元的内部信息与所述至少一种传感器的内部信息之间的相对比例关系;
修正模块,用于利用所述相对比例关系修正由所述历史状态信息估计得到的所述摄像单元的当前状态信息。
9.根据权利要求8所述的装置,其特征在于,所述修正模块包括滤波器单元和修正单元,其中,
所述滤波器单元用于根据预先建立的状态模型和测量模型对所述历史状态信息采用卡尔曼滤波器进行滤波,得到所述摄像单元的当前状态信息;
所述修正单元用于将所述相对比例关系与所述当前状态信息进行积运算。
10.根据权利要求8所述的装置,其特征在于,所述匹配模块具体用于根据所述历史状态信息预测所述历史图像中的目标特征点在所述当前图像中的坐标位置,并选择离所述坐标位置最近的特征点作为与所述历史图像中的目标特征点对应的所述当前图像中的匹配特征点。
11.根据权利要求8所述的装置,其特征在于,所述摄像单元包括单目摄像头。
12.根据权利要求11所述的装置,其特征在于,所述单目摄像头为全景摄像头,所述摄像单元还包括反射镜,用于将外部光线反射至所述单目摄像头,所述装置还包括校正模块,所述校正模块用于在所述获取模块获取所述摄像单元拍摄的当前图像之后,根据预先建立的与所述反射镜对应的校正模型获取外部空间中任一点与所述摄像单元拍摄的当前图像中的对应点的坐标映射关系,利用所述坐标映射关系对所述摄像单元拍摄的当前图像进行校正。
13.根据权利要求8所述的装置,其特征在于,所述状态信息包括摄像单元的姿态、位置、速度、方向和周围的环境信息。
14.根据权利要求8至13任一项所述的装置,其特征在于,所述外部信息包括相对于外部对象的距离信息,所述内部信息包括加速度信息、方向信息、角速度信息、速度信息或里程信息中的一种或几种。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410112714.1A CN103914065B (zh) | 2014-03-24 | 2014-03-24 | 飞行器状态实时修正的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410112714.1A CN103914065B (zh) | 2014-03-24 | 2014-03-24 | 飞行器状态实时修正的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103914065A CN103914065A (zh) | 2014-07-09 |
CN103914065B true CN103914065B (zh) | 2016-09-07 |
Family
ID=51039825
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410112714.1A Expired - Fee Related CN103914065B (zh) | 2014-03-24 | 2014-03-24 | 飞行器状态实时修正的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103914065B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6132981B2 (ja) | 2014-03-24 | 2017-05-24 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 飛行機の状態をリアルタイムに修正する方法および装置 |
CN106030431B (zh) * | 2014-08-15 | 2017-11-03 | 深圳市大疆创新科技有限公司 | 传感器的自动标定系统及方法 |
EP3123260B1 (en) * | 2014-12-31 | 2021-04-14 | SZ DJI Technology Co., Ltd. | Selective processing of sensor data |
EP3158412B8 (en) * | 2015-05-23 | 2019-05-22 | SZ DJI Technology Co., Ltd. | Sensor fusion using inertial and image sensors |
CN107850902B (zh) | 2015-07-08 | 2022-04-08 | 深圳市大疆创新科技有限公司 | 可移动物体上的相机配置 |
CN105467158B (zh) * | 2015-12-28 | 2019-01-29 | 太原航空仪表有限公司 | 直升机机动飞行的空速修正方法 |
US10577081B2 (en) * | 2016-03-24 | 2020-03-03 | Intel Corporation | Proactive vehicle control systems and methods |
WO2017206179A1 (en) * | 2016-06-03 | 2017-12-07 | SZ DJI Technology Co., Ltd. | Simple multi-sensor calibration |
EP3495907A4 (en) | 2016-08-03 | 2019-10-23 | SZ DJI Osmo Technology Co., Ltd. | METHOD AND SYSTEM FOR SUPPORT CONTROL |
CN110019354A (zh) * | 2017-09-20 | 2019-07-16 | 杭州海康机器人技术有限公司 | 控制指令生成方法、生成系统、电子设备及存储介质 |
WO2019205087A1 (zh) * | 2018-04-27 | 2019-10-31 | 深圳市大疆创新科技有限公司 | 图像增稳方法和装置 |
CN109782812B (zh) * | 2019-03-06 | 2022-04-19 | 深圳慧源创新科技有限公司 | 无人机飞行方法、装置、pid控制器及存储介质 |
CN112066988B (zh) * | 2020-08-17 | 2022-07-26 | 联想(北京)有限公司 | 定位方法及定位设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2648636A1 (en) * | 2006-01-13 | 2007-11-22 | Sean Xiaolu Wang | Visual navigational aids based on high intensity leds |
EP2071353A2 (en) * | 2007-12-14 | 2009-06-17 | The Boeing Company | System and methods for autonomous tracking and surveillance |
CN102435188A (zh) * | 2011-09-15 | 2012-05-02 | 南京航空航天大学 | 一种用于室内环境的单目视觉/惯性全自主导航方法 |
CN103365297A (zh) * | 2013-06-29 | 2013-10-23 | 天津大学 | 基于光流的四旋翼无人机飞行控制方法 |
CN103424114A (zh) * | 2012-05-22 | 2013-12-04 | 同济大学 | 一种视觉导航/惯性导航的全组合方法 |
CN103644904A (zh) * | 2013-12-17 | 2014-03-19 | 上海电机学院 | 一种基于sift算法的视觉导航方法 |
-
2014
- 2014-03-24 CN CN201410112714.1A patent/CN103914065B/zh not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2648636A1 (en) * | 2006-01-13 | 2007-11-22 | Sean Xiaolu Wang | Visual navigational aids based on high intensity leds |
EP2071353A2 (en) * | 2007-12-14 | 2009-06-17 | The Boeing Company | System and methods for autonomous tracking and surveillance |
CN102435188A (zh) * | 2011-09-15 | 2012-05-02 | 南京航空航天大学 | 一种用于室内环境的单目视觉/惯性全自主导航方法 |
CN103424114A (zh) * | 2012-05-22 | 2013-12-04 | 同济大学 | 一种视觉导航/惯性导航的全组合方法 |
CN103365297A (zh) * | 2013-06-29 | 2013-10-23 | 天津大学 | 基于光流的四旋翼无人机飞行控制方法 |
CN103644904A (zh) * | 2013-12-17 | 2014-03-19 | 上海电机学院 | 一种基于sift算法的视觉导航方法 |
Non-Patent Citations (3)
Title |
---|
Visual Steering of UAV in Unknown Environments;Chunrong Yuan,Fabian Recktenwald,Hanspeter A.Mallot;《The 2009 IEEE/RSJ international Conference on intelligent Robots and Systems》;20091015;全文 * |
单目视觉里程计/惯性组合导航算法;冯国虎,等;《中国惯性技术学报》;20110630;第19卷(第3期);全文 * |
基于稀疏光流的无人机自主导航方案;陈磊,陈宗基;《航空学报》;20080531;第29卷;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN103914065A (zh) | 2014-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103914065B (zh) | 飞行器状态实时修正的方法和装置 | |
JP6132981B2 (ja) | 飛行機の状態をリアルタイムに修正する方法および装置 | |
CN109029417B (zh) | 基于混合视觉里程计和多尺度地图的无人机slam方法 | |
US10435176B2 (en) | Perimeter structure for unmanned aerial vehicle | |
JP6390013B2 (ja) | 小型無人飛行機の制御方法 | |
CN107727079B (zh) | 一种微小型无人机全捷联下视相机的目标定位方法 | |
CN106774409B (zh) | 一种无人机的半自主仿地飞行系统及其控制方法 | |
CN106705936B (zh) | 一种无人机高度优化方法及装置 | |
CN111338383B (zh) | 基于gaas的自主飞行方法及系统、存储介质 | |
CN108827306A (zh) | 一种基于多传感器融合的无人机slam导航方法及系统 | |
US20200191556A1 (en) | Distance mesurement method by an unmanned aerial vehicle (uav) and uav | |
US20180022472A1 (en) | Autonomous system for taking moving images from a drone, with target tracking and improved target location | |
CN103365297A (zh) | 基于光流的四旋翼无人机飞行控制方法 | |
CN104280022A (zh) | 视觉辅助惯性测量单元的数字头盔显示设备跟踪系统 | |
Suzuki et al. | Vision based localization of a small UAV for generating a large mosaic image | |
US11328612B2 (en) | System, method, and apparatus for drone positioning control | |
JP2021162572A (ja) | 位置算出方法及び情報処理システム | |
CN109143303B (zh) | 飞行定位方法、装置及固定翼无人机 | |
Rhudy et al. | Wide-field optical flow aided inertial navigation for unmanned aerial vehicles | |
CN108227734A (zh) | 用于控制无人机的电子控制装置、相关的无人机、控制方法及计算机程序 | |
CN112862818A (zh) | 惯性传感器和多鱼眼相机联合的地下停车场车辆定位方法 | |
CN102706360B (zh) | 一种利用光流传感器和速率陀螺对飞行器状态估计的方法 | |
CN112136137A (zh) | 一种参数优化方法、装置及控制设备、飞行器 | |
KR102467855B1 (ko) | 자율항법지도를 설정하는 방법 및 무인비행체가 자율항법지도에 기초하여 자율 비행하는 방법 및 이를 구현하는 시스템 | |
US20210240185A1 (en) | Shooting control method and unmanned aerial vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20160907 |