CN110647156B - 基于目标物对接环的对接设备位姿调整方法、系统 - Google Patents
基于目标物对接环的对接设备位姿调整方法、系统 Download PDFInfo
- Publication number
- CN110647156B CN110647156B CN201910875315.3A CN201910875315A CN110647156B CN 110647156 B CN110647156 B CN 110647156B CN 201910875315 A CN201910875315 A CN 201910875315A CN 110647156 B CN110647156 B CN 110647156B
- Authority
- CN
- China
- Prior art keywords
- docking
- outer ring
- image
- pose
- ellipse
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003032 molecular docking Methods 0.000 title claims abstract description 159
- 238000000034 method Methods 0.000 title claims abstract description 103
- 210000001503 joint Anatomy 0.000 claims abstract description 19
- 239000011159 matrix material Substances 0.000 claims description 43
- 238000001514 detection method Methods 0.000 claims description 33
- 239000013598 vector Substances 0.000 claims description 30
- 230000003287 optical effect Effects 0.000 claims description 26
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 8
- 238000013519 translation Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 5
- 238000012216 screening Methods 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- FPIGOBKNDYAZTP-UHFFFAOYSA-N 1,2-epoxy-3-(4-nitrophenoxy)propane Chemical compound C1=CC([N+](=O)[O-])=CC=C1OCC1OC1 FPIGOBKNDYAZTP-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0094—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
Landscapes
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明属于设备对接控制领域,具体涉及一种基于目标物对接环的对接设备位姿调整方法、系统,旨在为了解决解决飞行器对接过程中对接精准度不高的问题。本发明用于所述对接设备与具有对接环的目标物对接过程的位姿控制,包括获取双目图像中对接环的外环轮廓;并在可提取目标物的预设外环轮廓辅助点时,根据对接环的外环轮廓和外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿,否则基于前后帧输入图像的特征点匹配计算当前帧的目标物相对于所述对接设备的位姿;基于目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。本发明提高了飞行器基于外接环对接的精准度。
Description
技术领域
本发明属于设备对接控制领域,具体涉及一种基于目标物对接环的对接设备位姿调整方法、系统。
背景技术
传统双目定位方法依赖特征点的提取与匹配。由于飞行器表面一般为高光反射材质,在双目相机拍摄到的图像中高光区域会有明显差异,导致特征点会产生大量错误匹配。对接环作为飞行器普遍存在的结构,能够提供空间圆形特征。普通的椭圆检测方法对图像质量要求较高,且高光区域会影响检测精度。仅靠空间圆也并不能计算出完整的飞行器位姿,需要一个圆外辅助点计算旋转矩阵。因此造成了飞行器对接过程中对接精准度不高的问题。
发明内容
为了解决现有技术中的上述问题,即为了解决飞行器对接过程中对接精准度不高的问题,本发明的第一方面,提出了一种基于目标物对接环的对接设备位姿调整方法,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,该调整方法包括以下步骤:
步骤S100,以装设于所述对接设备的双目相机的拍摄图像作为输入图像,提取所述对接环的外环轮廓;
步骤S200,若能从所述输入图像提取所述目标物的预设外环轮廓辅助点,则提取所述目标物的预设外环轮廓辅助点后执行步骤S300,否则执行步骤S400;
步骤S300,根据所述对接环的外环轮廓和步骤S200所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿,执行步骤S500;
步骤S400,提取所述输入图像中设定侧的图像的特征点,与上一帧输入图像中所述设定侧的图像进行特征点匹配,并计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿;
步骤S500,基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
在一些优选实施方式中,所述步骤S100之前还包括双目相机的参数矩阵的标定;所述参数矩阵包括内参数矩阵、外参数矩阵、畸变参数矩阵。
在一些优选实施方式中,步骤S100中“提取所述对接环的外环轮廓”,其方法为:基于所述输入图像,采用基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓。
在一些优选实施方式中,若所述输入图像为非初始帧图像,基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓方法中,基于光流追踪法获取的追踪点选取最终的外环轮廓。
在一些优选实施方式中,“基于光流追踪法获取的追踪点选取最终的外环轮廓”,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤S110,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓上N个点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;N为预设自然数;
步骤S120,基于弧线段组合的椭圆检测方法获取第t帧选定侧图像中所述对接环的多个候选外环轮廓;
步骤S130,从步骤S120中得到的多个候选外环轮廓中选取与步骤S110中追踪点的距离平均值最小的候选外环轮廓作为最终的外环轮廓。
在一些优选实施方式中,步骤S200中“提取所述目标物的预设外环轮廓辅助点”,其方法为:
以所述目标物上设置的标志点作为预设外环轮廓辅助点,利用斑点检测法在所述输入图像中提取所述目标物的预设外环轮廓辅助点;或者
以所述目标物的边缘角点作为预设外环轮廓辅助点,利用霍夫直线法获取所述输入图像中所述目标物的边的交点作为边缘角点。
在一些优选实施方式中,若所述输入图像为非初始帧图像,在提取所述目标物的预设外环轮廓辅助点方法中,基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点。
在一些优选实施方式中,“基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点”,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤S210,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓辅助点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;
步骤S220,获取第t帧选定侧图像中多个候选外环轮廓辅助点;
步骤S230,从步骤S220中得到的多个候选外环轮廓中选取与步骤S210中追踪点的距离最小的候选外环轮廓辅助点作为最终的外环轮廓辅助点。
在一些优选实施方式中,步骤S300中“计算所述目标物相对于所述对接设备的位姿”,其方法为:
其中,和分别为t时刻所述目标物坐标系关于设定侧相机坐标系的旋转矩阵和平移向量,的三个向量为nx、ny、nz,为所述目标物坐标系的原点,为双目重建得到三维圆的圆心在所述设定侧相机坐标系中的坐标,为双目重建得到空间平面圆的单位法向量。
在一些优选实施方式中,步骤S400中“计算所述目标物相对于所述对接设备的位姿”,其方法为:
其中,和分别为t时刻所述目标物坐标系关于设定侧相机坐标系的旋转矩阵和平移向量,的三个向量为nx、ny、nz,为双目重建得到三维圆的圆心在所述设定侧相机坐标系中的坐标,为双目重建得到空间平面圆的单位法向量,n′x为上一时刻所述目标物坐标系关于设定侧相机坐标系的刻旋转矩阵中x轴的向量。
在一些优选实施方式中,所述步骤S400和步骤S500之间还包括:基于匀速卡尔曼滤波器优化所述目标物相对于所述对接设备的位姿。
本发明的第二方面,提出了一种基于目标物对接环的对接设备位姿调整系统,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,该调整系统包括外环轮廓提取模块、判断模块、第一计算模块、第二计算模块、位姿调整模块;
所述环轮廓提取模块,配置为以装设于所述对接设备的双目相机的拍摄图像作为输入图像,提取所述对接环的外环轮廓;
所述判断模块,配置为判断从所述输入图像能否提取所述目标物的预设外环轮廓辅助点,若能则提取所述目标物的预设外环轮廓辅助点后切换至第一计算模块,否则切换至第二计算模块;
所述第一计算模块,配置为根据所述对接环的外环轮廓和所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿;
所述第二计算模块,配置为提取所述输入图像中设定侧的图像的特征点,与上一帧输入图像中所述设定侧的图像进行特征点匹配,并计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿;
所述位姿调整模块,配置为基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
本发明的第三方面,提出了一种存储装置,其中存储有多条程序,所述程序适于由处理器加载并执行以实现上述的基于目标物对接环的对接设备位姿调整方法。
本发明的第四方面,提出了一种处理装置,包括处理器、存储装置;处理器,适于执行各条程序;存储装置,适于存储多条程序;所述程序适于由处理器加载并执行以实现上述的基于目标物对接环的对接设备位姿调整方法。
本发明的有益效果:
本发明充分利用飞行器的形状特性,飞行器一般为立方体,并且面板会有一个或多个圆形标志点,在较远处时能清晰检测出飞行器面板标志点或边缘角点,除此之外也能清晰检测出对接环外环椭圆,从而能够通过椭圆和外环轮廓辅助点的双目重建计算完整的飞行器位姿。在飞行器距离摄像机较近后,当飞行器的外环轮廓辅助点不可见时,本发明采用特征点的提取匹配和椭圆重建来计算飞行器位姿,因为飞行器面板一般为平面,所以可以有效筛选出正确匹配点。最后,本发明还采用卡尔曼滤波器优化飞行器位姿结果。
本发明采用快速且鲁棒的椭圆检测方法,能够精确检测出对接环外环椭圆,并且在非初始帧利用光流追踪法辅助检测椭圆,以提高椭圆检测效率,从而提高了飞行器基于外接环对接的精准度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本发明一种实施例的基于目标物对接环的对接设备位姿调整方法流程示意图;
图2是本发明一种实施例中双目相机示意图;
图3是本发明一种实施例中飞行器面板示意图;
图4是本发明一种实施例中利用椭圆和外环轮廓辅助点的双目重建进行定位的示意图;
图5是本发明另一种实施例的基于目标物对接环的对接设备位姿调整方法流程示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
本发明的一种基于目标物对接环的对接设备位姿调整方法,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,如图1所示,该调整方法包括以下步骤:
步骤S100,以装设于所述对接设备的双目相机的拍摄图像作为输入图像,提取所述对接环的外环轮廓;
步骤S200,若能从所述输入图像提取所述目标物的预设外环轮廓辅助点,则提取所述目标物的预设外环轮廓辅助点后执行步骤S300,否则执行步骤S400;
步骤S300,根据所述对接环的外环轮廓和步骤S200所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿,执行步骤S500;
步骤S400,提取所述输入图像中设定侧的图像的特征点,与上一帧输入图像中所述设定侧的图像进行特征点匹配,并计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿;
步骤S500,基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
为了更清晰地对本发明基于目标物对接环的对接设备位姿调整方法进行说明,下面结合附图对本方发明方法一种实施例中各步骤进行展开详述。下面实施例为加入双目相机的参数矩阵标定、以及基于卡尔曼滤波器的位姿优化步骤的优选的技术方案,该实施例只为更加清晰的对本发明进行描述,不能理解为对本发明技术方案的限定。
本发明技术方案的应用场景之一为飞行器的对接,例如飞船与空间站的对接。为了便于描述,将基于该应用场景进行下面实施例的描述,将被动对接的飞行器作为目标物命名为飞行器,将主动对接的飞行器命名为对接设备。飞行器上设置有对接环,飞行器在设置有对接环的一侧设置有飞行器面板;对接设备上设置有双目相机,用于通过图像识别的方法获取飞行器相对于对接设备的位姿。
本发明实施例将设定侧设置为双目相机的左侧,并基于该侧相机进行相对位姿的计算。
本发明一种实施例的基于目标物对接环的对接设备位姿调整方法,包括以下步骤:
步骤A100,双目相机的参数矩阵的标定。
图2为本发明实施例汇中双目相机与飞行器面板位置示意图。标定双目相机的内参数矩阵Kl和Kr、双目相机的畸变参数矩阵Dl和Dr、双目相机之间的旋转矩阵R和平移向量t,则双目相机的摄像机矩阵Pl和Pr为:
对于双目相机采集到的每一帧图像,根据畸变参数矩阵Dl和Dr将双目相机拍摄到的图像进行畸变校正。
步骤A200,以装设于所述对接设备的双目相机的拍摄图像作为输入图像,提取所述对接环的外环轮廓。
本实施例中外环轮廓为外环椭圆。
该步骤中,“提取所述对接环的外环轮廓”,其方法为:基于所述输入图像,采用基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓。进一步的,若所述输入图像为非初始帧图像,基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓方法中,基于光流追踪法获取的追踪点选取最终的外环轮廓。
图3为本发明的飞行器面板示意图。由于飞行器面板为高光反射材质,对接环外环边缘会被高光覆盖,所以需要从高光区域中正确检测出椭圆。本发明首先对图像计算每个像素的梯度垂直方向,作为像素的边缘方向,并将边缘方向能形成弧线的区域记为弧线像素区域,拟合出弧线像素区域的局部直线线段,记为弧支撑线段。然后连接潜在地属于同一椭圆的弧支撑线段并分组,得到弧支撑线段组。之后采用两种方法拟合初始椭圆:选择具有显著椭圆形状特征的弧支撑线段组拟合初始椭圆和全局搜索能匹配的多个弧支撑线段组拟合初始椭圆,通过初始椭圆在参数空间的聚类将初始椭圆合并得到椭圆候选集。最后在椭圆候选集中剔除质量不高的椭圆并对剩下椭圆的参数进行优化。基于弧线段组合的椭圆检测方法为本领域现有技术,此处不再展开描述。
在第0帧(初始帧)直接对双目相机拍摄到的图像进行上述的椭圆检测,得到所有候选椭圆的圆心x0、长轴L0、短轴S0和旋转角度θ0,然后选取(L0+S0)/2平均值最大的椭圆作为左图、右图中对接环外环椭圆和最后在椭圆上等距选取N个点,N为预设自然数。本实施例中N=16。
在第t帧(t>0),对于所述输入图像中任一侧的选定侧图像,外环轮廓的获取可以通过步骤A210-步骤A230。
步骤A210,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓上N个点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点。
步骤A220,基于弧线段组合的椭圆检测方法获取第t帧选定侧图像中所述对接环的多个候选外环轮廓。
由于飞行器一般是缓慢接近摄像头,本实施例中,利用t-1帧检测到的和以圆心xt-1为中心,max(Lt-1,St-1)×1.3为边长的正方形将第t帧图像进行裁剪,并将裁剪后的图像压缩至350×350大小,这样在缩小的图像上进行椭圆检测会大幅度减少运行时间。上述正方形边长的系数1.3还可以为其他设定值B1,上述图像压缩后的尺寸350×350还可以为其他设定尺寸B2。
步骤A230,从步骤A220中得到的多个候选外环轮廓中选取与步骤A210中追踪点的距离平均值最小的候选外环轮廓作为最终的外环轮廓。
步骤A300,若能从所述输入图像提取所述目标物的预设外环轮廓辅助点,则提取所述目标物的预设外环轮廓辅助点后执行步骤A400,否则执行步骤A500。
本实施例中外环轮廓辅助点为飞行器面板标志点。
本步骤中,“提取所述目标物的预设外环轮廓辅助点”,其方法为:以所述目标物上设置的标志点作为预设外环轮廓辅助点,利用斑点检测法在所述输入图像中提取所述目标物的预设外环轮廓辅助点;或者以所述目标物的边缘角点作为预设外环轮廓辅助点,利用霍夫直线法获取所述输入图像中所述目标物的边的交点作为边缘角点。若所述输入图像为非初始帧图像,在提取所述目标物的预设外环轮廓辅助点方法中,基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点。
下面分别对第0帧外环轮廓辅助点的两种方法进行描述。
在第0帧提取飞行器面板标志点:由于标志点一般是较小的黑色圆点,所以利用加入颜色筛选,面积筛选和曲率筛选的斑点检测法检测两幅图中的候选斑点。当左图有多个候选斑点时,选取中心点y坐标值最大的候选斑点,并取其中心点作为面板标志点当右图检测到多个候选斑点时,利用相机参数计算基础矩阵F:
在第0帧提取飞行器边缘角点:首先利用霍夫直线法得到两幅图中直线参数累加器值最大的各四条直线,作为飞行器面板轮廓的四条边。然后计算四条边相交的四个交点,在左图中选定四个交点的其中一个点作为边缘角点计算在右图的对极线并在右图四个交点中选取离最近的交点作为边缘角点
当飞行器面板标志点可见时,提取面板标志点,否则提取边缘角点。记飞行器的面板标志点或边缘角点为外环轮廓辅助点。
在第t(t>1)帧,基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤A310,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓辅助点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;
步骤A320,获取第t帧选定侧图像中多个候选外环轮廓辅助点;
步骤A330,从步骤A320中得到的多个候选外环轮廓中选取与步骤A310中追踪点的距离最小的候选外环轮廓辅助点作为最终的外环轮廓辅助点。
结合上述第0帧外环轮廓辅助点的描述,采用上述方法对两侧图像进行第t(t>1)帧外环轮廓辅助点的获取还可以描述为:利用光流追踪法得到t-1帧的外环轮廓辅助点和在第t帧的追踪点p′l和p′r。若在第t帧检测到多个候选外环轮廓辅助点,则选取离p′l和p′r最近的候选点作为第t帧的外环轮廓辅助点和若在第t帧检测到离p′l和p′r最近的候选点离p′l和p′r的距离超过阈值则取p′l和p′r作为第t帧的外环轮廓辅助点和
步骤A400,根据所述对接环的外环轮廓和步骤A200所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿,执行步骤A600。
图4为利用椭圆和外环轮廓辅助点的双目重建进行定位的示意图。
最后得到圆截面的圆心在图像上的投影点为:
在左相机坐标系下,两个椭圆锥面的圆截面单位法向量分别为:
飞行器坐标系关于左相机坐标系的旋转矩阵Rw和平移向量tw为:
步骤A500,提取所述输入图像中设定侧的图像的特征点,与上一帧输入图像中所述设定侧的图像进行特征点匹配,并计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿。
由于飞行器在距离双目摄像机较近时,存在飞行器的面板标志点和边缘角点无法被观测到的情况。当飞行器与左相机距离小于阈值后,对于第t帧,先对左图提取ORB特征点,与上一帧左图已知三维坐标的图像特征点进行暴力匹配和单应匹配。然后利用EPNP方法从左图图像特征点和对应的三维点计算第t帧中飞行器坐标系相对于左相机坐标系的初始位姿R′w=[n′x,n′y,n′z]和t′w。利用在第t帧两幅图中检测到的椭圆重建三维圆,记三维圆的圆心为圆所在平面的法向量为则飞行器坐标系关于左相机坐标系的旋转矩阵和平移向量为:
对左图和右图分别进行ORB特征点检测,将两幅图的ORB特征点首先通过暴力匹配得到匹配特征点。然后对所有匹配特征点进行双目重建得到匹配点三维坐标。由于飞行器面板上的三维点在Z=0这个平面上,所以筛选出Z坐标小于阈值的三维点,并将对应的图像匹配点和匹配点的三维坐标保存用于下一帧的处理。
步骤A600,基于匀速卡尔曼滤波器优化所述目标物相对于所述对接设备的位姿。
在第0帧计算卡尔曼滤波器的参数矩阵:
其中I6和I12为6阶和12阶的单位矩阵,F为状态转移矩阵,H为测量矩阵,Q为系统噪声方差矩阵,R为测量噪声方差矩阵,P为后验错误估计协方差矩阵。
计算初始测量向量和状态向量为:
其中rw为Rw的罗德里格斯三元向量表示,z为测量向量,s为状态向量。
在第t帧,根据如下式子更新卡尔曼滤波器:
步骤A700,基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
本发发明的第二实施例的基于目标物对接环的对接设备位姿调整方法,如图5所示,包括以下步骤:
步骤B001,以双目相机采集的图像为输入图像,并判断当前帧输入图像是否为初始帧,若为初始帧则执行步骤B002,否则执行步骤B007;
步骤B002,对当前帧输入图像中对接环进行椭圆检测,获取对接环外环椭圆;
步骤B003,检测当前帧输入图像中是否存在面板标志点,若存在执行步骤B004,否则执行步骤B005;
步骤B004,检测飞行器面板标志点,并跳转步骤B006;
步骤B005,检测飞行器边缘角点;
步骤B006,由外环椭圆和外环轮廓辅助点的双目重建计算飞行器位姿;初始化匀速卡尔曼滤波器,跳转步骤B015;
步骤B007,判断飞行器与左相机距离是否小于设定阈值,若不小于则执行步骤B008,若小于则执行步骤B009;
步骤B008,基于光流追踪法辅助检测对接环的外环椭圆;基于光流追踪法辅助检测外环轮廓辅助点;由外环椭圆和外环轮廓辅助点的双目重建计算飞行器位姿,并通过卡尔曼滤波后得到飞行器坐标系相对于左相机坐标系位姿;跳转步骤B015;
步骤B009,基于光流追踪法辅助检测对接环的外环椭圆;
步骤B010,判断是否能获得外环轮廓辅助点,即判断外环轮廓辅助点是否可见,若可见则执行步骤B011,否则执行步骤B012;
步骤B011,基于光流追踪法辅助检测外环轮廓辅助点;由外环椭圆和外环轮廓辅助点的双目重建计算飞行器位姿;跳转步骤B013;
步骤B012,通过前后帧左图ORB特征点匹配,利用PNP方法计算飞行器位姿;基于输入图像中两幅图中检测到的椭圆重建三维圆优化飞行器位姿;
步骤B013,更新相机参数,检测左右图ORB特征点并匹配和重建;
步骤B014,并通过卡尔曼滤波后得到飞行器坐标系相对于左相机坐标系位姿;
步骤B015,基于飞行器坐标系相对于左相机坐标系位姿,进行对接设备的姿态调整。
本发明第二实施例的一种基于目标物对接环的对接设备位姿调整系统,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,该调整系统包括外环轮廓提取模块、判断模块、第一计算模块、第二计算模块、位姿调整模块;
所述环轮廓提取模块,配置为以装设于所述对接设备的双目相机的拍摄图像作为输入图像,提取所述对接环的外环轮廓;
所述判断模块,配置为判断从所述输入图像能否提取所述目标物的预设外环轮廓辅助点,若能则提取所述目标物的预设外环轮廓辅助点后切换至第一计算模块,否则切换至第二计算模块;
所述第一计算模块,配置为根据所述对接环的外环轮廓和所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿;
所述第二计算模块,配置为提取所述输入图像中设定侧的图像的特征点,与上一帧输入图像中所述设定侧的图像进行特征点匹配,并计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿;
所述位姿调整模块,配置为基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
所属技术领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统的具体工作过程及有关说明,可以参考前述方法实施例中的对应过程,在此不再赘述。
需要说明的是,上述实施例提供的基于目标物对接环的对接设备位姿调整系统,仅以上述各功能模块的划分进行举例说明,在实际应用中,可以根据需要而将上述功能分配由不同的功能模块来完成,即将本发明实施例中的模块或者步骤再分解或者组合,例如,上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块,以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称,仅仅是为了区分各个模块或者步骤,不视为对本发明的不当限定。
本发明第三实施例的一种存储装置,其中存储有多条程序,所述程序适于由处理器加载并执行以实现上述的基于目标物对接环的对接设备位姿调整方法。
本发明第四实施例的一种处理装置,包括处理器、存储装置;处理器,适于执行各条程序;存储装置,适于存储多条程序;所述程序适于由处理器加载并执行以实现上述的基于目标物对接环的对接设备位姿调整方法。
所属技术领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的存储装置、处理装置的具体工作过程及有关说明,可以参考前述方法实施例中的对应过程,在此不再赘述。
本领域技术人员应该能够意识到,结合本文中所公开的实施例描述的各示例的模块、方法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,软件模块、方法步骤对应的程序可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
术语“第一”、“第二”等是用于区别类似的对象,而不是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素,而且还包括没有明确列出的其它要素,或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
至此,已经结合附图所示的优选实施方式描述了本发明的技术方案,但是,本领域技术人员容易理解的是,本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
Claims (11)
1.一种基于目标物对接环的对接设备位姿调整方法,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,其特征在于,该调整方法包括以下步骤:
步骤S100,以装设于所述对接设备的双目相机的拍摄图像作为输入图像;若所述输入图像为非初始帧图像,则基于弧线段组合的椭圆检测方法、基于光流追踪法获取对接环的外环轮廓;否则采用基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓;
其中,“基于弧线段组合的椭圆检测方法、基于光流追踪法获取对接环的外环轮廓”,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤S110,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓上N个点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;N为预设自然数;
步骤S120,基于弧线段组合的椭圆检测方法获取第t帧选定侧图像中所述对接环的多个候选外环轮廓;
步骤S130,从步骤S120中得到的多个候选外环轮廓中选取与步骤S110中追踪点的距离平均值最小的候选外环轮廓作为最终的外环轮廓;
“基于弧线段组合的椭圆检测方法”为:
计算输入图像中每个像素的梯度垂直方向,作为各像素的边缘方向;
将沿边缘方向可形成弧线的区域,记为弧线像素区域;拟合出弧线像素区域的局部直线线段,记为弧支撑线段;连接属于同一椭圆的弧支撑线段并分组,得到弧支撑线段组;
基于弧支撑线段组拟合初始椭圆,通过初始椭圆在参数空间的聚类将初始椭圆进行合并、筛选、优化,得到椭圆候选集;
将椭圆候选集中(L0+S0)/2平均值最大的椭圆的轮廓作为输入图像左图、右图中对接环的外环轮廓;L0、S0表示椭圆的长轴、短轴;
步骤S200,若能从所述输入图像提取所述目标物的预设外环轮廓辅助点,则提取所述目标物的预设外环轮廓辅助点后执行步骤S300,否则执行步骤S400;
步骤S300,根据所述对接环的外环轮廓和步骤S200所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿,执行步骤S500;
步骤S400,提取所述输入图像中设定侧的图像的ORB特征点,与上一帧输入图像中所述设定侧的图像中已知三维坐标的ORB特征点进行匹配,计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿,并用当前帧提取的所述外环轮廓的圆心和法向量优化该位姿;
步骤S500,基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
2.根据权利要求1所述的基于目标物对接环的对接设备位姿调整方法,其特征在于,所述步骤S100之前还包括双目相机的参数矩阵的标定;所述参数矩阵包括内参数矩阵、外参数矩阵、畸变参数矩阵。
3.根据权利要求1所述的基于目标物对接环的对接设备位姿调整方法,其特征在于,步骤S200中“提取所述目标物的预设外环轮廓辅助点”,其方法为:
以所述目标物上设置的标志点作为预设外环轮廓辅助点,利用斑点检测法在所述输入图像中提取所述目标物的预设外环轮廓辅助点;或者
以所述目标物的边缘角点作为预设外环轮廓辅助点,利用霍夫直线法获取所述输入图像中所述目标物的边的交点作为边缘角点。
4.根据权利要求3所述的基于目标物对接环的对接设备位姿调整方法,其特征在于,若所述输入图像为非初始帧图像,在提取所述目标物的预设外环轮廓辅助点方法中,基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点。
5.根据权利要求4所述的基于目标物对接环的对接设备位姿调整方法,其特征在于,“基于光流追踪法获取的追踪点选取最终的外环轮廓辅助点”,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤S210,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓辅助点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;
步骤S220,获取第t帧选定侧图像中多个候选外环轮廓辅助点;
步骤S230,从步骤S220中得到的多个候选外环轮廓中选取与步骤S210中追踪点的距离最小的候选外环轮廓辅助点作为最终的外环轮廓辅助点。
8.根据权利要求1-7任一项所述的基于目标物对接环的对接设备位姿调整方法,其特征在于,所述步骤S400和步骤S500之间还包括:基于匀速卡尔曼滤波器优化所述目标物相对于所述对接设备的位姿。
9.一种基于目标物对接环的对接设备位姿调整系统,用于所述对接设备与具有对接环的目标物对接过程的位姿控制,其特征在于,该调整系统包括外环轮廓提取模块、判断模块、第一计算模块、第二计算模块、位姿调整模块;
所述外环轮廓提取模块,配置为以装设于所述对接设备的双目相机的拍摄图像作为输入图像,若所述输入图像为非初始帧图像,则基于弧线段组合的椭圆检测方法、基于光流追踪法获取对接环的外环轮廓;否则采用基于弧线段组合的椭圆检测方法提取所述对接环的外环轮廓;其中,“基于弧线段组合的椭圆检测方法、基于光流追踪法获取对接环的外环轮廓”,对于所述输入图像中任一侧的选定侧图像,其方法为:
步骤S110,利用光流追踪法追踪t-1帧选定侧图像中外环轮廓上N个点在第t帧选定侧图像中的位置,获取第t帧选定侧图像中的追踪点;N为预设自然数;
步骤S120,基于弧线段组合的椭圆检测方法获取第t帧选定侧图像中所述对接环的多个候选外环轮廓;
步骤S130,从步骤S120中得到的多个候选外环轮廓中选取与步骤S110中追踪点的距离平均值最小的候选外环轮廓作为最终的外环轮廓;
“基于弧线段组合的椭圆检测方法”为:
计算输入图像中每个像素的梯度垂直方向,作为各像素的边缘方向;
将沿边缘方向可形成弧线的区域,记为弧线像素区域;拟合出弧线像素区域的局部直线线段,记为弧支撑线段;连接属于同一椭圆的弧支撑线段并分组,得到弧支撑线段组;
基于弧支撑线段组拟合初始椭圆,通过初始椭圆在参数空间的聚类将初始椭圆进行合并、筛选、优化,得到椭圆候选集;
将椭圆候选集中(L0+S0)/2平均值最大的椭圆的轮廓作为输入图像左图、右图中对接环的外环轮廓;L0、S0表示椭圆的长轴、短轴;
所述判断模块,配置为判断从所述输入图像能否提取所述目标物的预设外环轮廓辅助点,若能则提取所述目标物的预设外环轮廓辅助点后切换至第一计算模块,否则切换至第二计算模块;
所述第一计算模块,配置为根据所述对接环的外环轮廓和所提取的外环轮廓辅助点,通过双目重建计算所述目标物相对于所述对接设备的位姿;
所述第二计算模块,配置为提取所述输入图像中设定侧的图像的ORB特征点,与上一帧输入图像中所述设定侧的图像中已知三维坐标的ORB特征点进行匹配,计算当前帧的所述输入图像中所述目标物相对于所述对接设备的位姿,并用当前帧提取的所述外环轮廓的圆心和法向量优化该位姿;
所述位姿调整模块,配置为基于所述目标物相对于所述对接设备的位姿进行所述对接设备的姿态调整。
10.一种存储装置,其中存储有多条程序,其特征在于,所述程序适于由处理器加载并执行以实现权利要求1-8任一项所述的基于目标物对接环的对接设备位姿调整方法。
11.一种处理装置,包括处理器、存储装置;处理器,适于执行各条程序;存储装置,适于存储多条程序;其特征在于,所述程序适于由处理器加载并执行以实现权利要求1-8任一项所述的基于目标物对接环的对接设备位姿调整方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910875315.3A CN110647156B (zh) | 2019-09-17 | 2019-09-17 | 基于目标物对接环的对接设备位姿调整方法、系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910875315.3A CN110647156B (zh) | 2019-09-17 | 2019-09-17 | 基于目标物对接环的对接设备位姿调整方法、系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110647156A CN110647156A (zh) | 2020-01-03 |
CN110647156B true CN110647156B (zh) | 2021-05-11 |
Family
ID=68991918
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910875315.3A Active CN110647156B (zh) | 2019-09-17 | 2019-09-17 | 基于目标物对接环的对接设备位姿调整方法、系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110647156B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111369571B (zh) * | 2020-02-27 | 2023-06-23 | 北京百度网讯科技有限公司 | 三维物体位姿准确性判断方法、装置及电子设备 |
CN111598950A (zh) * | 2020-04-23 | 2020-08-28 | 四川省客车制造有限责任公司 | 一种基于机器视觉的客车列车自动铰接方法及系统 |
CN112381880A (zh) * | 2020-11-27 | 2021-02-19 | 航天科工智能机器人有限责任公司 | 一种基于圆特征的双目视觉位姿估计方法 |
CN113436252A (zh) * | 2021-06-28 | 2021-09-24 | 天津大学 | 基于单目视觉的位姿识别方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105261047A (zh) * | 2015-09-08 | 2016-01-20 | 北京控制工程研究所 | 一种基于近距离短弧段图像的对接环圆心提取方法 |
CN105509733A (zh) * | 2015-11-30 | 2016-04-20 | 上海宇航系统工程研究所 | 非合作空间圆目标的相对位姿测量方法 |
CN106372642A (zh) * | 2016-08-31 | 2017-02-01 | 北京航空航天大学 | 基于轮廓曲线分割弧合并与组合的椭圆快速检测方法 |
CN106681353A (zh) * | 2016-11-29 | 2017-05-17 | 南京航空航天大学 | 基于双目视觉与光流融合的无人机避障方法及系统 |
CN108225319A (zh) * | 2017-11-30 | 2018-06-29 | 上海航天控制技术研究所 | 基于目标特征的单目视觉快速相对位姿估计系统及方法 |
CN108562274A (zh) * | 2018-04-20 | 2018-09-21 | 南京邮电大学 | 一种基于标志器的非合作目标位姿测量方法 |
CN108917721A (zh) * | 2018-04-19 | 2018-11-30 | 北京控制工程研究所 | 一种失稳卫星星箭对接环双目测量方法 |
CN109405835A (zh) * | 2017-08-31 | 2019-03-01 | 北京航空航天大学 | 基于非合作目标直线与圆单目图像的相对位姿测量方法 |
CN109407697A (zh) * | 2018-09-20 | 2019-03-01 | 北京机械设备研究所 | 一种基于双目视觉测距的无人机跟踪运动目标系统及方法 |
CN110147708A (zh) * | 2018-10-30 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 一种图像数据处理方法和相关装置 |
-
2019
- 2019-09-17 CN CN201910875315.3A patent/CN110647156B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105261047A (zh) * | 2015-09-08 | 2016-01-20 | 北京控制工程研究所 | 一种基于近距离短弧段图像的对接环圆心提取方法 |
CN105509733A (zh) * | 2015-11-30 | 2016-04-20 | 上海宇航系统工程研究所 | 非合作空间圆目标的相对位姿测量方法 |
CN106372642A (zh) * | 2016-08-31 | 2017-02-01 | 北京航空航天大学 | 基于轮廓曲线分割弧合并与组合的椭圆快速检测方法 |
CN106681353A (zh) * | 2016-11-29 | 2017-05-17 | 南京航空航天大学 | 基于双目视觉与光流融合的无人机避障方法及系统 |
CN109405835A (zh) * | 2017-08-31 | 2019-03-01 | 北京航空航天大学 | 基于非合作目标直线与圆单目图像的相对位姿测量方法 |
CN108225319A (zh) * | 2017-11-30 | 2018-06-29 | 上海航天控制技术研究所 | 基于目标特征的单目视觉快速相对位姿估计系统及方法 |
CN108917721A (zh) * | 2018-04-19 | 2018-11-30 | 北京控制工程研究所 | 一种失稳卫星星箭对接环双目测量方法 |
CN108562274A (zh) * | 2018-04-20 | 2018-09-21 | 南京邮电大学 | 一种基于标志器的非合作目标位姿测量方法 |
CN109407697A (zh) * | 2018-09-20 | 2019-03-01 | 北京机械设备研究所 | 一种基于双目视觉测距的无人机跟踪运动目标系统及方法 |
CN110147708A (zh) * | 2018-10-30 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 一种图像数据处理方法和相关装置 |
Non-Patent Citations (3)
Title |
---|
基于空间目标对接环的视觉测量算法设计与实现;李向宇;《中国优秀硕士学位论文全文数据库·信息科技辑》;20190115(第1期);第I138-2421页 * |
星箭对接环抓捕点单目视觉导航方法;于鲲等;《仪器仪表学报》;20181231;第39卷(第12期);第228-236页 * |
空间飞行器交会对接相对位置和姿态的在轨自检校光学成像测量算法;江刚武等;《宇航学报》;20070131;第28卷(第1期);第15-21页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110647156A (zh) | 2020-01-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110647156B (zh) | 基于目标物对接环的对接设备位姿调整方法、系统 | |
CN107063228B (zh) | 基于双目视觉的目标姿态解算方法 | |
CN107844750A (zh) | 一种水面全景图像目标检测识别方法 | |
CN111640157B (zh) | 一种基于神经网络的棋盘格角点检测方法及其应用 | |
CN109934065B (zh) | 一种用于手势识别的方法和装置 | |
WO2016035324A1 (en) | Method for estimating motion, mobile agent and non-transitory computer-readable medium encoded with a computer program code for causing a processor to execute a method for estimating motion | |
EP2887315B1 (en) | Camera calibration device, method for implementing calibration, program and camera for movable body | |
CN109978911B (zh) | 一种图像特征点跟踪方法和相机 | |
CN107292869B (zh) | 基于各向异性高斯核和梯度搜索的图像斑点检测方法 | |
US8503730B2 (en) | System and method of extracting plane features | |
CN109993800A (zh) | 一种工件尺寸的检测方法、装置及存储介质 | |
CN108225319B (zh) | 基于目标特征的单目视觉快速相对位姿估计系统及方法 | |
CN107945221B (zh) | 一种基于rgb-d图像的三维场景特征表达与高精度匹配方法 | |
Muñoz-Bañón et al. | Targetless camera-LiDAR calibration in unstructured environments | |
CN112509044A (zh) | 一种基于点线特征融合的双目视觉slam方法 | |
CN113610917A (zh) | 一种基于消隐点的圆阵靶标中心像点定位方法 | |
CN109272521A (zh) | 一种基于曲率分析的图像特征快速分割方法 | |
CN112651944A (zh) | 基于cad模型的3c部件高精度六维位姿估计方法及系统 | |
Rhodes et al. | A concise guide to feature histograms with applications to LIDAR-based spacecraft relative navigation | |
CN111311651A (zh) | 点云配准方法和装置 | |
CN107742295A (zh) | 一种基于视觉的立方星对接重构方法 | |
CN107220987A (zh) | 一种基于主成分分析的建筑物屋顶边缘快速检测方法 | |
CN115131433A (zh) | 一种非合作目标位姿的处理方法、装置及电子设备 | |
JPH07146121A (ja) | 視覚に基く三次元位置および姿勢の認識方法ならびに視覚に基く三次元位置および姿勢の認識装置 | |
Jóźków et al. | Combined matching of 2d and 3d kinect™ data to support indoor mapping and navigation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |