CN115861393A - 图像匹配方法、航天器着陆点定位方法及相关装置 - Google Patents
图像匹配方法、航天器着陆点定位方法及相关装置 Download PDFInfo
- Publication number
- CN115861393A CN115861393A CN202310149445.5A CN202310149445A CN115861393A CN 115861393 A CN115861393 A CN 115861393A CN 202310149445 A CN202310149445 A CN 202310149445A CN 115861393 A CN115861393 A CN 115861393A
- Authority
- CN
- China
- Prior art keywords
- image
- dom
- affine transformation
- descending
- matching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 84
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims abstract description 358
- 230000009466 transformation Effects 0.000 claims abstract description 302
- 238000012549 training Methods 0.000 claims abstract description 145
- 239000011159 matrix material Substances 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 28
- 238000000605 extraction Methods 0.000 claims description 21
- 238000012804 iterative process Methods 0.000 claims description 18
- 238000004364 calculation method Methods 0.000 claims description 13
- 238000010586 diagram Methods 0.000 claims description 13
- 238000003702 image correction Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供了一种图像匹配方法、航天器着陆点定位方法及相关装置,该图像匹配方法包括:获取航天器的着陆点对应的DOM;获取航天器的下降图像;通过预设仿射回归模型,获取下降图像与DOM之间的仿射变换参数;预设仿射回归模型为以截取DOM和第一仿射变换图像为训练样本,以截取DOM和第一仿射变换图像之间的第一预设仿射变换参数为样本标签训练得到的模型。根据仿射变换参数,对下降图像进行仿射变换,得到校正图像;对校正图像和DOM进行匹配,得到密集匹配结果;密集匹配结果中包含校正图像和DOM之间的坐标点对应关系。这使得本申请能够提高图像匹配效率。
Description
技术领域
本发明涉及图像匹配技术领域,具体涉及一种图像匹配方法、航天器着陆点定位方法及相关装置。
背景技术
在基于图像匹配技术,定位航天器(例如着陆器)的着陆点的过程中,涉及到两种图像之间的匹配,一种是被探测地(例如火星)的数字正射影像图(Digital OrthophotoMap,DOM),另一种是在航天器的着陆过程中,在不同时刻捕获的航天器的下降图像;下降图像具体为从航天器的角度捕获的被探测地的图像。
然而,由于下降图像的成像条件(比如光照角度、观测角度和摄像机高度等),与DOM的成像条件之间存在较大差异,使得下降图像与该下降图像对应的DOM之间存在显著的差异,具体的,下降图像需要进行仿射变换来消除该差异后,才能与该下降图像对应的DOM匹配。这增加了图像匹配的处理流程,使得图像匹配的时间延长,无法满足用户需要提高图像匹配效率的需求。
发明内容
为了解决现有技术存在的技术问题,本发明提供了一种图像匹配方法、航天器着陆点定位方法及相关装置。
本发明的技术方案如下:
本发明实施例提供了一种图像匹配方法,应用于航天器,包括:
获取航天器的着陆点对应的DOM;
获取所述航天器的下降图像;
通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数;
根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像;
基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
本发明实施例还提供了一种航天器着陆点定位方法,包括:
获取航天器的着陆点对应的DOM;
获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应;
对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系;
根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵;
从所述下降图像集合中选取至少一张下降图像作为目标下降图像;
针对每张所述目标下降图像,采用上述实施例所述的图像匹配方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系;
根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵;
根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点;
根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
本发明实施例还提供了一种图像匹配装置,应用于航天器,包括:
DOM获取模块,用于获取航天器的着陆点对应的DOM;
下降图像获取模块,用于获取所述航天器的下降图像;
仿射变换参数获取模块,用于通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数;
下降图像校正模块,用于根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像;
密集匹配模块,用于基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
本发明实施例还提供了一种航天器着陆点定位装置,包括:
DOM获取模块,用于获取航天器的着陆点对应的DOM;
下降图像集合获取模块,用于获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应;
第一匹配模块,用于对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系;
第一单应性矩阵计算模块,用于根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵;
目标下降图像选取模块,用于从所述下降图像集合中选取至少一张下降图像作为目标下降图像;
第二匹配模块,用于针对每张所述目标下降图像,采用上述实施例所述的图像匹配方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系;
第二单应性矩阵计算模块,用于根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵;
第一DOM点确定模块,用于根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点;
第二DOM点确定模块,用于根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
本发明实施例采用上述技术方案,具备如下有益效果:
首先,在获取航天器的着陆点对应的DOM和航天器的下降图像。然后,通过预设仿射回归模型,获取下降图像与DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数。再然后,根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像。最后,基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。基于此,本申请通过使用预设仿射回归模型来获取下降图像与DOM之间的仿射变换参数,使得本申请能够快速地获取到该仿射变换参数,进而使得本申请能够快速地对下降图像进行仿射变换,大大缩短了图像匹配的时长,满足了用户需要提高图像匹配效率的需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1是本发明实施例提供的一种利用自监督定位模拟器实现图像匹配的框架图;
图2是本发明实施例提供的一种图像匹配方法的流程示意图;
图3是本发明实施例提供的另一种图像匹配方法的流程示意图;
图4是本发明实施例提供的一种航天器着陆点定位方法的流程示意图;
图5是本发明实施例提供的一种图像匹配装置的结构示意图;
图6是本发明实施例提供的一种航天器着陆点定位装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在基于图像匹配技术,定位航天器(例如着陆器)的着陆点的过程中,涉及到两种图像之间的匹配,一种是被探测地(例如火星)的数字正射影像图(Digital OrthophotoMap,DOM),另一种是在航天器的着陆过程中,在不同时刻捕获的航天器的下降图像;下降图像具体为从航天器的角度捕获的被探测地的图像。
由于下降图像的成像条件(比如光照角度、观测角度和摄像机高度等),与DOM的成像条件之间存在较大差异,使得下降图像与该下降图像对应的DOM之间存在显著的差异,具体的,下降图像需要进行仿射变换来消除该差异后,才能与该下降图像对应的DOM匹配。目前,通过人工计算下降图像与该下降图像对应的DOM之间的仿射变换参数,并根据该仿射变换参数对下降图像进行仿射变换。
然而,通过人工计算仿射变换参数的方法,存在计算时间较长的问题,这使得现有技术难以快速地对下降图像进行仿射变换,进而难以满足用户需要提高图像匹配效率的需求。
基于此,本发明实施例提供了一种图像匹配方法,该图像匹配方法通过使用预设仿射回归模型来获取下降图像与DOM之间的仿射变换参数,使得本申请能够快速地获取到该仿射变换参数,进而使得本申请能够快速地对下降图像进行仿射变换,大大缩短了图像匹配的时长,满足了用户需要提高图像匹配效率的需求。
下面结合附图,详细说明本申请的技术方案。
本说明书实施例的图像匹配方法在执行过程中,涉及到三种模型,即预设仿射回归模型、预设初始匹配模型和预设密集匹配模型,该三种模型可以集成于自监督定位模拟器中。图1是本发明实施例提供的一种利用自监督定位模拟器实现图像匹配的框架图。
如图1所示,预设初始匹配模型11中包含第一特征提取网络111和相关层112。预设仿射回归模型12中包含第二特征提取网络113、互相关层114、标准化处理函数115、回归网络116和仿射变换单元117。预设密集匹配模型13中包含第三特征提取网络118、自注意力层119、跨注意力层120、密集匹配层121和剪切层122。
下面参考图1,具体说明上述三种模型的训练过程。
一、生成用于训练模型的自监督训练数据
本说明书实施例中,自监督训练数据包括四种图像,即原始DOM、截取DOM/>、第一仿射变换图像/>和第二仿射变换图像/>。在获取该四种图像的过程中,首先,可以从某星球的DOM中随机截取部分DOM作为原始DOM,其中,某星球可以是任意星球。然后,可以是从原始DOM中截取部分DOM作为截取DOM,截取DOM的面积大小可以是原始DOM的图像面积乘以预设值,例如,截取DOM的面积大小可以等于原始DOM的图像面积的1/4。接下来,根据第一预设仿射变换参数,对截取DOM进行仿射变换,得到第一仿射变换图像。最后,根据第二预设仿射变换参数,对第一仿射变换图像进行仿射变换,得到第二仿射变换图像。
本说明书实施例中,通过根据第一预设仿射变换参数,对截取DOM进行仿射变换,来模拟下降图像与DOM之间的仿射变换;通过根据第二预设仿射变换参数,对第一仿射变换图像进行仿射变换,来模拟连续下降图像之间的仿射变换。由于下降图像与DOM之间的差异大于连续下降图像之间的差异,因此,第二预设仿射变换参数对应的变换程度小于第一预设仿射变换参数对应的变换程度。
二、根据自监督训练数据,训练模型
1、训练预设仿射回归模型
本说明书实施例中,所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一样本标签为所述第一预设仿射变换参数。
本说明书实施例中,所述预设仿射回归模型的训练过程为第一迭代过程;所述第一迭代过程包括:
对所述第一训练样本中的截取DOM和第一仿射变换图像进行特征提取,得到第一特征集合。
计算所述第一特征集合中的截取DOM特征和第一仿射变换图像特征之间的相似度,得到相关图。
根据所述相关图,确定所述第一训练样本中的截取DOM和第一仿射变换图像之间的预测仿射变换参数。
根据所述第一预设仿射变换参数和所述预测仿射变换参数,调整所述预设仿射回归模型的相关参数,使得通过使用所述预设仿射回归模型的相关参数获得的所述预设仿射回归模型的损失函数的值减小。
下面参考图1,说明上述第一迭代过程。
首先,将第一训练样本中的截取DOM输入第二特征提取网络113中,得到截取DOM特征,以及,将第一训练样本中的第一仿射变换图像输入第二特征提取网络113中,得到第一仿射变换图像特征/>。第一特征集合中包含截取DOM特征/>和第一仿射变换图像特征。
其中,R表示实数;h表示图像的高;w表示图像的宽;d表示图像的特征维度。
本说明书实施例中,第二特征提取网络113可以是预先在ImageNet上训练过的VGG16(视觉几何群网络,Visual Geometry Group Network)。在使用第二特征提取网络113提取上述图像特征的过程中,图像特征在VGG16的pool4层被输出,并使用L2范数进行规范化。
其次,将第一特征集合输入互相关层114,得到相关图;相关图的计算公式如下:
其中,表示相关图,该相关图中包含任意一个截取DOM特征/>和任意一个第一仿射变换图像特征/>之间的相似度,其中,/>;(i,j)表示截取DOM特征/>的坐标索引,(i′,j')表示第一仿射变换图像特征/>的坐标索引;表示/>与/>进行点积。
再次,通过标准化处理函数115对相关图进行处理。具体的,标准化处理函数115包括L2范数和ReLU激活函数。L2范数用于对相关图进行归一化处理;ReLU激活函数用于将相关图中的负值调整为零。
接着,将标准化处理后的相关图输入回归网络116,得到预测仿射变换参数θ'。
然后,根据所述第一预设仿射变换参数和所述预测仿射变换参数θ',计算仿射变换参数预测损失。具体的,可以通过测量变换栅格和变换栅格/>之间的差异来确定仿射变换参数预测损失。其中,/>表示通过根据预测仿射变换参数θ'对第一训练样本中的第一仿射变换图像的/>点进行仿射变换后得到的点;/>表示通过根据第一预设仿射变换参数(即真实的仿射变换参数)对第一训练样本中的第一仿射变换图像的/>点进行仿射变换后得到的点。具体的,仿射变换参数预测损失的计算公式如下:
最后,根据所述仿射变换参数预测损失调整所述预设仿射回归模型的相关参数,使得通过使用所述预设仿射回归模型的相关参数获得的所述预设仿射回归模型的损失函数的值减小。
2、训练预设初始匹配模型
本说明书实施例中,所述预设初始匹配模型为根据第二训练样本和第二样本标签训练得到的模型;所述第二训练样本中包含原始DOM和截取DOM;所述第二样本标签为所述第二训练样本中的截取DOM在该第二训练样本中的原始DOM中的真实位置的位置数据。
本说明书实施例中,所述预设初始匹配模型的训练过程为第二迭代过程;所述第二迭代过程包括:
对所述第二训练样本中的原始DOM和截取DOM进行特征提取,得到第二特征集合。
根据所述第二特征集合,计算所述第二训练样本中的截取DOM,分别与该第二训练样本中的原始DOM的不同区域之间的相似度。
根据所述不同区域之间的相似度,在所述不同区域中确定出相似度最高的目标区域。
根据所述目标区域和所述第二样本标签,调整所述预设初始匹配模型的相关参数,使得通过使用所述预设初始匹配模型的相关参数获得的所述预设初始匹配模型的损失函数的值减小。
下面参考图1,说明上述第二迭代过程。
首先,将第二训练样本中的原始DOM输入第一特征提取网络111,得到原始DOM特征,该原始DOM特征被表示为/>;以及,将第二训练样本中的截取DOM输入第一特征提取网络111,得到截取DOM特征/>,该截取DOM特征被表示为/>。第二特征集合中包含原始DOM特征/>和截取DOM特征/>。
本说明书实施例中,第一特征提取网络111可以是现有技术的VGG16网络。
其次,将第二特征集合输入相关层112,得到分数图。该分数图中包含所述第二训练样本中的截取DOM,分别与该第二训练样本中的原始DOM的不同区域之间的相似度。该分数图的计算公式如下:
再次,根据所述分数图,在第二训练样本中的原始DOM的不同区域中选取出相似度最大的区域,并将该区域作为与第二训练样本中的截取DOM匹配的目标区域。第一初始匹配结果具体可以为该目标区域的中心点位置坐标。
然后,根据所述目标区域和所述第二样本标签,计算初始匹配损失。具体的,第二样本标签可以是以为中心的高斯掩模,其中,/>为第二训练样本中的截取DOM在该第二训练样本中的原始DOM中的实际对应区域的中心点位置坐标。初始匹配损失计算公式如下:
最后,根据所述初始匹配损失,调整所述预设初始匹配模型的相关参数,使得通过使用所述预设初始匹配模型的相关参数获得的所述预设初始匹配模型的损失函数的值减小。
此外,为了适应实际应用场景,还可以使用校正后的第一仿射变换图像和该校正后的第一仿射变换图像对应的原始DOM进行模型训练。具体的,参考图1,在通过预设仿射回归模型获取某原始DOM对应的第一仿射变换图像的预测仿射变换参数后,将该预测仿射变换参数和该第一仿射变换图像输入仿射变换单元117,得到校正后的第一仿射变换图像。然后,将第一仿射变换图像/>输入第一特征提取网络111,得到图像特征/>。再然后,将该图像特征/>和该原始DOM的原始DOM特征/>输入相关层112,得到对应的分数图。最后,根据该分数图,在该原始DOM的不同区域中选取出相似度最大的区域,并将该区域作为与该校正后的第一仿射变换图像匹配的目标区域。第二初始匹配结果具体可以为该目标区域的中心点位置坐标。
三、训练预设密集匹配模型
本说明书实施例中,所述预设密集匹配模型为根据第三训练样本和第三样本标签训练得到的模型;所述第三训练样本中包含第一仿射变换图像和第二仿射变换图像;所述第三训练样本中的第二仿射变换图像为根据第二预设仿射变换参数,对该第三训练样本中的第一仿射变换图像进行仿射变换后得到的图像;所述第三样本标签为所述第二预设仿射变换参数。
本说明书实施例中,所述预设密集匹配模型的训练过程为第三迭代过程;所述第三迭代过程包括:
对所述第三训练样本中的第一仿射变换图像和第二仿射变换图像进行多级特征提取,得到第三特征集合;所述第三特征集合中的图像特征分为高分辨率特征和低分辨率特征。
通过对所述第三特征集合中的低分辨率第一仿射变换图像特征和低分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第一匹配结果;所述第一匹配结果中包含多个第一匹配对;所述第一匹配对由一个低分辨率第一仿射变换图像特征的位置数据和一个低分辨率第二仿射变换图像特征的位置数据组成;所述一个低分辨率第一仿射变换图像特征和所述一个低分辨率第二仿射变换图像特征相匹配。
针对每个所述第一匹配对,从所述第三特征集合中选取目标高分辨率第一仿射变换图像特征和目标高分辨率第二仿射变换图像特征;所述目标高分辨率第一仿射变换图像特征为所述第三训练样本的第一仿射变换图像中,以所述一个低分辨率第一仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第一仿射变换图像特征;所述目标高分辨率第二仿射变换图像特征为所述第三训练样本的第二仿射变换图像中,以所述一个低分辨率第二仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第二仿射变换图像特征。
通过对所述目标高分辨率第一仿射变换图像特征和所述目标高分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第二匹配结果;所述第二匹配结果中包含多个第二匹配对;所述第二匹配对由一个目标高分辨率第一仿射变换图像特征的位置数据和一个目标高分辨率第二仿射变换图像特征的位置数据组成;所述一个目标高分辨率第一仿射变换图像特征和所述一个目标高分辨率第二仿射变换图像特征相匹配。
根据所述第一匹配结果、所述第二匹配结果和所述第三样本标签,调整所述预设密集匹配模型的相关参数,使得通过使用所述预设密集匹配模型的相关参数获得的所述预设密集匹配模型的损失函数的值减小。
下面参考图1,说明上述第三迭代过程。
首先,将第三训练样本中的第一仿射变换图像和第二仿射变换图像输入第三特征提取网络118。第三特征提取网络118可以是具有FPN(Feature Pyramid Network)结构的标准卷积神经网络(Convolutional Neural Network,CNN),该CNN能够对图像进行多级特征提取。因此,将第三训练样本中的第一仿射变换图像输入第三特征提取网络118后,得到第一仿射变换图像特征和第一仿射变换图像特征/>;其中,第一仿射变换图像特征/>的分辨率大于第一仿射变换图像特征/>的分辨率。将第三训练样本中的第二仿射变换图像输入第三特征提取网络118后,得到第二仿射变换图像特征/>和第二仿射变换图像特征;其中,第二仿射变换图像特征/>的分辨率大于第二仿射变换图像特征/>的分辨率。进而,第三特征集合中的图像特征分为高分辨率特征和低分辨率特征,具体的,第三特征集合中包含高分辨率第一仿射变换图像特征/>、低分辨率第一仿射变换图像特征/>、高分辨率第二仿射变换图像特征/>和低分辨率第二仿射变换图像特征/>。
其次,使用自注意力层119和跨注意力层120来编码的长距离依赖,得到/>,以及使用自注意力层119和跨注意力层120来编码/>的长距离依赖,得到/>。下面以/>为例,说明该编码过程。首先,对于自注意力层119,使用三个线性层网络映射/>,得到K、Q、V;对于跨注意力层120,使用一个线性层映射/>,得到Q;以及通过两个线性层映射/>,得到K、V。然后,通过如下计算公式得到/>:
其中,K在注意力建模中表示键向量(Key);Q在注意力建模中表示查询向量(Query);V在注意力建模中表示值向量(Value)。
再次,将和/>输入密集匹配层121。密集匹配层121用于计算任意一个/>和任意一个/>之间的第一相似度。在一个具体的例子中,假定/>对应的特征点的数目为/>,对应的特征点的数目为/>,则第一相似度的维度为/>。
然后,根据该第一相似度,生成第一匹配结果。其中,第一匹配结果中,各第一匹配对的生成方法相同。以及,若目标低分辨率第一仿射变换图像特征和目标低分辨率第二仿射变换图像特征相匹配,则需要满足:目标低分辨率第一仿射变换图像特征为第三特征集合中,与目标低分辨率第二仿射变换图像特征最相似的低分辨率第一仿射变换图像特征,且目标低分辨率第二仿射变换图像特征为第三特征集合中,与目标低分辨率第一仿射变换图像特征最相似的低分辨率第二仿射变换图像特征。
最后,使用高分辨特征细化第一匹配结果。下面以第一匹配对为例,说明使用高分辨特征细化第一匹配结果的过程,其中,/>为某低分辨率第一仿射变换图像特征的位置坐标;/>为某低分辨率第二仿射变换图像特征的位置坐标。其他第一匹配对所对应的细化过程同理。
首先,将第一匹配对和第三特征集合中的高分辨率特征输入剪切层122,剪切层122用于在由第三特征集合中的高分辨率第一仿射变换图像特征构成的特征图中确定/>对应的位置坐标Y,在该特征图中裁剪出以Y为中心的局部窗口特征,得到目标高分辨率第一仿射变换图像特征。以及,在由第三特征集合中的高分辨率第二仿射变换图像特征构成的特征图中确定/>对应的位置坐标Z,在该特征图中裁剪出以Z为中心的局部窗口特征,得到目标高分辨率第二仿射变换图像特征。
然后,使用自注意力层119和跨注意力层120来编码目标高分辨率第一仿射变换图像特征的长距离依赖,得到,以及,使用自注意力层119和跨注意力层120来编码目标高分辨率第二仿射变换图像特征的长距离依赖,得到/>。
最后,将和/>输入密集匹配层121,密集匹配层121还用于计算任意一个/>和任意一个/>之间的第二相似度。根据该第二相似度,生成第二匹配结果。生成第二相似度的方法与生成第一相似度的方法相同或相似,以及,生成第二匹配结果的方法与生成第一匹配结果的方法相同或相似,在此不再赘述。
在获取到第一匹配结果和第二匹配结果后,可以根据所述第一匹配结果、所述第二匹配结果和所述第三样本标签,计算密集匹配损失。密集匹配损失的计算公式如下:
其中,表示密集匹配损失;/>表示低分辨率第一仿射变换图像和低分辨率第二仿射变换图像之间的真实匹配关系;/>表示第一匹配对;/>表示/>对应的第一相似度,要求该/>;/>表示第二匹配结果;/>表示第二匹配对;/>表示在高分辨率第二仿射变换图像中匹配出的,与高分辨率第一仿射变换图像中的特征点Y对应的点的位置坐标;/>表示高分辨率第二仿射变换图像中,与高分辨率第一仿射变换图像中的特征点Y实际对应的点的位置坐标。
最后,根据所述密集匹配损失,调整所述预设密集匹配模型的相关参数,使得通过使用所述预设密集匹配模型的相关参数获得的所述预设密集匹配模型的损失函数的值减小。
本说明书实施例还提供了一种图像匹配方法,该方法应用于航天器。图2是本发明实施例提供的一种图像匹配方法的流程示意图。如图2所示,本流程包括:
步骤201:获取航天器的着陆点对应的DOM。
本说明书实施例中,获取航天器的着陆点对应的DOM,具体可以包括:响应于工作人员的DOM输入操作,获取DOM。
步骤202:获取所述航天器的下降图像。
本说明书实施例中,下降图像可以是航天器的所有下降图像中的任意一张下降图像。
步骤203:通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数。
本说明书实施例中,预设仿射回归模型为预先训练的能够计算下降图像和DOM之间的仿射变换参数的模型,通过将下降图像和DOM输入预设仿射回归模型,预设仿射回归模型便能够自动输出该下降图像和DOM之间的仿射变换参数。
步骤204:根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像。
本说明书实施例中,由于下降图像和DOM之间存在显著的仿射变换,使得不能直接对下降图像和DOM进行图像匹配,需要先根据下降图像和DOM之间的仿射变换参数,校正下降图像,然后对校正后的下降图像和DOM进行图像匹配。
步骤205:基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
本说明书实施例采用上述技术方案,首先,在获取航天器的着陆点对应的DOM和航天器的下降图像。然后,通过预设仿射回归模型,获取下降图像与DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数。再然后,根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像。最后,基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。基于此,本申请通过使用预设仿射回归模型来获取下降图像与DOM之间的仿射变换参数,使得本申请能够快速地获取到该仿射变换参数,进而使得本申请能够快速地对下降图像进行仿射变换,大大缩短了图像匹配的时长,满足了用户需要提高图像匹配效率的需求。
此外,本说明书实施例通过使用预设仿射回归模型来获取下降图像与DOM之间的仿射变换参数,还能够提高该仿射变换参数的准确性,因此,根据该仿射变换参数,对下降图像进行仿射变换而得到的校正图像更准确,进而使得校正图像和DOM之间的匹配结果更准确。简言之,本说明书实施例还能够提高图像匹配结果的准确性。
本说明书实施例还提供了另一种图像匹配方法。图3是本发明实施例提供的另一种图像匹配方法的流程示意图。如图3所示,本流程包括:
步骤301:获取航天器的着陆点对应的DOM。
步骤302:获取所述航天器的下降图像。
步骤303:基于预设初始匹配规则,对所述DOM和所述下降图像进行匹配,得到初始匹配结果;所述初始匹配结果中包含目标DOM;所述目标DOM为所述DOM中与所述下降图像对应的区域。
本说明书实施例中,下降图像所对应的实际范围,与DOM所对应的实际范围之间往往存在巨大差异,即下降图像仅对应于DOM中的一小部分图像区域,例如,假定DOM对应的实际范围是某城市,则下降图像对应的实际范围可以是该城市的某个区域。
基于此,在获取到下降图像和DOM之后,为了提高图像匹配效率,可以先对下降图像和DOM进行粗粒度匹配,具体为计算下降图像分别与DOM的不同区域之间的相似度,然后,在该DOM的不同区域中,确定出相似度最高的区域,该相似度最高的区域即为DOM中与下降图像对应的目标DOM。
本说明书实施例中,步骤303:基于预设初始匹配规则,对所述DOM和所述下降图像进行匹配,具体可以包括:将所述DOM和所述下降图像输入上述预设初始匹配模型,以使所述DOM和所述下降图像按照所述预设初始匹配规则进行匹配。
步骤304:通过预设仿射回归模型,获取所述下降图像与所述目标DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数。
步骤305:根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像。
步骤306:基于预设密集匹配规则,对所述校正图像和所述目标DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述目标DOM之间的坐标点对应关系。
本说明书实施例中,步骤306:基于预设密集匹配规则,对所述校正图像和所述目标DOM进行匹配,具体可以包括:将所述校正图像和所述目标DOM输入上述预设密集匹配模型,以使所述校正图像和所述目标DOM按照所述预设密集匹配规则进行匹配。
本说明书实施例采用上述技术方案,在获取到下降图像和DOM之后,通过首先对下降图像和DOM进行粗粒度匹配,以在DOM中确定出与下降图像对应的目标DOM,如此,避免了后续将整个DOM与下降图像进行密集匹配,而只需对目标DOM和下降图像进行密集匹配,这使得本说明书实施例进一步提高了图像匹配效率。
基于一个总的发明构思,本发明实施例还提供了一种航天器着陆点定位方法。图4是本发明实施例提供的一种航天器着陆点定位方法的流程示意图,如图4所示,本流程包括:
步骤401:获取航天器的着陆点对应的DOM。
步骤402:获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应。
步骤403:对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系。
本发明实施例中,假定下降图像有I1、I2、I3、I4和I5,且I1、I2、I3、I4和I5依次被捕获,则I5为捕获时间最晚的下降图像。则可以通过预设密集匹配模型,对图像I4和图像I5进行匹配,以及对图像I3和图像I4进行匹配等。最终,得到第一匹配结果。
步骤404:根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵。
本发明实施例中,可以基于RANSAC(RANdom SAmple Consensus)算法,根据任意相邻的下降图像对应的第一匹配结果,计算该任意相邻的下降图像之间的第一单应性矩阵。
步骤405:从所述下降图像集合中选取至少一张下降图像作为目标下降图像。
本发明实施例中,可以从所述下降图像集合中除捕获时间最晚的下降图像之外的其他下降图像中,选取至少一张下降图像作为目标下降图像。
步骤406:针对每张所述目标下降图像,采用上述实施例所述的图像匹配方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系。
步骤407:根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵。
步骤408:根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点。
本说明书实施例中,第一DOM点的位置坐标的计算公式如下:
其中,表示第一DOM点的位置坐标;/>表示目标下降图像和DOM之间的第二单应性矩阵;/>表示目标下降图像和DOM之间的仿射变换参数;/>表示第i张下降图像(即目标下降图像)与第(i+1)张下降图像之间的第一单应性矩阵;/>表示第(i+1)张下降图像与第(i+2)张下降图像之间的第一单应性矩阵;/>表示捕获时间最晚的下降图像与该捕获时间最晚的下降图像的前一张下降图像之间的第一单应性矩阵;/>表示捕获时间最晚的下降图像中的预设点的位置坐标。其中,第i张下降图像与第(i+1)张下降图像为相邻的下降图像,且第i张下降图像的捕获时间早于第(i+1)张下降图像的捕获时间,以此类推,可确定其他各下降图像的捕获顺序。
为了更清楚地说明上述过程,下面举例说明。
在一个具体的例子中,假定下降图像有I1、I2、I3、I4和I5,且I1、I2、I3、I4和I5依次被捕获,则I5为捕获时间最晚的下降图像。下降图像有I1和下降图像I2之间的第一单应性矩阵为,下降图像I2和下降图像I3之间的第一单应性矩阵为/>,以此类推,下降图像I4和下降图像I5之间的第一单应性矩阵为/>。假定,目标下降图像为I3,则对应的第一DOM点的位置坐标为:
步骤409:根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
本发明实施例中,首先,针对每张目标下降图像对应的第一DOM点,通过如下公式计算得到各目标下降图像对应的第一DOM点的定位分数:
其中,表示第一DOM点的定位分数;/>表示使用预设密集匹配模型对目标下降图像和DOM进行匹配时,得到的第一匹配对;/>表示/>对应的第一相似度;/>表示使用预设密集匹配模型对目标下降图像和DOM进行匹配时,得到的第一匹配结果。
然后,从各第一DOM点中选取定位分数大于或等于预设阈值的第一DOM点。其中,预设阈值可以等于0.1。
最后,根据如下公式,在所述DOM中确定出第二DOM点:
其中,表示第二DOM点的位置坐标;/>表示由定位分数大于或等于预设阈值的第一DOM点构成的集合;/>表示各定位分数大于或等于预设阈值的第一DOM点的定位分数之和;/>表示第i个第一DOM点的位置坐标。
基于一个总的发明构思,本发明实施例还提供了一种图像匹配装置,应用于航天器。图5是本发明实施例提供的一种图像匹配装置的结构示意图。如图5所示,本装置包括:
DOM获取模块51,用于获取航天器的着陆点对应的DOM。
下降图像获取模块52,用于获取所述航天器的下降图像。
仿射变换参数获取模块53,用于通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数。
下降图像校正模块54,用于根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像。
密集匹配模块55,用于基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
本说明书实施的装置,还可以包括初始匹配模块,用于基于预设初始匹配规则,对所述DOM和所述下降图像进行匹配,得到初始匹配结果;所述初始匹配结果中包含目标DOM;所述目标DOM为所述DOM中与所述下降图像对应的区域。
对应的,仿射变换参数获取模块53,具体可以用于:通过预设仿射回归模型,获取所述下降图像与所述目标DOM之间的仿射变换参数。
密集匹配模块55,具体还可以用于基于预设密集匹配规则,对所述校正图像和所述目标DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述目标DOM之间的坐标点对应关系。
本说明书实施的装置,还可以包括预设仿射回归模型训练模块,用于执行第一迭代过程;所述第一迭代过程包括:
对所述第一训练样本中的截取DOM和第一仿射变换图像进行特征提取,得到第一特征集合。
计算所述第一特征集合中的截取DOM特征和第一仿射变换图像特征之间的相似度,得到相关图。
根据所述相关图,确定所述第一训练样本中的截取DOM和第一仿射变换图像之间的预测仿射变换参数。
根据所述第一预设仿射变换参数和所述预测仿射变换参数,调整所述预设仿射回归模型的相关参数,使得通过使用所述预设仿射回归模型的相关参数获得的所述预设仿射回归模型的损失函数的值减小。
本说明书实施例中,初始匹配模块,具体可以用于:
将所述DOM和所述下降图像输入预设初始匹配模型,以使所述DOM和所述下降图像按照所述预设初始匹配规则进行匹配。
所述预设初始匹配模型为根据第二训练样本和第二样本标签训练得到的模型;所述第二训练样本中包含原始DOM和截取DOM;所述第二训练样本中的截取DOM为从该第二训练样本中的原始DOM中截取的部分DOM;所述第二样本标签为所述第二训练样本中的截取DOM在该第二训练样本中的原始DOM中的真实位置的位置数据。
本说明书实施的装置,还可以包括预设初始匹配模型训练模块,用于执行第二迭代过程;所述第二迭代过程包括:
对所述第二训练样本中的原始DOM和截取DOM进行特征提取,得到第二特征集合。
根据所述第二特征集合,计算所述第二训练样本中的截取DOM,分别与该第二训练样本中的原始DOM的不同区域之间的相似度。
根据所述不同区域之间的相似度,在所述不同区域中确定出相似度最高的目标区域。
根据所述目标区域和所述第二样本标签,调整所述预设初始匹配模型的相关参数,使得通过使用所述预设初始匹配模型的相关参数获得的所述预设初始匹配模型的损失函数的值减小。
本说明书实施例中,密集匹配模块55,具体可以用于:将所述校正图像和所述目标DOM输入预设密集匹配模型,以使所述校正图像和所述目标DOM按照所述预设密集匹配规则进行匹配。
所述预设密集匹配模型为根据第三训练样本和第三样本标签训练得到的模型;所述第三训练样本中包含第一仿射变换图像和第二仿射变换图像;所述第三训练样本中的第二仿射变换图像为根据第二预设仿射变换参数,对该第三训练样本中的第一仿射变换图像进行仿射变换后得到的图像;所述第三样本标签为所述第二预设仿射变换参数。
本说明书实施的装置,还可以包括预设密集匹配模型训练模块,用于执行第三迭代过程;所述第三迭代过程包括:
对所述第三训练样本中的第一仿射变换图像和第二仿射变换图像进行多级特征提取,得到第三特征集合;所述第三特征集合中的图像特征分为高分辨率特征和低分辨率特征。
通过对所述第三特征集合中的低分辨率第一仿射变换图像特征和低分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第一匹配结果;所述第一匹配结果中包含多个第一匹配对;所述第一匹配对由一个低分辨率第一仿射变换图像特征的位置数据和一个低分辨率第二仿射变换图像特征的位置数据组成;所述一个低分辨率第一仿射变换图像特征和所述一个低分辨率第二仿射变换图像特征相匹配。
针对每个所述第一匹配对,从所述第三特征集合中选取目标高分辨率第一仿射变换图像特征和目标高分辨率第二仿射变换图像特征;所述目标高分辨率第一仿射变换图像特征为所述第三训练样本的第一仿射变换图像中,以所述一个低分辨率第一仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第一仿射变换图像特征;所述目标高分辨率第二仿射变换图像特征为所述第三训练样本的第二仿射变换图像中,以所述一个低分辨率第二仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第二仿射变换图像特征。
通过对所述目标高分辨率第一仿射变换图像特征和所述目标高分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第二匹配结果;所述第二匹配结果中包含多个第二匹配对;所述第二匹配对由一个目标高分辨率第一仿射变换图像特征的位置数据和一个目标高分辨率第二仿射变换图像特征的位置数据组成;所述一个目标高分辨率第一仿射变换图像特征和所述一个目标高分辨率第二仿射变换图像特征相匹配。
根据所述第一匹配结果、所述第二匹配结果和所述第三样本标签,调整所述预设密集匹配模型的相关参数,使得通过使用所述预设密集匹配模型的相关参数获得的所述预设密集匹配模型的损失函数的值减小。
基于一个总得发明构思,本申请还提供了一种航天器着陆点定位装置。图6是本发明实施例提供的一种航天器着陆点定位装置的结构示意图。如图6所示,该装置包括:
DOM获取模块61,用于获取航天器的着陆点对应的DOM。
下降图像集合获取模块62,用于获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应。
第一匹配模块63,用于对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系;
第一单应性矩阵计算模块64,用于根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵。
目标下降图像选取模块65,用于从所述下降图像集合中选取至少一张下降图像作为目标下降图像。
第二匹配模块66,用于针对每张所述目标下降图像,采用如上述实施例所述的图像匹配方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系。
第二单应性矩阵计算模块67,用于根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵。
第一DOM点确定模块68,用于根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点。
第二DOM点确定模块69,用于根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本发明各实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减,各实施例中记载的技术特征可以进行替换或者组合。
本发明各实施例种装置及终端中的模块和子模块可以根据实际需要进行合并、划分和删减。
本发明所提供的几个实施例中,应该理解到,所揭露的终端,装置和方法,可以通过其它的方式实现。例如,以上所描述的终端实施例仅仅是示意性的,例如,模块或子模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个子模块或模块可以结合或者可以集成到另一个模块,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的模块或子模块可以是或者也可以不是物理上分开的,作为模块或子模块的部件可以是或者也可以不是物理模块或子模块,即可以位于一个地方,或者也可以分布到多个网络模块或子模块上。可以根据实际的需要选择其中的部分或者全部模块或子模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块或子模块可以集成在一个处理模块中,也可以是各个模块或子模块单独物理存在,也可以两个或两个以上模块或子模块集成在一个模块中。上述集成的模块或子模块既可以采用硬件的形式实现,也可以采用软件功能模块或子模块的形式实现。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件单元,或者二者的结合来实施。软件单元可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种图像匹配方法,应用于航天器,其特征在于,包括:
获取航天器的着陆点对应的DOM;
获取所述航天器的下降图像;
通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数;
根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像;
基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
2.根据权利要求1所述的方法,其特征在于,所述通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数之前,还包括:
基于预设初始匹配规则,对所述DOM和所述下降图像进行匹配,得到初始匹配结果;所述初始匹配结果中包含目标DOM;所述目标DOM为所述DOM中与所述下降图像对应的区域;
所述获取所述下降图像与所述DOM之间的仿射变换参数,具体包括:
获取所述下降图像与所述目标DOM之间的仿射变换参数;
所述对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系,具体包括:
对所述校正图像和所述目标DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述目标DOM之间的坐标点对应关系。
3.根据权利要求1所述的方法,其特征在于,所述预设仿射回归模型的训练过程为第一迭代过程;所述第一迭代过程包括:
对所述第一训练样本中的截取DOM和第一仿射变换图像进行特征提取,得到第一特征集合;
计算所述第一特征集合中的截取DOM特征和第一仿射变换图像特征之间的相似度,得到相关图;
根据所述相关图,确定所述第一训练样本中的截取DOM和第一仿射变换图像之间的预测仿射变换参数;
根据所述第一预设仿射变换参数和所述预测仿射变换参数,调整所述预设仿射回归模型的相关参数,使得通过使用所述预设仿射回归模型的相关参数获得的所述预设仿射回归模型的损失函数的值减小。
4.根据权利要求2所述的方法,其特征在于,所述基于预设初始匹配规则,对所述DOM和所述下降图像进行匹配,具体包括:
将所述DOM和所述下降图像输入预设初始匹配模型,以使所述DOM和所述下降图像按照所述预设初始匹配规则进行匹配;
所述预设初始匹配模型为根据第二训练样本和第二样本标签训练得到的模型;所述第二训练样本中包含原始DOM和截取DOM;所述第二训练样本中的截取DOM为从该第二训练样本中的原始DOM中截取的部分DOM;所述第二样本标签为所述第二训练样本中的截取DOM在该第二训练样本中的原始DOM中的真实位置的位置数据。
5.根据权利要求4所述的方法,其特征在于,所述预设初始匹配模型的训练过程为第二迭代过程;所述第二迭代过程包括:
对所述第二训练样本中的原始DOM和截取DOM进行特征提取,得到第二特征集合;
根据所述第二特征集合,计算所述第二训练样本中的截取DOM,分别与该第二训练样本中的原始DOM的不同区域之间的相似度;
根据所述不同区域之间的相似度,在所述不同区域中确定出相似度最高的目标区域;
根据所述目标区域和所述第二样本标签,调整所述预设初始匹配模型的相关参数,使得通过使用所述预设初始匹配模型的相关参数获得的所述预设初始匹配模型的损失函数的值减小。
6.根据权利要求2所述的方法,其特征在于,所述对所述校正图像和所述目标DOM进行匹配,具体包括:
将所述校正图像和所述目标DOM输入预设密集匹配模型,以使所述校正图像和所述目标DOM按照所述预设密集匹配规则进行匹配;
所述预设密集匹配模型为根据第三训练样本和第三样本标签训练得到的模型;所述第三训练样本中包含第一仿射变换图像和第二仿射变换图像;所述第三训练样本中的第二仿射变换图像为根据第二预设仿射变换参数,对该第三训练样本中的第一仿射变换图像进行仿射变换后得到的图像;所述第三样本标签为所述第二预设仿射变换参数。
7.根据权利要求6所述的方法,其特征在于,所述预设密集匹配模型的训练过程为第三迭代过程;所述第三迭代过程包括:
对所述第三训练样本中的第一仿射变换图像和第二仿射变换图像进行多级特征提取,得到第三特征集合;所述第三特征集合中的图像特征分为高分辨率特征和低分辨率特征;
通过对所述第三特征集合中的低分辨率第一仿射变换图像特征和低分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第一匹配结果;所述第一匹配结果中包含多个第一匹配对;所述第一匹配对由一个低分辨率第一仿射变换图像特征的位置数据和一个低分辨率第二仿射变换图像特征的位置数据组成;所述一个低分辨率第一仿射变换图像特征和所述一个低分辨率第二仿射变换图像特征相匹配;
针对每个所述第一匹配对,从所述第三特征集合中选取目标高分辨率第一仿射变换图像特征和目标高分辨率第二仿射变换图像特征;所述目标高分辨率第一仿射变换图像特征为所述第三训练样本的第一仿射变换图像中,以所述一个低分辨率第一仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第一仿射变换图像特征;所述目标高分辨率第二仿射变换图像特征为所述第三训练样本的第二仿射变换图像中,以所述一个低分辨率第二仿射变换图像特征所在位置为中心的局部区域对应的高分辨率第二仿射变换图像特征;
通过对所述目标高分辨率第一仿射变换图像特征和所述目标高分辨率第二仿射变换图像特征进行匹配,得到所述第三训练样本的第二匹配结果;所述第二匹配结果中包含多个第二匹配对;所述第二匹配对由一个目标高分辨率第一仿射变换图像特征的位置数据和一个目标高分辨率第二仿射变换图像特征的位置数据组成;所述一个目标高分辨率第一仿射变换图像特征和所述一个目标高分辨率第二仿射变换图像特征相匹配;
根据所述第一匹配结果、所述第二匹配结果和所述第三样本标签,调整所述预设密集匹配模型的相关参数,使得通过使用所述预设密集匹配模型的相关参数获得的所述预设密集匹配模型的损失函数的值减小。
8.一种航天器着陆点定位方法,其特征在于,包括:
获取航天器的着陆点对应的DOM;
获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应;
对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系;
根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵;
从所述下降图像集合中选取至少一张下降图像作为目标下降图像;
针对每张所述目标下降图像,采用如权利要求1或2所述的方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系;
根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵;
根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点;
根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
9.一种图像匹配装置,应用于航天器,其特征在于,包括:
DOM获取模块,用于获取航天器的着陆点对应的DOM;
下降图像获取模块,用于获取所述航天器的下降图像;
仿射变换参数获取模块,用于通过预设仿射回归模型,获取所述下降图像与所述DOM之间的仿射变换参数;所述预设仿射回归模型为根据第一训练样本和第一样本标签训练得到的模型;所述第一训练样本中包含截取DOM和第一仿射变换图像;所述第一训练样本中的第一仿射变换图像为根据第一预设仿射变换参数,对该第一训练样本中的截取DOM进行仿射变换后得到的图像;所述第一样本标签为所述第一预设仿射变换参数;
下降图像校正模块,用于根据所述仿射变换参数,对所述下降图像进行仿射变换,得到校正图像;
密集匹配模块,用于基于预设密集匹配规则,对所述校正图像和所述DOM进行匹配,得到密集匹配结果;所述密集匹配结果中包含所述校正图像和所述DOM之间的坐标点对应关系。
10.一种航天器着陆点定位装置,其特征在于,包括:
DOM获取模块,用于获取航天器的着陆点对应的DOM;
下降图像集合获取模块,用于获取所述航天器的下降图像集合;所述下降图像集合中包含多张下降图像;其中,设定捕获时间最晚的下降图像中的预设点与所述航天器的着陆点对应;
第一匹配模块,用于对相邻的所述下降图像进行匹配,得到第一匹配结果;所述第一匹配结果中包含相邻的所述下降图像之间的坐标点对应关系;
第一单应性矩阵计算模块,用于根据所述第一匹配结果,计算该第一匹配结果对应的相邻下降图像之间的第一单应性矩阵;
目标下降图像选取模块,用于从所述下降图像集合中选取至少一张下降图像作为目标下降图像;
第二匹配模块,用于针对每张所述目标下降图像,采用如权利要求1或2所述的方法,对所述目标下降图像和所述DOM进行匹配,得到第二匹配结果;所述第二匹配结果中包含所述目标下降图像和所述DOM之间的坐标点对应关系;
第二单应性矩阵计算模块,用于根据所述第二匹配结果,计算所述目标下降图像和所述DOM之间的第二单应性矩阵;
第一DOM点确定模块,用于根据所述第一单应性矩阵和所述第二单应性矩阵,在所述DOM中确定出与所述预设点对应的第一DOM点;
第二DOM点确定模块,用于根据至少一张所述目标下降图像对应的第一DOM点,在所述DOM中确定出第二DOM点;所述第二DOM点为在所述DOM中定位出的所述航天器的着陆点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310149445.5A CN115861393B (zh) | 2023-02-16 | 2023-02-16 | 图像匹配方法、航天器着陆点定位方法及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310149445.5A CN115861393B (zh) | 2023-02-16 | 2023-02-16 | 图像匹配方法、航天器着陆点定位方法及相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115861393A true CN115861393A (zh) | 2023-03-28 |
CN115861393B CN115861393B (zh) | 2023-06-16 |
Family
ID=85658638
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310149445.5A Active CN115861393B (zh) | 2023-02-16 | 2023-02-16 | 图像匹配方法、航天器着陆点定位方法及相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115861393B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118015290A (zh) * | 2024-04-08 | 2024-05-10 | 浙江深象智能科技有限公司 | 图像特征处理方法、图像对比方法、模型训练方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108171732A (zh) * | 2017-11-24 | 2018-06-15 | 中国人民解放军63920部队 | 一种基于多源图像融合的探测器月面着陆绝对定位方法 |
US10871377B1 (en) * | 2019-08-08 | 2020-12-22 | Phiar Technologies, Inc. | Computer-vision based positioning for augmented reality navigation |
FR3101467A1 (fr) * | 2019-10-01 | 2021-04-02 | Dassault Aviation | Systeme de traitement d'images par mise en correspondance multifonctions et modulaire pour aeronef, et procede associe |
CN113313147A (zh) * | 2021-05-12 | 2021-08-27 | 北京大学 | 一种基于深度语义对齐网络模型的图像匹配方法 |
US20210366126A1 (en) * | 2019-05-29 | 2021-11-25 | Tencent Technology (Shenzhen) Company Limited | Image segmentation method and apparatus, model training method and apparatus, device, and storage medium |
CN115423691A (zh) * | 2022-08-30 | 2022-12-02 | 青岛云天励飞科技有限公司 | 图像矫正模型的训练方法、图像矫正方法、设备及存储介质 |
-
2023
- 2023-02-16 CN CN202310149445.5A patent/CN115861393B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108171732A (zh) * | 2017-11-24 | 2018-06-15 | 中国人民解放军63920部队 | 一种基于多源图像融合的探测器月面着陆绝对定位方法 |
US20210366126A1 (en) * | 2019-05-29 | 2021-11-25 | Tencent Technology (Shenzhen) Company Limited | Image segmentation method and apparatus, model training method and apparatus, device, and storage medium |
US10871377B1 (en) * | 2019-08-08 | 2020-12-22 | Phiar Technologies, Inc. | Computer-vision based positioning for augmented reality navigation |
FR3101467A1 (fr) * | 2019-10-01 | 2021-04-02 | Dassault Aviation | Systeme de traitement d'images par mise en correspondance multifonctions et modulaire pour aeronef, et procede associe |
CN113313147A (zh) * | 2021-05-12 | 2021-08-27 | 北京大学 | 一种基于深度语义对齐网络模型的图像匹配方法 |
CN115423691A (zh) * | 2022-08-30 | 2022-12-02 | 青岛云天励飞科技有限公司 | 图像矫正模型的训练方法、图像矫正方法、设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
AVISHEK GHOSH: "Max-Affine Regression: Provable, Tractable, and Near-Optimal Statistical Estimation", 《ARXIV:1906.09255V1 [STAT.ML]》 * |
王镓 等: "基于视觉的嫦娥四号探测器着陆点定位", 中国科学:技术科学 * |
邵巍;常晓华;崔平远;崔祜涛;: "惯导融合特征匹配的小天体着陆导航算法", 宇航学报 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118015290A (zh) * | 2024-04-08 | 2024-05-10 | 浙江深象智能科技有限公司 | 图像特征处理方法、图像对比方法、模型训练方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115861393B (zh) | 2023-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110148157B (zh) | 画面目标跟踪方法、装置、存储介质及电子设备 | |
CN108121931B (zh) | 二维码数据处理方法、装置及移动终端 | |
WO2020047420A1 (en) | Method and system for facilitating recognition of vehicle parts based on a neural network | |
CN111340077B (zh) | 基于注意力机制的视差图获取方法和装置 | |
CN109191424B (zh) | 一种乳腺肿块检测与分类系统、计算机可读存储介质 | |
CN111160375A (zh) | 三维关键点预测及深度学习模型训练方法、装置及设备 | |
CN102782708A (zh) | 用于图像辨识的描述符小块的快速子空间投影 | |
WO2017198749A1 (en) | Image processing apparatus and method | |
US20200293857A1 (en) | Cnn processing device, cnn processing method, and program | |
JP2017068608A (ja) | 演算装置、方法及びプログラム | |
CN111179270A (zh) | 基于注意力机制的图像共分割方法和装置 | |
CN115861393A (zh) | 图像匹配方法、航天器着陆点定位方法及相关装置 | |
CN113920538A (zh) | 目标检测方法、装置、设备、存储介质及计算机程序产品 | |
CN112529908A (zh) | 一种基于级联卷积网络的数字病理图像分割方法及其模型 | |
CN117576724A (zh) | 一种无人机飞鸟检测方法、系统、设备和介质 | |
CN116740135A (zh) | 红外弱小目标跟踪方法、装置、电子设备及存储介质 | |
CN115311553A (zh) | 目标检测方法、装置、电子设备及存储介质 | |
CN111861962B (zh) | 一种数据融合方法及电子设备 | |
CN107358625B (zh) | 基于SPP Net和感兴趣区域检测的SAR图像变化检测方法 | |
CN117036756B (zh) | 基于变分自动编码器的遥感图像匹配方法及系统 | |
CN117830701A (zh) | 基于注意力机制的多尺度特征融合星图识别方法和装置 | |
CN116758214A (zh) | 遥感图像的三维建模方法、装置、电子设备及存储介质 | |
CN116758419A (zh) | 针对遥感图像的多尺度目标检测方法、装置和设备 | |
CN113269831B (zh) | 基于场景坐标回归网络的视觉重定位方法、系统、装置 | |
CN114998630A (zh) | 一种从粗到精的地对空图像配准方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |