CN113610134A - 一种图像特征点匹配方法、装置、芯片、终端和存储介质 - Google Patents

Abstract

本申请属于图像处理技术领域，尤其涉及一种图像特征点匹配方法、装置、芯片、终端和存储介质，通过引入基于预设匹配算法确定的相应类型的预设对象，对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，使得得到的图像中确定为匹配成功的特征点的匹配置信度较高，进而有利于提高图像特征点匹配的精度，降低误匹配的可能性。

Description

一种图像特征点匹配方法、装置、芯片、终端和存储介质

技术领域

本申请属于图像处理技术领域，尤其涉及一种图像特征点匹配方法、装置、芯片、终端和存储介质。

背景技术

特征点匹配在图像检索、图像识别、图像语义理解、视频跟踪、三维物体重建、虚拟现实以及增强现实等领域应用广泛。

然而，在采用SIFT(Scale invariant feature transform)，ORB(Oriented fastand rotated brief)，SURF(Speeded up robust feature)等基于特征描述的特征点匹配方法进行特征匹配时，不可避免的会存在误匹配的问题，降低了图像特征点匹配的精度。

发明内容

本申请实施例提供一种图像特征点匹配方法、装置、芯片、终端和存储介质，有利于提高图像特征点匹配的精度。

本申请实施例第一方面提供一种图像特征点匹配方法，包括：

基于预设匹配算法确定与第一特征点匹配的第二特征点，其中，第一特征点位于第一图像，第二特征点位于第二图像；

当第一特征点和第二特征点中的至少一个特征点位于相应图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点，其中，预设对象的类型基于预设匹配算法确定。

本申请实施例第二方面提供一种图像特征点匹配装置，包括：

第一确定单元，用于基于预设匹配算法确定与第一特征点匹配的第二特征点，其中，第一特征点位于第一图像，第二特征点位于第二图像；

第二确定单元，用于当第一特征点和第二特征点中的至少一个特征点位于相应图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点，其中，预设对象的类型基于预设匹配算法确定。

本申请实施例第三方面提供一种芯片，包括处理器，该处理器用于读取并执行存储器中存储的计算机程序，以实现上述第一方面的方法的步骤。

本申请实施例第四方面提供一种终端，包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述第一方面的方法的步骤。

本申请实施例第五方面提供一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述第一方面的方法的步骤。

本申请实施例中，通过基于预设匹配算法确定预设对象的类型，并在进行图像特征点匹配的过程中，引入该预设对象，对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，使得得到的图像中确定为匹配成功的特征点的匹配置信度较高，进而有利于提高图像特征点匹配的精度。

在实际应用中，可以通过实验、样本分析等方式确定出该预设匹配算法在何种类型的对象上匹配精度较高，并将其作为预设对象的类型，以在本申请中，可基于该类型的预设对象对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，达到提高图像特征点匹配精度的目的，降低误匹配的可能性。

附图说明

为了更清楚地说明本申请实施例的方法方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通方法人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1是本申请实施例提供的终端的结构示意图；

图2是本申请实施例提供的图像特征点发生误匹配的示意图；

图3是本申请实施例提供的图像特征点匹配方法的第一实现流程示意图；

图4是本申请实施例提供的图像特征点匹配方法的第二实现流程示意图；

图5是本申请实施例提供的使用非极大值抑制寻找像素点局部最大值的示意图；

图6是本申请实施例提供的利用Canny算子对图像进行边缘检测的效果示意图；

图7是本申请实施例提供的判断特征点是否最终确定为匹配成功的特征点的示意图；

图8是本申请实施例提供的图像特征点匹配方法的第三实现流程示意图；

图9是本申请实施例提供的对图像特征点进行均匀化的示意图；

图10是本申请实施例提供的图像特征点匹配装置的结构示意图；

具体实施方式

为了使本申请的目的、方法方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。

本文中的“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，X和/或Y，可以表示：单独存在X，同时存在X和Y，单独存在Y这三种情况。另外，在本申请实施例的描述中，除非另有说明，“多个”是指两个或多于两个，“至少一个”、“一个或多个”是指一个、两个或两个以上。

在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。

本申请的实施例可以应用于多种终端，例如，手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality，AR)/虚拟现实(virtual reality，VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本、个人数字助理(personal digital assistant，PDA)等终端上，本申请实施例对终端的具体类型不作任何限制。通常，上述终端包括：处理器和存储器。

以上述终端为手机为例，如图1示出的是本申请实施例提供的手机的部分结构的示意框图。本申请实施例提供的手机包括：射频(Radio Frequency，RF)电路110、存储器120、输入单元130、显示单元140、传感器150、音频电路160、无线保真(wireless fidelity，Wi-Fi)模块170、处理器180、以及电源190等部件。本领域方法人员可以理解，图1中示出的手机结构并不构成对手机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

其中，存储器120可用于存储软件程序以及模块，处理器180通过运行存储在存储器120的软件程序以及模块，从而执行手机的各种功能应用以及数据处理。存储器120可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等。此外，存储器120可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器180是手机的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器120内的软件程序和/或模块，以及调用存储在存储器120内的数据，执行手机的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器180可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器180可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。

处理器180也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central Processing Unit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器180可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示单元所需要显示的内容的渲染和绘制。一些实施例中，处理器180还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。

尽管未示出，手机还可以包括摄像头。可选地，摄像头在手机的上的位置可以为前置的，也可以为后置的，本申请实施例对此不作限定。

可以理解的是，本申请实施例示意的结构并不构成对终端的具体限定。在本申请另一些实施例中，设备可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。

以下实施例可以在具有上述结构的手机上实现。下面对本申请实施例提供的图像特征点匹配方法进行说明。

一般的，特征点匹配方法通常包括特征点检测、特征描述和特征匹配这三个步骤。其中，特征点检测是为了找到感兴趣的特征点，例如，图像中的斑点、角点等特征点。特征描述是在特征点周围取一块图像区域，按照一定规则生成特征描述向量(描述子)的过程。特征匹配是通过特征描述向量的相似性来判断两个特征点是否指向同一目标的同一位置的过程。

目前，常用的特征匹配算法有：SIFT算法、ORB算法和SURF算法。

然而，受到图像亮度、拍摄角度等因素的影响，这些特征匹配算法的图像特征描述存在不唯一性，导致基于特征描述的特征匹配方法不可避免的会出现误匹配的问题。

示例性的，如图2所示，图像a的特征点A与图像b的特征点A’是一对相互匹配的特征点，图像a的特征点B与图像b的特征点B’是一对相互匹配的特征点。在利用SIFT算法、ORB算法、SURF算法等特征匹配算法进行图像特征点的匹配时，有可能误认为图像b的特征点B’是与图像a的特征点A匹配的特征点，进而出现误匹配的问题。

基于此，本申请实施例提供了一种图像特征点匹配方法、装置、芯片、终端和存储介质，能够有效的提高图像特征点匹配的精度。

具体的，本申请提供一种图像特征点匹配方法、装置、芯片、终端和存储介质，通过引入基于预设匹配算法确定的相应类型的预设对象，对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，以得到确定为匹配成功的特征点，降低了特征点发生误匹配的概率，提高了确定为匹配成功的特征点的置信度，有效地提高了图像特征点匹配的精度。

为了更好地理解本申请实施例提供的图像特征点匹配方法，以下结合附图，从实现层面介绍具体的实现过程。

示例性的，如图3示出了本申请实施例提供的一种图像特征点匹配方法的第一实现示意流程图。该图像特征点匹配方法可以由上述终端配置的图像特征点匹配装置执行，具体包括下述步骤301至步骤302。

步骤301，基于预设匹配算法确定与第一特征点匹配的第二特征点。

其中，上述第一特征点为位于第一图像上的特征点，第二特征点为位于第二图像上的特征点。

上述第一图像与上述第二图像可以为对同一目标物体分别进行拍摄得到的两张需要进行特征点匹配的图像，或者，为某段视频中的某两帧需要进行特征点匹配的图像。

上述基于预设匹配算法确定与第一特征点匹配的第二特征点可以是指：利用该预设匹配算法对第一图像和第二图像上的特征点进行匹配，得到相互匹配的第一特征点和第二特征点，并且，由于该相互匹配的第一特征点和第二特征点未基于预设对象进行验证，有可能属于发生误匹配的一对特征点，因此，属于初步确定为相互匹配的第一特征点和第二特征点，而非最终确定为匹配成功的特征点。

上述预设匹配算法可以为各种类型的特征点匹配算法，例如，该预设匹配算法可以为SIFT算法、ORB算法、SURF算法、光流追踪算法等特征点匹配算法，本申请对此不做限制。

步骤302，当第一特征点和第二特征点中的至少一个特征点位于相应图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点。

本申请实施例中，第一图像上的预设对象的类型，以及第二图像上的预设对象的类型基于上述预设匹配算法确定。

当预设匹配算法在某种类型的对象上具有较优的特征点匹配精度时，该类型即为与该预设匹配算法对应的预设对象的类型。即，当预设匹配算法在某种类型的对象上特征点匹配准确率大于匹配阈值，则该类型即为与该预设匹配算法对应的预设对象的类型。

具体的，上述预设对象的类型可以采用以下方式确定：获取样本图像，利用预设匹配算法对样本图像中不同类型的样本对象上的特征点进行特征匹配，然后，确定各个类型的样本对象上的特征点对应的匹配准确率，并将样本图像中目标样本对象的类型作为基于上述预设匹配算法确定的预设对象的类型，其中，该目标样本对象上的特征点的匹配准确率大于匹配阈值。

在实际应用中，预设对象的类型可以通过利用上述预设匹配算法对预设数量的样本图像中不同类型的样本对象上的特征点进行特征匹配，然后，统计各个类型的样本对象上的特征点对应的匹配准确率，最后，将匹配准确率大于匹配阈值的特征点所在的样本对象的类型作为与该预设匹配算法对应的预设对象的类型。

例如，利用上述预设匹配算法对预设数量的样本图像中直线上的特征点进行特征匹配，统计直线上的特征点对应的匹配准确率，若匹配准确率大于匹配阈值，则将与该预设匹配算法对应的预设对象的类型确定为直线。

又例如，利用上述预设匹配算法对预设数量的样本图像中圆形上的特征点进行特征匹配，统计圆形上的特征点对应的匹配准确率，若匹配准确率大于匹配阈值，则将与该预设匹配算法对应的预设对象的类型确定为圆形。

需要说明的是，此处仅仅是对本申请中预设对象的类型进行举例说明，并不表示为对本申请保护范围的限制，在本申请的其他实施方式中，还可以包括其他类型的预设对象。

例如，上述预设对象还可以为图像的边缘特征，图像中的人脸等对象。

在实际应用中，还可以采用以下具体方式确定上述预设对象的类型：先获取包含样本对象(例如，直线、圆形、边缘特征)的多组样本图像；其中，每组样本图像包含一张第一样本图像和一张第二样本图像，第一样本图像的样本对象上标记有第一样本特征点，第二样本图像标记有与第一样本特征点匹配的第二样本特征点；然后，利用预设匹配算法对每组样本图像中的第一样本特征点进行特征点匹配，得到与第一样本特征点匹配的待确认特征点；接着，基于第一样本特征点、第二样本特征点、待确认特征点，确定预设匹配算法对应的匹配准确率；若匹配准确率大于匹配阈值，则将该样本对象对应的类型作为预设匹配算法对应的预设对象的类型。

本申请实施例中，上述步骤302可以包括以下三种实现方式：

第一种，当第一特征点位于第一图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点。

第二种，当第二特征点位于第二图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点。

第三种，当第一特征点位于第一图像的预设对象上，并且，第二特征点位于第二图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点。

对于第一种和第二种实现方式，只需要第一特征点和第二特征点中的任意一个特征点位于其对应的一个图像上，即可确认第一特征点和第二特征点为匹配成功的特征点。

本申请实施中，由于预设匹配算法对预设对象上的特征点的匹配精度较高，因此，通过引入该预设对象，对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，得到的图像中确定为匹配成功的特征点的匹配置信度较高，因此，可以提高图像特征点匹配的精度，降低误匹配的可能性。

可选的，本申请的一些实施方式中，当第一特征点和第二特征点中的一个或两个未位于相应图像的预设对象上时，则可以将第一特征点与第二特征点确定为匹配错误的特征点，并将其删除。

例如，在第二图像上将第二特征点删除，或者，在第一图像上将第一特征点删除，或者，在第二图像上将第二特征点删除，并且，在第一图像上将第一特征点删除。

示例性的，在本申请的一些实施方式中，当上述预设匹配算法为光流追踪算法时，上述步骤301，基于预设匹配算法确定与第一特征点匹配的第二特征点的过程中，可以采用以下方式实现：基于光流追踪算法，在第二图像上对第一特征点进行光流追踪，得到与第一特征点匹配的第二特征点。

本实施例中，上述第一图像可以为某段视频中t时刻的视频帧图像，上述第二图像可以为上述第一图像的下一帧视频帧图像，即，t+1时刻的视频帧图像。

上述光流追踪算法可以为Lucas-Kanade光流追踪算法、Gunnar Farneback光流追踪算法以及稠密逆向光流搜索算法等光流追踪算法。

其中，稠密逆向光流搜索算法，即，DIS(Dense Inverse Search)光流算法，相比于像素级的光流追踪算法，其计算一次梯度，可供多次反向搜索使用，有效地降低了光流追踪的计算量，算法性能较优。

因此，在本申请的一些实施方式中，可以选用稠密逆向光流搜索算法确定与第一特征点匹配的第二特征点。

本申请实施例中，在使用稠密逆向光流搜索算法确定与第一特征点匹配的第二特征点时可以采用以下方式实现：先对第一图像和第二图像进行预处理，得到预处理后的第一图像和第二图像；然后，基于预处理后的第一图像和第二图像构建m层金字塔图像；接着，从m层金字塔图像的最顶层到最底层依次进行光流追踪，得到最后一层金字塔图像的光流图像，最后，通过对该光流图像进行缩放，得到在第二图像上对第一图像中的特征点进行光流追踪的前向光流图像，其中，m为大于1的整数。

具体的，对第一图像和第二图像进行预处理可以包括：图像灰度化、图像缩放处理和亮度拉伸处理。

上述从m层金字塔图像的最顶层到最底层依次进行光流追踪，得到最后一层金字塔图像的光流图像的过程中，可以包括：根据当前层金字塔图像的梯度计算图像块的块状积分图；基于图像块的逆向搜索求解稀疏图像光流场；将稀疏图像光流场稠密化，得到稠密光流图像，并对稠密光流图像进行变分求精；将变分求精后的稠密光流图像的特征点坐标作为下一层金字塔图像初始坐标，重新在下一层金字塔图像上进行迭代求解，直至得到最后一层金字塔图像的光流图像。

由于采用稠密逆向光流搜索算法对纹理丰富的图像区域的特征点进行特征匹配时，准确度较高，而对缺乏纹理的图像区域的特征点进行特征匹配时，匹配准确度较低，容易出现误匹配的问题。

因此，在本申请的一些实施方式中，当上述预设匹配算法为稠密逆向光流搜索算法时，上述预设对象可以基于以下方式确定：对相应图像进行边缘检测，得到相应图像的边缘特征，将该边缘特征作为预设对象。

也就是说，当上述预设匹配算法为稠密逆向光流搜索算法时，上述预设对象可以为图像的边缘特征。

具体的，如图4所示，为本申请实施例提供的一种图像特征点匹配方法的第二实现示意流程图。当上述预设匹配算法为稠密逆向光流搜索算法时，本申请实施例提供的图像特征点匹配方法可以基于下述步骤401至步骤402实现。

步骤401，基于稠密逆向光流搜索算法确定与第一特征点匹配的第二特征点。

其中，第一特征点位于第一图像，第二特征点位于第二图像。

上述步骤401的具体实现过程可以参考上述对稠密逆向光流搜索算法的描述，此处不再赘述。

步骤402，当第一特征点和第二特征点中的至少一个特征点位于相应图像的边缘特征上时，将第一特征点与第二特征点确定为匹配成功的特征点，其中，该预设对象的类型基于预设匹配算法确定。

本申请实施例中，在将第一特征点与第二特征点确定为匹配成功的特征点之前，可以对第一图像和/或第二图像进行边缘检测，得到相应图像的边缘特征，判断第一特征点和/或第二特征点是否位于相应图像的边缘特征上。

其中，在对第一图像和/或第二图像进行边缘检测的过程中，可以采用不同类型的边缘检测算子实现。

例如，采用Sobel算子、Prewitt算子、Roberts算子、Canny算子以及Marr-Hildreth算子等边缘检测算子实现。

其中，Canny算子对第一图像和/或第二图像进行边缘检测，得到的边缘特征是单像素的，能够精确锁定图像的边缘，因此，在本申请的一些实施方式中，可以选用Canny算子对第一图像和/或第二图像进行边缘检测。

为了描述的方便，下面以选用Canny算子对第一图像进行边缘检测为例，进行举例说明。

具体的，在采用Canny算子对第一图像进行边缘检测时，包括以下步骤A01至步骤A04。

步骤A01，对第一图像进行高斯滤波，去除第一图像中的噪声，避免将噪声检测为图像的边缘。

步骤A02，利用sobel算子或高斯滤波器对去除噪声后的图像进行梯度计算，得到各个像素点x方向和y方向的梯度信息，并基于各个像素点x方向和y方向的梯度信息建立梯度图像。

步骤A03，计算各个像素点的梯度方向，得到角度图像，并基于该角度图像对上述梯度图像进行非极大值抑制，得到二值图像。

由于步骤A02建立的梯度图像存在边缘粗宽、弱边缘干扰等问题，因此，需要使用非极大值抑制寻找像素点局部最大值，将非极大值所对应的灰度值置0，以便剔除一大部分非边缘的像素点。其中，角度图像的计算公式为：

具体的，在进行非极大值抑制的过程中，如图5所示，C表示梯度图像中当前非极大值抑制的点，g1、g2、g3、g4、g5、g6、g7、g8为C的8连通邻域点，线段L表示角度图像在C点的梯度方向，u、v为C点梯度方向的交点，其像素值可以通过对g1、g2、g3、g4、g5、g6、g7、g8的像素值进行插值得到，若C点的像素值大于梯度方向的交点u的像素值和v的像素值，则认定C点为极大值点，置为1，否则，置为0，最后生成的图像为一张二值图像。

步骤A04，使用双阈值对步骤A03中得到的二值图像对应的幅值图进行处理，得到的边缘特征。

具体的，通过设置一大一小的第一像素阈值和第二像素阈值，将二值图像对应的幅值图中像素值大于第一像素阈值的像素点置为1，其余置为0，得到一张强纹理图像，将二值图像对应的幅值图中像素值小于第二像素阈值的像素点置为0，其余置为1，得到一张弱纹理图像，利用弱纹理图像对强纹理图像进行扩充，即，利用弱纹理图像对强纹理图像中存在断点的位置，进行边缘连接，得到的边缘特征，即，单像素的边缘特征。

示例性的，如图6所示，图像c’为利用Canny算子对图像c进行边缘检测得到的图像c的边缘特征示意图。

本申请实施例中，在得到相应图像的边缘特征之后，即可判断第一特征点和/或第二特征点是否位于相应图像的边缘特征上。

同样的，上述步骤402可以包括以下三种实现方式：

第一种，当第一特征点位于第一图像的边缘特征上时，将第一特征点与第二特征点确定为匹配成功的特征点。

第二种，当第二特征点位于第二图像的边缘特征上时，将第一特征点与第二特征点确定为匹配成功的特征点。

第三种，当第一特征点位于第一图像的边缘特征上，并且，第二特征点位于第二图像的边缘特征上时，将第一特征点与第二特征点确定为匹配成功的特征点。

本申请实施例中，通过基于稠密逆向光流搜索算法确定与第一特征点匹配的第二特征点，并引入与稠密逆向光流搜索算法对应的边缘特征，实现对基于稠密逆向光流搜索算法确定的与第一特征点匹配的第二特征点做进一步判断分析，得到最终确定为匹配成功的特征点，提高了最终确定为匹配成功的特征点的置信度，提高了图像特征点匹配的精度。

例如，如图7所示，图像c为第一图像，图像d为第二图像，图像c’为对图像c进行边缘检测得到的图像c的边缘特征的示意图，图像d’为对图像d进行边缘检测得到的图像d的边缘特征的示意图，第一特征点C与第二特征点E是基于稠密逆向光流搜索算法确定的相互匹配的一对特征点，第一特征点D与第二特征点F也为基于稠密逆向光流搜索算法确定为相互匹配的一对特征点。

由于稠密逆向光流搜索算法对边缘特征上的特征点的匹配准确率较高，稠密逆向光流搜索算法对边缘特征上的特征点的匹配准确率较低，而基于图像c’与图像d’，可以看出，第一特征点C不属于第一图像边缘特征上的特征点，第二特征点E也不属于第二图像边缘特征上的特征点，第一特征点D属于第一图像边缘特征上的特征点，第二特征点F也属于第二图像边缘特征上的特征点，因此，可以将大概率存在误匹配可能性的第一特征点C与第二特征点E排除在外，不直接确认其为匹配成功的特征点；而将第一特征点D与第二特征点F直接确认其为匹配成功的特征点，提高了最终确定为匹配成功的特征点的置信度，提高了图像特征点匹配的精度。

需要说明的是，本申请实施例中，并不是稠密逆向光流搜索算法对应的预设对象才可以为图像的边缘特征，其他特征匹配算法，若经实验确定其对纹理丰富的图像区域的特征点进行特征匹配时，准确度较高，而对缺乏纹理的图像区域的特征点进行特征匹配时，则其对应的预设对象也可以为图像的边缘特征。

例如，对于采用Lucas-Kanade光流追踪算法、Gunnar Farneback光流追踪算法等其他光流追踪算法对第一图像和第二图像进行特征匹配时，其对应的预设对象也可以为图像的边缘特征，即，当上述预设匹配算法为光流追踪算法时，上述预设对象的类型可以为图像的边缘特征。

由于稠密逆向光流搜索算法相比于其他光流追踪算法，其对纹理丰富的图像区域的特征点的匹配精度较高，因此，选用稠密逆向光流搜索算法作为上述预设匹配算法，将图像的边缘特征作为上述预设对象，可以达到较高的特征匹配精度。

在本申请的一些实施方式中，当上述预设匹配算法为光流追踪算法时，为了进一步提高图像特征点匹配的精度，可以分别对图像进行正向和反向的光流追踪，引入特征点之间的距离对基于预设匹配算法确定的相互匹配的特征点做更进一步的判断。

具体的，如图8所示，为本申请实施例提供的一种图像特征点匹配方法的第三实现示意流程图。该图像特征点匹配方法可以具体包括以下步骤801至步骤803。

步骤801，基于光流追踪算法，在第二图像上对第一特征点进行光流追踪，得到与第一特征点匹配的第二特征点。即，在第二图像上对第一特征点进行正向光流追踪。

其中，第一特征点位于第一图像，第二特征点位于第二图像。

例如，当第一图像与第二图像为某段视频中t时刻和t+1时刻的连续两帧图像I_t与I_t+1时，可以利用上述稠密逆向光流追踪算法在I_t+1上对I_t上的第一特征点进行光流追踪，得到前向光流图flow_f，对于图像I_t中某一像素x_t，可以依据flow_f中像素x_t所在位置的光流u_t，找到在图像I_t+1中的对应像素x_t+1,且x_t+1＝W(x_t:u_t)，其中，W(x_t:u_t)＝x_t+u_t，表示将像素x_t按向量u_t进行平移。

步骤802，基于光流追踪算法，在第一图像上对第二特征点进行光流追踪，得到与第二特征点匹配的第三特征点。即，利用第二特征点对第一特征点进行反向光流追踪。

基于前述的举例，可以利用上述稠密逆向光流追踪算法在I_t上对I_t+1上的第二特征点进行光流追踪，得到后向光流图flow_b，对于图像I_t+1中某一像素x_t+1，可以依据flow_b中像素x_t+1所在位置的光流u_t+1，找到在图像I_t中的对应像素x_t'，且x_t'＝W(x_t+1:u_t+1)，其中，W(x_t+1:u_t+1)＝x_t+1+u_t+1，表示将像素x_t+1按向量u_t+1进行平移。

步骤803，当第一特征点和第二特征点中的至少一个特征点位于相应图像的边缘特征上时，将第一特征点与第二特征点确定为匹配成功的特征点，其中，预设对象的类型基于预设匹配算法确定。

上述步骤803的实现方式可以参考上述步骤402的描述，此处不再赘述。

其中，上述距离可以为第一特征点与第三特征点之间的欧式距离。基于上述前向光流图flow_f以及上述后向光流图flow_b可以计算得到第一特征点与第三特征点对应的距离误差图。

由于第三特征点利用第二特征点对第一特征点进行反向光流追踪得到的，因此，当第一特征点与第二特征点为准确匹配的特征点时，第一特征点与第三特征点之间的距离应当小于距离阈值。

本实施例通过利用第二特征点对第一特征点进行反向光流追踪，得到第一图像上的第三特征点，然后，计算第一特征点与第三特征点之间的距离，当第一特征点和第二特征点中的至少一个特征点位于相应图像的边缘特征上，并且，第一特征点与第三特征点之间的距离小于距离阈值时，将第一特征点与第二特征点确定为匹配成功的特征点，进一步降低了特征点发生误匹配的概率，提高了确定为匹配成功的特征点的置信度，有效地提高了图像特征点匹配的精度。

需要说明的是，在实际应用中，步骤802与上述步骤803还可以采用以下执行顺序实现：在确定第一特征点和第二特征点中的至少一个特征点位于相应图像的边缘特征上之后，基于光流追踪算法，在第一图像上对第二特征点进行光流追踪，得到与第二特征点匹配的第三特征点，并在第一特征点与第三特征点之间的距离小于距离阈值时，确认第一特征点与第二特征点为匹配成功的特征点。

可选的，为了节省特征匹配的计算量，在本申请的一些实施方式中，在确定与预设匹配算法对应的预设对象之后，还可以只对预设对象上的特征点进行匹配，并直接得到匹配成功的特征点。

例如，当预设匹配算法为光流追踪算法，预设对象为图像的边缘特征时，则可以先检测得到第一图像的边缘特征，然后对该边缘特征进行特征点采样，得到第一特征点，然后利用该光流追踪算法在第二图像上对第一特征点进行光流追踪，得到与第一特征点匹配成功的第二特征点。

在上述各个实施方式中，由于在进行图像特征点匹配的过程中，有可能出现某些区域的特征点存在严重聚集的现象，基于此，为了使得特征点分布得更加均匀，在本申请的一些实施方式中，上述图像特征点匹配方法还可以包括下述步骤B01至步骤B03。

步骤B01，对第一图像进行网格化处理，得到第一图像中的多个图像块。

例如，如图9所示，将第一图像c分割为一个个的矩形网格，每个网格作为一个图像块。

需要说明的是，本申请实施例中，图像块的大小与形状可以根据实际应用场景进行确定，本申请对此不做限制。

步骤B02，确定每个图像块中匹配成功的特征点的数量。

步骤B03，对数量大于数量阈值的图像块进行特征点筛选处理，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

可选的，上述对数量大于数量阈值的图像块进行特征点筛选处理，可以是从每个图像块匹配成功的特征点中分别筛选出一个特征点作为匹配成功的特征点，将其余匹配成功的特征点作为未匹配成功的特征点，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

例如，将图像块中匹配成功的任意一个特征点作为匹配成功的特征点，或者，基于匹配误差从每个图像块匹配成功的特征点中筛选出一个匹配误差最小的特征点作为匹配成功的特征点，将其余匹配成功的特征点作为未匹配成功的特征点，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

例如，基于前述图8所示的实施方式，可以基于上述距离误差图，将每个图像块中与第三特征点之间的距离最小的第一特征点作为匹配成功的特征点，将其余匹配成功的特征点作为未匹配成功的特征点，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

可选的，上述对数量大于数量阈值的图像块进行特征点筛选处理，还可以是对数量大于数量阈值的图像块进行特征点删除处理，将未被删除的匹配成功的特征点作为匹配成功的特征点。例如，将图像块中匹配成功的任意一个特征点作为匹配成功的特征点进行保留，将其余匹配成功的特征点作为未匹配成功的特征点删除，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值，或者，基于匹配误差从每个图像块匹配成功的特征点中筛选出一个匹配误差最小的特征点作为匹配成功的特征点进行保留，将其余匹配成功的特征点作为未匹配成功的特征点删除，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

还需要说明的是，本申请实施例中提到的阈值均可以根据实际应用场景或者实践经验进行确定，本申请对此不做限制。

例如，上述数量阈值可以根据实际应用场景或者实践经验进行确定，例如，上述数量阈值可以为1或2。

本申请实施例中，在对数量大于数量阈值的图像块进行特征点删除处理的过程中，删除的可以是匹配成功的一对特征点，即，不仅对第一图像上的第一特征点进行删除，同时还将第二图像上与第一特征点匹配的第二特征点进行删除。

例如，当第一图像与第二图像为某段视频中连续的两帧图像时，为了避免第一图像与第二图像上的特征点过于密集，如图9所示，可以在确定完第一图像c上匹配成功的特征点之后，对第一图像c进行网格化处理，对特征点数量大于数量阈值的图像块进行特征点删除处理，相应的，在第二图像上将删除的第一特征点对应的第二特征点也一并删除，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值，进而使得图像中的特征点分布得更加均匀，并使得后续采用光流追踪算法进行特征点匹配时，可以减少特征点匹配的数量，有利于减少特征匹配的计算量。

本申请实施例中，通过在第一图像得到确定的匹配成功的特征点之后，对数量大于数量阈值的图像块进行特征点删除处理，相比于在特征点匹配之前，对图像中的特征点进行删除处理，能够使尽可能多的图像块存在匹配成功的特征点，即，不会因为对第一图像中的特征点进行删除处理，导致图像块中不存在匹配成功的特征点。

本申请实施例中，通过引入基于预设匹配算法确定的相应类型的预设对象，对基于预设匹配算法确定的相互匹配的第一特征点和第二特征点做进一步判断，以得到确定为匹配成功的特征点，降低了特征点发生误匹配的概率，提高了确定为匹配成功的特征点的置信度，有效地提高了图像特征点匹配的精度。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域方法人员应该知悉，本申请并不受所描述的动作顺序的限制，在本申请的一些实施方式中，某些步骤可以采用其它顺序进行。

图10示出了本申请实施例提供的一种图像特征点匹配装置1000的结构示意图，包括第一确定单元1001和第二确定单元1002。

第一确定单元1001，用于基于预设匹配算法确定与第一特征点匹配的第二特征点，第一特征点位于第一图像，第二特征点位于第二图像；

第二确定单元1002，用于当第一特征点和第二特征点中的至少一个特征点位于相应图像的预设对象上时，将第一特征点与第二特征点确定为匹配成功的特征点，其中，预设对象的类型基于预设匹配算法确定。

可选的，在本申请的一些实施方式中，第二确定单元1002，还用于：

获取样本图像；

利用预设匹配算法对样本图像中不同类型的样本对象上的特征点进行特征匹配；

确定各个类型的样本对象上的特征点对应的匹配准确率；

将样本图像中目标样本对象的类型作为基于预设匹配算法确定的预设对象的类型，其中，目标样本对象上的特征点的匹配准确率大于匹配阈值。

可选的，在本申请的一些实施方式中，预设匹配算法为光流追踪算法；

第一确定单元1001，还用于：

基于光流追踪算法，在第二图像上对第一特征点进行光流追踪，得到与第一特征点匹配的第二特征点。

可选的，在本申请的一些实施方式中，第一确定单元1001，还用于：

基于光流追踪算法，在第一图像上对第二特征点进行光流追踪，得到与第二特征点匹配的第三特征点；

第二确定单元1002，还用于：

当第一特征点和第二特征点中的至少一个特征点位于相应图像的预设对象上，并且，第一特征点与第三特征点之间的距离小于距离阈值时，将第一特征点与第二特征点确定为匹配成功的特征点。

可选的，在本申请的一些实施方式中，第二确定单元1002，还用于：

对相应图像进行边缘检测，得到相应图像的边缘特征；

将边缘特征作为预设对象。

可选的，在本申请的一些实施方式中，第二确定单元1002，还用于：

利用Canny算子对相应图像进行边缘检测，得到相应图像的边缘特征。

可选的，在本申请的一些实施方式中，特征点匹配装置还包括均匀化单元，用于：

对第一图像进行网格化处理，得到第一图像中的多个图像块；

确定每个图像块中匹配成功的特征点的数量；

对数量大于数量阈值的图像块进行特征点删除处理，使得每个图像块中匹配成功的特征点的数量小于或等于数量阈值。

需要说明的是，为描述的方便和简洁，上述描述的图像特征点匹配装置1000的具体工作过程，可以参考上述图1至图9中方法的对应过程，在此不再赘述。

示例性的，本申请实施例还提供一种芯片，包括处理器，处理器用于读取并执行存储器中存储的计算机程序，以实现上述图像特征点匹配方法的步骤。

示例性的，本申请实施例还提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现上述图像特征点匹配方法的步骤。

示例性的，本申请实施例还提供了一种计算机产品，该计算机产品存储有计算机指令，当计算机指令被执行时，实现上述图像特征点匹配方法的步骤。

所属领域的方法人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通方法人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于方法方案的特定应用和设计约束条件。专业方法人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

在本申请所提供的实施例中，应该理解到，所揭露的装置/用户终端和方法，可以通过其它的方式实现。例如，以上所描述的装置/用户终端实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。

以上实施例仅用以说明本申请的方法方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通方法人员应当理解：其依然可以对前述各实施例所记载的方法方案进行修改，或者对其中部分方法特征进行等同替换；而这些修改或者替换，并不使相应方法方案的本质脱离本申请各实施例方法方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种图像特征点匹配方法，其特征在于，包括：

基于预设匹配算法确定与第一特征点匹配的第二特征点，所述第一特征点位于第一图像，所述第二特征点位于第二图像；

当所述第一特征点和所述第二特征点中的至少一个特征点位于相应图像的预设对象上时，将所述第一特征点与所述第二特征点确定为匹配成功的特征点，其中，所述预设对象的类型基于所述预设匹配算法确定。

2.如权利要求1所述的图像特征点匹配方法，其特征在于，所述预设对象的类型基于所述预设匹配算法确定包括：

获取样本图像；

利用所述预设匹配算法对所述样本图像中不同类型的样本对象上的特征点进行特征匹配；

确定各个类型的样本对象上的特征点对应的匹配准确率；

将所述样本图像中目标样本对象的类型作为基于所述预设匹配算法确定的所述预设对象的类型，其中，所述目标样本对象上的特征点的匹配准确率大于匹配阈值。

3.如权利要求1所述的图像特征点匹配方法，其特征在于，所述预设匹配算法为光流追踪算法；

所述基于预设匹配算法确定与第一特征点匹配的第二特征点，包括：

基于所述光流追踪算法，在所述第二图像上对所述第一特征点进行光流追踪，得到与所述第一特征点匹配的所述第二特征点。

4.如权利要求3所述的图像特征点匹配方法，其特征在于，所述图像特征点匹配方法还包括：

基于所述光流追踪算法，在所述第一图像上对所述第二特征点进行光流追踪，得到与所述第二特征点匹配的第三特征点；

所述当所述第一特征点和所述第二特征点中的至少一个特征点位于相应图像的预设对象上时，将所述第一特征点与所述第二特征点确定为匹配成功的特征点，具体为：

当所述第一特征点和所述第二特征点中的至少一个特征点位于相应图像的预设对象上，并且，所述第一特征点与所述第三特征点之间的距离小于距离阈值时，将所述第一特征点与所述第二特征点确定为匹配成功的特征点。

5.如权利要求3或4所述的图像特征点匹配方法，其特征在于，所述预设对象的类型为图像边缘，所述预设对象采用以下方式确定：

对相应图像进行边缘检测，得到相应图像的边缘特征；

将所述边缘特征作为所述预设对象。

6.如权利要求1-4任意一项所述的图像特征点匹配方法，其特征在于，所述图像特征点匹配方法还包括：

对所述第一图像进行网格化处理，得到所述第一图像中的多个图像块；

确定每个图像块中匹配成功的特征点的数量；

对数量大于数量阈值的图像块进行特征点筛选处理，使得每个图像块中匹配成功的特征点的数量小于或等于所述数量阈值。

7.一种图像特征点匹配装置，其特征在于，包括：

第一确定单元，用于基于预设匹配算法确定与第一特征点匹配的第二特征点，所述第一特征点位于第一图像，所述第二特征点位于第二图像；

第二确定单元，用于当所述第一特征点和所述第二特征点中的至少一个特征点位于相应图像的预设对象上时，将所述第一特征点与所述第二特征点确定为匹配成功的特征点，其中，所述预设对象的类型基于所述预设匹配算法确定。

8.一种芯片，包括处理器，所述处理器用于读取并执行存储器中存储的计算机程序，以实现如权利要求1-6任意一项所述方法的步骤。

9.一种终端，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-6中任意一项所述方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-6中任意一项所述方法的步骤。

Images