CN110458870B - 一种图像配准、融合、遮挡检测方法、装置和电子设备 - Google Patents
一种图像配准、融合、遮挡检测方法、装置和电子设备 Download PDFInfo
- Publication number
- CN110458870B CN110458870B CN201910603555.8A CN201910603555A CN110458870B CN 110458870 B CN110458870 B CN 110458870B CN 201910603555 A CN201910603555 A CN 201910603555A CN 110458870 B CN110458870 B CN 110458870B
- Authority
- CN
- China
- Prior art keywords
- image
- registration
- grid
- displacement
- registration point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Abstract
本发明提供了一种图像配准、融合、遮挡检测方法、装置和电子设备,所述图像配准检测方法包括:获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。这样,通过对已配准的图像进行配准点的检测,可以判断出其中的错误配准点,从而可以在原有图像配准的基础上,进一步提高配准的准确度。
Description
技术领域
本发明涉及图像处理技术领域,具体而言,涉及一种图像配准、融合、遮挡检测方法、装置和电子设备。
背景技术
图像配准就是将不同时间、不同传感器(成像设备)或不同条件下(天候、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程,其为人脸识别、身份验证、智慧城市等场景中必不可少的一环。
如何有效地进行图像配准,提高图像配准的准确性,是目前最重要的研究方向之一。在现有图像配准的基础上,对已配准的图像进行检测,判断其中的错误配准点,可以在原有图像配准的基础上,进一步提高配准的准确度。
但是目前并没有行之有效的对图像配准的检测方法。
发明内容
本发明解决的问题是如何对已配准的图像进行检测,判断其中的错误配准点。
为解决上述问题,本发明首先提供一种图像配准检测方法,其包括:
获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;
根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
这样,通过对已配准的图像进行配准点的检测,可以判断出其中的错误配准点,从而可以在原有图像配准的基础上,进一步提高配准的准确度。
可选的,所述获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割中,对所述第一图像和第二图像进行的网格分割为重叠网格分割。这样,就可以计算出两个或多个位移差,通过对两个或多个位移差的综合判断,确定所述配准点的配准是正确还是错误。
可选的,对所述第一图像和第二图像进行重叠网格分割中,所述第一图像和所述第二图像中相邻网格的重叠面积至少为单个网格面积的1/2。可以保证除极小部分边缘位置的配准点外,其余配准点至少分配到两个网格中。
可选的,所述获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割中,所述第一图像和所述第二图像的配准为稠密配准。通过稠密配准,可以对第一图像和第二图像进行更准确的配准,从而提高配准的准确度。
可选的,所述所属网格的所述位移差满足预设条件的所述配准点计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差,包括:
根据所述第一图像和所述第二图像的所述配准数据,确定配准时的参考图像;
获取待配准图像内的网格的单应性矩阵以及网格包含的配准点的配准点坐标以及配准点位移;所述待配准图像为所述第一图像和所述第二图像中除参考图像之外的另一图像;
根据所述待配准图像内的网格的所述单应性矩阵以及网格包含的配准点的配准点坐标计算所述配准点所属的网格的所述单应性矩阵位移;
计算所述配准点的配准点位移与所述配准点所属的网格的所述单应性矩阵位移之间的差值作为所述位移差。
可选的,所述根据所述位移差确定错误配准点,包括:
获取同一配准点的与该配准点所属的不同网格的所述位移差;其中,同一配准点具有至少两个所属的网格;
判断该配准点与该配准点所属的不同网格的所述位移差是否均大于预设阈值;
若均大于所述预设阈值,则该配准点为错误配准点。
这样,可以进一步提供判断的准确性,减少将正确的配准点判定为错误配准点的概率。
可选的,所述计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵,包括:
分别获取所述第一图像内网格与所述第二图像内对应网格的所述配准数据;
对所述配准数据进行筛选;
根据筛选后的所述配准数据计算所述第一图像内网格与所述第二图像内对应网格的所述单应性矩阵。
这样,筛选后的所述配准数据中相对应的第一配准点和第二配准点为准确配准的可能性较高,从而使得计算出的单应性矩阵的准确性也较高。
可选的,所述对所述配准数据进行筛选,包括:
根据所述配准数据中的所述配准点坐标和所述配准点位移,确定所述配准点坐标与所述第一图像内的网格和所述第二图像内的对应网格的所属关系;所述所属关系为所述配准点是否位于所述第一图像内的网格内或者所述第二图像内的网格内;
根据所述所属关系对所述配准点进行筛选,保留的配准数据中配准的两个配准点分别位于所述第一图像内的网格内和所述第二图像内的对应网格内。
这样,可以通过对所述配准点的筛选,进一步提高计算出的单应性矩阵的准确性。
其次提供一种遮挡区域检测方法,其包括:
根据所述的图像配准检测方法确定错误配准点;
根据所述错误配准点组成的区域确定遮挡区域。
这样,可以检测出遮挡区域,在此基础上,可以将除遮挡区域外的其余待配准图像对参考图像进行配准(或者除遮挡区域外的两个或多个图像进行融合),从而可以得到更多的融合区域,同时减少伪影或色差的产生。可选的,所述根据所述位移差确定遮挡区域,包括:
获取同一配准点的与该配准点所属的不同网格的所述位移差;其中,同一配准点具有至少两个所属的网格;
判断该配准点与该配准点所属的不同网格的所述位移差是否均大于预设阈值;
若均大于所述预设阈值,则该配准点为错误配准点;
遍历待配准图像的所有配准点,确定所述错误配准点和所述错误配准点组成的遮挡区域。
通过对待配准图像上的所有配准点的遍历,从而可以逐个判断所述配准点是否为错误配准点,进而根据所述错误配准点确定遮挡区域。
其次再提供一种多摄图像融合方法,其包括:
获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
根据所述的遮挡区域检测方法确定遮挡区域;遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
这样,融合后可以获得伪影更少、色差更小的融合图像,且不失真。
可选的,所述拍摄图像的数量为两个。
再次提供一种图像配准检测装置,其包括:
网格分割单元,用于获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
矩阵计算单元,用于计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
位移计算单元,用于根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
配准确定单元,用于根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
这样,通过对已配准的图像进行配准点的检测,可以判断出其中的错误配准点,从而可以在原有图像配准的基础上,进一步提高配准的准确度。
从次提供一种遮挡区域检测装置,其包括:
所述的图像配准检测装置,用于确定错误配准点;
区域确定单元,用于根据所述错误配准点组成的区域确定遮挡区域。
这样,就可以检测出遮挡区域。
从次再提供一种多摄图像融合装置,其包括:
多摄图像配准单元,用于获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
所述的遮挡区域检测装置,用于确定遮挡区域;遍历单元,用于遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
图像融合单元,用于对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
这样,融合后可以获得伪影更少、色差更小的融合图像,且不失真。
最后提供一种电子设备,包括处理器以及存储器,所述存储器存储有控制程序,所述控制程序被处理器执行时实现上述所述的图像配准检测方法,或者,实现上述所述的遮挡区域检测方法,或者,实现上述所述的多摄图像融合方法。
可选的,所述电子设备为手机或平板设备。
另外,提供一种计算机可读存储介质,存储有指令,所述指令被处理器加载并执行时实现上述所述的图像配准检测方法,或者,实现上述所述的遮挡区域检测方法,或者,实现上述所述的多摄图像融合方法。
附图说明
图1A为根据本发明实施例的原理图中左侧拍摄视图;
图1B为根据本发明实施例的原理图中右侧拍摄视图;
图2为根据本发明实施例的图像配准检测方法的流程图;
图3为根据本发明实施例的图像配准检测方法步骤300的流程图;
图4为根据本发明实施例的待配准图像的示例图;
图5为根据本发明实施例的参考图像的示例图;
图6为根据本发明实施例的待配准图像划分重叠网格的示例图;
图7为根据本发明实施例的图像配准检测方法步骤400的流程图;
图8为根据本发明实施例的图像配准检测方法步骤200的流程图;
图9为根据本发明实施例的图像配准检测方法步骤220的流程图;
图10为根据本发明实施例的遮挡区域检测方法的流程图;
图11为根据本发明实施例的参考图像稠密配准后的示例图;
图12为根据本发明实施例的参考图像遮挡区域的示例图;
图13为根据本发明实施例的多摄图像融合方法的流程图;
图14为根据本发明实施例的图像配准检测装置的结构框图;
图15为根据本发明实施例的遮挡区域检测装置的结构框图;
图16为根据本发明实施例的多摄图像融合装置的结构框图;
图17为根据本发明实施例的一种电子设备的结构框图;
图18为根据本发明实施例的另一种电子设备的框图。
附图标记说明:
2-网格分割单元,3-矩阵计算单元,4-位移计算单元,5-配准确定单元,6-区域确定单元,7-多摄图像配准单元,8-遍历单元,9-图像融合单元,800-电子设备,802-处理组件,804-存储器,806-电力组件,808-多媒体组件,810-音频组件,812-输入/输出(I/O)的接口,814-传感器组件,816-通信组件。
具体实施方式
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
显然,所说明的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动的前提下获得的所有其他实施例,都属于本发明保护的范围。
为了便于理解,在本发明中,需要对其中的技术问题进行详细阐述。
现有的图像处理中,经常要对双摄或多摄拍摄图像进行融合,以达到更好的拍摄效果。由于双摄或多摄拍摄图像的视觉不一致,造成双摄或多摄拍摄图像存在视差现象,这种视差现象使得双摄或多摄拍摄图像存在遮挡区域,在配准时遮挡区域中的点由于在其他图像中不存在可以配准的点而使得配准错误,进而会导致融合出来的图像就存在伪影或色偏等现象。
为了便于理解,我们在此对解决技术方案中的技术原理进行阐述:
如图1A,图1B所示,其为通过双摄方式获取(也可以通过一个摄像机或摄像头在不同方位拍摄获取)的两个图像,由于拍摄相机存在位置差,从而在图像上产生视差。假设两个摄像头是水平布置的,且图1A、图1B中圆柱体在长方体之前的位置。那么左摄像头获得左侧拍摄视图和右摄像头获得右侧拍摄视图分别如图1A、图1B所示。
在图1A、图1B中,左侧拍摄视图可以看到圆柱体后面长方体更多的左侧区域,而长方体右侧的部分区域会被前方的圆柱体遮挡;同理,右侧拍摄视图中,长方体左侧部分区域被圆柱体遮挡,而可以看到更多的右侧区域。
为了进行双摄图像融合,可以选定其中一个拍摄视图作为基准视图。下面将以左视图为基准视图进行融合,首先需要将右视图上的所有点向左视图进行配准,从而得到两幅图像的配准点。由于视差的存在,导致距离摄像头较远的物体在左右侧拍摄视图上的视差较小,而距离摄像头较近的物体在左右侧拍摄视图上的视差较大。因此,配准点在视差区域就会出现断层,根据这一原理,我们可以利用不同视差的断层来检测两幅图像上的遮挡区域。
如图1A、图1B所示,假设配准点a0与a1已经配准,b0与b1已经配准;但对于右侧拍摄视图中遮挡区域的点c1来说,在左图中找不到真实的配准点,这种点只能根据配准规则找到错误的配准位置,该配准点即为错误配准点和遮挡点。
本公开实施例提供了一种图像配准检测方法,该方法可以由图像配准检测装置来执行,该收图像配准检测装置可以集成在手机等电子设备中。如图2所示,其为根据本发明实施例的图像配准检测方法的流程图;其中,所述图像配准检测方法,包括:
步骤100,获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
其中,所述第一图像和所述第二图像可以为物体的图像,也可以为人的图像。本步骤中,获取第一图像和第二图像的配准数据,可以是对已配准的第一图像和第二图像,从其配准过程或者配准结果中获取配准数据,可以直接对第一图像和第二图像进行配准,从而得到其配准数据。
第一图像和第二图像,可以为通过相对配准的方式进行配准的,也即是所述第一图像和第二图像分别为待配准图像和参考图像;对于此种情况,可以直接读取配准过程中待配准图像的配准点坐标和待配准图像配准到参考图像的配准点位移,其中,配准点坐标和配准点位移是对应的,且其中,待配准图像的配准点坐标、参考图像上对应的配准点坐标,该两个配准点坐标的配准点位移(待配准图像配准到参考图像的配准点位移和参考图像配准到待配准图像的配准点位移为方向相反的向量)是对应关系,在已知其中两个数据的基础上,可以通过其对应关系计算出第三个数据,因此,直接读取配准过程中待配准图像的配准点坐标和待配准图像配准点到参考图像的配准点位移;或者直接读取配准过程中参考图像的配准点坐标和待配准图像配准到参考图像的配准点位移(或者参考图像配准到待配准图像的配准点位移),并通过对应关系计算出待配准图像的配准点坐标;或者直接读取配准过程中参考图像的配准点坐标和待配准图像的配准点坐标,并通过对应关系计算出待配准图像配准到参考图像的配准点位移都是可行的对等方案。
第一图像和第二图像,也可以为通过绝对配准的方式进行配准的,也即是所述第一图像和第二图像均为待配准图像。对于此种情况,可以直接读取配准过程中的两个待配准图像的配准点坐标和待配准图像配准到控制网格(该控制网格为定义出来的)的配准点位移,再根据该配准点坐标和配准点位移计算出来第一图像配准到第二图像或者第二图像配准到第一图像的配准点坐标和配准点位移。
对上述内容举例说明,如图4所示,其为待配准图像的示例图;如图5所示,其为参考图像的示例图,其中,图4为所述摄像机位于所述玩具娃娃偏左侧拍摄的图像,所述图5为所述摄像机位于所述玩具娃娃偏右侧拍摄的图像。
图4和图5中的图像大部分区域的内容都可以一一对应上,仅有部分区域由于拍摄角度的不同,造成了遮挡,如图4中玩具娃娃左耳位置处的部分区域,在图5中不具有对应位置,也即是遮挡。
示例中如图6所示,其左上方为重叠网格划分的示意图,由该图可以看出,重叠网格为相邻网格之间具有重叠部分。
其中,所述第一图像和所述第二图像,可以是由采集装置15中的摄像机通过不同角度拍摄的相同或者相似的场景图片,也可以是统一电子设备中的不同位置的摄像机在同一时间拍摄的相同或者相似的场景图片;也可以是由数据输入接口输入的图片信息。
所述第一图像和所述第二图像,可以是拍摄的两个图片,也可以是拍摄的多个图片中的任意两个。
对第一图像和第二图像进行网格分割,网格的大小可以根据实际情况确定。在分割时,可以先根据第一图像和第二图像中的配准点或者顶点或者其他方式对网格进行定位,从而建立起第一图像中的网格和第二图像中的网格的对应关系;也可以通过其他方式使得具有对应关系的网格中的配准点的对应性强,便于对配准点的准确度进行检测。
为了便于对本发明具体实施方式进行说明,我们在下述内容中以第一图像为待配准图像,第二图像为参考图像为例进行说明,基于此说明,本领域技术人员可以通过简单变换理解第二图像为待配准图像,第一图像为参考图像或者多个图像的图像配准检索过程。
步骤200,计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;
本步骤中,具有对应关系的第一图像中的一个网格与第二图像中的一个网格之间的均具有单应性矩阵,由于对应的配准点坐标的噪声问题,使得单应性矩阵存在误差,可以通过设置多个点来组成单应性矩阵的方程组,通过计算最优解的方式,得到最优单应性矩阵;其中计算最优解时可以采用直线线性解法或者奇异值分解、Levenberg-Marquarat(LM)算法等来进行优化,计算最优解。
步骤300,根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
待配准图像上具有多个配准点,这些配准点与参考图像上的配准点具有一一对应关系(在已配准的情况下),具有一一对应关系的两个配准点之间的位移为配准点的配准点位移。
待配准图像上具有网格,一个网格内具有多个配准点,且该网格在所述参考图像上具有对应的网格,相对应的该两个网格之间具有单应性矩阵;待配准图像上的配准点通过单应性矩阵的变换,在参考图像上具有对应的第三配准点(第三配准点是由待配准图像上的配准点的坐标和单应性矩阵决定的,理想情况下,该第三配准点和参考图像上的相对应配准点是重合的),第二配准点与第三配准点之间的位移为单应性矩阵位移。
配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值,为本步骤需要计算的所述每个配准点的所述位移差。
步骤400,根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
若配准点的配准正确,则每个配准点与所属网格的所述位移差较小/不满足预设条件(排出误差和噪声干扰的情况下,该位移差为零);若配准点的配准错误,则每个配准点与所属网格的所述位移差会较大/满足预设条件。
这样,步骤100-步骤400,通过对已配准的图像进行配准点的检测,可以判断出其中的错误配准点,从而可以在原有图像配准的基础上,进一步提高配准的准确度。
可选的,所述步骤100对所述第一图像和第二图像进行的网格分割为重叠网格分割。对于重叠网格中的配准点可以将同一个配准点分配到两个或多个网格中,从而可以对同一配准点在多个网格中的位移差进行分别计算,这样,就可以计算出两个或多个位移差,通过对两个或多个位移差的综合判断,确定所述配准点的配准是正确还是错误;这种判断方式,可以减小甚至消除由噪声或者误差导致的对配准点配准是否正确的判断不准确的问题,进一步提高对配准点的配准判断的准确性。
可选的,对所述第一图像和第二图像进行重叠网格分割中,所述第一图像和所述第二图像中相邻网格的重叠面积至少为单个网格面积的1/2。这样,可以保证除极小部分边缘位置的配准点外,其余配准点至少分配到两个网格中,从而可以使得除极小部分边缘位置的配准点外,其余配准点都可以通过多个网格的位移差综合判断,来提高对配准点的配准判断的准确性。
可选的,所述步骤100,获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割中,所述第一图像和所述第二图像的配准为稠密配准。
稠密配准是一种针对图像进行逐点匹配的图像配准方法,其计算图像上所有的点的偏移量,从而形成一个稠密的光流场。通过这个稠密的光流场,可以进行像素级别的图像配准,所以其配准后的效果也更好,更准确。
这样,通过稠密配准,可以对第一图像和第二图像进行更准确的配准,从而提高配准的准确度。
如图6所示,其为根据本发明实施例的待配准图像划分重叠网格的示例图;其中,所述步骤300,根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差,包括:
步骤310,根据所述第一图像和所述第二图像的所述配准数据,确定配准时的参考图像;
根据上述示例,所述第二图像为参考图像。
步骤320,获取待配准图像内的网格的单应性矩阵以及网格包含的配准点的配准点坐标以及配准点位移;所述待配准图像为所述第一图像和所述第二图像中除参考图像之外的另一图像;
根据上述示例,所述第一图像为待配准图像。
步骤330,根据所述待配准图像内的网格的所述单应性矩阵以及网格包含的配准点的配准点坐标计算所述配准点所属的网格的所述单应性矩阵位移;
步骤340,计算所述配准点的配准点位移与所述配准点所属的网格的所述单应性矩阵位移之间的差值作为所述位移差
为了便于对参考图像、待配准图像上的配准点以及单应性矩阵对应的配准点进行描述,我们将待配准图像上的配准点称为第一配准点,将与第一配准点配准的参考图像上的配准点称为第二配准点,将由所述第一配准点和单应性矩阵计算出的对应的配准点称为第三配准点。
这样,步骤330和步骤340中,配准点的配准点位移,即为第一配准点和第二配准点的位移;配准点与所属网格的单应性矩阵位移,即为第一配准点和第三配准点的位移;配准点的配准点位移与所属网格的单应性矩阵位移的差值,即为上述两个位移之间的位移差。
配准点与所属网格的所述位移差的具体计算过程可以为:
直接获取第一配准点的配准位移,或者先获取第一配准点的坐标,再获取第二配准点的坐标,计算出第一配准点的配准位移;通过第一配准点的坐标和所述单应性矩阵计算出第三配准点的坐标,进而计算出第一配准点的单应性矩阵位移;通过第一配准点的配准位移和单应性矩阵位移,计算出所述位移差。
另外,也可以在步骤330和340的基础上,提出一种改进后的配准点与所属网格的所述位移差的具体计算过程,为:
直接获取第二配准点的坐标,或者先获取第一配准点的坐标和第一配准点的配准位移,再计算出第二配准点的坐标;通过第一配准点的坐标和所述单应性矩阵计算出第三配准点的坐标;通过第二配准点的坐标和第三配准点的坐标计算出所述位移差,所述位移差为第二配准点的坐标和第三配准点的坐标之间的位移。
也可以通过第一配准点、第二配准点、第三配准点之间的对应关系,对上述两个具体计算过程进行有限的变换,从而得到新的具体计算过程,但变换后的该过程仍然属于本发明的保护范围。
如图7所示,其为根据本发明实施例的图像配准检测方法步骤400的流程图;其中,所述步骤400,根据所述位移差确定错误配准点,包括:
步骤410,获取同一配准点的与该配准点所属的不同网格的所述位移差;其中,同一配准点具有至少两个所属的网格;
配准点被图像上的网格所包含(配准点位于图像上的网格内),该网格即为所述配准点的所属网格。
对第一图像和第二图像进行重叠网格分割,则分割后同一图像上相邻的两个网格之间具有重叠的部分,位于重叠部分内的配准点即具有两个相邻的所述网格。
类似的,配准点还可以具有三个所述网格或多个所述网格。
这样,配准点所属的网格不止一个,对应的位移差也就不止一个,本步骤中,就是获取配准点所属的多个网格的多个位移差。
步骤420,判断该配准点与该配准点所属的不同网格的所述位移差是否均大于预设阈值;
该预设阈值是配准点与所属网格所述位移差为较小和较大(满足或不满足预设条件)的分界线,将较小(不满足预设条件)的位移差和较大(满足预设条件)的位移差区分开来,从而判断配准是否正确。
该预设阈值的确定,可以通过实际情况确定,如可以统计已经计算出的配准点与多个所属网格的所述位移差,从而找出位移差为较小和较大的分界线,选取中间部分的分界线为所述预设阈值。也可以通过其他方式获取该预设阈值。
步骤430,若均大于所述预设阈值,则该配准点为错误配准点。
在计算两个网格的单应性矩阵的过程中,可能会由于选择的配准点不同,导致计算出的单应性矩阵不同,若选择的配准点为错误的配准点,则会导致计算出的单应性矩阵与实际单应性矩阵差别很大,这样计算出的所述位移差会明显偏大(对于正确配准的配准点来说),因此,并不能通过配准点的位移差大于预设阈值,就直接判定该配准点为错误配准点。
但是上述配准点(正确配准的配准点)虽然可能会出现单个所属网格的位移差偏大的情况,但是该配准点其余所属网格的位移差也偏大的可能性极小,因此,将所属网格的位移差均大于所述预设阈值的配准点判定为错误配准点。
这样,可以进一步提供判断的准确性,减少将正确的配准点判定为错误配准点的概率。
如图8所示,其为根据本发明实施例的图像配准检测方法步骤200的流程图;其中,所述步骤200,计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵,包括:
步骤210,分别获取所述第一图像内网格与所述第二图像内对应网格的所述配准数据;
本步骤中的所述配准数据,至少包括:所述配准点坐标和所述配准点位移。
步骤220,对所述配准数据进行筛选;
由于配准错误的配准点的存在,使得第一图像的网格内的第一配准点与第二图像的对应网格内的第二配准点并非是一一对应的,也即是说存在第一图像的网格内的第一配准点所对应的第二配准点并不在第二图像的对应网格内,或者存在第二图像的网格内的第二配准点所对应的第一配准点并不在第一图像的对应网格内。
为了便于阐述,我们将第一图像的网格称为第一网格,第二图像内与第一网格所对应的网格,称为第二网格,第一图像内的配准点为第一配准点,第二图像内与所述第一配准点对应的配准点为第二配准点;对所述配准数据进行筛选,即如果第一网格内的第一配准点所对应的第二配准点不在所述第二网格内的话,则将该第一配准点筛选掉,保留在第二网格内具有对应的第二配准点的第一配准点;然后在此基础上,如果第二网格内的第二配准点所对应的第一配准点不在所述第一网格内的话,则将该第二配准点筛选掉,保留在第一网格内具有对应的第一配准点的第二配准点;这样,经过两次筛选,保留的第一网格内的第一配准点和第二网格内的第二配准点是相互对应的(只有第一配准点,没有第二配准点,和只有第二配准点,没有第一配准点的都已经筛选掉)。
步骤230,根据筛选后的所述配准数据计算所述第一图像内网格与所述第二图像内对应网格的所述单应性矩阵。
这样,筛选后的所述配准数据中相对应的第一配准点和第二配准点为准确配准的可能性较高,从而使得计算出的单应性矩阵的准确性也较高。
如图9所示,其为根据本发明实施例的图像配准检测方法步骤220的流程图;其中,所述步骤220,对所述配准数据进行筛选,包括:
步骤221,根据所述配准数据中的所述配准点坐标和所述配准点位移,确定已所述配准点坐标与所述第一图像内的网格以及与所述第二图像内的对应网格的所属关系;所述所属关系为所述配准点是否位于所述第一图像内的网格内或者位于所述第二图像内的网格内;
步骤222,根据所述所属关系对所述配准点进行筛选,保留的配准数据中配准的两个配准点分别位于所述第一图像内的网格内和所述第二图像内的对应网格内。
这样,可以通过对所述配准点的筛选,进一步提高计算出的单应性矩阵的准确性。
本公开实施例提供了一种遮挡区域检测方法,该方法可以由遮挡区域检测装置来执行,该遮挡区域检测装置可以集成在手机等电子设备中。如图10所示,其为根据本发明实施例的遮挡区域检测方法的流程图;其中,所述遮挡区域检测方法包括:
根据所述的图像配准检测方法确定错误配准点;本遮挡区域检测方法中,根据所述的图像配准检测方法确定错误配准点的具体内容可参考对图像配准检测方法中的具体描述,在此不再赘述。
步骤500,根据所述错误配准点组成的区域确定遮挡区域。
其中,所述错误配准点的集合(也可以把错误配准点称为遮挡点),即为所述遮挡区域。这样,就可以检测出遮挡区域,在此基础上,可以将除遮挡区域外的其余待配准图像对参考图像进行配准(或者除遮挡区域外的两个或多个图像进行融合),从而可以得到更多的融合区域,同时减少伪影或色差的产生。
针对上述图像融合后的伪影和色差,如示例中的图11所示,其为参考图像经待配准图像配准后的示例图,由于待配准图像在玩具娃娃的左耳处具有遮挡区域(该遮挡区域见示例中的图12),使得配准后(图像融合后)的参考图像中玩具娃娃的左耳处出现伪影,色差以及失真。其中,图12中方框圈住的部分即为检测出的遮挡区域(仅为示意图,实际遮挡区域不规则)。
在上述检测出遮挡区域的基础上,对双摄图像的融合,可以先指定参考图像,然后排除待配准图像中的遮挡区域后进行配准融合。对于多摄图像的融合,可以先指定参考图像,然后将多摄图像中的其他图像逐个排除遮挡区域后进行配准融合。这样,融合后可以获得伪影更少、色差更小的融合图像。
在计算两个网格的单应性矩阵的过程中,可能会由于选择的配准点不同,导致计算出的单应性矩阵不同,若选择的配准点为错误的配准点,则会导致计算出的单应性矩阵与实际单应性矩阵差别很大,这样计算出的所述位移差会明显偏大(对于正确配准的配准点来说),因此,并不能通过配准点的位移差大于预设阈值,就直接判定该配准点为错误配准点。
但是上述配准点(正确配准的配准点)虽然可能会出现单个所属网格的位移差偏大的情况,但是该配准点其余所属网格的位移差也偏大的可能性极小,因此,将所属网格的位移差均大于所述预设阈值的配准点判定为错误配准点。
通过对待配准图像上的所有配准点的遍历,从而可以逐个判断所述配准点是否为错误配准点,进而根据所述错误配准点确定遮挡区域。
本公开实施例提供了一种多摄图像融合方法,该方法可以由多摄图像融合装置来执行,该多摄图像融合装置可以集成在手机等电子设备中。如图13所示,其为根据本发明实施例的多摄图像融合方法的流程图;其中,所述多摄图像融合方法包括:
步骤000,获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
多个拍摄图像的获取方式,可以是从多个摄像头中同时获取,也可以是从数据接口中接收图像数据,也可以是通过摄像头从多个位置进行拍摄获取,还可以为通过其他方式获取。
另外,从多个拍摄图像中选取两个作为第一图像和第二图像,可以是随机抽取两个图像;也可以是指定多个拍摄图像中的一个图像为参考图像,将剩余所有图像作为待配准图像,并从所有待配准图像中抽取一个和所述参考图像作为第一图像和第二图像。
根据所述的遮挡区域检测方法确定遮挡区域;步骤600,遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
步骤700,对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
本多摄图像融合方法中,根据所述的遮挡区域检测方法确定遮挡区域的具体内容可参考对遮挡区域检测方法中的具体描述,在此不再赘述。
这样,就可以通过所述的遮挡区域检测方法检测出遮挡区域,在此基础上,可以将除遮挡区域外的其余待配准图像对参考图像进行配准(或者除遮挡区域外的两个或多个图像进行融合),从而可以得到更多的融合区域,同时减少伪影或色差的产生。
针对上述图像融合后的伪影和色差,如示例中的图11所示,其为参考图像经待配准图像配准后的示例图,由于待配准图像在玩具娃娃的左耳处具有遮挡区域(该遮挡区域见示例中的图12),使得配准后(图像融合后)的参考图像中玩具娃娃的左耳处出现伪影,色差以及失真。其中,图12中方框圈住的部分即为检测出的遮挡区域(仅为示意图,实际遮挡区域不规则)。
在上述检测出遮挡区域的基础上,对多摄图像的融合,可以先指定参考图像,然后排除待配准图像中的遮挡区域后进行配准融合。对于多摄图像的融合,可以先指定参考图像,然后将多摄图像中的其他图像逐个排除遮挡区域后进行配准融合。这样,融合后可以获得伪影更少、色差更小的融合图像,且不失真。
可选的,所述拍摄图像的数量为两个。这样,即为对双摄图像的融合方法,上述检测出遮挡区域的基础上,排除待配准图像中的遮挡区域后进行配准融合,这样,融合后可以获得伪影更少、色差更小的融合图像。
本公开实施例提供了一种图像配准检测装置,用于执行本发明上述内容所述的图像配准检测方法,以下对所述图像配准检测装置进行详细描述。
如图14所示,其为根据本发明实施例的图像配准检测装置的结构框图;其中,所述图像配准检测装置包括:
网格分割单元2,用于获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
矩阵计算单元3,用于计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;
位移计算单元4,用于根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
配准确定单元5,根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
这样,通过对已配准的图像进行配准点的检测,可以判断出其中的错误配准点,从而可以在原有图像配准的基础上,进一步提高配准的准确度。
可选的,所述网格分割单元2中,对所述第一图像和第二图像进行的网格分割为重叠网格分割。
可选的,所述网格分割单元2中,对所述第一图像和第二图像进行重叠网格分割中,所述第一图像和所述第二图像中相邻网格的重叠面积至少为单个网格面积的1/2。
可选的,所述网格分割单元2中,所述第一图像和所述第二图像的配准为稠密配准。
可选的,所述位移计算单元4还用于:根据所述第一图像和所述第二图像的所述配准数据,确定配准时的参考图像;获取待配准图像内的网格的单应性矩阵以及网格包含的配准点的配准点坐标以及配准点位移;所述待配准图像为所述第一图像和所述第二图像中除参考图像之外的另一图像;根据所述待配准图像内的网格的所述单应性矩阵以及网格包含的配准点的配准点坐标计算所述配准点所属的网格的所述单应性矩阵位移;计算所述配准点的配准点位移与所述配准点所属的网格的所述单应性矩阵位移之间的差值作为所述位移差。
可选的,所述配准确定单元5还用于:获取同一配准点与所属不同网格的所述位移差;其中,同一配准点具有至少两个所属网格;判断该配准点与所属网格的位移差是否均大于预设阈值;若均大于所述预设阈值,则该配准点为错误配准点。
可选的,所述矩阵计算单元3还用于:分别获取所述第一图像内网格与所述第二图像内对应网格的所述配准数据;对所述配准数据进行筛选;根据筛选后的所述配准数据计算所述第一图像内网格与所述第二图像内对应网格的所述单应性矩阵。
可选的,所述矩阵计算单元3还用于:根据所述配准数据中的所述配准点坐标和所述配准点位移,确定所述配准点坐标与所述第一图像内的网格以及与所述第二图像内的对应网格的所属关系;所述所属关系为所述配准点是否位于所述第一图像内的网格内或者所述第二图像内的网格内;根据所述所属关系对所述配准点进行筛选,保留的配准数据中配准的两个配准点分别位于所述第一图像内的网格内和所述第二图像内的对应网格内。
本公开实施例提供了一种遮挡区域检测装置,用于执行本发明上述内容所述的遮挡区域检测方法,以下对所述遮挡区域检测装置进行详细描述。
如图15所示,其为根据本发明实施例的遮挡区域检测装置的结构框图;其中,所述遮挡区域检测装置包括:
所述的图像配准检测装置,用于确定错误配准点;
区域确定单元9,用于根据所述错误配准点组成的区域确定遮挡区域。
这样,就可以检测出遮挡区域,在此基础上,可以将除遮挡区域外的其余待配准图像对参考图像进行配准(或者除遮挡区域外的两个或多个图像进行融合),从而可以得到更多的融合区域,同时减少伪影或色差的产生。
本遮挡区域检测装置中,所述的图像配准检测装置,用于确定错误配准点的具体内容可参考对图像配准检测装置的具体描述,在此不再赘述。
本公开实施例提供了一种多摄图像融合装置,用于执行本发明上述内容所述的多摄图像融合方法,以下对所述多摄图像融合装置进行详细描述。
如图16所示,其为根据本发明实施例的多摄图像融合装置的结构框图;其中,所述多摄图像融合装置包括:
多摄图像配准单元7,用于获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
所述的遮挡区域检测装置,用于确定遮挡区域;遍历单元8,用于遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
图像融合单元9,用于对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
在上述检测出遮挡区域的基础上,对多摄图像的融合,可以先指定参考图像,然后排除待配准图像中的遮挡区域后进行配准融合。对于多摄图像的融合,可以先指定参考图像,然后将多摄图像中的其他图像逐个排除遮挡区域后进行配准融合。这样,融合后可以获得伪影更少、色差更小的融合图像,且不失真。
需要说明的是,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
以上描述了图像配准检测装置、遮挡区域检测装置、多摄图像融合装置的内部功能和结构,如图17所示,实际中,该图像配准检测装置、遮挡区域检测装置、多摄图像融合装置可实现为电子设备,包括:处理器以及存储器,所述存储器存储有控制程序,所述控制程序被处理器执行时实现上述所述的图像配准检测方法,或者,实现上述所述的遮挡区域检测方法,或者,实现上述所述的多摄图像融合方法。
图18是根据本发明实施例示出的另一种电子设备的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图18,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电力组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用软件或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件806为电子设备800的各种组件提供电力。电力组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
本公开实施例提供了一种计算机可读存储介质,存储有指令,所述指令被处理器加载并执行时实现上述所述的图像配准检测方法,或者,实现上述所述的遮挡区域检测方法。
本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或processor(处理器)执行本发明实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
虽然本公开披露如上,但本公开的保护范围并非仅限于此。本领域技术人员在不脱离本公开的精神和范围的前提下,可进行各种变更与修改,这些变更与修改均将落入本发明的保护范围。
Claims (16)
1.一种图像配准检测方法,其特征在于,包括:
获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;
根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
2.根据权利要求1所述的图像配准检测方法,其特征在于,所述获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割中,对所述第一图像和第二图像进行的网格分割为重叠网格分割。
3.根据权利要求2所述的图像配准检测方法,其特征在于,对所述第一图像和第二图像进行重叠网格分割中,所述第一图像和所述第二图像中相邻网格的重叠面积至少为单个网格面积的1/2。
4.根据权利要求1-3中任一所述的图像配准检测方法,其特征在于,所述获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割中,所述第一图像和所述第二图像的配准为稠密配准。
5.根据权利要求1所述的图像配准检测方法,其特征在于,所述根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差,包括:
根据所述第一图像和所述第二图像的所述配准数据,确定配准时的参考图像;
获取待配准图像内的网格的单应性矩阵以及网格包含的配准点的配准点坐标以及配准点位移;所述待配准图像为所述第一图像和所述第二图像中除参考图像之外的另一图像;
根据所述待配准图像内的网格的所述单应性矩阵以及网格包含的配准点的配准点坐标计算所述配准点所属的网格的所述单应性矩阵位移;
计算所述配准点的配准点位移与所述配准点所属的网格的所述单应性矩阵位移之间的差值作为所述位移差。
6.根据权利要求1-3或5中任一所述的图像配准检测方法,其特征在于,所述根据所述位移差确定错误配准点,包括:
获取同一配准点的与该配准点所属的不同网格的所述位移差;其中,同一配准点具有至少两个所属的网格;
判断该配准点与该配准点所属的不同网格的所述位移差是否均大于预设阈值;
若均大于所述预设阈值,则该配准点为错误配准点。
7.根据权利要求1-3或5中任一所述的图像配准检测方法,其特征在于,所述计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵,包括:
分别获取所述第一图像内网格与所述第二图像内对应网格的所述配准数据;
对所述配准数据进行筛选;
根据筛选后的所述配准数据计算所述第一图像内网格与所述第二图像内对应网格的所述单应性矩阵。
8.根据权利要求7所述的图像配准检测方法,其特征在于,所述对所述配准数据进行筛选,包括:
根据所述配准数据中的所述配准点坐标和所述配准点位移,确定所述配准点坐标与所述第一图像内的网格和与所述第二图像内的对应网格的所属关系;所述所属关系为所述配准点是否位于所述第一图像内的网格内或者位于所述第二图像内的网格内;
根据所述所属关系对所述配准点进行筛选,保留的配准数据中配准的两个配准点分别位于所述第一图像内的网格内和所述第二图像内的对应网格内。
9.一种遮挡区域检测方法,其特征在于,包括:
根据权利要求1-8中任一所述的图像配准检测方法确定错误配准点;
根据所述错误配准点组成的区域确定遮挡区域。
10.一种多摄图像融合方法,其特征在于,包括:
获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
根据权利要求9所述的遮挡区域检测方法确定遮挡区域;
遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
11.根据权利要求10所述的多摄图像融合方法,其特征在于,所述拍摄图像的数量为两个。
12.一种图像配准检测装置,其特征在于,包括:
网格分割单元(2),用于获取第一图像和第二图像的配准数据后,对所述第一图像和第二图像进行网格分割,所述配准数据至少包括配准点坐标和配准点位移;
矩阵计算单元(3),用于计算所述第一图像内每个网格与所述第二图像内对应网格的单应性矩阵;
位移计算单元(4),用于根据所述配准数据和所述单应性矩阵计算每个配准点的配准点位移与所述配准点所属的网格的单应性矩阵位移之间的差值作为位移差;
配准确定单元(5),用于根据所述位移差确定错误配准点,其中,将与所属网格的所述位移差满足预设条件的所述配准点判定为错误配准点。
13.一种遮挡区域检测装置,其特征在于,包括:
权利要求12所述的图像配准检测装置,用于确定错误配准点;
区域确定单元(6),用于根据所述错误配准点组成的区域确定遮挡区域。
14.一种多摄图像融合装置,其特征在于,包括:
多摄图像配准单元(7),用于获取多个拍摄图像,并从中选取两个作为第一图像和第二图像进行配准;
权利要求13所述的遮挡区域检测装置,用于确定遮挡区域;遍历单元(8),用于遍历所述多个拍摄图像,确定所述多个拍摄图像中的遮挡区域;
图像融合单元(9),用于对所述多个拍摄图像中排除遮挡区域后的其余部分进行图像融合。
15.一种电子设备,包括处理器以及存储器,其特征在于,所述存储器存储有控制程序,所述控制程序被处理器执行时实现权利要求1-8中任一所述的图像配准检测方法,或者,实现权利要求9所述的遮挡区域检测方法,或者,实现权利要求10-11中任一所述的多摄图像融合方法。
16.一种计算机可读存储介质,存储有指令,其特征在于,所述指令被处理器加载并执行时实现权利要求1-8中任一所述的图像配准检测方法,或者,实现权利要求9所述的遮挡区域检测方法,或者,实现权利要求10-11中任一所述的多摄图像融合方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910603555.8A CN110458870B (zh) | 2019-07-05 | 2019-07-05 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
PCT/CN2020/096365 WO2021004237A1 (zh) | 2019-07-05 | 2020-06-16 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
US17/622,973 US20220245839A1 (en) | 2019-07-05 | 2020-06-16 | Image registration, fusion and shielding detection methods and apparatuses, and electronic device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910603555.8A CN110458870B (zh) | 2019-07-05 | 2019-07-05 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110458870A CN110458870A (zh) | 2019-11-15 |
CN110458870B true CN110458870B (zh) | 2020-06-02 |
Family
ID=68482275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910603555.8A Active CN110458870B (zh) | 2019-07-05 | 2019-07-05 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220245839A1 (zh) |
CN (1) | CN110458870B (zh) |
WO (1) | WO2021004237A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110458870B (zh) * | 2019-07-05 | 2020-06-02 | 北京迈格威科技有限公司 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
CN112637515B (zh) * | 2020-12-22 | 2023-02-03 | 维沃软件技术有限公司 | 拍摄方法、装置和电子设备 |
CN112927276B (zh) * | 2021-03-10 | 2024-03-12 | 杭州海康威视数字技术股份有限公司 | 图像配准方法、装置、电子设备及存储介质 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100588269C (zh) * | 2008-09-25 | 2010-02-03 | 浙江大学 | 基于矩阵分解的摄像机阵列标定方法 |
WO2015085008A1 (en) * | 2013-12-03 | 2015-06-11 | Viewray Incorporated | Single-and multi-modality alignment of medical images in the presence of non-rigid deformations using phase correlation |
KR20150101806A (ko) * | 2014-02-27 | 2015-09-04 | 동의대학교 산학협력단 | 그리드 패턴의 자동인식을 이용한 어라운드뷰 모니터링 시스템 및 방법 |
CN105574838B (zh) * | 2014-10-15 | 2018-09-14 | 上海弘视通信技术有限公司 | 多目相机的图像配准和拼接方法及其装置 |
US9286682B1 (en) * | 2014-11-21 | 2016-03-15 | Adobe Systems Incorporated | Aligning multi-view scans |
CN105389787A (zh) * | 2015-09-30 | 2016-03-09 | 华为技术有限公司 | 一种全景图像拼接方法及装置 |
CN105389815B (zh) * | 2015-10-29 | 2022-03-01 | 武汉联影医疗科技有限公司 | 一种乳腺图像配准方法及装置 |
JP6515039B2 (ja) * | 2016-01-08 | 2019-05-15 | Kddi株式会社 | 連続的な撮影画像に映り込む平面物体の法線ベクトルを算出するプログラム、装置及び方法 |
CN105761254B (zh) * | 2016-02-04 | 2019-01-01 | 浙江工商大学 | 基于图像特征的眼底图像配准方法 |
CN107784623B (zh) * | 2016-08-31 | 2023-04-14 | 通用电气公司 | X射线成像设备的图像处理方法及装置 |
CN106504277B (zh) * | 2016-11-18 | 2019-04-09 | 辽宁工程技术大学 | 一种改进的icp点云自动配准方法 |
CN107369168B (zh) * | 2017-06-07 | 2021-04-02 | 安徽师范大学 | 一种大污染背景下配准点的提纯方法 |
CN107274337B (zh) * | 2017-06-20 | 2020-06-26 | 长沙全度影像科技有限公司 | 一种基于改进光流的图像拼接方法 |
CN107590234B (zh) * | 2017-09-07 | 2020-06-09 | 哈尔滨工业大学 | 一种基于ransac的室内视觉定位数据库冗余信息减少的方法 |
CN107734268A (zh) * | 2017-09-18 | 2018-02-23 | 北京航空航天大学 | 一种结构保持的宽基线视频拼接方法 |
CN107767339B (zh) * | 2017-10-12 | 2021-02-02 | 深圳市未来媒体技术研究院 | 一种双目立体图像拼接方法 |
CN107945113B (zh) * | 2017-11-17 | 2019-08-30 | 北京天睿空间科技股份有限公司 | 局部图像拼接错位的矫正方法 |
CN109934858B (zh) * | 2019-03-13 | 2021-06-22 | 北京旷视科技有限公司 | 图像配准方法及装置 |
CN110458870B (zh) * | 2019-07-05 | 2020-06-02 | 北京迈格威科技有限公司 | 一种图像配准、融合、遮挡检测方法、装置和电子设备 |
-
2019
- 2019-07-05 CN CN201910603555.8A patent/CN110458870B/zh active Active
-
2020
- 2020-06-16 WO PCT/CN2020/096365 patent/WO2021004237A1/zh active Application Filing
- 2020-06-16 US US17/622,973 patent/US20220245839A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CN110458870A (zh) | 2019-11-15 |
US20220245839A1 (en) | 2022-08-04 |
WO2021004237A1 (zh) | 2021-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106651955B (zh) | 图片中目标物的定位方法及装置 | |
CN106778773B (zh) | 图片中目标物的定位方法及装置 | |
CN110458870B (zh) | 一种图像配准、融合、遮挡检测方法、装置和电子设备 | |
CN109584362B (zh) | 三维模型构建方法及装置、电子设备和存储介质 | |
CN103402058A (zh) | 一种拍摄图像的处理方法及装置 | |
CN110930336A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN110930463A (zh) | 一种监控摄像头内参标定方法、装置和电子设备 | |
CN108171222B (zh) | 一种基于多流神经网络的实时视频分类方法及装置 | |
CN110796012A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN112330717B (zh) | 目标跟踪方法及装置、电子设备和存储介质 | |
CN108154090B (zh) | 人脸识别方法及装置 | |
CN107613210B (zh) | 图像显示方法及装置、终端、存储介质 | |
CN107730443B (zh) | 图像处理方法、装置及用户设备 | |
CN115861741B (zh) | 目标标定方法、装置、电子设备、存储介质及车辆 | |
CN111885371A (zh) | 图像遮挡检测方法、装置、电子设备和计算机可读介质 | |
CN106469446B (zh) | 深度图像的分割方法和分割装置 | |
CN114723715B (zh) | 车辆目标检测方法、装置、设备、车辆及介质 | |
CN114422687B (zh) | 预览图像切换方法及装置、电子设备及存储介质 | |
CN112330721B (zh) | 三维坐标的恢复方法及装置、电子设备和存储介质 | |
CN114549578A (zh) | 目标跟踪方法、装置及存储介质 | |
CN115147466A (zh) | 图像配准方法及装置、图像处理方法及装置以及存储介质 | |
CN114693702B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN110276841B (zh) | 应用于增强现实设备的运动轨迹确定方法、装置及终端 | |
CN113327290B (zh) | 双目模组标定方法、装置、存储介质及电子设备 | |
CN114445501A (zh) | 多摄像头标定方法、多摄像头标定装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |