CN115147466A - 图像配准方法及装置、图像处理方法及装置以及存储介质 - Google Patents
图像配准方法及装置、图像处理方法及装置以及存储介质 Download PDFInfo
- Publication number
- CN115147466A CN115147466A CN202110351006.3A CN202110351006A CN115147466A CN 115147466 A CN115147466 A CN 115147466A CN 202110351006 A CN202110351006 A CN 202110351006A CN 115147466 A CN115147466 A CN 115147466A
- Authority
- CN
- China
- Prior art keywords
- image
- region
- registered
- reference image
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 95
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000012545 processing Methods 0.000 claims abstract description 104
- 230000003287 optical effect Effects 0.000 claims abstract description 76
- 239000011159 matrix material Substances 0.000 claims description 73
- 230000007704 transition Effects 0.000 claims description 70
- 230000004927 fusion Effects 0.000 claims description 8
- 230000009467 reduction Effects 0.000 claims description 7
- 230000008569 process Effects 0.000 abstract description 36
- 230000000875 corresponding effect Effects 0.000 description 52
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本公开是关于一种图像配准方法、图像配准装置、图像处理方法、图像处理装置以及存储介质。其中,图像配准方法包括:获取多帧图像,并在多帧图像中确定参考图像和待配准图像;基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,第一区域中的像素点相对于参考图像中相应像素点的偏移量大于第二区域中的像素点相对于参考图像中相应像素点的偏移量;基于图像光流对待配准图像中的第一区域与参考图像进行配准;基于图像部分像素点对待配准图像中的第二区域与参考图像进行配准。通过本公开所述的图像配准方法,可以在待配准图像与参考图像配准的过程中提高配准精度和配准速度。
Description
技术领域
本公开涉及图像配准技术领域,尤其涉及一种图像配准方法、图像配准装置、图像处理方法、图像处理装置以及存储介质。
背景技术
图像配准可以理解为将不同时间、不同传感器(成像设备,如摄像机)或不同条件下(如天气、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程。相关技术可知,在进行图像配准的过程中,往往采用一种配准方式对待配准图像进行全局配准,不能很好的兼顾配准精度和配准速度之间的关系。
发明内容
为克服相关技术中存在的问题,本公开的目的在于提供一种图像配准方法、图像配准装置、图像处理方法、图像处理装置以及存储介质,可以确保在待配准图像与参考图像配准的过程中提高配准精度和配准速度。
根据本公开实施例的第一方面,提供一种图像配准方法。所述图像配准方法包括:获取多帧图像,并在所述多帧图像中确定参考图像和待配准图像;基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,所述第一区域中的像素点相对于所述参考图像中相应像素点的偏移量大于所述第二区域中的像素点相对于所述参考图像中相应像素点的偏移量;基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准;基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准。
在本公开一种实施方式中,所述基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,包括:若所述待配准图像与所述参考图像的相应位置像素点的像素差超过像素差阈值,则将所述待配准图像中所述像素点所处区域确定为所述第一区域;将所述待配准图像中除所述第一区域之外的其他区域确定为所述第二区域。
在本公开另一种实施方式中,所述基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:将所述第一区域划分为多个像素点阵,其中,所述像素点阵包括多个像素点;确定所述像素点阵的点阵中心,并基于稠密光流算法和所述点阵中心,对所述待配准图像中的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:确定所述第一区域中的像素点相对于所述参考图像中相应位置的像素点的像素差;基于金字塔放缩比例,对所述第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准,包括:基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准,包括:确定所述第二区域中特征点,并对所述特征点进行聚类,得到多个聚类区域;基于所述单应性矩阵对所述聚类区域内的像素点与所述参考图像进行配准,其中,不同所述聚类区域对应不同所述单应性矩阵。
在本公开又一种实施方式中,所述第二区域还包括非聚类区域,其中,所述非聚类区域为所述第二区域中除所述聚类区域之外的其他区域,所述图像配准方法还包括:基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准。
在本公开又一种实施方式中,所述基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准,包括:确定所述聚类区域的类中心,并基于所述类中心,分别确定所述非聚类区域中像素点与各个所述聚类区域的距离;基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行处理,得到多个所述非聚类区域中像素点偏移量;对多个所述非聚类区域中像素点偏移量进行加权处理,得到加权处理后的所述非聚类区域中像素点偏移量,其中,所述非聚类区域中像素点偏移量的权重根据所述非聚类区域中像素点与各个所述聚类区域的距离确定;基于加权处理后的所述非聚类区域中像素点偏移量,对所述非聚类区域中像素点与所述参考图像进行配准。
在本公开又一种实施方式中,所述图像配准方法还包括:确定所述待配准图像的过渡区域,其中,所述过渡区域为所述第一区域和所述第二区域的邻接区域;获取所述过渡区域中像素点与所述第一区域的第一距离,以及所述过渡区域中像素点与所述第二区域的第二距离;基于稠密光流算法对所述过渡区域内的像素点与所述参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对所述过渡区域内的像素点与所述参考图像进行处理,得到第二像素点偏移量;对所述第一像素点偏移量和所述第二像素点偏移量进行加权处理,得到加权处理后的所述过渡区域内的像素点偏移量,其中,所述第一像素点偏移量的权重与所述第二像素点偏移量的权重的比值,和所述第一距离与所述第二距离的比值相等;基于加权处理后的所述过渡区域内的像素点偏移量,对所述过渡区域中像素点与所述参考图像进行配准。
根据本公开实施例的第二方面,提供一种图像处理方法。所述图像处理方法包括:获取多帧图像;基于本公开第一方面或第一方面任意一种实施方式所述的图像配准方法对所述多帧图像进行配准,并基于配准后的所述多帧图像进行图像融合降噪,得到融合降噪后图像。
根据本公开实施例的第三方面,提供一种图像配准装置。所述图像配准装置包括:第一获取模块,用于获取多帧图像,并在所述多帧图像中确定参考图像和待配准图像;划分模块,用于基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,所述第一区域中的像素点相对于所述参考图像中相应像素点的偏移量大于所述第二区域中的像素点相对于所述参考图像中相应像素点的偏移量;处理模块,用于基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准;基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准。
在本公开一种实施方式中,所述划分模块采用以下方式基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域:若所述待配准图像与所述参考图像的相应位置像素点的像素差超过像素差阈值,则将所述待配准图像中所述像素点所处区域确定为所述第一区域;将所述待配准图像中除所述第一区域之外的其他区域确定为所述第二区域。
在本公开另一种实施方式中,所述处理模块采用以下方式基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准:基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述处理模块采用以下方式基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准:将所述第一区域划分为多个像素点阵,其中,所述像素点阵包括多个像素点;确定所述像素点阵的点阵中心,并基于稠密光流算法和所述点阵中心,对所述待配准图像中的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述处理模块采用以下方式基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准:确定所述第一区域中的像素点相对于所述参考图像中相应位置的像素点的像素差;基于金字塔放缩比例,对所述第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的所述第一区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述处理模块采用以下方式基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准:基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准。
在本公开又一种实施方式中,所述处理模块采用以下方式基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准:确定所述第二区域中特征点,并对所述特征点进行聚类,得到多个聚类区域;基于所述单应性矩阵对所述聚类区域内的像素点与所述参考图像进行配准,其中,不同所述聚类区域对应不同所述单应性矩阵。
在本公开又一种实施方式中,所述第二区域还包括非聚类区域,其中,所述非聚类区域为所述第二区域中除所述聚类区域之外的其他区域,所述处理模块还用于:基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准。
在本公开又一种实施方式中,所述处理模块采用以下方式基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准:确定所述聚类区域的类中心,并基于所述类中心,分别确定所述非聚类区域中像素点与各个所述聚类区域的距离;基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行处理,得到多个所述非聚类区域中像素点偏移量;对多个所述非聚类区域中像素点偏移量进行加权处理,得到加权处理后的所述非聚类区域中像素点偏移量,其中,所述非聚类区域中像素点偏移量的权重根据所述非聚类区域中像素点与各个所述聚类区域的距离确定;基于加权处理后的所述非聚类区域中像素点偏移量,对所述非聚类区域中像素点与所述参考图像进行配准。
在本公开又一种实施方式中,所述第一获取模块还用于:确定所述待配准图像的过渡区域,其中,所述过渡区域为所述第一区域和所述第二区域的邻接区域;并获取所述过渡区域中像素点与所述第一区域的第一距离,以及所述过渡区域中像素点与所述第二区域的第二距离;所述处理模块还用于:基于稠密光流算法对所述过渡区域内的像素点与所述参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对所述过渡区域内的像素点与所述参考图像进行处理,得到第二像素点偏移量;对所述第一像素点偏移量和所述第二像素点偏移量进行加权处理,得到加权处理后的所述过渡区域内的像素点偏移量,其中,所述第一像素点偏移量的权重与所述第二像素点偏移量的权重的比值,和所述第一距离与所述第二距离的比值相等;基于加权处理后的所述过渡区域内的像素点偏移量,对所述过渡区域中像素点与所述参考图像进行配准。
根据本公开实施例的第四方面,提供一种图像处理装置。所述图像处理装置包括:第二获取模块,用于获取多帧图像;降噪模块,用于基于本公开第一方面或第一方面任意一种实施方式所述的图像配准方法对所述多帧图像进行配准,并基于配准后的所述多帧图像进行图像融合降噪,得到融合降噪后图像。
根据本公开实施例的第五方面,提供一种图像配准装置,包括处理器;用于存储处理器可执行指令的存储器;其中,处理器被配置为用于调用指令执行本公开第一方面或第一方面任意实施方式中所述的图像配准方法。
根据本公开实施例的第六方面,提供一种图像处理装置,包括处理器;用于存储处理器可执行指令的存储器;其中,处理器被配置为用于调用指令执行本公开第二方面或第二方面任意实施方式中所述的图像处理方法。
根据本公开实施例的第七方面,提供一种非临时性计算机可读存储介质,当存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行本公开第一方面或第一方面任意实施方式中所述的图像配准方法。
根据本公开实施例的第八方面,提供一种非临时性计算机可读存储介质,当存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行本公开第二方面或第二方面任意实施方式中所述的图像处理方法。
本公开的实施例提供的技术方案可以包括以下有益效果:基于运动量估计,将待配准图像划分为第一区域和第二区域,并利用图像光流和图像部分像素点分别对待配准图像的第一区域和第二区域与参考图像进行配准,以使待配准图像在与参考图像配准的过程中,可以提高配准精度和配准速度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种图像配准方法的流程图。
图2是根据一示例性实施例示出的一种基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域的流程图。
图3是根据一示例性实施例示出的一种基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的流程图。
图4是根据一示例性实施例示出的另一种基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的流程图。
图5是根据一示例性实施例示出的一种基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准的流程图。
图6是根据一示例性实施例示出的另一种图像配准方法的流程图。
图7是根据一示例性实施例示出的一种基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准的流程图。
图8是根据一示例性实施例示出的又一种图像配准方法的流程图。
图9是根据一示例性实施例示出的又一种图像配准方法的流程图。
图10是根据一示例性实施例示出的一种图像处理方法的流程图。
图11是根据一示例性实施例示出的一种图像配准装置的框图。
图12是根据一示例性实施例示出的一种图像处理装置的框图。
图13是根据一示例性实施例示出的一种用于图像配准或图像处理的装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在附图中,自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。所描述的实施例是本公开一部分实施例,而不是全部的实施例。下面通过参考附图描述的实施例是示例性的,旨在用于解释本公开,而不能理解为对本公开的限制。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。下面结合附图对本公开的实施例进行详细说明。
在本实施例的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本实施例和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本实施例保护范围的限制。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件的相对布置、数字表达式和数值不限制本公开的范围。
图像配准可以理解为将不同时间、不同传感器(成像设备,如摄像机)或不同条件下(如天气、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程。在图像配准过程中,可以根据参考图像和待配准图像之间的映射关系,将待配准图像进行透视变化处理,以将待配准图像映射至参考图像对应的图像空间,实现待配准图像与参考图像的配准。
相关技术可知,在进行图像配准的过程中,往往采用一种配准方式对待配准图像进行全局配准,进而不能很好的兼顾配准精度和配准速度之间的关系。
本公开实施例提供的一种图像配准方法,基于运动量估计,将待配准图像划分为第一区域和第二区域,并利用图像光流和图像部分像素点分别对待配准图像的第一区域和第二区域与参考图像进行配准,以使待配准图像在与参考图像配准的过程中,可以提高配准精度和配准速度。
图1是根据一示例性实施例示出的一种图像配准方法的流程图。
在本公开一示例性实施例中,如图1所示,图像配准方法可以包括步骤S11至步骤S14。下面将分别介绍各步骤。
在步骤S11中,获取多帧图像,并在多帧图像中确定参考图像和待配准图像。
在一种实施例中,获取多帧图像。其中,多帧图像可以是拍摄同一场景或同一目标对象的多帧图像。进一步地,可以在多帧图像中确定参考图像。在一示例中,参考图像可以是清晰度最高的图像。在另一示例中,待配准图像可以是多帧图像中除参考图像之外的其他图像。
在步骤S12中,基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域。其中,第一区域中的像素点相对于参考图像中相应像素点的偏移量大于第二区域中的像素点相对于参考图像中相应像素点的偏移量。
在一种实施例中,可以基于运动量估计,将每一张待配准图像进行划分,得到一个或多个第一区域,以及一个或多个第二区域。需要说明的是,第一区域中像素点相对于参考图像中相应像素点的偏移量大于第二区域中的像素点相对于参考图像中相应像素点的偏移量。可以理解的是,第一区域为待配准图像中的大运动区域,即第一区域中像素点相对于参考图像中相应像素点的变化量较大。第二区域为待配准图像中的小运动区域,即第二区域中的像素点相对于参考图像中相应像素点的变化量较小。
在一示例中,待配准图像中像素点a在参考图像中的相应像素点可以称为a’。可以理解的是,像素点a与像素点a’为同一像素点在不同图像中的不同存在形式。若像素点a在待配准图像中位置坐标为(5,6),像素点a’在参考图像中的位置坐标为(8,9),那么,像素点a相对于参考图像中相应像素点的a’偏移量为像素点a的坐标与像素点a’的坐标之间的距离。
需要说明的是,像素点的偏移量可以理解为像素点相对于参考图像中对应像素点发生的位置变化量。进一步地,基于像素点的偏移量,可以将待配准图像中的像素点映射至参考图像中的对应像素点。
可以理解的是,将待配准图像划分为第一区域和第二区域,可以为基于第一区域和第二区域的运动量选取合适的配准方法对待配准图像进行配准,以提高配准精度和配准速度打下基础。
在步骤S13中,基于图像光流对待配准图像中的第一区域与参考图像进行配准。
图像光流是指空间运动物体在观察成像平面上的像素点运动的瞬时速度。在应用过程中,通过图像光流可以找到两帧图像中像素点之间存在的对应关系,从而计算出两帧图像中像素点的偏移量。在一种实施例中,可以基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准。
在步骤S14中,基于图像部分像素点对待配准图像中的第二区域与参考图像进行配准。
在应用过程中,可以基于图像部分像素点,确定图像的特征点。并基于特征点计算与特征点对应的单应性矩阵。其中,特征点指的是图像灰度值发生剧烈变化的点或者在图像边缘上曲率较大的点(即两个边缘的交点)。在一种实施例中,可以基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准。可以理解的是,基于图像部分像素点,确定图像的特征点,并基于特征点计算与特征点对应的单应性矩阵,可以减少在确定单应性矩阵以及基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准过程中的计算量。
稠密光流算法具有较高的配准对齐精度,但是具有较大的计算量。单应性矩阵算法具有较快的配准对齐速度,但是在对具有大运动量的图像进行配准时稳定性较弱。在一种实施例中,可以基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准,并基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准。由于第一区域为待配准图像的大运动区域,为了保证图像配准的精确度,因此,需要采用稠密光流算法进行配准处理。由于第二区域为待配准图像的小运动区域,为了保证图像配准的速度,因此,需要采用单应性矩阵进行配准处理。通过本实施例,可以在待配准图像与参考图像配准的过程中提高配准精度和配准速度。
本公开实施例提供的一种图像配准方法,基于运动量估计,将待配准图像划分为第一区域和第二区域,并利用稠密光流算法和单应性矩阵分别对待配准图像的第一区域和第二区域与参考图像进行配准,以使待配准图像在与参考图像配准的过程中,可以提高配准精度和配准速度。
本公开将通过下述实施例对基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域的过程进行说明。
图2是根据一示例性实施例示出的一种基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域的流程图。
在本公开一示例性实施例中,如图2所示,基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域可以包括步骤S21和步骤S22。下面将分别介绍各步骤。
在步骤S21中,若待配准图像与参考图像的相应位置像素点的像素差超过像素差阈值,则将待配准图像中像素点所处区域确定为第一区域。
在步骤S22中,将待配准图像中除第一区域之外的其他区域确定为第二区域。
在一种实施例中,当检测到待配准图像与参考图像的相应位置的像素点的像素差超过像素差阈值,则表示待配准图像中像素点所处区域为大运动区域,可以将该区域确定为第一区域。需要说明的是,像素差可以理解为待配准图像与参考图像中相应位置的两像素点的像素值差。在一示例中,像素差可以是两像素点的亮度值差,可以是两像素点的RGB值差,还可以是两像素点的灰度值差。
在一种实施例中,若待配准图像中像素点a的位置坐标为(5,6),那么,像素点a的在参考图像中的相应位置的像素点为位于参考图像中(5,6)坐标处的像素点b。可以理解的是,像素点a与像素点b是不同像素点在不同图像中的不同存在形式。在一示例中,像素差可以为像素点b与像素点a之间的灰度值差。可以理解的是,像素差可以反映像素点所在区域的运动量。
在一示例中,当检测到待配准图像中3*3到4*4像素点所形成的区域的像素差超过像素差阈值,则可以将待配准图像中3*3到4*4像素点所形成的区域确定为第一区域。需要说明的是,第一区域可以是待配准图像中的运动物体所处的区域。第一区域可以是待配准图像中的前景。例如,可以是行人或行驶的车辆。在应用过程中,可以基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准。
进一步地,可以将待配准图像中除第一区域之外的其他区域确定为第二区域。需要说明的是,第二区域可以是待配准图像中的非运动物体所处的区域,例如,可以是待配准图像的背景区域。在待配准图像中,往往由于拍摄时的抖动引起第二区域的轻微位置。在应用过程中,可以基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准。
图3是根据一示例性实施例示出的一种基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的流程图。
本公开将结合图3对基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的过程进行说明。
在本公开一示例性实施例中,如图3所示,基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准可以包括步骤S31和步骤S32。下面将分别介绍各步骤。
在步骤S31中,将第一区域划分为多个像素点阵,其中,像素点阵包括多个像素点。
在步骤S32中,确定像素点阵的点阵中心,并基于稠密光流算法和点阵中心,对待配准图像中的第一区域与参考图像进行配准。
在一种实施例中,在对第一区域进行图像配准的过程中,可以基于稠密光流算法对第一区域内所有像素点进行处理,得到像素点的偏移量,并基于偏移量对第一区域与参考图像进行配准。需要说明的是,像素点的偏移量可以理解为像素点相对于参考图像中对应像素点发生的位置变化量。进一步地,基于像素点的偏移量,可以将待配准图像中的像素点映射至参考图像中的对应像素点。
在另一种实施例中,为了提高第一区域与参考图像的配准速度,可以将第一区域划分为多个像素点阵,其中,像素点阵是相邻多个像素点的集合。进一步地,可以确定像素点阵的点阵中心,并基于稠密光流算法对第一区域内所有点阵中心进行处理,得到点阵中心的偏移量,并基于偏移量对第一区域与参考图像进行配准。需要说明的是,像素点阵的点阵中心可以是基于像素点阵的中心位置坐标确定。
本公开将结合下述实施例对基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的过程进行说明。
图4是根据一示例性实施例示出的另一种基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准的流程图。
在本公开一示例性实施例中,如图4所示,基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准可以包括步骤S41和步骤S42。下面将分别介绍各步骤。
在步骤S41中,确定第一区域中的像素点相对于参考图像中相应位置的像素点的像素差。
在应用过程中,待配准图像可以包括多个第一区域。在一种示例中,不同的第一区域的像素点相对于参考图像中相应位置的像素点的像素差不同。可以理解的是,不同的第一区域的运动量有所不同。
在步骤S42中,基于金字塔放缩比例,对第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的第一区域与参考图像进行配准。
在一实施例中,可以基于金字塔放缩比例,根据不同第一区域的不同运动量,分别对第一区域采用不同的放缩比例进行放缩处理,并基于稠密光流算法对放缩处理后的第一区域与参考图像进行图像配准。通过本实施例,根据不同第一区域的不同运动量,自适应选择金字塔放缩比例对第一区域进行放缩处理。并基于稠密光流算法对放缩处理后的第一区域与参考图像进行配准,在确保配准精度的前提下,可以提高图像配准的配准速度。
本公开将结合下述实施例对基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准的过程进行说明。
图5是根据一示例性实施例示出的一种基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准的流程图。
在本公开一示例性实施例中,如图5所示,基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准可以包括步骤S51和步骤S52。下面将分别介绍各步骤。
在步骤S51中,确定第二区域中特征点,并对特征点进行聚类,得到多个聚类区域。
图像处理中,特征点指的是图像灰度值发生剧烈变化的点或者在图像边缘上曲率较大的点(即两个边缘的交点)。图像特征点能够反映图像本质特征,能够标识图像中目标物体。
在一种实施例中,可以对待配准图像中第二区域进行特征点检测,并确定特征点。在应用过程中,可以根据特征点的位置信息进行聚类。可以理解的是,聚类后的特征点可以对同一种单应性矩阵,即属于同一聚类区域的特征点可以对同一种单应性矩阵。
在步骤S52中,基于单应性矩阵对聚类区域内的像素点与参考图像进行配准,其中,不同聚类区域对应不同单应性矩阵。
在一种实施例中,可以基于同一单应性矩阵,对聚类区域内的像素点与参考图像进行配准。第二区域中可以包括多个聚类区域,不同的聚类区域会对应不同的单应性矩阵。在应用过程中,可以分别基于不同的单应性矩阵对第二区域与参考图像进行配准。通过本实施例,将同一聚类区域内的像素点采用相同的单应性矩阵对第二区域与参考图像进行配准,可以提高图像配准速度。
图6是根据一示例性实施例示出的另一种图像配准方法的流程图。
本公开将结合图6对另一种图像配准方法的过程进行说明。
在本公开一示例性实施例中,第二区域还包括非聚类区域,其中,非聚类区域为第二区域中除聚类区域之外的其他区域。如图6所示,图像配准方法可以包括步骤S61至步骤S66,其中,步骤S61至步骤S62分别与步骤S11至步骤S12相同,步骤S64至步骤S65分别与步骤S51至步骤S52相同,其具体实施方式和有益效果请参照前文,在此不再赘述。下面将介绍步骤S63和步骤S66。
在步骤S63中,基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准。
在步骤S66中,基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准。
非聚类区域可以理解为不存在特征点的区域。在应用过程中,无法确定与非聚类区域对应的单应性矩阵。
在一种实施例中,可以基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准。通过本实施例,可以解决待配准图像中不同区域的图像畸变问题,进而可以更加精确实现待配准图像与参考图像的配准对齐。
需要说明的是,基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准的过程可以采用以下方式实现。
图7是根据一示例性实施例示出的一种基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准的流程图。
在本公开一示例性实施例中,如图7所示,基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准可以包括步骤S71至步骤S74。
在步骤S71中,确定聚类区域的类中心,并基于类中心,分别确定非聚类区域中像素点与各个聚类区域的距离。
在一种实施例中,可以分别确定不同聚类区域的类中心。其中,类中心可以根据聚类区域的中心位置坐标确定。在应用过程中,基于类中心,可以分别确定非聚类区域中各个像素点与各个聚类区域的距离。
在步骤S72中,基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行处理,得到多个非聚类区域中像素点偏移量。
不同的聚类区域对应有不同的单应性矩阵。在一种实施例中,可以基于与各个聚类区域对应的单应性矩阵,对非聚类区域中各个像素点与参考图像进行处理,得到多个非聚类区域中各个像素点的像素点偏移量。可以理解的是,若单应性矩阵有5个,则对于某一非聚类区域(例如,非聚类区域A)中某一像素点(例如,像素点a)的像素点偏移量为5个。
在步骤S73中,对多个非聚类区域中像素点偏移量进行加权处理,得到加权处理后的非聚类区域中像素点偏移量,其中,非聚类区域中像素点偏移量的权重根据非聚类区域中像素点与各个聚类区域的距离确定。
继续以前文所述的单应性矩阵有5个,则对于非聚类区域A中像素点a的像素点偏移量为5个的实施例为例进行说明。在应用过程中,可以对像素点a的5个像素点偏移量进行加权处理,以得到加权处理后的像素点a的像素点偏移量。其中,在对像素点a的5个像素点偏移量进行加权处理过程中,权重可以根据像素点a与各个聚类区域(5个聚类区域)的距离确定。在一示例中,权重和像素点a与各个聚类区域的距离呈正相关。
在步骤S74中,基于加权处理后的非聚类区域中像素点偏移量,对非聚类区域中像素点与参考图像进行配准。
在应用过程中,可以计算出非聚类区域中所有像素点的加权处理后的像素点偏移量,并基于加权处理后的像素点偏移量,对非聚类区域中像素点与参考图像进行配准。需要说明的是,加权处理后的非聚类区域中像素点的像素点偏移量可以理解为配准后的非聚类区域中像素点的像素点偏移量。
图8是根据一示例性实施例示出的又一种图像配准方法的流程图。
本公开将结合图8对另一种图像配准方法的过程进行说明。
在本公开一示例性实施例中,如图8所示,图像配准方法可以包括步骤S81至步骤S89,其中,步骤S81至步骤S82分别与步骤S11至步骤S12相同,其具体实施方式和有益效果请参照前文,在此不再赘述,下面将分别介绍步骤S83至步骤S84,以及步骤S85至步骤S89。
在步骤S83中,基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准。
在步骤S84中,基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准。
在步骤S85中,确定待配准图像的过渡区域,其中,过渡区域为第一区域和第二区域的邻接区域。
在一种实施例中,可以确定待配准图像的过渡区域。其中,过渡区域可以是第一区域和第二区域的邻接区域。在一种示例中,邻接区域可以包括紧邻第二区域的第一区域中的部分区域,还可以包括紧邻第一区域的第二区域中的部分区域。
在步骤S86中,获取过渡区域中像素点与第一区域的第一距离,以及过渡区域中像素点与第二区域的第二距离。
在一种实施例中,可以基于过渡区域中的像素点与靠近过渡区域的第一区域边缘的距离,确定第一距离。可以基于过渡区域中的像素点与靠近过渡区域的第二区域边缘的距离,确定第二距离。在另一种实施例中,可以基于过渡区域中的像素点与第一区域的中心位置坐标的距离,确定第一距离。可以基于过渡区域中的像素点与第二区域的中心位置坐标的距离,确定第二距离。
在步骤S87中,基于稠密光流算法对过渡区域内的像素点与参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对过渡区域内的像素点与参考图像进行处理,得到第二像素点偏移量。
在步骤S88中,对第一像素点偏移量和第二像素点偏移量进行加权处理,得到加权处理后的过渡区域内的像素点偏移量,其中,第一像素点偏移量的权重与第二像素点偏移量的权重的比值,和第一距离与第二距离的比值相等。
在一种实施例中,以获取加权处理后的过渡区域内的像素点a的像素点偏移量为例进行说明。在应用过程中,可以基于稠密光流算法对过渡区域内的像素点a与参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对过渡区域内的像素点a与参考图像进行处理,得到第二像素点偏移量。进一步地,对第一像素点偏移量和第二像素点偏移量进行加权处理,得到加权处理后的过渡区域内的像素点a的像素点偏移量。其中,第一像素点偏移量的权重与第二像素点偏移量的权重的比值,和第一距离与第二距离的比值相等。需要说明的是,加权处理后的非聚类区域中像素点的像素点偏移量可以理解为配准后的非聚类区域中像素点的像素点偏移量。
在步骤S89中,基于加权处理后的过渡区域内的像素点偏移量,对过渡区域中像素点与参考图像进行配准。
在应用过程中,可以计算出过渡区域中所有像素点的最终加权处理后的像素点偏移量,并基于最终加权处理后的像素点偏移量,对过渡区域中像素点与参考图像进行配准。通过本实施例,可以确保过渡区域的配准更加自然、流畅,进而保证第一区域和第二区域的边缘区域过渡自然。
本公开将通过下述实施例对图像配准方法的过程进行说明。
图9是根据一示例性实施例示出的又一种图像配准方法的流程图。
在本公开一示例性实施例中,如图9所示,可以获取多帧图像。并在多帧图像中确定参考图像和待配准图像。进一步地,可以基于运动量估计,将每一张待配准图像进行划分,得到待配准图像的多个大运动量区域和多个小运动量区域。需要说明的是,大运动量区域可以对应前文所述的第一区域。小运动量区域可以对应前文所述的第二区域。
在待配准图像的大运动量区域中,可以基于金字塔放缩比例,根据不同大运动量区域的不同运动量,分别对大运动量区域采用不同的放缩比例进行放缩处理,并基于稠密光流算法对放缩处理后的大运动量区域与参考图像进行图像配准。
在待配准图像的小运动量区域中,可以对小运动量区域进行特征点检测,并确定特征点。在应用过程中,可以根据特征点的位置信息进行聚类。可以理解的是,聚类后的特征点可以对同一种单应性矩阵,即属于同一聚类类别(又可以称为同一聚类区域)的特征点可以对同一种单应性矩阵。进一步地,可以基于同一单应性矩阵,对聚类区域内的像素点与参考图像进行配准。
根据前文描述可知,本公开实施例提供的一种图像配准方法,基于运动量估计,将待配准图像划分为第一区域和第二区域,并利用稠密光流算法和单应性矩阵分别对待配准图像的第一区域和第二区域与参考图像进行配准,以使待配准图像在与参考图像配准的过程中,可以提高配准精度和配准速度。
基于相同的发明构思,本公开实施例还提供一种图像处理方法。本公开将结合下述实施例对图像处理方法的过程进行说明。
图10是根据一示例性实施例示出的一种图像处理方法的流程图。
在本公开一示例性实施例中,如图10所示,图像处理方法可以包括步骤S91和步骤S92。
在步骤S91中,获取多帧图像。
在步骤S92中,基于图像配准方法对多帧图像进行配准,并基于配准后的多帧图像进行图像融合降噪,得到融合降噪后图像。其中,图像配准方法可以是前文所述的图像配准方法。
在一种实施例中,获取多帧图像,并基于前文所述的图像配准方法对多帧图像进行配准,可以确保多帧图像在配准的过程中具有较高的配准精度和配准速度。进一步地,基于配准后的多帧图像,进行图像融合降噪,以得到一张具有高质量的融合降噪后图像。本公开实施例所述的图像处理方法,通过提高多帧图像在配准过程中的配准精度和配准速度,可以提高图像融合降噪的精度和速度。
基于相同的构思,本公开实施例还提供一种图像配准装置。
可以理解的是,本公开实施例提供的图像配准装置为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。结合本公开实施例中所公开的各示例的单元及算法步骤,本公开实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同的方法来实现所描述的功能,但是这种实现不应认为超出本公开实施例的技术方案的范围。
图11是根据一示例性实施例示出的一种图像配准装置的框图。
在本公开一示例性实施例中,如图11所示,图像配准装置100可以包括第一获取模块110、划分模块120和处理模块130。下面将分别介绍各模块。
第一获取模块110可以被配置为用于获取多帧图像,并在多帧图像中确定参考图像和待配准图像。
划分模块120可以被配置为用于:基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,第一区域中的像素点相对于参考图像中相应像素点的偏移量大于第二区域中的像素点相对于参考图像中相应像素点的偏移量。
处理模块130可以被配置为用于:基于图像光流对待配准图像中的第一区域与参考图像进行配准;基于图像部分像素点对待配准图像中的第二区域与参考图像进行配准。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于图像光流对待配准图像中的第一区域与参考图像进行配准:基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于图像部分像素点对待配准图像中的第二区域与参考图像进行配准:基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准。在本公开一示例性实施例中,划分模块120可以采用以下方式基于运动量估计,将待配准图像划分为一个或多个第一区域和一个或多个第二区域:若待配准图像与参考图像的相应位置像素点的像素差超过像素差阈值,则将待配准图像中像素点所处区域确定为第一区域;将待配准图像中除第一区域之外的其他区域确定为第二区域。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准:将第一区域划分为多个像素点阵,其中,像素点阵包括多个像素点;确定像素点阵的点阵中心,并基于稠密光流算法和点阵中心,对待配准图像中的第一区域与参考图像进行配准。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于稠密光流算法对待配准图像中的第一区域与参考图像进行配准:确定第一区域中的像素点相对于参考图像中相应位置的像素点的像素差;基于金字塔放缩比例,对第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的第一区域与参考图像进行配准。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于单应性矩阵对待配准图像中的第二区域与参考图像进行配准:确定第二区域中特征点,并对特征点进行聚类,得到多个聚类区域;基于单应性矩阵对聚类区域内的像素点与参考图像进行配准,其中,不同聚类区域对应不同单应性矩阵。
在本公开一示例性实施例中,第二区域还包括非聚类区域,其中,非聚类区域为第二区域中除聚类区域之外的其他区域,处理模块130还可以被配置为用于:基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准。
在本公开一示例性实施例中,处理模块130可以采用以下方式基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行配准:确定聚类区域的类中心,并基于类中心,分别确定非聚类区域中像素点与各个聚类区域的距离;基于与各个聚类区域对应的单应性矩阵,对非聚类区域中像素点与参考图像进行处理,得到多个非聚类区域中像素点偏移量;对多个非聚类区域中像素点偏移量进行加权处理,得到加权处理后的非聚类区域中像素点偏移量,其中,非聚类区域中像素点偏移量的权重根据非聚类区域中像素点与各个聚类区域的距离确定;基于加权处理后的非聚类区域中像素点偏移量,对非聚类区域中像素点与参考图像进行配准。
在本公开一示例性实施例中,第一获取模块110还可以被配置为用于:确定待配准图像的过渡区域,其中,过渡区域为第一区域和第二区域的邻接区域;并获取过渡区域中像素点与第一区域的第一距离,以及过渡区域中像素点与第二区域的第二距离;处理模块130还可以被配置为用于:基于稠密光流算法对过渡区域内的像素点与参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对过渡区域内的像素点与参考图像进行处理,得到第二像素点偏移量;对第一像素点偏移量和第二像素点偏移量进行加权处理,得到加权处理后的过渡区域内的像素点偏移量,其中,第一像素点偏移量的权重与第二像素点偏移量的权重的比值,和第一距离与第二距离的比值相等;基于加权处理后的过渡区域内的像素点偏移量,对过渡区域中像素点与参考图像进行配准。
基于相同的构思,本公开实施例还提供一种图像处理装置。
可以理解的是,本公开实施例提供的图像处理装置为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。结合本公开实施例中所公开的各示例的单元及算法步骤,本公开实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同的方法来实现所描述的功能,但是这种实现不应认为超出本公开实施例的技术方案的范围。
图12是根据一示例性实施例示出的一种图像处理装置的框图。
在本公开一示例性实施例中,如图12所示,图像处理装置200可以包括第二获取模块210和降噪模块220。下面将分别介绍各模块。
第二获取模块210可以被配置为用于:获取多帧图像。
降噪模块220可以被配置为用于:基于前文所述的图像配准方法对多帧图像进行配准,并基于配准后的多帧图像进行图像融合降噪,得到融合降噪后图像。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图13是根据一示例性实施例示出的一种用于图像配准或图像处理的装置300的框图。例如,用于图像配准或图像处理的装置300可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图13,用于图像配准或图像处理的装置300可以包括以下一个或多个组件:处理组件302,存储器304,电力组件306,多媒体组件308,音频组件310,输入/输出(I/O)接口312,传感器组件314,以及通信组件316。
处理组件302通常控制用于图像配准或图像处理的装置300的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件302可以包括一个或多个处理器320来执行指令,以完成上述的图像配准或图像处理方法的全部或部分步骤。此外,处理组件302还可以包括一个或多个模块,便于处理组件302和其他组件之间的交互。例如,处理组件302还可以包括多媒体模块,以方便多媒体组件308和处理组件302之间的交互。
存储器304可以被配置为用于存储各种类型的数据以支持在用于图像配准或图像处理装置300的操作。这些数据的示例包括可以用于在用于图像配准或图像处理的装置300上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器304可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件306可以为用于图像配准或图像处理的装置300的各种组件提供电力。电力组件306还可以包括电源管理系统,一个或多个电源,及其他与为用于图像配准或图像处理的装置300生成、管理和分配电力相关联的组件。
多媒体组件308可以包括在所述用于图像配准或图像处理的装置300和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板可以包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还可以检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件308可以包括一个前置摄像头和/或后置摄像头。当用于图像配准或图像处理的装置300处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件310可以被配置为输出和/或输入音频信号。例如,音频组件310可以包括一个麦克风(MIC),当用于图像配准或图像处理的装置300处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风可以被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器304或经由通信组件316发送。在一些实施例中,音频组件310还可以包括一个扬声器,用于输出音频信号。
I/O接口312可以为处理组件302和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件314可以包括一个或多个传感器,用于为用于图像配准或图像处理的装置300提供各个方面的状态评估。例如,传感器组件314可以检测到用于图像配准或图像处理的装置300的打开/关闭状态,组件的相对定位,例如所述组件可以为用于……的装置200的显示器和小键盘,传感器组件314还可以检测用于图像配准或图像处理的装置300或用于图像配准或图像处理的装置300一个组件的位置改变,用户与用于图像配准或图像处理的装置300接触的存在或不存在,用于图像配准或图像处理的装置300方位或加速/减速和用于图像配准或图像处理的装置300的温度变化。传感器组件314可以包括接近传感器,可以被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件314还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件314还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件316可以被配置为便于用于图像配准或图像处理的装置300和其他设备之间有线或无线方式的通信。用于图像配准或图像处理的装置300可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件316可以经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件316还可以包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可以基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,用于图像配准或图像处理的装置300还可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的图像配准或图像处理方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器304,上述指令可由用于图像配准或图像处理的装置300的处理器320执行以完成上述的图像配准或图像处理方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
可以理解的是,本公开中“多个”可以是指两个或两个以上,其它量词与之类似。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
进一步可以理解的是,术语“第一”、“第二”等可以用于描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开,并不表示特定的顺序或者重要程度。实际上,“第一”、“第二”等表述完全可以互换使用。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。
进一步可以理解的是,术语“中心”、“纵向”、“横向”、“前”、“后”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本实施例和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作。
在附图中,自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。所描述的实施例是本公开一部分实施例,而不是全部的实施例。上文通过参考附图描述的实施例是示例性的,旨在用于解释本公开,而不能理解为对本公开的限制。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。上文结合附图对本公开的实施例进行了详细说明。
进一步可以理解的是,除非有特殊说明,“连接”可以包括两者之间不存在其他构件的直接连接,也可以包括两者之间存在其他元件的间接连接。
进一步可以理解的是,本公开实施例中尽管在附图中以特定的顺序描述操作,但是不应将其理解为要求按照所示的特定顺序或是串行顺序来执行这些操作,或是要求执行全部所示的操作以得到期望的结果。在特定环境中,多任务和并行处理可能是有利的。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (26)
1.一种图像配准方法,其特征在于,所述图像配准方法包括:
获取多帧图像,并在所述多帧图像中确定参考图像和待配准图像;
基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,所述第一区域中的像素点相对于所述参考图像中相应像素点的偏移量大于所述第二区域中的像素点相对于所述参考图像中相应像素点的偏移量;
基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准;
基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准。
2.根据权利要求1所述的图像配准方法,其特征在于,所述基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,包括:
若所述待配准图像与所述参考图像的相应位置像素点的像素差超过像素差阈值,则将所述待配准图像中所述像素点所处区域确定为所述第一区域;
将所述待配准图像中除所述第一区域之外的其他区域确定为所述第二区域。
3.根据权利要求1或2所述的图像配准方法,其特征在于,所述基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:
基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准。
4.根据权利要求3所述的图像配准方法,其特征在于,所述基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:
将所述第一区域划分为多个像素点阵,其中,所述像素点阵包括多个像素点;
确定所述像素点阵的点阵中心,并基于稠密光流算法和所述点阵中心,对所述待配准图像中的所述第一区域与所述参考图像进行配准。
5.根据权利要求3所述的图像配准方法,其特征在于,所述基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准,包括:
确定所述第一区域中的像素点相对于所述参考图像中相应位置的像素点的像素差;
基于金字塔放缩比例,对所述第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的所述第一区域与所述参考图像进行配准。
6.根据权利要求1或2所述的图像配准方法,其特征在于,所述基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准,包括:
基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准。
7.根据权利要求6所述的图像配准方法,其特征在于,所述基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准,包括:
确定所述第二区域中特征点,并对所述特征点进行聚类,得到多个聚类区域;
基于所述单应性矩阵对所述聚类区域内的像素点与所述参考图像进行配准,其中,不同所述聚类区域对应不同所述单应性矩阵。
8.根据权利要求7所述的图像配准方法,其特征在于,所述第二区域还包括非聚类区域,其中,所述非聚类区域为所述第二区域中除所述聚类区域之外的其他区域,所述图像配准方法还包括:
基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准。
9.根据权利要求8所述的图像配准方法,其特征在于,所述基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准,包括:
确定所述聚类区域的类中心,并基于所述类中心,分别确定所述非聚类区域中像素点与各个所述聚类区域的距离;
基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行处理,得到多个所述非聚类区域中像素点偏移量;
对多个所述非聚类区域中像素点偏移量进行加权处理,得到加权处理后的所述非聚类区域中像素点偏移量,其中,所述非聚类区域中像素点偏移量的权重根据所述非聚类区域中像素点与各个所述聚类区域的距离确定;
基于加权处理后的所述非聚类区域中像素点偏移量,对所述非聚类区域中像素点与所述参考图像进行配准。
10.根据权利要求1所述的图像配准方法,其特征在于,所述图像配准方法还包括:
确定所述待配准图像的过渡区域,其中,所述过渡区域为所述第一区域和所述第二区域的邻接区域;
获取所述过渡区域中像素点与所述第一区域的第一距离,以及所述过渡区域中像素点与所述第二区域的第二距离;
基于稠密光流算法对所述过渡区域内的像素点与所述参考图像进行处理,得到第一像素点偏移量,以及
基于单应性矩阵对所述过渡区域内的像素点与所述参考图像进行处理,得到第二像素点偏移量;
对所述第一像素点偏移量和所述第二像素点偏移量进行加权处理,得到加权处理后的所述过渡区域内的像素点偏移量,其中,所述第一像素点偏移量的权重与所述第二像素点偏移量的权重的比值,和所述第一距离与所述第二距离的比值相等;
基于加权处理后的所述过渡区域内的像素点偏移量,对所述过渡区域中像素点与所述参考图像进行配准。
11.一种图像处理方法,其特征在于,所述图像处理方法包括:
获取多帧图像;
基于权利要求1至10中任意一项所述的图像配准方法对所述多帧图像进行配准,并基于配准后的所述多帧图像进行图像融合降噪,得到融合降噪后图像。
12.一种图像配准装置,其特征在于,所述图像配准装置包括:
第一获取模块,用于获取多帧图像,并在所述多帧图像中确定参考图像和待配准图像;
划分模块,用于基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域,其中,所述第一区域中的像素点相对于所述参考图像中相应像素点的偏移量大于所述第二区域中的像素点相对于所述参考图像中相应像素点的偏移量;
处理模块,用于基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准;基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准。
13.根据权利要求12所述的图像配准装置,其特征在于,所述划分模块采用以下方式基于运动量估计,将所述待配准图像划分为一个或多个第一区域和一个或多个第二区域:
若所述待配准图像与所述参考图像的相应位置像素点的像素差超过像素差阈值,则将所述待配准图像中所述像素点所处区域确定为所述第一区域;
将所述待配准图像中除所述第一区域之外的其他区域确定为所述第二区域。
14.根据权利要求12或13所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于图像光流对所述待配准图像中的所述第一区域与所述参考图像进行配准:
基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准。
15.根据权利要求14所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准:
将所述第一区域划分为多个像素点阵,其中,所述像素点阵包括多个像素点;
确定所述像素点阵的点阵中心,并基于稠密光流算法和所述点阵中心,对所述待配准图像中的所述第一区域与所述参考图像进行配准。
16.根据权利要求14所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于稠密光流算法对所述待配准图像中的所述第一区域与所述参考图像进行配准:
确定所述第一区域中的像素点相对于所述参考图像中相应位置的像素点的像素差;
基于金字塔放缩比例,对所述第一区域进行放缩处理,并基于稠密光流算法对放缩处理后的所述第一区域与所述参考图像进行配准。
17.根据权利要求12或13所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于图像部分像素点对所述待配准图像中的所述第二区域与所述参考图像进行配准:
基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准。
18.根据权利要求17所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于单应性矩阵对所述待配准图像中的所述第二区域与所述参考图像进行配准:
确定所述第二区域中特征点,并对所述特征点进行聚类,得到多个聚类区域;
基于所述单应性矩阵对所述聚类区域内的像素点与所述参考图像进行配准,其中,不同所述聚类区域对应不同所述单应性矩阵。
19.根据权利要求18所述的图像配准装置,其特征在于,所述第二区域还包括非聚类区域,其中,所述非聚类区域为所述第二区域中除所述聚类区域之外的其他区域,所述处理模块还用于:
基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准。
20.根据权利要求19所述的图像配准装置,其特征在于,所述处理模块采用以下方式基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行配准:
确定所述聚类区域的类中心,并基于所述类中心,分别确定所述非聚类区域中像素点与各个所述聚类区域的距离;
基于与各个所述聚类区域对应的单应性矩阵,对所述非聚类区域中像素点与所述参考图像进行处理,得到多个所述非聚类区域中像素点偏移量;
对多个所述非聚类区域中像素点偏移量进行加权处理,得到加权处理后的所述非聚类区域中像素点偏移量,其中,所述非聚类区域中像素点偏移量的权重根据所述非聚类区域中像素点与各个所述聚类区域的距离确定;
基于加权处理后的所述非聚类区域中像素点偏移量,对所述非聚类区域中像素点与所述参考图像进行配准。
21.根据权利要求12所述的图像配准装置,其特征在于,所述第一获取模块还用于:
确定所述待配准图像的过渡区域,其中,所述过渡区域为所述第一区域和所述第二区域的邻接区域;并获取所述过渡区域中像素点与所述第一区域的第一距离,以及所述过渡区域中像素点与所述第二区域的第二距离;
所述处理模块还用于:基于稠密光流算法对所述过渡区域内的像素点与所述参考图像进行处理,得到第一像素点偏移量,以及基于单应性矩阵对所述过渡区域内的像素点与所述参考图像进行处理,得到第二像素点偏移量;
对所述第一像素点偏移量和所述第二像素点偏移量进行加权处理,得到加权处理后的所述过渡区域内的像素点偏移量,其中,所述第一像素点偏移量的权重与所述第二像素点偏移量的权重的比值,和所述第一距离与所述第二距离的比值相等;
基于加权处理后的所述过渡区域内的像素点偏移量,对所述过渡区域中像素点与所述参考图像进行配准。
22.一种图像处理装置,其特征在于,所述图像处理装置包括:
第二获取模块,用于获取多帧图像;
降噪模块,用于基于权利要求1至10中任意一项所述的图像配准方法对所述多帧图像进行配准,并基于配准后的所述多帧图像进行图像融合降噪,得到融合降噪后图像。
23.一种图像配准装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至10中任意一项所述的图像配准方法。
24.一种图像处理装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求11所述的图像处理方法。
25.一种非临时性计算机可读存储介质,其特征在于,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行权利要求1至10中任意一项所述的图像配准方法。
26.一种非临时性计算机可读存储介质,其特征在于,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行权利要求11所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110351006.3A CN115147466A (zh) | 2021-03-31 | 2021-03-31 | 图像配准方法及装置、图像处理方法及装置以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110351006.3A CN115147466A (zh) | 2021-03-31 | 2021-03-31 | 图像配准方法及装置、图像处理方法及装置以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115147466A true CN115147466A (zh) | 2022-10-04 |
Family
ID=83403978
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110351006.3A Pending CN115147466A (zh) | 2021-03-31 | 2021-03-31 | 图像配准方法及装置、图像处理方法及装置以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115147466A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115689963A (zh) * | 2022-11-21 | 2023-02-03 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
-
2021
- 2021-03-31 CN CN202110351006.3A patent/CN115147466A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115689963A (zh) * | 2022-11-21 | 2023-02-03 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106651955B (zh) | 图片中目标物的定位方法及装置 | |
CN109889724B (zh) | 图像虚化方法、装置、电子设备及可读存储介质 | |
EP3010226A2 (en) | Method and apparatus for obtaining photograph | |
CN106778773B (zh) | 图片中目标物的定位方法及装置 | |
CN105095881B (zh) | 人脸识别方法、装置及终端 | |
CN106557759B (zh) | 一种标志牌信息获取方法及装置 | |
CN107977934B (zh) | 图像处理方法及装置 | |
CN107944367B (zh) | 人脸关键点检测方法及装置 | |
CN108154466B (zh) | 图像处理方法及装置 | |
KR102367648B1 (ko) | 전 방향 시차 영상 합성 방법, 장치 및 저장 매체 | |
CN109784164B (zh) | 前景识别方法、装置、电子设备及存储介质 | |
CN105678296B (zh) | 确定字符倾斜角度的方法及装置 | |
CN113711123B (zh) | 一种对焦方法、装置及电子设备 | |
US20220245839A1 (en) | Image registration, fusion and shielding detection methods and apparatuses, and electronic device | |
US11222235B2 (en) | Method and apparatus for training image processing model, and storage medium | |
CN110796012B (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN109784327B (zh) | 边界框确定方法、装置、电子设备及存储介质 | |
CN108010009B (zh) | 一种去除干扰图像的方法及装置 | |
CN107730443B (zh) | 图像处理方法、装置及用户设备 | |
CN107613210B (zh) | 图像显示方法及装置、终端、存储介质 | |
CN115526774A (zh) | 图像插值方法、装置、存储介质及电子设备 | |
CN115147466A (zh) | 图像配准方法及装置、图像处理方法及装置以及存储介质 | |
CN106469446B (zh) | 深度图像的分割方法和分割装置 | |
US20230048952A1 (en) | Image registration method and electronic device | |
CN108596957B (zh) | 物体跟踪方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |