CN111724422B - 图像处理方法及装置、电子设备及存储介质 - Google Patents
图像处理方法及装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111724422B CN111724422B CN202010605389.8A CN202010605389A CN111724422B CN 111724422 B CN111724422 B CN 111724422B CN 202010605389 A CN202010605389 A CN 202010605389A CN 111724422 B CN111724422 B CN 111724422B
- Authority
- CN
- China
- Prior art keywords
- image
- registration information
- image block
- registered
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 9
- 238000000034 method Methods 0.000 claims abstract description 74
- 238000012545 processing Methods 0.000 claims description 298
- 230000000903 blocking effect Effects 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 30
- 230000015654 memory Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 12
- 238000007499 fusion processing Methods 0.000 claims description 12
- 238000006073 displacement reaction Methods 0.000 description 36
- 239000013598 vector Substances 0.000 description 36
- 230000033001 locomotion Effects 0.000 description 22
- 239000011159 matrix material Substances 0.000 description 19
- 238000013507 mapping Methods 0.000 description 15
- 230000000875 corresponding effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 9
- 230000009466 transformation Effects 0.000 description 9
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000000638 solvent extraction Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/32—Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种图像处理方法及装置、电子设备及存储介质。该方法包括:获取第一待配准图像和第一参考图像,其中,第一待配准图像包括至少两个第一图像块,第一参考图像中包括至少两个第二图像块,至少两个第一图像块包括第三图像块和第四图像块,至少两个第二图像块包括第五图像块和第六图像块;对第三图像块和第五图像块进行配准处理得到第三图像块的第一配准信息,对第四图像块和第六图像块进行配准处理得到第四图像块的第二配准信息;依据第一配准信息和第二配准信息,得到第一待配准图像的第三配准信息;依据第一配准信息和第三配准信息,得到第一待配准图像中第三图像块的第四配准信息。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法及装置、电子设备及存储介质。
背景技术
在图像处理领域中,图像质量与图像携带的信息呈正相关,通过对至少两张图像中进行提升图像质量处理(如:融合处理),可利用至少两张图像中的信息,提高图像的质量。由于在不同的图像中与同一物理点对应的像素点的位置不同,在对至少两张图像进行处理之前,需要对至少两张图像进行配准。
在目前的图像配准方法中,通过对待配准图像和参考图像进行图像配准处理,可得到待配准图像的配准信息。但通过该种方法得到的配准信息的精度低。
发明内容
本申请提供一种图像处理方法及装置、电子设备及存储介质。
第一方面,提供了一种图像处理方法,所述方法包括:
获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,所述至少两个第一图像块包括第三图像块和第四图像块,所述至少两个第二图像块包括第五图像块和第六图像块;
对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息;
依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息;
依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
在该方面中,第一配准信息为第一待配准图像中的局部配准信息,第三配准信息为第一待配准信息的全局配准信息。图像处理装置依据第一配准信息和第三配准信息,得到第三图像块的第四配准信息,既可利用第一待配准图像的全局配准信息提升第三图像块的配准信息的精度。又可利用第三图像块的局部配准信息,减少由于第三图像块中的像素点与第一待配准图像中除第三图像块之外的像素点之间的运动不一致而对第三图像块的配准信息的影响,进一步提升第三图像块的配准信息的精度。
结合本申请任一实施方式,所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息,包括:
分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果;
依据所述两个第一配准结果中精度最高的配准结果对应的配准信息,得到所述第四配准信息。
结合本申请任一实施方式,所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准得到两个第一配准结果之前,所述方法还包括:
使用所述第三配准信息修正所述第一配准信息,得到所述第三图像块的第五配准信息;
所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果,包括:
分别使用所述第三配准信息和所述第五配准信息,对所述第三图像块与所述第五图像块进行配准,得到所述两个第一配准结果。
结合本申请任一实施方式,所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息,包括:
对所述第一待配准图像进行下采样处理得到第二待配准图像,对所述第一参考图像进行下采样处理得到第二参考图像;
将所述第二待配准图像分成至少两个待配准图像块,将所述第二参考图像分成至少两个参考图像块,其中,所述至少两个待配准图像块包括第七图像块,所述至少两个参考图像块包括第八图像块;
对所述第七图像块和所述第八图像块进行配准处理,得到所述第七图像块的配准信息;
依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息。
结合本申请任一实施方式,所述依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息,包括:
依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块;
对所述第一修正后的图像块和所述第五图像块进行配准处理得到所述第一修正后的图像块的配准信息;
依据所述第一修正后的图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
结合本申请任一实施方式,所述第七图像块包括第一像素点,所述第一像素点通过对所述第一待配准图像中的至少两个第二像素点进行所述下采样处理得到;
所述依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块,包括:
将所述第七图像块的配准信息作为所述第一像素点的配准信息;
依据所述第一像素点的配准信息,得到所述至少两个第二像素点的配准信息;
依据所述至少两个第二像素点的配准信息,得到所述第三图像块的第六配准信息;
使用所述第六配准信息修正所述第三图像块,得到所述第一修正后的图像块。
结合本申请任一实施方式,所述至少两个待配准图像块还包括第九图像块,所述至少两个参考图像块还包括第十图像块;
所述依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息,包括:
对所述第九图像块和所述第十图像块进行配准处理,得到所述第九图像块的配准信息;
依据所述第七图像块的配准信息和所述第九图像块的配准信息,得到所述第二待配准图像的配准信息;
依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息,包括:
依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息;
依据所述第七配准信息对所述第三图像块进行修正得到第二修正后的图像块;
对所述第二修正后的图像块和所述第五图像块进行配准处理,得到所述第二修正后的图像块的配准信息;
依据所述第二修正后的图像块的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述第二待配准图像包括第三像素点,所述第三像素点通过对所述第一待配准图像中的至少两个第四像素点进行所述下采样处理得到;
所述依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息,包括:
将所述第二待配准图像的配准信息作为所述第三像素点的配准信息;
依据所述第三像素点的配准信息,得到所述至少两个第四像素点的配准信息;
依据所述至少两个第四像素点的配准信息,得到所述第七配准信息。
结合本申请任一实施方式,所述对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,以及所述对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息,包括:
对所述第三图像块和所述第五图像块进行搜索配准处理,得到所述第一配准信息;
对所述第四图像块和所述第六图像块进行搜索配准处理,得到所述第二配准信息。
结合本申请任一实施方式,获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,包括:
获取所述第一待配准图像和所述第一参考图像;
以相同的分块方式分别对所述第一待配准图像和所述第一参考图像进行分块,得到所述第一待配准图像的所述至少两个第一图像块和所述第一参考图像的所述至少两个第二图像块。
结合本申请任一实施方式,所述第三图像块在所述第一待配准图像中的位置与所述第五图像块在所述第一参考图像中的位置相同。
结合本申请任一实施方式,所述方法还包括:
使用所述第四配准信息对所述第一待配准图像中的所述第三图像块进行配准处理,得到配准后的图像;
对所述配准后的图像和所述第一参考图像进行融合处理,得到融合后的图像。
第二方面,提供了一种图像处理装置,所述图像处理装置包括:
获取单元,用于获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,所述至少两个第一图像块包括第三图像块和第四图像块,所述至少两个第二图像块包括第五图像块和第六图像块;
第一处理单元,用于对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息;
第二处理单元,用于依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息;
第三处理单元,用于依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
结合本申请任一实施方式,所述第三处理单元,用于:
分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果;
依据所述两个第一配准结果中精度最高的配准结果对应的配准信息,得到所述第四配准信息。
结合本申请任一实施方式,所述图像处理装置还包括:
第四处理单元,用于在所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准得到两个第一配准结果之前,使用所述第三配准信息修正所述第一配准信息,得到所述第三图像块的第五配准信息;
所述第三处理单元,用于:
分别使用所述第三配准信息和所述第五配准信息,对所述第三图像块与所述第五图像块进行配准,得到所述两个第一配准结果。
结合本申请任一实施方式,所述第三处理单元,用于:
对所述第一待配准图像进行下采样处理得到第二待配准图像,对所述第一参考图像进行下采样处理得到第二参考图像;
将所述第二待配准图像分成至少两个待配准图像块,将所述第二参考图像分成至少两个参考图像块,其中,所述至少两个待配准图像块包括第七图像块,所述至少两个参考图像块包括第八图像块;
对所述第七图像块和所述第八图像块进行配准处理,得到所述第七图像块的配准信息;
依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息。
结合本申请任一实施方式,所述第三处理单元,用于:
依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块;
对所述第一修正后的图像块和所述第五图像块进行配准处理得到所述第一修正后的图像块的配准信息;
依据所述第一修正后的图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
结合本申请任一实施方式,所述第七图像块包括第一像素点,所述第一像素点通过对所述第一待配准图像中的至少两个第二像素点进行所述下采样处理得到;
所述第三处理单元,用于:
将所述第七图像块的配准信息作为所述第一像素点的配准信息;
依据所述第一像素点的配准信息,得到所述至少两个第二像素点的配准信息;
依据所述至少两个第二像素点的配准信息,得到所述第三图像块的第六配准信息;
使用所述第六配准信息修正所述第三图像块,得到所述第一修正后的图像块。
结合本申请任一实施方式,所述至少两个待配准图像块还包括第九图像块,所述至少两个参考图像块还包括第十图像块;
所述第三处理单元,用于:
对所述第九图像块和所述第十图像块进行配准处理,得到所述第九图像块的配准信息;
依据所述第七图像块的配准信息和所述第九图像块的配准信息,得到所述第二待配准图像的配准信息;
依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述第三处理单元,用于:
依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息;
依据所述第七配准信息对所述第三图像块进行修正得到第二修正后的图像块;
对所述第二修正后的图像块和所述第五图像块进行配准处理,得到所述第二修正后的图像块的配准信息;
依据所述第二修正后的图像块的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述第二待配准图像包括第三像素点,所述第三像素点通过对所述第一待配准图像中的至少两个第四像素点进行所述下采样处理得到;
所述第三处理单元,用于:
将所述第二待配准图像的配准信息作为所述第三像素点的配准信息;
依据所述第三像素点的配准信息,得到所述至少两个第四像素点的配准信息;
依据所述至少两个第四像素点的配准信息,得到所述第七配准信息。
结合本申请任一实施方式,所述第一处理单元,用于:
对所述第三图像块和所述第五图像块进行搜索配准处理,得到所述第一配准信息;
对所述第四图像块和所述第六图像块进行搜索配准处理,得到所述第二配准信息。
结合本申请任一实施方式,所述获取单元,用于:
获取所述第一待配准图像和所述第一参考图像;
以相同的分块方式分别对所述第一待配准图像和所述第一参考图像进行分块,得到所述第一待配准图像的所述至少两个第一图像块和所述第一参考图像的所述至少两个第二图像块。
结合本申请任一实施方式,所述第三图像块在所述第一待配准图像中的位置与所述第五图像块在所述第一参考图像中的位置相同。
结合本申请任一实施方式,所述图像处理装置还包括:
第五处理单元,用于使用所述第四配准信息对所述第一待配准图像中的所述第三图像块进行配准处理,得到配准后的图像;
融合单元,用于对所述配准后的图像和所述第一参考图像进行融合处理,得到融合后的图像。
第三方面,提供了一种处理器,所述处理器用于执行如上述第一方面及其任意一种可能实现的方式的方法。
第四方面,提供了一种电子设备,包括:处理器、发送装置、输入装置、输出装置和存储器,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,在所述处理器执行所述计算机指令的情况下,所述电子设备执行如上述第一方面及其任意一种可能实现的方式的方法。
第五方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,在所述程序指令被处理器执行的情况下,使所述处理器执行如上述第一方面及其任意一种可能实现的方式的方法。
第六方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序或指令,在所述计算机程序或指令在计算机上运行的情况下,使得所述计算机执行上述第一方面及其任一种可能的实现方式的方法。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本申请。
附图说明
为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例或背景技术中所需要使用的附图进行说明。
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本申请的实施例,并与说明书一起用于说明本申请的技术方案。
图1为本申请实施例提供的一种像素坐标系的示意图;
图2为本申请实施例提供的一种图像处理方法的流程示意图;
图3为本申请实施例提供的一种在图像中移动图像块的示意图;
图4a为本申请实施例提供的一种第一待配准图像的示意图;
图4b为本申请实施例提供的一种第二待配准图像的示意图;
图5a为本申请实施例提供的一种第一待配准图像的示意图;
图5b为本申请实施例提供的一种第二待配准图像的示意图;
图5c为本申请实施例提供的一种第九图像块的示意图;
图5d为本申请实施例提供的一种第三图像块的示意图;
图6为本申请实施例提供的一种图像处理装置的结构示意图;
图7为本申请实施例提供的一种图像处理装置的硬件结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上,“至少两个(项)”是指两个或三个及三个以上,“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
在图像处理领域中,图像质量与图像携带的信息呈正相关,通过对至少两张图像中进行提升图像质量处理(如:融合处理),可利用至少两张图像中的信息,提高图像的质量。由于在不同的图像中与同一物理点对应的像素点的位置不同,在对至少两张图像进行处理之前,需要对至少两张图像进行配准。在目前的图像配准方法中,通过对待配准图像和参考图像进行图像配准处理,可得到待配准图像的配准信息,即待配准图像中所有像素点的配准信息均相同。
由于在成像设备采集图像的过程中,成像设备的拍摄场景内的不同物体的运动状态可能不一致。在成像设备采集到的图像中,若两个像素点对应的物体的运动状态不一致,下文将称这两个像素点的运动不一致。
例如,使用相机拍摄处于高速运动状态下的汽车得到图像a。由于在相机采集图像a的过程中,汽车的运动状态与拍摄场景内的其他背景的运动状态不同,在图像a中,与汽车对应的像素点与除与汽车对应的像素点之外的像素点的运动不一致。
显然,运动不一致的像素点的配准信息不同,而在目前的方法中,通过对待配准图像和参考图像进行图像配准处理,得到的运动不一致的像素点的配准信息相同,这将导致配准信息不准确。
本申请实施例提供了一种图像配准方法,可提高配准信息的精度。本申请实施例的执行主体为图像处理装置,可选的,图像处理装置可以是以下中的一种:手机、计算机、服务器、平板电脑。
在进行接下来的阐述之前,首先对本申请实施例中的像素坐标系进行定义。本申请实施例中的像素坐标系用于表示像素点在图像中的位置,其中,横坐标用于表示像素点所在的列数,纵坐标用于表示像素点所在的行数。例如,在图1所示的图像中,以图像的左上角为坐标原点O、平行于图像的行的方向为X轴的方向、平行于图像的列的方向为Y轴的方向,构建像素坐标系为XOY。横坐标和纵坐标的单位均为像素点。例如,图1中的像素点A11的坐标为(1,1),像素点A23的坐标为(3,2),像素点A42的坐标为(2,4),像素点A34的坐标为(4,3)。
下面结合本申请实施例中的附图对本申请实施例进行描述。请参阅图2,图2是本申请实施例提供的一种图像处理方法的流程示意图。
201、获取第一待配准图像和第一参考图像,其中,上述第一待配准图像包括至少两个第一图像块,上述第一参考图像中包括至少两个第二图像块,上述至少两个第一图像块包括第三图像块和第四图像块,上述至少两个第二图像块包括第五图像块和第六图像块。
本申请实施例中,第一待配准图像可以包含任意内容。例如,第一待配准图像可以包括道路。又例如,第一待配准图像可以包括道路和车辆。再例如,第一待配准图像还可以包括人。本申请对第一待配准图像中的内容不做限定。
本申请实施例中,第一参考图像可以包含任意内容。例如,第一参考图像可以包括道路。又例如,第一参考图像可以包括道路和车辆。再例如,第一参考图像还可以包括人。本申请对第一参考图像中的内容不做限定。
第一待配准图像包括至少两个第一图像块,第一参考图像包括至少两个第二图像块,其中,至少两个第一图像块包括第三图像块和第四图像块,至少两个第二图像块包括第五图像块和第六图像块。
在一种获取第一待配准图像的实现方式中,图像处理装置接收用户通过输入组件输入的第一待配准图像。上述输入组件包括:键盘、鼠标、触控屏、触控板和音频输入器等。
在另一种获取第一待配准图像的实现方式中,图像处理装置接收第一终端发送的第一待配准图像。可选的,第一终端可以是以下任意一种:手机、计算机、平板电脑、服务器、可穿戴设备。
在又一种获取第一待配准图像的实现方式中,图像处理装置可以通过成像组件采集得到第一待配准图像。可选的,上述成像组件可以是摄像头。
在一种获取第一参考图像的实现方式中,图像处理装置接收用户通过输入组件输入的第一参考图像。上述输入组件包括:键盘、鼠标、触控屏、触控板和音频输入器等。
在另一种获取第一参考图像的实现方式中,图像处理装置接收第二终端发送的第一参考图像。可选的,第二终端可以是以下任意一种:手机、计算机、平板电脑、服务器、可穿戴设备。
在又一种获取第一参考图像的实现方式中,图像处理装置可以通过成像组件采集得到第一参考图像。可选的,上述成像组件可以是摄像头。
在又一种获取第一待配准图像和第一参考图像的实现方式中,图像处理装置获取待处理视频流,将待处理视频流中的第一帧图像作为参考图像,将待处理视频流中除第一帧图像之外的任意一帧图像作为第一待配准图像。
本申请实施例中,第一待配准图像包括至少两个第一图像块,第一参考图像块包括至少两个第二图像块。
可选的,在图像处理装置获取到第一待配准图像和第一参考图像后,通过对第一待配准图像进行分块得到至少两个第一图像块,通过对第一参考图像进行分块得到至少两个第二图像块。
本申请实施例中,图像处理装置可以以任意分块方式将第一待配准图像分成至少两个第一图像块,图像处理装置也可以以任意分块方式将第一参考图像分成至少两个第二图像块。图像处理装置对第一待配准图像的分块方式和图像处理装置对第一参考图像的分块方式可以相同,也可以不同,本申请对此不做限定。
例如,第一待配准图像的尺寸为100*10,图像处理装置通过将第一待配准图像进行分块,得到10个尺寸为10*10的图像块。第一参考图像的尺寸为100*10,图像处理装置通过将第一参考图像进行分块,得到20个尺寸为5*10的图像块。
又例如,第一待配准图像的尺寸为100*10,图像处理装置通过将第一待配准图像进行分块,得到10个尺寸为10*10的图像块。第一参考图像的尺寸为100*10,图像处理装置通过将第一参考图像进行分块,得到10个尺寸为10*10的图像块。
再例如,第一待配准图像的尺寸为100*10,图像处理装置通过将第一待配准图像进行分块,得到10个尺寸为10*10的图像块。第一参考图像的尺寸为50*10,图像处理装置通过将第一参考图像进行分块,得到10个尺寸为5*10的图像块。
再例如,第一待配准图像的尺寸为100*10,图像处理装置通过将第一待配准图像进行分块,得到10个尺寸为10*10的图像块。第一参考图像的尺寸为50*10,图像处理装置通过将第一参考图像进行分块,得到5个尺寸为10*10的图像块。
图像处理装置通过对第一待配准图像进行分块得到至少两个第一图像块,图像处理装置通过对第一参考图像进行分块得到至少两个第二图像块。其中,至少两个第一图像块包括第三图像块和第四图像块,至少两个第二图像块包括第五图像块和第六图像块。
202、对上述第三图像块和上述第五图像块进行配准处理得到上述第三图像块的第一配准信息,对上述第四图像块和上述第六图像块进行配准处理得到上述第四图像块的第二配准信息。
本申请实施例中,图像配准处理用于确定两张图像之间的配准信息,配准信息可以是以下之一:位移矢量、旋转矩阵、仿射矩阵、透射矩阵。
图像处理装置通过对第三图像块和第五图像块进行配准处理,得到第三图像块的第一配准信息。例如,图像处理装置通过对第三图像块和第五图像块进行配准处理,可得到第三图像块的位移矢量。又例如,图像处理装置通过对第三图像块和第五图像块进行配准处理,可得到第三图像块的旋转矩阵。
图像处理装置通过对第四图像块和第六图像块进行配准处理,得到第四图像块的第二配准信息。例如,图像处理装置通过对第四图像块和第六图像块进行配准处理,可得到第四图像块的位移矢量。又例如,图像处理装置通过对第四图像块和第六图像块进行配准处理,可得到第四图像块的仿射矩阵。
203、依据上述第一配准信息和上述第二配准信息,得到上述第一待配准图像的第三配准信息。
第一配准信息为第三图像块的配准信息,第二配准信息为第四图像块的配准信息。图像处理装置依据第一配准信息和第二配准信息,得到第一待配准图像的第三配准信息,可以实现依据局部配准信息,得到第一待配准图像的全局配准信息。
在一种可能实现的方式中,第一配准信息包括第一位移矢量,第二配准信息包括第二位移矢量。图像处理装置依据第一位移矢量和第二位移矢量,可得到第一待配准图像的仿射变换矩阵,作为第三配准信息。
在另一种可能实现的方式中,第一配准信息包括第一位移矢量,第二配准信息包括第二位移矢量。图像处理装置依据第一位移矢量和第二位移矢量,可得到第一待配准图像的透射变换矩阵,作为第三配准信息。
在一种可能实现的方式中,第一配准信息包括第一位移矢量,第二配准信息包括第二位移矢量。图像处理装置通过确定第一位移矢量和第二位移矢量的均值,可得到第三配准信息。
在又一种可能实现的方式中,第一配准信息包括第一旋转矩阵,第二配准信息包括第二旋转矩阵。图像处理装置依据第一旋转矩阵和第二旋转矩阵,可得到第一待配准图像的仿射变换矩阵,作为第三配准信息。
204、依据上述第一配准信息和上述第三配准信息,得到上述第一待配准图像中第三图像块的第四配准信息。
由于在成像设备采集图像的过程中,成像设备的拍摄场景内的不同物体的运动状态可能不一致,成像设备采集到的图像中,若两个像素点对应的物体的运动状态不一致,称这两个像素点的运动不一致。
例如,使用相机拍摄处于高速运动状态下的汽车得到图像a。由于在相机采集图像a的过程中,汽车的运动状态与拍摄场景内的其他背景的运动状态不同,在图像a中,与汽车对应的像素点与除与汽车对应的像素点之外的像素点的运动不一致。
本申请实施例中,第一配准信息为第一待配准图像中的局部配准信息,第三配准信息为第一待配准信息的全局配准信息。图像处理装置依据第一配准信息和第三配准信息,得到第三图像块的第四配准信息,既可利用第一待配准图像的全局配准信息提升第三图像块的配准信息的精度。又可利用第三图像块的局部配准信息,减少由于第三图像块中的像素点与第一待配准图像中除第三图像块之外的像素点之间的运动不一致而对第三图像块的配准信息的影响,进一步提升第三图像块的配准信息的精度。
在一种可能实现的方式中,图像处理装置依据第一配准信息与第三配准信息中精度最高的配准信息,得到第四配准信息。例如,图像处理装置依据第一配准信息使第三图像块在第一待配准图像中移动,得到第一中间图像块。计算第一中间图像块与第五图像块之间的相似度,作为第一配准信息的精度。图像处理装置依据第三配准信息使第三图像块在第一待配准图像中移动,得到第二中间图像块。计算第二中间图像块与第五图像块之间的相似度,作为第三配准信息的精度。
本申请实施例中,将图像块在图像中移动可参见下例:如图3所示,图像块1包括:像素点A32、像素点A33、像素点A42、像素点A43。图像处理装置将图像块1在图像A中移动(1,0),可得到的图像块2或图像块3,其中,图像块2包括:像素点A31、像素点A32、像素点A41、像素点A42,图像块3包括:像素点A33、像素点A34、像素点A43、像素点A44;图像处理装置将图像块1在图像A中移动(0,1),可得到的图像块4或图像块5,其中,图像块4包括:像素点A22、像素点A23、像素点A32、像素点A33,图像块5包括:像素点A42、像素点A43、像素点A52、像素点A53。
假设第一配准信息的精度为88%,第三配准信息的精度为90%。可选的,图像处理装置将第三配准信息作为第四配准信息。
在另一种可能实现的方式中,图像处理装置可依据第一配准信息的精度和第三配准信息的精度,确定第一配准信息的权重和第三配准信息的权重。使用第一配准信息的权重和第三配准信息的权重,对第一配准信息和第三配准信息进行加权求和,得到第四配准信息。
在又一种可能实现的方式中,图像处理装置将第一配准信息与第三配准信息的均值作为第四配准信息。例如,第一配准信息包括第一位移矢量,第三配准信息包括第三位移矢量,图像处理装置通过确定第一位移矢量和第三位移矢量的均值得到第四位移矢量,作为第四配准信息。
作为一种可选的实施方式,图像处理装置在执行步骤201的过程中执行以下步骤:
211、获取上述第一待配准图像和上述第一参考图像。
图像处理装置获取第一待配准图像的实现方式和图像处理装置获取第一参考图像的实现方式,可参见步骤201,此处将不再赘述。
212、以相同的分块方式分别对上述第一待配准图像和上述第一参考图像进行分块,得到上述第一待配准图像的上述至少两个第一图像块和上述第一参考图像的上述至少两个第二图像块。
图像处理装置以第一分块方式对第一待配准图像进行分块得到至少两个第一图像块,图像处理装置通过以第一分块方式对所述第一参考图像进行分块得到至少两个第二图像块,即图像处理装置对第一待配准图像进行分块所采用的分块方式与图像处理装置对第一参考图像进行分块所采用的分块方式相同。
例如,第一待配准图像的尺寸和第一参考图像的尺寸均为100*10。第一分块方式为将图像分成若干个10*10的图像块。图像处理装置以第一分块方式对第一待配准图像进行分块,可得到10个第一图像块,图像处理装置以第一分块方式对第一参考图像进行分块,可得到10个第二图像块。
又例如,第一待配准图像的尺寸为100*10,第一参考图像的尺寸为110*10。第一分块方式为将图像分成若干个10*10的图像块。图像处理装置以第一分块方式对第一待配准图像进行分块,可得到10个第一图像块,图像处理装置以第一分块方式对第一参考图像进行分块,可得到11个第二图像块。
作为一种可选的实施方式,第一待配准图像的尺寸与第一参考图像的尺寸相同。在第一待配准图像的尺寸与第一参考图像的尺寸不同的情况下,图像处理装置可通过对第一待配准图像进行剪裁和/或对第一参考图像进行剪裁,使第一待配准图像的尺寸与第一参考图像的尺寸相同;或者,图像处理装置可通过对第一待配准图像进行下采样处理和/或对第一参考图像进行下采样处理,使第一待配准图像的尺寸与第一参考图像的尺寸相同。
作为一种可选的实施方式,第三图像块在第一待配准图像中的位置与第五图像块在第一参考图像中的位置相同,第四图像块在第一待配准图像中的位置与第六图像块在第一参考图像中的位置相同。
本申请实施例中,图像处理装置可对图像块进行编号,而图像块在图像中的位置可以是图像块的编号。图像块在图像中的位置还可以是图像块的中心在像素坐标系下的坐标。本申请对图像块的位置的具体形式不做限定。
作为一种可选的实施方式,图像处理装置在执行步骤204的过程中执行以下步骤:
1、图像处理装置分别使用第一配准信息和第三配准信息,对第三图像块与第五图像块进行配准,得到两个第一配准结果。
本申请实施例中,图像处理装置使用配准信息(包括第一配准信息和第三配准信息),对第三图像块与第五图像块进行配准指,图像处理装置依据配准信息移动第三图像块,并计算移动后的图像块与第五图像块之间的相似度。
例如,第一配准信息包括第一位移矢量,第三配准信息包括第三位移矢量。图像处理装置使第三图像块在第一待配准图像中,按第一位移矢量移动得到第三中间图像块。图像处理装置使第第三图像块在第一参考图像中,按第三位移矢量移动得到第四中间图像块。图像处理装置计算第三中间图像块与第五图像块之间相似度(下文将称为第一相似度),得到第一配准结果1,第一配准结果1的精度为第一相似度。图像处理装置计算第四中间图像块与第五图像块之间相似度(下文将称为第二相似度),得到第一配准结果2,第一配准结果2的精度为第二相似度。此时,两个第一配准结果包括第一配准结果1和第一配准结果2。
2、依据两个第一配准结果中精度最高的配准结果对应的配准信息,得到第四配准信息。
假设第一相似度大于第二相似度,则两个第一配准结果中精度最高的配准结果为第一配准结果1,与第一配准结果1对应的配准信息为第一配准信息。此时,图像装置依据第一配准信息得到第四配准信息,如:将第一配准信息作为第四配准信息。
作为一种可选的实施方式,在执行步骤1之前,图像处理装置还执行以下步骤:
3、使用上述第三配准信息修正上述第一配准信息,得到上述第三图像块的第五配准信息。
由于第三配准信息为第一待配准图像的全局配准信息,第三配准信息不仅包含第三图像块的配准信息,还包含除第三图像块之外的图像块的配准信息(如第四图像块的配准信息)。考虑到图像中相邻像素点之间存在相关性(包括:语义相关性、运动相关性),图像处理装置使用第三配准信息修正第一配准信息,可利用除第三图像块之外的图像块的配准信息修正第三图像块的配准信息(即第一配准信息),提升第三图像块的配准信息的精度。
例如,图像处理装置依据第一配准信息在第一待配准图像中移动第三图像块,得到移动后的图像块。在移动后的图像块与第五图像块中可匹配上的特征点的数量较少的情况下,通过计算移动后的图像块与第五图像块之间的相似度,得到的配准结果的精度较低。进而会影响第三图像块的配准信息的精度。此时,图像处理装置使用第三配准信息修正第三图像的配准信息,可提升第三图像块的配准信息的精度。
在一种可能实现的方式中,图像处理装置通过计算第一配准信息和第三配准信息的均值,得到第五配准信息。
在另一种可能实现的方式中,图像处理装置将第一配准信息和第三配准信息的均值的变形(如均值与常数的和、均值与常数的乘积、均值的n次幂)作为第五配准信息。
可选的,在执行步骤1之前,图像处理装置使用第三配准信息修正第二配准信息,得到修正后的第二配准信息。
在得到第五配准信息后,图像处理装置在执行步骤1的过程中执行以下步骤:
4、分别使用上述第三配准信息和上述第五配准信息,将上述第三图像块与上述第五图像块进行配准得到上述两个第一配准结果。
图像处理装置分别使用修正后的第一配准信息(即第五配准信息)和第三配准信息,得到上述两个第一配准结果。从而提升第一配准结果的精度。
作为一种可选的实施方式,图像处理装置在执行步骤202的过程中执行以下步骤:
5、对上述第三图像块和上述第五图像块进行搜索配准处理得到上述第一配准信息,对上述第四图像块和上述第六图像块进行搜索配准处理得到上述第二配准信息。
本申请实施例中,搜索配准处理的含义可参见下例(例1):假设图像块1为图像a的图像块,图像块2为图像b的图像块。搜索步长为(1,1),搜索范围为(3,3)。在第一次搜索配准的过程中,计算图像块1与图像块2之间的相似度得到相似度A。将(0,0)作为第一次搜索配准的配准信息,将相似度A作为第一次搜索配准的配准结果。在第二次搜索配准的过程中,将图像块1在图像a中移动(1,1)的距离,得到图像块3。计算图像块3与图像块2之间的相似度得到相似度B。将(1,1)作为第二次搜索配准的配准信息,将相似度B作为第二次搜索配准的配准结果。在第三次搜索配准的过程中,将图像块3移动(1,1)的距离,得到图像块4,…,直到搜索完搜索范围内的所有图像块,得到至少一个配准信息和至少一个配准结果。
应理解,本申请实施例中,搜索步长中的长度和搜索范围中的长度均为像素坐标系下的长度。如例1中的搜索步长为(1,1),表征在像素坐标系的横轴方向上的移动距离为1个单位,且在像素坐标系的纵轴方向上的移动距离也为1个单位。搜索范围(3,3),表征在横轴方向上距离搜索起始点的最大距离为3个单位,且在纵轴方向上距离搜索起始点的最大距离也为3个单位。
应理解,通过搜索配准处理得到的配准结果可作为通过搜索配准处理得到配准信息的精度。如在例1中,相似度A为第一次搜索配准的配准信息的精度,相似度B为第二次搜索配准的配准信息的精度。
图像处理装置通过对第三图像块和第五图像块进行搜索配准处理得到第一配准信息,可提高第一配准信息的精度。图像处理装置通过对第四图像块和第六图像块进行搜索配准处理得到第二配准信息,可提高第二配准信息的精度。
可选的,在图像处理装置通过对第三图像块和第五图像块进行搜索配准处理得到的配准信息的数量超过1的情况下,图像处理装置将精度最高的配准信息作为第一配准信息。
例如,图像处理装置通过执行2次搜索配准处理,实现对第三图像块和第五图像块的搜索配准处理。图像处理装置通过执行第一次搜索配准处理,得到配准信息1和配准结果1。图像处理装置通过执行第二次搜索配准处理,得到配准信息2和配准结果2。在配准结果1的精度高于配准结果2的情况下,图像处理装置可将配准信息1作为第一配准信息;在配准结果2的精度高于配准结果1的情况下,图像处理装置可将配准信息2作为第一配准信息。
可选的,在图像处理装置通过对第四图像块和第六图像块进行搜索配准处理得到的配准信息的数量超过1的情况下,图像处理装置可将精度最高对应的配准信息作为第二配准信息。
作为一种可选的实施方式,在执行步骤5之前,图像处理装置获取第三图像块的第一搜索步长、第四图像块的第二搜索步长、第三图像块的第一搜索范围和第四图像块的第二搜索范围。图像处理装置以第一搜索步长在第一搜索范围内对第三图像块和第五图像块进行搜索配准处理,得到第一配准信息。图像处理装置以第二搜索步长在第二搜索范围内对第四图像块和第六图像块进行搜索配准处理,得到第二配准信息。
通过在第一搜索范围内对第三图像块和第五图像块进行搜索配准处理、以及在第二搜索范围内对第四图像块和第六图像块进行搜索配准处理,可减少图像处理装置的数据处理量。可选的,第一搜索步长和第二搜索步长相等,第一搜索范围和第二搜索范围相等。
作为一种可选的实施方式,在执行步骤204的过程中执行以下步骤:
6、对上述第一待配准图像进行下采样处理得到第二待配准图像,对上述第一参考图像进行下采样处理得到第二参考图像。
图像处理装置通过对第一待配准图像进行下采样处理,降低第一待配准图像的分辨率,得到第二待配准图像。图像处理装置通过对第一参考图像进行下采样处理,降低第一参考图像的分辨率,得到第二参考图像。可选的,第二待配准图像的分辨率与第二参考图像的分辨率相同。
7、将上述第二待配准图像分成至少两个待配准图像块,将上述第二参考图像分成至少两个参考图像块,其中,上述至少两个待配准图像块包括第七图像块,上述至少两个参考图像块包括第八图像块。
本步骤中,对图像的分块的实现方式可参见步骤201中对图像的分块的实现方式,此处将不再赘述。
可选的,图像处理装置以第二分块方式对第二待配准图像进行分块,得到至少两个待配准图像块。图像处理装置并以第二分块方式对第二参考图像进行分块,得到至少两个参考图像块。即图像处理装置对第二待配准图像的分块方式和图像处理装置对第二参考图像的分块方式相同。
8、对上述第七图像块和上述第八图像块进行配准处理,得到上述第七图像块的配准信息。
本步骤中,配准处理的实现方式可参见步骤202中的配准处理的实现方式,此处将不再赘述。
图像处理装置通过对第七图像块和第八图像块进行配准处理,得到第七图像块的配准信息。
可选的,图像处理装置可通过对第七图像块和第八图像块进行搜索配准处理,得到第七图像块的配准信息,以提高第七图像块的配准信息的精度。
9、依据上述第七图像块的配准信息和上述第三配准信息,得到上述第一待配准图像中上述第三图像块的上述第四配准信息。
在一种可能实现的方式中,第七图像块通过对第一待配准图像中的第一像素点区域进行下采样处理得到。图像处理装置将第七图像块的配准信息作为第一像素点区域的配准信息(下文将称为第一下采样配准信息)。由于第一图像块和第一像素点区域均属于第一待配准图像,第一图像块与第一像素点区域之间存在相关性。因此,图像处理装置可依据第一下采样配准信息,得到第一图像块的配准信息(下文将称为第二下采样配准信息)。图像处理装置进而可依据第二下采样配准信息和第三配准信息,得到第一待配准图像中第三图像块的第四配准信息。
在该种实现方式中,图像处理装置通过将第三图像块的第一配准信息更新为第一下采样配准信息,达到修正第三图像块的配准信息的效果,从而提升第四配准信息的精度。
在另一种可能实现的方式中,图像处理装置可将第一下采样配准信息作为第一待配准图像的配准信息,进而可依据第一配准信息和第一下采样配准信息,得到第一待配准图像中第三图像块的第四配准信息。
在该种实现方式中,图像处理装置通过将第一待配准图像的第一配准信息更新为第一下采样配准信息,达到修正第三图像块的配准信息的效果,从而提升第四配准信息的精度。
作为一种可选的实施方式,图像处理装置在执行步骤9的过程中执行以下步骤:
10、依据上述第七图像块的配准信息对上述第三图像块进行修正得到第一修正后的图像块。
由于第二待配准图像通过对第一待配准图像进行下采样处理得到,且第七图像块为第二待配准图像中的像素点区域,第七图像块中的像素点与第一待配准图像中的像素点之间存在第一映射关系。因此图像处理装置可依据该第一映射关系和第七图像块的配准信息,得到第三图像块的第六配准信息,进而可依据第三图像块的第六配准信息修正第三图像块的位置。
例如,图像处理装置对图4a所示的第一待配准图像进行下采样处理,得到图4b所示的第二待配准图像。则像素点B与像素点A11、像素点A12、像素点A21、像素点A22之间存在第一映射关系。此时,第一像素点为像素点B,第二像素点包括:像素点A11、像素点A12、像素点A21、像素点A22。
在一种可能实现的方式中,第七图像块包括第一像素点,第一像素点通过对第一待配准图像中的至少两个第二像素点进行下采样处理得到,即第一像素点和至少两个第二像素点之间存在第一映射关系。图像处理装置将第七图像块的配准信息作为第一像素点的配准信息。由于第一像素点与至少两个像素点之间存在第一映射关系,图像处理装置可依据第一像素点的配准信息,得到至少两个第二像素点的配准信息。图像处理装置进而可依据至少两个第二像素点的配准信息,得到第三图像块的第六配准信息。
可选的,图像处理装置可将第一像素点的配准信息作为至少两个第二像素点的配准信息。
在至少两个第二像素点属于第三图像块的情况下,可选的,图像处理装置将至少两个第二像素点的配准信息作为第三图像块的第六配准信息。
假设至少两个第二像素点包括第一参考像素点,在第一参考像素点不属于第三图像块的情况下,图像处理装置首先计算第一参考像素点与第三图像块之间的距离(可以是以下中的一种:像素坐标系下的距离、欧式距离),再依据该距离和至少两个第二像素点的配准信息,得到第三图像块的第六配准信息。其中,第三图像块的第六配准信息与该距离呈负相关。
例如,图像处理装置对图5a所示的第一待配准图像进行下采样处理,得到图5b所示的第二待配准图像。其中,像素点B11依据像素点A11、像素点A12、像素点A21、像素点A22得到;像素点B12依据像素点A13、像素点A14、像素点A23、像素点A24进行下采样处理得到,即一个下采样窗口包括像素点A13、像素点A14、像素点A23、像素点A24,图像处理装置依据像素点A13的像素值、像素点A14的像素值、像素点A23的像素值和像素点A24的像素值,确定像素点B12的像素值。
那么,像素点A11、像素点A12、像素点A21、像素点A22与像素点B11之间均存在第一映射关系,即像素点B11的配准信息、像素点A11的配准信息、像素点A12的配准信息、像素点A21的配准信息、像素点A22的配准信息均相等。
同理,像素点B12的配准信息、像素点A13的配准信息、像素点A14的配准信息、像素点A23的配准信息、像素点A24的配准信息均相等;像素点B13的配准信息、像素点A15的配准信息、像素点A16的配准信息、像素点A25的配准信息、像素点A26的配准信息均相等;像素点B14的配准信息、像素点A17的配准信息、像素点A18的配准信息、像素点A27的配准信息、像素点A28的配准信息均相等;
像素点B21的配准信息、像素点A31的配准信息、像素点A32的配准信息、像素点A41的配准信息、像素点A42的配准信息均相等;像素点B22的配准信息、像素点A33的配准信息、像素点A34的配准信息、像素点A43的配准信息、像素点A44的配准信息均相等;像素点B23的配准信息、像素点A35的配准信息、像素点A36的配准信息、像素点A45的配准信息、像素点A46的配准信息均相等;像素点B24的配准信息、像素点A37的配准信息、像素点A38的配准信息、像素点A47的配准信息、像素点A48的配准信息均相等;
像素点B31的配准信息、像素点A51的配准信息、像素点A52的配准信息、像素点A61的配准信息、像素点A62的配准信息均相等;像素点B32的配准信息、像素点A53的配准信息、像素点A54的配准信息、像素点A63的配准信息、像素点A64的配准信息均相等;像素点B33的配准信息、像素点A55的配准信息、像素点A56的配准信息、像素点A65的配准信息、像素点A66的配准信息均相等;像素点B34的配准信息、像素点A57的配准信息、像素点A58的配准信息、像素点A67的配准信息、像素点A68的配准信息均相等;
像素点B41的配准信息、像素点A71的配准信息、像素点A72的配准信息、像素点A81的配准信息、像素点A82的配准信息均相等;像素点B42的配准信息、像素点A73的配准信息、像素点A74的配准信息、像素点A83的配准信息、像素点A84的配准信息均相等;像素点B43的配准信息、像素点A75的配准信息、像素点A76的配准信息、像素点A85的配准信息、像素点A86的配准信息均相等;像素点B44的配准信息、像素点A77的配准信息、像素点A78的配准信息、像素点A87的配准信息、像素点A88的配准信息均相等。
图像处理装置对图5b所示的第二待配准图像分块,得到图5c所示的第七图像块。则第七图像块的配准信息、像素点B11的配准信息、像素点B12的配准信息、像素点B13的配准信息、像素点B14的配准信息均相等。也就是说,第七图像块的配准信息、像素点A11的配准信息、像素点A12的配准信息、像素点A21的配准信息、像素点A22的配准信息、像素点A13的配准信息、像素点A14的配准信息、像素点A23的配准信息、像素点A24的配准信息、像素点A31的配准信息、像素点A32的配准信息、像素点A41的配准信息、像素点A42的配准信息、像素点A33的配准信息、像素点A34的配准信息、像素点A43的配准信息、像素点A44的配准信息均相等。
假设图像处理装置对图5a所示的第一待配准图像进行分块,得到图5d所示的第三图像块,即第三图像块包含像素点A11、像素点A12、像素点A21、像素点A22。此时,图像处理装置可以依据像素点A11的配准信息、像素点A12的配准信息、像素点A21的配准信息和像素点A22的配准信息,得到第三图像块的配准信息。进而实现依据第七图像块的配准信息得到第三图像块的第六配准信息。
由于第二待配准图像的分辨率比第一待配准图像的分辨率低、第二参考图像的分辨率比第一参考图像的分辨率低,第七图像块的分辨率比第三图像的分辨率低、第八图像块的分辨率比第五图像块的分辨率低。图像处理装置通过对第七图像块和第八图像块进行配准处理,得到第七图像块的配准信息,并依据第七图像块的配准信息得到第三图像块的第六配准信息,可减少数据处理量。
在得到第三图像块的第六配准信息后,图像处理装置可依据第三图像块的第六配准信息,使第三图像块在第一待配准图像中移动,得到第一修正后的图像块,以达到依据第三图像块的第六配准信息校正第三图像块的位置的效果。
11、对上述第一修正后的图像块和上述第五图像块进行配准处理得到上述第一修正后的图像块的配准信息。
在本申请实施例中,图像处理装置首先使用第三图像块的第六配准信息校正第三图像块的位置,得到第一修正后的图像块。再对第一修正后的图像块和第五图像块进行配准处理,得到第一修正后的图像块的配准信息。这样,可提高第三图像块的配准信息的精度(即可提高第一配准信息的精度)。
可选的,图像处理装置可通过对第一修正后的图像块和第五图像块进行搜索配准处理,得到第一修正后的图像块的配准信息,进一步提高第三图像块的配准信息(即第一配准信息)的精度。
12、依据上述第一修正后的图像块的配准信息和上述第三配准信息,得到上述第一待配准图像中上述第三图像块的第四配准信息。
如上所述,图像处理装置通过执行上述步骤10和步骤11,可提高第三图像块的配准信息的精度,得到第一修正后的图像块的配准信息。因此,图像处理装置依据第一修正后的图像块的配准信息和第三配准信息,得到第四配准信息,可提高第四配准信息的精度。
作为一种可选的实施方式,至少两个待配准图像块还包括第九图像块,至少两个参考图像块还包括第十图像块。图像处理装置在执行步骤203的过程中,执行以下步骤:
13、对上述第九图像块和上述第十图像块进行配准处理,得到上述第九图像块的配准信息。
本步骤中,配准处理的实现方式可参见步骤203中的配准处理的实现方式,此处将不再赘述。
图像处理装置通过对第九图像块和第十图像块进行配准处理,得到第九图像块的配准信息。
可选的,图像处理装置可通过对第九图像块和第十图像块进行搜索配准处理,得到第九图像块的配准信息,以提高第九图像块的配准信息的精度。
14、依据上述第七图像块的配准信息和上述第九图像块的配准信息,得到上述第二待配准图像的配准信息。
图像处理装置通过依据第六配准信息和第十一配准信息,得到第二待配准图像的配准信息,可以实现依据第二待配准图像的局部配准信息,得到第二待配准图像的全局配准信息。
在一种可能实现的方式中,第七图像块的配准信息包括第五位移矢量,第九图像块的配准信息包括第六位移矢量。图像处理装置依据第五位移矢量和第六位移矢量,可得到第二待配准图像的仿射变换矩阵,作为第二待配准图像的配准信息。
在另一种可能实现的方式中,第七图像块的配准信息包括第五位移矢量,第九图像块的配准信息包括第六位移矢量。图像处理装置依据第五位移矢量和第六位移矢量,可得到第二待配准图像的透射变换矩阵,作为第二待配准图像的配准信息。
在一种可能实现的方式中,第七图像块的配准信息包括第五位移矢量,第九图像块的配准信息包括第六位移矢量。图像处理装置通过确定第五位移矢量和第六位移矢量的均值,可得到第二待配准图像的配准信息。
在又一种可能实现的方式中,第七图像块的配准信息包括第三旋转矩阵,第九图像块的配准信息包括第四旋转矩阵。图像处理装置依据第三旋转矩阵和第四旋转矩阵,可得到第二待配准图像的仿射变换矩阵,作为第二待配准图像的配准信息。
15、依据上述第二待配准图像的配准信息和上述第二配准信息,得到上述第三配准信息。
在一种可能实现的方式中,第二待配准图像通过对第一待配准图像进行下采样处理得到。图像处理装置依据将第二待配准图像的配准信息作为第三图像块的配准信息(下文将称为第三下采样配准信息)。图像处理装置进而可依据第三下采样配准信息和第二配准信息,得到第一待配准图像的第三配准信息。
在该种实现方式中,图像处理装置通过将第三图像块的第一配准信息由更新为第三下采样配准信息,达到修正第三图像块的配准信息的效果,从而提升第三配准信息的精度。
在另一种可能实现的方式中,图像处理装置可将第一下采样配准信息作为第一待配准图像的配准信息,进而可依据第一配准信息和第一下采样配准信息,得到第一待配准图像中第三图像块的第四配准信息。
在该种实现方式中,图像处理装置通过将第三图像块的第一配准信息更新为第三下采样配准信息,达到修正第三图像块的配准信息的效果,从而提升第三配准信息的精度。
作为一种可选的实施方式,图像处理装置在执行步骤15的过程中执行以下步骤:
16、依据上述第二待配准图像的配准信息,得到上述第三图像块的第七配准信息。
由于第二待配准图像通过对第一待配准图像进行下采样处理得到,第二待配准图像中的像素点与第一待配准图像中的像素点之间存在映射关系(下文将称为第二映射关系)。
因此,图像处理装置可依据该第二映射关系和第二待配准图像的配准信息,得到第三图像块的第七配准信息。该实现过程可参见步骤10中,图像处理装置依据第一映射关系和第七图像块的配准信息,得到至少两个第二像素点的配准信息的实现过程。
在一种可能实现的方式中,第二待配准图像块包括第三像素点,第三像素点通过对第一待配准图像中的至少两个第四像素点进行下采样处理得到。图像处理装置将第二待配准图像的配准信息作为第三像素点的配准信息。由于第三像素点与至少两个第四像素点之间存在第二映射关系,图像处理装置可依据第三像素点的配准信息,得到至少两个第四像素点的配准信息。图像处理装置进而可依据至少两个第四像素点与第三图像块之间的相关性(包括至少两个第四像素点与第三图像块之间的欧式距离),基于至少两个第四像素点的配准信息,得到第七配准信息。
17、依据上述第七配准信息对上述第三图像块进行修正得到第二修正后的图像块。
在得到第七配准信息后,图像处理装置可依据第七配准信息,使第三图像块在第一待配准图像中移动,得到第二修正后的图像块,以达到依据第三图像块的第三配准信息校正第三图像块的位置的效果。
18、对上述第二修正后的图像块和上述第五图像块进行配准处理,得到上述第二修正后的图像块的配准信息。
在本申请实施例中,图像处理装置首先使用第三图像块的第七配准信息校正第三图像块的位置,得到第二修正后的图像块。再对第二修正后的图像块和第五图像块进行配准处理,得到第二修正后的图像块的配准信息。这样,可提高第三图像块的配准信息的精度(即可提高第一配准信息的精度)。
可选的,图像处理装置可通过对第二修正后的图像块和第五图像块进行搜索配准处理,得到第二修正后的图像块的配准信息,进一步提高第三图像块的配准信息(即第一配准信息)的精度。
19、依据上述第二修正后的图像块的配准信息和上述第二配准信息,得到上述第三配准信息。
图像处理装置依据第二修正后的图像块的配准信息和第二配准信息,可得到第一待配准图像的第三配准信息。
由于第二待配准图像的配准信息为第二待配准图像的全局配准信息,图像处理装置通过执行步骤17、步骤18和步骤19,得到第三配准信息,相当于将第二待配准图像的全局配准信息传递至第一待配准图像的全局配准信息中,以达到利用第二待配准图像的全局配准信息得到第一待配准图像的配准信息的效果。
作为一种可选的实施方式,图像处理装置可通过对第一待配准图像进行下采样处理,得到第一待配准图像的图像金字塔(下文将称为第一图像金字塔)。图像处理装置可通过对第一参考图像进行下采样处理,得到第一参考图像的图像金字塔(下文将称为第二图像金字塔)。第一图像金字塔包括第一待配准图像和第二待配准图像,第二图像金字塔包括第一参考图像和第二参考图像。
图像处理装置通过对第一图像金字塔中分辨率最低的图像(即第一图像金字塔的第一层,下文将称为第一最小图像)和第二图像金字塔中分辨率最低的图像(即第二图像金字塔的第一层,下文将称为第二最小图像),以相同的分块方式进行分块,得到至少两个第一尺度图像块和至少两个第二尺度图像块,其中,至少两个第一尺度图像块通过对第一最小图像进行分块得到,至少两个第二尺度图像块通过对第二最小图像进行分块得到。
图像处理装置对至少两个第一尺度图像块中的图像块和至少两个第二尺度图像块中的图像进行配准处理(该过程的实现方式可参见步骤8中,图像处理装置对至少两个待配准图像块中的图像块和至少两个参考图像块中的图像块进行配准处理的实现过程),可得到至少两个第一尺度图像块中的图像块的配准信息。
假设在第一图像金字塔中,位于第一最小图像上一层的图像为第三最小图像,在第二图像金字塔中,位于第二最小图像上一层的图像为第四最小图像。图像处理装置可以相同的分块方式对第三最小图像和第四最小图像进行分块,得到至少两个第三尺度图像块和至少两个第四图像块,其中,至少两个第三尺度图像块通过对第三最小图像进行分块得到,至少两个第四尺度图像块通过对第四最小图像进行分块得到。
如前文提到的第一映射关系和第二映射关系,第一最小图像中的像素点与第三最小图像中的像素点之间也存在映射关系。图像处理装置可依据第一最小图像中的像素点与第三最小图像中的像素点之间的映射关系、以及至少两个第一尺度图像块中的图像块的配准信息,得到至少两个第三尺度图像块中的图像块的局部分支配准信息。图像处理装置使用局部分支配准信息修正至少两个第三尺度图像块的位置,得到至少两个第一修正后的尺度图像块。
图像处理装置依据至少两个第一尺度图像块中的图像块的配准信息,可得到第一最小图像的配准信息。图像处理装置依据第一最小图像中的像素点与第三最小图像中的像素点之间的映射关系、以及第一最小图像的配准信息,得到至少两个第三尺度图像块中的图像块的全局分支配准信息。图像处理装置使用全局分支配准信息修正至少两个第三尺度图像块的位置,得到至少两个第二修正后的尺度图像块。
图像处理装置在对第一图像金字塔的第二层进行处理的过程中,通过对至少两个第一修正后的尺度图像块和至少两个第四尺度图像块进行配准处理,得到至少两个第一修正后的尺度图像块的配准信息。通过对至少两个第二修正后的尺度图像块和至少两个第四尺度图像块进行配准处理,得到至少两个第二修正后的尺度图像块的配准信息,并依据至少两个第二修正后的尺度图像块的配准信息得到第三最小图像的配准信息。
图像处理装置依次处理完第一图像金字塔中所有层,可得到第二配准信息和第四配准信息。
基于本申请实施例提供的技术方案,本申请实施例还提供了一种可能的应用场景。
随着手机的普及以及手机的拍照功能的提升,越来越多的人们使用手机进行拍照。但由于各种原因的存在,导致手机拍摄得到的图像的质量可能不佳,如:图像模糊、图像的曝光量不合适等等。因此,在手机拍摄得到的图像的质量不佳的情况下,需要对图像进行处理,以提高图像的质量,图像融合处理为其中之一。待融合的图像之间是否配准是决定图像融合处理的效果的关键,基于本申请实施例提供的技术方案,可提高待融合的图像的配准准确度,进而提升图像融合处理的效果。
作为一种可选的实施方式,在得到第四配准信息后,图像处理装置执行以下步骤:
20、使用上述第四配准信息对上述第一待配准图像中的上述第三图像块进行配准处理,得到配准后的图像。
图像处理装置使用第四配准信息移动第三图像块,以将第三图像块对齐第一参考图像中的像素点区域,得到配准后的图像。
应理解,图像处理装置通过前文所提及的技术方案可得到第一待配准图像中每个图像块的配准信息,进而可分别使用每个图像块的配准信息进行配准,得到配准后的图像。
21、对上述配准后的图像和上述第一参考图像进行融合处理,得到融合后的图像。
为提高图像的质量,图像处理装置对配准后的图像和第一参考图像进行融合处理,得到融合图像。
例如,在用户按下拍照快门键时,手机在短时间内采集了图像A和图像B。基于本申请实施例提供的技术方案,手机对图像A(即第一待配准图像)和图像B(即第一参考图像)进行处理,调整图像a中至少一个像素点的位置,实现将图像A向图像B配准,得到图像C(即配准后的图像)。手机对图像B和图像C进行融合处理,得到图像D,并将图像D呈现给用户。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
上述详细阐述了本申请实施例的方法,下面提供了本申请实施例的装置。
请参阅图6,图6为本申请实施例提供的一种图像处理装置的结构示意图,该图像处理装置1包括:获取单元11、第一处理单元12、第二处理单元13、第三处理单元14,其中:
获取单元11,用于获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,所述至少两个第一图像块包括第三图像块和第四图像块,所述至少两个第二图像块包括第五图像块和第六图像块;
第一处理单元12,用于对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息;
第二处理单元13,用于依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息;
第三处理单元14,用于依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
结合本申请任一实施方式,所述第三处理单元14,用于:
分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果;
依据所述两个第一配准结果中精度最高的配准结果对应的配准信息,得到所述第四配准信息。
结合本申请任一实施方式,所述图像处理装置1还包括:
第四处理单元15,用于在所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准得到两个第一配准结果之前,使用所述第三配准信息修正所述第一配准信息,得到所述第三图像块的第五配准信息;
所述第三处理单元14,用于:
分别使用所述第三配准信息和所述第五配准信息,对所述第三图像块与所述第五图像块进行配准,得到所述两个第一配准结果。
结合本申请任一实施方式,所述第三处理单元14,用于:
对所述第一待配准图像进行下采样处理得到第二待配准图像,对所述第一参考图像进行下采样处理得到第二参考图像;
将所述第二待配准图像分成至少两个待配准图像块,将所述第二参考图像分成至少两个参考图像块,其中,所述至少两个待配准图像块包括第七图像块,所述至少两个参考图像块包括第八图像块;
对所述第七图像块和所述第八图像块进行配准处理,得到所述第七图像块的配准信息;
依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息。
结合本申请任一实施方式,所述第三处理单元14,用于:
依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块;
对所述第一修正后的图像块和所述第五图像块进行配准处理得到所述第一修正后的图像块的配准信息;
依据所述第一修正后的图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
结合本申请任一实施方式,所述第七图像块包括第一像素点,所述第一像素点通过对所述第一待配准图像中的至少两个第二像素点进行所述下采样处理得到;
所述第三处理单元14,用于:
将所述第七图像块的配准信息作为所述第一像素点的配准信息;
依据所述第一像素点的配准信息,得到所述至少两个第二像素点的配准信息;
依据所述至少两个第二像素点的配准信息,得到所述第三图像块的第六配准信息;
使用所述第六配准信息修正所述第三图像块,得到所述第一修正后的图像块。
结合本申请任一实施方式,所述至少两个待配准图像块还包括第九图像块,所述至少两个参考图像块还包括第十图像块;
所述第三处理单元14,用于:
对所述第九图像块和所述第十图像块进行配准处理,得到所述第九图像块的配准信息;
依据所述第七图像块的配准信息和所述第九图像块的配准信息,得到所述第二待配准图像的配准信息;
依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述第三处理单元14,用于:
依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息;
依据所述第七配准信息对所述第三图像块进行修正得到第二修正后的图像块;
对所述第二修正后的图像块和所述第五图像块进行配准处理,得到所述第二修正后的图像块的配准信息;
依据所述第二修正后的图像块的配准信息和所述第二配准信息,得到所述第三配准信息。
结合本申请任一实施方式,所述第二待配准图像包括第三像素点,所述第三像素点通过对所述第一待配准图像中的至少两个第四像素点进行所述下采样处理得到;
所述第三处理单元14,用于:
将所述第二待配准图像的配准信息作为所述第三像素点的配准信息;
依据所述第三像素点的配准信息,得到所述至少两个第四像素点的配准信息;
依据所述至少两个第四像素点的配准信息,得到所述第七配准信息。
结合本申请任一实施方式,所述第一处理单元12,用于:
对所述第三图像块和所述第五图像块进行搜索配准处理,得到所述第一配准信息;
对所述第四图像块和所述第六图像块进行搜索配准处理,得到所述第二配准信息。
结合本申请任一实施方式,所述获取单元11,用于:
获取所述第一待配准图像和所述第一参考图像;
以相同的分块方式分别对所述第一待配准图像和所述第一参考图像进行分块,得到所述第一待配准图像的所述至少两个第一图像块和所述第一参考图像的所述至少两个第二图像块。
结合本申请任一实施方式,所述第三图像块在所述第一待配准图像中的位置与所述第五图像块在所述第一参考图像中的位置相同。
结合本申请任一实施方式,所述图像处理装置1还包括:
第五处理单元16,用于使用所述第四配准信息对所述第一待配准图像中的所述第三图像块进行配准处理,得到配准后的图像;
融合单元17,用于对所述配准后的图像和所述第一参考图像进行融合处理,得到融合后的图像。
本申请实施例中,第一配准信息为第一待配准图像中的局部配准信息,第三配准信息为第一待配准信息的全局配准信息。图像处理装置依据第一配准信息和第三配准信息,得到第三图像块的第四配准信息,既可利用第一待配准图像的全局配准信息提升第三图像块的配准信息的精度。又可利用第三图像块的局部配准信息,减少由于第三图像块中的像素点与第一待配准图像中除第三图像块之外的像素点之间的运动不一致而对第三图像块的配准信息的影响,进一步提升第三图像块的配准信息的精度。
在一些实施例中,本申请实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
图7为本申请实施例提供的一种图像处理装置的硬件结构示意图。该图像处理装置2包括处理器21,存储器22,输入装置23,输出装置24。该处理器21、存储器22、输入装置23和输出装置24通过连接器相耦合,该连接器包括各类接口、传输线或总线等等,本申请实施例对此不作限定。应当理解,本申请的各个实施例中,耦合是指通过特定方式的相互联系,包括直接相连或者通过其他设备间接相连,例如可以通过各类接口、传输线、总线等相连。
处理器21可以是一个或多个图形处理器(graphics processing unit,GPU),在处理器21是一个GPU的情况下,该GPU可以是单核GPU,也可以是多核GPU。可选的,处理器21可以是多个GPU构成的处理器组,多个处理器之间通过一个或多个总线彼此耦合。可选的,该处理器还可以为其他类型的处理器等等,本申请实施例不作限定。
存储器22可用于存储计算机程序指令,以及用于执行本申请方案的程序代码在内的各类计算机程序代码。可选地,存储器包括但不限于是随机存储记忆体(random accessmemory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasableprogrammable read only memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CD-ROM),该存储器用于相关指令及数据。
输入装置23用于输入数据和/或信号,以及输出装置24用于输出数据和/或信号。输入装置23和输出装置24可以是独立的器件,也可以是一个整体的器件。
可理解,本申请实施例中,存储器22不仅可用于存储相关指令,还可用于存储相关数据,如该存储器22可用于存储通过输入装置23获取的第一待配准图像,又或者该存储器22还可用于存储通过处理器21得到的第四配准信息等等,本申请实施例对于该存储器中具体所存储的数据不作限定。
可以理解的是,图7仅仅示出了一种图像处理装置的简化设计。在实际应用中,图像处理装置还可以分别包含必要的其他元件,包含但不限于任意数量的输入/输出装置、处理器、存储器等,而所有可以实现本申请实施例的图像处理装置都在本申请的保护范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。所属领域的技术人员还可以清楚地了解到,本申请各个实施例描述各有侧重,为描述的方便和简洁,相同或类似的部分在不同实施例中可能没有赘述,因此,在某一实施例未描述或未详细描述的部分可以参见其他实施例的记载。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者通过所述计算机可读存储介质进行传输。所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriberline,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,数字通用光盘(digital versatiledisc,DVD))、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:只读存储器(read-only memory,ROM)或随机存储存储器(random access memory,RAM)、磁碟或者光盘等各种可存储程序代码的介质。
Claims (16)
1.一种图像处理方法,其特征在于,所述方法包括:
获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,所述至少两个第一图像块包括第三图像块和第四图像块,所述至少两个第二图像块包括第五图像块和第六图像块;
对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息;
依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息;
依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息;所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息包括:利用所述第一待配准图像的全局配准信息和所述第三图像块的局部配准信息,重新确定所述第三图像块的局部配准信息,得到所述第四配准信息。
2.根据权利要求1所述的方法,其特征在于,所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息,包括:
分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果;
依据所述两个第一配准结果中精度最高的配准结果对应的配准信息,得到所述第四配准信息。
3.根据权利要求2所述的方法,其特征在于,所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准得到两个第一配准结果之前,所述方法还包括:
使用所述第三配准信息修正所述第一配准信息,得到所述第三图像块的第五配准信息;
所述分别使用所述第一配准信息和所述第三配准信息,对所述第三图像块与所述第五图像块进行配准,得到两个第一配准结果,包括:
分别使用所述第三配准信息和所述第五配准信息,对所述第三图像块与所述第五图像块进行配准,得到所述两个第一配准结果。
4.根据权利要求1所述的方法,其特征在于,所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息,包括:
对所述第一待配准图像进行下采样处理得到第二待配准图像,对所述第一参考图像进行下采样处理得到第二参考图像;
将所述第二待配准图像分成至少两个待配准图像块,将所述第二参考图像分成至少两个参考图像块,其中,所述至少两个待配准图像块包括第七图像块,所述至少两个参考图像块包括第八图像块;
对所述第七图像块和所述第八图像块进行配准处理,得到所述第七图像块的配准信息;
依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息。
5.根据权利要求4所述的方法,其特征在于,所述依据所述第七图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的所述第四配准信息,包括:
依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块;
对所述第一修正后的图像块和所述第五图像块进行配准处理得到所述第一修正后的图像块的配准信息;
依据所述第一修正后的图像块的配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息。
6.根据权利要求5所述的方法,其特征在于,所述第七图像块包括第一像素点,所述第一像素点通过对所述第一待配准图像中的至少两个第二像素点进行所述下采样处理得到;
所述依据所述第七图像块的配准信息对所述第三图像块进行修正得到第一修正后的图像块,包括:
将所述第七图像块的配准信息作为所述第一像素点的配准信息;
依据所述第一像素点的配准信息,得到所述至少两个第二像素点的配准信息;
依据所述至少两个第二像素点的配准信息,得到所述第三图像块的第六配准信息;
使用所述第六配准信息修正所述第三图像块,得到所述第一修正后的图像块。
7.根据权利要求4至6中任意一项所述的方法,其特征在于,所述至少两个待配准图像块还包括第九图像块,所述至少两个参考图像块还包括第十图像块;
所述依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息,包括:
对所述第九图像块和所述第十图像块进行配准处理,得到所述第九图像块的配准信息;
依据所述第七图像块的配准信息和所述第九图像块的配准信息,得到所述第二待配准图像的配准信息;
依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息。
8.根据权利要求7所述的方法,其特征在于,所述依据所述第二待配准图像的配准信息和所述第二配准信息,得到所述第三配准信息,包括:
依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息;
依据所述第七配准信息对所述第三图像块进行修正得到第二修正后的图像块;
对所述第二修正后的图像块和所述第五图像块进行配准处理,得到所述第二修正后的图像块的配准信息;
依据所述第二修正后的图像块的配准信息和所述第二配准信息,得到所述第三配准信息。
9.根据权利要求8所述的方法,其特征在于,所述第二待配准图像包括第三像素点,所述第三像素点通过对所述第一待配准图像中的至少两个第四像素点进行所述下采样处理得到;
所述依据所述第二待配准图像的配准信息,得到所述第三图像块的第七配准信息,包括:
将所述第二待配准图像的配准信息作为所述第三像素点的配准信息;
依据所述第三像素点的配准信息,得到所述至少两个第四像素点的配准信息;
依据所述至少两个第四像素点的配准信息,得到所述第七配准信息。
10.根据权利要求1至9中任意一项所述的方法,其特征在于,所述对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,以及所述对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息,包括:
对所述第三图像块和所述第五图像块进行搜索配准处理,得到所述第一配准信息;
对所述第四图像块和所述第六图像块进行搜索配准处理,得到所述第二配准信息。
11.根据权利要求1至10中任意一项所述的方法,其特征在于,获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,包括:
获取所述第一待配准图像和所述第一参考图像;
以相同的分块方式分别对所述第一待配准图像和所述第一参考图像进行分块,得到所述第一待配准图像的所述至少两个第一图像块和所述第一参考图像的所述至少两个第二图像块。
12.根据权利要求1至11中任意一项所述的方法,其特征在于,所述第三图像块在所述第一待配准图像中的位置与所述第五图像块在所述第一参考图像中的位置相同。
13.根据权利要求1至12中任意一项所述的方法,其特征在于,所述方法还包括:
使用所述第四配准信息对所述第一待配准图像中的所述第三图像块进行配准处理,得到配准后的图像;
对所述配准后的图像和所述第一参考图像进行融合处理,得到融合后的图像。
14.一种图像处理装置,其特征在于,所述装置包括:
获取单元,用于获取第一待配准图像和第一参考图像,其中,所述第一待配准图像包括至少两个第一图像块,所述第一参考图像中包括至少两个第二图像块,所述至少两个第一图像块包括第三图像块和第四图像块,所述至少两个第二图像块包括第五图像块和第六图像块;
第一处理单元,用于对所述第三图像块和所述第五图像块进行配准处理得到所述第三图像块的第一配准信息,对所述第四图像块和所述第六图像块进行配准处理得到所述第四图像块的第二配准信息;
第二处理单元,用于依据所述第一配准信息和所述第二配准信息,得到所述第一待配准图像的第三配准信息;
第三处理单元,用于依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息;所述依据所述第一配准信息和所述第三配准信息,得到所述第一待配准图像中所述第三图像块的第四配准信息包括:利用所述第一待配准图像的全局配准信息和所述第三图像块的局部配准信息,重新确定所述第三图像块的局部配准信息,得到所述第四配准信息。
15.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,在所述处理器执行所述计算机指令的情况下,所述电子设备执行如权利要求1至13中任一项所述的方法。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,在所述程序指令被处理器执行的情况下,使所述处理器执行权利要求1至13中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010605389.8A CN111724422B (zh) | 2020-06-29 | 2020-06-29 | 图像处理方法及装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010605389.8A CN111724422B (zh) | 2020-06-29 | 2020-06-29 | 图像处理方法及装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111724422A CN111724422A (zh) | 2020-09-29 |
CN111724422B true CN111724422B (zh) | 2024-01-09 |
Family
ID=72569527
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010605389.8A Active CN111724422B (zh) | 2020-06-29 | 2020-06-29 | 图像处理方法及装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111724422B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103606132A (zh) * | 2013-10-31 | 2014-02-26 | 西安电子科技大学 | 基于空域和时域联合滤波的多帧数字图像去噪方法 |
CN104063849A (zh) * | 2014-06-20 | 2014-09-24 | 武汉工程大学 | 基于图像块自适应配准的视频超分辨重建方法 |
CN104521238A (zh) * | 2012-06-20 | 2015-04-15 | 诺基亚公司 | 用于3d视频编码的装置、方法和计算机程序 |
CN105611116A (zh) * | 2015-12-23 | 2016-05-25 | 苏州科达科技股份有限公司 | 一种全局运动矢量估计方法及监控视频稳像方法及装置 |
CN107240126A (zh) * | 2016-03-28 | 2017-10-10 | 华天科技(昆山)电子有限公司 | 阵列图像的校准方法 |
CN108022261A (zh) * | 2017-11-01 | 2018-05-11 | 天津大学 | 一种改进的光流场模型算法 |
CN108154474A (zh) * | 2017-12-22 | 2018-06-12 | 浙江大华技术股份有限公司 | 一种超分辨率图像重构方法、装置、介质及设备 |
CN109325971A (zh) * | 2018-08-02 | 2019-02-12 | 沈阳东软医疗系统有限公司 | 图像配准方法及装置 |
CN110197504A (zh) * | 2019-06-05 | 2019-09-03 | 首都师范大学 | 图像配准方法、装置、电子设备及计算机可读存储介质 |
CN110419217A (zh) * | 2018-04-02 | 2019-11-05 | 深圳市大疆创新科技有限公司 | 用于图像处理的方法和图像处理装置 |
WO2020007320A1 (zh) * | 2018-07-03 | 2020-01-09 | 清华-伯克利深圳学院筹备办公室 | 多视角图像的融合方法、装置、计算机设备和存储介质 |
CN111028189A (zh) * | 2019-12-09 | 2020-04-17 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102057398B (zh) * | 2008-06-13 | 2013-11-06 | 上海惠普有限公司 | 处理超分辨率目标图像 |
CN106056537B (zh) * | 2016-05-20 | 2019-05-17 | 东软医疗系统股份有限公司 | 一种医学图像拼接方法及装置 |
-
2020
- 2020-06-29 CN CN202010605389.8A patent/CN111724422B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104521238A (zh) * | 2012-06-20 | 2015-04-15 | 诺基亚公司 | 用于3d视频编码的装置、方法和计算机程序 |
CN103606132A (zh) * | 2013-10-31 | 2014-02-26 | 西安电子科技大学 | 基于空域和时域联合滤波的多帧数字图像去噪方法 |
CN104063849A (zh) * | 2014-06-20 | 2014-09-24 | 武汉工程大学 | 基于图像块自适应配准的视频超分辨重建方法 |
CN105611116A (zh) * | 2015-12-23 | 2016-05-25 | 苏州科达科技股份有限公司 | 一种全局运动矢量估计方法及监控视频稳像方法及装置 |
CN107240126A (zh) * | 2016-03-28 | 2017-10-10 | 华天科技(昆山)电子有限公司 | 阵列图像的校准方法 |
CN108022261A (zh) * | 2017-11-01 | 2018-05-11 | 天津大学 | 一种改进的光流场模型算法 |
CN108154474A (zh) * | 2017-12-22 | 2018-06-12 | 浙江大华技术股份有限公司 | 一种超分辨率图像重构方法、装置、介质及设备 |
CN110419217A (zh) * | 2018-04-02 | 2019-11-05 | 深圳市大疆创新科技有限公司 | 用于图像处理的方法和图像处理装置 |
WO2020007320A1 (zh) * | 2018-07-03 | 2020-01-09 | 清华-伯克利深圳学院筹备办公室 | 多视角图像的融合方法、装置、计算机设备和存储介质 |
CN109325971A (zh) * | 2018-08-02 | 2019-02-12 | 沈阳东软医疗系统有限公司 | 图像配准方法及装置 |
CN110197504A (zh) * | 2019-06-05 | 2019-09-03 | 首都师范大学 | 图像配准方法、装置、电子设备及计算机可读存储介质 |
CN111028189A (zh) * | 2019-12-09 | 2020-04-17 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
Non-Patent Citations (2)
Title |
---|
"Patch-Based Nonlinear Image Registration for Gigapixel Whole Slide Images";J. Lotz 等;《IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING》;第63卷(第9期);1812-1819 * |
《图像配准与拼接方法研究》;毛晓冬;《中国优秀硕士学位论文全文数据库 (信息科技辑)》;第2007年卷(第2期);I138-636 * |
Also Published As
Publication number | Publication date |
---|---|
CN111724422A (zh) | 2020-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110866480B (zh) | 对象的跟踪方法及装置、存储介质、电子装置 | |
CN110264509B (zh) | 确定图像捕捉设备的位姿的方法、装置及其存储介质 | |
CN110473137B (zh) | 图像处理方法和装置 | |
CN108229277B (zh) | 手势识别、手势控制及多层神经网络训练方法、装置及电子设备 | |
US20220222776A1 (en) | Multi-Stage Multi-Reference Bootstrapping for Video Super-Resolution | |
CN111598993B (zh) | 基于多视角成像技术的三维数据重建方法、装置 | |
Battiato et al. | A robust block-based image/video registration approach for mobile imaging devices | |
CN110062164B (zh) | 视频图像处理方法及装置 | |
CN111402170B (zh) | 图像增强方法、装置、终端及计算机可读存储介质 | |
CN109064428A (zh) | 一种图像去噪处理方法、终端设备及计算机可读存储介质 | |
CN110782412B (zh) | 图像处理方法及装置、处理器、电子设备及存储介质 | |
CN111724421B (zh) | 图像处理方法及装置、电子设备及存储介质 | |
CN110111364A (zh) | 运动检测方法、装置、电子设备及存储介质 | |
CN113610918A (zh) | 位姿计算方法和装置、电子设备、可读存储介质 | |
CN114757984A (zh) | 光场相机的场景深度估计方法及装置 | |
CN113205011B (zh) | 图像掩膜确定方法及装置、存储介质和电子设备 | |
CN111724422B (zh) | 图像处理方法及装置、电子设备及存储介质 | |
CN113436269A (zh) | 图像稠密立体匹配方法、装置和计算机设备 | |
CN113298187A (zh) | 图像处理方法及装置、计算机可读存储介质 | |
CN115690845A (zh) | 一种运动轨迹预测方法及装置 | |
CN113436256B (zh) | 拍摄装置状态识别方法、装置、计算机设备和存储介质 | |
CN114627000A (zh) | 图像处理方法、装置和电子设备 | |
CN116266356A (zh) | 全景视频转场渲染方法、装置和计算机设备 | |
CN111754411B (zh) | 图像降噪方法、图像降噪装置及终端设备 | |
CN112770015A (zh) | 一种数据处理方法及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |