CN112132879A - 一种图像处理的方法、装置和存储介质 - Google Patents
一种图像处理的方法、装置和存储介质 Download PDFInfo
- Publication number
- CN112132879A CN112132879A CN201910555461.8A CN201910555461A CN112132879A CN 112132879 A CN112132879 A CN 112132879A CN 201910555461 A CN201910555461 A CN 201910555461A CN 112132879 A CN112132879 A CN 112132879A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- processed
- reference image
- sampling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title description 12
- 238000005070 sampling Methods 0.000 claims abstract description 60
- 238000000034 method Methods 0.000 claims abstract description 29
- 238000004364 calculation method Methods 0.000 claims abstract description 16
- 230000004927 fusion Effects 0.000 claims abstract description 15
- 238000013139 quantization Methods 0.000 claims description 47
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000002156 mixing Methods 0.000 claims 1
- 238000012216 screening Methods 0.000 claims 1
- 238000004422 calculation algorithm Methods 0.000 description 9
- 230000009467 reduction Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000003786 synthesis reaction Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/38—Registration of image sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0007—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请公开了一种图像处理的方法、装置和存储介质,具体为首先获取多帧待处理图像,同时,选取待处理图像中的一帧作为参考图像,其次,对参考图像和除参考图像外的其它待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算其它待处理图像与参考图像的对齐位置,然后,根据对齐位置,确定各帧其它待处理图像在参考图像上的共同的重叠区域,最后,对重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。本申请实施例通过选取其中一帧待处理图像作为参考图像,并根据参考图像依次确定其它各帧待处理图像在参考图像上的对齐位置,且计算方式的复杂度较低,可以满足在手机等嵌入式平台下处理时间的要求。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种图像处理的方法、装置和存储介质。
背景技术
在使用相机或者手机进行拍照时,一般要对拍摄的图像进行图像处理,以使拍摄的图像清晰准确。如对图像进行高动态光照渲染、夜景增强和电子防抖等处理。上述处理一般均依赖于对同一场景下的多帧图像进行对齐与合成的技术。其中,对于手机等手持拍照设备,拍摄时由于手抖等原因无法保证多帧图像之前的对齐,因此会造成图像在合成后出现错位或者模糊的情况。
因此,在对多帧图像进行对齐与合成时,可以使用三脚架等外部设备的辅助来提升多帧图像对齐的准确度,以达到较好的合成效果。但该方法受外部环境影响较大,不能完全保证图像的合成效果。另外,由于手机的运算能力限制,多帧图像合成与对齐的复杂度会直接关系到用户等待的时间,现有技术中的针对多帧图像的增强算法普遍复杂度较高,计算速度较慢,增加了用户的等待时间。
发明内容
本申请实施例提供了一种图像处理的方法,该方法通过选取参考图像,并将各帧待处理图像与该参考图像分别进行对齐,且实现方式简单,克服了现有技术中高复杂度图像对齐算法需要耗费大量计算时间的问题。
该方法包括:
获取多帧待处理图像,其中,所述待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得;
选取所述待处理图像中的一帧作为参考图像;
对所述参考图像和除所述参考图像外的其它所述待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算所述其它待处理图像与所述参考图像的对齐位置;
根据所述对齐位置,确定各帧所述其它待处理图像在所述参考图像上的共同的重叠区域;
对所述重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
可选地,计算所述待处理图像的清晰度,并在所述待处理图像中筛选出所述清晰度最高的一帧图像作为所述参考图像。
可选地,分别提取所述参考图像和所述其它待处理图像的灰度图像;
对所述灰度图像进行采样,并分别将所述参考图像和所述其它待处理图像的所述灰度图像划分为不同尺寸的采样图像;
对所述采样图像的灰度值进行量化,分别为量化后的所述参考图像的采样图像和所述其它待处理图像的采样图像生成对应的量化灰阶图像;
计算尺寸相同的所述参考图像的所述量化灰阶图像和所述其它待处理图像的所述量化灰阶图像的偏移量;
从尺寸最小的所述量化灰阶图像开始,根据所述偏移量依次确定所述量化灰阶图像和所述其它待处理图像的对齐位置。
可选地,分别计算所述参考图像和所述其它待处理图像的所述采样图像的灰度直方图;
在所述灰度直方图中确定分割阈值,并基于所述分割阈值,确定各个量化灰阶;
按照所述各个量化灰阶,对所述采样图像的所述灰度值进行量化,以生成包含所述各个量化灰阶对应的量化灰度值的所述量化灰阶图像。
可选地,在所述量化灰阶图像中将预设范围设置为搜索窗口,并在所述搜索窗口中比较尺寸相同的所述参考图像的所述量化灰阶图像和任一帧所述其它待处理图像的所述量化灰阶图像的所述量化灰度值的差值;
遍历所述搜索窗口,确定数值最小的所述量化灰度值的差值作为所述参考图像的所述量化灰阶图像和所述其它待处理图像的所述量化灰阶图像的偏移量。
可选地,将所述偏移量对应的位置确定为对齐位置,依次从尺寸最小的量化灰阶图像开始,根据相邻尺寸之间的采样率和当前尺寸下的所述量化灰阶图像下的所述对齐位置,计算下一个尺寸下的所述量化灰阶图像的搜索位置;
根据所述搜索位置确定在下一个尺寸的所述量化灰阶图像上进行对齐的所述搜索窗口,在所述搜索窗口中搜索满足所述偏移量的条件的所述对齐位置作为下一个尺寸的所述量化灰阶图像的搜索位置,直至当前的所述量化灰阶图像的尺寸为所述待处理图像的尺寸。
可选地,将每一帧其它待处理图像与所述参考图像的对齐部分进行重叠,获取在所述参考图像上的共同的重叠区域的交集。
可选地,计算所述其它待处理图像在所述重叠区域中相同位置的像素的平均值和标准差;
将第一系数和所述平均值的第一乘积与第二系数和所述标准差的第二乘积的和确定为输出像素值,其中,所述第一系数为所述标准差和预设阈值的比值,所述第一系数和所述第二系数的和为1;
根据所述预设阈值,确定所述输出像素值;
对所述其它待处理图像在所述重叠区域中的其它位置的像素执行上述确定所述输出像素值的步骤。
在本发明的另一个实施例中,提供了一种图像处理的装置,该装置包括:
获取模块,用于获取多帧待处理图像,其中,所述待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得;
选取模块,用于选取所述待处理图像中的一帧作为参考图像;
计算模块,用于对所述参考图像和除所述参考图像外的其它所述待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算所述其它待处理图像与所述参考图像的对齐位置;
确定模块,用于根据所述对齐位置,确定各帧其它所述待处理图像在所述参考图像上的共同的重叠区域;
融合模块,用于对所述重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
在本发明的另一个实施例中,提供了一种非瞬时计算机可读存储介质,所述非瞬时计算机可读存储介质存储指令,所述指令在由处理器执行时使得所述处理器执行上述一种图像处理的方法中的各个步骤。
在本发明的另一个实施例中,提供了一种终端设备,包括处理器,所述处理器用于执行上述一种图像处理的方法中的各个步骤。
如上可见,基于上述实施例,首先获取多帧待处理图像,其中,待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得,同时,选取待处理图像中的一帧作为参考图像,其次,对参考图像和除参考图像外的其它待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算其它待处理图像与参考图像的对齐位置,然后,根据对齐位置,确定各帧其它待处理图像在参考图像上的共同的重叠区域,最后,对重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。本申请实施例通过在获取的多帧待处理图像中选取其中一帧作为参考图像,并根据参考图像依次确定其它各帧待处理图像在参考图像上的对齐位置,根据对其位置生成最后的输出图像,提升了输出图像的准确性,且整体进行图像对齐的过程中计算方式的复杂度较低,可以满足在手机等嵌入式平台下处理时间的要求。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例10所提供的一种图像处理的方法的流程示意图;
图2示出了本申请实施例20提供的一种图像处理的方法的具体流程的示意图;
图3示出了本申请实施例30提供的搜索对齐位置的示意图;
图4示出了本申请实施例40还提供一种图像处理的装置的示意图;
图5示出了本申请实施例50所提供的一种终端设备的示意图。
具体实施方式
为使本申请的目的、技术方案及优点更加清楚明白,以下参照附图并举实施例,对本发明进一步详细说明。
基于现有技术中的问题,本申请实施例提供了一种图像处理的方法,通过在获取的多帧待处理图像中选择出清晰度最高的一帧作为参考图像。对参考图像和其它待处理图像进行下采样,以分别生成不同尺寸的参考图像的采样图像和其它待处理图像的采样图像。进一步地,以参考图像的采样图像为基准,搜索不同尺寸下的待处理图像在参考图像上的对齐位置。通过上述图像处理的方法可以提升图像对齐的准确度,同时,计算复杂度较低,可以减少计算的耗时,提升用户体验。
本申请的应用领域主要是在计算机技术领域中,一般适用于图像处理的应用场景中,如可以应用在手机或手持摄像装置对拍摄的图像进行处理的场景中。如图1所示,为本申请实施例10所提供的一种图像处理的方法的流程示意图。其中,详细步骤如下:
S11,获取多帧待处理图像。
本步骤中,使用摄像装置对相同场景进行时域上连续的多次拍摄,以获取多帧待处理图像。其中,多帧待处理图像中的内容均为同一场景。另外,摄像装置可以是手机,手持相机等移动摄像终端。进一步地,针对手机等移动摄像终端,假设单帧待处理图像的曝光时间为t,那么获取连拍的N帧待处理图像的总时间为t×N。其中,t一般由摄像装置的自动曝光算法决定。在光线较强的自然环境中曝光时间通常会小于暗光场景。因此在暗光场景往往需要更长的时间获得多帧时域上连续的待处理图像。
S12,选取待处理图像中的一帧作为参考图像。
本步骤中,在获取了多帧待处理图像后,在多帧待处理图像中选取其中一帧作为参考图像。参考图像作为在后续步骤中与其它的待处理图像进行对齐的标准图像。因此,一般会选择待处理图像中清晰度最高的一帧作为参考图像。进一步地,可以采用多种清晰度的计算方式计算每一帧待处理图像的清晰度,并在其中筛选出清晰度相对最高的一帧作为参考图像。可选地,一种计算清晰度的实施例为对待处理图像使用索贝尔算子(Sobeloperator)进行边缘提取,然后计算提取的边缘图像的统计平均值和统计标准差,并采用其中平均值较大,方差较小的待处理图像作为最清晰的图像。
S13,对参考图像和除所述参考图像外的其它待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算其它待处理图像与参考图像的对齐位置。
本步骤中,首先对其它每一帧待处理图像和参考图像均进行下采样,获取不同尺寸的采样后的采样图像。可选地,根据原始图像的大小选择对采样图像进行采样后的级数。一种获取采样图像的实施例为将待处理图像和参考图像分别划分为原始图像边长的1/2,1/4,1/8,1/16…等尺寸的采样图像。其次,将其中尺寸最小且尺寸相同每帧待处理图像的采样图像分别与参考图像的采样图像进行对齐,获取对齐位置,并将该对齐位置作为初始搜索位置对应在下一相邻尺寸的采样图像上。最后,以该初始搜索位置确定搜索窗口,并在搜索窗口中继续获取带处理图像的采样对象与参考图像的采样图像的对齐位置,直到在与原始图像的尺寸一致的采样图像上确定完对齐位置。可选地,若采样图像为1/16尺寸时为采样图像序列中的最小尺寸,那么对齐位置的计算依次从1/16->1/8->…->1进行。
S14,根据对齐位置,确定各帧其它待处理图像在参考图像上的共同的重叠区域。
本步骤中,在计算出各帧其它待处理图像在参考位置上的对齐位置后,将各帧其它待处理图像依次与参考图像进行对齐。在按照对齐位置对齐后,各帧其它待处理图像会在参考图像上形成交集,完成了多帧待处理图像的对齐。该部分交集为其它待处理图像在参考区域图像的共同的重叠区域。
S15,对重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
本步骤中,在完成对多帧待处理图像的对齐后,为补偿多帧待处理图像之间的运动部分可能形成的鬼影,对重叠区域进行像素融合。可选地,对多帧待处理图像在相同位置的像素进行合成,确定该位置的合成后的像素值。依次对重叠部分的其它位置的像素执行前述像素融合的处理,并将融合后的重叠区域作为输出图像输出。
基于本申请的上述实施例,首先获取多帧待处理图像,其中,待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得,同时,选取待处理图像中的一帧作为参考图像,其次,依次计算除参考图像外的其它待处理图像与参考图像的对齐位置,然后,根据对齐位置,确定各帧其它待处理图像在参考图像上的共同的重叠区域,最后,对重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。本申请实施例通过在获取的多帧待处理图像中选取其中一帧作为参考图像,并根据参考图像依次确定其它各帧待处理图像在参考图像上的对齐位置,并根据对其位置生成最后的输出图像,提升了输出图像的准确性,且整体进行图像对齐的过程中计算方式的复杂度较低,可以满足在手机等嵌入式平台下处理时间较短的要求。
如图2所示,为本申请实施例20中提供的一种图像处理的方法的具体流程的示意图。其中,该具体流程的详细过程如下:
S201,获取时域上连续的多帧待处理图像。
S202,对多帧待处理图像进行预处理。
这里,针对在暗光场景下拍摄的待处理图像,可以采用单帧的降噪算法进行降噪滤波。可选地,针对手机等移动摄像终端,当系统的环境光照度传感器检测到处于暗光场景下时,可以对待处理图像进行降噪处理。一般地,降噪处理可以采用移动摄像终端的图像处理(Image Signal Processor,ISP)硬件模块进行单帧降噪,也可以采用降噪算法(如双边滤波算法)对单帧图像进行降噪。对于非暗光场景,可以不进行降噪处理。
S203,选取多帧待处理图像中清晰度最高的一帧作为参考图像k。
这里,计算待处理图像的清晰度,并在待处理图像中筛选出清晰度最高的一帧图像作为参考图像k。其中,图像清晰度的方法有多种,如灰度方差函数、熵函数和索贝尔算子等,可选择任一方式计算待处理图像的清晰度。
S204,提取参考图像的灰度图像,并对参考图像的灰度图像进行采样。
这里,首先对参考图像进行灰度化,提取参考图像的灰度图像YK,Y代表灰度图,k代表参考图像的下标。进一步地,对灰度图像YK进行采样。采样主要是将灰度图像YK划分为多张不同尺寸的采样图像。一种进行采样的实施方式是对灰度图像YK进行双线性插值,分别得到灰度图像YK在1/2,1/4,1/8,1/16…等一系列下采样之后的采样图像。
S205,提取每帧其它待处理图像i的灰度图像,并对其它待处理图像i的灰度图像进行采样。
这里,采样过程同步骤S204,提取其它待处理图像i的灰度图像Yi,其中i取N-1且i≠k,N为待处理图像的数量。
S206,生成参考图像的采样图像的量化灰阶图像。
本步骤中,对采样图像的灰度值进行量化,并为量化后的参考图像生成对应的量化灰阶图像。首先,计算参考图像的采样图像的灰度直方图。其次,在灰度直方图中确定分割阈值,并基于分割阈值,确定各个量化灰阶。可选地,一种确定量化灰阶的实施例为对采样图像的灰度直方图使用最大类间方差算法进行分割。具体的,当采样图像中前景与背景的分割阈值为t时,前景点占采样图像比例为w0,均值为u0,背景点占采样图像比例为w1,均值为u1。则整个采样图像的均值为u=w0×u0+w1×u1。进一步地,建立函数g(t)=w0×(u0-u)^2+w1×(u1-u)^2,g(t)为分割阈值为t时的类间方差表达式。最大类间方差算法使得g(t)可以取得全局最大值,当g(t)为最大时所对应的t称为最佳分割阈值。最后,根据最佳分割阈值t,将采样图像量化为三个灰阶P0,P1,P2,并按照各个量化灰阶,对采样图像的灰度值进行量化,以生成包含各个量化灰阶对应的量化灰度值的参考图像的量化灰阶图像Y_QK。即当灰度值小于t-1时,量化为P0;当灰度值位于[t-1,t+1]时,量化为P1;当灰度值大于t+1时,量化为P2。量化后的采样图像能够更快速的进行特征匹配计算。
S207,生成每一帧其它待处理图像i的采样图像的量化灰阶图像。
本步骤中,量化过程同步骤S206,生成包含各个量化灰阶对应的量化灰度值的各帧其它待处理图像的量化灰阶图像Y_Qi。
S208,计算尺寸相同的参考图像k的量化灰阶图像和其它待处理图像i的量化灰阶图像的偏移量。
这里,在量化灰阶图像中将预设范围设置为搜索窗口,并在搜索窗口中比较参考图像的量化灰阶图像和任一帧其它待处理图像的量化灰阶图像的量化灰度值的差值。其中,预设范围的数值与后续求得的偏移量有关。进一步地,对于二维的图像,其位移量包括X和Y两个方向的值。因此,可以设置一定的搜索窗口Range(x,y),并遍历搜索窗口,确定数值最小的量化灰度值的差值作为参考图像的量化灰阶图像和其它待处理图像的量化灰阶图像的偏移量。具体的,在该搜索窗口中找到两帧量化灰阶图像的配准代价函数。配准代价函数为搜索窗口内所有像素的差的绝对值的和。如果两张图像的量化灰度值相同,那么代价为0,否则代价就会累加。将代价最小的值确定为在该尺寸下,参考图像的量化灰阶图像和其它待处理图像的量化灰阶图像的偏移量另外,在搜索窗口中可以设定搜索步长,跳过部分搜索点。
S209,从尺寸最小的量化灰阶图像开始,根据偏移量依次确定量化灰阶图像和其它待处理图像的对齐位置。
本步骤中,将偏移量对应的位置确定为对齐位置,依次从尺寸最小的量化灰阶图像开始,根据相邻尺寸之间的采样率和当前尺寸下的量化灰阶图像下的对齐位置,计算下一个尺寸下的量化灰阶图像的搜索位置。可选地,从尺寸最小的量化灰阶图像开始进行对齐。若原始图像的1/16大小的量化灰阶图像为量化后的采样图像序列中的最小尺寸,那么对齐计算依次从1/16->1/8->…->1进行。其中,相邻尺寸之间的采样率为2。
进一步地,根据初始搜索位置确定在下一个尺寸的量化灰阶图像上进行对齐的搜索窗口,在搜索窗口中搜索满足偏移量的条件的对齐位置作为下一个尺寸下的量化灰阶图像的初始搜索位置,直至当前的量化灰阶图像的尺寸为待处理图像的尺寸。可选地,分别获取当前尺寸的两张相同大小的参考图像和其它待处理图像的量化灰阶图像。取相同尺寸的参考图像的量化灰阶图像Y_QK和其它待处理图像的量化灰阶图像Y_Qi,计算当前尺寸下两张图像的配准的偏移量。根据在上一个尺寸下计算得到的偏移量{x(i-1),y(i-1)}。如果当前计算的就是最小尺寸下的偏移量,那么上一次的结果就是{0,0}。根据采样率,如上述尺寸中的采样率为2,则设置在下一尺寸上的初始搜索位置设为{2x(i-1),2y(i-1)},遍历搜索窗口,最终找到代价最小的位置,对应的偏移量{x(i),y(i)}就是当前尺寸下的对齐位置。以当前尺寸得到的对齐位置作为下一个尺寸的搜索初始位置,计算下一个尺寸的偏移量,直到当前尺寸为原始图像大小,那么偏移量计算结束,否则重复此步骤。如图3所示,为本申请实施例30提供的在不同尺寸的量化灰阶图像中确定对其位置的示意图。其中,若原始图像的1/16大小的量化灰阶图像为量化后的采样图像序列中的最小尺寸,那么对齐计算依次从1/16->1/8->…->1进行。其中,采样率为2,若在1/16大小的量化灰阶图像上计算出的初始搜索位置为(1,1),则以初始搜索位置为(1,1)映射在在1/8大小的量化灰阶图像上的搜索位置为(2,2),以(2,2)为基准设置搜索窗口,计算对齐位置。此例中计算出的在1/8大小的量化灰阶图像上的对齐位置为(2,2),则以(2,2)为搜索位置映射在在1/4大小的量化灰阶图像上,以(4,4)为基准设置搜索窗口,计算对齐位置。以此类推,直到计算至与原始图像大小的量化灰阶图像为止。
S210,确定各帧其它待处理图像i在参考图像k上的共同的重叠区域。
这里,根据上述计算得到了每一帧待处理图像i与参考图像k的对齐位置,遍历i可以获取所有其它待处理图像i相对k的对齐位置。将每一帧其它待处理图像i与参考图像k的对齐部分进行重叠,获取在参考图像k上的共同的重叠区域的交集,就得到了所有其它待处理图像i在参考图像k上的重叠区域,完成了多帧待处理图像的对齐。
S211,对重叠区域进行像素融合,得的最终的输出图像。
这里,对重叠区域合成时,考虑补偿多张待处理图像之间在重合时的可能造成的鬼影。为此提出一种多帧图像合成步骤的实施例,以消除融合过程中的鬼影,如下:
首先,计算其它待处理图像在重叠区域中相同位置的像素的平均值和标准差。可选地,若其它待处理图像i在重叠区域中相同位置的像素为pixel(0)….pixel(N-1),参考图像k的像素为pixel(k),计算平均值p_avg=SUM(pixel(i))/N和标准差p_delta=SUM(|pixel(i)-p_avg|)/N其中,p_delta实际反应了该像素在多帧i之间的差异,p_delta大的一般为运动的物体。
其次,将第一系数和平均值的第一乘积与第二系数和标准差的第二乘积的和确定为输出像素值,其中,第一系数为标准差和预设阈值的比值,第一系数和第二系数的和为1。可选地,消除鬼影后的像素值p_out=w×p_avg+(1-w)×pixel(k),其中w为第一系数,为0-1之间的权值,1-w为第二系数。第一系数和第二系数用于表示最终的像素值为平均值和参考图像的像素之间的加权。
进一步地,根据预设阈值,确定输出像素值。可选地,第一系数w的选取与标准差p_delta相关,实际中取一个预设阈值threshold来判断是否为运动物体。令w=p_delta/threshold。设置一个w_thresh(位于0~1之间的数)。当w<w_thresh时,令w=0,那么p_out=pixel(k),完全取参图像的像素作为输出像素值,这样可以最大效果的抵抗鬼影。当w>1时,令w=1,那么p_out=p_avg,输出取的是多帧其它待处理图像的平均值,这样可以最大效果的降噪。当w位于0~1之间时,p_out就是p_avg和pixel(k)之间的线性加权。
最后,对其它待处理图像在重叠区域中的其它位置的像素执行上述确定输出像素值的步骤。
本申请实施例基于上述步骤实现一种图像处理的方法。通过对不同尺寸下的量化灰阶图像递归搜索进行匹配,在每一个尺寸中计算其对齐位置作为下一个尺寸中的的初始搜索位置。另外,搜索窗口和搜索步长的值可以根据整体复杂度需求灵活选取。在相同尺寸的待处理图像中,由于提取了量化灰阶图,也进一步降低了计算的复杂度。此外,整体运算复杂度还可根据原始图像的大小灵活选择划分采样图像的序列的级数,从而改变递归的次数。通过以上快速算法策略,可以根据计算硬件的性能灵活调整多帧图像对齐的耗时,满足在手机等嵌入式平台下处理时间较短的要求。另外,在对齐后的静态的重叠区域,采用多帧其它待处理图像在相同位置的像素的均值作为输出像素值,从而最大化的降噪,而对齐后的运动区域则倾向于使用参考图像的像素作为输出,从而最大化的抵抗鬼影的产生。
基于同一发明构思,本申请实施例40还提供一种图像处理的装置,其中,如图4所示,该装置包括:
获取模块41,用于获取多帧待处理图像,其中,待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得;
选取模块42,用于选取待处理图像中的一帧作为参考图像;
计算模块43,用于对参考图像和除参考图像外的其它待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算其它待处理图像与参考图像的对齐位置;
确定模块44,用于根据对齐位置,确定各帧其它待处理图像在参考图像上的共同的重叠区域;
融合模块45,用于对重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
本实施例中,获取模块41、选取模块42、计算模块43、确定模块44和融合模块45的具体功能和交互方式,可参见图1对应的实施例的记载,在此不再赘述。
如图5所示,本申请的又一实施例50还提供一种终端设备,包括处理器50,其中,处理器50用于执行上述一种图像处理的方法的步骤。
从图5中还可以看出,上述实施例提供的终端设备还包括非瞬时计算机可读存储介质51,该非瞬时计算机可读存储介质51上存储有计算机程序,该计算机程序被处理器50运行时执行上述一种图像处理的方法的步骤。
具体地,该存储介质能够为通用的存储介质,如移动磁盘、硬盘和FLASH等,该存储介质上的计算机程序被运行时,能够执行上述的一种图像处理的方法。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (12)
1.一种图像处理的方法,其特征在于,包括:
获取多帧待处理图像,其中,所述待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得;
选取所述待处理图像中的一帧作为参考图像;
对所述参考图像和除所述参考图像外的其它所述待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算所述其它待处理图像与所述参考图像的对齐位置;
根据所述对齐位置,确定各帧所述其它待处理图像在所述参考图像上的共同的重叠区域;
对所述重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
2.根据权利要求1所述的方法,其特征在于,所述选取待处理图像中的一帧作为参考图像的步骤包括:
计算所述待处理图像的清晰度,并在所述待处理图像中筛选出所述清晰度最高的一帧图像作为所述参考图像。
3.根据权利要求1所述的方法,其特征在于,所述分别生成不同尺寸的采样图像的步骤包括:
分别提取所述参考图像和所述其它待处理图像的灰度图像;
对所述灰度图像进行采样,并分别将所述参考图像和所述其它待处理图像的所述灰度图像划分为不同尺寸的采样图像。
4.根据权利要求3所述的方法,其特征在于,所述依次在相同尺寸的采样图像中计算所述其它待处理图像与所述参考图像的对齐位置的步骤包括:
对所述采样图像的灰度值进行量化,分别为量化后的所述参考图像的采样图像和所述其它待处理图像的采样图像生成对应的量化灰阶图像;
计算尺寸相同的所述参考图像的所述量化灰阶图像和所述其它待处理图像的所述量化灰阶图像的偏移量;
从尺寸最小的所述量化灰阶图像开始,根据所述偏移量依次确定所述量化灰阶图像和所述其它待处理图像的对齐位置。
5.根据权利要求4所述的方法,其特征在于,所述对采样图像的灰度值进行量化的步骤包括:
分别计算所述参考图像和所述其它待处理图像的所述采样图像的灰度直方图;
在所述灰度直方图中确定分割阈值,并基于所述分割阈值,确定各个量化灰阶;
按照所述各个量化灰阶,对所述采样图像的所述灰度值进行量化,以生成包含所述各个量化灰阶对应的量化灰度值的所述量化灰阶图像。
6.根据权利要求5所述的方法,其特征在于,所述计算尺寸相同的所述参考图像的所述量化灰阶图像和所述其它待处理图像的所述量化灰阶图像的偏移量的步骤包括:
在所述量化灰阶图像中将预设范围设置为搜索窗口,并在所述搜索窗口中比较尺寸相同的所述参考图像的所述量化灰阶图像和任一帧所述其它待处理图像的所述量化灰阶图像的所述量化灰度值的差值;
遍历所述搜索窗口,确定数值最小的所述量化灰度值的差值作为所述参考图像的所述量化灰阶图像和所述其它待处理图像的所述量化灰阶图像的偏移量。
7.根据权利要求6所述的方法,其特征在于,所述根据偏移量依次确定所述量化灰阶图像和所述其它待处理图像的对齐位置的步骤包括:
将所述偏移量对应的位置确定为对齐位置,依次从尺寸最小的量化灰阶图像开始,根据相邻尺寸之间的采样率和当前尺寸下的所述量化灰阶图像下的所述对齐位置,计算下一个尺寸下的所述量化灰阶图像的搜索位置;
根据所述搜索位置确定在下一个尺寸的所述量化灰阶图像上进行对齐的所述搜索窗口,在所述搜索窗口中搜索满足所述偏移量的条件的所述对齐位置作为下一个尺寸的所述量化灰阶图像的搜索位置,直至当前的所述量化灰阶图像的尺寸为所述待处理图像的尺寸。
8.根据权利要求7所述的方法,其特征在于,所述确定各帧其它待处理图像在所述参考图像上的共同的重叠区域的步骤包括:
将每一帧其它待处理图像与所述参考图像的对齐部分进行重叠,获取在所述参考图像上的共同的重叠区域的交集。
9.根据权利要求1所述的方法,其特征在于,所述对重叠区域进行像素融合的步骤包括:
计算所述其它待处理图像在所述重叠区域中相同位置的像素的平均值和标准差;
将第一系数和所述平均值的第一乘积与第二系数和所述标准差的第二乘积的和确定为输出像素值,其中,所述第一系数为所述标准差和预设阈值的比值,所述第一系数和所述第二系数的和为1;
根据所述预设阈值,确定所述输出像素值;
对所述其它待处理图像在所述重叠区域中的其它位置的像素执行上述确定所述输出像素值的步骤。
10.一种图像处理的装置,其特征在于,包括:
获取模块,用于获取多帧待处理图像,其中,所述待处理图像由摄像装置对相同场景进行时域上连续的多次拍摄而取得;
选取模块,用于选取所述待处理图像中的一帧作为参考图像;
计算模块,用于对所述参考图像和除所述参考图像外的其它所述待处理图像进行采样,分别生成不同尺寸的采样图像,并依次在相同尺寸的采样图像中计算所述其它待处理图像与所述参考图像的对齐位置;
确定模块,用于根据所述对齐位置,确定各帧所述其它待处理图像在所述参考图像上的共同的重叠区域;
融合模块,用于对所述重叠区域进行像素融合,并将经过融合后的重叠区域作为输出图像。
11.一种非瞬时计算机可读存储介质,其特征在于,所述非瞬时计算机可读存储介质存储指令,所述指令在由处理器执行时使得所述处理器执行如权利要求1至9任一项所述的一种图像处理的方法中的各个步骤。
12.一种终端设备,其特征在于,包括处理器,所述处理器用于执行如权利要求1至9中任一项所述的一种图像处理的方法中的各个步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910555461.8A CN112132879B (zh) | 2019-06-25 | 2019-06-25 | 一种图像处理的方法、装置和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910555461.8A CN112132879B (zh) | 2019-06-25 | 2019-06-25 | 一种图像处理的方法、装置和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112132879A true CN112132879A (zh) | 2020-12-25 |
CN112132879B CN112132879B (zh) | 2024-03-08 |
Family
ID=73850001
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910555461.8A Active CN112132879B (zh) | 2019-06-25 | 2019-06-25 | 一种图像处理的方法、装置和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112132879B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113676659A (zh) * | 2021-08-11 | 2021-11-19 | Oppo广东移动通信有限公司 | 图像处理方法及装置、终端及计算机可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905746A (zh) * | 2012-12-28 | 2014-07-02 | 清华大学 | 亚像素级图像偏移定位及叠加方法和装置以及视频设备 |
CN104166972A (zh) * | 2013-05-17 | 2014-11-26 | 中兴通讯股份有限公司 | 一种终端及其实现图像处理的方法 |
WO2017075788A1 (zh) * | 2015-11-05 | 2017-05-11 | 华为技术有限公司 | 一种防抖拍照方法、装置及照相设备 |
CN107205119A (zh) * | 2017-06-30 | 2017-09-26 | 维沃移动通信有限公司 | 一种图像数据的处理方法和装置 |
CN108012080A (zh) * | 2017-12-04 | 2018-05-08 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
WO2018233373A1 (zh) * | 2017-06-23 | 2018-12-27 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
CN109660718A (zh) * | 2018-11-30 | 2019-04-19 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
-
2019
- 2019-06-25 CN CN201910555461.8A patent/CN112132879B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905746A (zh) * | 2012-12-28 | 2014-07-02 | 清华大学 | 亚像素级图像偏移定位及叠加方法和装置以及视频设备 |
CN104166972A (zh) * | 2013-05-17 | 2014-11-26 | 中兴通讯股份有限公司 | 一种终端及其实现图像处理的方法 |
WO2017075788A1 (zh) * | 2015-11-05 | 2017-05-11 | 华为技术有限公司 | 一种防抖拍照方法、装置及照相设备 |
CN107079085A (zh) * | 2015-11-05 | 2017-08-18 | 华为技术有限公司 | 一种防抖拍照方法、装置及照相设备 |
WO2018233373A1 (zh) * | 2017-06-23 | 2018-12-27 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
CN107205119A (zh) * | 2017-06-30 | 2017-09-26 | 维沃移动通信有限公司 | 一种图像数据的处理方法和装置 |
CN108012080A (zh) * | 2017-12-04 | 2018-05-08 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN109660718A (zh) * | 2018-11-30 | 2019-04-19 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
龙云腾 等: "基于块匹配与灰度投影视频防抖算法研究", 电视技术 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113676659A (zh) * | 2021-08-11 | 2021-11-19 | Oppo广东移动通信有限公司 | 图像处理方法及装置、终端及计算机可读存储介质 |
CN113676659B (zh) * | 2021-08-11 | 2023-05-26 | Oppo广东移动通信有限公司 | 图像处理方法及装置、终端及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112132879B (zh) | 2024-03-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108898567B (zh) | 图像降噪方法、装置及系统 | |
CN108694705B (zh) | 一种多帧图像配准与融合去噪的方法 | |
US10432861B2 (en) | Scene motion correction in fused image systems | |
US9344636B2 (en) | Scene motion correction in fused image systems | |
KR101699919B1 (ko) | 다중 노출 퓨전 기반에서 고스트 흐림을 제거한 hdr 영상 생성 장치 및 방법 | |
US9202263B2 (en) | System and method for spatio video image enhancement | |
EP3046320A1 (en) | Method for generating an hdr image of a scene based on a tradeoff between brightness distribution and motion | |
KR20120099713A (ko) | 장면 내에서의 정확한 피사체 거리 및 상대적인 피사체 거리를 추정하는 알고리즘 | |
US20140363087A1 (en) | Methods of Image Fusion for Image Stabilization | |
CN109064504B (zh) | 图像处理方法、装置和计算机存储介质 | |
CN114586337B (zh) | 视频防抖优化处理方法和装置、电子设备 | |
CN110443766B (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
US20230074180A1 (en) | Method and apparatus for generating super night scene image, and electronic device and storage medium | |
CN112272832A (zh) | 用于基于dnn的成像的方法和系统 | |
CN116612015A (zh) | 模型训练方法、图像去摩尔纹方法、装置及电子设备 | |
CN112132879B (zh) | 一种图像处理的方法、装置和存储介质 | |
CN115035013A (zh) | 图像处理方法、图像处理装置、终端及可读存储介质 | |
CN114049288A (zh) | 图像生成方法、装置、电子设备和计算机可读存储介质 | |
Matsuoka et al. | Multiple exposure integration with image denoising | |
CN113269695A (zh) | 一种图像去模糊方法、系统、装置及存储介质 | |
JP6548409B2 (ja) | 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置 | |
CN117641135A (zh) | 一种图像处理方法及装置、设备、存储介质 | |
CN117934311A (zh) | 用于图像处理的方法 | |
CN115942130A (zh) | 图像处理方法及装置、计算机可读存储介质 | |
JP2021044652A (ja) | 動きベクトル検出装置及び動きベクトル検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |