发明内容
有鉴于此,本发明提供一种图像合成方法及装置,用以解决现有技术中不能快速有效地获取各像素点都清晰的高景深图像的问题。
本发明提供的一种图像合成方法,该方法包括:A、分别得到每幅原始图像中每个像素点的亮度信息;B、从所述像素点的亮度信息中提取相应像素点的高频分量;C、根据各原始图像中各像素点的高频分量,确定合成图像中相应位置像素点的值。
所述步骤C包括以下步骤:C11、得到各原始图像中每个像素点的高频分量强度值;C12、比较不同原始图像中各相同位置像素点的高频分量强度值的大小,针对于每个位置确定该位置像素点的高频分量强度值最大的原始图像;C13、根据所述每个位置像素点的高频分量强度值最大的原始图像确定合成图像中对应位置像素点的值。
所述步骤C13包括:直接将各位置像素点的高频分量强度值最大的那幅原始图像中相应位置像素点的值作为合成图像中对应位置像素点的值;或者,设置与原始图像同样大小的掩模平面,根据所述每个位置像素点的高频分量强度值最大的原始图像设定掩模平面中对应位置点的值,各原始图像中所有像素点的高频分量强度值比较完毕后,对所述掩模平面进行平滑滤波得到平滑平面,根据平滑平面上所有点的取值设定阈值,比较所述平滑平面中每个点的值与所述阈值的大小,根据比较结果将原始图像中对应位置像素点的值作为合成图像中相应位置像素点的值。
上述图像合成方法中,所述步骤C包括:计算各原始图像中每个像素点的高频分量强度值,根据各原始图像中相同位置像素点的高频分量强度值计算每个像素点的加权系数,根据所述加权系数得到合成图像中各像素点的值。
本发明提供的图像合成方法中,所述步骤C包括:C21、取两幅原始图像;C22、将两幅图像合成为一幅中间合成图像;C23、判断所有原始图像是否都已进行过合成,若是,则将得到的中间合成图像作为最终的合成图像,否则继续执行C24,继续下一次迭代过程;C24、选取所述中间合成图像及一幅未进行过合成操作的原始图像,返回执行C22。
所述步骤C22包括:得到两幅图像中每个像素点的高频分量强度值;确定两幅图像中相同位置像素点的高频分量强度值最大的图像,并根据该图像确定中间合成图像中对应位置像素点的值;或者,根据两幅图像中相同位置像素点的高频分量强度值计算每个像素点的加权系数,根据所述加权系数得到中间合成图像各像素点的值。
上面任一所述的图像合成方法中,所述步骤B进一步包括:提取原始图像中像素点的低频分量;所述步骤C之后进一步包括:根据相同位置都存在低频分量的原始图像该位置像素点的值确定低频合成图像中对应位置像素点的值,对所述低频合成图像和所述合成图像进行处理,得到包含高频分量和低频分量的合成图像。
上述确定合成图像中对应位置像素点的值,包括:将各原始图像相应位置都存在低频分量的各像素点的值的加权平均作为低频合成图像中对应位置像素点的值;或者,将各原始图像相应位置都存在低频分量的其中一幅原始图像的对应位置像素点的值作为低频合成图像中对应位置像素点的值。
本发明提供的一种图像合成装置,该装置包括:亮度信息提取单元、高频分量提取单元和高频合成单元,其中,所述亮度信息提取单元用于提取各原始图像中每个像素点的亮度信息;所述高频分量提取单元用于根据所述各原始图像中每个像素点的亮度信息获得各原始图像中各像素点的高频分量;所述高频合成单元用于根据所述各原始图像中各像素点的高频分量确定合成图像中相应位置像素点的值。
所述高频合成单元包括:高频分量强度值计算单元、比较单元和赋值单元。其中,所述高频分量强度值计算单元用于根据所述各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值,所述比较单元用于对不同原始图像中各相同位置像素点的所述高频分量强度值的大小进行比较,确定每个位置像素点的高频分量强度值最大的原始图像,所述赋值单元用于根据每个位置像素点的高频分量强度值最大的所述原始图像确定合成图像中相应位置像素点的值;
或者,包括高频分量强度值计算单元、加权系数计算单元和加权单元。其中,所述高频分量强度值计算单元用于根据所述各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值,所述加权系数计算单元用于根据各原始图像中每个像素点的所述高频分量强度值计算各原始图像中每个像素点的加权系数,所述加权单元用于根据各原始图像中每个像素点的所述加权系数,将所有原始图像在各相同位置像素点的值加权合成为合成图像中相应位置像素点的值;
或者,包括第一高频分量强度值计算单元、第一存储单元、第三存储单元、两图合成单元、第二存储单元、第二亮度信息提取单元、第二高频分量提取单元、第二高频分量强度值计算单元和计数单元。其中,
所述第一高频分量强度值计算单元用于根据所述各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值;
所述第一存储单元用于存储各原始图像中每个像素点的所述高频分量强度值,对所述高频分量强度值以原始图像为单位进行顺序编号,并且收到所述计数单元提供的当前计数值时,提供编号与当前计数值相对应的原始图像中各像素点的所述高频分量强度值;
所述第三存储单元用于存储各原始图像,对各原始图像进行顺序编号,并且收到所述计数单元提供的当前计数值时,提供编号与当前计数值相对应的原始图像;
所述两图合成单元用于根据两幅图像中各像素点的高频分量强度值确定中间合成图像中相应位置像素点的值,并提供计数通知消息;
所述第二存储单元用于存储所述中间合成图像,并根据所述计数单元提供的当前计数值提供所述中间合成图像,并根据所述计数单元提供的输出通知消息将所述中间合成图像作为最终合成图像输出;
所述第二亮度信息提取单元用于提取所述中间合成图像中每个像素点的亮度信息;所述第二高频分量提取单元用于根据所述中间合成图像中每个像素点的亮度信息中获得各像素点的高频分量;
所述第二高频分量强度值计算单元用于根据所述中间合成图像中每个像素点的高频分量计算各像素点的高频分量强度值;
所述计数单元用于根据所述计数通知消息将计数值加1作为当前计数值,并根据当前计数值判断所有原始图像是否已经合成完毕,若是,则向所述第二存储单元发送输出通知消息,否则,分别向所述第一存储单元和第三存储单元提供当前计数值。
上述图像合成单元中,赋值单元包括掩模平面设置单元、平滑滤波单元和阈值比较单元,其中,所述掩模平面设置单元用于设置与原始图像同样大小的掩模平面,根据所述每个位置像素点的高频分量强度值最大的原始图像确定掩模平面上对应位置的点的值;所述平滑滤波单元用于根据所述掩模平面的所有位置的点的取值设置阈值,并对收到的掩模平面进行平滑滤波得到平滑平面;所述阈值比较单元用于比较所述平滑平面上每个位置的点的值与所述阈值的大小,并根据比较结果将相应原始图像的对应位置像素点的值作为合成图像中对应位置像素点的值。
本发明提供的另一种图像合成装置,该装置包括:第一存储单元、第二存储单元、亮度信息提取单元、高频分量提取单元、高频分量强度值计算单元、两图合成单元和计数单元,其中,
所述第一存储单元用于存储各原始图像,并对原始图像进行顺序编号,根据计数单元提供的当前计数值,提供与当前计数值相对应的原始图像;
所述第二存储单元用于存储中间合成图像,并将该中间合成图像直接提供给亮度信息提取单元,根据计数单元提供的输出通知消息将所述中间合成图像作为最终合成图像输出;
所述亮度信息提取单元用于提取图像中每个像素点的亮度信息;
所述高频分量提取单元用于根据图像中每个像素点的所述亮度信息获得各像素点的高频分量;
所述高频分量强度值计算单元用于根据图像中每个像素点的所述高频分量计算各像素点的高频分量强度值;
所述两图合成单元用于根据两幅图像中各像素点的所述高频分量强度值确定中间合成图像中相应像素点的值,提供所述中间合成图像,并提供计数通知消息;
所述计数单元用于根据所述计数通知消息将计数值加1后作为当前计数值,并根据当前计数值判断所有原始图像是否已经合成完毕,若是,则向第二存储单元发送输出通知消息,否则,分别向第一存储单元和第二存储单元提供当前计数值。
上述任一图像合成装置进一步包括:低频分量提取单元、低频合成单元和合成单元。其中,所述低频分量提取单元用于获取各原始图像中像素点的低频分量,选取同一位置都存在低频分量的不同原始图像对应该位置的像素点;所述低频合成单元用于根据相同位置都存在低频分量的所有原始图像该位置像素点的值确定低频合成图像中相应位置像素点的值;所述合成单元用于对所述合成图像和所述低频合成图像进行处理,得到包含高频分量和低频分量的合成图像。
本发明使用基于像素点的图像合成方案来扩大景深,本发明提供的方案中,分别得到各原始图像中每个像素点的亮度信息,从所述像素点的亮度信息中提取相应像素点的高频分量,根据各原始图像中各像素点的高频分量,确定合成图像中相应位置像素点的值。由于本发明中计算原始图像中每个像素点的高频分量强度值只是一些简单的运算,并且确定合成图像中每个像素点的值的过程只需要进行简单的比较或四则运算即可,因此相对于现有技术,本发明提供的方案极大地降低了图像合成过程中的运算量,能方便快捷地得到所需的合成图像。由于本发明提供的方案是基于每个像素点的操作,因此,相对于现有技术,采用本发明提供的方案所得到的合成图像的每个像素点的细节都会比较清晰。
另外,本发明的方法中,不使用原始图像中各像素点的高频分量和低频分量的值生成合成图像中的对应像素点,而是将原始图像中相应位置像素点的值直接作为合成图像中对应位置像素点的值,或者将原始图像中相应位置像素点的值加权平均后作为合成图像中对应位置像素点的值,这样,相对于现有技术,本发明不会由于小波变换等对原始图像频率分量的相关操作而使合成图像的细节与原始图像的细节出现偏差。
综上所述,通过本发明提供的方案,可以快速、有效地获得高景深的合成图像。
具体实施方式
本发明提供的图像合成方法,首先得到多幅原始图像中每幅原始图像的各像素点的亮度信息;然后从像素点的亮度信息中提取高频分量;根据每个像素点的高频分量,确定合成图像中相应位置像素点的值。
本发明的方法适用于所有单色图像和彩色图像,对于单色图像,像素点的值是指单色图像中像素点的灰度值;对于彩色图像,像素点的值是指彩色图像中像素点的红绿蓝(Red Green Blue,RGB)值。下面以m*n大小的彩色图像为例具体说明本发明提供的方法的实施步骤,其中,m和n均为正整数。
请参阅图1,其为本发明中图像合成的流程图,具体实施步骤如下:
S100:多幅原始图像中,分别得到每幅原始图像中每个像素点的亮度信息Y(p,q)。其中,p的取值为1至m的任意正整数,q的取值为1至n的任意正整数。
在此,由于RGB色彩空间对硬件实现很理想,因此,原始图像用RGB色彩空间来表示。当人眼观察一个彩色物体时,可以采用色调、色饱和度和亮度来描述物体。人眼对亮度比对色度敏感,并且亮度是描述色彩感觉的关键参数,因此图像的亮度信息也是表征图像的重要参数。但是由于在RGB色彩空间中,亮度只是一个主观的描述,因此常把RGB色彩空间转换到亮度色度(YUV)空间,由于YUV空间中亮度和色度是分离的,因此可在YUV空间中提取原始图像像素点的亮度信息,对于本发明,计算得到的Y(p,q)是转换后的亮度信息。
其中,Y(p,q)为原始图像在相应位置像素点的RGB分量的加权和,即:
Y(p,q)=a1*R(p,q)+a2*G(p,q)+a3*B(p,q)
其中,a1,a2,a3分别是原始图像在相应位置像素点的红色(Red,R)分量、绿色(Green,G)分量、蓝色(Blue,B)分量的加权系数。
S101:由于图像的高频分量可以表征图像的细节部分,图像的细节部分是指图像的边缘和其他尖锐变化等信息,因此从每个像素点的亮度信息Y(p,q)中提取相应像素点的高频分量,相当于提取了图像在相应像素点的细节信息。
其中,像素点的高频分量的提取可通过高通滤波器来实现,将原始图像经过设定阈值的高通滤波器后得到所有像素点的高频分量。
S102:根据各原始图像中各像素点的高频分量,确定合成图像中相应位置像素点的RGB值。
上述S102可通过三种方式来实现:比较法、加权法和基于比较法或加权法的迭代法,下面对S102的三种实现方式分别进行详细描述。
请参阅图2,其为本发明中使用比较法进行图像合成的流程图,包括:
S200:对各幅原始图像的每个像素点的高频分量分别取其绝对值,得到每个像素点的高频分量强度值,其大小代表了原始图像在相应位置的像素点的清晰程度。在此,用abs_edge(p,q)表示原始图像在位置(p,q)处的像素点的高频分量强度值。
S201:比较不同原始图像中各相同位置像素点的高频分量强度值的大小,针对于每个位置确定该位置像素点的高频分量强度值最大的那幅原始图像。
S202:根据每个位置像素点的高频分量强度值最大的那幅原始图像确定合成图像中对应位置像素点的RGB值。
上述S202有两种实现方式,实现方式一为:直接将各位置像素点的高频分量强度值最大的那幅原始图像在相应位置像素点的RGB值作为合成图像对应位置像素点的RGB值。
图3为S202的实现方式二的流程图,包括:
S301:设置一个与原始图像同样大小的掩模平面,在此用mask表示掩模平面;对于每一个具体位置,根据该位置像素点的高频分量强度值最大的那幅原始图像设定mask上相应位置的点的值。
例如,有N幅原始图像,abs_edge(p,q)表示任意一幅原始图像在位置(p,q)处的像素点的高频分量强度值,如果abs_edge(p,q)最大的是第i幅原始图像,则可以设定mask中位置(p,q)处的点的mask(p,q)的值为i,不同的原始图像对应不同的mask(p,q)的值。
S302:原始图像中所有位置像素点对应的abs_edge(p,q)比较完毕后,对mask进行平滑滤波,得到一个平滑平面,在此用mask_smooth表示平滑平面,根据所有maskk_smooth(p,q)的取值来设定阈值,对于N幅原始图像,需设定N-1个阈值。
其中,平滑滤波可通过一个归一化的平滑滤波器来实现。进行平滑滤波的原因是为了消除在提取像素点的高频分量时原始图像中遗留的噪声,这是由于在S101中噪声也作为高频分量之一而被提取出来,因此导致后续S201中所得结果不准确。在平滑滤波过程中,对mask上的一个点综合使用了当前点和其周围点的mask(p,q)的值来确定该点的取值,提高了最后所得结果的可靠性。例如,对于5*5的平滑窗口,内有24个1,只有中心点是2,那么我们认为中心点的2是不可信的,平滑滤波后中心点的输出结果会接近1,如平滑窗口中心点输出值为26/25=1.04。
S303:比较平滑平面中每个mask_smooth(p,q)的值与设定阈值的大小,根据比较结果将对应原始图像中对应位置(p,q)的像素点的RGB值作为合成图像中相应位置像素点的RGB值。
下面以两幅原始图像和三幅原始图像的合成为例具体说明上述比较法中实现方式二的执行过程。
请参看图4,本发明中比较合成两幅图像的流程图。具体包括:
S400:判断未进行比较的abs_edge1(p,q)是否大于abs_edge2(p,q),若是,则执行S401,否则执行S402。
其中,abs_edge1(p,q)和abs_edge2(p,q)分别表示原始图像1和原始图像2中任一相同位置像素点的高频分量强度值。
S401:设置mask相应位置点的值,例如设置mask(p,q)=1。
S402:设置mask相应位置点的值,例如设置mask(p,q)=2。
S403:判断原始图像中各相同位置像素点的高频分量强度值是否已经比较完毕,即判断abs_edge1(p,q)和abs_edge2(p,q)是否已比较完毕,若是,则继续执行S404,否则执行S420。
S404:对mask进行平滑滤波得到mask_smooth;根据所有mask_smooth(p,q)的取值来设定阈值Th,然后执行S405。例如,设置mask(p,q)=1或2时,由于平滑滤波后,mask_smooth上所有点的值不是接近1就是接近2,可设阈值Th为1.5。
S420:选取未进行比较的相同位置(p,q)处像素点对应的abs_edge1(p,q)和abs_edge2(p,q),再返回执行S400。
S405:判断未与阈值比较的mask_smooth(p,q)是否小于Th,若是,则执行S406,否则执行S407。
S406:C(p,q)=C1(p,q),即将原始图像1中相应位置像素点的RGB值作为合成图像中对应位置像素点的RGB值,然后执行S408。
S407:C(p,q)=C2(p,q),即将原始图像2中相应位置像素点的RGB值作为合成图像中对应位置像素点的RGB值。
其中,C(p,q)、C1(p,q)和C2(p,q)分别代表合成图像、原始图像1和原始图像2任一相同位置像素点的RGB值。
S408:判断mask_smooth上所有点的值是否与阈值比较完毕,若是,则结束操作,否则执行S409。
S409:选取未进行比较的mask_smooth(p,q),再返回执行S405。
再参看图5,其本发明中比较合成三幅图像的流程图。该方法包括:
S500:比较三幅原始图像中未进行比较的同一位置对应像素点的高频分量强度值的大小,即比较相同的(p,q)对应的abs_edge1(p,q)、abs_edge2(p,q)和abs_edge3(p,q)的大小,找出该位置像素点的高频分量强度值最大的原始图像。
S501:根据上述比较结果设置mask上所有对应位置点的值,例如,S500中比较得到某一位置像素点的高频分量强度值最大的是第i幅原始图像,其中,i=1,2,3,则可令mask(p,q)=i。
S502:判断三幅原始图像中各相同位置像素点的高频分量强度值是否已比较完毕,若是,则继续执行S503,否则执行S520。
S503:对mask进行平滑滤波得到mask_smooth。根据所有mask_smooth(p,q)的取值来设定2个阈值Th1和Th2,然后执行S504。例如,设置mask(p,q)=i时,由于平滑滤波后,mask_smooth上所有点的值不是接近1就是接近2,再或者是接近3,因此可设定Th1为1.5,Th2为2.5。
S520:选取未进行比较的相同位置(p,q)处像素点对应的abs_edge1(p,q)、abs_edge2(p,q)和abs_edge3(p,q),再返回执行S500。
S504:判断未与阈值比较的mask_smooth(p,q)是否小于Th1,若是,则执行S505,否则执行S506。
S505:C(p,q)=C1(p,q),即将原始图像1的相应位置像素点的RGB值作为合成图像中对应位置像素点的RGB值,然后执行S509。
S506:判断mask_smooth(p,q)是否大于Th2,若是,则执行S507,否则执行S508。
S507:C(p,q)=C3(p,q),即将原始图像3的相应位置像素点的RGB值作为合成图像中对应位置像素点的RGB值,然后执行S509。
S508:C(p,q)=C2(p,q),即将原始图像2的相应位置像素点的RGB值作为合成图像中对应位置像素点的RGB值。
S509:判断mask_smooth上所有点的值是否与阈值比较完毕,若是,则结束操作,否则执行S510。
S510:选取未进行比较的mask_smooth(p,q),再返回执行S504。
图6是使用加权法进行图像合成的流程图,包括:
S600:计算各原始图像中每个像素点的高频分量强度值,例如对于N幅m*n的原始图像,第i幅原始图像上位置(p,q)处像素点的高频分量强度值为abs_edgei(p,q)。
S601:根据各原始图像中相同位置像素点的高频分量强度值计算每个像素点的加权系数。
如果有N幅原始图像,则第i幅原始图像上位置(p,q)处像素点的加权系数ki(p,q)为:
其中,i为1至N的任意正整数,ki(p,q)满足:
这样的归一化处理是为了使最终的合成图像相对于每幅原始图像来说图像的整体亮度不变。
S602:根据加权系数将原始图像合成为合成图像,该合成图像各位置的像素点满足:
其中,C(p,q)代表合成图像中位置(p,q)处像素点的RGB值,Ci(p,q)代表第i幅原始图像中位置(p,q)处像素点的RGB值,合成图像上的每一个像素点的RGB值都是通过对所有原始图像在相应位置像素点的RGB值的加权平均得到的。由于加权系数ki(p,q)代表了每幅原始图像中相应位置像素点的高频分量的比重,即每幅原始图像中相应位置像素点上细节信息的多少,因此,可根据此种方法确定每幅原始图像各位置像素点对合成图像相应位置像素点所作的贡献,从而得到更为清晰的大景深合成图像。
图7是本发明中使用迭代法进行图像合成的流程图,具体实施步骤如下。
S700:任意选取两幅原始图像。
S701:根据前面所述的针对两幅图像的比较法或加权法,将两幅图像合成为一幅中间合成图像;
S702:判断所有原始图像是否都已进行过合成,若是,则将得到的中间合成图像作为最终的合成图像,否则继续执行S703,继续下一次迭代过程。
S703:选取上次迭代过程中得到的中间合成图像并任意选取一幅未进行过合成操作的原始图像,返回执行S701。
请参看图8,为本发明中使用迭代法进行图像合成的原理示意图。其中,对于N幅原始图像,迭代过程为:原始图像1和原始图像2根据针对两幅图像的比较法或加权法合成得到中间合成图像New_1;中间合成图像New_1和原始图像3根据针对两幅图像的比较法或加权法合成得到中间合成图像New_2;中间合成图像New_2和原始图像4根据针对两幅图像的比较法或加权法合成得到中间合成图像New_3;依次迭代下去,直至中间合成图像New_N-2和原始图像N根据针对两幅图像的比较法或加权法合成得到中间合成图像New_N-1,此中间合成图像即为最终的合成图像。
迭代规则用公式表示为:
CNew_1=C1+C2
CNew_i-1=CNew_i-2+Ci
其中,Ci表示第i幅原始图像,CNew_i-1表示经过i-1次图像合成操作所得到的中间合成图像,同样,CNew_i-2表示经过i-2次图像合成操作所得到的中间合成图像,i为1至N的任意正整数。N幅原始图像需要进行N-1次图像合成操作后才能得到最终的一幅合成图像。此方法的有益效果在于:迭代逻辑简单,计算时占用内存极小,并且整个迭代过程只需要一套针对两幅图像进行合成的处理方案,具有很强的可扩展性。
值得说明的是,为了把本发明的方法表达得更清楚,上面所有公式都基于单个像素点的值来表达,具体计算的时候,例如对于m*n大小的原始图像,上述方案的实现只需要在计算机内对多个m*n矩阵进行简单的大小比较或四则运算即可,不需要过多复杂的计算。因此,本发明的方法相对于现有技术来说,更为简捷易行,极大地简化了合成图像过程中的计算量。
基于上述像素点的高频分量的合成方法,如果所有原始图像在同一个位置的像素点都没有高频分量,即所有原始图像这些位置的像素点只存在低频分量。这些少量的低频分量可在提取原始图像各像素点的高频分量时进一步提取。例如,可在提取高频分量时,将低于高通滤波器门限值的需要滤除的频率分量另外存储,对于不同原始图像的同一个位置,如果都有需要滤除的频率分量,则该位置对应存储的频率分量即为所述低频分量。
根据相同位置都存在低频分量的所有原始图像该位置像素点的值确定合成图像中相应位置像素点的值,具体处理可采取两种处理方法:(1)将原始图像在上述位置像素点的RGB值直接进行加权平均,对于N幅原始图像,加权系数分别为1/N,即最终的合成图像中相应位置像素点的RGB值为所有原始图像中对应位置像素点的RGB值的和的平均值;(2)将上述位置上任意一幅原始图像的像素点的RGB值作为合成图像中相应位置像素点的RGB值。最后对低频合成图像和前面得到的合成图像进行处理,得到包含高频分量和低频分量的合成图像。
图9为本发明提供的图像合成装置一的结构示意图,如图9所示,此装置包括:亮度信息提取单元、高频分量提取单元和高频合成单元。下面具体说明各单元的作用。
亮度信息提取单元用于提取各原始图像中每个像素点的亮度信息,将各原始图像中每个像素点的亮度信息提供给高频分量提取单元。
高频分量提取单元用于根据各原始图像中每个像素点的亮度信息获得各原始图像中各像素点的高频分量,并将所述高频分量提供给高频合成单元。
高频合成单元用于根据各原始图像中各像素点的高频分量确定合成图像中相应位置像素点的值,即将原始图像中相应像素点的值合成为合成图像中相应像素点的值。
当采用不同的方式根据各原始图像中每个像素点的高频分量确定合成图像中相应位置像素点的值时,高频合成单元可以包括不同的子单元,下面依次结合示意图对高频合成单元的结构进行说明。
图10为本发明图像合成装置一中高频合成单元的结构示意图一,包括:高频分量强度值计算单元、比较单元和赋值单元。
其中,高频分量强度值计算单元用于根据各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值,将各原始图像中各像素点的高频分量强度值提供给比较单元。
比较单元用于对不同原始图像中各相同位置像素点的高频分量强度值的大小进行比较,确定每个位置像素点的高频分量强度值最大的那幅原始图像并通知赋值单元。
赋值单元用于根据每个位置像素点的高频分量强度值最大的那幅原始图像确定合成图像中相应位置像素点的值。赋值单元可以直接将各位置像素点的高频分量强度值最大的那幅原始图像在相应位置像素点的值作为合成图像对应位置像素点的值。
另外,赋值单元也可以根据各位置像素点的高频分量强度值最大的原始图像进行一些处理,最后得到合成图像相应位置像素点的值,如图11所示,赋值单元包括:掩模平面设置单元、平滑滤波单元和阈值比较单元。各单元的具体作用如下:
掩模平面设置单元用于设置一个与原始图像同样大小的掩模平面,根据每个位置像素点的高频分量强度值最大的那幅原始图像确定掩模平面上对应位置的点的值,将所有位置的点都已赋值的掩模平面提供给平滑滤波单元。
例如,有N幅原始图像,对于各原始图像中某一个相同位置,比较单元确定该位置像素点的高频分量强度值最大的为第i幅原始图像,则掩模平面设置单元可以将掩模平面中对应该位置的点的值设置为i。其中,对于每个位置的点的取值,保证确定出的原始图像和掩模平面上该位置的点的值是一一对应关系,即确定出的原始图像不同,设置的掩模平面上对应位置的点的值不同。
平滑滤波单元用于根据掩模平面的所有位置的点的取值设置阈值,并对收到的掩模平面进行平滑滤波,将设置的阈值和滤波后得到的平滑平面提供给阈值比较单元。平滑滤波单元可以通过一个归一化的平滑滤波器来实现。平滑滤波可以消除在提取像素点的高频分量时原始图像中遗留的噪声。
阈值比较单元用于比较平滑平面上每个位置的点的值与阈值的大小,并根据比较结果将相应原始图像的对应位置像素点的值作为合成图像中对应位置像素点的值。
图12为本发明图像合成装置一中高频合成单元的结构示意图二。包括:高频分量强度值计算单元、加权系数计算单元和加权单元。其中,各单元作用如下:
高频分量强度值计算单元用于根据各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值,将各原始图像中各像素点的高频分量强度值提供给加权系数计算单元。
加权系数计算单元用于根据各原始图像中每个像素点的高频分量强度值,计算各原始图像中每个像素点的加权系数并提供给加权单元。
加权单元用于根据各原始图像中每个像素点的加权系数,将所有原始图像在各相同位置像素点的值加权合成为合成图像中相应位置像素点的值。
图13为本发明图像合成装置一中高频合成单元的结构示意图三,包括第一高频分量强度值计算单元、第一存储单元、第三存储单元、两图合成单元、第二存储单元、第二亮度信息提取单元、第二高频分量提取单元、第二高频分量强度值计算单元和计数单元,其中,各单元作用如下:
第一高频分量强度值计算单元用于根据各原始图像中每个像素点的高频分量计算相应像素点的高频分量强度值,将各原始图像中每个像素点的高频分量强度值提供给第一存储单元。
第一存储单元用于存储各原始图像中每个像素点的高频分量强度值,并对这些高频分量强度值以原始图像为单位进行顺序编号;此外,第一存储单元还用于选择与计数单元提供的当前计数值相对应的原始图像中各像素点的高频分量强度值,并向两图合成单元提供该原始图像中各像素点的高频分量强度值。例如,计数单元提供的当前计数值为i,则第一存储单元将存储的第i幅原始图像中各像素点的高频分量强度值提供给两图合成单元。
第三存储单元用于存储各原始图像,并对各原始图像进行顺序编号,此外,第三存储单元还用于根据计数单元提供的当前计数值,选择编号与当前计数值相对应的原始图像,并向两图合成单元提供该原始图像。
其中,第三存储单元对原始图像的编号顺序与第一存储单元中针对相同原始图像中各像素点的高频分量强度值的编号顺序一致。例如,计数单元提供的当前计数值为i,则第一存储单元将存储的第i幅原始图像中各像素点的高频分量强度值提供给两图合成单元,同时第三存储单元将存储的第i幅原始图像提供给两图合成单元。
两图合成单元用于根据收到的两幅图像中各像素点的高频分量强度值确定中间合成图像中相应位置像素点的值,具体处理可根据本发明提供的针对两幅图像的比较法或加权法来进行,将得到的中间合成图像提供给第二存储单元,此外,两图合成单元得到中间合成图像后还向计数单元提供计数通知消息。两图合成单元进行的第一次图像合成处理是针对两幅原始图像进行的,后续进行的图像合成处理是针对一幅原始图像和一幅中间合成图像进行的。
初始情况下,第一存储单元可以直接向两图合成单元提供第一幅原始图像和第二幅原始图像中各像素点的高频分量强度值,两图合成单元根据针对两幅图像的比较法或加权法将相应的两幅图像合成为第一幅中间合成图像。
第二存储单元用于存储中间合成图像,并根据计数单元提供的当前计数值将存储的中间合成图像分别提供给第二亮度信息提取单元和两图合成单元;此外,第二存储单元还用于根据计数单元提供的输出通知消息将中间合成图像作为最终合成图像输出。
第二亮度信息提取单元用于提取中间合成图像中每个像素点的亮度信息,并将中间合成图像中每个像素点的亮度信息提供给第二高频分量提取单元。
第二高频分量提取单元用于根据中间合成图像中每个像素点的亮度信息获得各像素点的高频分量,并将该高频分量提供给第二高频分量强度值计算单元。
第二高频分量强度值计算单元用于根据中间合成图像中每个像素点的高频分量计算各像素点的高频分量强度值,将中间合成图像中每个像素点的高频分量强度值提供给两图合成单元。
计数单元用于在收到计数通知消息时,将计数值加1作为当前计数值,并根据当前计数值判断所有原始图像是否已经合成完毕,若是,则向第二存储单元发送输出通知消息,否则,分别向第一存储单元和第三存储单元提供当前计数值。
其中,计数单元可通过一个计数器来实现,例如,计数器的初始值可以设置为2,计数器在收到计数通知消息时,计数值加1,如对于N幅原始图像,计数通知消息到来前,计数器的当前计数值为i,当收到计数通知消息时,计数器的计数值变为i+1,并将i+1作为当前计数值。根据当前计数值判断所有原始图像是否已经合成完毕,即判断当前计数值是否大于N,若是,则表明所有原始图像均已参加过图像合成,此时向第二存储单元发送输出通知消息,否则计数单元分别向第一存储单元和第三存储单元提供当前计数值。
本发明提供的图像合成装置二的结构示意图,如图14所示,包括:第一存储单元、第二存储单元、亮度信息提取单元、高频分量提取单元、高频分量强度值计算单元、两图合成单元和计数单元。其中,各单元作用如下:
第一存储单元用于存储各原始图像,并对各原始图像进行顺序编号;此外,第一存储单元用于根据计数单元提供的当前计数值,选择与当前计数值相对应的原始图像,将该原始图像提供给两图合成单元。例如,计数单元提供的当前计数值为i,则第一存储单元将存储的第i幅原始图像提供给两图合成单元。
第二存储单元用于存储两图合成单元当前提供的中间合成图像,并在收到计数单元提供的当前计数值时将该中间合成图像直接提供给亮度信息提取单元;此外,第二存储单元还用于根据计数单元提供的输出通知消息将中间合成图像作为最终合成图像输出。
亮度信息提取单元用于提取图像中每个像素点的亮度信息,并将图像中每个像素点的亮度信息提供给高频分量提取单元。
高频分量提取单元用于根据图像中每个像素点的亮度信息获得各像素点的高频分量并提供给高频分量强度值计算单元。
高频分量强度值计算单元用于根据图像中每个像素点的高频分量计算各像素点的高频分量强度值并提供给两图合成单元。
在亮度信息提取单元中进行处理的图像分别是原始图像和中间合成图像,这样,高频分量提取单元和高频分量强度值计算单元中处理的图像也相应的为原始图像和中间合成图像。
两图合成单元用于根据收到的两幅图像中各像素点的高频分量强度值确定中间合成图像中相应位置像素点的值,具体处理可根据本发明提供的针对两幅图像的比较法或加权法来进行,并将该中间合成图像提供给第二存储单元,此外,两图合成单元得到中间合成图像后还向计数单元提供计数通知消息。
初始情况下,第一存储单元可以直接向两图合成单元提供第一幅原始图像和第二幅原始图像中各像素点的高频分量强度值,两图合成单元根据针对两幅图像的比较法或加权法将相应的两幅图像合成为第一幅中间合成图像。
计数单元用于在收到计数通知消息时,将计数值加1作为当前计数值,并根据当前计数值判断所有原始图像是否已经合成完毕,若是,则向第二存储单元发送输出通知消息,否则,分别向第一存储单元和第二存储单元提供当前计数值。
其中,计数单元可通过一个计数器来实现,例如,计数器的初始值可以设置为2,计数器在收到计数通知消息时,计数值加1,如对于N幅原始图像,计数通知消息到来前,计数器的当前计数值为i,当收到计数通知消息时,计数器的计数值变为i+1,并将i+1作为当前计数值。根据当前计数值判断所有原始图像是否已经合成完毕,即判断当前计数值是否大于N,若是,则表明所有原始图像均已参加过图像合成,此时计数单元向第二存储单元发送输出通知消息,否则计数单元分别向第一存储单元和第二存储单元提供当前计数值。
上述所有本发明提供的图像合成装置进一步包括低频分量提取单元、低频合成单元和合成单元。请参看图15,其中,高频图像合成装置即为图9和图14中所述的装置,各新增单元具体作用如下:
低频分量提取单元用于获取各原始图像中像素点的低频分量,选取同一位置都存在低频分量的不同原始图像对应该位置的像素点,并将所述像素点的值提供给低频合成单元。获取各原始图像中每个像素点的低频分量实现大致包括以下两种方式。一种方式是亮度信息提取单元可以进一步向低频分量提取单元提供各原始图像中每个像素点的亮度信息;低频分量提取单元根据各原始图像中每个像素点的亮度信息,获取低于设定的门限值的像素点的低频分量。其中,所述门限值可根据需要设定,例如,该门限值为提取高频分量时高通滤波器的门限值。另一种方式是高频分量提取单元进一步用于向低频分量提取单元提供滤除的频率分量,该频率分量即为低频分量提取单元最后获得的各原始图像中像素点的低频分量。
低频合成单元用于根据相同位置都存在低频分量的所有原始图像该位置像素点的值确定低频合成图像中相应位置像素点的值,将低频合成图像提供给合成单元。
其中,低频合成单元可以直接将任意一幅原始图像中相应位置像素点的值作为低频合成图像中对应位置像素点的值;或将所有原始图像在相应位置像素点的值的加权平均值作为低频合成图像对应位置像素点的值。
合成单元用于对收到的合成图像和低频合成图像进行处理,得到包含高频分量和低频分量的合成图像。合成单元收到的合成图像可来自于图9中的高频合成单元或徒14中的两图合成单元;对应于高频合成单元的具体结构,合成单元收到的合成图像具体可来自于图10中的赋值单元、图11中的阈值比较单元、图12中的加权单元、图13中的两图合成单元。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。