具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
在本发明的实施例中,图像融合技术具体指的是将两幅或多幅图像综合成一幅新的图像的技术。
图1示意性示出了根据本发明的一个实施例的图像融合方法的流程示意图,如图1所示,该图像融合方法可以包括以下步骤S102-步骤S110,详细介绍如下。
步骤S102,获取待融合的第一图像和第二图像。
在示例性实施例中,第二图像用于形成融合后图像背景;第一图像为两幅待融合图像的重叠部分,且用于形成融合后图像的前景。
例如,参考图2a,根据图像J1和图像K1获取所述第一图像和第二图像。其中,所述第二图像为用于形成融合后图像背景的图像K1,所述第一图像为用于形成融合后图像前景的图像J1。又例如,参考图2b,根据图像J2和图像K2获取所述第一图像和第二图像。其中,图像J2包括:与图像K2重合的一部分J0和不与K2重合的一部分J3。则所述第一图像为图像J2中与图像K2重合的一部分J0,所述第二图像为用于形成融合后图像背景的图像K2。
可以理解的是,所述第一图像可以为整幅图像J1,也可以为图像J2的一部分,如与图像K2重合的部分J0。
步骤S104,确定所述第一图像的alpha图像。
alpha图像显示图像重叠部分对应的像素的透明度。在示例性实施例中,可以通过确定所述第一图像的alpha图像获得图像重叠部分对应的像素的透明度。
步骤S106,通过所述alpha图像调节所述第一图像的透明度,以获得前景图像。
步骤S108,通过所述alpha图像调节所述第二图像的透明度,以获得背景图像。
需要说明的是,步骤S106和步骤S108执行顺序不分前后,可以先执行步骤S106再执行步骤S108,还可以先执行步骤S108再执行步骤S106,还可以同时执行步骤S106和步骤S108。
步骤S110,融合所述前景图像和所述背景图像。
在图1所示实施例的技术方案中,通过alpha图像调节待融合图像的透明度,以生成抗锯齿前景图像和后景图像,使得融合后的图像中融合接缝处能够平滑过渡,提高了融合精度,改善了视觉效果。同时,避免了利用图形处理软件时不间断的手动处理待融合图像或利用融合算法不断训练模型等繁琐过程骤,实现了在保证图像融合精度的同时,提高图像融合的效率。
图3示意性示出了根据本发明的另一个实施例的图像融合方法的流程示意图,如图3所示,图3是在图1的基础上进行的,该图像融合方法可以包括步骤S300-S310。
步骤S300,调整所述第一图像或所述第二图像的尺寸,以使所述第一图像叠加在所述第二图像的预设位置处。
在示例性实施例中,根据图像融合的需求,调整第一图像或第二图像的尺寸,以使融合后的图像满足用户需求。例如,参考图4a-4c,要求融合后的图像中,前景图像A’的尺寸为m*n,且位背景图像B中心和前景图像A’中心重合,则可通过调整图像A尺寸来实现以上要求。其中,m和n为正数。
在示例性实施例中,调整图像A(原图像)的尺寸至前景图像A’(目标图像)时。目标图像中像素的透明度采用后向映射方式的双线性插值方法得到,即从目标图像的坐标映射到原图像坐标。具体的,参考图5a和5b,根据几何关系,从原图像A中的坐标P(x,y)得到目标图像A’中的坐标P’(x/4,y/4),映射得到的这个坐标P’(x/4,y/4)不位于原图像A中的整数坐标上(即:x和y为整数,x/4和y/4为非整数),而是映射到了四个像素坐标(a,b)、(a+1,b)、(a,b+1)、(a+1,b+1)所围成的矩形之间,其中,a和b是原图像A的整数坐标。根据A0(a,b)、B(a+1,b)、C(a,b+1)、D(a+1,b+1)这四个点上的透明度,得出P’(x/4,y/4)处的透明度。具体的,采用双线性插值方法:假设A图像的透明度变化在纵向方向上是线性变化的,这样根据直线方程或者几何比例关系就能够求得(a,y/4)和(a+1,y/4)坐标处的透明度A1(a,y/4)和A2(a+1,y/4)。然后,再假设在A1(a,y/4)和A2(a+1,y/4)这两点所确定的直线上,透明度仍然是线性变化的。得到目标图像中P’(x/4,y/4)处的透明度(x/4,y/4)。基于此,可得到尺寸调整后的目标图像A’中任一点的透明度。
本实施例中采用图5a-5b提供的图像尺寸调整方法调整待融合图像,基于双线性插值方法获取尺寸确定尺寸调整后图像透明度,相较于原尺寸图像,目标尺寸图像的透明度不失真,从而实现不同尺寸图像间的高精度的图像融合。
步骤S302,获取待融合的第一图像和第二图像。此步骤的具体实现方式同步骤S102,在此不再赘述。
步骤S304,通过图像编码处理方法确定所述第一图像的alpha图像。
在示例性实施例中,图6示意性示出了根据本发明的实施例的一种alpha图像获取方法的流程示意图,参考图6,采用图像编码处理方法确定所述第一图像的alpha图像包括步骤S3041-S3043。
步骤S3041,通过第一OpenCV函数读取所述第一图像,以转换所述第一图像为第一矩阵。
步骤S3042,通过第二OpenCV函数分离所述第一矩阵,以获得alpha图像通道矩阵。
步骤S3043,根据所述alpha图像通道矩阵确定所述alpha图像。
具体的,首先,第一OpenCV函数为imread()函数,使用imread()函数读图像,以将图像数字化为一个三维矩阵,从而对数字化的图像进行处理。
本实施例步骤S3041中,使用imread()函数读第一图像,以将第一图像数字化为第一矩阵。所述第一图像为png格式图像,经过imread()函数读后产生四个图像通道,包括R图像通道、G图像通道、B图像通道和alpha图像通道。此步骤对应的具体代码可如下表示:
“Mat inimg=imread(imagePath,
CV_LOAD_IMAGE_UNCHANGED);”//读取透明通道
//输出RGBA数值
“cout<<(int)inimg.at<Vec4b>(0,0)[0]<<endl
<<(int)inimg.at<Vec4b>(0,0)[1]<<endl
<<(int)inimg.at<Vec4b>(0,0)[2]<<endl
<<(int)inimg.at<Vec4b>(0,0)[3]<<endl;”
其次,第二OpenCV函数为split()函数,使用split()函数分离数字化后图像的通道。本实施例步骤S3042中,使用split()函分离第一矩阵,获得alpha图像通道矩阵。此步骤对应的具体代码可如下表示:
“split(src,channels);”//分离通道
其中,split()函数的第一个参数为要进行分离的图像通道矩阵,第二个参数可以是Mat数组的首地址,或者一个vector<Mat>对象。
此时,可获得四个图像通道矩阵,包括:R图像通道矩阵、G图像通道矩阵、B图像通道矩阵和alpha图像通道矩阵。根据每个图像通道矩阵可确定对应的图像。例如图7a-7d分别示出四个图像通道矩阵对应的图像。
步骤S306,通过所述alpha图像调节所述第一图像的透明度,以获得前景图像。
在示例性实施例中,基于步骤S304提供的通过图像编码处理方法确定的第一图像的alpha图像,对第一图像的透明度进行调节进而获得前景图像。具体包括:1)、通过所述第二OpenCV函数分离所述第一矩阵,以获得第一RGB图像通道矩阵;2)、通过第三OpenCV函数点乘所述第一RGB图像通道矩阵和所述alpha图像通道矩阵,获得前景矩阵;3)、根据所述前景矩阵确定所述前景图像。
在步骤S3042中,通过split()函数分离第一矩阵获得了R图像通道矩阵、G图像通道矩阵、B图像通道矩阵,即所述第一RGB图像通道矩阵。进一步的,上述第三OpenCV函数为“CV_EXPORTS MatExproperator*(const Mat&a,const Mat&b)”函数,通过alpha图像调节第一图像的透明度的实现方式可以是:使用此函数将上述第一RGB图像通道矩阵和alpha图像通道矩阵点乘,得到前景矩阵。
作为一种将前景矩阵图形化的方式,采用第四OpenCV的merge()函数将前景矩阵图形化,得到前景图像。
步骤S308,通过所述alpha图像调节所述第二图像的透明度,以获得背景图像。
在示例性实施例中,首先,1)、计算alpha像素逆矩阵得到(255-alpha),运用alpha像素逆矩阵对上述第二图像进行通明度调节。
类似于步骤S3041和步骤S3042中对第一图像的处理方式,对第二图像进行处理:2)、通过所述第一OpenCV函数读取所述第二图像,以转换所述第二图像为第二矩阵;以及,3)、通过所述第二OpenCV函数分离所述第二矩阵,以获得第二RGB图像通道矩阵。
然后,4)、通过所述第三OpenCV函数点乘所述第二RGB图像通道矩阵和所述alpha像素逆矩阵,获得背景矩阵;以及,5)、根据所述背景矩阵确定所述背景图像。操作过程类似于步骤S306中的第2)、3)步,在此不再赘述。
步骤S310,根据所述alpha图像通道矩阵确定所述alpha图像。
在示例性实施例中,将步骤S306和步骤S308中获得的前景矩阵和背景矩阵相加,便得到融合图像矩阵。采用第四OpenCV的merge()函数将融合图像矩阵图形化,得到融合后的图像,参考图8。
在图3以及图6所示实施例的技术方案中,将待融合图像数字化后进行处理,包括:alpha图像通道矩阵的获得、对第一图像和第二图像的通明度调节等,实现图像融合方法可远程调用,避免花费大量的时间手动处理待融合图像边缘的拼接痕迹,从而提高了图像融合的便利性与时效性。
在示例性实施例中,融合后图像至少由两幅图像融合而成。当融合后图像由N幅图像构成时,包括N-1次图像融合过程,其中N为大于等于2的正整数。例如:当由两幅图像构成时,经过一次图像融合过程可获得融合后图像。当由三幅图像构成时,图像融合过程包括两次:第一次图像融合过程中,主背景图像和第一前景图像分别可用于形成第一次融合后图像的前景图像和背景图像;第二次图像融合过程中,第一次融合后图像和第二前景图像分别可用于形成第二次融合后图像的前景图像和背景图像。在此,主背景图像处于融合后图像中位于最靠后的视角处,第二前景图像在第一前景图像的前侧。
图9a-9d示出了根据本发明的实施例的一种对多幅图像进行融合的过程示意图。参考图9a-9d,其中,图像901、图像902、图像903、图像904和图像905对应五幅待融合图像,图像901用作主背景图像,即在融合后图像中位于最靠后的视角处,图像902、图像903、图像904依次为第一前景图像、第二前景图像和第三前景图像,图像905也在最前视角处,称作第四前景图像。对此包含五幅融合图像的融合过程包括四次图像融合过程,分别为依次与上述四幅前景图像进行融合。以其中图9a所示的主背景图像901和图9b所示的第一前景图像902的融合过程为例,具体包括以下步骤。
假设图9a和图9b所示的尺寸已经处于调整后状态。在第一次融合过程中,图9a和图9b所示分别用作图3所示方法中的第二图像和第一图像。根据前述步骤S304的具体实现方式,获得第一前景图像的alpha图像如图9c。根据前述步骤S306的具体实现方式,通过图9c所示的alpha图像调节图9b所示的第一前景图像的通明度。需要注意的是,通过alpha图像调整透明度后,仅显示手机部分(即仅显示融合后图像的前景部分),而手机外围部分显示为透明(即图9b中除了融合后图像的前景部分,其他部分为透明,从而提升图像融合精度)。进一步的,根据前述步骤S308的具体实现方式,通过图9c所示的alpha图像调节图9a的通明度。进而,根据前述步骤S310的具体实现方式得到第一次融合后的图像。完成第一次图像融合过程。
在第二次图像融合过程中,将第一次图像融合后的图像用作图3所示方法中的第二图像,第二前景图像903用作所述第一图像。第二次至第四次图像融合过程与图3所示方法相同,在此不再赘述。
经过四次图像融合后,第一前景图像902、第二前景图像903、第三前景图像904和第四前景图像905依次被融合,最终获得如图9d所示的由多幅图像融合而成的图像。
图像融合技术利用图像在时空上的相关性及信息上的互补性,使得融合后得到的图像能够对对应的场景产生更全面、清晰的描述。融合精度高的图像在遥感探测、医学图像分析以及交通检测等领域有着重大的应用价值。
以下介绍本发明的装置实施例,可以用于执行本发明上述的图像融合方法。参考图10,图像融合装置1000包括以下模块。
获取模块1010,所述获取模块1010用于获取待融合的第一图像和第二图像;确定模块1020,所述确定模块1020用于确定所述第一图像的alpha图像;第一调节模块1030,所述第一调节模块1030用于通过所述alpha图像调节所述第一图像的透明度,以获得前景图像;第二调节模块1040,所述第二调节模块1040用于通过所述alpha图像调节所述第二图像的透明度,以获得背景图像;以及,融合模块1050,所述融合模块1050用于融合所述前景图像和所述背景图像。
在本发明的一种实施例中,所述装置还包括调整模块,所述调整模块用于:在所述获取模块获取待融合的第一图像和第二图像之前,调整所述第一图像或所述第二图像的尺寸,以使所述第一图像叠加在所述第二图像的预设位置处。
在本发明的一种实施例中,所述确定模块通过图像编码处理方法确定所述第一图像的alpha图像。
在本发明的一种实施例中,所述确定模块1020包括:读取单元、分离单元和确定单元。其中,所述读取单元用于通过第一OpenCV函数读取所述第一图像,以转换所述第一图像为第一矩阵;所述分离单元用于通过第二OpenCV函数分离所述第一矩阵,以获得alpha图像通道矩阵;所述确定单元用于根据所述alpha图像通道矩阵确定所述alpha图像。
在本发明的一种实施例中,所述第一调节模块1030包括:分离单元、点乘单元和确定单元。其中,所述分离单元用于通过所述第二OpenCV函数分离所述第一矩阵,以获得第一RGB图像通道矩阵;所述点乘单元用于通过第三OpenCV函数点乘所述第一RGB图像通道矩阵和所述alpha图像通道矩阵,获得前景矩阵;所述确定单元用于根据所述前景矩阵确定所述前景图像。
在本发明的一种实施例中,所述第二调节模块1040包括:计算单元、读取单元、分离单元、点乘单元和确定单元。其中,所述计算单元用于计算alpha像素逆矩阵;所述读取单元用于通过所述第一OpenCV函数读取所述第二图像,以转换所述第二图像为第二矩阵;所述分离单元用于通过所述第二OpenCV函数分离所述第二矩阵,以获得第二RGB图像通道矩阵;所述点乘单元用于通过所述第三OpenCV函数点乘所述第二RGB图像通道矩阵和所述alpha像素逆矩阵,获得背景矩阵;所述确定单元用于根据所述背景矩阵确定所述背景图像。
在本发明的一种实施例中,所述融合模块1050包括:计算单元和合并单元。其中,所述计算单元用于所述前景矩阵和所述背景矩阵相加,获得融合图像矩阵;所述合并单元用于通过第四OpenCV函数合并所述融合图像矩阵,以获得融合后的图像。
由于本发明的示例实施例的图像融合装置的各个功能模块与上述图像融合方法的示例实施例的步骤对应,因此对于本发明装置实施例中未披露的细节,请参照本发明上述的图像融合方法的实施例。
下面参考图11,其示出了适于用来实现本发明实施例的电子设备的计算机系统1100的结构示意图。图11示出的电子设备的计算机系统1100仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图11所示,计算机系统1100包括中央处理单元(CPU)1101,其可以根据存储在只读存储器(ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。在RAM 1103中,还存储有系统操作所需的各种程序和数据。CPU 1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
以下部件连接至I/O接口1105:包括键盘、鼠标等的输入部分1106;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107;包括硬盘等的存储部分1108;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1110上,以便于从其上读出的计算机程序根据需要被安装入存储部分1108。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1109从网络上被下载和安装,和/或从可拆卸介质1111被安装。在该计算机程序被中央处理单元(CPU)1101执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的图像融合方法。
例如,所述的电子设备可以实现如图1中所示的:步骤S102,获取待融合的第一图像和第二图像;步骤S104,确定所述第一图像的alpha图像;步骤S106,通过所述alpha图像调节所述第一图像的透明度,以获得前景图像;步骤S108,通过所述alpha图像调节所述第二图像的透明度,以获得背景图像;步骤S110,融合所述前景图像和所述背景图像。
又如,所述的电子设备可以实现如图1所示的各个步骤。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。