CN106815827A - 基于Bayer格式的图像融合方法及图像融合装置 - Google Patents

Abstract

本发明提供了一种基于Bayer格式的图像融合方法及图像融合装置，该图像融合方法包括：获取待融合的多帧Bayer图像；对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；根据所述融合后基本层和细节层，生成融合后的图像。本发明的技术方案有效减少了图像融合时的计算量，进而降低了对系统资源的消耗，提高了图像融合算法的效率，并能有效提升低照度的亮度和对比度，增强了图像的细节和清晰度。

Description

基于Bayer格式的图像融合方法及图像融合装置

技术领域

本发明涉及图像处理技术领域，具体而言，涉及一种基于Bayer格式的图像融合方法及图像融合装置。

背景技术

随着计算机技术和多媒体技术的发展，数字视频在视频监控、视频会议系统等领域获得了广泛应用。视频图像的获取经常受到环境光照条件的影响，如环境光照度较低或逆光等情况下会导致曝光不当，造成视频图像对比度低，细节信息丢失严重或是颜色不自然等问题。因此，需要采用视频图像增强技术来改善和提升低照度图像质量，而基于融合方法的图像增强技术是目前比较流行的一种增强技术，具体地，图像融合方法利用多帧图像的综合信息，弥补了单帧低照度图像信息量不足的问题，达到了图像增强的目的。

图像融合通常分3个层次：像素级、特征级和决策级。像素级融合最大优点是能保持尽可能多的现场数据，提供其他融合层次所不能提供的细微信息，但是计算量大，冗余度高，实时性差；特征级融合方式损失了一部分信息，属于中间级的融合；决策级融合与像素级融合相比，处理的数据量大为减少，但是这种融合方式损失信息量最大。目前大多数图像融合算法的自适应性差，算法的实时性有待提高。

因此需要一种新的图像融合方案来实现图像增强的效果。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本发明的目的在于提供一种基于Bayer格式的图像融合方法及图像融合装置，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明的一个方面，提供一种基于Bayer格式的图像融合方法，包括：

获取待融合的多帧Bayer图像；

对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；

对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；

根据所述融合后的基本层和细节层，生成融合后的图像。

在本发明的一种示例性实施例中，对所述多帧Bayer图像中的每帧Bayer图像进行处理的步骤，包括：

计算所述每帧Bayer图像对应的完整的指定颜色分量；

以所述每帧Bayer图像对应的完整的指定颜色分量为导向，对所述每帧Bayer图像进行导向滤波处理。

在本发明的一种示例性实施例中，在所述指定颜色分量为绿色分量的情况下，计算所述每帧Bayer图像对应的完整的绿色分量，包括：

基于颜色插值法恢复所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量；

根据所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，以及所述每帧Bayer图像中的绿色像元，生成所述每帧Bayer图像对应的完整的绿色分量。

在本发明的一种示例性实施例中，对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层的步骤，包括：

对所述每帧Bayer图像进行处理，得到所述每帧Bayer图像的基本层；

根据所述每帧Bayer图像和所述每帧Bayer图像的基本层，计算所述每帧Bayer图像的细节层。

在本发明的一种示例性实施例中，对所述多帧Bayer图像的基本层和细节层分别进行融合处理的步骤，包括：

计算所述多帧Bayer图像的基本层的均值；

将所述多帧Bayer图像的基本层的均值作为所述多帧Bayer图像融合后的基本层。

在本发明的一种示例性实施例中，对所述多帧Bayer图像的基本层和细节层分别进行融合处理的步骤，包括：

采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合处理。

在本发明的一种示例性实施例中，采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合的步骤，包括：

针对所述多帧Bayer图像的细节层中任一相同位置处的像素，分别计算所述每帧Bayer图像中以所述任一相同位置处的像素为中心的局部区域标准差；

确定所述多帧Bayer图像的细节层中以所述任一相同位置处的像素为中心的局域区域标准差最大的目标细节层；

将所述目标细节层中位于所述任一相同位置处的像素的值作为所述多帧Bayer图像融合后的细节层中对应位置处的像素值。

在本发明的一种示例性实施例中，在对所述多帧Bayer图像的基本层进行融合处理之后，以及在生成所述融合后的图像之前，还包括：

对所述融合后的基本层进行Gamma变换处理。

在本发明的一种示例性实施例中，基于以下公式对所述融合后的基本层进行Gamma变换处理：

B'(f_c)＝255(B(f_c)/255)^γ

其中，B(f_c)表示所述融合后的基本层，B'(f_c)表示经过Gamma变换后的基本层，γ表示Gamma变换的自适应系数，所述γ的值与所述融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系。

根据本发明的另一方面，提供了一种基于Bayer格式的图像融合装置，包括：

获取单元，用于获取待融合的多帧Bayer图像；

处理单元，用于对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；

融合单元，用于对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；

生成单元，用于根据所述融合后的基本层和细节层，生成融合后的图像。

在本发明的一种示例性实施例中，所述处理单元包括：

计算单元，用于计算所述每帧Bayer图像对应的完整的指定颜色分量；

滤波单元，用于以所述每帧Bayer图像对应的完整的指定颜色分量为导向，对所述每帧Bayer图像进行导向滤波处理。

在本发明的一种示例性实施例中，在所述指定颜色分量为绿色分量的情况下，所述计算单元配置为：

基于颜色插值法恢复所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，并根据所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，以及所述每帧Bayer图像中的绿色像元，生成所述每帧Bayer图像对应的完整的绿色分量。

在本发明的一种示例性实施例中，所述处理单元配置为：对所述每帧Bayer图像进行处理，得到所述每帧Bayer图像的基本层，并根据所述每帧Bayer图像和所述每帧Bayer图像的基本层，计算所述每帧Bayer图像的细节层。

在本发明的一种示例性实施例中，所述融合单元配置为：

计算所述多帧Bayer图像的基本层的均值，将所述多帧Bayer图像的基本层的均值作为所述多帧Bayer图像融合后的基本层。

在本发明的一种示例性实施例中，所述融合单元配置为：

采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合处理。

在本发明的一种示例性实施例中，所述融合单元采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合的操作，包括：

针对所述多帧Bayer图像的细节层中任一相同位置处的像素，分别计算所述每帧Bayer图像中以所述任一相同位置处的像素为中心的局部区域标准差；

确定所述多帧Bayer图像的细节层中以所述任一相同位置处的像素为中心的局域区域标准差最大的目标细节层；

将所述目标细节层中位于所述任一相同位置处的像素的值作为所述多帧Bayer图像融合后的细节层中对应位置处的像素值。

在本发明的一种示例性实施例中，所述融合单元被配置为：在对所述多帧Bayer图像的基本层进行融合处理之后，对所述融合后的基本层进行Gamma变换处理。

在本发明的一种示例性实施例中，基于以下公式对所述融合后的基本层进行Gamma变换处理：

B'(f_c)＝255(B(f_c)/255)^γ

其中，B(f_c)表示所述融合后的基本层，B'(f_c)表示经过Gamma变换后的基本层，γ表示Gamma变换的自适应系数，所述γ的值与所述融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系。

在本发明的一些实施例所提供的技术方案中，由于Bayer图像的数据量是RGB图像的数据量的1/3，因此通过直接对Bayer图像进行处理，有效减少了图像融合时的计算量，进而降低了对系统资源的消耗，提高了图像融合算法的效率，有利于进行嵌入式开发。

在本发明的一些实施例所提供的技术方案中，由于Bayer图像中的绿色分量为蓝色分量和红色分量的总和，绿色分量居多，而且绿色分量具有更高的信噪比，因此可以通过以每帧Bayer图像对应的完整的绿色分量为导向来对每帧Bayer图像进行导向滤波处理。

同时，在本发明的一些实施例所提供的技术方案中，通过对融合后的基本层进行Gamma变换处理，使得能够提升图像的亮度和对比度。而通过使Gamma变化的自适应系数与融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系，使得Gamma变化的自适应系数能够根据图像中的内容进行自适应改变，解决了使用固定的自适应系数而导致图像的亮调区域丢失细节的问题。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示意性示出了根据本发明的第一个实施例的基于Bayer格式的图像融合方法的流程图；

图2示意性示出了根据本发明的第二个实施例的基于Bayer格式的图像融合方法的总体流程图；

图3示意性示出了图2中所示的基于Bayer格式的图像融合方法的具体流程图；

图4示意性示出了Bayer格式图像的结构图；

图5示意性示出了根据本发明的实施例的基于Bayer格式的图像融合装置的框图；

图6A示意性示出了根据本发明的第一个实施例的图像融合处理前后的对比效果示意图；

图6B示意性示出了根据本发明的第二个实施例的图像融合处理前后的对比效果示意图；

图6C示意性示出了根据本发明的第三个实施例的图像融合处理前后的对比效果示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示意性示出了根据本发明的第一个实施例的基于Bayer格式的图像融合方法的流程图。

具体地，参照图1，根据本发明的第一个实施例的基于Bayer格式的图像融合方法包括以下步骤：

步骤S102，获取待融合的多帧Bayer图像；

步骤S104，对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；

步骤S106，对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；

步骤S108，根据所述融合后的基本层和细节层，生成融合后的图像。

以下针对每个步骤进行详细说明：

在步骤S102中，需要说明的是：由于Bayer图像的数据量是RGB图像的数据量的1/3，因此通过直接获取待融合的Bayer图像，以直接对Bayer图像进行处理，可以有效减少图像融合时的计算量，进而能够降低对系统资源的消耗，提高了图像融合算法的效率，有利于进行嵌入式开发。

对于步骤S104，根据本发明的示例性实施例，对所述多帧Bayer图像中的每帧Bayer图像进行处理的步骤具体包括：

计算所述每帧Bayer图像对应的完整的指定颜色分量；

以所述每帧Bayer图像对应的完整的指定颜色分量为导向，对所述每帧Bayer图像进行导向滤波处理。

需要说明的是：当对Bayer图像进行导向滤波处理之后，可以得到该Bayer图像的基本层，然后将Bayer图像与其基本层做差运算，得到Bayer图像的细节层。此外，在本发明的其它实施例中，也可以通过其它处理方式对Bayer图像进行处理，以得到Bayer图像的基本层。

Bayer图像中包含红色像元、绿色像元和蓝色像元，在计算每帧Bayer图像对应的完整的指定颜色分量时，该指定颜色分量可以是红色像元、绿色像元和蓝色像元中的任一。优选地，由于Bayer图像中的绿色分量为蓝色分量和红色分量的总和，绿色分量居多，而且绿色分量具有更高的信噪比，因此可以以绿色分量为导向进行导向滤波处理。

根据本发明的示例实施例，当所述的指定颜色分量为绿色分量时，计算所述每帧Bayer图像对应的完整的绿色分量包括：

基于颜色插值法恢复所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量；

根据所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，以及所述每帧Bayer图像中的绿色像元，生成所述每帧Bayer图像对应的完整的绿色分量。

对于步骤S106，以下分别介绍如何分别对多帧Bayer图像的基本层和细节层进行融合处理：

根据本发明的示例实施例，对所述多帧Bayer图像的基本层进行融合处理，具体包括：

计算所述多帧Bayer图像的基本层的均值；

将所述多帧Bayer图像的基本层的均值作为所述多帧Bayer图像融合后的基本层。

需要说明的是：在计算多帧Bayer图像融合后的基本层时，并不仅限于计算多帧Bayer图像的基本层的均值，比如还可以将多帧Bayer图像的基本层的加权平均值作为多帧Bayer图像融合后的基本层。

根据本发明的示例实施例，在对所述多帧Bayer图像的基本层进行融合处理之后，以及在生成所述融合后的图像之前，还包括：对所述融合后的基本层进行Gamma变换处理。

根据本发明的示例实施例，基于以下公式对所述融合后的基本层进行Gamma变换处理：

B'(f_c)＝255(B(f_c)/255)^γ

其中，B(f_c)表示所述融合后的基本层，B'(f_c)表示经过Gamma变换后的基本层，γ表示Gamma变换的自适应系数，所述γ的值与所述融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系。

需要说明的是：通过对融合后的基本层进行Gamma变换处理，使得能够提升图像的亮度和对比度。而通过使Gamma变化的自适应系数与融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系，使得Gamma变化的自适应系数能够根据图像中的内容进行自适应改变，解决了使用固定的自适应系数而导致图像的亮调区域丢失细节的问题。

根据本发明的示例实施例，对所述多帧Bayer图像的细节层进行融合处理，具体包括：采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合处理。

需要说明的是：在计算多帧Bayer图像融合后的细节层时，并不仅限于区域标准差最大的准则，比如还可以将多帧Bayer图像的细节层的加权平均值作为多帧Bayer图像融合后的细节层。

根据本发明的示例实施例，采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合的步骤，具体包括：

针对所述多帧Bayer图像的细节层中任一相同位置处的像素，分别计算所述每帧Bayer图像中以所述任一相同位置处的像素为中心的局部区域标准差；

确定所述多帧Bayer图像的细节层中以所述任一相同位置处的像素为中心的局域区域标准差最大的目标细节层；

将所述目标细节层中位于所述任一相同位置处的像素的值作为所述多帧Bayer图像融合后的细节层中对应位置处的像素值。

在步骤S108中，可以直接将融合后基本层和细节层做和运行，以生成融合后的图像。

以下结合图2和图3，以对四帧Bayer图像进行融合为例，详细说明根据本发明的实施例的图像融合方案。

参照图2，通过传感器进行图像采集，采集到四帧图像，即图像1、图像2、图像3和图像4，其中，这四帧图像都是Bayer格式的图像。对这四帧图像分别进行导向滤波处理，得到每帧图像的基本层和细节层，然后基于均值法融合四帧图像的基本层，并对融合后的基本层进行Gamma变换，并基于局部标准差最大准则融合四帧图像的细节层，最后将融合后的基本层和细节层进行合并得到融合后的图像。

以下结合图3详细说明图2中所示的图像融合方案：

参照图3：

在步骤S30中，对四帧待融合的Bayer图像进行以绿色分量为导向的导向滤波，得到每帧Bayer图像的基本层和细节层。

步骤S30具体包括：

(1)求得每帧Bayer图像的完整的绿色分量。

具体地，利用插值方法恢复Bayer图像中蓝色像元对应的绿色分量G_b(i,j)和红色像元对应的绿色分量G_r(i,j)。

参照图4中所示的Bayer图像的结构，以图4中像素点R₃₂为例，假设Δ_h和Δ_v分别为该像素点在水平方向和垂直方向的梯度，则有：

进而计算像素点R₃₂的G_r(3,2)分量的公式为：

公式2表明：如果Δ_h＞Δ_v，即若水平方向有边缘的概率大于垂直方向，则颜色插值在垂直方向进行；如果Δ_h＜Δ_v，即若垂直方向有边缘的概率大于水平方向，则颜色插值在垂直方向进行；如果Δ_h＝Δ_v，即若该像素点处在平滑区域，则在两个方向都进行插值。

由于Bayer图像中红色像元的排列方式与蓝色像元的排列方式类似，G_b(i,j)的求解方法与公式2相同。颜色插值之后得到了完整的绿色图像G_a。

(2)采用以绿色图像G_a为导向的导向滤波对每帧Bayer图像进行导向滤波处理。

具体地，在Bayer图像中，根据导向滤波原理，在像素点m处的中心邻域ω(m)内，滤波后的图像f'(m)为完整绿色图像G_a的线a_k性组合，即：

其中，f'(m)为像素点m处滤波后的像素值，G_a(m)为像素点m处的像素值，a_k、b_k为线性组合的两个系数。

公式4拟合了导向滤波前的图像像素值f(m)和导向滤波后的图像像素值f'(m)之间的最小距离：

在公式4中，ε是导向滤波的一个可调函数，需要根据实际情况进行取值。

采用最小二乘法求解公式4，得到系数：

在公式5中，μ_k、为完整绿色图像在邻域ω(m)内的均值和方差，|ω|为邻域内像素的个数，为滤波前原始图像f(m)在邻域ω(m)内的均值。

在得到上述公式之后，利用公式3和5分别对每帧Bayer图像进行导向滤波处理。通过导向滤波操作，实现了图像高频、低频成分的分离。基本层对应于图像的低频成分，细节层对应于图像的高频成分。

(3)在通过上述的导向滤波方案对图像进行平滑处理之后，得到每帧Bayer图像的基本层B，如公式6所示。再将原图f与基本层B做差运算，得到每帧Bayer图像的细节层D，如公式7所示。

B＝GIF(G_a,f) (公式6)

D＝f-B (公式7)

其中，G_a为完整的绿色图像；f为滤波前的原始图像；GIF(G_a,f)为导向滤波过程。假设利用导向滤波求得四帧图像f₁、f₂、f₃、f₄的基本层分别为B(f₁)、B(f₂)、B(f₃)、B(f₄)，细节层分别为D(f₁)、D(f₂)、D(f₃)、D(f₄)。

需要说明的是：由于Bayer图像中的绿色分量为蓝色分量和红色分量的总和，绿色分量居多，而且绿色分量具有更高的信噪比，因此为了能够得到较为精准的基本层和细节层，在本发明的示例实施例中，以绿色分量为导向进行导向滤波处理。而在本发明的其它实施例中，也可以以红色分量或蓝色分量为导向进行导向滤波处理。

在步骤S32中，采用求取平均值的融合规则融合四帧Bayer图像的基本层，再对融合后的基本层进行自适应Gamma变换，调整图像的亮度和对比度。

步骤S32具体包括：

(1)求取基本层B(f₁)、B(f₂)、B(f₃)、B(f₄)的均值来融合四帧图像的基本层，得到融合后的基本层为B(f_c)。

需要说明的是：也可以求取基本层B(f₁)、B(f₂)、B(f₃)、B(f₄)的加权均值来融合四帧图像的基本层。

(2)由于图像的基本层中包括了总体形状、特征轮廓、对比度等特征，因此为了调整图像的对比度和亮度，利用自适应Gamma变换处理融合后的基本层B(f_c)，以提升低照度图像基本层的对比度和亮度。其中，自适应Gamma变换的公式为：

B'(f_c)＝255(B(f_c)/255)^γ (公式8)

在公式8中，B'(f_c)为自适应Gamma变换后的基本层；γ为自适应系数。若γ设定为一个固定值，虽然能有效提升图像亮度和对比度，但是由于γ不能根据图像的内容自适应改变，则会出现图像的亮调区域丢失细节的现象。因此，根据本发明的示例实施例，可以采用基于梯度信息的自适应γ值，即利用x、y方向的梯度矢量，根据梯度信息自适应地计算出图像对比度增强幅度，公式如下：

式中，x、y为像素点的位置，B表示基本层。其中，可以以图像的左上角为原点，横轴为x方向，纵轴为y方向建立坐标系来确定像素点的位置。

在利用公式9计算出所有像素点的γ值之后，再将γ归一化到[0,1]。当梯度值较大时，γ值较小，对图像的对比度的提升程度大。为了进一步提升图像的对比度，用一指数因子e控制γ，即γ＝γ^e，根据本发明的示例实施例，e可以取1.3。

在步骤S34中，采用区域标准差最大准则融合四帧Bayer图像的细节层。

由于图像的细节层包括了图像的边缘、纹理等细节信息，且图像的方差能有效描述图像的高频特征，例如：图像中物体边缘的方差比其他位置的方差要大，图像越清晰的部分方法越大。因此可以采用区域标准差最大准则融合四帧图像的细节层D(f₁)、D(f₂)、D(f₃)、D(f₄)。具体包括以下步骤

(1)将四帧Bayer图像的细节层D(f₁)、D(f₂)、D(f₃)、D(f₄)分成5×5的字块。

需要说明的是：此处5×5的字块仅为示例，也可以分为其它尺寸的字块，如可以分为3×3的字块或7×7的字块。

(2)计算每个字块的方差，局部区域标准差STD的计算公式如下：

在公式10中，M、N表示局部区域内的行数和列数；p_i,j为当前局部区域内的一个像素灰度值；为当前局部区域像素的灰度均值。D(f₁)、D(f₂)、D(f₃)、D(f₄)的局部区域标准差分别用STD₁、STD₂、STD₃和STD₄表示。

(3)融合四帧Bayer图像的细节层。

融合后的细节层D(f_c)某点像素值的确定方法：分别求取四帧图像的基本层中以相应位置处的像素为中心的局部区域标准差STD₁、STD₂、STD₃和STD₄，选取局部区域标准差最大的细节层，将该细节层中的相应位置处的像素值作为融合后的细节层的中对应位置处的像素值。

在步骤S36中，将融合后的基本层和细节层进行合并得到最终的融合后的图像。

需要说明的是：对于Bayer图像的基本层和细节层的融合步骤并不作具体限定，即可以按照图3中所示的流程，先融合基本层，然后再融合细节层；或者先融合细节层，再融合基本层；也可以同时融合基本层和细节层。

图5示意性示出了根据本发明的实施例的基于Bayer格式的图像融合装置的框图。

如图5所示，根据本发明的实施例的基于Bayer格式的图像融合装置500，包括：获取单元502、处理单元504、融合单元506和生成单元508。

根据本发明的示例性实施例，获取单元502用于获取待融合的多帧Bayer图像；处理单元504用于对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；融合单元506用于对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；生成单元508用于根据所述融合后的基本层和细节层，生成融合后的图像。

需要说明的是：由于Bayer图像的数据量是RGB图像的数据量的1/3，因此通过直接对Bayer图像进行处理，有效减少了图像融合时的计算量，进而降低了对系统资源的消耗，提高了图像融合算法的效率，有利于进行嵌入式开发。

根据本发明的示例性实施例，所述处理单元504包括：计算单元和滤波单元。

具体地，计算单元用于计算所述每帧Bayer图像对应的完整的指定颜色分量；滤波单元用于以所述每帧Bayer图像对应的完整的指定颜色分量为导向，对所述每帧Bayer图像进行导向滤波处理。

在本发明的一种示例性实施例中，在所述指定颜色分量为绿色分量的情况下，所述计算单元配置为：

基于颜色插值法恢复所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，并根据所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，以及所述每帧Bayer图像中的绿色像元，生成所述每帧Bayer图像对应的完整的绿色分量。

根据本发明的示例性实施例，所述处理单元504配置为：对所述每帧Bayer图像进行处理，得到所述每帧Bayer图像的基本层，并根据所述每帧Bayer图像和所述每帧Bayer图像的基本层，计算所述每帧Bayer图像的细节层。

在本发明的一种示例性实施例中，所述融合单元506配置为：计算所述多帧Bayer图像的基本层的均值，将所述多帧Bayer图像的基本层的均值作为所述多帧Bayer图像融合后的基本层。

在本发明的一种示例性实施例中，所述融合单元506配置为：采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合处理。

在本发明的一种示例性实施例中，所述融合单元506采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合的操作，包括：

针对所述多帧Bayer图像的细节层中任一相同位置处的像素，分别计算所述每帧Bayer图像中以所述任一相同位置处的像素为中心的局部区域标准差；

确定所述多帧Bayer图像的细节层中以所述任一相同位置处的像素为中心的局域区域标准差最大的目标细节层；

将所述目标细节层中位于所述任一相同位置处的像素的值作为所述多帧Bayer图像融合后的细节层中对应位置处的像素值。

在本发明的一种示例性实施例中，所述融合单元506配置为：在所述多帧Bayer图像的基本层进行融合处理之后，对所述融合后的基本层进行Gamma变换处理。

在本发明的一种示例性实施例中，基于以下公式对所述融合后的基本层进行Gamma变换处理：

B'(f_c)＝255(B(f_c)/255)^γ

其中，B(f_c)表示所述融合后的基本层，B'(f_c)表示经过Gamma变换后的基本层，γ表示Gamma变换的自适应系数，所述γ的值与所述融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系。

在本发明上述实施例提出的图像融合算法可以有效减少图像融合时的计算量，进而降低了对系统资源的消耗，提高了图像融合算法的效率，并能有效地提升低照度的亮度和对比度，增强了图像的细节和清晰度。具体处理效果如图6A至图6C所示。

本发明实施例的技术方案有利于进行嵌入式开发，如可以嵌入FPGA开发具有图像增强功能的相机或摄像机。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种基于Bayer格式的图像融合方法，其特征在于，包括：

获取待融合的多帧Bayer图像；

对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；

对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；

根据所述融合后的基本层和细节层，生成融合后的图像。

2.根据权利要求1所述的基于Bayer格式的图像融合方法，其特征在于，对所述多帧Bayer图像中的每帧Bayer图像进行处理的步骤，包括：

计算所述每帧Bayer图像对应的完整的指定颜色分量；

以所述每帧Bayer图像对应的完整的指定颜色分量为导向，对所述每帧Bayer图像进行导向滤波处理。

3.根据权利要求2所述的基于Bayer格式的图像融合方法，其特征在于，在所述指定颜色分量为绿色分量的情况下，计算所述每帧Bayer图像对应的完整的绿色分量，包括：

基于颜色插值法恢复所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量；

根据所述每帧Bayer图像中的蓝色像元对应的绿色分量和红色像元对应的绿色分量，以及所述每帧Bayer图像中的绿色像元，生成所述每帧Bayer图像对应的完整的绿色分量。

4.根据权利要求1所述的基于Bayer格式的图像融合方法，其特征在于，对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层的步骤，包括：

对所述每帧Bayer图像进行处理，得到所述每帧Bayer图像的基本层；

根据所述每帧Bayer图像和所述每帧Bayer图像的基本层，计算所述每帧Bayer图像的细节层。

5.根据权利要求1所述的基于Bayer格式的图像融合方法，其特征在于，对所述多帧Bayer图像的基本层和细节层分别进行融合处理的步骤，包括：

计算所述多帧Bayer图像的基本层的均值；

将所述多帧Bayer图像的基本层的均值作为所述多帧Bayer图像融合后的基本层。

6.根据权利要求1所述的基于Bayer格式的图像融合方法，其特征在于，对所述多帧Bayer图像的基本层和细节层分别进行融合处理的步骤，包括：

采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合处理。

7.根据权利要求6所述的基于Bayer格式的图像融合方法，其特征在于，采用区域标准差最大准则对所述多帧Bayer图像的细节层进行融合的步骤，包括：

针对所述多帧Bayer图像的细节层中任一相同位置处的像素，分别计算所述每帧Bayer图像中以所述任一相同位置处的像素为中心的局部区域标准差；

确定所述多帧Bayer图像的细节层中以所述任一相同位置处的像素为中心的局域区域标准差最大的目标细节层；

将所述目标细节层中位于所述任一相同位置处的像素的值作为所述多帧Bayer图像融合后的细节层中对应位置处的像素值。

8.根据权利要求1至7中任一项所述的基于Bayer格式的图像融合方法，其特征在于，在对所述多帧Bayer图像的基本层进行融合处理之后，以及在生成所述融合后的图像之前，还包括：

对所述融合后的基本层进行Gamma变换处理。

9.根据权利要求8所述的基于Bayer格式的图像融合方法，其特征在于，基于以下公式对所述融合后的基本层进行Gamma变换处理：

B'(f_c)＝255(B(f_c)/255)^γ

其中，B(f_c)表示所述融合后的基本层，B'(f_c)表示经过Gamma变换后的基本层，γ表示Gamma变换的自适应系数，所述γ的值与所述融合后的基本层中的像素点在图像坐标系中的梯度矢量值成反相关关系。

10.一种基于Bayer格式的图像融合装置，其特征在于，包括：

获取单元，用于获取待融合的多帧Bayer图像；

处理单元，用于对所述多帧Bayer图像中的每帧Bayer图像进行处理，以得到所述每帧Bayer图像的基本层和细节层；

融合单元，用于对所述多帧Bayer图像的基本层和细节层分别进行融合处理，得到融合后的基本层和细节层；

生成单元，用于根据所述融合后的基本层和细节层，生成融合后的图像。