CN111028163A - 一种基于卷积神经网络的联合图像去噪与弱光增强方法 - Google Patents

Abstract

本发明提出了一种基于CNN的弱光图像去噪与增强模型，结合了类似自编码器结构在细节重构与残差学习在深层网络模型上优势，通过对原始清晰无噪声图像降亮度值并增加噪声信号，得到弱光和噪声训练数据集。利用损失函数，训练一个图像去噪增强器，对批量图像进行去噪与弱光增强。通过与其他4种方法的对比，本发明模型在BSD68数据集的PSNR和SSIM值可同时达到25.23dB和0.927，取得优异的效果。最后，采集自然暗光条件下的图像(含多种噪声)，用预训练模型去噪与对比度增强，结果表明本发明所提出模型对自然暗光场景的图像恢复的PSNR和SSIM达到14.03dB和0.423，对比度增强效果明显。

Description

一种基于卷积神经网络的联合图像去噪与弱光增强方法

技术领域

本发明属于图像处理领域，具体涉及一种基于卷积神经网络的联合图像去噪与弱光增强方法，能够解决弱光含噪声图像的对比度增强和去噪问题。

背景技术

图像质量提升是图像领域研究的重要任务，高质量图像为图像后续处理过程提供保障。然而，受到诸如图像采集系统的误差、特殊的拍摄环境等因素的影响，往往不能直接获取清晰的、高对比度的图像。在图像质量的影响因素中，噪声和光照是两个主要影响因素，噪声较大的图像会产生模糊、局部细节不清晰等，而较弱或较强光照则影响图像对比度，造成图像前景与背景难以区分等。因此，同时实现图像去噪和弱光增强具有重要的研究价值和应用前景。

对于图像对比度增强，基于直方图均衡化(Histogram equalization，HE)方法应用广泛，通过对单个像素值的重新计算与变换以提升图像对比度，这对于前景与背景差异不大的图像有着较好的表现能力，但却会伴随图像产生伪影。对于图像去噪，三维块匹配(Block-matching and 3D filtering，BM3D)及其改进方法在含高斯噪声图像去噪方面表现优异，然而其对于图像盲去噪表现却不理想。在实际图像质量提高过程中，由于增强对比度的同时伴随着噪声信号的扩大，而去除噪声信号的同时往往会将弱光图像特征变得模糊，因此导致联合图像去噪与弱光照增强方面不能表现出良好的效果。近几年来，随着人工智能技术的快速发展，基于深度学习的方法在图像领域表现了突出的性能，包括图像识别与分类等，在图像去噪与弱光增强方面也取得了前所未有的成就。

联合图像去噪与对比度增强：(1)Li等人提出一种联合去噪增强框架，设计基于去噪卷积神经网络(Denoise Convolutional Neural Network，DnCNN)的算法与改进大气散射模型分别实现图像去噪与图像对比度增强，该方法有较强的去噪与对比度恢复能力；(2)Lin等人采用BM3D滤波器和带结构滤波器自适应地提取出平滑的基层与一阶微分图像层，并将两部分图像结合得到一个无噪声、保留细节的正常光照图像。然而以上两种深度学习方法在光照增强方面通常会产生过增强，即弱光图像被过度放大而显得不真实；(3)Kin等人提出一种基于深度自编码的弱光图像增强(Low-Light Net，LLNet)方法，通过构建一个堆叠式深度去噪自编码器以自适应地实现图像去噪和亮化处理，但是该方法对自然场景下弱光图像增强与噪声抑制有很大的限制。

发明内容

在数字图像处理过程中，在同一个任务中去噪与图像增强任务并不是分开进行的。图像去噪的过程对图像局部特征有影响，同时图像增强也会客观的增强了噪声。由于图像的增强并不是明确的增强到某一指定值，即允许图像亮度值在某一个微小的变化范围中，这不会对图像质量产生很大的影响，但峰值信噪比(Peak Signal to Noise Ratio，PSNR)值却会有巨大差异，同时考虑到弱光条件下潜在噪声的影响，所以应把图像去噪作为首要任务。

为了达到上述目的，本发明提供的技术方案是：一种基于卷积神经网络(Convolutional Neural Network，CNN)的联合图像去噪与弱光增强方法，包括如下步骤：

步骤1，设计残差学习卷积神经网络模型，该模型包括1个预处理模块与4个去噪增强模块和最后单通道输出部分；

其中，预处理模块包括两个分支，其中一个分支包括依次连接的4个卷积层，另一个分支包括一个卷积层，然后将两个分支的输出结果进行合并作为预处理模块的输出，每个卷积层之后连接一个激活层；

去噪增强模块包括自编码器和残差连接，自编码器包括8个处理层依次连接，分别是卷积层C1、池化层S1、卷积层C2、池化层S2、卷积层C3、上采样层U1、卷积层C4和上采样层U2，其中第一个卷积层C1和最后一个上采样层U2、第二个卷积层C2和倒数第二个上采样层U1、第二个池化层S2和第三个卷积层C3对应尺度跳跃连接，残差学习是对自编码器输出部分和经过卷积层C5、卷积层C6的结果直接相加，最后经过一个激活层；

步骤2，数据集选取与预处理，并设置该网络模型超参数与训练参数；

步骤3，根据设置的网络结构训练网络，端到端的从噪声弱光图像学习到去噪正常光照图像；

步骤4，将测试图像输入到训练好的网络模型中，得到去噪增强之后的图像。

进一步的，步骤1中所述预处理模块中的每一个卷积层的卷积核大小都是3×3，卷积核的个数是64，步长为1。

进一步的，步骤1中所述去噪增强模块中的卷积层C1、卷积层C2、卷积层C3、卷积层C4、卷积层C5、卷积层C6，其卷积核大小都是3×3，卷积核的个数是64，步长为1；池化层S1、池化层S2采用最大池化，步长为2；上采样层U1中卷积核大小为3×3，卷积核的个数是64，步长为1，上采样层U2中卷积核大小为3×3，卷积核的个数是64，步长为2。

进一步的，步骤2的具体实现方式如下，

选取在图像去噪增强领域常用的BSD500数据集总共500张不含噪声清晰的图像作为训练集中需要学习的图像，然后将这些图像通过添加噪声和光照变换的方式生成相应的噪声弱光数据集，图像预处理时通过滑窗法以61×61大小的窗口每隔一定像素截取原图ROI区域；其中，输入图像是分辨率为61×61大小分辨率的单通道图像，卷积填充方式选择为“VALID”，在训练过程中，每个周期训练5000个批次，每个批次含有16张61×61大小尺寸图像，以及对应的16张相同大小的干净正常光照图像，学习率选择为0.001，另外通过设置学习率的衰减速率为0.5，训练达到30个周期时学习率降低到10^-7次方以保证学习到一个较好的效果。

进一步的，步骤3中训练网络时，反向传播过程中以最小化损失函数l为目标训练网络模型参数，具体实现方式如下；

设I_train和I_origin是一个训练数据对，I_train是噪声弱光图像，I_origin是原始无噪声的正常光照图像，I_train通过不断缩小与I_origin的差距来训练网络参数W和b；因此对训练图像I_train∈R³，在反向传播过程中以最小化损失函数l更新网络模型参数，同时l₂-norm作为正则化项以防止模型出现过拟合，损失函数的计算公式如下：

l₂正则化项表达式为：

其中l_s损失表达式如下：

其中，W和b分别表示训练权重和偏置，I_origin表示原始图像，n表示每一个批次训练图像数量，i表示第i张图像；(x,y)表示图像i对应像素点坐标，σ_x ²与σ_y ²分别表示图像i对应像素点(x,y)方差，μ_x与μ_y分别表示x和y的协方差，C₁，C₂分别为常数。

与现有技术相比，本发明的优点和有益效果：本发明提出了一种基于CNN的弱光图像去噪与增强模型，结合了类似自编码器结构在细节重构与残差学习在深层网络模型上优势，通过对原始清晰无噪声图像降亮度值并增加噪声信号，得到弱光和噪声训练数据集。利用损失函数，训练一个图像去噪增强器，对批量图像进行去噪与弱光增强。通过与其他4种方法的对比，本发明模型在BSD68数据集的PSNR和结构相似性(Structural SimilarityIndex，SSIM)值可同时达到25.23dB和0.927，取得优异的效果。最后，采集自然暗光条件下的图像(含多种噪声)，用预训练模型去噪与对比度增强，结果表明本发明所提出模型对自然暗光场景的图像恢复的PSNR和SSIM达到14.03dB和0.423，对比度增强效果明显。

附图说明

图1为本发明流程图。

图2为本发明整体框架图。

图3为本发明实施例设计的残差学习卷积神经网络模型图。

图4为本发明预去噪模块处理流程图。

图5为自然弱光场景图像的实验对比图，其中左侧为正常光照图像，(a)自然弱光与增强后图像对比图，(b)局部细节图。

具体实施方式

下面结合附图和实施例对本发明的技术方案作进一步说明。

本发明基于卷积神经网络模型实现弱光图像去噪增强，通过残差学习和自编码器结构的特征有效的提高了图像的增强和去噪能力，模型对输入的弱光噪声图像经过一系列卷积、池化等过程最终学习到一个不含噪声的正常光照图像，然后利用学习好的模型参数可以进行其他图像的去噪增强测试。

如图1所示，本发明提出了一种基于卷积神经网络的联合图像去噪与弱光增强方法，包括以下步骤：

S1：设计残差学习卷积神经网络模型，该模型包括一个预处理模块与4个去噪增强模块和最后单通道输出部分，激活层采用Relu函数。

本发明设计的残差学习卷积神经网络模型是由一个预处理模块和4个去噪增强模块构成，预处理模块包括两个分支，其中一个分支包括依次连接的4个卷积层，另一个分支包括一个卷积层，然后将两个分支的输出结果进行合并作为预处理模块的输出，每一个卷积层的卷积核大小都是3×3，卷积层之后会接着一个激活层。分通道卷积作为图像预处理是利用图像特征差距，既能够提取图像特征又不失图像本身特征的全局信息，可以起到很好的预处理效果，采用3×3卷积既减少了计算量又能够快速提取图像特征。去噪增强模块包括自编码器和残差连接，自编码器包括8个处理层依次连接，分别是卷积层C1、池化层S1、卷积层C2、池化层S2、卷积层C3、上采样层U1、卷积层C4和上采样层U2，其中第一个卷积层C1和最后一个上采样层U2、第二个卷积层C2和倒数第二个上采样层U1、第二个池化层S2和第三个卷积层C3对应尺度跳跃连接，残差学习是对自编码器输出部分和经过双层卷积结构(即卷积层C5、C6)直接相加，最后经过一个激活层。上采样过程保证了输入输出前后图像尺寸不变，并且去噪自编码器在编解码的过程中可以有效去除图像噪声，最后两层卷积层通过残差学习的方式连接，恢复了图像局部细节，同时利用了跳跃连接解决了图像反向传播过程中的梯度消失问题，从而跟更好的重构出了不含噪声的正常光照图像另外，模型中每一个卷积层都会有一个激活层，本模型激活层采用Relu函数，不仅有效保留了神经元特征，而且避免了反向传播过程中的梯度爆炸问题。考虑到单通道灰度图像的特征形式，除了网络最后一层使用一个卷积核输出一个单通道图像，其余各层都是用64个卷积核来提取图像特征，

图2表示模型整体框架，首先，该模型通过一个卷积层将输入特征均匀化，然后通过一个分支结构对图像中噪声信号预处理，再通过四个弱光增强与去噪部分的处理，最后运用单核卷积操作重构出不含噪声的正常光照图像作为模型的输出。

黑色虚线框内表示局部模型结构图。对于输入图像，图像预处理首先分别进行不同卷积核尺寸和层数的卷积操作，然后将两部分特征图叠加以凸显弱光背景下的噪声信号，最后通过单层卷积将特征图输出以实现预去噪处理，有利于对潜在噪声信号的去除。因残差学习在深层CNN中可以有效的学习到弱光特征，本文所设计的图像弱光增强去噪部分是由去噪自编码器结构与残差学习单元组成，自编码器单元在编码解码过程中去除图像噪声，跳跃连接让局部感受野更多的连接原始图像的像素点，可有效恢复预去噪网络中被破坏的局部细节。因残差学习与跳跃连接解决了深层次网络结构在反向传播过程中梯度消失问题，从而更好地重构出原始图像。

考虑到单通道灰度图像的特征形式，除了网络最后一层使用一个卷积核输出一个单通道图像，其余各层都是用64个卷积核来提取图像特征。由于原始图像尺寸过大，且大小不一，为了优化训练过程，选择每一批次输入图像尺寸为61pixels×61pixels，产生方式是在数据集预处理的过程中，设置步长为5pixels，通过61pixels×61pixels大小的滑动窗口在原始图像中产生含有重叠像素的小尺寸图像。训练过程中，每个周期训练5000个批次，每个批次含有16张小尺寸图像。预处理模块与去噪增强模块的具体结构如表1和表2所示。

表1预处理模块结构

表2去噪与增强模块结构

本发明充分利用了去噪自编码器和残差学习的优势，通过选择合适的卷积层和卷积核尺寸以及连接方式保证了模型对不同噪声水平的学习能力，也避免了训练过程中的梯度爆炸、梯度消失和计算量过大等问题。

S2：数据集选取与预处理，并设置该模型网络超参数与训练参数：

本发明选取在图像去噪增强领域常用的BSD500数据集总共500张不含噪声清晰的图像作为训练集中需要学习的图像，然后将这些图像通过添加噪声和光照变换的方式生成相应的噪声弱光数据集，图像预处理时通过滑窗法以61×61大小的窗口每隔一定像素截取原图ROI区域，通过这种方式扩充了数据集提高了模型的泛化能力，下图所示为网络参数的设置，输入图像是分辨率为61×61大小分辨率的单通道图像，另外还需要对模型的学习率和每次训练的图像块数量等超参数设置，为保证卷积前后图像的尺寸一致，卷积填充方式选择为“VALID”。在训练过程中，每个周期训练5000个批次，每个批次含有16张61×61大小尺寸图像，以及对应的16张相同大小的干净正常光照图像，学习率选择为0.001(根据具体训练图像块数量和训练时间选择)，另外通过设置学习率的衰减速率为0.5(根据具体的训练速度和准确率调整)，训练达到30个周期时学习率降低到10^-7，可以保证学习到一个较好的效果，另外通过选择部分数量(一般是10-30幅相同大小图像)作为测试集，在每一个训练周期结束对之前训练的模型进行效果预测，并进行微调。

S3：根据设置的网络结构训练网络，端到端的从噪声弱光图像学习到去噪正常光照图像，其中反向传播过程中最小化损失函数为目标训练模型参数；

在训练过程中，含噪声弱光照的图像既要求去除图像噪声信号，又要使得图像像素值提升到正常光照水平。考虑到在这两个因素中，光照条件往往可以在一个较小波动范围中不会对图像质量有很大的影响，而噪声值波动往往会严重影响PSNR值，这会使得模型在训练过程产生错误判断，因此对训练图像I_train∈R³，在反向传播过程中以最小化损失函数l更新模型参数，同时l₂-norm作为正则化项以防止模型出现过拟合，I_train和I_origin是一个训练数据对，I_train是噪声弱光图像，I_origin是原始无噪声的正常光照图像，I_train通过不断缩小与I_origin的差距来训练网络参数W和b。损失函数l的计算公式如下：

l₂正则化项表达式为：

其中l_s损失表达式如下：

其中，W和b分别表示训练权重和偏置，I_origin表示原始图像，n表示每一个批次训练图像数量，i表示第i张图像，(x,y)表示图像i对应像素点坐标(包括一张图像上每一个像素点坐标)，σ_x ²与σ_x ²分别表示图像i对应像素点(x,y)方差，μ_x与μ_y分别表示x和y的协方差，C₁，C₂分别为常数。本文算法实施中，C₁、C₂值分别为0.001，1/40。

S4：将测试图像输入到训练好的网络模型中，可得到去噪增强之后的图像。

图5表示自然弱光场景图像的实验对比图。自然场景下采集的图像受多种因素的影响，不仅含有很多种噪声信号、前后景对比度较低，而且局部细节模糊、特征不明显等。为进一步论证本文所提出方法的可靠性，实验中采集自然条件下正常光照与弱光的试验台图像，图5中a行表示自然弱光图像与预训练模型预测图，去噪和增强之后图像的PSNR和SSIM值达到14.03dB、0.423，图像对比度有了明显的提高，对部分噪声有一定的抑制效果，表明本文所提出的深度CNN模型对自然场景的图像恢复有一定的表现能力。

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (5)

1.一种基于卷积神经网络的联合图像去噪与弱光增强方法，其特征在于，包括如下步骤：

步骤1，设计残差学习卷积神经网络模型，该模型包括1个预处理模块与4个去噪增强模块和最后单通道输出部分；

其中，预处理模块包括两个分支，其中一个分支包括依次连接的4个卷积层，另一个分支包括一个卷积层，然后将两个分支的输出结果进行合并作为预处理模块的输出，每个卷积层之后连接一个激活层；

去噪增强模块包括自编码器和残差连接，自编码器包括8个处理层依次连接，分别是卷积层C1、池化层S1、卷积层C2、池化层S2、卷积层C3、上采样层U1、卷积层C4和上采样层U2，其中第一个卷积层C1和最后一个上采样层U2、第二个卷积层C2和倒数第二个上采样层U1、第二个池化层S2和第三个卷积层C3对应尺度跳跃连接，残差学习是对自编码器输出部分和经过卷积层C5、卷积层C6的结果直接相加，最后经过一个激活层；

步骤2，数据集选取与预处理，并设置该网络模型超参数与训练参数；

步骤3，根据设置的网络结构训练网络，端到端的从噪声弱光图像学习到去噪正常光照图像；

步骤4，将测试图像输入到训练好的网络模型中，得到去噪增强之后的图像。

2.如权利要求1所述的一种基于卷积神经网络的联合图像去噪与弱光增强方法，其特征在于：步骤1中所述预处理模块中的每一个卷积层的卷积核大小都是3×3，卷积核的个数是64，步长为1。

3.如权利要求1所述的一种基于卷积神经网络的联合图像去噪与弱光增强方法，其特征在于：步骤1中所述去噪增强模块中的卷积层C1、卷积层C2、卷积层C3、卷积层C4、卷积层C5、卷积层C6，其卷积核大小都是3×3，卷积核的个数是64，步长为1；池化层S1、池化层S2采用最大池化，步长为2；上采样层U1中卷积核大小为3×3，卷积核的个数是64，步长为1，上采样层U2中卷积核大小为3×3，卷积核的个数是64，步长为2。

4.如权利要求1所述的一种基于卷积神经网络的联合图像去噪与弱光增强方法，其特征在于：步骤2的具体实现方式如下，

选取在图像去噪增强领域常用的BSD500数据集总共500张不含噪声清晰的图像作为训练集中需要学习的图像，然后将这些图像通过添加噪声和光照变换的方式生成相应的噪声弱光数据集，图像预处理时通过滑窗法以61×61大小的窗口每隔一定像素截取原图ROI区域；其中，输入图像是分辨率为61×61大小分辨率的单通道图像，卷积填充方式选择为“VALID”，在训练过程中，每个周期训练5000个批次，每个批次含有16张61×61大小尺寸图像，以及对应的16张相同大小的干净正常光照图像，学习率选择为0.001，另外通过设置学习率的衰减速率为0.5，训练达到30个周期时学习率降低到10^-7，以保证学习到一个较好的效果。

5.如权利要求1所述的一种基于卷积神经网络的联合图像去噪与弱光增强方法，其特征在于：步骤3中训练网络时，反向传播过程中以最小化损失函数l为目标训练网络模型参数，具体实现方式如下；

设I_train和I_origin是一个训练数据对，I_train是噪声弱光图像，I_origin是原始无噪声的正常光照图像，I_train通过不断缩小与I_origin的差距来训练网络参数W和b；因此对训练图像I_train∈R³，在反向传播过程中以最小化损失函数l更新网络模型参数，同时l₂-norm作为正则化项以防止模型出现过拟合，损失函数的计算公式如下：

l₂正则化项表达式为：

其中l_s损失表达式如下：

其中，W和b分别表示训练权重和偏置，I_origin表示原始图像，n表示每一个批次训练图像数量，i表示第i张图像；(x,y)表示图像i对应像素点坐标，σ_x ²与σ_y ²分别表示图像i对应像素点(x,y)方差，μ_x与μ_y分别表示x和y的协方差，C₁，C₂分别为常数。

Images