CN104820974A - 基于elm的图像去噪方法 - Google Patents

Abstract

本发明公开了一种基于ELM的快速图像去噪方法，包括如下步骤：根据待处理图像的大小构建基本前馈神经网络；针对所述的基本前馈神经网络构建训练样本集；利用所述的训练样本集基于ELM法训练所述的基本前馈神经网络进行得到训练好的神经网络；将待处理的图像输入到训练好的神经网络，相应的输出即为去噪后的图像。该方法通过定制训练集，并应用elm对连接参数进行训练，因此可以很迅速的完成训练过程，可以大大提高训练效率，且根据应用场景的噪声类型构建网络训练集，仅需针对应用场景构建的网络训练集即可得到针对不同噪声类型的训练好的神经网络以对图像进行噪声去除，可以比较方便的应用到不同的噪声场景中。

Description

基于ELM的图像去噪方法

技术领域

本发明涉及计算机图像处理技术领域，尤其涉及一种基于ELM的快速图像去噪方法。

背景技术

图像去噪是很多图像处理的先决条件，因此，图像修复与去除噪声一直是图像处理领域的热点问题。在图像修复领域，存在的难点问题是去除噪声的同时保留原始的信息结构。为了达到这个目的，数十年来，3类主要的方法被提出以期解决该问题：空域方法，转换域方法以及基于学习的方法。

空域方法中比较有代表性的是BF(Bilateral filter，双边滤波法)，NLM(non-local means，非局部均值法)。BF利用了临近位置的相关性，以及临近色域的相关性来消除图像噪声；NLM则从图像全局出发，将相似性比较高的patch组合在一起，利用这样一个个的群体的相似性解决问题。BF本身去噪效果有限，而NLM的一个比较大的局限就是需要大量运算，效率不高。

转换域方法是将图像从空间域转换到其他域如小波域等，通过某些方法得到的阈值以消除图像中的高频噪声，之后再从转换域转换到空间域。该方法对消除噪声效果比较好，但是由于图像细节往往也处在高频部分，因此，该方法在消除噪声的同时也抹去了图像本来具有的一些细节特征。

通常的方法常常针对一种噪声类型，而基于学习的方法确可以通过学习灵活的应用在多种噪声类型的图像修复任务中。基于学习的方法需要预先训练修复模型(多为网络模型)，从大量样本中获取特征训练得到修复模型，然后将训练后的修复模型应用到待处理图像中。从这个意义上看，该方法算是NLM的泛化，所不同的是基于学习的方法一次训练，可以一直使用训练参数。因此这类方法，训练完成后，时间花费较低，而且效果也不错。但是该方法存在如下缺点：训练过程长，需要花费大量时间训练(数天甚至数个月)。

发明内容

针对现有技术的不足，本发明提供一种基于ELM(超限学习机)的图像去噪方法。

一种基于ELM的图像去噪方法，包括如下步骤：

(1)根据待处理图像的大小构建基本前馈神经网络；

(2)针对所述的基本前馈神经网络构建训练样本集；

(3)利用所述的训练样本集基于ELM法训练所述的基本前馈神经网络得到训练好的神经网络；

(4)将待处理的图像输入到训练好的神经网络，相应的输出即为去噪后的图像。

本发明的图像去噪方法是一种基于学习的方法，可以很方便的应用在多种类型噪声的图像修复场景中，在训练时采用定制训练样本集并采用ELM算法进行训练，大大提高了训练速度。

所述基本前馈神经网络包括3层，分别为输入层、特征抽取层和输出层，输入层的节点数和输出层的节点数均等于待处理图像的像素点的个数。

输入层接受向量化的待处理图像，中间层(即特征抽取层)进行特征抽取，输出层输出处理结果(即去噪后的图像)，为保证去噪后图像大小不变，输入层与输出层节点数目一致，均等于待处理图像的大小。

出于简化训练的目的，设计网络结构时尽量简单，3层网络可以使用广义线性方程进行参数求解，而不是使用非常耗时的BP算法进行迭代求解；且具有3层的网络在使用ELM求解时，收敛性上有理论保障。

所述基本前馈神经网络中，输入层到特征抽取层、特征抽取层到输出层均采用全连接；

输入层到特征抽取层的各个连接参数在(0,1)之间随机取值，且采用非线性连续可导函数作为激活函数；

特征抽取层到输出层的所有连接参数均未知。

在网络连接中有全连接与部分连接的区别，这两种连接方式各有千秋，部分连接通常利用局部相关性降低所需参数，但这是一个比较强的假设，理论上的效果会稍差，因此，理论上说全连接方式会取得更好的方法，但由于参数比部分连接要多，训练更困难耗时更多，因此训练未必能够达到最优的效果。本发明中利用elm中收敛性的理论，随机分配第一层参数后不再调整，仅对第二层的连接参数进行调整，这样的话就不需要调整第一层的连接参数，大大降级了训练时的计算量，且采用全连接方式同时也保证了训练效果。

作为优选，输入层到特征抽取层采用sigmoid函数作为激活函数。

所述步骤(2)具体如下：

获取若干个大小与待处理图像相同原始图像，并对各个原始图像添加噪声以形成训练样本，所有训练样本的集合即为网络训练集。

本发明中的原始图像应该为不含噪声的图像，通过添加噪声作为训练样本。

在实际应用中也可以通过其他方法获取训练样本，但是必须保证各个训练样本对应的原始图像是已知。

训练样本的个数一方面影响到得到的训练好的神经网络的准确性，另一方面还会影响到训练的时间消耗，且二者之间相互制约。为保证二者之间的平衡，作为优选，所述网络训练样本集中包括8000～15000个训练样本(即获取8000～15000个大小与待处理图像相同原始图像)，进一步优选，所述网络训练样本集中包括10000个训练样本。

基于噪声独立同分布假设(即iid假设)对各个原始图像添加噪声。

根据噪声iid假设，对图像添加噪声构成训练集的输入部分，同时将对应的原始图像作为输出对网络进行监督。

针对当前原始图像I，通过如下公式添加噪声得到相应的训练样本X：

X＝I+g

g～gaussian(δ)，

其中，g表示高斯噪声，均值为0；

δ是高斯噪声的方差，其取值根据应用场景的噪声设定。

δ是高斯噪声的方差与应用场景的噪声大小相匹配，通常噪声越大，δ的取值应该越大。作为优选，所述δ的取值为25～50。

所述步骤(3)中训练基本前馈神经网络包括如下步骤：

(3-1)针对每个训练样本基于求解目标函数L的最小值构建相应的广义线性方程；

所述的目标函数L为：

L＝(T-O)²，

其中，T表示目标输出，为当前训练样本对应的原始图像的向量表示，

O为当前训练样本在通过基本前馈神经网络的输出；

(3-2)对将所有训练样本对应的广义线性方程组建为广义线性方程组，并使用Moore-Penrose逆求解所述的广义线性方程组得到特征抽取层到输出层的连接参数。

本发明中图像多采用矩阵形式表示，因此步骤(3-1)构建的广义线性方程实际上是一个小的广义线性方程组，而步骤(3-2)中将所有训练样本对应的广义线性方程组件得到的广义线性方程组，实际上应理解为若干个小的广义线性方程组构建的大广义线性方程组。

将经过添加噪声处理的图像(即训练样本)作为输入，对应的原始图像作为输出，求取网络中的参数，其中由输入到特征抽取层的参数随机初始化，不做改变，紧紧通过线性方程求取由特征抽取层到输出层的参数，大大节约了求解计算量，有利于降低训练时耗、缩短训练时间。

本方法通过构建三层网络，定制训练集，并通过ELM方式训练，可以很容易的获取网络参数，从而应用到对应的图像修复任务中，与现有技术相比，本发明具有如下有益效果：

通过定制训练集，并应用ELM方法对基本前馈神经网络进行训练获取连接参数，可以很迅速的完成训练过程，可以大大提高训练效率，缩短了训练时长；

根据应用场景的噪声类型构建网络训练集，仅需针对应用场景构建的网络训练集即可得到针对不同噪声类型的训练好的神经网络以对图像进行噪声去除，可以比较方便的应用到不同的噪声场景中；

在构建完成该网络时，可以针对不同噪声类型的图像完成定制，迅速完成训练，因此可以比较方便的应用到不同的噪声场景中；

训练完成后所需的内存和计算资源比较小，可以方便的应用在计算及存储资源受限场景中，如移动设备，嵌入式设备。

附图说明

图1为本实施例的基本前馈神经网络的示意图。

具体实施方式

下面将结合附图和具体实施例对本发明进行详细说明。

本实施例的基于ELM的图像去噪方法，包括如下步骤：

(1)根据待处理图像的大小(记待处理图像的大小为M×N)构建基本网络。

如图1所示，本实施例的基本网络为基本前馈神经网络，包括三层，分别为输入层、特征抽取层和输出层。

输入层具有M*N个节点，输入待处理图像的像素信息；特征抽取层具有H个节点(H通常为1000～1500，本实施例中H＝1200)；输出层具有M*N个节点，输出M*N大小的经过这种网络处理后的图像，即待处理图像去噪后的图像。

本实施例的前馈神经网络中：

从输入层到特征抽取层采用全连接，具有(H+1)×M×N个连接参数，各个连接参数在(0,1)之间随机取值，且采用非线性连续可导函数(如sigmoid函数、tanh函数、relu函数等)作为激活函数；

从特征抽取层到输出层，采用全连接，具有(H+1)×M×N个连接参数，各个连接参数未知，需要求解。

如图1所示的3层网络中，最左边为输入层X，中间一层为特征抽取层F，最右侧为输出层O，在本实施例中输入层节点数目与输出层节点数目相等。具体由X到O的映射可以表达如下：

F＝sigmoid(β₁X)   (1)

O＝β₂F

其中：

X是输入向量，通过待处理图像向量化得到；

β₁是由输入层到特征抽取层的连接参数

Sigmoid()是非线性映射函数表达式为f(z)＝1/(1+exp(-z))

F是特征抽取层的值

β₂是由特征抽取层到输出层的连接参数。

(2)构建网络训练集，具体包括如下步骤：

(2-1)获取若干个大小为与待处理图像相同(即大小为M×N)的图片作为原始图像；

获取的原始图像的数量直接关系到最终训练得到的原始图像的基本前馈神经网络的准确性和训练的时间消耗。网络训练集中的原始图像越少，准确性越差，但是时间消耗少；反之，网络训练集中的原始图像越多，准确性越好，但是时间消耗大。通常获取的原始图像的数量为8000～15000，本实施例中从flicker上下载10000张大小为M*N的图片作为原始图像。

(2-2)针对任意一张原始图像，对该原始图片添加噪声作为训练样本，所有训练样本的集合即为网络训练集。

本实施例中基于噪声iid(独立同分布)假设，对各个原始图像添加噪声。

对当前原始图像I添加噪声g构成训练集的输入部分X，同时将对应的原始图像I作为输出对网络进行监督，具体可通过如下公式表示：

X＝I+g   （2）

g～gaussian(δ)

其中：

g表示高斯噪声，符合某种需要的高斯分布，均值默认为0，

δ是高斯噪声的方差，其取值根据应用场景的噪声设定。

δ的取值与噪声大小相匹配，噪声越大，δ的取值越大，反之噪声越小，δ的取值也越小。

本实施例中采用PSNR衡量应用场景的噪声大小。通常，应用场景的PSNR值为19db-30db，设定δ的取值为25～50。

本实施例中设定应用场景的PSNR值取值范围为23-28db，相应设定δ＝30。

(3)基于ELM(超限学习机)训练基本前馈神经网络，即求解步骤(1)构建的基本前馈神经网络中从特征抽取层到输出层的连接参数。

训练网络(即基本前馈神经网络)的主要方法是最小化下面目标函数L：

L＝(T-O)²   （3）

＝Σ(t-o)²

其中，T表示目标输出，也就是期待输出，在本实施例中为原始图像I，O为通过网络计算的输出，可由(1)式计算得到，t,o分别为T，O向量中的每个分量(对应于图像对应的矩阵表示中的一列)。

为了使目标函数L最小，可以令T＝O，计算此时参数，将问题简化为一个广义线性方程。另外对(1)式中的β₁随机分配参数，这样主要计算从特征抽取层到输出层的网络参数β₂：

F＝sigmoid(β₁X)   (4)

令O＝Fβ₂＝I   (5)

其中(5)式中唯一未知数是β₂，只需通过求出β₂，便可以将整个基本网络求出。

但是由于F是奇异矩阵，因此无法直接通过求逆的方式求出β₂，因此本实施例中利用Moore-Penrose逆(广义逆矩阵)求解β₂，求解过程如下：

F^TFβ₂＝F^TI   (6)

β₂＝(F^TF)^-1F^TI

令

H⁺＝F^TF

[u,s,v]＝SVD(H⁺)   (7)

(H⁺)^-＝v*pinv(s)*u^T

其中pinv()是对每个非0元素求倒数。

这样参数β₂便求出来，整个网络训练完成。

本实施例中图像大小为800×600(即M＝800，N＝600)，对应所花费的训练时长为2-8小时左右，而其他使用深度网络的算法通常训练时长在数天或数周。

(4)将含噪图像(即待处理图像)输入到训练好的神经网络(即基本前馈神经网络)，对应的输出即为去噪后的图像。

将含噪图像向量化(即拉成一列形成一个列向量)，输入给训练好的神经网络(基本前馈神经网络)，通过(1)式求得到输出O，将输出O恢复为2维平面O_i,O_i便是去噪后的图像。

以上所述的具体实施方式对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的最优选实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于ELM的图像去噪方法，其特征在于，包括如下步骤：

(1)根据待处理图像的大小构建基本前馈神经网络；

(2)针对所述的基本前馈神经网络构建训练样本集；

(3)利用所述的训练样本集基于ELM法训练所述的基本前馈神经网络得到训练好的神经网络；

(4)将待处理的图像输入到训练好的神经网络，相应的输出即为去噪后的图像。

2.如权利要求1所述的基于ELM的图像去噪方法，其特征在于，所述基本前馈神经网络包括3层，分别为输入层、特征抽取层和输出层，输入层的节点数和输出层的节点数均等于待处理图像的像素点的个数。

3.如权利要求2所述的基于ELM的图像去噪方法，其特征在于，所述基本前馈神经网络中，输入层到特征抽取层、特征抽取层到输出层均采用全连接；

输入层到特征抽取层的各个连接参数在(0,1)之间随机取值，且采用非线性连续可导函数作为激活函数；

特征抽取层到输出层的所有连接参数均未知。

4.如权利要求3所述的基于ELM的图像去噪方法，其特征在于，输入层到特征抽取层采用sigmoid函数作为激活函数。

5.如权利要求1～4中任意一项权利要求所述的基于ELM的图像去噪方法，其特征在于，所述步骤(2)具体如下：

获取若干个大小与待处理图像相同原始图像，并对各个原始图像添加噪声以形成训练样本，所有训练样本的集合即为网络训练集。

6.如权利要求5所述的基于ELM的图像去噪方法，其特征在于，基于噪声独立同分布假设对各个原始图像添加噪声。

7.如权利要求6所述的基于ELM的图像去噪方法，其特征在于，针对当前原始图像I，通过如下公式添加噪声得到相应的训练样本X：

X＝I+g   ，

g～gaussian(δ)

其中，g表示高斯噪声，均值为0；

δ是高斯噪声的方差，其取值根据应用场景的噪声设定。

8.如权利要求7所述的基于ELM的图像去噪方法，其特征在于，所述δ的取值为25～50。

9.如权利要求8所述的基于ELM的图像去噪方法，其特征在于，所述步骤(3)中训练基本前馈神经网络包括如下步骤：

(3-1)针对每个训练样本基于求解目标函数L的最小值构建相应的广义线性方程；

所述目标函数L为：

L＝(T-O)²，

其中，T表示目标输出，为当前训练样本对应的原始图像的向量表示，

O为当前训练样本在通过基本前馈神经网络的输出；

(3-2)对将所有训练样本对应的广义线性方程组建为广义线性方程组，并使用Moore-Penrose逆求解所述的广义线性方程组得到特征抽取层到输出层的连接参数。