CN111104876A - 一种基于神经网络的红外光谱反卷积方法 - Google Patents

Abstract

本发明公开了信号处理技术领域的一种基于神经网络的红外光谱反卷积方法，旨在解决现有技术中由于非盲反卷积和半盲反卷积方法需要先验知识作为支撑，因而限制了其在红外光谱信号处理实际场景中的应用；全盲反卷积处理效果的准确性以及效率不佳，容易受到自然界中的随机噪声影响的技术问题。所述方法包括如下步骤：基于初始红外光谱信号及其退化红外光谱信号构建样本集；利用所述样本集对预构建的神经网络进行训练，所述神经网络的损失函数引入有自步正则项；利用训练好的神经网络处理目标红外光谱信号。

Description

一种基于神经网络的红外光谱反卷积方法

技术领域

本发明涉及一种基于神经网络的红外光谱反卷积方法，属于信号处理技术领域。

背景技术

随着光谱探测技术和光电成像技术的发展，红外光谱被广泛用于许多行业，特别是在化学分析和资源勘探中，例如化学物质识别技术、检测气体泄漏、表面化学物质检测和分类等。然而在获取红外光谱的过程中，红外光谱经常由于随机噪声和频带重叠而退化，特别是对于老化的红外光谱仪器，经常遭受频带重叠和随机噪声的干扰。因而反卷积问题被提出，传统的反卷积方法可以分为三类，即：全盲反卷积、非盲反卷积和半盲反卷积。非盲反卷积和半盲反卷积都需要一定的先验知识作为支撑，它们假定光谱的过程退化是固定的，因而限制了其在实际场景中的应用，并且这两个方法的处理性能对模型和参数的选择很敏感。全盲反卷积虽然不需要任何关于模糊核的先验知识，这一点可以满足在实际场景中的应用需求，但其处理效果的准确性以及效率方面都远远没有达到人们所预期效果，同时容易受到自然界中的随机噪声影响。

发明内容

针对现有技术的不足，本发明的目的在于提供一种基于神经网络的红外光谱反卷积方法，以解决现有技术中由于非盲反卷积和半盲反卷积方法需要先验知识作为支撑，因而限制了其在红外光谱信号处理实际场景中的应用；全盲反卷积处理效果的准确性以及效率不佳，容易受到自然界中的随机噪声影响的技术问题。

为解决上述技术问题，本发明所采用的技术方案是：

一种基于神经网络的红外光谱反卷积方法，包括如下步骤：

基于初始红外光谱信号及其退化红外光谱信号构建样本集；

利用所述样本集对预构建的神经网络进行训练，所述神经网络的损失函数引入有自步正则项；

利用训练好的神经网络处理目标红外光谱信号。

进一步地，所述神经网络的损失函数还引入有加权损失项。

进一步地，引入自步正则项和加权损失项之前的损失函数为均方误差损失函数。

进一步地，引入自步正则项和加权损失项之前的损失函数，其表达式如下：

式中，loss为引入自步正则项和加权损失项之前的损失函数，T为红外光谱信号的点数，y_i为第i个样本的标签，

为第i个样本的预测值。

进一步地，引入有自步正则项和加权损失项的损失函数，其表达式如下：

式中，E(w,v；η)为引入有自步正则项和加权损失项的损失函数，n为样本集中的样本数，v_i为加权损失项，即样本集中第i个样本所对应的加权系数，loss为引入自步正则项和加权损失项之前的损失函数，g^L(v_i,λ)为自步正则项，λ为阈值。

进一步地，在利用所述样本集对预构建的神经网络进行训练之前，还包括：对样本集中的初始红外光谱信号及其退化红外光谱信号进行归一化处理。

进一步地，所述归一化处理，其表达式如下：

式中，x′为归一化处理之后的红外光谱信号，x为待归一化处理的红外光谱信号，x_min为样本集中红外光谱信号的最小值，x_max为样本集中红外光谱信号的最大值。

进一步地，所述神经网络的激活函数为带泄露线性整流函数。

进一步地，所述带泄露线性整流函数，其表达式如下：

式中，f(n)为激活函数的因变量，n为激活函数的自变量，a为大于1的常数。

与现有技术相比，本发明所达到的有益效果：本发明方法引入了自步长的学习方法去解决红外光谱信号的反卷积问题，不仅能够准确地从退化红外光谱信号中恢复出原始红外光谱信号，同时也解决了传统反卷积方法适用场景少的技术难题，让整个网络的训练过程更加合理有效，使整个网络训练模型收敛速度得到提升。综上所述，本发明方法具有更高的准确性和鲁棒性，并且实现简单，具有较快的计算速度。

附图说明

图1是本发明方法实施例的流程示意图；

图2是本发明方法实施例中所述神经网络的结构示意图；

图3是本发明方法实施例中所述激活函数的示意图；

图4是本发明方法实施例中所述自步正则项的函数示意图。

具体实施方式

下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。

本发明具体实施方式提供了一种基于神经网络的红外光谱反卷积方法，旨在实现对退化红外光谱信号的恢复，如图1所示，是本发明方法实施例的流程示意图。本发明方法技术方案以MATLAB为实现平台，包括如下步骤：

步骤一，收集原始红外光谱信号及其产生的退化光谱信号，构建用于训练神经网络的样本集。具体包括：

(1)初始红外光谱信号的获取：利用红外光谱仪发射红外信号至物体表面，发射形成初始红外光谱信号；

(2)退化红外光谱信号的产生：将前述初始红外光谱信号通过与模糊核卷积并且加上加性噪声的用于产生退化的红外光谱信号，表达式为：

Y＝X*K+N

式中，Y为退化的红外光谱信号，X为初始红外光谱信号，K为模糊核，*为卷积操作，N为加性随机噪声。对于不同的模糊核，它遵循不同的密度分布函数，主要分为高斯核与洛伦兹核，其密度分布函数如下：

式中，L_ρ(u)、G_ρ(u)分别代表洛伦兹分布和高斯分布，ρ代表模糊核的半高宽，u代表光谱信号的强度。

步骤二，设计神经网络结构。具体包括：

(1)网络结构的设计：将网络结构的按功能分为编码和解码两个部分，编码器将输入转换为更简单的内部表示，而解码器负责根据内部表示产生输出。网络输出结果在于恢复受模糊核退化的红外光谱信号，因此在输入层和输出层中具有相同数量的神经元。隐藏层必须具有较少的神经元，才能迫使网络学习数据中最重要的特征。如图2所示，是本发明方法实施例中所述神经网络的结构示意图。

(2)激活函数的选取：将激活函数为带泄露线性整流函数(Leaky_ReLU)表达式如下：

式中，f(n)为激活函数的因变量即输出变量，n为函数的自变量即输入变量，a为自定义大于1的常数。带泄露线性整流函数(Leaky_ReLU)是经典的线性整流函数(ReLU)的变体，解决了线性整流函数(ReLU)进入负区间后神经元不学习的问题。如图3所示，是本发明方法实施例中所述激活函数的示意图。

(3)损失函数的选取：神经网络所使用的损失函数为均方误差损失函数(mean-square error,MSE)，表达式如下：

式中，loss为均方误差损失函数，y_i为样本集中第i个样本的标签，

为第i个样本的预测值，T为红外光谱信号的点数。采用均方误差损失函数的好处在于，能够使神经网络通过反向传播过程求解梯度更加快速的修正神经网络中的模型参数。

步骤三，预处理。具体包括：

(1)光谱信号的归一化：对获取的原始光谱信号和退化红外光谱信号做归一化处理，以减小不同光谱信号之间的差异程度，提升训练模型收敛速度。具体的归一化操作表达式如下：

式中，x′为归一化处理之后的红外光谱信号，x为待归一化处理的红外光谱信号，x_min为样本集中红外光谱信号的最小值，x_max为样本集中红外光谱信号的最大值。

(2)光谱信号的矩阵化：将多个一维红外光谱信号转化为m行n列的二维光谱信号矩阵，m代表一条光谱信号的维度，n代表光谱的数量。

步骤四，引入自步长学习模型。具体包括：

在原有的样本损失函数基础上，引入自步正则项和加权损失项，来保证整个网络参数的训练过程以一种难度渐进增加的方式进行，具体表达式如下：

式中，E(w,v；η)为引入有自步正则项和加权损失项的损失函数，n为样本集中的样本数，v_i为加权损失项即样本集中第i个样本所对应的加权系数，g^L(v_i,λ)为自步正则项，λ为一开始设置的阈值，随着网络训练样本的增加而增加，arg min表示当函数值最小时变量的取值。如图4所示，是本发明方法实施例中所述自步正则项的函数示意图。

步骤五，将光谱数据输入网络进行训练。具体包括：

(1)训练样本的输入：首先生成一个大小为1×64的随机数矩阵，64为所取训练块的大小，将所生成的随机数矩阵用于从整个训练样本矩阵中随机提取训练样本用于每一次样本的训练，随机数矩阵中的数值大小范围为从1到整个训练样本的光谱信号条数。

(2)前向传播过程：前向传播表示的是由输入到输出的过程，即通过网络中的神经元由一个退化的光谱信号输出预测的原始光谱信号，其具体过程表达式如下：

y＝f(n)，

n＝w*x+b，

式中，y代表每一层神经元的输出，f(n)代表激活函数，也就是带泄露线性整流函数(Leaky_ReLU)，w代表权值即网络模型中的学习参数，x表示原始光谱信号，b表示外部偏置用于调整激活函数的输入，n表示激活函数的输入。

(3)反向传播过程：反向传播表示的是通过前向传播得到预测结果后，我们可以利用损失函数相对于每个参数的梯度来对他们进行修正。事实上神经网络的训练就是这样一个不停的前向-反向传播的过程，直到网络的预测能力达到我们的预期，其具体过程表达式如下：

式中，E代表所有样本损失函数的平均值，m代表一次参数更新过程中训练样本的个数，

和

分别表示损失函数相对于变量w和b的偏导数，w和w′分别表示更新之前和更新之后的权值，同理，b′和b也是如此，η代表参数更新过程中的学习速率。

步骤六，利用训练好的模型作为光谱信号处理机，用于接收处理光谱信号。

具体包括：

将测试集中的退化光谱信号输入到神经网络中，得到预测的初始光谱信号，将预测的光谱信号与测试集中原有的标签作对比，来判断恢复效果。这里，主要是用均方误差根(RMSE)、相关系数(CC)和加权相关系数(WCC)作为性能指标，去判断其恢复效果。如表1所示，是采用本发明方法与采用其它方法的恢复指标参数对比表。

表1：恢复指标参数对比表

	方法1	方法2	方法3
				均方误差根	0.0239	0.0214	0.0134
相关系数	0.9909	0.9906	0.9963
				加权相关系数	0.9859	0.9844	0.9974

表1中，方法1是现有技术中全盲反卷积方法(H.Liu,S.Liu,T.Huang,Z.Zhang,Y.Hu,and T.Zhang,“Infrared spectrum blind deconvolution algorithm via learneddictionaries and sparse representation,”Appl.Opt.55,2813–2818(2016))恢复出的初始红外光谱信号；

方法2是现有技术中半盲反卷积方法(Yan L,Liu H,Zhong S,et al.Semi-blindspectral deconvolution with adaptive Tikhonov regularization[J].Appliedspectroscopy,2012,66(11):1334-1346.)恢复出的初始红外光谱信号；

方法3是本方法恢复出的初始红外光谱信号。

可以看出，本发明方法对退化红外光谱信号的恢复效果，相对于方法2和方法3有显著提升。

本发明方法引入了自步长的学习方法去解决红外光谱信号的反卷积问题，不仅能够准确地从退化红外光谱信号中恢复出原始红外光谱信号，同时也解决了传统反卷积方法适用场景少的技术难题，让整个网络的训练过程更加合理有效，使整个网络训练模型收敛速度得到提升。综上所述，本发明方法具有更高的准确性和鲁棒性，并且实现简单，具有较快的计算速度。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

Claims (9)

1.一种基于神经网络的红外光谱反卷积方法，其特征是，包括如下步骤：

基于初始红外光谱信号及其退化红外光谱信号构建样本集；

利用所述样本集对预构建的神经网络进行训练，所述神经网络的损失函数引入有自步正则项；

利用训练好的神经网络处理目标红外光谱信号。

2.根据权利要求1所述的基于神经网络的红外光谱反卷积方法，其特征是，所述神经网络的损失函数还引入有加权损失项。

3.根据权利要求2所述的基于神经网络的红外光谱反卷积方法，其特征是，引入自步正则项和加权损失项之前的损失函数为均方误差损失函数。

4.根据权利要求3所述的基于神经网络的红外光谱反卷积方法，其特征是，引入自步正则项和加权损失项之前的损失函数，其表达式如下：

式中，loss为引入自步正则项和加权损失项之前的损失函数，T为红外光谱信号的点数，y_i为第i个样本的标签，

为第i个样本的预测值。

5.根据权利要求2所述的基于神经网络的红外光谱反卷积方法，其特征是，引入有自步正则项和加权损失项的损失函数，其表达式如下：

式中，E(w,v；η)为引入有自步正则项和加权损失项的损失函数，n为样本集中的样本数，v_i为加权损失项，即样本集中第i个样本所对应的加权系数，loss为引入自步正则项和加权损失项之前的损失函数，g^L(v_i,λ)为自步正则项，λ为阈值。

6.根据权利要求1所述的基于神经网络的红外光谱反卷积方法，其特征是，在利用所述样本集对预构建的神经网络进行训练之前，还包括：对样本集中的初始红外光谱信号及其退化红外光谱信号进行归一化处理。

7.根据权利要求6所述的基于神经网络的红外光谱反卷积方法，其特征是，所述归一化处理，其表达式如下：

式中，x′为归一化处理之后的红外光谱信号，x为待归一化处理的红外光谱信号，x_min为样本集中红外光谱信号的最小值，x_max为样本集中红外光谱信号的最大值。

8.根据权利要求1所述的基于神经网络的红外光谱反卷积方法，其特征是，所述神经网络的激活函数为带泄露线性整流函数。

9.根据权利要求8所述的基于神经网络的红外光谱反卷积方法，其特征是，所述带泄露线性整流函数，其表达式如下：

式中，f(n)为激活函数的因变量，n为激活函数的自变量，a为大于1的常数。

Images