CN109581339B - 一种基于头脑风暴自动调整自编码网络的声呐识别方法 - Google Patents

Abstract

本发明公开了一种基于头脑风暴自动调整自编码网络的声呐识别方法，步骤包括：1)对收集到的声呐数据进行处理，处理成网络能够识别的输入信号，确定待识别样本类的个数以及每一类样本的特征数即样本维度，确定网络的训练样本和测试样本；2)选择深度神经网络作为网络模型；3)对网络模型进行优化及确定；4)对自动编码机进行分层训练；5)对网络模型进行微调；6)判断停止条件，设定最大迭代次数，判断是否满足最大迭代次数；步骤7)待识别样本输入分类，将待识别声呐数据样本输入到已经训练好的网络模型，利用训练好的网络对待识别样本进行分类；8)计算识别率，实现识别。本发明的方法，过程简化，识别准确率明显提高。

Description

一种基于头脑风暴自动调整自编码网络的声呐识别方法

技术领域

本发明属于智能控制技术领域，涉及一种基于头脑风暴自动调整自编码网络的声呐识别方法。

背景技术

随着海洋资源的开发及国防科技发展的需要，对水声信号的智能化分析和处理已经成为各国研究的热点，广泛应用于深海勘探、智能鱼雷等，对水下目标自动识别技术的需求愈加迫切。由于海洋环境的复杂性，基于声呐信号的水下信号自动识别和分类又具有挑战性，因此，如何利用现有高维水下可用数据提高检测识别的准确率，不仅具有重要的理论意义，而且是基于现有水下信号获取、传送及处理成本等条件下最现实的选择。

自动编码网络是2007年Bengio Y等人提出的，其原理是通过对输入数据进行逐层特征变换，将原空间的样本特征表示变换为新的特征空间，自动学习分层特征表示，从而有利于类别的可视化功能，对于处理存在较多无标签及高维数据问题有很好的解决能力。

头脑风暴法是1939年美国创造学家A.F奥斯本首次提出的，又称智力激励法。2011年史玉回老师在第二次群智能国际会议(ICSI11)中提出一种新的群智能优化算法——头脑风暴优化算法(BSO)，该算法的概念和理论源于对人类头脑风暴法会议过程的模拟，被广泛应用于多个领域，具有非常好的发展前景。

由于海洋环境的复杂，带标签可用样本数据采集困难，存在大量不带标签声呐数据，且目标特征维度增加。而对声呐目标的识别，主要是对目标特征的提取，较优的特征提取才会得到较优的识别效果，而现有的识别方法未能充分利用声呐数据这一特点。因此，对声呐数据的识别的准确性不高。

发明内容

本发明的目的是提供一种基于头脑风暴自动调整自编码网络的声呐识别方法，解决了现有技术中声呐数据的识别的准确性不高、带标签数据样本采集困难的问题。

本发明所采用的技术方案是，一种基于头脑风暴自动调整自编码网络的声呐识别方法，按照以下步骤实施：

步骤1、对收集到的声呐数据进行处理，

处理成网络能够识别的输入信号，确定待识别样本类的个数以及每一类样本的特征数即样本维度，同时确定网络的训练样本和测试样本；

步骤2、选择深度神经网络作为网络模型；

步骤3、对网络模型进行优化及确定，

自编码网络模型主要由自动编码机和分类器两部分组成，其中，输入层个数为待分类物体特征个数，输出层个数为声呐数据中待识别物体类的个数，

对于网络模型的优化主要是对自动编码机结构的优化，既然自动编码机由输入层、隐藏层和输出层组成，因此，自动编码机结构的确定分为输入层节点数、输出层节点数、隐藏层层数及节点数优化三个方面；

步骤4、对自动编码机进行分层训练，

对自动编码机的分层训练分为初始化、编码解码、分层训练的目标函数建立、以及计算梯度变量更新；

步骤5、对网络模型进行微调，

将训练的网络隐藏层输出y即权值阈值作为自动编码机学习到的待分类的物体的特征，用于分类器的输入，并对网络模型进行微调；

步骤6、判断停止条件，

设定最大迭代次数，判断是否满足最大迭代次数，若不满足，重新返回步骤3；若满足，则进入步骤7；

步骤7、待识别样本输入分类，

将待识别声呐数据样本输入到已经训练好的网络模型，利用训练好的网络对待识别样本进行分类；

步骤8、计算识别率，

网络模型总体评价标准能够精确地表示网络识别率，但为更直观的表示网络对待识别样本的分类效果，表达式见式(12)：

其中，p为待识别样本总数，ɑ为分类正确的待识别样本，则利用式(12)能够直观的计算出声呐数据最优识别准确率。

本发明的有益效果是，通过对水下声呐数据进行处理分析，充分考虑带标签数据样本采集困难问题，以及处理后数据的高纬度特性，利用自编码网络对高维声呐数据进行特征提取及分类，识别结果优于传统的神经网络(BP)及传统分类方法(SVM)；同时考虑到自编码网络的层数及隐藏层节点数对识别精度影响较大，结合头脑风暴优化算法，实现自动调整的自编码网络对声呐目标的识别，使得识别精度达到最优。具体优点包括以下方面：

1)具有较强的智能性，自动调整网络模型，免去了人工手动调整网络参数这一耗时过程，同时节省了计算资源，并使得分类精度达到最优。

2)实用性广泛，针对声呐识别问题具有较优的识别精度，且实现过程简单，广泛应用于水下军事目标监测、渔业资源勘测，海底地形勘探等。

3)具有较强的普适应，不仅在声呐识别方面，还可适用于其他方面，尤其是对无标签大样本数据的分类识别问题，依然能够得到较好的解。

附图说明

图1是本发明方法的总体实现流程简图；

图2是本发明方法中的自编码网络模型简图；

图3是本发明算法中头脑风暴法算法应用流程简图。

具体实施方式

下面结合附图和具体实施方式对本发明进行详细说明。

参照图1，本发明的声呐识别方法，按照以下步骤实施：

步骤1、对收集到的声呐数据进行处理，

处理成网络能够识别的输入信号，确定待识别样本类的个数以及每一类样本的特征数即样本维度，同时确定网络的训练样本和测试样本，

处理后的声呐数据样本集合为{(x⁽¹⁾,y⁽¹⁾),...,(x^(m),y^(m))}，或存在未带类别标签的样本集{x⁽¹⁾,...,x^(m)}，其中，m为待训练样本个数，x⁽ⁱ⁾为第i个训练样本，其标签为y⁽ⁱ⁾∈{1,2,...,k}，k为声呐数据中待识别物体类的个数。

步骤2、选择深度神经网络作为网络模型，

由于神经网络具有自学习、自联想及较优的容错能力，比传统的识别方法有明显的优势；而又由于浅层神经网络易陷入过拟合、训练速度较慢、梯度消失等问题，因此，采用深度神经网络作为网络模型，

2.1)模型确定为自动编码机，

由于人力、物力以及现有技术的原因，采集到的数据不一定都是带有标签的数据，而对处理后的数据来说样本维度较大，而自动编码机是深度学习的一种常用模型，可以利用大量无标签数据对数据进行特征提取，从而使分类预测更加容易；又由于模型自身特性可以很好的对样本数据进行降维，只提取有用特征能够大大减少待识别物体目标维度，因此，本发明采用自动编码机对声呐数据特征进行提取。

2.2)确定采用softmax分类器，

由于自动编码机不具有分类特性，因此需要将自动编码机与分类器相结合，构架自编码网络模型，并将其应用在声呐目标分类上。

本步骤的分类器采用softmax分类器，当声呐数据训练样本集合为{(x⁽¹⁾,y⁽¹⁾),...,(x^(m),y^(m))}，利用softmax分类器按下式对待识别物体特征进行分类：

其中，假设向量h_θ(x⁽ⁱ⁾)的每一个元素p(y⁽ⁱ⁾＝j|x⁽ⁱ⁾；θ)代表样本待识别物体特征x⁽ⁱ⁾属于第j类的概率(向量的元素和为1)，概率越大，待识别物体特征x⁽ⁱ⁾属于第j类的概率就越大，θ₁,θ₂,...,θ_k为模型参数向量。

步骤3、对网络模型进行优化及确定，

如图2所示，自编码网络模型主要由自动编码机和分类器两部分组成，其中，输入层个数为待分类物体特征个数，输出层个数为声呐数据中待识别物体类的个数。

对于网络模型的优化主要是对自动编码机结构的优化，既然自动编码机由输入层、隐藏层和输出层组成，因此，自动编码机结构的确定分为输入层节点数、输出层节点数、隐藏层层数及节点数优化三个方面，具体如下：

3.1)确定输入层节点数，

自动编码机输入层也是网络的输入层，输入层节点数的个数与待识别物体数据维度d有关，是待识别物体特征数的输入；

3.2)确定输出层节点数，

对于自动编码机来说，输出层节点数与输入层节点数个数相同，具有相同维度；而对于整个自编码网络模型，输出层节点数为待识别样本的类的个数k；

3.3)隐藏层层数及节点数优化及确定，

对于自编码网络模型来说，隐藏层层数及节点数根据多次试验依靠人为经验设定，耗时费力，浪费计算资源，但隐藏层层数及节点数的多少影响着网络模型的精度，因此，需要对网络的隐藏层层数及节点数进行优化确定。

本步骤基于头脑风暴算法的基本原理，创新出一种新的基于头脑风暴自动调整的自编码网络算法，实现对自编码网络的隐藏层层数及节点数的确定，省去了繁杂的手动调节步骤，节省了时间，节省了宝贵的计算资源；同时，实现了声呐目标识别精度的提高，以及实现过程的简单化，在声呐目标识别问题中效果显著。

参照图3，该创新的头脑风暴算法优化隐藏层层数及节点数的具体过程是：

3.3.1)初始化，

引入头脑风暴算法，设置种群规模NP，最大迭代次数I，算法参数；

3.3.2)产生可行隐藏层层数及节点数的集合，

为减少模型参数，各隐藏层节点数个数相同；因此，取自编码网络的隐藏层数和隐藏层节点为决策变量，每个个体的维数就是决策变量的个数即L，N的个数，种群中第i个个体pⁱ如式(2)所示：

pⁱ＝[Lⁱ,Nⁱ]  (2)

由于种群规模为NP即随机的产生NP个个体，其中每个个体的产生如式(3)所示：

Lⁱ＝randint(1,max_L)

Nⁱ＝randint(1,max_N)

pⁱ＝[Lⁱ,Nⁱ]  (3)

式中，最大层数max_L＝10，最大节点数max_N＝300，pⁱ是第i个个体，最小层数及最小节点数均为1；即随机产生NP个个体，每个个体层数值在1到10之间，节点数在1到300之间；

3.3.3)确定个体评价指标，

由于隐藏层层数及节点数共同影响着网络模型的精度，因此对个体的评价指标即是网络模型总的评价标准；

3.3.4)对个体评价与聚类，

将步骤3.3.2)中产生的NP个个体集合分别代入自编码网络模型中，以自编码网络模型的总的评价标准作为个体的评价指标，对种群中每一个个体进行评价。

对个体进行评价后，对个体按目标空间进行聚类，随机选择m个个体作为聚类中心，并计算个体到每个聚类中心的欧氏距离，将其聚到欧氏距离最小的类中，再计算每个类中所有点坐标的平均值，将平均值作为新的聚类中心，并不断迭代，最终得到聚成的m个类；

3.3.5)对种群与聚类中心进行更新，

对隐藏层层数及节点数以很小的概率用任意解替代聚类中心，并以一定规则产生新个体，对新个体的产生采用高斯变异的方式，产生的新个体，见式(4)：

其中，

是新产生个体的第d维，

是选择个体的第d维，n(μ,σ)是以μ为均值、σ为方差的高斯随机函数，ξ是衡量高斯随机值的贡献的系数，*是指乘法运算；

3.3.6)判断是否达到迭代次数I，

判断迭代次数t是否达到设定的最大迭代次数I，若否，设置迭代次数t＝t+1，返回3.3.4重新进行个体评价与聚类；若是，则进入步骤3.3.7)；

3.3.7)输出最优个体，

输出针对该自编码网络模型的最优个体即隐藏层层数及节点数，并将最优隐藏层层数及节点数作为网络模型的最优结构，代入后续的网络训练。

步骤4、对自动编码机进行分层训练

对自动编码机的分层训练分为初始化、编码解码、分层训练的目标函数建立、以及计算梯度变量更新，具体过程是：

4.1)初始化，

初始化自编码网络模型的权值、阈值，并设置迭代次数及权重下降参数；

4.2)编码解码，

对自动编码机的输入层、隐藏层和输出层，运用逐层贪婪的训练法则依次训练每一层网络；因此，从输入层待识别物体特征数据x到隐藏层的数据y进行编码，编码公式见式(5)：

y＝S_f(W₁x+b)  (5)

从隐藏层的数据y重新恢复出输入层数据即输出层数据z进行解码，解码公见式(6)：

z＝S_g(W₂y+d)  (6)

式(5)和式(6)中，w₁是输入层与隐藏层的权值矩阵，w₂是隐藏层和输出层的权值矩阵，b为隐藏层的偏置向量，d为输出层的偏置向量，S_f及S_g均为sigmoid函数，表达式见式(7)：

同时为了减少参数，将输入层与隐藏层之间的权值矩阵w₁取为隐藏层与输出层的权值矩阵的转置w′₂，表达式见式(8)：

W₁＝W′₂＝W  (8)

将隐藏层输出y作为网络学习到的待分类的物体的特征，并将其用于分类器的输入或者自编码网络模型中下层AE的输入；

4.3)建立分层训练的目标函数，

自动编码机的目的是通过编码解码使得自动编码机的输入与输出之间的差异最小化，因此，训练目标表达式见式(9)：

自动编码机输出z在声呐数据输入x给定的情况下由w,b,d来调节，而c(x,z)是每个训练样本的训练目标，则分层训练的目标函数变换为式(10)：

m为训练样本的数量，利用式(10)计算分层训练的目标函数即输出误差；

4.4)计算梯度变量及更新，

利用反向传播计算梯度变量，对权值阈值进行更新优化。

步骤5、对网络模型进行微调，

将训练的网络隐藏层输出y即权值阈值作为自动编码机学习到的待分类的物体的特征，用于分类器的输入，并对网络模型进行微调，具体过程是：

5.1)确定网络模型总体评价标准，

分层训练的目标函数是针对自动编码机而言的，在加入分类器后利用分类器对权值阈值参数进行微调，分类器目的是对输入的特征进行分类，输出为确定待分类物体的类，因此，分类器的分类效果的评价即为网络模型总体评价标准，对识别精度的评价标准，见式(11)：

其中，1{·}表示指示函数，当花括号中的表达式为真即预测结果与实际结果相同，则指示函数值为1，否则为0；同时，为了解决参数冗余所带来的数值问题，引入了权重衰减项，λ为权值衰减系数，

利用式(11)对网络模型进行总体评价，当评价函数值越小，识别精度越高；

5.2)优化权值阈值参数，

与步骤4.4)相同，利用反向传播对权值阈值进行优化，得到网络模型最优的权值阈值。

步骤6、判断停止条件，

设定最大迭代次数(此处迭代次数是对总体流程而言的没有范围，在一定程度内迭代次数越多越能得到更好的结果，但同样时间的开销也增加了)，判断是否满足最大迭代次数，若不满足，重新返回步骤3；若满足，则进入步骤7。

步骤7、待识别样本输入分类，

将待识别声呐数据样本输入到已经训练好的网络模型，利用训练好的网络对待识别样本进行分类。

步骤8、计算识别率，

网络模型总体评价标准能够精确地表示网络识别率，但为更直观的表示网络对待识别样本的分类效果，表达式见式(12)：

其中，p为待识别样本总数，ɑ为分类正确的待识别样本，则利用式(12)能够直观的计算出声呐数据最优识别准确率。

总之，本发明的声呐识别方法，采用无标签样本对网络进行训练，少量有标签样本进行微调，大大提高了无标签样本的使用率；同时，引入创新的头脑风暴算法对自编码网络模型的参数进行自动调整，大大简化了人工调参的复杂性，并显著提升了识别准确性。

实施例

以从海底金属圆柱体和沙质海底圆柱形岩石中收集的声呐发射数据为例，对本发明的实施过程中涉及的参数设置进行说明。

步骤1、对声呐数据进行处理，确定训练样本及测试样本并进行归一化处理。

步骤2、选定自编码网络模型对声呐样本数据进行识别。

步骤3、确定输入层节点数为60，输出层节点数为样本标签数2，并对创新的头脑风暴算法进行各项初始化及参数的设置，并按照式(2)-式(4)进行头脑风暴算法，输出最优网络模型为：隐藏层层数为4，隐藏层节点数为50。

步骤4和步骤5、按照步骤3给出的网络最优框架，对网络进行初始化及参数设置并按照式(5)-式(11)进行分层训练及微调。

步骤6、设置最大迭代次数为20，并判断是否达到最大迭代次数，若达到最大迭代次数，则代入待识别样本对待识别样本进行识别。

经过基于头脑风暴自动调整的自编码网络能够在较短时间内对待识别物体进行分类，与其他算法相比，有较高的识别精度。同时，不需要手动调节网络模型实现自动化，大大节省了人力物力资源及计算资源，且具有很好的通用性及普适性。

Claims (3)

1.一种基于头脑风暴自动调整自编码网络的声呐识别方法，其特征在于，按照以下步骤实施：

步骤1、对收集到的声呐数据进行处理，

处理成网络能够识别的输入信号，确定待识别样本类的个数以及每一类样本的特征数即样本维度，同时确定网络的训练样本和测试样本；

步骤2、选择深度神经网络作为网络模型，

具体过程是：

2.1)模型确定为自动编码机，

采用自动编码机对声呐数据特征进行提取；

2.2)确定采用softmax分类器，

分类器采用softmax分类器，当声呐数据训练样本集合为{(x⁽¹⁾,y⁽¹⁾),...,(x^(m),y^(m))}，利用softmax分类器按下式对待识别物体特征进行分类：

其中，假设向量h_θ(x⁽ⁱ⁾)的每一个元素p(y⁽ⁱ⁾＝j|x⁽ⁱ⁾；θ)代表样本待识别物体特征x⁽ⁱ⁾属于第j类的概率，概率越大，待识别物体特征x⁽ⁱ⁾属于第j类的概率就越大，θ₁,θ₂,...,θ_k为模型参数向量；

步骤3、对网络模型进行优化及确定，

自编码网络模型主要由自动编码机和分类器两部分组成，其中，输入层个数为待分类物体特征个数，输出层个数为声呐数据中待识别物体类的个数，

对于网络模型的优化主要是对自动编码机结构的优化，既然自动编码机由输入层、隐藏层和输出层组成，因此，自动编码机结构的确定分为输入层节点数、输出层节点数、隐藏层层数及节点数优化三个方面，

具体过程是：

3.1)确定输入层节点数，

自动编码机输入层也是网络的输入层，输入层节点数的个数与待识别物体数据维度d有关，是待识别物体特征数的输入；

3.2)确定输出层节点数，

对于自动编码机来说，输出层节点数与输入层节点数个数相同，具有相同维度；而对于整个自编码网络模型，输出层节点数为待识别样本的类的个数k；

3.3)隐藏层层数及节点数优化及确定，

采用一种新的基于头脑风暴自动调整的自编码网络算法，该创新的头脑风暴算法优化隐藏层层数及节点数的具体过程是：

3.3.1)初始化，

引入头脑风暴算法，设置种群规模NP，最大迭代次数I，算法参数；

3.3.2)产生可行隐藏层层数及节点数的集合，

为减少模型参数，各隐藏层节点数个数相同；因此，取自编码网络的隐藏层数和隐藏层节点为决策变量，每个个体的维数就是决策变量的个数即L，N的个数，种群中第i个个体pⁱ如式(2)所示：

pⁱ＝[Lⁱ,Nⁱ]    (2)

由于种群规模为NP即随机的产生NP个个体，其中每个个体的产生如式(3)所示：

Lⁱ＝randint(1,max_L)

Nⁱ＝randint(1,max_N)

pⁱ＝[Lⁱ,Nⁱ]    (3)

式中，最大层数max_L＝10，最大节点数max_N＝300，pⁱ是第i个个体，最小层数及最小节点数均为1；即随机产生NP个个体，每个个体层数值在1到10之间，节点数在1到300之间；

3.3.3)确定个体评价指标，

由于隐藏层层数及节点数共同影响着网络模型的精度，因此对个体的评价指标即是网络模型总的评价标准；

3.3.4)对个体评价与聚类，

将步骤3.3.2)中产生的NP个个体集合分别代入自编码网络模型中，以自编码网络模型的总的评价标准作为个体的评价指标，对种群中每一个个体进行评价，

对个体进行评价后，对个体按目标空间进行聚类，随机选择m个个体作为聚类中心，并计算个体到每个聚类中心的欧氏距离，将其聚到欧氏距离最小的类中，再计算每个类中所有点坐标的平均值，将平均值作为新的聚类中心，并不断迭代，最终得到聚成的m个类；

3.3.5)对种群与聚类中心进行更新，

对隐藏层层数及节点数以很小的概率用任意解替代聚类中心，并以一定规则产生新个体，对新个体的产生采用高斯变异的方式，产生的新个体，见式(4)：

其中，

是新产生个体的第d维，

是选择个体的第d维，n(μ,σ)是以μ为均值、σ为方差的高斯随机函数，ξ是衡量高斯随机值的贡献的系数，*是指乘法运算；

3.3.6)判断是否达到迭代次数I，

判断迭代次数t是否达到设定的最大迭代次数I，若否，设置迭代次数t＝t+1，返回3.3.4重新进行个体评价与聚类；若是，则进入步骤3.3.7)；

3.3.7)输出最优个体，

输出针对该自编码网络模型的最优个体即隐藏层层数及节点数，并将最优隐藏层层数及节点数作为网络模型的最优结构，代入后续的网络训练；

步骤4、对自动编码机进行分层训练，

对自动编码机的分层训练分为初始化、编码解码、分层训练的目标函数建立、以及计算梯度变量更新；

步骤5、对网络模型进行微调，

将训练的网络隐藏层输出y即权值阈值作为自动编码机学习到的待分类的物体的特征，用于分类器的输入，并对网络模型进行微调；

步骤6、判断停止条件，

设定最大迭代次数，判断是否满足最大迭代次数，若不满足，返回步骤3；若满足，则进入步骤7；

步骤7、待识别样本输入分类，

将待识别声呐数据样本输入到已经训练好的网络模型，利用训练好的网络对待识别样本进行分类；

步骤8、计算识别率，

网络模型总体评价标准能够精确地表示网络识别率，但为更直观的表示网络对待识别样本的分类效果，表达式见式(12)：

其中，p为待识别样本总数，ɑ为分类正确的待识别样本，则利用式(12)能够直观的计算出声呐数据最优识别准确率。

2.根据权利要求1所述的基于头脑风暴自动调整自编码网络的声呐识别方法，其特征在于，所述的步骤4中，具体过程是：

4.1)初始化，

初始化自编码网络模型的权值、阈值，并设置迭代次数及权重下降参数；

4.2)编码解码，

对自动编码机的输入层、隐藏层和输出层，运用逐层贪婪的训练法则依次训练每一层网络；因此，从输入层待识别物体特征数据x到隐藏层的数据y进行编码，编码公式见式(5)：

y＝S_f(W₁x+b)    (5)

从隐藏层的数据y重新恢复出输入层数据即输出层数据z进行解码，解码公见式(6)：

z＝S_g(W₂y+d)    (6)

式(5)和式(6)中，w₁是输入层与隐藏层的权值矩阵，w₂是隐藏层和输出层的权值矩阵，b为隐藏层的偏置向量，d为输出层的偏置向量，S_f及S_g均为sigmoid函数，表达式见式(7)：

同时为了减少参数，将输入层与隐藏层之间的权值矩阵w₁取为隐藏层与输出层的权值矩阵的转置w'₂，表达式见式(8)：

W₁＝W’₂＝W    (8)

将隐藏层输出y作为网络学习到的待分类的物体的特征，并将其用于分类器的输入或者自编码网络模型中下层AE的输入；

4.3)建立分层训练的目标函数，

自动编码机的目的是通过编码解码使得自动编码机的输入与输出之间的差异最小化，因此，训练目标表达式见式(9)：

自动编码机输出z在声呐数据输入x给定的情况下由w,b,d来调节，而c(x,z)是每个训练样本的训练目标，则分层训练的目标函数变换为式(10)：

m为训练样本的数量，利用式(10)计算分层训练的目标函数即输出误差；

4.4)计算梯度变量及更新，

利用反向传播计算梯度变量，对权值阈值进行更新优化。

3.根据权利要求2所述的基于头脑风暴自动调整自编码网络的声呐识别方法，其特征在于，所述的步骤5中，具体过程是：

5.1)确定网络模型总体评价标准，

分层训练的目标函数是针对自动编码机而言的，在加入分类器后利用分类器对权值阈值参数进行微调，分类器目的是对输入的特征进行分类，输出为确定待分类物体的类，因此，分类器的分类效果的评价即为网络模型总体评价标准，对识别精度的评价标准，见式(11)：

其中，1{·}表示指示函数，当花括号中的表达式为真即预测结果与实际结果相同，则指示函数值为1，否则为0；同时，为了解决参数冗余所带来的数值问题，引入了权重衰减项，λ为权值衰减系数，

利用式(11)对网络模型进行总体评价，当评价函数值越小，识别精度越高；

5.2)优化权值阈值参数，

与步骤4.4)相同，利用反向传播对权值阈值进行优化，得到网络模型最优的权值阈值。

Images