CN106991429A - 图像识别深度信念网络结构的构建方法 - Google Patents

Abstract

一种图像识别深度信念网络结构的构建方法，由图像预处理、确定图像识别深度信念网络结构、调整图像识别深度信念网络参数、对测试样本图像进行识别步骤组成。采用了受限玻尔兹曼机原理，将图像输入到受限玻尔兹曼机网络中，得到重构误差，确定一个隐含层节点数，增加隐含层层数，将训练样本图像分批输入到含有1～3层隐含层的网络结构中迭代至指定迭代次数，得到识别率，选择识别率最高时所对应的隐含层节点数，确定网络层数和各隐含层节点数，构建成图像识别深度信念网络结构。本发明与现有技术相比，具有方法简单、鲁棒性好等优点，图像识别率达98.62％，能有效地防止网络的过拟合现象，可用于手势、手写数字、门牌号码等图像识别。

Description

图像识别深度信念网络结构的构建方法

技术领域

本发明属于图像处理及模式识别技术领域，具体地涉及到对图像进行识别。

背景技术

随着机器学习的不断完善和发展，深度学习算法越来越受到重视，其中深度信念网络是深度学习中的一种重要算法，目前已成为图像处理、语音分析、文档分类等领域的研究热点。深度信念网络利用级联的若干个受限玻尔兹曼机进行样本特征的自我学习，基于概率生成模型，建立数据与标签之间的联合分布，通过对比散度方法更新网络参数，是一类无监督学习与有监督微调相结合的学习网络。

基于深度信念网络，研究人员在图像分类、语音识别、文档分类、视频检测等应用中取得了很多成果。细究这些应用，不难发现，合理有效的网络结构的构建是众多研究人员追求的目标，是影响深度学习算法性能的关键组成部分，因此，如何根据特定数据集的特点快速建立一个行之有效的网络结构具有重要意义，并得到研究人员的重视。然而，网络结构构建过程中还存在很多问题，例如：网络的深度(层数)确定没有可靠的理论基础，与求解问题的复杂程度相关；在网络深度相同的情况下，增加节点个数时识别率会提升，相应的网络复杂度也会提高，如何平衡两者之间的关系也是值思考的；此外，对于网络中参数的选择及网络的初始化方式目前还没有普遍适用的方法。

发明内容

本发明所要解决的技术问题在于克服现有技术的缺点，提供一种设计简单、识别精度高、速度快的图像识别深度信念网络结构的构建方法。

解决上述技术问题所采用的技术方案是由下述步骤组成：

(1)图像预处理

从图像数据集中选取50400～60000张训练样本图像和6000～20000张测试样本图像进行灰度化和大小归一化至32×32或28×28。

(2)确定图像识别深度信念网络结构

1)确定第一个受限玻尔兹曼机隐含层节点数M

设定受限玻尔兹曼机隐含层节点数为M，将训练样本图像分100批输入到受限玻尔兹曼机网络中，迭代至网络收敛，得到训练样本图像的重构误差，重构误差用(1)式确定：

式中m为输入图像的像素点个数，n为每一批数据的图像个数，v_i为每一批输入的图像矩阵，为经过隐含层h_n后重构出的图像矩阵为输出层p_f，θ为权值与偏置的集合，不断调整M的大小，根据不同M得到的重构误差和迭代所需时间，选择重构误差最小，所用时间最短的节点数M为第一个受限玻尔兹曼机隐含层h_n节点数，构建成在输入层v_m与输出层p_f之间含有一个隐含层h_n的网络结构。

2)确定网络层数和各隐含层节点数

在确定第一个隐含层h_n节点数的基础上，在输入层v_m与输出层p_f之间增加1～3层隐含层h_n，将训练样本图像分100批输入到含有1～3层隐含层h_n的网络结构中迭代至指定迭代次数50～200次，得到识别率，选择使当前层中识别率达到最高所对应的隐含层h_n节点数，确定网络层数和各隐含层h_n节点数，构建成图像识别深度信念网络结构。

(3)调整图像识别深度信念网络参数

改变网络初始化方式：将训练样本图像输入到由步骤(1)所确定的输入层v_m与输出层p_f之间含有一个隐含层h_n的网络中，迭代至网络收敛，得到输入层v_m与隐含层h_n之间的连接权重，用该连接权重去初始化图像识别深度信念网络结构中输入层v_m与第一个隐含层h_n之间的连接权重。

确定图像识别深度信念网络学习率α：通过全局学习算法对图像识别深度信念网络的学习率进行调整，0.1≤α<1，间隔为0.1，选择迭代次数为50～200、识别率最高时所对应的α的值；

在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，式中λ为正则项系数，根据图像识别深度信念网络识别率按照1×10^-10～1、间隔10倍进行调整λ的值，选择识别率最高时所对应的λ值，

式中m为输入图像像素点的个数，n为每一批数据的个数，v_i为输入的图像矩阵，为经过一层隐含层h_n后重构出的图像矩阵，W_ij为各层间连接权值，θ为{W,b}，b为图像识别深度信念网络的偏置，得到图像识别深度信念网络结构及参数。

(4)对测试样本图像进行识别

将测试样本图像6000～20000张输入到上述构建成的图像识别深度信念网络中，得到各测试样本图像的识别结果，判断所构建的网络为图像识别深度信念网络结构。

本发明步骤(2)中的迭代至网络收敛为：在连续50次训练样本图像的重构误差的变化范围小于0.001时为收敛。

在本发明的步骤(3)中，在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，

式中λ为正则项系数，根据图像识别深度信念网络识别率按照1×10^-5进行调整λ的值，得到图像识别深度信念网络结构及参数。

由于本发明采用了受限玻尔兹曼机原理，将图像输入到受限玻尔兹曼机网络中，迭代至网络收敛，得到训练样本图像的重构误差，根据重构误差确定一个隐含层节点数，增加隐含层层数，将训练样本图像分批输入到含有1～3层隐含层的网络结构中迭代至指定迭代次数，得到识别率，选择识别率最高时所对应的隐含层节点数，确定网络层数和各隐含层节点数，构建成图像识别深度信念网络结构。本发明与现有技术相比，具有方法简单、参数选择合理、鲁棒性好等优点，图像识别率达98.62％，能有效地防止网络的过拟合现象，可用于手势、手写数字、门牌号码等图像识别。

附图说明

图1是本发明的流程图。

图2是实施例1的图像识别深度信念网络结构示意图。

图3是实施例2的图像识别深度信念网络结构示意图。

图4是实施例3的图像识别深度信念网络结构示意图。

具体实施方式

下面结合附图和实施例对本发明进进一步详细说明，但本发明不限于下述实施例。

实施例1

在图1中，本实施例的图像来自ASL数据集，选取其中50400张为训练样本图像，6000张为测试样本图像，图像识别深度信念网络结构的构建方法步骤如下：

(1)图像预处理

从图像数据集中选取训练样本图像50400张和测试样本图像6000张进行灰度化和大小归一化至32×32。

灰度化为：用下式对50400张训练样本图像和6000张测试样本图像进行灰度化处理，将彩色图像转换为灰度图像：

I＝Wr×R+Wg×G+Wb×B

式中I为图像灰度化后的亮度，R为彩色图像的红色分量，G为彩色图像的绿色分量，B为彩色图像的蓝色分量，Wr为彩色图像的红色分量的权重，Wg为彩色图像的绿色分量的权重，Wb为彩色图像的蓝色分量的权重。

大小归一化：将灰度化后的图像用双三次插值法归一化为32×32，像素总个数为1024，将图像转换为列向量。

(2)确定图像识别深度信念网络结构

1)确定第一个受限玻尔兹曼机隐含层节点数M

设定受限玻尔兹曼机隐含层h_n节点数为M，将训练样本图像分100批输入到受限玻尔兹曼机网络中，受限玻尔兹曼机隐含层h_n由输入层v_m、输出层p_f、位于输入层v_m与输出层p_f之间的隐含层h_n构成，迭代至网络收敛；迭代至网络收敛为：在连续50次训练样本图像的重构误差的变化范围小于0.001时为收敛。得到训练样本图像的重构误差，重构误差用(1)式确定：

式中m为1024是输入图像像素点的个数，n为504是每一批数据的图像个数，v_i为每一批输入的图像矩阵，为经过隐含层h_n后重构出的图像矩阵为输出层p_f，θ为权值与偏置的集合，不断调整M的大小，根据不同M得到的重构误差和迭代所需时间，选择重构最小为0.2130，花费时间最短为1.32小时的节点数M为第一个受限玻尔兹曼机隐含层h_n的节点数为600，构建成在输入层v_m与输出层p_f之间含有一个隐含层h_n的网络结构。

2)确定网络层数和各隐含层节点数

在确定第一个隐含层h_n节点数的基础上，在输入层v_m与输出层p_f之间增加1层隐含层h_n，将训练样本图像分100批输入到含有2层隐含层h_n的网络结构中迭代至指定迭代次数200次，得到识别率，选择当前层中识别率最高为81.13％所对应的隐含层h_n节点数，确定图像识别深度信念网络结构为：输入层v_m节点数为1024，第一个隐含层h_n节点数为600，第二个隐含层h_n节点数为200，输出层p_f节点数为24构建成图像识别深度信念网络结构如图2。

(3)调整图像识别深度信念网络参数

改变网络初始化方式：将训练样本图像输入到由步骤(1)所确定的输入层v_m与输出层p_f之间含有一个隐含层h_n的网络中，迭代至网络收敛，得到输入层v_m与隐含层h_n之间的连接权重，用该连接权重去初始化图像识别深度信念网络结构中输入层v_m与第一个隐含层h_n之间的连接权重。

确定图像识别深度信念网络学习率α：通过全局学习算法对图像识别深度信念网络的学习率α进行调整，选择迭代次数为200、识别率最高为91.9％时所对应的α值，α为0.5。

在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，式中λ为正则项系数，根据图像识别深度信念网络识别率，选择迭代次数为200、识别率最高为96.14％时所对应λ的值，λ为1×10^-5。

式中m为1024是输入图像像素点的个数，n为504是每一批数据的个数，v_i为输入的图像矩阵，为经过一层隐含层h_n后重构出的图像矩阵，W_ij为各层间连接权值，θ为{W,b}，b为图像识别深度信念网络的偏置，得到图像识别深度信念网络结构及参数。

(4)对测试样本图像进行识别

将测试样本图像6000张输入到上述构建成的图像识别深度信念网络中，得到各测试样本图像的识别结果，识别率为96.14％，判断所构建的网络为图像识别深度信念网络结构。

实施例2

本实施例的图像为MNIST数据集，选择其中55000张为训练样本图像和10000张为测试样本图像，图像识别深度信念网络结构的构建方法步骤如下：

(1)图像预处理

从图像数据集中选取训练样本图像55000张和测试样本图像10000张进行灰度化和大小归一化至28×28。

灰度化、大小归一化步骤与实施例1相同。

(2)确定图像识别深度信念网络结构

1)确定第一个受限玻尔兹曼机隐含层节点数M

设定受限玻尔兹曼机隐含层h_n节点数为M，将训练样本图像分100批输入到受限玻尔兹曼机网络中，受限玻尔兹曼机由输入层v_m、输出层p_f、位于输入层v_m与输出层p_f之间的隐含层h_n构成，迭代至网络收敛；迭代至网络收敛为：在连续50次训练样本图像的重构误差的变化范围小于0.001时为收敛。得到训练样本图像的重构误差，重构误差用(1)式确定：

式中m为784是输入图像像素点的个数，n为550是每一批数据的图像个数，v_i为每一批输入的图像矩阵，为经过隐含层h_n后重构出的图像矩阵为输出层p_f，θ为权值与偏置的集合，不断调整M的大小，根据不同M得到的重构误差和迭代所需时间，选择重构最小为0.0400，所用时间最短为0.8小时的节点数M为第一个受限玻尔兹曼机隐含层h_n的节点数为500，构建成在输入层v_m与输出层p_f之间含有一个隐含层h_n的网络结构。

2)确定网络层数和各隐含层节点数

在确定第一个隐含层h_n节点数的基础上，在输入层v_m与输出层p_f之间增加1层隐含层h_n，将训练样本图像分100批输入到网络中迭代至指定迭代次数200次，得到识别率，选择使当前层中识别率最高的98.34％所对应的隐含层h_n节点数，确定图像识别深度信念网络结构为：输入层v_m节点数为784，第一个隐含层h_n节点数为500，输出层p_f节点数为10构建成图像识别深度信念网络结构如图3所示。

(3)调整图像识别深度信念网络参数

改变网络初始化方式与实施例1相同。

确定图像识别深度信念网络学习率α：通过全局学习算法对图像识别深度信念网络的学习率α进行调整，选择迭代次数为200、识别率最高为98.53％时所对应的α的值，α为0.5。

在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，式中λ为正则项系数，根据图像识别深度信念网络识别率，选择迭代次数为200、识别率最高为98.62％时所对应λ的值，λ为1×10^-5。

式中m为784是输入图像像素点的个数，n为550是每一批数据的个数，v_i为输入的图像矩阵，为经过一层隐含层h_n后重构出的图像矩阵，W_ij为各层间连接权值，θ为{W,b}，b为图像识别深度信念网络的偏置，得到图像识别深度信念网络结构及参数。

(4)对测试样本图像进行识别

将测试样本图像10000张输入到上述构建成的图像识别深度信念网络中，得到各测试样本图像的识别结果，识别率为98.62％，判断所构建的网络为图像识别深度信念网络结构。

实施例3

本实施例的图像为SVHN数据集，选取其中60000张为训练样本图像，20000张为测试样本图像，图像识别深度信念网络结构的构建方法步骤如下：

(1)图像预处理

从图像数据集中选取训练样本图像60000张和测试样本图像20000张进行灰度化和大小归一化至32×32。

灰度化、大小归一化与实施例1相同。

(2)确定图像识别深度信念网络结构

1)确定第一个受限玻尔兹曼机隐含层节点数M

设定受限玻尔兹曼机隐含层h_n节点数为M，将训练样本图像分100批输入到受限玻尔兹曼机网络中，受限玻尔兹曼机由输入层v_m、输出层p_f、位于输入层v_m与输出层p_f之间的隐含层h_n构成，迭代至网络收敛；迭代至网络收敛为：在连续50次训练样本图像的重构误差的变化范围小于0.001时为收敛。得到训练样本图像的重构误差，重构误差用(1)式确定：

式中m为1024是输入图像像素点的个数，n为600是每一批数据的图像个数，v_i为每一批输入的图像矩阵，为经过隐含层h_n后重构出的图像矩阵为输出层p_f，θ为权值与偏置的集合，不断调整M的大小，根据不同M得到的重构误差和迭代所需时间，选择重构最小为0.4115，所用时间最短为1.12小时的节点数M为第一个受限玻尔兹曼机隐含层h_n的节点数为600，构建成在输入层v_m与输出层p_f之间含有一个隐含层h_n的网络结构。

2)确定网络层数和各隐含层节点数

在确定第一个隐含层h_n节点数的基础上，在输入层v_m与输出层p_f之间增加2层隐含层h_n，将训练样本图像分100批输入到含有3层隐含层h_n的网络结构中迭代至指定迭代次数200次，得到识别率，选择使当前层中识别率最高的65.23％所对应的隐含层h_n节点数，确定图像识别深度信念网络结构为：输入层v_m节点数为1024，第一个隐含层h_n节点数为600，第二个隐含层h_n节点数为300，第二个隐含层h_n节点数为200，输出层p_f节点数为10构建成图像识别深度信念网络结构如图4所示。

(3)调整图像识别深度信念网络参数

改变网络初始化方式与实施例1相同。

确定图像识别深度信念网络学习率α：通过全局学习算法对图像识别深度信念网络的学习率α进行调整，选择迭代次数为100、识别率最高为75.16％时所对应的α的值，α为0.1。

在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，式中λ为正则项系数，根据图像识别深度信念网络识别率，选择迭代次数为100、识别率最高为81.62％时所对应λ的值，λ为1×10^-5。

式中m为1024是输入图像像素点的个数，n为600是每一批数据的个数，v_i为输入的图像矩阵，为经过一层隐含层h_n后重构出的图像矩阵，W_ij为各层间连接权值，θ为{W,b}，b为图像识别深度信念网络的偏置，得到图像识别深度信念网络结构及参数。

(4)对测试样本图像进行识别

将测试样本图像20000张输入到上述构建成的图像识别深度信念网络中，得到各测试样本图像的识别结果，识别率为81.62％，判断所构建的网络为图像识别深度信念网络结构。

Claims (3)

1.一种图像识别深度信念网络结构的构建方法，其特征在于由下述步骤组成：

(1)图像预处理

从图像数据集中选取50400～60000张训练样本图像和6000～20000张测试样本图像进行灰度化和大小归一化至32×32或28×28；

(2)确定图像识别深度信念网络结构

1)确定第一个受限玻尔兹曼机隐含层节点数M

设定受限玻尔兹曼机隐含层节点数为M，将训练样本图像分100批输入到受限玻尔兹曼机网络中，迭代至网络收敛，得到训练样本图像的重构误差，重构误差用(1)式确定：

$\underset{\mathrm{\&theta;},{\mathrm{\&theta;}}^{\&prime;}}{\mathrm{argmin}}\frac{1}{nm}\underset{i=1}{\overset{n}{\&Sigma;}}\left|\right|v_i-{\hat{v}}_i|{|}^2---\left(1\right)$

式中m为输入图像的像素点个数，n为每一批数据的图像个数，v_i为每一批输入的图像矩阵，为经过隐含层(h_n)后重构出的图像矩阵为输出层(p_f)，θ为权值与偏置的集合，不断调整M的大小，根据不同M得到的重构误差和迭代所需时间，选择重构误差最小，所用时间最短的节点数M为第一个受限玻尔兹曼机隐含层(h_n)节点数，构建成在输入层(v_m)与输出层(p_f)之间含有一个隐含层(h_n)的网络结构；

2)确定网络层数和各隐含层节点数

在确定第一个隐含层(h_n)节点数的基础上，在输入层(v_m)与输出层(p_f)之间增加1～3层隐含层(h_n)，将训练样本图像分100批输入到含有1～3层隐含层(h_n)的网络结构中迭代至指定迭代次数50～200次，得到识别率，选择使当前层中识别率达到最高所对应的隐含层(h_n)节点数，确定网络层数和各隐含层(h_n)节点数，构建成图像识别深度信念网络结构；

(3)调整图像识别深度信念网络参数

改变网络初始化方式：将训练样本图像输入到由步骤(1)所确定的输入层(v_m)与输出层(p_f)之间含有一个隐含层(h_n)的网络中，迭代至网络收敛，得到输入层(v_m)与隐含层(h_n)之间的连接权重，用该连接权重去初始化图像识别深度信念网络结构中输入层(v_m)与第一个隐含层(h_n)之间的连接权重；

确定图像识别深度信念网络学习率α：通过全局学习算法对图像识别深度信念网络的学习率进行调整，0.1≤α<1，间隔为0.1，选择迭代次数为50～200、识别率最高时所对应的α的值；

在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

$J\left(\mathrm{\&theta;}\right)=\frac{1}{mn}\underset{i=1}{\overset{m}{\&Sigma;}}\left(\frac{1}{2}\right||v_i-{\hat{v}}_i|{|}^2)---\left(2\right)$

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，式中λ为正则项系数，根据图像识别深度信念网络识别率按照1×10^-10～1、间隔10倍进行调整λ的值，选择识别率最高时所对应的λ值，

$J\left(\mathrm{\&theta;}\right)=\frac{1}{mn}\underset{i=1}{\overset{m}{\&Sigma;}}\left(\frac{1}{2}\right||v_i-{\hat{v}}_i|{|}^2)+\frac{\mathrm{\&lambda;}}{2}\left|\right|W_{ij}|{|}^2---\left(3\right)$

式中m为输入图像像素点的个数，n为每一批数据的个数，v_i为输入的图像矩阵，为经过一层隐含层(h_n)后重构出的图像矩阵，W_ij为各层间连接权值，θ为{W,b}，b为图像识别深度信念网络的偏置，得到图像识别深度信念网络结构及参数；

(4)对测试样本图像进行识别

将测试样本图像6000～20000张输入到上述构建成的图像识别深度信念网络中，得到各测试样本图像的识别结果，判断所构建的网络为图像识别深度信念网络结构。

2.根据权利要求1所述的图像识别深度信念网络结构的构建方法，其特征在于所述的步骤(2)中的迭代至网络收敛为：在连续50次训练样本图像的重构误差的变化范围小于0.001时为收敛。

3.根据权利要求1所述的图像识别深度信念网络结构的构建方法，其特征在于所述的步骤(3)中，在网络损失函数中加入正则项约束并调整正则项系数，在损失函数

$J\left(\mathrm{\&theta;}\right)=\frac{1}{mn}\underset{i=1}{\overset{m}{\&Sigma;}}\left(\frac{1}{2}\right||v_i-{\hat{v}}_i|{|}^2)---\left(2\right)$

中加入正则项约束，得到图像识别深度信念网络的损失函数为(3)式，

$J\left(\mathrm{\&theta;}\right)=\frac{1}{mn}\underset{i=1}{\overset{m}{\&Sigma;}}\left(\frac{1}{2}\right||v_i-{\hat{v}}_i|{|}^2)+\frac{\mathrm{\&lambda;}}{2}\left|\right|W_{ij}|{|}^2---\left(3\right)$

式中λ为正则项系数，根据图像识别深度信念网络识别率按照1×10^-5进行调整λ的值，得到图像识别深度信念网络结构及参数。