CN110298401A - 一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法 - Google Patents

Abstract

本发明涉及一种基于模糊和去冗余受限玻尔兹曼机的图像分类方法，该方法采用预训练好的图像分类模型对图像进行处理，获取图像分类结果，所述图像分类模型包括模糊受限玻尔兹曼机、去冗余受限玻尔兹曼机和支持向量机，所述图像分类结果的获取包括以下步骤：1)模糊受限玻尔兹曼机对待分类图像进行特征提取，获取图像特征；2)对提取出的图像特征进行去冗余，获取去冗余图像特征；3)去冗余受限玻尔兹曼机对去冗余图像特征进行处理，获取降维图像特征；4)支持向量机对降维图像特征进行处理，获取图像分类结果。与现有技术相比，本发明改善了图像特征提取的精度、速度以及识别分类的准确度。

Description

一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法

技术领域

本发明涉及对不同类型的图像特征进行抽象提取以及自动识别分类的领域，尤其是涉及一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法。

背景技术

如今，世界充满了信息。图像作为人类感知世界的视觉基础，成为人类获取信息、表达信息和传递信息的重要手段。大量的图像采集和处理技术在军事、工业、服务等领域发展迅速。特别是近年来，图像采集也开始成为一些机器人和车辆信息采集的重要手段。随着图像采集精度的提高，高精度、高频率的图像采集设备逐渐发展起来，如何从大量的图像中提取人们需要的信息成为国际研究的热点和难点。因此，为了探索高精度、高速的图像特征提取规律和方法，许多优秀的研究人员致力于图像特征提取和大数据分类。为了提高计算机的学习速度和处理数据的能力，在处理大量高维数据时，需要提取特征来减少数据维数。

受限玻尔兹曼机(RBM)作为许多深度学习算法的基本框架，不仅可以实现有效的特征提取，还可以实现数据降维，提高数据分类精度。传统的RBM虽然可以实现特征提取，但其提取能力有限，并且学习时间长。当图像信息比较庞大且复杂时，很难有效的提取图像中的有效特征。优秀的研究者们通过将RBM内部参数模糊化，扩展了RBM的特征提取的能力，但是会导致学习速度变慢，并且无法实现对特征提取后的图像自动分类。因此，如何在保证图像特征提取精度的条件下提高系统的学习速度，以及如何实现对特征提取的图像进行精确的识别是研究的重点和难点。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种特征提取速度更快、图像分类准确度更高的基于模糊和去冗余的受限玻尔兹曼机图像分类方法。

本发明的目的可以通过以下技术方案来实现：

一种基于模糊和去冗余受限玻尔兹曼机的图像分类方法，该方法采用预训练好的图像分类模型对图像进行处理，获取图像分类结果，其特征在于，所述图像分类模型包括模糊受限玻尔兹曼机、去冗余受限玻尔兹曼机和支持向量机，所述图像分类结果的获取包括以下步骤：

S1：模糊受限玻尔兹曼机对待分类图像进行特征提取，获取图像特征，模糊受限玻尔兹曼机用以提高图像的特征提取的能力；

S2：自适应的对提取出的图像特征进行去冗余，获取去冗余图像特征；

S3：去冗余受限玻尔兹曼机对去冗余图像特征进行处理，获取降维图像特征，通过消除提取相同或者极度相似的特征，实现降低图像特征维度，提高系统学习速度；

S4：支持向量机对降维图像特征进行处理，获取图像分类结果，实现对提取特征的自动分类。

进一步地，所述模糊受限玻尔兹曼机的建立包括利用三角对称函数对受限玻尔兹曼机的连接权重、可见层偏置和隐藏层偏置进行模糊化；并且将受限玻尔兹曼机的能量函数和概率分布模型替换为模糊化能量函数和自由能量概率模型，得到模糊受限玻尔兹曼机。

进一步地，所述利用三角对称函数对受限玻尔兹曼机的连接权重进行模糊化的表达式为：

式中，为隐藏层第i个节点与可见层第j个节点连接权重的左边界，为隐藏层第i个节点与可见层第j个节点连接权重的右边界，为隐藏层第i个节点与可见层第j个节点连接权重的中间值，为隐藏层第i个节点与可见层第j个节点的模糊化连接权重表达式，为模糊化连接权重；

同理，分别用可见层偏置a和隐藏层偏置b替换连接权重w得到模糊化可见层偏置和模糊化隐藏层偏置

进一步地，所述模糊化能量函数和自由能量概率模型的表达式为：

式中，为模糊化的能量函数，为待优化的参数，x为模糊受限玻尔兹曼机的可见层，h为模糊受限玻尔兹曼机的隐藏层，m为模糊受限玻尔兹曼机可见层的层数，n为模糊受限玻尔兹曼机隐藏层的层数，h为隐藏层神经元状态向量，下标i为层中第i个节点，下标j为层中第j个节点，为自由度函数，F(x,W^L,a^L,b^L)和F(x,W^R,a^R,b^R)分别为自由度函数的左侧和右侧边界的取值，为去模糊化能量函数自由度函数，W^L为模糊受限玻尔兹曼机连接权重的上界，W^R为模糊受限玻尔兹曼机连接权重的下界，a^L为模糊受限玻尔兹曼机可见层偏置的上界，a^R为模糊受限玻尔兹曼机可见层偏置的下界，b^L为模糊受限玻尔兹曼机隐藏层偏置的上界，b^R为模糊受限玻尔兹曼机隐藏层偏置的下界，为自由能量概率，P(h_j＝1|x)为隐藏层第j个节点为1的概率，也即为模糊受限玻尔兹曼机提取的图像特征。

进一步地，所述步骤S2中，冗余特征的定义为：当输入不同的原始图像数据，经过模糊受限玻尔兹曼机特征提取后，两个或多个特征中具有相同或者极其相似的表达形式，则认为提取的特征中具有冗余的特征。去冗余图像特征的获取具体为：

S201：设置相似度阈值，获取模糊受限玻尔兹曼机的隐藏层激活状态矩阵；

经过模糊受限玻尔兹曼机提取后，其隐藏层激活状态矩阵的表达式为：

式中，H为模糊受限玻尔兹曼机提取的图像特征矩阵，m为样本个数，n为经模糊受限玻尔兹曼机进行特征提取后的维数，Lⁱ为隐藏层激活状态矩阵第i列的激活状态，L^j为隐藏层激活状态矩阵第j列的激活状态，Lⁱ与L^j之间的相似度用来估计第i个特征与第j个特征之间的关系是否相似。

S202：对隐藏层激活状态矩阵的每个特征列分别进行相似度计算，Lⁱ与L^j之间的相似度用来估计第i个特征与第j个特征之间的关系是否相似。；

S203：基于相似度计算的结果，对超过相似度阈值的特征列，进行去冗余，获取去冗余图像特征。

进一步地，所述步骤S203中，去冗余的表达式为：

式中，m为样本个数，为由可见层第p个节点决定的隐藏层第k个节点的激活状态，为由可见层第p个节点决定的隐藏层第l个节点的激活状态。

进一步地，所述去冗余受限玻尔兹曼机的建立具体为：将受限玻尔兹曼机的能量函数替换为去冗余能量函数，并且将冗余特征剔除后，需要重新调整受限玻尔兹曼机连接权重和隐藏层的偏置，最终得到去冗余受限玻尔兹曼机。

进一步地，所述去冗余能量函数的表达式为：

式中，c1为不含有冗余特征的隐藏层单元，c2为含有冗余特征的隐藏单元，c1∪c2＝n，下标r为层中第r个节点。

进一步地，所述对受限玻尔兹曼机连接权重和隐藏层的偏置调整具体为：

式中， 为可见层第i个节点与隐藏层第q个节点连接权重的下界，为可见层第i个节点与隐藏层第q个节点连接权重的上界，为隐藏层第q个节点隐藏层偏置的下界。

进一步地，利用支持向量机SVM具有将二维线性不可分问题转化为多维线性可分问题，最终寻找最优切割平面的优良特点，对具有不同显著特征的图像进行自动识别，实现对不同类型的图像自动分类。

与现有技术相比，本发明具有以下优点：

(1)本发明利用三角对称函数将受限玻尔兹曼机内部参数：连接权重、可见层偏置和隐藏层偏置进行模糊化，提高了系统的特征提取能力。

(2)本发明通过比较系统中隐藏单元的相似性，通过去冗余以及去冗余受限玻尔兹曼机，消除了提取的具有相同或者极其相似的冗余特征，减少了隐藏单元的数量，降低了提取图像特征的维数，从而提高了系统的学习速度。

(3)本发明利用支持向量机具有将二维线性不可分问题转化为多维线性可分问题，最终寻找最优切割平面的优良特点，实现了对不同类型图像的自动分类。

附图说明

图1为本发明基于模糊和去冗余受限玻尔兹曼机的图像分类方法的流程示意图；

图2为受限玻尔兹曼机的结构示意图；

图3为本发明实施例MNIST手写数字数据库的原图；

图4为本发明实施例中基于模糊和去冗余的受限玻尔兹曼机进行特征提取获取的图像重构图；

图5为本发明实施例中隐藏单元n＝50时，采用三种图像分类模型的重构误差对比图；

图6为本发明实施例中隐藏单元n＝100时，采用三种图像分类模型的重构误差对比图；

图7为本发明实施例中隐藏单元n＝200时，采用三种图像分类模型的重构误差对比图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体地操作过程，但本发明的保护范围不限于下述的实施例。

实施例1

如图1所示，本实施例为采用一种基于模糊和去冗余受限玻尔兹曼机的图像分类方法，具体为一种基于模糊和去冗余受限玻尔兹曼机(F3RBM)与支持向量机(SVM)相结合的F3RBM-SVM算法，将模糊受限玻尔兹曼机(FRBM)和自适应删除冗余特征的方法相结合，利用三角对称函数将系统内部参数(连接权重a、可见层偏置b和隐藏层偏置w)模糊化为(可见层偏置模糊化隐藏层偏置和模糊化连接权重)，提高系统的特征提取能力。通过比较系统中隐藏单元的相似性，消除提取的具有相同或者极其相似的冗余特征，减少了隐藏单元的数量，降低了提取图像特征的维数，从而提高了系统的学习速度。为了实现将不同类型的图像特征进行自动分类，利用支持向量机SVM具有将二维线性不可分问题转化为多维线性可分问题，最终寻找最优切割平面的优良特点实现对不同类型的图像自动分类，实现图像高精度的分类。

该方法获取图像分类结果的过程具体为：模糊受限玻尔兹曼机对待分类图像进行特征提取，获取图像特征，模糊受限玻尔兹曼机用以提高图像的特征提取的能力；自适应的对提取出的图像特征进行去冗余，获取去冗余图像特征；去冗余受限玻尔兹曼机对去冗余图像特征进行处理，获取降维图像特征，通过消除提取相同或者极度相似的特征，实现降低图像特征维度，提高系统学习速度；支持向量机对降维图像特征进行处理，获取图像分类结果，实现对提取特征的自动分类。

如图3所示，本实施例所用的数据集为MNIST手写数据库的部分数据。MNIST手写体数据库由28×28个灰度像素组成，由不同笔迹的0—9数字组成。

本实施例具体包括以下步骤：构建图像分类模型、对图像分类模型进行训练和采用训练好的图像分类模型进行图像识别分类。上述步骤的具体过程如下：

1、构建图像分类模型

图像分类模型包括模糊受限玻尔兹曼机、去冗余受限玻尔兹曼机和支持向量机，图像分类模型从图像中获取分类结果包括以下步骤：

(1)模糊受限玻尔兹曼机

模糊受限玻尔兹曼机的建立包括以下步骤：

S101：对受限玻尔兹曼机的内部参数进行模糊化

具体地，如图2所示，受限玻尔兹曼机的内部参数包括：连接权重a、可见层偏置b和隐藏层偏置w。利用三角对称函数对受限玻尔兹曼机的连接权重a、可见层偏置b和隐藏层偏置w模糊化为模糊化可见层偏置模糊化隐藏层偏置和模糊化连接权重其中参数模糊化的具体公式为：

式中，为隐藏层第i个节点与可见层第j个节点连接权重的左边界，为隐藏层第i个节点与可见层第j个节点连接权重的右边界，为隐藏层第i个节点与可见层第j个节点连接权重的中间值，为隐藏层第i个节点与可见层第j个节点的模糊化连接权重表达式，为模糊化连接权重；

同理，分别用可见层偏置a和隐藏层偏置b替换连接权重w得到模糊化可见层偏置和模糊化隐藏层偏置

S102：构建模糊化能量函数和自由能量概率模型

具体地，通过引入模糊化的能量函数自由度函数去模糊化能量函数自由度函数以及自由能量概率实现图像特征的提取，其具体公式为：

式中，为模糊化的能量函数，为待优化的参数，包括模糊受限玻尔兹曼机连接权重、可见层偏置和隐藏层偏置，x为模糊受限玻尔兹曼机的可见层，h为模糊受限玻尔兹曼机的隐藏层，m为模糊受限玻尔兹曼机可见层的层数，n为模糊受限玻尔兹曼机隐藏层的层数，h为隐藏层神经元状态向量，下标i为层中第i个节点，下标j为层中第j个节点，为自由度函数，F(x,W^L,a^L,b^L)和F(x,W^R,a^R,b^R)分别为自由度函数的左侧和右侧边界的取值，为去模糊化能量函数自由度函数，W^L为模糊受限玻尔兹曼机连接权重的上界，W^R为模糊受限玻尔兹曼机连接权重的下界，a^L为模糊受限玻尔兹曼机可见层偏置的上界，a^R为模糊受限玻尔兹曼机可见层偏置的下界，b^L为模糊受限玻尔兹曼机隐藏层偏置的上界，b^R为模糊受限玻尔兹曼机隐藏层偏置的下界，为自由能量概率，P(h_j＝1|x)为隐藏层第j个节点为1的概率，也即为模糊受限玻尔兹曼机提取的图像特征。

通过不断更新系统内部参数(a^L,a^R,b^L,b^R,W_L,W_R)，提高特征提取的精度。

(2)去冗余受限玻尔兹曼机

冗余特征的定义为：当输入不同的原始图像数据，经过模糊受限玻尔兹曼机特征提取后，两个或多个特征中具有相同或者极其相似的表达形式，则认为提取的特征中具有冗余的特征。去冗余图像特征的获取包括以下步骤：

S201：设置相似度阈值为95％，获取模糊受限玻尔兹曼机的隐藏层激活状态矩阵；

经过模糊受限玻尔兹曼机提取后，其隐藏层激活状态矩阵的表达式为：

式中，H为模糊受限玻尔兹曼机提取的图像特征矩阵，m为样本个数，n为经模糊受限玻尔兹曼机进行特征提取后的维数，Lⁱ为第i列的激活状态，L^j为第j列的激活状态，Lⁱ与L^j之间的相似度用来估计第i个特征与第j个特征之间的关系是否相似。

S202：对隐藏层激活状态矩阵的每个特征列分别进行相似度计算；

S203：基于相似度计算的结果，对超过相似度阈值的特征，进行去冗余，获取去冗余图像特征。本实施例中，当Lⁱ和L^j的相似度超过95％时，便认为提取的第i个特征与第j个特征之间具有冗余性。保留其中的任一具有代表性的特征，删除其他相似特征。当样本数据量越大，设置的相似度的阈值适当的降低，反之亦然。

步骤S203中，去冗余的表达式为：

式中，m为样本个数，为由可见层第p个节点决定的隐藏层第k个节点的激活状态，为由可见层第p个节点决定的隐藏层第l个节点的激活状态。

去冗余受限玻尔兹曼机的建立具体为：将受限玻尔兹曼机的能量函数替换为去冗余能量函数，并且将冗余特征剔除后，需要重新调整受限玻尔兹曼机连接权重和隐藏层的偏置，最终得到去冗余受限玻尔兹曼机。

去冗余能量函数的表达式为：

式中，c1为不含有冗余特征的隐藏层单元，c2为含有冗余特征的隐藏单元，c1∪c2＝n，下标r为层中第r个节点。

对受限玻尔兹曼机连接权重和隐藏层的偏置调整具体为：

式中， 为可见层第i个节点与隐藏层第q个节点连接权重的下界，为可见层第i个节点与隐藏层第q个节点连接权重的上界，为隐藏层第q个节点隐藏层偏置的下界。

本实施例中去冗余受限玻尔兹曼机的可见层即为模糊受限玻尔兹曼机的隐藏层。

2、对图像分类模型进行训练

本实施例的训练样本有60000个，采用图像分类模型对训练样本进行了20轮的训练迭代。如图4所示，为本实施例基于模糊和去冗余的受限玻尔兹曼机(F3RBM)进行特征提取获取的图像重构图。

本实施例在对图像分类模型进行训练的阶段还设有不加入支持向量机(SVM)进行图像重构的重构误差对比试验，具体包括：

如图5所示，为选取隐藏单元n＝50时，分别采用限制玻尔兹曼机(RBM)、模糊受限玻尔兹曼机(FRBM)和本实施例基于模糊和去冗余受限玻尔兹曼机(F3RBM)进行图像重构的重构误差对比图，其中，基于模糊和去冗余受限玻尔兹曼机(F3RBM)为本发明图像分类模型中去除支持向量机的模型；

如图6所示，为选取隐藏单元n＝100时，分别采用限制玻尔兹曼机(RBM)、模糊受限玻尔兹曼机(FRBM)和本实施例基于模糊和去冗余受限玻尔兹曼机(F3RBM)的重构误差对比图；

如图7所示，为选取隐藏单元n＝200时，分别采用限制玻尔兹曼机(RBM)、模糊受限玻尔兹曼机(FRBM)和本实施例基于模糊和去冗余受限玻尔兹曼机(F3RBM)的重构误差对比图；

如表1所示，显示了不同隐藏单元的模糊受限玻尔兹曼机(FRBM)和基于模糊和去冗余受限玻尔兹曼机(F3RBM)的学习速度。可以看出本发明基于模糊和去冗余受限玻尔兹曼机(F3RBM)在保证特征提取效果的同时，提高了学习速度。

表1

3、采用训练好的图像分类模型进行图像识别分类

本实施例的测试样本有10000个，将测试样本输入到本实施例训练好的图像分类模型中，进行图像分类，如图4所示为实施例基于模糊和去冗余的受限玻尔兹曼机(F3RBM)进行特征提取获取的图像重构图；

本实施例在采用训练好的图像分类模型进行图像识别分类阶段还设有对比实验，如表2所示，为不同隐藏层单元(即提取图像中的特征数量)在受限玻尔兹曼机与支持向量机相结合的算法(RBM-SVM)、基于模糊受限玻尔兹曼机与支持向量机相结合的算法(FRBM-SVM)和基于模糊和去冗余受限玻尔兹曼机与支持向量机相结合的算法(F3RBM-SVM)中的分类情况。

表2

可以看出，在不同隐藏层单元下，本发明基于模糊和去冗余受限玻尔兹曼机与支持向量机相结合的算法(F3RBM-SVM)相比于其他两种算法，进行图像分类的准确度更高，且降低了学习时间，提高了学习速度。

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (9)

1.一种基于模糊和去冗余受限玻尔兹曼机的图像分类方法，该方法采用预训练好的图像分类模型对图像进行处理，获取图像分类结果，其特征在于，所述图像分类模型包括模糊受限玻尔兹曼机、去冗余受限玻尔兹曼机和支持向量机，所述图像分类结果的获取包括以下步骤：

S1：模糊受限玻尔兹曼机对待分类图像进行特征提取，获取图像特征；

S2：对提取出的图像特征进行去冗余，获取去冗余图像特征；

S3：去冗余受限玻尔兹曼机对去冗余图像特征进行处理，获取降维图像特征；

S4：支持向量机对降维图像特征进行处理，获取图像分类结果。

2.根据权利要求1所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述模糊受限玻尔兹曼机的建立包括利用三角对称函数对受限玻尔兹曼机的连接权重、可见层偏置和隐藏层偏置进行模糊化，并且将受限玻尔兹曼机的能量函数和概率分布模型替换为模糊化能量函数和自由能量概率模型，最终得到模糊受限玻尔兹曼机。

3.根据权利要求2所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述利用三角对称函数对受限玻尔兹曼机的连接权重进行模糊化的表达式为：

式中，为隐藏层第i个节点与可见层第j个节点连接权重的左边界，为隐藏层第i个节点与可见层第j个节点连接权重的右边界，为隐藏层第i个节点与可见层第j个节点连接权重的中间值，为隐藏层第i个节点与可见层第j个节点的模糊化连接权重表达式，为模糊化连接权重；

同理，分别用可见层偏置a和隐藏层偏置b替换连接权重w得到模糊化可见层偏置和模糊化隐藏层偏置

4.根据权利要求2所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述模糊化能量函数和自由能量概率模型的表达式为：

式中，为模糊化的能量函数，为待优化的参数，x为模糊受限玻尔兹曼机的可见层，h为模糊受限玻尔兹曼机的隐藏层，m为模糊受限玻尔兹曼机可见层的层数，n为模糊受限玻尔兹曼机隐藏层的层数，h为隐藏层神经元状态向量，下标i为层中第i个节点，下标j为层中第j个节点，为自由度函数，F(x,W^L,a^L,b^L)和F(x,W^R,a^R,b^R)分别为自由度函数的左侧和右侧边界的取值，为去模糊化能量函数自由度函数，W^L为模糊受限玻尔兹曼机连接权重的上界，W^R为模糊受限玻尔兹曼机连接权重的下界，a^L为模糊受限玻尔兹曼机可见层偏置的上界，a^R为模糊受限玻尔兹曼机可见层偏置的下界，b^L为模糊受限玻尔兹曼机隐藏层偏置的上界，b^R为模糊受限玻尔兹曼机隐藏层偏置的下界，为自由能量概率，P(h_j＝1|x)为隐藏层第j个节点为1的概率，也即为模糊受限玻尔兹曼机提取的图像特征。

5.根据权利要求1所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述步骤S2中，去冗余图像特征的获取具体为：

S201：设置相似度阈值，获取模糊受限玻尔兹曼机的隐藏层激活状态矩阵；

S202：对隐藏层激活状态矩阵的每个特征列分别进行相似度计算；

S203：基于相似度计算的结果，对超过相似度阈值的特征列，进行去冗余，获取去冗余图像特征。

6.根据权利要求5所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述步骤S203中，去冗余的表达式为：

式中，m为样本个数，为由可见层第p个节点决定的隐藏层第k个节点的激活状态，为由可见层第p个节点决定的隐藏层第l个节点的激活状态。

7.根据权利要求1所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述去冗余受限玻尔兹曼机的建立具体为：将受限玻尔兹曼机的能量函数替换为去冗余能量函数，并且重新调整受限玻尔兹曼机连接权重和隐藏层的偏置，得到去冗余受限玻尔兹曼机。

8.根据权利要求7所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述去冗余能量函数的表达式为：

式中，c1为不含有冗余特征的隐藏层单元，c2为含有冗余特征的隐藏单元，c1∪c2＝n，下标r为层中第r个节点。

9.根据权利要求7所述的一种基于模糊和去冗余的受限玻尔兹曼机图像分类方法，其特征在于，所述对受限玻尔兹曼机连接权重和隐藏层的偏置调整具体为：

式中， 为可见层第i个节点与隐藏层第q个节点连接权重的下界，为可见层第i个节点与隐藏层第q个节点连接权重的上界，为隐藏层第q个节点隐藏层偏置的下界。