CN111079837A - 一种用于二维灰度图像检测识别分类的方法 - Google Patents

Abstract

本发明公开了一种用于二维灰度图像检测识别分类的方法，其特征在于，包括如下步骤：1）获得二维灰度图像；2）构建二维卷积块；3）特征提取；4）获得特征图；5）提取时间信息；6）保留和遗弃；7）选择性屏蔽节点；8）得到最终分类结果。这种方法基于二维卷积神经网络和长短期记忆网络结合的模型来对图像检测识别分类，能提高分类的准确率。

Description

一种用于二维灰度图像检测识别分类的方法

技术领域

本发明涉及人工智能深度学习领域，特别涉及基于二维卷积神经网络和长短期记忆网络相结合的模型用于二维灰度图像检测识别分类的方法，具体是一种用于二维灰度图像检测识别分类的方法。

背景技术

人工智能是一门专门研究计算机如何模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能的学科。对于图像信息的检测识别分类一直是其中研究的热门与重点。在许多领域中，传统的人工分类既费时又费力，有时可能在耗费大量成本后也没有能够得到理想的分类结果。使用基于深度学习的方法实现图像的自动化分类能够在很大程度上节省人力物力并得到很高的分类准确率。二维卷积神经网络和长短期记忆网络结合的模型，其输入数据是二维的灰度图像，能够对使用的二维灰度图像最大程度的保留原始数据信息，并且，因为长短期记忆网络模型的输入不仅受此时刻输入的影响，还受到上一时刻输出的影响，在时间序列上对不同时刻节点关联，保存了网络前后的状态信息并避免了长期依赖性的问题。这些优势都使得二维卷积神经网络和长短期记忆网络结合的模型在分类的性能的得到了大大的提高，能够获得比较高的分类准确率。

发明内容

本发明的目的是针对现有技术的不足，而提供一种用于二维灰度图像检测识别分类的方法。这种方法基于二维卷积神经网络和长短期记忆网络结合的模型来对图像检测识别分类，能提高分类的准确率。

实现本发明目的的技术方案是：

一种用于二维灰度图像检测识别分类的方法，与现有技术不同处在于，包括如下步骤：

1)获得二维灰度图像：获取二维灰度图像；

2)构建二维卷积块：在每两层二维卷积神经网络后加入ELU激活函数和批量标准化层，两次迭代之后加入二维最大池化层，组成二维卷积块；

3)特征提取：将步骤1)得到的二维灰度图像输入到二维卷积块中进行初步的特征提取；

4)获得特征图：二维最大池化层在卷积层之后进行特征映射，提取并获得特征图；

5)提取时间信息：将步骤4)得到的特征图进行重塑并分解为顺序时间分量输送到长短期记忆网络层提取时间信息；

6)保留和遗弃：由长短期记忆网络的门控状态来控制内部数据信息的传输状态，在对步骤5)中长短期记忆网络层提取的重要时间信息做留存并向后传播的同时选择性遗弃长短期记忆网络层中所提取的不相关信息；

7)选择性屏蔽节点：长短期记忆网络层之后的稠密层将步骤6)中所有长短期记忆网络层提取的相关特征的节点连接，再由稠密层之后的Dropout层选择性屏蔽节点以避免过拟合现象；

8)得到最终分类结果。

步骤2)中所述的二维卷积块构建过程为：每一个二维卷积神经网络采用高度和宽度为(3，3)的二维卷积窗口，高度和宽度为(2，2)的卷积步幅，用以为所有空间尺寸指定相同的值，二维卷积神经网络的初始化值为Glorot正态分布初始化器，卷积层的表达如公式(1)所示：

公式(1)中

表示第l卷积层的第j个特征图的输出，f()表示卷积运算，即卷积核在每一层做卷积运算，

表示卷积层中的卷积核，

表示卷积运算中的偏置参数，

ELU激活函数的表达如公式(2)所示：

公式(2)中ELU(x)表示ELU激活函数，x表示自变量，α表示一个可调整的参数，它控制负值部分在什么时刻达到饱和，e^x表示一个指数函数，批量标准化层的公式表达如下：

式中x⁽ⁱ⁾是标准化输出，μ和σ分别表示同一批次的均值和方差，∈是一个常数。

步骤3)中所述的特征提取和步骤4)中所述的获得特征图的过程为：

二维最大池化层的表示如下所示：

式中，H_out和W_out表示高度和宽度的输出，f()表示最大池化运算，H_in和W_in表示高度和宽度的输入，p[0]和p[1]表示输入的每一条边补充0或1的层数，d[]表示一个控制窗口中元素步幅的参数，k[]表示最大池化层的窗口大小，s[]表示最大池化层的窗口移动的步长。

步骤5)中所述的提取时间信息和步骤6)中所述的保留和遗弃过程为：

采用重塑操作，将提取的特征信息重塑为长短期记忆网络输入时所需要的顺序时间分量的大小，进而在长短期记忆网络的内部门控单元中进行数据信息传播，长短期记忆网络内部包含有三个门控单元，分别是输入门、遗忘门和输出门，通过这些门控单元来进行保留和遗忘信息，具体公式如下：

I_t＝σ(W_i[h_t-1,x_t]+b_i) (8)，

F_t＝σ(W_f[h_t-1,x_t]+b_f) (9)，

O_t＝σ(W_o[h_t-1,x_t]+b_o) (12)，

式中I_t表示输入门的运算；F_t和

表示遗忘门的运算；C_t表示要输出的保存历史信息的循环单元的运算；O_t表示输出门的运算；W_i、W_f、W_C和W_o均表示权重矩阵；h_t-1表示前一时刻隐层状态；x_t表示当前时刻输入；b_i、b_f、b_C和b_o均表示偏置参数。

步骤7)中所述的选择性屏蔽节点过程为：

通过长短期记忆网络层之后，所有学习的特征由长短期记忆网络层后的稠密层的每一个节点相连接，进而完成后续的分类任务，而紧接着的Dropout层则是为了将稠密层中全部相连的节点选择性的屏蔽一部分，进行随机性的连接学习，这样能够使得模型在学习的过程中避免过拟合情况的出现，Dropout层计算公式为公式(13)所示：

式中

表示概率向量；Bernoulli(p)表示Bernoulli函数，该函数是一种离散分布，表示成功或者失败的两个可能结果。

步骤8)中所述的得到最终分类结果的过程为：

在最后的长短期记忆网络层之后的稠密层中，采用softmax函数作为激活函数，进行最后的分类，分类的类别数量由最开始输入的数据参数所决定，在softmax用于多分类的过程中，将多个神经元的输出映射到(0,1)区间内，通过映射的概率大小来确定分类的最终结果，如公式(14)所示：

式中，eⁱ表示将实数输出映射到零到正无穷，∑_j e^j表示将所有结果相加，进行归一化。

本技术方案中：

1.针对模型所需的输入数据要求，采用二维灰度图像作为输入数据；

2.针对高准确率的分类模型要求，采用二维卷积神经网络和长短期记忆网络相结合的方法来构成深度学习分类模型；

3.针对最后分类的结果，采用Dropout层来避免过拟合的问题，并使用softmax激活函数得到最终的分类结果。

本技术方案带来的有益效果是：基于二维卷积神经网络和长短期记忆网络相结合的模型用于二维灰度图像分类的方法能够最大程度的保留原始数据的全部信息，通过自动化的检测识别分类减轻人工分类的工作量，能够大大的降低人力和物力。

这种方法基于二维卷积神经网络和长短期记忆网络结合的模型来对图像检测识别分类，能提高分类的准确率。

附图说明

图1为实施例的方法流程示意图；

图2为实施例中二维卷积神经网络和长短期记忆网络结合的模型框架示意图；

图3为实施例中二维卷积神经网络和长短期记忆网络结合的模型训练后的模型准确率对比示意图。

具体实施方式

下面结合附图和实施例对本发明的内容作进一步的阐述，但不是对本发明的限定。

实施例：

参照图1、图2，一种用于二维灰度图像检测识别分类的方法，包括如下步骤：

1)获得二维灰度图像：获取二维灰度图像；

2)构建二维卷积块：在每两层二维卷积神经网络后加入ELU激活函数和批量标准化层，两次迭代之后加入二维最大池化层，组成二维卷积块；

3)特征提取：将步骤1)得到的二维灰度图像输入到二维卷积块中进行初步的特征提取；

4)获得特征图：二维最大池化层在卷积层之后进行特征映射，提取并获得特征图；

5)提取时间信息：将步骤4)得到的特征图进行重塑并分解为顺序时间分量输送到长短期记忆网络层提取时间信息；

6)保留和遗弃：由长短期记忆网络的门控状态来控制内部数据信息的传输状态，在对步骤5)中长短期记忆网络层提取的重要时间信息做留存并向后传播的同时选择性遗弃长短期记忆网络层中所提取的不相关信息；

7)选择性屏蔽节点：长短期记忆网络层之后的稠密层将步骤6)中所有长短期记忆网络层提取的相关特征的节点连接，再由稠密层之后的Dropout层选择性屏蔽节点以避免过拟合现象；

8)得到最终分类结果。

步骤2)中所述的二维卷积块构建过程为：每一个二维卷积神经网络采用高度和宽度为(3，3)的二维卷积窗口，高度和宽度为(2，2)的卷积步幅，用以为所有空间尺寸指定相同的值，二维卷积神经网络的初始化值为Glorot正态分布初始化器，卷积层的表达如公式(1)所示：

公式(1)中

表示第l卷积层的第j个特征图的输出，f()表示卷积运算，即卷积核在每一层做卷积运算，

表示卷积层中的卷积核，

表示卷积运算中的偏置参数，

ELU激活函数的表达如公式(2)所示：

公式(2)中ELU(x)表示ELU激活函数，x表示自变量，α表示一个可调整的参数，它控制负值部分在什么时刻达到饱和，e^x表示一个指数函数，批量标准化层的公式表达如下：

式中x⁽ⁱ⁾是标准化输出，μ和σ分别表示同一批次的均值和方差，∈是一个常数。

步骤3)中所述的特征提取和步骤4)中所述的获得特征图的过程为：

二维最大池化层的表示如下所示：

式中，H_out和W_out表示高度和宽度的输出，f()表示最大池化运算，H_in和W_in表示高度和宽度的输入，p[0]和p[1]表示输入的每一条边补充0或1的层数，d[]表示一个控制窗口中元素步幅的参数，k[]表示最大池化层的窗口大小，s[]表示最大池化层的窗口移动的步长。

步骤5)中所述的提取时间信息和步骤6)中所述的保留和遗弃过程为：

采用重塑操作，将提取的特征信息重塑为长短期记忆网络输入时所需要的顺序时间分量的大小，进而在长短期记忆网络的内部门控单元中进行数据信息传播，长短期记忆网络内部包含有三个门控单元，分别是输入门、遗忘门和输出门，通过这些门控单元来进行保留和遗忘信息，具体公式如下：

I_t＝σ(W_i[h_t-1,x_t]+b_i) (8)，

F_t＝σ(W_f[h_t-1,x_t]+b_f) (9)，

O_t＝σ(W_o[h_t-1,x_t]+b_o) (12)，

式中I_t表示输入门的运算；F_t和

表示遗忘门的运算；C_t表示要输出的保存历史信息的循环单元的运算；O_t表示输出门的运算；W_i、W_f、W_C和W_o均表示权重矩阵；h_t-1表示前一时刻隐层状态；x_t表示当前时刻输入；b_i、b_f、b_C和b_o均表示偏置参数。

步骤7)中所述的选择性屏蔽节点过程为：

通过长短期记忆网络层之后，所有学习的特征由长短期记忆网络层之后的稠密层的每一个节点相连接，进而完成后续的分类任务，而紧接着的Dropout层则是为了将稠密层中全部相连的节点选择性的屏蔽一部分，进行随机性的连接学习，这样能够使得模型在学习的过程中避免过拟合情况的出现，Dropout层计算公式为公式(13)所示：

式中

表示概率向量；Bernoulli(p)表示Bernoulli函数，该函数是一种离散分布，表示成功或者失败的两个可能结果。

步骤8)中所述的得到最终分类结果的过程为：

在最后的长短期记忆网络层之后的稠密层中，采用softmax函数作为激活函数，进行最后的分类，分类的类别数量由最开始输入的数据参数所决定，在softmax用于多分类的过程中，将多个神经元的输出映射到(0,1)区间内，通过映射的概率大小来确定分类的最终结果，如公式(14)所示：

式中，eⁱ表示将实数输出映射到零到正无穷，∑_j e^j表示将所有结果相加，进行归一化。

通过实验验证，如图3所示，本例方法进行分类的准确率有明显的提升，能够得到较好的二维灰度图像分类的准确率。

Claims (6)

1.一种用于二维灰度图像检测识别分类的方法，其特征在于，包括如下步骤：

1)获得二维灰度图像：获取二维灰度图像；

2)构建二维卷积块：在每两层二维卷积神经网络后加入ELU激活函数和批量标准化层，两次迭代之后加入二维最大池化层，组成二维卷积块；

3)特征提取：将步骤1)得到的二维灰度图像输入到二维卷积块中进行初步的特征提取；

4)获得特征图：二维最大池化层在卷积层之后进行特征映射，提取并获得特征图；

5)提取时间信息：将步骤4)得到的特征图进行重塑并分解为顺序时间分量输送到长短期记忆网络层提取时间信息；

6)保留和遗弃：由长短期记忆网络的门控状态来控制内部数据信息的传输状态，在对步骤5)中长短期记忆网络层提取的重要时间信息做留存并向后传播的同时选择性遗弃长短期记忆网络层中所提取的不相关信息；

7)选择性屏蔽节点：长短期记忆网络层之后的稠密层将步骤6)中所有长短期记忆网络层提取的相关特征的节点连接，再由稠密层之后的Dropout层选择性屏蔽节点以避免过拟合现象；

8)得到最终分类结果。

2.根据权利要求1所述的用于二维灰度图像检测识别分类的方法，其特征在于，步骤2)中所述的二维卷积块构建过程为：每一个二维卷积神经网络采用高度和宽度为(3，3)的二维卷积窗口，高度和宽度为(2，2)的卷积步幅，用以为所有空间尺寸指定相同的值，二维卷积神经网络的初始化值为Glorot正态分布初始化器，卷积层的表达如公式(1)所示：

公式(1)中

表示第l卷积层的第j个特征图的输出，f()表示卷积运算，即卷积核在每一层做卷积运算，

表示卷积层中的卷积核，

表示卷积运算中的偏置参数，

ELU激活函数的表达如公式(2)所示：

公式(2)中ELU(x)表示ELU激活函数，x表示自变量，α表示一个可调整的参数，它控制负值部分在什么时刻达到饱和，e^x表示一个指数函数，批量标准化层的公式表达如下：

式中x⁽ⁱ⁾是标准化输出，μ和σ分别表示同一批次的均值和方差，∈是一个常数。

3.根据权利要求1所述的用于二维灰度图像检测识别分类的方法，其特征在于，步骤3)中所述的特征提取和步骤4)中所述的获得特征图的过程为：

二维最大池化层的表示如下所示：

式中，H_out和W_out表示高度和宽度的输出，f()表示最大池化运算，H_in和W_in表示高度和宽度的输入，p[0]和p[1]表示输入的每一条边补充0或1的层数，d[]表示一个控制窗口中元素步幅的参数，k[]表示最大池化层的窗口大小，s[]表示最大池化层的窗口移动的步长。

4.根据权利要求1所述的用于二维灰度图像检测识别分类的方法，其特征在于，步骤5)中所述的提取时间信息和步骤6)中所述的保留和遗弃过程为：

采用重塑操作，将提取的特征信息重塑为长短期记忆网络输入时所需要的顺序时间分量的大小，进而在长短期记忆网络的内部门控单元中进行数据信息传播，长短期记忆网络内部包含有三个门控单元，分别是输入门、遗忘门和输出门，通过这些门控单元来进行保留和遗忘信息，具体公式如下：

I_t＝σ(W_i[h_t-1,x_t]+b_i)(8)，

F_t＝σ(W_f[h_t-1,x_t]+b_f)(9)，

O_t＝σ(W_o[h_t-1,x_t]+b_o)(12)，

式中I_t表示输入门的运算；F_t和

表示遗忘门的运算；C_t表示要输出的保存历史信息的循环单元的运算；O_t表示输出门的运算；W_i、W_f、W_C和W_o均表示权重矩阵；h_t-1表示前一时刻隐层状态；x_t表示当前时刻输入；b_i、b_f、b_C和b_o均表示偏置参数。

5.根据权利要求1所述的用于二维灰度图像检测识别分类的方法，其特征在于，步骤7)中所述的选择性屏蔽节点过程为：

Dropout层计算公式为公式(13)所示：

式中

表示概率向量；Bernoulli(p)表示Bernoulli函数，表示成功或者失败的两个可能结果。

6.根据权利要求1所述的用于二维灰度图像检测识别分类的方法，其特征在于，步骤8)中所述的得到最终分类结果的过程为：

在最后长短期记忆网络的稠密层中，采用softmax函数作为激活函数，将多个神经元的输出映射到(0,1)区间内，通过映射的概率大小来确定分类的最终结果，如公式(14)所示：

式中，eⁱ表示将实数输出映射到零到正无穷，∑_je^j表示将所有结果相加，进行归一化。

Images