CN107133668A - 一种基于模糊玻尔兹曼机的忆阻神经网络训练方法 - Google Patents

Abstract

本发明公布了一种基于模糊玻尔兹曼机的忆阻神经网络训练方法，使用模糊化处理的方法，将受限玻尔兹曼机网络中连接的强度/权值由确定的数变成为模糊数，得到模糊权值；再将模糊权值代入受限玻尔兹曼机中，得到更适于描述忆阻器器件特性的模糊受限玻尔兹曼机网络；网络的训练过程为对模糊权值进行更新，由此得到训练好的忆阻神经网络。本发明克服了在利用忆阻器作为神经网络硬件中的突触单元时由于器件本身的涨落性带来的对网络精度及稳定性的影响，能够增强神经网络学习的鲁棒性，且具有普适性，可作为建立处理器件固有随机涨落性的神经形态系统的通用方法。

Description

一种基于模糊玻尔兹曼机的忆阻神经网络训练方法

技术领域

本发明属于信息技术领域，涉及神经网络计算技术，具体涉及一种基于模糊玻尔兹曼机的忆阻神经网络训练方法。

背景技术

神经形态计算为克服传统的冯诺依曼计算机架构在效率、速度等方面的限制提供了新的出路，并且提出了新的适用于大规模并行计算和高能量效率的计算架构。忆阻器，作为第四个无源电路元件，因其自身所具有的特性与神经网络中突触结构的相似性，被认为是神经形态系统中电子突触结构的完美候选。一方面，类脑计算算法目前很大程度上依赖于矢量的乘法来计算网络中神经元的输出，而高密度忆阻器交叉阵列自然地提供了以极低功率并行执行这种矢量乘法的能力。另一方面，忆阻器的电导作为突触的连接权重，能够在外加的电压脉冲信号下很容易地被调控，因此为基于忆阻器阵列的在线学习提供了巨大的可能性。这些理想的特性使得忆阻器非常适合于作为神经形态硬件中的电子突触，因此现在被广泛利用。

然而，大量实验研究已经表明，当忆阻器小型至纳米尺度以后，其作为电子突触的特性具有非常大的涨落性，这种涨落性源自在离子迁移以及导电细丝形成和熔断过程中的内在随机性，其物理机制决定了以上涨落性无法从根本上消除。而在利用忆阻器作为电子突触实现神经突触搭建忆阻神经网络的过程中，以玻尔兹曼机为例，对神经网络的训练所采取的依然是传统的软件上的更新模式，而没有考虑实际器件中存在的涨落，这种涨落性的存在将不可避免地恶化神经网络的性能。因此，在基于忆阻器的神经形态硬件实际应用中，如何从训练方法上克服器件中存在的涨落，增强基于忆阻器的神经网络的性能，进一步推动神经形态计算的发展，针对这些问题，现有技术尚无法解决。

发明内容

为了克服上述现有技术的不足，本发明提供一种基于模糊玻尔兹曼机的忆阻神经网络训练方法，能够解决当前利用忆阻器实现忆阻神经网络中电子突触存在随机涨落并影响神经网络性能的问题。

本发明的原理是：现有传统神经网络架构中，忆阻器电导与突触权值之间的类比只将忆阻器的电导状态视为一个能够任意访问的确定值，而实际上，忆阻器的电导状态是一个具有很大涨落性的不确定数。本发明通过实验验证，阻器阻值的涨落性服从正态分布，如图3所示。因此，只有将其处理为一个模糊数才更为合理和准确，将其模糊化处理之后可以提高网络对涨落的容忍性。图3所示也进一步验证了将权值进行模糊化处理的合理性。基于此思想，本发明构建了基于实验验证的忆阻器模型的模糊受限玻尔兹曼机网络，使用模糊化权重来适应作为突触的忆阻器电导的涨落性，即通过将权值模糊化来处理实际器件中的涨落性，从而增强神经网络学习过程的鲁棒性。比较模糊受限玻尔兹曼机网络和现有传统的受限玻尔兹曼机网络的性能，结果明确地证明了模糊受限玻尔兹曼机网络具备容忍忆阻器突触电导随机涨落的能力。因此，本发明所提出的模糊化网络可以作为建立处理器件固有的随机涨落性的神经形态系统的通用方法，极大地促进高智能、高能效计算系统的发展。

本发明提供的技术方案是：

一种基于模糊玻尔兹曼机的忆阻神经网络训练方法，构建基于实验验证的忆阻器模型的模糊受限玻尔兹曼机网络，使用模糊化权重的方法适应作为突触的忆阻器电导的涨落性，即通过将权值模糊化来处理器件中电导的涨落性，从而增强神经网络学习过程的鲁棒性；包括如下步骤：

1)对受限玻尔兹曼机进行模糊化处理，使受限玻尔兹曼机网络中连接的强度(权值)参数与实际器件中的电导涨落性同分布，得到模糊受限玻尔兹曼机网络的初始状态；设定模糊的权值由ω来表示，ω_L和ω_R分别表示模糊权值的下界和上界；其初始值由器件中实际测得的高阻态电导分布得到，ω为器件电导分布的均值，ω_L和ω_R分别对应电导分布的3σ下界和3σ上界。

受限玻尔兹曼机是由一个可见神经元层和一个隐神经元层组成的双层神经网络，并且可见神经元层之间没有相互连接，隐藏神经元层之间也没有互相连接，只有可见层和隐层神经元之间存在相互连接。这种相互连接对应着由忆阻器构成的电子突触。受限玻尔兹曼机网络通过从训练样本得到的隐层神经元状态执行马尔可夫链抽样过程，进而估计独立于数据的期望值，并行交替更新所有可见层神经元和隐层神经元的值。而在其硬件实现中，忆阻器扮演了可见层和隐层之间的连接者，也就是电子突触的角色，即可见层和隐层神经元之间通过忆阻器阵列中的相应单元器件(即可见神经元所在行与隐层神经元所在列的交叉点)来连接，连接的强度(权值)由相应器件的电导来决定。在传统的受限玻尔兹曼机算法中，作为连接前后两层神经元的突触的权值是一个实数。

而实际器件的电导涨落性服从正态分布，将代表电导的实参数处理为一个服从正态分布的模糊参数；即使得受限玻尔兹曼机网络中连接的强度(权值)参数与实际器件中的电导涨落性同分布。

2)将训练样本数据x输入可见神经元层(可见层)v，通过连接的突触得到隐神经元层

(隐层)的抽样概率P，如式1和式2：

P_L(h_L|v)＝σ(b+ω_Lν) (式1)

P_R(h_R|v)＝σ(b+ω_Rν) (式2)

式中，h,v分别表示隐层和可见层的初始状态，b为偏置，ω为突触的权值，下标的L和R分别表示计算的是他们的下界和上界。

3)根据步骤2)得到的概率值，抽样重构隐层的值h；

4)将隐层的值h视为输入，根据前后层连接的突触，通过式3、式4计算得到可见层的抽样概率P；

P_L(ν：'|h)＝σ(b+ω_Lh) (式3)

P_R(ν_R’|h)＝σ(b+ω_Rh) (式4)

其中，v’表示重构后可见层的值。

5)根据步骤4)得到的概率值，抽样重构可见层的值v’；

6)利用重构后的可见层的值v’，再次重构隐层，得到新的隐层的值h’，过程同步骤2)-3)；

7)通过式5-式6，计算模糊的权值改变量，更新权值ω_L＝ω_L+△ω_L，ω_R＝ω_R+△ω_R：

Δω_L＝ε(νP(h_L|ν)-ν'P(h'_L|ν')) (式5)

Δω_R＝ε(νP(h_R|ν)-ν'P(h'_R|ν')) (式6)

其中，ε为学习速率，根据实际学习的过程可以调整。

8)重复执行步骤2)-7)，直到完成所有训练样本数据。

之后，可通过输入测试数据计算网络的输出，再与期望的输出进行对比，由此评估网络的正确性。

值得注意的是，由于对权值参数进行了模糊化处理，因此上述步骤中，权值ω、ω_L和ω_R以及其改变量△ω_L、△ω_R均为模糊数。

与现有技术相比，本发明的有益效果是：

本发明提供一种基于模糊玻尔兹曼机的忆阻神经网络训练方法，构建基于实验验证的忆阻器模型的模糊受限玻尔兹曼机网络，使用模糊化权重的方法适应作为突触的忆阻器电导的涨落性，通过将权值模糊化来处理器件中电导的涨落性，从而增强神经网络学习过程的鲁棒性。本发明通过引入模糊性，克服了在利用忆阻器作为神经网络硬件中的突触单元时由于器件本身的涨落性带来的对网络精度以及稳定性的影响，并且这种方法具有普适性，可作为建立处理器件固有随机涨落性的神经形态系统的通用方法，广泛应用在各类硬件实现神经网络的算法之中。

附图说明

图1为受限玻尔兹曼机的原理示意图；

其中，左侧手写数字作为输入的训练样本，双层圆圈表示可见层，单层圆圈表示隐层，箭头表示可见层和隐层之间的连接，即突触，ω_ij表示突触的连接权值。

图2是本发明中权值模糊化处理方法的原理示意图；

其中，u和σ分别是根据实验测得的器件电导的涨落性的参数。

图3是本发明实施例中实验测得的器件的电导在低阻态(a)和高阻态(b)下的涨落性分布图，均服从正态分布。

图4是受限玻尔兹曼机和模糊受限玻尔兹曼机在有无器件涨落性的条件下的精度随训练过程的对比图；

其中，横坐标是训练周期；纵坐标表示错误率；方格线表示未考虑器件涨落性下的受限玻尔兹曼机精度随训练过程的变化；圆圈线表示考虑器件涨落性下的受限玻尔兹曼机精度随训练过程的变化；三角线表示考虑器件涨落性下的模糊受限玻尔兹曼机精度随训练过程的变化。

具体实施方式

下面结合附图，通过具体实施例进一步描述本发明，但实施例仅作为描述发明内容，不以任何方式限制本发明的范围。

现有的采用忆阻器作为神经形态硬件中突触的训练方法都难以从根本上克服器件自身的涨落性带来的影响，本发明提出了一种基于模糊玻尔兹曼机的忆阻神经网络训练方法，通过引入模糊性提高网络对器件涨落的容忍性。

以下采用Pt/TaOx/Ta型忆阻器进一步描述本发明的具体实施，其中，作为关键性的阻变层的TaOx的厚度约为12nm,器件的尺寸为2x2um²。在具体的训练过程中，参数的迭代是一个一直在进行的过程。

受限玻尔兹曼机的架构如图1所示，基于忆阻器实现此架构的主要核心在于：利用忆阻器充当可见层和隐层之间的电子突触，也就是实现图中ω_ij的功能(ω_ij表示突触的连接权值)。由于器件本身的涨落性，在传统受限玻尔兹曼机架构的基础上，本发明在对网络进行训练的过程中，不再将网络中的连接权值视为一个确定的实数，而视之为模糊数，即将连接的权值ω_ij视为一个模糊数，按照图2所示。具体的处理方法为：在算法中将原先代表电导的实参数处理为一个服从正态分布的模糊参数。模糊化处理的依据是在对实际器件测试中发现，器件的电导涨落性服从正态分布，对于本例所使用的Pt/TaOx/Ta型忆阻器而言，其电导分布如图3所示。本发明考虑实际器件的涨落性，引入模糊性，通过将权值模糊化来处理实际器件中的涨落性，从而增强神经网络学习过程的鲁棒性。模糊化处理的结果使得连接权值由原先确定的数变成了一个模糊数，将此模糊化处理后的权值带入原先的受限玻尔兹曼机中之后，得到了更加适于描述我们实际器件特性的模糊受限玻尔兹曼机。

此后对网络的训练过程实际是对这个模糊化的权值的更新，相当于每一个器件都带着自身的涨落性参与到整个网络的训练过程中。对器件的训练过程的工作流程为：

1)按照实际器件中测试的结果对权值参数进行模糊化处理，使其与实际器件中的电导涨落性同分布，得到网络的初始状态。模糊的权值由ω来表示，ω_L和ω_R分别表示模糊权值的下界和上界(以正态分布的3σ区间作为上下界)。，

2)将训练样本数据x输入可见层v，通过连接的突触得到隐层的抽样概率P。

P_L(h_L|v)＝σ(b+ω_Lν)

P_R(h_R|v)＝σ(b+ω_Rν)

3)根据2)得到的概率值抽样重构隐层的值h。

4)将隐层的值视为输入，通过前后层连接的突触得到可见层的抽样概率P。

P_L(ν_L|h)＝σ(b+ω_Lh)

P_R(ν_R|h)＝σ(b+ω_Rh)

5)根据4)得到的概率值抽样重构可见层的值v’。

6)利用重构后的可见层的模糊值再次重构隐层得到新的隐层的模糊值h’，过程同2)，3)。

7)计算模糊的权值改变量,更新权值，ε为学习速率，根据实际学习的过程可以调整。

Δω_L＝ε(νP(h_L|ν)-ν'P(h'_L|ν'))

Δω_R＝ε(νP(h_R|ν)-ν'P(h'_R|ν'))

8)重复2)-7)直到完成所有训练样本数据。

9)输入测试数据计算网络的输出，与期望的输出进行对比，评估网络的正确性。

值得注意的是，由于对权值参数进行了模糊化处理，因此上述步骤中，权值ω以及其改变量△ω均为模糊数。为了验证所提出的基于模糊玻尔兹曼机的忆阻神经网络训练方法的正确性和有效性，我们利用MNIST手写数字分类的基准测试对模糊受限玻尔兹曼机和受限玻尔兹曼机在有无涨落性的情况下的精确度作了测试，结果如图4所示，可以看到，在考虑实际器件中涨落性的情况下，传统训练方法下的受限玻尔兹曼机的精度有了较为明显的下降，而我们所提出的基于模糊玻尔兹曼机的忆阻神经网络训练方法却仍能和无涨落性影响时的受限玻尔兹曼机保持几乎同等的精度，这证实了我们所提出的忆阻神经网络训练方法的正确性和有效性。因此，本发明方法为高鲁棒性的硬件神经形态计算提供了新的技术方案。

以上实施例仅用以说明本发明的技术方案而非对其进行限制，本领域的普通技术人员可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明的精神和范围，本发明的保护范围应以权利要求所述为准。

Claims (5)

1.一种忆阻神经网络训练方法，构建基于忆阻器模型的模糊受限玻尔兹曼机网络，使用模糊化处理的方法，通过将权值模糊化来处理器件中电导的涨落性，从而增强神经网络训练过程的鲁棒性；所述模糊化处理的方法是将受限玻尔兹曼机网络中连接的强度/权值由确定的数变成为模糊数，得到模糊权值；再将所述模糊权值代入所述受限玻尔兹曼机中，得到更适于描述忆阻器器件特性的模糊受限玻尔兹曼机网络；网络的训练过程为对所述模糊权值进行更新，由此得到训练好的忆阻神经网络。

2.如权利要求1所述训练方法，其特征是，具体采用Pt/TaOx/Ta型忆阻器；所述忆阻器的阻变层TaOx的厚度约为12nm；所述忆阻器的器件尺寸为2x2um²。

3.如权利要求1所述训练方法，其特征是，通过输入测试数据到由所述训练方法训练得到的网络，计算得到网络的输出，再与期望的输出进行比较评估，由此评估网络的正确性。

4.如权利要求1所述训练方法，其特征是，所述训练过程具体包括如下步骤：

1)对受限玻尔兹曼机进行模糊化处理，使受限玻尔兹曼机网络中连接的强度/权值参数与实际器件中的电导涨落性同分布，得到模糊受限玻尔兹曼机网络的初始状态；设定模糊受限玻尔兹曼机网络的模糊权值表示为ω，模糊权值的下界和上界分别表示为ω_L和ω_R；由器件中实际测得的高阻态电导分布，得到所述模糊权值及其下界和上界的初始值；

2)将训练样本数据x输入所述模糊受限玻尔兹曼机网络的可见神经元层，利用连接的突触，通过式1和式2得到隐神经元层的抽样概率P：

P_L(h_L|v)＝σ(b+ω_Lν) (式1)

P_R(h_R|v)＝σ(b+ω_Rν) (式2)

式中，h,v分别表示隐神经元层和可见神经元层的初始状态；b为偏置；ω为突触的模糊权值；下标L和R分别表示计算的是相应参数的下界和上界；

3)根据步骤2)得到的抽样概率值，抽样重构隐神经元层的值h；

4)将隐神经元层的值h为输入，根据前后层连接的突触，通过式3-式4计算得到可见神经元层的抽样概率P：

P_L(ν_：'|h)＝σ(b+ω_Lh) (式3)

P_R(ν_R’|h)＝σ(b+ω_Rh) (式4)

其中，v’表示重构后可见神经元层的值；

5)根据步骤4)得到的可见神经元层的抽样概率值，抽样重构可见神经元层的值v’；

6)利用重构后的可见神经元层的值v’，执行步骤2)-3)再次重构隐神经元层，得到隐神经元层的新的值h’；

7)通过式5-式6计算模糊权值的改变量：

Δω_L＝ε(νP(h_L|ν)-ν'P(h'_L|ν')) (式5)

Δω_R＝ε(νP(h_R|ν)-ν'P(h'_R|ν')) (式6)

其中，ε为学习速率；根据模糊权值的改变量，更新模糊权值为ω_L＝ω_L+△ω_L，ω_R＝ω_R+△ω_R；

8)重复执行步骤2)-7)，直到完成所有训练样本数据。

5.如权利要求4所述训练方法，其特征是，步骤1)中，所述模糊受限玻尔兹曼机网络的初始值中，模糊权值ω为器件电导分布的均值，模糊权值的下界和上界ω_L和ω_R的初始值分别为电导分布的3σ下界和3σ上界。