CN113516172A

CN113516172A - 基于随机计算贝叶斯神经网络误差注入的图像分类方法

Info

Publication number: CN113516172A
Application number: CN202110545001.4A
Authority: CN
Inventors: 姜书艳; 孙召曦; 许怡楠; 黄乐天
Original assignee: University of Electronic Science and Technology of China
Current assignee: University of Electronic Science and Technology of China
Priority date: 2021-05-19
Filing date: 2021-05-19
Publication date: 2021-10-19
Anticipated expiration: 2041-05-19
Also published as: CN113516172B

Abstract

本发明公开了一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，包括以下步骤：S1：对输入数据、权重参数和偏置参数进行缩放；S2：通过前向转换电路将缩放后的浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式；S3：搭建贝叶斯神经网络的随机计算神经元结构；S4：计算各个神经元节点的缩放比例，进行前向推理；S5：将输出位流转换为浮点形式，得到单次推理的输出结果；S6：重复步骤S4‑S5，取均值，并作为分类结果。本发明所提供的基于贝叶斯神经网络误差注入的图像分类方法，利用随机计算固有的噪声特性，无需引入额外的误差注入电路，实现了贝叶斯神经网络推理过程中计算与误差注入的统一。

Description

基于随机计算贝叶斯神经网络误差注入的图像分类方法

技术领域

本发明属于图像处理技术领域，具体涉及一种基于随机计算贝叶斯神经网络误差注入的图像分类方法。

背景技术

贝叶斯神经网络(BNNs)的各个权值与阈值都以随机分布的形式来表示，是一个服从于后验随机分布的随机数，即在神经网络模型中引入贝叶斯推理算法。其算法本质在于：以不同的随机采样参数重复进行前向传播，以确定最终输出。考虑硬件层面的实现，需要额外的误差生成电路来注入误差，以满足符合网络每次计算随机性的预测分布。这对于传统的CMOS电路而言是一个巨大的挑战。

针对贝叶斯神经网络硬件实现，传统的误差注入方法为：设计高斯随机数发生器，产生符合ε～N(0,1)的单位随机变量，对其进行平移和缩放，从而得到各个权值的随机分布。该方法中的局限性在于：高斯随机数发生器引入了大量资源开销；另一种新颖的误差注入方法为：利用模拟电阻式随机存取存储器(RRAM)的固有随机噪声特性，来实现贝叶斯神经网络所需的随机分布。该方法的局限性在于：RRAM是一种新型存储器件，相对于传统的CMOS器件，并未得到广泛的应用。

发明内容

本发明的目的是为了解决图像分类的问题，提出了一种基于随机计算贝叶斯神经网络误差注入的图像分类方法。

本发明的技术方案是：一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，包括以下步骤：

S1：采集图像数据集作为贝叶斯神经网络的输入数据，采集贝叶斯神经网络训练所得的权重参数和偏置参数，对贝叶斯神经网络浮点形式的输入数据、权重参数和偏置参数进行缩放；

S2：利用线性反馈移位寄存器和比较器构成前向转换电路，并通过前向转换电路分别将缩放后的浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流；

S3：根据输入数据位流、权重参数位流和偏置参数位流，搭建贝叶斯神经网络的随机计算神经元结构；

S4：计算贝叶斯神经网络中各个神经元节点的缩放比例，将贝叶斯神经网络同一层中各个神经元节点的最大缩放比例作为该层的公共缩放比例参数，并以随机计算的方式进行贝叶斯神经网络的前向推理；

S5：利用计数器构成的后向转换电路将前向推理得到的输出位流转换为浮点形式，并按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次推理的输出结果；

S6：重复步骤S4-S5，将输出结果取均值，并作为贝叶斯神经网络对图像数据集的分类结果，完成图像分类。

进一步地，步骤S1中，贝叶斯神经网络的权重和偏置均为训练所得的网络参数，符合均值为μ且方差为σ的高斯分布，将权重的均值作为权重参数w，将偏置的均值作为偏置参数b；

步骤S1中，对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行缩放的具体方法为：利用对应的缩放因子s分别对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行按比例缩放，将其限制于随机计算的表示范围[-1,1]内，得到缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f。

进一步地，缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f的计算公式分别为：

缩放因子s的计算公式为：

其中，s_x表示输入数据x的缩放因子，s_w表示权重参数w的缩放因子，s_b表示偏置参数b的缩放因子，m表示数据范围的左界限，n表示数据范围的右界限，log(·)表示对数运算。

进一步地，步骤S3中，搭建贝叶斯神经网络的随机计算神经元的具体方法为：

S31：将异或门电路和多路复用器作为随机计算神经元结构的内积运算单元，利用异或门电路对输入数据位流x′和权重参数位流w′进行乘积运算，并利用多路复用器对乘积运算结果进行累加，其输出的累加结果为按内积运算单元的缩放因子s_dot缩小的位流；

S32：将多路复用器作为随机计算神经元结构的偏置加法单元，计算内积运算单元的输出位流y和偏置参数位流b'的共同缩放因子s′，以共同缩放因子s′重新缩放内积运算单元的输出位流y和偏置参数位流b'，并对其进行加法运算，得到偏置加法单元的输出位流和缩放因子s_bias；

S33：基于线性有限状态机确定激活函数，将偏置加法单元的输出位流输入至激活函数，得到神经元结构的缩放比例s_z和输出位流z，完成随机计算神经元结构的搭建。

进一步地，步骤S31中，内积运算单元的缩放因子s_dot的计算公式为：

s_dot＝N·s_w·s_x

其中，N表示内积运算单元的输入个数，s_w表示权重参数w的缩放因子，s_x表示输入数据x的缩放因子。

进一步地，步骤S32中，偏置加法单元的缩放因子s_bias的确定方法为：将内积运算单元的缩放因子s_dot和偏置参数b的缩放因子s_b的最大值作为共同缩放因子s′，共同缩放因子s′的计算公式为：

s′＝max{s_dot,s_b}

若s_dot>s_b，则计算偏置参数位流b'的重缩放因子s_b′，并对偏置参数位流b'进行重新缩放；若s_b>s_dot，则计算内积运算单元的重缩放因子s_dot′，并对内积运算单元输出位流y进行重新缩放，偏置参数位流b'的重缩放因子s_b′和内积运算单元的重缩放因子s_dot′的计算公式分别为：

偏置加法单元对重新缩放后的内积运算单元的输出位流y和偏置参数位流b'进行加法运算，因而偏置加法单元的缩放因子s_bias的计算公式为：

s_bias＝2·s′。

进一步地，步骤S33中，由于激活函数不影响随机位流的缩放因子，神经元结构的缩放比例s_z等于偏置加法单元的缩放因子s_bias，神经元结构的缩放比例s_z的计算公式为：

s_z＝s_bias。

本发明的有益效果是：本发明所提供的基于误差注入的图像分类方法，在贝叶斯神经网络的硬件实现中，利用随机计算固有的噪声特性，无需引入额外的误差注入电路，实现了贝叶斯神经网络推理过程中计算与误差注入的统一。由于随机计算能够以简单的门电路实现逻辑运算功能，因此在基于随机计算的贝叶斯神经网络保持与原有网络近似预测效果的同时，能够达到降低资源占用与硬件开销的效果，实现良好的图像分类效果。

附图说明

图1为图像分类方法的流程图；

图2为随机计算的前后向转换电路图；

图3为本发明中基于随机计算的贝叶斯神经网络的神经元内积运算结构图；

图4为基于随机计算的贝叶斯神经网络与浮点网络的分类准确率对比图。

具体实施方式

下面结合附图对本发明的实施例作进一步的说明。

如图1所示，本发明提供了一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，包括以下步骤：

在本发明实施例中，步骤S1中，贝叶斯神经网络的权重和偏置均为训练所得的网络参数，符合均值为μ且方差为σ的高斯分布，将权重的均值作为权重参数w，将偏置的均值作为偏置参数b；

步骤S1中，贝叶斯神经网络的权重和偏置均为训练所得的网络参数，符合均值为μ且方差为σ的高斯分布，将权重的均值作为权重参数w，将偏置的均值作为偏置参数b；

在本发明实施例中，缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f的计算公式分别为：

缩放因子s的计算公式为：

在本发明实施例中，如图2所示，为本发明步骤S2中使用的随机计算的前、后向转换电路，其中，clk为时钟信号，en为使能信号。

在本发明实施例中，如图3所示，步骤S3中，搭建贝叶斯神经网络的随机计算神经元的具体方法为：

在本发明实施例中，步骤S31中，内积运算单元的缩放因子s_dot的计算公式为：

s_dot＝N·s_w·s_x

在本发明实施例中，步骤S32中，偏置加法单元的缩放因子s_bias的确定方法为：将内积运算单元的缩放因子s_dot和偏置参数b的缩放因子s_b的最大值作为共同缩放因子s′，共同缩放因子s′的计算公式为：

s'＝max{s_dot,s_b}

若s_dot>s_b，sdot则计算偏置参数位流b'的重缩放因子s_b′，并对偏置参数位流b'进行重新缩放；若s_b>s_dot，则计算内积运算单元的重缩放因子s_dot′，并对内积运算单元输出位流y进行重新缩放，偏置参数位流b'的重缩放因子s_b′和内积运算单元的重缩放因子s_dot′的计算公式分别为：

s_bias＝2·s′。

在本发明实施例中，步骤S33中，由于激活函数不影响随机位流的缩放因子，神经元结构的缩放比例s_z等于偏置加法单元的缩放因子s_bias，神经元结构的缩放比例s_z的计算公式为：

s_z＝s_bias。

在本发明实施例中，以对MNIST数据集进行图像分类的贝叶斯神经网络为例：

首先，确定贝叶斯神经网络的网络结构。设置网络的输入神经元个数为手写体数字图像的像素数据28*28，输出神经元个数为对输入图片内容的判断分类结果10，隐含层神经元个数为500。在此基础上，进行基于随机计算的贝叶斯神经网络图像分类任务。

(1)对贝叶斯神经网络的输入数据、权重参数和偏置参数进行按比例缩放。

基于训练好的贝叶斯神经网络，采集网络的输入数据x、采集权重的均值作为权重参数w，采集偏置的均值作为偏置参数b。确定通用的缩放因子s，对浮点形式的输入数据x、权重参数w，偏置参数b进行按比例缩放，将其限制于[-1,1]之内。缩放因子s表示为：

其中，m表示数据范围的左界限，n表示数据范围的右界限，log(·)表示对数运算，m≥0，n≥0，。

缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f分别表示为：

其中，s_x表示输入数据x的缩放因子，s_w表示权重参数w的缩放因子，s_b表示偏置参数b的缩放因子。

(2)设计贝叶斯神经网络的前向转换单元。

设置拟生成的随机位流长度分别为2ⁿ(n∈N)，利用随机数发生器生成随机数r∈[-1,1]，将其与输入数据x_f进行比较，若r>x_f，则生成数字“1”，反之生成数字“0”，由此将浮点输入数据转换为不相关的随机位流。类似地，将浮点权重参数w_f和浮点偏置参数b_f转换为随机位流的形式。仿真比较上述不同随机位流长度用于数据表示的精度，选定合适的位流长度进行随机计算网络推理。

(3)搭建贝叶斯神经网络的随机计算神经元结构。

神经元的内积运算单元由异或门与多路复用器构成。利用异或门电路对输入数据位流x′和权重参数位流w′进行乘积运算，利用多路复用器累加乘积运算结果，内积运算单元的输出y为按内积运算单元的缩放因子s_dot缩小的位流。内积单元的缩放因子s_dot的计算公式为：

s_dot＝N·s_w·s_x

神经元的偏置加法单元由多路复用器构成。由于当且仅当输入数据按相同比例缩减时，基于多路复用器的加法操作才有意义。因此需要对内积运算单元的输出位流y与偏置参数位流b'进行重新缩放。计算内积运算单元缩放因子s_dot和偏置参数b的缩放因子s_b的最大值，将其作为偏置加法单元的缩放因子s′，计算公式为：

s′＝max{s_dot,s_b}；

其中，s_dot表示内积运算单元的缩放因子，s_b表示偏置参数b的缩放因子。

若s_dot>s_b，则计算偏置参数位流的重缩放因子s_b′，并对b'进行重新缩放；若s_b>s_dot，则计算内积运算单元的重缩放因子s_dot′，并对y进行重新缩放。偏置参数位流b'的重缩放因子s_b′和内积运算单元的重缩放因子s_dot′的计算公式分别为：

偏置加法单元对重新缩放后的内积运算单元的输出位流y和偏置参数位流b'进行加法运算，其缩放因子s_bias的计算公式为：

s_bias＝2·s′

神经元的激活函数由线性有限状态机(FSM)设计实现，由于激活函数不影响随机位流的缩放系数。因此神经元结构的缩放比例s_z等于偏置加法单元的缩放因子，神经元结构的缩放比例s_z的计算公式为：

s_z＝s_bias

(4)进行基于随机计算的贝叶斯神经网络前向推理。

计算贝叶斯神经网络中各个神经元节点的缩放比例，将贝叶斯神经网络同一层中各个神经元节点的最大缩放比例作为该层的公共缩放比例参数，将其用于整个网络中的数据传播，以随机计算的方式进行贝叶斯神经网络的前向推理。

(5)设计贝叶斯神经网络的后向转换单元。

以计数器作为后向转换电路，通过计数器统计输出随机位流中“1”的个数，将“1”的个数除以随机位流长度，计算其浮点数值。按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次推理的输出结果。

(6)重复贝叶斯神经网络的前向推理，完成图像分类。

重复进行多次上述基于随机计算的贝叶斯神经网络前向推理，将输出结果取均值，得到图像分类结果。如若网络分类效果符合预期，则表明随机计算各个环节注入的误差符合贝叶斯神经网络误差的预定分布；如若网络分类效果未达到预期，则根据网络对MNIST数据集的分类准确率结果，基于已确定的缩放比例因子，对神经元运算中包括内积运算单元、偏置加法单元在内的按比例加法电路的缩放因子逐步进行微调，以改变数据缩放注入的误差水平。

不同位流长度下，基于随机计算的贝叶斯神经网络与浮点网络的分类准确率对比如图4所示。结果表明：利用随机计算固有的噪声特性，能够实现贝叶斯神经网络推理过程中计算与误差注入的统一。

本发明的工作原理及过程为：本发明提供的面向贝叶斯神经网络误差注入的图像分类方法，旨在有效处理贝叶斯神经网络的推理阶段，属于前向神经网络的范畴。基于任意训练好的贝叶斯神经网络，将其转化成为等效的随机计算网络模型。

由于随机计算具有固有的误差特性，多次采集随机计算网络推理结果的输出，可以得到一个近似正态分布的结果。此过程中，控制随机计算各部分引入的误差，以满足符合贝叶斯神经网络每次计算随机性的预测分布，从而完成贝叶斯神经网络的误差注入并实现网络的整体功能。首先，前向转换中，以随机数发生器分别生成不相关的随机位流用于后续计算过程，降低随机位流的相关性以有效减小随机波动引入的计算误差；其次，选定随机位流长度并加以调节，选择能够使浮点数据得到相对精确表示的随机位流长度，以尽可能减小前向转换与后向转换过程中由于浮点数据与随机序列之间相互转换引入的舍入误差；网络推理中，将随机计算缩放引入的误差注入贝叶斯神经网络。综合考虑输入数据、缩放参数和网络兼容系数等因素，确保整个随机计算网络中各个层的输出与下一级输入所需的格式兼容。根据图像分类任务的准确率结果，对已确定的缩放比例因子逐步进行微调，进一步有效控制随机计算中缩放引入的误差。

本发明的有益效果为：本发明所提供的基于误差注入的图像分类方法，利用随机计算固有的噪声特性，无需引入额外的误差注入电路，实现了贝叶斯神经网络推理过程中计算与误差注入的统一。由于随机计算能够以简单的门电路实现逻辑运算功能，因此在基于随机计算的贝叶斯神经网络保持与原有网络近似预测效果的同时，能够达到降低资源占用与硬件开销的效果，实现良好的图像分类效果。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims

1.一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述步骤S1中，贝叶斯神经网络的权重和偏置均为训练所得的网络参数，符合均值为μ且方差为σ的高斯分布，将权重的均值作为权重参数w，将偏置的均值作为偏置参数b；

所述步骤S1中，对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行缩放的具体方法为：利用对应的缩放因子s分别对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行按比例缩放，将其限制于随机计算的表示范围[-1,1]内，得到缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f。

3.根据权利要求2所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f的计算公式分别为：

缩放因子s的计算公式为：

4.根据权利要求1所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述步骤S3中，搭建贝叶斯神经网络的随机计算神经元的具体方法为：

5.根据权利要求4所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述步骤S31中，内积运算单元的缩放因子s_dot的计算公式为：

sd_ot＝N·s_w·s_x

6.根据权利要求4所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述步骤S32中，偏置加法单元的缩放因子s_bias的确定方法为：将内积运算单元的缩放因子s_dot和偏置参数b的缩放因子s_b的最大值作为共同缩放因子s′，共同缩放因子s′的计算公式为：

s'＝max{s_dot,s_b}

s_bias＝2·s′。

7.根据权利要求4所述的基于随机计算贝叶斯神经网络误差注入的图像分类方法，其特征在于，所述步骤S33中，神经元结构的缩放比例s_z等于偏置加法单元的缩放因子s_bias，神经元结构的缩放比例s_z的计算公式为：

s_z＝s_bias。