CN113516170B - 基于贝叶斯神经网络随机加法饱和结构的图像分类方法 - Google Patents

Abstract

本发明公开了一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法，包括以下步骤：S1：采集待分类图像数据集中的部分图像数据作为贝叶斯神经网络的输入数据，提取训练得到的贝叶斯神经网络的权重参数和偏置参数；S2：对输入数据、权重参数和偏置参数进行处理，将其转换为随机位流形式；S3：搭建基于随机加法饱和结构的神经元，得到基于随机计算的合格贝叶斯神经网络；S4：利用基于随机计算的合格贝叶斯神经网络对待分类图像数据集中的其余图像数据进行分类。本发明的优点在于：通过调节增益因子，一定程度上减小了由于过大的缩放比例导致的严重误差，从而平衡随机加法中的缩放误差以及饱和误差，保证合格的贝叶斯神经网络的图像分类准确性。

Description

基于贝叶斯神经网络随机加法饱和结构的图像分类方法

技术领域

本发明属于图像处理技术领域，具体涉及一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法。

背景技术

贝叶斯神经网络(BNNs)的各个权重和阈值都以随机分布的形式表示，具有均值μ和方差σ两组网络参数，其推理过程为：随机采样不同的权重参数重复进行前向传播，以多个采样网络的最终层输出的平均值作为预测结果。若以传统方式进行用于图像分类任务的贝叶斯神经网络硬件实现，需要引入额外的误差注入电路，具有很高的硬件开销。

以随机计算的方式进行贝叶斯神经网络的推理，能够实现计算过程与误差注入的统一，有效降低硬件开销。其中，采用多路选择器作为带缩放的随机加法电路，实现贝叶斯神经网络中的加法运算。当多路选择器的输入个数过多时，经缩放后的输出位流可能不足以精确表示真实的输出值，从而造成严重的精度损失，使得用于图像分类任务的贝叶斯神经网络性能受到严重影响。

发明内容

本发明的目的是为了解决贝叶斯神经网络进行图像分类时硬件开销过高的问题，提出了一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法。

本发明的技术方案是：一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法，包括以下步骤：

S1：采集待分类图像数据集中的部分图像数据作为贝叶斯神经网络的输入数据，提取训练得到的贝叶斯神经网络的权重参数和偏置参数；

S2：对贝叶斯神经网络的输入数据、权重参数和偏置参数进行处理，将其转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流；

S3：根据输入数据位流、权重参数位流和偏置参数位流，搭建基于随机加法饱和结构的神经元，得到基于随机计算的合格贝叶斯神经网络；

S4：利用基于随机计算的合格贝叶斯神经网络对待分类图像数据集中的其余图像数据进行分类。

进一步地，步骤S2包括以下子步骤：

S21：利用缩放因子s分别对贝叶斯神经网络的输入数据、权重参数和偏置参数进行缩减，得到位于[-1,1]范围内的浮点输入数据、浮点权重参数和浮点偏置参数；

S22：利用线性反馈移位寄存器和比较器构成前向转换电路，并通过前向转换电路分别将浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流。

进一步地，步骤S21中，缩放因子s的计算公式为：

/>

其中，m表示数据范围的左界限，n表示数据范围的右界限，log(·)表示对数运算。

进一步地，步骤S3包括以下子步骤：

S31：利用异或门电路和累加多路选择器构成内积运算单元，并通过异或门电路对输入数据位流和权重参数位流进行乘积运算，通过累加多路选择器对乘积运算的结果进行累加运算，得到内积运算单元的输出位流；

S32：基于线性增益单元设计随机加法饱和结构，利用线性增益单元对内积运算单元的输出位流进行增益放大，并将增益放大后超出[-1,1]范围且大于1的信号取值为[-1,1]范围的上限值1，并将增益放大后超出[-1,1]范围且小于-1的信号取值为[-1,1]范围的下限值-1，得到线性增益单元的缩放因子和输出位流；

S33：利用多路选择器对线性增益单元的输出位流和偏置参数位流进行偏置加法运算，得到基于随机加法饱和结构神经元的缩放因子和输出位流；

S34：计算贝叶斯神经网络中各个神经元节点的缩放因子，将贝叶斯神经网络同一层中各个神经元节点的最大缩放因子作为该层的公共缩放比例参数，搭建基于随机计算的贝叶斯神经网络，进行贝叶斯神经网络的前向推理并得到其输出位流；

S35：利用计数器构成后向转换电路，并利用后向转换电路将贝叶斯神经网络的输出位流转换为浮点数据，并按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次前向推理的输出结果；

S36：分别以随机计算和浮点运算的方式进行若干次贝叶斯神经网络的前向推理，对前向推理输出分别取均值作为对应的贝叶斯神经网络的最终输出结果，并得到对应的图像分类准确率，对比基于随机计算的贝叶斯神经网络图像分类准确率和基于浮点运算的贝叶斯神经网络图像分类准确率，若两者分类准确率的差值低于设定阈值，则将该基于随机计算的贝叶斯神经网络作为合格贝叶斯神经网络，否则调整增益因子，并将新的增益因子返回步骤S32。

进一步地，步骤S31中，内积运算单元的输出位流为按内积运算单元的缩放因子s_dot进行缩小的随机位流，内积运算单元的缩放因子s_dot的计算公式为：

s_dot＝N·s_w·s_x

其中，N表示累加多路选择器的输入个数，s_w表示权重参数的缩放因子，s_x表示输入数据的缩放因子。

进一步地，步骤S32中，设计随机加法饱和结构的具体方法为：设定有限状态机的状态数N和控制参数比特流，实现增益因子为G的线性增益单元。将内积运算单元的输出位流输入至线性增益单元进行增益放大，将超出[-1,1]范围的信号值取值为范围的上下限，得到按线性增益缩放因子s_g进行缩小的线性增益单元的输出位流，线性增益缩放因子的计算公式为：

s_g＝s_dot/G

其中，G＝2ⁿ且n∈N⁺，s_dot表示内积运算单元的缩放因子。

进一步地，步骤S33中，进行偏置加法运算的具体方法为：将线性增益缩放因子s_g和偏置参数缩放因子s_b中的较大值作为共同缩放因子s′，计算线性增益单元的重缩放因子s_g′与偏置参数的重缩放因子s_b′并对线性增益单元的输出位流与偏置参数位流进行重新缩放，对重新缩放后的线性增益单元的输出位流与偏置参数位流进行偏置加法运算；

基于线性有限状态机设计激活函数，将偏置加法运算的结果输入至激活函数，得到基于随机加法饱和结构神经元的缩放因子s_z和输出位流z。

进一步地，步骤S33中，共同缩放因子s′的计算公式为：

s′＝max{s_g,s_b}

其中，s_g表示线性增益缩放因子，s_b表示偏置参数缩放因子；

若s_g>s_b，则计算偏置参数的重缩放因子s_b′，并对偏置参数位流进行重新缩放；若s_b>s_g，则计算线性增益单元的重缩放因子s_g′，并对线性增益单元的输出位流进行重新缩放，偏置参数的重缩放因子s_b′和线性增益单元的重缩放因子s_g′的计算公式分别为：

步骤S33中，基于随机加法饱和结构神经元的缩放因子s_z的计算公式为：

s_z＝2·s′。

进一步地，步骤S34中，进行贝叶斯神经网络前向推理的具体方法为：根据贝叶斯神经网络各层的公共缩放比例参数s_L，计算对应神经元的重缩放因子s_z′，并对神经元的输出位流进行重新缩放，进行贝叶斯神经网络的前向推理，公共缩放比例参数s_L的计算公式为：

其中，s_z表示基于随机加法饱和结构神经元的缩放因子，i表示神经元所在的网络层，n表示第i层的神经元个数；

神经元的重缩放因子的计算公式s_z′为：

进一步地，步骤S36中，调整增益因子的具体方法为：基于饱和因子K计算线性增益因子G，根据基于随机计算的贝叶斯神经网络分类准确率，按照G＝2ⁿ且n∈N⁺的约束条件依次增大或减小线性增益因子G的数值，对其进行调节；其中，线性增益因子G的具体计算方法为：以浮点形式的输入数据、权重参数和偏置参数进行运算，得到基于浮点运算的贝叶斯神经网络各层输出信号的分布范围，确定设定分布范围内的输出信号所在区间的绝对值，作为该层的饱和因子K，根据饱和因子K计算线性增益因子G，并将其取整为2ⁿ的正整数，线性增益因子G的计算公式为：

G＝s_dot/K

其中，s_dot表示内积运算单元的缩放因子。

本发明的有益效果是：

(1)本发明利用基于随机计算的贝叶斯神经网络随机计算进行图像分类，实现了贝叶斯神经网络推理过程与误差注入的统一，相比于利用传统贝叶斯神经网络进行图像分类，有效降低了硬件开销。

(1)本发明中，在贝叶斯神经网络神经元结构中的累加多路选择器输出端添加线性增益单元，得到随机加法饱和结构，一定程度上减小了由于过大的缩放比例导致的严重误差，从而平衡随机加法中的缩放误差以及饱和误差，保证合格的贝叶斯神经网络的图像分类准确性。

(2)本发明中，通过调节线性增益因子的大小来改变随机加法的缩放程度，从而合理控制随机计算注入的误差水平，为贝叶斯神经网络的误差控制提供了良好的灵活性，保证了贝叶斯神经网络的工作性能。

附图说明

图1为图像分类方法的流程图；

图2为随机加法饱和结构示意图；

图3为贝叶斯神经网络神经元的内积运算的结构图；

图4为本发明中置信区间内贝叶斯神经网络隐含层的权重与偏置参数分布图；

图5为本发明中置信区间内贝叶斯神经网络隐含层的内积运算与偏置加法运算的输出信号值参数分布图。

具体实施方式

下面结合附图对本发明的实施例作进一步的说明。

如图1所示，本发明提供了一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法，包括以下步骤：

S1：采集待分类图像数据集中的部分图像数据作为贝叶斯神经网络的输入数据，提取训练得到的贝叶斯神经网络的权重参数和偏置参数；

S2：对贝叶斯神经网络的输入数据、权重参数和偏置参数进行处理，将其转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流；

S3：根据输入数据位流、权重参数位流和偏置参数位流，搭建基于随机加法饱和结构的神经元，得到基于随机计算的合格贝叶斯神经网络；

S4：利用基于随机计算的合格贝叶斯神经网络对待分类图像数据集中的其余图像数据进行分类。

在本发明实施例中，步骤S2包括以下子步骤：

S21：利用缩放因子s分别对贝叶斯神经网络的输入数据、权重参数和偏置参数进行缩减，得到位于[-1,1]范围内的浮点输入数据、浮点权重参数和浮点偏置参数；

S22：利用线性反馈移位寄存器和比较器构成前向转换电路，并通过前向转换电路分别将浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流。

在本发明实施例中，步骤S21中，缩放因子s的计算公式为：

其中，m表示数据范围的左界限，n表示数据范围的右界限，log(·)表示对数运算。

在本发明实施例中，步骤S3包括以下子步骤：

S31：利用异或门电路和累加多路选择器构成内积运算单元，并通过异或门电路对输入数据位流和权重参数位流进行乘积运算，通过累加多路选择器对乘积运算的结果进行累加运算，得到内积运算单元的输出位流；

S32：基于线性增益单元设计随机加法饱和结构，利用线性增益单元对内积运算单元的输出位流进行增益放大，并将增益放大后超出[-1,1]范围且大于1的信号取值为[-1,1]范围的上限值1，并将增益放大后超出[-1,1]范围且小于-1的信号取值为[-1,1]范围的下限值-1，得到线性增益单元的缩放因子和输出位流；

S33：利用多路选择器对线性增益单元的输出位流和偏置参数位流进行偏置加法运算，得到基于随机加法饱和结构神经元的缩放因子和输出位流；

S34：计算贝叶斯神经网络中各个神经元节点的缩放因子，将贝叶斯神经网络同一层中各个神经元节点的最大缩放因子作为该层的公共缩放比例参数，搭建基于随机计算的贝叶斯神经网络，进行贝叶斯神经网络的前向推理并得到其输出位流；

S35：利用计数器构成后向转换电路，并利用后向转换电路将贝叶斯神经网络的输出位流转换为浮点数据，并按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次前向推理的输出结果；

S36：分别以随机计算和浮点运算的方式进行若干次贝叶斯神经网络的前向推理，对前向推理输出分别取均值作为对应的贝叶斯神经网络的最终输出结果，并得到对应的图像分类准确率，对比基于随机计算的贝叶斯神经网络图像分类准确率和基于浮点运算的贝叶斯神经网络图像分类准确率，若两者分类准确率的差值低于设定阈值，则将该基于随机计算的贝叶斯神经网络作为合格贝叶斯神经网络，否则调整增益因子，并将新的增益因子返回步骤S32。

在本发明实施例中，步骤S31中，内积运算单元的输出位流为按内积运算单元的缩放因子s_dot进行缩小的随机位流，内积运算单元的缩放因子s_dot的计算公式为：

s_dot＝N·s_w·s_x

其中，N表示累加多路选择器的输入个数，s_w表示权重参数的缩放因子，s_x表示输入数据的缩放因子。

在本发明实施例中，步骤S32中，设计随机加法饱和结构的具体方法为：设定有限状态机的状态数N和控制参数比特流，实现增益因子为G的线性增益单元。将内积运算单元的输出位流输入至线性增益单元进行增益放大，将超出[-1,1]范围的信号值取值为范围的上下限，得到按线性增益缩放因子s_g进行缩小的线性增益单元的输出位流，线性增益缩放因子的计算公式为：

s_g＝s_dot/G

其中，G＝2ⁿ且n∈N⁺，s_dot表示内积运算单元的缩放因子。

在本发明实施例中，步骤S33中，进行偏置加法运算的具体方法为：将线性增益缩放因子s_g和偏置参数缩放因子s_b中的较大值作为共同缩放因子s′，计算线性增益单元的重缩放因子s_g′与偏置参数的重缩放因子s_b′并对线性增益单元的输出位流与偏置参数位流进行重新缩放，对重新缩放后的线性增益单元的输出位流与偏置参数位流进行偏置加法运算；

基于线性有限状态机设计激活函数，将偏置加法运算的结果输入至激活函数，得到基于随机加法饱和结构神经元的缩放因子s_z和输出位流z。

在本发明实施例中，步骤S33中，共同缩放因子s′的计算公式为：

s′＝max{s_g,s_b}

其中，s_g表示线性增益缩放因子，s_b表示偏置参数缩放因子；

若s_g>s_b，则计算偏置参数的重缩放因子s_b′，并对偏置参数位流进行重新缩放；若s_b>s_g，则计算线性增益单元的重缩放因子s_g′，并对线性增益单元的输出位流进行重新缩放，偏置参数的重缩放因子s_b′和线性增益单元的重缩放因子s_g′的计算公式分别为：

步骤S33中，基于随机加法饱和结构神经元的缩放因子s_z的计算公式为：

s_z＝2·s′。

在本发明实施例中，步骤S34中，进行贝叶斯神经网络前向推理的具体方法为：根据贝叶斯神经网络各层的公共缩放比例参数s_L，计算对应神经元的重缩放因子s_z′，并对神经元的输出位流进行重新缩放，进行贝叶斯神经网络的前向推理，公共缩放比例参数s_L的计算公式为：

其中，s_z表示基于随机加法饱和结构神经元的缩放因子，i表示神经元所在的网络层，n表示第i层的神经元个数；

神经元的重缩放因子的计算公式s_z′为：

在本发明实施例中，步骤S36中，调整增益因子的具体方法为：基于饱和因子K计算线性增益因子G，根据基于随机计算的贝叶斯神经网络分类准确率，按照G＝2ⁿ且n∈N⁺的约束条件依次增大或减小线性增益因子G的数值，对其进行调节；其中，线性增益因子G的具体计算方法为：以浮点形式的输入数据、权重参数和偏置参数进行运算，得到基于浮点运算的贝叶斯神经网络各层输出信号的分布范围，确定设定分布范围内的输出信号所在区间的绝对值，作为该层的饱和因子K，根据饱和因子K计算线性增益因子G，并将其取整为2ⁿ的正整数，线性增益因子G的计算公式为：

G＝s_dot/K

其中，s_dot表示内积运算单元的缩放因子。

在本发明实施例中，以对MNIST数据集进行图像分类的贝叶斯神经网络为例，对本发明提出的技术方案进行具体说明：

以MNIST数据库中的部分手写数字图像作为贝叶斯神经网络的输入数据，设置网络的输入神经元个数为手写体数字图像的像素数据28*28，输出神经元个数为对输入图片内容的判断分类结果10，隐含层神经元个数为500。基于训练好的贝叶斯神经网络，采集权重的均值作为权重参数，采集偏置的均值作为偏置参数。提取并绘制训练所得的贝叶斯神经网络权重参数与偏置参数，以隐含层为例，所选贝叶斯神经网络隐含层的权重与偏置参数的分布如图4(a)和图4(b)所示。

初步设置线性增益单元的增益因子数G＝1，按实施例中所述步骤搭建基于随机加法饱和结构的神经元，得到基于随机计算的贝叶斯神经网络。该例中，调整增益因子的具体方法如下：

以浮点形式的数据进行运算，提取并绘制仿真得到的贝叶斯神经网络不同层内积运算与偏置加法运算的输出信号值，其分布近似于正态分布，即位于分布中间区域信号频率高，位于分布边缘区域的信号频率低。以隐含层为例，所选贝叶斯神经网络隐含层的内积与偏置加法输出信号值的分布如图5(a)和图5(b)所示。对比仿真得到的贝叶斯神经网络输出信号值与计算得到的公共缩放比例参数，结果表明仿真得到的输出信号明显小于计算得到的公共缩放比例参数。根据仿真所得输出信号值的分布频率与分布范围，选择90％以上的输出信号所在区间的绝对值作为饱和因子K。为方便硬件实现，通常选定满足K＝2ⁿ且n∈N⁺条件的数值。此例中，隐含层中内积运算与偏置加法运算90％以上的输出信号均位于[-2⁵,2⁵]的范围内，因此初步选择饱和因子K＝2⁵，从而计算得到增益因子G的值。合理设定有限状态机的状态数和控制参数比特流，设计实现具有所需特定增益因子的线性增益单元。由此，即可实现对随机加法输出位流中绝大多数信号的按比例放大，以及将少量超出[-1,1]范围的信号取值为范围的上下限。

确定新的增益因子后，重新以随机计算和浮点运算的方式进行若干次贝叶斯神经网络的前向推理，对前向推理输出分别取均值作为对应的贝叶斯神经网络的最终输出结果，并得到对应的分类准确率。对比二者的分类准确率，若分类准确率的差值低于设定阈值，说明已利用随机计算注入满足贝叶斯神经网络预期随机分布的合理误差，因此将该贝叶斯神经网络作为合格贝叶斯神经网络；否则再根据实际的分类准确率按照G＝2ⁿ且n∈N⁺的约束条件依次增大或减小线性增益因子G的数值，对其进行更为精确的调节。最后，利用基于随机计算的合格贝叶斯神经网络对待分类图像数据集中的其余图像数据进行分类。

本发明的工作原理及过程为：本发明面向贝叶斯神经网络，提出一种基于随机加法饱和结构的贝叶斯神经网络的图像分类方法。旨在通过引入线性增益单元，实现饱和加法，有效调节随机加法中由于缩放引入的精度损失，从而在基于随机计算的贝叶斯神经网络中合理注入误差，实现贝叶斯神经网络计算过程与误差注入的统一。

本发明的有益效果为：

(1)本发明利用基于随机计算的贝叶斯神经网络随机计算进行图像分类，实现了贝叶斯神经网络推理过程与误差注入的统一，相比于利用传统贝叶斯神经网络进行图像分类，有效降低了硬件开销。

(1)本发明中，在贝叶斯神经网络神经元结构中的累加多路选择器输出端添加线性增益单元，得到随机加法饱和结构，一定程度上减小了由于过大的缩放比例导致的严重误差，从而平衡随机加法中的缩放误差以及饱和误差，保证合格的贝叶斯神经网络的图像分类准确性。

(2)本发明中，通过调节线性增益因子的大小来改变随机加法的缩放程度，从而合理控制随机计算注入的误差水平，为贝叶斯神经网络的误差控制提供了良好的灵活性，保证了贝叶斯神经网络的工作性能。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims (9)

1.一种基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，包括以下步骤：

S1：采集待分类图像数据集中的部分图像数据作为贝叶斯神经网络的输入数据，提取训练得到的贝叶斯神经网络的权重参数和偏置参数；

S2：对贝叶斯神经网络的输入数据、权重参数和偏置参数进行处理，将其转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流；

S3：根据输入数据位流、权重参数位流和偏置参数位流，搭建基于随机加法饱和结构的神经元，得到基于随机计算的合格贝叶斯神经网络；

具体地，所述步骤S3包括以下子步骤：

S31：利用异或门电路和累加多路选择器构成内积运算单元，并通过异或门电路对输入数据位流和权重参数位流进行乘积运算，通过累加多路选择器对乘积运算的结果进行累加运算，得到内积运算单元的输出位流；

S32：基于线性增益单元设计随机加法饱和结构，利用线性增益单元对内积运算单元的输出位流进行增益放大，并将增益放大后超出[-1,1]范围且大于1的信号取值为[-1,1]范围的上限值1，并将增益放大后超出[-1,1]范围且小于-1的信号取值为[-1,1]范围的下限值-1，得到线性增益单元的缩放因子和输出位流；

S33：利用多路选择器对线性增益单元的输出位流和偏置参数位流进行偏置加法运算，得到基于随机加法饱和结构神经元的缩放因子和输出位流；

S34：计算贝叶斯神经网络中各个神经元节点的缩放因子，将贝叶斯神经网络同一层中各个神经元节点的最大缩放因子作为该层的公共缩放比例参数，搭建基于随机计算的贝叶斯神经网络，进行贝叶斯神经网络的前向推理并得到其输出位流；

S35：利用计数器构成后向转换电路，并利用后向转换电路将贝叶斯神经网络的输出位流转换为浮点数据，并按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次前向推理的输出结果；

S36：分别以随机计算和浮点运算的方式进行若干次贝叶斯神经网络的前向推理，对前向推理输出分别取均值作为对应的贝叶斯神经网络的最终输出结果，并得到对应的图像分类准确率，对比基于随机计算的贝叶斯神经网络图像分类准确率和基于浮点运算的贝叶斯神经网络图像分类准确率，若两者分类准确率的差值低于设定阈值，则将该基于随机计算的贝叶斯神经网络作为合格贝叶斯神经网络，否则调整增益因子，并将新的增益因子返回步骤S32；

S4：利用基于随机计算的合格贝叶斯神经网络对待分类图像数据集中的其余图像数据进行分类。

2.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S2包括以下子步骤：

S21：利用缩放因子s分别对贝叶斯神经网络的输入数据、权重参数和偏置参数进行缩减，得到位于[-1,1]范围内的浮点输入数据、浮点权重参数和浮点偏置参数；

S22：利用线性反馈移位寄存器和比较器构成前向转换电路，并通过前向转换电路分别将浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流。

3.根据权利要求2所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S21中，缩放因子s的计算公式为：

其中，m表示数据范围的左界限，n表示数据范围的右界限，log(·)表示对数运算。

4.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S31中，内积运算单元的输出位流为按内积运算单元的缩放因子s_dot进行缩小的随机位流，内积运算单元的缩放因子S_dot的计算公式为：

S_dot＝N·S_w·S_x

其中，N表示累加多路选择器的输入个数，s_w表示权重参数的缩放因子，s_x表示输入数据的缩放因子。

5.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S32中，设计随机加法饱和结构的具体方法为：设定有限状态机的状态数N和控制参数比特流，实现增益因子为G的线性增益单元，将内积运算单元的输出位流输入至线性增益单元进行增益放大，将超出[-1,1]范围的信号值取值为范围的上下限，得到按线性增益缩放因子s_g进行缩小的线性增益单元的输出位流，线性增益缩放因子的计算公式为：

S_g＝S_dot/G

其中，G＝2ⁿ且n∈N⁺，S_dot表示内积运算单元的缩放因子。

6.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S33中，进行偏置加法运算的具体方法为：将线性增益缩放因子s_g和偏置参数缩放因子s_b中的较大值作为共同缩放因子s′，计算线性增益单元的重缩放因子s_g′与偏置参数的重缩放因子s_b′并对线性增益单元的输出位流与偏置参数位流进行重新缩放，对重新缩放后线性增益单元的输出位流与偏置参数位流进行偏置加法运算；

基于线性有限状态机设计激活函数，将偏置加法运算的结果输入至激活函数，得到基于随机加法饱和结构神经元的缩放因子s_z和输出位流z。

7.根据权利要求6所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S33中，共同缩放因子s′的计算公式为：

s′＝max{s_g,s_b}

其中，s_g表示线性增益缩放因子，s_b表示偏置参数缩放因子；

若s_g>s_b，则计算偏置参数的重缩放因子s_b′，并对偏置参数位流进行重新缩放；若s_b>s_g，则计算线性增益单元的重缩放因子s_g′，并对线性增益单元的输出位流进行重新缩放，偏置参数的重缩放因子s_b′和线性增益单元的重缩放因子s_g′的计算公式分别为：

所述步骤S33中，基于随机加法饱和结构神经元的缩放因子s_z的计算公式为：

s_z＝2·s′。

8.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S34中，进行贝叶斯神经网络前向推理的具体方法为：根据贝叶斯神经网络各层的公共缩放比例参数S_L，计算对应神经元的重缩放因子s_z′，并对神经元的输出位流进行重新缩放，进行贝叶斯神经网络的前向推理，公共缩放比例参数S_L的计算公式为：

其中，s_z表示基于随机加法饱和结构神经元的缩放因子，i表示神经元所在的网络层，n表示第i层的神经元个数；

神经元的重缩放因子的计算公式s_z′为：

9.根据权利要求1所述的基于贝叶斯神经网络随机加法饱和结构的图像分类方法，其特征在于，所述步骤S36中，调整增益因子的具体方法为：基于饱和因子K计算线性增益因子G，根据基于随机计算的贝叶斯神经网络分类准确率，按照G＝2ⁿ且n∈N⁺的约束条件依次增大或减小线性增益因子G的数值，对其进行调节；其中，线性增益因子G的具体计算方法为：以浮点形式的输入数据、权重参数和偏置参数进行运算，得到基于浮点运算的贝叶斯神经网络各层输出信号的分布范围，确定设定分布范围内的输出信号所在区间的绝对值，作为该层的饱和因子K，根据饱和因子K计算线性增益因子G，并将其取整为2ⁿ的正整数，线性增益因子G的计算公式为：

G＝S_dot/K

其中，S_dot表示内积运算单元的缩放因子。

Images