CN112379859A - 二值采样的处理方法及装置、对抗样本的生成方法及装置 - Google Patents

Abstract

本发明提供一种二值采样的处理方法及装置、对抗样本的生成方法及装置；其中，该二值采样的处理方法包括：确定第一采样概率；根据所述第一采样概率确定触发信号参数的取值；向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。通过本申请，解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

Description

二值采样的处理方法及装置、对抗样本的生成方法及装置

技术领域

本发明涉及计算机领域，涉及一种二值采样的处理方法及装置、对抗样本的生成方法及装置。

背景技术

目前，通过二值采样产生随机数的常用方式是：持续输出脉冲信号，并在需要产生随机数时，读取当前脉冲信号的数值，将当前采集到的数值作为随机数。但是这种产生随机数的方式无法确定随机数产生的概率。

发明内容

本申请实施例提供了一种二值采样的处理方法及装置、对抗样本的生成方法及装置，以解决现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

为了解决上述技术问题，本申请是这样实现的：

第一方面，提供了一种二值采样的处理方法，包括：确定第一采样概率；根据所述第一采样概率确定触发信号参数的取值；向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。

第二方面，提供了一种对抗样本的生成方法，包括：对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；通过第一方面所述二值采样的处理方法对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。

第三方面，提供了一种二值采样的处理装置，包括：控制器，用于确定第一采样概率，并根据所述第一采样概率确定触发信号参数的取值；随机存储器，用于接收所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；所述控制器，还用于在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。

第四方面，提供了一种对抗样本的生成装置，包括：第一处理模块，用于对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；归一化模块，用于对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；第三方面中的二值采样的处理装置，用于对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；第二处理模块，用于提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；生成模块，用于将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。

第五方面，本申请实施例还提供了一种电子设备，其特征在于，包括处理器，存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面或第二方面所述的方法的步骤。

第六方面，本申请实施例还提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面或第二方面所述的方法的步骤。

通过本申请，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，该第一随机数和第二随机数为二值数据中的数据，从而实现只要有触发信号的触发随机存储器即可产生随机数，无需持续向随机存储器输入触发信号，从而解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

附图说明

图1是本申请实施例的随机数的产生方法的流程图；

图2是本申请实施例的输入电压与写操作成功概率之间的关系示意图；

图3是本申请实施例的对抗样本的生成方法流程图；

图4是本申请实施例的样本示意图一；

图5是本申请实施例的样本示意图二；

图6是本申请实施例的样本示意图三；

图7是本申请实施例的样本示意图四；

图8是本申请实施例的梯度示意图一；

图9是本申请实施例的梯度示意图二；

图10是本申请实施例的梯度示意图三；

图11是本申请实施例的梯度示意图四；

图12是本申请实施例的梯度下降处理的示意图；

图13是本申请实施例的绝对值归一化处理的示意图；

图14是本申请实施例的二值采样的示意图一；

图15是本申请实施例的二值采样的示意图二；

图16是本申请实施例的取符号的示意图；

图17是本申请实施例的限幅转换的示意图；

图18是本申请实施例的生成对抗样本的完整示意图；

图19是本申请实施例的随机数的产生装置的结构示意图；

图20是本申请实施例的对抗样本的生成装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本申请的描述中，需要理解的是，术语“第一”、“第二”仅由于描述目的，且不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。因此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者多个该特征。本发明的描述中，除非另有说明，“多个”的含义是两个或两个以上。

本申请实施例提供了一种二值采样的处理方法，图1是本申请实施例的二值采样的处理方法的流程图，如图1所示，该方法的步骤：

步骤S102，确定第一采样概率；

步骤S104，根据第一采样概率确定触发信号参数的取值；

步骤S106，向随机存储器输入触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；

步骤S108，在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据。

通过本申请实施例中的步骤S102至步骤S108，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，该第一随机数和第二随机数为二值数据中的数据，从而实现只要有触发信号的触发随机存储器即可产生随机数，无需持续向随机存储器输入触发信号，从而解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

在本申请实施例的可选实施方式中，本申请实施例中的第一采样概率是指采样为第一随机数的概率，或，第一采样概率是指采样为第二随机数的概率。需要说明的是，本申请实施例中的二值数据包括0和1，即第一随机数可以是1，第二随机数可以为0；也可以是第一随机数为0，第二随机数为1。当然，上述二值数据包括0和1仅仅是举例说明，其他的二值数据组合也是可以的，例如二值数据为2和1，或3和5，或4和7等等。在本申请中并不限定二值数据的具体取值情况，具体取值可以根据实际情况进行确定。基于此，以二值数据包括0和1为例，如果第一随机数为1，第二随机数为0，则第一采样概率可以是指采样为1的概率，也可以是指采样为0的概率。如果第一采样概率是指采样为1的概率，且第一采样概率为0.8，则说明采样为1的概率为0.8。

在本申请实施例的可选实施方式中，触发信号优选为脉冲信号，基于此，本申请实施例中的触发信号参数包括以下至少一项：触发信号的脉冲宽度、触发信号的脉冲振幅、用于调整触发信号的输入电压、单位时间内输入触发信号的次数。在具体应用场景中，触发信号的脉冲宽度可以为20ns，输入电压可以为1.5V，单位时间内输入触发信号的次数可以为10次等。上述取值仅仅是举例取值，在不同的应用场景中可以根据实际情况进行相应的取值。

基于此，对于写操作成功的概率与触发信号参数的取值关联，以触发信号参数为单位时间内输入触发信号的次数，在具体应用场景中为当前单位时间为1s，当前1s内输入触发信号的次数为40次，为了能够得到更多写操作成功所产生的随机数，可以将1s内输入触发信号的次数提高到60次，或者，为了减少操作成功所产生的随机数，可以将1s内输入触发信号的次数降低到20次。对于脉冲宽度，如果当前触发信号的脉冲宽度为20ns，由于脉冲宽度的取值是与写操作成功的概率是关联的，如果是脉冲宽度的取值越大，其写操作的成功概率越高，则为了写操作的成功概率更高，则可以调整当前脉冲宽度为30ns，40ns等等，反之，如果为了写操作的成功概率更低，则可以调整当前脉冲宽度为10ns等等。当然，在其他应用场景中，还可以是在一指定脉冲宽度下，其写操作成功率为100％，高于或低于该脉冲宽度，其写操作成功率呈指数倍下降。例如，写操作成功率为100％的脉冲宽度为50ns，则在脉宽宽度或40ns或60ns的情况下，其成功率为60％或者更低。当然，上述仅仅是举例说明，在具体应用场景中，可以根据实际情况对触发信号参数的取值进行相应的调整。

对于触发信号参数中的其他参数，也是类似的处理方式，即可以调整触发信号的脉冲振幅、用于调整触发信号的输入电压，其中，对于触发信号的输入电压与写操作成功概率的对应关系，如图2所示。

在本申请实施例的可选实施方式中，本申请实施例中的随机存储器优选为非易失存储器。当然，上述仅仅是举例说明，还可以是其他存储器，例如：非挥发性的磁性随机存储器MRAM。

基于上述本申请实施例中为了能够调整写操作的成功概率，在触发执行写操作之后，本申请实施例中的方法还可以包括：

步骤S110，根据第二采样概率对触发信号参数的取值进行调整。

需要说明的是，本申请实施例中的第一采样概率和第二采样概率均是可以通过触发信号参数的取值确定的，在第一采样概率和第二采样概率均是指采样为第一随机数的概率，即写操作成功的概率的情况下，为了能够使得写操作成功的概率与第一采样概率匹配，需要根据第一采样概率或第二采样概率对触发信号参数的取值进行调整；例如，第一采样概率为0.4，对应的写操作成功的概率也是0.4，如果当前触发信号参数为单位时间内输入触发信号的次数，该第一采样概率对应的单位时间内输入触发信号的次数为1s内输入触发信号的次数为40次；如果要将第一采样概率调整为第二采样概率，且第二采样概率的取值为0.6，则对应的写操作成功的概率也是0.6，则第二采样概率对应的单位时间内输入触发信号的次数为1s内输入触发信号的次数提高到60次。需要说明的是，对于其他触发信号参数也是类似的处理方式。上述仅仅是举例说明，对于其他采样概率的取值，以及对应的触发信号参数的取值可以根据实际情况进行相应的设置。

此外，在本申请实施例中还提供了一种对抗样本的生成方法，现有技术中对于脉冲神经网络产生对抗样本的方式，由于脉冲神经网络的输入是二值脉冲信号，所以采用的是随机翻转输入样本的部分脉冲信号，通过试错的方式达到对抗攻击的目的。但是，通过试错法产生脉冲对抗样本的方法，由于搜索空间巨大，难以找到准确的对抗样本，使得攻击成功率较低。通过本申请实施例的对抗样本的生成方法，能够解决现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题。如图3所示，本申请实施例的对抗样本的生成方法的步骤包括：

步骤S302，对第一样本进行梯度下降处理，得到第一样本的第一梯度，其中，第一样本中的样本数据为二值数据，第一梯度中的数据为连续数值；

步骤S304，对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；

步骤S306，通过上述二值采样的处理方法实施例中的方式对第二梯度中的数据进行二值采样，得到第三梯度，其中，二值采样的采样概率由第二梯度中的数据确定；第三梯度中的数据为二值数据；

步骤S308，提取第一梯度中目标位置的数据的目标符号，并将目标符号添加到第三梯度中与目标位置对应的数据上；

步骤S310，将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，目标对抗样本中的样本数据的为二值数据。

通过本申请实施例的上述步骤S302至步骤S310，可以将数据类型为二值数据的第一样本通过梯度下降处理后得到对应的数据为连续数值的第一梯度，进而将连续数值的第一梯度通过归一化、二值采样以及取符号的处理后，转换为数据为三值数据的第三梯度，最后将第一样本中的样本数据与第三梯度中的数据结合以生成目标对抗样本，从而使得生成的目标对抗样本与第一样本的数据类型是匹配的，都是二值数据。如果第一样本为脉冲神经网络的原始样本，则通过本申请实施例得到的对抗样本，是与原始样本的数据类型一致的样本，一方面，利用梯度下降的方式生成了含有准确梯度信息的第一梯度，避免了现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题，另一方面，通过对第一梯度进行处理转化为与原始样本数据类型一致的对抗样本，从而提高对抗样本的伪装能力，达到了提高脉冲神经网络攻击成功率的效果。

需要说明的是，本申请实施例中的第一样本为以下至少一项转换得到：图像样本、语音样本、文字样本；或第一样本为以下至少之一所采集的数据：动态视觉传感器、脑机接口。基于此，第三梯度是用于表征第一样本中数据的变化量，因此，原始样本和第三梯度(变化量)可以结合以生成目标对抗样本。

此外，本申请实施例中的第一样本适用于接收二值输入信号的神经网络，在具体应用场景中可以是脉冲神经网络SNN(Spiking Neuron Networks)的输入样本。本申请实施例中的二值数据是一种数据类型，该数据类型是指样本中的数据仅由{0，1}组成，例如，本申请实施例中的第一样本在具体应用场景中可以是如图4至图7所示的样本1至样本4中的任一种：

当然，本申请实施例中的样本1至样本4仅仅是对第一样本进行举例说明，具体第一样本中的数据的取值可以根据实际情况来确定。

此外，本申请实施例中的三值数据也是一种数据类型，该数据类型是指样本中的数据仅由{-1，0，1}组成，例如，三值数据的梯度(添加符号后的第三梯度)可以是如图8至图11所示的梯度1至梯度4中的任一种：

也就是说，在本申请实施例中对于二值数据的样本可以通过以下原则来转换得到对应梯度：原样本中的数据为0，转换后梯度中对应数据为1或-1；其中，对于-1的情况后续需要进行限幅。原样本梯度中的数据为1，梯度中对应数据为0或1；其中，对于转换后为1的情况后续需要进行限幅。

当然，上述梯度1至梯度4仅仅是对三值数据进行举例说明，具体本申请实施例中的三值数据可以根据实际情况来确定。

另外，本申请实施例中对第一样本进行梯度下降进行处理后的得到的第一梯度中的连续数值，以第一样本为样本2为例，如图12所示，对样本2进行梯度下降处理后，可以得到第一梯度。但图12中的梯度下降处理仅仅是举例说明，也有可能第一梯度中的数据是其他取值，其对应的第一样本依然是样本2。具体的梯度下降处理，需要根据实际情况进行处理。

在本申请实施例中的可选实施方式中，本申请实施例中的步骤S404中涉及到的对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；需要说明的是，该大于或等于零的连续数值在具体应用场景中可以是0到1之间的连续数值。

以上述图12中第一梯度的具体取值为例，对第一梯度中的数据的绝对值进行归一化处理，在具体应用场景中可以是：先确定各个数据的绝对值，然后将绝对值最大的数据归一化为1，并确定绝对值最大的数为归一化系数，进而将其他绝对值除以归一化系数，具体可以是：确定绝对值最大的数为2，即-2.0的绝对值(即，2.0)，并将其进行归一化处理的结果为1，并确定为归一化系数；然后，基于该归一化系数对0.8进行归一化处理的结果为0.4，第一梯度中其他数据依次进行归一化处理的结果，具体如图13所示。

在本申请实施例中的可选实施方式中，本申请实施例中的步骤S406中涉及到的通过上述二值采样的处理方法实施例中的方式对第二梯度中的数据进行二值采样，得到第三梯度的方式进一步可以通过如下方式实现：

上述步骤S406进一步可以通过以下步骤来实现：

步骤S11，确定第二梯度中的数据的梯度值为二值采样的第一采样概率；

步骤S12，基于第一采样概率确定触发信号参数的取值；

步骤S13，向随机存储器输入触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；

步骤S14，在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据；第三梯度中的数据包括第一随机数或第二随机数。

需要说明的是，本申请实施例中的采样概率是指得到二值数据中其中之一的概率，即为二值数据中0的概率或是二值数据中1的概率；

下面将以采样为1的概率为例进行说明。

对于上述步骤S406以上述图13中的第二梯度为例，即第一采样概率则是指每一个数据采样为1的概率，即第二梯度中为0.4的数据采样为1的第一采样概率为0.4；第二梯度中为0.8的数据采样为1的第一采样概率为0.8；第二梯度中为1的数据采样为1的第一采样概率为1，具体如图14所示。需要说明的是，图14仅仅是其中一种采样结果，即也有可能是如图15所示的结果，当然也可能是其他情况；也就是说，图14和图15进行示例说明。

也就是说，如果本申请实施例中的随机存储器只有一个，如果是先输入0.4，则写操作成功的概率为0.4，即第一采样概率为0.4；继续输入0.8，则写操作成功的概率为0.8，则需要将第一采样概率调整为第二采样概率，即第二采样概率为0.8。如果本申请实施例中的随机存储器有多个，则输入0.4，则多个随机存储器连接后的写操作成功的概率为0.4，该写操作成功的概率由该多个随机存储器每一个所对应的写操作成功概率组合得到。

对于本申请实施例中步骤S408中涉及到的目标位置是指第一梯度中的任一位置，即需要将第一梯度中的所有数据的符号添加到对应的第三梯度的数据中，以上述图14中的第三梯度为例，可以将-2.0中的符号“-”添加到第三梯度中对应位置的1中，得到的结果为“-1”，依次类推，对于其他位置的符号也是类似的处理方式，具体可以如图16所示。

在本申请实施例中的可选实施方式中，对于本申请实施例中步骤S410中涉及到的将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本的方式进一步可以包括：

步骤S410-11，将第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；

步骤S410-12，对第一对抗样本进行限幅转换以生成对抗样本。

其中，步骤S410-12进一步可以是：

步骤S21，从第一对抗样本中确定出与二值数据不匹配的数据；

步骤S22，将第一对抗样本中与二值数据不匹配的数据转换为二值数据，生成目标对抗样本。

需要说明的是，限幅转换中的限幅是根据第一样本中的二值数据确定的，也就是说，最后生成的对抗样本中的数据类型是与第一样本中的数据类型一致的。基于此，对于上述步骤S410以上述图16中添加符号后的第三梯度为例，添加符号后第三梯度中的数据与第一样本中的数据累加后得到第一对抗样本，如图17所示，由于第一对抗样本中的数据可能存在-1、0、1、以及2的数据，即第一对抗样本中的数据为四值数据，因此需要进行限幅转换，限幅转换的目的是将第一对抗样本中的数据转换为二值数据，即将第一对抗样本中的2转换为1，将第一对抗样本中的-1转换为0，从而得到了与第一样本中数据类型一致的目标对抗样本。

对于上述步骤S402至步骤S410，在具体应用场景中，整个生成对抗样本的过程如图18所示。

通过本申请实施例，利用梯度下降以产生与原始样本(第一样本)对应的脉冲对抗样本(目标对抗样本)，实现了高成功率的脉冲神经网络攻击；在利用梯度下降以产生与原始样本对应的脉冲对抗样本的过程中，利用了连续值格式的样本梯度修改脉冲格式的输入样本，作为后续产生脉冲对抗样本的基础，其中，通过概率采样限制对抗样本与原始样本的差别大小，从而使得可以产生含有准确梯度信息、与原始样本数据类型一致且改变量较小的易伪装的对抗样本，避免了现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题，达到了提高脉冲神经网络攻击成功率的效果。

图19是本申请实施例的二值采样的处理装置的结构示意图，如图19所示，该二值采样的处理装置190包括：控制器192和随机存储器194；其中，

控制器192，用于确定第一采样概率，并根据第一采样概率确定触发信号参数的取值；

随机存储器194，用于接收触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；

该控制器192，还用于在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据。

通过本申请实施例中的二值采样的处理装置，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，由于可以根据确定的第一采样概率确定触发信号参数，进而可以确定写操作成功和写操作不成功的概率，也就是说产生随机数的概率是可调的，进而可以获取确定概率的随机数，解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

可选地，本申请实施例中的第一采样概率是指采样为第一随机数的概率，或，第一采样概率是指采样为第二随机数的概率。

可选地，本申请实施例中的触发信号为脉冲信号。基于此，该触发信号参数包括以下至少一项：触发信号的脉冲宽度、触发信号的脉冲振幅、用于调整触发信号的输入电压、单位时间内输入触发信号的次数。

可选地，本申请实施例中的控制器192，还用于在触发执行写操作之后，根据第二采样概率对触发信号参数的取值进行调整。

可选地，本申请实施例中的随机存储器为非挥发性的磁性随机存储器MRAM。

此外，本申请实施例中还提供了一种对抗样本的生成装置，如图20所示，该装置包括：

第一处理模块202，用于对第一样本进行梯度下降处理，得到第一样本的第一梯度，其中，第一样本中的样本数据为二值数据，第一梯度中的数据为连续数值；

归一化模块204，用于对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；

图19中的二值采样的处理装置190，用于对第二梯度中的数据进行二值采样，得到第三梯度，其中，二值采样的采样概率由第二梯度中的数据确定；第三梯度中的数据为二值数据；

第二处理模块206，用于提取第一梯度中目标位置的数据的目标符号，并将目标符号添加到第三梯度中与目标位置对应的数据上；

生成模块208，用于将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，目标对抗样本中的样本数据的为二值数据。

可选地，本申请实施例中的生成模块208进一步可以包括：累加单元，用于将第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；生成单元，用于对第一对抗样本进行限幅转换以生成对抗样本。

可选地，本申请实施例中的生成单元进一步可以包括：确定子单元，用于从第一对抗样本中确定出与二值数据不匹配的数据；生成子单元，用于将第一对抗样本中与二值数据不匹配的数据转换为二值数据，生成目标对抗样本。

可选地，本申请实施例中的限幅转换中的限幅是根据第一样本中的二值数据确定的。

可选地，本申请实施例中的第一样本为脉冲神经网络的输入样本。

可选地，本申请实施例中的第一样本为以下至少一项转换得到：图像样本、语音样本、文字样本；或第一样本为以下至少之一所采集的数据：动态视觉传感器、脑机接口。

可选的，本申请实施例还提供一种电子设备，包括处理器，存储器，存储在存储器上并可在所述处理器上运行的程序或指令，该程序或指令被处理器执行时实现上述二值采样的处理方法，或，对抗样本的生成方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

需要注意的是，本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。

本申请实施例还提供一种可读存储介质，所述可读存储介质上存储有程序或指令，该程序或指令被处理器执行时实现上述二值采样的处理方法，或，对抗样本的生成方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

其中，所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质，包括计算机可读存储介质，如计算机只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等。

显然，本领域的技术人员应该明白，上述的本申请的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本申请不限制于任何特定的硬件和软件结合。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (10)

1.一种二值采样的处理方法，其特征在于，包括：

确定第一采样概率；

根据所述第一采样概率确定触发信号参数的取值；

向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；

在所述写操作成功的情况下，产生第一随机数；

在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。

2.根据权利要求1所述的方法，其特征在于，所述第一采样概率是指采样为所述第一随机数的概率，或，所述第一采样概率是指采样为所述第二随机数的概率。

3.根据权利要求1所述的方法，其特征在于，在触发执行写操作之后，所述方法还包括：

根据第二采样概率对所述触发信号参数的取值进行调整。

4.根据权利要求1至3中任一项所述的方法，其特征在于，所述随机存储器为非挥发性的磁性随机存储器MRAM。

5.一种对抗样本的生成方法，其特征在于，包括：

对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；

对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；

通过权利要求1至4中任意所述二值采样的处理方法对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；

提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；

将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。

6.根据权利要求5所述的方法，其特征在于，所述将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成所述对抗样本，包括：

将所述第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；

对第一对抗样本进行限幅转换以生成所述对抗样本。

7.一种二值采样的处理装置，其特征在于，包括：

控制器，用于确定第一采样概率，并根据所述第一采样概率确定触发信号参数的取值；

随机存储器，用于接收所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；

所述控制器，还用于在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。

8.一种对抗样本的生成装置，其特征在于，包括：

第一处理模块，用于对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；

归一化模块，用于对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；

权利要求7所述的二值采样的处理装置，用于对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；

第二处理模块，用于提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；

生成模块，用于将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。

9.一种电子设备，其特征在于，包括处理器，存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现包括如权利要求1-4中任一项所述二值采样的处理方法，或，包括如权利要求5或6所述对抗样本的生成方法的步骤。

10.一种可读存储介质，其特征在于，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现包括如权利要求1-4中任一项所述二值采样的处理方法，或，包括如权利要求5或6所述对抗样本的生成方法的步骤。

Images