CN112379859B - 二值采样的处理方法及装置、对抗样本的生成方法及装置 - Google Patents

二值采样的处理方法及装置、对抗样本的生成方法及装置 Download PDF

Info

Publication number
CN112379859B
CN112379859B CN202011271801.3A CN202011271801A CN112379859B CN 112379859 B CN112379859 B CN 112379859B CN 202011271801 A CN202011271801 A CN 202011271801A CN 112379859 B CN112379859 B CN 112379859B
Authority
CN
China
Prior art keywords
sample
data
gradient
binary
sampling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011271801.3A
Other languages
English (en)
Other versions
CN112379859A (zh
Inventor
沈杨书
何伟
邓磊
祝夭龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Lynxi Technology Co Ltd
Original Assignee
Beijing Lynxi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Lynxi Technology Co Ltd filed Critical Beijing Lynxi Technology Co Ltd
Priority to CN202011271801.3A priority Critical patent/CN112379859B/zh
Publication of CN112379859A publication Critical patent/CN112379859A/zh
Priority to PCT/CN2021/129744 priority patent/WO2022100603A1/zh
Priority to KR1020227031112A priority patent/KR20220132010A/ko
Application granted granted Critical
Publication of CN112379859B publication Critical patent/CN112379859B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/58—Random or pseudo-random number generators
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/58—Random or pseudo-random number generators
    • G06F7/588—Random number generators, i.e. based on natural stochastic processes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/04—Generating or distributing clock signals or signals derived directly therefrom
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Complex Calculations (AREA)
  • Other Investigation Or Analysis Of Materials By Electrical Means (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)

Abstract

本发明提供一种二值采样的处理方法及装置、对抗样本的生成方法及装置；其中，该二值采样的处理方法包括：确定第一采样概率；根据所述第一采样概率确定触发信号参数的取值；向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。通过本申请，解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。

Description

二值采样的处理方法及装置、对抗样本的生成方法及装置
技术领域
本发明涉及计算机领域，涉及一种二值采样的处理方法及装置、对抗样本的生成方法及装置。
背景技术
目前，通过二值采样产生随机数的常用方式是：持续输出脉冲信号，并在需要产生随机数时，读取当前脉冲信号的数值，将当前采集到的数值作为随机数。但是这种产生随机数的方式无法确定随机数产生的概率。
发明内容
本申请实施例提供了一种二值采样的处理方法及装置、对抗样本的生成方法及装置，以解决现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。
为了解决上述技术问题，本申请是这样实现的：
第一方面，提供了一种二值采样的处理方法，包括：确定第一采样概率；根据所述第一采样概率确定触发信号参数的取值；向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。
第二方面，提供了一种对抗样本的生成方法，包括：对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；通过第一方面所述二值采样的处理方法对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。
第三方面，提供了一种二值采样的处理装置，包括：控制器，用于确定第一采样概率，并根据所述第一采样概率确定触发信号参数的取值；随机存储器，用于接收所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；所述控制器，还用于在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。
第四方面，提供了一种对抗样本的生成装置，包括：第一处理模块，用于对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；归一化模块，用于对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；第三方面中的二值采样的处理装置，用于对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；第二处理模块，用于提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；生成模块，用于将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。
第五方面，本申请实施例还提供了一种电子设备，其特征在于，包括处理器，存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面或第二方面所述的方法的步骤。
第六方面，本申请实施例还提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面或第二方面所述的方法的步骤。
通过本申请，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，该第一随机数和第二随机数为二值数据中的数据，从而实现只要有触发信号的触发随机存储器即可产生随机数，无需持续向随机存储器输入触发信号，从而解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。
附图说明
图1是本申请实施例的随机数的产生方法的流程图；
图2是本申请实施例的输入电压与写操作成功概率之间的关系示意图；
图3是本申请实施例的对抗样本的生成方法流程图；
图4是本申请实施例的样本示意图一；
图5是本申请实施例的样本示意图二；
图6是本申请实施例的样本示意图三；
图7是本申请实施例的样本示意图四；
图8是本申请实施例的梯度示意图一；
图9是本申请实施例的梯度示意图二；
图10是本申请实施例的梯度示意图三；
图11是本申请实施例的梯度示意图四；
图12是本申请实施例的梯度下降处理的示意图；
图13是本申请实施例的绝对值归一化处理的示意图；
图14是本申请实施例的二值采样的示意图一；
图15是本申请实施例的二值采样的示意图二；
图16是本申请实施例的取符号的示意图；
图17是本申请实施例的限幅转换的示意图；
图18是本申请实施例的生成对抗样本的完整示意图；
图19是本申请实施例的随机数的产生装置的结构示意图；
图20是本申请实施例的对抗样本的生成装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本申请的描述中，需要理解的是，术语“第一”、“第二”仅由于描述目的，且不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。因此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者多个该特征。本发明的描述中，除非另有说明，“多个”的含义是两个或两个以上。
本申请实施例提供了一种二值采样的处理方法，图1是本申请实施例的二值采样的处理方法的流程图，如图1所示，该方法的步骤：
步骤S102，确定第一采样概率；
步骤S104，根据第一采样概率确定触发信号参数的取值；
步骤S106，向随机存储器输入触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；
步骤S108，在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据。
通过本申请实施例中的步骤S102至步骤S108，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，该第一随机数和第二随机数为二值数据中的数据，从而实现只要有触发信号的触发随机存储器即可产生随机数，无需持续向随机存储器输入触发信号，从而解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。
在本申请实施例的可选实施方式中，本申请实施例中的第一采样概率是指采样为第一随机数的概率，或，第一采样概率是指采样为第二随机数的概率。需要说明的是，本申请实施例中的二值数据包括0和1，即第一随机数可以是1，第二随机数可以为0；也可以是第一随机数为0，第二随机数为1。当然，上述二值数据包括0和1仅仅是举例说明，其他的二值数据组合也是可以的，例如二值数据为2和1，或3和5，或4和7等等。在本申请中并不限定二值数据的具体取值情况，具体取值可以根据实际情况进行确定。基于此，以二值数据包括0和1为例，如果第一随机数为1，第二随机数为0，则第一采样概率可以是指采样为1的概率，也可以是指采样为0的概率。如果第一采样概率是指采样为1的概率，且第一采样概率为0.8，则说明采样为1的概率为0.8。
在本申请实施例的可选实施方式中，触发信号优选为脉冲信号，基于此，本申请实施例中的触发信号参数包括以下至少一项：触发信号的脉冲宽度、触发信号的脉冲振幅、用于调整触发信号的输入电压、单位时间内输入触发信号的次数。在具体应用场景中，触发信号的脉冲宽度可以为20ns，输入电压可以为1.5V，单位时间内输入触发信号的次数可以为10次等。上述取值仅仅是举例取值，在不同的应用场景中可以根据实际情况进行相应的取值。
基于此，对于写操作成功的概率与触发信号参数的取值关联，以触发信号参数为单位时间内输入触发信号的次数，在具体应用场景中为当前单位时间为1s，当前1s内输入触发信号的次数为40次，为了能够得到更多写操作成功所产生的随机数，可以将1s内输入触发信号的次数提高到60次，或者，为了减少操作成功所产生的随机数，可以将1s内输入触发信号的次数降低到20次。对于脉冲宽度，如果当前触发信号的脉冲宽度为20ns，由于脉冲宽度的取值是与写操作成功的概率是关联的，如果是脉冲宽度的取值越大，其写操作的成功概率越高，则为了写操作的成功概率更高，则可以调整当前脉冲宽度为30ns，40ns等等，反之，如果为了写操作的成功概率更低，则可以调整当前脉冲宽度为10ns等等。当然，在其他应用场景中，还可以是在一指定脉冲宽度下，其写操作成功率为100％，高于或低于该脉冲宽度，其写操作成功率呈指数倍下降。例如，写操作成功率为100％的脉冲宽度为50ns，则在脉宽宽度或40ns或60ns的情况下，其成功率为60％或者更低。当然，上述仅仅是举例说明，在具体应用场景中，可以根据实际情况对触发信号参数的取值进行相应的调整。
对于触发信号参数中的其他参数，也是类似的处理方式，即可以调整触发信号的脉冲振幅、用于调整触发信号的输入电压，其中，对于触发信号的输入电压与写操作成功概率的对应关系，如图2所示。
在本申请实施例的可选实施方式中，本申请实施例中的随机存储器优选为非易失存储器。当然，上述仅仅是举例说明，还可以是其他存储器，例如：非挥发性的磁性随机存储器MRAM。
基于上述本申请实施例中为了能够调整写操作的成功概率，在触发执行写操作之后，本申请实施例中的方法还可以包括：
步骤S110，根据第二采样概率对触发信号参数的取值进行调整。
需要说明的是，本申请实施例中的第一采样概率和第二采样概率均是可以通过触发信号参数的取值确定的，在第一采样概率和第二采样概率均是指采样为第一随机数的概率，即写操作成功的概率的情况下，为了能够使得写操作成功的概率与第一采样概率匹配，需要根据第一采样概率或第二采样概率对触发信号参数的取值进行调整；例如，第一采样概率为0.4，对应的写操作成功的概率也是0.4，如果当前触发信号参数为单位时间内输入触发信号的次数，该第一采样概率对应的单位时间内输入触发信号的次数为1s内输入触发信号的次数为40次；如果要将第一采样概率调整为第二采样概率，且第二采样概率的取值为0.6，则对应的写操作成功的概率也是0.6，则第二采样概率对应的单位时间内输入触发信号的次数为1s内输入触发信号的次数提高到60次。需要说明的是，对于其他触发信号参数也是类似的处理方式。上述仅仅是举例说明，对于其他采样概率的取值，以及对应的触发信号参数的取值可以根据实际情况进行相应的设置。
此外，在本申请实施例中还提供了一种对抗样本的生成方法，现有技术中对于脉冲神经网络产生对抗样本的方式，由于脉冲神经网络的输入是二值脉冲信号，所以采用的是随机翻转输入样本的部分脉冲信号，通过试错的方式达到对抗攻击的目的。但是，通过试错法产生脉冲对抗样本的方法，由于搜索空间巨大，难以找到准确的对抗样本，使得攻击成功率较低。通过本申请实施例的对抗样本的生成方法，能够解决现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题。如图3所示，本申请实施例的对抗样本的生成方法的步骤包括：
步骤S302，对第一样本进行梯度下降处理，得到第一样本的第一梯度，其中，第一样本中的样本数据为二值数据，第一梯度中的数据为连续数值；
步骤S304，对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；
步骤S306，通过上述二值采样的处理方法实施例中的方式对第二梯度中的数据进行二值采样，得到第三梯度，其中，二值采样的采样概率由第二梯度中的数据确定；第三梯度中的数据为二值数据；
步骤S308，提取第一梯度中目标位置的数据的目标符号，并将目标符号添加到第三梯度中与目标位置对应的数据上；
步骤S310，将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，目标对抗样本中的样本数据的为二值数据。
通过本申请实施例的上述步骤S302至步骤S310，可以将数据类型为二值数据的第一样本通过梯度下降处理后得到对应的数据为连续数值的第一梯度，进而将连续数值的第一梯度通过归一化、二值采样以及取符号的处理后，转换为数据为三值数据的第三梯度，最后将第一样本中的样本数据与第三梯度中的数据结合以生成目标对抗样本，从而使得生成的目标对抗样本与第一样本的数据类型是匹配的，都是二值数据。如果第一样本为脉冲神经网络的原始样本，则通过本申请实施例得到的对抗样本，是与原始样本的数据类型一致的样本，一方面，利用梯度下降的方式生成了含有准确梯度信息的第一梯度，避免了现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题，另一方面，通过对第一梯度进行处理转化为与原始样本数据类型一致的对抗样本，从而提高对抗样本的伪装能力，达到了提高脉冲神经网络攻击成功率的效果。
需要说明的是，本申请实施例中的第一样本为以下至少一项转换得到：图像样本、语音样本、文字样本；或第一样本为以下至少之一所采集的数据：动态视觉传感器、脑机接口。基于此，第三梯度是用于表征第一样本中数据的变化量，因此，原始样本和第三梯度(变化量)可以结合以生成目标对抗样本。
此外，本申请实施例中的第一样本适用于接收二值输入信号的神经网络，在具体应用场景中可以是脉冲神经网络SNN(Spiking Neuron Networks)的输入样本。本申请实施例中的二值数据是一种数据类型，该数据类型是指样本中的数据仅由{0，1}组成，例如，本申请实施例中的第一样本在具体应用场景中可以是如图4至图7所示的样本1至样本4中的任一种：
当然，本申请实施例中的样本1至样本4仅仅是对第一样本进行举例说明，具体第一样本中的数据的取值可以根据实际情况来确定。
此外，本申请实施例中的三值数据也是一种数据类型，该数据类型是指样本中的数据仅由{-1，0，1}组成，例如，三值数据的梯度(添加符号后的第三梯度)可以是如图8至图11所示的梯度1至梯度4中的任一种：
也就是说，在本申请实施例中对于二值数据的样本可以通过以下原则来转换得到对应梯度：原样本中的数据为0，转换后梯度中对应数据为1或-1；其中，对于-1的情况后续需要进行限幅。原样本梯度中的数据为1，梯度中对应数据为0或1；其中，对于转换后为1的情况后续需要进行限幅。
当然，上述梯度1至梯度4仅仅是对三值数据进行举例说明，具体本申请实施例中的三值数据可以根据实际情况来确定。
另外，本申请实施例中对第一样本进行梯度下降进行处理后的得到的第一梯度中的连续数值，以第一样本为样本2为例，如图12所示，对样本2进行梯度下降处理后，可以得到第一梯度。但图12中的梯度下降处理仅仅是举例说明，也有可能第一梯度中的数据是其他取值，其对应的第一样本依然是样本2。具体的梯度下降处理，需要根据实际情况进行处理。
在本申请实施例中的可选实施方式中，本申请实施例中的步骤S404中涉及到的对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；需要说明的是，该大于或等于零的连续数值在具体应用场景中可以是0到1之间的连续数值。
以上述图12中第一梯度的具体取值为例，对第一梯度中的数据的绝对值进行归一化处理，在具体应用场景中可以是：先确定各个数据的绝对值，然后将绝对值最大的数据归一化为1，并确定绝对值最大的数为归一化系数，进而将其他绝对值除以归一化系数，具体可以是：确定绝对值最大的数为2，即-2.0的绝对值(即，2.0)，并将其进行归一化处理的结果为1，并确定为归一化系数；然后，基于该归一化系数对0.8进行归一化处理的结果为0.4，第一梯度中其他数据依次进行归一化处理的结果，具体如图13所示。
在本申请实施例中的可选实施方式中，本申请实施例中的步骤S406中涉及到的通过上述二值采样的处理方法实施例中的方式对第二梯度中的数据进行二值采样，得到第三梯度的方式进一步可以通过如下方式实现：
上述步骤S406进一步可以通过以下步骤来实现：
步骤S11，确定第二梯度中的数据的梯度值为二值采样的第一采样概率；
步骤S12，基于第一采样概率确定触发信号参数的取值；
步骤S13，向随机存储器输入触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；
步骤S14，在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据；第三梯度中的数据包括第一随机数或第二随机数。
需要说明的是，本申请实施例中的采样概率是指得到二值数据中其中之一的概率，即为二值数据中0的概率或是二值数据中1的概率；
下面将以采样为1的概率为例进行说明。
对于上述步骤S406以上述图13中的第二梯度为例，即第一采样概率则是指每一个数据采样为1的概率，即第二梯度中为0.4的数据采样为1的第一采样概率为0.4；第二梯度中为0.8的数据采样为1的第一采样概率为0.8；第二梯度中为1的数据采样为1的第一采样概率为1，具体如图14所示。需要说明的是，图14仅仅是其中一种采样结果，即也有可能是如图15所示的结果，当然也可能是其他情况；也就是说，图14和图15进行示例说明。
也就是说，如果本申请实施例中的随机存储器只有一个，如果是先输入0.4，则写操作成功的概率为0.4，即第一采样概率为0.4；继续输入0.8，则写操作成功的概率为0.8，则需要将第一采样概率调整为第二采样概率，即第二采样概率为0.8。如果本申请实施例中的随机存储器有多个，则输入0.4，则多个随机存储器连接后的写操作成功的概率为0.4，该写操作成功的概率由该多个随机存储器每一个所对应的写操作成功概率组合得到。
对于本申请实施例中步骤S408中涉及到的目标位置是指第一梯度中的任一位置，即需要将第一梯度中的所有数据的符号添加到对应的第三梯度的数据中，以上述图14中的第三梯度为例，可以将-2.0中的符号“-”添加到第三梯度中对应位置的1中，得到的结果为“-1”，依次类推，对于其他位置的符号也是类似的处理方式，具体可以如图16所示。
在本申请实施例中的可选实施方式中，对于本申请实施例中步骤S410中涉及到的将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本的方式进一步可以包括：
步骤S410-11，将第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；
步骤S410-12，对第一对抗样本进行限幅转换以生成对抗样本。
其中，步骤S410-12进一步可以是：
步骤S21，从第一对抗样本中确定出与二值数据不匹配的数据；
步骤S22，将第一对抗样本中与二值数据不匹配的数据转换为二值数据，生成目标对抗样本。
需要说明的是，限幅转换中的限幅是根据第一样本中的二值数据确定的，也就是说，最后生成的对抗样本中的数据类型是与第一样本中的数据类型一致的。基于此，对于上述步骤S410以上述图16中添加符号后的第三梯度为例，添加符号后第三梯度中的数据与第一样本中的数据累加后得到第一对抗样本，如图17所示，由于第一对抗样本中的数据可能存在-1、0、1、以及2的数据，即第一对抗样本中的数据为四值数据，因此需要进行限幅转换，限幅转换的目的是将第一对抗样本中的数据转换为二值数据，即将第一对抗样本中的2转换为1，将第一对抗样本中的-1转换为0，从而得到了与第一样本中数据类型一致的目标对抗样本。
对于上述步骤S402至步骤S410，在具体应用场景中，整个生成对抗样本的过程如图18所示。
通过本申请实施例，利用梯度下降以产生与原始样本(第一样本)对应的脉冲对抗样本(目标对抗样本)，实现了高成功率的脉冲神经网络攻击；在利用梯度下降以产生与原始样本对应的脉冲对抗样本的过程中，利用了连续值格式的样本梯度修改脉冲格式的输入样本，作为后续产生脉冲对抗样本的基础，其中，通过概率采样限制对抗样本与原始样本的差别大小，从而使得可以产生含有准确梯度信息、与原始样本数据类型一致且改变量较小的易伪装的对抗样本，避免了现有技术中采用随机翻转输入样本的部分脉冲信号，再对随机翻转结果进行搜索，但该搜索空间大会导致脉冲神经网络的攻击成功率较低的问题，达到了提高脉冲神经网络攻击成功率的效果。
图19是本申请实施例的二值采样的处理装置的结构示意图，如图19所示，该二值采样的处理装置190包括：控制器192和随机存储器194；其中，
控制器192，用于确定第一采样概率，并根据第一采样概率确定触发信号参数的取值；
随机存储器194，用于接收触发信号以触发执行写操作；其中，写操作成功的概率与触发信号参数的取值关联；
该控制器192，还用于在写操作成功的情况下，产生第一随机数；在写操作未成功的情况下，产生第二随机数，其中，第一随机数和第二随机数为二值数据中的数据。
通过本申请实施例中的二值采样的处理装置，可以通过向随机存储器输入触发信号以触发执行写操作，进而在写操作成功或未成功的情况下，产生第一随机数和第二随机数，由于可以根据确定的第一采样概率确定触发信号参数，进而可以确定写操作成功和写操作不成功的概率，也就是说产生随机数的概率是可调的，进而可以获取确定概率的随机数，解决了现有技术中通过持续输出脉冲信号以产生随机数，导致产生随机数的过程能耗大以及资源占用大的问题。
可选地，本申请实施例中的第一采样概率是指采样为第一随机数的概率，或，第一采样概率是指采样为第二随机数的概率。
可选地，本申请实施例中的触发信号为脉冲信号。基于此，该触发信号参数包括以下至少一项：触发信号的脉冲宽度、触发信号的脉冲振幅、用于调整触发信号的输入电压、单位时间内输入触发信号的次数。
可选地，本申请实施例中的控制器192，还用于在触发执行写操作之后，根据第二采样概率对触发信号参数的取值进行调整。
可选地，本申请实施例中的随机存储器为非挥发性的磁性随机存储器MRAM。
此外，本申请实施例中还提供了一种对抗样本的生成装置，如图20所示，该装置包括：
第一处理模块202，用于对第一样本进行梯度下降处理，得到第一样本的第一梯度，其中，第一样本中的样本数据为二值数据，第一梯度中的数据为连续数值；
归一化模块204，用于对第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，第二梯度中的数据为大于或等于零的连续数值；
图19中的二值采样的处理装置190，用于对第二梯度中的数据进行二值采样，得到第三梯度，其中，二值采样的采样概率由第二梯度中的数据确定；第三梯度中的数据为二值数据；
第二处理模块206，用于提取第一梯度中目标位置的数据的目标符号，并将目标符号添加到第三梯度中与目标位置对应的数据上；
生成模块208，用于将第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，目标对抗样本中的样本数据的为二值数据。
可选地，本申请实施例中的生成模块208进一步可以包括：累加单元，用于将第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；生成单元，用于对第一对抗样本进行限幅转换以生成对抗样本。
可选地，本申请实施例中的生成单元进一步可以包括：确定子单元，用于从第一对抗样本中确定出与二值数据不匹配的数据；生成子单元，用于将第一对抗样本中与二值数据不匹配的数据转换为二值数据，生成目标对抗样本。
可选地，本申请实施例中的限幅转换中的限幅是根据第一样本中的二值数据确定的。
可选地，本申请实施例中的第一样本为脉冲神经网络的输入样本。
可选地，本申请实施例中的第一样本为以下至少一项转换得到：图像样本、语音样本、文字样本；或第一样本为以下至少之一所采集的数据：动态视觉传感器、脑机接口。
可选的，本申请实施例还提供一种电子设备，包括处理器，存储器，存储在存储器上并可在所述处理器上运行的程序或指令，该程序或指令被处理器执行时实现上述二值采样的处理方法，或，对抗样本的生成方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
需要注意的是，本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。
本申请实施例还提供一种可读存储介质，所述可读存储介质上存储有程序或指令，该程序或指令被处理器执行时实现上述二值采样的处理方法，或，对抗样本的生成方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
其中，所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质，包括计算机可读存储介质，如计算机只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等。
显然，本领域的技术人员应该明白，上述的本申请的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本申请不限制于任何特定的硬件和软件结合。
以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (22)

1.一种二值采样的处理方法，其特征在于，包括：
确定第一采样概率；
根据所述第一采样概率确定触发信号参数的取值；
向随机存储器输入所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；
在所述写操作成功的情况下，产生第一随机数；
在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。
2.根据权利要求1所述的方法，其特征在于，所述第一采样概率是指采样为所述第一随机数的概率，或，所述第一采样概率是指采样为所述第二随机数的概率。
3.根据权利要求1所述的方法，其特征在于，所述触发信号为脉冲信号。
4.根据权利要求3所述的方法，其特征在于，所述触发信号参数包括以下至少一项：所述触发信号的脉冲宽度、所述触发信号的脉冲振幅、用于调整所述触发信号的输入电压、单位时间内输入所述触发信号的次数。
5.根据权利要求1所述的方法，其特征在于，在触发执行写操作之后，所述方法还包括：
根据第二采样概率对所述触发信号参数的取值进行调整。
6.根据权利要求1至5中任一项所述的方法，其特征在于，所述随机存储器为非挥发性的磁性随机存储器MRAM。
7.一种对抗样本的生成方法，其特征在于，包括：
对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；
对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；
通过权利要求1至6中任一所述的二值采样的处理方法对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；
提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；
将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。
8.根据权利要求7所述的方法，其特征在于，所述将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成所述对抗样本，包括：
将所述第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；
对第一对抗样本进行限幅转换以生成所述对抗样本。
9.根据权利要求8所述的方法，其特征在于，所述对第一对抗样本进行限幅转换以生成目标对抗样本，包括：
从所述第一对抗样本中确定出与所述二值数据不匹配的数据；
将所述第一对抗样本中与所述二值数据不匹配的数据转换为二值数据，生成所述目标对抗样本。
10.根据权利要求9所述的方法，其特征在于，所述限幅转换中的限幅是根据第一样本中的二值数据确定的。
11.根据权利要求7至10中任一所述的方法，其特征在于，所述第一样本为脉冲神经网络的输入样本。
12.根据权利要求7至10中任一所述的方法，其特征在于，所述第一样本为以下至少一项转换得到：图像样本、语音样本、文字样本；或所述第一样本为以下至少之一所采集的数据：动态视觉传感器、脑机接口。
13.一种二值采样的处理装置，其特征在于，包括：
控制器，用于确定第一采样概率，并根据所述第一采样概率确定触发信号参数的取值；
随机存储器，用于接收所述触发信号以触发执行写操作；其中，所述写操作成功的概率与所述触发信号参数的取值关联；
所述控制器，还用于在所述写操作成功的情况下，产生第一随机数；在所述写操作未成功的情况下，产生第二随机数，其中，所述第一随机数和所述第二随机数为二值数据中的数据。
14.根据权利要求13所述的装置，其特征在于，所述第一采样概率是指采样为所述第一随机数的概率，或，所述第一采样概率是指采样为所述第二随机数的概率。
15.根据权利要求13所述的装置，其特征在于，所述触发信号为脉冲信号。
16.根据权利要求15所述的装置，其特征在于，所述触发信号参数包括以下至少一项：所述触发信号的脉冲宽度、所述触发信号的脉冲振幅、用于调整所述触发信号的输入电压、单位时间内输入所述触发信号的次数。
17.根据权利要求13所述的装置，其特征在于，
所述控制器，还用于在触发执行写操作之后，根据第二采样概率对所述触发信号参数的取值进行调整。
18.根据权利要求13至17中任一项所述的装置，其特征在于，所述随机存储器为非挥发性的磁性随机存储器MRAM。
19.一种对抗样本的生成装置，其特征在于，包括：
第一处理模块，用于对第一样本进行梯度下降处理，得到所述第一样本的第一梯度，其中，所述第一样本中的样本数据为二值数据，所述第一梯度中的数据为连续数值；
归一化模块，用于对所述第一梯度中的数据的绝对值进行归一化处理，得到第二梯度；其中，所述第二梯度中的数据为大于或等于零的连续数值；
权利要求13至18中任一所述的二值采样的处理装置，用于对所述第二梯度中的数据进行二值采样，得到第三梯度，其中，所述二值采样的采样概率由所述第二梯度中的数据确定；所述第三梯度中的数据为二值数据；
第二处理模块，用于提取所述第一梯度中目标位置的数据的目标符号，并将所述目标符号添加到所述第三梯度中与所述目标位置对应的数据上；
生成模块，用于将所述第一样本中的样本数据与添加符号后的第三梯度中的数据结合，以生成目标对抗样本；其中，所述目标对抗样本中的样本数据的为二值数据。
20.根据权利要求19所述的装置，其特征在于，所述生成模块包括：
累加单元，用于将所述第一样本与添加符号后的第三梯度中相同位置的数据进行累加得到第一对抗样本；
生成单元，用于对第一对抗样本进行限幅转换以生成所述对抗样本。
21.一种电子设备，其特征在于，包括处理器，存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现包括如权利要求1-6中任一项所述二值采样的处理方法，或，包括如权利要求7-12中任一项所述对抗样本的生成方法的步骤。
22.一种可读存储介质，其特征在于，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现包括如权利要求1-6中任一项所述二值采样的处理方法，或，包括如权利要求7-12中任一项所述对抗样本的生成方法的步骤。
CN202011271801.3A 2020-11-13 2020-11-13 二值采样的处理方法及装置、对抗样本的生成方法及装置 Active CN112379859B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202011271801.3A CN112379859B (zh) 2020-11-13 2020-11-13 二值采样的处理方法及装置、对抗样本的生成方法及装置
PCT/CN2021/129744 WO2022100603A1 (zh) 2020-11-13 2021-11-10 二值采样的处理方法及装置、对抗样本的生成方法及装置、电子设备、可读存储介质
KR1020227031112A KR20220132010A (ko) 2020-11-13 2021-11-10 2치 샘플링의 처리방법 및 장치, 적대적 샘플의 생성방법 및 장치, 전자기기, 판독 가능한 저장 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011271801.3A CN112379859B (zh) 2020-11-13 2020-11-13 二值采样的处理方法及装置、对抗样本的生成方法及装置

Publications (2)

Publication Number Publication Date
CN112379859A CN112379859A (zh) 2021-02-19
CN112379859B true CN112379859B (zh) 2023-08-18

Family

ID=74582620

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011271801.3A Active CN112379859B (zh) 2020-11-13 2020-11-13 二值采样的处理方法及装置、对抗样本的生成方法及装置

Country Status (3)

Country Link
KR (1) KR20220132010A (zh)
CN (1) CN112379859B (zh)
WO (1) WO2022100603A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112379858B (zh) * 2020-11-13 2024-01-26 北京灵汐科技有限公司 随机数的产生方法及装置、电子设备和可读存储介质
CN112379859B (zh) * 2020-11-13 2023-08-18 北京灵汐科技有限公司 二值采样的处理方法及装置、对抗样本的生成方法及装置
CN117151171A (zh) * 2023-09-01 2023-12-01 软安科技有限公司 一种基于监督算法的脉冲神经网络对抗性攻击方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107943450A (zh) * 2017-11-17 2018-04-20 上海众人网络安全技术有限公司 随机数生成方法、装置、计算机设备及计算机可读介质
CN109471762A (zh) * 2018-10-30 2019-03-15 新华三技术有限公司 固态硬盘ssd性能测试方法和装置
CN110138366A (zh) * 2019-06-11 2019-08-16 北京理工大学 一种信号波调制方法及系统
CN110989972A (zh) * 2019-12-05 2020-04-10 清华大学 随机数的生成方法及随机数生成器
CN111739648A (zh) * 2020-06-24 2020-10-02 平安医疗健康管理股份有限公司 数据异常检测方法、装置、电子设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3343468B1 (en) * 2015-08-27 2019-12-25 Hitachi, Ltd. Semiconductor device and information processing device
US10446197B2 (en) * 2017-08-31 2019-10-15 Micron Technology, Inc. Optimized scan interval
CN109920444B (zh) * 2017-12-13 2021-04-27 中国电信股份有限公司 回声时延的检测方法、装置以及计算机可读存储介质
CN111884674B (zh) * 2020-06-24 2022-06-21 哈尔滨工程大学 一种基于分步相关的水声扩频信号检测方法
CN112379859B (zh) * 2020-11-13 2023-08-18 北京灵汐科技有限公司 二值采样的处理方法及装置、对抗样本的生成方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107943450A (zh) * 2017-11-17 2018-04-20 上海众人网络安全技术有限公司 随机数生成方法、装置、计算机设备及计算机可读介质
CN109471762A (zh) * 2018-10-30 2019-03-15 新华三技术有限公司 固态硬盘ssd性能测试方法和装置
CN110138366A (zh) * 2019-06-11 2019-08-16 北京理工大学 一种信号波调制方法及系统
CN110989972A (zh) * 2019-12-05 2020-04-10 清华大学 随机数的生成方法及随机数生成器
CN111739648A (zh) * 2020-06-24 2020-10-02 平安医疗健康管理股份有限公司 数据异常检测方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN112379859A (zh) 2021-02-19
WO2022100603A1 (zh) 2022-05-19
KR20220132010A (ko) 2022-09-29

Similar Documents

Publication Publication Date Title
CN112379859B (zh) 二值采样的处理方法及装置、对抗样本的生成方法及装置
Li et al. Toward convolutional neural networks on pulse repetition interval modulation recognition
US11909563B2 (en) Method and apparatus for modulation recognition of signals based on cyclic residual network
CN111985495A (zh) 模型部署方法、装置、系统及存储介质
CN110619264B (zh) 基于UNet++的微地震有效信号识别方法及装置
CN110417694A (zh) 一种通信信号调制方式识别方法
CN108616471B (zh) 一种基于卷积神经网络的信号调制识别方法和装置
CN110690931B (zh) 一种基于多小波基联合的数字信号自适应码率估计方法和装置
CN110717027B (zh) 多轮智能问答方法、系统以及控制器和介质
CN112529897B (zh) 一种图像检测方法、装置、计算机设备及存储介质
CN111931932B (zh) 对抗样本的生成方法及装置、电子设备和可读存储介质
CN114280639A (zh) 一种基于比特遍历的弹载高动态北斗b3i信号捕获方法及装置
Kalade et al. Using sequence to sequence learning for digital bpsk and qpsk demodulation
CN111598020A (zh) 基于半监督生成对抗网络的电磁信号识别方法
CN114358096B (zh) 一种基于逐级门限判决的深度学习摩尔斯码识别方法及装置
CN113792849B (zh) 字符生成模型的训练方法、字符生成方法、装置和设备
CN113516027A (zh) 基于无线电信号融合的数据增强方法及系统
CN109285539B (zh) 一种基于神经网络的声音识别方法
CN115828154B (zh) 一种lpi雷达信号识别方法、系统、设备和存储介质
CN116912920B (zh) 表情识别方法及装置
CN111198789B (zh) 一种fft硬件实现模块的验证方法
CN112329932B (zh) 生成对抗网络的训练方法、装置及终端设备
CN115114625B (zh) 一种基于深度学习的木马家族分类方法和系统
CN113740064B (zh) 滚动轴承故障类型诊断方法、装置、设备及可读存储介质
CN115035897B (zh) 一种关键词检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant