CN112801297B - 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法 - Google Patents

一种基于条件变分自编码器的机器学习模型对抗性样本生成方法 Download PDF

Info

Publication number
CN112801297B
CN112801297B CN202110076669.9A CN202110076669A CN112801297B CN 112801297 B CN112801297 B CN 112801297B CN 202110076669 A CN202110076669 A CN 202110076669A CN 112801297 B CN112801297 B CN 112801297B
Authority
CN
China
Prior art keywords
encoder
sample
label
self
image sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110076669.9A
Other languages
English (en)
Other versions
CN112801297A (zh
Inventor
王莘
俞廷岳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhongshu Shenzhen Times Technology Co ltd
Original Assignee
Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology filed Critical Harbin Institute of Technology
Priority to CN202110076669.9A priority Critical patent/CN112801297B/zh
Publication of CN112801297A publication Critical patent/CN112801297A/zh
Application granted granted Critical
Publication of CN112801297B publication Critical patent/CN112801297B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/3668—Software testing
    • G06F11/3672—Test management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，步骤1：根据训练好的鉴别器调整自编码器生成噪声；步骤2：对生成噪声的自编码器输入图像样本和标签，将图像样本经过自编码器后完成与噪声相叠加生成对抗图像样本；步骤3：将步骤2生成对抗图像样本和标签再次输入训练好的鉴别器；步骤4：使训练好的鉴别器鉴别对抗图像样本并输出标签；步骤5：基于步骤4的输出的标签与步骤3输入的标签进行对比，将对抗图像样本识别为指定的目标标签。本发明在不了解目标模型实现细节的黑盒条件下，快速地、有针对性地生成对抗性样本图像。

Description

一种基于条件变分自编码器的机器学习模型对抗性样本生成 方法
技术领域
本发明属于图像领域；具体涉及一种基于条件变分自编码器的机器学习模型对抗性样本生成方法。
背景技术
机器学习模型的对抗性样本安全性测试分为黑盒环境测试和白盒环境测试两种。在白盒环境中，攻击方能够对目标模型的模型结构、网络参数和训练数据集都具有充分的了解。而在黑盒环境中，攻击方不能充分了解目标模型的信息。由于黑盒威胁模型更符合实际应用场景的要求，在许多应用场景中都需要在黑盒环境下进行对抗性样本安全性测试。
目前大部分在黑盒环境下生成对抗性样本的方法都利用了对抗性样本的可转移性，这意味着在模型A上生成的对抗性样本可以以可观的概率成功攻击执行相似任务的模型B。因此现有的一大类黑盒攻击方案都以白盒攻击方法作为基础。他们往往在一个模型结构、参数都已知，被用于解决相似任务的替代模型上使用梯度上升算法生成对抗性样本，然后将它们输入到目标模型中实现安全性测试。这类方法生成的对抗性样本攻击效果较好，但主要局限性在于算法时间复杂度较高，实时性较差，因此无法被应用于大型数据集和规模较大的机器学习系统中。
为解决这一问题，部分研究提出了基于生成模型的方法，在某种程度上规避了这一问题。因为用于生成样本对抗性样本的神经网络训练完成后，可以在短时间内大量生成对抗性样本，从而将时间消耗转移到了生成器训练环节，在降低算法时间消耗的基础上保证了对抗性样本安全性测试的实时性。这类方法目前存在的问题是往往无法选择特定的目标类，即它们将样本扰动到特定的单一目标类，或随机的任意错误类。这大大限制了这类方法的应用场景。
发明内容
本发明提供了一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，用以解决上述问题。
本发明通过以下技术方案实现：
一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，所述对抗性样本生成方法包括以下步骤：
步骤1：根据训练好的鉴别器调整自编码器生成噪声；
步骤2：对生成噪声的自编码器输入图像样本和标签，将图像样本经过自编码器后完成与噪声相叠加生成对抗图像样本；
步骤3：将步骤2生成对抗图像样本和标签再次输入训练好的鉴别器；
步骤4：使训练好的鉴别器鉴别对抗图像样本并输出标签；
步骤5：基于步骤4的输出的标签与步骤3输入的标签进行对比，将对抗图像样本识别为指定的目标标签。
进一步的，所述步骤1中自编码器生成噪声具体为，所述自编码器包括编码器和解码器；
所述编码器的卷积层将编码器特征输出和攻击目标的组合作为输入；
所述编码器的分层将信号进行逆卷积，生成输出噪声G(E(x),c)；
通过对所述输出噪声乘以8/255，再将其添加到原始图像样本上；
再将每个位置上的像素值裁剪到区间[0,1]上，即得到了最终的对抗图像样本
xadv＝clip[0,1](x+T(G(E(x),c)))。
进一步的，所述自编码器的训练方法为，根据最小化以下损失函数
LossD＝w·Ec～Y[-logD(G(E(x),c))]+(1-w)·Ek～Y-c[logD(G(E(x),k))]
其中Y代表所有标签的集合，f(x)代表x的真实标签，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上；
所述LossD为自编码器生成的对抗性样本应该尽量被识别为目标标签c；在损失函数中增加一个正则化项Ek～Y-c[logD(G(E(x),k))]，反向增强生成样本和目标类别的相关性，使生成器生成有目标的对抗图像样本。
进一步的，所述鉴别器包括编码部分和鉴别部分；
所述编码部分由若干个普通的神经网络卷积层构成其输入为一个代表图像信息的张量，其维度为颜色通道*长度*宽度，输出的结果为一个一维向量；
所述鉴别部分的输入为编码部分输出的特征以及图像的标签向量这两个向量的拼接；拼接后的特征向量被输入到网络主体中，输出的结果为一个二元判断，即真或假。
进一步的，所述鉴别器的训练方法为，通过梯度下降算法最小化如下的损失函数：
LossD＝Ec～Y-f(x)[-logD(x,f(x))+logD(x,c)]
其中Y代表所有标签的集合，f(x)代表x的真实标签，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上。
本发明的有益效果是：
本发明用于针对任意机器学习图像分类模型，在不了解目标模型实现细节的黑盒条件下，快速地、有针对性地生成对抗性样本图像。对抗性样本应满足与原始的合法样本在视觉上没有显著差异，并且能够被目标模型错误地识别。对抗性样本可用于测试机器学习图像分类模型在可能存在恶意用户的环境下，面对恶意输入保持正常工作性能的能力。
附图说明
附图1是本发明的工作示意图。
附图2是本发明鉴别器的工作示意图。
附图3是本发明自编码器的工作示意图。
附图4是本发明在不同鉴别器结构下，超参数lamda_w对最终攻击成功率的影响示意图。
具体实施方式
下面将结合本发明实施例中的附图对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例1
如图1所示，一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，所述对抗性样本生成方法包括以下步骤：
步骤1：根据训练好的鉴别器调整自编码器生成噪声；
步骤2：对生成噪声的自编码器输入图像样本和标签，将图像样本经过自编码器后完成与噪声相叠加生成对抗图像样本；
步骤3：将步骤2生成对抗图像样本和标签再次输入训练好的鉴别器；
步骤4：使训练好的鉴别器鉴别对抗图像样本并输出标签；
步骤5：基于步骤4的输出的标签与步骤3输入的标签进行对比，将对抗图像样本识别为指定的目标标签。
所以鉴别器的输入标签为非正确类的随机标签。
如图3所示，进一步的，所述步骤1中自编码器生成噪声具体为，所述自编码器包括编码器和解码器；编码器部分通过一系列卷积层的组合，在分层提取输入图像的同时降低特征的维度，最终输出一个一维特征向量E(x)；该过程又可称为“下采样”；
所述编码器的卷积层将编码器特征输出和攻击目标的组合作为输入；
所述编码器的分层将信号进行逆卷积，生成输出噪声G(E(x),c)；
通过对所述输出噪声乘以8/255，再将其添加到原始图像样本上；
再将每个位置上的像素值裁剪到区间[0,1]上，即得到了最终的对抗图像样本
xadv＝clip[0,1](x+T(G(E(x),c)))。
进一步的，所述自编码器的训练方法为，根据最小化以下损失函数
LossD＝w·Ec～Y[-logD(G(E(x),c))]+(1-w)·Ek～Y-c[logD(G(E(x),k))]
其中Y代表所有标签的集合，f(x)代表x的真实标签，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上；
所述LossD为自编码器生成的对抗性样本应该尽量被识别为目标标签c；为了在自编码器训练的初始阶段为训练提供动力，在尝试使生成的伪造样本-目标标签对被识别为合法样本的同时，我们还要让伪造样本尽量不被识别为目标标签以外的类别，对于任意的非目标标签k～Y-c，要让伪造样本k被识别为假；因此为了达到这一目的，我们在损失函数中增加一个正则化项Ek～Y-c[logD(G(E(x),k))]，反向增强生成样本和目标类别的相关性，使生成器生成有目标的对抗图像样本。超参数用于平衡两个生成目标的效果，取0.5即可。
如图2所示，进一步的，所述鉴别器包括编码部分和鉴别部分；
所述编码部分由若干个普通的神经网络卷积层构成其输入为一个代表图像信息的张量，其维度为颜色通道*长度*宽度，输出的结果为一个一维向量；这个一维向量是输入图像的特征表示；
所述鉴别部分的输入为编码部分输出的特征以及图像的标签向量这两个向量的拼接；拼接后的特征向量被输入到网络主体中，输出的结果为一个二元判断，即真或假。所述网络主体为一个全连接神经网络。
进一步的，所述鉴别器的训练方法为，通过梯度下降算法最小化如下的损失函数：
LossD＝Ec～Y-f(x)[-log D(x,f(x))+log D(x,c)]
其中Y代表所有标签的集合，f(x)代表x的真实标签，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上。
最小化该损失函数的意义是，尽量将所有样本和它正确标签的组合的得分最大化，并将所有样本和错误标签的组合的得分最小化。
具体来说，鉴别器的设计有许多可行方案，当针对不同的目标模型进行对抗性样本生成时，采用不同结构的鉴别器会有不同的效果。在本发明中，编码部分可以采用被广泛使用的任何深度卷积神经网络结构中的一种，包括Resnet、VGG、MobileNet等等。而鉴别部分由一个三层的全连接神经网络组成，其神经元的特征维度分别为256×256、256×128、128×1。
鉴别器的任务为判断一个图像被一个图像分类模型所分类的结果是否正确。即当一个图像被分类正确时，输入图像的特征输出和图像正确标签向量的组合会被鉴别器识别为真；相反，输入图像的特征输出和错误标签向量的组合会被识别为假。
实施例2
本发明在两个成熟的图像分类数据集Fashion-MNIST和CIFAR10上进行了实施和实验。其中Fashion-MNIST由德国研究机构Zalando Research提出，用于替代MNIST。其中训练集包含60000个样例，测试集包含10000个样例，其中的样本都来自日常穿着的衣裤鞋包，每个都是28×28的灰度图像，其中总共有10类标签，每张图像都有各自的标签；CIFAR-10是由Alex Krizhevsky和Ilya Sutskever收集并由加拿大政府投资的包含10个类的通用目标识别数据集。它还包含60,000张训练图像和10,000张测试图像，每一张都是32x32的rgb像素。
本发明在CIFAR10上采用的编码器和解码器的网络结构如下表所示：
Figure BDA0002907788490000061
其中LeakyReLu代表Leaky ReLu激活函数，Conv代表卷积层，BN代表BatchNormalize函数，Fully Connected代表全连接神经网络层。
在Fashion-MNIST上采用的编码器和解码器的网络结构如下表所示：
Figure BDA0002907788490000062
在实验中，我们将一个合法样本x和一个随机选择的标签c～Y-y被输入到不同的对抗性样本生成器中，生成一个对抗性样本x_head。如果x_head被目标模型分类为c，则认为此样本是一个成功的对抗性样本，否则认为此样本是失败的。我们在实验中使用测试集中的所有10000个样本进行实验，用成功样本占总样本数的比例来计算攻击的成功率。另一个评价攻击效果的辅助指标是用l2范数来衡量的扰动大小。如果对抗性扰动的平均幅度越小，认为对抗性样本越不容易被防御者发现，因此能实现更好的攻击效果。
图4展示了在不同鉴别器结构下，超参数lamda_w对最终攻击成功率的影响。该试验在CIFAR10数据集上进行。
下表展示了在Fashion MNIST数据集上，不同鉴别器结构对生成结果的影响，以及和其他生成方法的效果对比：
Figure BDA0002907788490000071
下表展示了在CIFAR10数据集上，不同鉴别器结构对生成结果的影响，以及和其他生成方法的效果对比：
Figure BDA0002907788490000072
本发明旨在训练一个对抗性样本生成器，它能够针对任意基于神经网络的图像分类模型生成对抗性样本。对抗性样本能够以可观的成功率被目标模型错误分类，且难以被人类通过肉眼进行分辨。本发明的总体框架以及生成对抗性样本的总体流程如图1所示。
该框架由一个编码神经网络(编码器)和一个解码神经网络(解码器)组成。生成的公式为G(E(x),c)。其中E为编码器，其针对输入样本x输出一个特定的隐藏表示z＝E(x)。而生成器G(z,c)用于将隐藏表示z映射为原始样本的一个重构版本η＝G(z,c)，它与错误类别参数c相关。最后通过变换T(η)将η转化为一个加性噪声，使输入样本被目标模型误分类为选定的任意类别c。因此，本方法试图解决如下优化问题：
Figure BDA0002907788490000073
其中Loss(x+T(η),c)为目标模型对生成的对抗性样本在错误类别c上的损失，X为合法样本的分布，Y为所有可能类别的集合。
具体来说，Loss(x,y)为交叉熵损失函数。当Loss(x,y)为0时，代表目标模型将输入样本x分类为y。最小化该损失函数的期望，目的是在攻击者无论选择任何目标类别时，攻击者都能成功地操纵目标模型输出的标签。
对于变换T(η)，一个合理的选择是令T(η)＝ò·T(η)，其中ò是一个[0,1]上的实数。这一策略实质上使得生成的对抗性样本是l∞有界的，即图像中各个像素上的扰动大小最大不会超过ò。在发明的其余部分均选择T(η)的这一定义。因此，对于一个正常的输入样本x，生成的对抗性样本为xadv＝clip[0,1](x+T(G(E(x),c)))。

Claims (4)

1.一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，其特征在于，所述对抗性样本生成方法包括以下步骤：
步骤1：根据训练好的鉴别器调整自编码器生成噪声；
步骤2：对生成噪声的自编码器输入图像样本和标签，将图像样本经过自编码器后完成与噪声相叠加生成对抗图像样本；
步骤3：将步骤2生成对抗图像样本和标签再次输入训练好的鉴别器；
步骤4：使训练好的鉴别器鉴别对抗图像样本并输出标签；
步骤5：基于步骤4的输出的标签与步骤3输入的标签进行对比，将对抗图像样本识别为指定的目标标签；
所述步骤1中自编码器生成噪声具体为，所述自编码器包括编码器和解码器；
所述解码器的反卷积层将编码器特征输出和攻击目标的组合作为输入；
所述解码器的反卷积层将信号进行逆卷积，生成输出噪声G(E(x),c)；
通过对所述输出噪声乘以8/255，再将其添加到原始图像样本上；
再将每个位置上的像素值裁剪到区间[0,1]上，即得到了最终的对抗图像样本
xadv＝clip[0,1](x+T(G(E(x),c)))。
2.根据权利要求1所述一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，其特征在于，所述自编码器的训练方法为，最小化以下损失函数
LossD1＝w·Ec～Y[-logD(G(E(x),c))]+(1-w)·Ek～Y-c[logD(G(E(x),k))]
其中Y代表所有标签的集合，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上；
所述LossD1为自编码器生成的对抗性样本应该尽量被识别为目标标签；在损失函数中增加一个正则化项Ek～Y-c[log D(G(E(x),k))]，反向增强生成样本和目标类别的相关性，使生成器生成有目标的对抗图像样本。
3.根据权利要求1所述一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，其特征在于，所述鉴别器包括编码部分和鉴别部分；
所述编码部分由若干个普通的神经网络卷积层构成，其输入为一个代表图像信息的张量，其维度为颜色通道*长度*宽度，输出的结果为一个一维向量；
所述鉴别部分的输入为编码部分输出的特征以及图像的标签向量这两个向量的拼接；拼接后的特征向量被输入到网络主体中，输出的结果为一个二元判断，即真或假。
4.根据权利要求3所述一种基于条件变分自编码器的机器学习模型对抗性样本生成方法，其特征在于，所述鉴别器的训练方法为，通过梯度下降算法最小化如下的损失函数：
LossD2＝Ec～Y-f(x)[-log D(x,f(x))+log D(x,c)]
其中Y代表所有标签的集合，f(x)代表x的真实标签，c的含义是除了正确标签外的所有其他标签，而D(x)即表示鉴别器为输入样本的打分的值，输入样本的打分的值在区间[0,1]上。
CN202110076669.9A 2021-01-20 2021-01-20 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法 Active CN112801297B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110076669.9A CN112801297B (zh) 2021-01-20 2021-01-20 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110076669.9A CN112801297B (zh) 2021-01-20 2021-01-20 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法

Publications (2)

Publication Number Publication Date
CN112801297A CN112801297A (zh) 2021-05-14
CN112801297B true CN112801297B (zh) 2021-11-16

Family

ID=75810853

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110076669.9A Active CN112801297B (zh) 2021-01-20 2021-01-20 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法

Country Status (1)

Country Link
CN (1) CN112801297B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113392906B (zh) * 2021-06-16 2022-04-22 西华大学 基于图像高阶引导编码重组的对抗样本恢复方法及系统
CN114078201B (zh) * 2021-11-23 2023-04-07 中国人民解放军国防科技大学 多目标类别对抗样本生成方法及相关设备
CN114663946B (zh) * 2022-03-21 2023-04-07 中国电信股份有限公司 对抗样本生成方法、装置、设备及介质
CN114898168B (zh) * 2022-03-28 2024-05-17 云南大学 基于条件标准流模型的黑盒对抗样本生成方法
CN116910752B (zh) * 2023-07-17 2024-03-08 重庆邮电大学 一种基于大数据的恶意代码检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948776A (zh) * 2019-02-26 2019-06-28 华南农业大学 一种基于lbp的对抗网络模型图片标签生成方法
CN111401138A (zh) * 2020-02-24 2020-07-10 上海理工大学 生成对抗神经网络训练过程的对抗优化方法
CN111598805A (zh) * 2020-05-13 2020-08-28 华中科技大学 一种基于vae-gan的对抗样本防御方法及系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10332001B2 (en) * 2016-12-15 2019-06-25 WaveOne Inc. Enhanced coding efficiency with progressive representation
KR102070049B1 (ko) * 2017-08-08 2020-04-01 한국과학기술원 보조정보를 이용하는 조건부 변분 오토인코더 기반의 협업 필터링 방법 및 장치
US11238885B2 (en) * 2018-10-29 2022-02-01 Microsoft Technology Licensing, Llc Computing system for expressive three-dimensional facial animation
CN110113353B (zh) * 2019-05-20 2021-06-22 桂林电子科技大学 一种基于cvae-gan的入侵检测方法
CN110580695B (zh) * 2019-08-07 2022-06-21 深圳先进技术研究院 一种多模态三维医学影像融合方法、系统及电子设备
CN111651561B (zh) * 2020-06-05 2023-05-02 拾音智能科技有限公司 一种高质量困难样本生成方法
CN111967502B (zh) * 2020-07-23 2021-09-24 电子科技大学 一种基于条件变分自编码器的网络入侵检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948776A (zh) * 2019-02-26 2019-06-28 华南农业大学 一种基于lbp的对抗网络模型图片标签生成方法
CN111401138A (zh) * 2020-02-24 2020-07-10 上海理工大学 生成对抗神经网络训练过程的对抗优化方法
CN111598805A (zh) * 2020-05-13 2020-08-28 华中科技大学 一种基于vae-gan的对抗样本防御方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Learning universal adversarial perturbation with generative models;Jamie Hayes 等;《IEEE Security and Privacy Workshops (SPW )》;20180806;第43-49页 *

Also Published As

Publication number Publication date
CN112801297A (zh) 2021-05-14

Similar Documents

Publication Publication Date Title
CN112801297B (zh) 一种基于条件变分自编码器的机器学习模型对抗性样本生成方法
CN110837850B (zh) 一种基于对抗学习损失函数的无监督域适应方法
Wan et al. Variational autoencoder based synthetic data generation for imbalanced learning
CN111753881B (zh) 一种基于概念敏感性量化识别对抗攻击的防御方法
CN109800875A (zh) 基于粒子群优化和降噪稀疏编码机的化工故障检测方法
CN110175248B (zh) 一种基于深度学习和哈希编码的人脸图像检索方法和装置
CN111652290A (zh) 一种对抗样本的检测方法及装置
KR102284356B1 (ko) 컴퓨터 네트워크 시스템의 생성적 대립 네트워크를 이용한 데이터의 불균형 해결방법
CN113378949A (zh) 一种基于胶囊网络和混合注意力的双重生成对抗学习方法
CN114724189B (zh) 一种目标识别的对抗样本防御模型训练方法、系统及应用
CN116843400A (zh) 基于图表示学习的区块链碳排放交易异常检测方法和装置
CN113627543A (zh) 一种对抗攻击检测方法
CN113034332A (zh) 不可见水印图像、后门攻击模型构建、分类方法及系统
Schliebs et al. Integrated feature and parameter optimization for an evolving spiking neural network
CN114638356B (zh) 一种静态权重引导的深度神经网络后门检测方法及系统
CN115426194A (zh) 数据处理方法及装置、存储介质及电子设备
Eiermann Improving neural network trojan detection via network abstraction
CN118115862B (zh) 一种人脸图像篡改异常检测方法、装置及介质
Maggipinto et al. β-variational classifiers under attack
Mirnateghi et al. Deep Bayesian Image Set Classification Approach for Defense against Adversarial Attacks
Feng et al. Intelligent Evaluation Mechanism for Cloud-Edge-End based Next Generation Ship Simulator towards Maritime Pilot Training
Rando et al. Exploring adversarial attacks and defenses in vision transformers trained with DINO
EP2718872A1 (en) Nonlinear classification of data
Shi et al. Enhancing IoT Flow Anomaly Detection with Differential Optimal Feature Subspace
Ishikawa Structural learning and rule discovery

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20221208

Address after: 518049 516, Ideal Residence, No. 6, Meikang Road, Meidu Community, Meilin Street, Futian District, Shenzhen, Guangdong

Patentee after: Shenzhen Shu'an Zhixing Technology Co.,Ltd.

Address before: 150001 No. 92 West straight street, Nangang District, Heilongjiang, Harbin

Patentee before: HARBIN INSTITUTE OF TECHNOLOGY

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230719

Address after: 518049 22H, Ideal Times Building, No. 8, Meikang Road, Meidu Community, Meilin Street, Futian District, Shenzhen, Guangdong

Patentee after: Zhongshu (Shenzhen) Times Technology Co.,Ltd.

Address before: 518049 516, Ideal Residence, No. 6, Meikang Road, Meidu Community, Meilin Street, Futian District, Shenzhen, Guangdong

Patentee before: Shenzhen Shu'an Zhixing Technology Co.,Ltd.