CN110991549A - 一种针对图像数据的对抗样本生成方法及系统 - Google Patents

一种针对图像数据的对抗样本生成方法及系统 Download PDF

Info

Publication number
CN110991549A
CN110991549A CN201911281453.5A CN201911281453A CN110991549A CN 110991549 A CN110991549 A CN 110991549A CN 201911281453 A CN201911281453 A CN 201911281453A CN 110991549 A CN110991549 A CN 110991549A
Authority
CN
China
Prior art keywords
population
model
training
attacked
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911281453.5A
Other languages
English (en)
Inventor
陈香宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Wangyu Renaissance Technology Co ltd
Original Assignee
Chengdu Wangyu Renaissance Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Wangyu Renaissance Technology Co ltd filed Critical Chengdu Wangyu Renaissance Technology Co ltd
Priority to CN201911281453.5A priority Critical patent/CN110991549A/zh
Publication of CN110991549A publication Critical patent/CN110991549A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/12—Computing arrangements based on biological models using genetic models
    • G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming

Abstract

本发明公开了一种针对图像数据的对抗样本生成方法及系统，涉及机器学习技术领域，本发明对获取的原始元素数据集中的数据进行特征提取后，训练一个神经网络模型识别模型作为待攻击模型；然后将待攻击模型作为遗传算法计算适应度的一个参数，使用遗传算法优化产生的扰动的大小和模型对扰动的识别效果的加权和来达到生成有效的扰动结果，本发明使用遗传算法和待攻击训练的模型参数可以对某一样本进行计算，得出能够使待攻击模型产生识别错误的扰动参数作为该样本的对抗样本，进而可以对待攻击模型进行改进，提高待攻击模型对对抗样本的安全性和鲁棒性。

Description

一种针对图像数据的对抗样本生成方法及系统
技术领域
本发明涉及机器学习技术领域，更具体的是涉及一种针对图像数据的对抗样本生成方法及系统。
背景技术
近年来机器学习得到广泛的应用，并在很多领域取得了很好的应用效果，例如在恶意邮件检测、恶意程序检测、图像识别、人脸识别、图像分类、无人驾驶等和人们日常生活息息相关的领域都有机器学习的实例。因此机器学习逐渐的渗入到人们的日常生活中去，成为改善人们生活水平的关键技术。然而，在机器学习给人们的学习和生活带来极大帮助的同时，机器学习算法还存在很多的安全问题，在早期的垃圾邮件检测系统和入侵检测系统中，攻击者针对不同模型的特点来规避检测模型的检测，严重的影响了机器学习的安全性，严重阻碍机器学习的应用，到目前为止还有更多的安全问题未被发现。
对抗样本是可以直接改变或影响机器学习模型识别结果的一类数据，它是使用某种算法对元素数据产生细微的精心构造的扰动后，使原本正常的机器学习模型发生识别错误或者不能识别。对抗样本存在的主要原因之一是模型具有过度线性。大多数的神经网络模型是按照线性块构建的，而他们构成的整体函数具有高度的线性，这些线性函数很容易被优化，但是如果一个线性函数具有很多的输入，那么它的值可以迅速改变。所以当输入样本发生微小变化是很可能会对整个模型的输出结果造成非常大的影响，如果一个模型可以抵抗对抗样本的攻击，那就在一定程度上可以提高机器学习的安全性。
所以，研究对抗样本的生成算法可以在根本上研究对抗样本问题，从根源上找到解决对抗样本问题的关键，改进现有的模型训练方法，提高模型的安全性和鲁棒性，使机器学习模型尽快的进入人们的日常生产和生活中。
发明内容
本发明的目的在于：为了解决现有的机器学习模型具有高度线性，容易被对抗样本攻击的问题，本发明提供一种针对图像数据的对抗样本生成方法及系统，利用遗传算法作为对抗样本生成算法，优化扰动的大小和产生的扰动的有效性，依据上述两个指标的加权和作为种群的适应度，在理想情况下得到一个能够使模型识别结果产生变化并且扰动的大小在一定范围内的扰动向量，以此来改进机器学习模型。
本发明为了实现上述目的具体采用以下技术方案：
一种针对图像数据的对抗样本生成方法，包括如下步骤：
S1数据准备：采集图像原始元素数据，对采集的原始元素数据进行初步处理并划分类别，得到训练特征；
S2模型预训练：利用训练特征训练一个未经过对抗性训练的神经网络模型，得到待攻击模型；
S3生成对抗样本：将待攻击模型作为计算适应度的一个参数，利用遗传算法基于该参数生成对抗样本，具体为：
S3.1数据编码：利用遗传算法对训练特征进行编码；
S3.2初始化种群：设置遗传算法的种群数量、默认种群和迭代次数；
S3.3评估种群适应度：将初始化后的种群与原始元素数据的欧氏距离D(Pi)以及待攻击模型对该种群的识别结果E(Pi)，按照预设的权重相加，得到计算种群适应度的适应度函数F(Pi)：
Figure BDA0002316863790000021
其中，
Figure BDA0002316863790000022
和
Figure BDA0002316863790000023
分别为两者预设的权重；
S3.4种群选择：基于轮盘赌选择算法，按照S3.3计算得到的适应度从大到小对参与变化的所有种群进行排序，选择排名靠前的若干种群作为候选种群；
S3.5种群交叉：根据设定的交叉概率，对候选种群个体进行随机交叉，产生新的个体；
S3.6种群变异：根据设定的变异概率，对候选种群个体进行种群的变异，产生新的个体；
S3.7重复迭代S3.3-S3.6，直至达到迭代次数，最后基于轮盘赌选择算法从候选种群个体和所有新的个体中选择得到最优个体，作为对抗样本输出。
进一步的，所述S2模型预训练中，按照预设的比例将训练特征划分为训练数据集和测试数据集，通过有监督学习，训练得到待攻击模型。
进一步的，因为对图像中的每个像素点进行扰动的搜索速度是非常慢的，因此在S3.2初始化种群前，对图像设置扰动窗口，对扰动窗口内的图像进行扰动的搜索，可以极大提高对抗样本的生成速度，并且能保证样本具有较高的攻击成功率。
一种针对图像数据的对抗样本生成系统，包括：
数据预处理模块：对采集的原始元素数据进行预处理，并分类；
特征提取模块：用于提取训练特征；
数据编码模块：利用遗传算法对训练特征进行统一编码；
扰动窗口模块：根据预设的参数，对扰动窗口内的图像进行扰动的搜索；
初始化种群模块：用于设置遗传算法的种群数量、默认种群和迭代次数；
评估种群适应度模块：对演化中的每一代进行适应性评估，通过适应度函数计算该种群的适应度；
种群选择模块：对参与变化的所有种群按照预设的规则进行选择，得到较优的候选种群；
种群交叉模块：在候选种群中，根据设定的交叉概率，对种群个体进行随机交叉，产生新的个体；
种群变异模块：在候选种群中，根据设定的变异概率，对种群个体进行种群的变异，产生新的个体。
进一步的，所述适应度函数为：
Figure BDA0002316863790000031
其中，D(Pi)为种群与原始元素数据的欧氏距离，E(Pi)为待攻击模型对种群的识别结果，
Figure BDA0002316863790000032
和
Figure BDA0002316863790000033
分别为两者的预设权重。
本发明的有益效果如下：
1、本发明的方法不依赖神经网络的梯度信息，实用性强；通过本发明的对抗样本生成方法可以对待攻击模型进行改进，提高待攻击模型对对抗样本的安全性和鲁棒性。
2、本发明将待攻击模型作为黑盒模型，不需要知道模型内部的参数信息，并且采用遗传算法，易于实现。
3、本发明采用的局部的扰动窗口搜索算法，能够极大的优化搜索时间，改进对抗性训练耗时长的问题。
附图说明
图1是本发明的方法流程示意图。
图2是本发明的CIFAR数据集分类示意图。
图3是本发明的有效攻击图片示意图。
具体实施方式
为了本技术领域的人员更好的理解本发明，下面结合附图和以下实施例对本发明作进一步详细描述。
实施例1
如图1所示，本实施例提供一种针对图像数据的对抗样本生成方法，包括如下步骤：
S1数据准备：采集图像原始元素数据，对采集的原始元素数据进行初步处理并划分类别，得到训练特征，本实施例采用CIFAR10数据集，对CIFAR10数据集中的图像进行提取，将CIFAR10数据集的每类图像进行标签化标记，总共分为10类，分别为类别0到类别10；
S2模型预训练：利用训练特征训练一个未经过对抗性训练的神经网络模型，得到待攻击模型；
S3生成对抗样本：将待攻击模型作为计算适应度的一个参数，利用遗传算法基于该参数生成对抗样本，具体为：
S3.1数据编码：利用遗传算法对训练特征进行编码，因为每一张图像都是彩色的，因此需要对每一张图像的RGB颜色空间三通道进行编码，按照R红、G绿、B蓝三个通道的顺序进行转换，使得图像形成32x32x3的图像张量，其中每个特征的数值为0-255的整数；
设置扰动窗口：对每一张图像RGB颜色空间的三个通道，在图像中间设置15x15的扰动窗口，只对扰动窗口内的图像区域进行扰动，其余区域保持不变；
S3.2初始化种群：设置遗传算法的种群数量、默认种群和迭代次数；
S3.3评估种群适应度：将初始化后的种群与原始元素数据的欧氏距离D(Pi)以及待攻击模型对该种群的识别结果E(Pi)，按照预设的权重相加，得到计算种群适应度的适应度函数F(Pi)：
Figure BDA0002316863790000041
其中，
Figure BDA0002316863790000042
和
Figure BDA0002316863790000043
分别为两者预设的权重；
S3.4种群选择：基于轮盘赌选择算法，按照S3.3计算得到的适应度从大到小对参与变化的所有种群进行排序，选择排名靠前的若干种群作为候选种群，即模仿大自然中的自然淘汰，保留更优的种群作为候选种群；
S3.5种群交叉：根据设定的交叉概率，对候选种群个体进行随机交叉，产生新的个体；
S3.6种群变异：根据设定的变异概率，对候选种群个体进行种群的变异，产生新的个体；
S3.7重复迭代S3.3-S3.6，直至达到迭代次数，最后基于轮盘赌选择算法从候选种群个体和所有新的个体中选择得到最优个体，作为对抗样本输出；
S4将生成的对抗样本对待攻击模型进行测试，若达到给定要求，则得到最终训练好的识别模型，否则调整遗传算法的相关参数后，再次执行S2-S4，直至待攻击模型达到给定要求。
基于上述方法，本实施例还提供一种针对图片数据的对抗样本生成系统，包括：
数据预处理模块：对采集的原始元素数据进行预处理，删除无用信息，并分类；
特征提取模块：用于提取训练特征；
数据编码模块：利用遗传算法对训练特征进行统一编码；
扰动窗口模块：根据预设的参数，对扰动窗口内的图像进行扰动的搜索；
初始化种群模块：用于设置遗传算法的种群数量、默认种群和迭代次数；
评估种群适应度模块：对演化中的每一代进行适应性评估，通过适应度函数计算该种群的适应度；
种群选择模块：对参与变化的所有种群按照预设的规则进行选择，得到较优的候选种群；
种群交叉模块：在候选种群中，根据设定的交叉概率，对种群个体进行随机交叉，产生新的个体；
种群变异模块：在候选种群中，根据设定的变异概率，对种群个体进行种群的变异，产生新的个体。
本实施例的方法不依赖神经网络的梯度信息，实用性强；通过本实施例的对抗样本生成方法可以对待攻击模型进行改进，提高待攻击模型对对抗样本的安全性和鲁棒性。
实施例2
本实施例以CIFAR10数据集作为数据集，如图2所示，将CIFAR10数据集中的图像分为10类，每类含有6000张图像，其中50000张图像用于训练，构成5个训练批，每一批10000张图像，另外10000张图像用于测试，单独构成一批。测试批的图像取自10类中的每一类，每一类随机提取1000张，剩下的图像随机排列组成训练批，值得注意的是，一个训练批中的每一类图像并不一定数量相同，但5个训练批整体包括每一类的5000张图像。
S1数据准备：采集图像原始元素数据，对采集的原始元素数据进行初步处理并划分类别，得到训练特征，本实施例采用CIFAR10数据集，对CIFAR10数据集中的图像进行提取，将CIFAR10数据集的每类图像进行标签化标记，总共分为10类，分别为类别0到类别10；
S2模型预训练：利用训练特征训练一个未经过对抗性训练的神经网络模型，得到待攻击模型；
设计一个如表一所示的使用VGG的卷积神经网络结构，得到一个能够识别CIFAR10数据集的待攻击模型；
表一
Figure BDA0002316863790000051
Figure BDA0002316863790000061
S3生成对抗样本：将待攻击模型作为计算适应度的一个参数，利用遗传算法基于该参数生成对抗样本，具体为：
S3.1数据编码：利用遗传算法对训练特征进行编码，因为每一张图像都是彩色的，因此需要对每一张图像的RGB颜色空间三通道进行编码，按照R红、G绿、B蓝三个通道的顺序进行转换，使得图像形成32x32x3的图像张量，其中每个特征的数值为0-255的整数；
设置扰动窗口：对每一张图像RGB颜色空间的三个通道，在图像中间设置15x15的扰动窗口，只对扰动窗口内的图像区域进行扰动，其余区域保持不变；
S3.2初始化种群：设置遗传算法的种群数量为300、迭代次数为100，对这300个种群进行随机初始化；
S3.3评估种群适应度：将初始化后的种群与原始元素数据的欧氏距离以及待攻击模型对该种群的识别结果作为两个质量，按照预设的权重相加后作为该种群的适应度，适应度函数为：
Figure BDA0002316863790000071
其中，D(Pi)为种群与原始元素数据的欧氏距离，E(Pi)为待攻击模型对种群的识别结果，
Figure BDA0002316863790000072
和
Figure BDA0002316863790000073
分别为两者的预设权重；
S3.4种群选择：使用轮盘赌选择算法，使各个种群个体被选择中的概率与其适应度大小成正比，按照S3.3计算得到的适应度从大到小对参与变化的所有种群进行排序，选择排名靠前的若干种群作为候选种群；
S3.5种群交叉：根据设定的交叉概率，对300个种群个体进行随机交叉，产生新的个体；
S3.6种群变异：根据设定的变异概率，对300个种群个体进行种群的变异，产生新的个体；
S3.7重复迭代S3.3-S3.6到100次，最后基于轮盘赌选择算法从300个种群中的个体和所有新的个体中选择得到最优个体，作为对抗样本输出；
S4利用生成的对抗样本对待攻击模型进行测试，若达到给定要求，则得到最终训练好的待攻击模型，否则调整遗传算法的相关参数后，再次执行S2-S4，直至待攻击模型达到给定要求；
输出结果：得到如图3所示的经过训练得到的有效的攻击图片，该图片的真实图像内容为马，但被识别为鹿。
以上所述，仅为本发明的较佳实施例，并不用以限制本发明，本发明的专利保护范围以权利要求书为准，凡是运用本发明的说明书及附图内容所作的等同结构变化，同理均应包含在本发明的保护范围内。

Claims (5)

1.一种针对图像数据的对抗样本生成方法，其特征在于，包括如下步骤：
S1数据准备：采集图像原始元素数据，对采集的原始元素数据进行初步处理并划分类别，得到训练特征；
S2模型预训练：利用训练特征训练一个未经过对抗性训练的神经网络模型，得到待攻击模型；
S3生成对抗样本：将待攻击模型作为计算适应度的一个参数，利用遗传算法基于该参数生成对抗样本，具体为：
S3.1数据编码：利用遗传算法对训练特征进行编码；
S3.2初始化种群：设置遗传算法的种群数量、默认种群和迭代次数；
S3.3评估种群适应度：将初始化后的种群与原始元素数据的欧氏距离D(Pi)以及待攻击模型对该种群的识别结果E(Pi)，按照预设的权重相加，得到计算种群适应度的适应度函数F(Pi)：
Figure FDA0002316863780000011
其中，
Figure FDA0002316863780000012
和
Figure FDA0002316863780000013
分别为两者预设的权重；
S3.4种群选择：基于轮盘赌选择算法，按照S3.3计算得到的适应度从大到小对参与变化的所有种群进行排序，选择排名靠前的若干种群作为候选种群；
S3.5种群交叉：根据设定的交叉概率，对候选种群个体按照交叉概率进行随机交叉，产生新的个体；
S3.6种群变异：根据设定的变异概率，对候选种群个体按照变异概率进行种群的变异，产生新的个体；
S3.7重复迭代S3.3-S3.6，直至达到迭代次数，最后基于轮盘赌选择算法从候选种群个体和所有新的个体中选择得到最优个体，作为对抗样本输出。
2.根据权利要求1所述的一种针对图像数据的对抗样本生成方法，其特征在于，所述S2模型预训练中，按照预设的比例将训练特征划分为训练数据集和测试数据集，通过有监督学习，训练得到待攻击模型。
3.根据权利要求1所述的一种针对图像数据的对抗样本生成方法，其特征在于：在S3.2初始化种群前，对图像设置扰动窗口，对扰动窗口内的图像进行扰动的搜索。
4.一种针对图像数据的对抗样本生成系统，其特征在于，包括：
数据预处理模块：对采集的原始元素数据进行预处理，并分类；
特征提取模块：用于提取训练特征；
扰动窗口模块：根据预设的参数，对扰动窗口内的图像进行扰动的搜索；
数据编码模块：利用遗传算法对训练特征进行统一编码；
初始化种群模块：用于设置遗传算法的种群数量、默认种群和迭代次数；
评估种群适应度模块：对演化中的每一代进行适应性评估，通过适应度函数计算该种群的适应度；
种群选择模块：对参与变化的所有种群按照预设的规则进行选择，得到较优的候选种群；
种群交叉模块：在候选种群中，根据设定的交叉概率，对候选种群个体进行随机交叉，产生新的个体；
种群变异模块：在候选种群中，根据设定的变异概率，对候选种群个体进行种群的变异，产生新的个体。
5.根据权利要求4所述的一种针对流量数据的对抗样本生成系统，其特征在于，所述适应度函数为：
Figure FDA0002316863780000021
其中，D(Pi)为种群与原始元素数据的欧氏距离，E(Pi)为待攻击模型对种群的识别结果，
Figure FDA0002316863780000022
和
Figure FDA0002316863780000023
分别为两者预设的权重。
CN201911281453.5A 2019-12-13 2019-12-13 一种针对图像数据的对抗样本生成方法及系统 Pending CN110991549A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911281453.5A CN110991549A (zh) 2019-12-13 2019-12-13 一种针对图像数据的对抗样本生成方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911281453.5A CN110991549A (zh) 2019-12-13 2019-12-13 一种针对图像数据的对抗样本生成方法及系统

Publications (1)

Publication Number Publication Date
CN110991549A true CN110991549A (zh) 2020-04-10

Family

ID=70093192

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911281453.5A Pending CN110991549A (zh) 2019-12-13 2019-12-13 一种针对图像数据的对抗样本生成方法及系统

Country Status (1)

Country Link
CN (1) CN110991549A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111401475A (zh) * 2020-04-15 2020-07-10 支付宝(杭州)信息技术有限公司 一种生成攻击样本的方法和系统
CN111582384A (zh) * 2020-05-11 2020-08-25 西安邮电大学 一种图像对抗样本生成方法
CN111598210A (zh) * 2020-04-30 2020-08-28 浙江工业大学 面向基于人工免疫算法对抗攻击的对抗防御方法
CN111797975A (zh) * 2020-06-24 2020-10-20 武汉大学 一种基于微生物遗传算法的黑盒对抗样本生成方法
CN111858343A (zh) * 2020-07-23 2020-10-30 深圳慕智科技有限公司 一种基于攻击能力的对抗样本生成方法
CN111967592A (zh) * 2020-07-09 2020-11-20 中国电子科技集团公司第三十六研究所 基于分离正负扰动生成对抗图像机器识别的方法
CN112926052A (zh) * 2021-02-23 2021-06-08 尚蝉(浙江)科技有限公司 基于遗传算法的深度学习模型安全漏洞测试和修复方法、装置和系统
CN113240767A (zh) * 2021-06-10 2021-08-10 河北华电沽源风电有限公司 一种输电线路通道异常裂缝样本生成方法及系统
CN113704758A (zh) * 2021-07-29 2021-11-26 西安交通大学 一种黑盒攻击对抗样本生成方法及系统
CN114723960A (zh) * 2022-04-02 2022-07-08 湖南三湘银行股份有限公司 一种增强银行账号安全的附加验证方法及系统
CN115271067A (zh) * 2022-08-25 2022-11-01 天津大学 基于特征关系评估的安卓对抗样本攻击方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109766991A (zh) * 2019-01-14 2019-05-17 电子科技大学 一种采用对抗性训练的人工智能优化系统及方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109766991A (zh) * 2019-01-14 2019-05-17 电子科技大学 一种采用对抗性训练的人工智能优化系统及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
焦明连等: "《合成孔径雷达干涉测量理论与应用》", 测绘出版社, pages: 37 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111401475A (zh) * 2020-04-15 2020-07-10 支付宝(杭州)信息技术有限公司 一种生成攻击样本的方法和系统
CN111598210B (zh) * 2020-04-30 2023-06-02 浙江工业大学 面向基于人工免疫算法对抗攻击的对抗防御方法
CN111598210A (zh) * 2020-04-30 2020-08-28 浙江工业大学 面向基于人工免疫算法对抗攻击的对抗防御方法
CN111582384A (zh) * 2020-05-11 2020-08-25 西安邮电大学 一种图像对抗样本生成方法
CN111582384B (zh) * 2020-05-11 2023-09-22 西安邮电大学 一种图像对抗样本生成方法
CN111797975A (zh) * 2020-06-24 2020-10-20 武汉大学 一种基于微生物遗传算法的黑盒对抗样本生成方法
CN111967592A (zh) * 2020-07-09 2020-11-20 中国电子科技集团公司第三十六研究所 基于分离正负扰动生成对抗图像机器识别的方法
CN111967592B (zh) * 2020-07-09 2023-12-05 中国电子科技集团公司第三十六研究所 基于分离正负扰动生成对抗图像机器识别的方法
CN111858343A (zh) * 2020-07-23 2020-10-30 深圳慕智科技有限公司 一种基于攻击能力的对抗样本生成方法
CN112926052A (zh) * 2021-02-23 2021-06-08 尚蝉(浙江)科技有限公司 基于遗传算法的深度学习模型安全漏洞测试和修复方法、装置和系统
CN112926052B (zh) * 2021-02-23 2024-03-29 尚蝉(浙江)科技有限公司 基于遗传算法的深度学习模型安全漏洞测试和修复方法、装置和系统
CN113240767A (zh) * 2021-06-10 2021-08-10 河北华电沽源风电有限公司 一种输电线路通道异常裂缝样本生成方法及系统
CN113704758B (zh) * 2021-07-29 2022-12-09 西安交通大学 一种黑盒攻击对抗样本生成方法及系统
CN113704758A (zh) * 2021-07-29 2021-11-26 西安交通大学 一种黑盒攻击对抗样本生成方法及系统
CN114723960A (zh) * 2022-04-02 2022-07-08 湖南三湘银行股份有限公司 一种增强银行账号安全的附加验证方法及系统
CN115271067A (zh) * 2022-08-25 2022-11-01 天津大学 基于特征关系评估的安卓对抗样本攻击方法
CN115271067B (zh) * 2022-08-25 2024-02-23 天津大学 基于特征关系评估的安卓对抗样本攻击方法

Similar Documents

Publication Publication Date Title
CN110991549A (zh) 一种针对图像数据的对抗样本生成方法及系统
Hu et al. A novel image steganography method via deep convolutional generative adversarial networks
CN110443143B (zh) 多分支卷积神经网络融合的遥感图像场景分类方法
CN109948663B (zh) 一种基于模型抽取的步长自适应的对抗攻击方法
CN108717568B (zh) 一种基于三维卷积神经网络的图像特征提取与训练方法
CN112446423B (zh) 一种基于迁移学习的快速混合高阶注意力域对抗网络的方法
CN110109060A (zh) 一种基于深度学习网络的雷达辐射源信号分选方法及系统
CN109766991A (zh) 一种采用对抗性训练的人工智能优化系统及方法
CN110413924A (zh) 一种半监督多视图学习的网页分类方法
CN109308485A (zh) 一种基于字典域适应的迁移稀疏编码图像分类方法
CN109241741B (zh) 一种基于图像纹理指纹的恶意代码分类方法
CN109961145A (zh) 一种针对图像识别模型分类边界敏感的对抗样本生成方法
CN113779581B (zh) 一种轻量化高精度恶意软件识别模型的鲁棒检测方法及系统
CN108520215B (zh) 基于多尺度联合特征编码器的单样本人脸识别方法
CN112115967B (zh) 一种基于数据保护的图像增量学习方法
CN106127198A (zh) 一种基于多分类器集成的图像文字识别方法
CN113761259A (zh) 一种图像处理方法、装置以及计算机设备
CN109741341A (zh) 一种基于超像素和长短时记忆网络的图像分割方法
CN110826056A (zh) 一种基于注意力卷积自编码器的推荐系统攻击检测方法
CN110390347A (zh) 针对深度神经网络的条件引导式对抗生成测试方法与系统
Shen et al. A direct formulation for totally-corrective multi-class boosting
CN112183652A (zh) 一种联邦机器学习环境下的边缘端偏见检测方法
CN112884061A (zh) 一种基于参数优化元学习的恶意软件家族分类方法
CN109816030A (zh) 一种基于受限玻尔兹曼机的图像分类方法及装置
CN113553624A (zh) 基于改进pate的wgan-gp隐私保护系统和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination