CN111600835A - 一种基于fgsm对抗攻击算法的检测与防御方法 - Google Patents

一种基于fgsm对抗攻击算法的检测与防御方法 Download PDF

Info

Publication number
CN111600835A
CN111600835A CN202010190985.4A CN202010190985A CN111600835A CN 111600835 A CN111600835 A CN 111600835A CN 202010190985 A CN202010190985 A CN 202010190985A CN 111600835 A CN111600835 A CN 111600835A
Authority
CN
China
Prior art keywords
algorithm
sample
network
model
fgsm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010190985.4A
Other languages
English (en)
Other versions
CN111600835B (zh
Inventor
徐嘉龙
董建达
夏洪涛
李鹏
高明
王猛
徐重酉
叶楠
苏建华
赵剑
叶斌
琚小明
张朋飞
于晓蝶
冉清文
刘宇
潘富城
胡妙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Grid Zhejiang Yuyao Power Supply Co ltd
Yongyao Science And Technology Branch Of Ningbo Transmission And Transfer Construction Co ltd
East China Normal University
Ningbo Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Original Assignee
State Grid Zhejiang Yuyao Power Supply Co ltd
Yongyao Science And Technology Branch Of Ningbo Transmission And Transfer Construction Co ltd
East China Normal University
Ningbo Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Grid Zhejiang Yuyao Power Supply Co ltd, Yongyao Science And Technology Branch Of Ningbo Transmission And Transfer Construction Co ltd, East China Normal University, Ningbo Power Supply Co of State Grid Zhejiang Electric Power Co Ltd filed Critical State Grid Zhejiang Yuyao Power Supply Co ltd
Priority to CN202010190985.4A priority Critical patent/CN111600835B/zh
Publication of CN111600835A publication Critical patent/CN111600835A/zh
Application granted granted Critical
Publication of CN111600835B publication Critical patent/CN111600835B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1416—Event detection, e.g. attack signature detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于FGSM对抗攻击算法的检测与防御方法，包括确定被攻击的原始图像样本；将原始图像样本输入网络模型，利用FGSM算法生成对抗图像样本；将原始图像样本输入到目标网络模型，训练目标识别网络；将原始图像样本和对抗图像样本输入检测模型利用DCT算法和SVM算法训练模型并进行检测；对于要进行测试的图像样本进行测试，并输出识别结果。利用FGSM算法生成对抗图像样本，调用训练预输入层的方式对测试样本进行检测，利用目标网络模型进行识别，提升针对引入扰动的了防御能力。

Description

一种基于FGSM对抗攻击算法的检测与防御方法
技术领域
本发明属于计算机领域，特别涉及一种基于FGSM对抗攻击算法的检测与防御方法。
背景技术
机器视觉领域的技术的飞速发展，越来越多的应用也落地。机器视觉的最终目的是制造机器眼睛，像人眼一样来识别这个世界的事物。而其中最核心的就是深度神经网络系统。机器视觉是深度学习发展最为迅速的方向之一。
但随着机器学习计算机视觉的发展，机器学习算法的安全性也得到了广泛的关注。在图像识别中，可以通过在原始图像中添加一些精心制作的扰动使得人眼无法感知，但却可以欺骗神经网络使得其错误分类。对抗样本的特点是寻找尽量小的扰动，而且这些扰动对于观察者来说是不可察觉的。对抗样本的这些特性，给卷积神经网络的使用带来巨大的安全隐患。目前，对抗样本攻击多用于图像识别、图像分类、视频检测等领域。对抗样本的存在，给这些应用带来了巨大的安全挑战。比如，在自动驾驶中，自动驾驶汽车的视觉系统就是利用深度神经网络来识别行人、车辆和道路标志的。如果自动驾驶系统被对抗样本所攻击，在输入中添加精心制作的对抗样本干扰将会使得神经网络驾驶系统识别错误。若左转牌被攻击导致被识别成右转指示牌，或者停止指示牌被攻击导致识别成继续行驶，将会导致巨大的生命财产安全。
发明内容
为了解决现有技术中存在的缺点和不足，本发明提供了用于提高防御性的一种基于FGSM对抗攻击算法的检测与防御方法。
为了达到上述技术目的，本发明提供了一种基于FGSM对抗攻击算法的检测与防御方法，包括：
步骤一：确定被攻击的原始图像样本；
步骤二：将原始图像样本输入网络模型，利用FGSM算法生成对抗图像样本；
步骤三：将原始图像样本输入到目标网络模型，训练目标识别网络；
步骤四：将原始图像样本和对抗图像样本输入检测模型利用DCT算法和 SVM算法训练模型并进行检测；
步骤五：对于要进行测试的图像样本进行测试，并输出识别结果。
可选的，所述步骤二包括：
收集开源的图像识别算法，在本地训练该开源识别算法的图像识别系统；
收集训练集；
确定神经网络的构造；
确定网络的损失函数；
利用FGSM算法调节图像的扰动；
利用梯度下降法训练神经网络；
分类错误且损失函数达到一定的阈值Lmax，当loss≥Lmax停止训练得到对应模型的参数；
利用模型生成对抗样本图像。
可选的，所述利用FGSM算法调节图像的扰动，具体包括如下步骤：
定义原始图像X、扰动η、产生扰动样本X’＝X+η；
FGSM算法生成扰动η＝εsign(▽xJ(θ,x,y))；
其中，模型参数：θ，模型输入即图像:x，结果标签:y，损失函数:J(θ,x,y)，符号函数:sign(),sign(▽xJ(θ,x,y))是描述了x点处loss函数的梯度方向，ε为在该方向上的偏移量级；
最终目的生成扰动样本使得loss函数值变大。
可选的，所述步骤三，包括：
收集开源的图像识别算法，在本地训练该开源识别算法的图像识别系统；
收集训练集；
确定神经网络模型；
确定网络的损失函数；
利用梯度下降法训练神经网络；
利用迁移学习fine-tune的方法，训练识别网络；
使得该模型对验证集的准确率达到一定的阈值M或模型迭代到一定的轮数 N，停止训练模型，保存模型的参数。
可选的，所述步骤四，包括：
构造输入层干扰修正网络；
将原始图像样本Ic和Iρ对抗样本图像输入到预输入层干扰修正网络对应得到
Figure BDA0002415900340000031
将经过修正的图像与对应的输入图像作差如形式
Figure BDA0002415900340000032
作差的结果进行DCT变换即
Figure BDA0002415900340000033
确定SVM二分类器的损失函数最后将结果
Figure BDA0002415900340000034
到SVM二分类函数进行训练，训练过程中冻结目标网络模型的参数，只训练干扰修正模型的参数；最后得到检测对抗样本和测试样本的模型。
可选的，还包括构建检测网络的步骤，所述构建检测网络的步骤，包括：
将五个ResNet-block通过神经网络构建干扰修正网络；
利用二维DCT算法对特征进行变换，具体DCT变换的算法如下：
Figure BDA0002415900340000041
Figure BDA0002415900340000042
将进行DCT变换结果输入到SVM二分类器，SVM二分类器进行非线性优化，SVM分类器的损失函数如下：
Figure BDA0002415900340000043
其中，L(·)表示损失函数，li表示原始图像样本在目标网络中的预测值，
Figure BDA0002415900340000044
表示干扰图像在SVM分类网络中的预测值，θp表示PRN网络的参数值，bp表示PRN网络的参数值。
可选的，还包括：
根据检测模型对所要测试的图像样本Iρ/c进行如公式四所示的检测，
Dρ/c＝B(Iρ/c-R(Iρ/c))公式四；
如果检测出该测试样本Iρ/c是对抗样本，则将该测试样本的修正后的图像样本R(Iρ/c)输入到目标网络模型；如果检测该测试样本Iρ/c不是样本，则该测试样本Iρ/c输入到目标网络模型。
本发明提供的技术方案带来的有益效果是：
利用FGSM算法生成对抗图像样本，调用训练预输入层的方式对测试样本进行检测，利用目标网络模型进行识别。
附图说明
为了更清楚地说明本发明的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提出的一种基于FGSM对抗攻击算法的检测与防御方法的流程示意图；
图2是本申请实施例提出的一种基于FGSM对抗攻击算法的检测与防御方法的总体框架图；
图3是本申请实施例提出的FGSM生成的对抗图像样本的流程图。
具体实施方式
为使本发明的结构和优点更加清楚，下面将结合附图对本发明的结构作进一步地描述。
实施例一
本发明提供了一种基于FGSM对抗攻击算法的检测与防御方法，如图1所示，包括：
步骤一：确定被攻击的原始图像样本；
步骤二：将原始图像样本输入网络模型，利用FGSM算法生成对抗图像样本；
步骤三：将原始图像样本输入到目标网络模型，训练目标识别网络；
步骤四：将原始图像样本和对抗图像样本输入检测模型利用DCT算法和 SVM算法训练模型并进行检测；
步骤五：对于要进行测试的图像样本进行测试，并输出识别结果。
为了使本发明的目的更加清楚明了，以下结合附图对本发明进行进一步详细说明。
如图2所示，本发明提供了一种基于FGSM对抗攻击算法的检测与防御方法，整个方法包括四个主要部分：生成对抗图像样本模块、对抗图像样本的检测模块、目标网络的训练模块以及对测试图像样本的识别模块
以下针对本发明的模块和实现策略进行阐述。
生成对抗图像样本模块如图3所示，具体包括以下步骤：
(1)收集开源的图像识别算法：本发明中，用于图像检测、分类的机器学习算法，通常基于卷积神经网络CNN，包括 RCNN,AlexNet,VGGNet,ResNet,GoogLeNet等多种结构；
(2)收集训练集：本发明中，训练集包括ImageNet,Cifar-10，MNIST等通用训练集，用于对抗式生成网络进行训练，准确、清晰的训练集图像能使训练的神经网络更具有普适性和对抗性；
(3)确定神经网络的构造：本发明中构造若干种适用于不同的开源图像识别算法的神经网络，任一神经网络包括若干层神经网络和/或若干卷积层，任一卷积层包括1种或多种卷积核尺寸；
(4)确定网络的损失函数：损失函数包括对抗性图片与原图之间的差值函数及对抗性图片的分类结果与原图分类结果之间的差值函数；
(5)利用FGSM算法调节图像的扰动具体步骤为：
1)原始图像X，扰动η，产生扰动样本X’＝X+η；
2)FGSM算法生成扰动η＝εsign(▽xJ(θ,x,y))(其中，模型参数：θ，模型输入即图像:x，结果标签:y，损失函数:J(θ,x,y)，符号函数:sign(), sign(▽xJ(θ,x,y))是描述了x点处loss函数的梯度方向，ε为在该方向上的偏移量级)；
3)最终目的生成扰动样本使得loss函数值变大。
(6)利用梯度下降法训练神经网络；
(7)分类错误且损失函数达到一定的阈值Lmax，当loss≥Lmax时停止训练得到对应模型的参数。
(8)利用模型生成对抗样本图像。
对抗图像样本的检测模块如图2大虚线框中所示，具体包括以下步骤:
(1)将五个ResNet-block通过神经网络构建PRN(干扰修正网络)
(2)利用二维DCT算法对特征进行变换，具体DCT变换的算法如下：
Figure BDA0002415900340000071
Figure BDA0002415900340000072
(3)将进行DCT变换结果输入到SVM二分类器，SVM二分类器进行非线性优化，SVM分类器的损失函数如下：
Figure BDA0002415900340000073
其中，L(·)：损失函数，li：原始图像样本在目标网络中的预测值，
Figure BDA0002415900340000074
干扰图像在SVM分类网络中的预测值，θp：PRN网络的参数值，bp：PRN网络的参数值。
目标网络的训练模块，具体包括以下步骤：
(1)收集开源的图像识别算法：本发明中，用于图像检测、分类的机器学习算法，通常基于卷积神经网络CNN，包括 RCNN,AlexNet,VGGNet,ResNet,GoogLeNet等多种结构；
(2)收集训练集：本发明中，训练集包括ImagenNet,Cifar-10，MNIST等通用训练集，用于对抗式生成网络进行训练，准确、清晰的训练集图像能使训练的神经网络更具有普适性和对抗性；
(3)确定神经网络模型：本发明中构造若干种适用于不同的开源图像识别算法的神经网络，任一神经网络包括若干层神经网络和/或若干卷积层，任一卷积层包括1种或多种卷积核尺寸；
(4)确定网络的损失函数：损失函数包括对抗性图片与原图之间的差值函数及对抗性图片的分类结果与原图分类结果之间的差值函数；
(5)利用梯度下降法训练神经网络；
(6)利用迁移学习fine-tune的方法，训练识别网络；
(7)使得该模型对验证集的准确率达到一定的阈值M或模型迭代到一定的轮数N，停止训练模型，保存模型的参数。
目标网络的测试模块，具体包括以下步骤：
(1)检测模型对所要测试的图像样本Iρ/c进行检测，检测公式即 Dρ/c＝B(Iρ/c-R(Iρ/c))；
(2)如果检测出该测试样本Iρ/c是对抗样本，则将该测试样本的修正后的图像样本R(Iρ/c)输入到目标网络模型；如果检测该测试样本Iρ/c不是样本，则该测试样本Iρ/c输入到目标网络模型。
上述实施例中的各个序号仅仅为了描述，不代表各部件的组装或使用过程中的先后顺序。
以上所述仅为本发明的实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，该方法包括：
步骤一：确定被攻击的原始图像样本；
步骤二：将原始图像样本输入网络模型，利用FGSM算法生成对抗图像样本；
步骤三：将原始图像样本输入到目标网络模型，训练目标识别网络；
步骤四：将原始图像样本和对抗图像样本输入检测模型利用DCT算法和SVM算法训练模型并进行检测；
步骤五：对于要进行测试的图像样本进行测试，并输出识别结果。
2.如权利要求1所述的一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，所述步骤二包括：
收集开源的图像识别算法，在本地训练该开源识别算法的图像识别系统；
收集训练集；
确定神经网络的构造；
确定网络的损失函数；
利用FGSM算法调节图像的扰动；
利用梯度下降法训练神经网络；
分类错误且损失函数达到一定的阈值Lmax，当loss≥Lmax停止训练得到对应模型的参数；
利用模型生成对抗样本图像。
3.如权利要求2所述的一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，所述利用FGSM算法调节图像的扰动，具体包括如下步骤：
定义原始图像X、扰动η、产生扰动样本X’＝X+η；
FGSM算法生成扰动
Figure FDA0002415900330000021
其中，模型参数：θ，模型输入即图像:x，结果标签:y，损失函数:J(θ,x,y)，符号函数:sign(),
Figure FDA0002415900330000022
是描述了x点处loss函数的梯度方向，ε为在该方向上的偏移量级；
最终目的生成扰动样本使得loss函数值变大。
4.如权利要求1所述的一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，所述步骤三，包括：
收集开源的图像识别算法，在本地训练该开源识别算法的图像识别系统；
收集训练集；
确定神经网络模型；
确定网络的损失函数；
利用梯度下降法训练神经网络；
利用迁移学习fine-tune的方法，训练识别网络；
使得该模型对验证集的准确率达到一定的阈值M或模型迭代到一定的轮数N，停止训练模型，保存模型的参数。
5.如权利要求1所述的一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，所述步骤四，包括：
构造输入层干扰修正网络；
将原始图像样本Ic和Iρ对抗样本图像输入到预输入层干扰修正网络对应得到
Figure FDA0002415900330000023
将经过修正的图像与对应的输入图像作差如形式
Figure FDA0002415900330000024
作差的结果进行DCT变换即
Figure FDA0002415900330000031
确定SVM二分类器的损失函数最后将结果
Figure FDA0002415900330000032
到SVM二分类函数进行训练，训练过程中冻结目标网络模型的参数，只训练干扰修正模型的参数；最后得到检测对抗样本和测试样本的模型。
6.如权利要求5所述的一种基于FGSM对抗攻击算法的检测与防御方法3构建检测网络，还包括构建检测网络的步骤，其特征在于，所述构建检测网络的步骤，包括：
将五个ResNet-block通过神经网络构建干扰修正网络；
利用二维DCT算法对特征进行变换，具体DCT变换的算法如下：
Figure FDA0002415900330000033
Figure FDA0002415900330000034
将进行DCT变换结果输入到SVM二分类器，SVM二分类器进行非线性优化，SVM分类器的损失函数如下：
Figure FDA0002415900330000035
其中，L(·)表示损失函数，li表示原始图像样本在目标网络中的预测值，
Figure FDA0002415900330000036
表示干扰图像在SVM分类网络中的预测值，θp表示PRN网络的参数值，bp表示PRN网络的参数值。
7.如权利要求1至6任一项所述的一种基于FGSM对抗攻击算法的检测与防御方法，其特征在于，还包括：
根据检测模型对所要测试的图像样本Iρ/c进行如公式四所示的检测，
Dρ/c＝B(Iρ/c-R(Iρ/c))公式四；
如果检测出该测试样本Iρ/c是对抗样本，则将该测试样本的修正后的图像样本R(Iρ/c)输入到目标网络模型；如果检测该测试样本Iρ/c不是样本，则该测试样本Iρ/c输入到目标网络模型。
CN202010190985.4A 2020-03-18 2020-03-18 一种基于fgsm对抗攻击算法的检测与防御方法 Active CN111600835B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010190985.4A CN111600835B (zh) 2020-03-18 2020-03-18 一种基于fgsm对抗攻击算法的检测与防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010190985.4A CN111600835B (zh) 2020-03-18 2020-03-18 一种基于fgsm对抗攻击算法的检测与防御方法

Publications (2)

Publication Number Publication Date
CN111600835A true CN111600835A (zh) 2020-08-28
CN111600835B CN111600835B (zh) 2022-06-24

Family

ID=72192062

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010190985.4A Active CN111600835B (zh) 2020-03-18 2020-03-18 一种基于fgsm对抗攻击算法的检测与防御方法

Country Status (1)

Country Link
CN (1) CN111600835B (zh)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396129A (zh) * 2020-12-08 2021-02-23 中山大学 一种对抗样本检测方法及通用对抗攻击防御系统
CN112465019A (zh) * 2020-11-26 2021-03-09 重庆邮电大学 一种基于扰动的对抗样本生成与对抗性防御方法
CN112597951A (zh) * 2020-12-30 2021-04-02 浙江工业大学 一种基于kd的信号对抗样本检测方法
CN112633280A (zh) * 2020-12-31 2021-04-09 西北大学 一种对抗样本生成方法及系统
CN112839488A (zh) * 2021-01-15 2021-05-25 华南理工大学 一种深度神经网络对抗攻击的检测装置及检测方法
CN112860932A (zh) * 2021-02-19 2021-05-28 电子科技大学 抵御恶意样本攻击的图像检索方法、装置、设备及存储介质
CN112907430A (zh) * 2021-02-20 2021-06-04 百度在线网络技术（北京）有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113222047A (zh) * 2021-05-26 2021-08-06 素泰智能科技(上海)有限公司 一种sar对抗样本生成方法及终端设备
CN113313132A (zh) * 2021-07-30 2021-08-27 中国科学院自动化研究所 对抗样本图像的确定方法、装置、电子设备及存储介质
CN113326873A (zh) * 2021-05-19 2021-08-31 云南电网有限责任公司电力科学研究院 一种基于数据增强的电力设备分合闸状态自动分类方法
CN113421192A (zh) * 2021-08-24 2021-09-21 北京金山云网络技术有限公司 对象统计模型的训练方法、目标对象的统计方法和装置
CN113627543A (zh) * 2021-08-13 2021-11-09 南开大学 一种对抗攻击检测方法
CN113947579A (zh) * 2021-10-18 2022-01-18 北京计算机技术及应用研究所 一种针对图像目标探测神经网络的对抗样本检测方法
CN114510715A (zh) * 2022-01-14 2022-05-17 中国科学院软件研究所 模型的功能安全测试方法、装置、存储介质及设备
CN114882312A (zh) * 2022-05-13 2022-08-09 北京百度网讯科技有限公司 对抗图像样本的生成方法、装置、电子设备以及存储介质
CN114937180A (zh) * 2022-03-30 2022-08-23 北京百度网讯科技有限公司 对抗样本的生成方法、装置及电子设备
CN115292722A (zh) * 2022-10-09 2022-11-04 浙江君同智能科技有限责任公司 基于不同色彩空间的模型安全检测方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103984933A (zh) * 2014-05-29 2014-08-13 海南大学 大数据下基于dwt-dct水印的抗遮挡攻击人脸识别
CN104021567A (zh) * 2014-06-26 2014-09-03 福州大学 基于首数字定律的图像高斯模糊篡改检测方法
CN108446765A (zh) * 2018-02-11 2018-08-24 浙江工业大学 面向深度学习对抗性攻击的多模型协同防御方法
CN108549940A (zh) * 2018-03-05 2018-09-18 浙江大学 基于多种对抗样例攻击的智能防御算法推荐方法及系统
CN109460814A (zh) * 2018-09-28 2019-03-12 浙江工业大学 一种具有防御对抗样本攻击功能的深度学习分类方法
CN109492582A (zh) * 2018-11-09 2019-03-19 杭州安恒信息技术股份有限公司 一种基于算法对抗性攻击的图像识别攻击方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103984933A (zh) * 2014-05-29 2014-08-13 海南大学 大数据下基于dwt-dct水印的抗遮挡攻击人脸识别
CN104021567A (zh) * 2014-06-26 2014-09-03 福州大学 基于首数字定律的图像高斯模糊篡改检测方法
CN108446765A (zh) * 2018-02-11 2018-08-24 浙江工业大学 面向深度学习对抗性攻击的多模型协同防御方法
CN108549940A (zh) * 2018-03-05 2018-09-18 浙江大学 基于多种对抗样例攻击的智能防御算法推荐方法及系统
CN109460814A (zh) * 2018-09-28 2019-03-12 浙江工业大学 一种具有防御对抗样本攻击功能的深度学习分类方法
CN109492582A (zh) * 2018-11-09 2019-03-19 杭州安恒信息技术股份有限公司 一种基于算法对抗性攻击的图像识别攻击方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
严飞等: "基于边界值不变量的对抗样本检测方法", 《网络与信息安全学报》 *
杨弋鋆等: "面向智能驾驶视觉感知的对抗样本攻击与防御方法综述", 《南京信息工程大学学报(自然科学版)》 *
闫明: "基于DCT变换的对抗样本防御方法研究", 《中国优秀硕士学位论文全文电子期刊库》 *

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112465019A (zh) * 2020-11-26 2021-03-09 重庆邮电大学 一种基于扰动的对抗样本生成与对抗性防御方法
CN112396129B (zh) * 2020-12-08 2023-09-05 中山大学 一种对抗样本检测方法及通用对抗攻击防御系统
CN112396129A (zh) * 2020-12-08 2021-02-23 中山大学 一种对抗样本检测方法及通用对抗攻击防御系统
CN112597951A (zh) * 2020-12-30 2021-04-02 浙江工业大学 一种基于kd的信号对抗样本检测方法
CN112597951B (zh) * 2020-12-30 2024-02-13 浙江工业大学 一种基于kd的信号对抗样本检测方法
CN112633280A (zh) * 2020-12-31 2021-04-09 西北大学 一种对抗样本生成方法及系统
CN112633280B (zh) * 2020-12-31 2023-01-31 西北大学 一种对抗样本生成方法及系统
CN112839488A (zh) * 2021-01-15 2021-05-25 华南理工大学 一种深度神经网络对抗攻击的检测装置及检测方法
CN112860932A (zh) * 2021-02-19 2021-05-28 电子科技大学 抵御恶意样本攻击的图像检索方法、装置、设备及存储介质
CN112860932B (zh) * 2021-02-19 2022-08-12 电子科技大学 抵御恶意样本攻击的图像检索方法、装置、设备及存储介质
CN112907430A (zh) * 2021-02-20 2021-06-04 百度在线网络技术（北京）有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113326873A (zh) * 2021-05-19 2021-08-31 云南电网有限责任公司电力科学研究院 一种基于数据增强的电力设备分合闸状态自动分类方法
CN113222047A (zh) * 2021-05-26 2021-08-06 素泰智能科技(上海)有限公司 一种sar对抗样本生成方法及终端设备
CN113313132B (zh) * 2021-07-30 2021-11-09 中国科学院自动化研究所 对抗样本图像的确定方法、装置、电子设备及存储介质
CN113313132A (zh) * 2021-07-30 2021-08-27 中国科学院自动化研究所 对抗样本图像的确定方法、装置、电子设备及存储介质
CN113627543A (zh) * 2021-08-13 2021-11-09 南开大学 一种对抗攻击检测方法
CN113627543B (zh) * 2021-08-13 2023-08-22 南开大学 一种对抗攻击检测方法
CN113421192B (zh) * 2021-08-24 2021-11-19 北京金山云网络技术有限公司 对象统计模型的训练方法、目标对象的统计方法和装置
CN113421192A (zh) * 2021-08-24 2021-09-21 北京金山云网络技术有限公司 对象统计模型的训练方法、目标对象的统计方法和装置
CN113947579A (zh) * 2021-10-18 2022-01-18 北京计算机技术及应用研究所 一种针对图像目标探测神经网络的对抗样本检测方法
CN114510715A (zh) * 2022-01-14 2022-05-17 中国科学院软件研究所 模型的功能安全测试方法、装置、存储介质及设备
CN114937180A (zh) * 2022-03-30 2022-08-23 北京百度网讯科技有限公司 对抗样本的生成方法、装置及电子设备
CN114882312A (zh) * 2022-05-13 2022-08-09 北京百度网讯科技有限公司 对抗图像样本的生成方法、装置、电子设备以及存储介质
CN115292722A (zh) * 2022-10-09 2022-11-04 浙江君同智能科技有限责任公司 基于不同色彩空间的模型安全检测方法和装置
CN115292722B (zh) * 2022-10-09 2022-12-27 浙江君同智能科技有限责任公司 基于不同色彩空间的模型安全检测方法和装置

Also Published As

Publication number Publication date
CN111600835B (zh) 2022-06-24

Similar Documents

Publication Publication Date Title
CN111600835B (zh) 一种基于fgsm对抗攻击算法的检测与防御方法
CN111738315B (zh) 基于对抗融合多源迁移学习的图像分类方法
US11741356B2 (en) Data processing apparatus by learning of neural network, data processing method by learning of neural network, and recording medium recording the data processing method
Rozsa et al. Are accuracy and robustness correlated
US11900645B2 (en) Systems and methods for modeling and controlling physical dynamical systems using artificial intelligence
CN114299313B (zh) 对抗扰动生成方法、装置及存储介质
WO2015192263A1 (en) A method and a system for face verification
CN111507370A (zh) 获得自动标注图像中检查标签的样本图像的方法和装置
CN113283599B (zh) 基于神经元激活率的对抗攻击防御方法
CN114912612A (zh) 鸟类识别方法、装置、计算机设备及存储介质
CN112115761B (zh) 自动驾驶汽车视觉感知系统漏洞检测的对抗样本生成方法
CN112149491A (zh) 用于确定探测到的对象的信任值的方法
Noack et al. An empirical study on the relation between network interpretability and adversarial robustness
CN112446331A (zh) 基于知识蒸馏的时空双流分段网络行为识别方法及系统
Zhang et al. Improved YOLOX fire scenario detection method
Mekala et al. Metamorphic detection of adversarial examples in deep learning models with affine transformations
CN111104831A (zh) 一种视觉追踪方法、装置、计算机设备以及介质
CN114387449A (zh) 一种应对神经网络对抗性攻击的图像处理方法及系统
Wang et al. Occluded vehicle detection with local connected deep model
Ding et al. A zero-shot soft sensor modeling approach using adversarial learning for robustness against sensor fault
CN111950635A (zh) 一种基于分层特征对齐的鲁棒特征学习方法
Liu et al. Stockbridge Damper Identification Of Overhead Power Lines Based On HOG Feature And GWO-SVM
Cao et al. Template matching based on geometric invariance in deep neural network
CN116630816B (zh) 基于原型对比学习的sar目标识别方法、装置、设备及介质
CN116402121A (zh) 一种集成对抗训练方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant