CN116051924A - 一种图像对抗样本的分治防御方法 - Google Patents

一种图像对抗样本的分治防御方法 Download PDF

Info

Publication number
CN116051924A
CN116051924A CN202310003466.6A CN202310003466A CN116051924A CN 116051924 A CN116051924 A CN 116051924A CN 202310003466 A CN202310003466 A CN 202310003466A CN 116051924 A CN116051924 A CN 116051924A
Authority
CN
China
Prior art keywords
attack
image
sample
preprocessing
clusters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310003466.6A
Other languages
English (en)
Other versions
CN116051924B (zh
Inventor
刘熙尧
胡家馨
张健
张昊
赵荣昌
方辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central South University
Original Assignee
Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central South University filed Critical Central South University
Priority to CN202310003466.6A priority Critical patent/CN116051924B/zh
Publication of CN116051924A publication Critical patent/CN116051924A/zh
Application granted granted Critical
Publication of CN116051924B publication Critical patent/CN116051924B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/30—Noise filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种图像对抗样本的分治防御方法，包括以下步骤：S1对图像进行攻击处理生成图像样本；S2对图像样本进行多种图像防御预处理，生成去高频图像样本组；将图像样本输入任务识别模型，模型输出第一特征向量；将去高频图像样本组输入任务识别模型，模型输出第二特征向量组；S3计算第一特征向量和第二特征向量组的差值生成图像高频信息差值组；S4将图像高频信息差值组输入聚类算法，算法输出攻击聚类；S5构建攻击聚类‑预处理权重矩阵，进行矩阵数值填写，形成攻击聚类与预处理方法二部图；S6根据二部图，自适应为不同攻击聚类推荐最合适的预处理方法。本发明弥补现有对抗样本检测算法在对抗攻击分类上的不足，具有实用性。

Description

一种图像对抗样本的分治防御方法
技术领域
本发明涉及图像识别领域，尤其涉及一种图像对抗样本的分治防御方法。
背景技术
现代深度神经网络模型极易受到人类视觉系统几乎无法察觉的微小扰动的对抗攻击。这种攻击可以造成神经网络分类器对原始图像进行错误预测，如果将其应用于现实世界，如恶意代码检测、无人驾驶系统、生物医学领域，将会带来极为严重的后果，所有对于对抗样本防御方法的研究具有很广泛的实际意义。
虽然现有的对抗样本防御方法取得了一定的防御效果，但现有方法仍有局限性。从整体的对抗样本防御架构上看，现有的对抗样本防御方法缺乏从分而治之的角度考虑防御的策略，其中对抗样本的预处理也缺乏智能推荐图像对抗样本分治防御方面的考虑，大多是仅采用一种预处理的防御策略进行多种对抗攻击的防御，泛用性差，缺乏对不同对抗样本的差异化预处理优化和推荐，导致其防御性能不能到达最优。
发明内容
本发明提供了一种图像对抗样本的分治防御方法，用以解决现有图像对抗样本防治方法效率较低的技术问题。
本发明提供的图像对抗样本的分治防御方法，包括以下步骤：
S1、选择一批图像，对图像进行攻击处理，生成图像样本；
S2、对图像样本进行多种图像防御预处理，生成去高频图像样本组；将图像样本输入任务识别模型，任务识别模型输出第一特征向量；将去高频图像样本组输入任务识别模型，任务识别模型输出第二特征向量组；
S3、计算第一特征向量和第二特征向量组的差值，生成图像高频信息差值组；
S4、将图像高频信息差值组输入聚类算法，聚类算法输出不同的攻击聚类；
S5、构建攻击聚类-预处理权重矩阵，并进行矩阵数值的填写，形成不同攻击聚类与不同预处理方法的二部图；
S6、根据二部图，自适应为不同攻击聚类推荐最合适的预处理方法。
优选的，在S1中，攻击处理包括FGSM攻击、PGD攻击、CW攻击和Deepfool攻击。
优选的，在S2中，图像防御预处理包括用于去除图像组内样本的高频噪声的压缩、去噪和转换方法。
优选的，在S4中，聚类算法为k-Means算法。
优选的，在S5中，防御预处理方法的各类别和攻击聚类的各类别作为二部图的节点分别位于二部图权重矩阵的两个轴，不同节点之间的权重关系即为不同预处理方法和不同攻击类型的攻击聚类之间的权重关系；矩阵数值的填写包括：
将攻击聚类中的样本进行二次图像防御预处理，将经过二次图像防御预处理的样本输入任务识别模型，任务识别模型输出样本概率，对样本概率进行判断，若样本概率内占比最大的对应样本与对应的样本输入标签匹配，更新概率设为正值，将样本概率填入对应的聚类-预处理矩阵；若样本概率与样本标签不匹配，更新概率设为负值，将式(1)计算所得的结果填入对应的聚类-预处理矩阵；
Figure BDA0004035023760000021
score＝softmax(fnn(process(x)))
其中，x,y分别是某一攻击聚类的输入样本及对应标签；process()是预处理方法；fnn()为识别模型的预测输出；softmax()是归一化函数；α为惩罚因子，α∈(0,1]。
优选的，在S6中，自适应为不同攻击聚类推荐最合适的推荐预处理方法时，首先提取对应类型的攻击聚类-预处理的二部图子图；
其次基于二部图子图，采用基于资源分配理论的二部图推荐方案，构建面向不同类型的攻击聚类的推荐列表；预处理推荐指标采用平均倒数排名法：
通过资源分配计算得到预处理方法j从给定攻击聚类i中获得的资源uji，计算公式为：
Figure BDA0004035023760000022
其中，wji为权重矩阵中对应的值；pi为攻击聚类分配给预处理方法的初始资源；
根据uji数值的大小进行排序，uji数值最大的预处理方法排入推荐列表的首位，推荐列表内为降序排列。
本发明具有以下有益效果：
本发明的图像对抗样本的分治防御方法，首先进行了预处理，有效的去除了部分图像的高频噪声，从而让任务识别模型更加关注图像内容本身来提升模型识别精度；本发明的图像对抗样本的分治防御方法，从整体的对抗样本防御架构层面建立了一个对抗样本的预处理推荐列表，预处理推荐列表中包含多种预处理方法，并且能够自适应为不同类型的攻击推荐最适合的预处理方法，通过将不同攻击类型的攻击进行分类防御，从而大大提升了防御性能。
除了上面所描述的目的、特征和优点之外，本发明还有其它的目的、特征和优点。下面将参照附图，对本发明作进一步详细的说明。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1是本发明优选实施例的图像对抗样本分治防御方法的系统框架示意图；
图2是本发明优选实施例的提取二部图子图的示意图；
图3是本发明优选实施例的构造权重矩阵的示意图。
具体实施方式
以下结合附图对本发明的实施例进行详细说明，但是本发明可以由权利要求限定和覆盖的多种不同方式实施。
S1、选择一批图像，对所述图像进行攻击处理，生成图像样本；
在S1中，所述攻击处理包括FGSM攻击、PGD攻击、CW攻击和Deepfool攻击。
本发明优选实施例中，对选取的图像进行包括FGSM(Fast Gradient SignMethod，快速梯度符号攻击)、PGD(Project Gradient Descent，迭代梯度下降攻击)、CW(Carlini&Wagner，卡莲娜&瓦格纳攻击)和Deepfool(Deepfool，深度欺骗攻击)等攻击类型的处理，生成图像样本。
S2、对所述图像样本进行多种图像防御预处理，生成去高频图像样本组；将图像样本输入任务识别模型，任务识别模型输出第一特征向量；将去高频图像样本组输入任务识别模型，任务识别模型输出第二特征向量组；
在S2中，所述图像防御预处理包括用于去除图像组内样本的高频噪声的压缩、去噪和转换方法。
任务识别模型用于提取图像特征向量；
预处理包括压缩、去噪和转换；预处理用于去除图像组内样本的高频噪声；
对抗样本的预处理基本思想是通过对输入图像进行压缩、去噪、转换等操作消除图像的对抗扰动，然后使处理后的图像被深度识别模型正确分类。
现有的图像对抗样本预处理主要就是“压缩”、“去噪”、“转换”三大类，本质上图像对抗样本是一种图像的像素级的加性噪声，通过预处理操作后可以有效的去除部分图像高频噪声，从而让识别模型更加关注图像内容本身来提升模型识别精度。
常见的防御对抗扰动的图像预处理方法有基于图像压缩，基于图像去噪以及基于图像转换等方法。本发明优选实施例中，基于图像压缩防御对抗扰动的预处理方法采用压缩模型防御；基于图像去噪防御对抗扰动的预处理方法采用高维表征引导去噪方法；基于输入转换的预处理方法拟采用分层卷积稀疏编码方法。
由于图像防御预处理有多个，所以生成去高频图像样本组；将图像样本输入任务识别模型后，任务识别模型输出第一特征向量，将去高频图像样本组输入任务识别模型，所以任务识别模型输出只包含图像低频信息的第二特征向量组；本发明优选实施例中，任务识别模型采用训练好权重的resnet50。
S3、计算第一特征向量和第二特征向量组的差值，生成图像高频信息差值组；
S4、将图像高频信息差值组输入聚类算法，聚类算法输出不同的攻击聚类；
在S4中，所述聚类算法为k-Means算法；
本发明优选实施例中，采用k-Means算法作为聚类算法，将S2中生成的图像高频信息差值组输入k-Means算法，设置k-Means算法的聚类簇值k设置为3，即通过k-Means算法将输出3类攻击聚类；设置最大迭代次数为300次；本发明优选实施例中，由于FGSM与PGD都是基于梯度的攻击类型，k-Means算法将两者视为同一类攻击聚类，CW和Deepfool被k-Means算法分别聚类为两类攻击聚类；经由k-Means算法的聚类，最终得到三类攻击的聚类簇。
S5、构建攻击聚类-预处理权重矩阵，并进行矩阵数值的填写，形成不同攻击聚类与不同预处理方法的二部图；
在S5中，防御预处理方法的各类别和攻击聚类的各类别作为二部图的节点分别位于二部图权重矩阵的两个轴，不同节点之间的权重关系即为不同预处理方法和不同攻击类型的攻击聚类之间的权重关系；所述矩阵数值的填写包括：
针对每一个攻击聚类的输入，候选预处理方法需要计算其更新概率，并将更新概率保存至权重矩阵中输入数据对应的攻击聚类位置，如图1中攻击聚类-预处理权重矩阵中的probi数据；其中，更新概率的计算是关键一环，概率值的大小直接关系到攻击聚类与预处理之间的偏好关系。本发明优选实施例中采用奖惩结合的概率更新方式：对经过预处理方法后仍然识别正确的，其更新概率设为正值；对经过预处理方法后识别错误的，其更新概率设为负值；
将攻击聚类中的样本进行二次图像防御预处理，将经过二次图像防御预处理的样本输入任务识别模型，任务识别模型输出样本概率，对所述样本概率进行判断，若样本概率内占比最大的对应样本与对应的样本输入标签匹配，更新概率设为正值，将样本概率填入对应的聚类-预处理矩阵；若样本概率与样本标签不匹配，更新概率设为负值，将式(1)计算所得的结果填入对应的聚类-预处理矩阵；
Figure BDA0004035023760000041
score＝softmax(fnn(process(x)))
其中，x,y分别是某一攻击聚类的输入样本及对应标签；process()是预处理方法；fnn()为识别模型的预测输出；softmax()是归一化函数；α为惩罚因子，α∈(0,1]。
本发明优选实施例中，列出了三个预处理方法的结果；该输入数据经预处理后再经过识别模型输出，识别模型采用的是resnet50，惩罚因子设置为0.5，即α＝0.5，每个攻击聚类的样本可以得到3个输出值，依次对应3类预处理方法。该输出值经softmax归一化函数后可以得到[0,1]的分数值score。根据输入数据标签，可以判断识别模型是否判断正确，对应位置的分数进行相应变换以获得更新概率值；
如图3所示，构建权重矩阵的过程中，将经过聚类算法聚类过的输入样本x和对应的样本标签y，输入三种预处理方法，得到三个不同的结果，将这三个结果再输入到识别模型resnet50中得到输出的概率(例如判断为猫的概率为92％，其他的所有类别加起来11％，那么输出就是猫的类别)其对应的标签也是猫就说明经过与处理后识别正确，否则说明判断错误，如果正确那就把这个概率放到对应的聚类-预处理的矩阵中，如果是错误那就按照给定的公式计算值放入权重矩阵。
S6、根据所述二部图，自适应为不同攻击聚类推荐最合适的预处理方法。
在S6中，自适应为不同攻击聚类推荐最合适的推荐预处理方法时，首先提取对应类型的攻击聚类-预处理的二部图子图；
其次基于二部图子图，采用现有基于资源分配理论的二部图推荐方案，构建面向不同类型的攻击聚类的推荐列表；预处理推荐指标采用平均倒数排名法：
通过资源分配计算得到预处理方法j从给定攻击聚类i中获得的资源uji，计算公式为：
Figure BDA0004035023760000051
其中，wji为权重矩阵中对应的值；pi为攻击聚类分配给预处理方法的初始资源；
根据uji数值的大小进行排序，uji数值最大的预处理方法排入推荐列表的首位，推荐列表内为降序排列。
在自适应推荐阶段，参见图2，通过S5构建的二部图提取二部图子图，二部图中攻击聚类和对应的权重就是权重矩阵中对应的更新概率数值；将预处理方法和攻击聚类采用基于资源分配理论的二部图推荐方案生产面向不同类型的攻击聚类的推荐列表；使用式(2)进行预处理方法排序，本发明优选实施例中，二部图子图只有一个攻击聚类，所以i取值为1，预处理方法有3个，所以k取值为3，pi值为1，wji为权重矩阵中对应的值；根据uji数值大小排名，对于给定攻击聚类i来说，获得更多的资源的预处理方法即uji数值最大的预处理方法将列入推荐列表的首位，如图1中所示去噪、压缩、转换，若通过计算“去噪”的uji数值最大，就将其排在最前面，其他的方法排序以此类推。
本发明优选实施例中，采用公开的图像数据集Cifar10；Cifar10由60000张彩色图像组成，每张图像大小为32*32，一共10个类别；每个类别6000张图像；其中50000张用作训练集，其余10000张用作测试集。
本发明优选实施例中，攻击模型使用预训练好的ResNet50这一经典的深度神经网络。对抗攻击方法从对抗攻击库advtorch中采用了4种经典的攻击：FGSM、PGD、DeepFool、CW；其中FGSM、PGD、DeepFool为无穷范数的白盒攻击，CW为二范数的白盒攻击。本发明优选实施例中使用每种对抗攻击方法对图像进行攻击，得到对应的对抗样本。
本发明优选实施例中使用一张2080Ti GPU进行模型的训练。数据集结果见表1；
表1：数据集结果
Figure BDA0004035023760000061
实验结果表明：无攻击一行表示干净样本在resnet50分类器上的精度为93.6％；“无防御”列表示图像对抗样本在识别模型resnet50上的识别准确率，四种攻击依次为28.3％，2.1％，32.5％，1.2％。由表1可以看出，单一的预处理方法针对不同攻击并不是都有效，即不同的预处理方法在处理不同的对抗攻击上优势不一；比如压缩预处理的方法在针对Deepfool攻击时效果更好，而针对其它三种攻击的防御效果不如其他预处理方法；去噪预处理方法在针对FGSM和PGD攻击时效果最好，转换预处理在针对CW攻击时效果最好；通过本发明优选实施例的推荐算法，为FGSM攻击和PGD攻击推荐去噪预处理方法，为CW攻击推荐转换预处理方法，为Deepfool攻击推荐压缩预处理方法后其防御效果有效的得到了提升。
综上可知，本发明的图像对抗样本的分治防御方法，首先进行了预处理，有效的去除了部分图像的高频噪声，从而让任务识别模型更加关注图像内容本身来提升模型识别精度；本发明的图像对抗样本的分治防御方法，从整体的对抗样本防御架构层面建立了一个对抗样本的预处理推荐列表，预处理推荐列表中包含多种预处理方法，并且能够自适应为不同类型的攻击推荐最适合的预处理方法，通过将不同攻击类型的攻击进行分类防御，从而大大提升了防御性能。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种图像对抗样本的分治防御方法，其特征在于，包括以下步骤：
S1、选择一批图像，对所述图像进行攻击处理，生成图像样本；
S2、对所述图像样本进行多种图像防御预处理，生成去高频图像样本组；将图像样本输入任务识别模型，任务识别模型输出第一特征向量；将去高频图像样本组输入任务识别模型，任务识别模型输出第二特征向量组；
S3、计算第一特征向量和第二特征向量组的差值，生成图像高频信息差值组；
S4、将图像高频信息差值组输入聚类算法，聚类算法输出不同的攻击聚类；
S5、构建攻击聚类-预处理权重矩阵，并进行矩阵数值的填写，形成不同攻击聚类与不同预处理方法的二部图；
S6、根据所述二部图，自适应为不同攻击聚类推荐最合适的预处理方法。
2.根据权利要求1所述的图像对抗样本的分治防御方法，其特征在于，在S1中，所述攻击处理包括FGSM攻击、PGD攻击、CW攻击和Deepfool攻击。
3.根据权利要求1所述的图像对抗样本的分治防御方法，其特征在于，在S2中，所述图像防御预处理包括用于去除图像样本内样本的高频噪声的压缩、去噪和转换方法。
4.根据权利要求1所述的图像对抗样本的分治防御方法，其特征在于，在S4中，所述聚类算法为k-Means算法。
5.根据权利要求1所述的图像对抗样本的分治防御方法，其特征在于，在S5中，防御预处理方法的各类别和攻击聚类的各类别作为二部图的节点分别位于二部图权重矩阵的两个轴，不同节点之间的权重关系即为不同预处理方法和不同攻击类型的攻击聚类之间的权重关系；所述矩阵数值的填写包括：
将攻击聚类中的样本进行二次图像防御预处理，将经过二次图像防御预处理的样本输入任务识别模型，任务识别模型输出样本概率，对所述样本概率进行判断，若样本概率内占比最大的对应样本与对应的样本输入标签匹配，更新概率设为正值，将样本概率填入对应的聚类-预处理矩阵；若样本概率与样本标签不匹配，更新概率设为负值，将式(1)计算所得的结果填入对应的聚类-预处理矩阵；
Figure FDA0004035023750000011
score＝softmax(fnn(process(x)))
其中，x,y分别是某一攻击聚类的输入样本及对应标签；process()是预处理方法；fnn()为识别模型的预测输出；softmax()是归一化函数；α为惩罚因子，α∈(0,1]。
6.根据权利要求1所述的图像对抗样本的分治防御方法，其特征在于，在S6中，自适应为不同攻击聚类推荐最合适的推荐预处理方法时，首先提取对应类型的攻击聚类-预处理的二部图子图；
其次基于二部图子图，采用基于资源分配理论的二部图推荐方案，构建面向不同类型的攻击聚类的推荐列表；预处理推荐指标采用平均倒数排名法：
通过资源分配计算得到预处理方法j从给定攻击聚类i中获得的资源uji，计算公式为：
Figure FDA0004035023750000021
其中，wji为权重矩阵中对应的值；pi为攻击聚类分配给预处理方法的初始资源；
根据uji数值的大小进行排序，uji数值最大的预处理方法排入推荐列表的首位，推荐列表内为降序排列。
CN202310003466.6A 2023-01-03 2023-01-03 一种图像对抗样本的分治防御方法 Active CN116051924B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310003466.6A CN116051924B (zh) 2023-01-03 2023-01-03 一种图像对抗样本的分治防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310003466.6A CN116051924B (zh) 2023-01-03 2023-01-03 一种图像对抗样本的分治防御方法

Publications (2)

Publication Number Publication Date
CN116051924A true CN116051924A (zh) 2023-05-02
CN116051924B CN116051924B (zh) 2023-09-12

Family

ID=86115887

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310003466.6A Active CN116051924B (zh) 2023-01-03 2023-01-03 一种图像对抗样本的分治防御方法

Country Status (1)

Country Link
CN (1) CN116051924B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116883780A (zh) * 2023-06-29 2023-10-13 北华航天工业学院 一种基于域变换的自适应位置约束稀疏对抗样本生成方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103456018A (zh) * 2013-09-08 2013-12-18 西安电子科技大学 基于融合和pca核模糊聚类的遥感图像变化检测方法
US20200005133A1 (en) * 2018-06-28 2020-01-02 International Business Machines Corporation Detecting Adversarial Attacks through Decoy Training
CN113822328A (zh) * 2021-08-05 2021-12-21 厦门市美亚柏科信息股份有限公司 防御对抗样本攻击的图像分类方法、终端设备及存储介质
CN114091568A (zh) * 2021-10-20 2022-02-25 华北电力大学 一种面向文本分类模型的字词双粒度对抗防御系统及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103456018A (zh) * 2013-09-08 2013-12-18 西安电子科技大学 基于融合和pca核模糊聚类的遥感图像变化检测方法
US20200005133A1 (en) * 2018-06-28 2020-01-02 International Business Machines Corporation Detecting Adversarial Attacks through Decoy Training
CN113822328A (zh) * 2021-08-05 2021-12-21 厦门市美亚柏科信息股份有限公司 防御对抗样本攻击的图像分类方法、终端设备及存储介质
CN114091568A (zh) * 2021-10-20 2022-02-25 华北电力大学 一种面向文本分类模型的字词双粒度对抗防御系统及方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116883780A (zh) * 2023-06-29 2023-10-13 北华航天工业学院 一种基于域变换的自适应位置约束稀疏对抗样本生成方法
CN116883780B (zh) * 2023-06-29 2023-12-08 北华航天工业学院 一种基于域变换的自适应位置约束稀疏对抗样本生成方法

Also Published As

Publication number Publication date
CN116051924B (zh) 2023-09-12

Similar Documents

Publication Publication Date Title
CN112308158B (zh) 一种基于部分特征对齐的多源领域自适应模型及方法
CN109993100B (zh) 基于深层特征聚类的人脸表情识别的实现方法
CN107392919B (zh) 基于自适应遗传算法的灰度阈值获取方法、图像分割方法
Pare et al. A context sensitive multilevel thresholding using swarm based algorithms
CN110175248B (zh) 一种基于深度学习和哈希编码的人脸图像检索方法和装置
CN115410088B (zh) 一种基于虚拟分类器的高光谱图像领域自适应方法
CN111583031A (zh) 一种基于集成学习的申请评分卡模型建立方法
CN113627543B (zh) 一种对抗攻击检测方法
CN112529638B (zh) 基于用户分类和深度学习的服务需求动态预测方法及系统
CN116051924B (zh) 一种图像对抗样本的分治防御方法
CN111967592A (zh) 基于分离正负扰动生成对抗图像机器识别的方法
CN114399630A (zh) 基于信念攻击和显著区域扰动限制的对抗样本生成方法
CN110175631A (zh) 一种基于共同学习子空间结构和聚类指示矩阵的多视图聚类方法
CN116628524A (zh) 一种基于自适应图注意力编码器的社区发现方法
CN115392474B (zh) 一种基于迭代优化的局部感知图表示学习方法
CN114120367B (zh) 元学习框架下基于圆损失度量的行人重识别方法及系统
CN114168780A (zh) 多模态数据处理方法、电子设备及存储介质
CN116012569B (zh) 一种基于深度学习的含噪数据下的多标签图像识别方法
CN115546567B (zh) 一种无监督领域适应分类方法、系统、设备及存储介质
Alharbi et al. Error-based noise filtering during neural network training
CN117315397B (zh) 一种基于类别曲率的含标签噪声数据分类方法
CN114510715B (zh) 模型的功能安全测试方法、装置、存储介质及设备
Li et al. Defense Against Adversarial Attacks via Adversarial Noise Denoising Networks in Image Recognition
Tantai et al. Interrelated Fusion CNN with Statistical Grouping among Multipatches for Occluded Facial Expression Recognition
CN118116606A (zh) 基于对抗领域自适应的医疗大数据分析方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant