CN110163093B - 一种基于遗传算法的路牌识别对抗防御方法 - Google Patents

一种基于遗传算法的路牌识别对抗防御方法 Download PDF

Info

Publication number
CN110163093B
CN110163093B CN201910297748.5A CN201910297748A CN110163093B CN 110163093 B CN110163093 B CN 110163093B CN 201910297748 A CN201910297748 A CN 201910297748A CN 110163093 B CN110163093 B CN 110163093B
Authority
CN
China
Prior art keywords
guideboard
confrontation
image
sample
genetic algorithm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910297748.5A
Other languages
English (en)
Other versions
CN110163093A (zh
Inventor
陈晋音
陈治清
沈诗婧
苏蒙蒙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN201910297748.5A priority Critical patent/CN110163093B/zh
Publication of CN110163093A publication Critical patent/CN110163093A/zh
Application granted granted Critical
Publication of CN110163093B publication Critical patent/CN110163093B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/12—Computing arrangements based on biological models using genetic models
    • G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Genetics & Genomics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Physiology (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于遗传算法的路牌识别对抗防御方法，包括：(1)构建训练集、测试集以及对抗集；(2)构建路牌分类器，并利用训练集、测试集对路牌分类器进行训练，获得路牌识别模型；(3)根据遗传算法构建路牌攻击模型，利用路牌攻击模型生成对抗样本；(4)矫正对抗样本，并将对抗样本应用在物理场景下，再采集对抗样本的物理图像；(5)将对抗样本的物理图像输入至路牌识别模型，筛选得到高质量的对抗样本；(6)将高质量的对抗样本添加到训练集中，利用训练集再训练路牌识别模型，实现对路牌识别模型的对抗防御优化；(7)利用对抗防御优化后的路牌识别模型对路牌图像进行识别，以实现路牌识别的对抗防御。

Description

一种基于遗传算法的路牌识别对抗防御方法
技术领域
本发明属于机器学习、计算机视觉、智能交通安全领域，尤其是涉及一种基于遗传算法的路牌识别对抗防御方法。
背景技术
随着机器学习的快速发展，深度神经网络(DNNs)已经成为我们时代最突出的技术之一，由于它在完成需要高度抽象特征的人工智能任务上具有极高的准确率，深度神经网络的应用越来越广泛，并且发挥了很好的效果。在研究者们的努力下，其中基于深度神经网络的路牌识别技术的识别精度不断提高，甚至已经能够超越人类，对人们的日常生活以及当代正在兴起的智能电子警察、智能驾驶和智能交通等都产生了深远的影响。
尽管今天路牌识别已经取得了良好的性能，然而，最近一些研究表明，深度神经网络的结构是极其脆弱的，在面对一些对抗性的例子时，深度神经网络容易被愚弄。切确的说，当攻击者通过一些特定的对抗策略，在模型的输入中加入了小规模的扰动和不可察觉的干扰来欺骗深度神经网络，使其无法做出正确的预测，甚至可以操纵预测结果。反映在路牌识别的现实场景中，试想当一辆在繁杂的市区中行驶的自动驾驶汽车因受到对抗性例子的影响而错误识别路牌、突然提速，这将引起严重的后果。路牌识别在其它面向安全领域的场景下同样存在隐患。
目前对于路牌识别的图像攻击主要是基于白盒模型，然而这种攻击存在以下挑战：(1)白盒模型的攻击需要获得对方路牌识别模型的内部参数。(2)单个扰动可能如此之小以至于很难为摄像机所捕捉。(3)路牌环境的多变可能引起扰动的失效。(4)扰动在印刷的过程中可能存在失真。因此，解决上述问题，基于黑盒模型生成健壮的路牌对抗样本将引起更大的危害。
鉴于路牌识别技术的商业化以及存在上述的安全威胁，研究一种基于GA的路牌识别对抗防御策略，通过生成对抗样本来训练一种对抗性的路牌识别鲁棒模型具有重要的价值与和实践意义。
发明内容
鉴于目前路牌识别存在上述的安全隐患，本发明提供一种基于GA的路牌识别对抗防御方法，通过进化寻优生成对抗样本来进行对抗训练，从而得到对抗性的路牌识别鲁棒模型。
本发明的技术方案为：
一种基于遗传算法的路牌识别对抗防御方法，包括以下步骤：
(1)采集路牌图像，并对路牌图像进行预处理后分成训练集、测试集以及用于生成对抗样本的对抗集；
(2)构建路牌分类器，并利用训练集、测试集对路牌分类器进行训练，获得路牌识别模型；
(3)根据遗传算法构建路牌攻击模型，即以染色体作为扰动矩阵，以扰动矩阵与对抗集中的路牌图像叠加后形成的图像矩阵作为遗传算法中的个体，然后利用遗传算法对个体进行择优，输出的最优个体即为对抗样本；
(4)矫正对抗样本，缩放打印矫正的对抗样本，将打印的对抗样本应用在物理场景下，再采集对抗样本的物理图像；
(5)将对抗样本的物理图像输入至路牌识别模型，利用路牌识别模型对对抗样本进行评估，筛选得到高质量的对抗样本；
(6)将高质量的对抗样本添加到训练集中，利用训练集再训练路牌识别模型，实现对路牌识别模型的对抗防御优化；
(7)利用对抗防御优化后的路牌识别模型对路牌图像进行识别，以实现路牌识别的对抗防御。
与现有技术相比，本发明具有的有益效果为：
本发明通过遗传算法(GA)进化生成路牌识别模型的对抗样本来训练一种对抗性的路牌识别模型，不仅克服了路牌识别物理对抗攻击中存在的几种挑战，还根据切比雪夫聚合方法来解决生成路牌对抗样本的多目标优化问题，提高了对抗样本及模型的鲁棒性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动前提下，还可以根据这些附图获得其他附图。
图1为本发明提供的基于GA的路牌识别对抗防御方法的流程示意图；
图2为实施例提供的生成对抗样本的流程图；
图3为本发明实施例中对抗样本的物理效果示意图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例对本发明进行进一步的详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不限定本发明的保护范围。
如图1所示，本实施例提供的基于GA的路牌识别对抗防御方法，包括以下步骤：
S101，采集路牌图像，并对路牌图像进行预处理后分成训练集、测试集以及用于生成对抗样本的对抗集。
为了提高原始路牌识别模型的鲁棒性，路牌图像需来自于实际物理场景，本实施例中，在场景设置上模拟生活中的实际场景，包括角度、光影以及距离因素变化，以获得路牌图像。
对路牌图像进行预处理包括截取路牌图像的有效区域、添加相应标签并加以分类，以此得到路牌分类器的训练集、测试集和用于生成路牌对抗样本的对抗集。
S102，构建路牌分类器，并利用训练集、测试集对路牌分类器进行训练，获得路牌识别模型。
所述路牌分类器是由6个卷积层和3个全连接层构成的深层神经网络。
S103，根据遗传算法构建路牌攻击模型，即以染色体作为扰动矩阵，以扰动矩阵与对抗集中的路牌图像叠加后形成的图像矩阵作为遗传算法中的个体，然后利用遗传算法对个体进行择优，输出的最优个体即为对抗样本。
在遗传算法中，种群的每个个体，即染色体是由基因构成，故染色体与要优化的问题的解相对应，即对应本发明中的扰动矩阵。
构建的路牌攻击模型中，在染色体的编码方式上，本发明采用二进制编码，染色体为w×h×3×10的扰动矩阵，其中，w、h分别是路牌图像的宽和高，3表示路牌图像的RGB三个通道，10表示一个10位的二进制数，RGB每个通道的像素值
Figure BDA0002027182600000041
为：
Figure BDA0002027182600000051
其中，xi表示二进制数第(i-1)位的值。
利用遗传算法对个体进行择优的具体过程为：
(a)根据切比雪夫聚合方法确定的如公式(2)所示的适值函数计算种群中个体的适应度，
Figure BDA0002027182600000052
其中，fit(x)表示个体的适应度，ε*＝(ε1，ε2，ε3)T中的ε1，ε2，ε3分别对应角度变化、光影变化及距离变化三个目标分量的最大值，即εi＝max{fi(x)|x∈Ω}；λ*＝(λ1，λ2，λ3)中的λ1，λ2，λ3分别对应三个目标分量的权值单位向量；fi(x)是对抗样本(xo+Δx)在第i个目标下的目标值，由公式(3)计算得到：
Figure BDA0002027182600000053
其中，xo为路牌图像的像素矩阵，Δx为扰动矩阵，
Figure BDA0002027182600000054
为对抗样本除目标类以外的最高置信度分数，
Figure BDA0002027182600000055
为对抗样本通过图像处理在第i个目标下的目标类置信度分数；κ为扰动的惩罚因子，||Δx||2为扰动矩阵Δx的l2范数，其计算如下：
Figure BDA0002027182600000056
其中，
Figure BDA0002027182600000057
是扰动矩阵中每个二进制数根据公式(1)计算得到的像素值；
在目标下对对抗样本的图像处理中，光影变化是通过对对抗样本进行等距调节亮度得到的一组图像；角度变化是通过对对抗样本进行等角度旋转得到的一组图像；距离变化是通过对对抗样本进行缩放调节得到的一组图像。
(b)对种群中的每个个体进行交叉操作，即当遗传算法产生的随机数(也就是[0,1]之间的小数)小于交叉率PC时，在种群中挑选另一个体进行配对，在10位的二进制数上随机选取几位进行交换，得到子代，并执行步骤(c)；否则执行步骤(d)；
(c)对子代进行变异操作，即当遗传算法产生的随机数小于变异率PM时，在种群中挑选一子代，在10位的二进制数上随机选取几位进行反转位值(对于二进制0-1编码的种群个体来说，就是0与1互换)，实现对子代的变异操作，获得的新子代替换原个体，否则，用子代替换原个体；
(d)对交叉变异得到的新种群根据公式(2)～(4)计算个体的适应值，并记录种群的最佳适应值fitbest；
(e)如果最佳适应值fitbest小于预设值δ或当前迭代数达到最大迭代次数时结束迭代，得到的最优解作为对抗样本；否则转步骤(f)；
(f)利用公式(5)计算种群中的每个个体被选择的概率Pi，根据概率Pi对种群进行选择和淘汰并得到新种群，使种群的寻优方向满足式(6)，转步骤(b)继续迭代；
Figure BDA0002027182600000061
Figure BDA0002027182600000062
其中，i为个体索引，argmin(x)为使x达到最小值时x的值。
本发明中，采用正比选择策略，即根据种群中所有个体的适应值得分占种群中所有个体的适应值得分总和的比例来选择，适应度得分高的个体被选择的概率大，对于个体i，设其适应值为fiti，根据公式(5)即可以获得个体被选择的概率Pi。
S104，矫正对抗样本，缩放打印矫正的对抗样本，将打印的对抗样本应用在物理场景下，再采集对抗样本的物理图像；
具体地，根据物理场景下路牌的实际大小进行放大，打印对抗样本并应用于不同场景，通过物理设备采集对抗样本图像，将图像输入到路牌识别模型中测试对抗攻击成功率，评估物理对抗样本的对抗性。
S105，将对抗样本的物理图像输入至路牌识别模型，利用路牌识别模型对对抗样本进行评估，筛选得到高质量的对抗样本；
将对抗样本的物理图像输入至路牌识别模型中，当路牌识别模型输出的预测分类小于预设阈值，则认为对应的对抗样本为高质量对抗样本，预设阈值为0.5。
S106，将高质量的对抗样本添加到训练集中，利用训练集再训练路牌识别模型，实现对路牌识别模型的对抗防御优化；
将达到要求的对抗样本加入到路牌识别模型的预训练数据集和测试集中，重新训练路牌分类器，为了评估对抗训练得到的路牌分类器的鲁棒性，重复对抗样本的生成步骤，评价对抗性的路牌识别模型的防御能力。
S107，利用对抗防御优化后的路牌识别模型对路牌图像进行识别，以实现路牌识别的对抗防御。
上述实施例提供的基于GA的路牌识别对抗防御方法，具有以下优点：
(1)本发明提供了一种，基于进化思想生成路牌识别模型的对抗样本，通过对抗训练生成一种对抗性的路牌识别鲁棒模型；
(2)本发明中对抗样本的生成是基于黑盒模型，解决了实际场景下路牌识别模型内部参数难以获得的挑战；
(3)扰动区域大小可以通过对扰动矩阵进行控制，对扰动增加了l2范数和惩罚因子，增加了扰动的不可察觉；
(4)在进化策略中，根据切比雪夫聚合方法定义适值函数，对对抗样本进行多目标优化，增加对抗样本的鲁棒性；
(5)本发明训练得到的路牌识别模型不仅可以正确识别环境多变下的路牌，还对对抗性的路牌具有一定的防御能力，能够为路牌识别系统的安全领域提供理论指导。
以上所述的具体实施方式对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的最优选实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于遗传算法的路牌识别对抗防御方法，包括以下步骤：
(1)采集路牌图像，并对路牌图像进行预处理后分成训练集、测试集以及用于生成对抗样本的对抗集；
(2)构建路牌分类器，并利用训练集、测试集对路牌分类器进行训练，获得路牌识别模型；
(3)根据遗传算法构建路牌攻击模型，即以染色体作为扰动矩阵，以扰动矩阵与对抗集中的路牌图像叠加后形成的图像矩阵作为遗传算法中的个体，然后利用遗传算法对个体进行择优，输出的最优个体即为对抗样本；
(4)矫正对抗样本，缩放打印矫正的对抗样本，将打印的对抗样本应用在物理场景下，再采集对抗样本的物理图像；
(5)将对抗样本的物理图像输入至路牌识别模型，利用路牌识别模型对对抗样本进行评估，筛选得到高质量的对抗样本；
(6)将高质量的对抗样本添加到训练集中，利用训练集再训练路牌识别模型，实现对路牌识别模型的对抗防御优化；
(7)利用对抗防御优化后的路牌识别模型对路牌图像进行识别，以实现路牌识别的对抗防御。
2.如权利要求1所述的基于遗传算法的路牌识别对抗防御方法，其特征在于，对路牌图像进行预处理包括截取路牌图像的有效区域、添加相应标签并加以分类。
3.如权利要求1所述的基于遗传算法的路牌识别对抗防御方法，其特征在于，所述路牌分类器是由6个卷积层和3个全连接层构成的深层神经网络。
4.如权利要求1所述的基于遗传算法的路牌识别对抗防御方法，其特征在于，构建的路牌攻击模型中，染色体为w×h×3×10的扰动矩阵，其中，w、h分别是路牌图像的宽和高，3表示路牌图像的RGB三个通道，10表示一个10位的二进制数，RGB每个通道的像素值
Figure FDA0002814536810000025
为：
Figure FDA0002814536810000021
其中，xi表示二进制数第i-1位的值。
5.如权利要求4所述的基于遗传算法的路牌识别对抗防御方法，其特征在于，利用遗传算法对个体进行择优的具体过程为：
(a)根据切比雪夫聚合方法确定的如公式(2)所示的适值函数计算种群中个体的适应度，
Figure FDA0002814536810000022
其中，fit(x)表示个体的适应度，ε*＝(ε1，ε2，ε3)T中的ε1，ε2，ε3分别对应角度变化、光影变化及距离变化三个目标分量的最大值，即εi＝max{fi(x)|x∈Ω}；λ*＝(λ1，λ2，λ3)中的λ1，λ2，λ3分别对应三个目标分量的权值单位向量；fi(x)是对抗样本(xo+Δx)在第i个目标下的目标值，由公式(3)计算得到：
Figure FDA0002814536810000023
其中，xo为路牌图像的像素矩阵，Δx为扰动矩阵，
Figure FDA0002814536810000024
为对抗样本除目标类以外的最高置信度分数，
Figure FDA0002814536810000031
为对抗样本通过图像处理在第i个目标下的目标类置信度分数；κ为扰动的惩罚因子，||Δx||2为扰动矩阵Δx的l2范数，其计算如下：
Figure FDA0002814536810000032
其中，
Figure FDA0002814536810000033
是扰动矩阵中每个二进制数根据公式(1)计算得到的像素值；
(b)对种群中的每个个体进行交叉操作，即当遗传算法产生的随机数小于交叉率PC时，在种群中挑选另一个体进行配对，在10位的二进制数上随机选取几位进行交换，得到子代，并执行步骤(c)；否则执行步骤(d)；
(c)对子代进行变异操作，即当遗传算法产生的随机数小于变异率PM时，在种群中挑选一子代，在10位的二进制数上随机选取几位进行反转位值，实现对子代的变异操作，获得的新子代替换原个体，否则，用子代替换原个体；
(d)对交叉变异得到的新种群根据公式(2)～(4)计算个体的适应值，并记录种群的最佳适应值fitbest；
(e)如果最佳适应值fitbest小于预设值δ或当前迭代数达到最大迭代次数时结束迭代，得到的最优解作为对抗样本；否则转步骤(f)；
(f)利用公式(5)计算种群中的每个个体被选择的概率Pi，根据概率Pi对种群进行选择和淘汰并得到新种群，使种群的寻优方向满足式(6)，转步骤(b)继续迭代；
Figure FDA0002814536810000041
Figure FDA0002814536810000042
其中，i为个体索引，argmin(x)为使x达到最小值时x的值。
6.如权利要求1或4所述的基于遗传算法的路牌识别对抗防御方法，其特征在于，步骤(5)中，将对抗样本的物理图像输入至路牌识别模型中，当路牌识别模型输出的预测分类小于预设阈值，则认为对应的对抗样本为高质量对抗样本，预设阈值为0.5。
CN201910297748.5A 2019-04-15 2019-04-15 一种基于遗传算法的路牌识别对抗防御方法 Active CN110163093B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910297748.5A CN110163093B (zh) 2019-04-15 2019-04-15 一种基于遗传算法的路牌识别对抗防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910297748.5A CN110163093B (zh) 2019-04-15 2019-04-15 一种基于遗传算法的路牌识别对抗防御方法

Publications (2)

Publication Number Publication Date
CN110163093A CN110163093A (zh) 2019-08-23
CN110163093B true CN110163093B (zh) 2021-03-05

Family

ID=67639379

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910297748.5A Active CN110163093B (zh) 2019-04-15 2019-04-15 一种基于遗传算法的路牌识别对抗防御方法

Country Status (1)

Country Link
CN (1) CN110163093B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111191654B (zh) * 2019-12-30 2023-03-24 重庆紫光华山智安科技有限公司 道路数据生成方法、装置、电子设备及存储介质
CN111340214B (zh) * 2020-02-21 2021-06-08 腾讯科技（深圳）有限公司 对抗攻击模型的训练方法及装置
CN111428881B (zh) * 2020-03-20 2021-12-07 深圳前海微众银行股份有限公司 识别模型的训练方法、装置、设备及可读存储介质
CN111680742A (zh) * 2020-06-04 2020-09-18 甘肃电力科学研究院 一种应用于新能源厂站网络安全领域的攻击数据标注方法
CN111860498B (zh) * 2020-07-01 2023-12-19 广州大学 一种车牌的对抗性样本生成方法、装置及存储介质
CN111881437B (zh) * 2020-08-04 2024-03-08 公安部第三研究所 基于黑盒对抗样本攻击实现人脸识别安全测评的方法及其系统
CN112287973A (zh) * 2020-09-28 2021-01-29 北京航空航天大学 基于截尾奇异值和像素插值的数字图像对抗样本防御方法
CN112949678B (zh) * 2021-01-14 2023-05-02 西安交通大学 深度学习模型对抗样本生成方法、系统、设备及存储介质
CN113095181A (zh) * 2021-03-31 2021-07-09 西南交通大学 基于Defense-GAN的交通标志识别方法
CN113723536B (zh) * 2021-09-02 2024-01-26 国网智能科技股份有限公司 一种电力巡检目标识别方法及系统
CN113935913A (zh) * 2021-10-08 2022-01-14 北京计算机技术及应用研究所 一种具有视觉感知隐蔽性的黑盒图像对抗样本生成方法
CN114005168A (zh) * 2021-12-31 2022-02-01 北京瑞莱智慧科技有限公司 物理世界对抗样本生成方法、装置、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322349A (zh) * 2018-02-11 2018-07-24 浙江工业大学 基于对抗式生成网络的深度学习对抗性攻击防御方法
CN108446700A (zh) * 2018-03-07 2018-08-24 浙江工业大学 一种基于对抗攻击的车牌攻击生成方法
CN108491837A (zh) * 2018-03-07 2018-09-04 浙江工业大学 一种提高车牌攻击鲁棒性的对抗攻击方法
CN108520268A (zh) * 2018-03-09 2018-09-11 浙江工业大学 基于样本选择和模型进化的黑盒对抗性攻击防御方法
CN108549940A (zh) * 2018-03-05 2018-09-18 浙江大学 基于多种对抗样例攻击的智能防御算法推荐方法及系统
CN108615048A (zh) * 2018-04-04 2018-10-02 浙江工业大学 基于扰动进化对图像分类器对抗性攻击的防御方法
CN109150739A (zh) * 2018-07-13 2019-01-04 杭州电子科技大学 一种基于moea/d的多目标基站主动存储分配方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11106925B2 (en) * 2018-10-25 2021-08-31 Intel Corporation Computer-assisted or autonomous driving traffic sign recognition method and apparatus

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322349A (zh) * 2018-02-11 2018-07-24 浙江工业大学 基于对抗式生成网络的深度学习对抗性攻击防御方法
CN108549940A (zh) * 2018-03-05 2018-09-18 浙江大学 基于多种对抗样例攻击的智能防御算法推荐方法及系统
CN108446700A (zh) * 2018-03-07 2018-08-24 浙江工业大学 一种基于对抗攻击的车牌攻击生成方法
CN108491837A (zh) * 2018-03-07 2018-09-04 浙江工业大学 一种提高车牌攻击鲁棒性的对抗攻击方法
CN108520268A (zh) * 2018-03-09 2018-09-11 浙江工业大学 基于样本选择和模型进化的黑盒对抗性攻击防御方法
CN108615048A (zh) * 2018-04-04 2018-10-02 浙江工业大学 基于扰动进化对图像分类器对抗性攻击的防御方法
CN109150739A (zh) * 2018-07-13 2019-01-04 杭州电子科技大学 一种基于moea/d的多目标基站主动存储分配方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain;Tianyu Gu et al;《https://arxiv.org/pdf/1708.06733.pdf》;20190313;第1-13页 *
Deep neural networks are easily fooled: High confidence predictions for unrecognizable images;Anh Nguyen et al;《 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)》;20150612;第427-436页 *
Robust Physical-World Attacks on Deep Learning Visual Classification;Kevin Eykholt et al;《2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition》;20180623;第1625-1634页 *
Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey;Naveed Akhtar et al;《IEEE Access》;20180219;第6卷;第14410-14430页 *
机器学习安全性问题及其防御技术研究综述;李盼等;《计算机科学与探索》;20171116;第171-184页 *
深度学习中的对抗样本问题;张思思等;《计算机学报》;20181106;第1886-1904页 *

Also Published As

Publication number Publication date
CN110163093A (zh) 2019-08-23

Similar Documents

Publication Publication Date Title
CN110163093B (zh) 一种基于遗传算法的路牌识别对抗防御方法
CN110991299B (zh) 一种物理域上针对人脸识别系统的对抗样本生成方法
CN110175611B (zh) 面向车牌识别系统黑盒物理攻击模型的防御方法及装置
Tian et al. Adversarial attacks and defenses for deep-learning-based unmanned aerial vehicles
CN110175513B (zh) 一种基于多目标路优化的路牌识别攻击防御方法
CN109948658B (zh) 面向特征图注意力机制的对抗攻击防御方法及应用
Feng et al. Learning to confuse: Generating training time adversarial data with auto-encoder
CN108322349B (zh) 基于对抗式生成网络的深度学习对抗性攻击防御方法
CN111680292A (zh) 一种基于高隐蔽性通用扰动的对抗样本生成方法
CN110941794A (zh) 一种基于通用逆扰动防御矩阵的对抗攻击防御方法
CN112926661A (zh) 一种增强图像分类鲁棒性的方法
CN111008639A (zh) 一种基于注意力机制的车牌字符识别方法
CN115860112A (zh) 基于模型反演方法的对抗样本防御方法和设备
CN111460426A (zh) 基于对抗演化框架的抗深度学习文本验证码生成系统及方法
CN118397431B (zh) 面向行人目标的多视角自适应权重平衡对抗攻击方法
CN111091102B (zh) 一种视频分析装置、服务器、系统及保护身份隐私的方法
Thang et al. Image transformation can make neural networks more robust against adversarial examples
CN116563410A (zh) 基于两级生成对抗网络的电气设备电火花图像生成方法
CN116778545A (zh) 一种视频深度伪造检测方法及装置
Tang et al. Reinforcement learning of non-additive joint steganographic embedding costs with attention mechanism
CN115272774A (zh) 基于改进自适应差分进化算法的对抗样本攻击方法及系统
Guihai et al. Adversarial machine learning against false data injection attack detection for smart grid demand response
CN111047658A (zh) 面向深度神经网络的抗压缩对抗性图像生成方法
CN114638356B (zh) 一种静态权重引导的深度神经网络后门检测方法及系统
CN115830401A (zh) 一种小样本图像分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant