CN111783551A - 基于贝叶斯卷积神经网络的对抗样本防御方法 - Google Patents

基于贝叶斯卷积神经网络的对抗样本防御方法 Download PDF

Info

Publication number
CN111783551A
CN111783551A CN202010500642.3A CN202010500642A CN111783551A CN 111783551 A CN111783551 A CN 111783551A CN 202010500642 A CN202010500642 A CN 202010500642A CN 111783551 A CN111783551 A CN 111783551A
Authority
CN
China
Prior art keywords
neural network
sample
convolutional neural
bayes
confrontation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010500642.3A
Other languages
English (en)
Other versions
CN111783551B (zh
Inventor
张俊
周炜恩
常强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Defense Technology Innovation Institute PLA Academy of Military Science
Original Assignee
National Defense Technology Innovation Institute PLA Academy of Military Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Defense Technology Innovation Institute PLA Academy of Military Science filed Critical National Defense Technology Innovation Institute PLA Academy of Military Science
Priority to CN202010500642.3A priority Critical patent/CN111783551B/zh
Publication of CN111783551A publication Critical patent/CN111783551A/zh
Application granted granted Critical
Publication of CN111783551B publication Critical patent/CN111783551B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G06F18/24155—Bayesian classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于贝叶斯卷积神经网络的对抗样本防御方法。该方法包括：根据汽车自动驾驶图像识别系统的交通信号识别任务选取多个交通信号牌图片作为图片训练集并作为初始训练集；构建汽车自动驾驶图像识别系统的贝叶斯卷积神经网络模型，对模型进行训练以确定模型参数；设定扰动值和扰动值增长步长，生成多个对抗样本；将对抗样本作为训练集数据，结合初始训练集对模型进行训练，以更新模型参数；基于更新后模型参数，对汽车自动驾驶图像识别系统进行改进。本发明的方法通过混合不同扰动值下生成的对抗样本对神经网络模型进行对抗训练，能够使模型学习到更多特征，有效地提升模型的鲁棒性，从而提高汽车自动驾驶图像识别系统的识别精度。

Description

基于贝叶斯卷积神经网络的对抗样本防御方法
技术领域
本发明涉及图像智能识别技术领域，具体涉及一种基于贝叶斯卷积神经网络的对抗样本防御方法。
背景技术
随着深度学习的发展，深度神经网络(DNN)在计算机视觉和自然语言处理等方面有了很多应用。神经网络非常复杂，同时也是十分脆弱的，例如在图像识别任务中，当对图片添加微小的噪声时，能使模型将之以很高的概率分类错误。
目前将添加了扰动的图片称为对抗样本，为了防御对抗样本的攻击，目前主要采用对抗训练方法来神经网络模型的鲁棒性，以保证图像的准确识别分类；现有的对抗训练方法通过将对抗样本作为训练集，以对神经网络模型进行训练，从而使神经网络模型学习到对抗样本的特征，提升神经网络模型的识别分类准确率。
以汽车自动驾驶系统的自动识别功能为例，现有的汽车自动驾驶系统在使用时，需要对交通信号牌等标识进行识别，以控制汽车进行下一步的行动，若是在汽车自动驾驶系统识别信号牌的过程中受到攻击者的恶意攻击，则可能将限速标志识别成其他信号，从而造成灾难性的后果。因此，要求汽车自动驾驶系统的图像识别系统需要有良好的鲁棒性。然而，现有的对抗训练方法中，神经网络模型只利用特定设置的扰动值下生成的对抗样本进行训练，当面对不同扰动值生成的对抗样本时，不具有良好的鲁棒性，无法实现图像的准确识别分类，即利用现有的对抗训练方法无法使汽车自动驾驶系统的图像识别系统具备良好的鲁棒性以防御恶意攻击。
发明内容
为解决上述现有技术中存在的技术问题，本发明提供一种基于贝叶斯卷积神经网络的对抗样本防御方法，该方法能显著提升神经网络模型的鲁棒性，实现图像的准确识别分类。
为此，本发明公开了一种基于贝叶斯卷积神经网络的对抗样本防御方法。该方法包括：
1)根据汽车自动驾驶图像识别系统的交通信号识别任务选取多个交通信号牌图片作为图片训练集，将选取的图片数据集作为初始训练集；
2)构建汽车自动驾驶图像识别系统的贝叶斯卷积神经网络模型，利用初始训练集对贝叶斯卷积神经网络模型进行训练，以确定贝叶斯卷积神经网络模型的模型参数；
3)设定扰动值和扰动值增长步长，在选择的图片数据集的基础上利用设定的扰动值和扰动值增长步长生成多个对抗样本；
4)将生成的多个对抗样本作为训练集数据，结合初始训练集对贝叶斯卷积神经网络模型进行训练，以更新贝叶斯卷积神经网络模型的模型参数；
5)基于更新后的贝叶斯卷积神经网络模型的模型参数，对汽车自动驾驶图像识别系统进行改进。
进一步地，在上述基于贝叶斯卷积神经网络的对抗样本防御方法中，利用迭代梯度下降法生成对抗样本。
进一步地，在上述基于贝叶斯卷积神经网络的对抗样本防御方法中，利用迭代梯度下降法生成对抗样本包括如下步骤：
选择一个初始纯净样本；
确定贝叶斯卷积神经网络模型的损失函数；
确定损失函数的梯度方向；
基于选择的初始纯净样本和损失函数的梯度方向，进行多次迭代以获取对抗样本。
进一步地，在上述基于贝叶斯卷积神经网络的对抗样本防御方法中，对抗样本可以通过下式1确定；
Figure BDA0002524678190000021
其中，f(x；ω)表示神经网络，x表示输入样本，ω表示网络权重，xt+1表示经过t+1次迭代的对抗样本，xt表示经过t次迭代得到的对抗样本，xt+1和xt均为生成最终对抗样本的中间结果，α表示扰动值增长步长，x0＝xo，xo表示初始纯净样本，
Figure BDA0002524678190000022
表示损失函数，
Figure BDA0002524678190000023
表示损失函数
Figure BDA0002524678190000024
对输入样本xt求梯度，
Figure BDA0002524678190000025
表示取
Figure BDA0002524678190000026
的梯度方向，yo表示样本的真实类别，γ表示投影操作。
进一步地，在上述基于贝叶斯卷积神经网络的对抗样本防御方法中，α为0.005、0.01或0.02。
进一步地，在上述基于贝叶斯卷积神经网络的对抗样本防御方法中，将生成的对抗样本作为训练集数据，包括：
将所有生成的对抗样本作为输入样本输入步骤2确定的贝叶斯卷积神经网络模型，以得到对应的输出结果；
根据不确定性从大到小对所有的输出结果进行排序，选择位于前序的若干个输出结果所对应的对抗样本作为训练集数据。
本发明技术方案的主要优点如下：
本发明的基于贝叶斯卷积神经网络的对抗样本防御方法通过混合不同扰动值下生成的对抗样本对神经网络模型进行对抗训练，能够使神经网络模型学习到更多的特征，有效地提升神经网络模型的鲁棒性，从而提高汽车自动驾驶图像识别系统的图像识别精度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的基于贝叶斯卷积神经网络的对抗样本防御方法的流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明具体实施例及相应的附图对本发明技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本发明的一部分实施例，而不是全部的实施例。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
以下结合附图，详细说明本发明实施例提供的技术方案。
如附图1所示，本发明一实施例提供了一种基于贝叶斯卷积神经网络的对抗样本防御方法，该方法用于对汽车自动驾驶图像识别系统进行训练，该方法包括如下步骤：
(1)根据汽车自动驾驶图像识别系统的交通信号识别任务选取多个交通信号牌图片作为图片训练集，将选取的图片数据集作为初始训练集；
(2)构建汽车自动驾驶图像识别系统的贝叶斯卷积神经网络模型，利用初始训练集对贝叶斯卷积神经网络模型进行训练，以确定贝叶斯卷积神经网络模型的模型参数；
(3)设定扰动值和扰动值增长步长，在选择的图片数据集的基础上利用设定的扰动值和扰动值增长步长生成多个对抗样本；
(4)将生成的多个对抗样本作为训练集数据，结合初始训练集对贝叶斯卷积神经网络模型进行训练，以更新贝叶斯卷积神经网络模型的模型参数；
(5)基于更新后的贝叶斯卷积神经网络模型的模型参数，对汽车自动驾驶图像识别系统进行改进。
以下对本发明一实施例提供的基于贝叶斯卷积神经网络的对抗样本防御方法的步骤及原理进行具体说明。
(1)根据汽车自动驾驶图像识别系统的交通信号识别任务选取多个交通信号牌图片作为图片训练集，将选取的图片数据集作为初始训练集；
本发明一实施例中，可以选择网络公开的交通信号牌对应的数据集作为图片数据集，也可以通过对现有的交通信号牌进行拍摄采集以获取交通信号牌图片，将获取的交通信号牌图片作为图片数据集；其中，当采用拍摄采集方式获取交通信号牌图片，并将获取的交通信号牌图片作为图片数据集时，需要对获取的所有交通信号牌图片进行格式预处理，以保证图片数据集的每一个数据的格式一致。
(2)构建汽车自动驾驶图像识别系统的贝叶斯卷积神经网络模型，利用初始训练集对贝叶斯卷积神经网络模型进行训练，以确定贝叶斯卷积神经网络模型的模型参数；
现有的汽车自动驾驶图像识别系统通常采用卷积神经网络模型，本发明一实施例中，为了提高汽车自动驾驶图像识别系统的鲁棒性，以提高图像识别精度，将汽车自动驾驶图像识别系统对应的卷积神经网络模型替换为贝叶斯卷积神经网络模型，而后利用上述确定的初始训练集对贝叶斯卷积神经网络模型进行训练，以确定贝叶斯卷积神经网络模型的模型参数。
对于如何将将汽车自动驾驶图像识别系统对应的卷积神经网络模型替换为贝叶斯卷积神经网络模型，以下进行具体说明：保持卷积神经网络模型的具体构架不变，如各层的输入特征维度大小及输出特征维度大小、卷积核大小和输出的特征图个数等均保持不变，仅将卷积神经网络模型的权重由固定值形式调整为分布形式，即可将卷积神经网络模型替换为贝叶斯卷积神经网络模型。
由于贝叶斯卷积神经网络模型中的权重为分布形式，则网络模型中保存的参数为确定其分布形式的参数；本发明一实施例中，贝叶斯卷积神经网络模型和普通神经网络模型的更新方式相同，均采用后向传播对网络模型的权重参数进行修正更新，即一次计算出损失值关于各种权重参数的梯度，利用梯度信息对参数进行更新，以对权重的分布进行更新；对于权重参数，可先假设其对应的分布为高斯分布，先人为给定权重的先验信息，基于当前数据，不断进行更新后验分布，从而训练得到一个贝叶斯卷积神经网络模型的初始模型。
(3)设定扰动值和扰动值增长步长，在选择的图片数据集的基础上利用设定的扰动值和扰动值增长步长生成多个对抗样本；
本发明一实施例中，利用迭代梯度下降法生成对抗样本；具体地，利用迭代梯度下降法生成对抗样本包括如下步骤：
选择一个初始纯净样本；
确定贝叶斯卷积神经网络模型的损失函数；
确定损失函数的梯度方向；
基于选择的初始纯净样本和损失函数的梯度方向，进行多次迭代以获取对抗样本。
其中，初始纯净样本为作为初始训练集的图片数据集中的任意一个图片数据；
对抗样本可以通过下式1确定；
Figure BDA0002524678190000051
式中，f(x；ω)表示神经网络，x表示输入样本，ω表示网络权重，xt+1表示经过t+1次迭代的对抗样本，xt表示经过t次迭代得到的对抗样本，xt+1和xt均为生成最终对抗样本的中间结果，α表示扰动值增长步长，x0＝xo，xo表示初始纯净样本，
Figure BDA0002524678190000052
表示损失函数，
Figure BDA0002524678190000053
表示损失函数
Figure BDA0002524678190000054
对输入样本xt求梯度，
Figure BDA0002524678190000061
表示取
Figure BDA0002524678190000062
的梯度方向，yo表示样本的真实类别，γ表示投影操作，在生成对抗样本的过程中，中间结果可能会超过指定数值范围，通过设置投影操作将超过指定数值范围的中间结果的数值投影到指定数值范围内；例如，要求图片每一个像素值均在0～255范围内，超过此范围的像素将被投影到0～255区间，如-1取0，280取255。
其中，t的数值根据实际情况选定，例如可以为10～20；α的数值根据实际情况选定，例如可以0.005、0.01或0.02。
本发明一实施例中，扰动值根据图片数据集具体设定，扰动值用于限定基于扰动值增长步长经多次迭代获取的对抗样本与初始纯净样本的最大差异范围，保证生成的对抗样本与初始纯净样本的差异小于设定的扰动值。
(4)将生成的多个对抗样本作为训练集数据，结合初始训练集对贝叶斯卷积神经网络模型进行训练，以更新贝叶斯卷积神经网络模型的模型参数；
从作为初始训练集的图片数据集中选择多个不同初始纯净样本，利用上述式1生成多个不同的对抗样本，将多个对抗样本作为训练集数据，结合初始训练集对贝叶斯卷积神经网络模型进行训练，以更新贝叶斯卷积神经网络模型的模型参数。
(5)基于更新后的贝叶斯卷积神经网络模型的模型参数，对汽车自动驾驶图像识别系统进行改进。
利用生成的多个对抗样本和初始训练集对贝叶斯卷积神经网络模型进行训练，得到更新的贝叶斯卷积神经网络模型的模型参数，基于更新的模型参数对汽车自动驾驶图像识别系统的网络模型进行更新改进。
进一步地，由于贝叶斯卷积神经网络的训练会耗费较长的时间，且进行对抗样本的训练时也会耗费额外的时间成本；由于贝叶斯卷积神经网络在预测时具有不确定性的特定，为了提升贝叶斯卷积神经网络的训练效率，本发明一实施例中，将生成的对抗样本作为训练集数据，包括：将所有生成的对抗样本作为输入样本输入步骤2确定的贝叶斯卷积神经网络模型，以得到对应的输出结果；根据不确定性从大到小对所有的输出结果进行排序，选择位于前序的若干个输出结果所对应的对抗样本作为训练集数据。
如此设置，能够减少训练集数据的数目以提升训练效率，又保证神经网络模型的鲁棒性能够得到提升。
其中，输出结果的选择数量可以根据实际情况进行确定。
可见，本发明一实施例提供的基于贝叶斯卷积神经网络的对抗样本防御方法通过混合不同扰动值下生成的对抗样本对神经网络模型进行对抗训练，通过增加训练数据能够使神经网络模型学习到更多的特征，有效地提升神经网络模型的鲁棒性，从而提高汽车自动驾驶图像识别系统的图像识别精度。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。此外，本文中“前”、“后”、“左”、“右”、“上”、“下”均以附图中表示的放置状态为参照。
最后应说明的是：以上实施例仅用于说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (6)

1.一种基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，所述方法用于对汽车自动驾驶图像识别系统进行训练，所述方法包括：
1)根据汽车自动驾驶图像识别系统的交通信号识别任务选取多个交通信号牌图片作为图片训练集，将选取的图片数据集作为初始训练集；
2)构建汽车自动驾驶图像识别系统的贝叶斯卷积神经网络模型，利用初始训练集对贝叶斯卷积神经网络模型进行训练，以确定贝叶斯卷积神经网络模型的模型参数；
3)设定扰动值和扰动值增长步长，在选择的图片数据集的基础上利用设定的扰动值和扰动值增长步长生成多个对抗样本；
4)将生成的多个对抗样本作为训练集数据，结合初始训练集对贝叶斯卷积神经网络模型进行训练，以更新贝叶斯卷积神经网络模型的模型参数；
5)基于更新后的贝叶斯卷积神经网络模型的模型参数，对汽车自动驾驶图像识别系统进行改进。
2.根据权利要求1所述的基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，利用迭代梯度下降法生成对抗样本。
3.根据权利要求2所述的基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，利用迭代梯度下降法生成对抗样本包括如下步骤：
选择一个初始纯净样本；
确定贝叶斯卷积神经网络模型的损失函数；
确定损失函数的梯度方向；
基于选择的初始纯净样本和损失函数的梯度方向，进行多次迭代以获取对抗样本。
4.根据权利要求1至3中任一项所述的基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，对抗样本可以通过下式1确定；
Figure FDA0002524678180000011
其中，f(x；ω)表示神经网络，x表示输入样本，ω表示网络权重，xt+1表示经过t+1次迭代的对抗样本，xt表示经过t次迭代得到的对抗样本，α表示扰动值增长步长，x0＝xo，xo表示初始纯净样本，l(f(xt；ω),yo)表示损失函数，
Figure FDA0002524678180000023
表示损失函数l(f(xt；ω),yo)对输入样本xt求梯度，
Figure FDA0002524678180000021
表示取
Figure FDA0002524678180000022
的梯度方向，yo表示样本的真实类别，γ表示投影操作。
5.根据权利要求4所述的基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，α为0.005、0.01或0.02。
6.根据权利要求1至5中任一项所述的基于贝叶斯卷积神经网络的对抗样本防御方法，其特征在于，将生成的对抗样本作为训练集数据，包括：
将所有生成的对抗样本作为输入样本输入步骤2确定的贝叶斯卷积神经网络模型，以得到对应的输出结果；
根据不确定性从大到小对所有的输出结果进行排序，选择位于前序的若干个输出结果所对应的对抗样本作为训练集数据。
CN202010500642.3A 2020-06-04 2020-06-04 基于贝叶斯卷积神经网络的对抗样本防御方法 Active CN111783551B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010500642.3A CN111783551B (zh) 2020-06-04 2020-06-04 基于贝叶斯卷积神经网络的对抗样本防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010500642.3A CN111783551B (zh) 2020-06-04 2020-06-04 基于贝叶斯卷积神经网络的对抗样本防御方法

Publications (2)

Publication Number Publication Date
CN111783551A true CN111783551A (zh) 2020-10-16
CN111783551B CN111783551B (zh) 2023-07-25

Family

ID=72754035

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010500642.3A Active CN111783551B (zh) 2020-06-04 2020-06-04 基于贝叶斯卷积神经网络的对抗样本防御方法

Country Status (1)

Country Link
CN (1) CN111783551B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112381142A (zh) * 2020-11-13 2021-02-19 海南大学 基于重要特征的具有可解释性对抗样本生成方法及系统
CN112651436A (zh) * 2020-12-23 2021-04-13 深圳市安软科技股份有限公司 一种基于权重不确定的图卷积神经网络的优化方法、装置
CN112766401A (zh) * 2021-01-28 2021-05-07 哈尔滨工业大学 基于显著性对抗训练的对抗样本防御方法
CN112836571A (zh) * 2020-12-18 2021-05-25 华中科技大学 遥感sar图像中的舰船目标检测识别方法、系统及终端
CN114051220A (zh) * 2021-10-27 2022-02-15 上海智能网联汽车技术中心有限公司 一种基于本体的车联网动态贝叶斯攻击图生成方法及系统
CN114743074A (zh) * 2022-06-13 2022-07-12 浙江华是科技股份有限公司 一种基于强弱对抗训练的船舶检测模型训练方法及系统
CN114743081A (zh) * 2022-05-10 2022-07-12 北京瑞莱智慧科技有限公司 模型训练方法、相关装置及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948663A (zh) * 2019-02-27 2019-06-28 天津大学 一种基于模型抽取的步长自适应的对抗攻击方法
CN110033094A (zh) * 2019-02-22 2019-07-19 阿里巴巴集团控股有限公司 一种基于扰动样本的模型训练方法和装置
US10521718B1 (en) * 2015-09-28 2019-12-31 Google Llc Adversarial training of neural networks
CN110674938A (zh) * 2019-08-21 2020-01-10 浙江工业大学 基于协同多任务训练的对抗攻击防御方法
CN111160400A (zh) * 2019-12-06 2020-05-15 天津大学 一种基于修正边界攻击的对抗攻击方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10521718B1 (en) * 2015-09-28 2019-12-31 Google Llc Adversarial training of neural networks
CN110033094A (zh) * 2019-02-22 2019-07-19 阿里巴巴集团控股有限公司 一种基于扰动样本的模型训练方法和装置
CN109948663A (zh) * 2019-02-27 2019-06-28 天津大学 一种基于模型抽取的步长自适应的对抗攻击方法
CN110674938A (zh) * 2019-08-21 2020-01-10 浙江工业大学 基于协同多任务训练的对抗攻击防御方法
CN111160400A (zh) * 2019-12-06 2020-05-15 天津大学 一种基于修正边界攻击的对抗攻击方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
杭杰: "集成对抗性机器学习及其应用研究", 《中国优秀硕士学位论文全文数据库（信息科技辑）》 *
邵文泽 等: "面向智能驾驶视觉感知的对抗样本攻击与防御方法综述", 《南京信息工程大学学报(自然科学版)》 *
郭清杨: "基于生成对抗网络的对抗样本生成", 《现代计算机》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112381142A (zh) * 2020-11-13 2021-02-19 海南大学 基于重要特征的具有可解释性对抗样本生成方法及系统
CN112836571A (zh) * 2020-12-18 2021-05-25 华中科技大学 遥感sar图像中的舰船目标检测识别方法、系统及终端
CN112651436A (zh) * 2020-12-23 2021-04-13 深圳市安软科技股份有限公司 一种基于权重不确定的图卷积神经网络的优化方法、装置
CN112766401A (zh) * 2021-01-28 2021-05-07 哈尔滨工业大学 基于显著性对抗训练的对抗样本防御方法
CN112766401B (zh) * 2021-01-28 2022-03-01 哈尔滨工业大学 基于显著性对抗训练的对抗样本防御方法
CN114051220A (zh) * 2021-10-27 2022-02-15 上海智能网联汽车技术中心有限公司 一种基于本体的车联网动态贝叶斯攻击图生成方法及系统
CN114051220B (zh) * 2021-10-27 2024-04-16 上海智能网联汽车技术中心有限公司 一种基于本体的车联网动态贝叶斯攻击图生成方法及系统
CN114743081A (zh) * 2022-05-10 2022-07-12 北京瑞莱智慧科技有限公司 模型训练方法、相关装置及存储介质
CN114743074A (zh) * 2022-06-13 2022-07-12 浙江华是科技股份有限公司 一种基于强弱对抗训练的船舶检测模型训练方法及系统
CN114743074B (zh) * 2022-06-13 2022-09-09 浙江华是科技股份有限公司 一种基于强弱对抗训练的船舶检测模型训练方法及系统

Also Published As

Publication number Publication date
CN111783551B (zh) 2023-07-25

Similar Documents

Publication Publication Date Title
CN111783551A (zh) 基于贝叶斯卷积神经网络的对抗样本防御方法
CN112052787B (zh) 基于人工智能的目标检测方法、装置及电子设备
CN107529650B (zh) 闭环检测方法、装置及计算机设备
CN110334742B (zh) 一种用于文档分类的基于强化学习的通过添加虚假节点的图对抗样本生成方法
CN113674140B (zh) 一种物理对抗样本生成方法及系统
CN110276377A (zh) 一种基于贝叶斯优化的对抗样本生成方法
CN111598182B (zh) 训练神经网络及图像识别的方法、装置、设备及介质
WO2019146057A1 (ja) 学習装置、実写画像分類装置の生成システム、実写画像分類装置の生成装置、学習方法及びプログラム
CN114332578A (zh) 图像异常检测模型训练方法、图像异常检测方法和装置
CN110136162B (zh) 无人机视角遥感目标跟踪方法及装置
CN110378837A (zh) 基于鱼眼摄像头的目标检测方法、装置和存储介质
CN110021049B (zh) 一种面向深度神经网络的基于空间约束的高隐蔽性对抗性图像攻击方法
CN115880517A (zh) 一种模型训练的方法、装置及相关设备
CN116431597A (zh) 用于训练数据分类模型的方法、电子设备和计算机程序产品
CN115797735A (zh) 目标检测方法、装置、设备和存储介质
CN115424072A (zh) 一种基于探测技术的无人机防御方法
CN111583146A (zh) 一种基于改进多尺度循环网络的人脸图像去模糊方法
CN115019102A (zh) 一种对抗样本生成模型的构建方法及应用
CN112215766B (zh) 一种图像复原与图像增强相融合的图像去雾方法及其卷积网络
JP7475745B1 (ja) バイナリ協調フィードバックに基づく無人航空機のスマートクルーズ検出方法
CN115641584B (zh) 一种雾天图像识别方法及装置
CN111461177A (zh) 一种图像的识别方法及装置
CN116612355A (zh) 人脸伪造识别模型训练方法和装置、人脸识别方法和装置
CN113486736B (zh) 一种基于活跃子空间与低秩进化策略的黑盒对抗攻击方法
CN115630361A (zh) 一种基于注意力蒸馏的联邦学习后门防御方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant