CN112926661A - 一种增强图像分类鲁棒性的方法 - Google Patents

一种增强图像分类鲁棒性的方法 Download PDF

Info

Publication number
CN112926661A
CN112926661A CN202110222508.6A CN202110222508A CN112926661A CN 112926661 A CN112926661 A CN 112926661A CN 202110222508 A CN202110222508 A CN 202110222508A CN 112926661 A CN112926661 A CN 112926661A
Authority
CN
China
Prior art keywords
image
network
enhanced
detection network
classifier
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110222508.6A
Other languages
English (en)
Inventor
牛伟纳
丁康一
张小松
张钶旋
李信强
孙逊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202110222508.6A priority Critical patent/CN112926661A/zh
Publication of CN112926661A publication Critical patent/CN112926661A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于计算机软件领域，具体为一种增强图像分类鲁棒性的方法，能够增强分类模型的抗干扰性与鲁棒性。目的在于能够防御大多数传统白盒对抗样本的攻击。主要包括，对抗样本检测网络生成模块：通过在原始分类器基础上添加神经网络层来构建一个对抗样本检测网络该网络主要识别对抗样本；判断阈值生成模块：利用常用的对抗样本方法来找到对抗样本检测网络合适的判断阈值。增强模型生成模块：在原始模型的图像分类器的分类基础上，结合前述检测网络的分类结果进一步训练得到一个增强的图像分类器，最后利用增强后的图像分类器来进行图像的分类，从而提高分类器的鲁棒性。

Description

一种增强图像分类鲁棒性的方法
技术领域
本发明属于计算机软件领域，具体为一种图像分类模型鲁棒性增强评估方法，能够增强分类模型的抗干扰性与鲁棒性。
背景技术
近年来，深度学习在已经得到了广泛的应用，无论在图像分类，人脸识别，还在语言处理方面都取得了不错的效果。尤其在图像识别上甚至可匹配人类的性能，现有技术已经可以达到99％以上的识别率。然而，大多数研究者更关心模型的性能(如正确率)，却忽略了模型的脆弱性和鲁棒性。国外Szegedy等人在实验中发现通过给图像添加肉眼难以分辨的扰动，使得最终模型无法得到正确的分类结果。随后Szegedy等人提出了使用有约束的L-BFGS算法来计算扰动，Goodfellow等人提出了基于快速梯度符号算法来计算扰动，Papernot等人用一个替代的神经网络来拟合未知的神经网络，然后根据替代的神经网络生成扰动。这些算法都能生成不错的扰动，从而使得模型分类出错，或者分类成攻击者想要的分类，这些问题使人们开始关注将深度学习应用于现实场景下时，个人安全是否能够得到保障。
发明内容
针对上述现有模型的鲁棒性问题，本发明提出了一种图像分类模型鲁棒性增强方法，基于原始模型生成对抗样本检测网络，对每一个样本先进行评估，最后结合原始模型再训练一个增强的图像分类器，利用该模型进行图像分类，该方法能够防御大多数传统白盒对抗样本，同时不修改原始模型参数，这样还能结合其他防御方法提高模型的鲁棒性。
本发明为解决上述技术问题，采用以下技术方案：
一种增强图像分类鲁棒性的方法，包括：
对抗样本检测网络生成模块：获取原始图像分类器的结构，获取最后一个全连接层之前的隐层，在此基础上添加几个全连接层形成图像检测网络(添加个数可人为设置)，利用检测网络能直接对对抗样本进行初步检测，图像检测网络的最后一层将映射成原始图像的大小，通过优化原始图像和图像检测网络输出图像的L2距离来训练检测检测网络，训练的目的就是训练出一个可以初步检测对抗样本的检测网络；
判断阈值生成模块：利用常用的对抗样本方法(PGD，C&W，BIM等)生成一定数量的对抗样本，结合正常的图像数据集，得到判断阈值n；
增强模型生成模块：在原始图像分类结果基础上，结合前述图像检测网络进一步训练得到一个增强模型，该增强后的图像分类结果作为最终的图像分类结果。
上述技术方案中，所述图像分类器是主要指基于神经网络算法的识别分类器，包括全连接神经网络DNN，卷积神经网络CNN，参差神经网络ResNet，Xception，VGG19，lnceptionV3中任意一种。
上述技术方案中，所述图像检测网络生成模块中，构建网络步骤如下：
S3.1：获取CNN网络最后一个全连接层之前的隐层并进行扁平操作，将隐层的多维结构变成一维结构，如果是DNN网络不进行扁平操作，因为神经网络主流是卷积网络模型的参数在计算机的表示形式会类似[n，n]这种数组，这样不方便后面的组合，所以需要通过扁平变成[n^2，1]；
S3.2：添加一层全连接阶层layer1，其中神经元的个数为原始图像的像素个数的二倍，在原始模型的基础上构建一个自编码器，识别对抗样本，不具体分类。
S3.3：再添加一层全连接层layer2，其中神经元的个数为原始图像的像素个数。
上述技术方案中，S4.1、训练网络过程中，以最小化检测网络输出的重构图像与原始图像的L2距离为目标函数，迭代训练；
S4.2、对全连接层layer1输出进行组合操作，按照神经元的顺序两两组合，即将2个神经元的对应输出相加，与layer2层全连接时，传入的数据为最后组合后的输出。
S4.3、最终检测网络的输出为原始图像大小的重构图像。
上述技术方案中，所述训练判断阈值生成模块有如下特征：
生成判断阈值时采用如下步骤：
S5.1：使用正常图像数据集以及不低于正常图像数据集15％-25％数量的对抗样本图像进行组合得到图像数据集R；
S5.2：将图像数据集R传入对抗样本检测网络，并得到检测网络的输出的重构图像集R′；
S5.3：计算所有输出的重构图像与对应输入的图像数据的L2距离，记Lmax为最大值，Lmin为最小值；
S5.4：置参数n为Lmin；
S5.5；统计在当前参数n的条件下所有正确图像样本中判定为对抗样本图像的概率tf，以及所有判定为对抗样本图像中实际是对抗样本图像的概率fp，记pi＝fp-tf，pi代表第i次搜索时阈值的有效性；
S5.6：当n的值不大于Lmax时则更新
Figure BDA0002953809670000031
并执行S5.5步骤，反之则执行S5.7，其中K为迭代次数；
S5.7：找出使得pi最大的n的取值n′，置n＝n′。
上述技术方案中，所述增强图像分类器生成模块中增强图像分类器的输入构建步骤如下：
S6.1.对于每一个图像数据输入xi，i代表第i个输入数据，首先计算出与图像检测网络的输出的L2距离l，当l＞n时，设置对应的advi为1，否则设置为0，advi代表的检测网络对其的分类结果，分类结果就是指具体的分类标签，具体为该数据对应的类别；
S6.2.对于每个xi将其对应原始模型没有经过softmax层处理的logits层的输出结果logiti与advi构建成后续增强模型的训练数据tran_data，该输入数据即是在原始输出结果上添加了检测网络的判定结果；构建后续增强模型的训练数据。增强模型就是通过原始模型的分类结果，以及检测网络的一个分类结果再二次训练的一个模型。
上述技术方案中，所述增强图像分类器网络的训练数据标签构建如下：对于每一个图像数据的标签增加一维来标记是否为对抗样本，对于正常数据，则该维的值为0，其他维度的值不变，对于对抗样本，则其值为1，并设置其他维度的值为0；模型的训练需要输入数据以及数据对应的标签，比如识别猫狗的分类器，他数据的标签就是[1，0]或[0，1]，我们现在要做的是修改这个标签增加一维代表对抗样本的标签，所以分类器就变成了识别猫狗，对抗样本对应的标签就应该是[1，0，0]，[0，1，0]，[0，0，1]。
上述技术方案中，所述增强图像分类器的训练的数据中30％为对抗样本(采用PGD，C&W，FGSM方法生成)，利用随机梯度下降方法，最小化模型输出与训练数据标签的交叉熵，网络结构采用普通的卷积网络。这个主要是使得对抗样本的数量不要太少，可以根据情况设定，如果识别对抗样本成功率低，就需要增多对抗样本。
上述技术方案中，增强图像分类器的输入数据是原始模型的logits层输出以及对抗样本检测网络的检测结果组成，输出的分类结果中直接包括输入图片是对抗样本的概率。
上述技术方案中，最终增强图像分类器的图像分类结果采用如下方式进行处理：首先得到增强图像分类器的图像分类结果，如果属于对抗样本的概率最大，则将输入的样本判定为对抗样本，反之，将剩余类别的预测概率重新进行归一化处理，并输出最后的图像分类结果。
本发明同现有技术相比，其有益效果表现在：
一、本发明适用于常见采用DNN或者CNN等深度神经网络的人脸识别、无人驾驶等应用，能很大程度上提高模型对现有大多数常用白盒对抗样本的抵抗能力，防御范围广泛。
二、不修改原始模型的参数以及结构，使得模型还能结合其他增强方法，例如，对抗训练，蒸馏防御等。
三、预测流程独特，与常用基于原模型直接防御方法不同，不易被攻破。
附图说明
图1是本发明的总体架构图。
具体实施方式
下面将结合附图及具体实施方式对本发明作进一步的描述。
一种增强图像分类鲁棒性的方法，包括：
对抗样本检测网络生成模块：获取原始图像分类器的结构，获取最后一个全连接层之前的隐层，在此基础上添加几个全连接层形成图像检测网络(添加个数可人为设置)，图像检测网络的最后一层将映射成原始图像的大小，通过优化原始图像和图像检测网络输出图像的L2距离来训练检测检测网络；
判断阈值生成模块：利用常用的对抗样本方法(PGD，C&W，BIM等)生成一定数量的对抗样本，结合正常的图像数据集，得到判断阈值n；
增强模型生成模块：在原始图像分类结果基础上，结合前述图像检测网络进一步训练得到一个增强模型，该增强后的图像分类结果作为最终的图像分类结果。
上述技术方案中，所述图像分类器是主要指基于神经网络算法的识别分类器，包括全连接神经网络DNN，卷积神经网络CNN，参差神经网络ResNet，Xception，VGG19，lnceptionV3中任意一种。
上述技术方案中，所述图像检测网络生成模块中，构建网络步骤如下：
S3.1：获取CNN网络最后一个全连接层之前的隐层并进行扁平操作，将隐层的多维结构变成一维结构，如果是DNN网络不进行扁平操作，因为神经网络主流是卷积网络模型的参数在计算机的表示形式会类似[n，n]这种数组，这样不方便后面的组合，所以需要通过扁平变成[n^2，1]；
S3.2：添加一层全连接阶层layer1，其中神经元的个数为原始图像的像素个数的二倍，在原始模型的基础上构建一个自编码器，识别对抗样本，不具体分类。
S3.3：再添加一层全连接层layer2，其中神经元的个数为原始图像的像素个数。
上述技术方案中，S4.1、训练网络过程中，以最小化检测网络输出的重构图像与原始图像的L2距离为目标函数，迭代训练；
S4.2、对全连接层layer1输出进行组合操作，按照神经元的顺序两两组合，即将2个神经元的对应输出相加，与layer2层全连接时，传入的数据为最后组合后的输出。
S4.3、最终检测网络的输出为原始图像大小的重构图像。
上述技术方案中，所述训练判断阈值生成模块有如下特征：
生成判断阈值时采用如下步骤：
S5.1：使用正常图像数据集以及不低于正常图像数据集15％-25％数量的对抗样本图像进行组合得到图像数据集R；
S5.2：将图像数据集R传入对抗样本检测网络，并得到检测网络的输出的重构图像集R′；
S5.3：计算所有输出的重构图像与对应输入的图像数据的L2距离，记Lmax为最大值，Lmin为最小值；
S5.4：置参数n为Lmin；
S5.5；统计在当前参数n的条件下所有正确图像样本中判定为对抗样本图像的概率tf，以及所有判定为对抗样本图像中实际是对抗样本图像的概率fp，记pi＝fp-tf，pi代表第i次搜索时阈值的有效性；
S5.6：当n的值不大于Lmax时则更新
Figure BDA0002953809670000071
并执行S5.5步骤，反之则执行S5.7，其中K为迭代次数；
S5.7：找出使得pi最大的n的取值n′，置n＝n′。
上述技术方案中，所述增强图像分类器生成模块中增强图像分类器的输入构建步骤如下：
S6.1.对于每一个图像数据输入xi，i代表第i个输入数据，首先计算出与图像检测网络的输出的L2距离l，当l＞n时，设置对应的advi为1，否则设置为0，advi代表的检测网络对其的分类结果；
S6.2.对于每个xi将其对应原始模型没有经过softmax层处理的logits层的输出结果logiti与advi构建成后续增强模型的训练数据tran_data，该输入数据即是在原始输出结果上添加了检测网络的判定结果；构建后续增强模型的训练数据。增强模型就是通过原始模型的分类结果，以及检测网络的一个分类结果再二次训练的一个模型。
上述技术方案中，所述增强图像分类器网络的训练数据标签构建如下：对于每一个图像数据的标签增加一维来标记是否为对抗样本，对于正常数据，则该维的值为0，其他维度的值不变，对于对抗样本，则其值为1，并设置其他维度的值为0；模型的训练需要输入数据以及数据对应的标签，比如识别猫狗的分类器，他数据的标签就是[1，0]或[0，1]，我们现在要做的是修改这个标签增加一维代表对抗样本的标签，所以分类器就变成了识别猫狗，对抗样本对应的标签就应该是[1，0，0]，[0，1，0]，[0，0，1]。
上述技术方案中，所述增强图像分类器的训练的数据中30％为对抗样本(采用PGD，C&W，FGSM方法生成)，利用随机梯度下降方法，最小化模型输出与训练数据标签的交叉熵，网络结构采用普通的卷积网络。这个主要是使得对抗样本的数量不要太少，可以根据情况设定，如果识别对抗样本成功率低，就需要增多对抗样本。
上述技术方案中，增强图像分类器的输入数据是原始模型的logits层输出以及对抗样本检测网络的检测结果组成，输出的分类结果中直接包括输入图片是对抗样本的概率。
上述技术方案中，最终增强图像分类器的图像分类结果采用如下方式进行处理：首先得到增强图像分类器的图像分类结果，如果属于对抗样本的概率最大，则将输入的样本判定为对抗样本，反之，将剩余类别的预测概率重新进行归一化处理，并输出最后的图像分类结果。
实施例
本实验步骤基于Windows10平台，所用语言为python3.6，依赖关系tensorflow、theano、keras等，编译软件为pycharm，表1本实施方式使用的工具
Figure BDA0002953809670000081
Figure BDA0002953809670000091
表2本实施使用主要接口API
序号 API 说明
1 CreatNet 该接口根据原始模型创建检测网络
2 GetN 获取最佳的检测阈值
3 GetResults 该函数检测网络的判定结果
4 CreateData 根据判定结果创建增强模型训练数据
5 TrainModel 训练增强模型
具体实施步骤按照上述模块执行：
一、检测网络生成：我们选定Minist库中挑选出60000个样本，80％作为训练集，剩下10％作为训练阈值数据集，还有10％最后的测试集，根据所述构建方式，再原模型的基础上添加新的网络层，并通过优化输入和输出的L2距离来训练网络。
二、判定阈值确定：按照上诉所诉方法，首先采用常用白盒方法生成总数1200个对抗样本，这里使用了C&W，FGSM，以及I-FGSM3种方法，加上前述的6000个训练阈值数据集作为输入经过训练好的检测网络，数据集的顺序随机打乱，根据前诉寻找最佳n的步骤，迭代生成最佳的n。
三、增强模型训练：根据前述方式，利用前面的检测网络和判断阈值去构建数据标签并训练新的增强模型。
四、测试效果：首先是采用C&W，BIM，JSMA，One Pixel Attack几种常用白盒攻击方法，生成1000个对抗样本，加上前述6000个测试数据集，作为输入，传入到上述模型输出模块中，在模型输出模块中计算出所有样本与重构图像的距离，根据已找到的n再结合原始模型构建新的数据集以及数据标签，再训练得到前述增强模型。依次测试数据传入原始模型获取到logits层输出，并结合检测网络的结果传入增强模型，最后根据结果统计准确率。
以上仅是本发明众多具体应用范围中的代表性实施例，对本发明的保护范围不构成任何限制。凡采用变换或是等效替换而形成的技术方案，均落在本发明权利保护范围之内。

Claims (10)

1.一种增强图像分类鲁棒性的方法，其特征在于，包括：
对抗样本检测网络生成模块：获取原始图像分类器的结构，获取最后一个全连接层之前的隐层，在此基础上添加几个全连接层形成图像检测网络，图像检测网络的最后一层将映射成原始图像的大小，通过优化原始图像和图像检测网络输出图像的L2距离来训练检测检测网络；
判断阈值生成模块：利用常用的对抗样本方法生成一定数量的对抗样本，结合正常的图像数据集，得到判断阈值n；
增强模型生成模块：在原始图像分类结果基础上，结合前述图像检测网络进一步训练得到一个增强模型，该增强后的图像分类结果作为最终的图像分类结果。
2.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于：所述图像分类器是主要指基于神经网络算法的识别分类器，包括全连接神经网络DNN，卷积神经网络CNN，参差神经网络ResNet，Xception，VGG19，InceptionV3中任意一种。
3.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于，所述图像检测网络生成模块中，构建网络步骤如下：
S3.1：获取CNN网络最后一个全连接层之前的隐层并进行扁平操作，将隐层的多维结构变成一维结构，如果是DNN网络不进行扁平操作；
S3.2：添加一层全连接阶层layer1，其中神经元的个数为原始图像的像素个数的二倍；
S3.3：再添加一层全连接层layer2，其中神经元的个数为原始图像的像素个数。
4.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于，检测网络生成模块中：
S4.1、训练网络过程中，以最小化检测网络输出的重构图像与原始图像的L2距离为目标函数，迭代训练；
S4.2、对全连接层layer1输出进行组合操作，按照神经元的顺序两两组合，即将2个神经元的对应输出相加，与layer2层全连接时，传入的数据为最后组合后的输出；
S4.3、最终检测网络的输出为原始图像大小的重构图像。
5.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于，训练判断阈值生成模块有如下特征：
生成判断阈值时采用如下步骤：
S5.1：使用正常图像数据集以及不低于正常图像数据集15％-25％数量的对抗样本图像进行组合得到图像数据集R；
S5.2：将图像数据集R传入对抗样本检测网络，并得到检测网络的输出的重构图像集R′；
S5.3：计算所有输出的重构图像与对应输入的图像数据的L2距离，记Lmax为最大值，Lmin为最小值；
S5.4：置参数n为Lmin；
S5.5：统计在当前参数n的条件下所有正确图像样本中判定为对抗样本图像的概率tf，以及所有判定为对抗样本图像中实际是对抗样本图像的概率fp，记pi＝fp-tf，pi代表第i次搜索时阈值的有效性；
S5.6：当n的值不大于Lmax时则更新
Figure FDA0002953809660000021
并执行S5.5步骤，反之则执行S5.7，其中K为迭代次数；
S5.7：找出使得pi最大的n的取值n′，置n＝n′。
6.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于，增强图像分类器生成模块中增强图像分类器的输入构建步骤如下：
S6.1.对于每一个图像数据输入xi，i代表第i个输入数据，首先计算出与图像检测网络的输出的L2距离l，当l＞n时，设置对应的advi为1，否则设置为0，advi代表的检测网络对其的分类结果；
S6.2.对于每个xi将其对应原始模型没有经过softmax层处理的logits层的输出结果logiti与advi构建成后续增强模型的训练数据tran_data，该输入数据即是在原始输出结果上添加了检测网络的判定结果。
7.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于：增强图像分类器网络的训练数据标签构建如下：对于每一个图像数据的标签增加一维来标记是否为对抗样本，对于正常数据，则该维的值为0，其他维度的值不变，对于对抗样本，则其值为1，并设置其他维度的值为0。
8.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于：增强图像分类器的训练的数据中30％为对抗样本，利用随机梯度下降方法，最小化模型输出与训练数据标签的交叉熵，网络结构采用普通的卷积网络。
9.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于：增强图像分类器的输入数据是原始模型的logits层输出以及对抗样本检测网络的检测结果组成，输出的分类结果中直接包括输入图片是对抗样本的概率。
10.根据权利要求1所述的一种增强图像分类鲁棒性的方法，其特征在于：最终增强图像分类器的图像分类结果采用如下方式进行处理：首先得到增强图像分类器的图像分类结果，如果属于对抗样本的概率最大，则将输入的样本判定为对抗样本，反之，将剩余类别的预测概率重新进行归一化处理，并输出最后的图像分类结果。
CN202110222508.6A 2021-02-26 2021-02-26 一种增强图像分类鲁棒性的方法 Pending CN112926661A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110222508.6A CN112926661A (zh) 2021-02-26 2021-02-26 一种增强图像分类鲁棒性的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110222508.6A CN112926661A (zh) 2021-02-26 2021-02-26 一种增强图像分类鲁棒性的方法

Publications (1)

Publication Number Publication Date
CN112926661A true CN112926661A (zh) 2021-06-08

Family

ID=76172535

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110222508.6A Pending CN112926661A (zh) 2021-02-26 2021-02-26 一种增强图像分类鲁棒性的方法

Country Status (1)

Country Link
CN (1) CN112926661A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222074A (zh) * 2021-06-15 2021-08-06 百度在线网络技术（北京）有限公司 评估目标检测模型的方法及装置
CN113780468A (zh) * 2021-09-28 2021-12-10 中国人民解放军国防科技大学 一种基于少量神经元连接的健壮模型训练方法
CN113962968A (zh) * 2021-10-26 2022-01-21 北京临近空间飞行器系统工程研究所 面向复杂电磁环境下多源混合干扰雷达图像目标检测系统
CN116168255A (zh) * 2023-04-10 2023-05-26 武汉大学人民医院（湖北省人民医院） 一种长尾分布鲁棒的视网膜oct图像分类方法
CN113962968B (zh) * 2021-10-26 2024-06-04 北京临近空间飞行器系统工程研究所 面向复杂电磁环境下多源混合干扰雷达图像目标检测系统

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222074A (zh) * 2021-06-15 2021-08-06 百度在线网络技术（北京）有限公司 评估目标检测模型的方法及装置
CN113222074B (zh) * 2021-06-15 2023-08-22 百度在线网络技术（北京）有限公司 评估目标检测模型的方法及装置
CN113780468A (zh) * 2021-09-28 2021-12-10 中国人民解放军国防科技大学 一种基于少量神经元连接的健壮模型训练方法
CN113780468B (zh) * 2021-09-28 2022-08-09 中国人民解放军国防科技大学 一种基于少量神经元连接的健壮图像分类模型训练方法
CN113962968A (zh) * 2021-10-26 2022-01-21 北京临近空间飞行器系统工程研究所 面向复杂电磁环境下多源混合干扰雷达图像目标检测系统
CN113962968B (zh) * 2021-10-26 2024-06-04 北京临近空间飞行器系统工程研究所 面向复杂电磁环境下多源混合干扰雷达图像目标检测系统
CN116168255A (zh) * 2023-04-10 2023-05-26 武汉大学人民医院（湖北省人民医院） 一种长尾分布鲁棒的视网膜oct图像分类方法
CN116168255B (zh) * 2023-04-10 2023-12-08 武汉大学人民医院（湖北省人民医院） 一种长尾分布鲁棒的视网膜oct图像分类方法

Similar Documents

Publication Publication Date Title
CN112115995B (zh) 一种基于半监督学习的图像多标签分类方法
CN111753881B (zh) 一种基于概念敏感性量化识别对抗攻击的防御方法
CN112926661A (zh) 一种增强图像分类鲁棒性的方法
CN110941794A (zh) 一种基于通用逆扰动防御矩阵的对抗攻击防御方法
CN110175248B (zh) 一种基于深度学习和哈希编码的人脸图像检索方法和装置
CN111325324A (zh) 一种基于二阶方法的深度学习对抗样本生成方法
CN112215292B (zh) 一种基于迁移性的图像对抗样本生成装置及方法
CN109255381B (zh) 一种基于二阶vlad稀疏自适应深度网络的图像分类方法
CN109033833B (zh) 一种基于多特征与特征选择的恶意代码分类方法
CN113343974B (zh) 考虑模态间语义距离度量的多模态融合分类优化方法
CN112434628B (zh) 基于主动学习和协同表示的小样本图像分类方法
CN113297572B (zh) 基于神经元激活模式的深度学习样本级对抗攻击防御方法及其装置
CN112182585B (zh) 源代码漏洞检测方法、系统及存储介质
CN114842267A (zh) 基于标签噪声域自适应的图像分类方法及系统
CN113806746A (zh) 基于改进cnn网络的恶意代码检测方法
CN113627543B (zh) 一种对抗攻击检测方法
CN114926680B (zh) 一种基于AlexNet网络模型的恶意软件分类方法及系统
CN114513367B (zh) 基于图神经网络的蜂窝网络异常检测方法
CN115048983A (zh) 数据流形拓扑感知的人工智能系统对抗样本防御方法
CN114676852A (zh) 一种基于相关性类激活映射的通用对抗扰动生成方法
Wang et al. New adversarial image detection based on sentiment analysis
CN116051924B (zh) 一种图像对抗样本的分治防御方法
CN116433909A (zh) 基于相似度加权多教师网络模型的半监督图像语义分割方法
CN116722992A (zh) 一种基于多模态融合的诈骗网站识别方法及装置
CN111797732B (zh) 一种对采样不敏感的视频动作识别对抗攻击方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination