CN114648674A - 一种对抗样本图像的过滤方法、装置、电子设备及介质 - Google Patents
一种对抗样本图像的过滤方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN114648674A CN114648674A CN202210202840.0A CN202210202840A CN114648674A CN 114648674 A CN114648674 A CN 114648674A CN 202210202840 A CN202210202840 A CN 202210202840A CN 114648674 A CN114648674 A CN 114648674A
- Authority
- CN
- China
- Prior art keywords
- feature information
- dimension
- information
- sample image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001914 filtration Methods 0.000 title claims abstract description 66
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000000354 decomposition reaction Methods 0.000 claims abstract description 34
- 238000000605 extraction Methods 0.000 claims abstract description 28
- 239000011159 matrix material Substances 0.000 claims description 52
- 238000004590 computer program Methods 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 12
- 230000009466 transformation Effects 0.000 claims description 11
- 241000282414 Homo sapiens Species 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000003042 antagnostic effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013145 classification model Methods 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种对抗样本图像的过滤方法、装置、电子设备及介质，该方法包括：获取原始对抗样本图像，原始对抗样本图像中包含干扰信息；对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；根据各个维度的第三特征信息，确定目标对抗图像。通过本发明的方法，可有效过滤掉原始对抗样本图像中的干扰信息。
Description
技术领域
本发明涉及计算机视觉技术领域，具体而言，本发明涉及一种对抗样本图像的过滤方法、装置、电子设备及介质。
背景技术
近年来，随着计算机图像识别领域的飞速发展，各行业都在尝试将计算机视觉融入社会生产中，应用范围十分广泛。发展出了不限于图像识别，目标检测，语义分割，实体分割等等众多方向，并应用于自动驾驶，医学影像分析，人脸识别等众多方面。随着计算机视觉应用领域的逐步成熟，神经网络模型的安全性问题也逐步成为重要的研究方向。
作为计算机视觉的基础性应用，图像识别起到了非常重要的作用。基于深度学习的人工神经网络飞速发展，逐步取代了原有的机器学习方法，并在准确度上超过了人类。基于大量的数据训练和网络模型的不断加深，图像识别的速度不断加快，分类模型的安全性问题也显现出来。有研究发现，在图像的空间域上添加一些微小的扰动，可以对网络模型的预测结果产生干扰，人类却无法察觉到扰动的存在，添加了这种微小扰动的图像称作对抗样本，添加扰动的行为称作对抗攻击，对抗这种攻击的行为称作对抗防御。
对抗样本不仅仅在一个网络中有效，研究发现同样的扰动可以在不同结构的网络上起到干扰效果，即对抗的扰动具有迁移性。不仅如此，对抗样本的攻击效果还可以跨越数据集，及使用不同的训练数据训练网络，依然有被攻击的风险。因此，现有技术中，亟需提供一种过滤对抗样本图像中的干扰信息的方法，以解决现有技术中无法准确过滤掉对抗样本图像中的干扰信息，并且基于对抗样本图像训练的模型的鲁棒性较差的问题。
发明内容
本发明所要解决的技术问题是提供了一种对抗样本图像的过滤方法、装置、电子设备及介质，旨在解决以上至少一个技术问题。
第一方面，本发明解决上述技术问题的技术方案如下：一种对抗样本图像的过滤方法，该方法包括：
获取原始对抗样本图像，该原始对抗样本图像中包含干扰信息；
对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；
对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
根据各个维度的第三特征信息，确定目标对抗图像。
本发明的有益效果是：在本申请方案中，先对包含干扰信息的原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，粗粒度的第一特征信息可以反映出原始对抗样本图像中的颜色和形状等易于人类分辨的信息，细粒度的第一特征信息可以反映出原始对抗样本图像中的细节等人类难以分辨的信息，然后对第一特征信息进行奇异值分解，分解得到第二特征信息可以进一步体现出干扰信息的特征，对第二特征信息进行过滤，可过滤掉原始对抗样本图像中的干扰信息，使得最终基于各个维度的第三特征信息确定的目标对抗图像中不包含干扰信息。通过本发明的方案，可有效过滤掉原始对抗样本图像中的干扰信息，且本发明方案提供的方法具有普适性。
在上述技术方案的基础上，本发明还可以做如下改进。
进一步，上述对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息；
或者，
对原始对抗样本图像进行离散小波包变换，得到至少两个维度的第一特征信息。
采用上述进一步方案的有益效果是，在本申请方案中可通过离散小波变换或离散小波包变换的方式提取原始对抗样本图的至少两个维度的第一特征信息，可更加有效的提取出原始对抗样本图中的特征。
进一步，上述离散小波变换为二维haar离散小波变换，上述对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息，至少两个维度的第一特征信息包括四个维度的第一特征信息，细粒度的第一特征信息包括水平的第一特征信息、垂直的第一特征信息和对角的第一特征信息。
采用上述进一步方案的有益效果是，由于细粒度的第一特征信息中包含的干扰信息不易被分辨，因此，在本申请方案中，二维haar离散小波变换得到的四个维度的第一特征信息中，细粒度的第一特征信息包括三个，可以更加准确的表征干扰信息。
进一步，对于每个维度的第二特征信息，该维度的第二特征信息为对角阵，该对角阵中包括r个奇异值，该对角阵中每一行包括一个奇异值，该对角阵中的当前行的奇异值大于当前行的下一行的奇异值；该维度对应的过滤条件为保留维度对应的对角阵中的前k个的奇异值，k不大于r；
上述对于每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息，包括：
对于每个维度的对角阵，过滤掉对角阵中第k+1个到第r个奇异值，将对角阵中的前k个的奇异值作为第三特征信息。
采用上述进一步方案的有益效果是，通过对角阵中的各个奇异值来表征原始对抗样本图像中的信息，当奇异值越大时，它代表的信息越多，由于对角阵中的当前行的奇异值大于当前行的下一行的奇异值，对于每个维度的对角阵，过滤掉对角阵中第k+1个到第r个奇异值，将对角阵中的前k个的奇异值作为第三特征信息，可以有效保留原始对抗样本图像中的有用的信息，过滤掉原始对抗样本图像中的干扰信息。
进一步，若原始对抗样本图像为RGB图像，则上述对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像分别进行R、G和B三个通道的特征提取，得到每个通道对应的至少两个维度的第一特征信息；
上述对于每个维度的第一特征信息，对维度的第一特征信息进行奇异值分解，得到维度的第一特征信息对应的第二特征信息，包括：
对于每个通道的每个维度的第一特征信息，对该维度的该通道的第一特征信息进行奇异值分解，得到该维度的该通道的第一特征信息对应的第二特征信息；
上述对于每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息，包括：
对于每个通道的每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，上述根据各个维度的第三特征信息，确定目标对抗图像，包括：
对于每个通道的各个维度的第三特征信息，对该通道的各个维度的第三特征信息进行离散余弦逆变换，得到通道对应的第四特征信息；
根据各个通道对应的各个维度的第四特征信息，确定目标对抗图像。
采用上述进一步方案的有益效果是，可按照不同的通道分别对每个通道的图像信息进行后续的处理，以提高处理效率。
进一步，若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，上述根据各个维度的第三特征信息，确定目标对抗图像，包括：
对各个维度的第三特征信息进行离散余弦逆变换，得到目标对抗图像。
采用上述进一步方案的有益效果是，在过滤掉原始对抗样本图像中的干扰信息之后，对各个维度的第三特征信息进行离散余弦逆变换，可得到不包含干扰信息的目标对抗图像，以便于后续使用。
进一步，该方法还包括：
将目标对抗图像作为训练样本，对模型进行对抗训练。
采用上述进一步方案的有益效果是，将不包含干扰信息的目标对抗图像作为训练样本来训练模型，可使得训练得到的模型不会受干扰信息的干扰，提高了模型的鲁棒性。
第二方面，本发明为了解决上述技术问题还提供了一种对抗样本图像的过滤装置，该装置包括：
图像获取模块，用于获取原始对抗样本图像，原始对抗样本图像中包含干扰信息；
特征提取模块，用于对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
特征分解模块，用于对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；
过滤模块，用于对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
目标对抗图像确定模块，用于根据各个维度的第三特征信息，确定目标对抗图像。
第三方面，本发明为了解决上述技术问题还提供了一种电子设备，该电子设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行该计算机程序时实现本申请的对抗样本图像的过滤方法。
第四方面，本发明为了解决上述技术问题还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现本申请的对抗样本图像的过滤方法。
本申请附加的方面和优点将在下面的描述中部分给出，这些将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对本发明实施例描述中所需要使用的附图作简单地介绍。
图1为本发明一个实施例提供的一种对抗样本图像的过滤方法的流程示意图；
图2为本发明一个实施例提供的另一种对抗样本图像的过滤方法的流程示意图；
图3为本发明一个实施例提供的一种对抗样本图像的过滤装置的结构示意图；
图4为本发明一个实施例提供的一种电子设备的结构示意图。
具体实施方式
以下对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。
下面以具体实施例对本发明的技术方案以及本发明的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图，对本发明的实施例进行描述。
本发明实施例所提供的方案可以适用于任何需要过滤原始对抗样本图像中的干扰信息的应用场景中。本发明实施例所提供的方案可以由任一电子设备执行，比如，可以是用户的终端设备，上述终端设备可以是任何可以安装应用，并可通过应用访问网页的终端设备，包括以下至少一项：智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、智能电视、智能车载设备。
本发明实施例提供了一种可能的实现方式，如图1所示，提供了一种对抗样本图像的过滤方法的流程图，该方案可以由任一电子设备执行，例如，可以是终端设备，或者由终端设备和服务器(下文可称为文件服务器)共同执行。为描述方便，下面将以服务器作为执行主体为例对本发明实施例提供的方法进行说明，如图1中所示的流程图，该方法可以包括以下步骤：
步骤S110，获取原始对抗样本图像，原始对抗样本图像中包含干扰信息；
步骤S120，对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
步骤S130，对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；
步骤S140，对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
步骤S150，根据各个维度的第三特征信息，确定目标对抗图像。
通过本发明的方法，在本申请方案中，先对包含干扰信息的原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，粗粒度的第一特征信息可以反映出原始对抗样本图像中的颜色和形状等易于人类分辨的信息，细粒度的第一特征信息可以反映出原始对抗样本图像中的细节等人类难以分辨的信息，然后对第一特征信息进行奇异值分解，分解得到第二特征信息可以进一步体现出干扰信息的特征，对第二特征信息进行过滤，可过滤掉原始对抗样本图像中的干扰信息，使得最终基于各个维度的第三特征信息确定的目标对抗图像中不包含干扰信息。通过本发明的方案，可有效过滤掉原始对抗样本图像中的干扰信息，且本发明方案提供的方法具有普适性。
下面结合以下具体的实施例，对本发明的方案进行进一步的说明，在该实施例中，对抗样本图像的过滤方法可以包括以下步骤：
步骤S110，获取原始对抗样本图像，原始对抗样本图像中包含干扰信息。
其中，对抗样本指的是一个经过微小调整就可以让机器学习算法输出错误结果的输入样本。对通过图像采集设备获取的基本图像进行处理，使得基本图像中增加了一些信息，增加的信息即为干扰信息，对基本图像进行处理后得到的图像即为原始对抗样本图像。
步骤S120，对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息。
其中，粗粒度的第一特征信息可以反映出原始对抗样本图像中的颜色和形状等易于人类分辨的信息，细粒度的第一特征信息可以反映出原始对抗样本图像中的细节等人类难以分辨的信息，通过不同维度的第一特征信息表征原始对抗样本图像，则可从不同的维度表征出该图像中的干扰信息。
可选的，上述对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息；
或者，
对原始对抗样本图像进行离散小波包变换，得到至少两个维度的第一特征信息。
其中，本申请方案中，可通过离散小波变换或离散小波包变换的方式提取原始对抗样本图的至少两个维度的第一特征信息，可更加有效的提取出原始对抗样本图中的特征。
通过离散小波变换或离散小波包变换的方式提取的至少两个维度的第一特征信息中的粗粒度的第一特征信息还可以为描述为低频分量的第一特征信息，细粒度的第一特征信息还可以描述为高频分量的第一特征信息。其中，低频分量的第一特征信息指的是原始对抗样本图像中的低频信息，通过低通滤波得到的特征信息，高频分量的第一特征信息指的是原始对抗样本图像中的高频信息，通过高通滤波得到的特征信息。
可选的，上述离散小波变换可以为二维haar离散小波变换，上述对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息，至少两个维度的第一特征信息包括四个维度的第一特征信息，细粒度的第一特征信息包括水平的第一特征信息、垂直的第一特征信息和对角的第一特征信息。
由于高频分量的第一特征信息可以反映出人类难以分辨的图像细节信息，为了更加准确的识别出原始对抗样本图像的扰动信息，可从不同维度提取高频分量的第一特征信息，以通过提取得到的三个维度的第一特征信息表征扰动信息。
作为一个示例，上述对原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息可通过以下公式(1)实现：
DWT(X)→cA，cH，cV，cD (1)
其中，DWT(·)表示二维Haar离散小波变换，X表示原始对抗样本图像，cA表示粗粒度的第一特征信息，cH表示水平的第一特征信息，cV表示垂直的第一特征信息，cD表示对角的第一特征信息。
步骤S130，对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息。
其中，进行奇异值分解(SVD)后得到的第二特征信息可通过对角阵表示，对角阵为在矩阵的某一条对角线上的数字不全为0，而其余部分为0的矩阵。
根据前文描述，对粗粒度的第一特征信息cA进行奇异值分解，得到cA对应的第二特征信息可表示为∑cA，对水平的第一特征信息cH进行奇异值分解，得到cH对应的第二特征信息可表示为∑cH，对垂直的第一特征信息cV进行奇异值分解，得到cV对应的第二特征信息可表示为∑cV，对对角的第一特征信息cD进行奇异值分解，得到cD对应的第二特征信息可表示为∑cD。
其中，奇异值分解的公式(2)为：
其中，
表示每个维度的第二特征信息对应的矩阵，∑表示对角阵，对角阵的对角线上的元素由
的r个奇异值构成，酉矩阵U的每一列称为
的左奇异向量，V的每一列称为
的右奇异向量，VT表示V的转置，[]m*n表示m*n的矩阵，m表示该矩阵的行数，n表示该矩阵的列数。
在本申请方案中，对于每个维度的第二特征信息，由于每个维度的第二特征信息可通过矩阵表示，该矩阵中包括r个奇异值，该矩阵中每一行包括一个奇异值，该矩阵中的当前行的奇异值大于当前行的下一行的奇异值，作为一个示例，一个对角阵可表示为：
其中，σi表示对应分量
的一个奇异值，r(∑)＝r，r(·)为∑的秩，r≤n，σ1≥σ2≥…≥σr≥σr+1＝…＝σn＝0。
步骤S140，对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息。
将每个第一特征信息通过奇异值分解后得到的第二特征信息可以更加准确的反映扰动信息，由于上述矩阵
中当前行的奇异值大于当前行的下一行的奇异值，即σ1≥σ2≥…≥σr≥σr+1＝…＝σn＝0，扰动信息存在于矩阵
的各行奇异值中的靠后的各奇异值中，则可基于此设置过滤条件，对于每个维度对应的过滤条件，该维度对应的过滤条件可为保留维度对应的矩阵
中的前k个的奇异值，k不大于r；
则上述对于每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息，包括：
对于每个维度的矩阵
过滤掉矩阵
中第k+1个到第r个奇异值，比如，令σk+1…σr＝0，将矩阵
中的前k个的奇异值作为第三特征信息。
其中，对于每个维度的第二特征信息，都保留对应的过滤条件对应数量的奇异值，比如，∑cA对应的过滤条件为保留k1个奇异值，∑cA对应的第三特征信息为kcA，∑cH对应的过滤条件为保留k2个奇异值，∑cH对应的第三特征信息为kcH，∑cV对应的过滤条件为保留k3个奇异值，∑cV对应的第三特征信息为kcV，∑cD对应的过滤条件为保留k4个奇异值，∑cD对应的第三特征信息为kcD。其中，k1、k2、k3和k4中各个值可相同，也可不同。
其中，对于每个维度，该维度的第三特征信息对应的对角阵可通过ki表示，
其中，si是此方法的超参数，比如，可以是一个比例值，四个分量的参数分别为scA、scH、scV、scD。
基于前文描述可知，由于
表示每个维度的第二特征信息对应的矩阵，则对于每个维度，该维度对应的第三特征信息可以为：U*ki*VT，作为一个示例，比如，如果是∑cA对应的第三特征信息，该第三特征信息cASVD可表示为：U*kcA*VT。同理，∑cH对应的第三特征信息cHSVD可表示为：U*kcH*VT，∑cV对应的第三特征信息cVSVD可表示为：U*∑cV*VT，∑cD对应的第三特征信息cDSVD可表示为：U*kcD*VT。
步骤S150，根据各个维度的第三特征信息，确定目标对抗图像。
各个维度的第三特征信息为过滤掉扰动信息的特征信息，则基于各个维度的第三特征信息确定的目标对抗图像中可过滤掉原始对抗图像中的扰动信息。
可选的，若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，根据各个维度的第三特征信息，确定目标对抗图像，包括：
对各个维度的第三特征信息进行离散余弦逆变换，得到目标对抗图像。
其中，离散余弦逆变换可通过以下公式(3)表示：
IDWT(cASVD，cHSVD，cVSVD，cDSVD)→XDWT (3)
其中，IDWT为离散余弦逆变换，XDWT为目标对抗图像，cASVD，cHSVD，cVSVD，cDSVD分别表示四个维度对应的第三特征信息。
可选的，上述若原始对抗样本图像为RGB图像，则对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对原始对抗样本图像分别进行R、G和B三个通道的特征提取，得到每个通道对应的至少两个维度的第一特征信息；
对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息，包括：
对于每个通道的每个维度的第一特征信息，对该维度的该通道的第一特征信息进行奇异值分解，得到该维度的该通道的第一特征信息对应的第二特征信息；
对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息，包括：
对于每个通道的每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，根据各个维度的第三特征信息，确定目标对抗图像，包括：
对于每个通道的各个维度的第三特征信息，对该通道的各个维度的第三特征信息进行离散余弦逆变换，得到通道对应的第四特征信息；
根据各个通道对应的各个维度的第四特征信息，确定目标对抗图像。
其中，如果原始对抗样本图像为RGB图像，则在提取第一特征信息，基于第一特征信息进行奇异值分解得到第二特征信息，再对第二特征信息进行过滤得到第三特征信息的过程中，可按照每个通道的每个维度对应的图像信息进行处理，且每个通道的每个维度对应的图像信息的处理方式相同。
作为一个示例，比如，对于原始对抗图像的R通道，可提取R通道对应的图像信息中的至少两个维度的第一特征信息。则对于R通道的各个维度的第三特征信息，可对该R通道的各个维度的第三特征信息进行离散余弦逆变换，得到R通道对应的第四特征信息RDWT，同理，G通道对应的第四特征信息为GDWT，B通道对应的第四特征信息为BDWT。然后将这三个通道对应的第四特征信息进行组合，得到目标对抗图像。
XDWT相比于原始对抗样本图像X，经过了SVD后的筛选，去掉了各分量(各第一特征信息)中重要性较低的部分，去除了原始对抗样本图像中处于图像细节部分的大部分扰动，目标对抗图像可有效减少对分类模型预测过程的干扰。则对于得到的目标对抗图像，可将目标对抗图像作为训练样本，对模型进行对抗训练。经过过滤的目标对抗图像XDWT，由于缺少了部分信息，如果对模型的分类效果产生影响，则可以通过增加XDWT作为对抗训练的样本，补充训练现有模型，则可以有效解决问题。
为了更好的说明及理解本发明所提供的方法的原理，下面结合一个可选的具体实施例对本发明的方案进行说明。需要说明的是，该具体实施例中的各步骤的具体实现方式并不应当理解为对于本发明方案的限定，在本发明所提供的方案的原理的基础上，本领域技术人员能够想到的其他实现方式也应视为本发明的保护范围之内。
在本示例中，以一张分类为beagle的原始图像为例进行说明，基于该原始图像，得到包含对抗扰动的对抗样本图像X(原始对抗样本图像)作为输入，该对抗样本图像X的分类结果已经变为book jacket，算法参数scA、scH、scV、scD分别为0.3，0.1，0.1，0.1为例，对抗样本图像X先经过二维Haar小波变换，然后通过奇异值分解，按比例(前文所描述的k1、k2、k3和k4)保留各个分量(各个第二特征信息)的信息，生成新的图像(目标对抗图像)后，输入分类器进行预测可得到正确的分类结果(beagle)。
参见图2中所示的对抗样本图像的过滤流程图，该对抗样本图像的过滤方法包括以下步骤：
步骤一，含有对抗扰动的彩色图像X(对应图2中的原图)和真实类别Y(Y表示beagle)，彩色图像X包含R、G、B三个通道，由于每个通道对应的图像信息的处理原理相同，下面以R通道为例，以彩色图像的R通道作为输入数据X，进行离散小波变换，得到低频分量cA(粗粒度的第一特征信息)，水平高频分量cH(水平的第一特征信息)、垂直高频分量cV(垂直定位第一特征信息)，对角高频分量cD(对角的第一特征信息)；低频分量cA包含了图像的颜色和形状等大部分易于人类分辨的信息，高频分量cH、cV和cD则包含了人类难以分辨的图像细节信息。
步骤二，对彩色图像X的四个方向的分量分别进行奇异值分解(SVD)，得到四个分解后的对角阵∑cA、∑cH、∑cV和∑cD。
步骤三，选择各分量的保留比例，分别去除对角阵∑cA、∑cH、∑cV和∑cD中的对抗扰动，得到R通道对应的各个维度的对角阵ki；
其中，ki＝[r*si]，令σk+1…σr＝0，scA、scH、scV、scD分别为0.3，0.1，0.1，0.1，r分别表示四个分解后的对角阵∑cA、∑cH、∑cV和∑cD，则根据
∑cA、∑cH、∑cV和∑cD分别保留前30％，10％，10％和10％的奇异值，这一步删除了对角阵∑cA、∑cH、∑cV和∑cD中不重要的部分，该步骤3对应图2中所示的去除对抗扰动。
步骤四，iSVD，即将上一步得到的U、经过选择保留的对角阵以及VT相乘，得到保留后的四个分量cASVD，cHSVD，cVSVD，cDSVD。
步骤五，离散余弦逆变换，将上一步得到的四个分量cASVD，cHSVD，cVSVD，cDSVD还原为R通道对应的第四特征信息RDWT。
步骤六，因为原始图像为彩色图像，将图像的另外两个通道G、B分别进行步骤一到步骤五的操作，得到三个新的通道的第四特征信息RDWT、GDWT和BDWT，然后基于RDWT、GDWT和BDWT，组合成新的彩色图像XDWT(目标对抗图像)，对应图2中所示的新图。
XDWT相比于原始图像X，经过了SVD后的筛选，去掉了各分量中重要性较低的部分，去除了对抗样本中处于图像细节部分的大部分扰动，新的样本可有效减少对分类模型预测过程的干扰，通过模型已经可以将目标对抗图像正确分类为beagle。
由于通过本申请的方案去除了一部分图像信息，所以可以将得到的新图像作为对抗训练的样本，补充训练现有模型，分类正确率还会得到提高；
基于上述方法，进行了以下实验验证：
从ILSVRC-2012的测试集中随机选择1000张图片作为实验数据，以无穷范数的PGD攻击算法为例，经过实验得到参数scA、scH、scV、scD分别为0.5，0，0，0时效果最佳，此时模型对对抗样本的分类准确度仅为0.13％，经过本发明的算法处理对抗样本图像后，得到的新图像集合分类准确度提升到52.3％。
从ILSVRC-2012的测试集中随机选择1000张图片作为实验数据，以FGSM攻击算法为例，在参数scA、scH、scV、scD分别为0.2，0.1，0.1，0.1时效果最佳，此时模型对对抗样本的分类准确度仅为7％，经过本发明的算法处理对抗样本图像后，得到的新图像集合分类准确度提升到41％.可见效果十分明显。
基于与图1中所示的方法相同的原理，本发明实施例还提供了一种对抗样本图像的过滤装置20，如图3中所示，该对抗样本图像的过滤装置20可以包括图像获取模块210、特征提取模块220、特征分解模块230、过滤模块240和目标对抗图像确定模块250，其中：
图像获取模块210，用于获取原始对抗样本图像，原始对抗样本图像中包含干扰信息；
特征提取模块220，用于对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
特征分解模块230，用于对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；
过滤模块240，用于对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
目标对抗图像确定模块250，用于根据各个维度的第三特征信息，确定目标对抗图像。
可选的，上述特征提取模块220在对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息时，具体用于：
对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息；
或者，
对原始对抗样本图像进行离散小波包变换，得到至少两个维度的第一特征信息。
可选的，上述离散小波变换为二维haar离散小波变换，上述特征提取模块220在对原始对抗样本图像进行离散小波变换，得到至少两个维度的第一特征信息时，具体用于：
对原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息，至少两个维度的第一特征信息包括四个维度的第一特征信息，细粒度的第一特征信息包括水平的第一特征信息、垂直的第一特征信息和对角的第一特征信息。
可选的，对于每个维度的第二特征信息，该维度的第二特征信息为矩阵，该矩阵中包括r个奇异值，该矩阵中每一行包括一个奇异值，该矩阵中的当前行的奇异值大于当前行的下一行的奇异值；该维度对应的过滤条件为保留维度对应的矩阵中的前k个的奇异值，k不大于r；
上述过滤模块240在对于每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息时，具体用于：
对于每个维度的矩阵，过滤掉对角阵中第k+1个到第r个奇异值，将矩阵中的前k个的奇异值作为第三特征信息。
可选的，若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，上述目标对抗图像确定模块250在根据各个维度的第三特征信息，确定目标对抗图像时，具体用于：
对各个维度的第三特征信息进行离散余弦逆变换，得到目标对抗图像。
可选的，若原始对抗样本图像为RGB图像，则上述特征提取模块220在对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息时，具体用于：
对原始对抗样本图像分别进行R、G和B三个通道的特征提取，得到每个通道对应的至少两个维度的第一特征信息；
上述特征分解模块230在对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息时，具体用于：
对于每个通道的每个维度的第一特征信息，对该维度的该通道的第一特征信息进行奇异值分解，得到该维度的该通道的第一特征信息对应的第二特征信息；
上述过滤模块240在对于每个维度的第二特征信息，根据预设的维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息时，具体用于：
对于每个通道的每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；
若至少两个维度的第一特征信息是通过对原始对抗样本图像进行离散小波变换得到的，上述目标对抗图像确定模块250在根据各个维度的第三特征信息，确定目标对抗图像时，具体用于：
对于每个通道的各个维度的第三特征信息，对该通道的各个维度的第三特征信息进行离散余弦逆变换，得到通道对应的第四特征信息；
根据各个通道对应的各个维度的第四特征信息，确定目标对抗图像。
可选的，上述装置还包括：
模型训练模块，用于将目标对抗图像作为训练样本，对模型进行对抗训练。
本发明实施例的对抗样本图像的过滤装置可执行本发明实施例所提供的对抗样本图像的过滤方法，其实现原理相类似，本发明各实施例中的对抗样本图像的过滤装置中的各模块、单元所执行的动作是与本发明各实施例中的对抗样本图像的过滤方法中的步骤相对应的，对于对抗样本图像的过滤装置的各模块的详细功能描述具体可以参见前文中所示的对应的对抗样本图像的过滤方法中的描述，此处不再赘述。
其中，上述对抗样本图像的过滤装置可以是运行于计算机设备中的一个计算机程序(包括程序代码)，例如该对抗样本图像的过滤装置为一个应用软件；该装置可以用于执行本发明实施例提供的方法中的相应步骤。
在一些实施例中，本发明实施例提供的对抗样本图像的过滤装置可以采用软硬件结合的方式实现，作为示例，本发明实施例提供的对抗样本图像的过滤装置可以是采用硬件译码处理器形式的处理器，其被编程以执行本发明实施例提供的对抗样本图像的过滤方法，例如，硬件译码处理器形式的处理器可以采用一个或多个应用专用集成电路(ASIC，Application Specific Integrated Circuit)、DSP、可编程逻辑器件(PLD，ProgrammableLogic Device)、复杂可编程逻辑器件(CPLD，Complex Programmable Logic Device)、现场可编程门阵列(FPGA，Field-Programmable Gate Array)或其他电子元件。
在另一些实施例中，本发明实施例提供的对抗样本图像的过滤装置可以采用软件方式实现，图3示出了存储在存储器中的对抗样本图像的过滤装置，其可以是程序和插件等形式的软件，并包括一系列的模块，包括图像获取模块210、特征提取模块220、特征分解模块230、过滤模块240和目标对抗图像确定模块250，用于实现本发明实施例提供的对抗样本图像的过滤方法。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定。
基于与本发明的实施例中所示的方法相同的原理，本发明的实施例中还提供了一种电子设备，该电子设备可以包括但不限于：处理器和存储器；存储器，用于存储计算机程序；处理器，用于通过调用计算机程序执行本发明任一实施例所示的方法。
在一个可选实施例中提供了一种电子设备，如图4所示，图4所示的电子设备4000包括：处理器4001和存储器4003。其中，处理器4001和存储器4003相连，如通过总线4002相连。可选地，电子设备4000还可以包括收发器4004，收发器4004可以用于该电子设备与其他电子设备之间的数据交互，如数据的发送和/或数据的接收等。需要说明的是，实际应用中收发器4004不限于一个，该电子设备4000的结构并不构成对本发明实施例的限定。
处理器4001可以是CPU(Central Processing Unit，中央处理器)，通用处理器，DSP(Digital Signal Processor，数据信号处理器)，ASIC(Application SpecificIntegrated Circuit，专用集成电路)，FPGA(Field Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本发明公开内容所描述的各种示例性的逻辑方框，模块和电路。处理器4001也可以是实现计算功能的组合，例如包含一个或多个微处理器组合，DSP和微处理器的组合等。
总线4002可包括一通路，在上述组件之间传送信息。总线4002可以是PCI(Peripheral Component Interconnect，外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture，扩展工业标准结构)总线等。总线4002可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
存储器4003可以是ROM(Read Only Memory，只读存储器)或可存储静态信息和指令的其他类型的静态存储设备，RAM(Random Access Memory，随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备，也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory，电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory，只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。
存储器4003用于存储执行本发明方案的应用程序代码(计算机程序)，并由处理器4001来控制执行。处理器4001用于执行存储器4003中存储的应用程序代码，以实现前述方法实施例所示的内容。
其中，电子设备也可以是终端设备，图4示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
本发明实施例提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，当其在计算机上运行时，使得计算机可以执行前述方法实施例中相应内容。
根据本发明的另一个方面，还提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述各种实施例实现方式中提供的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
应该理解的是，附图中的流程图和框图，图示了按照本发明各种实施例的方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
本发明实施例提供的计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例所示的方法。
以上描述仅为本发明的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本发明中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种对抗样本图像的过滤方法，其特征在于，包括以下步骤：
获取原始对抗样本图像，所述原始对抗样本图像中包含干扰信息；
对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，所述至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
对于每个维度的第一特征信息，对所述维度的第一特征信息进行奇异值分解，得到所述维度的第一特征信息对应的第二特征信息；
对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息；
根据各个维度的所述第三特征信息，确定目标对抗图像。
2.根据权利要求1所述的方法，其特征在于，所述对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对所述原始对抗样本图像进行离散小波变换，得到所述至少两个维度的第一特征信息；
或者，
对所述原始对抗样本图像进行离散小波包变换，得到所述至少两个维度的第一特征信息。
3.根据权利要求2所述的方法，其特征在于，所述离散小波变换为二维haar离散小波变换，所述对所述原始对抗样本图像进行离散小波变换，得到所述至少两个维度的第一特征信息，包括：
对所述原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息，所述至少两个维度的第一特征信息包括所述四个维度的第一特征信息，所述细粒度的第一特征信息包括水平的第一特征信息、垂直的第一特征信息和对角的第一特征信息。
4.根据权利要求1至3中任一项所述的方法，其特征在于，对于每个维度的所述第二特征信息，所述维度的第二特征信息为矩阵，所述矩阵中包括r个奇异值，所述矩阵中每一行包括一个奇异值，所述矩阵中的当前行的奇异值大于所述当前行的下一行的奇异值；所述维度对应的过滤条件为保留所述维度对应的矩阵中的前k个的奇异值，k不大于r；
所述对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息，包括：
对于每个维度的矩阵，过滤掉所述对角阵中第k+1个到第r个奇异值，将所述矩阵中的前k个的奇异值作为所述第三特征信息。
5.根据权利要求1至3中任一项所述的方法，其特征在于，若所述至少两个维度的第一特征信息是通过对所述原始对抗样本图像进行离散小波变换得到的，所述根据各个维度的所述第三特征信息，确定目标对抗图像，包括：
对各个维度的所述第三特征信息进行离散余弦逆变换，得到所述目标对抗图像。
6.根据权利要求1至3中任一项所述的方法，其特征在于，若所述原始对抗样本图像为RGB图像，则所述对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：
对所述原始对抗样本图像分别进行R、G和B三个通道的特征提取，得到每个通道对应的至少两个维度的第一特征信息；
对于每个维度的第一特征信息，对所述维度的第一特征信息进行奇异值分解，得到所述维度的第一特征信息对应的第二特征信息，包括：
对于每个通道的每个维度的第一特征信息，对该维度的该通道的第一特征信息进行奇异值分解，得到该维度的该通道的第一特征信息对应的第二特征信息；
对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息，包括：
对于每个通道的每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息；
若所述至少两个维度的第一特征信息是通过对所述原始对抗样本图像进行离散小波变换得到的，根据各个维度的所述第三特征信息，确定目标对抗图像，包括：
对于每个通道的各个维度的第三特征信息，对该通道的各个维度的第三特征信息进行离散余弦逆变换，得到所述通道对应的第四特征信息；
根据各个通道对应的各个维度的第四特征信息，确定目标对抗图像。
7.根据权利要求1至3中任一项所述的方法，其特征在于，所述方法还包括：
将所述目标对抗图像作为训练样本，对模型进行对抗训练。
8.一种对抗样本图像的过滤装置，其特征在于，包括：
图像获取模块，用于获取原始对抗样本图像，所述原始对抗样本图像中包含干扰信息；
特征提取模块，用于对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，所述至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；
特征分解模块，用于对于每个维度的第一特征信息，对所述维度的第一特征信息进行奇异值分解，得到所述维度的第一特征信息对应的第二特征信息；
过滤模块，用于对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息；
目标对抗图像确定模块，用于根据各个维度的所述第三特征信息，确定目标对抗图像。
9.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210202840.0A CN114648674A (zh) | 2022-03-03 | 2022-03-03 | 一种对抗样本图像的过滤方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210202840.0A CN114648674A (zh) | 2022-03-03 | 2022-03-03 | 一种对抗样本图像的过滤方法、装置、电子设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114648674A true CN114648674A (zh) | 2022-06-21 |
Family
ID=81993944
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210202840.0A Pending CN114648674A (zh) | 2022-03-03 | 2022-03-03 | 一种对抗样本图像的过滤方法、装置、电子设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114648674A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106612435A (zh) * | 2016-01-16 | 2017-05-03 | 四川用联信息技术有限公司 | 一种基于svd-dwt-dct的联合图像压缩方法 |
| CN111652290A (zh) * | 2020-05-15 | 2020-09-11 | 深圳前海微众银行股份有限公司 | 一种对抗样本的检测方法及装置 |
| CN112230200A (zh) * | 2019-07-15 | 2021-01-15 | 天津大学 | 一种基于激光雷达回波信号的改进型组合降噪方法 |
| CN113222960A (zh) * | 2021-05-27 | 2021-08-06 | 哈尔滨工程大学 | 基于特征去噪的深度神经网络对抗防御方法、系统、存储介质及设备 |
| CN113850733A (zh) * | 2021-08-24 | 2021-12-28 | 中国计量大学 | 基于变幂次单稳态自适应随机共振的彩色图像增强方法 |
| WO2022026661A1 (en) * | 2020-07-29 | 2022-02-03 | University Of Florida Research Foundation | Systems and methods for image denoising via adversarial learning |
-
2022
- 2022-03-03 CN CN202210202840.0A patent/CN114648674A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106612435A (zh) * | 2016-01-16 | 2017-05-03 | 四川用联信息技术有限公司 | 一种基于svd-dwt-dct的联合图像压缩方法 |
| CN112230200A (zh) * | 2019-07-15 | 2021-01-15 | 天津大学 | 一种基于激光雷达回波信号的改进型组合降噪方法 |
| CN111652290A (zh) * | 2020-05-15 | 2020-09-11 | 深圳前海微众银行股份有限公司 | 一种对抗样本的检测方法及装置 |
| WO2022026661A1 (en) * | 2020-07-29 | 2022-02-03 | University Of Florida Research Foundation | Systems and methods for image denoising via adversarial learning |
| CN113222960A (zh) * | 2021-05-27 | 2021-08-06 | 哈尔滨工程大学 | 基于特征去噪的深度神经网络对抗防御方法、系统、存储介质及设备 |
| CN113850733A (zh) * | 2021-08-24 | 2021-12-28 | 中国计量大学 | 基于变幂次单稳态自适应随机共振的彩色图像增强方法 |
Non-Patent Citations (2)
| Title |
|---|
| 王敏等: "基于小波变换方向信息的奇异值图像去噪研究", 《郑州大学学报(工学版)》 * |
| 许笑等: "基于冗余信息压缩的深度学习对抗样本防御方案", 《网络空间安全》 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109902617B (zh) | 一种图片识别方法、装置、计算机设备和介质 | |
| CN109961444B (zh) | 图像处理方法、装置及电子设备 | |
| Wang et al. | Optimized feature extraction for learning-based image steganalysis | |
| CN110717522A (zh) | 图像分类网络的对抗防御方法及相关装置 | |
| CN111340716B (zh) | 一种改进双重判别对抗网络模型的图像去模糊方法 | |
| US9443286B2 (en) | Gray image processing method and apparatus based on wavelet transformation | |
| CN111695421B (zh) | 图像识别方法、装置及电子设备 | |
| CN104285239A (zh) | 图像处理装置、图像处理方法、程序、印刷介质以及记录介质 | |
| CN107784655A (zh) | 一种自适应阈值的视觉注意模型sar舰船检测算法 | |
| CN110782406A (zh) | 一种基于信息蒸馏网络的图像去噪方法及装置 | |
| CN115705619A (zh) | 一种图像处理方法、装置、电子设备和存储介质 | |
| CN115358952B (zh) | 一种基于元学习的图像增强方法、系统、设备和存储介质 | |
| CN114648674A (zh) | 一种对抗样本图像的过滤方法、装置、电子设备及介质 | |
| Li et al. | A cascaded algorithm for image quality assessment and image denoising based on CNN for image security and authorization | |
| CN116311439A (zh) | 一种人脸验证隐私保护方法和装置 | |
| CN116228537A (zh) | 基于去噪和超分辨率重构融合的攻击图像防御方法 | |
| CN111105438B (zh) | 基于动态模式分解的运动检测方法、终端设备及计算机可读存储介质 | |
| CN116543246A (zh) | 图像去噪模型的训练方法、图像去噪方法、装置及设备 | |
| CN110008633B (zh) | 基于人工智能深度神经网络的公路噪音压制方法及系统 | |
| Jia et al. | Fractional‐integral‐operator‐based improved SVM for filtering salt‐and‐pepper noise | |
| CN112861874A (zh) | 一种基于多滤波器去噪结果的专家场去噪方法及系统 | |
| CN108510453B (zh) | 基于视觉注意机制的智能交通监控图像去模糊方法 | |
| Han et al. | Robust edge detection by independent component analysis in noisy images | |
| Chen et al. | An image denoising method of picking robot vision based on feature pyramid network | |
| CN116012266B (zh) | 图像去噪方法、系统、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220621 |