CN115205608A - 基于压缩感知的自适应图像对抗样本检测与防御方法 - Google Patents

基于压缩感知的自适应图像对抗样本检测与防御方法 Download PDF

Info

Publication number
CN115205608A
CN115205608A CN202211118152.2A CN202211118152A CN115205608A CN 115205608 A CN115205608 A CN 115205608A CN 202211118152 A CN202211118152 A CN 202211118152A CN 115205608 A CN115205608 A CN 115205608A
Authority
CN
China
Prior art keywords
image
target image
type
resolution
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211118152.2A
Other languages
English (en)
Other versions
CN115205608B (zh
Inventor
陈艳姣
徐文渊
周勃阳
程雨诗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Zhuoxi Brain And Intelligence Research Institute
Original Assignee
Hangzhou Zhuoxi Brain And Intelligence Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Zhuoxi Brain And Intelligence Research Institute filed Critical Hangzhou Zhuoxi Brain And Intelligence Research Institute
Priority to CN202211118152.2A priority Critical patent/CN115205608B/zh
Publication of CN115205608A publication Critical patent/CN115205608A/zh
Application granted granted Critical
Publication of CN115205608B publication Critical patent/CN115205608B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例提供一种基于压缩感知的自适应图像对抗样本检测与防御方法及装置，所述方法包括：当图像分类系统接收到目标图像时，计算目标图像的信息熵，根据信息熵确定目标图像的分辨率类型;根据分辨率类型对目标图像进行色深压缩，得到预处理图像，通过下游图像分类模型分别对目标图像及预处理图像进行类别检测；对比目标图像类别及预处理图像类别，相同时将目标图像作为图像输入；不相同时，根据分辨率类型确定对应的稀疏度，根据目标图像及稀疏度构建对应的稀疏矩阵，结合压缩感知重建算法进行信号重建，得到重建图像，并将重建图像作为图像输入。采用本方法能够提高智能图像分类系统面对对抗样本攻击的鲁棒性与安全性，检测攻击的准确性。

Description

基于压缩感知的自适应图像对抗样本检测与防御方法
技术领域
本发明涉及图像安全技术领域，尤其涉及一种基于压缩感知的自适应图像对抗样本检测与防御方法及装置。
背景技术
如今智能图像分类系统已经广泛应用于诸如自动驾驶，人脸识别，辅助医疗等各个领域，但针对智能图像分类系统进行攻击的图像对抗样本在近年来发展迅猛，对抗样本攻击利用原始图像设计对抗噪声扰动叠加在原始图像上形成人眼难以鉴别的图像对抗样本误导智能图像分类系统使其产生误判，严重威胁到智能图像分类系统在实际应用中的安全性。
针对上述情况，目前的分类系统在进行图像分类时，可能因为样本攻击，导致智能图像分类系统的安全性受到威胁，因此，如何在智能图像分类系统工作时，提高智能图像分类系统检测攻击的准确性，工作时的安全性和鲁棒性，是目前亟需解决的问题。
发明内容
针对现有技术中存在的问题，本发明实施例提供一种基于压缩感知的自适应图像对抗样本检测与防御方法及装置。
本发明实施例提供一种基于压缩感知的自适应图像对抗样本检测与防御方法，包括：
当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像;
根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；
对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为所述智能分类系统的图像输入；
当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵；
通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到所述重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
在其中一个实施例中，所述图像信息，包括：
目标图像大小、目标图像像素值、像素值出现频率、像素值出现概率；
所述根据图像信息计算所述目标图像的信息熵，包括：
Figure DEST_PATH_IMAGE001
Figure DEST_PATH_IMAGE002
其中，
Figure DEST_PATH_IMAGE003
为目标图像大小,X为目标图像像素值，
Figure DEST_PATH_IMAGE004
为像素值
Figure 265743DEST_PATH_IMAGE005
的出现频率，
Figure DEST_PATH_IMAGE006
为像素值
Figure 808982DEST_PATH_IMAGE005
的出现概率。
在其中一个实施例中，所述方法还包括：
Figure 651037DEST_PATH_IMAGE007
Figure DEST_PATH_IMAGE008
其中，
Figure 100002_DEST_PATH_IMAGE009
为目标图像的色深，Max_Value为色深
Figure DEST_PATH_IMAGE010
下所允许存在的最大像素值数量，
Figure 100002_DEST_PATH_IMAGE011
为目标图像像素值，I为原始图像，CI为色深压缩后的图像，int( )为四舍五入取整操作。
在其中一个实施例中，所述方法还包括：
对所述目标图像进行标准化处理，所述标准化处理包括：目标图像灰度化、目标图像去噪、目标图像大小标准化。
在其中一个实施例中，所述方法还包括：
判断所述总能耗以及生产线中的所有能耗因子对应的因子能耗是否处于正常数据范围；
当所述总能耗以及生产线中的所有能耗因子对应的因子能耗中存在能耗数据不处于正常数据范围时，输出对应的报警信息。
本发明实施例提供一种基于压缩感知的自适应图像对抗样本检测与防御装置，包括：
分辨率确定模块，用于当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像;
色深压缩模块，用于根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；
对比模块，用于对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为所述智能分类系统的图像输入；
稀疏矩阵构建模块，用于当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵；
重建模块，用于通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到所述重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
在其中一个实施例中，所述装置还包括：
第二色深压缩模块，用于根据所述分辨率类型，确定所述目标图像对应的色深，并结合所述目标图像像素值进行对应的色深压缩，得到预处理图像。
在其中一个实施例中，所述装置还包括：
标准化处理模块，用于对所述目标图像进行标准化处理，所述标准化处理包括：目标图像灰度化、目标图像去噪、目标图像大小标准化。
本发明实施例提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述基于压缩感知的自适应图像对抗样本检测与防御方法的步骤。
本发明实施例提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述基于压缩感知的自适应图像对抗样本检测与防御方法的步骤。
本发明实施例提供的一种基于压缩感知的自适应图像对抗样本检测与防御方法及装置，当图像分类系统接收到目标图像时，获取图像信息，根据图像信息计算目标图像的信息熵，并对比信息熵与预设阈值，根据对比结果确定目标图像的分辨率类型;根据分辨率类型，对目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；对比目标图像类别及预处理图像类别，当目标图像类别及预处理图像类别相同时，则将目标图像作为智能分类系统的图像输入；当目标图像类别及预处理图像类别不相同时，根据分辨率类型确定对应的稀疏度，根据目标图像及稀疏度构建对应的稀疏矩阵；通过稀疏矩阵对目标图像进行稀疏采样过滤，得到目标图像的降采样信号，并通过预设的压缩感知重建算法对降采样信号进行信号重建，得到重建图像，并将重建图像作为智能分类系统的图像输入。这样能够基于图像信息熵自适应选择最优化参数使用色深压缩进行对抗样本检测，对检测出的图像对抗样本使用压缩感知重建技术进行防御，提高智能图像分类系统面对对抗样本攻击的鲁棒性与安全性，检测攻击的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种基于压缩感知的自适应图像对抗样本检测与防御方法的流程图；
图2为本发明实施例中一种基于压缩感知的自适应图像对抗样本检测与防御装置的结构图；
图3为本发明实施例中电子设备结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的一种基于压缩感知的自适应图像对抗样本检测与防御方法的流程示意图，如图1所示，本发明实施例提供了一种基于压缩感知的自适应图像对抗样本检测与防御方法，包括：
步骤S101，当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像。
具体地，当图像分类系统接收到目标图像时，获取图像信息，并根据图像信息计算信息熵，其中，图像信息可以包括目标图像大小、目标图像像素值、像素值出现频率、像素值出现概率等，然后根据以下公式计算信息熵：
Figure 423077DEST_PATH_IMAGE001
Figure DEST_PATH_IMAGE012
其中，
Figure 158821DEST_PATH_IMAGE003
为目标图像大小,X为目标图像像素值，
Figure 545065DEST_PATH_IMAGE004
为像素值
Figure 874415DEST_PATH_IMAGE005
的出现频率，
Figure 135632DEST_PATH_IMAGE006
为像素值
Figure 866828DEST_PATH_IMAGE005
的出现概率。
在计算得到目标图像的信息熵后，对比信息熵与预设阈值，其中，预设阈值可以从 图像分类数据集ImageNet中统计得到，比如低分辨率图像阈值
Figure 423973DEST_PATH_IMAGE013
＝4，与高分辨率图像阈 值
Figure DEST_PATH_IMAGE014
＝5，作为图像分辨率的分类依据，得到目标图像的分辨率类型，信息熵低于
Figure 834095DEST_PATH_IMAGE013
的 图像为低分辨率图像，高于
Figure 633424DEST_PATH_IMAGE014
的图像为高分辨率图像，其余为中分辨率图像。
另外，在获取目标图像的图像信息之后，还可以对目标图像进行标准化处理，其中，标准化处理可以包括：目标图像灰度化、目标图像去噪、目标图像大小标准化等，用于消除图像中的噪声，使图像后续的处理结果更标准。
另外，若目标图像为RGB图像，其信息熵的计算可以得到每一个颜色通道的信息熵，RGB图像的最终信息熵由每一颜色通道的信息熵取平均值得到。
步骤S102，根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型。
具体地，根据分辨率类型，确定目标图像对应的色深，比如高分辨率图像的压缩色 深
Figure 986170DEST_PATH_IMAGE015
, 中分辨率图像的压缩色深
Figure DEST_PATH_IMAGE016
, 低分辨率图像的压缩色深
Figure 540648DEST_PATH_IMAGE017
,通常来说，分 辨率越高的图像，压缩色深d应越大，然后结合目标图像像素值进行对应的色深压缩，得到 预处理图像，色深压缩的方法包括：
Figure DEST_PATH_IMAGE018
Figure 408372DEST_PATH_IMAGE008
其中，
Figure 745812DEST_PATH_IMAGE009
为目标图像的色深，Max_Value为色深
Figure 451600DEST_PATH_IMAGE010
下所允许存在的最大像素值数量，
Figure 849084DEST_PATH_IMAGE011
为目标图像像素值，I为原始图像，CI为色深压缩后的图像，int( )为四舍五入取整操作。
然后通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型，其中，下游图像分类模型可以为LeNet、AlexNet、VGG等分类模型。
另外，若目标图像为RGB图像，色深压缩可用上述方法对每一个颜色通道的色深进行分别压缩，得到RGB色深压缩图像。
步骤S103，对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为所述智能分类系统的图像输入。
具体地，对比目标图像类别及预处理图像类别，当目标图像类别及预处理图像类别相同时，则认定目标图像为非对抗样本，并未受到攻击，直接将目标图像作为智能分类系统的图像输入。
步骤S104，当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵。
具体地，当目标图像类别及预处理图像类别不相同时，则认定目标图像为对抗样本，受到攻击，则根据分辨率类型确定对应的稀疏度，其中，稀疏度可以比如高分辨率图像的稀疏矩阵的稀疏度为20%, 中分辨率图像的稀疏矩阵的稀疏度为15%, 低分辨率图像的稀疏矩阵的稀疏度为10%，通常来说，分辨率越高的图像，采样矩阵的稀疏度Sparsity应越大，然后根据稀疏度在目标图像中选取不具有相关性的像素点构成稀疏矩阵。
步骤S105，通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到所述重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
具体地，利用具有不相关性的且由目标图像分辨率情况自适应选择最优化稀疏度确定的稀疏矩阵，对判断为对抗样本的目标图像进行稀疏采样过滤，从而破坏对下游分类模型具有误导作用的对抗噪声，获得目标图像原始信号的降采样信号，然后通过预设的压缩感知重建算法对降采样信号进行信号重建，其中，预设的压缩感知重建算法可以使用基于凸优化思想或贪婪思想设计的压缩感知重建算法，比如：交替方向乘子算法(ADMM), 正交匹配追踪算法(OMP),得到目标图像对应的重建图像，然后并将重建图像作为智能分类系统的图像输入进行后续图像分类，完成针对目标图像对抗样本的防御。
本发明实施例提供的一种基于压缩感知的自适应图像对抗样本检测与防御方法，当图像分类系统接收到目标图像时，获取图像信息，根据图像信息计算目标图像的信息熵，并对比信息熵与预设阈值，根据对比结果确定目标图像的分辨率类型;根据分辨率类型，对目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；对比目标图像类别及预处理图像类别，当目标图像类别及预处理图像类别相同时，则将目标图像作为智能分类系统的图像输入；当目标图像类别及预处理图像类别不相同时，根据分辨率类型确定对应的稀疏度，根据目标图像及稀疏度构建对应的稀疏矩阵；通过稀疏矩阵对目标图像进行稀疏采样过滤，得到目标图像的降采样信号，并通过预设的压缩感知重建算法对降采样信号进行信号重建，得到重建图像，并将重建图像作为智能分类系统的图像输入。这样能够基于图像信息熵自适应选择最优化参数使用色深压缩进行对抗样本检测，对检测出的图像对抗样本使用压缩感知重建技术进行防御，提高智能图像分类系统面对对抗样本攻击的鲁棒性与安全性，检测攻击的准确性。
图2为本发明实施例提供的一种基于压缩感知的自适应图像对抗样本检测与防御装置，包括：分辨率确定模块S201、色深压缩模块S202、对比模块S203、稀疏矩阵构建模块S204、重建模块S205，其中：
分辨率确定模块，用于当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像。
色深压缩模块，用于根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型。
对比模块，用于对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为所述智能分类系统的图像输入。
稀疏矩阵构建模块，用于当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵。
重建模块，用于通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到所述重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
在一个实施例中，装置还可以包括：
第二色深压缩模块，用于根据所述分辨率类型，确定所述目标图像对应的色深，并结合所述目标图像像素值进行对应的色深压缩，得到预处理图像。
在一个实施例中，装置还可以包括：
标准化处理模块，用于对所述目标图像进行标准化处理，所述标准化处理包括：目标图像灰度化、目标图像去噪、目标图像大小标准化。
关于基于压缩感知的自适应图像对抗样本检测与防御装置的具体限定可以参见上文中对于基于压缩感知的自适应图像对抗样本检测与防御方法的限定，在此不再赘述。上述基于压缩感知的自适应图像对抗样本检测与防御装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
图3示例了一种电子设备的实体结构示意图，如图3所示，该电子设备可以包括：处理器(processor)301、存储器(memory)302、通信接口(Communications Interface)303和通信总线304，其中，处理器301，存储器302，通信接口303通过通信总线304完成相互间的通信。处理器301可以调用存储器302中的逻辑指令，以执行如下方法：当图像分类系统接收到目标图像时，获取图像信息，根据图像信息计算目标图像的信息熵，并对比信息熵与预设阈值，根据对比结果确定目标图像的分辨率类型;根据分辨率类型，对目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；对比目标图像类别及预处理图像类别，当目标图像类别及预处理图像类别相同时，则将目标图像作为智能分类系统的图像输入；当目标图像类别及预处理图像类别不相同时，根据分辨率类型确定对应的稀疏度，根据目标图像及稀疏度构建对应的稀疏矩阵；通过稀疏矩阵对目标图像进行稀疏采样过滤，得到目标图像的降采样信号，并通过预设的压缩感知重建算法对降采样信号进行信号重建，得到重建图像，并将重建图像作为智能分类系统的图像输入。
此外，上述的存储器302中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的传输方法，例如包括：当图像分类系统接收到目标图像时，获取图像信息，根据图像信息计算目标图像的信息熵，并对比信息熵与预设阈值，根据对比结果确定目标图像的分辨率类型;根据分辨率类型，对目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；对比目标图像类别及预处理图像类别，当目标图像类别及预处理图像类别相同时，则将目标图像作为智能分类系统的图像输入；当目标图像类别及预处理图像类别不相同时，根据分辨率类型确定对应的稀疏度，根据目标图像及稀疏度构建对应的稀疏矩阵；通过稀疏矩阵对目标图像进行稀疏采样过滤，得到目标图像的降采样信号，并通过预设的压缩感知重建算法对降采样信号进行信号重建，得到重建图像，并将重建图像作为智能分类系统的图像输入。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于压缩感知的自适应图像对抗样本检测与防御方法，其特征在于，包括：
当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像;
根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；
对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为智能分类系统的图像输入；
当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵；
通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
2.根据权利要求1所述的基于压缩感知的自适应图像对抗样本检测与防御方法，其特征在于，所述图像信息，包括：
目标图像大小、目标图像像素值、像素值出现频率、像素值出现概率；
所述根据图像信息计算所述目标图像的信息熵，包括：
Figure 930534DEST_PATH_IMAGE002
Figure 913534DEST_PATH_IMAGE004
其中，
Figure DEST_PATH_IMAGE005
为目标图像大小,X为目标图像像素值，
Figure 902218DEST_PATH_IMAGE006
为像素值
Figure DEST_PATH_IMAGE007
的出现频率，
Figure DEST_PATH_IMAGE009
为像素值
Figure 451011DEST_PATH_IMAGE007
的出现概率。
3.根据权利要求2所述的基于压缩感知的自适应图像对抗样本检测与防御方法，其特征在于，所述根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，包括：
根据所述分辨率类型，确定所述目标图像对应的色深，并结合所述目标图像像素值进行对应的色深压缩，得到预处理图像。
4.根据权利要求3所述的基于压缩感知的自适应图像对抗样本检测与防御方法，其特征在于，所述确定所述目标图像对应的色深，并结合所述目标图像像素值进行对应的色深压缩，得到预处理图像，包括：
Figure DEST_PATH_IMAGE011
Figure DEST_PATH_IMAGE013
其中，
Figure 837255DEST_PATH_IMAGE014
为目标图像的色深，Max_Value为色深
Figure DEST_PATH_IMAGE015
下所允许存在的最大像素值数量，
Figure 697764DEST_PATH_IMAGE016
为目标图像像素值，I为原始图像，CI为色深压缩后的图像，int( )为四舍五入取整操作。
5.根据权利要求1所述的基于压缩感知的自适应图像对抗样本检测与防御方法，其特征在于，所述获取图像信息之后，还包括：
对所述目标图像进行标准化处理，所述标准化处理包括：目标图像灰度化、目标图像去噪、目标图像大小标准化。
6.一种基于压缩感知的自适应图像对抗样本检测与防御装置，其特征在于，所述装置包括：
分辨率确定模块，用于当图像分类系统接收到目标图像时，获取图像信息，根据所述图像信息计算所述目标图像的信息熵，并对比所述信息熵与预设阈值，根据对比结果确定所述目标图像的分辨率类型，所述分辨率类型包括：低分辨率图像，中分辨率图像与高分辨率图像;
色深压缩模块，用于根据所述分辨率类型，对所述目标图像进行对应的色深压缩，得到预处理图像，并通过下游图像分类模型分别对目标图像及预处理图像进行类别检测，得到目标图像对应的目标图像类别，及预处理图像对应的预处理图像类型；
对比模块，用于对比所述目标图像类别及预处理图像类别，当所述目标图像类别及预处理图像类别相同时，则将所述目标图像作为智能分类系统的图像输入；
稀疏矩阵构建模块，用于当所述目标图像类别及预处理图像类别不相同时，根据所述分辨率类型确定对应的稀疏度，根据所述目标图像及稀疏度构建对应的稀疏矩阵；
重建模块，用于通过所述稀疏矩阵对所述目标图像进行稀疏采样过滤，得到所述目标图像的降采样信号，并通过预设的压缩感知重建算法对所述降采样信号进行信号重建，得到重建图像，并将所述重建图像作为所述智能分类系统的图像输入。
7.根据权利要求6中所述的基于压缩感知的自适应图像对抗样本检测与防御装置，其特征在于，所述装置还包括：
第二色深压缩模块，用于根据所述分辨率类型，确定所述目标图像对应的色深，并结合所述目标图像像素值进行对应的色深压缩，得到预处理图像。
8.根据权利要求6中所述的基于压缩感知的自适应图像对抗样本检测与防御装置，其特征在于，所述装置还包括：
标准化处理模块，用于对所述目标图像进行标准化处理，所述标准化处理包括：目标图像灰度化、目标图像去噪、目标图像大小标准化。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至5任一项所述基于压缩感知的自适应图像对抗样本检测与防御方法的步骤。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至5任一项所述基于压缩感知的自适应图像对抗样本检测与防御方法的步骤。
CN202211118152.2A 2022-09-15 2022-09-15 基于压缩感知的自适应图像对抗样本检测与防御方法 Active CN115205608B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211118152.2A CN115205608B (zh) 2022-09-15 2022-09-15 基于压缩感知的自适应图像对抗样本检测与防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211118152.2A CN115205608B (zh) 2022-09-15 2022-09-15 基于压缩感知的自适应图像对抗样本检测与防御方法

Publications (2)

Publication Number Publication Date
CN115205608A true CN115205608A (zh) 2022-10-18
CN115205608B CN115205608B (zh) 2022-12-09

Family

ID=83572302

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211118152.2A Active CN115205608B (zh) 2022-09-15 2022-09-15 基于压缩感知的自适应图像对抗样本检测与防御方法

Country Status (1)

Country Link
CN (1) CN115205608B (zh)

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106227015A (zh) * 2016-07-11 2016-12-14 中国科学院深圳先进技术研究院 一种基于压缩感知理论的全息图像高分辨率重建方法及系统
CN110717525A (zh) * 2019-09-20 2020-01-21 浙江工业大学 一种通道自适应优化的对抗攻击防御方法和装置
CN110942094A (zh) * 2019-11-26 2020-03-31 电子科技大学 一种基于范数的对抗性样本检测分类方法
CN111915486A (zh) * 2020-07-30 2020-11-10 西华大学 基于图像超分辨重建的对抗样本防御方法
CN112329348A (zh) * 2020-11-06 2021-02-05 东北大学 一种面向非完全信息条件下军事对抗博弈的智能决策方法
US10984272B1 (en) * 2018-01-19 2021-04-20 Apple Inc. Defense against adversarial attacks on neural networks
CN112860932A (zh) * 2021-02-19 2021-05-28 电子科技大学 抵御恶意样本攻击的图像检索方法、装置、设备及存储介质
CN113240028A (zh) * 2021-05-24 2021-08-10 浙江大学 一种基于类激活图的对抗样本块攻击检测方法
CN113311429A (zh) * 2021-04-26 2021-08-27 清华大学 一种基于对抗样本的1比特雷达成像方法
CN113554089A (zh) * 2021-07-22 2021-10-26 西安电子科技大学 一种图像分类对抗样本防御方法、系统及数据处理终端
JP2022015750A (ja) * 2020-07-09 2022-01-21 学校法人立命館 アドバーサリアル攻撃に対する防御方法、データ認識装置、センサシステム、及びセンサ
CN114065872A (zh) * 2021-11-26 2022-02-18 杭州涿溪脑与智能研究所 基于特征重构的可见光图像通用对抗扰动构建方法及系统
CN114861796A (zh) * 2022-05-10 2022-08-05 东北大学 一种针对大尺寸图像分类的对抗样本混合防御方法
CN114926679A (zh) * 2022-05-12 2022-08-19 海南大学 一种进行对抗防御的图像分类系统及其方法
CN115019097A (zh) * 2022-06-09 2022-09-06 浙江工商大学 基于图像预处理的对抗样本防御方法

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106227015A (zh) * 2016-07-11 2016-12-14 中国科学院深圳先进技术研究院 一种基于压缩感知理论的全息图像高分辨率重建方法及系统
US10984272B1 (en) * 2018-01-19 2021-04-20 Apple Inc. Defense against adversarial attacks on neural networks
CN110717525A (zh) * 2019-09-20 2020-01-21 浙江工业大学 一种通道自适应优化的对抗攻击防御方法和装置
CN110942094A (zh) * 2019-11-26 2020-03-31 电子科技大学 一种基于范数的对抗性样本检测分类方法
JP2022015750A (ja) * 2020-07-09 2022-01-21 学校法人立命館 アドバーサリアル攻撃に対する防御方法、データ認識装置、センサシステム、及びセンサ
CN111915486A (zh) * 2020-07-30 2020-11-10 西华大学 基于图像超分辨重建的对抗样本防御方法
CN112329348A (zh) * 2020-11-06 2021-02-05 东北大学 一种面向非完全信息条件下军事对抗博弈的智能决策方法
CN112860932A (zh) * 2021-02-19 2021-05-28 电子科技大学 抵御恶意样本攻击的图像检索方法、装置、设备及存储介质
CN113311429A (zh) * 2021-04-26 2021-08-27 清华大学 一种基于对抗样本的1比特雷达成像方法
CN113240028A (zh) * 2021-05-24 2021-08-10 浙江大学 一种基于类激活图的对抗样本块攻击检测方法
CN113554089A (zh) * 2021-07-22 2021-10-26 西安电子科技大学 一种图像分类对抗样本防御方法、系统及数据处理终端
CN114065872A (zh) * 2021-11-26 2022-02-18 杭州涿溪脑与智能研究所 基于特征重构的可见光图像通用对抗扰动构建方法及系统
CN114861796A (zh) * 2022-05-10 2022-08-05 东北大学 一种针对大尺寸图像分类的对抗样本混合防御方法
CN114926679A (zh) * 2022-05-12 2022-08-19 海南大学 一种进行对抗防御的图像分类系统及其方法
CN115019097A (zh) * 2022-06-09 2022-09-06 浙江工商大学 基于图像预处理的对抗样本防御方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
CHUAN GUO ET AL: "COUNTERING ADVERSARIAL IMAGES USING INPUT TRANSFORMATIONS", 《ARVIV》 *
HANYU RAO ET AL: "Adversarial Example Attack on Electric Power Network Security Situation Awareness", 《2021 IEEE 5TH INFORMATION TECHNOLOGY,NETWORKING,ELECTRONIC AND AUTOMATION CONTROL CONFERENCE (ITNEC)》 *
JUNGEUN LEE ET AL: "Performance Improvement of Image-Reconstruction-Based Defense against Adversarial Attack", 《ELECTRONICS》 *
何意: "基于图像重构的对抗样本攻击防御方法研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *
裴成飞: "基于图像重构的对抗样本防御方法研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *

Also Published As

Publication number Publication date
CN115205608B (zh) 2022-12-09

Similar Documents

Publication Publication Date Title
Bayar et al. On the robustness of constrained convolutional neural networks to jpeg post-compression for image resampling detection
CN111046379B (zh) 一种对抗攻击的监测方法和装置
KR101808467B1 (ko) 생체 인식 인증을 위한 특징 추출 및 정합과 템플릿 갱신
Sun et al. A novel contrast enhancement forensics based on convolutional neural networks
CN109309675A (zh) 一种基于卷积神经网络的网络入侵检测方法
CN113114489B (zh) 一种网络安全态势评估方法、装置、设备及存储介质
CN111260620A (zh) 图像异常检测方法、装置和电子设备
CN113792791A (zh) 针对视觉模型的处理方法及装置
CN112927178B (zh) 遮挡检测方法、装置、电子设备以及存储介质
CN114445663A (zh) 检测对抗样本的方法、装置及计算机程序产品
CN118097502A (zh) 一种基于深度学习的社交网络深度伪造视频检测方法及系统
CN114120454A (zh) 活体检测模型的训练方法、装置、电子设备及存储介质
Al-Azawi et al. Image splicing detection based on texture features with fractal entropy
CN115205608B (zh) 基于压缩感知的自适应图像对抗样本检测与防御方法
CN104572821A (zh) 一种文件处理方法及装置
CN115116111B (zh) 抗扰动人脸活体检测模型训练方法、装置及电子设备
CN113239738B (zh) 一种图像的模糊检测方法及模糊检测装置
CN111489289A (zh) 一种图像处理方法、图像处理装置及终端设备
CN113409407B (zh) 一种基于平均压缩获取低频信息的对抗样本防御方法
CN113850197A (zh) 业务处理方法、装置和电子设备
CN113128505A (zh) 局部可视对抗样本的检测方法、装置、设备和存储介质
CN115880599A (zh) 基于行为识别算法的物体被盗检测方法及装置
Yu et al. Cumulant-based image fingerprints
CN116127449A (zh) 一种恶意代码识别方法及装置、存储介质、终端设备
CN116320713B (zh) 一种基于图像信号处理器参数优化的隐私保护方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20221018

Assignee: CSIC PRIDE(Nanjing)Intelligent Equipment System Co.,Ltd

Assignor: Hangzhou zhuoxi brain and Intelligence Research Institute

Contract record no.: X2023320000121

Denomination of invention: Adaptive image countermeasure sample detection and defense method based on compressed sensing

Granted publication date: 20221209

License type: Common License

Record date: 20230323