CN113688912A - 基于人工智能的对抗样本生成方法、装置、设备及介质 - Google Patents
基于人工智能的对抗样本生成方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN113688912A CN113688912A CN202110989624.0A CN202110989624A CN113688912A CN 113688912 A CN113688912 A CN 113688912A CN 202110989624 A CN202110989624 A CN 202110989624A CN 113688912 A CN113688912 A CN 113688912A
- Authority
- CN
- China
- Prior art keywords
- sample
- image
- confrontation sample
- candidate
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 28
- 230000008447 perception Effects 0.000 claims abstract description 31
- 238000013145 classification model Methods 0.000 claims abstract description 29
- 230000006870 function Effects 0.000 claims description 23
- 238000000605 extraction Methods 0.000 claims description 18
- 239000013598 vector Substances 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 abstract description 2
- 238000011282 treatment Methods 0.000 abstract description 2
- 230000003042 antagnostic effect Effects 0.000 abstract 1
- 238000003062 neural network model Methods 0.000 description 18
- 238000012549 training Methods 0.000 description 14
- 238000005516 engineering process Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000013507 mapping Methods 0.000 description 5
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 238000002595 magnetic resonance imaging Methods 0.000 description 2
- 210000001015 abdomen Anatomy 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 210000002216 heart Anatomy 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及人工智能中的图像检测领域，提供了一种基于人工智能的对抗样本生成方法，包括：获取目标图像和对抗样本生成模型；将目标图像输入编码器网络进行编码，得到隐变量，并将隐变量输入生成器网络进行图像生成，得到候选对抗样本；确定目标图像与候选对抗样本之间的图像感知相似度；在图像感知相似度小于或等于预设阈值时，将候选对抗样本输入预设的图像分类模型进行分类，得到输出概率；根据输出概率和目标图像的真实分类标签，确定候选对抗样本是否满足预设对抗样本条件；在满足时，将候选对抗样本确定为目标图像的目标对抗样本。本申请提高了对抗样本的准确性。本申请还涉及区块链和医疗领域，上述对抗样本生成模型可存储在区块链中。
Description
技术领域
本申请涉及图像检测领域，尤其涉及一种基于人工智能的对抗样本生成方法、装置、设备及介质。
背景技术
对抗样本是指对输入样本故意添加一些人无法察觉的细微的干扰，导致模型以高置信度给出一个错误的输出。通常人们建立对抗样本生成模型，以使得遵照此对抗样本生成模型生成的对抗样本可以使得识别模型判断错误，并且人眼不能辨别出该样本图像为一个对抗样本。
目前，主要的对抗样本生成模型是基于神经网络的图像感知相似度作为图像间的距离度量进行实现的，产生的对抗样本具有较好的通用性，但目前的对抗样本生成模型没有衡量生成的对抗样本在图像像素空间与原始图像的距离，而仅仅对隐遍量的扰动范数进行了约束，无法准确地控制对抗样本的图像质量。
发明内容
本申请实施例提供一种基于人工智能的对抗样本生成方法、装置、设备及介质，旨在提高对抗样本的准确性和图像质量。
第一方面，本申请实施例提供一种基于人工智能的对抗样本生成方法，包括：
获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
第二方面，本申请实施例还提供一种对抗样本生成装置，所述对抗样本生成装置包括：
获取模块，用于获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
对抗样本生成模块，用于将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定模块，用于确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
分类模块，用于在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
所述确定模块，还用于根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
所述确定模块，还用于在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
第三方面，本申请实施例还提供一种计算机设备，所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序，其中所述计算机程序被所述处理器执行时，实现如上所述的基于人工智能的对抗样本生成方法的步骤。
第四方面，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其中所述计算机程序被处理器执行时，实现如上所述的基于人工智能的对抗样本生成方法的步骤。
本申请实施例提供一种基于人工智能的对抗样本生成方法、装置、设备及介质，该方法通过将待生成对抗样本的目标图像输入对抗样本生成模型中的编码器网络进行编码，得到目标图像的隐变量，再将目标图像的隐变量输入抗样本生成模型中的生成器网络进行图像生成，得到候选对抗样本，然后确定目标图像与候选对抗样本之间的图像感知相似度，并在图像感知相似度小于或等于预设阈值时，将候选对抗样本输入预设的图像分类模型进行分类，得到候选对抗样本的分类标签为各预设分类标签的输出概率，最后根据该输出概率和目标图像的真实分类标签，确定候选对抗样本是否满足预设对抗样本条件，并在候选对抗样本满足预设对抗样本条件时，将候选对抗样本确定为目标图像的目标对抗样本。利用图像感知相似度来度量对抗样本和原始图像的差异，可以实现对抗样本的图像质量层面的控制，因此，通过在图像感知相似度小于或等于预设阈值时，进一步的确定候选对抗样本是否满足预设对抗样本条件，并将满足条件的候选对抗样本确定为最终的目标对抗样本，可以在提高对抗样本的图像质量的同时，提高对抗样本的准确性。
附图说明
为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种基于人工智能的对抗样本生成方法的流程示意图；
图2是本申请实施例中的目标神经网络模型的一层级结构示意图；
图3是本申请实施例中的对抗样本生成模型的一层级结构示意图；
图4是本申请实施例提供的一种对抗样本生成装置的示意性框图；
图5是本申请实施例提供的一种计算机设备的结构示意性框图。
本申请目的的实现、功能特点及优点将结合实施例，参阅附图做进一步说明。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
附图中所示的流程图仅是示例说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解、组合或部分合并，因此实际执行的顺序有可能根据实际情况改变。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供一种基于人工智能的对抗样本生成方法、装置、设备及介质。其中，该基于人工智能的对抗样本生成方法可应用于终端设备或服务器中，该终端设备可以手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等电子设备。服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
下面结合附图，对本申请的一些实施方式作详细说明。在不冲突的情况下，下述的实施例及实施例中的特征可以相互组合。
请参阅图1，图1是本申请实施例提供的一种基于人工智能的对抗样本生成方法的流程示意图。
如图1所示，该基于人工智能的对抗样本生成方法包括步骤S101至步骤S106。
步骤S101、获取待生成对抗样本的目标图像和对抗样本生成模型。
其中，通过对目标神经网络模型进行迭代训练之后，删除目标神经网络模型中的判别器网络，可以得到对抗样本生成模型。如图2所示，目标神经网络模型包括编码器网络10和生成式对抗网络(GAN,Generative Adversarial Networks)20，生成式对抗网络20包括生成器网络21和判别器网络22，编码器网络10与生成器网络21连接，生成器网络21与判别器网络22连接。如图3所示，对抗样本生成模型包括编码器网络30和生成器网络40，编码器网络30为对图2中的编码器网络10进行训练后得到的，生成器网络40为对图2中的生成器网络21进行训练后得到的。
可以理解的是，在医学应用场景中，上述目标图像可以为医学影像。医学影像是指为了医疗或医学研究，以非侵入方式取得的内部组织，例如，胃部、腹部、心脏、膝盖、脑部的影像，比如，CT(Computed Tomography，电子计算机断层扫描)、MRI(Magnetic ResonanceImaging，磁共振成像)、US(ultrasonic，超声)、X光图像、脑电图以及光学摄影灯由医学仪器生成的图像。
在一实施例中，获取样本图像数据集和待训练的目标神经网络模型，其中，该样本图像数据集包括多张样本图像；从该样本图像数据集中选择一个样本图像作为目标样本图像；将目标样本图像输入编码器网络进行编码处理，得到目标样本图像的隐变量；将该隐变量输入该生成器网络进行图像重建，得到重建图像；将重建图像和目标样本图像输入该判别器网络进行判别，得到重建图像与目标样本图像之间的差异指数。
若该差异指数大于或等于预设差异指数，则更新目标神经网络模型的参数，并继续从该样本图像数据集中选择一个样本图像作为目标样本图像，以继续对目标神经网络模型进行迭代训练；若该差异指数小于或等于预设差异指数，则获取目标神经网络模型的迭代训练次数，并在该迭代训练次数小于预设迭代训练次数时，更新目标神经网络模型的参数，并继续从该样本图像数据集中选择一个样本图像作为目标样本图像，以继续对目标神经网络模型进行迭代训练；若差异指数小于或等于预设差异指数，且该迭代训练次数大于或等于预设迭代训练次数时，停止训练目标神经网络模型；删除训练后的目标神经网络模型中的判别器网络，得到对抗样本生成模型。其中，预设迭代训练次数和预设差异指数可基于实际情况进行设置，本实施例对此不做具体限定。
步骤S102、将目标图像输入编码器网络进行编码，得到目标图像的隐变量，并将隐变量输入生成器网络进行图像生成，得到候选对抗样本。
例如，将目标图像输入图3中的编码器网络30进行编码，得到目标图像的隐变量，之后将目标图像的隐变量输入图3中的生成器网络进行图像生成，得到目标图像的候选对抗样本。
步骤S103、确定目标图像与候选对抗样本之间的图像感知相似度。
示例性的，将候选对抗样本输入预设的特征提取网络进行特征提取，得到候选对抗样本对应的第一特征向量；将目标图像输入特征提取网络进行特征提取，得到目标图像对应的第二特征向量；确定第一特征向量与第二特征向量之间的L2范数，并将第一特征向量与第二特征向量之间的L2范数确定为目标图像与候选对抗样本之间的图像感知相似度。其中，预设的特征提取网络可用基于实际情况进行设置，本实施例对此不做具体限定。例如，预设的特征提取网络为AlexNet分类网络模型。
步骤S104、在图像感知相似度小于或等于预设阈值时，将候选对抗样本输入预设的图像分类模型进行分类，得到候选对抗样本的分类标签为各预设分类标签的输出概率。
其中，预设的图像分类模型为预先训练好的神经网络模型，其训练过程为：获取样本图像数据，其中，样本图像数据包括样本图像和标注的图像类型；将样本图像输入神经网络模型，得到该样本图像的类型为各预设图像类型的输出概率；根据样本图像的类型为各预设图像类型的输出概率和标注的图像类型，确定模型损失值；根据模型损失值确定神经网络模型是否收敛，若神经网络模型未收敛，则更新神经网络模型的参数，并继续获取新的样本图像数据，以基于新的样本图像数据对更新后的神经网络模型进行训练，直至神经网络模型收敛，得到图像分类模型。
示例性的，根据样本图像的类型为各预设图像类型的输出概率和标注的图像类型，确定模型损失值的方式可以为：根据标注的图像类型，确定各预设图像类型的符号函数；利用预设交叉熵损失函数，对各预设图像类型的符号函数和样本图像的类型为各预设图像类型的输出概率进行计算，得到模型损失值。
示例性的，在图像感知相似度大于预设阈值时，调整候选对抗样本，以使调整后的候选对抗样本与目标图像之间的图像感知相似度小于或等于预设阈值。例如，确定目标图像与候选对抗样本之间的目标像素差值，并根据目标像素差值，确定第一调整系数；对该目标像素差值与第一调整系数进行乘法运算，得到像素增益值；根据像素增益值，对目标图像的各像素点的像素值进行调整，得到调整后的候选对抗样本，即对于目标图像中的每个像素点的像素值都增加该像素增益值，从而得到调整后的候选对抗样本。
示例性的，确定目标图像与候选对抗样本之间的目标像素差值的方式可以为：确定目标图像中的各像素点与候选对抗样本中的对应像素点的像素差值，确定目标图像的像素点总数；累加目标图像中的各像素点与候选对抗样本中的对应像素点的像素差值，得到总像素差值；根据总像素差值和像素点总数，计算平均像素差值，并将平均像素差值确定为目标图像与候选对抗样本之间的目标像素差值。
示例性的，根据目标像素差值，确定第一调整系数的方式可以为：确定目标像素差值所处的预设像素差值范围；获取预存的像素差值范围与调整系数之间的映射关系，并根据目标像素差值所处的预设像素差值范围和该映射关系，确定第一调整系数。其中，预存的像素差值范围与调整系数之间的映射关系可基于实际情况进行设置，本实施例对此不做具体限定。
步骤S105、根据输出概率和目标图像的真实分类标签，确定候选对抗样本是否满足预设对抗样本条件。
利用图像感知相似度来度量对抗样本和原始图像的差异，可以实现对抗样本的图像质量层面的控制，因此，通过在图像感知相似度小于或等于预设阈值时，进一步的确定候选对抗样本是否满足预设对抗样本条件，可以在提高对抗样本的图像质量的同时，提高对抗样本的准确性。
示例性的，根据候选对抗样本的类型为各预设类型的输出概率，确定候选对抗样本的预测分类标签；确定预测分类标签与真实分类标签是否相同，若预测分类标签与真实分类标签相同，则确定候选对抗样本不满足预设对抗样本条件，若预测分类标签与真实分类标签不同，则确定候选对抗样本满足预设对抗样本条件。
示例性的，若预测分类标签与真实分类标签不同，则根据真实分类标签，确定各预设分类标签对应的符号函数；利用预设交叉熵损失函数，根据候选对抗样本的分类标签为各预设分类标签的输出概率和符号函数，计算图像分类模型的损失值；若该损失值大于或等于预设损失值，则确定候选对抗样本满足预设对抗样本条件；若该损失值小于预设损失值，则确定候选对抗样本不满足预设对抗样本条件。
示例性的，根据真实分类标签，确定各预设分类标签对应的符号函数；利用预设交叉熵损失函数，根据候选对抗样本的分类标签为各预设分类标签的输出概率和符号函数，计算图像分类模型的损失值；若该损失值为图像分类模型的最大损失值，则确定候选对抗样本满足预设对抗样本条件；若该损失值不为图像分类模型的最大损失值，则确定候选对抗样本不满足预设对抗样本条件。
示例性的，若预测分类标签与真实分类标签不同，则根据真实分类标签，确定各预设分类标签对应的符号函数；利用预设交叉熵损失函数，根据候选对抗样本的分类标签为各预设分类标签的输出概率和符号函数，计算图像分类模型的损失值；若该损失值为图像分类模型的最大损失值，则确定候选对抗样本满足预设对抗样本条件；若该损失值不为图像分类模型的最大损失值，则确定候选对抗样本不满足预设对抗样本条件。
步骤S106、在候选对抗样本满足预设对抗样本条件时，将候选对抗样本确定为目标图像的目标对抗样本。
示例性的，在候选对抗样本满足预设对抗样本条件时，将候选对抗样本确定为目标图像的目标对抗样本；在候选对抗样本不满足预设对抗样本条件时，调整候选对抗样本，并返回执行将候选对抗样本输入预设的图像分类模型进行分类，得到候选对抗样本的分类标签为各预设分类标签的输出概率的步骤，直至候选对抗样本满足预设对抗样本条件。
示例性的，在候选对抗样本不满足预设对抗样本条件时，确定候选对抗样本的梯度图像，并根据目标图像与候选对抗样本之间的图像感知相似度，确定第二调整系数；对第二调整系数和梯度图像进行乘法运算，得到增益图像，并将候选对抗样本与增益图像进行叠加，得到调整后的候选对抗样本。
示例性的，根据目标图像与候选对抗样本之间的图像感知相似度，确定第二调整系数的方式可以为：确定该图像感知相似度所处的预设相似度范围，并根据预存的相似度范围与调整系数之间的映射关系以及目标图像与候选对抗样本之间的图像感知相似度，确定第二调整系数。其中，预存的相似度范围与调整系数之间的映射关系可基于实际情况进行设置，本实施例对此不做具体限定。
上述实施例提供的基于人工智能的对抗样本生成方法，通过将待生成对抗样本的目标图像输入对抗样本生成模型中的编码器网络进行编码，得到目标图像的隐变量，再将目标图像的隐变量输入抗样本生成模型中的生成器网络进行图像生成，得到候选对抗样本，然后确定目标图像与候选对抗样本之间的图像感知相似度，并在图像感知相似度小于或等于预设阈值时，将候选对抗样本输入预设的图像分类模型进行分类，得到候选对抗样本的分类标签为各预设分类标签的输出概率，最后根据该输出概率和目标图像的真实分类标签，确定候选对抗样本是否满足预设对抗样本条件，并在候选对抗样本满足预设对抗样本条件时，将候选对抗样本确定为目标图像的目标对抗样本，从而提高了对抗样本的准确性和图像质量。
请参阅图4，图4是本申请实施例提供的一种对抗样本生成装置的示意性框图。
如图4所示，该对抗样本生成装置200，包括：
获取模块210，用于获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
对抗样本生成模块220，用于将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定模块230，用于确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
分类模块240，用于在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
所述确定模块230，还用于根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
所述确定模块230，还用于在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
在一实施例中，所述确定模块230还用于：
将所述候选对抗样本输入预设的特征提取网络进行特征提取，得到所述候选对抗样本对应的第一特征向量；
将所述目标图像输入所述特征提取网络进行特征提取，得到所述目标图像对应的第二特征向量；
确定所述第一特征向量与所述第二特征向量之间的L2范数，并将所述L2范数确定为所述目标图像与所述候选对抗样本之间的图像感知相似度。
在一实施例中，所述确定模块230还用于：
根据所述真实分类标签，确定各预设分类标签对应的符号函数；
利用预设交叉熵损失函数，根据所述候选对抗样本的分类标签为各预设分类标签的输出概率和所述符号函数，计算所述图像分类模型的损失值；
若所述损失值为所述图像分类模型的最大损失值，则确定所述候选对抗样本满足预设对抗样本条件。
在一实施例中，所述对抗样本生成装置200还包括：
第一图像调整模块，用于在所述图像感知相似度大于预设阈值时，调整所述候选对抗样本，以使调整后的候选对抗样本与所述目标图像之间的图像感知相似度小于或等于预设阈值。
在一实施例中，所述第一图像调整模块还用于：
确定所述目标图像与所述候选对抗样本之间的目标像素差值，并根据所述目标像素差值，确定第一调整系数；
对所述目标像素差值与所述第一调整系数进行乘法运算，得到像素增益值；
根据所述像素增益值，对所述目标图像的各像素点的像素值进行调整，得到调整后的候选对抗样本。
所述对抗样本生成装置200还包括：
第二图像调整模块，用于在所述候选对抗样本不满足预设对抗样本条件时，调整所述候选对抗样本，并返回执行将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率步骤。
在一实施例中，所述第二图像调整模块还用于：
确定所述候选对抗样本的梯度图像，并根据所述目标图像与所述候选对抗样本之间的图像感知相似度，确定第二调整系数；
对所述第二调整系数和所述梯度图像进行乘法运算，得到增益图像，并将所述候选对抗样本与所述增益图像进行叠加，得到调整后的候选对抗样本。
需要说明的是，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的装置和各模块及单元的具体工作过程，可以参考前述基于人工智能的对抗样本生成方法实施例中的对应过程，在此不再赘述。
上述实施例提供的装置可以实现为一种计算机程序的形式，该计算机程序可以在如图5所示的计算机设备上运行。
请参阅图5，图5是本申请实施例提供的一种计算机设备的结构示意性框图。该计算机设备可以为服务器。
如图5所示，该计算机设备包括通过系统总线连接的处理器、存储器和网络接口，其中，存储器可以包括存储介质和内存储器。
存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令，该程序指令被执行时，可使得处理器执行任意一种基于人工智能的对抗样本生成方法。
处理器用于提供计算和控制能力，支撑整个计算机设备的运行。
该网络接口用于进行网络通信，如发送分配的任务等。本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
应当理解的是，处理器可以是中央处理单元(Central Processing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中，在一实施例中，所述处理器用于运行存储在存储器中的计算机程序，以实现以下步骤：
获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
在一实施例中，所述处理器在实现确定所述目标图像与所述候选对抗样本之间的图像感知相似度时，用于实现：
将所述候选对抗样本输入预设的特征提取网络进行特征提取，得到所述候选对抗样本对应的第一特征向量；
将所述目标图像输入所述特征提取网络进行特征提取，得到所述目标图像对应的第二特征向量；
确定所述第一特征向量与所述第二特征向量之间的L2范数，并将所述L2范数确定为所述目标图像与所述候选对抗样本之间的图像感知相似度。
在一实施例中，所述处理器在实现根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件时，用于实现：
根据所述真实分类标签，确定各预设分类标签对应的符号函数；
利用预设交叉熵损失函数，根据所述候选对抗样本的分类标签为各预设分类标签的输出概率和所述符号函数，计算所述图像分类模型的损失值；
若所述损失值为所述图像分类模型的最大损失值，则确定所述候选对抗样本满足预设对抗样本条件。
在一实施例中，所述处理器还用于实现以下步骤：
在所述图像感知相似度大于预设阈值时，调整所述候选对抗样本，以使调整后的候选对抗样本与所述目标图像之间的图像感知相似度小于或等于预设阈值。
在一实施例中，所述处理器在实现调整所述候选对抗样本时，用于实现：
确定所述目标图像与所述候选对抗样本之间的目标像素差值，并根据所述目标像素差值，确定第一调整系数；
对所述目标像素差值与所述第一调整系数进行乘法运算，得到像素增益值；
根据所述像素增益值，对所述目标图像的各像素点的像素值进行调整，得到调整后的候选对抗样本。
在一实施例中，所述处理器还用于实现以下步骤：
在所述候选对抗样本不满足预设对抗样本条件时，调整所述候选对抗样本，并返回执行将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率步骤。
在一实施例中，所述处理器在实现调整所述候选对抗样本时，用于实现：
确定所述候选对抗样本的梯度图像，并根据所述目标图像与所述候选对抗样本之间的图像感知相似度，确定第二调整系数；
对所述第二调整系数和所述梯度图像进行乘法运算，得到增益图像，并将所述候选对抗样本与所述增益图像进行叠加，得到调整后的候选对抗样本。
需要说明的是，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的计算机设备的具体工作过程，可以参考前述基于人工智能的对抗样本生成方法实施例中的对应过程，在此不再赘述。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序中包括程序指令，所述程序指令被执行时所实现的方法可参阅本申请基于人工智能的对抗样本生成方法的各个实施例。
其中，所述计算机可读存储介质可以是易失性的，也可以是非易失性的。所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元，例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备，例如所述计算机设备上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。
进一步地，所述计算机可读存储介质可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序等；存储数据区可存储根据区块链节点的使用所创建的数据等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
应当理解，在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种基于人工智能的对抗样本生成方法，其特征在于，包括：
获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
2.根据权利要求1所述的对抗样本生成方法，其特征在于，所述确定所述目标图像与所述候选对抗样本之间的图像感知相似度，包括：
将所述候选对抗样本输入预设的特征提取网络进行特征提取，得到所述候选对抗样本对应的第一特征向量；
将所述目标图像输入所述特征提取网络进行特征提取，得到所述目标图像对应的第二特征向量；
确定所述第一特征向量与所述第二特征向量之间的L2范数，并将所述L2范数确定为所述目标图像与所述候选对抗样本之间的图像感知相似度。
3.根据权利要求1所述的对抗样本生成方法，其特征在于，所述根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件，包括：
根据所述真实分类标签，确定各预设分类标签对应的符号函数；
利用预设交叉熵损失函数，根据所述候选对抗样本的分类标签为各预设分类标签的输出概率和所述符号函数，计算所述图像分类模型的损失值；
若所述损失值为所述图像分类模型的最大损失值，则确定所述候选对抗样本满足预设对抗样本条件。
4.根据权利要求1-3中任一项所述的对抗样本生成方法，其特征在于，所述方法还包括：
在所述图像感知相似度大于预设阈值时，调整所述候选对抗样本，以使调整后的候选对抗样本与所述目标图像之间的图像感知相似度小于或等于预设阈值。
5.根据权利要求4所述的对抗样本生成方法，其特征在于，所述调整所述候选对抗样本，包括：
确定所述目标图像与所述候选对抗样本之间的目标像素差值，并根据所述目标像素差值，确定第一调整系数；
对所述目标像素差值与所述第一调整系数进行乘法运算，得到像素增益值；
根据所述像素增益值，对所述目标图像的各像素点的像素值进行调整，得到调整后的候选对抗样本。
6.根据权利要求1-3中任一项所述的对抗样本生成方法，其特征在于，所述方法还包括：
在所述候选对抗样本不满足预设对抗样本条件时，调整所述候选对抗样本，并返回执行将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率步骤。
7.根据权利要求6所述的对抗样本生成方法，其特征在于，所述调整所述候选对抗样本，包括：
确定所述候选对抗样本的梯度图像，并根据所述目标图像与所述候选对抗样本之间的图像感知相似度，确定第二调整系数；
对所述第二调整系数和所述梯度图像进行乘法运算，得到增益图像，并将所述候选对抗样本与所述增益图像进行叠加，得到调整后的候选对抗样本。
8.一种对抗样本生成装置，其特征在于，所述对抗样本生成装置包括：
获取模块，用于获取待生成对抗样本的目标图像和对抗样本生成模型，其中，所述对抗样本生成模型包括编码器网络和生成器网络；
对抗样本生成模块，用于将所述目标图像输入所述编码器网络进行编码，得到目标图像的隐变量，并将所述隐变量输入所述生成器网络进行图像生成，得到候选对抗样本；
确定模块，用于确定所述目标图像与所述候选对抗样本之间的图像感知相似度；
分类模块，用于在所述图像感知相似度小于或等于预设阈值时，将所述候选对抗样本输入预设的图像分类模型进行分类，得到所述候选对抗样本的分类标签为各预设分类标签的输出概率；
所述确定模块，还用于根据所述输出概率和所述目标图像的真实分类标签，确定所述候选对抗样本是否满足预设对抗样本条件；
所述确定模块，还用于在所述候选对抗样本满足预设对抗样本条件时，将所述候选对抗样本确定为所述目标图像的目标对抗样本。
9.一种计算机设备，其特征在于，所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序，其中所述计算机程序被所述处理器执行时，实现如权利要求1至7中任一项所述的基于人工智能的对抗样本生成方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，其中所述计算机程序被处理器执行时，实现如权利要求1至7中任一项所述的基于人工智能的对抗样本生成方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110989624.0A CN113688912B (zh) | 2021-08-26 | 2021-08-26 | 基于人工智能的对抗样本生成方法、装置、设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110989624.0A CN113688912B (zh) | 2021-08-26 | 2021-08-26 | 基于人工智能的对抗样本生成方法、装置、设备及介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113688912A true CN113688912A (zh) | 2021-11-23 |
| CN113688912B CN113688912B (zh) | 2024-01-05 |
Family
ID=78583020
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110989624.0A Active CN113688912B (zh) | 2021-08-26 | 2021-08-26 | 基于人工智能的对抗样本生成方法、装置、设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113688912B (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114297730A (zh) * | 2021-12-31 | 2022-04-08 | 北京瑞莱智慧科技有限公司 | 对抗图像生成方法、装置及存储介质 |
| CN114596277A (zh) * | 2022-03-03 | 2022-06-07 | 北京百度网讯科技有限公司 | 检测对抗样本的方法、装置、设备以及存储介质 |
| CN114663946A (zh) * | 2022-03-21 | 2022-06-24 | 中国电信股份有限公司 | 对抗样本生成方法、装置、设备及介质 |
| CN115081643A (zh) * | 2022-07-20 | 2022-09-20 | 北京瑞莱智慧科技有限公司 | 对抗样本生成方法、相关装置及存储介质 |
| CN116935172A (zh) * | 2023-07-31 | 2023-10-24 | 北京瑞莱智慧科技有限公司 | 图像处理方法、相关装置及存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109190524A (zh) * | 2018-08-17 | 2019-01-11 | 南通大学 | 一种基于生成对抗网络的人体动作识别方法 |
| WO2020248492A1 (zh) * | 2019-06-14 | 2020-12-17 | 平安科技（深圳）有限公司 | 基于环形对抗生成网络的oct图像去噪方法及装置 |
| CN112258381A (zh) * | 2020-09-29 | 2021-01-22 | 北京达佳互联信息技术有限公司 | 模型训练方法、图像处理方法、装置、设备及存储介质 |
| WO2021114924A1 (zh) * | 2019-12-13 | 2021-06-17 | 支付宝(杭州)信息技术有限公司 | 一种模型盗用的检测、模型的训练方法和装置 |
| CN113139628A (zh) * | 2021-06-22 | 2021-07-20 | 腾讯科技（深圳）有限公司 | 样本图像的识别方法、装置、设备及可读存储介质 |
-
2021
- 2021-08-26 CN CN202110989624.0A patent/CN113688912B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109190524A (zh) * | 2018-08-17 | 2019-01-11 | 南通大学 | 一种基于生成对抗网络的人体动作识别方法 |
| WO2020248492A1 (zh) * | 2019-06-14 | 2020-12-17 | 平安科技（深圳）有限公司 | 基于环形对抗生成网络的oct图像去噪方法及装置 |
| WO2021114924A1 (zh) * | 2019-12-13 | 2021-06-17 | 支付宝(杭州)信息技术有限公司 | 一种模型盗用的检测、模型的训练方法和装置 |
| CN112258381A (zh) * | 2020-09-29 | 2021-01-22 | 北京达佳互联信息技术有限公司 | 模型训练方法、图像处理方法、装置、设备及存储介质 |
| CN113139628A (zh) * | 2021-06-22 | 2021-07-20 | 腾讯科技（深圳）有限公司 | 样本图像的识别方法、装置、设备及可读存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 苗壮;张?;李伟华;: "基于双重对抗自编码网络的红外目标建模方法", 光学学报, no. 11 * |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114297730A (zh) * | 2021-12-31 | 2022-04-08 | 北京瑞莱智慧科技有限公司 | 对抗图像生成方法、装置及存储介质 |
| CN114297730B (zh) * | 2021-12-31 | 2023-04-07 | 北京瑞莱智慧科技有限公司 | 对抗图像生成方法、装置及存储介质 |
| CN114596277A (zh) * | 2022-03-03 | 2022-06-07 | 北京百度网讯科技有限公司 | 检测对抗样本的方法、装置、设备以及存储介质 |
| CN114663946A (zh) * | 2022-03-21 | 2022-06-24 | 中国电信股份有限公司 | 对抗样本生成方法、装置、设备及介质 |
| CN115081643A (zh) * | 2022-07-20 | 2022-09-20 | 北京瑞莱智慧科技有限公司 | 对抗样本生成方法、相关装置及存储介质 |
| CN115081643B (zh) * | 2022-07-20 | 2022-11-08 | 北京瑞莱智慧科技有限公司 | 对抗样本生成方法、相关装置及存储介质 |
| CN116935172A (zh) * | 2023-07-31 | 2023-10-24 | 北京瑞莱智慧科技有限公司 | 图像处理方法、相关装置及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113688912B (zh) | 2024-01-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110136103B (zh) | 医学影像解释方法、装置、计算机设备及存储介质 | |
| CN113688912B (zh) | 基于人工智能的对抗样本生成方法、装置、设备及介质 | |
| CN110570426B (zh) | 使用深度学习的图像联合配准和分割 | |
| KR20210048523A (ko) | 이미지 처리 방법, 장치, 전자 기기 및 컴퓨터 판독 가능 기억 매체 | |
| CN112365980B (zh) | 脑肿瘤多靶点辅助诊断与前瞻性治疗演化可视化方法及系统 | |
| CN112259245B (zh) | 待检查项确定方法、装置、设备及计算机可读存储介质 | |
| CN114467146A (zh) | 用于对部署机构中的人工智能模型进行专业化的训练方法以及用于对人工智能模型进行训练的装置 | |
| CN112016279A (zh) | 电子病历结构化方法、装置、计算机设备和存储介质 | |
| US11430123B2 (en) | Sampling latent variables to generate multiple segmentations of an image | |
| EP3618077A1 (en) | Generating metadata for trained model | |
| CN111226258A (zh) | 信号转换系统和信号转换方法 | |
| Salama et al. | A generalized framework for lung Cancer classification based on deep generative models | |
| CN114519401A (zh) | 一种图像分类方法及装置、电子设备、存储介质 | |
| Rahman et al. | Brain tumor segmentation using UNet-context encoding network | |
| CN116778579A (zh) | 多人姿态的识别方法、装置、存储介质及电子设备 | |
| WO2023108418A1 (zh) | 脑图谱构建及神经环路检测的方法和相关产品 | |
| CN114359657A (zh) | 脑图谱构建及神经环路检测的方法和相关产品 | |
| CN114943695A (zh) | 医学序列影像的异常检测方法、装置、设备及存储介质 | |
| US20230087494A1 (en) | Determining image similarity by analysing registrations | |
| CN113723518B (zh) | 基于迁移学习的任务分级部署方法、装置及计算机设备 | |
| Li et al. | CAGAN: Classifier‐augmented generative adversarial networks for weakly‐supervised COVID‐19 lung lesion localisation | |
| CN116664982A (zh) | 基于人工智能的图像分类模型训练方法、装置及设备 | |
| Yoon et al. | Domain Generalization for Medical Image Analysis: A Survey | |
| CN117496126B (zh) | 基于关键词的影像自动定位系统及方法 | |
| CN110852386B (zh) | 数据分类方法、装置、计算机设备和可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |