CN110781952A - 图像识别风险提示方法、装置、设备及存储介质 - Google Patents
图像识别风险提示方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN110781952A CN110781952A CN201911014286.8A CN201911014286A CN110781952A CN 110781952 A CN110781952 A CN 110781952A CN 201911014286 A CN201911014286 A CN 201911014286A CN 110781952 A CN110781952 A CN 110781952A
- Authority
- CN
- China
- Prior art keywords
- image
- preset
- countermeasure
- generation algorithm
- image generation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供一种图像识别风险提示方法、装置、设备及存储介质，通过判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。本发明实施例通过预设对抗图像生成算法判断输入图像是否为对抗图像，从而可以避免输入图像为对抗图像而导致图像识别结果错误造成影响，提高图像识别的准确性，实现对图像识别的安全管控。
Description
技术领域
本发明涉及图像处理技术领域，尤其涉及一种图像识别风险提示方法、装置、设备及存储介质。
背景技术
随着深度学习在图像识别上的广泛应用，图像识别的准确性对机器去理解并执行用户指令的有效性至关重要。因此深度学习的抗干扰、攻击能力逐渐成为人们关注的重点。尤其是对于对抗攻击，攻击者通过对输入图像进行细微的用户无法感知的修改(如叠加噪声干扰)，使得深度学习模型得出错误的识别结果，从而带来不利影响。
现有技术中对于对抗攻击，通常采用预先生成对抗样本对深度学习模型进行对抗训练，以提高模型的防御能力。但是由于对抗样本有限，导致模型的防御能力有限，对于一些输入图像仍无法判断是否为对抗图像，从而使得某些图像识别结果准确性并不高。
发明内容
本发明实施例提供一种图像识别风险提示方法、装置、设备及存储介质，以提高图像识别的准确性，实现对图像识别的安全管控。
本发明实施例的第一方面是提供一种图像识别风险提示方法，包括：
判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；
若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；
根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
本发明实施例的第二方面是提供一种图像识别风险提示装置，包括：
判断模块，用于判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；
处理模块，用于若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；
提示模块，用于根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
本发明实施例的第三方面是提供一种图像识别风险提示设备，包括：
存储器；
处理器；以及
计算机程序；
其中，所述计算机程序存储在所述存储器中，并被配置为由所述处理器执行以实现如第一方面所述的方法。
本发明实施例的第四方面是提供一种计算机可读存储介质，其上存储有计算机程序；
所述计算机程序被处理器执行时实现如第一方面所述的方法。
本发明实施例提供的图像识别风险提示方法、装置、设备及存储介质，通过判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。本发明实施例通过预设对抗图像生成算法判断输入图像是否为对抗图像，从而可以避免输入图像为对抗图像而导致图像识别结果错误造成影响，提高图像识别的准确性，实现对图像识别的安全管控。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的图像识别风险提示方法流程图；
图2为本发明另一实施例提供的图像识别风险提示方法流程图；
图3为本发明另一实施例提供的图像识别风险提示方法流程图；
图4为本发明另一实施例提供的图像识别风险提示方法流程图；
图5为本发明实施例提供的图像识别风险提示装置的结构图；
图6为本发明实施例提供的图像识别风险提示设备的结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的图像识别风险提示方法流程图。本实施例提供了一种图像识别风险提示方法，该方法具体步骤如下：
S101、判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成。
在本实施例中，对抗图像是在图像识别(如图像文字识别)时，对某一图像故意添加细微的噪声干扰而形成的图像，能够导致图像识别模型(如神经网络)以高置信度给出错误的识别结果，例如原图像为熊猫，经过非常细微甚至人眼无法察觉的改动(噪声)后，被图像识别模型以较高的置信度识别为长臂猿。在图像进行文字识别的领域中，对抗图像则是由于添加了干扰而使文字识别模型以高置信度给出错误的文字识别结果的图像。而对抗图像生成算法即为对原始图像叠加噪声干扰的算法，例如FGSM(Fast Gradient SignMethod，快速梯度攻击)，再如在原始图像上叠加随机高斯噪声等。
本实施例中，在对新的输入图像进行图像识别前，或者图像识别后检验识别结果正确性时，可通过本实施例的方法进行风险提示。
在本实施例中，可预先获取能够产生对抗图像的对抗图像生成算法，构成预设对抗图像生成算法集合，其中获取预设对抗图像生成算法时，可通过一些历史的对抗图像数据，对其生成算法进行总结归纳。进而根据预设对抗图像生成算法集合，可以判断入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成。
具体的，如图2所示，S101所述的判断输入图像是否由预设对抗图像生成算法所生成，可通过如下步骤实现：
S1011、获取所述输入图像的第一图像特征；
S1012、将所述输入图像的第一图像特征与所述预设对抗图像生成算法对应的第一图像特征进行匹配；
S1013、若能够匹配，则确定所述判断输入图像是由所述预设对抗图像生成算法所生成。
在本实施例中，已知的对抗图像生成算法会使对抗图像具备一定的特征(例如在空间域或频域上)，本实施例中可将该些特征记为第一图像特征，将输入图像的第一图像特征与预设对抗图像生成算法对应的第一图像特征进行匹配，利用特征的相似性，即可判断输入图像是否是通过预设对抗图像生成算法生成。
S102、若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案。
在本实施例中，当判断输入图像是由预设对抗图像生成算法集合中的某预设对抗图像生成算法所生成的，则能够确定输入图像也是一张对抗图像，存在图像识别结果错误的可能性。因而为了避免图像识别结果错误造成的影响，可以获取该预设对抗图像生成算法对应的预设解决方案，例如在原始图像上叠加随机高斯噪声的预设对抗图像生成算法，其对应的预设解决方案即为在图像识别时加上高频去噪的步骤。
S103、根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
在本实施例中，在确定输入图像为对抗图像后，即可输出风险提示消息，其中风险提示消息中携带所述预设解决方案，例如将风险提示消息发送给相关人员，以使相关人员根据预设解决方案对输入图像进行处理，以避免输入图像识别结果错误造成影响，当然也可根据预设解决方案对图像识别模型进行优化。
本实施例提供的图像识别风险提示方法，通过判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。本实施例通过预设对抗图像生成算法判断输入图像是否为对抗图像，从而可以避免输入图像为对抗图像而导致图像识别结果错误造成影响，提高图像识别的准确性，实现对图像识别的安全管控。
图3为本发明另一实施例提供的图像识别风险提示方法流程图。在上述实施例的基础上，本实施例提供了一种图像识别风险提示方法，该方法具体步骤如下：
S201、判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成。
若判断结果为是，则执行S202-203，若判断结果为否，则执行S204-206。
S202、若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案。
S203、根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
本实施例中S201-S203与上述实施例相同，具体可参见上述实施例，此处不再赘述。
S204、若判断结果为否，则获取所述输入图像所属的图像类别，并获取所述输入图像的第二图像特征。
在本实施例中，当判断输入图像不是由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成，则判断该输入图像所属的图像类别，例如对于图像的文字识别，图像类别例如可包括银行卡图片类别、身份证图片类别、各种发票收据图片类别、登录认证的图片类别等类别。其中，图像分类可以通过对预设对抗图像集合中的预设对抗图像(历史对抗图像)进行分类得到。在本实施例中，由于同一图像类别的对抗图像可能具有相同的图像特征，例如高频最大值、梯度平均值、能量分布、孤立点个数等，本实施例中记为第二图像特征，因此可对输入图像进行图像特征的提取，第二图像特征可包括但不限于上述所列举的至少一项。
S205、将所述输入图像的第二图像特征与预设对抗图像集合中与该图像类别对应的预设对抗图像依次进行第二图像特征的匹配，获取与所述输入图像的第二图像特征相匹配的目标对抗图像，并获取所述目标对抗图像对应的预设解决方案。
在本实施例中，由于同一图像类别的对抗图像可能具有相同的第二图像特征，因此可对输入图像进行第二图像特征的提取，并且获取预设对抗图像集合中与该图像类别对应的预设对抗图像的第二图像特征，将输入图像与该图像类别对应的预设对抗图像依次进行第二图像特征的匹配，若获取到与输入图像的第二图像特征相匹配的目标对抗图像，说明输入图像很可能也是对抗图像，且与目标对抗图像具有较高的相似度，则可查询该目标对抗图像对应的预设解决方案。其中，预设对抗图像集合可以为预先收集到的对抗图像构成的集合，对于该些对抗图像，已知对抗图像生成算法以及对应的解决方案。
S206、根据所述根据匹配结果输出风险提示信息，所述风险提示信息中包括所述目标对抗图像对应的预设解决方案。
在本实施例中，若获取到与输入图像的第二图像特征相匹配的目标对抗图像，说明输入图像很可能也是对抗图像，因此可输出风险提示消息，其中风险提示消息中携带目标对抗图像对应的预设解决方案，以避免输入图像识别结果错误造成影响，当然也可根据预设解决方案对图像识别模型进行优化。
在上述实施例的基础上，若判断输入图像不是由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成，并且也未获取到与输入图像的第二图像特征相匹配的目标对抗图像，但是通过其他途径(例如人工判断)能够确定输入图像的图像识别结果错误，则说明输入图像可能是经过未知的对抗图像生成算法所生成，因此可进行针对性的分析。具体的，如图4所示，所述方法还可包括：
S301、若已确定所述输入图像的图像识别结果错误，且所述输入图像不是由预设对抗图像生成算法所生成、且无第二图像特征相匹配的目标对抗图像，则通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案；
S302、根据所述输入图像对应的对抗图像生成算法以及对应的解决方案，更新所述预设对抗图像生成算法集合、所述预设解决方案集合以及所述预设对抗图像集合。
本实施例中，通过分析输入图像的生成算法，获取未知的对抗图像生成算法，并获取对应的解决方案，然后更新预设对抗图像生成算法集合、预设解决方案集合以及预设对抗图像集合，从而使得上述各集合不断的更新，便于后续输入图像的风险判断。
在上述实施例的基础上，本实施例的方法可采用如下的代码流程实现：
预设对抗图像生成算法集合：A＝{A1,A2,..An}
对应的预设解决方案集合：F＝{F1,F2,..Fn}
图像类别：C＝{C1,C2,...Cm}
输入图像：I
当前解决方案：F’(I)
If I belongs to An:
Warning and Propose solutions
Else if I belongs to Cm:
Cm:{Cm1,Cm2,..Cmk},features:{X(Cm1),X(Cm2,...X(Cmk))}
Extract feature X(I)
While j<＝k
If X(I)＝＝X(Cmj)
Propose solution:F(I)＝F(Cmj)
break
Else if F’(I)is wrong:
Find adversarial algorithm:An(I)
Propose solution:Fn(I)
Update A and F and C
在上述任一实施例的基础上，所述图像识别风险提示方法还包括：
从区块链中获取历史图像识别数据，所述历史图像识别数据包括：历史图像、历史图像的对抗图像、对抗图像的生成算法、对抗图像生成算法对应的历史解决方案；
根据所述历史图像识别数据，获取以下至少一项：所述预设对抗图像生成算法集合、所述预设解决方案集合、所述预设对抗图像集合。
在本实施例中，可应用区块链技术进行信息共享，区块链上可存储历史图像识别数据，例如历史图像、历史图像的对抗图像、对抗图像的生成算法、对抗图像生成算法对应的历史解决方案，可由区块链节点上传，其中区块链节点可以以包括参与图像识别的集团、公司、基层营业机构等，可通过哈希运算和加密学数字签字等机制实现将历史图像识别数据信息上传到区块链中。对于在图像进行文字识别的领域中，历史图像识别数据具体可包括但不限于：原图片文字信息(银行卡、身份证、各种发票收据、登录认证的图片文字信息等)、对抗图片文字案例信息、图片文字识别被误导案例信息、图片文字对比分析信息、可以识别对抗图片文字的特点细节改进方案、对抗图片文字的生成方法案例分析信息(如随机高斯噪音等)等，可通过权限管理、加水印、加密等方式进行隐私保护，也实现了信息的公开透明、可追溯、防篡改。此外也可将相关的音频、视频、图像等相关材料上传到区块链中。
本实施例在获取到历史图像识别数据后，可对根据历史图像识别数据进行归纳总结，可获取所有对抗图像的生成算法得到预设对抗图像生成算法集合，也可归纳总结所有的解决方案获取预设解决方案集合，也可将所有的对抗图像汇集到预设对抗图像集合中。当然也可在区块链上存储归纳总结得到的预设对抗图像生成算法集合、预设解决方案集合、预设对抗图像集合。
上述任一实施例所述的图像识别风险提示方法，可采用BP神经网络(BackPropagation Neural Network)模型，可通过从区块链获取历史图像识别数据作为训练数据，不断的调整和优化神经网络参数、输入特征的系数等，通过不断训练和验证，提高模型的及时性、有效性和准确性。
本实施例中，具体可采用如下的数据结构方式、信息存储方式和协议来存储和认证共享信息等，以保证信息存储和信息处理的高效率：
在上述实施例的基础上，所述通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案后，还包括：
将所述输入图像、所述输入图像对应的对抗图像生成算法以及对应的解决方案上传至所述区块链中。
在本实施例中，在图像识别过程中当遇到图像识别结果错误的情况时，可将相关的数据发布到区块链上与其他节点进行信息共享，其中上传的并不限于输入图像、输入图像对应的对抗图像生成算法以及对应的解决方案，可参见上述实施例，此处不再一一赘述。
本实施例中将区块链技术应用在图像识别风险提示方法中，有利的促进了区块链技术在图像识别领域中的有效推广，实现了历史图像识别数据的共享和管理，可对图像识别风险提示的决策系统进行不断的优化和调整，提高了图像识别结果的有效性和准确性，可以更加很有效的为相关人员解决图像识别错误、优化系统提供解决方案，避免图像识别结果错误导致的影响，可带来可观的经济效益和社会效益。
图5为本发明实施例提供的图像识别风险提示装置的结构图。本实施例提供的图像识别风险提示装置可以执行图像识别风险提示方法实施例提供的处理流程，如图5所示，所述图像识别风险提示装置40包括判断模块41、处理模块42及提示模块43。
判断模块41，用于判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；
处理模块42，用于若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；
提示模块43，用于根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
在上述实施例的基础上，所述判断模块41具体用于：
获取所述输入图像的第一图像特征；
将所述输入图像的第一图像特征与所述预设对抗图像生成算法对应的第一图像特征进行匹配；
若能够匹配，则确定所述判断输入图像是由所述预设对抗图像生成算法所生成。
在上述实施例的基础上，所述处理模块42还用于：
若判断结果为否，则获取所述输入图像所属的图像类别，并获取所述输入图像的第二图像特征；
将所述输入图像的第二图像特征与预设对抗图像集合中与该图像类别对应的预设对抗图像依次进行第二图像特征的匹配，获取与所述输入图像的第二图像特征相匹配的目标对抗图像，并获取所述目标对抗图像对应的预设解决方案；
根据所述根据匹配结果输出风险提示信息，所述风险提示信息中包括所述目标对抗图像对应的预设解决方案。
在上述实施例的基础上，所述处理模块42还可用于：
若已确定所述输入图像的图像识别结果错误，且所述输入图像不是由预设对抗图像生成算法所生成、且无第二图像特征相匹配的目标对抗图像，则通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案；
根据所述输入图像对应的对抗图像生成算法以及对应的解决方案，更新所述预设对抗图像生成算法集合、所述预设解决方案集合以及所述预设对抗图像集合。
在上述任一实施例的基础上，所述第二图像特征包括高频最大值、梯度平均值、能量分布、孤立点个数中的至少一项。
在上述任一实施例的基础上，所述装置40还包括获取模块(图中未示出)，用于：
从区块链中获取历史图像识别数据，所述历史图像识别数据包括：历史图像、历史图像的对抗图像、对抗图像的生成算法、对抗图像生成算法对应的历史解决方案；
根据所述历史图像识别数据，获取以下至少一项：
所述预设对抗图像生成算法集合、所述预设解决方案集合、所述预设对抗图像集合。
在上述任一实施例的基础上，所述装置40还包括上传模块(图中未示出)，用于：
在通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案后，将所述输入图像、所述输入图像对应的对抗图像生成算法以及对应的解决方案上传至所述区块链中。
本发明实施例提供的图像识别风险提示装置，可以具体用于执行上述图1-4所提供的方法实施例，具体功能此处不再赘述。
本发明实施例提供的图像识别风险提示装置，通过判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。本实施例通过预设对抗图像生成算法判断输入图像是否为对抗图像，从而可以避免输入图像为对抗图像而导致图像识别结果错误造成影响，提高图像识别的准确性，实现对图像识别的安全管控。
图6为本发明实施例提供的图像识别风险提示设备的结构示意图。本发明实施例提供的图像识别风险提示设备可以执行图像识别风险提示方法实施例提供的处理流程，如图6所示，图像识别风险提示设备50包括存储器51、处理器52、计算机程序和通讯接口53；其中，计算机程序存储在存储器51中，并被配置为由处理器52执行以上实施例所述的图像识别风险提示方法。
图6所示实施例的图像识别风险提示设备可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。
另外，本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行以实现上述实施例所述的图像识别风险提示方法。
在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (10)
1.一种图像识别风险提示方法，其特征在于，包括：
判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；
若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；
根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
2.根据权利要求1所述的方法，其特征在于，所述判断输入图像是否由预设对抗图像生成算法所生成，包括：
获取所述输入图像的第一图像特征；
将所述输入图像的第一图像特征与所述预设对抗图像生成算法对应的第一图像特征进行匹配；
若能够匹配，则确定所述判断输入图像是由所述预设对抗图像生成算法所生成。
3.根据权利要求1所述的方法，其特征在于，还包括：
若判断结果为否，则获取所述输入图像所属的图像类别，并获取所述输入图像的第二图像特征；
将所述输入图像的第二图像特征与预设对抗图像集合中与该图像类别对应的预设对抗图像依次进行第二图像特征的匹配，获取与所述输入图像的第二图像特征相匹配的目标对抗图像，并获取所述目标对抗图像对应的预设解决方案；
根据所述根据匹配结果输出风险提示信息，所述风险提示信息中包括所述目标对抗图像对应的预设解决方案。
4.根据权利要求3所述的方法，其特征在于，还包括：
若已确定所述输入图像的图像识别结果错误，且所述输入图像不是由预设对抗图像生成算法所生成、且无第二图像特征相匹配的目标对抗图像，则通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案；
根据所述输入图像对应的对抗图像生成算法以及对应的解决方案，更新所述预设对抗图像生成算法集合、所述预设解决方案集合以及所述预设对抗图像集合。
5.根据权利要求2或3所述的方法，其特征在于，所述第二图像特征包括高频最大值、梯度平均值、能量分布、孤立点个数中的至少一项。
6.根据权利要求4所述的方法，其特征在于，还包括：
从区块链中获取历史图像识别数据，所述历史图像识别数据包括：历史图像、历史图像的对抗图像、对抗图像的生成算法、对抗图像生成算法对应的历史解决方案；
根据所述历史图像识别数据，获取以下至少一项：
所述预设对抗图像生成算法集合、所述预设解决方案集合、所述预设对抗图像集合。
7.根据权利要求6所述的方法，其特征在于，所述通过分析获取所述输入图像对应的对抗图像生成算法以及对应的解决方案后，还包括：
将所述输入图像、所述输入图像对应的对抗图像生成算法以及对应的解决方案上传至所述区块链中。
8.一种图像识别风险提示装置，其特征在于，包括：
判断模块，用于判断输入图像是否由预设对抗图像生成算法集合中的预设对抗图像生成算法所生成；
处理模块，用于若判断结果为是，则从预设解决方案集合中获取所述预设对抗图像生成算法对应的预设解决方案；
提示模块，用于根据所述判断结果输出风险提示信息，所述风险提示信息中包括所述预设对抗图像生成算法对应的预设解决方案。
9.一种图像识别风险提示设备，其特征在于，包括：
存储器；
处理器；以及
计算机程序；
其中，所述计算机程序存储在所述存储器中，并被配置为由所述处理器执行以实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，其上存储有计算机程序；
所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014286.8A CN110781952A (zh) | 2019-10-23 | 2019-10-23 | 图像识别风险提示方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014286.8A CN110781952A (zh) | 2019-10-23 | 2019-10-23 | 图像识别风险提示方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110781952A true CN110781952A (zh) | 2020-02-11 |
Family
ID=69386821
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911014286.8A Pending CN110781952A (zh) | 2019-10-23 | 2019-10-23 | 图像识别风险提示方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110781952A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111415336A (zh) * | 2020-03-12 | 2020-07-14 | 泰康保险集团股份有限公司 | 一种图像篡改识别方法、装置、服务器及存储介质 |
| CN111488852A (zh) * | 2020-04-21 | 2020-08-04 | 成都信息工程大学 | 一种基于图像识别的缴费智能核查预警系统及预警方法 |
| CN111613304A (zh) * | 2020-05-19 | 2020-09-01 | 全链通有限公司 | 医疗影像处理方法、设备及存储介质 |
| CN111627530A (zh) * | 2020-05-19 | 2020-09-04 | 全链通有限公司 | 医疗影像的识别方法、设备及存储介质 |
| CN112584213A (zh) * | 2020-12-11 | 2021-03-30 | 海信视像科技股份有限公司 | 一种显示设备和图像识别结果的展示方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170316281A1 (en) * | 2016-04-28 | 2017-11-02 | Microsoft Technology Licensing, Llc | Neural network image classifier |
| CN108197644A (zh) * | 2017-12-27 | 2018-06-22 | 深圳市大熊动漫文化有限公司 | 一种图像识别方法和装置 |
| CN108537271A (zh) * | 2018-04-04 | 2018-09-14 | 重庆大学 | 一种基于卷积去噪自编码机防御对抗样本攻击的方法 |
| CN109684797A (zh) * | 2018-11-21 | 2019-04-26 | 众安信息技术服务有限公司 | 基于区块链的对抗网络生成图片的虚拟ip保护方法及系统 |
| CN109784411A (zh) * | 2019-01-23 | 2019-05-21 | 四川虹微技术有限公司 | 对抗样本的防御方法、装置、系统及存储介质 |
| US20190238568A1 (en) * | 2018-02-01 | 2019-08-01 | International Business Machines Corporation | Identifying Artificial Artifacts in Input Data to Detect Adversarial Attacks |
| CN110363243A (zh) * | 2019-07-12 | 2019-10-22 | 腾讯科技（深圳）有限公司 | 分类模型的评估方法和装置 |
-
2019
- 2019-10-23 CN CN201911014286.8A patent/CN110781952A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170316281A1 (en) * | 2016-04-28 | 2017-11-02 | Microsoft Technology Licensing, Llc | Neural network image classifier |
| CN108197644A (zh) * | 2017-12-27 | 2018-06-22 | 深圳市大熊动漫文化有限公司 | 一种图像识别方法和装置 |
| US20190238568A1 (en) * | 2018-02-01 | 2019-08-01 | International Business Machines Corporation | Identifying Artificial Artifacts in Input Data to Detect Adversarial Attacks |
| CN108537271A (zh) * | 2018-04-04 | 2018-09-14 | 重庆大学 | 一种基于卷积去噪自编码机防御对抗样本攻击的方法 |
| CN109684797A (zh) * | 2018-11-21 | 2019-04-26 | 众安信息技术服务有限公司 | 基于区块链的对抗网络生成图片的虚拟ip保护方法及系统 |
| CN109784411A (zh) * | 2019-01-23 | 2019-05-21 | 四川虹微技术有限公司 | 对抗样本的防御方法、装置、系统及存储介质 |
| CN110363243A (zh) * | 2019-07-12 | 2019-10-22 | 腾讯科技（深圳）有限公司 | 分类模型的评估方法和装置 |
Non-Patent Citations (5)
| Title |
|---|
| LI Y,WANG Y: "Defense Against Adversarial Attacks in Deep Learning", 《APPLIED SCIENCES》 * |
| 刘让，王德江等: "基于全方位形态学滤波和局部特征准则的点目标检测", 《光学学报》 * |
| 曹启云: "基于生成对抗网络的恶意代码识别研究与应用", 《中国优秀硕士学位论文全文数据库信息科技辑》 * |
| 李卓蓉: "生成式对抗网络研究及其应用", 《中国博士学位论文全文数据库信息科技辑》 * |
| 蒋凯，易平: "关于对抗样本恢复的研究", 《通信技术》 * |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111415336A (zh) * | 2020-03-12 | 2020-07-14 | 泰康保险集团股份有限公司 | 一种图像篡改识别方法、装置、服务器及存储介质 |
| CN111488852A (zh) * | 2020-04-21 | 2020-08-04 | 成都信息工程大学 | 一种基于图像识别的缴费智能核查预警系统及预警方法 |
| CN111613304A (zh) * | 2020-05-19 | 2020-09-01 | 全链通有限公司 | 医疗影像处理方法、设备及存储介质 |
| CN111627530A (zh) * | 2020-05-19 | 2020-09-04 | 全链通有限公司 | 医疗影像的识别方法、设备及存储介质 |
| CN111613304B (zh) * | 2020-05-19 | 2023-05-30 | 全链通有限公司 | 医疗影像处理方法、设备及存储介质 |
| CN111627530B (zh) * | 2020-05-19 | 2023-11-17 | 全链通有限公司 | 医疗影像的识别方法、设备及存储介质 |
| CN112584213A (zh) * | 2020-12-11 | 2021-03-30 | 海信视像科技股份有限公司 | 一种显示设备和图像识别结果的展示方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| RU2708508C1 (ru) | Способ и вычислительное устройство для выявления подозрительных пользователей в системах обмена сообщениями | |
| CN110781952A (zh) | 图像识别风险提示方法、装置、设备及存储介质 | |
| EP3631664B1 (en) | Secure biometric authentication using electronic identity | |
| Mohsin et al. | Real-time medical systems based on human biometric steganography: A systematic review | |
| US20180309581A1 (en) | Decentralized biometric signing of digital contracts | |
| Abd Razak et al. | Data anonymization using pseudonym system to preserve data privacy | |
| EP3500927A1 (en) | Systems and methods for improving kba identity authentication questions | |
| US20200274714A1 (en) | System for, method of, and server computer system for implementing transformation of an original entity into a verifiably authenticable entity in a heterogeneous communications network environment | |
| Cavoukian et al. | Advances in biometric encryption: Taking privacy by design from academic research to deployment | |
| CN110992053B (zh) | 一种基于指静脉识别及区块链技术的安全支付系统及方法 | |
| CN109327444A (zh) | 一种账户信息的注册和认证方法及装置 | |
| Sindhura et al. | An effective secure storage of data in cloud using ISSE encryption technique | |
| Kwon et al. | CCTV-based multi-factor authentication system | |
| Kumar et al. | Privacy preservation and security challenges: a new frontier multimodal machine learning research | |
| Alkhowaiter et al. | Evaluating perceptual hashing algorithms in detecting image manipulation over social media platforms | |
| CN113055153B (zh) | 一种基于全同态加密算法的数据加密方法、系统和介质 | |
| Alsubaei et al. | Enhancing phishing detection: A novel hybrid deep learning framework for cybercrime forensics | |
| Jasmine et al. | A privacy preserving based multi-biometric system for secure identification in cloud environment | |
| CN103390121B (zh) | 数字作品权属认证方法和系统 | |
| Solanki et al. | Website phishing detection using heuristic based approach | |
| CN114581091A (zh) | 一种身份验证方法、装置、计算机设备及存储介质 | |
| Chen et al. | Fraud analysis and detection for real-time messaging communications on social networks | |
| Buhas et al. | Using Machine Learning Techniques to Increase the Effectiveness of Cybersecurity | |
| Darve et al. | Comparison of biometric and non-biometric security techniques in mobile cloud computing | |
| Dissanayake et al. | “Trust Pass”-Blockchain-Based Trusted Digital Identity Platform Towards Digital Transformation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200211 |
|
| RJ01 | Rejection of invention patent application after publication |