CN111079798A - 图像识别安全控制与管理方法、装置、设备及存储介质 - Google Patents
图像识别安全控制与管理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111079798A CN111079798A CN201911190108.0A CN201911190108A CN111079798A CN 111079798 A CN111079798 A CN 111079798A CN 201911190108 A CN201911190108 A CN 201911190108A CN 111079798 A CN111079798 A CN 111079798A
- Authority
- CN
- China
- Prior art keywords
- image data
- confrontation
- algorithm
- image
- generation algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Storage Device Security (AREA)
Abstract
本发明实施例提供一种图像识别安全控制与管理方法、装置、设备及存储介质。通过将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合,确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,从而实现了对图像识别进行安全控制与管理的方法,降低了对抗图像会对图像识别系统造成的安全隐患。
Description
技术领域
本发明实施例涉及通信技术领域,尤其涉及一种图像识别安全控制与管理方法、装置、设备及存储介质。
背景技术
现有技术中,图像识别技术已经成为一种比较成熟的技术。但是对抗图像会对图像识别系统造成一定的安全隐患,导致图像识别系统错误识别图像。
为了解决该问题,现有技术中亟需一种能够对图像识别进行安全控制与管理的方法。
发明内容
本发明实施例提供一种图像识别安全控制与管理方法、装置、设备及存储介质,以实现对图像识别进行安全控制与管理的方法,降低对抗图像会对图像识别系统造成的安全隐患。
第一方面,本发明实施例提供一种图像识别安全控制与管理方法,包括:
获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;
将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合;
确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像;
若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
第二方面,本发明实施例提供一种图像识别安全控制与管理装置,包括:
获取模块,用于获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;
生成模块,用于将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合;
确定模块,用于确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像;
发送模块,用于所述确定模块确定所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像时,向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
第三方面,本发明实施例提供一种区块链节点,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如第一方面所述的方法。
第四方面,本发明实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现第一方面所述的方法。
本发明实施例提供的图像识别安全控制与管理方法、装置、设备及存储介质,通过将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合,确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,从而实现了对图像识别进行安全控制与管理的方法,降低了对抗图像会对图像识别系统造成的安全隐患。
附图说明
图1为本发明实施例提供的一种应用场景的示意图;
图2为本发明实施例提供的图像识别安全控制与管理方法流程图;
图3为本发明另一实施例提供的图像识别安全控制与管理方法流程图;
图4为本发明另一实施例提供的图像识别安全控制与管理方法流程图;
图5为本发明另一实施例提供的图像识别安全控制与管理方法流程图;
图6为本发明实施例提供的图像识别安全控制与管理装置的结构示意图;
图7为本发明另一实施例提供的图像识别安全控制与管理装置的结构示意图;
图8为本发明实施例提供的区块链节点的结构示意图。
通过上述附图,已示出本公开明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本发明实施例提供的图像识别安全控制与管理方法,可以适用于图1所示的通信系统。如图1所示,该通信系统包括:终端设备、区块链节点、访问节点。其中,终端设备、区块链节点、访问节点均是区块链网络中的节点。此处只是示意性说明,并不限定区块链网络的结构和该区块链网络中的节点个数。每个区块链节点或访问节点具体可以是云端服务器。云端服务器也就是云服务器,是一个服务器集群,有很多服务器,和通用的计算机架构类似,云端服务器的构成包括处理器、硬盘、内存、系统总线等。
本发明实施例提供的图像识别安全控制与管理方法,旨在解决现有技术的如上技术问题。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
图2为本发明实施例提供的图像识别安全控制与管理方法流程图。本发明实施例针对现有技术的如上技术问题,提供了图像识别安全控制与管理方法,该方法具体步骤如下:
步骤201、获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法。
在本实施例中,如图1所示的区块链节点或访问节点具体可以是以公司基层营业机构为单位的最小节点,如图1所示的区块链网络可以是一个或多个集团、公司参与构建的区块链网络。该区块链网络中的全部节点或部分节点可构成区块链网络构建子系统,也就是说,该区块链网络由该区块链网络构建子系统进行构建。
该区块链网络中的部分节点还可以构成信息存储和信息认证数据格式定义子系统,该信息存储和信息认证数据格式定义子系统中可存储有该区块链网络中的数据结构方式、信息存储方式和协议。该区块链网络中的每个节点可按照该数据结构方式、信息存储方式和协议来存储和认证共享信息等,以保证信息存储和信息处理的高效率。
另外,该区块链网络中的部分节点还可以构成图像识别安全控制与管理信息存储子系统。该区块链网络中的节点,例如系统中注册的企业或个人可以将历史的原始图像数据、该原始图像数据对应的对抗图像数据、对抗图像数据的识别结果、可以识别对抗图像数据的特征点细节的改进方案、对抗图像数据生成算法上传到该区块链网络中,也可以将更新后的原始图像数据、该原始图像数据对应的对抗图像数据、对抗图像数据的识别结果、可以识别对抗图像数据的特征点细节的改进方案、对抗图像数据生成算法上传到该区块链网络中。此外,该区块链网络中的节点还可以将证明相关材料的音频、视频、图像等相关材料也可以上传至区块链。该区块链网络中的图像识别安全控制与管理信息存储子系统具体用于存储历史的或更新后的原始图像数据、该原始图像数据对应的对抗图像数据、对抗图像数据的识别结果、可以识别对抗图像数据的特征点细节的改进方案、对抗图像数据生成算法,以及证明相关材料的音频、视频、图像等相关材料。具体的,该区块链网络中的图像识别安全控制与管理信息存储子系统以区块链的形式存储这些信息。
另外,该区块链网络中的一些节点还可以构成图像识别安全控制与管理子系统。该图像识别安全控制与管理子系统可获取区块链网络中多个历史数据中的对抗图像数据生成算法,每个历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法。
步骤202、将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合。
进一步,该图像识别安全控制与管理子系统还可以对每个历史数据中的对抗图像数据生成算法进行分类。例如,可以将对抗图像数据生成算法分为n大类,该n大类构成第一算法集合A,A={A1,A2,..An},由于不同的对抗图像数据生成算法对应不同的修正后的对抗图像数据识别算法,因此,对于A1,A2,..An而言,每一类对抗图像数据生成算法均对应一个修正后的对抗图像数据识别算法,例如,A1对应的修正后的对抗图像数据识别算法记为F1,A2对应的修正后的对抗图像数据识别算法记为F2,…,An对应的修正后的对抗图像数据识别算法记为Fn。F1、F2、…Fn构成第二算法集合F,F={F1,F2,..Fn}。
下面以A={空间域、频域、时域、梯度}为例进行示意性说明,每个类别又可以细分成小类,如空间域类别中可分成A1={图像旋转、增加空白区域、裁剪、设置黑白点等},每种对抗算法对应不同的判断条件,比如频域对抗算法中的某一判定条件是图像高频部分是否超过设定阈值;增加空白区域这一对抗算法对应的判断条件是图像出现在x方向或者y方向的累计像素值突变等。
步骤203、确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像。
当该区块链网络中出现一个新的图像时,将该新的图像记为目标图像,具体的,该目标图像可以存储在区块链中,进一步,确定该目标图像是否是由第一算法集合A中的某个对抗图像数据生成算法生成的对抗图像。例如,对该目标图像进行频域分析以确定该目标图像是否是由频域类的对抗图像数据生成算法生成的对抗图像,或者,对该目标图像进行时域分析以确定该目标图像是否是由时域类的对抗图像数据生成算法生成的对抗图像,再或者,对该目标图像进行梯度分析以确定该目标图像是否是由梯度类的对抗图像数据生成算法生成的对抗图像。
步骤204、若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
若该目标图像是第一算法集合中的某个对抗图像数据生成算法生成的对抗图像,例如,该目标图像是由A1类的对抗图像数据生成算法生成的对抗图像,则该图像识别安全控制与管理子系统发出风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法。该风险是对抗图像数据对图像识别系统造成的安全隐患。具体的,该图像识别安全控制与管理子系统可以向访问节点发送该风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法。
可选的,所述向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,包括:采用所述访问节点的公钥对所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法进行加密;将加密后的所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法发送给所述访问节点。
例如,该图像识别安全控制与管理子系统采用该访问节点的公钥,例如,1392929293346对该风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法进行加密,并将加密后的风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法发送给该访问节点。从而使得该访问节点有权限访问该风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法。
本发明实施例通过将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合,确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,从而实现了对图像识别进行安全控制与管理的方法,降低了对抗图像会对图像识别系统造成的安全隐患。
图3为本发明另一实施例提供的图像识别安全控制与管理方法流程图。在上述实施例的基础上,所述获取多个历史数据中的对抗图像数据生成算法之前,所述方法还包括:
步骤301、接收终端设备在区块链网络中广播的原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法。
例如,在系统中注册的某图像识别技术人员,想要分享相关图像识别案例,该图像识别技术人员可通过自己的终端设备在区块链网络中广播原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法。
步骤302、将所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法作为历史数据存储到区块链的区块中。
相应的,该图像识别安全控制与管理信息存储子系统可以将该终端设备广播的原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法存储到一个新的区块中,该区块的输入可以是{原始图像数据、原始图像数据对应的对抗图像数据、对抗图像数据生成算法、对抗图像数据的识别结果、修正后的对抗图像数据识别算法}。另外,可以证明相关材料的音频、视频、图像等相关材料也可以上传至区块链并存储在区块链的区块中,该区块链可包括多个首尾相连的区块。该区块中存储的数据将作为历史数据进行存储。
可选的,所述将所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法作为历史数据存储到区块中,包括:采用所述终端设备对应的用户公钥对所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法进行加密,得到加密信息;采用所述终端设备对应的用户签名对所述加密信息进行签名,得到签名信息;将所述签名信息作为历史数据存储到区块中。
例如,该图像识别技术人员的用户公钥为ATCGWKY123YTU,该图像识别技术人员的用户签名为XXXY。该图像识别安全控制与管理信息存储子系统可以采用该图像识别技术人员的用户公钥ATCGWKY123YTU对原始图像数据、原始图像数据对应的对抗图像数据、对抗图像数据生成算法、对抗图像数据的识别结果、修正后的对抗图像数据识别算法进行加密,得到加密信息。进一步,采用该图像识别技术人员的用户签名XXXY对该加密信息进行签名,得到签名信息,并将该签名信息作为历史数据存储到区块中。
在本实施例中,当图像识别安全控制与管理信息存储子系统每生成一个区块时,该图像识别安全控制与管理信息存储子系统还可以输出该区块的上一个区块的存储链接,例如,ostfmmqqjjwwttyuyt。
本发明实施例通过区块链网络中的图像识别安全控制与管理信息的历史数据,系统自动分析和识别图像识别中可能存在的安全风险并给相关人员(例如,图像识别应用专家等)发出提示信息及解决方案的推荐,从而有力促进区块链技术应用在图像识别安全控制与管理方面的有效推广。
图4为本发明另一实施例提供的图像识别安全控制与管理方法流程图。在上述实施例的基础上,本实施例提供的图像识别安全控制与管理方法具体还包括如下步骤:
步骤401、若所述目标图像不是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则确定所述目标图像对应的对抗图像的生成算法。
上述实施例中提到了若目标图像是由A1类的对抗图像数据生成算法生成的对抗图像,则该图像识别安全控制与管理子系统发出风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法。在本实施例中,该目标图像不属于该第一算法集合A中任一种对抗图像数据生成算法生成的对抗图像。此时,从时域、频域、空间域、梯度的角度分析该目标图像对应的对抗图像的生成算法,检测是否有历史数据库中的对抗图像生成算法判定条件之外的其他异常统计数据,或者从图像识别模型的角度出发,检测是否是有针对性的对抗攻击(比如针对DNN模型的少像素攻击)。
步骤402、根据所述目标图像对应的对抗图像的生成算法,更新所述第一算法集合。
如果可以检测出该目标图像对应的对抗图像的生成算法,将该目标图像对应的对抗图像的生成算法更新到第一算法集合A中。
步骤403、根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法,更新所述第二算法集合。
由于每一种对抗图像生成算法都对应一种修正后的对抗图像数据识别算法,因此,可以将该目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法更新到该第二算法集合F中。
本发明实施例通过判断区块链网络中的目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,若所述区块链网络中的目标图像不是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则确定所述目标图像对应的对抗图像的生成算法,根据所述目标图像对应的对抗图像的生成算法,更新所述第一算法集合,根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法,更新所述第二算法集合,进一步降低了对抗图像会对图像识别系统造成的安全隐患。
图5为本发明另一实施例提供的图像识别安全控制与管理方法流程图。具体过程与上述实施例所述的方法一致,此处不再赘述。另外,信息存储和信息认证数据格式定义子系统中的数据结构方式、信息存储方式和协议具体如下表1所示:
表1
图6为本发明实施例提供的图像识别安全控制与管理装置的结构示意图。该图像识别安全控制与管理装置具体可以是上述实施例中的一个或多个区块链节点,或区块链节点的部件(例如芯片或者电路)。本发明实施例提供的图像识别安全控制与管理装置可以执行图像识别安全控制与管理方法实施例提供的处理流程,如图6所示,图像识别安全控制与管理装置60包括:获取模块61、生成模块62、确定模块63和发送模块64;其中,获取模块61用于获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;生成模块62用于将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合;确定模块63用于确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像;发送模块64用于所述确定模块确定所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像时,向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
可选的,所述多个历史数据和所述目标图像存储在区块链中。
可选的,确定模块63还用于:若所述目标图像不是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则确定所述目标图像对应的对抗图像的生成算法;图像识别安全控制与管理装置60还包括:更新模块65,如图7所示,更新模块65用于根据所述目标图像对应的对抗图像的生成算法,更新所述第一算法集合;根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法,更新所述第二算法集合。
可选的,如图7所示,图像识别安全控制与管理装置60还包括:接收模块66和存储模块67。其中,接收模块66用于在所述获取模块获取多个历史数据中的对抗图像数据生成算法之前,接收终端设备在区块链网络中广播的原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;存储模块67用于将所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法作为历史数据存储到区块链的区块中。
可选的,如图7所示,图像识别安全控制与管理装置60还包括:第一加密模块68和签名模块69。第一加密模块68用于采用所述终端设备对应的用户公钥对所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法进行加密,得到加密信息;签名模块69用于采用所述终端设备对应的用户签名对所述加密信息进行签名,得到签名信息;存储模块67具体用于:将所述签名信息作为历史数据存储到区块中。
可选的,图像识别安全控制与管理装置60还包括:第二加密模块610,第二加密模块610用于采用所述访问节点的公钥对所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法进行加密;发送模块64具体用于将加密后的所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法发送给所述访问节点。
图6所示实施例的图像识别安全控制与管理装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图8为本发明实施例提供的区块链节点的结构示意图。本发明实施例提供的区块链节点可以执行图像识别安全控制与管理方法实施例提供的处理流程,如图8所示,区块链节点80包括:存储器81、处理器82、计算机程序和通讯接口83;其中,计算机程序存储在存储器81中,并被配置为由处理器82执行上述实施例所述的图像识别安全控制与管理方法。
图8所示实施例的区块链节点可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
另外,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现上述实施例所述的图像识别安全控制与管理方法。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (10)
1.一种图像识别安全控制与管理方法,其特征在于,包括:
获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;
将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合;
确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像;
若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
2.根据权利要求1所述的方法,其特征在于,所述多个历史数据存储在区块链中。
3.根据权利要求1所述的方法,其特征在于,所述目标图像存储在区块链中。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
若所述目标图像不是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像,则确定所述目标图像对应的对抗图像的生成算法;
根据所述目标图像对应的对抗图像的生成算法,更新所述第一算法集合;
根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法,更新所述第二算法集合。
5.根据权利要求1所述的方法,其特征在于,所述获取多个历史数据中的对抗图像数据生成算法之前,所述方法还包括:
接收终端设备在区块链网络中广播的原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;
将所述原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法作为历史数据存储到区块链的区块中。
6.根据权利要求1所述的方法,其特征在于,所述向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,包括:
采用所述访问节点的公钥对所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法进行加密。
7.根据权利要求6所述的方法,其特征在于,所述向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法,还包括:
将加密后的所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法发送给所述访问节点。
8.一种图像识别安全控制与管理装置,其特征在于,包括:
获取模块,用于获取多个历史数据中的对抗图像数据生成算法,所述历史数据包括:原始图像数据、所述原始图像数据对应的对抗图像数据、所述对抗图像数据生成算法、所述对抗图像数据的识别结果、修正后的对抗图像数据识别算法;
生成模块,用于将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合,将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合;
确定模块,用于确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像;
发送模块,用于所述确定模块确定所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像时,向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。
9.一种区块链节点,其特征在于,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如权利要求1-7中任一所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911190108.0A CN111079798B (zh) | 2019-11-28 | 2019-11-28 | 图像识别安全控制与管理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911190108.0A CN111079798B (zh) | 2019-11-28 | 2019-11-28 | 图像识别安全控制与管理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111079798A true CN111079798A (zh) | 2020-04-28 |
CN111079798B CN111079798B (zh) | 2023-04-28 |
Family
ID=70312124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911190108.0A Active CN111079798B (zh) | 2019-11-28 | 2019-11-28 | 图像识别安全控制与管理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111079798B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108388795A (zh) * | 2018-02-11 | 2018-08-10 | 浙江工业大学 | 一种基于lstm检测器的对抗攻击防御方法 |
CN108710892A (zh) * | 2018-04-04 | 2018-10-26 | 浙江工业大学 | 面向多种对抗图片攻击的协同免疫防御方法 |
CN110008680A (zh) * | 2019-04-03 | 2019-07-12 | 华南师范大学 | 基于对抗样本的验证码生成系统及方法 |
US20190238568A1 (en) * | 2018-02-01 | 2019-08-01 | International Business Machines Corporation | Identifying Artificial Artifacts in Input Data to Detect Adversarial Attacks |
CN110363243A (zh) * | 2019-07-12 | 2019-10-22 | 腾讯科技(深圳)有限公司 | 分类模型的评估方法和装置 |
-
2019
- 2019-11-28 CN CN201911190108.0A patent/CN111079798B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190238568A1 (en) * | 2018-02-01 | 2019-08-01 | International Business Machines Corporation | Identifying Artificial Artifacts in Input Data to Detect Adversarial Attacks |
CN108388795A (zh) * | 2018-02-11 | 2018-08-10 | 浙江工业大学 | 一种基于lstm检测器的对抗攻击防御方法 |
CN108710892A (zh) * | 2018-04-04 | 2018-10-26 | 浙江工业大学 | 面向多种对抗图片攻击的协同免疫防御方法 |
CN110008680A (zh) * | 2019-04-03 | 2019-07-12 | 华南师范大学 | 基于对抗样本的验证码生成系统及方法 |
CN110363243A (zh) * | 2019-07-12 | 2019-10-22 | 腾讯科技(深圳)有限公司 | 分类模型的评估方法和装置 |
Non-Patent Citations (2)
Title |
---|
WANG X等: "The security of machine learning in an adversarial setting: A survey" * |
张嘉楠;王逸翔;刘博;常晓林;: "深度学习的对抗攻击方法综述" * |
Also Published As
Publication number | Publication date |
---|---|
CN111079798B (zh) | 2023-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107396360B (zh) | 区块验证方法及装置 | |
CN107171810B (zh) | 区块链的验证方法及装置 | |
CN109104279B (zh) | 一种电力数据的加密方法、系统及终端设备 | |
CN107491519B (zh) | 区块链账本的查询方法及装置 | |
CN111130800A (zh) | 一种基于tee的可信预言机实现方法及装置 | |
CN110781952A (zh) | 图像识别风险提示方法、装置、设备及存储介质 | |
CN113190837A (zh) | 一种基于文件服务系统的web攻击行为检测方法及系统 | |
CN112163412A (zh) | 数据校验方法、装置、电子设备及存储介质 | |
CN111585995A (zh) | 安全风控信息传输、处理方法、装置、计算机设备及存储介质 | |
US11451543B2 (en) | Securing digital data transmission in a communication network | |
CN111832018A (zh) | 病毒检测方法、装置、计算机装置及存储介质 | |
CN110618989B (zh) | 信息处理方法、信息处理装置及相关产品 | |
CN111079798A (zh) | 图像识别安全控制与管理方法、装置、设备及存储介质 | |
CN116756750A (zh) | 医疗敏感数据采集脱敏方法 | |
CN116055157A (zh) | 一种基于区块链的环境监测数据共享方法及系统 | |
CN115189966A (zh) | 区块链隐私数据加解密服务系统 | |
CN114826724A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN106485104B (zh) | 终端安全策略的自动修复方法和装置、系统 | |
CN114218603A (zh) | 基于国产cpu和os利用区块链保存数据的方法及系统 | |
CN110266708B (zh) | 一种基于设备集群的终端安全验证系统和方法 | |
CN113849566A (zh) | 一种基于区块链的诉讼证据存证存储系统 | |
CN113762970A (zh) | 数据处理方法、装置、计算机可读存储介质及计算机设备 | |
Zhu et al. | A secure robust integrity reporting protocol of trusted computing for remote attestation under fully adaptive party corruptions | |
CN110995711A (zh) | 基于区块链的电子投票方法、设备及存储介质 | |
CN108304728A (zh) | 一种终端防御的方法、装置及计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |