CN113656813A - 基于对抗攻击的图像处理方法、系统、设备及存储介质 - Google Patents

基于对抗攻击的图像处理方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN113656813A
CN113656813A CN202110870603.7A CN202110870603A CN113656813A CN 113656813 A CN113656813 A CN 113656813A CN 202110870603 A CN202110870603 A CN 202110870603A CN 113656813 A CN113656813 A CN 113656813A
Authority
CN
China
Prior art keywords
image
type
image data
data
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110870603.7A
Other languages
English (en)
Other versions
CN113656813B (zh
Inventor
李劲
齐文
郭玮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Research Institute Tsinghua University
Original Assignee
Shenzhen Research Institute Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Research Institute Tsinghua University filed Critical Shenzhen Research Institute Tsinghua University
Priority to CN202110870603.7A priority Critical patent/CN113656813B/zh
Publication of CN113656813A publication Critical patent/CN113656813A/zh
Application granted granted Critical
Publication of CN113656813B publication Critical patent/CN113656813B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55—Clustering; Classification
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于对抗攻击的图像处理方法、系统、设备及存储介质，基于对抗攻击的图像处理方法包括：获取图像数据，并识别图像数据的图像类型和图像参数；根据图像类型和预设数据库确定与图像数据相匹配的对抗噪声，预设数据库包括：图像类型和对抗噪声的匹配信息，根据图像参数调整对抗噪声的尺寸以输出噪声数值矩阵；在图像数据上添加对应的噪声数值矩阵以输出处理图像；根据处理图像的图像类型将处理图像发送至对应的系统平台。本发明通过在图像数据上添加对抗噪声，以得到处理图像，并将处理图像发送至对应的系统平台，以防止其他方对处理图像进行图像处理，以保护图像数据被泄露或窃取，从而提高图像数据的安全性。

Description

基于对抗攻击的图像处理方法、系统、设备及存储介质
技术领域
本发明涉及图像处理的技术领域，尤其是涉及一种基于对抗攻击的图像处理方法、系统、设备及存储介质。
背景技术
随着信息时代的到来以及互联网的快速发展，人们的隐私逐渐被公开。其中，图像的泄露也成为信息泄露的关键。
其中，图像泄露后对应数据也相应被泄露，对于一些非法第三方采集图像信息进行图像处理以做其他用途，则导致图像数据的安全性受到严重的影响。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明提出一种基于对抗攻击的图像处理方法，能够提高图像数据的安全性。
本发明还提出一种基于对抗攻击的图像处理系统。
本发明还提出一种电子控制设备。
本发明还提出一种计算机可读存储介质。
第一方面，本发明的一个实施例提供了基于对抗攻击的图像处理方法，包括：
获取图像数据，并识别所述图像数据的图像类型和图像参数；
根据所述图像类型和预设数据库确定与所述图像类型相匹配的对抗噪声，所述预设数据库包括：所述图像类型和所述对抗噪声的匹配信息，根据所述图像参数调整所述对抗噪声的尺寸以输出噪声数值矩阵；
在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像；
根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台。
本发明实施例的基于对抗攻击的图像处理方法至少具有如下有益效果：通过在图像数据上添加对抗噪声，以得到处理图像，并将处理图像发送至对应的系统平台，以防止其他方对处理图像进行图像处理，以保护图像数据被泄露或窃取，从而提高图像数据的安全性。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，还包括：
获取所述图像类型对应训练图像集合和错误标签，所述训练图像集合包括多个训练图像；
将多个训练图像添加为未知量函数的预设噪声以得到多个预处理图像；
以预设分类模型对所述多个预处理图像进行分类以确定分类结果，并获取所述分类结果为错误标签时所述预设噪声的函数以得到多个对抗噪声；
根据预设优化模型对所述多个对抗噪声进行优化以确定所述图像类型对应的对抗噪声。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，所述图像类型包括：标签类型和人脸类型，所述图像参数包括：图像宽度、图像高纬度。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，所述获取图像数据，并识别所述图像数据的图像类型和图像参数，包括：
获取图像数据；
识别所述图像数据，若所述图像数据存在待标签特征以确定所述图像类型为所述标签类型，若所述图像数据不存在待标签特征，以预设人脸识别算法识别所述图像数据存在人脸特征的所述图像类型为人脸类型；
采集所述图像数据的宽度、高纬度以得到所述图像数据的所述图像宽度、所述图像高纬度。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，所述在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像，包括：
获取所述图像数据的像素点位置；
根据所述图像数据的所述像素点位置依次将所述噪声数值矩阵与所述图像数据进行叠加以输出所述处理图像。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，所述系统平台包括：互联网平台和数据标注平台，所述根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台；
将所述图像类型为所述标签类型的所述处理图像发送至所述数据标注平台；
将所述图像类型为所述人脸类型的所述处理图像发送至所述互联网平台。
根据本发明的另一些实施例的基于对抗攻击的图像处理方法，还包括：
接收所述数据标注平台根据所述处理图像进行标签反馈的第一标注图像；
提取所述第一标注图像中的数据标签；
将所述数据标签添加至对应的所述图像数据以输出第二标注图像。
第二方面，本发明的一个实施例提供了基于对抗攻击的图像处理系统，包括：
获取模块，用于获取图像数据；
识别模块，用于识别所述图像数据以确定图像类型和图像参数；
噪声生成模块，用于根据所述图像类型和预设数据库确定与所述图像数据相匹配的对抗噪声，所述预设数据库包括：所述图像类型和所述对抗噪声的匹配信息，根据所述图像参数调整所述对抗噪声的尺寸以输出噪声数值矩阵；
噪声添加模块，用于在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像；
发送模块，用于根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台。
本发明实施例的基于对抗攻击的图像处理系统至少具有如下有益效果：通过在图像数据上添加对抗噪声，以得到处理图像，并将处理图像发送至对应的系统平台，以防止其他方对处理图像进行图像处理，以保护图像数据被泄露或窃取，从而提高图像数据的安全性。
第三方面，本发明的一个实施例提供了电子控制设备，包括：
至少一个处理器，以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面所述的基于对抗攻击的图像处理方法。
第四方面，本发明的一个实施例提供了计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如第一方面所述的基于对抗攻击的图像处理方法。
本申请的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本申请而了解。本申请的目的和其他优点可通过在说明书以及附图中所特别指出的结构来实现和获得。
附图说明
图1是本发明实施例中基于对抗攻击的图像处理方法的一具体实施例流程示意图；
图2是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图3是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图4是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图5是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图6是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图7是本发明实施例中基于对抗攻击的图像处理方法的另一具体实施例流程示意图；
图8是本发明实施例中基于对抗攻击的图像处理系统的一具体实施例模块框图。
附图标记：100、获取模块；200、识别模块；300、噪声生成模块；400、噪声添加模块；500、发送模块；600、处理器；700、存储器。
具体实施方式
以下将结合实施例对本发明的构思及产生的技术效果进行清楚、完整地描述，以充分地理解本发明的目的、特征和效果。显然，所描述的实施例只是本发明的一部分实施例，而不是全部实施例，基于本发明的实施例，本领域的技术人员在不付出创造性劳动的前提下所获得的其他实施例，均属于本发明保护的范围。
在本发明的描述中，如果涉及到方位描述，例如“上”、“下”、“前”、“后”、“左”、“右”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。如果某一特征被称为“设置”、“固定”、“连接”、“安装”在另一个特征，它可以直接设置、固定、连接在另一个特征上，也可以间接地设置、固定、连接、安装在另一个特征上。
在本发明实施例的描述中，如果涉及到“若干”，其含义是一个以上，如果涉及到“多个”，其含义是两个以上，如果涉及到“大于”、“小于”、“超过”，均应理解为不包括本数，如果涉及到“以上”、“以下”、“以内”，均应理解为包括本数。如果涉及到“第一”、“第二”，应当理解为用于区分技术特征，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
随着计算机和互联网技术的发展，数据电子化越来越普遍，而且很多信息都是以图像的形式进行数据保存，对于图像的隐私保护也变得日益严重。其中，在互联网平台上发布的人脸图像容易被第三方非法平台盗取，以通过发布的人脸图像进行人脸图像识别与处理，容易导致用户的人脸信息泄露以发生信息安全问题。其中，对于一些需要进行图像标注的操作，图像标注都是由第三方平台进行标注，但是对于需要标注的图像一般都是比较机密和隐私的，若由第三方泄露出去后将图像进行图像识别和处理，则容易导致图像信息泄露。因此对于图像的对抗保护是当前隐私保护的重要措施。
基于此，本申请公开了基于对抗攻击的图像处理方法，在获取的图像数据上添加对抗噪声，以防止第三方对图像数据提取以用作其他数据收集用途。
第一方面，参照图1，本发明实施例公开了一种基于对抗攻击的图像处理方法，包括：
S100、获取图像数据，并识别图像数据的图像类型和图像参数；
S200、根据图像类型和预设数据库确定与图像类型相匹配的对抗噪声，预设数据库包括：图像类型和对抗噪声的匹配信息，根据图像参数调整对抗噪声的尺寸以输出噪声数值矩阵；
S300、在图像数据上添加对应的噪声数值矩阵以输出处理图像；
S400、根据处理图像的图像类型将处理图像发送至对应的系统平台。
通过获取图像数据，然后识别图像数据的图像类型和图像参数，以根据图像类型在预设数据库中查找与图像类型匹配的对抗噪声，并将对抗噪声根据图像参数进行对应调整以生成符合图像数据的噪声数值矩阵，则可以直接将噪声数值矩阵添加到图像数据上以输出处理图像，并将处理图像发送至系统平台，以便于输出具备对抗噪声的处理图像至系统平台，既不影响处理图像的查看，又能防止其他方对处理图像进行特征提取以用作其他用途。
在一些实施例中，图像类型包括：标签类型和人脸类型。图像参数包括：图像宽度、图像高纬度。
其中，图像类型为标签类型的图像数据主要用于提供第三方平台进行数据标签，由专业的数据标注员对图像数据进行标注，由于图像数据提供给第三方的数据标注员时会产生图像数据被窃取的风险，且窃取的图像容易被其他人员使用以导致图像数据损失。因此根据图像类型为标签类型的图像叠加对抗噪声，以防止其他方窃取了图像数据也无法再进行数据标注，从而保护用户的图像数据。对于图像类型为人脸类型的图像数据，容易携带人脸的图像数据很容易在互联网平台泄露出去，一些非法人员可以任意获取到携带人脸的图像数据，以进行一些不合理或者违法用途。因此通过识别图像数据的图像类型为人脸类型时，在图像数据上叠加对抗噪声以得到携带噪声的处理图像，且所叠加的噪声不影响处理图像的正常查看，且可以防止他人拿去做其他违法用途以减少人脸信息的泄露，提高图像数据的安全性。
由于在对图像数据添加对应的噪声数值矩阵，且添加的噪声数据需要与图像数据的尺寸相同，以便于噪声叠加。
参照图2，在一些实施例中，基于对抗攻击的图像处理方法，还包括：
S500、获取图像类型对应训练图像集合和错误标签，训练图像集合包括多个训练图像；
S600、将多个训练图像添加为未知量函数的预设噪声以得到多个预处理图像；
S700、以预设分类模型对多个预处理图像进行分类以确定分类结果，并获取分类结果为错误标签时预设噪声的函数以得到多个对抗噪声；
S800、根据预设优化模型对多个对抗噪声进行优化以确定图像类型对应的对抗噪声。
由于不同图像类型的图像数据所添加的对抗噪声不同，且预设数据库中存储图像类型和对抗噪声的匹配信息，以保证图像数据所添加对应的对抗噪声既不影响用户查看又能起到图像数据的保护作用。因此需要根据不同的图像类型获取对应的训练图像集合和错误标签，以通过多个训练图像添加未知量函数的预设噪声以得到预处理图像，然后采用预设分类模型对多个预处理图像进行分类处理以得到分类结果。因此所得到的分类结果携带未知量函数的预设噪声，因此设置分类结果为错误标签时对应得到预设噪声的函数以得到多个对抗噪声，且多个对抗噪声为多个训练图像上不同的噪声，则采用预设优化模型对多个对抗噪声进行优化处理以得到最小扰动的对抗噪声，以便于不同图像类型的图像数据所添加的对抗噪声的扰动最小，既可以满足添加对抗噪声的处理图像可以正常查看又可以防止其他图像处理模型对图像数据进行处理，以保护图像数据泄露。
其中，图像类型包括标签类型和人脸类型，因此针对图像类型为人脸类型的图像数据，需要获取人脸训练图像集合，且人脸训练图像集合中包括多个人脸训练图像，并对多个人脸训练图像添加未知量函数的预设噪声，然后得到多个携带未知量函数的对抗噪声，并采用预设优化模型对多个对抗噪声进行优化以得到人脸图像的对抗噪声，且写得到人脸类型对应的对抗噪声为数据扰动最小的噪声，对图像类型为人脸图像的图像数据添加对应的噪声，既能够防止用作其他数据收集用途，防止人脸检测模型检测人脸，又能够让人们正常查看。其中，对于图像类型为标签类型的图像也是这样进行训练、优化以得到标签类型对应的对抗噪声，则对图像类型为标签类型的图像数据添加对应的对抗噪声，既不影响第三方数据标注员正常查看，又能够使图像数据被窃取后也无法再被利用做数据标注。
具体地，其中生成图像数据对应的对抗噪声的过程可以被定义为一个优化问题：
其中，获取训练图像集合，且训练图像集合包括多个训练图像x和一个错误标签l，寻找一个最小的扰动r*，因此通过预设分类模型对训练图像进行处理，以使f:Rm→{1,...,k}将x+r*分类结果为l,即：
Figure BDA0003188760170000071
式中，r*即为噪声，x+r*为添加预设噪声的预处理图像的数据；根据公式(1)可以得到多个对抗噪声，且多个对抗噪声写道未知量函数，所以通过以下预设优化模型进行处理以得到对抗噪声：
Figure BDA0003188760170000081
式中，θ为模型的权重/参数。因此通过公式(1)和(2)进行数据处理和优化以得到最小的对抗噪声，以便于图像数据添加对抗噪声后也不影响图像数据的正常查看。
在一些实施例中，参照图3，由于图像类型包括：标签类型和人脸类型，则步骤S100包括：
S110、获取图像数据；
S120、识别图像数据，若图像数据存在待标签特征以确定图像类型为标签类型，若图像数据不存在待标签特征，以预设人脸识别算法识别图像数据存在人脸特征的图像类型为人脸类型；
S130、采集图像数据的宽度、高纬度以得到图像数据的图像宽度、图像高纬度。
图像数据主要通过检测平台发送图像数据时以拦截图像数据，然后识别图像数据的图像类型，若识别图像数据存在待标签特征以确定图像类型为标签类型，若图像数据不存在待标签特征以确定图像类型不为标签类型，因此对图像进一步识别，以通过预设人脸识别算法以识别图像数据。若图像数据存在人脸特征则判断图像数据的图像类型为人脸类型。因此通过识别图像数据以区分图像类型，以便于根据不同的图像类型确定对应的对抗噪声。识别图像数据的图像类型后，通过采集图像数据的宽度、高纬度以得到图像数据的图像宽度和图像高纬度，以便于后续根据图像宽度、图像高纬度调整对抗噪声以得到与图像数据相同宽度、高纬度的噪声数值矩阵。
在一些实施例中，通过图像类型在预设数据库查找图像类型对应的对抗噪声，然后在图像数据上添加对应的对抗噪声，但是需要根据图像参数调整对抗噪声的尺寸，主要根据图像数据的图像宽度、图像高纬度调整对抗噪声的尺寸以得到和图像数据相同图像宽度、图像高纬度的噪声数值矩阵，以便于在图像数据上叠加噪声数值矩阵，以得到具有保护效果的处理图像。
其中，参照图4，图像数据叠加噪声数值矩阵的操作具体如下：
步骤S300包括：
S310、获取图像数据的像素点位置；
S320、根据图像数据的像素点位置依次将噪声数值矩阵与图像数据进行叠加以输出处理图像。
由于噪声数值矩阵与图像数据的宽度、高纬度一致，因此根据图像数据的像素点位置直接将噪声数值矩阵依次叠加即可以得到处理图像，以得到具有噪声的处理图像，以保护图像数据在发布互联网平台或者第三方标注平台时不被窃取。
在一些实施例中，其中，系统平台包括：互联网平台和数据标注平台。由于图像数据是检测图像数据发布之前拦截，因此对图像数据添加对抗噪声后得到处理图像需要继续发布或上传至对应的系统平台，因此根据不同图像类型恢复图像数据上传至对应的系统平台。
参照图5，其中，步骤S400包括：
S410、将图像类型为标签类型的处理图像发送至数据标注平台；
S420、将图像类型为人脸类型的处理图像发送至互联网平台。
由于图像类型为标签类型的图像数据是需要发送至第三方的数据标注平台，因此完成图像数据添加对抗噪声后输出处理图像，然后将处理图像恢复发送至数据标注平台，以便于第三方的数据标注员对处理图像进行数据标注，以即使图像数据被窃取也无法再有效地被利用进行数据标注，从而起到图像数据的保护。若图像类型为人脸类型，则需要将处理后的处理图像恢复发送至互联网平台，以通过互联网平台恢复图像数据的分享，使得添加对抗噪声的处理图像无法被人脸检测模型识别，从而阻断人脸数据被窃取利用。
参照图6，在一些实施例中，基于对抗攻击的图像处理方法，还包括：
S900、接收数据标注平台根据处理图像进行标签反馈的第一标注图像；
S1000、提取第一标注图像中的数据标签；
S1100、将数据标签添加至对应的图像数据以输出第二标注图像。
当图像类型为标签类型，则将处理图像发送至数据标注平台，等待数据标注平台完成处理图像的数据标注后接收到第一标注图像，然后对第一标注图像提取对应的数据标签，并将每个第一标注图像的数据标签添加到对应的图像数据上以得到第二标注图像。由于第一标注图像为具有噪声的处理图像所标注得到的，以防止第三方平台窃取第一标注图像后直接进行图像处理，因此在接收第一标注图像后需要将数据标签添加至没有添加噪声、原始的图像数据上，以得到第二标注图像，则便于操作人员直接对第二标注图像进行图像处理，以去除噪声带来无法处理的障碍。
下面参考图1至图6以一个具体的实施例详细描述根据本发明实施例的基于对抗攻击的图像处理方法。值得理解的是，下述描述仅是示例性说明，而不是对发明的具体限制。
针对图像类型为人脸类型的图像数据，需要获取人脸训练图像集合，且人脸训练图像集合中包括多个人脸训练图像，并对多个人脸训练图像添加未知量函数的预设噪声，然后得到多个携带未知量函数的对抗噪声，并采用预设优化模型对多个对抗噪声进行优化以得到人脸图像的对抗噪声，且写得到人脸类型对应的对抗噪声为数据扰动最小的噪声。同样的，若图像类型为标签类型的图像也是这样进行训练、优化以得到标签类型对应的对抗噪声。通过检测平台发送图像数据时以拦截图像数据，然后识别图像数据的图像类型，若识别图像数据存在待标签特征以确定图像类型为标签类型，若图像数据不存在待标签特征以确定图像类型不为标签类型，因此对图像进一步识别，以通过预设人脸识别算法以识别图像数据，若图像数据存在人脸特征则判断图像数据的图像类型为人脸类型。通过图像类型在预设数据库查找图像类型对应的对抗噪声，然后根据图像数据的图像宽度、图像高纬度调整对抗噪声的尺寸以得到和图像数据相同图像宽度、图像高纬度的噪声数值矩阵，根据图像数据的像素点位置直接将噪声数值矩阵依次叠加即可以得到处理图像。图像类型为标签类型的图像数据是需要发送至第三方的数据标注平台，若图像类型为人脸类型，则需要将处理后的处理图像恢复发送至互联网平台，以通过互联网平台恢复图像数据的分享。因此，待标注图像被窃取也无法再有效地被利用数据标注，从而起到图像数据的保护；且对于人脸图像，使得添加对抗噪声的处理图像无法被人脸检测模型识别，从而阻断人脸数据被窃取利用。
第二方面，参照图7，本发明实施例公开了基于对抗攻击的图像处理系统，包括：获取模块100、识别模块200、噪声生成模块300、噪声添加模块400和发送模块500；获取模块100用于获取图像数据；识别模块200用于识别图像数据以确定图像类型和图像参数；噪声生成模块300用于根据图像类型和预设数据库确定与图像数据相匹配的对抗噪声，预设数据库包括：图像类型和对抗噪声的匹配信息，根据图像参数调整对抗噪声的尺寸以输出噪声数值矩阵；噪声添加模块400用于在图像数据上添加对应的噪声数值矩阵以输出处理图像；发送模块500用于根据处理图像的图像类型将处理图像发送至对应的系统平台。
通过获取模块100获取图像数据后，识别模块200识别图像数据的图像类型、图像参数，然后根据图像类型在预设数据库的匹配信息查找到与图像类型匹配的对抗噪声，并根据图像数据的图像参数调整对抗噪声以得到噪声数值矩阵，并将噪声数值矩阵添加到相同尺寸的图像数据上以得到处理图像，以得到携带噪声的处理图像，并将处理图像反馈至对应的系统平台，则其他方无法对处理图像进行图像处理，以防止图像数据被泄露或窃取后信息泄露，从而提高了图像数据的安全性。
其中，基于对抗攻击的图像处理系统的具体执行过程参照第一方面所述的基于对抗攻击的图像处理方法，此处不再赘述。
第三方面，本发明实施例还公开了一种电子控制设备，包括：至少一个处理器600，以及，与所述至少一个处理器600通信连接的存储器700；其中，所述存储器700存储有可被所述至少一个处理器600执行的指令，所述指令被所述至少一个处理器600执行，以使所述至少一个处理器600能够执行如第一方面所述的基于对抗攻击的图像处理方法。
第四方面，本发明实施例还公开了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如第一方面所述的基于对抗攻击的图像处理方法。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器，如中央处理器、数字信号处理器或微处理器执行的软件，或者被实施为硬件，或者被实施为集成电路，如专用集成电路。这样的软件可以分布在计算机可读介质上，计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的，术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外，本领域普通技术人员公知的是，通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据，并且可包括任何信息递送介质。
上面结合附图对本发明实施例作了详细说明，但是本发明不限于上述实施例，在所属技术领域普通技术人员所具备的知识范围内，还可以在不脱离本发明宗旨的前提下作出各种变化。此外，在不冲突的情况下，本发明的实施例及实施例中的特征可以相互组合。

Claims (10)

1.一种基于对抗攻击的图像处理方法，其特征在于，包括：
获取图像数据，并识别所述图像数据的图像类型和图像参数；
根据所述图像类型和预设数据库确定与所述图像类型相匹配的对抗噪声，所述预设数据库包括：所述图像类型和所述对抗噪声的匹配信息，根据所述图像参数调整所述对抗噪声的尺寸以输出噪声数值矩阵；
在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像；
根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台。
2.根据权利要求1所述的基于对抗攻击的图像处理方法，其特征在于，还包括：
获取所述图像类型对应训练图像集合和错误标签，所述训练图像集合包括多个训练图像；
将所述多个训练图像添加为未知量函数的预设噪声以得到多个预处理图像；
以预设分类模型对所述多个预处理图像进行分类以确定分类结果，并获取所述分类结果为错误标签时所述预设噪声的函数以得到多个对抗噪声；
根据预设优化模型对所述多个对抗噪声进行优化以确定所述图像类型对应的对抗噪声。
3.根据权利要求1所述的基于对抗攻击的图像处理方法，其特征在于，所述图像类型包括：标签类型和人脸类型，所述图像参数包括：图像宽度、图像高纬度。
4.根据权利要求3所述的基于对抗攻击的图像处理方法，其特征在于，所述获取图像数据，并识别所述图像数据的图像类型和图像参数，包括：
获取图像数据；
识别所述图像数据，若所述图像数据存在待标签特征以确定所述图像类型为所述标签类型，若所述图像数据不存在待标签特征，以预设人脸识别算法识别所述图像数据存在人脸特征的所述图像类型为人脸类型；
采集所述图像数据的宽度、高纬度以得到所述图像数据的所述图像宽度、所述图像高纬度。
5.根据权利要求1所述的基于对抗攻击的图像处理方法，其特征在于，所述在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像，包括：
获取所述图像数据的像素点位置；
根据所述图像数据的所述像素点位置依次将所述噪声数值矩阵与所述图像数据进行叠加以输出所述处理图像。
6.根据权利要求4所述的基于对抗攻击的图像处理方法，其特征在于，所述系统平台包括：互联网平台和数据标注平台，所述根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台；
将所述图像类型为所述标签类型的所述处理图像发送至所述数据标注平台；
将所述图像类型为所述人脸类型的所述处理图像发送至所述互联网平台。
7.根据权利要求6所述的基于对抗攻击的图像处理方法，其特征在于，还包括：
接收所述数据标注平台根据所述处理图像进行标签反馈的第一标注图像；
提取所述第一标注图像中的数据标签；
将所述数据标签添加至对应的所述图像数据以输出第二标注图像。
8.一种基于对抗攻击的图像处理系统，其特征在于，包括：
获取模块，用于获取图像数据；
识别模块，用于识别所述图像数据以确定图像类型和图像参数；
噪声生成模块，用于根据所述图像类型和预设数据库确定与所述图像类型相匹配的对抗噪声，所述预设数据库包括：所述图像类型和所述对抗噪声的匹配信息，根据所述图像参数调整所述对抗噪声的尺寸以输出噪声数值矩阵；
噪声添加模块，用于在所述图像数据上添加对应的所述噪声数值矩阵以输出处理图像；
发送模块，用于根据所述处理图像的所述图像类型将所述处理图像发送至对应的系统平台。
9.一种电子控制设备，其特征在于，包括：
至少一个处理器，以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7任一项所述的基于对抗攻击的图像处理方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如权利要求1至7任一项所述的基于对抗攻击的图像处理方法。
CN202110870603.7A 2021-07-30 2021-07-30 基于对抗攻击的图像处理方法、系统、设备及存储介质 Active CN113656813B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110870603.7A CN113656813B (zh) 2021-07-30 2021-07-30 基于对抗攻击的图像处理方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110870603.7A CN113656813B (zh) 2021-07-30 2021-07-30 基于对抗攻击的图像处理方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113656813A true CN113656813A (zh) 2021-11-16
CN113656813B CN113656813B (zh) 2023-05-23

Family

ID=78490142

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110870603.7A Active CN113656813B (zh) 2021-07-30 2021-07-30 基于对抗攻击的图像处理方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113656813B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190354857A1 (en) * 2018-05-17 2019-11-21 Raytheon Company Machine learning using informed pseudolabels
WO2020135038A1 (zh) * 2018-12-29 2020-07-02 上海掌门科技有限公司 用于处理图像的方法、电子设备和计算机可读介质
CN111753275A (zh) * 2020-06-04 2020-10-09 支付宝(杭州)信息技术有限公司 基于图像的用户隐私保护方法、装置、设备和存储介质
CN111932646A (zh) * 2020-07-16 2020-11-13 电子科技大学 一种用于对抗攻击的图像处理方法
CN112132106A (zh) * 2020-10-09 2020-12-25 腾讯科技（北京）有限公司 基于人工智能的图像增广处理方法、装置、设备及存储介质
CN112149608A (zh) * 2020-10-09 2020-12-29 腾讯科技（深圳）有限公司 图像识别方法、装置和存储介质
AU2020103207A4 (en) * 2020-11-03 2021-01-14 Badgujar, Ravindra Daga MR A novel method of introducing basic elementary disturbances for testing machine learning models
WO2021056746A1 (zh) * 2019-09-23 2021-04-01 平安科技（深圳）有限公司 图像模型检测方法、装置、电子设备及存储介质
CN112949678A (zh) * 2021-01-14 2021-06-11 西安交通大学 深度学习模型对抗样本生成方法、系统、设备及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190354857A1 (en) * 2018-05-17 2019-11-21 Raytheon Company Machine learning using informed pseudolabels
WO2020135038A1 (zh) * 2018-12-29 2020-07-02 上海掌门科技有限公司 用于处理图像的方法、电子设备和计算机可读介质
WO2021056746A1 (zh) * 2019-09-23 2021-04-01 平安科技（深圳）有限公司 图像模型检测方法、装置、电子设备及存储介质
CN111753275A (zh) * 2020-06-04 2020-10-09 支付宝(杭州)信息技术有限公司 基于图像的用户隐私保护方法、装置、设备和存储介质
CN111932646A (zh) * 2020-07-16 2020-11-13 电子科技大学 一种用于对抗攻击的图像处理方法
CN112132106A (zh) * 2020-10-09 2020-12-25 腾讯科技（北京）有限公司 基于人工智能的图像增广处理方法、装置、设备及存储介质
CN112149608A (zh) * 2020-10-09 2020-12-29 腾讯科技（深圳）有限公司 图像识别方法、装置和存储介质
AU2020103207A4 (en) * 2020-11-03 2021-01-14 Badgujar, Ravindra Daga MR A novel method of introducing basic elementary disturbances for testing machine learning models
CN112949678A (zh) * 2021-01-14 2021-06-11 西安交通大学 深度学习模型对抗样本生成方法、系统、设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王树伟;周刚;巨星海;陈靖元;: "基于生成对抗网络的恶意软件对抗样本生成综述" *

Also Published As

Publication number Publication date
CN113656813B (zh) 2023-05-23

Similar Documents

Publication Publication Date Title
KR102324706B1 (ko) 얼굴인식 잠금해제 방법 및 장치, 기기, 매체
CN108073821B (zh) 数据安全处理方法及装置
CN108304801B (zh) 一种防欺骗的人脸识别方法、存储介质及人脸识别装置
CN112085643B (zh) 图像脱敏处理方法、验证方法及装置、设备及介质
US20220261506A1 (en) Methods for determining data integrity using overlapping regions
CN110473135B (zh) 图像处理方法、系统、可读存储介质及智能设备
CN116740794B (zh) 人脸伪造图像鉴别方法、系统、设备及存储介质
CN108090364B (zh) 一种数据泄漏源的定位方法及系统
CN113656813B (zh) 基于对抗攻击的图像处理方法、系统、设备及存储介质
CN110084142B (zh) 一种用于人脸识别的年龄隐私保护方法及系统
US20220027342A1 (en) Methods for providing and checking data provenance
CN110717770A (zh) 车辆零部件的防伪检测方法、装置、设备和存储介质
CN114417397A (zh) 行为画像的构建方法、装置、存储介质及计算机设备
CN113033530B (zh) 证件翻拍检测方法、装置、电子设备及可读存储介质
EP3933676B1 (en) A document identification method and system
CN111556339B (zh) 一种基于敏感信息度量的视频信息隐私保护系统及方法
CN113537058B (zh) 一种陌生人物关联关系的判断方法及安防控制系统
CN113705806B (zh) 用于数字水印的网络训练、编码和解码方法、装置及介质
CN113486394B (zh) 基于人脸区块链的隐私保护及防篡改方法和系统
CN113591111B (zh) 音频数据处理方法及装置、计算机可读存储介质、终端
CN108650099A (zh) 图片授权认证、打开查阅的方法、装置及存储介质
CN116383814B (zh) 一种神经网络模型后门检测方法和系统
CN116935479B (zh) 一种人脸识别方法、装置及电子设备和存储介质
CN113923012B (zh) 一种客户端设备的指纹生成方法和防篡改方法
Steinebach et al. Checking the integrity of images with signed thumbnail images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant