CN111177757A - 一种图片中隐私信息保护的处理方法及装置 - Google Patents

Abstract

本说明书提供一种图片中隐私信息保护的处理方法及装置，所述方法包括通过对抗样本生成方法生成对抗噪声，定位出待处理敏感图片中敏感信息所在的敏感位置后，在待处理敏感图片的敏感信息所在的敏感位置处加入对抗噪声，获得合成后的图片。加入对抗噪声后的图片使得图片识别算法或模型(如：OCR算法)无法识别出处理后的待处理敏感图片中的敏感信息，保护了用户的隐私信息，但是不影响图片本身的视觉质量，即不影响人的视觉体验。

Description

一种图片中隐私信息保护的处理方法及装置

技术领域

本说明书属于计算机技术领域，尤其涉及一种图片中隐私信息保护的处理方法及装置。

背景技术

随着计算机和互联网技术的发展，数据电子化越来越普遍，很多信息都需要转换成电子图片进行保存，如：身份证扫描件、发票照片、病历扫描件等，方便查看，也使得隐私数据的保护越来越重要，特别是针对敏感的图片数据(如身份证扫描件、发票照片、病历扫描件等)。不法用户通常会使用OCR(Optical Character Recognition，光学字符识别)算法自动化获得图片中敏感的文本信息，得到用户的敏感信息。

发明内容

本说明书实施例的目的在于提供一种图片中隐私信息保护的处理方法及装置，降低了不法用户敏感信息识别的能力。

一方面，本说明书提供了一种图片中隐私信息保护的处理方法，包括：

获取待处理敏感图片；

定位出所述待处理敏感图片中的敏感信息的敏感位置；

利用对抗样本生成法生成对抗噪声；

将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

另一方面，本说明书提供了一种图片中隐私信息保护的处理装置，包括：

图片获取模块，用于获取待处理敏感图片；

敏感位置定位模块，用于定位出所述待处理敏感图片中的敏感信息的敏感位置；

噪声生成模块，用于利用对抗样本生成法生成对抗噪声；

噪声合成模块，用于将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

还一方面，本说明书提供了一种图片中隐私信息保护的处理设备，包括：至少一个处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现上述图片中隐私信息保护的处理方法。

本说明书提供的图片中隐私信息保护的处理方法、装置、处理设备，通过对抗样本生成方法生成对抗噪声，定位出待处理敏感图片中敏感信息所在的敏感位置后，在待处理敏感图片的敏感信息所在的敏感位置处加入对抗噪声，获得合成后的图片，使得图片识别算法或模型(如：OCR算法)无法识别出处理后的待处理敏感图片中的敏感信息，但是不影响图片本身的视觉质量，即不影响人的视觉体验。正常业务使用时不需要做其他的处理如解密等，满足了正常业务的使用，同时降低了不法用户识别敏感信息的自动化识别能力，确保了用户的隐私安全。

附图说明

为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本说明书一个实施例中图片中隐私信息保护的处理方法的流程示意图；

图2是本说明书一个实施例中身份证扫描件中敏感位置的示意图；

图3是本说明书又一个实施例中图片中隐私信息保护的处理方法的结构示意图；

图4是本说明书提供的图片中隐私信息保护的处理装置一个实施例的模块结构示意图；

图5是本说明书一个实施例中图片中隐私信息保护的处理服务器的硬件结构框图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

电子化办公越来越普及，许多敏感信息也需要在计算机上存储，一些数据会以图片的形式进行保存或进行交互，如：身份证扫描件、发票照片、病例扫描件等，这些图片上会有些个人的敏感信息如：姓名、身份证号码、出生日期、照片、公司名称、公司地址、病情等等。对于图片类的敏感数据的安全保护，是一项重要的工作。一些不法用户可能会利用计算机技术，获取到带有敏感信息的图片，获取到用户的敏感信息，用于不法用途，给用户带来不必要的损失。例如：对于带有图片类的敏感数据，不法用户通常会使用OCR(OpticalCharacter Recognition，光学字符识别)技术，来获得敏感的文本信息。OCR可以表示一种电子设备(例如扫描仪或数码相机)检查纸上打印的字符，通过检测暗、亮的模式确定其形状，然后用字符识别方法将形状翻译成计算机文字的过程。即针对印刷体字符，采用光学的方式将纸质文档中的文字转换成为黑白点阵的图像文件，并通过识别软件将图像中的文字转换成文本格式，供文字处理软件进一步编辑加工的技术。

本说明书实施例提供一种图片中隐私信息保护的处理方法，可以将带有敏感信息的图片中加入对抗噪声，降低OCR算法的识别能力，使得OCR算法无法准确识别或者错误识别出图片中的敏感信息，达到不法用户无法自动化获利的目的，为数据泄漏排查争取宝贵的时间，提升了不法用户变现的成本。

本说明书中图片中隐私信息保护的处理方法可以应用在客户端或服务器中，客户端可以是智能手机、平板电脑、智能可穿戴设备(智能手表等)、智能车载设备等电子设备。

图1是本说明书一个实施例中图片中隐私信息保护的处理方法的流程示意图，如图1所示，本说明书一个实施例中提供的图片中隐私信息保护的处理方法可以包括：

步骤102、获取待处理敏感图片。

待处理敏感图片可以表示带有敏感信息(敏感信息可以包括个人或企业的隐私信息等)的图片，可以是照片或电子扫描件，如：上述实施例记载的身份证扫描件、发票照片、病例扫描件等。可以从存储敏感图片的数据库中获取，或者在用户上传时直接获取，本说明书实施例不作具体限定。通常情况下，带有敏感信息的待处理敏感图片会进行加密保存在数据库中，用户使用时，需要进行解密。若待处理敏感图片从数据库中获取，则获取到的待处理敏感图片可能会被加密，本说明书一些实施例中，若获取到的待处理敏感图片是被加密的图片，则先对加密图片进行解密，获得原始的敏感图片，将解密后的原始图片作为本书明书实施例中的待处理敏感图片。

步骤104、定位出所述待处理敏感图片中的敏感信息的敏感位置。

敏感位置可以表示图片中敏感信息所在的位置，通常情况下，图片中带有敏感信息的位置比较固定。图2是本说明书一个实施例中身份证扫描件中敏感位置的示意图，如图2所示，身份证扫描件中的敏感信息一般是人物照片、身份证号码、家庭住址，人物照片一般位于扫描件的右侧偏上，身份证号码位于扫描件的底部，家庭住址则位于扫描件的中间偏左。病例扫描件以及发票照片等敏感图片中敏感信息的位置一般也比较固定，可以根据待处理敏感图片的类型，定位出待处理敏感图片中的敏感信息的敏感位置。如图2所示，若待处理敏感图片是身份证扫描件，则可以将图片的右侧偏上、底部偏右、中间偏左区域作为敏感位置。根据需要，身份证扫描件上的姓名和出生日期也可以作为敏感信息，定位出姓名和出生日期的位置。其中敏感位置的区域的面积大小，可以根据实物中敏感信息的大小进行设置，并可以根据图片尺寸大小进行调整，若图片尺寸比较大，则可以在图片中指定方位比较大的区域作为敏感位置，若图片尺寸比较小，则可以适当的缩小敏感位置的区域，具体可以根据实际需要进行设置。

本说明书一些实施例中，所述定位出所述待处理敏感图片中的敏感信息的敏感位置，可以包括：

预先利用历史敏感图片和所述历史敏感图片中标记的敏感位置，训练构建敏感位置定位模型；

利用所述敏感位置定位模型定位出所述待处理敏感图片中的敏感信息的敏感位置。

在具体的实施过程中，可以先在多张历史敏感图片中标记出敏感信息所在的敏感位置，利用标记后的历史敏感图片进行模型训练，将标记好的历史敏感图片作为输入，标记的敏感位置作为训练标签，构建出敏感位置定位模型。获取到待处理敏感图片后，可以将待处理敏感图片输入到构建好的敏感位置定位模型，利用敏感位置定位模型自动定位出待处理敏感图片中的敏感信息的敏感位置。其中，敏感位置定位模型可以使用Faster RCNN模型，Faster RCNN模型可以理解为一种基于深度学习的目标检测模型。

本说明书实施例，预先通过在历史敏感图片标记敏感位置，进行模型训练，通过模型自动的识别出待处理敏感图片中的敏感信息的敏感位置，实现了敏感位置的自动化快速识别，提高了图片的处理效率。

步骤106、利用对抗样本生成法生成对抗噪声。

对抗样本可以理解为在数据集中通过故意添加细微的干扰所形成的输入样本，导致模型以高置信度给出一个错误的输出。利用对抗样本生成法可以针对模型生成具有针对性的对抗噪声，如：生成针对OCR算法的对抗噪声。对抗噪声也可以理解为一种对抗样本，可以用来干扰OCR算法等图片敏感信息识别算法的识别结果。其中，对抗样本生成方法可以根据实际需要进行选择，如：FGSM(Fast Gradient Sign Method)法，FGSM可以理解为一种通过在梯度方向上进行添加增量来诱导网络对生成的图片进行误分类的方法。

本说明书一些实施例中，可以采用黑盒攻击的对抗样本生成法，生成所述对抗噪声。黑盒攻击的对抗样本生成法可以理解为不知道具体使用的模型(如：OCR算法)，生成针对各种算法都有效的对抗样本的方法。本说明书实施例采用黑盒攻击的对抗样本生成法，可以生成适用于各种算法的对抗样本即对抗噪声，为后续待处理敏感图片的处理提供了数据基础。

本说明书一些实施例中，黑盒攻击的对抗样本生成法可以采用：边界攻击法(即boundaryattack可以理解为一种先加大规模扰动，再进行边界探索的方法)，或一次像素攻击法(即one pixel attack可以理解为一种通过改变一个图像像素值实现攻击的方法)。采用边界攻击法或一次像素攻击法可以生成针对不同算法模型的对抗噪声，降低模型的识别能力。

其中，边界攻击法的原理可以理解为从一个已经是对抗性的点初始化，然后沿着边界执行随机漫步在对抗性区域(使得模型错误分类)和非对抗性区域(使得模型正确分类)之间。其具体的算法过程可以参考如下：

数据：原始图像o，对抗性判据c(.)，模型d(.)

结果：对抗的例子o^～的距离d(o,o^～)＝||o-o^～||最小化

初始化：k＝0，o^～0～μ(0,1)s.t.o^～0是对抗性的

一次像素攻击法原理可以理解为：假设一个输入图像可以用一个向量表示，其中每个标量元素表示一个像素。设f为接收n维输入的目标图像分类器，x＝(x₁，…，x_n)为正确分类为t类的原始自然图像，因此x属于t类的概率为f_t(x)。向量e(x)＝(e₁，…，e_n)是根据目标类adv的x和最大修正L的限制，对目标类adv进行的加性对抗性扰动。注意，L总是由向量e(x)的长度来度量的。在目标攻击情况下，对手的目标是找到针对以下问题的优化解e(x)：

subject to||e(x)||≤L

步骤108、将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

获得对抗噪声后，可以将对抗噪声与待处理敏感图片一起合成，获得新的图片。具体可以将对抗噪声合成到定位出的待处理敏感图片中的敏感位置处的图片信息中，以干扰模型或算法对带有敏感信息的待处理敏感图片的敏感信息的识别结果。如：可以根据对抗噪声改变敏感位置处图片的像素值，通常情况下对抗噪声是非常细微的，一般只改变少部分像素的值。将合成后的图片进行存储，以供用户使用，具体可以存储到指定的数据库或其他数据存储设备中。

本说明书实施例提供的图片中隐私信息保护的处理方法，通过对抗样本生成方法生成对抗噪声，在待处理敏感图片的敏感信息所在的敏感位置处加入对抗噪声，使得图片识别算法或模型如：OCR算法无法识别出处理后的待处理敏感图片中的敏感信息，但是不影响图片本身的视觉质量，即不影响人的视觉体验。正常业务使用时不需要做其他的处理如解密等，满足了正常业务的使用，同时降低了不法用户识别敏感信息的自动化识别能力，提高了图片中用户隐私信息的安全性。

在上述实施例的基础上，本说明书一些实施例中，所述方法还可以包括：

获取合成后的图片的清晰度；

若所述清晰度小于预设阈值，则调整所述对抗噪声，将调整后的对抗噪声合成到所述待处理敏感图片的敏感位置中，获得处理后敏感图片，直至所述处理后敏感图片的清晰度大于或等于预设阈值；

将获得的清晰度大于或等于预设阈值的敏感图片进行存储。

在具体的实施过程中，可以获取加入噪声合成后的图片的清晰度，清晰度可以通过图片的分辨率、码率、像素等来确定。若合成后的图片的清晰度小于预设阈值，则可以认为合成后的图片可能会影响视觉质量，可以调整对抗噪声，如：可以更换对抗样本生成法生成新的对抗噪声，或者对对抗噪声的参数进行微调，再将重新获得的对抗噪声合成到待处理敏感图片的敏感位置中，获得处理后敏感图片。再获取调整后的处理后敏感图片的清晰度，判断清晰度是否大于预设阈值，若不大于，则继续调整对抗噪声，合成新的敏感图片，直至处理后的敏感图片的清晰度大于等于预设阈值。将最终获得的清晰度大于或等于预设阈值的敏感图片进行存储，其中预设阈值的大小可以根据实际需要进行设置，本说明书实施例不作具体限定。

图片的清洗度也可以人工核验，如：由工作人员观察合成对抗噪声后的敏感图片是否清晰，是否影响视觉质量，即合成后的敏感图片中的信息是否清楚，若不影响视觉质量，则存储，若影响视觉质量，则调整对抗噪声，重新合成新的敏感图片。

本说明书实施例，根据合成对抗噪声后的图片的清晰度是否满足要求，在不满足要求的情况下，通过调整对抗噪声，合成新的图片，确保加入对抗噪声后的敏感图片不影响视觉质量，不影响正常业务使用敏感图片，同时保护了图片中用户的隐私安全。

图3是本说明书又一个实施例中图片中隐私信息保护的处理方法的结构示意图，下面结合图3具体介绍本说明书实施例中图片中隐私信息保护的处理方法的过程：

1)将原始加密的敏感数据进行解密，获得原始图片即上述实施例中的待处理敏感图片。

2)在原始图片中定位敏感信息的敏感位置，即标注需要加噪声的图片位置。

3)利用对抗样本生成器针对性的生成对抗噪声，该对抗噪声目的是对敏感信息进行加噪。本说明书实施例采用黑盒攻击的对抗样本生成方式，生成对抗噪声，具体的生成算法有boundary attack和one pixel attack等。

4)将原始图片与对抗噪声一起合成新的图片。需要注意的是，加噪声的目的是为了使得OCR算法不可识别，但是人眼无法区分，所以这一步骤不能对图片本身的视觉质量带来太大的影响。

5)将加噪后的图片存储在新的数据库中，方便业务系统调用。这样，即使不法用户盗取了这些加噪的敏感图片信息，仍然无法自动化准确识别其中的敏感信息，大大提升了其获利的成本。

此外，也可以直接在原始图片即待处理敏感图片中加高斯噪声或椒盐噪声的方法实现影响OCR等图片识别算法的识别能力，或者通过对敏感信息的部分图像进行形变进行对抗，但是这些方法可能会影响正常用户的视觉识别，影响正常业务的使用。

本说明书实施例通过采用加对抗样本噪声的方法来进行敏感图片信息的保护，避免了加密方法导致正常业务不可读并且有大量解密开销的问题，同时相比与行为和权限异常检测的方法，可以防范于未然应对未知风险。本说明书实施例提供的图片中隐私信息保护的处理方法，可以部署在数据安全敏感数据保护系统以及用户行为分析系统中，降低OCR算法的识别能力，进一步降低不法用户获利的自动化识别能力，同时，满足正常业务的使用(不损失人类的视觉体验)。

本说明书中上述方法的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参考即可，每个实施例重点说明的都是与其他实施例的不同之处。相关之处参考方法实施例的部分说明即可。

基于上述所述的图片中隐私信息保护的处理方法，本说明书一个或多个实施例还提供一种图片中隐私信息保护的处理装置。所述的装置可以包括使用了本说明书实施例所述方法的系统(包括分布式系统)、软件(应用)、模块、组件、服务器、客户端等并结合必要的实施硬件的装置。基于同一创新构思，本说明书实施例提供的一个或多个实施例中的装置如下面的实施例所述。由于装置解决问题的实现方案与方法相似，因此本说明书实施例具体的装置的实施可以参考前述方法的实施，重复之处不再赘述。以下所使用的，术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

具体地，图4是本说明书提供的图片中隐私信息保护的处理装置一个实施例的模块结构示意图，如图4所示，本说明书中提供的图片中隐私信息保护的处理装置可以包括：图片获取模块41、敏感位置定位模块42、噪声生成模块43、噪声合成模块44，其中：

图片获取模块41，可以用于获取待处理敏感图片；

敏感位置定位模块42，可以用于定位出所述待处理敏感图片中的敏感信息的敏感位置；

噪声生成模块43，可以用于利用对抗样本生成法生成对抗噪声；

噪声合成模块44，可以用于将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

本说明书实施例提供的图片中隐私信息保护的处理装置，通过对抗样本生成方法生成对抗噪声，在待处理敏感图片的敏感信息所在的敏感位置处加入对抗噪声，使得图片识别算法或模型如：OCR算法无法识别出处理后的待处理敏感图片中的敏感信息，但是不影响图片本身的视觉质量，即不影响人的视觉体验。正常业务使用时不需要做其他的处理如解密等，满足了正常业务的使用，同时降低了不法用户识别敏感信息的自动化识别能力。

在上述实施例的基础上，本说明书一些实施例中，所述敏感位置定位模块中包括：

模型构建单元，用于预先利用历史敏感图片和所述历史敏感图片中标记的敏感位置，训练构建敏感位置定位模型；

位置定位单元，用于利用所述敏感位置定位模型定位出所述待处理敏感图片中的敏感信息的敏感位置。

本说明书实施例，预先通过在历史敏感图片标记敏感位置，进行模型训练，通过模型自动的识别出待处理敏感图片中的敏感信息的敏感位置，实现了敏感位置的自动化快速识别，提高了图片的处理效率。

在上述实施例的基础上，本说明书一些实施例中，所述噪声生成模块具体用于：

采用黑盒攻击的对抗样本生成法，生成所述对抗噪声。

本说明书实施例，采用黑盒攻击的对抗样本生成法，可以生成适用于各种算法的对抗样本即对抗噪声，为后续待处理敏感图片的处理提供了数据基础。

在上述实施例的基础上，本说明书一些实施例中，所述噪声生成模块中的黑盒攻击的对抗样本生成法包括：边界攻击法或一次像素攻击法。

本说明书实施例，采用边界攻击法或一次像素攻击法可以生成针对不同算法模型的对抗噪声，降低模型的识别能力。

在上述实施例的基础上，本说明书一些实施例中，所述装置还包括图像调整模块，用于：

获取合成后的图片的清晰度；

若所述清晰度小于预设阈值，则调整所述对抗噪声，将调整后的对抗噪声合成到所述待处理敏感图片的敏感位置中，获得处理后敏感图片，直至所述处理后敏感图片的清晰度大于或等于所述预设阈值；

将获得的清晰度大于或等于所述预设阈值的敏感图片进行存储。

本说明书实施例，根据合成对抗噪声后的图片的清晰度是否满足要求，在不满足要求的情况下，通过调整对抗噪声，合成新的图片，确保加入对抗噪声后的敏感图片不影响视觉质量，不影响正常业务使用敏感图片。

需要说明的，上述所述的装置根据方法实施例的描述还可以包括其他的实施方式。具体的实现方式可以参照上述对应的方法实施例的描述，在此不作一一赘述。

本说明书实施例还提供一种图片中隐私信息保护的处理设备，包括：至少一个处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现上述实施例中图片中隐私信息保护的处理方法，如：

获取待处理敏感图片；

定位出所述待处理敏感图片中的敏感信息的敏感位置；

利用对抗样本生成法生成对抗噪声；

将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

需要说明的，上述所述的处理设备，根据方法实施例的描述还可以包括其他的实施方式。具体的实现方式可以参照上述对应的方法实施例的描述，在此不作一一赘述。

本说明书提供的图片中隐私信息保护的处理装置或处理设备，也可以应用在多种数据分析处理系统中。所述装置或处理设备可以包括上述实施例中任意一个图片中隐私信息保护的处理装置。所述装置或处理设备可以为单独的服务器，也可以包括使用了本说明书的一个或多个所述方法或一个或多个实施例装置的服务器集群、系统(包括分布式系统)、软件(应用)、实际操作装置、逻辑门电路装置、量子计算机等并结合必要的实施硬件的终端装置。所述核对差异数据的检测系统可以包括至少一个处理器以及存储计算机可执行指令的存储器，所述处理器执行所述指令时实现上述任意一个或者多个实施例中所述方法的步骤。

本说明书实施例所提供的方法实施例可以在移动终端、计算机终端、服务器或者类似的运算装置中执行。以运行在服务器上为例，图5是本说明书一个实施例中图片中隐私信息保护的处理服务器的硬件结构框图，该服务器可以是上述实施例中的图片中隐私信息保护的处理装置、图片中隐私信息保护的处理设备。如图5所示，服务器10可以包括一个或多个(图中仅示出一个)处理器100(处理器100可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器200、以及用于通信功能的传输模块300。本邻域普通技术人员可以理解，图5所示的结构仅为示意，其并不对上述电子装置的结构造成限定。例如，服务器10还可包括比图5中所示更多或者更少的组件，例如还可以包括其他的处理硬件，如数据库或多级缓存、GPU，或者具有与图5所示不同的配置。

存储器200可用于存储应用软件的软件程序以及模块，如本说明书实施例中的图片中隐私信息保护的处理方法对应的程序指令/模块，处理器100通过运行存储在存储器200内的软件程序以及模块，从而执行各种功能应用以及资源数据更新。存储器200可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器200可进一步包括相对于处理器100远程设置的存储器，这些远程存储器可以通过网络连接至计算机终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输模块300用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端的通信供应商提供的无线网络。在一个实例中，传输模块300包括一个网络适配器(Network Interface Controller，NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输模块300可以为射频(Radio Frequency，RF)模块，其用于通过无线方式与互联网进行通讯。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

本说明书提供的上述实施例所述的方法或装置可以通过计算机程序实现业务逻辑并记录在存储介质上，所述的存储介质可以计算机读取并执行，实现本说明书实施例所描述方案的效果。

所述存储介质可以包括用于存储信息的物理装置，通常是将信息数字化后再以利用电、磁或者光学等方式的媒体加以存储。所述存储介质有可以包括：利用电能方式存储信息的装置如，各式存储器，如RAM、ROM等；利用磁能方式存储信息的装置如，硬盘、软盘、磁带、磁芯存储器、磁泡存储器、U盘；利用光学方式存储信息的装置如，CD或DVD。当然，还有其他方式的可读存储介质，例如量子存储器、石墨烯存储器等等。

本说明书实施例提供的上述图片中隐私信息保护的处理方法或装置可以在计算机中由处理器执行相应的程序指令来实现，如使用windows操作系统的c++语言在PC端实现、linux系统实现，或其他例如使用android、iOS系统程序设计语言在智能终端实现，以及基于量子计算机的处理逻辑实现等。

需要说明的是说明书上述所述的装置、计算机存储介质、系统根据相关方法实施例的描述还可以包括其他的实施方式，具体的实现方式可以参照对应方法实施例的描述，在此不作一一赘述。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参考即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于硬件+程序类实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参考方法实施例的部分说明即可。

本说明书实施例并不局限于必须是符合行业通信标准、标准计算机资源数据更新和数据存储规则或本说明书一个或多个实施例所描述的情况。某些行业标准或者使用自定义方式或实施例描述的实施基础上略加修改后的实施方案也可以实现上述实施例相同、等同或相近、或变形后可预料的实施效果。应用这些修改或变形后的数据获取、存储、判断、处理方式等获取的实施例，仍然可以属于本说明书实施例的可选实施方案范围之内。

在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、车载人机交互设备、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

虽然本说明书一个或多个实施例提供了如实施例或流程图所述的方法操作步骤，但基于常规或者无创造性的手段可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式，不代表唯一的执行顺序。在实际中的装置或终端产品执行时，可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境，甚至为分布式资源数据更新环境)。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、产品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、产品或者设备所固有的要素。在没有更多限制的情况下，并不排除在包括所述要素的过程、方法、产品或者设备中还存在另外的相同或等同要素。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。

为了描述的方便，描述以上装置时以功能分为各种模块分别描述。当然，在实施本说明书一个或多个时可以把各模块的功能在同一个或多个软件和/或硬件中实现，也可以将实现同一功能的模块由多个子模块或子单元的组合实现等。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

本发明是参照根据本发明实施例的方法、装置(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程资源数据更新设备的处理器以产生一个机器，使得通过计算机或其他可编程资源数据更新设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程资源数据更新设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程资源数据更新设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储、石墨烯存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

本领域技术人员应明白，本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本本说明书一个或多个实施例，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参考即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参考方法实施例的部分说明即可。在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本说明书的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

以上所述仅为本说明书一个或多个实施例的实施例而已，并不用于限制本说明书一个或多个实施例。对于本领域技术人员来说，本说明书一个或多个实施例可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在权利要求范围之内。

Claims (11)

1.一种图片中隐私信息保护的处理方法，包括：

获取待处理敏感图片；

定位出所述待处理敏感图片中的敏感信息的敏感位置；

利用对抗样本生成法生成对抗噪声；

将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

2.如权利要求1所述的方法，所述定位出所述待处理敏感图片中的敏感信息的敏感位置，包括：

预先利用历史敏感图片和所述历史敏感图片中标记的敏感位置，训练构建敏感位置定位模型；

利用所述敏感位置定位模型定位出所述待处理敏感图片中的敏感信息的敏感位置。

3.如权利要求1所述的方法，所述利用对抗样本生成法生成对抗噪声，包括：

采用黑盒攻击的对抗样本生成法，生成所述对抗噪声。

4.如权利要求3所述的方法，所述黑盒攻击的对抗样本生成法包括：边界攻击法或一次像素攻击法。

5.如权利要求1所述的方法，所述方法还包括：

获取合成后的图片的清晰度；

若所述清晰度小于预设阈值，则调整所述对抗噪声，将调整后的对抗噪声合成到所述待处理敏感图片的敏感位置中，获得处理后敏感图片，直至所述处理后敏感图片的清晰度大于或等于所述预设阈值；

将获得的清晰度大于或等于所述预设阈值的敏感图片进行存储。

6.一种图片中隐私信息保护的处理装置，包括：

图片获取模块，用于获取待处理敏感图片；

敏感位置定位模块，用于定位出所述待处理敏感图片中的敏感信息的敏感位置；

噪声生成模块，用于利用对抗样本生成法生成对抗噪声；

噪声合成模块，用于将生成的所述对抗噪声合成到所述待处理敏感图片的敏感位置处的图片中，并将合成后的图片存储。

7.如权利要求6所述的装置，所述敏感位置定位模块中包括：

模型构建单元，用于预先利用历史敏感图片和所述历史敏感图片中标记的敏感位置，训练构建敏感位置定位模型；

位置定位单元，用于利用所述敏感位置定位模型定位出所述待处理敏感图片中的敏感信息的敏感位置。

8.如权利要求6所述的装置，所述噪声生成模块具体用于：

采用黑盒攻击的对抗样本生成法，生成所述对抗噪声。

9.如权利要求8所述的装置，所述噪声生成模块中的黑盒攻击的对抗样本生成法包括：边界攻击法或一次像素攻击法。

10.如权利要求6所述的装置，所述装置还包括图像调整模块，用于：

获取合成后的图片的清晰度；

若所述清晰度小于预设阈值，则调整所述对抗噪声，将调整后的对抗噪声合成到所述待处理敏感图片的敏感位置中，获得处理后敏感图片，直至所述处理后敏感图片的清晰度大于或等于所述预设阈值；

将获得的清晰度大于或等于所述预设阈值的敏感图片进行存储。

11.一种图片中隐私信息保护的处理设备，包括：至少一个处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现权利要求1-5任一项所述的方法。

Images