CN110069947B - 图片隐私的预测方法及装置、存储介质及电子设备 - Google Patents

图片隐私的预测方法及装置、存储介质及电子设备 Download PDF

Info

Publication number
CN110069947B
CN110069947B CN201910323986.9A CN201910323986A CN110069947B CN 110069947 B CN110069947 B CN 110069947B CN 201910323986 A CN201910323986 A CN 201910323986A CN 110069947 B CN110069947 B CN 110069947B
Authority
CN
China
Prior art keywords
privacy
picture
tag
probability values
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910323986.9A
Other languages
English (en)
Other versions
CN110069947A (zh
Inventor
黄兴森
张伟哲
张宾
王鸿鹏
周颖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peng Cheng Laboratory
Original Assignee
Peng Cheng Laboratory
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peng Cheng Laboratory filed Critical Peng Cheng Laboratory
Priority to CN201910323986.9A priority Critical patent/CN110069947B/zh
Publication of CN110069947A publication Critical patent/CN110069947A/zh
Application granted granted Critical
Publication of CN110069947B publication Critical patent/CN110069947B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioethics (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种图片隐私的预测方法及装置、存储介质及电子设备。该方法通过将已获取的待测试图片输入预先构建的图片隐私预测模型中，得到待测试图片分别与各个隐私标签对应的隐私标签概率值；选取符合预设条件的多个隐私标签概率值；将已选取的各个隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；确定目标隐私标签集合中的各个隐私标签分别对应的用户隐私敏感度；依据用户隐私敏感度及已选取的各个所述隐私标签概率值生成待测试图片的图片隐私值；当图片隐私值与预先设置的隐私阈值匹配时，确定待测试图片包含用户隐私信息。实现精准的预测待测试图片是否包含用户敏感的隐私信息，可避免泄露包含有用户隐私信息的图片。

Description

图片隐私的预测方法及装置、存储介质及电子设备
技术领域
本发明涉及图像识别领域，特别涉及一种图片隐私的预测方法及装置、存储介质及电子设备。
背景技术
随着计算机通信以及互联网技术的不断发展，电子设备的应用越来越普遍，例如，智能移动电话、个人数字助理、掌上电脑、笔记本电脑得到了越来越广泛的应用。电子设备中安装的应用程序(APP，Application)也越来越多，提供的应用功能也越来越丰富。人们可以利用电子设备中内置或外置的摄像头，随时随地进行拍照，并将拍照得到的图片分享至社交网络中，为自己或他人增添乐趣。
然而，当用户分享的图片中包含用户的隐私信息时，会造成用户的隐私泄露，进而使得用户面临诸多因其隐私泄露而造成的风险，因此，如何识别出图片是否包含隐私信息从而避免用户隐私泄露，成为本领域技术人员迫切解决的问题。
发明内容
本发明所要解决的技术问题是提供一种图片隐私的预测方法，通过判断该图片隐私值是否与预设的隐私阈值匹配，以确定待测试图片是否包含用户隐私信息，能精准的预测待测试图片是否包含用户敏感的隐私信息，进而可避免泄露包含有用户隐私信息的图片，实现对用户隐私的保护。
本发明还提供了一种图片隐私的预测装置，用于保证上述方法在实际中的实现及应用。
一种图片隐私的预测方法，包括：
将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息。
上述的方法，可选的，所述图片隐私预测模型的构建过程，包括：
依次将预先生成的训练图片集合中的每张训练图片及其对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直至将所述深度卷积神经网络确定为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；判断所述预测准确率是否大于预先设置的预测准确率阈值；若所述预测准确率小于预先设置的预测准确率阈值，则依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整；若所述预测准确率大于等于预先设置的预测准确率阈值时，则将当前所述深度卷积神经网络确定为图片隐私预测模型。
上述的方法，可选的，所述图片隐私预测模型的构建过程，包括：
依次将预先生成的训练图片集合中的每张训练图片及每张所述训练图片对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直到输入至所述深度卷积神经网络的图片数量等于预设的数量阈值时，确定当前所述深度卷积神经网络为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整。
上述的方法，可选的，所述训练图片集合的生成过程，包括：
将多个随机噪声依次输入至预先构建的目标对抗生成网络中，得到多个待训练图片；
依据所述多个待训练图片生成训练图片集合。
上述的方法，可选的，所述按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，包括：
依据各个所述隐私标签概率值的大小，对各个所述隐私标签概率值进行排序，并按各个所述隐私标签概率值由大至小的顺序选取预设数目个所述隐私标签概率值；
或，
将各个所述隐私标签概率值与预先设置的概率阈值进行比较，得到多个大于所述概率阈值的所述隐私标签概率值，并按所述多个大于所述概率阈值的所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值。
上述的方法，可选的，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度，包括：
遍历预先存储的用户隐私评分表，以获取所述目标隐私标签集合中的各个所述隐私标签的隐私评分；
依据所述隐私评分，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度。
上述的方法，可选的，所述依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值，包括：
依据所述用户隐私敏感度组成敏感度矩阵；
依据所述已选取的各个所述隐私标签概率值组成隐私标签概率值矩阵；
将所述敏感度矩阵及所述隐私标签概率值矩阵进行运算得到所述待测试图片的图片隐私值。
一种图片隐私的预测装置，包括：
输入单元，用于将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
选取单元，用于按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定单元，用于确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
生成单元，用于依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断单元，用于判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息。
一种存储介质，所述存储介质包括存储的指令，其中，在所述指令运行时控制所述存储介质所在的设备执行上述的图片隐私的预测方法。
一种电子设备，包括存储器，以及一个或者一个以上的指令，其中一个或者一个以上指令存储于存储器中，且经配置以由一个或者一个以上处理器执行上述的图片隐私的预测方法。
与现有技术相比，本发明包括以下优点：
本发明提供了一种图片隐私的预测方法，包括：将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与对各个预先设置的隐私标签对应的隐私标签概率值；按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息，实现精准的预测待测试图片是否包含用户敏感的隐私信息，进而可避免泄露包含有用户隐私信息的图片。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明提供的一种图片隐私的预测方法的方法流程图；
图2为本发明提供的一种图片隐私的预测方法的又一方法流程图；
图3为本发明提供的一种图片隐私的预测装置的结构示意图；
图4为本发明提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明可用于众多通用或专用的计算装置环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器装置、包括以上任何装置或设备的分布式计算环境等等。
本发明实施例提供了一种图片隐私的预测方法，该方法可以应用在多种系统平台，其执行主体可以为计算机终端或各种移动设备的处理器，所述方法的方法流程图如图1所示，具体包括：
S101：将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值。
本发明实施例提供的方法中，该预先构建的图片隐私预设模型设置有多个隐私标签，将一张待测试图片输入至预先构建的图片隐私预测模型中时，会得到全部隐私标签分别与该待测试图片对应的概率值，即得到各个隐私标签分别与该待测试图片对应的隐私标签概率值，其中，各个隐私标签概率值可以相同，也可以不同。
本发明实施例提供的方法中，采用Euclidean损失函数计算待测试图片的预测结果和隐私标签的欧氏距离的均值，以确定各个隐私标签概率值。
S102：按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合。
本发明实施例提供的方法中，隐私标签可以是身份证、肤色、肖像、通讯号码及家庭住址等隐私信息表征，其中，一个标签可以对应一种隐私信息表征。
本发明实施例提供的方法中，一个隐私标签的隐私标签概率值越大，说明图片存在该隐私标签对应的隐私信息表征的可能性越高。
本发明实施例提供的方法中，目标隐私标签集合中包含已选取的各个所述隐私标签概率值分别对应的隐私标签。
S103：确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度。
本发明实施例提供的方法中，用户隐私敏感度是依据用户预先对各个隐私标签的评分确定的，可选的，一个隐私标签对应的用户隐私敏感度为该用户预先对该隐私标签的评分。
需要说明的是，用户对该隐私标签的评分越高，则说明用户对该隐私标签对应的隐私表征信息敏感度越高。
S104：依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值。
本发明实施例提供的方法中，通过数值较大的一个或多个隐私标签概率值及目标隐私标签集合中各个隐私标签的用户隐私敏感度，生成图片隐私值，用于确定该测试图片是否包含用户隐私信息。
S105：判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息。
本发明实施例提供的方法中，当图片隐私值大于预先设置的隐私阈值时，可以确定该测试图片包含该用户较为敏感的用户隐私信息，该隐私阈值可以由技术人员依据实际情况进行设置与调整。
本发明实施例提供的方法中，通过将待测试图片输入至隐私预测模型，能识别出图片包含各个预设隐私标签的隐私标签的概率值，并在此基础上确定用户隐私敏感度以生成图片隐私值，通过判断该图片隐私值是否与预设的隐私阈值匹配，以确定待测试图片是否包含用户隐私信息，能精准的预测待测试图片是否包含用户敏感的隐私信息，进而可避免泄露包含有用户隐私信息的图片，实现对用户隐私的保护。
本发明实施例提供的方法中，基于上述的实施过程，具体的，所述图片隐私预测模型的构建过程，可以包括以下两种方式：
第一种方式为：依次将预先生成的训练图片集合中的每张训练图片及其对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直至将所述深度卷积神经网络确定为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；判断所述预测准确率是否大于预先设置的预测准确率阈值；若所述预测准确率小于预先设置的预测准确率阈值，则依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整；若所述预测准确率大于等于预先设置的预测准确率阈值，则将当前所述深度卷积神经网络确定为图片隐私预测模型。
第二种方式为：依次将预先生成的训练图片集合中的每张训练图片及每张所述训练图片对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直到输入至所述深度卷积神经网络的图片数量等于预设的数量阈值时，确定当前所述深度卷积神经网络为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整。
本发明实施例提供的方法中，训练图片集合中包含多张训练图片。
本发明实施例提供的方法中，该经过预训练的深度卷积神经网络为经过网络结构预训练的深度卷积神经网络。
需要说明的是，可以通过选取基准模型；将基准模型在分类数据集上进行网络结构预训练，得到经过预训练的深度卷积神经网络，使得经过预训练的深度卷积神经网络具有较好的初始化权值。
本发明实施例提供的方法中，该基准模型可以为具有多标签输入层的ResNext-101模型。
需要说明的是，该模型与传统模型相比，具有对数据进行多支路的分组卷积再聚合操作的功能，能够在不增加参数复杂度的前提下，提高该模型特征学习能力，减少该模型的超参数数量，便于模型移植。
本发明实施例提供的方法中，该基准模型在最后一层卷积层和全连接层之间加入Dropout层，用于避免该基准模型在训练过程中出现过拟合和/或梯度消失等情况。
可选的，该分类数据集可以为ImageNet数据集，该数据集中共有120多万张图片数据，其中，该分类数据集的所有图片数据中共包含有1000多个物体类别。
本发明实施例提供的方法中，可以将任意一张图片及该图片对应的一个或多个隐私标签输入至深度卷积神经网络中，能利用该网络结构强大的特征学习能力来学习更多的图片隐私特征，增强特征鲁棒性。
本发明实施例提供的方法中，该深度卷积神经网络的输出层可以采用Euclidean损失函数，对输入至该深度卷积神经网络的图片进行分类。
需要说明的是，Eucliden损失函数可以通过计算图片的预测结果和各个隐私标签的欧氏距离的均值，刻画同类别间的数据的关系。
本发明实施例提供的方法中，基于上述的实施过程，具体的，所述训练图片集合的生成过程，可以包括：
将多个随机噪声依次输入至预先构建的目标对抗生成网络中，得到多个待训练图片；
依据所述多个待训练图片生成训练图片集合。
本发明实施例提供的方法中，先构建一个初始对抗生成网络，该初始对抗生成网络包括生成器G与鉴别器D；将随机噪声Z输入至初始对抗生成网络的生成器G中得到输出结果G(Z)；将该输出结果G(Z)与对照图片样本I输入至鉴别器D。鉴别器D通过比较该输出结果G(Z)及对照图片样本I得到鉴别结果D(Z)，鉴别器D将该鉴别结果D(Z)反馈给生成器G；生成器G依据该鉴别结果D(Z)调整生成参数，使得该生成器G能生成与对照图片样本相似度更高的输出结果。通过两个子网络之间的博弈对抗过程，使得生成器G可以生成与对照图片样本I的相似度满足预设条件的输出结果G(Z)，即可得到一个可以用于产生训练图片的生成器，此时，将该初始对抗生成网络确定为目标对抗生成网络。
可选的，该对照图片样本可以为VISPR公开数据集中的图片，该数据集包括68个隐私属性，总共22000多张图片，该数据集分为训练集、测试集及验证集，其中训练集包括10000张图片、测试集包括8000张图片、验证集包括4000张图片。
本发明实施例提供的方法中，将多个随机噪声分别输入至该目标对抗生成网络中，可以得到多个与对照图片样本相似度满足预设条件的训练图片，并将各个训练图片与对照图片样本组成训练图片集合。
本发明实施例提供的方法中，基于上述的实施过程，具体的，按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，可以包括：
依据各个所述隐私标签概率值的大小，对各个所述隐私标签概率值进行排序，并按各个所述隐私标签概率值由大至小的顺序选取预设数目个所述隐私标签概率值；
或，
将各个所述隐私标签概率值与预先设置的概率阈值进行比较，得到多个大于所述概率阈值的所述隐私标签概率值，并按所述多个大于所述概率阈值的所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值。
本发明实施例提供的方法中，该预设数目的值可以由技术人员依据实际情况进行调整。
本发明实施例提供的方法中，选取概率值大的隐私标签概率值，可以得到与该图片相关度大的隐私标签。
本发明实施例提供的方法中，通过将隐私标签概率值与预设的概率阈值比较，可以初步确认该待测试图片是否包含隐私信息，若该隐私标签概率值大于该预设的概率阈值，则说明该待测试图片包含与该隐私标签概率值对应的隐私标签的隐私表征信息的可能性大。
本发明实施例提供的方法中，基于上述实施过程，具体的，所述确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度，如图2所示，具体包括：
S201：遍历预先存储的用户隐私评分表，以获取所述目标隐私标签集合中的各个所述隐私标签的隐私评分。
本发明实施例提供的方法中，用户隐私评分表包括用户对各个隐私标签的隐私评分，通过遍历预先存储的用户隐私评分表，可得到目标隐私标签集合中的每个隐私标签分别对应的隐私评分。
S202：依据所述隐私评分，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度。
本发明实施例提供的方法中，任意一个隐私标签的隐私评分越高，则该隐私标签对应的用户隐私敏感度就越高。
本发明实施例提供的方法中，通过确定所述目标隐私标签集合中的各个所述隐私标签的用户隐私敏感度，可以为用户提供个性化图片隐私识别，满足用户的需求。
本发明实施例提供的方法中，基于上述的实施过程，具体的，所述依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值，可以包括：
将所述用户隐私敏感度与所述已选取的各个所述隐私标签概率值进行特定的数学运算，得到所述待测试图片的图片隐私值。
本发明实施例提供的方法中，该特定的数学运算可以是对目标隐私标签集合中每一个隐私标签对应的用户隐私敏感度及隐私标签概率值进行计算，得到多个图片隐私值，若任意一个隐私标签对应的图片隐私值大于等于预设的隐私阈值，则可以确定该图片包含用户敏感的隐私信息，可以依据该隐私标签向用户发送提示信息，提示该图片中可能包含的隐私信息。
本发明实施例提供的方法中，该特定的数学运算，还可以是对目标隐私标签集合中各个隐私标签的用户隐私敏感度及隐私标签概率阈值进行计算，得到一个图片隐私值，若该图片隐私值大于等于预设的图片隐私阈值，则可以确定该图片包含用户隐私信息；可以向用户提示该图片中可能包含隐私信息。
进一步的，所述依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值的过程，可以包括：
依据所述用户隐私敏感度组成敏感度矩阵；
依据所述已选取的各个所述隐私标签概率值组成隐私标签概率值矩阵；
将所述敏感度矩阵及所述隐私标签概率值矩阵进行运算得到所述待测试图片的图片隐私值。
本发明实施例提供的方法中，将所述敏感度矩阵及所述隐私标签概率值矩阵进行运算得到所述待测试图片的图片隐私值的具体计算公式如下：
K＝PVT
其中，K为图片隐私值；P＝[P1,P2,......,Pn]，表示隐私标签概率值矩阵；V＝[v1,v2,......,vn]，表示敏感度矩阵；n为隐私标签概率值的数量。
基于上述本发明实施例提供的方法，本发明实施例在实际应用中，可以应用在多种场景，例如应用在社交网络服务中，社交网络服务商让不同的用户分别对68个隐私标签进行评分，每个标签的评分范围可以设置为0-10分，分值越高，则表示用户对该隐私属性进行隐私保护的意愿就愈加强烈；将每个用户对每个标签的评分进行存储，得到用户隐私评分表，其中，一个用户隐私评分表可以包含一个用户对各个隐私标签的评分。
当任意一个用户将任意一张图片发送至该社交网络的服务器时，该服务器的处理器将该图片输入至预先构建的图片隐私预测模型中，得到每一个隐私标签分别与该图片对应的隐私标签概率值；依据每一个隐私标签概率值的大小，选取多个符合预设条件的隐私标签概率值，并将已选取的多个隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；在该用户对应的用户隐私评分表中，确定该目标隐私标签集合中的每一个隐私标签分别对应的用户隐私敏感度；依据该目标隐私标签集合中的每一个隐私标签分别对应的用户隐私敏感度及已选取的各个隐私标签概率值，生成该图片的图片隐私值；判断该图片隐私值是否大于预先设置的隐私阈值，若大于，则确定所述待测试图片包含用户隐私信息。此时，服务器向用户发出提示，提示用户当前发送的图片可能包含隐私信息，当接收到该用户的发送指令时，将该图片进行传输，当接收到该用户的取消指令时，删除该图片。
上述各个具体的实现方式，及各个实现方式的衍生过程，均在本发明保护范围内。
与图1所述的方法相对应，本发明实施例还提供了一种图片隐私的预测装置，用于对图1中方法的具体实现，本发明实施例提供的图片隐私的预测装置可以应用计算机终端或各种移动设备中，其结构示意图如图3所示，具体包括：
输入单元301，用于将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
选取单元302，用于按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定单元303，用于确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
生成单元304，用于依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断单元305，用于判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息。
在本发明的一个实施例中，基于前述方案，选取单元302配置为：
依据各个所述隐私标签概率值的大小，对各个所述隐私标签概率值进行排序，并按各个所述隐私标签概率值由大至小的顺序选取预设数目个所述隐私标签概率值；
或，
将各个所述隐私标签概率值与预先设置的概率阈值进行比较，得到多个大于所述概率阈值的所述隐私标签概率值，并按所述多个大于所述概率阈值的所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值。
在本发明的一个实施例中，基于前述方案，确定单元303配置为：
遍历预先存储的用户隐私评分表，以获取所述目标隐私标签集合中的各个所述隐私标签的隐私评分；
依据所述隐私评分，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度。
在本发明的一个实施例中，基于前述方案，生成单元304配置为：
依据所述用户隐私敏感度组成敏感度矩阵；
依据所述已选取的各个所述隐私标签概率值组成隐私标签概率值矩阵；
将所述敏感度矩阵及所述隐私标签概率值矩阵进行运算得到所述待测试图片的图片隐私值。
本发明实施例提供的装置中，通过将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；按各个所述隐私标签概率值由大至小的顺序选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息，实现精准的预测待测试图片是否包含用户敏感的隐私信息，进而可避免泄露包含有用户隐私信息的图片。
本发明实施例还提供了一种存储介质，所述存储介质包括存储的指令，其中，在所述指令运行时控制所述存储介质所在的设备执行上述图片隐私的预测方法。
本发明实施例还提供了一种电子设备，其结构示意图如图4所示，具体包括存储器401，以及一个或者一个以上的指令402，其中一个或者一个以上指令402存储于存储器401中，且经配置以由一个或者一个以上处理器403执行所述一个或者一个以上指令402进行以下操作：
将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息。
需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本发明时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
以上对本发明所提供的一种图片隐私的预测方法及装置进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种图片隐私的预测方法，其特征在于，包括：
将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息，所述用户隐私信息为用户敏感的隐私信息。
2.根据权利要求1所述的方法，其特征在于，所述图片隐私预测模型的构建过程，包括：
依次将预先生成的训练图片集合中的每张训练图片及其对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直至将所述深度卷积神经网络确定为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；判断所述预测准确率是否大于预先设置的预测准确率阈值；若所述预测准确率小于预先设置的预测准确率阈值，则依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整；若所述预测准确率大于等于预先设置的预测准确率阈值时，则将当前所述深度卷积神经网络确定为图片隐私预测模型。
3.根据权利要求1所述的方法，其特征在于，所述图片隐私预测模型的构建过程，包括：
依次将预先生成的训练图片集合中的每张训练图片及每张所述训练图片对应的各个隐私标签，输入至经过预训练的深度卷积神经网络中，直到输入至所述深度卷积神经网络的图片数量等于预设的数量阈值时，确定当前所述深度卷积神经网络为图片隐私预测模型；
其中，将每张所述训练图片及其对应的各个隐私标签输入至所述深度卷积神经网络时，得到当前输入至所述深度卷积神经网络的训练图片的各个初始标签概率值；依据所述初始标签概率值与所述当前输入至所述深度卷积神经网络的训练图片对应的各个隐私标签，确定预测准确率；依据所述预测准确率对所述深度卷积神经网络的预测权值进行调整。
4.根据权利要求2或3所述的方法，其特征在于，所述训练图片集合的生成过程，包括：
将多个随机噪声依次输入至预先构建的目标对抗生成网络中，得到多个待训练图片；
依据所述多个待训练图片生成训练图片集合。
5.根据权利要求1所述的方法，其特征在于，所述按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，包括：
依据各个所述隐私标签概率值的大小，对各个所述隐私标签概率值进行排序，并按各个所述隐私标签概率值由大至小的顺序选取预设数目个所述隐私标签概率值；
或，
将各个所述隐私标签概率值与预先设置的概率阈值进行比较，得到多个大于所述概率阈值的所述隐私标签概率值，并按所述多个大于所述概率阈值的所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值。
6.根据权利要求1所述的方法，其特征在于，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度，包括：
遍历预先存储的用户隐私评分表，以获取所述目标隐私标签集合中的各个所述隐私标签的隐私评分；
依据所述隐私评分，确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度。
7.根据权利要求1所述的方法，其特征在于，所述依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值，包括：
依据所述用户隐私敏感度组成敏感度矩阵；
依据所述已选取的各个所述隐私标签概率值组成隐私标签概率值矩阵；
将所述敏感度矩阵及所述隐私标签概率值矩阵进行运算得到所述待测试图片的图片隐私值。
8.一种图片隐私的预测装置，其特征在于，包括：
输入单元，用于将已获取的待测试图片输入至预先构建的图片隐私预测模型中，得到所述待测试图片分别与各个预先设置的隐私标签对应的隐私标签概率值；
选取单元，用于按各个所述隐私标签概率值由大至小的顺序，选取预设数目个所述隐私标签概率值，并将已选取的各个所述隐私标签概率值分别对应的隐私标签组成目标隐私标签集合；
确定单元，用于确定所述目标隐私标签集合中的各个所述隐私标签分别对应的用户隐私敏感度；
生成单元，用于依据所述用户隐私敏感度及所述已选取的各个所述隐私标签概率值，生成所述待测试图片的图片隐私值；
判断单元，用于判断所述图片隐私值是否与预先设置的隐私阈值匹配，若匹配，则确定所述待测试图片包含用户隐私信息，所述用户隐私信息为用户敏感的隐私信息。
9.一种存储介质，其特征在于，所述存储介质包括存储的指令，其中，在所述指令运行时控制所述存储介质所在的设备执行如权利要求1～7任意一项所述的图片隐私的预测方法。
10.一种电子设备，其特征在于，包括存储器，以及一个或者一个以上的指令，其中一个或者一个以上指令存储于存储器中，且经配置以由一个或者一个以上处理器执行如权利要求1～7任意一项所述的图片隐私的预测方法。
CN201910323986.9A 2019-04-22 2019-04-22 图片隐私的预测方法及装置、存储介质及电子设备 Active CN110069947B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910323986.9A CN110069947B (zh) 2019-04-22 2019-04-22 图片隐私的预测方法及装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910323986.9A CN110069947B (zh) 2019-04-22 2019-04-22 图片隐私的预测方法及装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN110069947A CN110069947A (zh) 2019-07-30
CN110069947B true CN110069947B (zh) 2020-09-15

Family

ID=67368436

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910323986.9A Active CN110069947B (zh) 2019-04-22 2019-04-22 图片隐私的预测方法及装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN110069947B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105260676A (zh) * 2015-10-16 2016-01-20 合肥工业大学 一种基于隐私规则和感知哈希的社交网络下图像隐私决策推荐系统及其方法
CN107704877A (zh) * 2017-10-09 2018-02-16 哈尔滨工业大学深圳研究生院 一种基于深度学习的图像隐私感知方法
CN108961272A (zh) * 2018-07-02 2018-12-07 浙江工业大学 一种基于深度卷积对抗生成网络的皮肤病图像的生成方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107688752B (zh) * 2017-08-21 2020-11-20 哈尔滨工程大学 一种面向多视图聚类挖掘的个性化隐私保护方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105260676A (zh) * 2015-10-16 2016-01-20 合肥工业大学 一种基于隐私规则和感知哈希的社交网络下图像隐私决策推荐系统及其方法
CN107704877A (zh) * 2017-10-09 2018-02-16 哈尔滨工业大学深圳研究生院 一种基于深度学习的图像隐私感知方法
CN108961272A (zh) * 2018-07-02 2018-12-07 浙江工业大学 一种基于深度卷积对抗生成网络的皮肤病图像的生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Image Privacy Prediction Using Deep Neural Networks;Ashwini Tonge 等;《Cornell University》;20190308;第1-21页 *
Towards a Visual Privacy Advisor: Understanding and Predicting Privacy Risks in Images;Tribhuvanesh Orekondy 等;《2017 IEEE International Conference on Computer Vision》;20171022;第3706-3715页 *

Also Published As

Publication number Publication date
CN110069947A (zh) 2019-07-30

Similar Documents

Publication Publication Date Title
KR102260554B1 (ko) 학습 컨텐츠 생성 방법
US10839790B2 (en) Sequence-to-sequence convolutional architecture
US9807473B2 (en) Jointly modeling embedding and translation to bridge video and language
US11651218B1 (en) Adversartail training of neural networks
US11068474B2 (en) Sequence to sequence conversational query understanding
US11144830B2 (en) Entity linking via disambiguation using machine learning techniques
US11669739B2 (en) Name and face matching
CN111428010B (zh) 人机智能问答的方法和装置
CN110020009B (zh) 在线问答方法、装置及系统
CN111897964A (zh) 文本分类模型训练方法、装置、设备及存储介质
US11397891B2 (en) Interpretability-aware adversarial attack and defense method for deep learnings
CN113190702B (zh) 用于生成信息的方法和装置
US20220114497A1 (en) Smart copy optimization in customer acquisition and customer management platforms
CN112818995B (zh) 图像分类方法、装置、电子设备及存储介质
CN111753895A (zh) 数据处理方法、装置及存储介质
CN111753091B (zh) 分类方法、分类模型的训练方法、装置、设备及存储介质
CN110597965B (zh) 文章的情感极性分析方法、装置、电子设备及存储介质
CN112733645A (zh) 手写签名校验方法、装置、计算机设备及存储介质
CN115210722A (zh) 使用混合推理进行图计算的方法和系统
CN111931153A (zh) 基于人工智能的身份验证方法、装置和计算机设备
CN110674370A (zh) 域名识别方法及装置、存储介质及电子设备
CN114428842A (zh) 一种扩充问答库的方法、装置、电子设备及可读存储介质
CN110069947B (zh) 图片隐私的预测方法及装置、存储介质及电子设备
CN114398482A (zh) 一种词典构造方法、装置、电子设备及存储介质
CN114780809A (zh) 基于强化学习的知识推送方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant