CN110336739A - 一种图像预警方法、装置和存储介质 - Google Patents

一种图像预警方法、装置和存储介质 Download PDF

Info

Publication number
CN110336739A
CN110336739A CN201910551282.7A CN201910551282A CN110336739A CN 110336739 A CN110336739 A CN 110336739A CN 201910551282 A CN201910551282 A CN 201910551282A CN 110336739 A CN110336739 A CN 110336739A
Authority
CN
China
Prior art keywords
identity
image
released
early warning
warning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910551282.7A
Other languages
English (en)
Inventor
查文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910551282.7A priority Critical patent/CN110336739A/zh
Publication of CN110336739A publication Critical patent/CN110336739A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10—Multimedia information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/18—Commands or executable codes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/52—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail for supporting social networking services

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明实施例公开了一种图像预警方法、装置和存储介质；本发明实施例在获取消息交互系统中待发布图像之后，识别待发布图像中对象的身份，将待发布图像进行发布，然后，当待发布图像中对象的身份为预设目标身份时，确定待发布图像的发布者在所述消息交互系统中的第一身份标识；再然后，当第一身份标识与预设目标身份的第二身份标识不相同时，向第二身份标识对应的终端发送预警信息；本发明实施例中通过对待发布图像中对象的识别和发布者身份的确定，判断待发布图像中的对象与预警对象之间的关系，然后，根据发布者的身份，向预警对象对应的终端发送预警信息，可以帮助预警对象针对发布者发送包含预警对象的图像时进行干预或维权。

Description

一种图像预警方法、装置和存储介质
技术领域
本发明涉及通信技术领域，具体涉及一种图像预警方法、装置和存储介质。
背景技术
随着通信技术的发展，消息交互系统应用应该越来越广泛，比如，消息交互系统可以应用在社交上，消息交互系统中用户可以相互发送消息，比如，可以交互图像、文字等内容。
发明内容
本发明实施例提供一种图像预警方法、装置和存储介质，可以实现消息交互系统中的图像预警。
本发明实施例提供了一种图像预警方法，包括：
获取消息交互系统中待发布图像；
将待发布图像进行发布；
识别所述待发布图像中对象的身份；
当所述待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识；
当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
相应的，本发明实施例提供一种图像预警装置，包括：
获取单元，用于获取消息交互系统中待发布图像；
识别单元，用于识别所述待发布图像中对象的目标身份；
发布单元，用于将所述待发布图像进行发布；
确定单元，用于当所述待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识；
发送单元，用于当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
可选的，在一些实施例中，发送单元可以包括第一判断子单元、第二判断子单元和发送子单元，具体可以包括：
第一判断子单元，用于当第一身份标识与预设目标身份对应的第二身份标识不相同时，判断第一身份标识与第二身份标识在消息交互系统中的用户关系；
第二判断子单元，用于根据第一身份标识与第二身份标识确定的用户关系后，判断第一身份标识对应的预警等级；
发送子单元，用于根据第一身份标识对应的预警等级，按预设策略向第二身份标识对应的终端发送预警信息。
可选的，在一些实施例中，一种图像预警装置还包括：
接收单元，用于接收针对预警对象的预警请求；
采集单元，用于根据所述预警请求，采集所述预警对象的图像作为训练样本；
训练单元，用于利用所述预警对象的图像样本对预设的身份识别模型进行训练，得到训练后的身份识别模型。
相应的，本发明实施例还提供了一种网络设备，包括处理器和存储器，所述存储器存储有多条指令，所述处理器加载存储器存储的指令实现本发明实施例任一提供的虚拟物品发放方法。
相应的，本发明实施例还提供一种存储介质，所述存储介质存储有指令，所述指令被处理器执行时实现本发明实施例任一提供的方法中的步骤。
本发明实施例在获取消息交互系统中待发布图像之后，识别待发布图像中对象的目标身份，将待发布图像进行发布，然后，当待发布图像中对象的身份为预设目标身份时，确定待发布图像的发布者在消息交互系统中的第一身份标识，当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息；由于该方案可以在消息交互系统中通过图像识别，识别包含预警对象的待发布图像，再根据待发布图像是否来自于预警对象，从而实现在消息交互系统中，针对预警对象进行预警。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1a是本发明实施例提供的图像预警方法的场景示意图；
图1b是本发明实施例提供的图像预警方法的流程示意图；
图1c是本发明实施例提供的训练后密集连接卷积网络的结构示意图；
图1d是本发明实施例提供的获取间接发布者的流程示意图；
图2a是本发明实施例提供的图像预警方法的另一流程示意图；
图2b是本发明实施例提供的预警服务界面示意图；
图2c是本发明实施例提供的第二身份标识对应终端接收的预警信息示意图；
图2d是本发明实施例提供的第二身份标识对应终端接收的反馈信息示意图；
图2e是本发明实施例提供的第一身份标识对应终端接收的提示信息示意图；
图2f是本发明实施例提供的模糊化处理后发布在内容交互平台的示意图；
图3a是本发明实施例提供的图像预警装置的结构示意图；
图3b是本发明实施例提供的图像预警装置的发送单元的结构示意图；
图3c是本发明实施例提供的图像预警装置的另一种结构示意图；
图4是本发明实施例提供的终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例提供一种图像预警方法、装置和存储介质。
其中，该图像预警装置可以集成在网络设备中，该网络设备可以是服务器，也可以是终端等设备。其中，该终端可以包括智能手机、平板电脑、笔记本电脑或个人计算机(PC，Personal Computer)等终端设备。
例如，参见图1a，以网络设备为服务器为例，服务器可以获取消息交互系统中用户的待发布图像，识别待发布图像中对象的目标身份；将待发布图像进行发布，当识别出的待发布图像中对象的身份为预警对象的预设目标身份时，确定待发布图像的发布者在消息交互系统中的第一身份标识；将确定的第一身份标识与预设目标身份在消息交互系统中第二身份标识进行对比；当发布者的第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
以下分别进行详细说明。需说明的是，以下实施例的描述顺序不作为对实施例优选顺序的限定。
本申请实施例将从图像预警装置的角度进行描述，该图像预警装置可以集成在网络设备中。
如图1b所示，提供了一种图像预警方法，该图像预警方法可以由网络设备执行，具体，可以由网络设备的处理器执行，其中，图像预警方法的具体流程可以如下：
101、获取消息交互系统中待发布图像。
其中，待发布图像可以为消息交互系统中将要发布的图像，在消息交互系统中一旦某个用户的图像发布成功时，消息交互系统中其他用户便可以获取到发布的图像，例如，在社交消息交互系统，用户A在消息交互系统的内容交互平台上发布图像后，其他用户便可以在内容交互平台上获取用户A发布的图像。
比如，待发布图像可以包括发布者提交图像交互请求后，已上传至消息交互系统中服务器进行存储或缓存，但在消息交互系统中还未发布的图像，此时消息交互系统中的其他用户仍无法查看。可以包括单张或多张照片、动态图像和视频等图像。
其中，获取待发布图像的方式可以有多种，比如，可以从消息交互系统中发布用户的终端获取，例如，接收发布用户的终端发送的图像发布请求(该请求可以携带待发布图像)，对该图像发布请求解析得到。
其中，待发布图像的来源可以包括发布用户利用终端拍摄的照片、接收消息交互系统中用户发送的图像、从网络上下载的图像等方式。
在一些实施例中，也可以在消息交互系统中建立数据库，从数据库中直接获取用户待发布图像。比如，用户在消息交互系统发布图像时，先将待发布图像上传到数据库中进行存储或缓存，服务器从数据库中获取待发布图像。
在一些实施例中，也可以从消息交互系统自动搜集或预设的图像中获取待发布图像，比如，从消息交互系统推送的广告等含有图像信息的媒介中获取等。
102、识别所述待发布图像中对象的身份。
其中待发布图像中的对象可以包括人物、动物和物品等。比如，可以为某个具体人，或者猫、狗等动物，或者具体的某个物品，如用户的手机、相机等物品。
本申请实施例中，对象身份的识别方式可以有多种，比如，为了提高识别的准确性，可以采用深度神经网络来识别，例如，可以采用训练后密集连接卷积网络(DenseNet)对该待发布图像中的对象进行识别，得到识别结果，如图1c。具体可以如下：
比如，可以通过卷积层对该待发布图像进行卷积处理，并经由池化层对卷积处理结果进行最大池化处理后，依次采用不同的密集块对该最大池化层结果进行处理，最后由分类层对密集块的输出结果进行分类识别，即可得到识别结果。其中，不同的密集块之间可以通过过渡层连接，该过渡层用于将当前密集块的输出数据调整为符合下一个密集块输入需求的数据。
其中，该训练后密集连接卷积网络的网络参数可以根据实际应用的需求进行设置。
另外，需要说明的是，该训练后密集连接卷积网络可以由维护人员预先进行设置，也可以由该待图像预警装置自行进行训练。例如，可以接收到针对预警对象的预警请求，采集预警对象的图像作为训练样本，利用采集到的预警对象的训练样本对密集连接卷积网络进行训练，便可得到训练后的密集连接卷积网络。
在一实施例中，采用训练后密集连接卷积网络(DenseNet)对该待发布图像中的对象进行识别，得到识别结果。其中识别结果可以包括待发布图像中对象的目标身份是否为预设目标身份。
例如，以待发布图像中对象为消息交互系统中的用户A，预警对象为消息交互系统中的用户B。消息交互系统中服务器接收到用户B提交预警请求，根据提交的预警请求，采集用户B的图像作为训练样本，采集的方式可以包括用户B利用终端输入(如导入、拍摄或扫描等)包含用户B的身份信息的图像。然后，利用采集到的用户B的训练样本对密集连接卷积网络进行训练，得到用于识别用户B的训练后密集卷积网络。利用训练后的密集卷积网络对获取的待发布图像中的对象进行识别，识别待发布图像中对象用户A的身份特征与预警对象用户B的身份特征是否匹配，得到识别结果。
103、将待发布图像进行发布。
例如，将获取到待发布图像进行发布的方式有多种，比如可以发布消息交互系统中的群组、内容交互平台或部分用户，使得消息交互系统中全部或者部分用户可以查看到发布者发布的待发布图像。在待发布图像进行发布过程中，可以指定部分用户可见或者不可见。
需说明的是，步骤102和103的执行可以不分先后。在获取到消息交互系统中待发布的图像后，可以先识别所述待发布图像中对象的身份，再将待发布图像进行发布，也可以先将待发布图像进行发布，再来识别待发布图像中对象的身份，最后还可以将待发布图像进行发布的同时对待发布图像中对象的识别进行识别。
104、当待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识。
其中，身份标识可以用于在消息交互系统中唯一标识或区分用户的身份，比如，可以包括消息交互系统中的用户账号等信息。
其中，预设目标身份可以为消息交互系统中需要进行图像预警的身份，比如，可以包括需要进行图像预警的用户身份。
其中，发布者为消息交互系统内发布图像的用户，可以包括直接发布者和间接发布者。直接发布者可以包括在消息交互系统中直接发布图像的用户，比如，用户A在消息交互系统中提交发布图像的请求，将待发布图像上传或发送给服务器，此时用户A即为待发布图像在消息交互系统中的直接发布者。间接发布者可以包括在消息交互系统中将待发布图像通过传递数据链发送给直接发布者的一个或多个用户，此时的发送与发布的区别在于，发布是在消息交互系统上其他用户可以看见，发送仅能在发送端和接收端的两个或多个用户才能看见。比如，在消息交互系统中，用户B将待发布图像发送给用户C，用户C又将接收到的待发布图像发送给了用户A，用户A将接收到的待发布图像发布到消息交互系统中，此时，用户A为直接发布者，用户B和用户C就为间接发布者。
其中，发布者的身份标识为在消息交互系统中直接或间接发布图像的终端对应的用户的身份标识。
本申请实施例中，当识别出待发布图像中对象的身份为预设目标身份时，通过检索待发布图像的上传或发送路径，确定上传或发送待发布图像的直接发布者的身份标识。
例如，获取直接发布者的身份标识时，具体过程如下：
比如，当识别出待发布图像中对象的身份为预设目标身份时，检索消息交互系统的日志，获取待发布图像上传到消息交互系统的上传路径，通过上传路径检索到待发布图像在消息交互系统中发布者的账号，从而确定待发布图像的发布者在消息交互系统中的身份标识。
在一些实施例中，确定直接发布者的身份标识后，通过检索该直接发布者在消息交互系统中消息交互记录，当消息交互记录中包含待发布图像时，搜索待发布图像的原始来源，获取待发布图像在消息交互记录中的全部传递/发送链数据，在传递/发送链数据中检索间接上传或发送的间接发布者的身份标识。
例如，获取间接发布者的身份标识，如图1d所示，具体过程如下：
确定待发布图像的用户1在消息交互系统中的账号后，通过检索该账号在消息交互系统中的消息交互记录，当该账号的消息交互记录中存在该图像时，对该消息交互记录进行分析，判断待发布图像的来源，当待发布图像是由用户2发送给用户1时，获取用户2在消息交互系统中的账号，并对用户2在消息交互系统中的消息交互记录进行检索，判断用户2的待发布图像的来源，如果待发布图像也是用户2在消息交互系统中接收到的，则继续查询待发布图像的最终来源，最后获取待发布图像在消息交互系统传递数据链中的关联的所有用户的账号。当待发布图像是由用户1在消息交互系统的群组中下载或保存的，查询所在群组的消息交互记录，获取在群组中发送待发布图像的用户3，通过检索用户3在消息交互系统中的消息交互记录，查询到待发布图像的最终来源，最后获取待发布图像在消息交互系统传递数据链中的关联的所有用户的账号。
105、当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
其中，预设目标身份可以为消息交互系统中需要进行图像预警的身份，比如，可以包括需要进行图像预警的用户身份。
其中，预设目标身份的身份标识可以包括预设目标身份在消息交互系统中预设的一个或多个对应的身份标识，比如预设目标身份在消息交互系统中预设的一个或多个对应的账号。
其中，预警信息可以为提示预警对象的信息，比如，可以包括一条包含图片链接和处理链接的预警信息，点击图片链接可以查询到待发布图像的详细信息，待发布图像的详细信息可以包括发布者在消息交互系统中的账号、发布地点和匹配待发布图像的文字信息等；点击处理链接可以在消息交互系统中对待发布图像的发布者发起投诉，接收到第二身份标识对应的终端发送的投诉请求后，可以将已发布图像进行撤回或对已发布图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对待发布图像中的预警对象局部或者全部添加阴影处理。
本发明实施例中，将确定的待发布图像的发布者在消息交互系统中对应的所有第一身份标识与预设目标身份对应的第二身份标识进行对比。当所有第一身份标识与第二标识相同，则说明待发布图像的发布者为预警对象，此时，开始下一张待发布图像的识别。当所有第一身份标识中包括与第二身份标识相同和不相同的身份标识，则获取与第二身份标识不相同的第一身份标识在消息交互系统中的用户关系链数据。当所有第一身份标识与第二身份标识全部不相同，获取第一身份标识在消息交互系统中的用户关系链数据。
例如，当确定的待发布图像的发布者在消息交互系统中对应的所有第一身份标识为账号1和账号2，预警对象在消息交互系统预设的身份标识为账号3和账号4。将账号1和账号2分别与预警对象预设的账号3和账号4进行对比，当账号1和账号2与预警对象预设的账号3和账号4相同，此时，说明待发布图像的发布者为提出预警请求的预警对象。当账号1和账号2中存在一个账号与预警对象预设的账号3和账号4相同，比如账号1与账号3相同，账号2与账号3和账号4都不相同，则获取账号2在消息交互系统中的用户关系链数据。当账号1和账号2与预警对象预设的账号3和账号4都不相同，则获取账号1和账号2在消息交互系统中的用户关系链数据。
根据获取的第一身份标识在消息交互系统中的用户链数据，确定第一身份标识与预设目标身份对应的第二身份标识在消息交互系统中的用户关系，得到用户关系确定结果。
其中用户链数据包括与用户或用户对应的账号在消息交互系统中存在关联关系的用户集合。
例如，获取第一身份标识中账号1在消息交互系统的所有存在关联关系的用户的集合。在与账号1存在关联关系的用户集合中检索是否存在预警对象预设的账号3，当用户集合中存在预设账号3，则说明，在消息交互系统中账号1和账号3存在关联关系。当用户集合中不存在预设账号3，则说明，在消息交互系统中账号1和账号3不存在关联关系。
当第一身份标识与第二身份标识不存在关联关系时，向所述第二身份标识对应的终端发送预警信息，对已发布图像中的对象进行模糊化处理。
例如，当第一身份标识中的账号1和第二身份标识中的账号3不存在关联关系时，向账号3对应的终端发送预警信息。比如，可以发送一条包含图片链接和处理链接的预警信息，点击图片链接可以查询到已发布图像的详细信息，已发布图像的详细信息可以包括发布者在消息交互系统中的账号、发布地点和匹配已发布图像的文字信息等；点击处理链接可以在消息交互系统中对已发布图像的发布者发起投诉，接收到账号3对应的终端发送的投诉请求后，可以撤回已发布图像或对已发布图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
当第一身份标识与第二身份标识存在关联关系时，获取第一身份标识与第二身份标识之间的互动行为信息，基于互动行为信息，确定第一身份标识对应的预警等级。
其中，互动行为信息包括第一身份标识与第二身份标识在消息交互系统中的多个类型的互动行为指标，比如单向互动、双向互动和共同参与等。
例如，单向互动可以包括点赞、评论、转发和关注等。双向互动可以包括双向消息交互、建立关联关系等。共同参与可以包括在共同的群组里发生消息交互等。
在一实施例中，对多个类型的互动行为指标进行加权，得到加权结果，确定加权结果落入的预警范围，根据加权结果落入的预警范围对应的预警等级，确定第一身份标识对应的预警等级。
例如，以互动行为包括单向互动、双向互动和共同参与为例，获取第一身份标识与第二身份标识的多个类型互动行为指标，比如建立关联关系时间长短、消息交互的频率、在消息交互系统中共同关联关系用户和关联关系群组的数量等信息。按照亲密度的权重对以上类型互动行为指标进行加权，比如将建立关联关系时间长短的加权系数定为X1，消息交互的频率的加权系数定为X2，在消息交互系统中共同关联关系用户的数量的加权系数定为X3，在消息交互系统中共同关联关系群组的数量X4，其中四个互动行为指标的加权系数之和为1。对上述四个互动行为指标的数据进行处理，将处理后的数据乘以与之对应的加权系数，得到第一身份标识加权之后的加权值Y。判断加权值Y与预设的预警范围之间的关系。比如第一预警等级的预警范围为[0,Y1],第二预警等级的预警范围为(Y1,Y2]，第三预警等级的预警范围为(Y3,Y4]，以此类推，等级划分越细，预警情况越智能。以划分三级预警等级为例，判断第一身份标识加权之后的加权值Y与预警范围中阈值Y1,Y2,Y3,Y4的关系，当Y小于等于Y1时，则第一身份标识对应的预警等级为第一预警等级；当Y大于Y1小于等于Y2时，则第一身份标识对应的预警等级为第二预警等级；当Y大于Y2小于等于Y3时，则第一身份标识对应的预警等级为第三预警等级。
根据第一身份标识对应的预警等级，按预设策略向第二身份标识对应的终端发送预警信息。
例如，以划分三种预警等级为例，当第一身份标识对应的预警等级为第一预警等级时，将第一预警等级对应的预警信息发送给第二身份标识对应的终端。当未在规定时间内接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第一预警等级对应的预警信息，若在规定时间内仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第一预警等级对应的预警信息，其中规定时间为任意时间值。当发送次数达到规定次数时，若仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，可以将已发布图像撤回或对已发布图图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
当第一身份标识对应的预警等级为第二预警等级时，将第二预警等级对应的预警信息发送给第二身份标识对应的终端。当未在规定时间内接受到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第二预警等级对应的预警信息，若在规定时间内仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第二预警等级对应的预警信息，其中规定时间为任意时间值。当发送次数达到规定次数时，若仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，停止向第二身份标识对应的终端发送第二预警等级对应的预警信息。
当第一身份标识对应的预警等级为第三预警等级时，将第三预警等级对应的预警信息发送给第二身份标识对应的终端。
其中，预警等级可以按照实际需要来划分，对应的预警信息也可以按照实际需求预设。发送次数和发送频率也可以按照实际需求来设定。预警等级不一样，发送的预警信息也可以不同，预设的发送策略也可以不同。
在一实施例中，接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，按照预设策略对第一身份标识对应终端的待发布图像进行处理。比如，可以将已发布图像撤回或对已发布图图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
由以上可知，本实施例在获取消息交互系统中待发布图像之后，识别待发布图像中对象的身份，将待发布图像进行发布，当待发布图像中对象的目标身份为预设目标身份时，确定待发布图像的发布者在所述消息交互系统中的第一身份标识；然后，当第一身份标识与预设目标身份的第二身份标识不相同时，向第二身份标识对应的终端发送预警信息。由于该方案利用识别待发布图像中对象的目标身份，向预警对象发送预警信息，可以帮助预警对象针对发布者发送包含预警对象的图像及时干预或维权。
根据上一个实施例所描述的方法，以下将举例作进一步详细说明。
在本实施例中，将以该图像预警装置具体集成在服务器中为例进行说明。
如图2a所示，一种图像预警方法，具体流程可以如下：
201、服务器获取消息交互系统中用户待发布图像
其中，待发布图像可以为消息交互系统中用户将要发布的图像，在消息交互系统中一旦某个用户的图像发布成功时，消息交互系统中其他用户便可以获取到发布的图像，例如，在社交消息交互系统，用户A在内容交互平台上发布图像后，其他用户便可以在内容交互平台上获取用户A发布的图像。
比如，待发布图像可以包括发布者提交图像交互请求后，已上传至消息交互系统中服务器进行存储或缓存，但在消息交互系统中还未发布的图像，此时消息交互系统中的其他用户仍无法查看。可以包括单张或多张照片、动态图像和视频等图像。
其中，获取待发布图像的方式可以有多种，比如，可以从消息交互系统中发布用户的终端获取，例如，接收发布用户的终端发送的图像发布请求(该请求可以携带待发布图像)，对该图像发布请求解析得到。
其中，待发布图像的来源可以包括发布用户利用终端拍摄的照片、接收消息交互系统中用户发送的图像、从网络上下载的图像等方式。
例如，用户通过终端在消息交互系统中的内容交互平台上发布照片，提交发布图像请求，上传待发布图像，服务器接收到用户通过终端上传的待发布图像后，进行存储或者缓存。用户可以同时上传多张图像，也可以有多个用户同时提交发布图像请求，同时上传一张或多张待发布图像。用户也可以转发或下载其他用户发布的图像，将转发或下载的待发布图像上传至服务器。
202、服务器识别待发布图像中对象的身份。
其中待发布图像中的对象可以包括人物、动物和物品等。比如，可以为某个具体人，或者猫、狗等动物，或者具体的某个物品，如用户的手机、相机等物品。
在本发明实施例中，用户选择图像预警服务，通过终端提交预警请求，服务器接收到终端提交的预警请求后，采集预警用户的图像样本对身份识别模型进行训练，得到训练后的身份识别模型。在提交预警请求后，服务器采用训练后的身份识别模型对获取到的用户的待发布图像中对象的目标身份。
例如，用户可以通过触发终端的预警服务界面的预警请求按钮，终端的预警服务界面如图2b所示，用户在输入消息交互系统中代表用户本人身份标识的账号和密码后，确认是用户本人申请后，服务器接收到预警请求，同时将用户输入的消息交互系统中的账号和密码进行存储，作为用户预设在服务器中的预警对象的第二身份标识，用户输入的账号和密码可以为一个也可以为多个，如果用户本人存在多个账号时，需要将多个账号与通过用户图像样本训练后的身份识别模型绑定。
例如，采集提交预警请求的用户的图像可以包括用户本人的图像和/或与用户本人存在关联关系的人或物品的图像，比如预警对象的家人或预警对象的专属物品。采集提交预警请求的用户的图像的方式可以包括终端直接拍摄、用户自行导入和扫描上传至服务器。
本申请实施例中，对象身份的识别方式可以有多种，比如，为了提高识别的准确性，可以采用深度神经网络来识别，例如，可以采用训练后密集连接卷积网络(DenseNet)对该待发布图像中的对象进行识别，得到识别结果，如图1c所示。具体可以如下：
比如，可以通过卷积层对该待发布图像进行卷积处理，并经由池化层对卷积处理结果进行最大池化处理后，依次采用不同的密集块对该最大池化层结果进行处理，最后由分类层对密集块的输出结果进行分类识别，即可得到识别结果。其中，不同的密集块之间可以通过过渡层连接，该过渡层用于将当前密集块的输出数据调整为符合下一个密集块输入需求的数据。
其中，该训练后密集连接卷积网络的网络参数可以根据实际应用的需求进行设置。
另外，需要说明的是，该训练后密集连接卷积网络可以由维护人员预先进行设置，也可以由该图像预警装置自行进行训练。例如，可以接收到针对预警对象的预警请求，采集预警对象的图像作为训练样本，利用采集到的预警对象的训练样本对密集连接卷积网络进行训练，便可得到训练后的密集连接卷积网络。
在一实施例中，识采用训练后密集连接卷积网络(DenseNet)对该待发布图像中的对象进行识别，得到识别结果。其中识别结果可以包括待发布图像中对象的身份是否为预设目标身份。
例如，以待发布图像中的对象为用户的面部为例，采用训练后密集连接卷积网络(DenseNet)对用户在消息交互系统中的待发布图像进行识别，判断待发布图像中是否包含预警对象或预设的与预警对象存在关联关系的用户，当待发布图像中包含了预警对象或预设的与预警对象存在关联关系的用户，则说明待发布图像中对象的身份为预设目标身份。当待发布图像中不包含预警对象或预设的与预警对象存在关联关系的用户，则说明待发布图像中对象的身份不为预设目标身份。
203、服务器将待发布图像进行发布。
例如，服务器将获取到待发布图像进行发布的方式有多种，比如可以发布消息交互系统中的群组、内容交互平台或部分用户，使得消息交互系统中全部或者部分用户可以查看到发布者发布的待发布图像。在待发布图像进行发布过程中，可以指定部分用户可见或者不可见。
其中，服务器将待发布图像进行发布时，可以实时发布，也可以根据实际应该需要设定一定时间将待发布图像延时发布。
需要说明的是步骤202和203的执行可以不分先后。服务器在获取到消息交互系统中待发布的图像后，可以先识别所述待发布图像中对象的身份，再将待发布图像进行发布，也可以先将待发布图像进行发布，再来识别待发布图像中对象的身份，最后还可以将待发布图像进行发布的同时对待发布图像中对象的识别进行识别。
204、当待发布图像中对象的身份为预设目标身份时，服务器确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识。
其中，身份标识可以用于在消息交互系统中唯一标识或区分用户的身份，比如，可以包括消息交互系统中的用户账号等信息。
其中，预设目标身份可以为消息交互系统中需要进行图像预警的身份，比如，可以包括需要进行图像预警的用户身份。其中，发布者为消息交互系统内发布图像的用户，可以包括直接发布者和间接发布者。直接发布者可以包括在消息交互系统中直接发布图像的用户，比如，用户A在消息交互系统中提交发布图像的请求，将待发布图像上传或发送给服务器，此时用户A即为待发布图像在消息交互系统中的直接发布者。间接发布者可以包括在消息交互系统中将待发布图像通过传递数据链发送给直接发布者的一个或多个用户，此时的发送与发布的区别在于，发布是在消息交互系统上其他用户可以看见，发送仅能在发送端和接收端的两个或多个用户才能看见。比如，在消息交互系统中，用户B将待发布图像发送给用户C，用户C又将接收到的待发布图像发送给了用户A，用户A将接收到的待发布图像发布到消息交互系统中，此时，用户A为直接发布者，用户B和用户C就为间接发布者。
其中，发布者的身份标识为在消息交互系统中发布图像的终端对应的用户的身份标识。
例如，获取直接发布者的身份标识时，具体过程如下：
比如，当服务器识别出待发布图像中对象的身份为预设目标身份时，检索消息交互系统的日志，获取待发布图像上传到消息交互系统的上传路径，通过上传路径检索到待发布图像在消息交互系统中发布者的账号，从而确定待发布图像的发布者在消息交互系统中的身份标识。
在一些实施例中，确定直接上传或发送待发布图像的发布者在消息交互系统中的身份标识后，通过检索待直接发布者在消息交互系统中消息交互记录，当消息交互记录中包含待发布图像时，搜索待发布图像的原始来源，获取待发布图像在消息交互记录中的全部传递/发送链数据，在传递/发送链数据中检索间接上传或发送的间接发布者的身份标识。
例如，通过检索发布路径，服务器确定待发布图像1在消息交互系统中的发布者的账号，比如发布者在消息交互系统中的账号为A1，服务器检索该账号在消息交互系统中的消息交互记录，当A1在消息交互系统中消息交互记录中存在该待发布图像1时，对该消息交互记录进行分析，判断待发布图像1的来源。当待发布图像1是由A1在消息交互系统中的好友A2发送的，获取好友A2在消息交互系统中的身份信息，并对A2在消息交互系统中的消息交互记录进行检索，判断A2的待发布图像1的来源，如果待发布图像1也是A2在消息交互系统中接收到的，则继续查询待发布图像1的最终来源，最后获取待发布图像1在消息交互系统传递数据链中的关联的所有用户的账号。当待发布图像1是由用户1在消息交互系统的群组中下载或保存的，查询所在群组的消息交互记录，获取在群组中发送待发布图像1的A3，通过检索A3在消息交互系统中的消息交互记录，查询到待发布图像1的来源，通过层层查询或检索，最后获取待发布图像1在消息交互系统传递数据链中的关联的所有用户的账号。
205、当第一身份标识与预设目标身份对应的第二身份标识不相同时，服务器确定第一身份标识和第二身份标识在消息交互系统中的用户关系。
其中，用户关系可以包括用户在消息交互系统的关系，比如好友关系、非好友关系等。
例如，以第一身份标识在消息交互系统中的账号B1，第二身份标识在消息交互系统中的账号B2为例来说明，当消息交互系统中B1和B2不相同时，服务器检索账号B1在消息交互系统中所有的好友关系，得到B1在消息交互系统中的好友列表。在B1的好友列表中检索是否包含B2，当B1的好友列表中包含B2时，说明B1和B2在消息交互系统中为好友关系，即第一身份标识与第二身份标识在消息交互系统中存在关联关系。当B1的好友列表中不含B2时，说明B1和B2在消息交互系统中为非好友关系，即第一身份标识与第二身份标识在消息交互系统中不存在关联关系。对于检索或查询到的第一身份标识对应包括多个账号时，也采用上述方法，确定第一身份标识对应的全部账号与第二身份标识对应的全部账号的用户关系。
206、根据第一身份标识和第二身份标识确定的用户关系结果，服务器确定第一身份标识对应的预警等级。
当第一身份标识与第二身份标识不存在关联关系时，向所述第二身份标识对应的终端发送预警信息，对已发布图像中的对象进行模糊化处理。
例如，以第一身份标识在消息交互系统中的账号B1，第二身份标识在消息交互系统中的账号B2为例来说明，当B1与B2在消息交互系统不为好友关系时，向B2对应的终端发送预警信息。比如，可以发送一条包含图片链接和处理链接的预警信息，点击图片链接可以查询到待发布图像的详细信息，待发布图像的详细信息可以包括发布者在消息交互系统中的账号、发布地点和匹配待发布图像的文字信息等；点击处理链接可以在消息交互系统中对待发布图像的发布者发起投诉，接收到B2对应的终端发送的投诉请求后，可以撤回已发布图像或对已发布图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
当第一身份标识与第二身份标识存在关联关系时，获取第一身份标识与第二身份标识之间的互动行为信息，基于互动行为信息，确定第一身份标识对应的预警等级。
其中，互动行为信息包括第一身份标识与第二身份标识在消息交互系统中的多个类型的互动行为指标，比如单向互动、双向互动和共同参与等。
例如，单向互动可以包括点赞、评论、转发和关注等。双向互动可以包括添加好友、消息交互等。共同参与可以包括在共同的群组里发生消息交互、存在共同的好友等。
在一实施例中，对多个类型的互动行为指标进行加权，得到加权结果，确定加权结果落入的预警范围，根据加权结果落入的预警范围对应的预警等级，确定第一身份标识对应的预警等级。
例如，以互动行为包括单向互动、双向互动和共同参与为例，获取第一身份标识与第二身份标识的多个类型互动行为指标，比如建立关联关系时间长短、消息交互的频率、在消息交互系统中共同关联关系用户和关联关系群组的数量等信息。按照亲密度的权重对以上类型互动行为指标进行加权，比如将建立关联关系时间长短的加权系数定为X1，消息交互的频率的加权系数定为X2，在消息交互系统中共同关联关系用户的数量的加权系数定为X3，在消息交互系统中共同关联关系群组的数量X4，其中四个互动行为指标的加权系数之和为1。对上述四个互动行为指标的数据进行处理，将处理后的数据乘以与之对应的加权系数，得到第一身份标识加权之后的加权值Y。判断加权值Y与预设的预警范围之间的关系。比如第一预警等级的预警范围为[0,Y1],第二预警等级的预警范围为(Y1,Y2]，第三预警等级的预警范围为(Y3,Y4]，以此类推，等级划分越细，预警情况越智能。以划分三级预警等级为例，判断第一身份标识加权之后的加权值Y与预警范围中阈值Y1,Y2,Y3,Y4的关系，当Y小于等于Y1时，则第一身份标识对应的预警等级为第一预警等级；当Y大于Y1小于等于Y2时，则第一身份标识对应的预警等级为第二预警等级；当Y大于Y2小于等于Y3时，则第一身份标识对应的预警等级为第三预警等级。
207、根据第一身份标识对应的预警等级，服务器按预设策略向第二身份标识对应的终端发送预警信息。
其中，预警信息可以包括一条包含图片链接和处理链接的预警信息，用户点击图片链接可以查询到待发布图像的详细信息，待发布图像的详细信息可以包括发布者在消息交互系统中的账号、发布地点和匹配待发布图像的文字信息等。点击处理链接可以在消息交互系统中对待发布图像的发布者发起投诉，接收到第二身份标识对应的终端发送的投诉请求后，可以将已发布图像撤回或对已发布图图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
例如，以划分三种预警等级为例，当第一身份标识对应的预警等级为第一预警等级时，将第一预警等级对应的预警信息发送给第二身份标识对应的终端。当未在规定时间内接受到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第一预警等级对应的预警信息，若在规定时间内仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第一预警等级对应的预警信息，其中规定时间为任意时间值。当发送次数达到规定次数时，若仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，可以撤回已发布图像或对已发布图图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
当第一身份标识对应的预警等级为第二预警等级时，将第二预警等级对应的预警信息发送给第二身份标识对应的终端。当未在规定时间内接受到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第二预警等级对应的预警信息，若在规定时间内仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，继续向第二身份标识对应的终端发送第二预警等级对应的预警信息，其中规定时间为任意时间值。当发送次数达到规定次数时，若仍未接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，停止向第二身份标识对应的终端发送第二预警等级对应的预警信息。
当第一身份标识对应的预警等级为第三预警等级时，将第三预警等级对应的预警信息发送给第二身份标识对应的终端。
其中，预警等级可以按照实际需要来划分，对应的预警信息也可以按照实际需求预设。发送次数和发送频率也可以按照实际需求来设定。预警等级不一样，发送的预警信息也可以不同，预设的发送策略也可以不同。
在一实施例中，接收到第二身份标识对应的终端发起的针对预警信息的响应信息时，按照预设策略对第一身份标识对应终端的已发布图像进行处理。比如，可以撤回已发布图像或对已发布图像进行模糊化处理。比如，可以对已发布图像中的预警对象局部或者全部添加马赛克，也可以对已发布图像中的预警对象局部或者全部添加阴影处理。
例如，第二身份标识对应的终端接收到服务器发送的预警信息，如图2c所示，用户点击投诉或处理链接，服务器接收到用户针对预警信息的响应信息后，服务器按照预设处理策略对待发布图像进行处理，比如可以撤回已发布图像或对已发布图像进行模糊化处理，处理完成后，第二身份标识对应的终端接收到服务器的反馈信息，如图2d所示。
例如，发布者的第一身份标识对应的终端接收到服务器发送的提示信息，如图2e所示，发布者在提示信息的界面可以选择是否撤回或删除已发布图像，当发布者选择删除或撤回时，此时第二身份标识对应的终端接收到服务器的反馈信息，如图2d所示。当发布者选择不删除或撤回时，服务器对已发布图像进行模糊化处理，如图2f所示。当已发布图像完成模糊化处理后，第二身份标识对应的终端也接收到服务器的反馈信息，如图2d所示。
由以上可知，本实施例在服务器获取消息交互系统中待发布图像之后，服务器识别待发布图像中对象的身份，将所述待发布图像进行发布，当待发布图像中对象的身份为预设目标身份时，服务器确定待发布图像的发布者在所述消息交互系统中的第一身份标识；然后，当第一身份标识与预设目标身份的第二身份标识不相同时，服务器按预设发送策略向第二身份标识对应的终端发送预警信息。由于该方案利用识别待发布图像中对象的目标身份，向预警对象发送预警信息，可以帮助预警对象针对发布者发送包含预警对象的图像及时干预或维权。
为了更好的实施以上方法，本发明实施例还提供一种图像预警装置，该图像预警装置可以集成在网络设备中，该网络设备可以包括服务器和终端等设备。
例如，如图3a所示，该图像预警装置可以包括获取单元301、识别单元302、确定单元303和发送单元304，如下：
(1)获取单元301；
获取单元301，用于获取消息交互系统中待发布图像。
其中，待发布图像可以包括提交图像交互请求后，已上传至消息交互系统进行存储或缓存，但在消息交互系统中还未发布的图像，此时消息交互系统中的其他用户仍无法查看。可以包括单张或多张照片、动态图像和视频等图像，具体可参加前面的方法实施例，在此不作赘述。
(2)识别单元302；
识别单元302，用于识别所述待发布图像中对象的目标身份。
例如，该识别单元302，具体可用于采用训练后的身份识别模型对获取到的待发布图像中对象的目标身份进行识别。
比如，该身份识别模型可以为密集连接卷积网络，对待发布图像中的对象的目标身份进行识别，具体识别过程可参见前面的方法实施例，在此不作赘述。
(3)发布单元303；
发布单元303，用于将所述待发布图像进行发布。
比如，发布单元303，具体用于将获取到待发布图像进行发布，发布的方式有多种，比如可以发布消息交互系统中的群组、内容交互平台或部分用户，使得消息交互系统中全部或者部分用户可以查看到发布者发布的待发布图像。
(3)确定单元304；
确定单元304，用于当所述待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识。
例如，确定单元304，具体可用于，当识别出待发布图像中对象的身份为预设目标身份时，通过检索待发布图像的上传路径，确定上传待发布图像的用户在消息交互系统中的身份标识。
(4)发送单元305；
发送单元305，用于当第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端按预设策略发送预警信息。
其中，预设目标身份的身份标识可以包括预设目标身份在消息交互系统中预设的一个或多个对应的账号或身份信息。
其中发送单元305可以包括第一判断子单元3051、第二判断子单元3052和发送子单元3053，如图3b所示，具体如下：
第一判断子单元3051，用于当第一身份标识与预设目标身份对应的第二身份标识不相同时，判断第一身份标识与第二身份标识在消息交互系统中的用户关系；
第二判断子单元3052，用于根据第一身份标识与第二身份标识确定的用户关系后，判断第一身份标识对应的预警等级；
发送子单元3053，用于根据第一身份标识对应的预警等级，按预设策略向第二身份标识对应的终端发送预警信息。
例如，当第一身份标识与预设目标身份的第二身份标识不相同时，第一判断子单元3041判断第一身份标识与第二身份标识在消息交互系统中的用户关系。当第一身份标识与第二身份标识不存在关联关系时，发送子单元3043向第二身份标识对应的终端发送预警信息，对已发布图像中的对象进行模糊化处理。当第一身份标识与第二身份标识存在关联关系时，第二判断子单元3042获取第一身份标识与第二身份标识之间的互动行为信息，基于互动行为信息，确定第一身份标识对应的预警等级。根据第一身份标识对应的预警等级，3043发送子单元按预设策略向第二身份标识对应的终端发送预警信息。
在一实施例中，参考图3c，该图像预警装置还可以包括接收单元306、采集单元307和训练单元308，如下：
(1)接收单元306；
接收单元306，用于接收针对预警对象的预警请求。
例如，接收单元具体可用于接收预警对象提交的预警请求，同时将用于验证预警对象身份的消息交互交互系统的身份标识进行存储，作为预警对象预设在服务器中的第二身份标识。
(2)采集单元307,；
采集单元307，用于根据所述预警请求，采集所述预警对象的图像作为训练样本。
例如，采集单元307，具体可用于采集提交预警请求的用户的图像可以包括用户本人的图像和/或与用户本人存在关联关系的人或物品的图像，比如预警对象的家人或预警对象的专属物品。采集提交预警请求的用户的图像的方式可以包括终端直接拍摄、用户自行导入和扫描上传至服务器。
(3)训练单元308；
训练单元308，用于利用所述预警对象的图像样本对预设的身份识别模型进行训练，得到训练后的身份识别模型。
例如，训练单元308，具体可用于将采集单元307采集的预警对象的图像样本，对预设的身份识别模型进行训练，得到训练后的身份识别模型。
具体实施时，以上各个单元可以作为独立的实体来实现，也可以进行任意组合，作为同一或若干个实体来实现，以上各个单元的具体实施可参见前面的方法实施例，在此不作赘述。
由以上可知，本实施例的图像预警装置由获取单元301获取消息交互系统中待发布图像，可以由识别单元302对待发布图像中对象的目标身份进行识别，可以由发布单元303将待发布图像进行发布，当待发布图像中对象的身份为预设目标身份时，可以由确定单元304确定待发布图像的发布者在消息交互系统中的第一身份标识，当第一身份标识与预设目标身份的第二身份标识不相同时，可以由发送单元305按预设发送策略向第二身份标识对应的终端发送预警信息。其中，可以由接收单元306接收针对预警对象的预警请求，根据预警请求，可以由采集单元307采集预警对象的图像作为训练样本，可以由训练单元308根据训练样本对预设身份识别模型进行训练，得到训练后的身份识别模型，可以用于识别单元302对发布图像中对象的目标身份进行识别。该方案利用识别待发布图像中对象的目标身份，根据预警等级向预警对象发送预警信息，可以帮助预警对象针对发布者发送包含预警对象的图像时及时干预或维权。
本发明实施例还提供一种服务器，如图4所示，其示出了本发明实施例所涉及的服务器的结构示意图，具体来讲：
该服务器可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解，图4中示出的服务器结构并不构成对服务器的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。其中：
处理器401是该服务器的控制中心，利用各种接口和线路连接整个服务器的各个部分，通过运行或执行存储在存储器402内的软件程序和/或模块，以及调用存储在存储器402内的数据，执行服务器的各种功能和处理数据，从而对服务器进行整体监控。可选的，处理器401可包括一个或多个处理核心；优选的，处理器401可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器401中。
存储器402可用于存储软件程序以及模块，处理器401通过运行存储在存储器402的软件程序以及模块，从而执行各种功能应用以及数据处理。存储器402可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据服务器的使用所创建的数据等。此外，存储器402可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地，存储器402还可以包括存储器控制器，以提供处理器401对存储器402的访问。
服务器还包括给各个部件供电的电源403，优选的，电源403可以通过电源管理系统与处理器401逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该服务器还可包括输入单元404，该输入单元404可用于接收输入的数字或字符信息，以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出，服务器还可以包括显示单元等，在此不再赘述。具体在本实施例中，服务器中的处理器401会按照如下的指令，将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器402中，并由处理器401来运行存储在存储器402中的应用程序，从而实现各种功能，如下：
获取消息交互系统中待发布图像之后，识别待发布图像中对象的身份，将待发布图像进行发布，然后，当待发布图像中对象的身份为预设目标身份时，确定待发布图像的发布者在所述消息交互系统中的第一身份标识；最后，当第一身份标识与预设目标身份的第二身份标识不相同时，按预设发送策略向第二身份标识对应的终端发送预警信息。
例如，具体可以包括获取消息交互系统中待发布图像之后，通过训练后身份识别模型识别待发布图像中对象的目标身份，识别出待发布图像中对象的身份后，将待发布图像进行发布，当待发布图像中对象的身份为预设目标身份时，通过检索待发布图像的发布路径确定待发布图像的发布者在所述消息交互系统中的第一身份标识，然后，当第一身份标识与预设目标身份的第二身份标识不相同时，确定第一身份标识与第二身份标识在消息交互系统中的用户关系，当第一身份标识与第二身份标识在消息交互系统中存在关联关系时，获取第一身份标识与第二身份标识之间的互动行为信息，基于互动行为信息，确定第一身份标识对应的预警等级；根据第一身份标识对应的预警等级，按预设策略向第二身份标识对应的终端发送预警信息。
可选的，该身份识别模型除了可以由运维人员预先进行设置之外，也可以由该图像预警装置自行训练来得到，即处理器401还可以运行存储在存储器402中的应用程序，从而实现以下功能：
接收预警对象的预警请求，根据针对预警对象的预警请求，采集预警对象的图像样本，利用身份识别模型对采集到的预警对象的图像样本进行识别，得到预测后的识别结果，根据预警对象的图像样本的真实结果和该预测的识别结果对该身份识别模型进行收敛，得到训练后身份识别模型。
以上各个操作的具体实施可参见前面的实施例，在此不作赘述。
由以上可知，本实施例的网络设备在获取消息交互系统中待发布图像之后，识别待发布图像中对象的身份，将待发布图像进行发布，当待发布图像中对象的身份为预设目标身份时，确定待发布图像的发布者在所述消息交互系统中的第一身份标识；然后，当第一身份标识与预设目标身份的第二身份标识不相同时，按预设发送策略向第二身份标识对应的终端发送预警信息；由于该方案利用识别待发布图像中对象的身份，向预警对象发送预警信息，可以帮助预警对象针对发布者发送包含预警对象的图像时及时干预或维权。
本领域普通技术人员可以理解，上述实施例的各种中的全部或部分步骤可以通过指令来完成，或通过指令控制相关硬件来完成，该指令可以存储与一计算机可读存储介质中，并由处理器进行加载和执行。
为此，本申请实施例提供一种存储介质，其中存储有多条指令，该指令能够被处理器进行加载，以执行本申请实施例所提供的任一种虚拟资源的转移方法中的步骤。例如，该指令可以执行如下步骤：
获取消息交互系统中待发布图像之后，识别待发布图像中对象的目标身份，将待发布图像进行发布，当待发布图像中对象的目标身份为预设目标身份时，确定待发布图像的发布者在所述消息交互系统中的第一身份标识；然后，当第一身份标识与预设目标身份的第二身份标识不相同时，按预设发送策略向第二身份标识对应的终端发送预警信息。
例如，具体可以包括获取消息交互系统中待发布图像之后，通过训练后身份识别模型识别待发布图像中对象的身份，识别出待发布图像中对象的身份后，将待发布图像进行发布，当待发布图像中对象的身份为预设目标身份时，通过检索待发布图像的发布路径确定待发布图像的发布者在所述消息交互系统中的第一身份标识，然后，当第一身份标识与预设目标身份的第二身份标识不相同时，确定第一身份标识与第二身份标识在消息交互系统中的用户关系，当第一身份标识与第二身份标识在消息交互系统中存在关联关系时，获取第一身份标识与第二身份标识之间的互动行为信息，基于互动行为信息，确定第一身份标识对应的预警等级；根据第一身份标识对应的预警等级，按预设策略向第二身份标识对应的终端发送预警信息。
可选的，该身份识别模型除了可以由运维人员预先进行设置之外，也可以由该图像预警装置自行训练来得到，即处理器401还可以运行存储在存储器402中的应用程序，从而实现以下功能：
接收预警对象的预警请求，根据针对预警对象的预警请求，采集预警对象的图像样本，利用身份识别模型对采集到的预警对象的图像样本进行识别，得到预测后的识别结果，根据预警对象的图像样本的真实结果和该预测的识别结果对该身份识别模型进行收敛，得到训练后身份识别模型。
以上各个操作的具体实施可参见前面的实施例，在此不再赘述。
其中，该存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取记忆体(RAM，Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令，可以执行本发明实施例所提供的任一种图像预警方法中的步骤，因此，可以实现本发明实施例所提供的任一种图像预警方法所能实现的有益效果，详见前面的实施例，在此不再赘述。
以上对本发明实施例所提供的一种图像预警方法、装置和存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (11)

1.一种图像预警方法，其特征在于，包括：
获取消息交互系统中待发布图像；
识别所述待发布图像中对象的身份；
将所述待发布图像进行发布；
当所述待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识；
当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
2.根据权利要求1所述的图像预警方法，其特征在于，当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息，包括：
当所述第一身份标识与预设目标身份的第二身份标识不相同时，获取所述第一身份标识在所述消息交互系统中的用户关系链数据；
根据所述用户关系链数据，确定所述第一身份标识与所述第二身份标识在所述消息交互系统中的用户关系，得到所述用户关系确定结果；
根据所述用户关系确定结果，向所述第二身份标识对应的终端发送预警信息。
3.根据权利要求2所述的图像预警方法，其特征在于，根据所述用户关系确定结果，向所述第二身份标识对应的终端发送预警信息，包括：
当所述用户关系确定结果包括所述第一身份标识与所述第二身份标识具有关联关系时，确定第一身份标识对应的预警等级；
基于所述预警等级，向所述第二身份标识对应的终端发送预警信息。
4.根据权利要求3所述的图像预警方法，其特征在于，当所述用户关系确定结果包括所述第一身份标识与所述第二身份标识具有关联关系时，确定第一身份标识对应的预警等级，包括：
当所述用户关系确定结果包括所述第一身份标识与所述第二身份标识具有关联关系时，在所述消息交互系统中，获取所述第一身份标识与所述第二身份标识之间的互动行为信息；
基于所述互动行为信息，确定所述第一身份标识对应的预警等级，所述互动行为信息包括多个类型的互动行为指标。
5.根据权利要去4所述的图像预警方法，其特征在于，基于所述互动行为信息，确定所述第一身份标识对应的预警等级，所述互动行为信息包括多个类型的互动行为指标，包括：
对所述多个类型的互动行为指标进行加权，得到加权结果；
确定所述加权结果落入的预警范围；
根据所述加权结果落入的所述预警范围对应的预警等级，确定所述第一身份标识对应的预警等级。
6.根据权利要求3所述的图像预警方法，其特征在于，还包括：
当所述用户关系确定结果包括所述第一身份标识与所述第二身份标识不具有关联关系时，向所述第二身份标识对应的终端发送预警信息，对已发布的所述待发布图像中的对象进行模糊化处理。
7.根据权利要求1所述的图像预警方法，其特征在于，识别所述待发布图像中对象的目标身份，包括：
采用训练后身份识别模型对所述待发布图像中对象进行识别，得到已发布的所述待发布图像中对象的身份识别结果。
8.根据权利要求7所述的图像预警方法，其特征在于，采用训练后身份识别模型对所述待发布图像中对象进行识别之前，还包括：
接收针对预警对象的预警请求；
根据所述预警请求，采集所述预警对象的图像作为训练样本；
利用所述预警对象的图像样本对预设的身份识别模型进行训练，得到训练后身份识别模型。
9.一种图像预警装置，其特征在于，包括：
获取单元，用于获取消息交互系统中待发布图像；
识别单元，用于识别所述待发布图像中对象的目标身份；
发布单元，用于将所述待发布图像进行发布；
确定单元，用于当所述待发布图像中对象的身份为预设目标身份时，确定所述待发布图像的发布者在所述消息交互系统中的第一身份标识；
发送单元，用于当所述第一身份标识与预设目标身份的第二身份标识不相同时，向所述第二身份标识对应的终端发送预警信息。
10.根据权利要求9所述的图像预警装置，其特征在于，还包括：
接收单元，用于接收针对预警对象的预警请求；
采集单元，用于根据所述预警请求，采集所述预警对象的图像作为训练样本；
训练单元，用于利用所述预警对象的图像样本对预设的身份识别模型进行训练，得到训练后的身份识别模型。
11.一种存储介质，其特征在于，所述存储介质存储有多条指令，所述指令适于处理器进行加载，以执行权利要求1至8任一项所述的图像预警方法中的步骤。
CN201910551282.7A 2019-06-24 2019-06-24 一种图像预警方法、装置和存储介质 Pending CN110336739A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910551282.7A CN110336739A (zh) 2019-06-24 2019-06-24 一种图像预警方法、装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910551282.7A CN110336739A (zh) 2019-06-24 2019-06-24 一种图像预警方法、装置和存储介质

Publications (1)

Publication Number Publication Date
CN110336739A true CN110336739A (zh) 2019-10-15

Family

ID=68142806

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910551282.7A Pending CN110336739A (zh) 2019-06-24 2019-06-24 一种图像预警方法、装置和存储介质

Country Status (1)

Country Link
CN (1) CN110336739A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116318985A (zh) * 2023-03-02 2023-06-23 中承信达(天津)技术股份公司 一种基于大数据的计算机网络安全预警系统及方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8331618B1 (en) * 2008-12-16 2012-12-11 Symantec Corporation Method and apparatus for monitoring instant messaging with visual identification
CN103282925A (zh) * 2010-12-22 2013-09-04 英特尔公司 在上载到因特网网站的多媒体中保护用户隐私的系统和方法
US20140162598A1 (en) * 2010-11-17 2014-06-12 Antony-Euclid C. Villa-Real Customer-controlled instant-response anti-fraud/anti-identity theft devices (with true- personal identity verification), method and systems for secured global applications in personal/business e-banking, e-commerce, e-medical/health insurance checker, e-education/research/invention, e-disaster advisor, e-immigration, e-airport/aircraft security, e-military/e-law enforcement, with or without NFC component and system, with cellular/satellite phone/internet/multi-media functions
US20140294257A1 (en) * 2013-03-28 2014-10-02 Kevin Alan Tussy Methods and Systems for Obtaining Information Based on Facial Identification
US20160182816A1 (en) * 2014-12-23 2016-06-23 Ebay Enterprise, Inc. Preventing photographs of unintended subjects
CN106384058A (zh) * 2016-09-12 2017-02-08 广东欧珀移动通信有限公司 发布图片的方法和装置
US20170099291A1 (en) * 2015-10-01 2017-04-06 International Business Machines Corporation Protecting privacy in an online setting
CN109034661A (zh) * 2018-08-28 2018-12-18 腾讯科技（深圳）有限公司 用户识别方法、装置、服务器以及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8331618B1 (en) * 2008-12-16 2012-12-11 Symantec Corporation Method and apparatus for monitoring instant messaging with visual identification
US20140162598A1 (en) * 2010-11-17 2014-06-12 Antony-Euclid C. Villa-Real Customer-controlled instant-response anti-fraud/anti-identity theft devices (with true- personal identity verification), method and systems for secured global applications in personal/business e-banking, e-commerce, e-medical/health insurance checker, e-education/research/invention, e-disaster advisor, e-immigration, e-airport/aircraft security, e-military/e-law enforcement, with or without NFC component and system, with cellular/satellite phone/internet/multi-media functions
CN103282925A (zh) * 2010-12-22 2013-09-04 英特尔公司 在上载到因特网网站的多媒体中保护用户隐私的系统和方法
US20140294257A1 (en) * 2013-03-28 2014-10-02 Kevin Alan Tussy Methods and Systems for Obtaining Information Based on Facial Identification
US20160182816A1 (en) * 2014-12-23 2016-06-23 Ebay Enterprise, Inc. Preventing photographs of unintended subjects
US20170099291A1 (en) * 2015-10-01 2017-04-06 International Business Machines Corporation Protecting privacy in an online setting
CN106384058A (zh) * 2016-09-12 2017-02-08 广东欧珀移动通信有限公司 发布图片的方法和装置
CN109034661A (zh) * 2018-08-28 2018-12-18 腾讯科技（深圳）有限公司 用户识别方法、装置、服务器以及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116318985A (zh) * 2023-03-02 2023-06-23 中承信达(天津)技术股份公司 一种基于大数据的计算机网络安全预警系统及方法

Similar Documents

Publication Publication Date Title
US8521835B2 (en) Collection and distribution of sense-on-demand data
CN106228386B (zh) 一种信息推送方法及装置
CN106022649B (zh) 工程项目监理、造价、招标、咨询的综合管理系统
CN105493146A (zh) 用于实现用户独自测定身体尺寸和身材信息和在网络环境中利用此类信息的装置、框架以及方法
CN111159587B (zh) 用户访问信息处理方法、装置及终端设备
CN104573998B (zh) 求职数据的处理方法和装置
CN110598103B (zh) 一种内容聚合方法、装置、计算机设备和存储介质
CN111428830B (zh) 房屋二维码生成及处理方法、商家数据处理方法、系统
CN114331512B (zh) 一种可视化数据建模及大数据画像的方法
CN109615340A (zh) 公益活动中的活动数据处理方法及其系统
CN111027995A (zh) 一个自动传播推广和运行的社区团购系统
CN107133888A (zh) 知识产权的求购、求售交易方法、求购方、求售方客户端
CN111681781A (zh) 一种用于远程医疗的分布式医学检验咨询系统及实现方法
CN110232591A (zh) 一种页面推广方法、页面推广系统及服务器
CN110336739A (zh) 一种图像预警方法、装置和存储介质
CN103839166A (zh) 用于产品价格信息的获取和分配的方法
CN103810361A (zh) 诊断系统及其方法
JP2003067593A (ja) 専門家サービス提供システム，専門家管理サーバ，コンピュータプログラム，記憶媒体および専門家管理サーバの運営方法
CN109672721A (zh) 媒体文件推送方法、装置、服务端及计算机可读存储介质
CN109559246A (zh) 入群审核方法、审核服务器、客户端及入群审核系统
JP2019061541A (ja) 仲介装置、仲介方法及びプログラム
CN109214764A (zh) 一种人力的远程监测方法及存储设备，及智能终端
CN110348807A (zh) 一种信息处理方法和相关装置
CN110399829A (zh) 证件信息比对方法、装置、存储介质及电子装置
KR102286180B1 (ko) 시니어 노하우 상담 중개 서비스 제공 시스템.

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination