CN109829379A - 信息处理方法、装置、服务器以及存储介质 - Google Patents
信息处理方法、装置、服务器以及存储介质 Download PDFInfo
- Publication number
- CN109829379A CN109829379A CN201811626276.5A CN201811626276A CN109829379A CN 109829379 A CN109829379 A CN 109829379A CN 201811626276 A CN201811626276 A CN 201811626276A CN 109829379 A CN109829379 A CN 109829379A
- Authority
- CN
- China
- Prior art keywords
- information
- violation
- result
- msu message
- punishment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本申请公开了一种信息处理方法、装置、服务器以及存储介质,涉及直播领域。该方法包括:获取第一审核信息,该第一审核信息包括第一用户针对违规信息的第一处罚结果,该违规信息对应直播房间的违规行为,获取针对该第一审核信息的第二审核信息,该第二审核信息包括第二用户基于该第一审核信息对该违规信息的第二处罚结果,根据第一审核信息以及第二审核信息,将第一审核信息与第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。本申请通过对违规信息进行互检,并将存在审核差异的违规信息分享至共享平台供审核人员讨论学习,降低不同审核人员的审核差异尺度,提升审核的一致性。
Description
技术领域
本申请涉及直播领域,更具体地,涉及一种信息处理方法、装置、服务器以及存储介质。
背景技术
随着直播行业的快速发展,越来越多的人开始作为主播进入直播行业,在不断丰富观众多样化观看需求的同时,也造成直播行业内主播生产的直播内容良莠不齐,有些甚至在社会上造成极为恶劣的影响,因此,直播平台都会引入大量的审核人员,以对直播平台上的直播内容进行监控。但是,目前审核人员的审核尺度和审核能力参差不齐,造成在直播内容的审核方面的巨大压力。
发明内容
鉴于上述问题,本申请提出了一种信息处理方法、装置、服务器以及存储介质,以解决上述问题。
第一方面,本申请实施例提供了信息处理方法,所述方法包括:获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为;获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果;根据所述第一审核信息以及所述第二审核信息,将所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
第二方面,本申请实施例提供了信息处理装置,所述装置包括:第一获取模块,用于获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为;第二获取模块,用于获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果;分享模块,用于根据所述第一审核信息以及所述第二审核信息,将至少一个所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
第三方面,本申请实施例提供了一种服务器,包括:存储器;一个或多个处理器,与所述存储器耦接;一个或多个程序,其中,所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行上述方法。
第四方面,本申请实施例提供了一种计算机可读取存储介质,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行上述方法。
本申请实施例提供的信息处理方法、装置、服务器以及存储介质,获取第一审核信息,该第一审核信息包括第一用户针对违规信息的第一处罚结果,该违规信息对应直播房间的违规行为,获取针对该第一审核信息的第二审核信息,该第二审核信息包括第二用户基于该第一审核信息对该违规信息的第二处罚结果,根据第一审核信息以及第二审核信息,将第一审核信息与第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台,从而通过对违规信息进行互检,并将存在审核差异的违规信息分享至共享平台供审核人员讨论学习,降低不同审核人员的审核差异尺度,提升审核的一致性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1示出了本申请实施例提供的信息处理方法及装置的应用场景图;
图2示出了本申请一个实施例提供的信息处理方法的流程示意图;
图3示出了本申请又一个实施例提供的信息处理方法的流程示意图;
图4示出了本申请的图3所示的信息处理方法的步骤S203的流程示意图;
图5示出了本申请再一个实施例提供的信息处理方法的流程示意图;
图6示出了本申请另一个实施例提供的信息处理方法的流程示意图;
图7示出了本申请实施例提供的客户端的第一种界面示意图;
图8示出了本申请实施例提供的客户端的第二种界面示意图;
图9示出了本申请实施例提供的客户端的第三种界面示意图;
图10示出了本申请实施例提供的客户端的第四种界面示意图;
图11示出了本申请实施例提供的客户端的第五种界面示意图;
图12示出了本申请实施例提供的信息处理装置的模块框图;
图13示出了本申请实施例用于执行根据本申请实施例的信息处理方法的服务器的框图;
图14示出了本申请实施例的用于保存或者携带实现根据本申请实施例的信息处理方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
请参阅图1,图1示出了本申请实施例提供的信息处理方法及装置的应用场景图。如图1所示,该应用场景包括服务器100、第一电子设备200以及第二电子设备300,该第一电子设备200可以安装有第一客户端,第二电子设备300可以安装有第二客户端。服务器100分别与第一电子设备200和第二电子设备300连接,可以理解,服务器100可以分别与多个第一电子设备200和多个第二电子设备300连接,具体地,该服务器100、第一电子设备200以及第二电子设备300位于无线网络或有线网络中,服务器100分别与第一电子设备200和第二电子设备300进行数据交互。
其中,第一电子设备200和第二电子设备300可以为移动电话或智能电话(例如,基于iPhone TM,基于Android TM的电话),便携式游戏设备(例如Nintendo DS TM,PlayStation Portable TM,Gameboy Advance TM,iPhone TM)、膝上型电脑、PDA、便携式互联网设备、音乐播放器以及数据存储设备等。
在一些实施例中,第一客户端安装在第一电子设备200内,例如,可以是安装在第一电子设备200的应用程序。用户在第一客户端通过第一帐号登录,则该第一帐号对应的所有信息可以存储在服务器100的存储空间内;同样的,在一些实施例中,第二客户端安装在第二电子设备300内,例如,可以是安装在第二电子设备300的应用程序。用户在第二客户端通过第二帐号登录,则该第二帐号对应的所有信息可以存储在服务器100的存储空间内。其中,服务器100可以是单独的服务器,也可以是服务器集群,可以是本地服务器,也可以是云端服务器。
则作为一种实施方式,该第一客户端可以是即时通信应用程序,且该第一客户端具有信息输入界面,用户在该界面内输入文本信息,该文本信息在第一客户端的聊天界面内显示。另外,该第二客户端也可以是即时通信应用程序,且该第二客户端具有信息输入界面,用户在该界面内输入文本信息,该文本信息在第二客户端的聊天界面内显示。
具体地,服务器100可以存储并更新能够在第一客户端和第二客户端上显示的文本信息、图片信息和/或视频信息。用户可以通过第一客户端或者第二客户端观看该文本信息、图片信息和/或视频信息。其中,服务器100将该文本信息、图片信息和/或视频信息发送至客户端,客户端在显示界面上展示该文本信息、图片信息和/或视频信息。
其中,随着直播行业的快速发展,越来越多的人开始作为主播进入直播行业。但是,发明人经过长期的研究发现,直播在不断丰富观众多样化观看需求的同时,也造成直播行业内主播生产的直播内容良莠不齐,因此,直播平台都会引入大量的审核人员,对直播平台上的直播内容进行监控,例如,于本申请中,审核人员可以通过第一电子设备200和/或第二电子设备300对直播内容进行监控审核,然而,目前审核人员的审核尺度和审核能力参差不齐,造成在直播内容的审核方面的巨大压力。
针对上述问题,发明人提出了本申请实施例提供的一种信息处理方法、装置、服务器以及存储介质,通过对违规信息进行互检,并将存在审核差异的违规信息分享至共享平台供审核人员讨论学习,降低不同审核人员的审核差异尺度,提升审核的一致性。其中,具体的信息处理方法在后续的实施例中进行详细的说明。
请参阅图2,图2示出了本申请一个实施例提供的信息处理方法的流程示意图。该方法应用于上述服务器,下面将针对图2所示的流程进行详细的阐述,所示信息处理方法具体可以包括以下步骤:
步骤S101:获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为。
在本实施例中,第一用户可以通过第一电子设备对直播房间进行监测,以及对直播房间的直播内容进行审核。其中,该直播房间可以包括主播进行直播的房间、可以包括播放小视频的房间、也可以包括播放图片的房间等,作为一种方式,主播的直播内容可以包括游戏类、音乐类、户外类等,在此不做限定。
作为一种实施方式,第一用户通过第一电子设备监测该直播房间是否存在违规信息,并在监测到该直播房间存在违规信息时,基于该违规信息生成第一处罚结果,其中,该第一处罚结果可以包括违规类型和违规惩罚,例如,该违规类型可以包括衣着暴露、涉黄、涉及政治等,该违规惩罚可以包括罚款、关闭房间、禁号等。其中,该违规信息对应直播房间的违规行为,以直播房间为主播进行直播的房间为例,第一用户可以对主播的语音数据或视频数据进行监测,若监测到包括商品广告、涉嫌赌博以及低俗谩骂等数据时,可以确定该直播房间存在违规行为,且可以获取该违规行为对应的违规信息。
另外,在本实施例中,该第一处罚结果可以是第一用户在第一电子设备输入或选择的处罚结果,且所述第一电子设备在检测到该第一处罚结果后,将第一处罚结果传输至服务器,以等待服务器进行处理。进一步地,服务器可以从其存储器中获取该第一审核结果,然后至少基于该第一审核结果生成第一审核信息,因此,可以理解的,每个第一审核信息和每个第一审核结果一一对应,作为一种方式,该第一审核信息可以包括第一审核结果以及该第一审核结果所对应的违规信息。
步骤S102:获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果。
在本实施例中,服务器在获取该第一审核信息后,将该第一审核信息发送至第二电子设备,以指示该第二电子设备所对应的第二用户基于该第一审核信息对该违规信息进行审核,并反馈第二审核信息,以实现对违规信息的再次审核。作为一种方式,该第一用户可以认为是违规信息的初审人员,该第二用户可以认为是违规信息的质检人员;作为另一种方式,该第一用户可以认为是违规信息的第一审核人员,该第二用户可以认为是违规信息的第二审核人员(互检人员),在此不做限定。
其中,作为一种实施方式,该第二用户可以仅对该违规信息进行审核得到第二处罚结果,然后基于该第二处罚结果生成第二审核信息,并通过所述第二电子设备传输至服务器,例如,当违规信息包括直播房间的主播暴露不该暴露的部位时,且该第二用户对该违规信息的第二审核结果为“涉黄”,那么,第二电子设备可以基于“涉黄”生成第二审核信息并传输至所述服务器。作为另一种实施方式,该第二用户可以对该违规信息和第一审核信息均进行审核得到第二处罚结果,然后基于该第二审核结果生成第二审核信息,并通过所述的第二电子设备传输至服务器,例如,当违规信息包括直播房间的主播暴露不该暴露的部位,且第一处罚结果为“衣着暴露”时,若第二用户对该违规信息的第二审核结果为涉黄,则第二电子设备可以判定第一处罚结果和第二处罚结果不一致,那么,第二电子设备可以基于“涉黄”以及“第一处罚结果和第二处罚结果不一致”共同生成所述第二审核信息,并传输至所述服务器。
步骤S103:根据所述第一审核信息以及所述第二审核信息,将所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
作为一种方式,若该第二用户仅对该违规信息进行审核得到第二处罚结果,那么服务器在获取第一审核信息和第二审核信息后,可以将第一审核信息和第二审核信息进行比较,以判断该第一审核信息和第二审核信息是否一致,并在第一审核信息和第二审核信息不一致时,获取第一审核信息和第二审核信息不一致的目标违规信息,例如,当第一审核信息包括“衣着暴露”且第二审核信息包括“涉黄”时,可以确定该第一审核信息和第二审核信息不一致,因此,可以获取对应的目标违规信息。作为另一种方式,若该第二用户对该违规信息和第一审核信息均进行审核得到第二处罚结果,那么,服务器可以直接从第二审核信息中获取第一审核结果和第二审核结果不一致的目标违规信息。
进一步地,服务器将第一审核信息和第二审核信息不一致的目标违规信息标记为共享信息,并将该目标违规信息分享至共享平台上进行展示,其中,该共享平台可以供所有审核人员进行浏览或讨论。具体地,每个审核人员可以对应一个账号信息,审核人员可以通过在电子设备登录该账号信息的方式进入该共享平台,并对分享在该共享平台上的目标违规信息进行浏览、学习、讨论、评论等,从而使得多个审核人员可以在共享平台学习不同目标违规信息的方式,降低每个审核员的审核差异尺度,提升审核的一致性。
作为一种可实施的方式,当该第二用户对该违规信息和第一审核信息均进行审核得到第二处罚结果,并基于该第二审核结果生成第二审核信息时,例如,当违规信息包括直播房间的主播暴露不该暴露的部位,第一处罚结果为“衣着暴露”,第二处罚结果为“涉黄”,则第二电子设备可以判定第一处罚结果和第二处罚结果不一致,那么,第二电子设备可以将直播房间的主播暴露不该暴露的部位的目标违规信息标记为共享信息,并分享至共享平台,在此不再赘述。
本申请一个实施例提供的信息处理方法,获取第一审核信息,该第一审核信息包括第一用户针对违规信息的第一处罚结果,该违规信息对应直播房间的违规行为,获取针对该第一审核信息的第二审核信息,该第二审核信息包括第二用户基于该第一审核信息对该违规信息的第二处罚结果,根据第一审核信息以及第二审核信息,将第一审核信息与第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台,从而通过对违规信息进行互检,并将存在审核差异的违规信息分享至共享平台供审核人员讨论学习,降低不同审核人员的审核差异尺度,提升审核的一致性。
请参阅图3,图3示出了本申请又一个实施例提供的信息处理方法的流程示意图。该方法应用于上述服务器,其中,所述第一审核信息的数量为多个,所述第二审核信息的数量为多个,且多个第一审核信息和多个第二审核信息一一对应,下面将针对图3 所示的流程进行详细的阐述,所示信息处理方法具体可以包括以下步骤:
步骤S201:当获取到所述第一处罚结果时,记录当前时刻。
在本实施例中,第一电子设备在检测到第一用户输入或选择的第一处罚结果时,实时将所述第一处罚结果上传至服务器,服务器在获取到所述第一处罚结果时,作为响应记录当前时刻。例如,当所述服务器在14点23分26秒获取到所述第一处罚结果时,那么,该服务器记录14点23分26秒,作为获取该违规信息的时间依据。
步骤S202:截取所述直播房间在所述当前时刻之前的指定时间段内的音视频数据,将所述音视频数据作为所述违规信息。
通常,第一用户对直播房间的违规信息进行审核并得到第一处罚结果上传至服务器的过程会持续一定的时长,也就是说,当所述服务器获取到第一处罚结果时,该直播房间当前的直播内容与第一用户进行审核的违规信息的内容不一致。因此,为了得到违规信息以还原违规过程,该服务器可以截取该直播房间在当前时刻之前的指定时间段内的音视频数据,将该音视频数据作为违规信息,其中,该直播房间的音视频数据可以但不限于包括直播语音、房间背景音乐、主播行为、公屏文本、公屏图片、弹幕文本等,在此不做限定,另外,该指定时间段对应的时长可以由服务器自动设置,也可以由用户手动设置,例如,该指定时间段可以为2分钟、5分钟、7分钟等,在此不做限定。
例如,假设该服务器在获取到第一处罚结果时记录的当前时刻为14点23分26 秒,且该指定时间段为5分钟,那么,该服务器可以截取所述直播房间从14点18分 26秒到14点23分26秒的时间段内的音视频数据作为该违规信息。
步骤S203:获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为。
其中,步骤S203的具体描述请参阅步骤S101,在此不再赘述。
请参阅图4,图4示出了本申请的图3所示的实施例提供的信息处理方法的步骤S203的流程示意图。下面将针对图4所示的流程进行详细的阐述,所示方法具体可以包括以下步骤:
步骤S2031:获取第一审核信息的投放数量以及多个违规类型中的每个违规类型的投放比例。
其中,服务器每获取一个第一审核信息,可以将该一个第一审核信息存放在存储器中,从而在存储器中可以存储多个第一审核信息,然后采用抽检的方式从多个第一审核信息中选取至少一个第一审核信息发送至第二电子设备,以指示该第二电子设备对应的第二用户对第一审核信息进行审核。作为一种方式,该抽检的方式可以包括随机抽检,也就是说,可以随机从多个第一审核信息中选取至少一个第一审核信息发送至第二电子设备进行再次审核。
作为另一种方式,该抽检的方式还可以包括按投放总数和违规类型的投放比例进行抽检,也就是说,可以根据第一审核信息的投放数量和每个违规类型的投放比例,从多个第一审核信息中选择与投放比例对应的第一审核信息发送至第二电子设备进行再次审核。因此,在本实施例中,首先获取该第一审核信息的投放数量以及获取该多个违规类型中的每个违规类型的投放比例,其中,该第一审核信息的投放数量可以包括100个、50个、80个等,该违规类型可以包括衣着暴露、涉黄、涉及政治、涉及赌博等,在此不做限定。
步骤S2032:基于所述投放数量和所述每个违规类型的投放比例,确定所述每个违规类型的数量。
可以理解的,在确定该第一审核信息的投放数量以及每个违规类型的投放比例后,可以计算得到每个违规类型的投放数量。例如,假设所述第一审核信息的投放数量为100个,违规类型为涉黄的投放比例为20%、违规类型为衣着暴露的投放比例为40%、违规类型为涉及政治的投放比例为10%,以及违规类型为涉及赌博的投放比例为30%,那么,通过计算可以得到违规类型为涉黄的数量为20个、违规类型为衣着暴露的数量为40个、违规类型为涉及政治的数量为10个、以及违规类型为涉及赌博的数量为30个。
步骤S2033:从所述每个违规类型的第一审核结果中选取对应数量的第一审核结果共同作为所述第一审核信息。
进一步地,根据每个违规类型的投放数量,从每个违规类型的多个第一审核结果中选取对应投放数量的第一审核结果,并将选取的所有违规类型的第一审核结果共同作为第一审核信息。例如,假设违规类型为涉黄的第一审核结果的总数量为200个、违规类型为衣着暴露的第一审核结果的总数量为150个、违规类型为涉及政治的总数量为100个,以及违规类型为涉及赌博的总数量为120个,那么,可以从200个违规类型为涉黄的第一审核结果中选取20个第一审核结果、从150个违规类型为衣着暴露的第一审核结果中选取40个第一审核结果、从100个违规类型为涉及政治的第一审核结果中选取10个第一审核结果、以及从120个违规类型为涉及赌博的第一审核结果中选取30个第一审核结果,然后将该20个涉黄的第一审核结果、40个衣着暴露的第一审核结果、10个涉及政治的第一审核结果以及30和涉及赌博的第一审核结果共同作为该第一审核信息。
另外,从每个违规类型的多个第一审核结果中选取对应投放数量的第一审核结果的方式可以包括:随机选取、按获取的时间从先到后的顺序选取、按获取的时间从后到先的顺序选取、或者按审核人员选取等,在此不做具体地限定。
步骤S204:获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果。
其中,步骤S204的具体描述请参阅步骤S102,在此不再赘述。
步骤S205:获取所述多个第一审核信息中,所述第一处罚结果为目标违规类型的违规信息的第一数量。
进一步地,该目标违规类型可以包括涉黄、衣着暴露、涉及政治、涉及赌博等,在此不做限定。在本实施例中,服务器在获取多个第一审核信息后,可以从多个第一审核信息对应的多个第一审核结果中确定该第一审核结果为目标违规信息的第一数量。例如,当第一审核结果的总数为100个,且分别为20个涉黄的第一审核结果、40 个衣着暴露的第一审核结果、10个涉及政治的第一审核结果以及30个涉及赌博的第一审核结果,那么,当该目标违规类型为涉黄时,可以确定目标违规类型的违规信息的第一数量为20个;当该目标违规信息为衣着暴露时,可以确定目标违规类型的违规信息的第一数量为40个。
步骤S206:获取所述多个第二审核信息中,针对所述第一处罚结果为所述目标违规类型的违规信息的第二处罚结果为非目标违规类型的第二数量。
进一步地,服务器在获取到目标违规类型的第一审核信息后,将该目标违规类型的第一审核信息发送至第二电子设备,以指示第二电子设备对应的第二用户对该第一审核结果为目标违规类型的违规信息进行审核,并反馈第二审核信息,其中,该第二审核信息对应的第二审核结果可以包括该违规信息是目标违规类型和非目标违规类型,因此,可以获取该多个第二审核信息中,针对第一处罚结果为目标违规类型的违规信息的第二处罚结果为非目标违规类型的第二数量。
例如,当所述目标违规类型为涉黄,且第一处罚结果为涉黄的第一数量为20个,可以获取该第二用户针对该第一处罚结果为涉黄的违规信息的第二处罚结果,可以理解的,该第二处罚结果可以包括20个涉黄、可以包括15个涉黄且5个衣着暴露、也可以包括10个涉黄且10个衣着暴露等,其中,当所述第二处罚结果为20个涉黄时,可以确定该第二数量为0个,当所述第二处罚结果为15个涉黄且5个衣着暴露时,可以确定该第二数量为5个,当所述第二处罚结果为10个涉黄且10个衣着暴露时,可以确定该第二数量为10个。
又例如,当所述目标违规类型为衣着暴露,且第一处罚结果为衣着暴露的第一数量为40个,可以获取该第二用户针对该第一处罚结果为衣着暴露的违规信息的第二处罚结果,可以理解的,该第二处罚结果可以包括40个衣着暴露、可以包括35个衣着暴露且5个涉黄、也可以包括20个衣着暴露且20个涉黄等,其中,当所述第二处罚结果为40个衣着暴露时,可以确定该第二数量为0个,当所述第二处罚结果为35个衣着暴露且5个涉黄时,可以确定该第二数量为5个,当所述第二处罚结果为20个衣着暴露且20个涉黄时,可以确定该第二数量为20个。
步骤S207:计算所述第二数量与所述第一数量的比例值。
可以理解的,该第二数量小于或等于该第一数量,在获取第一数量和第二数量后,可以计算第二数量与第一数量的比例值。例如,当所述目标违规类型为涉黄,第一数量为20个且第二数量为5个时,那么,该第二数量与第一数量的比例值为5/20=25%。
步骤S208:当所述比例值大于比例阈值时,将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台。
其中,服务器预先设置有比例阈值,该比例阈值用于作为第二数量和第一数量的比例值的判断依据,作为一种方式,该比例阈值可以由服务器自动设置,也可以由用户手动设置,在此不做限定。在本实施例中,当获取所述比例值后,将该比例值与比例阈值进行比较,以判断该比例值是否大于比例阈值,其中,当该比例值大于比例阈值时,可以认为第一用户和第二用户针对目标违规类型的违规信息的审核差异率较大,即该目标违规类型的违规信息的尺度难把握或审核难度较高,因此,可以将第一处罚结果为目标违规类型且第二处罚结果为非目标违规类型的目标违规信息标记为共享信息,分享至共享平台,即将目标违规类型中第一用户的第一处罚结果和第二用户的第二处罚结果不一致的目标违规信息标记为共享信息,分享至共享平台。
步骤S209:获取多个第三处罚信息,所述多个第三处罚信息包括多个其他用户在所述共享平台对所述目标违规信息的第三处罚结果。
作为一种方式,多个其他用户可以通过在电子设备登录与其对应的账号信息的方式进入该共享平台,并对分享在该共享平台上的目标违规信息进行审核,并输入或选择第三处罚结果,进而服务器可以基于多个第三处罚结果获取多个第三处罚信息。
步骤S210:获取多个第三处罚结果中的每个第三处罚结果的违规类型,并基于所述每个第三处罚结果的违规类型获取所述多个第三处罚结果的违规类型的第三数量。
可以理解的,多个其他用户针对目标违规信息在共享平台输入或选择的第三处罚结果可能相同,也可能不同。例如,针对直播房间的主播暴露不该暴露的部位的目标违规信息,多个其他用户输入或选择的第三处罚结果可能包括衣着暴露、涉黄等,因此,作为一种方式,可以分别获取多个第三处罚结果中的每个第三处罚结果的违规类型,再根据每个第三处罚结果的违规类型获取该多个第三处罚结果的违规类型的数量,记为第三数量。例如,该多个第三处罚结果包括衣着暴露、涉黄、涉及赌博三个违规类型时,可以确定该多个第三处罚结果的违规类型的第三数量为3个。
步骤S211:当所述第三数量大于第一数量阈值时,将所述目标违规信息进行归档。
其中,服务器预先设置有第一数量阈值,该第一数量阈值用于作为第三数量的判断依据,作为一种方式,该第一数量阈值可以由服务器自动设置,也可以由用户手动设置,在此不做限定。在本实施例中,当获取到第三数量时,将该第三数量与第一数量阈值进行比较,以判断该第三数量是否大于第一数量阈值,其中,当该第三数量大于第一数量阈值时,表征多个其他用户的针对该目标违规信息的第三处罚结果的分歧较大,即对于该目标违规信息的争议较大,因此,作为一种方式,可以将该目标违规信息进行归档,形成一个培训资料,以供审核人员进行学习。
步骤S212:推送并展示所述目标违规信息,或者将所述目标违规信息作为机器模型的学习数据,所述机器模型用于对违规信息进行学习并输出相应的处罚结果。
作为一种方式,该服务器可以将目标违规信息推送至共享平台、第一电子设备和/或第二电子设备等进行展示,以供多个审核人员进行浏览和学习,其中,该服务器可以间隔预设时长推送并展示该目标违规信息,可以实时推送并展示该目标违规信息,也可以按预设规则推送并展示该目标违规信息,在此不做限定。
作为另一种方式,该服务器可以将目标违规信息作为机器学习模型的学习数据,具体地,可以将该目标违规信息作为机器模型的输入信息,将该目标违规信息对应的处罚结果作为机器模型的输出信息,对该机器模型进行训练,从而可以将训练完成后的机器模型用于对违规信息对应的处罚结果进行获取,以将违规信息的人工审核更新为机器审核,提升审核效率和审核一致性。
另外,所述服务器还可以记录并存储各个用户的用户行为信息,其中,该用户行为信息可以包括用户分享至共享平台的违规信息的处罚结果、在共享平台对目标违规信息的点赞数量和/或在共享平台对于目标违规信息的评论数量等,然后基于该用户行为信息生成用户等级和/或用户积分等。可以理解的,该用户等级和用户积分与用户行为信息呈正相关,也就是说,用户在共享平台对目标违规信息的点赞数量越多,那么,该用户的用户等级和用户积分则越高。
进一步地,服务器还可以记录并存储各个用户针对每个违规类型的违规信息的审核差异率,即记录并存储各个用户针对每个违规类型的违规信息的第一审核结果和互检的第二审核结果的差异率,然后获取差异率较高的违规类型,并将差异率较高的违规类型对应的违规信息尽量多的推送给该用户进行审核或学习,以提升该用户在该违规类型方面的审核能力。
本申请又一个实施例提供的信息处理方法,相较于图2所示的信息处理方法,当获取到第一处罚结果时,记录当前时刻,截取直播房间在该当前时刻之前的指定时间段内的音视频数据,将该音视频数据作为违规信息,以还原违规过程形成违规信息,提供违规信息再审核的依据。另外,通过获取多个第一审核信息中,第一处罚结果为目标违规类型的违规信息的第一数量,获取多个第二审核信息中,针对第一处罚结果为目标违规类型的违规信息的第二处罚结果为非目标违规类型的第二数量,计算该第二数量与第一数量的比例值,当该比例值大于比例阈值时,将第一处罚结果为目标违规类型且第二处罚结果为非目标违规类型的目标违规信息标记为共享信息,分享至共享平台以提供尺度难以把握的目标违规信息供所有用户参考学习。以及获取多个第三处罚信息,该多个第三处罚信息包括其他用户在该共享平台对目标违规信息的第三处罚结果,获取多个第三处罚结果中的每个第三处罚结果的违规类型,并基于每个第三处罚结果的违规类型获取多个第三处罚结果的违规类型的第三数量,当该第三数量大于第一数量阈值时,将该目标违规信息进行归档,以及推送并展示该目标违规信息,或者将目标违规信息作为机器模型的学习数据,该机器模型用于对违规信息进行学习并输出相应的处罚结果,以将争议比较大的违规信息形成学习资料供审核人员学习或对审核人员进行培训,进而降低审核的差异率。
请参阅图5,图5示出了本申请再一个实施例提供的信息处理方法的流程示意图。该方法应用于上述服务器,下面将针对图5所示的流程进行详细的阐述,所示信息处理方法具体可以包括以下步骤:
步骤S301:当获取到所述第一处罚结果时,记录当前时刻。
步骤S302:截取所述直播房间在所述当前时刻之前的指定时间段内的音视频数据,将所述音视频数据作为所述违规信息。
其中,步骤S301-步骤S302的具体描述请参阅步骤S201-步骤S202,在此不再赘述。
步骤S303:获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为。
步骤S304:获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果。
步骤S305:根据所述第一审核信息以及所述第二审核信息,将所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
其中,步骤S303-步骤S305的具体描述请参阅步骤S101-步骤S103,在此不再赘述。
步骤S306:获取评论信息的第四数量,所述评论信息包括多个其他用户在所述共享平台输入的针对所述目标违规信息的评论。
作为一种方式,多个其他用户可以通过在电子设备登录与其对应的账号信息的方式进入该共享平台,并对分享在该共享平台上的目标违规信息进行评论,服务器可以记录并存储针对该目标违规信息的评论数量,记为第四数量。
步骤S307:当所述第四数量大于第二数量阈值时,将所述目标违规信息进行归档。
其中,服务器预先设置有第二数量阈值,该第二数量阈值用于作为第四数量的判断依据,作为一种方式,该第二数量阈值可以由服务器自动设置,也可以由用户手动设置,在此不做限定。在本实施例中,当获取到第四数量时,将该第四数量与第二数量阈值进行比较,以判断该第四数量是否大于第二数量阈值,其中,当该第四数量大于第二数量阈值时,表征针对该目标违规信息的评论数量较多,表征该目标违规信息比较典型,因此,作为一种方式,可以将目标违规信息进行归档,形成一个培训资料,以供审核人员进行学习。
步骤S308:推送并展示所述目标违规信息,或者将所述目标违规信息作为机器模型的学习数据,所述机器模型用于对违规信息进行学习并输出相应的处罚结果。
其中,步骤S308的具体描述请参阅步骤S212,在此不再赘述。
本申请再一个实施例提供的信息处理方法,相较于图2所示的信息处理方法,当获取到第一处罚结果时,记录当前时刻,截取该直播房间在当前时刻之前的指定时间段内的音视频数据,将该音视频数据作为违规信息,以还原违规过程形成违规信息,提供违规信息再审核的依据。另外,通过获取评论信息的第四数量,该评论信息包括多个其他用户在该共享平台输入的针对目标违规信息的评论,当第四数量大于第二数量阈值时,将该目标违规信息进行归档,推送并展示该目标违规信息,或者将该目标违规信息作为机器模型的学习数据,该机器模型用于对违规信息进行学习并输出相应的处罚结果,以将比较典型的违规信息形成学习资料供审核人员学习或对审核人员进行培训,进而降低审核的差异率。
请参阅图6,图6示出了本申请另一个实施例提供的信息处理方法的流程示意图。该方法应用于上述服务器,下面将针对6所示的流程进行详细的阐述,所示信息处理方法具体可以包括以下步骤:
步骤S401:当获取到所述第一处罚结果时,记录当前时刻。
步骤S402:截取所述直播房间在所述当前时刻之前的指定时间段内的音视频数据,将所述音视频数据作为所述违规信息。
其中,步骤S401-步骤S402的具体描述请参阅步骤S201-步骤S202,在此不再赘述。
步骤S403:获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为。
步骤S404:获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果。
其中,步骤S403-步骤S404的具体描述请参阅步骤S101-步骤S102,在此不再赘述。
步骤S405:将所述目标违规信息、所述第一处罚结果以及所述第二处罚结果标记为共享信息,分享至共享平台。
在本实施例中,服务器可以将该目标违规信息、第一用户针对该目标违规信息的第一处罚结果以及第二用户针对该目标违规信息的第二处罚结果均标记为共享信息,并分享至共享平台,以供其他用户对该目标违规信息的第一处罚结果和第二处罚结果是否准确进行讨论、点赞等。
步骤S406:获取所述第一处罚结果的第一支持数量,所述第一支持数量包括多个其他用户在所述共享平台对所述第一处罚结果点赞数量。
作为一种方式,多个其他用户可以通过在电子设备登录与其对应的账号信息的方式进入该共享平台,并对分享在该共享平台上的目标违规信息、该目标违规信息的第一审核结果和第二目标违规信息的第二审核结果进行浏览,并对自己所支持的审核结果进行点赞。在本实施例中,其他用户可以对目标违规信息对应的第一审核结果进行点赞,服务器记录点赞的总数量,记为第一处罚结果的第一支持数量。
步骤S407:获取所述第二处罚结果的第二支持数量,所述第二支持数量包括所述多个其他用户在所述共享平台对所述第二处罚结果的点赞数量。
在本实施例中,多个其他用户也可以对目标违规信息对应的该第二审核结果进行点赞,服务器记录点赞的总数量,记为第二处罚结果的第二支持数量。
步骤S408:计算所述第一支持数量和所述第二支持数量的差值。
进一步地,在获取第一支持数量和第二支持数量后,可以计算该第一支持数量和第二支持数量的差值。例如,该目标违规信息包括直播房间的主播暴露不该暴露的部位,且第一处罚结果衣着暴露、第二处罚结果为涉黄,那么,其他用户可以针对该直播房间的主播暴露不该暴露的部位的违规类型是衣着暴露还是涉黄进行点赞,可以理解的,当其他用户认为该直播房间的主播暴露不该暴露的部位的违规类型属于衣着暴露时,可以对第一处罚结果进行点赞支持,当其他用户认为该直播房间的主播暴露不该暴露的部位属于涉黄时,可以对第二处罚结果进行点赞支持。
步骤S409:当所述差值小于差值阈值时,将所述目标违规信息进行归档。
进一步地,服务器预先设置有差值阈值,该差值阈值用于作为该第一支持数量和第二支持数量的差值的判断依据,作为一种方式,该差值阈值可以由服务器自动设置,也可以由用户手动设置,在此不做限定。在本实施例中,当获取到该第一支持数量和第二支持数量的差值后,将该差值与差值阈值进行比较,以判断该差值是否小于该差值阈值。
其中,当该差值不小于该差值阈值时,表征大多数用户均认为其中一个处罚结果是正确的,则可以将该支持数量较多的确定该目标违规信息的审核结果,例如,直播房间的主播暴露不该暴露的部位的第一处罚结果为衣着暴露,第二处罚结果为涉黄,并且该第一处罚结果的第一支持数量为10个,该第二处罚结果的第二支持数量为100 个,那么该差值为90个,表征大多数用户均认为该直播房间的主播暴露不该暴露的部位的违规类型属于涉黄,因此,可以认定该第二处罚结果正确。
相反地,当该差值小于该差值阈值时,表征第一处罚结果和第二处罚结果的支持数量基本持平,可以认为该目标违规信息存在较大争议且较为典型,因此,可以将该目标违规信息进行归档,形成一个培训资料,以供审核人员进行学习。例如,直播房间的主播暴露不该暴露的部位的第一处罚结果为衣着暴露,第二处罚结果为涉黄,并且该第一处罚结果的第一支持数量为50个,该第二处罚结果的第二支持数量为49个,那么该差值为1个,表征认为该直播房间的主播暴露不该暴露的部位的违规类型属于涉黄的用户与认为该直播房间的主播暴露不该暴露的部位的违规类型属于衣着暴露的用户基本持平,因此,可以认为该直播房间的主播暴露不该暴露的部位存在较大争议且较为典型。
步骤S410:推送并展示所述目标违规信息,或者将所述目标违规信息作为机器模型的学习数据,所述机器模型用于对违规信息进行学习并输出相应的处罚结果。
其中,步骤S410的具体描述请参阅步骤S212,在此不再赘述。
本申请另一个实施例提供的信息处理方法,相较于图2所示的信息处理方法,当获取到第一处罚结果时,记录当前时刻,截取该直播房间在当前时刻之前的指定时间段内的音视频数据,将该音视频数据作为违规信息,以还原违规过程形成违规信息,提供违规信息再审核的依据。另外,通过获取第一处罚结果的第一支持数量,该第一支持数量包括多个其他用户在共享平台对第一处罚结果的点赞数量,获取第二处罚结果的第二支持数量,该第二支持数量包括多个其他用户在共享平台对第二处罚结果的点赞数量,计算第一支持数量和第二支持数量的差值,当该差值小于差值阈值时,将目标违规信息进行归档,推送并展示该目标违规信息,或者将该目标违规信息作为机器模型的学习数据,该机器模型用于对违规信息进行学习并输出相应的处罚结果,以将比较典型的违规信息形成学习资料供审核人员学习或对审核人员进行培训,进而降低审核的差异率。
本申请实施例还提供一种客户端400,该客户端400可以安装在电子设备中,其中,该电子设备可以包括台式电脑、笔记本电脑、移动终端、穿戴式电子设备等,例如,该客户端400可以安装在第二电子设备300中,在此不做限定。其中,运行有该客户端400的电子设备与上述服务器100形成交互网络,即该客户端400可以从服务器100中获取对应的数据,具体地,服务器100可以运行有服务端,以实现客户端400 与服务端进行数据交互,例如,用户可以通过该客户端400向服务器100请求互检投放比例设置界面、差异单管理界面、共享平台界面、工单详情界面以及个人中心界面等,服务器100在接收到客户端400的请求信息时,作为响应反馈上述界面并在该客户端400显示,以供用户浏览、点击、更改等,并且当该客户端400检测到用户的输入信息或选择信息时,将该输入信息或选择信息传输至服务器100,以响应该用户的输入或选择。
其中,该客户端400可以基于用户的第一操作指令,向服务器100请求互检投放比例设置界面,服务器100作为响应下发该互检投放比例设置界面至所述客户端400 进行显示,如图7所示。其中,在该互检投放比例设置界面中,用户可以选择欲投放的第一审核信息的投放数量,以及选择多个违规类型中每个违规类型的投放比例,然后客户端400将用户的选择上传至服务器100,以指示该服务器100基于用户的选择获取第一审核信息。当然,在该互检投放比例设置界面中,用户还可以选择界面、端口、违规等级等,在此不做限定。
进一步地,该客户端400可以基于用户的第二操作指令,向服务器100请求差异单管理界面,服务器100作为响应下发该差异单管理界面至所述客户端400进行显示,如图8所示。其中,在该差异单管理界面中,至少可以显示所有第一处罚结果和第二处罚结果不一致的目标违规信息、针对该目标违规信息的第一处罚结果以及针对该目标违规信息的第二处罚结果,作为一种方式,用户可以在该差异单管理界面基于目标违规信息、第一处罚结果以及第二处罚结果对该目标违规信息进行处理,例如,分享该目标违规信息、对目标违规信息的违规类型进行判定,或者对目标违规信息进行标记,例如,标记为精华等,在此不做限定。当然,在该差异单管理界面中,还可以显示第一用户、第一审核结果生成时间、第二用户、第二审核结果生成时间、状态(已判、未处理、已结贴、分享中、已处理等)等,在此不做限定。
进一步地,该客户端400可以基于用户的第三操作指令,向服务器100请求共享平台界面,服务器100作为响应下发该共享平台界面至所述客户端400进行显示,如图9所示。其中,在该共享平台界面中,至少可以显示标记为共享信息的目标违规信息,例如,显示审核尺度难把握或审核难度较高的违规信息,以供用户选择其中一个或几个目标违规信息进行浏览。当然,在该共享平台界面,还可以显示该目标违规信息的第一审核结果和第二审核结果,在此不做限定。作为一种方式,该共享平台界面中,还可以显示多个用户的用户积分排名,以及多个用户的积分变化情况,在此不再赘述。
进一步地,客户端400在共享平台界面监测作用于目标违规信息上的第四操作指令,其中,当监测到针对显示于共享平台界面上的任一目标违规信息上的第四操作指令时,该客户端400作为响应跳转至工单详情界面,如图10所示,其中,在该工单详情界面,用户可以浏览所选择的目标违规信息的具体内容、对该目标违规信息进行评论、对第一审核结果或第二审核结果进行点赞等,在此不做限定。
进一步地,客户端400可以基于用户的第五操作指令,向服务器100请求个人中心界面,服务器100作为响应下发该个人中心界面至所述客户端400进行显示,如图 11所示。其中,在该个人中心界面中,至少可以显示该用户的用户等级和/或用户积分。当然,可以理解的,该个人中心界面还客户显示用户姓名、用户工号、审核差异率、审核最终结果等信息,在此不做限定。
请参阅图12,图12示出了本申请实施例提供的信息处理装置500的模块框图。该信息处理装置500应用于上述服务器,下面将针对图12所示的框图进行阐述,所示信息处理装置500包括:第一获取模块510、第二获取模块520以及分享模块530,其中:
第一获取模块510,用于获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为。进一步地,所述第一获取模块510包括:投放数量获取子模块、数量确定子模块以及第一审核信息获取子模块,其中:
投放数量获取子模块,用于获取第一审核信息的投放数量以及多个违规类型中的每个违规类型的投放比例。
数量确定子模块,用于基于所述投放数量和所述每个违规类型的投放比例,确定所述每个违规类型的数量。
第一审核信息获取子模块,用于从所述每个违规类型的第一审核结果中选取对应数量的第一审核结果共同作为所述第一审核信息。
第二获取模块520,用于获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果。
分享模块530,用于根据所述第一审核信息以及所述第二审核信息,将至少一个所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。进一步地,所述第一审核信息的数量为多个,所述第二审核信息的数量为多个,且多个第一审核信息和多个第二审核信息一一对应,所述分享模块530包括:第一数量获取子模块、第二数量获取子模块、比例值计算子模块、第一分享子模块、第三处罚信息获取子模块、第三数量获取子模块、第一归档子模块以及推送子模块,其中:
第一数量获取子模块,用于获取所述多个第一审核信息中,所述第一处罚结果为目标违规类型的违规信息的第一数量。
第二数量获取子模块,用于获取所述多个第二审核信息中,针对所述第一处罚结果为所述目标违规类型的违规信息的第二处罚结果为非目标违规类型的第二数量。
比例值计算子模块,用于计算所述第二数量与所述第一数量的比例值。
第一分享子模块,用于当所述比例值大于比例阈值时,将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台。
第三处罚信息获取子模块,用于获取多个第三处罚信息,所述多个第三处罚信息包括多个其他用户在所述共享平台对所述目标违规信息的第三处罚结果。
第三数量获取子模块,用于获取多个第三处罚结果中的每个第三处罚结果的违规类型,并基于所述每个第三处罚结果的违规类型获取所述多个第三处罚结果的违规类型的第三数量。
第一归档子模块,用于当所述第三数量大于第一数量阈值时,将所述目标违规信息进行归档。
推送子模块,用于推送并展示所述目标违规信息,或者将所述目标违规信息作为机器模型的学习数据,所述机器模型用于对违规信息进行学习并输出相应的处罚结果。
进一步地,所述分享模块530包括:第二分享子模块、第一支持数量获取子模块、第二支持数量获取子模块、差值计算子模块以及第二归档子模块,其中:
第二分享子模块,用于将所述目标违规信息、所述第一处罚结果以及所述第二处罚结果标记为共享信息,分享至共享平台。
第一支持数量获取子模块,用于获取所述第一处罚结果的第一支持数量,所述第一支持数量包括多个其他用户在所述共享平台对所述第一处罚结果点赞数量。
第二支持数量获取子模块,用于获取所述第二处罚结果的第二支持数量,所述第二支持数量包括所述多个其他用户在所述共享平台对所述第二处罚结果的点赞数量。
差值计算子模块,用于计算所述第一支持数量和所述第二支持数量的差值。
第二归档子模块,用于当所述差值小于差值阈值时,将所述目标违规信息进行归档。
进一步地,所述信息处理装置500还包括:记录模块和截取模块,其中:
记录模块,用于当获取到所述第一处罚结果时,记录当前时刻。
截取模块,用于截取所述直播房间在所述当前时刻之前的指定时间段内的音视频数据,将所述音视频数据作为所述违规信息。
进一步地,所述信息处理装置500还包括:第四数量获取模块和第一归档模块,其中:
第四数量获取模块,用于获取评论信息的第四数量,所述评论信息包括多个其他用户在所述共享平台输入的针对所述目标违规信息的评论。
第一归档模块,用于当所述第四数量大于第二数量阈值时,将所述目标违规信息进行归档。
进一步地,所述信息处理装置500还包括:行为信息获取,模块和生成模块,其中:
行为信息获取模块,用于获取用户行为信息,其中,所述用户行为信息包括用户分享至所述共享平台的违规信息的处罚结果、点赞数量和/或评论数量。
生成模块,用于基于所述用户行为信息生成用户等级和/或用户积分。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,模块相互之间的耦合可以是电性,机械或其它形式的耦合。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
请参考图13,其示出了本申请实施例提供的一种服务器的结构框图。本申请中的服务器100可以包括一个或多个如下部件:处理器110、存储器120以及一个或多个应用程序,其中一个或多个应用程序可以被存储在存储器120中并被配置为由一个或多个处理器110执行,一个或多个程序配置用于执行如前述方法实施例所描述的方法。
处理器110可以包括一个或者多个处理核。处理器110利用各种接口和线路连接整个电子设备100内的各个部分,通过运行或执行存储在存储器120内的指令、程序、代码集或指令集,以及调用存储在存储器120内的数据,执行电子设备100的各种功能和处理数据。可选地,处理器110可以采用数字信号处理(Digital Signal Processing, DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable LogicArray,PLA)中的至少一种硬件形式来实现。处理器110 可集成中央处理器(CentralProcessing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器110中,单独通过一块通信芯片进行实现。
存储器120可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。存储器120可用于存储指令、程序、代码、代码集或指令集。存储器120可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储电子设备100在使用中所创建的数据(比如电话本、音视频数据、聊天记录数据)等。
请参考图14,其示出了本申请实施例提供的一种计算机可读存储介质的结构框图。该计算机可读存储介质600中存储有程序代码,所述程序代码可被处理器调用执行上述方法实施例中所描述的方法。
计算机可读存储介质600可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地,计算机可读存储介质600 包括非易失性计算机可读介质(non-transitory computer-readable storage medium)。计算机可读存储介质600具有执行上述方法中的任何方法步骤的程序代码610的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码610可以例如以适当形式进行压缩。
综上所述,本申请实施例提供的信息处理方法、装置、服务器以及存储介质,获取第一审核信息,该第一审核信息包括第一用户针对该违规信息的第一处罚结果,该违规信息对应直播房间的违规行为,获取针对该第一审核信息的第二审核信息,该第二审核信息包括第二用户基于该第一审核信息对该违规信息的第二处罚结果,根据第一审核信息以及第二审核信息,将第一审核信息与第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台,从而通过对违规信息进行互检,并将存在审核差异的违规信息分享至共享平台供审核人员讨论学习,降低不同审核人员的差异尺度,提升审核的一致性。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (13)
1.一种信息处理方法,其特征在于,所述方法包括:
获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为;
获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果;
根据所述第一审核信息以及所述第二审核信息,将所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
2.根据权利要求1所述的方法,其特征在于,所述获取第一审核信息之前,还包括:
当获取到所述第一处罚结果时,记录当前时刻;
截取所述直播房间在所述当前时刻之前的指定时间段内的音视频数据,将所述音视频数据作为所述违规信息。
3.根据权利要求1所述的方法,其特征在于,所述第一审核信息的数量为多个,所述第二审核信息的数量为多个,且多个第一审核信息和多个第二审核信息一一对应,所述将所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台,包括:
获取所述多个第一审核信息中,所述第一处罚结果为目标违规类型的违规信息的第一数量;
获取所述多个第二审核信息中,针对所述第一处罚结果为所述目标违规类型的违规信息的第二处罚结果为非目标违规类型的第二数量;
计算所述第二数量与所述第一数量的比例值;
当所述比例值大于比例阈值时,将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台。
4.根据权利要求3所述的方法,其特征在于,所述将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台之后,还包括:
获取多个第三处罚信息,所述多个第三处罚信息包括多个其他用户在所述共享平台对所述目标违规信息的第三处罚结果;
获取多个第三处罚结果中的每个第三处罚结果的违规类型,并基于所述每个第三处罚结果的违规类型获取所述多个第三处罚结果的违规类型的第三数量;
当所述第三数量大于第一数量阈值时,将所述目标违规信息进行归档。
5.根据权利要求1所述的方法,其特征在于,所述将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台之后,还包括:
获取评论信息的第四数量,所述评论信息包括多个其他用户在所述共享平台输入的针对所述目标违规信息的评论;
当所述第四数量大于第二数量阈值时,将所述目标违规信息进行归档。
6.根据权利要求1所述的方法,其特征在于,所述将所述第一处罚结果为所述目标违规类型且所述第二处罚结果为所述非目标违规类型的目标违规信息标记为共享信息,分享至共享平台,包括:
将所述目标违规信息、所述第一处罚结果以及所述第二处罚结果标记为共享信息,分享至共享平台。
7.根据权利要求6所述的方法,其特征在于,所述将所述目标违规信息、所述第一处罚结果以及所述第二处罚结果标记为共享信息,分享至共享平台之后,还包括:
获取所述第一处罚结果的第一支持数量,所述第一支持数量包括多个其他用户在所述共享平台对所述第一处罚结果点赞数量;
获取所述第二处罚结果的第二支持数量,所述第二支持数量包括所述多个其他用户在所述共享平台对所述第二处罚结果的点赞数量;
计算所述第一支持数量和所述第二支持数量的差值;
当所述差值小于差值阈值时,将所述目标违规信息进行归档。
8.根据权利要求4-5或7任一项所述的方法,其特征在于,所述将所述目标违规信息进行归档之后,还包括:
推送并展示所述目标违规信息;或者
将所述目标违规信息作为机器模型的学习数据,所述机器模型用于对违规信息进行学习并输出相应的处罚结果。
9.根据权利要求1所述的方法,其特征在于,所述获取第一审核信息,包括:
获取第一审核信息的投放数量以及多个违规类型中的每个违规类型的投放比例;
基于所述投放数量和所述每个违规类型的投放比例,确定所述每个违规类型的数量;
从所述每个违规类型的第一审核结果中选取对应数量的第一审核结果共同作为所述第一审核信息。
10.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
获取用户行为信息,其中,所述用户行为信息包括用户分享至所述共享平台的违规信息的处罚结果、点赞数量和/或评论数量;
基于所述用户行为信息生成用户等级和/或用户积分。
11.一种信息处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取第一审核信息,所述第一审核信息包括第一用户针对违规信息的第一处罚结果,其中,所述违规信息对应直播房间的违规行为;
第二获取模块,用于获取针对所述第一审核信息的第二审核信息,所述第二审核信息包括第二用户基于所述第一审核信息对所述违规信息的第二处罚结果;
分享模块,用于根据所述第一审核信息以及所述第二审核信息,将至少一个所述第一审核信息与所述第二审核信息不一致的目标违规信息标记为共享信息,分享至共享平台。
12.一种服务器,其特征在于,包括:
存储器;
一个或多个处理器,与所述存储器耦接;
一个或多个程序,其中,所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行如权利要求1-10任一项所述的方法。
13.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行如权利要求1-10任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811626276.5A CN109829379B (zh) | 2018-12-28 | 2018-12-28 | 信息处理方法、装置、服务器以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811626276.5A CN109829379B (zh) | 2018-12-28 | 2018-12-28 | 信息处理方法、装置、服务器以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109829379A true CN109829379A (zh) | 2019-05-31 |
CN109829379B CN109829379B (zh) | 2021-09-21 |
Family
ID=66860620
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811626276.5A Active CN109829379B (zh) | 2018-12-28 | 2018-12-28 | 信息处理方法、装置、服务器以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109829379B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112182347A (zh) * | 2020-10-30 | 2021-01-05 | 北京字跳网络技术有限公司 | 处罚状态的检测方法、装置、电子设备和存储介质 |
CN112699332A (zh) * | 2020-12-31 | 2021-04-23 | 五八有限公司 | 信息处理方法、装置、电子设备及存储介质 |
CN112861034A (zh) * | 2021-02-04 | 2021-05-28 | 北京百度网讯科技有限公司 | 检测信息的方法、装置、设备和存储介质 |
CN113938692A (zh) * | 2020-07-13 | 2022-01-14 | 武汉斗鱼网络科技有限公司 | 一种视频直播的风险控制方法及装置 |
CN113949886A (zh) * | 2021-09-18 | 2022-01-18 | 北京达佳互联信息技术有限公司 | 一种直播业务处理方法、装置、电子设备和存储介质 |
CN114245160A (zh) * | 2021-12-07 | 2022-03-25 | 北京达佳互联信息技术有限公司 | 信息处理方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105657479A (zh) * | 2014-11-10 | 2016-06-08 | 腾讯数码(天津)有限公司 | 一种视频处理方法及装置 |
CN106454492A (zh) * | 2016-10-12 | 2017-02-22 | 武汉斗鱼网络科技有限公司 | 一种基于延时传送的直播色情内容审核系统及方法 |
CN106897424A (zh) * | 2017-02-24 | 2017-06-27 | 北京时间股份有限公司 | 信息标注系统及方法 |
CN107547555A (zh) * | 2017-09-11 | 2018-01-05 | 北京匠数科技有限公司 | 一种网站安全监测方法及装置 |
CN107688960A (zh) * | 2017-07-31 | 2018-02-13 | 上海与德科技有限公司 | 共享广告牌投放内容的审核系统及服务器 |
CN108229535A (zh) * | 2017-12-01 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 涉黄图像审核方法、装置、计算机设备及存储介质 |
-
2018
- 2018-12-28 CN CN201811626276.5A patent/CN109829379B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105657479A (zh) * | 2014-11-10 | 2016-06-08 | 腾讯数码(天津)有限公司 | 一种视频处理方法及装置 |
CN106454492A (zh) * | 2016-10-12 | 2017-02-22 | 武汉斗鱼网络科技有限公司 | 一种基于延时传送的直播色情内容审核系统及方法 |
CN106897424A (zh) * | 2017-02-24 | 2017-06-27 | 北京时间股份有限公司 | 信息标注系统及方法 |
CN107688960A (zh) * | 2017-07-31 | 2018-02-13 | 上海与德科技有限公司 | 共享广告牌投放内容的审核系统及服务器 |
CN107547555A (zh) * | 2017-09-11 | 2018-01-05 | 北京匠数科技有限公司 | 一种网站安全监测方法及装置 |
CN108229535A (zh) * | 2017-12-01 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 涉黄图像审核方法、装置、计算机设备及存储介质 |
Non-Patent Citations (5)
Title |
---|
咸宁新闻网: "通城县委组织部审核干部档案 信息界定准确无误", 《HTTP://NEWS.XNNEWS.COM.CN/XNXW/201506/T20150622_2216433.SHTML》 * |
李建峰: "《企业管理实务》", 31 August 2016 * |
白光清: "《专利审查研究 第6辑 2014》", 30 April 2015 * |
范周等: "《一个文化研究者的学术笔记 第5卷 言之有范 融合时代的文化思考》", 31 March 2018 * |
蒋惠岭: "《司法体制综合配套改革实践研究》", 31 July 2018 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113938692A (zh) * | 2020-07-13 | 2022-01-14 | 武汉斗鱼网络科技有限公司 | 一种视频直播的风险控制方法及装置 |
CN113938692B (zh) * | 2020-07-13 | 2024-02-09 | 广州壹点通网络科技有限公司 | 一种视频直播的风险控制方法及装置 |
CN112182347A (zh) * | 2020-10-30 | 2021-01-05 | 北京字跳网络技术有限公司 | 处罚状态的检测方法、装置、电子设备和存储介质 |
CN112699332A (zh) * | 2020-12-31 | 2021-04-23 | 五八有限公司 | 信息处理方法、装置、电子设备及存储介质 |
CN112861034A (zh) * | 2021-02-04 | 2021-05-28 | 北京百度网讯科技有限公司 | 检测信息的方法、装置、设备和存储介质 |
CN112861034B (zh) * | 2021-02-04 | 2023-08-15 | 北京百度网讯科技有限公司 | 检测信息的方法、装置、设备和存储介质 |
CN113949886A (zh) * | 2021-09-18 | 2022-01-18 | 北京达佳互联信息技术有限公司 | 一种直播业务处理方法、装置、电子设备和存储介质 |
CN114245160A (zh) * | 2021-12-07 | 2022-03-25 | 北京达佳互联信息技术有限公司 | 信息处理方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109829379B (zh) | 2021-09-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109829379A (zh) | 信息处理方法、装置、服务器以及存储介质 | |
US9486708B2 (en) | Apparatuses, methods and systems for an engagement-tracking game modifier | |
CN110585726A (zh) | 用户召回方法、装置、服务器及计算机可读存储介质 | |
CN110401844A (zh) | 视频直播策略的生成方法、装置、设备及可读介质 | |
WO2018145527A1 (zh) | 跨平台交互方法、装置、程序及介质 | |
CN108460627A (zh) | 营销活动方案推送方法、装置、计算机设备及存储介质 | |
CN104050353A (zh) | 响应于令牌检测在虚拟空间的实体内实现修改 | |
CN110677685B (zh) | 网络直播显示方法及装置 | |
CN110602543A (zh) | 素材的显示方法和装置、存储介质及电子装置 | |
CN110248201A (zh) | 直播事件处理方法、装置、电子设备及计算机存储介质 | |
CN109428910A (zh) | 一种数据处理方法、装置及系统 | |
CN108419137A (zh) | 数据处理方法和数据处理装置 | |
CN109495378A (zh) | 检测异常帐号的方法、装置、服务器及存储介质 | |
US20190155851A1 (en) | Information filtering | |
CN105453051B (zh) | 信息处理设备、控制方法、程序以及记录介质 | |
CN112057869A (zh) | 信息处理方法、装置、电子设备及存储介质 | |
CN109831417A (zh) | 防骚扰处理帐号的方法、装置、服务器及存储介质 | |
CN113099257B (zh) | 网络交友互动方法、装置、终端设备及存储介质 | |
CN111885139B (zh) | 内容分享方法、装置及系统、移动终端、服务器 | |
CN110574066B (zh) | 服务器装置以及记录介质 | |
CN115828003A (zh) | 一种信息显示方法、装置、存储介质及计算机设备 | |
CN109711893A (zh) | 会员业务的办理方法、装置及系统 | |
CN117235610B (zh) | 社交媒体内容数据分段方法、装置及电子设备 | |
US20220222764A1 (en) | Information processor apparatus, control program, and control method | |
CN115209228B (zh) | 任务互动方法、装置、设备、存储介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
EE01 | Entry into force of recordation of patent licensing contract | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20190531 Assignee: GUANGZHOU CUBESILI INFORMATION TECHNOLOGY Co.,Ltd. Assignor: GUANGZHOU HUADUO NETWORK TECHNOLOGY Co.,Ltd. Contract record no.: X2021440000030 Denomination of invention: Information processing method, apparatus, server and storage medium License type: Common License Record date: 20210125 |
|
GR01 | Patent grant | ||
GR01 | Patent grant |