CN109714639A - 违规处理方法、装置、服务器以及存储介质 - Google Patents

Abstract

本申请公开了一种违规处理方法、装置、服务器以及存储介质。所述方法包括：当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，基于该多个处罚结果的处罚时间和处罚等级，从该多个处罚结果中确定一个目标处罚结果，基于目标处罚结果对违规内容进行处理。本申请实施例提供的违规处理方法、装置、服务器以及存储介质，基于同一违规内容的处罚时间和处罚等级，从多个处罚结果中确定一个目标处罚结果对违规内容进行处理，以解决对违规内容处罚标准不一致的问题，提供更具灵活性的违规处理方法，提高用户体验。

Description

违规处理方法、装置、服务器以及存储介质

技术领域

本申请涉及网络直播技术领域，更具体地，涉及一种违规处理方法、装置、服务器以及存储介质。

背景技术

随着网络直播行业的快速发展，直播受众也在不断的扩大中。随着不断扩大的直播行业，各种各样的主播也纷纷加入进来，主播与主播直接的竞争也日渐激烈。主播在考虑如何吸引用户，如何丰富自身内容时，如果不注意规范自身的直播内容，容易出现各类型擦边违规的现象。由于目前直播视频监管基本上依赖管理员，但各类型的违规现象层出不穷，无法形成统一的处罚尺度。

发明内容

鉴于上述问题，本申请提出了一种违规处理方法、装置、服务器以及存储介质，以解决上述问题。

第一方面，本申请实施例提供了一种违规处理方法，所述方法包括：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为；基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果；基于所述目标处罚结果对所述违规内容进行处理。

第二方面，本申请实施例提供了一种违规处理装置，所述装置包括：获取模块，用于当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为；确定模块，用于基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果；处理模块，用于基于所述目标处罚结果对所述违规内容进行处理。

第三方面，本申请实施例提供了一种服务器，包括存储器；一个或多个处理器，与所述存储器耦接；一个或多个程序，其中，所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行上述方法。

第四方面，本申请实施例提供了一种计算机可读取存储介质，所述计算机可读取存储介质中存储有程序代码，所述程序代码可被处理器调用执行上述方法。

本申请实施例提供违规处理方法、装置、服务器以及存储介质，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，基于该多个处罚结果的处罚时间和处罚等级，从该多个处罚结果中确定一个目标处罚结果，基于目标处罚结果对违规内容进行处理。从而基于同一违规内容的处罚时间和处罚等级，从多个处罚结果中确定一个目标处罚结果对违规内容进行处理，以解决对违规内容处罚标准不一致的问题，提供更具灵活性的违规处理方法，提高用户体验。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1示出了本申请实施例提供的违规处理方法及装置的应用场景图；

图2示出了本申请实施例提供的一个违规处理方法的流程示意图；

图3示出了本申请实施例提供的又一个违规处理方法的流程示意图；

图4示出了本申请实施例提供的再一个违规处理方法的流程示意图；

图5示出了本申请实施例提供的又再一个违规处理方法的流程示意图；

图6示出了本申请的图5所示的实施例提供的违规处理方法的步骤S440 的流程示意图；

图7示出了本申请实施例提供的又再一个违规处理方法的时长示意图；

图8示出了本申请实施例提供的另一个违规处理方法的流程示意图；

图9示出了本申请实施例提供的违规处理装置的模块框图；

图10示出了本申请实施例用于执行根据本申请实施例的违规处理方法的服务器的框图；

图11示出了本申请实施例的用于保存或者携带实现根据本申请实施例的违规处理方法的程序代码的存储单元。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。

请参阅图1，图1示出了本申请实施例提供的违规处理方法及装置的应用场景图。如图1所示，该客户端安装在电子设备A、电子设备B以及电子设备 C内，电子设备A、电子设备B以及电子设备C和服务器100位于无线网络或有线网络中，电子设备A、电子设备B以及电子设备C和服务器100进行数据交互。

其中，电子设备A、电子设备B以及电子设备C可以为移动电话或智能电话(例如，基于iPhone TM，基于Android TM的电话)，便携式游戏设备(例如 Nintendo DS TM，PlayStation Portable TM，Gameboy Advance TM，iPhone TM)、膝上型电脑、PDA、便携式互联网设备、音乐播放器以及数据存储设备。

在一些实施例中，客户端安装在电子设备A、电子设备B以及电子设备C 内，例如，可以是安装在电子设备A、电子设备B以及电子设备C的应用程序。用户在客户端通过帐号登录，则该帐号对应的所有信息可以存储在服务器100的存储空间内。其中，服务器100可以是单独的服务器，也可以是服务器集群，可以是本地服务器，也可以是云端服务器。

则作为一种实施方式，电子设备A可以是用户终端，电子设备B和电子设备C可以是审核终端，当检测到电子设备A有违规内容时，通过服务器100将违规内容发给电子设备B、电子设备C进行审核，电子设备B、电子设备C将审核结果发给服务器100，由服务器100对违规内容进行处理。但是，目前对于触发多个处罚终端的违规内容，由于不同的处罚终端对应不同的审核人员，于是会存在对于同一违规内容处罚尺度不一致的问题。

针对上述问题，发明人经过长期的研究发现，并提出了本申请实施例提供的违规处理方法、装置、服务器以及存储介质，通过基于处罚时间和处罚等级，在针对一违规内容的多个处罚结果中确定一个目标处罚结果对违规内容进行处理，以解决对违规内容处罚标准不一致的问题，提供更具灵活性的违规处理方法，提高用户体验，具体的违规处理方法在后续的实施例中进行详细的说明。

实施例

请参阅图2，图2示出了本申请一个实施例提供的违规处理方法的流程示意图。下面将针对图2所示的流程进行详细的阐述，所述违规处理方法具体可以包括以下步骤：

步骤S110：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

在本实施例中，主播在进行直播的过程中，为了吸引观众可能会做出一些违规的行为，从而造成直播房间出现违规内容，造成不好的影响。其中，该直播房间可以包括主播进行直播的房间、可以包括播放小视频的房间、也可以包括播放图片的房间等，作为一种方式，主播的直播内容可以包括游戏类、音乐类、户外类等，在此不做限定。

进一步地，为了减少直播过程中的违规内容，直播平台可以在主播进行直播时对直播内容进行监管。对于直播的监管系统可以有多种类型的审核工单，例如，有直播监审、直播巡查审核、直播举报审核、高危直播审核、二次判断审核等。其中，每种审核类型均有处罚终端，一场直播可能会触发多个类型的审核，具体的，一场直播可能在同一时间触发多个类型的审核，也可能在一个时间周期内触发多个类型的审核，所以会经过不同的审核员进行审核得出多个处罚结果。而一次违规做多次处罚，对于主播用户来说是不公平的，所以可以对这种触发多个处罚终端的工单选择其中一个处罚结果对直播内容进行处理。

具体地，处罚结果可以包括处罚时间和处罚等级，当检测到针对一违规内容的多个处罚结果时，可以分别获取多个处罚结果的处罚时间和处罚等级。其中，审核人员在进行审核时可以选择处罚结果对应的证据截图，证据截图上有采集记录的时间，可以将该证据截图上的时间作为处罚时间，也可以将审核人员把处罚结果发给主播的时间作为处罚时间。进一步地，处罚等级相对应违规内容的违规等级，可以由审核人员按照审核规则进行选择，例如，处罚等级可以分为A类违规、B类违规以及C类违规，其中，如表1所示，服务器100中可以存储有违规类型与等级的映射关系表。

表1

因此，当接收到处罚结果后，可以将该处罚结果与映射关系表中的违规类型进行对比，其中，当该处罚结果的违规类型与A类违规一致时，可以确定该处罚结果的处罚等级为高等级当该处罚结果的违规类型与B类违规一致时，可以确定该处罚结果的处罚等级为中等级。

步骤S120：基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果。

在本实施例中，当获取到多个处罚结果的处罚时间和处罚等级，可以在获取到多个处罚结果时，作为一种方式，选择相同处罚等级最多的处罚等级，且处罚时间最早的处罚结果作为目标处罚结果，即对违规内容进行处理的处罚结果。例如，由表2所示，获取到四个处罚结果。

表2

处罚结果	处罚时间	处罚等级
			a	12:00:02	B
b	12:00:03	B
			c	12:00:04	B
d	12:00:01	C

如表1所示，该违规内容收到四个处罚结果，其中，表2中的四个处罚结果对应的处罚等级分别为B、B、B以及C，相同处罚等级最多的处罚等级为B，所以从处罚等级为B，即处罚结果a、b、c中再选择处罚时间最早的，其中，处罚时间最早的为处罚结果a，所以，将处罚结果a作为目标处罚结果，即最终处罚结果。

步骤S130：基于所述目标处罚结果对所述违规内容进行处理。

在本实施例中，当从多个处罚结果确定了一个目标处罚结果后，可以根据该目标处罚结果对应的违规类型对违规内容进行处理。例如，违规类型可以包括 A类严重违规、B类一般违规、C类轻微违规。当目标处罚结果对应的违规类型为A类严重违规时，该违规内容对应的主播可以被封禁账号，在封禁期间均不能开播和使用直播平台相关的产品，但主播可以通过直播平台对外的申诉入口进行违规申诉，如果申诉通过后则会撤销处罚。当目标处罚结果对应的违规类型为B类一般违规或C类轻微违规时，可以根据一段周期内B类一般违规或C类轻微违规处罚次数的多次进行递增性扣取主播佣金和主播开播权限的限制，同时，还可以给予主播进行整改的时间，即处罚空窗期，其中，主播在处罚空窗期内出现等级与目标处罚结果的处罚等级同等级或低等级的处罚结果会被覆盖。进一步地，当主播在处罚空窗期内不对直播内容进行整改，且继续触发违规，则在处罚空窗期结束后可以对该主播继续进行处罚。

本申请一个实施例提供的违规处理方法，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，基于该多个处罚结果的处罚时间和处罚等级，从该多个处罚结果中确定一个目标处罚结果，基于目标处罚结果对违规内容进行处理。从而基于同一违规内容的处罚时间和处罚等级，从多个处罚结果中确定一个目标处罚结果对违规内容进行处理，以解决对违规内容处罚标准不一致的问题，提供更具灵活性的违规处理方法，提高用户体验。

请参阅图3，图3示出了本申请又一个实施例提供的违规处理方法的流程示意图。下面将针对图3所示的流程进行详细的阐述，所述方法具体可以包括以下步骤：

步骤S210：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

其中，步骤S210的具体描述请参阅步骤S110，在此不再赘述。

步骤S220：当所述多个处罚结果的处罚等级不一致时，从所述多个处罚结果中获取处罚等级最高的处罚结果。

在本实施例中，当多个处罚结果的处罚等级不一致时，且当处罚时间一致时，可以在多个处罚结果中选择处罚等级最高的处罚结果。进一步地，当多个处罚结果的处罚等级不一致，且处罚时间不一致时，可以先获取所有的处罚结果的处罚等级，再从中选取处罚等级最高的处罚结果。也可以每次获取一个处罚结果，记录其处罚等级，当获取到处罚等级比前一个处罚结果的处罚等级高的处罚结果，则可以覆盖掉该前一个处罚结果。也就是说，当多个处罚结果的处罚等级不一致，不管多个处罚结果的时间先后，均从多个处罚结果中获取处罚等级最高的处罚结果。

步骤S230：将所述处罚等级最高的处罚结果确定为所述目标处罚结果。

在本实施例中，当多个处罚结果的处罚等级不一致时，且当处罚时间一致时，可以在多个处罚结果中选择处罚等级最高的处罚结果，将该处罚等级最高的处罚结果作为目标处罚结果，即最终处罚结果。例如，如表3所示的处罚结果。

表3

处罚结果	处罚时间	处罚等级
			a	T1	A
b	T1	B

其中，处罚结果a和处罚结果b的处罚时间都为T1，而处罚结果a的处罚等级为A，处罚结果b的处罚等级为B，其中，处罚等级A高于处罚等级B，所以选择处罚等级为A的处罚结果a作为目标处罚结果，即最终的处罚结果。

作为一种方式，当多个处罚结果的处罚等级不一致，且处罚时间不一致时，可以获取所有的处罚结果的处罚等级，从中选取处罚等级最高的处罚结果。例如，如表4所示的处罚结果。

表4

处罚结果	处罚时间	处罚等级
			a	T1	A
b	T2	B

其中，处罚结果a的处罚时间为T1，处罚等级为A，处罚结果b的处罚时间为T2，处罚等级为B，其中，处罚时间T1大于T2，处罚等级A高于B，则选择处罚等级更高的，及处罚等级为A的处罚结果a作为目标处罚结果，即最终的处罚结果。

作为另一种方式，当多个处罚结果的处罚等级不一致，且处罚时间不一致时，也可以每次获取一个处罚结果，记录其处罚等级，当获取到处罚等级比前一个处罚结果的处罚等级高的处罚结果，则可以覆盖掉该前一个处罚结果。例如，如表5所示的处罚结果。

表5

处罚结果	处罚时间	处罚等级
			a	T1	A
b	T2	B

其中，处罚结果a的处罚时间为T1，处罚等级为A，处罚结果b的处罚时间为T2，处罚等级为B，其中，处罚时间T1大于T2，处罚等级A高于B，先获取处罚结果b作为目标处罚结果，因为处罚结果a的处罚等级高于处罚结果b 的处罚等级，则用处罚结果a覆盖掉处罚结果b，将处罚结果a作为目标处罚结果，即最终的处罚结果。进一步地，当处罚时间T1小于T2时，先获取处罚结果a进行处罚，当获取到处罚结果b时，因为处罚结果b的处罚等级为B低于处罚结果a的处罚等级，所以处罚结果b会被处罚结果a覆盖，依旧继续执行处罚结果a。

步骤S240：基于所述目标处罚结果对所述违规内容进行处理。

其中，步骤S240的具体描述请参阅步骤S130，在此不再赘述。

本申请又一个实施例提供的违规处理方法，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，当该多个处罚结果的处罚等级不一致时，从该多个处罚结果中获取处罚等级最高的处罚结果，并将处罚等级最高的处罚结果确定为目标处罚结果，基于目标处罚结果对违规内容进行处理，相较于图2所示的违规处理方法，本实施例将处罚等级最高的处罚结果确定为目标处罚结果对违规内容进行处理，从而通过对触发多个处罚终端的违规内容根据处罚等级最高的处罚结果进行处理，以减少违规现象的发生。

请参阅图4，图4是示出了本申请再一个实施例提供的违规处理方法的流程示意图。所述违规处理方法应用于上述服务器，下面将针对图4所示的流程进行详细的阐述，所述方法具体可以包括以下步骤：

步骤S310：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

其中，步骤S310的具体描述请参阅步骤S110，在此不再赘述。

步骤S320：当所述多个处罚结果的处罚等级一致时，从所述多个处罚时间中获取处罚时间最早的处罚结果。

在本实施例中，当多个处罚结果的处罚等级一致时，从多个处罚时间获取处罚时间最早的处罚结果，其中，审核人员在进行审核时可以选择处罚结果对应的证据截图，证据截图上有采集记录的时间，可以将该证据截图上的时间作为处罚时间，也可以将审核人员把处罚结果发给主播的时间作为处罚时间。

步骤S330：将所述处罚时间最早的处罚结果确定为所述目标处罚结果。

在本实施例中，当获取到多个处罚结果的处罚时间和处罚等级时，记录该多个处罚结果对应的处罚时间，提取处罚时间最早的处罚结果，并将该处罚时间最早的处罚结果确定为目标处罚结果。例如，如表6所示的处罚结果。

表6

处罚结果	处罚时间	处罚等级
			a	T1	B
b	T2	B
			c	T3	B

当获取到a、b、c三个处罚结果，其中，处罚结果a的处罚时间为T1，处罚等级为B，处罚结果b的处罚时间为T2，处罚等级为B，处罚结果c的处罚时间为T3，处罚等级也为B。由于处罚结果a、处罚结果b以及处罚结果c的处罚等级都为B，而处罚时间T1早于T2，T2早于T3，所以选择处罚时间最早的，即处罚时间为T1的处罚结果a作为目标处罚结果，即最终的处罚结果。

步骤S340：基于所述目标处罚结果对所述违规内容进行处理。

其中，步骤S340的具体描述请参阅步骤S130，在此不再赘述。

本申请再一个实施例提供的违规处理方法，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，当该多个处罚结果的处罚等级一致时，从该多个处罚结果中获取处罚时间最早的处罚结果，并将处罚时间最早的处罚结果确定为目标处罚结果，基于目标处罚结果对违规内容进行处理，相较于图2所示的违规处理方法，本实施例将处罚时间最早的处罚结果确定为目标处罚结果对违规内容进行处理，从而提高违规处理效率，避免不良信息的长时间传播。

请参阅图5，图5示出了本申请又再一个实施例提供的违规处理方法的流程示意图。所述违规处理方法应用于上述服务器，下面将针对图5所示的流程进行详细的阐述，所述方法具体可以包括以下步骤：

步骤S410：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

其中，步骤S410的具体描述请参阅步骤S110，在此不再赘述。

步骤S420：获取第一处罚时间对应的第一处罚结果的第一处罚等级。

在本实施例中，当检测到针对一违规内容的处罚结果时，可以获取第一处罚结果，从第一处罚结果中可以解析出该第一处罚结果的第一处罚时间，同时可以解析出该第一处罚结果的第一处罚等级。

步骤S430：判断所述第一处罚等级是否为最高处罚等级。

在本实施例中，服务器可以预先设置有不同的处罚等级，例如，高处罚等级、中处罚等级以及低处罚等级，其中，高处罚等级为最高处罚等级。当获取到第一处罚结果，并解析出该第一处罚结果的第一处罚时间和第一处罚等级时，可以将第一处罚等级与最高处罚等级进行匹配，从而判断第一处罚等级是否为最高处罚等级。

步骤S440：当所述第一处罚等级不是所述最高处罚等级时，执行获取所述第二处罚时间对应的第二处罚结果的第二处罚等级，其中，所述第二处罚时间晚于所述第一处罚时间，当所述第一处罚等级是所述最高处罚等级时，执行将所述第一处罚结果确定为所述目标处罚结果。

在本实施例中，当第一处罚等级与最高处罚等级不匹配，即第一处罚等级不是最高处罚等级时，可以获取第二处罚结果，并可以从该第二处罚结果中解析出该第二处罚结果的第二处罚时间和第二处罚等级，其中，第二处罚结果是在第一处罚结果之后获取，即第二处罚结果对应的第二处罚时间是晚于第一处罚结果的第一处罚时间。

在本实施例中，当检测到获取的第一处罚结果的处罚等级是最高处罚等级时，可以将第一处罚结果作为目标处罚结果。例如，处罚等级可以分为处罚等级 A、处罚等级B以及处罚等级C，其中，处罚等级A为最高处罚等级，当获取到的第一处罚结果的第一处罚等级为处罚等级A时，则可以将该第一处罚结果确定为目标处罚结果，即最终处罚结果。作为一种方式，当第一处罚结果是最高处罚结果时，则可以不给予违规内容对应的主播进行整改直播内容的期限。

请参阅图6，图6示出了本申请的图5所示的实施例提供的违规处理方法的步骤S440的一个实施例的流程示意图。下面将针对图6所示的流程进行详细的阐述，所述方法具体可以包括以下步骤：

步骤S441：在指定时长内获取所述第二处罚时间对应的第二处罚结果的第二处罚等级。

在本实施例中，当获取到第一处罚结果后，可以先将第一处罚结果发给违规内容对应的主播，并给予该主播针对违规内容整改直播内容的指定时长，即空窗期。例如，将第一处罚结果发给违规内容对应的主播，可以给予该主播一分钟的时间针对违规内容整改直播内容，即可以给予主播一分钟的空窗期。其中，审核人员在进行审核时可以选择该第一处罚结果对应的证据截图，证据截图上有采集记录的时间，可以将该证据截图上的时间作为空窗期开始的时间，当审核人员将该第一处罚结果发给对应的主播时，开启空窗期。当在对应的主播处于空窗期内且检测到第二处罚结果时，可以获取该第二处罚结果，并可以从该第二处罚结果中解析出该第二处罚结果的第二处罚时间和第二处罚等级。

步骤S442：若在所述指定时长内没有获取到其他处罚结果，将所述第一处罚结果确定为所述目标处罚结果。

在本实施例中，当在违规内容对应的主播在空窗期内且未获取到其他处罚结果，即在空窗期未触发其他处罚结果，则可以将第一处罚结果确定为目标处罚结果，即可以根据该第一处罚结果对违规内容进行处理。

步骤S450：判断所述第二处罚等级是否高于所述第一处罚等级。

在本实施例中，当获取到第二处罚结果时，可以解析出该第二处罚结果的第二处罚时间和第二处罚等级，然后可以将第二处罚等级与第一处罚等级进行比较，从而判断第二处罚等级是否高于第一处罚等级。

步骤S460：当所述第二处罚等级高于所述第一处罚等级时，将所述第二处罚结果确定为所述目标处罚结果，当所述第二处罚等级不高于所述第一处罚等级时，执行将所述第一处罚结果确定为所述目标处罚结果。

在本实施例中，将第二处罚结果与第一处罚结果进行比较，当第二处罚等级高于第一处罚等级，例如，第一处罚结果对应的第一处罚等级为等级C，第二处罚结果对应的第二处罚等级也为等级B，将第一处罚等级与第二处罚等级进行比较，其中，等级B高于等级C，则第二处罚等级高于第一处罚等级，于是可以将第二处罚结果确定为目标处罚结果，即最终处罚结果。

作为一种方式，当该违规内容对应的主播处于根据第一处罚结果整改直播内容的时期，即第一空窗期时，且当第二处罚等级高于第一处罚等级时，可以将第二处罚结果确定为目标处罚结果，同时给予主播整改直播内容的时期，即第二空窗期可以从审核人员将第二处罚结果发给对应的主播的时间开始，以第一空窗期结束的时间的结束，例如，如图7所示，图7示出了本实施例提供的时长示意图，该违规内容对应的主播处于根据第一处罚结果整改直播内容的时期，即第一空窗期为T1-T3时间段内，第一处罚结果对应的第一处罚等级为等级C，第二处罚结果对应的处罚等级是等级B时，由于等级B高于等级C，则可以将第二处罚结果作为目标处罚结果，同时，审核人员将第二处罚结果发给对应的主播的时间为T2，则在将第二处罚结果作为目标处罚结果时，该主播的空窗期更新为T2-T3。

在本实施例中，将第二处罚结果与第一处罚结果进行比较，当第二处罚等级不高于第一处罚等级，即可以是第二处罚等级与第一处罚等级为同等级，例如，第一处罚结果对应的第一处罚等级为等级B，第二处罚结果对应的第二处罚等级也为等级B，则第一处罚等级与第二处罚等级为同等级，即第二处罚等级不高于第一处罚等级，则可以将第一处罚结果确定为目标处罚结果，即最终处罚结果；也可以是第二处罚等级低于第一处罚等级，例如，第一处罚结果对应的第一处罚等级为等级B，第二处罚结果对应的第二处罚等级为等级C，其中，等级B高于等级C，则第二处罚等级低于第一处罚等级，即第二处罚等级不高于第一处罚等级，则可以将第一处罚结果确定为目标处罚结果，即最终处罚结果。

作为一种方式，当该违规内容对应的主播处于根据第一处罚结果整改直播内容的时期，即第一空窗期时，且当第二处罚结果与第一处罚等级为同等级或第二处罚等级低于第一处罚等级时，可以将第一处罚结果确定为目标处罚结果，同时给予主播整改直播内容的时期可以继续为第一空窗期，例如，该违规内容对应的主播处于根据第一处罚结果整改直播内容的时期，即第一空窗期为T1-T2时间段内，第一处罚结果对应的第一处罚等级为等级B，第二处罚结果对应的处罚等级也是等级B时，则可以将第一处罚结果作为目标处罚结果，同时，该主播的空窗期仍为T1-T2。

步骤S470：将所述第一处罚结果确定为所述目标处罚结果。

在本实施例中，将第二处罚结果与第一处罚结果进行比较，当第二处罚等级不高于第一处罚等级，即可以是第二处罚等级与第一处罚等级为同等级，例如，第一处罚结果对应的第一处罚等级为等级B，第二处罚结果对应的第二处罚等级也为等级B，则第一处罚等级与第二处罚等级为同等级，即第二处罚等级不高于第一处罚等级，则可以将第一处罚结果确定为目标处罚结果，即最终处罚结果；也可以是第二处罚等级低于第一处罚等级，例如，第一处罚结果对应的第一处罚等级为等级B，第二处罚结果对应的第二处罚等级为等级C，其中，等级B高于等级C，则第二处罚等级低于第一处罚等级，即第二处罚等级不高于第一处罚等级，则可以将第一处罚结果确定为目标处罚结果，即最终处罚结果。

在本实施例中，当检测到获取的第一处罚结果的处罚等级是最高处罚等级时，可以将第一处罚结果作为目标处罚结果。例如，处罚等级可以分为处罚等级 A、处罚等级B以及处罚等级C，其中，处罚等级A为最高处罚等级，当获取到的第一处罚结果的第一处罚等级为处罚等级A时，则可以将该第一处罚结果确定为目标处罚结果，即最终处罚结果。

步骤S480：基于所述目标处罚结果对所述违规内容进行处理。

其中，步骤S480的具体描述请参阅步骤S130，在此不再赘述。

本申请又再一个实施例提供的违规处理方法，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，首先获取第一处罚时间对应的第一处罚结果的第一处罚等级，判断该第一处罚等级是否为最高处罚等级，当该第一处罚等级不是最高处罚等级时，执行获取第二处罚时间对应的第二处罚结果的第二处罚等级，其中，第二处罚时间晚于第一处罚时间，判断第二处罚等级是否高于第一处罚等级，当第二处罚等级高于第一处罚等级时，将第二处罚结果确定为目标处罚结果，当第二处罚等级不高于第一处罚等级，或当第一处罚等级是最高处罚等级时，将第一处罚结果确定为目标处罚结果，基于该目标处罚结果对违规内容进行处理。相较于图2所示的违规处理方法，本实施例可以在获取第一处罚结果进行处理的过程中，对与该第一处罚结果同等级与低等级的处罚结果不做处理，从而在主播的一次违规触发多个处罚结果时，对主播只做一次处罚，以保障主播的利益，提高用户体验。

请参阅图8，图8示出了本申请另一个实施例提供的违规处理方法的流程示意图。所述违规处理方法应用于上述服务器，下面将针对图8所示的流程进行详细的阐述，所述方法具体可以包括以下步骤：

步骤S510：当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

步骤S520：基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果。

步骤S530：基于所述目标处罚结果对所述违规内容进行处理。

其中，步骤S510-步骤S530的具体描述请参阅步骤S110-步骤S130，在此不再赘述。

步骤S540：发送违规提示信息至所述违规内容对应直播房间。

在本实施例中，系统计算出最终的处罚结果后，可以通过发送违规弹窗到违规内容对应主播的前端界面提示主播，也可以通过发送违规提示弹幕到违规内容对应主播的前端界面提示主播。

本申请另一个实施例提供的违规处理方法，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，基于该多个处罚结果的处罚时间和处罚等级，从这多个处罚结果中确定一个目标处罚结果，基于该目标处罚结果对违规内容进行处理，并发送违规提示信息至违规内容对应直播房间，从而通过在多个处罚结果中确定一个处罚结果对违规内容进行处理，并向用户发送提示信息提示用户调整直播内容，以使用户能够在接收到处罚结果的第一时间对违规内容做出相应调整，避免用户因长时间未处理违规内容而多次触发处罚终端，从而提升用户体验，避免不良信息传播。

请参阅图9，图9示出了本申请实施例提供的违规处理装置200的模块框图。所述违规处理装置200应用于上述服务器。下面将针对图9所述的框图进行阐述，所述违规处理装置200包括：获取模块210、确定模块220以及处理模块230，其中：

获取模块210，用于当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为。

确定模块220，用于基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果。进一步地，所述确定模块220还包括：最高等级获取子模块以及最高等级确定模块，其中：

最高等级获取子模块，用于当所述多个处罚结果的处罚等级不一致时，从所述多个处罚结果中获取处罚等级最高的处罚结果。

最高等级确定子模块，用于将所述处罚等级最高的处罚结果确定为所述目标处罚结果。

进一步地，所述确定模块220还包括：最早时间获取子模块以及最早时间确定模块，其中：

最早时间获取子模块，用于当所述多个处罚结果的处罚等级一致时，从所述多个处罚时间中获取处罚时间最早的处罚结果。

最早时间确定子模块，用于将所述处罚时间最早的处罚结果确定为所述目标处罚结果。

进一步地，所述确定模块220还包括：第一处罚等级获取子模块、第一处罚等级判断子模块、第二处罚等级获取子模块、第二处罚等级判断子模块、第二处罚结果确定子模块、第一处罚结果确定子模块以及最高处罚结果确定子模块，其中：

第一处罚等级获取子模块，用于获取第一处罚时间对应的第一处罚结果的第一处罚等级。

第一处罚等级判断子模块，用于判断所述第一处罚等级是否为最高处罚等级。

第二处罚等级获取子模块，用于当所述第一处罚等级不是所述最高处罚等级时，执行获取所述第二处罚时间对应的第二处罚结果的第二处罚等级。进一步地，所述第二处罚等级获取子模块还包括：指定时长获取单元以及指定时长确定单元，其中：

指定时长获取单元，用于在指定时长内获取所述第二处罚时间对应的第二处罚结果的第二处罚等级。

指定时长确定单元，用于若在所述指定时长内没有获取到其他处罚结果，将所述第一处罚结果确定为所述目标处罚结果。

第二处罚等级判断子模块，用于判断所述第二处罚等级是否高于所述第一处罚等级。

第二处罚结果确定子模块，用于当所述第二处罚等级高于所述第一处罚等级时，将所述第二处罚结果确定为所述目标处罚结果。

第一处罚结果确定子模块，用于当所述第二处罚等级不高于所述第一处罚等级时，将所述第一处罚结果确定为所述目标处罚结果。

最高处罚结果确定子模块，用于当所述第一处罚等级是所述最高处罚等级时，将所述第一处罚结果确定为所述目标处罚结果。

处理模块230，用于基于所述目标处罚结果对所述违规内容进行处理。

进一步地，所述违规处理装置200还包括：发送模块，其中：

发送模块，用于发送违规提示信息至所述违规内容对应直播房间。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述装置和模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，模块相互之间的耦合可以是电性，机械或其它形式的耦合。

另外，在本申请各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

请参阅图10，其示出了本申请实施例提供的一种服务器100的结构框图。本申请中的服务器100可以包括一个或多个如下部件：处理器110、存储器120 以及一个或多个应用程序，其中一个或多个应用程序可以被存储在存储器120中并被配置为由一个或多个处理器110执行，一个或多个程序配置用于执行如前述方法实施例所描述的方法。

其中，处理器110可以包括一个或者多个处理核。处理器110利用各种接口和线路连接整个服务器100内的各个部分，通过运行或执行存储在存储器120 内的指令、程序、代码集或指令集，以及调用存储在存储器120内的数据，执行服务器100的各种功能和处理数据。可选地，处理器110可以采用数字信号处理(Digital Signal Processing，DSP)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)、可编程逻辑阵列(ProgrammableLogic Array，PLA)中的至少一种硬件形式来实现。处理器110可集成中央处理器(CentralProcessing Unit， CPU)、图形处理器(Graphics Processing Unit，GPU)和调制解调器等中的一种或几种的组合。其中，CPU主要处理操作系统、用户界面和应用程序等；GPU 用于负责显示内容的渲染和绘制；调制解调器用于处理无线通信。可以理解的是，上述调制解调器也可以不集成到处理器110中，单独通过一块通信芯片进行实现。

存储器120可以包括随机存储器(Random Access Memory，RAM)，也可以包括只读存储器(Read-Only Memory)。存储器120可用于存储指令、程序、代码、代码集或指令集。存储器120可包括存储程序区和存储数据区，其中，存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如图像识别功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储服务器100在使用中所创建的数据(比如视频截图数据、音视频数据、处罚结果数据)等。

请参阅图11，其示出了本申请实施例提供的一种计算机可读取存储介质的结构框图。该计算机可读取存储介质300中存储有程序代码，所述程序代码可被处理器调用执行上述方法实施例中所描述的方法。

计算机可读取存储介质300可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地，计算机可读取存储介质300包括非易失性计算机可读介质(non-transitory computer- readable storage medium)。计算机可读取存储介质300具有执行上述方法中的任何方法步骤的程序代码310的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码 310可以例如以适当形式进行压缩。

综上所述，本申请实施例提供的违规处理方法、装置、服务器以及存储介质，当检测到针对一违规内容的多个处罚结果时，分别获取该多个处罚结果的处罚时间和处罚等级，其中，违规内容对应直播房间的违规行为，基于该多个处罚结果的处罚时间和处罚等级，从该多个处罚结果中确定一个目标处罚结果，基于目标处罚结果对违规内容进行处理。从而基于同一违规内容的处罚时间和处罚等级，从多个处罚结果中确定一个目标处罚结果对违规内容进行处理，以解决对违规内容处罚标准不一致的问题，提供更具灵活性的违规处理方法，提高用户体验。

最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (12)

1.一种违规处理方法，其特征在于，所述方法包括：

当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为；

基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果；

基于所述目标处罚结果对所述违规内容进行处理。

2.根据权利要求1所述的方法，其特征在于，所述基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果，包括：

当所述多个处罚结果的处罚等级不一致时，从所述多个处罚结果中获取处罚等级最高的处罚结果；

将所述处罚等级最高的处罚结果确定为所述目标处罚结果。

3.根据权利要求1所述的方法，其特征在于，所述基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果，包括：

当所述多个处罚结果的处罚等级一致时，从所述多个处罚时间中获取处罚时间最早的处罚结果；

将所述处罚时间最早的处罚结果确定为所述目标处罚结果。

4.根据权利要求1所述的方法，其特征在于，所述基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果，包括：

获取第一处罚时间对应的第一处罚结果的第一处罚等级；

获取第二处罚时间对应的第二处罚结果的第二处罚等级，其中，所述第二处罚时间晚于所述第一处罚时间；

判断所述第二处罚等级是否高于所述第一处罚等级；

当所述第二处罚等级高于所述第一处罚等级时，将所述第二处罚结果确定为所述目标处罚结果；

当所述第二处罚等级不高于所述第一处罚等级时，将所述第一处罚结果确定为所述目标处罚结果。

5.根据权利要求4所述的方法，其特征在于，所述获取第二处罚时间对应的第二处罚结果的第二处罚等级之前，还包括：

判断所述第一处罚等级是否为最高处罚等级；

当所述第一处罚等级不是所述最高处罚等级时，执行获取所述第二处罚时间对应的第二处罚结果的第二处罚等级。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

当所述第一处罚等级是所述最高处罚等级时，将所述第一处罚结果确定为所述目标处罚结果。

7.根据权利要求5所述的方法，其特征在于，所述获取第二处罚时间对应的第二处罚结果的第二处罚等级，包括：

在指定时长内获取所述第二处罚时间对应的第二处罚结果的第二处罚等级。

8.根据权利要求7所述的方法，其特征在于，所述方法还包括：

若在所述指定时长内没有获取到其他处罚结果，将所述第一处罚结果确定为所述目标处罚结果。

9.根据权利要求1-8任一项所述的方法，其特征在于，所述方法还包括：

发送违规提示信息至所述违规内容对应直播房间。

10.一种违规处理装置，其特征在于，所述装置包括：

获取模块，用于当检测到针对一违规内容的多个处罚结果时，分别获取所述多个处罚结果的处罚时间和处罚等级，所述违规内容对应直播房间的违规行为；

确定模块，用于基于所述多个处罚结果的处罚时间和处罚等级，从所述多个处罚结果中确定一个目标处罚结果；

处理模块，用于基于所述目标处罚结果对所述违规内容进行处理。

11.一种服务器，其特征在于，包括：

存储器；

一个或多个处理器，与所述存储器耦接；

一个或多个程序，其中，所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行如权利要求1-9任一项所述的方法。

12.一种计算机可读取存储介质，其特征在于，所述计算机可读取存储介质中存储有程序代码，所述程序代码可被处理器调用执行如权利要求1-9任一项所述的方法。