CN109816350B - 直播举报信息的处理方法、装置、设备和存储介质 - Google Patents
直播举报信息的处理方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN109816350B CN109816350B CN201910088226.4A CN201910088226A CN109816350B CN 109816350 B CN109816350 B CN 109816350B CN 201910088226 A CN201910088226 A CN 201910088226A CN 109816350 B CN109816350 B CN 109816350B
- Authority
- CN
- China
- Prior art keywords
- weight
- processing
- reported user
- user
- live broadcast
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 11
- 238000012545 processing Methods 0.000 claims abstract description 231
- 238000000034 method Methods 0.000 claims abstract description 46
- 239000013589 supplement Substances 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 abstract description 6
- 238000012550 audit Methods 0.000 description 6
- 230000006399 behavior Effects 0.000 description 6
- 230000002411 adverse Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000000192 social effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例公开了一种直播举报信息的处理方法、装置、设备和存储介质。该方法包括:获取与接收的直播举报信息匹配的举报用户和被举报用户;根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理。上述方法能够快速优先地处理与违规可能性较大的被举报用户匹配的直播举报信息,整体提高了对直播举报信息的处理效率。
Description
技术领域
本发明实施例涉及直播信息处理技术,尤其涉及一种直播举报信息的处理方法、装置、设备和存储介质。
背景技术
随着信息技术的不断发展,多媒体直播以其形式新颖、内容丰富受到人们的关注。但是,多媒体直播可能会掺杂着许多违规内容,故建立直播举报机制便于直播平台用户对违规主播或违规用户进行举报。
直播平台的内容审核员根据平台用户的举报信息,对被举报主播的直播视频进行内容审核,如果确定用户举报信息有效,则会对被举报主播做出相应的处罚。但是,被举报主播或被举报用户的数量远大于内容审核员的数量,使得很多举报不能及时被处理或可供处理的时间很短。一旦大量违规举报信息得不到充分有效地处理,则会直接增加违规内容被继续直播的可能性,进而可能造成不良的社会影响。
发明内容
本发明实施例提供一种直播举报信息的处理方法、装置、设备和存储介质,以提高对直播举报信息的处理效率,尤其是提高对有效可能性较大的直播举报信息的处理效率。
第一方面,本发明实施例提供了一种直播举报信息的处理方法,包括:
获取与接收的直播举报信息匹配的举报用户和被举报用户;
根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理。
第二方面,本发明实施例还提供了一种直播举报信息的处理装置,该装置包括:
获取模块,用于获取与接收的直播举报信息匹配的举报用户和被举报用户;
权值确定模块,用于根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
举报处理模块,用于根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理。
第三方面,本发明实施例还提供了一种计算机设备,所述计算机设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现任意实施例所述的直播举报信息的处理方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现任意实施例所述的直播举报信息的处理方法。
本发明实施例,通过以被举报用户为处理维度,将与同一被举报用户对应的多条直播举报信息进行统一处理的技术手段,提高了同一时间段内针对同一被举报用户的大量直播举报信息的处理效率;通过根据举报用户和被举报用户的历史举报信息确定被举报用户的处理权值,并根据各被举报用户的处理权值对与各被举报用户匹配的至少一个直播举报信息进行处理的技术手段,可以对与违规可能性较大的被举报用户匹配的直播举报信息优先处理,进而可以及时对违规的被举报用户做出相应的处罚,避免不良的社会影响进一步扩大。由此,本发明实施例提供的技术方案,在直播举报信息审核工作人员数量有限、直播举报信息数量较大的情况下,并非按照举报时间先后顺序来处理直播举报信息,而是以被举报用户为处理维度,能够快速优先地处理与违规可能性较大的被举报用户匹配的直播举报信息,整体提高了对直播举报信息的处理效率。
附图说明
图1是本发明实施例一提供的一种直播举报信息的处理方法的流程图;
图2是本发明实施例二提供的一种直播举报信息的处理方法的流程图;
图3是本发明实施例三提供的一种直播举报信息的处理方法的流程图;
图4A是本发明实施例四提供的一种直播举报信息的处理方法的流程图;
图4B是本发明实施例四提供的一种直播举报信息的处理方法所适用的系统示意图;
图5是本发明实施例五提供的一种直播举报信息的处理装置的模块结构示意图;
图6是本发明实施例六提供的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
实施例一
图1是本发明实施例一提供的一种直播举报信息的处理方法的流程图,本实施例可适用于在直播举报信息审核工作人员数量有限、直播举报信息数量较大时处理直播举报信息的情况,该方法可以由本发明任意实施例提供的直播举报信息的处理装置来执行,该装置可由硬件和/或软件组成,并一般可集成在计算机设备的处理器中。
如图1所述,本实施例提供的直播举报信息的处理方法包括以下步骤:
S110、获取与接收的直播举报信息匹配的举报用户和被举报用户。
直播举报信息是以数据流的形式进入直播平台举报系统的,每当有新的直播举报信息进入直播平台举报系统时,则对这个新的直播举报信息进行分析,获取与其关联的举报用户和被举报用户,也就是这个新的直播举报信息是哪个用户举报的,以及是用于举报哪个用户的。其中,被举报用户具体可以是直播平台的主播用户,也可以是在某直播间进行评论留言的普通注册用户。
S120、根据举报用户和被举报用户的历史举报信息,确定被举报用户的处理权值。
举报用户的历史举报信息可以是该举报用户曾经发起的所有直播举报信息的记录信息,也可以是该举报用户曾经发起的有效直播举报信息的记录信息;被举报用户的历史举报信息可以是曾经举报该被举报用户的所有直播举报信息的记录信息,也可以是曾经有效举报该被举报用户的直播举报信息的记录信息。其中,有效具体指的是,举报用户发起的直播举报信息是真实的,被举报用户的确存在违规行为。
根据举报用户的历史举报信息,以及被举报用户的历史举报信息,判断直播举报信息的有效可能性大小,进而确定被举报用户的处理权值。具体的,举报用户的历史举报信息中有效直播举报信息越多,被举报用户的历史举报信息中有效直播举报信息越多,本次直播举报信息的有效可能性就越大,进而确定的被举报用户的处理权值越大,本次直播举报信息的处理优先级就越高。
S130、根据各被举报用户的处理权值,对与各被举报用户匹配的至少一个直播举报信息进行处理。
本实施例中,将针对同一个被举报用户进行举报的一个或多个直播举报信息进行统一处理,审核员以被举报用户为审核维度,同时完成对与被举报用户对应的一个或多个直播举报信息的审核处理。
具体的,根据各被举报用户的处理权值的大小顺序,将与处理权值最大的被举报用户匹配的所有未处理的直播举报信息统一推送至审核员进行处理。当审核员对与某个被举报用户对应的多个直播举报信息进行审核时,通过查看这个被举报用户设定时间段内的行为记录,例如是被举报主播设定时间段内的直播记录,判断其直播内容是否存在违规现象,如果存在,则可确定与这个被举报用户对应的多个直播举报信息均为有效的,如果不存在,则可确定与这个被举报用户对应的多个直播举报信息均为无效的。其中,设定时间段可以根据与某个被举报用户对应的多个直播举报信息的举报时间来确定,设定时间段的开始时间应该比这些直播举报信息的举报时间早一些(例如比最早举报时间早一分钟),设定时间段的结束时间应该比这些直播举报信息的举报时间晚一些(例如比最晚举报时间晚一分钟)。
本发明实施例,通过以被举报用户为处理维度,将与同一被举报用户对应的多条直播举报信息进行统一处理的技术手段,提高了同一时间段内针对同一被举报用户的大量直播举报信息的处理效率;通过根据举报用户和被举报用户的历史举报信息确定被举报用户的处理权值,并根据各被举报用户的处理权值对与各被举报用户匹配的至少一个直播举报信息进行处理的技术手段,可以对与违规可能性较大的被举报用户匹配的直播举报信息优先处理,进而可以及时对违规的被举报用户做出相应的处罚,避免不良的社会影响进一步扩大。
实施例二
图2为本发明实施例二提供的一种直播举报信息的处理方法的流程图。本实施例以上述实施例为基础进行具体化。其中,将根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值,具体为:
根据举报用户和被举报用户的历史举报信息,计算直播举报信息的处理子权值;
如果举报队列中不存在被举报用户,则将被举报用户加入举报队列,将处理子权值作为被举报用户的处理权值;
如果举报队列中存在被举报用户,则将被举报用户的处理权值更新为与处理子权值的累加和。
进一步的,将根据举报用户和被举报用户的历史举报信息,计算直播举报信息的处理子权值,具体为:
根据举报用户的举报质量权值以及被举报用户的直播违规权值,计算直播举报信息的处理子权值;
其中,举报质量权值是根据举报用户的历史举报质量确定的,直播违规权值是根据被举报用户的历史违规记录确定的。
进一步的,在对与被举报用户匹配的至少一个直播举报信息进行处理之后,还包括:
根据对所述被举报用户的处理结果,更新所述被举报用户的直播违规权值以及与所述被举报用户匹配的至少一个举报用户的举报质量权值。
如图2所示,本实施例提供的直播举报信息的处理方法包括以下步骤:
S210、获取与接收的直播举报信息匹配的举报用户和被举报用户。
S220、根据举报用户的举报质量权值以及被举报用户的直播违规权值,计算直播举报信息的处理子权值。
举报用户的举报质量权值,指的是举报用户发起的直播举报信息的有效可能性,与其曾经发起的直播举报信息的有效性直接相关,举报用户的举报质量权值越大,其再次发起的直播举报信息的有效可能性就越大,每个举报用户的举报质量权值初始值都是相同的,例如是100。
被举报用户的直播违规权值,指的是被举报用户有违规行为的可能性,与其过往的违规行为直接相关,被举报用户的直播违规权值越大,其再次有违规行为的可能性就越大,每个被举报用户的直播违规权值初始值都是相同的,例如是100。
典型的,可以根据下述公式计算每条直播举报信息的处理子权值:
S230、判断举报队列中是否存在所述被举报用户,若否,则执行S240,若是,则执行S250。
举报队列指的是用于存储待审核被举报用户的存储结构,其中具体存储的是被举报用户、该被举报用户的处理权值,以及与该被举报用户匹配的所有直播举报信息的索引。
如果举报队列中不存在某个被举报用户,则表明当前不存在与这个被举报用户匹配的未处理的直播举报信息;如果举报队列中不存在某个被举报用户,则表明当前存在与这个被举报用户匹配的至少一个未处理的直播举报信息。
由于本实施例中是以被举报用户为审核维度的,将针对同一个被举报用户进行举报的各个直播举报信息统一审核,所以举报队列中存在的被举报用户都是不同的,不会出现重复的情况。
S240、将所述被举报用户加入举报队列,将处理子权值作为所述被举报用户的处理权值。
如果与接收到的直播举报信息匹配的被举报用户不在举报队列中,则需将该被举报用户加入举报队列等待被审核,并将这个直播举报信息的处理子权值作为该被举报用户的处理权值。
S250、将所述被举报用户的处理权值更新为与处理子权值的累加和。
如果与接收到的直播举报信息匹配的被举报用户在举报队列中,则无需再将该被举报用户重复加入举报队列,只需根据直播举报信息的处理子权值对该被举报用户的处理权值进行更新即可。
具体的,将接收到的直播举报信息的处理子权值和与该被举报用户的当前的处理权值的累加值,作为更新后的该被举报用户的处理权值。
也即,被举报用户的处理权值是根据与其匹配的各个未处理的直播举报信息的处理子权值的累加和确定的,被举报用户的处理权值C为:
其中,n为与被举报用户匹配的未处理的直播举报信息的数量,Yi为与被举报用户匹配第i条未处理的直播举报信息的处理子权值,r1i为与被举报用户匹配第i条未处理的直播举报信息匹配的举报用户的举报质量权值,r2i为与被举报用户匹配第i条未处理的直播举报信息匹配的被举报用户的直播违规权值。值得指出的是,由于同一时间段各条针对同一被举报用户的未处理的直播举报信息的时间间隔非常近,所以各个r2i一般情况下是相同的,特殊情况下也存在不同的可能性。
S260、根据举报队列中各被举报用户的处理权值,对与各被举报用户匹配的至少一个直播举报信息进行处理。
根据举报队列中各个被举报用户的处理权值的大小顺序对与各被举报用户匹配的各个直播举报信息进行统一处理。具体的,对处理权值最大的被举报用户进行优先审核。
S270、根据对被举报用户的处理结果,更新被举报用户的直播违规权值以及与被举报用户匹配的至少一个直播举报信息匹配的举报用户的举报质量权值。
接收对被举报用户的处理结果,并获取与被举报用户匹配的各个直播举报信息的目标举报用户以及目标被举报用户;
如果处理结果为未通过审核,则按照第一权值处理规则升高目标举报用户的举报质量权值以及目标被举报用户的直播违规权值;
如果处理结果为通过审核,则按照第二权值处理规则降低目标举报用户的举报质量权值。
如果处理结果为未通过审核,也即被举报用户确实存在违规行为,则表明与该被举报用户匹配的各个直播举报信息均是有效的。由于经常进行有效举报的用户,其下一次举报信息是有效的可能性更高,进而升高目标举报用户的举报质量权值,以提高目标举报用户发起的直播举报信息优先级。具体可以根据第一权值处理规则进行处理,例如是,举报用户每次有效举报后,其举报质量权值+10。
同时,升高目标被举报用户的直播违规权值。具体的,被举报用户每次被确定违规后,其直播违规权值为直播违规权值当前值与此次违规风险权值之和。其中,此次违规风险权值在此次违规当日最大,随着时间的迁移逐渐减小直至为零,具体可以是Max(0,8*(30-此次违规日至今的天数))。直播违规权值当前值可能是直播违规权值初始值(例如是100),也可能不是直播违规权值初始值(此时至少是距离上次违规日未满30日)。当主播在每次违规后可以被标记为风险主播,随着时间的迁移风直播违规权值恢复至直播违规权值初始值时,风险主播恢复为非风险主播。
如果处理结果为通过审核,也即被举报用户不存在违规行为,则表明与被举报用户匹配的各个直播举报信息均是无效的,进而降低目标举报用户的举报质量权值,具体可以根据第二权值处理规则进行处理,例如是,举报用户每次无效举报后,其举报质量权值-1。为了防止举报用户的举报质量权值溢出,以及举报质量权值为负带来的处理子权值正负值抵消问题,可以为举报质量权值设定区间范围,例如是[0,1000]。
本实施例未尽详细解释之处请参见前述实施例,在此不再赘述。
本发明实施例中,根据与被举报用户匹配的各个未处理的直播举报信息的举报用户的举报质量权值以及被举报用户的直播违规权值确定被举报用户的处理权值,并优先审核处理权值较大的被举报用户,达到对违规可能性较大的被举报用户优先处理的效果,进而可以及时对违规的被举报用户做出相应的处罚,避免不良的社会影响进一步扩大。
实施例三
图3为本发明实施例三提供的一种直播举报信息的处理方法的流程图。本实施例以上述实施例为基础进行具体化。其中,本实施提供的直播举报信息的处理方法,还包括:
根据当前时间,以及与每个被举报用户分别匹配的各个直播举报信息的举报时间,计算与每个被举报用户对应的时间权值;
根据与每个被举报用户对应的时间权值,对应更新每个所述被举报用户的处理权值。
如图3所示,本实施例提供的直播举报信息的处理方法包括以下步骤:
S310、获取与接收的直播举报信息匹配的举报用户和被举报用户。
S320、根据举报用户的举报质量权值以及被举报用户的直播违规权值,计算直播举报信息的处理子权值。
S330、判断举报队列中是否存在所述被举报用户,若否,则执行S340,若是,则执行S350。
S340、将所述被举报用户加入举报队列,将处理子权值作为所述被举报用户的处理权值,执行S360。
S350、将所述被举报用户的处理权值更新为与处理子权值的累加和。
S360、根据当前时间,以及与每个被举报用户分别匹配的各个直播举报信息的举报时间,计算与每个被举报用户对应的时间权值。
为了提高对有效可能性较小,但超过一定时间仍未审核的被举报用户的处理效率,故引入与被举报用户对应的时间权值。由此,对于超过一定时间未被审核的被举报用户,即使其处理权值再低,也会很快被处理。
作为本实施例一种可选的实施方式,可以将根据当前时间,以及与所述被举报用户分别匹配的各个直播举报信息的举报时间,计算与所述被举报用户对应的时间权值,具体为:
根据与当前处理的被举报用户匹配的各个直播举报信息的举报时间和当前时间的时间差,分别确定各个直播举报信息的时间子权值;
将确定的各个直播举报信息的时间子权值的累加和,作为与所述当前处理的被举报用户对应的时间权值。
典型的,可以根据下述公式确定每条待处理直播举报信息的时间子权值:
其中,Ti为与被举报用户匹配第i条未处理的直播举报信息的时间子权值,ti为与被举报用户匹配第i条未处理的直播举报信息的举报时间与当前时间的时间差,α为可调参数,α越大,时间子权值对时间的敏感度越低,反之,α越小,时间子权值对时间的敏感度越高。
为了尽量能在90秒内响应任何举报用户的直播举报信息,无论直播举报信息的有效可能性大或小,都希望能在90秒左右完成审核,不至于部分举报用户的直播举报信息被积压太久,具体可以依据经验将α设置为10000。
S370、根据与每个被举报用户对应的时间权值,对应更新每个所述被举报用户的处理权值。
根据与每个被举报用户对应的时间权值按照预设频率(例如是5秒一次)对应更新每个被举报用户的处理权值,进而可以根据考虑时间权值的处理权值来确定被举报用户的审核顺序。
S380、根据举报队列中各被举报用户的处理权值,对与各被举报用户匹配的至少一个直播举报信息进行处理。
S390、根据对被举报用户的处理结果,更新被举报用户的直播违规权值以及与被举报用户匹配的至少一个直播举报信息匹配的举报用户的举报质量权值。
本实施例未尽详细解释之处请参见前述实施例,在此不再赘述。
本发明实施例中,确定被举报用户的处理权值时考虑了时间权值,可以避免出现部分有效可能性较小的直播举报信息久久不能被处理的问题。由此,在直播举报信息审核工作人员数量有限、直播举报信息数量较大的情况下,能够快速优先地处理与违规可能性较大的被举报用户匹配的直播举报信息,同时还能兼顾与违规可能性较小的被举报用户匹配的直播举报信息,整体提高了对直播举报信息的处理效率。
实施例四
图4A为本发明实施例四提供的一种直播举报信息的处理方法的流程图。本实施例以上述实施例为基础进行具体化。其中,在根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值之后,还包括:
如果所述直播举报信息携带预设标识,则根据所述预设标识获取所述直播举报信息的补充权值;
将所述被举报用户的处理权值更新为与所述补充权值的累加和。
如图4A所示,本实施例提供的直播举报信息的处理方法包括以下步骤:
S410、获取与接收的直播举报信息匹配的举报用户和被举报用户。
S420、根据举报用户的举报质量权值以及被举报用户的直播违规权值,计算直播举报信息的处理子权值。
S430、判断举报队列中是否存在所述被举报用户,若否,则执行S440,若是,则执行S450。
S440、将所述被举报用户加入举报队列,将处理子权值作为所述被举报用户的处理权值,执行S460。
S450、将所述被举报用户的处理权值更新为与处理子权值的累加和。
S460、如果所述直播举报信息携带预设标识,则根据所述预设标识获取所述直播举报信息的补充权值。
携带预设标识的直播举报信息具体可以指的是特定用户群体发起的直播举报信息,例如是政府监管类用户发起的直播举报信息,可以为这类直播举报信息添加优先处理标识,根据不同类用户的重要程度,可以设置多层次的优先处理标识,不同优先处理标识匹配不同的补充权值,补充权值可以是一个固定值,也可以是一个函数值。
S470、将所述被举报用户的处理权值更新为与所述补充权值的累加和。
将直播举报信息的补充权值和被举报用户的处理权值的累加值,作为更新后的被举报用户的处理权值的累加值。
S480、根据当前时间,以及与每个被举报用户分别匹配的各个直播举报信息的举报时间,计算与每个被举报用户对应的时间权值。
S490、根据与每个被举报用户对应的时间权值,对应更新每个所述被举报用户的处理权值。
S4100、根据举报队列中各被举报用户的处理权值,对与各被举报用户匹配的至少一个直播举报信息进行处理。
S4110、根据对被举报用户的处理结果,更新被举报用户的直播违规权值以及与被举报用户匹配的至少一个直播举报信息匹配的举报用户的举报质量权值。
本实施例未尽详细解释之处请参见前述实施例,在此不再赘述。
典型的,本实施例提供的方法可适用于如图4B所示的系统中,用户向举报系统发起举报信息,以流的形式进行初始举报队列,然后根据本发明实施例提供的方法进行初始举报队列处理,形成举报队列(也即带权值的优先队列),举报队列中具体为被举报用户、被举报用户的处理权值以及与被举报用户匹配的各个直播举报信息的索引信息,进而将举报队列中的被举报用户按照其处理权值大小顺序先后推送给审核员,以使审核员对应做出审核处理,在审核员确定举报有效时,根据与被举报用户匹配的各个直播举报信息的索引信息确定各个直播举报信息的举报用户之后,调整与被举报用户匹配的各个直播举报信息的举报用户的举报质量权值以及被举报用户的直播违规权值,在审核员确定举报无效时,根据与被举报用户匹配的各个直播举报信息的索引信息确定各个直播举报信息的举报用户之后,只调整与被举报用户匹配的各个直播举报信息的举报用户的举报质量权值。
在本发明实施例中,确定被举报用户的处理权值时不仅考虑了时间权值,还考虑了特殊应用场景下直播举报信息的补充权值,可以尽量优先处理潜在的风险。由此,在直播举报信息审核工作人员数量有限、直播举报信息数量较大的情况下,可以很好地协调这二者之间的矛盾,整体提高了对直播举报信息的处理效率。
实施例五
图5是本发明实施例五提供的一种直播举报信息的处理装置的模块结构示意图,本实施例可适用于在直播举报信息审核工作人员数量有限、直播举报信息数量较大时处理直播举报信息的情况,该装置可以采用软件和/或硬件的方式实现,并一般可集成在计算机设备的处理器中。如图5所示,该装置包括:获取模块510、权值确定模块520和举报处理模块530,其中,
获取模块510,用于获取与接收的直播举报信息匹配的举报用户和被举报用户;
权值确定模块520,用于根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
举报处理模块530,用于根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理。
本发明实施例,通过以被举报用户为处理维度,将与同一被举报用户对应的多条直播举报信息进行统一处理的技术手段,提高了同一时间段内针对同一被举报用户的大量直播举报信息的处理效率;通过根据举报用户和被举报用户的历史举报信息确定被举报用户的处理权值,并根据各被举报用户的处理权值对与各被举报用户匹配的至少一个直播举报信息进行处理的技术手段,可以对与违规可能性较大的被举报用户匹配的直播举报信息优先处理,进而可以及时对违规的被举报用户做出相应的处罚,避免不良的社会影响进一步扩大。
进一步的,权值确定模块520具体包括:处理子权值计算单元、处理权值第一确定单元和处理权值第二确定单元,其中,
处理子权值计算单元,用于根据所述举报用户和所述被举报用户的历史举报信息,计算所述直播举报信息的处理子权值;
处理权值第一确定单元,用于如果举报队列中不存在所述被举报用户,则将所述被举报用户加入所述举报队列,将所述处理子权值作为所述被举报用户的处理权值;
处理权值第二确定单元,用于如果所述举报队列中存在所述被举报用户,则将所述被举报用户的处理权值更新为与所述处理子权值的累加和。
进一步的,处理子权值计算单元具体用于根据所述举报用户的举报质量权值以及所述被举报用户的直播违规权值,计算所述直播举报信息的处理子权值;
其中,所述举报质量权值是根据所述举报用户的历史举报质量确定的,所述直播违规权值是根据所述被举报用户的历史违规记录确定的。
进一步的,上述装置还包括:权值调整模块,具体用于根据对所述被举报用户的处理结果,更新所述被举报用户的直播违规权值以及与所述被举报用户匹配的至少一个举报用户的举报质量权值。
在上述技术方案的基础上,上述装置还包括:时间权值计算模块和处理权值第一更新模块,其中,
时间权值计算模块,用于根据当前时间,以及与每个被举报用户分别匹配的各个直播举报信息的举报时间,计算与每个被举报用户对应的时间权值;
处理权值第一更新模块,用于根据与每个被举报用户对应的时间权值,对应更新每个所述被举报用户的处理权值。
进一步的,时间权值计算模块包括:时间子权值确定单元和时间权值确定单元,其中,
时间子权值确定单元,用于根据与当前处理的被举报用户匹配的各个直播举报信息的举报时间和当前时间的时间差,分别确定各个直播举报信息的时间子权值;
时间权值确定单元,用于将确定的各个直播举报信息的时间子权值的累加和,作为与所述当前处理的被举报用户对应的时间权值。
在上述技术方案的基础上,上述装置还包括:补充权值确定模块和处理权值第二更新模块,其中,
补充权值确定模块,用于如果所述直播举报信息携带预设标识,则根据所述预设标识获取所述直播举报信息的补充权值;
处理权值第二更新模块,用于将所述被举报用户的处理权值更新为与所述补充权值的累加和。
本发明实施例所提供的直播举报信息的处理装置可执行本发明任意实施例所提供的直播举报信息的处理方法,具备执行方法相应的功能模块和有益效果。
实施例六
图6是本发明实施例六提供的一种计算机设备的结构示意图,如图6所示,该计算机设备包括处理器60、存储器61、输入装置62和输出装置63;计算机设备中处理器60的数量可以是一个或多个,图6中以一个处理器60为例;计算机设备中的处理器60、存储器61、输入装置62和输出装置63可以通过总线或其他方式连接,图6中以通过总线连接为例。
存储器61作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序以及模块,如本发明实施例中的直播举报信息的处理方法对应的程序指令/模块(例如,直播举报信息的处理装置中的获取模块510、权值确定模块520和举报处理模块530)。处理器60通过运行存储在存储器61中的软件程序、指令以及模块,从而执行计算机设备的各种功能应用以及数据处理,即实现上述的直播举报信息的处理方法。
存储器61可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器61可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储器61可进一步包括相对于处理器60远程设置的存储器,这些远程存储器可以通过网络连接至计算机设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置62可用于接收输入的数字或字符信息,以及产生与计算机设备的用户设置以及功能控制有关的键信号输入。输出装置63可包括显示屏等显示设备。
实施例七
本发明实施例七还提供一种存储有计算机程序的计算机可读存储介质,计算机程序在由计算机处理器执行时用于执行一种直播举报信息的处理方法,该方法包括:
获取与接收的直播举报信息匹配的举报用户和被举报用户;
根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理。
当然,本发明实施例所提供的存储有计算机程序的计算机可读存储介质,其计算机程序不限于如上的方法操作,还可以执行本发明任意实施例所提供的直播举报信息的处理方法中的相关操作。
通过以上关于实施方式的描述,所属领域的技术人员可以清楚地了解到,本发明可借助软件及必需的通用硬件来实现,当然也可以通过硬件实现,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例的方法。
值得注意的是,上述直播举报信息的处理装置的实施例中,所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种直播举报信息的处理方法,其特征在于,包括:
获取与接收的直播举报信息匹配的举报用户和被举报用户;
根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理;
所述根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理,包括:
根据举报队列中各个被举报用户的处理权值的大小顺序对与各被举报用户匹配的各个直播举报信息进行统一处理。
2.根据权利要求1所述的方法,其特征在于,根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值,包括:
根据所述举报用户和所述被举报用户的历史举报信息,计算所述直播举报信息的处理子权值;
如果举报队列中不存在所述被举报用户,则将所述被举报用户加入所述举报队列,将所述处理子权值作为所述被举报用户的处理权值;
如果所述举报队列中存在所述被举报用户,则将所述被举报用户的处理权值更新为与所述处理子权值的累加和。
3.根据权利要求2所述的方法,其特征在于,根据所述举报用户和所述被举报用户的历史举报信息,计算所述直播举报信息的处理子权值,包括:
根据所述举报用户的举报质量权值以及所述被举报用户的直播违规权值,计算所述直播举报信息的处理子权值;
其中,所述举报质量权值是根据所述举报用户的历史举报质量确定的,所述直播违规权值是根据所述被举报用户的历史违规记录确定的。
4.根据权利要求3所述的方法,其特征在于,在对与所述被举报用户匹配的至少一个直播举报信息进行处理之后,还包括:
根据对所述被举报用户的处理结果,更新所述被举报用户的直播违规权值以及与所述被举报用户匹配的至少一个举报用户的举报质量权值。
5.根据权利要求1-4任一项所述的方法,其特征在于,还包括:
根据当前时间,以及与每个被举报用户分别匹配的各个直播举报信息的举报时间,计算与每个被举报用户对应的时间权值;
根据与每个被举报用户对应的时间权值,对应更新每个所述被举报用户的处理权值。
6.根据权利要求5所述的方法,其特征在于,根据当前时间,以及与所述被举报用户分别匹配的各个直播举报信息的举报时间,计算与所述被举报用户对应的时间权值,包括:
根据与当前处理的被举报用户匹配的各个直播举报信息的举报时间和当前时间的时间差,分别确定各个直播举报信息的时间子权值;
将确定的各个直播举报信息的时间子权值的累加和,作为与所述当前处理的被举报用户对应的时间权值。
7.根据权利要求1-4任一项所述的方法,其特征在于,在根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值之后,还包括:
如果所述直播举报信息携带预设标识,则根据所述预设标识获取所述直播举报信息的补充权值;
将所述被举报用户的处理权值更新为与所述补充权值的累加和。
8.一种直播举报信息的处理装置,其特征在于,包括:
获取模块,用于获取与接收的直播举报信息匹配的举报用户和被举报用户;
权值确定模块,用于根据所述举报用户和所述被举报用户的历史举报信息,确定所述被举报用户的处理权值;
举报处理模块,用于根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理;
所述根据各被举报用户的处理权值,对与所述各被举报用户匹配的至少一个直播举报信息进行处理,包括:
根据举报队列中各个被举报用户的处理权值的大小顺序对与各被举报用户匹配的各个直播举报信息进行统一处理。
9.一种计算机设备,其特征在于,所述计算机设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的直播举报信息的处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的直播举报信息的处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910088226.4A CN109816350B (zh) | 2019-01-29 | 2019-01-29 | 直播举报信息的处理方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910088226.4A CN109816350B (zh) | 2019-01-29 | 2019-01-29 | 直播举报信息的处理方法、装置、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109816350A CN109816350A (zh) | 2019-05-28 |
CN109816350B true CN109816350B (zh) | 2021-05-28 |
Family
ID=66605893
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910088226.4A Active CN109816350B (zh) | 2019-01-29 | 2019-01-29 | 直播举报信息的处理方法、装置、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109816350B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111951024A (zh) * | 2020-07-24 | 2020-11-17 | 上海连尚网络科技有限公司 | 举报信息处理方法、设备及计算机可读介质 |
CN114245160A (zh) * | 2021-12-07 | 2022-03-25 | 北京达佳互联信息技术有限公司 | 信息处理方法、装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102510400A (zh) * | 2011-10-31 | 2012-06-20 | 百度在线网络技术(北京)有限公司 | 一种用于确定用户的可疑度信息的方法、装置和设备 |
US20120166874A1 (en) * | 2010-12-23 | 2012-06-28 | Timothy Bernardez | Wireless Device Expert System |
CN103678331A (zh) * | 2012-09-05 | 2014-03-26 | 阿里巴巴集团控股有限公司 | 举报信息处理的方法与举报信息处理装置 |
CN104424277A (zh) * | 2013-08-29 | 2015-03-18 | 深圳市腾讯计算机系统有限公司 | 举报信息的处理方法及装置 |
CN108574623A (zh) * | 2017-03-10 | 2018-09-25 | 中移(杭州)信息技术有限公司 | 一种恶意用户确定及阻止垃圾信息的方法及装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103716690B (zh) * | 2013-12-27 | 2017-09-01 | 广州华多网络科技有限公司 | 多媒体直播举报的方法、终端、服务器及系统 |
CN105512896A (zh) * | 2014-09-25 | 2016-04-20 | 腾讯科技(深圳)有限公司 | 举报信息处理方法和系统 |
CN105933781A (zh) * | 2016-04-19 | 2016-09-07 | 武汉斗鱼网络科技有限公司 | 一种用于视频网站的违规弹幕处理方法及装置 |
CN106157119A (zh) * | 2016-07-11 | 2016-11-23 | 广东聚联电子商务股份有限公司 | 一种电子商务购物系统平台举报处理的方法 |
CN108009934B (zh) * | 2017-11-17 | 2021-03-12 | 上海哔哩哔哩科技有限公司 | 服务器、案件分配方法及系统、事件分配方法及系统 |
CN109255499B (zh) * | 2018-10-25 | 2021-12-07 | 创新先进技术有限公司 | 投诉、投诉案件处理方法、装置及设备 |
-
2019
- 2019-01-29 CN CN201910088226.4A patent/CN109816350B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120166874A1 (en) * | 2010-12-23 | 2012-06-28 | Timothy Bernardez | Wireless Device Expert System |
CN102510400A (zh) * | 2011-10-31 | 2012-06-20 | 百度在线网络技术(北京)有限公司 | 一种用于确定用户的可疑度信息的方法、装置和设备 |
CN103678331A (zh) * | 2012-09-05 | 2014-03-26 | 阿里巴巴集团控股有限公司 | 举报信息处理的方法与举报信息处理装置 |
CN104424277A (zh) * | 2013-08-29 | 2015-03-18 | 深圳市腾讯计算机系统有限公司 | 举报信息的处理方法及装置 |
CN108574623A (zh) * | 2017-03-10 | 2018-09-25 | 中移(杭州)信息技术有限公司 | 一种恶意用户确定及阻止垃圾信息的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109816350A (zh) | 2019-05-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021233048A1 (zh) | 基于区块链的数据检测方法、装置及计算机可读存储介质 | |
CN106815254B (zh) | 一种数据处理方法和装置 | |
CN109756528B (zh) | 频率控制方法及装置、设备、存储介质、服务器 | |
CN110417607B (zh) | 一种流量预测方法、装置及设备 | |
CN109816350B (zh) | 直播举报信息的处理方法、装置、设备和存储介质 | |
CN109729376B (zh) | 一种生命周期的处理方法、装置、设备和存储介质 | |
CN111797752A (zh) | 违规视频检测方法、装置、设备及存储介质 | |
CN110740356B (zh) | 基于区块链的直播数据的监控方法及系统 | |
CN106571933B (zh) | 业务处理方法及装置 | |
WO2021238514A1 (zh) | 基于区块链的数据处理方法、装置、设备及可读存储介质 | |
CN111221649A (zh) | 边缘资源存储方法、访问方法及装置 | |
US11974193B2 (en) | Data processing method and apparatus, server, and computer-readable storage medium | |
CN112954009B (zh) | 区块链共识方法、设备及存储介质 | |
CN110930254A (zh) | 基于区块链的数据处理方法、装置、终端及介质 | |
CN110460471B (zh) | 一种超级节点竞选方法、装置及存储介质 | |
CN109729314B (zh) | 一种视频处理方法、装置、电子设备及存储介质 | |
CN113835905B (zh) | 一种消息队列负载均衡方法、装置、电子设备及介质 | |
CN109800085B (zh) | 资源配置的检测方法、装置、存储介质和电子设备 | |
CN112507265B (zh) | 基于树结构进行异常侦测的方法、装置及相关产品 | |
CN114153609A (zh) | 资源控制方法及装置、电子设备、计算机可读存储介质 | |
CN110351577B (zh) | 直播信息处理方法及装置、存储介质、电子设备 | |
CN109769027B (zh) | 一种消息推送方法、装置及设备 | |
CN111104384A (zh) | 数据预处理方法、装置、设备和存储介质 | |
CN114090409A (zh) | 一种消息处理方法及装置 | |
CN112702227B (zh) | 心跳事件检测方法、装置、设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
EE01 | Entry into force of recordation of patent licensing contract | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20190528 Assignee: GUANGZHOU HUYA TECHNOLOGY Co.,Ltd. Assignor: GUANGZHOU HUYA INFORMATION TECHNOLOGY Co.,Ltd. Contract record no.: X2021990000339 Denomination of invention: Processing method, device, equipment and storage medium of live report information Granted publication date: 20210528 License type: Common License Record date: 20210607 |