发明内容
本发明要解决的技术问题是提供一种实现信息举报的方法及服务器,能够迅速获取聊天内容作为审核依据,提高审核的准确性和及时性。
为解决上述技术问题,本申请的一种实现信息举报的方法,应用于多用户网络聊天场景中,该方法包括:
接收举报方触发的举报消息,根据所述举报消息从进行网络聊天的多个聊天用户中识别出被举报对象;
针对所述被举报对象,保存接收到的所述被举报对象在聊天过程中发送的聊天内容,将保存的被举报对象的聊天内容作为对所述被举报对象进行审核的审核信息;
根据调取指令呈现相应的聊天内容,以进行对所述被举报对象的审核。
进一步地,所述多用户网络聊天场景为语音聊天,所述保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的语音聊天内容后,将被举报对象的语音聊天内容与其他用户的语音聊天内容进行混音前,保存所述被举报对象的语音聊天内容,之后再进行所述被举报对象的语音聊天内容与其他用户的语音聊天内容的混音。
进一步地,所述多用户网络聊天场景为视频聊天,所述保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的视频聊天内容后,将被举报对象的视频聊天内容下发给进行聊天的其他用户前,保存所述被举报对象的视频聊天内容,之后再进行所述被举报对象的视频聊天内容的下发。
进一步地,所述多用户网络聊天场景为文字聊天,所述保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的文字聊天内容后,将被举报对象的文字聊天内容下发给进行聊天的其他用户前,保存所述被举报对象的文字聊天内容,之后再进行所述被举报对象的文字聊天内容的下发。
进一步地,所述保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
对接收到的所述被举报对象的聊天内容按照截取策略截取一段或多段聊天内容进行保存。
进一步地,一种实现信息举报的服务器,应用于多用户网络聊天场景中,包括:接收单元、识别单元、监测单元和呈现单元,其中:
所述接收单元,用于接收举报方触发的举报消息;
所述识别单元,用于根据所述举报消息从进行网络聊天的多个聊天用户中识别出被举报对象;
所述监测单元,用于针对所述被举报对象,保存接收到的所述被举报对象在聊天过程中发送的聊天内容,将保存的被举报对象的聊天内容作为对所述被举报对象进行审核的审核信息;
所述呈现单元,用于根据调取指令呈现相应的聊天内容,以进行对所述被举报对象的审核。
进一步地,所述多用户网络聊天场景为语音聊天,所述监测单元保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的语音聊天内容后,将被举报对象的语音聊天内容与其他用户的语音聊天内容进行混音前,保存所述被举报对象的语音聊天内容,之后再进行所述被举报对象的语音聊天内容与其他用户的语音聊天内容的混音。
进一步地,所述多用户网络聊天场景为视频聊天,所述监测单元保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的视频聊天内容后,将被举报对象的视频聊天内容下发给进行聊天的其他用户前,保存所述被举报对象的视频聊天内容,之后再进行所述被举报对象的视频聊天内容的下发。
进一步地,所述多用户网络聊天场景为文字聊天,所述监测单元保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到所述被举报对象的文字聊天内容后,将被举报对象的文字聊天内容下发给进行聊天的其他用户前,保存所述被举报对象的文字聊天内容,之后再进行所述被举报对象的文字聊天内容的下发。
进一步地,所述监测单元保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
对接收到的所述被举报对象的聊天内容按照截取策略截取一段或多段聊天内容进行保存。
综上所述,本申请在接收到举报消息后,保存被举报对象的聊天内容作为对被举报对象进行审核的审核信息,并在接收到调取指令后呈现相应的聊天内容以供网络管理员对被举报对象进行审核,本申请能够在接收到举报消息后立即获取被举报对象的聊天内容作为审核信息,大大提高了举报处理的及时性和准确性,并且还可以节约人力成本,提高处理效率,避免了现有技术中完全由人工进行处理导致的人力成本高以及处理效率低下的问题。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
如图1所示,本申请的实现信息举报的方法,包括:
步骤101:接收举报方发送的举报消息,根据举报消息从进行网络聊天的多个聊天用户中识别出被举报对象;
本申请应用于多个用户之间进行网络聊天的场景中。
用户之间可以是通过网络进行语音聊天,如多个用户使用语音聊天室进行语音聊天;用户之间也可以是通过网络进行视频聊天,如可以是多个用户之间对等的视频聊天(视频会议等),每个用户均面对多个其他用户的视频画面;用户之间还可以是通过网络进行文字聊天,如可以是多个用户通过即时通信软件进行群聊,也可以是多个用户通过网络聊天室进行聊天。
任一用户在聊天过程中发现某一用户的聊天内容涉及非法内容时,均可以选择涉及非法内容的用户为被举报对象并通过软件或页面上设置的举报按钮进行网络举报。在任一用户选择被举报对象并点击举报按钮后,均会触发举报消息的发送。
在举报方触发举报消息后,服务器会接收到举报方发送的举报消息,在举报消息中携带有被举报对象的标识信息,该标识信息可以是被举报对象的用户标识(ID)、电话号码、识别码或地址标识等等。
服务器在接收到举报消息后,根据举报消息中携带的被举报对象的标识信息从与举报方所在的聊天中的多个聊天用户中识别出被举报对象,以便对被举报用户进行监测,从而审核被举报对象是否涉及非法聊天内容。
步骤102:识别出被举报对象后,针对被举报对象,保存接收到的被举报对象在聊天过程中发送的聊天内容,将保存的被举报对象的聊天内容作为对被举报对象进行审核的审核信息;
服务器在接收到举报消息并识别出被举报对象后开始对被举报对象进行监测,即保存接收到的被举报对象在聊天过程中发送的聊天内容,将该聊天内容作为对被举报对象进行审核的审核信息。在现有的举报方法中,当有举报方进行举报后,举报消息被送到后台管理员,由后台管理员对举报进行核实。如果举报内容属实,则对被举报对象进行处罚;如果举报内容不属实,则不做处理。这种方式中,从后台管理员收到举报消息到后台管理员去核实举报的真实性的时间受到多种因素的限制,如举报过多、人员有限等,通常无法在举报方进行举报后立即对举报进行核实,往往错过了取证的最佳时间,并且人力成本高、效率低下。本申请中服务器在接收到举报消息并识别出被举报对象后,立即对被举报对象进行监测,保存被举报对象的聊天内容,在后台管理员需要核实举报时,可以调取保存的被举报对象的聊天内容,根据聊过内容判断举报是否属实,能够提高举报处理的及时性和准确性,并且还可以节约人力成本,提高处理效率。
如上所述,本申请的多用户网络聊天场景可以是语音聊天,可以是视频聊天,也可以是文字聊天。
在多用户网络聊天场景为语音聊天的情况中,上述保存接收到的所述被举报对象在聊天过程中发送的聊天内容,包括:
在接收到被举报对象的语音聊天内容后,将被举报对象的语音聊天内容与其他用户的语音聊天内容进行混音前,保存被举报对象的语音聊天内容,之后再进行被举报对象的语音聊天内容与其他用户的语音聊天内容的混音。
在多用户语音聊天场景中,服务器在收到语音聊天内容后,会将其与其他用户的语音聊天内容进行混音并且转发给其他用户。服务器发送给用户听到的声音是除了自己之外的声音,例如,有用户A、用户B和用户C三个用户进行语音聊天,那么服务器会将用户A与用户C的语音聊天内容进行混音发给用户B;将用户A与用户B的语音聊天内容进行混音发给用户C;将用户B与用户C的语音聊天内容进行混音发给用户A。
在多用户语音聊天场景中,每个聊天用户的语音聊天内容均为多用户语音聊天场景中的一路分支输入,混音后的聊天内容为多用户语音聊天场景的整体输出,本申请中在将被举报对象的语音聊天内容与其他用户的语音聊天内容混音为整体输出前保存被举报对象的语音聊天内容作为对被举报对象进行审核的审核信息,实际上是获取语音聊天场景的分支输入作为审核信息,能够实现在基于网络的多用户语音聊天场景中单独对任意一个参与聊天的用户的监测、审核。
如上所述,本申请的多用户网络聊天场景也可以是视频聊天,上述保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
在接收到被举报对象的视频聊天内容后,将被举报对象的视频聊天内容下发给进行聊天的其他用户前,保存被举报对象的视频聊天内容,之后再进行被举报对象的视频聊天内容的下发。
在多用户视频聊天场景中,每个聊天用户均会收到多个其他聊天用户的视频画面,服务器从每个聊天用户接收视频聊天内容,将接收到的视频聊天内容发送给除发送方之外的其他聊天用户。每个视频聊天用户对除自身之外的其他视频聊天用户的视频聊天内容进行显示。本申请中服务器在接收到被举报对象的视频聊天内容后,将被举报对象的视频聊天内容发送给其他用户前进行保存,作为对被举报对象进行审核的审核信息,能够实现在基于网络的多用户视频聊天场景中单独对任意一个参与聊天的用户的监测、审核。
如上所述,本申请的多用户网络聊天场景还可以是文字聊天,上述保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
在接收到被举报对象的文字聊天内容后,将被举报对象的文字聊天内容下发给进行聊天的其他用户前,保存被举报对象的文字聊天内容,之后再进行被举报对象的文字聊天内容的下发。
在多用户文字聊天场景中,每个聊天用户均会收到多个其他聊天用户的文字聊天内容,服务器从每个聊天用户接收文字聊天内容,将接收到的文字聊天内容发送给除发送方之外的其他聊天用户。每个文字聊天用户对自身以及其他聊天用户的文字聊天内容进行显示。本申请中服务器在接收到被举报对象的文字聊天内容后,将被举报对象的文字聊天内容发送给其他用户前进行保存,作为对被举报对象进行审核的审核信息,能够实现在基于网络的多用户文字聊天场景中单独对任意一个参与聊天的用户的监测、审核。
具体而言,本申请中保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:对接收到的被举报对象的聊天内容按照截取策略截取一段或多段聊天内容进行保存。截取策略可以是截取第一时间阈值范围内的聊天内容;也可以是每隔第二时间阈值截取一段聊天内容,截取多段聊天内容;或者是在接收到举报消息后,判断被举报对象是否在发言,如果没有发言则不保存聊天内容,在规定的时间内只保存发言的聊天内容。例如:规定的时间为1分钟,其中被举报对象只说了10秒,其余50秒是没有说话的状态,那么最终保存的聊天内容就只有10秒。这样可以在审核时不用每次都审查规定时间长度的内容,将没有发言的部分过滤掉,加大审核力度。
步骤103:根据调取指令呈现相应的聊天内容,以进行对被举报对象的审核。
本申请中可以采用被举报对象的标识信息为索引保存聊天内容,并提供聊天内容查询界面。在后台管理员需要查询聊天内容时,可以通过在查询界面输入包含被举报对象的标识信息的调取指令查询相应的聊天内容。服务器根据调取指令查询出相应的聊天内容,并在查询界面中呈现相应的聊天内容,以便后台管理员对被举报对象进行审核。
如图2所示,本申请还提供了一种实现信息举报的服务器,应用于多用户网络聊天场景中,包括:接收单元、识别单元、监测单元和呈现单元,其中:
接收单元,用于接收举报方触发的举报消息;
识别单元,用于根据举报消息从进行网络聊天的多个聊天用户中识别出被举报对象;
监测单元,用于针对被举报对象,保存在聊天过程中接收到的被举报对象发送的聊天内容,将保存的被举报对象的聊天内容作为对被举报对象进行审核的审核信息;
呈现单元,用于根据调取指令呈现相应的聊天内容,以进行对被举报对象的审核。
本申请中多用户网络聊天场景为语音聊天,监测单元保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
在接收到被举报对象的语音聊天内容后,将被举报对象的语音聊天内容与其他用户的语音聊天内容进行混音前,保存被举报对象的语音聊天内容,之后再进行被举报对象的语音聊天内容与其他用户的语音聊天内容的混音。
本申请中多用户网络聊天场景为视频聊天,监测单元保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
在接收到被举报对象的视频聊天内容后,将被举报对象的视频聊天内容下发给进行聊天的其他用户前,保存被举报对象的视频聊天内容,之后再进行被举报对象的视频聊天内容的下发。
本申请中多用户网络聊天场景为文字聊天,监测单元保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
在接收到被举报对象的文字聊天内容后,将被举报对象的文字聊天内容下发给进行聊天的其他用户前,保存被举报对象的文字聊天内容,之后再进行被举报对象的文字聊天内容的下发。
本申请中监测单元保存在聊天过程中接收到的被举报对象发送的聊天内容,包括:
对接收到的被举报对象的聊天内容按照截取策略截取一段或多段聊天内容进行保存。
本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
尽管上文对本发明进行了详细说明,但是本发明不限于此,本技术领域技术人员可以根据本发明的原理进行各种修改。因此,凡按照本发明原理所作的修改,都应当理解为落入本发明的保护范围。