CN108900466A - 防止恶意信息的处理方法、装置、服务器及存储介质 - Google Patents
防止恶意信息的处理方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN108900466A CN108900466A CN201810543060.6A CN201810543060A CN108900466A CN 108900466 A CN108900466 A CN 108900466A CN 201810543060 A CN201810543060 A CN 201810543060A CN 108900466 A CN108900466 A CN 108900466A
- Authority
- CN
- China
- Prior art keywords
- client
- message
- risk class
- risk
- receiving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/30—Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information
- H04L63/306—Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information intercepting packet switched data communications, e.g. Web, Internet or IMS communications
Landscapes
- Engineering & Computer Science (AREA)
- Technology Law (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供一种防止恶意信息的处理方法、装置、服务器及存储介质，该方法包括：接收客户端发送的当前消息；根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级；根据所述客户端的风险等级对所述当前消息进行风险控制。该方法中，服务器根据客户端发送消息的时间间隔，来确定客户端的风险等级，并根据客户端的风险等级采取与风险等级对应的风险控制。每种风险等级代表了特定的危害程度，因此通过对不同的风险等级进行相应的风险控制，可以使得不同程度的危害都能得到有效的控制，从而保证通过客户端发送消息的用户无法发送恶意消息，进而避免对接收消息的用户造成影响。
Description
技术领域
本发明实施例涉及计算机技术，尤其涉及一种防止恶意信息的处理方法、装置、服务器及存储介质。
背景技术
随着应用程序(Application，简称APP)的不断发展，APP所支持的功能越来越多，用户量也越来越多。随着APP的用户量越来越多时，可能会出现有些用户利用APP来发送垃圾信息、骚扰信息等恶意信息的情况，严重影响其他用户对APP的使用感受。
现有技术中，当某用户连续发送恶意信息时，APP会提示该用户停止发送恶意信息。
但是，现有技术的方法无法有效阻止这些用户发送恶意信息的行为。
发明内容
本发明实施例提供一种防止恶意信息的处理方法、装置、服务器及存储介质，用于解决现有技术中无法有效阻止这些用户发送恶意信息的行为的问题。
本发明实施例第一方面提供一种防止恶意信息的处理方法，包括：
接收客户端发送的当前消息；
根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级；
根据所述客户端的风险等级对所述当前消息进行风险控制。
进一步的，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级，包括：
若所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值，则将所述客户端的风险等级确定为初级风险。
进一步的，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级，还包括：
若所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值，则根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
进一步的，所述根据所述客户端的风险等级对所述当前消息进行风险控制，包括：
根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
进一步的，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级之后，还包括：
确定所述当前消息所包含的敏感信息；
根据所述当前消息所包含的敏感信息以及接收到所述客户端发送的历史消息的敏感信息，更新所述客户端的风险等级。
本发明实施例第二方面提供一种防止恶意信息的处理装置，包括：
接收模块，用于接收客户端发送的当前消息；
第一确定模块，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级；
控制模块，用于根据所述客户端的风险等级对所述当前消息进行风险控制。
进一步的，所述第一确定模块包括：
第一确定单元，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
进一步的，所述第一确定模块还包括：
第二确定单元，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值时，根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
进一步的，所述控制模块包括：
控制单元，用于根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
进一步的，还包括：
第二确定模块，用于确定所述当前消息所包含的敏感信息；
更新模块，用于根据所述当前消息所包含的敏感信息以及接收到所述客户端发送的历史消息的敏感信息，更新所述客户端的风险等级。
本发明实施例第三方面提供一种服务器，包括：
存储器，用于存储程序指令；
处理器，用于调用并执行所述存储器中的程序指令，执行上述第一方面所述的方法步骤。
本发明实施例第四方面提供一种可读存储介质，所述可读存储介质中存储有计算机程序，所述计算机程序用于执行上述第一方面所述的防止恶意信息的处理方法。
本发明实施例所提供的防止恶意信息的处理方法、装置、服务器及存储介质，服务器根据客户端发送消息的时间间隔，来确定客户端的风险等级，并根据客户端的风险等级采取与风险等级对应的风险控制。每种风险等级代表了特定的危害程度，因此通过对不同的风险等级进行相应的风险控制，可以使得不同程度的危害都能得到有效的控制，从而保证通过客户端发送消息的用户无法发送恶意消息，进而避免对接收消息的用户造成影响。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的防止恶意信息的处理方法的系统架构图；
图2为本发明实施例提供的防止恶意信息的处理方法实施例一的流程示意图；
图3为本发明实施例提供的防止恶意信息的处理方法实施例二的流程示意图；
图4为本发明实施例提供的防止恶意信息的处理方法实施例三的流程示意图；
图5为本发明实施例提供的防止恶意信息的处理方法实施例四的流程示意图；
图6为本发明实施例提供的防止恶意信息的处理方法实施例五的流程示意图；
图7为本发明实施例提供的一种防止恶意信息的处理装置实施例一的模块结构图；
图8为本发明实施例提供的一种防止恶意信息的处理装置实施例二的模块结构图；
图9为本发明实施例提供的一种防止恶意信息的处理装置实施例三的模块结构图；
图10为本发明实施例提供的一种防止恶意信息的处理装置实施例四的模块结构图；
图11为本发明实施例提供的一种防止恶意信息的处理装置实施例五的模块结构图；
图12为本发明实施例提供的一种服务器的实体框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
现有技术中，如果APP判断出用户正在发送恶意信息，则APP仅发出提示信息，提醒用户停止发送恶意信息。但是这种方式无法对用户的行为进行控制，即用户完全可以继续不断的发送恶意信息，从而对接收消息的用户造成极大影响。
本发明实施例基于上述问题，提出一种防止恶意信息的处理方法，根据用户发送消息的时间间隔，来确定用户的风险等级，并根据用户的风险等级采取与风险等级对应的风险控制。每种风险等级代表了特定的危害程度，因此通过对不同的风险等级进行相应的风险控制，可以使得不同程度的危害都能得到有效的控制，从而保证发送消息的用户无法发送恶意消息，进而避免对接收消息的用户造成影响。
图1为本发明实施例提供的防止恶意信息的处理方法的系统架构图，如图1所示，该方法涉及客户端及服务器。其中，客户端是指运行在手机、平板电脑等终端上的APP客户端，服务器是指APP服务器。当用户发送消息时，客户端将消息发送给服务器，由服务器判断客户端的风险等级，进而进行特定的风险控制。
为便于描述，本发明以下实施例将发送消息的用户称为“第一用户”，将接收消息的用户称为“第二用户”。
图2为本发明实施例提供的防止恶意信息的处理方法实施例一的流程示意图，该方法的执行主体为上述服务器，如图2所示，该方法包括：
S201、接收客户端发送的当前消息。
其中，上述客户端是指第一用户所在的客户端。可选的，第一用户可以预先在该客户端登录，进而，即可在客户端上进行消息发送。
示例性的，当第一用户在客户端的某个消息发送界面上输入了待发送消息并点击发送按钮后，客户端即接收到用户的当前消息，即用户输入的待发送消息。进而，客户端向服务器发送请求信息，并在该请求信息中携带该当前消息。
S202、根据上述当前消息的接收时间以及接收到上述客户端发送的历史消息的时间，确定上述客户端的风险等级。
需要说明的是，客户端发送的历史消息是指同一个用户在客户端上登录时，客户端所发送的历史消息。即上述当前消息和上述历史消息为同一个用户所发送的消息。
可选的，客户端每向服务器发送一次请求信息，服务器会记录该请求信息的发送时间，并且对发送时间和客户端发送历史消息的时间进行判断处理，进而确定客户端的风险等级。
S203、根据上述客户端的风险等级对上述当前消息进行风险控制。
当确定出客户端的风险等级之后，即可根据风险等级执行对应的控制操作。
可选的，服务器上可以预先保存风险等级与控制操作的对应关系，当确定出风险等级后，即可执行该风险等级所对应的控制操作。
对客户端执行特定的风险控制后，第一用户的行为即可得到有效控制。例如禁止客户端发送消息，则第一用户不能再通过客户端发送消息。
本实施例中，服务器根据客户端发送消息的时间间隔，来确定客户端的风险等级，并根据客户端的风险等级采取与风险等级对应的风险控制。每种风险等级代表了特定的危害程度，因此通过对不同的风险等级进行相应的风险控制，可以使得不同程度的危害都能得到有效的控制，从而保证通过客户端发送消息的用户无法发送恶意消息，进而避免对接收消息的用户造成影响。
在上述实施例的基础上，本实施例涉及根据当前消息的接收时间以及客户端发送历史消息的时间确定客户端的风险等级的具体方法。
图3为本发明实施例提供的防止恶意信息的处理方法实施例二的流程示意图，如图3所示，该方法包括：
S301、接收客户端发送的当前消息。
该步骤的执行过程与上述步骤S201相同，可以参照上述步骤S201，此处不再赘述。
S302、若上述当前消息的接收时间距离上一次接收上述客户端发送消息的时间间隔高于阈值，则将上述客户端的风险等级确定为初级风险。
可选的，服务器首先记录当前消息的接收时间，进而，读取已记录的上述客户端发送上一条消息的时间。进而，服务器计算当前消息的接收时间与客户端发送上一条消息的时间的差值，该差值即为上述时间间隔。
进而，服务器判断上述时间间隔是否高于阈值，如果高于阈值，则说明当前消息和上一条消息的发送间隔较大，可以将客户端当前的风险等级确定为初级风险。
初级风险可以看作是风险等级的初始值，即风险较低，当客户端处于初级风险时，服务器会正常将客户端发送的当前消息转发到第二用户所在的客户端。再继续对客户端后续发送的消息与当前消息的时间进行判断，以确定维持客户端初级风险或者将客户端的风险等级确定为其他更高的风险等级。
S303、根据上述客户端的风险等级对上述当前消息进行风险控制。
该步骤的执行过程与上述步骤S203相同，可以参照上述步骤S203，此处不再赘述。
在上述实施例的基础上，本实施例涉及根据当前消息的接收时间以及客户端发送历史消息的时间确定客户端的风险等级的具体方法。
图4为本发明实施例提供的防止恶意信息的处理方法实施例三的流程示意图，如图4所示，该方法包括：
S401、接收客户端发送的当前消息。
该步骤的执行过程与上述步骤S201相同，可以参照上述步骤S201，此处不再赘述。
S402、若上述当前消息的接收时间距离上一次接收上述客户端发送消息的时间间隔高于阈值，则将上述客户端的风险等级确定为初级风险。
该步骤的执行过程与上述步骤S302相同，可以参照上述步骤S302，此处不再赘述。
S403、若上述当前消息的接收时间距离上一次接收上述客户端发送消息的时间间隔低于上述阈值，则根据上述客户端连续低于上述阈值发送消息的次数确定上述客户端的风险等级，上述风险等级随着上述次数的增加而提高。
如果当前消息的接收时间距离上一次接收上述客户端发送消息的时间间隔低于上述阈值，则说明第一用户在相隔较近的时间内连续发送了两条消息，该第一用户存在发送恶意消息的可能性。则服务器进而会根据客户端发送的多个历史消息的时间来进一步确定客户端的风险等级。
具体的，服务器根据客户端连续低于上述阈值发送消息的次数确定上述客户端的风险等级。
示例性的，假设当前消息为消息5，在消息5之前，客户端按照时间从早到晚的顺序已经发送了消息1、消息2、消息3以及消息4。服务器已经判断出消息5(即当前消息)和消息4(即上一条消息)之间的时间间隔小于上述阈值。则进一步的，服务器判断消息4与消息3之间的时间间隔，如果仍然小于上述阈值，则服务器继续判断消息3与消息2之间的时间间隔，依次类推，直到某两个消息的时间间隔大于上述鱼子。
例如，如果消息4和消息3之间的时间间隔小于上述阈值，而消息3和消息2之间的时间间隔大于上述阈值，则说明客户端从消息3开始连续低于上述阈值发送消息，并且连续地域上述阈值发送消息的次数为3次。则服务器根据该次数“3”来确定出客户端当前的一个风险等级。
S404、根据上述客户端的风险等级对上述当前消息进行风险控制。
该步骤的执行过程与上述步骤S203相同，可以参照上述步骤S203，此处不再赘述。
本实施例中，在当前消息和上一条消息的时间间隔小于阈值时，服务器进一步根据客户端连续低于该阈值发送消息的次数确定客户端的风险等级，即结合客户端的多条历史消息来确定客户端的风险等级，从而保证所确定的风险等级的准确性。
在上述实施例的基础上，本实施例涉及服务器根据客户端的风险等级当前消息进行风险控制的具体方法。
图5为本发明实施例提供的防止恶意信息的处理方法实施例四的流程示意图，如图5所示，该方法包括：
S501、接收客户端发送的当前消息。
该步骤的执行过程与上述步骤S201相同，可以参照上述步骤S201，此处不再赘述
S502、根据上述当前消息的接收时间以及接收到上述客户端发送的历史消息的时间，确定上述客户端的风险等级。
该步骤的具体实施过程可以参照上述实施一、实施例二以及实施例三，此处不再赘述。
S503、根据上述风险等级由低至高的顺序，对上述当前消息进行转发、标记恶意标签、拦截操作或禁止上述客户端发送消息。
可选的，在通过上述的方法确定出客户端的风险等级后，可以执行该风险等级对应的控制操作。
具体的，风险等级越高，则风险控制越严格。例如，对于上述的初级风险，服务器会正常为客户端转发当前消息。随着风险等级的升高，服务器可以对当前消息进行更严格的控制。
示例性的，如果客户端连续5次低于阈值发送消息，则服务器在转发当前消息时，为当前消息增加恶意标签。如果客户端连续8次低于阈值发送消息，则服务器会对当前消息进行拦截操作，即不会为客户端转发当前消息，但是仍然允许客户端发送下一条消息。如果客户端连续10次低于阈值发送消息，则服务器直接禁止客户端发送消息，例如，服务器可以指示客户端将发送按钮置灰，从而使得第一用户无法继续发送消息。
在上述实施例的基础上，本实施例涉及对客户端的风险等级进一步进行更新的方法。
图6为本发明实施例提供的防止恶意信息的处理方法实施例五的流程示意图，如图6所示，该方法包括：
S601、接收客户端发送的当前消息。
S602、根据上述当前消息的接收时间以及接收到上述客户端发送的历史消息的时间，确定上述客户端的风险等级。
S603、确定上述当前消息所包含的敏感信息。
S604、根据上述当前消息所包含的敏感信息以及接收到上述客户端发送的历史消息的敏感信息，更新上述客户端的风险等级。
可选的，上述敏感信息具体可以指带有暴力倾向、不健康色彩的词语等的信息。服务器可以预先通过统计或从第三方渠道获取敏感信息库。
进而，在本步骤中，服务器进一步通过检测当前消息中的敏感信息，来更新客户端的风险等级。
可选的，服务器可以首先检测当前消息的敏感信息，如果当前消息中不包含敏感信息，则不更新客户端的风险等级。如果当前消息中存在敏感信息，则进一步根据历史消息来进行敏感信息检测。例如，服务器统计客户端连续发送带敏感信息的消息的条数，如果条数大于某个阈值，则对已经确定的客户端的风险等级进行降级处理。进而根据新的风险等级对当前消息进行风险控制。
S605、根据上述客户端的风险等级对上述当前消息进行风险控制。
上述步骤S601、S602以及S605的具体实施过程可以参照上述实施一、
实施例二、实施例三以及实施例四，此处不再赘述。
本实施例中，服务器进一步根据当前消息以及历史消息中的敏感信息更新客户端的风险等级，从而保证所确定的客户端的风险等级与用户的行为更加匹配，准确性更高。
图7为本发明实施例提供的一种防止恶意信息的处理装置实施例一的模块结构图，如图7所示，该装置包括：
接收模块701，用于接收客户端发送的当前消息。
第一确定模块702，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级。
控制模块703，用于根据所述客户端的风险等级对所述当前消息进行风险控制。
该装置中，服务器根据客户端发送消息的时间间隔，来确定客户端的风险等级，并根据客户端的风险等级采取与风险等级对应的风险控制。每种风险等级代表了特定的危害程度，因此通过对不同的风险等级进行相应的风险控制，可以使得不同程度的危害都能得到有效的控制，从而保证通过客户端发送消息的用户无法发送恶意消息，进而避免对接收消息的用户造成影响。
图8为本发明实施例提供的一种防止恶意信息的处理装置实施例二的模块结构图，如图8所示，该装置包括：
接收模块701，用于接收客户端发送的当前消息。
第一确定模块702，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级。
控制模块703，用于根据所述客户端的风险等级对所述当前消息进行风险控制
第一确定模块702包括：
第一确定单元7021，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
图9为本发明实施例提供的一种防止恶意信息的处理装置实施例三的模块结构图，如图9所示，该装置包括：
接收模块701，用于接收客户端发送的当前消息。
第一确定模块702，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级。
控制模块703，用于根据所述客户端的风险等级对所述当前消息进行风险控制
第一确定模块702包括：
第一确定单元7021，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
第一确定模块702还包括：
第二确定单元7022，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值时，根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
该装置中，在当前消息和上一条消息的时间间隔小于阈值时，服务器进一步根据客户端连续低于该阈值发送消息的次数确定客户端的风险等级，即结合客户端的多条历史消息来确定客户端的风险等级，从而保证所确定的风险等级的准确性。
图10为本发明实施例提供的一种防止恶意信息的处理装置实施例四的模块结构图，如图10所示，该装置包括：
接收模块701，用于接收客户端发送的当前消息。
第一确定模块702，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级。
控制模块703，用于根据所述客户端的风险等级对所述当前消息进行风险控制
第一确定模块702包括：
第一确定单元7021，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
第一确定模块702还包括：
第二确定单元7022，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值时，根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
控制模块703包括：
控制单元7031，用于根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
图11为本发明实施例提供的一种防止恶意信息的处理装置实施例五的模块结构图，如图11所示，该装置包括：
接收模块701，用于接收客户端发送的当前消息。
第一确定模块702，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级。
控制模块703，用于根据所述客户端的风险等级对所述当前消息进行风险控制
第一确定模块702包括：
第一确定单元7021，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
第一确定模块702还包括：
第二确定单元7022，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值时，根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
控制模块703包括：
控制单元7031，用于根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
还包括：
第二确定模块704，用于确定所述当前消息所包含的敏感信息。
更新模块705，用于根据所述当前消息所包含的敏感信息以及接收到所述客户端发送的历史消息的敏感信息，更新所述客户端的风险等级。
该装置中，服务器进一步根据当前消息以及历史消息中的敏感信息更新客户端的风险等级，从而保证所确定的客户端的风险等级与用户的行为更加匹配，准确性更高。
图12为本发明实施例提供的一种服务器的实体框图，如图12所示，该服务器包括：
存储器1201，用于存储程序指令。
处理器1202，用于调用并执行存储器1201中的程序指令，执行上述方法实施例中的方法步骤。
本领域通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (12)
1.一种防止恶意信息的处理方法，其特征在于，包括：
接收客户端发送的当前消息；
根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级；
根据所述客户端的风险等级对所述当前消息进行风险控制。
2.根据权利要求1所述的方法，其特征在于，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级，包括：
若所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值，则将所述客户端的风险等级确定为初级风险。
3.根据权利要求2所述的方法，其特征在于，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级，还包括：
若所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值，则根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
4.根据权利要求1-3任一项所述的方法，其特征在于，所述根据所述客户端的风险等级对所述当前消息进行风险控制，包括：
根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
5.根据权利要求1所述的方法，其特征在于，所述根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级之后，还包括：
确定所述当前消息所包含的敏感信息；
根据所述当前消息所包含的敏感信息以及接收到所述客户端发送的历史消息的敏感信息，更新所述客户端的风险等级。
6.一种防止恶意信息的处理装置，其特征在于，包括：
接收模块，用于接收客户端发送的当前消息；
第一确定模块，用于根据所述当前消息的接收时间以及接收到所述客户端发送的历史消息的时间，确定所述客户端的风险等级；
控制模块，用于根据所述客户端的风险等级对所述当前消息进行风险控制。
7.根据权利要求6所述的装置，其特征在于，所述第一确定模块包括：
第一确定单元，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔高于阈值时，将所述客户端的风险等级确定为初级风险。
8.根据权利要求7所述的装置，其特征在于，所述第一确定模块还包括：
第二确定单元，用于在所述当前消息的接收时间距离上一次接收所述客户端发送消息的时间间隔低于所述阈值时，根据所述客户端连续低于所述阈值发送消息的次数确定所述客户端的风险等级，所述风险等级随着所述次数的增加而提高。
9.根据权利要求6-8任一项所述的装置，其特征在于，所述控制模块包括：
控制单元，用于根据所述风险等级由低至高的顺序，对所述当前消息进行转发、标记恶意标签、拦截操作或禁止所述客户端发送消息。
10.根据权利要求6所述的装置，其特征在于，还包括：
第二确定模块，用于确定所述当前消息所包含的敏感信息；
更新模块，用于根据所述当前消息所包含的敏感信息以及接收到所述客户端发送的历史消息的敏感信息，更新所述客户端的风险等级。
11.一种服务器，其特征在于，包括：
存储器，用于存储程序指令；
处理器，用于调用并执行所述存储器中的程序指令，执行权利要求1-5任一项所述的方法步骤。
12.一种可读存储介质，其特征在于，所述可读存储介质中存储有计算机程序，所述计算机程序用于执行权利要求1-5任一项所述的防止恶意信息的处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810543060.6A CN108900466A (zh) | 2018-05-30 | 2018-05-30 | 防止恶意信息的处理方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810543060.6A CN108900466A (zh) | 2018-05-30 | 2018-05-30 | 防止恶意信息的处理方法、装置、服务器及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108900466A true CN108900466A (zh) | 2018-11-27 |
Family
ID=64343554
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810543060.6A Pending CN108900466A (zh) | 2018-05-30 | 2018-05-30 | 防止恶意信息的处理方法、装置、服务器及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108900466A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109842631A (zh) * | 2019-03-21 | 2019-06-04 | 安徽威尔信通信科技有限责任公司 | 一种网络信息安全智能分析系统 |
| CN112258093A (zh) * | 2020-11-25 | 2021-01-22 | 京东城市(北京)数字科技有限公司 | 风险等级的数据处理方法及装置、存储介质、电子设备 |
| CN113765772A (zh) * | 2020-06-29 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种风险控制方法、装置、电子设备和存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101114907A (zh) * | 2006-07-28 | 2008-01-30 | 腾讯科技（深圳）有限公司 | 一种管理过滤黑名单的方法及系统 |
| CN101114286A (zh) * | 2006-07-26 | 2008-01-30 | 腾讯科技（深圳）有限公司 | 一种过滤聊天室广告的方法及系统 |
| CN106921556A (zh) * | 2015-12-24 | 2017-07-04 | 北京奇虎科技有限公司 | 一种聊天信息的处理方法和服务器 |
| CN107748952A (zh) * | 2017-10-09 | 2018-03-02 | 深圳广联赛讯有限公司 | 基于消费风险控制的信誉审核方法、装置及存储介质 |
| CN107784575A (zh) * | 2016-08-29 | 2018-03-09 | 腾讯科技（深圳）有限公司 | 风险等级确定方法、转账操作提示方法、装置及系统 |
-
2018
- 2018-05-30 CN CN201810543060.6A patent/CN108900466A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101114286A (zh) * | 2006-07-26 | 2008-01-30 | 腾讯科技（深圳）有限公司 | 一种过滤聊天室广告的方法及系统 |
| CN101114907A (zh) * | 2006-07-28 | 2008-01-30 | 腾讯科技（深圳）有限公司 | 一种管理过滤黑名单的方法及系统 |
| CN106921556A (zh) * | 2015-12-24 | 2017-07-04 | 北京奇虎科技有限公司 | 一种聊天信息的处理方法和服务器 |
| CN107784575A (zh) * | 2016-08-29 | 2018-03-09 | 腾讯科技（深圳）有限公司 | 风险等级确定方法、转账操作提示方法、装置及系统 |
| CN107748952A (zh) * | 2017-10-09 | 2018-03-02 | 深圳广联赛讯有限公司 | 基于消费风险控制的信誉审核方法、装置及存储介质 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109842631A (zh) * | 2019-03-21 | 2019-06-04 | 安徽威尔信通信科技有限责任公司 | 一种网络信息安全智能分析系统 |
| CN113765772A (zh) * | 2020-06-29 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种风险控制方法、装置、电子设备和存储介质 |
| CN112258093A (zh) * | 2020-11-25 | 2021-01-22 | 京东城市(北京)数字科技有限公司 | 风险等级的数据处理方法及装置、存储介质、电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11838118B2 (en) | Device, system, and method of detecting vishing attacks | |
| CN110383789B (zh) | 对可疑的出站业务的接近实时的检测 | |
| EP3169047B1 (en) | Information processing method and information processing device | |
| CN108900466A (zh) | 防止恶意信息的处理方法、装置、服务器及存储介质 | |
| US9195842B2 (en) | Information processing method, apparatus, and system | |
| US8862119B2 (en) | Method and apparatus for telecommunications network performance anomaly events detection and notification | |
| US20210035062A1 (en) | Information prompt | |
| WO2015018314A1 (en) | Method, device and system for detecting whether account is stolen | |
| CN107733687A (zh) | 提示业务异常的方法、终端、服务器及计算机可读介质 | |
| CN104716740A (zh) | 继电保护装置的定值校验方法、装置及系统 | |
| KR20110111022A (ko) | 단말의 정보보호 방법 및 장치 | |
| CN108052407A (zh) | 一种应用程序崩溃防护方法、装置、设备及存储介质 | |
| US20230350769A1 (en) | Method and apparatus for generating log data having increased filterability | |
| KR101779696B1 (ko) | 보이스 피싱 탐지 방법 및 시스템 | |
| US11653209B2 (en) | Identifying potential attacks against cellular networks | |
| KR101206153B1 (ko) | 발신 번호의 인증을 이용한 피싱 방지 시스템 및 그 방법 | |
| US20170068446A1 (en) | Challenge generation for verifying users of computing devices | |
| CN105389241B (zh) | 移动终端防骚扰工具的性能测试方法及系统 | |
| CN104038491A (zh) | 一种信息拦截方法、装置及系统 | |
| CN107733773A (zh) | 信息保护方法、保护信息发送装置及保护信息接收装置 | |
| CN104660480B (zh) | 一种帐号异常处理的方法、装置及系统 | |
| CN113055921B (zh) | 故障处理方法和终端 | |
| KR101799524B1 (ko) | 알림 메시지를 이용한 단말 제어 장치 및 방법 | |
| CN108156071A (zh) | 向社区添加成员的方法、终端设备及计算机可读存储介质 | |
| CN107844717A (zh) | 安全输入系统、方法及智能终端 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181127 |