CN108846295A

CN108846295A - 敏感信息过滤方法、装置、计算机设备及存储介质

Info

Publication number: CN108846295A
Application number: CN201810758245.9A
Authority: CN
Inventors: 刘硕
Original assignee: Beijing Dajia Internet Information Technology Co Ltd
Current assignee: Beijing Dajia Internet Information Technology Co Ltd
Priority date: 2018-07-11
Filing date: 2018-07-11
Publication date: 2018-11-20
Anticipated expiration: 2038-07-11
Also published as: CN108846295B

Abstract

本发明实施例公开了一种敏感信息过滤方法、装置、计算机设备及存储介质，包括下述步骤：接收发送终端发送的即时信息；根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；当所述即时信息中存在所述敏感信息时，中止向所述即时信息指向的目标终端发送所述即时信息。利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

Description

敏感信息过滤方法、装置、计算机设备及存储介质

技术领域

本发明实施例涉及计算机领域，尤其是一种敏感信息过滤方法、装置、计算机设备及存储介质。

背景技术

及时通讯(instant Message，IM)是一个实时通信系统，允许两人或多人使用网络实时的传递文字消息、文字、语音与视频交流。IM是目前最流行的通讯方式。

IM的主要形式是两人之间的一对一聊天和两人以上的多人群聊。两种形式除了人数上的不同外，最重要的区别就是一对一聊天属于通知，即将特定消息发送给特定的终端，而群聊属于广播，即将消息广播到群聊中所有人的终端。

在实际应用中，用户在使用IM的过程中，经常会出现没有意识而发送不合适的语言、图片或网站信息等敏感信息给其他用户，进而其它用户造成伤害。针对这个问题，现有技术主要采用“撤回信息”的功能，但是在撤回时，其他用户很可能已经看到了，上述问题仍然不能得到有效的解决。

发明内容

本发明实施例提供一种根据预设的敏感信息数据库确认即时信息中是否存在敏感信息，并当存在敏感信息时，中止发送即时信息的方法。

为解决上述技术问题，本发明创造的实施例采用的一个技术方案是：提供一种敏感信息过滤方法，包括下述步骤：

接收发送终端发送的即时信息；

根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；

当所述即时信息中存在所述敏感信息时，中止向所述即时信息指向的目标终端发送所述即时信息。

进一步地，当所述即时信息为网页信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

提取所述网页信息的统一资源定位符；

将所述统一资源定位符与所述敏感信息数据库中的敏感网站信息进行比对；

当所述敏感网站信息中包含所述统一资源定位符，则确认所述网页信息为敏感信息。

进一步地，其特征在于，当所述即时信息为文字信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

将所述文字信息与所述敏感信息数据库中的敏感词汇信息进行比对；

当所述文字信息中包含所述敏感词汇信息中的至少一个敏感词汇，则确认所述文字信息为敏感信息。

可选地，当所述即时信息中敏感信息的占比大于预设的比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

向所述发送终端发送撤回消息，以使所述发送终端在接收到所述撤回消息后，根据所述撤回消息的提示确认是否发送所述即时消息；

获取所述发送终端发送的确认发送请求；

根据所述确认发送请求删除所述即时信息中的敏感信息后，将删除所述敏感信息的即时信息发送至所述目标终端。

可选地，所述向所述发送终端发送撤回消息之后，还包括：

获取所述发送终端发送的确认撤回请求；

根据所述确认撤回请求终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

可选地，当所述即时信息中敏感信息的占比大于所述比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

向所述发送终端发送警示信息；

终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

具体地，计算及时信息中敏感信息的占比的计算方法包括：

从所述即时信息中提取敏感信息；

计算所述敏感信息的字数占所述即时信息字数的占比，得到及时信息中敏感信息的占比。

为解决上述技术问题，本发明实施例还提供一种敏感信息过滤装置，包括：

接收模块，用于接收发送终端发送的即时信息；

处理模块，用于根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；

执行模块，用于当所述即时信息中存在所述敏感信息时，中止向所述即时信息指向的目标终端发送所述即时信息。

进一步地，当所述即时信息为网页信息时，所述处理模块具体包括：

第一提取模块，用于提取所述网页信息的统一资源定位符；

第一比对模块，用于将所述统一资源定位符与所述敏感信息数据库中的敏感网站信息进行比对；

第一确认模块，用于当所述敏感网站信息中包含所述统一资源定位符，则确认所述网页信息为敏感信息。

进一步地，当所述即时信息为文字信息时，所述处理模块具体包括：

第二比对模块，用于将所述文字信息与所述敏感信息数据库中的敏感词汇信息进行比对；

第二确认模块，用于当所述文字信息中包含所述敏感词汇信息中的至少一个敏感词汇，则确认所述文字信息为敏感信息。

可选地，还包括：

第一执行子模块，用于向所述发送终端发送撤回消息，以使所述发送终端在接收到所述撤回消息后，根据所述撤回消息的提示确认是否发送所述即时消息；

第一获取模块，用于获取所述发送终端发送的确认发送请求；

第二执行子模块，用于根据所述确认发送请求删除所述即时信息中的敏感信息，将删除所述敏感信息的即时信息发送至所述目标终端。

可选地，其特征在于，还包括：

第二获取模块，用于获取所述发送终端发送的确认撤回请求；

第三执行子模块，用于根据所述确认撤回请求终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

可选地，当所述即时信息中敏感信息的占比大于所述比较阈值时，还包括：

第四执行子模块，用于向所述发送终端发送警示信息；

第五执行子模块，用于终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

可选地，还包括：

第二提取模块，用于从所述即时信息中提取敏感信息；

第六执行子模块，用于计算所述敏感信息的字数占所述即时信息字数的占比，得到及时信息中敏感信息的占比。

为解决上述技术问题，本发明实施例还提供一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行上述所述敏感信息过滤方法的步骤。

为解决上述技术问题，本发明实施例还提供一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述所述敏感信息过滤方法的步骤。

本发明实施例的有益效果是：利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例敏感信息过滤方法的基本流程示意图；

图2为本发明实施例发送终端通过及时通讯软件在群聊中发送的即时信息的界面示意图；

图3为本发明实施例当即时信息为网页信息时，根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的方法的基本流程示意图；

图4为本发明实施例当即时信息为文字信息时，根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的方法的基本流程示意图；

图5为本发明实施例计算及时信息中敏感信息的占比方法的基本流程示意图；

图6为本发明实施例对即时信息进行处理的基本流程示意图；

图7为本发明实施例目标终端显示的撤回消息的界面示意图；

图8为本发明另一实施例对即时信息进行处理的基本流程示意图；

图9为本发明实施例目标终端显示的警示信息的界面示意图；

图10为本发明实施例根据确认撤回请求对即时信息进行处理的基本流程示意图；

图11为本发明实施例敏感信息过滤装置基本结构框图；

图12为本发明实施例计算机设备基本结构框图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。

在本发明的说明书和权利要求书及上述附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如101、102等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类型。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例

本技术领域技术人员可以理解，这里所使用的“终端”、“终端设备”既包括无线信号接收器的设备，其仅具备无发射能力的无线信号接收器的设备，又包括接收和发射硬件的设备，其具有能够在双向通信链路上，执行双向通信的接收和发射硬件的设备。这种设备可以包括：蜂窝或其他通信设备，其具有单线路显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备；PCS(Personal Communications Service，个人通信系统)，其可以组合语音、数据处理、传真和/或数据通信能力；PDA(Personal Digital Assistant，个人数字助理)，其可以包括射频接收器、寻呼机、互联网/内联网访问、网络浏览器、记事本、日历和/或GPS(Global Positioning System，全球定位系统)接收器；常规膝上型和/或掌上型计算机或其他设备，其具有和/或包括射频接收器的常规膝上型和/或掌上型计算机或其他设备。这里所使用的“终端”、“终端设备”可以是便携式、可运输、安装在交通工具(航空、海运和/或陆地)中的，或者适合于和/或配置为在本地运行，和/或以分布形式，运行在地球和/或空间的任何其他位置运行。这里所使用的“终端”、“终端设备”还可以是通信终端、上网终端、音乐/视频播放终端，例如可以是PDA、MID(Mobile Internet Device，移动互联网设备)和/或具有音乐/视频播放功能的移动电话，也可以是智能电视、机顶盒等设备。

本实施方式中的客户终端即为上述的终端。

具体地，请参阅图1，图1为本实施例敏感信息过滤方法的基本流程示意图。

如图1所示，敏感信息过滤方法包括下述步骤：

S1100、接收发送终端发送的即时信息；

发送终端为向服务器发送即时信息的终端。该即时信息可以通过发送终端中的应用软件进行发送，例如，各种及时通讯软件或其他类型的应用软件的及时通讯窗口。即时信息可以为一对一聊天模式的通知模式，也可以为多人群聊的广播模式。

S1200、根据预设的敏感信息数据库确认即时信息中是否存在敏感信息；

敏感信息数据库为预设于服务器中包含了各种敏感信息的数据库。其中，敏感信息用于表示各种具有侮辱性，会对人造成伤害的等不适于流通的信息，敏感信息包括文字信息、网页信息和图片信息等。

具体地，服务器通过将即时信息中包含的内容与敏感数据库中的敏感信息进行比对，判断即时信息中是否存在敏感信息。

举例说明，如图2所示，图2为发送终端通过及时通讯软件在群聊中发送的两则即时信息“ABCDEFGHIJK”和“AAAAAwww.123456.com”，服务器分别将上述两则即时信息与敏感信息数据库中的敏感词汇进行比对，当出现相同的组合时，即可确认上述两则即时信息为敏感信息。

S1300、当即时信息中存在敏感信息时，中止向即时信息指向的目标终端发送所述即时信息。

目标终端接收为服务器发送的即时信息的终端，即，在进行一对一的通知模式下，目标终端为即时信息的接收方；在多人群聊的广播模式下，目标终端为除发送终端用户以外的其他用户的终端。

当服务器确认即时信息中存在敏感信息时，中止即时信息的发送。

本发明实施例，利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

在网络中会出现一些非法诈骗网站、恶意病毒植入网站或污秽信息传播网站，给用户的财产精神造成了伤害，为了使用户使用及时通讯的环境安全、健康，本发明提供的一个实施例，当即时信息为网页信息时，服务器会根据预设的敏感信息数据库确认即时信息中是否存在敏感信息，如图3所示，图3为当即时信息为网页信息时，根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的基本方法流程示意图，具体地，步骤S1200包括：

S1211、提取网页信息的统一资源定位符；

当即时信息为网页信息或包含网页信息时，服务器从即时信息中提取网页信息的统一资源定位符。如图2所示，图2中发送终端发送的第二则即时信息为“AAAAAwww.123456.com”，其中即时信息中包含了网页信息，即该网页的网址，服务器通过识别该网址的链接来提取网页的统一资源定位符。

S1212、将统一资源定位符与敏感信息数据库中的敏感网站信息进行比对；

S1213、当敏感网站信息中包含统一资源定位符，则确认网页信息为敏感信息。

在实际应用中，敏感网站为预存于敏感信息数据库中的信息，通常由用户上报或服务器定时检测得到，是一种黑名单机制。服务器将提取的统一资源定位符与敏感信息数据库中的敏感网站进行比对，当敏感网站中包含统一资源定位符，则确认网页信息为敏感信息。

本发明的一个实施例，当即时信息为文字信息时，服务器根据预设的敏感信息数据库确认即时信息中是否存在敏感信息。如图4所示，图4示出了当即时信息为文字信息时，根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的方法的基本流程示意图，具体地，步骤S1200包括：

S1221、将文字信息与敏感信息数据库中的敏感词汇信息进行比对；

S1222、当文字信息中包含敏感词汇信息中的至少一个敏感词汇，则确认文字信息为敏感信息。

本实施中，服务器以文字信息中的每一个文字为起始字，顺次提取多个字的组合作为一个词汇，并将该词汇与敏感信息数据库中的敏感词汇信息进行比对，当文字信息至少包含一个敏感词汇，服务器即可确认文字信息为敏感信息。

举例说明，请继续参阅图2所示，图2中的第一则即时信息“ABCDEFGHIJK”为文字信息，服务器分别按照该即时信息中的每一个文字按照顺序组合多个不同的词汇，例如“ABC”、“ABCDE”、“EFGH”等，并通过与敏感信息数据库中的敏感词汇进行比对，当出现相同的词汇时，即可确认即时信息“ABCDEFGHIJK”为敏感信息。

本发明的一个实施例，当即时信息为图片信息或包含图片信息时，服务器根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的方法包括：

步骤一、从图片信息中提取图片信息中显示的图片文字；

步骤二、将图片文字与敏感信息库中的敏感词汇信息进行比对；

步骤三、当敏感词汇信息存在与图片文字相同的词汇，确定包含图片信息的即时信息为敏感信息。

本发明的一个实施例，当即时信息为图片信息或包含图片信息时，服务器根据预设的敏感信息数据库确认即时信息中是否存在敏感信息的方法，还包括：

步骤一、将图片信息与敏感信息数据库中的图片敏感信息进行比对；

步骤二、当图片敏感信息中存在与图片信息相同的图片，确定包含图片信息的即时信息为敏感信息。

在实际应用过程中，即时信息中包含的敏感词汇的数量不同，当其中的敏感词汇进行，较少时，为了提高用户体验，可以删除敏感词汇后发送该及时信息。本发明实施例中服务器在确定即时信息为敏感信息之后，对及时信息中敏感信息的占比，即敏感信息的敏感程度进行判定，并依据敏感程度对敏感信息进行分别处理。如图5所示，本实施例提供一种计算及时信息中敏感信息的占比方法的基本流程示意图，该方法包括：

S1311、从即时信息中提取敏感信息；

如前述实施例所述的，服务器分别通过敏感信息数据库中的敏感词汇信息、敏感网站信息以及敏感图片信息与即时信息中的文字、网址和图片分别进行比对，当敏感信息数据库中存在相同的文字、网址或图片时，提取敏感信息数据库中的相同的文字、网址或图片。

S1312、计算敏感信息的字数占即时信息字数的占比，得到及时信息中敏感信息的占比。

比较阈值为预先设定的值，可以按照实际情况进行设置，例如，为了能够彻底的净化即时通信环境，可以将比较阈值设置为较小值，如10～30％，为使即时通信环境相对宽松，用户可以在一定程度上畅言，可以将比较阈值设定为较大值，如30～60％。

本发明的一个实施例，当即时信息中敏感信息的占比小于预设的比较阈值时，及时信息中敏感信息的占比较低，即敏感程度较低，此时，在中止向即时信息指向的目标终端发送即时信息之后，服务器利用即时信息的敏感程度，并根据发送终端发送的指令对即时信息进行处理，如图6所示，图6为对即时信息进行处理的基本流程示意图，该方法包括：

S1321、向发送终端发送撤回消息，以使发送终端在接收到撤回消息后，根据撤回消息的提示确认是否发送即时消息；

撤回消息为服务器发送的用于提示用户即时信息中存在敏感信息，并使用户进行确认的消息。其中，撤回消息可以包括包含敏感信息的即时信息、撤回的理由以及提示用户继续发送或确认撤回的快捷键。如图7所示，图7为目标终端显示的撤回消息的界面示意图。

S1322、获取发送终端发送的确认发送请求；

S1323、根据确认发送请求删除即时信息中的敏感信息后，将删除敏感信息的即时信息发送至目标终端。

确认发送请求为终端发送的用于向服务器请求继续发送该即时信息。本实施例中，由于即时信息的敏感程度低，为净化及时通讯环境，服务器直接删除即时信息中的敏感信息，以实现对敏感信息进行过滤的作用。

本发明的一个实施例，当即时信息中敏感信息的占比大于预设的比较阈值时，及时信息中敏感信息的占比较高，即敏感程度较高，此时，在中止向即时信息指向的目标终端发送即时信息之后，服务器利用即时信息的敏感程度，并根据发送终端发送的指令对即时信息进行处理，如图8所示，图8为另一实施例对即时信息进行处理的基本流程示意图，该方法包括：

S1331、向发送终端发送警示信息；

S1332、终止向目标终端转发即时消息的任务，并删除即时消息。

警示信息为服务器发送的，用于提示用户即时信息中包含的敏感信息的敏感程度高，以对用户起警示作用的信息。如图9所示，图9示出了目标终端显示的警示信息的界面示意图。假设即时信息中包含的敏感信息为非法网站，如图9所示，服务器发送的警示信息包括敏感信息，即非法网站的网址，终止发送即时信息的原因，即可跳转解释页面的快捷按钮。

在实际过程中，会出现用户由于无意识发送包含了敏感信息的即时信息后，服务器向发送终端发送了撤回消息，用户在发送终端在接收到撤回消息后，可以根据撤回消息的提示确认是否发送即时消息，本发明的另一个实施例，经提示用户确认撤回，服务器根据确认撤回请求对即时信息进行处理，如图10所示，图10为根据确认撤回请求对即时信息进行处理的基本流程示意图，包括：

S1341、获取发送终端发送的确认撤回请求；

S1342、根据确认撤回请求终止向目标终端转发即时消息的任务，并删除即时消息。

确认撤回请求为服务器发送的用于表示发送终端向服务器请求撤回该即时信息。

本发明实施例还提供一种敏感信息过滤装置。具体请参阅图11，图11为本实施例敏感信息过滤装置基本结构框图。

如图11所示，一种敏感信息过滤装置，包括：接收模块2100，用于接收发送终端发送的即时信息；处理模块2200，用于根据预设的敏感信息数据库确认即时信息中是否存在敏感信息；执行模块2300，用于所述即时信息中存在敏感信息时，中止向即时信息指向的目标终端发送即时信息。

本发明实施例提供的敏感信息过滤装置，利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

在一些实施方式中，当即时信息为网页信息时，处理模块具体包括：第一提取模块、第一比对模块和第一比对模块。第一提取模块，用于提取网页信息的统一资源定位符；第一比对模块，用于将统一资源定位符与敏感信息数据库中的敏感网站信息进行比对；第一确认模块，用于当敏感网站信息中包含统一资源定位符，则确认网页信息为敏感信息。

在一些实施方式中，当即时信息为文字信息时，处理模块具体包括：第二比对模块和第二确认模块。第二比对模块，用于将文字信息与敏感信息数据库中的敏感词汇信息进行比对；第二确认模块，用于当文字信息中包含敏感词汇信息中的至少一个敏感词汇，则确认文字信息为敏感信息。

在一些实施方式中，敏感信息过滤装置还包括：第一执行子模块、第一获取模块和第二执行子模块；第一执行子模块，用于向发送终端发送撤回消息，以使发送终端在接收到撤回消息后，根据撤回消息的提示确认是否发送即时消息；第一获取模块，用于获取发送终端发送的确认发送请求；第二执行子模块，用于根据确认发送请求删除即时信息中的敏感信息，将删除敏感信息的即时信息发送至目标终端。

在一些实施方式中，敏感信息过滤装置还包括：第二获取模块，用于获取发送终端发送的确认撤回请求；第三执行子模块，用于根据确认撤回请求终止向目标终端转发即时消息的任务，并删除即时消息。

在一些实施方式中，当即时信息中敏感信息的占比大于比较阈值时，敏感信息过滤装置还包括：第四执行子模块，用于向发送终端发送警示信息；第五执行子模块，用于终止向目标终端转发即时消息的任务，并删除即时消息。

在一些实施方式中，敏感信息过滤装置还包括：第二提取模块，用于从即时信息中提取敏感信息；第六执行子模块，用于计算敏感信息的字数占即时信息字数的占比，得到及时信息中敏感信息的占比。

本发明实施例还提供计算机设备。具体请参阅图12，图12为本实施例计算机设备基本结构框图。

如图12所示，计算机设备的内部结构示意图。如图12所示，该计算机设备包括通过系统总线连接的处理器、非易失性存储介质、存储器和网络接口。其中，该计算机设备的非易失性存储介质存储有操作系统、数据库和计算机可读指令，数据库中可存储有控件信息序列，该计算机可读指令被处理器执行时，可使得处理器实现一种保险产品配置方法。该计算机设备的处理器用于提供计算和控制能力，支撑整个计算机设备的运行。该计算机设备的存储器中可存储有计算机可读指令，该计算机可读指令被处理器执行时，可使得处理器执行一种保险产品配置方法。该计算机设备的网络接口用于与终端连接通信。本领域技术人员可以理解，图12中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

本实施方式中处理器用于执行图11中获取模块2100、处理模块2200和执行模块2300的具体内容，存储器存储有执行上述模块所需的程序代码和各类数据。网络接口用于向用户终端或服务器之间的数据传输。本实施方式中的存储器存储有敏感信息过滤方法中执行所有子模块所需的程序代码及数据，服务器能够调用服务器的程序代码及数据执行所有子模块的功能。

计算机设备本发明实施例提供的敏感信息过滤装置，利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

本发明还提供一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述任一实施例所述敏感信息过滤方法的步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

以上所述仅是本发明的部分实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims

1.一种敏感信息过滤方法，其特征在于，包括下述步骤：

接收发送终端发送的即时信息；

2.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息为网页信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

提取所述网页信息的统一资源定位符；

3.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息为文字信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

4.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息中敏感信息的占比小于预设的比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

获取所述发送终端发送的确认发送请求；

5.根据权利要求4所述的敏感信息过滤方法，其特征在于，所述向所述发送终端发送撤回消息之后，还包括：

获取所述发送终端发送的确认撤回请求；

6.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息中敏感信息的占比大于所述比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

向所述发送终端发送警示信息；

7.根据权利要求4～6任一项所述的敏感信息过滤方法，其特征在于，所述及时信息中敏感信息的占比的计算方法包括：

从所述即时信息中提取敏感信息；

8.一种敏感信息过滤装置，其特征在于，包括：

接收模块，用于接收发送终端发送的即时信息；

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行如权利要求1至6中任一项权利要求所述敏感信息过滤方法的步骤。

10.一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行如权利要求1至6中任一项权利要求所述敏感信息过滤方法的步骤。