CN111914057A - 客服系统敏感词检测过滤方法和装置 - Google Patents

Abstract

本发明提供了一种客服系统敏感词检测过滤方法和装置，该方法包括：构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构以生成若干树形结构；获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，N为正整数且从1开始。该方法和装置可以将客服发送的话语中的敏感词过滤掉，进而提高用户的体验。

Description

客服系统敏感词检测过滤方法和装置

技术领域

本发明属于计算机技术领域，尤其涉及一种客服系统敏感词检测过滤方法、装置、电子设备及可存储介质。

背景技术

随着互联网技术的普及，网络服务已成为人们生活中必不可少的一部分，便利了人民的生活，在网络服务的过程中，用户和商家之间的交流往往通过客服系统实现，客服系统是用户和商家之间沟通的桥梁。

客服和用户通过客服系统沟通时，难免会有一些敏感性的话语会，比如辱骂用户或者说一些敏感的话，从而影响商家的形象和品牌，现有的客服系统，对客服说的所有话语，不进行过滤便直接发送至用户端，影响用户的体验。

发明内容

本发明实施例的第一目的在于提供一种客服系统敏感词检测过滤方法，旨在解决现有客服系统无法检测和过滤客服发送的敏感词的问题。

本发明实施例是这样实现的，一种客服系统敏感词检测过滤方法，应用于服务端，包括：

构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；

获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；

如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N 个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。

在一个实施例中，如果不存在，则提取所述待测文本的首字后的第M 个字，继续在所述若干树形结构的所有首字中查询是否存在所述第M个字，当所有首字中存在所述第M个字时，则提取所述第M个字后的第K个字，进入具有所述第M个字的树形结构，在所述树形结构的树形分支上匹配所述第K个字；当所述树形分支上匹配不到所述第K个字时，将所述第M个字至所述第K个字中除所述第K个字的所有字确定为敏感词，M和K为正整数且均从1开始。

在一个实施例中，所述构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构具体包括：预先将若干敏感词固化于mysql 数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。

在一个实施例中，每个所述树形结构共具有X级分支节点，每个敏感词的首字为树形结构的根，首字后面的第X字为X级分支节点，X为正整数。

在一个实施例中，将所有敏感词组合成的所述树形结构以首字为key 的形式存储于redis数据库中。

在一个实施例中，所述构建动态敏感词库还包括：获取敏感词，从所述动态敏感词库中匹配该敏感词是否存在，如果不存在，则将该敏感词更新至所述动态敏感词库中。

本发明实施例的另一目的在于提供一种客服系统敏感词检测过滤装置，包括：

敏感词库构建模块，用于构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；

文本获取模块，用于获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；

文字匹配替换模块，用于如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N 为正整数且从1开始。

在一个实施例中，所述敏感词库构建模块还用于预先将若干敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。

本发明实施例的又一目的在于提供一种电子设备，包括存储器和处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行所述客服系统敏感词检测过滤方法的步骤。

本发明实施例的再一目的在于一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行所述客服系统敏感词检测过滤方法的步骤。

本发明实施例提供的一种客服系统敏感词检测过滤方法，应用于服务端，包括：构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。通过构建动态敏感词库，将敏感词预先加入到动态敏感词库中，将具有相同首字的敏感词生成树形结构，基于树形结构的快速检索性能，可以使得将客服输入发送的话语即所述待测文本进行快速的检测过滤，进而将敏感词过滤掉，给用户输出过滤过的话语，进而提高用户的体验。

附图说明

图1为本发明一个实施例提供的一种客服系统敏感词检测过滤方法的实现流程；

图2为本发明另一实施例提供的一种客服系统敏感词检测过滤方法的实现流程；

图3为本发明实施例提供的一种客服系统敏感词检测过滤装置的主要模块示意图；

图4是本发明实施例提供的一种客服系统敏感词检测过滤方法的敏感词库的构建流程图；

图5为本发明实施例提供的可以应用于其中的示例性系统架构图；

图6为适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图；

图7为本发明实施例提供的一种客服系统敏感词检测过滤方法的树形结构的示例图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本发明实施例中可能采用术语第一、第二等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。

需要指出的是，在不冲突的情况下，本发明中的实施例以及实施例中的特征可以互相组合。

为了进一步阐述本发明为实现预定发明目的所采取的技术手段及功效，以下结合附图及较佳实施例，对依据本发明的具体实施方式、结构、特征及其功效，详细说明如下。

图1和图2示出了本发明实施例提供的一种客服系统敏感词检测过滤方法的实现流程，为了便于说明，仅示出与本发明实施例相关的部分，详述如下：

一种客服系统敏感词检测过滤方法，应用于服务端，包括：

S101：构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构。

在一个实施例中，将已有收集的敏感词构建成动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构。树形结构具有快速检索性能，能够大大减少检索的时间。

在一个实施例中，每个所述树形结构共具有X级分支节点，每个敏感词的首字为树形结构的根，首字后面的第X字为X级分支节点，X为正整数。

在一个实施例中，所述构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构具体包括：预先将若干敏感词固化于mysql 数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。由此可以使得当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构，基于树形结构的快速检索性能，可以使得将客服输入发送的话语即所述待测文本进行快速的检测过滤，进而将敏感词过滤掉，给用户输出过滤过的话语，进而提高用户的体验，同时便于敏感词库的后期维护。

在一个实施例中，将所有敏感词组合成的所述树形结构以首字为key 的形式存储于redis数据库中。进而可以通过基于内存key/value存储技术进行敏感词过滤的高度优化，提高敏感词检测过滤的效果，减少计算量，降低服务器运行压力，将树状结构结合内存存储以实现敏感词在低消耗的情况下的秒级过滤反应，实现敏感词的快速检索。

具体的，如图7所示，为本发明实施例提供的一种客服系统敏感词检测过滤方法的树形结构的示例图，现已知敏感词有：你是猪、你是王*明、你这王八、你不是人、你不配等，将你是猪、你是王*明、你这王八、你不是人、你不配等所有敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构，“你”为所有敏感词的首字，故将“你”作为树形结构的根，“是、这、不”为树形结构的一级分支节点，“猪、狗、王、是、配”是树形结构的二级分支节点，当所有的树形结构形成后，将所有敏感词组合成的所述树形结构以首字“你”为key的形式存储于redis 数据库中。进而可以通过基于内存key/value存储技术进行敏感词过滤的高度优化，提高敏感词检测过滤的效果，减少计算量，降低服务器运行压力，将树状结构结合内存存储以实现敏感词在低消耗的情况下的秒级过滤反应，实现敏感词的快速检索。需要说明的是，有些敏感词中夹杂有特殊字符时，特殊字符也占一个分树形结构的分支节点。

在一个实施例中，所述构建动态敏感词库还包括：获取敏感词，从所述动态敏感词库中匹配该敏感词是否存在，如果不存在，则将该敏感词更新至所述动态敏感词库中。

如图4所示，是本发明实施例提供的一种客服系统敏感词检测过滤方法的动态敏感词库的构建流程图，大致流程如下：

管理员需要在动态敏感词库中加入新敏感词时，从客服系统用管理员身份输入新敏感词，服务器获取到管理员输入的新敏感词后，在hashMap 中查询敏感词首字是否在hashMap中存在，如果不存在，则证明以敏感词首字开头的敏感词还不存在，则直接构建这样的一棵树，同时将敏感词固化于mysql数据库中以更新所述动态敏感词库；如果存在，表明存在以敏感词首字开头的敏感词，设置hashMap＝hashMap.get("敏感词开头文字")，跳至1，依次匹配接下来的文字内容，判断该字是否为该词中的最后一个字。若是表示敏感词结束，设置标志位isEnd＝1，否则设置标志位isEnd＝0，进而完成敏感词库的更新。

S102：获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字。

在一个实施例中，服务端获取到客服发送的文本后，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字。进而判断该首字开头的文本是否为敏感词，进而将敏感词过滤掉，给用户输出过滤过的话语，以提高用户的体验。

S103：如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1 开始。

在一个实施例中，如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。

在一个实施例中，如果不存在，则提取所述待测文本的首字后的第M 个字，继续在所述若干树形结构的所有首字中查询是否存在所述第M个字，当所有首字中存在所述第M个字时，则提取所述第M个字后的第K个字，进入具有所述第M个字的树形结构，在所述树形结构的树形分支上匹配所述第K个字；当所述树形分支上匹配不到所述第K个字时，将所述第M个字至所述第K个字中除所述第K个字的所有字确定为敏感词，M和K为正整数且均从1开始。

具体的，如图7，假设客服输入发送的文本为“你是猪吧”，则提取到首字“你”，查找到所有树形结构中存在“你”，证明是敏感词，则继续提取“是”，在“你”所在的树形结构的第一级分支节点匹配“是”，第二级分支节点匹配“猪”，第三级分支节点匹配“吧”，最终将“你是猪”确定为敏感词，进行删除或替换，在这里，进行删除或替换可以设为系统自动删除或替换一些不敏感的词，也可以设为返回客户端让客服重新输入不敏感词进行发送。

需要说明的是，如果获取到的待测文本中设有多个特殊字符，当树形结构中可以匹配到该特殊字符时，将该特殊字符进行节点匹配，当树形结构中不存在该特殊字符时，则将特殊字符当做一个空格处理，不进行节点的匹配，在最终替换时直接删除特殊字符。

由此，本发明实施例提供的一种客服系统敏感词检测过滤方法，应用于服务端，包括：构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。通过构建动态敏感词库，将敏感词预先加入到动态敏感词库中，将具有相同首字的敏感词生成树形结构，基于树形结构的快速检索性能，可以使得将客服输入发送的话语即所述待测文本进行快速的检测过滤，进而将敏感词过滤掉，给用户输出过滤过的话语，进而提高用户的体验。

图3示出了本发明实施例提供的一种客服系统敏感词检测过滤装置的主要模块示意图，为了便于说明，仅示出与本发明实施例相关的部分，详述如下：

一种客服系统敏感词检测过滤装置300，包括：

敏感词库构建模块301，用于构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构，树形结构具有快速检索性能，能够大大减少检索的时间；

文本获取模块302，用于获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；

文字匹配替换模块303，用于如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本， N为正整数且从1开始。

在一个实施例中，每个所述树形结构共具有X级分支节点，每个敏感词的首字为树形结构的根，首字后面的第X字为X级分支节点，X为正整数。

在一个实施例中，所述敏感词库构建模块301还用于预先将若干敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。由此可以使得当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构，基于树形结构的快速检索性能，可以使得将客服输入发送的话语即所述待测文本进行快速的检测过滤，进而将敏感词过滤掉，给用户输出过滤过的话语，进而提高用户的体验，同时便于敏感词库的后期维护。

在一个实施例中，将所有敏感词组合成的所述树形结构以首字为key 的形式存储于redis数据库中。进而可以通过基于内存key/value存储技术进行敏感词过滤的高度优化，提高敏感词检测过滤的效果，减少计算量，降低服务器运行压力，将树状结构结合内存存储以实现敏感词在低消耗的情况下的秒级过滤反应，实现敏感词的快速检索。

具体的，如图7所示，还可以为本发明实施例提供的一种客服系统敏感词检测过滤装置的树形结构的示例图，现已知敏感词有：你是猪、你是王*明、你这王八、你不是人、你不配等，将你是猪、你是王*明、你这王八、你不是人、你不配等所有敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构，“你”为所有敏感词的首字，故将“你”作为树形结构的根，“是、这、不”为树形结构的一级分支节点，“猪、狗、王、是、配”是树形结构的二级分支节点，当所有的树形结构形成后，将所有敏感词组合成的所述树形结构以首字“你”为key的形式存储于redis数据库中。进而可以通过基于内存key/value存储技术进行敏感词过滤的高度优化，提高敏感词检测过滤的效果，减少计算量，降低服务器运行压力，将树状结构结合内存存储以实现敏感词在低消耗的情况下的秒级过滤反应，实现敏感词的快速检索。需要说明的是，有些敏感词中夹杂有特殊字符时，特殊字符也占一个分树形结构的分支节点。

在一个实施例中，所述敏感词库构建模块301还用于获取敏感词，从所述动态敏感词库中匹配该敏感词是否存在，如果不存在，则将该敏感词更新至所述动态敏感词库中。

如图4所示，还可以是本发明实施例提供的一种客服系统敏感词检测过滤装置的动态敏感词库的构建流程图，大致流程如下：

管理员需要在动态敏感词库中加入新敏感词时，从客服系统用管理员身份输入新敏感词，服务器获取到管理员输入的新敏感词后，在hashMap 中查询敏感词首字是否在hashMap中存在，如果不存在，则证明以敏感词首字开头的敏感词还不存在，则直接构建这样的一棵树，同时将敏感词固化于mysql数据库中以更新所述动态敏感词库；如果存在，表明存在以敏感词首字开头的敏感词，设置hashMap＝hashMap.get("敏感词开头文字")，跳至1，依次匹配接下来的文字内容，判断该字是否为该词中的最后一个字。若是表示敏感词结束，设置标志位isEnd＝1，否则设置标志位isEnd＝0，进而完成敏感词库的更新。

在一个实施例中，所述文字匹配替换模块303还用于：如果不存在，则提取所述待测文本的首字后的第M个字，继续在所述若干树形结构的所有首字中查询是否存在所述第M个字，当所有首字中存在所述第M个字时，则提取所述第M个字后的第K个字，进入具有所述第M个字的树形结构，在所述树形结构的树形分支上匹配所述第K个字；当所述树形分支上匹配不到所述第K个字时，将所述第M个字至所述第K个字中除所述第K个字的所有字确定为敏感词，M和K为正整数且均从1开始。

具体的，如图7，假设客服输入发送的文本为“你是猪吧”，则提取到首字“你”，查找到所有树形结构中存在“你”，证明是敏感词，则继续提取“是”，在“你”所在的树形结构的第一级分支节点匹配“是”，第二级分支节点匹配“猪”，第三级分支节点匹配“吧”，最终将“你是猪”确定为敏感词，进行删除或替换，在这里，进行删除或替换可以设为系统自动删除或替换一些不敏感的词，也可以设为返回客户端让客服重新输入不敏感词进行发送。

需要说明的是，如果获取到的待测文本中设有多个特殊字符，当树形结构中可以匹配到该特殊字符时，将该特殊字符进行节点匹配，当树形结构中不存在该特殊字符时，则将特殊字符当做一个空格处理，不进行节点的匹配，在最终替换时直接删除特殊字符。

在一个实施例中，提出了一种电子设备，所述电子设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现实施例提供的一种客服系统敏感词检测过滤方法的步骤。

在一个实施例中，提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时，使得处理器执行实施例提供的一种客服系统敏感词检测过滤方法的步骤。

图5示出了可以应用本发明实施例的敏感词检测过滤方法或敏感词检测过滤装置或敏感词检测过滤系统的示例性系统架构500。

如图5所示，系统架构500可以包括终端设备501、502、503，网络 504和服务器505。网络504用以在终端设备501、502、503和服务器505 之间提供通信链路的介质。网络504可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备501、502、503通过网络504与服务器505交互，以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器505可以是提供各种服务的服务器，例如对用户利用终端设备 501、502、503所发送的往来消息提供支持的后台管理服务器。后台管理服务器可以在接收到终端设备请求后进行分析等处理，并将处理结果反馈给终端设备。

需要说明的是，本发明实施例所提供的客服系统敏感词检测过滤方法一般由服务器505执行，相应地，敏感词检测过滤装置一般设置于服务器 505中。

应该理解，图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

下面参考图6，其示出了适于用来实现本发明实施例的电子设备的计算机系统600的结构示意图。图6示出的计算机系统仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在 RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、 ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605 也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610 上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611 被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本发明的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器 (CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括确定模块、提取模块、训练模块和筛选模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，确定模块还可以被描述为“确定候选用户集的模块”。

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种客服系统敏感词检测过滤方法，应用于服务端，其特征在于，包括：

构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；

获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；

如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。

2.根据权利要求1所述的客服系统敏感词检测过滤方法，其特征在于，如果不存在，则提取所述待测文本的首字后的第M个字，继续在所述若干树形结构的所有首字中查询是否存在所述第M个字，当所有首字中存在所述第M个字时，则提取所述第M个字后的第K个字，进入具有所述第M个字的树形结构，在所述树形结构的树形分支上匹配所述第K个字；当所述树形分支上匹配不到所述第K个字时，将所述第M个字至所述第K个字中除所述第K个字的所有字确定为敏感词，M和K为正整数且均从1开始。

3.根据权利要求1所述的客服系统敏感词检测过滤方法，其特征在于，所述构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构具体包括：预先将若干敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。

4.根据权利要求1所述的客服系统敏感词检测过滤方法，其特征在于，每个所述树形结构共具有X级分支节点，每个敏感词的首字为树形结构的根，首字后面的第X字为X级分支节点，X为正整数。

5.根据权利要求1所述的客服系统敏感词检测过滤方法，其特征在于，将所有敏感词组合成的所述树形结构以首字为key的形式存储于redis数据库中。

6.根据权利要求1所述的客服系统敏感词检测过滤方法，其特征在于，所述构建动态敏感词库还包括：获取敏感词，从所述动态敏感词库中匹配该敏感词是否存在，如果不存在，则将该敏感词更新至所述动态敏感词库中。

7.一种客服系统敏感词检测过滤装置，其特征在于，包括：

敏感词库构建模块，用于构建动态敏感词库，将所述动态敏感词库中具有相同首字的敏感词组合成一个树形结构，不同首字的敏感词分属不同的树形结构，以生成若干树形结构；

文本获取模块，用于获取待测文本，提取所述待测文本的首字，在所述若干树形结构的所有首字中查询是否存在所述待测文本的首字；

文字匹配替换模块，用于如果存在，则提取所述待测文本的首字后的第N个字，进入具有所述待测文本的首字的树形结构，在所述树形结构的树形分支上匹配所述第N个字，当所述树形分支上匹配不到所述第N个字时，将所述第N个字之前的所有字确定为敏感词，删除或替换确定为敏感词的所有字，以使客户端给用户显示被删除或替换后的所述待检测文本，N为正整数且从1开始。

8.根据权利要求7所述的敏感词检测过滤装置，其特征在于，

所述敏感词库构建模块还用于预先将若干敏感词固化于mysql数据库中以形成所述动态敏感词库，当客服系统启动后，服务器异步将所述动态敏感词库中具有相同首字的敏感词组合成所述树形结构。

9.一种敏感词检测过滤的电子设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行权利要求1至6中任一项权利要求所述的客服系统敏感词检测过滤方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行权利要求1至6中任一项权利要求所述的客服系统敏感词检测过滤方法的步骤。

Images