CN112380411B - 敏感词处理方法、装置、电子设备、系统及存储介质 - Google Patents

Abstract

本公开关于一种敏感词处理方法、装置、电子设备、系统及存储介质，以减少对存储资源的浪费。该方法包括：获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

Description

敏感词处理方法、装置、电子设备、系统及存储介质

技术领域

本公开涉及计算机技术领域，尤其涉及敏感词处理方法、装置、电子设备、系统及存储介质。

背景技术

互联网公司向社会大众提供的产品及其服务中包括社会大众发布的作品(例如：文字作品、音频作品或视频作品等)、留言或评论等内容。其中，这些内容在被展示给大众前有可能会包括不符合主流价值观和有违社会道德的内容，互联网公司需要配置敏感词对将要展示给社会大众的内容进行过滤。

目前，对于不同的业务，互联网公司为每个业务均配置有该业务对应的敏感词库，然后根据每个业务对应的敏感词库，分别对内容进行过滤。当前，每个业务对应的敏感词库都单独存储。然而实际应用中，不同业务对应的敏感词库中可能包括相同的敏感词，这样会造成存储资源的浪费。

发明内容

本公开提供一种敏感词处理方法、装置、电子设备、系统及存储介质，以减少对存储资源的浪费。

本公开的技术方案如下：

根据本公开的第一方面，本公开实施例提供一种敏感词处理方法，该方法包括：获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

本公开的技术方案中对于不同业务的敏感词如果在敏感词库中已经存在，则不需要重新存储，仅存储敏感词的标识、版本标识与新业务的标识的对应关系即可，有助于减少对存储资源的浪费。

在一种可能的实现方式中，该方法包括：若敏感词库中不包括待存储敏感词，则将待存储敏感词加入敏感词库，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

在另一种可能的实现方式中，该方法还包括：获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；目标类别的敏感词所属类别的类别标识包括目标类别的类别标识；目标类别的敏感词未包括待存储敏感词；建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

这样，用户在建立业务对应的敏感词时，对于已经存在的包括了想要建立的所有敏感词的类别，建立业务标识与该类别标识的对应关系即可。简化了配置人员的操作。

在另一种可能的实现方式中，该方法还包括：获取白名单的标识；白名单中包括至少一个目标类别的敏感词；建立白名单的标识、版本标识以及待配置业务的标识之间的对应关系。

这样，对于待配置业务对应的目标类别中若包括了不需要配置的敏感词，则可以通过建立的白名单将不需要配置的敏感词排除。

在另一种可能的实现方式中，该方法还包括：获取业务端发送的敏感词请求消息；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的最新版本标识；从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；向业务端发送确定出的敏感词以及敏感词的处理操作。

这样，对于配置端来说在为业务端获取业务对应的敏感词时，获取更新的部分，而不需要将业务对应的所有敏感词下发给业务端，从而节省了带宽资源。

在另一种可能的实现方式中，上述从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作，包括：从预存的类别标识、版本标识以及业务的标识之间的对应关系中，读取目标版本标识以及待配置业务的标识对应的目标类别标识；获取目标类别的敏感词；目标类别标识表征的类别为目标类别；根据目标类别的敏感词，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作。

在另一种可能的实现方式中，上述根据目标类别的敏感词，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作，包括：从预存的版本标识、白名单标识以及业务的标识之间的对应关系，读取待配置业务的标识以及目标版本标识所对应的白名单标识；获取白名单标识表征的白名单所包括的敏感词；从目标类别的敏感词中去除白名单所包括的敏感词，得到差异敏感词；将差异敏感词确定为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

在另一种可能的实现方式中，上述从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作，包括：根据预存的版本标识、敏感词的标识以及业务的标识之间的对应关系，获取目标版本标识以及待配置业务的标识所对应的敏感词的标识；将获取的敏感词的标识所对应的敏感词作为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

根据本公开的第二方面，提供一种敏感词获取方法，该方法包括：向配置端发送敏感词请求消息，请求消息用于获取目标敏感词以及每个目标敏感词的处理操作；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的标识对应的最新版本标识；目标敏感词为敏感词库中：目标版本标识所对应的敏感词的标识所表征的敏感词；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；接收配置端发送的目标敏感词以及每个目标敏感词的处理操作。

本公开实施例中，发送的敏感词请求消息包括业务端中待配置业务对应的敏感词的业务端版本标识，这样配置端可以根据业务端版本标识获取并向业务端发送比业务端版本标识新的版本标识所对应的敏感词，而不用发送待配置业务的全部敏感词，节省网络传输带宽。

根据本公开的第三方面，提供一种敏感词处理装置，包括：获取模块，被配置为获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；建立模块，被配置为若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

可选的，建立模块，还被配置为：若敏感词库中不包括待存储敏感词，则将待存储敏感词加入敏感词库，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

可选的，获取模块还被配置为：获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；目标类别的敏感词所属类别的类别标识包括目标类别的类别标识；目标类别的敏感词未包括待存储敏感词；建立模块还被配置为：建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

可选的，获取模块还被配置为：获取白名单的标识；白名单中包括至少一个目标类别的敏感词；建立模块还被配置为：建立白名单的标识、版本标识以及待配置业务的标识之间的对应关系。

可选的，获取模块还被配置为：获取业务端发送的敏感词请求消息；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的最新版本标识；敏感词处理装置还包括：确定模块，被配置为从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；敏感词处理装置还包括：发送模块，被配置为向业务端发送确定出的敏感词以及敏感词的处理操作。

可选的，确定模块具体被配置为：从预存的类别标识、版本标识以及业务的标识之间的对应关系中，读取目标版本标识以及待配置业务的标识对应的目标类别标识；获取模块还被配置为：获取目标类别的敏感词；目标类别标识表征的类别为目标类别；确定模块具体被配置为：根据目标类别的敏感词，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作。

可选的，确定模块具体被配置为：从预存的版本标识、白名单标识以及业务的标识之间的对应关系，读取待配置业务的标识以及目标版本标识所对应的白名单标识；获取白名单标识表征的白名单所包括的敏感词；从目标类别的敏感词中去除白名单所包括的敏感词，得到差异敏感词；将差异敏感词确定为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

可选的，确定模块具体被配置为：根据预存的版本标识、敏感词的标识以及业务的标识之间的对应关系，获取目标版本标识以及待配置业务的标识所对应的敏感词的标识；将获取的敏感词的标识所对应的敏感词作为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

根据本公开的第四方面，提供一种敏感词获取装置，包括：发送模块，被配置为向配置端发送敏感词请求消息，请求消息用于获取目标敏感词以及每个目标敏感词的处理操作；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的标识对应的最新版本标识；目标敏感词为敏感词库中：目标版本标识所对应的敏感词的标识所表征的敏感词；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；接收模块，被配置为接收配置端发送的目标敏感词以及每个目标敏感词的处理操作。

根据本公开的第五方面，提供一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器。其中，处理器被配置为执行所述指令，以实现上述第一方面以及第一方面的任一种可能的实现方式所示的敏感词处理方法，或者实现上述第二方面的实现方式所示的敏感词获取方法。

根据本公开的第六方面，提供一种计算机可读存储介质，当该存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如上述第一方面以及第一方面的任一种可能的实现方式所示的敏感词处理方法，或者执行上述第二方面的实现方式所示的敏感词获取方法。

根据本公开的第七方面，提供一种计算机程序产品，可直接加载到电子设备的内部存储器中，并含有软件代码，该计算机程序经由电子设备载入并执行后能够实现第一方面以及第一方面的任一种可能的实现方式所示的敏感词处理方法，或者执行上述第二方面的实现方式所示的敏感词获取方法。

根据本公开的第八方面，提供一种电子系统，包括：配置端和业务端；配置端用于执行第一方面以及第一方面的任一种可能的实现方式所示的敏感词处理方法，所述业务端用于执行上述第二方面的实现方式所示的敏感词获取方法。

上述提供的任一种敏感词处理装置、敏感词获取装置、电子设备、系统或计算机可读存储介质或计算机程序产品用于执行上文所提供的对应的方法，因此，其所能达到的有益效果可参考上文提供的对应的方法中对应方案的有益效果，此处不再赘述。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。

图1是根据一示例性实施例示出的本公开实施例所适用的系统架构示意图；

图2是根据一示例性实施例示出的本公开实施例所适用的一种电子设备的结构示意图；

图3是根据一示例性实施例示出的本公开实施例所提供的一种敏感词处理方法的流程示意图；

图4是根据一示例性实施例示出的待配置业务与对应的版本包括的敏感词的对应关系示意图；

图5是根据一示例性实施例示出的敏感词与类别的存储示意图；

图6是根据一示例性实施例示出的本公开实施例所提供的敏感词处理方法的流程示意图；

图7是根据一示例性实施例示出的本公开实施例所提供的目标类别的类别标识、版本标识以及待配置业务的标识三者之间的对应关系示意图；

图8是根据一示例性实施例示出的本公开实施例所提供的白名单的标识、版本标识以及待配置业务的标识三者之间的对应关系示意图；

图9是根据一示例性实施例示出的本公开实施例所提供的创建的待配置业务的敏感词存储结构示意图；

图10是根据一示例性实施例示出的本公开实施例所提供的一种敏感词获取方法的流程示意图；

图11是根据一示例性实施例示出的一种敏感词处理装置的逻辑结构框图；

图12是根据一示例性实施例示出的一种敏感词获取装置的逻辑结构框图。

具体实施方式

为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。

需要说明的是，在本公开的实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本公开实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

在本公开实施例中，“至少一个”是指一个或多个。“多个”是指两个或两个以上。

在本公开实施例中，“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本公开保护的范围。

需要说明的是，本公开实施例提供的敏感词处理以及敏感词获取方法可以应用于如图1所示的系统架构。该系统架构包括至少一个配置端101和至少一个业务端102。配置端101与业务端102连接。

配置端101用于为业务配置对应的敏感词。配置端可以为任意一个计算机设备或服务器，其中计算机设备包括但不限于手机、平板电脑、台式电脑、笔记本电脑、车载终端或掌上终端等。服务器可以为一台服务器，或者，也可以为由多台服务器组成的服务器集群，本公开对此不做限定。

业务端102可以是服务器，服务器可以为一台服务器，或者，也可以为由多台服务器组成的服务器集群，本公开对此不做限定。在一个示例中业务端102为应用服务器。该应用包括多个业务，每个业务均需要对应配置敏感词。

可以理解的是上述配置端101与业务端102可以是相互独立设置的，也可以是集成在一个设备中，本公开对此不进行限定。

上述配置端101与业务端102均可以通过如图2所示的电子设备20来实现。如图2所示，为本公开实施例提供的技术方案所适用的一种电子设备的结构示意图。图2中电子设备20包括但不限于：处理器201、存储器202、输入单元203、接口单元204和电源205等。

处理器201是电子设备的控制中心，利用各种接口和线路连接整个电子设备的各个部分，通过运行或执行存储在存储器202内的软件程序和/或模块，以及调用存储在存储器202内的数据，执行电子设备的各种功能和处理数据，从而对电子设备进行整体监控。处理器201可包括一个或多个处理单元；可选的，处理器201可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器201中。

存储器202可用于存储软件程序以及各种数据。存储器202可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能单元所需的应用程序等。此外，存储器202可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。可选地，存储器202可以是非临时性计算机可读存储介质，例如，非临时性计算机可读存储介质可以是只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

输入单元203可以为键盘、触摸屏等器件。

接口单元204为外部装置与电子设备20连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元204可以用于接收来自外部装置的输入(例如，数据信息等)并且将接收到的输入传输到电子设备20内的一个或多个元件或者可以用于在电子设备20和外部装置之间传输数据。

电源205(比如：电池)可以用于为各个部件供电，可选的，电源205可以通过电源管理系统与处理器201逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

可选的，本申请实施例中的计算机指令也可以称之为应用程序代码或系统，本申请实施例对此不作具体限定。

需要说明的是，图2所示的电子设备仅为示例，其不对本申请实施例可适用的电子设备构成限定。实际实现时，电子设备可以包括比图2中所示的更多或更少的设备或器件。

本公开实施例所提供的方法包括两部分：第一部分为敏感词处理阶段。第二部分为敏感词获取阶段。

结合图3对本公开实施例的第一部分进行说明。如图3所示为本公开实施例所提供的一种敏感词处理方法的流程示意图，可以应用于配置端101，图3所示的方法可以包括以下步骤：

S100：配置端101获取待存储敏感词。其中，待存储敏感词与待配置业务对应。

具体的，配置端101在检测到创建待配置业务对应的待存储敏感词的操作之后，获取用户输入的待存储敏感词。其中，待存储敏感词包括至少一个敏感词。

可选的，配置端101还获取用户输入的待存储敏感词的类别标识。

示例性的，配置端101在创建新业务敏感词界面检测到创建操作，获取用户输入的待存储敏感词A。

S101:配置端101判断待存储敏感词在敏感词库中是否存在。若是，则执行S102,若否，则执行S103。

S102：配置端101获取待存储敏感词的的标识并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。处理操作包括增加或删除。版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

具体的，配置端101从敏感词库获取待存储敏感词的标识，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

在一个示例中，如图4所示:待配置业务与对应的版本包括的敏感词的对应关系，图4中，待配置业务对应了四个版本的敏感词。待配置业务对应的版本1包括的敏感词有A，B，C。待配置业务对应的版本2在版本1的基础上添加了敏感词D，E。待配置业务对应的版本2包括的敏感词有A，B,C,D,E。待配置业务对应的版本3在版本1版本2的基础上删掉了敏感词A添加了敏感词F,待配置业务对应的版本3包括的敏感词有B,C,D,E,F。待配置业务的标识、版本标识、敏感词的标识的对应关系示意图中：待配置业务的标识分别对应版本1标识、版本2标识和版本3标识。其中，版本1标识分别对应敏感词的标识中的A标识，B标识，C标识。版本2标识分别对应敏感词的标识中的A标识，B标识，C标识，D标识，E标识。版本3标识分别对应敏感词的标识中的B标识，C标识，D标识，E标识和F标识。其中，A标识为敏感词A的标识，B标识为敏感词B的标识，其他与此类似，不再赘述。

在配置端101获取了用户输入的待存储敏感词的类别标识的情况下，配置端101建立待存储敏感词的类别标识与该待存储敏感词的标识的对应关系。

在一个示例中，如图5所示为敏感词与类别的存储示意图。图5中待存储敏感词A与两个类别具有对应关系：类别1和类别2。

S103：配置端101将待存储敏感词加入敏感词库，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

具体的，配置端101生成待存储敏感词的标识并将待存储敏感词新增至敏感词库。本公开对敏感词库的形式不进行限定，示例性的，敏感词库可以是一个用于存储敏感词的数据表。

然后，配置端101建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

具体的，参考上述S102中的描述不再赘述。

本公开实施例对待配置业务的标识以及版本标识不进行限定，示例性的，待配置业务的标识为随机序列号生成的序列。版本标识可以是阿拉伯数字1。或者，版本标识可以根据待存储敏感词的创建时间进行标定。

本公开实施例中，在位待配置业务配置敏感词的过程中，当待存储敏感词在敏感词库中已经存在的情况下将不再重新存储，仅在配置端101存储待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系，因此，对于不同业务对应的相同敏感词，在底层数据库中不会重复存储该相同敏感词。从而节省了配置端101中的存储资源。

如图6所示为本公开实施例所提供的另一种敏感词处理方法的流程示意图，可以应用于配置端101，图6所示的方法可以包括以下步骤：

S200：配置端101获取目标类别的类别标识。敏感词库中包括至少一个目标类别的敏感词；该目标类别的敏感词所属类别的类别标识包括目标类别的类别标识。

在用户输入的类别为敏感词库中已经存在的类别的情况下，配置端101从创建的类别与类别标识的对应关系中，读取用户输入的目标类别对应的类别标识。

在用户输入的类别为敏感词库中不存在的类别的情况下，配置端101为用户输入的目标类别创建类别标识。

基于图5的示例，敏感词A对应类别1和类别2。

S201:配置端101建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

具体的，配置端101为待配置业务对应的敏感词生成版本标识，并建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

在一个示例中，配置端101建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系示意图如图7所示。图7中待配置业务的标识对应版本1标识，版本1标识对应增加类别1对应的敏感词，类别1对应敏感词库中的敏感词A，B，C,D,E,F。也可以说敏感词A，B，C,D,E,F中每个敏感词的类别标识包括类别1的标识。

这样，在配置端为待配置业务配置敏感词的过程中，为待配置业务配置类别，配置端将类别标识与待配置业务的标识对应起来，而类别标识对应多个敏感词，从而该类别标识对应的多个敏感词可以与待配置业务建立对应关系，不需要单独输入类别标识对应的敏感词，简化了配置工作中人工作业量。

可选的，S202：配置端101获取白名单的标识。其中，白名单中包括至少一个目标类别的敏感词。

示例性的，白名单1中包括敏感词A，敏感词C。

可选的，S203:配置端101建立白名单的标识、版本标识以及待配置业务的标识之间的对应关系。

在一个例子中，如图8所示为白名单的标识、版本标识以及待配置业务的标识之间的对应关系。图8中待配置业务的标识对应版本1标识，版本1标识对应白名单1的标识，白名单1的标识对应A标识和C标识。其中，A标识为敏感词A的标识，C标识为敏感词C的标识。

这样，当用户为待配置业务配置了目标类别，但并不想建立目标类别中至少一个特定敏感词与待配置业务的对应关系的情况下，用户可以在配置端101创建白名单，将该至少一个特定敏感词从目标类别对应的敏感词中排除掉。基于图7所示的待配置业务的标识所对应的敏感词示例以及图8所示的与待配置业务的标识所对应的白名单1的示例，图7所示的待配置业务的标识所对应的类别1对应的敏感词包括A，B，C,D,E,F。图8所示的白名单1所对应的敏感词包括A，C，从类别1对应的敏感词中排除掉白名单1包括的敏感词A和C，该待配置业务实际配置的敏感词包括B,D,E,F。

本公开实施例中，当待配置业务所需配置的敏感词均为目标类别的敏感词时，仅需要创建目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系即可，一方面简化了用户的操作，进一步的减少了存储空间的浪费。

可以理解的是，上述两个实施例在逻辑通顺的前提下，可以结合在一起组成一个新的实施例，这些新的实施例也均在本公开的保护范围之内。示例性的，配置端101获取目标类别以及待存储敏感词。其中，待存储敏感词不属于目标类别对应的敏感词。待存储敏感词在敏感词库中存在，配置端101建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系，还建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。该公开实施例创建的待配置业务的敏感词存储结构如图9所示。图9中待配置业务的标识与版本1标识对应，版本1标识分别与待存储敏感词的标识对应以及与类别2(类别标识)对应，待存储敏感词的处理操作为增加，待存储敏感词的标识与敏感词库中的待存储敏感词对应，类别2的处理操作为增加，类别2与敏感词库中敏感词的标识对应。例如：敏感词A～敏感词E。这样，配置端为待配置业务配置的敏感词包括待存储敏感词和敏感词A～敏感词E。配置端在为待配置业务配置敏感词的过程中，由于待存储敏感词在敏感词库中存在，可以只创建待存储敏感词的标识与待配置业务的标识、版本1标识以及处理操作的对应关系，而不必在敏感词库中存储该待存储敏感词；由于敏感词A～敏感词E均与类别2对应，配置端可以只创建待配置业务的标识、版本1标识、处理操作以及类别2的对应关系，而不必再逐个输入敏感词A～敏感词E，也不用重复在敏感词库中存储敏感词A～敏感词E，一方面减少了存储空间的浪费，一方面简化了为待配置业务配置敏感词的过程中的人工操作。

本公开实施例中，在为待配置业务配置敏感词的过程中，待存储敏感词已经在敏感词库中存在，配置端不需要重新存储待存储敏感词，建立待配置业务的标识、待存储敏感词的标识、处理操作以及版本标识的对应关系即可。对于待配置业务待配置的敏感词对应同一个目标类别的情况下，配置端可以建立待配置业务的标识、目标类别的类别标识、处理操作以及版本标识的对应关系，将与该目标类别对应的敏感词均配置给该待配置业务，不需要在配置端逐个输入该目标类别对应的敏感词并存储。一方面减少了存储空间的浪费，一方面简化了为待配置业务配置敏感词的人工操作。

结合图10对本公开实施例的第二部分进行说明。如图10所示为本公开实施例所提供的一种敏感词获取方法的流程示意图，图10所示的方法可以包括以下步骤：

S300：业务端102向配置端101发送敏感词请求消息。其中，该敏感词请求消息用于获取目标敏感词以及每个目标敏感词的处理操作；该敏感词请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的标识对应的最新版本标识；目标敏感词为敏感词库中：目标版本标识所对应的敏感词的标识所表征的敏感词；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识。

具体的，当业务端102首次向配置端101发送敏感词请求消息以请求获取待配置业务的敏感词时，业务端版本标识为空。当业务端102向配置端101发送敏感词请求消息以更新待配置业务的敏感词时，业务端版本标识为业务端102存储的待配置业务的敏感词的最新版本的版本标识。

本公开对业务端102向配置端101发送敏感词请求消息的触发条件不进行限定，在一种可能的情况下，配置端101向业务端102发送了待配置业务的敏感词更新的通知消息之后，业务端102向配置端101发送敏感词请求消息。在另一种可能的情况下，业务端102主动向配置端发送敏感词请求消息。

S301：配置端101从敏感词库中，确定出目标敏感词以及每个目标敏感词的处理操作。

具体的，配置端101通过如下步骤从敏感词库中，确定出目标敏感词以及每个目标敏感词的处理操作：

步骤一：配置端101从类别标识、版本标识、处理操作、以及业务的标识四者之间的对应关系中，读取目标版本标识所对应的目标类别标识；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识。

步骤二：配置端101根据类别标识与敏感词的标识的对应关系，获取目标类别标识所对应的敏感词的标识。

可选的，配置端101根据版本标识、白名单标识以及业务的标识三者之间的对应关系，获取所述目标版本标识所对应的白名单标识所表征的白名单所包括的敏感词。

具体的，配置端101从类别标识与敏感词的标识的对应关系中，读取目标类别标识所对应的敏感词的标识，当配置端获取到目标版本标识所对应的白名单标识之后，从白名单标识与敏感词的标识之间的对应关系中，读取该白名单标识所对应的敏感词的标识，并从目标类别标识所对应的敏感词的标识中剔除白名单标识所对应的敏感词的标识。

步骤三：配置端101从敏感词库中确定目标类别标识所对应的敏感词的标识所表征的目标敏感词。

具体的，配置端101从敏感词库的敏感词的标识与敏感词对应关系中读取步骤二获取的敏感词的标识所对应的敏感词。

步骤四：配置端101确定目标类别标识所对应的处理操作为每个目标敏感词的处理操作。

基于图9的示例，假设目标类别标识为图9中的类别2，那么该类别标识对应的处理操作为增加。

步骤五：配置端101根据版本标识、处理操作、敏感词的标识以及业务的标识四者之间的对应关系，分别得到目标版本标识所对应的敏感词的标识所表征的目标敏感词以及每个目标敏感词的处理操作。

具体的，配置端101从版本标识、处理操作、敏感词的标识以及业务的标识四者之间的对应关系中，读取目标版本标识所对应的敏感词的标识及其处理操作，然后配置端101从敏感词的标识与敏感词的对应关系中，读取获取的敏感词的标识所对应的敏感词。

基于图9的示例，假设目标版本标识为图9的版本1标识，配置端根据版本标识、处理操作、敏感词的标识以及业务的标识四者之间的对应关系，得到目标版本标识所对应的敏感词的标识为待存储敏感词的标识，该待存储敏感词的处理操作为增加。

可以理解的是，当目标版本标识既包括直接对应的白名单标识、类别标识以及敏感词的标识的情况下，上述步骤一至步骤五都会获取到数据，步骤三与步骤五获取的敏感词都为目标敏感词。

可选的，S302：配置端101从敏感词库中，确定出待配置业务的标识对应的最新版本标识。

具体的，配置端101可以根据版本标识的创建时间确定出待配置业务的标识对应的最新版本标识。

在一种可能的实现方式中，当版本标识的大小体现了版本标识的创建时间的早晚的情况下，配置端101可以确定待配置业务的标识对应的最大版本标识为最新版本标识。在一个例子中，假设前一次创建的待配置业务的标识对应的版本标识比后一次创建的待配置业务的标识对应的版本标识小预设阈值，那么配置端101可以确定待配置业务的标识对应的最大版本标识为最新版本标识。

S303：配置端101向业务端102发送目标敏感词、每个目标敏感词的处理操作以及配置端101中待配置业务的标识对应的最新版本标识。

后续，业务端102可以根据接收的目标敏感词、每个目标敏感词的处理操作跟新待配置业务的标识对应的敏感词。业务端102还可以根据接收到的配置端101中待配置业务的标识对应的最新版本标识更新业务端102中待配置业务的标识对应的最新版本标识。

在一个例子中，假设业务端102接收到的目标敏感词包括词F，词G，词K，词E；其中，词F，词G，词K的处理操作为增加，词E的处理操作为删除，那么，业务端102在待配置业务的标识对应的敏感词中增加词F，词G，词K，删除原待配置业务的标识对应的词E。

本公开实施例中，配置端101根据业务端102发送的敏感词请求消息，获取目标敏感词时，仅获取创建时间晚于业务端102中业务端版本标识的创建时间的版本标识对应的敏感词及其处理操作(即：业务端102中待配置业务的标识对应的敏感词的现有版本与配置端101中待配置业务的标识对应的敏感词的最新版本的差异部分)。这样，在业务端102向业务端102发送敏感词请求消息，以更新待配置业务对应的敏感词时，配置端101仅需要向业务端102发送待配置业务的标识对应的敏感词的差异部分，从而减少了配置端101与业务端102之间的带宽资源的占用。

图11是根据一示例性实施例示出的一种敏感词处理装置30的逻辑结构框图。参照图11，该敏感词处理装置30包括：获取模块301和建立模块302。其中，获取模块301，被配置为获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；建立模块302，被配置为若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。例如，结合图3获取模块301可以用于执行S100，建立模块302可以用于执行S102～S103。

可选的，建立模块302还被配置为：若敏感词库中不包括待存储敏感词，则将待存储敏感词加入敏感词库，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

可选的，获取模块301还被配置为：获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；目标类别的敏感词所属类别的类别标识包括目标类别的类别标识；目标类别的敏感词未包括待存储敏感词；建立模块302还被配置为：建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

可选的，获取模块301还被配置为：获取白名单的标识；白名单中包括至少一个目标类别的敏感词；建立模块302还被配置为：建立白名单的标识、版本标识以及待配置业务的标识之间的对应关系。

可选的，获取模块301还被配置为：获取业务端发送的敏感词请求消息；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的最新版本标识；敏感词处理装置30还包括确定模块303，被配置为从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；敏感词处理装置30还包括发送模块304，被配置为向业务端发送确定出的敏感词以及敏感词的处理操作。

可选的，确定模块303具体被配置为：从预存的类别标识、版本标识以及业务的标识之间的对应关系中，读取目标版本标识以及待配置业务的标识对应的目标类别标识；获取模块301还被配置为：获取目标类别的敏感词；目标类别标识表征的类别为目标类别；确定模块303具体被配置为：根据目标类别的敏感词，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作。

可选的，确定模块303具体被配置为：从预存的版本标识、白名单标识以及业务的标识之间的对应关系，读取待配置业务的标识以及目标版本标识所对应的白名单标识；获取白名单标识表征的白名单所包括的敏感词；从目标类别的敏感词中去除白名单所包括的敏感词，得到差异敏感词；将差异敏感词确定为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

可选的，确定模块303具体被配置为：根据预存的版本标识、敏感词的标识以及业务的标识之间的对应关系，获取目标版本标识以及待配置业务的标识所对应的敏感词的标识；将获取的敏感词的标识所对应的敏感词作为目标版本标识的敏感词，并获取目标版本标识的敏感词中每个敏感词的处理操作。

在一个示例中，参见图2，上述获取模块301的接收功能以及发送模块304的发送功能可以由图2中的接口单元204实现。上述获取模块301的处理功能和确定模块303均可以由图2中的处理器201调用存储器202中存储的计算机程序实现。

图12是根据一示例性实施例示出的一种敏感词获取装置40的逻辑结构框图。参照图12，该敏感词获取装置40包括：发送模块401和接收模块402。发送模块401，被配置为向配置端发送敏感词请求消息，请求消息用于获取目标敏感词以及每个目标敏感词的处理操作；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的标识对应的最新版本标识；目标敏感词为敏感词库中：目标版本标识所对应的敏感词的标识所表征的敏感词；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；接收模块402，被配置为接收配置端发送的目标敏感词以及每个目标敏感词的处理操作。例如，结合图10发送模块401可以用于执行S300中的发送步骤，接收模块402可以用于执行S303中的接收步骤。

在一个示例中，参见图2，上述获取模块402的接收功能以及发送模块401的发送功能可以由图2中的接口单元204实现。上述获取模块402的处理功能可以由图2中的处理器201调用存储器202中存储的计算机程序实现。

在示例性实施例中，本公开实施例还提供了一种电子系统，包括业务端和配置端，其中，业务端用于执行上述的敏感词获取方法的各个过程，配置端用于执行上述的敏感词处理方法中的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

在示例性实施例中，本公开实施例还提供了一种包括一条或多条指令的计算机程序产品，该一条或多条指令可以由电子设备20的处理器201执行以完成上述方法。

需要说明的是，上述存储介质中的指令或计算机程序产品中的一条或多条指令被处理器201执行时实现上述方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (16)

1.一种敏感词处理方法，其特征在于，所述方法包括：

获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；所述目标类别的敏感词所属类别的类别标识包括所述目标类别的类别标识；

建立所述目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；

获取待存储敏感词以及所述待存储敏感词的标识；所述待存储敏感词与所述待配置业务对应；所述目标类别的敏感词未包括所述待存储敏感词；

若所述敏感词库中包括所述待存储敏感词，则建立所述待存储敏感词的标识、所述版本标识、处理操作以及所述待配置业务的标识之间的对应关系；所述版本标识用于表征对与所述待配置业务对应的敏感词执行所述处理操作的先后顺序。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

若所述敏感词库中不包括所述待存储敏感词，则将所述待存储敏感词加入所述敏感词库，并建立所述待存储敏感词的标识、所述版本标识、所述处理操作以及所述待配置业务的标识之间的对应关系。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

获取白名单的标识；所述白名单中包括至少一个所述目标类别的敏感词；

建立所述白名单的标识、所述版本标识以及所述待配置业务的标识之间的对应关系。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述方法还包括：

获取业务端发送的敏感词请求消息；所述请求消息包括所述待配置业务的标识和业务端版本标识；所述业务端版本标识为所述业务端中所述待配置业务的最新版本标识；

从所述敏感词库中，确定出目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作；所述目标版本标识为所述待配置业务的标识对应、且创建时间晚于所述业务端版本标识的创建时间的版本标识；

向所述业务端发送确定出的敏感词以及敏感词的处理操作。

5.根据权利要求4所述的方法，其特征在于，所述从所述敏感词库中，确定出目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作，包括：

从预存的类别标识、版本标识以及业务的标识之间的对应关系中，读取所述目标版本标识以及所述待配置业务的标识对应的目标类别标识；

获取目标类别的敏感词；所述目标类别标识表征的类别为所述目标类别；

根据所述目标类别的敏感词，确定出所述目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作。

6.根据权利要求5所述的方法，其特征在于，所述根据所述目标类别的敏感词，确定出所述目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作，包括：

从预存的版本标识、白名单标识以及业务的标识之间的对应关系，读取所述待配置业务的标识以及所述目标版本标识所对应的白名单标识；

获取所述白名单标识表征的白名单所包括的敏感词；

从所述目标类别的敏感词中去除所述白名单所包括的敏感词，得到差异敏感词；

将所述差异敏感词确定为所述目标版本标识的敏感词，并获取所述目标版本标识的敏感词中每个敏感词的处理操作。

7.根据权利要求4所述的方法，其特征在于，所述从所述敏感词库中，确定出目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作，包括：

根据预存的版本标识、敏感词的标识以及业务的标识之间的对应关系，获取所述目标版本标识以及所述待配置业务的标识所对应的敏感词的标识；

将获取的敏感词的标识所对应的敏感词作为所述目标版本标识的敏感词，并获取所述目标版本标识的敏感词中每个敏感词的处理操作。

8.一种敏感词处理装置，其特征在于，包括：

获取模块，被配置为获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；所述目标类别的敏感词所属类别的类别标识包括所述目标类别的类别标识；

建立模块，被配置为建立所述目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；

所述获取模块，还被配置为获取待存储敏感词以及所述待存储敏感词的标识；所述待存储敏感词与所述待配置业务对应；所述目标类别的敏感词未包括所述待存储敏感词；

所述建立模块，还被配置为若所述敏感词库中包括所述待存储敏感词，则建立所述待存储敏感词的标识、所述版本标识、处理操作以及所述待配置业务的标识之间的对应关系；所述版本标识用于表征对与所述待配置业务对应的敏感词执行所述处理操作的先后顺序。

9.根据权利要求8所述的敏感词处理装置，其特征在于，所述建立模块，还被配置为：

若所述敏感词库中不包括所述待存储敏感词，则将所述待存储敏感词加入所述敏感词库，并建立所述待存储敏感词的标识、所述版本标识、所述处理操作以及所述待配置业务的标识之间的对应关系。

10.根据权利要求9所述的敏感词处理装置，其特征在于，

所述获取模块还被配置为：获取白名单的标识；所述白名单中包括至少一个所述目标类别的敏感词；

所述建立模块还被配置为：建立所述白名单的标识、所述版本标识以及所述待配置业务的标识之间的对应关系。

11.根据权利要求8-10任一项所述的敏感词处理装置，其特征在于，

所述获取模块还被配置为：获取业务端发送的敏感词请求消息；所述请求消息包括所述待配置业务的标识和业务端版本标识；所述业务端版本标识为所述业务端中所述待配置业务的最新版本标识；

所述敏感词处理装置还包括：确定模块，被配置为从所述敏感词库中，确定出目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作；所述目标版本标识为所述待配置业务的标识对应、且创建时间晚于所述业务端版本标识的创建时间的版本标识；

所述敏感词处理装置还包括：发送模块，被配置为向所述业务端发送确定出的敏感词以及敏感词的处理操作。

12.根据权利要求11所述的敏感词处理装置，其特征在于，所述确定模块具体被配置为：

从预存的类别标识、版本标识以及业务的标识之间的对应关系中，读取所述目标版本标识以及所述待配置业务的标识对应的目标类别标识；

所述获取模块还被配置为：获取目标类别的敏感词；所述目标类别标识表征的类别为所述目标类别；

所述确定模块具体被配置为：根据所述目标类别的敏感词，确定出所述目标版本标识的敏感词以及所述目标版本标识的敏感词中每个敏感词的处理操作。

13.根据权利要求12所述的敏感词处理装置，其特征在于，所述确定模块具体被配置为：

从预存的版本标识、白名单标识以及业务的标识之间的对应关系，读取所述待配置业务的标识以及所述目标版本标识所对应的白名单标识；

获取所述白名单标识表征的白名单所包括的敏感词；

从所述目标类别的敏感词中去除所述白名单所包括的敏感词，得到差异敏感词；

将所述差异敏感词确定为所述目标版本标识的敏感词，并获取所述目标版本标识的敏感词中每个敏感词的处理操作。

14.根据权利要求11所述的敏感词处理装置，其特征在于，所述确定模块具体被配置为：

根据预存的版本标识、敏感词的标识以及业务的标识之间的对应关系，获取所述目标版本标识以及所述待配置业务的标识所对应的敏感词的标识；

将获取的敏感词的标识所对应的敏感词作为所述目标版本标识的敏感词，并获取所述目标版本标识的敏感词中每个敏感词的处理操作。

15.一种电子设备，其特征在于，包括：

处理器和用于存储所述处理器可执行指令的存储器；其中，所述处理器被配置为执行所述可执行指令，以实现如权利要求1-7任一项所述的敏感词处理方法。

16.一种计算机可读存储介质，其特征在于，当所述计算机可读存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如权利要求1-7任一项所述的敏感词处理方法。