CN114661878A - 文本处理方法及装置、电子设备和计算机可读存储介质 - Google Patents

Abstract

本公开提供了一种文本处理方法及装置、电子设备和计算机可读存储介质，可以应用于自然语言处理领域和金融领域。该文本处理方法包括：响应于接收到初始搜索文本，根据初始搜索文本，从历史文本数据库中确定与初始搜索文本具有关联关系的初始历史文本，其中，历史文本数据库包括至少一个历史文本和至少一个匹配文本，至少一个历史文本和至少一个匹配文本一一对应；根据初始搜索文本和初始历史文本，获取网络知识文本；利用网络知识文本，分别对初始搜索文本和初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；根据目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本。

Description

文本处理方法及装置、电子设备和计算机可读存储介质

技术领域

本公开涉及自然语言处理领域和金融领域，更具体地，涉及一种文本处理方法及装置、电子设备、计算机可读存储介质和一种计算机程序产品。

背景技术

随着人工智能技术的发展，在问答机器人、剽窃检测、网页搜索等多个场景下，都会应用到自然语言处理(Natural Language Processing，NLP)中的文本匹配技术。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：在基于短文本匹配技术的应用场景下，由于用户问题的网络化和口语化，以及构建结构化的外部知识所耗费的成本较高，使得用户体验较差。

发明内容

有鉴于此，本公开提供了一种文本处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的第一个方面，提供了一种文本处理方法，包括：

响应于接收到初始搜索文本，根据上述初始搜索文本，从历史文本数据库中确定与上述初始搜索文本具有关联关系的初始历史文本，其中，上述历史文本数据库包括至少一个历史文本和至少一个匹配文本，上述至少一个历史文本和上述至少一个匹配文本一一对应；

根据上述初始搜索文本和上述初始历史文本，获取网络知识文本；

利用上述网络知识文本，分别对上述初始搜索文本和上述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；以及

根据上述目标搜索文本和上述目标历史文本，确定与上述目标历史文本对应的目标文本。

根据本公开的实施例，上述方法还包括，在上述响应于接收到初始搜索文本，根据上述初始搜索文本，从历史文本数据库中确定与上述初始搜索文本具有关联关系的初始历史文本之后：

对上述初始搜索文本和上述初始历史文本分别进行分词处理，得到初始搜索文本词序列和初始历史文本词序列；

对上述初始搜索文本词序列和上述初始历史文本词序列进行预处理，得到经预处理的搜索文本词序列和历史文本词序列，其中，上述预处理包括停用词过滤和标点符号过滤中的至少一个；以及

将上述经预处理的搜索文本词序列和历史文本词序列进行匹配，得到匹配词汇集合和差异词汇集合，其中，上述差异词汇集合包括搜索文本差异词汇集合和历史文本差异词汇集合。

根据本公开的实施例，上述匹配词汇集合包括上述搜索文本词序列和上述历史文本词序列中匹配的匹配词汇，上述搜索文本差异词汇集合包括上述搜索文本词序列中与上述历史文本词序列不匹配的第一差异词汇，上述历史文本差异词汇集合包括上述历史文本词序列中与上述搜索文本词序列不匹配的第二差异词汇；

上述根据上述初始搜索文本和上述初始历史文本，获取网络知识文本包括：

根据上述匹配词汇、上述第一差异词汇和上述第二差异词汇中的每个目标词汇，分别获取上述网络知识文本，其中，上述网络知识文本包括与上述目标词汇对应的一个或多个词义文本；

在上述网络知识文本包括一个上述词义文本的情况下，构建单义词汇表，其中，上述单义词汇表用于表征至少一个上述目标词汇与一个上述词义文本的对应关系；以及

在上述网络知识文本包括多个上述词义文本的情况下，构建多义词汇表，其中，上述多义词汇表用于表征至少一个上述目标词汇与多个上述词义文本的对应关系。

根据本公开的实施例，上述方法还包括，在上述利用上述网络知识文本，分别对上述初始搜索文本和上述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本之前：

根据上述单义词汇表、上述多义词汇表、上述匹配词汇集合和上述差异词汇集合，确定词义类别，其中，上述词义类别包括单义匹配词汇集合、多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合。

根据本公开的实施例，上述方法还包括：

将一个或多个上述词义文本和上述初始搜索文本输入预先训练完成的语义编码模型，得到搜索文本相似度结果；

将一个或多个上述词义文本和上述初始历史文本输入上述预先训练完成的语义编码模型，得到历史文本相似度结果；以及

根据预设阈值，基于上述搜索文本相似度结果和上述历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合。

根据本公开的实施例，上述根据预设阈值，基于上述搜索文本相似度结果和上述历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合包括：

响应于上述搜索文本相似度结果大于上述预设阈值，根据上述多义匹配词汇集合、上述单义差异词汇集合和上述多义差异词汇集合，确定搜索文本单义匹配词词义集合、搜索文本多义匹配词词义集合、搜索文本单义差异词词义集合和搜索文本多义差异词词义集合；

响应于上述历史文本相似度结果大于上述预设阈值，根据上述多义匹配词汇集合、上述单义差异词汇集合和上述多义差异词汇集合，确定历史文本单义匹配词词义集合、历史文本多义匹配词词义集合、历史文本单义差异词词义集合和历史文本多义差异词词义集合。

根据本公开的实施例，上述文本嵌入处理包括嵌入类别，上述方法还包括：

在上述词义类别为多义匹配词义集合的情况下，确定上述嵌入类别为排列嵌入；

在上述词义类别为单义差异词义集合的情况下，确定上述嵌入类别为固定嵌入；以及

在上述词义类别为多义差异词义集合的情况下，确定上述嵌入类别为组合嵌入。

根据本公开的实施例，上述根据上述目标搜索文本和上述目标历史文本，确定与上述目标历史文本对应的目标文本包括：

将上述目标搜索文本和上述目标历史文本输入预先训练完成的语义匹配模型，得到匹配结果；

根据上述匹配结果对上述目标历史文本进行排序，得到排序结果；以及

根据上述排序结果，确定与上述目标历史文本对应的目标文本。

根据本公开的第二个方面，提供了一种文本处理装置，包括：第一确定模块、获取模块、处理模块和第二确定模块。

第一确定模块，用于响应于接收到初始搜索文本，根据上述初始搜索文本，从历史文本数据库中确定与上述初始搜索文本具有关联关系的初始历史文本，其中，上述历史文本数据库包括至少一个历史文本和至少一个匹配文本，上述至少一个历史文本和上述至少一个匹配文本一一对应；

获取模块，用于根据上述初始搜索文本和上述初始历史文本，获取网络知识文本；

处理模块，用于利用上述网络知识文本，分别对上述初始搜索文本和上述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；以及

第二确定模块，用于根据上述目标搜索文本和上述目标历史文本，确定与上述目标历史文本对应的目标文本。

根据本公开的第三个方面，提供了一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个指令，

其中，当上述一个或多个指令被上述一个或多个处理器执行时，使得上述一个或多个处理器实现如上所述的方法。

根据本公开的第四个方面，提供了一种计算机可读存储介质，其上存储有可执行指令，上述可执行指令被处理器执行时使处理器实现如上所述的方法。

根据本公开的第五个方面，提供了一种计算机程序产品，上述计算机程序产品包括计算机可执行指令，上述计算机可执行指令在被执行时用于实现如上所述的方法。

根据本公开的实施例，通过根据初始搜索文本确定初始历史文本，并基于初始搜索文本和初始历史文本获取网络知识文本，然后通过文本嵌入处理得到目标搜索文本和目标历史文本，并确定与目标历史文本对应的目标文本。通过上述技术手段，至少部分地克服了相关技术中在基于短文本匹配技术的应用场景下，由于用户搜索文本的网络化和口语化，以及构建结构化的外部知识所耗费的成本较高，使得用户体验较差的技术问题，进而提高了文本匹配效果。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的可以应用文本处理方法的系统架构；

图2示意性示出了根据本公开实施例的文本处理方法的流程图；

图3示意性示出了根据本公开实施例的得到匹配词汇集合和差异词汇集合的方法流程图；

图4示意性示出了根据本公开实施例的分词处理方法的示意图；

图5示意性示出了根据本公开实施例的文本处理方法的整体流程图；

图6(a)～图6(f)示意性示出了根据本公开实施例的词义嵌入判别的示意图；

图7示意性示出了根据本公开实施例的文本嵌入类别的示意图；

图8示意性示出了根据本公开的实施例的文本处理装置的框图；以及

图9示意性示出了根据本公开实施例的适于实现文本处理方法的电子设备的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

在本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

在本公开的技术方案中，在获取或采集用户个人信息之前，均获取了用户的授权或同意。

随着人工智能技术的发展，在问答机器人、剽窃检测、网页搜索等多个场景下，都会应用到自然语言处理(Natural Language Processing，NLP)中的文本匹配技术。

文本匹配技术按照文本的长短，可以分为短文本匹配技术、长文本匹配技术和文档型匹配技术。其中，短文本匹配技术由于缺乏上下文信息，导致对文本的理解较为困难。因此，在相关技术中为了增强短文本匹配的效果，通常采取例如DSSM(Deep StructuredSemantic Models，基于深度网络的语义模型)、DRMM(Deep Relevance Matching Model，深度相关性匹配模型)、Match Pyramid(构造匹配矩阵)、BERT(Bidirectional EncoderRepresentation from Transformers，双向编码器表示)等匹配算法，通过引入外部知识的方式，来扩充短文本中的上下文信息。

但是，由于目前的短文本匹配技术引入的通常为难以直接使用的结构化的外部知识，不仅需要花费大量的精力来构建知识网络，并且适用范围有限，导致目前已有的外部知识在文本匹配中所起到的作用越来越小。例如，在公开域的应用场景下，用户问题越来越偏向网络化和口语化，导致已有的外部知识已经无法适应；而在垂直域的应用场景下，已有的外部知识通常缺乏垂直域内容，导致构建外部知识需要专业人员的介入，耗费周期较长。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：在基于短文本匹配技术的应用场景下，由于用户问题的网络化和口语化，以及构建结构化的外部知识所耗费的成本较高，使得用户体验较差。

为了至少部分地解决相关技术中存在的技术问题，本公开提供了一种文本处理方法及装置、电子设备和计算机可读存储介质，可以应用于自然语言处理领域和金融领域。该文本处理方法包括：响应于接收到初始搜索文本，根据初始搜索文本，从历史文本数据库中确定与初始搜索文本具有关联关系的初始历史文本，其中，历史文本数据库包括至少一个历史文本和至少一个匹配文本，至少一个历史文本和至少一个匹配文本一一对应；根据初始搜索文本和初始历史文本，获取网络知识文本；利用网络知识文本，分别对初始搜索文本和初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；根据目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本。

需要说明的是，本公开实施例提供的文本处理方法和装置可用于自然语言处理领域和金融领域，例如应用于银行网点的客户服务。本公开实施例提供的文本处理方法和装置也可用于除自然语言处理领域和金融领域之外的任意领域，例如应用于问答机器人。本公开实施例提供的文本处理方法和装置的应用领域不做限定。

图1示意性示出了根据本公开实施例的可以应用文本处理方法的系统架构。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的文本处理方法一般可以由服务器105执行。相应地，本公开实施例所提供的文本处理装置一般可以设置于服务器105中。本公开实施例所提供的文本处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的文本处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者，本公开实施例所提供的文本处理方法也可以由终端设备101、102、或103执行，或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地，本公开实施例所提供的文本处理装置也可以设置于终端设备101、102、或103中，或设置于不同于终端设备101、102、或103的其他终端设备中。

例如，搜索文本和历史文本可以原本存储在终端设备101、102、或103中的任意一个(例如，终端设备101，但不限于此)之中，或者存储在外部存储设备上并可以导入到终端设备101中。然后，终端设备101可以在本地执行本公开实施例所提供的文本处理方法，或者将搜索文本和历史文本发送到其他终端设备、服务器、或服务器集群，并由接收该搜索文本和历史文本指令的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的文本处理方法。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图2示意性示出了根据本公开实施例的文本处理方法的流程图。

如图2所示，该文本处理方法包括操作S201～S204。

在操作S201，响应于接收到初始搜索文本，根据初始搜索文本，从历史文本数据库中确定与初始搜索文本具有关联关系的初始历史文本，其中，历史文本数据库包括至少一个历史文本和至少一个匹配文本，至少一个历史文本和至少一个匹配文本一一对应。

根据本公开的实施例，初始搜索文本可以包括用户通过终端设备输入的问题文本。

根据本公开的实施例，历史文本数据库中可以存储有至少一组历史文本和匹配文本，可以基于用户输入的初始搜索文本在历史文本数据库中确定初始历史文本。

在操作S202，根据初始搜索文本和初始历史文本，获取网络知识文本。

根据本公开的实施例，可以基于初始搜索文本和初始历史文本进行网络数据爬取获得网络知识文本。

在操作S203，利用网络知识文本，分别对初始搜索文本和初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本。

根据本公开的实施例，可以将网络知识文本分别嵌入初始搜索文本和初始历史文本，从而得到目标搜索文本和目标历史文本。

在操作S204，根据目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本。

根据本公开的实施例，可以根据文本嵌入处理后的目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本作为初始搜索文本的答案。

根据本公开的实施例，通过根据初始搜索文本确定初始历史文本，并基于初始搜索文本和初始历史文本获取网络知识文本，然后通过文本嵌入处理得到目标搜索文本和目标历史文本，并确定与目标历史文本对应的目标文本。通过上述技术手段，至少部分地克服了相关技术中在基于短文本匹配技术的应用场景下，由于用户搜索文本的网络化和口语化，以及构建结构化的外部知识所耗费的成本较高，使得用户体验较差的技术问题，进而提高了文本匹配效果。

下面参考图3～图7，结合具体实施例对图2所示的方法做进一步说明。

图3示意性示出了根据本公开实施例的得到匹配词汇集合和差异词汇集合的方法流程图。

如图3所示，该得到匹配词汇集合和差异词汇集合的方法包括操作S301～S303。

在操作S301，对初始搜索文本和初始历史文本分别进行分词处理，得到初始搜索文本词序列和初始历史文本词序列。

根据本公开的实施例，分词处理的方法可以包括基于词典的分词算法和基于统计的机器学习算法。基于统计的机器学习算法可以包括HMM(Hidden Markov Model，隐含马尔柯夫模型)、CRF(Conditional Random Fields,条件随机场)和SVM(Support VectorMachine)等算法。

根据本公开的实施例，分词处理的方法还可以包括词格图切割方法，词格图可以包括一个有向无环图，可以用于表征句子中字和词的信息。例如，可以通过对初始搜索文本(user_question)和初始历史文本(local_question)进行词格图切割，分别得到初始搜索文本词序列(user_tokens)和初始历史文本词序列(local_tokens)。

在操作S302，对初始搜索文本词序列和初始历史文本词序列进行预处理，得到经预处理的搜索文本词序列和历史文本词序列，其中，预处理包括停用词过滤和标点符号过滤中的至少一个。

根据本公开的实施例，可以基于停用词字典，过滤掉初始搜索文本词序列和初始历史文本词序列中的停用词。

根据本公开的实施例，可以基于Python或Java方法，过滤掉初始搜索文本词序列和初始历史文本词序列中的标点符号。

在操作S303，将经预处理的搜索文本词序列和历史文本词序列进行匹配，得到匹配词汇集合和差异词汇集合，其中，差异词汇集合包括搜索文本差异词汇集合和历史文本差异词汇集合。

根据本公开的实施例，可以对搜索文本词序列和历史文本词序列进行公共词匹配，将匹配得到的两个词序列中公共的词汇作为匹配词，确定匹配词汇集合(match_tokens)，将匹配得到的两个词序列中各自独有的词汇作为差异词，确定搜索文本差异词汇集合(user_dif_tokens)和历史文本差异词汇集合(local_dif_tokens)。

根据本公开的实施例，通过对初始搜索文本和初始历史文本分别进行分词和预处理，然后对经预处理后得到的搜索文本词序列和历史文本词序列进行匹配，得到匹配词汇集合和差异词汇集合，可以提取得到用户输入的初始搜索文本和本地的初始历史文本之间的匹配词和差异词，以便后续进行文本嵌入判别等操作。

图4示意性示出了根据本公开实施例的分词处理方法的示意图。

如图4所示，例如，当文本为“研究生活很充实”时，通过词格图切割方法，可以将该文本切分为“研究”、“生活”、“充实”、“研究生”等词。

根据本公开的实施例，可以按照词格图的切割方法，对初始搜索文本(user_question)和初始历史文本(local_question)进行分词处理。

图5示意性示出了根据本公开实施例的文本处理方法的整体流程图。

根据本公开的实施例，匹配词汇集合包括搜索文本词序列和历史文本词序列中匹配的匹配词汇，搜索文本差异词汇集合包括搜索文本词序列中与历史文本词序列不匹配的第一差异词汇，历史文本差异词汇集合包括历史文本词序列中与搜索文本词序列不匹配的第二差异词汇；

根据初始搜索文本和初始历史文本，获取网络知识文本包括：根据匹配词汇、第一差异词汇和第二差异词汇中的每个目标词汇，分别获取网络知识文本。网络知识文本包括与目标词汇对应的一个或多个词义文本。在网络知识文本包括一个词义文本的情况下，构建单义词汇表，单义词汇表用于表征至少一个目标词汇与一个词义文本的对应关系。在网络知识文本包括多个词义文本的情况下，构建多义词汇表，多义词汇表用于表征至少一个目标词汇与多个词义文本的对应关系。

根据本公开的实施例，词义文本可以用于解释目标词汇的文本描述。

根据本公开的实施例，可以预先确定目标词汇在网络平台上是否可查，并爬取可查的目标词汇的词义文本。

根据本公开的实施例，可以在爬取到一个词义文本时，构建目标词汇和词义的单义词汇表(semantic_1V1)；在爬取到多个词义文本时，构建目标词汇和词义的多义词汇表(semantic_1VN)。

如图5所示，可以根据初始搜索文本501确定本地历史文本数据库中与所述初始搜索文本具有关联关系的初始历史文本502，然后根据初始搜索文本501和初始历史文本502得到匹配词汇集合503、搜索文本差异词汇集合504和历史文本差异词汇集合505后，可以基于上述词汇集合中的每个目标词汇，分别获取网络知识文本，并根据网络知识文本分别构建单义词汇表506和多义词汇表507。

根据本公开的实施例，在利用网络知识文本，分别对初始搜索文本和初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本之前：

根据单义词汇表、多义词汇表、匹配词汇集合和差异词汇集合，确定词义类别。词义类别包括单义匹配词汇集合、多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合。

如图5所示，可以基于匹配词汇集合503、搜索文本差异词汇集合504、历史文本差异词汇集合505、单义词汇表506和多义词汇表507确定词义类别，以便后续根据词义类别进行网络知识文本嵌入处理，并根据嵌入处理得到的目标搜索文本508和目标历史文本509确定与相似概率值最高的目标历史文本509对应的目标文本5010。

根据本公开的实施例，通过分别基于匹配词汇、第一差异词汇和第二差异词汇获取网络知识文本，然后根据网络知识文本中的词义文本数量分别构建单义词汇表和多义词汇表。通过上述技术手段，可以针对用户输入搜索文本的网络化和口语化，以及构建专业性的外部知识成本较高的技术问题，获取得到每个词汇对应的网络知识词义文本，以便后续在初始搜索文本和初始历史文本中引入网络知识文本，从而扩充文本的上下文信息。

图6(a)～图6(f)示意性示出了根据本公开实施例的词义嵌入判别的示意图。

根据本公开的实施例，将一个或多个词义文本和初始搜索文本输入预先训练完成的语义编码模型，得到搜索文本相似度结果。将一个或多个词义文本和初始历史文本输入预先训练完成的语义编码模型，得到历史文本相似度结果。根据预设阈值，基于搜索文本相似度结果和历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合。

根据本公开的实施例，可以预先确定匹配词集合中的词汇是否为单义词汇，若为单义词汇，可以认为初始搜索文本和初始历史文本嵌入了相同的词义文本，可以将该词义文本确定为冗余词义并进行过滤。

根据本公开的实施例，可以选取BERT模型作为语义编码模型，分别对初始搜索文本和初始历史文本，以及多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合中的词义文本进行语义的向量表示，并计算词义文本和初始搜索文本、初始历史文本的语义相似度。通过预设阈值(θ)确定搜索文本词义集合(user_semantic)和历史文本词义集合(local_semantic)。

根据本公开的实施例，根据预设阈值，基于搜索文本相似度结果和历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合包括：

响应于搜索文本相似度结果大于预设阈值，根据多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合，确定搜索文本单义匹配词词义集合、搜索文本多义匹配词词义集合、搜索文本单义差异词词义集合和搜索文本多义差异词词义集合。响应于历史文本相似度结果大于预设阈值，根据多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合，确定历史文本单义匹配词词义集合、历史文本多义匹配词词义集合、历史文本单义差异词词义集合和历史文本多义差异词词义集合。

如图6(a)所示，对于多义匹配词汇集合，可以将每个词义文本(word_semantic)分别与初始搜索文本(user_question)和初始历史文本(local_question)进行语义相似度计算。若词义文本(word_semantic)和初始搜索文本(user_question)的相似度大于预设阈值，则可以确定搜索文本匹配词词义集合(user_match_semantic)；若词义文本(word_semantic)和初始历史文本(local_question)的相似度大于预设阈值，则可以确定历史文本匹配词词义集合(local_match_semantic)。

如图6(b)所示，可以在阈值判断后，根据每个词汇对应保留的词义文本的数量，将搜索文本匹配词词义集合(user_match_semantic)确定为搜索文本单义匹配词词义集合(user_match_semantic_1V1)和搜索文本多义匹配词词义集合(user_match_semantic_1VN)。

如图6(c)所示，可以在阈值判断后，根据每个词汇对应保留的词义文本的数量，将历史文本匹配词词义集合(local_match_semantic)确定为历史文本单义匹配词词义集合(local_match_semantic_1V1)和历史文本多义匹配词词义集合(local_match_semantic_1VN)。

如图6(d)所示，对于多义差异词汇集合，可以将每个词义文本(word_semantic)分别与初始搜索文本(user_question)和初始历史文本(local_question)进行语义相似度计算。若词义文本(word_semantic)和初始搜索文本(user_question)的相似度大于预设阈值，则可以确定搜索文本差异词词义集合(user_dif_semantic)；若词义文本(word_semantic)和初始历史文本(local_question)的相似度大于预设阈值，则可以确定历史文本匹配词词义集合(local_dif_semantic)。

如图6(e)所示，可以在阈值判断后，根据每个词汇对应保留的词义文本的数量，将搜索文本差异词词义集合(user_dif_semantic)确定为搜索文本单义差异词词义集合(user_dif_semantic_1V1)和搜索文本多义差异词词义集合(user_dif_semantic_1VN)。

如图6(f)所示，可以在阈值判断后，根据每个词汇对应保留的词义文本的数量，将历史文本差异词词义集合(local_dif_semantic)确定为历史文本单义差异词词义集合(local_dif_semantic_1V1)和历史文本多义差异词词义集合(local_dif_semantic_1VN)。

根据本公开的实施例，对于单义差异词汇集合，可以将每个词义文本(word_semantic)分别与初始搜索文本(user_question)和初始历史文本(local_question)进行语义相似度计算。若词义文本(word_semantic)和初始搜索文本(user_question)的相似度大于预设阈值，则可以添加到搜索文本单义差异词词义集合(user_dif_semantic_1V1)。若词义文本(word_semantic)和初始历史文本(user_question)的相似度大于预设阈值，则可以添加到历史文本单义差异词词义集合(local_dif_semantic_1V1)。

根据本公开的实施例，通过利用语义编码模型得到的搜索文本相似度结果和历史文本相似度结果，分别确定搜索文本词义集合和历史文本词义集合，通过相似度判别可以减少深度语义编码中冗余信息的干扰，实现基于深度语义理解技术提取关键语义，以便后续将精简和转换后的网络知识嵌入到搜索文本和历史文本中，从而提高匹配效果。

图7示意性示出了根据本公开实施例的文本嵌入类别的示意图。

根据本公开的实施例，文本嵌入处理包括嵌入类别，文本处理方法还包括：

在词义类别为多义匹配词义集合的情况下，确定嵌入类别为排列嵌入。在词义类别为单义差异词义集合的情况下，确定嵌入类别为固定嵌入。在词义类别为多义差异词义集合的情况下，确定嵌入类别为组合嵌入。

根据本公开的实施例，可以根据词义类别，通过排列、固定和组合的方式将词义文本分别嵌入到初始搜索文本和初始历史文本中，得到多个目标搜索文本(new_user_questions)和目标历史文本(new_local_questions)。

如图7所示，例如，可以分别对初始搜索文本701和搜索文本单义差异词词义集合702，以及历史文本单义差异词词义集合703和初始历史文本704进行固定嵌入。可以对搜索文本多义匹配词词义集合705和历史文本多义匹配词词义集合706进行排列嵌入。可以对搜索文本多义差异词词义集合707和历史文本多义差异词词义集合708进行组合嵌入，以便得到目标搜索文本709和目标历史文本7010。

根据本公开的实施例，通过基于词义类别确定文本嵌入处理的嵌入类别，并通过排列嵌入、固定嵌入和组合嵌入分别将对应的词义文本嵌入到初始搜索文本和初始历史文本中，提高了网络知识词义文本在搜索文本和历史文本中的融合效果，扩充了搜索文本和历史文本的上下文信息，实现了语义上下文信息扩充的实时性和领域性。

根据本公开的实施例，根据目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本包括：

将目标搜索文本和目标历史文本输入预先训练完成的语义匹配模型，得到匹配结果。根据匹配结果对目标历史文本进行排序，得到排序结果。根据排序结果，确定与目标历史文本对应的目标文本。

根据本公开的实施例，可以选取KBERT模型作为语义匹配模型，针对基于不同文本嵌入类别处理后得到的目标搜索文本和目标历史文本进行语义匹配。

根据本公开的实施例，KBERT模型在网络结构中设计了软位置和可见矩阵，软位置可以缓解外部知识嵌入对原始句子结构破坏的影响，可见矩阵可以避免噪声知识对句子整体语义的影响。

根据本公开的实施例，可以根据目标搜索文本和目标历史文本的相似概率值进行排序，并将相似概率值最高的目标搜索文本和目标历史文本作为初始搜索文本和参数历史文本的语义匹配结果，然后可以确定与该目标历史文本对应的目标文本，该目标文本可以作为初始搜索文本的答案。

根据本公开的实施例，通过利用语义匹配模型得到嵌入网络知识的目标搜索文本和目标历史文本的相似概率值，可以将相似概率值最高的本地历史文本作为用户搜索文本最相似的语义匹配结果，并可以将与本地历史文本对应的目标文本确定为用户搜索文本的答案，提高了用户搜索文本与本地历史文本的匹配效果。

图8示意性示出了根据本公开的实施例的文本处理装置的框图。

如图8所示，文本处理装置800包括第一确定模块801、获取模块802、处理模块803和第二确定模块804。

第一确定模块801，用于响应于接收到初始搜索文本，根据初始搜索文本，从历史文本数据库中确定与初始搜索文本具有关联关系的初始历史文本，其中，历史文本数据库包括至少一个历史文本和至少一个匹配文本，至少一个历史文本和至少一个匹配文本一一对应。

获取模块802，用于根据初始搜索文本和初始历史文本，获取网络知识文本。

处理模块803，用于利用网络知识文本，分别对初始搜索文本和初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本。

第二确定模块804，用于根据目标搜索文本和目标历史文本，确定与目标历史文本对应的目标文本。

根据本公开的实施例，通过根据初始搜索文本确定初始历史文本，并基于初始搜索文本和初始历史文本获取网络知识文本，然后通过文本嵌入处理得到目标搜索文本和目标历史文本，并确定与目标历史文本对应的目标文本。通过上述技术手段，至少部分地克服了相关技术中在基于短文本匹配技术的应用场景下，由于用户搜索文本的网络化和口语化，以及构建结构化的外部知识所耗费的成本较高，使得用户体验较差的技术问题，进而提高了文本匹配效果。

根据本公开的实施例，文本处理装置800还包括分词模块、预处理模块和匹配模块。

分词模块，用于对初始搜索文本和初始历史文本分别进行分词处理，得到初始搜索文本词序列和初始历史文本词序列。

预处理模块，用于对初始搜索文本词序列和初始历史文本词序列进行预处理，得到经预处理的搜索文本词序列和历史文本词序列，其中，预处理包括停用词过滤和标点符号过滤中的至少一个。

匹配模块，用于将经预处理的搜索文本词序列和历史文本词序列进行匹配，得到匹配词汇集合和差异词汇集合，其中，差异词汇集合包括搜索文本差异词汇集合和历史文本差异词汇集合。

根据本公开的实施例，匹配词汇集合包括搜索文本词序列和历史文本词序列中匹配的匹配词汇，搜索文本差异词汇集合包括搜索文本词序列中与历史文本词序列不匹配的第一差异词汇，历史文本差异词汇集合包括历史文本词序列中与搜索文本词序列不匹配的第二差异词汇。

根据本公开的实施例，获取模块802包括获取单元、第一构建单元和第二构建单元。

获取单元，用于根据匹配词汇、第一差异词汇和第二差异词汇中的每个目标词汇，分别获取网络知识文本，其中，网络知识文本包括与目标词汇对应的一个或多个词义文本。

第一构建单元，用于在网络知识文本包括一个词义文本的情况下，构建单义词汇表，其中，单义词汇表用于表征至少一个目标词汇与一个词义文本的对应关系。

第二构建单元，用于在网络知识文本包括多个词义文本的情况下，构建多义词汇表，其中，多义词汇表用于表征至少一个目标词汇与多个词义文本的对应关系。

根据本公开的实施例，文本处理装置800还包括第三确定模块。

第三确定模块，用于根据单义词汇表、多义词汇表、匹配词汇集合和差异词汇集合，确定词义类别，其中，词义类别包括单义匹配词汇集合、多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合。

根据本公开的实施例，文本处理装置800还包括：第一编码模块、第二编码模块和第四确定模块。

第一编码模块，用于将一个或多个词义文本和初始搜索文本输入预先训练完成的语义编码模型，得到搜索文本相似度结果。

第二编码模块，用于将一个或多个词义文本和初始历史文本输入预先训练完成的语义编码模型，得到历史文本相似度结果。

第四确定模块，用于根据预设阈值，基于搜索文本相似度结果和历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合。

根据本公开的实施例，第四确定模块包括第一确定单元和第二确定单元。

第一确定单元，用于响应于搜索文本相似度结果大于预设阈值，根据多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合，确定搜索文本单义匹配词词义集合、搜索文本多义匹配词词义集合、搜索文本单义差异词词义集合和搜索文本多义差异词词义集合。

第二确定单元，用于响应于历史文本相似度结果大于预设阈值，根据多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合，确定历史文本单义匹配词词义集合、历史文本多义匹配词词义集合、历史文本单义差异词词义集合和历史文本多义差异词词义集合。

根据本公开的实施例，文本嵌入处理包括嵌入类别，文本处理装置800还包括第五确定模块、第六确定模块和第七确定模块。

第五确定模块，用于在词义类别为多义匹配词义集合的情况下，确定嵌入类别为排列嵌入。

第六确定模块，用于在词义类别为单义差异词义集合的情况下，确定嵌入类别为固定嵌入。

第七确定模块，用于在词义类别为多义差异词义集合的情况下，确定嵌入类别为组合嵌入。

根据本公开的实施例，第二确定模块804包括匹配单元、排序单元和第三确定单元。

匹配单元，用于将目标搜索文本和目标历史文本输入预先训练完成的语义匹配模型，得到匹配结果。

排序单元，用于根据匹配结果对目标历史文本进行排序，得到排序结果。

第三确定单元，用于根据排序结果，确定与目标历史文本对应的目标文本。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，第一确定模块801、获取模块802、处理模块803和第二确定模块804中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，第一确定模块801、获取模块802、处理模块803和第二确定模块804中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一确定模块801、获取模块802、处理模块803和第二确定模块804中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

需要说明的是，本公开的实施例中文本处理装置部分与本公开的实施例中文本处理方法部分是相对应的，文本处理装置部分的描述具体参考文本处理方法部分，在此不再赘述。

图9示意性示出了根据本公开实施例的适于实现文本处理方法的电子设备的框图。图9示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图9所示，根据本公开实施例的计算机电子设备900包括处理器901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分909加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 903中，存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备900还可以包括输入/输出(I/O)接口905，输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的文本处理方法。

在该计算机程序被处理器901执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分909被下载和安装，和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种文本处理方法，包括：

响应于接收到初始搜索文本，根据所述初始搜索文本，从历史文本数据库中确定与所述初始搜索文本具有关联关系的初始历史文本，其中，所述历史文本数据库包括至少一个历史文本和至少一个匹配文本，所述至少一个历史文本和所述至少一个匹配文本一一对应；

根据所述初始搜索文本和所述初始历史文本，获取网络知识文本；

利用所述网络知识文本，分别对所述初始搜索文本和所述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；以及

根据所述目标搜索文本和所述目标历史文本，确定与所述目标历史文本对应的目标文本。

2.根据权利要求1所述的方法，还包括，在所述响应于接收到初始搜索文本，根据所述初始搜索文本，从历史文本数据库中确定与所述初始搜索文本具有关联关系的初始历史文本之后：

对所述初始搜索文本和所述初始历史文本分别进行分词处理，得到初始搜索文本词序列和初始历史文本词序列；

对所述初始搜索文本词序列和所述初始历史文本词序列进行预处理，得到经预处理的搜索文本词序列和历史文本词序列，其中，所述预处理包括停用词过滤和标点符号过滤中的至少一个；以及

将所述经预处理的搜索文本词序列和历史文本词序列进行匹配，得到匹配词汇集合和差异词汇集合，其中，所述差异词汇集合包括搜索文本差异词汇集合和历史文本差异词汇集合。

3.根据权利要求2所述的方法，其中，所述匹配词汇集合包括所述搜索文本词序列和所述历史文本词序列中匹配的匹配词汇，所述搜索文本差异词汇集合包括所述搜索文本词序列中与所述历史文本词序列不匹配的第一差异词汇，所述历史文本差异词汇集合包括所述历史文本词序列中与所述搜索文本词序列不匹配的第二差异词汇；

所述根据所述初始搜索文本和所述初始历史文本，获取网络知识文本包括：

根据所述匹配词汇、所述第一差异词汇和所述第二差异词汇中的每个目标词汇，分别获取所述网络知识文本，其中，所述网络知识文本包括与所述目标词汇对应的一个或多个词义文本；

在所述网络知识文本包括一个所述词义文本的情况下，构建单义词汇表，其中，所述单义词汇表用于表征至少一个所述目标词汇与一个所述词义文本的对应关系；以及

在所述网络知识文本包括多个所述词义文本的情况下，构建多义词汇表，其中，所述多义词汇表用于表征至少一个所述目标词汇与多个所述词义文本的对应关系。

4.根据权利要求3所述的方法，还包括，在所述利用所述网络知识文本，分别对所述初始搜索文本和所述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本之前：

根据所述单义词汇表、所述多义词汇表、所述匹配词汇集合和所述差异词汇集合，确定词义类别，其中，所述词义类别包括单义匹配词汇集合、多义匹配词汇集合、单义差异词汇集合和多义差异词汇集合。

5.根据权利要求4所述的方法，还包括：

将一个或多个所述词义文本和所述初始搜索文本输入预先训练完成的语义编码模型，得到搜索文本相似度结果；

将一个或多个所述词义文本和所述初始历史文本输入所述预先训练完成的语义编码模型，得到历史文本相似度结果；以及

根据预设阈值，基于所述搜索文本相似度结果和所述历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合。

6.根据权利要求5所述的方法，其中，所述根据预设阈值，基于所述搜索文本相似度结果和所述历史文本相似度结果，确定搜索文本词义集合和历史文本词义集合包括：

响应于所述搜索文本相似度结果大于所述预设阈值，根据所述多义匹配词汇集合、所述单义差异词汇集合和所述多义差异词汇集合，确定搜索文本单义匹配词词义集合、搜索文本多义匹配词词义集合、搜索文本单义差异词词义集合和搜索文本多义差异词词义集合；

响应于所述历史文本相似度结果大于所述预设阈值，根据所述多义匹配词汇集合、所述单义差异词汇集合和所述多义差异词汇集合，确定历史文本单义匹配词词义集合、历史文本多义匹配词词义集合、历史文本单义差异词词义集合和历史文本多义差异词词义集合。

7.根据权利要求3至6中任一项所述的方法，其中，所述文本嵌入处理包括嵌入类别，所述方法还包括：

在所述词义类别为多义匹配词义集合的情况下，确定所述嵌入类别为排列嵌入；

在所述词义类别为单义差异词义集合的情况下，确定所述嵌入类别为固定嵌入；以及

在所述词义类别为多义差异词义集合的情况下，确定所述嵌入类别为组合嵌入。

8.根据权利要求1至6中任一项所述的方法，其中，所述根据所述目标搜索文本和所述目标历史文本，确定与所述目标历史文本对应的目标文本包括：

将所述目标搜索文本和所述目标历史文本输入预先训练完成的语义匹配模型，得到匹配结果；

根据所述匹配结果对所述目标历史文本进行排序，得到排序结果；以及

根据所述排序结果，确定与所述目标历史文本对应的目标文本。

9.一种文本处理装置，包括：

第一确定模块，用于响应于接收到初始搜索文本，根据所述初始搜索文本，从历史文本数据库中确定与所述初始搜索文本具有关联关系的初始历史文本，其中，所述历史文本数据库包括至少一个历史文本和至少一个匹配文本，所述至少一个历史文本和所述至少一个匹配文本一一对应；

获取模块，用于根据所述初始搜索文本和所述初始历史文本，获取网络知识文本；

处理模块，用于利用所述网络知识文本，分别对所述初始搜索文本和所述初始历史文本进行文本嵌入处理，得到处理后的目标搜索文本和目标历史文本；以及

第二确定模块，用于根据所述目标搜索文本和所述目标历史文本，确定与所述目标历史文本对应的目标文本。

10.一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个指令，

其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至8中任一项所述的方法。

11.一种计算机可读存储介质，其上存储有可执行指令，所述可执行指令被处理器执行时使处理器实现权利要求1至8中任一项所述的方法。

12.一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述计算机可执行指令在被执行时用于实现权利要求1至8中任一项所述的方法。

Images