CN113392180A - 文本处理方法、装置、设备及存储介质 - Google Patents

文本处理方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113392180A
CN113392180A CN202110017491.0A CN202110017491A CN113392180A CN 113392180 A CN113392180 A CN 113392180A CN 202110017491 A CN202110017491 A CN 202110017491A CN 113392180 A CN113392180 A CN 113392180A
Authority
CN
China
Prior art keywords
feature vector
target
text
distribution
texts
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110017491.0A
Other languages
English (en)
Inventor
欧子菁
赵瑞辉
林民龙
苏勤亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110017491.0A priority Critical patent/CN113392180A/zh
Publication of CN113392180A publication Critical patent/CN113392180A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种文本处理方法、装置、设备及存储介质，属于人工智能技术领域。本申请实施例引入了文本之间的关联关系信息，能够表征出文本之间的关联关系，从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，这样对于文本内容或者具有关联关系的文本的目标特征向量则会比较接近，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。

Description

文本处理方法、装置、设备及存储介质
技术领域
本申请涉及人工智能技术领域，特别涉及一种文本处理方法、装置、设备及存储介质。
背景技术
随着计算机技术发展，在很多场景中会需要通过对文本进行相似度比较，然后确定出与某个文本相似的其它文本的情况。通过人工智能技术，对文本进行相似性搜索，能够根据文本在大规模数据库中找到最相似的项。
目前，文本处理方法通常是对文本进行分词，然后对其进行嵌入处理，得到文本的嵌入向量，进而后续通过计算两个文本的嵌入向量之间的距离，来确定两个文本的相似度。上述方法中仅考虑到了文本的语义特征，且两个文本的嵌入向量仅能简单描述文本分词得到的单词，体现的语义也比较弱，因而上述文本处理方法中，嵌入向量并不能很好的表征文本，因而并不能准确确定两个文本的相似度，处理结果的准确性较差。
发明内容
本申请实施例提供了一种文本处理方法、装置、设备及存储介质，能够达到提高文本处理的准确性。所述技术方案如下：
一方面，提供了一种文本处理方法，所述方法包括：
获取目标文本；
获取所述目标文本的语义特征向量；
获取语义特征向量条件下目标特征向量的条件分布，所述条件分布基于目标特征向量的先验分布联合所述至少两个样本文本的语义特征向量训练得到，所述先验分布为基于所述至少两个样本文本之间的关联关系信息得到的目标特征向量的分布；
基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
在一些实施例中，所述目标特征向量包括至少两个元素；所述对所述目标文本的目标特征向量进行哈希编码，得到所述目标文本的哈希码，包括：
响应于所述目标特征向量中任一元素大于所述元素对应的阈值，将所述元素对应的哈希码确定为第一数值；所述阈值为所述至少两个样本文本的目标特征向量中所述元素的中位数；
响应于所述目标特征向量中任一元素小于或等于所述元素对应的阈值，将所述元素对应的哈希码确定为第二数值。
一方面，提供了一种文本处理方法，所述方法包括：
获取至少两个样本文本和所述至少两个样本文本的语义特征向量；
基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息；
基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；
基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
一方面，提供了一种文本处理装置，所述装置包括：
获取模块，用于获取目标文本；
所述获取模块，还用于获取所述目标文本的语义特征向量；
所述获取模块，还用于获取语义特征向量条件下目标特征向量的条件分布，所述条件分布基于目标特征向量的先验分布联合所述至少两个样本文本的语义特征向量训练得到，所述先验分布为基于所述至少两个样本文本之间的关联关系信息得到的目标特征向量的分布；
确定模块，用于基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
在一些实施例中，所述语义特征向量条件下目标特征向量的条件分布基于下述过程得到：获取至少两个样本文本和所述至少两个样本文本的语义特征向量；基于所述至少两个样本文本之间的引用关系或所述至少样本两个文本之间的相似度，获取所述至少两个文本样本之间的关联关系信息；基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息，包括下述任一项：
获取所述至少两个样本文本之间的引用关系；基于所述引用关系，获取所述至少两个样本文本之间的关联关系信息；
获取所述至少两个样本文本的嵌入向量；基于所述至少两个样本文本的嵌入向量中任一位置上的嵌入向量与所述位置的上下文向量，确定所述至少两个样本文本的特征向量；对所述至少两个样本文本的特征向量进行对比，得到所述至少两个样本文本之间的相似度；基于所述相似度，获取所述至少两个样本文本之间的关联关系信息。
在一些实施例中，所述至少两个样本文本之间的关联关系信息为关联矩阵；所述关联矩阵中的一个元素用于指示两个样本文本之间的关联关系信息；
所述获取所述至少两个样本文本之间的引用关系，包括：响应于第一样本文本与第二样本文本之间存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为非零数值；响应于第一样本文本与第二样本文本之间不存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为0。
在一些实施例中，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：基于所述目标特征向量的先验分布，获取第一初始条件分布和第二初始条件分布，所述第一初始条件分布为语义特征向量条件下目标特征向量的条件分布，所述第二初始条件分布为目标特征向量条件下语义特征向量的条件分布；基于所述至少两个样本文本的语义特征向量，从所述第一初始条件分布，确定所述语义特征向量对应的均值、协方差；从所述第一初始条件分布中采样得到所述语义特征向量对应的候选目标特征向量；基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；基于所述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止，得到第一条件分布和第二条件分布，所述第一条件分布为所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布，包括：基于所述至少两个样本文本之间的关联关系信息，生成图数据，所述图数据包括至少两个文本节点以及文本节点之间的边，其中一个文本节点对应一个样本文本，任两个文本节点之间的边用于指示所述两个文本节点对应的两个样本文本之间的关联关系信息为非零数值；基于所述图数据，获取所述图数据对应的生成树；基于所述生成树，获取所述目标特征向量的先验分布，所述目标特征向量的先验分布为任意两个样本文本的目标特征向量的联合分布。
在一些实施例中，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：基于所述目标特征向量的先验分布，获取所述至少两个样本文本中任意两个样本文本的目标特征向量的第一初始条件分布和第二初始条件分布；基于所述任意两个样本文本的语义特征向量，确定所述任意两个样本文本之间的关联程度；基于任意两个样本文本的语义特征向量、所述关联程度、所述第一初始条件分布，确定所述任意两个样本文本的语义特征向量对应的均值、协方差、候选目标特征向量；基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；基于所述任意两个样本文本的语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止。
在一些实施例中，所述目标特征向量的确定过程基于向量生成模型实现；所述向量生成模型基于对所述条件分布建模得到；
所述获取模块用于获取向量生成模型；
所述确定模块用于将所述目标文本的语义特征向量输入所述向量生成模型，由所述向量生成模型基于模型参数，从所述条件分布中，确定所述语义特征向量对应的均值，输出所述均值作为所述目标文本的目标特征向量。
在一些实施例中，所述获取模块用于执行下述任一项：
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词，获取所述目标文本包括的单词进行独热编码，得到所述目标文本包括的单词的独热向量，将所述目标文本包括的单词的独热向量作为所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词在所述目标文本中的出现频率，以及所述单词在语料库中的逆向文件频率，确定所述目标文本包括的单词的权重；基于所述权重和所述目标文本包括的单词，获取所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；确定所述目标文本包括的单词的词向量；将所述目标文本包括的单词的词向量作为所述目标文本的语义特征向量。
在一些实施例中，所述装置还包括：
编码模块，用于对所述目标文本的目标特征向量进行哈希编码，得到所述目标文本的哈希码；
对比模块，用于对所述哈希码与其他文本的哈希码进行对比，确定所述目标文本与所述其他文本的相似度。
一方面，提供了一种文本处理装置，所述装置包括：
向量获取模块，用于获取至少两个样本文本和所述至少两个样本文本的语义特征向量；
信息获取模块，还用于基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息；
分布获取模块，用于基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；
所述分布获取模块，用于基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述向量获取模块还用于响应于目标文本的向量获取指令，获取所述目标文本的语义特征向量；
所述装置还包括：
向量生成模块，用于基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
一方面，提供了一种电子设备，所述电子设备包括一个或多个处理器和一个或多个存储器，所述一个或多个存储器中存储有至少一条计算机程序，所述至少一条计算机程序由所述一个或多个处理器加载并执行以实现上述文本处理方法的各种可选实现方式。
一方面，提供了一种计算机可读存储介质，所述存储介质中存储有至少一条计算机程序，所述至少一条计算机程序由处理器加载并执行以实现上述文本处理方法的各种可选实现方式。
一个方面，提供了一种计算机程序产品或计算机程序，所述计算机程序产品或所述计算机程序包括一条或多条计算机程序，所述一条或多条计算机程序存储在计算机可读存储介质中。电子设备的一个或多个处理器能够从计算机可读存储介质中读取所述一条或多条计算机程序，所述一个或多个处理器执行所述一条或多条计算机程序，使得电子设备能够执行上述任一种可能实施方式的文本处理方法。
本申请实施例引入了文本之间的关联关系信息，以该文本之间的关联关系信息能够表征出文本之间的关联关系，从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，这样对于文本内容或者具有关联关系的文本的目标特征向量则会比较接近，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还能够根据这些附图获得其他的附图。
图1是本申请实施例提供的一种文本处理方法的实施环境的示意图；
图2是本申请实施例提供的一种终端界面图；
图3是本申请实施例提供的一种终端界面图；
图4是本申请实施例提供的一种文本处理方法的应用场景示意图；
图5是本申请实施例提供的一种文本处理方法的应用场景示意图；
图6是本申请实施例提供的一种文本处理方法的流程图；
图7是本申请实施例提供的一种文本处理方法的流程图；
图8是本申请实施例提供的一种文本处理方法的流程图；
图9是本申请实施例提供的一种证据下界的示意图；
图10是本申请实施例提供的一种文本处理方法的流程图；
图11是本申请实施例提供的一种文本处理装置的结构示意图；
图12是本申请实施例提供的一种文本处理装置的结构示意图；
图13是本申请实施例提供的一种电子设备的结构示意图；
图14是本申请实施例提供的一种终端的结构框图；
图15是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
本申请中术语“第一”“第二”等字样用于对作用和功能基本相同的相同项或相似项进行区分，应理解，“第一”、“第二”、“第n”之间不具有逻辑或时序上的依赖关系，也不对数量和执行顺序进行限定。还应理解，尽管以下描述使用术语第一、第二等来描述各种元素，但这些元素不应受术语的限制。这些术语只是用于将一元素与另一元素区别分开。例如，在不脱离各种所述示例的范围的情况下，第一图像能够被称为第二图像，并且类似地，第二图像能够被称为第一图像。第一图像和第二图像都能够是图像，并且在某些情况下，能够是单独且不同的图像。
本申请中术语“至少一个”的含义是指一个或多个，本申请中术语“多个”的含义是指两个或两个以上，例如，多个数据包是指两个或两个以上的数据包。
应理解，在本文中对各种所述示例的描述中所使用的术语只是为了描述特定示例，而并非旨在进行限制。如在对各种所述示例的描述和所附权利要求书中所使用的那样，单数形式“一个(“a”“an”)”和“该”旨在也包括复数形式，除非上下文另外明确地指示。
还应理解，本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。术语“和/或”，是一种描述关联对象的关联关系，表示能够存在三种关系，例如，A和/或B，能够表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本申请中的字符“/”，一般表示前后关联对象是一种“或”的关系。
还应理解，在本申请的各个实施例中，各个过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
还应理解，根据A确定B并不意味着仅仅根据A确定B，还能够根据A和/或其它信息确定B。
还应理解，术语“包括”(也称“inCludes”、“inCluding”、“Comprises”和/或“Comprising”)当在本说明书中使用时指定存在所陈述的特征、整数、步骤、操作、元素、和/或部件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元素、部件、和/或其分组。
还应理解，术语“如果”可被解释为意指“当...时”(“when”或“upon”)或“响应于确定”或“响应于检测到”。类似地，根据上下文，短语“如果确定...”或“如果检测到[所陈述的条件或事件]”可被解释为意指“在确定...时”或“响应于确定...”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
下面对本申请涉及到的名词进行说明。
语义哈希：指将高维空间向量映射至低维汉明空间,并保持原空间向量相似性,使得新空间向量的汉明距离反映原空间向量相似度的哈希算法。
汉明距离：两个字码中不同位值的数目称为汉明距离。可以对两个字码进行异或运算，并统计结果为1的个数，那么这个数就是汉明距离。
变分推断：一类用于逼近贝叶斯推理和机器学习中出现的难处理积分的技术。
相似性搜索，又称最近邻搜索，其目的是根据用户查询语句在大规模数据库中找到最相似的项。它在大规模的数据检索中有着重要的应用。
本申请实施例提供的文本处理方法涉及到人工智能技术领域，下面对人工智能相关技术进行说明。
人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
自然语言处理(Nature Language processing，NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日常使用的语言，所以它与语言学的研究有着密切的联系。自然语言处理技术通常包括文本处理、语义理解、机器翻译、机器人问答、知识图谱等技术。
机器学习(Machine Learning，ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
自动驾驶技术通常包括高精地图、环境感知、行为决策、路径规划、运动控制等技术，自定驾驶技术有着广泛的应用前景，
随着人工智能技术研究和进步，人工智能技术在多个领域展开研究和应用，例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等，相信随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。
本申请实施例提供的方案涉及人工智能的自然语言处理中文本处理、语义理解和机器学习等技术，具体通过如下实施例进行说明。
下面对本申请的实施环境进行说明。
图1是本申请实施例提供的一种文本处理方法的实施环境的示意图。该实施环境包括终端101，或者该实施环境包括终端101和文本处理平台102。终端101通过无线网络或有线网络与文本处理平台102相连。
终端101能够是智能手机、游戏主机、台式计算机、平板电脑、电子书阅读器、MP3(MovingPictureExpertsGroupAudioLayerIII，动态影像专家压缩标准音频层面3)播放器或MP4(MovingPictureExpertsGroupAudioLayerIV，动态影像专家压缩标准音频层面4)播放器，膝上型便携计算机，智能机器人，自助支付设备中的至少一种。终端101安装和运行有支持文本处理的应用程序，例如，该应用程序能够是系统应用、即时通讯应用、新闻推送应用、购物应用、在线视频应用、社交应用。
示例性地，该终端101能够具有图像采集功能和图像处理功能，能够对采集到的图像进行处理，并根据处理结果执行相应的功能。该终端101能够独立完成该工作，也能够通过文本处理平台102为其提供数据服务。本申请实施例对此不作限定。
文本处理平台102包括一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。文本处理平台102用于为支文本处理的应用程序提供后台服务。可选地，文本处理平台102承担主要处理工作，终端101承担次要处理工作；或者，文本处理平台102承担次要处理工作，终端101承担主要处理工作；或者，文本处理平台102或终端101分别能够单独承担处理工作。或者，文本处理平台102和终端101两者之间采用分布式计算架构进行协同计算。
可选地，该文本处理平台102包括至少一台服务器1021以及数据库1022，该数据库1022用于存储数据，在本申请实施例中，该数据库1022中能够存储有样本文本或向量生成模型，为至少一台服务器1021提供数据服务。
服务器能够是独立的物理服务器，也能够是多个物理服务器构成的服务器集群或者分布式系统，还能够是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端能够是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等，但并不局限于此。
本领域技术人员能够知晓，上述终端101、服务器1021的数量能够更多或更少。比如上述终端101、服务器1021能够仅为一个，或者上述终端101、服务器1021为几十个或几百个，或者更多数量，本申请实施例对终端或服务器的数量和设备类型不加以限定。
下面对本申请的应用场景进行说明。
本申请实施例提供的文本处理方法可以应用于多种文本处理场景中。该文本处理场景可以为文本检索场景，也可以为文本识别场景，还可以为智能家居应用场景，或者其他涉及到确定文本之间相似度的场景。本申请实施例对该文本处理方法的具体应用场景不作限定。
在一些实施例中，该文本处理场景可以应用于文本检索场景中，用户可以在检索输入框中输入待检索的文本，也即是目标文本，电子设备可以在检索界面中显示该目标文本，并对该目标文本进行处理，确定出该目标文本的目标特征向量，以该目标特征向量与其他文本的目标特征向量进行比较，确定该目标文本与其他文本的相似度，进而在检索界面的文本检索结果显示区域中，显示相似度大于阈值的其它文本。在以目标特征向量进行比较时，可以将其转化为哈希码，来比较两个文本的哈希码。
例如，该文本处理场景可以应用于目标应用，或者目标应用的小程序或者应用服务中。该目标应用可以为社交软件，也可以为其他类型的软件。如图2所示，以某个社交软件为例，电子设备可以显示该社交软件所提供的多个应用服务201，该多个应用服务201可以分别提供不同领域的服务，例如，该多个应用服务201可以包括信用卡服务、手机充值服务、生活缴费服务、虚拟币充值服务、城市交通服务、公益服务、医疗健康服务、保险服务等。以医疗健康服务为例，如果用户需要医疗健康服务，则可以在该医疗健康服务对应的应用服务201处进行触发操作，以触发电子设备显示该医疗健康服务的检索界面301。如图3所示，在检索界面301中，用户可以在检索输入框302中输入待检索的文本“皮肤过敏应该注意什么”，也即是目标文本303，电子设备可以在检索界面301中显示该目标文本303，并对该目标文本303进行处理，确定出该目标文本303的目标特征向量，将该目标特征向量转化为哈希码，与其他文本的哈希码进行比较，确定该目标文本303与其他文本的相似度，进而在检索界面303的文本检索结果显示区域304中，显示相似度大于阈值的其它文本305。
又例如，在文本识别场景中，电子设备获取到目标文本后，确定出该目标文本的目标特征向量，用该目标特征向量与已知类别的文本的目标特征向量进行相似度确定，然后可以确定该文本的类别为相似度最高的文本所属的类别。其中，用目标特征向量进行相似度确定时，可以将目标特征向量转化为哈希码，来比较两个文本的哈希码。
如图4所示，电子设备获取到目标文本401后，确定出该目标文本的目标特征向量402，将该目标特征向量402转化为哈希码，将该哈希码与已知类别的文本403的目标特征向量转化得到的哈希码进行比较，其中该已知类别的文本403中，可以包括多个类别的文本，例如，多个类别可以包括类别1、类别2、类别3、…、类别j，j大于3。每个类别对应多个文本，每种类别然后可以确定该文本的类别为相似度最高的文本所属的类别404，比如，与该目标文本401的相似度最高的文本为文本a+n+2，则该目标文本401的类别为类别3。
又例如，在智能家居应用场景中，该目标文本可以由对用户发出的语音指令进行语音识别得到。例如，如图5所示，用户501发出语音信号后，可以由智能家居设备的麦克风502采集到语音信号503，并基于语音识别系统504对语音信号503进行语音识别，得到该语音信号对应的目标文本505，然后智能家居设备能够基于目标文本505与多种意图的种子语句506进行相似度确定，该相似度确定过程中，可以确定出目标文本505的目标特征向量，然后将目标文本505的目标特征向量转化为哈希码，然后将哈希码与种子语句506的哈希码进行对比。然后智能家居设备将相似度最高的种子语句对应的意图作为该目标文本505的意图507，比如意图3。
图6是本申请实施例提供的一种文本处理方法的流程图，该方法应用于电子设备中，该电子设备为终端或服务器，参见图6，该方法包括以下步骤。
601、电子设备获取目标文本。
该目标文本可以为任意形式的具有文本内容的文本，例如，该目标文本可以为语句，也可以为段落，也可以为一篇文档，该目标文本可以为任何由书写所固定下来的任何话语。
602、电子设备获取该目标文本的语义特征向量。
该语义特征向量为该目标文本的语义方面的特征向量。由于该语义特征向量用于表征该目标文本的语义，该语义特征向量可以为对目标文本的文本内容进行处理得到的特征向量，能够体现该目标文本的文本内容。
603、电子设备获取语义特征向量条件下目标特征向量的条件分布，该条件分布基于目标特征向量的先验分布联合该至少两个样本文本的语义特征向量训练得到，该先验分布为基于该至少两个样本文本之间的关联关系信息得到的目标特征向量的分布。
在此先对联合分布和条件分布进行说明。
联合分布：也称为联合分布函数(joint distribution function)或多维分布函数，随机向量的分布函数。以二维情形为例，若(X，Y)是二维随机变量，x、y是任意两个实数，则称二元函数。可以将F(x,y)＝P{(X<＝x)∩(Y<＝y)}＝>P(X<＝x,Y<＝y)称为二维随机变量(X,Y)的分布函数，或称为随机变量X和Y的联合分布。该联合分布可以记为P(X,Y)。
条件分布，对于二维随机变量(X，Y)，可以考虑在其中一个随机变量取得(可能的)固定值的条件下，另一随机变量的概率分布，这样得到的X或Y的概率分布叫做条件概率分布，简称为条件分布。例如，X条件下Y的条件分布可以表示为P(Y|X)。
在本申请实施例中，引入了文本之间的关联关系信息，以该文本之间的关联关系信息能够从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，以该条件分布为目标文本确定目标特征向量，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。
该语义特征向量条件下目标特征向量的条件分布可以提前根据样本文本训练好，在需要对目标文本进行处理时，获取训练好的该条件分布对其进行处理。该条件分布的训练过程可以参见下述图7所示实施例或图8所示实施例中条件分布的训练过程，本申请实施例在此先不做过多赘述。
604、电子设备基于该目标文本的语义特征向量，从该条件分布中，确定该语义特征向量对应的均值，将该均值作为该目标文本的目标特征向量，该目标特征向量用于与其他文本确定相似度。
该条件分布已经包括有语义特征向量条件目标特征向量的概率分布，则在得到目标文本的语义特征向量后，则可以从条件分布中确定出该语义特征向量对应的目标特征向量。
本申请实施例引入了文本之间的关联关系信息，以该文本之间的关联关系信息能够表征出文本之间的关联关系，从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，这样对于文本内容或者具有关联关系的文本的目标特征向量则会比较接近，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。
图7是本申请实施例提供的一种文本处理方法的流程图，参见图7，该方法包括以下步骤。
701、电子设备获取至少两个样本文本和所述至少两个样本文本的语义特征向量。
该语义特征向量能够表征样本文本的语义特征。
702、电子设备基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息。
不同的样本文本之间可能具有引用关系，例如，其中一个样本文本引用了另一个样本文本，将其作为参考文本。可以理解地，具有引用关系的样本文本之间具有一定的相似度，因为文本内容上具有一定的关联性，因而就有上述引用关系。以此将该引用关系为准，来确定样本文本之间的关联关系信息，能够体现出样本文本之间的关联关系。
该关联关系信息也可以通过样本文本之间的相似度确定，以相似度确定出该关联关系信息，以此来训练条件分布，后续再去确定文本的目标特征向量时，相似文本的目标特征向量则会比较相近。
703、电子设备基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布。
该先验分布能够体现出不同的样本文本之间具有的关联关系，具有关联关系的样本文本分布则会比较靠近。
704、电子设备基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
该获取条件分布的过程可以为基于样本文本训练得到条件分布的过程，该过程中结合该先验分布和语义特征向量，综合了文本本身的语义特征和文本之间的关联关系，因而，文本内容相似、具有关联关系的文本之间的目标特征向量则会比较接近。
本申请实施例引入了文本之间的关联关系信息，以该文本之间的关联关系信息能够表征出文本之间的关联关系，从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，这样对于文本内容或者具有关联关系的文本的目标特征向量则会比较接近，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。
图8是本申请实施例提供的一种文本处理方法的流程图，参见图8，该方法包括以下步骤。
801、电子设备获取至少两个样本文本和所述至少两个样本文本的语义特征向量。
在本申请实施例中，电子设备可以获取样本文本，基于样本文本，训练得到语义特征向量条件下目标特征向量的条件分布，这样基于该条件分布，能够对文本的语义特征向量直接进行处理，确定出该文本的目标特征向量。该目标特征向量用于表征该文本，这样目标特征向量能够作为该目标文本与其他文本确定相似度的依据。
该至少两个样本文本可以存储于不同位置，相应地，该电子设备可以通过不同的方式获取该至少两个样本文本。
在一些实施例中，该至少两个样本文本可以存储于文本数据库中，相应地，电子设备可以从文本数据库中提取该至少两个样本文本。例如，该文本数据库可以为语料库。
在另一些实施例中，该至少两个样本文本也可以存储于该电子设备中，相应地，电子设备可以从本地存储中提取该至少两个样本文本。
对于该语义特征向量的获取过程，该语义特征向量用于表征文本的语义特征，因而，需要对文本内容进行处理得到。下面提供几种可能的获取语义特征向量的实现方式，本申请实施例对具体采用哪种方式不作限定。
方式一、对任一样本文本进行分词，得到所述样本文本包括的单词；基于所述样本文本包括的单词，获取所述样本文本包括的单词进行独热编码，得到所述样本文本包括的单词的独热向量，将所述样本文本包括的单词的独热向量作为所述样本文本的语义特征向量。
在该方式一中，该样本文本可以理解为单词序列，单词序列可以为x＝{w1，w2，…，w|x|}，其中wi表示第i个单词。|x|为单词的数量。分词得到每个单词后，可以对其进行独热编码，将其变换为多维度的独热(one-hot)向量。例如，在一个具体示例中，独热向量可以为|V|维的向量，其中，|V|是语料库所有样本文包括的单词的总数量。这样通过该独热向量，能够明确得知每个样本文本包括的单词是哪些，来表征该样本文本的文本内容，也即表征该样本文本的语义。
方式二、对任一样本文本进行分词，得到所述样本文本包括的单词；基于所述样本文本包括的单词在所述样本文本中的出现频率，以及所述单词在语料库中的逆向文件频率，确定所述样本文本包括的单词的权重；基于所述权重和所述样本文本包括的单词，获取所述样本文本的语义特征向量。
在方式二中，可以理解的，出现频率高的单词更能够表征该样本文本的主要内容，以每个单词在样本文本中的出现概率以及该单词在语料库中所有文件中的逆向文件频率，为其确定出权重，以该权重对样本文本包括的单词进行筛选，筛选出更具有代表性的单词，进而得到语义特征向量。例如，该语义特征向量可以为词频(term frequency-inversedocument frequency，TF-IDF)特征向量，也可以为BM25特征向量。
方式三、对任一样本文本进行分词，得到所述样本文本包括的单词；确定所述样本文本包括的单词的词向量；将所述样本文本包括的单词的词向量作为所述样本文本的语义特征向量。
在方式三中，该语义特征向量可以为词向量，该词向量可以通过多种方式得到，例如，可以通过GLOVE、Word2vec等模型得到。通过已有的向量生成模型，能够快速、高效地确定出该样本文本的语义特征向量。
802、电子设备基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息。
除了上述语义特征向量之外，电子设备还会考虑样本文本之间的关联关系，因而，电子设备可以通过引用关系或相似度，来确定出关联关系信息，结合上述语义特征向量进行条件分布的训练。也可以称该关联关系信息为邻居信息。
下面提供两种获取关联关系信息的方式，本申请实施例对具体采用哪种不作限定。
方式一：获取所述至少两个样本文本之间的引用关系；基于所述引用关系，获取所述至少两个样本文本之间的关联关系信息。
在方式一中，该关联关系信息基于至少两个样本文本之间的引用关系确定。也可以将该引用关系称之为链接关系，具有引用关系的样本文本之间具有一定的相似度，比如两个样本文本在某处文本内容上具有一定的关联性，因而其中一个样本文本则可以引用另一个样本文本，也即具有上述引用关系。以此将该引用关系为准，来确定样本文本之间的关联关系信息，能够体现出样本文本之间的关联关系。
在一些实施例中，所述至少两个样本文本之间的关联关系信息为关联矩阵；所述关联矩阵中的一个元素用于指示两个样本文本之间的关联关系信息。
在一些实施例中，对于任意两个样本文本之间的关联关系信息，可以通过下述方式确定。具体地，电子设备可以响应于第一样本文本与第二样本文本之间存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为非零数值。电子设备可以响应于第一样本文本与第二样本文本之间不存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为0。
例如，该样本文本的数量可以为N，则用于表征该关联关系信息的关联矩阵可以为N×N矩阵。其中，N为正整数。该非零数值可以为1，也可以为其他数值，该非零数值可以由相关技术人员根据需求进行设置，本申请实施例对此不作限定。
方式二：获取所述至少两个样本文本的嵌入向量；基于所述至少两个样本文本的嵌入向量中任一位置上的嵌入向量与所述位置的上下文向量，确定所述至少两个样本文本的特征向量；对所述至少两个样本文本的特征向量进行对比，得到所述至少两个样本文本之间的相似度；基于所述相似度，获取所述至少两个样本文本之间的关联关系信息。
在一些实施例中，可以通过其他方式来计算样本文本之间的相似度，以相似度来确定出关联关系信息，再用于训练条件分布，进而能够得到结合关联关系信息和语义特征后更加准确度的文本之间的相似度。
例如，该关联矩阵中的每个元素可以表示为下述公式一：
Figure BDA0002887481150000131
其中，aij表示(i，j)是A的元素，Nk(x)表示k个文本x最相似的文本。
803、电子设备基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布。
电子设备获取到关联关系信息后，可以以此来获取到目标特征向量的先验分布。具体如下：
在不考虑关联关系信息时，目标特征向量与语义特征向量的联合分布可以表示为下述公式二：
pθ(x，z)＝pθ(x|z)p(z)，公式二
其中，p(z)是先验分布，该先验分布可以假设为标准高斯分布N(z；0，Id)，其中Id是d维的单位矩阵。其中，x为语义特征向量，z为联合分布的隐变量，也即是目标特征向量。
对其进行分解，似然函数可以被分解为下述公式三和公式四：
Figure BDA0002887481150000132
Figure BDA0002887481150000133
其中，W∈RL×|V|是一个参数矩阵，L是隐变量z的维度，wj是一个one-hot向量，只在第j个位置是1，其他位置是0，bi是偏置项，并且θ＝{W，b1，...，bD}。对于语料库中的所有样本文本X＝{x1，x2，...，xN}，由于i.i.d.假设，他们的联合分布可以写成如下公式五。
Figure BDA0002887481150000134
其中N表示样本文本的个数。
在本申请实施例中，考虑到上述关联关系信息，上述先验分布中协方差可以不再是单位矩阵，引入关联关系信息后，我们可以得到新的先验分布，如下述公式六所示：
Figure BDA0002887481150000135
其中
Figure BDA0002887481150000136
表示Kronecker乘积。引入关联矩阵A，协方差IN+λA可以表征样本文本之间的邻居信息，其中λ∈[0，1)用来控制关联程度。如果两个样本文本是邻居，那么IN+λA将会很大。如果他们没关联，则为0。
其中，将未引入关联关系信息前的联合分布表示为下述公式七和公式八：
p(X，Z)＝pθ(X|Z)pI(pθ(X|Z))，公式七
Figure BDA0002887481150000137
对于先验分布，可以表示为如下公式九，也可以表示为如下公式十。
Figure BDA0002887481150000138
Figure BDA0002887481150000139
其中
Figure BDA00028874811500001310
表示Kronecker(克罗内克)乘积。在此引入关联关系信息，也即是关联矩阵A，协方差则从IN变为IN+λA。IN+λA可以表征样本文本之间的关联关系信息(也可以称之为邻居信息)，其中λ∈[0，1)用来控制关联程度。如果两个样本文本是邻居，也即是具有关联关系，那么IN+λA将会很大。如果他们没关联关系，则IN+λA为0。
804、电子设备基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
电子设备在得到先验分布后，可以以该先验分布，获取后续处理文本所需的条件分布。
具体地，该条件分布的获取过程可以通过下述步骤一至步骤五实现。
步骤一、电子设备可以基于所述目标特征向量的先验分布，获取第一初始条件分布和第二初始条件分布，所述第一初始条件分布为语义特征向量条件下目标特征向量的条件分布，所述第二初始条件分布为目标特征向量条件下语义特征向量的条件分布。
例如，该第二初始条件分布可以由上述联合分布以及下述目标特征向量的边缘概率分布确定，目标特征向量的边缘概率分布如下述公式十一。
Figure BDA0002887481150000141
第二初始条件分布可以表示为pθ(xi|zi)，或者可以表示为pθ(x|z)。
第一初始条件分布可以表示为qφ(zi|xi)，或者第一初始条件分布可以表示为如下公式十二：
Figure BDA0002887481150000142
其中，
Figure BDA0002887481150000143
步骤二、电子设备于所述至少两个样本文本的语义特征向量，从所述第一初始条件分布，确定所述语义特征向量对应的均值、协方差。
步骤三、电子设备从所述第一初始条件分布中采样得到所述语义特征向量对应的候选目标特征向量。
该步骤二和步骤三为变分编码过程，输入语义特征向量，能够通过第一初始条件分布，为其确定出对应的均值、协方差和候选目标特征向量，并输出该均值、协方差和候选目标特征向量。
步骤四、电子设备基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量。
该步骤四为重构过程，也可以认为是上述步骤二和步骤三的逆向过程，上述步骤二和步骤三为编码过程，该步骤四也即是解码过程。通过重构语义特征向量与原本的语义特征向量进行比较，能够确定出编码和解码的准确性。
该步骤四中输入为候选目标特征向量、所述均值和所述协方差，输出为重构语义特征向量。该重构过程可以基于第二初始条件分布实现。
步骤五、电子设备基于所述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止，得到第一条件分布和第二条件分布，所述第一条件分布为所述语义特征向量条件下目标特征向量的条件分布。
在该步骤五中，通过上述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，电子设备可以确定该联合分布或者条件分布的证据下界(Evidence Lower Bound，ELBO)，该证据下界可以参见图9，优化目标为该证据下界最大化，这样重构语义特征向量无限接近于原本的语义特征向量，得到的目标特征向量也更接近于引入了关联关系信息的目标特征向量表示，因而，能够通过优化过程，提高编码过程的准确性，也能够使得该关联关系信息在目标特征向量中能够有所体现。
在一些实施例中，上述步骤803中获取先验分布时，能够通过将其转化为图数据进而通过生成树的方式来确定先验分布，进而，上述联合分布、条件分布以及证据下界中，则可以对语料库中所有样本文本进行分解，而是得到样本文本对形式的数据，进而，简化了计算过程，提高计算效率。
具体地，电子设备可以基于所述至少两个样本文本之间的关联关系信息，生成图数据，所述图数据包括至少两个文本节点以及文本节点之间的边，其中一个文本节点对应一个样本文本，任两个文本节点之间的边用于指示所述两个文本节点对应的两个样本文本之间的关联关系信息为非零数值；基于所述图数据，获取所述图数据对应的生成树；基于所述生成树，获取所述目标特征向量的先验分布，所述目标特征向量的先验分布为任意两个样本文本的目标特征向量的联合分布。
上述生成树的方式中，电子设备可以基于样本文本对的形式优化目标。具体地，电子设备可以基于所述目标特征向量的先验分布，获取所述至少两个样本文本中任意两个样本文本的目标特征向量的第一初始条件分布和第二初始条件分布，基于所述任意两个样本文本的语义特征向量，确定所述任意两个样本文本之间的关联程度；基于任意两个样本文本的语义特征向量、所述关联程度、所述第一初始条件分布，确定所述任意两个样本文本的语义特征向量对应的均值、协方差、候选目标特征向量；基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；基于所述任意两个样本文本的语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止。
例如，矩阵A可以表示成一个图G＝(V，E)，其中V＝{1，2，…，N}表示文档节点，并且E＝{(i，j)|aij≠0}表示文档之间的链接关系。一个图，可以从中得到一个生成树T＝(V，T_E)。基于生成树，我们可以构造一个新的先验分布，如下述公式十三：
Figure BDA0002887481150000151
其中，pT(zi)和pT(zi，zj)表示pG(Z)的边缘概率分布。通过高斯分布的性质，可得下述公式十四和公式十五：
pg(zi)＝N(zi；0，Id)，公式十四
Figure BDA0002887481150000152
其中，
Figure BDA0002887481150000153
同样地，我们可以将近似的后验分布qφ(Z|X)设计成相同的形式，如下述公式十六：
Figure BDA0002887481150000154
其中，qφ(zi|xi)与前面定义的一样，qφ(zi，zj|xi，xj)同样定义成高斯分布，其均值是[μi；μj]，协方差为下述公式十七：
Figure BDA0002887481150000155
其中，γij∈(0，1]控制zi和zj之间的相关程度，⊙表示Hadamard(哈达玛)乘积。因此，ELBO可以写成下述公式十八：
Figure BDA0002887481150000156
其中，
Figure BDA0002887481150000157
可以通过重参数的方法求解，由于KL距离都是低维的高斯分布，因此可以写出解析表达式。由于通过用生成树去近似整个图，最终的表达式被拆解成单个文档和文档对的形式，不再是整个语料库所有样本文本的联合表达，这样输入样本文本时，以样本文本对的形式，以样本文本对的形式进行处理即可，方便模型训练。
需要说明的是，该步骤801至步骤804为该语义特征向量条件下目标特征向量的条件分布的训练过程，可以对该条件分布进行建模，这样上述基于语义特征向量确定目标特征向量的过程通过向量生成模型实现。具体地，所述目标特征向量的确定过程基于向量生成模型实现；所述向量生成模型基于对所述条件分布建模得到。也即是该向量生成模型用于基于所述条件分布和语义特征向量，确定目标特征向量。相应地，步骤801至步骤804为训练向量生成模型的过程。
在一些实施例中，该向量生成模型可以包括三个部分：变分编码器、关联编码器和生成器。该生成器用于基于候选目标特征向量获取重构语义特征向量。该变分编码器用于基于所述条件分布和语义特征向量，确定目标特征向量。该关联编码器用于对输入的样本文本对进行处理，输出样本文本对的关联程度γij＝fφ(xi，xj)。
805、电子设备获取目标文本。
该目标文本为待处理的文本。需要说明的是，该步骤801至步骤804中的电子设备可以与步骤805至步骤807中的电子设备相同，也可以不同，在不同的应用场景中，二者相同与否也可以包括不同的情况。
上述步骤801至步骤804中的电子设备可以为服务器，也可以为终端。步骤805至步骤807中的电子设备可以为服务器，也可以为终端。在一些实施例中，终端获取到目标文本后，将其发送至服务器，由服务器基于接收到的目标文本，通过预先训练好的条件分布对其进行处理。在另一些实施例中，服务器训练得到条件分布后，可以将其封装到配置文件中并发送至终端，终端获取到目标文本后，可以基于配置文件中的条件分布对目标文本进行处理。
806、电子设备响应于目标文本的向量获取指令，获取所述目标文本的语义特征向量。
对于该向量获取指令，该向量获取指令可以由用户对该目标文本的搜索操作触发，或者由用户对目标文本的处理操作触发，或者在电子设备获取到目标文本时触发，该向量获取指令的触发方式可以由相关技术人员根据需求进行设置，本申请实施例对此不作限定。
该步骤806中获取语义特征向量的过程与上述步骤801中获取语义特征向量的过程同理，在此不多做赘述。
同理地，在一些实施例中，该获取过程可以包括以下三种方式，本申请实施例对此具体采用哪种不作限定。
方式一、对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词，获取所述目标文本包括的单词进行独热编码，得到所述目标文本包括的单词的独热向量，将所述目标文本包括的单词的独热向量作为所述目标文本的语义特征向量。
方式二、对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词在所述目标文本中的出现频率，以及所述单词在语料库中的逆向文件频率，确定所述目标文本包括的单词的权重；基于所述权重和所述目标文本包括的单词，获取所述目标文本的语义特征向量。
方式三、对所述目标文本进行分词，得到所述目标文本包括的单词；确定所述目标文本包括的单词的词向量；将所述目标文本包括的单词的词向量作为所述目标文本的语义特征向量。
807、电子设备基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
电子设备已经获取到语义特征向量条件下目标特征向量的条件分布，因而，在确定出目标文本的语义特征向量
在上述条件分布建模得到了向量生成模型的方式中，电子设备可以将所述目标文本的语义特征向量输入所述向量生成模型，由所述向量生成模型基于模型参数，从所述条件分布中，确定所述语义特征向量对应的均值，输出所述均值作为所述目标文本的目标特征向量。
在一些实施例中，该目标特征向量能够表征该目标文本，电子设备可以基于该目标特征向量，再去确定该目标文本与其他文本的相似度。在获取相似度时，能够以每个文本的哈希码对每个文本进行表征，进而以哈希码之间的相似度来确定文本之间的相似度。
具体地，电子设备可以对所述目标文本的目标特征向量进行哈希编码，得到所述目标文本的哈希码，对所述哈希码与其他文本的哈希码进行对比，确定所述目标文本与所述其他文本的相似度。
对于哈希编码，该哈希编码过程其实是将隐向量z映射成哈希码编码{0,1}T，其中隐向量z为目标特征向量，具体地，哈希编码过程可以为：电子设备响应于所述目标特征向量中任一元素大于所述元素对应的阈值，将所述元素对应的哈希码确定为第一数值；所述阈值为所述至少两个样本文本的目标特征向量中所述元素的中位数；响应于所述目标特征向量中任一元素小于或等于所述元素对应的阈值，将所述元素对应的哈希码确定为第二数值。
该哈希码之间的比较结果可以通过汉明距离表示，具体地，电子设备可以对两个文本的哈希码进行异或运算，得到两个哈希码的汉明距离，将该汉明距离确定为两个文本的相似度。
例如，该第一数值可以为1，该第二数值可以为0，通过上述哈希编码过程，将目标特征向量进行二值化，得到哈希码。
下面提供一个具体示例，在上述图3和图4所示的文本检索场景中，电子设备可以获取目标文本，进而确定其目标特征向量，然后将目标特征向量转化为哈希码去与其他已知文本的哈希码进行比较，然后将距离最近的文本作为检索结果显示出来。具体地，如图10所示，电子设备1000可以在检索界面1001中显示检索框1002，用户可以在其中输入想要检索的文本，电子设备将检索框1002中的文本作为目标文本1003：皮肤过敏应该注意什么。进而，电子设备通过向量生成模型1004，对目标文本1003进行处理，得到该目标文本的目标特征向量1005，然后对其进行哈希编码，得到目标文本的哈希码1006。然后可以计算目标文本的哈希码与已有文本的哈希码之间的汉明距离1007，进而确定出该目标文本的相似文本1008，然后可以将目标文本的相似文本1008返回。电子设备可以在检索结果显示界面1011中显示相似文本，在图中分别为文本1009和文本1010。
下面针对本申请提供的方法(以ours标识)，与其他相关技术在不同的数据集上进行测试，得到如下测试结果。
在一个示例中，分别通过数据集合Reuters21578和20Newsgroups来执行各个方法，得到如表1和表2所示的测试结果。与相关技术中其他模型相比，本申请提供的方法训练得到的模型在性能上取得了较大的突破。在设定哈希码为不同维度的情况下，本申请提供的方法得到的准确性普遍比相关技术中其他模型要高。在该实验中对多种方法(method)进行了分析。其中，本申请提供的方法用ours(我们的)来标识。作为对比的方法还有SpH(Spectrum hash，频谱哈希)、STH(Self taught hash，自学哈希)、S-RBM(S-RestrictedBoltzmann Machine，S-受限玻尔兹曼机)、DVSH(Deep Visual-Semantic Hashing，深度视觉语义哈希)、NASH(Neural Architecture Semantic Hashing，神经结构语义哈希)、GMSH(Gaussian Mixture Semantic Hashing，高斯混合语义哈希)、Node2hash，其中，Node2hash为一种图形感知的深层语义文本哈希方法。
表1
方法(method) 8比特(bits) 16bits 32bits 64bits 128bits
SpH 0.6080 0.6340 0.6513 0.6290 0.6045
STH 0.6616 0.7351 0.7554 0.7350 0.6986
S-RBM 0.5113 0.5740 0.6154 0.6177 0.6452
DVSH 0.6859 0.7165 0.7753 0.7456 0.7318
NASH 0.7113 0.7624 0.7993 0.7812 0.7559
GMSH n.a. 0.7672 0.8183 0.8212 0.7846
Node2hash 0.7313 0.7802 0.8233 0.8248 0.8290
Ours(我们的) 0.7468 0.7989 0.8293 0.8470 0.8477
表2
method 8bits 16bits 32bits 64bits 128bits
SpH 0.2545 0.3200 0.3709 0.3196 0.2716
STH 0.3664 0.5237 0.5860 0.5806 0.5443
S-RBM 0.0594 0.0604 0.0533 0.0623 0.0642
DVSH 0.3643 0.3904 0.4327 0.1731 0.0522
NASH 0.3786 0.5108 0.5671 0.5071 0.4664
GMSH n.a. 0.4855 0.5381 0.5869 0.5583
Node2hash 0.4235 0.5596 0.5821 0.6028 0.6014
Ours 0.5475 0.5995 0.6204 0.6213 0.6046
本申请实施例引入了文本之间的关联关系信息，以该文本之间的关联关系信息能够表征出文本之间的关联关系，从关联关系这个角度来表征文本之间的相似度，以该关联关系信息确定先验分布，后续得到的条件分布中在为语义特征向量确定对应的目标特征向量时，该目标特征向量则考虑到了文本之间关联关系这一因素，再通过语义特征向量来表征语义方面的特征，这样训练得到的条件分布，综合考虑了文本之间的关联关系和语义方面的特征，这样对于文本内容或者具有关联关系的文本的目标特征向量则会比较接近，该目标特征向量能够更准确地表征目标文本，以此进行相似度确定，能够得到更准确的相似度。
上述所有可选技术方案，能够采用任意结合形成本申请的可选实施例，在此不再一一赘述。
图11是本申请实施例提供的一种文本处理装置的结构示意图，参见图11，该装置包括：
获取模块1101，用于获取目标文本；
所述获取模块1101，还用于获取所述目标文本的语义特征向量；
所述获取模块1101，还用于获取语义特征向量条件下目标特征向量的条件分布，所述条件分布基于至少两个样本文本之间的关联关系信息得到目标特征向量的分布为先验分布，以所述先验分布联合所述至少两个样本文本的语义特征向量训练得到；
确定模块1102，用于基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
在一些实施例中，所述语义特征向量条件下目标特征向量的条件分布基于下述过程得到：获取至少两个样本文本和所述至少两个样本文本的语义特征向量；基于所述至少两个样本文本之间的引用关系或所述至少样本两个文本之间的相似度，获取所述至少两个文本样本之间的关联关系信息；基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息，包括下述任一项：
获取所述至少两个样本文本之间的引用关系；基于所述引用关系，获取所述至少两个样本文本之间的关联关系信息；
获取所述至少两个样本文本的嵌入向量；基于所述至少两个样本文本的嵌入向量中任一位置上的嵌入向量与所述位置的上下文向量，确定所述至少两个样本文本的特征向量；对所述至少两个样本文本的特征向量进行对比，得到所述至少两个样本文本之间的相似度；基于所述相似度，获取所述至少两个样本文本之间的关联关系信息。
在一些实施例中，所述至少两个样本文本之间的关联关系信息为关联矩阵；所述关联矩阵中的一个元素用于指示两个样本文本之间的关联关系信息；
所述获取所述至少两个样本文本之间的引用关系，包括：响应于第一样本文本与第二样本文本之间存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为非零数值；响应于第一样本文本与第二样本文本之间不存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为0。
在一些实施例中，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：基于所述目标特征向量的先验分布，获取第一初始条件分布和第二初始条件分布，所述第一初始条件分布为语义特征向量条件下目标特征向量的条件分布，所述第二初始条件分布为目标特征向量条件下语义特征向量的条件分布；基于所述至少两个样本文本的语义特征向量，从所述第一初始条件分布，确定所述语义特征向量对应的均值、协方差；从所述第一初始条件分布中采样得到所述语义特征向量对应的候选目标特征向量；基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；基于所述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止，得到第一条件分布和第二条件分布，所述第一条件分布为所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布，包括：基于所述至少两个样本文本之间的关联关系信息，生成图数据，所述图数据包括至少两个文本节点以及文本节点之间的边，其中一个文本节点对应一个样本文本，任两个文本节点之间的边用于指示所述两个文本节点对应的两个样本文本之间的关联关系信息为非零数值；基于所述图数据，获取所述图数据对应的生成树；基于所述生成树，获取所述目标特征向量的先验分布，所述目标特征向量的先验分布为任意两个样本文本的目标特征向量的联合分布。
在一些实施例中，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：基于所述目标特征向量的先验分布，获取所述至少两个样本文本中任意两个样本文本的目标特征向量的第一初始条件分布和第二初始条件分布；基于所述任意两个样本文本的语义特征向量，确定所述任意两个样本文本之间的关联程度；基于任意两个样本文本的语义特征向量、所述关联程度、所述第一初始条件分布，确定所述任意两个样本文本的语义特征向量对应的均值、协方差、候选目标特征向量；基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；基于所述任意两个样本文本的语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止。
在一些实施例中，所述目标特征向量的确定过程基于向量生成模型实现；所述向量生成模型基于对所述条件分布建模得到；
所述获取模块1101用于获取向量生成模型；
所述确定模块1102用于将所述目标文本的语义特征向量输入所述向量生成模型，由所述向量生成模型基于模型参数，从所述条件分布中，确定所述语义特征向量对应的均值，输出所述均值作为所述目标文本的目标特征向量。
在一些实施例中，所述获取模块1101用于执行下述任一项：
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词，获取所述目标文本包括的单词进行独热编码，得到所述目标文本包括的单词的独热向量，将所述目标文本包括的单词的独热向量作为所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词在所述目标文本中的出现频率，以及所述单词在语料库中的逆向文件频率，确定所述目标文本包括的单词的权重；基于所述权重和所述目标文本包括的单词，获取所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；确定所述目标文本包括的单词的词向量；将所述目标文本包括的单词的词向量作为所述目标文本的语义特征向量。
在一些实施例中，所述装置还包括：
编码模块，用于对所述目标文本的目标特征向量进行哈希编码，得到所述目标文本的哈希码；
对比模块，用于对所述哈希码与其他文本的哈希码进行对比，确定所述目标文本与所述其他文本的相似度。
需要说明的是：上述实施例提供的文本处理装置在文本处理时，仅以上述各功能模块的划分进行举例说明，实际应用中，能够根据需要而将上述功能分配由不同的功能模块完成，即将文本处理装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的文本处理装置与文本处理方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
图12是本申请实施例提供的一种文本处理装置的结构示意图，参见图12，该装置包括：
向量获取模块1201，用于获取至少两个样本文本和所述至少两个样本文本的语义特征向量；
信息获取模块1202，还用于基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息；
分布获取模块1203，用于基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；
所述分布获取模块1203，用于基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
在一些实施例中，所述向量获取模块1201还用于响应于目标文本的向量获取指令，获取所述目标文本的语义特征向量；
所述装置还包括：
向量生成模块，用于基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
需要说明的是：上述实施例提供的文本处理装置在处理文本时，仅以上述各功能模块的划分进行举例说明，实际应用中，能够根据需要而将上述功能分配由不同的功能模块完成，即将文本处理装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的文本处理装置与文本处理方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
图13是本申请实施例提供的一种电子设备的结构示意图，该电子设备1300可因配置或性能不同而产生比较大的差异，能够包括一个或一个以上处理器(CentralProcessingUnits，CPU)1301和一个或一个以上的存储器1302，其中，所述存储器1302中存储有至少一条计算机程序，所述至少一条计算机程序由所述处理器1301加载并执行以实现上述各个方法实施例提供的文本处理方法。该电子设备还能够包括其他用于实现设备功能的部件，例如，该电子设备还能够具有有线或无线网络接口以及输入输出接口等部件，以便进行输入输出。本申请实施例在此不做赘述。
上述方法实施例中的电子设备能够实现为终端。例如，图14是本申请实施例提供的一种终端的结构框图。该终端1400可以是便携式移动终端，比如：智能手机、平板电脑、MP3(MovingPictureExpertsGroupAudioLayerIII，动态影像专家压缩标准音频层面3)播放器、MP4(MovingPictureExpertsGroupAudioLayerIV，动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端1400还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常，终端1400包括有：处理器1401和存储器1402。
处理器1401可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器1401可以采用DSP(DigitalSignalProcessing，数字信号处理)、FPGA(Field－ProgrammableGateArray，现场可编程门阵列)、PLA(ProgrammableLogicArray，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1401也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(CentralProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器1401可以集成有GPU(GraphicsProcessingUnit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器1401还可以包括AI(ArtificialIntelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。
存储器1402可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器1402还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器1402中的非暂态的计算机可读存储介质用于存储至少一个指令，该至少一个指令用于被处理器1401所执行以实现本申请中方法实施例提供的文本处理方法。
在一些实施例中，终端1400还可选包括有：外围设备接口1403和至少一个外围设备。处理器1401、存储器1402和外围设备接口1403之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口1403相连。具体地，外围设备包括：射频电路1404、显示屏1405、摄像头组件1406、音频电路1407、定位组件1408和电源1409中的至少一种。
外围设备接口1403可被用于将I/O(Input/Output，输入/输出)相关的至少一个外围设备连接到处理器1401和存储器1402。在一些实施例中，处理器1401、存储器1402和外围设备接口1403被集成在同一芯片或电路板上；在一些其他实施例中，处理器1401、存储器1402和外围设备接口1403中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。
射频电路1404用于接收和发射RF(RadioFrequency，射频)信号，也称电磁信号。射频电路1404通过电磁信号与通信网络以及其他通信设备进行通信。射频电路1404将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路1404包括：天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路1404可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于：万维网、城域网、内联网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(WirelessFidelity，无线保真)网络。在一些实施例中，射频电路1404还可以包括NFC(NearFieldCommunication，近距离无线通信)有关的电路，本申请对此不加以限定。
显示屏1405用于显示UI(UserInterface，用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏1405是触摸显示屏时，显示屏1405还具有采集在显示屏1405的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1401进行处理。此时，显示屏1405还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏1405可以为一个，设置在终端1400的前面板；在另一些实施例中，显示屏1405可以为至少两个，分别设置在终端1400的不同表面或呈折叠设计；在另一些实施例中，显示屏1405可以是柔性显示屏，设置在终端1400的弯曲表面上或折叠面上。甚至，显示屏1405还可以设置成非矩形的不规则图形，也即异形屏。显示屏1405可以采用LCD(LiquidCrystalDisplay，液晶显示屏)、OLED(OrganicLight-EmittingDiode,有机发光二极管)等材质制备。
摄像头组件1406用于采集图像或视频。可选地，摄像头组件1406包括前置摄像头和后置摄像头。通常，前置摄像头设置在终端的前面板，后置摄像头设置在终端的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(VirtualReality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件1406还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。
音频电路1407可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器1401进行处理，或者输入至射频电路1404以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在终端1400的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器1401或射频电路1404的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路1407还可以包括耳机插孔。
定位组件1408用于定位终端1400的当前地理位置，以实现导航或LBS(LocationBasedService，基于位置的服务)。定位组件1408可以是基于美国的GPS(GlobalPositioningSystem，全球定位系统)、中国的北斗系统或俄罗斯的伽利略系统的定位组件。
电源1409用于为终端1400中的各个组件进行供电。电源1409可以是交流电、直流电、一次性电池或可充电电池。当电源1409包括可充电电池时，该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池，无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
在一些实施例中，终端1400还包括有一个或多个传感器1410。该一个或多个传感器1410包括但不限于：加速度传感器1411、陀螺仪传感器1412、压力传感器1413、指纹传感器1414、光学传感器1415以及接近传感器1416。
加速度传感器1411可以检测以终端1400建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器1411可以用于检测重力加速度在三个坐标轴上的分量。处理器1401可以根据加速度传感器1411采集的重力加速度信号，控制显示屏1405以横向视图或纵向视图进行用户界面的显示。加速度传感器1411还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器1412可以检测终端1400的机体方向及转动角度，陀螺仪传感器1412可以与加速度传感器1411协同采集用户对终端1400的3D动作。处理器1401根据陀螺仪传感器1412采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器1413可以设置在终端1400的侧边框和/或显示屏1405的下层。当压力传感器1413设置在终端1400的侧边框时，可以检测用户对终端1400的握持信号，由处理器1401根据压力传感器1413采集的握持信号进行左右手识别或快捷操作。当压力传感器1413设置在显示屏1405的下层时，由处理器1401根据用户对显示屏1405的压力操作，实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器1414用于采集用户的指纹，由处理器1401根据指纹传感器1414采集到的指纹识别用户的身份，或者，由指纹传感器1414根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器1401授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器1414可以被设置在终端1400的正面、背面或侧面。当终端1400上设置有物理按键或厂商Logo时，指纹传感器1414可以与物理按键或厂商Logo集成在一起。
光学传感器1415用于采集环境光强度。在一个实施例中，处理器1401可以根据光学传感器1415采集的环境光强度，控制显示屏1405的显示亮度。具体地，当环境光强度较高时，调高显示屏1405的显示亮度；当环境光强度较低时，调低显示屏1405的显示亮度。在另一个实施例中，处理器1401还可以根据光学传感器1415采集的环境光强度，动态调整摄像头组件1406的拍摄参数。
接近传感器1416，也称距离传感器，通常设置在终端1400的前面板。接近传感器1416用于采集用户与终端1400的正面之间的距离。在一个实施例中，当接近传感器1416检测到用户与终端1400的正面之间的距离逐渐变小时，由处理器1401控制显示屏1405从亮屏状态切换为息屏状态；当接近传感器1416检测到用户与终端1400的正面之间的距离逐渐变大时，由处理器1401控制显示屏1405从息屏状态切换为亮屏状态。
本领域技术人员可以理解，图14中示出的结构并不构成对终端1400的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
上述方法实施例中的电子设备能够实现为服务器。例如，图15是本申请实施例提供的一种服务器的结构示意图，该服务器1500可因配置或性能不同而产生比较大的差异，能够包括一个或一个以上处理器(CentralProcessingUnits，CPU)1501和一个或一个以上的存储器1502，其中，所述存储器1502中存储有至少一条计算机程序，所述至少一条计算机程序由所述处理器1501加载并执行以实现上述各个方法实施例提供的文本处理方法。当然，该服务器还能够具有有线或无线网络接口以及输入输出接口等部件，以便进行输入输出，该服务器还能够包括其他用于实现设备功能的部件，在此不做赘述。
在示例性实施例中，还提供了一种计算机可读存储介质，例如包括至少一条计算机程序的存储器，上述至少一条计算机程序由可由处理器执行以完成上述实施例中的文本处理方法。例如，计算机可读存储介质能够是只读存储器(Read-OnlyMemory，简称：ROM)、随机存取存储器(RandomAccessMemory，简称：RAM)、只读光盘(CompactDiscRead-OnlyMemory，简称：CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中，还提供了一种计算机程序产品或计算机程序，所述计算机程序产品或所述计算机程序包括一条或多条计算机程序，所述一条或多条计算机程序存储在计算机可读存储介质中。电子设备的一个或多个处理器能够从计算机可读存储介质中读取所述一条或多条计算机程序，所述一个或多个处理器执行所述一条或多条计算机程序，使得电子设备能够执行上述文本处理方法。
应理解，在本申请的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
应理解，根据A确定B并不意味着仅仅根据A确定B，还能够根据A和/或其它信息确定B。
本领域普通技术人员能够理解实现上述实施例的全部或部分步骤能够通过硬件来完成，也能够通过程序来指令相关的硬件完成，该程序能够存储于一种计算机可读存储介质中，上述提到的存储介质能够是只读存储器，磁盘或光盘等。
以上描述仅为本申请的可选实施例，并不用以限制本申请，凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (15)

1.一种文本处理方法，其特征在于，所述方法包括：
获取目标文本；
获取所述目标文本的语义特征向量；
获取语义特征向量条件下目标特征向量的条件分布，所述条件分布基于目标特征向量的先验分布联合所述至少两个样本文本的语义特征向量训练得到，所述先验分布为基于所述至少两个样本文本之间的关联关系信息得到的目标特征向量的分布；
基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
2.根据权利要求1所述的方法，其特征在于，所述语义特征向量条件下目标特征向量的条件分布基于下述过程得到：
获取至少两个样本文本和所述至少两个样本文本的语义特征向量；
基于所述至少两个样本文本之间的引用关系或所述至少样本两个文本之间的相似度，获取所述至少两个文本样本之间的关联关系信息；
基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；
基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
3.根据权利要求2所述的方法，其特征在于，所述基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息，包括下述任一项：
获取所述至少两个样本文本之间的引用关系；基于所述引用关系，获取所述至少两个样本文本之间的关联关系信息；
获取所述至少两个样本文本的嵌入向量；基于所述至少两个样本文本的嵌入向量中任一位置上的嵌入向量与所述位置的上下文向量，确定所述至少两个样本文本的特征向量；对所述至少两个样本文本的特征向量进行对比，得到所述至少两个样本文本之间的相似度；基于所述相似度，获取所述至少两个样本文本之间的关联关系信息。
4.根据权利要求3所述的方法，其特征在于，所述至少两个样本文本之间的关联关系信息为关联矩阵；所述关联矩阵中的一个元素用于指示两个样本文本之间的关联关系信息；
所述获取所述至少两个样本文本之间的引用关系，包括：
响应于第一样本文本与第二样本文本之间存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为非零数值；
响应于第一样本文本与第二样本文本之间不存在引用关系，确定所述第一样本文本和所述第二样本文本之间的关联关系信息为0。
5.根据权利要求2所述的方法，其特征在于，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：
基于所述目标特征向量的先验分布，获取第一初始条件分布和第二初始条件分布，所述第一初始条件分布为语义特征向量条件下目标特征向量的条件分布，所述第二初始条件分布为目标特征向量条件下语义特征向量的条件分布；
基于所述至少两个样本文本的语义特征向量，从所述第一初始条件分布，确定所述语义特征向量对应的均值、协方差；
从所述第一初始条件分布中采样得到所述语义特征向量对应的候选目标特征向量；
基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；
基于所述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止，得到第一条件分布和第二条件分布，所述第一条件分布为所述语义特征向量条件下目标特征向量的条件分布。
6.根据权利要求2所述的方法，其特征在于，所述基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布，包括：
基于所述至少两个样本文本之间的关联关系信息，生成图数据，所述图数据包括至少两个文本节点以及文本节点之间的边，其中一个文本节点对应一个样本文本，任两个文本节点之间的边用于指示所述两个文本节点对应的两个样本文本之间的关联关系信息为非零数值；
基于所述图数据，获取所述图数据对应的生成树；
基于所述生成树，获取所述目标特征向量的先验分布，所述目标特征向量的先验分布为任意两个样本文本的目标特征向量的联合分布。
7.根据权利要求6所述的方法，其特征在于，所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布，包括：
基于所述目标特征向量的先验分布，获取所述至少两个样本文本中任意两个样本文本的目标特征向量的第一初始条件分布和第二初始条件分布；
基于所述任意两个样本文本的语义特征向量，确定所述任意两个样本文本之间的关联程度；
基于任意两个样本文本的语义特征向量、所述关联程度、所述第一初始条件分布，确定所述任意两个样本文本的语义特征向量对应的均值、协方差、候选目标特征向量；
基于所述候选目标特征向量、所述均值和所述协方差，从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量；
基于所述任意两个样本文本的语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布，对所述第一初始条件分布和所述第二初始条件分布进行更新，直至符合目标条件时停止。
8.根据权利要求1所述的方法，其特征在于，所述目标特征向量的确定过程基于向量生成模型实现；所述向量生成模型基于对所述条件分布建模得到；
所述获取语义特征向量条件下目标特征向量的条件分布，包括：获取向量生成模型；
所述基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，包括：
将所述目标文本的语义特征向量输入所述向量生成模型，由所述向量生成模型基于模型参数，从所述条件分布中，确定所述语义特征向量对应的均值，输出所述均值作为所述目标文本的目标特征向量。
9.根据权利要求1所述的方法，其特征在于，所述获取所述目标文本的语义特征向量，包括下述任一项：
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词，获取所述目标文本包括的单词进行独热编码，得到所述目标文本包括的单词的独热向量，将所述目标文本包括的单词的独热向量作为所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；基于所述目标文本包括的单词在所述目标文本中的出现频率，以及所述单词在语料库中的逆向文件频率，确定所述目标文本包括的单词的权重；基于所述权重和所述目标文本包括的单词，获取所述目标文本的语义特征向量；
对所述目标文本进行分词，得到所述目标文本包括的单词；确定所述目标文本包括的单词的词向量；将所述目标文本包括的单词的词向量作为所述目标文本的语义特征向量。
10.根据权利要求1所述的方法，其特征在于，所述方法还包括：
对所述目标文本的目标特征向量进行哈希编码，得到所述目标文本的哈希码；
对所述哈希码与其他文本的哈希码进行对比，确定所述目标文本与所述其他文本的相似度。
11.一种文本处理方法，其特征在于，所述方法包括：
获取至少两个样本文本和所述至少两个样本文本的语义特征向量；
基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度，获取所述至少两个样本文本之间的关联关系信息；
基于所述至少两个样本文本之间的关联关系信息，获取目标特征向量的先验分布；
基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量，获取所述语义特征向量条件下目标特征向量的条件分布。
12.根据权利要求11所述的方法，其特征在于，所述方法还包括：
响应于目标文本的向量获取指令，获取所述目标文本的语义特征向量；
基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
13.一种文本处理装置，其特征在于，所述装置包括：
获取模块，用于获取目标文本；
所述获取模块，还用于获取所述目标文本的语义特征向量；
所述获取模块，还用于获取语义特征向量条件下目标特征向量的条件分布，所述条件分布基于目标特征向量的先验分布联合所述至少两个样本文本的语义特征向量训练得到，所述先验分布为基于所述至少两个样本文本之间的关联关系信息得到的目标特征向量的分布；
确定模块，用于基于所述目标文本的语义特征向量，从所述条件分布中，确定所述语义特征向量对应的均值，将所述均值作为所述目标文本的目标特征向量，所述目标特征向量用于与其他文本确定相似度。
14.一种电子设备，其特征在于，所述电子设备包括一个或多个处理器和一个或多个存储器，所述一个或多个存储器中存储有至少一条计算机程序，所述至少一条计算机程序由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求12任一项所述的文本处理方法。
15.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一条计算机程序，所述至少一条计算机程序由处理器加载并执行以实现如权利要求1至权利要求12任一项所述的文本处理方法。
CN202110017491.0A 2021-01-07 2021-01-07 文本处理方法、装置、设备及存储介质 Pending CN113392180A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110017491.0A CN113392180A (zh) 2021-01-07 2021-01-07 文本处理方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110017491.0A CN113392180A (zh) 2021-01-07 2021-01-07 文本处理方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113392180A true CN113392180A (zh) 2021-09-14

Family

ID=77616665

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110017491.0A Pending CN113392180A (zh) 2021-01-07 2021-01-07 文本处理方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113392180A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115033701A (zh) * 2022-08-12 2022-09-09 北京百度网讯科技有限公司 文本向量生成模型训练方法、文本分类方法及相关装置
CN115222373A (zh) * 2022-09-20 2022-10-21 河北建投工程建设有限公司 一种设计项目管理方法及系统
CN115495546A (zh) * 2022-11-21 2022-12-20 中国科学技术大学 相似文本检索方法、系统、设备及存储介质
CN116629272A (zh) * 2023-07-24 2023-08-22 山东大学 自然语言控制的文本生成方法及系统
CN118054111A (zh) * 2024-02-27 2024-05-17 武汉怡特环保科技有限公司 锂电池组安全管理方法、装置、存储介质及电子设备
RU2822863C1 (ru) * 2023-07-26 2024-07-15 Общество с ограниченной ответственностью "Лаборатория ИнфоВотч" Способ семантического хеширования текстовых данных

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115033701A (zh) * 2022-08-12 2022-09-09 北京百度网讯科技有限公司 文本向量生成模型训练方法、文本分类方法及相关装置
CN115222373A (zh) * 2022-09-20 2022-10-21 河北建投工程建设有限公司 一种设计项目管理方法及系统
CN115222373B (zh) * 2022-09-20 2022-11-25 河北建投工程建设有限公司 一种设计项目管理方法及系统
CN115495546A (zh) * 2022-11-21 2022-12-20 中国科学技术大学 相似文本检索方法、系统、设备及存储介质
CN116629272A (zh) * 2023-07-24 2023-08-22 山东大学 自然语言控制的文本生成方法及系统
CN116629272B (zh) * 2023-07-24 2023-10-10 山东大学 自然语言控制的文本生成方法及系统
RU2822863C1 (ru) * 2023-07-26 2024-07-15 Общество с ограниченной ответственностью "Лаборатория ИнфоВотч" Способ семантического хеширования текстовых данных
CN118054111A (zh) * 2024-02-27 2024-05-17 武汉怡特环保科技有限公司 锂电池组安全管理方法、装置、存储介质及电子设备

Similar Documents

Publication Publication Date Title
CN113392180A (zh) 文本处理方法、装置、设备及存储介质
CN111243668B (zh) 分子结合位点检测方法、装置、电子设备及存储介质
CN110852100A (zh) 关键词提取方法、装置、电子设备及介质
CN111104980B (zh) 确定分类结果的方法、装置、设备及存储介质
CN112749728A (zh) 学生模型训练方法、装置、计算机设备及存储介质
CN111930964B (zh) 内容处理方法、装置、设备及存储介质
CN113515942A (zh) 文本处理方法、装置、计算机设备及存储介质
CN111368525A (zh) 信息搜索方法、装置、设备及存储介质
CN111931877A (zh) 目标检测方法、装置、设备及存储介质
WO2022193973A1 (zh) 图像处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品
CN111680123A (zh) 对话模型的训练方法、装置、计算机设备及存储介质
CN113836946B (zh) 训练评分模型的方法、装置、终端及存储介质
CN110555102A (zh) 媒体标题识别方法、装置及存储介质
CN114281956A (zh) 文本处理方法、装置、计算机设备及存储介质
CN111753498A (zh) 文本处理方法、装置、设备及存储介质
CN113569607A (zh) 动作识别方法、装置、设备以及存储介质
CN113821658A (zh) 对编码器进行训练的方法、装置、设备及存储介质
CN113761195A (zh) 文本分类方法、装置、计算机设备及计算机可读存储介质
CN114281936A (zh) 分类方法、装置、计算机设备及存储介质
CN113822084A (zh) 语句翻译方法、装置、计算机设备及存储介质
CN112989134A (zh) 节点关系图的处理方法、装置、设备及存储介质
CN112163095A (zh) 数据处理方法、装置、设备及存储介质
CN113570510A (zh) 图像处理方法、装置、设备及存储介质
CN114511082B (zh) 特征提取模型的训练方法、图像处理方法、装置及设备
CN113486260B (zh) 互动信息的生成方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40052339

Country of ref document: HK

SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination