CN112035651A - 语句补全方法、装置及计算机可读存储介质 - Google Patents
语句补全方法、装置及计算机可读存储介质 Download PDFInfo
- Publication number
- CN112035651A CN112035651A CN202011025264.4A CN202011025264A CN112035651A CN 112035651 A CN112035651 A CN 112035651A CN 202011025264 A CN202011025264 A CN 202011025264A CN 112035651 A CN112035651 A CN 112035651A
- Authority
- CN
- China
- Prior art keywords
- sentence
- target
- probability distribution
- probability
- complemented
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000009826 distribution Methods 0.000 claims abstract description 175
- 238000003780 insertion Methods 0.000 claims abstract description 151
- 230000037431 insertion Effects 0.000 claims abstract description 151
- 239000011159 matrix material Substances 0.000 claims description 122
- 239000013598 vector Substances 0.000 claims description 82
- 239000012634 fragment Substances 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 6
- 238000012163 sequencing technique Methods 0.000 claims description 2
- 230000003993 interaction Effects 0.000 abstract description 11
- 230000008569 process Effects 0.000 abstract description 7
- 230000004044 response Effects 0.000 abstract description 5
- 238000012545 processing Methods 0.000 description 17
- 238000004891 communication Methods 0.000 description 10
- 241000287828 Gallus gallus Species 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Machine Translation (AREA)
Abstract
本公开涉及一种语句补全方法、装置及计算机可读存储介质，所述方法包括：获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布；根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。由此，可以提高语句补全的效率，提高人机交互对话过程中的对用户输入内容的响应速度。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及语句补全方法、装置及计算机可读存储介质。
背景技术
在日常的人机对话交互中，用户经常使用简短的语句与机器进行对话，其中，用户能够轻松结合对话上下文对当前语句进行理解，然而此种行为模式对机器自然语言的理解造成了一定挑战。
相关技术中，通常是通过分析对话，构建上轮问题对话的承接词袋及实体词袋，从而基于上述信息进行判断，以对待补全语句进行重写，获得补全后的语句。在上述方案中，需要基于端到端生成式模型从头到尾对待补全语句进行重写，耗费时间多，数据处理量较大。
发明内容
为克服相关技术中存在的问题，本公开提供一种语句补全方法、装置及计算机可读存储介质。
根据本公开实施例的第一方面，提供一种语句补全方法，包括：
获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
可选地，所述根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段，包括：
将所述第一概率分布和所述第二概率分布中的一者作为行向量，另一者作为列向量，并进行矩阵相乘，以获得所述目标片段对应的概率矩阵；
根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置；
将所述在先语句中从所述起始位置起至所述终止位置的片段确定为所述目标片段。
可选地，所述根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
通过以下任一方式确定所述概率矩阵中的目标元素：
将所述概率矩阵中的目标三角矩阵中的元素值最大的元素确定为目标元素；
将所述概率矩阵中的目标三角矩阵中的元素值大于预设阈值的元素确定为目标元素；
针对确定出的每一所述目标元素，根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置。
可选地，所述第一概率分布作为所述行向量，所述第二概率分布作为所述列向量，所述目标三角矩阵为所述概率矩阵对应的上三角矩阵；
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
将所述目标元素在所述概率矩阵中的位置的行编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的列编号确定为所述终止位置；
或者，
所述第一概率分布作为所述列向量，所述第二概率分布作为所述行向量，所述目标三角矩阵为所述概率矩阵对应的下三角矩阵；
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
将所述目标元素在所述概率矩阵中的位置的列编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的行编号确定为所述终止位置。
可选地，在确定出的所述目标片段为多个的情况下，所述根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置，包括：
根据所述插入位置的概率分布，按照每一所述插入位置对应的概率由大至小的顺序，将排序前N的插入位置作为候选插入位置，其中，N为大于或等于所述目标片段的总数的整数；
分别计算每一所述目标片段对应的向量与所述候选插入位置对应的向量之间的相似度；
针对每一所述目标片段，将与该目标片段对应的相似度最大的候选插入位置确定为该目标片段对应的插入位置，其中，确定出的多个所述目标片段对应的插入位置作为所述待补全语句对应的目标插入位置。
可选地，所述根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句，包括：
在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，获得补全语句；
对所述补全语句进行规则匹配，其中，每一规则中包括一对词语；
根据匹配到的目标规则，将所述补全语句中的与所述目标规则匹配的词语替换为所述目标规则中的另一词语，获得所述目标补全语句。
可选地，所述将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，包括：
将所述待补全语句和所述在先语句进行拼接，获得拼接语句；
将所述拼接语句输入所述对话预测模型，以基于所述对话预测模型对所述拼接语句进行编码，获得拼接语句编码向量，并根据所述在先语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述第一概率分布、所述第二概率分布，根据所述待补全语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述插入位置的概率分布。
根据本公开实施例的第二方面，提供一种语句补全装置，所述装置包括：
获取模块，被配置为获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
输入模块，被配置为将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
第一确定模块，被配置为根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
第二确定模块，被配置为根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
补全模块，被配置为根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
可选地，所述第一确定模块包括：
第一计算子模块，被配置为将所述第一概率分布和所述第二概率分布中的一者作为行向量，另一者作为列向量，并进行矩阵相乘，以获得所述目标片段对应的概率矩阵；
第一确定子模块，被配置为根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置；
第二确定子模块，被配置为将所述在先语句中从所述起始位置起至所述终止位置的片段确定为所述目标片段。
可选地，所述第一确定子模块包括：
第三确定子模块，被配置为通过以下任一方式确定所述概率矩阵中的目标元素：
将所述概率矩阵中的目标三角矩阵中的元素值最大的元素确定为目标元素；
将所述概率矩阵中的目标三角矩阵中的元素值大于预设阈值的元素确定为目标元素；
第四确定子模块，被配置为针对确定出的每一所述目标元素，根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置。
可选地，所述第一概率分布作为所述行向量，所述第二概率分布作为所述列向量，所述目标三角矩阵为所述概率矩阵对应的上三角矩阵；
相应地，所述第四确定子模块被配置为：
将所述目标元素在所述概率矩阵中的位置的行编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的列编号确定为所述终止位置；
或者，
所述第一概率分布作为所述列向量，所述第二概率分布作为所述行向量，所述目标三角矩阵为所述概率矩阵对应的下三角矩阵；
相应地，所述第四确定子模块被配置为：
将所述目标元素在所述概率矩阵中的位置的列编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的行编号确定为所述终止位置。
可选地，在确定出的所述目标片段为多个的情况下，所述第二确定模块包括：
第五确定子模块，被配置为根据所述插入位置的概率分布，按照每一所述插入位置对应的概率由大至小的顺序，将排序前N的插入位置作为候选插入位置，其中，N为大于或等于所述目标片段的总数的整数；
第二计算子模块，被配置为分别计算每一所述目标片段对应的向量与所述候选插入位置对应的向量之间的相似度；
第六确定子模块，被配置为针对每一所述目标片段，将与该目标片段对应的相似度最大的候选插入位置确定为该目标片段对应的插入位置，其中，确定出的多个所述目标片段对应的插入位置作为所述待补全语句对应的目标插入位置。
可选地，所述补全模块包括：
补全子模块，被配置为在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，获得补全语句；
匹配子模块，被配置为对所述补全语句进行规则匹配，其中，每一规则中包括一对词语；
替换子模块，被配置为根据匹配到的目标规则，将所述补全语句中的与所述目标规则匹配的词语替换为所述目标规则中的另一词语，获得所述目标补全语句。
可选地，所述输入模块包括：
拼接子模块，被配置为将所述待补全语句和所述在先语句进行拼接，获得拼接语句；
输入子模块，被配置为将所述拼接语句输入所述对话预测模型，以基于所述对话预测模型对所述拼接语句进行编码，获得拼接语句编码向量，并根据所述在先语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述第一概率分布、所述第二概率分布，根据所述待补全语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述插入位置的概率分布。
根据本公开实施例的第三方面，提供一种语句补全装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
根据本公开实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现本公开第一方面所提供的语句补全方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果：
在上述技术方案中，通过获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句，将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，之后根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段，根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；从而可以根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。因此，通过上述技术方案，可以对待补全语句和其对应的在先语句进行综合分析，以确定在先语句中的每一个字作为待截取的目标片段的起始位置的概率，和在先语句中的每一个字作为所述目标片段的终止位置的概率，以便于从在先语句中直接截取出目标片段，并且可以基于目标片段和目标插入位置对待补全语句进行补全，从而提高语句补全的效率，便于提高人机交互对话过程中的对用户输入内容的响应速度。并且通过从在先语句中截取目标片段的方式，可以有效降低对待补全语句进行重写所需的时间和数据处理量，从而可以使得该语句补全方法可以适用于计算量较低的设备，提高该语句补全方法的使用范围。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种语句补全方法的流程图。
图2是根据一示例性实施例示出的根据第一概率分布和第二概率分布，从在先语句中确定目标片段的示例性实现方式的流程图。
图3是根据一示例性实施例示出的根据插入位置的概率分布确定待补全语句对应的目标插入位置的示例性实现方式的流程图。
图4是根据一示例性实施例示出的一种语句补全装置的框图。
图5是根据一示例性实施例示出的一种语句补全装置的框图。
图6是根据一示例性实施例示出的一种语句补全装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种语句补全方法的流程图，如图1所示，所述方法可以包括以下步骤。
在步骤11中，获取对话中的待补全语句和对话中在待补全语句之前的在先语句。其中，如相关技术中所述，在进行对话的过程中用户可能会使用简短的语句进行交互，机器在理解用户内容的过程中需要对该简短的语句进行补全，从而理解用户内容，该简短的需要补全的语句可以作为该待补全语句，该在先语句可以是在该对话中的待补全语句之前的一句语句，也可以是该待补全语句之前的多句语句。
在步骤12中，将待补全语句和在先语句输入对话预测模型，以获得在先语句对应的第一概率分布和第二概率分布，以及待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率。
在该步骤中，基于对话预测模型，可以对待补全语句和在先语句进行分析，从而确定出目标片段的起始位置和终止位置在该在先语句中的概率分布，从而便于从在先语句中抽取出目标片段。同时还可以获得待补全语句对应的插入位置的概率分布，便于在待补全语句中插入目标片段，从而可以为获取完整的补全语句提供数据支持。
在步骤13中，根据第一概率分布和第二概率分布，从在先语句中确定目标片段。
其中，上文可知，第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率，因此，在该步骤中则可以根据第一概率分布和第二概率分布，确定出目标片段的起始位置和终止位置，从而便可以准确地确定出目标片段。
在步骤14中，根据插入位置的概率分布确定待补全语句对应的目标插入位置。
在步骤15中，根据目标片段、目标插入位置对待补全语句进行补全，以获得与待补全语句对应的目标补全语句。
示例地，可以在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，从而可以将补全后的语句作为该目标补全语句，以便于人机交互对话中内容的理解。
在上述技术方案中，通过获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句，将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，之后根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段，根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；从而可以根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。因此，通过上述技术方案，可以对待补全语句和其对应的在先语句进行综合分析，以确定在先语句中的每一个字作为待截取的目标片段的起始位置的概率，和在先语句中的每一个字作为所述目标片段的终止位置的概率，以便于从在先语句中直接截取出目标片段，并且可以基于目标片段和目标插入位置对待补全语句进行补全，从而提高语句补全的效率，便于提高人机交互对话过程中的对用户输入内容的响应速度。并且通过从在先语句中截取目标片段的方式，可以有效降低对待补全语句进行重写所需的时间和数据处理量，从而可以使得该语句补全方法可以适用于计算量较低的设备，提高该语句补全方法的使用范围。
在一种可能的实施例中，在步骤12中，将待补全语句和在先语句输入对话预测模型，以获得在先语句对应的第一概率分布和第二概率分布，以及待补全语句对应的插入位置的概率分布的示例性实现方式如下，该步骤可以包括：
将所述待补全语句和所述在先语句进行拼接，获得拼接语句。
示例地，在先语句为：你喜欢吃什么，待补全语句为：宫保鸡丁，则可以将待补全语句和在先语句进行拼接，其中，可以按照各个语句的先后顺序进行拼接，获得拼接语句为：你喜欢吃什么|宫保鸡丁。
之后，将所述拼接语句输入所述对话预测模型，以基于所述对话预测模型对所述拼接语句进行编码，获得拼接语句编码向量，并根据所述在先语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述第一概率分布、所述第二概率分布，根据所述待补全语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述插入位置的概率分布。
其中，该对话预测模型可以基于BERT模型进行预先训练。示例地，可以对文本进行预先标注，即可以采用机器阅读理解中的抽取式方式进行文本的标注，如获取一上文文本和当前文本，从该上文文本中标注要抽取的文本片段，从当前文本中标注与文本片段对应的插入位置，从而获得训练样本。之后，则可以基于BERT模型进行训练，将训练样本中的上文文本和当前文本输入模型，将模型输出的预测片段和预测位置与训练样本中标注的文本片段和插入位置进行损失计算，其中可以根据实际使用场景选择损失函数，如BERT分类模型的损失函数，即负对数似然函数等，本公开对此不进行限定。在模型训练结束后，获得对话预测模型，则可以根据该对话预测模型获得该第一概率分布、第二概率分布和插入位置的概率分布。
因此，在将拼接语句输入对话预测模型后，可以基于该对话预测模型对拼接语句进行编码，即可以对待补全语句和在先语句进行统一编码，从而保证获得的编码向量的统一性。示例地，输入的拼接语句的序列为X＝{x1,...,xL}，其中，拼接语句的长度L＝L1+L2，待补全语句的长度为L1，在先语句的长度为L2，进行编码时向量的维度为H，则获得的拼接语句编码向量V的维度为L*H，之后，可以分别基于待补全语句的长度和在先语句的长度进行映射，如根据待补全语句的长度L1进行映射得出概率向量V1＝V*W，其中，W为对话预测模型中用于第一概率分布的维度为H*1的映射参数，则V1的维度即为L*1，之后，可以对该概率向量进行归一化处理，示例地可以通过softmax方式进行归一化，从而获得第一概率分布。其中，第二概率分布和插入位置的概率分布的获得方式与上文相似，在此不再赘述。
由此，通过上述所述技术方案，可以通过对话预测模型获得目标片段在在先语句中的起始位置和终止位置分别对应的概率分布，以及待补全语句中的插入位置的概率分布，并且通过对待补全语句和在先语句进行拼接，并通过对话预测模型进行统一的编码，可以基于BERT模型的self-attention机制，对输入的拼接语句中的每一字符与字符之间进行交互式的语义理解，从而学习到质量更高的句子向量表示，为后续准确确定目标片段和插入位置提供数据支持。
在一种可能的实施例中，在步骤13中，根据第一概率分布和第二概率分布，从在先语句中确定目标片段的示例性实现方式如下，如图2所示，该步骤可以包括：
在步骤21中，将第一概率分布和第二概率分布中的一者作为行向量，另一者作为列向量，并进行矩阵相乘，以获得目标片段对应的概率矩阵。
也就是说，在该步骤中，通过将第一概率分布对应的向量和第二概率分布对应的向量进行矩阵相乘，从而可以综合考虑目标片段的起始位置和终止位置的概率分布，进一步保证确定出的目标片段的起始位置和终止位置的匹配程度。
在步骤22中，根据概率矩阵，确定目标片段在在先语句中对应的起始位置和终止位置。
在一种可能的实施例中，根据概率矩阵，确定目标片段在在先语句中对应的起始位置和终止位置可以包括：
通过以下任一方式确定所述概率矩阵中的目标元素：
第一种方式，若目标片段为一个，则可以将所述概率矩阵中的目标三角矩阵中的元素值最大的元素确定为目标元素；
第二种方式，若目标片段为多个，则可以将所述概率矩阵中的目标三角矩阵中的元素值大于预设阈值的元素确定为目标元素，其中，预设阈值可以根据实际使用场景进行设置，本公开对此不进行限定。
之后，针对确定出的每一所述目标元素，根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置。
在一种可能的实施例中，所述第一概率分布作为所述行向量，所述第二概率分布作为所述列向量，所述目标三角矩阵为所述概率矩阵对应的上三角矩阵，其中，概率矩阵对应的上三角矩阵即为将该概率矩阵中主对角线以下的元素值都设置为零的所得的矩阵。
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置的示例性实现方式可以包括：
将所述目标元素在所述概率矩阵中的位置的行编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的列编号确定为所述终止位置。
示例地，在先语句为：你喜欢吃什么，待补全语句为：宫保鸡丁，第一概率分布作为行向量，第二概率分布作为列向量，可以得出6*6的概率矩阵，则其对应的目标三角矩阵如下所示：
从该目标三角矩阵中确定出的目标元素为元素值最大的元素A03，则将元素A03的行编号0确定为目标片段的起始位置，列编号3确定为目标片段的终止位置。若确定出的目标元素为多个，则可以通过上述方式分别确定出每一目标元素对应的目标片段的起始位置和终止位置。
在另一种可能的实施例中，所述第一概率分布作为所述列向量，所述第二概率分布作为所述行向量，所述目标三角矩阵为所述概率矩阵对应的下三角矩阵，其中，概率矩阵对应的下三角矩阵即为将该概率矩阵中主对角线以上的元素值都设置为零的所得的矩阵；
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置的示例性实现方式，包括：
将所述目标元素在所述概率矩阵中的位置的列编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的行编号确定为所述终止位置。
接上述示例，在先语句为：你喜欢吃什么，待补全语句为：宫保鸡丁，若将第一概率分布作为列向量，第二概率分布作为行向量，可以得出6*6的概率矩阵，则其对应的目标三角矩阵如下所示：
则从该目标三角矩阵中确定出的目标元素为元素值最大的元素A30，则将元素A30的列编号0确定为目标片段的起始位置，行编号3确定为目标片段的终止位置。若确定出的目标元素为多个，则可以通过上述方式分别确定出每一目标元素对应的目标片段的起始位置和终止位置。
由此，通过上述技术方案，可以通过概率矩阵对目标片段的起始位置和终止位置进行综合分析，并且通过在概率矩阵对应的目标三角矩阵中确定目标元素，可以保证确定出的起始位置小于终止位置，既可以有效降低确定目标片段所对应的数据处理量，又可以提高确定出的目标片段的准确性。另外，通过概率矩阵中目标元素的位置可以简单快捷地确定出目标片段的起始位置和终止位置，从而可以提高确定目标片段的效率和语句补全的效率，保证人机交互过程中对话内容的准确理解的同时，提高人机交互中对话的响应速度，提升用户使用体验。
在步骤23中，将在先语句中从起始位置起至终止位置的片段确定为目标片段。
示例地，如上文所示，在先语句中元素{你，喜，欢，吃，什，么}对应的位置序列为{0，1，2，3，4，5}，确定出的起始位置为0，终止位置为3，则目标片段即为“你喜欢吃”。
由此，通过上文所述技术方案，可以简捷、准确地从在先语句中抽取出目标片段，并且通过对目标片段的起始位置和终止位置的概率分布的综合分析，可以提高确定出的目标片段的准确性，与相关技术中基于在先语句对待补全语句重写相比，可以有效简化语句补全方法所需的时长和数据量，从而可以提高语句补全方法的效率，进而为提高人机交互的响应效率提供支持，提升用户使用体验。
在一种可能的实施例中，如在先语句为：周末去哪里逛街；待补全语句为：西单。在该情况下会确定出多个目标片段，因此，本公开还提供以下实施例。在确定出的所述目标片段为多个的情况下，则需要分别确定出与该目标片段对应的插入位置，相应地，在步骤14中，根据插入位置的概率分布确定待补全语句对应的目标插入位置的示例性实现方式，如图3所示，该步骤可以包括：
在步骤31中，根据插入位置的概率分布，按照每一所插入位置对应的概率由大至小的顺序，将排序前N的插入位置作为候选插入位置，其中，N为大于或等于所述目标片段的总数的整数。
接上述示例，确定出的待补全语句“西单”对应的插入位置的概率分布可以分别为{0.4,0.1,0.45}，确定出的目标片段为“周末去”，“逛街”，则N可以取值为2，其确定出的位置为0和2，即句首和句尾。
在步骤32中，分别计算每一目标片段对应的向量与候选插入位置对应的向量之间的相似度。
其中，可以通过计算向量之间的夹角的cos值以确定向量之间的相似度。其中，目标片段对应的向量和候选插入位置对应的向量可以基于拼接语句编码向量得出。如可以将拼接语句编码向量中的目标片段的字符对应的向量确定为该目标片段对应的向量，可以根据该拼接语句编码向量中候选插入位置对应的字符与该目标片段的字符所形成的拼接向量确定出候选插入位置对应的向量，如插入位置为0，其对应的字符为“西”，插入位置对应的向量可以是“周末去西”对应的向量，从而可以确定出每一目标片段对应的向量与候选插入位置对应的向量之间的相似度。
在步骤33中，针对每一目标片段，将与该目标片段对应的相似度最大的候选插入位置确定为该目标片段对应的插入位置，其中，确定出的多个所述目标片段对应的插入位置作为所述待补全语句对应的目标插入位置。
接上述示例，确定出与“周末去”对应的相似度最大的候选插入位置为0，确定出与“逛街”对应的相似度最大的候选插入位置为3，则可以将0和3确定为待补全语句对应的目标插入位置，即确定出待补全语句中的多个插入位置。
由此，通过上文所述技术方案，在确定出的目标片段为多个的情况下，首先根据插入位置的概率分布确定出多个可能的候选插入位置，从而可以保证确定出的候选插入位置的准确性。同时通过确定目标片段与候选插入位置对应的向量之间的相似性，从而可以确定出多个候选插入位置与目标片段的匹配程度，从而可以进一步保证确定出的目标插入位置的准确性和合理性，为后续补全对应的待补全语句提供准确的数据支持，保证语句补全的效率和准确度。
在确定出的目标片段的个数为一个时，可以直接将对应于最大概率值的插入位置确定为该目标片段的插入位置，即待补全语句对应的目标插入位置，从而可以进一步提高目标插入位置确定的效率。
在一种可能的实施例中，在步骤15中，根据目标片段、目标插入位置对待补全语句进行补全，以获得与待补全语句对应的目标补全语句的示例性实现方式如下，该步骤可以包括：
在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，获得补全语句。
如上述示例中，在先语句为：你喜欢吃什么，待补全语句为：宫保鸡丁，确定出的目标片段为“你喜欢吃”，目标插入位置为0，则对应的补全语句为：你喜欢吃宫保鸡丁。
如上述示例中，在先语句为：周末去哪里逛街，待补全语句为：西单，确定出的目标片段为“周末去”，其对应的插入位置为0，另一目标片段为“逛街”，其对应的插入位置为2，则对应的补全语句为：周末去西单逛街。
之后，可以对所述补全语句进行规则匹配，其中，每一规则中包括一对词语，该规则中包括需要进行转换的一对词语，例如“你-我”，“这-那”等。
根据匹配到的目标规则，将所述补全语句中的与所述目标规则匹配的词语替换为所述目标规则中的另一词语，获得所述目标补全语句。
在补全语句为“你喜欢吃宫保鸡丁”的情况下，其匹配到的目标规则为“你-我”，则可以将该补全语句中的与所述目标规则匹配的词语“你”替换为所述目标规则中的另一词语“我”，即目标补全语句为“我喜欢吃宫保鸡丁”。在补全语句为“周末去西单逛街”的情况下，未匹配到对应的规则，则表示此时无需替换。
由此，通过上文所述技术方案，可以通过规则对对话中需要进行人称转换、场景转换等的词语进行设置，从而在基于目标片段和目标插入位置获得补全语句后，可以基于该规则进一步检测补全对话中是否存在需要进行转换的词语，从而可以保证获得的目标补全语句的准确性，同时使得目标补全语句符合自然语言规范，保证人机对话的流畅度，进一步提升用户使用体验。
本公开还提供一种语句补全装置，如图4所示，所述装置10包括：
获取模块100，被配置为获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
输入模块200，被配置为将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
第一确定模块300，被配置为根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
第二确定模块400，被配置为根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
补全模块500，被配置为根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
可选地，所述第一确定模块包括：
第一计算子模块，被配置为将所述第一概率分布和所述第二概率分布中的一者作为行向量，另一者作为列向量，并进行矩阵相乘，以获得所述目标片段对应的概率矩阵；
第一确定子模块，被配置为根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置；
第二确定子模块，被配置为将所述在先语句中从所述起始位置起至所述终止位置的片段确定为所述目标片段。
可选地，所述第一确定子模块包括：
第三确定子模块，被配置为通过以下任一方式确定所述概率矩阵中的目标元素：
将所述概率矩阵中的目标三角矩阵中的元素值最大的元素确定为目标元素；
将所述概率矩阵中的目标三角矩阵中的元素值大于预设阈值的元素确定为目标元素；
第四确定子模块，被配置为针对确定出的每一所述目标元素，根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置。
可选地，所述第一概率分布作为所述行向量，所述第二概率分布作为所述列向量，所述目标三角矩阵为所述概率矩阵对应的上三角矩阵；
相应地，所述第四确定子模块被配置为：
将所述目标元素在所述概率矩阵中的位置的行编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的列编号确定为所述终止位置；
或者，
所述第一概率分布作为所述列向量，所述第二概率分布作为所述行向量，所述目标三角矩阵为所述概率矩阵对应的下三角矩阵；
相应地，所述第四确定子模块被配置为：
将所述目标元素在所述概率矩阵中的位置的列编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的行编号确定为所述终止位置。
可选地，在确定出的所述目标片段为多个的情况下，所述第二确定模块包括：
第五确定子模块，被配置为根据所述插入位置的概率分布，按照每一所述插入位置对应的概率由大至小的顺序，将排序前N的插入位置作为候选插入位置，其中，N为大于或等于所述目标片段的总数的整数；
第二计算子模块，被配置为分别计算每一所述目标片段对应的向量与所述候选插入位置对应的向量之间的相似度；
第六确定子模块，被配置为针对每一所述目标片段，将与该目标片段对应的相似度最大的候选插入位置确定为该目标片段对应的插入位置，其中，确定出的多个所述目标片段对应的插入位置作为所述待补全语句对应的目标插入位置。
可选地，所述补全模块包括：
补全子模块，被配置为在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，获得补全语句；
匹配子模块，被配置为对所述补全语句进行规则匹配，其中，每一规则中包括一对词语；
替换子模块，被配置为根据匹配到的目标规则，将所述补全语句中的与所述目标规则匹配的词语替换为所述目标规则中的另一词语，获得所述目标补全语句。
可选地，所述输入模块包括：
拼接子模块，被配置为将所述待补全语句和所述在先语句进行拼接，获得拼接语句；
输入子模块，被配置为将所述拼接语句输入所述对话预测模型，以基于所述对话预测模型对所述拼接语句进行编码，获得拼接语句编码向量，并根据所述在先语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述第一概率分布、所述第二概率分布，根据所述待补全语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述插入位置的概率分布。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现本公开提供的语句补全方法的步骤。
图5是根据一示例性实施例示出的一种语句补全装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图5，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电力组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的语句补全方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到装置800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述语句补全方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述语句补全方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在另一示例性实施例中，还提供一种计算机程序产品，该计算机程序产品包含能够由可编程的装置执行的计算机程序，该计算机程序具有当由该可编程的装置执行时用于执行上述的语句补全方法的代码部分。
图6是根据一示例性实施例示出的一种语句补全装置1900的框图。例如，装置1900可以被提供为一服务器。参照图6，装置1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述语句补全方法。
装置1900还可以包括一个电源组件1926被配置为执行装置1900的电源管理，一个有线或无线网络接口1950被配置为将装置1900连接到网络，和一个输入输出(I/O)接口1958。装置1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，MacOS XTM，UnixTM，LinuxTM，FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践本公开后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种语句补全方法，其特征在于，包括：
获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
2.根据权利要求1所述的方法，其特征在于，所述根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段，包括：
将所述第一概率分布和所述第二概率分布中的一者作为行向量，另一者作为列向量，并进行矩阵相乘，以获得所述目标片段对应的概率矩阵；
根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置；
将所述在先语句中从所述起始位置起至所述终止位置的片段确定为所述目标片段。
3.根据权利要求2所述的方法，其特征在于，所述根据所述概率矩阵，确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
通过以下任一方式确定所述概率矩阵中的目标元素：
将所述概率矩阵中的目标三角矩阵中的元素值最大的元素确定为目标元素；
将所述概率矩阵中的目标三角矩阵中的元素值大于预设阈值的元素确定为目标元素；
针对确定出的每一所述目标元素，根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置。
4.根据权利要求3所述的方法，其特征在于，所述第一概率分布作为所述行向量，所述第二概率分布作为所述列向量，所述目标三角矩阵为所述概率矩阵对应的上三角矩阵；
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
将所述目标元素在所述概率矩阵中的位置的行编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的列编号确定为所述终止位置；
或者，
所述第一概率分布作为所述列向量，所述第二概率分布作为所述行向量，所述目标三角矩阵为所述概率矩阵对应的下三角矩阵；
相应地，所述根据所述目标元素在所述概率矩阵中的位置确定所述目标片段在所述在先语句中对应的起始位置和终止位置，包括：
将所述目标元素在所述概率矩阵中的位置的列编号确定为所述起始位置，将所述目标元素在所述概率矩阵中的位置的行编号确定为所述终止位置。
5.根据权利要求1所述的方法，其特征在于，在确定出的所述目标片段为多个的情况下，所述根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置，包括：
根据所述插入位置的概率分布，按照每一所述插入位置对应的概率由大至小的顺序，将排序前N的插入位置作为候选插入位置，其中，N为大于或等于所述目标片段的总数的整数；
分别计算每一所述目标片段对应的向量与所述候选插入位置对应的向量之间的相似度；
针对每一所述目标片段，将与该目标片段对应的相似度最大的候选插入位置确定为该目标片段对应的插入位置，其中，确定出的多个所述目标片段对应的插入位置作为所述待补全语句对应的目标插入位置。
6.根据权利要求1所述的方法，其特征在于，所述根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句，包括：
在所述待补全语句的所述目标插入位置处插入与所述目标插入位置对应的所述目标片段，获得补全语句；
对所述补全语句进行规则匹配，其中，每一规则中包括一对词语；
根据匹配到的目标规则，将所述补全语句中的与所述目标规则匹配的词语替换为所述目标规则中的另一词语，获得所述目标补全语句。
7.根据权利要求1所述的方法，其特征在于，所述将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，包括：
将所述待补全语句和所述在先语句进行拼接，获得拼接语句；
将所述拼接语句输入所述对话预测模型，以基于所述对话预测模型对所述拼接语句进行编码，获得拼接语句编码向量，并根据所述在先语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述第一概率分布、所述第二概率分布，根据所述待补全语句的长度对所述拼接语句编码向量进行归一化处理，以确定所述插入位置的概率分布。
8.一种语句补全装置，其特征在于，包括：
获取模块，被配置为获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
输入模块，被配置为将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
第一确定模块，被配置为根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
第二确定模块，被配置为根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
补全模块，被配置为根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
9.一种语句补全装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取对话中的待补全语句和所述对话中在所述待补全语句之前的在先语句；
将所述待补全语句和所述在先语句输入对话预测模型，以获得所述在先语句对应的第一概率分布和第二概率分布，以及所述待补全语句对应的插入位置的概率分布，其中，所述第一概率分布用于表征所述在先语句中的每一个字作为待截取的目标片段的起始位置的概率，所述第二概率分布用于表征所述在先语句中的每一个字作为所述目标片段的终止位置的概率；
根据所述第一概率分布和所述第二概率分布，从所述在先语句中确定所述目标片段；
根据所述插入位置的概率分布确定所述待补全语句对应的目标插入位置；
根据所述目标片段、所述目标插入位置对所述待补全语句进行补全，以获得与所述待补全语句对应的目标补全语句。
10.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，该程序指令被处理器执行时实现权利要求1-7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011025264.4A CN112035651B (zh) | 2020-09-25 | 2020-09-25 | 语句补全方法、装置及计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011025264.4A CN112035651B (zh) | 2020-09-25 | 2020-09-25 | 语句补全方法、装置及计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112035651A true CN112035651A (zh) | 2020-12-04 |
| CN112035651B CN112035651B (zh) | 2024-04-09 |
Family
ID=73575141
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011025264.4A Active CN112035651B (zh) | 2020-09-25 | 2020-09-25 | 语句补全方法、装置及计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112035651B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112883712A (zh) * | 2021-02-05 | 2021-06-01 | 中国人民解放军南部战区总医院 | 一种电子病历的智能输入方法及装置 |
| CN113589957A (zh) * | 2021-07-30 | 2021-11-02 | 广州赛宸信息技术有限公司 | 一种快速输入法律法规专业词语的方法及系统 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108334487A (zh) * | 2017-07-14 | 2018-07-27 | 腾讯科技（深圳）有限公司 | 缺失语意信息补全方法、装置、计算机设备和存储介质 |
| US20180300312A1 (en) * | 2017-04-13 | 2018-10-18 | Baidu Usa Llc | Global normalized reader systems and methods |
| US20180350354A1 (en) * | 2015-12-23 | 2018-12-06 | Motorola Solutions, Inc. | Methods and system for analyzing conversational statements and providing feedback in real-time |
| CN110427625A (zh) * | 2019-07-31 | 2019-11-08 | 腾讯科技（深圳）有限公司 | 语句补全方法、装置、介质及对话处理系统 |
| US20200012953A1 (en) * | 2018-07-03 | 2020-01-09 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for generating model |
| CN111507088A (zh) * | 2020-04-15 | 2020-08-07 | 深圳前海微众银行股份有限公司 | 语句补全方法、设备及可读存储介质 |
-
2020
- 2020-09-25 CN CN202011025264.4A patent/CN112035651B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180350354A1 (en) * | 2015-12-23 | 2018-12-06 | Motorola Solutions, Inc. | Methods and system for analyzing conversational statements and providing feedback in real-time |
| US20180300312A1 (en) * | 2017-04-13 | 2018-10-18 | Baidu Usa Llc | Global normalized reader systems and methods |
| CN108334487A (zh) * | 2017-07-14 | 2018-07-27 | 腾讯科技（深圳）有限公司 | 缺失语意信息补全方法、装置、计算机设备和存储介质 |
| US20200012953A1 (en) * | 2018-07-03 | 2020-01-09 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for generating model |
| CN110427625A (zh) * | 2019-07-31 | 2019-11-08 | 腾讯科技（深圳）有限公司 | 语句补全方法、装置、介质及对话处理系统 |
| CN111507088A (zh) * | 2020-04-15 | 2020-08-07 | 深圳前海微众银行股份有限公司 | 语句补全方法、设备及可读存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 户保田: "基于深度神经网络的文本表示及其应用", 博士学位论文, 15 February 2017 (2017-02-15), pages 1 - 96 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112883712A (zh) * | 2021-02-05 | 2021-06-01 | 中国人民解放军南部战区总医院 | 一种电子病历的智能输入方法及装置 |
| CN113589957A (zh) * | 2021-07-30 | 2021-11-02 | 广州赛宸信息技术有限公司 | 一种快速输入法律法规专业词语的方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112035651B (zh) | 2024-04-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110580290B (zh) | 用于文本分类的训练集的优化方法及装置 | |
| CN111460150B (zh) | 一种分类模型的训练方法、分类方法、装置及存储介质 | |
| CN107564526B (zh) | 处理方法、装置和机器可读介质 | |
| CN111461304B (zh) | 分类神经网络的训练方法、文本分类方法、装置及设备 | |
| CN109615006B (zh) | 文字识别方法及装置、电子设备和存储介质 | |
| CN109858614B (zh) | 神经网络训练方法及装置、电子设备和存储介质 | |
| CN114240882A (zh) | 缺陷检测方法及装置、电子设备和存储介质 | |
| CN110069624B (zh) | 文本处理方法及装置 | |
| CN110781813A (zh) | 图像识别方法及装置、电子设备和存储介质 | |
| CN110633470A (zh) | 命名实体识别方法、装置及存储介质 | |
| CN111160047A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
| CN111382748A (zh) | 图像翻译方法、装置及存储介质 | |
| CN112035651B (zh) | 语句补全方法、装置及计算机可读存储介质 | |
| CN112735396A (zh) | 语音识别纠错方法、装置及存储介质 | |
| CN110941727B (zh) | 一种资源推荐方法、装置、电子设备及存储介质 | |
| CN113920293A (zh) | 信息识别方法、装置、电子设备及存储介质 | |
| CN111400443B (zh) | 信息处理方法、装置及存储介质 | |
| CN108733657B (zh) | 神经机器翻译中注意力参数的修正方法、装置及电子设备 | |
| CN111428806B (zh) | 图像标签确定方法、装置、电子设备及存储介质 | |
| CN111832297A (zh) | 词性标注方法、装置及计算机可读存储介质 | |
| CN110297970B (zh) | 信息推荐模型训练方法及装置 | |
| CN109460458B (zh) | 查询改写意图的预测方法及装置 | |
| CN111324214B (zh) | 一种语句纠错方法和装置 | |
| CN113115104B (zh) | 视频处理方法、装置、电子设备及存储介质 | |
| CN114462410A (zh) | 实体识别方法、装置、终端及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |