CN108090127A - 建立问答文本评价模型与评价问答文本的方法、装置 - Google Patents

Abstract

本发明提供一种建立问答文本评价模型的方法，该方法包括：获取已标记问答得分的问答文本对；通过语义评价模型获取所述问答文本对的语义得分；提取所述问答文本对的文本特征；将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。本发明提供一种评价问答文本的方法，该方法包括：获取待识别的问答文本对；通过语义评价模型获取所述问答文本对的语义得分；提取所述问答文本对的文本特征；将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。本发明能够减少评价问答文本时所需的成本，并提高对优质问答文本的识别效果。

Description

建立问答文本评价模型与评价问答文本的方法、装置

【技术领域】

本发明涉及自然语言处理技术，尤其涉及一种建立问答文本评价模型与评价问答文本的方法、装置。

【背景技术】

现有网页中存在大量的问答文本，其中问答文本涉及各个领域，例如医学领域、科技领域等各个专业领域。而在现有网页中存在的各种问答文本的质量参差不齐，因此无法给用户带来良好的借鉴意义。现有技术在对问答文本中的优质文本进行鉴别时，通常采用人工定制规则的方法进行鉴别。但是，基于人工定制规则的方法不具有泛化能力，对于定制规则以外的问答数据无法识别是否为优质问答数据，因此对优质问答数据的覆盖率较低；此外，人工定制规则的成本较高。因此，亟需提供一种能够有效评价问答问答的方法。

【发明内容】

有鉴于此，本发明提供了一种建立问答文本评价模型与评价问答文本的方法和装置，用于减少评价问答文本的成本，并提高对优质问答文本的识别效果。

本发明为解决技术问题所采用的技术方案是提供一种建立问答文本评价模型的方法，所述方法包括：获取已标记问答得分的问答文本对；通过语义评价模型获取所述问答文本对的语义得分；提取所述问答文本对的文本特征；将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

根据本发明一优选实施例，所述语义评价模型是通过如下方式预先训练得到的：获取已标记语义得分的问答文本对，所述问答文本对中包含提问文本以及回答文本；分别对提问文本以及回答文本进行切词处理；将所述提问文本以及回答文本的切词结果作为输入，将所述已标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。

根据本发明一优选实施例，所述问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

根据本发明一优选实施例，所述分类模型为迭代决策树模型。

根据本发明一优选实施例，所述神经网络模型为基于词袋的深度神经网络模型。

本发明为解决技术问题所采用的技术方案是提供一种建立问答文本评价模型的装置，所述装置包括：第一获取单元，用于获取已标记问答得分的问答文本对；第一处理单元，用于通过语义评价模型获取所述问答文本对的语义得分；第二处理单元，用于提取所述问答文本对的文本特征；第一训练单元，用于将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

根据本发明一优选实施例，所述装置还包括第二训练单元，用于通过如下方式预先训练得到语义评价模型：获取已标记语义得分的问答文本对，所述问答文本对中包含提问文本以及回答文本；分别对提问文本以及回答文本进行切词处理；将所述提问文本以及回答文本的切词结果作为输入，将所述已标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。

根据本发明一优选实施例，所述第二处理单元提取的问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

本发明为解决技术问题所采用的技术方案是提供一种评价问答文本的方法，所述方法包括：获取待识别的问答文本对；通过语义评价模型获取所述问答文本对的语义得分；提取所述问答文本对的文本特征；将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

根据本发明一优选实施例，该方法进一步包括：判断所述问答得分是否满足预设要求，若满足，则确定所述问答文本对为优质问答数据。

根据本发明一优选实施例，所述问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

本发明为解决技术问题所采用的技术方案是提供一种评价问答文本的装置，所述装置包括：第二获取单元，用于获取待识别的问答文本对；第三处理单元，用于通过语义评价模型获取所述问答文本对的语义得分；第四处理单元，用于提取所述问答文本对的文本特征；评价单元，用于将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

根据本发明一优选实施例，所述评价单元还用于进一步执行：判断所述问答得分是否满足预设要求，若满足，则确定所述问答文本对为优质问答数据。

根据本发明一优选实施例，所述第四处理单元提取的问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

由以上技术方案可以看出，本发明将问答文本对的语义信息和文本特征相结合，通过预先建立的问答文本评价模型对问答文本对进行评价的方式，减少了在评价问答文本时所需的成本，并提高了对优质问答文本的识别效果。

【附图说明】

图1为本发明一实施例提供的建立问答文本评价模型的方法流程图；

图2为本发明一实施例提供的基于词袋的深度神经网络模型的框架图；

图3为本发明一实施例提供的评价问答文本的方法流程图；

图4为本发明一实施例提供的建立问答文本评价模型的装置结构图；

图5为本发明一实施例提供的评价问答文本的装置结构图；

图6为本发明一实施例提供的计算机系统/服务器的框图。

【具体实施方式】

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

应当理解，本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

本发明的核心思想在于：通过利用问答文本对的语义信息以及文本特征，使用预先训练得到的问答文本评价模型确定该问答文本对的问答得分，进而根据该问答得分确定该问答文本对是否为优质问答数据。通过该评价方法，能够有效地识别各领域中优质的问答数据，相比于使用简单的人工定制规则来说，本发明所提供的评价方法具有更强的识别能力以及泛化能力。可以理解的是，当前的问答数据涵盖各个专业领域，例如医疗领域、科技领域、法律领域等，本文以评价的问答文本对为医疗领域的问答数据为例进行说明。

图1为本发明一实施例提供的建立问答文本评价模型的方法流程图，如图1中所示，所述方法包括：

在101中，获取已标记问答得分的问答文本对。

在本步骤中，所获取的问答文本对中包含有提问文本以及回答文本。其中，提问文本记录用户对所提问题的描述，回答文本记录其他用户对用户所提问题的回答的描述。另外，本步骤中所获得的问答文本对已经预先标记其对应的问答得分，通过该标记的问答得分能够得知该问答文本对是否为优质的问答数据。

在102中，通过语义评价模型获取所述问答文本对的语义得分。

在本步骤中，根据步骤101所获取的问答文本对，获取对应该问答文本对的语义得分。其中，所获取的语义得分能够反映该问答文本对中提问文本与回答文本之间的语义相关信息。

具体地，本步骤通过语义评价模型，获取问答文本对中所包含提问文本与回答文本之间的语义得分。根据语义评价模型所得到的语义得分，能够确定问答文本对中提问文本与回答文本之间的语义相关信息。若问答文本对的语义得分较高，则表明该问答文本对中提问文本与回答文本之间的语义信息接近；若语义得分较低，则表明两者的语义信息不接近。其中，本步骤中所使用的语义评价模型是预先训练得到的。

具体地，语义评价模型可以采用如下方式预先训练得到：首先获取已标记语义得分的问答文本对；然后分别对问答文本对中的提问文本以及回答文本进行切词处理；最后将提问文本以及回答文本的切词结果作为输入，将该问答文本对所标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。其中，神经网络模型的训练目标为最小化语义得分模型的损失值，该损失值为神经网络模型输出的问答文本对的语义得分与该问答文本对标记的语义得分之间的误差。在训练完成后，该语义评价模型便能够根据所输入的问答文本对得到反映该问答文本对的语义相关信息的语义得分。

具体地，该神经网络模型为基于词袋(bow)的深度神经网络模型，该模型的框架图如图2所示，从下到上，分别为嵌入层、词袋加和层、距离层、全连接层和输出层。其中，嵌入层用于分别将提问文本的切词结果与回答文本的切词结果中所包含的词语转化成词向量；词袋加和层用于将提问文本与回答文本中所包含词语的词向量加和得到一个向量；距离层用于计算提问文本所对应的加和词向量与回答文本所对应的加和词向量之间的距离；全连接层则用于对由距离层所得到的向量之间的距离进行线性变换，得到语义得分；输出层将全连接层所得到的语义得分进行输出。

在103中，提取所述问答文本对的文本特征。

在本步骤中，所提取的问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及回答文本和提问文本之间的匹配度中的至少一种。在本步骤提取问答文本对的文本特征之前，还需要对问答文本中的提问文本以及回答文本进行切词处理，在进行切词处理后，基于切词结果提取问答文本对的上述文本特征。

具体地，在提取问答文本对的文本特征时，可以分别采用以下方式：

(1)预先建立专业实体词词典，提取提问文本中专业实体词的数量。

预先建立专业实体词词典，该专业实体词词典中包含各领域中的专业词。举例来说，对于医疗领域来说，该词典中可以包含疾病名称、药物名称、症状名称等词语；对于法律领域来说，则该词典中可以包含法条名称、处罚名称等词语。因此，在对提问文本进行切词处理获取切词结果后，通过查看该专业实体词词典，便能够确定该提问文本中专业实体词的数量。

可以理解的是，所建立的专业实体词词典可以是一个覆盖多个专业领域的专业实体词词典；也可以是对应不同的专业领域，分别有一个专业实体词词典，本发明对此不进行限定。

(2)预先建立意图词词典，提取回答文本中意图词的数量。

回答文本中的意图词，表示该回答文本中指代目的的词语。因此，预先建立的意图词词典中包含各领域中指代目的的词语。以医疗领域为例，回答文本中的意图词可以例如为“如何治疗”、“怎样服用”、“如何止疼”等；以法律领域为例，回答文本中的意图词可以例如为“如何上诉”、“向上级申诉”等。因此，在对回答文本进行切词处理获得切词结果后，通过查看该意图词词典，便能够确定该回答文本中意图词的数量。

可以理解的是，所建立的意图词词词典可以是一个覆盖多个专业领域的意图词词典；也可以是对应不同的专业领域，分别有一个意图词词典，本发明对此不进行限定。

(3)根据回答文本的切词结果，提取回答文本的长度。

根据对回答文本的切词结果，对该回答文本中所包含词语的数量进行统计，将统计结果作为该回答文本的长度。或者可以为直接统计回答文本中所包含字符的数量，例如汉字或者英文字母的数量，作为回答文本的长度。

(4)根据提问文本以及回答文本的切词结果，提取提问文本与回答文本之间的匹配度。

在对提问文本以及回答文本进行切词处理后，获取各文本中所包含的词语，然后计算提问文本和问答文本中词语重叠的比例，将该比例作为提问文本与回答文本之间的匹配度。

可以理解的是，所提取的问答文本对的文本特征不限于上述的4种，例如还可以包括提问文本的长度、回答文本中专业实体词的数量等。

在104中，将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

在本步骤中，将步骤102所得到的语义得分以及步骤103所得到的文本特征进行拼接，将拼接得到的特征向量作为分类模型的输入，将问答文本对已标记的问答得分作为分类模型的输出，对分类模型进行训练，从而得到问答文本评价模型。其中，该分类模型的训练目标为最小化问答文本评价模型的损失值，该损失值为分类模型输出的问答得分与该问答文本对所标记的问答得分之间的误差。

具体地，该分类模型为迭代决策树模型，还可以为支持向量机或者逻辑回归模型，本发明对此不进行限定。在训练得到问答文本评价模型之后，便能够根据该模型得到所输入问答文本对的问答得分。

图3为本发明一实施例提供的评价问答文本的方法流程图，如图3中所示，所述方法包括：

在301中，获取待识别的问答文本对。

在本步骤中，所获取的问答文本对中包含提问文本以及回答文本。

在302中，通过语义评价模型获取所述问答文本对的语义得分。

在本步骤中，将步骤301所获得的问答文本对包含的提问文本以及回答文本进行切词处理后，将各文本的切词结果输入语义评价模型，根据语义评价模型的输出，获取该问答文本对的语义得分。

在303中，提取所述问答文本对的文本特征。

在本步骤中，对问答文本对所包含的提问文本以及回答文本进行切词处理后，根据切词结果，获取问答文本对的文本特征。其中，所提取的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的一种。在本实施例中，优选地为提取上述全部文本特征。具体的提取过程与步骤203所使用的步骤一致，在此不进行赘述。

在304中，将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

在本步骤中，将步骤302所得到的语义得分以及步骤303所得到的文本特征进行拼接，将拼接得到的特征向量作为问答文本评价模型的输入，将问答文本评价模型的输出结果作为该问答文本对的问答得分。

在获取问答文本对的问答得分后，判断该问答得分是否满足预设要求，若满足，则确定该问答文本对为优质问答数据。可以采用预设阈值的方法，若该问答文本对的问答得分超过该预设阈值，则认为该问答文本对为优质问答数据，否则不是优质问答数据。

图4为本发明一实施例提供的建立问答文本评价模型的装置结构图，如图4中所示，该装置包括：第一获取单元41、第一处理单元42、第二处理单元43、第一训练单元44以及第二训练单元45。

第一获取单元41，用于获取已标记问答得分的问答文本对。

第一获取单元41所获取的问答文本对中包含有提问文本以及回答文本。其中，提问文本记录用户对所提问题的描述，回答文本记录其他用户对用户所提问题的回答的描述。另外，第一获取单元41所获得的问答文本对已经预先标记其对应的问答得分，通过该标记的问答得分能够得知该问答文本对是否为优质的问答数据。

第一处理单元42，用于通过语义评价模型获取所述问答文本对的语义得分。

第一处理单元42根据第一获取单元41所获取的问答文本对，获取对应该问答文本对的语义得分。其中，所获取的语义得分能够反映该问答文本对中提问文本与回答文本之间的语义相关信息。

具体地，本步骤通过语义评价模型，获取问答文本对中所包含提问文本与回答文本之间的语义得分。根据语义评价模型所得到的语义得分，能够确定问答文本对中提问文本与回答文本之间的语义相关信息。若问答文本对的语义得分较高，则表明该问答文本对中提问文本与回答文本之间的语义信息接近；若语义得分较低，则表明两者的语义信息不接近。

第二训练单元45，用于训练得到语义评价模型。

具体地，第二训练单元45可以采用如下方式预先训练得到语义评价模型：首先获取已标记语义得分的问答文本对；然后分别对问答文本对中的提问文本以及回答文本进行切词处理；最后将提问文本以及回答文本的切词结果作为输入，将该问答文本对所标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。其中，神经网络模型的训练目标为最小化语义得分模型的损失值，该损失值为神经网络模型输出的问答文本对的语义得分与该问答文本对标记的语义得分之间的误差。在训练完成后，第二训练单元45训练得到的该语义评价模型便能够根据所输入的问答文本对，得到反映该问答文本对的语义相关信息的语义得分。

第二处理单元43，用于提取所述问答文本对的文本特征。

第二处理单元43所提取的问答文本对的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及回答文本和提问文本之间的匹配度中的至少一种。在第二处理单元43提取问答文本对的文本特征之前，还需要对问答文本中的提问文本以及回答文本进行切词处理，在进行切词处理后，基于切词结果提取问答文本对的上述文本特征。

具体地，第二处理单元43在提取问答文本对的文本特征时，可以分别采用以下方式：

(1)预先建立专业实体词词典，提取提问文本中专业实体词的数量。

预先建立专业实体词词典，该专业实体词词典中包含各领域中的专业词。举例来说，对于医疗领域来说，该词典中可以包含疾病名称、药物名称、症状名称等词语；对于法律领域来说，则该词典中可以包含法条名称、处罚名称等词语。因此，第二处理单元43在对提问文本进行切词处理获取切词结果后，通过查看该预先建立的专业实体词词典，便能够确定该提问文本中专业实体词的数量。

可以理解的是，所建立的专业实体词词典可以是一个覆盖多个专业领域的专业实体词词典；也可以是对应不同的专业领域，分别有一个专业实体词词典，本发明对此不进行限定。

(2)预先建立意图词词典，提取回答文本中意图词的数量。

回答文本中的意图词，表示该回答文本中指代目的的词语。因此，预先建立的意图词词典中包含各领域中指代目的的词语。以医疗领域为例，回答文本中的意图词可以例如为“如何治疗”、“怎样服用”、“如何止疼”等；以法律领域为例，回答文本中的意图词可以例如为“如何上诉”、“向上级申诉”等。因此，第二处理单元43在对回答文本进行切词处理获得切词结果后，通过查看该意图词词典，便能够确定该回答文本中意图词的数量。

可以理解的是，所建立的意图词词词典可以是一个覆盖多个专业领域的意图词词典；也可以是对应不同的专业领域，分别有一个意图词词典，本发明对此不进行限定。

(3)根据回答文本的切词结果，提取回答文本的长度。

根据对回答文本的切词结果，第二处理单元43对该回答文本中所包含词语的数量进行统计，将统计结果作为该回答文本的长度。或者可以为第二处理单元43直接统计回答文本中所包含字符的数量，例如汉字或者英文字母的数量，作为回答文本的长度。

(4)根据提问文本以及回答文本的切词结果，提取提问文本与回答文本之间的匹配度。

在对提问文本以及回答文本进行切词处理后，第二处理单元43获取各文本中所包含的词语，通过计算提问文本和问答文本中词语重叠的比例，将该计算所得到的比例作为提问文本与回答文本之间的匹配度。

可以理解的是，第二处理单元43所提取的问答文本对的文本特征不限于上述的4种，例如还可以包括提问文本的长度、回答文本中专业实体词的数量等。

第一训练单元44，用于将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

第一训练单元44将第一处理单元42所得到的语义得分以及第二处理单元43所得到的文本特征进行拼接，将拼接得到的特征向量作为分类模型的输入，将问答文本对已标记的问答得分作为分类模型的输出，对分类模型进行训练，从而得到问答文本评价模型。其中，该分类模型的训练目标为最小化问答文本评价模型的损失值，该损失值为分类模型输出的问答得分与该问答文本对所标记的问答得分之间的误差。

具体地，该分类模型为迭代决策树模型，还可以为支持向量机或者逻辑回归模型，本发明对此不进行限定。在第一训练单元44训练得到问答文本评价模型之后，便能够根据所输入问答文本对得到对应的问答得分。

图5为本发明一实施例提供的评价问答文本的装置结构图，如图5中所示，所述装置包括：第二获取单元51、第三处理单元52、第四处理单元53以及评价单元54。

第二获取单元51，用于获取待识别的问答文本对。

第二获取单元51所获取的问答文本对中包含提问文本以及回答文本。

第三处理单元52，用于通过语义评价模型获取所述问答文本对的语义得分。

第三处理单元52将第二获取单元51所获得的问答文本对包含的提问文本以及回答文本进行切词处理后，将各文本的切词结果输入语义评价模型，根据语义评价模型的输出，获取该问答文本对的语义得分。

第四处理单元53，用于提取所述问答文本对的文本特征。

第四处理单元53对问答文本对所包含的提问文本以及回答文本进行切词处理后，根据切词结果，获取问答文本对的文本特征。其中，第四处理单元53所提取的文本特征包括：提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的一种。在本实施例中，优选地为提取上述全部文本特征。具体的提取过程与第二处理单元43所使用的步骤一致，在此不进行赘述。

评价单元54，用于将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

评价单元54将第三处理单元52所得到的语义得分以及第四处理单元53所得到的文本特征进行拼接，将拼接得到的特征向量作为问答文本评价模型的输入，将问答文本评价模型的输出结果作为该问答文本对的问答得分。

评价单元54在获取问答文本对的问答得分后，还进一步判断该问答得分是否满足预设要求，若满足，则评价单元54确定该问答文本对为优质问答数据。评价单元54可以采用预设阈值的方法，若该问答文本对的问答得分超过该预设阈值，则评价单元54认为该问答文本对为优质问答数据，否则不是优质问答数据。

图6示出了适于用来实现本发明实施方式的示例性计算机系统/服务器012的框图。图6显示的计算机系统/服务器012仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统/服务器012以通用计算设备的形式表现。计算机系统/服务器012的组件可以包括但不限于：一个或者多个处理器或者处理单元016，系统存储器028，连接不同系统组件(包括系统存储器028和处理单元016)的总线018。

总线018表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

计算机系统/服务器012典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器012访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器028可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)030和/或高速缓存存储器032。计算机系统/服务器012可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统034可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线018相连。存储器028可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块042的程序/实用工具040，可以存储在例如存储器028中，这样的程序模块042包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块042通常执行本发明所描述的实施例中的功能和/或方法。

计算机系统/服务器012也可以与一个或多个外部设备014(例如键盘、指向设备、显示器024等)通信，在本发明中，计算机系统/服务器012与外部雷达设备进行通信，还可与一个或者多个使得用户能与该计算机系统/服务器012交互的设备通信，和/或与使得该计算机系统/服务器012能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口022进行。并且，计算机系统/服务器012还可以通过网络适配器020与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器020通过总线018与计算机系统/服务器012的其它模块通信。应当明白，尽管图中未示出，可以结合计算机系统/服务器012使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元016通过运行存储在系统存储器028中的程序，从而执行各种功能应用以及数据处理，例如实现一种建立问答文本评价模型的方法，可以包括：

获取已标记问答得分的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

还可以实现一种评价问答文本的方法，可以包括：

获取待识别的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

上述的计算机程序可以设置于计算机存储介质中，即该计算机存储介质被编码有计算机程序，该程序在被一个或多个计算机执行时，使得一个或多个计算机执行本发明上述实施例中所示的方法流程和/或装置操作。例如，被上述一个或多个处理器执行的方法流程，可以包括：

获取已标记问答得分的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

还可以包括：

获取待识别的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

随着时间、技术的发展，介质含义越来越广泛，计算机程序的传播途径不再受限于有形介质，还可以直接从网络下载等。可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

利用本发明所提供的技术方案，将问答文本对的语义信息和文本特征相结合，通过预先建立的问答文本评价模型对问答文本对进行评价，从而减少了在评价问答文本时所需的成本，并提高了对优质问答文本的识别效果。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (16)

1.一种建立问答文本评价模型的方法，其特征在于，所述方法包括：

获取已标记问答得分的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

2.根据权利要求1所述的方法，其特征在于，所述语义评价模型是通过如下方式预先训练得到的：

获取已标记语义得分的问答文本对，所述问答文本对中包含提问文本以及回答文本；

分别对提问文本以及回答文本进行切词处理；

将所述提问文本以及回答文本的切词结果作为输入，将所述已标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。

3.根据权利要求1所述的方法，其特征在于，所述问答文本对的文本特征包括：

提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

4.根据权利要求1所述的方法，其特征在于，所述分类模型为迭代决策树模型。

5.根据权利要求2所述的方法，其特征在于，所述神经网络模型为基于词袋的深度神经网络模型。

6.一种评价问答文本的方法，其特征在于，所述方法包括：

获取待识别的问答文本对；

通过语义评价模型获取所述问答文本对的语义得分；

提取所述问答文本对的文本特征；

将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

7.根据权利要求6所述的方法，其特征在于，该方法进一步包括：

判断所述问答得分是否满足预设要求，若满足，则确定所述问答文本对为优质问答数据。

8.根据权利要求6所述的方法，其特征在于，所述问答文本对的文本特征包括：

提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

9.一种建立问答文本评价模型的装置，其特征在于，所述装置包括：

第一获取单元，用于获取已标记问答得分的问答文本对；

第一处理单元，用于通过语义评价模型获取所述问答文本对的语义得分；

第二处理单元，用于提取所述问答文本对的文本特征；

第一训练单元，用于将所述语义得分以及文本特征作为输入，将所述已标记的问答得分作为输出，训练分类模型，得到问答文本评价模型。

10.根据权利要求9所述的装置，其特征在于，所述装置还包括第二训练单元，用于通过如下方式预先训练得到语义评价模型：

获取已标记语义得分的问答文本对，所述问答文本对中包含提问文本以及回答文本；

分别对提问文本以及回答文本进行切词处理；

将所述提问文本以及回答文本的切词结果作为输入，将所述已标记的语义得分作为输出，训练神经网络模型，得到语义评价模型。

11.根据权利要求9所述的装置，其特征在于，所述第二处理单元提取的问答文本对的文本特征包括：

提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

12.一种评价问答文本的装置，其特征在于，所述装置包括：

第二获取单元，用于获取待识别的问答文本对；

第三处理单元，用于通过语义评价模型获取所述问答文本对的语义得分；

第四处理单元，用于提取所述问答文本对的文本特征；

评价单元，用于将所述语义得分与文本特征作为问答文本评价模型的输入，将所述问答文本评价模型的输出结果作为所述问答文本对的问答得分。

13.根据权利要求12所述的装置，其特征在于，所述评价单元还用于进一步执行：

判断所述问答得分是否满足预设要求，若满足，则确定所述问答文本对为优质问答数据。

14.根据权利要求12所述的装置，其特征在于，所述第四处理单元提取的问答文本对的文本特征包括：

提问文本中专业实体词的数量、回答文本中意图词的数量、回答文本的长度以及提问文本与回答文本的匹配度中的至少一种。

15.一种设备，其特征在于，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。

16.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8中任一所述的方法。