CN108509519A - 基于深度学习的通用知识图谱增强问答交互系统及方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的通用知识图谱增强问答交互系统及方法，其中，系统包括：扩展知识图谱混合问答模块用于得到扩展知识图谱；知识库问题生成模块分别生成不同问题对应的答案，使得生成多个问题‑答案对；web交互界面，用于获取用户问题；知识图谱问答模块，获取用户问题对应的答案的类型，并得到用户问题对应的数值向量；知识深度推理模块，用于对用户问题对应的答案的类型和用户问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与多个问题‑答案对得到用户问题的目标答案。该系统可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力，提高生成答案的准确性。

Description

基于深度学习的通用知识图谱增强问答交互系统及方法

技术领域

本发明涉及机器学习技术领域，特别涉及一种基于深度学习的通用知识图谱增强问答交互系统机方法。

背景技术

随着大数据和知识工程的发展，将逐渐形成数据驱动与知识驱动相结合的计算范式，越来越多的通过信息抽取、知识融合及知识加工等技术将海量的非结构化数据构建为知识图谱，使得海量的数据信息表达成更接近人类认知世界的形式，提供了一种更好地组织、管理和理解海量信息的能力。基于知识图谱的问答系统成为学术界和工业界的研究和应用热点方向。目前面向知识图谱的问答系统常用的是组合范畴语法、依存组合语法等问句语义解析方法，问题模板匹配，一阶逻辑表示，SPARQL查询等方法。

自然语言形式的问答正逐渐成为一种人与机器进行交互的新趋势，处于从文本关键词浅层语义搜索提升到基于智能化深度问答的深刻变革中。知识图谱提供了一种更好地组织、管理和理解海量信息的能力。面向知识图谱的问答能够保证系统答案的推理性及准确性，可有效应对知识的不确定性、多样性和复杂性问题。但是目前面向知识图谱的问答系统在知识表示方法上常用的是基于产生式规则、逻辑表示、框架表示、语义网络、本体等方法，在查询检索上主要是模板匹配、语义逻辑表达式、SPARQL查询等方法。这些方法不仅需要大量人工方法的介入，而且在问句和知识的深层次语义解析上效果欠佳。在自动问答领域，将流行的深度学习模型投入应用后，其可学习特性和深层语义理解的效果得到了广泛认可，但是基于深度学习的问答仍然存在缺少训练语料资源，对复杂问题的回答能力尚且不足等问题。

相关技术提供了基于知识图谱的人机问答方法和系统，通过对用户输入的语句进行分词；对通过所述分词所得到的词进行实体抽取；利用知识图谱对通过所述实体抽取所得到的实体信息进行知识推理；以及根据所述知识推理的结果对所述用户输入的语句给出反馈。另外，相关技术公开了一种基于模板匹配技术的知识图谱问答系统和方法，通过对用户的问句进行语法分析，将语法分析后的结果到离线定义的手工模板库中寻找匹配的问句模板，根据所述的实体匹配方法和关系匹配方法，生成最终的结构化的知识图谱查询语句，根据该结构化查询语句到知识图谱中进行检索，返回最终的结果。

相关技术还公开了一种基于知识图谱的厨房领域问答方法及系统，获取问句并对问句进行分词处理得到分词结果；根据上下文特征对分词结果进行实体及属性抽取，并生成问句对应的语义逻辑表达式；根据语义逻辑表达式生成SPARQL查询语句；根据SPARQL查询语句在厨房领域知识图谱中查询得到结果并根据结果得到问句对应的答案。相关技术公开了一种基于知识图谱的自然语言问题实现方法和系统，包括：复杂问题解析单元，用于接受用户提出自然语言问题，并对问题进行解析，如果问题是复杂性问题，则将其分解为一系列的二元事实型问题；概率推导单元，用于对每一个二元事实型问题，用概率推算的方法来找它的值；知识图谱查询单元，用于从从预先训练的知识图谱中找到并返回答案。

然而，相关技术的知识图谱问答系统存在的主要问题是：目前大多数领域知识图谱问答通常采用模板匹配，语义逻辑表达式SPARQL查询，复杂问题拆解，简单推理等方法，这些方法需要消耗大量的人工成本，且处在浅层语义解析，简单知识推理的层面，主要体现在事实型问题的处理上。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的一个目的在于提出一种基于深度学习的通用知识图谱增强问答交互系统，该系统可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力，提高生成答案的准确性。

本发明的另一个目的在于提出一种基于深度学习的通用知识图谱增强问答交互方法。

为达到上述目的，本发明一方面实施例提出了一种基于深度学习的通用知识图谱增强问答交互系统，包括：扩展知识图谱混合问答模块，用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱；知识库问题生成模块，用于对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对；web交互界面，用于获取用户问题；知识图谱问答模块，用于对所述用户问题进行分析，以获取所述用户问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量；知识深度推理模块，用于对所述用户问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。

本发明实施例的基于深度学习的通用知识图谱增强问答交互系统，可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习，并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求，基于深度学习端到端的问答，从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力，提高生成答案的准确性。

另外，根据本发明上述实施例的基于深度学习的通用知识图谱增强问答交互系统还可以具有以下附加的技术特征：

进一步地，在本发明的一个实施例中，所述知识图谱问答模块还用于将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。

进一步地，在本发明的一个实施例中，所述知识图谱问答模块进一步用于将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。

进一步地，在本发明的一个实施例中，所述知识库问题生成模块还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字，并通过所述关键字生成一个自然语言问题，以及通过卷积神经网络RNN对模型对关键字的子集进行排序，以产生一个自然语言的问题。

进一步地，在本发明的一个实施例中，所述web交互界面还用于显示所述用户问题的答案。

进一步地，在本发明的一个实施例中，上述系统还包括：领域适配通用接口模块，用于提供接口开放服务。

为达到上述目的，本发明另一方面实施例提出了一种基于深度学习的通用知识图谱增强问答交互方法，包括以下步骤：根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱；对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对；获取用户问题；对所述用户问题进行分析，以获取所述用户问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量；对所述用户问题对应的答案的类型和所述用户问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。

本发明实施例的基于深度学习的通用知识图谱增强问答交互方法，可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习，并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求，基于深度学习端到端的问答，从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力，提高生成答案的准确性。

另外，根据本发明上述实施例的基于深度学习的通用知识图谱增强问答交互方法还可以具有以下附加的技术特征：

进一步地，在本发明的一个实施例中，所述对所述用户问题进行分析，以获取所述问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量，进一步包括：将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。

进一步地，在本发明的一个实施例中，所述对所述用户问题进行分析，以获取所述问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量，进一步包括：将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。

进一步地，在本发明的一个实施例中，所述对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对，进一步包括：将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本发明一个实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图；

图2为根据本发明一个具体实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图；

图3为根据本发明一个实施例的问句表示流程图；

图4为根据本发明一个实施例的知识库问题处理流程图；

图5为根据本发明一个实施例的复杂问题推理的功能示意图；

图6为根据本发明一个实施例的问题-答案对生成流程图；

图7为根据本发明一个实施例的问题-答案对生成示例示意图；

图8为根据本发明一个实施例的简单的交互回答示例效果的示意图；

图9为根据本发明一个实施例的基于深度学习的通用知识图谱增强问答交互方法的流程图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统及方法，首先将参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统。

图1是本发明一个实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图。

如图1所示，该基于深度学习的通用知识图谱增强问答交互系统10包括：扩展知识图谱混合问答模块100、知识库问题生成模块200、web交互界面300、知识图谱问答模块400和知识深度推理模块500。

其中，扩展知识图谱混合问答模块100用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱。知识库问题生成模块200用于对扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对。web交互界面300用于获取用户问题。知识图谱问答模块400用于对用户问题进行分析，以获取问题对应的答案的类型，并通过神经网络的语义组合得到问题对应的数值向量。知识深度推理模块500用于对问题对应的答案的类型和问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与多个问题-答案对得到用户问题的目标答案。本发明实施例的系统10可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力，提高生成答案的准确性。

可以理解的是，本发明实施例基于深度学习端到端的问答，提高问答系统的性能。应对复杂问题，实现复杂关系建模/多步关系路径知识的深度推理。使用当前流行的深度学习模型或集成多神经网络，提高知识图谱问答的召回率和准确率。结合外部文本知识的混合问答形式，解决特定领域知识图谱的知识不完整问题，提升问答系统可靠性。从给定的知识图谱中自动生成问题-答案对，训练更好的质量保证体系，优化自动问答搜索效率和外部评估能力。提供开放的通用接口服务，满足切换不同的特定的知识图谱数据源时能够复用本文的知识图谱问答框架。

本发明实施例重点研究针对医药、企业、电商领域自建知识图谱，实现基于深度学习的领域知识图谱增强问答系统，主要包含以下几点关键技术的方法与实现：知识图谱问答；复杂问题处理；问题生成；混合问答；领域适配通用接口服务；web交互界面系统呈现。本专利将实现基本的基于深度学习的知识图谱问答系统，在此基础上实现知识推理，混合问答，问题生成等扩展功能。

如图2所示，本发明实施例系统10由深度学习分布式表示的知识图谱问答、知识库问题生成、知识深度推理、扩展知识图谱混合问答、领域适配通用接口服务开放、web交互界面等六个功能性子系统构成。

进一步地，在本发明的一个实施例中，知识图谱问答模块400还用于将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及实体、概念、类别之间的关系转换为同一语义空间的数值向量。

可以理解的是，本发明实施例将实现基于深度学习端到端的知识图谱自动问答系统，试图通过高质量的问题-答案语料建立联合学习模型，同时学习语料库、知识库和问句的语义表示及它们相互之间的语义映射关系，试图通过向量间的数值运算对于复杂的问答过程进行建模。这类方法的优势在于把传统的问句语义解析、文本检索、答案抽取与生成的复杂步骤转变为一个可学习的过程。

本发明实施例将应用以深度学习为代表的表示学习技术，该方法的基本假设是将知识图谱问答看作是一个语义匹配的过程。通过表示学习，我们能够将用户的自然语言问题转换为一个低维空间中的数值向量(分布式语义表示)，同时知识库中的实体、概念、类别以及关系也能够表示成为同一语义空间的数值向量。将传统知识库问答任务看成是问句语义向量与知识库中实体、边的语义向量相似度计算的过程。

进一步地，在本发明的一个实施例中，知识图谱问答模块400进一步用于将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习知识库语义表示和问句语义表示之间的映射关系。

具体而言，主要研究基于表示学习的知识库问答，主要包含以下3个内容：

(1)学习知识库的分布式表示，将知识库中的语义单元，包括节点(实体、类别)、边(关系)，表示成为语义空间中的数值向量。采用基于映射的知识库表示学习，将关系r表示为向量，对于三元组的建模看作从头部实体到尾部实体的平移。本专利中针对1-1关系，1-N、N-1、N-N关系，多语义关系的三种场景，依据对问句中关系类型的分类分别采用TransE模型，TransH模型，TransG模型，进行多场景的联合语义表示处理。其方法如下：

采用Trans E模型，实现“1-to-1”关系类型，这一模型通常能够很好的建模，用关系r的向量l_r作为头实体向量l_h和尾实体向量l_t之间的平移。对于每个三元组(h,r,t)，要有：l_h+l_r≈l_t。损失函数为：即向量l_h+l_r和l_t的L₁或L₂距离。

对目标函数进行优化，改为：其中，S是合法三元组的集合，S^-为错误三元组的集合，max(x,y)返回x和y中较大的值，γ为合法三元组得分与错误三元组得分之间的间隔距离。

采用Trans H模型，首先将头部、尾部实体向量投影到关系所在超平面,然后在超平面上完成翻译过程。将头实体向量l_h和尾实体向量l_t沿法线w_r投影到关系r对应的超平面上，用l_hr和l_tr表示如下：

TransH的损失函数如下：

该模型能够使同一个实体在不同的关系中扮演不同的角色，实现1-to-N,N-to-1和N-to-N的关系类型上表示学习。

采用TransG模型，使用高斯混合模型描述头、尾实体之间的关系。一个关系会对应多种语义，每种语义用一个高斯分布来刻画，即～

其中，I表示单位矩阵，～表示服从分布。

(2)针对用户的问句，通过深度学习学习问句的语义表示。

如图3所示，本发明实施例选择当前已有的基于神经网络的语义组合技术，采用TextRNN+CNN的方式，更高效的进行问句的文本表示，利用前向和后向RNN得到每个词的前向和后向上下文的表示：

c_l(ω_i)＝f(W^(l)c_l(ω_i-1)+W^(sl)e(ω_i-1))， (1)

c_r(ω_i)＝f(W^(T)c_r(ω_i+1)+W^(sT)e(ω_i+1))。 (2)

使得词的表示变成词向量和前向后向上下文向量串接起来的形式，即：

x_i＝[c_l(ω_i)；e(ω_i)；c_r(ω_i)]， (3)

最后再接跟TextCNN相同卷积层，pooling层即可，采用与TextCNN不同的是令卷积层的filter_size＝1，不再需要更大filter_size获得更大视野，这里词的表示也可以只用双向RNN输出。

(3)基于学习到的问句和知识库的语义表示，自动学习知识库语义表示和问句语义表示之间的关联，学习它们间的映射关系，从而构建基于表示学习的知识库问答系统。

采用基于词向量(Word em-bedding)的表示学习方法，将问句以及知识库中的三元组都转换为低维空间中的向量，然后计算余弦相似度找出问句最有可能对应的答案三元组。在答案端加入更多信息，会提升问答的效果，其基本假设是，在答案端加入更多信息,会提升问答的效果。答案的表示可以分成三种：1)答案实体的向量表示；2)答案的路径(Path)的向量表示(和前面的工作用三元组表示的方法一样,直接相加)；3)和答案直接相关的实体和关系的向量表示,即子图向量表示(Subgraph embedding)。如图4所示，把知识库问答转换成两个问题，一个是找到问句中的实体和知识库中实体的对应；另一个是问句中自然语言描述和知识库中语义关系的对应。找到实体和关系后，就可以从知识库中找到其指向的答案实体。在进行上述两种匹配时都采用CNN来处理自然语言问句。

4)复杂问题推理

已有的基于深度学习的问答方法多是针对简单问题(例如单关系问题)设计的，对于复杂问题的回答能力尚且不足。本专利使用基于内容的神经记忆访问的高斯注意力模型。在提出的注意力模型中，神经网络具有额外的自由度，以将其关注的焦点从有限的注意力控制到广泛的关注。使用提出的注意力模型作为知识库嵌入连续向量空间的评分函数，然后训练一个对知识库中的实体进行问题回答的模型。提出的注意力模型既能处理一系列关系的不确定性传播，又能处理条件的自然结合。该模型将很好地处理路径查询和联合查询。

如图5所示，从自然语言问题输入中提取forward和Borussia Dortmund两个实体，并与以相应的实体向量为中心的质量点分布相关联。采用LSTM将输入编码成具有相同长度的输出矢量序列。然后对每个被识别的实体e取平均的注意力加权的输出向量来预测与实体e相关的关系r的权重。对于每个实体e，通过对相应的质量点与根据方程(3)加权的关系的(预先训练的)高斯表示进行卷积来形成高斯注意力。最终的预测是通过对产品进行高斯注意力和归一化来产生的。

权重：p_t,e＝softmax(f(υ_e,h_t))，其中，(t＝1,….，T)，υ_e为实体e的向量；

损失函数：

得分：score_e(υ_o)＝logφ|(υ_o|μ_e,α,KB,∑_e,α,KB)。

进一步地，在本发明的一个实施例中，知识库问题生成模块200还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字，并通过关键字生成一个自然语言问题，以及通过卷积神经网络RNN对模型对关键字的子集进行排序，以产生一个自然语言的问题。

具体而言，深度学习的方法依赖大量的训练语料，而目前获取高质量的问题-答案对仍然是个瓶颈。本发明实施例将提出从知识库中通过模板利用已有三元组来生成问题，用较小的代价生成问题-答案对，从而提供更好的质量保证体系。

如图6所示，从给定的知识图谱中自动生成问题-答案对。为了生成这样的QA对，使用以下方法：首先从存储在知识图谱中的三元组中表达的实体和关系中提取一组关键字。从每个这样的集合中，使用关键字的一个子集来生成一个自然语言问题，它有一个唯一的答案。本发明实施例将关键字的子集作为一个序列，并提出一个序列来使用RNN对模型进行排序，从而产生一个自然语言的问题。例如，如图7所示，从知识库中生成问题-答案对。

进一步地，扩展知识图谱混合问答模块100通过结合知识图谱外部文本资源的混合问答形式，扩展知识图谱外部知识，实现基于知识图谱的增强问答，有效解决特定领域知识图谱的知识不完整问题。

本发明实施例也试图在表示学习中考虑文本数据，利用word2vec学习维基百科正文中的词表示，利用翻译模型学习知识库中的知识表示。同时，利用维基百科正文中的链接信息(锚文本与实体的对应关系)，让文本中实体对应的词表示与知识库中的实体表示尽可能接近，从而实现文本与知识库融合的表示学习。

在互联网上，网络文本包含了数百万条知识库中没有的事实，但却是非结构化的。通用模式可以通过将它们对齐到一个共同的嵌入式空间来支持对结构化知识库和非结构化文本进行联合推理。我们试图将通用模式扩展到自然语言问题回答，利用记忆网络来处理文本信息和知识库信息组合中的大量事实，颜色梯度代表每个事实的注意力。

扩展知识图谱混合问答模块100可以在问题-答案对中以端到端的方式进行培训，该模型的架构主要包含以下4部分：

(1)记忆网络部分(通用模式中包含知识库和文本)；

(2)问题编码部分(双向LSTM)；

(3)存储单元注意力部分:

(4)答案实体筛选部分：依据上下文向量ct，选择具有最高内积的答案实体。

进一步地，在本发明的一个实施例中，本发明实施例的系10统还包括：领域适配通用接口模块。其中，领域适配通用接口模块用于提供接口开放服务。

具体而言，领域适配通用接口模块实现两类功能，具体包括：

(1)通过脚本及控制流程实现对于不同特定领域的知识图谱的自动问答建立一般性手段和方法，整合封装基于知识图谱自动问答技术与功能模块；

(2)通过迁移学习模型(CNN、RNN层处理序列-序列标注任务；词向量层、LSTM层)能够实现神经网络的领域模型适配。

领域适配通用接口模块通过两类功能可达成以下效果：提供通用的接口开放服务，使得技术框架和网络结构能够类似系统或外围系统应用。

进一步地，在本发明的一个实施例中，web交互界面300还用于显示用户问题的答案。

举例而言，简单的交互回答示例效果如图8所示，本发明实施例展示的基于知识图谱的自动问答系统功能，将实现一个web网页交互界面，并通过网页操作实现系统功能以及通用接口能力的展示。

综上，本发明实施例通过深度学习集成多个神经网络模型协同训练，建立联合学习模型，学习语料库、知识库和问句的语义表示及其相互之间的语义映射关系，通过向量间的数值运算对于复杂的问答过程进行建模。通过知识表示学习技术，研究实现知识的深层次推理或多路径推理，有效解决基于知识图谱的复杂关系或关系多路径问题的问答的召回率和准确性。通过从给定的知识图谱中自动生成问题-答案对，可以训练更好的质量保证体系，并有效提升系统外部评估的效率。对于不同特定领域的知识图谱的自动问答建立一般性手段和方法，整合封装基于知识图谱自动问答技术，能够实现领域适配，提供通用的接口开放服务。该系统在语义理解分析及性能上超过传统知识库问答方法，且在扩展综合问答能力上提升显著的效果。对基于知识图谱的自动问答通用技术能力共享、服务能力共享以及垂直领域商业场景应用的意义非常巨大。

根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统，可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习，并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求，基于深度学习端到端的问答，从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力，提高生成答案的准确性。

其次参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互方法。

图9是本发明一个实施例的基于深度学习的通用知识图谱增强问答交互方法的流程图。

如图9所示，该基于深度学习的通用知识图谱增强问答交互方法包括以下步骤：

在步骤S901中，根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱。

在步骤S902中，对扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对。

在步骤S903中，获取用户问题。

在步骤S904中，对用户问题进行分析，以获取问题对应的答案的类型，并通过神经网络的语义组合得到问题对应的数值向量。

在步骤S905中，对问题对应的答案的类型和问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与多个问题-答案对得到用户问题的目标答案。

进一步地，在本发明的一个实施例中，对用户问题进行分析，以获取问题对应的答案的类型，并通过神经网络的语义组合得到问题对应的数值向量，进一步包括：将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及实体、概念、类别之间的关系转换为同一语义空间的数值向量。

进一步地，在本发明的一个实施例中，对用户问题进行分析，以获取问题对应的答案的类型，并通过神经网络的语义组合得到问题对应的数值向量，进一步包括：将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习知识库语义表示和问句语义表示之间的映射关系。

进一步地，在本发明的一个实施例中，对扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对，进一步包括：将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习知识库语义表示和问句语义表示之间的映射关系。

需要说明的是，前述对基于深度学习的通用知识图谱增强问答交互系统实施例的解释说明也适用于该实施例的基于深度学习的通用知识图谱增强问答交互方法，此处不再赘述。

根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互方法，可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习，并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求，基于深度学习端到端的问答，从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力，提高生成答案的准确性。

在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于深度学习的通用知识图谱增强问答交互系统，其特征在于，包括：

扩展知识图谱混合问答模块，用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱；

知识库问题生成模块，用于对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对；

web交互界面，用于获取用户问题；

知识图谱问答模块，用于对所述用户问题进行分析，以获取所述用户问题对应的答案的类型，并通过神经网络的语义组合得到所述用户问题对应的数值向量；

知识深度推理模块，用于对所述问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。

2.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统，其特征在于，所述知识图谱问答模块还用于将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。

3.根据权利要求2所述的基于深度学习的通用知识图谱增强问答交互系统，其特征在于，所述知识图谱问答模块进一步用于将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。

4.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统，其特征在于，所述知识库问题生成模块还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字，并通过所述关键字生成一个自然语言问题，以及通过卷积神经网络RNN对模型对关键字的子集进行排序，以产生一个自然语言的问题。

5.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统，其特征在于，所述web交互界面还用于显示所述用户问题的答案。

6.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统，其特征在于，还包括：

领域适配通用接口模块，用于提供接口开放服务。

7.一种基于深度学习的通用知识图谱增强问答交互方法，其特征在于，包括以下步骤：

根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱；

对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对；

获取用户问题；

对所述用户问题进行分析，以获取所述用户问题对应的答案的类型，并通过神经网络的语义组合得到所述用户问题对应的数值向量；

对所述用户问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理，并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。

8.根据权利要求7所述的基于深度学习的通用知识图谱增强问答交互方法，其特征在于，所述对所述用户问题进行分析，以获取所述问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量，进一步包括：

将用户的自然语言问题转换为一个低维空间中的数值向量，并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。

9.根据权利要求8所述的基于深度学习的通用知识图谱增强问答交互方法，其特征在于，所述对所述用户问题进行分析，以获取所述问题对应的答案的类型，并通过神经网络的语义组合得到所述问题对应的数值向量，进一步包括：

将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。

10.根据权利要求7所述的基于深度学习的通用知识图谱增强问答交互方法，其特征在于，所述对所述扩展知识图谱进行处理，以分别生成不同问题对应的答案，使得生成多个问题-答案对，进一步包括：

将知识库中的语义单元转换为语义空间中的数值向量，并针对用户的问句，通过深度学习学习问句的语义表示，且通过学习到的问句和知识库的语义表示，学习知识库语义表示和问句语义表示之间的关联，并学习所述知识库语义表示和问句语义表示之间的映射关系。