CN115525751A - 一种基于知识图谱的智能问答系统和方法 - Google Patents

Abstract

本申请公开了一种基于知识图谱的智能问答系统和方法，系统包括：数据层，用于对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集合，并对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理；逻辑层，将智能问答算法和交互算法分离开；交互算法将后台逻辑层交互封装为api供前台调用；展示层，用于采用Flask框架进行人机交互页面展。本申请识别出用户自然语言问句中的实体和属性，利用识别到的实体和属性去知识图谱中检索答案，解决传统的基于搜索引擎的知识获取方式返回的信息过于冗杂，用户需要耗费大量的时间与人力从返回的信息中寻找正确的答案。

Description

一种基于知识图谱的智能问答系统和方法

技术领域

本申请涉及计算机技术领域，尤其涉及一种基于知识图谱的智能问答系统和方法。

背景技术

问答系统是包含了自然语言处理、信息检索、数据挖掘等多个技术领域的信息服务系统。智能问答系统则因为精准捕捉用户搜索意图，理解用户自然语言提问，将答案直接返回给用户而受到越来越多的重视。智能问答系统最早是上世纪60年代由Weizenbaum等设计的用于对精神病人心理治疗的问答机器人-ELIZAE，到现在已有长达半个世纪的研究历史。

早期的研究主要是针对小型的封闭领域专家库，需要的人工标注、干预比较多，需要花费大量精力，可移植性差，很难扩展到其他领域。随着人工智能技术的不断发展，传统的基于搜索引擎的知识获取方式越来越难以满足人们从互联网中获取信息的需求，其返回的信息过于冗杂，用户需要耗费大量的时间与人力从返回的信息中寻找正确的答案。

发明内容

本申请实施例提供一种基于知识图谱的智能问答系统和方法，以解决传统的基于搜索引擎的知识获取方式返回的信息过于冗杂，用户需要耗费大量的时间与人力从返回的信息中寻找正确的答案。

本申请实施例提供一种基于知识图谱的智能问答系统，包括：

数据层，用于对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集合，并对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；其中，所述知识图谱为知识三元组；

逻辑层，将智能问答算法和交互算法分离开，其中智能问答算法指主体框架逻辑实体识别算法、属性链接算法和查询构建算法；交互算法将后台逻辑层交互封装为api供前台调用；

展示层，用于采用Flask框架进行人机交互页面展。

进一步的，所述数据层包括问答语料和知识图谱处理子模块、查询日志存储子模块，其中：

问答语料和知识图谱处理子模块，用于对问答语料、知识图谱数据进行处理，分别构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；

查询日志存储子模块，用于查询日志存储、查询数据分析。

进一步的，所述逻辑层包括问答算法子模块、Ajax交互子模块，其中：

问答算法子模块，用于采用所述标注训练集分别通过主体框架逻辑实体识别算法、属性链接算法对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接；同时，将候选实体集及属性链接传入知识图谱中采用查询构建算法进行检索，找到候选答案；

Ajax交互子模块，用于将后台逻辑层交互封装为api供前台调用。

本发明提供一种基于知识图谱的智能问答方法，包括以下步骤：

对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；其中，所述知识图谱为知识三元组；

釆用所述标注训练集分别对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接，然后将候选实体集及属性链接传入知识图谱中进行检索，找到候选答案；

采用Flask框架进行人机交互页面展示候选答案。

进一步的，所述用户输入的自然语言问句数据采用日志表用于保存，所述日质表包括字段、类型、说明，其中说明为对字段的释义。

进一步的，所述提取候选实体集采用的是人工规则和深度学习相结合，对用户自然语言问句进行实体识别，并从问句中提取出候选实体集。

进一步的，提取候选实体集后，对问句语义信息进行分析，得到候选实体集属性，通过候选实体集及其属性之前的关系从知识图谱得到用户需要的答案。

进一步的，所述问句为去除实体后剩下的部分。

进一步的，所述对用户输入的自然语言问句进行语义分析，包括：

对问句进行分词处理；

利用词向量提取问句深层次的语义特征及表征；

利用实体识别模型标注问句实体，并从知识图谱中提取相关候选实体；

分析问句相关属性，从知识图谱中提取候选实体相关度最高的属性；

整合所述候选实体和候选实体相关度最高的属性得到用户问句想询问的关键信息。

进一步的，所述实体识别模型为基于Bi-LSTM的实体识别模型。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：

本申请识别出用户自然语言问句中的实体和属性，利用识别到的实体和属性去知识图谱中检索答案，解决传统的基于搜索引擎的知识获取方式返回的信息过于冗杂，用户需要耗费大量的时间与人力从返回的信息中寻找正确的答案。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本发明系统架构图。

图2为本发明代码结构图。

图3为本发明智能问答算法逻辑图。

图4为本发明基于Bi-LSTM的实体识别模型图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

以下结合附图，详细说明本申请各实施例提供的技术方案。

实施例1

本发明提供一种基于知识图谱的智能问答系统，将逻辑层、数据层、展示层分离，并在逻辑层将问答算法部分和业务逻辑分离，详细构架如图1所示，包括：

数据层，是整个智能问答系统得以正常运行的基础前提，主要处理两方面的数据。首先，用于对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集合，并对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；具体操作都是通过后台Python代码进行处理。如图1所示，数据层包括问答语料和知识图谱处理子模块、查询日志存储子模块，其中：问答语料和知识图谱处理子模块，用于对问答语料、知识图谱数据进行处理，分别构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；查询日志存储子模块，用于查询日志存储、查询数据分析。

本系统的知识来源均来自上述知识图谱，主要指知识三元组。相对其他非结构化知识，三元组这种结构知识可以很大程度简化和提高问答的准确性。针对不同需求或者说针对不同领域的智能问答系统，其对知识来源的要求也不同。本发明中主要对智能问答系统算法的探讨主要在通用领域，这也意味着，针对不同问答的需求，只需要替换或者更改智能问答系统的知识图谱即可，这也是本系统实现的前提和所具有的优势。

逻辑层，将智能问答算法和交互算法分离开，其中智能问答算法指主体框架逻辑实体识别算法、属性链接算法和查询构建算法；交互算法将后台逻辑层交互封装为api供前台调用；如图1所示，逻辑层包括问答算法子模块、Ajax交互子模块，其中：

问答算法子模块，用于采用标注训练集分别通过主体框架逻辑实体识别算法、属性链接算法对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接；同时，将候选实体集及属性链接传入知识图谱中采用查询构建算法进行检索，找到候选答案；具体代码结构如图2所示。Ajax交互子模块，用于将后台逻辑层交互封装为api供前台调用。

在系统获取到用户输入的自然语言问句后，首先需要做的是理解用户问句包含的询问意图或者说目标。这其实就是在实体识别和属性链接过程做的工作，提取用户询问的目标主体（实体）及属性关系。分析出了问句的这两点，然后将其传入知识图谱中进行检索，从而找到候选答案。对问题进行分析是智能问答系统正确回答提问的前提，只有做到了理解了用户提问，才可以从知识图谱中找到正确答案。

展示层，用于采用Flask框架进行人机交互页面展。在对比了Python语言的Django、Flask>Tornado等框架后，本系统选择了Flask框架。Flask框架的优势在于轻量级，其支持丰富的扩展功能，可以很方便的添加数据库集成、各种开放认证、表单验证、上传等功能。前端页面釆用html开发，用于获取用户输入的自然语言提问和信息的展示，并使用旬jax技术提交到后台api，经过其他后台模块处理解析后返回答案至前端页面。同时为了后续对智能问答效果做进一步的分析和研究我们会将问答记录保存在数据库中。

实施例2

本发明提供一种基于知识图谱的智能问答方法，包括以下步骤：

S101、对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；其中，知识图谱为知识三元组；

S102、釆用标注训练集分别对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接，然后将候选实体集及属性链接传入知识图谱中进行检索，找到候选答案；

S103、采用Flask框架进行人机交互页面展示候选答案。

进一步的，用户输入的自然语言问句数据采用日志表用于保存，日质表包括字段、类型、说明，其中说明为对字段的释义，如表1所示。这里主要用于记录用户的提问数据，以便整理和分析用户问题。

表1数据库字段

其中，提取候选实体集即实体识别，采用的是人工规则和深度学习相结合，对用户自然语言问句进行实体识别，并从问句中提取出候选实体集。在提取候选实体集后，需要对问句（去除实体后剩下的部分）语义信息进行分析，也就是了解用户提问是想知道关于实体哪一方面的知识。这里我们将其称为属性，也就是通过属性关系从结构化知识得到用户需要的答案。

步骤S102中对用户输入的自然语言问句进行语义分析，具体为：

对问句进行分词处理；

利用词向量提取问句深层次的语义特征及表征；

利用实体识别模型标注问句实体，并从知识图谱中提取相关候选实体；

分析问句相关属性，从知识图谱中提取候选实体相关度最高的属性；

整合候选实体和候选实体相关度最高的属性得到用户问句想询问的关键信息。

首先对问句进行数据处理，这里指的是进行中文分词操作以及利用词向量来提取问句的隐藏语义特征，将问句表示为低维向量作为实体识别步骤的特征输入。这里问句“石头记是谁写的”将被分为“石头记/是/谁/写的"，然后在预训练的词向量词典中找到每个词语的词向量，以100维为例，最后问句被查询构建。

自然语言的问答，通常会涉及到事物的各方各面，对不同的问题，在知识图谱中的进行査询的方式会有所区别，本发明将讨论如何在知识图谱中进行不同问题的答案查询。通常问答系统会将用户问题分为以下几类：事实类问题、是非类问题、对比类问题、因果类问题。

将该矩阵向量输入经过实体识别模型处理后可以将“石头记”标注为实体。而后在知识库中找到“石头记"相关的实体名称（通常为正式名称、别名以及相似名称）作为候选实体集。获取到候选实体后，对每个实体的所有属性经过属性链接模型处理，找到每个实体相关度最高的属性为候选属性，本例中候选实体“红楼梦（小说）”相关度最高的属性为“作者”。经过问句分析我们可以分析到问句“石头记是谁写的”相关的实体名称，以及对应实体相关度最高的属性名称。得到这些信息也意味着我们一定程度理解到用户问句想询问的关键信息。

然后将候选实体集及属性链接传入知识图谱中进行检索，找到候选答案，具体采用查询构建算法进行检索。自然语言的问答，通常会涉及到事物的各方各面，对不同的问题，在知识图谱中的进行査询的方式会有所区别，本发明将讨论如何在知识图谱中进行不同问题的答案查询。通常问答系统会将用户问题分为以下几类：事实类问题，是非类问题，对比类问题，因果类问题，关系类问题，观点类问题。

另外，上述实体识别模型为基于Bi-LSTM的实体识别模型的优势在于保留了RNN处理序列模型的特点，其特有的门结构也在一定程度解决了梯度爆炸和梯度消失的问题。为了更好的处理序列信息，研究者们提出了双向长短期记忆网络（Bi-LSTM），采用前、后向两个LSTM单元对输入序列进行处理，最后输出向量为两LSTM输出向量的拼接。相对于LSTM模型，Bi-LSTM模型在保留其优点的同时，通过分别训练前后向序列兼顾了上下文信息，可以更好的提取深层次的语义信息，其结构如图4所示。

Bi-LSTM中前、后向的LSTM序列分别对输入向量

进行处理得到输出向量

,如其表示如公式1所示。

（公式1）

其中，

为前向序列的输出，

为后向序列的输出。Bi-LSTM得到的输岀还会送入sigmoid层进行处理，sigmoid函数如公式2所示。

（公式2）

如图2模型的输出向量为

，其中n为输入序列的长度，可以看到该模型输出向量长度与输入序列是保持一致的，必对应输入问句中第i个单词的标注信息，如果为“1”则代表为寻找的实体，反之则不是。

在本模型中，使用均方误差作为模型的损失函数

,其定义公式3所示。

（公式3）

其中w为权重，1）为偏差。||w||；为L2正则化，入为控制正则化的超参数。

另外，本发明采用的知识图谱为知识三元组。而构建知识图谱这个过程的本质，就是让机器形成认知能力，去理解这个世界。知识图谱的图存储在图数据库中，图数据库以图论为理论基础，图论中图的基本元素是节点和边，在图数据库中对应的就是节点和关系。用节点和关系所组成的图，为真实世界直观地建模，支持百亿量级甚至千亿量级规模的巨型图的高效关系运算和复杂关系分析。不同于关系型数据库，一修改便容易“牵一发而动全身”。本发明的图数据库可实现数据间的“互联互通”，与传统的关系型数据库相比，图数据库更擅长建立复杂的关系网络。

图数据库将原本没有联系的数据连通，将离散的数据整合在一起，从而提供更有价值的决策支持。运用“图”这种基础性、通用性的“语言”，“高保真”地表达这个多姿多彩世界的各种关系，并且非常直观、自然、直接和高效，不需要中间过程的转换和处理——这种中间过程的转换和处理，往往把问题复杂化，或者遗漏掉很多有价值的信息。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包含一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种基于知识图谱的智能问答系统，其特征在于，包括：

数据层，用于对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集合，并对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；其中，所述知识图谱为知识三元组；

逻辑层，将智能问答算法和交互算法分离开，其中智能问答算法指主体框架逻辑实体识别算法、属性链接算法和查询构建算法；交互算法将后台逻辑层交互封装为api供前台调用；

展示层，用于采用Flask框架进行人机交互页面展。

2.根据权利要求1所述的一种基于知识图谱的智能问答系统，其特征在于，所述数据层包括问答语料和知识图谱处理子模块、查询日志存储子模块，其中：

问答语料和知识图谱处理子模块，用于对问答语料、知识图谱数据进行处理，分别构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；

查询日志存储子模块，用于查询日志存储、查询数据分析。

3.根据权利要求1所述的一种基于知识图谱的智能问答系统，其特征在于，所述逻辑层包括问答算法子模块、Ajax交互子模块，其中：

问答算法子模块，用于采用所述标注训练集分别通过主体框架逻辑实体识别算法、属性链接算法对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接；同时，将候选实体集及属性链接传入知识图谱中采用查询构建算法进行检索，找到候选答案；

Ajax交互子模块，用于将后台逻辑层交互封装为api供前台调用。

4.一种基于知识图谱的智能问答方法，其特征在于，包括以下步骤：

对问答语料、知识图谱数据进行处理，构建模型训练所需要的标注训练集，以及对知识图谱数据进行过滤、归一化，构建实体字典；同时，对系统运行数据进行处理，包括查询日志存储、查询数据分析；其中，所述知识图谱为知识三元组；

釆用所述标注训练集分别对实体识别模型和属性链接模型进行训练，然后对用户输入的自然语言问句进行语义分析，提取候选实体集和属性链接，然后将候选实体集及属性链接传入知识图谱中进行检索，找到候选答案；

采用Flask框架进行人机交互页面展示候选答案。

5.根据权利要求4所述的一种基于知识图谱的智能问答方法，其特征在于，所述用户输入的自然语言问句数据采用日志表用于保存，所述日质表包括字段、类型、说明，其中说明为对字段的释义。

6.根据权利要求4所述的一种基于知识图谱的智能问答方法，其特征在于，所述提取候选实体集采用的是人工规则和深度学习相结合，对用户自然语言问句进行实体识别，并从问句中提取出候选实体集。

7.根据权利要求6所述的一种基于知识图谱的智能问答方法，其特征在于，提取候选实体集后，对问句语义信息进行分析，得到候选实体集属性，通过候选实体集及其属性之前的关系从知识图谱得到用户需要的答案。

8.根据权利要求7所述的一种基于知识图谱的智能问答方法，其特征在于，所述问句为去除实体后剩下的部分。

9.根据权利要求4所述的一种基于知识图谱的智能问答方法，其特征在于，所述对用户输入的自然语言问句进行语义分析，包括：

对问句进行分词处理；

利用词向量提取问句深层次的语义特征及表征；

利用实体识别模型标注问句实体，并从知识图谱中提取相关候选实体；

分析问句相关属性，从知识图谱中提取候选实体相关度最高的属性；

整合所述候选实体和候选实体相关度最高的属性得到用户问句想询问的关键信息。

10.根据权利要求4所述的一种基于知识图谱的智能问答方法，其特征在于，所述实体识别模型为基于Bi-LSTM的实体识别模型。

Images