CN109271504A - 基于知识图谱的推理对话的方法 - Google Patents

Abstract

提供一种基于知识图谱的推理对话的方法。该方法（500）包括：从问句中抽取实体及其位置信息（S510）；从问句中抽取问句的关系及其位置信息（S520）；利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式（S530）；利用逻辑表达式，在知识图谱中进行推理（S540）；根据推理结果，生成对问句的回答（S550）。由于抽取的实体和关系包含位置信息，可以非常简便地生成逻辑表达式，并且可以对逻辑表达式中的顺序进行调整。通过设定答案模板，可以在答案中引入更多信息，使得回答更加生动和丰富。此外，本方法增加了对于多轮问答的支持。

Description

基于知识图谱的推理对话的方法

技术领域

本发明涉及人工智能与知识图谱，更具体涉及基于知识图谱的推理对话的方法。

背景技术

知识图谱(Knowledge Graph)又称为科学知识图谱，在图书情报界称为知识域可视化或知识领域映射地图，是显示知识发展进程与结构关系的一系列各种不同的图形，用可视化技术描述知识资源及其载体，挖掘、分析、构建、绘制和显示知识及它们之间的相互联系。

目前，市面上存在一些基于知识图谱的问答系统。图1是市面上常见的图谱问答的流程图。如图1所示的问答系统可以抽取句子的意图类别，即实质上是对询问的关系进行分类。同时，从询问中抽取话题实体，并将该实体链接至知识图谱的实体名称(图1中标为与抽取出的“实体”相区别的“实体1”)。然后，从知识图谱中找出对于该句子的回答。然而，这些问答系统只能对句子意图进行分类，实际上对于问句的关系并未清楚掌握。而且，这些问答系统在处理逻辑表达式时需要考虑各种可能的语序，准备较多的逻辑表达式模板，从而还需要一个较长的匹配模板的过程，才能最终推理出答案。

因此，希望提供一种基于知识图谱的推理对话的方法，直接抽取问句中的实体与关系，同时自动确定实体与关系的顺序，以便大大简化逻辑表达式的形成过程。

发明内容

本发明针对以上的问题，提出一种基于知识图谱的推理对话的方法，通过抽取实体、关系以及位置信息，可以非常简便地生成逻辑表达式，从而完成在知识图谱中的推理。

根据本发明的实施例，本发明的第一方面提供了一种基于知识图谱的推理对话的方法，包括：从问句中抽取实体及其位置信息；从问句中抽取问句的关系及其位置信息；利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式；利用逻辑表达式，在知识图谱中进行推理；根据推理结果，生成对问句的回答。

在本发明的第一方面的方法中，所述的从问句中抽取实体及其位置信息的步骤可以进一步包括：从问句中抽取实体的具体用词、类型信息、位置信息。所述的从问句中抽取问句的关系及其位置信息的步骤可以进一步包括：从问句中抽取问句的关系的具体用词、类型信息、位置信息。

本发明的第一方面的方法可以进一步包括：如果抽取出的实体的具体用词与知识图谱中的实体名称不一致，则将抽取出的实体的具体用词链接到知识图谱中的实体名称。

在本发明的第一方面的方法中，所述的利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式的步骤可以进一步包括：根据实体的位置信息、关系的位置信息，自动地确定实体和关系在逻辑表达式中的顺序。

此外，所述方法可以进一步包括：根据知识图谱，对自动确定的实体和关系在逻辑表达式中的顺序进行调整，以形成供推理的逻辑表达式。

在本发明的第一方面的方法中，所述的根据推理结果，生成对问句的回答的步骤可以进一步包括：根据推理结果，利用答案模板生成特定形式的回答。

本发明的第一方面的方法可以进一步包括：判断问句是否残缺；如果问句残缺，通过之前的对话内容及分类模型确定需要补全的位置及内容，以补全后的问句作为待抽取实体和关系的问句。

根据本发明的实施例，本发明的第二方面提供了一种计算机可读介质，用于记录可由处理器执行的指令，所述指令在被处理器执行时，使得处理器执行基于知识图谱的推理对话的方法，包括如下操作：从问句中抽取实体及其位置；从问句中抽取问句的关系及其位置；利用抽取出的实体及其位置以及关系及其位置，将问句转化为逻辑表达式；利用逻辑表达式，在知识图谱中进行推理；根据推理结果，生成对问句的回答。

在本发明中，由于抽取出的实体和关系包含位置信息，可以非常简便地生成逻辑表达式。可选地，可以对逻辑表达式中的顺序进行调整，以使之符合知识图谱推理的形式。另外，通过设定答案模板，可以在答案中引入更多信息，使得回答更加生动和丰富。本发明的方法还增加了对于多轮问答的支持。

附图说明

下面参考附图结合实施例说明本发明。

图1是市面上常见的图谱问答的流程图。

图2是本发明的推理对话的流程图。

图3图示说明了对问句实体进行抽取的示例。

图4图示说明了一种答案模板的示例。

图5是根据本发明实施例的基于知识图谱的推理对话的方法的流程图。

具体实施方式

附图仅用于示例说明，不能理解为对本发明的限制。下面结合附图和实施例对本发明的技术方案做进一步的说明。

知识图谱是一种知识的结构化表示形式，将事物以节点的形式表示，然后用节点和节点之间的边来表示事物和事物之间的关系，以此构成一张网络。在知识图谱中：

·每个节点用来表示一个实际的事物(如人、商品、机构等)，称之为“实体”；

·实体会有一些属性，一般来说，同一类实体会有相同的属性类别，如：商品会有价格、体积、生产日期、重量等属性；

·节点和节点之间的边称之为“关系”，这个关系通常是有向的，比如“中国”和“北京”有“首都”的关系，我们可以说“首都”是“中国”到“北京”的关系，而不能说是“北京”到“中国”的关系；

·两个实体及他们之间的关系构成的三元组，称之为“事实”，其中关系的出发点称之为“主语”，结束点称之为“宾语”，因此关系有时候也称之为“谓语”，如给定一条事实(中国，首都，北京)，那么其中“中国”是主语，“北京”是宾语。

如上，由大量“实体”和“关系”形成的网状的结构化数据，就可以称之为“知识图谱”，而不必拘泥于数据是以何种方式存储。

根据本发明与现有技术即市面上常见的图谱问答的区别，绘制了图2。图2是本发明的推理对话的流程图。

如图2中所示，在本发明的方法中，直接对问句中的关系进行抽取。而且，如下文中所详述的，抽取的不仅是关系的用词，还包括关系在句中的位置信息、该关系的类型信息等。由于抽取出的实体和关系包含位置信息，可以非常简便地生成逻辑表达式，以进行知识图谱的推理。通过设定答案模板，可以在答案中引入更多信息，使得回答更加生动和丰富。此外，本发明的方法还适合用于与用户之间的多轮问答或递进式问答。

以下以基于知识图谱(以下或简称为“图谱”)的推理对话机器人(以下简称kgbot)的问答流程为例来详细描述本发明的方法。

1.对问句进行实体抽取

kgbot使用自动机以及序列标注模型对问句的实体进行抽取，不仅得到实体的具体用词，还得到实体的位置以及实体的类型信息。

具体地说，可以采用bi-lstm+crf模型来对问句进行实体抽取。首先双向的lstm模型对字词结合全句的信息进行多维信息的学习、提取，再结合crf模型对实体进行判别。有关bi-lstm+crf模型的更详细介绍，可以参见以下文档：https://arxiv.org/pdf/1808.08450.pdf。

此外，可以参看以下网页中对于ac自动机(aho–corasick algorithm)的介绍：https://en.wikipedia.org/wiki/Aho％E2％80％93Corasick_algorithm。

图3图示说明了对问句实体进行抽取的示例。如图3中所示，抽取结果抽取出了“前列腺癌”和“泰康祥云一号保障计划”两个实体，确定出了它们在句中的起始位置(即从开始起的第几个汉字或字符)以及类型(分别为“疾病”和“产品”)。

2.对抽取出的实体进行实体链接，确定问句中的实体在图谱中的对应关系

抽取出的实体往往不会和图谱中实体的名称一模一样，此时kgbot会对抽取出的实体在图谱中进行链接，确定问句中的实体究竟指的是图谱中哪个对象。

例如，可以考虑如下的情况：对于一个问句：“地坛医院在啥位置啊”，kgbot会抽取出“地坛医院”这个实体，并识别出类型是“医院”，但是图谱中存在以下可能对应“地坛医院”这一实体用词的对象：

北京世纪坛医院

北京地坛医院

北京市上地医院

北京天坛医院

北京市西城区月坛医院

天水市新天坛医院

……

此时kgbot会依据别名以及相似度匹配的算法，来确定出“地坛医院”究竟指的是上述对象中的哪一个。在本例中，我们知道，最终确定出结果应该是“北京地坛医院”。

3.对问句的关系进行抽取

在kgbot的关系抽取步骤中，需要判断问句所属的关系类型还有体现该关系的字词以及位置。

具体地说，可以采用attentive-convolution+crf模型来对问句进行关系抽取，利用attentive-convolution对句子中的字词以及句式进行充分的学习和表示，再结合crf模型利用前面的学习信息，对具体的关系进行抽取。

举例来说，可以参考以下的问句：

泰康祥云一号保障计划能保白血病吗？

对于这样的问句，关系抽取的结果为：

{'relation':'保障','start':12,'end':13,'mention':'保'}。

其中需要注意的是，问句其实问的是产品与疾病之间的保障关系，体现该关系的是“……能保……”中的“保”，而不是“……保障计划……”中的“保”。从以上的抽取结果的示例来看，尤其是对于位置信息以及关系类型的抽取结果上可看出，这些都已经被kgbot的序列标注模型(attentive-cnn+crf)识别出来了。

有关关系抽取的具体算法，可以参见有关注意力卷积(attentive convolution)方面的介绍，例如，对于具体模型，可以参见以下文档(后文还会再次提及)：https://arxiv.org/pdf/1710.00519.pdf。

4.利用以上步骤抽取出的结果，将问句转化为特定的逻辑表达式

当kgbot完成实体与关系的抽取时，说明kgbot已经基本理解了问句的含义。但是想要能够回答，还需要将抽取结果标准化成能在图谱中运用的逻辑表达式。

逻辑表达式的结构主要是由之前步骤中抽取到的实体(名称、类型)以及关系组成的，它们会按照抽取时获取到的位置信息进行排列，其中实体和关系会由特定标记(“E”与“R”)作为前缀进行区分。以此，将一个问句转化成一个特定的规整的表达形式。

在本发明中，由于kgbot的抽取结果(关系，实体)都是带有位置信息的，所以很容易自动地确定关系实体的顺序信息。根据上文中的例子，可以确定的逻辑表达式如下所示：

["E|PRODUCT|泰康祥云一号","R|保障","E|DISEASE|白血病"]。

如上的逻辑表达式则便于在图谱中进行查询、推理，以便得出推理结果。

5.利用逻辑表达式完成在图谱中的推理

在确定出逻辑表达式后，按照逻辑表达式中的实体的类型、名称，关系类型即可进行推理。上例中，先确定实体"PRODUCT|泰康祥云一号"，其保障关系连结的实体中有"DISEASE|白血病"，则可以推理出结果为，能保障；反之不能。

还有例如“泰康祥云一号保障计划能保什么疾病？”这样的问句，则可以相应地确定出逻辑表达式为：

["E|PRODUCT|泰康祥云一号","R|保障","E||type:DISEASE"]。

然后，根据该逻辑表达式，推理出该产品所有保障的疾病。

上文中提到，由于抽取出的实体、关系都包含位置信息，所以逻辑表达式中的顺序可根据问句自动确定出来。然而，由于语言的复杂性，可能导致一些特殊的逻辑表达式产生。例如，对于问句“白血病，泰康祥云一号能不能保啊？”，自动确定出的逻辑表达式会是：

["E|DISEASE|白血病"，"E|PRODUCT|泰康祥云一号"，"R|保障"]。

这样顺序的逻辑表达式，显然将不便于知识图谱的推理。在此情况下，kgbot会根据图谱的结构对逻辑表达式进行调整。kgbot首先会完整的获取到整个图谱的关系结构，当逻辑表达式在因为顺序问题上导致推理无法进行时，会依照图谱的关系结构自适应地调整逻辑表达式，使得推理有序进行下去。例如，调整后的逻辑表达式为：

["E|PRODUCT|泰康祥云一号"，"R|保障"，"E|DISEASE|白血病"]。

由此，可以根据调整后的逻辑表达式来完成推理。推理的过程主要分为两类，判断关系是否存在以及利用关系去找寻答案节点。将逻辑表达式中的关系和实体，映射到图谱中进行查询，据此完成推理。

6.根据推理结果，利用答案模板生成特定形式的回答

在获得推理结果后，为了将其更好地呈现，kgbot会使用内部提前设置的答案模板，依据推理结果的不同，生成不同的答案，并尽可能多地呈现更多有效的信息。

图4图示说明了一种答案模板的示例。例如，上述例子中，如果推理结果是保障，根据图4中所示的答案模板，给出的答案(回答)可能就是：“白血病在泰康祥云一号保障计划的保障范围内，如果白血病满足定义，则可以获得保障。”此外，如果数据库内包含白血病定义，则会将其列出，反之不列。若推理结果为不保障，答案就是“白血病不在泰康祥云一号保障计划的保障范围内。”

从以上的描述中可以看出，本发明的kgbot在进行推理对话时，具备以下的特征：

a.关系抽取包含关系用词在问句中的位置信息的抽取；

b.非常简便的逻辑表达式的生成；

c.自动化的逻辑表达式的调整；以及

d.答案模板的设定。

此外，如下文中所述，kgbot还能体现出对于多轮问答的支持。

下面再将kgbot和市面常见的图谱问答机器人进行对比，两者的区别及效果在于以下几个方面。

1.在关系抽取方面，市面上多数的关系抽取仅确定句子的意图类别，不包含更多信息，本质属于一种分类。而kgbot的关系抽取利用基于注意力卷积(attentiveconvolution，例如参见https://arxiv.org/pdf/1710.00519.pdf)的序列标注算法，可以准确定位到体现该关系的字词，同时自动确定出了实体与关系的顺序，大大简化了逻辑表达式的形成过程。

2.在推理过程中，市面上多数图谱问答系统在处理逻辑表达式的时候需要考虑各种可能的语序，准备较多的逻辑表达式模板，在抽取结束后也需要一个较长的匹配模板的过程。而kgbot可以根据图谱可推理的结构自行地将逻辑表达式转化成为适合图谱推理的形式。

3.在答案方面，市面上多数图谱的问答只回答推理出的内容。而kgbot可以依据推理结果的不同，利用答案模板确定所需的额外信息，进行实体的属性查询或是相关实体的二次查询，最终在答案中引入问句中或是问句相关的更多信息，使回答更加生动和丰富。

4.多轮问答方面，市面上多数图谱的问答只支持单轮。比如，问“姚明的妻子是谁？”，机器人回答“叶莉”过后再问，“女儿呢？”，市面常见的问答就无法回答了。而kgbot内置的算法模型可以解决在问答过程中常见的指代消解、省略消解问题。首先利用分类模型判断问句是否残缺，若残缺可以利用另外两个分类模型分别确定出问句需要补全的位置以及上文中该用于补全的内容，以此对问句完成补充。上述问题则会转化为“姚明的女儿是谁？”，从而完成问答。

综合以上由kgbot完成的问答的实施例，可以得到本发明的一个综合性的方法，即一种基于知识图谱的推理对话的方法。

图5是根据本发明实施例的基于知识图谱的推理对话的方法的流程图。

图5的基于知识图谱的推理对话的方法500开始于步骤S510，在此步骤，从问句中抽取实体及其位置信息。在此，抽取实体及其位置信息可以进一步包括从问句中抽取实体的具体用词、类型信息、位置信息。

需要注意的是，如果抽取出的实体的具体用词与知识图谱中的实体名称不一致，则将抽取出的实体的具体用词链接到知识图谱中的实体名称。这样做的目的在于，使得后续的在知识图谱中推理的过程更加顺畅。

在步骤S520，从问句中抽取问句的关系及其位置信息。在此，抽取问句的关系及其位置信息可以进一步包括从问句中抽取问句的关系的具体用词、类型信息、位置信息。

接下来，在步骤S530，利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式。一般情况下，根据实体的位置信息、关系的位置信息，可以自动地确定实体和关系在逻辑表达式中的顺序。然而，对于由于语言的复杂性而造成的问句中实体、关系位置混乱的情况，可以根据知识图谱，对自动确定的实体和关系在逻辑表达式中的顺序进行调整，以形成供推理的逻辑表达式。

然后，在步骤S540，利用逻辑表达式，在知识图谱中进行推理。

最后，在步骤S550，根据推理结果，生成对问句的回答。这里，可以预先设置一个或多个特定的答案模板，利用答案模板生成特定形式的回答。

此外，在实践中，可能存在多轮问答。那么，在后续提出的问题中，可能存在指代消解、省略消解的情况。在这样的情况下，根据推理结果，本发明的方法可以首先判断问句是否残缺。如果问句残缺，则通过之前的对话内容及分类模型确定需要补全的位置及内容，以补全后的问句作为待抽取实体和关系的问句。然后再进行上述的抽取实体、关系以及逻辑表达式生成、调整、推理、回答等步骤。

随着对问句的答案的给出，方法500就可以结束了。

本领域普通技术人员应该认识到，本发明的方法可以实现为计算机程序。如上结合图2、图5所述，通过一个或多个程序执行上述实施例的方法，包括指令来使得计算机或处理器执行结合附图所述的算法。这些程序可以使用各种类型的非瞬时计算机可读介质存储并提供给计算机或处理器。非瞬时计算机可读介质包括各种类型的有形存贮介质。非瞬时计算机可读介质的示例包括磁性记录介质(诸如软盘、磁带和硬盘驱动器)、磁光记录介质(诸如磁光盘)、CD-ROM(紧凑盘只读存储器)、CD-R、CD-R/W以及半导体存储器(诸如ROM、PROM(可编程ROM)、EPROM(可擦写PROM)、闪存ROM和RAM(随机存取存储器))。进一步，这些程序可以通过使用各种类型的瞬时计算机可读介质而提供给计算机。瞬时计算机可读介质的示例包括电信号、光信号和电磁波。瞬时计算机可读介质可以用于通过诸如电线和光纤的有线通信路径或无线通信路径提供程序给计算机。

因此，根据本发明，还可以提议一种计算机程序或一种计算机可读介质，用于记录可由处理器执行的指令，所述指令在被处理器执行时，使得处理器执行基于知识图谱的推理对话的方法，包括如下操作：从问句中抽取实体及其位置；从问句中抽取问句的关系及其位置；利用抽取出的实体及其位置以及关系及其位置，将问句转化为逻辑表达式；利用逻辑表达式，在知识图谱中进行推理；根据推理结果，生成对问句的回答。

上面已经描述了本发明的各种实施例和实施情形。但是，本发明的精神和范围不限于此。本领域技术人员将能够根据本发明的教导而做出更多的应用，而这些应用都在本发明的范围之内。

也就是说，本发明的上述实施例仅仅是为清楚说明本发明所做的举例，而非对本发明实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其他不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、替换或改进等，均应包含在本发明权利要求的保护范围之内。

Claims (8)

1.一种基于知识图谱的推理对话的方法，包括：

从问句中抽取实体及其位置信息；

从问句中抽取问句的关系及其位置信息；

利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式；

利用逻辑表达式，在知识图谱中进行推理；

根据推理结果，生成对问句的回答。

2.根据权利要求1所述的方法，其中，

所述的从问句中抽取实体及其位置信息的步骤进一步包括：从问句中抽取实体的具体用词、类型信息、位置信息；

所述的从问句中抽取问句的关系及其位置信息的步骤进一步包括：从问句中抽取问句的关系的具体用词、类型信息、位置信息。

3.根据权利要求2所述的方法，进一步包括：

如果抽取出的实体的具体用词与知识图谱中的实体名称不一致，则将抽取出的实体的具体用词链接到知识图谱中的实体名称。

4.根据权利要求1所述的方法，其中，所述的利用抽取出的实体及其位置信息、关系及其位置信息，将问句转化为逻辑表达式的步骤进一步包括：

根据实体的位置信息、关系的位置信息，自动地确定实体和关系在逻辑表达式中的顺序。

5.根据权利要求4所述的方法，进一步包括：

根据知识图谱，对自动确定的实体和关系在逻辑表达式中的顺序进行调整，以形成供推理的逻辑表达式。

6.根据权利要求1所述的方法，其中，所述的根据推理结果，生成对问句的回答的步骤进一步包括：

根据推理结果，利用答案模板生成特定形式的回答。

7.根据权利要求1所述的方法，进一步包括：

判断问句是否残缺；

如果问句残缺，通过之前的对话内容及分类模型确定需要补全的位置及内容，以补全后的问句作为待抽取实体和关系的问句。

8.一种计算机可读介质，用于记录可由处理器执行的指令，所述指令在被处理器执行时，使得处理器执行基于知识图谱的推理对话的方法，包括如下操作：

从问句中抽取实体及其位置；

从问句中抽取问句的关系及其位置；

利用抽取出的实体及其位置以及关系及其位置，将问句转化为逻辑表达式；

利用逻辑表达式，在知识图谱中进行推理；

根据推理结果，生成对问句的回答。