CN108509519B - 基于深度学习的通用知识图谱增强问答交互系统及方法 - Google Patents
基于深度学习的通用知识图谱增强问答交互系统及方法 Download PDFInfo
- Publication number
- CN108509519B CN108509519B CN201810196192.6A CN201810196192A CN108509519B CN 108509519 B CN108509519 B CN 108509519B CN 201810196192 A CN201810196192 A CN 201810196192A CN 108509519 B CN108509519 B CN 108509519B
- Authority
- CN
- China
- Prior art keywords
- question
- knowledge
- semantic
- answer
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Abstract
本发明公开了一种基于深度学习的通用知识图谱增强问答交互系统及方法,其中,系统包括:扩展知识图谱混合问答模块用于得到扩展知识图谱;知识库问题生成模块分别生成不同问题对应的答案,使得生成多个问题‑答案对;web交互界面,用于获取用户问题;知识图谱问答模块,获取用户问题对应的答案的类型,并得到用户问题对应的数值向量;知识深度推理模块,用于对用户问题对应的答案的类型和用户问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与多个问题‑答案对得到用户问题的目标答案。该系统可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力,提高生成答案的准确性。
Description
技术领域
本发明涉及机器学习技术领域,特别涉及一种基于深度学习的通用知识图谱增强问答交互系统机方法。
背景技术
随着大数据和知识工程的发展,将逐渐形成数据驱动与知识驱动相结合的计算范式,越来越多的通过信息抽取、知识融合及知识加工等技术将海量的非结构化数据构建为知识图谱,使得海量的数据信息表达成更接近人类认知世界的形式,提供了一种更好地组织、管理和理解海量信息的能力。基于知识图谱的问答系统成为学术界和工业界的研究和应用热点方向。目前面向知识图谱的问答系统常用的是组合范畴语法、依存组合语法等问句语义解析方法,问题模板匹配,一阶逻辑表示,SPARQL查询等方法。
自然语言形式的问答正逐渐成为一种人与机器进行交互的新趋势,处于从文本关键词浅层语义搜索提升到基于智能化深度问答的深刻变革中。知识图谱提供了一种更好地组织、管理和理解海量信息的能力。面向知识图谱的问答能够保证系统答案的推理性及准确性,可有效应对知识的不确定性、多样性和复杂性问题。但是目前面向知识图谱的问答系统在知识表示方法上常用的是基于产生式规则、逻辑表示、框架表示、语义网络、本体等方法,在查询检索上主要是模板匹配、语义逻辑表达式、SPARQL查询等方法。这些方法不仅需要大量人工方法的介入,而且在问句和知识的深层次语义解析上效果欠佳。在自动问答领域,将流行的深度学习模型投入应用后,其可学习特性和深层语义理解的效果得到了广泛认可,但是基于深度学习的问答仍然存在缺少训练语料资源,对复杂问题的回答能力尚且不足等问题。
相关技术提供了基于知识图谱的人机问答方法和系统,通过对用户输入的语句进行分词;对通过所述分词所得到的词进行实体抽取;利用知识图谱对通过所述实体抽取所得到的实体信息进行知识推理;以及根据所述知识推理的结果对所述用户输入的语句给出反馈。另外,相关技术公开了一种基于模板匹配技术的知识图谱问答系统和方法,通过对用户的问句进行语法分析,将语法分析后的结果到离线定义的手工模板库中寻找匹配的问句模板,根据所述的实体匹配方法和关系匹配方法,生成最终的结构化的知识图谱查询语句,根据该结构化查询语句到知识图谱中进行检索,返回最终的结果。
相关技术还公开了一种基于知识图谱的厨房领域问答方法及系统,获取问句并对问句进行分词处理得到分词结果;根据上下文特征对分词结果进行实体及属性抽取,并生成问句对应的语义逻辑表达式;根据语义逻辑表达式生成SPARQL查询语句;根据SPARQL查询语句在厨房领域知识图谱中查询得到结果并根据结果得到问句对应的答案。相关技术公开了一种基于知识图谱的自然语言问题实现方法和系统,包括:复杂问题解析单元,用于接受用户提出自然语言问题,并对问题进行解析,如果问题是复杂性问题,则将其分解为一系列的二元事实型问题;概率推导单元,用于对每一个二元事实型问题,用概率推算的方法来找它的值;知识图谱查询单元,用于从从预先训练的知识图谱中找到并返回答案。
然而,相关技术的知识图谱问答系统存在的主要问题是:目前大多数领域知识图谱问答通常采用模板匹配,语义逻辑表达式SPARQL查询,复杂问题拆解,简单推理等方法,这些方法需要消耗大量的人工成本,且处在浅层语义解析,简单知识推理的层面,主要体现在事实型问题的处理上。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种基于深度学习的通用知识图谱增强问答交互系统,该系统可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力,提高生成答案的准确性。
本发明的另一个目的在于提出一种基于深度学习的通用知识图谱增强问答交互方法。
为达到上述目的,本发明一方面实施例提出了一种基于深度学习的通用知识图谱增强问答交互系统,包括:扩展知识图谱混合问答模块,用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱;知识库问题生成模块,用于对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对;web交互界面,用于获取用户问题;知识图谱问答模块,用于对所述用户问题进行分析,以获取所述用户问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量;知识深度推理模块,用于对所述用户问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。
本发明实施例的基于深度学习的通用知识图谱增强问答交互系统,可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习,并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求,基于深度学习端到端的问答,从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力,提高生成答案的准确性。
另外,根据本发明上述实施例的基于深度学习的通用知识图谱增强问答交互系统还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述知识图谱问答模块还用于将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。
进一步地,在本发明的一个实施例中,所述知识图谱问答模块进一步用于将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
进一步地,在本发明的一个实施例中,所述知识库问题生成模块还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字,并通过所述关键字生成一个自然语言问题,以及通过卷积神经网络RNN对模型对关键字的子集进行排序,以产生一个自然语言的问题。
进一步地,在本发明的一个实施例中,所述web交互界面还用于显示所述用户问题的答案。
进一步地,在本发明的一个实施例中,上述系统还包括:领域适配通用接口模块,用于提供接口开放服务。
为达到上述目的,本发明另一方面实施例提出了一种基于深度学习的通用知识图谱增强问答交互方法,包括以下步骤:根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱;对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对;获取用户问题;对所述用户问题进行分析,以获取所述用户问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量;对所述用户问题对应的答案的类型和所述用户问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案。
本发明实施例的基于深度学习的通用知识图谱增强问答交互方法,可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习,并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求,基于深度学习端到端的问答,从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力,提高生成答案的准确性。
另外,根据本发明上述实施例的基于深度学习的通用知识图谱增强问答交互方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述对所述用户问题进行分析,以获取所述问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量,进一步包括:将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。
进一步地,在本发明的一个实施例中,所述对所述用户问题进行分析,以获取所述问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量,进一步包括:将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
进一步地,在本发明的一个实施例中,所述对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对,进一步包括:将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为根据本发明一个实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图;
图2为根据本发明一个具体实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图;
图3为根据本发明一个实施例的问句表示流程图;
图4为根据本发明一个实施例的知识库问题处理流程图;
图5为根据本发明一个实施例的复杂问题推理的功能示意图;
图6为根据本发明一个实施例的问题-答案对生成流程图;
图7为根据本发明一个实施例的问题-答案对生成示例示意图;
图8为根据本发明一个实施例的简单的交互回答示例效果的示意图;
图9为根据本发明一个实施例的基于深度学习的通用知识图谱增强问答交互方法的流程图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统及方法,首先将参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统。
图1是本发明一个实施例的基于深度学习的通用知识图谱增强问答交互系统的结构示意图。
如图1所示,该基于深度学习的通用知识图谱增强问答交互系统10包括:扩展知识图谱混合问答模块100、知识库问题生成模块200、web交互界面300、知识图谱问答模块400和知识深度推理模块500。
其中,扩展知识图谱混合问答模块100用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱。知识库问题生成模块200用于对扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对。web交互界面300用于获取用户问题。知识图谱问答模块400用于对用户问题进行分析,以获取问题对应的答案的类型,并通过神经网络的语义组合得到问题对应的数值向量。知识深度推理模块500用于对问题对应的答案的类型和问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与多个问题-答案对得到用户问题的目标答案。本发明实施例的系统10可以有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力和通用技术共享能力,提高生成答案的准确性。
可以理解的是,本发明实施例基于深度学习端到端的问答,提高问答系统的性能。应对复杂问题,实现复杂关系建模/多步关系路径知识的深度推理。使用当前流行的深度学习模型或集成多神经网络,提高知识图谱问答的召回率和准确率。结合外部文本知识的混合问答形式,解决特定领域知识图谱的知识不完整问题,提升问答系统可靠性。从给定的知识图谱中自动生成问题-答案对,训练更好的质量保证体系,优化自动问答搜索效率和外部评估能力。提供开放的通用接口服务,满足切换不同的特定的知识图谱数据源时能够复用本文的知识图谱问答框架。
本发明实施例重点研究针对医药、企业、电商领域自建知识图谱,实现基于深度学习的领域知识图谱增强问答系统,主要包含以下几点关键技术的方法与实现:知识图谱问答;复杂问题处理;问题生成;混合问答;领域适配通用接口服务;web交互界面系统呈现。本专利将实现基本的基于深度学习的知识图谱问答系统,在此基础上实现知识推理,混合问答,问题生成等扩展功能。
如图2所示,本发明实施例系统10由深度学习分布式表示的知识图谱问答、知识库问题生成、知识深度推理、扩展知识图谱混合问答、领域适配通用接口服务开放、web交互界面等六个功能性子系统构成。
进一步地,在本发明的一个实施例中,知识图谱问答模块400还用于将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及实体、概念、类别之间的关系转换为同一语义空间的数值向量。
可以理解的是,本发明实施例将实现基于深度学习端到端的知识图谱自动问答系统,试图通过高质量的问题-答案语料建立联合学习模型,同时学习语料库、知识库和问句的语义表示及它们相互之间的语义映射关系,试图通过向量间的数值运算对于复杂的问答过程进行建模。这类方法的优势在于把传统的问句语义解析、文本检索、答案抽取与生成的复杂步骤转变为一个可学习的过程。
本发明实施例将应用以深度学习为代表的表示学习技术,该方法的基本假设是将知识图谱问答看作是一个语义匹配的过程。通过表示学习,我们能够将用户的自然语言问题转换为一个低维空间中的数值向量(分布式语义表示),同时知识库中的实体、概念、类别以及关系也能够表示成为同一语义空间的数值向量。将传统知识库问答任务看成是问句语义向量与知识库中实体、边的语义向量相似度计算的过程。
进一步地,在本发明的一个实施例中,知识图谱问答模块400进一步用于将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习知识库语义表示和问句语义表示之间的映射关系。
具体而言,主要研究基于表示学习的知识库问答,主要包含以下3个内容:
(1)学习知识库的分布式表示,将知识库中的语义单元,包括节点(实体、类别)、边(关系),表示成为语义空间中的数值向量。采用基于映射的知识库表示学习,将关系r表示为向量,对于三元组的建模看作从头部实体到尾部实体的平移。本专利中针对1-1关系,1-N、N-1、N-N关系,多语义关系的三种场景,依据对问句中关系类型的分类分别采用TransE模型,TransH模型,TransG模型,进行多场景的联合语义表示处理。其方法如下:
采用Trans E模型,实现“1-to-1”关系类型,这一模型通常能够很好的建模,用关系r的向量lr作为头实体向量lh和尾实体向量lt之间的平移。对于每个三元组(h,r,t),要有:lh+lr≈lt。损失函数为:即向量lh+lr和lt的L1或L2距离。
采用Trans H模型,首先将头部、尾部实体向量投影到关系所在超平面,然后在超平面上完成翻译过程。将头实体向量lh和尾实体向量lt沿法线wr投影到关系r对应的超平面上,用lhr和ltr表示如下:
该模型能够使同一个实体在不同的关系中扮演不同的角色,实现1-to-N,N-to-1和N-to-N的关系类型上表示学习。
采用TransG模型,使用高斯混合模型描述头、尾实体之间的关系。一个关系会对应多种语义,每种语义用一个高斯分布来刻画,即~
其中,I表示单位矩阵,~表示服从分布。
(2)针对用户的问句,通过深度学习学习问句的语义表示。
如图3所示,本发明实施例选择当前已有的基于神经网络的语义组合技术,采用TextRNN+CNN的方式,更高效的进行问句的文本表示,利用前向和后向RNN得到每个词的前向和后向上下文的表示:
cl(ωi)=f(W(l)cl(ωi-1)+W(sl)e(ωi-1)), (1)
cr(ωi)=f(W(T)cr(ωi+1)+W(sT)e(ωi+1))。 (2)
使得词的表示变成词向量和前向后向上下文向量串接起来的形式,即:
xi=[cl(ωi);e(ωi);cr(ωi)], (3)
最后再接跟TextCNN相同卷积层,pooling层即可,采用与TextCNN不同的是令卷积层的filter_size=1,不再需要更大filter_size获得更大视野,这里词的表示也可以只用双向RNN输出。
(3)基于学习到的问句和知识库的语义表示,自动学习知识库语义表示和问句语义表示之间的关联,学习它们间的映射关系,从而构建基于表示学习的知识库问答系统。
采用基于词向量(Word em-bedding)的表示学习方法,将问句以及知识库中的三元组都转换为低维空间中的向量,然后计算余弦相似度找出问句最有可能对应的答案三元组。在答案端加入更多信息,会提升问答的效果,其基本假设是,在答案端加入更多信息,会提升问答的效果。答案的表示可以分成三种:1)答案实体的向量表示;2)答案的路径(Path)的向量表示(和前面的工作用三元组表示的方法一样,直接相加);3)和答案直接相关的实体和关系的向量表示,即子图向量表示(Subgraph embedding)。如图4所示,把知识库问答转换成两个问题,一个是找到问句中的实体和知识库中实体的对应;另一个是问句中自然语言描述和知识库中语义关系的对应。找到实体和关系后,就可以从知识库中找到其指向的答案实体。在进行上述两种匹配时都采用CNN来处理自然语言问句。
4)复杂问题推理
已有的基于深度学习的问答方法多是针对简单问题(例如单关系问题)设计的,对于复杂问题的回答能力尚且不足。本专利使用基于内容的神经记忆访问的高斯注意力模型。在提出的注意力模型中,神经网络具有额外的自由度,以将其关注的焦点从有限的注意力控制到广泛的关注。使用提出的注意力模型作为知识库嵌入连续向量空间的评分函数,然后训练一个对知识库中的实体进行问题回答的模型。提出的注意力模型既能处理一系列关系的不确定性传播,又能处理条件的自然结合。该模型将很好地处理路径查询和联合查询。
如图5所示,从自然语言问题输入中提取forward和Borussia Dortmund两个实体,并与以相应的实体向量为中心的质量点分布相关联。采用LSTM将输入编码成具有相同长度的输出矢量序列。然后对每个被识别的实体e取平均的注意力加权的输出向量来预测与实体e相关的关系r的权重。对于每个实体e,通过对相应的质量点与根据方程(3)加权的关系的(预先训练的)高斯表示进行卷积来形成高斯注意力。最终的预测是通过对产品进行高斯注意力和归一化来产生的。
权重:pt,e=softmax(f(υe,ht)),其中,(t=1,…,T),υe为实体e的向量;
得分:scoree(υo)=logφ|(υo|μe,α,KB,∑e,α,KB)。
进一步地,在本发明的一个实施例中,知识库问题生成模块200还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字,并通过关键字生成一个自然语言问题,以及通过卷积神经网络RNN对模型对关键字的子集进行排序,以产生一个自然语言的问题。
具体而言,深度学习的方法依赖大量的训练语料,而目前获取高质量的问题-答案对仍然是个瓶颈。本发明实施例将提出从知识库中通过模板利用已有三元组来生成问题,用较小的代价生成问题-答案对,从而提供更好的质量保证体系。
如图6所示,从给定的知识图谱中自动生成问题-答案对。为了生成这样的QA对,使用以下方法:首先从存储在知识图谱中的三元组中表达的实体和关系中提取一组关键字。从每个这样的集合中,使用关键字的一个子集来生成一个自然语言问题,它有一个唯一的答案。本发明实施例将关键字的子集作为一个序列,并提出一个序列来使用RNN对模型进行排序,从而产生一个自然语言的问题。例如,如图7所示,从知识库中生成问题-答案对。
进一步地,扩展知识图谱混合问答模块100通过结合知识图谱外部文本资源的混合问答形式,扩展知识图谱外部知识,实现基于知识图谱的增强问答,有效解决特定领域知识图谱的知识不完整问题。
本发明实施例也试图在表示学习中考虑文本数据,利用word2vec学习维基百科正文中的词表示,利用翻译模型学习知识库中的知识表示。同时,利用维基百科正文中的链接信息(锚文本与实体的对应关系),让文本中实体对应的词表示与知识库中的实体表示尽可能接近,从而实现文本与知识库融合的表示学习。
在互联网上,网络文本包含了数百万条知识库中没有的事实,但却是非结构化的。通用模式可以通过将它们对齐到一个共同的嵌入式空间来支持对结构化知识库和非结构化文本进行联合推理。我们试图将通用模式扩展到自然语言问题回答,利用记忆网络来处理文本信息和知识库信息组合中的大量事实,颜色梯度代表每个事实的注意力。
扩展知识图谱混合问答模块100可以在问题-答案对中以端到端的方式进行培训,该模型的架构主要包含以下4部分:
(1)记忆网络部分(通用模式中包含知识库和文本);
(2)问题编码部分(双向LSTM);
(4)答案实体筛选部分:依据上下文向量ct,选择具有最高内积的答案实体。
进一步地,在本发明的一个实施例中,本发明实施例的系10统还包括:领域适配通用接口模块。其中,领域适配通用接口模块用于提供接口开放服务。
具体而言,领域适配通用接口模块实现两类功能,具体包括:
(1)通过脚本及控制流程实现对于不同特定领域的知识图谱的自动问答建立一般性手段和方法,整合封装基于知识图谱自动问答技术与功能模块;
(2)通过迁移学习模型(CNN、RNN层处理序列-序列标注任务;词向量层、LSTM层)能够实现神经网络的领域模型适配。
领域适配通用接口模块通过两类功能可达成以下效果:提供通用的接口开放服务,使得技术框架和网络结构能够类似系统或外围系统应用。
进一步地,在本发明的一个实施例中,web交互界面300还用于显示用户问题的答案。
举例而言,简单的交互回答示例效果如图8所示,本发明实施例展示的基于知识图谱的自动问答系统功能,将实现一个web网页交互界面,并通过网页操作实现系统功能以及通用接口能力的展示。
综上,本发明实施例通过深度学习集成多个神经网络模型协同训练,建立联合学习模型,学习语料库、知识库和问句的语义表示及其相互之间的语义映射关系,通过向量间的数值运算对于复杂的问答过程进行建模。通过知识表示学习技术,研究实现知识的深层次推理或多路径推理,有效解决基于知识图谱的复杂关系或关系多路径问题的问答的召回率和准确性。通过从给定的知识图谱中自动生成问题-答案对,可以训练更好的质量保证体系,并有效提升系统外部评估的效率。对于不同特定领域的知识图谱的自动问答建立一般性手段和方法,整合封装基于知识图谱自动问答技术,能够实现领域适配,提供通用的接口开放服务。该系统在语义理解分析及性能上超过传统知识库问答方法,且在扩展综合问答能力上提升显著的效果。对基于知识图谱的自动问答通用技术能力共享、服务能力共享以及垂直领域商业场景应用的意义非常巨大。
根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互系统,可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习,并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求,基于深度学习端到端的问答,从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力,提高生成答案的准确性。
其次参照附图描述根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互方法。
图9是本发明一个实施例的基于深度学习的通用知识图谱增强问答交互方法的流程图。
如图9所示,该基于深度学习的通用知识图谱增强问答交互方法包括以下步骤:
在步骤S901中,根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱。
在步骤S902中,对扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对。
在步骤S903中,获取用户问题。
在步骤S904中,对用户问题进行分析,以获取问题对应的答案的类型,并通过神经网络的语义组合得到问题对应的数值向量。
在步骤S905中,对问题对应的答案的类型和问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与多个问题-答案对得到用户问题的目标答案。
进一步地,在本发明的一个实施例中,对用户问题进行分析,以获取问题对应的答案的类型,并通过神经网络的语义组合得到问题对应的数值向量,进一步包括:将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及实体、概念、类别之间的关系转换为同一语义空间的数值向量。
进一步地,在本发明的一个实施例中,对用户问题进行分析,以获取问题对应的答案的类型,并通过神经网络的语义组合得到问题对应的数值向量,进一步包括:将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习知识库语义表示和问句语义表示之间的映射关系。
进一步地,在本发明的一个实施例中,对扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对,进一步包括:将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习知识库语义表示和问句语义表示之间的映射关系。
需要说明的是,前述对基于深度学习的通用知识图谱增强问答交互系统实施例的解释说明也适用于该实施例的基于深度学习的通用知识图谱增强问答交互方法,此处不再赘述。
根据本发明实施例提出的基于深度学习的通用知识图谱增强问答交互方法,可以实现从浅层计算到深度神经推理、从单纯依赖于数据驱动的模型到数据驱动与知识引导相结合学习,并借助自然语言处理技术通过自然语言交互形式来满足用户日益增长的精准化和智能化信息服务需求,基于深度学习端到端的问答,从而有效提高问答系统的性能、可操作性、语义理解分析能力、综合问答扩展能力、通用技术共享能力,提高生成答案的准确性。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种基于深度学习的通用知识图谱增强问答交互系统,其特征在于,包括:
扩展知识图谱混合问答模块,用于根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱;
知识库问题生成模块,用于对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对;
web交互界面,用于获取用户问题;
知识图谱问答模块,用于对所述用户问题进行分析,以获取所述用户问题对应的答案的类型,并通过神经网络的语义组合得到所述用户问题对应的数值向量;
知识深度推理模块,用于对所述问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案;
其中,从所述用户问题中提取实体,并以对应的实体向量为中心的质量点分布相关联;根据长短期记忆网络LSTM对所述用户问题编码以得到具有相同长度的输出矢量序列,对每个实体取平均的注意力加权的输出向量以预测与实体相关的关系的权重;对于每个实体,通过对相应的质量点与加权的关系的高斯表示进行卷积形成高斯注意力,通过高斯注意力和归一化确定得分函数,根据得分函数确定目标答案。
2.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统,其特征在于,所述知识图谱问答模块还用于将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。
3.根据权利要求2所述的基于深度学习的通用知识图谱增强问答交互系统,其特征在于,所述知识图谱问答模块进一步用于将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
4.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统,其特征在于,所述知识库问题生成模块还用于提取存储在知识图谱中的三元组中表达的实体和关系中一组关键字,并通过所述关键字生成一个自然语言问题,以及通过卷积神经网络RNN对模型对关键字的子集进行排序,以产生一个自然语言的问题。
5.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统,其特征在于,所述web交互界面还用于显示所述用户问题的答案。
6.根据权利要求1所述的基于深度学习的通用知识图谱增强问答交互系统,其特征在于,还包括:
领域适配通用接口模块,用于提供接口开放服务。
7.一种基于深度学习的通用知识图谱增强问答交互方法,其特征在于,包括以下步骤:
根据记忆网络处理互联网数据库中的文本信息和事实信息得到扩展知识图谱;
对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对;
获取用户问题;
对所述用户问题进行分析,以获取所述用户问题对应的答案的类型,并通过神经网络的语义组合得到所述用户问题对应的数值向量;
对所述用户问题对应的答案的类型和所述问题对应的数值向量进行知识检索与推理,并根据检索与推理的结果与所述多个问题-答案对得到所述用户问题的目标答案;
其中,从所述用户问题中提取实体,并以对应的实体向量为中心的质量点分布相关联;根据LSTM对所述用户问题编码以得到具有相同长度的输出矢量序列,对每个实体取平均的注意力加权的输出向量以预测与实体相关的关系的权重;对于每个实体,通过对相应的质量点与加权的关系的高斯表示进行卷积形成高斯注意力,通过高斯注意力和归一化确定得分函数,根据得分函数确定目标答案。
8.根据权利要求7所述的基于深度学习的通用知识图谱增强问答交互方法,其特征在于,所述对所述用户问题进行分析,以获取所述问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量,进一步包括:
将用户的自然语言问题转换为一个低维空间中的数值向量,并将知识库中的实体、概念、类别以及所述实体、概念、类别之间的关系转换为同一语义空间的数值向量。
9.根据权利要求8所述的基于深度学习的通用知识图谱增强问答交互方法,其特征在于,所述对所述用户问题进行分析,以获取所述问题对应的答案的类型,并通过神经网络的语义组合得到所述问题对应的数值向量,进一步包括:
将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
10.根据权利要求7所述的基于深度学习的通用知识图谱增强问答交互方法,其特征在于,所述对所述扩展知识图谱进行处理,以分别生成不同问题对应的答案,使得生成多个问题-答案对,进一步包括:
将知识库中的语义单元转换为语义空间中的数值向量,并针对用户的问句,通过深度学习学习问句的语义表示,且通过学习到的问句和知识库的语义表示,学习知识库语义表示和问句语义表示之间的关联,并学习所述知识库语义表示和问句语义表示之间的映射关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810196192.6A CN108509519B (zh) | 2018-03-09 | 2018-03-09 | 基于深度学习的通用知识图谱增强问答交互系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810196192.6A CN108509519B (zh) | 2018-03-09 | 2018-03-09 | 基于深度学习的通用知识图谱增强问答交互系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108509519A CN108509519A (zh) | 2018-09-07 |
CN108509519B true CN108509519B (zh) | 2021-03-09 |
Family
ID=63377253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810196192.6A Active CN108509519B (zh) | 2018-03-09 | 2018-03-09 | 基于深度学习的通用知识图谱增强问答交互系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108509519B (zh) |
Families Citing this family (77)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110019749B (zh) * | 2018-09-28 | 2021-06-15 | 北京百度网讯科技有限公司 | 生成vqa训练数据的方法、装置、设备和计算机可读介质 |
US10923114B2 (en) * | 2018-10-10 | 2021-02-16 | N3, Llc | Semantic jargon |
CN109446339B (zh) * | 2018-10-11 | 2021-08-06 | 广东工业大学 | 一种基于多核高斯分布的知识图谱表示方法 |
CN110070772A (zh) * | 2018-10-12 | 2019-07-30 | 王龙 | 一种低成本易操作的基于知识图谱的学习诊断系统 |
CN109214719B (zh) * | 2018-11-02 | 2021-07-13 | 广东电网有限责任公司 | 一种基于人工智能的营销稽查分析的系统和方法 |
CN109460464A (zh) * | 2018-11-23 | 2019-03-12 | 北京羽扇智信息科技有限公司 | 知识挖掘方法、装置、电子设备及存储介质 |
CN109784163A (zh) * | 2018-12-12 | 2019-05-21 | 中国科学院深圳先进技术研究院 | 一种轻量视觉问答系统及方法 |
CN109670024B (zh) * | 2018-12-17 | 2021-06-04 | 北京百度网讯科技有限公司 | 逻辑表达式确定方法、装置、设备和介质 |
WO2020124377A1 (zh) * | 2018-12-18 | 2020-06-25 | 西门子股份公司 | 建模的知识获取方法、装置和系统 |
CN109739995B (zh) * | 2018-12-21 | 2022-12-09 | 中国银联股份有限公司 | 一种信息处理方法及装置 |
CN109741824B (zh) * | 2018-12-21 | 2023-08-04 | 质直(上海)教育科技有限公司 | 一种基于机器学习的医疗问诊方法 |
CN109684456B (zh) * | 2018-12-27 | 2021-02-02 | 中国电子科技集团公司信息科学研究院 | 基于物联网能力知识图谱的场景能力智能问答系统 |
CN109815323B (zh) * | 2019-01-08 | 2021-02-12 | 四川灵灵器机器人有限责任公司 | 一种人机交互训练问答生成算法 |
CN109933653A (zh) * | 2019-01-24 | 2019-06-25 | 平安科技(深圳)有限公司 | 问答系统的问答查询方法、系统及计算机设备 |
CN109947915B (zh) * | 2019-02-25 | 2021-05-04 | 厦门无常师教育科技有限公司 | 一种基于知识管理系统的人工智能专家系统及其构建方法 |
CN109933661B (zh) * | 2019-04-03 | 2020-12-18 | 上海乐言信息科技有限公司 | 一种基于深度生成模型的半监督问答对归纳方法和系统 |
CN110059160B (zh) * | 2019-04-17 | 2021-02-09 | 东南大学 | 一种端到端的基于上下文的知识库问答方法及装置 |
CN110059173A (zh) * | 2019-04-19 | 2019-07-26 | 辽宁工程技术大学 | 一种基于知识图谱的智能厨房问答助手系统 |
CN110263133B (zh) * | 2019-05-07 | 2023-11-24 | 平安科技(深圳)有限公司 | 基于知识图谱的问答方法、电子装置、设备及存储介质 |
CN111914094B (zh) * | 2019-05-10 | 2023-09-26 | 中国人民大学 | 一种基于三元交互的知识图谱表示学习方法 |
CN110175227B (zh) * | 2019-05-10 | 2021-03-02 | 神思电子技术股份有限公司 | 一种基于组队学习和层级推理的对话辅助系统 |
CN110275959B (zh) * | 2019-05-22 | 2023-04-28 | 广东工业大学 | 一种面向大规模知识库的快速学习方法 |
CN110362681B (zh) * | 2019-06-19 | 2023-09-22 | 平安科技(深圳)有限公司 | 问答系统重复问题识别方法、装置及存储介质 |
CN110516050A (zh) * | 2019-07-15 | 2019-11-29 | 上海文思海辉金信软件有限公司 | 一种基于知识图谱的多路径训练场景的构建方法 |
CN110377715A (zh) * | 2019-07-23 | 2019-10-25 | 天津汇智星源信息技术有限公司 | 基于法律知识图谱的推理式精准智能问答方法 |
CN112307137A (zh) * | 2019-07-24 | 2021-02-02 | 阿里巴巴集团控股有限公司 | 数据处理方法、装置、存储介质及处理器 |
CN110598204B (zh) * | 2019-07-31 | 2023-07-25 | 平安科技(深圳)有限公司 | 基于知识图谱的实体识别数据增强方法及系统 |
CN110427627B (zh) * | 2019-08-02 | 2023-04-28 | 北京百度网讯科技有限公司 | 基于语义表示模型的任务处理方法和装置 |
CN112328800A (zh) * | 2019-08-05 | 2021-02-05 | 上海交通大学 | 自动生成编程规范问题答案的系统及方法 |
CN110597969B (zh) * | 2019-08-12 | 2022-05-24 | 中国农业大学 | 一种农业知识智能问答方法、系统以及电子设备 |
CN112445899B (zh) * | 2019-08-29 | 2024-05-03 | 南京大学 | 一种基于神经网络的知识库问答中的属性匹配方法 |
CN110532368B (zh) * | 2019-09-04 | 2023-03-14 | 达闼机器人股份有限公司 | 问答方法、电子设备及计算机可读存储介质 |
CN112579787A (zh) * | 2019-09-30 | 2021-03-30 | 北京国双科技有限公司 | 知识图谱的构建方法及装置 |
CN110727782A (zh) * | 2019-10-22 | 2020-01-24 | 苏州思必驰信息科技有限公司 | 问答语料生成方法及系统 |
CN110750633B (zh) * | 2019-10-22 | 2022-03-29 | 思必驰科技股份有限公司 | 用于确定问题的答案的方法及装置 |
CN110990549B (zh) * | 2019-12-02 | 2023-04-28 | 腾讯科技(深圳)有限公司 | 获取答案的方法、装置、电子设备及存储介质 |
CN111078836B (zh) * | 2019-12-10 | 2023-08-08 | 中国科学院自动化研究所 | 基于外部知识增强的机器阅读理解方法、系统、装置 |
CN111274371B (zh) * | 2020-01-14 | 2023-09-29 | 东莞证券股份有限公司 | 一种基于知识图谱的智能人机对话方法及设备 |
CN111324709B (zh) * | 2020-02-10 | 2021-08-13 | 广西师范大学 | 基于学科知识图谱和卷积神经网络的智能答疑方法 |
CN111444313B (zh) * | 2020-03-04 | 2023-10-24 | 深圳追一科技有限公司 | 基于知识图谱的问答方法、装置、计算机设备和存储介质 |
CN111368058B (zh) * | 2020-03-09 | 2023-05-02 | 昆明理工大学 | 一种基于迁移学习的问答匹配方法 |
CN111428018B (zh) * | 2020-03-26 | 2024-02-06 | 中国建设银行股份有限公司 | 智能问答方法及装置 |
CN111475631B (zh) * | 2020-04-05 | 2022-12-06 | 北京亿阳信通科技有限公司 | 一种基于知识图谱与深度学习的疾病问答方法及装置 |
CN111488441B (zh) * | 2020-04-08 | 2023-08-01 | 北京百度网讯科技有限公司 | 问题解析方法、装置、知识图谱问答系统和电子设备 |
CN111460085A (zh) * | 2020-04-17 | 2020-07-28 | 支付宝(杭州)信息技术有限公司 | 基于图结构的知识点推荐方法及装置 |
CN111522965A (zh) * | 2020-04-22 | 2020-08-11 | 重庆邮电大学 | 一种基于迁移学习的实体关系抽取的问答方法及系统 |
CN111598252B (zh) * | 2020-04-30 | 2023-08-18 | 西安理工大学 | 基于深度学习的大学计算机基础知识解题方法 |
CN111666395A (zh) * | 2020-05-18 | 2020-09-15 | 扬州大学 | 面向软件缺陷的可解释问答方法、装置、计算机设备和存储介质 |
CN111737491B (zh) * | 2020-06-19 | 2023-07-21 | 中国建设银行股份有限公司 | 一种交互过程的控制方法、装置、存储介质及设备 |
CN111460127A (zh) * | 2020-06-19 | 2020-07-28 | 支付宝(杭州)信息技术有限公司 | 训练机器阅读模型的方法和装置 |
CN112749262B (zh) * | 2020-07-24 | 2023-11-10 | 腾讯科技(深圳)有限公司 | 基于人工智能的问答处理方法、装置、电子设备及存储介质 |
CN111897944B (zh) * | 2020-08-17 | 2024-03-22 | 哈尔滨工业大学 | 基于语义空间共享的知识图谱问答系统 |
CN112256847B (zh) * | 2020-09-30 | 2023-04-07 | 昆明理工大学 | 融合事实文本的知识库问答方法 |
CN112288091B (zh) * | 2020-10-30 | 2023-03-21 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于多模态知识图谱的知识推理方法 |
CN112417120B (zh) * | 2020-11-20 | 2022-10-04 | 中山大学 | 一种基于强化学习的生成式医疗问答方法及系统 |
CN112765310A (zh) * | 2020-12-11 | 2021-05-07 | 北京航天云路有限公司 | 一种基于深度学习与相似度匹配的知识图谱问答的方法 |
CN113157873B (zh) * | 2021-01-25 | 2024-05-28 | 北京海致星图科技有限公司 | 一种基于模板匹配和深度学习的知识库问答系统构建方法 |
CN112836030B (zh) * | 2021-01-29 | 2023-04-25 | 成都视海芯图微电子有限公司 | 一种智能对话系统及方法 |
CN112883172B (zh) * | 2021-02-03 | 2022-04-12 | 大连理工大学 | 一种基于双重知识选择的生物医学问答方法 |
CN112800203B (zh) * | 2021-02-05 | 2021-12-07 | 江苏实达迪美数据处理有限公司 | 一种融合文本和知识表征的问答匹配方法及系统 |
CN112948603B (zh) * | 2021-03-08 | 2023-05-05 | 北方自动控制技术研究所 | 一种基于迁移学习的运输投送知识问答方法 |
CN113220861B (zh) * | 2021-06-01 | 2022-09-02 | 中国电子科技集团公司第五十四研究所 | 一种面向专业领域的知识图谱问答系统 |
CN113449038B (zh) * | 2021-06-29 | 2024-04-26 | 东北大学 | 一种基于自编码器的矿山智能问答系统及方法 |
CN113849613B (zh) * | 2021-09-15 | 2023-04-18 | 北方工业大学 | 一种食品安全问答推理方法、系统及电子设备 |
CN113946651B (zh) * | 2021-09-27 | 2024-05-10 | 盛景智能科技(嘉兴)有限公司 | 维修知识推荐方法、装置、电子设备、介质及产品 |
CN114254123A (zh) * | 2021-12-15 | 2022-03-29 | 四川启睿克科技有限公司 | 一种基于深度学习和人机交互的知识图谱问答方法和系统 |
CN114638231B (zh) * | 2022-03-21 | 2023-07-28 | 马上消费金融股份有限公司 | 实体链接方法、装置及电子设备 |
CN114969282B (zh) * | 2022-05-05 | 2024-02-06 | 迈吉客科技(北京)有限公司 | 基于富媒体知识图谱多模态情感分析模型的智能交互方法 |
CN115374765B (zh) * | 2022-10-27 | 2023-06-02 | 浪潮通信信息系统有限公司 | 一种基于自然语言处理的算力网络5g数据解析系统及方法 |
CN116452212B (zh) * | 2023-04-24 | 2023-10-31 | 深圳迅销科技股份有限公司 | 一种智能客服商品知识库信息管理方法及系统 |
CN116541549B (zh) * | 2023-07-06 | 2023-09-19 | 北京邮电大学 | 子图分割方法、装置、电子设备及计算机可读存储介质 |
CN116976435B (zh) * | 2023-09-25 | 2023-12-15 | 浙江辰龙检测技术有限公司 | 一种基于网络安全的知识图谱构建方法 |
CN117874208B (zh) * | 2024-03-11 | 2024-06-07 | 羚羊工业互联网股份有限公司 | 用于实现大模型记忆共享的方法、知识问答方法及其相关设备 |
CN117891929B (zh) * | 2024-03-18 | 2024-05-17 | 南京华飞数据技术有限公司 | 改进型深度学习算法的知识图谱智能问答信息识别方法 |
CN117992615B (zh) * | 2024-04-03 | 2024-06-18 | 中国科学技术大学 | 一种基于组合范畴语法与大模型记忆插件的情绪识别方法 |
CN118674055A (zh) * | 2024-04-26 | 2024-09-20 | 支付宝(杭州)信息技术有限公司 | 一种基于医疗知识图谱的llm模型推理方法及相关设备 |
CN118364058B (zh) * | 2024-06-18 | 2024-09-06 | 中汽知识产权(广州)有限公司 | 一种基于知识图谱的专利语义检索方法和设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787560A (zh) * | 2016-03-18 | 2016-07-20 | 北京光年无限科技有限公司 | 基于循环神经网络的对话数据交互处理方法及装置 |
CN107368547A (zh) * | 2017-06-28 | 2017-11-21 | 西安交通大学 | 一种基于深度学习的智能医疗自动问答方法 |
CN107391623A (zh) * | 2017-07-07 | 2017-11-24 | 中国人民大学 | 一种融合多背景知识的知识图谱嵌入方法 |
CN107662617A (zh) * | 2017-09-25 | 2018-02-06 | 重庆邮电大学 | 基于深度学习的车载交互控制算法 |
KR101820635B1 (ko) * | 2017-09-29 | 2018-02-28 | (주)카디날정보기술 | 온톨로지 기반 지식맵을 활용한 지식진단 방법 |
-
2018
- 2018-03-09 CN CN201810196192.6A patent/CN108509519B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787560A (zh) * | 2016-03-18 | 2016-07-20 | 北京光年无限科技有限公司 | 基于循环神经网络的对话数据交互处理方法及装置 |
CN107368547A (zh) * | 2017-06-28 | 2017-11-21 | 西安交通大学 | 一种基于深度学习的智能医疗自动问答方法 |
CN107391623A (zh) * | 2017-07-07 | 2017-11-24 | 中国人民大学 | 一种融合多背景知识的知识图谱嵌入方法 |
CN107662617A (zh) * | 2017-09-25 | 2018-02-06 | 重庆邮电大学 | 基于深度学习的车载交互控制算法 |
KR101820635B1 (ko) * | 2017-09-29 | 2018-02-28 | (주)카디날정보기술 | 온톨로지 기반 지식맵을 활용한 지식진단 방법 |
Also Published As
Publication number | Publication date |
---|---|
CN108509519A (zh) | 2018-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108509519B (zh) | 基于深度学习的通用知识图谱增强问答交互系统及方法 | |
CN112200317B (zh) | 多模态知识图谱构建方法 | |
CN110309267B (zh) | 基于预训练模型的语义检索方法和系统 | |
CN111753098A (zh) | 一种基于跨媒体动态知识图谱的教学方法及系统 | |
CN114565104A (zh) | 语言模型的预训练方法、结果推荐方法及相关装置 | |
Zhang et al. | Cross-domain recommendation with semantic correlation in tagging systems | |
US20180300407A1 (en) | Query Generation for Social Media Data | |
CN111897944B (zh) | 基于语义空间共享的知识图谱问答系统 | |
CN112256847B (zh) | 融合事实文本的知识库问答方法 | |
CN112417170B (zh) | 面向不完备知识图谱的关系链接方法 | |
Zhang et al. | Hierarchical scene parsing by weakly supervised learning with image descriptions | |
CN112613451B (zh) | 一种跨模态文本图片检索模型的建模方法 | |
CN112115253A (zh) | 基于多视角注意力机制的深度文本排序方法 | |
Chen et al. | Knowledge graphs meet multi-modal learning: A comprehensive survey | |
CN117972434B (zh) | 文本处理模型的训练方法、装置、设备、介质和程序产品 | |
Li et al. | Scene graph generation: A comprehensive survey | |
Sui et al. | Causality-aware enhanced model for multi-hop question answering over knowledge graphs | |
CN113010690B (zh) | 一种基于文本信息增强实体嵌入的方法 | |
Wu et al. | Visual Question Answering | |
CN110909124A (zh) | 基于人在回路的混合增强智能需求精准感知方法及系统 | |
CN114372454B (zh) | 文本信息抽取方法、模型训练方法、装置及存储介质 | |
CN115186072A (zh) | 一种基于双过程认知理论的知识图谱视觉问答方法 | |
Zhang et al. | Exploring aspect-based sentiment quadruple extraction with implicit aspects, opinions, and ChatGPT: a comprehensive survey | |
CN117033646A (zh) | 信息查询方法、装置、电子设备及计算机可读存储介质 | |
Meng et al. | Prototype local–global alignment network for image–text retrieval |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |