CN113761167A - 一种会话信息抽取方法、系统、电子设备及存储介质 - Google Patents

一种会话信息抽取方法、系统、电子设备及存储介质 Download PDF

Info

Publication number
CN113761167A
CN113761167A CN202111054263.7A CN202111054263A CN113761167A CN 113761167 A CN113761167 A CN 113761167A CN 202111054263 A CN202111054263 A CN 202111054263A CN 113761167 A CN113761167 A CN 113761167A
Authority
CN
China
Prior art keywords
embedding
representation
session information
sequence
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111054263.7A
Other languages
English (en)
Other versions
CN113761167B (zh
Inventor
付骁弈
吴信东
黄艳香
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Minglue Artificial Intelligence Group Co Ltd
Original Assignee
Shanghai Minglue Artificial Intelligence Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Minglue Artificial Intelligence Group Co Ltd filed Critical Shanghai Minglue Artificial Intelligence Group Co Ltd
Priority to CN202111054263.7A priority Critical patent/CN113761167B/zh
Publication of CN113761167A publication Critical patent/CN113761167A/zh
Application granted granted Critical
Publication of CN113761167B publication Critical patent/CN113761167B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Machine Translation (AREA)

Abstract

本发明提出一种会话信息抽取方法、系统、电子设备及存储介质，其方法技术方案包括对于待抽取对话的领域，构建一领域知识图谱，对对话进行序列划分，并对序列中涉及领域知识图谱的内容进行标注；获取序列中的字符实体表示和字符属性表示，并进一步获取领域知识图谱的候选实体表示和候选属性表示；根据候选实体表示通过注意力机制对字符实体表示计算第一嵌入，并根据候选属性表示通过注意力机制对字符属性表示计算第二嵌入；将第一嵌入和第二嵌入进行交互，获取对话的最终特征矩阵；根据最终特征矩阵进行打分和模型训练，并通过训练完成的模型进行会话信息的抽取。本申请解决了现有方法灵活度低、难以应对复杂结构和高专业度对话的问题。

Description

一种会话信息抽取方法、系统、电子设备及存储介质
技术领域
本发明属于语言处理技术领域，尤其涉及一种会话信息抽取方法、系统、电子设备及存储介质。
背景技术
基于会话数据的信息抽取有广泛的应用场景。特定行业(例如：医生、金融从业者等)的人工时十分昂贵，如何使用数据挖掘技术自动地抽取专业性会话所包含的重要的结构化的信息是本技术领域面临的技术问题，现有技术中，包括基于语法规则的模型和基于统计机器学习的模型，但是，会话比书面表达更加灵活多变，传统NLP处理工具效果明显下降。比如：“一阵一阵的”专业说法是“阵发性”；会话类型数据普遍具有多轮结构，待抽取信息分布在多轮对话中，结构复杂；没有利用背景知识，高专业度的行业往往存在术语或者黑话，难以通过通用方法识别。
发明内容
本申请实施例提供了一种会话信息抽取方法、系统、电子设备及存储介质，以至少解决现有方法灵活度低、难以应对复杂结构和高专业度对话的问题。
第一方面，本申请实施例提供了一种会话信息抽取方法，包括：序列划分标注步骤，对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注；实体属性编码步骤，获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示；嵌入匹配计算步骤，根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入；嵌入集成交互步骤，将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵；模型构建实施步骤，根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
优选的，将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
优选的，编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
优选的，将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
第二方面，本申请实施例提供了一种会话信息抽取系统，适用于上述一种会话信息抽取方法，包括：序列划分标注模块，对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注；实体属性编码模块，获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示；嵌入匹配计算模块，根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入；嵌入集成交互模块，将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵；模型构建实施模块，根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
在其中一些实施例中，所述序列划分标注模块进一步包括：将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
在其中一些实施例中，所述序列划分标注模块进一步包括：编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
在其中一些实施例中，所述嵌入集成交互模块进一步包括：将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
第三方面，本申请实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的一种会话信息抽取方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面所述的一种会话信息抽取方法。
本申请可应用于知识图谱技术领域。相比于相关技术，本申请实施例提供的一种基于深度神经网络对对话类型数据进行关键信息抽取的方法，通过设计级联的多个部分(包括编码、匹配与集成等)，聚合跨多个话轮的序列，并利用已经构建好的领域知识图谱，完成对话中与知识库条目有关的关键信息的抽取工作。本发明标注方式便捷，比起序列标注的标记方法要容易上手，并且打标签的标注者不需要是某个特定领域的专家；可以有效地处理同一个标签被多个话轮同时覆盖的场景；可以有效地将分步在多轮对话中、结构复杂的信息有效聚合，作为最终信息抽取的输出结果。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本发明的会话信息抽取方法流程图；
图2为本发明的会话信息抽取系统的框架图；
图3为本发明的电子设备的框架图；
以上图中：
1、序列划分标注模块；2、实体属性编码模块；3、嵌入匹配计算模块；4、嵌入集成交互模块；5、模型构建实施模块；60、总线；61、处理器；62、存储器；63、通信接口。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。
在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。
除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
以下，结合附图详细介绍本发明的实施例：
图1为本发明的会话信息抽取方法流程图，请参见图1，本发明会话信息抽取方法包括如下步骤：
S1：对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注。
可选的，将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
在具体实施中，首先,对于待抽取对话所属的领域,通过人工方式构建一个领域知识图谱。该知识图谱由有限个三元组(实体及其属性)构成。
对于一个完整地对话过程，首先人工切分成若干阶段、话轮，进而通过滑窗方式将候选的对话切分，每一个对话阶段以N个邻接对为窗口大小，1为步长进行序列的划分。
以N＝2为例，以下对话可以被切分为两个个序列：
A:”你好，我叫小明“
B:”你好，我叫小红“
A:“你今天吃了吗”
序列1：
A:”你好，我叫小明“
B:”你好，我叫小红“
序列2：
B:”你好，我叫小红“
A:“你今天吃了吗”
在具体实施中，标注者被要求阅读每个序列，并对序列中的词语是否谈及知识图谱中的三元组进行标注。
S2：获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示。
可选的，编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
在具体实施中，在编码阶段，首先对待检测对话序列中每一个句子中的每个字符分别得到一个和实体有关的编码H_utt_e(即字符实体表示)和一个与属性有关的编码H_utt_a(即字符属性表示)。编码器的结构采用在双向LSTM结构输出的结果之上堆叠自注意力机制层。
在具体实施中，使用同样的编码器，对领域知识图谱中的实体以及属性进行编码得到候选实体表示H_can_e和候选属性表示H_can_a。
S3：根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入。
在具体实施中，候选实体表示H_can_e用作注意力机制中的查询QUERY来对原始话语中每个字符的实体表示H_utt_e计算新的嵌入Q_e。
与此同时，候选属性表示H_can_a用作另一个注意力机制中的查询QUERY来对原始话语中每个字符的属性表示H_utt_a计算原始话语中每个字符的嵌入Q_a。这一步的目标是给一个候选人捕获与原始话语最相关的信息。
S4：将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵。
可选的，将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
在具体实施中，为了知道候选实体和属性是否在一个对话序列中被表达，需要对实体对和属性对的信息同时进行获取。可以通过多种方式进行实现，其目的在于将前序步骤获得的Q_e和Q_a进行交互，从而同时获取该序列中实体对和属性对的信息。集成模块的实现方法包括但不局限于将Q_e和Q_a中每个字符的嵌入向量逐个拼接，获得对原始话语的最终特征矩阵Q_f。
S5：根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
在具体实施中，将Q_f输入到打分部分，使用计算得到的原始话语特征Q_f对所有候选进行打分。窗口中所有原始话语与候选配对计算得到的分数中最高的是该候选的最终得分。打分函数的网络结构由N层前馈全连接网络构成，使用SIGMOID激活函数。
在具体实施中，给定已经标注好的样本，首先使用随机初始化的网络参数，对K个样本中每个样本的所有字符进行候选标签的预测。使用交叉熵损失函数计算该预测结果与人工标注正确的结果之间的误差。使用反向传播方法迭代地对网络参数进行训练，直到收敛或者特定迭代次数达到一定阈值为止。
需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例提供了一种会话信息抽取系统，适用于上述的一种会话信息抽取方法。如以下所使用的，术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。
图2为根据本发明的会话信息抽取系统的框架图，请参见图2，包括：
序列划分标注模块1：对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注。
可选的，将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
在具体实施中，首先,对于待抽取对话所属的领域,通过人工方式构建一个领域知识图谱。该知识图谱由有限个三元组(实体及其属性)构成。
对于一个完整地对话过程，首先人工切分成若干阶段、话轮，进而通过滑窗方式将候选的对话切分，每一个对话阶段以N个邻接对为窗口大小，1为步长进行序列的划分。
以N＝2为例，以下对话可以被切分为两个个序列：
A:”你好，我叫小明“
B:”你好，我叫小红“
A:“你今天吃了吗”
序列1：
A:”你好，我叫小明“
B:”你好，我叫小红“
序列2：
B:”你好，我叫小红“
A:“你今天吃了吗”
在具体实施中，标注者被要求阅读每个序列，并对序列中的词语是否谈及知识图谱中的三元组进行标注。
实体属性编码模块2：获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示。
可选的，编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
在具体实施中，在编码阶段，首先对待检测对话序列中每一个句子中的每个字符分别得到一个和实体有关的编码H_utt_e(即字符实体表示)和一个与属性有关的编码H_utt_a(即字符属性表示)。编码器的结构采用在双向LSTM结构输出的结果之上堆叠自注意力机制层。
在具体实施中，使用同样的编码器，对领域知识图谱中的实体以及属性进行编码得到候选实体表示H_can_e和候选属性表示H_can_a。
嵌入匹配计算模块3：根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入。
在具体实施中，候选实体表示H_can_e用作注意力机制中的查询QUERY来对原始话语中每个字符的实体表示H_utt_e计算新的嵌入Q_e。
与此同时，候选属性表示H_can_a用作另一个注意力机制中的查询QUERY来对原始话语中每个字符的属性表示H_utt_a计算原始话语中每个字符的嵌入Q_a。这一步的目标是给一个候选人捕获与原始话语最相关的信息。
嵌入集成交互模块4：将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵。
可选的，将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
在具体实施中，为了知道候选实体和属性是否在一个对话序列中被表达，需要对实体对和属性对的信息同时进行获取。可以通过多种方式进行实现，其目的在于将前序步骤获得的Q_e和Q_a进行交互，从而同时获取该序列中实体对和属性对的信息。集成模块的实现方法包括但不局限于将Q_e和Q_a中每个字符的嵌入向量逐个拼接，获得对原始话语的最终特征矩阵Q_f。
模型构建实施模块5：根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
在具体实施中，将Q_f输入到打分部分，使用计算得到的原始话语特征Q_f对所有候选进行打分。窗口中所有原始话语与候选配对计算得到的分数中最高的是该候选的最终得分。打分函数的网络结构由N层前馈全连接网络构成，使用SIGMOID激活函数。
在具体实施中，给定已经标注好的样本，首先使用随机初始化的网络参数，对K个样本中每个样本的所有字符进行候选标签的预测。使用交叉熵损失函数计算该预测结果与人工标注正确的结果之间的误差。使用反向传播方法迭代地对网络参数进行训练，直到收敛或者特定迭代次数达到一定阈值为止。
另外，结合图1描述的一种会话信息抽取方法可以由电子设备来实现。图3为本发明的电子设备的框架图。
电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。
具体地，上述处理器61可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
其中，存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器62可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器62可在数据处理装置的内部或外部。在特定实施例中，存储器62是非易失性(Non-Volatile)存储器。在特定实施例中，存储器62包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。
存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器61所执行的可能的计算机程序指令。
处理器61通过读取并执行存储器62中存储的计算机程序指令，以实现上述实施例中的任意一种会话信息抽取方法。
在其中一些实施例中，电子设备还可包括通信接口63和总线60。其中，如图3所示，处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。
通信端口63可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
总线60包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线60可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(FrontSide Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线60可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
该电子设备可以执行本申请实施例中的一种会话信息抽取方法。
另外，结合上述实施例中的一种会话信息抽取方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种会话信息抽取方法。
而前述的存储介质包括：U盘、移动硬盘、只读存储器(ReadOnly Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种会话信息抽取方法，其特征在于，包括：
序列划分标注步骤，对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注；
实体属性编码步骤，获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示；
嵌入匹配计算步骤，根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入；
嵌入集成交互步骤，将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵；
模型构建实施步骤，根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
2.根据权利要求1所述的会话信息抽取方法，其特征在于，所述序列划分标注步骤进一步包括：将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
3.根据权利要求1所述的会话信息抽取方法，其特征在于，所述实体属性编码步骤进一步包括：编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
4.根据权利要求1所述的会话信息抽取方法，其特征在于，所述嵌入集成交互步骤进一步包括：将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
5.一种会话信息抽取系统，其特征在于，包括：
序列划分标注模块，对于待抽取对话所述的领域，构建一领域知识图谱，对所述对话进行序列划分，并对所述序列中涉及所述领域知识图谱的内容进行标注；
实体属性编码模块，获取所述序列中的字符实体表示和字符属性表示，并进一步获取所述领域知识图谱的候选实体表示和候选属性表示；
嵌入匹配计算模块，根据所述候选实体表示通过注意力机制对所述字符实体表示计算第一嵌入，并根据所述候选属性表示通过注意力机制对所述字符属性表示计算第二嵌入；
嵌入集成交互模块，将所述第一嵌入和所述第二嵌入进行交互，获取所述对话的最终特征矩阵；
模型构建实施模块，根据所述最终特征矩阵进行打分和模型训练，并通过训练完成的所述模型进行会话信息的抽取。
6.根据权利要求5所述的会话信息抽取系统，其特征在于，所述序列划分标注模块进一步包括：将所述对话切分为若干对话阶段，再通过滑窗方式将每个所述对话阶段划分为所述序列。
7.根据权利要求5所述的会话信息抽取系统，其特征在于，所述实体属性编码模块进一步包括：编码器结构为在双向LSTM结构输出的结果之上堆叠自注意力机制层。
8.根据权利要求5所述的会话信息抽取系统，其特征在于，所述嵌入集成交互模块进一步包括：将所述第一嵌入和所述第二嵌入中的每个字符的嵌入向量逐个拼接，获得所述最终特征矩阵。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至4中任一项所述的会话信息抽取方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1至4中任一项所述的会话信息抽取方法。
CN202111054263.7A 2021-09-09 2021-09-09 一种会话信息抽取方法、系统、电子设备及存储介质 Active CN113761167B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111054263.7A CN113761167B (zh) 2021-09-09 2021-09-09 一种会话信息抽取方法、系统、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111054263.7A CN113761167B (zh) 2021-09-09 2021-09-09 一种会话信息抽取方法、系统、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113761167A true CN113761167A (zh) 2021-12-07
CN113761167B CN113761167B (zh) 2023-10-20

Family

ID=78794147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111054263.7A Active CN113761167B (zh) 2021-09-09 2021-09-09 一种会话信息抽取方法、系统、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113761167B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109857844A (zh) * 2018-12-29 2019-06-07 北京三快在线科技有限公司 基于点餐对话文本的意图识别方法、装置、电子设备
CN111368096A (zh) * 2020-03-09 2020-07-03 中国平安人寿保险股份有限公司 基于知识图谱的信息分析方法、装置、设备和存储介质
CN111737458A (zh) * 2020-05-21 2020-10-02 平安国际智慧城市科技股份有限公司 基于注意力机制的意图识别方法、装置、设备及存储介质
CN112131399A (zh) * 2020-09-04 2020-12-25 牛张明 基于知识图谱的老药新用分析方法和系统
WO2021000676A1 (zh) * 2019-07-03 2021-01-07 平安科技（深圳）有限公司 问答方法、问答装置、计算机设备及存储介质
WO2021031480A1 (zh) * 2019-08-21 2021-02-25 广州视源电子科技股份有限公司 文本生成方法和装置
CN112800757A (zh) * 2021-04-06 2021-05-14 杭州远传新业科技有限公司 关键词生成方法、装置、设备及介质
CN113011191A (zh) * 2021-04-28 2021-06-22 广东工业大学 一种知识联合抽取模型训练方法
WO2021120779A1 (zh) * 2020-08-06 2021-06-24 平安科技（深圳）有限公司 一种基于人机对话的用户画像构建方法、系统、终端及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109857844A (zh) * 2018-12-29 2019-06-07 北京三快在线科技有限公司 基于点餐对话文本的意图识别方法、装置、电子设备
WO2021000676A1 (zh) * 2019-07-03 2021-01-07 平安科技（深圳）有限公司 问答方法、问答装置、计算机设备及存储介质
WO2021031480A1 (zh) * 2019-08-21 2021-02-25 广州视源电子科技股份有限公司 文本生成方法和装置
CN111368096A (zh) * 2020-03-09 2020-07-03 中国平安人寿保险股份有限公司 基于知识图谱的信息分析方法、装置、设备和存储介质
CN111737458A (zh) * 2020-05-21 2020-10-02 平安国际智慧城市科技股份有限公司 基于注意力机制的意图识别方法、装置、设备及存储介质
WO2021120779A1 (zh) * 2020-08-06 2021-06-24 平安科技（深圳）有限公司 一种基于人机对话的用户画像构建方法、系统、终端及存储介质
CN112131399A (zh) * 2020-09-04 2020-12-25 牛张明 基于知识图谱的老药新用分析方法和系统
CN112800757A (zh) * 2021-04-06 2021-05-14 杭州远传新业科技有限公司 关键词生成方法、装置、设备及介质
CN113011191A (zh) * 2021-04-28 2021-06-22 广东工业大学 一种知识联合抽取模型训练方法

Also Published As

Publication number Publication date
CN113761167B (zh) 2023-10-20

Similar Documents

Publication Publication Date Title
CN105513589B (zh) 语音识别方法和装置
CN111695352A (zh) 基于语义分析的评分方法、装置、终端设备及存储介质
CN112199473A (zh) 一种知识问答系统中的多轮对话方法与装置
CN113158656B (zh) 讽刺内容识别方法、装置、电子设备以及存储介质
CN107451106A (zh) 文本纠正方法及装置、电子设备
CN111488813B (zh) 视频的情感标注方法、装置、电子设备及存储介质
CN112232070A (zh) 自然语言处理模型构建方法、系统、电子设备及存储介质
CN112784009A (zh) 一种主题词挖掘方法、装置、电子设备及存储介质
CN110532562B (zh) 神经网络训练方法、成语误用检测方法、装置和电子设备
CN112417878A (zh) 实体关系抽取方法、系统、电子设备及存储介质
CN115840808A (zh) 科技项目咨询方法、装置、服务器及计算机可读存储介质
CN116522905B (zh) 文本纠错方法、装置、设备、可读存储介质及程序产品
CN113361523A (zh) 文本确定方法、装置、电子设备和计算机可读存储介质
CN116306610A (zh) 模型训练方法及装置、自然语言处理方法及装置
CN113761167A (zh) 一种会话信息抽取方法、系统、电子设备及存储介质
CN107656627B (zh) 信息输入方法和装置
CN116304728A (zh) 一种基于句子表征的短文本相似度匹配方法及应用
CN115858776A (zh) 一种变体文本分类识别方法、系统、存储介质和电子设备
CN115630643A (zh) 语言模型的训练方法、装置、电子设备及存储介质
CN112863518B (zh) 一种语音数据主题识别的方法及装置
CN113255326A (zh) 未登录词词向量计算方法、系统、电子设备及存储介质
CN112749542A (zh) 一种商品名称匹配方法、系统、设备及存储介质
CN112559474A (zh) 日志处理方法和装置
CN113595557B (zh) 一种数据处理的方法和装置
CN110991173B (zh) 一种分词方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant