CN111651575A - 会话文本处理方法、装置、介质及电子设备 - Google Patents
会话文本处理方法、装置、介质及电子设备 Download PDFInfo
- Publication number
- CN111651575A CN111651575A CN202010472619.8A CN202010472619A CN111651575A CN 111651575 A CN111651575 A CN 111651575A CN 202010472619 A CN202010472619 A CN 202010472619A CN 111651575 A CN111651575 A CN 111651575A
- Authority
- CN
- China
- Prior art keywords
- text data
- entity
- unstructured
- entity relationship
- session text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Human Computer Interaction (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Machine Translation (AREA)
Abstract
本发明提供了一种会话文本处理方法,包括:获取非结构化会话文本数据;根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇,以此方式可以提升提取实体词汇的效率和提取实体词汇的准确度。本发明还提供了一种会话文本处理装置、介质以及电子设备。
Description
技术领域
本发明涉及自然语言处理的技术领域,具体而言,涉及一种会话文本处理方法、装置、介质及电子设备。
背景技术
目前,在智能客服机器人中,用户和机器人之间的问答主要是基于匹配的方法,即通过词语检索、模糊匹配、语义匹配等方法匹配用户问题和机器人知识库中的答案。这种方法并没有对用户文本进行深入分析,通过实体关系抽取的方法能够从用户文本中自动提取出关键信息。在各个领域的智能客服机器人中,需要从用户的回答中获得用户信息,这些信息可以通过实体关系抽取的方法得到。
传统的实体关系抽取方法主要采用基于模板的实体关系抽取方法和基于传统机器学习的方法,基于模板的方法需要大量的人工,耗费大量时间,泛化性较差。使用传统机器学习完成实体关系抽取,该方法首先构建标注语料,语料中的文本已由人工标注好实体和关系,然后设计相关特征,选取模型并训练分类器,该方法也需要大量的人工,耗费大量时间。以上两种方式由于人工干预,所以效率较低、准确度较低。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种会话文本处理方法、装置、介质及电子设备,进而至少可以在一定程度上提升提取实体词汇的效率和提取实体词汇的准确度。
本发明的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明的实践而习得。
根据本发明实施例的第一方面,提供了一种会话文本处理方法,包括:获取非结构化会话文本数据;根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
在本发明的一些实施例中,在获取非结构化会话文本数据之前,该方法还包括:获取历史会话文本数据和历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别;利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,得到多标签关系分类模型。
在本发明的一些实施例中,根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别包括:通过多标签关系分类模型对非结构化会话文本数据进行处理,获得多种实体关系类别中每种实体关系类别的预测概率;根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别。
在本发明的一些实施例中,根据每种实体关系类别的预测概率确定所述非结构化会话文本数据中包含的实体关系类别包括:对每种实体关系类别的预测概率进行排序;根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别。
在本发明的一些实施例中,在获取非结构化会话文本数据之前,该方法还包括:获取历史会话文本数据对应的实体标注数据;利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。
在本发明的一些实施例中,根据非结构化会话文本数据中包含的实体关系类别、以及非结构化会话文本数据确定实体关系类别对应的实体词汇包括:通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签;根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇。
在本发明的一些实施例中,如果非结构化会话文本数据中包含多种实体关系类别,该方法还包括:通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签;根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。
根据本发明实施例的第二方面,提供了一种会话文本处理装置,包括:第一获取模块,用于获取非结构化会话文本数据;第一确定模块,用于根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别;第二确定模块,用于根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
在本发明的一些实施例中,该装置还包括:第二获取模块,用于获取历史会话文本数据和历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别;第一训练模块,用于利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,得到多标签关系分类模型。
在本发明的一些实施例中,上述第一确定模块包括:第一处理模块,用于通过多标签关系分类模型对非结构化会话文本数据进行处理,获得多种实体关系类别中每种实体关系类别的预测概率;类别确定模块,用于根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别。
在本发明的一些实施例中,上述类别确定模块包括:排序模块,用于对每种实体关系类别的预测概率进行排序;类别确定模块的子模块,用于根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别。
在本发明的一些实施例中,该装置还包括:第三获取模块,用于获取历史会话文本数据对应的实体标注数据;第二训练模块,用于利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。
在本发明的一些实施例中,上述第二确定模块包括:第二处理模块,用于通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签;第一实体词汇确定模块,用于根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇。
在本发明的一些实施例中,如果非结构化会话文本数据中包含多种实体关系类别,该装置还包括:第三处理模块,用于通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签;第二实体词汇确定模块,用于根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。
根据本发明实施例的第三方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述实施例中第一方面所述的确定虚拟机漂移方法。
根据本发明实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述实施例中第一方面所述的确定虚拟机漂移方法。
本发明实施例提供的技术方案可以包括以下有益效果:
在本发明的一些实施例所提供的技术方案中,可以实时获取非结构化会话文本数据,并根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,然后根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,以此方式可以提升提取实体词汇的效率和提取实体词汇的准确度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了可以应用本发明实施例的会话文本处理方法或会话文本处理装置的示例性系统架构的示意图;
图2示意性示出了根据本发明的实施例的会话文本处理方法的流程图;
图3示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图4示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图5示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图6示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图7示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图8示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图;
图9示意性示出了本发明训练实体识别模型的示意图;
图10示意性示出了根据本发明的实施例的会话文本处理装置的方框图;
图11示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图12示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图13示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图14示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图15示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图16示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图;
图17示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本发明实施例的会话文本处理方法或会话文本处理装置的示例性系统架构的示意图。
如图1所示,系统架构100可以包括终端设备101、102、103中的一种或多种,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器。例如服务器105可以向终端设备103(也可以是终端设备101或102)获取非结构化会话文本数据,然后服务器105可以根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇,以此方式可以提升提取实体词汇的效率和提取实体词汇的准确度。
在一些实施例中,本发明实施例所提供的会话文本处理方法一般由服务器105执行,相应地,会话文本处理装置一般设置于服务器105中。在另一些实施例中,某些终端可以具有与服务器相似的功能从而执行本方法。因此,本发明实施例所提供的会话文本处理方法不限定在服务器端执行。
图2示意性示出了根据本发明的实施例的会话文本处理方法的流程图。
如图2所示,确定虚拟机漂移方法可以包括步骤S210~步骤S230。
在步骤S210中,获取非结构化会话文本数据。
在步骤S220中,根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别。
在步骤S230中,根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
该方法可以实时获取非结构化会话文本数据,并根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,然后根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,以此方式可以提升提取实体词汇的效率和提取实体词汇的准确度。
在本发明的一个实施例中,上述非结构化会话文本数据可以是用户与智能客服机器人会话时的内容。例如,场景是用户购买保险,非结构化会话文本数据可以是“我老婆以前有颈椎病能投保吗”。在本实施例中不对非结构化会话文本数据进行限定,非结构化会话文本数据可以是用户与智能客服机器人会话时的任意内容。
在本发明的一个实施例中,上述非结构化会话文本数据中包含有实体词汇,通过多标签关系分类模型可以识别出非结构化会话文本数据中包含的实体词汇之间的实体关系类别。例如,通过多标签关系分类模型对非结构化会话文本数据进行处理,可以获得非结构化会话文本数据中包含的实体关系类别,例如实体关系类别为“人物+患病+疾病+老婆+颈椎病”。
在本发明的一个实施例中,上述实体关系类别可以是一个三元组,例如,“主体-关系-客体”。在本实例中,主体和客体可以是非结构化会话文本数据中的实体词汇,关系用于串联主体和客体之间的关系。例如,非结构化会话文本数据可以是“我老婆以前有颈椎病能投保吗”,根据该非结构化会话文本数据可以确定出的实体关系类别为“人物+患病+疾病+老婆+颈椎病”。其中,“人物+患病+疾病”为实体关系类别,即三元组“主体-关系-客体”其中,老婆是主体,颈椎病为客体,患病是关系,用于串联主体和客体之间的关系。
在本发明的一个实施例中,根据上述非结构化会话文本数据中包含的实体关系类别和该非结构化会话文本数据可以确定该实体关系类别对应的实体词汇,以此方式可以准确快速的从非结构化会话文本数据中提取出与用户相关的关键信息,即非结构化会话文本数据中的实体词汇。
图3示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
在步骤S210之前,上述方法还包括步骤S310和S320,如图3所示。
在步骤S310中,获取历史会话文本数据和历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别。
在步骤S320中,利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,得到多标签关系分类模型。
该方法可以利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,从而使得后续通过多标签关系分类模型对非结构化文本数据处理,这样可以准确的获取非结构化文本数据中包含的实体关系类别。
在本发明的一个实施例中,上述历史会话文本数据可以是历史非结构化会话文本数据。例如,历史非结构化会话文本数据可以是过去一段时间段内用户与智能客服机器人的对话。
在本发明的一个实施例中,历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别。例如,历史会话文本数据为“我上周突发急性肠胃炎,医疗金额为500多,请问可以报销吗?”,该历史会话文本数据对应的实体关系标注数据为“患病+人物+疾病+我+急性肠胃炎”和“治疗费用+疾病+金额+肠胃炎+500多”,即历史会话文本数据中包含两种实体关系类别,即患病关系和治疗费用关系。其中,患病关系的主体是“我”,客体是“急性肠胃炎”,形成的标注信息是“患病+人物+疾病+我+急性肠胃炎”。上述文本中治疗费用关系的主体是“急性肠胃炎”,客体是“500”,形成的标注信息是“治疗费用+疾病+金额+肠胃炎+500多”。
另外,所述历史会话文本数据对应的实体关系标注数据中也可以包含一种实体关系类别,例如,历史会话文本数据为“我奶奶以前有高血压能投保吗”,该历史会话文本数据对应的实体关系标注数据为“患病+人物+疾病+奶奶+高血压”,即该历史会话文本数据对应的实体关系标注数据中包含一种实体关系类别,即患病关系。其中,患病关系的主体是“奶奶”,客体是“高血压”,形成的标注信息是“患病+人物+疾病+奶奶+高血压”。
在本发明的一个实施例中,上述多标签关系分类模型可以是Bert模型,其中,Bert全称为Bidirectional Encoder Representations from Transformers,中文可以是来自变换器的双向编码器表征量。在本实例中,Bert模型包含12个transformer,每个transformer有768个隐状态。相关技术中的模型在识别非结构化会话文本数据的实体关系类别时仅能输出一个类别标签,为了处理一个句子对应多个关系的问题,本发明提供了Bert模型,该Bert模型在确定非结构化会话文本数据的实体关系类别时可以输出多个标签上的概率。具体地,将形状为(1,768)的二维矩阵X乘以形状是(768,6)的权值矩阵Y,得到形状是(1,6)的二维矩阵Z,其中6即为上述定义的实体关系类别的个数。在训练模型时,该Bert模型的输入数据是历史会话文本数据和该历史会话文本数据对应的实体关系标注数据。例如,模型训练时,以历史会话文本数据作为输入,历史会话文本数据对应的实体关系标注数据作为标签,通过反向传播训练权值矩阵Y。在模型训练完成后,对新的非结构化会话文本数据可以用该多标签分类模型确定出该非结构化会话文本数据在6种实体关系类别上的预测概率,这样根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别。
图4示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
如图4所示,上述步骤S220可以包括步骤S410~步骤S420。
在步骤S410中,通过多标签关系分类模型对非结构化会话文本数据进行处理,获得多种实体关系类别中每种实体关系类别的预测概率。
在步骤S420中,根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别。
该方法可以通过多标签关系分类模型对非结构化会话文本数据进行处理,这样可以获得多种实体关系类别中每种实体关系类别的预测概率,从而可以快速准确的根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别,以便于后续根据非结构化会话文本数据中包含的实体关系类别从该非结构化会话文本数据中提取出与该实体关系类别对应的实体词汇。
在本发明的一个实施例中,通过多标签关系分类模型对非结构化会话文本数据进行处理,获得多种实体关系类别中每种实体关系类别的预测概率。例如,多标签关系分类模型中包含六种实体关系类别。六种实体关系类别如下表所示:
序号 | 主体 | 关系 | 客体 |
1 | 人物 | 患病 | 疾病 |
2 | 疾病 | 患病时间 | 时间 |
3 | 疾病 | 治疗费用 | 金额 |
4 | 保险产品 | 报销费用 | 金额 |
5 | 人物 | 职业 | 职业 |
6 | 人物 | 年龄 | 数字 |
参考上表,主体和客体可以是非结构化会话文本数据中的实体词汇,关系可以表示主体和客体之间的关系。
该多标签关系分类模型对非结构化会话文本数据进行处理,可以获得六种实体关系类别中每种实体关系类别的预测概率。例如,序号1的预测概率为92%,序号2的预测概率为50%,序号3的预测概率为42%,序号4的预测概率为35%,序号5的预测概率为63%,序号6的预测概率为23%。在这种情况下,根据每种实体关系类别的预测概率确定所述非结构化会话文本数据中包含的实体关系类别。例如,对每种实体关系类别的预测概率进行排序,并根据排序结果从六种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别,例如确定的实体关系类别为序号1,即人物+患病+疾病。
图5示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
如图5所示,上述步骤S420可以包括步骤S510~步骤S520。
在步骤S510中,对每种实体关系类别的预测概率进行排序。
在步骤S520中,根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别。
该方法可以对每种实体关系类别的预测概率进行排序,并根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别,以此方式可以快速准确的从多种实体关系类别的预测概率中确定出非结构化会话文本数据中包含的实体关系类别。
在本发明的一个实施例中,每种实体关系类别的预测概率可以是多标签关系分类模型中预设的每种实体关系类别的预测概率。例如,如果多标签关系分类模型中预设的实体关系类别有六种,每种实体关系类别的预测概率可以是多标签关系分类模型中六种实体关系类别中的一种实体关系类别的预测概率。例如,通过该多标签关系分类模型对上述非结构化会话文本数据进行处理,可以获得六种实体关系类别中每种实体关系类别的预测概率。参考上述表格中的内容,例如,序号1的预测概率为92%,序号2的预测概率为50%,序号3的预测概率为42%,序号4的预测概率为35%,序号5的预测概率为63%,序号6的预测概率为23%。在这种情况下,根据每种实体关系类别的预测概率确定所述非结构化会话文本数据中包含的实体关系类别。例如,对每种实体关系类别的预测概率进行排序,并根据排序结果从六种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别,例如确定的实体关系类别为序号1,即人物+患病+疾病,以此方式可以快速准确的从多种实体关系类别的预测概率中确定出非结构化会话文本数据中包含的实体关系类别。
图6示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
在步骤S210之前,上述方法还包括步骤S610和步骤S620,如图6所示。
在步骤S610中,获取历史会话文本数据对应的实体标注数据。
在步骤S620中,利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。
该方法可以利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型,以使得后续可以利用训练好的实体识别模型从非结构化会话文本数据中提取出与实体关系类别对应的实体词汇,这样有助于根据该实体词汇准确的匹配出与其对应的答案,便于增强用户与智能客服机器人之间的亲密度。
在本发明的一个实施例中,上述历史会话文本数据可以是历史非结构化会话文本数据。例如,历史非结构化会话文本数据可以是过去一段时间段内用户与智能客服机器人的对话。
在本发明的一个实施例中,历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别。例如,历史会话文本数据为“我上周突发急性肠胃炎,医疗金额为500多,请问可以报销吗?”,该历史会话文本数据对应的实体关系标注数据为“患病+人物+疾病+我+急性肠胃炎”和“治疗费用+疾病+金额+肠胃炎+500多”,即历史会话文本数据中包含两种实体关系类别,即患病关系和治疗费用关系。其中,患病关系的主体是“我”,客体是“急性肠胃炎”,形成的标注信息是“患病+人物+疾病+我+急性肠胃炎”。上述文本中治疗费用关系的主体是“急性肠胃炎”,客体是“500”,形成的标注信息是“治疗费用+疾病+金额+肠胃炎+500多”。
另外,所述历史会话文本数据对应的实体关系标注数据中也可以包含一种实体关系类别,例如,历史会话文本数据为“我奶奶以前有高血压能投保吗”,该历史会话文本数据对应的实体关系标注数据为“患病+人物+疾病+奶奶+高血压”,即该历史会话文本数据对应的实体关系标注数据中包含一种实体关系类别,即患病关系。其中,患病关系的主体是“奶奶”,客体是“高血压”,形成的标注信息是“患病+人物+疾病+奶奶+高血压”。
在本发明的一个实施例中,上述历史会话文本数据对应的实体标注数据可以是采用BIO形式的标注方法对历史会话文本数据中每个词汇进行处理后的数据。例如,在标注数据时,采用BIO形式的标注方法,主体和客体分别用OBJ和SUB来标识,每个字一个标记,则一个会话文本中实体的标记有5种:B-OBJ,I-OBJ,B-SUB,I-SUB,O。其中,B-OBJ表示该字是主体的开始字或是单字主体,I-OBJ表示该字是主体的中间字或结尾字,B-SUB表示该字是客体的开始字或是单字客体,I-SUB表示该字是客体的中间字或结尾字,O表示非目标字。在本实施例中,主题和客体可以是历史会话文本数据中包含的实体词汇。非目标字可以是历史会话文本数据中除实体词汇之外的字符。
基于前述实施例,利用上述历史会话文本数据、上述历史会话文本数据对应的实体关系标注数据、以及上述历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。参考图9,实体识别模型包含BERT层,双向长短时记忆网络(Bi-LSTM)层和条件随机场层(CRF)。在训练模型时,模型第一层是BERT预训练模型,训练历史会话文本由预训练模型转换成向量,每个字对应一个向量。模型第二层是双向LSTM层,由两层LSTM组成。LSTM是一种时间循环神经网络,能够解决常规循环神经网络的梯度消失问题。双向LSTM同时考虑了历史会话文本的上文和下文,有助于提高模型的准确率。模型第三层是条件随机场(CRF)层。条件随机场层(CRF)是条件概率模型,模型训练出条件状态转移概率矩阵后可以对样本的转移路径进行预测,具体到本任务即预测历史会话文本中各个字的实体类型。将双向LSTM和条件随机场(CRF)结合可以同时利用两个模型的优点,提升模型的准确率。
参考图9,输入上述实体识别模型的数据是“父亲摔骨折能投吗”和通过多标签关系分类模型预测出来的实体关系“患病”,对这个两个文本进行拼接后输入该实体识别模型进行训练,该实体识别模型的输出即上文所述的基于BIO形式的实体标注。在本实施例中,该实体识别模型训练时,将历史会话文本数据作为输入,实体关系类别的标注数据作为标签输入模型,通过反向传播对双向LSTM层和CRF层进行训练,以此方式可以优化实体识别模型中的参数,待实体识别模型中的参数稳定时,可以利用该实体识别模型对新的非结构化会话文本的实体进行标注。
图7示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
如图7所示,上述步骤S230具体可以包括步骤S710和步骤S720。
在步骤S710中,通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签。
在步骤S720中,根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇。
该方法可以通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签,这样可以准确的对实体关系类别和非结构化会话文本数据进行标注,然后根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇,在一定程度上提升了识别实体词汇的准确率和提取实体词汇的效率。
在本发明的一个实施例中,在训练完上述多标签关系分类模型和实体识别模型后,可以预测新非结构化会话文本的实体关系类别和该非结构化会话文本中包含的实体。例如,对于新非结构化会话文本,首先将其输入到多标签关系分类模型,该多标签关系分类模型会输出该新非结构化会话文本对应的实体关系类别,例如,输出的实体关系类别可以是上述六种实体关系中的一种或多种。例如,新非结构化会话文本为“我上周突发急性肠胃炎,医疗金额为500,请问可以报销吗?”,多标签关系分类模型会预测出该非结构化会话文本包含的“患病”和“治疗费用”两种关系。
基于上述实施例,将新非结构化会话文本和预测出的实体关系类别输入上述实体识别模型,得到与实体关系类别对应的实体词汇。例如,将“我上周突发急性肠胃炎,医疗金额为500,请问可以报销吗?”和“患病”输入该实体识别模型,得到主体“我”和客体“急性肠胃炎”的BIO标签。以及将“我上周突发急性肠胃炎,医疗金额为500,请问可以报销吗?”和“治疗费用”输入该实体识别模型,得到主体“急性肠胃炎”和客体“500”的BIO标签。最后,根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系类别对应的实体词汇。
图8示意性示出了根据本发明的另一个实施例的会话文本处理方法的流程图。
如果非结构化会话文本数据中包含多种实体关系类别,上述方法还包括步骤S810和步骤S820,如图8所示。
在步骤S810中,通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签。
在步骤S820中,根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。
该方法可以通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签,以此方式支持识别多种实体关系类别,这样可以准确的根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签可以确定出每种实体关系类别对应的实体词汇。
在本发明的一个实施例中,根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。以保险领域为例,下面对各个实体进行详细说明。在用户与智能客服机器人会话的过程中,用户可以为自己咨询,也可以为别人咨询,在会话文本中的具体表示是“朋友”,“父亲”,“小孩”等人称词,这些词均表示为人物类别的实体。时间实体包括具体的年月,例如“2014年3月”,“三年前”。疾病实体即疾病的名称,例如“鼻窦炎”,“乙肝”等。金额实体主要涉及疾病费用,报销费用等,例如“3万”,“五千”。职业实体是工作是具体的职业名,或者是对职业方向的描述。保险实体产品实体是具体的用户购买过的保险产品名称,例如“社保”,“农合”等。数字实体主要是对用户的年龄描述,例如“26岁”,“二十七岁”。用户患病情况是较为重要的信息,不同保险产品对疾病的限制不同,对应的实体关系三元组表示是“人物-患病-疾病”。例如“我目前一年前因为真菌性鼻窦炎做过手术可以买不”中的患病关系是“我-患病-鼻窦炎”。保险产品对年龄有限制,对应的实体关系三元组表示是“人物-年龄-数字”,例如“姐姐今年29岁”中年龄关系是“姐姐-年龄-29岁”。职业关系对应的实体关系三元组表示是“人物-年龄-职业”,例如“父亲从事电力方面的工作的”中职业关系为“父亲-职业-电力”。患病时间对应的实体关系三元组表示是“疾病-患病时间-时间”,例如“一年前因为真菌性鼻窦炎做过手术可以买不”中对应的患病时间关系是“鼻窦炎-患病时间-一年前”。治疗费用对应的实体关系三元组表示是“疾病-治疗费用-金额”,例如“骨折花一万五,那么报销五千,是这意思吧”中中对应的治疗费用关系是“骨折-患病时间-一年前”。报销费用对应的实体关系三元组表示是“保险产品-报销费用-金额”,例如“假如有肾结石有碎石手术,总花费1万,农村合作医疗报销5千,剩下可以报多少?”中对应的报销费用关系是“农村合作医疗-报销费用-5千”。
图10示意性示出了根据本发明的实施例的会话文本处理装置的方框图。
如图10所示,会话文本处理装置200包括第一获取模块201、第一确定模块202和第二确定模块203。
具体地,第一获取模块201,用于获取非结构化会话文本数据。
第一确定模块202,用于根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别。
第二确定模块203,用于根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
该会话文本处理装置200可以实时获取非结构化会话文本数据,并根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别,然后根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,以此方式可以提升提取实体词汇的效率和提取实体词汇的准确度。
根据本发明的实施例,该会话文本处理装置200可以用于实现图2实施例描述的会话文本处理方法。
图11示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图11,上述会话文本处理装置200还包括第二获取模块204和第一训练模块205。
具体地,第二获取模块204,用于获取历史会话文本数据和历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别。
第一训练模块205,用于利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,得到多标签关系分类模型。
该会话文本处理装置200可以利用历史会话文本数据和历史会话文本数据对应的实体关系标注数据训练模型,从而使得后续通过多标签关系分类模型对非结构化文本数据处理,这样可以准确的获取非结构化文本数据中包含的实体关系类别。
根据本发明的实施例,该会话文本处理装置200可以用于实现图3实施例描述的会话文本处理方法。
图12示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图12所示,上述第一确定模块202包括第一处理模块202-1和类别确定模块202-2。
具体地,第一处理模块202-1,用于通过多标签关系分类模型对非结构化会话文本数据进行处理,获得多种实体关系类别中每种实体关系类别的预测概率。
类别确定模块202-2,用于根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别。
该第一确定模块202可以通过多标签关系分类模型对非结构化会话文本数据进行处理,这样可以获得多种实体关系类别中每种实体关系类别的预测概率,从而可以快速准确的根据每种实体关系类别的预测概率确定非结构化会话文本数据中包含的实体关系类别,以便于后续根据非结构化会话文本数据中包含的实体关系类别从该非结构化会话文本数据中提取出与该实体关系类别对应的实体词汇。
根据本发明的实施例,该第一确定模块202可以用于实现图4实施例描述的会话文本处理方法。
图13示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图13所示,上述类别确定模块202-2还包括排序模块202-2-1和类别确定模块的子模块202-2-2。
具体地,排序模块202-2-1,用于对每种实体关系类别的预测概率进行排序。
类别确定模块的子模块202-2-2,用于根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别。
该类别确定模块202-2可以对每种实体关系类别的预测概率进行排序,并根据排序结果从多种实体关系类别中确定非结构化会话文本数据中包含的实体关系类别,以此方式可以快速准确的从多种实体关系类别的预测概率中确定出非结构化会话文本数据中包含的实体关系类别。
根据本发明的实施例,该类别确定模块202-2可以用于实现图5实施例描述的会话文本处理方法。
图14示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图14所示,上述会话文本处理装置200还包括第三获取模块206和第二训练模块207。
具体地,第三获取模块206,用于获取历史会话文本数据对应的实体标注数据。
第二训练模块207,用于利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。
该会话文本处理装置200可以利用历史会话文本数据、历史会话文本数据对应的实体关系标注数据、以及历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型,以使得后续可以利用训练好的实体识别模型从非结构化会话文本数据中提取出与实体关系类别对应的实体词汇,这样有助于根据该实体词汇准确的匹配出与其对应的答案,便于增强用户与智能客服机器人之间的亲密度。
根据本发明的实施例,该会话文本处理装置200可以用于实现图6实施例描述的会话文本处理方法。
图15示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图15所示,上述第二确定模块203具体可以包括第二处理模块203-1和第一实体词汇确定模块203-2。
具体地,第二处理模块203-1,用于通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签。
第一实体词汇确定模块203-2,用于根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇。
该第二确定模块203可以通过实体识别模型对非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据分别进行处理,获取实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签,这样可以准确的对实体关系类别和非结构化会话文本数据进行标注,然后根据实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定实体关系对应的实体词汇,在一定程度上提升了识别实体词汇的准确率和提取实体词汇的效率。
根据本发明的实施例,该第二确定模块203可以用于实现图7实施例描述的会话文本处理方法。
图16示意性示出了根据本发明的另一个实施例的会话文本处理装置的方框图。
如图16所示,上述会话文本处理装置200还包括第三处理模块208和第二实体词汇确定模块209。
具体地,第三处理模块208,用于通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签。
第二实体词汇确定模块209,用于根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。
该会话文本处理装置200可以通过实体识别模型对非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签,以此方式支持识别多种实体关系类别,这样可以准确的根据每种实体关系类别中每个字符的字符标签和非结构化会话文本数据中每个字符的字符标签可以确定出每种实体关系类别对应的实体词汇。
根据本发明的实施例,该会话文本处理装置200可以用于实现图8实施例描述的会话文本处理方法。
由于本发明的示例实施例的会话文本处理装置200的各个模块可以用于实现上述2~图8描述的会话文本处理方法的示例实施例的步骤,因此对于本发明装置实施例中未披露的细节,请参照本发明上述的会话文本处理方法的实施例。
可以理解的是,第一获取模块201、第一确定模块202、第一处理模块202-1、类别确定模块202-2、排序模块202-2-1、类别确定模块的子模块202-2-2、第二确定模块203、第二处理模块203-1、第一实体词汇确定模块203-2、第二获取模块204、第一训练模块205、第三获取模块206、第二训练模块207、第三处理模块208、以及第二实体词汇确定模块209可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,第一获取模块201、第一确定模块202、第一处理模块202-1、类别确定模块202-2、排序模块202-2-1、类别确定模块的子模块202-2-2、第二确定模块203、第二处理模块203-1、第一实体词汇确定模块203-2、第二获取模块204、第一训练模块205、第三获取模块206、第二训练模块207、第三处理模块208、以及第二实体词汇确定模块209中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,第一获取模块201、第一确定模块202、第一处理模块202-1、类别确定模块202-2、排序模块202-2-1、类别确定模块的子模块202-2-2、第二确定模块203、第二处理模块203-1、第一实体词汇确定模块203-2、第二获取模块204、第一训练模块205、第三获取模块206、第二训练模块207、第三处理模块208、以及第二实体词汇确定模块209中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。
下面参考图17,其示出了适于用来实现本发明实施例的电子设备的计算机系统300的结构示意图。图17示出的电子设备的计算机系统300仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图17所示,计算机系统300包括中央处理单元(CPU)301,其可以根据存储在只读存储器(ROM)302中的程序或者从存储部分308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中,还存储有系统操作所需的各种程序和数据。CPU301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
以下部件连接至I/O接口305:包括键盘、鼠标等的输入部分306;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分307;包括硬盘等的存储部分308;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分309。通信部分309经由诸如因特网的网络执行通信处理。驱动器310也根据需要连接至I/O接口305。可拆卸介质311,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器310上,以便于从其上读出的计算机程序根据需要被安装入存储部分308。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分309从网络上被下载和安装,和/或从可拆卸介质311被安装。在该计算机程序被中央处理单元(CPU)301执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的会话文本处理方法。
例如,所述的电子设备可以实现如图2中所示的:在步骤S210中,获取非结构化会话文本数据。在步骤S220中,根据非结构化会话文本数据确定非结构化会话文本数据中包含的实体关系类别。在步骤S230中,根据非结构化会话文本数据中包含的实体关系类别和非结构化会话文本数据确定实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (10)
1.一种会话文本处理方法,包括:
获取非结构化会话文本数据;
根据所述非结构化会话文本数据确定所述非结构化会话文本数据中包含的实体关系类别;
根据所述非结构化会话文本数据中包含的实体关系类别和所述非结构化会话文本数据确定所述实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
2.根据权利要求1所述的方法,其特征在于,在获取所述非结构化会话文本数据之前,该方法还包括:
获取历史会话文本数据和所述历史会话文本数据对应的实体关系标注数据,所述历史会话文本数据对应的实体关系标注数据中包含多种实体关系类别;
利用所述历史会话文本数据和所述历史会话文本数据对应的实体关系标注数据训练模型,得到多标签关系分类模型。
3.根据权利要求2所述的方法,其特征在于,根据所述非结构化会话文本数据确定所述非结构化会话文本数据中包含的实体关系类别包括:
通过所述多标签关系分类模型对所述非结构化会话文本数据进行处理,获得所述多种实体关系类别中每种实体关系类别的预测概率;
根据每种实体关系类别的预测概率确定所述非结构化会话文本数据中包含的实体关系类别。
4.根据权利要求3所述的方法,其特征在于,根据每种实体关系类别的预测概率确定所述非结构化会话文本数据中包含的实体关系类别包括:
对每种实体关系类别的预测概率进行排序;
根据排序结果从所述多种实体关系类别中确定所述非结构化会话文本数据中包含的实体关系类别。
5.根据权利要求2所述的方法,其特征在于,在获取所述非结构化会话文本数据之前,该方法还包括:
获取所述历史会话文本数据对应的实体标注数据;
利用所述历史会话文本数据、所述历史会话文本数据对应的实体关系标注数据、以及所述历史会话文本数据对应的实体标注数据训练模型,得到实体识别模型。
6.根据权利要求5所述的方法,其特征在于,根据所述非结构化会话文本数据中包含的实体关系类别、以及所述非结构化会话文本数据确定所述实体关系类别对应的实体词汇包括:
通过所述实体识别模型对所述非结构化会话文本数据中包含的实体关系类别和所述非结构化会话文本数据分别进行处理,获取所述实体关系类别中每个字符的字符标签和所述非结构化会话文本数据中每个字符的字符标签;
根据所述实体关系类别中每个字符的字符标签和所述非结构化会话文本数据中每个字符的字符标签确定所述实体关系对应的实体词汇。
7.根据权利要求6所述的方法,其特征在于,如果所述非结构化会话文本数据中包含多种实体关系类别,该方法还包括:
通过所述实体识别模型对所述非结构化会话文本数据中包含多种实体关系类别中每种实体关系类别和所述非结构化会话文本数据分别进行处理,获取每种实体关系类别中每个字符的字符标签和所述非结构化会话文本数据中每个字符的字符标签;
根据每种实体关系类别中每个字符的字符标签和所述非结构化会话文本数据中每个字符的字符标签确定每种实体关系类别对应的实体词汇。
8.一种会话文本处理装置,包括:
第一获取模块,用于获取非结构化会话文本数据;
第一确定模块,用于根据所述非结构化会话文本数据确定所述非结构化会话文本数据中包含的实体关系类别;
第二确定模块,用于根据所述非结构化会话文本数据中包含的实体关系类别和所述非结构化会话文本数据确定所述实体关系类别对应的实体词汇,所述实体词汇为所述非结构化会话文本数据中的实体词汇。
9.一种电子设备,包括:
一个或多个处理器;以及
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现根据权利要求1~7中任意一项所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现根据权利要求1~7中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010472619.8A CN111651575B (zh) | 2020-05-29 | 2020-05-29 | 会话文本处理方法、装置、介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010472619.8A CN111651575B (zh) | 2020-05-29 | 2020-05-29 | 会话文本处理方法、装置、介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651575A true CN111651575A (zh) | 2020-09-11 |
CN111651575B CN111651575B (zh) | 2023-09-12 |
Family
ID=72348682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010472619.8A Active CN111651575B (zh) | 2020-05-29 | 2020-05-29 | 会话文本处理方法、装置、介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651575B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112329477A (zh) * | 2020-11-27 | 2021-02-05 | 上海浦东发展银行股份有限公司 | 基于预训练模型的信息抽取方法、装置、设备及存储介质 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109543183A (zh) * | 2018-11-16 | 2019-03-29 | 西安交通大学 | 基于深度神经网络和标注策略的多标签实体-关系联合提取方法 |
CN109710928A (zh) * | 2018-12-17 | 2019-05-03 | 新华三大数据技术有限公司 | 非结构化文本的实体关系抽取方法及装置 |
CN110175334A (zh) * | 2019-06-05 | 2019-08-27 | 苏州派维斯信息科技有限公司 | 基于自定义的知识槽结构的文本知识抽取系统和方法 |
CN110427623A (zh) * | 2019-07-24 | 2019-11-08 | 深圳追一科技有限公司 | 半结构化文档知识抽取方法、装置、电子设备及存储介质 |
CN110457677A (zh) * | 2019-06-26 | 2019-11-15 | 平安科技(深圳)有限公司 | 实体关系识别方法及装置、存储介质、计算机设备 |
CN110569366A (zh) * | 2019-09-09 | 2019-12-13 | 腾讯科技(深圳)有限公司 | 文本的实体关系抽取方法、装置及存储介质 |
CN110674312A (zh) * | 2019-09-18 | 2020-01-10 | 泰康保险集团股份有限公司 | 构建知识图谱方法、装置、介质及电子设备 |
CN110705301A (zh) * | 2019-09-30 | 2020-01-17 | 京东城市(北京)数字科技有限公司 | 实体关系抽取方法及装置、存储介质、电子设备 |
US20200089766A1 (en) * | 2018-09-19 | 2020-03-19 | International Business Machines Corporation | Co-reference resolution and entity linking |
US20200097597A1 (en) * | 2018-09-24 | 2020-03-26 | International Business Machines Corporation | On-demand relation extraction from text |
US10607042B1 (en) * | 2019-02-12 | 2020-03-31 | Live Objects, Inc. | Dynamically trained models of named entity recognition over unstructured data |
CN111079431A (zh) * | 2019-10-31 | 2020-04-28 | 北京航天云路有限公司 | 一种基于迁移学习的实体关系联合抽取方法 |
CN111126067A (zh) * | 2019-12-23 | 2020-05-08 | 北大方正集团有限公司 | 实体关系抽取方法及装置 |
CN111143536A (zh) * | 2019-12-30 | 2020-05-12 | 腾讯科技(深圳)有限公司 | 基于人工智能的信息抽取方法及存储介质和相关装置 |
CN111159407A (zh) * | 2019-12-30 | 2020-05-15 | 北京明朝万达科技股份有限公司 | 训练实体识别和关系分类模型的方法、装置、设备及介质 |
CN111191031A (zh) * | 2019-12-24 | 2020-05-22 | 上海大学 | 一种基于WordNet和IDF的非结构化文本的实体关系分类方法 |
-
2020
- 2020-05-29 CN CN202010472619.8A patent/CN111651575B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200089766A1 (en) * | 2018-09-19 | 2020-03-19 | International Business Machines Corporation | Co-reference resolution and entity linking |
US20200097597A1 (en) * | 2018-09-24 | 2020-03-26 | International Business Machines Corporation | On-demand relation extraction from text |
CN109543183A (zh) * | 2018-11-16 | 2019-03-29 | 西安交通大学 | 基于深度神经网络和标注策略的多标签实体-关系联合提取方法 |
CN109710928A (zh) * | 2018-12-17 | 2019-05-03 | 新华三大数据技术有限公司 | 非结构化文本的实体关系抽取方法及装置 |
US10607042B1 (en) * | 2019-02-12 | 2020-03-31 | Live Objects, Inc. | Dynamically trained models of named entity recognition over unstructured data |
CN110175334A (zh) * | 2019-06-05 | 2019-08-27 | 苏州派维斯信息科技有限公司 | 基于自定义的知识槽结构的文本知识抽取系统和方法 |
CN110457677A (zh) * | 2019-06-26 | 2019-11-15 | 平安科技(深圳)有限公司 | 实体关系识别方法及装置、存储介质、计算机设备 |
CN110427623A (zh) * | 2019-07-24 | 2019-11-08 | 深圳追一科技有限公司 | 半结构化文档知识抽取方法、装置、电子设备及存储介质 |
CN110569366A (zh) * | 2019-09-09 | 2019-12-13 | 腾讯科技(深圳)有限公司 | 文本的实体关系抽取方法、装置及存储介质 |
CN110674312A (zh) * | 2019-09-18 | 2020-01-10 | 泰康保险集团股份有限公司 | 构建知识图谱方法、装置、介质及电子设备 |
CN110705301A (zh) * | 2019-09-30 | 2020-01-17 | 京东城市(北京)数字科技有限公司 | 实体关系抽取方法及装置、存储介质、电子设备 |
CN111079431A (zh) * | 2019-10-31 | 2020-04-28 | 北京航天云路有限公司 | 一种基于迁移学习的实体关系联合抽取方法 |
CN111126067A (zh) * | 2019-12-23 | 2020-05-08 | 北大方正集团有限公司 | 实体关系抽取方法及装置 |
CN111191031A (zh) * | 2019-12-24 | 2020-05-22 | 上海大学 | 一种基于WordNet和IDF的非结构化文本的实体关系分类方法 |
CN111143536A (zh) * | 2019-12-30 | 2020-05-12 | 腾讯科技(深圳)有限公司 | 基于人工智能的信息抽取方法及存储介质和相关装置 |
CN111159407A (zh) * | 2019-12-30 | 2020-05-15 | 北京明朝万达科技股份有限公司 | 训练实体识别和关系分类模型的方法、装置、设备及介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112329477A (zh) * | 2020-11-27 | 2021-02-05 | 上海浦东发展银行股份有限公司 | 基于预训练模型的信息抽取方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111651575B (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111090987B (zh) | 用于输出信息的方法和装置 | |
CN109063174B (zh) | 查询答案的生成方法及装置、计算机存储介质、电子设备 | |
CN111680159B (zh) | 数据处理方法、装置及电子设备 | |
CN111368548A (zh) | 语义识别方法及装置、电子设备和计算机可读存储介质 | |
CN111709240A (zh) | 实体关系抽取方法、装置、设备及其存储介质 | |
CN107436916B (zh) | 智能提示答案的方法及装置 | |
CN108268450B (zh) | 用于生成信息的方法和装置 | |
CN111666500A (zh) | 文本分类模型的训练方法及相关设备 | |
CN113611405A (zh) | 一种体检项目推荐方法、装置、设备及介质 | |
US20220180384A1 (en) | Data collection method and system | |
CN112988963A (zh) | 基于多流程节点的用户意图预测方法、装置、设备及介质 | |
CN112559865A (zh) | 信息处理系统、计算机可读存储介质及电子设备 | |
CN113761190A (zh) | 文本识别方法、装置、计算机可读介质及电子设备 | |
CN113158656A (zh) | 讽刺内容识别方法、装置、电子设备以及存储介质 | |
CN111444335B (zh) | 中心词的提取方法及装置 | |
CN111104590A (zh) | 信息推荐方法、装置、介质及电子设备 | |
CN114357195A (zh) | 基于知识图谱的问答对生成方法、装置、设备及介质 | |
CN111651575B (zh) | 会话文本处理方法、装置、介质及电子设备 | |
CN111931503B (zh) | 信息抽取方法及装置、设备、计算机可读存储介质 | |
CN112926341A (zh) | 文本数据处理方法、装置 | |
CN117313736A (zh) | 评论文本的隐式需求识别方法及装置 | |
CN115376668B (zh) | 一种应用于智慧医疗的大数据业务分析方法及系统 | |
CN111325578A (zh) | 预测模型的样本确定方法及装置、介质和设备 | |
CN113609833B (zh) | 文件的动态生成方法、装置、计算机设备及存储介质 | |
CN113496236B (zh) | 用户标签信息确定方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |