CN113051356A - 开放关系抽取方法、装置、电子设备及存储介质 - Google Patents
开放关系抽取方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113051356A CN113051356A CN202110428927.5A CN202110428927A CN113051356A CN 113051356 A CN113051356 A CN 113051356A CN 202110428927 A CN202110428927 A CN 202110428927A CN 113051356 A CN113051356 A CN 113051356A
- Authority
- CN
- China
- Prior art keywords
- entity
- relationship
- original
- open
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 151
- 238000012549 training Methods 0.000 claims abstract description 120
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000002372 labelling Methods 0.000 claims abstract description 28
- 238000000034 method Methods 0.000 claims description 52
- 238000005728 strengthening Methods 0.000 claims description 14
- 238000003058 natural language processing Methods 0.000 claims description 10
- 238000010276 construction Methods 0.000 claims description 9
- 230000008030 elimination Effects 0.000 claims description 9
- 238000003379 elimination reaction Methods 0.000 claims description 9
- 238000001914 filtration Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 6
- 238000007405 data analysis Methods 0.000 abstract description 2
- 230000002787 reinforcement Effects 0.000 abstract description 2
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000003064 k means clustering Methods 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000013481 data capture Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000003014 reinforcing effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 125000006850 spacer group Chemical group 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/288—Entity relationship models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及数据分析技术,揭露了一种开放关系抽取方法,包括:利用远程监督及实体链指技术,得到原始训练集,对所述原始训练集进行策略标注及实体加强处理,得到标准训练集,利用所述标准训练集对预训练的语言模型进行实体微调及关系微调,得到开放实体抽取模型及开放关系抽取模型,利用所述开放实体抽取模型提取待分类文本中的实体,利用所述开放关系抽取模型预测所述实体的实体关系,对所述实体及所述实体关系进行聚类,得到关系抽取结果。此外,本发明还涉及区块链技术,所述关系抽取结果可存储在区块链的节点中。本发明还提出一种开放关系抽取装置、电子设备以及计算机可读存储介质。本发明可以解决解决开放关系抽取效率较低的问题。
Description
技术领域
本发明涉及数据分析技术领域,尤其涉及一种开放关系抽取方法、装置、电子设备及计算机可读存储介质。
背景技术
关系抽取是信息提取与知识图谱构建领域的重要支撑技术,有许多实践场景,例如构建大规模通用/垂直领域图谱、从申请表中提取信息进行贷前审核等。但传统的关系抽取技术面临两个问题而难以投入实践:1)需要较多标注数据训练关系分类模型,导致数据成本和标注成本高昂;2)关系类型往往需要业务定义,有限而不可变更,现实中许多需求则并没有预定义的关系集。
基于此,近年来开放关系抽取技术得到关注。开放关系抽取技术要求输入一段文本,从中自动输出所有可能的关系三元组(头实体,关系,尾实体)与二元组(头实体,尾实体)。其中,三元组内的“关系”字段为上下文中自带的描述词。由于类型不确定,开放关系抽取一直难以处理。传统方案主要有:1、采用语法规则(rule-based)结合自举法(booststrapping)方式匹配,经典方法有ReVerb、OLLIE、OpenIE等,但这些方案大多针对英文,难以迁移至中文文本,且匹配规则严格,处理方式不灵活;2、利用序列标注模型思路解析表层形式(surface form),将关系也看作一类实体,用语义角色标注算法直接从文本中提取三元组,如SurfaceForm-SRL,但这种方法在找不到关系提及(mention)的情况下失效,也无法处理包含多个三元组的句子,导致关系抽取准确率低;3、利用半指针半标注方案,该方案利用两层网络块处理文本,首先从文本中提取头实体,然后根据头实体与隐藏层输出联合提取尾实体并判断关系类型,这就构成一个行为关系类数,列为文本长度的样本矩阵,但是当处理的是开放关系抽取时,关系类型数变为文本长度,使得模型需要计算一个大小为批样本数×头实体个数×文本长度×文本长度的张量,虽然解决了文本中多三元组问题,也提升了精度,但占用大量计算资源,效率极低。
发明内容
本发明提供一种开放关系抽取方法、装置及计算机可读存储介质,其主要目的在于解决开放关系抽取效率较低的问题。
为实现上述目的,本发明提供的一种开放关系抽取方法,包括:
获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
可选地,所述获取原始实体数据集及原始关系数据集,包括:
利用预设的数据抓取工具从源网站中抓取文本数据,并对所述文本数据进行切分,得到文本断句,汇总所述文本断句得到所述原始关系数据集;
获取开源的实体数据集,其中,所述实体数据集中包括三元组信息及每个三元组信息对应的描述信息,并对所述三元组信息进行去重处理,得到去重三元组,汇总所述去重三元组及所述三元组信息对应的描述信息得到所述原始实体数据集。
可选地,所述分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集,包括:
将所述原始实体数据集中的三元组信息和所述原始关系数据集中的文本断句进行匹配,并根据匹配结果进行位置标注,得到匹配数据;
利用预构建的消歧模型,计算所述匹配数据中所述匹配结果及所述原始实体数据集中所述三元组信息对应的描述信息的匹配概率;
当所述匹配概率大于预设阈值时,汇总所述文本断句及所述三元组信息得到所述原始训练集。
可选地,所述对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集,包括:
利用预设的标注符号对所述原始训练集中的文本断句进行分类,得到分类样本,并对所述分类样本中的三元组进行标注,得到标注实体;
利用预设的自然语言处理库对所述标注实体进行实体加强处理,汇总加强后的分类样本得到所述标准训练集。
可选地,所述利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型,包括:
在所述分类样本中随机添加空白位,得到训练样本,利用所述语言模型预测所述训练样本中的实体,得到预测实体;
计算所述预测实体和所述训练样本中真实实体的差值,当所述差值小于预设的阈值时,将此时的语言模型作为所述开放实体抽取模型;
利用预设的关系跨度预测层计算所述预测实体间的关系跨度;
基于所述关系跨度,利用预设的二分类线性层输出所述预测实体间的预测结果,其中,所述预测结果包括关系存在;
当所述关系存在的预测结果与所有预测结果的比值大于预设的关系阈值时,组合所述语言模型、所述关系跨度预测层及所述二分类线性层,以得到所述开放关系抽取模型。
可选地,所述对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体,包括:
根据所述待分类文本中的标点符号将所述待分类文本进行断句,得到待分类断句;
利用所述开放实体抽取模型抽取所述待分类文本中的所有实体,得到待分类实体。
可选地,所述利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果,包括:
基于所述待分类实体,利用所述开放关系抽取模型抽取所述待分类断句中的关系,并过滤掉没有关系的所述待分类实体,得到预测三元组;
利用预设的聚类方法对所述预测三元组进行聚类,得到多个聚类团,其中,所述聚类团中包括所述关系抽取结果。
为了解决上述问题,本发明还提供一种开放关系抽取装置,所述装置包括:
训练集构建模块,用于获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
实体加强模块,用于对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
模型构建模块,用于获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
实体抽取模块,用于对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
关系抽取模块,用于利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的开放关系抽取方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的开放关系抽取方法。
本发明通过对所述原始实体数据集及所述原始关系数据集进行远程监督及实体链指,可以得到大量信息丰富的原始训练集,根据原始训练集的不同,不仅适用于英文,也适用于中文开放关系抽取。并且,对所述原始训练集进行策略标注及实体加强处理,提高了开放关系抽取的准确率。同时,仅需要利用所述标准训练集对所述语言模型进行实体微调及关系微调,便可直接得到开放实体抽取模型及开放关系抽取模型,不需要占用大量的计算资源,简化了模型训练过程,提高了开放关系抽取的效率。因此本发明提出的开放关系抽取方法、装置、电子设备及计算机可读存储介质,可以解决开放关系抽取效率较低的问题。
附图说明
图1为本发明一实施例提供的开放关系抽取方法的流程示意图;
图2为图1中其中一个步骤的详细实施流程示意图;
图3为图1中另一个步骤的详细实施流程示意图;
图4为图1中另一个步骤的详细实施流程示意图;
图5为图1中另一个步骤的详细实施流程示意图;
图6为本发明一实施例提供的开放关系抽取装置的功能模块图;
图7为本发明一实施例提供的实现所述开放关系抽取方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种开放关系抽取方法。所述开放关系抽取方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述开放关系抽取方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的开放关系抽取方法的流程示意图。在本实施例中,所述开放关系抽取方法包括:
S1、获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集。
具体地,参照图2所示,所述获取原始实体数据集及原始关系数据集,包括:
S10、利用预设的数据抓取工具从源网站中抓取文本数据,并对所述文本数据进行切分,得到文本断句,汇总所述文本断句得到所述原始关系数据集;
S11、获取开源的实体数据集,其中,所述实体数据集中包括三元组信息及每个三元组信息对应的描述信息,并对所述三元组信息进行去重处理,得到去重三元组,汇总所述去重三元组及所述三元组信息对应的描述信息得到所述原始实体数据集。
其中,所述预设的数据抓取工具可以为Hawk数据抓取工具,所述源网站可以为不同领域的门户网站及专业网站,包括:金融类、法律类、医疗类、教育类、娱乐类、体育类等。利用所述Hawk数据抓取工具可以直接抓取所述源网站中的文本数据。本发明实施例中,可以设置3句为所述文本数据的最小切分单位,每句长度不超过256字,超过时则删减为2句甚至1句或直接跳过。所述开源的实体数据集可以包括中文通用百科知识图谱(CN-DBpedia)等数据集,CN-DBpedia主要从中文百科类网站(如百度百科、互动百科、中文维基百科等)的纯文本页面中提取实体信息,经过滤、融合、推断等操作后,最终形成高质量的结构化数据集,该图谱中不仅包含(头实体,关系,尾实体)三元组信息,还含有实体的描述信息(来自百度百科等处)。
详细地,所述对所述三元组信息进行去重处理,得到去重三元组,包括:
依次从所述实体数据集中选取目标三元组;
计算所述目标三元组与所述实体数据集中所有未被选取的三元组信息的距离值;
当所述距离值大于预设的距离阈值时,确定所述目标三元组不重复,重新从所述实体数据集中选取目标三元组进行计算;
当所述距离值小于或等于预设的距离阈值时,确定所述目标三元组重复,并删除所述目标三元组,得到去重三元组。
本发明实施例中,利用下述距离算法计算所述目标三元组与所述实体数据集中所有未被选取的三元组信息的距离值:
其中,d为所述距离值,wj为第j个目标三元组,wk为实体数据集中任意一个未被选取的三元组信息,n为所述实体数据集中三元组信息的数量。
本发明实施例通过对实体数据集中的三元组信息进行去重处理,可避免后续对相同的三元组信息进行处理并降低数据处理量,有利于提高开放关系抽取的效率。
进一步地,所述分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集,包括:
将所述原始实体数据集中的三元组信息和所述原始关系数据集中的文本断句进行匹配,并根据匹配结果进行位置标注,得到匹配数据;
利用预构建的消歧模型,计算所述匹配数据中所述匹配结果及所述原始实体数据集中所述三元组信息对应的描述信息的匹配概率;
当所述匹配概率大于预设阈值时,汇总所述文本断句及所述三元组信息得到所述原始训练集。
其中,所述远程监督是指利用开源的知识图谱里的现成三元组进行无人工参与的自动标注,得到大量有标注的数据集的方法。本发明实施例中,将所述原始实体数据集中的三元组和所述原始关系数据集中的文本断句进行匹配,要求至少三元组中头实体与尾实体都在当前文本断句上下文中,并标注实体在当前文本断句的位置(比如,“text”:文本断句,“entity_idx”:{实体_1:[起点,终点],实体_2:[起点,终点],……},其中,“text”表示当前的文本断句,“entity_idx”表示实体在当前文本断句的位置),汇总匹配后的三元组及文本断句,得到所述匹配数据。同时,可以利用预构建的消歧模型来进行所述实体链指,所述预构建的消歧模型可以为经过开源的短文本匹配训练的BERT模型,所述实体链指以所述BERT模型为主干,拼接所述匹配数据中的文本(包括三元组及三元组所在的文本断句)及三元组在原始实体数据集中的描述作为输入,输出一个匹配概率,所述预设阈值可以为0.5,当匹配概率大于0.5则表示匹配数据及原始实体数据集两处的实体是同一类实体。通过所述远程监督及实体链指可以快速确定实体与实体之前的关系、实体描述等信息,同时,由于所述原始训练集中既包含实体信息,又包含关系信息,可以直接用于训练关系抽取模型及实体抽取模型。
本发明实施例中,通过对所述原始实体数据集及所述原始关系数据集进行远程监督及实体链指,无需人工标注即可得到大量信息丰富的原始训练集。
S2、对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集。
具体地,参照图3所示,所述对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集,包括:
S20、利用预设的标注符号对所述原始训练集中的文本断句进行分类,得到分类样本,并对所述分类样本中的三元组进行标注,得到标注实体;
S21、利用预设的自然语言处理库对所述标注实体进行实体加强处理,汇总加强后的分类样本得到所述标准训练集。
本发明实施例中,可以基于MTB(Matching The Blank,空白匹配)的方法来进行策略标注,其中,所述预设的标注符号可以为<tag>及</tag>,<tag>与</tag>围住的部分即实体或关系在句中的提及,比如,分类样本可以为[CLS]XXX<entity_head>XXX</entity_head>XXX<rel>XXX</rel>XXX<entity_tail>XXX</entity_tail>XXX[SEP],entity_head、rel、entity_tail分别表示头实体,关系,尾实体。[CLS]与[SEP]为间隔符,[CLS]为分类位,该位置输出二分类结果0/1,表示当前两个实体间是否存在关系,[SEP]为终止位,表示句子结束。
本发明实施例中,可以使用BIO序列标注模式对所述分类样本中的实体进行标注,将实体提及的字标注为B或I,非实体标注为O。由于这里是开放实体识别,因此只分是/不是实体两类。所述预设的自然语言处理库可以为HanLP自然语言处理库,利用HanLP自然语言处理库中的依存句法解析工具,分析当前实体的前缀,来对当前实体进行实体加强,比如,当前实体为“库克”,前缀为“苹果公司CEO”,则加强实体为“苹果公司CEO库克”。
本发明实施通过对所述原始训练集进行策略标注及实体加强处理,可以提高模型训练的精度。
S3、获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型。
本发明实施例中,所述预训练的语言模型可以为开源transformer项目中基于BERT算法的大规模无监督预训练语言模型,该模型使用pytorch框架编写,已经事先在大规模开源中文语料上进行过训练,训练过程采用完形填空的方式进行误差判定,即输入的中文预料文本中故意遮住几个字,输出时查看模型是否根据未遮住的上下文预测出遮住的字,计算模型预测的值和真实值之间的差异,直至所述差异低于事先指定的阈值。
具体地,参照图4所示,所述利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型,包括:
S30、在所述分类样本中随机添加空白位,得到训练样本,利用所述语言模型预测所述训练样本中的实体,得到预测实体;
S31、计算所述预测实体和所述训练样本中真实实体的差值,当所述差值小于预设的阈值时,确定所述语言模型为所述开放实体抽取模型;
S32、利用预设的关系跨度预测层计算所述预测实体间的关系跨度;
S33、基于所述关系跨度,利用预设的二分类线性层输出所述预测实体间的预测结果,其中,所述预测结果包括关系存在;
S34、当所述关系存在的预测结果与所有预测结果的比值大于预设的关系阈值时,组合所述语言模型、所述关系跨度预测层及所述二分类线性层,以得到所述开放关系抽取模型。
其中,所述关系跨度可以使用独热(one-hot)向量表示,在所述二分类线性层中通过[CLS]位判定所述预测实体之间的预测结果0或1,0表示关系不存在,1表示关系存在。同时,通过所述关系跨度预测层及所述二分类线性层,将关系预测化简为有限的二分类问题,极大地简化了模型的训练过程。
S4、对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体。
具体地,参照图5所示,所述对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体,包括:
S40、根据所述待分类文本中的标点符号将所述待分类文本进行断句,得到待分类断句;
S41、利用所述开放实体抽取模型抽取所述待分类文本中的所有实体,得到待分类实体。
本发明实施例通过所述开放实体抽取模型可以快速的抽取所述待分类文本中的实体,提高了实体关系预测的速率。
S5、利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
具体地,所述利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果,包括:
基于所述待分类实体,利用所述开放关系抽取模型抽取所述待分类断句中的关系,并过滤掉没有关系的所述待分类实体,得到预测三元组;
利用预设的聚类方法对所述预测三元组进行聚类,得到多个聚类团,其中,所述聚类团中包括所述关系抽取结果。
本发明实施例中,利用所述开放关系抽取模型可以得到三元组(头实体,关系,尾实体)及二元组(头实体,None,尾实体),其中,二元组表示没有关系的实体对,通过过滤所述二元组,提高了关系预测的准确率。所述预设的聚类方法可以为K均值聚类方法,所述K均值聚类方法通过word2vec算法将所述预测三元组中的关系向量化,并计算向量间的距离,根据所述距离将所述预测三元组聚拢到K个中心点,形成K个聚类团,这时由人工对每个聚类团概括出类型名称,从而对所述预测三元组进行分类。同时,每个聚类团稳定(不在发生变化)时,每个聚类团会求出团内所有关系向量的均值,之后新的关系会分别与每个已有聚类团的均值进行比较,若与多个聚类团的相似度(可以为欧式距离)均高于预先定义的相似阈值,则归到最相似的那个团中,若与所有聚类团的相似度均低于预定义的相似阈值,则独立归到“未知”类,当“未知”类中的关系积累到一定量(一般为已知类关系的70%),则针对未知关系重复K均值聚类方法及人工定义类型。
本发明实施例中,通过对所述实体及所述实体关系进行聚类,可以自动对抽取到的开放关系进行分类,提高了开放关系抽取的效率。
本发明通过对所述原始实体数据集及所述原始关系数据集进行远程监督及实体链指,可以得到大量信息丰富的原始训练集,根据原始训练集的不同,不仅适用于英文,也适用于中文开放关系抽取。并且,对所述原始训练集进行策略标注及实体加强处理,提高了开放关系抽取的准确率。同时,仅需要利用所述标准训练集对所述语言模型进行实体微调及关系微调,便可直接得到开放实体抽取模型及开放关系抽取模型,不需要占用大量的计算资源,简化了模型训练过程,提高了开放关系抽取的效率。因此本发明实施例可以解决开放关系抽取效率较低的问题。
如图6所示,是本发明一实施例提供的开放关系抽取装置的功能模块图。
本发明所述开放关系抽取装置100可以安装于电子设备中。根据实现的功能,所述开放关系抽取装置100可以包括训练集构建模块101、实体加强模块102、模型构建模块103、实体抽取模块104及关系抽取模块105。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述训练集构建模块101,用于获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集。
具体地,所述训练集构建模块101通过下述操作获取原始实体数据集及原始关系数据集:
利用预设的数据抓取工具从源网站中抓取文本数据,并对所述文本数据进行切分,得到文本断句,汇总所述文本断句得到所述原始关系数据集;
获取开源的实体数据集,其中,所述实体数据集中包括三元组信息及每个三元组信息对应的描述信息,并对所述三元组信息进行去重处理,得到去重三元组,汇总所述去重三元组及所述三元组信息对应的描述信息得到所述原始实体数据集。
其中,所述预设的数据抓取工具可以为Hawk数据抓取工具,所述源网站可以为不同领域的门户网站及专业网站,包括:金融类、法律类、医疗类、教育类、娱乐类、体育类等。利用所述Hawk数据抓取工具可以直接抓取所述源网站中的文本数据。本发明实施例中,可以设置3句为所述文本数据的最小切分单位,每句长度不超过256字,超过时则删减为2句甚至1句或直接跳过。所述开源的实体数据集可以包括中文通用百科知识图谱(CN-DBpedia)等数据集,CN-DBpedia主要从中文百科类网站(如百度百科、互动百科、中文维基百科等)的纯文本页面中提取实体信息,经过滤、融合、推断等操作后,最终形成高质量的结构化数据集,该图谱中不仅包含(头实体,关系,尾实体)三元组信息,还含有实体的描述信息(来自百度百科等处)。
详细地,所述训练集构建模块101通过下述操作得到去重三元组:
依次从所述实体数据集中选取目标三元组;
计算所述目标三元组与所述实体数据集中所有未被选取的三元组信息的距离值;
当所述距离值大于预设的距离阈值时,确定所述目标三元组不重复,重新从所述实体数据集中选取目标三元组进行计算;
当所述距离值小于或等于预设的距离阈值时,确定所述目标三元组重复,并删除所述目标三元组,得到去重三元组。
本发明实施例中,利用下述距离算法计算所述目标三元组与所述实体数据集中所有未被选取的三元组信息的距离值:
其中,d为所述距离值,wj为第j个目标三元组,wk为实体数据集中任意一个未被选取的三元组信息,n为所述实体数据集中三元组信息的数量。
本发明实施例通过对实体数据集中的三元组信息进行去重处理,可避免后续对相同的三元组信息进行处理并降低数据处理量,有利于提高开放关系抽取的效率。
进一步地,所述训练集构建模块101通过下述操作得到所述原始训练集:
将所述原始实体数据集中的三元组信息和所述原始关系数据集中的文本断句进行匹配,并根据匹配结果进行位置标注,得到匹配数据;
利用预构建的消歧模型,计算所述匹配数据中所述匹配结果及所述原始实体数据集中所述三元组信息对应的描述信息的匹配概率;
当所述匹配概率大于预设阈值时,汇总所述文本断句及所述三元组信息得到所述原始训练集。
其中,所述远程监督是指利用开源的知识图谱里的现成三元组进行无人工参与的自动标注,得到大量有标注的数据集的方法。本发明实施例中,将所述原始实体数据集中的三元组和所述原始关系数据集中的文本断句进行匹配,要求至少三元组中头实体与尾实体都在当前文本断句上下文中,并标注实体在当前文本断句的位置(比如,“text”:文本断句,“entity_idx”:{实体_1:[起点,终点],实体_2:[起点,终点],……},其中,“text”表示当前的文本断句,“entity_idx”表示实体在当前文本断句的位置),汇总匹配后的三元组及文本断句,得到所述匹配数据。同时,可以利用预构建的消歧模型来进行所述实体链指,所述预构建的消歧模型可以为经过开源的短文本匹配训练的BERT模型,所述实体链指以所述BERT模型为主干,拼接所述匹配数据中的文本(包括三元组及三元组所在的文本断句)及三元组在原始实体数据集中的描述作为输入,输出一个匹配概率,所述预设阈值可以为0.5,当匹配概率大于0.5则表示匹配数据及原始实体数据集两处的实体是同一类实体。通过所述远程监督及实体链指可以快速确定实体与实体之前的关系、实体描述等信息,同时,由于所述原始训练集中既包含实体信息,又包含关系信息,可以直接用于训练关系抽取模型及实体抽取模型。
本发明实施例中,通过对所述原始实体数据集及所述原始关系数据集进行远程监督及实体链指,无需人工标注即可得到大量信息丰富的原始训练集。
所述实体加强模块102,用于对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集。
具体地,所述实体加强模块102通过下述操作得到所述标准训练集:
利用预设的标注符号对所述原始训练集中的文本断句进行分类,得到分类样本,并对所述分类样本中的三元组进行标注,得到标注实体;
利用预设的自然语言处理库对所述标注实体进行实体加强处理,汇总加强后的分类样本得到所述标准训练集。
本发明实施例中,可以基于MTB(Matching The Blank,空白匹配)的方法来进行策略标注,其中,所述预设的标注符号可以为<tag>及</tag>,<tag>与</tag>围住的部分即实体或关系在句中的提及,比如,分类样本可以为[CLS]XXX<entity_head>XXX</entity_head>XXX<rel>XXX</rel>XXX<entity_tail>XXX</entity_tail>XXX[SEP],entity_head、rel、entity_tail分别表示头实体,关系,尾实体。[CLS]与[SEP]为间隔符,[CLS]为分类位,该位置输出二分类结果0/1,表示当前两个实体间是否存在关系,[SEP]为终止位,表示句子结束。
本发明实施例中,可以使用BIO序列标注模式对所述分类样本中的实体进行标注,将实体提及的字标注为B或I,非实体标注为O。由于这里是开放实体识别,因此只分是/不是实体两类。所述预设的自然语言处理库可以为HanLP自然语言处理库,利用HanLP自然语言处理库中的依存句法解析工具,分析当前实体的前缀,来对当前实体进行实体加强,比如,当前实体为“库克”,前缀为“苹果公司CEO”,则加强实体为“苹果公司CEO库克”。
本发明实施通过对所述原始训练集进行策略标注及实体加强处理,可以提高模型训练的精度。
所述模型构建模块103,用于获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型。
本发明实施例中,所述预训练的语言模型可以为开源transformer项目中基于BERT算法的大规模无监督预训练语言模型,该模型使用pytorch框架编写,已经事先在大规模开源中文语料上进行过训练,训练过程采用完形填空的方式进行误差判定,即输入的中文预料文本中故意遮住几个字,输出时查看模型是否根据未遮住的上下文预测出遮住的字,计算模型预测的值和真实值之间的差异,直至所述差异低于事先指定的阈值。
具体地,所述模型构建模块103通过下述操作得到得到开放实体抽取模型及开放关系抽取模型:
在所述分类样本中随机添加空白位,得到训练样本,利用所述语言模型预测所述训练样本中的实体,得到预测实体;
计算所述预测实体和所述训练样本中真实实体的差值,当所述差值小于预设的阈值时,确定所述语言模型为所述开放实体抽取模型;
利用预设的关系跨度预测层计算所述预测实体间的关系跨度;
基于所述关系跨度,利用预设的二分类线性层输出所述预测实体间的预测结果,其中,所述预测结果包括关系存在;
当所述关系存在的预测结果与所有预测结果的比值大于预设的关系阈值时,组合所述语言模型、所述关系跨度预测层及所述二分类线性层,以得到所述开放关系抽取模型。
其中,所述关系跨度可以使用独热(one-hot)向量表示,在所述二分类线性层中通过[CLS]位判定所述预测实体之间的预测结果0或1,0表示关系不存在,1表示关系存在。同时,通过所述关系跨度预测层及所述二分类线性层,将关系预测化简为有限的二分类问题,极大地简化了模型的训练过程。
所述实体抽取模块104,用于对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体。
详细地,所述实体抽取模块104通过下述操作提取所述切分文本中的实体:
根据所述待分类文本中的标点符号将所述待分类文本进行断句,得到待分类断句;
利用所述开放实体抽取模型抽取所述待分类文本中的所有实体,得到待分类实体。
本发明实施例通过所述开放实体抽取模型可以快速的抽取所述待分类文本中的实体,提高了实体关系预测的速率。
所述关系抽取模块105,用于利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
具体地,所述关系抽取模块105通过下述操作得到关系抽取结果:
基于所述待分类实体,利用所述开放关系抽取模型抽取所述待分类断句中的关系,并过滤掉没有关系的所述待分类实体,得到预测三元组;
利用预设的聚类方法对所述预测三元组进行聚类,得到多个聚类团,其中,所述聚类团中包括所述关系抽取结果。
本发明实施例中,利用所述开放关系抽取模型可以得到三元组(头实体,关系,尾实体)及二元组(头实体,None,尾实体),其中,二元组表示没有关系的实体对,通过过滤所述二元组,提高了关系预测的准确率。所述预设的聚类方法可以为K均值聚类方法,所述K均值聚类方法通过word2vec算法将所述预测三元组中的关系向量化,并计算向量间的距离,根据所述距离将所述预测三元组聚拢到K个中心点,形成K个聚类团,这时由人工对每个聚类团概括出类型名称,从而对所述预测三元组进行分类。同时,每个聚类团稳定(不在发生变化)时,每个聚类团会求出团内所有关系向量的均值,之后新的关系会分别与每个已有聚类团的均值进行比较,若与多个聚类团的相似度(可以为欧式距离)均高于预先定义的相似阈值,则归到最相似的那个团中,若与所有聚类团的相似度均低于预定义的相似阈值,则独立归到“未知”类,当“未知”类中的关系积累到一定量(一般为已知类关系的70%),则针对未知关系重复K均值聚类方法及人工定义类型。
本发明实施例中,通过对所述实体及所述实体关系进行聚类,可以自动对抽取到的开放关系进行分类,提高了开放关系抽取的效率。
如图7所示,是本发明一实施例提供的实现开放关系抽取方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如开放关系抽取程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如开放关系抽取程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如开放关系抽取程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图7仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图7示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的开放关系抽取程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
具体地,所述处理器10对上述指令的具体实现方法可参考图1至图5对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种开放关系抽取方法,其特征在于,所述方法包括:
获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
2.如权利要求1所述的开放关系抽取方法,其特征在于,所述获取原始实体数据集及原始关系数据集,包括:
利用预设的数据抓取工具从源网站中抓取文本数据,并对所述文本数据进行切分,得到文本断句,汇总所述文本断句得到所述原始关系数据集;
获取开源的实体数据集,其中,所述实体数据集中包括三元组信息及每个三元组信息对应的描述信息,并对所述三元组信息进行去重处理,得到去重三元组,汇总所述去重三元组及所述三元组信息对应的描述信息得到所述原始实体数据集。
3.如权利要求2所述的开放关系抽取方法,其特征在于,所述分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集,包括:
将所述原始实体数据集中的三元组信息和所述原始关系数据集中的文本断句进行匹配,并根据匹配结果进行位置标注,得到匹配数据;
利用预构建的消歧模型,计算所述匹配数据中所述匹配结果及所述原始实体数据集中所述三元组信息对应的描述信息的匹配概率;
当所述匹配概率大于预设阈值时,汇总所述文本断句及所述三元组信息得到所述原始训练集。
4.如权利要求2所述的开放关系抽取方法,其特征在于,所述对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集,包括:
利用预设的标注符号对所述原始训练集中的文本断句进行分类,得到分类样本,并对所述分类样本中的三元组进行标注,得到标注实体;
利用预设的自然语言处理库对所述标注实体进行实体加强处理,汇总加强后的分类样本得到所述标准训练集。
5.如权利要求4中所述的开放关系抽取方法,其特征在于,所述利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型,包括:
在所述分类样本中随机添加空白位,得到训练样本,利用所述语言模型预测所述训练样本中的实体,得到预测实体;
计算所述预测实体和所述训练样本中真实实体的差值,当所述差值小于预设的阈值时,确定所述语言模型为所述开放实体抽取模型;
利用预设的关系跨度预测层计算所述预测实体间的关系跨度;
基于所述关系跨度,利用预设的二分类线性层输出所述预测实体间的预测结果,其中,所述预测结果包括关系存在;
当所述关系存在的预测结果与所有预测结果的比值大于预设的关系阈值时,组合所述语言模型、所述关系跨度预测层及所述二分类线性层,以得到所述开放关系抽取模型。
6.如权利要求1所述的开放关系抽取方法,其特征在于,所述对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体,包括:
根据所述待分类文本中的标点符号将所述待分类文本进行断句,得到待分类断句;
利用所述开放实体抽取模型抽取所述待分类文本中的所有实体,得到待分类实体。
7.如权利要求6所述的开放关系抽取方法,其特征在于,所述利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果,包括:
基于所述待分类实体,利用所述开放关系抽取模型抽取所述待分类断句中的关系,并过滤掉没有关系的所述待分类实体,得到预测三元组;
利用预设的聚类方法对所述预测三元组进行聚类,得到多个聚类团,其中,所述聚类团中包括所述关系抽取结果。
8.一种开放关系抽取装置,其特征在于,所述装置包括:
训练集构建模块,用于获取原始实体数据集及原始关系数据集,分别对所述原始实体数据集及所述原始关系数据集进行远程监督,并将监督到的所述原始实体数据集与所述原始关系数据集进行实体链指,得到原始训练集;
实体加强模块,用于对所述原始训练集依次进行策略标注及实体加强处理,得到标准训练集;
模型构建模块,用于获取预训练的语言模型,利用所述标准训练集对所述语言模型进行实体微调,得到开放实体抽取模型,及利用所述标准训练集对所述语言模型进行关系微调,得到开放关系抽取模型;
实体抽取模块,用于对待分类文本进行切分,得到切分文本,并利用所述开放实体抽取模型提取所述切分文本中的实体;
关系抽取模块,用于利用所述开放关系抽取模型预测所述实体的实体关系,并对所述实体及所述实体关系进行聚类,得到关系抽取结果。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的开放关系抽取方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的开放关系抽取方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110428927.5A CN113051356B (zh) | 2021-04-21 | 2021-04-21 | 开放关系抽取方法、装置、电子设备及存储介质 |
PCT/CN2021/109488 WO2022222300A1 (zh) | 2021-04-21 | 2021-07-30 | 开放关系抽取方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110428927.5A CN113051356B (zh) | 2021-04-21 | 2021-04-21 | 开放关系抽取方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113051356A true CN113051356A (zh) | 2021-06-29 |
CN113051356B CN113051356B (zh) | 2023-05-30 |
Family
ID=76519844
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110428927.5A Active CN113051356B (zh) | 2021-04-21 | 2021-04-21 | 开放关系抽取方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113051356B (zh) |
WO (1) | WO2022222300A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113553854A (zh) * | 2021-09-18 | 2021-10-26 | 航天宏康智能科技(北京)有限公司 | 实体关系的联合抽取方法和联合抽取装置 |
CN113704429A (zh) * | 2021-08-31 | 2021-11-26 | 平安普惠企业管理有限公司 | 基于半监督学习的意图识别方法、装置、设备及介质 |
CN114528418A (zh) * | 2022-04-24 | 2022-05-24 | 杭州同花顺数据开发有限公司 | 一种文本处理方法、系统和存储介质 |
WO2022222300A1 (zh) * | 2021-04-21 | 2022-10-27 | 深圳壹账通智能科技有限公司 | 开放关系抽取方法、装置、电子设备及存储介质 |
CN116975284A (zh) * | 2023-07-05 | 2023-10-31 | 厦门渊亭信息科技有限公司 | 基于先验知识的实体关系抽取方法、装置及存储介质 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116881471B (zh) * | 2023-07-07 | 2024-06-04 | 深圳智现未来工业软件有限公司 | 一种基于知识图谱的大语言模型微调方法及装置 |
CN116776886B (zh) * | 2023-08-15 | 2023-12-05 | 浙江同信企业征信服务有限公司 | 一种信息抽取方法、装置、设备及存储介质 |
CN117725223B (zh) * | 2023-11-20 | 2024-07-02 | 中国科学院成都文献情报中心 | 面向知识发现的科学实验知识图谱构建方法及系统 |
CN118012983A (zh) * | 2024-02-05 | 2024-05-10 | 北京智谱华章科技有限公司 | 一种基于大模型的自动知识抽取方法、设备及存储介质 |
Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140032209A1 (en) * | 2012-07-27 | 2014-01-30 | University Of Washington Through Its Center For Commercialization | Open information extraction |
US20150178273A1 (en) * | 2013-12-20 | 2015-06-25 | Microsoft Corporation | Unsupervised Relation Detection Model Training |
US20170351749A1 (en) * | 2016-06-03 | 2017-12-07 | Microsoft Technology Licensing, Llc | Relation extraction across sentence boundaries |
US20190042581A1 (en) * | 2016-02-03 | 2019-02-07 | Global Software Innovation Pty Ltd | Systems and Methods for Using Entity/Relationship Model Data To Enhance User Interface Engine |
CN109472033A (zh) * | 2018-11-19 | 2019-03-15 | 华南师范大学 | 文本中的实体关系抽取方法及系统、存储介质、电子设备 |
CN109871451A (zh) * | 2019-01-25 | 2019-06-11 | 中译语通科技股份有限公司 | 一种融入动态词向量的关系抽取方法和系统 |
CN110209836A (zh) * | 2019-05-17 | 2019-09-06 | 北京邮电大学 | 远程监督关系抽取方法及装置 |
CN110619053A (zh) * | 2019-09-18 | 2019-12-27 | 北京百度网讯科技有限公司 | 实体关系抽取模型的训练方法和抽取实体关系的方法 |
CN111291185A (zh) * | 2020-01-21 | 2020-06-16 | 京东方科技集团股份有限公司 | 信息抽取方法、装置、电子设备及存储介质 |
CN111324743A (zh) * | 2020-02-14 | 2020-06-23 | 平安科技(深圳)有限公司 | 文本关系抽取的方法、装置、计算机设备及存储介质 |
CN111339774A (zh) * | 2020-02-07 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 文本的实体关系抽取方法和模型训练方法 |
US20200311198A1 (en) * | 2019-03-29 | 2020-10-01 | Microsoft Technology Licensing, Llc | N-ary relation prediction over text spans |
CN111881256A (zh) * | 2020-07-17 | 2020-11-03 | 中国人民解放军战略支援部队信息工程大学 | 文本实体关系抽取方法、装置及计算机可读存储介质设备 |
CN111950269A (zh) * | 2020-08-21 | 2020-11-17 | 清华大学 | 文本语句处理方法、装置、计算机设备和存储介质 |
CN112214610A (zh) * | 2020-09-25 | 2021-01-12 | 中国人民解放军国防科技大学 | 一种基于跨度和知识增强的实体关系联合抽取方法 |
CN112507061A (zh) * | 2020-12-15 | 2021-03-16 | 康键信息技术(深圳)有限公司 | 多关系医学知识提取方法、装置、设备及存储介质 |
CN112507125A (zh) * | 2020-12-03 | 2021-03-16 | 平安科技(深圳)有限公司 | 三元组信息提取方法、装置、设备及计算机可读存储介质 |
CN112632975A (zh) * | 2020-12-29 | 2021-04-09 | 北京明略软件系统有限公司 | 上下游关系的抽取方法、装置、电子设备及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113051356B (zh) * | 2021-04-21 | 2023-05-30 | 深圳壹账通智能科技有限公司 | 开放关系抽取方法、装置、电子设备及存储介质 |
-
2021
- 2021-04-21 CN CN202110428927.5A patent/CN113051356B/zh active Active
- 2021-07-30 WO PCT/CN2021/109488 patent/WO2022222300A1/zh unknown
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140032209A1 (en) * | 2012-07-27 | 2014-01-30 | University Of Washington Through Its Center For Commercialization | Open information extraction |
US20150178273A1 (en) * | 2013-12-20 | 2015-06-25 | Microsoft Corporation | Unsupervised Relation Detection Model Training |
US20190042581A1 (en) * | 2016-02-03 | 2019-02-07 | Global Software Innovation Pty Ltd | Systems and Methods for Using Entity/Relationship Model Data To Enhance User Interface Engine |
US20170351749A1 (en) * | 2016-06-03 | 2017-12-07 | Microsoft Technology Licensing, Llc | Relation extraction across sentence boundaries |
CN109472033A (zh) * | 2018-11-19 | 2019-03-15 | 华南师范大学 | 文本中的实体关系抽取方法及系统、存储介质、电子设备 |
CN109871451A (zh) * | 2019-01-25 | 2019-06-11 | 中译语通科技股份有限公司 | 一种融入动态词向量的关系抽取方法和系统 |
CN112487203A (zh) * | 2019-01-25 | 2021-03-12 | 中译语通科技股份有限公司 | 一种融入动态词向量的关系抽取系统 |
US20200311198A1 (en) * | 2019-03-29 | 2020-10-01 | Microsoft Technology Licensing, Llc | N-ary relation prediction over text spans |
CN110209836A (zh) * | 2019-05-17 | 2019-09-06 | 北京邮电大学 | 远程监督关系抽取方法及装置 |
CN110619053A (zh) * | 2019-09-18 | 2019-12-27 | 北京百度网讯科技有限公司 | 实体关系抽取模型的训练方法和抽取实体关系的方法 |
CN111291185A (zh) * | 2020-01-21 | 2020-06-16 | 京东方科技集团股份有限公司 | 信息抽取方法、装置、电子设备及存储介质 |
CN111339774A (zh) * | 2020-02-07 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 文本的实体关系抽取方法和模型训练方法 |
CN111324743A (zh) * | 2020-02-14 | 2020-06-23 | 平安科技(深圳)有限公司 | 文本关系抽取的方法、装置、计算机设备及存储介质 |
CN111881256A (zh) * | 2020-07-17 | 2020-11-03 | 中国人民解放军战略支援部队信息工程大学 | 文本实体关系抽取方法、装置及计算机可读存储介质设备 |
CN111950269A (zh) * | 2020-08-21 | 2020-11-17 | 清华大学 | 文本语句处理方法、装置、计算机设备和存储介质 |
CN112214610A (zh) * | 2020-09-25 | 2021-01-12 | 中国人民解放军国防科技大学 | 一种基于跨度和知识增强的实体关系联合抽取方法 |
CN112507125A (zh) * | 2020-12-03 | 2021-03-16 | 平安科技(深圳)有限公司 | 三元组信息提取方法、装置、设备及计算机可读存储介质 |
CN112507061A (zh) * | 2020-12-15 | 2021-03-16 | 康键信息技术(深圳)有限公司 | 多关系医学知识提取方法、装置、设备及存储介质 |
CN112632975A (zh) * | 2020-12-29 | 2021-04-09 | 北京明略软件系统有限公司 | 上下游关系的抽取方法、装置、电子设备及存储介质 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022222300A1 (zh) * | 2021-04-21 | 2022-10-27 | 深圳壹账通智能科技有限公司 | 开放关系抽取方法、装置、电子设备及存储介质 |
CN113704429A (zh) * | 2021-08-31 | 2021-11-26 | 平安普惠企业管理有限公司 | 基于半监督学习的意图识别方法、装置、设备及介质 |
CN113553854A (zh) * | 2021-09-18 | 2021-10-26 | 航天宏康智能科技(北京)有限公司 | 实体关系的联合抽取方法和联合抽取装置 |
CN114528418A (zh) * | 2022-04-24 | 2022-05-24 | 杭州同花顺数据开发有限公司 | 一种文本处理方法、系统和存储介质 |
CN114528418B (zh) * | 2022-04-24 | 2022-10-14 | 杭州同花顺数据开发有限公司 | 一种文本处理方法、系统和存储介质 |
CN116975284A (zh) * | 2023-07-05 | 2023-10-31 | 厦门渊亭信息科技有限公司 | 基于先验知识的实体关系抽取方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113051356B (zh) | 2023-05-30 |
WO2022222300A1 (zh) | 2022-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113051356B (zh) | 开放关系抽取方法、装置、电子设备及存储介质 | |
WO2021212682A1 (zh) | 知识抽取方法、装置、电子设备及存储介质 | |
WO2021135469A1 (zh) | 基于机器学习的信息抽取方法、装置、计算机设备及介质 | |
CN108804423B (zh) | 医疗文本特征提取与自动匹配方法和系统 | |
CN112380343B (zh) | 问题解析方法、装置、电子设备及存储介质 | |
CN113157927B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN113312461A (zh) | 基于自然语言处理的智能问答方法、装置、设备及介质 | |
CN113704429A (zh) | 基于半监督学习的意图识别方法、装置、设备及介质 | |
CN112101031B (zh) | 一种实体识别方法、终端设备及存储介质 | |
CN113378970B (zh) | 语句相似性检测方法、装置、电子设备及存储介质 | |
CN113360654B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN113268615A (zh) | 资源标签生成方法、装置、电子设备及存储介质 | |
CN111753089A (zh) | 话题聚类方法、装置、电子设备及存储介质 | |
CN114416995A (zh) | 信息推荐方法、装置及设备 | |
CN113010679A (zh) | 问答对生成方法、装置、设备及计算机可读存储介质 | |
CN112883730A (zh) | 相似文本匹配方法、装置、电子设备及存储介质 | |
CN116450829A (zh) | 医疗文本分类方法、装置、设备及介质 | |
CN112989043B (zh) | 指代消解方法、装置、电子设备及可读存储介质 | |
CN113204698B (zh) | 新闻主题词生成方法、装置、设备及介质 | |
CN113688239A (zh) | 少样本下的文本分类方法、装置、电子设备及存储介质 | |
CN112364068A (zh) | 课程标签生成方法、装置、设备及介质 | |
CN115146064A (zh) | 意图识别模型优化方法、装置、设备及存储介质 | |
CN113268614B (zh) | 标签体系更新方法、装置、电子设备及可读存储介质 | |
CN114943306A (zh) | 意图分类方法、装置、设备及存储介质 | |
CN114298032A (zh) | 文本标点检测方法、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40045414 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |