CN112257446A - 命名实体识别方法、装置、计算机设备及可读存储介质 - Google Patents

命名实体识别方法、装置、计算机设备及可读存储介质 Download PDF

Info

Publication number
CN112257446A
CN112257446A CN202011123404.1A CN202011123404A CN112257446A CN 112257446 A CN112257446 A CN 112257446A CN 202011123404 A CN202011123404 A CN 202011123404A CN 112257446 A CN112257446 A CN 112257446A
Authority
CN
China
Prior art keywords
entity
target
entities
candidate
abbreviated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011123404.1A
Other languages
English (en)
Other versions
CN112257446B (zh
Inventor
顾大中
张圣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202011123404.1A priority Critical patent/CN112257446B/zh
Priority claimed from CN202011123404.1A external-priority patent/CN112257446B/zh
Priority to PCT/CN2020/134882 priority patent/WO2021179708A1/zh
Publication of CN112257446A publication Critical patent/CN112257446A/zh
Application granted granted Critical
Publication of CN112257446B publication Critical patent/CN112257446B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295Named entity recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)

Abstract

本发明公开了命名实体识别方法、装置、计算机设备及可读存储介质,涉及自然语言处理技术领域,包括获取医学文本,对所述医学文本进行预处理,获得待处理文本;基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型获得目标缩写实体;根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型获得目标补充实体;基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据,解决了现有基于字典匹配的实体抽取无法考虑缩写或带有特定信息的实体,准确率较低的技术问题。

Description

命名实体识别方法、装置、计算机设备及可读存储介质
技术领域
本发明涉及自然语言处理技术领域,尤其涉及一种命名实体识别方法、装置、计算机设备及可读存储介质。
背景技术
随着电子信息技术的发展,在医学领域中,通过对医学知识的归纳整理形成了医学知识图谱,微生物信息在一些病毒感染、细菌感染的医学文献中非常重要,微生物的种类和相关疾病的治疗方式息息相关,例如最普通的肺炎,细菌性肺炎、病毒性肺炎的治疗、诊断方法就有很大的差别,不同种类病毒导致的肺炎差别也很大,因此将微生物信息从医学文献中准确的抽取出来有很高的业务价值。
现有的微生物实体抽取任务中,大多采用基于字典匹配的方式进行抽取,但是现有的抽取过程中微生物在文献中经常会以缩写的形式出现,同时微生物在文献中还会出现特定的菌株信息,而字典中通常都只能识别具有全称的微生物实体,因此导致识别过程中遗漏较多,识别结果准确率较低。
发明内容
本发明的目的是提供一种命名实体识别方法、装置、计算机设备及可读存储介质,用于解决现有基于字典匹配微生物的实体抽取无法考虑缩写或带有特定信息的实体,从而准确率较低的技术问题。
为实现上述目的,本发明提供一种命名实体识别方法,包括:
获取医学文本,对所述医学文本进行预处理,获得待处理文本;
基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述实体对应的候选缩写实体,作为目标缩写实体;
根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
进一步的,所述根据第一预设规则和所述目标实体生成多个候选缩写实体,包括以下:
获取目标实体,根据所述实体提取预设长度的字符串;
对所述字符串进行序列化处理后添加预设字符,获得与所述目标实体对应的候选缩写实体。
进一步的,采采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体,包括以下:
获取任一候选缩写实体,将所述候选缩写实体与所述目标实体同时输入CharCNN网络,获得分别与候选缩写实体与所述目标实体对应的第一向量和第二向量;
将所述第一向量与所述第二向量拼接后采用全连接层进行分类处理,获取判断结果;
当所述判断结果为否,则获取另一候选缩写实体;
当所述判断结果为是,则获取所述候选缩写实体作为目标缩写实体。
进一步的,根根据第二预设规则和所述目标实体生成多个候选补充实体,包括以下:
获取目标实体,判断所述目标实体的位置是否处于所在语句句尾;
当所述目标实体位置未处于所在语句句尾,获取与所述目标实体相邻的后一个词,将所述目标实体与其相邻的后一个词拼接作为候选补充实体。
进一步的,采用第二模型对所述候选补充实体进行筛选,获得目标补充实体,包括以下:
获取任一候选补充实体,采用CharCNN层对所述候选补充实体进行处理,获得与所述候选补充实体对应的特征向量;
同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量;
将所述特征向量和所述位置向量拼接后输入全连接层处理,获得分类结果;
当所述分类结果为否,则获取另一候选补充实体;
当所述分类结果为是,则获取所述候选补充实体作为目标候选补充实体。
进一步的,所述同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量,包括以下:
获取所述候选补充实体,计算所述候选补充实体的长度数据;
根据所述长度数据和第三预设规则建立目标向量,作为与所述候选补充实体对应的位置向量。
进一步的,在采用第二模型对所述候选补充实体进行筛选,获得目标补充实体前,对所述第二模型进行训练,包括以下:
获取训练样本,所述样本包括多个样本实体,所述样本实体对应多个关联实体,每一关联实体包含样本标签;
获取任一关联实体,采用CharCNN层对所述关联实体进行处理,获得第一样本向量;
同步采用位置编码层对所述关联实体进行处理,获得第二样本向量;
将所述第一样本向量和所述第二样本向量拼接后输入全连接层处理,获得样本分类结果;
将所述样本分类结果与所述关联实体对应的样本标签进行对比,调整所述第二模型的参数,直至完成训练,获得训练后的第二模型。
为实现上述目的,本发明还提供一种命名实体识别装置,包括:
获取模块,用于获取医学文本,对所述医学文本进行预处理,获得待处理文本;
抽取模块,用于基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
第一处理模块,用于根据第一预设规则和所述实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体;
第二处理模块,用于根据第二预设规则和所述实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
生成模块,用于基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
为实现上述目的,本发明还提供一种计算机设备,所述计算机设备包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述命名实体识别方法的步骤。
为实现上述目的,本发明还提供一种计算机可读存储介质,其包括多个存储介质,各存储介质上存储有计算机程序,所述多个存储介质存储的所述计算机程序被处理器执行时共同实现上述命名实体识别方法的步骤。
本发明提供的命名实体识别方法、装置、计算机设备及可读存储介质,通过,本方案中先通过词典匹配的方式获取目标实体(即全称实体),然后生成候选缩写实体并采用第一模型判断获得目标缩写实体数据,实现基于医学文本抽取实体过程中对于缩写实体的提取,而后又根据生成候选补充实体并采用第二模型对各个候选补充实体进行判断,实现基于医学文本抽取实体过程中对部分包含特定信息(编号、菌株种类等)实体的提取,最后将所有实体集合,解决现有基于字典匹配微生物的实体抽取无法考虑缩写或带有特定信息的实体,从而准确率较低的技术问题。
附图说明
图1为本发明所述命名实体识别方法实施例一的流程图;
图2为本发明所述命名实体识别方法实施例一中所述根据第一预设规则和所述目标实体生成多个候选缩写实体的流程图;
图3为本发明所述命名实体识别方法实施例一中采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体的流程图;
图4为本发明所述命名实体识别方法实施例一中在采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体前,对所述第一模型进行训练的流程图;
图5为本发明所述命名实体识别方法实施例一中根据第二预设规则和所述目标实体生成多个候选补充实体的流程图;
图6为本发明所述命名实体识别方法实施例一中采用第二模型对所述候选补充实体进行筛选,获得目标补充实体的流程图;
图7为本发明所述命名实体识别方法实施例一中在采用第二模型对所述候选补充实体进行筛选,获得目标补充实体前,对所述第二模型进行训练的流程图;
图8为本发明所述命名实体识别装置实施例二的程序模块示意图;
图9为本发明计算机设备实施例三中计算机设备的硬件结构示意图。
附图标记:
6、命名实体识别装置 61、获取模块 62、抽取63
631、第一处理单元 632、第二处理单元 641、第三处理单元
642、第三处理单元 7、计算机设备 71、存储器
72、处理器 73、网络接口
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
本发明提供的命名实体识别方法、装置、计算机设备及可读存储介质,适用于领域,为提供一种基于获取模块、抽取模块、第一处理模块、第二处理模块和生成模块的命名实体识别方法。本发明通过获取模块获取医学文本并进行预处理(具体如归一化和词形还原操作以及消除单复数、时态等),采用抽取模块基于预处理后的医学文本和预设词典进行实体抽取,获得与预设词典中一致的目标实体,而后区别于现有技术的,采用第一处理模块生成多个候选缩写实体并采用第一模型筛选出与目标实体一致的作为目标缩写实体,同时采用第二处理模块生成多个候选补充实体并采用第二模型筛选获得目标补充实体,最终通过生成模块将目标实体、目标缩写实体以及目标补充实体集合获得目标数据,通过目标缩写实体以及目标补充实体的自主抽取,解决现有基于字典匹配微生物的实体抽取无法考虑缩写或带有特定信息的实体,从而准确率较低的技术问题。
实施例一
请参阅图1,本实施例的一种命名实体识别方法,应用于服务器端,本申请可应用于智慧医疗场景中,从而推动智慧城市的建设,包括以下步骤:
S100:获取医学文本,对所述医学文本进行预处理,获得待处理文本;
具体的,本方案中对所述医学文本进行预处理包括但不限于归一化和词形还原操作以及消除单复数、时态等,具体的,归一化可以把数据映射到0~1范围之内处理,还可将便于不同单位或量级的指标能够进行比较和加权;词形还原就是去掉单词的词缀,提取单词的主干部分;消除单复数、时态等可以通过移除无意义词,例如to,a,the等,其他用于自然语言预处理的技术手段也可用于此,以减少对后续步骤S200中基于预设词典抽取的干扰。
S200:基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
具体的,基于预设词典对文本进行抽取,即直接筛选出文本中与预设词典中对应的实体数据,作为举例的,“Lactobacillus AU513B can cause pneumonia。In this studywe learn the effect of aspirin on Lb.AU513B”,如果词典中只有“Lactobacillus”这个词,那么本步骤中只抽取“Lactobacillus”,需要说明的是,该处由词典直接获取,因此可直接获取实体全称,而无法获得实体缩写。
S300:根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述实体对应的候选缩写实体,作为目标缩写实体;
上述第一模型包括两个并行处理的Char CNN网络,一个用于接收实体数据,一个用于逐个输入候选缩写实体数据,在两个Char CNN网络后连接全连接层用于判断输入的候选缩写实体是否为目标实体的缩写。
具体的,所述根据第一预设规则和所述目标实体生成多个候选缩写实体,参阅图2,包括以下:
S311:获取目标实体,根据所述目标实体提取预设长度的字符串;
在本方案中,预设长度的字符串为预设一个字母、两个字母或三个字母,即预设一个字符、两个字符或三个字符,微生物实体缩写一般由全称中的1-3个字母按顺序构成,但是其构成的字母具有随机性,因此本方案中对于所有可能的情况进行枚举,生成所有可能与所述目标实体对应的实体缩写。
S312:对所述字符串进行序列化处理后添加预设字符,获得与所述目标实体对应的候选缩写实体。
微生物缩写指称一般由全称中的1-3个字母按顺序构成,还在最后在加一个“.”,因此在上述实施方式中,所述预设字符为“.”,在序列化后的字符串尾部添加预设字符,即可获得所有候选缩写实体。
通过上述S311和S312实现对可能与所述目标实体对应的候选缩写实体的列举,需要对上述所有候选缩写实体进行筛选,获得与所述目标实体对应的缩写实体,具体的,采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体,参阅图3,包括以下:
S321:获取任一候选缩写实体,将所述候选缩写实体与所述目标实体同时输入CharCNN网络,获得分别与候选缩写实体与所述目标实体对应的第一向量和第二向量;
所述第一模型包括两个输入,一个为任一候选缩写实体,另一个为目标实体,输出为“是”或“否”,用于表示输入的候选缩写实体是否是与所述目标实体匹配一致,采用CharCNN网络分别对所述候选缩写实体与所述目标实体进行处理过程同步进行,设置两个结构一致的CharCNN网络,CharCNN网络为字符级卷积神经网络,用于分别提取所述候选缩写实体与所述目标实体的字形结构。
S322:将所述第一向量与所述第二向量拼接后采用全连接层进行分类处理,获取判断结果;
上述全连接层用于实现输出为“是”或“否”的二分类。
S323:当所述判断结果为否,则获取另一候选缩写实体;
当判断结果为否,则该候选缩写实体与所述目标实体不匹配,则需要更换另一候选缩写实体重复上述S321-S322再次进行判断。
S324:当所述判断结果为是,则获取所述候选缩写实体作为目标缩写实体。
当判断结果为是,则该候选缩写实体与所述目标实体匹配。
具体的,在采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体前,对所述第一模型进行训练,参阅图4,包括以下:
S331:获取训练样本,所述训练样本包括多个样本全称-缩写对,每一所述样本全称-缩写对均对应一样本标签;
在上述步骤中,所述训练样本可以是人工生成,包括合理与不合理的全称-缩写对,并对每一标注全称-缩写对标签,也可以从数据库中直接获取,还可以利用模型自主生成。
S332:获取一样本全称-缩写对,将所述样本全称与所述样本缩写同时输入CharCNN网络,获得分别与候选缩写实体与所述目标实体对应的第一处理向量和第二处理向量;
S333:将所述第一处理向量与所述第二处理向量拼接后采用全连接层进行分类处理,获取样本判断结果;
S334:将所述样本判断结果与所述样本标签对比,调整第一模型,直至完成训练,获得训练后的第一模型。
上述训练过程的步骤S332与上述步骤S333与处理过程中步骤S321-S322一致,采用训练样本使第一模型进行自主学习如何提取字形特征,以及如何根据特征进行分类,在完成训练后用于上述步骤S321-S333的处理过程,克服了现有技术中基于词典匹配而无法考虑缩写的情况,通过步骤S311-S312生成候选缩写实体,以及步骤S321-S323中采用第一模型筛选获得与目标实体匹配的目标缩写实体,自主完成缩写实体的提取,进一步提高了实体提取结果的准确性。
S400:根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
在本实施方式中,所述候选补充实体为通过对目标实体进行扩展边界获得,由于部分微生物包含特定信息(如菌种信息,作为举例的,“actobacillus AU513B”),因此通过上述候补补充实体的方式获取可能包含特定信息的实体作为候选补充实体,而后再对候选补充实体进行判断。
具体的,根据第二预设规则和所述目标实体生成多个候选补充实体,参阅图5,包括以下:
S411:获取目标实体,判断所述目标实体的位置是否处于所在语句句尾;
如前所述,所述候选补充实体是对所述目标实体的延伸,一般带有特定信息的微生物实体,实体与特定信息依次排列,因此需要根据目标实体的位置向后侧延伸,若目标实体已经位于语句句尾,则说明无法再向后延伸,则不存在候选补充实体,若目标实体位于语句中间或语句头部,则有可能有相邻后一侧的词组合为带有特定信息的实体。
S412:当所述目标实体位置未处于所在语句句尾,获取与所述目标实体相邻的后一个词,将所述目标实体与其相邻的后一个词拼接作为候选补充实体。
作为举例的,以“Lactobacillus AU513B can cause pneumonia”为例,假设根据前述步骤抽取出了Lactobacillus,判断Lactobacillus是不是位于该句子的末尾,如果Lactobacillus已经在句子的末尾,我们就认为后面不会再有菌株信息了。因此无需对Lactobacillus做任何扩展,如果Lactobacillus不是句子的末尾,将Lactobacillus后面的一个单词纳入到候选补充实体中,即得到“Lactobacillus AU513B”。而后根据后述步骤判断“Lactobacillus AU513B”是不是一个目标补充实体(即是否为合理的微生物实体)。
根据前述步骤S411-S412根据所述目标实体在所在语句的位置获得候选补充实体,但是候选补充实体也可能不是与所述目标实体一致的带有特定信息的实体,因此需要逐个对所述候选补充实体进行判断,具体的,采用第二模型对所述候选补充实体进行筛选,获得目标补充实体,参阅图6,包括以下步骤:
S421:获取任一候选补充实体,采用CharCNN层对所述候选补充实体进行处理,获得与所述候选补充实体对应的特征向量;
上述步骤中CharCNN层抓取字符串的字形特征,并将其转化为“字形向量”。比如菌株文本很多是大写字母加数字组合这样的特征,CharCNN层包括字符编码层和卷积-池化层,因为模型的输入是字符的one-hot表示向量,所以先得有字符编码,卷积-池化层由6个卷积层和3个全连接层共9层神经网络组成,在三个全连接层之间加入两个dropout层以实现模型正则化,通过CharCNN层可用于识别所述候选补充实体的特征。
S422:同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量;
基于上述步骤S421-S422,所述第二模型包括两个输入,一个是候选补充实体(即获得特征向量),另一个是扩展字符串的范围(即获得位置向量),作为举例的,“Lactobacillus AU513B”中字符串0-12的位置是原始字典抽取的结果(即Lactobacillus),字符串14-19是我们扩展的结果(即AU513B),因此我们把12、14两个数字作为第二个输入。
所述位置编码层获取所述候选补充实体的位置信息,具体的,按照预设的规则将位置信息转化为向量。更具体的,上述步骤S422所述同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量,包括以下:
S422-1:获取所述候选补充实体,计算所述候选补充实体的长度数据;
在上述步骤中,为了实现目标向量的建立,需要与候选补充实体长度保持一致,这样根据步骤S422-2中第三预设规则对不同位置的字符串进行不同的标记,即可区分目标实体与扩展字符串。
S422-2:根据所述长度数据和第三预设规则建立目标向量,作为与所述候选补充实体对应的位置向量。
所述第三预设规则为在目标向量中,目标实体字符串对应的位置值为1,扩展字符串(即所述目标实体相邻后一个字对应的字符串)对应的位置为0,中间空白部分对于的值为2。
作为举例而非限定的,对于“Lactobacillus AU513B”,会生成一个长度为20的向量,在向量中,原始字符串对应的位置值为1,扩展字符串对应的位置为0,中间空白部分对于的值为2。对于“Lactobacillus AU513B”生成的向量为“1111111111112000000”。
S423:将所述特征向量和所述位置向量拼接后输入全连接层处理,获得分类结果;
具体的,所述分类结果包括“是”或“否”,当判断结果是,则说明上说扩展字符串与所述目标实体匹配,即该候选补充实体为带有特定信息的目标实体,当判断结果为否,则说明该候选补充实体与目标实体不匹配,此处不存在扩展的实体。
S424:当所述分类结果为是,则获取所述候选补充实体作为目标候选补充实体。
S425:当所述分类结果为否,则获取另一候选补充实体。
在采用第二模型对所述候选补充实体进行筛选,获得目标补充实体前,对所述第二模型进行训练,参阅图7,包括以下:
S431:获取训练样本,所述样本包括多个样本实体,所述样本实体对应多个关联实体,每一关联实体包含样本标签;
作为举例的,样本实体为Lactobacillus,关联实体为“Lactobacillus AU513B”(其对应样本标签为是,即为与样本实体对应的合理的样本补充实体)、“Lactobacilluscan”(其对应样本标签为否,即为与样本实体对应的不合理的样本补充实体)。
S432:基于所述训练样本获取任一关联实体,采用CharCNN层对所述关联实体进行处理,获得第一向量;
S433:同步采用位置编码层对所述关联实体进行处理,获得第二向量;
S434:将所述第一向量和所述第二向量拼接后输入全连接层处理,获得样本分类结果;
上述训练过程中步骤S432-S434与处理过程中一致,在此不作赘述。
S435:将所述样本分类结果与所述关联实体对应的样本标签进行对比,调整所述第二模型的参数,直至完成训练,获得训练后的第二模型。
通过训练样本第二模型学习合理的微生物指称的特征向量和位置向量,从而学会对任意输入进行判断,提高获得的目标补充实体的准确性。
S500:基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
在上述实施方式中,将目标实体、目标缩写实体以及目标补充实体合并获得最终的目标数据,相较于现有的根据词典匹配的方式增加了缩写实体和补充实体(扩展实体),解决现有基于字典匹配微生物的实体抽取无法考虑缩写或带有特定信息的实体,从而准确率较低的技术问题。
本方案中先通过词典匹配的方式从待处理文本中获取微生物实体全称,然后根据第一预设规则生成候选缩写实体,采用第一模型对各个候选缩写实体与所述目标实体的匹配程度进行判断,并获得目标缩写实体数据,实现基于医学文本抽取微生物实体过程中对于与微生物实体对应的缩写数据的提取,而后又根据第二预设规则获取候选补充实体,同时采用第二模型对各个候选补充实体进行判断,实现基于医学文本抽取微生物实体过程中对部分包含特定信息(编号、菌株种类等)微生物实体数据的提取,进一步完善对医学文本中实体抽取的完整性和全面性。
上述目标实体、目标缩写实体以及目标补充实体可上传至区块链以便于后续作为参考样本或训练样本,上传至区块链可保证其安全性和对用户的公正透明性,用户设备可以从区块链中下载得该摘要信息,以便查证优先级列表是否被篡改,后续也可以从区块链中下载获得对应金额数据的语音文件用于语音播报,无需生成过程,有效提高语音处理效率。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
实施例二:
请参阅图8,本实施例的一种命名实体识别装置6,包括:获取模块61、抽取模块62、第一处理模块63、第二处理模块64以及生成模块65。
获取模块61,用于获取医学文本,对所述医学文本进行预处理,获得待处理文本;
抽取模块62,用于基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
第一处理模块63,用于根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体;
优选的,所述第一处理模块63包括以下:
第一处理单元631,用于获取目标实体,根据所述实体提取预设长度的字符串;对所述字符串进行序列化处理后添加预设字符,获得与所述目标实体对应的候选缩写实体;
第二处理单元632,用于获取任一候选缩写实体,将所述候选缩写实体与所述目标实体同时输入CharCNN网络,获得分别与候选缩写实体与所述目标实体对应的第一向量和第二向量;将所述第一向量与所述第二向量拼接后采用全连接层进行分类处理,获取判断结果;当所述判断结果为否,则获取另一候选缩写实体;当所述判断结果为是,则获取所述候选缩写实体作为目标缩写实体。
第二处理模块64,用于根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
优选的,所述第二处理模块64包括:
第三处理单元641,用于获取目标实体,判断所述目标实体的位置是否处于所在语句句尾;当所述目标实体位置未处于所在语句句尾,获取与所述目标实体相邻的后一个词,将所述目标实体与其相邻的后一个词拼接作为候选补充实体。
第四处理单元642,用于获取任一候选补充实体,采用CharCNN层对所述候选补充实体进行处理,获得与所述候选补充实体对应的特征向量;同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量;将所述特征向量和所述位置向量拼接后输入全连接层处理,获得分类结果;当所述分类结果为否,则获取另一候选补充实体;当所述分类结果为是,则获取所述候选补充实体作为目标候选补充实体。
生成模块65,用于基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
本技术方案基于语音语义中语义解析的自然语言处理,通过获取模块获取医学文本并进行预处理,减少对后续实体抽取过程的影响,采用抽取模块基于预处理后的医学文本和预设词典进行实体抽取,获得与预设词典中一致的目标实体,而后采用第一处理模块生成多个候选缩写实体并采用第一模型筛选出与目标实体一致的作为目标缩写实体,再采用第二处理模块生成多个候选补充实体并采用第二模型筛选获得目标补充实体,最终通过生成目标将目标实体、目标缩写实体以及目标补充实体集合生成目标数据,区别于现有技术中仅采用词典匹配的方式进行实体抽取,解决现有基于字典匹配微生物的实体抽取无法考虑缩写或带有特定信息的实体,从而准确率较低的技术问题。
本方案中在第一处理模块处理过程中,通过第一处理单元基于预设规则和目标实体生成候选缩写实体,再对各个候选缩写实体进行甄别,容易实现且结果准确率较高,在第二处理模块过程中,则通过第三处理单元基于预设规则和目标实体生成候选补充实体,再对各个候选补充实体进行判断,进一步提高抽取结果的准确性,进一步减少抽取过程中缩写实体以及带有特定信息的实体的遗漏,保证从医学文本中完整抽取所有实体,完善对医学文本中实体抽取的完整性和全面性。
实施例三:
为实现上述目的,本发明还提供一种计算机设备7,该计算机设备可包括多个计算机设备,实施例二的命名实体识别装置6的组成部分可分散于不同的计算机设备7中,计算机设备7可以是执行程序的智能手机、平板电脑、笔记本电脑、台式计算机、机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器,或者多个服务器所组成的服务器集群)等。本实施例的计算机设备至少包括但不限于:可通过系统总线相互通信连接的存储器51、处理器72、网络接口73以及命名实体识别装置6,如图9所示。需要指出的是,图9仅示出了具有组件-的计算机设备,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。
本实施例中,存储器71至少包括一种类型的计算机可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器71可以是计算机设备的内部存储单元,例如该计算机设备的硬盘或内存。在另一些实施例中,存储器71也可以是计算机设备的外部存储设备,例如该计算机设备上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,存储器71还可以既包括计算机设备的内部存储单元也包括其外部存储设备。本实施例中,存储器71通常用于存储安装于计算机设备的操作系统和各类应用软件,例如实施例一的命名实体识别装置6的程序代码等。此外,存储器71还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器72在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器72通常用于控制计算机设备的总体操作。本实施例中,处理器72用于运行存储器71中存储的程序代码或者处理数据,例如运行命名实体识别装置,以实现实施例一的命名实体识别方法。
所述网络接口73可包括无线网络接口或有线网络接口,该网络接口73通常用于在所述计算机设备7与其他计算机设备7之间建立通信连接。例如,所述网络接口73用于通过网络将所述计算机设备7与外部终端相连,在所述计算机设备7与外部终端之间的建立数据传输通道和通信连接等。所述网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communication,GSM)、宽带码分多址(WidebandCode Division Multiple Access,WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是,图9仅示出了具有部件71-73的计算机设备7,但是应理解的是,并不要求实施所有示出的部件,可以替代的实施更多或者更少的部件。
在本实施例中,存储于存储器71中的所述命名实体识别装置6还可以被分割为一个或者多个程序模块,所述一个或者多个程序模块被存储于存储器71中,并由一个或多个处理器(本实施例为处理器72)所执行,以完成本发明。
实施例四:
为实现上述目的,本发明还提供一种计算机可读存储系统,其包括多个存储介质,如闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等等,其上存储有计算机程序,程序被处理器72执行时实现相应功能。本实施例的计算机可读存储介质用于存储命名实体识别装置,被处理器72执行时实现实施例一的命名实体识别方法。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种命名实体识别方法,其特征在于,包括:
获取医学文本,对所述医学文本进行预处理,获得待处理文本;
基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述实体对应的候选缩写实体,作为目标缩写实体;
根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
2.根据权利要求1所述的命名实体识别方法,其特征在于,所述根据第一预设规则和所述目标实体生成多个候选缩写实体,包括以下:
获取目标实体,根据所述实体提取预设长度的字符串;
对所述字符串进行序列化处理后添加预设字符,获得与所述目标实体对应的候选缩写实体。
3.根据权利要求1所述的命名实体识别方法,其特征在于,采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体,包括以下:
获取任一候选缩写实体,将所述候选缩写实体与所述目标实体同时输入CharCNN网络,获得分别与候选缩写实体与所述目标实体对应的第一向量和第二向量;
将所述第一向量与所述第二向量拼接后采用全连接层进行分类处理,获取判断结果;
当所述判断结果为否,则获取另一候选缩写实体;
当所述判断结果为是,则获取所述候选缩写实体作为目标缩写实体。
4.根据权利要求1所述的命名实体识别方法,其特征在于,根据第二预设规则和所述目标实体生成多个候选补充实体,包括以下:
获取目标实体,判断所述目标实体的位置是否处于所在语句句尾;
当所述目标实体位置未处于所在语句句尾,获取与所述目标实体相邻的后一个词,将所述目标实体与其相邻的后一个词拼接作为候选补充实体。
5.根据权利要求1所述的命名实体识别方法,其特征在于,采用第二模型对所述候选补充实体进行筛选,获得目标补充实体,包括以下:
获取任一候选补充实体,采用CharCNN层对所述候选补充实体进行处理,获得与所述候选补充实体对应的特征向量;
同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量;
将所述特征向量和所述位置向量拼接后输入全连接层处理,获得分类结果;
当所述分类结果为否,则获取另一候选补充实体;
当所述分类结果为是,则获取所述候选补充实体作为目标候选补充实体。
6.根据权利要求5所述的命名实体识别方法,其特征在于,所述同步采用位置编码层对所述候选补充实体进行处理,获得与所述候选补充实体对应的位置向量,包括以下:
获取所述候选补充实体,计算所述候选补充实体的长度数据;
根据所述长度数据和第三预设规则建立目标向量,作为与所述候选补充实体对应的位置向量。
7.根据权利要求1所述的命名实体识别方法,其特征在于,在采用第二模型对所述候选补充实体进行筛选,获得目标补充实体前,对所述第二模型进行训练,包括以下:
获取训练样本,所述样本包括多个样本实体,所述样本实体对应多个关联实体,每一关联实体包含样本标签;
获取任一关联实体,采用CharCNN层对所述关联实体进行处理,获得第一样本向量;
同步采用位置编码层对所述关联实体进行处理,获得第二样本向量;
将所述第一样本向量和所述第二样本向量拼接后输入全连接层处理,获得样本分类结果;
将所述样本分类结果与所述关联实体对应的样本标签进行对比,调整所述第二模型的参数,直至完成训练,获得训练后的第二模型。
8.一种命名实体识别装置,其特征在于,包括:
获取模块,用于获取医学文本,对所述医学文本进行预处理,获得待处理文本;
抽取模块,用于基于预设词典对所述待处理文本进行微生物实体抽取,获得目标实体;
第一处理模块,用于根据第一预设规则和所述目标实体生成多个候选缩写实体,并采用第一模型从所述候选缩写实体中筛选,获得与所述目标实体对应的候选缩写实体,作为目标缩写实体;
第二处理模块,用于根据第二预设规则和所述目标实体生成多个候选补充实体,并采用第二模型对所述候选补充实体进行筛选,获得目标补充实体;
生成模块,用于基于所述目标实体、所述目标缩写实体以及目标补充实体生成目标数据。
9.一种计算机设备,其特征在于,所述计算机设备包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述命名实体识别方法的步骤。
10.一种计算机可读存储介质,其包括多个存储介质,各存储介质上存储有计算机程序,其特征在于,所述多个存储介质存储的所述计算机程序被处理器执行时共同实现权利要求1至7任一项所述命名实体识别方法的步骤。
CN202011123404.1A 2020-10-20 2020-10-20 命名实体识别方法、装置、计算机设备及可读存储介质 Active CN112257446B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202011123404.1A CN112257446B (zh) 2020-10-20 命名实体识别方法、装置、计算机设备及可读存储介质
PCT/CN2020/134882 WO2021179708A1 (zh) 2020-10-20 2020-12-09 命名实体识别方法、装置、计算机设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011123404.1A CN112257446B (zh) 2020-10-20 命名实体识别方法、装置、计算机设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN112257446A true CN112257446A (zh) 2021-01-22
CN112257446B CN112257446B (zh) 2024-10-29

Family

ID=

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113177412A (zh) * 2021-04-05 2021-07-27 北京智慧星光信息技术有限公司 基于bert的命名实体识别方法、系统、电子设备及存储介质
CN113204972A (zh) * 2021-03-29 2021-08-03 联想(北京)有限公司 一种信息识别方法及装置
CN114579709A (zh) * 2022-03-15 2022-06-03 西南交通大学 一种基于知识图谱的智能问答意图识别方法
CN114741508A (zh) * 2022-03-29 2022-07-12 北京三快在线科技有限公司 概念挖掘方法及装置、电子设备及可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7403891B2 (en) * 2003-10-23 2008-07-22 Electronics And Telecommunications Research Institute Apparatus and method for recognizing biological named entity from biological literature based on UMLS
US20160189047A1 (en) * 2014-12-30 2016-06-30 Yahoo! Inc. Method and System for Entity Linking
CN109614493A (zh) * 2018-12-29 2019-04-12 重庆邂智科技有限公司 一种基于监督词向量的文本缩写识别方法及系统
CN110348015A (zh) * 2019-07-12 2019-10-18 北京百奥知信息科技有限公司 一种自动标注医学文本中实体的方法
CN110717331A (zh) * 2019-10-21 2020-01-21 北京爱医博通信息技术有限公司 一种基于神经网络的中文命名实体识别方法、装置、设备以及存储介质
CN111126040A (zh) * 2019-12-26 2020-05-08 贵州大学 一种基于深度边界组合的生物医学命名实体识别方法
CN111160012A (zh) * 2019-12-26 2020-05-15 上海金仕达卫宁软件科技有限公司 医学术语识别方法、装置和电子设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7403891B2 (en) * 2003-10-23 2008-07-22 Electronics And Telecommunications Research Institute Apparatus and method for recognizing biological named entity from biological literature based on UMLS
US20160189047A1 (en) * 2014-12-30 2016-06-30 Yahoo! Inc. Method and System for Entity Linking
CN109614493A (zh) * 2018-12-29 2019-04-12 重庆邂智科技有限公司 一种基于监督词向量的文本缩写识别方法及系统
CN110348015A (zh) * 2019-07-12 2019-10-18 北京百奥知信息科技有限公司 一种自动标注医学文本中实体的方法
CN110717331A (zh) * 2019-10-21 2020-01-21 北京爱医博通信息技术有限公司 一种基于神经网络的中文命名实体识别方法、装置、设备以及存储介质
CN111126040A (zh) * 2019-12-26 2020-05-08 贵州大学 一种基于深度边界组合的生物医学命名实体识别方法
CN111160012A (zh) * 2019-12-26 2020-05-15 上海金仕达卫宁软件科技有限公司 医学术语识别方法、装置和电子设备

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113204972A (zh) * 2021-03-29 2021-08-03 联想(北京)有限公司 一种信息识别方法及装置
CN113177412A (zh) * 2021-04-05 2021-07-27 北京智慧星光信息技术有限公司 基于bert的命名实体识别方法、系统、电子设备及存储介质
CN114579709A (zh) * 2022-03-15 2022-06-03 西南交通大学 一种基于知识图谱的智能问答意图识别方法
CN114579709B (zh) * 2022-03-15 2023-04-07 西南交通大学 一种基于知识图谱的智能问答意图识别方法
CN114741508A (zh) * 2022-03-29 2022-07-12 北京三快在线科技有限公司 概念挖掘方法及装置、电子设备及可读存储介质
CN114741508B (zh) * 2022-03-29 2023-05-30 北京三快在线科技有限公司 概念挖掘方法及装置、电子设备及可读存储介质

Also Published As

Publication number Publication date
WO2021179708A1 (zh) 2021-09-16

Similar Documents

Publication Publication Date Title
WO2021179708A1 (zh) 命名实体识别方法、装置、计算机设备及可读存储介质
CN112257613B (zh) 体检报告信息结构化提取方法、装置及计算机设备
CN116629275B (zh) 一种基于大数据的智能决策支持系统及方法
CN111814482B (zh) 文本关键数据的提取方法、系统和计算机设备
CN110765785A (zh) 基于神经网络的中英翻译方法、及其相关设备
CN113705733A (zh) 医疗票据图像处理方法及装置、电子设备、存储介质
CN111783471B (zh) 自然语言的语义识别方法、装置、设备及存储介质
CN111767714B (zh) 一种文本通顺度确定方法、装置、设备及介质
CN113360654B (zh) 文本分类方法、装置、电子设备及可读存储介质
CN110825827A (zh) 一种实体关系识别模型训练、实体关系识别方法及装置
CN112783825B (zh) 数据归档方法、装置、计算机装置及存储介质
CN112632975A (zh) 上下游关系的抽取方法、装置、电子设备及存储介质
CN110705217B (zh) 一种错别字检测方法、装置及计算机存储介质、电子设备
CN115130038A (zh) 网页分类方法及装置
CN112597299A (zh) 文本的实体分类方法、装置、终端设备和存储介质
CN118036734A (zh) 一种基于大语言模型的非结构化文本数据知识抽取方法
CN112257446B (zh) 命名实体识别方法、装置、计算机设备及可读存储介质
CN116739001A (zh) 基于对比学习的文本关系提取方法、装置、设备及介质
CN111401069A (zh) 会话文本的意图识别方法、意图识别装置及终端
KR20200057824A (ko) 단어 교정 시스템
CN114974554A (zh) 融合图谱知识强化病历特征的方法、装置及存储介质
CN109947891B (zh) 文书解析方法及装置
CN112765993A (zh) 语义解析方法、系统、设备及可读存储介质
CN118350462B (zh) 基于标签向量正交约束的司法关系要素抽取方法及装置
CN116975298B (zh) 一种基于nlp的现代化社会治理调度系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant