CN113657105A - 基于词汇增强的医学实体抽取方法、装置、设备及介质 - Google Patents
基于词汇增强的医学实体抽取方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN113657105A CN113657105A CN202111016541.XA CN202111016541A CN113657105A CN 113657105 A CN113657105 A CN 113657105A CN 202111016541 A CN202111016541 A CN 202111016541A CN 113657105 A CN113657105 A CN 113657105A
- Authority
- CN
- China
- Prior art keywords
- word
- entity extraction
- medical entity
- model
- word vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Databases & Information Systems (AREA)
- Machine Translation (AREA)
Abstract
本申请实施例属于人工智能领域,应用于智慧医疗领域中,涉及一种基于词汇增强的医学实体抽取方法,包括对训练语料数据进行多粒度分词处理,将分词依次输入词向量模得到初始词向量,根据构建的字查询字典标注训练语料数据得到标注语料,利用拼接标注语料与初始词向量得到的增强词向量训练初始医学实体抽取模型,得到中间医学实体抽取模型,评估中间医学实体抽取模型,根据评估结果确定最终的医学实体抽取模型,将测试语料数据输入医学实体抽取模型中,得到医学实体抽取结果。本申请还提供一种基于词汇增强的医学实体抽取装置、设备及介质。此外,本申请还涉及区块链技术,字查询字典可存储于区块链中。本申请提高医学实体识别抽取的准确率。
Description
技术领域
本申请涉及人工智能技术领域和数字医疗技术领域,尤其涉及一种基于词汇增强的医学实体抽取方法、装置、设备及介质。
背景技术
随着医疗产品的发展,人们对于医保的需求也随之增多,伴随而来的,则是产生大量的骗保行为。国家医疗保障局对于骗保行为要求医保局加大打击力度,巩固高压态势。医保部门通过智能手段,针对不同场景进行查处,这需要从大数据的角度建立不同维度的指标体系,精准定位风险。建立完整的指标体系,需要从数据上分析不同场景特征,敏感数据变化,进而识别风险。
但是,随着医疗信息技术的发展,爆炸式涌现出大量的生物医学数据,建立医疗标准数据体系需要针对复杂数据抽取实体特征,而用到的NER(Named Entity Recognition,命名实体识别)技术,通常基于字符的NER要好于基于词汇的方法,但基于字符的NER没有利用词汇信息,而词汇边界对于实体边界起着至关重要的作用,导致命名实体识别准确低。此外,使用BERT模型进行命名实体识别,模型参数较多,线上部署困难,不便于操作。
发明内容
本申请实施例的目的在于提出一种基于词汇增强的医学实体抽取方法、装置、设备及介质,以解决相关技术中实体识别抽取准确率低,线上部署困难,无法满足线上性能的技术问题。
为了解决上述技术问题,本申请实施例提供一种基于词汇增强的医学实体抽取方法,采用了如下所述的技术方案:
获取医学领域的训练语料数据,对所述训练语料数据进行多粒度分词处理,获得分词结果;
按照所述分词结果将分词依次输入词向量模型进行训练,生成与每个所述分词对应的初始词向量;
构建字查询字典,根据所述字查询字典对所述训练语料数据进行标注,得到标注语料;
将所述标注语料与所述初始词向量拼接得到增强词向量,并利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型;
将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果;
确定所述评估结果是否满足预设条件,若所述评估结果不满足预设条件,则对所述初始医学实体抽取模型进行迭代更新,直到所述评估结果满足预设条件,输出最终的医学实体抽取模型;
将测试语料数据输入所述医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
进一步的,所述按照所述分词结果将全部分词输入词向量模型进行训练,生成与每个所述分词对应的初始词向量包括:
将全部分词输入至词向量模型,使用Word2Vec算法将每个所述分词包含的上下文信息转换为词向量,得到与每个所述分词对应的初始词向量。
进一步的,所述将全部分词输入至词向量模型,使用Word2Vec算法将每个所述分词包含的上下文信息转换为词向量,得到与每个所述分词对应的初始词向量包括:
将每个所述分词进行编码处理转换为词汇表向量;
将所述词汇表向量输入到所述词向量模型的Skip-gram层中,根据每个所述分词的上下文信息得到词向量映射表;
基于所述词向量映射表得到每个所述分词对应的初始词向量。
进一步的,所述根据所述字查询字典对所述训练语料数据进行标注,得到标注语料包括:
根据所述训练语料数据中每个字对应的标签,在所述字查询字典中查找各所述标签对应的词语;
将各所述词语进行拼接生成标注预料。
进一步的,所述初始医学实体抽取模型至少包括输入层、Bi-LSTM层、CRF层和输出层,所述利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型包括:
将所述增强词向量输入至所述Bi-LSTM层进行特征提取,获得语义特征向量;
将所述语义特征向量输入所述CRF层进行训练,输出概率最大的标注序列;
根据所述最优标注序列计算损失函数值,基于所述损失函数值调整所述初始医学实体抽取模型的模型参数,得到所述中间医学实体抽取模型。
进一步的,所述将所述增强词向量输入至所述Bi-LSTM层进行特征提取,获得语义特征向量包括:
通过所述Bi-LSTM层的前向层和后向层对所述增强词向量进行特征提取,分别得到前向隐藏层特征和后向隐藏层特征;
将所述前向隐藏层特征和所述后向隐藏层特征按照位置拼接得到隐藏层状态;
根据所述隐藏层状态获得所述语义特征向量。
进一步的,所述将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果包括:
将验证语料数据输入所述中间医学实体抽取模型,输出标注结果;
基于所述标注结果计算出实体抽取评估标准F值,所述F值作为所述评估结果。
为了解决上述技术问题,本申请实施例还提供一种基于词汇增强的医学实体抽取装置,采用了如下所述的技术方案:
分词模块,用于获取医学领域的训练语料数据,对所述训练语料数据进行多粒度分词处理,获得分词结果;
词向量生成模块,用于按照所述分词结果将分词依次输入词向量模型进行训练,生成与每个所述分词对应的初始词向量;
标注模块,用于构建字查询字典,根据所述字查询字典对所述训练语料数据进行标注,得到标注语料;
训练模块,用于将所述标注语料与所述初始词向量拼接得到增强词向量,并利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型;
评估模块,用于将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果;
迭代更新模块,用于确定所述评估结果是否满足预设条件,若所述评估结果不满足预设条件,则对所述初始医学实体抽取模型进行迭代更新,直到所述评估结果满足预设条件,输出最终的医学实体抽取模型;
抽取模块,用于将测试语料数据输入所述医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,采用了如下所述的技术方案:
该计算机设备包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如上所述的基于词汇增强的医学实体抽取方法的步骤。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如上所述的基于词汇增强的医学实体抽取方法的步骤。
与现有技术相比,本申请实施例主要有以下有益效果:
本申请通过获取医学领域的训练语料数据,对训练语料数据进行多粒度分词处理,获得分词结果,按照分词结果将分词依次输入词向量模型进行训练,生成与每个分词对应的初始词向量,构建字查询字典,根据字查询字典对训练语料数据进行标注,得到标注语料,将标注语料与初始词向量拼接得到增强词向量,并利用增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型,对中间医学实体抽取模型中进行评估,得到评估结果,确定评估结果是否满足预设条件,若评估结果不满足预设条件,则对初始医学实体抽取模型进行迭代更新,直到评估结果满足预设条件,输出最终的医学实体抽取模型,将测试语料数据输入医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果;本申请通过对训练语料数据进行多粒度分词处理,可以实现医学领域实体的细粒度刻画,同时,通过词向量模型得到与每个分词对应的初始词向量,初始词向量引入了分词的词汇信息,将根据构建的字查询字典得到的标注语料与初始词向量拼接得到增强词向量,根据增强词向量训练的模型可以更好的识别出实体边界,进一步提高医学实体识别抽取的准确率。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2根据本申请的基于词汇增强的医学实体抽取方法的一个实施例的流程图;
图3是图2中步骤S204的一种具体实施方式的流程图;
图4根据本申请的基于词汇增强的医学实体抽取方法的另一个实施例的流程图;
图5是根据本申请的基于词汇增强的医学实体抽取装置的一个实施例的结构示意图;
图6是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
本申请提供了一种基于词汇增强的医学实体抽取方法,可以应用于如图1所示的系统架构100中,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
需要说明的是,本申请实施例所提供的基于词汇增强的医学实体抽取方法一般由服务器/终端设备执行,相应地,基于词汇增强的医学实体抽取装置一般设置于服务器/终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的基于词汇增强的医学实体抽取方法的一个实施例的流程图,包括以下步骤:
步骤S201,获取医学领域的训练语料数据,对训练语料数据进行多粒度分词处理,获得分词结果。
在获取医学领域的训练语料数据之前,首先获取医学领域的原始数据,原始数据可以从公开的数据集中获取,例如,中文医学信息抽取数据集CMeIE(Chinese MedicalInformation Extraction)、中文糖尿病标注数据集等;也可以从电子病历中获取。数据中的实体包括部位、独立症状、症状描述、程度、药物、手术等。需要说明,部位是由多种组织构成能行使功能的结构单位,例如腹部;独立症状是指患者患病后对机体生理功能异的自身体验和感觉,可独立输出,例如眩晕;症状描述是指患者患病后对机体生理功能异常的自身体验和感觉,同时需与解剖部位联合输出,例如不适,需与腹部组合输出腹部不适;程度为症状程度,例如,不多、稍微、偶尔、微、有时等;药物是用来治疗、预防或促进健康的一种化学物质;手术医生用医疗器械对病人身体进行的切除、缝合等治疗。
对获取到的原始数据进行预处理,包括文本去重、去特殊符号等。将预处理后的原始数据按照一定比例分为训练语料数据、验证语料数据和测试语料数据,比如训练语料数据、验证语料数据和测试语料数据的划分比例为6:2:2。
在本实施例中,对训练语料数据、验证语料数据和测试语料数据进行多粒度分词处理,其中,多粒度分词处理是指对将文本切分为多个不同粒度尺寸大小的子文本;比如,粒度尺寸可以包括字级别、词语级别、短句级别、段落级别、固定双字级别、固定三字级别、固定四字级别,等等。例如,文本为“全国各地医学界专家走出大会堂”,当粒度尺寸为字级别时,文本可被分为“全”“国”“各”“地”“医”“学”“专”“家”“走”“出”“大”“会”“堂”等词语;当粒度尺寸为词语级别时,文本被分为“全国”“各地”“医学界”“专家”“走出”“大会堂”等词语;当粒度为固定双字级别,文本可被分为“全国”“各地”“医学”“界专”“家走”“出大”“会堂”等词语。
在一种可能的实现方式中,原始数据是医学领域的医疗数据,如个人健康档案、处方、检查报告等数据。
步骤S202,按照分词结果将分词依次输入词向量模型进行训练,生成与每个分词对应的初始词向量。
词向量(wordembedding)是将单词从一维空间映射成更低维度的稠密向量,即单词通过向量表示,形成向量空间,将文字信息嵌入到数学空间中,可用作底层输入表示,属于词嵌入层。另外,训练字、词向量的语料要与研究领域数据紧密结合,数据量丰富且全面。
在本实施例中,将全部分词输入至词向量模型,使用Word2Vec算法将每个分词包含的上下文信息转换为词向量,得到与每个分词对应的初始词向量。
由于word2vec算法训练速度快、使用广泛、效果较好,可以采用word2vec算法训练语料数据的字、词向量,字向量用于表征字符序列信息,词向量用于表征词序列信息。其中,word2vec算法训练字、词向量有两种模型可以选择,分别为CBOW模型和Skip-gram模型,其中心思想是一个词的含义可用其周围词来表示。
步骤S203,构建字查询字典,根据字查询字典对训练语料数据进行标注,得到标注语料。
在本实施例中,将获取到医学领域的原始数据进行预处理后,对预处理后的原始数据进行分词,在英文文本中存在天然的分割符,在中文中词语之间没有特殊的符号进行分割,而且中文中以双字词和多字词居多,分词是至关重要的一步,分词的准确与否,它会对后续步骤产生重要的影响,可以采用分词器进行分词,分词器包括结巴中文分词器、Hanlp分词器、foolnltk分词器以及pullword在线分词引擎等。
分词后,对所有的分词结果进行标签序列标注,标注方式包括BIO、BIOE、BIOES和BMES等。本实施例中采用BMES的标注方式进行标注,B表示实体的第一个字符,M表示实体中的中间字符,E表示实体的最后一个字符,S表示单个字符实体。
对每个分词结果进行标注后,构建包含标签标注的字查询字典,例如,“语”这个字在预处理后的原始数据中出现的所有分词结果为“语”,“语言”,“语言学”,“国语”,“英语”,“中国语言”,则会构建包含标签标注的字查询字典Label_Dict为:“语_B:[语言,语言学]”,“语_M:[中国语言]”,“语_E:[国语,英语]”,“语_S:[语]”。在训练及预估的时候,字查询字典作为词汇增强的查询字典。
需要强调的是,为进一步保证字查询字典的私密和安全性,上述字查询字典还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
步骤S204,将标注语料与所述初始词向量拼接得到增强词向量,并利用增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型。
具体的,预构建的初始医学实体抽取模型包括输入层、Bi-LSTM(BidirectionalLSTM,双向长短期记忆神经网络)层、CRF(Conditional Random Fields,条件随机场)层和输出层。其中,输入层是将标注语料与初始词向量拼接得到增强词向量;Bi-LSTM层是以增强词向量为输入,进一步构建上下文信息的高层特征表达;CRF层是输出概率最大的标签序列,从而达到实体识别的目的;输出层,其作用是直接输出预测的实体标签。
在本实施例中,利用增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型的步骤包括:
步骤S301,将增强词向量输入至Bi-LSTM层进行特征提取,获得语义特征向量。
长短时记忆(LongShort-Term Memory network,LSTM)神经网络是一种时间循环神经网络,是为了解决一般的RNN(RecurrentNeuralNetwork,RNN循环神经网络)存在的长期依赖问题而专门设计出来的时间循环神经网络。LSTM中含有LSTM区块(blocks),LSTM区块也被称为智能网络单元,LSTM区块可以记忆不定时间长度的数值,LSTM区块中有一个门限值gate能够决定输入的数据信息input是否重要到需要被记住,以及决定经LSTM输出的数据信息output能不能被输出。LSTM为了最小化训练误差,LSTM的训练采用梯度下降法(Gradient descent),应用时序性倒传递算法,可用来修改LSTM的权重。
单向LSTM的一个劣势在于神经网络只能利用到上文的输入信息,而没有办法得到当前词的下文语义信息,因此,本实施例选用了能够充分利用过去和未来上下文信息的Bi-LSTM神经网络层进行特征提取。
Bi-LSTM层可以自动获取句子特征,对输入的每一句话分别采用顺序与逆序的循环神经网络来得到两个独立的隐藏层表示,然后对这两个隐藏层表示进行一定的计算(拼接或相加),得到一个最终的隐藏层表示,送入输出层进行后续的计算。这种隐藏层表示对句子中的每个单词来说都同时包含了来自上文和下文的语义信息。
步骤S302,将语义特征向量输入CRF层进行训练,输出概率最大的标注序列。
其中,CRF层能够有效地利用句子级的标签信息,为进一步挖掘医疗领域的不同实体之间的关系,设置约束条件确保最终的预测有效,该约束条件能够在训练数据时被CRF层自动学习。
具体地,根据语义特征向量计算出每个分词的标记概率。
CRF层的参数是一个(k+2)次幂的矩阵A,由于要为句子首部和尾部分别添加一个起始状态和一个终止状态,所以需要加2,其中Aij代表从第i个标注位置到第j个标注位置的转移概率,从而使得在为某个位置进行标注时,能够充分利用先前已标注过的信息。假设需要识别实体的句子x表示为(x1,x2…,xn),一个长度等于句子长度的标签序列y为(y1,y2,…,yn),则确定从识别实体对应语句对应的分值如下:
其中,A是转移分数矩阵,Ayi,yi+1表示从标签yi转移到标签yi+1的分数,其中y0和yn分别是句子的开始和结束标签;所以A的纬度为(k+2)*(k+2)(k为标签数);P是Bi-LSTM层输出的语义特征向量,纬度为n*k(k为标签数),Pi,yi表示句子中第i个词对应标签为yi的概率值。
使用softmax激活函数将分值值进行归一化处理,得到标签y的概率,计算公式如下:
其中,y’表示句子x对应的可能的标注序列,也就是说句子对应的每个标注序列都有一个分值还有一个概率,目的是让句子对应的真实标注序列大概率最大。
步骤S303,根据最优标注序列计算损失函数值,基于损失函数值调整初始医学实体抽取模型的模型参数,得到中间医学实体抽取模型。
具体的,设计一个损失函数,以获得损失函数值最小,具体计算公式如下:
最后用维特比viterbi算法来算出最优的标注序列:
根据损失函数值调整模型参数,继续进行迭代训练,模型训练到一定程度,此时,模型的性能达到最优状态,损失函数值无法继续下降,即收敛。而判断收敛的方式只需要计算前后两轮迭代中的损失函数值,若损失函数值仍在变化,则可以将中间医学实体抽取模型作为新一轮训练的初始医学实体抽取模型,继续选择训练数语料据输入至模型中以对模型继续进行迭代训练;若损失函数值没有显著变化,则可认为模型收敛。
步骤S205,将验证语料数据输入中间医学实体抽取模型中进行模型评估,得到评估结果。
为了准确验证医学实体抽取的实验结果,以及对医学实体抽取模型的各项性能进行全面分析,本实施例将使用在机器学习中常用的三个评价指标对实验结果进行测评:准确率P(Precision)、召回率R(Recall)及F值(F-Score)。
需要说明,F值是准确率和召回率的调和平均,充分考虑了准确率和召回率的影响,相当于准确率和准确率的综合评价指标,因此,本实施例采用F值作为模型的主要评价指标。
具体地,将验证语料数据输入中间医学实体抽取模型,输出标注结果,基于标注结果计算出实体抽取评估标准F值,F值作为评估结果,根据F值评估中间医学实体抽取模型。
具体的评估计算方法如下:
其中,F值越高,则说明模型的医学实体抽取越准确。
步骤S206,确定评估结果是否满足预设条件,若评估结果不满足预设条件,则对初始医学实体抽取模型进行迭代更新,直到评估结果满足预设条件,输出最终的医学实体抽取模型。
在本实施例中,可以设置一个预设范围,若F值落入预设范围就可以说明医学实体抽取模型达到测评标准,训练完成,若F值不在预设范围内,就重复执行步骤S204至步骤S206,直到F值落入预设范围;还可以进行迭代更新直到F值不增加或者重复执行步骤S204至步骤S206的次数达到最大次数。
步骤S207,将测试语料数据输入医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
将包含标注信息的测试语料输入医学实体抽取模型中,将输出的医学实体的最优标注序列作为实体抽取结果。
本申请通过对训练语料数据进行多粒度分词处理,可以实现医学领域实体的细粒度刻画,同时,通过词向量模型得到与每个分词对应的初始词向量,初始词向量引入了分词的词汇信息,将根据构建的字查询字典得到的标注语料与初始词向量拼接得到增强词向量,根据增强词向量训练的模型可以更好的识别出实体边界,进一步提高医学实体识别抽取的准确率。
在本实施例的一些可选的实现方式中,参考图4,上述将分词依次输入至词向量模型,使用Word2Vec算法将每个分词包含的上下文信息转换为词向量,得到与每个分词对应的初始词向量的步骤包括:
步骤S401,将每个分词进行编码处理转换为词汇表向量。
在本实施例中,采用One-hot编码(独热编码)对分词进行编码处理。编码前需确定样本空间文字数量,并将文字以One-hot编码形式进行转换。One-hot编码又称一位有效码,是使用N位状态寄存器来对N个状态进行编码,在任意时仅有一位有效。例如,文字的样本空间为3,包含“你”“我”“他”3个字,则对应的One-hot编码为001、010和100。
将编码后的分词进行向量转换,向量转换则是设定嵌入向量的维度,将文字对应的One-hot编码通过Embedding层转化为低维度的稠密向量,最终得到文字的数值向量表示。
步骤S402,将词汇表向量输入到词向量模型的Skip-gram层中,根据每个分词的上下文信息得到词向量映射表。
具体的,Skip-gram层的输入为一个特定词的词向量,而输出为特定词对应的上下文词向量,Skip-gram层的训练过程主要包含输入、映射和输出三个阶段,给定词wt,来预测其上下文wt-2,wt-1,wt+1,wt+2,具体过程如下:
步骤A、将词汇表向量中其中一个分词作为中心词,使用预设大小的滑动窗口捕获中心词的上下文词。
滑动窗口为捕获窗口,用来生成以中心词为中心,长度为滑动窗口大小范围内的上下文词。假设在文本序列中有5个词,[“左”,“下”,“肢”,“疼”,“痛”],滑动窗口大小为skip-window=2,中心词为“肢”,获得与它距离不超过2的上下文词,那么上下文的词即为:“左”、“下”、“疼”、“痛”。
步骤B、对中心词和每个上下文词进行one-hot编码,形成词语矩阵。
将中心词和上下文词进行one-hot编码,每个词语形成S*1的向量,整个词汇表就是S*S的词语矩阵。假设文本序列为[“左”,“下”,“肢”,“疼”,“痛”],那么可以进行如下编码:
左:[1,0,0,0,0]
下:[0,1,0,0,0]
肢:[0,0,1,0,0]
疼:[0,0,0,1,0]
痛:[0,0,0,0,1]
将编码后得到的词向量组成词语矩阵。
步骤C、通过索引映射,将中心词和每个上下文词映射到T维空间,形成映射矩阵。
映射,又被称作嵌入(embedding),用于将分词从原先所属的空间映射到新的多维空间中,也就是把原先词语所在空间嵌入到一个新的空间中去,这样方便后续的向量学习。
具体的,将中心词和每个上下文词映射到T维空间,形成映射矩阵,映射矩阵的形状为S*T,并且映射矩阵中的某列与每个词语一一对应,映射矩阵即为词向量映射表。
步骤S403,基于词向量映射表得到每个分词对应的初始词向量。
词向量映射表中的某列与每个词语一一对应,则从词向量映射表中即可得到每个分词对应的初始词向量。本实施例通过Skip-gram层得到每个分词包含上下文信息的初始词向量,使得得到的词向量更加准确。
在一些可选的实现方式中,上述根据字查询字典对训练语料数据进行标注,得到标注语料的步骤包括:
根据训练语料数据中每个字对应的标签,在字查询字典中查找各标签对应的词语;
将各词语进行拼接生成标注预料。
假设当前字X对应的所有标签X_B,X_M,X_E,X_S,然后根据标签在字查询字典中查找与当前字对应的词语,将查找到的词语对应的词向量集合和当前字的字向量融合。融合的方式为所有标签label对应的词向量进行concat(拼接),如[X,X_B_Mean,X_M_Mean,X_E_Mean,X_S_Mean]。
需要说明,如果一种标签在字查询字典中找到多个词语,则把这种标签下的词向量求平均,如“国药”,“国标”对应的词向量求平均,然后再进行拼接。
本实施例中,通过构建的字查询字典对训练语料数据中每个字进行标注,可以提高标注的准确性。
在本实施例的一些可选的实现方式中,上述将增强词向量输入至Bi-LSTM层进行特征提取,获得语义特征向量的步骤包括:
通过Bi-LSTM层的前向层和后向层对增强词向量进行特征提取,分别得到前向隐藏层特征和后向隐藏层特征;
将前向隐藏层特征和后向隐藏层特征按照位置拼接得到隐藏层状态;
根据隐藏层状态获得语义特征向量。
在进入下一层之前,设置dropout机制来解决过拟合的问题。在设置dropout机制之后,嵌入线性层,将隐状态向量从m维映射为k维,k表示标签数,进而获得自动学习句子特征p,句子特征p即为语义特征向量,表示为(P1,P2,…,Pn)∈Rn×k,可以把Pi∈Rk的每一维Pij都当作将词xi分类到第j个标签的概率值。
本实施例可以充分利用过去和未来上下文信息,提高语义特征向量提取的准确率。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本申请可应用于智慧医疗领域中,从而推动智慧城市的建设。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图5,作为对上述图2所示方法的实现,本申请提供了一种基于词汇增强的医学实体抽取装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例所述的基于词汇增强的医学实体抽取装置500包括:分词模块501、词向量生成模块502、标注模块503、训练模块504、评估模块505、迭代更新模块506以及抽取模块507。其中:
分词模块501用于获取医学领域的训练语料数据,对所述训练语料数据进行多粒度分词处理,获得分词结果;
词向量生成模块502用于按照所述分词结果将分词依次输入词向量模型进行训练,生成与每个所述分词对应的初始词向量;
标注模块503用于构建字查询字典,根据所述字查询字典对所述训练语料数据进行标注,得到标注语料;
训练模块504用于将所述标注语料与所述初始词向量拼接得到增强词向量,并利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型;
评估模块505用于将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果;
迭代更新模块506用于确定所述评估结果是否满足预设条件,若所述评估结果不满足预设条件,则对所述初始医学实体抽取模型进行迭代更新,直到所述评估结果满足预设条件,输出最终的医学实体抽取模型;
抽取模块507用于将测试语料数据输入所述医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
需要强调的是,为进一步保证字查询字典的私密和安全性,上述字查询字典还可以存储于一区块链的节点中。
上述基于词汇增强的医学实体抽取装置,通过对训练语料数据进行多粒度分词处理,可以实现医学领域实体的细粒度刻画,同时,通过词向量模型得到与每个分词对应的初始词向量,初始词向量引入了分词的词汇信息,将根据构建的字查询字典得到的标注语料与初始词向量拼接得到增强词向量,根据增强词向量训练的模型可以更好的识别出实体边界,进一步提高医学实体识别抽取的准确率。
在本实施例中,词向量生成模块502进一步用于将全部分词输入至词向量模型,使用Word2Vec算法将每个所述分词包含的上下文信息转换为词向量,得到与每个所述分词对应的初始词向量。
在本实施例的一些可选的实现方式中,词向量生成模块502还用于:
将每个所述分词进行编码处理转换为词汇表向量;
将所述词汇表向量输入到所述词向量模型的Skip-gram层中,根据每个所述分词的上下文信息得到词向量映射表;
基于所述词向量映射表得到每个所述分词对应的初始词向量。
本实施例通过Skip-gram层得到每个分词包含上下文信息的初始词向量,使得得到的词向量更加准确。
在本实施例的一些可选的实现方式中,标注模块503进一步用于:
根据所述训练语料数据中每个字对应的标签,在所述字查询字典中查找各所述标签对应的词语;
将各所述词语进行拼接生成标注预料。
本实施例中,通过构建的字查询字典对训练语料数据中每个字进行标注,可以提高标注的准确性。
在本实施例中,训练模块504包括特征提取子模块、概率输出子模块和调整子模块,特征提取子模块用于将所述增强词向量输入至所述Bi-LSTM层进行特征提取,获得语义特征向量;概率输出子模块用于将所述语义特征向量输入所述CRF层进行训练,输出概率最大的标注序列;调整子模块用于根据所述最优标注序列计算损失函数值,基于所述损失函数值调整所述初始医学实体抽取模型的模型参数,得到所述中间医学实体抽取模型。
在本实施例中,特征提取子模块进一步用于:
通过所述Bi-LSTM层的前向层和后向层对所述增强词向量进行特征提取,分别得到前向隐藏层特征和后向隐藏层特征;
将所述前向隐藏层特征和所述后向隐藏层特征按照位置拼接得到隐藏层状态;
根据所述隐藏层状态获得所述语义特征向量。
本实施例可以充分利用过去和未来上下文信息,提高语义特征向量提取的准确率。
在本实施例中,评估模块505进一步用于:
将验证语料数据输入所述中间医学实体抽取模型,输出标注结果;
基于所述标注结果计算出实体抽取评估标准F值,根据所述F值评估所述中间医学实体抽取模型。
本实施例可以综合评价医学实体抽取模型的医学实体抽取效果。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图6,图6为本实施例计算机设备基本结构框图。
所述计算机设备6包括通过系统总线相互通信连接存储器61、处理器62、网络接口63。需要指出的是,图中仅示出了具有组件61-63的计算机设备6,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器61至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器61可以是所述计算机设备6的内部存储单元,例如该计算机设备6的硬盘或内存。在另一些实施例中,所述存储器61也可以是所述计算机设备6的外部存储设备,例如该计算机设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(FlashCard)等。当然,所述存储器61还可以既包括所述计算机设备6的内部存储单元也包括其外部存储设备。本实施例中,所述存储器61通常用于存储安装于所述计算机设备6的操作系统和各类应用软件,例如基于词汇增强的医学实体抽取方法的计算机可读指令等。此外,所述存储器61还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器62在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器62通常用于控制所述计算机设备6的总体操作。本实施例中,所述处理器62用于运行所述存储器61中存储的计算机可读指令或者处理数据,例如运行所述基于词汇增强的医学实体抽取方法的计算机可读指令。
所述网络接口63可包括无线网络接口或有线网络接口,该网络接口63通常用于在所述计算机设备6与其他电子设备之间建立通信连接。
本实施例通过处理器执行存储在存储器的计算机可读指令时实现如上述实施例基于词汇增强的医学实体抽取方法的步骤,通过对训练语料数据进行多粒度分词处理,可以实现医学领域实体的细粒度刻画,同时,通过词向量模型得到与每个分词对应的初始词向量,初始词向量引入了分词的词汇信息,将根据构建的字查询字典得到的标注语料与初始词向量拼接得到增强词向量,根据增强词向量训练的模型可以更好的识别出实体边界,进一步提高医学实体识别抽取的准确率。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于词汇增强的医学实体抽取方法的步骤,通过对训练语料数据进行多粒度分词处理,可以实现医学领域实体的细粒度刻画,同时,通过词向量模型得到与每个分词对应的初始词向量,初始词向量引入了分词的词汇信息,将根据构建的字查询字典得到的标注语料与初始词向量拼接得到增强词向量,根据增强词向量训练的模型可以更好的识别出实体边界,进一步提高医学实体识别抽取的准确率。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (10)
1.一种基于词汇增强的医学实体抽取方法,其特征在于,包括下述步骤:
获取医学领域的训练语料数据,对所述训练语料数据进行多粒度分词处理,获得分词结果;
按照所述分词结果将分词依次输入词向量模型进行训练,生成与每个所述分词对应的初始词向量;
构建字查询字典,根据所述字查询字典对所述训练语料数据进行标注,得到标注语料;
将所述标注语料与所述初始词向量拼接得到增强词向量,并利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型;
将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果;
确定所述评估结果是否满足预设条件,若所述评估结果不满足预设条件,则对所述初始医学实体抽取模型进行迭代更新,直到所述评估结果满足预设条件,输出最终的医学实体抽取模型;
将测试语料数据输入所述医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
2.根据权利要求1所述的基于词汇增强的医学实体抽取方法,其特征在于,所述按照所述分词结果将全部分词输入词向量模型进行训练,生成与每个所述分词对应的初始词向量包括:
将全部分词输入至词向量模型,使用Word2Vec算法将每个所述分词包含的上下文信息转换为词向量,得到与每个所述分词对应的初始词向量。
3.根据权利要求2所述的基于词汇增强的医学实体抽取方法,其特征在于,所述将全部分词输入至词向量模型,使用Word2Vec算法将每个所述分词包含的上下文信息转换为词向量,得到与每个所述分词对应的初始词向量包括:
将每个所述分词进行编码处理转换为词汇表向量;
将所述词汇表向量输入到所述词向量模型的Skip-gram层中,根据每个所述分词的上下文信息得到词向量映射表;
基于所述词向量映射表得到每个所述分词对应的初始词向量。
4.根据权利要求1所述的基于词汇增强的医学实体抽取方法,其特征在于,所述根据所述字查询字典对所述训练语料数据进行标注,得到标注语料包括:
根据所述训练语料数据中每个字对应的标签,在所述字查询字典中查找各所述标签对应的词语;
将各所述词语进行拼接生成标注预料。
5.根据权利要求1所述的基于词汇增强的医学实体抽取方法,其特征在于,所述初始医学实体抽取模型至少包括输入层、Bi-LSTM层、CRF层和输出层,所述利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型包括:
将所述增强词向量输入至所述Bi-LSTM层进行特征提取,获得语义特征向量;
将所述语义特征向量输入所述CRF层进行训练,输出概率最大的标注序列;
根据所述最优标注序列计算损失函数值,基于所述损失函数值调整所述初始医学实体抽取模型的模型参数,得到所述中间医学实体抽取模型。
6.根据权利要求5所述的基于词汇增强的医学实体抽取方法,其特征在于,所述将所述增强词向量输入至所述Bi-LSTM层进行特征提取,获得语义特征向量包括:
通过所述Bi-LSTM层的前向层和后向层对所述增强词向量进行特征提取,分别得到前向隐藏层特征和后向隐藏层特征;
将所述前向隐藏层特征和所述后向隐藏层特征按照位置拼接得到隐藏层状态;
根据所述隐藏层状态获得所述语义特征向量。
7.根据权利要求1所述的基于词汇增强的医学实体抽取方法,其特征在于,所述将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果包括:
将验证语料数据输入所述中间医学实体抽取模型,输出标注结果;
基于所述标注结果计算出实体抽取评估标准F值,所述F值作为所述评估结果。
8.一种基于词汇增强的医学实体抽取装置,其特征在于,包括:
分词模块,用于获取医学领域的训练语料数据,对所述训练语料数据进行多粒度分词处理,获得分词结果;
词向量生成模块,用于按照所述分词结果将分词依次输入词向量模型进行训练,生成与每个所述分词对应的初始词向量;
标注模块,用于构建字查询字典,根据所述字查询字典对所述训练语料数据进行标注,得到标注语料;
训练模块,用于将所述标注语料与所述初始词向量拼接得到增强词向量,并利用所述增强词向量训练预构建的初始医学实体抽取模型,得到中间医学实体抽取模型;
评估模块,用于将验证语料数据输入所述中间医学实体抽取模型中进行模型评估,得到评估结果;
迭代更新模块,用于确定所述评估结果是否满足预设条件,若所述评估结果不满足预设条件,则对所述初始医学实体抽取模型进行迭代更新,直到所述评估结果满足预设条件,输出最终的医学实体抽取模型;
抽取模块,用于将测试语料数据输入所述医学实体抽取模型中,得到医学实体的最优标注序列作为实体抽取结果。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于词汇增强的医学实体抽取方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于词汇增强的医学实体抽取方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111016541.XA CN113657105A (zh) | 2021-08-31 | 2021-08-31 | 基于词汇增强的医学实体抽取方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111016541.XA CN113657105A (zh) | 2021-08-31 | 2021-08-31 | 基于词汇增强的医学实体抽取方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113657105A true CN113657105A (zh) | 2021-11-16 |
Family
ID=78481594
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111016541.XA Pending CN113657105A (zh) | 2021-08-31 | 2021-08-31 | 基于词汇增强的医学实体抽取方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113657105A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115169326A (zh) * | 2022-04-15 | 2022-10-11 | 山西长河科技股份有限公司 | 一种中文关系抽取方法、装置、终端及存储介质 |
CN115295134A (zh) * | 2022-09-30 | 2022-11-04 | 北方健康医疗大数据科技有限公司 | 医学模型评价方法、装置和电子设备 |
CN116737745A (zh) * | 2023-08-16 | 2023-09-12 | 杭州州力数据科技有限公司 | 一种更新供应链网络图中实体向量表示的方法及装置 |
CN116894436A (zh) * | 2023-09-06 | 2023-10-17 | 神州医疗科技股份有限公司 | 基于医学命名实体识别的数据增强方法及系统 |
-
2021
- 2021-08-31 CN CN202111016541.XA patent/CN113657105A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115169326A (zh) * | 2022-04-15 | 2022-10-11 | 山西长河科技股份有限公司 | 一种中文关系抽取方法、装置、终端及存储介质 |
CN115295134A (zh) * | 2022-09-30 | 2022-11-04 | 北方健康医疗大数据科技有限公司 | 医学模型评价方法、装置和电子设备 |
CN116737745A (zh) * | 2023-08-16 | 2023-09-12 | 杭州州力数据科技有限公司 | 一种更新供应链网络图中实体向量表示的方法及装置 |
CN116737745B (zh) * | 2023-08-16 | 2023-10-31 | 杭州州力数据科技有限公司 | 一种更新供应链网络图中实体向量表示的方法及装置 |
CN116894436A (zh) * | 2023-09-06 | 2023-10-17 | 神州医疗科技股份有限公司 | 基于医学命名实体识别的数据增强方法及系统 |
CN116894436B (zh) * | 2023-09-06 | 2023-12-15 | 神州医疗科技股份有限公司 | 基于医学命名实体识别的数据增强方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111090987B (zh) | 用于输出信息的方法和装置 | |
CN107977361B (zh) | 基于深度语义信息表示的中文临床医疗实体识别方法 | |
CN107679039B (zh) | 用于确定语句意图的方法和装置 | |
CN110705206B (zh) | 一种文本信息的处理方法及相关装置 | |
CN111026861B (zh) | 文本摘要的生成方法、训练方法、装置、设备及介质 | |
CN113657105A (zh) | 基于词汇增强的医学实体抽取方法、装置、设备及介质 | |
CN112101041B (zh) | 基于语义相似度的实体关系抽取方法、装置、设备及介质 | |
CN111858940B (zh) | 一种基于多头注意力的法律案例相似度计算方法及系统 | |
CN112287069B (zh) | 基于语音语义的信息检索方法、装置及计算机设备 | |
CN112100406B (zh) | 数据处理方法、装置、设备以及介质 | |
CN110852106A (zh) | 基于人工智能的命名实体处理方法、装置及电子设备 | |
CN114676234A (zh) | 一种模型训练方法及相关设备 | |
CN111881292B (zh) | 一种文本分类方法及装置 | |
CN113707299A (zh) | 基于问诊会话的辅助诊断方法、装置及计算机设备 | |
WO2021082086A1 (zh) | 机器阅读方法、系统、装置及存储介质 | |
CN113204611A (zh) | 建立阅读理解模型的方法、阅读理解方法及对应装置 | |
CN114897060B (zh) | 样本分类模型的训练方法和装置、样本分类方法和装置 | |
CN111444715A (zh) | 实体关系识别方法、装置、计算机设备和存储介质 | |
CN112085091B (zh) | 基于人工智能的短文本匹配方法、装置、设备及存储介质 | |
CN112614559A (zh) | 病历文本处理方法、装置、计算机设备和存储介质 | |
CN113505601A (zh) | 一种正负样本对构造方法、装置、计算机设备及存储介质 | |
CN111145914B (zh) | 一种确定肺癌临床病种库文本实体的方法及装置 | |
US11036996B2 (en) | Method and apparatus for determining (raw) video materials for news | |
CN113723077B (zh) | 基于双向表征模型的句向量生成方法、装置及计算机设备 | |
CN114708976A (zh) | 辅助诊断技术的方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20220525 Address after: 518000 China Aviation Center 2901, No. 1018, Huafu Road, Huahang community, Huaqiang North Street, Futian District, Shenzhen, Guangdong Province Applicant after: Shenzhen Ping An medical and Health Technology Service Co.,Ltd. Address before: Room 12G, Area H, 666 Beijing East Road, Huangpu District, Shanghai 200001 Applicant before: PING AN MEDICAL AND HEALTHCARE MANAGEMENT Co.,Ltd. |
|
TA01 | Transfer of patent application right |