WO2023092719A1 - 病历数据的信息抽取方法、终端设备及可读存储介质 - Google Patents

病历数据的信息抽取方法、终端设备及可读存储介质 Download PDF

Info

Publication number
WO2023092719A1
WO2023092719A1 PCT/CN2021/137931 CN2021137931W WO2023092719A1 WO 2023092719 A1 WO2023092719 A1 WO 2023092719A1 CN 2021137931 W CN2021137931 W CN 2021137931W WO 2023092719 A1 WO2023092719 A1 WO 2023092719A1
Authority
WO
WIPO (PCT)
Prior art keywords
entity
subject
medical record
relationship
entity objects
Prior art date
Application number
PCT/CN2021/137931
Other languages
English (en)
French (fr)
Inventor
张迎翔
廖祥云
王琼
王平安
Original Assignee
中国科学院深圳先进技术研究院
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 中国科学院深圳先进技术研究院 filed Critical 中国科学院深圳先进技术研究院
Publication of WO2023092719A1 publication Critical patent/WO2023092719A1/zh

Links

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Definitions

  • the present application belongs to the technical field of data processing, and in particular relates to an information extraction method for medical record data, a terminal device, and a computer-readable storage medium.
  • entity recognition has errors in Chinese word segmentation.
  • Character-based entity recognition methods are usually better than vocabulary-based entity recognition methods, which can avoid errors in word segmentation.
  • character-based entity recognition methods are prone to loss of lexical information in the text, resulting in entity The recognition accuracy is low.
  • the current entity relationship extraction relies heavily on the results of entity extraction, which is prone to the problem of error accumulation, resulting in low accuracy of information extraction.
  • the current information extraction of medical record data has the problem of low extraction accuracy.
  • the embodiments of the present application provide an information extraction method for medical record data, a terminal device, and a computer-readable storage medium to solve the problem of low extraction accuracy in the current information extraction of medical record data.
  • the embodiment of the present application provides an information extraction method for medical record data, including:
  • the subject object is randomly extracted from the entity object, and the object object corresponding to the subject object and the relationship between the subject object and the object object are extracted based on the subject object, until traversing All entity objects, get the extraction results of all entity objects, including:
  • the object object as the subject object, repeat the operation of predicting the object object corresponding to the subject object and the relationship between the subject object and the object object through the ergodic relationship extraction model until the extraction results of all entity objects are obtained.
  • the embodiment of the present application provides a terminal device, including:
  • the entity recognition module is used to identify all entity objects from the medical record statement, and mark all the entity objects through position coding;
  • an embodiment of the present application provides a computer-readable storage medium, the computer-readable storage medium stores a computer program, and when the computer program is executed by a processor, any operable solution in the first aspect or the first aspect can be implemented. method as described in the selection method.
  • an embodiment of the present application provides a computer program product, which, when the computer program product is run on a terminal device, causes the terminal device to execute the method described in the first aspect or any optional manner of the first aspect.
  • Fig. 4 is a schematic flowchart of a method for extracting information from medical record data provided by another embodiment of the present application.
  • FIG. 6 is a schematic structural diagram of a terminal device provided in an embodiment of the present application.
  • references to “one embodiment” or “some embodiments” or the like described in the specification of the present application mean that a particular feature, structure or characteristic described in connection with the embodiment is included in one or more embodiments of the present application .
  • appearances of the phrases “in one embodiment,” “in some embodiments,” “in other embodiments,” “in other embodiments,” etc. in various places in this specification are not necessarily All refer to the same embodiment, but mean “one or more but not all embodiments” unless specifically stated otherwise.
  • the terms “including”, “comprising”, “having” and variations thereof mean “including but not limited to”, unless specifically stated otherwise.
  • the embodiment of the present application can specifically use the FT-BERT language representation model for entity recognition, wherein the FT-BERT language representation model is obtained by pre-training the BERT model on an unlabeled Chinese clinical corpus and can be applied A neural network model that can leverage unlabeled domain-specific knowledge.
  • start position index is 1 and the end position index is 1, it means that the vocabulary is an entity object, and the attributes are related to the start position index and the end position index.
  • start position index is 1
  • end position index is 1
  • the rest of the positions are all 0.
  • randomly extracting an entity object from multiple entity objects as the main object can also use the above-mentioned ergodic relationship extraction model.
  • the above-mentioned information extraction method for medical record data may further include the following steps:
  • the extraction results can be supervised based on remote supervision.
  • the above remote supervision can form a knowledge base by combining the triples in the training set.
  • search through the above knowledge base to get some candidate triples of the medical record sentence, and then based on the candidate triples as features, pass them into the above ergodic relationship extraction model.
  • the triplet of the current training sample itself must be excluded when constructing the remote supervision feature, that is, only the triplets of other samples can be used to generate the remote Supervise the results, so as to effectively improve the accuracy of the extraction results.
  • the above-mentioned medical record data may be an electronic medical record text, and medical record sentences are segmented based on punctuation marks in the electronic medical record text, specifically, segmentation may be based on ".”.
  • the entity identification module 61 is used to identify all entity objects from the medical record statement, and mark all the entity objects by position coding.
  • the entity recognition module 61 is specifically used for:
  • the above-mentioned relationship extraction module 62 is specifically used for:
  • the object object as the subject object, repeat the operation of predicting the object object corresponding to the subject object and the relationship between the subject object and the object object through the ergodic relationship extraction model until the extraction results of all entity objects are obtained.
  • the above-mentioned ergodic relation extraction model includes a first multi-head attention mechanism layer, a second multi-head attention mechanism layer, a first normalization layer, a feed-forward neural network, a point cloud dynamic graph convolutional neural network, and a second multi-head attention mechanism layer. Two homogenization layers.
  • the above-mentioned terminal device 60 may also include a remote supervision module and a sentence segmentation module, wherein:
  • the sentence segmentation module is used to segment the medical record sentences according to the medical record data.
  • Fig. 7 is a schematic structural diagram of a terminal device provided by another embodiment of the present application.
  • the terminal device 7 provided by this embodiment includes: a processor 70, a memory 71, and a computer program 72 stored in the memory 71 and operable on the processor 70, such as medical record data information Extraction procedure.
  • the processor 70 executes the computer program 72, it realizes the steps in the above embodiment of the information extraction method for each medical record data, such as S11-S12 shown in FIG. 1 .
  • the processor 70 executes the computer program 72, it realizes the functions of the modules/units in the above terminal device embodiments, for example, the functions of the units 61-62 shown in FIG. 6 .
  • the so-called processor 70 can be a central processing unit (Central Processing Unit, CPU), and can also be other general-purpose processors, digital signal processors (Digital Signal Processor, DSP), application specific integrated circuits (Application Specific Integrated Circuit, ASIC), off-the-shelf programmable gate array (Field-Programmable Gate Array, FPGA) or other programmable logic devices, discrete gate or transistor logic devices, discrete hardware components, etc.
  • a general-purpose processor may be a microprocessor, or the processor may be any conventional processor, or the like.
  • FIG. 8 is a schematic structural diagram of a computer-readable storage medium provided by an embodiment of the present application. As shown in FIG. During execution, the information extraction method of the above medical record data can be realized.
  • An embodiment of the present application provides a computer program product.
  • the terminal device implements the information extraction method for the above-mentioned medical record data when executed.
  • Module completion means that the internal structure of the terminal device is divided into different functional units or modules, so as to complete all or part of the functions described above.
  • Each functional unit and module in the embodiment may be integrated into one processing unit, or each unit may exist separately physically, or two or more units may be integrated into one unit, and the above-mentioned integrated units may adopt hardware It can also be implemented in the form of software functional units.

Abstract

本申请适用于数据处理技术领域，提供了一种医疗数据的信息抽取方法、终端设备及计算机可读存储介质，包括：从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象；从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。采用基于字符方式进行实体对象识别，且在字符基础上引入词汇信息，通过位置指针标注出每个实体对象，利用层叠式指针标注作为基本结构，能够解决实体对存在多种关系和实体重叠的问题，有效提升中文实体对象识别的性能，提高病历数据的信息抽取准确率。

Description

病历数据的信息抽取方法、终端设备及可读存储介质 技术领域
本申请属于数据处理技术领域，尤其涉及一种病历数据的信息抽取方法、终端设备及计算机可读存储介质。
 背景技术
以电子病历数据为代表的临床医疗数据的处理和结构化一直都是医疗信息化发展的一大难点。在医疗信息化领域中，信息抽取是病历解析和结构化的重要步骤，其中实体识别和实体关系抽取是信息抽取的核心工作。
其中，实体识别由于中文分词存在误差，基于字符的实体识别方法通常优于基于词汇的实体识别方法，能够避免分词时产生错误，然而基于字符的实体识别方法容易损失文本中的词汇信息，导致实体识别准确度低。而目前实体关系抽取又严重依赖于实体抽取的结果，容易出现误差累计的问题，导致信息抽取的准确率低。
 技术问题
综上可知，目前的病历数据的信息抽取存在抽取准确率低的问题。
 技术解决方案
有鉴于此，本申请实施例提供了一种病历数据的信息抽取方法、终端设备及计算机可读存储介质，以解决目前的病历数据的信息抽取存在抽取准确率低的问题。
第一方面，本申请实施例提供一种病历数据的信息抽取方法，包括：
从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象；
从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
可选的，所述从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象，包括：
为每个字符构建头位置编码和尾位置编码；
将标注了头位置编码和尾位置编码的病历语句输入到语言表征模型中进行实体识别，确定出所述病历语句中的全部实体对象。
可选的，所述从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果，包括：
从所述实体对象中随机抽取出主体对象；
通过遍历式关系抽取模型抽取出所述主体对象对应的客体对象；
根据所述主体对象和所述客体对象预测所述主体对象与所述客体对象的关系；
将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
可选的，所述从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果，包括：
从所述实体对象中随机抽取出主体对象；
通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系；
将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
可选的，所述遍历式关系抽取模型包括第一多头注意力机制层、第二多头注意力机制层、第一均一化层、前馈神经网络、点云动态图卷积神经网络和第二均一化层。
可选地，从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果之后，还包括：基于远程监督对抽取结果进行监督。
可选地，在从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象之前，还包括：根据病历数据分割出病历语句。
第二方面，本申请实施例提供一种终端设备，包括：
实体识别模块，用于从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象；
关系抽取模块，用于从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
第三方面，本申请实施例提供一种终端设备，所述终端设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面或第一方面的任意可选方式所述的方法。
第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面或第一方面的任意可选方式所述的方法。
第五方面，本申请实施例提供一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行上述第一方面或第一方面的任意可选方式所述的方法。
 有益效果
实施本申请实施例提供的一种病历数据的信息抽取方法及终端设备、计算机可读存储介质及计算机程序产品具有以下有益效果：
采用基于字符方式进行实体对象识别，且在字符基础上引入词汇信息，通过位置指针标注出每个实体对象，利用层叠式指针标注作为基本结构，能够解决实体对存在多种关系和实体重叠的问题，有效提升中文实体对象识别的性能，并采用基于遍历方式的主语感知联合方案进行关系抽取（即通过随机抽取主体对象，并预测对应的客体对象和两者之间的关系），能够有效降低错误率和复杂度，提高抽取准确率，解决了目前的病历数据的信息抽取存在抽取准确率低的问题。
 附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种病历数据的信息抽取方法的示意性流程图；
图2是本申请实施例提供一种实体对象识别的过程示意图；
图3是本申请实施例提供的一种遍历式关系抽取模型的架构示意图；
图4是本申请另一实施例提供的一种病历数据的信息抽取方法的示意性流程图；
图5是本申请实施例提供的病历数据的信息抽取方法的场景示意图；
图6是本申请实施例提供的一种终端设备的结构示意图；
图7是本申请另一实施例提供的一种终端设备的结构示意图；
图8是本申请实施例提供的一种计算机可读存储介质的结构示意图。
 本发明的实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
还应当理解，在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
需要说明的是，本申请实施例提到的病历数据主要是指电子病历数据，以中文病历文本为处理对象，目的在于从中文病历文本中抽取出病历文本中包含的实体对象以及实体对象之间的关系，需要说明的是，病历文本中包含的实体对象包括但不限于疾病、类型、发病部位、检查、治疗等。上述实体对象之间的关系包括但不限于病因、药物、治疗方法、发病部位等多种关系。示例性的，病历文本为“恶性肿瘤化疗可影响口腔黏膜引发口腔黏膜炎”，其中，“恶性肿瘤”、“口腔黏膜”、“口腔黏膜炎”都是该病历文本中的实体对象；而“口腔黏膜”与“口腔黏膜炎”的关系可以是发病部位的关系。
目前实体识别中可以基于字符的NER系统来识别出病历语句中的实体对象，然而NER系统没有关注词汇信息，容易导致识别出错。且目前实体关系抽取通常包括流水式抽取和联合抽取两大类，流水式关系抽取将关系抽取分为实体识别和关系预测两个部分，这种抽取方式严重依赖实体识别的结果，容易出现累计误差，同时也没有考虑两个部分之间的关联性，会将冗余信息带入关系抽取的过程中，导致错误率高的问题，而联合关系抽取存在实体重叠、实体关系非单一等问题。
为了解决上述问题，本申请实施例提出了一种病历数据的信息抽取方法，采用基于字符方式进行实体对象识别，且在字符基础上引入词汇信息，通过位置指针标注出每个实体对象，利用层叠式指针标注作为基本结构，能够解决实体对存在多种关系和实体重叠的问题，有效提升中文实体对象识别的性能，并采用基于遍历方式的主语感知联合方案进行关系抽取（即通过随机抽取主体对象，并预测对应的客体对象和两者之间的关系），能够有效降低错误率和复杂度，提高抽取准确率，解决了目前的病历数据的信息抽取存在抽取准确率低的问题。
以下将对本申请实施例提供的病历数据的信息抽取方法、终端设备及计算机可读存储介质进行详细的说明：
请参阅图1，图1是本申请实施例提供的一种病历数据的信息抽取方法的示意性流程图。在本申请实施例中，上述病历数据的信息抽取方法的执行主体可以是终端设备。上述终端设备包括但不限于手机、平板电脑、台式电脑、服务器等具有计算能力的设备。
具体地，如图1所示，上述病历数据的信息抽取方法可以包括S11~S12，详述如下：
S11：从病历语句中识别出全部实体对象，并通过位置编码标注所有实体对象。
在本申请实施例中，通过在每句病历语句的每个字符的首尾增加该句文本的词汇位置，即为每个字符和每个词汇都构建头位置编码和尾位置编码，然后根据每个字符的头位置编码和尾位置编码就能确定出与之匹配的词汇的头位置编码和尾位置编码。基于头位置编码和尾位置编码确定每个字符和每个词汇的位置，得到每个字符与相应词汇的交互关系，能够有效避免实体对象重复引入的问题。
示例性的，如图2所示，字符“急”可以匹配词汇“急性”；字符“支”可以匹配“支气管”和“支气管炎”这两个词汇。字符“急”的头位置编码为1，尾位置编码为1；字符“性”的头位置编码为2，尾位置编码为2，相应的词汇“急性”的头位置编码为1，尾位置编码为2。字符“支”的头位置编码为3，尾位置编码也为3；字符“气”的头位置编码为4，尾位置编码也为4；字符“管”的头位置编码为5，尾位置编码也为5；“炎”的头位置编码为6，尾位置编码也为6。因此词汇“支气管”的头位置编码为3，尾位置编码为5；词汇“支气管炎”的头位置编码为3，尾位置编码为6。
在本申请实施例中，在对病历语句中的每个字符进行位置编码以及确定了各个词汇的相对位置编码后，可以基于语言表征模型进行实体识别，通过语言表征模型识别出每句病历语句中的实体对象。
在本申请实施例中，可以基于BERT（Bidirectional Encoder Representation from Transformers）语言表征模型来实现实体识别，需要说明的是，BERT语言表征模型是一个预训练的语言表征模型，它不再像以往一样采用传统的单向语言模型或者把两个单向语言模型进行浅层拼接的方法进行预训练，而是采用新的masked language model（MLM），以致能生成深度的双向语言表征。需要说明的是，本申请实施例还可以使用其他类型的语言表征模型来实现实体识别，例如XLNet模型、REALM模型等。
还需要说明的是，识别出来的实体对象同样基于位置编码进行区分，避免实体对象重复引入的问题。
需要说明的是，本申请实施例具体可以使用FT-BERT语言表征模型来进行实体识别，其中，FT-BERT语言表征模型是通过在未标记的中文临床语料库上预先训练BERT模型得到的可以应用的神经网络模型，该模型可以利用未标记的领域特定知识。
请继续参阅图2，经过对病历语句的每个字符进行指针标注后，输入到FT-BERT语言表征模型中进行处理后，就可以输入实体对象的识别结果，例如识别到“支气管炎”为疾病，“急性”为类型，“支气管”为发病位置等。
在识别实体对象时，开始位置指标为1，结束位置指标为1则表示该词汇为实体对象，且属性与开始位置指标和结束位置指标相关。例如“支气管炎”对应的是疾病，且开始位置指标为1的位置是字符“支”所在的位置，结束位置指标为1的位置是字符“炎”所在的位置，其余位置均为0。
基于此，在本申请一实施例中，上述S11可以包括以下步骤：
为每个字符构建头位置编码和尾位置编码；
将标注了头位置编码和尾位置编码的病历语句输入到语言表征模型中进行实体识别，确定出所述病历语句中的全部实体对象。
S12：从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
在本申请实施例中，基于已标注的实体对象，从多个实体对象中随机抽取出一个实体对象作为主体对象，然后经过遍历式关系抽取模型抽取出该主体对象对应的客体对象，然后根据主体对象和客体对象预测出主体对象和客体对象的关系，组成三元组（三元组即抽取结果）。通过主体对象先预测出对应的客体对象，再将客体对象作为主体对象进一步预测出下一个客体对象，依次类推，直至标注结束。
需要说明的是，随多个实体对象中随机抽取出一个实体对象作为主体对象也可以通过上述遍历式关系抽取模型。
需要说明该的是，上述遍历式关系抽取模型还可以包括S11中所述的语言表征模型，即将语言表征模型嵌入到上述遍历式关系抽取模型中，通过该遍历式关系抽取模型抽取出实体对象、对应的客体对象以及实体对象（主体对象）与客体对象的关系。
在实际应用中，可以随机抽取一个实体对象作为主体对象，然后直接预测出其对应的客体对象以及主体对象与客体对象的关系，组成三元组。即将对应的客体对象以及主体对象与客体对象的关系作为预测对象合并预测，而且在完成一个主体对象的预测后，本申请实施例还会基于遍历式的主语感知确定出每个实体对象对应的客体对象以及主体对象与客体对象的关系。上述遍历式的主语感知方式可以先随机抽取一个实体对象作为主体对象，然后预测其对应的客体对象，再输入主体对象和客体对象预测出主体对象与客体对象的关系。
在本申请一实施例中，上述遍历关系抽取可以基于遍历式关系抽取模型来实现，上述遍历式关系抽取模型可以基于已有的关系抽取神经网络来实现，只是增加了遍历的过程。
在本申请一实施例中，请参阅图3，图3示出了本申请实施例提供的一种遍历式关系抽取模型的架构示意图。如图3所示，上述遍历式关系抽取模型包括第一多头注意力机制层（Multi-Head A       ttention1）、第二多头注意力机制层（Multi-Head A ttention2）、第一均一化层（Add&Norm1）、前馈神经网络、点云动态图卷积神经网络（DGCNN）和第二均一化层（Add&Norm2）。
在本申请实施例中，通过两个多头注意力机制层，将第一多头注意力机制层和第二多头注意力机制层并行连接，使得提取到的底层特征能够注意到更全面的位置信息、语法信息和生僻字。并在前馈神经网络之后增加点云动态图卷积神经网络，增加了膨胀宽度，扩大了感受视野，使得在进行卷积操作时会跳过膨胀宽度中间的数据，从而使得同样大小的卷积核能够获得更广的输入矩阵数据，提高处理精度。
请参阅图4，在本申请一实施例中，上述病历数据的信息抽取方法还可以包括以下步骤：
S13：基于远程监督对抽取结果进行监督。
在本申请实施例中，为了提高关系抽取的准确率，可以基于远程监督对抽取结果进行监督，上述远程监督可以通过将训练集中的三元组组成知识库，在对新的病历语句进行处理时，通过上述知识库进行搜索，得到该病历语句的一些候选三元组，再基于候选三元组作为特征传入上述遍历式关系抽取模型中。首先，将所有远程监督得到的实体对象构成一个跟标注结构类似的0/1向量，然后拼接到编码向量序列，再进行主体对象的预测；然后将所有远程监督得到的客体对象及对应的关系也构成一个跟标注结构类似的0/1向量，拼接到编码向量序列后再进行客体对象和对应关系的预测，进而实现对抽取结果的监督。
需要说明的是，在对遍历式关系抽取模型进行训练的时候，构建远程监督特征时要先排除当前训练样本自身的三元组，即只能借助其他样本的三元组来生成当前样本的远程监督结果，这样才能有效地提高抽取结果的准确性。
在本申请另一实施例中，还可以基于条件层标准化结构对该遍历式关系抽取模型的生成行为进行调整。需要说明的是，基于条件层标准化结构对模型的生成行为进行调整的过程可以参见已有的Conditional Layer Normalization来实现，本申请对此不加以赘述。
为了进一步描述本申请实施例提供的病历数据的信息抽取方法能够有效抽取出实体对象以及实体对象间的关系，图5示出了本申请实施例提供的病历数据的信息抽取方法的场景示意图。如图5所示，以“恶性肿瘤化疗可影响口腔黏膜引发口腔黏膜炎”为例，将其输入至FT-BERT中，识别出实体对象，然后基于主体对象触发DGCNN-BERT进行客体对象和对应关系预测，并基于条件层标准化结构和远程监督最终输出抽取结果。由图5可以看出，识别出的实体对象包括“恶性肿瘤”、“口腔黏膜”和“口腔黏膜炎”，随机抽取一个实体对象作为主体对象（例如抽取到“口腔黏膜炎”），此时就可以得到“口腔黏膜炎”与“恶性肿瘤”（预测到的客体对象）的关系，“口腔黏膜炎”与“口腔黏膜”（预测到的另一个客体对象）的关系，即“口腔黏膜炎”与“恶性肿瘤”的关系是病因，“口腔黏膜炎”与“口腔黏膜”的关系是发病部位。
在本申请另一实施例中，上述病历数据的信息抽取方法还可以包括以下步骤：
根据病历数据分割出病历语句。
在本申请实施例中，上述病历数据可以是电子病历文本，基于电子病历文本中的标点符号来分割出病历语句，具体可以是基于“。”进行分割。
以上可以看出，本申请实施例提供的病历数据的信息抽取方法，采用基于字符方式进行实体对象识别，且在字符基础上引入词汇信息，通过位置指针标注出每个实体对象，利用层叠式指针标注作为基本结构，能够解决实体对存在多种关系和实体重叠的问题，有效提升中文实体对象识别的性能，并采用基于遍历方式的主语感知联合方案进行关系抽取（即通过随机抽取主体对象，并预测对应的客体对象和两者之间的关系），能够有效降低错误率和复杂度，提高抽取准确率，解决了目前的病历数据的信息抽取存在抽取准确率低的问题。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
基于上述实施例所提供的病历数据的信息抽取方法，本发明实施例进一步给出实现上述方法实施例的终端设备的实施例。
请参阅图6，图6是本申请实施例提供的一种终端设备的结构示意图。本申请实施例中，终端设备包括的各单元用于执行图1对应的实施例中的各步骤。具体请参阅图1以及图1对应的实施例中的相关描述。为了便于说明，仅示出了与本实施例相关的部分。如图6所示，终端设备60包括：实体识别模块61和关系抽取模块62。
实体识别模块61用于从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象。
关系抽取模块62用于从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
可选的，实体识别模块61具体用于：
为每个字符构建头位置编码和尾位置编码；
将标注了头位置编码和尾位置编码的病历语句输入到语言表征模型中进行实体识别，确定出所述病历语句中的全部实体对象。
可选的，上述关系抽取模块62具体用于：
从所述实体对象中随机抽取出主体对象；
通过遍历式关系抽取模型抽取出所述主体对象对应的客体对象；
根据所述主体对象和所述客体对象预测所述主体对象与所述客体对象的关系；
将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
可选的，上述关系抽取模块62具体还用于：
从所述实体对象中随机抽取出主体对象；
通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系；
将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
可选地，上述遍历式关系抽取模型包括第一多头注意力机制层、第二多头注意力机制层、第一均一化层、前馈神经网络、点云动态图卷积神经网络和第二均一化层。
可选地，上述终端设备60还可以包括远程监督模块和语句分割模块，其中：
远程监督模块用于基于远程监督对抽取结果进行监督。
语句分割模块用于根据病历数据分割出病历语句。
需要说明的是，上述模块/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参照方法实施例部分，此处不再赘述。
因此，本申请实施例提供的终端设备，同样能够通过采用基于字符方式进行实体对象识别，且在字符基础上引入词汇信息，通过位置指针标注出每个实体对象，利用层叠式指针标注作为基本结构，能够解决实体对存在多种关系和实体重叠的问题，有效提升中文实体对象识别的性能，并采用基于遍历方式的主语感知联合方案进行关系抽取（即通过随机抽取主体对象，并预测对应的客体对象和两者之间的关系），能够有效降低错误率和复杂度，提高抽取准确率，解决了目前的病历数据的信息抽取存在抽取准确率低的问题。
图7是本申请另一实施例提供的一种终端设备的结构示意图。如图7所示，该实施例提供的终端设备7包括：处理器70、存储器71以及存储在所述存储器71中并可在所述处理器70上运行的计算机程序72，例如病历数据的信息抽取程序。处理器70执行所述计算机程序72时实现上述各个病历数据的信息抽取方法实施例中的步骤，例如图1所示的S11~S12。或者，所述处理器70执行所述计算机程序72时实现上述各终端设备实施例中各模块/单元的功能，例如图6所示单元61~62的功能。
示例性的，所述计算机程序72可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器71中，并由处理器70执行，以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序72在所述终端设备7中的执行过程。例如，所述计算机程序72可以被分割成各个单元/模块，各单元/模块具体功能请参阅图6对应地实施例中的相关描述，此处不赘述。
所述终端设备可包括但不仅限于，处理器70、存储器71。本领域技术人员可以理解，图7仅仅是终端设备7的示例，并不构成对终端设备7的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器70可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器 (Digital Signal Processor，DSP)、专用集成电路 (Application Specific Integrated Circuit，ASIC)、现成可编程门阵列 (Field-Programmable Gate Array，FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器71可以是所述终端设备7的内部存储单元，例如终端设备7的硬盘或内存。所述存储器71也可以是所述终端设备7的外部存储设备，例如所述终端设备7上配备的插接式硬盘，智能存储卡（Smart Media Card, SMC），安全数字（Secure Digital, SD）卡，闪存卡（Flash Card）等。进一步地，所述存储器71还可以既包括所述终端设备7的内部存储单元也包括外部存储设备。所述存储器71用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器71还可以用于暂时地存储已经输出或者将要输出的数据。
本申请实施例还提供了一种计算机可读存储介质。请参阅图8，图8是本申请实施例提供的一种计算机可读存储介质的结构示意图，如图8所示，计算机可读存储介质8中存储有计算机程序81，计算机程序81被处理器执行时可实现上述病历数据的信息抽取方法。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行时实现可实现上述病历数据的信息抽取方法。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述终端设备的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参照其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

  1. 一种病历数据的信息抽取方法，其特征在于，包括：
    从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象；
    从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
  2. 根据权利要求1所述的病历数据的信息抽取方法，其特征在于，所述从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象，包括：
    为每个字符构建头位置编码和尾位置编码；
    将标注了头位置编码和尾位置编码的病历语句输入到语言表征模型中进行实体识别，确定出所述病历语句中的全部实体对象。
  3. 根据权利要求1所述的病历数据的信息抽取方法，其特征在于，所述从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果，包括：
    从所述实体对象中随机抽取出主体对象；
    通过遍历式关系抽取模型抽取出所述主体对象对应的客体对象；
    根据所述主体对象和所述客体对象预测所述主体对象与所述客体对象的关系；
    将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
  4. 根据权利要求1所述的病历数据的信息抽取方法，其特征在于，所述从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果，包括：
    从所述实体对象中随机抽取出主体对象；
    通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系；
    将所述客体对象作为主体对象重复通过遍历式关系抽取模型预测出所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系的操作，直至得到所有实体对象的抽取结果。
  5. 根据权利要求4所述的病历数据的信息抽取方法，其特征在于，所述遍历式关系抽取模型包括第一多头注意力机制层、第二多头注意力机制层、第一均一化层、前馈神经网络、点云动态图卷积神经网络和第二均一化层。
  6. 根据权利要求1所述的病历数据的信息抽取方法，其特征在于，从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果之后，还包括：
    基于远程监督对抽取结果进行监督。
  7. 根据权利要求1至6任一项所述的病历数据的信息抽取方法，其特征在于，在从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象之前，还包括：
    根据病历数据分割出病历语句。
  8. 一种终端设备，其特征在于，包括：
    实体识别模块，用于从病历语句中识别出全部实体对象，并通过位置编码标注所有所述实体对象；
    关系抽取模块，用于从所述实体对象中随机抽取出主体对象，并基于所述主体对象抽取出与所述主体对象对应的客体对象以及所述主体对象与所述客体对象的关系，直至遍历所有实体对象，得到所有实体对象的抽取结果。
  9. 一种终端设备，其特征在于，所述终端设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。
  10. 一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
PCT/CN2021/137931 2021-11-29 2021-12-14 病历数据的信息抽取方法、终端设备及可读存储介质 WO2023092719A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202111438121.0A CN114220505A (zh) 2021-11-29 2021-11-29 病历数据的信息抽取方法、终端设备及可读存储介质
CN202111438121.0 2021-11-29

Publications (1)

Publication Number Publication Date
WO2023092719A1 true WO2023092719A1 (zh) 2023-06-01

Family

ID=80699027

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/137931 WO2023092719A1 (zh) 2021-11-29 2021-12-14 病历数据的信息抽取方法、终端设备及可读存储介质

Country Status (2)

Country Link
CN (1) CN114220505A (zh)
WO (1) WO2023092719A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116501830A (zh) * 2023-06-29 2023-07-28 中南大学 一种生物医学文本的重叠关系联合抽取方法及相关设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110598001A (zh) * 2019-08-05 2019-12-20 平安科技（深圳）有限公司 联合实体关系抽取方法、装置及存储介质
US20200311345A1 (en) * 2019-03-29 2020-10-01 Innoplexus Ag System and method for language-independent contextual embedding
CN112883736A (zh) * 2021-02-22 2021-06-01 零氪科技（北京）有限公司 医疗实体关系抽取方法和装置
CN113468888A (zh) * 2021-06-25 2021-10-01 浙江华巽科技有限公司 基于神经网络的实体关系联合抽取方法与装置
CN113486667A (zh) * 2021-07-26 2021-10-08 辽宁工程技术大学 一种基于实体类型信息的医疗实体关系联合抽取方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200311345A1 (en) * 2019-03-29 2020-10-01 Innoplexus Ag System and method for language-independent contextual embedding
CN110598001A (zh) * 2019-08-05 2019-12-20 平安科技（深圳）有限公司 联合实体关系抽取方法、装置及存储介质
CN112883736A (zh) * 2021-02-22 2021-06-01 零氪科技（北京）有限公司 医疗实体关系抽取方法和装置
CN113468888A (zh) * 2021-06-25 2021-10-01 浙江华巽科技有限公司 基于神经网络的实体关系联合抽取方法与装置
CN113486667A (zh) * 2021-07-26 2021-10-08 辽宁工程技术大学 一种基于实体类型信息的医疗实体关系联合抽取方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116501830A (zh) * 2023-06-29 2023-07-28 中南大学 一种生物医学文本的重叠关系联合抽取方法及相关设备
CN116501830B (zh) * 2023-06-29 2023-09-05 中南大学 一种生物医学文本的重叠关系联合抽取方法及相关设备

Also Published As

Publication number Publication date
CN114220505A (zh) 2022-03-22

Similar Documents

Publication Publication Date Title
US11348352B2 (en) Contract lifecycle management
US11574122B2 (en) Method and system for joint named entity recognition and relation extraction using convolutional neural network
US20230196127A1 (en) Method and device for constructing legal knowledge graph based on joint entity and relation extraction
WO2021135469A1 (zh) 基于机器学习的信息抽取方法、装置、计算机设备及介质
WO2021051867A1 (zh) 资产信息识别方法、装置、计算机设备及存储介质
WO2021072852A1 (zh) 序列标注方法、系统和计算机设备
CN109522552B (zh) 一种医疗信息的归一化方法、装置、介质及电子设备
WO2022142011A1 (zh) 一种地址识别方法、装置、计算机设备及存储介质
US20220318275A1 (en) Search method, electronic device and storage medium
CN112329465A (zh) 一种命名实体识别方法、装置及计算机可读存储介质
US11972214B2 (en) Method and apparatus of NER-oriented chinese clinical text data augmentation
CN111125317A (zh) 对话型文本分类的模型训练、分类、系统、设备和介质
CN107861948B (zh) 一种标签提取方法、装置、设备和介质
CN111353311A (zh) 一种命名实体识别方法、装置、计算机设备及存储介质
CN113051356A (zh) 开放关系抽取方法、装置、电子设备及存储介质
CN116912847A (zh) 一种医学文本识别方法、装置、计算机设备及存储介质
WO2023092719A1 (zh) 病历数据的信息抽取方法、终端设备及可读存储介质
CN113486178B (zh) 文本识别模型训练方法、文本识别方法、装置以及介质
CN112599211B (zh) 一种医疗实体关系抽取方法及装置
CN116383412B (zh) 基于知识图谱的功能点扩增方法和系统
CN111062208B (zh) 一种文件审核的方法、装置、设备及存储介质
CN111240971B (zh) 风控规则测试用例的生成方法、装置、服务器和存储介质
US20230139642A1 (en) Method and apparatus for extracting skill label
CN115982363A (zh) 基于提示学习的小样本关系分类方法、系统、介质及电子设备
WO2022267460A1 (zh) 基于事件的情感分析方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21965441

Country of ref document: EP

Kind code of ref document: A1