CN108959566B - 一种基于Stacking集成学习的医疗文本去隐私方法和系统 - Google Patents
一种基于Stacking集成学习的医疗文本去隐私方法和系统 Download PDFInfo
- Publication number
- CN108959566B CN108959566B CN201810724210.3A CN201810724210A CN108959566B CN 108959566 B CN108959566 B CN 108959566B CN 201810724210 A CN201810724210 A CN 201810724210A CN 108959566 B CN108959566 B CN 108959566B
- Authority
- CN
- China
- Prior art keywords
- phi
- module
- entity
- token
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
本发明涉及一种基于Stacking集成学习的医疗文本去隐私方法和系统，属于计算机医疗软件技术领域。所述系统包括文本切分模块、基于转换规则自动获取模块、基于条件随机场学习器模块、基于神经网络学习器模块、PHI实体识别模块和Stacking集成学习模块；所述方法包括文本切分步骤、基于转换规则自动获取步骤、基于条件随机场学习器步骤、基于神经网络学习器步骤、PHI实体识别步骤和Stacking集成学习步骤。
Description
技术领域
本发明涉及一种基于Stacking集成学习的医疗文本去隐私方法和系统，属于计算机医疗软件技术领域。
背景技术
去除文本中与当事人有关的隐私信息是文本数据向社会公开前的一个重要步骤。例如，法律部门在向社会公开案件信息时，要去除涉案人的隐私信息；NLP研究机构在向社会公开研究语料库时，要去除其中涉及到个人隐私的信息。
在医疗领域，美国于1996年通过了HIPAA(Health Insurance Portability andAccountability Act)法案，这项法案定义了18类有关病人以及他的友人，同事和家庭成员的相关隐私信息，规定这些隐私信息在向社会公开时必须从病历中删除。医疗文本去隐私问题可以被定义为一种文本标记问题。研究者需要从叙事性医疗文本中正确并完整地找出受保护的隐私信息(Protected Health Information，PHI)，并确定这些信息所属的PHI类别，然后将PHI实体和对应的PHI类别输出。
发明内容
本发明为了解决现有技术中医疗文本需要去除隐私信息这一问题，提出了一种基于Stacking集成学习的医疗文本去隐私方法和系统，所述方法和系统需要从叙事性医疗文本中正确并完整地找出受保护的隐私信息(Protected Health Information，PHI)，并确定这些信息所属的PHI类别，然后将PHI实体和对应的PHI类别输出。
一种基于Stacking集成学习的医疗文本去隐私系统，所采取的技术方案如下，所述系统包括：
用于对输入文本进行切分获得处理单元token的文本切分模块；
用于得到每个处理单元token的相关特征的特征提取模块；
用于在训练数据上建立并获得基于转换的规则自动获取的基于规则的PHI标记模块；
用于在训练数据上建立并获得基于条件随机场的PHI标记模块；
用于在训练数据上建立并获得基于神经网络的PHI标记模块；
用于利用所述基于PHI标记模块、基于条件随机场的PHI标记模块和基于神经网络的PHI标记模块对每个处理单元token进行标记，识别每个处理单元token中的PHI实体的PHI实体识别模块；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习模块。
进一步地，所述基于规则的PHI标记模块包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入模块；
用于根据所述初始标注器对文本进行初始标注的初始标注模块；
用于识别每个错误标注的token的识别模块；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成模块；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算模块；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入模块。
进一步地，所述相关特征包括：
长度：当前token所包含的字符数量；
大小写模式：当前token的字母大小写规律，包括：一个大写字母后面跟小写字母、全部都是小写字母和全部都是数字的情况；
词性：当前token的词性
实体信息：实体类型；
是否属于某类地点词：包括国家、州、城市和邮编四类词；
前缀：去除词干后的该词的前缀；
后缀：去除词干后的该词的后缀；
该词所属文本区域：医疗记录文本根据关键词，共划分为29个区域；所述关键词包括Record date和Reason for Visit等29个关键词；
处理单元token的划分规则为：只将连续的字母或连续的数字划归为同一个token，连续字母中出现的大写字母会被切分为多个token。
词语向量表示：Token词向量表示。
进一步地，所述基于条件随机场学习器模块中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的的词向量中的一个维度。
进一步地，，所述基于神经网络学习器模块包括：
用于使用卷积神经网(Convolution Neural Network,CNN)提取字符级向量的字符级向量提取模块；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入模块；
用于利用条件随机场获得标记结果的标记结果获得模块。
进一步地，所述Stacking集成学习模块包括：
用于判断所述PHI实体是否正确的基于二分类支持向量机(Supporting VectorMachine,SVM)的实体判断模块；
用于输出正确的PHI实体的实体输出模块；所述正确的PHI实体即为所述医疗文本去隐私系统的最终输出结果。
一种基于Stacking集成学习的医疗文本去隐私方法，所采取的技术方案如下，所述方法包括：
用于对输入文本进行切分获得处理单元token的文本切分步骤；
用于得到每个处理单元token的相关特征的特征提取步骤；
用于在训练数据上建立并获得基于转换的规则自动获取模型的基于转换规则自动获取步骤；
用于在训练数据上建立并获得基于条件随机场的学习器模型的基于条件随机场学习器步骤；
用于在训练数据上建立并获得基于神经网络的学习器模型基于神经网络学习器步骤；
用于利用所述基于转换的规则自动获取模型、基于条件随机场的学习器模型和基于神经网络的学习器模型对每个处理单元token进行BIO标记，从而识别每个处理单元token中的PHI实体的PHI实体识别步骤；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习步骤。
所述基于规则的PHI标记步骤包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入步骤；
用于根据所述初始标注器对文本进行初始标注的初始标注步骤；
用于识别每个错误标注的token的识别步骤；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成步骤；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算步骤；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入步骤。
进一步地，所述相关特征包括：
长度：当前token所包含的字符数量；
大小写模式：当前token的字母大小写规律，包括：一个大写字母后面跟小写字母、全部都是小写字母和全部都是数字的情况；
词性：当前token的词性
实体信息：实体类型；
是否属于某类地点词：包括国家、州、城市和邮编四类词；
前缀：去除词干后的该词的前缀；
后缀：去除词干后的该词的后缀；
该词所属文本区域：医疗记录文本根据关键词，共划分为29个区域；所述关键词包括Record date和Reason for Visit等29个关键词；
处理单元token的划分规则为：只将连续的字母或连续的数字划归为同一个token，连续字母中出现的大写字母会被切分为多个token。
词语向量表示：Token词向量表示。
进一步地，所述基于条件随机场学习器步骤中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的的词向量中的一个维度。
进一步地，所述基于神经网络学习器步骤包括：
用于使用CNN提取字符级向量的字符级向量提取步骤；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入步骤；
用于利用CRF层获得标记结果的标记结果获得步骤。
进一步地，所述Stacking集成学习步骤包括：
用于判断所述PHI实体是否正确的基于二分类SVM的实体判断步骤；
用于输出正确的PHI实体的实体输出步骤；所述正确的PHI实体即为所述医疗文本去隐私方法的最终输出结果；
其中，所述实体判断模块判断PHI实体是采用的PHI特征如下：
PHI的标记模型；
PHI的某一类型的标记次数；
PHI的类别；
PHI的标记次数；
PHI起始位置的被模型一致标记的次数；
PHI终止位置的被模型一致标记的次数；
PHI起始位置和类型均被模型一致标记的次数；
PHI终止位置和类型均被模型一致标记的次数。
本发明有益效果：
本发明提出的一种基于Stacking集成学习的医疗文本去隐私方法和系统，具有目前已知最好的隐私文字识别性能，能够最大限度的保护按制度要求所公开的医疗文本中的个人隐私信息。整体系统框架清晰简洁，所用特征容易获得，整体系统运行效率高，所需的开发周期短。
附图说明
图1为本发明所述医疗文本去隐私方法的框架图。
图2为本发明所述基于神经网络学习器模型的结构示意图。
图3为本发明所述Stacking集成学习步骤的过程示意图。
具体实施方式
下面结合具体实施例对本发明做进一步说明，但本发明不受实施例的限制。
实施例1：
一种基于Stacking集成学习的医疗文本去隐私系统，所采取的技术方案如下，所述系统包括：
用于对输入文本进行切分获得处理单元token的文本切分模块；
用于得到每个处理单元token的相关特征的特征提取模块；
用于在训练数据上建立并获得基于转换的规则自动获取的基于规则的PHI标记模块；
用于在训练数据上建立并获得基于条件随机场的PHI标记模块；
用于在训练数据上建立并获得基于神经网络的PHI标记模块；
用于利用所述基于PHI标记模块、基于条件随机场的PHI标记模块和基于神经网络的PHI标记模块对每个处理单元token进行标记，识别每个处理单元token中的PHI实体的PHI实体识别模块；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习模块。
其中，所述相关特征包括：
长度：当前token所包含的字符数量；
大小写模式：当前token的字母大小写规律，包括：一个大写字母后面跟小写字母、全部都是小写字母和全部都是数字的情况；
词性：当前token的词性
实体信息：实体类型；
是否属于某类地点词：包括国家、州、城市和邮编四类词；
前缀：去除词干后的该词的前缀；
后缀：去除词干后的该词的后缀；
该词所属文本区域：医疗记录文本根据关键词，共划分为29个区域；所述关键词包括Record date和Reason for Visit；
词语向量表示：Token词向量表示。
其中，所述基于转换规则自动获取模块通过基于转换的自动获取模型能够完全取代人工编写规则，节省了人力编写时间，有效避免耗时费力；并且所述基于转换规则自动获取模块能够有效把词语数据集中所有的规则全部找出，有效提高规则找出过程中的准确性，避免遗漏。所述基于规则的PHI标记模块包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入模块；
用于根据所述初始标注器对文本进行初始标注的初始标注模块；
用于识别每个错误标注的token的识别模块；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成模块；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算模块；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入模块。
所述基于转换规则自动获取模块处理过程如下：
步骤1：输入：文本，文本中每个token的正确标注、转换规则模板、初始标注器
步骤2：根据初始标注器，对文本进行初始标注
步骤3：识别每个错误标注的token；
步骤4：对所有错误标注的token，根据转换规则模板，逐一生成候选规则；
步骤5：对全部候选规则进行性能评分，计算其削减标注错误的数量；
步骤6：如果存在削减标注错误数量大于0的候选规则：
步骤7：削减错误数量最多的候选规则，加入初试标注器；
步骤8：否则，结束。
同时，条件随机场学习器是一种判别式无向图模型，在解决命名实体识别问题时经常得到应用。为了使用条件随机场学习器模型，需要定义合适的特征函数。但常规条件下，所述条件随机场学习器模型适用处理的特征都为离散特征，但是词语的向量表示是连续特征，为了充分利用词语的向量表示信息，同时避免避免离散化带来的损失，本实施例对特征函数进行改进优化，具体的，所述基于条件随机场学习器模块中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的的词向量中的一个维度。
所述基于神经网络学习器模块包括：
用于使用CNN提取字符级向量的字符级向量提取模块；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入模块；
用于利用CRF层获得标记结果的标记结果获得模块。
本实施例所述基于神经网络学习器模块使用CNN提取字符级向量表示，将人工特征与字符向量和词向量连接起来一起输入到BiLSTM层，然后使用CRF层得到标记结果。
完整的神经网络学习器模块的结构如图2所示，其中，yt表示序列中第t个token的标记结果，C是token中每个字符的向量表示，n代表token的最大长度，对于长度小于n的token，会进行添0操作补充为n。C通过一个卷积层和一个最大池化层得到字符特征Fc。Ft表示序列中第t个token的特征，由CNN得到的字符特征Fc，t、人工特征Fk，t和token的向量表示Tt三个向量连接得到，然后输入到LSTM中。LSTM接受特征序列F＝(F1，F2，...，Fm)T和词向量序列T＝(T1，T2，...，Tm)T作为输入，输出编码了上下文信息的向量h＝(h1，h2，...，hm)T。
h实际上还是token的一种向量表示，为了得到标记序列y＝(y1，y2，...，ym)，使用了一个CRF层。对于命名实体识别问题，当使用BIO标记法时，输出序列中的各个标记并不是互相独立的，比如O后不可能立刻接I。如果简单使用SoftMax获取分类结果，模型就很难处理这样的信息。而CRF通过引入转移特征函数，对不同标签之间的转移进行了建模，可以大大提升y的准确度。具体来讲，对于给定的输入序列x，标记序列y的条件概率定义如下：
其中，Z是归一化因子，A表示转移矩阵，Ai，j表示从状态i转换为状态j的得分；P是标记矩阵，Pi，j表示第i个token被标记为j的得分，由LSTM的输出h经过一个SoftMax分类器得到。
本实施例提出的Stacking集成学习模块对上述三个学习器模型的输出结果进行集成达到模型融合，提高性能的目的。如图3所示，所述Stacking集成学习模块包括：
用于判断所述PHI实体是否正确的基于二分类SVM的实体判断模块；
用于输出正确的PHI实体的实体输出模块；所述正确的PHI实体即为所述医疗文本去隐私系统的最终输出结果。
所述Stacking集成学习模块的代码如表2所示：
表2
其中，用于训练元学习器H的次级训练集D′是使用初级学习器ht标记得到的，而ht同样是使用这一训练集训练得到的，这样的方法很容易因ht过拟合导致H不能正确度量不同个体学习器的泛化能力，从而使最终结果下降。为了防止这一损失，在上述过程中使用交叉验证的方法对训练集进行标记。这一过程如图3所示，其中白色矩形表示用来训练的样本，灰色矩形表示用于标记的样本。
在实体判断模块中，所述实体判断模块判断PHI实体是采用的PHI特征如下：
PHI的标记模型；
PHI的某一类型的标记次数；
PHI的类别；
PHI的标记次数(忽略类型)；
PHI起始位置的被模型一致标记的次数；
PHI终止位置的被模型一致标记的次数；
PHI起始位置和类型均被模型一致标记的次数；
PHI终止位置和类型均被模型一致标记的次数。
实施例2
一种基于Stacking集成学习的医疗文本去隐私方法，所采取的技术方案如下，所述方法包括：
用于对输入文本进行切分获得处理单元token的文本切分步骤；
用于得到每个处理单元token的相关特征的特征提取步骤；
用于在训练数据上建立并获得基于转换的规则自动获取模型的基于转换规则自动获取步骤；
用于在训练数据上建立并获得基于条件随机场的学习器模型的基于条件随机场学习器步骤；
用于在训练数据上建立并获得基于神经网络的学习器模型基于神经网络学习器步骤；
用于利用所述基于转换的规则自动获取模型、基于条件随机场的学习器模型和基于神经网络的学习器模型对每个处理单元token进行标记，从而识别每个处理单元token中的PHI实体的PHI实体识别步骤；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习步骤。
所述相关特征包括：
长度：当前token所包含的字符数量；
大小写模式：当前token的字母大小写规律，包括：一个大写字母后面跟小写字母、全部都是小写字母和全部都是数字的情况；
词性：当前token的词性
实体信息：实体类型；
是否属于某类地点词：包括国家、州、城市和邮编四类词；
前缀：去除词干后的该词的前缀；
后缀：去除词干后的该词的后缀；
该词所属文本区域：医疗记录文本根据关键词，共划分为29个区域；所述关键词包括Record date和Reason for Visit；
词语向量表示：Token词向量表示。
其中，所述基于条件随机场学习器步骤中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的的词向量中的一个维度。
所述基于规则的PHI标记步骤包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入步骤；
用于根据所述初始标注器对文本进行初始标注的初始标注步骤；
用于识别每个错误标注的token的识别步骤；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成步骤；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算步骤；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入步骤。
所述基于神经网络学习器步骤包括：
用于使用CNN提取字符级向量的字符级向量提取步骤；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入步骤；
用于利用CRF层获得标记结果的标记结果获得步骤。
所述Stacking集成学习步骤包括：
用于判断所述PHI实体是否正确的基于二分类SVM的实体判断步骤；
用于输出正确的PHI实体的实体输出步骤；所述正确的PHI实体即为所述医疗文本去隐私方法的最终输出结果。
所述实体判断模块判断PHI实体是采用的PHI特征如下：
PHI的标记模型；
PHI的某一类型的标记次数；
PHI的类别；
PHI的标记次数(忽略类型)；
PHI起始位置的被模型一致标记的次数；
PHI终止位置的被模型一致标记的次数；
PHI起始位置和类型均被模型一致标记的次数；
PHI终止位置和类型均被模型一致标记的次数。
对本发明所述一种基于Stacking集成学习的医疗文本去隐私方法和系统的实验结果如下：
表5对本文提出的系统和现有技术中的最好系统进行了对比。
表5各标记器性能对比
虽然本发明已以较佳的实施例公开如上，但其并非用以限定本发明，任何熟悉此技术的人，在不脱离本发明的精神和范围内，都可以做各种改动和修饰，因此本发明的保护范围应该以权利要求书所界定的为准。
Claims (10)
1.一种基于Stacking集成学习的医疗文本去隐私系统，其特征在于，所述系统包括：
用于得到每个处理单元token的相关特征的特征提取模块；
用于在训练数据上建立并获得基于转换的规则自动获取的基于规则的PHI标记模块；
用于在训练数据上建立并获得基于条件随机场的PHI标记模块；
用于在训练数据上建立并获得基于神经网络的PHI标记模块；
用于利用所述基于规则的PHI标记模块、基于条件随机场的PHI标记模块和基于神经网络的PHI标记模块对每个处理单元token进行BIO标记，识别每个处理单元token中的PHI实体的PHI实体识别模块；其中，PHI是指受保护的隐私信息；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习模块；
用于输入文本进行切分获得处理单元token的文本切分模块。
2.根据权利要求1所述医疗文本去隐私系统，其特征在于，所述基于规则的PHI标记模块包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入模块；
用于根据所述初始标注器对文本进行初始标注的初始标注模块；
用于识别每个错误标注的token的识别模块；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成模块；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算模块；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入模块。
3.根据权利要求1所述医疗文本去隐私系统，其特征在于，所述基于条件随机场学习器模块中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的词向量中的一个维度；其中，xi表示观测序列，yi表示标记序列。
4.根据权利要求1所述医疗文本去隐私系统，其特征在于，所述基于神经网络学习器模块包括：
用于使用CNN提取字符级向量的字符级向量提取模块；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入模块；
用于利用CRF层获得标记结果的标记结果获得模块。
5.根据权利要求1所述医疗文本去隐私系统，其特征在于，所述Stacking集成学习模块包括：
用于判断所述PHI实体是否正确的基于二分类SVM的实体判断模块；
用于输出正确的PHI实体的实体输出模块；所述正确的PHI实体即为所述医疗文本去隐私系统的最终输出结果；
其中，所述实体判断模块判断PHI实体时采用的PHI特征如下：
PHI的标记模型；
PHI的某一类型的标记次数；
PHI的类别；
PHI的标记次数；
PHI起始位置的被模型一致标记的次数；
PHI终止位置的被模型一致标记的次数；
PHI起始位置和类型均被模型一致标记的次数；
PHI终止位置和类型均被模型一致标记的次数。
6.一种基于Stacking集成学习的医疗文本去隐私方法，其特征在于，所述方法包括：
用于对输入文本进行切分获得处理单元token的文本切分步骤；
用于得到每个处理单元token的相关特征的特征提取步骤；
用于在训练数据上建立并获得基于转换的规则自动获取的基于规则的PHI标记步骤；
用于在训练数据上建立并获得基于条件随机场的PHI标记步骤；
用于在训练数据上建立并获得基于神经网络的PHI标记步骤；
用于利用所述基于规则的PHI标记模块、基于条件随机场的PHI标记模块和基于神经网络的PHI标记模块对每个处理单元token进行BIO标记，识别每个处理单元token中的PHI实体的PHI实体识别步骤；其中，PHI是指受保护的隐私信息；
用于对不同模型识别后获得的PHI实体进行Stacking集成学习的Stacking集成学习步骤。
7.根据权利要求6所述医疗文本去隐私方法，其特征在于，所述基于规则的PHI标记步骤包括：
用于输入文本，文本中每个token的正确标注、转换规则模板和初始标注器的输入步骤；
用于根据所述初始标注器对文本进行初始标注的初始标注步骤；
用于识别每个错误标注的token的识别步骤；
用于针对所有错误标注的token，根据转换规则模板逐一生成候选规则的候选规则生成步骤；
用于对全部候选规则进行性能评分，计算其削减标注错误的数量的计算步骤；
用于如果存在削减标注错误数量大于0的候选规则，在削减错误数量最多的候选规则中加入初试标注器的初试标注器加入步骤。
8.根据权利要求6所述医疗文本去隐私方法，其特征在于，所述基于条件随机场学习器步骤中的特征函数为：
其中，skl(yi，x，i)表示状态特征函数，Ya和Xb分别表示xi和yi的某个取值，是Xb对应的词向量中的一个维度；其中，xi表示观测序列，yi表示标记序列。
9.根据权利要求6所述医疗文本去隐私方法，其特征在于，所述基于神经网络学习器步骤包括：
用于使用CNN提取字符级向量的字符级向量提取步骤；
用于将相关特征与处理单元token中每个字符额向量和处理单元token中每个词的向量连接起来一起输入至BiLSTM层的输入步骤；
用于利用CRF层获得标记结果的标记结果获得步骤。
10.根据权利要求6所述医疗文本去隐私方法，其特征在于，所述Stacking集成学习步骤包括：
用于判断所述PHI实体是否正确的基于二分类SVM的实体判断步骤；
用于输出正确的PHI实体的实体输出步骤；所述正确的PHI实体即为所述医疗文本去隐私方法的最终输出结果；
其中，所述实体判断步骤判断PHI实体时采用的PHI特征如下：
PHI的标记模型；
PHI的某一类型的标记次数；
PHI的类别；
PHI的标记次数；
PHI起始位置的被模型一致标记的次数；
PHI终止位置的被模型一致标记的次数；
PHI起始位置和类型均被模型一致标记的次数；
PHI终止位置和类型均被模型一致标记的次数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810724210.3A CN108959566B (zh) | 2018-07-04 | 2018-07-04 | 一种基于Stacking集成学习的医疗文本去隐私方法和系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810724210.3A CN108959566B (zh) | 2018-07-04 | 2018-07-04 | 一种基于Stacking集成学习的医疗文本去隐私方法和系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108959566A CN108959566A (zh) | 2018-12-07 |
| CN108959566B true CN108959566B (zh) | 2019-09-10 |
Family
ID=64485778
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810724210.3A Active CN108959566B (zh) | 2018-07-04 | 2018-07-04 | 一种基于Stacking集成学习的医疗文本去隐私方法和系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108959566B (zh) |
Families Citing this family (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109299753A (zh) * | 2018-12-11 | 2019-02-01 | 济南浪潮高新科技投资发展有限公司 | 一种用于法律文本信息挖掘的集成学习方法及系统 |
| CN111444717A (zh) * | 2018-12-28 | 2020-07-24 | 天津幸福生命科技有限公司 | 医学实体信息的抽取方法、装置、存储介质及电子设备 |
| CN109960727B (zh) * | 2019-02-28 | 2023-04-07 | 天津工业大学 | 针对非结构化文本的个人隐私信息自动检测方法及系统 |
| CN110247910B (zh) * | 2019-06-13 | 2022-08-09 | 深信服科技股份有限公司 | 一种异常流量的检测方法、系统及相关组件 |
| CN110333076B (zh) * | 2019-06-19 | 2021-01-26 | 电子科技大学 | 基于CNN-Stacking的轴承故障诊断方法 |
| CN110427974A (zh) * | 2019-07-09 | 2019-11-08 | 华中科技大学 | 一种基于广义支持向量机的液压部件健康状态检测方法 |
| CN113051918B (zh) * | 2019-12-26 | 2024-05-14 | 北京中科闻歌科技股份有限公司 | 基于集成学习的命名实体识别方法、装置、设备和介质 |
| CN111291832A (zh) * | 2020-03-11 | 2020-06-16 | 重庆大学 | 基于Stack集成神经网络的传感器数据分类方法 |
| CN113723497A (zh) * | 2021-08-26 | 2021-11-30 | 广西大学 | 基于混合特征提取及Stacking模型的异常用电检测方法、装置、设备及存储介质 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104182423A (zh) * | 2013-05-27 | 2014-12-03 | 华东师范大学 | 一种基于条件随机场的中文人名自动识别方法 |
| CN104965992B (zh) * | 2015-07-13 | 2018-01-09 | 南开大学 | 一种基于在线医疗问答信息的文本挖掘方法 |
| CN107133220B (zh) * | 2017-06-07 | 2020-11-24 | 东南大学 | 一种地理学科领域命名实体识别方法 |
| CN107798251A (zh) * | 2017-10-19 | 2018-03-13 | 江苏大学 | 基于盲签名的隐私保护症状匹配系统及其匹配方法 |
-
2018
- 2018-07-04 CN CN201810724210.3A patent/CN108959566B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN108959566A (zh) | 2018-12-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108959566B (zh) | 一种基于Stacking集成学习的医疗文本去隐私方法和系统 | |
| CN107562732B (zh) | 电子病历的处理方法及系统 | |
| CN109344250B (zh) | 基于医保数据的单病种诊断信息快速结构化方法 | |
| JP5356197B2 (ja) | 単語意味関係抽出装置 | |
| CN107943911A (zh) | 数据抽取方法、装置、计算机设备及可读存储介质 | |
| CN109960727B (zh) | 针对非结构化文本的个人隐私信息自动检测方法及系统 | |
| CN113312461A (zh) | 基于自然语言处理的智能问答方法、装置、设备及介质 | |
| CN112035675A (zh) | 医疗文本标注方法、装置、设备及存储介质 | |
| CN113704429A (zh) | 基于半监督学习的意图识别方法、装置、设备及介质 | |
| CN113051356A (zh) | 开放关系抽取方法、装置、电子设备及存储介质 | |
| CN112100384B (zh) | 一种数据观点抽取方法、装置、设备及存储介质 | |
| CN113111162A (zh) | 科室推荐方法、装置、电子设备及存储介质 | |
| CN112966117A (zh) | 实体链接方法 | |
| CN111597789A (zh) | 一种电子病历文本的评估方法及设备 | |
| CN113111159A (zh) | 问答记录生成方法、装置、电子设备及存储介质 | |
| CN112667775A (zh) | 基于关键词提示的检索方法、装置、电子设备及存储介质 | |
| Adduru et al. | Towards Dataset Creation And Establishing Baselines for Sentence-level Neural Clinical Paraphrase Generation and Simplification. | |
| CN108735198A (zh) | 基于医学疾病数据的语音合成方法、装置及电子设备 | |
| CN113344125A (zh) | 长文本匹配识别方法、装置、电子设备及存储介质 | |
| CN111274354B (zh) | 一种裁判文书结构化方法及装置 | |
| CN112632264A (zh) | 智能问答方法、装置、电子设备及存储介质 | |
| Yao et al. | A unified approach to researcher profiling | |
| CN114842982B (zh) | 一种面向医疗信息系统的知识表达方法、装置及系统 | |
| Souza et al. | ARCTIC: metadata extraction from scientific papers in pdf using two-layer CRF | |
| CN113590845A (zh) | 基于知识图谱的文献检索方法、装置、电子设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20210127 Address after: Building 9, accelerator, 14955 Zhongyuan Avenue, Songbei District, Harbin City, Heilongjiang Province Patentee after: INDUSTRIAL TECHNOLOGY Research Institute OF HEILONGJIANG PROVINCE Address before: 150001 No.92 xidazhi street, Nangang District, Harbin City, Heilongjiang Province Patentee before: HARBIN INSTITUTE OF TECHNOLOGY |
|
| TR01 | Transfer of patent right | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20211222 Address after: 150000 room 301-35, building 16, No. 1616, Chuangxin Road, Songbei District, Harbin City, Heilongjiang Province Patentee after: Heilongjiang Jiancheng Biotechnology Co.,Ltd. Address before: Building 9, accelerator, 14955 Zhongyuan Avenue, Songbei District, Harbin City, Heilongjiang Province Patentee before: INDUSTRIAL TECHNOLOGY Research Institute OF HEILONGJIANG PROVINCE |
|
| TR01 | Transfer of patent right |