CN113707331B - 一种中医辨证数据生成方法与系统 - Google Patents

Abstract

本发明公开了一种中医辨证数据生成方法与系统，数据生成方法包括以下步骤：S1、数据获取与预处理，S2、构建特征症状的隐藏分布：将症状数据输入到编码器的其中一个全连接神经网络得到中间隐藏层，然后将隐藏层表示输入到编码器的另外两个全连接神经网络分别输出均值和方差，基于均值和方差，得到隐藏分布z；S3、重构特征症状；S4、构建全连接标签模型；S5、模型训练：基于重构误差、散度误差和标签损失误差构建模型；S6、生成新的特征症状。本发明在变分自编码器基础上额外增加了一层全连接神经网络，将预测标签和真实标签之间的误差信息引入到变分自编码器的训练之中，以此达到扩充样本的同时保证扩充样本在下游分类任务的性能。

Description

一种中医辨证数据生成方法与系统

技术领域

本发明涉及样本训练技术领域，具体涉及一种中医辨证数据生成方法与系统。

背景技术

目前有研究将神经网络和深度学习模型应用于中医辨证过程，通过输入患者的四诊信息，模型输出中医证型，比如：肝胃不和，阴阳双虚等，以此实现中医辨证过程的客观化。神经网络和深度学习模型通常需要大量训练样本优化模型性能，目前主要依靠人工方式对医院信息系统(HIS)收集的患者症状和证型信息逐条进行清洗、加工、编码处理得到训练样本，并进行人工标注，导致样本获取效率低，有效的训练样本量少，影响模型训练精度。

近年来，变分自动编码器在基于少量样本进行样本扩充的应用上取得了较好的效果。但是，现有基于自动编码器的样本生成模型只关注了生成数据与原数据的相似性，并没有关注生成的数据在下游分类任务的表现，而对于中医辨证模型的数据扩充来说，很可能相似的数据属于不同的类别，不相似的数据反而属同一个类别，比如中医同一种证型可以对应不同的症状，相同的症状可以属于不同的证型。如果样本扩充过程只考虑数据的相似性，则对下游的中医辨证模型性能造成影响。

因此，设计一种适用于中医辨证的样本生成模型很有必要。

发明内容

本发明的目的在于提供一种中医辨证数据生成方法与系统，在变分自编码器基础上额外增加了一层全连接神经网络，将预测标签和真实标签之间的误差信息引入到变分自编码器的训练之中，以此达到扩充样本的同时保证扩充样本在下游分类任务的性能。

本发明通过下述技术方案实现：

一种中医辨证数据生成方法，包括以下步骤：

S1、数据获取与预处理：

获取医案集中的不同症状并表示为症状集合，获取医案集中的不同证候并表示为证候集合，医案集中每个医案为一个样本，对每个样本采用0-1进行编码，其中，样本中症状为特征，证候为标签；

S2、构建特征症状的隐藏分布：

将症状数据输入到编码器的其中一个全连接神经网络得到中间隐藏层表示，然后将隐藏层表示输入到编码器的另外两个全连接神经网络分别输出均值和方差，基于均值和方差，添加服从高斯分布的噪声，得到隐藏分布z；

S3、重构特征症状：

将步骤S2生成的隐藏分布输入到解码器得到新生成的数据，该数据为新的症状数据；

S4、构建全连接标签模型：

基于全连接神经网络构建标签信息层，基于标签信息层的权重和偏值，以及隐藏分布构建预测标签的计算模型，即该计算模型得到预测标签；

S5、模型训练：

基于重构误差、散度误差和标签损失误差构建模型，所述重构误差用于保证训练过程中重构数据与原数据相似度；散度误差用于保证生成的隐藏分布满足高斯分布；标签损失误差用于将标签信息引入到模型训练中，使得训练过程中保证生成的分布可以有良好的分类效果；

S6、生成新的特征症状：

模型训练完成后，分离出训练好的编码器，输入生成的特定标签的数据到编码器，并融合随机噪声生成的隐藏分布，把生成的大量分布向量输入到训练好的解码器之中，生成新的样本。

本发明在变分自编码器基础上增加了额外一层全连接神经网络(全连接分类模块)，计算中间隐藏分布所预测的标签和真实标签的误差，从而把标签信息引入到变分自编码器的训练之中，对模型进行优化。模型训练完成，把想要生成的某一个标签数据输入到训练好的编码器之中，得到某一类标签数据的隐藏分布，利用生成的隐藏分布融合随机噪声得到更多的与原分布类似的大量随机分布，并将大量分布向量输入到训练好的解码器之中，生成新的样本，实现样本规模的扩充。

本发明在变分自编码器基础上增加了额外一层全连接神经网络，将预测标签和真实标签之间的误差信息引入到变分自编码器的训练之中，以此达到扩充样本的同时保证扩充样本在下游分类任务的性能，解决了由专业中医师人工处理得到，整个处理过程耗时长，效率低，无法在短时间内处理大量的样本数据的问题，同时，也解决了现有的样本生成模型只关注了生成数据与原数据的相似性，并没有关注生成的数据在下游分类任务的表现的问题。

进一步地，步骤S2中，中间隐藏层表示为h，h的计算公式如下：

h＝Relu(W_hX+b_h)

式中，W_h、b_h代表输出中间隐藏层h神经网络的权重与偏值，Relu代表激活函数。

进一步地，步骤S2中，均值和方差分别为μ和σ，μ和σ的计算公式如下：

σ＝W_σh+b_σ，μ＝W_μh+b_μ

式中，W_σ、b_σ代表输出方差神经网络的权重与偏值，W_μ、b_μ代表输出均值神经网络的权重与偏值。

进一步地，步骤S2中，隐藏分布z的计算公式如下：

z＝μ+σ·ε。

进一步地，步骤S3中，新生成的数据的计算公式如下：

x'_i＝sigmoid(W'z+b')

式中，W'、b'分别代表解码器的权重和偏值，sigmoid代表激活函数。

进一步地，步骤S4中，计算模型如下：

Y'＝soft max(W_cz+b_c)

式中，W_c、b_c代表标签信息层的权重和偏值，soft max代表激活函数，Y'代表预测的标签。

进一步地，步骤S5中，模型如下：

loss＝loss_mes+loss_kl+loss_label

式中，loss_mes表示重构误差；loss_kl表示KL散度误差；loss_label表示标签损失误差。

一种中医辨证数据生成系统，包括：

数据获取与预处理模块：用于采集医案集中的所有症状和证候，形成症状集合和证候集合，同时对医案集中每个医案进行编码处理；

重构模块：包括输入模块、编码器和输出模块；

所述输入模块用于向编码器输入症状数据；

所述编码器包括3个全连接神经网络，其中一个全连接神经网络用于接收症状数据生成中间隐藏层表示，另外两个用于输出均值μ和方差σ；

所述输出模块用于获取编码器输出的均值μ和方差σ，并基于添加服从高斯分布的噪声ε生成隐藏分布z，然后将隐藏分布z输入解码器，得到新生成的症状数据；

标签预测模块：用于向标签信息层输入隐藏分布数据获得预测标签；

训练模块：用于获取重构模块的数据，并基于重构误差、散度误差和标签损失误差进行模型训练。

本发明与现有技术相比，具有如下的优点和有益效果：

1、本发明利用变分自编码达到扩充中医病历数据集的效果，以达到短时间内生成大量数据的目的，解决现有中医数据处理方法耗时长、效率低的问题。

2、本发明将样本数据的标签信息误差引入到变分自编码器的训练之中，生成的数据不仅与原数据类似，同时有助于提升下游分类任务性能。

附图说明

此处所说明的附图用来提供对本发明实施例的进一步理解，构成本申请的一部分，并不构成对本发明实施例的限定。在附图中：

图1为本发明的流程框图；

图2为本发明的模型结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。

实施例1：

如图1-图2所示，一种中医辨证数据生成方法，包括以下步骤：

步骤S1、数据获取与预处理

本是实施例方案使用的原始文本数据来自于中医医院的电子病历数据。由于收集的数据来自临床医生手工录入，存在描述不统一、数据不规范等问题，首先需要进行预处理，由专业的中医师收集，进行清洗、加工处理。数据预处理过程依据中国国家中医药管理局发布的“中医基础理论术语”和“中医临床诊疗术语-证候部分”标准对原始数据进行拆分、替换。例如把“苔厚黄腻”拆分为“舌苔厚、舌苔黄、舌苔腻”，将“咯痰、咳痰”替换为“吐痰”。最终形成300条规范的数据，每条数据包含症状和证型。为了减少数据的稀疏性，选取症状出现次数不小于5的作为输入症状，最终形成169个输入特征。证型包括寒凝血瘀、气滞血瘀、肝胃不和、肝肾亏虚、肾阳亏虚、痰湿困脾、肝郁脾虚、寒湿阻肺8个中医证型。给定一条病历数据，对其中的症状采用0-1编码，表示为169维向量：

X＝[x₁,x₂,x₃...x_i...x₁₆₉]

其中，x_i∈[0,1]，1代表该数据中存在对应症状，0代表改数据中不存在对应症状。

病历数据中的证型采用0、1进行编码，形成8维向量，分别代表8个证型，表示如下:

Y＝[y₁,y₂,y₃...y_i...y₈]

其中，y_i∈[0,1],1代表对应证型存在，0代表对应证型不存在。

编码后的一条病历数据表示为(X,Y)，将编码后的300条病历数据作为本发明的数据集。

步骤S2、构建特征症状的隐藏分布

将症状数据X输入到一个全连接神经网络得到中间隐藏层表示h，将中间隐藏层表示h输入两个全连接神经网络，分别输出均值μ和方差σ，计算公式如下：

h＝Relu(W_hX+b_h)

σ＝W_σh+b_σ

μ＝W_μh+b_μ

其中，W_h、b_h代表输出中间隐藏层h神经网络的权重与偏值，Relu代表激活函数，W_σ、b_σ代表输出方差神经网络的权重与偏值，W_μ、b_μ代表输出均值神经网络的权重与偏值。

添加服从高斯分布的噪声ε，得到隐藏分布z，表示如下：

z＝μ+σ·ε

步骤S3、重构特征症状

解码器采用全连接神经网络，将第2步生成的隐藏分布z输入到解码器，得到新生成的数据X'＝[x'₁,x'₂,x'₃...x'_i...x'₁₆₉]，计算公式如下：

x'_i＝sigmoid(W'z+b')

其中，W'、b'分别代表解码器的权重和偏值，sigmoid代表激活函数。

步骤S4、构建全连接标签模型

引入标签模型，使得生成的数据不仅与原数据类似，而且有助于提升后续分类任务的准确度。标签信息模型采用全连接神经网络结构，计算公式如下：

Y'＝softmax(W_cz+b_c)

其中，W_c、b_c代表标签信息层的权重和偏值，softmax代表激活函数，Y'代表预测的标签。

Y'＝[y'₁,y'₂,y'₃...y'_i...y'₈]

步骤S5、模型训练

模型的损失函数包含三部分，计算如下：

loss＝loss_mes+loss_kl+loss_label

其中，loss_mes表示重构误差，用于保证训练过程中重构数据与原数据相似度；loss_kl表示KL散度误差，用于保证生成的隐藏分布满足高斯分布，loss_label表示标签损失误差，用于将标签信息引入到模型训练中，使得训练过程中保证生成的分布可以有良好的分类效果。loss_mes、loss_kl和loss_label分别计算如下：

loss_mes＝∑(x_i-x_i')²

loss_kl＝-0.5×(1+logσ²-μ²-exp(logσ²))

loss_label＝-∑[y_ilogy_i'+(1-y_i)log(1-y_i')]

步骤S6、生成新的特征症状

模型训练完成后，即可以分离出训练好的编码器，输入想要生成的特定标签的数据到编码器,并融合随机噪声生成大量类似的隐藏分布z，把生成的大量分布向量输入到训练好的解码器之中，生成新的样本，以达到扩充样本的目的。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种中医辨证数据生成方法，其特征在于，包括以下步骤：

S1、数据获取与预处理：

获取医案集中的不同症状并表示为症状集合，获取医案集中的不同证候并表示为证候集合，医案集中每个医案为一个样本，对每个样本采用0-1进行编码，其中，样本中症状为特征，证候为标签；

S2、构建特征症状的隐藏分布：

将症状数据输入到编码器的其中一个全连接神经网络得到中间隐藏层表示，然后将中间隐藏层表示输入到编码器的另外两个全连接神经网络分别输出均值和方差，基于均值和方差，添加服从高斯分布的噪声，得到隐藏分布z；

S3、重构特征症状：

将步骤S2生成的隐藏分布输入到解码器得到新生成的数据，该数据为新的症状数据；

S4、构建全连接标签模型：

基于全连接神经网络构建标签信息层，基于标签信息层的权重和偏值，以及隐藏分布构建预测标签的计算模型，即该计算模型得到预测标签；

S5、模型训练：

基于重构误差、散度误差和标签损失误差构建模型，所述重构误差用于保证训练过程中重构数据与原数据相似度；散度误差用于保证生成的隐藏分布满足高斯分布；标签损失误差用于将标签信息引入到模型训练中，使得训练过程中保证生成的分布有良好的分类效果；

S6、生成新的特征症状：

模型训练完成后，分离出训练好的编码器，输入生成的特定标签的数据到编码器，并融合随机噪声生成的隐藏分布，把生成的大量分布向量输入到训练好的解码器之中，生成新的样本。

2.根据权利要求1所述的一种中医辨证数据生成方法，其特征在于，步骤S2中，中间隐藏层表示为h，h的计算公式如下：

h＝Relu(W_hX+b_h)

式中，W_h、b_h代表输出中间隐藏层h神经网络的权重与偏值，Relu代表激活函数。

3.根据权利要求2所述的一种中医辨证数据生成方法，其特征在于，步骤S2中，均值和方差分别为μ和σ，μ和σ的计算公式如下：

σ＝W_σh+b_σ，μ＝W_μh+b_μ

式中，W_σ、b_σ代表输出方差神经网络的权重与偏值，W_μ、b_μ代表输出均值神经网络的权重与偏值。

4.根据权利要求3所述的一种中医辨证数据生成方法，其特征在于，步骤S2中，隐藏分布z的计算公式如下：

z＝μ+σ·ε。

5.根据权利要求1所述的一种中医辨证数据生成方法，其特征在于，步骤S3中，新生成的数据的计算公式如下：

x′_i＝sigmoid(W'z+b')

式中，W'、b'分别代表解码器的权重和偏值，sigmoid代表激活函数。

6.根据权利要求1所述的一种中医辨证数据生成方法，其特征在于，步骤S4中，计算模型如下：

Y'＝softmax(W_cz+b_c)

式中，W_c、b_c代表标签信息层的权重和偏值，softmax代表激活函数，Y'代表预测的标签。

7.根据权利要求1所述的一种中医辨证数据生成方法，其特征在于，步骤S5中，模型如下：

loss＝loss_mes+loss_kl+loss_label

式中，loss_mes表示重构误差；loss_kl表示KL散度误差；loss_label表示标签损失误差。

8.一种中医辨证数据生成系统，其特征在于，该系统用于执行权利要求1-7任一项所述的中医辨证数据生成方法，包括：

数据获取与预处理模块：用于采集医案集中的所有症状和证候，形成症状集合和证候集合，同时对医案集中每个医案进行编码处理；

重构模块：包括输入模块、编码器和输出模块；

所述输入模块用于向编码器输入症状数据；

所述编码器包括3个全连接神经网络，其中一个全连接神经网络用于接收症状数据生成中间隐藏层表示，另外两个用于输出均值μ和方差σ；

所述输出模块用于获取编码器输出的均值μ和方差σ，并基于添加服从高斯分布的噪声ε生成隐藏分布z，然后将隐藏分布z输入解码器，得到新生成的症状数据；

标签预测模块：用于向标签信息层输入隐藏分布数据获得预测标签；

训练模块：用于获取重构模块的数据，并基于重构误差、散度误差和标签损失误差进行模型训练。

Images