CN116779176A - 基于神经网络深度特征的移植术后慢性肾病样本增广方法 - Google Patents
基于神经网络深度特征的移植术后慢性肾病样本增广方法 Download PDFInfo
- Publication number
- CN116779176A CN116779176A CN202310778241.8A CN202310778241A CN116779176A CN 116779176 A CN116779176 A CN 116779176A CN 202310778241 A CN202310778241 A CN 202310778241A CN 116779176 A CN116779176 A CN 116779176A
- Authority
- CN
- China
- Prior art keywords
- feature
- classifier
- training
- data
- feature vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 208000020832 chronic kidney disease Diseases 0.000 title claims abstract description 34
- 238000000034 method Methods 0.000 title claims abstract description 23
- 238000002054 transplantation Methods 0.000 title claims abstract description 22
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 11
- 238000012549 training Methods 0.000 claims abstract description 45
- 230000003416 augmentation Effects 0.000 claims abstract description 39
- 238000003745 diagnosis Methods 0.000 claims abstract description 22
- 230000000968 intestinal effect Effects 0.000 claims abstract description 17
- 210000003734 kidney Anatomy 0.000 claims abstract description 14
- 239000013598 vector Substances 0.000 claims description 44
- 239000011159 matrix material Substances 0.000 claims description 25
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 5
- 238000012216 screening Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 2
- 238000011156 evaluation Methods 0.000 abstract description 7
- 230000003190 augmentative effect Effects 0.000 abstract description 4
- 238000007418 data mining Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 10
- 230000003321 amplification Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000002513 implantation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 239000002207 metabolite Substances 0.000 description 2
- 244000005700 microbiome Species 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 239000003018 immunosuppressive agent Substances 0.000 description 1
- 229940124589 immunosuppressive drug Drugs 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Epidemiology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- Pathology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Primary Health Care (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
本发明公开了一种基于神经网络深度特征的移植术后慢性肾病样本增广方法,属于数据挖掘和样本增广技术领域。本发明包括:构建数据集,构建包括特征提取器,辅助分类器和特征增广模块的特征增广网络,再基于此构建诊断评估网络,再对所构建的网络进行反向传播训练,以得到用于获取目标对象是否患有移植术后慢性肾病的辅助诊断评估器,进而生成待处理的数据的诊断结果。本发明针对肾移植受者肠道菌群数据较难获取的情况,本发明通过在特征空间上对样本进行增广,然后将增广之后的样本用作后续分类器的训练。与直接训练分类器相比,使得分类器具有更好的泛化性能,从而有效提升了辅助诊断准确率。
Description
技术领域
本发明属于数据挖掘和样本增广技术领域,具体涉及一种基于神经网络深度特征的移植术后慢性肾病样本增广方法。
背景技术
CKD-T(Chronic Kidney Disease after Transplantation),即移植术后慢性肾病,由于肾脏移植和免疫抑制药物的作用导致其整体相对于CKD(Chronic Kidney Disease慢性肾病)死亡风险更高。同时临床对CKD-T病程发展的关键因素尚不清楚,相关机制仍不明确,需要多维度拓展与该疾病的相关研究。
人体肠道微生物与CKD存在互作关系,肠道微生物及代谢物在CKD的发生发展中起到了重要调节作用。因此从肠道菌群的角度探索CKD-T病程发展的机制,可能为临床在肾移植术后的个体化、全周期健康管理提供了可行思路。
近年来,基于统计机器学习的分类方法在许多分类任务上取得了良好的效果。由于大量数据的使用,训练好的模型在验证数据集中具有较好的分类性能和泛化能力。然而,在CKD-T的分析和研究中,收集肾移植受者肠道菌群数据样本是困难且昂贵的,这使得使用统计机器学习方法预测CKD-T分期具有挑战性。因此,在有限的肠道菌群数据样本的收集条件下,对真实的数据样本进行样本增广以获得更多的训练数据具有重要的应用价值。经过增广后的样本可以提升预测模型的分类性能和泛化能力。
发明内容
本发明的目的在于针对现有技术中的不足,提供一种在小样本数据情况下,对肾移植受者肠道菌群数据在特征空间进行样本增广的方法,以增强慢性肾病诊断评估算法模型的泛化性能。
本发明采用的技术方案为:
基于神经网络深度特征的移植术后慢性肾病样本增广方法,该方法包括下列步骤:
步骤1,构建训练数据集;
收集肾移植受者的肠道菌群数据和是否患有移植术后慢性肾病的标签,每位肾移植受者的肠道菌群数据作为一个样本数据,对各样本数据进行数据预处理得到训练样本数据,并为每个训练样本设置对应的标签值;
步骤2,构建基于全连接层的特征提取器,用于提取训练样本数据的特征信息,输出第一特征向量;
步骤3,构建辅助分类器,用于对第一特征向量进行是否患有移植术后慢性肾病的二分类输出;
步骤4,构建特征增广模块,用于在特征空间对第一特征向量进行增广处理,输出第二特征向量,其中,第二特征向量与第一特征向量的特征维度相同;
步骤5,构建分类器,用于对输入的特征向量进行是否患有移植术后慢性肾病的二分类输出;
步骤6,对所构建的特征提取器、辅助分类器、特征增广模块和分类器进行反向传播算法训练,训练时,输入分类的特征向量为第二特征向量;
当满足预置的训练收敛条件时,基于训练好的特征提取器和分类器得到移植术后慢性肾病诊断评估器,用于获取目标对象的辅助诊断结果。即对于待需要获取辅助诊断结果的新数据(数据预处理后的肠道菌群数据),基于训练好的特征提取器和分类器的前向推理计算,即可实现端到端地输出最终的辅助诊断结果。
优选的是,步骤1的数据预处理包括:剔除值全为0的菌群数据,并对数据进行归一化,并基于预置的筛选算法(例如极限树extra-tree)筛选对数据归一化后的菌群数据进行菌群筛选,得到筛选后的菌群。当在基于本发明的移植术后慢性肾病诊断评估器获取当前就评估对象的诊断结果(是否患CKD-T)时,则直接获取所筛选出的这些菌群的数据并进行数据归一化后输入到移植术后慢性肾病诊断评估器中,即可获取到对应的辅助诊断结果。
优选的是,步骤2构建的特征提取器具体为:
训练样本数据分别经两层全连接层得到第一初始特征和第二初始特征;
对第一初始特征和第二初始特征进行通道维度的拼接,再经两层全连接层得到第三初始特征;
将第三初始特征与当前输入特征提取器的训练样本数据相加,再将两层全连接层得到第一特征向量。
优选的是,步骤3构建的辅助分类器为一层带有softmax函数的全连接层,用于输出分类概率。
优选的是,步骤4构建的特征增广模块具体为:计算第一特征向量的协方差矩阵,并以此构建一个多元随机变量,按照给定的上采样比例得到增广之后的第二特征向量。
进一步的,特征增广模块在特征空间对第一特征向量进行增广的具体为:
定义第一特征向量的特征维度为M,输入特征提取器的训练样本数据数目为N;
基于N个第一特征向量组成N×M的特征矩阵F,并提取特征矩阵F的协方差矩阵COV,维度为M×M;
遍历特征矩阵F的每一行F[i],将当前F[i]作为均值向量,a×COV作为新的协方差矩阵构建一个多元高斯分布,在该高斯分布下采样p个向量,将采样得到的p个向量和原来的特征矩阵F构成新的特征矩阵其维度为(N+N×p)×M;特征矩阵/>的每一行对应一个第二特征向量;其中,超参数a的取值为(0,1),为了防止增广生成的特征偏差过大,优选的a取0.3;p为预设值,基于实际应用需求进行设置即可。
优选的是,步骤5构建的分类器包括两层全连接层,其中最后一层全连接层带有softmax函数,用于输出分类概率。
优选的是,步骤6中的反向传播算法训练具体为:
将训练分为两个阶段:
第一阶段训练的对象包括:特征提取器、辅助分类器和分类器;
第二阶段训练时,固定特征提取器的网络参数,对特征提取器、特征增广模块和分类器构成的网络进行训练,即仅训练分类器的网络参数。
例如对于训练轮次数为K的训练,在前K/2轮次(若K为奇数,则对K/2向上或向下取整即可)只训练特征提取器、辅助分类器和分类器;对后K/2轮次,则只训练分类器的网络参数。
优选的,第一阶段训练的总损失函数为辅助分类器和分类器的分类输出损失(优选交叉熵损失函数)的加权和,其中,两者的权重可均设置为0.5:第二阶段训练的总损失函数为分类器的分类输出损失。
此外,本发明还可以提供一种计算机设备(即基于神经网络深度特征的移植术后慢性肾病样本增广装置),该装置包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以实现上述步骤1至步骤6。即实现本发明的基于神经网络深度特征的移植术后慢性肾病样本增广方法的上述任一一种方式。
本发明提供的技术方案至少带来如下有益效果:
针对肾移植受者肠道菌群数据较难获取的情况,本发明通过在特征空间上对样本进行增广,然后将增广之后的样本用作后续分类器的训练。与直接训练分类器相比,由于数据量较少,得到的分类器可能因泛化性能不足从而导致分类性能较差;而对数据在特征空间进行增广则提供了更多的样本,使得分类器具有更好的泛化性能,从而提升诊断准确率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本发明实施例中基于神经网络深度特征的移植术后慢性肾病样本增广方法的流程图。
图2为本发明实施例中构建的一个慢性肾病诊断评估网络的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
针对肾移植受者肠道菌群数据获取困难的问题,本发明提供一种基于神经网络深度特征的移植术后慢性肾病样本增广方法。
如图1所示,本发明实施例包含以下步骤:
步骤一:构建数据集,收集肾移植受者的肠道菌群数据和标签,进行数据预处理形成数据集。
本实施例中数据集由50个样本组成,数据维度为50*10947,每一行对应着一个样本,每一列对应一种菌群的数据。其中患有CKD-T的有30人,未患的有20人。数据集包括样本的肠道菌群数据和样本的真实标签。使用的预处理包括:共396种菌群数据值为0,将这些菌群数据剔除,将数据归一化,最终得到的数据维度是50*10551;然后使用extra-tree筛选菌群,得到25个CKD-T与受者肠道菌群及代谢产物互作的关键节点和组学数据。所以最终的数据集维度是50*25;
步骤二:构建特征提取器;
构建特征提取器,每一层均是全连接层,如图2左侧所示(图中的数字表示各层的特征维度),输入的特征在上支路先被映射到30维,再映射回25维;在下支路通过两层全连接层把25维的输入数据映射到15维,再把上支路和下支路的输出拼接到一起,得到40维的特征。紧接着通过一层全连接层映射得到25维的特征,将得到的25维特征和输入的25维数据加在一起得到25维的特征。最后将得到的25维特征经过两层全连接网络得到10维的特征,这就是特征提取器的输出特征;
步骤三:构建辅助分类器;
构建辅助分类器,为一层全连接层,如图2中间部分所示,辅助分类器将输入的10维的特征映射到1维,最后使用softmax函数输出概率,辅助分类器是为了使得特征提取器提取到的特征在特征空间具有区分性,从而加强增广的效果;
步骤四:构建特征增广模块;
特征增广模块将计算输入特征向量的协方差矩阵,并以此构建一个多元高斯随机变量,按照给定的上采样比例得到相应的增广结果。在特征空间对样本进行增广的具体步骤为:假设特征提取器提取得到的特征矩阵F是一个N*M的矩阵(其中N是输入特征提取器的样本数目,而M是第一特征向量的维度,也即菌群的数目),对提取到的特征向量计算它们的协方差矩阵COV,维度是M*M,然后遍历每个F[i],以其作为均值向量,a*COV作为协方差矩阵(a为一个超参数,防止增广生成的特征偏差过大,优选的a取0.3),构建一个多元高斯分布,在这个高斯分布下采样p个向量,将采样得到的p个向量和原来的F拼接构成新的特征矩阵其维度为(N+N*p)*M。特征矩阵/>的每一行即对应一个第二特征向量。
步骤五:将所述特征增广模块和辅助分类器插入到所述特征提取器,构建特征增广网络;
步骤六:构建分类器,如图2右侧所示,分类器将输入的10维特征经过一层全连接层映射到5维,紧接着再通过一层全连接层将其映射成1维,最后用softmax函数输出概率。将分类器插入到特征增广网络,特征提取器、辅助分类器、特征增广模块、分类器构成慢性肾病诊断评估网络;
步骤七:利用反向传播算法训练网络。
总共训练100个epoch,前50轮不使用特征增广,对整个网络进行训练。后50轮,固定特征提取器的参数,使用特征增广,只训练分类器。
训练时的总损失函数Ltotal的定义如下:
Ltotal=0.5*Lmid+0.5*Lclf(前50轮)或Lclf(后50轮)
其中,mi和xi分别表示所述辅助分类器和分类器的输出概率,yi表示样本i的真实标签(是否患病的标签)。Lmid表示辅助分类器的分类输出损失,Lclf表示分类器的分类输出损失。
在训练数据集上训练100轮,前50轮不使用特征增广,特征提取器提取到的特征直接送入分类器,损失函数使用Ltotal=0.5*Lmid+0.5*Lclf,优化器采用RMS,初始学习率为1e-4,对整个网络进行训练;后50轮,损失函数使用Ltotal=Lclf,优化器采用RMS,初始学习率为1e-4,固定特征提取器的参数,使用特征增广,特征提取到的特征先送入特征增广模块,增广之后的样本再送入分类器,训练后面的分类器,更新模型参数,得到训练好的特征提取器和慢性肾病诊断评估网络;
步骤八:输入新的数据,将数据归一化,使用已经训练好的网络进行前向推理(不使用特征增广),端到端地输出最终的诊断结果。
为了进一步验证本发明方法的对CKD-T的辅助诊断的准确性的提升性能,本发明进行采用与不采用本发明的特征增广模块的对比实验,实验结果如表1所示:
表1
实验序号 | 使用特征增广的auc | 不使用增广的auc |
1 | 0.8938 | 0.6423 |
2 | 0.8990 | 0.6437 |
3 | 0.8923 | 0.6423 |
4 | 0.9050 | 0.6233 |
5 | 0.8886 | 0.6385 |
6 | 0.8990 | 0.6437 |
7 | 0.8923 | 0.6423 |
表1中的AUC(area under curve)是ROC曲线下与坐标轴围成的面积,ROC曲线是接收者操作特征曲线。基于表1所呈现的实验测试结果可知,本发明提出的基于神经网络深度特征的移植术后慢性肾病样本增广方法有效提升了慢性肾病诊断评估网络的泛化性能,且计算复杂度也在允许范围内。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
以上所述的仅是本发明的一些实施方式。对于本领域的普通技术人员来说,在不脱离本发明创造构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。
Claims (9)
1.基于神经网络深度特征的移植术后慢性肾病样本增广方法,其特征在于,包括下列步骤;
步骤1,构建训练数据集;
收集肾移植受者的肠道菌群数据和是否患有移植术后慢性肾病的标签,每位肾移植受者的肠道菌群数据作为一个样本数据,对各样本数据进行数据预处理得到训练样本数据,并为每个训练样本设置对应的标签值;
步骤2,构建基于全连接层的特征提取器,用于提取训练样本数据的特征信息,输出第一特征向量;
步骤3,构建辅助分类器,用于对第一特征向量进行是否患有移植术后慢性肾病的二分类输出;
步骤4,构建特征增广模块,用于在特征空间对第一特征向量进行增广处理,输出第二特征向量,其中,第二特征向量与第一特征向量的特征维度相同;
步骤5,构建分类器,用于对输入的特征向量进行是否患有移植术后慢性肾病的二分类输出;
步骤6,对所构建的特征提取器、辅助分类器、特征增广模块和分类器进行反向传播算法训练,训练时,输入分类的特征向量为第二特征向量;
当满足预置的训练收敛条件时,基于训练好的特征提取器和分类器得到移植术后慢性肾病诊断评估器,用于获取目标对象的辅助诊断结果。
2.如权利要求1所述的方法,其特征在于,步骤1的数据预处理包括:剔除值全为0的菌群数据,并对数据进行归一化,并基于预置的筛选算法对数据归一化后的菌群数据进行菌群筛选,得到筛选后的菌群。
3.如权利要求1所述的方法,其特征在于,步骤2构建的特征提取器具体为:
训练样本数据分别经两层全连接层得到第一初始特征和第二初始特征;
对第一初始特征和第二初始特征进行通道维度的拼接,再经两层全连接层得到第三初始特征;
将第三初始特征与当前输入特征提取器的训练样本数据相加,再将两层全连接层得到第一特征向量。
4.如权利要求1所述的方法,其特征在于,步骤3构建的辅助分类器为一层带有softmax函数的全连接层,用于输出分类概率。
5.如权利要求1所述的方法,其特征在于,步骤4构建的特征增广模块具体为:计算第一特征向量的协方差矩阵,并以此构建一个多元高斯随机变量,按照给定的上采样比例得到增广之后的第二特征向量。
6.如权利要求5所述的方法,其特征在于,特征增广模块在特征空间对第一特征向量进行增广的具体为:
定义第一特征向量的特征维度为M,输入特征提取器的训练样本数据数目为N;
基于N个第一特征向量组成N×M的特征矩阵F,并提取特征矩阵F的协方差矩阵COV,维度为M×M;
遍历特征矩阵F的每一行F[i],将当前F[i]作为均值向量,a×COV作为新的协方差矩阵构建一个多元高斯分布,在该高斯分布下采样p个向量,将采样得到的p个向量和原来的特征矩阵F构成新的特征矩阵其维度为(N+N×p)×M;特征矩阵/>的每一行对应一个第二特征向量;其中,超参数a的取值为(0,1),p为预设值。
7.如权利要求1所述的方法,其特征在于,步骤5构建的分类器包括两层全连接层,其中最后一层全连接层带有softmax函数,用于输出分类概率。
8.如权利要求1所述的方法,其特征在于,步骤6中的反向传播算法训练具体为:
将训练分为两个阶段:
第一阶段训练的对象包括:特征提取器、辅助分类器和分类器;
第二阶段训练时,固定特征提取器的网络参数,对特征提取器、特征增广模块和分类器构成的网络进行训练,即仅训练分类器的网络参数。
9.如权利要求8所述的方法,其特征在于,第一阶段训练的总损失函数为辅助分类器和分类器的分类输出损失的加权和:第二阶段训练的总损失函数为分类器的分类输出损失。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310778241.8A CN116779176A (zh) | 2023-06-29 | 2023-06-29 | 基于神经网络深度特征的移植术后慢性肾病样本增广方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310778241.8A CN116779176A (zh) | 2023-06-29 | 2023-06-29 | 基于神经网络深度特征的移植术后慢性肾病样本增广方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116779176A true CN116779176A (zh) | 2023-09-19 |
Family
ID=87994368
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310778241.8A Pending CN116779176A (zh) | 2023-06-29 | 2023-06-29 | 基于神经网络深度特征的移植术后慢性肾病样本增广方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116779176A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117435993A (zh) * | 2023-11-01 | 2024-01-23 | 北京大学 | 基于数据增强和对抗优化的跨病人癫痫脑电信号分类方法 |
-
2023
- 2023-06-29 CN CN202310778241.8A patent/CN116779176A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117435993A (zh) * | 2023-11-01 | 2024-01-23 | 北京大学 | 基于数据增强和对抗优化的跨病人癫痫脑电信号分类方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110728224B (zh) | 一种基于注意力机制深度Contourlet网络的遥感图像分类方法 | |
CN110427846B (zh) | 一种利用卷积神经网络对不平衡小样本的人脸识别方法 | |
Basu et al. | COVID-19 detection from CT scans using a two-stage framework | |
CN112241766A (zh) | 基于样本生成和迁移学习的肝脏ct图像多病变分类方法 | |
CN111914728A (zh) | 高光谱遥感影像半监督分类方法、装置及存储介质 | |
CN111414928A (zh) | 一种人脸图像数据生成方法、装置及设备 | |
CN113743353B (zh) | 空间、通道和尺度注意力融合学习的宫颈细胞分类方法 | |
CN116779176A (zh) | 基于神经网络深度特征的移植术后慢性肾病样本增广方法 | |
Zhou et al. | Online filter weakening and pruning for efficient convnets | |
Xiao et al. | Leaf disease detection based on lightweight deep residual network and attention mechanism | |
CN110136113B (zh) | 一种基于卷积神经网络的阴道病理图像分类方法 | |
Liu et al. | DS-MENet for the classification of citrus disease | |
Zhou et al. | Identification of Rice Leaf Disease Using Improved ShuffleNet V2. | |
CN112489689B (zh) | 基于多尺度差异对抗的跨数据库语音情感识别方法及装置 | |
CN114065831A (zh) | 基于多尺度随机深度残差网络的高光谱图像分类方法 | |
CN116129193B (zh) | 一种类器官生长预测方法、系统及设备 | |
Wang et al. | Classification of histopathologic images of breast cancer by multi-teacher small-sample knowledge distillation | |
CN115700104B (zh) | 基于多尺度原型学习的本身可解释的脑电信号分类方法 | |
CN115590530B (zh) | 跨对象目标域代理子域适应方法、系统及介质 | |
CN114224354B (zh) | 心律失常分类方法、装置及可读存储介质 | |
CN116580279A (zh) | 基于混合自注意力机制的番茄病害检测方法及系统 | |
Gong et al. | A superpixel segmentation algorithm based on differential evolution | |
CN115987730A (zh) | 基于树状感知融合卷积网络的信号调制识别方法 | |
CN114549962A (zh) | 一种园林植物叶病分类方法 | |
Thangaraj et al. | Classification of rice leaf diseases using deep learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |