CN115880277A - 基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 - Google Patents
基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 Download PDFInfo
- Publication number
- CN115880277A CN115880277A CN202310026481.2A CN202310026481A CN115880277A CN 115880277 A CN115880277 A CN 115880277A CN 202310026481 A CN202310026481 A CN 202310026481A CN 115880277 A CN115880277 A CN 115880277A
- Authority
- CN
- China
- Prior art keywords
- swin
- image
- layer
- stage module
- full
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
Abstract
本发明公开了一种基于SwinTransformer和弱监督的胃癌病理全切片T分期类别预测方法,包括:1、图像采集和预处理;2、建立能预测图像块阴阳性类别的第一SwinTransformer模型;3、离线训练第一SwinTransformer模型;4、利用训练好的第一SwinTransformer模型剔除阴性图像块,利用剩余阳性图像块生成T分期图像块数据集;5、建立能预测全切片T分期类别的第二SwinTransformer模型;6、离线训练第二SwinTransformer模型;7、利用两个训练好的SwinTransformer模型对胃癌组织病理全切片T分期类别进行预测。
Description
技术领域
本发明涉及胃癌组织病理学T分期领域,具体涉及一种基于Swin Transformer和弱监督学习的胃癌组织病理全切片T分期类别预测方法。
背景技术
传统病理分析诊断需专业的病理医师在显微镜下观察数以万计的细胞和组织,但与疾病相关的目标组织区域及细胞仅占极小部分,大量冗余信息会加重病理医师的工作负担,以至于出现漏诊、误诊等多种严重情况。
发明内容
本发明为克服现有技术的不足之处,提出一种基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,以期能精准高效地实现胃癌组织病理T分期类别的预测,从而有助于病理医师快速进行判断和筛选,以减轻工作负担。
本发明为达到上述发明目的,采用如下技术方案:
本发明一种基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法的特点是按照如下步骤进行:
步骤1、图像采集和预处理:
步骤1.1、获取具有类别标签的胃癌组织病理全切片图像数据集并进行预处理,得到预处理后的全切片图像数据集X={X1,X2,...,Xn,...,XN}与对应标签Y={Y1,Y2,...,Yn,...,YN},其中,Xn表示第n张全切片图像,Yn表示第n张全切片图像Xn对应的类别标签;Ym∈{1,2,…,α};α表示类别等级;当Ym=1时,表示Xn为阴性全切片图像,当Ym≠1,表示Xn为阳性全切片图像;
步骤1.2、去除第n张全切片图像Xn的空白背景后进行分块处理,得到S个图像块,记为其中,/>表示第n张全切片图像Xn的第i个图像块,c表示图像块的通道数,p×p表示每个图像块的宽度和高度;/>表示第i个图像块/>对应的类别标签;当/>表示/>为阴性图像块,即/>当/>时,表示/>为阳性图像块,即i=1,2,…,S;S表示图像块的数量;
步骤3、离线训练第一Swin Transformer模型:
利用式(11)构建交叉熵损失函数L,并利用梯度下降算法训练第一SwinTransformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第一SwinTransformer模型;
步骤4、利用训练好的第一Swin Transformer模型剔除阴性图像块,利用剩余的阳性图像块生成T分期图像块数据集:
步骤4.1、从预处理后的全切片图像数据集X中提取类别标签不为“1”的全切片图像,从而得到筛选后的全切片图像数据集X′={X1′,X2′,...,X′m,...,X′M}及其对应标签Y′={Y1′,Y2′,...,Ym′,...,YM′};其中,X′m表示第m张筛选后的全切片图像,Ym′表示X′m对应的类别标签;
步骤4.2、去除第m张筛选后的全切片图像X′m的空白背景后进行分块处理,得到Q个图像块及其类别标签,记为其中,/>表示第m张筛选后的全切片图像X′m的第q个图像块,/>表示第q个图像块/>对应的类别标签,/>q=1,2,…,Q;Q表示图像块的数量;
步骤4.3、第m张筛选后的全切片图像X′m的Q个图像块输入能预测图像块阴阳性类别的训练好的Swin Transformer模型中进行处理,以剔除阴性图像块,从而得到由阳性图像块构成的T分期图像块数据集,记为/>其中,/>表示第m张筛选后的全切片图像X′m剔除阴性图像块后的第k个图像块,/>表示第k个图像块/>对应的类别标签,/>k=1,2,…,K;K表示图像块的数量;
步骤5、建立能预测全切片T分期类别的第二Swin Transformer模型,并用于得到第m张全切片X′m的输出结果pm∈{2,…,α};
步骤6、离线训练第二Swin Transformer模型:
利用式(20)构建交叉熵损失函数L,并利用梯度下降算法训练第二SwinTransformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第二SwinTransformer模型;
式(20)中,ym为第m张全切片X′m对应的T分期类别标签;
步骤7、利用两个训练好的Swin Transformer模型对胃癌组织病理全切片T分期类别进行预测:
步骤7.1、获取待预测的一张组织病理全切片图像并去除空白背景区域后分块处理,得到多个图像块序列(x1,x2,…,xj,…,xm);其中,xj表示待预测的组织病理全切片图像中第j个图像块;
步骤7.2、将图像块序列(x1,x2,…,xj,…,xm)送入能预测图像块阴阳性类别的训练后的第一Swin Transformer模型中进行图像块类别的预测,并剔除阴性图像块,从而得到阳性图像块序列(x1′,x′2,…,x′j,…,x′n),其中,x′j表示待预测的组织病理全切片图像剔除阴性图像块后的图像块序列中第j个图像块;计算阳性图像块的占比并与所设定的分类阈值t进行比较,若tpos≥t,则表示待预测的组织病理全切片图像为阳性,并执行步骤7.3;否则,表示待预测的组织病理全切片图像为阴性,即全切片类别为“1”;
步骤7.3、将阳性图像块序列(x1′,x′2,…,x′j,…,x′n)输入所述能预测全切片T分期类别的训练后的第二Swin Transformer模型中进行处理,从而得到待预测的组织病理全切片图像的T分期类别。
本发明所述的基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,的特点也在于,所述步骤2中的第一Swin Transformer模型由第一分块层、第一Stage模块、第二Stage模块、第三Stage模块、第四Stage模块、第一归一化层、第一池化层和第一分类层构成,其中,第一Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个Swin Transformer块;
所述步骤2.3是按照如下步骤进行:
步骤2.3.1、利用式(1)得到基于窗口的第l层多头自注意力层的输出zl′;
zl′=W_MSA(LN(zl-1))+zl-1(1)
步骤2.3.2、利用式(2)得到第l层多层感知器的输出特征图zl;
zl=MLP(LN(zl′))+zl′(2)
式(2)中,MLP(·)表示多层感知器的处理;
步骤2.3.3、利用式(3)得到基于移动窗口的第l层多头自注意力层的输出zl′+1;
zl′+1=SW_MSA(LN(zl))+zl(3)
式(3)中,SW_MSA(·)表示基于移动窗口的多头自注意力层的处理;
步骤2.3.4、利用式(4)得到第l层多层感知器的输出特征图zl+1;
zl+1=MLP(LN(zl′+1))+zl′+1(4)
式(4)中,MLP(·)表示多层感知器的处理;
所述步骤5中的第二Swin Transformer模型由第二分块层、第五Stage模块、第六Stage模块、第七Stage模块、第八Stage模块、第二归一化层、第二池化层、特征编码层、注意力机制层、特征聚合层和第二分类层构成,其中,第五Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个SwinTransformer块:
步骤5.15、所述第二分类层对聚合后的特征Hm进行线性变换,得到第m张全切片X′m的输出结果pm∈{2,…,α}。
本发明一种电子设备,包括存储器以及处理器的特点在于,所述存储器用于存储支持处理器执行任一所述基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
本发明一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序的特点在于,所述计算机程序被处理器运行时执行任一所述基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法的步骤。
与已有技术相比,本发明具有如下优点:
1.本发明使用Swin Transformer模型等人工智能技术,实现了胃癌组织病理全切片T分期的准确、高效预测,并且通过弱监督学习机制仅利用全切片级别标签进行分类建模,克服了病理全切片图像精细标注代价大的问题,能够减轻病理医师阅片负担,具有一定临床应用价值;
2.本发明利用使用Swin Transformer模型对胃癌组织病理全切片图像进行特征学习,不仅拥有全局动态自适应建模的能力,而且通过移位窗口机制实现了关注局部特征的能力,从而提高了全切片病变组织特征表示能力,改善了T分期预测效果;
3.本发明使用两阶段的Swin Transformer模型构成主干网络,第一个视觉转换器完成胃癌组织病理全切片图像阴阳性分类并提取出阳性图像块,第二个视觉转换器只对阳性图像块进行特征提取,并进行T分期预测,有效降低伪标签的错误率,提升了模型的鲁棒性,提高了预测的准确度。
附图说明
图1为本发明方法的模型结构图;
图2为本发明方法的总体流程框图。
具体实施方式
本实施例中,一种基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,如图1所示,按照如下步骤进行,其总体训练预测流程如图2所示:
步骤1、图像采集和预处理:
步骤1.1、获取具有类别标签的胃癌组织病理全切片图像数据集并进行预处理,得到预处理后的全切片图像数据集X={X1,X2,...,Xn,...,XN}与对应标签Y={Y1,Y2,...,Yn,...,YN},其中,Xn表示第n张全切片图像,Yn表示第n张全切片图像Xn对应的类别标签;Ym∈{1,2,…,α};α表示类别等级;当Ym=1时,表示Xn为阴性全切片图像,当Ym≠1,表示Xn为阳性全切片图像;本实施例中使用的数据标签包含T0、T1、T2、T3和Tis这5个类别,即1为T0,其余为T1~Tis。所有数据的70%作为训练集,30%数据用于测试。
步骤1.2、去除第n张全切片图像Xn的空白背景后进行分块处理,得到S个图像块,记为其中,/>表示第n张全切片图像Xn的第i个图像块,c表示图像块的通道数,p×p表示每个图像块的宽度和高度;/>表示第i个图像块/>对应的类别标签;/>当/>时,表示/>为阴性图像块,即/>当/>时,表示/>为阳性图像块,即i=1,2,…,S;S表示图像块的数量;本实施例中,输入图像块尺寸为224×224,因此p=224,且c=3。S=500。
步骤2、建立能预测图像块阴阳性类别的第一Swin Transformer模型,第一SwinTransformer模型由第一分块层、第一Stage模块、第二Stage模块、第三Stage模块、第四Stage模块、第一归一化层、第一池化层和第一分类层构成,其中,第一Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个Swin Transformer块:
步骤2.3、第一Stage模块中Swin Transformer块的处理:
步骤2.3.1、利用式(1)得到基于窗口的第l层多头自注意力层的输出zl′;
zl′=W_MSA(LN(zl-1))+zl-1(1)
步骤2.3.2、利用式(2)得到第l层多层感知器的输出特征图zl;
zl=MLP(LN(zl′))+zl′(2)
式(2)中,MLP(·)表示多层感知器的处理;
步骤2.3.3、利用式(3)得到基于移动窗口的第l层多头自注意力层的输出zl′+1;
zl′+1=SW_MSA(LN(zl))+zl(3)
式(3)中,SW_MSA(·)表示基于移动窗口的多头自注意力层的处理;
步骤2.3.4、利用式(4)得到第l层多层感知器的输出特征图zl+1;
zl+1=MLP(LN(zl′+1))+zl′+1(4)
式(4)中,MLP(·)表示多层感知器的处理;
步骤2.3.5、按照步骤2.3.1-2.3.4的过程进行L层处理后,最终由第L层多层感知器的输出特征图,并作为第一Stage模块的输出特征图,记为本实施例中,第一Stage模块中Swin Transformer块中,L=2。
步骤2.5、第二Stage模块中Swin Transformer块按照步骤2.3的过程对进行处理,得到第二Stage模块的输出特征图/>本实施例中,第二Stage模块中SwinTransformer块中,L=2。
步骤2.7、第三Stage模块中的Swin Transformer块按照步骤2.3的过程对进行处理,得到第三Stage模块的输出特征图/>本实施例中,第三Stage模块中Swin Transformer块中,L=6。
步骤2.9、第四Stage模块中的Swin Transformer块按照步骤2.3的过程对进行处理,得到第四Stage模块的输出特征图/>本实施例中,第四Stage模块中Swin Transformer块中,L=2。
步骤3、离线训练第一Swin Transformer模型:
利用式(11)构建交叉熵损失函数L,并利用梯度下降算法训练第一SwinTransformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第一SwinTransformer模型;
式(11)中,为图像块对应的阴阳性伪标签,S为图像块总数。本实施例中采用Adam优化器对损失值L进行优化求解,从而调整能预测图像块阴阳性类别的第一SwinTransformer模型的所有参数,并得到能预测图像块阴阳性类别的第一Swin Transformer模型。
步骤4、利用训练好的第一Swin Transformer模型剔除阴性图像块,利用剩余阳性图像块生成T分期图像块数据集:
步骤4.1、从预处理后的全切片图像数据集X中提取类别标签不为“1”的全切片图像,从而得到筛选后的全切片图像数据集X′={X1′,X2′,...,X′m,...,X′M}及其对应标签Y′={Y1′,Y2′,...,Ym′,...,YM′};其中,X′m表示第m张筛选后的全切片图像,Ym′表示X′m对应的类别标签;
步骤4.2、去除第m张筛选后的全切片图像X′m的空白背景后进行分块处理,得到Q个图像块及其类别标签,记为其中,/>表示第m张筛选后的全切片图像X′m的第q个图像块,/>表示第q个图像块/>对应的类别标签,/>q=1,2,…,Q;Q表示图像块的数量;
步骤4.3、第m张筛选后的全切片图像X′m的Q个图像块输入能预测图像块阴阳性类别的训练好的Swin Transformer模型中进行处理,以剔除阴性图像块,从而得到由阳性图像块构成的T分期图像块数据集,记为/>其中,/>表示第m张筛选后的全切片图像X′m剔除阴性图像块后的第k个图像块,/>表示第k个图像块/>对应的类别标签,/>k=1,2,…,K;K表示图像块的数量;
步骤5、建立能预测全切片T分期类别的第二Swin Transformer模型,第二SwinTransformer模型由第二分块层、第五Stage模块、第六Stage模块、第七Stage模块、第八Stage模块、第二归一化层、第二池化层、特征编码层、注意力机制层、特征聚合层和第二分类层构成,其中,第五Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个Swin Transformer块:
第五Stage模块中Swin Transformer块的处理:
步骤5.3.1、利用式(12)得到基于窗口的第l层多头自注意力层的输出sl′;
sl′=W_MSA(LN(sl-1))+sl-1(12)
步骤5.3.2、利用式(13)得到第l层多层感知器的输出特征图sl;
sl=MLP(LN(sl′))+sl′(13)
式(13)中,MLP(·)表示多层感知器的处理;
步骤5.3.3、利用式(14)得到基于移动窗口的第l层多头自注意力层的输出sl′+1;
sl′+1=SW_MSA(LN(sl))+sl(14)
式(14)中,SW_MSA(·)表示基于移动窗口的多头自注意力层的处理;
步骤5.3.4、利用式(15)得到第l层多层感知器的输出特征图sl+1;
sl+1=MLP(LN(sl′+1))+sl′+1(15)
式(15)中,MLP(·)表示多层感知器的处理;
步骤5.3.5、按照步骤5.3.1-5.3.4的过程进行L层处理后,最终由第L层多层感知器的输出特征图,并作为第五Stage模块的输出特征图,记为本实施例中,第五Stage模块中Swin Transformer块中L=2。
步骤5.5、第六Stage模块中Swin Transformer块按照步骤5.3的过程对进行处理,得到第六Stage模块的输出特征图/>本实施例中,第六Stage模块中Swin Transformer块中,L=2。
步骤5.7、第七Stage模块中的Swin Transformer块按照步骤5.3的过程对进行处理,得到第七Stage模块的输出特征图/>本实施例中,第七Stage模块中Swin Transformer块中,L=6。
步骤5.9、第八Stage模块中的Swin Transformer块按照步骤5.3的过程对进行处理,得到第八Stage模块的输出特征图/>本实施例中,第八Stage模块中Swin Transformer块中,L=6。
步骤5.15、所述第二分类层对聚合后的特征Hm进行线性变换,得到第m张全切片X′m的输出结果pm∈{2,…,α};
步骤6、离线训练第二Swin Transformer模型:
利用式(20)构建交叉熵损失函数L,并利用梯度下降算法训练第二SwinTransformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第二SwinTransformer模型;
式(20)中,ym为第m张全切片X′m对应的T分期类别标签;本实施例中,采用Adam优化器对损失值L进行优化求解,从而调整能预测全切片T分期类别的第二Swin Transformer模型的所有参数,并得到能预测全切片T分期类别的第二Swin Transformer模型。
步骤7、利用两个训练好的Swin Transformer模型对胃癌组织病理全切片T分期类别进行预测:
步骤7.1、获取待预测的一张组织病理全切片图像并去除空白背景区域后分块处理,得到多个图像块序列(x1,x2,…,xj,…,xm);其中,xj表示待预测的组织病理全切片图像中第j个图像块;
步骤7.2、将图像块序列(x1,x2,…,xj,…,xm)送入能预测图像块阴阳性类别的训练后的第一Swin Transformer模型中进行图像块类别的预测,并剔除阴性图像块,从而得到阳性图像块序列(x1′,x′2,…,x′j,…,x′n),其中,x′j表示待预测的组织病理全切片图像剔除阴性图像块后的图像块序列中第j个图像块;计算阳性图像块的占比并与所设定的分类阈值t进行比较,若tpos≥t,则表示待预测的组织病理全切片图像为阳性,执行步骤7.3;否则,表示待预测的组织病理全切片图像为阴性,即全切片类别为“1”;
步骤7.3、将阳性图像块序列(x1′,x′2,…,x′j,…,x′n)输入所述能预测全切片T分期类别的训练后的第二Swin Transformer模型中进行处理,从而得到待预测的组织病理全切片图像的T分期类别。
本实施例中,一种电子设备,包括存储器以及处理器,该存储器用于存储支持处理器执行上述胃癌组织病理全切片T分期类别预测方法的程序,该处理器被配置为用于执行该存储器中存储的程序。
本实施例中,一种计算机可读存储介质,是在计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述胃癌组织病理全切片T分期类别预测方法的步骤。
Claims (6)
1.一种基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,其特征在于,是按照如下步骤进行:
步骤1、图像采集和预处理:
步骤1.1、获取具有类别标签的胃癌组织病理全切片图像数据集并进行预处理,得到预处理后的全切片图像数据集X={X1,X2,...,Xn,...,XN}与对应标签Y={Y1,Y2,...,Yn,...,YN},其中,Xn表示第n张全切片图像,Yn表示第n张全切片图像Xn对应的类别标签;Ym∈{1,2,…,α};α表示类别等级;当Ym=1时,表示Xn为阴性全切片图像,当Ym≠1,表示Xn为阳性全切片图像;
步骤1.2、去除第n张全切片图像Xn的空白背景后进行分块处理,得到S个图像块,记为其中,/>表示第n张全切片图像Xn的第i个图像块,c表示图像块的通道数,p×p表示每个图像块的宽度和高度;/>表示第i个图像块/>对应的类别标签;/>当时,表示/>为阴性图像块,即/>当/>时,表示/>为阳性图像块,即S表示图像块的数量;
步骤3、离线训练第一Swin Transformer模型:
利用式(11)构建交叉熵损失函数L,并利用梯度下降算法训练第一Swin Transformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第一Swin Transformer模型;
步骤4、利用训练好的第一Swin Transformer模型剔除阴性图像块,利用剩余的阳性图像块生成T分期图像块数据集:
步骤4.1、从预处理后的全切片图像数据集X中提取类别标签不为“1”的全切片图像,从而得到筛选后的全切片图像数据集X′={X′1,X′2,...,X′m,...,X′M}及其对应标签Y′={Y′1,Y′2,...,Y′m,...,Y′M};其中,X′m表示第m张筛选后的全切片图像,Y′m表示X′m对应的类别标签;
步骤4.2、去除第m张筛选后的全切片图像X′m的空白背景后进行分块处理,得到Q个图像块及其类别标签,记为其中,/>表示第m张筛选后的全切片图像X′m的第q个图像块,/>表示第q个图像块/>对应的类别标签,/> Q表示图像块的数量;
步骤4.3、第m张筛选后的全切片图像X′m的Q个图像块输入能预测图像块阴阳性类别的训练好的Swin Transformer模型中进行处理,以剔除阴性图像块,从而得到由阳性图像块构成的T分期图像块数据集,记为/>其中,/>表示第m张筛选后的全切片图像X′m剔除阴性图像块后的第k个图像块,/>表示第k个图像块/>对应的类别标签,/>K表示图像块的数量;
步骤5、建立能预测全切片T分期类别的第二Swin Transformer模型,并用于得到第m张全切片X′m的输出结果pm∈{2,…,α};
步骤6、离线训练第二Swin Transformer模型:
利用式(20)构建交叉熵损失函数L,并利用梯度下降算法训练第二Swin Transformer模型,使得交叉熵损失函数L达到收敛,从而得到训练好的第二Swin Transformer模型;
式(20)中,ym为第m张全切片X′m对应的T分期类别标签;
步骤7、利用两个训练好的Swin Transformer模型对胃癌组织病理全切片T分期类别进行预测:
步骤7.1、获取待预测的一张组织病理全切片图像并去除空白背景区域后分块处理,得到多个图像块序列(x1,x2,…,xj,…,xm);其中,xj表示待预测的组织病理全切片图像中第j个图像块;
步骤7.2、将图像块序列(x1,x2,…,xj,…,xm)送入能预测图像块阴阳性类别的训练后的第一Swin Transformer模型中进行图像块类别的预测,并剔除阴性图像块,从而得到阳性图像块序列(x′1,x′2,…,x′j,…,x′n),其中,x′j表示待预测的组织病理全切片图像剔除阴性图像块后的图像块序列中第j个图像块;计算阳性图像块的占比并与所设定的分类阈值t进行比较,若tpos≥t,则表示待预测的组织病理全切片图像为阳性,并执行步骤7.3;否则,表示待预测的组织病理全切片图像为阴性,即全切片类别为“1”;
步骤7.3、将阳性图像块序列(x′1,x′2,…,x′j,…,x′n)输入所述能预测全切片T分期类别的训练后的第二Swin Transformer模型中进行处理,从而得到待预测的组织病理全切片图像的T分期类别。
2.根据权利要求1所述的基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,其特征在于,所述步骤2中的第一Swin Transformer模型由第一分块层、第一Stage模块、第二Stage模块、第三Stage模块、第四Stage模块、第一归一化层、第一池化层和第一分类层构成,其中,第一Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个Swin Transformer块;
3.根据权利要求2所述的基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,其特征在于,所述步骤2.3是按照如下步骤进行:
步骤2.3.1、利用式(1)得到基于窗口的第l层多头自注意力层的输出zl′;
zl′=W_MSA(LN(zl-1))+zl-1 (1)
步骤2.3.2、利用式(2)得到第l层多层感知器的输出特征图zl;
zl=MLP(LN(zl′))+zl′ (2)
式(2)中,MLP(·)表示多层感知器的处理;
步骤2.3.3、利用式(3)得到基于移动窗口的第l层多头自注意力层的输出zl′+1;
zl′+1=SW_MSA(LN(zl))+zl (3)
式(3)中,SW_MSA(·)表示基于移动窗口的多头自注意力层的处理;
步骤2.3.4、利用式(4)得到第l层多层感知器的输出特征图zl+1;
zl+1=MLP(LN(zl′+1))+zl′+1 (4)
式(4)中,MLP(·)表示多层感知器的处理;
4.根据权利要求3所述的基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法,其特征在于,所述步骤5中的第二Swin Transformer模型由第二分块层、第五Stage模块、第六Stage模块、第七Stage模块、第八Stage模块、第二归一化层、第二池化层、特征编码层、注意力机制层、特征聚合层和第二分类层构成,其中,第五Stage模块包括一个线性嵌入层和一个Swin Transformer块,其余三个Stage模块均包括一个图像块融合层和一个Swin Transformer块:
步骤5.15、所述第二分类层对聚合后的特征Hm进行线性变换,得到第m张全切片X′m的输出结果pm∈{2,…,α}。
5.一种电子设备,包括存储器以及处理器,其特征在于,所述存储器用于存储支持处理器执行权利要求1-4中任一所述基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
6.一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行权利要求1-4中任一所述基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310026481.2A CN115880277A (zh) | 2023-01-09 | 2023-01-09 | 基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310026481.2A CN115880277A (zh) | 2023-01-09 | 2023-01-09 | 基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115880277A true CN115880277A (zh) | 2023-03-31 |
Family
ID=85758332
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310026481.2A Pending CN115880277A (zh) | 2023-01-09 | 2023-01-09 | 基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115880277A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117541844A (zh) * | 2023-09-27 | 2024-02-09 | 合肥工业大学 | 一种基于超图学习的弱监督组织病理学全切片图像分析方法 |
-
2023
- 2023-01-09 CN CN202310026481.2A patent/CN115880277A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117541844A (zh) * | 2023-09-27 | 2024-02-09 | 合肥工业大学 | 一种基于超图学习的弱监督组织病理学全切片图像分析方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109961089B (zh) | 基于度量学习和元学习的小样本和零样本图像分类方法 | |
CN108062753B (zh) | 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法 | |
CN114926746B (zh) | 基于多尺度差分特征注意力机制的sar图像变化检测方法 | |
CN110930378B (zh) | 基于低数据需求的肺气肿影像处理方法及系统 | |
CN110610210B (zh) | 一种多目标检测方法 | |
CN114549470B (zh) | 基于卷积神经网络和多粒度注意力的手骨关键性区域获取方法 | |
CN113610118B (zh) | 一种基于多任务课程式学习的青光眼诊断方法、装置、设备及方法 | |
He et al. | SAR target recognition and unsupervised detection based on convolutional neural network | |
CN109472733A (zh) | 基于卷积神经网络的图像隐写分析方法 | |
CN113469958A (zh) | 一种胚胎发育潜能预测方法、系统、设备及存储介质 | |
CN115880277A (zh) | 基于Swin Transformer和弱监督的胃癌病理全切片T分期类别预测方法 | |
Fadli et al. | Steel surface defect detection using deep learning | |
CN114692732A (zh) | 一种在线标签更新的方法、系统、装置及存储介质 | |
CN113592008B (zh) | 小样本图像分类的系统、方法、设备及存储介质 | |
CN114820481A (zh) | 基于转换器的肺癌组织病理全切片egfr状态预测方法 | |
CN114445356A (zh) | 基于多分辨率的全视野病理切片图像肿瘤快速定位方法 | |
CN117350979A (zh) | 一种基于医疗超声影像的任意病灶分割和追踪系统 | |
CN116842996A (zh) | 一种基于深度压缩感知的空间转录组方法及装置 | |
CN116759076A (zh) | 一种基于医疗影像的无监督疾病诊断方法及系统 | |
CN115631526A (zh) | 基于自监督学习技术的被遮挡的人脸表情识别方法及应用 | |
Zhao et al. | Recognition and Classification of Concrete Cracks under Strong Interference Based on Convolutional Neural Network. | |
CN114067156A (zh) | 一种基于高分辨率医学影像的卒中分类系统和分类方法 | |
CN113822252A (zh) | 显微镜下病理图像细胞鲁棒检测方法 | |
CN112926619B (zh) | 一种高精度水下激光目标识别系统 | |
CN116824146B (zh) | 一种小样本ct图像分割方法、系统、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |