CN117726642A - 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置 - Google Patents

一种用于光学相干断层扫描图像的高反射病灶分割方法和装置 Download PDF

Info

Publication number
CN117726642A
CN117726642A CN202410174151.2A CN202410174151A CN117726642A CN 117726642 A CN117726642 A CN 117726642A CN 202410174151 A CN202410174151 A CN 202410174151A CN 117726642 A CN117726642 A CN 117726642A
Authority
CN
China
Prior art keywords
image
loss
segmentation
domain data
discriminator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202410174151.2A
Other languages
English (en)
Other versions
CN117726642B (zh
Inventor
王兴国
马煜辉
张炯
岳星宇
阎岐峰
赵一天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Institute of Material Technology and Engineering of CAS
Cixi Institute of Biomedical Engineering CIBE of CAS
Original Assignee
Ningbo Institute of Material Technology and Engineering of CAS
Cixi Institute of Biomedical Engineering CIBE of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Institute of Material Technology and Engineering of CAS, Cixi Institute of Biomedical Engineering CIBE of CAS filed Critical Ningbo Institute of Material Technology and Engineering of CAS
Priority to CN202410174151.2A priority Critical patent/CN117726642B/zh
Publication of CN117726642A publication Critical patent/CN117726642A/zh
Application granted granted Critical
Publication of CN117726642B publication Critical patent/CN117726642B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种用于光学相干断层扫描图像的高反射病灶分割方法和装置,属于图像处理领域,包括:采集视网膜图像并进行人为标注,得到分割图像域数据;构建包含生成器和双重判别器的条件生成对抗网络,生成器包含区域自适应选择模块和相邻帧引导模块,以实现局部‑全局、帧内‑帧间信息的高效利用;采用源域数据和分割图像域数据对条件生成对抗网络进行训练,通过整体分割损失函数的最小化,得到训练好的Ad‑GAN框架,用于视网膜图像中高反射病灶的实际分割任务。本发明通过在生成器中设置区域自适应选择模块和相邻帧引导模块,充分利用视网膜图像中的局部‑全局以及帧内‑帧间信息,能够明显提高对高反射病灶的分割精度。

Description

一种用于光学相干断层扫描图像的高反射病灶分割方法和 装置
技术领域
本发明属于图像处理领域,具体涉及一种用于光学相干断层扫描图像的高反射病灶分割方法和装置。
背景技术
糖尿病视网膜病变(Diabetic Retinopathy,DR)是糖尿病最常见的并发症之一。每10名糖尿病患者中约有1名因DR而出现视力障碍。DR患者视力障碍的主要原因之一是糖尿病性黄斑水肿(Diabetic Macular Edema,DME)。研究表明,在DR患者中,血视网膜屏障的破坏导致视网膜内的液体渗漏增加,从而产生DME并最终有可能导致视力丧失。
近几十年来,高分辨率眼底成像技术的进步可以帮助医生发现视网膜疾病的特定成像特征,这些特征可作为该疾病的诊断、预测和预后生物标志物。光学相干断层扫描技术(Optical Coherence Tomography,OCT)是一种可以实现视网膜内各层结构可视化的成像工具,由于其非侵入性、可负担性和高分辨率,该成像工具被建议作为诊断和监测DME的金标准。DME在OCT图像上的一个重要特征是“高反射病灶”(Hyper-Reflective Foci,HRF),表现为视网膜上看到的任何高反射病变、局灶性或点状外观。
研究表明,HRF与脂质外渗、小胶质细胞、迁移性视网膜色素上皮细胞、退化的感光细胞和视觉预后有关。最近几项研究表明,HRF可作为研究DME的有效生物标志物,因为它与神经胶质细胞、单核细胞和巨噬细胞表达的可溶性分化簇14(CD14)促炎细胞因子相关。
目前临床上对DME患者眼底的筛查主要是通过人工阅片实现,这就要求眼科医生具有丰富的临床经验,仅仅依靠眼科专家进行大规模普查较为困难。随着计算机科学的快速发展,OCT图像中HRF的自动分割和量化具有巨大的潜力,对临床实践有益。在此之前,已经有一些传统的HRF分割方法被提出来。这些方法包括自动生长分割算法,基于组件树的算法等。但是,这类方法十分复杂,依赖于手动调整。
最近,由于数据量和计算性能的提升,深度学习技术也显示出在医学图像分割任务中的优势。目前这些工作中的绝大多数,都是基于OCT的二维横截面图像(B-Scan)进行,这些工作表明OCT的B-Scan表示为医生分析视网膜HRF提供了重要参考。
然而,相邻B-Scan图像之间病灶的微小变化往往在二维空间中难以察觉。另一方面,部分工作基于OCT体数据(三维原始数据),利用了原始三维数据中的丰富信息。然而,由于HRF的体积通常很小(20-50μm),并且往往只跨越2-3个B-Scan图像,传统的基于完整OCT体数据的方法往往导致模型参数冗余。另外,视网膜HRF不仅尺寸很小,而且往往没有固定的形状或纹理特征,很容易导致误报或漏报,因此在视网膜复杂的背景下,实现准确有效的HRF分割具有较大难度。
针对上述问题,公开号为CN112184576A的专利文献公开了一种光谱域光学相干层析成像中的高反射亮斑增强方法,包括:利用传递函数(sigmoid)来控制输入图像的范围压缩。将直方图均衡化应用于S形(sigmoid)传递函数的输出图像。对图像进行直方图均衡化和对数变换。同时,用上述两种方法变换域函数,直方图匹配通过数据映射将两个平行过程结合在一起;将逆对数和逆正交应用于映射数据进行数据转换,以获得增强图像。但是,该发明采用直方图增强全局对比度,可能会导致局部对比度降低,从而丢失细节信息,影响分割精度。
公开号为CN112308829A的专利文献公开了一种适用于视网膜光学相干断层扫描图像中高反射亮斑分割的自适应网络,包括:特征编码模块、自适应SA模块、特征解码模块;特征编码模块包括特征提取单元、双重残差DR模块,双重残差DR模块包括两个残差块;自适应SA模块包括特征输入端、可变形卷积层、矩阵乘法、像素级求和;特征解码模块重构自适应SA模块产生的高层特征,并通过2×2反卷积层反卷积逐渐与双重残差DR模块引导的局部信息进行特征拼接,通过一个1×1卷积层卷积得到的结果作为特征解码模块的输出。但是,该发明采用2D网络进行图像分割,没有考虑到待分割图像的前后帧信息,且只在网络的最深层设置了特征增强,难以保证分割准确度。
发明内容
本发明的目的是提供一种用于光学相干断层扫描图像的高反射病灶分割方法和装置,设计了一种基于区域自适应选择和相邻帧引导的生成对抗网络(Adaptive RegionSelectivity and Adjacent Frames-Guided GAN,Ad-GAN)的医学图像分割框架,将待分割的OCT图像的相邻三帧作为输入,充分结合前后帧信息,同时设置了双重判别器,以进行严格的定量评价,能够明显提升OCT高反射病灶分割和智能医疗诊断精度。
为实现上述发明目的,本发明提供的技术方案如下:
第一方面,本发明实施例提供的一种用于光学相干断层扫描图像的高反射病灶分割方法,包括以下步骤:
步骤1:采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据;
步骤2:构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化;
步骤3:将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练;
步骤4:将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
本发明的技术构思为:本发明针对现有的视网膜HRF分割算法无法高效兼顾OCTB-Scan帧内信息和帧间信息,且无法获取固定形状或纹理特征的问题,将医学图像病灶分割任务转换为从源域图像到仅保留目标病灶的分割图像任务,提出了一种用于高反射病灶分割的Ad-GAN框架,包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器用于生成模型预测图像,双重判别器用于优化模型预测图像的生成质量,以人工标注的病灶图像为真值标签,使Ad-Net生成器生成的模型预测图像无限接近真值标签,达到分割目的。
本发明以待分割OCT图像的相邻三帧作为Ad-GAN框架的输入,充分考虑前后帧信息。另外,在Ad-Net生成器中设置了区域自适应选择模块和相邻帧引导模块,区域自适应选择模块包括图像块挤压激励适配器组和区域注意力分配组件,在该模块的每一层均设置了特征增强模块,从而对高分辨率和低分辨率的输入图像都有增强效果,从而输出细化目标特征图;相邻帧引导模块中采用空间注意力机制和通道注意力机制,分别得到各自的权重并对细化目标特征图加权,得到Ad-Net生成器的模型预测图像。Ad-Net生成器的设置能够实现局部-全局信息,帧内-帧间信息的高效利用,得到高质量的模型预测图像。
除此之外,双重判别器的设置能够进一步提升模型预测图像的生成精度,通过级联模型预测图像和源域图像,以及级联分割图像域数据和源域图像,第一判别器对两个级联结果计算第一对抗损失,再通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失。根据模型预测图像和源于图像的第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练,再将训练好的Ad-GAN框架用于高精度的病灶图像分割任务。
进一步的,步骤2中,所述的Ad-Net生成器,基于Unet的编码器-解码器架构,由包含区域自适应选择模块和相邻帧引导模块的编码器层和具有跳跃连接的解码层组成。
进一步的,步骤2中,所述的区域自适应选择模块,包括图像块挤压激励适配器组和区域注意力分配组件:
所述图像块挤压激励适配器组通过级联内部若干个图像块挤压激励适配器输出的预测特征权重,得到区域自适应选择的表示空间;
所述区域注意力分配组件基于区域注意力机制,生成区域重要性权重,通过区域重要性权重与表示空间的矩阵乘法,得到区域敏感的目标特征权重,所述目标特征权重用于为输入的源域数据加权,得到细化目标特征图。
进一步的,步骤2中,所述的相邻帧引导模块,包括长程特征库、空间注意力块和通道注意力块:
所述长程特征库,是由区域自适应选择模块得到的相邻帧的细化目标特征图进行级联得到;
所述空间注意力块,用于将原图和长程特征库通过通道进行池化,得到空间注意力权重;
所述通道注意力块,用于将原图和长程特征库通过空间池化,得到通道注意力权重;
所述通道注意力权重和空间注意力权重分别对原图进行加权,得到Ad-Net生成器的模型预测图像。
进一步的,步骤3中,所述的第一分割损失,用公式表示为:
其中,表示第一分割损失,/>由交叉熵损失LCE和dice系数损失Ldc线性叠加得到,G(xi)表示Ad-Net生成器对输入的源域数据xi进行预测得到的模型预测图像,xt表示人工标注得到的分割图像域数据。
进一步的,步骤3中,所述的第一对抗损失,用公式表示为:
+
其中,L1表示第一对抗损失,表示结合目标对象上下文环境,区分源域数据和分割图像域数据的判别器,E表示期望,Pdata表示数据的分布。
进一步的,步骤3中,所述的第二对抗损失,用公式表示为:
+ />
其中,L2表示第二对抗损失,表示直接对抗方式区分模型预测图像和分割图像域数据的判别器。
进一步的,步骤3中,所述的根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,具体为:
通过第一对抗损失和第二对抗损失的线性叠加,得到双重判别器总的对抗损失,用公式表示为:
其中,Ladv表示总的对抗损失;
将总的对抗损失和第一分割损失各自乘上相应的加权系数,得到Ad-GAN框架的整体分割损失,用公式表示为:
其中,Ltotal表示整体分割损失,和/>分别表示第一分割损失和总的对抗损失的加权系数。
第二方面,为实现上述发明目的,本发明实施例还提供了一种用于光学相干断层扫描图像的高反射病灶分割装置,包括数据采集单元、Ad-GAN框架构建单元、Ad-GAN框架训练单元、Ad-GAN框架实际推理单元;
所述数据采集单元用于采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据;
所述Ad-GAN框架构建单元用于构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化;
所述Ad-GAN框架训练单元用于将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练;
所述Ad-GAN框架实际推理单元用于将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
第三方面,为实现上述发明目的,本发明实施例还提供了一种用于光学相干断层扫描图像的高反射病灶分割设备,包括存储器和处理器,所述存储器用于存储计算机程序,所述处理器用于当执行所述计算机程序时,实现第一方面本发明实施例提供的用于光学相干断层扫描图像的高反射病灶分割方法。
本发明的有益效果如下:
(1)本发明设计的Ad-Net生成器,用于得到输入图像的分割图像,在Ad-Net生成器设置了区域自适应选择模块,区域自适应选择模块的每一层都包含特征增强处理,能够对得到的任意分辨率的图像进行特征增强,从而在极大程度上提高分割精度;
(2)本发明在Ad-Net生成器中还设计了相邻帧引导模块,通过将待分割图像的相邻三帧作为整个网络的输入,首先通过Ad-Net生成器中的区域自适应选择模块得到细化特征图,相邻帧引导模块通过将相邻三帧的细化特征图进行级联,得到长程特征库,长程特征库中包含丰富的前后帧信息,能够充分兼顾OCT图像中的局部-全局信息、帧内-帧间信息,然后将长程特征库和待分割图像分别通过通道注意力块和空间注意力块,将得到的空间注意力权重和通道注意力权重对待分割图像进行加权,从而得到高精度的模型预测图像;
(3)本发明还设计了双重判别器,通过双重判别器的总的对抗损失和Ad-Net生成器的分割损失的线性叠加,保证分割效果充分接近真值标签,实现Ad-GAN的充分优化,从而提升本发明模型用于视网膜图像的病灶分割效果;
(4)本发明基于上述Ad-Net生成器和双重判别器构建了一种条件生成对抗Ad-GAN模型,能够实现局部-全局信息,帧内-帧间信息的高效利用,并通过双重判别器对分割图像的质量进行量化分析,本发明提出的Ad-GAN模型能够充分适应OCT视网膜图像中高反射病灶的高精度分割任务。
附图说明
图1是本发明实施例提供的用于光学相干断层扫描图像的高反射病灶分割方法的流程图。
图2是本发明实施例提供的Ad-GAN框架的整体结构示意图。
图3是本发明实施例提供的Ad-Net生成器的结构示意图。
图4是本发明实施例提供的区域自适应选择模块的结构示意图。
图5是本发明实施例提供的相邻帧引导模块的结构示意图。
图6是本发明实施例提供的视网膜图像中HRF分割结果图。
图7是本发明实施例提供的用于光学相干断层扫描图像的高反射病灶分割装置的结构示意图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步的详细说明。应当理解,此处所描述的具体实施方式仅用以解释本发明,并不限定本发明的保护范围。
如图1所示,实施例提供了一种用于光学相干断层扫描图像的高反射病灶分割方法,包括以下步骤:
S110,采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据。
本实施例中,将医学图像病灶分割任务转换为从源域数据到仅保留目标病灶图像的分割任务。首先采集目标图像的相邻三帧B-Scan图像作为源域(TI)数据,如图2所示,分别为第N-1帧、第N帧以及第N+1帧图像。将三帧源域图像交给眼科医生进行高反射病灶的人工标注,标注之后得到分割图像域SI数据,即实现从源域TI到分割图像域SI的映射。
S120,构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化。
如图2所示,本发明提出的用于高反射病灶分割的Ad-GAN框架包含一个生成器(GTI)和两个判别器(DSI1,DSI2)。其中,生成器(GTI)基于Unet编码器-解码器架构,于是得到Ad-Net生成器,将源域数据输入Ad-Net生成器得到模型预测图像,第一判别器DSI1结合源域数据TI中的原图,对模型预测图像和分割域图像SI中的图像进行区分,第二判别器DSI2对模型预测图像和分割图像域SI中的图像进行区分。
Ad-Net生成器由5个编码器层和具有跳跃连接的解码层组成,如图3所示。Ad-Net的输入是相邻三帧B-Scan(Slice N-1,Slice N,Slice N+1),输出是一张关键帧B-Scan(Slice N)所对应分割图像。对于每个编码器层,使用一个编码卷积块,然后是一个区域自适应选择模块,同时,在每个区域自适应选择模块都设置了特征增强,实现高分辨率和低分辨率的图像的特征增强。相邻三帧的B-Scan输入共享编码器层,编码器的每层输出三张与输入相对应的特征图,级联以后作为相邻帧引导模块的输入。
相邻帧引导模块对级联的特征图进行细化后,输出一张细化的特征图,作为解码器层的输入。每个解码器层采用前接双线性插值采样的解码卷积块的结构。编码卷积块采用两个3×3卷积-实例标准化-Leaky ReLU的形式,解码卷积块也采用两个3×3卷积-实例标准化-Leaky ReLU的形式。
本发明提出在Ad-Net生成器中设置区域自适应选择模块和相邻帧引导模块,是为了充分考虑视网膜图像中高反射病灶的局部-全局和帧内-帧间信息,从而提升分割精度。区域自适应选择模块和相邻帧引导模块的启发来自眼科医生的临床经验。由于视网膜HRF尺寸很小,而且往往没有固定的形状或纹理特征,因此在视网膜复杂的背景下,对视网膜HRF的准确定位有较大的难度。眼科医生临床读片对视网膜HRF进行甄别时,往往需要采取全局评估,区域排查的方式,并且需要借助于目标B-Scan前后两帧图片,以辅助排查某些对比度较低、边缘模糊的病灶。
为了解决全局评估的问题,本发明提出一种具有一定区域敏感性的区域自适应选择模块,该模块不需要事先知道目标图像中病灶区域的大小,并且允许区域重要性的软分配。
区域自适应选择模块主要有两个组件,一个图像块挤压激励适配器组和一个区域注意力机制,如图4所示。图像块挤压激励适配器组通过连接四个补丁挤压激励适配器的输出以形成区域自适应选择的表示空间C×4×H×W。然后,区域注意力分配组件中的区域选择模块会生成一组区域敏感的权重,并进行区域分配,用于以数据驱动的方式组合这些预测。
通过表示空间和区域敏感的权重的矩阵乘法,再通过区域敏感通道注意力模块进行空间注意力权重加权,最后利用跳跃连接的方式,对加权后的图像和输入的源域图像进行逐元素乘法,实现特征增强,最后输出特征图。在这种情况下,不需要提前知道数据的病灶区域信息。事实上,甚至不存在单个固定大小的重点病灶区域,因为输入图像完全可以激发多个图像块挤压激励适配器分支。
对于每个图像块挤压激励适配器,依次通过一个图像块池化,然后是重校准卷积和反池化。图像块池化采用自适应池化的方式,四个图像块大小分别取20×20,10×10,5×5和2×2。重校准卷积采用3×3卷积-ReLU-3×3卷积的形式。对于区域自注意力分配组件,采用全局平均池化-3×3卷积-Softmax的形式。
为了解决区域排查的问题,本发明提出相邻帧引导模块,利用来自相邻帧的远程特征来细化补充目标帧的特征图,如图5所示。该模块由三个组件组成,分别是长程特征库、空间注意力块和通道注意力块。为了解释3D OCT图像z方向的依赖性,使用目标图像相邻的上一帧和下一帧图像来补充目标图像。
长程特征库是由区域自适应选择模块得到的相邻帧的细化目标特征图进行级联得到。对于通道注意力块,长程特征和对应的目标特征先各自使用一个图像块池化,然后是一个重校准卷积。然后通过矩阵乘法获得帧间注意力信号。然后再通过矩阵乘法,一个重校准卷积和一个反池化,获得通道注意力权重。图像块池化采用自适应池化的方式,图像块大小取10×10。重校准卷积采用3×3卷积-ReLU-3×3卷积的形式。
对于空间注意力,长程特征和对应的目标特征先各自使用一个通道池化,然后是一个重校准卷积。然后通过矩阵乘法获得帧间注意力信号。然后再通过矩阵乘法,一个重校准卷积和一个反池化,获得空间注意力权重。通道池化采用最大池化和平均池化连接的方式。重校准卷积采用3×3卷积-ReLU-3×3卷积的形式。最后,将目标特征依次和通道注意力权重,以及空间注意力权重通道级别的矩阵乘法和空间级别的矩阵乘法,获得最终的细化目标特征。
双重判别器中的DSI1和DSI2均采用了PatchGAN,和传统判别器不同,本发明采用的判别器区别图像的真假是基于图像块而不是整个图像。PatchGAN包含了五个4×4卷积层,前三层卷积核滑动步长为2,后两层卷积核滑动步长为1。前四层采用了斜率为0.2的LeakyReLU。中间三层采用批标准化。通过上述设置,能够将PatchGAN的感受野,即输入图像待识别图像块的大小设置为70×70,这使得PatchGAN比传统判别器更轻、更快,但仍然引导生成器产生逼真的结果。最后,在输出层采用Sigmoid激活函数来识别输入图像的每个图像块。因此,每个输出像素表示输入图像对应的70×70大小的图像块被识别为来自一个真实样本的概率。
S130,将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练。
在实际训练过程中,如图2所示,本发明提出的Ad-GAN框架的整体分割损失由第一分割损失Lossseg(简写为)和总的对抗损失Lossadv(简写为/>)两个部分组成,具体而言:
在采用Ad-Net生成器得到模型预测图像时,通过交叉熵损失(CE)和dice系数损失(dice)的线性叠加,得到第一分割损失/>,用公式表示为:
其中,G(xi)表示Ad-Net生成器对输入的源域数据xi进行预测得到的模型预测图像,xt表示人工标注得到的分割图像域数据。
对于对抗训练,对抗损失适用于双重判别器中的两个判别器分支。对于第一判别器DSI1,第一对抗损失表示为:
+
其中,L1表示第一对抗损失,对应图2中的Loss1,表示结合目标对象上下文环境,区分源域数据和分割图像域数据的判别器,E表示期望,Pdata表示数据的分布。
对于第二判别器DSI2,第二对抗损失表示为:
+ />
其中,L2表示第二对抗损失,对应图2中的Loss2,表示直接对抗方式区分模型预测图像和分割图像域数据的判别器。
因此,总的对抗损失表示为:
于是得到Ad-GAN框架的整体分割损失,用公式表示为:
其中,和/>分别表示第一分割损失和总的对抗损失的加权系数。
通过Ad-GAN框架的整体分割损失的最小化,得到训练完成的Ad-GAN框架。
S140,将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
将视网膜图像的相邻三帧B-Scan图像输入训练好的Ad-GAN框架,标注出HRF的具体位置,如图6所示,图6展示了将本发明提出的Ad-GAN框架用于实际推理的效果图,从图中能够明显看出,采用本发明提出的方法分割出的结果和人工标注的吻合度极高,表明本发明提出的Ad-GAN框架能够很好地完成视网膜图像中HRF的高精度分割任务。
图6中的标注结果指示了视网膜中的病变区域,眼科医生根据标注结果对患者的视网膜病灶区域给出下一步医疗诊断建议。
基于同样的发明构思,本发明实施例还提供了一种用于光学相干断层扫描图像的高反射病灶分割装置700,如图7所示,包括数据采集单元710、Ad-GAN框架构建单元720、Ad-GAN框架训练单元730、Ad-GAN框架实际推理单元740;
其中,数据采集单元710用于采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据;
Ad-GAN框架构建单元720用于构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化;
Ad-GAN框架训练单元730用于将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练;
Ad-GAN框架实际推理单元740用于将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
对于本发明实施例提供的用于光学相干断层扫描图像的高反射病灶分割装置而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
基于同样的发明构思,实施例还提供了一种用于光学相干断层扫描图像的高反射病灶分割设备,包括存储器和处理器,其中,存储器用于存储计算机程序,处理器用于当执行所述计算机程序时,实现上述用于光学相干断层扫描图像的高反射病灶分割方法。
需要说明的是,上述实施例提供的用于光学相干断层扫描图像的高反射病灶分割装置和用于光学相干断层扫描图像的高反射病灶分割设备,均与用于光学相干断层扫描图像的高反射病灶分割方法实施例属于同一构思,其具体实现过程详见用于光学相干断层扫描图像的高反射病灶分割方法实施例,这里不再赘述。
以上所述,仅为本发明的优选实施案例,并非对本发明做任何形式上的限制。虽然前文对本发明的实施过程进行了详细说明,对于熟悉本领域的人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行同等替换。凡在本发明精神和原则之内所做修改、同等替换等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,包括以下步骤:
步骤1:采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据;
步骤2:构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化;
步骤3:将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练;
步骤4:将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
2.根据权利要求1所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤2中,所述的Ad-Net生成器,基于Unet的编码器-解码器架构,由包含区域自适应选择模块和相邻帧引导模块的编码器层和具有跳跃连接的解码层组成。
3.根据权利要求2所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤2中,所述的区域自适应选择模块,包括图像块挤压激励适配器组和区域注意力分配组件:
所述图像块挤压激励适配器组通过级联内部若干个图像块挤压激励适配器输出的预测特征权重,得到区域自适应选择的表示空间;
所述区域注意力分配组件基于区域注意力机制,生成区域重要性权重,通过区域重要性权重与表示空间的矩阵乘法,得到区域敏感的目标特征权重,所述目标特征权重用于为输入的源域数据加权,得到细化目标特征图。
4.根据权利要求3所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤2中,所述的相邻帧引导模块,包括长程特征库、空间注意力块和通道注意力块:
所述长程特征库,是由区域自适应选择模块得到的相邻帧的细化目标特征图进行级联得到;
所述空间注意力块,用于将原图和长程特征库通过通道进行池化,得到空间注意力权重;
所述通道注意力块,用于将原图和长程特征库通过空间池化,得到通道注意力权重;
所述通道注意力权重和空间注意力权重分别对原图进行加权,得到Ad-Net生成器的模型预测图像。
5.根据权利要求1所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤3中,所述的第一分割损失,用公式表示为:
其中,表示第一分割损失,/>由交叉熵损失LCE和dice系数损失Ldc线性叠加得到,G(xi)表示Ad-Net生成器对输入的源域数据xi进行预测得到的模型预测图像,xt表示人工标注得到的分割图像域数据。
6.根据权利要求1所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤3中,所述的第一对抗损失,用公式表示为:
+
其中,L1表示第一对抗损失,表示结合目标对象上下文环境,区分源域数据和分割图像域数据的判别器,E表示期望,Pdata表示数据的分布。
7.根据权利要求1所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤3中,所述的第二对抗损失,用公式表示为:
+ />
其中,L2表示第二对抗损失,表示直接对抗方式区分模型预测图像和分割图像域数据的判别器。
8.根据权利要求5或6或7所述的用于光学相干断层扫描图像的高反射病灶分割方法,其特征在于,步骤3中,所述的根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,具体为:
通过第一对抗损失和第二对抗损失的线性叠加,得到双重判别器总的对抗损失,用公式表示为:
其中,Ladv表示总的对抗损失;
将总的对抗损失和第一分割损失各自乘上相应的加权系数,得到Ad-GAN框架的整体分割损失,用公式表示为:
其中,Ltotal表示整体分割损失,和/>分别表示第一分割损失和总的对抗损失的加权系数。
9.一种用于光学相干断层扫描图像的高反射病灶分割装置,其特征在于,包括数据采集单元、Ad-GAN框架构建单元、Ad-GAN框架训练单元、Ad-GAN框架实际推理单元;
所述数据采集单元用于采集目标图像的相邻三帧B-Scan图像作为源域数据,对源域数据中的高反射病灶进行人工标注,得到分割图像域数据;
所述Ad-GAN框架构建单元用于构建用于高反射病灶分割的Ad-GAN框架,所述Ad-GAN框架包含Ad-Net生成器和双重判别器,其中,Ad-Net生成器包含区域自适应选择模块和相邻帧引导模块,分别用于将源域数据转换为模型预测图像以及为模型预测图像补充细节特征,双重判别器由第一判别器和第二判别器组成,用于评估模型预测图像的生成质量并优化;
所述Ad-GAN框架训练单元用于将源域数据输入Ad-GAN框架,经过Ad-Net生成器得到模型预测图像,计算模型预测图像和分割图像域数据之间的第一分割损失,将模型预测图像和分割图像域数据分别与源域数据级联,通过第一判别器计算第一对抗损失,通过第二判别器计算模型预测图像和分割图像域数据之间的第二对抗损失,根据第一分割损失、第一对抗损失和第二对抗损失得到Ad-GAN框架的整体分割损失,通过整体预测损失最小化,完成训练;
所述Ad-GAN框架实际推理单元用于将训练好的Ad-GAN框架用于视网膜图像中高反射病灶的实际推理,得到高反射病灶的分割图。
10.一种用于光学相干断层扫描图像的高反射病灶分割设备,包括存储器和处理器,所述存储器用于存储计算机程序,其特征在于,所述处理器用于当执行所述计算机程序时,实现权利要求1-8任一项所述的用于光学相干断层扫描图像的高反射病灶分割方法。
CN202410174151.2A 2024-02-07 2024-02-07 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置 Active CN117726642B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410174151.2A CN117726642B (zh) 2024-02-07 2024-02-07 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410174151.2A CN117726642B (zh) 2024-02-07 2024-02-07 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置

Publications (2)

Publication Number Publication Date
CN117726642A true CN117726642A (zh) 2024-03-19
CN117726642B CN117726642B (zh) 2024-05-31

Family

ID=90202003

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410174151.2A Active CN117726642B (zh) 2024-02-07 2024-02-07 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置

Country Status (1)

Country Link
CN (1) CN117726642B (zh)

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110428385A (zh) * 2019-08-09 2019-11-08 南京工业大学 一种基于无监督对抗神经网络的sd-oct去噪方法
CN110580472A (zh) * 2019-09-12 2019-12-17 合肥工业大学 一种基于全卷积网络和条件对抗网络的视频前景检测方法
WO2020143309A1 (zh) * 2019-01-09 2020-07-16 平安科技(深圳)有限公司 分割模型训练方法、oct图像分割方法、装置、设备及介质
CN111785354A (zh) * 2020-06-03 2020-10-16 中国科学院宁波工业技术研究院慈溪生物医学工程研究所 一种面向慢性病辅助诊断的眼科ai生物特征参数提取算法
CA3143173A1 (en) * 2019-06-12 2020-12-17 Carnegie Mellon University System and method for removing noise and/or artifacts from an oct image using a generative adversarial network
WO2021017372A1 (zh) * 2019-08-01 2021-02-04 中国科学院深圳先进技术研究院 一种基于生成对抗网络的医学图像分割方法、系统及电子设备
CN113269256A (zh) * 2021-05-26 2021-08-17 广州密码营地科技有限公司 一种MiSrc-GAN模型的构建方法及应用
CN114359517A (zh) * 2021-11-24 2022-04-15 科大讯飞股份有限公司 虚拟形象生成方法、虚拟形象生成系统和计算设备
CN114708278A (zh) * 2022-04-02 2022-07-05 西安邮电大学 一种基于cgan的新冠肺炎ct图像分割方法
CN114897914A (zh) * 2022-03-16 2022-08-12 华东师范大学 基于对抗训练的半监督ct图像分割方法
CN115018767A (zh) * 2022-05-03 2022-09-06 复旦大学 基于本征表示学习的跨模态内镜图像转换及病灶分割方法
CN115205315A (zh) * 2022-06-21 2022-10-18 复旦大学附属眼耳鼻喉科医院 一种眼科体征保持的眼底图像增强方法
CN116416553A (zh) * 2023-03-08 2023-07-11 中国科学院深圳先进技术研究院 基于时空解耦注意力机制的视频目标分割方法
CN116630230A (zh) * 2023-04-03 2023-08-22 中国科学院宁波材料技术与工程研究所 一种基于眼科超广角图像的病灶区域分割系统
CN116740099A (zh) * 2023-08-15 2023-09-12 南京博视医疗科技有限公司 一种oct图像分割方法及装置
CN116883420A (zh) * 2023-06-02 2023-10-13 深圳大学 光学相干断层扫描图像中脉络膜新生血管分割方法及系统

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020143309A1 (zh) * 2019-01-09 2020-07-16 平安科技(深圳)有限公司 分割模型训练方法、oct图像分割方法、装置、设备及介质
CA3143173A1 (en) * 2019-06-12 2020-12-17 Carnegie Mellon University System and method for removing noise and/or artifacts from an oct image using a generative adversarial network
WO2021017372A1 (zh) * 2019-08-01 2021-02-04 中国科学院深圳先进技术研究院 一种基于生成对抗网络的医学图像分割方法、系统及电子设备
CN110428385A (zh) * 2019-08-09 2019-11-08 南京工业大学 一种基于无监督对抗神经网络的sd-oct去噪方法
CN110580472A (zh) * 2019-09-12 2019-12-17 合肥工业大学 一种基于全卷积网络和条件对抗网络的视频前景检测方法
CN111785354A (zh) * 2020-06-03 2020-10-16 中国科学院宁波工业技术研究院慈溪生物医学工程研究所 一种面向慢性病辅助诊断的眼科ai生物特征参数提取算法
CN113269256A (zh) * 2021-05-26 2021-08-17 广州密码营地科技有限公司 一种MiSrc-GAN模型的构建方法及应用
CN114359517A (zh) * 2021-11-24 2022-04-15 科大讯飞股份有限公司 虚拟形象生成方法、虚拟形象生成系统和计算设备
CN114897914A (zh) * 2022-03-16 2022-08-12 华东师范大学 基于对抗训练的半监督ct图像分割方法
CN114708278A (zh) * 2022-04-02 2022-07-05 西安邮电大学 一种基于cgan的新冠肺炎ct图像分割方法
CN115018767A (zh) * 2022-05-03 2022-09-06 复旦大学 基于本征表示学习的跨模态内镜图像转换及病灶分割方法
CN115205315A (zh) * 2022-06-21 2022-10-18 复旦大学附属眼耳鼻喉科医院 一种眼科体征保持的眼底图像增强方法
CN116416553A (zh) * 2023-03-08 2023-07-11 中国科学院深圳先进技术研究院 基于时空解耦注意力机制的视频目标分割方法
CN116630230A (zh) * 2023-04-03 2023-08-22 中国科学院宁波材料技术与工程研究所 一种基于眼科超广角图像的病灶区域分割系统
CN116883420A (zh) * 2023-06-02 2023-10-13 深圳大学 光学相干断层扫描图像中脉络膜新生血管分割方法及系统
CN116740099A (zh) * 2023-08-15 2023-09-12 南京博视医疗科技有限公司 一种oct图像分割方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
KWON等: "Segmenting Layers of Retinal OCT Images using cGAN", JOURNAL OF KOREA MULTIMEDIA SOCIETY, vol. 23, no. 12, 22 June 2021 (2021-06-22), pages 1476 - 1485 *
刘少鹏;洪佳明;梁杰鹏;贾西平;欧阳佳;印鉴;: "面向医学图像分割的半监督条件生成对抗网络", 软件学报, no. 08, 15 August 2020 (2020-08-15) *
叶红梅;汪友生;夏章涛;刘继荣;: "结合极值区域检测的血管内超声图像并行分割", 中国图象图形学报, no. 02, 16 February 2020 (2020-02-16) *

Also Published As

Publication number Publication date
CN117726642B (zh) 2024-05-31

Similar Documents

Publication Publication Date Title
CN111539930B (zh) 基于深度学习的动态超声乳腺结节实时分割与识别的方法
CN112489061A (zh) 一种基于多尺度信息与并行注意力机制的深度学习肠道息肉分割方法
CN100561518C (zh) 基于感兴趣区域的自适应医学序列图像插值方法
CN110991254B (zh) 超声图像视频分类预测方法及系统
CN113744271B (zh) 基于神经网络的视神经自动分割和受压迫程度测算方法
CN116188452A (zh) 医学图像层间插值及三维重建方法
CN116363060B (zh) 一种基于残差u型网络的混合注意力视网膜血管分割方法
CN117612221B (zh) 结合注意力shift的OCTA图像血管提取方法
CN114708278A (zh) 一种基于cgan的新冠肺炎ct图像分割方法
CN117876242B (zh) 眼底图像增强方法、装置、设备及可读存储介质
CN116645283A (zh) 基于自监督感知损失多尺度卷积神经网络的低剂量ct图像去噪方法
CN117934824A (zh) 一种超声影像的目标区域分割方法、系统及电子设备
CN114332910A (zh) 一种面向远红外图像的相似特征计算的人体部位分割方法
CN114565601A (zh) 基于DeepLabV3+改进的肝脏CT图像分割算法
CN114820632A (zh) 基于双通道U形改进Transformer网络的视网膜血管图像分割方法
CN117726642B (zh) 一种用于光学相干断层扫描图像的高反射病灶分割方法和装置
CN116597950A (zh) 一种医学图像分层方法
CN115953781A (zh) 基于热层析影像的乳腺人工智能分析系统及方法
CN114494952B (zh) 一种基于感知损失的乳腺mri影像时间序列生成方法
CN113744132B (zh) 基于多重优化的mr图像深度网络超分辨方法
CN115937113A (zh) 一种皮肤病超声图像多病种识别方法、设备及存储介质
CN114627091A (zh) 视网膜年龄识别方法和装置
CN112967295A (zh) 一种基于残差网络和注意力机制的图像处理方法及系统
CN110969117A (zh) 一种基于Attention机制的全卷积神经网络的眼底图像分割方法
CN115409834B (zh) 一种用于跟腱病诊断的特征提取方法、系统和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant