CN114140478A - 面向医疗图像分割的联邦学习方法及系统、设备和介质 - Google Patents
面向医疗图像分割的联邦学习方法及系统、设备和介质 Download PDFInfo
- Publication number
- CN114140478A CN114140478A CN202210113370.0A CN202210113370A CN114140478A CN 114140478 A CN114140478 A CN 114140478A CN 202210113370 A CN202210113370 A CN 202210113370A CN 114140478 A CN114140478 A CN 114140478A
- Authority
- CN
- China
- Prior art keywords
- amplitude
- client
- spectrum
- image segmentation
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Image Analysis (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明公开了一种面向医疗图像分割的联邦学习方法及系统、设备和介质,属于人工智能中的计算机视觉领域,用于解决医疗机构在不共享隐私数据情况下提升深度神经网络模型对图像分割的泛化能力。本发明先将客户端本端的原始医学图像通过快速傅里叶变换得到幅度谱,将幅度谱采用连续频率空间插值算法,分别与其他客户端的幅度谱进行插值,得到插值之后的幅度谱;采用核心集采样的主动学习方法从各幅度谱中选出能代表多种数据集信息的幅值再结合相位值进行傅里叶反变换,得到一批新数据集;采用元学习范式,将原始医疗数据集用于训练,将新数据集用于测试;再利用对比学习来突出图像中的边界,采用对比损失函数来进行参数更新。
Description
技术领域
本发明涉及人工智能中的计算机视觉领域,具体涉及一种面向医疗图像分割的联邦学习方法及系统、设备和介质。
背景技术
联邦机器学习(Federated machine learning/Federated Learning),又名联邦学习,联合学习,联盟学习。联邦机器学习是一个机器学习框架,能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下,进行数据使用和机器学习建模。联邦学习作为分布式的机器学习范式,可以有效解决数据孤岛问题,让参与方在不共享隐私数据的基础上联合建模,能从技术上打破数据孤岛,实现AI(Artificial Intelligence)协作。
目前,联邦学习已经在医学图像分割任务上取得了一些应用、进展。如公开号为“CN113571203A”、名称为“多中心基于联邦学习的脑肿瘤预后生存期预测方法及系统”的发明专利申请中,公开了一种基于联邦学习的脑肿瘤医学图像处理,用于生存期的预测。该方案是基于C-S架构构建多中心的联邦学习模型,利用各中心已标注的脑肿瘤多模态MRI(Magnetic Resonance Imaging)图像数据联合建立肿瘤区域的自动分割模型提取深度学习特征,通过各中心分布式存储的患者电子病历信息联合影像组学特征与深度学习特征建立全面的脑肿瘤预后生存期分类模型,在保证患者图像数据隐私的基础上实现可靠的、准确度更高的脑肿瘤预后生存期预测系统。
该脑肿瘤预后生存期预测方法及系统探索了在联邦学习中自动标记训练样本的利用每个本地设备上可用的未标记数据来构建全局模型,通过在不涉及手动标注的情况下运用在联邦学习中,挑选对模型更有价值的样本,同时还能够结合病人病历数据作为评估受试者预后风险评估的特征,进行集成学习的脑肿瘤预后生存期预测。但是,现有技术在采集原始医学图像时,由于每家医院的成像扫描仪和协议的不同,各本地客户端所存储的原始医学图像可能在数据分布方面与源本地客户端图像方面等存在很大的不同;且每家医院都存在一些涉密数据,这些数据无法对外提供。基于这些原因,就使得现有技术在采用联邦学习时,大多都是采用横向联邦学习这类方式,即在每个本地客户端部署深度神经网络模型,各深度神经网络模型利用各自对应本地客户端的数据进行学习,然后将学习后的参数上传至更上层的深度神经网络模型,上层的深度神经网络模型根据部署在本地客户端的深度神经网络模型的学习情况更新对应的参数。基于此,这就使得现有的基于联邦学习的医学图像分割工作更多只专注于提高深度神经网络模型在模型部署客户端的性能,而忽略了深度神经网络模型在联邦之外未见领域的泛化性,即医疗机构在不共享隐私数据情况下深度神经网络模型对图像分割的泛化能力较弱。为解决深度神经网络模型对图像分割的泛化能力问题,即深度神经网络模型可以利用各本地客户端的原始数据进行学习的能力问题,其主要还面临的以下关键问题:
1、如何在不侵犯其他客户端隐私的情况下又能使用多源客户端的数据信息,以提高深度神经网络模型在联邦之外未见领域的泛化性;
2、如何实现对幅度谱的有效筛选,便于与当前相位值结合后通过傅里叶反变换生成有多源客户端信息的数据集。
发明内容
本发明提供了一种面向医疗图像分割的联邦学习方法及系统、设备和介质,可用于在不共享隐私数据情况下,提升基于深度神经网络的图像分割网络模型对图像分割的泛化能力,提升医疗图像的分割性能。
一方面,本发明提供了一种面向医疗图像分割的联邦学习方法,所述方法包括:
步骤S1:客户端获取原始医学图像并进行快速傅里叶变换,得到各幅原始医学图像的幅度值和相位值,基于本端所有的幅度值得到本端的幅度谱,基于本端所有的相位值得到本端的相位谱,客户端将本端的幅度谱存入共享数据库;
所述客户端包括模型部署客户端和非模型部署客户端,所述模型部署客户端指部署有基于深度神经网络的图像分割网络模型的客户端;
步骤S2:模型部署客户端从共享数据库中访问其他客户端的幅度谱,并通过配置的插值法与本端的幅度谱进行插值处理,得到每个其他客户端的插值幅度谱;
步骤S3:模型部署客户端以本端的幅度谱的每个幅度值为查找对象,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值,得到与本端的每个幅度值对应的核心幅度值;
步骤S4:模型部署客户端基于本端的相位谱,将对应的核心幅度值与相位谱进行傅里叶反变换,得到多幅新图像数据;步骤S5:模型部署客户端以本端的原始医学图像为训练数据,并基于配置的第一损失函数对本端的图像分割网络模型进行一轮模型训练,更新图像分割网络模型的网络权重参数;
再以步骤S4得到的所有新图像数据为测试数据,对当前的图像分割网络模型进行测试,获取测试结果并将所述测试结果上传给联邦学习的服务端;
步骤S6:联邦学习的服务端基于配置的总损失计算策略,根据所有测试结果得到当前的总损失并反馈给各模型部署客户端;
步骤S7:模型部署客户端基于当前收到的总损失更新本端的图像分割网络模型的网络权重参数,重复执行步骤S5至步骤S7,直到满足预置的训练停止条件,得到目标图像分割网络模型。
进一步的,所述步骤S1中,对原始医学图像进行快速傅里叶变换得到各幅原始医学图像的幅度值和相位值具体为:
对当前原始医学图像进行快速傅里叶变换得到其频率空间信号;
将当前原始医学图像的频率空间信号的实部和虚部进行平方和计算,再进行平方根计算,得到当前原始医学图像的幅度值;
将当前原始医学图像的频率空间信号的实部和虚部的比值进行反正切计算,得到当前原始医学图像的相位值。
进一步的,所述步骤S2中,所述插值法采用连续频率空间插值算法。
进一步的,所述步骤S2中,采用的连续频率空间插值算法具体为:
根据预置的插值率λ,以λ作为其它客户端的幅度谱的权重,以1-λ作为本端幅度谱的第一权重,进行加权和运算,得到第一运算中间结果;
基于配置的用于幅度谱的二进制掩码M,以M作为第一运算中间结果的权重,以1-M作为本端幅度谱的第二权重,进行加权和运算,得到每个其他客户端的插值幅度谱。
进一步的,所述步骤S3中,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值具体为:
基于幅度值之间的欧式距离,以本端的每个幅度值作为查找对象,在所有插值幅度谱中查找欧式距离最小的幅度值作为当前查找对象的查找结果,得到与本端的每个幅度值对应的核心幅度值。
进一步的,所述步骤S5中,第一损失函数采用Dice损失函数;
且步骤S5中,更新图像分割网络模型的网络权重参数具体为:基于图像分割网络
模型在当前轮模型训练的输出,计算Dice损失值,记为,其中,表示当前模型
部署客户端的原始医学图像集,k表示客户端编号,表示图像分割网络模型的网络权重参
数,初始值为预设值;
进一步的,所述步骤S6中,采用对比损失计算总损失:Lmeta=L1+γL2,其中,Lmeta表示总损失,L1表示所有客户端在测试过程中的第一损失的总和,L2表示所有客户端在测试过程的图像分割的边界损失总和,γ表示预置的权重。
另一方面,本发明实施例提供了一种面向医疗图像分割的联邦学习系统,包括客户端、共享数据库和服务端,所述客户端分为两类:模型部署客户端和非模型部署客户端;所述模型部署客户端指部署有基于深度神经网络的图像分割网络模型的客户端;
所述非模型部署客户端包括幅度谱和相位谱生成模块和存储模块;
所述模型部署客户端包括幅度谱和相位谱生成模块、插值幅度谱生成模块、核心幅度值生成模块、数据集生成模块、模型训练测试模块和存储模块;
其中,非模型部署客户端与模型部署客户端的幅度谱和相位谱生成模块的处理方式相同,包括:获取原始医学图像并进行快速傅里叶变换,得到各幅原始医学图像的幅度值和相位值,基于本端所有的幅度值得到本端的幅度谱,基于本端所有的相位值得到本端的相位谱,将本端的幅度谱与相位谱存入本端的存储模块,并将本端的幅度谱存入共享数据库;
模型部署客户端的插值幅度谱生成模块,从共享数据库中访问其他客户端的幅度谱,以及从本端的存储模块中读取本端的幅度谱,并通过配置的插值法与本端的幅度谱进行插值处理,得到每个其他客户端的插值幅度谱并存入本端的存储模块;
模型部署客户端的核心幅度值生成模块,从本端的存储模块中读取插值幅度谱和本端的幅度谱,以本端幅度谱的每个幅度值为查找对象,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值,得到与本端的每个幅度值对应的核心幅度值并存入本端的存储模块;
模型部署客户端的数据集生成模块,从本端的存储模块中读取核心幅度值和本端的相位谱,将对应的核心幅度值与相位谱进行傅里叶反变换,得到多幅新图像数据并存入本端的存储模块;
模型部署客户端的模型训练测试模块,部署有基于深度神经网络的图像分割网络模型,从本端的存储模块中读取本端的原始医学图像并作为训练数据,并基于配置的第一损失函数对本端的图像分割网络模型进行一轮模型训练,更新图像分割网络模型的网络权重参数;从本端的存储模块中读取所有新图像数据并作为测试数据,对当前的图像分割网络模型进行测试,获取测试结果并将所述测试结果上传给服务端;以及基于服务端反馈的总损失更新本端的图像分割网络模型的网络权重参数,直到满足预置的训练停止条件,得到目标图像分割网络模型;
所述服务端,基于配置的总损失计算策略,根据所有测试结果得到当前的总损失并反馈给各模型部署客户端。
另一方面,本发明提供了一种计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以实现上述任一所述的面向医疗图像分割的联邦学习方法。
另一方面,本发明提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行,以实现上述任一所述的面向医疗图像分割的联邦学习方法。
本发明提供的技术方案至少带来如下有益效果:
1、本发明中,图像分割网络模型所需数据是由部署了图像分割网络模型的模型部署客户端的原始医学图像数据以及没有部署图像分割网络模型的其他客户端的幅度谱,幅度谱信息并不涉及隐私保护,而将各个客户端中涉及隐私保护的相位谱信息仍然保留在客户端本端,实现了联邦学习设定中的隐私保护;另外,通过将没有部署图像分割网络模型的其他客户端的幅度谱信息与部署了图像分割网络模型的模型部署客户端的相位谱信息通过傅里叶变换、融合后形成新的数据集,并用于图像分割网络模型的训练、测试,用于训练、测试的数据包括了各个客户端的数据信息,由此训练并得到的目标图像分割网络模型能够适用于对不同客户端的数据进行处理,目标图像分割网络模型具有更强的泛化能力,显著提高了医疗机构在不共享隐私数据情况下提升了图像分割网络模型对图像分割的泛化能力,能够更好地应用于各客户端的医学图像分割任务,有效解决了现有技术中存在的医疗机构在不共享隐私数据情况下提升图像分割网络模型对图像分割的泛化能力较弱的问题。
2、本发明中,通过快速傅里叶变换得到原始医学图像数据的幅度谱与相位谱信息,将所有客户端本端的幅度谱放到共享数据库中,每一个客户端可以进行访问,而将相位谱保留在每个客户端本端,从而实现联邦学习设定中的隐私保护。
3、本发明中,在筛选客户端幅度谱中核心幅度值时,基于所采用的主动学习方式实现,从而能够从插值幅度谱中选取最能代表自身幅度信息的核心幅度值。
4、本发明中,实现了主动学习,对比学习与联邦学习的结合,提高了医疗机构在不共享隐私数据情况下提升目标图像分割网络模型对图像分割的泛化能力,更好地应用于医学图像分割任务中。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1是本发明实施例提供的一种面向医疗图像分割的联邦学习方法的处理流程图;
图2是本发明实施例提供的一种面向医疗图像分割的联邦学习方法中,结合主动对比学习的联邦领域泛化方法的处理过程示意图。
图3是本发明实施例提供的一种面向医疗图像分割的联邦学习系统的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
为了解决医疗机构在不共享隐私数据情况下提升深度神经网络模型对图像分割的泛化能力的技术问题,本发明实施例提供了一种面向医疗图像分割的联邦学习方法,以便更好地应用于医学图像分割任务中。
作为一种可能的实现方式,参见图1和图2,本发明实施例提供的面向医疗图像分割的联邦学习方法的具体实现步骤如下:
步骤S1,获取客户端本端的原始医学图像及本端的幅度谱与相位谱:
即各客户端分别获取本端的原始医学图像据(每幅原始医学图像作为一个样本数据),并对原始医学图像进行快速傅里叶变换,得到幅度值与相位值,基于本端所有的幅度值和相位值得到本端的幅度谱和相位谱;各客户端将本端的幅度谱存入共享数据库中,以供其它客户端(包括部署了和未部署图像分割网络模型的客户端)访问。本发明实施例中,该共享数据库的访问权限是供所有的客户端,包括未部署图像分割网络模型的客户端,以及部署有图像分割网络模型的客户端(简称模型部署客户端),以用于图像分割网络模型的网络模型参数训练时使用。
由于客户端的相位谱涉及隐私信息,因而将客户端的相位谱保留在各个客户度的本端,不进行共享,其他客户端无法进行访问。
步骤S2,采用连续频率空间插值法进行插值,获取插值幅度谱:
各模型部署客户端通过对共享数据库的访问,获取其他客户端的原始医学图像的幅度谱。定义K表示客户端数量,即对于步骤S1得到的当前客户端的本端幅度谱,均采用连续频率空间插值算法与其他K-1个客户端的幅度谱进行插值,得到K-1个新的插值之后的插值幅度谱。
步骤S3,从插值幅度谱中选取S个核心幅度值:
定义S表示当前模型部署客户端的本端的原始医学图像的数量,当前模型部署客户端基于幅度值之间的欧式距离,遍历本端的幅度谱中的每个幅度值并将其作为查找对象,然后在K-1个插值幅度谱中逐一遍历每个幅度值,查找欧式距离最小的幅度值并作为当前查找对象的核心幅度值,从而得到当前模型部署客户端的S个核心幅度值。即步骤中,基于幅度值之间的欧式距离,采用主动学习的方式,从步骤S2中得到的多幅插值幅度谱中选取S个核心幅度值,从而选取到最能代表当前客户端的原始医学图像的自身幅度信息的S个核心幅度值。
步骤S4,获取S个新的图像数据:
该步骤中,模型部署客户端基于其本端的相位谱的值与步骤S3最后得到的各核心幅度值进行傅里叶反变换,得到S个新的图像数据,即将对应同一原始医学图像的核心幅度值与相位谱进行傅里叶反变换,得到一幅新图像数据,从而得到S幅新图像数据,从而生成有多源客户端信息的新数据集,以用于模型的测试。
步骤S5,模型部署客户端对图像分割网络模型进行训练和测试:
该步骤中,模型部署客户端以本端的原始医学图像为训练数据,以S个新的图像数据为测试数据,对本端的图像分割网络模型进行深度学习处理,包括训练和测试,并将测试结果上传给联邦学习的服务端。即该步骤采用元学习(Meta-learning)范式,基于配置的训练数据和测试数据对目标图像分割网络模型进行元学习训练(模型网络参数训练)和元学习测试,并将上传测试结果,包括当前客户端的基于配置的第一损失函数在测试过程中的第一损失值,以及测试过程中网络模型的输出信息。
步骤S6:联邦学习的服务端基于配置的总损失计算策略,根据所有测试结果得到当前的总损失并反馈给各模型部署客户端;
步骤S7:模型部署客户端基于当前收到的总损失对更新本端的图像分割网络模型的网络权重参数,重复执行步骤S5至步骤S7,直到满足预置的训练停止条件,得到目标图像分割网络模型。
作为一种可能的实现方式,本发明实施例的步骤S1中,在对原始医学图像数据进行快速傅里叶变换得到幅度谱时,其具体过程如下:
其中,参数表示第个客户端的第个样本数据(原始医学图像),即,k表示客
户端编号,i表示样本数据编号,H、W分别表示图像的高度和宽度,c表示图像的通道,h、w分
别表示图像在时域空间中的坐标,范围分别在[0,H-1]和[0,W-1],u,v分别表示图像在频率
空间中的坐标,表示虚数。
再将所得频率空间信号的实部和虚部进行平方和计算和求平方根计算后,获
得当前样本数据(即原始医学图像)的幅度值;将实部和虚部的比值再求反正切函数获
得相位值,即频率空间信号分解后得到相位值。基于当前客户端上的所有幅度值得到当前客户端的幅度谱。
作为一种可能的实现方式,本发明实施例的步骤S2中,采用连续频率空间插值算法进行插值得到新的插值之后的插值幅度谱的具体处理过程为:
其中,表示第个客户端第个样本数据的幅度值与第个客户端的第个样本数据的幅度值进行插值后产生新的幅度值,表示插值率,表示二进制掩
码(预设的用于幅度谱的二进制掩码),从而基于第n个客户端的所有得到该客户端
的插值幅度谱。
作为一种可能的实现方式,本发明实施例的步骤S3具体为:
用表示当前模型部署客户端的查找对象,其对应的图像编号为i;遍历K-1个插
值幅度谱的每一个幅度值,分别计算各幅度值与查找对象之间的欧式距离,将最小欧式距
离的幅度值作为的核心幅度值,从而得到图像编号i的核心幅度值;重复该查找,直到查
找到S个核心幅度值。
上述查找匹配的过程可以用公式描述为:
作为一种可能的实现方式,本发明实施例的步骤S4中,得到S个新的图像数据的具体计算为:
优选的,本发明实施例步骤S5中,在训练过程中的第一损失函数配置为Dice损失函数。且在步骤S6中,在测试过程中通过对比学习来突出边界描绘,即服务端采用对比损失函数来计算总损失。以使得各模型部署客户端基于服务端反馈的总损失更新本端的图形分割网络模型的网络参数(即权重参数)。
作为一种可能的实现方式,本发明实施例的步骤S5中,在训练过程采用医疗图像分割任务中应用最为广泛的的Dice损失函数:
其中,表示训练过程的Dice损失,表示Dice损失函数,表示当
前模型部署客户端的原始医学图像集,k表示客户端编号,表示图像分割网络模型的网络
权重参数,表示第个客户端的本端的第个样本数据,为实际的分割图像,为预测的分割图像(即图像分割网络模型的输出)。
其中,用于表征服务端的总损失,为测试过程中的Dice损失,在计算
总损失时,基于收到的所有部署客户端的测试过程的损失的总和得到的值,为超
参数,表征边界损失的权重,也可称为边界介导损失,
在其他K-1个客户端执行同当前客户端一样操作时,可以获得K个边界特征(特征向量),K个
背景特征,一共有2K个特征量,其中表示通过图像分割网络模型提取的特征组成的
特征对,包括:边界特征与边界特征组成的特征对,边界特征与背景特征组成的特征对,背
景特征与背景特征组成的特征对,下标m,p分别表示提取的特征(特征总数为2K)中的第m个
特征和第p个特征,若为正相关特征,则值为0,若为负相关特征,则值为1;表示边界特征和背景特征之间的对比损失,表示组合数,表示总的特征个数。
通常,图像分割网络模型包括特征提取网络和分割输出层,特征提取网络用于提取输入图像的图像特征向量,分割输出层用于预测该图像特征向量是背景还是边界。
如图2所示,本发明实施例中,首先将K个客户端的原始医学图像通过快速傅里叶
变换得到其幅度谱与相位谱,将相位谱保留在每个客户端的本端,而幅度谱则存入共享数
据库供其它客户端访问。接着,每个客户端通过共享数据库访问其它客户端的幅度谱,从而
得到其它非本端的幅度谱,如图2所示,图中的,,……,分别表示不同编号的其它
客户端的幅度谱,再结合本端的幅度谱对其他K-1个幅度谱通过连续频率空间插值算法进
行插值,得到K-1个插值幅度谱,即实现了对其它K-1个客户端的幅度谱的调整;然后采用核
心集采样的主动学习方法从插值幅度谱中选出能代表多种数据集信息的幅值,再结合对应
相位值进行傅里叶反变换,得到一批新数据集;再接着采用元学习范式,将原始医疗数据集
用于Meta-train(元学习训练)过程,将新数据集用于Meta-test(元学习测试)过程;最后再
利用对比学习来突出图像中的边界,采用对比损失函数来进行模型网络参数更新,当满足
元学习的结束条件时,得到目标图像分割网络模型,以用于对待分割图像的分割处理。
模型部署客户端在基于目标图像分割网络模型进行医疗图像分割应用时,将待分割图像输入到目标图像分割网络模型中,基于其输出得到待分割图像的分割结果。通常,图像分割网络用于输出(预测)图像的各像素点是边界还是背景,即用于预测像素点属于边界和背景的预测概率,基于其中的较大概率确定该像素是边界特征还是背景特征,进而得到图像分割结果。
在一种可能的实现方式中,本发明实施例还提供了一种面向医疗图像分割的联邦学习系统,参见图3,该系统包括多个客户端和一个共享数据库、以及服务端,其中,客户端包括模型部署客户端和非模型部署客户端。
所述非模型部署客户端包括幅度谱和相位谱生成模块和存储模块,即非模型部署
客户端仅用于执行本发明实施例提供的面向医疗图像分割的联邦学习方法的步骤S1:获取
原始医学图像并对其进行快速傅里叶变换得到幅度值与相位值,在本端存储本端的原始医
学图像及其幅度值和相位值,即、和存入客户端本端的存储模块;以及
基于本端所有的得到当前客户端的幅度谱并存入共享数据库中,供其它客户端访
问。而模型部署客户端则包括幅度谱和相位谱生成模块、插值幅度谱生成模块、核心幅度值
生成模块、数据集生成模块、模型训练测试模块和存储模块,即本发明实施例中,模型部署
客户端用于执行本发明实施例提供的面向医疗图像分割的联邦学习方法的步骤S1至步骤
S5。
本发明实施例中,非模型部署客户端与模型部署客户端的幅度谱和相位谱生成模块处理方式相同,为:获取原始医学图像并进行快速傅里叶变换,得到各幅原始医学图像的幅度值和相位值,基于本端所有的幅度值得到本端的幅度谱,基于本端所有的相位值得到本端的相位谱,将本端的幅度谱与相位谱存入本端的存储模块,并将本端的幅度谱存入共享数据库;
模型部署客户端的插值幅度谱生成模块,从共享数据库中访问其他客户端的幅度谱,以及从本端的存储模块中读取本端的幅度谱,并通过配置的插值法与本端的幅度谱进行插值处理,得到每个其他客户端的插值幅度谱并存入本端的存储模块;
模型部署客户端的核心幅度值生成模块,从本端的存储模块中读取插值幅度谱和本端的幅度谱,以本端幅度谱的每个幅度值为查找对象,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值,得到与本端的每个幅度值对应的核心幅度值并存入本端的存储模块;
模型部署客户端的数据集生成模块,从本端的存储模块中读取核心幅度值和本端的相位谱,将对应的核心幅度值与相位谱进行傅里叶反变换,得到多幅新图像数据并存入本端的存储模块;
模型部署客户端的模型训练测试模块,部署有基于深度神经网络的图像分割网络模型,从本端的存储模块中读取本端的原始医学图像并作为训练数据,并基于配置的第一损失函数对本端的图像分割网络模型进行一轮模型训练,更新图像分割网络模型的网络权重参数;从本端的存储模块中读取所有新图像数据并作为测试数据,对当前的图像分割网络模型进行测试,获取测试结果并将所述测试结果上传给服务端;以及基于服务端反馈的总损失更新本端的图像分割网络模型的网络权重参数,直到满足预置的训练停止条件,得到目标图像分割网络模型。
本发明实施例中,还可基于实际使用需求,将非模型部署客户端配置为模型部署客户端,仅需要部署欠缺的对应模块即可实现,方便用户扩展部署。即通过新增插值幅度谱生成模块、核心幅度值生成模块、数据集生成模块、模型训练测试模块则可将其配置为模型部署客户端。
需要说明的是,上述实施例提供的客户端在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的客户端与方法实施例属于同一构思,其具体实现过程详见方法实施例,此处不再赘述。
在示例性实施例中,本发明实施例还提供了一种计算机设备,该计算机设备包括处理器和存储器,该存储器中存储有至少一条计算机程序。该至少一条计算机程序由一个或者一个以上处理器加载并执行,以实现上述任一种面向医疗图像分割的联邦学习。
在示例性实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条计算机程序,该至少一条计算机程序由计算机设备的处理器加载并执行,以实现上述任一种面向医疗图像分割的联邦学习。
在一种可能实现方式中,上述计算机可读存储介质可以是只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact DiscRead-Only Memory,CD-ROMD)、磁带和光数据存储设备等。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
以上所述的仅是本发明的一些实施方式。对于本领域的普通技术人员来说,在不脱离本发明创造构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。
Claims (10)
1.一种面向医疗图像分割的联邦学习方法,其特征在于,包括如下步骤:
步骤S1:客户端获取原始医学图像并进行快速傅里叶变换,得到各幅原始医学图像的幅度值和相位值,基于本端所有的幅度值得到本端的幅度谱,基于本端所有的相位值得到本端的相位谱,客户端将本端的幅度谱存入共享数据库;
所述客户端包括模型部署客户端和非模型部署客户端,所述模型部署客户端指部署有基于深度神经网络的图像分割网络模型的客户端;
步骤S2:模型部署客户端从共享数据库中访问其他客户端的幅度谱,并通过配置的插值法与本端的幅度谱进行插值处理,得到每个其他客户端的插值幅度谱;
步骤S3:模型部署客户端以本端的幅度谱的每个幅度值为查找对象,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值,得到与本端的每个幅度值对应的核心幅度值;
步骤S4:模型部署客户端基于本端的相位谱,将对应的核心幅度值与相位谱进行傅里叶反变换,得到多幅新图像数据;
步骤S5:模型部署客户端以本端的原始医学图像为训练数据,并基于配置的第一损失函数对本端的图像分割网络模型进行一轮模型训练,更新图像分割网络模型的网络权重参数;
再以步骤S4得到的所有新图像数据为测试数据,对当前的图像分割网络模型进行测试,获取测试结果并将所述测试结果上传给联邦学习的服务端;
步骤S6:联邦学习的服务端基于配置的总损失计算策略,根据所有测试结果得到当前的总损失并反馈给各模型部署客户端;
步骤S7:模型部署客户端基于当前收到的总损失更新本端的图像分割网络模型的网络权重参数,重复执行步骤S5至步骤S7,直到满足预置的训练停止条件,得到目标图像分割网络模型。
2.根据权利要求1所述的面向医疗图像分割的联邦学习方法,其特征在于,所述步骤S1中,对原始医学图像进行快速傅里叶变换得到各幅原始医学图像的幅度值和相位值具体为:
对当前原始医学图像进行快速傅里叶变换得到其频率空间信号;
将当前原始医学图像的频率空间信号的实部和虚部进行平方和计算,再进行平方根计算,得到当前原始医学图像的幅度值;
将当前原始医学图像的频率空间信号的实部和虚部的比值进行反正切计算,得到当前原始医学图像的相位值。
3.根据权利要求1所述的面向医疗图像分割的联邦学习方法,其特征在于,所述步骤S2中,所述插值法采用连续频率空间插值算法。
4.根据权利要求3所述的面向医疗图像分割的联邦学习方法,其特征在于,所述步骤S2中,采用的连续频率空间插值算法具体为:
根据预置的插值率λ,以λ作为其它客户端的幅度谱的权重,以1-λ作为本端幅度谱的第一权重,进行加权和运算,得到第一运算中间结果;
基于配置的用于幅度谱的二进制掩码M,以M作为第一运算中间结果的权重,以1-M作为本端幅度谱的第二权重,进行加权和运算,得到每个其他客户端的插值幅度谱。
5.根据权利要求1所述的面向医疗图像分割的联邦学习方法,其特征在于,所述步骤S3中,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值具体为:
基于幅度值之间的欧式距离,以本端的每个幅度值作为查找对象,在所有插值幅度谱中查找欧式距离最小的幅度值作为当前查找对象的查找结果,得到与本端的每个幅度值对应的核心幅度值。
7.根据权利要求1至6任一项所述的面向医疗图像分割的联邦学习方法,其特征在于,所述步骤S6中,采用对比损失计算总损失:Lmeta=L1+γL2,其中,Lmeta表示总损失,L1表示所有客户端在测试过程中的第一损失的总和,L2表示所有客户端在测试过程的图像分割的边界损失总和,γ表示预置的权重。
8.一种面向医疗图像分割的联邦学习系统,其特征在于,包括客户端、共享数据库和服务端,所述客户端分为两类:模型部署客户端和非模型部署客户端;所述模型部署客户端指部署有基于深度神经网络的图像分割网络模型的客户端;
所述非模型部署客户端包括幅度谱和相位谱生成模块和存储模块;
所述模型部署客户端包括幅度谱和相位谱生成模块、插值幅度谱生成模块、核心幅度值生成模块、数据集生成模块、模型训练测试模块和存储模块;
其中,非模型部署客户端与模型部署客户端的幅度谱和相位谱生成模块的处理方式相同,包括:获取原始医学图像并进行快速傅里叶变换,得到各幅原始医学图像的幅度值和相位值,基于本端所有的幅度值得到本端的幅度谱,基于本端所有的相位值得到本端的相位谱,将本端的幅度谱与相位谱存入本端的存储模块,并将本端的幅度谱存入共享数据库;
模型部署客户端的插值幅度谱生成模块,从共享数据库中访问其他客户端的幅度谱,以及从本端的存储模块中读取本端的幅度谱,并通过配置的插值法与本端的幅度谱进行插值处理,得到每个其他客户端的插值幅度谱并存入本端的存储模块;
模型部署客户端的核心幅度值生成模块,从本端的存储模块中读取插值幅度谱和本端的幅度谱,以本端幅度谱的每个幅度值为查找对象,在所有插值幅度谱中查找满足匹配条件的幅度值作为当前查找对象的核心幅度值,得到与本端的每个幅度值对应的核心幅度值并存入本端的存储模块;
模型部署客户端的数据集生成模块,从本端的存储模块中读取核心幅度值和本端的相位谱,将对应的核心幅度值与相位谱进行傅里叶反变换,得到多幅新图像数据并存入本端的存储模块;
模型部署客户端的模型训练测试模块,部署有基于深度神经网络的图像分割网络模型,从本端的存储模块中读取本端的原始医学图像并作为训练数据,并基于配置的第一损失函数对本端的图像分割网络模型进行一轮模型训练,更新图像分割网络模型的网络权重参数;从本端的存储模块中读取所有新图像数据并作为测试数据,对当前的图像分割网络模型进行测试,获取测试结果并将所述测试结果上传给服务端;以及基于服务端反馈的总损失更新本端的图像分割网络模型的网络权重参数,直到满足预置的训练停止条件,得到目标图像分割网络模型;
所述服务端,基于配置的总损失计算策略,根据所有测试结果得到当前的总损失并反馈给各模型部署客户端。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以实现如权利要求1至7任一所述的面向医疗图像分割的联邦学习方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行,以实现如权利要求1至7任一所述的面向医疗图像分割的联邦学习方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210113370.0A CN114140478B (zh) | 2022-01-30 | 2022-01-30 | 面向医疗图像分割的联邦学习方法及系统、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210113370.0A CN114140478B (zh) | 2022-01-30 | 2022-01-30 | 面向医疗图像分割的联邦学习方法及系统、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114140478A true CN114140478A (zh) | 2022-03-04 |
CN114140478B CN114140478B (zh) | 2022-06-03 |
Family
ID=80381907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210113370.0A Active CN114140478B (zh) | 2022-01-30 | 2022-01-30 | 面向医疗图像分割的联邦学习方法及系统、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114140478B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116109608A (zh) * | 2023-02-23 | 2023-05-12 | 智慧眼科技股份有限公司 | 一种肿瘤分割方法、装置、设备及存储介质 |
CN116524292A (zh) * | 2023-03-22 | 2023-08-01 | 江苏济远医疗科技有限公司 | 一种多源异质医学图像的联邦学习方法 |
CN117313869A (zh) * | 2023-10-30 | 2023-12-29 | 浙江大学 | 一种基于模型分割的大模型隐私保护推理方法 |
CN117765572A (zh) * | 2024-02-22 | 2024-03-26 | 东北大学 | 一种基于联邦学习的行人重识别方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10262229B1 (en) * | 2015-03-24 | 2019-04-16 | Hrl Laboratories, Llc | Wide-area salient object detection architecture for low power hardware platforms |
CN111034170A (zh) * | 2017-08-16 | 2020-04-17 | 高通股份有限公司 | 具有稳定曝光或白平衡的图像捕获装置 |
WO2021026256A1 (en) * | 2019-08-08 | 2021-02-11 | Neuroptica, Llc | Systems and methods for imaging disease biomarkers |
CN112988382A (zh) * | 2021-03-12 | 2021-06-18 | 中国科学院自动化研究所 | 基于分布式深度学习的医学影像智能分析系统 |
CN113240129A (zh) * | 2021-05-07 | 2021-08-10 | 大连理工大学 | 一种面向多类型任务图像分析的联邦学习系统 |
CN113571203A (zh) * | 2021-07-19 | 2021-10-29 | 复旦大学附属华山医院 | 多中心基于联邦学习的脑肿瘤预后生存期预测方法及系统 |
WO2022013264A1 (en) * | 2020-07-16 | 2022-01-20 | Koninklijke Philips N.V. | Selecting a training dataset with which to train a model |
-
2022
- 2022-01-30 CN CN202210113370.0A patent/CN114140478B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10262229B1 (en) * | 2015-03-24 | 2019-04-16 | Hrl Laboratories, Llc | Wide-area salient object detection architecture for low power hardware platforms |
CN111034170A (zh) * | 2017-08-16 | 2020-04-17 | 高通股份有限公司 | 具有稳定曝光或白平衡的图像捕获装置 |
WO2021026256A1 (en) * | 2019-08-08 | 2021-02-11 | Neuroptica, Llc | Systems and methods for imaging disease biomarkers |
WO2022013264A1 (en) * | 2020-07-16 | 2022-01-20 | Koninklijke Philips N.V. | Selecting a training dataset with which to train a model |
CN112988382A (zh) * | 2021-03-12 | 2021-06-18 | 中国科学院自动化研究所 | 基于分布式深度学习的医学影像智能分析系统 |
CN113240129A (zh) * | 2021-05-07 | 2021-08-10 | 大连理工大学 | 一种面向多类型任务图像分析的联邦学习系统 |
CN113571203A (zh) * | 2021-07-19 | 2021-10-29 | 复旦大学附属华山医院 | 多中心基于联邦学习的脑肿瘤预后生存期预测方法及系统 |
Non-Patent Citations (5)
Title |
---|
"《科学技术与工程》第十卷分类索引", 《科学技术与工程》 * |
MEIRUI JIANG等: "HarmoFL: Harmonizing Local and Global Drifts in Federated Learning on Heterogenous Medical Images", 《HTTPS:ARXIV.ORG/ABS/2112.10775V1》 * |
QUANDE LIU等: "FedDG: Federated Domain Generalization on Medical Image Segmentation", 《HTTPS://ARXIV.ORG/ABS/2013.06030》 * |
窦佐超等: "联盟学习在生物医学大数据隐私保护中的原理与应用", 《医学信息学杂志》 * |
黄在望等: "《通信电路原理 第2版》", 31 August 2002, 高等教育出版社 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116109608A (zh) * | 2023-02-23 | 2023-05-12 | 智慧眼科技股份有限公司 | 一种肿瘤分割方法、装置、设备及存储介质 |
CN116524292A (zh) * | 2023-03-22 | 2023-08-01 | 江苏济远医疗科技有限公司 | 一种多源异质医学图像的联邦学习方法 |
CN117313869A (zh) * | 2023-10-30 | 2023-12-29 | 浙江大学 | 一种基于模型分割的大模型隐私保护推理方法 |
CN117313869B (zh) * | 2023-10-30 | 2024-04-05 | 浙江大学 | 一种基于模型分割的大模型隐私保护推理方法 |
CN117765572A (zh) * | 2024-02-22 | 2024-03-26 | 东北大学 | 一种基于联邦学习的行人重识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114140478B (zh) | 2022-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114140478B (zh) | 面向医疗图像分割的联邦学习方法及系统、设备和介质 | |
CN111291755B (zh) | 对象检测模型训练及对象检测方法、装置、计算机设备和存储介质 | |
CN109063742B (zh) | 蝴蝶识别网络构建方法、装置、计算机设备及存储介质 | |
CN106845529B (zh) | 基于多视野卷积神经网络的影像特征识别方法 | |
Klibisz et al. | Fast, simple calcium imaging segmentation with fully convolutional networks | |
CN111161311A (zh) | 一种基于深度学习的视觉多目标跟踪方法及装置 | |
CN110276745B (zh) | 一种基于生成对抗网络的病理图像检测算法 | |
CN111583210B (zh) | 基于卷积神经网络模型集成的乳腺癌图像自动识别方法 | |
CN110363296B (zh) | 任务模型获取方法和装置、存储介质及电子装置 | |
CN109360028A (zh) | 用于推送信息的方法和装置 | |
Cao et al. | Research for face image super-resolution reconstruction based on wavelet transform and SRGAN | |
Dou et al. | Image fusion based on wavelet transform with genetic algorithms and human visual system | |
CN115115856A (zh) | 图像编码器的训练方法、装置、设备及介质 | |
CN113392866A (zh) | 一种基于人工智能的图像处理方法、装置及存储介质 | |
CN111145311A (zh) | 高分辨率人脸图像的多属性编辑方法、系统、装置 | |
Narmatha et al. | Ovarian cysts classification using novel deep reinforcement learning with Harris Hawks Optimization method | |
Nandhini et al. | Hierarchical patch selection: an improved patch sampling for no reference image quality assessment | |
CN116664953A (zh) | 2.5d肺炎医学ct影像分类装置及设备 | |
Tun et al. | Federated learning with diffusion models for privacy-sensitive vision tasks | |
Ortelli et al. | Faster estimation of discrete choice models via dataset reduction | |
CN113222887A (zh) | 基于深度学习的纳米铁标记神经干细胞示踪的方法 | |
Qin et al. | Pair-comparing based convolutional neural network for blind image quality assessment | |
Khan | Towards continual, online, self-supervised depth | |
Baldeon-Calisto et al. | Deepsit: Deeply supervised framework for image translation on breast cancer analysis | |
Liman et al. | Diffusion-based Generative Image Outpainting for Recovery of FOV-Truncated CT Images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |