CN113763501B - 图像重建模型的迭代方法和图像重建方法 - Google Patents
图像重建模型的迭代方法和图像重建方法 Download PDFInfo
- Publication number
- CN113763501B CN113763501B CN202111051445.9A CN202111051445A CN113763501B CN 113763501 B CN113763501 B CN 113763501B CN 202111051445 A CN202111051445 A CN 202111051445A CN 113763501 B CN113763501 B CN 113763501B
- Authority
- CN
- China
- Prior art keywords
- iteration
- loss function
- image reconstruction
- function value
- reconstruction model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 134
- 230000006870 function Effects 0.000 claims abstract description 367
- 230000002159 abnormal effect Effects 0.000 claims abstract description 43
- 230000009466 transformation Effects 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 13
- 230000000694 effects Effects 0.000 abstract description 22
- 230000007547 defect Effects 0.000 abstract description 9
- 230000008569 process Effects 0.000 description 35
- 238000013528 artificial neural network Methods 0.000 description 18
- 230000006872 improvement Effects 0.000 description 8
- 230000002457 bidirectional effect Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000002591 computed tomography Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000005856 abnormality Effects 0.000 description 5
- 239000003381 stabilizer Substances 0.000 description 5
- 238000011478 gradient descent method Methods 0.000 description 4
- 238000012804 iterative process Methods 0.000 description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 3
- 238000005481 NMR spectroscopy Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/003—Reconstruction from projections, e.g. tomography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/424—Iterative
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明提供一种图像重建模型的迭代方法和图像重建方法,其中,图像重建模型的迭代方法包括,基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;克服了损失函数收敛不稳定导致模型迭代效果不佳的缺陷,实现了迭代效率和迭代效果的提升。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种图像重建模型的迭代方法和图像重建方法。
背景技术
目前的图像重建任务有的是利用基于深度神经网络的图像重建模型进行图像重建,而利用基于深度神经网络的图像重建模型进行图像重建时要对神经网络进行迭代,在神经网络迭代中需要对损失函数进行迭代收敛,收敛中可能由于各种原因最终导致损失函数的收敛出现收敛不稳定的情况,这一情况的反复出现会对神经网络的迭代效果产生极大的影响。
目前的神经网络迭代过程中,通过链式求导法则求得损失函数值对于权重值的导数,随后基于随机梯度下降法或者基于在随机梯度下降法改进所得的优化器更新权重值。
但是,在神经网络中权重值的导数极大处,使用改进后的优化器仍会使得损失函数出现收敛不稳定或者大幅度抖动的情况,这极大地影响了神经网络的迭代效果,从而导致通过迭代完成的图像重建模型进行图像重建所得的重建图像的效果不佳。
发明内容
本发明提供一种图像重建模型的迭代方法和图像重建方法,用以克服现有技术中神经网络迭代过程中损失函数收敛不稳定或者大幅度抖动的缺陷。
本发明提供一种图像重建模型的迭代方法,包括:
基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值;
若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常,对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,所述第一迭代的学习率大于所述第二迭代的学习率,所述正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;
把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。
根据本发明提供的一种图像重建模型的迭代方法,所述基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值,包括:
利用图像重建模型对于初始随机权重值输出预估重建图像;
基于所述原始数据以及所述预估重建图像,确定所述图像重建模型的第一损失函数值;
基于所述第一损失函数值,对所述图像重建模型进行第一迭代,得到所述第一权重值。
根据本发明提供的一种图像重建模型的迭代方法,所述基于所述原始数据以及所述预估重建图像,确定所述图像重建模型的第一损失函数值,包括:
对所述预估重建图像进行图像变换,基于图像变换所得的第一预估图像的变换数据,以及所述原始数据,确定所述图像重建模型的第一损失函数值。
根据本发明提供的一种图像重建模型的迭代方法,若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,之前还包括:
基于所述第一损失函数值和正常损失函数值,确定所述第一损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度大于预设增幅阈值,则确定所述第一损失函数值指示收敛异常。
根据本发明提供的一种图像重建模型的迭代方法,所述基于所述第一损失函数值和所述正常损失函数值,确定所述第一损失函数值的增长幅度,包括:
若所述第一迭代的连续迭代次数达到预设次数,则基于所述第一损失函数值和所述正常损失函数值,确定所述第一损失函数值的增长幅度。
根据本发明提供的一种图像重建模型的迭代方法,所述对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,之前还包括:
基于所述第二损失函数值和正常损失函数值,确定所述第二损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度小于等于预设增幅阈值,则确定所述第二损失函数值指示收敛正常。
根据本发明提供的一种图像重建模型的迭代方法,所述第二迭代的学习率是基于所述第一迭代的学习率、所述第一损失函数值以及正常损失函数值确定的,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值。
本发明还提供一种图像重建方法,包括:
获取原始数据;
基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
本发明还提供的一种图像重建模型的迭代装置,包括:
迭代单元,用于基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值;若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常,对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,所述第一迭代的学习率大于所述第二迭代的学习率,所述正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;
重建图像确定单元,用于把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。
本发明还提供的一种图像重建装置,包括:
原始数据获取单元,用于获取原始数据;
图像重建单元,用于基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述的图像重建模型的迭代方法,或如上述所述的图像重建方法的步骤。
本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述的图像重建模型的迭代方法,或如上述所述的图像重建方法的步骤。
本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述的图像重建模型的迭代方法,或如上述所述的图像重建方法的步骤。
本发明提供的图像重建模型的迭代方法和图像重建方法,若图像重建模型经过第一迭代所得的第一损失函数值指示收敛异常,则将第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,并对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,其中,第一迭代的学习率大于第二迭代的学习率,在不改变模型原有结构、不影响模型正常迭代的同时,克服了图像重建模型迭代过程中损失函数收敛不稳定的缺陷,不仅保证了模型的迭代效果,还加快了损失函数收敛的效率,实现了模型总体迭代效率以及迭代效果的双向提升;应用结合本迭代方法的图像重建模型进行图像重建能够加快图像重建任务的进程,提高图像重建任务的效率。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明提供的图像重建模型的迭代方法的流程示意图;
图2是本发明提供的图像重建模型的迭代方法的总体流程图;
图3是本发明提供的应用图像重建模型的迭代方法之前损失函数随迭代次数的变化图;
图4是本发明提供的应用图像重建模型的迭代方法之后损失函数随迭代次数的变化图;
图5是本发明提供的图像重建方法的流程示意图;
图6是本发明提供的图像重建模型的迭代装置的结构示意图;
图7是本发明提供的图像重建装置的结构示意图;
图8是本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
目前的图像重建任务有的是利用基于深度神经网络的图像重建模型进行图像重建,而利用基于深度神经网络的图像重建模型进行图像重建时要对神经网络进行迭代,在神经网络的迭代过程中,需要对损失函数进行迭代收敛,收敛过程中可能由于优化器参数或神经网络本身的结构等多方面的原因,最终导致损失函数的收敛出现收敛不稳定的情况,而这一情况的反复出现会对神经网络的迭代效果产生极大影响。
目前,在神经网络迭代过程中,通常采用PyTorch或TensorFlow等框架提供的自动求导机制,通过链式求导法则求得损失函数值对于权重值的导数后,基于预设规则对权重值进行迭代更新,从而实现损失函数的收敛。其中,预设规则可以是随机梯度下降法,也可以是在随机梯度下降法的基础上进行改进后得到的优化器。例如“adagrad”、“RMSProp”、“adam”等。
在通过优化器对权重值进行更新时,使用不同的优化器会产生不同的效果。此类改进后的优化器不仅具备使损失函数收敛加快的能力,还具备能够避免局部最优情况出现的能力。以“adam”为例进行说明,“adam”能够对梯度的一阶矩估计和二阶矩估计进行综合考虑,计算出更新步长,具有很高的效率,并且其对设置的超参数不敏感,稳定性较强。
但是,在实际使用中发现此类优化器在神经网络中梯度爆炸处的迭代会出现损失函数收敛不稳定以及大幅抖动的情况。而梯度爆炸又是由于权重值更新策略对于损失函数的收敛失效导致的,并且,这一情况反复出现不仅会影响损失函数的收敛效率,还会导致神经网络的迭代无法达到预期目标。
针对上述情况,本发明提供一种图像重建模型的迭代方法,旨在克服图像重建模型的迭代中存在的损失函数收敛不稳定的缺陷,实现图像重建模型的总体迭代效率以及迭代效果的双向提升,图1是本发明提供的图像重建模型的迭代方法的流程示意图,如图1所示,该方法包括:
步骤110,基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;
具体地,在对图像重建模型进行迭代之前,还需获取迭代所需的原始数据,此处的原始数据可以是各种类型的可用于图像重建的数据,例如,核磁共振数据、CT(ComputedTomography,电子计算机断层扫描)数据、人物图像数据、风景图像数据等。
确定原始数据后,即可根据原始数据,利用前向传播算法获取和反向传播算法,对图像重建模型进行第一迭代,从而得到图像重建模型的第一损失函数值和第一权重值。
其中,对图像重建模型进行第一迭代,得到第一损失函数值和第一权重值的过程具体可以是,首先,将原始数据输入至图像重建模型,由图像重建模型根据输入的原始数据相应输出原始数据的预测结果;随即,根据原始数据的预测结果,确定图像重建模型的第一损失函数值和第一权重值,此处的第一损失函数值表征原始数据与原始数据的预测结果之间的差异,第一权重值即图像重建模型中各参数的权重值。
需要说明的是,此处的第一迭代,可以理解为针对图像重建模型的常规迭代操作,此处的“第一”用于和后续步骤中的“第二”进行区分。
确定图像重建模型的第一权重值和第一损失函数值后,还需判断第一迭代的损失函数的收敛状态,即判断第一迭代所得的第一损失函数值是否指示收敛异常,若第一损失函数值指示收敛异常,表明图像重建模型在第一迭代过程中损失函数出现收敛不稳定或大幅度抖动的情况,则执行步骤120。
相应地,若图像重建模型在第一迭代过程中损失函数正常收敛,即第一迭代所得的第一损失函数值指示收敛正常,则重复上述过程,执行步骤110,直至第一迭代所得的第一损失函数值指示收敛异常。
此处,判断第一迭代的损失函数的收敛状态,即判断第一迭代所得的第一损失函数值是指示收敛正常,或指示收敛异常,这一步骤可以是每执行一次第一迭代,都进行判断,也可以是执行多次第一迭代后,进行一次判断,本发明实施例对此不作具体限定。
步骤120,若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;
具体地,若经过步骤110后,确定第一损失函数值指示收敛异常,则将第一迭代所得的第一权重值替换为最近一次损失函数值指示收敛正常的迭代所得的权重值,即正常权重值,即将此时的图像重建模型返回至最近一次损失函数收敛正常时的状态。
考虑到第一迭代所得的损失函数值指示收敛异常,是由于图像重建模型中的权重值的梯度出现了局部极大值的情况,本发明实施例中在将第一权重值替换为正常权重值后,还需对第一迭代的学习率进行调整,使调整后的学习率小于第一迭代的学习率,得到新的学习率,将该学习率作为第二迭代的学习率。此处的学习率是图像重建模型的迭代过程中决定参数调整步长的超参数。
确定第二迭代的学习率后,即可根据第二迭代的学习率对图像重建模型进行第二迭代,得到图像重建模型的第二损失函数值和第二权重值,这一过程具体可以是将原始数据输入至图像重建模型,由图像重建模型根据输入的原始数据相应输出原始数据的预估结果,并根据原始数据的预估结果,确定图像重建模型的第二损失函数值和第二权重值。
需要说明的是,此处的第二迭代,与上一步骤中的第一迭代的执行流程一致,区别仅在于此两者的学习率不同,且第二迭代的学习率固定小于第一迭代的学习率。应用更小的学习率执行第二迭代,可以尽量避免在第二迭代过程中图像重建模型中的权重值梯度出现局部极大值的情况,进而使得图像重建模型的损失函数可以尽量向收敛的方向迁移。
随后,根据第二迭代所得的第二损失函数值,以及正常损失函数值,判断第二损失函数值是否指示收敛正常;此处的正常损失函数值即最近一次损失函数值指示收敛正常的迭代所得的函数值。
进一步地,若第二损失函数值指示收敛正常,则存储本次迭代所得的损失函数值和权重值,以便作为后续迭代过程中评判损失函数是否收敛正常的标准;并对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,即返回执行步骤110,根据第一迭代的学习率,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,直至第一迭代所得的图像重建模型的第一损失函数值指示收敛异常,执行步骤120,如此重复,直至图像重建模型的迭代满足迭代完成条件。
相应地,若第二损失函数值指示收敛异常,则将第二权重值替换为正常权重值,再次调整第二迭代的学习率,使得调整后的学习率小于第一迭代的学习率;随后,根据调整后的学习率对权重值替换后的图像重建模型进行第二迭代,得到新的损失函数值和新的权重值;此后,根据新的损失函数值以及正常损失函数值,再次判断新的损失函数值是否指示收敛正常,重复上述过程直至第二损失函数值指示收敛正常。
步骤130,把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。
具体地,步骤120中,在对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代后,还需判断图像重建模型的迭代是否满足迭代完成条件;若满足迭代完成条件,则将满足迭代完成条件的图像重建模型确定为最终的图像重建模型。
相应地,若图像重建模型的迭代尚未满足迭代完成条件,则重复上述过程,即继续执行步骤110和步骤120,直至图像重建模型的迭代满足迭代完成条件。
此后,满足迭代完成条件的图像重建模型即可依据其权重值生成图像,并将该图像确定为输入图像的重建模型,即将满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。
需要说明的是,此处的迭代完成条件是根据实际需求预先设定的用于确认图像重建模型迭代完成的条件,可以是图像重建模型进行第一迭代的迭代次数的总和达到目标次数,也可以是第一迭代的迭代目标达到预设目标,本发明实施例对此不做具体限定。此处的目标次数和预设目标均可根据实际需求预先设定。
本发明提供的图像重建模型的迭代方法,若图像重建模型经过第一迭代所得的第一损失函数值指示收敛异常,则将第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,并对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,其中,第一迭代的学习率大于第二迭代的学习率,在不改变模型原有结构、不影响模型正常迭代的同时,克服了图像重建模型迭代过程中损失函数收敛不稳定的缺陷,不仅保证了模型的迭代效果,还加快了损失函数收敛的效率,实现了模型总体迭代效率以及迭代效果的双向提升;应用结合本迭代方法的图像重建模型进行图像重建能够加快图像重建任务的进程,提高图像重建任务的效率。
基于上述实施例,步骤110中,基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值,包括:
利用图像重建模型对于初始随机权重值输出预估重建图像;
基于原始数据以及预估重建图像,确定图像重建模型的第一损失函数值;
基于第一损失函数值,对图像重建模型进行第一迭代,得到所述第一权重值。
具体地,步骤110中确定原始数据后,即可根据原始数据对图像重建模型进行第一迭代,将原始数据输入至图像重建模型,由图像重建模型对输入的原始数据进行图像重建,得到原始数据的预估重建图像;此处的预估重建图像即原始数据经过图像重建模型后得到的原始数据的预测值。
随即,根据原始数据,以及图像重建模型对于初始随机权重值输出原始数据的预估重建图像,确定两者之间的差异,并根据两者之间的差异确定图像重建模型的第一损失函数值。需要说明的是,此两者之间的差异可通过原始数据与原始数据的预估重建图像之间的差异度表征,也可通过两者之间的相似度表征,本发明实施例对此不做具体限定。
得到图像重建模型的第一损失函数值后,还需根据第一损失函数值对图像重建模型进行第一迭代,从而得到图像重建模型的第一权重值。
基于上述实施例,步骤110中,基于原始数据以及预估重建图像,确定图像重建模型的第一损失函数值,包括:
对所述预估重建图像进行图像变换,基于图像变换所得的第一预估图像的变换数据,以及所述原始数据,确定所述图像重建模型的第一损失函数值。
由于对原始数据进行图像重建的模型仅是迭代过程中的图像重建模型,并非满足迭代完成条件后的图像重建模型,因此经由迭代过程中的图像重建模型进行图像重建后输出的原始数据的预估重建图像可能与原始数据之间存在较大差异,因而,本发明实施例中还可对原始数据的预估重建图像进行进一步处理,以使经过进一步处理后的图像能与原始数据尽可能相近。
具体地,在得到原始数据的预估重建图像后,还可对原始数据的预估重建图像进行图像变换,得到原始数据的第一预估图像的变换数据;此后,即可根据图像变换所得的第一预估图像的变换数据以及原始数据,确定图像重建模型的第一损失函数值,具体可以是对原始数据与第一预估图像的变换数据进行对比,确定两者之间的差异,并根据两者之间的差异确定图像重建模型的第一损失函数值,而此两者之间的差异可通过原始数据与原始数据的预估重建图像的变换数据之间的差异度表征,也可通过两者之间的相似度表征,本发明实施例对此不做具体限定。
基于上述实施例,步骤120中,若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,之前还包括:
基于第一损失函数值和正常损失函数值,确定第一损失函数值的增长幅度,正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若增长幅度大于预设增幅阈值,则确定第一损失函数值指示收敛异常。
具体地,在步骤110中确定图像重建模型的第一损失函数值和第一权重值后,在步骤120中,若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值之前,还需确定第一迭代的损失函数的收敛状态,即确定第一迭代所得的第一损失函数值是否指示收敛异常,而第一损失函数值是否指示收敛异常的判断具体可以是,将第一损失函数值和正常损失函数值进行比较,确定第一损失函数值较之正常损失函数值的增长幅度,此处的正常损失函数值即最近一次损失函数值指示收敛正常的迭代所得的损失函数值。
随后,判断第一损失函数值的增长幅度是否大于预设增幅阈值,此处的预设增幅阈值是预先设置的可容忍的损失函数值的增长幅度,可以是3%、5%、10%、15%等。
进一步地,若第一损失函数值的增长幅度大于预设增幅阈值,表明第一迭代过程中损失函数值的增长幅度已超过预先设置的可容忍的增长幅度,则确定第一迭代的损失函数收敛异常,即第一迭代所得的第一损失函数值指示收敛异常。
相应地,若第一损失函数值的增长幅度小于等于预设增幅阈值,表明第一迭代过程中损失函数值的增长幅度未超过预先设置的可容忍的增长幅度,则确定第一迭代的损失函数正常收敛,即第一迭代所得的第一损失函数值指示收敛正常。
基于上述实施例,基于第一损失函数值和正常损失函数值,确定第一损失函数值的增长幅度,包括:
若第一迭代的连续迭代次数达到预设次数,则基于第一损失函数值和正常损失函数值,确定第一损失函数值的增长幅度。
具体地,在根据图像重建模型的迭代方法对图像重建模型进行迭代的过程中,需确定判断第一迭代的损失函数的收敛状态的频率。本发明实施例中根据模型迭代的实际情况设置预设次数,此处的预设次数可以是5,也可以是10或15,本发明实施例对此不做具体限定。
需要说明的是,预设次数越小,即判断第一迭代的损失函数收敛状态的频率越高,图像重建模型的迭代效果越好,但是,高频率的判断在对模型的迭代效果有较大提升的同时,也会对损失函数的收敛效率造成较大的影响。因而,本发明实施例中,将预设次数确定为10,如此可在保证模型迭代效果的同时,最大限度的减小对损失函数收敛效率的影响。
具体地,若对图像重建模型进行第一迭代的连续迭代次数达到预设次数,则根据第一损失函数值和正常损失函数值,确定第一损失函数值的增长幅度,具体可以是对第一损失函数值和正常损失函数值进行比较,确定第一损失函数值较之正常损失函数值的增长幅度,此处的正常损失函数值是最近一次损失函数值指示收敛异常的迭代所得的损失函数值。
基于上述实施例,步骤120中,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,之前还包括:
基于第二损失函数值和正常损失函数值,确定第二损失函数值的增长幅度,正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若增长幅度小于等于预设增幅阈值,则确定第二损失函数值指示收敛正常。
考虑到步骤120中对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代的前提条件是,第二迭代所得的第二损失函数值指示收敛正常,因此,在执行这一步之前,还需根据步骤120中,对权重值替换后的图像重建模型进行第二迭代所得的第二损失函数值,确定第二迭代的损失函数的收敛状态,即确定第二损失函数值是否指示收敛正常,而第二损失函数值是否指示收敛异常的判断具体可以是,对第二损失函数值和正常损失函数值进行比较,确定第二损失函数值较之正常损失函数值的增长幅度,此处的正常损失函数值即最近一次损失函数值指示收敛正常的迭代所得的损失函数值。
随后,判断第二损失函数值的增长幅度是否小于等于预设增幅阈值,此处的预设增幅阈值是预先设置的可容忍的损失函数值的增长幅度,可以是3%、5%、10%、15%等。
进一步地,若第二损失函数值的增长幅度小于等于预设增幅阈值,表明第二迭代过程中损失函数值的增长幅度未超过预先设置的可容忍的增长幅度,则确定第二迭代的损失函数正常收敛,即第二迭代所得的第二损失函数值指示收敛正常。
相应地,若第二损失函数值的增长幅度大于预设增幅阈值,表明第二迭代过程中损失函数值的增长幅度已超过预先设置的可容忍的增长幅度,则确定第二迭代的损失函数收敛异常,即第二迭代所得的第二损失函数值指示收敛异常。
若第二损失函数值指示收敛异常,则将第二迭代所得的第二权重值替换为正常权重值,再次调整第二迭代的学习率,使得调整后的学习率小于第一迭代的学习率;并根据调整后的学习率对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常。
此后,才可对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,以使图像重建模型满足迭代完成条件,并将满足迭代完成条件的图像重建模型确定为最终的图像重建模型,此模型可依据其权重值生成图像,并将该图像作为输入图像的重建模型。
基于上述实施例,第二迭代的学习率是基于第一迭代的学习率、第一损失函数值以及正常损失函数值确定的,正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值。
具体地,若迭代过程中损失函数出现收敛不稳定或大幅度抖动的情况,则此次迭代所得的损失函数值将呈现损失函数收敛异常的情况,即该损失函数值指示收敛异常,而损失函数收敛异常的根源在于权重值的梯度出现了局部极大值,因而,本发明实施例中在对第一迭代的学习率进行调整时,考虑减小第一迭代的学习率,以避免在权重值的梯度极大值处对图像重建模型整体迭代效果的造成影响,调整第一迭代的学习率后得到新的学习率,将新的学习率作为第二迭代的学习率,第二迭代的学习率可通过如下公式表示:
LRnew=LR*random(0,1)
其中,LRnew表示第二迭代的学习率,LR表示第一迭代的学习率,random(0,1)表示(0,1)之间的随机数。第二迭代的学习率可由第一迭代的学习率乘以0至1之间的随机数确定。
第二迭代的学习率还可通过如下公式表示:
LRnew=LR*random(0,2)/Rn
其中,LRnew表示第二迭代的学习率,LR表示第一迭代的学习率,random(0,2)表示(0,2)之间的随机数,R表示是第一损失函数值与正常损失函数值的比值,此处的正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值,n为超参数,可根据实际情况预先设定。
此处的第二迭代的学习率可根据第一迭代的学习率、第一损失函数值以及正常损失函数值确定。
基于上述实施例,图2是本发明提供的图像重建模型的迭代方法的总体流程图,如图2所示,该方法包括:
利用图像重建模型对于初始随机权重值输出预估重建图像;
对预估重建图像进行图像变换,基于图像变换所得的第一预估图像的变换数据,以及原始数据,确定图像重建模型的第一损失函数值;
基于第一损失函数值,对图像重建模型进行第一迭代,得到所述第一权重值;
若第一迭代的连续迭代次数达到预设次数,则在图像重建模型的正常迭代过程中植入StableIter迭代稳定器;
StableIter迭代稳定器的执行流程包括如下步骤:
首先,基于第一损失函数值和正常损失函数值,确定第一损失函数值的增长幅度,正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;若第一损失函数值的增长幅度小于等于预设增幅阈值,则存储本次迭代所得的损失函数值和权重值,并跳出StableIter迭代稳定器的执行流程,对第一损失函数值指示收敛正常后的图像重建模型进行第一迭代;
相应地,若第一损失函数值的增长幅度大于预设增幅阈值,则确定第一损失函数值指示收敛异常,将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,得到权重值替换后的图像重建模型的第二权重值和第二损失函数值,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;
随后,基于第二损失函数值和正常损失函数值,确定第二损失函数值的增长幅度;若第二损失函数值的增长幅度大于预设增幅阈值,则将第二损失函数值替换为正常权重值,重新调整学习率,并根据调整后的学习率再次对权重值替换后的图像重建模型进行第二迭代,得到新的损失函数值和新的权重值,重复上述过程,直至增长幅度小于等于预设增幅阈值;
相应地,若第二损失函数值的增长幅度小于等于预设增幅阈值,则确定第二损失函数值指示收敛正常,并存储本次迭代所得的损失函数值和权重值,以便作为后续迭代过程中评判损失函数是否收敛正常的标准;至此StableIter迭代稳定器的执行流程结束;
此后,跳出StableIter迭代稳定器,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,并将满足迭代完成条件的图像重建模型确定为最终的图像重建模型,此模型可依据其权重值生成图像,并将该图像作为输入图像的重建模型。
图3是本发明提供的应用图像重建模型的迭代方法之前损失函数随迭代次数的变化图,图4是本发明提供的应用图像重建模型的迭代方法之后损失函数随迭代次数的变化图,图3和图4中横轴表示对图像重建模型进行第一迭代的迭代次数总和(iterations),以千次为单位,例如,横轴上的6表示对为图像重建模型进行迭代的迭代次数达6000次;纵轴表示迭代所得的损失函数值(loss),由图3和图4可知,应用本发明实施例提供的图像重建模型的迭代方法对图像重建模型进行迭代,以得到满足迭代完成条件的图像重建模型的权重值,能够在不改变模型原有结构、不影响模型正常迭代的同时,克服图像重建模型迭代过程中损失函数收敛不稳定的缺陷,不仅保证了模型的迭代效果,还加快了损失函数收敛的效率,实现了模型总体迭代效率以及迭代效果的双向提升;应用结合本迭代方法的图像重建模型进行图像重建能够加快图像重建任务的进程,提高图像重建任务的效率。
图5是本发明提供的图像重建方法的流程示意图,如图5所示,该方法包括:
步骤510,获取原始数据;
具体地,在进行图像重建之前,还需确定需进行图像重建的数据,即原始数据,此处的原始数据可以是各种类型的可用于图像重建的数据,例如,核磁共振数据、CT(Computed Tomography,电子计算机断层扫描)数据、人物图像数据、风景数据等。
步骤520,基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
具体地,经过步骤510确定原始数据后,即可根据图像重建模型对原始数据进行图像重建,得到原始数据的重建图像。重建图像的确定过程具体包括:将原始数据输入至图像重建模型,由图像重建模型对输入的原始数据进行图像重建,从而得到图像重建模型输出的原始数据的重建图像。
需要说明的是,在将原始数据输入至图像重建模型之前,还可以预先对图像重建模型进行迭代,图像重建模型的迭代方法包括如下步骤:
首先,基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;此处的原始数据可以是各种类型的可用于图像重建的数据,例如,核磁共振数据、CT(Computed Tomography,电子计算机断层扫描)数据、人物图像数据、风景图像数据等。
随即,判断第一损失函数值是否指示收敛异常,若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,此处的正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常。
此后,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,并将满足迭代完成条件的图像重建模型,确定为最终的图像重建模型。此处的迭代完成条件是根据实际需求预先设定的,可以是图像重建模型进行第一迭代的迭代总数达到第一预设次数,也可以是第一迭代的迭代目标达到预设目标,本发明实施例对此不做具体限定。
需要说明的是,图像重建模型的迭代过程中,第一迭代的学习率大于第二迭代的学习率。
本发明提供的图像重建方法,通过图像重建模型的迭代方法对图像重建模型进行迭代,能够在不改变模型原有结构、不影响模型正常迭代的同时,克服了图像重建模型迭代过程中损失函数收敛不稳定的缺陷,并将满足迭代完成条件的图像重建模型作为最终的图像重建模型,从而实现根据图像重建模型,对原始数据进行图像重建,得到原始数据的重建图像,在实现模型总体迭代效率以及迭代效果双向提升的基础上,不仅保证了通过图像重建模型得到的重建图像的图像质量,还加快了应用图像重建模型执行图像重建任务的进程,提高了图像重建任务的效率。
下面对本发明提供的图像重建模型的迭代装置进行描述,下文描述的图像重建模型的迭代装置与上文描述的图像重建模型的迭代方法可相互对应参照。
图6是本发明提供的图像重建模型的迭代装置的结构示意图,如图6所示,该装置包括:
迭代单元610,用于基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值;若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常,对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,所述第一迭代的学习率大于所述第二迭代的学习率,所述正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;
重建图像确定单元620,用于把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。
本发明提供的图像重建模型的迭代装置,若图像重建模型经过第一迭代所得的第一损失函数值指示收敛异常,则将第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,并对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,其中,第一迭代的学习率大于第二迭代的学习率,在不改变模型原有结构、不影响模型正常迭代的同时,克服了图像重建模型迭代过程中损失函数收敛不稳定的缺陷,不仅保证了模型的迭代效果,还加快了损失函数收敛的效率,实现了模型总体迭代效率以及迭代效果的双向提升;应用结合本迭代方法的图像重建模型进行图像重建能够加快图像重建任务的进程,提高图像重建任务的效率。
基于上述实施例,迭代单元610用于:
利用图像重建模型对于初始随机权重值输出预估重建图像;
基于所述原始数据以及所述预估重建图像,确定所述图像重建模型的第一损失函数值;
基于所述第一损失函数值,对所述图像重建模型进行第一迭代,得到所述第一权重值。
基于上述实施例,迭代单元610用于:
对所述预估重建图像进行图像变换,基于图像变换所得的第一预估图像的变换数据,以及所述原始数据,确定所述图像重建模型的第一损失函数值。
基于上述实施例,迭代单元610用于:
基于所述第一损失函数值和正常损失函数值,确定所述第一损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度大于预设增幅阈值,则确定所述第一损失函数值指示收敛异常。
基于上述实施例,迭代单元610用于:
若所述第一迭代的连续迭代次数达到预设次数,则基于所述第一损失函数值和所述正常损失函数值,确定所述第一损失函数值的增长幅度。
基于上述实施例,迭代单元610用于:
基于所述第二损失函数值和正常损失函数值,确定所述第二损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度小于等于预设增幅阈值,则确定所述第二损失函数值指示收敛正常。
基于上述实施例,所述第二迭代的学习率是基于所述第一迭代的学习率、所述第一损失函数值以及正常损失函数值确定的,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值。
下面对本发明提供的图像重建装置进行描述,下文描述的图像重建装置与上文描述的图像重建方法可相互对应参照。
图7是本发明提供的图像重建装置的结构示意图,如图7所示,该装置包括:
原始数据获取单元710,用于获取原始数据;
图像重建单元720,用于基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
本发明提供的图像重建装置,通过图像重建模型的迭代方法对图像重建模型进行迭代,能够在不改变模型原有结构、不影响模型正常迭代的同时,克服了图像重建模型迭代过程中损失函数收敛不稳定的缺陷,并将满足迭代完成条件的图像重建模型作为最终的图像重建模型,从而实现根据图像重建模型,对原始数据进行图像重建,得到原始数据的重建图像,在实现模型总体迭代效率以及迭代效果双向提升的基础上,不仅保证了通过图像重建模型得到的重建图像的图像质量,还加快了应用图像重建任务执行图像重建任务的进程,提高了图像重建效率。
图8示例了一种电子设备的实体结构示意图,如图8所示,该电子设备可以包括:处理器(processor)810、通信接口(Communications Interface)820、存储器(memory)830和通信总线840,其中,处理器810,通信接口820,存储器830通过通信总线840完成相互间的通信。处理器810可以调用存储器830中的逻辑指令,以执行图像重建模型的迭代方法或图像重建方法,其中,图像重建模型的迭代方法包括:基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。图像重建方法包括:获取原始数据;基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
此外,上述的存储器830中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法所提供的图像重建模型的迭代方法或图像重建方法,其中,图像重建模型的迭代方法包括:基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。图像重建方法包括:获取原始数据;基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法所提供的图像重建模型的迭代方法或图像重建方法,其中,图像重建模型的迭代方法包括:基于原始数据,对图像重建模型进行第一迭代,得到图像重建模型的第一权重值和第一损失函数值;若第一损失函数值指示收敛异常,则将图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至第二迭代所得的第二损失函数值指示收敛正常,对第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,第一迭代的学习率大于第二迭代的学习率,正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像。图像重建方法包括:获取原始数据;基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如上述任一项所述的图像重建模型的迭代方法确定的。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (13)
1.一种图像重建模型的迭代方法,其特征在于,包括:
基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值;
若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常,对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,所述第一迭代的学习率大于所述第二迭代的学习率,所述正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;所述权重替换后的图像重建模型将返回至最近一次损失函数收敛正常时的状态;
若所述第一损失函数值指示收敛正常,则对所述图像重建模型进行第一迭代,直至所述第一迭代所得的第一损失函数值指示收敛异常;
把满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像;
所述对权重值替换后的图像重建模型进行第二迭代,之后还包括:
若所述第二迭代所得的第二损失函数值指示收敛异常,则将所述第二迭代所得的所述图像重建模型的第二权重值替换为所述正常权重值,并调整所述第二迭代的学习率,基于调整后的所述第二迭代的学习率,对第二权重值替换后的所述图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常;
调整后的所述第二迭代的学习率小于所述第一迭代的学习率。
2.根据权利要求1所述的图像重建模型的迭代方法,其特征在于,所述基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值,包括:
利用图像重建模型对于初始随机权重值输出预估重建图像;
基于所述原始数据以及所述预估重建图像,确定所述图像重建模型的第一损失函数值;
基于所述第一损失函数值,对所述图像重建模型进行第一迭代,得到所述第一权重值。
3.根据权利要求2所述的图像重建模型的迭代方法,其特征在于,所述基于所述原始数据以及所述预估重建图像,确定所述图像重建模型的第一损失函数值,包括:
对所述预估重建图像进行图像变换,基于图像变换所得的第一预估图像的变换数据,以及所述原始数据,确定所述图像重建模型的第一损失函数值。
4.根据权利要求1至3中任一项所述的图像重建模型的迭代方法,其特征在于,若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,之前还包括:
基于所述第一损失函数值和正常损失函数值,确定所述第一损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度大于预设增幅阈值,则确定所述第一损失函数值指示收敛异常。
5.根据权利要求4所述的图像重建模型的迭代方法,其特征在于,所述基于所述第一损失函数值和所述正常损失函数值,确定所述第一损失函数值的增长幅度,包括:
若所述第一迭代的连续迭代次数达到预设次数,则基于所述第一损失函数值和所述正常损失函数值,确定所述第一损失函数值的增长幅度。
6.根据权利要求1至3中任一项所述的图像重建模型的迭代方法,其特征在于,所述对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,之前还包括:
基于所述第二损失函数值和正常损失函数值,确定所述第二损失函数值的增长幅度,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值;
若所述增长幅度小于等于预设增幅阈值,则确定所述第二损失函数值指示收敛正常。
7.根据权利要求1至3中任一项所述的图像重建模型的迭代方法,其特征在于,所述第二迭代的学习率是基于所述第一迭代的学习率、所述第一损失函数值以及正常损失函数值确定的,所述正常损失函数值是最近一次损失函数值指示收敛正常时的迭代所得的损失函数值。
8.一种图像重建方法,其特征在于,包括:
获取原始数据;
基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如权利要求1至7中任一项所述的图像重建模型的迭代方法确定的。
9.一种图像重建模型的迭代装置,其特征在于,包括:
迭代单元,用于基于原始数据,对图像重建模型进行第一迭代,得到所述图像重建模型的第一权重值和第一损失函数值;若所述第一损失函数值指示收敛异常,则将所述图像重建模型的第一权重值替换为正常权重值,并对权重值替换后的图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常,对所述第二损失函数值指示收敛正常后的图像重建模型进行第一迭代,所述第一迭代的学习率大于所述第二迭代的学习率,所述正常权重值是最近一次损失函数值指示收敛正常的迭代所得的权重值;所述权重替换后的图像重建模型将返回至最近一次损失函数收敛正常时的状态;
若所述第一损失函数值指示收敛正常,则对所述图像重建模型进行第一迭代,直至所述第一迭代所得的第一损失函数值指示收敛异常;
重建图像确定单元,用于将满足迭代完成条件的图像重建模型依据其权重值产生的图像作为最终生成的重建图像;
所述对权重值替换后的图像重建模型进行第二迭代,之后还包括:
若所述第二迭代所得的第二损失函数值指示收敛异常,则将所述第二迭代所得的所述图像重建模型的第二权重值替换为所述正常权重值,并调整所述第二迭代的学习率,基于调整后的所述第二迭代的学习率,对第二权重值替换后的所述图像重建模型进行第二迭代,直至所述第二迭代所得的第二损失函数值指示收敛正常;
调整后的所述第二迭代的学习率小于所述第一迭代的学习率。
10.一种图像重建装置,其特征在于,包括:
原始数据获取单元,用于获取原始数据;
图像重建单元,用于基于图像重建模型,确定所述原始数据的重建图像,所述图像重建模型是基于如权利要求1至7中任一项所述的图像重建模型的迭代方法确定的。
11.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述的图像重建模型的迭代方法,或如权利要求8所述图像重建方法的步骤。
12.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的图像重建模型的迭代方法,或如权利要求8所述的图像重建方法的步骤。
13.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的图像重建模型的迭代方法,或如权利要求8所述的图像重建方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111051445.9A CN113763501B (zh) | 2021-09-08 | 2021-09-08 | 图像重建模型的迭代方法和图像重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111051445.9A CN113763501B (zh) | 2021-09-08 | 2021-09-08 | 图像重建模型的迭代方法和图像重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113763501A CN113763501A (zh) | 2021-12-07 |
CN113763501B true CN113763501B (zh) | 2024-02-27 |
Family
ID=78793977
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111051445.9A Active CN113763501B (zh) | 2021-09-08 | 2021-09-08 | 图像重建模型的迭代方法和图像重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113763501B (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016062044A1 (zh) * | 2014-10-24 | 2016-04-28 | 华为技术有限公司 | 一种模型参数训练方法、装置及系统 |
CN108520220A (zh) * | 2018-03-30 | 2018-09-11 | 百度在线网络技术(北京)有限公司 | 模型生成方法和装置 |
CN108828483A (zh) * | 2018-04-25 | 2018-11-16 | 东北大学 | 一种磁共振图像的收缩阈值迭代重建算法 |
CN110148215A (zh) * | 2019-05-22 | 2019-08-20 | 哈尔滨工业大学 | 一种基于平滑约束和局部低秩约束模型的四维磁共振图像重建方法 |
CN110223238A (zh) * | 2019-04-30 | 2019-09-10 | 北京理工大学 | 编码光照成像重构方法及装置 |
CN110738697A (zh) * | 2019-10-10 | 2020-01-31 | 福州大学 | 基于深度学习的单目深度估计方法 |
CN110942483A (zh) * | 2019-11-21 | 2020-03-31 | 三一重工股份有限公司 | 函数快速收敛模型构建方法、装置和终端 |
CN111639755A (zh) * | 2020-06-07 | 2020-09-08 | 电子科技大学中山学院 | 一种网络模型训练方法、装置、电子设备及存储介质 |
CN111738408A (zh) * | 2020-05-14 | 2020-10-02 | 平安科技(深圳)有限公司 | 损失函数的优化方法、装置、设备及存储介质 |
CN111783698A (zh) * | 2020-07-06 | 2020-10-16 | 周书田 | 一种基于提高人脸识别模型训练稳定性的方法 |
CN112634388A (zh) * | 2020-11-30 | 2021-04-09 | 明峰医疗系统股份有限公司 | 一种ct迭代重建代价函数的优化方法及ct图像重建方法、系统及ct |
WO2021077557A1 (zh) * | 2019-10-23 | 2021-04-29 | 深圳先进技术研究院 | 一种磁共振图像重建方法、装置、设备和介质 |
CN112766379A (zh) * | 2021-01-21 | 2021-05-07 | 中国科学技术大学 | 一种基于深度学习多权重损失函数的数据均衡方法 |
CN112766399A (zh) * | 2021-01-28 | 2021-05-07 | 电子科技大学 | 一种面向图像识别的自适应神经网络训练方法 |
CN112907552A (zh) * | 2021-03-09 | 2021-06-04 | 百度在线网络技术(北京)有限公司 | 图像处理模型的鲁棒性检测方法、设备及程序产品 |
CN113052261A (zh) * | 2021-04-22 | 2021-06-29 | 东南大学 | 一种基于余弦空间优化的图像分类损失函数的设计方法 |
CN113160058A (zh) * | 2021-04-28 | 2021-07-23 | 成都东方天呈智能科技有限公司 | 一种结合分割图的热成像超分辨率重建方法及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180197317A1 (en) * | 2017-01-06 | 2018-07-12 | General Electric Company | Deep learning based acceleration for iterative tomographic reconstruction |
-
2021
- 2021-09-08 CN CN202111051445.9A patent/CN113763501B/zh active Active
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016062044A1 (zh) * | 2014-10-24 | 2016-04-28 | 华为技术有限公司 | 一种模型参数训练方法、装置及系统 |
CN108520220A (zh) * | 2018-03-30 | 2018-09-11 | 百度在线网络技术(北京)有限公司 | 模型生成方法和装置 |
CN108828483A (zh) * | 2018-04-25 | 2018-11-16 | 东北大学 | 一种磁共振图像的收缩阈值迭代重建算法 |
CN110223238A (zh) * | 2019-04-30 | 2019-09-10 | 北京理工大学 | 编码光照成像重构方法及装置 |
CN110148215A (zh) * | 2019-05-22 | 2019-08-20 | 哈尔滨工业大学 | 一种基于平滑约束和局部低秩约束模型的四维磁共振图像重建方法 |
CN110738697A (zh) * | 2019-10-10 | 2020-01-31 | 福州大学 | 基于深度学习的单目深度估计方法 |
WO2021077557A1 (zh) * | 2019-10-23 | 2021-04-29 | 深圳先进技术研究院 | 一种磁共振图像重建方法、装置、设备和介质 |
CN110942483A (zh) * | 2019-11-21 | 2020-03-31 | 三一重工股份有限公司 | 函数快速收敛模型构建方法、装置和终端 |
CN111738408A (zh) * | 2020-05-14 | 2020-10-02 | 平安科技(深圳)有限公司 | 损失函数的优化方法、装置、设备及存储介质 |
CN111639755A (zh) * | 2020-06-07 | 2020-09-08 | 电子科技大学中山学院 | 一种网络模型训练方法、装置、电子设备及存储介质 |
CN111783698A (zh) * | 2020-07-06 | 2020-10-16 | 周书田 | 一种基于提高人脸识别模型训练稳定性的方法 |
CN112634388A (zh) * | 2020-11-30 | 2021-04-09 | 明峰医疗系统股份有限公司 | 一种ct迭代重建代价函数的优化方法及ct图像重建方法、系统及ct |
CN112766379A (zh) * | 2021-01-21 | 2021-05-07 | 中国科学技术大学 | 一种基于深度学习多权重损失函数的数据均衡方法 |
CN112766399A (zh) * | 2021-01-28 | 2021-05-07 | 电子科技大学 | 一种面向图像识别的自适应神经网络训练方法 |
CN112907552A (zh) * | 2021-03-09 | 2021-06-04 | 百度在线网络技术(北京)有限公司 | 图像处理模型的鲁棒性检测方法、设备及程序产品 |
CN113052261A (zh) * | 2021-04-22 | 2021-06-29 | 东南大学 | 一种基于余弦空间优化的图像分类损失函数的设计方法 |
CN113160058A (zh) * | 2021-04-28 | 2021-07-23 | 成都东方天呈智能科技有限公司 | 一种结合分割图的热成像超分辨率重建方法及存储介质 |
Non-Patent Citations (3)
Title |
---|
一种基于压缩感知的迭代重建算法;李影;徐伯庆;;电子科技;20161115(11);129-132 * |
基于改进Adam优化器的CNN电镜医学图像分类;汪友明;徐攀峰;;西安邮电大学学报(05);26-33 * |
基于空洞U-Net神经网络的PET图像重建算法;杜倩倩;强彦;李硕;杨晓棠;;太原理工大学学报(02);190-197 * |
Also Published As
Publication number | Publication date |
---|---|
CN113763501A (zh) | 2021-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11681917B2 (en) | System and method for training neural networks | |
CN108051999B (zh) | 基于深度强化学习的加速器束流轨道控制方法及系统 | |
US10540583B2 (en) | Acceleration of convolutional neural network training using stochastic perforation | |
US20190156240A1 (en) | Learning apparatus, learning method, and recording medium | |
CN110661259B (zh) | 一种抑制频率振荡的电力系统稳定器参数优化方法及系统 | |
CN115410103B (zh) | 一种基于联邦学习的大坝缺陷识别模型快速收敛方法 | |
CN110942483B (zh) | 函数快速收敛模型构建方法、装置和终端 | |
CN113763501B (zh) | 图像重建模型的迭代方法和图像重建方法 | |
CN111142065A (zh) | 一种低复杂度稀疏贝叶斯矢量的估计方法及系统 | |
CN112085074A (zh) | 一种模型参数更新系统、方法及装置 | |
CN113076250B (zh) | 带约束测试模型的动态随机测试方法、装置、存储介质 | |
CN113077056A (zh) | 基于横向联邦学习的数据处理系统 | |
CN111339749B (zh) | 无条件文本生成方法、文本生成装置及存储介质 | |
CN111355247A (zh) | 电网低频振荡预测方法及装置 | |
CN111612721A (zh) | 一种图像修复模型训练、卫星图像修复方法及装置 | |
US20210081801A1 (en) | Information processing apparatus, method for procesing information, and computer-readable recording medium | |
CN110060314B (zh) | 一种基于人工智能的ct迭代重建加速方法及系统 | |
US20220366539A1 (en) | Image processing method and apparatus based on machine learning | |
Susmelj et al. | ABC-GAN: Adaptive blur and control for improved training stability of generative adversarial networks | |
JP7181585B2 (ja) | 学習システム、学習方法、およびプログラム | |
JPWO2022038729A5 (ja) | ルール生成装置、ルール生成方法、及び制御プログラム | |
CN112103949A (zh) | 电网扰动稳定控制方法及装置、电子设备及存储介质 | |
EP3996005A1 (en) | Calculation processing program, calculation processing method, and information processing device | |
KR20220128842A (ko) | 이미지 인페인팅 신경망의 고속 적응을 위한 장치 및 방법 | |
EP3995999A1 (en) | Machine learning program, machine learning method, and information processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: 201114 room 1302, 13 / F, building 16, 2388 Chenhang Road, Minhang District, Shanghai Patentee after: Shanghai Bi Ren Technology Co.,Ltd. Country or region after: China Address before: 201114 room 1302, 13 / F, building 16, 2388 Chenhang Road, Minhang District, Shanghai Patentee before: Shanghai Bilin Intelligent Technology Co.,Ltd. Country or region before: China |
|
CP03 | Change of name, title or address |