CN112991220A - 一种基于多重约束的卷积神经网络校正图像伪影的方法 - Google Patents
一种基于多重约束的卷积神经网络校正图像伪影的方法 Download PDFInfo
- Publication number
- CN112991220A CN112991220A CN202110333370.7A CN202110333370A CN112991220A CN 112991220 A CN112991220 A CN 112991220A CN 202110333370 A CN202110333370 A CN 202110333370A CN 112991220 A CN112991220 A CN 112991220A
- Authority
- CN
- China
- Prior art keywords
- loss
- mse
- image
- ker
- per
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 34
- 230000006870 function Effects 0.000 claims abstract description 23
- 239000011159 matrix material Substances 0.000 claims abstract description 11
- 238000012549 training Methods 0.000 claims abstract description 9
- 230000008569 process Effects 0.000 claims abstract description 6
- 238000013507 mapping Methods 0.000 claims abstract description 4
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 12
- 238000003860 storage Methods 0.000 claims description 11
- 230000007246 mechanism Effects 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 7
- 230000008447 perception Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000003672 processing method Methods 0.000 claims description 2
- 230000033001 locomotion Effects 0.000 description 30
- 238000012545 processing Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 15
- 210000004351 coronary vessel Anatomy 0.000 description 11
- 238000012937 correction Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 238000003745 diagnosis Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000013170 computed tomography imaging Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000000747 cardiac effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010968 computed tomography angiography Methods 0.000 description 1
- 239000002872 contrast media Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 208000029078 coronary artery disease Diseases 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 208000018578 heart valve disease Diseases 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Public Health (AREA)
- Primary Health Care (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明公开了一种基于多重约束的卷积神经网络校正图像伪影的方法。该方法包括：构建具有主干结构层和多个分支结构层的卷积神经网络，其中主干结构层以原始图像为输入，多个分支结构层分别以通过对原始图像降采样获得的不同级别分辨率的图像作为输入，并且每一分支结构层的最后一个卷积层的特征图像矩阵，都通过上采样恢复成与目标图像相同大小的矩阵图像；以设定的总体损失函数收敛为目标训练所述卷积神经网络，学习从低剂量原始图像到标准剂量目标图像之间的映射关系，并且训练过程中，主干结构层以及多个分支结构层的每一层均设置损失值。本发明在提高图像峰值信噪比和结构相似度的同时，增强图像细节信息。
Description
技术领域
本发明涉及医学图像处理技术领域，更具体地，涉及一种基于多重约束的卷积神经网络校正图像伪影的方法。
背景技术
研究和开发在产生伪影的影像下去除运动伪影，对于目前的医疗诊断领域有着重要的科学意义。以冠状动脉计算机断层扫描血管造影(Cornary Computed TomographyAngiography，CCTA)为例，其是指受试者通过静脉注射适当造影剂后，利用计算机和X射线来获取病人心脏断层图像的非侵入式影像学检测方法，它具有扫描时间短，成分信息广泛和以非侵入式可视化血管壁等优点，适用于可疑冠心病的诊断，冠状动脉搭桥术的随访，评估瓣膜性心脏病和评估心脏质量。然而，CCTA获取的影像可能会出现运动伪影，需要重新进行检查。而大量的X射线照射会出现辐射剂量的累计效应，大幅度增加各种疾病发生的可能性，进而影响人体生理机能，破坏人体组织器官，甚至危害到患者的生命安全。因此，对医学影像的伪影校正，对医疗诊断领域有广阔的应用前景。
冠状动脉CT成像过程中运动伪影的形成是由于图像像素在CT获取不同角度投影数据时发生了位移，运动伪影的程度取决于唯一的速率和图像重建算法的校正结果。一般消除运动伪影从两个方面入手：第一是控制心率，降低受检者的心率、延长心动周期、减慢冠状动脉运动和延长冠状动脉低速运动的时间，可以降低成像时对时间分辨率的需求；第二是提高时间分辨率，基于MDCT冠状动脉成像基本原理及运动伪影产生的原因，要实现CCTA成像并规避运动伪影，需要将特定扫描方式下获得的最高时间分辨率与冠状动脉运动幅度最小的时相相匹配。
而提高时间分辨率又从两个方面着手，一是从硬件方法提高时间分辨率，二是从软件方面提高时间分辨率。具体地，在硬件方面，从提高管球旋转速度，采用宽体探测器和采用双探测器技术出发来提高时间分辨率。然而，提高管球旋转速度受物理特性的限制，采用多探测器技术则受到空间的限制，而采用宽体探测器技术则受限于经济成本。在软件方面，采用多扇区重建技术，基于压缩感知的图像重建技术(Prior Image ConstrainedCompressed Sensing，PICCS)，运动估算和补偿算法与运动校正技术(Snap Shot Freeze，SSF)可以有效提高时间分辨率。然而，采用多扇区重建技术需要维持患者的心率稳定，且受管球旋转时间和扫描螺距的限制。基于压缩感知的图像重建技术尚未得到验证。运动估算和补偿算法依赖大量的计算和评估。运动校正技术需要采集图像中相对运动伪影较小、图像质量较好的时相，经过复杂计算消除运动伪影。
此外，对于利用深度学习去除图像伪影的现有技术方案，飞利浦研究中心提出的两项去除CCTA运动伪影的方法是是使用深度学习模型识别、估计运动伪影的等级，辅助传统方法进行运动补偿和估计。然而，这种方案去除运动伪影的效果还有待改进。
发明内容
本发明的目的是克服上述现有技术的缺陷，提供一种基于多重约束的卷积神经网络校正图像伪影的方法。
根据本发明的第一方面，提供一种基于多重约束的卷积神经网络校正图像伪影的方法。该方法包括以下步骤：
构建具有主干结构层和多个分支结构层的卷积神经网络，其中，所述主干结构层以原始图像为输入，所述多个分支结构层分别以通过对原始图像降采样获得的不同级别分辨率的图像作为输入，并且每一分支结构层的最后一个卷积层的特征图像矩阵，都通过上采样恢复成与目标图像相同大小的矩阵图像；
以设定的总体损失函数收敛为目标训练所述卷积神经网络，学习从低剂量原始图像到标准剂量目标图像之间的映射关系，并且训练过程中，所述主干结构层以及所述多个分支结构层的每一层均设置损失值。
根据本发明的第二方面，提供一种医学图像处理方法。该方法包括：将待处理图像进行多次降采样，得到不同级别分辨率的图像；将所述不同级别分辨率的图像和待处理图像输入根据利用本发明上述方法得到的经训练卷积神经网络，获得输出图像。
与现有技术相比，本发明的优点在于，利用卷积神经网络消除图像的运动伪影，在硬件方面，不受物理特性、空间和经济成本的限制；在软件方面，不需要复杂的计算且不受患者心率变化的影响，即可得到消除伪影的图像；在深度学习方面，可以有效地作为直接去除医学图像的运动伪影的工具，不再需要传统方法进行去噪。本发明是基于多重约束的多层次卷积神经网络实现图像降噪，在提高图像峰值信噪比和结构相似度的同时，增强了图像细节信息，从而得到更加满足诊断需求的医学图像。
通过以下参照附图对本发明的示例性实施例的详细描述，本发明的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本发明的实施例，并且连同其说明一起用于解释本发明的原理。
图1是根据本发明一个实施例的基于多重约束的卷积神经网络校正图像伪影方法的流程图；
图2是根据本发明一个实施例的密集连接的残差块结构示意图；
图3是根据本发明一个实施例的堆积密集残差块结构示意图；
图4是根据本发明一个实施例的注意力机制示意图；
图5是根据本发明一个残差块示意图；
图6是根据本发明一个实施例的多重约束多层次卷积神经网络示意图；
图7是根据本发明一个实施例的实验结果示意图；
附图中，conv-卷积层；res-残差块。
具体实施方式
现在将参照附图来详细描述本发明的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它例子可以具有不同的值。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
本发明可应用于CCTA图像或其他类型的医学图像的运动伪影校正、降噪等，或经过适当更改，应用于图像超分辨领域。为清楚起见，以下以CT图像的伪影校正为例进行说明。
为解决低剂量条件下CT成像质量差，噪声伪影多的问题，本发明设计了一种基于多重约束的多层次卷积神经网络网络，来提高低剂量CT成像质量。此外，通过注意力机制可以大幅度提高低维和高维信息的重复利用以及局部和非局部信息的融合，从而增强传统卷积操作的性能，能够在较大程度上消除低剂量CT的噪声和伪影。另一方面，为提高CT图像质量专门设计了一个联合损失函数，通过联合多重损失函数来进一步保证生成的CT图像满足医学诊断要求。
具体地，参见图1所示，所提供的基于多重约束的卷积神经网络校正图像伪影的方法包括以下步骤。
步骤S110，设计堆积密集残差块结构。
传统的卷积神经网络堆积多个卷积层，通过这些卷积层实现图像的特征提取，从而增强图像的特征和细节。而在本发明一个实施例中，使用2019年Bumjun Park在CVPR上发表“Densely Connected Hierarchical Network for Image Denoising”中提出的DCR(密集连接残差块，Densely connected and residual block)模块，用于提取CCTA的图像特征。如图2所示的DCR结构，其优势在于，该模块相对于同样数量堆积成的卷积层，收敛速度更好。
进一步地，本发明将DCR当作普通的卷积模块，进行密集地堆积，构建堆积密集残差块结构(DDCR)，从而得到从低维到高维的大量特征，并且相比于同样数量堆积的卷积层而言，其收敛性更好，DDCR结构如图3所示。通过使用DCR模块和DDCR模块替代普通的卷积层堆积，提取特征更全面并能够提供计算效率。
步骤S120，设计注意力机制。
在CCTA图像冠状动脉运动伪影校正的方法中，比较困难的是将局部特征校正成为无伪影的图像。为了使网络能够将其局部特征，尤其是冠状动脉特征进行伪影校正，在一个实施例中，设计了注意力机制(Attention)来辅助网络主支学习CCTA的局部特征，如图4所示。
使用注意力机制能够提高图像特征信息的利用，将其应用于CCTA冠状动脉运动去伪影领域时，注意力机制可以融合图像的局部特征和全局特征，从而改善了伪影去除效果。此外，注意力机制可以被认为是一种即插即用模块，可以添加至任意传统卷积神经网络工作流程中，提高网络的性能。
步骤S130，设计卷积神经网络的残差块。
在卷积神经网络中，残差块是一种常见的提取图像低维到高维信息的方法。它相对于一般的卷积层来说，不容易丢失低维的特征。而在图像去伪影中，这种方法能够保持图像的整体特征，同时也能学习到冠状动脉清晰的特征，从而为CCTA图像去伪影的能力。例如，残差块结构如图5所示。
步骤S140，设计多重约束的多层次卷积神经网络。
在传统的卷积神经网络中，损失函数通常的计算方法是计算输入图像和输出图像之间的损失值。而在本发明一个实施例中，采取的计算方法是将每一个处理层都设置一个计算损失的值，用于约束每个处理层的优化和收敛，避免处理层被主干网络忽视。而在计算损失函数的时候，每一层的最后一个卷积层的特征图像矩阵，都可以通过PyTorch库中的pixel shuffle函数恢复成与目标图像相同大小的矩阵图像。
如图6所示，构建的卷积神经网络包含主干结构层和多个分支结构层，其中，主干结构层以原始图像为输入，多个分支结构层分别以通过对原始图像降采样(如利用pixelun-shuffle函数)获得的不同级别分辨率的图像作为输入，每一分支结构层的最后一个卷积层的特征图像矩阵，都通过上采样(如pixel shuffle)恢复成与目标图像相同大小的矩阵图像，并且每个分支结构层提取的图像特征从上至下(即从低分辨率图像至较高分辨率图像)依次融合到主干结构层，并在主干结构层利用注意力机制进行处理，从而学习输入图像和输出目标图像之间的映射关系。
例如，损失函数有均方误差(MSE)、感知损失(perceptual loss)以及核损失(kernel loss)三种。其中均方误差是为了提高矩阵像素的细节；感知损失是为了提高图像的整体特征的相似性；而核损失则是提高网络的收敛速度。
仍结合图6所示，以输入与输出主干网络作为第1层，通过pixel un-shuffle降采样一次图像作为第2层，以此类推。层数越高，学习的特征越趋向于整体。而且，为了提高每一个处理层的收敛性。每提高一个处理层，将会降低每一层的损失权重。因此，MSE的计算方式如下：
LossMSE＝lossmse_1+wmse_2×lossmse_2+wmse_3×lossmse_3+wmse_4×lossmse_4其中，wmse_2、wmse_3和wmse_4为每个处理层的MSE损失的权重，而lossmse_1、lossmse_2、lossmse_3和lossmse_4是每个处理层的MSE损失。
同样的，感知损失的计算方式如下：
Lossper＝lossper_1+wper_2×losspre_2+wper_3×lossper_3+wper_4×lossper_4
其中，wper_2、wper_3和wper_4为每个处理层的感知损失的权重，而lossper_1、lossper_2、lossper_3和lossper_4是每个处理层的感知损失。
同样的，核损失的计算方式如下：
Lossker＝lossker_1+wker_2×lossker_2+wker_3×lossker_3+wker_4×lossker_4
其中，wker_2、wker_3和wker_4为每个处理层的核损失的权重，而lossker_1、lossker_2、lossker_3和lossker_4是每个处理层的核损失。
而卷积神经网络的总体损失函数表示为：
Loss＝wmse×LossMSE+wper×Lossper+wker×Lossker
其中，wmse、wper和wker分别为MSE，感知损失和核损失的权重，权重取值可根据需要或仿真结果进行调整。
需说明的是，在实际应用中，可根据对图像重建效果或处理速度的要求设置更多数目的分支结构层，此时，例如MSE损失可通用表示为：
LossMSE＝lossmse_1+wmse_2×lossmse_2+wmse_3×lossmse_3+wmse_4×lossmse_4+，...，+wmse_k×lossmse_k，其中，k表示分支结构层索引。相应地，设置其他损失项，在此不再赘述。
通过设置主干结构层和分支结构层等多个处理层，能够融合不同视角下的图像特征，并且通过使用多重约束的多层次联合损失函数，能够提高CCTA图像的质量。
步骤S150，以设定的损失函数收敛为目标训练卷积神经网络。
例如，整个网络使用Adam优化器来优化。训练优化过程从CCTA图像数据中的有伪影数据作为输入，从同一个病人的CCTA图像数据中的冠状动脉无运动伪影的数据作为参考数据，直到网络达到收敛状态，如损失函数值小于设定阈值。
步骤S160，利用经训练的卷积神经网络进行图像处理。
利用经训练的卷积神经网络，即可对采集的实际图像进行实时去伪影、降噪等，以获得重建图像，即将待处理图像进行多次降采样，得到不同级别分辨率的图像；将所述不同级别分辨率的图像和待处理图像输入上述经训练卷积神经网络，获得输出图像。
为进一步验证本发明的效果，进行了实验，结果如图7所示，从上至下各行示出的分别是输入图像、输出图像和目标图像。可以看出，本发明的方法可以有效校正CCTA图像上的冠状动脉的运动伪影。同时，可以在一定程度上恢复图像细节信息。
综上所述，与现有技术相比，本发明的有益效果体现在：1)基于多重约束多层次的联合损失函数增强网络对网络多层处理层的收敛和优化，增强了冠状动脉的局部细节，提高了伪影校正的效果；2)使用DCR和DDCR模块替代普通的卷积层堆积，减少了网络参数，提高了网络的收敛性；3)基于卷积神经网络直接对CCTA图像进行运动伪影校正，输入冠状动脉含有运动伪影的图像，直接获得冠状动脉运动伪影校正后的图像。
本发明可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++、Python等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本发明的各个方面。
这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是，通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本发明的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本发明的范围由所附权利要求来限定。
Claims (10)
1.一种基于多重约束的卷积神经网络校正图像伪影的方法，包括以下步骤：
构建具有主干结构层和多个分支结构层的卷积神经网络，其中，所述主干结构层以原始图像为输入，所述多个分支结构层分别以通过对原始图像降采样获得的不同级别分辨率的图像作为输入，并且每一分支结构层的最后一个卷积层的特征图像矩阵，都通过上采样恢复成与目标图像相同大小的矩阵图像；
以设定的总体损失函数收敛为目标训练所述卷积神经网络，学习从低剂量原始图像到标准剂量目标图像之间的映射关系，并且训练过程中，所述主干结构层以及所述多个分支结构层的每一层均设置损失值。
2.根据权利要求1所述的方法，其特征在于，所述总体损失函数表示为：
Loss＝wmse×LossMSE+woer×Lossper+wker×Lossker
其中，LossMSE是均方差损失，Lossper是感知损失，Lossker是核损失，wmse，wper和wker分别是对应项的权重。
3.根据权利要求2所述的方法，其特征在于，所述均方差损失表示为：
LossMSE＝lossmse_1+wmse_2×lossmse_2+wmse_3×lossmse_3+wmse_4×lossmse_4+，...，+wmse_k×lossmse_k；
其中，wmse_2，wmse_3，wmse_4和wmse_k为对应分支结构层的均方差损失的权重，lossmse_2，lossmse_3，lossmse_4和lossmse_k是对应分支结构层的均方差损失，lossmse_1是主干结构层的损失，k是分支结构层的索引。
4.根据权利要求2所述的方法，其特征在于，所述感知损失表示为：
Lossper＝lossper_1+wper_2×losspre_2+wper_3×lossper_3+wper_4×lossper_4+，...，+wper_k×lossper_k；
其中，wper_2，wper_3，wper_4和wper_k是对应分支结构层的感知损失的权重，lossper_2，lossper_3，lossper_4和lossper_k是对应分支结构层的感知损失，lossper_1是主干结构层的感知损失，k是分支结构层的索引。
5.根据权利要求2所述的方法，其特征在于，所述核损失表示为：
Lossker＝lossker_1+wker_2×lossker_2+wker_3×lossker_3+wker_4×lossker_4+，...，wker_k×lossker_k；
其中，wker_2，wker_3，wker_4和wker_k是对应分支结构层的核损失的权重，lossker_2，lossker_3，lossker_4和lossker_k是对应分支结构层的核损失，lossker_1是主干结构层的核损失，k是分支结构层的索引。
6.根据权利要求1所述的方法，其中，所述主干结构层包含多层卷积层和堆积密集连接残差块结构，并采用注意力机制融合从各分支结构层提取的特征，获得输出图像。
7.根据权利要求6所述的方法，其中，在训练过程中，将不同级别分辨率的图像分别输入对应的分支结构层，每个分支结构层包含多层卷积层和堆积密集连接残差块结构，并且较低分辨率图像对应的分支结构层的输出特征依次与较高分辨率图像对应的分支结构层中的第一卷积层的输出级联，最终融合到所述主干网络层。
8.一种医学图像处理方法，包括：
将待处理图像进行多次降采样，得到不同级别分辨率的图像；
将所述不同级别分辨率的图像和待处理图像输入根据权利要求1至7任一项所述方法得到的经训练卷积神经网络，获得输出图像。
9.一种计算机可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现根据权利要求1至8中任一项所述方法的步骤。
10.一种计算机设备，包括存储器和处理器，在所述存储器上存储有能够在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至8中任一项所述的方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110333370.7A CN112991220B (zh) | 2021-03-29 | 2021-03-29 | 一种基于多重约束的卷积神经网络校正图像伪影的方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110333370.7A CN112991220B (zh) | 2021-03-29 | 2021-03-29 | 一种基于多重约束的卷积神经网络校正图像伪影的方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112991220A true CN112991220A (zh) | 2021-06-18 |
| CN112991220B CN112991220B (zh) | 2024-06-28 |
Family
ID=76337891
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110333370.7A Active CN112991220B (zh) | 2021-03-29 | 2021-03-29 | 一种基于多重约束的卷积神经网络校正图像伪影的方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112991220B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113379868A (zh) * | 2021-07-08 | 2021-09-10 | 安徽工程大学 | 基于卷积稀疏编码网络的低剂量ct图像噪声伪影分解方法 |
| WO2023123361A1 (en) * | 2021-12-31 | 2023-07-06 | Shanghai United Imaging Healthcare Co., Ltd. | Systems and methods for motion correction for a medical image |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180075581A1 (en) * | 2016-09-15 | 2018-03-15 | Twitter, Inc. | Super resolution using a generative adversarial network |
| WO2020200030A1 (zh) * | 2019-04-02 | 2020-10-08 | 京东方科技集团股份有限公司 | 神经网络的训练方法、图像处理方法、图像处理装置和存储介质 |
| CN111899315A (zh) * | 2020-08-07 | 2020-11-06 | 深圳先进技术研究院 | 利用多尺度特征感知深度网络重建低剂量图像的方法 |
| CN112419192A (zh) * | 2020-11-24 | 2021-02-26 | 北京航空航天大学 | 基于卷积神经网络的isms图像修复和超分辨重建方法及装置 |
-
2021
- 2021-03-29 CN CN202110333370.7A patent/CN112991220B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180075581A1 (en) * | 2016-09-15 | 2018-03-15 | Twitter, Inc. | Super resolution using a generative adversarial network |
| WO2020200030A1 (zh) * | 2019-04-02 | 2020-10-08 | 京东方科技集团股份有限公司 | 神经网络的训练方法、图像处理方法、图像处理装置和存储介质 |
| CN111899315A (zh) * | 2020-08-07 | 2020-11-06 | 深圳先进技术研究院 | 利用多尺度特征感知深度网络重建低剂量图像的方法 |
| CN112419192A (zh) * | 2020-11-24 | 2021-02-26 | 北京航空航天大学 | 基于卷积神经网络的isms图像修复和超分辨重建方法及装置 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113379868A (zh) * | 2021-07-08 | 2021-09-10 | 安徽工程大学 | 基于卷积稀疏编码网络的低剂量ct图像噪声伪影分解方法 |
| WO2023123361A1 (en) * | 2021-12-31 | 2023-07-06 | Shanghai United Imaging Healthcare Co., Ltd. | Systems and methods for motion correction for a medical image |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112991220B (zh) | 2024-06-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11120582B2 (en) | Unified dual-domain network for medical image formation, recovery, and analysis | |
| CN111325686B (zh) | 一种基于深度学习的低剂量pet三维重建方法 | |
| Kulathilake et al. | A review on deep learning approaches for low-dose computed tomography restoration | |
| JP6855223B2 (ja) | 医用画像処理装置、ｘ線コンピュータ断層撮像装置及び医用画像処理方法 | |
| Yang et al. | Low-dose CT denoising via sinogram inner-structure transformer | |
| CN111540025B (zh) | 预测用于图像处理的图像 | |
| CN104182954B (zh) | 一种实时的多模态医学图像融合方法 | |
| CN115953494B (zh) | 基于低剂量和超分辨率的多任务高质量ct图像重建方法 | |
| CN112419173A (zh) | 一种由pet图像生成ct图像的深度学习框架和方法 | |
| CN112991220B (zh) | 一种基于多重约束的卷积神经网络校正图像伪影的方法 | |
| Hou et al. | CT image quality enhancement via a dual-channel neural network with jointing denoising and super-resolution | |
| CN111340903A (zh) | 基于非衰减校正pet图像生成合成pet-ct图像的方法和系统 | |
| CN112819914A (zh) | 一种pet图像处理方法 | |
| Yin et al. | Unpaired low-dose CT denoising via an improved cycle-consistent adversarial network with attention ensemble | |
| Liu et al. | MRCON-Net: Multiscale reweighted convolutional coding neural network for low-dose CT imaging | |
| Feng et al. | Dual residual convolutional neural network (DRCNN) for low-dose CT imaging | |
| Chen et al. | Deep learning-based algorithms for low-dose CT imaging: A review | |
| WO2022094911A1 (zh) | 一种共享权重的双区域生成对抗网络及其图像生成方法 | |
| CN112419175A (zh) | 一种共享权重的双区域生成对抗网络及其图像生成方法 | |
| Xia et al. | Deep residual neural network based image enhancement algorithm for low dose CT images | |
| Li et al. | A comprehensive survey on deep learning techniques in CT image quality improvement | |
| KR102505908B1 (ko) | 의료 영상 융합 시스템 | |
| WO2022094779A1 (zh) | 一种由pet图像生成ct图像的深度学习框架和方法 | |
| Tran et al. | Deep learning-based inpainting for chest X-ray image | |
| Zhou et al. | Limited view tomographic reconstruction using a deep recurrent framework with residual dense spatial-channel attention network and sinogram consistency |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |