CN112651890A - 基于双编码融合网络模型的pet-mri图像去噪方法、装置 - Google Patents

基于双编码融合网络模型的pet-mri图像去噪方法、装置 Download PDF

Info

Publication number
CN112651890A
CN112651890A CN202011507462.4A CN202011507462A CN112651890A CN 112651890 A CN112651890 A CN 112651890A CN 202011507462 A CN202011507462 A CN 202011507462A CN 112651890 A CN112651890 A CN 112651890A
Authority
CN
China
Prior art keywords
image
pet
mri
network model
dual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011507462.4A
Other languages
English (en)
Inventor
张娜
郑海荣
刘新
胡战利
梁栋
杨永峰
张立沛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN202011507462.4A priority Critical patent/CN112651890A/zh
Publication of CN112651890A publication Critical patent/CN112651890A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/003—Reconstruction from projections, e.g. tomography
    • G06T11/008—Specific post-processing after tomographic reconstruction, e.g. voxelisation, metal artifact correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Abstract

本发明公开了一种基于双编码融合网络模型的PET‑MRI图像去噪方法，以解决现有技术中的PET‑MRI图像去噪方法存在的去噪能力较弱，输出的图像质量不高的问题。方法包括：获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET‑MRI图像；其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。本发明还公开一种基于双编码融合网络模型的PET‑MRI图像去噪装置、电子设备及计算机可读存储介质。

Description

基于双编码融合网络模型的PET-MRI图像去噪方法、装置
技术领域
本发明涉及图像处理技术领域，尤其涉及一种基于双编码融合网络模型的PET-MRI图像去噪方法、装置。
背景技术
PET-MRI，也可记为PET/MRI，是将正电子发射计算机断层显像(PET，PositronEmission Computed Tomography)的分子成像功能与核磁共振成像(MRI，MagneticResonance Imaging)卓越的软组织对比功能结合起来的一种新技术，包括同机融合PET-MRI和异机融合PET-MRI。PET-MRI用于对在组织中扩散的疾病细胞进行成像，具体地，可以分别收集疾病细胞的PET影像和MRI影像，融合了PET对病灶的敏感检测优势和MRI的多序列成像优势，相比于其他方法而言，具有灵敏度高、准确性好等优点，且对许多疾病，比如肿瘤和最为常见的心脑疾病具有早期发现、早期诊断的价值。
实际应用中，考虑到在收集疾病细胞的PET影像过程中，PET的辐射量和显像剂，可能会大幅度增加各种疾病发生的可能性，影响人体生理机能，破坏人体组织器官，甚至危害到患者的生命安全，因此，相关技术人员提倡在满足医生对PET图像的临床诊断要求下，尽可能的减少显像剂和辐射剂量。然而，通常情况下，在PET成像时采用低剂量的显像剂，容易导致重建图像产生大量量子噪声和模糊的形态特征，从而降低图像质量。
为了降低重建图像的噪声，提高图像质量，相关技术中提供以下两种方法：
方式一：例如，Yang Lei等人于2019年在Physics in Medicine&Biology期刊上发表文章“Whole-body PET estimation from low count statistics using cycle-consistent generative adversarial networks”，该文章提出通过在生成网络中引入了残差卷积模块，以提高去噪准确率。
方法二：例如，Kevin T.Chen等人于2019在Radiology刊上发表文章“Ultra–Low-Dose 18F-Florbetaben Amyloid PET Imaging Using Deep Learning with Multi-Contrast MRII Inputs”，该文章提出通过将MRII图像作为先验知识以输入通道的方式引入PET图像的去噪任务中，其中，去噪网络使用U-Net结构，输入为PET和MRI，最后将网络输出的单一特征图与MRI像素点相加得到最后输出。
然而，采用上述方式一，虽然可以提高去噪准确率，但由于生成网络带来的超参数过多，使得训练过程复杂度较高，难以调节；采用上述方式二，虽然可以降低图像噪声，但是并未对PET图像和MRI图像进行空间上信息抓取与关联，从而其对于噪声和伪影的消除效果不佳。
发明内容
本发明实施例提供一种基于双编码融合网络模型的PET-MRI图像去噪方法，用以解决现有技术中的PET-MRI图像去噪方法存在的去噪能力较弱，输出的图像质量不高的问题。
本发明实施例还提供一种基于双编码融合网络模型的PET-MRI图像去噪装置，一种电子设备，以及一种计算机可读存储介质。
本发明实施例采用下述技术方案：
一种基于双编码融合网络模型的PET-MRI图像去噪方法，包括：
获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；
将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像；其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。
可选的，在将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像之前，方法还包括：基于PET图像样本和MRI图像样本的融合特征训练得到双编码融合网络模型；
其中，基于PET图像样本和MRI图像样本的融合特征训练得到双编码融合网络模型，包括：
通过双编码融合网络模型的密集连接的循环卷积网络提取PET图像样本的第一图像特征和MRI图像样本的第二图像特征；
将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征；
循环执行第一指定操作，直至n+1＝N时终止循环执行第一指定操作，并将得到的融合结果确定为PET-MRI图像的第四图像特征；
第一指定操作包括：
将第三图像特征分别作为双编码融合网络模型的PET编码器的第n层编码层的输入和双编码融合网络模型的MRI特征提取器的第n层特征提取层的输入，得到PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果；其中，PET编码器的编码层的数目与MRI特征提取器的特征提取层的数目相同；
基于PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果进行特征融合，得到第n个融合结果；n的取值范围为[1，2，…N]，N表示PET编码器的最后一层编码层的序号和MRI特征提取器的最后一层特征提取层的序号；
将第n个融合结果分别作为PET编码器的第n+1层编码层的输入和MRI特征提取器的第n+1层特征提取层的输入，得到PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果；
将PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果进行融合，得到PET-MRI图像的第四图像特征；
基于第四图像特征进行解码操作，得到双编码融合网络模型。
可选的，在将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征之前，方法还包括：
通过1*1的卷积核和激活函数ReLU，对第一图像特征和第二图像特征进行卷积处理和激活处理，以恢复循环卷积网络的通道数。
可选的，基于第四图像特征进行解码操作，得到双编码融合网络模型，包括：
将第四图像特征确定为双编码融合网络模型的解码器的第1个输入；
循环执行第二指定操作，直至m+1＝M时终止循环执行第二指定操作，将第m+1个输入对应的卷积解码结果确定为解码去噪后的PET-MRI图像，以及将双编码融合网络模型确定为预先训练得到的双编码融合网络模型；
可选的，第二指定操作包括：
依次将双编码融合网络模型的解码器的第m个输入进行循环卷积操作和上采样操作，得到解码器的第m个处理结果；m的取值范围为[1，2，…M]，M表示解码器的最后一层解码层的序号，且M＝N；
获取MRI特征提取器的第N-1个提取结果，并基于密集连接的循环卷积网络对第N-1个提取结果进行卷积操作，得到卷积操作结果；
将第m个处理结果与卷积操作结果进行拼接得到解码器的第m个卷积解码结果，并将第m个卷积解码结果确定为解码器的第m+1个输入。
可选的，其特征在于，方法还包括：
基于标准PET-MRI图像和预设损失函数，对预设双编码融合网络模型的参数进行更新，直至双编码融合网络模型收敛于预设范围；
预设损失函数至少根据用于校准双编码融合网络模型的噪声分布的平均绝对误差函数和用于防止双编码融合网络模型过拟合的函数建立。
可选的，其特征在于，用于防止双编码融合网络模型过拟合的函数至少根据双编码融合网络模型得到的PET-MRI图像在水平方向的梯度值和PET-MRI图像在垂直方向的梯度值建立。
可选的，密集连接的循环卷积网络包括至少两个卷积核，至少两个卷积核的参数相同。
可选的，膨胀化卷积网络包括：基于预设膨胀比例调节后的目标卷积；
预设膨胀比例根据图像中不同形态和不同尺寸的目标对象所需的信息抓取能力确定；
目标卷积用于对图像中目标对象的信息进行抓取。
一种基于双编码融合网络模型的PET-MRI图像去噪装置，包括获取模块和输入模块，其中：
获取模块，用于获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；
输入模块，用于将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像；其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。
一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，计算机程序被处理器执行时实现如上的基于双编码融合网络模型的PET-MRI图像去噪方法的步骤。
一种计算机可读存储介质，其特征在于，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现如上的基于双编码融合网络模型的PET-MRI图像去噪方法的步骤。
本发明实施例采用的上述至少一个技术方案能够达到以下有益效果：
采用本发明实施例提供的方法，由于双编码融合网络模型是基于PET图像样本和MRI图像样本的融合特征训练得到，而且双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息，这样，将获取的PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，则可以基于密集连接的循环卷积网络和膨胀化卷积网络同时对图像的纹理信息和空间信息进行抓取，增强了纹理信息和空间信息的抓取能力，能够在较大程度上消除低剂量带来的噪声和伪影；而且还可以将PET图像的图像特征和MRI图像的图像特征融合，保证PET图像和MRI图像关联，从而提高PET-MRI图像的质量。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1为本发明实施例提供的一种基于双编码融合网络模型的PET-MRI图像去噪方法的实现流程示意图；
图2为本发明实施例提供的一种密集连接的循环卷积网络的结构示意图；
图3为本发明实施例提供的一种循环卷积网络的结构示意图；
图4中的(a)为Inception V2网络的结构示意图；
图4中的(b)为本发明实施例提供的一种膨胀化卷积网络的结构示意图；
图5a为本发明实施例提供的一种基于PET图像样本和MRI图像样本的融合特征训练得到双编码融合网络模型的方法的实现流程示意图；
图5b为本发明实施例提供的一种基于第四图像特征进行解码操作，得到双编码融合网络模型的方法的实现流程示意图；
图6为本发明实施例提供的方法在实际中的一种应用流程的示意图；
图7为本发明实施例提供一种基于双编码融合网络模型的PET-MRI图像去噪装置的具体结构示意图；
图8为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明具体实施例及相应的附图对本发明技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
以下结合附图，详细说明本发明各实施例提供的技术方案。
实施例1
为解决现有技术中的PET-MRI图像去噪方法存在的去噪能力较弱，输出的图像质量不高的问题，本发明实施例提供一种基于双编码融合网络模型的PET-MRI图像去噪方法。
该方法的执行主体，可以是各种类型的计算设备，或者，可以是安装于计算设备上的应用程序或应用(Application，APP)。所述的计算设备，比如可以是手机、平板电脑、智能可穿戴设备等用户终端，也可以是服务器等。
为便于描述，本发明实施例以该方法的执行主体为服务器为例，对该方法进行介绍。本领域技术人员可以理解，本发明实施例以服务器为例对方法进行介绍，仅是一种示例性说明，并不对本方案对应的权利要求保护范围构成限制。具体地，本发明实施例提供的该方法的实现流程如图1所示，包括如下步骤：
步骤11，获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像。
根据本发明实施例所要解决的技术问题可知，本发明实施例是为了解决现有技术中的PET-MRI图像去噪方法存在的去噪能力较弱，输出的图像质量不高的问题，而提出的一种基于双编码融合网络模型的PET-MRI图像去噪方法，因此，该目标对象，可以理解为待生成PET-MRI图像的对象，例如，目标对象可以包括人体内部的器官或者人体内部某个患病的区域等。
PET图像，可以包括目标对象在低辐射量和低显像剂条件下，通过正电子发射断层成像技术得到的图像。例如，以目标对象为人体内的恶性肿瘤区域为例，则PET图像可以包括该恶性肿瘤区域在低辐射量和低显像剂条件下，通过正电子发射断层成像技术得到的图像。
本发明实施例中，可以通过在目标对象内部注射放射性同位素标记的示踪剂，比如通过11C、13N、15O或18F等同位素标记的氟代脱氧葡萄糖，使其参与到目标对象的组织血流和代谢过程中，这样，由于同位素在自然环境中不稳定会发生衰变，并产生正电子，而正电子在人体内移动1～3mm后会与负电子相遇发生湮灭效应，并产生一对能量相等、运动方向相反的伽玛光子，进而可以通过PET探测器探测伽玛光子对后得到PET投影数据，最后基于PET投影数据经过计算机的重建技术获得PET图像。
例如，以目标对象为人体内的恶性肿瘤区域为例，可以往人体内注射放射性同位素标记的示踪剂，使其参与到人体组织血流和代谢过程中，这样，由于不同组织的代谢程度具有差异性，并且恶性肿瘤组织的代谢异常旺盛，因此，带同位素标记的示踪剂经注射后便可以参与到体内血液循环过程，而同位素由于不稳定而发生衰变并产生正电子，正电子在人体内移动1～3mm后与负电子相遇发生湮灭效应，并产生一对能量相等、运动方向相反的伽玛光子，此时，即可通过PET探测器以及计算机的重建技术获得恶性肿瘤区域的PET图像。
需要说明的是，上述例举的获取PET图像的方法仅是本发明实施例的一种示例性说明，并不对本发明实施例造成任何限定。
MRI图像，可以包括针对目标对象，通过磁共振成像技术得到的图像。本发明实施例中，例如可以利用磁共振现象，从目标对象中获得电磁信号，并基于获得的电磁信号重建出目标对象信息，从而得到MRI图像。
需要说明的是，获取的PET图像和MRI图像的图像尺寸以及图像格式可以根据实际需要确定，本发明实施例中不作限定。例如，在一种可选的实施方式中，PET图像和MRI图像的图像尺寸可以是256*256，图像格式可以是灰度图。
步骤12，将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像。
其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。
为了更清楚地描述步骤12，以下在介绍该步骤之前，先对本发明实施例涉及的双编码融合网络模型进行介绍。
双编码融合网络模型可以理解为一种包括两条编码网络的，用于生成PET-MRI图像的网络模型。可选的，考虑到相关技术中，通常会通过不断叠加卷积操作以此来获取图像的高维信息，这样，虽然可以获取到图像的高维信息，但是在不断叠加卷积操作的过程中也会造成参数数量的增多，同时梯度的反向传播难度会加大等问题，因此，为了解决该问题，本发明实施例中双编码融合网络模型的其中一条编码网络比如可以是用于获取图像的纹理信息以及对图像信息进行编码的密集连接的循环卷积网络，其中，密集连接的循环卷积网络可以同时包括循环卷积网络和循环卷积间的密集连接，这样一来，一方面，循环卷积结构可以保证在参数数量不变的同时，对不同时域上的图像特征进行累积和提取；另一方面，在循环卷积网络之间引入密集连接操作，可以保证反向传播更新梯度的稳定性。
例如，如图2所示，为本发明实施例提供的一种密集连接的循环卷积网络的结构示意图。该密集连接的循环卷积网络可以包括循环卷积网络(图2中的Recurrent Conv)和循环卷积间的密集连接(图2中的
Figure BDA0002845347520000091
Concatenate)，可以包括至少两个卷积核，至少两个卷积核的参数相同，且每个循环卷积网络与输出之间都有密集连接机制，该机制是基于通道之间的连接。
可选的，考虑到在密集连接机制之后，循环卷积网络的通道数的增加，进而造成计算资源消耗增大，因此，本发明实施例中在该密集连接机制后，还可以使用1×1的卷积核和ReLU激活函数来恢复原通道数，这样，在增加了表征学习的非线性变换的同时，还可以加强深度监督，从而加快收敛。
如图3所示，为本发明实施例提供的一种循环卷积网络的结构示意图，该循环卷积网络可以包括至少两个卷积核，且为了保证在增加卷积操作同时，不增加参数量，至少两个卷积核的参数相同。图3中以3个3*3的卷积核(图中的3*3conv)为例，循环卷积网络的输入可以经过三个卷积操作，三个卷积核的参数是共享的(图中的Shared weights)。而且，在每次卷积操作后，输出将会与最开始的初始输入(图中的input)进行像素点的相加，以实现图像特征信息的累积，之后再进入共享参数的卷积操作，这样，在梯度更新的反向传播中，则可以相当于一个卷积核将会在不同时域中进行更新，从而使训练过程更容易。
此外，考虑到相关技术中，在对图像降噪时并未对PET图像和MRI图像进行空间上信息抓取与关联，使得其对于噪声和伪影的消除效果不佳的问题，本发明实施例中，双编码融合网络模型的另一条编码网络比如可以是用于提取图像的空间信息以及对图像信息进行编码的膨胀化卷积网络，这样，由于膨胀化卷积网络中引入了膨胀化卷积，因此，可以对图像中不同形态和尺寸的图像特征具有更好的抓取能力，增加了网络宽度和空间信息的提取能力。
其中，膨胀化卷积网络可以包括基于预设膨胀比例调节后的目标卷积；预设膨胀比例根据图像中不同形态和不同尺寸的目标对象所需的信息抓取能力确定；目标卷积用于对图像中目标对象的信息进行抓取。
例如，如图4中的(b)所示(以下简称图4(b))，为本发明实施例提供的一种膨胀化卷积网络的结构示意图，该膨胀化卷积网络是基于Inception V2的结构(参见图4中的(a))采用预设膨胀比例进行了特定的调整，具体地，是在Inception V2的第三条和第四条操作中引入了膨胀化卷积，这样对图像中不同形态和尺寸的图像特征具有更好的抓取能力。
其中，膨胀化卷积可以基于以下等式确定：
高(膨胀后)/宽(膨胀后)＝(膨胀比例-1)×(卷积核大小-1)+卷积核大小；
膨胀比例Dilation rate比如可以是Dilation rate＝(1，2)或者Dilation rate＝(3，1)。
例如，以图4中(a)的第三条为例(即Inception V2中从下往上数第二层左起第2个)，此时该卷积核为3*3，假设膨胀比例为Dilation rate＝(1，2)，则膨胀后的卷积核大小为3*5。或者，假设膨胀比例为Dilation rate＝(3，1)，则膨胀后的卷积核大小为7*3。
需要说明的是，上述例举的膨胀比例以及膨胀后的卷积核大小仅是本发明实施例的一种示例性说明，并不对本发明实施例造成任何限定。
可选的，膨胀化卷积网络还可以结合一些1×1的卷积操作(图4(b)中的Conv1*1)和全局池化操作(图4(b)中的AvgPool3*3)，以增加网络宽度和空间信息提取能力。同时，也可以在卷积中加入卷积核滑动步长stride为2(图4(b)中的stride＝2)的操作，以对特征图进行降维，每条操作路线的特征图数量为最后总输出的1/4，最后所有特征图进行拼接恢复指定输出特征图数量。
以上内容即关于双编码融合网络模型的相关介绍，下面将结合上述描述内容对步骤12进行详细介绍。
本发明实施例中，将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，则可以基于双编码融合网络模型进行编码和解码操作，最终恢复得到PET-MRI图像。
具体地，将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，可以先基于双编码融合网络模型的密集连接的循环卷积网络分别提取PET图像的图像特征和MRI图像的图像特征，其中，该图像特征包括图像的纹理信息。在得到PET图像的图像特征和MRI图像的图像特征之后，则可以将这两种特征进行特征融合，也即对PET图像的像素点和MRI图像的像素点进行相加融合，并将融合后的图像特征分别作为密集连接的循环卷积网络和膨胀化卷积网络两条编码网络的输入，以得到编码结果。
或者，在一种可选的实施方式中，若密集连接的循环卷积网络和膨胀化卷积网络均包括至少两层编码层，则在得到第一层编码层的编码结果后，还可以将第一层编码层的编码结果作为第二层编码层的输入，得到第二层编码层的编码结果，依次类推，直至通过密集连接的循环卷积网络和膨胀化卷积网络中最后一层编码层，得到最终编码结果。
在得到最终编码结果后，则可以基于该最终编码结果进行解码操作，以恢复出目标对象的PET-MRI图像。具体地，可以先基于得到的最终编码结果经过密集连接的循环卷积网络进行循环卷积操作和上采样操作，然后与编码阶段得到的特征进行拼接，最后通过卷积解码操作得到目标对象的PET-MRI图像。
其中，基于得到的最终编码结果进行上采样操作，是为了提升图像的分辨率。
采用本发明实施例提供的方法，由于双编码融合网络模型是基于PET图像样本和MRI图像样本的融合特征训练得到，而且双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息，这样，将获取的PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，则可以基于密集连接的循环卷积网络和膨胀化卷积网络同时对图像的纹理信息和空间信息进行抓取，增强了纹理信息和空间信息的抓取能力，能够在较大程度上消除低剂量带来的噪声和伪影；而且还可以将PET图像的图像特征和MRI图像的图像特征融合，保证PET图像和MRI图像关联，从而提高PET-MRI图像的质量。
实施例2
通常，在执行上述实施例1中的步骤12之前，还需要预先得到双编码融合网络模型。基于此，本发明实施例提供一种基于PET图像样本和MRI图像样本的融合特征训练得到双编码融合网络模型的方法，如图5a所示，该方法包括如下步骤：
步骤51，通过双编码融合网络模型的密集连接的循环卷积网络提取PET图像样本的第一图像特征和MRI图像样本的第二图像特征。
双编码融合网络模型可以理解为一种包括两条编码网络的、用于生成PET-MRI图像的网络模型。
密集连接的循环卷积网络，可以理解为双编码融合网络模型中两条编码网络中的其中一条，可以用于提取图像的纹理信息以及对图像信息进行编码。
本发明实施例中，密集连接的循环卷积网络可以包括至少两个卷积核，且至少两个卷积核的参数相同。
步骤52，将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征。
本发明实施例中，在得到第一图像特征和第二图像特征之后，可以进行融合，也即将上述两个图像特征的像素点进行相加。
可选的，在将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征之前，方法还包括：通过1*1的卷积核和激活函数ReLU，对第一图像特征和第二图像特征进行卷积处理和激活处理，以恢复循环卷积网络的通道数。
步骤53，循环执行第一指定操作，直至n+1＝N时终止循环执行第一指定操作，并将得到的融合结果确定为PET-MRI图像的第四图像特征；
第一指定操作包括：
将第三图像特征分别作为双编码融合网络模型的PET编码器的第n层编码层的输入和双编码融合网络模型的MRI特征提取器的第n层特征提取层的输入，得到PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果；其中，PET编码器的编码层的数目与MRI特征提取器的特征提取层的数目相同；
基于PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果进行特征融合，得到第n个融合结果；n的取值范围为[1，2，…N]，N表示PET编码器的最后一层编码层的序号和MRI特征提取器的最后一层特征提取层的序号；
将第n个融合结果分别作为PET编码器的第n+1层编码层的输入和MRI特征提取器的第n+1层特征提取层的输入，得到PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果；
将PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果进行融合，得到PET-MRI图像的第四图像特征。
以下结合实例，对步骤53进行相关说明。
例如，假设双编码融合网络模型的PET编码器的编码层的数目与MRI特征提取器的特征提取层的数目均为3，则在得到融合后的第三图像特征之后，首先，可以将第三图像特征分别作为双编码融合网络模型的PET编码器的第1层编码层的输入和双编码融合网络模型的MRI特征提取器的第1层特征提取层的输入，得到PET编码器的第1个输出结果和MRI特征提取器的第1个提取结果。
其次，基于PET编码器的第1个输出结果和MRI特征提取器的第1个提取结果进行特征融合，得到第1个融合结果。然后，将第1个融合结果分别作为PET编码器的第2层编码层的输入和MRI特征提取器的第2层特征提取层的输入，得到PET编码器的第2个输出结果和MRI特征提取器的第2个提取结果。
此时，由于第二层编码层以及第2层特征提取层并不是PET编码器和MRI特征提取器的最后一层，因此，还需要继续循环执行上述操作，也即将PET编码器的第2个输出结果和MRI特征提取器的第2个提取结果进行特征融合，得到第2个融合结果；并将第2个融合结果分别作为PET编码器的第3层编码层的输入和MRI特征提取器的第3层特征提取层的输入，得到PET编码器的第3个输出结果和MRI特征提取器的第3个提取结果。此时，由于第3层编码层和第3层特征提取层分别是PET编码器和MRI特征提取器的最后一层，因此，可以将PET编码器的第3个输出结果和MRI特征提取器的第3个提取结果进行融合，得到PET-MRI图像的第四图像特征。
步骤54，基于第四图像特征进行解码操作，得到双编码融合网络模型。
其中，如图5b所示，基于第四图像特征进行解码操作，得到双编码融合网络模型，具体可以包括以下步骤541～步骤542：
步骤541，将第四图像特征确定为双编码融合网络模型的解码器的第1个输入；
步骤542，循环执行第二指定操作，直至m+1＝M时终止循环执行第二指定操作，将第m+1个输入对应的卷积解码结果确定为解码去噪后的PET-MRI图像，以及将双编码融合网络模型确定为预先训练得到的双编码融合网络模型。
可选的，第二指定操作包括：
依次将双编码融合网络模型的解码器的第m个输入进行循环卷积操作和上采样操作，得到解码器的第m个处理结果；m的取值范围为[1，2，…M]，M表示解码器的最后一层解码层的序号，且M＝N；
获取MRI特征提取器的第N-1个提取结果，并基于密集连接的循环卷积网络对第N-1个提取结果进行卷积操作，得到卷积操作结果；
将第m个处理结果与卷积操作结果进行拼接得到解码器的第m个卷积解码结果，并将第m个卷积解码结果确定为解码器的第m+1个输入。
以下结合实例，对步骤54进行相关说明。
沿用上例，假设双编码融合网络模型的PET编码器的编码层的数目、MRI特征提取器的特征提取层的数目以及双编码融合网络模型的解码器的解码层的数目均为3，则首先可以将双编码融合网络模型的解码器的第1个输入进行循环卷积操作和上采样操作，得到解码器的第1个处理结果；其次，获取MRI特征提取器的第2个提取结果，并基于密集连接的循环卷积网络对第2个提取结果进行卷积操作，得到卷积操作结果；最后，将第1个处理结果与卷积操作结果进行拼接得到解码器的第1个卷积解码结果，并将第1个卷积解码结果确定为解码器的第2个输入。
执行完上述步骤54之后，则可以得到双编码融合网络模型。在一种可选的实施方式中，为了保证双编码融合网络模型生成的PET-MRI图像尽可能的与标准PET-MRI图像相似，本发明实施例中，还可以基于标准PET-MRI图像和预设损失函数，对预设双编码融合网络模型的参数进行更新，直至双编码融合网络模型收敛于预设范围。
其中，预设损失函数至少根据用于校准双编码融合网络模型的噪声分布的平均绝对误差函数和用于防止双编码融合网络模型过拟合的函数建立。
例如，考虑到相关技术中采用L2损失函数时，虽然可以在一定程度上提升图像的峰值信噪比，但容易使得PET-MRI图像平滑，丢失细节，因此，本发明实施例可以采用L1损失函数，这样能够更好适应真实噪声分布。
可选的，还可以使用了a total variation(TV)regularizer作为正则项，以防止过拟合。其中等式如下：
Figure BDA0002845347520000161
其中，N表示去噪后的PET-MRI图像的像素点的数量，G(xi)表示去噪后的PET-MRI图像，yi表示标准PET-MRI图像；后两项分别表示去噪后的PET-MRI图像在水平方向的梯度的二阶范数的平方，以及去噪后的PET-MRI图像在垂直方向的梯度的二阶范数的平方。
采用本发明实施例提供的方法，由于双编码融合网络模型是基于PET图像样本和MRI图像样本的融合特征训练得到，而且双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息，这样，将获取的PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，则可以基于密集连接的循环卷积网络和膨胀化卷积网络同时对图像的纹理信息和空间信息进行抓取，增强了纹理信息和空间信息的抓取能力，能够在较大程度上消除低剂量带来的噪声和伪影；而且还可以将PET图像的图像特征和MRI图像的图像特征融合，保证PET图像和MRI图像关联，从而提高PET-MRI图像的质量。
实施例3
以下结合实际场景，说明本发明实施例提供的方法在实际中如何应用。
请参见图6，为本发明实施例提供的方法在实际中的一种应用流程的示意图。
以下在描述该方法之前，先对本发明实施例涉及的双编码融合网络模型进行相关介绍。
如图6所示，该网络模型可以包括三个部分，第一部分是对PET特征的编码器(图中的PET Feature Encoder)，第二部分是对MRI的特征提取器(图中的Inception Extractorfor MRI)，第三部分是去噪解码器(图中的PET Denoise Decoder)。其中，①表示基于密集连接的循环卷积网络提取图像特征；②表示基于密集连接的循环卷积网络对编码层的输出结果进行循环卷积操作以及最大池化操作；③表示基于膨胀化卷积网络进行特征提取操作；④表示基于密集连接的卷积循环网络对解码器网络的输入进行循环卷积操作以及上采样操作；⑤表示对解码器网络的输出结果进行密集连接的循环卷积操作和激活函数激活操作。
实际应用中，可以将256×256大小的PET灰度图和MRI灰度图作为输入，输入到双编码融合网络模型，以便基于密集连接的循环卷积对PET灰度图和MRI灰度图进行特征提取操作(图中的①)。
特征提取之后，可以进行相加融合，并将融合后的特征分别作为PET特征的编码器和MRI的特征提取器下一阶段各自编码器的输入。
需要说明的是，将融合后的特征作为PET特征的编码器的下一阶段的输入，输入PET特征的编码器之前，还可以基于密集连接的循环卷积网络对融合后的特征进行循环卷积和最大池化操作(图中的②)。同时，将融合后的特征作为MRI的特征提取器的下一阶段的输入，输入MRI的特征提取器之前，还可以基于膨胀化卷积网络对融合后的特征进行特征提取操作(图中的③)。
与此同时，相加融合后的特征可以进行保留，并在解码去噪阶段与相应的层进行拼接。如图6所示，在最底层PET特征的编码器和MRI的特征提取器特征融合后，可以经过密集连接循环卷积网络进行循环卷积操作以及上采样操作(图中的④)，以提升分辨率。
最后，将解码器的输出与对于编码器阶段的特征图进行拼接，并进行进一步卷积解码操作以及激活操作(图中的⑤)即可以输出维度为256×256的灰度图，其中，特征图数量走向为：32→64→128→256→256→256→128→64→32。
采用本发明实施例提供的方法，由于双编码融合网络模型是基于PET图像样本和MRI图像样本的融合特征训练得到，而且双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息，这样，将获取的PET图像和MRI图像输入到预先训练得到的双编码融合网络模型后，则可以基于密集连接的循环卷积网络和膨胀化卷积网络同时对图像的纹理信息和空间信息进行抓取，增强了纹理信息和空间信息的抓取能力，能够在较大程度上消除低剂量带来的噪声和伪影；而且还可以将PET图像的图像特征和MRI图像的图像特征融合，保证PET图像和MRI图像关联，从而提高PET-MRI图像的质量。
实施例4
现有技术中的PET-MRI图像去噪方法存在的去噪能力较弱，输出的图像质量不高的问题，本发明实施例提供一种基于双编码融合网络模型的PET-MRI图像去噪装置，该装置70的具体结构示意图如图7所示，包括获取模块71和输入模块72。各模块的功能如下：
获取模块71，用于获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像。
输入模块72，用于将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像；其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。
可选的，该装置还可以包括训练模块，用于基于PET图像样本和MRI图像样本的融合特征训练得到双编码融合网络模型。
其中，训练模块，包括：
提取单元，用于通过双编码融合网络模型的密集连接的循环卷积网络提取PET图像样本的第一图像特征和MRI图像样本的第二图像特征；
融合单元，用于将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征；
循环单元，用于循环执行第一指定操作，直至n+1＝N时终止循环执行第一指定操作，并将得到的融合结果确定为PET-MRI图像的第四图像特征；
第一指定操作包括：
将第三图像特征分别作为双编码融合网络模型的PET编码器的第n层编码层的输入和双编码融合网络模型的MRI特征提取器的第n层特征提取层的输入，得到PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果；其中，PET编码器的编码层的数目与MRI特征提取器的特征提取层的数目相同；
基于PET编码器的第n个输出结果和MRI特征提取器的第n个提取结果进行特征融合，得到第n个融合结果；n的取值范围为[1，2，…N]，N表示PET编码器的最后一层编码层的序号和MRI特征提取器的最后一层特征提取层的序号；
将第n个融合结果分别作为PET编码器的第n+1层编码层的输入和MRI特征提取器的第n+1层特征提取层的输入，得到PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果；
将PET编码器的第n+1个输出结果和MRI特征提取器的第n+1个提取结果进行融合，得到PET-MRI图像的第四图像特征；
解码单元，用于基于第四图像特征进行解码操作，得到双编码融合网络模型。
可选的，解码单元，用于：
将第四图像特征确定为双编码融合网络模型的解码器的第1个输入；
循环执行第二指定操作，直至m+1＝M时终止循环执行第二指定操作，将第m+1个输入对应的卷积解码结果确定为解码去噪后的PET-MRI图像，以及将双编码融合网络模型确定为预先训练得到的双编码融合网络模型；
可选的，第二指定操作包括：
依次将双编码融合网络模型的解码器的第m个输入进行循环卷积操作和上采样操作，得到解码器的第m个处理结果；m的取值范围为[1，2，…M]，M表示解码器的最后一层解码层的序号，且M＝N；
获取MRI特征提取器的第N-1个提取结果，并基于密集连接的循环卷积网络对第N-1个提取结果进行卷积操作，得到卷积操作结果；
将第m个处理结果与卷积操作结果进行拼接得到解码器的第m个卷积解码结果，并将第m个卷积解码结果确定为解码器的第m+1个输入。
可选的，装置还包括更新模块，用于：
基于标准PET-MRI图像和预设损失函数，对预设双编码融合网络模型的参数进行更新，直至双编码融合网络模型收敛于预设范围；
预设损失函数至少根据用于校准双编码融合网络模型的噪声分布的平均绝对误差函数和用于防止双编码融合网络模型过拟合的函数建立。
可选的，用于防止双编码融合网络模型过拟合的函数至少根据双编码融合网络模型得到的PET-MRI图像在水平方向的梯度值和PET-MRI图像在垂直方向的梯度值建立。
可选的，装置还包括处理模块，用于在将第一图像特征和第二图像特征进行融合，以得到融合后的第三图像特征之前，通过1*1的卷积核和激活函数ReLU，对密集连接的循环卷积网络的输出结果进行处理，以恢复循环卷积网络的通道数。
可选的，密集连接的循环卷积网络包括至少两个卷积核，至少两个卷积核的参数相同。
可选的，膨胀化卷积网络包括：基于预设膨胀比例调节后的目标卷积；
预设膨胀比例根据图像中不同形态和不同尺寸的目标对象所需的信息抓取能力确定；
目标卷积用于对图像中目标对象的信息进行抓取。
采用本发明实施例提供的装置，由于双编码融合网络模型是基于PET图像样本和MRI图像样本的融合特征训练得到，而且双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息，这样，输入模块将获取模块获取的PET图像和MRI图像输入到预先训练得到的双编码融合网络模型之后，则可以基于密集连接的循环卷积网络和膨胀化卷积网络同时对图像的纹理信息和空间信息进行抓取，增强了纹理信息和空间信息的抓取能力，能够在较大程度上消除低剂量带来的噪声和伪影；而且还可以将PET图像的图像特征和MRI图像的图像特征融合，保证PET图像和MRI图像关联，从而提高PET-MRI图像的质量。
实施例5
图8为实现本发明各个实施例的一种电子设备的硬件结构示意图，该电子设备800包括但不限于：射频单元801、网络模块802、音频输出单元803、输入单元804、传感器805、显示单元806、用户输入单元807、接口单元808、存储器809、处理器810、以及电源811等部件。本领域技术人员可以理解，图8中示出的电子设备结构并不构成对电子设备的限定，电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
其中，处理器810，用于获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；将PET图像和MRI图像输入到预先训练得到的双编码融合网络模型中，得到目标对象的PET-MRI图像；其中，双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，密集连接的循环卷积网络用于提取图像的纹理信息；膨胀化卷积网络用于提取图像的空间信息。
存储器809，用于存储可在处理器810上运行的计算机程序，该计算机程序被处理器810执行时，实现处理器810所实现的上述功能。
应理解的是，本发明实施例中，射频单元801可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器810处理；另外，将上行的数据发送给基站。通常，射频单元801包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元801还可以通过无线通信系统与网络和其他设备通信。
电子设备通过网络模块802为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元803可以将射频单元801或网络模块802接收的或者在存储器809中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元803还可以提供与电子设备800执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元803包括扬声器、蜂鸣器以及受话器等。
输入单元804用于接收音频或视频信号。输入单元8404可以包括图形处理器(Graphics Processing Unit，GPU)8041和麦克风8042，图形处理器8041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元806上。经图形处理器8041处理后的图像帧可以存储在存储器809(或其它存储介质)中或者经由射频单元801或网络模块802进行发送。麦克风8042可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元801发送到移动通信基站的格式输出。
电子设备800还包括至少一种传感器805，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板8061的亮度，接近传感器可在电子设备800移动到耳边时，关闭显示面板8061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器805还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。
显示单元806用于显示由用户输入的信息或提供给用户的信息。显示单元806可包括显示面板8061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板8061。
用户输入单元807可用于接收输入的数字或字符信息，以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元807包括触控面板8071以及其他输入设备8072。触控面板8071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板8071上或在触控面板8071附近的操作)。触控面板8071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器810，接收处理器810发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板8071。除了触控面板8071，用户输入单元807还可以包括其他输入设备8072。具体地，其他输入设备8072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。
进一步的，触控面板8071可覆盖在显示面板8061上，当触控面板8071检测到在其上或附近的触摸操作后，传送给处理器810以确定触摸事件的类型，随后处理器810根据触摸事件的类型在显示面板8061上提供相应的视觉输出。虽然在图8中，触控面板8071与显示面板8061是作为两个独立的部件来实现电子设备的输入和输出功能，但是在某些实施例中，可以将触控面板8071与显示面板8061集成而实现电子设备的输入和输出功能，具体此处不做限定。
接口单元808为外部装置与电子设备800连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元808可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到电子设备800内的一个或多个元件或者可以用于在电子设备800和外部装置之间传输数据。
存储器809可用于存储软件程序以及各种数据。存储器809可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器809可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器810是电子设备的控制中心，利用各种接口和线路连接整个电子设备的各个部分，通过运行或执行存储在存储器809内的软件程序和/或模块，以及调用存储在存储器809内的数据，执行电子设备的各种功能和处理数据，从而对电子设备进行整体监控。处理器810可包括一个或多个处理单元；优选的，处理器810可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器810中。
电子设备800还可以包括给各个部件供电的电源811(比如电池)，优选的，电源811可以通过电源管理系统与处理器810逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
另外，电子设备800包括一些未示出的功能模块，在此不再赘述。
优选的，本发明实施例还提供一种电子设备，包括处理器810，存储器809，存储在存储器809上并可在所述处理器810上运行的计算机程序，该计算机程序被处理器810执行时实现上述基于双编码融合网络模型的PET-MRI图像去噪方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述基于双编码融合网络模型的PET-MRI图像去噪方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本发明的实施例而已，并不用于限制本发明。对于本领域技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本发明的权利要求范围之内。

Claims (11)

1.一种基于双编码融合网络模型的PET-MRI图像去噪方法，其特征在于，包括：
获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；
将所述PET图像和所述MRI图像输入到预先训练得到的双编码融合网络模型中，得到所述目标对象的PET-MRI图像；其中，所述双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，所述双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，所述密集连接的循环卷积网络用于提取图像的纹理信息；所述膨胀化卷积网络用于提取图像的空间信息。
2.如权利要求1所述的方法，其特征在于，在将所述PET图像和所述MRI图像输入到预先训练得到的双编码融合网络模型中，得到所述目标对象的PET-MRI图像之前，所述方法还包括：基于PET图像样本和MRI图像样本的融合特征训练得到所述双编码融合网络模型；
其中，基于PET图像样本和MRI图像样本的融合特征训练得到所述双编码融合网络模型，包括：
通过双编码融合网络模型的密集连接的循环卷积网络提取PET图像样本的第一图像特征和MRI图像样本的第二图像特征；
将所述第一图像特征和所述第二图像特征进行融合，以得到融合后的第三图像特征；
循环执行第一指定操作，直至n+1＝N时终止循环执行所述第一指定操作，并将得到的融合结果确定为PET-MRI图像的第四图像特征；
所述第一指定操作包括：
将所述第三图像特征分别作为所述双编码融合网络模型的PET编码器的第n层编码层的输入和所述双编码融合网络模型的MRI特征提取器的第n层特征提取层的输入，得到所述PET编码器的第n个输出结果和所述MRI特征提取器的第n个提取结果；其中，所述PET编码器的编码层的数目与所述MRI特征提取器的特征提取层的数目相同；
基于所述PET编码器的第n个输出结果和所述MRI特征提取器的第n个提取结果进行特征融合，得到第n个融合结果；n的取值范围为[1，2，…N]，N表示所述PET编码器的最后一层编码层的序号和所述MRI特征提取器的最后一层特征提取层的序号；
将所述第n个融合结果分别作为所述PET编码器的第n+1层编码层的输入和MRI特征提取器的第n+1层特征提取层的输入，得到所述PET编码器的第n+1个输出结果和所述MRI特征提取器的第n+1个提取结果；
将所述PET编码器的第n+1个输出结果和所述MRI特征提取器的第n+1个提取结果进行融合，得到PET-MRI图像的第四图像特征；
基于所述第四图像特征进行解码操作，得到所述双编码融合网络模型。
3.如权利要求2所述的方法，其特征在于，在将所述第一图像特征和所述第二图像特征进行融合，以得到融合后的第三图像特征之前，所述方法还包括：
通过1*1的卷积核和激活函数ReLU，对所述第一图像特征和所述第二图像特征进行卷积处理和激活处理，以恢复所述循环卷积网络的通道数。
4.如权利要求2所述的方法，其特征在于，基于所述第四图像特征进行解码操作，得到所述双编码融合网络模型，包括：
将所述第四图像特征确定为所述双编码融合网络模型的解码器的第1个输入；
循环执行第二指定操作，直至m+1＝M时终止循环执行所述第二指定操作，将第m+1个输入对应的卷积解码结果确定为解码去噪后的PET-MRI图像，以及将所述双编码融合网络模型确定为所述预先训练得到的双编码融合网络模型；
所述第二指定操作包括：
依次将所述双编码融合网络模型的解码器的第m个输入进行循环卷积操作和上采样操作，得到所述解码器的第m个处理结果；m的取值范围为[1，2，…M]，M表示所述解码器的最后一层解码层的序号，且M＝N；
获取所述MRI特征提取器的第N-1个提取结果，并基于所述密集连接的循环卷积网络对所述第N-1个提取结果进行卷积操作，得到卷积操作结果；
将所述第m个处理结果与所述卷积操作结果进行拼接得到所述解码器的第m个卷积解码结果，并将所述第m个卷积解码结果确定为所述解码器的第m+1个输入。
5.如权利要求2所述的方法，其特征在于，所述方法还包括：
基于标准PET-MRI图像和预设损失函数，对所述预设双编码融合网络模型的参数进行更新，直至所述双编码融合网络模型收敛于预设范围；
所述预设损失函数至少根据用于校准所述双编码融合网络模型的噪声分布的平均绝对误差函数和用于防止所述双编码融合网络模型过拟合的函数建立。
6.如权利要求5所述的方法，其特征在于，所述用于防止所述双编码融合网络模型过拟合的函数至少根据所述双编码融合网络模型得到的PET-MRI图像在水平方向的梯度值和PET-MRI图像在垂直方向的梯度值建立。
7.如权利要求1所述的方法，其特征在于，所述密集连接的循环卷积网络包括至少两个卷积核，所述至少两个卷积核的参数相同。
8.如权利要求1所述的方法，其特征在于，所述膨胀化卷积网络包括：基于预设膨胀比例调节后的目标卷积；
所述预设膨胀比例根据图像中不同形态和不同尺寸的目标对象所需的信息抓取能力确定；
所述目标卷积用于对图像中所述目标对象的信息进行抓取。
9.一种基于双编码融合网络模型的PET-MRI图像去噪装置，其特征在于，包括获取模块和输入模块，其中：
获取模块，用于获取目标对象的正电子发射计算机断层显像PET图像和核磁共振成像MRI图像；
输入模块，用于将所述PET图像和所述MRI图像输入到预先训练得到的双编码融合网络模型中，得到所述目标对象的PET-MRI图像；其中，所述双编码融合网络模型基于PET图像样本和MRI图像样本的融合特征训练得到，所述双编码融合网络包括密集连接的循环卷积网络和膨胀化卷积网络，所述密集连接的循环卷积网络用于提取图像的纹理信息；所述膨胀化卷积网络用于提取图像的空间信息。
10.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述的基于双编码融合网络模型的PET-MRI图像去噪方法的步骤。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的基于双编码融合网络模型的PET-MRI图像去噪方法的步骤。
CN202011507462.4A 2020-12-18 2020-12-18 基于双编码融合网络模型的pet-mri图像去噪方法、装置 Pending CN112651890A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011507462.4A CN112651890A (zh) 2020-12-18 2020-12-18 基于双编码融合网络模型的pet-mri图像去噪方法、装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011507462.4A CN112651890A (zh) 2020-12-18 2020-12-18 基于双编码融合网络模型的pet-mri图像去噪方法、装置

Publications (1)

Publication Number Publication Date
CN112651890A true CN112651890A (zh) 2021-04-13

Family

ID=75355014

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011507462.4A Pending CN112651890A (zh) 2020-12-18 2020-12-18 基于双编码融合网络模型的pet-mri图像去噪方法、装置

Country Status (1)

Country Link
CN (1) CN112651890A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114332287A (zh) * 2022-03-11 2022-04-12 之江实验室 基于transformer特征共享的PET图像重建方法、装置、设备及介质
CN115565213A (zh) * 2022-01-28 2023-01-03 荣耀终端有限公司 图像处理方法及装置
US11540798B2 (en) 2019-08-30 2023-01-03 The Research Foundation For The State University Of New York Dilated convolutional neural network system and method for positron emission tomography (PET) image denoising
WO2023087656A1 (zh) * 2021-11-18 2023-05-25 北京达佳互联信息技术有限公司 图像生成方法及装置
CN116703785A (zh) * 2023-08-04 2023-09-05 普密特(成都)医疗科技有限公司 一种微创手术镜下模糊图像的处理方法
CN116862789A (zh) * 2023-06-29 2023-10-10 广州沙艾生物科技有限公司 一种pet-mr图像校正方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190043226A1 (en) * 2017-08-07 2019-02-07 Shenyang Neusoft Medical Systems Co., Ltd. Reconstructing pet image
CN111598820A (zh) * 2020-05-14 2020-08-28 山东凯鑫宏业生物科技有限公司 应用于医疗的基于拉普拉斯金字塔变换mri图像融合方法及mri设备
CN111968058A (zh) * 2020-08-25 2020-11-20 北京交通大学 一种低剂量ct图像降噪方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190043226A1 (en) * 2017-08-07 2019-02-07 Shenyang Neusoft Medical Systems Co., Ltd. Reconstructing pet image
CN111598820A (zh) * 2020-05-14 2020-08-28 山东凯鑫宏业生物科技有限公司 应用于医疗的基于拉普拉斯金字塔变换mri图像融合方法及mri设备
CN111968058A (zh) * 2020-08-25 2020-11-20 北京交通大学 一种低剂量ct图像降噪方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
DAMIANOS GALANOPOULOS 等: "Atention Mechanisms, Signal Encodings and Fusion Strategies for Improved Ad-hoc Video Search with Dual Encoding Networks", ICMR, 8 June 2020 (2020-06-08) *
HENGZHI XUE 等: "A 3D attention residual encoder–decoder least-square GAN for low-count PET denoising", ELSEVIER, 8 September 2020 (2020-09-08) *
ZHANLI HU: "DPIR-Net: Direct PET Image Reconstruction Based on the Wasserstein Generative Adversarial Network", IEEE, vol. 5, no. 1, 19 May 2020 (2020-05-19), XP011829131, DOI: 10.1109/TRPMS.2020.2995717 *
宗静静;邱天爽;郭冬梅;: "联合稀疏表示的医学图像融合及同步去噪", 中国生物医学工程学报, no. 02, 20 April 2016 (2016-04-20) *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11540798B2 (en) 2019-08-30 2023-01-03 The Research Foundation For The State University Of New York Dilated convolutional neural network system and method for positron emission tomography (PET) image denoising
WO2023087656A1 (zh) * 2021-11-18 2023-05-25 北京达佳互联信息技术有限公司 图像生成方法及装置
CN115565213A (zh) * 2022-01-28 2023-01-03 荣耀终端有限公司 图像处理方法及装置
CN115565213B (zh) * 2022-01-28 2023-10-27 荣耀终端有限公司 图像处理方法及装置
CN114332287A (zh) * 2022-03-11 2022-04-12 之江实验室 基于transformer特征共享的PET图像重建方法、装置、设备及介质
CN114332287B (zh) * 2022-03-11 2022-07-15 之江实验室 基于transformer特征共享的PET图像重建方法、装置、设备及介质
CN116862789A (zh) * 2023-06-29 2023-10-10 广州沙艾生物科技有限公司 一种pet-mr图像校正方法
CN116862789B (zh) * 2023-06-29 2024-04-23 广州沙艾生物科技有限公司 一种pet-mr图像校正方法
CN116703785A (zh) * 2023-08-04 2023-09-05 普密特(成都)医疗科技有限公司 一种微创手术镜下模糊图像的处理方法
CN116703785B (zh) * 2023-08-04 2023-10-27 普密特(成都)医疗科技有限公司 一种微创手术镜下模糊图像的处理方法

Similar Documents

Publication Publication Date Title
CN112651890A (zh) 基于双编码融合网络模型的pet-mri图像去噪方法、装置
WO2022126588A1 (zh) 基于双编码融合网络模型的pet-mri图像去噪方法、装置
CN110504029B (zh) 一种医学图像处理方法、医学图像识别方法及装置
CN108549863B (zh) 人体姿态预测方法、装置、设备及存储介质
EP3968223A1 (en) Method and apparatus for acquiring positions of target, and computer device and storage medium
US11107212B2 (en) Methods and systems for displaying a region of interest of a medical image
CN110414631B (zh) 基于医学图像的病灶检测方法、模型训练的方法及装置
CN111091576A (zh) 图像分割方法、装置、设备及存储介质
CN113610750B (zh) 对象识别方法、装置、计算机设备及存储介质
CN111540025B (zh) 预测用于图像处理的图像
WO2022126480A1 (zh) 基于Wasserstein生成对抗网络模型的高能图像合成方法、装置
CN111091166B (zh) 图像处理模型训练方法、图像处理方法、设备及存储介质
CN112634390B (zh) 基于Wasserstein生成对抗网络模型的高能图像合成方法、装置
CN113256529B (zh) 图像处理方法、装置、计算机设备及存储介质
CN111462020A (zh) 心脏图像的运动伪影校正方法、系统、存储介质和设备
TW202209254A (zh) 圖像分割方法、電子設備和電腦可讀儲存介質
CN110782502A (zh) 基于深度学习的pet散射估计系统和使用感知神经网络模型的方法
WO2023202285A1 (zh) 图像处理方法、装置、计算机设备及存储介质
CN114820584A (zh) 肺部病灶定位装置
JP2022548453A (ja) 画像分割方法及び装置、電子デバイス並びに記憶媒体
US10675002B2 (en) Method and apparatus to measure tissue displacement and strain
CN113177953B (zh) 肝脏区域分割方法、装置、电子设备及存储介质
CN111798385B (zh) 图像处理方法及装置、计算机可读介质和电子设备
CN117897733A (zh) 医学成像系统和方法
US11508048B2 (en) Method and system for generating composite PET-CT image based on non-attenuation-corrected PET image

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination