CN113570586A - 神经网络系统的创建、处理ct图像的方法及其装置 - Google Patents

神经网络系统的创建、处理ct图像的方法及其装置 Download PDF

Info

Publication number
CN113570586A
CN113570586A CN202110880305.6A CN202110880305A CN113570586A CN 113570586 A CN113570586 A CN 113570586A CN 202110880305 A CN202110880305 A CN 202110880305A CN 113570586 A CN113570586 A CN 113570586A
Authority
CN
China
Prior art keywords
image
projection
domain
metal
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202110880305.6A
Other languages
English (en)
Inventor
吕元媛
傅家俊
彭程
周少华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Industrial Park Zhizai Tianxia Technology Co ltd
Original Assignee
Suzhou Industrial Park Zhizai Tianxia Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Industrial Park Zhizai Tianxia Technology Co ltd filed Critical Suzhou Industrial Park Zhizai Tianxia Technology Co ltd
Priority to CN202110880305.6A priority Critical patent/CN113570586A/zh
Publication of CN113570586A publication Critical patent/CN113570586A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种神经网络系统的创建、处理CT图像的方法及其装置,该创建方法包括:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia‑aS‑aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;基于图像Ia和图像Ic、对所述神经网络系统进行训练;所述神经网络系统能够进行CT图像处理。

Description

神经网络系统的创建、处理CT图像的方法及其装置
技术领域
本发明涉及CT图像处理技术领域,尤其涉及神经网络系统的创建、处理CT图像的方法及其装置。
背景技术
断层成像(Computed Tomography,CT)检查是现代一种较先进的医学影像检查技术,其成像过程如下:X射线球管绕着人体做圆周运动,并且在多个不同角度、该X射线管曝光发出X射线,X射线经过人体组织吸收后衰减,剩余的X射线到达探测器,探测器采集投影数据,探测器利用图像重建算法对该投影数据进行处理、并得到CT图像。
在实际中,人体中有可能存在有高密度的金属物体,此时,该金属物体就有可能出现在CT成像视野范围内,重建图像内就会出现条纹状和带状金属伪影。其成因主要是:X射束硬化,散射效应,光子完全衰减和金属的部分容积效应。,可以理解的是,金属伪影的存在严重干扰了日常诊断和手术规划,尤其是当医生需要观察金属植入物或者介入物周围的组织完整度时。
因此,如何在CT的重建图像中去除金属伪影,就成为一个亟待解决的问题。
发明内容
本发明的目在于提供神经网络系统的创建、处理CT图像的方法及其装置。
为了实现上述发明目的之一,本发明一实施例提供了一种用于CT图像处理的神经网络系统的创建方法,包括以下步骤:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到
Figure BDA0003191969500000021
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure BDA0003191969500000022
使用滤波反投影算子FBP()提取投影域伪影分量:
Figure BDA0003191969500000023
所述图像域子网络ΦI能够提取图像域伪影分量,且用于执行以下操作:aI=ΦI(Ia-aS);基于图像Ia和图像Ic、对所述神经网络系统进行训练。
作为本发明实施方式的进一步改进,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
作为本发明实施方式的进一步改进,所述先验子网络ΦP为采用融合掩膜的U-Net,投影域子网络ΦS的深度为2,图像域子网络ΦI的深度为5。
作为本发明实施方式的进一步改进,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure BDA0003191969500000024
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure BDA0003191969500000025
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
作为本发明实施方式的进一步改进,所述神经网络系统的损失函数包括:循环损失函数
Figure BDA0003191969500000031
伪影一致性损失函数
Figure BDA0003191969500000032
Figure BDA0003191969500000033
对抗损失函数
Figure BDA0003191969500000034
Figure BDA0003191969500000035
保真损失函数
Figure BDA0003191969500000036
以及先验损失函数
Figure BDA0003191969500000037
Figure BDA0003191969500000038
其中Sc=FP(Ic)。
本发明实施例还提供了一种用于CT图像处理的神经网络系统的创建装置,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到
Figure BDA0003191969500000039
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure BDA00031919695000000310
使用滤波反投影算子FBP()提取投影域伪影分量:
Figure BDA00031919695000000311
所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
作为本发明实施方式的进一步改进,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
作为本发明实施方式的进一步改进,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure BDA0003191969500000042
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure BDA0003191969500000041
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
本发明实施例还提供了一种处理CT图像的方法,包括以下步骤:获取包含有金属伪影的图像Ia;执行上述创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
本发明实施例还提供了一种处理CT图像的装置,包括以下模块:第二数据获取模块,用于获取包含有金属伪影的图像Ia;图像处理模块,用于执行上述创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
相对于现有技术,本发明的技术效果在于:本发明实施例提供了一种神经网络系统的创建、处理CT图像的方法及其装置,该创建方法包括:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;基于图像Ia和图像Ic、对所述神经网络系统进行训练;所述神经网络系统能够进行CT图像处理。
附图说明
图1是本发明实施例中的神经网络系统的创建方法的流程示意图;
图2是本发明实施例中的神经网络系统的结构图;
图3是本发明实施例中的神经网络系统的训练原理图;
图4和图5是本发明实施例中的神经网络系统的实验结果图。
具体实施方式
以下将结合附图所示的各实施方式对本发明进行详细描述。但这些实施方式并不限制本发明,本领域的普通技术人员根据这些实施方式所做出的结构、方法、或功能上的变换均包含在本发明的保护范围内。
本文使用的例如“上”、“上方”、“下”、“下方”等表示空间相对位置的术语是出于便于说明的目的来描述如附图中所示的一个单元或特征相对于另一个单元或特征的关系。空间相对位置的术语可以旨在包括设备在使用或工作中除了图中所示方位以外的不同方位。例如,如果将图中的设备翻转,则被描述为位于其他单元或特征“下方”或“之下”的单元将位于其他单元或特征“上方”。因此,示例性术语“下方”可以囊括上方和下方这两种方位。设备可以以其他方式被定向(旋转90度或其他朝向),并相应地解释本文使用的与空间相关的描述语。
并且,应当理解的是尽管术语第一、第二等在本文中可以被用于描述各种元件或结构,但是这些被描述对象不应受到这些术语的限制。这些术语仅用于将这些描述对象彼此区分开。例如,第一数据获取模块可以被称为第二数据获取模块,并且类似地第二数据获取模块也可以被称为第一数据获取模块,这并不背离本申请的保护范围。
本发明实施例一提供了一种用于CT(Computed Tomography,电子计算机断层扫描)成像的神经网络系统的创建方法,如图1所示,包括以下步骤:
步骤101:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI
步骤102:创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到
Figure BDA0003191969500000061
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure BDA0003191969500000062
使用滤波反投影算子FBP()提取投影域伪影分量:
Figure BDA0003191969500000063
所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
这里,正投影数据Sa为受损的投影数据,其中,先验子网络ΦP的详细结构已经由论文《Generative mask pyramid network for ct/cbct metal artifact reduction withjoint projection-sinogram correction》公开,投影域子网络ΦS和图像域子网络ΦI都采用了U-Net结构,已经由论文《U-net:Convolutional networks for biomedical imagesegmentation.》公开。
在该步骤中,使用先验子网络ΦP来引导投影数据的恢复,该先验子网络ΦP是一个图像修补(inpainting)网络,该网络认为受到金属影响的投影数据是缺失的、并试图去补全它,即
Figure BDA0003191969500000071
可以理解的是,在使用时,需要预先对先验子网络ΦP进行训练,可以通过在不包含有金属伪影的投影数据上使用Mt进行遮挡,然后再训练该网络。在发明人的长期实践中,发现这会比较容易。可选的,该ΦP采用融合掩膜(mask)的U-Net作为网络架构。
这里,在该步骤中,使用投影域子网络ΦS来纠正受到金属影响的投影数据,即Mt中的投影数据,并且使用重建后的输入图和重建后的增强的投影数据之间的差异图像作为投影域的伪影分量,可以理解的是,这能够避免连续的离散数值操作(正投影和滤波反投影)带来的信息丢失。
这里,在该步骤中,投影域数据的不一致会在整幅图像中带来条纹状金属伪影,因此,使用图像域子网络ΦI来抑制残留的和新产生的条纹状伪影,其操作如下所示:首先,通过在含有金属伪影的图像上减去投影域子网络ΦS提取出的投影域伪影分量,得到经过投影域增强的图像,
Figure BDA0003191969500000072
然后,图像域子网络ΦI
Figure BDA0003191969500000073
或者
Figure BDA0003191969500000074
为输入,输出图像域的伪影分量aI,a I
Figure BDA0003191969500000075
可选的,图像域子网络ΦI的网络结构是一个深度为5的U-Net。
步骤103:基于图像Ia和图像Ic、对所述神经网络系统进行训练。
本实施例中,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
本实施例中,所述先验子网络ΦP为采用融合掩膜的U-Net,投影域子网络ΦS的深度为2,图像域子网络ΦI的深度为5。
本实施例中,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure BDA0003191969500000081
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure BDA0003191969500000082
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
这里,首先给出证明,即在特定条件下,金属伪影是可加的。可以理解的是,CT图像的像素值描述了被成像物体的衰减系数。让Xc(E)表示不含金属的CT图像在能量E下的衰减系数图。在一个多能的X光成像系统中,理想的干净投影数据可以表示为
Figure BDA0003191969500000083
其中,FP()为正投影算子,η(E)代表E能级下的能量分数。相对于金属,人体内正常组织(例如,空气、软组织和骨头等)的衰减系数相对于能量E几乎是不变的,因此,Xc=Xc(E)和
Figure BDA0003191969500000084
在不存在金属物体的情况下,滤波反投影(Filtered Back Projection,FBP)能够准确地从Sc中重建图像Ic,即
Figure BDA0003191969500000085
其中,FBP()代表滤波反投影算子。
金属伪影的成因主要是由于射束硬化,一个含有金属的衰减系数图像Xa(E)可以分解为一个相对于能量E不变的不含金属的常数图像Xac和一个随着能量E快速变化的金属图像Xm(E),Xa(E)=Xac+Xm(E)。Xm(E)通常局限在部分区域,即,图像上大部分像素值为0。采集到的含有金属伪影的投影数据Sa可以写成
Figure BDA0003191969500000086
同时,重建的含有金属伪影的图像Ia可以表示为
Figure BDA0003191969500000087
Figure BDA0003191969500000091
其中,FBP(FP(Xac))是消除金属伪影的重建图像Iac,而
Figure BDA0003191969500000092
在重建图像中引入了放射状或者带状的金属伪影,可以表示为金属图像Xm(E)的一个函数。因此,金属伪影仅与Xm(E)有关,因此,可以在任意一个不包含有金属伪影的CT图像上叠加分离出的金属伪影分量来制造一张含有同样金属伪影的图像Ica,即,Ica=Ic+F(Xm(E))。
这里,图3中展示了该神经网络系统的训练流程图。在阶段Ⅰ中,神经网络系统输入带有金属伪影的CT图像Ia,顺序地从投影域和图像域分别提取出金属伪影分量aS和aI。在阶段Ⅱ中,基于金属伪影的可加性原理,可以基于任意一张不配对的干净CT图像Ic,生成看起来带有金属伪影的伪CT图像Ica,即Ica=Ic+aS+aI。同时,将金属伪影分量从原图Ia上减去,得到消除金属伪影的图像Iac,即Iac=Ia-aS-aI。随后,使用神经网络系统从Ica上再次分离金属伪影分量,分别得到投影域和图像域的伪影分量a′S和a′I。最后,将阶段Ⅱ中生成的图像Iac和Ica,与二次提取的伪影分量a′S和a′I相加或者相减,得到原图的重建图像Iaca和Icac,即,Iaca=Iac+a′S+a′I,Iczc=Icz-a′S-a′I
本实施例中,所述神经网络系统的损失函数包括:
循环损失函数
Figure BDA0003191969500000093
通过循环的伪影消除和生成过程,输入神经网络系统的原始图像应该与阶段Ⅱ中重建的图像一致,使用
Figure BDA0003191969500000094
损失来缩小图片之间的距离。
伪影一致性损失函数
Figure BDA0003191969500000095
为了确保加在Ic之上的伪影可以被同一个神经网络系统去除,神经网络系统从Ia和Izc中提取的伪影分量应该尽可能地一致。
对抗损失函数
Figure BDA0003191969500000096
Figure BDA0003191969500000097
这里,通过伪影相加得到生成图像Ica,通过伪影相减得到生成图像Iac,生成图像Ica应该与输入的原图Ia不可区分,生成图像Iac应该与输入的原图Ic不可区分。因为配对的标签是不存在的,使用判别器Da和Dc来施加对抗学习,含有金属伪影的图片中通常包含条纹状伪影,因此将图片的梯度图作为第二个通道的数据输入Da和Dc,梯度图像使用Sobel算子
Figure BDA0003191969500000101
计算得到。
保真损失函数
Figure BDA0003191969500000102
这里,为了从生成的伪影CT图Ica学习消除伪影,最小化投影数据
Figure BDA0003191969500000103
和Sc,图像
Figure BDA0003191969500000104
和Ic之间的距离。
先验损失函数
Figure BDA0003191969500000105
投影数据修补网络ΦP能够对Mt内的数据提供一个准确的平滑估计,因此,使用一个参数为σS的高斯平滑操作
Figure BDA0003191969500000106
Figure BDA0003191969500000107
Figure BDA0003191969500000108
进行模糊,并使用L2损失来最小化他们之间的距离;同时,模糊的投影域增强后的图片能够给模糊的伪影消除图片提供一个良好的估计;使用一个参数为σI的高斯平滑操作
Figure BDA0003191969500000109
Figure BDA00031919695000001010
和Iac进行模糊,最小化他们之间的距离来稳定无监督的学习。
这里,在训练该神经网络系统时,需要提供足够数量的图像Ia和图像Ic,在实际训练时,发明人使用了Adam优化器来训练该神经网络系统,共迭代100000次,学习率设为1e-4,batch size设为2。
Figure BDA00031919695000001011
的权重设为1,
Figure BDA00031919695000001012
Figure BDA00031919695000001013
的权重设为10,
Figure BDA00031919695000001014
Figure BDA00031919695000001015
的权重设为100。σS设为1,σI设为3。
发明人基于仿真数据定量地测试了伪影处理方法的性能。在实验中,基于不含伪影的CT图像,生成了358560张含有金属伪影的图片Ia、以及原来的不含有金属伪影的图片Ic,将Ia和Ic用于训练该神经网络系统,另外生成2000张有伪影图片用于测试神经网络系统的性能。并且,在实验中,发明人对比了DuDoNet,DuDoNet++,DSCIP,DAN-Net,RCN和AND等方法。使用峰值信噪比(peak to noise retio,PSNR)和结构相似度(structural similarityindex,SSIM)指标衡量消除伪影的效果。越高的PSNR和越高的SSIM代表了更好的图像质量。
结果如下表所示,本发明实施例中的神经网络系统在无监督的方法中取得了最好的效果(34.54/0.934),对比目前最好的无监督算法,该神经网络系统将PSNR提高了0.73dB。图4展示了不同算法在仿真数据上消除金属伪影的效果图,其中,放大的细节图中展示了,两侧金属物体在金属中间引入了黑色的带状金属伪影,在全图引入了剧烈的条纹状伪影。可以看出,基于监督学习的算法均能有效的恢复黑色带状伪影内的组织细节,有效地减弱条纹状伪影。而在无监督学习的算法中,只有本发明提出的神经网络系统能够恢复出黑色带状伪影内的细节,并且去除了最多的条纹状伪影。
Figure BDA0003191969500000111
为了在真实数据下测试图像处理算法的性能,发明人选取了脊椎CT中6146张含金属伪影和21002张不含金属伪影的图片训练网络。锥体融合术需要在锥体内植入螺钉来固定脊椎,金属螺钉在CT图像中引入了金属伪影。对于监督学习的算法,发明人直接使用仿真数据上训练的模型进行测试。图5展示了真实数据上的消除伪影的效果图。原图上一共包含四个金属物体,这些金属物体在相互之间的连线上产生了黑色带状/放射状的金属伪影。监督学习的方法(DuDoNet,DuDoNet++,DSCIP,DAN-Net)均不能保持原始图像的特性,都输出了过于平滑的图像,同时,这些算法虽然能够部分消除黑色带状伪影,但是都不同程度地引入了条纹状的二次伪影。监督算法的效果差与模型过拟合到仿真数据上有关。另一方面,非监督的算法(ADN和RCN,其中,AND的全拼为:Artifact Disentanglement Network,RCN的全拼为:Reused convolutional network)均不能完全消除伪影。本发明中的神经网络系统能够在保持原图特性的情况下最大程度地消除金属伪影。
图5展示了用来输入网络的不配对的有金属伪影的CT图片Ia和无金属伪影的图片Ic,以及去除伪影方法的中间结果图。Ia内包含两个螺钉,螺钉之间形成了剧烈的带状伪影,从Ia对应的投影数据Sa来看,可以看到有两条值很大的带状异常值。在阶段Ⅰ,Ia通过该神经网络系统得到投影域的金属伪影分量aS和图像域的伪影分量aI。对比Sa,P-Net输出的
Figure BDA0003191969500000121
已不包含异常值,同样地,S-Net输出的
Figure BDA0003191969500000122
也不存在异常值,提取出的aS主要包含了剧烈的带状金属伪影,因此,去除了投影域伪影分量的
Figure BDA0003191969500000123
中的带状金属伪影已经被消除,但是投影域的处理引入了一些新的伪影。进一步地,I-Net提取的伪影分量aI中主要包括条纹状的伪影,用来补偿aS中引入的新伪影和提取残留的伪影。在阶段Ⅱ,Ia与伪影分量aS和aI相减得到的Iac是该神经网络系统输出的结果,Iac内的金属伪影被完全消除并且图像中不存在S-Net引入的新伪影。Ic与伪影分量相加生成有伪影的伪图片Ica。Ica上的伪影看起来与Ia类似。使用该神经网络系统再次消除Ica的伪影,提取出伪影分量a′S和a′I。从结果上来看,a′S与aS类似,a′I与aI类似,重建的图像Iaca和Icac也与原图类似。网络的中间结果图说明了该神经网络系统的有效性。
本发明实施例二提供了一种用于CT图像处理的神经网络系统的创建装置,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到
Figure BDA0003191969500000124
Figure BDA0003191969500000131
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure BDA0003191969500000132
Figure BDA0003191969500000133
使用滤波反投影算子FBP提取投影域伪影分量:
Figure BDA0003191969500000134
所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
本实施例中,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
本实施例中,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure BDA0003191969500000135
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure BDA0003191969500000136
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
本实施例三提供了一种处理CT图像的方法,包括以下步骤:
获取包含有金属伪影的图像Ia
执行实施例一中的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
本实施例三提供了一种生成CT图像的装置,包括以下模块:
第二数据获取模块,用于获取包含有金属伪影的图像Ia
图像生成模块,用于执行实施例一中的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施方式中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施方式的具体说明,它们并非用以限制本发明的保护范围,凡未脱离本发明技艺精神所作的等效实施方式或变更均应包含在本发明的保护范围之内。

Claims (10)

1.一种用于CT图像处理的神经网络系统的创建方法,其特征在于,包括以下步骤:
获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI
创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络Φp、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络Φp用于对正投影数据Sa进行修复处理、并得到
Figure FDA0003191969490000011
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure FDA0003191969490000012
Figure FDA0003191969490000013
使用滤波反投影算子FBP()提取投影域伪影分量:
Figure FDA0003191969490000014
所述图像域子网络ΦI能够提取图像域伪影分量,且用于执行以下操作:aI=ΦI(Ia-aS);
基于图像Ia和图像Ic、对所述神经网络系统进行训练。
2.根据权利要求1所述的创建方法,其特征在于:
所述先验子网络Φp、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
3.根据权利要求2所述的创建方法,其特征在于:
所述先验子网络Φp为采用融合掩膜的U-Net,投影域子网络ΦΦS的深度为2,图像域子网络ΦI的深度为5。
4.根据权利要求1所述的创建方法,其特征在于,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure FDA0003191969490000021
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure FDA0003191969490000022
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
5.根据权利要求4所述的创建方法,其特征在于,所述神经网络系统的损失函数包括:
循环损失函数
Figure FDA0003191969490000023
伪影一致性损失函数
Figure FDA0003191969490000024
对抗损失函数
Figure FDA0003191969490000025
Figure FDA0003191969490000026
保真损失函数
Figure FDA0003191969490000027
以及先验损失函数
Figure FDA0003191969490000028
其中Sc=FP(Ic)。
6.一种用于CT图像处理的神经网络系统的创建装置,其特征在于,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到
Figure FDA0003191969490000031
其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到
Figure FDA0003191969490000032
使用滤波反投影算子FBP()提取投影域伪影分量:
Figure FDA0003191969490000033
所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
7.根据权利要求6所述的创建装置,其特征在于:
所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
8.根据权利要求6所述的创建装置,其特征在于,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到
Figure FDA0003191969490000034
使用滤波反投影算子FBP()提取投影域伪影分量a′S
Figure FDA0003191969490000035
利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-aS),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
9.一种处理CT图像的方法,其特征在于,包括以下步骤:
获取包含有金属伪影的图像Ia
执行权利要求1-5任一项的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
10.一种处理CT图像的装置,其特征在于,包括以下模块:
第二数据获取模块,用于获取包含有金属伪影的图像Ia
图像处理模块,用于执行权利要求1-5任一项的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI
CN202110880305.6A 2021-08-02 2021-08-02 神经网络系统的创建、处理ct图像的方法及其装置 Withdrawn CN113570586A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110880305.6A CN113570586A (zh) 2021-08-02 2021-08-02 神经网络系统的创建、处理ct图像的方法及其装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110880305.6A CN113570586A (zh) 2021-08-02 2021-08-02 神经网络系统的创建、处理ct图像的方法及其装置

Publications (1)

Publication Number Publication Date
CN113570586A true CN113570586A (zh) 2021-10-29

Family

ID=78169907

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110880305.6A Withdrawn CN113570586A (zh) 2021-08-02 2021-08-02 神经网络系统的创建、处理ct图像的方法及其装置

Country Status (1)

Country Link
CN (1) CN113570586A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114219820A (zh) * 2021-12-08 2022-03-22 苏州工业园区智在天下科技有限公司 神经网络的生成方法、去噪方法及其装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112085809A (zh) * 2020-09-16 2020-12-15 苏州工业园区智在天下科技有限公司 神经网络的训练方法、消除金属伪影的方法及其装置
CN112508808A (zh) * 2020-11-26 2021-03-16 中国人民解放军战略支援部队信息工程大学 基于生成对抗网络的ct双域联合金属伪影校正方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112085809A (zh) * 2020-09-16 2020-12-15 苏州工业园区智在天下科技有限公司 神经网络的训练方法、消除金属伪影的方法及其装置
CN112508808A (zh) * 2020-11-26 2021-03-16 中国人民解放军战略支援部队信息工程大学 基于生成对抗网络的ct双域联合金属伪影校正方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
YUANYUAN LYU ET AL.: "U-DuDoNet: Unpaired dual-domain network for CT metal artifact reduction", 《ARXIV.ORG》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114219820A (zh) * 2021-12-08 2022-03-22 苏州工业园区智在天下科技有限公司 神经网络的生成方法、去噪方法及其装置

Similar Documents

Publication Publication Date Title
US11727569B2 (en) Training a CNN with pseudo ground truth for CT artifact reduction
Zhang et al. Convolutional neural network based metal artifact reduction in X-ray computed tomography
CN106683144B (zh) 一种图像迭代重建方法及装置
US11839501B2 (en) Image creation device
Wang et al. Metal artifact reduction in CT using fusion based prior image
Lyu et al. Encoding metal mask projection for metal artifact reduction in computed tomography
CN112822982B (zh) 图像制作装置、图像制作方法以及学习完毕模型的制作方法
KR101018051B1 (ko) 엑스선 촬영 영상에서 메탈 아티팩트를 감소시키는 방법
Chak et al. Subsampled turbulence removal network
CN107106102B (zh) 数字减影血管造影
CN112017131B (zh) Ct图像金属伪影去除方法、装置及计算机可读存储介质
KR100923098B1 (ko) 엑스 레이 씨티 촬영 영상의 메탈 아티팩트를 제거하는방법
JP6071444B2 (ja) 画像処理装置及びその作動方法、プログラム
Stille et al. Augmented likelihood image reconstruction
Sahu et al. Using virtual digital breast tomosynthesis for de-noising of low-dose projection images
CN115131452A (zh) 用于伪影去除的图像处理方法及装置
CN113706409A (zh) 基于人工智能的cbct图像增强方法、装置和存储介质
CN113570586A (zh) 神经网络系统的创建、处理ct图像的方法及其装置
CN110599530A (zh) 基于双正则约束的mvct图像纹理增强方法
Stayman et al. Overcoming nonlinear partial volume effects in known-component reconstruction of cochlear implants
CN117197270A (zh) 非线性投影分解的金属伪影校正方法、装置及成像设备
CN112330565A (zh) 基于改善的U-net的低剂量CT投影域中图像去噪方法
Li et al. A prior-based metal artifact reduction algorithm for x-ray CT
Gottschalk et al. Deep learning based metal inpainting in the projection domain: Initial results
Zhu et al. CT metal artifact correction assisted by the deep learning-based metal segmentation on the projection domain

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication
WW01 Invention patent application withdrawn after publication

Application publication date: 20211029