CN113256529B - 图像处理方法、装置、计算机设备及存储介质 - Google Patents
图像处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN113256529B CN113256529B CN202110643333.6A CN202110643333A CN113256529B CN 113256529 B CN113256529 B CN 113256529B CN 202110643333 A CN202110643333 A CN 202110643333A CN 113256529 B CN113256529 B CN 113256529B
- Authority
- CN
- China
- Prior art keywords
- image
- information
- artifact
- target
- metal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 238000012545 processing Methods 0.000 title claims description 232
- 229910052751 metal Inorganic materials 0.000 claims abstract description 249
- 239000002184 metal Substances 0.000 claims abstract description 249
- 238000000034 method Methods 0.000 claims abstract description 140
- 230000008859 change Effects 0.000 claims abstract description 6
- 230000008569 process Effects 0.000 claims description 63
- 238000004590 computer program Methods 0.000 claims description 30
- 238000000605 extraction Methods 0.000 claims description 27
- 238000012549 training Methods 0.000 claims description 24
- 230000015654 memory Effects 0.000 claims description 17
- 230000000694 effects Effects 0.000 abstract description 11
- 229910052755 nonmetal Inorganic materials 0.000 description 37
- 238000002591 computed tomography Methods 0.000 description 28
- 238000010586 diagram Methods 0.000 description 21
- 238000005516 engineering process Methods 0.000 description 18
- 210000000988 bone and bone Anatomy 0.000 description 15
- 238000013473 artificial intelligence Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 13
- 230000011218 segmentation Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 230000002093 peripheral effect Effects 0.000 description 10
- 239000000126 substance Substances 0.000 description 10
- 238000013135 deep learning Methods 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 7
- 241000282414 Homo sapiens Species 0.000 description 5
- 238000012804 iterative process Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 239000007943 implant Substances 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 150000002739 metals Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 239000003826 tablet Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本申请实施例公开了一种图像处理方法、装置、计算机设备及存储介质,属于计算机技术领域。该方法包括:根据医学图像中的金属伪影的位置信息,对医学图像进行伪影去除,得到目标图像,位置信息是表示金属伪影在医学图像中的位置的信息;通过将医学图像与目标图像进行对比,确定位置梯度信息,位置梯度信息用于指示位置信息的变化幅度;根据位置梯度信息对位置信息进行调整,得到调整后的位置信息;根据调整后的位置信息继续对医学图像进行伪影去除,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。根据金属伪影的特征来进行多次伪影去除,准确性更高,有利于提高去除金属伪影的效果。
Description
技术领域
本申请实施例涉及计算机技术领域,特别涉及一种图像处理方法、装置、计算机设备及存储介质。
背景技术
随着计算机技术和图像处理技术的发展,多个领域均可对图像进行处理,以提高图像质量。例如在医疗领域中,对某一对象进行扫描得到该对象的CT(ComputedTomography,电子计算机断层扫描)图像,如果被扫描的对象携带金属,则该对象的CT图像中会出现金属伪影,影响CT图像的质量。此种情况下,可以利用深度学习网络去除CT图像中的金属伪影,但是目前的深度学习网络去除金属伪影的效果不够好。
发明内容
本申请实施例提供了一种图像处理方法、装置、计算机设备及存储介质,能够提高去除金属伪影的效果。所述技术方案如下。
一方面,提供了一种图像处理方法,所述方法包括:
根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,所述位置信息是表示所述金属伪影在所述医学图像中的位置的信息;
通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,所述位置梯度信息用于指示所述位置信息的变化幅度;
根据所述位置梯度信息对所述位置信息进行调整,得到调整后的位置信息;
根据所述调整后的位置信息继续对所述医学图像进行伪影去除,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为所述医学图像去除所述金属伪影后的图像。
可选地,所述根据所述伪影差异信息和所述形状信息,确定所述位置梯度信息,包括:
确定所述医学图像中的非金属区域,所述非金属区域是指所述医学图像中不包括金属的区域;
在所述伪影差异信息中,确定位于所述非金属区域的伪影差异信息;
根据所述形状信息和位于所述非金属区域的伪影差异信息,确定所述位置梯度信息。
可选地,所述根据所述调整后的位置信息继续对所述医学图像进行伪影去除,包括:
根据所述调整后的位置信息和所述金属伪影的形状信息,构建调整后的第一伪影信息;
将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
对所述第一参考图像和所述目标图像进行加权,得到调整后的目标图像。
可选地,所述对所述第一参考图像和所述目标图像进行加权,得到调整后的目标图像之后,所述方法还包括:
按照图像特征,对所述调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使所述再次调整后的目标图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征。
可选地,所述第二图像处理网络包括位置提取层,所述基于所述第二图像处理网络,根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到调整后的目标图像之前,所述方法还包括:
基于所述位置提取层,按照位置特征,对所述调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使所述再次调整后的位置信息满足所述位置特征,所述位置特征表示所述金属伪影的位置信息满足的特征。
可选地,所述基于所述图像重构层,对所述第一参考图像和所述目标图像进行加权,得到所述调整后的目标图像之后,所述方法还包括:
基于所述图像重构层,按照图像特征,对所述调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使所述再次调整后的目标图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征。
另一方面,提供了一种图像处理装置,所述装置包括:
伪影去除模块,用于根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,所述位置信息是表示所述金属伪影在所述医学图像中的位置的信息;
梯度确定模块,用于通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,所述位置梯度信息用于指示所述位置信息的变化幅度;
第一位置调整模块,用于根据所述位置梯度信息对所述位置信息进行调整,得到调整后的位置信息;
所述伪影去除模块,还用于根据所述调整后的位置信息继续对所述医学图像进行伪影去除,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为所述医学图像去除所述金属伪影后的图像。
可选地,所述伪影去除模块,包括:
伪影构建单元,用于根据所述位置信息和所述金属伪影的形状信息,构建第一伪影信息,所述形状信息是表示所述金属伪影的形状的信息;
伪影去除单元,用于根据所述第一伪影信息,对所述医学图像进行伪影去除,得到所述目标图像。
可选地,所述梯度确定模块,包括:
伪影确定单元,用于将所述医学图像和所述目标图像之间的差异信息,确定为第二伪影信息;
梯度确定单元,用于根据所述第一伪影信息和所述第二伪影信息,确定所述位置梯度信息。
可选地,所述梯度确定单元,用于:
将所述第一伪影信息和所述第二伪影信息之间的差异信息,确定为伪影差异信息;
根据所述伪影差异信息和所述形状信息,确定所述位置梯度信息。
可选地,所述梯度确定单元,用于:
确定所述医学图像中的非金属区域,所述非金属区域是指所述医学图像中不包括金属的区域;
在所述伪影差异信息中,确定位于所述非金属区域的伪影差异信息;
根据所述形状信息和位于所述非金属区域的伪影差异信息,确定所述位置梯度信息。
可选地,所述装置还包括:
第二位置调整模块,用于按照位置特征,对所述调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使所述再次调整后的位置信息满足所述位置特征,所述位置特征表示所述金属伪影的位置信息满足的特征。
可选地,所述伪影去除模块,包括:
伪影构建单元,用于根据所述调整后的位置信息和所述金属伪影的形状信息,构建调整后的第一伪影信息;
参考图像确定单元,用于将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
图像加权单元,用于对所述第一参考图像和所述目标图像进行加权,得到调整后的目标图像。
可选地,所述装置还包括:
图像调整模块,用于按照图像特征,对所述调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使所述再次调整后的目标图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征。
可选地,所述伪影去除单元,用于:
将所述医学图像与所述第一伪影信息之间的差异信息,确定为第二参考图像;
对所述第二参考图像和已存储的第三参考图像进行加权,得到第四参考图像,所述第三参考图像与所述目标图像是对所述医学图像采用不同的方式进行伪影去除得到的;
将所述第四参考图像与所述医学图像对应的多通道图像进行合并,得到第一合并图像;
按照图像特征,对所述第一合并图像进行调整,得到第一通道图像,以使所述第一通道图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征;
将所述第一通道图像中的第一个通道图像确定为所述目标图像。
可选地,所述伪影去除模块,包括:
伪影构建单元,用于根据所述调整后的位置信息和所述形状信息,构建调整后的第一伪影信息;
参考图像确定单元,用于将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像,对所述第一参考图像和所述目标图像进行加权,得到第五参考图像;
通道合并单元,用于将所述第五参考图像与所述第一通道图像中除了所述第一个通道图像之外的其他通道图像进行合并,得到第二合并图像;
图像调整单元,用于按照所述图像特征,对所述第二合并图像进行调整,得到第二通道图像,以使所述第二通道图像满足所述图像特征;
图像确定单元,用于将所述第二通道图像中的第一个通道图像,确定为调整后的目标图像。
可选地,所述装置所执行的步骤基于图像处理模型执行,所述图像处理模型包括所述目标数量个图像处理网络;
所述伪影去除模块,包括:
目标图像获取单元,用于基于所述图像处理模型中的第一图像处理网络,根据所述医学图像中的金属伪影的所述位置信息,对所述医学图像进行伪影去除,得到所述目标图像;
所述梯度确定模块,包括:
梯度获取单元,用于基于所述图像处理模型中的第二图像处理网络,通过将所述医学图像与所述目标图像进行对比,确定所述位置梯度信息;
所述伪影去除模块,包括:
所述目标图像获取单元,还用于基于所述第二图像处理网络,根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到调整后的目标图像。
可选地,所述目标图像获取单元,用于:
基于所述第一图像处理网络,根据所述位置信息和所述金属伪影的形状信息,构建第一伪影信息,所述形状信息是表示所述金属伪影的形状的信息;
基于所述第一图像处理网络,根据所述第一伪影信息,对所述医学图像进行伪影去除,得到所述目标图像。
可选地,所述第二图像处理网络包括位置提取层,所述梯度获取单元,用于:
基于所述位置提取层,将所述医学图像和所述目标图像之间的差异信息,确定为第二伪影信息;
基于所述位置提取层,根据所述第一伪影信息和所述第二伪影信息,确定所述位置梯度信息。
可选地,所述第二图像处理网络包括位置提取层,所述装置还包括:
第二位置调整模块,用于基于所述位置提取层,按照位置特征,对所述调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使所述再次调整后的位置信息满足所述位置特征,所述位置特征表示所述金属伪影的位置信息满足的特征。
可选地,所述第二图像处理网络包括图像重构层;所述目标图像获取单元,用于:
基于所述图像重构层,根据所述调整后的位置信息和所述金属伪影的形状信息,构建调整后的第一伪影信息;
基于所述图像重构层,将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
基于所述图像重构层,对所述第一参考图像和所述目标图像进行加权,得到所述调整后的目标图像。
可选地,所述装置还包括:
图像调整模块,用于基于所述图像重构层,按照图像特征,对所述调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使所述再次调整后的目标图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征。
可选地,所述装置还包括:
样本获取模块,用于获取样本医学图像以及对应的样本目标图像,所述样本医学图像中包括样本金属伪影,所述样本目标图像为所述样本医学图像去除所述样本金属伪影后的图像;
所述伪影去除模块,用于基于所述图像处理模型,对所述样本医学图像进行伪影去除,得到所述目标数量个预测目标图像;
训练模块,用于根据所述目标数量个预测目标图像分别与所述样本目标图像之间的误差信息,训练所述图像处理模型。
另一方面,提供了一种计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行以实现如上述方面所述的图像处理方法中所执行的操作。
另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行以实现如上述方面所述的图像处理方法中所执行的操作。
另一方面,提供了一种计算机程序产品或计算机程序,所述计算机程序产品或计算机程序包括计算机程序代码,所述计算机程序代码存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取所述计算机程序代码,处理器执行所述计算机程序代码,使得所述计算机设备实现如上述方面所述的图像处理方法中所执行的操作。
本申请实施例提供的方法、装置、计算机设备及存储介质,根据金属伪影的位置信息进行伪影去除,得到目标图像,然后通过将医学图像与目标图像进行对比来确定位置梯度信息,根据本次确定的位置梯度信息来对位置信息进行调整,以使位置信息更加准确,以便根据更加准确的位置信息进行伪影去除,因此本申请实施例能够将本次的伪影去除结果应用于下一次伪影去除过程,来指导下一次伪影去除过程中对位置信息的调整,使得伪影去除的准确性越来越高,有利于提高去除金属伪影的效果。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请实施例的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的示意图;
图2是本申请实施例提供的一种图像处理方法的流程图;
图3是本申请实施例提供的一种图像处理方法的流程图;
图4是本申请实施例提供的一种医学图像和目标图像的示意图;
图5是本申请实施例提供的一种图像处理方法的流程图;
图6是本申请实施例提供的一种医学图像的示意图;
图7是本申请实施例提供的一种图像处理网络的示意图;
图8是本申请实施例提供的一种图像处理网络的示意图;
图9是本申请实施例提供的一种残差网络的示意图;
图10是本申请实施例提供的一种图像处理方法的流程图;
图11是本申请实施例提供的一种模型训练方法的流程图;
图12是本申请实施例提供的一种图像处理方法的流程图;
图13是本申请实施例提供的一种目标图像以及伪影信息的示意图;
图14是本申请实施例提供的一种伪影信息的示意图;
图15是本申请实施例提供的一种去除金属伪影的结果示意图;
图16是本申请实施例提供的另一种去除金属伪影的结果示意图;
图17是本申请实施例提供的另一种去除金属伪影的结果示意图;
图18是本申请实施例提供的一种图像处理装置的结构示意图;
图19是本申请实施例提供的另一种图像处理装置的结构示意图;
图20是本申请实施例提供的一种终端的结构示意图;
图21是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种概念,但除非特别说明,这些概念不受这些术语限制。这些术语仅用于将一个概念与另一个概念区分。举例来说,在不脱离本申请的范围的情况下,可以将第一参考图像称为第二参考图像,且类似地,可将第二参考图像称为第一参考图像。
其中,至少一个是指一个或者一个以上,例如,至少一个位置信息可以是一个位置信息、两个位置信息、三个位置信息等任一大于等于一的整数个位置信息。多个是指两个或者两个以上,例如,多个位置信息可以是两个位置信息、三个位置信息等任一大于等于二的整数个位置信息。每个是指至少一个中的每一个,例如,每个位置信息是指多个位置信息中的每一个位置信息,若多个位置信息为3个位置信息,则每个位置信息是指3个位置信息中的每一个位置信息。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术包括自然语言处理技术和机器学习。
机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
计算机视觉技术(Computer Vision,CV)计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术包括图像处理、图像识别、图像语义理解、图像检索、OCR(Optical Character Recognition,光学字符识别)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D(3-Dimension,三维)技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
本申请实施例提供的方案,根据人工智能中的计算机视觉技术以及机器学习等技术,能够对包括金属伪影的医学图像进行处理,得到去除金属伪影之后的目标图像。
本申请实施例提供的图像处理方法,能够用于计算机设备中。可选地,该计算机设备为终端或服务器。可选地,该服务器是独立的物理服务器,或者,是多个物理服务器构成的服务器集群或者分布式系统,或者,是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。可选地,该终端是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。
在一种可能实现方式中,本申请实施例所涉及的计算机程序可被部署在一个计算机设备上执行,或者在位于一个地点的多个计算机设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算机设备上执行,分布在多个地点且通过通信网络互连的多个计算机设备能够组成区块链系统。
在一种可能实现方式中,本申请实施例中用于训练图像处理模型的计算机设备是区块链系统中的节点,该节点能够将训练的图像处理模型存储在区块链中,之后该节点或者该区块链中的其他设备对应的节点可基于该图像处理模型,去除图像中的金属伪影。
图1是本申请实施例提供的一种实施环境的示意图。该实施环境包括多个终端101(图1中以3个终端101为例)和服务器102。终端101和服务器102之间通过无线或有线网络连接。终端101上安装由服务器102提供服务的目标应用,终端101能够通过目标应用实现例如数据传输、图像处理等功能。例如,目标应用为图像处理应用,该图像处理应用能够去除CT图像中的金属伪影。
其中,服务器101训练图像处理模型,该图像处理模型用于去除图像中的金属伪影,服务器101将训练好的图像处理模型发送给终端101,终端101存储接收到的图像处理模型,后续能够基于该图像处理模型,对包括金属伪影的任一图像进行处理,得到去除金属伪影后的图像。
本申请实施例提供的图像处理方法,能够应用于多种场景。
例如,在医学领域中,对患者进行扫描能够得到患者的CT图像,医生根据患者的CT图像以及患者的其他相关信息,能够确定患者的状态。但是如果在对患者进行扫描时患者的身体有金属植入物,则CT图像中会出现金属伪影,这些金属伪影不仅会降低CT图像的质量,而且还会对医生的诊断过程产生不利影响。因此,可以采用本申请实施例提供的图像处理方法,去除CT图像中的金属伪影,提高CT图像的质量,从而在医生进行临床诊断过程中提供准确的辅助性信息。
图2是本申请实施例提供的一种图像处理方法的流程图。本申请实施例的执行主体为计算机设备,参见图2,该方法包括以下步骤。
201、计算机设备根据医学图像中的金属伪影的位置信息,对医学图像进行伪影去除,得到目标图像。
医学图像中包括金属伪影,该金属伪影是指生成该医学图像的过程中金属所造成的噪声信息。该医学图像中包括该金属伪影以及导致出现该金属伪影的金属。例如,医学图像是通过电子计算机断层扫描目标对象所得到的CT图像,该CT图像中的金属伪影是由于目标对象体内或体表的金属导致局部磁场的不均匀,导致在金属周围所产生的噪声。
本申请实施例中,为了将医学图像中的金属伪影去除,计算机设备先确定该医学图像中的金属伪影的位置信息,并根据该位置信息对医学图像进行伪影去除,得到目标图像。其中,该位置信息是表示该金属伪影在医学图像中的位置的信息。需要说明的是,不同的医学图像中的金属伪影的位置信息也不同,该位置信息与医学图像中的金属的位置、金属的尺寸等因素有关。
202、计算机设备通过将医学图像与目标图像进行对比,确定位置梯度信息。
医学图像是进行伪影去除之前的图像,目标图像是进行伪影去除之后的图像,计算机设备通过将该医学图像与目标图像进行对比,确定位置梯度信息,该位置梯度信息用于指示位置信息的变化幅度。
203、计算机设备根据位置梯度信息对位置信息进行调整,得到调整后的位置信息。
由于位置梯度信息能够指示位置信息的变化幅度,则计算机设备根据该位置梯度信息对位置信息进行调整,得到调整后的位置信息,该调整后的位置信息比调整前的位置信息更准确。
204、计算机设备根据调整后的位置信息继续对医学图像进行伪影去除,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。
由于调整后的位置信息比调整前的位置信息更准确,因此根据调整后的位置信息进行伪影去除的结果也会更加准确,则计算机设备根据调整后的位置信息继续对医学图像进行伪影去除,得到调整后的目标图像,并继续对位置信息进行调整,以便继续根据调整后的位置信息进行伪影去除,直至得到目标数量个目标图像,则将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像,完成对该医学图像的伪影去除。
本申请实施例提供的方法,根据金属伪影的位置信息进行伪影去除,得到目标图像,然后通过将医学图像与目标图像进行对比来确定位置梯度信息,根据本次确定的位置梯度信息来对位置信息进行调整,以使位置信息更加准确,以便根据更加准确的位置信息进行伪影去除,因此本申请实施例能够将本次的伪影去除结果应用于下一次伪影去除过程,来指导下一次伪影去除过程中对位置信息的调整,使得伪影去除的准确性越来越高,有利于提高去除金属伪影的效果。
图3是本申请实施例提供的一种图像处理方法的流程图。本申请实施例的执行主体为计算机设备,参见图3,该方法包括以下步骤。
301、计算机设备确定医学图像中的金属伪影的位置信息。
计算机设备获取医学图像,该医学图像中包括金属伪影,该金属伪影是医学图像中的金属所导致的。本申请实施例中,为了将医学图像中的金属伪影去除,计算机设备先确定该医学图像中的金属伪影的位置信息。
位置信息是表示该金属伪影在该医学图像中的位置的信息,该金属伪影在该医学图像中的位置是指金属伪影的重复结构在医学图像中出现的位置。该重复结构为星形或者条状等。例如,该位置信息为位置图像,该位置图像中包括多个稀疏的点,该多个稀疏的点能够表示金属伪影在医学图像中的位置。
需要说明的是,在本申请实施例中,计算机设备会对医学图像进行多次迭代处理,在每次迭代处理的过程中,能够确定一次医学图像对应的位置信息、伪影信息和目标图像,且每次迭代处理所确定的位置信息、伪影信息和目标图像不同,本次迭代所确定的位置信息和目标图像,能够应用于下一次的迭代过程中。
当本次迭代为第一次迭代时,计算机设备获取已存储的参考位置信息和第三参考图像,将参考位置信息和第三参考图像应用于本次迭代过程中。可选地,该参考位置信息为计算机设备预先设置的位置信息,例如该位置信息为0。可选地,该第三参考图像是对医学图像进行伪影去除得到的,并且得到该第三参考图像所采用的伪影去除方法与本申请实施例提供的方法不同,也即是第三参考图像与本申请实施例中的目标图像是对医学图像采用不同的方式进行伪影去除得到的,例如第三参考图像是采用线性插值算法对医学图像进行伪影去除所得到的图像。
当本次迭代为第一次迭代之后的迭代时,计算机设备获取上一次迭代过程中产生的位置信息和目标图像,并将上一次迭代过程中产生的位置信息和上一次迭代过程中产生的目标图像应用于本次迭代过程中。
当本次迭代为第一次迭代时,计算机设备确定该位置信息的过程包括:计算机设备通过对医学图像和第三参考图像进行对比,确定位置梯度信息,根据位置梯度信息对参考位置信息进行调整,得到位置信息,其中,该过程与下述步骤304-305中确定调整后的位置信息的过程同理,在此暂不作详细说明。
302、计算机设备根据形状信息和位置信息,构建第一伪影信息。
其中,形状信息是表示金属伪影的形状的信息,金属伪影的形状是金属伪影本身的特性,例如金属伪影呈现为条状或者星形等,则该形状信息是用于表示条状或者星形的信息,因此,该形状信息是能够表示任一图像中的金属伪影的形状的信息。可选地,该形状信息采用卷积核来表示。可选地,用于表示形状信息的卷积核位于图像处理模型中,该形状信息是通过训练图像处理模型所得到的,该图像处理模型的训练过程详见下述图11的实施例,在此暂不作说明。
金属伪影的特征包括形状特征和位置特征,由于形状信息能够表示金属伪影的形状特征,位置信息能够表示金属伪影的位置特征,因此计算机设备根据该形状信息和位置信息,能够重新构建出第一伪影信息,该第一伪影信息是表示该医学图像中的金属伪影的信息。本申请实施例中,将根据形状信息和位置信息构建伪影信息这一过程作为金属伪影去除领域的先验知识,从而将该先验知识应用于金属伪影的去除过程,相比于使用深度学习网络来去除金属伪影,本方案能够保证金属伪影本身的特性不会被忽略,因此能够提高去除金属伪影的效果。
在一种可能实现方式中,该形状信息采用卷积核来表示,计算机设备将形状信息与该位置信息进行卷积处理,得到该第一伪影信息。可选地,该位置信息包括N个位置图像,每个位置图像为一个通道,该形状信息包括N个卷积核,每个卷积核为一个通道,则计算机设备将每个通道的位置图像与卷积核进行卷积处理,得到N个伪影信息,将该N个伪影信息的和,确定为第一伪影信息。
303、计算机设备根据第一伪影信息,对医学图像进行伪影去除,得到目标图像。
计算机设备得到的第一伪影信息是表示医学图像中的金属伪影的信息,则在该医学图像中去除该第一伪影信息,即可得到医学图像对应的目标图像。
在一种可能实现方式中,医学图像中包括金属区域和非金属区域,金属区域是医学图像中的金属所在的区域,非金属区域是医学图像中不包括金属的区域。计算机设备将医学图像中的非金属区域确定为非金属图像,在第一伪影信息中确定属于非金属区域的第一伪影信息,在该非金属图像中,去除属于非金属区域的第一伪影信息,得到该目标图像。
在一种可能实现方式中,计算机设备将医学图像与第一伪影信息之间的差异信息,确定为第二参考图像,对第二参考图像和已存储的第三参考图像进行加权,得到第四参考图像。其中,第三参考图像与目标图像是对医学图像采用不同的方式进行伪影去除得到的。计算机设备将第四参考图像与医学图像对应的多通道图像进行合并,得到第一合并图像,按照图像特征,对第一合并图像进行调整,得到第一通道图像,以使第一通道图像满足图像特征,该图像特征表示不包括金属伪影的图像满足的特征,然后将第一通道图像中的第一个通道图像确定为目标图像。
其中,医学图像为单通道图像,第一伪影信息为单通道信息,第四参考图像为单通道图像,由于单通道图像中包括的信息量较少,因此计算机设备获取医学图像对应的多通道图像,将该第四参考图像与多通道图像进行合并,得到第一合并图像,该第一合并图像中包括多个通道图像,从而实现了通道的扩张,提高了传递过程中的信息量。可选地,计算机设备获取医学图像对应的第三参考图像,对该第三参考图像进行卷积处理,得到该医学图像对应的多通道图像。
304、计算机设备通过将医学图像与目标图像进行对比,确定位置梯度信息。
计算机设备获取在上一次迭代过程中产生的目标图像,将该目标图像应用于本次迭代过程中,则计算机设备通过将医学图像与目标图像进行对比,确定位置梯度信息,该位置梯度信息用于指示位置信息的变化幅度。
在一种可能实现方式中,将医学图像和目标图像之间的差异信息,确定为第二伪影信息,根据第一伪影信息和第二伪影信息,确定位置梯度信息。
由于目标图像为医学图像进行伪影去除之后的图像,则该医学图像和目标图像之间的差异信息为伪影信息,计算机设备将该差异信息确定为本次的第二伪影信息,其中,上一次迭代过程中产生的目标图像越准确,则该第二伪影信息越准确。计算机设备根据第一伪影信息和第二伪影信息,确定位置梯度信息,该位置梯度信息能够代表上一次迭代过程中产生的位置信息的误差,从而指示位置信息的变化幅度。
可选地,计算机设备将第一伪影信息和第二伪影信息之间的差异信息,确定为伪影差异信息,根据伪影差异信息和形状信息,确定位置梯度信息。其中,第一伪影信息和第二伪影信息均为伪影维度的信息,因此第一伪影信息和第二伪影信息之间的差异信息,是伪影维度的差异信息,而不是位置维度的梯度信息,因此计算机设备将第一伪影信息和第二伪影信息之间的差异信息确定为伪影差异信息。由于伪影维度包括位置维度和形状维度,伪影信息能够根据形状信息和位置信息来创建,因此计算机设备根据伪影差异信息和形状信息,能够确定位置梯度信息。可选地,计算机设备将伪影差异信息和形状信息之间的转置卷积,确定为位置梯度信息。
可选地,计算机设备确定医学图像中的非金属区域,非金属区域是指医学图像中不包括金属的区域。计算机设备在伪影差异信息中,确定位于非金属区域的伪影差异信息,根据形状信息和位于非金属区域的伪影差异信息,确定位置梯度信息。由于医学图像中的金属区域包括金属的信息,医学图像中的非金属区域的信息才是有价值的信息,为了去除非金属区域的金属伪影,计算机设备仅需确定位于非金属区域的伪影差异信息,仅根据位于非金属区域的伪影差异信息,即可确定位置梯度信息。
可选地,计算机设备获取医学图像对应的非金属图像,该非金属图像是表示医学图像中的非金属区域的图像,计算机设备根据该非金属图像,确定位于非金属区域的伪影差异信息。例如,在非金属图像中,医学图像中的金属区域对应的像素点的像素值为0,非金属区域对应的像素点的像素值为1,则计算机设备将该非金属图像与伪影差异信息的乘积,确定为位于非金属区域的伪影差异信息。
305、计算机设备根据位置梯度信息对位置信息进行调整,得到调整后的位置信息。
计算机设备获取在上一次迭代过程中产生的位置信息,将该位置信息作为本次迭代过程中需要参考的位置信息。由于位置梯度信息能够指示位置信息的变化幅度,则计算机设备根据该位置梯度信息对该位置信息进行调整,得到调整后的位置信息,该调整后的位置信息比调整前的位置信息更准确。
在一种可能实现方式中,计算机设备按照位置特征,对调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使再次调整后的位置信息满足位置特征。其中,该位置特征表示金属伪影的位置信息满足的特征,例如位置信息的稀疏性等。为了避免计算机设备确定的位置信息的特征偏离金属伪影的位置信息所满足的特征,计算机设备按照该位置特征,对调整后的位置信息继续进行调整,以使再次调整后的位置信息满足该位置特征,来进一步保证确定的该位置信息的准确性。可选地,该位置特征采用残差网络来表示。可选地,用于表示位置特征的残差网络位于图像处理模型中,该位置特征是通过训练图像处理模型所得到的,该图像处理模型的训练过程详见下述图11的实施例,在此暂不作说明。
306、计算机设备根据调整后的位置信息和形状信息,构建调整后的第一伪影信息。
该步骤306与上述步骤302同理,在此不再一一赘述。
307、计算机设备根据调整后的第一伪影信息,对医学图像进行伪影去除,得到调整后的目标图像,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。
计算机设备得到的调整后的第一伪影信息是表示医学图像中的金属伪影的信息,则根据调整后的第一伪影信息,对医学图像进行伪影去除,得到调整后的目标图像。计算机设备继续将本次迭代过程中产生的位置信息、伪影信息和目标图像,运用在下一次迭代过程中,直至得到目标数量个目标图像,也即是迭代次数达到目标数量,则停止迭代。其中,在多次迭代的过程中,计算机设备能够得到目标数量个位置信息、目标数量个伪影信息以及目标数量个目标图像。可选地,该目标数量为计算机设备预先设置的数量,例如目标数量为5、10或者13等。
由于每次迭代的过程,都是对目标图像进行优化的过程,因此在得到的目标数量个目标图像中,最后一个目标图像的准确性更高,因此计算机设备将最后一个目标图像确定为该医学图像去除金属伪影后的图像,从而提高去除金属伪影的效果。
在一种可能实现方式中,计算机设备将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像,对第一参考图像和目标图像进行加权,得到调整后的目标图像。
由于调整后的第一伪影信息是表示医学图像中的金属伪影的信息,则医学图像与调整后的第一伪影信息之间的差异信息,即为本次迭代过程中在医学图像中去除金属伪影所得到的图像,计算机设备将该差异信息确定为第一参考图像。计算机设备获取目标图像,该目标图像是上一次迭代过程中在医学图像中去除金属伪影所得到的图像。计算机设备综合考虑两次得到的图像,对第一参考图像和目标图像进行加权,得到本次迭代过程中的目标图像,增加了去除金属伪影所考虑的信息量,能够进一步提高去除金属伪影的准确性。
在一种可能实现方式中,计算机设备按照图像特征,对调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使再次调整后的目标图像满足图像特征。其中,该图像特征表示不包括金属伪影的图像满足的特征。为了避免计算机设备确定的目标图像的特征偏离不包括金属伪影的图像所满足的特征,计算机设备按照该图像特征,对调整后的目标图像再次进行调整,以使再次调整后的目标图像满足该图像特征,来进一步保证确定的该目标图像的准确性。可选地,该图像特征采用残差网络来表示。可选地,用于表示图像特征的残差网络位于图像处理模型中,该位置特征是通过训练图像处理模型所得到的,该图像处理模型的训练过程详见下述图11的实施例,在此暂不作说明。
在另一种可能实现方式中,目标图像为第一通道图像中的第一个通道图像,第一通道图像为上述步骤303中进行伪影去除的过程中所得到的第一通道图像。则计算机设备根据调整后的位置信息和形状信息,构建调整后的第一伪影信息,将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像,对第一参考图像和目标图像进行加权,得到第五参考图像,将第五参考图像与第一通道图像中除了第一个通道图像之外的其他通道图像进行合并,得到第二合并图像。计算机设备按照图像特征,对第二合并图像进行调整,得到第二通道图像,以使第二通道图像满足图像特征,将第二通道图像中的第一个通道图像,确定为调整后的目标图像。
其中,医学图像为单通道图像,第一伪影信息为单通道信息,第一参考图像和第五参考图像为单通道图像。由于单通道图像中包括的信息量较少,因此计算机设备获取上一次迭代过程中产生的第一通道图像,将该第五参考图像与第一通道图像中除了第一个通道图像之外的其他通道图像进行合并,得到第二合并图像,该第二合并图像中包括多个通道图像,从而实现了通道的扩张,提高了图像中的信息量。其中,上一次迭代过程中产生的第一通道图像包括多个通道图像,第一通道图像中的第一个通道图像作为了目标图像,第一通道图像中除了第一个通道图像之外的其他通道图像作为了本次迭代过程中参考的通道图像,从而实现了通道合并后再进行通道分离。
图4是本申请实施例提供的一种医学图像和目标图像的示意图,参见图4,医学图像401为CT图像,该医学图像401中包括条状或者星形的金属伪影,对医学图像401的质量造成了影响。计算机设备采用本申请实施例提供的方法,将医学图像401中的金属伪影去除,得到目标图像402,该目标图像402为去除金属伪影之后的干净图像。
图5是本申请实施例提供的一种图像处理方法的流程图,参见图5,CT设备501是指用于拍摄CT图像的设备,图像处理应用502为CT设备中用于去除金属伪影的应用,终端503与CT设备501通过该图像处理应用502建立通信连接。其中,CT设备501对目标对象进行扫描,得到包括金属伪影的CT图像504,将CT图像504上传至图像处理应用502中,图像处理应用502采用本申请实施例提供的方法,将CT图像504中的金属伪影去除,得到去除金属伪影后的CT图像505,然后将该CT图像505发送给终端503,由终端503显示该CT图像505。
本申请实施例提供的方法,根据金属伪影的位置信息进行伪影去除,得到目标图像,然后通过将医学图像与目标图像进行对比来确定位置梯度信息,根据本次确定的位置梯度信息来对位置信息进行调整,以使位置信息更加准确,以便根据更加准确的位置信息进行伪影去除,因此本申请实施例能够将本次的伪影去除结果应用于下一次伪影去除过程,来指导下一次伪影去除过程中对位置信息的调整,使得伪影去除的准确性越来越高,有利于提高去除金属伪影的效果。
并且,考虑到金属伪影的特征包括形状特征和位置特征,因此在需要去除医学图像中的金属伪影时,先确定该医学图像中的金属伪影的位置信息和形状信息,根据该位置信息和形状信息,能够重构出伪影信息,从而将根据形状信息和位置信息构建伪影信息这一过程作为金属伪影去除领域的先验知识,将该先验知识应用于金属伪影的去除过程,相比于使用深度学习网络来去除金属伪影,本方案能够保证金属伪影本身的特性不会被忽略,因此能够提高去除金属伪影的效果。
并且,本申请实施例进行多次迭代,将本次迭代的结果应用于下一次迭代过程中,来不断优化确定的目标图像,将最后一次迭代所得到目标图像确定为医学图像去除金属伪影后的图像,能够进一步保证去除金属伪影的效果。
并且,相关技术中,利用深度学习网络去除金属伪影,需要获取包括金属伪影的图像对应的弦图,对弦图进行处理。本申请实施例提供的方案为基于图像域的处理方法,无需搜集医学图像对应的弦图,降低了数据的获取成本。
并且,在去除金属伪影的过程中,采用通道合并和通道分离的方法,能够保证去除金属伪影的过程中所考虑的信息量。
上述实施例提供了一种去除金属伪影的方法,为了提高该方法的便捷性,可以创建图像处理模型,来实现该金属伪影去除方法,以下实施例将详细说明创建图像处理模型的过程。
(一)模型原理:为了去除医学图像中的金属伪影,首先需要了解医学图像的构成,包括金属伪影的医学图像可用以下公式来表示:
其中,为医学图像,H和W分别为医学图像的高度和宽度;是待复原的目标图像,是非金属图像,用于表示医学图像中的非金属区域,非金属图像中的像素值为0或者1,0表示金属区域,1表示非金属区域;是伪影信息,表示医学图像中的金属伪影。表示逐点乘法运算。
由于金属伪影的形状仅为非局部的条状或者星形,因此可以采用以下公式来表示金属伪影的伪影信息:
将公式(2)代入公式(1),可以得到以下公式来表示医学图像:
图6是本申请实施例提供的一种医学图像的示意图,如图6所示,医学图像601由伪影信息602和目标图像603构成,伪影信息602包括多个伪影图像,例如伪影图像604、伪影图像605和伪影图像606等,每个伪影图像由位置信息和形状信息进行卷积得到,例如伪影图像604是由形状信息607和位置信息608进行卷积得到的,伪影图像605是由形状信息609和位置信息610进行卷积得到的,伪影图像606是由形状信息611和位置信息612进行卷积得到的。
其中,和为折衷参数,和均为正则函数,该正则函数用来表示位置特征,该位置特征表示金属伪影的位置信息满足的特征,属于金属伪影的位置信息对应的先验知识,该正则函数用来表示图像特征,该图像特征表示不包括金属伪影的图像满足的特征,属于不包括金属伪影的图像对应的先验知识。能够使上述公式(5)为最小值的位置信息和目标图像,即为准确的位置信息和目标图像。
其中,在第s次迭代中,确定目标图像的方式可通过优化以下公式来实现:
则通过上述公式(7)和上述公式(9),即可确定每次迭代过程中的位置信息和目标图像。
(三)模型创建:为了使用图像处理模型来确定位置信息和目标图像,可以根据上述公式(7)和上述公式(9),来构建图像处理模型,由于需要进行多次迭代来确定位置信息和目标图像,则该图像处理模型包括多个图像处理网络,每个图像处理网络的结构相同,但是参数不同。其中,图像处理网络中包括用于确定位置信息的位置提取层,以及用于确定目标图像的图像重构层。
其中,上述公式中的位置信息可以为上述图3的实施例中的位置信息,可以为上述图3的实施例中的调整后的位置信息,目标图像可以为上述图3的实施例中的目标图像,目标图像可以为上述图3的实施例中的调整后的目标图像。
则根据上述公式创建的图像处理网络,如图7所示,医学图像701为上述公式中的,目标图像702为上述公式中的,位置信息703为上述公式中的,形状信息704为上述公式中的,该形状信息704可由卷积核表示。第一伪影信息706为公式中的,第二伪影信息705为公式中的,伪影差异信息707为公式中的,位置梯度信息708为公式中的,位置特征709为公式中的近端算子,该位置特征709可以由残差网络来表示,调整后的位置信息710为公式中的。
如图7所示,调整后的第一伪影信息711为公式中的,第一参考图像712为公式中的,图像特征713为公式中的近端算子,该图像特征713可以由残差网络来表示,调整后的目标图像714为公式中的。其中,图像处理网络中的形状信息、位置特征、图像特征以及更新步长和,为需要优化的网络参数。其中,图像处理模型中包括多个图7所示的图像处理网络,通过训练图像处理模型,能够学习到与金属伪影有关的先验知识,也即是形状信息、位置特征和图像特征。
在一种可能实现方式中,在去除金属伪影的过程中,采用通道合并和通道分离的方法,来保证传递的信息量,则可以在图7中的图像重构层中,添加通道合并的功能。添加通道合并功能后的图像重构层,可参见图8。其中,对第一参考图像712和目标图像702进行加权,得到第五参考图像,然后将第五参考图像与第一通道图像中除了第一个通道图像之外的其他通道图像801进行合并,得到第二合并图像。然后按照图像特征713,对第二合并图像进行调整,得到第二通道图像802,将第二通道图像802中的第一个通道图像,确定为调整后的目标图像714,将第二通道图像802中除了第一个通道图像之外的其他通道图像803,用于下一次迭代过程中进行通道合并。
在另一种可能实现方式中,位置特征由位置残差网络表示,图像特征由图像残差网络表示。如图9所示,位置残差网络包括多个残差块,每个残差块用于处理位置信息901,每个残差块依次包括:卷积层、 Batch Normalization(批量标准化)层、ReLU(线性整流)层、卷积层、Batch Normalization层以及跨链接层。如图9所示,图像残差网络包括多个残差块,每个残差块用于处理目标图像902,每个残差块依次包括:卷积层、 BatchNormalization层、ReLU层、卷积层、Batch Normalization层以及跨链接层。可选地,卷积层对应的卷积核大小为3x3,步长为1。对于位置残差网络, 通道数量为32,对于图像残差网络,通道数量(为33。需要说明的是,位置残差网络和图像残差网络还可以采用其他类型的网络结构,本申请实施例对此不做限定。
需要说明的是,本申请实施例提供的图像处理模型,是基于图像处理领域的金属伪影去除任务所创建的,图像处理模型中的网络结构是由包括金属伪影的医学图像的结构特性以及金属伪影的结构特性所决定的,因此该图像处理模型中的每一个操作均具有物理意义,整个图像处理模型的结构相当于是白箱操作,具有很好的模型可解释性。
图10是本申请实施例提供的一种图像处理方法的流程图,本申请实施例中,计算机设备基于图像处理模型中的目标数量个图像处理网络,对医学图像进行处理,得到去除金属伪影后的目标图像,其中每个图像处理网络的结构如图7-图9所示,图像处理模型至少包括第一图像处理网络和第二图像处理网络,则该方法包括如下步骤。
1001、计算机设备基于第一图像处理网络,确定医学图像中的金属伪影的位置信息。
计算机设备将医学图像输入第一图像处理网络,该第一图像处理网络输出该医学图像中的金属伪影的位置信息。需要说明的是,在本申请实施例中,计算机设备会基于多个图像处理网络,对医学图像进行多次迭代处理,每个图像处理网络,均会输出医学图像对应的位置信息、伪影信息和目标图像,当前图像处理网络输出的位置信息和目标图像,会作为下一个图像处理网络的输入。
如果第一图像处理网络为第一个图像处理网络,计算机设备获取已存储的参考位置信息和第三参考图像。可选地,该参考位置信息为计算机设备预先设置的位置信息,例如该位置信息为0。可选地,该第三参考图像是对医学图像进行伪影去除得到的,并且得到该第三参考图像所采用的伪影去除方法与本申请实施例提供的方法不同,也即是第三参考图像与本申请实施例中的目标图像是对医学图像采用不同的方式进行伪影去除得到的,例如第三参考图像是采用线性插值算法对医学图像进行伪影去除所得到的图像。
如果第一图像处理网络为第一个图像处理网络之后的图像处理网络,计算机设备获取上一个图像处理网络输出的位置信息和目标图像,并将上一个图像处理网络输出的位置信息和上一个图像处理网络输出的目标图像确定第一图像处理网络的输入。
如果第一图像处理网络为第一个图像处理网络,则计算机设备确定该位置信息的过程包括:计算机设备将医学图像、第三参考图像和参考位置信息输入至第一图像处理网络,第一图像处理网络通过对医学图像和第三参考图像进行对比,确定位置梯度信息,根据位置梯度信息对参考位置信息进行调整,输出该位置信息,其中,该过程与下述步骤1005中输出调整后的位置信息的过程同理,在此暂不作详细说明。
1002、计算机设备基于第一图像处理网络,根据形状信息和位置信息,构建第一伪影信息。
其中,第一图像处理网络中包括形状信息,则计算机设备将位置信息输入至第一图像处理网络,该第一图像处理网络,根据形状信息和位置信息,构建第一伪影信息。如图7所示的图像处理网络的网络结构,该网络结构中包括卷积操作,形状信息为卷积核,则计算机设备基于第一图像处理网络中,将形状信息和位置信息进行卷积,得到该第一伪影信息。
1003、计算机设备基于第一图像处理网络,根据第一伪影信息,对医学图像进行伪影去除,得到目标图像。
步骤1002-1003与上述步骤303-304同理,不同之处在于,步骤1002-1003中,计算机设备基于第一图像处理网络,来执行构建第一伪影信息和获取目标图像的过程。
通过执行上述步骤1001-1003,计算机设备基于图像处理模型中的第一图像处理网络,根据医学图像中的金属伪影的位置信息,对医学图像进行伪影去除,得到目标图像。
1004、计算机设备基于第二图像处理网络,通过将医学图像与目标图像进行对比,确定位置梯度信息。
第二图像处理网络是第一图像处理网络的下一个图像处理网络。计算机设备将医学图像与第一图像处理网络输出的目标图像作为第二图像处理网络的输入,基于该第二图像处理网络,通过将医学图像与目标图像进行对比,确定位置梯度信息。
在一种可能实现方式中,第二图像处理网络包括位置提取层,该位置提取层的结构参见上述图7所示。计算机设备基于位置提取层,将医学图像和目标图像之间的差异信息,确定为第二伪影信息,基于位置提取层,根据第一伪影信息和第二伪影信息,确定位置梯度信息。
可选地,计算机设备基于位置提取层,将第一伪影信息和第二伪影信息之间的差异信息,确定为伪影差异信息,根据伪影差异信息和形状信息,确定位置梯度信息。其中,位置提取层包括形状信息。如图7所示,计算机设备基于位置提取层,将伪影差异信息和形状信息进行转置卷积,得到位置梯度信息。
可选地,计算机设备确定医学图像中的非金属区域,非金属区域是指医学图像中不包括金属的区域。计算机设备基于位置提取层,在伪影差异信息中,确定位于非金属区域的伪影差异信息,根据形状信息和位于非金属区域的伪影差异信息,确定位置梯度信息。
1005、计算机设备基于第二图像处理网络,根据位置梯度信息对位置信息进行调整,得到调整后的位置信息。
在一种可能实现方式中,位置提取层包括位置特征,位置特征表示金属伪影的位置信息满足的特征。则计算机设备基于位置提取层,按照位置特征,对调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使再次调整后的位置信息满足位置特征。可选地,该位置特征由位置残差网络来表示,该位置残差网络的结构参见上述图9所示。
1006、计算机设备基于第二图像处理网络,根据调整后的位置信息继续对医学图像进行伪影去除,得到调整后的目标图像,直至得到目标数量个图像处理网络输出的目标图像,将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。
图像处理模型中包括目标数量个图像处理网络,第二图像处理网络输出目标图像后,计算机设备继续将第二图像处理网络输出的位置信息和目标图像以及医学图像,作为第二图像处理网络的下一个图像处理网络的输入,由下一个图像处理网络输出下一个位置信息和下一个目标图像,直至目标数量个图像处理网络均执行上述金属伪影的去除过程,该目标数量个图像处理网络均输出目标图像,也即是直至得到图像处理模型中的最后一个图像处理网络输出的目标图像,则完成整个图像处理过程。计算机设备将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。
在一种可能实现方式中,第二图像处理网络包括图像重构层,该图像重构层的结构参见上述图7所示。计算机设备基于图像重构层,根据调整后的位置信息和金属伪影的形状信息,构建调整后的伪影信息;基于图像重构层,将医学图像与调整后的伪影信息之间的差异信息,确定为第一参考图像;基于图像重构层,对第一参考图像和目标图像进行加权,得到调整后的目标图像。例如,如图7所示,计算机设备确定图像重构层已存储的加权参数,并获取医学图像对应的非金属图像,基于图像重构层,根据该加权参数和非金属图像,对第一参考图像和目标图像进行加权,得到调整后的目标图像。
在一种可能实现方式中,图像重构层包括图像特征,图像特征表示不包括金属伪影的图像满足的特征。则计算机设备基于图像重构层,按照图像特征,对调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使再次调整后的目标图像满足图像特征,图像特征表示不包括金属伪影的图像满足的特征。可选地,该图像特征由图像残差网络来表示,该图像残差网络的结构参见上述图9所示。
在一种可能实现方式中,第二图像处理网络包括图像重构层,该图像重构层的结构参见上述图8所示。计算机设备基于图像重构层,根据调整后的位置信息和形状信息,构建调整后的第一伪影信息;基于图像重构层,将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像,对第一参考图像和目标图像进行加权,得到第五参考图像;基于图像重构层,将第五参考图像与第一通道图像中除了第一个通道图像之外的其他通道图像进行合并,得到第二合并图像;基于图像重构层,按照图像特征,对第二合并图像进行调整,得到第二通道图像,以使第二通道图像满足图像特征,图像特征表示不包括金属伪影的图像满足的特征,图像重构层包括图像特征;将第二通道图像中的第一个通道图像,确定为调整后的目标图像。
本申请实施例提供的方法,根据金属伪影的位置信息进行伪影去除,得到目标图像,然后通过将医学图像与目标图像进行对比来确定位置梯度信息,根据本次确定的位置梯度信息来对位置信息进行调整,以使位置信息更加准确,以便根据更加准确的位置信息进行伪影去除,因此本申请实施例能够将本次的伪影去除结果应用于下一次伪影去除过程,来指导下一次伪影去除过程中对位置信息的调整,使得伪影去除的准确性越来越高,有利于提高去除金属伪影的效果。并且采用图像处理模型,来自动执行金属伪影的去除过程,能够提高图像处理的效率以及图像处理的便捷性。
并且,考虑到金属伪影的特征包括形状特征和位置特征,因此在需要去除医学图像中的金属伪影时,先确定该医学图像中的金属伪影的位置信息和形状信息,根据该位置信息和形状信息,能够重构出伪影信息,从而将根据形状信息和位置信息构建伪影信息这一过程作为金属伪影去除领域的先验知识,将该先验知识嵌入图像处理模型中,相比于使用深度学习网络来去除金属伪影,本方案的图像处理模型在去除金属伪影的过程中,不会忽略金属伪影本身的特性,能够提高去除金属伪影的效果。
图11是本申请实施例提供的一种模型训练方法的流程图,本申请实施例中以图像处理模型包括目标数量个图像处理网络为例进行说明,每个图像处理网络的网络结构参见上述图7所示,本申请实施例所训练的图像处理模型,可应用于上述图10所示的实施例中。其中,该方法包括以下步骤。
1101、计算机设备获取样本医学图像以及对应的样本目标图像。
其中,样本医学图像中包括样本金属伪影,样本目标图像为样本医学图像去除样本金属伪影后的图像。
在一种可能实现方式中,计算机设备直接获取样本目标图像,该样本目标图像是不包括样本金属伪影的图像。计算机设备获取金属信息,该金属信息包括金属的位置信息以及金属的类型信息等。计算机设备采用数据仿真方法,根据样本目标图像和金属信息以及CT设备的成像参数,合成包括样本金属伪影的样本医学图像,然后计算机设备将该样本医学图像以及样本目标图像,作为训练数据集。
在一种可能实现方式中,计算机设备将训练数据集中的图像的像素值进行裁剪调整,将每个像素点的像素值控制在[0,1]的范围内,然后再将每个像素点的像素值至转换到[0,255]的范围内。
在一种可能实现方式中,计算机设备将训练数据集中的图像裁剪至64*64的尺寸,然后随机对每张图像进行水平镜像翻转或者垂直镜像翻转,从而提高训练数据集中的图像的多样性。
1102、计算机设备基于图像处理模型,对样本医学图像进行伪影去除,得到目标数量个预测目标图像。
其中,上述步骤1102与上述步骤1001-1006同理,在此不再一一赘述。
1103、计算机设备根据目标数量个预测目标图像分别与样本目标图像之间的误差信息,训练图像处理模型。
计算机设备获取到目标数量个预测目标图像,其中,预测目标图像是图像处理模型输出的目标图像,样本目标图像是样本医学图像对应的真实的目标图像,则预测目标图像与样本目标图像之间的误差信息越小,该图像处理模型越准确。因此,计算机设备分别确定每个预测目标图像与该样本目标图像之间的误差信息,以及每个预测伪影信息与该样本伪影信息之间的误差信息,根据确定的多个误差信息,训练该图像处理模型,以使这些误差信息越来越小,图像处理模型越来越准确。其中,训练图像处理模型,是指优化该图像处理模型中的参数,该图像处理模型的参数包括每个图像处理网络中的形状信息。可选地,该图像处理模型的参数还包括位置特征的残差网络的网络参数、图像特征的残差网络的网络参数以及更新步长和。
在一种可能实现方式中,计算机设备将样本医学图像和样本目标图像之间的差异信息确定为样本伪影信息,在上述步骤1102中,目标数量个图像处理网络还会输出目标数量个预测伪影信息,预测伪影信息是图像处理模型输出的伪影信息,样本伪影信息是样本医学图像对应的真实的伪影信息,则预测伪影信息与样本伪影信息之间的误差信息越小,该图像处理模型也越准确。因此计算机设备分别确定每个预测目标图像与该样本目标图像之间的误差信息,以及每个预测伪影信息与该样本伪影信息之间的误差信息,根据确定的多个误差信息,训练该图像处理模型,以使这些误差信息越来越小,图像处理模型越来越准确。
在一种可能实现方式中,计算机设备采用以下公式,确定误差信息:
其中,表示目标误差信息,计算机设备根据该目标误差信息,训练图像处理模型,表示目标数量个预测目标图像分别与样本目标图像之间的误差信息之和,表示目标数量个预测伪影信息分别与样本伪影信息之间的误差信息之和。为折衷参数,和是用来平衡各项误差信息的权重。S表示目标数量。表示样本目标图像,表示样本医学图像,表示样本医学图像对应的非金属图像。表示第s个预测目标图像,表示第s个预测伪影信息,表示2范数运算,表示1范数运算。
本申请实施例提供的方法,通过训练图像处理模型,能够使图像处理模型学习到有关金属伪影的形状信息、位置特征和图像特征等信息,通过将这些信息嵌入图像处理模型中,能够避免图像处理模型在去除金属伪影的过程中,忽略金属伪影本身的特性,有利于提高去除金属伪影的效果。
图12是本申请实施例提供的一种图像处理方法的流程图,包括图像处理模型的训练过程和测试过程。在训练过程中,计算机设备对样本医学图像进行预处理,使用图像处理模型,将预处理后的样本医学图像去除金属伪影,根据去除的结果迭代训练图像处理模型,直至迭代次数达到目标次数,保存训练好的图像处理模型。在测试过程中,计算机设备对医学图像进行预处理,并加载训练完成的图像处理模型,基于该图像处理模型,将预处理后的医学图像去除金属伪影,输出去除金属伪影后的目标图像。
为了验证图像处理模型中的图像处理网络的数量对图像处理模型的性能所产生的影响,分别设置不同的目标数量来进行对比实验,实验结果如表1所示:
表1
其中,PSNR表示峰值信噪比,SSIM表示结构相似性,S表示目标数量。从表1中可以看出,随着目标数量的增加,改善幅度逐渐减小。S=13的图像处理模型的性能略高于S=10的图像处理模型的性能。因此,采用S=10的图像处理模型,来继续研究本方案的效果。图13是本申请实施例提供的一种目标图像以及伪影信息的示意图,图13中包括S=10的图像处理模型输出的多个目标图像以及伪影信息,其中表示医学图像,表示真实的目标图像,表示初始化的目标图像,A表示真实的伪影信息,表示第s个图像处理网络输出的目标图像,表示第s个图像处理网络输出的伪影信息。图14是本申请实施例提供的一种伪影信息的示意图,图14中包括S=10的图像处理模型输出的第10个位置信息,该位置信息中包括32个位置图像,形状信息为32个卷积核,将位置信息与卷积核分别进行卷积,得到32个伪影信息,该32个伪影信息之和即为图像处理模型输出的第10个伪影信息。
另外,为了验证本方案的有效性,将本申请的方法与相关技术中的波束硬化校正(BHC)以及基于DuDoNet(Dual Domain Network,双域网络)的方法进行对比。在一种可能实现方式中,采用以上三种方法对包括不同进行的金属的医学图像进行处理,对比结果如表2和图15所示。从表2中可以看出,本申请实施例提供的方法优于相关技术中的方法。图15是本申请实施例提供的以上三种方法得到的处理结果,其中,分别采用上述三种方法对包括大型金属植入物、中型金属植入物以及小型金属植入物的图像进行去除金属伪影,从图15中的去除结果以及对应的峰值信噪比和结构相似性,可以看出本申请实施例提供的方法优于相关技术中的方法。表2内容如下:
表2
在一种可能实现方式中,采用以上三种方法对包括不同骨骼结构的受金属污染的医学图像进行处理,对比结果图16所示,图16是本申请实施例提供的基于以上三种方法对包括骨骼结构的图像进行伪影去除所得到的处理结果,其中,从图16中的去除结果可以看出,本申请实施例提供的方法优于相关技术中的方法。
另外,相比于相关技术,本申请实施例提供的方法能够避免由于去除金属伪影导致图像过度平滑的问题,能够保留医学图像中的信息量。为了验证该效果,计算机设备采用以上三种方法对包括骨骼结构的医学图像进行伪影去除,分别得到目标图像,然后对每种方法得到的目标图像进行图像分割,从而得到骨骼分割结果,通过对比医学图像对应的真实的骨骼分割结果以及去除伪影后的目标图像对应的骨骼分割结果,来评判在下游任务中基于去除伪影后的目标图像进行图像分割的分割精度。如表3所示,表3中包括每种方法对应的Dice系数(一种相似度度量函数),Dice系数用于表示真实的骨骼分割结果与目标图像对应的骨骼分割结果之间的相似度,从表3中可以看出,本申请实施例提供的方法所得到的目标图像对应的骨骼分割结果明显优于相关技术中的方法。如图17所示,图17中包括医学图像、真实的骨骼分割结果、采用以上三种方法进行伪影去除所得到的目标图像以及每个目标图像对应的骨骼分割结果。从图17中可以看出,相关技术中由于去除金属伪影导致图像过度平滑,使得根据去除金属伪影之后的目标图像对应的骨骼分割结果不够准确,失去了部分骨骼信息。而本申请的方法中去除金属伪影后的目标图像对应的骨骼分割结果与真实的骨骼分割结果比较接近,能够避免图像过度平滑的问题。表3内容如下:
表3
图18是本申请实施例提供的一种图像处理装置的结构示意图。参见图18,该装置包括:
伪影去除模块1801,用于根据医学图像中的金属伪影的位置信息,对医学图像进行伪影去除,得到目标图像,位置信息是表示金属伪影在医学图像中的位置的信息;
梯度确定模块1802,用于通过将医学图像与目标图像进行对比,确定位置梯度信息,位置梯度信息用于指示位置信息的变化幅度;
第一位置调整模块1803,用于根据位置梯度信息对位置信息进行调整,得到调整后的位置信息;
伪影去除模块1801,还用于根据调整后的位置信息继续对医学图像进行伪影去除,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为医学图像去除金属伪影后的图像。
本申请实施例提供的图像处理装置,根据金属伪影的位置信息进行伪影去除,得到目标图像,然后通过将医学图像与目标图像进行对比来确定位置梯度信息,根据本次确定的位置梯度信息来对位置信息进行调整,以使位置信息更加准确,以便根据更加准确的位置信息进行伪影去除,因此本申请实施例能够将本次的伪影去除结果应用于下一次伪影去除过程,来指导下一次伪影去除过程中对位置信息的调整,使得伪影去除的准确性越来越高,有利于提高去除金属伪影的效果。
可选地,参见图19,伪影去除模块1801,包括:
伪影构建单元1811,用于根据位置信息和金属伪影的形状信息,构建第一伪影信息,形状信息是表示金属伪影的形状的信息;
伪影去除单元1821,用于根据第一伪影信息,对医学图像进行伪影去除,得到目标图像。
可选地,参见图19,梯度确定模块1802,包括:
伪影确定单元1812,用于将医学图像和目标图像之间的差异信息,确定为第二伪影信息;
梯度确定单元1822,用于根据第一伪影信息和第二伪影信息,确定位置梯度信息。
可选地,参见图19,梯度确定单元1822,用于:
将第一伪影信息和第二伪影信息之间的差异信息,确定为伪影差异信息;
根据伪影差异信息和形状信息,确定位置梯度信息。
可选地,参见图19,梯度确定单元1822,用于:
确定医学图像中的非金属区域,非金属区域是指医学图像中不包括金属的区域;
在伪影差异信息中,确定位于非金属区域的伪影差异信息;
根据形状信息和位于非金属区域的伪影差异信息,确定位置梯度信息。
可选地,参见图19,装置还包括:
第二位置调整模块1804,用于按照位置特征,对调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使再次调整后的位置信息满足位置特征,位置特征表示金属伪影的位置信息满足的特征。
可选地,参见图19,伪影去除模块1801,包括:
伪影构建单元1811,用于根据调整后的位置信息和金属伪影的形状信息,构建调整后的第一伪影信息;
参考图像确定单元1831,用于将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
图像加权单元1841,用于对第一参考图像和目标图像进行加权,得到调整后的目标图像。
可选地,参见图19,装置还包括:
图像调整模块1805,用于按照图像特征,对调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使再次调整后的目标图像满足图像特征,图像特征表示不包括金属伪影的图像满足的特征。
可选地,参见图19,伪影去除单元1821,用于:
将医学图像与第一伪影信息之间的差异信息,确定为第二参考图像;
对第二参考图像和已存储的第三参考图像进行加权,得到第四参考图像,第三参考图像与目标图像是对医学图像采用不同的方式进行伪影去除得到的;
将第四参考图像与医学图像对应的多通道图像进行合并,得到第一合并图像;
按照图像特征,对第一合并图像进行调整,得到第一通道图像,以使第一通道图像满足图像特征,图像特征表示不包括金属伪影的图像满足的特征;
将第一通道图像中的第一个通道图像确定为目标图像。
可选地,参见图19,伪影去除模块1801,包括:
伪影构建单元1811,用于根据调整后的位置信息和形状信息,构建调整后的第一伪影信息;
参考图像确定单元1831,用于将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像,对第一参考图像和目标图像进行加权,得到第五参考图像;
通道合并单元1851,用于将第五参考图像与第一通道图像中除了第一个通道图像之外的其他通道图像进行合并,得到第二合并图像;
图像调整单元1861,用于按照图像特征,对第二合并图像进行调整,得到第二通道图像,以使第二通道图像满足图像特征;
图像确定单元1871,用于将第二通道图像中的第一个通道图像,确定为调整后的目标图像。
可选地,参见图19,装置所执行的步骤基于图像处理模型执行,图像处理模型包括目标数量个图像处理网络;
伪影去除模块1801,包括:
目标图像获取单元1881,用于基于图像处理模型中的第一图像处理网络,根据医学图像中的金属伪影的位置信息,对医学图像进行伪影去除,得到目标图像;
梯度确定模块1802,包括:
梯度获取单元1832,用于基于图像处理模型中的第二图像处理网络,通过将医学图像与目标图像进行对比,确定位置梯度信息;
伪影去除模块1801,包括:
目标图像获取单元1881,还用于基于第二图像处理网络,根据调整后的位置信息继续对医学图像进行伪影去除,得到调整后的目标图像。
可选地,参见图19,目标图像获取单元1881,用于:
基于第一图像处理网络,根据位置信息和金属伪影的形状信息,构建第一伪影信息,形状信息是表示金属伪影的形状的信息;
基于第一图像处理网络,根据第一伪影信息,对医学图像进行伪影去除,得到目标图像。
可选地,参见图19,第二图像处理网络包括位置提取层,梯度获取单元1832,用于:
基于位置提取层,将医学图像和目标图像之间的差异信息,确定为第二伪影信息;
基于位置提取层,根据第一伪影信息和第二伪影信息,确定位置梯度信息。
可选地,参见图19,第二图像处理网络包括位置提取层,装置还包括:
第二位置调整模块1804,用于基于位置提取层,按照位置特征,对调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使再次调整后的位置信息满足位置特征,位置特征表示金属伪影的位置信息满足的特征。
可选地,参见图19,第二图像处理网络包括图像重构层;目标图像获取单元1881,用于:
基于图像重构层,根据调整后的位置信息和金属伪影的形状信息,构建调整后的第一伪影信息;
基于图像重构层,将医学图像与调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
基于图像重构层,对第一参考图像和目标图像进行加权,得到调整后的目标图像。
可选地,参见图19,装置还包括:
图像调整模块1805,用于基于图像重构层,按照图像特征,对调整后的目标图像再次进行调整,得到再次调整后的目标图像,以使再次调整后的目标图像满足图像特征,图像特征表示不包括金属伪影的图像满足的特征。
可选地,参见图19,装置还包括:
样本获取模块1806,用于获取样本医学图像以及对应的样本目标图像,样本医学图像中包括样本金属伪影,样本目标图像为样本医学图像去除样本金属伪影后的图像;
伪影去除模块1801,用于基于图像处理模型,对样本医学图像进行伪影去除,得到目标数量个预测目标图像;
训练模块1807,用于根据目标数量个预测目标图像分别与样本目标图像之间的误差信息,训练图像处理模型。
需要说明的是:上述实施例提供的图像处理装置在进行图像处理时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将计算机设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的图像处理装置与图像处理方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请实施例还提供了一种计算机设备,该计算机设备包括处理器和存储器,存储器中存储有至少一条计算机程序,该至少一条计算机程序由处理器加载并执行,以实现上述实施例的图像处理方法中所执行的操作。
可选地,该计算机设备提供为终端。图20示出了本申请一个示例性实施例提供的终端2000的结构示意图。
终端2000包括有:处理器2001和存储器2002。
处理器2001可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器2001可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(FieldProgrammable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器2001也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(CentralProcessing Unit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器2001可以集成有GPU(Graphics Processing Unit,图像处理的交互器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器2001还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器2002可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器2002还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器2002中的非暂态的计算机可读存储介质用于存储至少一条计算机程序,该至少一条计算机程序用于被处理器2001所具有以实现本申请中方法实施例提供的图像处理方法。
在一些实施例中,终端2000还可选包括有:外围设备接口2003和至少一个外围设备。处理器2001、存储器2002和外围设备接口2003之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口2003相连。可选地,外围设备包括:射频电路2004、显示屏2005和摄像头组件2006中的至少一种。
外围设备接口2003可被用于将I/O(Input /Output,输入/输出)相关的至少一个外围设备连接到处理器2001和存储器2002。在一些实施例中,处理器2001、存储器2002和外围设备接口2003被集成在同一芯片或电路板上;在一些其他实施例中,处理器2001、存储器2002和外围设备接口2003中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路2004用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路2004通过电磁信号与通信网络以及其他通信设备进行通信。射频电路2004将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路2004包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路2004可以通过至少一种无线通信协议来与其它设备进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路2004还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏2005用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏2005是触摸显示屏时,显示屏2005还具有采集在显示屏2005的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器2001进行处理。此时,显示屏2005还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏2005可以为一个,设置在终端2000的前面板;在另一些实施例中,显示屏2005可以为至少两个,分别设置在终端2000的不同表面或呈折叠设计;在另一些实施例中,显示屏2005可以是柔性显示屏,设置在终端2000的弯曲表面上或折叠面上。甚至,显示屏2005还可以设置成非矩形的不规则图形,也即异形屏。显示屏2005可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-EmittingDiode,有机发光二极管)等材质制备。
摄像头组件2006用于采集图像或视频。可选地,摄像头组件2006包括前置摄像头和后置摄像头。前置摄像头设置在终端2000的前面板,后置摄像头设置在终端2000的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件2006还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
本领域技术人员可以理解,图20中示出的结构并不构成对终端2000的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
可选地,该计算机设备提供为服务器。图21是本申请实施例提供的一种服务器的结构示意图,该服务器2100可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(Central Processing Units,CPU)2101和一个或一个以上的存储器2102,其中,所述存储器2102中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器2101加载并执行以实现上述各个方法实施例提供的方法。当然,该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器还可以包括其他用于实现设备功能的部件,在此不做赘述。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条计算机程序,该至少一条计算机程序由处理器加载并执行,以实现上述实施例的图像处理方法中所执行的操作。
本申请实施例还提供了一种计算机程序产品或计算机程序,计算机程序产品或计算机程序包括计算机程序代码,计算机程序代码存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取计算机程序代码,处理器执行计算机程序代码,使得计算机设备实现如上述实施例的图像处理方法中所执行的操作。在一些实施例中,本申请实施例所涉及的计算机程序可被部署在一个计算机设备上执行,或者在位于一个地点的多个计算机设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算机设备上执行,分布在多个地点且通过通信网络互连的多个计算机设备可以组成区块链系统。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请实施例的可选实施例,并不用以限制本申请实施例,凡在本申请实施例的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (15)
1.一种图像处理方法,其特征在于,所述方法包括:
根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,所述位置信息是表示所述金属伪影在所述医学图像中的位置的信息;
通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,所述位置梯度信息用于指示所述位置信息的变化幅度;
根据所述位置梯度信息对所述位置信息进行调整,得到调整后的位置信息;
根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到另一个目标图像,根据所述另一个目标图像,对所述调整后的位置信息进行再次调整,得到再次调整后的位置信息,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为所述医学图像去除所述金属伪影后的图像。
2.根据权利要求1所述的方法,其特征在于,所述根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,包括:
根据所述位置信息和所述金属伪影的形状信息,构建第一伪影信息,所述形状信息是表示所述金属伪影的形状的信息;
根据所述第一伪影信息,对所述医学图像进行伪影去除,得到所述目标图像。
3.根据权利要求2所述的方法,其特征在于,所述通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,包括:
将所述医学图像和所述目标图像之间的差异信息,确定为第二伪影信息;
根据所述第一伪影信息和所述第二伪影信息,确定所述位置梯度信息。
4.根据权利要求3所述的方法,其特征在于,所述根据所述第一伪影信息和所述第二伪影信息,确定所述位置梯度信息,包括:
将所述第一伪影信息和所述第二伪影信息之间的差异信息,确定为伪影差异信息;
根据所述伪影差异信息和所述形状信息,确定所述位置梯度信息。
5.根据权利要求1所述的方法,其特征在于,所述根据所述调整后的位置信息继续对所述医学图像进行伪影去除之前,所述方法还包括:
按照位置特征,对所述调整后的位置信息继续进行调整,得到再次调整后的位置信息,以使所述再次调整后的位置信息满足所述位置特征,所述位置特征表示所述金属伪影的位置信息满足的特征。
6.根据权利要求2所述的方法,其特征在于,所述根据所述第一伪影信息,对所述医学图像进行伪影去除,得到所述目标图像,包括:
将所述医学图像与所述第一伪影信息之间的差异信息,确定为第二参考图像;
对所述第二参考图像和已存储的第三参考图像进行加权,得到第四参考图像,所述第三参考图像与所述目标图像是对所述医学图像采用不同的方式进行伪影去除得到的;
将所述第四参考图像与所述医学图像对应的多通道图像进行合并,得到第一合并图像;
按照图像特征,对所述第一合并图像进行调整,得到第一通道图像,以使所述第一通道图像满足所述图像特征,所述图像特征表示不包括所述金属伪影的图像满足的特征;
将所述第一通道图像中的第一个通道图像确定为所述目标图像。
7.根据权利要求6所述的方法,其特征在于,所述根据所述调整后的位置信息继续对所述医学图像进行伪影去除,包括:
根据所述调整后的位置信息和所述形状信息,构建调整后的第一伪影信息;
将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
对所述第一参考图像和所述目标图像进行加权,得到第五参考图像;
将所述第五参考图像与所述第一通道图像中除了所述第一个通道图像之外的其他通道图像进行合并,得到第二合并图像;
按照所述图像特征,对所述第二合并图像进行调整,得到第二通道图像,以使所述第二通道图像满足所述图像特征;
将所述第二通道图像中的第一个通道图像,确定为调整后的目标图像。
8.根据权利要求1所述的方法,其特征在于,所述方法基于图像处理模型执行,所述图像处理模型包括所述目标数量个图像处理网络;
所述根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,包括:
基于所述图像处理模型中的第一图像处理网络,根据所述医学图像中的金属伪影的所述位置信息,对所述医学图像进行伪影去除,得到所述目标图像;
所述通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,包括:
基于所述图像处理模型中的第二图像处理网络,通过将所述医学图像与所述目标图像进行对比,确定所述位置梯度信息;
所述根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到另一个目标图像,包括:
基于所述第二图像处理网络,根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到所述另一个目标图像。
9.根据权利要求8所述的方法,其特征在于,所述基于所述图像处理模型中的第一图像处理网络,根据所述医学图像中的金属伪影的所述位置信息,对所述医学图像进行伪影去除,得到所述目标图像,包括:
基于所述第一图像处理网络,根据所述位置信息和所述金属伪影的形状信息,构建第一伪影信息,所述形状信息是表示所述金属伪影的形状的信息;
基于所述第一图像处理网络,根据所述第一伪影信息,对所述医学图像进行伪影去除,得到所述目标图像。
10.根据权利要求9所述的方法,其特征在于,所述第二图像处理网络包括位置提取层,所述基于所述图像处理模型中的第二图像处理网络,通过将所述医学图像与所述目标图像进行对比,确定所述位置梯度信息,包括:
基于所述位置提取层,将所述医学图像和所述目标图像之间的差异信息,确定为第二伪影信息;
基于所述位置提取层,根据所述第一伪影信息和所述第二伪影信息,确定所述位置梯度信息。
11.根据权利要求8所述的方法,其特征在于,所述第二图像处理网络包括图像重构层;所述基于所述第二图像处理网络,根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到所述另一个目标图像,包括:
基于所述图像重构层,根据所述调整后的位置信息和所述金属伪影的形状信息,构建调整后的第一伪影信息;
基于所述图像重构层,将所述医学图像与所述调整后的第一伪影信息之间的差异信息,确定为第一参考图像;
基于所述图像重构层,对所述第一参考图像和所述目标图像进行加权,得到所述另一个目标图像。
12.根据权利要求8所述的方法,其特征在于,所述图像处理模型的训练过程包括:
获取样本医学图像以及对应的样本目标图像,所述样本医学图像中包括样本金属伪影,所述样本目标图像为所述样本医学图像去除所述样本金属伪影后的图像;
基于所述图像处理模型,对所述样本医学图像进行伪影去除,得到所述目标数量个预测目标图像;
根据所述目标数量个预测目标图像分别与所述样本目标图像之间的误差信息,训练所述图像处理模型。
13.一种图像处理装置,其特征在于,所述装置包括:
伪影去除模块,用于根据医学图像中的金属伪影的位置信息,对所述医学图像进行伪影去除,得到目标图像,所述位置信息是表示所述金属伪影在所述医学图像中的位置的信息;
梯度确定模块,用于通过将所述医学图像与所述目标图像进行对比,确定位置梯度信息,所述位置梯度信息用于指示所述位置信息的变化幅度;
第一位置调整模块,用于根据所述位置梯度信息对所述位置信息进行调整,得到调整后的位置信息;
所述伪影去除模块,还用于根据所述调整后的位置信息继续对所述医学图像进行伪影去除,得到另一个目标图像,根据所述另一个目标图像,对所述调整后的位置信息进行再次调整,得到再次调整后的位置信息,直至得到目标数量个目标图像,将得到的最后一个目标图像确定为所述医学图像去除所述金属伪影后的图像。
14.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以实现如权利要求1至12任一项所述的图像处理方法中所执行的操作。
15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行,以实现如权利要求1至12任一项所述的图像处理方法中所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110643333.6A CN113256529B (zh) | 2021-06-09 | 2021-06-09 | 图像处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110643333.6A CN113256529B (zh) | 2021-06-09 | 2021-06-09 | 图像处理方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113256529A CN113256529A (zh) | 2021-08-13 |
CN113256529B true CN113256529B (zh) | 2021-10-15 |
Family
ID=77187400
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110643333.6A Active CN113256529B (zh) | 2021-06-09 | 2021-06-09 | 图像处理方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113256529B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113902824B (zh) * | 2021-10-12 | 2022-10-28 | 哈尔滨工业大学 | 一种血管内光学相干断层扫描的导丝伪影去除方法 |
CN116684645A (zh) * | 2022-02-22 | 2023-09-01 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
CN115115724A (zh) * | 2022-04-19 | 2022-09-27 | 腾讯医疗健康(深圳)有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
CN114742836B (zh) * | 2022-06-13 | 2022-09-09 | 浙江太美医疗科技股份有限公司 | 医学图像的处理方法、装置及计算机设备 |
CN116228916B (zh) * | 2023-05-10 | 2023-07-11 | 中日友好医院(中日友好临床医学研究所) | 一种图像去金属伪影方法、系统及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106909947A (zh) * | 2017-03-03 | 2017-06-30 | 中南大学 | 基于Mean Shift算法的CT图像金属伪影消除方法及消除系统 |
CN110677649A (zh) * | 2019-10-16 | 2020-01-10 | 腾讯科技(深圳)有限公司 | 基于机器学习的去伪影方法、去伪影模型训练方法及装置 |
CN110796613A (zh) * | 2019-10-10 | 2020-02-14 | 东软医疗系统股份有限公司 | 一种图像伪影的自动识别方法及装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8756566B2 (en) * | 2011-11-02 | 2014-06-17 | International Business Machines Corporation | Parallel development of a software system |
US9620082B2 (en) * | 2015-05-15 | 2017-04-11 | Hewlett-Packard Development Company, L.P. | Correcting artifacts on a display |
US10515433B1 (en) * | 2016-12-13 | 2019-12-24 | Palantir Technologies Inc. | Zoom-adaptive data granularity to achieve a flexible high-performance interface for a geospatial mapping system |
US10489907B2 (en) * | 2017-11-13 | 2019-11-26 | Siemens Healthcare Gmbh | Artifact identification and/or correction for medical imaging |
US20210056688A1 (en) * | 2018-01-26 | 2021-02-25 | Koninklijke Philips N.V. | Using deep learning to reduce metal artifacts |
CN109166161B (zh) * | 2018-07-04 | 2023-06-30 | 东南大学 | 一种基于噪声伪影抑制卷积神经网络的低剂量ct图像处理系统 |
CN110969633B (zh) * | 2019-11-28 | 2024-02-27 | 南京安科医疗科技有限公司 | 一种心脏ct成像自动最优相位识别方法 |
CN111798440A (zh) * | 2020-07-11 | 2020-10-20 | 大连东软教育科技集团有限公司 | 医学图像伪影自动识别方法、系统及存储介质 |
-
2021
- 2021-06-09 CN CN202110643333.6A patent/CN113256529B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106909947A (zh) * | 2017-03-03 | 2017-06-30 | 中南大学 | 基于Mean Shift算法的CT图像金属伪影消除方法及消除系统 |
CN110796613A (zh) * | 2019-10-10 | 2020-02-14 | 东软医疗系统股份有限公司 | 一种图像伪影的自动识别方法及装置 |
CN110677649A (zh) * | 2019-10-16 | 2020-01-10 | 腾讯科技(深圳)有限公司 | 基于机器学习的去伪影方法、去伪影模型训练方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113256529A (zh) | 2021-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113256529B (zh) | 图像处理方法、装置、计算机设备及存储介质 | |
JP6929047B2 (ja) | 画像処理装置、情報処理方法及びプログラム | |
CN112308200B (zh) | 神经网络的搜索方法及装置 | |
US20220222776A1 (en) | Multi-Stage Multi-Reference Bootstrapping for Video Super-Resolution | |
Zhang et al. | Non-local kernel regression for image and video restoration | |
WO2022134971A1 (zh) | 一种降噪模型的训练方法及相关装置 | |
CN111340077B (zh) | 基于注意力机制的视差图获取方法和装置 | |
CN107688783B (zh) | 3d图像检测方法、装置、电子设备及计算机可读介质 | |
JP2023533907A (ja) | 自己注意ベースのニューラルネットワークを使用した画像処理 | |
CN114863225B (zh) | 图像处理模型训练方法、生成方法、装置、设备及介质 | |
Guan et al. | Srdgan: learning the noise prior for super resolution with dual generative adversarial networks | |
Wang et al. | Super-resolution of multi-observed RGB-D images based on nonlocal regression and total variation | |
WO2023202285A1 (zh) | 图像处理方法、装置、计算机设备及存储介质 | |
Li et al. | Single image dehazing with an independent detail-recovery network | |
CN114170290A (zh) | 图像的处理方法及相关设备 | |
Nguyen et al. | Single image super-resolution via a dual interactive implicit neural network | |
JP2019023798A (ja) | 超解像装置およびプログラム | |
Ali et al. | Boundary-constrained robust regularization for single image dehazing | |
CN117011137A (zh) | 基于rgb相似度特征匹配的图像拼接方法、装置及设备 | |
CN110738677A (zh) | 相机全清晰成像方法、装置与电子设备 | |
Van Vo et al. | High dynamic range video synthesis using superpixel-based illuminance-invariant motion estimation | |
CN113469880A (zh) | 图像拼接方法及装置、存储介质及电子设备 | |
Dong et al. | Bayesian Deep Learning for Image Reconstruction: From structured sparsity to uncertainty estimation | |
CN111798385A (zh) | 图像处理方法及装置、计算机可读介质和电子设备 | |
Sevcenco et al. | Light field editing in the gradient domain |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40050619 Country of ref document: HK |