CN115880157B - 一种k空间金字塔特征融合的立体图像超分辨率重建方法 - Google Patents
一种k空间金字塔特征融合的立体图像超分辨率重建方法 Download PDFInfo
- Publication number
- CN115880157B CN115880157B CN202310016320.5A CN202310016320A CN115880157B CN 115880157 B CN115880157 B CN 115880157B CN 202310016320 A CN202310016320 A CN 202310016320A CN 115880157 B CN115880157 B CN 115880157B
- Authority
- CN
- China
- Prior art keywords
- sub
- resolution
- image
- image block
- super
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
Abstract
本发明公开了一种K空间金字塔特征融合的立体图像超分辨率重建方法,属于深度学习技术领域。本发明利用基于K空间频域细节评级,将不同3D立体图像子图像块进行细节难度评级分组,根据细节复杂度构建并训练不同的超分辨率重建网络;采用基于K空间核预测网络代替传统卷积神经网络,使得超分辨率重建网络对图像细节加以重视;在超分辨率重建网络中引入金字塔频域特征融合的理念,提取3D立体图像在不同分辨率下的特征张量;利用小波函数,对不同分辨率的金字塔频域特征进行融合;在小波分解后低频系数矩阵的融合方法上加以创新,使其得到更好的融合效果。本发明使得3D立体图像的重建效率和精度均得到了有效提升。
Description
技术领域
本发明涉及深度学习和图像超分辨率重建相结合的技术领域,具体地涉及一种基于K空间细节评级及特征融合的图像超分辨率重建方法。
背景技术
图像超分辨率(Super Resolution, SR)重建技术是利用一系列技术手段,完成从单帧或多帧(序列)低分辨率(Low Resolution, LR)图像中恢复出高分辨率(HighResolution, HR)图像的任务。超分辨率重建技术在大大降低成本的情况下,克服成像设备和远程传输设备等硬件条件限制,提供理想的高分辨率图片。
医学图像超分辨率重建技术需求场景极多,医学检测过程中采集到的大量低分辨率图像,严重影响医生对病例病因的判断。因此,可通过计算机对图像进行超分辨率重建处理,得到具有细节特征更加丰富的高分辨率图像,辅助医生诊断。高分辨率的3D医学图像能提供器官或组织的详细结构信息,有助于临床诊断、决策和精确的定量图像分析。由于硬件设备等物理条件的限制,医学成像存在扫描时间长、低信噪比等缺点,医学图像的超分辨率重建算法能更有效地解决上述问题。由于直接学习从低维空间到高维空间的映射存在困难,利用传统的上采样算法获得更高分辨率的图像,利用深度神经网络进行细化。图像插值,又称图像缩放,是指调整3D图像的大小,传统的插值方法包括最近邻插值、双线性和双立方插值,由于这些方法可解释性强,易于实现,因此其中一些方法仍被广泛用于基于卷积神经网络(Convolutional Neural Network, CNN)的SR模型中,为了克服基于插值方法的缺点,以端到端的方式学习上采样,在SR领域引入了转置卷积层和亚像素层。利用超分辨率重建技术提高医学图像的分辨率,可以大大提高诊断质量,同时节省设备升级所需的材料和资金。
然而目前3D图像相对于2D图像,重建参数量和计算量都大幅度提高,传统深度学习模型存在参数繁多、运算耗时久、占用体积大的问题,在不同复杂度的图像上运用不同网络,细节越多的图像用越复杂的网络进行特征提取重建。因此,目前的重建模型和方法都会随着重建对象的复杂程度变的越来越复杂,重建效率不高。
发明内容
一种K空间金字塔特征融合的立体图像超分辨率重建方法,该方法包括以下步骤:
S1:收集3D立体图像数据集,将该数据集分为训练集和测试集;
S2:对所述3D立体图像数据集划分为子区域,再基于K空间频域细节评级;
S3:搭建基于K空间核预测网络的超分辨率重建模型,首先提取不同分辨率金字塔频域特征;
S4:再以小波函数对不同分辨率的金字塔频域特征融合;
S5:由训练集训练所述超分辨率重建模型,将训练好的重建模型用于测试集测试,输出3D立体图像超分辨率重建结果。
进一步的,所述S2中,所述频域细节评级为建立一个判别网络,针对3D立体图像中子图像块重建问题根据其细节难度评级分组。
更进一步的,所述S2具体如下:
S2-2:训练一个卷积判别神经网络对分割后的子图像块重建的细节难度评级分组, 具体为:
在自动标签子图像块基础上选择训练样本进行人工核验,由手动标签辅助进一步正确划分训练子图像块,归位训练网络;
(2)构建卷积判别网络进行3D立体图像子图像块K空间细节复杂度评级,以卷积神经网络为基础,对训练子图像块K空间特征表示进行随机滤波数据扩增,并采用傅里叶逆变换得到多个重采样数据,
(3)将该重采样训练数据集合作为输入,将对应的人工标注细节评
级作为理想输出,经过判别网络卷积层、残差层和ReLU激活层,训练网络得到网络特征编码,其中表示经过卷积判别网络层的运算结果,最后采用softmax
函数获得实际判别输出,
进一步的,所述S3具体为:
S3-1:建立超分辨率重建网络模型,从原始分辨率3D立体图像数据集I中随机选取M张图像,构建高分辨率样本集作为训练输出,其中高分辨率3D立体
图像的尺寸为;将高分辨率3D立体图像训练样本集划分为个尺寸为的子图像块,将进行1/m倍下采样
获取其对应的低分辨率样本集作为训练输入,其中低分辨率3D立体
图像的尺寸为;将低分辨率3D立体图像训练样本集划分为个尺寸为的子图像块集合;
S3-2:对细节评级归入为的低分辨率3D立体图像子图像块集合,将其第v个训
练样本输入到超分辨率重建网络中,,V为中子图像块的数目;经由
卷积提取原始分辨率特征,依据金字塔特征组成p层多分辨率张量集合,其中代表经过次
1/m倍下采样的特征,,对上述多分辨率张量集合再次提取卷积特征,得到多
分辨率卷积特征张量集合,第层卷积特征张量
,再次经由卷积获取K空间核函数超分辨率张量集合,其中第层
的K空间核函数张量,进一步将K空间核函数张量集合对应到相应的高分辨率输出子图像块张量集合中,如下式所示:
进一步的,所述S4中,所述小波函数的具体操作为:
S4-1:对于所述K空间核预测超分辨率重建网络模型,以小波函数对不同分辨率的金字塔频域特征融合;
S4-1:对于所述K空间核预测超分辨率重建网络模型,以小波函数对不同分辨率的金字塔频域特征融合;
对低分辨率3D立体图像子图像块输出的高分辨率子图像块张量集合,将输出张量二次线性插值上采样得到,使得, 尺寸保持一致,对张量对,进行离散小波分解,得到低频系数矩阵,
和高频系数矩阵,,其中J表示分解层数,, 将低频系数矩阵,
分别在水平、垂直、竖直三个方向上卷积,
对低频融合系数矩阵和高频融合系数矩阵进行小波逆变换得到p-1级高
分辨率融合子图像块张量;同理,经过上述上采样步骤进一步与张量得到p-2级融合子图像块张量,以此类推,最终1级融合子图像块张量与张量融合,
得到由低分辨率3D立体图像子图像块预测的高分辨率3D立体图像子图像块输出;
S4-2:针对所有低分辨率3D立体图像子图像块集合、、训练各自的超分
辨率重建网络,得到预测的高分辨率3D立体图像子图像块集合、、,根据3D立
体图像分割前的位置信息将高分辨率预测结果拼接,得到重建后的高分辨率3D立体图像数
据集。
进一步的,所述S3中,所述超分辨率重建网络模型以K空间核预测网络为基础,基
于金字塔特征提取,以小波函数对不同分辨率的金字塔频域特征融合,其损失函数L由加权
的均方误差损失函数和结构相似性损失函数构成,如下式所示:
本发明的优点和有益效果:
本发明利用基于K空间频域细节评级,将不同3D立体图像子图像块进行细节难度评级分组,根据细节复杂度构建并训练不同的超分辨率重建网络,可以大幅度减少计算量;采用基于K空间核预测网络代替传统卷积神经网络,减少了3D立体图像中大量的伪影和噪声问题,使得超分辨率重建网络对图像细节加以重视;在超分辨率重建网络中引入金字塔频域特征融合的理念,提取3D立体图像在不同分辨率下的特征张量;最后利用小波函数,对不同分辨率的金字塔频域特征进行融合;为了能更好的重建3D立体图像的低频信息,在小波分解后低频系数矩阵的融合方法上加以创新,使其得到更好的融合效果。
本发明在体素多且细节重建难度大的3D立体图像中,获得了更好的超分辨率重建效果,通过对输入的3D立体图像进行K空间频域细节评级,大大减少了运算量,并对图像细节加以重视,采用金字塔频域特征融合思想,使得3D立体图像的重建效率和精度均得到了有效提升。
附图说明
图1为超分辨率重建网络模型层级结构图。
具体实施方式
为使本发明的目的、实施方案和优点更为清晰,下面结合附图来进一步详细说明本发明。
实施例1:
一种K空间金字塔特征融合的立体图像超分辨率重建方法,其特征在于,该方法包括以下步骤:
步骤一、制作大脑3D-MRI图像数据集,包括如下步骤:
收集大脑3D-MRI图像数据集,将数据集分为训练集和测试集;
从中构建大脑3D-MRI图像数据集高分辨率样本集作为训练输出,其中高分辨率3D立体图像的尺寸为
;将高分辨率3D立体图像训练样本集I H 划分为个尺寸为的子图像块,将进行1/m倍下采样获取其对应的低分辨
率样本集作为训练输入,其中低分辨率3D立体图像的尺寸为;将低分辨率3D立体图像训练样本集I L 划分为个尺寸为的子图
像块集合;
在自动标签子图像块基础上选择训练样本进行人工核验,针对大脑3D-MRI图像的细节加入人工权重,由手动标签辅助进一步正确划分训练子图像块,归位训练网络。
对细节评级归入为的低分辨率3D立体图像子图像块集合,将其第v个训练样本输入到超分辨率重建网络中,,V为中子图像块的数目;经由卷积提
取原始分辨率特征,依据金字塔特征组成p层多分辨率张量集合,其中代表经过次
1/m倍下采样的特征,,对上述多分辨率张量集合再次提取卷积特征,得到多
分辨率卷积特征张量集合,第层卷积特征张量
,再次经由卷积获取K空间核函数超分辨率张量集合,其中第层
的K空间核函数张量,进一步将K空间核函数张量集合对应到相应的高分辨率输出子图像块张量集合中,如下式所示:
对低分辨率3D立体图像子图像块输出的高分辨率子图像块张量集合,将输出张量二次线性插值上采样得到,使得, 尺寸保持一致,对张量对,进行离散小波分解,得到低频系数矩阵,
和高频系数矩阵,,其中J表示分解层数,, 将低频系数矩阵,
分别在水平、垂直、竖直三个方向上卷积,
对低频融合系数矩阵和高频融合系数矩阵进行小波逆变换得到p-1级高
分辨率融合子图像块张量;同理,经过上述上采样步骤进一步与张量得到p-2级融合子图像块张量,以此类推,最终1级融合子图像块张量与张量融合,
得到由低分辨率3D立体图像子图像块预测的高分辨率3D立体图像子图像块输出;
针对所有低分辨率3D立体图像子图像块集合、、训练各自的超分辨率
重建网络,得到预测的高分辨率3D立体图像子图像块集合、、,根据3D立体图
像分割前的位置信息将高分辨率预测结果拼接,得到重建后的高分辨率3D立体图像数据集。
经过以上步骤,可以实现大脑3D-MRI图像超分辨率重建。
在上述实施例的基础上,本发明继续对其中涉及到的技术特征及该技术特征在本发明中所起到的功能、作用进行详细的描述,以帮助本领域的技术人员充分理解本发明的技术方案并且予以重现。
Claims (5)
1.一种K空间金字塔特征融合的立体图像超分辨率重建方法,其特征在于,该方法包括以下步骤:
S1:收集3D立体图像数据集,将该数据集分为训练集和测试集;
S2:对所述3D立体图像数据集划分为子区域,再基于K空间频域细节评级;
S3:搭建基于K空间核预测网络的超分辨率重建模型,首先提取不同分辨率金字塔频域特征;具体为:
S3-1:建立超分辨率重建网络模型,从原始分辨率3D立体图像数据集I中随机选取M张图像,构建高分辨率样本集作为训练输出,其中高分辨率3D立体图像/>的尺寸为{h′a×w′a×d′a};将高分辨率3D立体图像训练样本集IH划分为G′个尺寸为D×D×D的子图像块/>将/>进行1/m倍下采样获取其对应的低分辨率样本集/>作为训练输入,其中低分辨率3D立体图像/>的尺寸为/>将低分辨率3D立体图像训练样本集IL划分为G′个尺寸为的子图像块集合/>
高分辨率3D立体图像子图像块集合BH经过卷积判别网络得到不同等级的细节评级数据集BHD、BHM、BHE,低分辨率3D立体图像子图像块集合BL一一对应归位为BLD、BLM、BLE,根据细节复杂度构建并训练不同的超分辨率重建网络gD、gM、gE;
S3-2:对细节评级归入为BLD的低分辨率3D立体图像子图像块集合,将其第v个训练样本输入到超分辨率重建网络gD中,v=0,1,…,V,V为BLD中子图像块的数目;经由卷积提取原始分辨率特征/>依据金字塔特征组成p层多分辨率张量集合其中/>代表/>经过η次1/m倍下采样的特征,η=0,1,…,p,对上述多分辨率张量集合再次提取卷积特征,得到多分辨率卷积特征张量集合/>第η层卷积特征张量/>再次经由卷积获取K空间核函数超分辨率张量集合/>其中第η层的K空间核函数张量/>进一步将K空间核函数张量集合对应到相应的高分辨率输出子图像块张量集合中,如下式所示:
对细节评级归入为BLM、BLE的低分辨率3D立体图像子图像块集合,分别送入到超分辨率重建网络gM、gE中训练,BLM中的第r个训练样本和BLE中的第n个训练样本/>经过上述操作分别得到相应的高分辨率输出子图像块张量集合/>和/>
S4:再以小波函数对不同分辨率的金字塔频域特征融合;
S5:由训练集训练所述超分辨率重建模型,将训练好的重建模型用于测试集测试,输出3D立体图像超分辨率重建结果。
2.如权利要求1所述的立体图像超分辨率重建方法,其特征在于,所述S2中,所述频域细节评级为建立一个判别网络,针对3D立体图像中子图像块重建问题根据其细节难度评级分组。
3.如权利要求2所述的立体图像超分辨率重建方法,其特征在于,所述S2具体如下:
S2-1:收集原始分辨率3D立体图像数据集I={I1,…,Ia,…,IA},其中A代表数据集中图像总数量,其中第a张图像Ia的尺寸为{ha×wa×da},a=1,2,…,A,设D为待分割的图像块尺寸,将数据集中3D立体图像分割为G个同等大小D×D×D的子图像块B={B1,...,Bb,...,BG},其中
S2-2:训练一个卷积判别神经网络对分割后的子图像块重建的细节难度评级分组,具体为:
(1)将3D立体图像子图像块数据集B标签化,划分为不同细节难度等级的集合;BD表示该子图像块集细节普遍较多;BM表示该子图像块集细节适中;BL表示该子图像块集细节普遍较少;
其中(i,j,k)表示子图像块Bb在(i,j,k)坐标位置的体素值,和/>分别代表低频、中频、高频幅值占比,λ,ρ分别代表低频分量和高频分量范围,根据/>和/>初步确认该子图像块Bb的细节复杂度并对其自动分级到BD、BM、BL;
在自动标签子图像块基础上选择训练样本进行人工核验,由手动标签辅助进一步正确划分训练子图像块,归位训练网络;
(2)构建卷积判别网络进行3D立体图像子图像块K空间细节复杂度评级,以卷积神经网络为基础,对训练子图像块K空间特征表示进行随机滤波数据扩增,并采用傅里叶逆变换得到多个重采样数据,
(3)将该重采样训练数据集合作为输入,将对应的人工标注细节评级作为理想输出,经过判别网络卷积层、残差层和ReLU激活层,训练网络得到网络特征编码其中F(·)表示经过卷积判别网络层的运算结果,最后采用softmax函数获得实际判别输出,
其中ξb代表卷积判别网络实际输出的细节评级预测复杂度值,最终根据ξb值确定3D立体图像子图像块的细节评级。
4.如权利要求1所述的立体图像超分辨率重建方法,其特征在于,所述S4中,所述小波函数的具体操作为:
S4-1:对于所述K空间核预测超分辨率重建网络模型,以小波函数对不同分辨率的金字塔频域特征融合;
对低分辨率3D立体图像子图像块输出的高分辨率子图像块张量集合将输出张量/>二次线性插值上采样得到/>使得/>尺寸保持一致,对张量对/>进行离散小波分解,得到低频系数矩阵/>和高频系数矩阵/>其中J表示分解层数,J=1,2…,将低频系数矩阵/>分别在水平、垂直、竖直三个方向上卷积,
Py=[(aT-aT)(aT-aT)] (10)
对低频融合系数矩阵和高频融合系数矩阵/>进行小波逆变换得到p-1级高分辨率融合子图像块张量/>同理,/>经过上述上采样步骤进一步与张量/>得到p-2级融合子图像块张量/>以此类推,最终1级融合子图像块张量/>与张量/>融合,得到由低分辨率3D立体图像子图像块/>预测的高分辨率3D立体图像子图像块输出/>
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310016320.5A CN115880157B (zh) | 2023-01-06 | 2023-01-06 | 一种k空间金字塔特征融合的立体图像超分辨率重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310016320.5A CN115880157B (zh) | 2023-01-06 | 2023-01-06 | 一种k空间金字塔特征融合的立体图像超分辨率重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115880157A CN115880157A (zh) | 2023-03-31 |
CN115880157B true CN115880157B (zh) | 2023-05-26 |
Family
ID=85758111
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310016320.5A Active CN115880157B (zh) | 2023-01-06 | 2023-01-06 | 一种k空间金字塔特征融合的立体图像超分辨率重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115880157B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109741256A (zh) * | 2018-12-13 | 2019-05-10 | 西安电子科技大学 | 基于稀疏表示和深度学习的图像超分辨率重建方法 |
CN111932460A (zh) * | 2020-08-10 | 2020-11-13 | 北京大学深圳医院 | Mr图像超分辨率重建方法、装置、计算机设备及存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9589323B1 (en) * | 2015-08-14 | 2017-03-07 | Sharp Laboratories Of America, Inc. | Super resolution image enhancement technique |
WO2017219263A1 (zh) * | 2016-06-22 | 2017-12-28 | 中国科学院自动化研究所 | 基于双向递归卷积神经网络的图像超分辨率增强方法 |
CN109767386A (zh) * | 2018-12-22 | 2019-05-17 | 昆明理工大学 | 一种基于深度学习的快速图像超分辨率重建方法 |
CN110473144B (zh) * | 2019-08-07 | 2023-04-25 | 南京信息工程大学 | 一种基于拉普拉斯金字塔网络的图像超分辨率重建方法 |
CN111192193B (zh) * | 2019-11-26 | 2022-02-01 | 西安电子科技大学 | 一种基于1维-2维卷积神经网络高光谱单图超分辨方法 |
CN113674143A (zh) * | 2020-05-13 | 2021-11-19 | 深圳市中兴微电子技术有限公司 | 图像超分辨率处理方法、装置、设备及存储介质 |
CN112767253B (zh) * | 2021-02-05 | 2022-05-24 | 西南科技大学 | 一种多尺度特征融合的双目图像超分辨率重建方法 |
CN115115722A (zh) * | 2021-03-17 | 2022-09-27 | 中国科学院深圳先进技术研究院 | 图像重建模型生成及图像重建方法、装置、设备和介质 |
CN114792287A (zh) * | 2022-03-25 | 2022-07-26 | 南京航空航天大学 | 一种基于多图像融合的医学超声图像超分辨率重建方法 |
-
2023
- 2023-01-06 CN CN202310016320.5A patent/CN115880157B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109741256A (zh) * | 2018-12-13 | 2019-05-10 | 西安电子科技大学 | 基于稀疏表示和深度学习的图像超分辨率重建方法 |
CN111932460A (zh) * | 2020-08-10 | 2020-11-13 | 北京大学深圳医院 | Mr图像超分辨率重建方法、装置、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115880157A (zh) | 2023-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109191476B (zh) | 基于U-net网络结构的生物医学图像自动分割新方法 | |
CN110211045B (zh) | 基于srgan网络的超分辨率人脸图像重建方法 | |
CN110020989B (zh) | 一种基于深度学习的深度图像超分辨率重建方法 | |
CN110675321A (zh) | 一种基于渐进式的深度残差网络的超分辨率图像重建方法 | |
CN111932461B (zh) | 一种基于卷积神经网络的自学习图像超分辨率重建方法及系统 | |
CN109584161A (zh) | 基于通道注意力的卷积神经网络的遥感图像超分辨率重建方法 | |
CN111161273A (zh) | 一种基于深度学习的医学超声图像分割方法 | |
CN106952228A (zh) | 基于图像非局部自相似性的单幅图像的超分辨率重建方法 | |
CN109214989A (zh) | 基于多方向特征预测先验的单幅图像超分辨率重建方法 | |
CN109727195A (zh) | 一种图像超分辨率重构方法 | |
CN112508953B (zh) | 基于深度神经网络的脑膜瘤快速分割定性方法 | |
CN113298718A (zh) | 一种单幅图像超分辨率重建方法及系统 | |
CN109636721A (zh) | 基于对抗学习和注意力机制的视频超分辨率方法 | |
Luo et al. | Lattice network for lightweight image restoration | |
CN111861886B (zh) | 一种基于多尺度反馈网络的图像超分辨率重建方法 | |
CN113763406B (zh) | 基于半监督学习的婴儿脑mri分割方法 | |
CN114841856A (zh) | 基于深度残差通道空间注意力的密集连接网络的图像超像素重建方法 | |
CN111861884A (zh) | 一种基于深度学习的卫星云图超分辨率重建方法 | |
CN111833261A (zh) | 一种基于注意力的生成对抗网络的图像超分辨率复原方法 | |
CN116029902A (zh) | 一种基于知识蒸馏的无监督真实世界图像超分辨方法 | |
CN116563100A (zh) | 一种基于内核引导网络的盲超分辨率重建方法 | |
CN111179275A (zh) | 一种医学超声图像分割方法 | |
CN104992407B (zh) | 一种图像超分辨方法 | |
CN115578427A (zh) | 基于深度学习的无监督单模态医学图像配准方法 | |
CN114066729A (zh) | 一种可恢复身份信息的人脸超分辨率重建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |