CN109919838A - 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 - Google Patents

基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 Download PDF

Info

Publication number
CN109919838A
CN109919838A CN201910045687.3A CN201910045687A CN109919838A CN 109919838 A CN109919838 A CN 109919838A CN 201910045687 A CN201910045687 A CN 201910045687A CN 109919838 A CN109919838 A CN 109919838A
Authority
CN
China
Prior art keywords
network
feature
ultrasound image
resolution
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910045687.3A
Other languages
English (en)
Other versions
CN109919838B (zh
Inventor
刘娇蛟
李薿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201910045687.3A priority Critical patent/CN109919838B/zh
Publication of CN109919838A publication Critical patent/CN109919838A/zh
Application granted granted Critical
Publication of CN109919838B publication Critical patent/CN109919838B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明公开了一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,包括:S1:数据采集;S2:网络构建;S3:网络初始化;S4:网络训练;S5:超分辨率图像重建。在现有特征提取重建网络的基础上,该方法搭建另一级并联的编码‑解码结构的注意力机制网络,利用普通卷积和空洞卷积,更好地获取超声图像中的高频信息。将这两级网络特征合并,利用卷积提取最后的图像特征,构成超分辨率重建网络。本发明通过两级并联网络,利用注意力机制网络定位高频信息的具体位置,可以有效区分超声图像中组织交界面和组织区域,提升超声图像中组织接触面的边缘重建清晰度,解决重建超声图像的轮廓模糊问题。

Description

基于注意力机制提升轮廓清晰度的超声图像超分辨率重建 方法
技术领域
本发明属于图像超分辨率重建和深度学习的技术领域,具体涉及一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法。
背景技术
超声成像是利用超声波束扫描,通过对反射信号的接收、处理,获得扫描图像。其相干本质导致超声扫描结果会产生斑点噪声的退化效应,而且超声波束成形的带宽受限特性会造成图像空间分辨率降低,这些原因导致了超声成像的对比度降低,超声图像中轮廓信息的模糊化。然而,超声成像广泛用于医学的辅助诊断,例如:在肿瘤检测中,超声图像中肿瘤轮廓的模糊容易导致误诊。为提升超声医疗诊断的准确性,就需要获得轮廓比较清晰的超声图像。因此,实际应用中有必要对超声图像进行超分辨率重建,即在平滑噪声的同时凸显超声图像中的轮廓信息,达到辅助医疗诊断的效果。
图像超分辨率重建技术是为了突破成像设备和环境的限制,从低分辨率的观测图像中提取图像的相关信息,重建高分辨率的图像。该技术在医疗图像领域已经有所应用,在斑点去噪方面取得了还不错的成果。
现在图像超分辨率重建的方法主要有三种:基于插值的方法,基于重建的方法,基于学习的方法。其中:
基于插值的方法,这是超分辨率研究当中最直观的方法,这类方法的优点是简单易行,适合并联计算,但是因为不能够引入额外有用的高频信息,在超声图像的超分辨率图像重建中容易产生图像模糊或者是锯齿状的现象,达不到超声图像重建的技术要求。
基于重建模型的方法,是通过建模图像的退化模型来约束高、低分辨率图像变量之间的一致性,进而估计出高分辨率图像。这类方法通过正则项约束来获得稳定的解。但是这类方法中,加入强制性先验信息,会破坏图像的原始结构特征,导致重建图像失真。而且这类算法的计算复杂度高,无法达到超声图像重建中实时处理的要求。
基于学习的方法,是通过对低分辨率和高分辨率图像训练集合进行训练,学习低分辨率图像到高分辨率图像之间的映射关系,来重建高分辨率的超声图像。
到目前为止,人们提出很多基于学习方法都可以适用到超声图像的超分辨率图像重建当中。其中基于机器学习的方法因为能够通过优化算法自适应学习模型的参数,具有强大的图像重建能力,逐渐成为超分辨率重建中的研究热点。早期提出的机器学习是基于字典的学习方法,这类常采用稀疏编码的方式,但是由于受限于字典学习的线性表示能力,导致对超声图像的超分辨率图像重建效果有限。最近几年,得益于深度学习的发展,超分辨率重建方法当中涌现如FSRCNN,DRCN,VDSR,EDSR等有效的网络结构。但是这些重建算法虽然都有效平滑了图像中的噪点,但是缺少定位高频信息的网络模块,导致重建的超声图像中组织的轮廓比较模糊,达不到超声图像重建的预期效果。
综上所述,如何利用低分辨率图像的高频信息来重建超声图像轮廓部分,是利用超声图像辅助医疗诊断中亟待解决的问题。
发明内容
本发明所要解决的技术问题是,如何有效利用低分辨率图像中的高频信息,提升重建高分辨率图像的轮廓清晰度,从而达到辅助医疗诊断的效果。
超声图像当中的高频信息一般指组织交界面以及组织的轮廓信息。在图像特征提取网络当中,高频信息一般存在于网络提取的浅层特征中。浅层特征一般包括亮度、线条等特征。这些浅层特征通常在卷积网络的前几层获取,但是在超声图像超分辨率重建中往往没有被很好地利用。
为重建轮廓清晰度高的超声图像,本发明提出了一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法。本发明采用编码-解码结构的注意力机制网络,该网络从浅层特征的高频信息中定位超声图像中不同组织的轮廓信息。在编码网络中,首先通过卷积,提取超声图像中的浅层特征,再利用多个并联的空洞卷积,提升学习模型对超声图像的感受野,来获得图像的深层特征,即语义特征。在解码网络中将编码网络获得的深层特征与浅层特征合并,利用卷积提取超声图像的高频信息,再经过归一化函数之后输出特征的权重矩阵。注意力机制网络输出的权重矩阵与特征重建网络输出的特征经过对应元素间相乘后,通过残差与双三次插值后得到的原始图像进行连接。这能够让注意力机制网络侧重学习超声图像中组织轮廓的高频信息位置。
本发明方法包含两级并联的神经网络,在超分辨率重建中现有的特征提取以及超分辨率重建的串联网络基础上,并联搭建另一级注意力机制网络实现超声图像轮廓高频信息的定位。将这两级网络学习的超声图像特征对应元素相乘,得到新的图像特征。所得的特征与低分辨率双三次插值超声图像特征做残差连接后,再和低分辨率双三次插值特征合并,送入卷积层,得到最终重建的超分辨率超声图像。
本发明方法具体包括以下步骤:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集;
S2:网络构建,具体包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,即特征重建网络和注意力机制网络;
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入上述网络,利用梯度下降更新网络参数,直至网络收敛;
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
进一步地,所述的步骤S1具体包括:
S11:对高分辨率的超声图像进行下采样,获得相应低分辨率超声图像,对数据集进行训练集和验证集划分;
S12:采用数据增强的方法,对训练集进行左右翻转,上下翻转等操作,增加训练集样本数量。
进一步地,所述的步骤S2中构建的网络,具体包括:
S21:图像插值单元,对网络输入的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S23:注意力机制网络,具有编码-解码的网络结构,对H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S24:全局残差单元,将S22网络得到的H1与S23网络得到的Ma做元素间相乘,得到高频信息加权特征张量H2;H2与S21得到的H0做元素间相加,得到新的高分辨率的图像特征H3;最后将H3和H0合并,得到高分辨率图像重建特征H4
S25:卷积输出单元,利用卷积层,对S24得到的特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
进一步地,所述的S22中的特征重建网络,具体包括:
S221:特征提取网络,由七层残差模块串联而成,并且将残差输出利用Dense连接,从低分辨率的超声图像中提取特征Fp
S222:超分辨率重建网络,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
进一步地,所述的S23中的注意力机制网络,具体包括:
S231:编码-解码的网络结构中,编码网络主要从浅层特征中提取语义特征Fen
S232:编码-解码地网络结构中,解码网络主要将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
进一步地,S231中所述的编码网络,具体如下:
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取H0中的浅层特征FL
S2312:语义特征提取单元,采用普通卷积和空洞卷积从FL中提取语义特征Fen
进一步地,S232中所述的解码网络,具体如下:
S2321:高频特征提取单元,利用卷积,从编码网络中的浅层特征FL,提取高频特征FdL
S2322:语义特征缩放单元,利用卷积,对编码网络输出地语义特征Fen进行特征重组,变换特征维度,再与FdL拼接,得到富含高频信息的特征FdH
S2323:利用卷积,对FdH进行特征维度的操作,然后进行双三次插值后得到含有高频定位信息的特征Hd。最后对这个特征张量进行归一化操作,生成权重矩阵Ma
进一步地,所述步骤S4中的网络训练,具体包括:
S41:将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1loss,即真实图像和重建图像对应像素点之差绝对值的均值;
S43:利用L1loss进行反向传播,利用梯度下降的方法更新网络参数,直至网络收敛。
本发明采用以上技术方案,首次将注意力机制用于超声图像超分辨率重建当中。利用注意力机制网络,对超声图像当中轮廓的高频信息定位,有效区分了超声图像当中的纹理部分和平滑部分。在平滑超声图像中噪点的同时,达到了更高质量超声图像中组织轮廓的重建效果,能够更好的帮助医疗诊断。
附图说明
图1是本发明方法的流程示意图;
图2是本发明的超分辨率重建网络结构示意图;
图3本发明方法的特征提取网络的网络结构示意图;
图4是本发明方法的超分辨率重建网络结构示意图;
图5是本发明方法的注意力机制网络结构示意图。
具体实施方式
下面结合附图对本发明的实施例作进一步说明,但本发明的实施不限于此。
如图1所示,本实施例提供一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,具体步骤如下:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集。
S11:本实施例中,数据集由超声医疗设备采集,所有的高分辨率的超声图像的尺寸大小一致,相应的低分辨率的超声图像由对高分辨率的超声图像进行下采样得到,高分辨率的超声图像的大小是低分辨的图像大小的3倍,即低分辨率的图像大小为48*48,高分辨率的图像大小为154*154,最后对该数据集进行训练集和验证集划分。
S12:本实例中,采用数据增强的方法,即对训练集进行左右翻转,上下翻转以及随机裁剪,亮度变化操作,增加训练集样本数量。
S2:网络构建,具体网络结构如图2所示,包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,即特征重建网络和注意力机制网络。
S21:图像插值单元,在本实施例中,对网络输入的48*48的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的154*154的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S221:特征提取网络,具体结构如图3所示,本实施例当中,特征提取由七层残差模块(block)串联而成,每个block结构如图3中block所示,为卷积->激活函数->卷积,并且每个block的输入和输出进行元素间相加,构成残差连接。本实施例当中,每个block中不同两层卷积的滤波数目一样,七层block的卷积滤波数目分别为96、78、64、64、64、56、48、32。利用这七个block从低分辨率的超声图像中提取特征,设第i个block的卷积层权重矩阵分别为W1 (i),W2 (i),偏置矩阵为对应的输入第i个block的特征为Fi (i),输出的特征为每个block的前向传播过程为:
其中*代表卷积操作,a代表非线性激活函数,且在本实施例当中采用PReLU。
并且将这七个block提取的特征进行Dense的拼接,得到超声图像特征Fp,具体公式如下:
其中为不同的block获得的特征。
S222:超分辨率重建网络,具体结构如图4所示,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
在本实施例中,并联的卷积模块包括,具体如图3前半部分所示,包括卷积->激活函数,作为α,卷积->激活函数->卷积->激活函数,作为β,激活函数在本实施例当中设置为PReLU。α和β的第一层卷积核大小都为1x1,滤波器数目为64,β的第二层卷积核大小为3x3,滤波器数目均为32。设在α模块当中的权重矩阵为Wα,偏置矩阵为bα,在β模块中的权重矩阵为Wβ1,Wβ2,偏置矩阵为bβ1,bβ2;这两个卷积模块获得的特征拼接后得到图像特征Fc,该特征作为子像素卷积模块的输入;具体的前向传播过程为:
Fα=a(Wα*Fp+bα);
Fβ=a(Wβ1*a(Wβ1*Fp+bβ1)+bβ2);
Fc=[Fα,Fβ],
其中,Fα为α模块提取的特征张量,Fβ为β模块提取的特征张量,Fc表明将这两个特征张量拼接到一起的特征张量。
本实施例中,子像素卷积模块具体如图3后半部分所示,具体构成为卷积->子像素乱序层。代替在超分辨率重建方法当中常用的反卷积模块作为上采样模块,获取重建的高分辨率图像特征H1。本实施例中,卷积核的大小为3x3,设置的滤波器的数量与重建高分辨率的超声图像当中的放大倍数r以及原来超声图像的通道数c对应关系是r2*c。设卷积的权重矩阵为Wsp,偏置矩阵为bsp,子像素乱序层的周期性乱序表示为PS,该层的具体前向传播过程为:
H1=PS(Wsp*Fc+bsp)。
S23:注意力机制网络,具体结构如图5所示,具有编码-解码的网络结构。该网络对H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S231:编码-解码的网络结构中,本实施例中,编码网络结构如图5的encoder部分所示,主要从浅层特征中提取语义特征Fen
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取H0中的浅层特征FL,在本实施例当中采用的是ResNet网络提取浅层特征;
S2312:语义特征提取单元,结构如图5所示,采用普通卷积和空洞卷积从FL中提取语义特征Fen;在本实施例中,具体包含并联的四层卷积操作,其中一层为普通卷积,另外三层为空洞卷积。空洞卷积的前向传播过程为y[i]=∑kx[i+r·k]w[k],x是输入的特征张量,y是输出的特征张量,i对应的是张量的二维平面所在的位置,r代表的是空洞卷积的空洞率,当r=1时,这里的卷积就是普通卷积形式,w表示卷积的权重矩阵。
空洞率可以根据图像最终下采样的倍数来决定大小,在本实施例中,空洞卷积采用6、8、16的空洞率。卷积核大小在这里选择3x3的大小,得到的特征张量分别为Fa1,Fa2,Fa3。设卷积核权重矩阵为Wa1,Wa2,Wa3,偏置矩阵为ba1,ba2,ba3,该网络层的前向计算过程为:Fa1=Wa1*FL+ba1,Fa2=Wa2*FL+ba2,Fa3=Wa3*FL+ba3,*在这里代表空洞卷积的操作,在其他地方均代表普通的卷积操作。
在本实施例中,采用卷积核大小为1x1的普通卷积,得到特征张量Fa0。设该卷积层的权重矩阵为Wa0,偏置矩阵为ba0,前向传播为Fa0=Wa0*FL+ba0
将这四层卷积获取的特征拼接,得到图像的语义特征Fa,即Fa=[Fa0,Fa1,Fa2,Fa3]。在本实施例当中将该特征经过一层1x1的卷积层,获得最终编码网络的输出图像特征Fen。设该卷积层的权重矩阵为Wa,偏置矩阵为ba,则Fen=Wa*Fa+ba
S232:编码-解码地网络结构中,解码网络结构如图5的decoder部分所示。主要将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
S2321:高频特征提取单元,在本实施例中,利用1x1d的卷积,从编码网络中的浅层特征FL,提取高频特征FdL。设该卷积层的权重矩阵为WdL,偏置矩阵为bdL,即得FdL=WdL*FL+bdL
S2322:语义特征缩放单元,在本实施例中,利用1x1的卷积,对编码网络输出地语义特征Fen进行特征重组,变换特征维度,再与FdL拼接,得到富含高频信息的特征FdH。设该卷积层的权重矩阵为Wd,偏置矩阵为bd,那么Fd=Wd*Fen+bd,FdH=[FdL,Fd]。
S2323:在本实施例中,为了获得合适的特征维度,利用1x1的卷积,对FdH进行特征维度操作,然后进行双三次插值后得到含有高频定位信息的特征Hd。最后对这个特征张量进行归一化操作,生成权重矩阵Ma。计算过程如下,设该层的权重矩阵为Wd,偏置矩阵为bd,那么Fd=Wd*FdH+bd,Hd=Bicubic(Fd),Bicubic代表双三次插值。在本实例中,归一化操作采用混合注意力机制的方法,即直接对Hd当中的每个元素做sigmoid操作,sigmoid函数为S(x)=exp(x)/1+exp(x),Ma=S(Hd)。
S24:全局残差单元,将S22网络得到的H1与S23网络得到的Ma做元素间相乘,得到高频信息加权特征张量H2,H2=Ma⊙H1,⊙代表对应元素相乘。H2与S21得到的H0做元素间相加,得到新的高分辨率的图像特征H3,H3=H0+H2。最后将H3和H0合并,得到高分辨率图像重建特征H4。
S25:卷积输出单元,利用卷积层,对S24得到的特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入上述网络,利用梯度下降更新网络参数,直至网络收敛。
S41:在本实施例中,将训练集中对应的低分辨率超声图像L1,L2,...,Ln和真实的超分辨率超声图像H1,H2,...,Hn输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1 loss,具体公式如公式(1)所示;
S43:在本实施例中,利用L1loss进行反向传播来最大化峰值信噪比(PSNR),L1loss具体公式如公式(1)所示:
其中n代表样本数目,k∈[1,n]设输入图像张量的大小为M x Nx C,则i∈[1,M],j∈[1,N],c∈[1,C]。
在本实施例中,采用Adam优化器更新网络参数,直至网络收敛。
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
本发明所公开的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,利用注意力机制网络,对超声图像当中轮廓的高频信息定位,有效区分了超声图像当中的纹理部分和平滑部分。在平滑超声图像中噪点的同时,达到了更高质量超声图像中组织轮廓的重建效果,能够更好的帮助医疗诊断。
以上实施方式仅用于说明本发明,而并非对本发明的限制,有关技术领域的普通技术人员,在不脱离本发明的精神和范围的情况下,还可以做出各种变化和变型,因此所有等同的技术方案也属于本发明的范畴,本发明的专利保护范围应由权利要求限定。

Claims (10)

1.一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,包括一个不完全对称的编码-解码结构的注意力机制网络;该网络中编码网络利用并行的普通卷积和空洞卷积结构,提取超声图像的深层语义特征,在编码网络中合并浅层特征和深层语义特征,合并的特征经过卷积,提取浅层特征中的高频信息,定位超声图像中组织边缘位置,得到超声图像轮廓高频信息位置的权重矩阵Ma
2.根据权利要求1所述的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,还包含两级并联的神经网络,在现有的特征提取重建网络和超分辨率重建串联网络的基础上,搭建另一级平行的注意力机制网络,实现超声图像轮廓高频信息的定位;将这两级网络学习的超声图像特征对应元素相乘,得到新的图像特征;所得的特征与低分辨率双三次插值超声图像特征做残差连接后,再和低分辨率双三次插值特征合并,送入卷积层,得到最终重建的超分辨率超声图像。
3.根据权利要求2述的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,包括具体以下步骤:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集;
S2:网络构建,具体包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,并联的两级网络即特征重建网络和注意力机制网络;
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入上述网络,利用梯度下降更新网络参数,直至网络收敛;
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
4.根据权利要求3所述的方法,其特征在于,所述的步骤S1进一步包括:
S11:对高分辨率的超声图像进行下采样,获得相应低分辨率超声图像,对数据集进行训练集和验证集划分;
S12:采用数据增强的方法,对训练集进行左右翻转,上下翻转等操作,增加训练集样本数量。
5.根据权利要求3所述的方法,其特征在于,所述的步骤S2中网络结构进一步包括:
S21:图像插值单元,对网络输入的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S23:注意力机制网络,具有编码-解码的网络结构,对H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S24:全局残差单元,将S22网络得到的H1与S23网络得到的Ma做元素间相乘,得到高频信息加权特征张量H2;H2与S21得到的H0做元素间相加,得到新的高分辨率的图像特征H3;最后将H3和H0合并,得到高分辨率图像重建特征H4
S25:卷积输出单元,利用卷积层,对S24得到的特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
6.根据权利要求5所述的方法,其特征在于,所述的S22中的特征重建网络,具体包括:
S221:特征提取网络,由七层残差模块串联而成,并且将残差输出利用Dense连接,从低分辨率的超声图像中提取特征Fp
S222:超分辨率重建网络,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
7.根据权利要求5所述的方法,其特征在于,所述的S23中的注意力机制网络,具体包括:
S231:编码-解码的网络结构中,编码网络主要从浅层特征中提取语义特征Fen
S232:编码-解码的网络结构中,解码网络主要将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
8.根据权利要求7所述的方法,其特征在于,所述的S231中的编码网络,具体如下:
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取H0中的浅层特征FL
S2312:语义特征提取单元,采用普通卷积和空洞卷积从FL中提取语义特征Fen
9.根据权利要求8所述的方法,其特征在于,所述的S232中的解码网络,具体如下:
S2321:高频特征提取单元,利用卷积,从编码网络中的浅层特征FL,提取高频特征FdL
S2322:语义特征缩放单元,利用卷积,对编码网络输出地语义特征Fen进行特征重组,变换特征维度,再与FdL拼接,得到富含高频信息的特征FdH
S2323:利用卷积,对FdH进行特征维度的操作,然后进行双三次插值后得到含有高频定位信息的特征Hd;最后对这个特征张量进行归一化操作,生成权重矩阵Ma
10.根据权利要求3所述的方法,其特征在于,所述的步骤S4中的网络训练,具体包括:
S41:将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1 loss;
S43:利用L1 loss进行反向传播,利用梯度下降的方法更新网络参数,直至网络收敛。
CN201910045687.3A 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 Active CN109919838B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910045687.3A CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910045687.3A CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Publications (2)

Publication Number Publication Date
CN109919838A true CN109919838A (zh) 2019-06-21
CN109919838B CN109919838B (zh) 2023-02-14

Family

ID=66960359

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910045687.3A Active CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Country Status (1)

Country Link
CN (1) CN109919838B (zh)

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110309880A (zh) * 2019-07-01 2019-10-08 天津工业大学 一种基于注意力机制cnn的5天和9天孵化鸡蛋胚胎图像分类方法
CN110472631A (zh) * 2019-07-12 2019-11-19 厦门大学 基于序列预测的实时语义分割方法
CN110675330A (zh) * 2019-08-12 2020-01-10 广东石油化工学院 基于通道级注意力机制的编码-解码网络的图像去雨方法
CN110705699A (zh) * 2019-10-18 2020-01-17 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN110717856A (zh) * 2019-09-03 2020-01-21 天津大学 一种用于医学成像的超分辨率重建算法
CN110738231A (zh) * 2019-07-25 2020-01-31 太原理工大学 改进S-DNet神经网络模型的乳腺X射线图像的分类方法
CN111028147A (zh) * 2019-11-25 2020-04-17 天津大学 基于级联空洞卷积的三维医学图像超分辨率重建方法
CN111047515A (zh) * 2019-12-29 2020-04-21 兰州理工大学 一种基于注意力机制的空洞卷积神经网络图像超分辨率重建方法
CN111080513A (zh) * 2019-10-24 2020-04-28 天津中科智能识别产业技术研究院有限公司 一种基于注意力机制的人脸图像超分辨率方法
CN111161386A (zh) * 2019-12-30 2020-05-15 无锡触典科技有限公司 超声图像的渲染方法、装置及超声设备
CN111353940A (zh) * 2020-03-31 2020-06-30 成都信息工程大学 一种基于深度学习迭代上下采样的图像超分辨率重建方法
CN111462273A (zh) * 2020-05-14 2020-07-28 沈阳先进医疗设备技术孵化中心有限公司 图像处理方法、装置、ct设备及ct系统
CN111461987A (zh) * 2020-04-01 2020-07-28 中国科学院空天信息创新研究院 一种网络构建方法、图像超分辨率重建方法及系统
CN111464814A (zh) * 2020-03-12 2020-07-28 天津大学 一种基于视差引导融合的虚拟参考帧生成方法
CN111488806A (zh) * 2020-03-25 2020-08-04 天津大学 一种基于并行分支神经网络的多尺度人脸识别方法
CN111626267A (zh) * 2019-09-17 2020-09-04 山东科技大学 一种利用空洞卷积的高光谱遥感图像分类方法
CN112135136A (zh) * 2019-06-24 2020-12-25 无锡祥生医疗科技股份有限公司 超声远程医疗发送方法、装置和接收方法、装置及系统
CN112150354A (zh) * 2019-06-26 2020-12-29 四川大学 联合轮廓增强与去噪统计先验的单幅图像超分辨率方法
WO2021008322A1 (zh) * 2019-07-12 2021-01-21 华为技术有限公司 图像处理方法、装置及设备
CN112487184A (zh) * 2020-11-26 2021-03-12 北京智源人工智能研究院 用户性格判定方法、装置、存储器和电子设备
CN113012072A (zh) * 2021-03-30 2021-06-22 华南理工大学 一种基于注意力网络的图像运动去模糊方法
CN113222823A (zh) * 2021-06-02 2021-08-06 国网湖南省电力有限公司 基于混合注意力网络融合的高光谱图像超分辨率方法
CN113313691A (zh) * 2021-06-03 2021-08-27 上海市第一人民医院 一种基于深度学习的甲状腺彩超处理方法
CN114331849A (zh) * 2022-03-15 2022-04-12 之江实验室 一种跨模态核磁共振超分网络及图像超分辨率方法
CN115082320A (zh) * 2022-07-22 2022-09-20 深圳华声医疗技术股份有限公司 超声图像超分辨率处理方法、超声设备及存储介质
CN115205117A (zh) * 2022-07-04 2022-10-18 中国电信股份有限公司 图像重建方法及装置、计算机存储介质、电子设备
CN115759202A (zh) * 2022-11-22 2023-03-07 江苏济远医疗科技有限公司 一种可变空洞卷积的稠密图像超分辨率网络
CN116721040A (zh) * 2023-08-09 2023-09-08 广州索诺星信息科技有限公司 一种基于大数据的超声影像管理方法及系统
CN117115284A (zh) * 2023-08-23 2023-11-24 郑州大学 一种基于自编码器的超声图像重建方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170083762A1 (en) * 2015-06-22 2017-03-23 Photomyne Ltd. System and Method for Detecting Objects in an Image
CN108765296A (zh) * 2018-06-12 2018-11-06 桂林电子科技大学 一种基于递归残差注意力网络的图像超分辨率重建方法
CN109165697A (zh) * 2018-10-12 2019-01-08 福州大学 一种基于注意力机制卷积神经网络的自然场景文字检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170083762A1 (en) * 2015-06-22 2017-03-23 Photomyne Ltd. System and Method for Detecting Objects in an Image
CN108765296A (zh) * 2018-06-12 2018-11-06 桂林电子科技大学 一种基于递归残差注意力网络的图像超分辨率重建方法
CN109165697A (zh) * 2018-10-12 2019-01-08 福州大学 一种基于注意力机制卷积神经网络的自然场景文字检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王东飞: "基于通道注意力的卷积神经网络在图像超分辨率重建中的应用", 《广播与电视技术》 *

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112135136A (zh) * 2019-06-24 2020-12-25 无锡祥生医疗科技股份有限公司 超声远程医疗发送方法、装置和接收方法、装置及系统
CN112150354A (zh) * 2019-06-26 2020-12-29 四川大学 联合轮廓增强与去噪统计先验的单幅图像超分辨率方法
CN110309880A (zh) * 2019-07-01 2019-10-08 天津工业大学 一种基于注意力机制cnn的5天和9天孵化鸡蛋胚胎图像分类方法
CN110309880B (zh) * 2019-07-01 2022-12-09 天津工业大学 一种基于注意力机制cnn的5天和9天孵化鸡蛋胚胎图像分类方法
CN110472631A (zh) * 2019-07-12 2019-11-19 厦门大学 基于序列预测的实时语义分割方法
WO2021008322A1 (zh) * 2019-07-12 2021-01-21 华为技术有限公司 图像处理方法、装置及设备
CN110738231A (zh) * 2019-07-25 2020-01-31 太原理工大学 改进S-DNet神经网络模型的乳腺X射线图像的分类方法
CN110675330A (zh) * 2019-08-12 2020-01-10 广东石油化工学院 基于通道级注意力机制的编码-解码网络的图像去雨方法
CN110717856A (zh) * 2019-09-03 2020-01-21 天津大学 一种用于医学成像的超分辨率重建算法
CN111626267A (zh) * 2019-09-17 2020-09-04 山东科技大学 一种利用空洞卷积的高光谱遥感图像分类方法
CN110705699B (zh) * 2019-10-18 2022-05-31 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN110705699A (zh) * 2019-10-18 2020-01-17 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN111080513B (zh) * 2019-10-24 2023-12-26 天津中科智能识别产业技术研究院有限公司 一种基于注意力机制的人脸图像超分辨率方法
CN111080513A (zh) * 2019-10-24 2020-04-28 天津中科智能识别产业技术研究院有限公司 一种基于注意力机制的人脸图像超分辨率方法
CN111028147A (zh) * 2019-11-25 2020-04-17 天津大学 基于级联空洞卷积的三维医学图像超分辨率重建方法
CN111028147B (zh) * 2019-11-25 2024-02-02 天津大学 基于级联空洞卷积的三维医学图像超分辨率重建方法
CN111047515B (zh) * 2019-12-29 2024-01-09 兰州理工大学 一种基于注意力机制的空洞卷积神经网络图像超分辨率重建方法
CN111047515A (zh) * 2019-12-29 2020-04-21 兰州理工大学 一种基于注意力机制的空洞卷积神经网络图像超分辨率重建方法
CN111161386A (zh) * 2019-12-30 2020-05-15 无锡触典科技有限公司 超声图像的渲染方法、装置及超声设备
CN111464814A (zh) * 2020-03-12 2020-07-28 天津大学 一种基于视差引导融合的虚拟参考帧生成方法
CN111464814B (zh) * 2020-03-12 2022-01-04 天津大学 一种基于视差引导融合的虚拟参考帧生成方法
CN111488806A (zh) * 2020-03-25 2020-08-04 天津大学 一种基于并行分支神经网络的多尺度人脸识别方法
CN111353940A (zh) * 2020-03-31 2020-06-30 成都信息工程大学 一种基于深度学习迭代上下采样的图像超分辨率重建方法
CN111461987A (zh) * 2020-04-01 2020-07-28 中国科学院空天信息创新研究院 一种网络构建方法、图像超分辨率重建方法及系统
CN111461987B (zh) * 2020-04-01 2023-11-24 中国科学院空天信息创新研究院 一种网络构建方法、图像超分辨率重建方法及系统
CN111462273A (zh) * 2020-05-14 2020-07-28 沈阳先进医疗设备技术孵化中心有限公司 图像处理方法、装置、ct设备及ct系统
CN111462273B (zh) * 2020-05-14 2024-03-08 东软医疗系统股份有限公司 图像处理方法、装置、ct设备及ct系统
CN112487184A (zh) * 2020-11-26 2021-03-12 北京智源人工智能研究院 用户性格判定方法、装置、存储器和电子设备
CN113012072A (zh) * 2021-03-30 2021-06-22 华南理工大学 一种基于注意力网络的图像运动去模糊方法
CN113222823A (zh) * 2021-06-02 2021-08-06 国网湖南省电力有限公司 基于混合注意力网络融合的高光谱图像超分辨率方法
CN113313691A (zh) * 2021-06-03 2021-08-27 上海市第一人民医院 一种基于深度学习的甲状腺彩超处理方法
CN114331849B (zh) * 2022-03-15 2022-06-10 之江实验室 一种跨模态核磁共振超分网络及图像超分辨率方法
CN114331849A (zh) * 2022-03-15 2022-04-12 之江实验室 一种跨模态核磁共振超分网络及图像超分辨率方法
CN115205117A (zh) * 2022-07-04 2022-10-18 中国电信股份有限公司 图像重建方法及装置、计算机存储介质、电子设备
CN115205117B (zh) * 2022-07-04 2024-03-08 中国电信股份有限公司 图像重建方法及装置、计算机存储介质、电子设备
CN115082320B (zh) * 2022-07-22 2022-11-15 深圳华声医疗技术股份有限公司 超声图像超分辨率处理方法、超声设备及存储介质
CN115082320A (zh) * 2022-07-22 2022-09-20 深圳华声医疗技术股份有限公司 超声图像超分辨率处理方法、超声设备及存储介质
CN115759202A (zh) * 2022-11-22 2023-03-07 江苏济远医疗科技有限公司 一种可变空洞卷积的稠密图像超分辨率网络
CN115759202B (zh) * 2022-11-22 2023-11-28 江苏济远医疗科技有限公司 一种可变空洞卷积的稠密图像超分辨率方法
CN116721040B (zh) * 2023-08-09 2023-12-05 广州索诺星信息科技有限公司 一种基于大数据的超声影像管理方法及系统
CN116721040A (zh) * 2023-08-09 2023-09-08 广州索诺星信息科技有限公司 一种基于大数据的超声影像管理方法及系统
CN117115284A (zh) * 2023-08-23 2023-11-24 郑州大学 一种基于自编码器的超声图像重建方法及系统

Also Published As

Publication number Publication date
CN109919838B (zh) 2023-02-14

Similar Documents

Publication Publication Date Title
CN109919838A (zh) 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法
Li et al. Lapar: Linearly-assembled pixel-adaptive regression network for single image super-resolution and beyond
CN109214989B (zh) 基于多方向特征预测先验的单幅图像超分辨率重建方法
CN110211045A (zh) 基于srgan网络的超分辨率人脸图像重建方法
CN110992270A (zh) 基于注意力的多尺度残差注意网络图像超分辨率重建方法
Cheon et al. Generative adversarial network-based image super-resolution using perceptual content losses
CN111681166A (zh) 一种堆叠注意力机制编解码单元的图像超分辨率重建方法
CN113506222B (zh) 一种基于卷积神经网络的多模态图像超分辨方法
Zhang et al. 3D MRI reconstruction based on 2D generative adversarial network super-resolution
CN105654425A (zh) 一种应用于医学x光图像的单幅图像超分辨率重建方法
CN110458759A (zh) 一种基于edsr单图超分辨率重建方法
CN113538246A (zh) 基于无监督多阶段融合网络的遥感图像超分辨率重建方法
He et al. Remote sensing image super-resolution using deep–shallow cascaded convolutional neural networks
CN111369433A (zh) 基于可分离卷积和注意力的三维图像超分辨率重建方法
Chen et al. RBPNET: An asymptotic Residual Back-Projection Network for super-resolution of very low-resolution face image
Li et al. Single image dehazing with an independent detail-recovery network
CN112163998A (zh) 一种匹配自然降质条件的单图像超分辨率分析方法
Wu et al. A novel perceptual loss function for single image super-resolution
Zeng et al. Self-attention learning network for face super-resolution
Wang et al. Image super-resolution using multi-granularity perception and pyramid attention networks
Yang et al. An effective and comprehensive image super resolution algorithm combined with a novel convolutional neural network and wavelet transform
Zeng et al. Densely connected transformer with linear self-attention for lightweight image super-resolution
CN114066729A (zh) 一种可恢复身份信息的人脸超分辨率重建方法
Yang et al. MGDUN: An interpretable network for multi-contrast MRI image super-resolution reconstruction
CN117292017A (zh) 一种草图到图片跨域合成方法、系统及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant