CN113344827B - 一种图像去噪方法、图像去噪网络运算单元及设备 - Google Patents
一种图像去噪方法、图像去噪网络运算单元及设备 Download PDFInfo
- Publication number
- CN113344827B CN113344827B CN202110893695.0A CN202110893695A CN113344827B CN 113344827 B CN113344827 B CN 113344827B CN 202110893695 A CN202110893695 A CN 202110893695A CN 113344827 B CN113344827 B CN 113344827B
- Authority
- CN
- China
- Prior art keywords
- module
- signal
- image signal
- image
- convolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 230000009467 reduction Effects 0.000 claims abstract description 83
- 238000005070 sampling Methods 0.000 claims abstract description 69
- 238000012545 processing Methods 0.000 claims abstract description 66
- 238000000605 extraction Methods 0.000 claims abstract description 35
- 230000004927 fusion Effects 0.000 claims abstract description 33
- 230000015654 memory Effects 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 13
- 238000011946 reduction process Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 13
- 238000004590 computer program Methods 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种图像去噪方法、图像去噪网络运算单元及设备,通过设置第一卷积模块、第二卷积模块、第三卷积模块、第一降维模块、第一下采样模块、第一上采样模块、第一乘积模块及第一融合模块,第一卷积模块对待处理图像信号进行特征提取,得到第一图像信号;第一乘积模块利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号;第一融合模块将第一加权信号与第一图像信号进行融合,得到第三图像信号;第三卷积模块对第三图像信号进行特征提取,得到去噪后的第四图像信号,从而可以使得深层网络更侧重于噪声部分的特征提取,从而可以采用较少的卷积模块实现对图像进行去噪,从而减少网络深度,提高图像去噪的处理速度。
Description
技术领域
本申请涉及图像去噪技术领域,尤其涉及一种图像去噪方法、图像去噪网络运算单元及设备。
背景技术
图像的噪声阻碍了高级视觉任务对图像的理解,因此图像去噪是一个十分重要的课题。传统的图像去噪方式有均值滤波去噪、高斯滤波去噪、中值滤波去噪、双边滤波去噪、BM3D算法去噪等。BM3D算法是目前传统算法中效果最好的去噪算法,但采用BM3D算法进行去噪是根据噪声图片内部的信息进行去噪,高斯噪声的标准差越大或者光照条件越差,图像的信噪比就越低,图像内部能够利用的有用信息就越少,受到的噪声干扰就越多,从理论上说去噪效果就会越差。当图像内部能够利用的信息变少时,借助外部信息进行去噪就成为了一个自然的想法。
目前基于深度学习的图像去噪方法虽然采用卷积神经网络算法借助图像外部信息解决了传统的去噪方法因高斯噪声标准差较大、光照较暗的情况下采集的内部可利用的有用信息较少而产生的图像去噪效果差的问题,但目前基于深度学习的图像去噪方法中采用的网络深度较深,处理速度不够理想,所以在效率上,需要耗费大量的时间。
发明内容
有鉴于此,本发明实施例通过提供一种图像去噪方法、图像去噪网络运算单元及设备,用以解决现有技术中基于深度学习的图像去噪方法采用的网络深度较深,处理速度不够理想的问题。
为了解决上述问题,第一方面,本发明实施例提供了一种图像去噪方法,应用于图像去噪网络运算单元,图像去噪网络运算单元包括:第一卷积模块、第二卷积模块、第三卷积模块、第一降维模块、第一下采样模块、第一上采样模块、第一乘积模块及第一融合模块;方法包括:第一卷积模块对待处理图像信号进行特征提取,得到第一图像信号;第一下采样模块对第一图像信号进行第一下采样处理,得到第一下采样信号,第一降维模块对第一图像信号进行第一降维处理,得到第一降维信号;第二卷积模块对第一下采样信号进行特征提取,得到第二图像信号;第一上采样模块对第二图像信号进行第一上采样处理,得到第一上采样信号;第一乘积模块利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号;第一融合模块将第一加权信号与第一图像信号进行融合,得到第三图像信号;第三卷积模块对第三图像信号进行特征提取,得到去噪后的第四图像信号。
可选地,在第二卷积模块与第一上采样模块之间,还包括:第二降维模块、第二下采样模块、第二上采样模块、第二乘积模块、第二融合模块、第四卷积模块及第五卷积模块;第二下采样模块对第二图像信号进行第二下采样处理,得到第二下采样信号,第二降维模块对第二图像信号进行第二降维处理,得到第二降维信号;第四卷积模块对第二下采样信号进行特征提取,得到第五图像信号;第二上采样模块对第五图像信号进行第二上采样处理,得到第二上采样信号;第二乘积模块利用第二降维信号对第二上采样信号作加权处理,得到第二加权信号;第二融合模块将第二加权信号与第二图像信号进行融合,得到第六图像信号;第五卷积模块对第六图像信号进行特征提取,得到第七图像信号;第一上采样模块对第七图像信号进行第一上采样处理,得到第一上采样信号。
可选地,第一卷积模块、第二卷积模块、第三卷积模块中的任意一个卷积模块均包括一个残差注意力小组模块,残差注意力小组模块包括:第三降维模块、串联的3层卷积层、第三乘积模块及第三融合模块;串联的3层卷积层与第三降维模块并联,形成并联模块,采用串联的方式将并联模块、第三乘积模块、第三融合模块连接;在从串联的3层卷积层之前和第三乘积模块之后采用跳跃连接。
可选地,串联的3层卷积层为依次连接的第一1×1卷积层、1×3卷积层及第二1×1卷积层。
可选地,第一卷积模块、第二卷积模块、第三卷积模块中的任意一个卷积模块进行特征提取,得到目标图像信号的步骤包括:串联的3层卷积层对输入至卷积模块的图像信号进行卷积处理;第三降维模块对输入至卷积模块的图像信号进行第三降维处理;第三乘积模块利用第三降维处理后的图像信号对卷积处理后的图像信号作加权处理;第三融合模块将加权处理后的图像信号与输入至卷积模块的图像信号进行融合,得到目标图像信号。
可选地,第一降维模块对第一图像信号进行第一降维处理,得到第一降维信号,包括:第一降维模块将第一图像信号转换为一维图像信号,得到第一降维信号。
可选地,第一乘积模块利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号,包括:第一乘积模块将第一降维信号作为第一上采样信号的权重,将第一降维信号与第一上采样信号进行相乘,得到第一加权信号。
可选地,第一融合模块将第一加权信号与第一图像信号进行融合,得到第三图像信号,包括:第一融合模块将第一加权信号与第一图像信号进行加和,得到第三图像信号。
第二方面,本发明实施例提供了一种图像去噪网络运算单元,图像去噪网络运算单元包括:第一卷积模块、第二卷积模块、第三卷积模块、第一降维模块、第一下采样模块、第一上采样模块、第一乘积模块及第一融合模块;第一卷积模块用于对待处理图像信号进行特征提取,得到第一图像信号;第一下采样模块用于对第一图像信号进行第一下采样处理,得到第一下采样信号,第一降维模块用于对第一图像信号进行第一降维处理,得到第一降维信号;第二卷积模块用于对第一下采样信号进行特征提取,得到第二图像信号;第一上采样模块用于对第二图像信号进行第一上采样处理,得到第一上采样信号;第一乘积模块用于利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号;第一融合模块用于将第一加权信号与第一图像信号进行融合,得到第三图像信号;第三卷积模块用于对第三图像信号进行特征提取,得到去噪后的第四图像信号。
第三方面,本发明实施例提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器执行如第一方面或第一方面任意实施方式中的图像去噪方法。
第四方面,本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使计算机执行如第一方面或第一方面任意实施方式中的图像去噪方法。
本发明实施例的图像去噪方法、图像去噪网络运算单元及设备,图像去噪网络运算单元在上采样过程中,加入了浅层网络的权值及浅层特征图,用浅层网络的权值做为注意力机制的指导权值,并将浅层网络的权值加权后的特征图与浅层特征图进行融合,如此,在增加的参数量非常少的情况下,可以使得深层网络更侧重于噪声部分的特征提取,从而可以采用较少的卷积模块实现对图像进行去噪,从而减少网络深度,提高图像去噪的处理速度。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。
附图说明
图1为本发明实施例中图像去噪网络运算单元的结构示意图;
图2为本发明实施例中图像去噪方法的流程示意图;
图3为本发明实施例中另一图像去噪网络运算单元的结构示意图;
图4为本发明实施例中残差注意力小组模块的结构示意图;
图5为本发明实施例中一种电子设备的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种图像去噪方法,应用于图像去噪网络运算单元,图像去噪网络运算单元可以通过训练得到,图像去噪网络运算单元可以嵌入到图像系统中,通过图像系统对待处理噪声图像进行预处理,得到待处理图像信号,然后将待处理的图像信号输入到图像去噪运算单元中,进行图像信号去噪,得到去噪后的第四图像信号,然后通过图像系统将去噪后的第四图像信号恢复成去噪后的图像。
如图1所示,图像去噪网络运算单元包括:第一卷积模块11、第二卷积模块12、第三卷积模块13、第一降维模块14、第一下采样模块15、第一上采样模块16、第一乘积模块17及第一融合模块18。
图像去噪方法如图2所示,包括:
S101.第一卷积模块对待处理图像信号进行特征提取,得到第一图像信号;具体地,待处理图像信号可以是通过图像系统对待处理噪声图像进行预处理后得到。第一卷积模块可以为第一瓶颈层,可以包括多层卷积层。通过卷积层对待处理图像信号进行特征提取。在第一卷积模块中还可以加入局部注意力机制,可以引导后面更深的网络更侧重于细节特征。
S102.第一下采样模块对第一图像信号进行第一下采样处理,得到第一下采样信号,第一降维模块对第一图像信号进行第一降维处理,得到第一降维信号。
具体地,下采样处理是将图像的尺寸进行压缩,从而减少图像的尺寸,可以减少后续特征提取时的计算量。可以通过对第一图像信号进行池化操作,实现对第一图像信号进行第一下采样处理。
降维处理是将图像信号的维度进行降低,从而将三维图像信号或二维图像信号变为一维图像信号。降维处理可以通过通道池化操作实现。对第一图像信号进行第一降维处理,为将第一图像信号转换为一维的图像信号。第一降维模块对第一图像信号进行第一降维处理,得到第一降维信号,包括:第一降维模块将第一图像信号转换为一维图像信号,得到第一降维信号。
S103.第二卷积模块对第一下采样信号进行特征提取,得到第二图像信号;具体地,第二卷积模块可以为第二瓶颈层,可以包括多层卷积层。通过卷积层对第一下采样信号进行特征提取。在第二卷积模块中还可以加入局部注意力机制,可以引导后面更深的网络更侧重于细节特征。
S104.第一上采样模块对第二图像信号进行第一上采样处理,得到第一上采样信号;具体地,为了减少第二卷积模块提取特征时的计算量,第一图像信号经过了第一下采样处理,也即,对第一图像信号的尺寸进行了缩小,从而第二卷积模块提取特征后得到的第二图像信号也是缩小尺寸后的图像信号,因此,在第二卷积模块提取特征后,还需要对第二图像信号进行第一上采样处理。上采样处理是对图像信号进行尺寸放大的操作。对第二图像信号进行第一上采样处理,可以将第二图像信号的尺寸放大,使得放大后的第二图像信号与第一图像信号的尺寸相等。
S105.第一乘积模块利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号;具体地,对于神经网络而言,前面的卷积层表明着低层特性,如像素级细节特征,后面的卷积层表明着高层特征,如语义特征等。对于第三卷积模块而言,第二卷积模块和第一卷积模块为浅层网络。第一乘积模块利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号,包括:第一乘积模块将第一降维信号作为第一上采样信号的权重,将第一降维信号与第一上采样信号进行相乘,得到第一加权信号。图像去噪任务属于浅层任务。在本发明实施例中,利用浅层网络空间细节特征点与当前特征点的相关程度对当前特征点作加权操作,可以引导深层网络更侧重于细节特征。
S106.第一融合模块将第一加权信号与第一图像信号进行融合,得到第三图像信号;具体地,第一融合模块将第一加权信号与第一图像信号进行融合,得到第三图像信号,包括:第一融合模块将第一加权信号与第一图像信号进行加和,得到第三图像信号。将浅层特征和深层特征进行融合,即将第一图像信号与第一加权信号与进行融合,可以还原第一下采样过程中丢失的浅层网络的细节特征,可以使得第三图像信号保留更多的浅层网络的细节特征。
S107.第三卷积模块对第三图像信号进行特征提取,得到去噪后的第四图像信号。具体地,第三卷积模块相对于第一卷积模块和第二卷积模块而言,是深度网络。由于第三图像信号中加入了浅层网络的权值及浅层特征图,从而第三卷积模块能够更侧重于噪声部分的特征提取,从而实现对第三图像信号进行去噪,得到去噪后的第四图像信号。
本发明实施例的图像去噪方法,图像去噪网络运算单元在上采样过程中,加入了浅层网络的权值及浅层特征图,用浅层网络的权值做为注意力机制的指导权值,并将浅层网络的权值加权后的特征图与浅层特征图进行融合,如此,在增加的参数量非常少的情况下,可以使得深层网络更侧重于噪声部分的特征提取,从而可以采用较少的卷积模块实现对图像进行去噪,从而减少网络深度,提高图像去噪的处理速度。
在一个可选的实施例中,如图3所示,在第二卷积模块12与第一上采样模块16之间,还包括:第二降维模块19、第二下采样模块20、第二上采样模块21、第二乘积模块22、第二融合模块23、第四卷积模块24及第五卷积模块25。
第二下采样模块20对第二图像信号进行第二下采样处理,得到第二下采样信号,第二降维模块19对第二图像信号进行第二降维处理,得到第二降维信号;第四卷积模块24对第二下采样信号进行特征提取,得到第五图像信号;第二上采样模块21对第五图像信号进行第二上采样处理,得到第二上采样信号;第二乘积模块22利用第二降维信号对第二上采样信号作加权处理,得到第二加权信号;第二融合模块23将第二加权信号与第二图像信号进行融合,得到第六图像信号;第五卷积模块25对第六图像信号进行特征提取,得到第七图像信号;第一上采样模块16对第七图像信号进行第一上采样处理,得到第一上采样信号。
具体地,由于上述实施例中的图像去噪网络运算单元的结构中仅包括一次下采样和一次上采样过程,对于噪声较多的图像,采用一次上采样和一次下采样可能不能很好的去除噪声,因此,可以在第二卷积模块12与第一上采样模块16之间,进一步加入下采样和上采样过程。本实施例仅以加入一次上采样和一次下采样为例,但并不以此为限。
得到第六图像信号的公式为:
得到第三图像信号的公式为:
在本发明实施例中,通过采用2次下采样和2次上采样的结构,在上采样过程中加入浅层网络的权值及浅层特征图,用浅层网络的权值做为注意力机制的指导权值,并将浅层网络的权值加权后的特征图与浅层特征图进行融合,如此,在增加的参数量非常少的情况下,可以使得深层网络更侧重于噪声部分的特征提取,从而可以采用较少的卷积模块实现对图像进行去噪,从而减少网络深度,提高图像去噪的处理速度。
在一个可选的实施例中,第一卷积模块11、第二卷积模块12、第三卷积模块13中的任意一个卷积模块均包括一个残差注意力小组模块,残差注意力小组模块如图4所示,包括:第三降维模块111、串联的3层卷积层112、第三乘积模块113及第三融合模块114;串联的3层卷积层112与第三降维模块并联,形成并联模块,采用串联的方式将并联模块、第三乘积模块113、第三融合模块114连接;在从串联的3层卷积层112之前和第三乘积模块113之后采用跳跃连接。
在本发明实施例中,通过在第一卷积模块、第二卷积模块及第三卷积模块中加入局部注意力机制,可以从第一卷积模块、第二卷积模块及第三卷积模块输出的图像信号的参数,从而特征提取过程中加入浅层网络的权值和浅层特征,可以使得深层网络更侧重于噪声部分的特征提取。
在一个可选的实施例中,如图4所示,串联的3层卷积层为依次连接的第一1×1卷积层、1×3卷积层及第二1×1卷积层。
具体地,第一1×1卷积层为卷积核尺寸为1×1,维度为d/2的卷积层。1×3卷积层为卷积核尺寸为1×3,维度为d/2的卷积层。第二1×1卷积层为卷积核尺寸为1×1,维度为d的卷积层。第一1×1卷积层用于对图像信号的尺寸进行缩小。1×3卷积层用于提取图像信号的特征。第二1×1卷积层用于对图像信号的尺寸进行放大。
在本发明实施例中,本申请人发现,采用1×3卷积层能够很好地对噪声部分的特征进行提取,因此,通过将串联的3层卷积层设置为依次连接的第一1×1卷积层、1×3卷积层及第二1×1卷积层,不仅可以减小卷积模块的计算量,同时可以很好地对噪声部分的特征进行提取。
在一个可选的实施例中,第一卷积模块11、第二卷积模块12、第三卷积模块13中的任意一个卷积模块进行特征提取,得到目标图像信号的步骤包括:串联的3层卷积层112对输入至卷积模块的图像信号进行卷积处理;第三降维模块111对输入至卷积模块的图像信号进行第三降维处理;第三乘积模块113利用第三降维处理后的图像信号对卷积处理后的图像信号作加权处理;第三融合模块114将加权处理后的图像信号与输入至卷积模块的图像信号进行融合,得到目标图像信号。
在本发明实施例中,通过利用第三降维处理后的图像信号对卷积处理后的图像信号作加权处理,将加权处理后的图像信号与输入至卷积模块的图像信号进行融合,得到目标图像信号,从而特征提取过程中加入浅层网络的权值和浅层特征,可以使得深层网络更侧重于噪声部分的特征提取。
本发明实施例还提供了一种图像去噪网络运算单元,如图1所示,图像去噪网络运算单元包括:第一卷积模块11、第二卷积模块12、第三卷积模块13、第一降维模块14、第一下采样模块15、第一上采样模块16、第一乘积模块17及第一融合模块18。
第一卷积模块11用于对待处理图像信号进行特征提取,得到第一图像信号;第一下采样模块15用于对第一图像信号进行第一下采样处理,得到第一下采样信号,第一降维模块14用于对第一图像信号进行第一降维处理,得到第一降维信号;第二卷积模块12用于对第一下采样信号进行特征提取,得到第二图像信号;第一上采样模块16用于对第二图像信号进行第一上采样处理,得到第一上采样信号;第一乘积模块17用于利用第一降维信号对第一上采样信号作加权处理,得到第一加权信号;第一融合模块18用于将第一加权信号与第一图像信号进行融合,得到第三图像信号;第三卷积模块13用于对第三图像信号进行特征提取,得到去噪后的第四图像信号。具体的实施方式详见上述方法实施例的描述,在此不再赘述。
本发明实施例的图像去噪网络运算单元,图像去噪网络运算单元在上采样过程中,加入了浅层网络的权值及浅层特征图,用浅层网络的权值做为注意力机制的指导权值,并将浅层网络的权值加权后的特征图与浅层特征图进行融合,如此,在增加的参数量非常少的情况下,可以使得深层网络更侧重于噪声部分的特征提取,从而可以采用较少的卷积模块实现对图像进行去噪,从而减少网络深度,提高图像去噪的处理速度。
基于与前述实施例中一种图像去噪方法同样的发明构思,本发明实施例还提供一种电子设备,如图5所示,包括:处理器31和存储器32,其中处理器31和存储器32可以通过总线或者其他方式连接,图5中以通过总线连接为例进行说明。
处理器31可以为中央处理器(Central Processing Unit,CPU)。处理器31还可以为其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等芯片,或者上述各类芯片的组合。
存储器32作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块,如本发明实施例中的图像去噪方法对应的程序指令/模块。处理器31通过运行存储在存储器32中的非暂态软件程序、指令以及模块,从而执行处理器的各种功能应用以及数据处理,即实现上述方法实施例中的图像去噪方法。
存储器32可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储处理器31所创建的数据等。此外,存储器32可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中,存储器32可选包括相对于处理器31远程设置的存储器,这些远程存储器可以通过网络连接至处理器31。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
上述的一个或者多个模块存储在存储器32中,当被处理器31执行时,执行如图1所示实施例中的图像去噪方法。
上述电子设备具体细节可以对应参阅图1所示的实施例中对应的相关描述和效果进行理解,此处不再赘述。
本领域技术人员可以理解,实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)、随机存储记忆体(Random AccessMemory,RAM)、快闪存储器(Flash Memory)、硬盘(Hard Disk Drive,缩写:HDD)或固态硬盘(Solid-State Drive,SSD)等;所述存储介质还可以包括上述种类的存储器的组合。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程信息处理设备的处理器以产生一个机器,使得通过计算机或其他可编程信息处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程信息处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程信息处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (11)
1.一种图像去噪方法,其特征在于,应用于图像去噪网络运算单元,所述图像去噪网络运算单元包括:第一卷积模块、第二卷积模块、第三卷积模块、第一降维模块、第一下采样模块、第一上采样模块、第一乘积模块及第一融合模块;
所述方法包括:
所述第一卷积模块对待处理图像信号进行特征提取,得到第一图像信号;
所述第一下采样模块对所述第一图像信号进行第一下采样处理,得到第一下采样信号,所述第一降维模块对所述第一图像信号进行第一降维处理,得到第一降维信号;
所述第二卷积模块对所述第一下采样信号进行特征提取,得到第二图像信号;
所述第一上采样模块对所述第二图像信号进行第一上采样处理,得到第一上采样信号;
所述第一乘积模块利用所述第一降维信号对所述第一上采样信号作加权处理,得到第一加权信号;
所述第一融合模块将所述第一加权信号与所述第一图像信号进行融合,得到第三图像信号;
所述第三卷积模块对所述第三图像信号进行特征提取,得到去噪后的第四图像信号。
2.根据权利要求1所述的图像去噪方法,其特征在于,在所述第二卷积模块与所述第一上采样模块之间,还包括:第二降维模块、第二下采样模块、第二上采样模块、第二乘积模块、第二融合模块、第四卷积模块及第五卷积模块;
所述第二下采样模块对所述第二图像信号进行第二下采样处理,得到第二下采样信号,所述第二降维模块对所述第二图像信号进行第二降维处理,得到第二降维信号;
所述第四卷积模块对所述第二下采样信号进行特征提取,得到第五图像信号;
所述第二上采样模块对所述第五图像信号进行第二上采样处理,得到第二上采样信号;
所述第二乘积模块利用所述第二降维信号对所述第二上采样信号作加权处理,得到第二加权信号;
所述第二融合模块将所述第二加权信号与所述第二图像信号进行融合,得到第六图像信号;
所述第五卷积模块对所述第六图像信号进行特征提取,得到第七图像信号;
所述第一上采样模块对所述第七图像信号进行第一上采样处理,得到第一上采样信号。
3.根据权利要求1所述的图像去噪方法,其特征在于,
所述第一卷积模块、所述第二卷积模块、所述第三卷积模块中的任意一个卷积模块均包括一个残差注意力小组模块,所述残差注意力小组模块包括:第三降维模块、串联的3层卷积层、第三乘积模块及第三融合模块;
串联的3层卷积层与所述第三降维模块并联,形成并联模块,
采用串联的方式将所述并联模块、所述第三乘积模块、所述第三融合模块连接;
在从串联的3层卷积层之前和所述第三乘积模块之后采用跳跃连接。
4.根据权利要求3所述的图像去噪方法,其特征在于,
所述串联的3层卷积层为依次连接的第一1×1卷积层、1×3卷积层及第二1×1卷积层。
5.根据权利要求3所述的图像去噪方法,其特征在于,所述第一卷积模块、所述第二卷积模块、所述第三卷积模块中的任意一个卷积模块进行特征提取,得到目标图像信号的步骤包括:
串联的3层卷积层对输入至卷积模块的图像信号进行卷积处理;
第三降维模块对输入至卷积模块的图像信号进行第三降维处理;
第三乘积模块利用第三降维处理后的图像信号对卷积处理后的图像信号作加权处理;
第三融合模块将加权处理后的图像信号与输入至卷积模块的图像信号进行融合,得到目标图像信号。
6.根据权利要求1所述的图像去噪方法,其特征在于,所述第一降维模块对所述第一图像信号进行第一降维处理,得到第一降维信号,包括:
所述第一降维模块将所述第一图像信号转换为一维图像信号,得到所述第一降维信号。
7.根据权利要求1所述的图像去噪方法,其特征在于,所述第一乘积模块利用所述第一降维信号对所述第一上采样信号作加权处理,得到第一加权信号,包括:
所述第一乘积模块将所述第一降维信号作为所述第一上采样信号的权重,将所述第一降维信号与所述第一上采样信号进行相乘,得到所述第一加权信号。
8.根据权利要求1所述的图像去噪方法,其特征在于,所述第一融合模块将所述第一加权信号与所述第一图像信号进行融合,得到第三图像信号,包括:
所述第一融合模块将所述第一加权信号与所述第一图像信号进行加和,得到所述第三图像信号。
9.一种图像去噪网络运算单元,其特征在于,包括
第一卷积模块、第二卷积模块、第三卷积模块、第一降维模块、第一下采样模块、第一上采样模块、第一乘积模块及第一融合模块;
所述第一卷积模块用于对待处理图像信号进行特征提取,得到第一图像信号;
所述第一下采样模块用于对所述第一图像信号进行第一下采样处理,得到第一下采样信号,所述第一降维模块用于对所述第一图像信号进行第一降维处理,得到第一降维信号;
所述第二卷积模块用于对所述第一下采样信号进行特征提取,得到第二图像信号;
所述第一上采样模块用于对所述第二图像信号进行第一上采样处理,得到第一上采样信号;
所述第一乘积模块用于利用所述第一降维信号对所述第一上采样信号作加权处理,得到第一加权信号;
所述第一融合模块用于将所述第一加权信号与所述第一图像信号进行融合,得到第三图像信号;
所述第三卷积模块用于对所述第三图像信号进行特征提取,得到去噪后的第四图像信号。
10.一种电子设备,其特征在于,包括:
至少一个处理器;以及与至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器执行如权利要求1-8任意一项所述的图像去噪方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使计算机执行如权利要求1-8任意一项所述的图像去噪方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110893695.0A CN113344827B (zh) | 2021-08-05 | 2021-08-05 | 一种图像去噪方法、图像去噪网络运算单元及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110893695.0A CN113344827B (zh) | 2021-08-05 | 2021-08-05 | 一种图像去噪方法、图像去噪网络运算单元及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113344827A CN113344827A (zh) | 2021-09-03 |
CN113344827B true CN113344827B (zh) | 2021-11-23 |
Family
ID=77480731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110893695.0A Active CN113344827B (zh) | 2021-08-05 | 2021-08-05 | 一种图像去噪方法、图像去噪网络运算单元及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113344827B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115471417A (zh) * | 2022-09-16 | 2022-12-13 | 广州安凯微电子股份有限公司 | 图像降噪处理方法、装置、设备、存储介质和程序产品 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340744A (zh) * | 2020-02-20 | 2020-06-26 | 合肥工业大学 | 基于注意力双流深度网络的低质量图像降采样方法及其系统 |
CN112150493A (zh) * | 2020-09-22 | 2020-12-29 | 重庆邮电大学 | 一种基于语义指导的自然场景下屏幕区域检测方法 |
CN112419184A (zh) * | 2020-11-19 | 2021-02-26 | 重庆邮电大学 | 一种综合局部信息和全局信息的空间注意力图像去噪方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106934397B (zh) * | 2017-03-13 | 2020-09-01 | 北京市商汤科技开发有限公司 | 图像处理方法、装置及电子设备 |
CN109345449B (zh) * | 2018-07-17 | 2020-11-10 | 西安交通大学 | 一种基于融合网络的图像超分辨率及去非均匀模糊方法 |
CN111127336B (zh) * | 2019-11-18 | 2023-05-02 | 复旦大学 | 一种基于自适应选择模块的图像信号处理方法 |
CN111311563B (zh) * | 2020-02-10 | 2023-06-09 | 北京工业大学 | 一种基于多域特征融合的图像篡改检测方法 |
-
2021
- 2021-08-05 CN CN202110893695.0A patent/CN113344827B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340744A (zh) * | 2020-02-20 | 2020-06-26 | 合肥工业大学 | 基于注意力双流深度网络的低质量图像降采样方法及其系统 |
CN112150493A (zh) * | 2020-09-22 | 2020-12-29 | 重庆邮电大学 | 一种基于语义指导的自然场景下屏幕区域检测方法 |
CN112419184A (zh) * | 2020-11-19 | 2021-02-26 | 重庆邮电大学 | 一种综合局部信息和全局信息的空间注意力图像去噪方法 |
Non-Patent Citations (2)
Title |
---|
Information-Compensated Downsampling for Image Super-Resolution;Yifan Wang 等;《IEEE Signal Processing Letters》;20181231;全文 * |
基于监督性机器学习算法的图像辅助去噪;李凯勇;《计算机仿真》;20200815;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113344827A (zh) | 2021-09-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109101975B (zh) | 基于全卷积神经网络的图像语义分割方法 | |
CN109389556B (zh) | 一种多尺度空洞卷积神经网络超分辨率重构方法及装置 | |
CN109146788B (zh) | 基于深度学习的超分辨率图像重建方法和装置 | |
CN108596841B (zh) | 一种并行实现图像超分辨率及去模糊的方法 | |
US20230177652A1 (en) | Image restoration method and apparatus, and electronic device | |
CN112700460B (zh) | 图像分割方法及系统 | |
CN109816659B (zh) | 图像分割方法、装置及系统 | |
CN111914654A (zh) | 一种文本版面分析方法、装置、设备和介质 | |
CN114511786A (zh) | 融合多时相信息和分通道密集卷积的遥感图像去云方法 | |
CN113129212B (zh) | 图像超分辨率重建方法、装置、终端设备及存储介质 | |
CN114723630A (zh) | 基于空洞双残差多尺度深度网络的图像去模糊方法及系统 | |
CN110782397A (zh) | 一种图像处理方法、生成式对抗网络、电子设备及存储介质 | |
CN113705575B (zh) | 一种图像分割方法、装置、设备及存储介质 | |
CN113344827B (zh) | 一种图像去噪方法、图像去噪网络运算单元及设备 | |
CN109993701B (zh) | 一种基于金字塔结构的深度图超分辨率重建的方法 | |
CN110782398B (zh) | 图像处理方法、生成式对抗网络系统和电子设备 | |
CN113538402B (zh) | 一种基于密度估计的人群计数方法及系统 | |
CN115082306A (zh) | 一种基于蓝图可分离残差网络的图像超分辨率方法 | |
Zhang et al. | A Context-Aware Road Extraction Method for Remote Sensing Imagery based on Transformer Network | |
CN117252890A (zh) | 颈动脉斑块分割方法、装置、设备及介质 | |
CN116188272B (zh) | 适用于多模糊核的两阶段深度网络图像超分辨率重建方法 | |
CN115393868B (zh) | 文本检测方法、装置、电子设备和存储介质 | |
CN113554655B (zh) | 基于多特征增强的光学遥感图像分割方法及装置 | |
CN112801909B (zh) | 基于U-Net和金字塔模块的图像融合去噪方法及系统 | |
CN112529064B (zh) | 一种高效的实时语义分割方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |