CN115760614A - 图像去噪方法、装置、电子设备及存储介质 - Google Patents
图像去噪方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115760614A CN115760614A CN202211428664.9A CN202211428664A CN115760614A CN 115760614 A CN115760614 A CN 115760614A CN 202211428664 A CN202211428664 A CN 202211428664A CN 115760614 A CN115760614 A CN 115760614A
- Authority
- CN
- China
- Prior art keywords
- image
- cable bin
- target cable
- inputting
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000012545 processing Methods 0.000 claims description 34
- 238000004590 computer program Methods 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 8
- 238000007634 remodeling Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 abstract description 12
- 230000000875 corresponding effect Effects 0.000 description 45
- 230000006870 function Effects 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 8
- 238000010606 normalization Methods 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 6
- 238000006731 degradation reaction Methods 0.000 description 4
- 239000000654 additive Substances 0.000 description 3
- 230000000996 additive effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
本发明实施例公开了一种图像去噪方法、装置、电子设备及存储介质。其中,方法包括:获取放线机器人采集并传输的目标电缆仓图像;目标电缆仓图像为退化图像,退化图像中叠加有高斯噪声;将目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与目标电缆仓图像对应的低维度特征;将低维度特征输入至多级对称编码器‑解码器网络,得到与目标电缆仓图像对应的深层特征;将深层特征输入至第二卷积层,得到与目标电缆仓图像对应的残差图像,并将残差图像与目标电缆仓图像相加,得到与目标电缆仓图像对应的去噪图像。本发明实施例的方案,可以对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,便于后续对电缆仓图像的使用。
Description
技术领域
本发明实施例涉及人工智能技术领域,尤其涉及图像去噪方法、装置、电子设备及存储介质。
背景技术
电缆仓放线机器人在拖放电缆线的同时,由于环境光线条件差,通过远距离数据传输返回的图像带有的噪声较多。图像恢复是从退化(如噪声、模糊、雨滴)的输入消除退化的任务,这是一个极具挑战性的问题。图像去噪是许多其他图像工作的基础,如图像分割、边缘提取、图像识别等,图像中的噪声信息会很大程度影响后续工作的效果,图像去噪对于医疗等领域也具有很高的研究价值,因此进行后续的工作之前通过图像去噪来去除干扰信息的必要的。
如何对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,以便后续图像的使用是业内研究的重点问题。
发明内容
本发明实施例提供了一种图像去噪方法、装置、电子设备及存储介质,以对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,便于后续对电缆仓图像的使用。
根据本发明实施例的一方面,提供了一种图像去噪方法,包括:
获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;
将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;
将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;
将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
根据本发明实施例的另一方面,提供了一种图像去噪装置,包括:
目标电缆仓图像获取模块,用于获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;
低维度特征确定模块,用于将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;
深层特征确定模块,用于将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;
去噪图像确定模块,用于将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
根据本发明实施例的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明实施例任一实施例所述的图像去噪方法。
根据本发明实施例的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明实施例任一实施例所述的图像去噪方法。
本发明实施例的技术方案,通过获取放线机器人采集并传输的目标电缆仓图像;将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像,可以对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,便于后续对电缆仓图像的使用。
应当理解,本部分所描述的内容并非旨在标识本发明实施例的实施例的关键或重要特征,也不用于限制本发明实施例的范围。本发明实施例的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明实施例的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种图像去噪方法的流程图;
图2是根据本发明实施例二所适用的……界面截图/原理图/架构图;
图3是根据本发明实施例二提供的一种注意力机制的计算过程示意图;
图4是根据本发明实施例二提供的一种图像去噪模型的结构示意图;
图5是根据本发明实施例三提供的一种图像去噪装置的结构示意图;
图6是实现本发明实施例的图像去噪方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明实施例方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明实施例一部分的实施例,而不是全部的实施例。基于本发明实施例中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明实施例保护的范围。
需要说明的是,本发明实施例的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明实施例的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是根据本发明实施例一提供的一种图像去噪方法的流程图,本实施例可适用于对放线机器人采集并传输回来的目标电缆仓图像进行去噪,得到去噪图像的情况,该方法可以由图像去噪装置来执行,该图像去噪装置可以采用硬件和/或软件的形式实现,该图像去噪装置可配置于计算机、服务器或者平板电脑等电子设备中。具体的,参考图1,该方法具体包括如下步骤:
步骤110、获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声。
其中,放线机器人可以为在存放电缆的仓库中将电缆放在货架上,或者将取出相应型号的电缆,其可以实时采集并传输电缆仓内的图像。
可以理解的是,由于电缆仓环境光线条件差,通过放线机器人远距离传输返回的电缆仓图像通常情况下带有大量的噪声,即放线机器人返回的是退化图像,通过研究发现该退化图像中叠加有高斯噪声。
需要说明的是,图像被噪声污染的退化过程可以转化为一个退化函数和一个加性噪声叠加而成,数学上可以表示为:
g(x,y)=h(x,y)*f(x,y)+n(x,y)
上式中,h,f,n分别表示图像退化函数,原始图像和加性噪声。尽管硬件设备受到各种噪声因素的影响,但其综合分布非常接近于加性高斯白噪声,因此基于高斯白噪声的去噪算法具有良好的鲁棒性,且高斯噪声在空间域和频域上都易于处理,基于该噪声模型对图像噪声进行建模。
还需要说明的是,高斯噪声是指概率密度函数服从高斯分布(即正态分布)的一类噪声。高斯白噪声的二阶矩不想关,一阶矩为常数,是指先后信号在时间上的相关性。高斯白噪声包括热噪声和散粒噪声。高斯噪声完全由其时变平均值和两瞬时的协方差函数来确定,若噪声为平稳的,则平均值与时间无关,而协方差函数则变成仅和所考虑的两瞬时之方差有关的相关函数,它在意义上等效于功率谱密度。基于高斯白噪声的去噪算法对图像噪声进行建模,其概率密度函数如下所示:
在本实施例的一个可选实现方式中,可以通过计算机、服务器或者平板电脑等电子设备实时获取放线机器人采集并传输返回的目标电缆仓图像,其中,目标电缆仓图像可以为传输返回的任一电缆仓图像,本实施例中对其不加以限定。
步骤120、将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征。
其中,本实施例中涉及到的去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;在本实施例中,第一卷积层以及所述第二卷积层的卷积核的大小为3×3,也可以为5×5等,本实施例中对其不加以限定。多级对称编码器解码器网络可以为4级,也可以为6级或者8级等,本实施例中对其不加以限定。
在本实施例中,去噪模型训练过程中使用的损失函数为平均绝对误差(Meanabsolute error,MAE)损失函数,通过最小化平均绝对损失函数,对模型的参数进行迭代训练,像素级的平均绝对误差损失函数的计算公式为:
在本实施例的一个可选实现方式中,在获取到放线机器人采集并传输返回的目标电缆仓图像之后,可以将目标电缆仓图像输入至第一卷积层,通过3×3的卷积核依次对目标电缆仓图像中的各像素进行卷积处理,得到与目标电缆仓图像对应的低维度特征。
在本实施例的一个具体例子中,针对获取到的目标电缆仓图像其中,H×W表示目标电缆仓图像的空间维度,C0表示目标电缆仓图像的通道数。通过第一卷积层可以将目标电缆仓图像嵌入到低维度的特征其中,C表示特征层的维度。
步骤130、将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征。
在本实施例的一个可选实现方式中,在将目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层中,得到与目标电缆仓图像对应的低维度特征之后,可以进一步的将得到的低维度特征输入至去噪模型的多级对称编码器解码器网络中,从而得到与目标电缆仓图像对应的深层特征,
在本实施例中,多级对称编码器-解码器网络中的每一级的编码器解码器包含多个Transformer模块,且所述Transformer模块的数量自顶向下逐渐增加;其中,各所述Transformer模块中叠加有改进的自注意力模块。同时,多级对称编码器-解码器网络可以为4级、6级或者8级等,示例性的,对于4级对称编码器解码器网络可以包括4个编码器以及4个解码器,即可以先分别通过4个编码器对输入特征进行处理,并将得到的特征依次输入至4个解码器,得到最终的深层特征。
在本实施例的一个可选实现方式中,将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征,可以包括:将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理,得到编码结果,并将所述编码结果输入至下一级编码器,直至得到最终的目标编码结果;将所述目标编码结果输入至所述多级对称编码器-解码器网络中的第一解码器进行处理,得到解码结果,并将所述解码结果输入至下一级解码器,直至得到最终的目标解码结果。
可选的,在本实施例中,在得到与目标电缆仓图像对应的低维度特征之后,可以先将低维度特征输入至多级对称编码器-解码器网络中的第一编码器进行编码处理,得到第一编码结果;再将第一编码结果输入至多级对称编码器-解码器网络中的第二编码器进行编码处理,得到第二编码结果,并将第二编码结果输入至下一编码器进行编码处理,直至得到最终的编码结果,即目标编码结果,并将目标编码结果输入至多级对称编码器-解码器网络中的第一解码器进行解码处理,得到第一解码结果;再将第一解码结果输入至多级对称编码器-解码器网络中的第二解码器进行解码处理,得到第二解码结果,并将第二解码结果输入至下一解码器进行解码处理,直至得到最终的解码结果,即,目标解码结果;可以理解的是,目标解码结果即为本实施例中涉及到的与目标电缆仓图像对应的深层特征。
在本实施例的另一个可选实现方式中,将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理,得到编码结果,可以包括:确定与所述低维度特征尺寸相同的第一位置编码向量;将所述低维度特征与所述第一位置编码向量进行叠加,得到第一叠加特征;将所述第一叠加特征输入至所述第一编码器进行处理,得到编码结果;相应的,所述将所述目标编码结果输入至所述多级对称编码器-解码器网络中的第一解码器进行处理,得到解码结果,包括:确定与所述目标编码结果尺寸相同的第二位置编码向量;将所述目标编码结果与所述第二位置编码向量进行叠加,得到第二叠加特征;将所述第二叠加特征输入至所述第一解码器进行处理,得到解码结果。
可选的,在本实施例中,在得到与目标电缆仓图像对应的低维度特征之后,可以先确定与低维度特征尺寸相同的第一位置编码向量,并将低维度特征与第一位置编码向量进行叠加,从而得到第一叠加特征,并将第一叠加特征输入至多级对称编码器-解码器网络中的第一编码器进行编码处理,得到第一编码结果;再确定与第一编码结果尺寸相同的位置编码向量,并将第一编码结果与其尺寸相同的位置编码向量进行叠加,得到叠加特征;将叠加特征输入至多级对称编码器-解码器网络中的第二编码器进行编码处理,得到第二编码结果,并将第二编码结果与其尺寸相同的叠加特征输入至下一编码器进行编码处理,直至得到最终的编码结果,即目标编码结果;进一步的,可以确定与目标编码结果尺寸相同的第二位置编码向量,并将目标编码结果与第二位置编码向量进行叠加,从而得到第二叠加特征,并将第一叠加特征输入至多级对称编码器-解码器网络中的第一解码器进行解码处理,得到第一解码结果;再确定与第一解码结果尺寸相同的位置编码向量,并将第一解码结果与其尺寸相同的位置编码向量进行叠加,得到叠加特征;将叠加特征输入至多级对称编码器-解码器网络中的第二解码器进行解码处理,得到第二解码结果,并将第二解码结果与其尺寸相同的叠加特征输入至下一解码器进行解码处理,直至得到最终的解码结果,即目标解码结果。
需要说明的是,本实施例中涉及到的第一位置编码向量以及所述第二位置编码向量,用于确定当前节点在图像中的位置,或者图像中不同节点之间的距离。
在本实施例中,浅层特征通过四级的对称编码器-解码器转换为深层特征其中每一级的编码器-解码器包含多个基础的Transformer模块,其数量自顶而下逐渐增加以保证模型的运算效率。从高分辨率的输入开始,编码器逐级减少空间大小,同时扩大特征通道的容量。
在本实施例中,第一解码器以低分辨率的潜在特征作为输入,逐步恢复高分辨率的显示。通过像素重组模块(PixelShuffle)进行上采样的方法,替代传统的利用插值的方法和转置卷积的方法实现对缩小后的特征图进行有效的放大。像素重组是一种用于超分辨率模型的操作,用于以的步长实现高效的亚像素卷积。具体而言,它以形状张量重新排列元素(*,C×r2,H,W)到形状张量(*,C,H×r,W×r)。与之对应的为像素反重组模块(PixelUnshuffle),即一种替代池化的下采样方式,它以形状张量重新排列元素(*,C,H×r,W×r)到形状张量(*,C×r2,H,W)。
步骤140、将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
在本实施例的一个可选实现方式中,在得到目标解码结果即深层特征之后,可以将深层特征输入至第二卷积层,通过第二卷积层种各3×3的卷积核对深层特征中的各像素进行卷积处理,从而输出得到与目标电缆仓图像对应的残差图像;进一步的,可以将残差图像与目标电缆仓图像进行相加,从而得到与目标电缆仓图像对应的去噪图像,该去噪图像即为目标电缆仓图像滤除高斯噪声后的图像。
本实施例的技术方案,通过获取放线机器人采集并传输的目标电缆仓图像;将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像,可以对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,便于后续对电缆仓图像的使用。
实施例二
图2是根据本发明实施例二提供的一种图像去噪方法的流程图,本实施例是对上述各技术方案的进一步细化,本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图2所示,图像去噪方法可以包括如下步骤:
步骤210、获取放线机器人采集并传输的目标电缆仓图像。
步骤220、将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征。
步骤230、依次通过1×1,以及3×3的卷积核对所述低维度特征进行卷积处理,分别得到Q、K、V三个值;对Q和K进行重塑投影,得到目标注意力矩阵。
在本实施例的一个可选实现方式中,在得到与目标电缆仓图像对应的低维度特征之后,可以依次通过1×1,以及3×3的卷积核对所述低维度特征进行卷积处理,分别得到Q、K、V三个值;进一步的,可以对Q和K进行重塑投影,得到目标注意力矩阵。
在本实施例中,通过改进的注意力机制减少模型的计算负担。Transformer的主要计算的主要开销来自注意力层,常规的Transformer的计算和存储复杂度随输入图像的空间分辨率的增长呈二次增长。因此,这对包含高分辨率图像的图像去噪任务来说是不可实行的。为了缓解这个问题,本实施例使用了改进的注意力机制,它具有线性的复杂度。图3是根据本发明实施例二提供的一种注意力机制的计算过程示意图,其工作原理是在通道维度上应用注意力机制而不是空间维度,计算跨通道的协方差以生成一个包含全局上下文信息的注意力矩阵。
如图3所示,其计算过程如下:输入是经过层归一化后的张量首先通过一个1×1的卷积聚合像素级跨通道上下文信息,接着通过一个3×3深度卷积来编码特征通道的空间上下文,最终得到Query(Q)、Key(K)、Value(V)。
进一步的,通过重塑Query和Key的投影,使它们的点积交互产生一个大小转置的注意力矩阵,通过逐点卷积加上深度卷积的形式以及在特征维度上作用注意力模块可以有效地减少计算量,以减少高分辨率图像在模型前向计算过程中的计算量。
步骤240、将所述低维度特征输入至所述多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征。
步骤250、将所述深层特征输入至所述第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
本实施例的方案,在得到与目标电缆仓图像对应的低维度特征之后,可以依次通过1×1,以及3×3的卷积核对所述低维度特征进行卷积处理,分别得到Q、K、V三个值;进一步的,可以对Q和K进行重塑投影,得到目标注意力矩阵,通过逐点卷积加上深度卷积的形式以及在特征维度上作用注意力模块可以有效地减少计算量,以减少高分辨率图像在模型前向计算过程中的计算量。
为了更好地理解本发明实施例中涉及到的图像去噪方法,图4是根据本发明实施例二提供的一种图像去噪模型的结构示意图,其主要包括:2个3×3的卷积层,以及一个4级对称编码器解码器网络。
在本实施例中,通过如图4所示的图像去噪模型进行图像去噪,主要包括如下步骤:
步骤1、针对给定的退化的图像(即本实施例中涉及到的目标电缆仓图像)其中H×W表示图像的空间维度,C0表示输入图像的通道数,针对输入是彩色图片的情况,C0=3,针对输入是灰度图片的情况,C0=1。模型首先通过一个卷积层将输入图像嵌入到低维度的特征C表示特征层的维度,使用的卷积核大小为3×3,步长为1,特征层的维度为48。
步骤2、Transformer模型缺乏一种解释输入序列中单词顺序的方法,这与序列模型不同。为了处理这个问题,转化器在编码器层和解码器层的输入中增加了一个额外的位置编码向量。其尺寸与嵌入特征的尺寸相同。这个向量采用了一种非常独特的方法来让模型学习这个值。这个向量可以确定当前节点在图像中位置,或者图像中不同节点的距离。这个位置向量的具体计算方法有很多,本文中使用的位置编码的计算方法如下:
其中,pos表示当前表示节点在图像中的位置,i是指向量中每个值的索引,在偶数位置使用正弦编码,在奇数位置使用余弦编码。
在本实施例中,计算位置编码得到位置编码向量后,将位置编码向量与嵌入特征向量进行相加,作为输入送到模型的下一层。
步骤3、由于不同的特征具有不同数量级的数据,它们对线性组合后的结果的影响所占比重就很不相同,数量级大的特征显然影响更大。进行归一化可以协调在特征空间上的分布,更好地进行梯度下降。
在Transformer网络中,每一个子层在进行后续操作之前都有一个归一化模块,归一化模块有很多种类,但其目的都是统一的,就是将输入转化为以均值为0方差为1分布的数据,以便模型在训练过程中更好地收敛,并具有更好的泛化性能,且在将数据送入激活函数之前进行归一化,会减少输入数据落在激活函数的饱和区的概率。
本实施例使用的模型采用的是层归一化(Layer Normalization)的方式,通过在每一个样本上面计算均值和方差,即在特征通道维度上做归一化,其计算公式如下:
其中,LN(·)表示层归一化函数;α,β为可学习参数,为还原参数,在一定程度上保留原数据的分布;μL,σL分别为输入xi在特征通道维度上的均值和方差;ε是为了保证计算有效性的一个很小的常数。
需要说明的是,本实施例中涉及到的图像去噪模型使用的损失函数为平均绝对误差(Mean absolute error,MAE)损失函数,通过最小化平均绝对损失函数,对模型的参数进行迭代训练,像素级的平均绝对误差损失函数的计算公式为:
使用AdamW优化器对模型进行训练,AdamW的参数设置为β1=0.9,β2=0.999,weight_decay=1e-4,learning_rate从3e-4线性衰减到1e-4,总的迭代次数为150K次。
在本实施例中,可以根据评价指标对图像去噪模型的效果进行评估;其中,峰值信噪比是图像处理领域中最常用的评价指标之一,其利用像素点之间的误差来评价图像质量,通过表示有效信号和背景噪声的强度之间的关系来表示图像质量:
其中,MAXI是可以作为图像像素使用的最大像素值,若待评价图形为宽度为n的单通道图像,则MAXI=2n-1,MSE为均方误差:
其中,I是原始图像,K是去噪后的图像,m和n分别是图像的长度和宽度,(i,j)为图像像素点的索引。
本发明实施例的方案,针对电缆仓内复杂的环境条件,基于放线机器人通过远距离传输回的图像数据,提出了基于深度学习模型的图像去噪方法,通过改进的注意力机制以及像素重塑模块,有效地降低了模型的计算复杂度,使得模型能够支持更高分辨率的图像输入,为模型提供了更好的图像细节。
实施例三
图5是根据本发明实施例三提供的一种图像去噪装置的结构示意图。如图5所示,该装置包括:目标电缆仓图像获取模块510、低维度特征确定模块520、深层特征确定模块530以及去噪图像确定模块540。
目标电缆仓图像获取模块510,用于获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;
低维度特征确定模块520,用于将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;
深层特征确定模块530,用于将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;
去噪图像确定模块540,用于将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
本实施例的方案,通过目标电缆仓图像获取模块获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;通过低维度特征确定模块将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;通过深层特征确定模块将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;通过去噪图像确定模块将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像,可以对电缆仓放线机器人采集并传输的电缆仓图像进行去噪,便于后续对电缆仓图像的使用。
在本实施例的一个可选实现方式中,所述多级对称编码器-解码器网络中的每一级的编码器解码器包含多个Transformer模块,且所述Transformer模块的数量自顶向下逐渐增加;其中,各所述Transformer模块中叠加有改进的自注意力模块。
在本实施例的一个可选实现方式中,深层特征确定模块530,具体用于将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理,得到编码结果,并将所述编码结果输入至下一级编码器,直至得到最终的目标编码结果;
将所述目标编码结果输入至所述多级对称编码器-解码器网络中的第一解码器进行处理,得到解码结果,并将所述解码结果输入至下一级解码器,直至得到最终的目标解码结果。
在本实施例的一个可选实现方式中,深层特征确定模块530,还具体用于确定与所述低维度特征尺寸相同的第一位置编码向量;
将所述低维度特征与所述第一位置编码向量进行叠加,得到第一叠加特征;
将所述第一叠加特征输入至所述第一编码器进行处理,得到编码结果;
确定与所述目标编码结果尺寸相同的第二位置编码向量;
将所述目标编码结果与所述第二位置编码向量进行叠加,得到第二叠加特征;
将所述第二叠加特征输入至所述第一解码器进行处理,得到解码结果。
在本实施例的一个可选实现方式中,图像去噪装置,还包括:注意力矩阵确定模块,用于依次通过1×1,以及3×3的卷积核对所述低维度特征进行卷积处理,分别得到Q、K、V三个值;对Q和K进行重塑投影,得到目标注意力矩阵。
在本实施例的一个可选实现方式中,所述第一位置编码向量以及所述第二位置编码向量,用于确定当前节点在图像中的位置,或者图像中不同节点之间的距离。
在本实施例的一个可选实现方式中,所述第一卷积层以及所述第二卷积层的卷积核的大小为3×3。
本发明实施例所提供的图像去噪装置可执行本发明实施例任意实施例所提供的图像去噪方法,具备执行方法相应的功能模块和有益效果。
实施例四
图6示出了可以用来实施本发明实施例的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明实施例的实现。
如图6所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如图像去噪方法。
在一些实施例中,图像去噪方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的图像去噪方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像去噪方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明实施例的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明实施例的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明实施例中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明实施例的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明实施例保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明实施例的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明实施例保护范围之内。
Claims (10)
1.一种图像去噪方法,其特征在于,包括:
获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;
将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;
将所述低维度特征输入至所述多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;
将所述深层特征输入至所述第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
2.根据权利要求1所述的方法,其特征在于,
所述多级对称编码器-解码器网络中的每一级的编码器解码器包含多个Transformer模块,且所述Transformer模块的数量自顶向下逐渐增加;
其中,各所述Transformer模块中叠加有改进的自注意力模块。
3.根据权利要求2所述的方法,其特征在于,所述将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征,包括:
将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理,得到编码结果,并将所述编码结果输入至下一级编码器,直至得到最终的目标编码结果;
将所述目标编码结果输入至所述多级对称编码器-解码器网络中的第一解码器进行处理,得到解码结果,并将所述解码结果输入至下一级解码器,直至得到最终的目标解码结果。
4.根据权利要求3所述的方法,其特征在于,所述将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理,得到编码结果,包括:
确定与所述低维度特征尺寸相同的第一位置编码向量;
将所述低维度特征与所述第一位置编码向量进行叠加,得到第一叠加特征;
将所述第一叠加特征输入至所述第一编码器进行处理,得到编码结果;
相应的,所述将所述目标编码结果输入至所述多级对称编码器-解码器网络中的第一解码器进行处理,得到解码结果,包括:
确定与所述目标编码结果尺寸相同的第二位置编码向量;
将所述目标编码结果与所述第二位置编码向量进行叠加,得到第二叠加特征;
将所述第二叠加特征输入至所述第一解码器进行处理,得到解码结果。
5.根据权利要求3所述的方法,其特征在于,在将所述低维度特征输入至所述多级对称编码器-解码器网络中的第一编码器进行处理之前,还包括:
依次通过1×1,以及3×3的卷积核对所述低维度特征进行卷积处理,分别得到Q、K、V三个值;
对Q和K进行重塑投影,得到目标注意力矩阵。
6.根据权利要求4所述的方法,其特征在于,所述第一位置编码向量以及所述第二位置编码向量,用于确定当前节点在图像中的位置,或者图像中不同节点之间的距离。
7.根据权利要求1所述的方法,其特征在于,
所述第一卷积层以及所述第二卷积层的卷积核的大小为3×3。
8.一种图像去噪装置,其特征在于,包括:
目标电缆仓图像获取模块,用于获取放线机器人采集并传输的目标电缆仓图像;所述目标电缆仓图像为退化图像,所述退化图像中叠加有高斯噪声;
低维度特征确定模块,用于将所述目标电缆仓图像输入至预先训练得到的去噪模型的第一卷积层,得到与所述目标电缆仓图像对应的低维度特征;所述去噪模型包括:第一卷积层、多级对称编码器解码器网络以及第二卷积层;
深层特征确定模块,用于将所述低维度特征输入至多级对称编码器-解码器网络,得到与所述目标电缆仓图像对应的深层特征;
去噪图像确定模块,用于将所述深层特征输入至第二卷积层,得到与所述目标电缆仓图像对应的残差图像,并将所述残差图像与所述目标电缆仓图像相加,得到与所述目标电缆仓图像对应的去噪图像。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的图像去噪方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的图像去噪方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211428664.9A CN115760614A (zh) | 2022-11-15 | 2022-11-15 | 图像去噪方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211428664.9A CN115760614A (zh) | 2022-11-15 | 2022-11-15 | 图像去噪方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115760614A true CN115760614A (zh) | 2023-03-07 |
Family
ID=85371776
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211428664.9A Pending CN115760614A (zh) | 2022-11-15 | 2022-11-15 | 图像去噪方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115760614A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116012266A (zh) * | 2023-03-29 | 2023-04-25 | 中国科学技术大学 | 图像去噪方法、系统、设备及存储介质 |
-
2022
- 2022-11-15 CN CN202211428664.9A patent/CN115760614A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116012266A (zh) * | 2023-03-29 | 2023-04-25 | 中国科学技术大学 | 图像去噪方法、系统、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113657390B (zh) | 文本检测模型的训练方法和检测文本方法、装置和设备 | |
CN111488985A (zh) | 深度神经网络模型压缩训练方法、装置、设备、介质 | |
CN113888410A (zh) | 图像超分辨率方法、装置、设备、存储介质以及程序产品 | |
CN113393468A (zh) | 图像处理方法、模型训练方法、装置和电子设备 | |
CN115880435A (zh) | 图像重建方法、模型训练方法、装置、电子设备和介质 | |
CN113963176A (zh) | 一种模型蒸馏方法、装置、电子设备及存储介质 | |
CN115760614A (zh) | 图像去噪方法、装置、电子设备及存储介质 | |
CN112435197A (zh) | 图像美化方法、装置、电子设备和存储介质 | |
CN114092708A (zh) | 特征图像的处理方法、装置和存储介质 | |
CN114494021A (zh) | 图像重建方法、装置、电子设备及存储介质 | |
CN117746125A (zh) | 图像处理模型的训练方法、装置及电子设备 | |
CN117787380A (zh) | 模型获取方法、装置、介质及设备 | |
CN117372617A (zh) | 一种基于GCN-Transformer模型的点云数据重建方法及电子设备 | |
CN113436292B (zh) | 图像处理方法、图像处理模型的训练方法、装置及设备 | |
CN116363429A (zh) | 图像识别模型的训练方法、图像识别方法、装置及设备 | |
CN114078097A (zh) | 图像去雾模型的获取方法、装置和电子设备 | |
CN114943995A (zh) | 人脸识别模型的训练方法、人脸识别方法及装置 | |
CN112784967B (zh) | 信息处理方法、装置以及电子设备 | |
CN115578261A (zh) | 图像处理方法、深度学习模型的训练方法、装置 | |
CN115082624A (zh) | 一种人体模型构建方法、装置、电子设备及存储介质 | |
CN112446946B (zh) | 基于稀疏深度与边界的深度重建方法、系统、设备及介质 | |
CN113989152A (zh) | 图像增强方法、装置、设备以及存储介质 | |
CN114049684A (zh) | 一种人体坐姿识别方法、装置、电子设备和存储介质 | |
CN113610856A (zh) | 训练图像分割模型和图像分割的方法和装置 | |
CN114037630A (zh) | 一种模型训练及图像去雾方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |