CN118014880A - 一种图像去噪方法、设备、存储介质及产品 - Google Patents
一种图像去噪方法、设备、存储介质及产品 Download PDFInfo
- Publication number
- CN118014880A CN118014880A CN202410254151.3A CN202410254151A CN118014880A CN 118014880 A CN118014880 A CN 118014880A CN 202410254151 A CN202410254151 A CN 202410254151A CN 118014880 A CN118014880 A CN 118014880A
- Authority
- CN
- China
- Prior art keywords
- frame image
- image
- format
- current frame
- denoising
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000004590 computer program Methods 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 15
- 238000007499 fusion processing Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 abstract description 49
- 230000000694 effects Effects 0.000 abstract description 7
- 230000004044 response Effects 0.000 description 10
- 230000009466 transformation Effects 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- KLDZYURQCUYZBL-UHFFFAOYSA-N 2-[3-[(2-hydroxyphenyl)methylideneamino]propyliminomethyl]phenol Chemical compound OC1=CC=CC=C1C=NCCCN=CC1=CC=CC=C1O KLDZYURQCUYZBL-UHFFFAOYSA-N 0.000 description 1
- 238000012952 Resampling Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 201000001098 delayed sleep phase syndrome Diseases 0.000 description 1
- 208000033921 delayed sleep phase type circadian rhythm sleep disease Diseases 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本申请公开一种图像去噪方法、设备、存储介质及产品,该方法包括:获取当前帧图像和后一帧图像;其中,当前帧图像和后一帧图像的曝光时长相等;利用后一帧图像对当前帧图像进行去噪处理,得到当前帧的第一去噪图像;对当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到当前帧的参考帧图像;基于当前帧的参考帧图像进行显示。如此,先通过后一帧图像对当前帧图像进行一次去噪处理,得到当前帧的第一去噪图像,再通过前一帧的参考帧图像对当前帧的第一去噪图像再次进行去噪处理,使得最终得到的当前帧的参考帧图像的噪声大幅度减少,即提升去噪效果,提升当前帧的参考帧图像的清晰度。
Description
技术领域
本申请涉及去噪技术,尤其涉及一种图像去噪方法、设备、存储介质及产品。
背景技术
为了保证视频和预览图像的效果,通常采用图像信号处理(Image SignalProcessing,ISP)链路上的去噪模块进行去噪处理。近年来,某些厂商为了更好的去噪效果,采用前一帧的参考帧对当前帧进行去噪后显示,这种去噪方式的去噪效果不佳。
发明内容
本申请提供一种图像去噪方法、设备、存储介质及产品。
本申请的技术方案是这样实现的:
第一方面,提供了一种图像去噪方法,所述方法包括:
获取当前帧图像和后一帧图像;其中,所述当前帧图像和所述后一帧图像的曝光时长相等;
利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像;
对所述当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到所述当前帧的参考帧图像;
基于所述当前帧的参考帧图像进行显示。
第二方面,提供了一种图像去噪装置,所述装置包括:
获取单元,用于获取当前帧图像和后一帧图像;其中,所述当前帧图像和所述后一帧图像的曝光时长相等;
处理单元,用于利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像;以及对所述当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到所述当前帧的参考帧图像;以及基于所述当前帧的参考帧图像进行显示。
第三方面,提供了一种电子设备,包括:处理器和配置为存储能够在处理器上运行的计算机程序的存储器,其中,所述处理器配置为运行所述计算机程序时,执行第一方面的方法的步骤。
第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,其中,该计算机程序被处理器执行时实现第一方面的方法的步骤。
第五方面,提供了一种计算机程序产品,包括计算机程序,其中,该计算机程序被处理器执行时实现第一方面的方法的步骤。
本申请提供一种图像去噪方法、设备、存储介质及产品,先通过后一帧图像对当前帧图像进行一次去噪处理,得到当前帧的第一去噪图像,再通过前一帧的参考帧图像对当前帧的第一去噪图像再次进行去噪处理,使得最终得到的当前帧的参考帧图像的噪声大幅度减少,即提升去噪效果,提升当前帧的参考帧图像的清晰度。
附图说明
图1为本申请实施例中图像去噪方法的流程示意图一;
图2为本申请实施例中图像去噪方法的流程示意图二;
图3为本申请实施例中图像去噪方法的流程示意图三;
图4为本申请实施例中图像去噪方法的流程示意图四;
图5为本申请实施例中图像去噪方法的流程示意图五;
图6为本申请实施例中图像去噪方法的流程示意图六;
图7为本申请实施例中图像去噪方法的流程示意图七;
图8为本申请实施例中图像去噪方法的流程示意图八;
图9为本申请实施例中图像去噪装置组成的结构示意图;
图10为本申请实施例中电子设备组成的结构示意图。
具体实施方式
为了能够更加详尽地了解本申请实施例的特点与技术内容,下面结合附图对本申请实施例的实现进行详细阐述,所附附图仅供参考说明之用,并非用来限定本申请实施例。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本实施例的目的,不是旨在限制本申请。
在以下的描述中,涉及到“一些实施例”、“本实施例”、“本实施例”以及举例等等,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
如果申请文件中出现“第一/第二”的类似描述则增加以下的说明,在以下的描述中,所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本实施例能够以除了在这里图示或描述的以外的顺序实施。
本实施例中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如对象A和/或对象B,可以表示:单独存在对象A,同时存在对象A和对象B,单独存在对象B这三种情况。
本申请实施例提供了一种图像去噪方法,图1为本申请实施例中图像去噪方法的流程示意图一,应用于电子设备,电子设备可以是智能手机、平板、相机等设备。如图1所示,该图像去噪方法可以包括:
S101:获取当前帧图像和后一帧图像;其中,当前帧图像和后一帧图像的曝光时长相等。
当前帧图像是指待处理的一帧图像。后一帧图像是指在当前帧之后紧接着的一帧图像。
曝光时长是指相机或图像传感器在捕捉图像时打开快门的时间长度。当前帧图像和后一帧图像的曝光时长相等,也就是说,相机或图像传感器在捕捉当前帧图像和后一帧图像时打开快门的时间长度是相等的。这样,有助于保持视频的一致性和稳定性。
S102:利用后一帧图像对当前帧图像进行去噪处理,得到当前帧的第一去噪图像。
利用后一帧图像对当前帧图像进行去噪处理,减少了当前帧图像上的噪点,提高了去噪处理后的当前帧的第一去噪图像的清晰度和质量。
S103:对当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到当前帧的参考帧图像。
由于当前帧的第一去噪图像中包括了后一帧图像的信息,因此,这里的前一帧的参考帧图像,可理解为包括了前一帧以及之前所有帧图像信息,以及当前帧图像信息的一帧图像。当前帧的参考帧图像可理解为包括了当前帧以及之前所有帧图像信息,以及当前帧的后一帧图像信息的一帧图像。
前一帧的参考帧图像存储在预设存储空间中,因此,执行S103时,先从预设存储空间中获取当前帧的前一帧的参考帧图像,再对当前帧的第一去噪图像和前一帧的参考帧图像进行运动估计和补偿,得到当前帧的参考帧图像。
在一些实施例中,执行S103之后,所述方法还包括:将所述当前帧的参考帧图像存储至预设存储空间。
这里,将当前帧的参考帧图像存储至预设存储空间,便于后续借助当前帧的参考帧图像对后一帧图像进行处理。预设存储空间可以是双倍数据速率(Double Data Rate,DDR)存储空间。
S104:基于当前帧的参考帧图像进行显示。
在一些实施例中,直接显示当前帧的参考帧图像。
在另一些实施例中,S104可以包括:
对当前帧的参考帧图像进行图像处理操作,得到处理后的参考帧图像;
显示处理后的参考帧图像。
这里的图像处理操作至少包括:防抖、畸变校正、去噪、增强、缩放等。
需要说明的是,当前帧图像为第一帧图像时,前一帧的参考帧图像为空。
这里,S101至S104的执行主体可以为电子设备的处理器。
本申请实施例中,先通过后一帧图像对当前帧图像进行一次去噪处理,得到当前帧的第一去噪图像,再通过前一帧的参考帧图像对当前帧的第一去噪图像再次进行去噪处理,使得最终得到的当前帧的参考帧图像的噪声大幅度减少,即提升去噪效果,提升当前帧的参考帧图像的清晰度。
当电子设备内置的图像传感器依次输出Raw格式的当前帧图像和后一帧图像时,在一些实施例中,S102可以包括图2所示的步骤:
S201:将Raw格式的后一帧图像向Raw格式的当前帧图像对齐,得到第一对齐参数。
Raw格式是一种未经处理、未经压缩的数字图像格式。
关于对齐处理操作,具体可以是:
首先,从当前帧图像和后一帧图像中提取特征点。特征点是图像中具有显著特征的区域,如角点、边缘、纹理等。这可以通过使用特征检测算法(如SIFT、SURF、ORB等)来完成。
接着,将当前帧图像中的特征点与后一帧图像中的特征点进行匹配。这通常涉及计算特征点之间的相似度或距离,并找出最佳匹配的点对。特征匹配算法可以是暴力匹配、FLANN匹配等。
接着,根据匹配的特征点对,可以估计一个变换模型来描述从当前帧到后一帧的几何变换。这个变换模型可以是一个仿射变换矩阵、单应性矩阵或其他类型的变换模型。
接着,使用估计的变换模型,将后一帧图像变换到当前帧的坐标系中。这通常涉及像素的插值和重采样,以确保变换后的图像与当前帧图像对齐。
接着,在应用变换模型后,评估对齐质量是很重要的。这可以通过比较对齐后的图像与当前帧图像的相似度、计算对齐误差或使用其他评估指标来完成。如果对齐质量不满足要求,可以调整特征提取、特征匹配或变换模型的参数,并重复上述步骤。
最后,根据应用的变换模型,可以获取第一对齐参数。这些参数描述了从当前帧到后一帧的几何变换,包括旋转、平移、缩放等。
S202:将当前帧图像由Raw格式转为RGB格式,以及将后一帧图像由Raw格式转为RGB格式。
RGB格式是指颜色的一种表示方法,它使用红、绿和蓝三种基色光的亮度来调配出各种不同的颜色。在RGB格式中,每个像素的颜色由红、绿、蓝三个通道的亮度值来表示。颜色的亮度值范围从0到255,其中0表示没有光照,255表示最大亮度。通过调整每个通道的亮度值,可以创建出各种不同的颜色。例如,红色可以表示为(255,0,0),表示红色通道的亮度值为255,而绿色和蓝色通道的亮度值都为0。
S203:基于第一对齐参数,将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到RGB格式的新的后一帧图像。
即进行对齐操作之后,RGB格式的新的后一帧图像与RGB格式的当前帧图像对齐。
S204:利用RGB格式的新的后一帧图像对RGB格式的当前帧图像进行去噪处理,得到RGB格式的当前帧的第一去噪图像。
利用RGB格式的新的后一帧图像对RGB格式的当前帧图像进行去噪处理,减少了RGB格式的当前帧图像上的噪点,提高了去噪处理后的RGB格式的当前帧的第一去噪图像的清晰度和质量。
进一步地,在一些实施例中,S103可以包括图3所示的步骤:
S301:将当前帧的第一去噪图像由RGB格式转为YUV格式。
YUV格式将图像的亮度信息(Y)与色彩信息(U和V)分离,其中“Y”表示明亮度,也就是灰度值;而“U”和“V”表示的是色度,描述影像色彩及饱和度,用于指定像素的颜色。
S302:将YUV格式的前一帧的参考帧图像向YUV格式的当前帧的第一去噪图像对齐,得到YUV格式的前一帧的新参考帧图像。
即进行对齐操作之后,YUV格式的前一帧的新参考帧图像与YUV格式的当前帧的第一去噪图像对齐。
S303:对YUV格式的当前帧的第一去噪图像和YUV格式的前一帧的新参考帧图像进行运动估计和补偿,得到YUV格式的当前帧的参考帧图像。
这里,运动估计和补偿操作也是一种去噪方式。
即利用YUV格式的前一帧的新参考帧图像对YUV格式的当前帧的第一去噪图像再次进行去噪,使得得到的YUV格式的当前帧的参考帧图像噪声减少,提升当前帧的参考帧图像的清晰度。
基于上述实施例,本申请实施例示例一种图像去噪方法,图4为本申请实施例中图像去噪方法的流程示意图四,如图4所示,图像去噪方法可以包括:
S401:sensor依次输出Raw格式的初始当前帧图像和初始后一帧图像,经过Raw统计模块处理之后,得到处理之后的当前帧图像和后一帧图像,并存储至DDR中。
Raw统计模块通常用于对Raw格式的图像进行处理。Raw格式是一种未经过处理的原始图像数据格式,它保留了从图像传感器直接输出的像素值信息,没有经过色彩空间转换、去噪、白平衡调整等后期处理。Raw统计模块通常包括以下处理操作:色彩空间转换、去噪、白平衡调整等。
S402:从DDR中获取Raw格式的当前帧图像和后一帧图像,将Raw格式的后一帧图像向Raw格式的当前帧图像对齐,得到第一对齐参数。
S403:从DDR中获取Raw格式的当前帧图像,将Raw格式的当前帧图像经Raw域处理模块处理,得到RGB格式的当前帧图像。
S404:从DDR中获取Raw格式的后一帧图像,将Raw格式的后一帧图像和第一对齐参数作为RGB域对齐模块的输入,得到Raw格式的新的后一帧图像。
具体的,将Raw格式的后一帧图像转为RGB格式的后一帧图像,再基于第一对齐参数,将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到Raw格式的新的后一帧图像。
S405:将RGB格式的新的后一帧图像与RGB格式的当前帧图像,经过RGB域高动态范围(High Dynamic Range,HDR)模块的处理,得到RGB格式的当前帧的第一去噪图像。
这里,RGB域HDR模块用于利用RGB格式的新的后一帧图像对RGB格式的当前帧图像进行去噪处理,得到RGB格式的当前帧的第一去噪图像。其中,RGB域HDR模块可以作为基于有限脉冲响应滤波器(Finite Impulse Response Filter,FIR)的多帧降噪(Multi-FrameNoise Reduction,MFNR)模块进行去噪处理。
S406:将RGB格式的当前帧的第一去噪图像依次经过RGB域模块和空间域转换模块处理,得到YUV格式的当前帧的第二去噪图像,并存储至DDR中。
RGB域模块至少包括以下处理操作:色彩校正、伽马校正等。
空间域转换模块用于进行RGB格式与YUV格式之间的转换。
S407:从DDR中获取YUV格式的前一帧的参考帧图像,将YUV格式的前一帧的参考帧图像经过YUV域对齐模块处理,得到与当前帧的第二去噪图像对齐的前一帧的新参考帧图像。
S408:将YUV格式的当前帧的第二去噪图像和YUV格式的前一帧的新参考帧图像,经运动补偿时域滤波(Motion compensation temporal filter,MCTF)模块处理之后,得到YUV格式的当前帧的参考帧图像,并存储至DDR中。
MCTF为YUV域时域去噪算法,采用了无限脉冲响应(Infinite impulse response,IIR)方式。
S409:将YUV格式的当前帧的参考帧图像经过YUV域模块处理,得到处理之后的参考帧图像,并存储至DDR给视频录制和预览使用。
YUV域模块至少包括以下处理操作:防抖、畸变校正、去噪、增强和缩放等。
其中,S407至S409属于基带处理(Baseband Processing,BE)范畴。本申请对BE上MCTF性能没有影响,可以满足4k@60fps的需求,进而提升该场景下信噪比和细节。
如此,本申请将RGB域YUV模块使用为基于FIR的RGB域时域去噪模块,对当前帧图像最大可以提升3DB的信噪比,即提升了MCTF的输入信噪比,进而进一步提升MCTF的去噪效果。
当HDR sensor同一时刻输出不同曝光时长的长帧图像和短帧图像(Raw格式)时,先在RGB域进行长帧图像和短帧图像的融合,再执行下面步骤。
在一些实施例中,S102可以包括图5所示的步骤:
S501:将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数。
在一些实施例中,执行S501之前,还包括:获取当前时刻Raw格式的长帧图像和短帧图像,以及获取下一时刻Raw格式的长帧图像和短帧图像;在RGB域,对当前时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的当前帧图像;在RGB域,对下一时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的后一帧图像。
长帧图像的曝光时长长于短帧图像的曝光时长。
在一些实施例中,在RGB域,对当前时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的当前帧图像,包括:将Raw格式的长帧图像向短帧图像对齐,得到第三对齐参数;将长帧图像由Raw格式转为RGB格式,以及将短帧图像由Raw格式转为RGB格式;基于第三对齐参数,将RGB格式的长帧图像向短帧图像对齐,得到RGB格式的新的长帧图像;利用RGB格式的新的长帧图像对RGB格式的短帧图像进行去噪处理,得到RGB格式的当前帧图像。
需要说明的是,长帧图像由于其较长的曝光时间,通常包含了更多的信息。这些信息在转换为短帧图像时可能会丢失,因为短帧图像的曝光时间更短,可能无法捕捉到长帧图像中的所有细节。因此,将长帧图像对齐到短帧图像可以更好地保留这些信息。
相应地,在一些实施例中,在RGB域,对下一时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的后一帧图像,包括:将Raw格式的长帧图像向短帧图像对齐,得到第四对齐参数;将长帧图像由Raw格式转为RGB格式,以及将短帧图像由Raw格式转为RGB格式;基于第四对齐参数,将RGB格式的长帧图像向短帧图像对齐,得到RGB格式的新的长帧图像;利用RGB格式的新的长帧图像对RGB格式的短帧图像进行去噪处理,得到RGB格式的后一帧图像。
S502:将当前帧图像由RGB格式转为YUV格式,以及将后一帧图像由RGB格式转为YUV格式。
S503:基于第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像。
即进行对齐操作之后,YUV格式的新的后一帧图像与YUV格式的当前帧图像对齐。
S504:利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像。
利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,减少了YUV格式的当前帧图像上的噪点,提高了去噪处理后的YUV格式的当前帧的第一去噪图像的清晰度和质量。
进一步地,在一些实施例中,S103可以包括:将YUV格式的前一帧的参考帧图像向YUV格式的当前帧的第一去噪图像对齐,得到YUV格式的前一帧的新参考帧图像;对YUV格式的当前帧的第一去噪图像和YUV格式的前一帧的新参考帧图像进行运动估计和补偿,得到YUV格式的当前帧的参考帧图像。
基于上述实施例,本申请实施例示例一种图像去噪方法,图6为本申请实施例中图像去噪方法的流程示意图六,如图6所示,图像去噪方法可以包括:
S601:HDR sensor输出当前时刻Raw格式的初始长帧图像和初始短帧图像,经过Raw统计模块处理之后,得到处理之后当前时刻的长帧图像和短帧图像,并存储至DDR中。HDR sensor输出下一时刻Raw格式的初始长帧图像和初始短帧图像,经过Raw统计模块处理之后,得到处理之后下一时刻的长帧图像和短帧图像,并存储至DDR中。
Raw统计模块通常用于对Raw格式的图像进行处理。Raw格式是一种未经过处理的原始图像数据格式,它保留了从图像传感器直接输出的像素值信息,没有经过色彩空间转换、去噪、白平衡调整等后期处理。Raw统计模块通常包括以下处理操作:色彩空间转换、去噪、白平衡调整等。
S602:从DDR中获取当前时刻Raw格式的长帧图像和短帧图像,将Raw格式的长帧图像向短帧图像对齐,得到第三对齐参数。从DDR中获取下一时刻Raw格式的长帧图像和短帧图像,将Raw格式的长帧图像向短帧图像对齐,得到第四对齐参数。
S603:从DDR中获取当前时刻Raw格式的短帧图像,将当前时刻Raw格式的短帧图像经Raw域处理模块处理,得到当前时刻RGB格式的短帧图像。从DDR中获取下一时刻Raw格式的短帧图像,将下一时刻Raw格式的短帧图像经Raw域处理模块处理,得到下一时刻RGB格式的短帧图像。
S604:从DDR中获取当前时刻Raw格式的长帧图像,将当前时刻Raw格式的长帧图像和第三对齐参数作为RGB域对齐模块的输入,得到当前时刻Raw格式的新的长帧图像。从DDR中获取下一时刻Raw格式的长帧图像,将下一时刻Raw格式的长帧图像和第四对齐参数作为RGB域对齐模块的输入,得到下一时刻Raw格式的新的长帧图像。
具体的,将当前时刻Raw格式的长帧图像转为RGB格式的长帧图像,再基于第三对齐参数,将RGB格式的长帧图像向短帧图像对齐,得到Raw格式的新的长帧图像。
S605:将当前时刻RGB格式的新的长帧图像和短帧图像,经过RGB域HDR模块的处理,得到当前时刻RGB格式的当前帧图像。将下一时刻RGB格式的新的长帧图像和短帧图像,经过RGB域HDR模块的处理,得到下一时刻RGB格式的后一帧图像。
S606:将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数,将当前帧图像由RGB格式转为YUV格式,以及将后一帧图像由RGB格式转为YUV格式,基于第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像,通过YUV域HDR模块,利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像,并存储至DDR中。
这里,YUV域HDR模块可以作为基于有限脉冲响应滤波器(Finite ImpulseResponse Filter,FIR)的多帧降噪(Multi-Frame Noise Reduction,MFNR)模块进行去噪处理。
S607:从DDR中获取YUV格式的前一帧的参考帧图像,将YUV格式的前一帧的参考帧图像经过YUV域对齐模块处理,得到与当前帧的第二去噪图像对齐的前一帧的新参考帧图像。
S608:将YUV格式的当前帧的第一去噪图像和YUV格式的前一帧的新参考帧图像,经第一MCTF模块处理,得到YUV格式的当前帧的参考帧图像,并存储至DDR中。
第一MCTF为YUV域时域去噪算法,采用了无限脉冲响应(Infinite impulseresponse,IIR)方式。
S609:将YUV格式的当前帧的参考帧图像经过YUV域模块处理,得到处理之后的参考帧图像,并存储至DDR给视频录制和预览使用。
YUV域模块至少包括以下处理操作:防抖、畸变校正、去噪、增强和缩放等。
本申请实施例还示例一种图像去噪方法,图7为本申请实施例中图像去噪方法的流程示意图七,如图7所示,图像去噪方法可以包括:
图7中S601至S605与图6中S601至S605内容相同,这里不再赘述。
S610:将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数,将当前帧图像由RGB格式转为YUV格式,以及将后一帧图像由RGB格式转为YUV格式,基于第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像,通过第二MCTF模块,利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像,并存储至DDR中。
这里,YUV域第二MCTF模块可以作为基于有限脉冲响应滤波器(Finite ImpulseResponse Filter,FIR)的多帧降噪(Multi-Frame Noise Reduction,MFNR)模块进行去噪处理。
图7中S607至S609与图6中S607至S609内容相同,这里不再赘述。
本申请实施例还示例一种图像去噪方法,图8为本申请实施例中图像去噪方法的流程示意图八,如图8所示,图像去噪方法可以包括:
图8中S601至S605与图6中S601至S605内容相同,这里不再赘述。
本申请实施例中,S605还将RGB格式的当前帧图像和后一帧图像存储至DDR中。
第三MCTF包括第二MCTF和第一MCTF。
S611:将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数,将当前帧图像由RGB格式转为YUV格式,以及将后一帧图像由RGB格式转为YUV格式,基于第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像,通过第二MCTF模块,利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像。接着,将YUV格式的当前帧的第一去噪图像和前一帧的新参考帧图像,经第一MCTF模块处理,得到YUV格式的当前帧的参考帧图像,并存储至DDR中。
图8中S607、S609与图6中S607、S609内容相同,这里不再赘述。
为实现本申请实施例的方法,基于同一发明构思,本申请实施例中还提供了一种图像去噪装置,图9为本申请实施例中图像去噪装置组成的结构示意图,如图9所示,该图像去噪装置90包括:
获取单元901,用于获取当前帧图像和后一帧图像;其中,所述当前帧图像和所述后一帧图像的曝光时长相等;
处理单元902,用于利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像;以及对所述当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到所述当前帧的参考帧图像;以及基于所述当前帧的参考帧图像进行显示。
本申请实施例中,先通过后一帧图像对当前帧图像进行一次去噪处理,得到当前帧的第一去噪图像,再通过前一帧的参考帧图像对当前帧的第一去噪图像再次进行去噪处理,使得最终得到的当前帧的参考帧图像的噪声大幅度减少,即提升去噪效果,提升当前帧的参考帧图像的清晰度。
在一些实施例中,处理单元902,还用于将Raw格式的后一帧图像向Raw格式的当前帧图像对齐,得到第一对齐参数;将所述当前帧图像由Raw格式转为RGB格式,以及将所述后一帧图像由Raw格式转为RGB格式;基于所述第一对齐参数,将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到RGB格式的新的后一帧图像;利用RGB格式的新的后一帧图像对RGB格式的当前帧图像进行去噪处理,得到RGB格式的当前帧的第一去噪图像。
在一些实施例中,处理单元902,还用于将所述当前帧的第一去噪图像由RGB格式转为YUV格式;将YUV格式的前一帧的参考帧图像向YUV格式的当前帧的第一去噪图像对齐,得到YUV格式的前一帧的新参考帧图像;对YUV格式的当前帧的第一去噪图像和YUV格式的前一帧的新参考帧图像进行运动估计和补偿,得到YUV格式的当前帧的参考帧图像。
在一些实施例中,处理单元902,还用于将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数;将所述当前帧图像由RGB格式转为YUV格式,以及将所述后一帧图像由RGB格式转为YUV格式;基于所述第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像;利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像。
在一些实施例中,获取单元901,还用于获取当前时刻Raw格式的长帧图像和短帧图像,以及获取下一时刻Raw格式的长帧图像和短帧图像;处理单元902,还用于在RGB域,对所述当前时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的当前帧图像;在RGB域,对所述下一时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的后一帧图像。
在一些实施例中,处理单元902,还用于将所述长帧图像由Raw格式转为RGB格式,以及将所述短帧图像由Raw格式转为RGB格式;将RGB格式的长帧图像向短帧图像对齐,得到RGB格式的新的长帧图像;利用RGB格式的新的长帧图像对RGB格式的短帧图像进行去噪处理,得到RGB格式的当前帧图像。
在一些实施例中,处理单元902,还用于将所述当前帧的参考帧图像存储至预设存储空间。
本申请实施例还提供了另一种电子设备,图10为本申请实施例中电子设备组成的结构示意图,如图10所示,该电子设备100包括:处理器1001和配置为存储能够在处理器上运行的计算机程序的存储器1002;
其中,处理器1001配置为运行计算机程序时,执行前述实施例中的方法步骤。
当然,实际应用时,如图10所示,该电子设备100中的各个组件通过总线系统1003耦合在一起。可理解,总线系统1003用于实现这些组件之间的连接通信。总线系统1003除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图10中将各种总线都标为总线系统1003。
在实际应用中,上述处理器可以为特定用途集成电路(ASIC,ApplicationSpecific Integrated Circuit)、数字信号处理装置(DSPD,Digital Signal ProcessingDevice)、可编程逻辑装置(PLD,Programmable Logic Device)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、控制器、微控制器、微处理器中的至少一种。可以理解地,对于不同的设备,用于实现上述处理器功能的电子器件还可以为其它,本申请实施例不作具体限定。
上述存储器可以是易失性存储器(volatile memory),例如随机存取存储器(RAM,Random-Access Memory);或者非易失性存储器(non-volatile memory),例如只读存储器(ROM,Read-Only Memory),快闪存储器(flash memory),硬盘(HDD,Hard Disk Drive)或固态硬盘(SSD,Solid-State Drive);或者上述种类的存储器的组合,并向处理器提供指令和数据。
在示例性实施例中,本申请实施例还提供了一种计算机可读存储介质,用于存储计算机程序。
可选的,该计算机可读存储介质可应用于本申请实施例中的任意一种方法,并且该计算机程序使得计算机执行本申请实施例的各个方法中由处理器实现的相应流程,为了简洁,在此不再赘述。
示例性地,本申请实施例还提供了一种计算机程序产品,包括计算机程序,计算机程序可由电子设备的处理器执行,以完成前述任一方法的步骤。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个处理模块中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本申请所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本申请所提供的几个产品实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的产品实施例。
本申请所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种图像去噪方法,其特征在于,所述方法包括:
获取当前帧图像和后一帧图像;其中,所述当前帧图像和所述后一帧图像的曝光时长相等;
利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像;
对所述当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到所述当前帧的参考帧图像;
基于所述当前帧的参考帧图像进行显示。
2.根据权利要求1所述的方法,其特征在于,所述利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像,包括:
将Raw格式的后一帧图像向Raw格式的当前帧图像对齐,得到第一对齐参数;
将所述当前帧图像由Raw格式转为RGB格式,以及将所述后一帧图像由Raw格式转为RGB格式;
基于所述第一对齐参数,将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到RGB格式的新的后一帧图像;
利用RGB格式的新的后一帧图像对RGB格式的当前帧图像进行去噪处理,得到RGB格式的当前帧的第一去噪图像。
3.根据权利要求2所述的方法,其特征在于,所述对所述当前帧的第一去噪图像和获取的前一帧的参考帧图像进行运动估计和补偿,得到所述当前帧的参考帧图像,包括:
将所述当前帧的第一去噪图像由RGB格式转为YUV格式;
将YUV格式的前一帧的参考帧图像向YUV格式的当前帧的第一去噪图像对齐,得到YUV格式的前一帧的新参考帧图像;
对YUV格式的当前帧的第一去噪图像和YUV格式的前一帧的新参考帧图像进行运动估计和补偿,得到YUV格式的当前帧的参考帧图像。
4.根据权利要求1所述的方法,其特征在于,所述利用所述后一帧图像对所述当前帧图像进行去噪处理,得到当前帧的第一去噪图像,包括:
将RGB格式的后一帧图像向RGB格式的当前帧图像对齐,得到第二对齐参数;
将所述当前帧图像由RGB格式转为YUV格式,以及将所述后一帧图像由RGB格式转为YUV格式;
基于所述第二对齐参数,将YUV格式的后一帧图像向YUV格式的当前帧图像对齐,得到YUV格式的新的后一帧图像;
利用YUV格式的新的后一帧图像对YUV格式的当前帧图像进行去噪处理,得到YUV格式的当前帧的第一去噪图像。
5.根据权利要求4所述的方法,其特征在于,所述获取当前帧图像和后一帧图像之前,所述方法还包括:
获取当前时刻Raw格式的长帧图像和短帧图像,以及获取下一时刻Raw格式的长帧图像和短帧图像;
在RGB域,对所述当前时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的当前帧图像;
在RGB域,对所述下一时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的后一帧图像。
6.根据权利要求5所述的方法,其特征在于,所述在RGB域,对所述当前时刻Raw格式的长帧图像和短帧图像进行高动态范围融合处理,得到RGB格式的当前帧图像,包括:
将Raw格式的长帧图像向Raw格式的短帧图像对齐,得到第三对齐参数;
将所述长帧图像由Raw格式转为RGB格式,以及将所述短帧图像由Raw格式转为RGB格式;
基于所述第三对齐参数,将RGB格式的长帧图像向RGB格式的短帧图像对齐,得到RGB格式的新的长帧图像;
利用RGB格式的新的长帧图像对RGB格式的短帧图像进行去噪处理,得到RGB格式的当前帧图像。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
将所述当前帧的参考帧图像存储至预设存储空间。
8.一种电子设备,其特征在于,所述电子设备包括:处理器和配置为存储能够在处理器上运行的计算机程序的存储器,
其中,所述处理器配置为运行所述计算机程序时,执行权利要求1至7任一项所述方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至7任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序或指令,其特征在于,所述计算机程序或指令被处理器执行时,实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410254151.3A CN118014880A (zh) | 2024-03-05 | 2024-03-05 | 一种图像去噪方法、设备、存储介质及产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410254151.3A CN118014880A (zh) | 2024-03-05 | 2024-03-05 | 一种图像去噪方法、设备、存储介质及产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118014880A true CN118014880A (zh) | 2024-05-10 |
Family
ID=90955925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410254151.3A Pending CN118014880A (zh) | 2024-03-05 | 2024-03-05 | 一种图像去噪方法、设备、存储介质及产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118014880A (zh) |
-
2024
- 2024-03-05 CN CN202410254151.3A patent/CN118014880A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11375128B2 (en) | Method for obtaining exposure compensation values of high dynamic range image, terminal device and non-transitory computer-readable storage medium | |
US8457433B2 (en) | Methods and systems for image noise filtering | |
JP5045421B2 (ja) | 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム | |
US9858644B2 (en) | Bayer color filter array based high dynamic range video recording method and device | |
US20130021504A1 (en) | Multiple image processing | |
Andriani et al. | Beyond the Kodak image set: A new reference set of color image sequences | |
US9148593B2 (en) | Advanced noise reduction in digital cameras | |
US20120224766A1 (en) | Image processing apparatus, image processing method, and program | |
CN107395991B (zh) | 图像合成方法、装置、计算机可读存储介质和计算机设备 | |
US10469749B1 (en) | Temporal filter with criteria setting maximum amount of temporal blend | |
WO2015113655A1 (en) | Method for conversion of a saturated image into a non-saturated image | |
US7595805B2 (en) | Techniques to facilitate use of small line buffers for processing of small or large images | |
KR20090091780A (ko) | 디지털 이미지 내의 노이즈 감소 방법, 디지털 이미지 내의 노이즈 감소 장치 및 디지털 이미지 내의 노이즈 감소 시스템 | |
US9197813B2 (en) | Method and apparatus for obtaining a digital image | |
WO2010136375A1 (en) | Method and arrangement for processing a stereo image for three-dimensional viewing | |
US9741105B1 (en) | Picture brightness adjusted temporal filtering | |
CN110807735A (zh) | 图像处理方法、装置、终端设备及计算机可读存储介质 | |
CN114998122A (zh) | 一种低照度图像增强方法 | |
CN110266965B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US8189061B1 (en) | Digital still camera with multiple frames combined into a single frame for digital anti-shake/anti-blur | |
CN102170571A (zh) | 一种支持双通道cmos传感器的数码相机架构 | |
Deever et al. | Digital camera image formation: Processing and storage | |
CN108307114B (zh) | 图像的处理方法、装置、存储介质及电子设备 | |
CN118014880A (zh) | 一种图像去噪方法、设备、存储介质及产品 | |
CN113873142B (zh) | 多媒体处理芯片、电子设备和动态图像处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |