CN117710221A - 一种图像处理方法和装置 - Google Patents
一种图像处理方法和装置 Download PDFInfo
- Publication number
- CN117710221A CN117710221A CN202211079039.8A CN202211079039A CN117710221A CN 117710221 A CN117710221 A CN 117710221A CN 202211079039 A CN202211079039 A CN 202211079039A CN 117710221 A CN117710221 A CN 117710221A
- Authority
- CN
- China
- Prior art keywords
- video frame
- aligned
- pixel
- video
- fused
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 238000013507 mapping Methods 0.000 claims abstract description 269
- 239000011159 matrix material Substances 0.000 claims abstract description 209
- 238000012545 processing Methods 0.000 claims abstract description 63
- 238000000034 method Methods 0.000 claims abstract description 50
- 238000007499 fusion processing Methods 0.000 claims abstract description 28
- 230000015654 memory Effects 0.000 claims abstract description 24
- 230000003139 buffering effect Effects 0.000 claims description 28
- 238000004364 calculation method Methods 0.000 claims description 23
- 238000004422 calculation algorithm Methods 0.000 claims description 22
- 238000004891 communication Methods 0.000 claims description 18
- 230000009467 reduction Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 238000005070 sampling Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 11
- 230000004927 fusion Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 8
- 230000009471 action Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/35—Determination of transform parameters for the alignment of images, i.e. image registration using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/38—Registration of image sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Image Processing (AREA)
Abstract
本发明实施例提供了一种图像处理方法和装置,涉及图像处理技术领域,方法包括:依次获取每一待对齐视频帧,并进行缓存;在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;按照缓存的先后顺序,针对最后缓存的第一数目个待对齐视频帧中除中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。如此,能够提高视频图像的图像质量。
Description
技术领域
本发明涉及图像处理技术领域,特别是涉及一种图像处理方法和装置。
背景技术
随着计算机技术的快速发展,可以通过视频采集设备采集视频图像,进而,可以基于采集的视频图像进行后续处理。例如,可以对视频图像进行目标检测等。
然而,当环境光亮度不足时,会导致视频采集设备采集到的视频图像包含较多的噪声,导致视频图像的图像质量不高。
发明内容
本发明实施例的目的在于提供一种图像处理方法和装置,以提高视频图像的图像质量。
具体技术方案如下:
本发明实施例的第一方面,首先提供了一种图像处理方法,所述方法包括:
依次获取每一待对齐视频帧,并进行缓存;
在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,所述第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的所述第一数目个待对齐视频帧中的中心视频帧,以及所述中心视频帧与该待对齐视频帧之间的视频帧;
按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;
对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。
在一些实施例中,所述第一数目为大于1的奇数,且按照缓存的先后顺序,所述中心视频帧为所述第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。
在一些实施例中,在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,所述方法还包括:
按照缓存的先后顺序,从最后缓存的所述第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
在一些实施例中,在所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵之后,所述方法还包括:
按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存;
在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,所述方法还包括:
按照缓存的先后顺序,删除所述第二数目个最先缓存的映射矩阵。
在一些实施例中,所述按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧,包括:
按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从所述中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵;
基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
在一些实施例中,所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧,包括:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重;其中,各待融合视频帧和所述中心视频帧的权重符合高斯分布、所述中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和所述中心视频帧之间的距离,与该待融合视频帧的权重呈负相关;
按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
在一些实施例中,所述针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重,包括:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的每一像素点,若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重;
若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异不小于所述预设阈值,则确定该像素点的权重为0;
基于各待融合视频帧中相同像素坐标的像素点的权重,计算所述中心视频帧中该相同像素坐标的像素点的权重。
在一些实施例中,所述依次获取每一待对齐视频帧,并进行缓存,包括:
依次从待处理视频中获取每一视频帧;
基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
在一些实施例中,所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵,包括:
针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点;
基于该待对齐视频帧中的角点的像素坐标和所述对齐像素点的像素坐标,按照RANSAC(RANdom SAmple Consensus,随机抽样一致)算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
在一些实施例中,所述基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧,包括:
针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标;
将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
在一些实施例中,在所述将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值之前,所述方法还包括:
若所述映射像素坐标不为整数,则确定该待对齐视频帧中包含所述映射像素坐标的邻域范围;
基于所述邻域范围内的多个像素点的像素值,按照双线性插值算法,计算所述映射像素坐标处的像素值。
本发明实施例的第二方面,首先提供了一种图像处理装置,所述装置包括:
待对齐视频帧缓存模块,用于依次获取每一待对齐视频帧,并进行缓存;
映射矩阵计算模块,用于在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,所述第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的所述第一数目个待对齐视频帧中的中心视频帧,以及所述中心视频帧与该待对齐视频帧之间的视频帧;
待融合视频帧获取模块,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;
目标视频帧获取模块,用于对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。
在一些实施例中,所述第一数目为大于1的奇数,且按照缓存的先后顺序,所述中心视频帧为所述第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。
在一些实施例中,所述装置还包括:
待对齐视频帧删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,从最后缓存的所述第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
在一些实施例中,所述装置还包括:
映射矩阵缓存模块,用于在所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵之后,按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存;
映射矩阵删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,删除所述第二数目个最先缓存的映射矩阵。
在一些实施例中,所述待融合视频帧获取模块,包括:
逆矩阵计算子模块,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从所述中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵;
待融合视频帧获取子模块,用于基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
在一些实施例中,所述目标视频帧获取模块,包括:
权重获取子模块,用于针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重;其中,各待融合视频帧和所述中心视频帧的权重符合高斯分布、所述中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和所述中心视频帧之间的距离,与该待融合视频帧的权重呈负相关;
像素值获取子模块,用于按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
在一些实施例中,所述权重获取子模块,具体用于:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的每一像素点,若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重;
若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异不小于所述预设阈值,则确定该像素点的权重为0;
基于各待融合视频帧中相同像素坐标的像素点的权重,计算所述中心视频帧中该相同像素坐标的像素点的权重。
在一些实施例中,所述待对齐视频帧缓存模块,包括:
视频帧获取子模块,用于依次从待处理视频中获取每一视频帧;
待对齐视频帧缓存子模块,用于基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
在一些实施例中,所述映射矩阵计算模块,包括:
对齐像素点获取子模块,用于针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点;
映射矩阵计算子模块,用于基于该待对齐视频帧中的角点的像素坐标和所述对齐像素点的像素坐标,按照随机抽样一致RANSAC算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
在一些实施例中,所述待融合视频帧获取模块,包括:
映射像素坐标获取子模块,用于针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标;
待融合视频帧确定子模块,用于将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
在一些实施例中,所述装置还包括:
邻域范围确定模块,用于在所述将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值之前,若所述映射像素坐标不为整数,则确定该待对齐视频帧中包含所述映射像素坐标的邻域范围;
像素值计算模块,用于基于所述邻域范围内的多个像素点的像素值,按照双线性插值算法,计算所述映射像素坐标处的像素值。
本发明实施例的第三方面,提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述任一所述的图像处理方法。
本发明实施例的第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一所述的图像处理方法。
本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一所述的图像处理方法。
本发明实施例有益效果:
本发明实施例提供的图像处理方法包括依次获取每一待对齐视频帧,并进行缓存;在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的第一数目个待对齐视频帧中的中心视频帧,以及中心视频帧与该待对齐视频帧之间的视频帧;按照缓存的先后顺序,针对最后缓存的第一数目个待对齐视频帧中除中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;对各待融合视频帧和中心视频帧进行融合处理,得到目标视频帧。
基于上述处理,在每缓存一个待对齐视频帧后,如果当前已缓存的待对齐视频帧的数目达到一定数目,则可以对该一定数目个待对齐视频帧进行融合,也就能够有效地减少融合后的目标视频帧中的噪声,提高视频图像的图像质量。另外,可以按照各待对齐视频帧与中心视频帧之间的映射矩阵对视频帧进行融合,即,能够将各待对齐视频帧与中心视频帧进行对齐后融合,也就能够减小待融合视频帧与中心视频帧之间的差异,进而,能够进一步提高融合后的目标视频帧的图像质量,以提高视频图像的图像质量。
当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的实施例。
图1为本发明实施例提供的一种图像处理方法的流程图;
图2为本发明实施例提供的另一种图像处理方法的流程图;
图3为本发明实施例提供的一种基于降噪网络模型对视频帧进行处理的效果对比示意图;
图4为本发明实施例提供的又一种图像处理方法的流程图;
图5为本发明实施例提供的再一种图像处理方法的流程图;
图6为本发明实施例提供的一种不同时刻下电子设备已缓存信息的示意图;
图7为本发明实施例提供的一种对视频帧进行融合的流程示意图;
图8为本发明实施例提供的一种在相邻帧中确定最优匹配点的示意图;
图9为本发明实施例提供的一种通过滑动块进行匹配的结构示意图;
图10为本发明实施例提供的一种图像处理装置的结构图;
图11为本发明实施例提供的一种电子设备的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员基于本申请所获得的所有其他实施例,都属于本发明保护的范围。
相关技术中,当环境光亮度不足时,视频采集设备采集到的视频图像包含较多的噪声,视频图像的图像质量不高。
为了解决上述问题,本发明实施例提供了一种图像处理方法,该方法可以应用于电子设备。例如,该电子设备可以为摄像机。电子设备可以基于采集到的视频图像确定待对齐视频帧,进而,电子设备可以基于本发明实施例提供的图像处理方法进行处理,得到各目标视频帧,也就可以得到包含各目标视频帧的视频图像,即,融合后的视频图像。
参见图1,图1为本发明实施例提供的一种图像处理方法的流程图,该方法可以包括以下步骤:
S101:依次获取每一待对齐视频帧,并进行缓存。
S102:在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵。
其中,第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的第一数目个待对齐视频帧中的中心视频帧,以及中心视频帧与该待对齐视频帧之间的视频帧。
S103:按照缓存的先后顺序,针对最后缓存的第一数目个待对齐视频帧中除中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
S104:对各待融合视频帧和中心视频帧进行融合处理,得到目标视频帧。
基于上述处理,在每缓存一个待对齐视频帧后,如果当前已缓存的待对齐视频帧的数目达到一定数目,则可以对该一定数目个待对齐视频帧进行融合,也就能够有效地减少融合后的目标视频帧中的噪声,提高视频图像的图像质量。另外,可以按照各待对齐视频帧与中心视频帧之间的映射矩阵对视频帧进行融合,即,能够将各待对齐视频帧与中心视频帧进行对齐后融合,也就能够减小待融合视频帧与中心视频帧之间的差异,进而,能够进一步提高融合后的目标视频帧的图像质量,以提高视频图像的图像质量。
针对步骤S101,可以基于预先获取的视频图像(可以称为待处理视频图像)确定待对齐视频帧。例如,待处理视频图像可以为图像采集设备在低照度的情况下采集到的视频图像。待处理视频图像可以为RAW格式。
一种实现方式中,待对齐视频帧为待处理视频中的视频帧。也就是说,可以按照时间戳的顺序,依次获取待处理视频中的每一视频帧,作为待对齐视频帧,并进行缓存。
另一种实现方式中,参见图2,在图1的基础上,图2为本发明实施例提供的另一种图像处理方法的流程图,步骤S101包括:
S1011:依次从待处理视频中获取每一视频帧。
S1012:基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
其中,降噪网络模型可以为Unet网络模型,或者,也可以为Vnet网络模型。
如图3所示,图3为本发明实施例提供的一种基于降噪网络模型对视频帧进行处理的效果对比示意图。图3中,左侧图像为处理前的视频帧,右侧图像为基于降噪网络模型进行处理后的视频帧。基于降噪网络模型能够有效地去除视频帧中的噪声,也就能够进一步提高融合后的目标视频帧的图像质量,以提高视频图像的图像质量。
在获取到每一待对齐视频帧后,电子设备可以将该待对齐视频帧缓存至指定的存储空间中。另外,电子设备还可以记录各待对齐视频帧的缓存顺序。例如,可以将待对齐视频帧缓存至队列(可以称为待对齐视频帧队列)中,相应的,基于该队列中存储的待对齐视频帧,可以确定各待对齐视频帧的缓存顺序。
针对步骤S102,在每缓存一个待对齐视频帧后,电子设备可以对包含该待对齐视频帧在内的第一数目个待对齐视频帧进行融合,也就是说,第一数目表示每次需要进行融合的待对齐视频帧的数目。第一数目越大,表示每次需要融合的待对齐视频帧越多,会增大每次融合时的计算量,相应的,也会提高融合后的目标视频帧的图像质量;第一数目越小,表示每次需要融合的待对齐视频帧越少,会减少每次融合时的计算量,相应的,也会降低融合后的目标视频帧的图像质量。因此,第一数目可以由技术人员结合计算量和图像质量确定。例如,第一数目可以为5。
第二数目也就是每次缓存一个待对齐视频帧后,需要计算与该待对齐视频帧之间的映射矩阵的其他已缓存的待对齐视频帧的数目。可以理解的是,第二数目不大于第一数目。
两个视频帧之间的映射矩阵,可以表示该两个视频帧的像素点之间的像素坐标的映射关系。该映射矩阵也可以称为该两个视频帧之间的单应性矩阵。例如,针对两个时间戳相邻的视频帧,该两个视频帧的图像内容之间存在差异。因此,针对一个视频帧中的一个像素点,可以基于映射矩阵对该像素点的像素坐标进行处理,确定出该像素点在另一个视频帧中对应的像素坐标。上述过程,也就是将该视频帧向另一个视频帧对齐。
该待对齐视频帧与相邻视频帧之间的映射矩阵,可以表示从相邻视频帧映射至该待对齐视频帧的映射关系(可以称为第一映射关系),或者,也可以表示从该待对齐视频帧映射至相邻视频帧的映射关系(可以称为第二映射关系)。可以理解的是,第一映射关系和第二映射关系互逆。例如,表示从视频帧A映射至视频帧B的映射关系的第一映射矩阵,为表示从视频帧B映射至视频帧A的映射关系的第二映射矩阵的逆矩阵。
每次需要融合的第一数目个待对齐视频帧中存在一个中心视频帧。按照缓存的先后顺序,中心视频帧可以为该第一数目个待对齐视频帧中处于中心位置的待对齐视频帧。例如,中心视频帧可以为该第一数目个待对齐视频帧中除最后一个和第一个以外的任意一个视频帧。
例如,第一数目为大于1的奇数,且按照缓存的先后顺序,中心视频帧为第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。如,第一数目为5,则中心视频帧为该5个待对齐视频帧中的第3个视频帧;第一数目为7,则中心视频帧为该7个待对齐视频帧中的第4个视频帧。相应的,第一数目M与第二数目N的关系可以通过公式(1)表示:
又例如,第一数目也可以为大于1的偶数,相应的,按照缓存的先后顺序,中心视频帧为该第一数目个待对齐视频帧中处于中心位置两侧的视频帧。如,第一数目为4,则中心视频帧为该4个待对齐视频帧中的第2个视频帧或第3个视频帧;第一数目为6,则中心视频帧为该6个待对齐视频帧中的第3个视频帧或第4个视频帧。
基于上述处理,由于中心视频帧为第一数目个待对齐视频帧中处于中心位置的视频帧,从整体上来说,使得其与第一数目个待对齐视频帧中的其他视频帧之间的差异较小,进而,在将其他视频帧向中心视频帧进行对齐时,能够减少计算量,提高对齐后的待融合视频帧的准确度,相应的,能够进一步提高融合后的目标视频帧的图像质量,以提高视频的稳定性,提高视频图像的图像质量。
一种实现方式中,在对待对齐视频帧进行缓存时,由于开始缓存的待对齐视频帧的数目较少,随着缓存的待对齐视频帧的数目越来越多,当已缓存的待对齐视频帧的数目大于第二数目时,则可以直接计算最后缓存的一个待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵。也就是说,在已缓存的待对齐视频帧的数目未达到第一数目,且大于第二数目时,也可以计算视频帧之间的映射矩阵。
例如,第一数目为5,第二数目为2。电子设备可以获取待对齐视频帧Q1,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为1,不大于第二数目,且未达到第一数目,无需计算映射矩阵,且无需进行融合处理;然后,可以获取待对齐视频帧Q2,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为2,不大于第二数目,且未达到第一数目,无需计算映射矩阵,且无需进行融合处理。
然后,电子设备获取待对齐视频帧Q3,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为3,大于第二数目。因此,可以计算待对齐视频帧Q3与待对齐视频帧Q1之间的映射矩阵H13,待对齐视频帧Q3与待对齐视频帧Q2之间的映射矩阵H23。映射矩阵H13表示从待对齐视频帧Q1映射至待对齐视频帧Q3的映射关系,映射矩阵H23表示从待对齐视频帧Q2映射至待对齐视频帧Q3的映射关系。由于当前已缓存的待对齐视频帧的数目为3,未达到第一数目,无需计算映射矩阵,且无需进行融合处理。
然后,电子设备获取待对齐视频帧Q4,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为4,大于第二数目。因此,可以计算待对齐视频帧Q4与待对齐视频帧Q2之间的映射矩阵H24,待对齐视频帧Q4与待对齐视频帧Q3之间的映射矩阵H34。其中,映射矩阵H24表示从待对齐视频帧Q2映射至待对齐视频帧Q4的映射关系,映射矩阵H34表示从待对齐视频帧Q3映射至待对齐视频帧Q4的映射关系。由于当前已缓存的待对齐视频帧的数目为4,未达到第一数目,无需计算映射矩阵,且无需进行融合处理。
然后,电子设备获取待对齐视频帧Q5,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为5,大于第二数目。因此,可以计算待对齐视频帧Q5与待对齐视频帧Q3之间的映射矩阵H35,待对齐视频帧Q5与待对齐视频帧Q4之间的映射矩阵H45。其中,映射矩阵H35表示从待对齐视频帧Q3映射至待对齐视频帧Q5的映射关系,映射矩阵H45表示从待对齐视频帧Q4映射至待对齐视频帧Q5的映射关系。由于当前已缓存的待对齐视频帧的数目为5,达到第一数目,此时,可以基于步骤S103进行融合处理,即,对最后缓存的第一数目个待对齐视频帧(即待对齐视频帧Q1-Q5)进行融合。
针对步骤S103,可以将第一数目个待对齐视频帧中除中心视频帧以外的每一待对齐视频帧向中心视频帧对齐。一种实现方式中,若步骤S102中计算的映射矩阵表示从其他待对齐视频帧映射至中心视频帧的映射关系,则可以直接基于该映射矩阵对其他待对齐视频帧进行处理。
另一种实现方式中,若步骤S102中计算的映射矩阵表示从中心视频帧映射至其他待对齐视频帧的映射关系,相应的,步骤S103包括:
步骤1:按照缓存的先后顺序,针对最后缓存的第一数目个待对齐视频帧中除中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵。
步骤2:基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
由于步骤S102中计算的映射矩阵表示从中心视频帧映射至其他待对齐视频帧的映射关系,因此,若要将待对齐视频帧向中心视频帧对齐,则可以计算该映射矩阵的逆矩阵,进而,可以基于计算出的逆矩阵对待对齐视频帧进行处理,也就可以得到待齐视频帧向中心视频帧对齐后的视频帧(即待融合视频帧)。
由于本申请中会对多个相邻的视频帧进行融合,且在融合的过程中可以对视频帧进行对齐。因此,针对两个视频帧,在两次不同的融合过程中,需要分别将每一视频帧向另一视频帧进行对齐。而采用映射矩阵的逆矩阵的方式,在该两次融合过程中进行对齐时,只需要记录一个映射矩阵就可以得到两个映射关系,即,通过一个映射矩阵和该映射矩阵的逆矩阵分别表示两个视频帧之间的映射关系。进而,也就无需多次计算映射矩阵,能够实现映射矩阵的复用,减少计算量,提高图像处理的效率。
例如,第一数目为5,第二数目为2。且在每次缓存一个待对齐视频帧后,可以计算该待对齐视频帧与相邻视频帧之间的映射矩阵,该映射矩阵表示从相邻视频帧映射至该待对齐视频帧的映射关系。后续,还可以计算该映射矩阵的逆矩阵,该映射矩阵的逆矩阵表示从该待对齐视频帧映射至相邻视频帧的映射关系。
在缓存待对齐视频帧Q5后,待对齐视频帧队列Q中最后缓存的第一数目个待对齐视频帧包括:待对齐视频帧Q1、Q2、Q3、Q4和Q5,此时,中心视频帧为待对齐视频帧Q3,计算得到的映射矩阵包括:映射矩阵H13、H23、H24、H34、H35、H45。进而,电子设备能够基于映射矩阵H13对待对齐视频帧Q1进行处理,得到待融合视频帧Q1 *;基于映射矩阵H23对待对齐视频帧Q2进行处理,得到待融合视频帧Q2 *;计算映射矩阵H34的逆矩阵并基于该逆矩阵/>对待对齐视频帧Q4进行处理,得到待融合视频帧Q4 *;计算映射矩阵H35的逆矩阵/>并基于对待对齐视频帧Q5进行处理,得到待融合视频帧Q5 *。其中,映射矩阵/>表示从待对齐视频帧Q4映射至待对齐视频帧Q3的映射关系,映射矩阵/>表示从待对齐视频帧Q5映射至待对齐视频帧Q3的映射关系。然后,可以对待对齐视频帧Q1、Q2、Q3、Q4和Q5进行融合。
在缓存待对齐视频帧Q5后,继续缓存待对齐视频帧Q6和Q7,此时,待对齐视频帧队列Q中最后缓存的第一数目个待对齐视频帧为待对齐视频帧Q3、Q4、Q5、Q6和Q7,中心视频帧为待对齐视频帧Q5,计算得到的映射矩阵包括:映射矩阵H13、H23、H24、H34、H35、H45、H46、H56、H57、H67。进而,电子设备能够基于映射矩阵H35对待对齐视频帧Q3进行处理,得到待融合视频帧Q3 *;基于映射矩阵H45对待对齐视频帧Q4进行处理,得到待融合视频帧Q4 *;计算映射矩阵H56的逆矩阵并基于该逆矩阵/>对待对齐视频帧Q6进行处理,得到待融合视频帧Q6 *;计算映射矩阵H57的逆矩阵/>并基于对待对齐视频帧Q7进行处理,得到待融合视频帧Q7 *。其中,映射矩阵/>表示从待对齐视频帧Q6映射至待对齐视频帧Q5的映射关系,映射矩阵/>表示从待对齐视频帧Q7映射至待对齐视频帧Q5的映射关系。然后,可以对待对齐视频帧Q3、Q4、Q5、Q6和Q7进行融合。
可见,上述两次融合过程中,其中一次使用映射矩阵H35的逆矩阵另一次使用映射矩阵H35,也就是说,两次融合过程中,可以实现映射矩阵H35的复用,也就无需多次计算映射矩阵,能够实现映射矩阵的复用,减少计算量,提高图像处理的效率。
针对步骤S104,各待融合视频帧和中心视频帧的权重可以相同,也可以不同。
在一个实施例中,参见图4,在图2的基础上,图4为本发明实施例提供的又一种图像处理方法的流程图,步骤S104包括:
S1041:针对各待融合视频帧和中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和中心视频帧的权重,分别确定该多个该像素点各自的权重。
其中,各待融合视频帧和中心视频帧的权重符合高斯分布、中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和中心视频帧之间的距离,与该待融合视频帧的权重呈负相关。
S1042:按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
由于各待融合视频帧和中心视频帧的权重符合高斯分布,即,各待融合视频帧和中心视频帧的权重可以基于高斯函数得到。
按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和中心视频帧之间的距离,与该待融合视频帧的权重呈负相关。也就是说,针对每一待融合视频帧,若该待融合视频帧对应的待对齐视频帧与中心视频帧之间的距离越大,则该待融合视频帧的权重越小;若该待融合视频帧对应的待对齐视频帧与中心视频帧之间的距离越小,则该待融合视频帧的权重越大。待对齐视频帧与中心视频帧之间的距离表示:按照缓存的先后顺序,待对齐视频帧与中心视频帧之间的距离。
一种实现方式中,针对每一待融合视频帧,可以将该待融合视频帧的权重,确定为该待融合视频帧中各像素点的权重,即,同一待融合视频帧中各像素点的权重相同;且可以将中心视频帧的权重,确定为该中心视频帧中各像素点的权重。
例如,第一数目为5,第二数目为2。中心视频帧的权重为0.5,4个待融合视频帧的权重分别为0.1、0.15、0.15和0.1。
另一种实现方式中,上述步骤S1041可以包括:
步骤一:针对各待融合视频帧和中心视频帧中相同像素坐标的每一像素点,若该像素点属于待融合视频帧,且该像素点与中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重。
步骤二:若该像素点属于待融合视频帧,且该像素点与中心视频帧中相同像素坐标的像素点之间的差异不小于预设阈值,则确定该像素点的权重为0。
步骤三:基于各待融合视频帧中相同像素坐标的像素点的权重,计算中心视频帧中该相同像素坐标的像素点的权重。
针对各待融合视频帧的每一像素点,该像素点与中心视频帧中相同像素坐标的像素点(可以称为中心像素点)之间的差异,可以用该像素点与对应的中心像素点的像素值的差值的绝对值表示。
若该像素点与对应的中心像素点之间的差异不小于预设阈值,则表示待融合视频帧中该像素点体现的图像信息与对应的中心像素点体现的图像信息之间的差异较大,即,对待对齐视频帧进行对齐得到的该像素点的准确度较低,因此,为了提高融合的准确度,可以将该像素点的权重确定为0。反之,若该像素点与对应的中心像素点之间的差异小于预设阈值,则表示待融合视频帧中该像素点体现的图像信息与对应的中心像素点体现的图像信息之间的差异较小,即,对待对齐视频帧进行对齐得到的该像素点的准确度较高,进而,可以将该像素点所属的待融合视频帧的权重确定为该像素点的权重。
例如,针对各待融合视频帧和中心视频帧Q3中相同像素坐标的每一像素点,可以基于公式(2)确定各像素点的权重,公式(2)如下所示:
其中,αi表示待融合视频帧的权重,αi(x,y)表示待融合视频帧/>中像素坐标(x,y)处的像素点的权重。/>表示待融合视频帧/>中像素坐标(x,y)处的像素点与中心视频帧Q3中像素坐标(x,y)处的像素点之间的差异。i的取值可以为1、2、4和5。
例如,各待融合视频帧中相同像素坐标的像素点的权重,与中心视频帧中该相同像素坐标的像素点的权重的和值可以为1,因此,可以计算各待融合视频帧中相同像素坐标的像素点的权重的总和值,并计算1与该总和值的差值,作为中心视频帧中该相同像素坐标的像素点的权重。
在确定出各待融合视频帧中像素坐标(x,y)处的像素点的权重后,可以基于各待融合视频帧/>中像素坐标(x,y)处的像素点的权重,计算得到中心视频帧Q3中像素坐标(x,y)处的像素点的权重,如公式(3)所示:
α3(x,y)=1-α1(x,y)-α2(x,y)-α4(x,y)-α5(x,y) (3)
其中,α3(x,y)表示中心视频帧Q3中像素坐标(x,y)处的像素点的权重。
在确定各待融合视频帧和中心视频帧中相同像素坐标的每一像素点的权重后,电子设备可以计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
例如,基于待融合视频帧待融合视频帧/>中心视频帧Q3、待融合视频帧/>以及待融合视频帧/>计算得到目标视频帧M中像素坐标的像素值的过程,如公式(4)所示:
其中,M(x,y)表示目标视频帧M中像素坐标(x,y)处的像素点的像素值,表示待融合视频帧/>中像素坐标(x,y)处的像素点的像素值,α1表示待融合视频帧/>中像素坐标(x,y)处的像素点的权重,/>表示待融合视频帧/>中像素坐标(x,y)处的像素点的像素值,α2表示待融合视频帧/>中像素坐标(x,y)处的像素点的权重,Q3(x,y)表示中心视频帧Q3中像素坐标(x,y)处的像素点的像素值,α3表示中心视频帧Q3中像素坐标(x,y)处的像素点的权重,/>表示待融合视频帧/>中像素坐标(x,y)处的像素点的像素值,α4表示待融合视频帧/>中像素坐标(x,y)处的像素点的权重,/>表示待融合视频帧/>中像素坐标(x,y)处的像素点的像素值,α5表示待融合视频帧/>中像素坐标(x,y)处的像素点的权重。
基于上述处理,在将各待融合视频帧和中心视频帧融合时,若待融合视频帧中像素点的像素值与中心视频帧相同像素坐标的像素点之间的差异较大,则可以将待融合视频帧中该像素点的权重置为0,能够避免融合导致目标视频帧中存在拖影的问题,以提高视频图像的图像质量。
在一个实施例中,参见图5,图5为本发明实施例提供的再一种图像处理方法的流程图,在图4的基础上,步骤S1042之后,该方法还包括:
S105:按照缓存的先后顺序,从最后缓存的第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
一种实现方式中,待对齐视频帧队列可以具有固定长度,例如,该固定长度可以为第一数目。因此,在基于最后缓存的第一数目个待对齐视频帧确定出目标视频帧后,由于待对齐视频帧队列中头部的待对齐视频帧已进行融合,且后续融合过程中并不需要该待对齐视频帧,因此,可以将该待对齐视频帧删除。后续,可以在待对齐视频帧队列的尾部继续缓存下一个待对齐视频帧。
基于上述处理,能够将已缓存的待对齐视频帧中冗余的视频帧删除,也就是说,在已缓存的待对齐视频帧中,删除在后续图像处理的过程中不会再使用的待对齐视频帧。进而,能够减少对待处理视频中的视频帧进行处理时,存储待对齐视频帧所需的存储空间,避免存储空间的浪费。
在一个实施例中,在步骤S102之后,该方法还包括:
步骤3:按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存。
在步骤S104之后,该方法还包括:
步骤4:按照缓存的先后顺序,删除第二数目个最先缓存的映射矩阵。
一种实现方式中,针对每一待对齐视频帧,电子设备可以计算该待对齐视频帧与对应的对应的第二数目个相邻视频帧之间的映射矩阵,并按照对应的第二数目个相邻视频帧之间缓存的先后顺序,将计算得到的各映射矩阵缓存至指定的存储空间中。另外,电子设备还可以记录各映射矩阵的缓存顺序。例如,可以将映射矩阵缓存至队列(可以称为映射矩阵队列),相应的,基于该队列中存储的映射矩阵,可以确定各映射矩阵的缓存顺序。
一种实现方式中,映射矩阵队列可以具有固定长度,例如,该固定长度可以为第二数目与第三数目的乘积,第三数目为第二数目加1。因此,在基于最后缓存的第一数目个待对齐视频帧确定出目标视频帧后,由于已基于映射矩阵队列中头部的第二数目个映射矩阵对待对齐视频帧进行处理,得到待融合视频帧,且后续得到待融合视频帧的过程中并不需要该第二数目个映射矩阵,因此,可以将该第二数目个映射矩阵删除。后续,可以在映射矩阵队列的尾部继续缓存下一个待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵。
基于上述处理,能够将已缓存的映射矩阵中冗余的映射矩阵删除,也就是说,在已缓存的映射矩阵中,删除在后续图像处理的过程中不会再使用的映射矩阵。进而,能够减少对待处理视频中的视频帧进行处理时,存储映射矩阵所需的存储空间,避免存储空间的浪费。
例如,如图6所示,图6为本发明实施例提供的一种不同时刻下电子设备已缓存信息的示意图。其中,第一数目为5,第二数目为2。
在时刻1时,电子设备获取待对齐视频帧Q1,并缓存至待对齐视频帧队列Q中。此时,当前已缓存的待对齐视频帧的数目为1,不大于第二数目,且未达到第一数目,无需计算映射矩阵,且无需进行融合处理。即,在时刻1时,待对齐视频帧队列Q中缓存有待对齐视频帧Q1。
在时刻2时,电子设备获取待对齐视频帧Q2,并缓存至待对齐视频帧队列Q中。此时,当前已缓存的待对齐视频帧的数目为2,不大于第二数目,且未达到第一数目,无需计算映射矩阵,且无需进行融合处理。即,在时刻2时,待对齐视频帧队列Q中缓存有待对齐视频帧Q1、Q2。
在时刻3时,电子设备获取待对齐视频帧Q3,并缓存至待对齐视频帧队列Q中。此时,当前已缓存的待对齐视频帧的数目为3,大于第二数目。因此,可以计算待对齐视频帧Q3与待对齐视频帧Q1之间的映射矩阵H13,待对齐视频帧Q3与待对齐视频帧Q2之间的映射矩阵H23,并缓存至映射矩阵队列H中。即,在时刻3时,待对齐视频帧队列Q中缓存有待对齐视频帧Q1、Q2、Q3,映射矩阵队列H中缓存有映射矩阵H13、H23。由于当前已缓存的待对齐视频帧的数目为3,未达到第一数目,无需进行融合处理。
在时刻4时,电子设备获取待对齐视频帧Q4,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为4,大于第二数目。因此,可以计算待对齐视频帧Q4与待对齐视频帧Q2之间的映射矩阵H24,待对齐视频帧Q4与待对齐视频帧Q3之间的映射矩阵H34,并缓存至映射矩阵队列H中。即,在时刻4时,待对齐视频帧队列Q中缓存有待对齐视频帧Q1、Q2、Q3、Q4,映射矩阵队列H中缓存有映射矩阵H13、H23、H24、H34。由于当前已缓存的待对齐视频帧的数目为4,未达到第一数目,无需进行融合处理。
在时刻5时,电子设备获取待对齐视频帧Q5,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为5,大于第二数目。因此,可以计算待对齐视频帧Q5与待对齐视频帧Q3之间的映射矩阵H35,待对齐视频帧Q5与待对齐视频帧Q4之间的映射矩阵H45,并缓存至映射矩阵队列H中。即,在时刻5时,待对齐视频帧队列Q中缓存有待对齐视频帧Q1、Q2、Q3、Q4、Q5,映射矩阵队列H中缓存有映射矩阵H13、H23、H24、H34、H35、H45。由于当前已缓存的待对齐视频帧的数目为5,达到第一数目,此时,可以对最后缓存的第一数目个待对齐视频帧(即待对齐视频帧Q1-Q5)进行融合,得到待对齐视频帧中心视频帧Q3为中心视频帧时,对应的目标视频帧。并从待对齐视频帧队列Q中删除待对齐视频帧Q1,从映射矩阵队列H中删除映射矩阵H13、映射矩阵H23。
在时刻6时,电子设备获取待对齐视频帧Q6,并缓存至待对齐视频帧队列Q中,此时,当前已缓存的待对齐视频帧的数目为5,大于第二数目。因此,可以计算待对齐视频帧Q6与待对齐视频帧Q4之间的映射矩阵H46,待对齐视频帧Q6与待对齐视频帧Q5之间的映射矩阵H45,并缓存至映射矩阵队列H中。即,在时刻6时,待对齐视频帧队列Q中缓存有待对齐视频帧Q2、Q3、Q4、Q5、Q6,映射矩阵队列H中缓存有映射矩阵H24、H34、H35、H45、H46、H56。由于当前已缓存的待对齐视频帧的数目为5,达到第一数目,此时,可以对最后缓存的第一数目个待对齐视频帧(即待对齐视频帧Q2-Q6)进行融合,得到待对齐视频帧中心视频帧Q4为中心视频帧时,对应的目标视频帧。并从待对齐视频帧队列Q中删除待对齐视频帧Q2,从映射矩阵队列H中删除映射矩阵H24、映射矩阵H34。
一种实现方式中,如图7所示,图7为本发明实施例提供的一种对视频帧进行融合的流程示意图。图7中,第一数目为5,第二数目为2。电子设备在每缓存一个原始帧(即待处理视频中的视频帧)后,可以对该视频帧去噪,即,基于预先训练的降噪网络模型,对该视频帧进行处理,得到去噪帧(即待对齐视频帧),并将该待对齐视频帧缓存至待对齐视频帧队列中。其次,计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的对齐关系(即映射矩阵Ht-2,t、Ht-1,t),并缓存至映射矩阵队列H中,实现对齐关系入列。其中,t表示按照缓存的先后顺序,最后缓存的待对齐视频帧;t-1表示按照缓存的先后顺序,位于该待对齐视频帧前的第一个相邻视频帧;t-2表示按照缓存的先后顺序,位于该待对齐视频帧前的第二个相邻视频帧;Ht-1,t表示位于该待对齐视频帧前的第一个相邻视频帧与该待对齐视频帧之间的映射关系;Ht-2,t表示位于该待对齐视频帧前的第二个相邻视频帧与该待对齐视频帧之间的映射关系。
此时,待对齐视频帧队列缓存有5个待对齐视频帧,映射矩阵队列H缓存有映射矩阵H13、H23、H24、H34、H35和H45。待对齐视频帧的数目达到第一数目,因此,可以对该5个待对齐视频帧进行融合处理。第三个待对齐视频帧为中心视频帧,针对该第一数目个待对齐视频帧中除第三个待对齐视频帧外的每一待对齐视频帧,基于该待对齐视频帧与中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到对齐帧(即,待融合视频帧)。并可以从待对齐视频帧队列的头部删除第一个待对齐视频帧,从映射矩阵队列H的头部删除第一个和第二个映射矩阵,实现对齐关系出列。随后,对各待融合视频帧和中心视频帧进行融合处理,输出目标视频帧。
在一个实施例中,上述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵的步骤,包括:
步骤5:针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点。
步骤6:基于该待对齐视频帧中的角点的像素坐标和对齐像素点的像素坐标,按照随机抽样一致RANSAC算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
角点可以为视频帧中物体轮廓线的连接点,或者图像中线段的终点。
一种实现方式中,电子设备可以基于哈里斯角点检测方法,得到该待对齐视频帧中的所有角点(可以称为第一角点)。还可以基于该待对齐视频帧的长宽比,对该待对齐视频帧进行区域划分,得到若干个区域。针对一个区域,若该区域中存在多个第一角点,则随机选择一个角点,作为第二角点(可以称为匹配锚点),后续,确定该第二角点对应的对齐像素点。若该区域中仅存在一个第一角点,则可以将该第一角点作为第二角点,后续,确定该第二角点对应的对齐像素点。
如图8所示,图8为本发明实施例提供的一种在相邻帧中确定最优匹配点的示意图。图8中,左侧图像为相邻帧(即,相邻视频帧),右侧图像为中心帧(即,中心视频帧)。针对中心视频帧中的图像角点a,可以确定包含图像角点a的待对齐块。进而,基于SAD(Sum ofAbsolute Differences,差的绝对值之和)算法,可以在相邻帧中确定出对应的搜索范围内进行匹配,确定出最优匹配点,即相邻帧中该角点a对应的对齐像素点a’。
例如,若待对齐视频帧的大小为2000×1000,则可以将该待对齐视频帧划分为20×10个大小为10×10的区域。若每个区域中均存在角点,则可以从该待对齐视频帧中确定200个第二角点。
针对任意两个视频帧,在确定其中一个视频帧中的所有第二角点后,针对每一第二角点,可以获取该第二角点的像素坐标,在该第二角点所属的视频帧中确定以该第二角点为中心的待对齐块。在另一个视频帧中,可以基于该第二角点的像素坐标在该视频帧中确定搜索范围,并通过一个滑动块在该搜索范围中进行匹配。如图9所示,图9为本发明实施例提供的一种通过滑动块进行匹配的结构示意图。该搜索范围可以为以该第二角点为中心的范围。然后,可以按照预设步长对该滑动块进行滑动。针对该滑动块在该搜索范围内每一位置,计算在该位置时,滑动块中所有像素点的像素值的总和值,并计算该总和值与待对齐块中所有像素点的像素值的总和值的差值的绝对值。然后,可以确定对应的绝对值最小的位置,并将在该位置时滑动块的中心的像素点,确定为对齐像素点。
在确定出该视频帧中每一第二角点对应的各对齐像素点后,基于各第二角点的像素坐标和各第二角点对应的对齐像素点的像素坐标,按照RANSAC算法,计算得到该两个视频帧之间的映射矩阵。例如,得到的映射矩阵h可以如矩阵(5)所示:
基于上述处理,能够使得确定出的角点均匀分布在待对齐视频帧中,以提高得到的映射矩阵的准确性。且通过去除同一区域内冗余的角点,可以减少计算量,提高视频图像处理的效率。
在一个实施例中,上述基于该待对齐视频帧与中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到各待融合视频帧的步骤,包括:
步骤7:针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标。
步骤8:将映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
例如,矩阵(5)表示中心视频帧映射至待对齐视频帧的映射关系,在得到待对齐视频帧与中心视频帧之间的映射矩阵后,可以基于公式(6)计算待对齐视频帧对应的待融合视频帧中每一像素点的像素值,公式(6)如下所示:
其中,Q*(x,y)表示待融合视频帧中像素坐标(x,y)处的像素点的像素值。表示待对齐视频帧中像素坐标处的像素点的像素值。
另外,针对待融合视频帧中的每一像素坐标,若待对齐视频帧中不包含待融合视频帧该像素坐标对应的映射像素坐标,则将待融合视频帧中的该像素坐标处的像素值置为0。例如,待对齐视频帧中的像素坐标(x,y),x的范围为0至499,y的范围为0至299。若基于上述公式(5),计算待融合视频帧中像素坐标为(300,299)的像素点对应的映射像素坐标为(299,302),由于待对齐视频帧中不包含(299,302)像素坐标,进而,可以将待融合视频帧中像素坐标为(300,299)的像素点的像素值置为0。
在一个实施例中,在上述步骤8之前,该方法还包括:
步骤9:若映射像素坐标不为整数,则确定该待对齐视频帧中包含该映射像素坐标的邻域范围。
步骤10:基于邻域范围内的多个像素点的像素值,按照双线性插值算法,计算映射像素坐标处的像素值。
电子设备基于上述公式(6)计算得到的映射像素坐标可能不为整数,因此,可以在该待对齐视频帧中确定出包含映射像素坐标的邻域范围,以进行插值运算。该插值运算可以基于亚像素坐标双线性插值算法实现。
例如,待融合视频帧中像素坐标为(2,2)的像素点对应的映射像素坐标为(2.5,2.7),则可以在待对齐视频帧中确定领域范围内包含像素坐标为(2,2),(2,3),(3,2),(3,3)的像素点。获取像素坐标分别为(2,2),(2,3),(3,2),(3,3)的每一像素点的像素值,按照双线性插值算法,计算得到待融合视频帧中像素坐标为(2,2)的像素点的像素值。
另一种实现方式中,在确定该待对齐视频帧中包含该映射像素坐标的邻域范围后,也可以计算邻域范围内的多个像素点的像素值的平均值,得到映射像素坐标处的像素值。
基于相同的发明构思,本发明实施例还提供了一种图像处理装置,参见图10,图10为本发明实施例提供的一种图像处理装置的结构图,该装置包括:
待对齐视频帧缓存模块1001,用于依次获取每一待对齐视频帧,并进行缓存;
映射矩阵计算模块1002,用于在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,所述第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的所述第一数目个待对齐视频帧中的中心视频帧,以及所述中心视频帧与该待对齐视频帧之间的视频帧;
待融合视频帧获取模块1003,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;
目标视频帧获取模块1004,用于对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。
在一些实施例中,所述第一数目为大于1的奇数,且按照缓存的先后顺序,所述中心视频帧为所述第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。
在一些实施例中,所述装置还包括:
待对齐视频帧删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,从最后缓存的所述第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
在一些实施例中,所述装置还包括:
映射矩阵缓存模块,用于在所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵之后,按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存;
映射矩阵删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,删除所述第二数目个最先缓存的映射矩阵。
在一些实施例中,所述待融合视频帧获取模块1003,包括:
逆矩阵计算子模块,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从所述中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵;
待融合视频帧获取子模块,用于基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
在一些实施例中,所述目标视频帧获取模块1004,包括:
权重获取子模块,用于针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重;其中,各待融合视频帧和所述中心视频帧的权重符合高斯分布、所述中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和所述中心视频帧之间的距离,与该待融合视频帧的权重呈负相关;
像素值获取子模块,用于按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
在一些实施例中,所述权重获取子模块,具体用于:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的每一像素点,若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重;
若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异不小于所述预设阈值,则确定该像素点的权重为0;
基于各待融合视频帧中相同像素坐标的像素点的权重,计算所述中心视频帧中该相同像素坐标的像素点的权重。
在一些实施例中,所述待对齐视频帧缓存模块1001,包括:
视频帧获取子模块,用于依次从待处理视频中获取每一视频帧;
待对齐视频帧缓存子模块,用于基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
在一些实施例中,所述映射矩阵计算模块1002,包括:
对齐像素点获取子模块,用于针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点;
映射矩阵计算子模块,用于基于该待对齐视频帧中的角点的像素坐标和所述对齐像素点的像素坐标,按照随机抽样一致RANSAC算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
在一些实施例中,所述待融合视频帧获取模块1003,包括:
映射像素坐标获取子模块,用于针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标;
待融合视频帧确定子模块,用于将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
在一些实施例中,所述装置还包括:
邻域范围确定模块,用于在所述将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值之前,若所述映射像素坐标不为整数,则确定该待对齐视频帧中包含所述映射像素坐标的邻域范围;
像素值计算模块,用于基于所述邻域范围内的多个像素点的像素值,按照双线性插值算法,计算所述映射像素坐标处的像素值。
本发明实施例还提供了一种电子设备,如图11所示,包括处理器1101、通信接口1102、存储器1103和通信总线1104,其中,处理器1101,通信接口1102,存储器1103通过通信总线1104完成相互间的通信,
存储器1103,用于存放计算机程序;
处理器1101,用于执行存储器1103上所存放的程序时,实现上述实施例中任一图像处理方法的步骤。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一图像处理方法的步骤。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一图像处理方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、计算机可读存储介质以及计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (24)
1.一种图像处理方法,其特征在于,所述方法包括:
依次获取每一待对齐视频帧,并进行缓存;
在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,所述第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的所述第一数目个待对齐视频帧中的中心视频帧,以及所述中心视频帧与该待对齐视频帧之间的视频帧;
按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;
对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。
2.根据权利要求1所述的方法,其特征在于,所述第一数目为大于1的奇数,且按照缓存的先后顺序,所述中心视频帧为所述第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。
3.根据权利要求1所述的方法,其特征在于,在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,所述方法还包括:
按照缓存的先后顺序,从最后缓存的所述第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
4.根据权利要求1所述的方法,其特征在于,在所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵之后,所述方法还包括:
按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存;
在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,所述方法还包括:
按照缓存的先后顺序,删除所述第二数目个最先缓存的映射矩阵。
5.根据权利要求1所述的方法,其特征在于,所述按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧,包括:
按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从所述中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵;
基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
6.根据权利要求1或2所述的方法,其特征在于,所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧,包括:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重;其中,各待融合视频帧和所述中心视频帧的权重符合高斯分布、所述中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和所述中心视频帧之间的距离,与该待融合视频帧的权重呈负相关;
按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
7.根据权利要求6所述的方法,其特征在于,所述针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重,包括:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的每一像素点,若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重;
若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异不小于所述预设阈值,则确定该像素点的权重为0;
基于各待融合视频帧中相同像素坐标的像素点的权重,计算所述中心视频帧中该相同像素坐标的像素点的权重。
8.根据权利要求1所述的方法,其特征在于,所述依次获取每一待对齐视频帧,并进行缓存,包括:
依次从待处理视频中获取每一视频帧;
基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
9.根据权利要求1所述的方法,其特征在于,所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵,包括:
针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点;
基于该待对齐视频帧中的角点的像素坐标和所述对齐像素点的像素坐标,按照随机抽样一致RANSAC算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
10.根据权利要求1所述的方法,其特征在于,所述基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧,包括:
针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标;
将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
11.根据权利要求10所述的方法,其特征在于,在所述将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值之前,所述方法还包括:
若所述映射像素坐标不为整数,则确定该待对齐视频帧中包含所述映射像素坐标的邻域范围;
基于所述邻域范围内的多个像素点的像素值,按照双线性插值算法,计算所述映射像素坐标处的像素值。
12.一种图像处理装置,其特征在于,所述装置包括:
待对齐视频帧缓存模块,用于依次获取每一待对齐视频帧,并进行缓存;
映射矩阵计算模块,用于在缓存每一待对齐视频帧后,若当前已缓存的待对齐视频帧的数目不小于第一数目,则分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵;其中,所述第二数目个相邻视频帧包括:按照缓存的先后顺序,最后缓存的所述第一数目个待对齐视频帧中的中心视频帧,以及所述中心视频帧与该待对齐视频帧之间的视频帧;
待融合视频帧获取模块,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该待对齐视频帧进行处理,得到待融合视频帧;
目标视频帧获取模块,用于对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧。
13.根据权利要求12所述的装置,其特征在于,所述第一数目为大于1的奇数,且按照缓存的先后顺序,所述中心视频帧为所述第一数目个待对齐视频帧中位于中心位置的待对齐视频帧。
14.根据权利要求12所述的装置,其特征在于,所述装置还包括:
待对齐视频帧删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,从最后缓存的所述第一数目个待对齐视频帧中删除最先缓存的待对齐视频帧。
15.根据权利要求12所述的装置,其特征在于,所述装置还包括:
映射矩阵缓存模块,用于在所述分别计算该待对齐视频帧与对应的第二数目个相邻视频帧之间的映射矩阵之后,按照对应的第二数目个相邻视频帧之间缓存的先后顺序,对计算得到的各映射矩阵进行缓存;
映射矩阵删除模块,用于在所述对各待融合视频帧和所述中心视频帧进行融合处理,得到目标视频帧之后,按照缓存的先后顺序,删除所述第二数目个最先缓存的映射矩阵。
16.根据权利要求12所述的装置,其特征在于,所述待融合视频帧获取模块,包括:
逆矩阵计算子模块,用于按照缓存的先后顺序,针对最后缓存的所述第一数目个待对齐视频帧中除所述中心视频帧以外的每一待对齐视频帧,若预先计算的该待对齐视频帧对应的映射矩阵表示从所述中心视频帧映射至该待对齐视频帧的映射关系,则计算该待对齐视频帧对应的映射矩阵的逆矩阵;
待融合视频帧获取子模块,用于基于计算出的逆矩阵对该待对齐视频帧进行处理,得到待融合视频帧。
17.根据权利要求12或13所述的装置,其特征在于,所述目标视频帧获取模块,包括:
权重获取子模块,用于针对各待融合视频帧和所述中心视频帧中相同像素坐标的多个像素点,基于各待融合视频帧和所述中心视频帧的权重,分别确定该多个该像素点各自的权重;其中,各待融合视频帧和所述中心视频帧的权重符合高斯分布、所述中心视频帧的权重最大,且按照缓存的先后顺序,每一待融合视频帧对应的待对齐视频帧和所述中心视频帧之间的距离,与该待融合视频帧的权重呈负相关;
像素值获取子模块,用于按照该多个像素点各自的权重,计算该多个像素点的像素值的加权和,得到目标视频帧中对应像素坐标的像素值。
18.根据权利要求17所述的装置,其特征在于,所述权重获取子模块,具体用于:
针对各待融合视频帧和所述中心视频帧中相同像素坐标的每一像素点,若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异小于预设阈值,则确定该像素点的权重为该像素点所属的待融合视频帧的权重;
若该像素点属于所述待融合视频帧,且该像素点与所述中心视频帧中相同像素坐标的像素点之间的差异不小于所述预设阈值,则确定该像素点的权重为0;
基于各待融合视频帧中相同像素坐标的像素点的权重,计算所述中心视频帧中该相同像素坐标的像素点的权重。
19.根据权利要求12所述的装置,其特征在于,所述待对齐视频帧缓存模块,包括:
视频帧获取子模块,用于依次从待处理视频中获取每一视频帧;
待对齐视频帧缓存子模块,用于基于预先训练的降噪网络模型,对该视频帧进行处理,得到待对齐视频帧,并进行缓存。
20.根据权利要求12所述的装置,其特征在于,所述映射矩阵计算模块,包括:
对齐像素点获取子模块,用于针对每一相邻视频帧,基于块匹配算法,从该相邻视频帧中确定与该待对齐视频帧中的角点相匹配的像素点,作为对齐像素点;
映射矩阵计算子模块,用于基于该待对齐视频帧中的角点的像素坐标和所述对齐像素点的像素坐标,按照随机抽样一致RANSAC算法,计算该待对齐视频帧与该相邻视频帧之间的映射矩阵。
21.根据权利要求12所述的装置,其特征在于,所述待融合视频帧获取模块,包括:
映射像素坐标获取子模块,用于针对待融合视频帧中的每一像素坐标,基于该待对齐视频帧与所述中心视频帧之间的映射矩阵对该像素坐标进行映射处理,得到该待对齐视频帧中对应的像素坐标,作为映射像素坐标;
待融合视频帧确定子模块,用于将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值。
22.根据权利要求21所述的装置,其特征在于,所述装置还包括:
邻域范围确定模块,用于在所述将所述映射像素坐标处的像素值,确定为该待融合视频帧中该像素坐标处的像素值之前,若所述映射像素坐标不为整数,则确定该待对齐视频帧中包含所述映射像素坐标的邻域范围;
像素值计算模块,用于基于所述邻域范围内的多个像素点的像素值,按照双线性插值算法,计算所述映射像素坐标处的像素值。
23.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-11任一所述的方法步骤。
24.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-11任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211079039.8A CN117710221A (zh) | 2022-09-05 | 2022-09-05 | 一种图像处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211079039.8A CN117710221A (zh) | 2022-09-05 | 2022-09-05 | 一种图像处理方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117710221A true CN117710221A (zh) | 2024-03-15 |
Family
ID=90146640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211079039.8A Pending CN117710221A (zh) | 2022-09-05 | 2022-09-05 | 一种图像处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117710221A (zh) |
-
2022
- 2022-09-05 CN CN202211079039.8A patent/CN117710221A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109064428B (zh) | 一种图像去噪处理方法、终端设备及计算机可读存储介质 | |
WO2021114868A1 (zh) | 降噪方法、终端及存储介质 | |
CN101540046B (zh) | 基于图像特征的全景图拼接方法和装置 | |
WO2022141178A1 (zh) | 图像处理方法及装置 | |
CN109785265B (zh) | 畸变矫正图像处理方法及图像处理装置 | |
WO2021082819A1 (zh) | 一种图像生成方法、装置及电子设备 | |
CN110909663A (zh) | 一种人体关键点识别方法、装置及电子设备 | |
CN111340077A (zh) | 基于注意力机制的视差图获取方法和装置 | |
CN109194878B (zh) | 视频图像防抖方法、装置、设备和存储介质 | |
CN113315884A (zh) | 一种实时视频降噪方法、装置、终端及存储介质 | |
WO2023125503A1 (zh) | 一种暗光图像降噪方法及装置 | |
CN115004227A (zh) | 图像处理方法、装置及设备 | |
WO2023125440A1 (zh) | 一种降噪方法、装置、电子设备及介质 | |
CN111311481A (zh) | 背景虚化方法、装置、终端设备及存储介质 | |
CN112418243A (zh) | 特征提取方法、装置及电子设备 | |
CN110689565B (zh) | 一种深度图确定的方法、装置及电子设备 | |
CN110717864B (zh) | 一种图像增强方法、装置、终端设备及计算机可读介质 | |
US20230069654A1 (en) | Method and device for processing image, method for training image processing model, and storage medium | |
CN111222446B (zh) | 人脸识别方法、人脸识别装置及移动终端 | |
CN113658050A (zh) | 一种图像的去噪方法、去噪装置、移动终端及存储介质 | |
CN117710221A (zh) | 一种图像处理方法和装置 | |
CN116403200A (zh) | 基于硬件加速的车牌实时识别系统 | |
CN113497886B (zh) | 视频处理方法、终端设备及计算机可读存储介质 | |
CN112954454B (zh) | 一种视频帧生成方法及装置 | |
CN114119377B (zh) | 一种图像处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |