CN103458154A - 一种视频的超分辨率方法及装置 - Google Patents

一种视频的超分辨率方法及装置 Download PDF

Info

Publication number
CN103458154A
CN103458154A CN2012101776044A CN201210177604A CN103458154A CN 103458154 A CN103458154 A CN 103458154A CN 2012101776044 A CN2012101776044 A CN 2012101776044A CN 201210177604 A CN201210177604 A CN 201210177604A CN 103458154 A CN103458154 A CN 103458154A
Authority
CN
China
Prior art keywords
video
source images
frame
compared
piece
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012101776044A
Other languages
English (en)
Other versions
CN103458154B (zh
Inventor
白蔚
李马丁
刘家瑛
郭宗明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University, Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University
Priority to CN201210177604.4A priority Critical patent/CN103458154B/zh
Publication of CN103458154A publication Critical patent/CN103458154A/zh
Application granted granted Critical
Publication of CN103458154B publication Critical patent/CN103458154B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明实施例提供了一种视频的超分辨率方法及装置,该方法中,首先对输入视频序列进行下采样,其次利用输入视频序列中每个第一视频帧确定出的源图像块与在源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及对应的视频帧的相邻视频帧中确定出的各待比较图像块之间的像素值项和结构项计算出源图像块与各待比较图像块之间的相似距离,相似距离最小的待比较图像块是源图像块的相似图像块,最后分别对每个第一视频帧中所有源图像块对应的各相似图像块以及对应的相似距离进行计算,得到包含第二视频帧的目标视频序列。本发明解决了现有的超分辨率方法出现的锯齿及视频的视觉效果差的问题。

Description

一种视频的超分辨率方法及装置
技术领域
本发明涉及视频超分辨率重建领域,尤其涉及一种视频的超分辨率方法及装置。
背景技术
超分辨率技术,是指克服成像设备或技术的限制,在低分辨率图像或视频的基础上生成更高分辨率的图像或视频。随着图像视频处理技术的日益成熟,用户对视频观看体验的要求也越来越高,用户不仅需要更加逼真的视觉效果,对画面细节信息的需求也逐渐增多,比如说,在视频监控领域,高分辨率的图像更有利于识别出感兴趣的目标。
目前,业界对超分辨率的方法作了广泛的研究,提出了各种重建方法,比如基于插值的方法,基于学习的方法,基于多帧融合的方法等等,特别是近年来对图像自相似性的探索引起了图像处理领域技术人员的关注,例如,Glasner等人提出了单帧图像的超分辨率方法,通过统计发现自然图像有自相似的特性,即单帧图像中的每一个小的图像块几乎总能在该图或其下采后的图像中找到一个或多个与之相似的块,通过这些相似的块就可以提供更多的信息为当前图像块的超分辨率作为参考。此方法虽解决了图像来源受到环境限制的问题,但是该方法在搜索相似图像块的时候仅考虑了像素值的整体差异,这样会导致图像出现锯齿等问题。
对上述单帧图像的超分辨率方法分析可知,在搜索相似图像块的时候仅考虑了像素值的整体差异,从而会导致图像出现锯齿等问题。另外,上述方法都不能很灵活的嵌入到多媒体播放设备中,这就大大降低了图像的视觉效果。
发明内容
本发明实施例提供了一种视频的超分辨率方法及装置,用以解决现有的超分辨率方法导致图像出现锯齿,降低视觉效果的问题。
基于上述问题,本发明实施例提供的一种视频的超分辨率方法,包括:对输入的视频序列进行下采样;对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为源图像块;分别在该源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及所述对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为待比较图像块;针对每个源图像块,利用该源图像块与各待比较图像块之间的像素值项和结构项,分别计算出该源图像块与各待比较图像块之间的相似距离,并将相似距离最小的待比较图像块确定为该源图像块的相似图像块;根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,所述第二视频帧分辨率高于所述该第一视频帧。
本发明实施例提供的一种视频的超分辨率装置,包括:下采样模块,用于对输入的视频序列进行下采样;第一确定模块,用于对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为源图像块;第二确定模块,用于分别在所述第一确定模块确定的该源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在所述下采样模块下采样后的视频序列中对应的视频帧以及所述对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为待比较图像块;第一计算模块,用于针对所述第一确定模块确定的每个源图像块,利用该源图像块与所述第二确定模块确定的各待比较图像块之间的像素值项和结构项,分别计算出该源图像块与各待比较图像块之间的相似距离;第三确定模块,用于将所述第一计算模块计算出的相似距离最小的待比较图像块确定为该源图像块的相似图像块;第二计算模块,用于根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,所述第二视频帧分辨率高于所述该第一视频帧。
本发明实施例的有益效果包括:本发明实施例提供的视频的超分辨率方法及装置,首先对输入视频序列先进行下采样,其次利用输入视频序列中每个第一视频帧确定出的源图像块与在源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及对应的视频帧的相邻视频帧中确定出的各待比较图像块之间的像素值项和结构项计算出源图像块与各待比较图像块之间的相似距离,相似距离最小的待比较图像块就是源图像块的相似图像块,最后再分别对每个第一视频帧中所有源图像块对应的各相似图像块以及对应的相似距离进行计算,得到包含第二视频帧的目标视频序列。可见,本发明的超分辨率方法,在搜索源图像块的相似图像块时,除考虑源图像块和待比较块的像素值项外,还考虑了源图像块和待比较块的结构项,即此方法结合了图像块的结构信息,避免出现锯齿问题,通过此方法可以得到分辨率较高的视频帧,提高了视频的视觉效果。
附图说明
图1为本发明实施例提供的视频的超分辨率方法的流程图;
图2为本发明实施例提供的源图像块为5×5大小的图像块的示意图;
图3为本发明实施例提供的源图像块中每个像素点的取样向量示意图;
图4为本发明实施例提供的确定相似图像块的示意图;
图5为本发明实施例提供的视频的超分辨率装置的结构图。
具体实施方式
下面结合说明书附图,对本发明实施例提供的一种视频的超分辨率方法及装置的具体实施方式进行说明。
本发明实施例提供的一种视频的超分辨率方法,如图1所示,具体包括以下步骤:
S101:对输入的视频序列进行下采样。
较佳地,在上述步骤S101中,输入的视频序列可以为{...f0 n-1,f0 n,f0 n+1,...},对它们进行下采样,下采样的尺度可以为1.25-k,得到下采样后的视频序列为{...f-k n-1,f-k n,f-k n+1,...},k为正整数,例如k=1,2,3...。
S102:对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将像素点及其周围设定数量的像素点确定为源图像块。
本步骤S102中,在确定源图像块时,将选取的像素点作为源图像块的中心,该像素点与其周围(N×N)-1数量的像素点即可确定为源图像块,较佳地,N为奇数。例如,N=5,如图2所示,此源图像块P0是以像素点1为中心,与其周围数量为24个像素点围成的,本发明并不仅限于上述源图像块的确定方式。
由于需要满足所选取的像素点作为源图像块的中心,因此,对于每个第一视频帧来说,并不是所有像素点都可以被选取,按照上述源图像块大小N×N为例来说,每个视频帧的边缘部分环状区域的像素点不能被选取,即从第1列至(N-1)/2列的像素区域、从倒数第1列至倒数第(N-1)/2列的像素区域、从第1行至第(N-1)/2行的像素区域以及从倒数第一行至倒数第(N-1)/2行的像素区域内的像素点不属于选取像素点的区域,除此区域以外的每个像素点可以是选取的像素点,也就是可以作为源图像块中心的像素点。
S103:分别在源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将像素点及其周围设定数量的像素点确定为待比较图像块。
待比较图像块的确定方式与源图像块相同,在此不再赘述。
S104:针对每个源图像块,利用源图像块与各待比较图像块之间的像素值项和结构项,分别计算出源图像块与各待比较图像块之间的相似距离,并将相似距离最小的待比较图像块确定为源图像块的相似图像块。
较佳地,上述步骤S104中的相似距离可以通过下述公式计算得出:
Figure BDA00001712519700051
其中,Px1,y1为源图像块,Px2,y2为待比较图像块,
Figure BDA00001712519700052
是源图像块与待比较图像块之间的像素值项,
Figure BDA00001712519700053
是源图像块与待比较图像块的结构项,
Figure BDA00001712519700054
是用于调整像素值项和结构项权重的权值参数。
具体地,在计算上述相似距离之前,先分别计算出源图像块与待比较图像块之间的像素值项和结构项,具体计算方式如下:
关于源图像块与待比较图像块之间的像素值项,可以直接用高斯加权的平方差之和(sum of squared difference,SSD)来计算,具体公式如下:
d i ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2
上式中,Gσ是高斯核函数。
关于源图像块与待比较图像块之间的结构项,通过下述方式计算得出:
在本发明实施例中,针对每一个源图像块和每一个待比较图像块,在此以源图像块为例进行说明,对一个中心点在(x,y)处的大小为5×5的源图像块中的每个像素点,取其邻域的像素点组成一个向量,如图3所示,1-5位置处的像素点按顺序即可组成3位置处的像素点的取样向量,即得到每个像素点处的取样向量,记为Vi,i=1,2,3,...,52,同理,对于每一个N×N大小的源图像块,每个像素点处的取样向量,可以记为Vi,i=1,2,3,...,N2,从而确定出整个源图像块的取样矩阵为:
Figure BDA00001712519700056
根据上述的取样矩阵可以计算出源图像块和待比较图像块的协方差矩阵
Figure BDA00001712519700057
Figure BDA00001712519700058
具体根据什么公式计算得到协方差矩阵,属于现有技术,在此不再详细说明。
根据上述计算出的
Figure BDA00001712519700061
Figure BDA00001712519700062
利用下述公式可以计算出结构项:
d s ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2
在像素项值与结构项确定之后,即可计算出源图像块与各待比较图像块的相似距离,本发明实施例在具体实施时,会对输入的视频序列中每一个第一视频中所有源图像块的像素值和结构特征进行矢量化预处理,使得预处理后采用现有技术中的最近邻估计方法(Approximate nearest neighbor,ANN),确定出相似距离最小的待比较图像块即是源图像块的相似图像块,例如,在本发明实施例中,如图4所示,针对输入的视频帧序列{...f0 n-1,f0 n,f0 n+1,...}中的源图像块P0,分别在f0 n-1,f0 n,f0 n+1和f-k n-1,f-k n,f-k n+1中确定出与之相似的相似块。
S105:根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,第二视频帧分辨率高于第一视频帧。
具体地,上述步骤105可以包括:
对能量函数
Figure BDA00001712519700064
中的L进行求导运算,得到能量函数的梯度公式G(n)=W(B*H(n)-L);
对第一低视频序列中的每个第一视频帧预设置一个初始解H(0),利用梯度公式G(n),将计算出的G(n)代入H(n+1)=H(n)-λG(n)计算出H(n+1),进行迭代计算,直到收敛,得到H即第二视频帧,
在上述公式中,B为模糊函数,W是高斯核函数与每一第一视频帧中所有源图像块对应的相似距离相乘得到的权值矩阵,L为每一第一视频帧中所有源图像块的集合及所有源图像块对应的相似图像块的集合,H为第二视频帧,n=0,1,2...,λ为常量。
具体地,将预设置的第一视频帧初始解H(0),代入梯度公式计算出G(0),再将G(0)的值代入H(n+1)=H(n)-λG(n)计算出H(1),再将得到的H(1)代入梯度公式计算出G(1),再将G(1)的值代入H(n+1)=H(n)-λG(n)计算出H(2),以此方式一直进行迭代计算,直到收敛,即计算出的H(n+1)的值最小,即得到了分辨率高于第一视频帧的第二视频帧。
基于同一发明构思,本发明实施例还提供了一种视频的超分辨率装置,由于该装置所解决问题的原理与前述视频的超分辨率方法相似,因此该装置的实施可以参见前述方法的实施,重复之处不再赘述。
如图5所示,本发明实施例提供的一种视频的超分辨率装置,包括下采样模块501、第一确定模块502、第二确定模块503、第一计算模块504、第三确定模块505和第二计算模块506。
下采样模块501,用于对输入的视频序列进行下采样。
第一确定模块502,用于对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将像素点及其周围设定数量的像素点确定为源图像块。
第二确定模块503,用于分别在第一确定模块502确定的源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样模块501下采样后的视频序列中对应的视频帧以及对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将像素点及其周围设定数量的像素点确定为待比较图像块。
第一计算模块504,用于针对第一确定模块502确定的每个源图像块,利用源图像块与第二确定模块503确定的各待比较图像块之间的像素值项和结构项,分别计算出源图像块与各待比较图像块之间的相似距离。
具体地,第一计算模块504,利用下述公式计算相似距离:
Figure BDA00001712519700071
其中,Px1,y1为源图像块,Px2,y2为待比较图像块,
Figure BDA00001712519700072
是源图像块与待比较图像块之间的像素值项,
Figure BDA00001712519700073
是源图像块与待比较图像块的结构项,
Figure BDA00001712519700074
是用于调整像素值项和结构项权重的权值参数。
较佳地,第一计算模块504,利用下述公式计算得出源图像块与各待比较图像块之间的像素值项:
d i ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2
其中,Gσ是高斯核函数。
较佳地,第一计算模块504,具体用于确定第一确定模块502确定的源图像块和第二确定模块503确定的待比较图像块的取样矩阵并根据确定出的取样矩阵Vx,y计算得到第一确定模块502确定的源图像块和第二确定模块503确定的待比较图像块的的协方差矩阵
Figure BDA00001712519700083
Figure BDA00001712519700084
再利用下述公式计算得出结构项,其中,V1、V2...VN 2为源图像块和待比较图像块中每个像素点的取样向量,Gσ是高斯核函数
d s ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2 .
第三确定模块505,用于将第一计算模块504计算出的相似距离最小的待比较图像块确定为源图像块的相似图像块;
第二计算模块506,用于根据每个第一视频帧中第一确定模块502确定的所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,第二视频帧分辨率高于第一视频帧。
具体地,第二计算模块506,具体用于对能量函数
Figure BDA00001712519700086
中的L进行求导运算,得到能量函数的梯度公式G(n)=W(B*H(n)-L),以及对第一低视频序列中的每个第一视频帧预设置一个初始解H(0),利用梯度公式G(n),将计算出的G(n)代入H(n+1)=H(n)-λG(n)计算出H(n+1),进行迭代计算,直到收敛,得到H,上述公式中,B为模糊函数,W是高斯核函数与每一第一视频帧中所有源图像块对应的相似距离相乘得到的权值矩阵,L为每一视频帧中所有源图像块的集合及所有源图像块对应的相似图像块的集合,H为第二视频帧,n=0,1,2...,λ为常量。
本发明实施例并不仅限于上述对视频的超分辨率方法,对于一组分辨率较低的图像,同样适用于上述超分辨率方法,从而得到分辨率较高的一组图像,具体的,对于每一单帧图像的超分辨率实现过程与上述实现方法相同,在此不再赘述。
本发明实施例提供的视频的超分辨率方法及装置,首先对输入视频序列先进行下采样,其次利用输入视频序列中每个第一视频帧确定出的源图像块与在源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及对应的视频帧的相邻视频帧中确定出的各待比较图像块之间的像素值项和结构项计算出源图像块与各待比较图像块之间的相似距离,相似距离最小的待比较图像块就是源图像块的相似图像块,最后再分别对每个第一视频帧中所有源图像块对应的各相似图像块以及对应的相似距离进行计算,得到包含第二视频帧的目标视频序列。可见,本发明的超分辨率方法,在搜索源图像块的相似图像块时,除考虑源图像块和待比较块的像素值项外,还考虑了源图像块和待比较块的结构项,即此方法结合了图像块的结构信息,避免出现锯齿问题,通过此方法可以得到分辨率较高的视频帧,提高了视频的视觉效果。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (12)

1.一种视频的超分辨率方法,其特征在于,包括:
对输入的视频序列进行下采样;
对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为源图像块;
分别在该源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在下采样后的视频序列中对应的视频帧以及所述对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为待比较图像块;
针对每个源图像块,利用该源图像块与各待比较图像块之间的像素值项和结构项,分别计算出该源图像块与各待比较图像块之间的相似距离,并将相似距离最小的待比较图像块确定为该源图像块的相似图像块;
根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,所述第二视频帧分辨率高于所述该第一视频帧。
2.如权利要求1所述的方法,其特征在于,所述下采样的尺度为1.25-k,K为正整数。
3.如权利要求1所述的方法,其特征在于,所述源图像块以及待比较图像块为N×N大小的图像块,其中N为奇数。
4.如权利要求1所述的方法,其特征在于,所述相似距离通过下述公式计算得出:
Figure FDA00001712519600011
其中,Px1,y1为源图像块,Px2,y2为待比较图像块,
Figure FDA00001712519600012
是源图像块与待比较图像块之间的像素值项,
Figure FDA00001712519600013
是源图像块与待比较图像块的结构项,
Figure FDA00001712519600014
是用于调整所述像素值项和结构项权重的权值参数。
5.如权利要求4所述的方法,其特征在于,所述像素值项通过下述公式计算得出:
d i ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2
其中,Gσ是高斯核函数。
6.如权利要求4所述的方法,其特征在于,所述结构项通过下述方式计算得出:
分别确定该源图像块和该待比较图像块的取样矩阵
Figure FDA00001712519600022
其中V1、V2...VN 2为源图像块和待比较图像块中每个像素点的取样向量;
根据确定出的取样矩阵Vx,y计算得到该源图像块和该待比较图像块的协方差矩阵
Figure FDA00001712519600023
Figure FDA00001712519600024
利用下述公式计算得出所述结构项,其中Gσ是高斯核函数:
d s ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2 .
7.如权利要求1所述的方法,其特征在于,根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算到包含第二视频帧的目标视频序列,包括:
对能量函数
Figure FDA00001712519600026
中的L进行求导运算,得到能量函数的梯度公式G(n)=W(B*H(n)-L);
分别对所述第一视频序列中的每个第一视频帧预设置一个初始解H(0),利用所述梯度公式G(n),将计算出的G(n)代入H(n+1)=H(n)-λG(N)计算出H(n+1),进行迭代计算,直到收敛,得到H,
上述公式中,B为模糊函数,W为高斯核函数与每一第一视频帧中所有源图像块对应的相似距离相乘得到的权值矩阵,L为每一第一视频帧中所有源图像块的集合及所有源图像块对应的相似图像块的集合,H为第二视频帧,n=0,1,2...,λ为常量。
8.一种视频的超分辨率装置,其特征在于,包括:
下采样模块,用于对输入的视频序列进行下采样;
第一确定模块,用于对输入的视频序列中的每个第一视频帧,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为源图像块;
第二确定模块,用于分别在所述第一确定模块确定的该源图像块所属第一视频帧、所属第一视频帧的相邻视频帧、所属第一视频帧在所述下采样模块下采样后的视频序列中对应的视频帧以及所述对应的视频帧的相邻视频帧中,以选取的每个像素点为中心,将该像素点及其周围设定数量的像素点确定为待比较图像块;
第一计算模块,用于针对所述第一确定模块确定的每个源图像块,利用该源图像块与所述第二确定模块确定的各待比较图像块之间的像素值项和结构项,分别计算出该源图像块与各待比较图像块之间的相似距离;
第三确定模块,用于将所述第一计算模块计算出的相似距离最小的待比较图像块确定为该源图像块的相似图像块;
第二计算模块,用于根据每个第一视频帧中所有源图像块、对应的各相似图像块以及对应的相似距离,计算得到包含第二视频帧的目标视频序列,所述第二视频帧分辨率高于所述该第一视频帧。
9.如权利要求8所述的视频的超分辨率装置,其特征在于,所述第一计算模块,具体利用下述公式计算所述相似距离:
其中,Px1,y1为源图像块,Px2,y2为待比较图像块,
Figure FDA00001712519600032
是源图像块与待比较图像块之间的像素值项,
Figure FDA00001712519600033
是源图像块与待比较图像块的结构项,
Figure FDA00001712519600034
是用于调整所述像素值项和结构项权重的权值参数。
10.如权利要求9所述的视频的超分辨率装置,其特征在于,所述第一计算模块,具体利用下述公式计算得出该源图像块与各待比较图像块之间的像素值项:
d i ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2
其中,Gσ是高斯核函数。
11.如权利要求9所述的视频的超分辨率装置,其特征在于,所述第一计算模块,具体用于确定所述第一确定模块确定的源图像块和所述第二确定模块确定的待比较图像块的取样矩阵
Figure FDA00001712519600042
并根据确定出的取样矩阵Vx,y计算得到所述第一确定模块确定的源图像块和所述第二确定模块确定的待比较图像块的的协方差矩阵
Figure FDA00001712519600043
Figure FDA00001712519600044
再利用下述公式计算得出所述结构项,其中,V1、V2...VN 2为源图像块和待比较图像块中每个像素点的取样向量,Gσ是高斯核函数
d s ( P x 1 , y 1 , P x 2 , y 2 ) = Σ x , y G σ ( P x 1 , y 1 ( x , y ) - P x 2 , y 2 ( x , y ) ) 2 .
12.如权利要求8所述的视频的超分辨率装置,其特征在于,所述第二计算模块,具体用于对能量函数
Figure FDA00001712519600046
中的L进行求导运算,得到能量函数的梯度公式G(n)=W(B*H(n)-L),以及对所述第一低视频序列中的每个第一视频帧预设置一个初始解H(0),利用所述梯度公式G(n),将计算出的G(n)代入H(n+1)=H(n)-λG(n)计算出H(n+1),进行迭代计算,直到收敛,得到H,上述公式中,B为模糊函数,W是高斯核函数与每一第一视频帧中所有源图像块对应的相似距离相乘得到的权值矩阵,L为每一第一视频帧中所有源图像块的集合及所有源图像块对应的相似图像块的集合,H为第二视频帧,n=0,1,2...,λ为常量。
CN201210177604.4A 2012-05-31 2012-05-31 一种视频的超分辨率方法及装置 Expired - Fee Related CN103458154B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210177604.4A CN103458154B (zh) 2012-05-31 2012-05-31 一种视频的超分辨率方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210177604.4A CN103458154B (zh) 2012-05-31 2012-05-31 一种视频的超分辨率方法及装置

Publications (2)

Publication Number Publication Date
CN103458154A true CN103458154A (zh) 2013-12-18
CN103458154B CN103458154B (zh) 2016-03-30

Family

ID=49740078

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210177604.4A Expired - Fee Related CN103458154B (zh) 2012-05-31 2012-05-31 一种视频的超分辨率方法及装置

Country Status (1)

Country Link
CN (1) CN103458154B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110996149A (zh) * 2019-12-23 2020-04-10 联想(北京)有限公司 一种信息处理方法、装置和系统
CN114612294A (zh) * 2020-12-08 2022-06-10 武汉Tcl集团工业研究院有限公司 一种图像超分辨率处理方法和计算机设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007083204A2 (en) * 2006-01-20 2007-07-26 Nokia Corporation Method for optical flow field estimation using adaptive filtering
CN101917624A (zh) * 2010-07-26 2010-12-15 清华大学 一种高分辨率视频图像重建方法
CN102016915A (zh) * 2008-03-17 2011-04-13 Ati技术无限责任公司 用于图像的超分辨率的方法与设备
CN102402784A (zh) * 2011-12-16 2012-04-04 武汉大学 一种基于最近特征线流形学习的人脸图像超分辨率方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007083204A2 (en) * 2006-01-20 2007-07-26 Nokia Corporation Method for optical flow field estimation using adaptive filtering
CN102016915A (zh) * 2008-03-17 2011-04-13 Ati技术无限责任公司 用于图像的超分辨率的方法与设备
CN101917624A (zh) * 2010-07-26 2010-12-15 清华大学 一种高分辨率视频图像重建方法
CN102402784A (zh) * 2011-12-16 2012-04-04 武汉大学 一种基于最近特征线流形学习的人脸图像超分辨率方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
闫华等: "《考虑亚像素配准误差的超分辨率图像复原》", 《电子学报》, vol. 35, no. 7, 31 July 2007 (2007-07-31), pages 1409 - 1413 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110996149A (zh) * 2019-12-23 2020-04-10 联想(北京)有限公司 一种信息处理方法、装置和系统
CN114612294A (zh) * 2020-12-08 2022-06-10 武汉Tcl集团工业研究院有限公司 一种图像超分辨率处理方法和计算机设备

Also Published As

Publication number Publication date
CN103458154B (zh) 2016-03-30

Similar Documents

Publication Publication Date Title
US11823363B2 (en) Infrared and visible light fusion method
JP6192670B2 (ja) 入力画像の階層的超解像を実行する方法及び装置
CN101281650B (zh) 用于视频稳定的快速全局运动估计方法
Li et al. Video super-resolution using an adaptive superpixel-guided auto-regressive model
CN110910437B (zh) 一种复杂室内场景的深度预测方法
CN103167218A (zh) 一种基于非局部性的超分辨率重建方法和设备
CN104657962A (zh) 基于级联线性回归的图像超分辨重建方法
CN103473744B (zh) 基于变权重式压缩感知采样的空域可缩小图像重构方法
CN102236887A (zh) 基于旋转差分和加权总变分的运动模糊图像复原方法
US20150010240A1 (en) Image processing apparatus, image processing method, and image processing program
CN114119371B (zh) 视频超分模型训练方法和装置、视频超分处理方法和装置
Zhou et al. PADENet: An efficient and robust panoramic monocular depth estimation network for outdoor scenes
CN103325104B (zh) 基于迭代稀疏表达的人脸图像超分辨率重建方法
CN104463822A (zh) 基于多尺度全局滤波的多聚焦图像融合方法及其装置
CN103458154A (zh) 一种视频的超分辨率方法及装置
CN103914807A (zh) 一种缩放尺度补偿的非局部性图像超分辨率方法及系统
CN105160630A (zh) 一种光学超分辨率图像重建方法
CN102789638B (zh) 基于梯度场与尺度空间理论的图像融合方法
Mei et al. GTMFuse: Group-attention transformer-driven multiscale dense feature-enhanced network for infrared and visible image fusion
CN104182931A (zh) 超分辨率方法和装置
CN111767679A (zh) 时变矢量场数据的处理方法及装置
CN116912645A (zh) 融合纹理和几何特征的三维目标检测方法及装置
CN115330851A (zh) 单目深度估计方法、装置、电子设备、存储介质及车辆
CN112819909A (zh) 基于低分辨率先验光谱图像区域分割的自适应编码方法
Senst et al. Cross based robust local optical flow

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20230313

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160330

CF01 Termination of patent right due to non-payment of annual fee