CN102868879B - 一种视频帧速率上转换方法及系统 - Google Patents

一种视频帧速率上转换方法及系统 Download PDF

Info

Publication number
CN102868879B
CN102868879B CN201110187141.5A CN201110187141A CN102868879B CN 102868879 B CN102868879 B CN 102868879B CN 201110187141 A CN201110187141 A CN 201110187141A CN 102868879 B CN102868879 B CN 102868879B
Authority
CN
China
Prior art keywords
motion vector
macro block
frame
frame rate
revised
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201110187141.5A
Other languages
English (en)
Other versions
CN102868879A (zh
Inventor
白蔚
刘家瑛
任杰
郭宗明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University, Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University
Priority to CN201110187141.5A priority Critical patent/CN102868879B/zh
Publication of CN102868879A publication Critical patent/CN102868879A/zh
Application granted granted Critical
Publication of CN102868879B publication Critical patent/CN102868879B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Television Systems (AREA)

Abstract

本发明涉及一种视频帧速率上转换方法及系统,属于视频帧速率转换技术领域。本发明首先获取相邻两帧间的初始运动向量场;然后在全局范围内检测初始运动向量场中的明显异常运动向量,参照局部最可靠运动向量对明显异常运动向量进行修正;在局部范围内检测初始运动向量场中的异常运动向量,参照邻域运动向量采用最大似然估计修正异常运动向量;最后利用结构相似度计算待插帧中预测宏块与前后帧对应宏块的相似度,以相似度为权重对修正后的运动向量场进行加权运动补偿,得到低帧速率视频序列相邻两帧的内插帧。本发明适用于高端多媒体系统的帧速率转换、低比特率视频系统的码率恢复以及无线视频通信系统的缺帧重构等场合。

Description

一种视频帧速率上转换方法及系统
技术领域
本发明属于视频帧速率转换技术领域,具体涉及一种视频帧速率上转换方法及系统。适用于高端多媒体系统的帧率转换、低比特率视频系统的码率恢复以及无线视频通信系统的缺帧重构等场合。
背景技术
在视频帧速率转换技术领域中,帧速率上转换能够在两帧或者多帧视频图像中产生处于中间运动状态的帧,满足不同的帧速率显示设备格式转换的要求。其广泛地应用在高清晰度电视(HDTV)、视频会议以及低比特率编码中。最简单的帧速率上转换方法是帧拷贝和时域线性平均,这两种方法运算速度快,可以应用在实时性要求高的领域,但没有考虑物体的运动,所以在内插帧中的运动区域会产生块效应、模糊等现象。为了解决上述问题,需要考虑帧间的运动信息,但是从码流中获取的运动场由于考虑到编码效率并不是真正的运动向量,而且对该运动场应用运动补偿得到的内插帧的幻影较多,影响视觉效果。
国内外的学者和研究人员也提出了一些基于运动估计和运动补偿的帧速率上转换方法。Choi等人提出了一种双向运动估计的方法为待插帧的每一个宏块寻找运动向量。为了降低计算复杂度,Zhai等人提出了自适应的重叠块双向运动估计方法。这两种方法都致力于寻找可靠的运动向量。然而,对于视频序列的相邻帧,后一帧相对前一帧总有部分区域是被遮挡(突显)的,这些区域无法在前后帧找到对应的匹配块,故用以上运动估计得到的通常为异常运动向量。Kang等人在双向运动估计的基础上采用中值滤波器检测并修正运动场中的异常向量。该方法的不足之处是中值滤波器会修正过多的向量,甚至导致更多的异常向量。Kang还在传统运动补偿插值的基础上提出一种基于绝对差和(SAD)的加权运动补偿方法。SAD仅仅描述了两幅图之间的差异程度,还不足以反映前后帧中的对应块对待插帧中对应宏块的重要程度。
国内学者张芳甄等人在运动补偿的基础上提出内插帧中各像素的值为前后帧参考像素差值的正加权乘积。该方法需要对内插帧的每个像素进行处理,计算复杂度较高,无法适应大规模应用。
综上分析,这些方法有的运动估计不准确,有的在修正运动场的方法上存在缺陷,有的复杂度较高。
发明内容
针对现有技术中存在的缺陷,本发明所要解决的技术问题是提供一种运动估计准确性的视频帧速率上转换方法及系统。
为解决上述技术问题,本发明采用的技术方案如下:
一种视频帧速率上转换方法,包括以下步骤:
(1)获取低帧速率视频序列相邻两帧间的初始运动向量场;
(2)在全局范围内检测所述初始运动向量场中的明显异常运动向量,参照局部最可靠运动向量对所述明显异常运动向量进行修正;
(3)在局部范围内检测经过上述修正后的运动向量场中的局部异常运动向量,参照邻域运动向量采用最大似然估计修正所述局部异常运动向量。
如上所述的视频帧速率上转换方法,其中,在获取低帧速率视频序列相邻两帧间的初始运动向量场之前,还包括对所述相邻两帧进行下采样处理的步骤。
如上所述的视频帧速率上转换方法,步骤(1)中所述获取相邻两帧间的初始运动向量场的方法包括以下步骤:
将所述相邻两帧间的待插帧fn分为大小相同的宏块;所述宏块的大小为32的约数;
对所述待插帧fn中的每一个宏块,通过比较所述待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,找到使两者最为相似的位移作为该宏块的运动向量。所述一定位移的取值范围在8~32像素之间。
如上所述的视频帧速率上转换方法,步骤(2)中所述在全局范围内检测所述初始运动向量场中的明显异常运动向量的方法如下:
对于待插帧中的每一个宏块,计算其绝对差和SAD;
如果宏块的绝对差和SAD>设定阈值T,则该宏块对应的运动向量为异常运动向量。所述阈值T取所有宏块最大的10个SAD值中的最小值。
如上所述的视频帧速率上转换方法,步骤(2)中对所述明显异常运动向量进行修正的方法如下:
假设运动向量为异常运动向量,在其八邻域内搜索最小的绝对差和SAD对应的运动向量
将异常运动向量对应的宏块大小扩大一倍,重新比较所述待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,找到使两者最为相似的位移作为该宏块扩大后的运动向量。
如上所述的视频帧速率上转换方法,步骤(3)中所述在局部范围内检测经过上述修正后的运动向量场中的局部异常运动向量的方法如下:
用一个W×W窗口遍历经过步骤(2)修正后的运动向量场;所述W的取值范围在2~4个宏块之间;
对每个位置窗口内的各宏块,计算其绝对差和SAD;
绝对差和SAD最大的宏块对应的运动向量为异常运动向量。
如上所述的视频帧速率上转换方法,步骤(3)中所述修正所述局部异常运动向量的方法包括以下步骤:
将所述异常运动向量对应的宏块的八邻域宏块分为16个重叠的宏块;对新产生的宏块重新在其前后帧中搜索其运动向量,用表示所述异常运动向量对应的宏块的16邻域宏块的运动向量,根据如下公式计算修正后的运动向量:
v → ^ = 1 n Σ i = 1 n v → i .
如上所述的视频帧速率上转换方法,还包括对帧边缘宏块进行互补偿处理的步骤。所述互补偿处理的过程包括以下步骤:
首先在步骤(2)和步骤(3)中修正运动向量场时,只修正除了待插帧边缘宏块外的运动向量场,而将待插帧的边缘宏块均看作异常运动向量对应宏块,按照步骤(2)中修正异常向量的方法加以修正;
然后,假设Bn-1,Bn+1表示相邻帧fn-1,fn+1中对应的宏块,采用如下公式最大补偿对应的宏块:
B ^ n - 1 = B n - 1 + B n - 1 ⊕ B n + 1 ;
B ^ n + 1 = B n + 1 + B n - 1 ⊕ B n + 1 ;
其中,为异或运算符,表示宏块Bn-1,Bn+1互补偿后的结果。
如上所述的视频帧速率上转换方法,其中,在对帧边缘宏块进行互补偿处理之后还包括计算待插帧中预测宏块与前后帧对应宏块的相似度,根据所述相似度计算权重,并以所述权重对修正后的运动向量场进行加权运动补偿的步骤。
如上所述的视频帧速率上转换方法,其中,权重采用如下计算公式计算:
ω n - 1 = S n - 1 S n - 1 + S n + 1 , ω n + 1 = S n + 1 S n - 1 + S n + 1
其中,ωn-1表示前帧对应宏块的权值,ωn+1表示后帧对应宏块的权值,Sn-1表示预测宏块与前帧对应宏块之间的相似度,Sn+1表示预测宏块与后帧对应宏块之间的相似度。
如上所述的视频帧速率上转换方法,其中,对修正后的运动向量场进行加权运动补偿的过程如下:
在修正后的运动向量场的基础上结合所述权重对待插帧的每个宏块实施加权运动补偿:
B ^ n ( p → ) = ω n - 1 ( p → ) f n - 1 ( p → - v → ) + ω n + 1 ( p → ) f n + 1 ( p → + v → ) , p → ∈ B ^ n ;
其中,表示预测宏块,表示的运动向量,表示的中心位置。
一种视频帧速率上转换系统,包括用于获取低帧速率视频序列相邻两帧间的初始运动向量场的获取装置;
用于在全局范围内检测所述初始运动向量场中的明显异常运动向量,参考局部最可靠运动向量对所述明显异常运动向量进行修正的第一修正装置;
用于在局部范围内检测所述初始运动向量场中的局部异常运动向量,参考邻域运动向量采用最大似然估计修正所述局部异常运动向量的第二修正装置。
如上所述的视频帧速率上转换系统,还包括用于对低帧速率视频序列的相邻两帧进行下采样处理的下采样装置。
如上所述的视频帧速率上转换系统,还包括用于对帧边缘宏块进行互补偿处理的第三修正装置。
如上所述的视频帧速率上转换系统,还包括用于计算待插帧中预测宏块与前后帧对应宏块的相似度,根据所述相似度计算权重,并以所述权重对修正后的运动向量场进行加权运动补偿的补偿装置。
本发明所述方法及系统,通过对运动向量场的全局、局部等特征的把握,尤其是在全局、局部、边缘多层次改进运动向量场,采用结构相似度计算运动补偿权重,既提高了运动估计的准确性,又有效地实现了对帧率上转换内插帧画面质量的提升。
附图说明
图1是具体实施方式中视频帧速率上转换系统的结构框图;
图2是具体实施方式中视频帧速率上转换方法的流程图;
图3是具体实施方式中相邻帧双向运动估计的示意图;
图4是具体实施方式中全局异常运动向量检测与修正示意图;
图5是具体实施方式中局部异常运动向量检测与修正示意图;
图6是具体实施方式中前后帧边缘宏块互补偿示意图。
具体实施方式
本发明针对于低帧速率的视频,提出了一种基于改进的运动向量场和加权运动补偿的低帧速率上转换方法及系统,该方法及系统综合考虑了相邻帧间运动向量场的全局、局部特征以及运动补偿的加权性。下面结合具体实施方式和附图对本发明进行详细描述。
如图1所示,本实施方式中的视频帧速率上转换系统包括下采样装置11、获取装置12、第一修正装置13、第二修正装置14、第三修正装置15和补偿装置16。所述第一修正装置13包括第一检测单元和第一修正单元;第二修正装置14包括第二检测单元和第二修正单元;补偿装置16包括计算单元和插值单元。
下采样装置11用于对低帧速率视频序列的相邻两帧进行下采样处理。
获取装置12用于采用双向运动估计获取相邻两帧间的初始运动向量场。
第一修正装置13中的第一检测单元用于在全局范围内检测所述初始运动向量场中的明显异常运动向量,第一修正单元用于参照局部最可靠运动向量对所述明显异常运动向量进行修正。
第二修正装置14中的第二检测单元用于在局部范围内检测所述初始运动向量场中的局部异常运动向量,第二修正单元用于参照邻域运动向量采用最大似然估计修正所述局部异常运动向量。
第三修正装置15用于对待插帧边缘宏块在其前后帧中的对应宏块进行互补偿处理。
补偿装置16中的计算单元用于利用结构相似度计算待插帧中预测宏块与前后帧对应宏块的相似度,根据相似度计算权重,插值单元用于以所述权重对修正后的运动向量场进行加权运动补偿。
如图2所示,采用图1所示系统实现帧速率上转换的方法包括以下步骤:
(1)下采样装置11对低帧速率视频序列的相邻两帧进行下采样处理(201)。
为降低计算复杂度,优选先将时域上的相邻两帧进行下采样处理,例如只选取原始图像的奇数行、列的像素,得到的图像是原始图像的1/4。下采样方法为现有技术,此处不再展开说明。也可以不进行下采样处理直接进入下一步。
(2)获取装置12采用双向运动估计获取相邻两帧间的初始运动向量场(202)。
首先将相邻两帧的待插帧fn(此时的待插帧fn为虚拟的待插帧,还没有填充信息,后续处理的目的便是明确待插帧fn的填充信息)分为大小相同的宏块。由于视频帧格式均是32的倍数,因此宏块的大小优选采用32的约数,如32像素×32像素、16像素×16像素、8像素×8像素等,这样便可以将待插帧fn整分成大小相同的宏块。
然后采用双向运动估计来计算待插帧fn中每个宏块的运动向量。
对待插帧fn中的一个宏块,通过比较待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,搜索到使两者最为相似的位移作为该宏块对应的运动向量。所述一定位移即为搜索范围,一般可以在8~32像素之间取值。
如图3所示,其中B表示待插帧的一个宏块,表示B的运动向量,表示B的中心位置,该搜索过程可以用如下公式表示:
v → ^ = arg min v → Σ p → ∈ B | f n + 1 ( p → + v → ) - f n - 1 ( p → - v → ) |
上述公式表示fn+1帧和fn-1帧中以P点为中心的宏块沿相反方向运动v后逐像素的差。
得到待插帧fn中所有宏块对应的运动向量,便得到了相邻两帧间的初始运动向量场。
(3)第一修正装置13在全局范围内检测初始运动向量场中的明显异常运动向量(203),参照局部最可靠运动向量对所述明显异常运动向量进行修正(204)。
①第一检测单元在初始运动向量场中寻找宏块对应的异常运动向量:
对于待插帧fn中的每一个宏块,根据如下公式计算其绝对差和SAD(Bi):
SAD ( B i ) = Σ p → ∈ B i | f n + 1 ( p → + v → ) - f n - 1 ( p → - v → ) |
如果SAD(Bi)>设定阈值T,则Bi对应的运动向量为异常运动向量。其中,Bi表示第i个宏块,表示Bi的运动向量,表示Bi的中心位置。阈值T由待插帧fn的所有宏块的SAD值决定。例如,在前10个最大的SAD值中,取最小的SAD值作为阈值T。
②第一修正单元修正异常运动向量:
如图4(a)所示,假设运动向量为异常运动向量,在其八邻域内搜索寻找最小的绝对差和SAD对应的运动向量,用表示该运动向量:
v → m = arg min v → i SAD ( B i )
其中,表示异常向量八邻域的第i个运动向量。
由于对应的宏块距离异常运动向量宏块很近,可以认为它们很有可能具有相同的运动向量,因此将异常运动向量的初始化值设为即令
将异常运动向量对应的宏块大小扩大一倍,重新在其前一帧和后一帧搜索它的运动向量,如图4(b)所示。因为更大的宏块会包含更多信息,可以减少宏块匹配错误,尤其是在相对平坦、纹理简单的区域。
通过上述修正处理后,初步减少了运动向量场中的异常运动向量。
(4)第二修正装置14中的第二检测单元在局部范围内检测经过上述修正后的运动向量场中的异常运动向量(205),第二修正单元参考邻域运动向量采用最大似然估计修正所述异常运动向量(206)。
用一个W×W窗口遍历运动向量场,如从运动向量场的左上角开始从左到右、从上到下依次平移至右下角。对每个位置窗口内的各宏块,按照上述公式计算其绝对差和SAD;绝对差和SAD最大的宏块对应的运动向量为异常运动向量。优选的,W的取值范围在2~4个宏块之间,例如3×3窗口,其内包含9个宏块。
如图5所示,对检测出的每个局部异常运动向量,将其对应的宏块的八邻域宏块分为16个重叠的宏块。可以在当前宏块八邻域的范围内,每隔半个宏块大小取一个宏块。对新产生的宏块重新在其前后帧搜索其运动向量,用表示所述局部异常运动向量对应的宏块的16邻域宏块的运动向量,根据如下公式计算所述局部异常向量宏块的运动向量:
v → ^ = 1 n Σ i = 1 n v → i
(5)第三修正装置15对帧边缘宏块进行互补偿处理(207)。
由于全局运动或者帧边缘的运动物体,导致帧边缘宏块在运动补偿时信息不足经常出现空洞等问题,因此为了获得更佳的修正效果,本实施方式中使用帧边缘宏块互补偿来解决上述问题。
首先,在第一修正装置13和第二修正装置14修正运动向量场时,只修正除了帧边缘宏块外的运动向量场,而将待插帧的边缘宏块均看作异常向量宏块,按照上述修正全局异常向量的方法加以修正。
然后,如图6所示,假设Bn-1,Bn+1表示相邻帧fn-1,fn+1中对应的宏块,Bn+1的部分已经超出了帧的边界,使用以下公式最大补偿对应的宏块:
B ^ n - 1 = B n - 1 + B n - 1 ⊕ B n + 1
B ^ n + 1 = B n + 1 + B n - 1 ⊕ B n + 1
其中,表示异或运算符,中的是宏块Bn-1、Bn+1互补偿后的结果。
(6)补偿装置16中的计算单元利用结构相似度计算待插帧中预测宏块与前后帧对应宏块的相似度,根据所述相似度计算权重(207),插值单元以所述权重对修正后的运动向量场进行加权运动补偿,得到所述低帧速率视频序列的相邻两帧的待插帧。
通过上述处理后,得到了改进后的运动向量场,对所述改进后的运动向量场实施加权运动补偿。加权运动补偿分为两个部分:一是计算权值,二是综合该权值和运动向量场通过运动补偿产生待插帧(即内插帧)。
采用SSIM(结构相似度参数,参见Z. Wang,A.C.Bovik,H.R.Sheikh,andE.Simoncelli,“Image quality assessment:From error visibility to structural similarity,”IEEE Trans.on Image Processing,vol.13,pp.600612,Apr.2004)为标准衡量预测宏块与前后帧对应宏块之间的相似度。假设Sn-1表示预测宏块与前帧对应宏块之间的相似度,Sn+1表示预测宏块与后帧对应宏块之间的相似度,那么前后帧对应宏块在运动补偿时的权重采用如下计算公式:
ω n - 1 = S n - 1 S n - 1 + S n + 1 , ω n + 1 = S n + 1 S n - 1 + S n + 1
其中,ωn-1表示前帧对应宏块的权值,ωn+1表示后帧对应宏块的权值,Sn-1表示预测宏块与前帧对应宏块之间的相似度,Sn+1表示预测宏块与后帧对应宏块之间的相似度。
在改进后的运动向量场的基础上结合以上权重对待插帧的每个宏块实施加权运动补偿:
B ^ n ( p → ) = ω n - 1 ( p → ) f n - 1 ( p → - v → ) + ω n + 1 ( p → ) f n + 1 ( p → + v → ) , p → ∈ B ^ n ;
其中,为预测宏块,表示的运动向量,表示的中心位置。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其同等技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (16)

1.一种视频帧速率上转换方法,其特征在于,包括以下步骤:
(1)获取低帧速率视频序列相邻两帧间的初始运动向量场;
(2)在全局范围内检测所述初始运动向量场中的明显异常运动向量,参照局部最可靠运动向量对所述明显异常运动向量进行修正;所述在全局范围内检测所述初始运动向量场中的明显异常运动向量的方法如下:
对于待插帧中的每一个宏块,计算其绝对差和SAD;
如果宏块的绝对差和SAD>设定阈值T,则该宏块对应的运动向量为异常运动向量;
对所述明显异常运动向量进行修正的方法如下:
假设运动向量为异常运动向量,在其八邻域内搜索最小的绝对差和SAD对应的运动向量
将异常运动向量对应的宏块大小扩大一倍,重新比较所述待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,找到使两者最为相似的位移作为该宏块扩大后的运动向量;
(3)在局部范围内检测经过上述修正后的运动向量场中的局部异常运动向量,参照邻域运动向量采用最大似然估计修正所述局部异常运动向量;
所述在局部范围内检测经过上述修正后的运动向量场中的局部异常运动向量的方法如下:
用一个W×W窗口遍历经过步骤(2)修正后的运动向量场;
对每个位置窗口内各宏块,计算其绝对差和SAD;
绝对差和SAD最大的宏块对应的运动向量为异常运动向量;
修正所述局部异常运动向量的方法包括以下步骤:
将所述异常运动向量对应的宏块的八邻域宏块分为16个重叠的宏块;对新产生的宏块重新在其前后帧中搜索其运动向量,用表示所述异常运动向量对应的宏块的16邻域宏块的运动向量,根据如下公式计算修正后的运动向量:
v → ^ = 1 n Σ i = 1 n v → i .
2.如权利要求1所述的视频帧速率上转换方法,其特征在于:所述方法在获取低帧速率视频序列相邻两帧间的初始运动向量场之前,还包括对所述相邻两帧进行下采样处理的步骤。
3.如权利要求1所述的视频帧速率上转换方法,其特征在于,步骤(1)中所述获取相邻两帧间的初始运动向量场的方法包括以下步骤:
将所述相邻两帧间的待插帧fn分为大小相同的宏块;
对所述待插帧fn中的每一个宏块,通过比较所述待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,找到使两者最为相似的位移作为该宏块的运动向量。
4.如权利要求3所述的视频帧速率上转换方法,其特征在于:所述宏块的大小为32的约数。
5.如权利要求3所述的视频帧速率上转换方法,其特征在于:所述一定位移的取值范围在8~32像素之间。
6.如权利要求1所述的视频帧速率上转换方法,其特征在于:所述阈值T取所有宏块最大的10个SAD值中的最小值。
7.如权利要求1所述的视频帧速率上转换方法,其特征在于:所述W的取值范围在2~4个宏块之间。
8.如权利要求3~5中任一项所述的视频帧速率上转换方法,其特征在于:所述方法还包括对帧边缘宏块进行互补偿处理的步骤。
9.如权利要求8所述的视频帧速率上转换方法,其特征在于:所述互补偿处理的过程包括以下步骤:
首先在步骤(2)和步骤(3)中修正运动向量场时,只修正除了待插帧边缘宏块外的运动向量场,而将待插帧的边缘宏块均看作异常运动向量对应宏块,按照步骤(2)中修正异常向量的方法加以修正;
然后,假设Bn-1,Bn+1表示相邻帧fn-1,fn+1中对应的宏块,采用如下公式最大补偿对应的宏块:
B ^ n - 1 = B n - 1 + B n - 1 ⊕ B n + 1 ;
B ^ n + 1 = B n + 1 + B n - 1 ⊕ B n + 1 ;
其中,⊕为异或运算符,表示宏块Bn-1,Bn+1互补偿后的结果。
10.如权利要求8所述的视频帧速率上转换方法,其特征在于:所述方法在对帧边缘宏块进行互补偿处理之后还包括计算待插帧中预测宏块与前后帧对应宏块的相似度,根据所述相似度计算权重,并以所述权重对修正后的运动向量场进行加权运动补偿的步骤。
11.如权利要求10所述的视频帧速率上转换方法,其特征在于,所述权重采用如下计算公式计算:
ω n - 1 = S n - 1 S n - 1 + S n + 1 , ω n + 1 = S n + 1 S n - 1 + S n + 1
其中,ωn-1表示前帧对应宏块的权值,ωn+1表示后帧对应宏块的权值,Sn-1表示预测宏块与前帧对应宏块之间的相似度,Sn+1表示预测宏块与后帧对应宏块之间的相似度。
12.如权利要求11所述的视频帧速率上转换方法,其特征在于,所述对修正后的运动向量场进行加权运动补偿的过程如下:
在修正后的运动向量场的基础上结合所述权重对待插帧的每个宏块实施加权运动补偿:
B ^ n ( p → ) = ω n - 1 ( p → ) f n - 1 ( p → - v → ) + ω n + 1 ( p → ) f n + 1 ( p → + v → ) , p → ∈ B ^ n ;
其中,表示预测宏块,表示的运动向量,表示的中心位置。
13.一种视频帧速率上转换系统,其特征在于,包括用于获取低帧速率视频序列相邻两帧间的初始运动向量场的获取装置(12);
用于在全局范围内检测所述初始运动向量场中的明显异常运动向量,参考局部最可靠运动向量对所述明显异常运动向量进行修正的第一修正装置(13);第一修正装置(13)在全局范围内检测所述初始运动向量场中的明显异常运动向量的方法如下:
对于待插帧中的每一个宏块,计算其绝对差和SAD;
如果宏块的绝对差和SAD>设定阈值T,则该宏块对应的运动向量为异常运动向量;
第一修正装置(13)对所述明显异常运动向量进行修正的方法如下:
假设运动向量为异常运动向量,在其八邻域内搜索最小的绝对差和SAD对应的运动向量
将异常运动向量对应的宏块大小扩大一倍,重新比较所述待插帧fn的前一帧fn-1中一定位移处的对应宏块与后一帧fn+1中相反位移处的对应宏块,找到使两者最为相似的位移作为该宏块扩大后的运动向量;
用于在局部范围内检测所述初始运动向量场中的局部异常运动向量,参考邻域运动向量采用最大似然估计修正所述局部异常运动向量的第二修正装置(14);第二修正装置(14)在局部范围内检测经过上述修正后的运动向量场中的局部异常运动向量的方法如下:
用一个W×W窗口遍历经过步骤(2)修正后的运动向量场;
对每个位置窗口内各宏块,计算其绝对差和SAD;
绝对差和SAD最大的宏块对应的运动向量为异常运动向量;
第二修正装置修正所述局部异常运动向量的方法包括以下步骤:
将所述异常运动向量对应的宏块的八邻域宏块分为16个重叠的宏块;对新产生的宏块重新在其前后帧中搜索其运动向量,用表示所述异常运动向量对应的宏块的16邻域宏块的运动向量,根据如下公式计算修正后的运动向量:
v → ^ = 1 n Σ i = 1 n v → i .
14.如权利要求13所述的视频帧速率上转换系统,其特征在于:所述系统还包括用于对低帧速率视频序列的相邻两帧进行下采样处理的下采样装置(11)。
15.如权利要求13或14所述的视频帧速率上转换系统,其特征在于:所述系统还包括用于对帧边缘宏块进行互补偿处理的第三修正装置(15)。
16.如权利要求13或14所述的视频帧速率上转换系统,其特征在于:所述系统还包括用于计算待插帧中预测宏块与前后帧对应宏块的相似度,根据所述相似度计算权重,并以所述权重对修正后的运动向量场进行加权运动补偿的补偿装置(16)。
CN201110187141.5A 2011-07-05 2011-07-05 一种视频帧速率上转换方法及系统 Expired - Fee Related CN102868879B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110187141.5A CN102868879B (zh) 2011-07-05 2011-07-05 一种视频帧速率上转换方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110187141.5A CN102868879B (zh) 2011-07-05 2011-07-05 一种视频帧速率上转换方法及系统

Publications (2)

Publication Number Publication Date
CN102868879A CN102868879A (zh) 2013-01-09
CN102868879B true CN102868879B (zh) 2015-04-29

Family

ID=47447450

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110187141.5A Expired - Fee Related CN102868879B (zh) 2011-07-05 2011-07-05 一种视频帧速率上转换方法及系统

Country Status (1)

Country Link
CN (1) CN102868879B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103647973B (zh) * 2013-12-10 2017-01-04 华为技术有限公司 一种帧率上采样的方法和装置
CN104065975B (zh) * 2014-06-30 2017-03-29 山东大学 基于适应性运动估计的帧率提升方法
CN104811723B (zh) * 2015-04-24 2018-03-16 宏祐图像科技(上海)有限公司 Memc技术中局部运动矢量修正方法
CN105847804B (zh) * 2016-05-18 2017-12-15 信阳师范学院 一种基于稀疏冗余表示模型的视频帧率上转换方法
CN106303546B (zh) * 2016-08-31 2019-05-14 四川长虹通信科技有限公司 一种帧速率上转换方法及系统
WO2020177684A1 (en) * 2019-03-03 2020-09-10 Beijing Bytedance Network Technology Co., Ltd. Enabling dmvr based on the information in the picture header
WO2020219982A1 (en) * 2019-04-24 2020-10-29 Nextvr Inc. Methods and apparatus for encoding, communicating and/or using images
CN110163892B (zh) * 2019-05-07 2023-06-20 国网江西省电力有限公司检修分公司 基于运动估计插值的学习率渐进更新方法及动态建模系统
CN111447488B (zh) * 2020-04-01 2022-08-26 青岛海信传媒网络技术有限公司 一种memc控制方法及显示设备
CN113556581B (zh) * 2021-07-20 2023-11-03 深圳市爱协生科技股份有限公司 插值帧的生成方法、装置及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1204925A (zh) * 1997-07-05 1999-01-13 大宇电子株式会社 根据轮廓运动估算技术对目标轮廓进行编码的方法和设备
CN1568015A (zh) * 2003-06-27 2005-01-19 中国科学院计算技术研究所 多视角视频编解码预测补偿方法及装置
CN1816146A (zh) * 2005-02-03 2006-08-09 联想(北京)有限公司 一种视频数据压缩中的运动矢量估计方法
CN101238486A (zh) * 2005-07-05 2008-08-06 汉特罗产品有限公司 用于数字图像处理的设备、计算机程序产品和方法
CN101281650A (zh) * 2008-05-05 2008-10-08 北京航空航天大学 用于视频稳定的快速全局运动估计方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5045320B2 (ja) * 2007-09-05 2012-10-10 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1204925A (zh) * 1997-07-05 1999-01-13 大宇电子株式会社 根据轮廓运动估算技术对目标轮廓进行编码的方法和设备
CN1568015A (zh) * 2003-06-27 2005-01-19 中国科学院计算技术研究所 多视角视频编解码预测补偿方法及装置
CN1816146A (zh) * 2005-02-03 2006-08-09 联想(北京)有限公司 一种视频数据压缩中的运动矢量估计方法
CN101238486A (zh) * 2005-07-05 2008-08-06 汉特罗产品有限公司 用于数字图像处理的设备、计算机程序产品和方法
CN101281650A (zh) * 2008-05-05 2008-10-08 北京航空航天大学 用于视频稳定的快速全局运动估计方法

Also Published As

Publication number Publication date
CN102868879A (zh) 2013-01-09

Similar Documents

Publication Publication Date Title
CN102868879B (zh) 一种视频帧速率上转换方法及系统
Kang et al. Motion compensated frame rate up-conversion using extended bilateral motion estimation
Kang et al. Dual motion estimation for frame rate up-conversion
Wang et al. Motion-compensated frame rate up-conversion—Part II: New algorithms for frame interpolation
KR101536794B1 (ko) 후광현상이 줄어든 영상보간 장치 및 방법
CN101621693B (zh) 一种结合目标分割和不规则块补偿的帧频提升方法
CN105100807B (zh) 一种基于运动矢量后处理的帧率提升方法
CN102025960B (zh) 一种基于自适应插值的运动补偿去隔行方法
KR100870115B1 (ko) 블록정합 및 움직임 보상 보간을 이용한 영상 형성 방법
CN105847804B (zh) 一种基于稀疏冗余表示模型的视频帧率上转换方法
CN103702128B (zh) 一种应用于视频帧速率上转换的插值帧生成方法
CN102131058B (zh) 高清数字视频帧速率变换处理模块及其方法
CN102946505B (zh) 一种基于图像分块统计的自适应运动检测方法
CN101388977A (zh) 图像处理设备和图像处理方法
CN103220488A (zh) 一种视频帧率上转换装置及方法
CN102123283B (zh) 视频帧率转换中的插值帧获取方法及其装置
CN103051857B (zh) 基于运动补偿的1/4像素精度视频图像去隔行方法
Braspenning et al. True-motion estimation using feature correspondences
CN103369208A (zh) 自适应去隔行方法及装置
CN104717402B (zh) 一种空时域联合噪声估计系统
CN102509311B (zh) 运动检测方法和装置
CN101340539A (zh) 利用运动矢量和图像边缘检测去交织视频处理方法及系统
CN103313059B (zh) 一种帧率提升中闭塞区域的判定方法
Van Thang et al. An efficient non-selective adaptive motion compensated frame rate up conversion
CN103024332B (zh) 一种基于边缘和运动检测的视频去隔行方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20130109

Assignee: China Digital Video (Beijing) Co.,Ltd.

Assignor: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.|BEIJING FOUNDER ELECTRONICS Co.,Ltd.|Peking University

Contract record no.: 2013990000783

Denomination of invention: Method and system for converting video frame rate

License type: Exclusive License

Record date: 20131122

LICC Enforcement, change and cancellation of record of contracts on the licence for exploitation of a patent or utility model
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230209

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Patentee after: New founder holdings development Co.,Ltd.

Patentee after: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230426

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: New founder holdings development Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150429