CN101883278B - 运动向量校正装置及其方法 - Google Patents
运动向量校正装置及其方法 Download PDFInfo
- Publication number
- CN101883278B CN101883278B CN201010104986.9A CN201010104986A CN101883278B CN 101883278 B CN101883278 B CN 101883278B CN 201010104986 A CN201010104986 A CN 201010104986A CN 101883278 B CN101883278 B CN 101883278B
- Authority
- CN
- China
- Prior art keywords
- motion vector
- frame
- motion
- field
- weighted factor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000013598 vector Substances 0.000 title claims abstract description 470
- 238000000034 method Methods 0.000 title claims abstract description 27
- 230000000694 effects Effects 0.000 abstract description 3
- 230000001131 transforming effect Effects 0.000 abstract 1
- 230000000007 visual effect Effects 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 14
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000010355 oscillation Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
- H04N19/521—Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
Abstract
一种运动向量校正装置及其方法,其中所述运动向量校正装置包括:三帧运动估测单元,用于估测先前运动向量场与后续运动向量场;运动向量选择单元,用于决定相关于第一帧与第二帧的参考运动向量组用于像素的位置,;以及运动向量校正单元,耦接于运动向量选择单元,运动向量校正单元用于在相应的运动向量对之间获得一致性程度,并且根据一致性程度采用分别相关于参考运动向量组的多个加权因子,以及根据采用的多个加权因子与参考运动向量组校正已估测运动向量。本发明所提供的运动向量校正装置及其方法的效果之一在于,可以执行帧速率转换的运动向量校正以消除中间帧中的运动目标的边缘上的可见假影。
Description
技术领域
本发明涉及视频处理,尤其涉及运动向量校正装置及其方法。
背景技术
通常地,帧速率转换用于视频标准转换。举例来说,需要将以24帧每秒(即24Hz)的帧速率记录的视频信号进行转换以于更高的显示帧速率(例如PAL标准下的50Hz电视信号)显示。另外,当PAL标准下的50Hz电视信号以NTSC标准下的60Hz电视信号进行回放时,需要电视信号的一个转换以将显示帧速率从50Hz转换为60Hz。
在这种情况下,通常利用帧重复方法(例如下拉转换)通过重复帧以执行帧速率向上转换。然而,当帧的目标或背景运动时,帧重复可能会产生不需要的振动假影,因而导致视频质量的下降。
为了消除帧中目标运动引起的帧速率转换的缺陷,提出一种包含运动估测/运动补偿(ME/MC)的运动振动消除(Motion Judder Cancellation,MJC)的技术。运动振动消除根据运动向量信息通过内插来自两个或多个连续帧的目标位置产生中间帧,以降低振动假影。因为运动向量信息描述目标的运动,所以多数沿着目标运动的中间帧的像素可以很好的沿着相应目标向量内插。然而,运动中目标的边缘处可能出现内插误差,尤其是在加速或减速过程中。如果从运动估测得到的不正确边缘信息不能匹配真正运动目标的边缘时,则会在中间帧中的运动目标的锐边(sharp edge)的附近形成锯齿轮廓或模糊线条,即形成不自然的环状假影或所谓的“光环”。
因此,执行帧速率转换的运动向量校正以消除中间帧中的运动目标的边缘上的可见假影是非常重要的。
发明内容
有鉴于此,本发明提供运动向量校正装置及其方法。
一种运动向量校正方法,用于校正像素的已估测运动向量,所述像素位于视频序列的第一帧与第二帧之间的已内插帧,所述运动向量校正方法包括:估测先前运动向量场与后续运动向量场,其中,基于所述第一帧、所述第二帧以及所述第二帧之前的第三帧估测所述先前运动向量场,基于所述第一帧、所述第二帧以及所述第一帧之后的第四帧估测所述后续运动向量场;决定相关于所述第一帧与所述第二帧的参考运动向量组用于所述像素的位置,其中所述参考运动向量组包括第一运动向量与相应的运动向量对,并且设定所述第一运动向量为已估测运动向量,所述相应的运动向量对分别来自所述先前运动向量场与所述后续运动向量场;在所述相应的运动向量对之间获得一致性程度;根据所述一致性程度采用多个加权因子,其中所述多个加权因子分别相关于所述参考运动向量组;以及根据采用的所述多个加权因子与所述参考运动向量组校正所述已估测运动向量。
一种运动向量校正装置,用于校正像素的已估测运动向量,所述像素位于视频序列的第一帧与第二帧之间的已内插帧,所述运动向量校正装置包括:三帧运动估测单元,用于估测先前运动向量场与后续运动向量场,其中,基于所述第一帧、所述第二帧以及所述第二帧之前的第三帧估测所述先前运动向量场,基于所述第一帧、所述第二帧以及所述第一帧之后的第四帧估测所述后续运动向量场;运动向量选择单元,耦接于所述三帧运动估测单元,并且用于决定相关于所述第一帧与所述第二帧的参考运动向量组用于所述像素的位置,其中所述参考运动向量组包括第一运动向量与相应的运动向量对,其中设定所述第一运动向量为所述已估测运动向量,并且所述相应的运动向量对分别来自所述先前运动向量场与所述后续运动向量场;以及运动向量校正单元,耦接于所述运动向量选择单元,所述运动向量校正单元用于在所述相应的运动向量对之间获得一致性程度,并且根据所述一致性程度采用分别相关于所述参考运动向量组的多个加权因子,以及根据采用的所述多个加权因子与所述参考运动向量组校正所述已估测运动向量。
本发明的效果之一在于,可以执行帧速率转换的运动向量校正以消除中间帧中的运动目标的边缘上的可见假影。
以下系根据多个图式对本发明的较佳实施例进行详细描述,所属技术领域技术人员阅读后应可明确了解本发明的目的。
附图说明
图1为根据本发明一实施例的运动向量校正装置的方块示意图。
图2为由两个帧之间的前景目标与背景的运动描述的已覆盖区域与未覆盖区域的示意图。
图3为根据本发明一实施例的运动向量校正的三个运动向量场的示意图。
图4为根据图3的实施例校正定位于已覆盖区域中的运动向量的操作示意图。
图5为根据图3的实施例的校正定位于未覆盖区域中的运动向量的操作的示意图。
图6为根据本发明另一实施例的运动向量校正装置的方块示意图。
图7为根据图6实施例的校正定位于已覆盖区域中的运动向量的操作的示意图。
图8为根据图6实施例的校正定位于未覆盖区域中的运动向量的操作的示意图。
图9为根据本发明一实施例的运动向量校正方法的流程图。
具体实施方式
为了让本发明之目的、特征、及优点能更明显易懂,下文特举较佳实施例做详细之说明。实施例是为说明本发明之用,并非用以限制本发明。本发明的保护范围以所附权利要求为准。
图1为根据本发明一实施例的运动向量校正装置10的方块示意图。如图1所示,运动向量校正装置10包括双帧运动估测单元102、三帧运动估测单元104、运动向量选择单元106以及运动向量校正单元108。运动向量校正装置10用于校正定位于视频序列110的两个帧之间的已内插帧的位置的像素的已估测运动向量。
请参考图1,双帧运动估测单元102与三帧运动估测单元104从视频序列110中获取多个帧。具体的,双帧运动估测单元102用于基于来自帧序列110的第一帧与第二帧估测中间运动向量场122。
根据一实施例,可根据中间运动向量场122决定所述第一帧与所述第二帧之间的已内插帧。操作过程中,当运动目标加速时,在快速运动目标与静止背景中间形成非重迭堵塞,如图2所示。
图2为由两个帧之间的前景目标与背景的运动描述的已覆盖区域与未覆盖区域的示意图。
如图2所示,相应于时间t1与时间t2的第一帧与第二帧分别由frmn与frmn-1表示,其中,t1落后于t2。接着,产生指定两个帧frmn与frmn-1之间的时间相关的将被内插的帧frmn+α,其中,-1≤α≤0。目标206以特定速度在背景上运动并且方向向上(图中以UP标示方向)。因此,目标206的运动可由已估测运动向量MVobject表示。类似的,背景的运动可由运动向量MVbackground表示。另外,目标206与背景的运动可能导致产生一些堵塞区域。举例来说,当目标206在背景上运动时,在目标206与背景之间形成两个堵塞区域,其中,所述两个堵塞区域分别为已覆盖区域202与未覆盖区域204。因为已覆盖区域202与未覆盖区域204中的像素仅在一个帧中出现,所以运动估测在这两个帧frmn与frmn-1中不会找到匹配区块。因此,并不能充分确定包含已覆盖区域202与未覆盖区域204的运动向量的估测。如上所述,错误估测的运动向量可能于已内插帧中的运动变化过程中,在边缘上导致失真或拖曳假影(dragging artifact)。在图1所述实施例中,三帧运动估测单元104进一步用来校正错误运动向量。
在操作过程中,三帧运动估测单元104用来估测先前运动向量场124与后续运动向量场126,其中,先前运动向量场124与后续运动向量场126有关于中间运动向量场122。在此实施例中,校正图2所示的具有两个堵塞区域的错误运动向量的过程将在下面通过参考图3至图5进行详细描述。
图3为根据本发明一实施例的运动向量校正的三个运动向量场的示意图。如图3所示,三个运动向量场用于为已内插帧frmn+α取得正确的运动向量。根据此实施例,中间运动向量场122(如图1中所示)定义如下:
MF2frm(MV,n+α)=F(frmn-1,frmn), (1)
其中,中间运动向量场122为两个帧frmn-1与frmn中间的双帧运动估测量。
另外,先前运动向量场124定义如下:
MF3frm(MV,n-1)=F(frmn-2,frmn-1,frmn), (2)
其中,先前运动向量场124为估测于帧frmn-1、frmn以及frmn-2之间的三帧运动估测量,且帧frmn-2先于帧frmn-1。
另外,后续运动向量场126定义如下:
MF3frm(MV,n)=F(frmn-1,frmn,frmn+1), (3)
其中,后续运动向量场126为估测于帧frmn-1、frmn以及frmn+1之间的三帧运动估测量,且frmn+1在第一帧frmn之后。
如图3所示,因为运动目标206与运动向量场MF3frm(MV,n)中相应区域重迭,所以不能正确估测运动向量场MF2frm(MV,n+α)中与位于运动目标206之上的已覆盖区域202相关的运动向量。类似的,因为没有从运动向量场MF3frm(MV,n-1)得到相应区域的运动信息,所以不能正确估测运动向量场MF2frm(MV,n+α)中与位于运动目标206之下的未覆盖区域204相关的运动向量。因此,错误的运动向量(例如图3中MVcover与MVuncover)导致运动目标206的边界不平滑并且滞后。
根据一实施例,图1所示视频序列110中的帧frmn-2、frmn-1、frmn以及frmn+1可为连续帧。在其他实施例中,视频序列110中的帧frmn-2、frmn-1、frmn以及frmn+1可为按时间顺序的离散帧。
图4为根据图3的实施例校正定位于已覆盖区域202中的运动向量的操作示意图。
请参考图1、图2以及图4,运动向量选择单元106耦接于双帧运动估测单元102以及三帧运动估测单元104,用于决定一组参考运动向量以校正图2中所示已内插帧frmn+α的已估测运动向量。假设指定了定位于已内插帧frmn+α的位置的像素的已估测运动向量,则接着根据像素的位置决定相关于两个帧frmn-1与frmn的参考运动向量组。根据一实施例,将从中间运动向量场122选择的候选运动向量设定为已内插帧frmn+α的将被校正的已估测运动向量。请注意,中间运动向量场122中的候选运动向量的位置相应于已内插帧frmn+α中的像素的位置。举例来说,运动向量选择单元106检测已覆盖区域202并且选择相应的运动向量,例如图4中的运动向量MV2。另外,根据已选择的运动向量MV2,运动向量选择单元106同样决定相应的运动向量对(例如图4中的运动向量MV3a与MV3b),其中,所述相应的运动向量对中的运动向量分别来自先前运动向量场124与后续运动向量场126。在这种情况下,决定相应的运动向量对MV3a与MV3b的方向为运动向量MV2的方向。随后,三个运动向量MV2、MV3a以及MV3b通过运动向量校正单元108。
在操作过程中,耦接于运动向量选择单元106的运动向量校正单元108获得相应的运动向量对MV3a与MV3b之间的一致性程度(measure ofconsistency)。也就是说,将由运动向量选择单元106获得的运动向量对MV3a与MV3b进行检查以决定它们是否一致。检查运动向量对MV3a与MV3b之间的运动一致性的操作可确保用于校正运动向量MV2的估测的可靠性。举例来说,可通过应用预设阈值(predetermined threshold)来检查运动向量对MV3a与MV3b的一致性。具体来说,将预设阈值与运动向量对MV3a与MV3b之差的绝对值进行比较以决定一致性程度。当绝对值超过预设阈值时,决定运动向量对MV3a与MV3b为不一致并且不确定的。相反,则决定运动向量对MV3a与MV3b为一致并且可靠的。
检查完运动向量对MV3a与MV3b的运动一致性之后,运动向量校正单元108接着采用多个加权因子,所述多个加权因子分别分配至运动向量MV2、MV3a以及MV3b。更具体的,请参考图4,当运动向量对MV3a与MV3b一致时,它们作为校正运动向量的可靠参考MV2。在这种情况下,运动向量校正单元108使得分配至运动向量MV2的加权因子的值比分配至运动向量对MV3a与MV3b的其他加权因子的值小很多。举例来说,运动向量MV2加权为零的加权因子,适合于运动向量对MV3a与MV3b的加权因子可为相同值并且为1/2。因此,运动向量校正单元108通过运动向量对MV3a与MV3b的加权和将已覆盖区域202的运动向量MV2校正为新的运动向量MVCRCT,其中,运动向量对MV3a与MV3b的加权因子可为相同值并且为1/2。
根据另一实施例,可分配至运动向量对MV3a与MV3b不同的加权因子。这样,运动向量MV2可被运动向量MV3a或MV3b直接替换或填补,其中,运动向量MV3a与MV3b的加权因子不相等,其中一个加权因子大于另一个加权因子。
需要注意的是,除了上述提到的分配以及填补方法,根据需要也可应用其他加权因子规则。
另一方面,当运动向量对MV3a与MV3b不一致的情况发生时,运动不一致性可能导致产生相对高的运动向量校正失败危险。因此,运动向量校正单元108指示分配至运动向量MV2的加权因子的值大于分配至运动向量对MV3a与MV3b的加权因子的值,以消除来自运动向量对MV3a与MV3b的额外变化。举例来说,运动向量对MV3a与MV3b加权为零的加权因子,并且加权为具有1的加权因子的运动向量MV2保持相同,没有进一步的运动向量校正。
图5为根据图3的实施例的校正定位于未覆盖区域204中的运动向量的操作的示意图。类似的,将从中间运动向量场122选择的候选运动向量设定为已内插帧frmn+α的将被校正的已估测运动向量。需要注意的是,中间运动向量场122中的候选运动向量的位置相应于已内插帧frmn+α中的像素的位置。
请参考图5,当未覆盖区域204中的运动向量MV2被选择时,决定两个相应运动向量(运动向量对)MV3a与MV3b的方向为运动向量MV2的方向。接着,运动向量校正单元108计算运动向量对MV3a与MV3b之间的差的绝对值。接着,运动向量校正单元108将所计算的差的绝对值与预设阈值进行比较,以决定运动向量对MV3a与MV3b是否一致。
当运动向量对MV3a与MV3b之间的差的绝对值等于或小于预设阈值时,则决定运动向量对MV3a与MV3b为一致的。运动向量对MV3a与MV3b之间的运动一致性可确保用于校正运动向量MV2的估测的可靠性。举例来说,将相等的加权因子分配至运动向量对MV3a与MV3b以通过具有相同加权因子的运动向量对MV3a与MV3b的加权和获得新的运动向量MVCRCT。
否则,当运动向量对MV3a与MV3b之间的差的绝对值大于预设阈值时,则决定运动向量对MV3a与MV3b不一致。不一致的运动向量对MV3a与MV3b可导致校正运动向量MV2的估测不确定。因此,分配至运动向量MV2的加权因子为自校正(self-correction)的领先参考(leading reference)。举例来说,将更大的加权因子分配至运动向量MV2,而将两个更小的加权因子分配至运动向量对MV3a与MV3b。因此,通过分别具有各自加权因子的运动向量MV2、MM3a以及MV3b的加权和获得新的运动向量MVCRCT。
根据一实施例,假设图5中目标206处于运动向量MV2(例如运动向量MV2为-6)之内的加速或加速运动状态。根据运动向量MV2选择两个相应运动向量MV3a(例如运动向量MV3a为4)与(例如运动向量MV3b为8)。并且,设定预设阈值为6。在所述实施例中,因为运动向量对MV3a与MV3b之间的差的绝对值小于预设阈值6,因此运动向量对MV3a与MV3b是一致的,其中,运动向量对MV3a与MV3b之间的差的绝对值为abs(MV3a-MV3b)=abs(4-8)=4。也就是说,一致的运动向量对MV3a与MV3b指示在4与8之间而不是-6来校正运动向量场MF2frm(MV,n+α)的运动向量MV2会更好。在一个实施例中,将运动向量MV2、MV3a以及MV3b的加权因子分别设定为0、1/2以及1/2。因此相应的通过运动向量MV2、MV3a以及MV3b的加权和获得已校正运动向量MVCRCT,其中,运动向量MV2、MV3a以及MV3b的加权和可为(MV2x0+MV3a×0.5+MV3b×0.5)=(0+4×0.5+8×0.5)=6。
另外,利用已校正运动向量MVCRCT以指示运动补偿单元相应于运动向量场MF2frm(MV,n+α)产生图2中所示已内插帧frmn+α,借此消除或降低运动的振动影响。
图6为根据本发明另一实施例的运动向量校正装置60的方块示意图。如图6所示,运动向量校正装置60包括三帧运动估测单元604、运动向量选择单元606以及运动向量校正单元608。
在此实施例中,通过仅从三帧运动估测单元604得到的参考运动向量组校正图2中所示已内插帧frmn+α的已估测运动向量,使得不需要利用两个帧frmn-1与frmn中间的双帧运动估测量,即来自图1的双帧运动估测单元102的中间运动向量场122。更具体的,三帧运动估测单元604根据前述函数(2)与(3)估测先前运动向量场624与后续运动向量场626,其中,先前运动向量场624可为MF2frm(MV,n-1),后续运动向量场626可为MF3frm(MV,n)。通过参考图7与图8将对校正定位于未覆盖区域与已覆盖区域中的错误运动向量的过程进行更详细的描述。
图7为根据图6实施例的校正定位于已覆盖区域702中的运动向量的操作的示意图。
图8为根据图6实施例的校正定位于未覆盖区域804中的运动向量的操作的示意图。
如图7与图8所示,目标206以特定速度在背景上运动并且方向向上(图中以UP标示方向)。
在操作过程中,当指定已内插帧frmn+α的已估测运动向量将被校正时,则通过根据已指定运动向量的已定位位置从运动向量场624与626选择多个运动向量决定参考运动向量组。
如图7所示,根据一实施例,假设像素的将被校正的运动向量定位于已内插帧frmn+α的位置P1。这样,运动向量选择单元606可从运动向量场MF3frm(MV,n-1)或MF3frm(MV,n)选择候选运动向量,其中,所述候选运动向量定位于相应于位置P1的位置。请参考图7,由于位置P1定位于已覆盖区域702中,因此从运动向量场MF3frm(MV,n)选择运动向量MV3z并且设定运动向量MV3z为将被校正的运动向量。相应的,运动向量选择单元606决定相应的运动向量对MV3a与MV3b的方向为运动向量MV3z的方向。
如图8所示,根据另一实施例,当像素的将被校正的运动向量定位于未覆盖区域804中的位置P2时,随后从运动向量场MF3frm(MV,n-1)选择另一运动向量MV3z并且设定运动向量MV3z为将被校正的运动向量。因此,运动向量选择单元606决定相应的运动向量对MV3a与MV3b的方向为另一运动向量MV3z的方向。
接着,三个运动向量MV3z、MV3a以及MV3b通过运动向量校正单元608。结果,运动向量校正单元608根据三个运动向量MV3z、MV3a以及MV3b将已覆盖区域702或未覆盖区域804的运动向量MV3z校正为新的运动向量MVCRCT。因为运动向量校正单元608的操作与图1中运动向量校正单元108的操作相同,因此为简略不再描述。
进一步需要注意的是,当指定已内插帧frmn+α的已估测运动向量将被校正时,图6中运动向量选择单元606也可根据已指定的运动向量分别从运动向量场624与626选择两个候选运动向量。也就是说,两个候选运动向量分别定位于相应于已指定的运动向量的位置的位置。之后,内插两个候选运动向量以产生运动向量MV3z用于进一步校正。
图9为根据本发明一实施例的运动向量校正方法的流程图。
请参考图1、图6以及图9,接收到视频序列110后,三帧运动估测单元104或604基于视频序列110估测先前运动向量场MF3frm(MV,n-1)与后续运动向量场MF3frm(MV,n)(步骤S902)。如图2所示,利用两个运动向量场MF3frm(MV,n-1)与MF3frm(MV,n)协助两个按时间顺序的帧frmn-1与frmn之间的已内插帧frmn+α的估测。
根据函数(2),基于第一帧frmn、第二帧frmn-1以及超前于第二帧frmn-1的第三帧frmn-2决定运动向量场MF3frm(MV,n-1)。另外,根据函数(3),基于第一帧frmn、第二帧frmn-1以及第一帧frmn之后的第四帧frmn+1决定运动向量场MF2frm(MV,n)。上面的描述中,四个帧frmn-2、frmn-1、frmn以及frmn+1可代表视频序列110中的连续帧或具有一定时间间隔的离散帧。
接着,当指定了定位于已内插帧frmn+α的位置的像素的已估测运动向量将被校正,则根据像素的位置决定相关于两个按时间顺序的帧frmn-1与frmn的参考运动向量组(步骤S904)。
根据一实施例,可通过基于像素的位置从中间运动向量场122(例如函数(1)中的运动向量场MF2frm(MV,n+α))选择候选运动向量来决定参考运动向量组。也就是说,候选运动向量定位于相应于像素的位置的位置。设定候选运动向量(例如图4的已覆盖区域202中的运动向量MV2)为已估测运动向量用于进一步校正。
根据另一实施例,可通过两个三帧运动估测量MF3frm(MV,n-1)与MF3frm(MV,n)而不需要任何双帧运动估测量(例如双帧运动估测量MF2frm(MV,n+α)来决定参考运动向量组。在一种情况下,可从运动向量场MF3frm(MV,n-1)与MF3frm(MV,n)其中之一选择候选运动向量。同样,候选运动向量定位于相应于像素的位置的位置。设定候选运动向量(例如定位于图7中所示已覆盖区域702中的位置P1的运动向量MV3z)为已估测运动向量用于进一步校正。在另一种情况下,也可将分别来自运动向量场MF3frm(MV,n-1)与MF3frm(MV,n)的两个候选运动向量进行内插以产生运动向量,并设定运动向量为已估测运动向量用于进一步校正。
当设定将被校正的已估测运动向量(例如图4中的运动向量MV2)之后,通过分别从运动向量场MF3frm(MV,n-1)与MF3frm(MV,n)选择相应的运动向量对来决定参考运动向量组。如前所述,决定相应的运动向量对的方向为运动向量MV2的方向。在图4所述例子中,基于沿着运动向量MV2的方向扩展的一条线,随即从运动向量场MF3frm(MV,n-1)与MF3frm(MV,n)决定相应的运动向量对MV3a与MV3b。
接下来,图1中运动向量校正单元108在相应的运动向量对MV3a与MV3b之间获得一致性程度(步骤S906)。举例来说,运动向量校正单元108根据默认阈值决定运动向量MV3a与MV3b是否一致。请注意,由于一致性的检查操作已经于前述实施例中提及,因此为省略不再赘述。
根据运动向量MV3a与MV3b之间的运动一致性程度,分别采用相关于参考运动向量的多个加权因子用于校正已内插帧frmn+α的已估测运动向量(步骤S908)。如图4实施例所述,分别分配多个加权因子至运动向量MV2、MV3a以及MV3b用于校正运动向量MV2。更具体的,当运动向量MV3a与运动向量MV3b不一致时,则将运动向量MV3a与运动向量MV3b都通过相对低的加权因子或值为零的加权因子进行加权。另一方面,当运动向量MV3a与运动向量MV3b一致时,则运动向量MV3a与运动向量MV3b作为可靠参考以校正运动向量MV2。
最后,根据具有各自加权因子的参考运动向量组(例如图4中参考向量MV2、MV3a以及MV3b)校正已估测运动向量(例如图4的已覆盖区域202中的运动向量MV2)(步骤S910)。接着根据已校正运动向量(例如图4中运动向量MVCRCT)执行帧frmn与frmn-1的运动补偿内插以产生已内插帧frmn+α而在快速运动目标的边缘处不会出现或出现很少的光环假影。
上述的实施例仅用来例举本发明的实施态样,以及阐释本发明的技术特征,并非用来限制本发明的范畴。任何所属技术领域技术人员可依据本发明的精神轻易完成的改变或均等性的安排均属于本发明所主张的范围,本发明的权利范围应以权利要求为准。
Claims (17)
1.一种运动向量校正方法,用于校正像素的已估测运动向量,所述像素位于视频序列的第一帧与第二帧之间的已内插帧,所述运动向量校正方法包括:
估测先前运动向量场与后续运动向量场,其中,基于所述第一帧、所述第二帧以及所述第二帧之前的第三帧估测所述先前运动向量场,基于所述第一帧、所述第二帧以及所述第一帧之后的第四帧估测所述后续运动向量场;
决定相关于所述第一帧与所述第二帧的参考运动向量组用于所述像素的位置,其中所述参考运动向量组包括第一运动向量与相应的运动向量对,并且设定所述第一运动向量为已估测运动向量,所述相应的运动向量对分别来自所述先前运动向量场与所述后续运动向量场;
在所述相应的运动向量对之间获得一致性程度;
根据所述一致性程度采用多个加权因子,其中所述多个加权因子分别相关于所述参考运动向量组,并且当所述相应的运动向量对一致时,使得所述第一运动向量的加权因子小于所述相应的运动向量对的加权因子,以及当所述相应的运动向量对不一致时,使得所述第一运动向量的加权因子大于所述相应的运动向量对的加权因子;以及
根据采用的所述多个加权因子与所述参考运动向量组校正所述已估测运动向量。
2.根据权利要求1所述的运动向量校正方法,其特征在于,通过从所述先前运动向量场或所述后续运动向量场选择候选运动向量来决定设定为所述已估测运动向量的所述第一运动向量,并且所述候选运动向量定位于与所述像素的位置相应的位置。
3.根据权利要求1所述的运动向量校正方法,其特征在于,通过从所述先前运动向量场与所述后续运动向量场内插两个候选运动向量来决定设定为所述已估测运动向量的所述第一运动向量,并且所述两个候选运动向量分别定位于与所述像素的位置相应的位置。
4.根据权利要求1所述的运动向量校正方法,其特征在于,根据候选运动向量决定设定为所述已估测运动向量的所述第一运动向量,并且所述候选运动向量定位于与所述像素的位置相应的位置,其中所述候选运动向量来自于基于所述第一帧与所述第二帧而进行估测的中间运动向量场。
5.根据权利要求1所述的运动向量校正方法,其特征在于,获得所述一致性程度的步骤包括:
根据预设阈值决定所述相应的运动向量对是否一致。
6.根据权利要求1所述的运动向量校正方法,其特征在于,通过所述第一运动向量与具有各自的加权因子的所述相应的运动向量对的加权和来矫正所述已估测运动向量。
7.根据权利要求1所述的运动向量校正方法,其特征在于,由所述相应的运动向量对中具有更大加权因子的运动向量替代所述已估测运动向量。
8.根据权利要求5所述的运动向量校正方法,其特征在于,通过将所述预设阈值与所述相应的运动向量对之间的差的绝对值进行比较来决定所述相应的运动向量对是否一致。
9.根据权利要求1所述的运动向量校正方法,其特征在于,所述第一帧、所述第二帧、所述第三帧以及所述第四帧为所述视频序列中的连续帧或者为所述视频序列中的按时间顺序的离散帧。
10.一种运动向量校正装置,用于校正像素的已估测运动向量,所述像素位于视频序列的第一帧与第二帧之间的已内插帧,所述运动向量校正装置包括:
三帧运动估测单元,用于估测先前运动向量场与后续运动向量场,其中,基于所述第一帧、所述第二帧以及所述第二帧之前的第三帧估测所述先前运动向量场,基于所述第一帧、所述第二帧以及所述第一帧之后的第四帧估测所述后续运动向量场;
运动向量选择单元,耦接于所述三帧运动估测单元,并且用于决定相关于所述第一帧与所述第二帧的参考运动向量组用于所述像素的位置,其中所述参考运动向量组包括第一运动向量与相应的运动向量对,其中设定所述第一运动向量为所述已估测运动向量,并且所述相应的运动向量对分别来自所述先前运动向量场与所述后续运动向量场;以及
运动向量校正单元,耦接于所述运动向量选择单元,所述运动向量校正单元用于在所述相应的运动向量对之间获得一致性程度,并且根据所述一致性程度采用分别相关于所述参考运动向量组的多个加权因子,以及根据采用的所述多个加权因子与所述参考运动向量组校正所述已估测运动向量,
其中当所述相应的运动向量对一致时所述运动向量校正单元使得所述第一运动向量的加权因子小于所述相应的运动向量对的加权因子,以及当所述相应的运动向量对不一致时所述运动向量校正单元使得所述第一运动向量的加权因子大于所述相应的运动向量对的加权因子。
11.根据权利要求10所述的运动向量校正装置,其特征在于,所述运动向量选择单元通过从所述先前运动向量场或所述后续运动向量场选择候选运动向量来决定设定为所述已估测运动向量的所述第一运动向量,并且所述候选运动向量定位于与所述像素的位置相应的位置。
12.根据权利要求10所述的运动向量校正装置,其特征在于,所述运动向量选择单元通过将来自所述先前运动向量场与所述后续运动向量场的两个候选运动向量进行内插,来决定设定为所述已估测运动向量的所述第一运动向量,并且所述两个候选运动向量分别定位于与所述像素的位置相应的位置。
13.根据权利要求10所述的运动向量校正装置,其特征在于,进一步包括:
双帧运动估测单元,用于基于所述第一帧与所述第二帧估测中间运动向量场;
其中所述运动向量选择单元根据来自所述中间运动向量场的候选运动向量决定设定为所述已估测运动向量的所述第一运动向量,并且所述候选运动向量定位于与所述像素的位置相应的位置。
14.根据权利要求10所述的运动向量校正装置,其特征在于,所述运动向量校正单元通过根据预设阈值决定所述相应的运动向量对是否一致来获得所述一致性程度。
15.根据权利要求10所述的运动向量校正装置,其特征在于,通过所述第一运动向量与利用各自的加权因子的所述相应的运动向量对的加权和来矫正所述已估测运动向量。
16.根据权利要求10所述的运动向量校正装置,其特征在于,由所述相应的运动向量对中具有更大加权因子的运动向量替代所述已估测运动向量。
17.根据权利要求14所述的运动向量校正装置,其特征在于,通过将所述预设阈值与所述相应的运动向量对之间的差的绝对值进行比较来决定所述相应的运动向量对是否一致。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/437,693 US8254439B2 (en) | 2009-05-08 | 2009-05-08 | Apparatus and methods for motion vector correction |
US12/437,693 | 2009-05-08 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101883278A CN101883278A (zh) | 2010-11-10 |
CN101883278B true CN101883278B (zh) | 2015-01-21 |
Family
ID=43055152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201010104986.9A Active CN101883278B (zh) | 2009-05-08 | 2010-02-03 | 运动向量校正装置及其方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8254439B2 (zh) |
CN (1) | CN101883278B (zh) |
TW (1) | TWI410895B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011061273A (ja) * | 2009-09-07 | 2011-03-24 | Sony Corp | 動きベクトル算出装置、動きベクトル算出方法およびプログラム |
JP5863273B2 (ja) * | 2011-05-02 | 2016-02-16 | キヤノン株式会社 | 画像処理装置、制御方法及びプログラム |
JP5995522B2 (ja) * | 2011-05-31 | 2016-09-21 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
JP2012253492A (ja) * | 2011-06-01 | 2012-12-20 | Sony Corp | 画像処理装置、画像処理方法、及びプログラム |
GB201113527D0 (en) * | 2011-08-04 | 2011-09-21 | Imagination Tech Ltd | External vectors in a motion estimation system |
US9148622B2 (en) * | 2011-12-29 | 2015-09-29 | Hong Kong Applied Science and Technology Research Institute Company, Limited | Halo reduction in frame-rate-conversion using hybrid bi-directional motion vectors for occlusion/disocclusion detection |
WO2013137890A1 (en) * | 2012-03-15 | 2013-09-19 | Intel Corporation | Hierarchical motion estimation employing nonlinear scaling and adaptive source block size |
KR101908388B1 (ko) * | 2012-07-19 | 2018-10-17 | 삼성전자 주식회사 | 폐색 영역 복원 장치, 폐색 영역을 복원하는 비디오 디코딩 장치 및 폐색 영역 복원 방법 |
KR101977802B1 (ko) * | 2012-10-10 | 2019-05-13 | 삼성전자주식회사 | 영상 시스템에서 움직임 추정 장치 및 방법 |
GB2521491B (en) * | 2014-06-17 | 2016-10-19 | Imagination Tech Ltd | Motion estimation |
CN104811723B (zh) * | 2015-04-24 | 2018-03-16 | 宏祐图像科技(上海)有限公司 | Memc技术中局部运动矢量修正方法 |
EP3550834A1 (en) * | 2018-04-06 | 2019-10-09 | Comcast Cable Communications LLC | Encoding of video cross-fades using weighted inter-prediction |
US11025947B2 (en) * | 2018-11-29 | 2021-06-01 | Mediatek Inc. | Method and apparatus for generating motion field motion vectors for blocks of current frame in on-the-fly manner |
CN110062243B (zh) * | 2019-04-23 | 2020-12-11 | 清华大学深圳研究生院 | 一种基于近邻优化的光场视频运动估计方法 |
WO2024020825A1 (en) * | 2022-07-27 | 2024-02-01 | Qualcomm Incorporated | Block searching procedure for motion estimation |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5317397A (en) * | 1991-05-31 | 1994-05-31 | Kabushiki Kaisha Toshiba | Predictive coding using spatial-temporal filtering and plural motion vectors |
CN1853416A (zh) * | 2003-09-17 | 2006-10-25 | 皇家飞利浦电子股份有限公司 | 运动矢量场的再定时 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5936671A (en) * | 1996-07-02 | 1999-08-10 | Sharp Laboratories Of America, Inc. | Object-based video processing using forward-tracking 2-D mesh layers |
TW421965B (en) * | 1999-03-26 | 2001-02-11 | Ind Tech Res Inst | Motion vector correction system and method of video transform encoding |
US7450641B2 (en) * | 2001-09-14 | 2008-11-11 | Sharp Laboratories Of America, Inc. | Adaptive filtering based upon boundary strength |
JP4151422B2 (ja) * | 2003-01-23 | 2008-09-17 | セイコーエプソン株式会社 | 画像生成装置、画像生成方法および画像生成プログラム |
US7536031B2 (en) | 2003-09-02 | 2009-05-19 | Nxp B.V. | Temporal interpolation of a pixel on basis of occlusion detection |
-
2009
- 2009-05-08 US US12/437,693 patent/US8254439B2/en active Active
-
2010
- 2010-01-27 TW TW099102217A patent/TWI410895B/zh not_active IP Right Cessation
- 2010-02-03 CN CN201010104986.9A patent/CN101883278B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5317397A (en) * | 1991-05-31 | 1994-05-31 | Kabushiki Kaisha Toshiba | Predictive coding using spatial-temporal filtering and plural motion vectors |
CN1853416A (zh) * | 2003-09-17 | 2006-10-25 | 皇家飞利浦电子股份有限公司 | 运动矢量场的再定时 |
Also Published As
Publication number | Publication date |
---|---|
US8254439B2 (en) | 2012-08-28 |
TWI410895B (zh) | 2013-10-01 |
TW201108159A (en) | 2011-03-01 |
US20100284627A1 (en) | 2010-11-11 |
CN101883278A (zh) | 2010-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101883278B (zh) | 运动向量校正装置及其方法 | |
US8340186B2 (en) | Method for interpolating a previous and subsequent image of an input image sequence | |
JP4220284B2 (ja) | フレーム補間方法、装置及びこれを用いた画像表示システム | |
JP3640257B2 (ja) | 動画像の画素を分類して画素の動きベクトルの予測フィールドを決定する方法 | |
US7936950B2 (en) | Apparatus for creating interpolation frame | |
US6614484B1 (en) | Deinterlacing method for video signals based on edge-directional interpolation | |
US20050232357A1 (en) | Motion vector estimation at image borders | |
EP1736929A2 (en) | Motion compensation error detection | |
US20090208123A1 (en) | Enhanced video processing using motion vector data | |
US20100271554A1 (en) | Method And Apparatus For Motion Estimation In Video Image Data | |
TW200945904A (en) | Image interpolation with halo reduction | |
US8358878B2 (en) | Method and apparatus for interpolating an image | |
CN101331765A (zh) | 基于状态机的反向电视电影处理算法 | |
US8355442B2 (en) | Method and system for automatically turning off motion compensation when motion vectors are inaccurate | |
KR20050061556A (ko) | 고장시 조치를 갖는 이미지 처리 유닛 | |
KR20060083978A (ko) | 움직임 벡터 필드 리-타이밍 | |
US20040091046A1 (en) | Method and system for video sequence real-time motion compensated temporal upsampling | |
TWI407776B (zh) | 影像產生裝置、靜態文字偵測裝置及相關方法 | |
US9270870B2 (en) | Motion estimation with variable spatial resolution | |
CN102939747A (zh) | 用于运动补偿的视频内插的方法和装置 | |
US20080239144A1 (en) | Frame rate conversion device and image display apparatus | |
US20020001347A1 (en) | Apparatus and method for converting to progressive scanning format | |
JP2012034327A (ja) | フレーム補間装置及び方法、並びにプログラム及び記録媒体 | |
EP1885132A2 (en) | Interpolation frame generating method and interpolation frame generating apparatus | |
EP1849300B1 (en) | Conversion of video data from interlaced to non-interlaced format |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220225 Address after: ottawa Patentee after: Xueshan Technology Co.,Ltd. Address before: China Taiwan Hsinchu Science Park Hsinchu city Dusing a road No. Patentee before: MEDIATEK Inc. |