CN101422047A - 图像边界处的运动估计 - Google Patents

图像边界处的运动估计 Download PDF

Info

Publication number
CN101422047A
CN101422047A CNA2007800134305A CN200780013430A CN101422047A CN 101422047 A CN101422047 A CN 101422047A CN A2007800134305 A CNA2007800134305 A CN A2007800134305A CN 200780013430 A CN200780013430 A CN 200780013430A CN 101422047 A CN101422047 A CN 101422047A
Authority
CN
China
Prior art keywords
image
block
motion vector
match
match block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2007800134305A
Other languages
English (en)
Other versions
CN101422047B (zh
Inventor
马可·K·博斯马
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN101422047A publication Critical patent/CN101422047A/zh
Application granted granted Critical
Publication of CN101422047B publication Critical patent/CN101422047B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/55Motion estimation with spatial constraints, e.g. at image or region borders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)
  • Television Systems (AREA)

Abstract

提供图像信号内的估计运动矢量以获得健壮的运动矢量,所述方法是通过以下步骤予以实现的:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,然后基于至少移位后的当前块和移位后的匹配块,计算候选运动矢量;以及对至少当前块和匹配块进行移位,以使该匹配块位于图像的有效区域之内。

Description

图像边界处的运动估计
技术领域
本专利申请大体涉及改进的有效图像边界处的运动估计。
背景技术
随着视频处理领域中新技术的出现,运动补偿视频算法对于高质量视频处理而言不仅十分必要,价格也日趋合理。为了提供高质量的视频处理,提供了不同的运动补偿应用。各种应用,如用于降低噪声的运动补偿(MC)滤波、用于编码的MC预测、用于将隔行格式转换为逐行格式的MC去隔行、或MC图像速率(picture rate)转换已为人们所熟知。在帧速率转换时,计算原始输入帧间的新视频帧。在不采用运动补偿的情况下,必须对帧进行重复或混合,后者导致非流动的运动(称作运动画面颤动)或模糊(fuzziness)。上述应用均受益于运动估计(ME)算法,对于运动估计已有多种方法为人们所熟知。例如,递归运动估计算法利用一组候选运动矢量的集合。这些候选运动矢量用于计算不同时刻内像素块之间的匹配误差。可以从矢量集合中选择提供最小匹配误差的候选运动矢量,将其作为用于进一步处理的运动矢量。
然而,在有效视频信号的边界附近,特定的候选运动矢量可能导致匹配区域之一至少部分地处于有效视频区域之外,因此无法计算匹配误差。例如,在屏幕的左或右边缘/顶部或底部,仅仅可以估计垂直/水平运动矢量的匹配误差。
根据现有技术,通过不对与图像边缘最接近的块做运动估计的方式,来解决该问题。取而代之,从离边缘较远的空间上相邻的块复制与图像边缘最接近的块的运动矢量。
例如,当将不作运动估计的边界的宽度确定为例如n*(8 x 8)个块时,对其计算匹配误差(SAD)的图像中的第一个块为SAD(n*8,n*8)。当候选运动矢量具有大于n*8的绝对值v时,由于下一帧中匹配区域中的某些像素的值可能会在有效图像区域之外,因此无法计算这些像素的值。在上述情况下,如果无法对正确矢量计算匹配误差,则根据现有技术将会选择可以对其计算匹配误差的另一(错误)矢量。在许多情况下,该矢量将是零矢量。
在传统电视中,将对其估计出错误运动矢量的、不在有效区域内的块通常刚好处于过扫描区域内,并因此是不可见的。然而,由于不正确的运动矢量,以及运动矢量突变的缘故,在PC屏幕以及其他无过扫瞄区域的(矩阵)屏幕上,将会出现伪影。此外,这些错误矢量被用作空间上相邻的块的候选运动矢量。由于3D-RS算法本质上倾向于选择一致性运动场,所以这些错误的候选运动矢量还会影响其他块的可靠性,在具有极少细节和/或低对比度的、匹配误差对于所有候选运动矢量都较低的区域中尤其如此。
发明内容
因此,本专利申请的目的是,提供在图像边界处具有改进的估计结果的运动估计。本专利申请的另一个目的是,提供在图像边界处可靠的运动估计。本专利申请的另一个目的是,提供在图像边界处的健壮的运动估计。
为了克服这些问题中的一个或多个,本申请根据一个方面提供了一种用于确定图像信号内的估计运动矢量的方法,所述方法包括:为信号图像内的至少一当前块创建至少一个候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对至少所述当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
根据本发明实施例的信号可以是任意图像序列,例如视频序列。信号内的图像可以由像素构成。像素可以是描述图像特定部分的亮度和色度的图像元素。可以将图像内的多个相邻像素理解为像素块。
图像内的元素常在数帧内发生运动。元素的运动可以用运动向量加以描述。运动矢量可以描述特定像素或像素块的运动方向和速度。
可以将运动估计理解为计算运动概率。可以使用运动估计来计算最有可能描述图像中实际运动的运动矢量。利用这些运动矢量,能够预测后继帧的图像。估计运动矢量还可用于对隔行扫描图像进行去隔行。
候选运动矢量可以是一组描述像素或像素块的可能运动的可能矢量的集合。该候选运动矢量集可用于确定最符合图像内实际运动的估计运动矢量。可能需要运动估计的应用有,例如,诸如去隔行和时间上变换、计算机视觉应用以及视频压缩之类的高质量视频格式转换算法。
本专利申请使得还可以,针对可导致匹配区域之一至少部分地处于图像的有效区域之外的候选运动矢量,计算有效视频信号边界附近的匹配误差。为了为匹配误差的计算提供有效像素值,可以为匹配块和/或当前块给出偏移量,以便两个匹配块在移位后都完全处于有效视频区域内。使用移位后的块的像素值计算匹配误差。
必须注意的是,所述移位可以仅应用于块,而不应用于值。换句话说,对考虑用于计算匹配误差的块的区域进行移位。对于匹配误差的实际计算,使用了位于移位后区域中的像素的像素值。还应注意的是,这种移位不改变运动矢量。将以这种方式计算出的匹配误差用作与边缘最接近的像素块的正确的匹配误差,对于所述与边缘最接近的像素块,可以计算出该矢量的匹配误差。甚至可以以这种方式计算有效视频区域的第一个和最后一个块的矢量集合的匹配误差。
应当注意的是,图像中的当前块可以是信号的输入图像内的像素块。在这种情况下,匹配块可位于时间上相邻的(例如前一和后一)图像内。然而,也可以将图像中的当前块理解为需要基于前一和后一图像进行估计的图像内的块。此时,当前块的图像不需要存在于输入信号中。在上变换中,可以使用这种当前块。
本发明实施例提出了根据权利要求2所述的确定匹配块。可以将两个匹配块用于从一组多个候选运动矢量集中计算出正确的运动矢量。可以删除当前块而仅使用两个匹配块。可以针对匹配块内的像素值计算每个候选运动矢量的误差度量。一旦一个块位于图像的有效区域之外,就可以将匹配块的区域移动一偏移量,以便对在有效图像区域内的像素中的有效像素值进行误差度量计算。
已发现,根据权利要求3所述的对块进行移位是优选的。可以以相同的值(如移位矢量)对两个匹配块和当前块进行移位,以便所有块都处于活动图像区域内。在匹配块处于有效图像区域的右侧之外的情况下,偏移量值可以是负的,而在匹配块处于有效图像区域的左侧之外的情况下,偏移量值可以是正的。
根据权利要求4所述的对块进行移位是优选的。以这种方式,可以基于在空间上被认为与当所有块都处于有效图像区域内时所使用的像素最接近的像素块计算匹配误差。通过以某一偏移量对匹配块进行移位的方式,基于与在不移位情况下所使用的块最近的匹配块,计算匹配误差,其中所述偏移量优选情况下是提供位于有效区域内匹配块和当前块的、尽可能小的偏移量。
根据权利要求5或6所述的计算匹配误差是优选的。
有效图像区域可以不总是等于实际屏幕或整个视频帧。例如,黑条(black bar)(如由于宽荧幕电影中的边框(letterbox))可以使实际视频区域更小。在这些黑条处(或附近)进行估计运动可能会产生与前面相同的问题。因此,根据权利要求7所述的使用黑条检测可以很大程度地提高黑条附近运动估计的效果。
根据权利要求8,候选运动矢量可以描述搜索区域内像素的可能位移。这种位移可以是沿x方向和y方向。矢量可以通过其x和y分量来描述运动方向。通过矢量的绝对值描述运动速度。
根据权利要求9,使用空间和/或时间预测来创建至少两个候选运动矢量。例如,在提供扫描图像线的扫描图像中,因果性限制了空间预测在尚未发送的图像块中的使用。取而代之,可以使用时间预测。
误差准则可以是根据权利要求10所述的准则。
本申请的另一个方面是一种计算机程序,用于确定图像信号内的估计运动矢量,所述程序包括若干指令,所述指令操可用于使处理器:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
本申请的另一个方面是一种计算机程序产品,用于确定图像信号内的估计运动矢量,所述程序包括若干指令,所述指令可用于使处理器:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
此外,本申请的另一个方面是一种显示设备,包括:接收机,被配置用于接收视频信号;以及运动估计单元,包括:候选运动矢量检测单元,被配置用于为信号图像内的至少一当前块检测候选运动矢量;匹配单元,被配置用于为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测单元,被配置用于检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及移位单元,被配置用于对所述至少当前块和该匹配块进行移位,以使该匹配块位于图像的有效区域之内。
参考以下实施例对本发明的这些和其他方面进行阐述,将使其变得更加清晰。
附图说明
在附图中示出了:
图1示出了块匹配方法;
图2A和B示出了一组递归搜索块匹配器的候选运动矢量集合;
图3示出了根据本发明实施例的流程图;
图4示出了根据本发明实施例的设备;以及
图5示出了根据本发明实施例的利用了块移位的块匹配方法。
具体实施方式
如以下将更详细地示出的那样,可以将所谓的3D递归搜索算法用于快速运动估计。在该算法中,通过使匹配误差(例如对于候选运动矢量集合而言两个像素块间的绝对误差和(SAD))最小,来进行运动估计。在常用的实现中,将8x8像素块用于块匹配。在图1中将更详细地描述块匹配。对于每个像素块,可以估计出多个候选运动矢量。这些候选运动矢量是通过相邻块的最佳匹配矢量获得的。在同一次运动估计中已经对这些块中的一部分进行了处理,并将得到的运动矢量称为空间候选运动矢量,而在本次运动估计中,尚未计算其他的块,因此它们包含前一次运动估计的运动矢量。由这些块产生的运动矢量被称作时间候选运动矢量。图2中示出了可能的候选运动矢量。除空间/时间候选运动矢量以外,还估计出了某些额外的矢量:零矢量以及一个或多个更新矢量。更新矢量是通过将(较小的)半随机偏移矢量(offset vector)与空间和/或时间候选运动矢量相加的方式获得的。当应用图1所示的块匹配时,匹配块可能位于图像的有效区域之外。正如将参考图3至5予以更详细的描述的那样,在这种情况下,应用块移位。
图1示出了视频流中图像102的时刻n-1、n、n+1。对于运动估计,使用候选运动矢量105来计算例如当前图像n中的块104、前一图像n-1中的匹配块110与后一图像n+1内的匹配块108之间的匹配值。在搜索区域106内,选择匹配块108、110。可以通过选择产生最小匹配误差的最佳候选运动矢量
Figure A200780013430D0010154303QIETU
 105的方式,优化相关度,即块104、108、110内像素值之间的匹配误差。由此,可以测试不同的候选运动矢量
Figure A200780013430D0010154303QIETU
105,得到匹配块108、110的不同位置,从而可能产生不同的匹配误差。可以选择产生最小匹配误差的候选运动矢量,将其作为估计运动矢量。
在块匹配器中搜索最小匹配误差是一个可以采用许多方案的二维优化问题。一种可能的是实现是使用三步块匹配器、2维对数、或交叉搜索法、或一步一次搜索(one-at-a-time-search)的块匹配。在G.deHaan的“Progress in Motion Estimation for Consumer Video FormatConversion”,IEEE transactions on consumer electronics,vol.46,no.3,August 2000,pp.449-459中公开了不同的块匹配策略。
一种可能的最优化策略的实现可以是3维递归搜索块匹配器(3DRS)。3D RS说明:对于比块大的对象,最佳候选运动矢量可能出现在像素或块的空间和/或时间邻域中。
为了确定块104的估计运动矢量可以采用误差度量
Figure A200780013430D00112
估计各候选运动矢量
Figure A200780013430D00113
如图2a所示,假定扫描方向为从左到右和从上到下,因果性限制了对当前块Dc104右下方的块Ds的空间候选矢量的使用。相反,需要使用根据时间上的后继块Dt得到的时间预测矢量。对于当前块Dc,在搜索区域106内,空间预测矢量可从块Ds获得,时间预测矢量可从块Dt获得。由于仅已被扫描的块可用于当前块Dc的空间预测,所以只能以块Ds进行空间预测。由于可以从搜索区域105的前一时刻获得关于块Dt信息,所以可以利用块Dt进行时间预测。
已发现在搜索范围内估计所有可能的矢量没有意义。对取自空间相邻块矢量进行估计可能已经足够了,所述空间相邻块如下所示:
CS ( X → , n ) = { C → ∈ CS max | C → = D → ( X → + iX jY , n } ,
i,j=-1,0,+1
其中,CSmax被定义为一组候选矢量
Figure A200780013430D00115
集,这组候选矢量描述了在前一图像搜索区域
Figure A200780013430D00116
内关于
Figure A200780013430D00117
的所有可能的(像素网格上的整数或非整数)位移,
CS max = { C → | - N ≤ C x ≤ + N , - M ≤ C y ≤ + M } ,
其中n和m是限制
Figure A200780013430D00119
的常数。为了减小计算开销,仅对取自空间相邻块CS的矢量
Figure A200780013430D001110
进行估计就足够了。X、Y可分别定义块的宽度和高度。因果性以及实现中对流水作业的需要使得不是所有相邻块都是可用的,在初始化时,所有矢量均可为零。
为了解决矢量的可用性,当前图像中尚未计算出的那些矢量可以取自前一矢量场中的相应位置。图2a示出了在从左上到右下对块进行扫描的情况下,当前块Dc和其结果矢量被作为候选运动矢量的块Ds、Dt的相对位置。
可以通过加入更新矢量,来解决初始化时零矢量的问题。图2b中示出了从候选集中删去某些空间时间预测的一种可能的实现,其中候选集可定义为:
CS ( X → , n ) = ( D → ( X → - X Y , n ) + U → 1 ( X → , n ) ) , ( D → ( X → - - X Y , n ) + U → 2 ( X → , n ) ) , ( D → ( X → + 0 2 Y , n - 1 ) ) )
其中可以交替使用更新矢量
Figure A200780013430D00123
Figure A200780013430D00124
并且更新矢量
Figure A200780013430D00125
可取自如下的有限固定整数或非整数更新集:
US i ( X → , n ) = 0 → y → u , - y → u , x → u , - x → u , 2 y → u , - 2 y → u , 3 x → u , - 3 x → u , ,
其中 x → u = 1 0 , y → u = 0 1
一种能够描述比单纯的平移更为复杂的物体运动(如旋转或缩放)的模型,可以将图像分割为独立的物体,并为这些物体中的每个物体估计运动参数集。由于块数通常比物体数大一个数量级,所以每幅图像需要计算的运动参数得以减少。然而,计算复杂度有所增加。
由搜索块匹配过程产生的估计运动矢量
Figure A200780013430D001210
是使至少一个误差函数
Figure A200780013430D001211
产生最小值的候选矢量
Figure A200780013430D001212
。这可以用下式表示:
D → ( X → , n ) = arg min C → ∈ CS max ( ϵ ( C → , X → , n ) )
通常,可以将具有最小匹配误差的估计矢量
Figure A200780013430D001214
分配给当前块104中的所有位置
Figure A200780013430D001215
以进行运动补偿。
给定的候选运动矢量
Figure A200780013430D001216
的误差值可以是:当前块104以及匹配块(即前一匹配块110或后一匹配块108)中的像素的亮度值的函数在整个块104、108、110上的和。误差值还可以是像素值的任意其他函数,并可以被表示为代价函数的和:
ϵ ( C → , X → , n ) = Σ x → ∈ B ( X → ) ( F ( x → , n ) F ( x → - C → , n - p ) ) ,
其中,对于非隔行信号通常选择p=1,而对于隔行信号一般选择p=2。一个可能的误差函数可以是绝对误差和(SAD)标准。例如,当使用前一图像n-1(P)和后一图像n+1(N),为候选运动矢量
Figure A200780013430D00131
计算匹配误差时,可以按下式计算SAD:
SAD ( C → , X → ) = Σ x → ∈ B ( X → ) | P ( x → + C → ) - N ( x → - C → ) |
其中,是匹配块110内像素的亮度值,
Figure A200780013430D00134
是匹配块108内像素的亮度值。当候选运动矢量
Figure A200780013430D00135
是二维矢量 C → = v x v y 时,SAD可以为:
SAD ( C → , X → ) = Σ x → ∈ B ( X → ) | P ( x i + v x , y i + v y ) - N ( x i - v x , y i - v y ) |
已经解释了从一组候选运动矢量集中选择估计运动矢量的一般方法,接下来将要描述在匹配块位于图像的有效区域之外的情况下,如何计算估计运动矢量。
图3是一副流程图,示出了根据本发明的实施例的方法300。可以利用图4所示的设备执行图3中所示的方法300。
显示设备400包括接收机402。将输入至接收机402的输入信号转发至运动估计单元404。运动估计单元404包括:候选运动矢量检测单元406、检测单元408、移位单元410、匹配单元412和输出单元414。运动估计单元404可以用硬件(HW)和/或软件(SW)予以实现。就软件实现而言,当在显示设备400的处理单元中执行存储在计算机可读介质上的软件代码时,该软件代码就可以实现所述功能。
参考图3和图5,按以下方式操作显示设备400。
在接收机402处接收到输入信号之后,将该输入信号转发至运动估计单元404。在运动估计单元104中,为实现运动估计对输入信号进行处理。在运动估计期间,为输入图像内的多个块估计运动矢量,以便用于进一步的处理。为了估计运动矢量,在第一步骤302中,选择当前块。可以对每幅图像内的所有块执行步骤302-318。
对于该当前块,在候选运动矢量检测单元内选择(304)候选运动矢量集。这一步骤可以按图2所示的方式来实现。
在选择了当前块(302)和候选运动矢量集(304)之后,在检测单元408内,为候选运动矢量中的每一个矢量确定(306)前一匹配块和后一匹配块。图5针对一个运动矢量示出了这一步骤。对于当前块504,估计运动矢量集中的所有候选运动矢量505。在所示示例中,运动矢量505使得,前一匹配块510位于当前块504的左侧,后一匹配块508位于当前块504的右侧。
在下一步骤中,在检测单元408中检测(308)图像的有效区域502。该有效区域可以是图像内的区域。图像外的区域可被认为是无效的。有效区域502还可以通过图像的水平和垂直边缘上的黑条(black bar)予以界定。可以使用黑条检测单元(未示出)来检测黑条。
在检测出图像的有效区域502处之后,可以在检测单元408内估计(310)匹配块510和/或匹配块508是否都处于有效区域502内。在匹配块508、510都处于有效区域502内的情况下,在步骤316,继续执行处理。否则,以计算块移位的方式,来继续执行处理。
通常,当例如在当前块处必须计算SAD,x=0且候选运动矢量vx>0的情况下,x-vx的最小值将等于-vx,因此,匹配块510中的对应位置将位于有效区域502之外。应当向块504、508、510提供绝对值等于vx的x方向的偏移量(Δx),以确保下一帧中的匹配区域将会在有效区域502内。类似地,当候选运动矢量的x分量小于零时,x+vx的最小值将等于vx,因此匹配块510将在有效区域之外。这就需要等于vx的绝对值的偏移量,以确保匹配区域508、510都在有效视频区域内。通常:
SAD ′ ( x , y ) = SAD ( x + Δ x , y + Δ y )
        = Σ i , j | P ( x i + Δ x + v x , y j + Δ y + v y ) - N ( x i + Δ x - v x , y j + Δ y - v y ) |
在该方程中,应当选择Δx和Δy的值以使匹配区域508、510都在有效区域502内。当匹配块510之一处于屏幕左侧之外时,Δx的值将是正的,而当匹配块508之一处于屏幕右侧之外时,Δx的值将是负的。
在所示情况下,当为当前块504估计运动矢量505时,匹配块508处于有效区域502的右侧之外。图5仅示出了匹配块504、508、510的位置,匹配块504、508、510的像素来自不同的帧n-1、n、n+1。在所示情况下,所有x-vx的值都大于有效区域502的宽度。通过将所有块向左移位(vx<Δx<0)使匹配块508刚好在有效区域502内,就可以计算匹配误差,尽管移位后的位置与当前块504以及匹配块508、510的预测位置略有不同。
在检测到(310)匹配块508部分处于有效区域502以外之后,移位单元410需要计算(312)移位值(Δx和Δy),以将匹配块508移位至有效视频区域502内。存在许多用于计算这些值的可能方案。一种方案是使Δx和Δy的绝对值最小化。在这种情况下,在其中计算匹配区域的实际块最接近于应当对其计算匹配区域的块。
然后,以由移位单元410计算出的偏移量,对两个图像中的匹配块510、508进行移位(314)。
在匹配单元412中,使用移位后的块510、508计算(316)匹配误差。按如上所述的方式进行计算。可选地,可以基于偏移矢量(即偏移量的绝对值),为匹配误差添加附加代价(extra penalty)。
在匹配单元412中,可以通过针对候选运动矢量集中的所有候选运动矢量计算出的匹配误差,选出(318)能够产生最小匹配误差的候选运动矢量,将其作为的估计运动矢量,并在输出单元414中将其输出,以进行进一步的处理。
根据本发明实施例的运动估计可应用于由视频信号进行估计运动的所有领域。在电视机中,可应用于例如自然动感技术(NaturalMotion)和运动补偿去隔行。还可以将根据本发明实施例的运动估计用于PC软件。此外,可以将其用于视频压缩。在该领域中,一般使用全搜索运动估计,而不是3D-RS。然而,本发明不依赖于使用精确的运动估计技术或在其中将结果矢量用于例如运动补偿步骤的方法。
虽然已经示出、描述并指出了应用于本发明优选实施例的本发明基本的新颖特征,但要理解的是,本领域技术人员可以在不背离本发明精神的情况下,对所述设备和方法的形式和细节作出各种省略、替换和修改。例如,在本意上十分明确的是,以基本相同的方式实现基本相同的功能以便实现相同结果的元件和/或方法步骤的所有组合都在本发明的范围之内。此外,应当认识到,结合本发明的任何公开形式或实施例所示和/或所述的结构和/或元件和/或方法步骤,都可以被并入任何其他所公开的或所说明的或所提出的形式或实施例,作为设计选择的一般情况。因此,仅以此处所附的权利要求范围所指明的那样对本发明予以限制。还应当认识到,不应将任何参考标记解释为对权利要求范围的限制。

Claims (13)

1.一种用于确定图像信号内的估计运动矢量的方法,所述方法包括以下步骤:
为图像内的至少一当前块创建至少一候选运动矢量,
为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
2.根据权利要求1所述的方法,其中,所述确定匹配块的步骤还包括:为所述当前块确定至少两个匹配块,以便第一匹配块位于时间上的前一图像之内,且第二匹配块位于时间上的后一图像之内。
3.根据权利要求1所述的方法,其中,所述移位步骤还包括:以相同的移位矢量对所述块进行移位。
4.根据权利要求2所述的方法,其中,所述移位步骤还包括:对所述至少两个匹配块和所述当前块进行移位。
5.根据权利要求1所述的方法,还包括:基于至少移位后的当前块和移位后的匹配块,为候选运动矢量计算匹配误差,以便获得估计运动矢量。
6.根据权利要求2所述的方法,还包括:基于至少两个移位后的匹配块,计算匹配误差。
7.根据权利要求1所述的方法,还包括:利用黑条检测来检测图像的有效区域。
8.根据权利要求1所述的方法,其中,所述候选运动矢量描述了搜索区域内当前块内像素的可能位移。
9.根据权利要求1所述的方法,其中,使用以下预测中的至少一种来创建候选运动矢量:
A)空间预测,
B)时间预测。
10.根据权利要求1所述的方法,其中,所述计算匹配误差的步骤包括:计算以下至少一项:
A)绝对误差和;
B)均方误差;
C)归一化互相关;
D)有效像素数。
11.一种计算机程序,用于确定图像信号内的估计运动向量,所述程序包括若干指令,所述指令可用于使处理器:
为信号图像内的至少一当前块创建至少一候选运动矢量,
为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
12.一种计算机程序产品,用于确定图像信号内的估计运动矢量,所述程序包括若干指令,所述指令可用于使处理器:
为信号图像内的至少一当前块创建至少一候选运动矢量,
为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
对所述至少当前块和所述匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
13.一种显示设备,包括:
接收机,被配置用于接收视频信号,以及
运动估计单元,包括:
候选运动矢量检测单元,被配置用于为信号图像内的至少一当前块检测候选运动矢量,
匹配单元,被配置用于为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测单元,被配置用于检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
移位单元,被配置用于对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
CN2007800134305A 2006-04-14 2007-04-10 图像边界处的运动估计方法及显示设备 Expired - Fee Related CN101422047B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP06112676 2006-04-14
EP06112676.9 2006-04-14
PCT/IB2007/051264 WO2007119198A1 (en) 2006-04-14 2007-04-10 Motion estimation at image borders

Publications (2)

Publication Number Publication Date
CN101422047A true CN101422047A (zh) 2009-04-29
CN101422047B CN101422047B (zh) 2011-01-12

Family

ID=38335705

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007800134305A Expired - Fee Related CN101422047B (zh) 2006-04-14 2007-04-10 图像边界处的运动估计方法及显示设备

Country Status (5)

Country Link
US (1) US20090316786A1 (zh)
EP (1) EP2011342B1 (zh)
JP (1) JP4997281B2 (zh)
CN (1) CN101422047B (zh)
WO (1) WO2007119198A1 (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102215387A (zh) * 2010-04-09 2011-10-12 华为技术有限公司 视频图像处理方法以及编/解码器
CN102413270A (zh) * 2011-11-21 2012-04-11 苏州希图视鼎微电子有限公司 校正边界区域运动向量的方法和装置
CN102568000A (zh) * 2010-12-31 2012-07-11 华晶科技股份有限公司 多画面中物体移动的追踪方法
CN102742272A (zh) * 2010-01-18 2012-10-17 索尼公司 用于图像处理的设备和方法以及程序
CN105657319A (zh) * 2016-03-09 2016-06-08 宏祐图像科技(上海)有限公司 Me中基于特征动态控制候选矢量惩罚值的方法及系统
CN105917650A (zh) * 2014-01-03 2016-08-31 微软技术许可有限责任公司 视频和图像编码/解码中的块向量预测
CN102812708B (zh) * 2010-04-01 2017-04-26 索尼公司 图像处理设备和方法
CN107493473A (zh) * 2011-11-08 2017-12-19 株式会社Kt 利用解码装置对视频信号进行解码的方法
US10368091B2 (en) 2014-03-04 2019-07-30 Microsoft Technology Licensing, Llc Block flipping and skip mode in intra block copy prediction
US10390034B2 (en) 2014-01-03 2019-08-20 Microsoft Technology Licensing, Llc Innovations in block vector prediction and estimation of reconstructed sample values within an overlap area
US10582213B2 (en) 2013-10-14 2020-03-03 Microsoft Technology Licensing, Llc Features of intra block copy prediction mode for video and image coding and decoding
US10785486B2 (en) 2014-06-19 2020-09-22 Microsoft Technology Licensing, Llc Unified intra block copy and inter prediction modes
US10812817B2 (en) 2014-09-30 2020-10-20 Microsoft Technology Licensing, Llc Rules for intra-picture prediction modes when wavefront parallel processing is enabled
US10986349B2 (en) 2017-12-29 2021-04-20 Microsoft Technology Licensing, Llc Constraints on locations of reference blocks for intra block copy prediction
US11109036B2 (en) 2013-10-14 2021-08-31 Microsoft Technology Licensing, Llc Encoder-side options for intra block copy prediction mode for video and image coding
US11284103B2 (en) 2014-01-17 2022-03-22 Microsoft Technology Licensing, Llc Intra block copy prediction with asymmetric partitions and encoder-side search patterns, search ranges and approaches to partitioning

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2443858A (en) * 2006-11-14 2008-05-21 Sony Uk Ltd Alias avoiding image processing using directional pixel block correlation and predetermined pixel value criteria
KR100939917B1 (ko) 2008-03-07 2010-02-03 에스케이 텔레콤주식회사 움직임 예측을 통한 부호화 시스템 및 움직임 예측을 통한부호화 방법
JP2009223722A (ja) * 2008-03-18 2009-10-01 Sony Corp 画像信号処理装置、画像信号処理方法、およびプログラム
US9001271B2 (en) * 2008-06-20 2015-04-07 Mediatek Inc. Method and related apparatus for generating interpolated frame according to spatial relationship result and temporal matching difference
DE102008054503A1 (de) 2008-12-10 2010-06-17 Trident Microsystems (Far East) Ltd. Verfahren zur Bewegungsschätzung an Bildrändern
JP2010147538A (ja) * 2008-12-16 2010-07-01 Sony Corp 画像処理装置および方法、並びにプログラム
KR101456499B1 (ko) * 2010-07-09 2014-11-03 삼성전자주식회사 움직임 벡터의 부호화 방법 및 장치, 그 복호화 방법 및 장치
GB2493755B (en) * 2011-08-17 2016-10-19 Canon Kk Method and device for encoding a sequence of images and method and device for decoding a sequence of images
US9083983B2 (en) 2011-10-04 2015-07-14 Qualcomm Incorporated Motion vector predictor candidate clipping removal for video coding
KR101818037B1 (ko) * 2011-12-13 2018-01-16 한국전자통신연구원 움직임 추정장치 및 그 방법
BR112016008044A8 (pt) 2013-10-14 2020-03-17 Microsoft Technology Licensing Llc codificador de vídeo ou imagem, decodificador de vídeo ou imagem e meio legível por computador
US10542274B2 (en) 2014-02-21 2020-01-21 Microsoft Technology Licensing, Llc Dictionary encoding and decoding of screen content
US9591325B2 (en) 2015-01-27 2017-03-07 Microsoft Technology Licensing, Llc Special case handling for merged chroma blocks in intra block copy prediction mode
WO2016197314A1 (en) 2015-06-09 2016-12-15 Microsoft Technology Licensing, Llc Robust encoding/decoding of escape-coded pixels in palette mode
US10445862B1 (en) * 2016-01-25 2019-10-15 National Technology & Engineering Solutions Of Sandia, Llc Efficient track-before detect algorithm with minimal prior knowledge
CN108810549B (zh) * 2018-06-06 2021-04-27 天津大学 一种面向低功耗的流媒体播放方法
CN111462170B (zh) * 2020-03-30 2023-08-25 Oppo广东移动通信有限公司 运动估计方法、运动估计装置、存储介质与电子设备
TWI768324B (zh) * 2020-04-16 2022-06-21 瑞昱半導體股份有限公司 影像處理方法及影像處理裝置
CN111754429B (zh) * 2020-06-16 2024-06-11 Oppo广东移动通信有限公司 运动矢量后处理方法和装置、电子设备及存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0220988A (ja) * 1988-07-08 1990-01-24 Fujitsu Ltd 動画像符号化装置における動ベクトル検出方式
GB2248361B (en) * 1990-09-28 1994-06-01 Sony Broadcast & Communication Motion dependent video signal processing
US5227878A (en) * 1991-11-15 1993-07-13 At&T Bell Laboratories Adaptive coding and decoding of frames and fields of video
US5270813A (en) * 1992-07-02 1993-12-14 At&T Bell Laboratories Spatially scalable video coding facilitating the derivation of variable-resolution images
US5412435A (en) * 1992-07-03 1995-05-02 Kokusai Denshin Denwa Kabushiki Kaisha Interlaced video signal motion compensation prediction system
GB2286500B (en) * 1994-02-04 1997-12-03 Sony Uk Ltd Motion compensated video signal processing
JP2935357B2 (ja) * 1997-06-02 1999-08-16 日本ビクター株式会社 映像信号高能率符号化装置
US20040001546A1 (en) * 2002-06-03 2004-01-01 Alexandros Tourapis Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US7224731B2 (en) * 2002-06-28 2007-05-29 Microsoft Corporation Motion estimation/compensation for screen capture video
US7440500B2 (en) * 2003-07-15 2008-10-21 Lsi Logic Corporation Supporting motion vectors outside picture boundaries in motion estimation process
EP1585326A1 (en) * 2004-03-30 2005-10-12 Matsushita Electric Industrial Co., Ltd. Motion vector estimation at image borders for frame rate conversion

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102742272A (zh) * 2010-01-18 2012-10-17 索尼公司 用于图像处理的设备和方法以及程序
US10917649B2 (en) 2010-04-01 2021-02-09 Sony Corporation Image processing device and method
US10362316B2 (en) 2010-04-01 2019-07-23 Sony Corporation Image processing device and method
CN102812708B (zh) * 2010-04-01 2017-04-26 索尼公司 图像处理设备和方法
US10609387B2 (en) 2010-04-01 2020-03-31 Sony Corporation Image processing device and method
WO2011124159A1 (zh) * 2010-04-09 2011-10-13 华为技术有限公司 视频图像处理方法以及编/解码器
CN102215387A (zh) * 2010-04-09 2011-10-12 华为技术有限公司 视频图像处理方法以及编/解码器
CN102215387B (zh) * 2010-04-09 2013-08-07 华为技术有限公司 视频图像处理方法以及编/解码器
CN102568000A (zh) * 2010-12-31 2012-07-11 华晶科技股份有限公司 多画面中物体移动的追踪方法
CN102568000B (zh) * 2010-12-31 2014-08-13 华晶科技股份有限公司 多画面中物体移动的追踪方法
TWI423170B (zh) * 2010-12-31 2014-01-11 Altek Corp 多畫面中物體移動的追蹤方法
CN107493473A (zh) * 2011-11-08 2017-12-19 株式会社Kt 利用解码装置对视频信号进行解码的方法
CN102413270A (zh) * 2011-11-21 2012-04-11 苏州希图视鼎微电子有限公司 校正边界区域运动向量的方法和装置
US10582213B2 (en) 2013-10-14 2020-03-03 Microsoft Technology Licensing, Llc Features of intra block copy prediction mode for video and image coding and decoding
US11109036B2 (en) 2013-10-14 2021-08-31 Microsoft Technology Licensing, Llc Encoder-side options for intra block copy prediction mode for video and image coding
US10390034B2 (en) 2014-01-03 2019-08-20 Microsoft Technology Licensing, Llc Innovations in block vector prediction and estimation of reconstructed sample values within an overlap area
US10469863B2 (en) 2014-01-03 2019-11-05 Microsoft Technology Licensing, Llc Block vector prediction in video and image coding/decoding
CN105917650B (zh) * 2014-01-03 2019-12-24 微软技术许可有限责任公司 视频和图像编/解码的方法、计算设备及计算机可读介质
CN105917650A (zh) * 2014-01-03 2016-08-31 微软技术许可有限责任公司 视频和图像编码/解码中的块向量预测
US11284103B2 (en) 2014-01-17 2022-03-22 Microsoft Technology Licensing, Llc Intra block copy prediction with asymmetric partitions and encoder-side search patterns, search ranges and approaches to partitioning
US10368091B2 (en) 2014-03-04 2019-07-30 Microsoft Technology Licensing, Llc Block flipping and skip mode in intra block copy prediction
US10785486B2 (en) 2014-06-19 2020-09-22 Microsoft Technology Licensing, Llc Unified intra block copy and inter prediction modes
US10812817B2 (en) 2014-09-30 2020-10-20 Microsoft Technology Licensing, Llc Rules for intra-picture prediction modes when wavefront parallel processing is enabled
CN105657319B (zh) * 2016-03-09 2018-12-04 宏祐图像科技(上海)有限公司 Me中基于特征动态控制候选矢量惩罚值的方法及系统
CN105657319A (zh) * 2016-03-09 2016-06-08 宏祐图像科技(上海)有限公司 Me中基于特征动态控制候选矢量惩罚值的方法及系统
US10986349B2 (en) 2017-12-29 2021-04-20 Microsoft Technology Licensing, Llc Constraints on locations of reference blocks for intra block copy prediction

Also Published As

Publication number Publication date
JP2009533928A (ja) 2009-09-17
WO2007119198A1 (en) 2007-10-25
CN101422047B (zh) 2011-01-12
JP4997281B2 (ja) 2012-08-08
EP2011342B1 (en) 2017-06-28
US20090316786A1 (en) 2009-12-24
EP2011342A1 (en) 2009-01-07

Similar Documents

Publication Publication Date Title
CN101422047B (zh) 图像边界处的运动估计方法及显示设备
US6487313B1 (en) Problem area location in an image signal
JP4242656B2 (ja) 動きベクトル予測方法及び動きベクトル予測装置
CN101953167B (zh) 减少光晕的图像插值
US8446524B2 (en) Apparatus and method for frame rate conversion
US20050249284A1 (en) Method and apparatus for generating motion vector in hierarchical motion estimation
US7949205B2 (en) Image processing unit with fall-back
US7321396B2 (en) Deinterlacing apparatus and method
US8374247B2 (en) Method and system for hierarchical motion estimation with multi-layer sub-pixel accuracy and motion vector smoothing
US20050180506A1 (en) Unit for and method of estimating a current motion vector
KR20100118978A (ko) 초 해상도 비디오 프로세싱을 위한 스파스 지오메트리
Tai et al. A multi-pass true motion estimation scheme with motion vector propagation for frame rate up-conversion applications
KR100942887B1 (ko) 추정된 움직임 벡터 결정 방법 및 컴퓨터 판독가능한 기록매체
EP1514241A2 (en) Unit for and method of estimating a motion vector
CN101040530B (zh) 具有视频模式检测的运动估计
US20050141615A1 (en) Motion vector estimating method and motion vector estimating apparatus using block matching process
JP5448983B2 (ja) 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20110112

Termination date: 20200410