CN100546395C - 具有基于垂直分量的运动向量校正的运动估计和补偿设备 - Google Patents

具有基于垂直分量的运动向量校正的运动估计和补偿设备 Download PDF

Info

Publication number
CN100546395C
CN100546395C CNB2004101016874A CN200410101687A CN100546395C CN 100546395 C CN100546395 C CN 100546395C CN B2004101016874 A CNB2004101016874 A CN B2004101016874A CN 200410101687 A CN200410101687 A CN 200410101687A CN 100546395 C CN100546395 C CN 100546395C
Authority
CN
China
Prior art keywords
motion vector
portrait
field
candidate blocks
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB2004101016874A
Other languages
English (en)
Other versions
CN1728832A (zh
Inventor
大塚竜志
田平孝彦
屋森章弘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Publication of CN1728832A publication Critical patent/CN1728832A/zh
Application granted granted Critical
Publication of CN100546395C publication Critical patent/CN100546395C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/112Selection of coding mode or of prediction mode according to a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Color Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种具有基于垂直分量的运动向量校正的运动估计和补偿设备,该设备避免了在运动向量估计过程中可能引入的色度分量偏差。该设备具有用于在给定隔行扫描色度亚采样的视频信号中找出运动向量的运动向量估计器。估计器通过将亮度中的绝对差值和(SAD)用作相似性度量来将参考画像中的每个候选块和原始画像中的目标块进行比较,选取最小化SAD的最佳匹配候选块,并确定其相对于目标块的位移。在此过程中,估计器给予每个候选块的SAD一个从相应的运动向量的垂直分量确定的偏移量,从而避免色度偏差。然后运动补偿器利用这样的运动向量来产生预测画像,并通过从原始画像中减去预测画像来计算预测误差。

Description

具有基于垂直分量的运动向量校正的运动估计和补偿设备
技术领域
本发明涉及运动估计和补偿设备,更具体而言,涉及用于对色度亚采样视频帧的隔行序列估计运动向量和进行运动补偿预测的运动估计和补偿设备。
背景技术
现今,在例如DVD视频和数字TV广播等领域,为了以较高质量记录或者传输大量的运动图像数据,广泛使用运动图像专家组(MPEG)的数字压缩和编码标准。MPEG标准需要使用YCbCr颜色编码方案,YCbCr颜色编码方案利用一个亮度(视亮度)分量Y和两个色度(色差)分量Cb和Cr来代表颜色。Cb给出了亮度和蓝色分量之间的差,Cr给出了亮度和红色分量之间的差。
由于人眼对颜色变化没有对强度变化敏感,所以YCbCr方案给亮度信息分配了比色度信息更宽的带宽。换言之,人们将注意到视亮度上的画质劣化,但是对颜色质量劣化更能容忍。视频编码设备在对画像进行编码时可以使色彩信息模糊,而不需担心被人眼察觉。这种减少颜色信息的处理被称为亚采样(subsampling)。就如何对给定画像的色彩分量进行亚采样而言,存在几类YCbCr颜色格式,除了其他的以外还包括4:2:2格式和4:2:0格式。
图50示出了4:2:2颜色采样格式。在四个画像元素(称为“象素”或者“像素”)的连续运行中,存在Y分量的4个8位样本和两个分别属于Cb和Cr分量的8位样本。4:2:2格式仅允许每两个像素才设置Cb和Cr然而对每单个像素都给予Y,尽管原始信号在每个像素中包含Y、Cb、和Cr的全部。换言之,两个Y样本共享单个Cb和Cr样本组。据此,包含于4:2:2颜色信号中的平均信息量仅为每个像素16位(即,Y(8)+Cb(8)或者Y(8)+Cr(8)),然而原始信号每个像素具有24比特。即,信号包含的色度信息是亮度信息的一半。
图51示出了4:2:0颜色采样格式。和上述4:2:2格式相比,画像的色度分量不仅在水平方向进行亚采样,而且在垂直方向也以因子2进行亚采样,而亮度分量保持原样。即,4:2:0格式为四个像素的框指定一对Cb和Cr。据此,颜色信号中包含的平均信息量仅为每个像素12比特(即,{Y(8)×4+Cb(8)+Cr(8)}/4)。这意味着4:2:0画像中包含的色度信息是亮度信息的四分之一。
4:2:2格式被规定为用于对数字电视信号进行演播室编码的ITU-R建议BT.601-5。典型的视频编码装置以4:2:2视频帧作为输入格式。然后,这些帧被转换成4:2:0格式以和MPEG-2主类兼容。然后,所得的4:2:0信号被施加一系列的数字视频编码技术,包括运动向量搜索、运动补偿预测、离散余弦变换(DCT)等。
视频编码器在给定的画像上进行搜索以找出每个正方块的运动向量,所述正方形部分称为宏块(macroblock)并且大小为16个像素×16行。这是通过在输入的原始画像(即,要对其进行编码的当前帧)和经选择的参考画像(即,被搜索的帧)之间进行块匹配而获得的。更具体地说,编码器将原始画像中的宏块和参考帧中预先定义的搜索窗口相比较,试图在搜索窗口中找出具有它们元素的最小绝对差值和的块。如果在搜索窗口中找出了这样的最佳匹配块,则视频编码器计算运动向量,该运动向量代表相对于最佳匹配块的位置来说当前宏块的位移。基于此运动向量,编码器创建了相应于原始宏块的预测画像。
图52示意性地示出了找出运动向量的过程。所图示的为:作为要被预测的原始画像的当前帧Fr2,以及作为要被搜索的参考画像的在先帧Fr1。当前帧Fr2包含宏块mb2(目标宏块)。针对此目标宏块进行的块匹配得到了在先帧Fr1中的类似块mb1-1,还有代表它的水平位移和垂直位移的运动向量V。按照计算得到的运动向量V偏移的此块mb1-1的像素被用作目标宏块mb2的预测值。
更具体地说,块匹配过程首先将目标宏块mb2和图52中虚线框mb1所指示的相应块mb1进行比较。如果两者不能很好地匹配,则搜索算法试图在mb1的邻近区域中找出具有近似画像图案的块。对于参考画像中的每个候选块,绝对差值和充当评估两块之间平均差的成本函数而被计算出来。这样的候选块中最小化这个度量的块被视为最佳匹配块。在本示例中,块匹配过程找到了块mb1-1作为具有相对于关心的目标宏块mb2而言最小绝对误差的块,从而估计出了图52中所图示的运动向量V。
图53示意性地示出了如何用运动补偿预测技术对视频图像进行编码。当在参考画像Fr中找出运动向量V时,此画像Fr中的最佳匹配块mb1-1在运动向量V的方向上移动了运动向量V的长度,从而创建了包含块mb1-1的移动后版本的预测画像Pr2。然后编码器比较此预测画像Pr2和当前画像Fr2,从而生成了代表预测误差的差分画像Er2。该过程被称为运动补偿预测。
图52的示例画像示出了飞机下降以着陆的远景。由于类似此示例的刚性物体的平行运动不会改变视频中物体的外观,所以运动向量V有可能进行精确预测,这指的是原始画像和移动后的画像之间没有差别。这种情况下的编码后的数据将仅为一段指示没有预测误差的信息以及运动向量的水平分量和垂直分量的组合。
另一方面,如果移动物体是例如飞行中的鸟,则由于鸟在空中飞行期间改变鸟翼的角度和形状,所以在预测画像和原始画像之间将存在一定量的误差。视频编码设备对这个预测误差应用DCT编码,从而得到非零的变换系数。通过量化和可变长编码的后继步骤来产生编码后的数据。
由于运动检测是运动补偿视频编码中计算强度最大的过程,所以研究者致力于减少此计算负荷。一种途径是仅搜索亮度分量,前提是假定在亮度域中具有最小绝对差值和的块也很可能在色度域中表现出最小和。换言之,这种方法预期了亮度和色度运动向量之间的紧密相似性,因而跳过了搜索色差分量的步骤,由此降低了运动向量估计的计算总量。除了减小了运算电路的规模外,省略色度计算还减轻了处理负荷,因为省略色度计算还消除了从帧存储器中读出原始画像和参考画像的色度数据的步骤。
如何避免色质劣化是运动向量估计技术的另一方面。一些研究者提出消除从在帧预测过程中评价的候选运动向量中选择垂直分量是4n+2(n:整数)的运动向量的可能。通过消除此运动向量的特定组,这个技术使编码后的视频中的色质劣化得到减轻。参见例如日本专利申请公布No.2001-238228,[0032]到[0047]段,图1。
发明内容
本发明提供了用于估计运动向量和进行运动补偿预测的运动估计和补偿设备。该运动估计和补偿设备具有运动向量估计器和运动补偿器。运动向量估计器估计给定隔行扫描色度亚采样的视频信号中代表运动的运动向量。所述估计是通过下述操作来完成的:通过采用亮度上的绝对差值和(SAD)作为相似性度量来将参考画像中的每个候选块和原始画像中的目标块进行比较,选取最小化SAD的最佳匹配候选块,并且确定最佳匹配候选块相对于所述目标块的位移。在此过程中,运动向量估计器给予每个候选块的SAD一个从与该候选块相关联的候选运动向量的垂直分量确定的偏移量。利用此运动向量校正,估计出的运动向量较小可能引起色度分量中的偏差。运动补偿器利用这样的运动向量来产生预测画像并且通过从原始画像中减去预测画像来计算预测误差。
当结合以示例方式图示了本发明优选实施例的参考附图时,从下面描述中,本发明的上述和其他的特征和优点将变得清楚。
附图说明
图1是根据本发明第一实施例的运动估计和补偿设备的概念视图。
图2和图3示出了包含在从左上方向右下方的方向上移动的矩形物体的参考画像和原始画像。
图4和图5示出了图2和图3的参考画像和原始画像中的4:2:2格式和4:2:0格式之间的关系。
图6和图7示出了4:2:0的参考画像的亮度分量和色度分量。
图8和图9示出了4:2:0的原始画像的亮度分量和色度分量。
图10和图11示出了在4:2:0的参考画像和原始画像中检测出的运动向量。
图12A到图16B示出了与用更一般的方式进行运动向量估计有关的问题。
图17示出了偏移量表。
图18A、18B、19A和19B示出了如何由传输比特率或者色度边缘尖锐度来确定偏移量。
图20示出了用于运动向量估计的程序代码的示例。
图21A和21B示出了在计算绝对差值和时搜索像素的过程。
图22示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,以及图23示出了所得的差分画像。
图24示出了当运动向量具有垂直分量4n+1时的参考画像和原始画像,以及图25示出了所得的差分画像。
图26示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,以及图27示出了所得的差分画像。
图28示出了当运动向量具有垂直分量4n+3时的参考画像和原始画像,以及图29示出了所得的差分画像。
图30示出了当运动向量具有垂直分量4n+1时的参考画像和原始画像,以及图31示出了所得的差分画像。
图32示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,以及图33示出了所得的差分画像。
图34示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,以及图35示出了所得的差分画像。
图36示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,以及图37示出了所得的差分画像。
图38示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,以及图39示出了所得的差分画像。
图40示出了用于计算色度分量的Cdiff或绝对差值和的程序,包括用于Cb和Cr的Cdiff或绝对差值和。
图41示出了本发明第二实施例的概念视图。
图42示出了在场(field)预测中如何避免色度偏差。
图43是示出了帧向量的垂直分量和场向量的垂直分量之间的关系的表。
图44示出了当帧向量具有垂直分量4n+2时的场向量。
图45示出了当帧向量具有垂直分量4n+1时的场向量。
图46示出了当帧向量具有垂直分量4n+3时的场向量。
图47示出了2:3上拉(pullup)和3:2下拉(pulldown)的过程。
图48示出了包含根据本发明第一实施例的运动估计和补偿设备在内的视频编码设备的结构。
图49示出了采用根据本发明第二实施例的运动估计和补偿设备的视频编码设备的结构。
图50示出了4:2:2颜色采样格式。
图51示出了4:2:0颜色采样格式。
图52示意性地示出了运动向量是如何被检测出来的。
图53示意性地示出了如何用运动补偿预测技术对视频图像进行编码。
具体实施方式
数字TV广播和其他的普通视频应用采用隔行扫描和4:2:0格式来代表颜色信息。利用诸如运动向量搜索、运动补偿、和离散余弦变换(DCT)编码等技术对原始画像进行压缩和编码。隔行扫描是通过间隔的水平线即奇数行和偶数行来扫描画像的过程。利用这种方式,每个视频帧被划分成被称为顶场(top field)和底场(bottom field)的两个场。
如先前图51中所描述的,4:2:0颜色采样过程在水平和垂直两个方向上对色彩信息进行亚采样。但是,利用这种视频格式,传统的运动向量估计可能导致包含运动的帧中的色度分量质量下降,因为上述检测仅基于这些帧的亮度信息。虽然即使仅由亮度分量来计算运动向量,对不动的或者几乎不动的画像也可以预测出正确的颜色,但是如果视频帧包含运动物体的图像,则在色度分量上原始画像中的块和参考画像中的对应块之间不匹配的几率增加。这样的色度偏差将使得预测误差的级别上升,从而在系统带宽有限的情况下导致编码后的视频数据量增加或者画像质量下降度增加。
先前提到的已有技术(日本专利申请公布No.2001-238228)通过简单地拒绝那些具有可能引起大量色度偏差的特定垂直分量的运动向量而在一定程度上解决了上面的问题。但是,因为该技术没有充分考虑涉及运动向量的其他情况,所以该技术并不总是最佳的解决方案。
鉴于前述内容,本发明的目的是提供一种运动估计和补偿设备,所述运动估计和补偿设备具有用于寻找运动向量和进行运动补偿预测的改进算法,并且具有合理的电路大小和计算负荷。
下面将参考附图来描述本发明的优选实施例,其中类似的参考标号指代类似的元件。
图1是根据本发明第一实施例的运动估计和补偿设备的概念视图。此运动估计和补偿设备10包括运动向量估计器11和运动补偿器12。
运动向量估计器11通过评估原始画像中的目标块和参考画像中的每个候选块之间的绝对差值和(SAD)来在以4:2:0格式构造的色度亚采样视频信号的隔行序列的亮度分量中找到运动向量。为了抑制此过程中可能存在的色度偏差的影响,运动向量估计器11进行运动向量校正,取决于所取的运动向量的垂直分量值,所述运动向量校正向正在评估的SAD值加上不同的偏移量。这里,术语“块(block)”指的是大小为16个像素×16行的画像宏块或者正方块。运动向量估计器11识别参考画像中一个显示最小SAD的候选块,并且计算代表目标块相对于所找到的候选块的位移的运动向量。
更具体地说,参考图1的下半部分,运动向量的垂直分量具有值4n+0、4n+1、4n+2或者4n+3,其中n为整数。这些值相应于4个候选块B0、B1、B2和B3,将所述4个候选块和原始画像中给定的目标块B就像素间的SAD进行比较。运动向量估计器11对目标块B和位于垂直距离4n+0的候选块B0之间的SAD给出0偏移量。对于分别位于垂直距离4n+1、4n+2和4n+3的其他的候选块B1、B2和B3,运动向量估计器11给出自适应地确定的偏移值。这里术语“自适应”意思是运动向量估计器11考虑传输比特率、量化参数、色度边缘信息、和色度分量的预测误差中的至少一个来确定偏移值。这里量化参数包括量化步长,即量化后的值的精度。稍后将描述此自适应设置。利用以此方式得到的运动向量,运动补偿器12产生预测画像并且通过从原始画像中减去预测画像来计算预测误差。
色度偏差
在进行解释本发明的细节之前,我们首先详细阐述本发明将要解决的问题,包括关于如何寻找运动向量的大概浏览。图2和图3示出了包括在从左上向右下的方向上移动的矩形物体的参考画像和原始画像。具体地说,图2示出了构成单个参考画像的顶场和底场的二维图像,以及图3示出了构成单个原始画像的顶场和底场的二维图像。注意,两个画像都仅给出了采样后的视频信号的亮度分量。由于顶场和底场具有相反的奇偶性(即,一个由偶数行组成,另一个由奇数行组成),所以图2和图3以及几个后继的附图用一行的偏移量来描绘它们。
将图2的参考画像和图3的原始画像相比较,其中黑色框(像素)指示物体在从左上向右下的方向上的明显运动。还应该注意的是,即使在图2的同一参考画像中,在顶场和底场之间也可以观察到物体在水平方向上两个像素的移动。同样地,图3示出了在一个场周期期间类似的物体水平移动。
图4和图5示出了图2的参考画像和图3的原始画像中的4:2:2格式和4:2:0格式之间的关系。更具体地说,图4将注意力集中于位于图2中的虚线指示的特定水平位置x1处的像素,把代表图2的同一参考画像的4:2:2画像和4:2:0画像进行对比。以同样的方式,图5将注意力集中于位于图3中虚线指示的另一水平位置x2处的像素,把相应于图3的原始画像的4:2:2画像和4:2:0画像进行比较。
图4和图5中使用的标记如下:白正方和黑正方代表亮度分量,自三角和黑三角代表色度分量,其中白和黑分别指示目标图像的存在和不存在。左端所见的数字是行号。用虚线代表偶数的扫描行,并且每两条线的垂直间隔被再次划分成8部分,所述8部分用分数“1/8,”、“2/8,”、“3/8,”等来称呼。
如先前所讨论的,将视频采样格式从4:2:2转换到4:2:0的过程实际上涉及到色度亚采样操作。在图4的示例中,4:2:0画像中的第一顶场色度分量a3是由原始4:2:2画像中的色度分量a1和a2内插得到的。即a3的值的计算方式是两个最近邻色度分量a1和a2的加权平均,由于a3位于a1下面“2/8”处,而位于a2上面“6/8”处所以所述加权平均实际上是(6×a1+2×a2)/8。为了图示说明的目的,由于色度分量a3是由白三角和黑三角内插得到的分量,所以色度分量a3用灰三角来表示。
对于另一示例,4:2:0参考画像中的第一底场色度分量b3是以同样方式由4:2:2分量b1和b2内插得到的,由于b3位于b1下面“6/8”处,而位于b2上面“2/8”处,所以色度分量b3值为(2×b1+6×b2)/8,即它的原始4:2:2画像中最近邻色度分量b1和b2的加权平均。所得的色度分量b3用白三角表示,这是因为它的源分量都是白三角。图5中所示出的原始画像也经历了格式转换和颜色亚采样的类似过程。
如可以从亮度分量和色度分量的垂直密度(density)中看到的,从4:2:2到4:2:0的转换使得色度信息以2∶1的比例减少。然而图4和图5仅示出了颜色亚采样的简化版本,实际的实现使用了不止两个邻域分量来计算新的分量,邻域分量的数目取决于每个编码设备的规定。例如,前述顶场色度分量a3可以不仅由a1和a2而且由其他周围的色度分量来计算。对诸如b3等的底场色度分量也可以应用同样的操作。
参考图6到图9,图2到图5中所讨论的移动矩形物体现在被以4:2:0格式的亮度画像和色度画像分开画出,更具体地说,图6和图7分别示出了4:2:0参考画像的亮度分量和色度分量,而图8和图9分别示出了4:2:0原始画像的亮度分量和色度分量。由于视频数据是隔行扫描得出的,所以所有的帧被划分为顶场和底场。
在由两个水平像素乘两个垂直像素的块中,4:2:0格式为每四个亮度分量仅提供了一个颜色分量。例如,顶亮度场中的四个像素Y1到Y4(图6)被假定共享一个色度分量CbCr(CbCr实际上是用来代表一个特定颜色的一对色差Cb和Cr)。由于该CbCr相应于“白”像素Y1和Y2以及“黑”像素Y3和Y4,所以出于图示说明的目的在图7中CbCr被图示为“灰”框。
图8的左手边的区域R1指示在图6的相应顶场参考画像中所见到的黑矩形(即,移动物体)的位置。类似地,图8的右手边的区域R2指示在图6的相应底场参考画像中所见到的黑矩形的位置。两个箭头是顶场和底场中的运动向量。注意,这些运动向量在此特定情况下是等同的(即,同样的长度和同样的方向),从而当前帧预测产生了分别由+2个像素和+2条线的水平分量和垂直分量组成的运动向量。
图10和图11示出了在所解释的4:2:0原始画像和参考画像中找到的运动向量。更具体而言,图10给出了亮度运动向量(在适当时称为“亮度向量”),所述亮度运动向量指示了相对于参考画像的水平位置x1(图6)和原始画像的水平位置x2(图8)而言像素到像素的关联。以同样的方式,图11给出了色度运动向量(在适当时称为“色度向量”),所述色度运动向量指示了相对于参考画像的水平位置x1(图7)和原始画像的水平位置x2而言(图9)像素到像素的关联。
图10和图11中所使用的标记如下:自正方和白三角分别代表亮度分量和色度分量,在这样的像素中不存在物体。黑正方和黑三角分别代表亮度分量和色度分量,在这样的像素中存在移动的矩形物体。即“白”和“黑”符号化每个像素的值。
设Va是图8的亮度画像中所得到的亮度向量。参考图10,亮度向量Va具有+2行的垂直分量,并且参考画像的每个像素的值和原始画像中位于两行的距离处的相应像素的值相一致。以顶场参考画像中的像素y1a为例,查看顶场原始画像的相应部分,位于距离该像素y1a下面两条线处的是运动向量Va的箭头所指向的像素y1b。就亮度分量而论,不管计算什么运动向量,每个原始画像元素在参考画像中都具有对应元素,反之亦然。这是因为亮度分量没有被亚采样。
另一方面,色度分量在从4:2:2到4:2:0的格式转换过程中被亚采样了。由于这个原因,单独从未进行亚采样的亮度分量计算得到的运动向量不太适用于画像的色度分量。如图11中所图示的,运动向量Va不能够直接将参考画像的色度分量关联到原始画像的色度分量。以顶场原始画像中的色度分量c1为例。如它的符号(黑三角)所暗示的,此分量c1是矩形物体的运动图像的一部分,并且根据运动向量Va,它在顶场参考画像中的相应色度分量应该在c2处找到。但是,由于颜色亚采样,所以在c2处没有色度分量。在这种情况下,位于底场的行#1处的最近邻色度分量c3将被选择以用于运动补偿。问题在于,此替代性分量c3属于画像的“白”区;即,c3在运动的物体图像的外部。这意味着运动向量Va给出了错误的颜色估计,这导致预测误差增加。
简而言之,运动向量Va建议c2将是c1的最佳估计,但是c2不存在。传统的方法然后使用近邻的c3作为c2的替代物,虽然c3在不同的场中。这个替换使得用c3来预测c1,由于c1是运动物体图像的一部分,而c3不是,所以c3的色度值完全不同于c1。原始像素和它的估计之间的如此的严重失配导致较大的预测误差。
另一示例是在位于底场原始画像的行#3处的色度分量c4。虽然c4的最佳估计应该位于底场参考画像中的c5处,但是在该像素位置没有色度分量。尽管c4不是运动物体图像的一部分,但是位于顶场画像的线#2处的c6还是被选作c4的估计以用于运动补偿。由于该色度分量c6是运动物体图像的一部分,所以所预测的画像将具有较大的误差。
总结上述讨论,视频编码设备仅由给定画像的亮度分量来估计运动向量,并且相同组的运动向量也被应用来预测色度分量。另一方面,色度分量在前面的4:2:2到4:2:0的格式转换中已经被亚采样,在这样的情形下,使用基于亮度的运动向量导致在运动补偿预测中对色度分量的错误引用。例如,为了预测顶场原始画像的色度分量,当运动补偿器实际上应该使用顶场参考画像时,运动补偿器使用底场参考画像。至于另一示例,为了预测底场原始画像的色度分量,当运动补偿器实际上应该使用底场参考画像时,运动补偿器使用顶场参考画像。这样的色度偏差混淆了运动补偿过程,从而引起额外的预测误差。结果是编码后的数据量增加和画像质量下降。
上述问题可以通过独立估计用于亮度分量和色度分量的运动向量来解决。但是,此解决方案必然需要显著的额外计算量以及更大的电路规模和更重的处理负荷。
色度偏差的进一步分析
这部分以更一般的方式来描述色度偏差的问题。图12A到图16B假定前述的矩形物体将进行不同的运动量,示出了亮度运动向量的几个不同图案。
首先参考图12A和图12B,矩形物体仅在水平方向移动,从而所得的运动向量V0没有垂直分量。参考图16A和图16B,物体在垂直方向上移动了4行的距离,使得运动向量V4具有垂直分量+4。在这两种情况下,亮度向量V0和V4可以用作色度向量而不会引起问题。
接下来参考图13A和图13B,物体垂直地移动了一行的距离,所得的运动向量V1具有垂直分量+1。此亮度向量V1不能担任色度向量。由于没有色度分量存在于运动向量V1所指定的像素中,所以每个这样的像素的色度用半像素内插来计算。以色度分量d1为例。由于亮度向量V1未能指定参考画像中的现有色度分量,所以新的分量不得不用邻近的色度分量d2和d3的加权平均来计算。另一示例是色度分量d4。由于假定提供d4的估计的参考像素没有包含色度分量,所以新的分量不得不从邻近的分量d3和d5内插得到。
参考图14,物体垂直地移动了两条线的距离,结果得到了具有垂直分量+2的运动向量V2。这种情况产生了和上面在图10和图11中所讨论的同样的情形。使用亮度向量V2作为色度向量,编码器将错误地用物体内部的像素值来估计物体边缘外部的像素。
参考图15,物体垂直地移动了3行的距离,结果得到了具有垂直分量+3的运动向量V3。这种情况产生了和图13A及图13B中讨论的同样的情形。即,在运动向量V3所指定的像素中没有色度分量存在。需要半像素内插以产生预测图像。以色度分量e1为例。由于亮度分量V3未能指定参考画像中的现有色度分量,所以新的分量不得不用邻近的色度分量e2和e3的加权平均来计算。另一类似示例是色度分量e4。由于假定提供e4的估计的参考像素未分配有色度分量,所以新的分量不得不从邻近的分量e3和e5内插得到。
总结上述结果,当运动向量的垂直分量为0时不存在偏差,但是当垂直分量为+1、+2或者+3时则发生偏差。当垂直分量为+4时,又是另一不存在偏差的情形。换言之,当垂直分量是4n+0时,不存在失配,但是当垂直分量是4n+1、4n+2或者4n+3时,则存在失配。
当垂直分量是4n+2时,会发生最严重的偏差和由此引起的预测误差的增加,在垂直分量是4n+2的情况下,视频编码设备错误地估计沿着移动物体的垂直边缘的像素。在垂直分量是4n+1和4n+3的情况下,需要顶场和底场之间的半像素内插,虽然误差的严重程度小于垂直分量是4n+2的情况,但是预测误差量还是将有某种程度的增加。
如先前所描述的,日本专利申请公布No.2001-238228公开了通过简单地拒绝垂直分量为4n+2的运动分量来减少预测误差的技术。但是,此技术对4n+1或者4n+3的情况没有帮助。因而,为得到编码后图像的更佳质量,有必要设计可应付垂直运动的所有不同图案的更综合方法。
利用理想的通信信道,不管预测误差怎样大或者怎样小,都可以在接收端正确地再生成编码后的画像。从这个意义上讲,只要视频传输系统能够提供足够高的比特率和带宽,预测误差的增加就其本身而言不是急迫的问题。前述专利申请中描述的已有技术简单地阻止具有4n+2的垂直分量的运动向量,而不管可用的传输带宽。在这种情况下视频的质量可能降低。
考虑上面的描述,更中意的途径是以更灵活的方式来处理具有垂直分量4n+1、4n+2和4n+3的候选向量,以抑制预测错误的增加,而不是简单地丢弃4n+2的运动向量。于是,本发明提供了一种新的运动估计和补偿设备,以及使用上述设备的视频编码设备,上述运动估计和补偿设备以及视频编码设备可以有效地避免色度偏差问题而不会过多增加电路规模或者处理负荷。
运动向量估计
这部分提供了有关根据本发明第一示例的运动估计和补偿设备10的更多细节,具体地提供了有关其运动向量估计器11的操作的更多细节。
图17示出了偏移量表。此表定义了对于运动向量分量的几种不同图案,要向候选块的SAD加上多少偏移量。具体地说,当运动向量的垂直分量是4n+0时,运动向量估计器11没有给出具体的偏移量,因为在这种情况下没有色度偏差发生。当运动向量的垂直分量是4n+2、4n+2或者4n+3时,将存在色度偏差的风险。由于在4n+2的情况下的严重程度被认为远大于其他两种情况,所以图17的偏移量表为4n+2赋予了专门的偏移值OfsB,为4n+1和4n+3赋予了公共偏移值OfsA。
运动向量估计器11通过考虑了下面的因素以自适应的方式确定这些偏移值OfsA和OfsB:传输比特率、量化参数、色度边缘条件以及色度分量的预测误差。基本上根据量化参数或者可选地考虑传输比特率和画像颜色条件来调整OfsA和OfsB值。
图18A到图19B示出了如何由传输比特率或者色度边缘条件来确定偏移量。这些图图示了如下情形:运动向量估计器11搜索参考画像以找到给出了对给定原始画像中的目标宏块M1的最佳估计的块。
参考图18A和图18B,假定相对于原始画像中的目标宏块M1,参考画像中的候选块M1a和M1b分别具有平均绝对差值(MAD)11和10。平均绝对差值(MAD)等于SAD除以块中像素的数目的商,在本示例中像素的数目为256。相对于目标宏块M1,M1a位于垂直距离4n+0处,M1b位于垂直距离4n+1处。
两个候选块M1a和M1b中的任一个将被选择为目标宏块M1的预测块,这取决于相对于M1哪个具有更小的SAD。在低比特率的环境中,尖锐的色度边缘(如果存在的话)将导致色度偏差,进而由此引起的预测误差将以由量化效应而得到的扭曲画像告终。考虑到此,运动向量估计器11给出了适当的偏移量OfsA,从而即使M1和Mb1之间的SAD比M1和M1a之间的SAD更小些,在4n+0处的M1a也更有可能被选作预测块。
现假设OfsA被设置成例如257。由于对于位于4n+0的M1a而言偏移量为零,所以如下计算M1a和M1b的SAD值:
SAD(M1a)=MAD(M1a)×256+0
=11×256
=2816
SAD(M1b)=MAD(M1b)×256+OfsA
=10×256+257
=2817
其中SAD()和MAD()分别代表块的绝对差值和以及块的平均绝对差值。由于结果指示SAD(M1a)<SAD(M1b)(即,2816<2817),所以4n+0处的第一候选块M1a被选作预测块,尽管实际上在通过偏移值进行偏置前M1b的SAD小于M1a的SAD。可以把此结果归因于偏移量OfsA,偏移量OfsA被预先加到了M1b的SAD上以增加选择另一块M1a的几率。
在传输比特率较低和正被编码的画像在色度分量上具有尖锐变化的境况下,4n+0处的块一般比4n+1处的块更优选。当4n+0处的优良候选块和4n+1(或者4n+3)处甚至更优良的候选块之间就它们的平均绝对差值而言的差不超过1时,选取第二最佳块将不会在亮度分量的质量上产生显著下降。运动向量估计器11因此设置了偏移量OfsA以使得选取4n+0处的块而不是4n+1处的块,选择4n+1处的块可能产生色度偏差。
图19A和图19B示出了类似的情形,其中相对于原始画像中的目标块M1而言,候选宏块M1a具有MAD值12,另一候选块M1c具有MAD值10。相对于目标块M1,M1a位于垂直距离4n+0处,M1c位于垂直距离4n+2处。
现假设OfsB被设置成例如513。则如下计算M1和M1c之间的SAD以及M1和M1a之间的SAD:
SAD(M1c)=MAD(M1c)×256+OfsB
=10×256+513
=3073
SAD(M1a)=MAD(M1a)×256+0
=12×256
=3072
由于结果指示SAD(M1a)<SAD(M1c)(即,3072<3073),所以4n+0处的第一候选块M1a被选作预测块,尽管实际上在通过偏移值进行偏置前4n+2处的M1c的SAD值小于4n+0处的M1a的SAD值。可以把此结果归因于偏移量OfsB,偏移量OfsB被预先加到了M1c的SAD上以增加选择另一块M1a的几率。
在传输比特率较低和正被编码的画像在色度分量上具有尖锐变化的境况下,4n+0处的块一般比4n+2处的块更优选。当4n+0处的优良候选块和4n+2处甚至更优良的候选块之间就它们的平均像素值而言的差不超过2时,选取4n+0处的第二最优块将不会在亮度分量的质量上产生显著下降。运动向量估计器11因此设置了偏移量OfsB从而选取4n+0处的块而不是4n+2处的最佳块,选择4n+2处的块可能产生色度偏差。
和上面的两示例不同,高比特率的环境容许要被原封不动传送到接收端的编码后的视频数据包含较大的预测误差。在这种情况下,为4n+1、4n+2和4n+3处的块提供相对较小的偏移量(例如,OfsA=32,OfsB=64),从而降低了选择4n+0(即,具有垂直分量4n+0的运动向量)处的块的几率。
运动估计程序
这部分描述用于估计运动向量的更具体的程序。图20示出了用于运动向量估计的示例程序代码,假定普通的TV广播系统中使用720像素×480行的视频图像大小。画像以4:2:0格式存储在帧存储器中,这意味着一个帧包含720×480个亮度样本和360×240个色度样本。
设Yo[y][x]为原始画像的个体亮度分量,Yr[y][x]为参考画像的个体亮度分量,其中x=0到719,y=0到479,并且每个这样的分量在0到255的范围内取值。而且,设Vx和Vy为在帧预测模式中找到的运动向量的分量,所述找到的运动向量的分量相对于在给定原始画像中宏块坐标(Mx,My)处的特定宏块而言具有最小的SAD值。Vx和Vy是由例如图20中所示出的程序得到的,其中Mx为0到44,My为0到29,函数abs(v)给出v的绝对值。图20的程序代码具有如下步骤:
(S1)此步骤是声明语句的集合。声明了变量Rx和Ry分别代表参考画像中像素的水平位置和垂直位置。变量x和y代表原始画像中像素的水平位置和垂直位置。如已描述的,Vx和Vy是运动向量的水平分量和垂直分量。第二个声明语句赋予Vdiff初始值,该初始值足够大以超过每个可能的SAD值。具体地说,考虑到像素的每对显示最大差值255的极端情况,Vdiff的初始值被设置为16×16×255+1。第三语句声明用于保存带有偏移量的SAD计算结果的diff。
(S2)第一个“for”语句用增量1将Ry从0增加到(479-15),而内循环中的第二个“for”语句用增量1将Rx从0增加到(719-15)。
(S3)第一行从Ry(候选块的y轴坐标)中减去My×16(目标块的y轴坐标),并且结果除以4。如果余数是0,则diff被清零。如果余数是1,则diff被设置为OfsA。如果余数是2,则diff被设置为OfsB。如果余数是3,则diff被设置为OfsA。注意,diff在此步骤获得了具体值。
(S4)另两个“for”语句用增量+1将y从0增加到15,在内循环中用增量+1将x从0增加到15。这些嵌套的循环计算原始画像中的目标宏块和参考画像中的候选块之间的SAD(如稍后将在图21A和21B中所描述的)。
(S5)将Vdiff(在先计算得到的SAD)和diff(新计算得到的SAD)相比较。如果Vdiff>diff,则Vdiff用diff代替。而且,此时将像素坐标Rx和Ry传递给Vx和Vy。此步骤S5实际上测试并且更新最小的SAD。
(S6)最后Vx和Vy被改写为向量分量;即,Vx用Vx-Mx×16代替,Vy用Vy-My×16代替。
图21A和图21B示出了在计算SAD过程中搜索像素的过程。如图20的程序中的步骤S4中所见,Yo[My*16+y][Mx*16+x]代表原始画像中的像素,Yr[Ry+y][Rx+x]代表参考画像中的像素。想要获得原始画像中的宏块M1和参考画像中的块M2之间的SAD。由于宏块M1在宏块坐标(My,Mx)=(0,1)处,所以M1内部的像素表示如下:
Yo[My*16+y][Mx*16+x]=Yo[0*16+y][1*16+x]
=Yo[y][16+x]
由于参考画像块M2在行#16、像素#16处开始,所以M2内部的像素表示如下:
Yr[Ry+y][Rx+x]=Yr[16+y][16+x]
通过在0到15的范围内改变x和y,步骤S4中的代码比较块M1和M2内部的所有像素对,由此得出M1和M2的SAD值。例如,对于x=0且y=0,Yo[y][16+x]=Yo[0][16](M1的左上角处的像素)和Yr[16][16](M2中的相应像素)之间的绝对差值在步骤S4计算出来。以x=15且y=15为另一例,Yo[y][16+x]=Yo[15][31](M1的右下角处的像素)和Yr[31][31](M2中的相应像素)之间的绝对差值在步骤S4计算出来。在SAD值被确定之前这种计算被重复256次。
步骤S3是根据本发明添加的步骤,而程序的其他步骤也可以在传统的运动向量估计过程中找到。如可以从上述示例见到的,本发明中提出的处理函数被实现为用于根据候选运动向量的垂直分量来设置不同偏移量的程序以及支持此处理的电路。利用这样的很小的额外电路和程序代码,本发明有效地避免了色度偏差的问题,否则在运动向量估计的过程中将遇到色度偏差的问题。
亮度误差
现参考图22到图35,我们将再次讨论先前在图3和图2中所解释的情形。即,想象其上暗的矩形物体图像以从左上到右下的方向移动的视频画像序列。画像的每帧由顶场和底场组成。假定在参考画像和原始画像中,对于背景,亮度值是200,对于物体图像,亮度值是150。下面将给出运动向量分量的各种图案和所得的差分画像。术语“差分画像”指的是代表给定原始画像和通过根据估计的运动向量来移动像素而创建得到的预测画像之间的差异的画像。
图22示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,图23示出了所得的差分画像。图24示出了当运动向量具有垂直分量4n+1时的参考画像和原始画像,图25示出了所得的差分画像。图26示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,图27示出了所得的差分画像。图28示出了当运动向量具有垂直分量4n+3时的参考画像和原始画像,图29示出了所得的差分画像。所有这些画像都是以隔行格式即作为顶场和底场的组合示出的。
现参考图22,运动向量和物体移动量+2相符。这使得移动后的参考画像元素可以很好的原始画像相吻合。从而图23的差分画像除了0误差分量外什么也没示出,在此情况下所得的SAD值也是0。但是,下面的情况一定会有预测误差。
参考图24,图示了具有垂直分量4n+1的运动向量。如从图25所见到的,所得的SAD值是2300(=50×46)。参考图26和图27,在4n+0的情况下得到SAD值600(=50×12)。参考图28和图29,在4n+3的情况下得到SAD值2100(=50×42)。
虽然,在本示例中,传统的系统将选取图22中所图示的最小SAD的运动向量,但是本发明可以选择图26中所示出的第二佳运动向量。即,大于600的偏移量OfsB使得可以选取具有垂直分量4n+0(图26)的运动向量,而不是具有垂直分量4n+2的最小SAD运动向量。
下面是另一组示例,其中矩形物体仅在垂直方向移动了一个像素的距离。图30示出了当运动向量具有垂直分量4n+1时的参考画像和原始画像,图31示出了所得的差分画像。图32示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,图33示出了所得的差分画像。图34示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,图35示出了所得的差分画像。
参考图30,示出了具有垂直分量4n+1的运动向量。由于该向量和实际的物体移动相符,所以如图31所示它的SAD值变为0。参考图32和图33,在4n+0的情况下SAD值高达2500。参考图34和图35,在4n+2的情况下SAD值是2300。
虽然,在本示例中,传统的系统将选取图30中所图示的最小SAD的运动向量,但是本发明可以选择图32中所示出的第二佳运动向量。即,大于2500的偏移量Ofsa使得可以选取具有垂直分量+0(图32)的运动向量,而不是具有垂直分量+1的最小SAD运动向量。
参考图36到图39,下面是另一组示例,其中矩形物体具有不统一(non-uniform)的亮度图案。图36示出了当运动向量具有垂直分量4n+2时的参考画像和原始画像,图37示出了所得的差分画像。图38示出了当运动向量具有垂直分量4n+0时的参考画像和原始画像,图39示出了所得的差分画像。
如图22的前述示例中的那样,图36的示例涉及+2的垂直物体移动量,但是矩形物体具有不统一的外观。具体地说,它具有40和160两个不同亮度值的水平斑纹纹理。如图37所示,具有+2的垂直分量的运动向量得出了没有误差的差分画像。如图38和图39中所示,当垂直向量分量具有值4n+0时,SAD变得大到9120(=160×12+120×6×10)。即使在这种情形下,等于9120或者更大的偏移量OfsB将使得“+0”运动向量被选取而不是上面的“+2”向量。但是,给出如此大的偏移量意味着允许选择任何较差的候选块。虽然可以避免色度偏差,但是“4n+0”运动向量引起如此大的亮度误差以致于所得的画像将产生可见的劣化。从而,在这种情形下“4n+2”向量对于画像质量是更佳选择,即使会出现一些色度偏差。
具有垂直分量4n+1、4n+3和4n+2的运动向量倾向于产生色度偏差。最终通过设置OfsA和OfsB为65280(=250×256)甚至可以排除所有这些向量,65280是色度分量可以取的理论上的SAD的最大值。但是,由于当会得到不合理地大的亮度误差的时候这根本不是期望得到的结果,所以本发明通过设置恰当的OfsA和OfsB来管理这些倾向于产生偏差的运动向量以维持施加于亮度和色度上的代价的平衡。
基于色度预测误差的偏移量
虽然SAD偏移量OfsA和OfsB可以被设置成由可得的比特率或者场景内容确定的适当固定值,但是本发明还设想以本部分将描述的自适应方式由色度分量的预测误差来确定这些偏移值。简而言之,根据本发明,运动补偿器12具有计算色度分量的绝对差值和的附加功能。此SAD值,称为Cdiff,实际上包括Cb上的绝对差值和Cr上的绝对差值,其是运动补偿器12在色度域上从原始画像中减去预测画像的过程中计算得到的。
图40示出了用于计算Cdiff的程序。给予此程序在运动补偿预测的输出中的色度的差分图像组。diff_CB[][]和diff_CR[][]具体地分别代表Cb和Cr的差分画像。注意,三个加了下划线的语句是用来计算Cdiff的新加步骤,而图40的程序的其他部分自从用来计算运动补偿参考画像和原始画像之间的差分的原始版本以来就已存在。
运动补偿器12还计算亮度分量的SAD值。设Vdiff代表宏块中的该SAD值。虽然宏块包含亮度分量的256个样本(16×16),但是因为4:2:0的颜色采样格式所以同一块中色度样本的数目只有64(8×8)。由于每个色度样本由Cb样本和Cr样本组成,所以Cdiff包含Cb和Cr的128个样本的数据,这意谓着Cdiff的值大约是Vdiff的一半。总之,在不存在色度偏差的理想情形下,亮度SAD值(Vdiff)和相应的色度SAD值(Cdiff)之间的关系如下:
2×Cdiff-Vdiff≈0    ....(1)
只要不存在色度偏差在大多数情况下条件(1))成立。当垂直向量分量具有值4n+1、4n+3或者4n+2并且存在色度偏差的时候,Cdiff变大,因而2×Cdiff>Vdiff。考虑此事实,所提出的方法根据下面的公式(2)和(3)给出偏移量OfsA和OfsB
OfsA = Σ ( 2 × Cdiff ( i ) - Vdiff ( i ) ) n A . . . ( 2 )
其中i是垂直向量分量为4n+1或者4n+3的宏块的标识符,nA代表这样的宏块的数目。
OfsB = Σ ( 2 × Cdiff ( j ) - Vdiff ( j ) ) n B . . . ( 3 )
其中j是垂直向量分量为4n+2的宏块的标识符,nB代表这样的宏块的数目。
上面所提出的方法还带有如下风险:产生太大的OfsA或者OfsB而不允许选取4n+1、4n+3和4n+2的垂直向量分量,实际的实现需要某适当的机制以通过例如为OfsA和OfsB设置上限来确保OfsA和OfsB的收敛。其他选项是随着过程前进逐渐减少OfsA和OfsB,或者当遭遇大的场景改变时,将OfsA和OfsB返回到它们的初始值。
代表Cdiff和Vdiff之间的关系的前述公式(1)实际上为了解释的目的而过度简化了。亮度和色度具有不同的动态范围,并且在近似单色的图像中它们的平衡和在色彩丰富的图像中的完全不同。从而首先应该使用下面的公式(4)。
α×Cdiff-Vdiff≈0    ....(4)
其中α是校正系数。而由于校正系数和系统中使用的A/D转换器的特性和许多其他因素有关,所以我们没有指定任何确定此次数的具体方法。下面的公式(5)是确定α的一个示例方法。即在没有色度偏差的条件下,在几个连续帧上计算Vdiff与Cdiff的平均比率,所得结果用作系数α。
α = Σ ( Vdiff ( k ) / Cdiff ( k ) ) m . . . ( 5 )
其中m代表这样的宏块的数目,k是满足Vdiff(k)<OfsA并且Vdiff(k)<OfsB的宏块的标识符。关于Vdiff的条件是为了避免在由于OfsA和OfsB而使得向量被限制于4n+0的情况下的效应。利用通过这种方式计算的系数α,运动向量估计器如下确定偏移值OfsA和OfsB:
OfsA = Σ ( α × Cdiff ( i ) - Vdiff ( i ) ) n A . . . ( 6 )
OfsB = Σ ( α × Cdiff ( j ) - Vdiff ( j ) ) n B . . . ( 7 )
第二实施例
这部分描述本发明的第二实施例。为了避免色度偏差的问题,第一实施例向和具有垂直分量4n+1、4n+3或者4n+2的候选运动向量对应的SAD值加入例如OfsA和OfsB等的适当偏移量,从而减少了选取这些向量为最佳匹配的机会。另一方面,第二实施例利用不同的途径来解决同一问题。即,第二实施例通过自适应地在帧预测模式和场预测模式之间切换来避免色度偏差,而不是用偏移量来偏置SAD度量。
图41示出了第二实施例的概念视图。所示出的运动检测和补偿设备20具有运动向量估计器21和运动补偿器22。运动向量估计器21用色度亚采样后的视频信号的隔行序列的亮度分量来估计运动向量。该估计是在帧预测模式中完成的,在此模式中找到的最佳匹配运动向量被称为“帧向量”。运动向量估计器21根据此帧向量的垂直分量来选择(一个或多个)适当向量。
具体地说,帧向量的垂直分量可以取值4n+0、4n+1、4n+2或者4n+3(n:整数)。为了在随后的运动补偿中使用,如果帧向量的垂直分量是4n+0,则运动向量估计器21选取帧向量自己。在垂直分量是4n+1、4n+2和4n+3的情况下,运动向量估计器21切换它的模式并且在场预测模式中在参考画像中搜索运动向量。在此场预测模式中找到的运动向量被称为“场向量”。利用帧向量或者场向量,无论选择哪一个,运动补偿器22都产生预测画像并通过从原始画像中减去预测画像来计算预测误差。利用这样方式,第二实施例通过选择帧向量或者场向量避免了色度偏差。
MPEG-2编码器可以在一个宏块一个宏块的基础上选择帧预测或者场预测以寻找运动向量。一般地,当顶场和底场运动向量倾向于显示很好的一致性时使用帧预测,否则使用场预测。
在帧预测模式中,所得的运动向量数据包括从参考画像延伸到原始画像的向量的水平分量和垂直分量。图41的下半部分示出了帧预测模式中的运动向量Vb,Vb的数据由水平分量和垂直分量组成。另一方面,在场预测模式中,运动估计过程为每帧产生两个运动向量,从而所得的数据包括每个向量的水平分量和垂直分量以及指示哪个场是该向量的参考场的场选择位。图41的下半部分示出了两个示例场向量Vc和Vd。Vc的数据包括它的水平分量和垂直分量以及指示“顶场”为参考场的场选择位。Vd的数据包括它的水平分量和垂直分量以及指示“底场”为参考场的场选择位。
本实施例在所获得的帧向量具有4n+1、4n+2或者4n+3的垂直分量时启动场预测模式,并且通过如此做,避免了色度偏差的问题。下面将提供为什么可以达到此效果的细节。
图42示出了在场预测中如何避免色度偏差的问题。如先前在图11中所描述的,当帧向量是4n+2等时产生色度分量上的偏差,结果例如,将由顶场参考画像中的像素c2处的色度分量来预测顶场原始画像的色度分量c1。由于在该像素c2处不存在相应的色度分量,所以运动补偿器使用另一色度分量c3,c3在同一参考画像的底场中(这是在帧预测模式下发生的)。结果是原始色度分量c1和相应的参考色度分量c3之间具有的较大偏差。
在如上面的同样情形中,即使在参考像素c2中没有发现色度分量,在场预测中操作的运动补偿器也将选择同一场中的最近像素c6。即,在场预测模式中,每个运动向量的场选择位准许运动补偿器识别哪个场被选作参考场。例如,当相应的顶场色度分量缺失时,运动补偿器22可以从属于同一场的其他像素中选择替代性像素,而不会冒产生较大误差的风险。这和帧预测不同,帧预测模式在它错误地选择底场像素作为最近的替代性像素时可能引入较大的误差。
如从上面可以看出的,第二实施例首先在帧预测模式中扫描亮度分量,并且如果最佳向量具有4n+2、4n+1或者4n+3的垂直分量,则第二实施例把它的操作模式从帧预测变为场预测以避免色度偏差的风险。但是,和帧预测相比,场预测产生了更大量的向量数据来描述运动,从而增加了在编码后的视频流中向量数据的开销。为了解决此问题,本实施例采用了用于检测每个宏块中的色度边缘的色度边缘检测器,从而仅当色度偏差很可能引起对预测效率的显著影响时才启动场预测模式。
色度分量上的偏差实际导致预测误差增加的情况发生在当在例如物体图像和它的背景之间的边界存在强烈的颜色对比的时候。画像中这样的高对比部分被称为“色度边缘”。注意,色度边缘和亮度分量无关。因为黑色和白色两者都没有颜色(即,它们的Cb和Cr分量彼此一致)并且可以单独用亮度值来代表(例如,Y=oxff表示白色,Y=0x00表示黑色),所以白色背景上的黑色物体决不会引起色度边缘。
考虑例如在红(Cb<127,Cr>128)的背景色上包含蓝色(Cb>128,Cr<127)矩形物体的画像。这种颜色组合易于产生色度偏差。当物体具有和背景颜色类似的色调(蓝,红,无论哪一种)时,物体和背景仅能通过它们的亮度对比来区别,物体图像不会被色度偏差(如果有的话)破坏。
如从上面可以看到的,色度分量之间的相似性减轻了和运动向量估计有关的色度偏差的影响。实际上,人物和风景落入这种物体组中,它们的图像几乎不包含尖锐的颜色对比。对于这样的多个物体,运动向量估计器没有必要将它的操作从帧预测模式切换到场预测模式。另一方面,广告牌和说明字幕经常在物体边缘具有较大的颜色对比,从而在这些情况下,色度偏差将导致诸如颜色伸展到物体外的假象。从而需要色度边缘检测器来检测这种情况。
场向量
这部分解释场向量是如何确定的。图43是示出了帧向量的垂直分量和场向量的垂直分量之间关系的表。运动向量估计器21首先在帧预测模式中找到运动向量。如果运动向量的垂直分量是4n+2、4n+1和4n+3中的一个,并且如果色度边缘检测器指示存在色度边缘,则运动向量估计器21将自身切换到场预测模式,从而如图43的表中所示的那样估计场向量。
现参考图44到图46,下面将通过示例来解释图43中所指定的场向量。首先,图44示出了当帧向量具有垂直分量4n+2时的场向量。在这种情况下,场预测模式下的运动向量估计器21产生亮度域中的如下两个场向量。一个场向量(称为“顶场运动向量”)从顶场参考画像指向顶场原始画像、具有垂直分量2n+1、并且伴有指示“顶场”的场选择位。另一场向量(称为“底场运动向量”)从底场参考画像指向底场原始画像、具有垂直分量2n+1、并且伴有指示“底场”的场选择位。
上面在亮度域上的向量的(2n+1)垂直分量转化成色度域中的一半大的垂直分量(n+0.5)。相应于此向量分量的半像素部分的中间色度分量是通过相关参考场中的两个邻近像素的内插(或者平均)来预测得到的。在图44的示例中,色度分量f1和f2的估计分别是(Ct(n)+Ct(n+1))/2和(Cb(n)+Cb(n+1))/2。
虽然上面在场预测模式中进行的半像素内插有一些误差,但是此误差量小于帧预测模式下的误差量,其等于由4n+1或者4n+3的情况下的半像素内插所引入的误差(在先前描述的第一实施例中)。此差别的原因在于:在场预测模式下,半像素内插在相同的画像场中发生,即,它从同时存在于顶场或者底场的两个像素来计算中间点。相反,帧预测模式下的半像素插值从顶场中的一个像素和底场中的另一像素计算中间点(参见图13A和图13B)。
图45示出了当帧向量具有垂直分量4n+1时的场向量。在这种情况下,场预测模式下的运动向量估计器21产生亮度域中的如下两个场向量。一个场向量(或者顶场运动向量)从底场参考画像指向顶场原始画像、具有垂直分量2n、并且伴有指示“底场”的场选择位。另一场向量(或者底场运动向量)从顶场参考画像指向底场原始画像、具有垂直分量2n+1、并且伴有指示“顶场”的场选择位。
上面在亮度域上的向量的(2n)和(2n+1)垂直分量分别转化成色度域上的(n)和(n+0.5)垂直分量。通过邻近分量g2和g3的内插估计出中间色度分量g1。
图46示出了当帧向量具有垂直分量4n+3时的场向量。在这种情况下,场预测模式下的运动向量估计器21产生亮度域中的如下两个场向量。一个场向量(或者顶场运动向量)从底场参考画像指向顶场原始画像、具有垂直分量2n+2、并且伴有指示“底场”的场选择位。另一场向量(或者底场运动向量)从顶场参考画像指向底场原始画像、具有垂直分量2n+1、并且伴有指示“顶场”的场选择位。
上面在亮度域上的向量的(2n+2)和(2n+1)垂直分量分别转化成色度域上的(n+1)和(n+0.5)垂直分量。通过邻近分量h2和h3的内插估计出中间色度分量h1。
2:3上拉和3:2下拉
这部分描述其中所提出的校正运动向量的功能不得不禁用的某些情况。在前面的多个部分,我们讨论了如何防止在由隔行视频信号估计运动向量的过程中可能发生的色度偏差。第一实施例提出来添加SAD偏移量,第二实施例提出切换到场预测模式。但是,应该注意色度偏差问题是由视频帧的隔行引起的。即,非隔行的视频格式,称为“逐行扫描”,从本质上没有色度偏差。当源视频信号以逐行形式到达时不需要第一和第二实施例中所描述的运动向量校正功能。从而运动向量估计器不得不禁用它的校正功能。
一个需要考虑的问题是“2:3上拉”,2:3上拉是通过将单个视频画像分解成顶场画像和底场画像来将电影帧转换成电视兼容形式的过程。虽然这是一种隔行形式,但是因为顶场和底场最初是偶数行和奇数行同时采样的单个的逐行扫描画像,所以这些顶场和底场没有色度偏差。当源视频信号以这种隔行格式输入时,视频编码设备首先应用3:2下拉转换而不启动它的运动向量校正功能。
图47示出了2:3上拉和3:2下拉的过程。当记录电影时,运动画像照相机以24帧/秒(fps)的速度捕捉图像。从而需要帧速率转换以在30-fps的电视系统上播放24-fps的运动画像。这被称为“2:3上拉”或者“电视电影转换”。现假设24-fps的电影帧序列A到D将要被转换成30-fps的TV帧。帧A被转换成3个画像:顶场AT、底场AB和顶场AT。然后帧B被划分成底场BB和顶场BT。帧C被转换成底场CB、顶场CT和底场CB。帧D被划分成顶场DT和底场DB。以这种方式,持续时间为1/6秒((1/24)×4)的四个24-fps的帧被转换成持续时间为1/6秒((1/60)×10)的10个60-fps的场.
现考虑如下情况:提供给MPEG编码器一种已利用2:3上拉技术转换成TV广播格式的视频信号。在这种情况下,在场序列输入到MPEG编码器之前向场序列应用3:2下拉过程。此3:2下拉过程丢弃了编码过程中不必要的重复的场(例如,F3和F8)。然后,将所得的画像场序列提供给编码器。就运动而言第一顶场AT和底场AB是一致的,因为它们是由单个电影帧产生的。同样对由帧B到D组成的后续场也是如此。同样地3:2下拉的视频信号由顶场和底场组成。但是,在此类视频输入信号中场之间的一致性使得视频编码设备能够对它们进行编码而不需使用它的运动向量校正功能。
视频编码设备
这部分描述了用于和MPEG-2或者其他标准视频压缩系统一起使用的根据本发明的采用运动估计和补偿设备的视频编码设备。
图48示出了采用根据本发明第一实施例的运动估计和补偿设备10的视频编码设备的结构。图示的视频编码设备30-1具有如下构件:A/D转换器31、输入画像转换器32、运动估计器/补偿器10a、编码器33、本地解码器34、帧存储器35和系统控制器36。编码器33由DCT单元33a、量化器33b和可变长编码器33c构成。本地解码器34具有反量化器34和反DCT(IDCT)电路34b。
A/D转换器31将TV广播的给定模拟视频信号等转换成具有以4:2:2格式被采样的亮度分量和色度分量的数字信号流。输入画像转换器32将该4:2:2视频信号转换成4:2:0形式。所得的4:2:0视频信号存储在帧存储器35中。系统控制器36管理帧存储器35中的帧图像,控制视频编码设备30-1中的多个构件之间的交互,并且进行其他多种任务。
运动估计器/补偿器10a提供如第一实施例所描述的操作。运动向量估计器11从帧存储器35中读取原始画像的每个宏块,以及从帧存储器35中读取参考画像的更大区域,以在给出若干量的偏移量的同时找到相对于给定的原始宏块像素而言使像素的绝对差值和最小化的最佳匹配参考块。然后运动向量估计器11计算最佳匹配参考块和所关心的原始宏块之间的距离,从而得到运动向量。运动补偿器12也访问帧存储器35以取得视频信号并且由此通过使用检测出的运动向量并且从原始画像中减去相应的参考图像来创建预测画像。所得的预测误差被发出到DCT单元33a。
DCT单元33a进行DCT变换以将预测误差转换成一组变换系数。量化器33b根据由系统控制器36指定的量化参数对变换系数进行量化。其结果被提供给反量化器34a和可变长编码器33c。可变长编码器33c用哈夫曼编码算法对量化后的变换系数进行压缩,从而产生编码后的数据。
另一方面反量化器34a根据量化参数对量化后的变换系数进行反量化并且将结果提供给后继的IDCT单元34b。IDCT单元34b通过反DCT过程再生成预测误差信号。通过向预测画像加入再生成的预测误差信号,运动补偿器12产生本地解码的画像并且存储于帧存储器35中以在下一编码周期中用作参考画像。
图49示出了采用根据本发明第二实施例的运动估计和补偿设备20的视频编码设备的结构。图示的视频编码设备30-2除了它的运动估计器/补偿器20a和色度边缘检测器37外,基本上具有和图48中所解释的视频编码设备30-1同样的结构。运动估计器/补偿器20a提供了本发明第二实施例的功能。色度边缘检测器37是新构件,用于在运动估计器/补偿器20a需要确定选择帧预测模式还是场预测模式以寻找运动向量的时候检测宏块中的色度边缘。
色度边缘检测器37检查由输入画像转换器32提供的视频信号以寻找每个宏块中的色度边缘并且将结果存储于帧存储器35中。运动向量估计器21由从帧存储器35读出的原始画像、参考画像和色度边缘条件来估计运动向量。请参见本部分的前一半以得到进一步的细节。
结论
如由上面的解释可看到的,本发明避免了色度分量中的偏差问题而无需增加电路规模或者处理负荷。为实现上述目的,第一实施例在选取具有最小SAD值的最佳匹配块以计算运动向量之前向和参考画像中的候选块相应的SAD值加上适当的偏移量。该途径只需向现有的运动向量估计电路添加很小的电路。另一方面,第二实施例提供了色度边缘检测器以检测画像中的尖锐颜色对比,其用来确定色度偏差是否实际上会导致预测误差增加。第二实施例仅当色度边缘检测器建议从帧预测模式切换到场预测模式时才从帧预测模式切换到场预测模式,否则不进行专门的运动向量校正。以这种方式,第二实施例使编码后的视频数据量的增加最小化。
虽然上述第一和第二实施例是分开描述的,但是应该理解在实际实现中此两个实施例可以组合起来。例如,可以构建如下的运动估计和补偿设备,所述运动估计和补偿设备用第一实施例以普通的方式来控制候选的运动向量并且还采用第二实施例来应对第一实施例不能管理的异常情况。
前面所述的应该仅视为对本发明的原理的示例说明。而且,由于本领域的技术人员很容易想到各种改变和变化,所以不要将本发明局限于所示出和所描述的具体构造和应用,因此所有适当的改变和等价物都可以视为落入本发明权利要求和其等价物的范围内。

Claims (20)

1.一种用于估计运动向量和进行运动补偿预测的运动估计和补偿设备,所述设备包括:
运动向量估计器,所述运动向量估计器通过如下操作估计给定隔行扫描色度亚采样的视频信号中代表运动的运动向量:通过将亮度中的绝对差值和用作相似性度量来将参考画像中的每个候选块和原始画像中的目标块进行比较,选取最小化所述绝对差值和的最佳匹配候选块,并且确定所述最佳匹配候选块相对于所述目标块的位移,其中每个候选块的绝对差值和被加上一个从与该候选块相关联的候选运动向量的垂直分量确定的偏移量,由此色度分量中的偏差得到抑制;和
运动补偿器,所述运动补偿器利用所述估计出的运动向量来产生预测画像,并通过从所述原始画像中减去所述预测画像来计算预测误差。
2.根据权利要求1所述的运动估计和补偿设备,其中:
每个候选运动向量具有垂直分量4n+0、4n+1、4n+2或者4n+3,其中n为整数,所述垂直分量代表与该候选运动向量相关联的候选块的垂直位移;
所述运动向量估计器向位于4n+0的候选块的绝对差值和加上零偏移量;以及
所述运动向量估计器向位于4n+1、4n+2或者4n+3的候选块的绝对差值和加上非零偏移量,所述非零偏移量是从传输比特率、量化参数、色度边缘状况和色度分量的预测误差中的至少一个自适应地确定的。
3.根据权利要求2所述的运动估计和补偿设备,其中:
当传输比特率低并且被进行编码的画像具有尖锐的色度边缘时,所述运动向量估计器向位于4n+1或者4n+3的候选块的绝对差值和加上第一偏移量,并且向位于4n+2的候选块的绝对差值和加上第二偏移量;
当4n+0处的候选块的平均绝对差值与4n+1或者4n+3处的候选块的平均绝对差值之间的差等于或者小于第一阈值时,所述第一偏移量被确定以使得被加上所述第一偏移量的位于4n+1或者4n+3的候选块的绝对差值大于4n+0处的候选块的绝对差值,由此4n+0处的该候选块将被选作所述最佳匹配候选块;
当4n+0处的候选块的平均绝对差值与4n+2处的候选块的平均绝对差值之间的差等于或者小于比所述第一阈值大的第二阈值时,所述第二偏移量被确定以使得被加上所述第二偏移量的位于4n+2的候选块的绝对差值大于4n+0处的候选块的绝对差值,由此4n+0处的该候选块将被选作所述最佳匹配候选块;以及
当传输比特率高时,所述运动向量估计器向位于4n+1、4n+2或者4n+3的候选块的绝对差值和加上第三偏移量,其中所述第三偏移量小于所述第一偏移量和第二偏移量,以减小4n+0处的候选块的优先选择机会。
4.根据权利要求2所述的运动估计和补偿设备,其中:
所述运动补偿器分别为亮度分量和色度分量计算所述原始画像和预测画像之间的绝对差值和的值;
所述运动向量估计器为4n+1和4n+3处的候选块计算第一偏移量OfsA,以及为4n+2处的候选块计算第二偏移量OfsB,假设α×Cdiff大于Vdiff,其中Vdiff是亮度分量的绝对差值和,Cdiff是色度分量的绝对差值和,并且α是校正系数;
所述第一偏移量OfsA如下给出:
OfsA = Σ ( α × Cdiff ( i ) - Vdiff ( i ) ) n A
其中i是垂直向量分量为4n+1或者4n+3的候选块的标识符,nA代表这样的候选块的数目;并且
所述第二偏移量OfsB如下给出:
OfsB = Σ ( α × Cdiff ( j ) - Vdiff ( j ) ) n B
其中j是垂直向量分量为4n+2的候选块的标识符,nB代表这样的候选块的数目。
5.根据权利要求1所述的运动估计和补偿设备,其中当提供非隔行视频信号而不是所述隔行扫描色度亚采样的视频信号的时候,或者当隔行视频信号是通过3:2下拉转换从逐行视频信号产生的时候,所述运动向量估计器停止加上偏移量。
6.一种视频编码设备,包括:
a)输入画像处理器,所述输入画像处理器将数字视频信号从4:2:2格式转换成4:2:0格式;
b)运动估计器/补偿器,所述运动估计器/补偿器包括:
运动向量估计器,所述运动向量估计器通过如下操作估计给定隔行扫描色度亚采样的视频信号的亮度分量中的运动向量:通过将绝对差值和用作相似性度量来将参考画像中的每个候选块和原始画像中的目标块进行比较,选取最小化所述绝对差值和的最佳匹配候选块,并且确定所述最佳匹配候选块相对于所述目标块的位移,其中每个候选块的绝对差值和被加上一个从与该候选块相关联的候选运动向量的垂直分量确定的偏移量,由此色度分量中的偏差得到抑制,和
运动补偿器,所述运动补偿器利用所述估计出的运动向量来产生预测画像,通过从所述原始画像中减去所述预测画像来计算预测误差,并通过向所述预测画像加上再生成的预测误差来产生本地解码后的画像;
c)编码器,所述编码器包括:
离散余弦变换单元,所述离散余弦变换单元对所述预测误差应用离散余弦变换以得到变换系数,
量化器,所述量化器量化所述变换系数,和
可变长编码器,所述可变长编码器通过对所述量化后的变换系数进行可变长编码来产生编码后的数据流;
d)本地解码器,所述本地解码器包括:
反量化器,所述反量化器对所述量化后的变换系数进行反量化,和
反离散余弦变换单元,所述反离散余弦变换单元通过对所述反量化后的变换系数应用反离散余弦变换处理来产生所述再生成的预测误差;和
e)帧存储器,所述帧存储器存储多个帧画像。
7.根据权利要求6所述的视频编码设备,其中:
每个候选运动向量具有垂直分量4n+0、4n+1、4n+2或者4n+3,其中n为整数,所述垂直分量代表与该候选运动向量相关联的候选块的垂直位移;
所述运动向量估计器向位于4n+0的候选块的绝对差值和加上零偏移量;以及
所述运动向量估计器向位于4n+1、4n+2或者4n+3的候选块的绝对差值和加上非零偏移量,所述非零偏移量是从传输比特率、量化参数、色度边缘条件和色度分量的预测误差中的至少一个自适应地确定的。
8.根据权利要求7所述的视频编码设备,其中:
当传输比特率低并且所述原始画像含有尖锐的色度边缘时,所述运动向量估计器向位于4n+1或者4n+3的候选块的绝对差值和加上第一偏移量,并且向位于4n+2的候选块的绝对差值和加上第二偏移量;
当4n+0处的候选块的平均绝对差值与4n+1或者4n+3处的候选块的平均绝对差值之间的差等于或者小于第一阈值时,所述第一偏移量被确定以使得被加上所述第一偏移量的位于4n+1或者4n+3的候选块的绝对差值大于4n+0处的候选块的绝对差值,由此4n+0处的该候选块将被选作所述最佳匹配候选块;
当4n+0处的候选块的平均绝对差值与4n+2处的候选块的平均绝对差值之间的差等于或者小于比所述第一阈值大的第二阈值时,所述第二偏移量被确定以使得被加上所述第二偏移量的位于4n+2的候选块的绝对差值大于4n+0处的候选块的绝对差值,由此4n+0处的该候选块将被选作所述最佳匹配候选块;以及
当传输比特率高时,所述运动向量估计器向位于4n+1、4n+2或者4n+3的候选块的绝对差值和加上第三偏移量,其中所述第三偏移量小于所述第一偏移量和第二偏移量,以减小4n+0处的候选块的优先选择机会。
9.根据权利要求7所述的视频编码设备,其中:
所述运动补偿器分别为亮度分量和色度分量计算所述原始画像和预测画像之间的绝对差值和的值;
所述运动向量估计器为4n+1和4n+3处的候选块计算第一偏移量OfsA,以及为4n+2处的候选块计算第二偏移量OfsB,假设α×Cdiff大于Vdiff,其中Vdiff是亮度分量的绝对差值和,Cdiff是色度分量的绝对差值和,并且α是校正系数;
所述第一偏移量OfsA如下给出:
OfsA = Σ ( α × Cdiff ( i ) - Vdiff ( i ) ) n A
其中i是垂直向量分量为4n+1或者4n+3的候选块的标识符,nA代表这样的候选块的数目;并且
所述第二偏移量OfsB如下给出:
OfsB = Σ ( α × Cdiff ( j ) - Vdiff ( j ) ) n B
其中j是垂直向量分量为4n+2的候选块的标识符,nB代表这样的候选块的数目。
10.根据权利要求6所述的视频编码设备,其中当接收非隔行视频信号而不是所述隔行扫描色度亚采样的视频信号时,或者当接收到通过3:2下拉转换从逐行视频信号产生的隔行视频信号时,所述运动向量估计器停止加上偏移量。
11.一种用于估计运动向量和进行运动补偿预测的运动估计和补偿设备,包括:
运动向量估计器,所述运动向量估计器通过如下操作估计隔行扫描色度亚采样的视频信号的亮度分量中的运动向量:在帧预测模式中估计帧向量,然后依赖于所述估计出的帧向量的垂直分量,从帧预测模式切换到场预测模式以估计场向量,由此色度分量中的偏差得到抑制;和
运动补偿器,所述运动补偿器利用被找到的所述运动向量来产生预测画像,并通过从原始画像中减去所述预测画像来计算预测误差。
12.根据权利要求11所述的运动估计和补偿设备,其中:
所述帧向量具有垂直分量4n+0、4n+1、4n+2或者4n+3,其中n为整数;
当所述垂直分量是4n+0时,所述运动向量估计器选取所述帧向量作为所述运动向量;以及
当所述垂直分量是4n+1、4n+2或者4n+3时,所述运动向量估计器从帧预测模式切换到场预测模式以估计场向量,并选取所述估计出的场向量作为所述运动向量。
13.根据权利要求12所述的运动估计和补偿设备,还包括色度边缘检测器,所述色度边缘检测器确定原始画像中的目标块是否具有可以引起色度偏差的尖锐色度边缘,
其中当所述帧向量的所述垂直分量是4n+1、4n+2或者4n+3时,并且当所述色度边缘检测器指示存在尖锐的色度边缘时,所述运动向量估计器从所述帧预测模式切换到所述场预测模式。
14.根据权利要求12所述的运动估计和补偿设备,其中:
所述运动向量估计器输出顶场运动向量和底场运动向量,所述顶场运动向量和底场运动向量的每个具有场选择位,所述场选择位指示是参考画像中的顶场还是底场被选作参考场;
当所述帧向量的所述向量分量是4n+1时,所述顶场运动向量具有垂直分量2n并且伴有指示“底场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位;
当所述帧向量的所述向量分量是4n+2时,所述顶场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“底场”的场选择位;以及
当所述帧向量的所述向量分量是4n+3时,所述顶场运动向量具有垂直分量2n+2并且伴有指示“底场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位。
15.根据权利要求11所述的运动估计和补偿设备,其中当接收非隔行视频信号而不是所述隔行扫描色度亚采样的视频信号时,或者当接收通过3:2下拉转换从逐行视频信号产生的隔行视频信号时,所述运动向量估计器停止从帧预测模式到场预测模式的切换。
16.一种视频编码设备,包括:
a)输入画像处理器,所述输入画像处理器将数字视频信号从4:2:2格式转换成4:2:0格式;
b)运动估计器/补偿器,所述运动估计器/补偿器包括:
运动向量估计器,所述运动向量估计器通过如下操作估计4:2:0格式的隔行视频信号的亮度分量中的运动向量:在帧预测模式中估计帧向量,然后依赖于所述估计出的帧向量的垂直分量,从帧预测模式切换到场预测模式以估计场向量,由此色度分量中的偏差得到抑制,和
运动补偿器,所述运动补偿器利用所述估计出的运动向量来产生预测画像,通过从原始画像中减去所述预测画像来计算预测误差,并通过向所述预测画像加上再生成的预测误差来产生本地解码后的画像;
c)编码器,所述编码器包括:
离散余弦变换单元,所述离散余弦变换单元对所述预测误差应用离散余弦变换以得到变换系数,
量化器,所述量化器量化所述变换系数,和
可变长编码器,所述可变长编码器通过对所述量化后的变换系数进行可变长编码来产生编码后的数据流;
d)本地解码器,所述本地解码器包括:
反量化器,所述反量化器对所述量化后的变换系数进行反量化,和
反离散余弦变换单元,所述反离散余弦变换单元通过对所述反量化后的变换系数应用反离散余弦变换处理来产生所述再生成的预测误差;和
e)帧存储器,所述帧存储器存储多个帧画像。
17.根据权利要求16所述的视频编码设备,其中:
所述帧向量具有垂直分量4n+0、4n+1、4n+2或者4n+3,其中n为整数;
当所述垂直分量是4n+0时,所述运动向量估计器选取所述帧向量作为所述运动向量;以及
当所述垂直分量是4n+1、4n+2或者4n+3时,所述运动向量估计器从帧预测模式切换到场预测模式以估计场向量,并选取所述估计出的场向量作为所述运动向量。
18.根据权利要求17所述的视频编码设备,还包括色度边缘检测器,所述色度边缘检测器确定原始画像中的目标块是否具有可以引起色度偏差的尖锐色度边缘,
其中当所述帧向量的所述垂直分量是4n+1、4n+2或者4n+3时,并且当所述色度边缘检测器指示存在尖锐的色度边缘时,所述运动向量估计器从所述帧预测模式切换到所述场预测模式。
19.根据权利要求17所述的视频编码设备,其中:
所述运动向量估计器输出顶场运动向量和底场运动向量,所述顶场运动向量和底场运动向量的每个具有场选择位,所述场选择位指示是参考画像中的顶场还是底场是否被选作参考场;
当所述帧向量的所述向量分量是4n+1时,所述顶场运动向量具有垂直分量2n并且伴有指示“底场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位;
当所述帧向量的所述向量分量是4n+2时,所述顶场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“底场”的场选择位;以及
当所述帧向量的所述向量分量是4n+3时,所述顶场运动向量具有垂直分量2n+2并且伴有指示“底场”的场选择位,并且所述底场运动向量具有垂直分量2n+1并且伴有指示“顶场”的场选择位。
20.根据权利要求16所述的视频编码设备,其中当接收非隔行视频信号而不是所述隔行扫描的色度亚采样的视频信号时,或者当接收通过3:2下拉转换从逐行视频信号产生的隔行视频信号时,所述运动向量估计器停止从帧预测模式到场预测模式的切换。
CNB2004101016874A 2004-07-27 2004-12-20 具有基于垂直分量的运动向量校正的运动估计和补偿设备 Expired - Fee Related CN100546395C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004219083A JP4145275B2 (ja) 2004-07-27 2004-07-27 動きベクトル検出・補償装置
JP219083/2004 2004-07-27

Publications (2)

Publication Number Publication Date
CN1728832A CN1728832A (zh) 2006-02-01
CN100546395C true CN100546395C (zh) 2009-09-30

Family

ID=34930928

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2004101016874A Expired - Fee Related CN100546395C (zh) 2004-07-27 2004-12-20 具有基于垂直分量的运动向量校正的运动估计和补偿设备

Country Status (6)

Country Link
US (1) US20060023788A1 (zh)
EP (2) EP1622387B1 (zh)
JP (1) JP4145275B2 (zh)
KR (1) KR100649463B1 (zh)
CN (1) CN100546395C (zh)
DE (1) DE602004022280D1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109597488A (zh) * 2018-12-12 2019-04-09 海南大学 空间展示平台角度距离主动适应算法

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7506267B2 (en) * 2003-12-23 2009-03-17 Intel Corporation Compose rate reduction for displays
US20060120612A1 (en) * 2004-12-08 2006-06-08 Sharath Manjunath Motion estimation techniques for video encoding
US8780957B2 (en) 2005-01-14 2014-07-15 Qualcomm Incorporated Optimal weights for MMSE space-time equalizer of multicode CDMA system
CN101171843B (zh) * 2005-03-10 2010-10-13 高通股份有限公司 用于多媒体处理的内容分类
US10555775B2 (en) * 2005-05-16 2020-02-11 Intuitive Surgical Operations, Inc. Methods and system for performing 3-D tool tracking by fusion of sensor and/or camera derived data during minimally invasive robotic surgery
JP2007028393A (ja) * 2005-07-20 2007-02-01 Matsushita Electric Ind Co Ltd 双方向予測符号化ピクチャの直接モードブロックの動きベクトルを求める方法
US8761259B2 (en) * 2005-09-22 2014-06-24 Qualcomm Incorporated Multi-dimensional neighboring block prediction for video encoding
US8879635B2 (en) * 2005-09-27 2014-11-04 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US8654848B2 (en) * 2005-10-17 2014-02-18 Qualcomm Incorporated Method and apparatus for shot detection in video streaming
US20070206117A1 (en) * 2005-10-17 2007-09-06 Qualcomm Incorporated Motion and apparatus for spatio-temporal deinterlacing aided by motion compensation for field-based video
US8948260B2 (en) * 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US20070171280A1 (en) * 2005-10-24 2007-07-26 Qualcomm Incorporated Inverse telecine algorithm based on state machine
US9131164B2 (en) * 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus
US8379723B2 (en) * 2006-06-27 2013-02-19 Intel Corporation Chroma motion vector processing apparatus, system, and method
JP2008042332A (ja) * 2006-08-02 2008-02-21 Toshiba Corp 補間フレーム作成方法及び補間フレーム作成装置
JP4762095B2 (ja) * 2006-09-20 2011-08-31 株式会社東芝 画像復号装置及び画像復号方法
JP2009010492A (ja) * 2007-06-26 2009-01-15 Hitachi Ltd 画像復号化装置及び画像変換回路
JP4678015B2 (ja) * 2007-07-13 2011-04-27 富士通株式会社 動画像符号化装置及び動画像符号化方法
CN101415122B (zh) * 2007-10-15 2011-11-16 华为技术有限公司 一种帧间预测编解码方法及装置
KR101336951B1 (ko) * 2007-11-02 2013-12-04 삼성전자주식회사 휴대 단말기 및 그 파노라마 이미지 촬영 모드 수행 방법
US9456192B2 (en) * 2007-12-14 2016-09-27 Cable Television Laboratories, Inc. Method of coding and transmission of progressive video using differential signal overlay
US8355443B2 (en) * 2008-03-27 2013-01-15 CSR Technology, Inc. Recursive motion for motion detection deinterlacer
US8345996B2 (en) * 2008-07-07 2013-01-01 Texas Instruments Incorporated Determination of a field referencing pattern
JP2010187116A (ja) * 2009-02-10 2010-08-26 Toshiba Corp 動画処理装置
JP5115498B2 (ja) * 2009-03-05 2013-01-09 富士通株式会社 画像符号化装置、画像符号化制御方法およびプログラム
GB2469679B (en) * 2009-04-23 2012-05-02 Imagination Tech Ltd Object tracking using momentum and acceleration vectors in a motion estimation system
US8515203B2 (en) * 2009-06-25 2013-08-20 Pixart Imaging Inc. Image processing method and image processing module for a pointing device
CN101883286B (zh) * 2010-06-25 2012-12-05 无锡中星微电子有限公司 运动估计中的校准方法及装置、运动估计方法及装置
KR101846603B1 (ko) * 2011-02-10 2018-04-06 선 페이턴트 트러스트 동화상 부호화 방법, 동화상 부호화 장치, 동화상 복호 방법, 동화상 복호 장치, 및 동화상 부호화 복호 장치
US20120207212A1 (en) * 2011-02-11 2012-08-16 Apple Inc. Visually masked metric for pixel block similarity
US9363509B2 (en) 2011-03-03 2016-06-07 Electronics And Telecommunications Research Institute Method for determining color difference component quantization parameter and device using the method
WO2012118359A2 (ko) 2011-03-03 2012-09-07 한국전자통신연구원 색차 성분 양자화 매개 변수 결정 방법 및 이러한 방법을 사용하는 장치
ES2685945T3 (es) 2011-04-12 2018-10-15 Sun Patent Trust Procedimiento de codificación de video de movimiento, y aparato de codificación de video de movimiento
JP6094973B2 (ja) * 2011-05-20 2017-03-15 サン パテント トラスト 色平面内予測を用いて映像を符号化および復号する方法および装置
US9485518B2 (en) 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
EP4007276B1 (en) 2011-05-27 2023-07-05 Sun Patent Trust Apparatus, method and program for coding moving pictures
CN103548351B (zh) 2011-05-31 2017-07-11 太阳专利托管公司 运动图像解码方法及运动图像解码装置
JP5729817B2 (ja) * 2011-06-29 2015-06-03 日本電信電話株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、動画像符号化プログラム及び動画像復号プログラム
PL2728878T3 (pl) 2011-06-30 2020-06-15 Sun Patent Trust Sposób dekodowania obrazów, sposób kodowania obrazów, urządzenie do dekodowania obrazów, urządzenie do kodowania obrazów oraz urządzenie do kodowania/dekodowania obrazów
EP2741499A4 (en) 2011-08-03 2014-12-10 Panasonic Ip Corp America VIDEO CODING METHOD, VIDEO CODING METHOD, VIDEO CODING DEVICE, VIDEO ENCODING DEVICE AND VIDEO ENCODING / DECODING DEVICE
IN2014CN02602A (zh) 2011-10-19 2015-08-07 Panasonic Corp
JP2013172323A (ja) * 2012-02-21 2013-09-02 Toshiba Corp 動き検出装置、画像処理装置および画像処理システム
EP2813079B1 (en) * 2012-06-20 2019-08-07 HFI Innovation Inc. Method and apparatus of inter-layer prediction for scalable video coding
JP2014143488A (ja) * 2013-01-22 2014-08-07 Nikon Corp 画像圧縮装置、画像復号装置およびプログラム
US20150023436A1 (en) 2013-07-22 2015-01-22 Texas Instruments Incorporated Method and apparatus for noise reduction in video systems
KR101582093B1 (ko) * 2014-02-21 2016-01-04 삼성전자주식회사 단층 촬영 장치 및 그에 따른 단층 영상 복원 방법
US10277921B2 (en) * 2015-11-20 2019-04-30 Nvidia Corporation Hybrid parallel decoder techniques
US10764589B2 (en) * 2018-10-18 2020-09-01 Trisys Co., Ltd. Method and module for processing image data
WO2020084465A1 (en) 2018-10-22 2020-04-30 Beijing Bytedance Network Technology Co., Ltd. Simplified coding of generalized bi-directional index
CN112333397B (zh) * 2020-03-26 2022-05-13 华为技术有限公司 图像处理方法和电子设备
CN112632426B (zh) * 2020-12-22 2022-08-30 新华三大数据技术有限公司 网页处理方法及装置
CN114554155A (zh) * 2022-02-25 2022-05-27 北京机电工程研究所 一种远程图像采集装置
CN114577498B (zh) * 2022-02-28 2024-05-14 北京小米移动软件有限公司 空调转矩补偿参数的测试方法及装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04207788A (ja) * 1990-11-30 1992-07-29 Sony Corp 画像信号符号化装置及び方法
US6005980A (en) 1997-03-07 1999-12-21 General Instrument Corporation Motion estimation and compensation of video object planes for interlaced digital video
DE69835431T2 (de) * 1997-06-03 2007-06-06 Hitachi, Ltd. Bildkodier-und-dekodierverfahren und-vorrichtung
JP3712906B2 (ja) 2000-02-24 2005-11-02 日本放送協会 動きベクトル検出装置
JP3797209B2 (ja) * 2001-11-30 2006-07-12 ソニー株式会社 画像情報符号化方法及び装置、画像情報復号方法及び装置、並びにプログラム
US7116831B2 (en) * 2002-04-10 2006-10-03 Microsoft Corporation Chrominance motion vector rounding
JP4100067B2 (ja) 2002-07-03 2008-06-11 ソニー株式会社 画像情報変換方法及び画像情報変換装置
JP3791922B2 (ja) * 2002-09-06 2006-06-28 富士通株式会社 動画像復号化装置及び方法
US7057664B2 (en) * 2002-10-18 2006-06-06 Broadcom Corporation Method and system for converting interlaced formatted video to progressive scan video using a color edge detection scheme
JP2004219083A (ja) 2003-01-09 2004-08-05 Akashi Corp 振動発生機

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109597488A (zh) * 2018-12-12 2019-04-09 海南大学 空间展示平台角度距离主动适应算法
CN109597488B (zh) * 2018-12-12 2019-12-10 海南大学 空间展示平台角度距离主动适应方法

Also Published As

Publication number Publication date
CN1728832A (zh) 2006-02-01
US20060023788A1 (en) 2006-02-02
KR20060010689A (ko) 2006-02-02
EP1622387A3 (en) 2007-10-17
EP1622387B1 (en) 2009-07-29
EP1622387A2 (en) 2006-02-01
KR100649463B1 (ko) 2006-11-28
DE602004022280D1 (de) 2009-09-10
JP4145275B2 (ja) 2008-09-03
JP2006041943A (ja) 2006-02-09
EP2026584A1 (en) 2009-02-18

Similar Documents

Publication Publication Date Title
CN100546395C (zh) 具有基于垂直分量的运动向量校正的运动估计和补偿设备
CN103222265B (zh) 运动图像编码装置、运动图像解码装置、运动图像编码方法以及运动图像解码方法
US8718143B2 (en) Optical flow based motion vector estimation systems and methods
KR100962759B1 (ko) 동화상 신호의 부호화 방법 및 복호화 방법
US20160142729A1 (en) Coding method based on multi-hypothesis motion compensation for p-frame
US20110129016A1 (en) Image encoding device, image decoding device, image encoding method, and image decoding method
JPWO2011125211A1 (ja) 画像符号化方法及び画像復号化方法
KR20060047595A (ko) 적응 시간적인 예측을 채용하는 움직임 벡터 추정
KR20010075478A (ko) 순차식 칼라 디스플레이에서의 이미지 평면의 움직임보상을 위한 시스템 및 방법
JPH07193823A (ja) 映像データ・ブロック変換システム
CN1604653B (zh) 差分编码方法
KR20060047590A (ko) 움직임 벡터 결정 방법, 비디오 화상 시퀀스 인코딩 방법,비디오 화상 시퀀스 보간 방법, 움직임 추정기, 인코더 및보간기
KR100246167B1 (ko) 듀얼프라임 움직임 추정시스템 및 방법
US20040240550A1 (en) Moving picture signal coding method, decoding method, coding apparatus, and decoding apparatus
CN112806014B (zh) 图像编码/解码方法和装置
KR970000761B1 (ko) 소형 디지탈 방식 고선명 텔레비젼
US7068721B2 (en) Method and configuration for coding a digitized picture, and method and configuration for decoding a digitized picture
JP6795666B2 (ja) 画像符号化方法及び画像復号化方法
JP6609004B2 (ja) 画像符号化方法及び画像復号化方法
JP6370977B2 (ja) 画像符号化方法及び画像復号化方法
JP6271694B2 (ja) 画像符号化方法及び画像復号化方法
JP6196341B2 (ja) 画像符号化方法及び画像復号化方法
Wu et al. Combined adaptive-fixed interpolation with multi-directional filters
JP5509398B1 (ja) 画像符号化方法及び画像復号化方法
JP2014131295A (ja) 画像符号化方法及び画像復号化方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: FUJITSU MICROELECTRONICS CO., LTD.

Free format text: FORMER OWNER: FUJITSU LIMITED

Effective date: 20081024

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20081024

Address after: Tokyo, Japan, Japan

Applicant after: Fujitsu Microelectronics Ltd.

Address before: Kanagawa

Applicant before: Fujitsu Ltd.

C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20090930

Termination date: 20101220