CN101005620B - 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新 - Google Patents

为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新 Download PDF

Info

Publication number
CN101005620B
CN101005620B CN 200710006359 CN200710006359A CN101005620B CN 101005620 B CN101005620 B CN 101005620B CN 200710006359 CN200710006359 CN 200710006359 CN 200710006359 A CN200710006359 A CN 200710006359A CN 101005620 B CN101005620 B CN 101005620B
Authority
CN
China
Prior art keywords
frame
field
motion vector
macro block
coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN 200710006359
Other languages
English (en)
Other versions
CN101005620A (zh
Inventor
P·苏
T·W·赫尔科比
林志隆
S·斯里尼瓦杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Priority to CN 200710006359 priority Critical patent/CN101005620B/zh
Publication of CN101005620A publication Critical patent/CN101005620A/zh
Application granted granted Critical
Publication of CN101005620B publication Critical patent/CN101005620B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

在一方面,编码器/解码器接收关于隔行扫描帧编码的前向预测图像中的宏块的四个半帧运动矢量的信息,并使用四个半帧运动矢量处理该宏块。在另一方面,解码器解码隔行扫描帧的跳过宏块。跳过宏块仅使用一个运动矢量,且没有运动矢量差分信息,且缺少残差信息。跳过宏块信号指示1运动矢量编码。在另一方面,解码器接收关于宏块(例如,4:2:0宏块)的多个亮度运动矢量的亮度运动矢量信息,并通过在亮度运动矢量信息上执行至少一个计算来对每一亮度运动矢量导出色度运动矢量,从而维持了宏块的色度运动矢量与亮度运动矢量的1∶1比。例如,解码器接收宏块的四个亮度半帧运动矢量,并导出宏块的四个色度运动矢量。

Description

为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新
本申请是提交于2004年9月3日,申请号为200480025454.9,题为“为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新”的专利申请的分案申请。
版权授权
本专利文档公开内容的一部分包含受版权保护的材料。版权所有人不反对本专利公开内容的任何人如其出现在(美国)专利和商标局专利文件或记录中那样对其进行复制,但无论如何都保留所有版权。
技术领域
描述了用于逐行扫描和隔行扫描视频编码和解码的技术和工具。例如,编码器用信号表示隔行扫描帧编码图像中的宏块的宏块模式信息。作为另一示例,编码器/解码器编码和解码隔行扫描帧编码图像中的亮度和色度运动矢量。
背景
数字视频消耗了大量的存储和传输容量。典型的原始数字视频序列包括每秒15或30个图像。每一图像可包括几万或者几十万个像素(也称为pel)。每一像素表示图像中的一个微小元素。在原始形式中,计算机通常用24个比特或更多来表示一个像素。由此,典型的原始数字视频序列的每秒的比特数,即比特率可以是5百万比特/秒或更多。
大多数计算机和计算机网络缺乏处理原始数字视频的资源。为此,工程师使用压缩(也称为编码或写码)来降低数字视频的比特率。压缩可以是无损的,其中视频质量不受损害,但是比特率的降低受到视频复杂度的限制。或者,压缩可以是有损的,其中视频质量受到损害,但是比特率的降低更显著。解压反转了压缩。
一般而言,视频压缩技术包括“帧内”压缩和“帧间”或预测压缩。帧内压缩技术压缩个别的图像,通常称为I帧或关键帧。帧间压缩技术参考前导和/或后续帧来压缩各帧,且帧间压缩的帧通常被称为预测帧、P帧或B帧。
I.Windows Media Video版本8和9中的帧间压缩
微软公司的Windows Media Video(Windows媒体视频)版本8[“WMV8”]包括视频编码器和视频解码器。WMV8编码器使用帧内和帧间压缩,而WMV8解码器使用帧内和帧间解压。Windows Media Video版本9[“WMV9”]对许多操作使用类似的体系结构。
WMV8编码器中的帧间压缩使用基于块的经运动补偿的预测编码,之后是残留误差的变换编码。图1和2示出了用于WMV8编码器中的预测帧的基于块的帧间压缩。具体地,图1示出了用于预测帧110的运动估计,图2示出了用于预测帧的经运动补偿的块的预测残差的压缩。
例如,在图1中,WMV8编码器为预测帧110中的宏块115计算运动矢量。为计算运动矢量,编码器在参考帧130的搜索区域135中进行搜索。在搜索区域135中,编码器将来自预测帧110的宏块115与各种候选宏块进行比较,以找出作为良好匹配的候选宏块。编码器输出指定匹配宏块的运动矢量(熵编码的)的信息。
由于运动矢量值通常与空间上的周围运动矢量的值相关,因此用于发送运动矢量信息的数据的压缩可通过基于相邻宏块的运动矢量选择运动矢量预测值,并使用运动矢量预测值为当前宏块预测运动矢量来实现。编码器可对运动矢量和预测值之间的差分进行编码。在通过将差分加到预测值重构运动矢量之后,解码器使用运动矢量,利用来自参考帧130的信息来为宏块115计算预测宏块,参考帧130是在编码器和解码器处可用的先前重构的帧。预测很少是完美的,因此编码器通常对预测宏块和宏块115本身之间的像素差块(也称为误差或残差块)进行编码。
图2示出了WMV8编码器中的误差块235的计算和编码的示例。误差块235是预测的块215和原始的当前块225之差。编码器向误差块235应用离散余弦变换[“DCT”]240,得到8×8的系数块245。编码器然后量化(250)该DCT系数,得到8×8的经量化的DCT系数块255。编码器将8×8的块255扫描(260)成一维数组265,使得系数一般从最低频率到最高频率排序。编码器使用行程长度编码270的变更对扫描的系数进行熵编码。编码器从一个或多个“行程/等级/最后”表275中选择熵码,并输出该熵码。
图3示出了用于帧间编码块的对应解码过程300的示例。在图3的概述中,解码器使用可变长度解码310,利用一个或多个“行程/级别/最后”表315和行程长度解码320,对表示预测残差的熵编码的信息进行解码(310、320)。解码器将储存熵编码的信息的一维数组325反扫描(330)成二维块335。解码器对该数据进行反量化和离散反余弦变换(共同在340处),得到重构的误差块345。在独立的运动补偿路径中,解码器对从参考帧的偏移使用运动矢量信息355计算预测块365。解码器将预测块365与重构的误差块345组合(370),以形成重构块375。
原始的和重构的帧之间的改变量是失真,且编码该帧所需的比特数指示了帧速率。失真的量大致与速率成反比。
II.隔行扫描视频和逐行扫描视频
视频帧包含视频信号的空间信息的行。对于逐行扫描视频,这些行包含从一个时刻开始继续通过连续的行直到帧底部的样值。逐行扫描的I帧是帧内编码的逐行扫描视频帧。逐行扫描的P帧是使用前向预测编码的逐行扫描视频帧,而逐行扫描的B帧是使用双向预测编码的逐行扫描视频帧。
典型的隔行扫描视频帧由两个半帧构成,这两个半帧是从不同的时刻开始扫描的。例如,参考图4,隔行扫描的视频帧400包括上半帧410和下半帧420。通常,偶数号的行(上半帧)是从一个时刻(例如,时刻t)开始扫描的,而奇数号的行(下半帧)是从一个不同(通常稍晚)的时刻(例如,时刻t+1)开始扫描的。这一时序可创建隔行扫描视频帧的存在运动的区域中看似锯齿状的特征,因为两个半帧是在不同的时刻开始扫描的。为此,可依照半帧结构对隔行扫描视频帧重新排列,使得奇数行被组合在一起成为一个半帧,而偶数行被组合在一起成为另一半帧。这一排列被称为半帧编码,它在高运动图像中对于降低这一锯齿状边缘的人为因素是非常有用的。另一方面,在静止区域中,隔行扫描视频帧中的图像细节可被更有效地保存,而无需这样的重新排列。因此,通常在静止或低运动的隔行扫描视频帧中使用帧编码,在这样的视频帧中,保存了原始的交错半帧行排列。
典型的逐行扫描视频帧由具有非交错行的内容的一帧构成。与隔行扫描视频相反,逐行扫描视频不将视频帧划分成独立的半帧,且从单个时刻开始,从左到右、从上到下扫描整个帧。
III.早先的WMV编码器和解码器中的P帧编码和解码
编码器和解码器在P帧中使用逐行扫描和隔行扫描编码和解码。在隔行扫描和逐行扫描P帧中,在编码器中通过计算运动矢量和运动矢量预测值之间的差分来编码运动矢量,它是基于相邻运动矢量来计算的。在解码器中,通过将运动矢量差分加到运动矢量预测值来重构运动矢量,它同样也是基于相邻运动矢量来计算的(这次是在解码器中)。由此,当前宏块或当前宏块的半帧的运动矢量预测值是基于候选块来选择的,而运动矢量差分是基于运动矢量预测值来计算的。运动矢量可通过在编码器或解码器侧将运动矢量差分加到所选择的运动矢量预测值来重构。通常,亮度运动矢量是从编码的运动信息中重构的,而色度运动矢量是从重构的亮度运动矢量中导出的。
A.逐行扫描P帧编码和解码
例如,在编码器和解码器中,逐行扫描P帧可包含在1运动矢量(1MV)模式或在4运动矢量(4MV)模式中编码的宏块,或跳过的宏块,其中决策一般是在逐个宏块的基础上作出的。仅具有1MV宏块(且可能有跳过宏块)的P帧被称为1MVP帧,而同时具有1MV和4MV宏块(可能具有跳过宏块)的P帧称成为混合MV P帧。一个亮度运动矢量与每一1MV宏块相关联,且多达四个亮度运动矢量与每一4MV宏块相关联(对每一块有一个亮度运动矢量)。
图5A和5B是示出对1MV逐行扫描P帧中的宏块的候选运动矢量预测值考虑的宏块的位置的图示。候选预测值取自左侧、顶部和右上角的宏块,除了在宏块是行中的最后一个宏块的情况之外。在这一情况下,预测值B取自左上角的宏块,而非右上角。对于其中该帧是一个宏块宽的特殊情况,预测值总是为预测值A(顶部预测值)。当由于宏块在顶行中而使预测值A位于带外时,预测值为预测值C。各种其它规则解决诸如帧内编码预测值等其它特殊情况。
图6A-10示出了为混合MV帧中的1MV或4MV宏块的运动矢量的多达三个候选运动矢量考虑的块或宏块的位置。在以下附图中,较大的方块是宏块边界,而较小的方块是块边界。对于其中帧是一个宏块宽的特殊情况,预测值总是预测值A(顶部预测值)。各种其它规则解决诸如对顶行的4MV宏块的顶行块、顶行的1MV宏块以及帧内编码预测值等其它特殊情况。
图6A和6B是示出为混合MV帧中的1MV当前宏块的候选运动矢量预测值考虑的块位置的图示。相邻宏块可以是1MV或4MV宏块。图6A和6B示出了假定邻块是4MV时候选运动矢量的位置(即,预测值A是对于在当前宏块上方的宏块中的块2的运动矢量,而预测值C是直接在当前宏块左边的宏块中的块1的运动矢量)。如果邻块中的任一块是1MV宏块,则图5A和5B所示的运动矢量预测值被带到整个宏块的运动矢量预测值。如图6B所示,如果宏块是行中的最后一个宏块,则预测值B来自左上角的宏块的块3,而非其它情况下的右上角宏块中的块2。
图7A-10示出了为4MV宏块中的4个亮度块的每一个的候选运动矢量预测值考虑的块位置。图7A和7B是示出为位置0处的块的候选运动矢量预测值考虑的块位置的图示;图8A和8B是示出为位置1处的块的候选运动矢量预测值考虑的块位置的图示;图9是示出为位置2处的块的候选运动矢量预测值考虑的块位置的图示;图10是为位置3处的块的候选运动矢量预测值考虑的块位置的图示。再一次,如果邻块是1MV宏块,则该宏块的运动矢量预测值用于该宏块的各块。
对于其中宏块是行中的第一个宏块的情况,块0的预测值B与该行中其余宏块的块0不同地处理(见图7A和7B)。在这一情况下,预测值B取自直接在当前宏块上方的宏块中的块3,而非如其它情况下取自在当前宏块左上方的宏块中的块3。类似地,对于其中宏块是行中的最后一个宏块的情况,块1的预测值B加以不同的处理(图8A和8B)。在这一情况下,预测值取自直接在当前宏块上方的宏块中的块2,而非如其它情况下取自当前宏块右上方的宏块中的块2。一般而言,如果宏块是在第一个宏块列中,块0和2的预测值C被设为等于0。
B.隔行扫描P帧编码和解码
编码器和解码器对隔行扫描的P帧使用4:1:1的宏块格式,它包含以半帧模式或帧模式编码的宏块,或跳过的宏块,其中决策一般是在逐个宏块的基础上作出的。两个运动矢量与每一半帧编码的帧间编码宏块相关联(对每一半帧有一个运动矢量),而一个运动矢量与每一帧编码的帧间编码宏块相关联。编码器联合编码运动信息,包括水平和垂直运动矢量差分分量,可能还有其它用信号表示的信息。
图11、12和13示出了在编码器和解码器的隔行扫描P帧中,分别用于帧编码的4:1:1宏块和半帧编码的4:1:1宏块的运动矢量预测的候选预测值的示例。图11示出了在隔行扫描的P帧中用于内部位置的当前帧编码的4:1:1宏块(不是宏块行中的第一个或最后一个宏块,不在顶行中)的候选预测值A、B和C。预测值可以从除标记为A、B和C之外的不同候选方向上获得(例如,在诸如当前宏块是行中的第一个宏块或最后一个宏块,或在顶行中的特殊情况下,由于某些预测值对于这些情况是不可用的)。对于当前帧编码的宏块,候选预测值是根据相邻的宏块是半帧编码还是帧编码的来不同地计算的。对于相邻的帧编码的宏块,仅仅取运动矢量作为候选预测值。对于相邻的半帧编码的宏块,通过对上半帧和下半帧运动矢量求平均值来确定候选运动矢量。
图12和13示出了用于半帧中的内部位置的半帧编码的4:1:1宏块中的当前半帧的候选预测值A、B和C。在图12中,当前半帧是下半帧,且相邻宏块中的下半帧运动矢量用作候选预测值。在图13中,当前半帧是上半帧,且相邻宏块中的上半帧运动矢量用作候选预测值。由此,对于当前半帧编码的宏块中的每一半帧,每一半帧的运动矢量候选预测值的数目最多是3,其中每一候选预测值来自与当前半帧相同的半帧类型(例如,上半帧或下半帧)。再一次,当当前宏块是行中的第一个宏块或最后一个宏块,或在顶行中时,由于某些预测值对于这些情况是不可用的,因此应用各种特殊情况(未示出)。
为从一组候选预测值中选出一个预测值,编码器和解码器使用不同的选择算法,诸如三者中的中值(median-of-three)算法。三者中的中值预测过程在图14的伪代码14中描述。
IV.早先的WMV编码器和解码器中的B帧编码和解码
编码器和解码器使用逐行扫描和隔行扫描的B帧。B帧使用来自源视频的两个帧作为参考(或定位)帧,而非P帧中使用的一个定位帧。在典型的B帧的定位帧中,一个定位帧来自时间上的过去,而另一定位帧来自时间上的未来。参考图15,视频序列中的B帧1510具有时间上的先前参考帧1520以及时间上的未来参考帧1530。B帧的已编码比特流通常使用比非B帧的已编码比特流更少的比特数,而同时仍提供类似的视觉质量。解码器也可通过选择不解码或显示B帧来容纳空间和时间限制,因为B帧一般不被用作参考帧。
尽管前向预测帧(例如,P帧)中的宏块只有一个预测方向模式(从前一I或P帧向前),但B帧中的宏块可使用五个不同的预测模式来预测:前向、后向、直接、内插和帧内编码。编码器选择比特流中的不同预测模式并用信号表示。前向模式类似于常规的P帧预测。在前向模式中,宏块是从时间上先前的定位帧中导出的。在后向模式中,宏块是从时间上后续的定位帧中导出的。直接或内插模式中预测的宏块同时使用前向和后向定位帧用于预测。
V.早先的WMV编码器和解码器中用信号表示宏块信息
在编码器和解码器中,隔行扫描的P帧中的宏块可以是三种可能类型中的一种:帧编码的、半帧编码的和跳过的。宏块类型是由帧级和宏块级句法元素的多元素组合来表示的。
对于隔行扫描的P帧,帧级元素INTRLCF指示用于对该帧中的宏块编码的模式。如果INTRLCF=0,则该帧中的所有宏块都是帧编码的。如果INTRLCF=1,则宏块可以是半帧编码或帧编码的。当INTRLCF=1时,INTRLCMB元素存在于帧层中。INTRLCMB是位平面编码的数组,它指示了图像中的每一宏块的半帧/帧编码状态。解码的位平面将每一宏块的隔行扫描的状态表示为1比特值的数组。特定比特的0值指示对应的宏块是以帧模式编码的。1值指示对应的宏块是以半帧模式编码的。
对于帧编码的宏块,宏块级MVDATA元素与宏块中的所有块相关联。MVDATA用信号表示宏块中的块是帧内编码还是帧间编码的。如果它们是帧间编码的,则MVDATA也指示运动矢量差分。
对于半帧编码的宏块,TOPMVDATA元素与该宏块中的上半帧块相关联,而BOTMVDATA元素与该宏块中的下半帧块相关联。TOPMVDATA和BOTMVDATA在每一半帧的第一个块处发送,TOPMVDATA指示上半帧块是帧内编码还是帧间编码的。同样,BOTMVDATA指示下半帧块是帧内编码还是帧间编码的。对于帧间编码的块,TOPMVDATA和BOTMVDATA也指示运动矢量差分信息。
CBPCY元素指示用于宏块中的亮度和色度分量的已编码块模式(CBP)信息。CBPCY元素也指示哪些半帧在比特流中具有运动矢量数据元素。CBPCY和运动矢量数据元素用于指定块是否具有AV系数。如果从MVDATA解码的“最后一个”值指示在要解码的运动矢量之后有数据,则CBPCY对于隔行扫描的P帧的帧编码的宏块存在。如果CBPCY存在,则它解码到6比特字段,对四个Y块中的每一个有一个比特,对两个U块(上半帧和下半帧)有一个比特,且对两个V块(上半帧和下半帧)有一个比特。
CBPCY对半帧编码的宏块总是存在。CBPCY和两个半帧运动矢量数据元素用于确定宏块的块中AC系数的存在。CBPCY的意义与对于比特1、3、4和5的帧编码的宏块相同。即,它们分别指示右上半帧Y块、右下半帧Y块、顶部/底部U块以及顶部/底部V块中AC系数的存在或不存在。对于比特位置0和2,意义略有不同。比特位置0中的0指示TOPMVDATA不存在,且运动矢量预测值用作顶部的半帧块的运动矢量。它也指示左上半帧块不包含任何非零系数。比特位置0中的1指示存在TOPMVDATA。TOPMVDATA指示顶部的半帧块是帧间编码还是帧内编码的,如果是帧间编码,则还指示运动矢量差分。如果从TOPMVDATA中解码的“最后一个”值解码为1,则对于左上半帧块不存在AC系数,否则,对于左上半帧块存在非零AC系数。类似地,上述规则应用于BOTMVDATA和左下半帧块的比特位置2。
VI.早先的WMV编码器和解码器中跳过的宏块
编码器和解码器使用跳过的宏块来降低比特率。例如,编码器在比特流中用信号表示跳过的宏块。当解码器接收到比特流中指示该宏块被跳过的信息(例如,跳过的宏块标志)时,解码器对该宏块跳过残差块信息的解码。相反,解码器使用来自参考帧中共同定位或经运动补偿(用运动矢量预测值)的宏块的对应像素数据来重构宏块。编码器和解码器在多个编码/解码模式之间选择,以对跳过的宏块信息进行编码和解码。例如,跳过的宏块信息在比特流的帧级(例如,在压缩的位平面中)或在宏块级(例如,对每一宏块有一个“跳过”位)上用信号表示。对于位平面编码,编码器和解码器在不同的位平面编码模式之间选择。
一种早先的编码器和解码器将跳过的宏块定义为其运动等于其因果预测的运动且具有零残留误差的预测宏块。另一种早先的编码器和解码器将跳过的宏块定义为具有零运动和零残留误差的预测宏块。
对于跳过的宏块和位平面编码的更多信息,参见2002年12月6日提交的名为“Skip Macroblock Coding(跳过宏块编码)”的美国专利申请第10/321,415号。
VII.早先的WMV编码器和解码器中的色度运动矢量
色度运动矢量导出是视频编码和解码的一个重要方面。因此,用于早先的WMV编码器和解码器的软件使用了舍入和二次采样来从亮度(或“luma”)运动矢量中导出色度(或“chroma”)运动矢量。
A.亮度运动矢量重构
早先的WMV编码器和解码器对于逐行扫描帧中的1MV和4MV宏块,以及隔行扫描帧中的帧编码或半帧编码的宏块重构运动矢量。亮度运动矢量是通过将运动矢量差分加到运动矢量预测值来重构的。在逐行扫描帧的1MV宏块以及隔行扫描帧的帧编码宏块中,单个亮度运动矢量应用于构成该宏块的亮度分量的四个块。在逐行扫描帧的4MV宏块中,宏块中的每一帧间编码的亮度块具有其自己的亮度运动矢量。因此,对于每一4MV宏块有多达4个亮度运动矢量,取决于该宏块中帧间编码的块的数目。在隔行扫描帧的半帧编码宏块中,有两个亮度运动矢量,对每一半帧有一个。
B.色度运动矢量的导出和重构
编码器和解码器对逐行扫描帧使用4:2:0的宏块格式。帧数据包括亮度(“Y”)分量和色度分量(“U”和“V”)。每一宏块包括四个8×8的亮度块(有时候作为一个16×16的宏块来处理)以及两个8×8的色度块。图16示出了4:2:0YUV采样网格。图16的4:2:0YUV采样网格示出了宏块的亮度和色度样值之间的空间关系。色度样值的分辨率在水平(x)和垂直(y)方向上都是亮度样值分辨率的一半。由此,为从亮度网格上的对应距离中导出色度网格上的距离,早先的WMV编码器和解码器将亮度运动矢量分量除以2。这是在逐行扫描帧中从亮度运动矢量中导出色度运动矢量时的下采样步骤的基础。
编码器和解码器用两个步骤对逐行扫描帧中的色度矢量进行重构。首先,通过适当地组合和比例缩放亮度运动矢量来获得名义色度运动矢量。其次,在比例缩放之后可任选地执行舍入来减少解码时间。
例如,在1MV宏块中,依照以下伪代码,通过比例缩放亮度分量从亮度运动矢量分量(1mv_x和1mv_y)中导出色度运动矢量分量(cmv_x和cmv_y):
//s_RndTbl[0]=0,s_RndTbl[1]=0,s_RndTbl[2]=0,s_RndTbl[3]=1
cmv_x=(1mv_x+s_RndTbl[1mv_x&3])>>1
cmv_y=(1mv_y+s_RndTbl[1mv_y&3])>>1
比例缩放是用舍入表数组(s-RndTbl[])来执行的,使得半像素偏移量优于四分之一像素偏移量。可以在比例缩放运算之后执行额外的舍入以减少解码时间。
在4MV宏块中,编码器和解码器依照图17的伪代码1700从四个亮度块内的运动信息中导出色度运动矢量。如图17所示,编码器和解码器使用中值预测或通过对宏块中的帧间编码块的亮度运动矢量求平均值。来导出色度运动矢量分量。在三个或更多块是帧内编码的特殊情况下,色度块也是帧内编码的。
如果序列级位FASTUVMC=1,则编码器和解码器执行额外的舍入。由FASTUVMC用信号表示的舍入促进色度运动矢量的半像素和整数像素位置,这可加速编码。
早先的WMV编码器和解码器对隔行扫描帧使用4:1:1的宏块格式。对于隔行扫描帧,帧数据也包括亮度(“Y”)分量和色度分量(“U”和“V”)。然而,在4:1:1的宏块格式中,色度样值的分辨率在水平方向上是亮度样值分辨率的四分之一,而在垂直方向上是全分辨率。由此,为从亮度网格上的对应距离中导出色度网格上的距离,早先的WMV编码器和解码器将水平亮度运动矢量分量除以4。
对于帧编码的宏块,导出对应于单个亮度运动矢量的一个色度运动矢量。对于半帧编码的宏块,导出对应于两个亮度运动矢量的两个色度运动矢量,一个对应于上半帧,另一个对应于下半帧。
在早先的WMV编码器和解码器中,用于在隔行扫描帧中导出色度运动矢量的规则与用于半帧编码的宏块和帧编码的宏块的规则相同。色度运动矢量的x分量按照4的因子比例缩放(下采样),而色度运动矢量的y分量与亮度运动矢量保持相同。经比例缩放的色度运动矢量的x分量也被舍入到相邻的四分之一像素位置。色度运动矢量依照以下伪代码来重构,其中cmv_x和cmv_y表示色度运动矢量分量,而1mv_x和1mv_y表示对应的亮度运动矢量分量。
frac_x4=(1mv_x<<2)%16;
int_x4=(1mv_x<<2)-frac_x;
ChromaMvRound[16]={0,0,0,.25,.25,.25,.5,.5,.5,.5,.5,.75,.75,.75,1,1};
cmv_y=1mv_y;
cmv_x=Sign(1mv_x)*(int_x4>>2)+ChromaMvRound[frac_x4];
VIII.用于视频压缩和解压的标准
若干国际标准涉及视频压缩和解压。这些标准包括来自国际电信联盟[“ITU”]的运动图像专家组[“MPEG”]1、2和4标准以及H.261、H.262(MPEG 2的另一种名称)、H.263和H.264(也称为JVT/AVC)标准。这些标准指定了用于压缩的视频信息的视频解码器和格式方面。它们直接或隐含地也指定了某些编码器细节,但是未指定其它编码器细节。这些标准使用帧内和帧间解压和压缩的不同组合(或支持其使用)。
A.标准中的运动估计/补偿
国际标准中用于实现数字视频序列的数据压缩的一种主要方法是降低图像之间的时间冗余度。这些常用的压缩模式(MPEG-1、MPEG-2、MPEG-4、H.261、H.263等)使用运动估计和补偿。例如,当前帧被划分成均匀的正方形区域(例如块和/或宏块)。每一当前区域的匹配区域是通过发送该区域的运动矢量信息来指定的。运动矢量指示了要用作当前区域的预测值的先前编码(和重构)的参考帧中该区域的位置。导出当前区域和参考帧中的区域之间的逐像素差(称为误差信号)。该误差信号通常具有比原始信号更低的熵。因此,可以按更低的速率来编码信息。如在WMV 8和9编码器和解码器中,用于表示运动矢量信息的数据的压缩可通过对当前运动矢量和基于先前编码的相邻运动矢量的运动矢量预测值之间的差分进行编码来实现。
某些国际标准描述了隔行扫描视频帧中的运动估计和补偿。例如,MPEG-2标准的章节7.6.1描述了双主(dual-prime)编码模式。在双主编码中,在比特流中仅与差分运动矢量一起编码一个运动矢量(以其全格式)。在半帧图像的情况下,从该信息中导出两个运动矢量。两个导出的运动矢量用于形成来自两个参考半帧(一个上半帧和一个下半帧)的预测,对这两个半帧求平均值以形成最终的预测。在帧图像的情况下,对两个半帧重复该过程,使得能够作出总共四个半帧预测。
MPEG-4标准的1998年5月28日的委员会草稿描述了用于隔行扫描和逐行扫描视频的运动补偿。章节7.5.5描述了逐行扫描视频对象平面(VOP)中的运动补偿。候选运动矢量是从相邻的宏块或块中收集的。来自VOP外部的候选运动矢量作为无效来对待。如果仅一个候选运动矢量无效,则它被设为0。如果仅两个无效,则它们被设为等于第三个运动矢量。如果三个都无效,则它们被设为0。对这三个候选运动矢量执行中值滤波以计算预测值。
MPEG-4标准的委员会草稿的章节7.6.2描述了用于隔行扫描视频的运动补偿。例如,章节7.6.2.1描述了对每一半帧有一个运动矢量的半帧预测的宏块,以及对每一块有一个运动矢量或对每一宏块有一个运动矢量的帧预测的宏块。候选运动矢量是从相邻的宏块或块收集的,其中预测值是通过中值滤波来选择的。
JVT/AVC标准的草稿JVT-d157的章节8.4也描述了运动补偿。当前块的运动矢量的分量是使用中值预测来预测的。(预测不跨不属于同一片的宏块的边界发生。)首先,确定三个候选相邻块的运动矢量值和参考图像。如果右上角的块在当前图像或片的外部或由于解码顺序而不可用,则认为右上角的块的运动矢量和参考图像等于左上角的块的运动矢量和参考图像。如果顶部、右上和左上块都在当前图像或片的外部,则其运动矢量和参考图像被认为等于左块的运动矢量和参考图像。在其它情况下,帧内编码的或位于当前图像或片外部的候选预测块的运动矢量值被认为是0,且参考图像被认为与当前块不同。
一旦确定了候选预测值的运动矢量值和参考图像,如果左侧、顶部和右上块中只有一个块具有与当前块相同的参考图像,则当前块的预测运动矢量等于具有相同的参考图像的块的运动矢量值。否则,当前块的预测的运动矢量值的每一分量被计算为左侧、顶部和右上块的对应的候选运动矢量分量值的中值。
章节8.4也描述了宏块自适应帧/半帧编码。在隔行扫描帧中,宏块被组合成宏块对(顶部和底部)。宏块对可以是半帧编码或帧编码的。在帧编码的宏块对中,宏块对被解码为两个帧编码的宏块。在半帧编码的宏块对中,顶部的宏块由宏块对中的上半帧行构成,底部的宏块由宏块对中的下半帧行构成。如果当前块在帧编码模式中,则相邻块的候选运动矢量也是基于帧的。如果当前块在半帧编码模式中,相邻块的候选运动矢量在相同的半帧奇偶性中也是基于半帧的。
B.标准中用信号表示半帧或帧编码的宏块
某些国际标准描述了对隔行扫描图像中的宏块用信号表示半帧/帧编码类型(例如,半帧编码或帧编码)。
JVT/AVC标准的草稿JVT-d157描述了mb_field_decoding_flag句法元素,它用于用信号表示隔行扫描P帧中宏块对是以帧模式还是半帧模式解码的。章节7.3.4描述了一种比特流句法,其中在序列参数(mb_frame_field_adaptive_flag)指示宏块中的帧和半帧解码之间的切换并且片头部元素(pic_structure)将图像结构标识为逐行扫描图像或隔行扫描帧图像的情况下,mb_field_decoding_flag作为片数据的元素发送。
MPEG-4的1998年5月28日的委员会草稿描述了dct_type句法元素,该元素用于用信号表示宏块是帧DCT编码的还是半帧DCT编码的。依照章节6.2.7.3和6.3.7.3,dct_type是仅存在于其中宏块具有非零编码的块模式或是帧内编码的隔行扫描内容中的MPEG-4比特流中的宏块层元素。
在MPEG-2中,dct_type元素指示宏块是帧DCT编码的还是半帧DCT编码的。MPEG-2也描述了图像编码扩展元素frame_pred_frame_dct。当frame_pred_frame_dct被设为“1”时,在隔行扫描的帧中仅使用帧DCT编码。当frame_pred_frame_dct=1且dct_type元素在比特流中不存在时,条件dct_type=0是“导出的”。
C.标准中的跳过的宏块
某些国际标准使用跳过的宏块。例如,JVT/AVC标准的草稿JVT-d157将跳过的宏块定义为“其数据除关于该宏块要被解码为‘跳过’的指示之外不被编码的宏块”。类似地,MPEG-4的委员会草稿规定,“跳过的宏块是其信息不被发送的宏块”。
D.标准中的色度运动矢量
国际标准中用于实现数字视频序列的数据压缩的一种主要方法是降低图像之间的时间冗余度。这些常见压缩模式MPEG-1、MPEG-2、MPEG-4、H.261、H.263等)使用运动估计和补偿。例如,当前帧被划分成亮度和色度信息的均匀正方形区域(例如,块和/或宏块)。每一当前区域的匹配区域是通过发送该区域的运动矢量信息来指定的。例如,亮度运动矢量指示要用作当前区域的预测值的先前编码(和重构)的帧中的亮度样值区域的位置。导出当前区域和参考帧中的区域之间的逐像素差,称为误差信号。该误差信号通常具有比原始信号更低的熵。因此,信息可以按更低的速率来编码。如在早先的WMV编码器和解码器中,由于运动矢量值通常与空间上的周围运动矢量相关,因此用于表示运动矢量信息的数据的压缩可通过对当前运动矢量和基于先前编码的相邻运动矢量的运动矢量预测值之间的差分进行编码来实现。通常,色度运动矢量是从亮度运动矢量中导出的,以避免与单独地计算和编码色度运动矢量相关联的额外开销。
某些国际标准描述了从亮度运动矢量中导出色度运动矢量。MPEG-2标准的章节7.6.3.7描述了通过将水平和垂直亮度运动矢量分量的每一个除以2来适当地按比例缩放色度运动矢量分量,以4:2:0宏块格式从亮度运动矢量中导出色度运动矢量。在4:2:2格式中,色度信息仅在水平方向上二次采样,因此垂直分量不除以2。在4:4:4格式中,色度信息以与亮度信息相同的分辩率采样,因此两个分量都不除以2。
H.263标准的附录F描述了对每一宏块使用四个运动矢量用于预测的高级预测模式。在该高级预测模式中,四个运动矢量中的每一个用于宏块中四个亮度块中的一个中的所有像素。两个色度块(采用4:2:0格式)的运动矢量是通过在每一方向上计算四个亮度运动矢量分量的和然后除以8来导出的。类似地,MPEG-4标准的1998年5月28日的委员会草稿的章节7.5.5描述了通过计算对应于K个8×8的块的K个运动矢量的和,然后将该和除以2×K来导出采用4:2:0格式的两个色度块的运动矢量MVDCHR。对于色度的预测是通过将运动矢量MVDCHR应用于两个色度块中的所有像素来获得的。
JVT/AVC标准的草稿JVT-d157的章节8.4.1.4也描述了通过将水平和垂直亮度运动矢量分量的每一个除以2来从采用4:2:0宏块格式的亮度运动矢量中导出色度运动矢量。草稿JVT-d157的章节7.4.5描述了具有不同亮度块大小(例如,16×16、16×8、8×16和8×8)和相关联的色度块的宏块。例如,对于P片和SP片,“对每一N×M的亮度块和相关联的色度块提供运动矢量”。
E.标准的限制
这些国际标准在若干重要方面都有限制。例如,JVT/AVC标准的草稿JVT-d157以及MPEG-4标准的委员会草稿描述了使用中值预测来计算运动矢量预测值,即使当一个或多个候选运动矢量被设为0时也是如此。当候选运动矢量被设为0时使用中值预测通常会产生歪斜的运动矢量预测值。这些标准也没有描述用四个编码的半帧运动矢量来预测宏块,这对于运动估计和补偿的空间自适应性施加了限制性的局限。此外,草稿JVT-d157通过使用宏块对而非通过个别的隔行扫描的宏块来执行隔行扫描编码和解码,这限制了图像内的半帧编码/帧编码的自适应性。
作为另一示例,尽管这些标准能够用信号表示宏块类型,然而半帧/帧编码类型信息是与运动补偿类型(例如,半帧预测或帧预测、一个运动矢量或多个运动矢量等)分离地用信号表示的。
作为另一示例,尽管某些国际标准允许通过跳过某些宏块来节省比特率,但是这些标准中的跳过宏块的条件仅指示对该宏块不再编码任何其它信息,且无法提供关于宏块的其它可能有价值的信息。
作为另一示例,若干标准使用不足以表示色度运动中的局部变化的色度运动矢量。另一问题是色度运动矢量导出中,尤其是对于半帧编码的内容的无效率的舍入机制。
给定视频压缩和解压对于数字视频的关键重要性,视频压缩和解压是丰富开发的领域并不令人惊奇。然而,不论早先的视频压缩和解压技术的好处如何,它们都没有以下技术和工具的优点。
发明内容
概括而言,该详细描述针对用于编码和解码视频帧的各种技术和工具。所描述的实施例实现了包括但不限于以下所描述的技术和工具中的一个或多个:
在一个方面,一种编码器/解码器接收运动矢量信息,该信息包括对于隔行扫描帧编码的前向预测图像(例如,隔行扫描P帧)中的宏块的四个半帧运动矢量的信息。该编码器/解码器使用四个半帧运动矢量处理该宏块。这四个半帧运动矢量中的两个表示宏块中的第一个半帧的运动,而这四个半帧运动矢量中的另外两个表示该宏块中的第二个半帧的运动。关于这四个半帧运动矢量的信息可包括关于这四个半帧运动矢量的运动矢量差分。
在另一方面,一种编码器/解码器确定用于预测隔行扫描帧编码的图像(例如,隔行扫描的P帧)中的当前宏块(例如,2半帧运动矢量宏块或4半帧运动矢量宏块)中的半帧运动矢量的多个有效候选运动矢量(例如,来自相邻宏块的帧或半帧运动矢量)。该编码器/解码器至少部分地基于有效候选运动矢量为半帧运动矢量计算运动矢量预测值。
计算包括基于有效候选运动矢量的数目是否为3来确定是否在有效候选运动矢量上执行中值运算(例如,分量级中值运算)。如果有效候选运动矢量的数目为3,则计算还可包括在有效候选运动矢量上执行中值运算。如果数目小于3,则计算可包括选择一个有效候选运动矢量作为运动矢量预测值,而无需执行中值运算。编码器/解码器可至少部分地基于该运动矢量预测值和运动矢量差分信息(可指示不存在差分)来重构半帧运动矢量。
有效候选运动矢量可以通过用于隔行扫描帧编码的图像内或与当前宏块相同的片内的块、宏块半帧、宏块半帧部分或宏块来表征,并且可以是实际的运动矢量值,而不是用于帧内编码块、宏块半帧、宏块半帧部分或宏块。
在另一方面,一种编码器/解码器确定用于对隔行扫描帧编码图像中的当前宏块的当前半帧预测半帧运动矢量的候选运动矢量,确定一个或多个候选运动矢量的半帧极性,以及至少部分地基于半帧极性计算半帧运动矢量的运动矢量预测值。候选运动矢量可以按四分之一像素增量来测量。半帧极性可以通过在候选运动矢量的y分量上执行逐位AND(与)运算来确定。
确定候选运动矢量的半帧极性可包括确定候选运动矢量是否指示参考帧的上半帧或下半帧中的位移,或者候选运动矢量是否指示与当前半帧具有相同极性或相反极性的半帧中的位移。
在另一方面,一种编码器/解码器确定用于预测半帧运动矢量的一个或多个有效候选运动矢量,为一个或多个有效候选运动矢量中的每一个别的有效候选运动矢量确定半帧极性,根据其半帧极性将每一个别的有效候选运动矢量分配给两个集合中的一个,以及至少部分地基于这两个集合为半帧运动矢量计算运动矢量预测值。这两个集合可以是相反极性集和相同极性集。计算运动矢量预测值可包括选择主要极性有效候选运动矢量(例如,来自具有最大数目的有效候选运动矢量的集合的候选运动矢量)。候选运动矢量可以按指定的选择顺序来选择。如果仅向每一集合分配了一个有效候选运动矢量,则计算运动矢量预测值可包括选择相同极性的候选运动矢量而非相反极性的候选运动矢量。如果三个有效候选运动矢量被分配给两个集合中的一个,则计算运动矢量预测值可包括在三个有效候选运动矢量上执行中值运算。
在另一方面,解码器对隔行扫描帧(例如,隔行扫描P帧、隔行扫描B帧或具有隔行扫描P半帧和/或隔行扫描B半帧的帧)的多个宏块中的一个或多个跳过宏块进行解码。这一个或多个跳过宏块中的每一个:(1)是由比特流中的跳过宏块信号指示的,(2)仅使用一个预测的运动矢量(例如,帧运动矢量)且没有运动矢量差分信息,以及(3)缺少残差信息。一个或多个跳过宏块中的每一个的跳过宏块信号指示对相应的跳过宏块的1运动矢量的经运动补偿的解码。跳过宏块信号可以是在具有多个层的比特流中的帧层发送的压缩位平面的一部分。或者,跳过宏块信号可以是在宏块层发送的个别比特。
在另一方面,从一组多个可用编码模式中选择一个编码模式,且依照所选择的编码模式在编码器或解码器中处理位平面。位平面包括用信号表示隔行扫描帧中的宏块是被跳过还是不被跳过的二进制信息。如果宏块只有一个运动矢量,则隔行扫描帧中的宏块被跳过,唯一的运动矢量等于为该宏块预测的运动矢量,且该宏块没有残留误差。如果宏块具有多个运动矢量,则它不被跳过。
在另一方面,编码器对隔行扫描P帧中的宏块选择运动补偿类型(例如,1MV、4帧MV、2半帧MV或4半帧MV),并为该宏块选择半帧/帧编码类型(例如,半帧编码、帧编码或未编码块)。编码器对该宏块的运动补偿类型和半帧/帧编码类型进行联合编码。编码器也可对该宏块的其它信息(例如,差分运动矢量的存在的指示符,诸如对于1运动矢量的宏块)与运动补偿类型和半帧/帧编码类型一起进行联合编码。
在另一方面,解码器接收隔行扫描P帧中的宏块的宏块信息,包括表示该宏块的运动补偿类型和半帧/帧编码类型的联合码。解码器对该联合码(例如,可变长度编代码表中的可变长度码)进行解码,以获得该宏块的运动补偿类型信息和半帧/帧编码类型信息。
在另一方面,解码器接收一个宏块的两个以上亮度运动矢量的亮度运动矢量信息,两个以上亮度运动矢量中的每一个与宏块(例如,4:2:0宏块)的至少一部分相关联。解码器通过执行涉及亮度运动矢量信息上的舍入表(例如,基于半帧的舍入表)的至少一个运算、维护宏块的色度运动矢量与亮度运动矢量的1∶1的比率,对两个以上亮度运动矢量中的每一个导出与宏块的至少一部分相关联的色度运动矢量。例如,解码器接收宏块的四个亮度(帧或半帧)运动矢量,并导出该宏块的四个色度运动矢量。导出可包括使用基于半帧的舍入表对亮度运动矢量信息的至少一部分的二次采样和/或舍入。
在另一方面,解码器至少部分地基于一个或多个亮度运动矢量的运动矢量信息,对一个或多个亮度运动矢量中的每一个导出与隔行扫描帧编码的图像(例如,隔行扫描P帧、隔行扫描B帧)中的宏块的至少一部分相关联的色度运动矢量。解码器可用于对使用四个亮度半帧运动矢量预测的宏块进行解码。例如,解码器诸如通过将基于半帧的舍入查找表应用于亮度运动矢量信息的至少一部分来导出四个色度半帧运动矢量。
在另一方面,解码器通过使用基于半帧的舍入表(例如,整数数组)舍入亮度半帧运动矢量分量,以及对亮度半帧运动矢量分量进行二次采样,对一个或多个亮度半帧运动矢量中的每一个导出与宏块的至少一部分相关联的色度运动矢量。
各种技术和工具可组合或单独使用。
当参考附图阅读以下不同实施例的详细描述时,可以清楚其它特征和优点。
附图说明
图1是示出依照现有技术的视频编码器中的运动估计的图示。
图2是示出依照现有技术的视频编码器中的8×8的预测残差块的基于块的压缩的图示。
图3是示出依照现有技术的视频编码器中的8×8的预测残差块的基于块的解压的图示。
图4是示出依照现有技术的隔行扫描帧的图示。
图5A和5B是示出依照现有技术,用于逐行扫描P帧中的1MV宏块的候选运动矢量预测值的宏块位置的图示。
图6A和6B是示出依照现有技术,用于混合的1MV/4MV逐行扫描P帧中的1MV宏块的候选运动矢量预测值的块位置的图示。
图7A、7B、8A、8B、9和10是示出依照现有技术,用于混合的1MV/4MV逐行扫描P帧中的4MV宏块中的各种位置处的块的候选运动数量预测值的块位置的图示。
图11是示出依照现有技术,用于隔行扫描P帧中的当前帧编码宏块的候选运动矢量预测值的图示。
图12和13是示出依照现有技术,用于隔行扫描P帧中的当前半帧编码宏块的候选运动矢量预测值的图示。
图14是示出依照现有技术用于执行3候选者中值的伪代码的代码图。
图15是示出依照现有技术具有过去和未来参考帧的B帧的图示。
图16是示出依照现有技术的4:2:0YUV采样网格的图示。
图17是示出依照现有技术,用于从4MV宏块的四个亮度块中的运动信息导出色度运动矢量的伪代码的代码图。
图18是可结合其实现所描述的若干实施例的合适的计算环境的框图。
图19是可结合其实现所描述的若干实施例的广义视频编码器系统的框图。
图20是可结合其实现所描述的若干实施例的广义视频解码器系统的框图。
图21是在所描述的若干实施例中使用的宏块格式的图示。
图22A是隔行扫描视频帧的一部分的图示,示出了上半帧和下半帧的交错行。图22B是为编码/解码组织为帧的隔行扫描视频帧的图示,图22C是为编码/解码组织为半帧的隔行扫描视频帧的图示。
图23是示出隔行扫描P帧的2半帧MV宏块中用于亮度块的运动矢量和用于色度块的导出运动矢量的图示。
图24是示出隔行扫描P帧的4帧MV宏块中,用于四个亮度块的每一个的不同运动矢量以及用于四个色度子块的每一个的导出运动矢量的图示。
图25是示出隔行扫描P帧的4半帧MV宏块中,用于亮度块的运动矢量和用于色度块的导出运动矢量的图示。
图26A-26B是示出用于隔行扫描P帧的当前宏块的候选预测值的图示。
图27是示出用于处理隔行扫描P帧中具有四个半帧运动矢量的宏块的技术的流程图。
图28是示出用于基于候选运动矢量的极性为半帧编码的宏块计算运动矢量预测值的技术的流程图。
图29是示出用于在为半帧运动矢量计算运动矢量预测值时确定是否执行中值运算的技术的流程图。
图30是示出用于确定在隔行扫描预测帧中是否跳过对特定宏块的编码的技术的流程图。
图31是示出用于对隔行扫描P帧中的宏块解码联合编码的运动补偿类型信息和半帧/帧编码类型信息的技术的流程图。
图32是示出用于为多个亮度运动矢量中的每一个导出一个色度运动矢量的技术的流程图。
图33是示出用于使用基于半帧的舍入查找表来导出色度半帧运动矢量的技术的流程图。
图34是示出用于使用基于半帧的舍入查找表从亮度运动矢量分量中导出色度运动矢量分量的伪代码的代码图。
图35是示出用于基于半帧的舍入查找表中的值的半帧指定的图示。
图36是示出组合的实现中的入口点层比特流句法的图示。
图37是示出组合实现中用于隔行扫描P帧的帧层比特流句法的图示。
图38是示出组合实现中用于隔行扫描B帧的帧层比特流句法的图示。
图39是示出组合实现中用于隔行扫描P半帧或B半帧的帧层比特流句法的图示。
图40是示出组合实现中用于隔行扫描P帧的宏块的宏块层比特流句法的图示。
图41是示出组合实现中用于为隔行扫描P帧中的1MV宏块收集候选运动矢量的伪代码的代码清单。
图42、43、44和45是示出组合实现中用于为隔行扫描P帧中的4帧MV宏块收集候选运动矢量的伪代码的代码清单。
图46和47是示出组合实现中用于为隔行扫描P帧中的2半帧MV宏块收集候选运动矢量的伪代码的代码清单。
图48、49、50和51是示出组合实现中用于为隔行扫描P帧中的4半帧MV宏块收集候选运动矢量的伪代码的代码清单。
图52是示出组合实现中用于为隔行扫描P帧中的帧运动矢量计算运动矢量预测值的伪代码的代码清单。
图53是示出组合实现中用于为隔行扫描P帧中的半帧运动矢量计算运动矢量预测值的伪代码的代码清单。
图54A和54B是示出组合实现中用于为隔行扫描P帧解码运动矢量差分的伪代码的代码清单。
图55A-55C是示出组合实现中用于普通-6和差分-6位平面编码模式的平铺块的图示。
具体实施方式
本发明涉及用于隔行扫描和逐行扫描视频的有效压缩和解码的技术和工具。在所描述的各实施例中,视频编码器和解码器结合了用于对隔行扫描和逐行扫描的视频进行编码和解码的技术,以及用于包括不同层或级(例如,序列级、帧级、半帧级、宏块级和/或块级)的比特流格式或句法的对应的信号表示技术。
对此处所描述的实现的各种替换是可能的。例如,参考流程图所描述的技术可以通过改变流程图中所示的阶段的排序,通过重复或省略某些阶段等来改变。作为另一示例,尽管某些实现此处是参考特定宏块格式描述的,但是也可使用其它格式。此外,此处参考前向预测所描述的技术和工具也可适用于其它类型的预测。
各种技术和工具可组合或单独使用。不同的实施例实现所描述的技术和工具的一个或多个。此处所描述的某些技术和工具可以在视频编码器或解码器中使用,或在不特别地限于视频编码或解码的某一其它系统中使用。
I.计算环境
图18示出了适合在其中实现所描述的若干实施例的计算环境1800的一个广义示例。计算环境1800并非对使用范围或功能提出任何局限,因为这些技术和工具可以在完全不同的通用或专用计算环境中实现。
参考图18,计算环境1800包括至少一个处理单元1810和存储器1820。在图18中,这一最基本配置1830包括在虚线内。处理单元1810执行计算机可执行指令,且可以是真实或虚拟处理器。在多处理系统中,多个处理单元执行计算机可执行指令以提高处理能力。存储器1820可以是易失性存储器(例如,寄存器、高速缓存、RAM)、非易失性存储器(例如,ROM、EEPROM、闪存等)或两者的某一组合。存储器1820储存用此处所描述的一个或多个技术或工具实现视频编码器或解码器的软件1880。
计算环境可具有额外的特征。例如,计算环境1800包括存储1840、一个或多个输入设备1850、一个或多个输出设备1860以及一个或多个通信连接1870。诸如总线、控制器或网络等互连机制(未示出)将计算环境1800的组件互连。通常,操作系统软件(未示出)为在计算环境1800中执行的其它软件提供了操作环境,并协调计算环境1800的组件的活动。
存储1840可以是可移动或不可移动的,且包括磁盘、磁带或磁带盒、CD-ROM、DVD或可用于储存信息并可在计算环境1800内访问的任何其它介质。存储1840储存用于软件1880实现视频编码器或解码器的指令。
输入设备1850可以是诸如键盘、鼠标、笔或跟踪球等触摸输入设备、语音输入设备、扫描设备或可向计算环境1800提供输入的另一设备。对于音频或视频编码,输入设备1850可以是声卡、显卡、TV调谐卡、或接受模拟或数字格式的音频或视频输入的类似的设备、或将音频或视频样值读入计算环境1800的CD-ROM或CD-RW。输出设备1860可以是显示器、打印机、扬声器、CD刻录机、或从计算环境1800提供输出的另一设备。
通信连接1870允许通过通信介质到另一计算实体的通信。通信介质传达诸如计算机可执行指令、音频或视频输入或输出、或已调制数据信号形式的其它数据等信息。已调制数据信号是其一个或多个特征以在信号中编码信息的方式设置或改变的信号。作为示例而非局限,通信介质包括以电、光、RF、红外、声学或其它载波实现的有线或无线技术。
各种技术和工具可以在计算机可读介质的一般上下文中描述。计算机可读介质可以是可在计算环境内访问的任何可用介质。作为示例而非局限,对于计算环境1800,计算机可读介质包括存储器1820、存储1840、通信介质以及上述任一个的组合。
各种技术和工具可以在诸如程序模块中所包括的在计算环境中的目标真实或虚拟处理器上执行的计算机可执行指令的一般上下文中描述。一般而言,程序模块包括例程、程序、库、对象、类、组件、数据结构等,它们执行特定任务或实现特定抽象数据类型。程序模块的功能可以如各实施例中所需的组合或在程序模块之间分离。用于程序模块的计算机可执行指令可以在本地或分布式计算环境中执行。
为演示起见,详细描述使用了如“估计”、“补偿”、“预测”和“应用”等术语,来描述计算环境中的计算机操作。这些术语是由计算机执行的操作的高级抽象,且不应与人类所执行的动作混淆。对应于这些术语的实际的计算机操作取决于实现而不同。
II.广义的视频编码器和解码器
图19是可结合其实现所描述的某些实施例的广义的视频编码器1900的框图。图20是可结合其实现所描述的某些实施例的广义的视频解码器2000的框图。
编码器1900和解码器2000内的模块之间所示的关系指示了编码器和解码器中的一般信息流;为简明起见,未示出其它关系。具体地,图19和20一般不示出指示用于视频序列、图像、宏块、块等的编码器设置、模式、表等辅助信息。这一辅助信息通常在该辅助信息的熵编码之后在输出比特流中发送。输出比特流的格式可以是Windows Media Video版本9格式或其它格式。
编码器1900和解码器2000处理视频图像,视频图像可以是视频帧、视频半帧或帧和半帧的组合。图像和宏块级的比特流句法和语法可取决于使用了帧还是半帧。也可以对宏块组织和总体时序有改变。编码器1900和解码器2000是基于块的,且对帧使用4:2:0的宏块格式,其中每一宏块包括四个8×8的亮度块(有时候作为一个16×16的宏块来对待)以及两个8×8的色度块。对于半帧,可使用相同或不同的宏块组织和格式。8×8的块还可在不同的级细分,例如在频率变换和熵编码级。示例性视频帧组织在以下更详细描述。或者,编码器1900和解码器2000可以是基于对象的,使用不同的宏块或块格式,或在与8×8的块和16×16的宏块不同的大小或配置的像素集上执行操作。
取决于所需的实现和压缩类型,编码器或解码器的模块可被添加、省略、分成多个模块、与其它模块组合、和/或用相似的模块来替代。在替换实施例中,具有不同模块和/或其它模块配置的编码器或解码器执行一个或多个所描述的技术。
A.视频帧组织
在某些实现中,编码器1900和解码器2000处理如下组织的视频帧。帧包含视频信号的空间信息行。对于逐行扫描视频,这些行包含从一个时刻开始并继续通过连续的行直到帧底部的样值。逐行扫描视频帧被划分成诸如图21所示的宏块2100等宏块。宏块2100包括四个8×8的亮度块(Y1到Y4)以及两个8×8的色度块,这些色度块与四个亮度块共同定位,但是水平和垂直分辨率都是一半,遵循常规的4:2:0的宏块格式。8×8的块还可以在不同的级上细分,例如在频率变换级(例如,8×4、4×8或4×4DCT)和熵编码级。逐行扫描I帧是帧内编码的逐行扫描视频帧。逐行扫描P帧是使用前向预测编码的逐行扫描视频帧,而逐行扫描B帧是使用双向预测编码的逐行扫描视频帧。逐行扫描P帧和B帧可包括帧内编码的宏块以及不同类型的预测宏块。
隔行扫描视频帧由一帧的两次扫描构成-一次包括帧的偶数行(上半帧),另一次包括帧的奇数行(下半帧)。这两个半帧可表示两个不同的时间段,或者它们可以来自同一时间段。图22A示出了隔行扫描视频帧2200的一部分,包括位于隔行扫描视频帧2200的左上部分的上半帧和下半帧的交替行。
图22B示出了为编码/解码组织为帧2230的图22A的隔行扫描视频帧2200。隔行扫描视频帧2200被划分成诸如宏块2231和2232等宏块,它们使用如图21所示的4:2:0的格式。在亮度平面中,每一宏块2231、2232包括来自上半帧的8行,这8行与来自下半帧的8行交替,总共有16行,且每一行是16个像素长。(宏块2231、2232内亮度块和色度块的实际组织和布置未示出,且实际上可以对不同的编码决策不同。)在给定宏块内,上半帧信息和下半帧信息可以联合编码或在各种阶段的任一个单独编码。隔行扫描I帧是隔行扫描视频帧的两个帧内编码的半帧,其中宏块包括关于这两个半帧的信息。隔行扫描P帧是使用前向预测编码的隔行扫描视频帧的两个半帧,而隔行扫描B帧是使用双向预测编码的隔行扫描视频帧的两个半帧,其中宏块包括关于这两个半帧的信息。隔行扫描P帧和B帧可包括帧内编码宏块以及不同类型的预测宏块。隔行扫描BI帧是隔行扫描I帧和隔行扫描B帧的混合,它们是帧内编码的,但是不用作其它帧的定位帧。
图22C示出了为编码/解码被组织成半帧2260的图22A的隔行扫描视频帧2200。隔行扫描视频帧2200的两个半帧中的每一个被划分成宏块。上半帧被划分成诸如宏块2261等宏块,下半帧被划分成诸如宏块2262等宏块。(这些宏块也使用如图21所示的4:2:0格式,且宏块内亮度块和色度块的组织和布置未示出)。在亮度平面中,宏块2261包括来自上半帧的16行,且宏块2262包括来自下半帧的16行,且每一行是16个像素长。隔行扫描I半帧是隔行扫描视频帧的单个单独表示的半帧。隔行扫描P半帧是使用前向预测编码的隔行扫描视频帧的单个单独表示的半帧,隔行扫描B半帧是使用双向预测编码的隔行扫描视频帧的单个单独表示的半帧。隔行扫描P半帧和B半帧可包括帧内编码宏块以及不同类型的预测宏块。隔行扫描BI半帧是隔行扫描I半帧和隔行扫描B半帧的混合;它们是帧内编码的,但是不用作其它半帧的定位帧。
为编码/解码组织为半帧的隔行扫描视频帧可包括不同半帧类型的各种组合。例如,这样的帧可在上半帧和下半帧中具有相同的半帧类型,或者在每一半帧中具有不同的半帧类型。在一个实现中,半帧类型的可能组合包括I/I、I/P、P/I、P/P、B/B、B/BI、BI/B以及BI/BI。
术语图像一般指的是源、已编码的或已重构的图像数据。对于逐行扫描视频,图像是逐行扫描视频帧。对于隔行扫描视频,图像可以指的是隔行扫描视频帧、帧的上半帧、或帧的下半帧,取决于上下文。
或者,编码器1900和解码器2000是基于对象的,使用不同的宏块或块格式,或对与8×8的块和16×16的宏块不同大小或配置的像素集执行操作。
B.视频编码器
图19是广义的视频编码器系统1900的框图。编码器系统1900接收包括当前图像1905(例如,逐行扫描视频帧、隔行扫描视频帧或隔行扫描视频帧的半帧)的视频图像序列,并产生压缩的视频信息1995作为输出。视频编码器的具体实施例通常使用广义编码器1900的变化或补充版本。
编码器系统1900压缩预测图像和关键图像。为演示起见,图19示出了关键图像通过编码器系统1900的路径以及用于预测图像的路径。编码器系统1900的许多组件用于同时压缩关键图像和预测图像两者。由这些组件执行的确切操作可以取决于所压缩的信息类型而变化。
预测图像(例如,逐行扫描P帧或B帧、隔行扫描P半帧或B半帧、或隔行扫描P帧或B帧)按照来自一个或多个其它图像(通常被称为参考图像或定位帧)的预测(或差)来表示。预测残差是所预测的和原始图像之差。相反,关键图像(例如,逐行扫描I帧、隔行扫描I半帧或隔行扫描I帧)不参考其它图像来压缩。
如果当前图像1905是前向预测图像,则运动估计器1910估计当前图像1905的宏块或其它像素集相对于一个或多个参考图像(例如,缓冲在图像存储1920中的重构的前一图像1925)的运动。如果当前图像1905是双向预测图像,则运动估计器1910估计当前图像1905中相对于多达四个重构的参考图像(例如,对于隔行扫描B半帧)的运动。通常,运动估计器估计B图像中相对于一个或多个在时间上先前的参考图像以及一个或多个在时间上未来的参考图像的运动。因此,编码器系统1900可使用单独的存储1920和1922用于多个参考图像。对于关于逐行扫描B帧和隔行扫描B帧和B半帧的更多信息,参见2003年7月18日提交的名为“Advanced Bi-Directional Predictive Coding of Video Frames(视频帧的高级双向预测编码)”的美国专利申请第10/622,378号,以及2004年6月29日提交的名为“Advanced Bi-Directional Predictive Coding of Interlaced Video(隔行扫描视频的高级双向预测编码)”的美国专利申请第10/882,135号。
运动估计器1910可按照像素、1/2像素、1/4像素或其它增量来估计运动,并可在逐图像的基础或其它基础上切换运动估计的分辨率。运动估计器1910(和补偿器1930)也可在每一帧或其它基础上在参考图像像素内插的类型之间切换(例如,在双三次内插和双线性内插之间)。运动估计的分辨率可以在水平和垂直上相同或不同。运动估计器1910输出运动信息1915,诸如差分运动矢量信息作为辅助信息。编码器1900通过例如为运动矢量计算一个或多个预测值,计算运动矢量和预测值之间的差分,以及对差分进行熵编码,来对运动信息1915进行编码。为重构运动矢量,运动补偿器1930将预测值与差分运动矢量信息组合。以下描述用于计算运动矢量预测值、计算差分运动矢量、以及重构运动矢量的各种技术。
运动补偿器1930将重构的运动矢量应用于重构的图像1925,以形成经运动补偿的当前图像1935。然而,预测很少是完美的,且经运动补偿的当前图像1935和原始的当前图像1905之间的差异是预测残差1945。在稍后的图像重构期间,将预测残差1945加到经运动补偿的当前图像1935,以获得更接近于原始的当前图像1905的经重构的图像。然而,在有损压缩中,某些信息仍从原始当前图像1905中丢失。或者,运动估计器和运动补偿器应用另一类型的运动估计/补偿。
频率变换器1960将空间域视频信息转换成频域(即,频谱)数据。对于基于块的视频图像,频率变换器1960向像素数据或预测残差数据的块应用DCT、DCT的变体或其它块变换,从而产生频率变换系数块。或者,频率变换器1960应用诸如傅立叶变换等另一常规频率变换或使用小波或子带分析。频率变换器1960可应用8×8、8×4、4×8、4×4或其它大小的频率变换。
量化器1970然后量化频谱数据系数块。量化器向频谱数据应用均匀的标量量化,其步长在逐图像的基础或其它基础上变化。或者,量化器向频谱数据系数应用另一类型的量化,例如非均匀的、矢量或非自适应量化,或直接在不使用频率变换的编码器系统中量化空间域数据。除自适应量化之外,编码器1900可使用帧丢弃、自适应滤波或其它技术用于速率控制。
编码器1900可对跳过宏块(它是没有某些类型的信息的宏块)使用特殊的信号表示。跳过宏块在以下更详细描述。
当需要重构的当前图像用于后续的运动估计/补偿时,反量化器1976在量化的频谱数据系数上执行反量化。反频率变换器1966然后执行频率变换器1960的逆运算,从而产生重构的预测残差(对于预测图像)或重构的关键图像。如果当前图像1905是关键图像,则重构的关键图像用作重构的当前图像(未示出)。如果当前图像1905是预测图像,则重构的预测残差被加到经运动补偿的当前图像1935,以形成重构的当前图像。图像存储1920、1922之一或两者缓冲重构的当前图像,以在经运动补偿的预测中使用。在某些实施例中,编码器向重构的帧应用分块滤波器,以自适应地平滑图像中的不连续性和其它人为因素。
熵编码器1980压缩量化器1970的输出以及某些辅助信息(例如,运动信息1915、量化步长)。典型的熵编码技术包括算术编码、差分编码、哈夫曼编码、行程长度编码、LZ编码、字典式编码以及上述的组合。熵编码器1980通常对不同种类的信息(例如,DC系数、AC系数、不同种类的辅助信息)使用不同的编码技术,并可从特定编码技术内的多个代码表中进行选择。
熵编码器1980向多路复用器[“MUX”]1990提供压缩的视频信息1995。MUX1990可包括缓冲器,且可将缓冲器级别指示符反馈给比特率自适应模块用于速率控制。在MUX 1990之前或之后,压缩的视频信息1995可被信道编码用于通过网络发送。信道编码可向压缩的视频信息1995应用检错和纠错数据。
C.视频解码器
图20是通用视频解码器系统2000的框图。解码器系统2000接收关于压缩的视频图像序列的信息2095,并产生包括重构的图像2005(例如,逐行扫描视频帧、隔行扫描视频帧或隔行扫描视频帧的半帧)的输出。视频解码器的具体实施例通常使用广义解码器2000的变体或补充版本。
解码器系统2000解压预测图像和关键图像。为演示起见,图20示出了关键图像通过解码器系统2000的路径以及用于前向预测图像的路径。解码器系统2000的许多组件用于解压关键图像和预测图像。由这些组件执行的确切操作可以取决于所解压的信息类型而变化。
DEMUX 2090接收关于压缩的视频序列的信息2095,并使得所接收的信息对熵解码器2080可用。DEMUX 2090可包括抖动缓冲器以及其它缓冲器。在DEMUX2090之前或之后,压缩的视频信息可以被信道解码,并被处理用于检错和纠错。
熵解码器2080对熵编码的量化数据以及熵编码的辅助信息(例如,运动信息2015、量化步长)进行解码,通常应用编码器中执行的熵编码的逆运算。熵解码技术包括算术解码、差分解码、哈夫曼解码、行程长度解码、LZ解码、字典式解码以及上述的组合。熵解码器2080通常对不同种类的信息(例如,DC系数、AC系数、不同种类的辅助信息)使用不同的解码技术,并可从特定的解码技术中的多个代码表之中进行选择。
解码器2000通过例如为运动矢量计算一个或多个预测值、对差分运动矢量进行熵解码、以及将解码的差分运动矢量与预测值组合以重构运动矢量,来对运动信息2015进行解码。
运动补偿器2030向一个或多个参考图像2025应用运动信息2015,以形成所重构的图像2005的预测2035。例如,运动补偿器2030使用一个或多个宏块运动矢量以找出参考图像2025中的宏块。一个或多个图像存储(例如,图像存储2020、2022)储存先前重构的图像以用作参考图像。通常,B图像具有一个以上参考图像(例如,至少一个时间上先前的参考图像以及至少一个时间上未来的参考图像)。因此,解码器系统2000可对多个参考图像使用单独的图像存储2020和2022。运动补偿器2030可以按像素、1/2像素、1/4像素或其它增量来补偿运动,并可在逐图像的基础或其它基础上切换运动补偿的分辨率。运动补偿器2030也可在每一帧或其它基础上在参考图像像素内插的类型之间(例如,在双三次内插和双线性内插之间)切换。运动补偿的分辨率可以在水平和垂直上相同或不同。或者,运动补偿器应用另一类型的运动补偿。运动补偿器的预测很少是完美的,因此解码器2000也重构预测残差。
反量化器2070对熵解码的数据进行反量化。一般而言,反量化器向熵解码的数据应用均匀的标量反量化,其中步长在逐图像的基础或其它基础上变化。或者,反量化器向数据应用另一类型的反量化,例如用于在非均匀矢量量化或非自适应量化之后重构,或直接在不使用反频率变换的解码器系统中对空间域数据进行反量化。
反频率变换器2060将量化的频域数据转换成空间域视频信息。对于基于块的视频图像,反频率变换器2060向频率变换系数块应用反DCT[“IDCT”]、IDCT的变体或其它反块变换,从而分别对关键图像或预测图像产生像素数据或预测残差数据。或者,反频率变换器2060应用另一常规的反频率变换,诸如傅立叶反变换或使用小波或子带合成。反频率变换器2060可应用8×8、8×4、4×8、4×4或其它大小的反频率变换。
对于预测图像,解码器2000将重构的预测残差2045与经运动补偿的预测2035组合,以形成重构的图像2005。当解码器需要重构的图像2005用于后续的运动补偿时,图像存储(例如,图像存储2020)之一或两者缓冲重构的图像2005以供预测下一图像时使用。在某些实施例中,解码器2000向重构的图像应用分块滤波器,以自适应地平滑图像中的不连续性以及其它人为因素。
III.隔行扫描P帧
典型的隔行扫描视频帧由在不同的时刻扫描的两个半帧(例如,上半帧和下半帧)构成。一般而言,通过将两个半帧一起编码(“帧模式”编码)来对隔行扫描视频帧的静止区域进行编码是更有效的。另一方面,通过单独对各半帧编码(“半帧模式”编码)来对隔行扫描视频帧的运动区域进行编码通常是更有效的,因为两个半帧往往具有不同的运动。前向预测的隔行扫描视频帧可以被编码为两个单独的前向预测的半帧-隔行扫描P半帧。对前向预测的隔行扫描视频帧单独地编码半帧在例如贯穿该隔行扫描视频帧中有高运动,且因此在半帧之间有较多差异时可能是有效的。隔行扫描的P半帧参考一个或多个先前解码的半帧。例如,在某些实现中,隔行扫描的P半帧参考一个或两个先前解码的半帧。对于关于隔行扫描P半帧的更多信息,参见2003年9月7日提交的名为“Video Encoding and Decoding Tools and Techniques(视频编码和解码工具和技术)”的美国临时专利申请第60/501,081号,以及2004年5月27日提交的名为“Predicting Motion Vectors for Fields of Forward-predicted Interlaced Video Frames(为前向预测的隔行扫描视频帧的半帧预测运动矢量)”的美国专利申请第10/857,473号。
或者,前向预测的隔行扫描视频帧可使用半帧编码和帧编码的混合来编码,作为隔行扫描的P帧。对于隔行扫描P帧的宏块,宏块包括上半帧和下半帧的像素行,且这些行可以在帧编码模式中共同编码或者在半帧编码模式中单独编码。
A.隔行扫描P帧中的宏块类型。
在某些实现中,隔行扫描P帧中的宏块可以是以下五种类型之一:1MV、2半帧MV、4帧MV、4半帧MV以及帧内编码。
在1MV宏块中,宏块中四个亮度块的位移由单个运动矢量来表示。对应的色度运动矢量可以从亮度运动矢量中导出以表示该运动矢量的两个8×8的色度块中的每一个的位移。例如,再次参考图21中所示的宏块的排列,1MV宏块2100包括四个8×8的亮度块以及两个8×8的色度块。亮度块(Y1到Y4)的位移是由单个运动矢量来表示的,而对应的色度运动矢量可以从亮度运动矢量中导出,以表示两个色度块(U和V)中的每一个的位移。
在2半帧MV宏块中,宏块中16×16的亮度分量的每一半帧的位移是由不同的运动矢量来描述的。例如,图23示出了上半帧运动矢量描述了亮度分量的偶数行的位移,而下半帧运动矢量描述了亮度分量的奇数行的位移。使用上半帧运动矢量,编码器可导出描述色度快的偶数行的位移的对应的上半帧色度运动矢量。类似地,编码器可导出描述色度块的奇数行的位移的下半帧色度运动矢量。
参考图24,在4帧MV宏块中,四个亮度块中的每一个的位移是由不同的运动矢量(MV1、MV2、MV3和MV4)来描述的。每一色度块可以通过使用描述四个4×4色度子块的位移的四个导出的色度运动矢量(MV1′、MV2′、MV3′和MV4′)来运动补偿。用于每一4×4色度子块的运动矢量可以从用于空间上对应的亮度块的运动矢量中导出。
参考图25,在4半帧MV宏块中,16×16亮度分量中的每一半帧的位移是由两个不同的运动矢量来描述的。亮度分量的行被垂直地细分以形成两个8×16的区域,其每一个由与8×8的奇数行区域交错的8×8的偶数行区域构成。对于偶数行,左侧的8×8区域的位移是由左上半帧块运动矢量来描述的,而右侧的8×8区域的位移是由右上半帧块运动矢量来描述的。对于奇数行,左侧的8×8区域的位移是由左下半帧块运动矢量来描述的,而右侧的8×8区域的位移是由右下半帧块运动矢量来描述的。每一色度块也可被划分成四个区域,而每一色度块区域可以使用导出的运动矢量来运动补偿。
对于帧内编码宏块,运动被假定为零。
B.计算隔行扫描P帧中的运动矢量预测值
一般而言,为隔行扫描P帧中的当前宏块计算运动矢量预测值的过程由两个步骤构成。首先,从其相邻宏块中收集当前宏块的多达三个候选运动矢量。例如,在一个实现中,基于图26A-26B所示的排列(以及对于顶行宏块的各种特殊情况等)收集候选运动矢量。或者,候选运动矢量可以按某一其它顺序或排列收集。其次,从候选运动矢量集中计算当前宏块的运动矢量预测值。例如,预测值可使用3预测中值或某一其它方法来计算。
IV.隔行扫描P帧中的运动矢量预测的革新
运动矢量预测的过程可以在概念上分成两个步骤。首先,从相邻块中收集候选运动矢量集,且如果适当,根据用于当前运动矢量的预测类型将其转换成适当的类型。然后,从候选运动矢量集中导出运动矢量预测值。如下更详细描述的,当前运动矢量预测值可以用不同的方式从候选运动矢量中导出,诸如通过在一组完全的有效候选运动矢量上执行中值运算,通过当一组完全的有效候选运动矢量不可用时仅选择一个候选运动矢量,或通过某一其它方法。
如上文在第III节中所解释的,隔行扫描P帧中的每一宏块可以使用1帧运动矢量、4帧运动矢量、2半帧运动矢量或4半帧运动矢量来运动补偿。每一半帧运动矢量可以指的是参考帧的上半帧或下半帧,而与对方应用哪一半帧无关。在某些实现中,运动矢量预测考虑若干因素,诸如相邻的宏块或块的运动矢量和运动预测类型、当前运动矢量类型等,以为当前宏块(或其块或半帧)的当前运动矢量导出运动矢量预测值。
所描述的实施例实现了所描述的一个或多个技术和工具,用于预测、编码和解码隔行扫描帧编码的图像中的运动矢量,包括但不限于:
1.使用4半帧运动矢量预测隔行扫描P帧中的宏块(例如,与其它诸如1MV、4帧MV、2半帧MV和/或帧内编码等其它宏块类型相结合。)
2.通过将中值运算的使用限于所有三个候选相邻运动矢量都可用的情况,并在其它情况下以预先指定的顺序取相邻运动矢量之一,来改进运动矢量预测。
3.对于半帧运动矢量,考虑合法候选运动矢量集合中的半帧极性。
所描述的技术和工具可彼此结合或与其它技术和工具结合使用,或可单独使用。
A.隔行扫描P帧中的4半帧MV宏块
在某些实现中,编码器/解码器处理隔行扫描P帧中具有四个半帧运动矢量的宏块(例如,4半帧MV宏块)。4半帧MV宏块提供了对运动的改进的空间自适应性,用于隔行扫描P帧中的半帧编码宏块的运动估计和补偿。
例如,图27示出了用于处理隔行扫描P帧中具有四个半帧运动矢量的宏块的技术2700。在2710,编码器/解码器接收隔行扫描P帧中的宏块的四个半帧运动矢量的运动矢量信息(例如,运动矢量差分、运动矢量值)。然后,在2720,编码器/解码器使用四个半帧运动矢量来处理这些宏块(例如,通过重构宏块)。
或者,编码器/解码器在没有4半帧MV宏块的隔行扫描P帧中执行运动估计/补偿。
B.收集候选运动矢量
在某些实现中,候选运动矢量的收集顺序是重要的。例如,隔行扫描P帧中当前宏块的三个候选运动矢量是从其相邻宏块中收集的,如图26A-26B所示。在一个实现中,收集顺序从相邻宏块A开始,前进到宏块B,然后在宏块C结束。
图41-51中的伪代码描述了在一个实现中如何收集候选运动矢量。编码器/解码器检查相邻宏块以确定它们是否“存在”(即,有效),用于为当前宏块(包括为块、宏块的半帧或宏块的半个半帧)预测运动矢量。如果对应的宏块/块位于帧边界之外,或者如果对应的宏块/块是不同片的一部分,则候选预测值被认为是不存在的(即,无效)。由此,不跨片边界来执行运动矢量预测。
如图41-51所示,如果相邻宏块有效且不是帧内编码的,则将来自相邻宏块的运动矢量添加到候选运动矢量集。添加到候选运动矢量集的实际运动矢量取决于相邻宏块相对于当前宏块的位置(例如,位置A、B或C),且取决于相邻宏块和当前宏块的类型(例如,1MV、4帧MV、2半帧MV或4半帧MV)。
图41中的伪代码4100示出在一个实现中如何为1MV宏块中的当前运动矢量收集多达三个候选运动矢量。
图42、43、44和45中的伪代码4200、4300、4400和4500分别示出在一个实现中,如何为当前4帧MV宏块中的四个帧块运动矢量中的每一个收集来自相邻宏块/块的候选运动矢量。在这一实现中,编码器/解码器使用伪代码4200、4300、4400和4500中所示的算法,以分别为左上帧块运动矢量、右上帧块运动矢量、左下帧块运动矢量和右下帧块运动矢量收集多达三个候选运动矢量。
图46和47中的伪代码4600和4700分别示出在一个实现中如何为当前2半帧MV宏块中的两个半帧运动矢量中的每一个收集来自相邻宏块的候选运动矢量。在这一实现中,编码器/解码器适用伪代码4600和4700中所示的算法来分别为上半帧运动矢量和下半帧运动矢量收集多达三个候选运动矢量。
图48、49、50和51中的伪代码4800、4900、5000和5100分别示出在一个实现中,如何为当前4半帧MV宏块中的四个半帧块运动矢量中的每一个收集来自相邻宏块/块的候选运动矢量。在这一实现中,编码器/解码器使用伪代码4800、4900、5000和5100中所示的算法来分别为左上半帧块运动矢量、右上半帧块运动矢量、左下半帧块运动矢量和右下半帧块运动矢量收集多达三个候选运动矢量。
在某些情况下,所选择的候选运动矢量实际上是相邻宏块中的运动矢量的平均值。在一个实现中,给定两个半帧运动矢量(MVX1,MVY1)和(MVX2,MVY2),则用于形成候选帧运动矢量(MVXA,MVYA)的求平均运算为:
MVXA=(MVX1+MVX2+1)>>1;
MVYA=(MVY1+MVY2+1)>>1;
或者,候选运动矢量可以依照与图41-51中所示的不同的收集规则来收集。例如,从具有一个以上运动矢量的相邻宏块(例如,4帧MV、2半帧MV或4半帧MV宏块)中选择为候选运动矢量的特定运动矢量可以变化。作为另一示例,候选运动矢量集中的运动矢量的顺序可以从所描述的A-B-C顺序调整为某一其它顺序。
C.从候选运动矢量中计算帧MV预测值
图52中的伪代码5200描述了一个实现中如何为帧运动矢量计算运动矢量预测值(PMVx,PMVy)。在伪代码5200中,TotalValidMV(总有效MV)表示候选运动收矢量集中的有效运动矢量的总数(TotalValidMV=0、1、2或3),而ValidMV(有效MV)数组包括候选运动矢量集中的有效运动矢量。
在一个实现中,伪代码5200用于为1MV宏块中的运动矢量以及4帧MV宏块中四个帧块运动矢量中的每一个从候选运动矢量集中计算预测值。
D.从候选运动矢量中计算半帧MV预测值
本节描述了用于在给定候选运动矢量集时为半帧运动矢量计算运动矢量预测值的技术和工具。本节中所描述的技术和工具可用于为两个半帧运动矢量(在2半帧MV宏块中)中的每一个以及四个半帧运动矢量(在4半帧MV宏块中)中的每一个计算预测值。
在某些实现中,编码器/解码器在计算预测值时考虑由候选运动矢量参考的半帧的极性。图28示出了用于基于候选运动矢量的极性为半帧编码的宏块计算运动矢量预测值的技术2800。在2810,编码器/解码器确定用于为当前宏块的当前半帧预测半帧运动矢量的候选运动矢量。在2820,编码器/解码器确定一个或多个有效候选运动矢量的半帧极性。然后,在2830,编码器/解码器至少部分地基于一个或多个有效候选运动矢量的半帧极性为半帧运动矢量计算运动矢量预测值。例如,在一个实现中,候选运动矢量被分成两个集合,其中一个集合仅包含指向与当前半帧相同的半帧的运动矢量,而另一集合包含指向相反的半帧的运动矢量。然后,编码器/解码器使用这两个集合之一来计算运动矢量预测值。尽管未在图28中示出,但为当前宏块计算运动矢量预测值的过程可对宏块的每一运动矢量以及帧中的其它宏块重复。
假定运动矢量是以四分之一像素的单位来表示的,编码器/解码器可通过对其y分量执行以下检查来检查候选运动矢量是指向相同的半帧还是相反的半帧(相对于当前半帧的极性):
在以上伪代码中,ValidMVy是以四分之一像素的增量所测得的候选运动矢量的y分量。因此,在二进制中,ValidMVy的最低位是四分之一像素位,第二最低位是半像素位,第三最低位是全像素位。因此,逐位AND运算(ValidMVy&4)确定全像素位是1(指示奇数)还是0(指示偶数)。如果整数偏移量为奇数,则候选运动矢量参考了参考帧中相反极性的半帧。如果整数偏移量是偶数,则候选运动矢量参考了参考帧中相同极性的半帧。
或者,候选运动矢量的极性可以按某一其它方式来确定,或者在计算运动矢量预测值的过程中可以不考虑候选运动矢量的极性。
图53中的伪代码5300描述了一个实现中如何为半帧运动矢量计算运动矢量预测值(PMVx,PMVy)。在伪代码5300中,SameFieldMV[](相同半帧MV)和OppFieldMV[](相反半帧MV)表示两个候选运动矢量集,而NumSameFieldMV(相同半帧MV数)和NumOppFieldMV(相反半帧MV数)表示属于每一集合的候选运动矢量的数目。在伪代码5300所示的示例中,这些集合中可用候选运动矢量的数目确定了是否使用中值运算来计算运动矢量预测值。
图29示出了用于确定在为半帧运动矢量计算运动矢量预测值时是否执行中值运算的技术2900。在2910,编码器/解码器确定用于预测当前宏块中的半帧运动矢量的有效候选运动矢量的数目。在2920,如果有三个有效候选运动矢量,则在2930,可在计算预测值过程中使用中值运算。在2940,如果没有三个有效候选运动矢量(即,有两个或更少的有效候选运动矢量),则使用另一方法从可用有效候选运动矢量中选择一个运动矢量预测值,而不使用中值运算。
在伪代码5300的示例中,编码器/解码器通过在所有三个候选运动矢量有效时,以及在所有三个有效候选运动矢量都是相同极性时,对候选运动矢量的x分量或y分量执行中值运算(例如,median3),来导出运动矢量预测值。如果所有三个候选运动矢量都有效,但是并非它们全部都是相同的极性,则编码器/解码器选择具有最多候选运动矢量的集合来导出运动矢量预测值。在两个集合具有相同数目的候选运动矢量的情况下,编码器/解码器使用集合SameFieldMV[]。对于有三个以下候选运动矢量的情况,编码器/解码器以预先指定的顺序从所选择的集合中选择第一个候选运动矢量。在该示例中,每一集合中的候选运动矢量的顺序从候选运动矢量A(如果存在)开始,接着是候选运动矢量B(如果存在),然后是候选运动矢量C(如果存在)。例如,如果编码器/解码器使用集合SameFieldMV[],且如果集合SameFieldMV[]仅包含候选运动矢量B和候选运动矢量C,则编码器/解码器使用候选运动矢量B作为运动矢量预测值。如果有效候选运动矢量的数目为零,则编码器/解码器将预测值设置为(0,0)。
或者,运动矢量预测值可以按除上述以外的方式来计算。例如,尽管伪代码5300包括对于选择相同半帧候选运动矢量的偏差,然而可以调整预测值的计算以去除该偏差或使用相反半帧的偏差。作为另一示例,可以在更多情况下使用中值运算(例如,当存在两个有效候选半帧运动矢量时),或完全不使用中值运算,或者对于两个有效候选运动矢量的非中值运算可以是求平均运算。作为又一示例,集合中候选运动矢量的顺序可被调整,或者候选运动矢量可被全部储存在一个集合中。
V.用于隔行扫描帧编码图像的宏块信息信号表示的革新
所描述的实施例包括用于用信号表示隔行扫描帧编码图像(例如,隔行扫描P帧、隔行扫描B帧等)的宏块信息的技术和工具。例如,所描述的技术和工具包括用于用信号表示隔行扫描P帧的宏块信息的技术和工具,以及用于使用和用信号表示隔行扫描P帧和其它隔行扫描图像(例如,隔行扫描B帧、隔行扫描P半帧、隔行扫描B半帧等)中的跳过宏块的技术和工具。所描述的实施例实现了包括但不限于以下的所描述的技术和工具中的一个或多个:
1.用对于隔行扫描P帧的半帧/帧编码类型信息(例如,使用宏块级句法元素MBMODE),对运动补偿类型(例如,1帧MV、4帧MV、2半帧MV、4半帧MV等)以及可能的其它信息进行联合编码。
2.用信号表示宏块跳过条件。信号表示可以与诸如MBMODE等其它句法元素分离地执行。跳过条件指示宏块是1MV宏块,具有零差分运动矢量,以及没有编码的块。跳过信息可以在压缩位平面中编码。
所描述的技术和工具可彼此结合或与其它技术和工具结合使用,或可单独使用。
A.跳过宏块的信号表示
在某些实现中,编码器用信号表示跳过的宏块。例如,当宏块用一个运动矢量来编码,具有零运动矢量差分以及没有编码的块(即,没有任何块的残差)时,编码器用信号表示隔行扫描帧中跳过的宏块。跳过信息可被编码为压缩位平面(例如,在帧级),或者可在每一宏块的基础上在一个比特上用信号表示(例如,在宏块级)。对宏块的跳过条件的信号表示与对宏块的宏块模式的信号表示分离。解码器执行对应的解码。
对跳过宏块的这一定义利用了这样一个观察结果:当使用一个以上运动矢量来编码宏块时,由于不可能所有的运动矢量差分都为零且所有的块都不被编码,因此该宏块很少被跳过。由此,当宏块用信号表示为被跳过时,从跳过条件中隐含了宏块模式(1MV),则无需为该宏块发送该模式。在隔行扫描P帧中,1MV宏块是用一个帧运动矢量来运动补偿的。
图30示出了用于确定是否跳过隔行扫描预测帧(例如,隔行扫描P帧、隔行扫描B帧、或包括隔行扫描P半帧和/或隔行扫描B半帧的帧)中特定宏块的编码的技术3000。对于给定的宏块,编码器在3010检查该宏块是否为1MV宏块。在3020,如果宏块不是1MV宏块,则编码器不跳过该宏块。否则,在3030,编码器检查该宏块的一个运动矢量是否等于其因果预测的运动矢量(例如,该宏块的差分运动矢量是否等于零)。在3040,如果宏块的运动矢量不等于因果预测的运动,则编码器不跳过该宏块。否则,在3050,编码器检查对该宏块的块是否还存在任何残差要编码。在3060,如果存在残差要编码,则编码器不跳过该宏块。在3070,如果对该宏块的块没有残差,则编码器跳过该宏块。在3080,编码器可继续编码或跳过宏块,直到编码完成。
在一个实现中,宏块级SKIPMBBIT字段(也可被标记为SKIPMB等)指示宏块的跳过条件。如果SKIPMBBIT字段为1,则当前宏块被跳过,且在SKIPMBBIT字段之后不发送任何其它信息。另一方面,如果SKIPMBBIT字段不是1,则解码MBMODE字段以指示宏块的类型以及关于当前宏块的其它信息,诸如以下在第V.B节中描述的信息。
在帧级,SKIPMB字段指示帧中宏块的跳过信息。在一个实现中,跳过信息可以在若干中模式之一中编码。例如,在原始编码模式中,SKIPMB字段指示在宏块级SKIPMBBIT的存在。在位平面编码模式中,SKIPMB字段将跳过信息储存在压缩的位平面中。可用的位平面编码模式包括普通-2模式、差分-2模式、普通-6模式、差分-6模式、行跳过模式和列跳过模式。位平面编码模式在以下第VII节中更详细描述。解码的SKIPMB位平面对每一宏块包含一个比特,且指示每一相应宏块的跳过条件。
或者,跳过的宏块以某一其它方式或在比特流中的某一其它级上用信号表示。例如,在半帧级发送压缩的位平面。作为另一替换,跳过条件可被定义成隐含与上述信息不同和/或除上述信息之外的关于跳过宏块的信息。
B.宏块模式的信号表示
在某些实现中,编码器用宏块的半帧/帧编码类型信息,对关于宏块的运动补偿类型和可能的其它信息进行联合编码。例如,编码器使用一个或多个可变长度编代码表,对五种运动补偿类型(1MV、4帧MV、2半帧MV、4半帧MV和帧内编码)之一与半帧变换/帧变换/没有编码的块事件一起进行联合编码。解码器执行对应的解码。
关于宏块的联合编码运动补偿类型和半帧/帧编码类型信息利用了这样一个观察结果:某些半帧/帧编码类型更有可能出现在给定运动补偿类型的宏块的某些上下文中。然后可使用可变长度编码来向运动补偿类型和半帧/帧编码类型的更可能的组合分配较短的码。对于更进一步的灵活性,可使用多个可变长度编代码表,并且编码器可根据情况在表之间切换。由此,对宏块的运动补偿类型和半帧/帧编码类型信息进行联合编码可提供编码额外开销中的节省,否则这些开销将用于对每一宏块单独地用信号表示半帧/帧编码类型。
例如,在某些实现中,编码器为宏块选择一个运动补偿类型(例如,1MV、4帧MV、2半帧MV或4半帧MV)以及半帧/帧编码类型(例如,半帧、帧或没有编码的块)。编码器对该宏块的运动补偿类型和半帧/帧编码类型进行联合编码。编码器也可将其它信息与运动补偿类型和半帧/帧编码类型一起进行联合编码。例如,编码器可对指示宏块的差分运动矢量的存在或缺乏(例如,对于具有一个运动矢量的宏块)的信息进行联合编码。
解码器执行对应的解码。例如,图31示出了在某些实现中,用于对隔行扫描P帧中的宏块的联合编码的运动补偿类型信息和半帧/帧编码类型信息进行解码的技术3100。在3110,解码器接收包括表示宏块的运动补偿类型和半帧/帧编码类型的联合码(例如,来自可变编代码表的可变长度码)的宏块信息。在3120,解码器对该联合码进行解码(例如通过在可变长度编代码表中查找该联合码),以获得该宏块的运动补偿类型信息和半帧/帧编码类型信息。
在一个实现中,宏块级比特流元素MBMODE联合地指定宏块的类型(1MV、4帧MV、2半帧MV、4半帧MV或帧内编码)、帧间编码宏块的半帧/帧编码类型(半帧、帧或没有编码的块)、以及对1MV宏块是否存在差分运动矢量。在该示例中,MBMODE可取15个可能值中的一个。设<MVP>表示对于是存在还是缺少非零1MV差分运动矢量的信号表示。设<Fiele/Frame transform>表示对该宏块的残差是(1)帧编码的;(2)半帧编码的;还是(3)零个编码块(即CBP=0)的信号表示。MBMODE用信号联合表示以下信息:
MBMODE={<1MV,MVP,Field/Frame transform>,<2Field MV,Field/Frame
transform>,<4Frame MV,Field/Frame transform>,<4Field MV,Field/Frame
transform>,<INTRA>};情况<1MV,MVP=0,CBP=0>不是由MBMODE来用信号表示的,而是由跳过条件来用信号表示的。(用信号表示该跳过条件的示例在以上第V.A节中提供。)
在该示例中,对于帧间编码的宏块,当MBMODE中的<Field/frame Transform>指示没有编码的块时,CBPCY句法元素不被解码。另一方面,如果MBMODE中的<Field/frame Transform>指示半帧或帧变换,则CBPCY被解码。对于非1MV帧间编码的宏块,发送一附加字段以指示差分运动矢量中哪一个是非零的。在2半帧MV宏块的情况下,发送2MVBP字段以指示两个运动矢量中的哪一个包含非零差分运动矢量。类似地,发送4MVBP字段以指示四个运动矢量中的哪一个包含非零差分运动矢量。对于帧内编码的宏块,半帧/帧编码类型和零编码块在单独的字段中编码。
或者,编码器/解码器对运动补偿类型和半帧/帧编码类型的不同组合进行联合编码。作为另一替换,编码器/解码器对除运动矢量差分的存在以外的其它信息进行联合编码/解码。
在某些实现中,编码器/解码器使用若干可变长度代码表之一来编码MBMODE,并且可自适应地在代码表之间切换。例如,在某些实现中,帧级句法元素MBODETAB是2位字段,它指示用于对该帧中的宏块的MBMODE解码的表。在该示例中,表被组合成四个表的集合,且表的集合取决于是否对该帧启用了4运动矢量编码来使用。
示例性MBMODE可变长度代码表(例如,对每一集合的表0-3-混合MV或1MV)在以下表1-8中提供:
表1:隔行扫描P帧混合MV MB模式表0
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  22  5   10110
  1MV   1   半帧  17  5   10001
  1MV   1   无CBP  0  2   00
  1MV   0   帧  47  6   101111
  1MV   0   半帧  32  6   100000
  2半帧MV   N/A   帧  10  4   1010
  2半帧MV   N/A   半帧  1  2   01
  2半帧MV   N/A   无CBP  3  2   11
  4帧MV   N/A   帧  67  7   1000011
  4帧MV   N/A   半帧  133  8   10000101
  4帧MV   N/A   无CBP  132  8   10000100
  4半帧MV   N/A   帧  92  7   1011100
  4半帧MV   N/A   半帧  19  5   10011
  4半帧MV   N/A   无CBP  93  7   1011101
  帧内编码   N/A   N/A  18  5   10010
表2:隔行扫描帧混合MV MB模式表1
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  3  3   011
  1MV   1   半帧  45  6   101101
  1MV   1   无CBP  0  3   000
  1MV   0   帧  7  3   111
  1MV   0   半帧  23  5   10111
  2半帧MV   N/A   帧  6  3   110
  2半帧MV   N/A   半帧   1   3   001
  2半帧MV   N/A   无CBP   2   3   010
  4帧MV   N/A   帧   10   4   1010
  4帧MV   N/A   半帧   39   6   100111
  4帧MV   N/A   无CBP   44   6   101100
  4半帧MV   N/A   帧   8   4   1000
  4半帧MV   N/A   半帧   18   5   10010
  4半帧MV   N/A   无CBP   77   7   1001101
  帧内编码   N/A   N/A   76   7   1001100
表3:隔行扫描帧混合MV MB模式表2
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  15  4   1111
  1MV   1   半帧  6  3   110
  1MV   1   无CBP  28  5   11100
  1MV   0   帧  9  5   01001
  1MV   0   半帧  41  7   0101001
  2半帧MV   N/A   帧  6  4   0110
  2半帧MV   N/A   半帧  2  2   10
  2半帧MV   N/A   无CBP  15  5   01111
  4帧MV   N/A   帧  14  5   01110
  4帧MV   N/A   半帧  8  5   01000
  4帧MV   N/A   无CBP  40  7   0101000
  4半帧MV   N/A   帧  29  5   11101
  4半帧MV   N/A   半帧  0  2   00
  4半帧MV   N/A   无CBP  21  6   010101
  帧内编码   N/A   N/A  11  5   01011
表4:隔行扫描帧混合MV MB模式表3
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧   7   4   0111
  1MV   1   半帧   198   9   011000110
  1MV   1   无CBP   1   1   1
  1MV   0   帧   2   3   010
  1MV   0   半帧   193   9   011000001
  2半帧MV   N/A   帧   13   5   01101
  2半帧MV   N/A   半帧   25   6   011001
  2半帧MV   N/A   无CBP   0   2   00
  4帧MV   N/A   帧   97   8   01100001
  4帧MV   N/A   半帧   1599   12   011000111111
  4帧MV   N/A   无CBP   98   8   01100010
  4半帧MV   N/A   帧   398   10   0110001100
  4半帧MV   N/A   半帧   798   11   01100011110
  4半帧MV   N/A   无CBP   192   9   011000000
  帧内编码   N/A   N/A   1598   12   011000111110
表5:隔行扫描帧1MV MB模式表0
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  9  4   1001
  1MV   1   半帧  22  5   10110
  1MV   1   无CBP  0  2   00
  1MV   0   帧  17  5   10001
  1MV   0   半帧  16  5   10000
  2半帧MV   N/A   帧  10  4   1010
  2半帧MV   N/A   半帧  1  2   01
  2半帧MV   N/A   无CBP  3  2   11
  帧内编码   N/A   N/A  23  5   10111
表6:隔行扫描帧1MV MB模式表1
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧   7   3   111
  1MV   1   半帧   0   4   0000
  1MV   1   无CBP   5   6   000101
  1MV   0   帧   2   2   10
  1MV   0   半帧   1   3   001
  2半帧MV   N/A   帧   1   2   01
  2半帧MV   N/A   半帧   6   3   110
  2半帧MV   N/A   无CBP   3   5   00011
  帧内编码   N/A   N/A   4   6   000100
表7:隔行扫描帧1MV MB模式表2
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  1  2   01
  1MV   1   半帧  0  2   00
  1MV   1   无CBP  10  4   1010
  1MV   0   帧  23  5   10111
  1MV   0   半帧  44  6   101100
  2半帧MV   N/A   帧  8  4   1000
  2半帧MV   N/A   半帧  3  2   11
  2半帧MV   N/A   无CBP  9  4   1001
  帧内编码   N/A   N/A  45  6   101101
表8:隔行扫描帧1MV MB模式表3
  MB类型   MV存在   变换  VLC码字  VLC大小   VLC(二进制)
  1MV   1   帧  7  4   0111
  1MV   1   半帧  97  8   01100001
  1MV   1   无CBP  1  1   1
  1MV   0   帧  2  3   010
  1MV   0   半帧  49  7   0110001
  2半帧MV   N/A   帧  13  5   01101
  2半帧MV   N/A   半帧   25   6   011001
  2半帧MV   N/A   无CBP   0   2   00
  帧内编码   N/A   N/A   96   8   01100000
VI.色度运动矢量导出中的革新
所描述的实施例包括用于从亮度(或“luma”)运动矢量中导出色度(或“chroma”)运动矢量的技术和工具。某些所描述的技术和工具涉及导出帧编码的隔行扫描图像(例如,隔行扫描P帧、隔行扫描B帧等)中的色度运动矢量以及改进隔行扫描帧编码图像的速率/失真性能。在所描述的技术和工具中,色度运动矢量不在比特流中显式地发送。相反,它们从对帧的宏块或块编码和发送的亮度运动矢量中导出。
所描述的实施例实现了包括但不限于以下描述的技术和工具中的一个或多个:
1.编码器/解码器通过对宏块中的每一亮度运动矢量导出色度运动矢量,获得隔行扫描帧编码图像(例如,隔行扫描P帧、隔行扫描B帧)中的亮度和色度运动矢量之间的一对一对应性。色度运动矢量然后用于对相应的色度块或半帧进行运动补偿。
2.当对应的宏块通过在二次采样之后将可变偏移量(例如,使用查找表)加到色度运动矢量来进行半帧编码时,编码器/解码器维护亮度和色度运动矢量之间的相干性。
尽管所描述的技术应用于隔行扫描视频中的4:2:0宏块格式,然而所描述的技术可应用于其它宏块格式(例如,4:2:2、4:4:4等)以及其它种类的视频。所描述的技术和工具可彼此结合或与其它技术和工具结合使用,或可单独使用。
A.一对一色度运动矢量对应性
在某些实现中,编码器/解码器导出并使用与用于预测宏块的亮度运动矢量相同数目的色度运动矢量来预测宏块。例如,当编码器/解码器对给定宏块使用一个、两个或四个亮度半帧或帧类型的运动矢量时,编码器/解码器对给定宏块分别导出一个、两个或四个色度运动矢量。这一技术与早先的编码器和解码器(例如,在逐行扫描帧或隔行扫描P帧上下文中)不同,其中早先的编码器或解码器总是对每一宏块中任何数量的亮度运动矢量(例如,一个或四个)导出单个色度运动矢量。
图32是示出用于对宏块中的多个亮度运动矢量中的每一个导出色度运动矢量的技术3200的流程图。在3210,编码器/解码器接收宏块的多个亮度运动矢量。在3220,编码器/解码器对多个亮度运动矢量中的每一个导出色度运动矢量。导出的色度运动矢量的数目取决于用于预测当前宏块的亮度运动矢量的数目而变化。
在某些实现中,编码器/解码器对1MV宏块导出一个色度运动矢量,对2半帧MV宏块导出两个半帧色度运动矢量,对4帧MV宏块导出四个帧色度运动矢量,并对4半帧MV宏块导出四个半帧色度运动矢量。
例如,再次参考图23-25,图23示出了2半帧MV宏块中从亮度运动矢量中导出的对应的上半帧和下半帧色度运动矢量。所导出的上半帧和下半帧色度运动矢量分别描述了色度块的偶数行和奇数行的位移。
图24示出了4帧MV宏块中对四个块中的每一个从帧亮度运动矢量中导出的对应的帧色度运动矢量(MV1′、MV2′、MV3′和MV4′)。四个导出的色度运动矢量描述了四个4×4色度子块各自的位移。
图25示出了4半帧MV宏块中从半帧亮度运动矢量中导出的对应的半帧色度运动矢量。两个半帧色度运动矢量描述了色度块中每一半帧的位移。色度块的行被垂直细分以形成两个4×8的区域,其每一个具有与下半帧行的4×4区域交错的上半帧行的4×4区域。对于上半帧行,左侧4×4区域的位移是由左上半帧色度块运动矢量描述的,而右侧4×4区域的位移是由右上半帧色度块运动矢量描述的。对于下半帧行,左侧4×4区域的位移是由左下半帧色度块运动矢量描述的,而右侧4×4区域的位移是由右下半帧色度块运动矢量描述的。
每一色度块区域可以使用导出的运动矢量来进行运动补偿。这允许比早先的编码器和解码器中更大的色度运动补偿分辨率,早先的编码器和解码器通常通过二次采样(也称为“下采样”)和/或求平均来从任何数目的亮度运动矢量中导出单个色度运动矢量(例如,其中从宏块中的四个亮度运动矢量中导出一个色度运动矢量)。
或者,编码器/解码器可从不同数目和/或类型的亮度运动矢量中导出色度运动矢量(例如,从用两个帧亮度运动矢量编码的宏块中导出两个帧色度运动矢量,从用四个以上亮度运动矢量编码的宏块中导出四个以上色度运动矢量等等)。或者,色度运动矢量可以按某一其它方式导出,而同时维持与宏块的亮度运动矢量数目的1∶1对应性。
B.半帧编码宏块中基于半帧的舍入
在某些实现中,编码器/解码器在对半帧编码的宏块导出色度运动矢量的过程中使用基于半帧的舍入来维持亮度运动矢量和色度运动矢量之间的相干性。
给定亮度帧运动矢量或半帧运动矢量,编码器/解码器导出对应的色度帧运动矢量或半帧运动矢量,以对色度(Cb/Cr)块的一部分(以及可能所有)执行运动补偿。在某些实现中,对隔行扫描帧编码图像(例如,隔行扫描P帧、隔行扫描B帧等)的色度运动矢量导出包括舍入和二次采样。例如,当从亮度半帧运动矢量中导出色度运动矢量时,编码器/解码器在二次采样之后将可变偏移量(例如,使用查找表)添加到色度运动矢量。
图33是示出用于使用基于半帧的舍入查找表导出宏块中的色度运动矢量的技术3300的流程图。在3310,编码器/解码器对亮度半帧运动矢量分量进行二次采样(例如,通过以4:2:0宏块格式将y分量值除以2)。在3320,编码器/解码器然后使用基于半帧的舍入查找表执行舍入。
图34中的伪代码3400描述了在一个实现中如何在4:2:0宏块中从亮度运动矢量分量(LMVx,LMVy)中导出色度运动矢量分量(CMVx,CMVy)。如在伪代码3400中示出的,编码器/解码器在水平二次采样之前使用简单的舍入策略(使用舍入查找表s RndTbl[])来上舍入运动矢量的x分量的3/4像素位置。如果宏块是帧编码的,则编码器/解码器在对y分量进行垂直二次采样之前使用相同的舍入查找表。然而,如果宏块是半帧编码的,则编码器/解码器不同地对待色度运动矢量的y分量。在半帧编码的宏块中,色度运动矢量对应于上半帧或下半帧。上半帧和下半帧各自包括色度块的交替的水平行。因此,在这一情况下,编码器/解码器使用伪代码3400中所示的基于半帧的舍入查找表s_RndTblField[]。基于半帧的舍入查找表允许编码器/解码器在舍入时维持正确的半帧偏移量,使得亮度和色度运动矢量映射到一致的半帧偏移量。例如,参考图35,s_RndTblField[]中的值0,0,1,2和2,2,3,8(图35中的上半帧值3510)应用于一个半帧(例如,上半帧),而值4,4,5,6和6,6,7,12(图35中的下半帧值3520)应用于宏块中的另一半帧(例如,下半帧)。
或者,编码器/解码器可使用不同的基于半帧的舍入查找表或以某一其它方式来执行舍入和/或二次采样。例如,处理不同格式的宏块的编码器/解码器可使用不同的二次采样因子和/或查找表值。
VII.组合实现
现在描述对于比特流句法、语义和解码器的详细的组合实现,以及具有来自主要的组合实现的微小差别的替换组合实现。
A.比特流句法
在各种组合实现中,用于隔行扫描图像的数据以具有多个层(例如,序列、入口点、帧、半帧、宏块、块和/或子块层)的比特流的形式存在。
在句法图中,箭头路径示出句法元素的可能流程。所示的带有正方形边框的句法元素指示固定长度的句法元素;带有圆形边框示出的句法元素指示可变长度句法元素,而带有外部的圆形边框内的圆形边框的句法元素指示由更简单句法元素构成的句法元素(例如,位平面)。固定长度句法元素被定义为其句法元素长度不依赖于句法元素本身中的数据的句法元素;固定长度句法元素的长度是常量,或由句法流中先前的数据来确定。分层图中的较低层(例如,帧层图中的宏块层)是由矩形内的矩形来指示的。
入口点级比特流元素在图36中示出。一般而言,入口点标记了比特流中解码器可开始解码的位置(例如,I帧或其它关键帧)。换言之,不需要比特流中在入口点之前的任何图像来解码入口点之后的图像。入口点头部可用于用信号表示编码控制参数中的改变(例如,对入口点之后的帧启用或禁用压缩工具(例如,内循环分块滤波))。
对于隔行扫描的P帧和B帧,帧级比特流元素分别在图37和38中示出。对于每一帧的数据由帧头部及之后的宏块层数据(不论是用于帧内编码还是各种帧间编码类型的宏块)构成。构成隔行扫描P帧的宏块层(无论是用于帧内编码还是各种帧间编码类型宏块)的比特流元素在图40中示出。用于隔行扫描P帧的宏块层中的比特流元素可对其它隔行扫描图像(例如,隔行扫描B帧、隔行扫描P半帧、隔行扫描B半帧等)中的宏块存在。
对于具有隔行扫描P半帧和/或B半帧的隔行扫描视频帧,帧级比特流元素在图39中示出。对于每一帧的数据由帧头部以及之后的用于半帧层的数据(被示为每一半帧的重复的“FieldPicLayer”元素)以及用于宏块层的数据(无论是用于帧内编码、1MV还是4MV宏块)构成。
以下章节描述了帧和宏块层内涉及对隔行扫描图像的信号表示的所选择的比特流元素。尽管所选择的比特流元素是在特定层的上下文中描述的,然而某些比特流元素可在一个以上层中使用。
1.选择的入口点层元素
循环滤波器(LOOPFILTER)(1比特)
LOOPFILTER是指示是否对入口点段启用循环滤波的布尔标志。如果LOOPFILTER=0,则不启用循环滤波。如果LOOPFILTER=1,则启用循环滤波。在替换的组合实现中,LOOPFILTER是序列级元素。
扩展的运动矢量(EXTENDED_MV)(1比特)
EXTENDED_MV是指示扩展运动矢量是打开(值1)还是关闭(值0)的1比特句法元素。EXTENDED_MV指示P帧和B帧中扩展的运动矢量(在帧级用句法元素MVRANGE来用信号表示)的可能性。
扩展的差分运动矢量范围(EXTENDED_DMV)(1比特)
EXTENDED_DMV是如果EXTENDED_MV=1则存在的1比特句法元素。如果EXTENDED_DMV为1,则应当对入口点段中的P帧和B帧在帧层上用信号表示扩展的差分运动矢量范围(DMVRANGE)。如果EXTENDED_DMV为0,则不应用信号表示DMVRANGE。
快速UV运动比较(FASTUVMC)(1比特)
FASTUVMC是控制色度运动矢量的子像素内插和舍入的布尔标志。如果FASTUVMC=1,则在四分之一像素偏移量处的色度运动矢量被舍入到最近的半或全像素位置。如果FASTUVMC=0,则不对色度执行任何特殊的舍入或滤波。FASTUVMC句法元素在隔行扫描P帧和隔行扫描B帧中忽略。
可变大小变换(VSTRANSFORM)(1比特)
VSTRANSFORM是指示对序列是否启用可变大小变换编码的布尔标志。如果VSTRANSFORM=0,则不启用可变大小变换编码。如果VSTRANSFORM=1,则启用可变大小变换编码。
2.选择的帧层元素
图37和38是分别示出用于隔行扫描P帧和隔行扫描B帧的帧级比特流句法的图示。图39是示出用于包含隔行扫描P半帧和/或B半帧(或可能其它种类的隔行扫描的半帧)的帧的帧层比特流句法。具体的比特流元素描述如下。
帧编码模式(FCM)(可变大小)
FCM是用于指示图像编码类型的可变长度码字[“VLC”]。FCM采取以下表9中示出的用于帧编码模式的值:
表9:帧编码模式VLC
  FCM值   帧编码模式
  0   逐行扫描
  10   帧-隔行扫描
  11   半帧-隔行扫描
半帧图像类型(FPTYPE)(3比特)
FPTYPE是存在于包括隔行扫描P半帧和/或隔行扫描B半帧以及可能的其它种类的半帧的帧的帧头部中的3比特句法元素。FPTYPE依照以下表10,采取隔行扫描视频帧中半帧类型的不同组合的值。
表10:半帧图像类型FLC
  FPTYPE FLC   第一半帧类型   第二半帧类型
  000   I   I
  001   I   P
  010   P   I
  011   P   P
  100   B   B
  101   B   BI
  110   BI   B
  111   BI   BI
图像类型(PTYPE)(可变大小)
PTYPE是存在于隔行扫描P帧和隔行扫描B帧(或其它种类的隔行扫描帧,诸如隔行扫描I帧)的帧头部中的可变大小句法元素。PTYPE采取依照以下表11的用于不同帧类型的值。
表11:图像类型VLC
  PTYPE VLC   图像类型
  110   I
  0   P
  10   B
  1110   BI
  1111   跳过
如果PTYPE指示帧被跳过,则该帧作为与其参考帧相同的P帧来对待。跳过的帧的重构在概念上等效于复制参考帧。跳过的帧意味着对该帧无需再发送任何数据。
UV采样格式(UVSAMP)(1比特)
UVSAMP是当序列级字段INTERLACE=1时存在的1比特句法元素。UVSAMP指示用于当前帧的色度二次采样的类型。如果UVSAMP=1,则使用色度的逐行扫描二次采样,否则,使用色度的隔行扫描二次采样。该句法元素不影响比特流的解码。
扩展的MV范围(MVRANGE)(可变大小)
MVRANGE是当入口点层EXTENDED_MV位被设为1时存在的可变大小句法元素。MVRANGE VLC表示运动矢量范围。
扩展的差分MV范围(DMVRANGE)(可变大小)
DMVRANGE是如果入口点层句法元素EXNTEDED_DMV=1时存在的可变大小句法元素。DMVRANGE VLC表示运动矢量差分范围。
4运动矢量切换(4MVSWITCH)(可变大小或1比特)
对于隔行扫描P帧,4MVSWITCH句法元素是1比特标志。如果4MVSWITCH被设为零,则图像中的宏块只有一个运动矢量或有两个运动矢量,分别取决于该宏块是帧编码的还是半帧编码的。如果4MVSWITCH被设为1,则对每一宏块可以有一个、两个或四个运动矢量。
跳过宏块解码(SKIPMB)(可变大小)
对于隔行扫描P帧,SKIPMB句法元素是包含指示图像中每一宏块的跳过/未跳过状态的信息的压缩的位平面。解码的位平面用1比特的值表示每一宏块的跳过/未跳过状态。0值指示该宏块未被跳过。1值指示该宏块被编码为跳过。隔行扫描P帧中的宏块的跳过状态意味着解码器将该宏块作为具有零运动矢量差分和零编码块模式的1MV来对待。不期望对跳过宏块跟任何其它信息。
宏块模式表(MBMODETAB)(2或3比特)
MBMODETAB句法元素是固定长度字段。对于隔行扫描P帧,MBMODETAB是2比特值,它指示四个代码表中的哪一个用于解码宏块层中的宏块模式句法元素(MBMODE)。有两组四个代码表,且使用的组取决于如4MVSWITCH标志所指示的是否使用了4MV。
运动矢量表(MVTAB)(2或3比特)
MVTAB句法元素是固定长度字段。对于隔行扫描P帧,MVTAB是指示四个逐行扫描(或一个参考)运动矢量代码表中的哪一个用于编码宏块层中的MVDATA句法元素。
2MV块模式表(2MVBPTAB)(2比特)
2MVBPTAB句法元素是用信号表示四个代码表中的哪一个用于解码2半帧MV宏块中的2MV块模式(2MVBP)句法元素的2比特值。
4MV块模式表(4MVBPTAB)(2比特)
4MVBPTAB句法元素是用信号表示四个代码表中的哪一个用于解码4MV宏块中的4MV块模式(4MVBP)句法元素的2比特值。对于隔行扫描P帧,如果4MVSWITCH句法元素被设为1,则它存在。
宏块级变换类型标志(TTMBF)(1比特)
如果序列级句法元素VSTRANSFORM=1,则该句法元素存在于P帧和B帧中。TTMBF是用信号表示是否在帧或宏块级启用变换类型编码的1比特句法元素。如果TTMBF=1,则对帧中的所有块使用相同的变换类型。在这一情况下,在之后的帧级变换类型(TTFRM)句法元素中用信号表示变换类型。如果TTMBF=0,则变换类型可贯穿帧而变化,且在宏块或块级用信号表示。
帧级变换类型(TTFRM)(2比特)
如果VSTRANSFORM=1且TTMBF=1,则该句法元素存在于P帧和B帧中。TTFRM用信号表示用于变换预测块中的8×8的像素误差信号的变换类型。8×8的误差块可使用8×8变换、两个8×4变换、两个4×8变换或四个4×4变换来变换。
3.选择的宏块层元素
图40是示出组合实现中用于隔行扫描P帧中的宏块的宏块级比特流句法。具体的比特流元素描述如下。宏块数据由宏块头部及之后的块层数据构成。用于隔行扫描P帧的宏块层中的比特流元素(例如,SKIPMBBIT)可能对于其它隔行扫描图像(例如,隔行扫描B帧等)中的宏块存在。
跳过MB位(SKIPMBBIT)(1比特)
SKIPMBBIT是当帧级句法元素SKIPMB指示使用原始模式时存在于隔行扫描P帧宏块和隔行扫描B帧宏块中的1比特句法元素。如果SKIPMBBIT=1,则跳过该宏块。SKIPMBBIT也可被标记为宏块级的SKIPMB。
宏块模式(MBMODE)(可变大小)
MBMODE是联合地指定宏块类型(例如,1MV、2半帧MV、4半帧MV、4帧MV或帧内编码)、半帧/帧编码类型(例如,半帧、帧或无编码块)以及1MV宏块的差分运动矢量数据的存在的可变大小句法元素。MBMODE在以下和以上第V节中详细解释。
2MV块模式(2MVBP)(可变大小)
2MVBP是存在于隔行扫描P帧和隔行扫描B帧宏块中的可变大小句法元素。在隔行扫描P帧宏块中,如果MBMODE指示宏块具有两个半帧运动矢量,则2MVBP存在。在这一情况下,2MVBP指示两个亮度块中的哪一个包含非零运动矢量差分。
4MV块模式(4MVBP)(可变大小)
4MVBP是存在于隔行扫描P半帧、隔行扫描B半帧、隔行扫描P帧和隔行扫描B帧宏块中的可变大小句法元素。在隔行扫描P帧中,如果MBMODE指示宏块具有四个运动矢量,则4MVBP存在。在这一情况下,4MVBP指示四个亮度块中的哪一个包含非零运动矢量差分。
半帧变换标志(FIELDTX)(1比特)
FIELDTX是存在于隔行扫描B帧帧内编码宏块中的1比特句法。该句法元素指示宏块是帧还是半帧编码的(基本上是宏块的内部组织)。FIELDTX=1指示宏块是半帧编码的。否则,宏块是帧编码的。在帧间编码的宏块中,该句法元素可从如以下以及在以上第V节中详细解释的MBMODE中推导出来。
CBP存在标志(CBPPRESENT)(1比特)
CBPPRESENT是存在于隔行扫描P帧和隔行扫描B帧中的帧内编码的宏块中的1比特句法。如果CBPPRESENT为1,则对该宏块存在CBPCY句法元素并解码该元素。如果CBPPRESENT为0,则不存在CPBCY句法元素,且应被设为零。
已编码块模式(CBPCY)(可变大小)
CBPCY是指示对于宏块中的每一块的变换系数状态的可变长度句法元素。CBPCY解码成指示对于对应的块是否存在系数的6比特字段。对于帧内编码的宏块,特定位位置中的零值指示对应的块不包含任何非零AC系数。1值指示存在至少一个非零AC系数。在所有情况下,对于每一块仍存在DC系数。对于帧间编码的宏块,特定位位置中的0值指示对应的块不包含任何非零系数。1值指示存在至少一个非零系数。对于该位为0的情况,不对该块编码任何数据。
运动矢量数据(MVDATA)(可变大小)
MVDATA是对宏块的运动矢量的差分编码的可变大小句法元素,其解码在以下详细描述。
MB级变换类型(TTMB)(可变大小)
TTMB是当图像层句法元素TTMBF=0时P图像和B图像宏块中的可变大小句法元素。TTMB指定了变换类型、变换类型信号水平以及子块模式。
B.解码隔行扫描P帧
在一个组合实现中,用于解码隔行扫描P帧的过程描述如下。
1.隔行扫描P帧的宏块层解码
在隔行扫描P帧中,每一宏块可以在帧模式中使用一个或四个运动矢量,或在半帧模式中使用两个或四个运动矢量来进行运动补偿。帧间编码的宏块不包含任何帧内编码的块。另外,运动补偿之后的残差可以在帧变换模式或半帧变换模式中编码。更具体地,如果以半帧变换模式编码,则残差的亮度分量依照半帧来重新排列,但是在帧变换模式中保持不变,而色度分量保持相同。宏块也可作为帧内编码来编码。
运动补偿可被限于不包括四个(半帧/帧两者)运动矢量,且这通过4MVSWITCH用信号表示。运动补偿和残差编码的类型通过MBMODE和SKIPMB对每一宏块联合指示。MBMODE采用了依照4MVSWITCH的一组不同的表。
隔行扫描P帧中的宏块被分类为五个类型:1MV、2半帧MV、4帧MV、4半帧MV和帧内编码。这五个类型已在上文第III节中详细描述。前四个宏块类型是帧间编码的,而最后一个类型指示宏块是帧内编码的。宏块类型是由宏块层中的MBMODE句法元素连同跳过位一起用信号表示的。(宏块的跳过条件也可在压缩位平面中的帧级处用信号表示。)MBMODE对不同类型的宏块,对宏块类型以及关于宏块的各个信息进行联合编码。
跳过宏块的信号表示
宏块级SKIPMBBIT字段指示宏块的跳过条件。(关于跳过条件和对应的信号表示的其它细节在以上第V节中提供。)如果SKIPMBBIT字段为1,则当前宏块被认为是跳过,且在SKIPMBBIT字段之后不发送任何其它信息。(在帧级,SKIPMB字段指示在宏块级SKIPMBBIT的存在(采用原始模式),或在压缩位平面中储存跳过信息。解码的位平面对每一宏块包含一个比特,且指示每一相应宏块的跳过条件。)跳过条件暗示当前宏块是具有零差分运动矢量的1MV(即,该宏块使用其1MV运动预测值来运动补偿),且没有已编码的块(CBP=0)。在替换的组合实现中,残差被假定为为循环滤波目的而进行帧编码。
另一方面,如果SKIPMB字段不是1,则MBMODE字段被解码为指示宏块类型以及关于当前宏块的其它信息,诸如以下章节中所描述的信息。
宏块模式的信号表示
MBMODE联合地指定了宏块的类型(1MV、4帧MV、2半帧MV、4半帧MV或帧内编码)、帧间编码宏块的变换类型(即,半帧或帧或无已编码块)、以及对1MV宏块是否存在差分运动矢量。(关于宏块信息的信号表示的其它细节在以上第V节中提供。)MBMODE可采取15个可能的值中的一个:
设<MVP>表示存在还是缺少非零1MV差分运动矢量的信号表示。设<Field/Frame transform>表示宏块的残差是(1)帧变换编码的;(2)半帧变换编码的;还是(3)零编码的块(即,CBP=0)的信号表示。MBMODE用信号联合表示以下信息:
MBMODE={<1MV,MVP,Field/Frame transform>,<2Field MV,Field/Frame
transform>,<4Frame MV,Field/Frame transform>,<4Field MV,Field/Frame
transform>,<INTRA>};情况<1MV,MVP=0,CBP=0>不是由MBMODE来用信号表示的,而是由跳过条件来用信号表示的。
对于帧间编码的宏块,当MBMODE中的<Field/frame Transform>指示无已编码块时,不解码CBPCY句法元素。另一方面,如果MBMODE中的<Field/frameTransform>指示半帧或帧变换,则解码CBPCY。解码的<Field/frame Transform>用于设置标志FIELDTX。如果它指示宏块是半帧变换编码的,则FIELDTX被设为1。如果它指示宏块是帧变换编码的,则FIELDTX被设为0。如果它指示零编码的块,则FIELDTX被设为与运动矢量相同的类型,即如果它是半帧运动矢量,则FIELDTX被设为1,如果是帧运动矢量,则设为0。
对于非1MV帧间编码的宏块,发送一附加字段以指示差分运动矢量中的哪一个是非零的。在2半帧MV宏块的情况下,发送2MVBP字段以指示两个运动矢量中的哪一个包含非零差分运动矢量。类似地,发送4MVBP字段以指示四个运动矢量中的哪一个包含非零差分运动矢量。
对于帧内编码的宏块,在单独的字段中编码半帧/帧变换和零编码块。
2.用于隔行扫描P帧的运动矢量解码
用于隔行扫描P帧的运动矢量预测值
为当前宏块计算运动矢量预测值的过程由两个步骤构成。首先,从其相邻宏块收集当前宏块的三个候选运动矢量。其次,从该候选运动矢量集计算当前宏块的运动矢量预测值。图26A-26B示出了从其中收集候选运动矢量的相邻宏块。候选运动矢量的收集顺序是重要的。在该组合实现中,收集顺序总是从A开始,前进到B,且在C结束。如果对应的块位于帧边界之外,或者如果对应的块是不同片的一部分,则候选预测值被认为不存在。由此,运动矢量预测不跨片边界执行。
以下章节描述了如何为不同类型的宏块收集候选运动矢量以及如何计算运动矢量预测值。
1MV候选运动矢量
在该组合实现中,图41中的伪代码4100用于为运动矢量收集多达三个候选运动矢量。
4帧MV候选运动矢量
对于4帧MV宏块,对于当前宏块中四个帧块运动矢量中的每一个,收集来自相邻块的候选运动矢量。在该组合实现中,图42中的伪代码4200用于为左上帧运动矢量收集多达三个候选运动矢量。图43中的伪代码4300用于为右上帧块运动矢量收集多达三个候选运动矢量。图44中的伪代码4400用于为左下帧块运动矢量收集多达三个候选运动矢量。图45中的伪代码4500用于为右下帧块运动矢量收集多达三个候选运动矢量。
2半帧MV候选运动矢量
对于2半帧MV宏块,对于当前宏块中的两个半帧运动矢量中的每一个,收集来自相邻块的候选运动矢量。图46中的伪代码4600用于为上半帧运动矢量收集多达三个候选运动矢量。图47中的伪代码4700用于为下半帧运动矢量收集多达三个候选运动矢量。
4半帧MV候选运动矢量
对于4半帧MV宏块,对于当前宏块中四个半帧块中的每一个,收集来自相邻块的候选运动矢量。图48中的伪代码4800用于为左上半帧块运动矢量收集多达三个候选运动矢量。图49中的伪代码4900用于为右上半帧块运动矢量收集多达三个候选运动矢量。图50中的伪代码5000用于为左下半帧块运动矢量收集多达三个候选运动矢量。图51中的伪代码5100用于为右下半帧块运动矢量收集多达三个候选运动矢量。
平均半帧运动矢量
给定两个半帧运动矢量(MVX1,MVY1)和(MVX2,MVY2),用于形成候选运动矢量(MVXA,MVYA)的求平均运算为:
MVXA=(MVX1+MVX2+1)>>1;
MVYA=(MVY1+MMY2+1)>>1;
从候选运动矢量计算帧MV预测值
本节描述了如何在给定一组候选运动矢量时为帧运动矢量计算运动矢量预测值。在该组合实现中,对于为1MV计算预测值或对4帧MV宏块中四个帧块运动矢量中的每一个计算预测值的运算是相同的。
图52中的伪代码5200描述了如何为帧运动矢量计算运动矢量预测值(PMVx,PMVy)。在伪代码5200中,TotalValidMV表示候选运动矢量集中运动矢量的总数(TotalValidMV=0、1、2或3),而ValidMV数组表示候选运动矢量集中的运动矢量。
从候选运动矢量计算半帧MV预测值
本节描述了在组合实现中,如何在给定候选运动矢量集的情况下为半帧运动矢量计算运动矢量预测值。在该组合实现中,对于为2半帧MV宏块中两个半帧运动矢量中的每一个计算预测值或对于为4半帧MV宏块中四个半帧块运动矢量中的每一个计算预测值的运算是相同的。
首先,将候选运动矢量分为两个集合,其中一个集合仅包含指向与当前半帧相同的半帧的候选运动矢量,而另一集合包含指向相反半帧的候选运动矢量。假定候选运动矢量是以四分之一像素单位表示的,以下对其y分量的校验验证了候选运动矢量是否指向相同的半帧:
图53中的伪代码5300描述了如何为半帧运动矢量计算运动矢量预测值(PMVx,PMVy)。在伪代码5300中,SameFieldMV和OppFieldMV表示两个候选运动矢量集,NumSameFieldMV和NumOppFieldMV表示属于每一集合的候选运动矢量的数目。每一集合中候选运动矢量的顺序以候选运动矢量A(如果存在)开始,之后是候选运动矢量B(如果存在),之后是候选运动矢量C(如果存在)。例如,如果集合SameFieldMV仅包含候选运动矢量B和候选运动矢量C,则SameFieldMV[0]是候选运动矢量B。
解码运动矢量差分
MVDATA句法元素包含宏块的运动矢量差分信息。取决于每一宏块处用信号表示的运动补偿类型和运动矢量块模式,对每一宏块可以有从0到4个MVDATA句法元素。更具体地,
·对于1MV宏块,取决于MBMODE中的MVP字段,可以存在0个或1个MVDATA句法元素。
·对于2半帧MV宏块,取决于2MVBP,可以存在0、1或2个MVDATA句法元素。
·对于4帧/半帧MV宏块,取决于4MVBP,可以存在0、1、2、3或4个MVDATA句法元素。
在该组合实现中,以与隔行扫描P半帧的1参考半帧运动矢量差分相同的方式解码运动矢量差分,而无需半像素模式。(图54A中的伪代码5400示出了如何为一个参考半帧解码运动矢量差分。图54B中的伪代码5410示出了替换的组合实现中如何为一个参考半帧解码运动矢量差分。伪代码5410以不同的方式解码运动矢量差分。例如,伪代码5410省略了对扩展的运动矢量差分范围的处理。)
重构运动矢量
给定运动矢量差分dmv,通过将该差分加到预测值来重构亮度运动矢量,如下:
mv_x=(dmv_x+predictor_x)smod range_x
mv_y=(dmv_y+predictor_y)smod range_y
smod运算确保重构的矢量是有效的。(A smod b)处于于-b和b-1以内。range_x和range_y取决于MVRANGE。
给定亮度帧或半帧运动矢量,导出对应的色度帧或半帧运动矢量以补偿色度(Cb/Cr)块的一部分(或可能全部)。在隔行扫描P帧和隔行扫描B帧中忽略FASTUVMC句法元素。图34中的伪代码3400描述了在隔行扫描P帧中如何从亮度运动矢量LMV中导出色度运动矢量CMV。
C.位平面编码
诸如跳过位等宏块专用二进制信息可以对每一宏块在一个二进制码元中编码。例如,宏块是否被跳过可以用一个比特的信号来表示。在这些情况下,半帧或帧中的所有宏块的状态可以被编码为一个位平面,且在半帧或帧头部中发送。对于该规则的一个例外是如果位平面编码模式被设为原始模式,在这一情况下,每一宏块的状态被编码为每一码元一个比特,且在宏块级连同其它宏块级句法元素一起发送。
半帧/帧级位平面编码用于对二维二进制数组进行编码。每一数组的大小是rowMB×colMB,其中rowMB和colMB分别是所讨论的半帧或帧中宏块行和列的数目。在比特流中,每一数组被编码为一组接连的比特。使用七种模式之一来编码每一数组。这七种模式是:
1.原始模式-信息被编码为每一码元一个比特,并作为MB级句法的一部分发送;
2.普通-2模式-两个码元联合编码;
3.差分-2模式-位平面的差分编码,之后对两个残差码元联合编码;
4.普通-6模式-6个码元联合编码;
5.差分-6模式-位平面的差分编码,之后对6个残差码元联合编码;
6.行跳过模式-跳过一个比特以用信号表示没有置位的行;以及
7.列跳过模式-跳过一个比特以用信号表示没有置位的列。半帧级或帧级对于位平面的句法元素在以下序列中:INVERT、IMODE和DATABITS。
反转标志(INVERT)
INVERT句法元素是1比特的值,如果被置位,则指示位平面具有比零个位更多的位被置位。取决于INVERT和模式,解码器应当反转所解释的位平面以重新创建原始信号。注意,当使用原始模式时,该位的值应当被忽略。如何在解码位平面时使用INVERT值的描述在下文提供。
编码模式(IMODE)
IMODE句法元素是指示用于对位平面编码的编码模式的可变长度值。表12示出了用于对IMODE句法元素编码的代码表。对IMODE值如何用于解码位平面的描述在下文提供。
表12:IMODE VLC代码表
 IMODE VLC   编码模式
 10   普通-2
 11   普通-6
 010   行跳过
 011   列跳过
 001   差分-2
 0001   差分-6
 0000   原始
位平面编码位(DATABITS)
DATABITS句法元素是对位平面的码元流进行编码的可变大小句法元素。用于编码位平面的方法是由IMODE的值来确定的。以下章节中描述了七种编码模式。
原始模式
在该模式中,位平面被编码为对宏块中以光栅扫描顺序扫描的每一码元一个比特,并作为宏块层的一部分发送。或者,原始模式中在半帧或帧级编码的信息和DATABITS的长度是rowMB×colMB比特。
普通-2模式
如果rowMB×colMB是奇数,则第一码元是原始编码的。后续的码元以自然扫描顺序成对地编码。表13中的二进制VLC表用于编码码元对。
表13:普通-2/差分-2代码表
  码元2n   码元2n+1   码字
  0   0   0
  1   0   100
  0   1   101
  1   1   11
差分-2模式
普通-2方法用于产生如上所述的位平面,然后如下所述向位平面应用Diff-1运算。
普通-6模式
在普通-6和差分-6模式中,位平面按照6个像素的组来编码。这些像素被组合成2×3或3×2的平铺块。位平面使用一组规则最大化地平铺,且剩余的像素使用行跳过和列跳过模式的变体来编码。当且仅当rowMB是3的倍数且colMB不是时,使用2×3的“垂直”平铺块。否则,使用3×2的“水平”平铺块。图55A示出了2×3的“垂直”平铺块的一个简化示例。图55B和55C示出了3×2的“水平”平铺块的简化示例,对于该平铺块,拉长的深色矩形是1个像素宽,且使用行跳过和列跳过编码来编码。对于如图55C所示地平铺的平面,其中线性平铺块沿着图像的上边和左边,平铺块的编码顺序遵循以下模式。首先编码6个元素的平铺块,然后是列跳过和行跳过编码的线性平铺块。如果数组大小是2×3或3×2的倍数,则后一线性平铺块不存在,且位平面是完美地平铺的。
6元素矩形平铺块使用不完整的哈夫曼码来编码,即不使用所有的最终节点用于编码的哈夫曼码。设N是平铺块中置位的数目,即0≤N≤6。对于N<3,使用VLC来编码该平铺块。对于N=3,固定长度换码之后跟随5比特的固定长度码,且对于N>3,固定长度换码之后跟随该平铺块的补码的代码。
矩形平铺块包含6比特的信息。设k是与平铺块相关联的代码,其中k=bi2j,其中bi是平铺块中自然扫描顺序的第i个比特的二进制值。因此0≤k≤64。使用VLC和满足固定长度码的换码的组合来用信号表示k。
差分-6模式
普通-6方法用于产生如上所述的位平面,然后如下所述向该位平面应用Diff-1运算。
行跳过模式
在行跳过编码模式中,以一个比特的额外开销跳过所有的零行。句法如下:对于每一行,单个ROWSKIP位指示该行是否被跳过;如果该行被跳过,则接着是下一行的ROWSKIP位;否则(该行不被跳过),则接着是ROWBITS位(对行中的每一宏块有一个比特)。由此,如果整个行为零,则发送一个0比特作为ROWSKIP码元,且跳过ROWBITS。如果在行中有一个置位,则ROWSKIP被设为1,且整个行原始地发送(ROWBITS)。行是在半帧或帧中从上到下扫描的。
列跳过模式
列跳过是行跳过的转置。列是在半帧或帧中从左到右扫描的。
Diff-1::反差分解码
如果使用了任一差分模式(差分-2或差分-6),则首先使用对应的普通模式(分别为普通-2或普通-6)来解码“差分位”的位平面。差分位用于重新生成原始的位平面。重新生成过程是二进制字母表上的2-D DPCM。为重新生成位置(i,j)处的位,如下(从位置(i,j)处的位b(i,j))生成预测值bp(i,j):
Figure B200710006359XD00601
对于差分编码模式,不执行基于INVERT的逐位反转过程。然而,在不同的容量中使用INVERT标志以指示用于上述预测值的导出的码元A的值。更具体地,如果INVERT等于0,则A等于0,如果INVERT等于1,则A等于1。位平面的实际值是通过将预测值与解码的差分位值进行xor(异或)运算来获得的。在以上公式中,b(i,j)是在最终的解码之后(即,在完成了普通-2/普通-6,接着完成了与其预测值的差分xor之后),第i,j位置处的位。
参考各实施例描述和示出了本发明的原理之后,可以认识到,可以在排列和细节上修改各实施例,而不脱离这些原理。应当理解,此处所描述的程序、过程或方法不相关于或不限于任何特定类型的计算环境,除非另外指明。可依照此处所描述的教导来使用各种类型的通用或专用计算环境或执行操作。以软件示出的实施例的元素可以用硬件来实现,反之亦然。
鉴于可应用本发明的原理的许多可能的实施例,要求保护落入所附权利要求书及其等效技术方案的范围和精神之内的所有这样的实施例作为本发明。

Claims (21)

1.一种处理宏块信息的方法,包括:
为隔行扫描P帧中的宏块选择运动补偿类型;
为所述宏块选择半帧/帧编码类型;以及
使用联合码为所述宏块对所述运动补偿类型和所述半帧/帧编码类型进行联合编码,其中所述联合码来自一可变长度代码表,在所述可变长度代码表中多个不同的可变长度代码表示运动补偿类型和半帧/帧编码类型的值的多个不同组合,其中,所述多个不同的可变长度编代码的大小相对于所述多个不同的组合的各自的可能性而不同。
2.如权利要求1所述的方法,其特征在于,所述联合编码还包括使用联合码将所述宏块的其它信息与所述运动补偿类型和所述半帧/帧编码类型一起进一步联合编码。
3.如权利要求2所述的方法,其特征在于,所述宏块的其它信息包括所述宏块的差分运动矢量的存在的指示符。
4.如权利要求1所述的方法,其特征在于,所述联合编码还包括将所述宏块的差分运动矢量的存在或缺乏的指示符与所述运动补偿类型和所述半帧/帧编码类型一起进一步进行联合编码,其中所述宏块是1运动矢量宏块。
5.如权利要求1所述的方法,其特征在于,所述运动补偿类型是从由以下各项构成的组中选出的:1MV、4帧MV、2半帧MV或4半帧MV。
6.如权利要求1所述的方法,其特征在于,所述半帧/帧编码类型是从由以下各项构成的组中选出的:半帧变换、帧变换或无已编码块。
7.如权利要求1-6中任一项所述的方法,其特征在于,所述方法在视频编码期间执行。
8.如权利要求1所述的方法,其特征在于,所述选择运动补偿类型、选择半帧/帧编码类型、以及联合编码的步骤执行于编码隔行扫描P帧以生成编码信息的过程中,并且其中所述方法还包括在比特流中输出编码的信息。
9.如权利要求8所述的方法,其特征在于:
所述编码各行扫描P帧还包括:从多个可用的可变长度代码表中选择可变长度代码表,其中所述多个可用的可变长度代码表包括第一组表,其在为隔行扫描P帧启用了4-运动向量编码时使用,以及第二组表,其在没有为隔行扫描P帧启用4-运动向量编码时使用;以及
所述输出包括在比特流中用信号表示一代码表选择句法元素,其中所述代码表选择句法元素指示第一组表中的选择或指示第二组表中的选择。
10.如权利要求8所述的方法,其特征在于,所述联合编码还指示是否宏块的比特流中有编码的块模式句法元素。
11.一种处理宏块信息的方法,包括:
接收关于隔行扫描P帧中的宏块的宏块信息,所述宏块信息包括表示所述宏块的运动补偿类型和半帧/帧编码类型的联合码;以及
解码所述联合码以获得所述宏块的运动补偿类型和半帧/帧编码类型两者,其中所述联合码来自一可变长度代码表,在所述可变长度代码表中多个不同的可变长度代码表示运动补偿类型和半帧/帧编码类型的值的多个不同组合,其中,所述多个不同的可变长度编代码的大小相对于所述多个不同的组合的各自的可能性而不同,并且其中所述联合码是可变长度代码表中的多个不同的可变长度码的其中之一。
12.如权利要求11所述的方法,其特征在于,解码所述联合码包括在可变长度代码表中查找所述联合码。
13.如权利要求11所述的方法,其特征在于,所述联合码还表示关于所述宏块的其它信息。
14.如权利要求13所述的方法,其特征在于,所述宏块的其它信息包括所述宏块的差分运动矢量的存在的指示符。
15.如权利要求13所述的方法,其特征在于,所述联合码还表示所述宏块的差分运动矢量的存在的指示符,其中所述宏块是1运动矢量宏块。
16.如权利要求13所述的方法,其特征在于,所述运动补偿类型是从由以下各项构成的组中选出的:1MV、4帧MV、2半帧MV或4半帧MV。
17.如权利要求13所述的方法,其特征在于,所述半帧/帧编码类型是从由以下各项构成的组中选出的:半帧变换、帧变换或无已编码块。
18.如权利要求11-17中任一项所述的方法,其特征在于,所述方法在视频编码期间执行。
19.如权利要求11所述的方法,其特征在于:
所述接收宏块信息是在接收交错编码的P帧的编码信息的过程中执行的;以及
所述解码联合码是在解码交错编码的P帧的过程中执行的。
20.如权利要求19所述的方法,其特征在于:
所述接收编码信息还包括从比特流中接收代码表选择句法元素;以及
所述解码交错编码的P帧还包括:至少部分地基于所述编代码选择句法元素从多个可用的可变长度代码表中选择可变长度代码表,其中所述多个可用的可变长度代码表包括第一组表,其在为隔行扫描P帧启用了4-运动向量编码时使用,以及第二组表,其在没有为隔行扫描P帧启用4-运动向量编码时使用,并且其中所述代码表选择句法元素指示第一组表中的选择或指示第二组表中的选择。
21.如权利要求11所述的方法,其特征在于,所述解码联合码指示是否宏块的比特流中有编码的块模式句法元素。
CN 200710006359 2004-09-03 2004-09-03 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新 Active CN101005620B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 200710006359 CN101005620B (zh) 2004-09-03 2004-09-03 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 200710006359 CN101005620B (zh) 2004-09-03 2004-09-03 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CNB2004800254549A Division CN100534164C (zh) 2003-09-07 2004-09-03 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新

Publications (2)

Publication Number Publication Date
CN101005620A CN101005620A (zh) 2007-07-25
CN101005620B true CN101005620B (zh) 2011-08-10

Family

ID=38704438

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 200710006359 Active CN101005620B (zh) 2004-09-03 2004-09-03 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新

Country Status (1)

Country Link
CN (1) CN101005620B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9509995B2 (en) 2010-12-21 2016-11-29 Intel Corporation System and method for enhanced DMVD processing
US9538197B2 (en) 2009-07-03 2017-01-03 Intel Corporation Methods and systems to estimate motion based on reconstructed reference frames at a video decoder

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101771416B (zh) * 2008-12-29 2013-06-05 华为技术有限公司 位平面编码和解码方法、通信系统及相关设备
CN103888772B (zh) * 2009-06-18 2017-11-17 株式会社东芝 运动图像解码装置和运动图像解码方法
EP2530937B1 (en) 2009-06-18 2015-03-18 Kabushiki Kaisha Toshiba Video encoding apparatus and video decoding apparatus
US9628794B2 (en) 2009-06-18 2017-04-18 Kabushiki Kaisha Toshiba Video encoding apparatus and a video decoding apparatus
US9654792B2 (en) 2009-07-03 2017-05-16 Intel Corporation Methods and systems for motion vector derivation at a video decoder
GB2487200A (en) 2011-01-12 2012-07-18 Canon Kk Video encoding and decoding with improved error resilience
CN102685477B (zh) * 2011-03-10 2014-12-10 华为技术有限公司 获取用于合并模式的图像块的方法和设备
GB2491589B (en) 2011-06-06 2015-12-16 Canon Kk Method and device for encoding a sequence of images and method and device for decoding a sequence of image
GB2492333B (en) * 2011-06-27 2018-12-12 British Broadcasting Corp Video encoding and decoding using transforms
GB2493755B (en) * 2011-08-17 2016-10-19 Canon Kk Method and device for encoding a sequence of images and method and device for decoding a sequence of images
US9338458B2 (en) * 2011-08-24 2016-05-10 Mediatek Inc. Video decoding apparatus and method for selectively bypassing processing of residual values and/or buffering of processed residual values
US20140092992A1 (en) * 2012-09-30 2014-04-03 Microsoft Corporation Supplemental enhancement information including confidence level and mixed content information
EP3386179A1 (en) 2013-09-20 2018-10-10 VID SCALE, Inc. Systems and methods for providing 3d look-up table coding for color gamut scalability
KR20170113713A (ko) 2013-12-13 2017-10-12 브이아이디 스케일, 인크. 보간을 이용하는 루마 및 크로마의 위상 정렬을 위한 컬러 색역 스케일러블 비디오 코딩 디바이스 및 방법
WO2017107074A1 (en) * 2015-12-22 2017-06-29 Realnetworks, Inc. Residual transformation and inverse transformation in video coding systems and methods
WO2020000444A1 (zh) * 2018-06-29 2020-01-02 深圳市大疆创新科技有限公司 运动矢量确定方法、设备及机器可读存储介质
CN113039790B (zh) 2018-11-17 2023-04-14 北京字节跳动网络技术有限公司 视频处理的方法、装置和非暂时性计算机可读介质
EP4297403A3 (en) * 2018-12-21 2024-02-28 Beijing Dajia Internet Information Technology Co., Ltd. Methods and apparatus of video coding for deriving affine motion vectors for chroma components
CN113273205A (zh) * 2018-12-21 2021-08-17 北京字节跳动网络技术有限公司 使用更高比特深度精度的运动矢量推导
CN113196773B (zh) * 2018-12-21 2024-03-08 北京字节跳动网络技术有限公司 具有运动矢量差的Merge模式中的运动矢量精度
CN115396643B (zh) * 2022-08-23 2023-08-29 中船重工(武汉)凌久电子有限责任公司 一种自动路由图像变换方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6198773B1 (en) * 1997-12-18 2001-03-06 Zoran Corporation Video memory management for MPEG video decode and display system
CN1293868A (zh) * 1999-02-05 2001-05-02 索尼公司 编码设备和方法、解码设备和方法以及译码系统和方法
US20030113026A1 (en) * 2001-12-17 2003-06-19 Microsoft Corporation Skip macroblock coding

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6198773B1 (en) * 1997-12-18 2001-03-06 Zoran Corporation Video memory management for MPEG video decode and display system
CN1293868A (zh) * 1999-02-05 2001-05-02 索尼公司 编码设备和方法、解码设备和方法以及译码系统和方法
US20030113026A1 (en) * 2001-12-17 2003-06-19 Microsoft Corporation Skip macroblock coding

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SHIJJUN SUN ET AL.Loop Filter with Skip mode(VCEH-N17).ITU VIDEO CODING EXPERT GROUP STUDY GROUP16VCEG-N17.2001,VCEG-N17第1-8页. *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9538197B2 (en) 2009-07-03 2017-01-03 Intel Corporation Methods and systems to estimate motion based on reconstructed reference frames at a video decoder
US9509995B2 (en) 2010-12-21 2016-11-29 Intel Corporation System and method for enhanced DMVD processing

Also Published As

Publication number Publication date
CN101005620A (zh) 2007-07-25

Similar Documents

Publication Publication Date Title
CN101001374B (zh) 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新
CN101005620B (zh) 为隔行扫描和逐行扫描视频编码和解码宏块和运动信息中的革新
CN101902635B (zh) 隔行扫描视频的编码与解码
JP4921971B2 (ja) インターレース・ビデオおよびプログレッシブ・ビデオのマクロブロックおよび動き情報の符号化および復号における新機軸
CN101841718B (zh) 隔行扫描视频的高级双向预测编码
JP5368631B2 (ja) 画像符号化方法、装置、及びプログラム
AU728469B2 (en) Intra-macroblock DC and AC coefficient prediction for interlaced digital video
JP5049009B2 (ja) マクロブロックフィールド/フレームコード化タイプ情報のためのビットプレーンコーディングおよびデコーディング
KR100925968B1 (ko) 컴퓨터 시스템에서 비디오 시퀀스의 복수의 비디오 화상을 처리하는 방법, 시스템 및 컴퓨터 판독가능 매체
KR20040095398A (ko) 참조 픽처 결정 방법, 그 움직임 보상 방법 및 그 장치

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150429

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20150429

Address after: Washington State

Patentee after: Micro soft technique license Co., Ltd

Address before: Washington State

Patentee before: Microsoft Corp.