CN104620578B - 用于随机访问的多层视频编码的方法和设备以及用于随机访问的多层视频解码的方法和设备 - Google Patents

Abstract

提供了一种实现新的多层视频预测结构的多层视频编码方法和设备以及多层视频解码方法和设备。所述多层视频解码方法包括：通过对基本层流执行运动补偿和帧内解码来重构基本层图像；通过从增强层流重构与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的相同类型的增强层RAP图像，并通过使用基本层图像对包括重构的增强层RAP图像的增强层图像执行运动补偿和层间解码，来重构增强层图像。

Description

用于随机访问的多层视频编码的方法和设备以及用于随机访 问的多层视频解码的方法和设备

技术领域

本发明涉及通过使用基于帧间预测、帧内预测和层间预测的多层预测结构来对视频进行编码和解码。

背景技术

随着用于再现和存储高分辨率或高质量视频内容的硬件的开发和提供，对于用于有效地对高分辨率或高质量视频内容进行编码或解码的视频编解码器的需求正在增加。根据传统的视频编解码器，基于具有预定尺寸的宏块，根据受限的编码方法来对视频进行编码。

经由频率变换将空间域的图像数据变换为频率域的系数。根据视频编解码器，将图像划分为具有预定尺寸的块，对每个块执行离散余弦变换(DCT)，并以块为单元对频率系数进行编码，以进行频率变换的快速计算。与空间域的图像数据相比，频率域的系数容易被压缩。具体地，由于根据视频编解码器的帧间预测或帧内预测的预测误差来表示空间域的图像像素值，因此当对预测误差执行频率变换时，大量数据可被变换为0。根据视频编解码器，可通过将连续并重复产生的数据替换为小量数据来减少数据量。

多层视频编解码器对基本层视频和至少一个增强层视频进行编码和解码。可通过移除基本层视频和增强层视频的时间/空间冗余和层冗余来减少基本层视频和增强层视频的数据量。

发明内容

技术问题

本发明提供了一种多层视频编码方法和设备以及多层视频解码方法和设备，其中，在多视点视频重构处理期间，通过提供新的多层视频预测结构来根据层对随机访问进行同步和执行。

技术方案

根据本发明的一方面，提供了一种多层视频解码方法，包括：通过对基本层流执行运动补偿和帧内解码来重构基本层图像；通过从增强层流重构与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的相同类型的增强层RAP图像，并通过使用基本层图像对包括重构的增强层RAP图像的增强层图像执行运动补偿和层间解码，来重构增强层图像。

有益效果

根据基于实施例的多层视频预测结构，在基本层图像与增强层图像之间同步的输出可被保证为在基本层图像序列与增强层图像序列之间执行基本层图像与增强层图像之间的帧间层编码或帧间层解码，其中，基本层图像和增强层图像被分配了相同再现顺序画面顺序计数(POC)。

附图说明

图1a是根据本发明实施例的多层视频编码设备的框图。

图1b是图1a的多层视频编码设备的多层视频编码方法的流程图。

图2a是根据本发明实施例的多层视频解码设备的框图。

图2b是图2a的多层视频解码设备的多层视频解码方法的流程图。

图3是根据本发明实施例的层间预测结构的示图。

图4a是多层图像的多层预测结构的示图。

图4b是根据时间分层编码和解码方法的多层预测结构的示图。

图5a和图5b示出根据本发明两个实施例的瞬时解码刷新(InstantaneousDecoding Refresh(IDR))图像的再现顺序和解码顺序。

图6a和图6b示出根据本发明两个实施例的纯净随机访问(Clear Random Access(CRA))图像的再现顺序和解码顺序。

图7a和图7b示出根据本发明两个实施例的断链访问(Broken Link Access(BLA))图像的再现顺序和解码顺序。

图8是根据本发明实施例的基于根据树结构的编码单元的视频编码设备的框图。

图9是根据本发明实施例的基于根据树结构的编码单元的视频解码设备的框图。

图10是用于描述根据本发明实施例的编码单元的概念的示图。

图11是根据本发明实施例的基于编码单元的图像编码器的框图。

图12是根据本发明实施例的基于编码单元的图像解码器的框图。

图13是根据本发明实施例的根据深度的较深层编码单元以及分区的示图。

图14是用于描述根据本发明实施例的编码单元与变换单元之间的关系的示图。

图15是用于描述根据本发明实施例的与编码深度相应的编码单元的编码信息的示图。

图16是根据本发明实施例的根据深度的较深层编码单元的示图。

图17至图19是用于描述根据本发明实施例的编码单元、预测单元和变换单元之间的关系的示图。

图20是用于描述根据表1的编码模式信息的编码单元、预测单元和变换单元之间的关系的示图。

图21是根据本发明实施例的存储程序的盘的物理结构的示图。

图22是通过使用盘来记录和读取程序的盘驱动器的示图。

图23是用于提供内容分配服务的内容供应系统的整体结构的示图。

图24和图25分别是根据本发明实施例的应用了视频编码方法和视频解码方法的移动电话的外部结构和内部结构的示图。

图26是根据本发明实施例的采用通信系统的数字广播系统的示图。

图27是示出根据本发明实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构的示图。

具体实施方式

最佳模式

根据本发明的一方面，提供了一种多层视频解码方法，包括：通过对基本层流执行运动补偿和帧内解码来重构基本层图像；通过从增强层流重构与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的相同类型的增强层RAP图像，并通过使用基本层图像对包括重构的增强层RAP图像的增强层图像执行运动补偿和层间解码，来重构增强层图像。

重构增强层图像的步骤可包括：将与第一基本层IDR图像相应的第一增强层图像确定为第一增强层IDR图像，并通过参考第一基本层IDR图像对第一增强层IDR图像执行层间解码；通过参考第一增强层IDR图像对至少一个增强层图像执行运动补偿。

重构增强层图像的步骤可包括：将与第一基本层CRA图像相应的第一增强层图像确定为第一增强层CRA图像，并通过参考第一基本层CRA图像对第一增强层CRA图像执行层间解码；通过参考第一增强层CRA图像对至少一个增强层图像执行运动补偿。

重构增强层图像的步骤可包括：将与第一基本层BLA图像相应的第一增强层图像确定为第一增强层BLA图像，并通过参考第一基本层BLA图像对第一增强层BLA图像执行层间解码；通过参考第一增强层BLA图像对至少一个增强层图像执行运动补偿。

重构增强层图像的步骤可包括：将与第一基本层RASL图像相应的第一增强层图像确定为第一增强层RASL图像，并对第一增强层RASL图像执行参考第一基本层RASL图像的层间解码和参考第一增强层RAP图像和按照解码顺序在第一增强层RAP图像之前的增强层RAP图像的运动补偿。

重构增强层图像的步骤可包括：将与第一基本层普通图像相应的第一增强层图像确定为第一增强层纯净随机访问(CRA)图像、第一增强层随机访问跳过领导(RASL)图像和第一增强层普通图像中的一个，并对第一增强层普通图像执行参考第一基本层普通图像的层间解码和参考增强层RAP图像的运动补偿。

重构增强层图像的步骤可包括：基于视点改变请求来确定与作为RAP图像和非RAP图像之一的第一基本层图像相应的第一增强层查看层访问(VLA)图像，并通过参考第一基本层图像来对第一增强层VLA图像执行层间解码；通过参考按照解码顺序和再现顺序在第一增强层VLA图像之后或与第一增强层VLA图像顺序相同的增强层图像中的至少一个，对按照解码顺序在第一增强层VLA图像之后的增强层图像执行运动补偿。

重构基本层图像的步骤可包括：跳过对按照解码顺序在第一基本层RAP图像之前的基本层随机访问跳过领导(RASL)图像中的至少一个基本层RASL图像的解码，重构增强层图像的步骤可包括：跳过对与基本层RASL图像中的解码被跳过的所述至少一个基本层RASL图像相应的增强层图像的解码。

重构增强层图像的步骤可包括：对于基本层流和增强层流的时间分层解码，通过参考被分配了低于第一增强层图像的时间分层识别号的时间分层识别号的第一基本层图像对第一增强层图像执行层间解码。

根据本发明的另一方面，提供了一种多层视频编码方法，包括：对基本层图像执行帧间预测和帧内预测；将与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层图像确定为与基本层RAP图像相同类型的增强层RAP图像，并使用基本层图像对包括增强层RAP图像的增强层图像执行帧间预测和层间预测。

执行帧间预测和层间预测的步骤可包括：将与第一基本层IDR图像相应的第一增强层图像确定为第一增强层IDR图像，并通过参考第一基本层IDR图像对第一增强层IDR图像执行层间解码；通过参考第一增强层IDR图像对至少一个增强层图像执行运动补偿。

执行帧间预测和层间预测的步骤可包括：将与第一基本层CRA图像相应的第一增强层图像确定为第一增强层CRA图像，并通过参考第一基本层CRA图像对第一增强层CRA图像执行层间解码；通过参考第一增强层CRA图像对至少一个增强层图像执行运动补偿。

执行帧间预测和层间预测的步骤可包括：将与第一基本层BLA图像相应的第一增强层图像确定为第一增强层BLA图像，并通过参考第一基本层BLA图像对第一增强层BLA图像执行层间解码；通过参考第一增强层BLA图像对至少一个增强层图像执行运动补偿。

执行帧间预测和层间预测的步骤可包括：将与第一基本层RASL图像相应的第一增强层图像确定为第一增强层RASL图像，并对第一增强层RASL图像执行参考第一基本层RASL图像的层间解码和参考第一增强层RAP图像和按照解码顺序在第一增强层RAP图像之前的增强层RAP图像的运动补偿。

执行帧间预测和层间预测的步骤可包括：将与第一基本层普通图像相应的第一增强层图像确定为第一增强层纯净随机访问(CRA)图像、第一增强层随机访问跳过领导(RASL)图像和第一增强层普通图像中的一个，并对第一增强层普通图像执行参考第一基本层普通图像的层间解码和参考增强层RAP图像的运动补偿。

执行帧间预测和层间预测的步骤可包括：基于视点改变请求来确定与作为RAP图像和非RAP图像之一的第一基本层图像相应的第一增强层查看层访问(VLA)图像，并通过参考第一基本层图像来对第一增强层VLA图像执行层间解码；通过参考按照解码顺序和再现顺序在第一增强层VLA图像之后或与第一增强层VLA图像顺序相同的增强层图像中的至少一个，对按照解码顺序在第一增强层VLA图像之后的增强层图像执行运动补偿。

执行帧间预测和层间预测的步骤可包括：对于基本层流和增强层流的时间分层解码，通过参考被分配了低于第一增强层图像的时间分层识别号的时间分层识别号的第一基本层图像对第一增强层图像执行层间解码。

根据本发明的另一方面，提供了一种多层视频解码设备，包括：基本层解码器，通过对基本层流执行运动补偿和帧内解码来重构基本层图像；增强层解码器，通过从增强层流重构与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的相同类型的增强层RAP图像，并通过使用基本层图像对包括重构的增强层RAP图像的增强层图像执行运动补偿和层间解码，来重构增强层图像。

根据本发明的另一方面，提供了一种多层视频编码设备，包括：基本层编码器，对基本层图像执行帧间预测和帧内预测；增强层编码器，将与基本层图像中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层图像确定为与基本层RAP图像相同类型的增强层RAP图像，并使用基本层图像对包括增强层RAP图像的增强层图像执行帧间预测和层间预测。

根据本发明的另一方面，提供了一种记录有用于执行多层视频编码方法的程序的非暂时性计算机可读记录介质。根据本发明的另一方面，提供了一种记录有用于执行多层视频解码方法的程序的非暂时性计算机可读记录介质。

发明模式

在下文中，将参考图1a至图7b来描述根据本发明实施例的多层视频编码设备、多层视频解码设备、多层视频编码方法和多层视频解码方法。此外，将参考图8至图20来描述根据本发明实施例的基于具有树结构的编码单元的多层视频编码设备、多层视频解码设备、多层视频编码方法和多层视频解码方法。另外，将参考图21至图27来描述可应用多层视频编码设备、多层视频解码设备、多层视频编码方法和多层视频解码方法的各个实施例。在下文中，“图像”可以表示视频的静止图像或运动图像或者视频本身。

首先，将参考图1a至图7b来描述多层视频编码设备、多层视频解码设备、多层视频编码方法和多层视频解码方法。

图1a是根据本发明实施例的多层视频编码设备10的框图。图1b是图1a的多层视频编码设备10的多层视频编码方法11的流程图。

根据实施例的多层视频编码设备10包括基本层编码器12和增强层编码器14。

根据实施例的多层视频编码设备10可根据层对多个视频流进行分类，并根据可伸缩视频编码方法对每个视频流进行编码。根据实施例的多层视频编码设备10对基本层图像和增强层图像进行编码。

例如，可根据可伸缩视频编码方法对多视点视频进行编码。中间视点图像、左视点图像和右视点图像被分别编码，其中，中间视点图像可作为基本层图像被编码，左视点图像可作为第一增强层图像被编码，右视点图像可作为第二增强层图像被编码。基本层图像的编码结果可被输出为基本视点层流，第一增强层图像和第二增强层图像的编码结果可被分别输出为第一增强层图像流和第二增强层图像流。

可选择地，可根据时间分层预测来执行可伸缩视频编码方法。包括通过对基本帧率图像进行编码而产生的编码信息的基本层流可被输出。通过参考基本帧率图像进一步对高帧率图像进行编码，可输出包括高速帧率的编码信息的增强层流。后面将参照图4a来描述根据时间分层预测的可伸缩视频编码方法。

另外，可对基本层和多个增强层执行可伸缩视频编码。当存在至少三个增强层时，基本层图像和第一至第K增强层图像可被编码。因此，基本层图像的编码结果可被输出为基本层流，第一至第K增强层图像的编码结果可被分别输出为第一至第K增强层流。

根据实施例的多层视频编码设备10可根据层并根据视频的每个图像的块来执行编码。块可具有正方形、矩形或任意几何形状，但不限于具有预定尺寸的数据单元。根据实施例的块可以是根据树结构的编码单元中的最大编码单元、编码单元、预测单元或变换单元。后面将参照图8至图20来描述基于根据树结构的编码单元的视频编码和解码方法。

根据实施例的多层视频编码设备10可执行帧间预测，在所述帧间预测中，相同层的图像被参考以对图像进行预测。通过执行帧间预测，可产生指示当前图像与参考图像之间的运动信息的运动矢量以及作为当前图像与参考图像之间的差分量的残差。

另外，根据实施例的多层视频编码设备10可执行层间预测以通过参考基本层图像来对增强层图像进行预测。根据实施例的多层视频编码设备10可执行用于通过参考第一增强层图像对第二增强层图像进行预测的层间预测。通过执行层间预测，可产生当前图像与和当前图像的层不同的层的参考图像之间的位置差分量以及当前图像与所述不同的层的参考图像之间的残差。

当根据实施例的多层视频编码设备10允许至少两个增强层时，可根据多层预测结构在一个基本层图像与至少两个增强层图像之间执行层间预测。

可基于数据单元(诸如，编码单元、预测单元或变换单元)来执行帧间预测和层间预测。

根据实施例的基本层编码器12通过对基本层图像进行编码来产生基本层流。基本层编码器12可执行基本层图像之间的帧间预测。根据实施例的基本层编码器12可对基本层图像中的能够随机访问的随机访问点(RAP)图像进行编码，而不必参考其它图像。

I类型RAP图像可以是瞬时解码刷新(IDR)图像、纯净随机访问(CRA)图像、断链访问(BLA)图像、时间子层访问(Temporal Sublayer Access(TSA))图像和逐步时间子层访问(Stepwise Temporal Sublayer Access(STSA))图像中的任意一种。

另外，RAP图像可被领导画面(Leading Picture)和追随画面(Trailing Picture)参考。领导画面和追随画面按照解码顺序在RAP图像之后，而领导画面按照再现顺序在RAP图像之前，追随画面按照再现顺序在RAP图像之后。追随画面也可被称为正常画面。

领导画面可被分类为随机访问可解码领导(RADL)图像和随机访问跳过领导(RASL)图像。当针对按照再现顺序在领导画面之后的RAP图像发生随机访问时，RADL图像是可解码图像，但是RASL不可解码。

根据实施例的基本层编码器12可对通过将基本层RAP图像排除出基本层图像而获得的非RAP图像执行帧间预测。可对基本层RAP图像执行参考图像中的邻近像素的帧内预测。根据实施例的基本层编码器12可通过对经由执行帧间预测或帧内预测而获得的结果数据进行编码来产生编码数据。例如，可对包括通过执行帧间预测或帧内预测而获得的结果数据的图像块执行变换、量化或熵编码。

根据实施例的基本层编码器12可产生包括基本层RAP图像的编码数据和剩余层图像的编码数据的基本层流。基本层编码器12可与基本层流一起输出经由对基本层图像执行帧间预测而产生的运动矢量。

根据实施例的增强层编码器14通过对增强层图像进行编码来产生增强层流。当多个增强层图像被编码时，根据实施例的增强层编码器14通过根据层对多个增强层图像进行编码来产生根据层的增强层流。以下，为了描述方便，根据实施例的增强层编码器14的编码操作将被描述为对一个层的增强层图像执行的操作。然而，增强层编码器14的编码操作不仅只对一个层的增强层图像执行，还可对其它层的每个增强层图像执行。

根据实施例的增强层编码器14可执行参考基本层图像的层间预测和参考相同层的图像的帧间预测，以对增强层图像进行编码。

仅当将被参考的图像被预重构时执行帧间预测或层间预测。因此，当将通过参考当前层的另一图像来对当前层的第一图像进行初始解码时，不能对第一图像进行解码。因此，能够随机访问的RAP图像需要不参考相同层的另一图像而被编码。根据实施例，当在RAP图像中发生随机访问时，即使没有相同层的预重构的图像，也可立即对RAP图像进行解码并输出。

基于根据实施例的多层视频编码设备10的多层预测结构，可根据在对第一层图像进行解码时的层改变来对第二层图像进行解码。例如，当在多视点图像结构中发生视点改变或在时间分层预测结构中发生时间分层改变时，可在多层预测结构中执行层改变。此时，由于在层改变点不存在相同层的预重构的图像，故不能执行帧间预测。

以下，将描述根据实施例的多层视频编码设备10的根据多层预测结构执行可伸缩视频编码的操作，其中，在所述多层预测结构中，根据层指定了层改变点，从而在层改变点的图像被立即解码。

在根据实施例的多层预测结构中，当基本层RAP图像存在于基本层图像中时，增强层图像中的与基本层RAP图像相应的增强层图像可被确定为与基本层RAP图像相同类型的增强层RAP图像。例如，当基本层RAP图像是IDR图像时，与基本层RAP图像相应的增强层图像也可被确定为IDR图像。与基本层CRA图像相应的增强层图像可被确定为CRA图像。与基本层BLA图像相应的增强层图像可被确定为BLA图像。与基本层TSA图像相应的增强层图像可被确定为TSA图像。

另外，与基本层RASL图像相应的增强层图像可被确定为RASL图像。

根据实施例的基本层编码器12和增强层编码器14可将根据图像的的编码数据包括到NAL单元。NAL单元类型信息可指示当前图像是追随画面、TSA图像、STSA图像、RADL图像、RASL图像、BLA图像、IDR图像、CRA图像还是VLA图像。

在操作11，根据实施例的基本层编码器12可对基本层图像执行帧间预测和帧内预测。基本层编码器12可对基本层RAP图像执行帧内预测。基本层编码器12可通过参考基本层RAP图像对至少一个基本层非RAP图像执行帧间预测。可通过参考经由将按照解码顺序在第一基本层RAP图像之前的增强层图像排除出增强层图像而获得的至少一个增强层图像，对按照解码顺序在第一基本层RAP图像之后的基本层图像执行帧间预测。

在操作13，根据实施例的增强层编码器14可通过参考与基本层RAP图像相应的增强层RAP图像对至少一个增强层图像执行帧间预测。另外，增强层编码器14可通过使用预重构的基本层图像对增强层图像执行层间预测。

根据实施例的基本层编码器12可对基本层IDR图像执行帧内预测。基本层编码器12可通过参考基本层IDR图像对至少一个基本层图像执行帧间预测。可对按照解码顺序在基本层IDR图像之前的基本层图像执行使用预重构的基本层IDR图像的帧间预测。

根据实施例的增强层编码器14可通过参考基本层IDR图像对与基本层IDR图像相应的增强层IDR图像执行层间预测。根据实施例的增强层编码器14可通过参考与基本层IDR图像相应的增强层IDR图像对至少一个增强层图像执行帧间预测。另外，可对按照解码顺序在增强层IDR图像之后的增强层图像执行使用预重构的增强层IDR图像的帧间预测。

根据实施例的基本层编码器12可将指示IDR图像的NAL单元类型信息包括到基本层IDR图像的NAL单元。根据实施例的增强层编码器14可将指示IDR图像的NAL单元类型信息包括到与基本层IDR图像相应的增强层图像的NAL单元。

根据实施例的基本层编码器12可对基本层CRA图像执行帧内预测。基本层编码器12可对按照解码顺序在基本层CRA图像之后的至少一个基本层图像执行参考基本层CRA图像的帧间预测。按照解码顺序在基本层CRA图像之后的图像不能使用按照再现顺序或解码顺序在基本层CRA图像之前的图像。

根据实施例的增强层编码器14可对与基本层CRA图像相应的增强层CRA图像执行参考基本层CRA图像的层间预测。根据实施例的增强层编码器14可通过参考与基本层CRA图像相应的增强层CRA图像对至少一个增强层图像执行帧间预测。另外，可对按照解码顺序在增强层CRA图像之后的增强层图像执行使用预重构的增强层CRA图像的帧间预测。按照解码顺序在增强层CRA图像之后的图像不能使用按照解码顺序或再现顺序在增强层CRA图像之前的图像。

根据实施例的基本层编码器12可将指示CRA图像的NAL单元类型信息包括到基本层CRA图像的NAL单元。根据实施例的增强层编码器14可将指示CRA图像的NAL单元类型信息包括到与基本层CRA图像相应的增强层图像的NAL单元。

根据实施例的基本层编码器12可对基本层BLA图像执行帧内预测。基本层编码器12可对按照解码顺序在基本层BLA图像之后的至少一个基本层图像执行参考基本层BLA图像的帧间预测。按照解码顺序在基本层BLA图像之后的图像不能使用按照解码顺序或再现顺序在基本层BLA图像之前的图像。

根据实施例的增强层编码器14可对与基本层BLA图像相应的增强层BLA图像执行参考基本层BLA图像的层间预测。根据实施例的增强层编码器14可通过参考与基本层BLA图像相应的增强层BLA图像对至少一个增强层图像执行帧间预测。另外，可对按照解码顺序在增强层BLA图像之后的增强层图像执行使用预重构的增强层BLA图像的帧间预测。按照解码顺序在增强层BLA图像之后的图像不能使用按照解码顺序或再现顺序在增强层BLA图像之前的图像。

根据实施例的基本层编码器12可将指示BLA图像的NAL单元类型信息包括到基本层BLA图像的NAL单元。根据实施例的增强层编码器14可将指示BLA图像的NAL单元类型信息包括到与基本层CRA图像相应的增强层图像的NAL单元。

按照解码顺序在RAP图像之后并且按照再现顺序在RAP图像之前的图像被称为领导图像。领导图像可以是参考第一RAP图像和按照解码顺序在第一RAP图像之前的第二RAP图像的RASL图像和仅参考第一RAP图像的RADL图像中的一个。当在第一RAP图像中发生随机访问时，RASL图像不可被解码，但是RADL图像可被解码。

根据实施例的基本层编码器12可通过参考第一基本层RAP图像和按照解码顺序在第一基本层RAP图像之前的第二基本层RAP图像对基本层RASL图像执行帧间预测。

根据实施例的增强层编码器14可对与基本层RASL图像相应的第一增强层RASL图像执行参考第一基本层RASL图像的层间预测。另外，根据实施例的增强层编码器14可通过参考第一增强层RAP图像和按照解码顺序在第一增强层RAP图像之前的第二增强层RAP图像对根据实施例的增强层RASL图像执行帧间预测。

根据实施例的基本层编码器12可将指示RASL图像的NAL单元类型信息包括到基本层RASL图像的NAL单元。根据实施例的增强层编码器14可将指示RASL图像的NAL单元类型信息包括到与基本层RASL图像相应的增强层图像的NAL单元。

根据实施例的基本层编码器12可通过参考第一基本层RAP图像和按照解码顺序在第一基本层RAP图像之前的第二基本层RAP图像对基本层RADL图像执行帧间预测。

根据实施例的增强层编码器14可通过参考第一基本层RADL图像对与基本层RADL图像相应的第一增强层RASL图像执行层间预测。另外，根据实施例的增强层编码器14可通过参考第一增强层RAP图像对根据实施例的增强层RADL图像执行帧间预测。

根据实施例的基本层编码器12可将指示RADL图像的NAL单元类型信息包括到基本层RADL图像的NAL单元。根据实施例的增强层编码器14可将指示RADL图像的NAL单元类型信息包括到与基本层RADL图像相应的增强层图像的NAL单元。

根据另一实施例的增强层编码器14可从增强层图像中确定第一增强层查看层访问(View Layer Access(VLA))图像。与增强层VLA图像相应的基本层图像可以是RAP图像和非RAP图像之一。换句话说，与VLA图像相应的另一层的图像可以不是RAP图像。增强层编码器14可通过参考基本层图像对增强层VLA图像执行层间预测。针对VLA图像，增强层编码器14可仅执行层间预测而不执行参考相同层的另一图像的帧间预测。

根据另一实施例，为了对按照解码顺序在增强层VLA图像之后的增强层图像执行帧间预测，可参考按照解码顺序和再现顺序在增强层VLA图像之后或与增强层VLA图像相同的增强层图像中的至少一个。根据另一实施例，按照解码顺序在增强层VLA图像之后的增强层图像不能使用按照解码顺序或再现顺序在增强层VLA图像之前的增强层图像。按照解码顺序在VLA图像之前的图像按照再现顺序可在VLA图像之前。

根据实施例的基本层编码器12可对第一基本层普通画面执行帧间预测。这里，普通画面是既不是RAP图像也不是RASL图像的图像。根据实施例的基本层编码器12可将与第一基本层普通画面相应的第一增强层图像确定为第一增强层CRA图像、第一增强层RASL图像和第一增强层普通画面中的一个。根据实施例的基本层编码器12可对第一增强层普通画面执行参考第一基本层普通画面的层间预测以及参考增强层RAP图像的帧间预测。

根据实施例，当从第一基本层RAP图像执行解码时，可跳过对按照解码顺序在第一基本层RAP图像之前的基本层RASL图像的解码。根据实施例，也可跳过对与解码被跳过的基本层图像相应的增强层图像的解码。

根据另一实施例，当多层视频编码设备10具有时间分层预测结构时，增强层编码器14可通过参考第一基本层图像对第一增强层图像执行层间预测，其中，第一基本层图像被分配了比增强层图像的层更低的层中的时间分层识别号。

因此，基于根据实施例的多层视频编码设备10，为了保证基本层图像与增强层图像之间的层间预测以及各个层之间同步的输出，可在被分配了相同的再现顺序画面顺序计数(POC)的基本层图像与增强层图像之间执行层间预测。

另外，当基本层RASL图像的恢复由于随机访问点或视点改变而被跳过时，可跳过与基本层RASL图像相应的增强层RASL图像的恢复。

图2a是根据本发明实施例的多层视频解码设备20的框图。图2b是图2a的多层视频解码设备20的多层视频解码方法的流程图。

根据实施例的多层视频解码设备20包括基本层解码器22和增强层解码器24。

根据实施例的多层视频解码设备20接收基本层流和增强层流。多层视频解码设备20可接收根据可伸缩视频编码方法的包括基本层图像的编码数据的基本层流和包括增强层图像的编码数据的增强层流。

根据实施例的多层视频解码设备20可根据可伸缩视频编码方法对多个层流进行解码。根据实施例的多层视频解码设备20可通过对基本层流进行解码来重构基本层图像，并通过对增强层流进行解码来重构增强层图像。

例如，可根据可伸缩视频编码方法对多视点视频进行编码。例如，可通过对基本层流进行解码来重构中间视点图像。可通过进一步对第一增强层流进行解码来重构左视点图像。可通过进一步对第二增强层流进行解码来重构右视点图像。

可选择地，可根据时间分层预测来执行可伸缩视频编码方法。可通过对基本层流进行解码来重构基本帧率图像。可通过进一步对增强层流进行解码来重构高帧率图像。

当增强层的数量至少是三时，可从第一增强层流重构第一增强层的第一增强层图像，可通过进一步对第二增强层流进行解码来进一步重构第二增强层图像。可通过进一步对除了第一增强层流之外的第K增强层流进行解码来进一步重构第K增强层图像。

根据实施例的多层视频解码设备20可根据视频的每个图像的块来执行解码。根据实施例的块可以是具有树结构的编码单元中的最大编码单元、编码单元、预测单元或变换单元。

根据实施例的多层视频解码设备20从基本层流和增强层流获得基本层图像和增强层图像的编码数据，并可进一步获得经由帧间预测产生的运动矢量以及经由层间预测产生的视差信息。

例如，多层视频解码设备20可对根据层的帧间预测的数据进行解码，并对多个层之间的层间预测的数据进行解码。可基于根据实施例的编码单元或预测单元，经由运动补偿和层间解码来执行重构。

对于每个层流，可通过执行互相参考经由相同层的帧间预测而预测的图像的运动补偿来重构图像。运动补偿是这样的操作：通过将经由使用当前图像的运动矢量而确定的参考图像与当前图像的残差进行组合来重构当前图像的重构的图像。

另外，根据实施例的多层视频解码设备20可执行参考基本层图像的层间解码，以重构经由层间预测而预测的增强层图像。层间解码是这样的操作：通过将经由使用当前图像的视差信息而确定的不同层的参考图像与当前图像的残差进行组合来重构当前图像的重构的图像。

根据实施例的多层视频解码设备20可执行层间解码，用于恢复通过参考第一增强层图像而预测的第二增强层图像。

根据实施例，基本层图像和增强层图像可包括能够随机访问的RAP图像。以下，将详细描述基本层解码器22和增强层解码器24的解码处理。

根据实施例的基本层解码器22通过对接收的基本层流进行解码来重构基本层图像。详细地，可通过对符号执行熵解码、反量化和逆变换来重构基本层图像的残差，其中，符号是通过解析基本层流而被提取的。

基本层解码器22可直接接收基本层图像的量化的变换系数的比特流。可通过对量化的变换系数执行反量化和逆变换来重构基本层图像的残差。基本层解码器22可经由参考基本层图像的运动补偿来重构基本层图像。

根据实施例的基本层解码器22可通过对来自基本层流的I类型基本层RAP图像的量化的变换系数进行解码来重构基本层RAP图像。根据实施例的基本层解码器22可从基本层图像重构I类型基本层RAP图像而不必参考另一基本层图像。根据实施例的基本层解码器22可经由使用相同画面中的当前块的邻近像素的帧内预测来重构I类型基本层RAP图像的块的像素。

另外，基本层解码器22可经由参考其它基本层图像的运动补偿来重构基本层图像中除了基本层RAP图像之外的基本层图像。基本层解码器22可重构通过从基本层图像排除基本层RAP图像而获得的基本层图像的残差，通过从基本层图像确定参考图像并对参考图像补偿残差来重构基本层图像。

根据实施例的增强层解码器24通过对增强层流进行解码来重构增强层图像。详细地，可通过对符号执行熵编码、反量化和逆变换来根据块重构残差，其中，符号是通过解析增强层流而被提取的。增强层解码器24可直接接收残差的量化的变换系数的比特流，并通过对比特流执行反量化和逆变换来重构残差。

为了对增强层流进行解码，根据实施例的增强层解码器24可经由运动补偿和层间解码来重构增强层图像，其中，运动补偿参考从基本层流重构的基本层图像，层间解码参考相同层的图像。

根据实施例的增强层解码器24可经由参考由基本层解码器22重构的基本层图像的层间解码来重构增强层图像。对于特定增强层，可经由不仅参考基本层图像还参考除了特定增强层之外的增强层的增强层图像的层间解码来重构当前增强层图像。

仅当将被参考的图像是预重构的时执行运动补偿或层间解码。然而，能够随机访问的RAP图像不参考相同层的另一图像。因此，根据实施例，当在RAP图像中发生随机访问时，即使当在相同层中不存在预重构的图像时，RAP图像也可被立即解码。在根据实施例的多层预测结构中，如果RAP图像存在于基本层图像中，则增强层图像中的与基本层RAP图像相应的增强层RAP图像可被重构。

另外，增强层解码器24可通过执行参考相同层的增强层图像的运动补偿来重构增强层图像。详细地，根据实施例的增强层解码器24可经由参考相同层的增强层RAP图像的运动补偿来重构增强层图像。

对于不是RAP图像的增强层图像，增强层解码器24可经由参考另一层的图像的层间解码和参考相同层的图像的运动补偿来重构增强层图像。

详细地，增强层解码器24可获得增强层图像的运动矢量和残差，其中，增强层图像是通过在对增强层流进行解码之后排除增强层RAP图像而获得的。增强层解码器24可通过使用运动矢量从相同层的图像确定参考图像，并随后通过对参考图像补偿残差来重构增强层图像。可通过使用当前图像的当前块的运动矢量从参考图像确定参考块。

详细地，增强层解码器24可获得增强层图像的视差信息和残差，其中，增强层图像是通过在对增强层流进行解码之后排除增强层RAP图像而获得的。增强层解码器24可通过使用视差信息从另一层的图像确定参考图像，并随后通过对参考图像补偿残差来重构增强层图像。

当多个增强层流被解码时，根据实施例的增强层解码器24可通过对根据层的增强层流进行解码来重构根据层的增强层图像。以下，为了便于描述，根据实施例的增强层解码器24的解码操作可被描述为对一个层的增强层流执行的操作。然而，增强层解码器24的操作不是仅对一个层的增强层流执行，相同的操作可对其它层的每个增强层流执行。

为了重构增强层图像，根据实施例的增强层解码器24可执行参考基本层图像的层间解码和参考相同层的重构的图像的运动补偿。

基于根据实施例的多层视频解码设备20的多层预测结构，可在第一层流正被解码时根据层改变对第二层流进行解码。例如，当在多视点图像结构中发生视点改变或者在时间分层预测结构中发生时间分层改变时，可在多层预测结构中执行层改变。此时，由于在层改变点不存在相同层的预重构的图像，故不可能执行帧间预测。

当在根据实施例的RAP图像中发生随机访问或层改变时，相应的图像根据层被一起重构。以下，将描述根据实施例的多层视频解码设备20的根据多层预测结构执行可伸缩视频解码的操作，其中，在多层预测结构中，层改变点根据层被指定。

在根据实施例的多层预测结构中，当基本层RAP图像存在于基本层图像中时，增强层图像中的与基本层RAP图像相应的增强层图像可被确定为与基本层RAP图像相同类型的增强层RAP图像。例如，当基本层RAP图像是IDR图像时，与基本层RAP图像相应的增强层图像也可被确定为IDR图像。与基本层CRA图像相应的增强层图像可被确定为CRA图像。与基本层BLA图像相应的增强层图像可被确定为BLA图像。与基本层TSA图像相应的增强层图像可被确定为TSA图像。

另外，与基本层RASL图像相应的增强层图像可被确定为RASL图像。

根据实施例的基本层解码器22和增强层解码器24可获得每NAL单元的根据图像的编码数据。NAL单元类型信息可被解析以确定当前图像是追随画面、TSA图像、STSA图像、RADL图像、RASL图像、BLA图像、IDR图像、CRA图像还是VLA图像。

在操作21，根据实施例的基本层解码器22可通过对基本层流执行运动补偿和帧内解码来重构基本层图像。基本层解码器22可经由帧内解码来重构基本层RAP图像。基本层解码器22可通过参考基本层RAP图像来对至少一个基本层非RAP图像执行运动补偿。可通过使用除了按照解码顺序在第一基本层RAP图像之前的增强层图像之外的至少一个增强层图像，对按照解码顺序在第一基本层RAP图像之后的基本层图像执行运动补偿。

在操作23，根据实施例的增强层解码器24可对与基本层RAP图像相应的增强层RAP图像执行层间解码。可经由参考预重构的基本层RAP图像的层间解码来重构增强层RAP图像。另外，增强层解码器24可通过使用增强层RAP图像对增强层图像执行运动补偿。

根据实施例的基本层解码器22可对基本层IDR图像执行帧内解码。基本层解码器22可通过执行参考基本层IDR图像的帧间预测来重构至少一个基本层图像。对于按照解码顺序在基本层IDR图像之后的基本层图像，可执行使用基本层IDR图像的运动补偿。

根据实施例的增强层解码器24可通过参考基本层IDR图像来执行层间解码，以重构与基本层IDR图像相应的增强层IDR图像。根据实施例的增强层解码器24可通过参考与基本层IDR图像相应的增强层IDR图像对至少一个增强层图像执行帧间预测。另外，可对按照解码顺序在增强层IDR图像之后的增强层图像执行使用预重构的增强层IDR图像的帧间预测。

根据实施例的基本层解码器22可从NAL单元获得指示IDR图像的NAL单元类型信息，并确定当前图像是IDR图像。根据实施例的增强层解码器24可从与基本层IDR图像相应的增强层图像的NAL单元获得指示IDR图像的NAL单元类型信息。

根据实施例的基本层解码器22可执行帧内解码以重构基本层CRA图像。基本层解码器22可执行参考基本层CRA图像的运动补偿以重构按照解码顺序在基本层CRA图像之后的至少一个基本层图像。按照解码顺序在基本层CRA图像之后的图像不能使用按照解码顺序或再现顺序在基本层CRA图像之前的图像。

根据实施例的增强层解码器24可执行参考基本层CRA图像的层间解码，以重构与基本层CRA图像相应的增强层CRA图像。根据实施例的增强层解码器24可从增强层流对与基本层CRA图像相应的增强层CRA图像进行解码。为了重构至少一个增强层图像，增强层解码器24可执行参考增强层CRA图像的运动补偿。另外，为了重构按照解码顺序在增强层CRA图像之后的增强层图像，可执行使用来自增强层流的预重构的增强层CRA图像的运动补偿。按照解码顺序在增强层CRA图像之后的图像不能使用按照解码顺序或再现顺序在增强层CRA图像之前的图像。

根据实施例的基本层解码器22可从NAL单元获得指示CRA图像的NAL单元类型信息，并确定当前图像是CRA图像。根据实施例的增强层解码器24可从与基本层CRA图像相应的增强层图像的NAL单元获得指示CRA图像的NAL单元类型信息。

根据实施例的基本层解码器22可通过对来自基本层流的能够随机访问的点执行帧内解码来重构基本层BLA图像。基本层解码器22可对按照解码顺序在基本层BLA图像之后的至少一个基本层图像执行参考基本层BLA图像的运动补偿。按照解码顺序在基本层BLA图像之后的图像不能使用按照解码顺序或再现顺序在基本层BLA图像之前的图像。

根据实施例的增强层解码器24可执行参考基本层BLA图像的层间解码，以重构与基本层BLA图像相应的增强层BLA图像。根据实施例的增强层解码器24可通过对来自增强层流的与基本层BLA图像相应的点执行层间解码来重构增强层BLA图像。另外，可通过参考增强层BLA图像来对至少一个增强层图像执行运动补偿。另外，为了重构按照解码顺序在增强层BLA图像之后的增强层图像，可执行使用增强层BLA图像的运动补偿。按照解码顺序在增强层BLA图像之后的图像不能使用按照解码顺序或再现顺序在增强层BLA图像之前的图像。

根据实施例的基本层解码器22可从NAL单元获得指示BLA图像的NAL单元类型信息，并确定当前图像是BLA图像。根据实施例的增强层解码器24可从与基本层BLA图像相应的增强层图像的NAL单元获得指示BLA图像的NAL单元类型信息。

根据实施例的基本层解码器22可通过参考第一基本层RAP图像和按照解码顺序在第一基本层RAP图像之前的第二基本层RAP图像，对基本层RASL图像执行运动补偿。

根据实施例的增强层解码器24可通过对增强层流中的与基本层RASL图像相应的点执行参考第一基本层RASL图像的层间解码来重构第一增强层RASL图像。另外，根据实施例的增强层解码器24可通过参考第一增强层RAP图像和按照解码顺序在第一增强层RAP图像之前的第二增强层RAP图像，对根据实施例的第一增强层RASL图像执行运动补偿。

根据另一实施例的增强层解码器24可从增强层图像确定第一增强层VLA图像。与增强层VLA图像相应的基本层图像可以是RAP图像和非RAP图像之一。换句话说，与VLA图像相应的另一层的图像可以不是RAP图像。增强层解码器24可执行参考基本层图像的层间解码，以重构增强层VLA图像。为了重构增强层VLA图像，可不执行参考相同层的图像的帧间预测。

根据另一实施例，为了对按照解码顺序在增强层VLA图像之后的增强层图像执行帧间预测，可使用按照解码顺序和再现顺序在增强层VLA图像之后或与增强层VLA图像相同的增强层图像中的至少一个。根据另一实施例，按照解码顺序在增强层VLA图像之后的增强层图像不能使用按照解码顺序或再现顺序在增强层VLA图像之前的增强层图像。按照解码顺序在VLA图像之前的图像可具有在VLA图像之前的再现顺序。在当前VLA图像的RASL图像还参考先前的VLA图像时，RASL图像不会被准确解码。详细地，当在当前VLA图像中发生层改变时，RASL不会被重构而是会被忽视。

根据实施例的增强层解码器24可从与基本层VLA图像相应的增强层图像的NAL单元获得指示VLA图像的NAL单元类型信息。

根据实施例的基本层解码器22可对第一基本层普通画面执行运动补偿。根据实施例的增强层解码器24可将与第一基本层图像相应的第一增强层图像确定为第一增强层CRA图像、第一增强层RASL图像和第一增强层普通画面中的一个。根据实施例的增强层解码器24可经由参考第一基本层普通画面的层间预测以及参考增强层RAP图像的运动补偿来重构第一增强层普通画面。

当从第一基本层RAP图像开始解码时，根据实施例的基本层解码器22可跳过对按照解码顺序在第一基本层RAP图像之前的基本层RASL图像的解码。根据实施例的基本层解码器22也可跳过对与解码被跳过的基本层图像相应的增强层图像的解码。

例如，与针对基本层流发生随机访问的点最接近的第一基本层IDR图像可被重构。由于第一基本层RASL图像按照解码顺序在第一基本层IDR图像之后，但是参考按照解码顺序在第一基本层IDR图像之前的图像，故第一基本层RASL图像不会被解码。因此，与第一基本层RASL图像相应的增强层RASL图像也不会被解码。

例如，与针对基本层流发生随机访问的点或者流编辑点最接近的第一基本层CRA图像(或BLA图像)可被重构。由于第一基本层RASL图像按照解码顺序在第一基本层CRA图像(或BLA图像)之后，但是参考按照解码顺序或再现顺序在第一基本层CRA图像(或BLA图像)之前的图像，故第一基本层RASL图像不会被解码。因此，与第一基本层RASL图像相应的增强层RASL图像也不会被解码。

例如，与针对基本层流发生视点改变的点最接近的第一基本层VLA图像可被重构。由于第一基本层RASL图像按照解码顺序在第一基本层VLA图像之后，但是参考按照解码顺序或再现顺序在第一基本层VLA图像之前的图像，故第一基本层RASL图像不会被解码。因此，与第一基本层RASL图像相应的增强层RASL图像也不会被解码。

根据实施例的基本层解码器22可从NAL单元获得指示RASL图像的NAL单元类型信息，并确定当前图像是RASL图像。根据实施例的增强层解码器24可从与基本层RASL图像相应的增强层图像的NAL单元获得指示RASL图像的NAL单元类型信息。

相似地，根据实施例的基本层解码器22可从NAL单元获得指示RADL图像的NAL单元类型信息，并确定当前图像是RADL图像。根据实施例的增强层解码器24可从与基本层RADL图像相应的增强层图像的NAL单元获得指示RADL图像的NAL单元类型信息。

根据另一实施例，当多层视频解码设备20具有时间分层预测结构时，增强层解码器24可通过参考第一基本层图像对第一增强层图像执行层间解码，其中，第一基本层图像被分配了比增强层图像的层更低的层中的时间分层识别号。因此，可从基本层图像重构低速帧率图像，可从增强层图像重构高帧率图像。

另外，基于根据实施例的多层视频解码设备20，可通过在被分配了相同的再现顺序POC的基本层图像与增强层图像之间执行层间解码来保证在基本层图像与增强层图像之间同步的输出。

图3是根据本发明实施例的层间预测结构的示图。

层间编码系统1600包括基本层编码器1610、增强层编码器1660以及在基本层编码器1610与增强层编码器1660之间的层间预测器1650。基本层编码器1610和增强层编码器1660可分别示出基本层编码器12和增强层编码器14的详细结构。

基本层编码器1610接收根据图像的基本层图像序列并对其进行编码。增强层编码器1660接收根据图像的增强层图像序列并对其进行编码。将同时描述基本层编码器1610和增强层编码器1660的重叠的操作。

输入图像(低分辨率图像或高分辨率图像)通过块划分器1618或1668被划分为最大编码单元、编码单元、预测单元或变换单元。为了对从块划分器1618或1668输出的编码单元进行编码，可根据编码单元的预测单元来执行帧内预测或帧间预测。预测切换器1648或1698可基于预测单元的预测模式是帧内预测模式还是帧间预测模式，使能够通过参考从运动补偿器1640或1690输出的预重构的图像来执行帧间预测，或可使能够通过使用从帧内预测器1645或1695输出的当前输入图像中的当前预测单元的邻近的预测单元来执行帧内预测。残差信息可经由帧间预测根据预测单元而被产生。

预测单元与邻近图像之间的残差信息根据编码单元的预测单元而被输出到变换/量化单元1620或1670。基于编码单元的变换单元，变换/量化单元1620或1670可通过根据变换单元执行变换和量化来输出量化的变换系数。

缩放/逆变换单元1625或1675可通过根据编码单元的变换单元对量化的变换系数再次执行缩放和逆变换来产生空间域的残差信息。当预测切换器1648或1698被控制为指向帧间模式时，包括当前预测单元的重构的图像可随着残差信息被与预重构的图像或邻近预测单元组合而被产生，重构的图像可被存储在存储单元1630或1680中。重构的图像可根据接下来被编码的预测单元的预测模式而被发送到帧内预测器1645或1695或者运动补偿器1640或1690。

详细地，在帧间模式下，环路滤波单元1635或1685可对存储在存储单元1630或1680中的重构的图像执行根据编码单元的去块滤波和样点自适应偏移(SAO)滤波中的至少一个。可对编码单元以及包括在编码单元中的预测单元和变换单元中的至少一个执行去块滤波和SAO滤波中的至少一个。

去块滤波是用于缓和数据单元的成块现象的滤波，SAO滤波是用于补偿根据数据编码和解码被变换的像素值的滤波。由环路滤波单元1635或1685滤波的数据可根据预测单元被发送到运动补偿器1640或1690。随后，为了对从块划分器1618或1668输出的接下来的编码单元进行编码，从运动补偿器1640或1690以及块划分器1618或1668输出的当前重构的图像和接下来的编码单元之间的残差信息可被产生。

这样，可根据输入图像的编码单元来重复上述编码操作。

另外，对于层间预测，增强层编码器1660可参考存储在基本层编码器1610的存储单元1630中的重构的图像。基本层编码器1610的编码控制器1615可控制基本层编码器1610的存储单元1630以将基本层编码器1610的重构的图像发送到增强层编码器1660。在层间预测器1650中，环路滤波单元1655可对从基本层编码器1610的存储单元1630输出的基本层重构的图像执行去块滤波、SAO滤波和ALF滤波中的至少一个。当基本层图像的分辨率和增强层图像的分辨率彼此不同时，层间预测器1650可在将基本层重构的图像发送到增强层编码器1660之前对基本层重构的图像进行上采样。当根据增强层编码器1660的预测切换器1698的控制执行层间预测时，可通过参考由层间预测器1650发送的基本层重构的图像来对增强层图像执行层间预测。

为了对图像进行编码，可对编码单元、预测单元和变换单元设置各种编码模式。例如，深度或划分信息(划分标记)可被设置为编码单元的编码模式。预测模式、分区类型、帧内方向信息或参考列表信息可被设置为预测单元的编码模式。变换深度或划分信息可被设置为变换单元的编码模式。

基本层编码器1610可基于通过对编码单元应用各种深度、对预测单元应用各种预测模式、各种分区类型、各种帧内方向和各种参考列表并对变换单元应用各种变换深度而执行编码的结果，确定具有最高编码效率的编码深度、预测模式、分区类型、帧内方向/参考列表和变换深度。由基本层编码器1610确定的编码模式不限于此。

基本层编码器1610的编码控制器1615可控制每个部件，使得各种编码模式之一可被合适地应用于每个部件。另外，对于增强层编码器1660的层间编码，编码控制器1615可控制增强层编码器1660以通过参考基本层编码器1610的编码结果来确定编码模式或残差信息。

例如，增强层编码器1660可将基本层编码器1610的编码模式用作用于增强层图像的编码模式，或可通过参考基本层编码器1610的编码模式来确定用于增强层图像的编码模式。基本层编码器1610的编码控制器1615可控制增强层编码器1660的编码控制器1665的控制信号以使用基本层编码器1610的当前编码模式，从而确定增强层编码器1660的当前编码模式。

根据层间预测方法的层间解码系统可被实现为与图3的根据层间预测方法的层间编码系统1600类似。换句话说，多层视频的层间解码系统可接收基本层比特流和增强层比特流。层间解码系统的基本层解码器可通过对基本层比特流进行解码来重构基本层图像。层间解码系统的增强层解码器可通过使用基本层重构的图像和解析的编码信息对增强层比特流进行解码来重构增强层图像。

图4a是多层图像的多层预测结构40的示图。

在图4a的多层预测结构40中，图像按照再现顺序POC排列。根据多层预测结构40的再现顺序和解码顺序，相同层的图像按照水平方向排列。

另外，具有相同POC值的图像按照垂直方向排列。POC值指示形成视频的图像的再现顺序。在多层预测结构40中指示的“POC X”指示相应的列中的图像的相对再现顺序，其中，当X的值低时再现顺序快，当X的值高时再现顺序慢。

因此，根据多层预测结构40的再现顺序，每个层的图像根据POC值(再现顺序)按照水平方向排列。另外，位于与基本层图像相同列的第一和第二增强层图像具有相同的POC值(再现顺序)。

四个连续图像形成一个根据层的画面组(GOP)。每个GOP包括连续锚(anchor)画面之间的图像以及一个锚画面。

锚画面是随机访问点，在再现视频时，当再现位置从根据再现顺序(即，POC值)排列的图像中被任意选择时，根据POC顺序与再现位置最接近的锚画面被再现。基本层图像包括基本层锚画面41到45，第一增强层图像包括第一增强层锚画面141到145，第二增强层图像包括第二增强层锚画面241到245。

多层图像可根据GOP顺序被再现和预测(重构)。第一，根据图4a的多层预测结构40的再现顺序和解码顺序，根据层，包括在GOP 0中的图像可被重构和再现，随后包括在GOP 1中的图像可被重构和再现。换句话说，包括在每个GOP中的图像可按照GOP 0、GOP 1、GOP 2和GOP 3的顺序被重构和再现。

根据多层预测结构40的再现顺序和解码顺序，对图像执行层间预测和帧间预测。在多层预测结构40中，箭头开始的图像是参考图像，箭头结束的图像是通过使用参考图像预测的图像。

详细地，在多层预测结构40的解码顺序中，图像根据预测(恢复)顺序按照水平方向排列。换句话说，相对位于左边的图像是预预测的(预重构的)图像，相对位于右边的图像是后预测的(后重构的)图像。由于通过参考预重构的图像来预测(重构)在预重构的图像之后的图像，故指示相同层的图像的预测方向的箭头全部按照解码顺序按照从相对在左边的图像向相对在右边的图像的方向进行指向。

基本层图像的预测结果可被编码并随后被输出为基本层图像流。另外，第一增强层图像的预测编码结果可被输出为第一增强层流，第二增强层图像的预测编码结果可被输出为第二增强层流。

基本层图像仅被执行帧间预测。换句话说，I类型的基本视图锚画面41到45不通过参考其它图像而被预测，但是B类型和b类型的图像通过参考其它基本层图像而被预测。B类型的图像通过参考根据POC值在B类型的图像之前的I类型的锚图像和接下来的I类型的锚图像而被预测。b类型的图像通过参考根据POC值在b画面类型的图像之前的I类型的锚图像和接下来的B类型的图像而被预测，或者通过参考根据POC值在b画面类型的图像之前的B类型的图像和接下来的I类型的锚图像而被预测。

对第一和第二增强层图像执行参考基本层图像的层间预测和参考相同视点的图像的帧间预测。

与基本层图像类似，对第一增强层图像执行帧间预测并对第二增强层图像执行帧间预测。第一和第二增强层图像的第一和第二增强层锚画面141到145和241到245不参考相同层的图像，但是其余图像通过参考相同层的图像而被预测。

然而，第一和第二增强层图像的第一和第二增强层锚画面141到145和241到245也是P类型的图像，其中，P类型的图像参考具有相同POC值的基本层锚画面41到45。

由于不仅对除了第一和第二增强层锚画面141到145和241到245之外的第一和第二增强层图像可执行帧间预测，还可执行参考具有相同POC的基本层图像的层间预测，故除了第一和第二增强层锚画面141到145和241到245之外的第一和第二增强层图像是B类型或b类型的图像。

用于再现图像的恢复处理与预测处理类似。然而，仅在每个图像的参考图像被重构之后，可通过使用重构的参考图像来重构每个图像。

首先，基本层图像可经由帧间运动补偿而被重构。当I类型的基本层锚画面41到45被重构时，B类型的基本层图像可经由参考基本层锚画面41到45的帧间运动补偿而被重构。另外，b类型的基本层图像可经由参考I类型或B类型的基本层重构的图像的帧间运动补偿而被重构。

第一和第二增强层图像经由参考基本层图像的层间预测和参考相同层的图像的帧间预测而被分别编码。

换句话说，对于第一增强层图像的恢复处理，第一增强层图像可经由参考在基本视点的参考图像被重构之后重构的基本层图像的层间视差补偿而被重构。另外，在第一增强层的参考图像被重构之后，第一增强层图像可经由参考第一增强层的重构的参考图像的运动补偿而被重构。

另外，在基本视点的参考图像被重构之后，第二增强层图像可经由参考基本视点的参考图像的层间视差补偿而被重构。在第二增强层的参考图像被重构之后，第二增强层图像可经由参考第二增强层的重构的参考图像的运动补偿而被重构。

图4b是根据时间分层编码和解码方法的多层预测结构的示图。

可根据时间分层预测结构50来执行可伸缩视频编码方法。时间分层预测结构50包括分层B类型图像55到63的预测结构。在级别0的预测结构中，I类型图像51和54的帧间预测和P类型图像52和53的帧间预测被执行。在级别1的预测结构中，参考I类型图像51和54以及P类型图像52和53的B类型图像55到57的帧间预测被执行。在级别2的预测结构中，参考I类型图像51和54、P类型图像52和53以及级别1的B类型图像55到57的帧间预测被执行。

“temporal_id”是用于识别预测级别的号码，帧率可随着每个级别的图像被输出而增加。例如，当级别0的I类型图像51和54以及P类型图像52和53被解码并以15Hz的帧率被输出时，随后当级别1的B类型图像55到57被解码并输出时，帧率增加到30Hz，当级别2的B类型图像58到63被解码并输出时，帧率可增加到60Hz。

根据实施例，当时间分层预测结构50按照可伸缩视频编码方法被实现时，级别0的图像可被编码为基本层图像，级别1的图像可被编码为第一增强层图像，级别2的图像可被编码为第二增强层图像。

在图4a和图4b的多层预测结构的解码处理期间，为了经由运动补偿或层间解码重构图像，可使用预重构的基本层图像或可使用预重构的增强层图像。然而，当发生层改变或产生随机访问请求时，按照解码顺序在当前RAP图像之前的图像不会被预重构。在这种情况下，通过参考按照解码顺序在当前RAP图像之前的图像而预测的图像不能被重构。

以下，将参照图5a至图7b来描述当随机访问请求根据RAP图像的类型而被产生时执行的解码操作。

图5a和图5b示出根据本发明两个实施例的IDR图像的再现顺序和解码顺序。

在图5a中，GOP 505、515和525中的每一个的大小是8。B0到B6指示根据再现顺序排列的相同GOP中的B类型图像的识别号。

IDR图像是独立编码的图像。在对IDR图像进行解码时，重构的图像可全被显示为“未用于参考”。按照解码顺序在IDR图像之后的图像可被重构而不必执行使用按照解码顺序在IDR图像之前的图像的帧间预测。根据解码顺序的编码的视频序列的第一图像的画面类型是IDR画面。

例如，GOP 515的B类型图像按照再现顺序可在IDR图像之前，按照解码顺序可在IDR图像之后。另外，GOP 515的B类型图像不参考按照解码顺序在IDR图像之前的其它图像。按照解码顺序和再现顺序在IDR图像之后的GOP 525的B类型图像不参考按照解码顺序在IDR图像之前的其它图像。

当发生随机访问时，在解码顺序点的随机访问之前的图像不能被重构。在图5a中，可通过参考预重构的IDR图像来重构按照解码顺序在IDR图像之前的GOP 515的B类型图像。在这种情况下，由于GOP 515的B类型图像可全被解码和输出，故GOP 515的B类型图像可以是RADL图像。因此，GOP 515的B类型图像可全被再现，从而随机访问点和随机访问再现开始的点可彼此匹配。

在图5b中，由于不需要从随机访问点基于再现顺序对GOP 515的B类型图像进行解码，故当随机访问从IDR图像开始时，GOP 525的B类型图像被再现。

当IDR图像被使用时，根据再现顺序的所有图像可从随机访问点被自然地重构而没有丢失图像，但是编码效率会降低。

图6a和图6b示出根据本发明两个实施例的CRA图像的再现顺序和解码顺序。

CRA图像是仅包括I类型条带的图像。在对CRA图像进行解码时，存储在解码画面缓冲器(DPB)中的重构的图像可被显示为“未用于参考”。按照解码顺序和再现顺序在CRA图像之后的图像可被重构而不必执行使用按照解码顺序和再现顺序在IDR图像之前的图像的帧间预测。按照解码顺序在CRA图像之前的图像按照再现顺序也在CRA图像之前。

按照解码顺序和再现顺序在CRA图像之后的图像可以是普通画面。因此，普通画面可使用与CRA图像相同GOP中的其它普通画面中的至少一个图像。

CRA画面可以是根据解码顺序的编码的视频序列的第一图像。然而，根据不发生随机访问的一般再现，CRA画面可位于比特流的中间。

例如，在图6a中，GOP 615的B类型图像按照再现顺序在CRA图像之前，但是按照解码顺序在CRA图像之后。GOP 625的B类型图像是按照解码顺序和再现顺序在CRA图像之后的普通画面，并且不参考按照解码顺序在IDR图像之前的其它图像。然而，GOP 615的B类型图像中的一些图像可参考按照解码顺序在CRA图像之前的其它图像。

在图6b的随机访问点，由于GOP 615的B类型图像参考在随机访问点之前的图像，故GOP 615的B类型图像不能被重构。GOP 615的B类型图像是在恢复处理期间被跳过的RASL图像。因此，由于随机访问再现从CRA图像开始，故GOP 625的B类型图像可被立即重构和再现。

图7a和图7b示出根据本发明两个实施例的BLA图像的再现顺序和解码顺序。

比特流分片(slicing)是将另一比特流连接到当前比特流的RAP图像的位置的操作。其它比特流连接的点被称为“断链”。在能够进行比特流分片的位置处的RAP图像的NAL单元类型被指示为BLA图像。

例如，参照图7a，BLA图像具有与CRA图像相似的再现顺序和解码顺序。BLA图像按照再现顺序在GOP 716的B类型图像之后，其中，GOP 716的B类型图像是领导画面。BLA图像按照再现顺序在GOP 726的B类型图像之前，其中，GOP 726的B类型图像是普通画面。领导画面和普通画面按照解码顺序在BLA图像之后。

领导画面中的B3到B6是参考GOP 716的BLA图像和其它图像的RASL图像。然而，领导画面中的B0到B2是参考按照解码顺序在BLA图像之前的GOP 706的图像的RADL图像。

因此，当在图7b的BLA图像中发生随机访问时，作为RASL图像的B0到B2可从恢复中被跳过，作为RADL图像的B3到B6可被重构。因此，可根据再现顺序从B3输出RADL图像。

由于在上面参照图4b描述的分层预测结构中发生时间分层改变或层改变，故TSA图像可被用作能够进行层改变的位置。TSA图像与CRA图像类似。在恢复更低层图像时从TSA图像重构更高层图像的层改变是可能的。例如，具有较低的“temporal_id”值的层是更低层。相同层上的按照解码顺序在TLA图像之后的图像或者TLA图像的更高层图像不能参考按照解码顺序在TLA图像之前的先前TLA图像的相同层或更高层的参考图像。由于TLA图像不是最低层图像，故TLA图像的“temporal_id”不是0。

以上，参考图4b到图7b描述了用于随机访问的RAP类型。当恢复在单个层中的视频流时产生随机访问请求或发生层切换时，可从RAP图像重构图像。然而，当在多层的特定层中发生随机访问并且特定层的图像被重构时，与所述特定层的图像相应的其它层的图像需要被准确重构。另外，当在特定层发生层改变或产生随机访问请求，但是将被参考的图像不存在于DPB中，从而RASL图像的恢复被跳过时，与RASL图像相应的其它层的图像的恢复也可被跳过。

因此，根据实施例的多层视频编码设备10可根据层在随机访问点或层改变点来布置相同NAL单元类型的RAP图像，并还可根据层在相同位置布置RASL图像或RSDL图像。另外，多层视频解码设备20可根据层来重构在随机访问点或层改变点的相同NAL单元类型的RAP图像。另外，多层视频解码设备20可根据层来重构在相同位置的RSDL图像，并重构RASL图像。当在特定层中发生随机访问时，可根据层来重构在相同位置的RPA图像和RSDL图像，并且在相同位置的RASL图像的恢复可被跳过。

例如，在与基本层IDR图像相应的位置处的增强层IDR图像可被重构。在与基本层CRA图像相应的位置处的增强层CRA图像也可被重构。在与基本层BLA图像相应的位置处的增强层BLA图像也可被重构。

可选择地，不论基本层图像的NAL单元类型如何，用于随机访问或层改变的VLA图像可被用在增强层中。由于对VLA图像仅执行层间预测而不对VLA图像执行帧间预测，故即使当发生层改变时，只要相应的基本层图像被重构，VLA图像就也可被重构。另外，对于对在增强层VLA图像之后的增强层图像执行帧间预测，按照再现顺序或解码顺序在VLA图像之前的图像可不被参考。

另外，根据实施例的多层视频编码设备10可布置CRA图像、RSDL/RASL图像或与基本层普通画面相应的增强层的普通画面。根据实施例的多层视频解码设备20可重构CRA图像、RSDL/RASL图像或与基本层普通画面相应的增强层的普通画面。

另外，增强层图像的时间分层数高于基本层图像的时间分层数，即“temporal_id”。

基于根据实施例的多层视频编码设备10和多层视频解码设备20，即使当在多层预测结构中发生随机访问或层改变，也可根据层来重构或忽略在相同位置处的图像。因此，用于层间预测的参考图像可被获得，每个层的输出图像可被准确地同步。

图1a的多层视频编码设备10可通过根据图像块执行帧内预测、帧间预测、层间预测、变换和量化来产生样点，并通过对样点执行熵编码来输出比特流。为了输出视频编码结果，即，基本层图像流和增强层图像流，根据实施例的多层视频编码设备10可与安装在其内的内部视频编码处理器或者外部视频编码处理器协同地进行操作，以执行包括变换和量化的视频编码操作。根据实施例的多层视频编码设备10的内部视频编码处理器可以是单独的处理器，或者可选择地，视频编码设备、中央处理设备或图形处理设备可包括用于执行视频编码操作的视频编码处理模块。

另外，图2a的多层视频解码设备20对接收的基本层图像流和接收的增强层图像流进行解码。换句话说，针对基本层图像流和增强层图像流根据图像块来执行反量化、逆变换、帧内预测和运动补偿(帧间运动补偿和层间视差补偿)，以从基本层图像流重构基本层图像的样点，从增强层图像流重构增强层图像的样点。为了输出产生为解码结果的重构的图像，根据实施例的多层视频解码设备20可与安装在其内的内部视频解码处理器或者外部视频解码处理器协同地进行操作，以执行包括反量化、逆变换和预测/补偿的视频恢复操作。根据实施例的多层视频解码设备20的内部视频解码处理器可以是单独的处理器，或者可选择地，视频解码设备、中央处理设备或图形处理设备可包括用于执行视频恢复操作的视频解码处理模块。

如上所述，根据实施例的多层视频编码设备10和多层视频解码设备20可将视频数据的块划分为具有树结构的编码单元，编码单元、预测单元和变换单元可用于编码单元的层间预测或帧间预测。以下，将参照图8到图20描述基于具有树结构的编码单元和变换单元的视频编码方法、视频编码设备、视频解码方法和视频解码设备。

原则上，在多层视频的编码和解码处理期间，对基本层图像的编码和解码处理以及对增强层图像的编码和解码处理被单独执行。换句话说，当对多层视频执行了层间预测时，单层视频的编码和解码结果可互相参照，但是根据单层视频来执行单独的编码和解码处理。

因此，由于如下参照图8到图20所述的基于具有树结构的编码单元的视频编码和解码处理是用于处理单层视频的视频编码和解码处理，故仅执行帧间预测和运动补偿。然而，如上参照图1a到图7b所述，为了对多层视频进行编码和解码，对基本层图像和增强层图像执行层间预测和层间补偿。

因此，为了根据实施例的多层视频编码设备10对基于具有树结构的编码单元的多层视频进行编码，根据实施例的多层视频编码设备10可包括与多层视频的层的数量一样多的图8的视频编码设备100，以根据每个单层视频执行视频编码，从而控制每个视频编码设备100对分配的单层视频进行编码。另外，多层视频编码设备10可通过使用每个视频编码设备100的单独的单视点的编码结果来执行视点间预测。因此，多层视频编码设备10可产生基本层图像流和增强层图像流，其中，基本层图像流和增强层图像流包括根据层的编码结果。

相似地，为了使根据实施例的多层视频解码设备20对基于具有树结构的编码单元的多层视频进行解码，多层视频解码设备20可包括与多层视频的层的数量一样多的图9的视频解码设备200，以针对接收的基本层图像流和接收的增强层图像流根据层执行视频解码，从而控制每个视频解码设备200对分配的单层视频进行解码。另外，多层视频解码设备20可通过使用每个视频解码设备200的单独的单层的解码结果来执行层间补偿。因此，多层视频解码设备20可产生基本层图像和增强层图像，其中，基本层图像和增强层图像根据层被重构。

图8是根据本发明实施例的基于根据树结构的编码单元的视频编码设备100的框图。

涉及基于根据树结构的编码单元的视频预测的根据实施例的视频编码设备100包括编码单元确定器120和输出单元130。在下文中，为了方便描述，将涉及基于根据树结构的编码单元的视频预测的根据实施例的视频编码设备100简称为“视频编码设备100”。

编码单元确定器120可基于图像的当前画面的作为具有最大尺寸的编码单元的最大编码单元来对当前画面进行划分。如果当前画面大于最大编码单元，则可将当前画面的图像数据划分为至少一个最大编码单元。根据实施例的最大编码单元可以是尺寸为32×32、64×64、128×128、256×256等的数据单元，其中，数据单元的形状是宽度和长度为2的若干次方的正方形。

根据实施例的编码单元可由最大尺寸和深度来表征。深度表示编码单元从最大编码单元被空间划分的次数，并且随着深度加深，根据深度的较深层编码单元可从最大编码单元被划分到最小编码单元。最大编码单元的深度为最高深度，最小编码单元的深度为最低深度。由于随着最大编码单元的深度加深，与每个深度相应的编码单元的尺寸减小，因此与更高深度相应的编码单元可包括与多个更低深度相应的多个编码单元。

如上所述，当前画面的图像数据根据编码单元的最大尺寸被划分为最大编码单元，并且每个最大编码单元可包括根据深度被划分的较深层编码单元。由于根据深度对根据实施例的最大编码单元进行划分，因此可根据深度对包括在最大编码单元中的空间域的图像数据进行分层地分类。

可预先确定编码单元的最大深度和最大尺寸，所述最大深度和最大尺寸限制对最大编码单元的高度和宽度进行分层划分的总次数。

编码单元确定器120对通过根据深度对最大编码单元的区域进行划分而获得的至少一个划分区域进行编码，并且根据所述至少一个划分区域来确定用于输出最终编码图像数据的深度。换句话说，编码单元确定器120通过根据当前画面的最大编码单元以根据深度的较深层编码单元对图像数据进行编码，选择具有最小编码误差的深度，来确定编码深度。确定的编码深度和根据确定的编码深度的编码的图像数据被输出到输出单元130。

基于与等于或低于最大深度的至少一个深度相应的较深层编码单元，对最大编码单元中的图像数据进行编码，并且基于每个较深层编码单元比较对图像数据进行编码的结果。在对较深层编码单元的编码误差进行比较之后，可选择具有最小编码误差的深度。可针对每个最大编码单元选择至少一个编码深度。

随着编码单元根据深度而被分层地划分并且编码单元的数量增加，最大编码单元的尺寸被划分。另外，即使在一个最大编码单元中编码单元与同一深度相应，也通过分别测量每个编码单元的图像数据的编码误差来确定是否将与同一深度相应的每个编码单元划分为更低深度。因此，即使图像数据被包括在一个最大编码单元中，在一个最大编码单元中编码误差根据区域而不同，因此在图像数据中编码深度可根据区域而不同。因此，可在一个最大编码单元中确定一个或更多个编码深度，并且可根据至少一个编码深度的编码单元来对最大编码单元的图像数据进行划分。

因此，根据实施例的编码单元确定器120可确定包括在最大编码单元中的具有树结构的编码单元。根据实施例的“具有树结构的编码单元”包括在最大编码单元中包括的所有较深层编码单元中的与确定为编码深度的深度相应的编码单元。可根据最大编码单元的相同区域中的深度来分层地确定编码深度的编码单元，并可在不同区域中独立地确定编码深度的编码单元。类似地，可从另一区域中的编码深度独立地确定当前区域中的编码深度。

根据实施例的最大深度是与从最大编码单元到最小编码单元的划分次数有关的索引。根据实施例的第一最大深度可表示从最大编码单元到最小编码单元的总划分次数。根据实施例的第二最大深度可表示从最大编码单元到最小编码单元的深度等级的总数。例如，当最大编码单元的深度是0时，对最大编码单元划分一次的编码单元的深度可被设置为1，对最大编码单元划分两次的编码单元的深度可被设置为2。这里，如果最小编码单元是对最大编码单元划分四次的编码单元，则存在深度0、1、2、3和4的深度等级，并因此第一最大深度可被设置为4，第二最大深度可被设置为5。

可根据最大编码单元执行预测编码和变换。还根据最大编码单元，基于根据等于或小于最大深度的深度的较深层编码单元来执行预测编码和变换。

由于每当根据深度对最大编码单元进行划分时，较深层编码单元的数量增加，因此对随着深度加深而产生的所有较深层编码单元执行包括预测编码和变换的编码。为了便于描述，在最大编码单元中，现在将基于当前深度的编码单元来描述预测编码和变换。

根据实施例的视频编码设备100可不同地选择用于对图像数据进行编码的数据单元的尺寸或形状。为了对图像数据进行编码，执行诸如预测编码、变换和熵编码的操作，此时，可针对所有操作使用相同的数据单元，或者可针对每个操作使用不同的数据单元。

例如，视频编码设备100不仅可选择用于对图像数据进行编码的编码单元，还可选择不同于编码单元的数据单元，以便对编码单元中的图像数据执行预测编码。

为了对最大编码单元执行预测编码，可基于根据实施例的与编码深度相应的编码单元(即，基于不再被划分成与更低深度相应的编码单元的编码单元)来执行预测编码。在下文中，不再被划分且成为用于预测编码的基本单元的编码单元现在将被称为“预测单元”。通过划分预测单元获得的分区可包括预测单元或者通过对预测单元的高度和宽度中的至少一个进行划分而获得的数据单元。分区是编码单元的预测单元被划分的数据单元，预测单元可以是具有与编码单元相同的尺寸的分区。

例如，当2N×2N(其中，N是正整数)的编码单元不再被划分，并且编码单元成为2N×2N的预测单元时，分区的尺寸可以是2N×2N、2N×N、N×2N或N×N。根据实施例的分区类型的示例包括通过对预测单元的高度或宽度进行对称地划分而获得的对称分区、通过对预测单元的高度或宽度进行非对称地划分(诸如，1:n或n:1)而获得的分区、通过对预测单元进行几何地划分而获得的分区以及具有任意形状的分区。

预测单元的预测模式可以是帧内模式、帧间模式和跳过模式中的至少一个。例如，可对2N×2N、2N×N、N×2N或N×N的分区执行帧内模式或帧间模式。另外，可仅对2N×2N的分区执行跳过模式。可对编码单元中的一个预测单元独立地执行编码，从而选择具有最小编码误差的预测模式。

根据实施例的视频编码设备100不仅可基于用于对图像数据进行编码的编码单元还可基于与编码单元不同的数据单元，来对编码单元中的图像数据执行变换。为了在编码单元中执行变换，可基于具有小于或等于编码单元的尺寸的变换单元来执行变换。例如，变换单元可包括帧内模式的数据单元和帧间模式的变换单元。

与根据实施例的根据树结构对编码单元进行划分的方式类似，编码单元中的变换单元可被递归地划分为更小尺寸的区域。因此，可基于根据变换深度的具有树结构的变换单元，对编码单元中的残差数据进行划分。

根据实施例，还可在变换单元中设置变换深度，其中，变换深度表示通过对编码单元的高度和宽度进行划分以达到变换单元的划分次数。例如，在2N×2N的当前编码单元中，当变换单元的尺寸是2N×2N时，变换深度可以是0，当变换单元的尺寸是N×N时，变换深度可以是1，当变换单元的尺寸是N/2×N/2时，变换深度可以是2。换句话说，可根据变换深度设置具有树结构的变换单元。

根据与编码深度相应的编码单元的编码信息不仅需要关于编码深度的信息，还需要关于与预测编码和变换相关的信息的信息。因此，编码单元确定器120不仅确定具有最小编码误差的编码深度，还确定预测单元中的分区类型、根据预测单元的预测模式和用于变换的变换单元的尺寸。

稍后将参照图10至图20详细描述根据实施例的最大编码单元中的根据树结构的编码单元以及确定预测单元/分区和变换单元的方法。

编码单元确定器120可通过使用基于拉格朗日乘数的率失真优化，来测量根据深度的较深层编码单元的编码误差。

输出单元130在比特流中输出最大编码单元的图像数据和关于根据编码深度的编码模式的信息，其中，所述最大编码单元的图像数据基于由编码单元确定器120确定的至少一个编码深度被编码。

可通过对图像的残差数据进行编码来获得编码的图像数据。

关于根据编码深度的编码模式的信息可包括关于编码深度的信息、关于在预测单元中的分区类型的信息、关于预测模式的信息和关于变换单元的尺寸的信息。

可通过使用根据深度的划分信息来定义关于编码深度的信息，其中，根据深度的划分信息指示是否对更低深度而不是当前深度的编码单元执行编码。如果当前编码单元的当前深度是编码深度，则对当前编码单元进行编码，因此可定义划分信息以不将当前编码单元划分到更低深度。可选地，如果当前编码单元的当前深度不是编码深度，则对更低深度的编码单元执行编码，并因此将划分信息定义为对当前编码单元进行划分以获得更低深度的编码单元。

如果当前深度不是编码深度，则对被划分为更低深度的编码单元的编码单元执行编码。由于更低深度的至少一个编码单元存在于当前深度的一个编码单元中，因此对更低深度的每个编码单元重复执行编码，并因此可对具有相同深度的编码单元递归地执行编码。

由于针对一个最大编码单元确定具有树结构的编码单元，并且针对编码深度的编码单元确定关于至少一个编码模式的信息，所以可针对一个最大编码单元确定关于至少一个编码模式的信息。另外，由于根据深度对最大编码单元的图像数据进行分层划分，因此图像数据的编码深度可根据位置而不同，因此可针对图像数据设置关于编码深度和编码模式的信息。

因此，根据实施例的输出单元130可将关于相应的编码深度和编码模式的编码信息分配给包括在最大编码单元中的编码单元、预测单元和最小单元中的至少一个。

根据实施例的最小单元是通过将构成最低深度的最小编码单元划分为4份而获得的矩形数据单元。可选择地，根据实施例的最小单元可以是包括在最大编码单元中所包括的所有编码单元、预测单元、分区单元和变换单元中的最大矩形数据单元。

例如，通过输出单元130输出的编码信息可被分类为根据较深层编码单元的编码信息和根据预测单元的编码信息。根据较深层编码单元的编码信息可包括关于预测模式的信息和关于分区尺寸的信息。根据预测单元的编码信息可包括关于帧间模式的估计方向的信息、关于帧间模式的参考图像索引的信息、关于运动矢量的信息、关于帧内模式的色度分量的信息以及关于帧内模式的插值方法的信息。

根据画面、条带或GOP定义的关于编码单元的最大尺寸的信息和关于最大深度的信息可被插入到比特流的头、序列参数集或画面参数集。

还可通过比特流的头、序列参数集或画面参数集输出关于针对当前视频允许的变换单元的最大尺寸的信息和关于变换单元的最小尺寸的信息。输出单元130可对与预测有关的参考信息、预测信息和条带类型信息进行编码，并输出这些信息。

在根据最简化的实施例的视频编码设备100中，较深层编码单元可以是通过将更高深度的编码单元(更高一层)的高度或宽度划分成两份而获得的编码单元。换言之，在当前深度的编码单元的尺寸是2N×2N时，更低深度的编码单元的尺寸是N×N。另外，尺寸为2N×2N的当前深度的编码单元可包括最多4个更低深度的编码单元。

因此，视频编码设备100可基于考虑当前画面的特征而确定的最大编码单元的尺寸和最大深度，通过针对每个最大编码单元确定具有最优形状和最优尺寸的编码单元来形成具有树结构的编码单元。另外，由于可通过使用各种预测模式和变换中的任意一个对每个最大编码单元执行编码，因此可考虑各种图像尺寸的编码单元的特征来确定最优编码模式。

因此，如果以传统宏块对具有高分辨率或大数据量的图像进行编码，则每个画面的宏块的数量极度增加。因此，针对每个宏块产生的压缩信息的条数增加，因此难以发送压缩的信息，并且数据压缩效率降低。然而，通过使用根据实施例的视频编码设备100，由于考虑图像的尺寸的同时增加编码单元的最大尺寸，并同时在考虑图像的特征的同时调整编码单元，因此可提高图像压缩效率。

上面参照图1a描述的多层视频编码设备10可包括与层的数量相同数量的视频编码设备100，以根据多层视频的层对单层图像进行编码。例如，基本层编码器12可包括一个视频编码设备100，增强层编码器14可包括与层的数量相同数量的视频编码设备100。

当视频编码设备100对基本层图像进行编码时，编码单元确定器120可根据具有树结构的编码单元针对每个最大编码单元确定用于帧间预测的预测单元，并根据预测单元执行帧间预测。

即使当视频编码设备100对增强层图像进行编码时，编码单元确定器120可针对每个最大编码单元确定具有树结构的编码单元和预测单元，并根据预测单元执行帧间预测。

当编码单元确定器120对基本层图像进行编码时，能够随机访问的RPA图像可被分配，并可对基本层RPA图像执行帧内预测。当发生随机访问或层改变时，即使不存在预重构的图像，RPA图像也可被重构。

当编码单元确定器120对增强层流进行编码时，在与基本层流的RPA图像相应的位置处的与基本层RPA图像相同RPA类型的RPA图像可被编码。编码单元确定器120可对增强层RPA图像执行帧内预测。

编码单元确定器120可通过参考RPA图像和另一非RPA图像中的至少一个对非RPA图像执行帧间预测。在与基本层RASL图像相应的位置处的增强层图像也是RASL图像，并可参考随后的RPA图像和之前的RPA图像。在与基本层流的RADL图像相应的位置处的增强层图像也是RADL图像，并仅可参考随后的RPA图像。与基本层普通画面相应的增强层图像可被编码为CRA图像、RADL/RASL图像或普通画面。

图9是根据本发明实施例的基于根据树结构的编码单元的视频解码设备200的框图。

涉及基于具有树结构的编码单元的视频预测的根据实施例的视频解码设备200包括接收器210、图像数据和编码信息提取器220以及图像数据解码器230。为了便于描述，涉及基于具有树结构的编码单元的视频预测的根据实施例的视频解码设备200将被简称为“视频解码设备200”。

用于根据实施例的视频解码设备200的解码操作的各种术语(诸如编码单元、深度、预测单元、变换单元和关于各种编码模式的信息)的定义与参照图8和视频编码设备100描述的定义相同。

接收器210接收和解析编码视频的比特流。图像数据和编码信息提取器220从解析的比特流，针对每个编码单元提取编码的图像数据，并将提取的图像数据输出到图像数据解码器230，其中，编码单元具有根据每个最大编码单元的树结构。图像数据和编码信息提取器220可从关于当前画面的头、序列参数集或画面参数集提取关于当前画面的编码单元的最大尺寸的信息。

另外，图像数据和编码信息提取器220从解析的比特流，根据每个最大编码单元，提取关于具有树结构的编码单元的编码深度和编码模式的信息。提取的关于编码深度和编码模式的信息被输出到图像数据解码器230。换言之，比特流中的图像数据被划分为最大编码单元，使得图像数据解码器230针对每个最大编码单元对图像数据进行解码。

可针对关于与编码深度相应的至少一个编码单元的信息来设置关于根据最大编码单元的编码深度和编码模式的信息，关于编码模式的信息可包括关于与编码深度相应的相应编码单元的分区类型的信息、关于预测模式的信息和关于变换单元的尺寸的信息。另外，根据深度的划分信息可被提取为关于编码深度的信息。

由图像数据和编码信息提取器220提取的关于根据每个最大编码单元的编码深度和编码模式的信息是这样的关于编码深度和编码模式的信息：该信息被确定为在编码器(诸如，根据实施例的视频编码设备100)根据每个最大编码单元对根据深度的每个较深层编码单元重复地执行编码时产生最小编码误差。因此，视频解码设备200可通过根据产生最小编码误差的编码深度和编码模式对图像数据进行解码来重构图像。

由于根据实施例的关于编码深度和编码模式的编码信息可被分配给相应的编码单元、预测单元和最小单元中的预定数据单元，因此图像数据和编码信息提取器220可根据预定数据单元，提取关于编码深度和编码模式的信息。如果关于相应最大编码单元的编码深度和编码模式的信息根据预定数据单元被记录，则可将被分配了相同的关于编码深度和编码模式的信息的预定数据单元推断为是包括在同一最大编码单元中的数据单元。

图像数据解码器230基于关于根据最大编码单元的编码深度和编码模式的信息，通过对每个最大编码单元的图像数据进行解码，来重构当前画面。换言之，图像数据解码器230可基于提取出的关于每个最大编码单元中的具有树结构的编码单元之中的每个编码单元的分区类型、预测模式和变换单元的信息，对编码的图像数据进行解码。解码处理可包括预测(包含帧内预测和运动补偿)和逆变换。

图像数据解码器230可基于关于根据编码深度的编码单元的预测单元的分区类型和预测模式的信息，根据每个编码单元的分区和预测模式，执行帧内预测或运动补偿。

另外，为了针对最大编码单元的逆变换，图像数据解码器230可针对每个编码单元读取关于根据树结构的变换单元的信息，从而基于每个编码单元的变换单元执行逆变换。经由逆变换，可重构编码单元的空间域的像素值。

图像数据解码器230可通过使用根据深度的划分信息来确定当前最大编码单元的编码深度。如果划分信息指示图像数据在当前深度中不再被划分，则当前深度是编码深度。因此，图像数据解码器230可通过使用关于用于与编码深度相应的每个编码单元的预测单元的分区类型的信息、关于预测模式的信息和关于变换单元的尺寸的信息，对当前最大编码单元中的编码数据进行解码。

换言之，可通过观察分配给编码单元、预测单元和最小单元中的预定数据单元的编码信息集来收集包含包括相同划分信息的编码信息的数据单元，并且收集的数据单元可被认为是将由图像数据解码器230以相同编码模式进行解码的一个数据单元。这样，通过获得关于每个编码单元的编码模式的信息，可对当前编码单元进行解码。

以上参照图1a描述的多层视频编码设备10可包括与层的数量相同数量的图像数据解码器230，以产生用于根据多层视频的层的帧间预测的参考画面。例如，基本层编码器12可包括一个图像数据解码器230，增强层编码器14可包括与增强层的数量相同数量的图像数据解码器230。

另外，以上参照图2a和图3a描述的多层视频解码设备20可包括与层的数量相同数量的视频解码设备200，以通过对接收的基本层图像流和接收的增强层图像流进行解码来重构基本层图像和增强层图像。例如，基本层图像解码器22可包括一个视频解码设备200，增强层解码器24可包括与增强层的数量相同数量的视频解码设备200。

当基本层图像流被接收时，视频解码设备200的图像数据解码器230可将由图像数据和编码信息提取器220从基本层图像流提取的基本层图像的样点划分为具有树结构的编码单元。图像数据解码器230可通过根据用于帧间预测的预测单元对通过划分基本层图像的样点而获得的具有树结构的编码单元执行运动补偿，来重构基本层图像。

当增强层图像流被接收时，视频解码设备200的图像数据解码器230可将由图像数据和编码信息提取器220从增强层图像流提取的增强层图像的样点划分为具有树结构的编码单元。图像数据解码器230可通过根据用于帧间预测的预测单元对通过划分增强层图像的样点而获得的编码单元执行运动补偿，来重构增强层图像。

当图像数据解码器230对基本层流进行解码时，RPA图像可基于NAL单元类型而被重构。当发生随机访问或层改变时，即使不存在预重构的图像，RPA图像也可被重构。

当图像数据解码器230对增强层流进行解码时，与在与基本层流的RPA图像相应的位置处的基本层RPA图像相同RPA类型的RPA图像可被重构。图像数据解码器230可对增强层RPA图像执行帧内预测。

图像数据解码器230可通过参考RPA图像和另一非RPA图像中的至少一个对非RPA图像执行运动补偿。在与基本层RASL图像相应的位置处的增强层图像也是RASL图像，并可参考随后的RPA图像和之前的RPA图像。在与基本层流的RADL图像相应的位置处的增强层图像也是RADL图像，并仅可参考随后的RPA图像。与基本层普通画面相应的增强层图像可被重构为CRA图像、RADL/RASL图像或普通画面。

因此，视频解码设备200可获得关于当针对每个最大编码单元递归地执行编码时产生最小编码误差的至少一个编码单元的信息，并且可使用所述信息来对当前画面进行解码。换言之，被确定为每个最大编码单元中的最优编码单元的具有树结构的编码单元可被解码。

因此，即使图像数据具有高分辨率和大数据量，也可通过使用编码单元的尺寸和编码模式，对图像数据进行有效地解码和重构，其中，所述编码单元的尺寸和编码模式是通过使用从编码器接收到的关于最优编码模式的信息，根据图像数据的特征而被自适应地确定的。

图10是根据本发明实施例的编码单元的概念的示图。

编码单元的尺寸可被表示为“宽度×高度”，并可以是64×64、32×32、16×16和8×8。64×64的编码单元可被划分为64×64、64×32、32×64或32×32的分区，32×32的编码单元可被划分为32×32、32×16、16×32或16×16的分区，16×16的编码单元可被划分为16×16、16×8、8×16或8×8的分区，8×8的编码单元可被划分为8×8、8×4、4×8或4×4的分区。

在视频数据310中，分辨率是1920×1080，编码单元的最大尺寸是64，最大深度是2。在视频数据320中，分辨率是1920×1080，编码单元的最大尺寸是64，最大深度是3。在视频数据330中，分辨率是352×288，编码单元的最大尺寸是16，最大深度是1。图10中示出的最大深度表示从最大编码单元到最小编码单元的划分总次数。

如果分辨率高或数据量大，则编码单元的最大尺寸可能较大，从而不仅提高编码效率，而且准确地反映图像的特征。因此，具有比视频数据330更高分辨率的视频数据310和320的编码单元的最大尺寸可以是64。

由于视频数据310的最大深度是2，因此由于通过对最大编码单元划分两次，深度加深至两层，因此视频数据310的编码单元315可包括长轴尺寸为64的最大编码单元和长轴尺寸为32和16的编码单元。由于视频数据330的最大深度是1，因此由于通过对最大编码单元划分一次，深度加深至一层，因此视频数据330的编码单元335可包括长轴尺寸为16的最大编码单元和长轴尺寸为8的编码单元。

由于视频数据320的最大深度是3，因此由于通过对最大编码单元划分三次，深度加深至3层，因此视频数据320的编码单元325可包括长轴尺寸为64的最大编码单元和长轴尺寸为32、16和8的编码单元。随着深度加深，详细信息可被精确地表示。

图11是根据本发明实施例的基于编码单元的图像编码器400的框图。

图像编码器400执行视频编码设备100的编码单元确定器120的操作来对图像数据进行编码。换言之，帧内预测器410对当前帧405中的帧内模式下的编码单元执行帧内预测，运动估计器420和运动补偿器425通过使用当前帧405和参考帧495，对当前帧405中的帧间模式下的编码单元执行帧间估计和运动补偿。

从帧内预测器410、运动估计器420和运动补偿器425输出的数据通过变换器430和量化器440被输出为量化后的变换系数。量化后的变换系数通过反量化器460和逆变换器470被重构为空间域中的数据，重构的空间域中的数据在通过去块单元480和偏移调整单元490后处理之后被输出为参考帧495。量化后的变换系数可通过熵编码器450被输出为比特流455。

为了使图像编码器400应用于根据实施例的视频编码设备100中，图像编码器400的所有元件(即，帧内预测器410、运动估计器420、运动补偿器425、变换器430、量化器440、熵编码器450、反量化器460、逆变换器470、去块单元480和偏移调整单元490)在考虑每个最大编码单元的最大深度的同时，基于具有树结构的编码单元中的每个编码单元执行操作。

具体地，帧内预测器410、运动估计器420和运动补偿器425在考虑当前最大编码单元的最大尺寸和最大深度的同时，确定具有树结构的编码单元中的每个编码单元的分区和预测模式，变换器430确定具有树结构的编码单元中的每个编码单元中的变换单元的尺寸。

当图像编码器400产生增强层流时，在与基本层流的RPA图像相应的位置处的增强层图像可被分配为相同类型的RPA图像。帧内预测器410可对RPA图像执行帧内预测。

运动估计器420可通过参考RPA图像和另一非RPA图像中的至少一个对非RPA图像执行帧间预测。运动补偿器425可通过参考RPA图像和另一非RPA图像中的至少一个对非RPA图像执行运动补偿。在与基本层RASL图像相应的位置处的增强层图像也是RASL图像，并可参考随后的RPA图像和之前的RPA图像。在与基本层流的RADL图像相应的位置处的增强层图像也是RADL图像，并仅可参考随后的RPA图像。与基本层普通画面相应的增强层图像可被编码或解码为CRA图像、RADL/RASL图像或普通画面。

图12是根据本发明实施例的基于编码单元的图像解码器500的框图。

解析器510从比特流505解析将被解码的编码的图像数据和解码所需的关于编码的信息。编码图像数据通过熵解码器520和反量化器530被输出为反量化的数据，反量化的数据通过逆变换器540被重构为空间域中的图像数据。

针对空间域中的图像数据，帧内预测器550对帧内模式下的编码单元执行帧内预测，运动补偿器560通过使用参考帧585对帧间模式下的编码单元执行运动补偿。

通过帧内预测器550和运动补偿器560的空间域中的图像数据可在通过去块单元570和偏移调整器580后处理之后被输出为重构帧595。另外，通过去块单元570和偏移调整器580后处理的图像数据可被输出为参考帧585。

为了在视频解码设备200的图像数据解码器230中对图像数据进行解码，根据实施例的图像解码器500可执行在解析器510之后执行的操作。

为了将图像解码器500应用到根据实施例的视频解码设备200中，图像解码器500的所有元件(即，解析器510、熵解码器520、反量化器530、逆变换器540、帧内预测器550、运动补偿器560、去块单元570和偏移调整器580)针对每个最大编码单元，基于具有树结构的编码单元执行操作。

具体地，帧内预测器550和运动补偿器560针对具有树结构的编码单元中的每个编码单元基于分区和预测模式来执行操作，逆变换器540针对每个编码单元基于变换单元的尺寸来执行操作。

当图像解码器500对增强层流进行解码时，在与基本层流的RPA图像相应的位置处的与基本层RAP图像相同RPA类型的RPA图像可被重构。帧内预测器550可对增强层RPA图像执行帧内预测。

运动补偿器560可通过参考RPA图像和另一非RPA图像中的至少一个对非RPA图像执行运动补偿。在与基本层RASL图像相应的位置处的增强层图像也是RASL图像，并可参考随后的RPA图像和之前的RPA图像。在与基本层流的RADL图像相应的位置处的增强层图像也是RADL图像，并仅可参考随后的RPA图像。与基本层普通画面相应的增强层图像可被重构为CRA图像、RADL/RASL图像或普通画面。

图13是根据本发明实施例的根据深度的较深层编码单元以及分区的示图。

根据实施例的视频编码设备100和根据实施例的视频解码设备200使用分层编码单元以考虑图像的特征。可根据图像的特征自适应地确定编码单元的最大高度、最大宽度和最大深度，或可由用户不同地设置编码单元的最大高度、最大宽度和最大深度。可根据编码单元的预定最大尺寸来确定根据深度的较深层编码单元的尺寸。

在根据实施例的编码单元的分层结构600中，编码单元的最大高度和最大宽度均是64，最大深度是3。在这种情况下，最大深度表示编码单元从最大编码单元被划分到最小编码单元的总次数。由于深度沿着根据实施例的编码单元的分层结构600的垂直轴加深，因此较深层编码单元的高度和宽度均被划分。另外，预测单元和分区沿着分层结构600的水平轴被示出，其中，所述预测单元和分区是对每个较深层编码单元进行预测编码的基础。

换言之，在分层结构600中，编码单元610是最大编码单元，其中，深度为0，尺寸(即，高度乘宽度)为64×64。深度沿着垂直轴加深，存在尺寸为32×32和深度为1的编码单元620、尺寸为16×16和深度为2的编码单元630、尺寸为8×8和深度为3的编码单元640。尺寸为8×8和深度为3的编码单元640是最小编码单元。

编码单元的预测单元和分区根据每个深度沿着水平轴被排列。换言之，如果尺寸为64×64和深度为0的编码单元610是预测单元，则可将预测单元划分成包括在编码单元610中的分区，即，尺寸为64×64的分区610、尺寸为64×32的分区612、尺寸为32×64的分区614或尺寸为32×32的分区616。

类似地，可将尺寸为32×32和深度为1的编码单元620的预测单元划分成包括在编码单元620中的分区，即，尺寸为32×32的分区620、尺寸为32×16的分区622、尺寸为16×32的分区624和尺寸为16×16的分区626。

类似地，可将尺寸为16×16和深度为2的编码单元630的预测单元划分成包括在编码单元630中的分区，即，包括在编码度单元630中的尺寸为16×16的分区、尺寸为16×8的分区632、尺寸为8×16的分区634和尺寸为8×8的分区636。

类似地，可将尺寸为8×8和深度为3的编码单元640的预测单元划分成包括在编码单元640中的分区，即，包括在编码单元640中的尺寸为8×8的分区、尺寸为8×4的分区642、尺寸为4×8的分区644和尺寸为4×4的分区646。

为了确定构成最大编码单元610的编码单元的至少一个编码深度，根据实施例的视频编码设备100的编码单元确定器120对包括在最大编码单元610中的与每个深度相应的编码单元执行编码。

随着深度加深，包括相同范围和相同尺寸的数据的根据深度的较深层编码单元的数量增加。例如，需要四个与深度2相应的编码单元来覆盖包括在与深度1相应的一个编码单元中的数据。因此，为了根据深度比较对相同数据进行编码的结果，与深度1相应的编码单元和四个与深度2相应的编码单元均被编码。

为了针对多个深度中的当前深度执行编码，可沿着分层结构600的水平轴，通过对与当前深度相应的编码单元中的每个预测单元执行编码，来针对当前深度选择最小编码误差。可选地，随着深度沿着分层结构600的垂直轴加深，可通过针对每个深度执行编码，比较根据深度的最小编码误差，来搜索最小编码误差。在编码单元610中的具有最小编码误差的深度和分区可被选为编码单元610的编码深度和分区类型。

图14是用于描述根据本发明实施例的编码单元710与变换单元720之间的关系的示图。

根据实施例的视频编码设备100或根据实施例的视频解码设备200针对每个最大编码单元，根据具有小于或等于最大编码单元的尺寸的编码单元，对图像进行编码或解码。可基于不大于相应的编码单元的数据单元，来选择用于在编码期间进行变换的变换单元的尺寸。

例如，在根据实施例的视频编码设备100或根据实施例的视频解码设备200中，如果编码单元710的尺寸是64×64，则可通过使用尺寸为32×32的变换单元720来执行变换。

此外，可通过对小于64×64的尺寸为32×32、16×16、8×8和4×4的每个变换单元执行变换，来对尺寸为64×64的编码单元710的数据进行编码，然后可选择具有最小编码误差的变换单元。

图15是用于描述根据本发明实施例的与编码深度相应的编码单元的编码信息的示图。

根据实施例的视频编码设备100的输出单元130可对与编码深度相应的每个编码单元的关于分区类型的信息800、关于预测模式的信息810以及关于变换单元尺寸的信息820进行编码，并将信息800、信息810和信息820作为关于编码模式的信息来发送。

信息800指示关于通过划分当前编码单元的预测单元而获得的分区的形状的信息，其中，所述分区是用于对当前编码单元进行预测编码的数据单元。例如，可将尺寸为2N×2N的当前编码单元CU_0划分成以下分区中的任意一个：尺寸为2N×2N的分区802、尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808。这里，关于分区类型的信息800被设置为指示以下分区之一：尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808。

信息810指示每个分区的预测模式。例如，信息810可指示对由信息800指示的分区执行的预测编码的模式，即，帧内模式812、帧间模式814或跳过模式816。

信息820指示当对当前编码单元执行变换时所基于的变换单元。例如，变换单元可以是第一帧内变换单元822、第二帧内变换单元824、第一帧间变换单元826或第二帧间变换单元828。

根据实施例的视频解码设备200的图像数据和编码信息提取器220可根据每个较深层编码单元，提取并使用用于解码的信息800、810和820。

图16是根据本发明实施例的根据深度的较深层编码单元的示图。

划分信息可用来指示深度的改变。划分信息指示当前深度的编码单元是否被划分成更低深度的编码单元。

用于对深度为0和尺寸为2N_0×2N_0的编码单元900进行预测编码的预测单元910可包括以下分区类型的分区：尺寸为2N_0×2N_0的分区类型912、尺寸为2N_0×N_0的分区类型914、尺寸为N_0×2N_0的分区类型916和尺寸为N_0×N_0的分区类型918。图9仅示出了通过对称地划分预测单元910而获得的分区类型912至918，但是分区类型不限于此，并且预测单元910的分区可包括非对称分区、具有预定形状的分区和具有几何形状的分区。

根据每种分区类型，对尺寸为2N_0×2N_0的一个分区、尺寸为2N_0×N_0的两个分区、尺寸为N_0×2N_0的两个分区和尺寸为N_0×N_0的四个分区重复地执行预测编码。可对尺寸为2N_0×2N_0、N_0×2N_0、2N_0×N_0和N_0×N_0的分区执行帧内模式和帧间模式下的预测编码。可仅对尺寸为2N_0×2N_0的分区执行跳过模式下的预测编码。

如果在分区类型912至916中的一个分区类型中编码误差最小，则可不将预测单元910划分到更低深度。

如果在分区类型918中编码误差最小，则深度从0改变到1以在操作920中划分分区类型918，并对深度为2和尺寸为N_0×N_0的编码单元930重复地执行编码来搜索最小编码误差。

用于对深度为1和尺寸为2N_1×2N_1(＝N_0×N_0)的编码单元930进行预测编码的预测单元940可包括以下分区类型的分区：尺寸为2N_1×2N_1的分区类型942、尺寸为2N_1×N_1的分区类型944、尺寸为N_1×2N_1的分区类型946以及尺寸为N_1×N_1的分区类型948。

如果在分区类型948中编码误差最小，则深度从1改变到2以在操作950中划分分区类型948，并对深度为2和尺寸为N_2×N_2的编码单元960重复的执行编码来搜索最小编码误差。

当最大深度是d时，根据每个深度的划分操作可被执行直到深度变为d-1，并且划分信息可被编码直到深度是0到d-2中的一个。换句话说，在与深度d-2相应的编码单元在操作970中被划分之后编码被执行直到当深度是d-1时，用于对深度为d-1和尺寸为2N_(d-1)×2N_(d-1)的编码单元980进行预测编码的预测单元990可包括以下分区类型的分区：尺寸为2N_(d-1)×2N_(d-1)的分区类型992、尺寸为2N_(d-1)×N_(d-1)的分区类型994、尺寸为N_(d-1)×2N_(d-1)的分区类型996和尺寸为N_(d-1)×N_(d-1)的分区类型998。

可对分区类型992至998中的尺寸为2N_(d-1)×2N_(d-1)的一个分区、尺寸为2N_(d-1)×N_(d-1)的两个分区、尺寸为N_(d-1)×2N_(d-1)的两个分区、尺寸为N_(d-1)×N_(d-1)的四个分区重复地执行预测编码，以搜索具有最小编码误差的分区类型。

即使当分区类型998具有最小编码误差时，由于最大深度是d，因此深度为d-1的编码单元CU_(d-1)也不再被划分到更低深度，构成当前最大编码单元900的编码单元的编码深度被确定为d-1，并且当前最大编码单元900的分区类型可被确定为N_(d-1)×N(d-1)。此外，由于最大深度是d，因此不设置深度为d-1的编码单元952的划分信息。

数据单元999可以是用于当前最大编码单元的“最小单元”。根据实施例的最小单元可以是通过将具有最低编码深度的最小编码单元划分成4份而获得的矩形数据单元。通过重复地执行编码，根据实施例的视频编码设备100可通过比较根据编码单元900的深度的编码误差来选择具有最小编码误差的深度以确定编码深度，并将相应分区类型和预测模式设置为编码深度的编码模式。

这样，在所有深度1至d中对根据深度的最小编码误差进行比较，并且具有最小编码误差的深度可被确定为编码深度。编码深度、预测单元的分区类型和预测模式可作为关于编码模式的信息被编码并发送。另外，由于编码单元从0的深度被划分到编码深度，因此仅编码深度的划分信息被设置为0，并且除了编码深度以外的深度的划分信息被设置为1。

根据实施例的视频解码设备200的图像数据和编码信息提取器220可提取并使用关于编码单元900的编码深度和预测单元的信息，来对分区912进行解码。根据实施例的视频解码设备200可通过使用根据深度的划分信息，将划分信息为0的深度确定为编码深度，并且使用关于相应深度的编码模式的信息来进行解码。

图17至图19是用于描述根据本发明实施例的编码单元1010、预测单元1060和变换单元1070之间的关系的示图。

编码单元1010是最大编码单元中的与由根据实施例的视频编码设备100确定的编码深度相应的具有树结构的编码单元。预测单元1060是每个编码单元1010的预测单元的分区，变换单元1070是每个编码单元1010的变换单元。

当在编码单元1010中最大编码单元的深度是0时，编码单元1012和编码单元1054的深度是1，编码单元1014、1016、1018、1028、1050和1052的深度是2，编码单元1020、1022、1024、1026、1030、1032和1048的深度是3，编码单元1040、1042、1044和1046的深度是4。

在预测单元1060中，通过划分编码单元1010中的编码单元来获得一些编码单元1014、1016、1022、1032、1048、1050、1052和1054。换句话说，编码单元1014、1022、1050和1054中的分区类型的尺寸是2N×N，编码单元1016、1048和1052中的分区类型的尺寸是N×2N，编码单元1032的分区类型的尺寸是N×N。编码单元1010的预测单元和分区小于或等于每个编码单元。

在小于编码单元1052的数据单元中的变换单元1070中，对编码单元1052的图像数据执行变换或逆变换。另外，在尺寸和形状方面，变换单元1070中的编码单元1014、1016、1022、1032、1048、1050和1052不同于预测单元1060中的编码单元1014、1016、1022、1032、1048、1050和1052。换句话说，根据实施例的视频编码设备100和视频解码设备200可对同一编码单元中的数据单元独立地执行帧内预测、运动估计、运动补偿、变换和逆变换。

因此，对最大编码单元的每个区域中的具有分层结构的每个编码单元递归地执行编码来确定最优编码单元，从而可获得具有递归树结构的编码单元。编码信息可包括关于编码单元的划分信息、关于分区类型的信息、关于预测模式的信息和关于变换单元的尺寸的信息。表1示出可由根据实施例的视频编码设备100和视频解码设备200设置的编码信息。

[表1]

根据实施例的视频编码设备100的输出单元130可输出关于具有树结构的编码单元的编码信息，根据实施例的视频解码设备200的图像数据和编码信息提取器220可从接收到的比特流提取关于具有树结构的编码单元的编码信息。

划分信息指示是否将当前编码单元划分成更低深度的编码单元。如果当前深度d的划分信息是0，则当前编码单元不再被划分成更低深度的的深度是编码深度，从而可针对所述编码深度来定义关于分区类型、预测模式和变换单元的尺寸的信息。如果当前编码单元根据划分信息被进一步划分，则对更低深度的四个划分编码单元独立地执行编码。

预测模式可以是帧内模式、帧间模式和跳过模式中的一种。可针对所有分区类型定义帧内模式和帧间模式，仅在尺寸为2N×2N的分区类型中定义跳过模式。

关于分区类型的信息可指示通过对称地划分预测单元的高度或宽度而获得的尺寸为2N×2N、2N×N、N×2N和N×N的对称分区类型，以及通过非对称地划分预测单元的高度或宽度而获得的尺寸为2N×nU、2N×nD、nL×2N和nR×2N的非对称分区类型。可通过按1:3和3:1来划分预测单元的高度来分别获得尺寸为2N×nU和2N×nD的非对称分区类型，可通过按1:3和3:1来划分预测单元的宽度来分别获得尺寸为nL×2N和nR×2N的非对称分区类型。

可将变换单元的尺寸设置成帧内模式下的两种类型和帧间模式下的两种类型。换句话说，如果变换单元的划分信息是0，则变换单元的尺寸可以是2N×2N，即当前编码单元的尺寸。如果变换单元的划分信息是1，则可通过对当前编码单元进行划分来获得变换单元。另外，如果尺寸为2N×2N的当前编码单元的分区类型是对称分区类型，则变换单元的尺寸可以是N×N，如果当前编码单元的分区类型是非对称分区类型，则变换单元的尺寸可以是N/2×N/2。

根据实施例的关于具有树结构的编码单元的编码信息可包括与编码深度相应的编码单元、预测单元和最小单元中的至少一个。与编码深度相应的编码单元可包括包含相同编码信息的预测单元和最小单元中的至少一个。

因此，通过比较邻近数据单元的编码信息来确定邻近数据单元是否被包括在与编码深度相应的同一编码单元中。另外，通过使用数据单元的编码信息来确定与编码深度相应的相应编码单元，并因此可确定最大编码单元中的编码深度的分布。

因此，如果基于邻近数据单元的编码信息对当前编码单元进行预测，则可直接参考并使用与当前编码单元邻近的较深层编码单元中的数据单元的编码信息。

可选地，如果基于邻近数据单元的编码信息对当前编码单元进行预测，则使用数据单元的编码信息来搜索与当前编码单元邻近的数据单元，并可参考搜索到的邻近编码单元以用于对当前编码单元进行预测。

图20是用于描述根据表1的编码模式信息的编码单元、预测单元和变换单元之间的关系的示图。

最大编码单元1300包括编码深度的编码单元1302、1304、1306、1312、1314、1316和1318。这里，由于编码单元1318是编码深度的编码单元，因此划分信息可以被设置成0。可将关于尺寸为2N×2N的编码单元1318的分区类型的信息设置成以下分区类型中的一种：尺寸为2N×2N的分区类型1322、尺寸为2N×N的分区类型1324、尺寸为N×2N的分区类型1326、尺寸为N×N的分区类型1328、尺寸为2N×nU的分区类型1332、尺寸为2N×nD的分区类型1334、尺寸为nL×2N的分区类型1336以及尺寸为nR×2N的分区类型1338。

变换单元的划分信息(TU尺寸标记)是一类变换索引。与变换索引相应的变换单元的尺寸可根据编码单元的预测单元类型或分区类型而改变。

例如，当分区类型被设置成对称(即，分区类型1322、1324、1326或1328)时，如果变换单元的TU尺寸标记是0，则设置尺寸为2N×2N的变换单元1342，如果TU尺寸标记是1，则设置尺寸为N×N的变换单元1344。

当分区类型被设置成非对称(即，分区类型1332、1334、1336或1338)时，如果TU尺寸标记是0，则设置尺寸为2N×2N的变换单元1352，如果TU尺寸标记是1，则设置尺寸为N/2×N/2的变换单元1354。

参照图20，TU尺寸标记是具有值0或1的标记，但是根据实施例的TU尺寸标记不限于1比特，在TU尺寸标记从0增加的同时，变换单元可被分层划分以具有树结构。变换单元的划分信息(TU尺寸标记)可以是变换索引的示例。

在这种情况下，可通过使用根据实施例的变换单元的TU尺寸标记以及变换单元的最大尺寸和最小尺寸来表示实际上已使用的变换单元的尺寸。根据实施例的视频编码设备100能够对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记进行编码。对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记进行编码的结果可被插入SPS。根据实施例的视频解码设备200可通过使用最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记来对视频进行解码。

例如，(a)如果当前编码单元的尺寸是64×64并且最大变换单元尺寸是32×32，则(a-1)当TU尺寸标记为0时，变换单元的尺寸可以是32×32，(a-2)当TU尺寸标记为1时，变换单元的尺寸可以是16×16，(a-3)当TU尺寸标记为2时，变换单元的尺寸可以是8×8。

作为另一示例，(b)如果当前编码单元的尺寸是32×32并且最小变换单元尺寸是32×32，则(b-1)当TU尺寸标记为0时，变换单元的尺寸可以是32×32。这里，由于变换单元的尺寸不能够小于32×32，因此TU尺寸标记不能够被设置为除了0以外的值。

作为另一示例，(c)如果当前编码单元的尺寸是64×64并且最大TU尺寸标记为1，则TU尺寸标记可以是0或1。这里，TU尺寸标记不能够被设置为除了0或1以外的值。

因此，当TU尺寸标记为0时，如果定义最大TU尺寸标记为“MaxTransformSizeIndex”，最小变换单元尺寸为“MinTransformSize”，变换单元尺寸为“RootTuSize”，则可通过等式(1)来定义可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”：

CurrMinTuSize＝max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex))……(1)

与可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”相比，当TU尺寸标记为0时，变换单元尺寸“RootTuSize”可指示可在系统中选择的最大变换单元尺寸。在等式(1)中，“RootTuSize/(2∧MaxTransformSizeIndex)”指示当TU尺寸标记为0时，将变换单元尺寸“RootTuSize”划分了与最大TU尺寸标记相应的次数时的变换单元尺寸，“MinTransformSize”指示最小变换尺寸。因此，“RootTuSize/(2^MaxTransformSizeIndex)”和“MinTransformSize”中较小的值可以是可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”。

根据实施例，最大变换单元尺寸RootTuSize可根据预测模式的类型而改变。

例如，如果当前预测模式是帧间模式，则可通过使用以下的等式(2)来确定“RootTuSize”。在等式(2)中，“MaxTransformSize”指示最大变换单元尺寸，“PUSize”指示当前预测单元尺寸：

RootTuSize＝min(MaxTransformSize,PUSize)……(2)

也就是说，如果当前预测模式是帧间模式，则当TU尺寸标记为0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前预测单元尺寸中较小的值。

如果当前分区单元的预测模式是帧内模式，则可通过使用以下的等式(3)来确定“RootTuSize”。在等式(3)中，“PartitionSize”指示当前分区单元的尺寸：

RootTuSize＝min(MaxTransformSize,PartitionSize)……(3)

也就是说，如果当前预测模式是帧内模式，则当TU尺寸标记为0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前分区单元的尺寸之中较小的值。

然而，根据分区单元中的预测模式的类型而改变的当前最大变换单元尺寸“RootTuSize”仅是示例，本发明不限于此。

根据如上参照图8至图20描述的基于具有树结构的编码单元的视频编码方法，针对树结构的每个编码单元对空间域的图像数据进行编码。根据基于具有树结构的编码单元的视频解码方法，针对每个最大编码单元执行解码以重构空间域的图像数据。因此，可重构画面和视频(即，画面序列)。重构的视频可通过再现设备被再现，可被存储在存储介质中，或者可通过网络被发送。

根据本发明的实施例可被编写为计算机程序，并可在使用计算机可读记录介质执行程序的通用数字计算机中被实现。计算机可读记录介质的示例包括磁存储介质(例如，ROM、软盘、硬盘等)和光记录介质(例如，CD-ROM或DVD)。

为了便于描述，上面已参照图1a至图20描述的根据多层视频预测方法或多层视频解码方法的视频编码方法将被统称为“根据本发明的视频编码方法”。另外，上面已参照图1a至图20描述的根据多层视频解码方法的视频解码方法将被称为“根据本发明的视频解码方法”。

另外，已参照图1a至图20描述的视频编码设备(包括多层视频编码设备10、多层视频解码设备20、视频编码设备100或图像编码器400)将被称为“根据本发明的视频编码设备”。另外，已参照图1a至图20描述的视频解码设备(包括多层视频解码设备20、视频解码设备200或图像解码器500)将被称为“根据本发明的视频解码设备”。

现在将详细描述根据本发明实施例的存储程序的计算机可读记录介质(例如，盘26000)。

图21是根据实施例的存储程序的盘26000的物理结构的示图。作为存储介质的盘26000可以是硬盘驱动器、致密盘只读存储器(CD-ROM)盘、蓝光盘或数字多功能盘(DVD)。盘26000包括多个同心磁道Tr，每个同心磁道Tr沿盘26000的圆周方向被划分成特定数量的扇区Se。在根据实施例的盘26000的特定区域中，可分配并存储执行如上所描述的量化参数确定方法、视频编码方法和视频解码方法的程序。

现在将参照图22来描述使用存储以下程序的存储介质来实现的计算机系统，其中，所述程序用于执行如上所述的视频编码方法和视频解码方法。

图22是通过使用盘26000来记录和读取程序的盘驱动器26800的示图。计算机系统27000可经由盘驱动器26800将执行根据本发明实施例的视频编码方法和视频解码方法中的至少一个的程序存储在盘26000中。为了在计算机系统27000中运行存储在盘26000中的程序，可通过使用盘驱动器27000从盘26000读取程序并将程序发送到计算机系统26700。

执行根据本发明实施例的视频编码方法和视频解码方法中的至少一个的程序不仅可被存储在图21或图22中示出的盘26000中，还可被存储在存储卡、ROM卡带或固态驱动器(SSD)中。

以下将描述应用以上所描述的视频编码方法和视频解码方法的系统。

图23是提供内容分配服务的内容供应系统11000的整体结构的示图。将通信系统的服务区域划分成预定尺寸的小区，并将无线基站11700、11800、11900和12000分别安装在这些小区中。

内容供应系统11000包括多个独立装置。例如，诸如计算机12100、个人数字助理(PDA)12200、视频相机12300和移动电话12500的多个独立装置经由互联网服务提供器11200、通信网络11400和无线基站11700、11800、11900和12000连接到互联网11100。

然而，内容供应系统11000不限于如图24中所示，并且装置可选择性地被连接到内容供应系统11000。多个独立装置可不经由无线基站11700、11800、11900和12000而直接连接到通信网络11400。

视频相机12300是能够捕捉视频图像的成像装置，例如，数字视频相机。移动电话12500可利用各种协议(例如，个人数字通信(PDC)、码分多址(CDMA)、宽带码分多址(W-CDMA)、全球移动通信系统(GSM)和个人手持电话系统(PHS))中的至少一种通信方法。

视频相机12300可经由无线基站11900和通信网络11400连接到流服务器11300。流服务器11300允许经由视频相机12300从用户接收到的内容经由实时广播被流传输。可使用视频相机12300或流服务器11300来对从视频相机12300接收到的内容进行编码。通过视频相机12300捕捉到的视频数据可经由计算机12100被发送到流服务器11300。

通过相机12600捕捉到的视频数据也可经由计算机12100被发送到流服务器11300。与数码相机类似，相机12600是能够捕捉静止图像和视频图像两者的成像装置。可通过使用相机12600或计算机12100对通过相机12600捕捉到的视频数据进行编码。可将对视频执行编码和解码的软件存储在可由计算机12100访问的计算机可读记录介质(例如，CD-ROM盘、软盘、硬盘驱动器、SSD或存储卡)中。

如果视频数据通过内置在移动电话12500中的相机被捕捉到，则可从移动电话12500接收视频数据。

还可通过安装在视频相机12300、移动电话12500或相机12600中的大规模集成电路(LSI)系统来对视频数据进行编码。

根据实施例的内容供应系统1100可对由用户使用视频相机12300、相机12600、移动电话12500或另一成像装置所记录的内容数据(例如，在音乐会期间记录的内容)进行编码，并将编码后的内容数据发送到流服务器11300。流服务器11300可将编码后的内容数据以流内容的形式发送到请求内容数据的其它客户机。

客户机是能够对编码后的内容数据进行解码的装置，例如，计算机12100、PDA12200、视频相机12300或移动电话12500。因此，内容供应系统11000允许客户机接收并再现编码后的内容数据。此外，内容供应系统11000允许客户机实时接收编码后的内容数据并对编码后的内容数据进行解码和再现，从而能够进行个人广播。

包括在内容供应系统11000中的多个独立装置的编码和解码操作可类似于根据本发明实施例的视频编码设备和视频解码设备的编码和解码操作。

现在将参照图24和图25更加详细地描述包括在根据本发明实施例的内容供应系统11000中的移动电话12500。

图24示出了根据本发明实施例的应用了视频编码方法和视频解码方法的移动电话12500的外部结构。移动电话12500可以是智能电话，所述智能电话的功能不受限，并且所述智能电话的许多功能可被改变或扩展。

移动电话12500包括可与图21的无线基站12000交换射频(RF)信号的内部天线12510，并包括用于显示由相机12530捕捉到的图像或经由天线12510接收到的和解码的图像的显示屏12520，例如，液晶显示器(LCD)或有机发光二极管(OLED)屏幕。移动电话12500包括包含有控制按钮和触摸面板的操作面板12540。如果显示屏12520是触摸屏，则操作面板12540还包括显示屏12520的触摸感测面板。移动电话12500包括用于输出语音和声音的扬声器12580或另一类型声音输出单元以及用于输入语音和声音的麦克风12550或另一类型声音输入单元。移动电话12500还包括用于捕捉视频和静止图像的相机12530，诸如电荷耦合器件(CCD)相机。移动电话12500还可包括：存储介质12570，用于存储通过相机12530捕捉到的、经由电子邮件接收到的或根据各种方式获得的编码/解码数据(例如，视频或静止图像)；插槽12560，存储介质12570经由插槽12560被装入到移动电话12500中。存储介质12570可以是闪存，例如，包括在塑料壳中的安全数字(SD)卡或电可擦和可编程只读存储器(EEPROM)。

图25示出了根据本发明实施例的移动电话12500的内部结构。为了系统地控制包括显示屏12520和操作面板12540的移动电话12500的部件，供电电路12700、操作输入控制器12640、图像编码单元12720、相机接口12630、LCD控制器12620、图像解码单元12690、复用器/解复用器12680、记录/读取单元12670、调制/解调单元12660以及声音处理器12650经由同步总线12730被连接到中央控制器12710。

如果用户操作电源按钮，并从“电源关闭”状态设置为“电源开启”状态，则供电电路12700从电池组向移动电话12500的所有部件供电，从而将移动电话12500设置为操作模式。

中央控制器12710包括中央处理器(CPU)、ROM和RAM。

在移动电话12500将通信数据发送到外部的同时，在中央控制器12710的控制下，由移动电话12500产生数字信号。例如，声音处理器12650可产生数字声音信号，图像编码单元12720可产生数字图像信号，并且消息的文本数据可经由操作面板12540和操作输入控制器12640被产生。当在中央控制器12710的控制下数字信号被发送到调制/解调单元12660时，调制/解调单元12660对数字信号的频带进行调制，并且通信电路12610对频带调制数字声音信号执行数模转换(DAC)和频率转换。从通信电路12610输出的发送信号可经由天线12510被发送到语音通信基站或无线基站12000。

例如，当移动电话12500处于通话模式时，在中央控制器12710的控制下，经由麦克风12550获得的声音信号通过声音处理器12650被变换成数字声音信号。数字声音信号可经由调制/解调单元12660和通信电路12610被变换成发送信号，并可经由天线12510被发送。

当文本消息(例如，电子邮件)在数据通信模式下被发送时，文本消息的文本数据经由操作面板12540被输入，并经由操作输入控制器12640被发送到中央控制器12610。在中央控制器12610的控制下，文本数据经由调制/解调单元12660和通信电路12610被变换成发送信号，并经由天线12510被发送到无线基站12000。

为了在数据通信模式下发送图像数据，由相机12530捕捉到的图像数据经由相机接口12630被提供给图像编码单元12720。捕捉到的图像数据可经由相机接口12630和LCD控制器12620被直接显示在显示屏12520上。

图像编码单元12720的结构可与以上描述的视频编码设备100的结构相应。图像编码单元12720可根据以上描述的视频编码方法，将从相机12530接收到的图像数据变换为压缩和编码后的图像数据，并然后将编码后的图像数据输出到复用器/解复用器12680。在相机12530的记录操作期间，由移动电话12500的麦克风12550获得的声音信号可经由声音处理器12650被变换成数字声音数据，并且数字声音数据可被发送到复用器/解复用器12680。

复用器/解复用器12680对从图像编码单元12720接收到的编码后的图像数据与从声音处理器12650接收到的声音数据一起进行复用。对数据进行复用的结果可经由调制/解调单元12660和通信电路12610被变换成发送信号，然后可经由天线12510被发送。

当移动电话12500从外部接收通信数据时，可对经由天线12510接收到的信号执行频率恢复和ADC以将信号变换成数字信号。调制/解调单元12660对数字信号的频带进行调制。根据频带调制后的数字信号的类型将所述数字信号发送到视频解码单元12690、声音处理器12650或LCD控制器12620。

在通话模式下，移动电话12500对经由天线12510接收到的信号进行放大，并通过对放大后的信号执行频率转换和ADC来获得数字声音信号。在中央控制器12710的控制下，接收到的数字声音信号经由调制/解调单元12660和声音处理器12650被变换成模拟声音信号，并且模拟声音信号经由扬声器12580被输出。

当在数据通信模式下时，接收在互联网网站上访问的视频文件的数据，经由调制/解调单元12660将经由天线12510从无线基站12000接收到的信号输出为复用数据，并将复用数据发送到复用器/解复用器12680。

为了对经由天线12510接收到的复用数据进行解码，复用器/解复用器12680将复用数据解复用成编码后的视频数据流和编码后的音频数据流。经由同步总线12730，编码后的视频数据流和编码后的音频数据流分别被提供给视频解码单元12690和声音处理器12650。

图像解码单元12690的结构可与以上描述的视频解码设备200的结构相应。图像解码单元12690可根据由以上描述的视频解码设备200或图像解码器500所使用的视频解码方法，对编码后的视频数据进行解码来获得重构的视频数据，并经由LCD控制器12620将重构的视频数据提供给显示屏12520。

因此，可将在互联网网站上访问的视频文件的数据显示在显示屏12520上。同时，声音处理器12650可将音频数据变换成模拟声音信号，并将模拟声音信号提供给扬声器12580。因此，也可经由扬声器12580再现在互联网网站上访问的视频文件中包含的音频数据。

移动电话12500或另一类型的通信终端可以是包括根据本发明实施例的视频编码设备和视频解码设备两者的收发终端，可以是仅包括视频编码设备的收发终端，或者可以是仅包括视频解码设备的收发终端。

根据本发明的通信系统不限于以上参照图24描述的通信系统。例如，图26示出根据本发明实施例的采用通信系统的数字广播系统。图26的数字广播系统可通过使用根据本发明实施例的视频编码设备和视频解码设备来接收经由卫星或地面网络发送的数字广播。

具体地，广播站12890通过使用无线电波将视频数据流发送到通信卫星或广播卫星12900。广播卫星12900发送广播信号，广播信号经由家用天线12860被发送到卫星广播接收器。在每个房屋中，可通过TV接收器12810、机顶盒12870或另一装置对编码后的视频流进行解码并再现。

当根据本发明实施例的视频解码设备被实现在再现设备12830中时，再现设备12830可对记录在存储介质12820(诸如盘或存储卡)上的编码后的视频流进行解析和解码。因此，可在例如监视器12840上再现重构的视频信号。

在被连接到用于卫星/地面广播的天线12860或用于接收有线电视(TV)广播的线缆天线12850的机顶盒12870中，可安装根据本发明实施例的视频解码设备。从机顶盒12870输出的数据也可被再现在TV监视器12880上。

如另一示例，可将根据本发明实施例的视频解码设备安装在TV接收器12810中，而不是机顶盒12870中。

具有适当天线12910的汽车12920可接收从卫星12900或图23的无线基站11700发送的信号。可在内置在汽车12920中的汽车导航系统12930的显示屏上再现解码后的视频。

视频信号可由根据本发明实施例的视频编码设备来编码，然后可被存储在存储介质中。具体地，可由DVD记录器将图像信号存储在DVD盘12960中，或可由硬盘记录器12950将图像信号存储在硬盘中。如另一示例，可将视频信号存储在SD卡12970中。如果硬盘记录器12950包括根据本发明实施例的视频解码设备，则记录在DVD盘12960、SD卡12970或另一存储介质上的视频信号可被再现于TV监视器12880上。

汽车导航系统12930可不包括图26的相机12530、相机接口12630和图像编码单元12720。例如，计算机12100和TV接收器12810可不包括在图26的相机12530、相机接口12630和图像编码单元12720中。

图27是示出根据本发明实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构的示图。

云计算系统可包括云计算服务器14000、用户数据库(DB)14100、多个计算资源14200和用户终端。

响应于来自用户终端的请求，云计算系统经由数据通信网络(例如，互联网)提供多个计算资源14200的点播外包服务。在云计算环境下，服务提供商通过使用虚拟技术组合位于不同的物理位置的数据中心处的计算资源，来为用户提供期望的服务。服务用户不必将计算资源(例如，应用、存储器、操作系统(OS)和安全)安装在他/她拥有的终端中以使用它们，但可在想要的时间点在通过虚拟技术产生的虚拟空间中从服务中选择和使用期望的服务。

被指定的服务用户的用户终端经由包括互联网和移动电信网络的数据通信网络被连接到云计算服务器14000。可从云计算服务器14000向用户终端提供云计算服务，特别是视频再现服务。用户终端可以是能够被连接到互联网的各种类型的电子装置，例如，桌上型PC 14300、智能TV 14400、智能电话14500、笔记本计算机14600、便携式多媒体播放器(PMP)14700、平板PC 14800等。

云计算服务器14000可组合分布在云网络中的多个计算资源14200，并向用户终端提供组合的结果。所述多个计算资源14200可包括各种数据服务，并可包括从用户终端上载的数据。如上所描述的，云计算服务器14000可通过根据虚拟技术组合分布在不同区域中的视频数据库来向用户终端提供期望的服务。

将关于已经订购云计算服务的用户的用户信息存储在用户DB 14100中。用户信息可包括用户的登陆信息、地址、姓名和个人信用信息。用户信息还可包括视频的索引。这里，所述索引可包括已经被再现的视频的列表、正在被再现的视频的列表、之前被再现的视频的暂停点等。

可在用户装置之间共享存储在用户DB 14100中的关于视频的信息。例如，当响应于来自笔记本计算机14600的请求将视频服务提供给笔记本计算机14600时，视频服务的再现历史被存储在用户DB 14100中。当从智能电话14500接收到用于再现此视频服务的请求时，云计算服务器14100基于用户DB 14100搜索并再现此视频服务。当智能电话14500从云计算服务器14000接收到视频数据流时，通过对视频数据流进行解码来再现视频的处理与以上参照图24描述的移动电话12500的操作类似。

云计算服务器14000可参考存储在用户DB 14100中的期望的视频服务的再现历史。例如，云计算服务器14000从用户终端接收用于再现存储在用户DB 14100中的视频的请求。如果此视频之前被再现过，则由云计算服务器14000执行的对此视频进行流传输的方法可根据来自用户终端的请求(即，根据是将从视频的起点还是视频的暂停点来再现视频)而改变。例如，如果用户终端请求从视频的起点开始再现视频，则云计算服务器14000将从视频的第一帧开始的视频的流数据发送到用户终端。如果用户终端请求从视频的暂停点开始再现视频，则云计算服务器14000将从与暂停点相应的帧开始的视频的流数据发送到用户终端。

在此情况下，用户终端可包括如以上参照图1a至图20描述的视频解码设备。如另一示例，用户终端可包括如以上参照图1a至图20描述的视频编码设备。可选地，用户终端可包括如以上参照图1a至图20描述的视频解码设备和视频编码设备两者。

以上已经参照图21至图27描述了以上参照图1a至图20描述的根据本发明实施例的视频编码方法、视频解码方法、视频编码设备和视频解码设备的各种应用。然而，根据本发明的各个实施例的将视频编码方法和视频解码方法存储在存储介质中的方法或者将视频编码设备和视频解码设备实现在装置中的方法不限于以上参照图21至图27描述的实施例。

虽然已参照本发明的实施例具体示出并描述了本发明，但是本领域的普通技术人员将理解，在不脱离由权利要求书限定的本发明的精神和范围的情况下，可进行形式和细节上的各种改变。实施例应仅按照描述意义被理解，而不是出于限制的目的。因此，本发明的范围不是由本发明的详细描述限定，而是由权利要求书限定，并且在该范围内的所有区别将被解释为包括在本发明中。

Claims (13)

1.一种多层视频解码方法，包括：

通过对基本层流执行运动补偿和帧内解码来重构基本层图像；

从增强层流重构与基本层图像之中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层RAP图像；以及

通过基于重构的增强层RAP图像执行运动补偿或使用基本层图像执行层间预测，来重构除了增强层RAP图像之外的增强层图像，

其中，

当基本层RAP图像的画面类型是CRA类型时，增强层RAP图像的画面类型被确定为CRA类型，

当基本层RAP图像的画面类型是BLA类型时，增强层RAP图像的画面类型被确定为BLA类型，

当增强层RAP图像的画面类型是CRA类型或BLA类型时，参照增强层RAP图像的增强层画面被允许参照另一增强层画面。

2.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：

对第一基本层瞬时解码刷新(IDR)图像执行帧内解码；以及

通过参考第一基本层IDR图像来对至少一个基本层图像执行运动补偿，

重构增强层图像的步骤包括：

将与第一基本层IDR图像相应的第一增强层图像确定为第一增强层IDR图像，并通过参考第一基本层IDR图像来对第一增强层IDR图像执行层间解码；以及

通过参考第一增强层IDR图像来对至少一个增强层图像执行运动补偿。

3.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：

对第一基本层纯净随机访问(CRA)图像执行帧内解码；以及

通过参考第一基本层CRA图像来对至少一个基本层图像执行运动补偿，

重构增强层图像的步骤包括：

将与第一基本层CRA图像相应的第一增强层图像确定为第一增强层CRA图像，并通过参考第一基本层CRA图像来对第一增强层CRA图像执行层间解码；以及

通过参考第一增强层CRA图像来对至少一个增强层图像执行运动补偿。

4.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：

对第一基本层断链访问(BLA)图像执行帧内解码；以及

通过参考第一基本层BLA图像来对至少一个基本层图像执行运动补偿，

重构增强层图像的步骤包括：

将与第一基本层BLA图像相应的第一增强层图像确定为第一增强层BLA图像，并通过参考第一基本层BLA图像来对第一增强层BLA图像执行层间解码；以及

通过参考第一增强层BLA图像来对至少一个增强层图像执行运动补偿。

5.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：通过参考第一基本层RAP图像和按照解码顺序在第一基本层RAP图像之前的基本层RAP图像来对第一基本层随机访问跳过领导(RASL)图像执行运动补偿，

重构增强层图像的步骤包括：将与第一基本层RASL图像相应的第一增强层图像确定为第一增强层RASL图像，并对第一增强层RASL图像执行参考第一基本层RASL图像的层间解码和参考第一增强层RAP图像和按照解码顺序在第一增强层RAP图像之前的增强层RAP图像的运动补偿。

6.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：对第一基本层普通图像执行运动补偿，

重构增强层图像的步骤包括：将与第一基本层普通图像相应的第一增强层图像确定为第一增强层纯净随机访问(CRA)图像、第一增强层随机访问跳过领导(RASL)图像和第一增强层普通图像中的一个，并对第一增强层普通图像执行参考第一基本层普通图像的层间解码和参考增强层RAP图像的运动补偿。

7.如权利要求1所述的多层视频解码方法，其中，重构增强层图像的步骤包括：

基于视点改变请求来确定与作为RAP图像和非RAP图像之一的第一基本层图像相应的第一增强层查看层访问(VLA)图像，并通过参考所述第一基本层图像来对第一增强层VLA图像执行层间解码；以及

通过参考按照解码顺序和再现顺序在第一增强层VLA图像之后或与第一增强层VLA图像顺序相同的增强层图像中的至少一个，对按照解码顺序在第一增强层VLA图像之后的增强层图像执行运动补偿。

8.如权利要求1所述的多层视频解码方法，其中，重构基本层图像的步骤包括：跳过对按照解码顺序在第一基本层RAP图像之前的基本层随机访问跳过领导(RASL)图像中的至少一个基本层RASL图像的解码，

重构增强层图像的步骤包括：跳过对与基本层RASL图像中的解码被跳过的所述至少一个基本层RASL图像相应的增强层图像的解码。

9.如权利要求1所述的多层视频解码方法，其中，重构增强层图像的步骤包括：对于基本层流和增强层流的时间分层解码，通过参考被分配了低于第一增强层图像的时间分层识别号的时间分层识别号的第一基本层图像来对第一增强层图像执行层间解码。

10.一种多层视频编码方法，包括：

对基本层图像执行帧间预测和帧内预测；以及

将与基本层图像之中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层图像确定为与基本层RAP图像相同类型的增强层RAP图像，并使用包括增强层RAP图像的增强层图像执行帧间预测并使用基本层图像执行层间预测，

其中，

当基本层RAP图像的画面类型是CRA类型时，增强层RAP图像的画面类型被确定为CRA类型，

当基本层RAP图像的画面类型是BLA类型时，增强层RAP图像的画面类型被确定为BLA类型，

当增强层RAP图像的画面类型是CRA类型或BLA类型时，参照增强层RAP图像的增强层画面被允许参照另一增强层画面。

11.如权利要求10所述的多层视频编码方法，其中，基本层RAP图像是瞬时解码刷新(IDR)图像、纯净随机访问(CRA)图像和断链访问(BLA)图像中的一个。

12.一种多层视频解码设备，包括：

基本层解码器，通过对基本层流执行运动补偿和帧内解码来重构基本层图像；

增强层解码器，从增强层流重构与基本层图像之中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层RAP图像，并通过基于重构的增强层RAP图像执行运动补偿或使用基本层图像执行层间预测，来重构除了增强层RAP图像之外的增强层图像，

其中，

当基本层RAP图像的画面类型是CRA类型时，增强层RAP图像的画面类型被确定为CRA类型，

当基本层RAP图像的画面类型是BLA类型时，增强层RAP图像的画面类型被确定为BLA类型，

当增强层RAP图像的画面类型是CRA类型或BLA类型时，参照增强层RAP图像的增强层画面被允许参照另一增强层画面。

13.一种多层视频编码设备，包括：

基本层编码器，对基本层图像执行帧间预测和帧内预测；以及

增强层编码器，将与基本层图像之中的能够随机访问的基本层随机访问点(RAP)图像相应的增强层图像确定为与基本层RAP图像相同类型的增强层RAP图像，并使用包括增强层RAP图像的增强层图像执行帧间预测并使用基本层图像执行层间预测，

其中，

当基本层RAP图像的画面类型是CRA类型时，增强层RAP图像的画面类型被确定为CRA类型，

当基本层RAP图像的画面类型是BLA类型时，增强层RAP图像的画面类型被确定为BLA类型，

当增强层RAP图像的画面类型是CRA类型或BLA类型时，参照增强层RAP图像的增强层画面被允许参照另一增强层画面。