CN103875249A - 用于多视点视频预测编码的方法和装置以及用于多视点视频预测解码的方法和装置 - Google Patents

Abstract

一种多视点视频预测方法和一种多视点视频预测恢复方法。所述多视点视频预测方法包括：通过执行基本视点图像之间的帧间预测来产生包括I画面类型基本视点关键画面和基本视点图像的残差值的基本层图像流；执行用于参考基本视点图像来预测另外视点图像的视点间预测、用于参考在另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、用于参考另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测，并产生包括另外视点图像的残差值的增强层图像流。

Description

用于多视点视频预测编码的方法和装置以及用于多视点视频预测解码的方法和装置

技术领域

本发明涉及用于以多视点视频预测结构经由帧间预测和运动补偿对视频进行编码和解码的方法和设备。

背景技术

随着用于再现和存储高分辨率或高质量视频内容的硬件的开发和提供，越来越需要用于对高分辨率或高质量视频内容进行有效编码或解码的视频编解码器。根据传统的视频编解码器，基于具有预定尺寸的宏块根据受限的编码方法对视频进行编码。

空域中的图像数据经由频率变换被变换为频域中的系数。根据视频编解码器，将图像划分为具有预定尺寸的块，对每个块执行离散余弦变换（DCT），并以块为单位对频率系数进行编码，以进行频率变换的快速计算。与空域中的图像数据相比较，频域中的系数更容易被压缩。具体地，由于空域中的图像像素值根据经由视频编解码器的帧间预测或帧内预测的预测误差被压缩，因此当对预测误差执行频率变换时，可将大量的数据变换为0。根据视频编解码器，可通过使用小量数据代替连续和重复产生的数据来减少数据量。

根据多视点视频编码，对基本视点视频和一个或更多个另外视点视频进行编码和解码。通过去除在基本视点视频和另外视点视频之间的时间/空间冗余以及在视点之间的冗余，可减少基本视点视频和另外视点视频的数据量。

发明内容

技术问题

本发明提供经由另外视点图像的帧间预测以及增强层图像流的视点间预测的多视点视频编码和解码。

技术问题

根据本发明的一方面，提供一种多视点视频预测方法，所述方法包括：通过执行基本视点图像之间的帧间预测来产生包括基本视点图像和I画面类型基本视点关键画面的残差值的基本层图像流；执行用于参照基本视点图像来预测另外视点图像的视点间预测、用于参照另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、以及用于参照另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测；并产生包括另外视点图像的残差值的增强层图像流。

有益效果

当使用根据本发明的实施例的多视点预测方法，由于对另外视点图像的部分关键画面执行帧间预测，因此可提高另外视点图像的编码效率，并可减少增强层图像流的比特率。另外，由于深度图以及视点间预测被编码，因此可提高多视点视频的编码效率。

当使用根据本发明的实施例的多视点视频预测方法时，另外视点关键画面可经由参考相同视点的关键画面的帧间预测以及参考基本视点图像的帧间预测被恢复。另外，当作为参考图像的相同视点的关键画面未被恢复时，可通过使用深度图从基本视点图像恢复另外视点图像。另外，可通过使用深度图和经由多个视点之间的视点间预测所产生的残差值来恢复具有三个或更多个视点的多视点视频。

附图说明

图1是根据本发明的实施例的多视点视频预测设备的框图；

图2是根据本发明的实施例的多视点视频预测恢复设备的框图；

图3是根据本发明的实施例的多视点视频预测结构的示图；

图4a是根据本发明的另一实施例的多视点视频预测结构的框图；

图4b示出根据本发明的另一实施例的用于图4a的多视点视频预测结构的另外视点图像的增强层的帧间预测结构；

图5示出根据本发明的实施例的在多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构；

图6示出根据本发明的另一实施例的在多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构；

图7示出根据本发明的另一实施例的在多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构；

图8a和图8b示出根据本发明的实施例的当在图7的增强层的帧间预测结构中产生随机访问时的恢复结果；

图9是根据本发明的实施例的多视点视频预测方法的流程图；

图10是根据本发明的实施例的多视点视频预测恢复方法的流程图；

图11是根据本发明的实施例的视频编码设备的框图；

图12是根据本发明的实施例的视频解码设备的框图；

图13是根据本发明的实施例的用于描述编码单元的概念的示图；

图14是根据本发明的实施例的基于编码单元的图像编码器的框图；

图15是根据本发明的实施例的基于编码单元的图像解码器的框图；

图16是示出根据本发明的实施例的根据深度的较深层编码单元和分区的示图；

图17是根据本发明的实施例的用于描述编码单元和变换单元之间的关系的示图；

图18是根据本发明的实施例的用于描述与编码深度相应的编码单元的编码信息的示图；

图19是根据本发明的实施例的根据深度的较深层编码单元的示图；

图20至图22是根据本发明的实施例的用于描述在编码单元、预测单元和变换单元之间的关系的示图；

图23是用于描述根据表1的编码模式信息的在编码单元、预测单元或分区、和变换单元之间的关系的示图；

图24a示出根据本发明的实施例的存储程序的盘的物理结构；

图24b示出通过使用盘来记录和读取程序的磁盘驱动器；

图25示出提供内容分布服务的内容供应系统的整体结构；

图26和图27示出根据本发明的实施例的应用视频编码方法和视频解码方法的移动电话的外部结构和内部结构；

图28示出根据本发明的实施例的使用通信系统的数字播放系统；

图29示出根据本发明的实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构。

最佳实施方式

根据本发明的一方面，提供一种多视点视频预测方法，包括：通过执行基本视点图像之间的帧间预测来产生包括I画面类型基本视点关键画面和基本视点图像的残差值的基本层图像流；执行用于参考基本视点图像来预测另外视点图像的视点间预测、用于参考另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、用于参考另外视点图像来预测除另外视点图像画面之外的另外视点图像的帧间预测，并产生包括另外视点图像的残差值的增强层图像流。

多视点视频预测方法还可包括：产生指示在基本视点图像和另外视点图像中的具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图；发送深度图以及基本层图像流和增强层图像流。

产生增强层图像流的步骤可包括：执行参考在另外视点关键画面中的在当前视点关键画面的恢复之前被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

产生增强层图像流的步骤可包括：执行参考在另外视点关键画面中的在当前另外视点关键画面的恢复之后被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

根据本发明的另一方面，提供一种多视点视频预测恢复方法，包括：接收基本层图像流和增强图像流；从基本层图像流恢复I画面类型基本视点关键画面，并通过执行参考基本视点关键画面的对基本视点图像的运动补偿来从基本层图像流恢复基本视点图像；当增强层图像流的另外视点关键画面被访问时，通过执行参考恢复后的基本视点关键画面的视差补偿和参考增强层图像流的不同另外视点关键画面的运动补偿中的至少一个来恢复另外视点关键画面；通过对增强层图像流的另外视点图像执行参考恢复后的基本视点图像的视差补偿和参考在增强层图像流中被首先恢复的恢复后的另外视点图像的运动补偿中的至少一个，来恢复除另外视点关键画面之外的另外视点图像。

所述接收的步骤可包括：接收指示在基本视点图像和另外视点图像中的具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图。

恢复另外视点关键画面的步骤可包括：当在另外视点关键画面中的当前另外视点关键画面的参考图像在当前另外视点关键画面被恢复的时间点处未被恢复时，通过使用与作为参考图像的另外视点关键画面相应的基本视点图像和深度图来恢复参考图像；通过在参考图像被恢复之后使用恢复后的参考图像来恢复当前另外视点关键画面。

恢复另外视点关键画面的步骤可包括：当参考在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面被预测的在另外视点关键画面中的当前另外视点关键画面被随机访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

恢复另外视点关键画面的步骤可包括：当参考在当前另外视点关键画面的恢复之后被恢复的另外视点关键画面被预测的在另外视点关键画面中的当前另外视点关键画面被访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

恢复另外视点关键画面的步骤可包括：当未参考在另外视点关键画面中的不同另外视点关键画面的另外视点关键画面被访问时，参考与当前另外视点关键画面相应的基本视点图像来恢复当前另外视点关键画面。

恢复另外视点关键画面的步骤可包括：当未参考在另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面被访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

根据本发明的另一方面，提供一种多视点视频预测恢复设备，包括：接收器，用于接收基本层图像流和增强层图像流；基本层解码器，从基本层图像流恢复I画面类型基本视点关键画面，并通过执行参考基本视点关键画面的对基本视点图像的运动补偿来从基本层图像流恢复基本视点图像；增强层解码器，用于当增强层图像流的另外视点关键画面被访问时，通过执行参考恢复后的基本视点关键画面的视差补偿和参考增强层图像流的不同另外视点关键画面的运动补偿中的至少一个来恢复另外视点关键画面，并用于通过对增强层图像流的另外视点图像执行参考恢复后的基本视点图像的视差补偿和参考在增强层图像流中被首先恢复的恢复后的另外视点图像的运动补偿中的至少一个，来恢复除另外视点关键画面之外的另外视点图像。

根据本发明的另一方面，提供一种多视点视频预测设备，包括：基本层编码器，用于通过执行基本视点图像之间的帧间预测来产生包括I画面类型基本视点关键画面和基本视点图像的残差值的基本层图像流。增强层编码器，执行用于参考基本视点图像来预测另外视点图像的视点间预测、用于参考另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、用于参考另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测，并产生包括另外视点图像的残差值的增强层图像流。

根据本发明的另一方面，提供一种记录有用于执行多视点视频预测方法的程序的计算机可读记录介质。

根据本发明的另一方面，提供一种记录有用于执行多视点视频预测恢复方法的程序的计算机可读记录介质。

具体实施方式

在下文中，将参照图1至图10描述多视点视频预测设备、多视点视频预测恢复设备、多视点视频预测方法和多视点视频预测恢复方法。将参照图11至图23描述基于具有树结构的编码单元的多视点视频预测设备、多视点视频预测恢复设备、多视点视频预测方法和多视点视频预测恢复方法。另外，将参照图24a至图29描述多视点视频预测方法、多视点视频预测恢复方法、视频编码方法和视频解码方法。在下文中，术语“图像”可以指静止图像或运动画面（即，视频本身）。

首先，将参照图1至图10，来描述根据本发明的实施例的多视点视频预测设备、多视点视频预测恢复设备、多视点视频预测方法和多视点视频预测恢复方法。

图1是根据本发明的实施例的多视点视频预测设备10的框图。

多视点视频预测设备10包括基本层编码器12和增强层编码器14。

多视点视频预测设备10对基本视点图像和另外视点图像进行编码。例如，可对左视点图像和右视点图像进行编码，可将左视点图像的编码结果输出在基本层图像流中，并且可将右视点图像的编码结果输出在增强层图像流中。

在存在两个或更多个另外视点时，可对基本视点图像、关于第一另外视点的第一另外视点图像、关于第二另外视点的第二另外视点图像、至关于第K另外视点的第K另外视点图像进行编码。因此，可将基本视点图像的编码结果输出在基本层图像流中，并且可将第一、第二至第K另外视点图像的编码结果输出在第一、第二至第K增强层图像流中。基本视点图像可包括一个或更多个关键画面（即，锚定（anchor）画面）。此外，第一、第二至第K另外视点图像中的每一个可分别包括一个或更多个关键画面（即，锚定画面）。

多视点视频预测设备10针对各个块对每个视频图像进行编码。块可具有正方形形状、矩形形状或任意几何形状，并且不限于具有预定尺寸的数据单元。根据本发明的实施例，块可以是根据树结构的编码单元中的最大编码单元、编码单元、预测单元、变换单元等。在下面将参照图11至图23描述基于根据树结构的编码单元的视频编码和解码方法。

多视点视频预测设备10可执行用于通过参考相同视点图像来执行预测的帧间预测。另外，多视点视频预测设备10可执行用于参考基本视点图像来预测另外视点图像的视点间预测。多视点视频预测设备10可执行用于参考第一另外视点图像来预测第二另外视点图像的视点间预测。可基于诸如编码单元、预测单元、变换单元等的块来执行帧间预测和视点间预测。

基本层编码器12可对基本视点图像进行编码来产生基本层图像流。基本层编码器12可执行基本视点图像之间的帧间预测。基本层编码器12可在无需参考任何图像的情况下对在基本视点图像中的作为I画面类型图像的基本视点关键画面进行编码。基本层编码器12可参考不同基本视点图像对除基本视点关键画面之外的基本视点图像执行帧间预测。

基本层编码器12可经由除基本视点关键画面之外的基本视点图像的帧间预测来产生残差值，并可对残差值进行编码。例如，可对残差值的图像块执行变换、量化、熵编码等。

基本层编码器12可产生基本层图像流，其中，基本层图像流包括基本视点关键画面的编码的数据和其余基本视点图像的残差值的编码的数据。

增强层编码器14可对另外视点图像进行编码来产生增强层图像流。增强层编码器14可执行参考基本视点图像的视点间预测和参考相同视点的图像的帧间预测，以对另外视点图像进行编码。

增强层编码器14可执行用于参考基本视点图像来预测另外视点图像的视点间预测。对于预定的另外视点，可不仅参考基本视点图像而且参考不同另外视点（而不是当前的另外视点）的图像来执行视点间预测。

另外，增强层编码器14可执行用于参考在另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测。可选地，增强层编码器14对另外视点关键画面中的部分另外视点关键画面执行用于预测不同另外视点关键画面的帧间预测以及用于不同视点图像的帧间预测两者，但是可对其余的另外视点关键画面仅执行参考基本视点关键画面的视点间预测，而不执行参考不同另外视点关键画面的帧间预测。

另外，增强层编码器14可执行参考另外视点图像的帧间预测，以预测除另外视点关键画面之外的其余另外视点图像。可对除关键画面之外的另外视点图像执行参考基本视点图像的视点间预测以及参考相同视点的图像的帧间预测两者。

增强层编码器14可对另外视点图像的残差值进行编码，其中，所述残差值经由参考基本视点图像的视点间预测以及参考相同视点的图像的帧间预测被产生。详细地讲，可对残差值的图像块执行变换、量化、熵编码等。因此，增强层编码器14可产生包括另外视点图像的残差值的编码的数据的增强层图像流。

增强层编码器14可执行参考在另外视点关键画面中的在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

可选地，增强层编码器14可执行参考在当前另外视点关键画面的恢复之后被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

增强层编码器14可从用于另外视点图像的参考图像中排除参考相同视点的不同关键画面被预测的关键画面。如另一示例，参考相同视点的不同关键画面被预测的关键画面可被包括在用于另外视点图像的参考图像中。

多视点视频预测设备10可产生多视点图像之间的深度图。多视点视频预测设备10可产生指示用于在基本视点图像和另外视点图像中的每个基本视点图像和另外视点图像的视点间深度的深度图。

多视点视频预测设备10可对深度图连同基本层图像流和增强层图像流进行编码并发送。

多视点视频预测设备10可包括用于总体控制基本层编码器12和增强层编码器14的中央处理单元（未示出）。可选地，基本层编码器12和增强层编码器14可由各自的处理器（未示出）来控制，并且处理器可协同地彼此进行交互以便控制多视点视频预测设备10的整体操作。可选地，可根据多视点视频预测设备10的外部处理器（未示出）的控制来控制基本层编码器12和增强层编码器14。

多视点视频预测设备10可包括至少一个数据存储单元（未示出），其中，所述至少一个数据存储单元用于存储输入到基本层编码器12和增强层编码器14的数据和从基本层编码器12和增强层编码器14输入的数据。多视点视频预测设备10可包括用于控制数据存储单元（未示出）的数据的输入/输出的存储器控制器（未示出）。

图2是根据本发明的实施例的多视点视频预测恢复设备20的框图。

多视点视频预测恢复设备20包括接收器22、基本层解码器24和增强层解码器26。

接收器22接收基本层图像流和增强层图像流。

接收器22可接收指示在基本视点图像和另外视点图像中的相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图，以及基本层图像流和增强层图像流。

多视点视频预测恢复设备20可对基本层图像流和增强层图像流进行解码，并可恢复基本视点图像和另外视点图像。例如，可从基本层图像流恢复左视点图像，从增强层图像流恢复右视点图像。在存在两个或更多个另外视点时，可从基本层图像流恢复基本视点图像，可分别从第一增强层图像流、第二增强层图像流至第K增强层图像流恢复关于第一另外视点的第一另外视点图像、关于第二另外视点的第二另外视点图像、至关于第K增强层图像流的第K另外视点图像。

多视点视频预测恢复设备20针对各个块对每个视频图像进行解码。根据本发明的实施例，块可以是根据树结构的编码单元中的最大编码单元、编码单元、预测单元、变换单元等。

多视点视频预测恢复设备20可执行用于参考经由帧间预测被预测的相同视点图像的运动补偿以恢复图像。另外，多视点视频预测恢复设备20可执行参考基本视点图像的视差补偿，以恢复经由视点间预测被预测的另外视点图像。视差补偿是指用于补偿不同视点图像的视频之间的视差的操作。

多视点视频预测恢复设备20可执行用于恢复参考第一另外视点图像被预测的第二另外视点图像的视点间预测。可基于编码单元或预测单元经由帧间预测和视点间预测来恢复图像。

当基本层解码器24接收基本层图像流时，基本层解码器24对基本层图像流进行解码，并恢复基本视点图像。详细地讲，对通过解析基本层图像流而提取的符号执行熵解码、反量化和逆变换来恢复预测的残差值。基本层解码器24可接收被量化的变换系数的比特流。可对被量化的变换系数执行反量化和逆变换来恢复残差值。基本层解码器24可经由帧间预测来恢复基本视点图像。

基本层解码器24可对基本层图像流的作为I画面类型图像的基本视点关键画面的被量化的变换系数进行解码来恢复基本视点关键画面。基本层解码器24可在无需参考不同基本视点图像的情况下恢复在基本视点图像中的作为I画面类型图像的基本视点关键画面。

基本层解码器24可经由参考不同基本视点图像的运动补偿来恢复除基本视点关键画面之外的基本视点图像。对于图像流的除基本视点关键画面之外的基本视点图像，基本层解码器24可对基本视点图像的残差值的被量化的变换系数进行解码，并可使用残差值来补偿作为参考图像的基本视点图像，以恢复基本视点图像。

增强层解码器26对增强层图像流进行解码来恢复另外视点图像。详细地讲，可对通过解析增强层图像流而提取的符号执行熵解码、反量化和逆变换来恢复各个块的残差值。可通过接收残差值的被量化的变换系数的比特流并对所述比特流执行反量化和逆变换来恢复残差值。

增强层解码器26可经由参考从基本层图像流恢复的基本视点图像的视点间预测和参考相同视点的图像的帧间预测来恢复另外视点图像，以恢复增强层图像流。

增强层解码器26可经由参考通过基本层解码器24恢复的基本视点图像的视点间预测来恢复另外视点图像。对于预定的另外视点，可参考不同另外视点而不是当前另外视点的图像以及基本视点图像来恢复另外视点图像。

可从增强层图像流提取在基本视点图像和另外视点图像之间的视差信息或者在基本视点图像和另外视点图像之间的深度图。增强层解码器26可通过使用在基本视点图像和另外视点图像之间的视差信息或深度图来恢复另外视点图像。

可选地，增强层解码器26可经由用于参考另外视点关键画面对不同另外视点关键画面进行解码的帧间预测来恢复另外视点关键画面。增强层解码器26可经由参考不同另外视点关键画面的帧间预测以及参考基本视点关键画面的视点间预测两者来恢复部分另外视点关键画面。然而，可通过仅执行参考基本视点关键画面的视点间预测而不执行参考不同另外视点关键画面的帧间预测，来恢复其余另外视点关键画面。

增强层解码器26可经由参考另外视点图像的帧间预测来恢复除另外视点关键画面之外的其余另外视点图像。可经由参考基本视点图像的视点间预测以及参考相同视点的图像的帧间预测来恢复除关键画面之外的另外视点图像。

可经由参考不同另外视点图像的运动补偿来恢复除另外视点关键画面之外的另外视点图像。也就是说，增强层解码器26可对增强层图像流的另外视点图像的运动矢量以及残差值的编码数据进行解码，可通过使用运动矢量来确定在不同另外视点图像中的参考图像，并可使用残差值来补偿参考图像，以恢复除另外视点关键画面之外的另外视点图像。可通过使用当前图像的当前块的运动矢量从多个参考块中确定参考块。

当增强层解码器26访问当前另外视点关键画面以再现当前另外视点关键画面时，可根据是否需要帧间预测来改变用于恢复另外视点关键画面的处理。

当增强层解码器26访问参考在另外视点关键画面中的在当前另外视点关键画面之前被恢复的另外视点关键图像被预测的当前另外视点关键画面时，可通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键图像。

可选地，当增强层解码器26访问参考在另外视点关键画面中的在当前另外视点关键画面之前被恢复的另外视点关键画面而被预测的当前另外视点关键画面时，可跳过当前另外视点关键画面的恢复，并且可恢复当前另外视点关键画面的后续另外视点关键画面。

当增强层解码器26访问参考在另外视点关键画面中的将在当前另外视点关键画面被恢复之后被恢复的另外视点关键画面而被预测的当前另外视点关键画面时，可通过使用与当前另外视点关键画面相应的基本视点关键画面和当前另外点关键画面的深度图来恢复当前另外视点关键画面。也就是说，当前另外视点关键画面的恢复不会被推迟到作为参考图像的另外视点关键画面被恢复才进行，可通过使用深度图来恢复当前另外视点关键画面。

可选地，当增强层解码器26访问参考在另外视点关键画面中的将在当前另外视点关键画面被恢复之后被恢复的另外视点关键画面而被预测的当前另外视点关键画面时，可延迟当前另外视点关键画面的恢复。因此，在作为参考图像的另外视点关键画面被恢复之后，增强层解码器26可参考另外视点关键画面的恢复结果来恢复当前另外视点关键画面。

当增强层解码器26访问不参考另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面时，可经由参考与当前另外视点关键画面相应的基本视点图像的视差补偿来恢复当前另外视点关键画面。可选地，当增强层解码器26访问不参考在另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面时，可通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

增强层解码器26可将参考相同视点的不同关键画面的另外视点关键画面添加到用于另外视点图像的参考图像。可选地，增强层解码器26可不将参考相同视点的不同关键画面的另外视点关键画面添加到用于另外视点图像的参考图像。

因此，在恢复被访问的另外视点关键画面之后，也可恢复直接或间接参考被恢复的另外视点关键画面的其余另外视点关键画面。

多视点视频预测恢复设备20可包括用于总体上控制接收器22、基本层解码器24和增强层解码器26的中央处理器（未示出）。可选地，接收器22、基本层解码器24和增强层解码器26可由各自的处理器（未示出）来控制，并且这些处理器可协同地彼此进行交互以便控制多视点视频预测恢复设备20的整体操作。可选地，可根据多视点视频预测恢复设备20的外部处理器（未示出）的控制来控制接收器22、基本层解码器24和增强层解码器26。

多视点视频预测恢复设备20包括至少一个数据存储单元（未示出），所述至少一个数据存储单元用于存储被输入到接收器22、基本层解码器24和增强层解码器26的数据以及从接收器22、基本层解码器24和增强层解码器26输入的数据。多视点视频预测恢复设备20可包括存储器控制器（未示出），所述存储器控制器用于控制数据存储单元（未示出）的数据的输入/输出。

由于多视点视频预测设备10对另外视点图像中的部分关键画面执行帧间预测，因此另外视点图像的编码效率会提高，并且增强层图像流的比特率会降低。另外，由于深度图的编码以及视点间预测被执行，因此多视点视频的编码效率会提高。

多视点视频预测恢复设备20可经由参考相同视点的关键画面的帧间预测并经由参考基本视点图像的视点间预测来恢复另外视点关键画面。另外，当作为参考图像的相同视点的关键画面未被恢复时，可通过使用深度图从基本视点图像恢复另外视点关键画面。另外，可通过使用经由多个视点之间的视点间预测产生的残差值和深度图来恢复三个或更多个视点的视频。

图3是根据本发明的实施例的多视点视频预测结构30的示图。

通常，在多视点视频预测结构30中，相同视点的图像沿水平方向排列，具有相同画面顺序计数（POC）的图像沿垂直方向排列。因此，基本视点“视点0”的图像根据POC沿水平方向排列，第一另外视点“视点1”的图像根据POC沿水平方向排列，第二另外视点“视点2”的图像根据POC沿水平方向排列。另外，与基本视点图像位于相同列的第一另外视点图像和第二另外视点图像具有不同视点，但具有相同的POC。

视点图像中的四个连续图像构成单个画面组（GOP）。每个GOP包括在连续的关键画面之间的图像和单个关键画面。关键画面是随机访问点。在这点上，当从根据图像的再现顺序（即，根据POC）排列的图像中选择预定再现位置时，POC最接近再现位置的关键画面被重现。基本视点图像包括基本视点关键画面31、32、33、34和35，第一另外视点图像包括第一另外视点关键画面131、132、133、134和135，第二另外视点图像包括第二另外视点关键画面231、232、233、234和235。

在多视点视频预测结构30中，对图像执行视点间预测和帧间预测两者。在多视点视频预测结构30中，箭头起始处的图像是参考图像、箭头指向的图像是通过使用参考图像被预测的图像。

基本视点图像的预测结果可被编码并然后以基本层图像流的形式被输出，另外视点图像的预测结果可被编码并然后以增强层图像流的形式被输出。另外，第一另外视点图像的预测结果可被输出在第一增强层图像流中，第二另外视点图像的预测结果可被输出在第二增强层图像流中。

对基本视点图像仅执行帧间预测。也就是说，作为I画面类型关键画面的关键画面不参考另外的图像。然而，作为B画面类型图像和b画面类型图像的其余图像参考另外的基本视点图像被预测。B画面类型图像参考具有之前的POC序号的I画面类型关键图像和具有之后的POC序号的I画面类型关键图像被预测。b画面类型图像参考具有之前的POC序号的I画面类型关键画面和具有之后的POC序号的B画面类型图像或者参考具有之前的POC序号的B画面类型图像和具有之后的POC序号的I画面类型画面被预测。

可对第一另外视点图像和第二另外视点图像执行参考不同视点图像的视点间预测以及参考相同视点图像的帧间预测。

与基本视点图像相同，还对第一另外视点图像执行帧间预测，并且还对第二另外视点图像执行帧间预测。在第一另外视点图像和第二另外视点图像中的关键画面131、132、133、134、135、231、232、233、234和235不参考相同视点图像，并且不作为关键画面的其余图像参考相同视点图像被预测。

然而，由于第一另外视点图像和第二另外视点图像中的关键画面131、132、133、134、135、231、232、233、234和235可还参考具有相同POC序号的基本视点关键画面，因此关键画面131、132、133、134、135、231、232、233、234和235均是P画面类型图像或B画面类型图像。

由于第一另外视点关键画面131、132、133、134和135参考分别具有相同POC序号的第二另外视点关键画面231、232、233、234和235以及基本视点关键画面31、32、33、34和35被预测，因此第一另外视点关键画面131、132、133、134和135可以是B画面类型图像。由于第二另外视点关键画面231、232、233、234和235仅参考具有相同的POC序号的基本视点关键画面31、32、33、34和35被预测，因此第二另外视点关键画面231、232、233、234和235是P画面类型图像。

由于可对在第一另外视点图像和第二另外视点图像中的不作为关键图像131、132、133、134、135、231、232、233、234和235的其余图像执行参考具有相同POC序号的不同视点图像的视点间预测以及帧间预测，因此所述其余图像是B画面类型图像或b画面类型图像。

用于再现图像的恢复处理与预测处理相似。然而，可仅在每个图像的参考图像被恢复之后，通过使用参考图像来恢复每个图像。

首先，基本视点图像可经由帧间预测来恢复。当作为I画面类型图像的基本视点关键图像31、32、33、34和35被恢复时，作为B画面类型图像的基本视点图像参考基本视点关键画面31、32、33、34和35被恢复，并且作为b画面类型图像的基本视点图像参考I画面类型或B画面类型基本视点恢复图像被恢复。

由于第二另外视点图像经由参考基本视点图像的视点间预测以及参考第二另外视点图像的帧间预测被编码，因此仅在基本视点的参考图像和第二另外视点的参考图像被恢复之后，通过使用恢复的参考图像来恢复第二另外视点图像。

由于第一另外视点图像经由参考基本视点图像和第二另外视点图像的视点间视差补偿以及参考第一另外视点图像的帧间运动补偿被编码，因此在基本视点的参考图像、第二另外视点的参考图像以及第一另外视点的参考图像被恢复之后，通过使用恢复的参考图像来恢复第一另外视点图像。

图4a是根据本发明的另一实施例的多视点视频预测结构40的示图。

在多视点视频预测结构40中，同样可对图像执行视点间预测和帧间预测两者。

多视点视频预测设备10可根据多视点视频预测结构40对基本视点图像、第一另外视点图像和第二另外视点图像进行预测编码。

多视点视频预测设备10可输出包括基本视点图像的预测编码结果的基本层图像流，并可输出包括第一另外视点图像的预测编码结果的第一增强层图像流，以及包括第二另外视点图像的预测编码结果的第二增强层图像流。

多视点视频预测恢复设备20可根据多视点视频预测结构40来恢复基本视点图像、第一另外视点图像和第二另外视点图像。

多视点视频预测恢复设备20可对接收到的基本层图像流进行解码来恢复基本视点图像，可对接收到的第一增强层图像流进行解码来恢复第一另外视点图像，并可对接收到的第二增强层图像流进行解码来恢复第二另外视点图像。

对基本视点图像仅执行帧间预测。对第一另外视点图像和第二另外视点图像执行参考不同视点图像的视点间预测和参考相同视点图像的帧间预测。

可对第一另外视点图像执行参考具有相同POC序号的基本视点图像和第二另外视点图像的视点间预测。另外，可对第二另外视点图像执行参考具有相同POC序号的基本视点图像的视点间预测。

还对第一另外视点图像和第二另外视点图像执行帧间预测。

然而，与多视点视频预测结构30不同，在多视点视频预测结构40中，在第一另外视点图像和第二另外视点图像中的关键画面141、142、143、144、145、241、242、243、244和245中的部分关键画面143、145、243和245可参考具有相同视点的关键画面142、144、242和244被预测。

由于第一另外视点关键画面141、142、143、144和145参考分别具有相同POC序号的基本视点关键画面41、42、43、44和45以及第二另外视点关键画面241、242、243、244和245被预测，因此第一另外视点关键画面141、142、143、144和145是B画面类型图像。另外，第一另外视点关键画面142和144可参考其它的第一另外视点关键画面143和145以及基本视点关键画面42和44被预测。

由于第二另外视点关键画面241、242、243、244和245中的部分关键画面241、242和244仅参考具有相同POC序号的基本视点图像41、42和44被预测，因此关键画面241、242和244是P画面类型图像。然而，第二另外视点关键画面243和245参考具有相同POC序号的其它第二另外视点关键画面242和244以及基本视点图像43和45被预测，因此第二另外视点关键画面243和245是B画面类型图像。

参考在第一另外视点图像和第二另外视点图像中的相同视点的关键画面142、144、242和244被预测的关键画面143、145、243和245的恢复处理与一般的多视点视频预测结构30的恢复处理不同。当作为用于关键画面143、145、243和245的参考图像的相同视点的关键图像142、144、242和244被恢复时，关键画面143、145、243和245可参考相同视点的关键画面142、144、242和244被恢复。

首先，基本视点图像可经由帧间运动补偿来恢复。

在基本视点的参考图像和第二另外视点的参考图像被恢复之后，第二另外视点图像可通过使用恢复的参考图像来恢复。具体地，在作为第二另外视点关键画面243的参考图像的第二另外视点关键画面242被恢复之后，第二另外视点关键画面243可经由参考基本视点关键画面43的视点间视差补偿以及参考第二另外视点关键画面242的运动补偿来恢复。同样地，在作为第二另外视点关键画面245的参考图像的第二另外视点关键画面244被恢复之后，第二另外视点关键画面245可经由参考基本视点关键画面45的视点间视差补偿和参考第二另外视点关键画面244的运动补偿来恢复。

在基本视点参考图像、第二另外视点参考图像和第一另外视点参考图像被恢复之后，可通过使用恢复的参考图像来恢复第一另外视点图像。具体地，在作为第一另外视点关键画面143的参考图像的第一另外视点关键画面142被恢复之后，第一另外视点关键画面143可经由参考基本视点关键画面43和第二另外视点关键画面243的视点间视差补偿以及参考第一另外视点关键画面142的运动补偿来恢复。同样地，在作为第一另外视点关键画面145的参考图像的第一另外视点关键画面144被恢复之后，第一另外视点关键画面145可经由参考基本视点关键画面45和第二另外视点关键画面245的视点间视差补偿以及参考第一另外视点关键画面144的运动补偿来恢复。

在下文中，将参考图4a至图8b来描述根据本发明的各种实施例的增强层的另外视点关键画面的帧间预测。图4a至图8b示出第K另外视点图像（即，关于从多个另外视点中被任意选择的另外视点的另外视点图像）的帧间预测。虽然在图4a至图8b中未示出视点间预测，但是参考基本视点图像或其它的另外视点图像的视点间预测和视点间视差补偿被执行，如以上参照多视点视频预测结构40所描述的。

图4b示出根据本发明的另一实施例的用于图4a的多视点视频预测结构40的另外视点图像的增强层的帧间预测结构49。

根据增强层的帧间预测结构49，当对另外视点图像81、82、83、84、85、180、181、182、183、184、185、186、187、188、283、284和285执行帧间预测，并且另外视点关键画面81、82、83、84和85被顺序排列为第0、第1、第2、第3和第4关键画面时，第（偶数）关键画面83和85参考刚好在关键画面83和85之前的关键画面82和84被预测。

在用于恢复和再现被预测编码的图像的编码处理中，只有在作为用于另外视点关键画面83和85的参考图像的另外视点关键画面82和84被恢复之后，另外视点关键画面83和85才可经由参考另外视点关键画面82和84的运动补偿来恢复。为了便于描述，另外视点关键画面83和85均称为“当前”另外视点关键画面，并且具有比当前另外视点关键画面早的POC序号的另外视点关键画面82和84均被称为“先前”另外视点关键画面。

当先前另外视点关键画面82未被恢复时，如果用于当前另外视点关键画面83的恢复请求或再现请求被产生，例如，如果对当前另外视点关键画面83的随机访问被产生，则多视点视频预测恢复设备20可通过使用具有与当前另外视点关键画面83相同的POC序号的基本视点图像以及当前另外视点关键画面83的深度图来恢复当前另外视点关键画面83。

然而，根据参照图4a所描述的增强层的帧间预测结构49，属于与当前另外视点关键画面83相同的GOP1的B画面类型图像183或b画面类型图像184和185可直接或间接参考先前另外视点关键画面52的恢复结果。因此，当对当前另外视点关键画面83的随机访问被产生，并且先前另外视点关键画面52未被恢复时，可不执行用于B画面类型图像183或b画面类型图像184和185的参考先前另外视点关键画面52的运动补偿。因此，在此情况下，可通过使用每个深度图和基本视点图像来恢复B画面类型图像183或b画面类型图像184和185。属于GOP2的B画面类型图像186或b画面类型图像187和188可参考恢复后的当前另外视点关键画面83来恢复。

图5示出根据本发明的实施例的多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构50。

根据增强层的帧间预测结构50，当对另外视点图像51、52、53、54、55、150、151、152、153、154、155、156、157、158、253、254和255执行帧间预测，并且另外视点关键画面51、52、53、54和55被顺序地排列为第0、第1、第2、第3和第4关键画面时，第（奇数）关键画面52和54参考刚好在关键画面52和54之后的关键画面53和55被预测。

在用于恢复和再现被预测编码的图像的解码处理中，只有在作为用于另外视点关键画面52和54的参考图像的另外视点关键画面53和55被恢复之后，另外视点关键画面52和54才可经由参考另外视点关键画面53和55的运动补偿来恢复。为了便于描述，具有之前的POC序号的另外视点关键画面52和54均被称为“当前”另外视点关键画面，并且具有之后的POC序号的另外视点关键画面53和55均被称为“后续”另外视点关键画面。

因此，当后续另外视点关键画面53未被恢复时，如果用于当前另外关键视点画面52的恢复请求或再现请求被产生，例如，如果对当前另外视点关键画面52的随机访问被产生，则以下将描述恢复当前另外视点关键画面52的两种方法。

（i）当用于当前另外视点关键画面52的恢复请求在后续另外视点关键画面53被恢复之前被产生时，由于后续另外视点关键画面53还未被恢复，因此多视点视频预测恢复设备20可通过使用在基本视点图像中的具有与当前另外视点关键画面52相同的POC序号的基本视点图像以及当前另外视点关键画面52的深度图，来恢复当前另外视点关键画面52。

（ii）当用于当前另外视点关键画面52的恢复请求在后续另外视点关键画面53被恢复之前被产生时，多视点视频预测恢复设备20可延迟当前另外视点关键画面52的恢复，直到后续另外视点关键画面53根据另外视点图像的恢复顺序被恢复。在后续另外视点关键画面53根据另外视点图像的恢复顺序被恢复之后，多视点视频预测恢复设备20可参考恢复后的后续另外视点关键画面53来恢复当前另外视点关键画面52。在这种情况下，除当前另外视点关键画面52之外，多视点视频预测恢复设备20可还将GOP0和GOP1中的还未被恢复的图像的编码数据存储在缓冲器中，直到后续另外视点关键画面53被恢复。当后续另外视点关键画面53被恢复时，可通过使用后续另外视点关键画面53来恢复存储在缓冲器中的图像，然后可根据POC序号来重新排列恢复后的图像52、53、150、151、152、153、154和155。

与关键画面52和54的恢复处理不同，当针对不参考不同关键画面的关键画面53和55的恢复请求或再现请求被产生时，多视点视频预测恢复设备20可经由视差补偿立即恢复关键画面53和55，而无需等待其它关键画面的恢复次序。

然而，根据参照图5描述的增强层的帧间预测结构50，由于直接跟随关键画面53的b画面类型图像157或B画面类型图像156可直接或间接参考关键画面54以及关键画面53的恢复结果，虽然关键画面53被恢复，但只有在关键画面54被恢复之后，b画面类型图像157或B画面类型图像156才可被恢复。在这种情况下，由于关键画面54在关键画面55被恢复之后被完全恢复，因此多视点视频预测恢复设备20也可在GOP3的图像253、254和255能够被恢复时恢复GOP2的图像156、157和158。因此，GOP2的图像156、157和158的恢复会被延迟多达单个GOP。

图6示出根据本发明的实施例的在多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构60。

根据增强层的帧间预测结构60，当对另外视点图像61、62、63、64、65、160、161、162、163、164、165、166、167、168、263、264和265执行帧间预测，并且另外视点关键画面61、62、63、64和65被顺序排列为第0、第1、第2、第3和第4关键画面时，第（奇数）关键画面62和64参考刚好在关键画面62和64之后的关键画面63和65被预测。

参照图6描述的增强层的帧间预测结构60与参照图5描述的增强层的帧间预测结构50相同，在帧间预测结构60中，另外视点关键画面62和64参考具有之后的POC序号的另外视点关键画面63和65。

然而，对图5的增强层的帧间预测结构50和图6的增强层的帧间预测结构60进行比较，在b画面类型和B画面类型图像160、161、162、163、164、165、166、167、168、263、264和265中的图像160、162、166和168的参考图像被改变。也就是说，在图6的增强层的帧间预测结构60中，从b画面类型和B画面类型图像160、162、166和168的参考图像中排除当前另外视点关键画面62和64。

因此，与参照图5描述的增强层的帧间预测结构50不同，根据图6的增强层的帧间预测结构60，b画面类型和B画面类型图像160和162可参考恢复后的另外视点关键图像61来恢复，而不需要等待另外视点关键画面62的恢复结果。类似地，b画面类型和B画面类型图像166和168可参考恢复后的另外视点关键画面63来恢复，而不需要等待另外视点关键画面64的恢复结果。

因此，根据图6的增强层的帧间预测结构60，尽管关键画面62和64根据POC序号刚好位于b画面类型和B画面类型图像160、162、166和168之后，但是如果关键画面62和64参考具有之后的POC序号的关键画面63和65，则b画面类型和B画面类型图像160、162、166和168不参考关键画面62和64。

图7示出根据本发明的另一实施例的在多视点视频预测结构中的用于另外视点图像的增强层的帧间预测结构70。

根据增强层的帧间预测结构70，对另外视点图像71、72、73、74、75、170、171、172、173、174、175、176、177、178、273、274和275执行帧间预测，并且另外视点关键画面71、72、73、74和75被顺序排列为第0、第1、第2、第3和第4关键画面，第（奇数）关键画面72和74参考刚好在关键画面72和74之前的关键画面71和73被预测。

图7的增强层的帧间预测结构70不同于参考图5和图6描述的增强层的帧间预测结构50和60，其中，在增强层的帧间预测结构70中，另外视点关键画面72和74参考具有之前的POC序号的另外视点关键画面71和73。

然而，根据图7的增强层的帧间预测结构70，从b画面类型和B画面类型图像173、174、273和274的参考图像中排除参考不同关键画面71和73的另外视点关键画面72和74。

尽管关键画面72和74根据POC序号刚好位于b画面类型和B画面类型图像173、174、273和274之前，但是如果关键画面72和74参考具有更早的POC序号的关键画面71和73，则b画面类型和B画面类型图像173、174、273和274不参考关键画面72和74。

图8a和8b示出根据本发明的实施例的当在图7的增强层的帧间预测结构70中产生随机访问时的恢复结果。

与参照图5和图6描述的增强层的帧间预测结构50和60不同，根据图7的增强层的帧间预测结构70，当对当前关键图像的随机访问被产生时，在当前关键图像之前的关键画面原则上未被恢复。

因此，如图8a中所示，当对参考关键画面71的关键画面72的随机访问被产生时，由于关键画面71未被恢复，因此不恢复关键画面72。因此，当对参考先前关键画面71的关键画面72的随机访问被产生时，多视点视频预测恢复设备20可跳过关键画面72的恢复，并且可恢复GOP1、GOP2和GOP3的另外视点图像73、173、174、175、74、176、177、178、75、273、274和275。根据POC序号可重新排列（80）并可再现恢复后的图像174、173、175、73、177、176、178、74、274、273、275和75。因此，作为关键画面72的随机访问的结果，当恢复后的图像被再现时，关键画面72可被处理为丢失。

又例如，可使用深度图。

如图8a中所示，当对参考关键画面71的关键画面72的随机访问被产生时，可通过使用具有与另外视点关键画面72相同的POC序号的基本视点图像和深度图来恢复另外视点关键画面72。

如图8b中所示，当对关键图面73的随机访问被产生时，由于不需要等待不同另外视点关键画面的恢复结果，因此可立即恢复关键画面73，并且可恢复GOP2和GOP3的另外视点图像74、176、177、178、75、273、274和275。可根据POC序号来重新排列（85）和再现恢复后的图像73、177、176、178、74、274、273、275和75。

本发明不限于图4a至图8b中示出的实施例。多视点视频预测设备10和多视点视频预测恢复设备20可针对增强层的帧间预测（或运动补偿）选择前向预测或后向预测。例如，第（奇数）关键画面可参考在另外视点关键画面中的第（偶数）关键画面被预测（或被恢复），或者，第（偶数）关键画面可参考第（奇数）关键画面被预测（被恢复）。

如图4a和图4b中所示，参考关键画面的POC序号比当前另外视点关键画面的POC序号更早，对当前另外视点关键画面的随机访问被产生，多视点视频预测恢复设备20可通过使用基本视点图像和当前另外视点关键画面的深度图来恢复当前另外视点关键画面。

像图5和图6中一样，当参考关键画面的POC序号比当前另外视点关键画面的POC序号更晚，多视点视频预测恢复设备20延迟当前另外视点关键画面的恢复，直到参考关键图像被恢复。甚至在参考关键图像被恢复之后，才可恢复当前另外视点关键画面。又例如，如果参考关键图像未被恢复，则多视点视频预测恢复设备20可跳过当前另外视点关键画面的运动补偿，并可通过使用基本视点图像和当前另外视点关键画面的深度图来恢复当前另外视点关键画面。

像图7、图8a和图8b中一样，虽然参考关键画面的POC序号比当前另外视点关键画面的POC序号更早，但是当用于当前另外视点关键画面的随机访问请求被产生时，由于参考关键图像未被恢复，因此多视点视频预测恢复设备20可跳过当前另外视点关键画面的恢复，并可恢复具有后续POC序号的图像。

如图6、图7、图8a和图8b中所示，针对非关键图像的b画面类型或B画面类型图像中的部分图像，可从参考图像中排除使用相同视点的不同关键图像被预测的关键图像。

然而，如图4a、图4b和图5中所示，为了恢复参考相同视点的不同关键图像被预测的当前另外视点关键画面，当通过使用基本视点关键画面和深度图来恢复参考关键图像时，非关键图像的b画面类型或B画面类型另外视点图像可参考当前另外视点关键画面来恢复。

图9是根据本发明的实施例的多视点视频预测方法的流程图。

在操作91，执行基本视点图像之间的帧间预测来产生基本层图像流，其中，基本层图像流包括I画面类型图像的基本视点关键画面的编码的数据以及I画面基本视点关键画面的残差值的编码的数据。

在操作92，可执行：（i）用于参考基本视点图像来预测另外视点图像的视点间预测，（ii）用于参考另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测，以及（iii）用于参考另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测。可产生包括另外视点图像的残差值的增强层图像流，其中，所述另外视点图像的残差值经由（i）视点间预测、（ii）另外视点关键画面的帧间预测、以及除关键画面之外的另外视点图像的帧间预测被产生。

在操作93，可参考在另外视点关键画面中的在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面来执行当前另外视点关键画面的帧间预测。又例如，可参考在另外视点关键画面中的将在当前另外视点关键画面被恢复之后被恢复的另外视点关键画面，来执行当前另外视点关键画面的帧间预测。

根据本发明的实施例，可产生指示在基本视点图像和另外视点图像中的具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图。产生的深度图可与基本层图像流和增强层图像流一起被发送。

图10是根据本发明的实施例的多视点视频预测恢复方法的流程图。

在操作101，接收基本层图像流和增强层图像流。

在操作103，恢复基本层图像流的I画面类型基本视点关键画面，并参考基本视点关键画面执行基本视点图像的运动补偿来恢复基本视点图像。

在操作105，当增强层图像流的另外视点关键画面被访问时，可执行参考恢复后的基本视点关键画面的视差补偿和参考增强层流的不同另外视点关键画面的运动补偿中的至少一个，来恢复另外视点关键画面。

在操作107，可对增强层图像流的除另外视点关键画面之外的另外视点图像执行参考恢复后的基本视点图像的视差补偿和参考被首先恢复的增强层图像流的另外视点图像的运动补偿中的至少一个，来恢复除另外视点关键画面之外的另外视点图像。

在操作101，在基本视点图像和另外视点图像中，还可接收指示在具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图。

为了恢复关键画面，可产生对于关键画面的访问。

例如，在操作105，当当前另外视点关键画面被访问时，可通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面，其中，当前另外视点关键画面参考在另外视点关键画面中的在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面被预测。

如另一示例，在操作105，当当前另外视点关键画面被访问时，可跳过当前另外视点关键画面的恢复，并可恢复当前另外视点关键画面的后续另外视点关键画面，其中，当前另外视点关键画面参考在另外视点关键画面中的在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面被预测。

例如，在操作105，当当前另外视点关键画面被访问时，可通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面，其中，当前另外视点关键画面参考将在当前另外视点关键画面被恢复之后被恢复的另外视点关键画面被预测。

如另一示例，在操作105，当当前另外视点关键画面被访问时，可延迟当前另外视点关键画面的恢复，其中，当前另外视点关键画面参考将在当前另外视点关键画面被恢复之后被恢复的另外视点关键画面被预测。可通过使用在作为参考图像的另外视点关键画面被恢复之后被恢复的参考图像来恢复当前另外视点关键画面。

例如，在操作105，当不参考另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面被访问时，可通过使用与当前另外视点关键画面相应的基本视点图像来恢复当前另外视点关键画面。

如另一示例，在操作105，当不参考在另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面被访问时，可通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

用于执行图9的多视点视频预测方法的多视点视频编码终端可包括多视点视频预测设备10。包括多视点视频预测设备10的多视点视频编码终端可对每个图像块执行帧间预测、帧间预测、视点间预测、变换和量化来产生样值，并可对样值执行熵编码来以比特流的形式输出所述样值。作为包括多视点视频预测设备10的多视点视频编码终端的视频编码结果，即，多视点视频预测设备10可与安装在多视点视频编码终端中的内部视频编码处理器或外部视频编码处理器协作交互以输出基本层图像流和增强层图像流，因此，可执行包括变换的视频编码处理。根据本发明的实施例，可通过将视频编码处理模块添加到视频编码装置、中央操作装置、或图形操作装置以及执行基本视频编码操作的单独的处理器，来实现多视点视频编码终端的内部视频编码处理器。

另外，在视频预测处理期间需要视频恢复处理来产生参考图像。因此，多视点视频编码终端还可包括用于执行图10的多视点视频预测恢复方法的多视点视频预测恢复设备20。包括多视点视频预测恢复设备20的多视点视频编码终端可对每个基本层和增强层的经由帧间预测、视点间预测、帧内预测、变换和量化所产生的数据流执行解码。也就是说，对于基本层和增强层，可对每个图像块执行反量化、逆变换、帧内预测和运动补偿（或帧间运动补偿或视点间视差补偿）来恢复基本视点图像和另外视点图像的样值。为了使多视点视频编码终端输出恢复后的参考图像，多视点视频预测恢复设备20可与安装在多视点视频编码终端中的内部视频编码处理器或外部视频编码处理器协作交互，并因此可执行包括反量化、逆变换和预测/补偿的视频恢复操作。根据本发明的实施例，可通过将视频解码处理模块添加到多视点视频编码终端、中央操作装置、或图形操作装置以及执行基本视频恢复操作的单独的处理器来实现多视点视频编码终端的内部视频编码处理器。

用于执行图10的多视点视频预测恢复方法的多视点视频恢复终端可包括多视点视频预测恢复设备20。包括多视点视频预测恢复设备20的多视点视频恢复终端可对接收到的基本层图像流和增强层图像流进行解码。也就是说，对于每个图像块，可对基本层图像流和增强层图像流执行反量化、逆变换、帧内预测和运动补偿（或帧间运动补偿或视点间视差补偿），以从基本层图像流恢复基本视点图像的样值并从增强图像流恢复另外视点图像的样值。为了输出作为多视点视频恢复终端的解码结果所产生的恢复图像，多视点视频预测恢复设备20可与安装在多视点视频恢复终端中的内部视频解码处理器或外部视频解码处理器协作交互，并因此可执行包括反量化、逆变换和预测/恢复的视频恢复操作。可通过将视频解码处理模块添加到多视点视频恢复终端、中央操作装置、或图形操作装置以及执行基本视频恢复操作的单独的处理器来实现多视点视频恢复终端的内部视频解码处理器。

如上所述，在多视点视频预测设备10和多视点视频预测恢复设备20中，可根据树结构将通过划分视频数据而获得的块划分成编码单元，并将编码单元、预测单元和变换单元用于编码单元的视点间预测或帧间预测。在下文中，参照图11至图23，将对基于根据树结构的编码单元和变换单元的用于对视频进行编码的方法和设备以及用于对视频进行解码的方法和设备进行描述。

原则上，在用于多视点视频的编码/解码中，单独执行用于基本层的编码/解码处理和用于增强层的编码/解码处理。也就是说，当对多视点视频执行视点间预测时，虽然单视点视频的编码/解码结果被交叉参考，但是对各个单视点视频执行单独的编码/解码处理。

为了便于描述，由于对单视点视频执行（将参照图11至图23描述的）基于根据树结构的编码单元的视频编码处理和视频解码处理，因此仅描述帧间预测和运动补偿。然而，如参照图1至图10所描述的，在基本视点图像和另外视点图像之间的视点间预测以及视点间视差补偿被执行。

当多视点视频预测设备10基于根据树结构的编码单元对多视点视频进行编码时，为了针对每个单视点视频对视频进行编码，多视点视频预测设备10包括多达多视点视频的视点数个图11的视频编码设备100，以对视频进行编码，使得每个视频编码设备100可被控制来对分配的单视点视频进行编码。另外，多视点视频预测设备10可通过使用每个视频编码设备100的单独的单视点的编码结果来执行视点间预测。因此，多视点视频预测设备10可针对各个层（hierarchy）产生记录针对各个视点的编码结果的基本层图像流和增强层图像流。

类似地，当多视点视频预测恢复设备20基于根据树结构的编码单元对多视点视频进行解码时，为了针对各个层对接收到的基本层图像流和增强层图像流进行解码，多视点视频预测恢复设备20可包括多达多视点视频的视点数个图12的视频解码设备200，并且视频解码设备200可被控制来对分别被分配给视频解码设备200的单视点视频执行解码。另外，多视点视频预测恢复设备20可通过使用多视点视频预测恢复设备20的单独的单视点的解码结果来执行视点间视差补偿。因此，多视点视频预测恢复设备20可产生针对各个层被恢复的基本视点图像和另外视点图像。

图11是根据本发明的实施例的基于根据树结构的编码单元的视频编码设备100的框图。

经由基于根据树结构的编码单元的视频预测的视频编码设备100包括编码确定器120和输出单元130。在下文中，为了便于描述，经由基于根据树结构的编码单元的视频预测的视频编码设备100被称为“视频编码设备100”。

编码确定器120可基于用于图像的当前画面的最大编码单元来划分当前画面。如果当前画面大于最大编码单元，则当前画面的图像数据可被划分成至少一个最大编码单元。根据本发明的实施例的最大编码单元可以是尺寸为32×32、64×64、128×128、256×256等的数据单元，其中，数据单元的形状是宽度和高度为2的若干次方的正方形。

可用最大尺寸和深度来表征根据本发明的实施例的编码单元。所述深度表示编码单元在空间上从最大编码单元被划分的次数，并且随着深度加深，可从最大编码单元到最小编码单元划分根据深度的较深层编码单元。最大编码单元的深度是最高深度，最小编码单元的深度是最低深度。由于与每个深度相应的编码单元的尺寸随着最大编码单元的深度加深而减小，因此与更高深度相应的编码单元可包括多个与更低深度相应的编码单元。

如上所述，当前画面的图像数据根据编码单元的最大尺寸被划分成最大编码单元，每个最大编码单元可包括根据深度被划分的较深层编码单元。由于根据本发明的实施例的最大编码单元根据深度被划分，因此在最大编码单元中包括的空间域的图像数据可根据深度被分层地分类。

限制最大编码单元的高度和宽度被分层地划分的总次数的编码单元的最大深度和最大尺寸可被预先确定。

编码单元确定器120对通过根据深度划分最大编码单元的区域而获得的至少一个划分区域进行编码，并根据所述至少一个划分区域来确定用于输出最终编码的图像数据的深度。换句话说，编码单元确定器120通过根据当前画面的最大编码单元以根据深度的较深层编码单元对图像数据进行编码并选择具有最小编码误差的深度来确定编码深度。因此，最终输出与确定的编码深度相应的编码单元的被编码的图像数据。此外，与编码深度相应的编码单元可被称为被编码的编码单元。确定的编码深度和根据所述确定的编码深度的被编码的图像数据被输出到输出单元130。

基于与等于或低于最大深度的至少一个深度相应的较深层编码单元来对最大编码单元中的图像数据进行编码，并基于每个较深层编码单元来对编码图像数据的结果进行比较。可在对较深层编码单元的编码误差进行比较之后选择具有最小编码误差的深度。可针对每个最大编码单元选择至少一个编码深度。

最大编码单元的尺寸随着编码单元根据深度被分层地划分，并随着编码单元的数量增加而被分层地划分。此外，即使在一个最大编码单元中编码单元与相同深度相应，仍可通过测量每个编码单元的图像数据的编码误差来确定是否分别将与相同深度相应的每个编码单元划分到更低深度。因此，即使当图像数据被包括在一个最大编码单元中时，所述图像数据仍根据深度被划分成区域，在所述一个最大编码单元中编码误差会根据区域而不同，从而在所述图像数据中编码深度可根据区域而不同。因此，可在一个最大编码单元中确定一个或更多个编码深度，并可根据至少一个编码深度的编码单元来划分最大编码单元的图像数据。

因此，编码单元确定器120可确定在最大编码单元中包括的具有树结构的编码单元。根据本发明的实施例的“具有树结构的编码单元”包括在最大编码单元中包括的所有较深层编码单元中的与被确定为编码深度的深度相应的编码单元。可在最大编码单元的相同区域中根据深度来分层地确定编码深度的编码单元，并可在不同区域中独立地确定编码深度的编码单元。类似地，当前区域中的编码深度可独立于另一区域中的编码深度被确定。

根据本发明的实施例的最大深度是与从最大编码单元到最小编码单元的划分被执行的次数相关的索引。根据本发明的实施例的第一最大深度可表示从最大编码单元到最小编码单元的划分被执行的总次数。根据本发明的实施例的第二最大深度可表示从最大编码单元到最小编码单元的深度总级数。例如，当最大编码单元的深度是0时，最大编码单元被划分一次的编码单元的深度可设置为1，并且最大编码单元被划分两次的编码单元的深度可设置为2。这里，如果最小编码单元是最大编码单元被划分四次的编码单元，则存在5个深度级0、1、2、3和4，从而第一最大深度可设置为4，第二最大深度可设置为5。

可根据最大编码单元来执行预测编码和变换。还根据最大编码单元，基于根据等于最大深度的深度或小于最大深度的深度的较深层编码单元来执行预测编码和变换。可根据正交变换或整数变换的方法来执行变换。

由于每当最大编码单元根据深度被划分时较深层编码单元的数量都会增加，因此对随着深度加深而产生的所有较深层编码单元执行包括预测编码和变换的编码。为了方便描述，将基于最大编码单元中的当前深度的编码单元来描述预测编码和变换。

视频编码设备100可不同地选择用于编码图像数据的数据单元的尺寸或形状。为了编码图像数据，执行诸如预测编码、变换和熵编码的操作，此时，可针对所有操作都使用相同的数据单元，或者可针对每个操作使用不同的数据单元。

例如，视频编码设备100不仅可选择用于对图像数据进行编码的编码单元，而且可选择与编码单元不同的数据单元，以对编码单元中的图像数据执行预测编码。

为了对最大编码单元执行预测编码，可基于与编码深度相应的编码单元（即，基于不再被划分成与更低深度相应的编码单元的编码单元）执行预测编码。在下文中，现在将不再被划分并变成用于预测编码的基本单元的编码单元称为“预测单元”。通过划分预测单元而获得的分区可包括通过划分预测单元的高度和宽度中的至少一个而获得的预测单元或数据单元。分区是通过划分编码单元的预测单元而获得的数据单元，预测单元可以是具有与编码单元相同尺寸的分区。

例如，当2N×2N的编码单元（其中，N是正整数）不再被划分并变成2N×2N的预测单元时，分区的尺寸可以是2N×2N、2N×N、N×2N或N×N。分区类型的示例包括通过对称地划分预测单元的高度或宽度而获得的对称分区、通过非对称地划分预测单元的高度或宽度（诸如1:n或n:1）而获得的分区、通过几何划分预测单元而获得的分区以及具有任意形状的分区。

预测单元的预测模式可以是帧内模式、帧间模式和跳过模式中的至少一种。例如，可对2N×2N、2N×N、N×2N或N×N的分区执行帧内模式或帧间模式。此外，可仅对2N×2N的分区执行跳过模式。可对编码单元中的一个预测单元独立地执行编码，从而选择具有最小编码误差的预测模式。

视频编码设备100还可不仅基于用于编码图像数据的编码单元而且基于与所述编码单元不同的数据单元对在编码单元中的图像数据执行变换。为了执行编码单元中的变换，可基于具有小于或等于编码单元的尺寸的变换单元来执行变换。例如，用于变换的变换单元可包括用于帧内模式的变换单元以及用于帧间模式的数据单元。

类似于根据本实施例的基于树结构的编码单元，可将编码单元中的变换单元递归地划分成更小尺寸的区域，并且可根据变换深度基于具有树结构的变换单元来划分编码单元中的残差数据。

根据本发明的实施例，也可将指示通过划分变换单元的高度和宽度而达到变换单元的划分被执行的次数的变换深度设置在变换单元中。例如，当当前编码单元的变换单元的尺寸是2N×2N时，变换深度可被设置成0，当变换单元的尺寸是N×N时，变换深度可被设置成1。另外，当变换单元的尺寸是N/2×N/2时，变换深度可被设置成2。换句话说，还可根据变换深度来设置根据树结构的变换单元。

根据与编码深度相应的编码单元的编码信息不仅需要关于编码深度的信息而且需要关于与预测编码和变换相关的信息的信息。因此，编码单元确定器120不仅确定具有最小编码误差的编码深度，还可确定预测单元中的分区类型、根据预测单元的预测模式、以及用于变换的变换单元的尺寸。

下面将参照图13至图23详细描述根据本发明的实施例的在最大编码单元中的根据树结构的编码单元和预测单元/分区，以及确定变换单元的方法。

编码单元确定器120可通过使用基于拉格朗日乘子的率失真优化根据深度来测量较深层编码单元的编码误差。

输出单元130将基于由编码单元确定器120确定的至少一个编码深度而编码的最大编码单元的图像数据、以及关于根据编码深度的编码模式的信息输出在比特流中。

可通过编码图像的残差数据来获得编码后的图像数据。

关于根据编码深度的编码模式的信息可包括关于编码深度的信息、关于预测单元中的分区类型的信息、关于预测模式的信息以及关于变换单元的尺寸的信息。

可通过使用根据深度的划分信息来定义关于编码深度的信息，所述划分信息指示是否对更低的深度而不是当前深度的编码单元执行编码。如果当前编码单元的当前深度是编码深度，则当前编码单元中的图像数据被编码并输出，从而划分信息可被定义为不将当前编码单元划分到更低深度。可选地，如果当前编码单元的当前深度不是编码深度，则对更低深度的编码单元执行编码，从而划分信息可被定义为划分当前编码单元以获得更低深度的编码单元。

如果当前深度不是编码深度，则对被划分成更低深度的编码单元的编码单元执行编码。由于在当前深度的一个编码单元中存在更低深度的至少一个编码单元，因此对更低深度的每个编码单元重复地执行编码，从而可针对具有相同深度的编码单元递归地执行编码。

由于针对一个最大编码单元确定具有树结构的编码单元，并且针对编码深度的编码单元确定关于至少一种编码模式的信息，因此可针对一个最大编码单元确定关于至少一种编码模式的信息。此外，由于图像数据根据深度被分层地划分，因此最大编码单元的图像数据的编码深度可根据位置而不同，从而可针对图像数据设置关于编码深度和编码模式的信息。

因此，输出单元130可将关于相应编码深度和编码模式的编码信息分配给在最大编码单元中包括的编码单元、预测单元和最小单元中的至少一个。

根据本发明的实施例的最小单元是通过将构成最低深度的最小编码单元划分成4份而获得的矩形数据单元。可选地，最小单元可以是包括在包括于最大编码单元中的所有的编码单元、预测单元、分区单元和变换单元中的具有最大尺寸的矩形数据单元。

例如，可将通过输出单元130输出的编码信息分类为根据编码单元的编码信息和根据预测单元的编码信息。根据编码单元的编码信息可包括关于预测模式和关于分区的尺寸的信息。根据预测单元的编码信息可包括关于估计的帧间模式的方向的信息、关于帧间模式的参考图像索引的信息、关于运动矢量的信息、关于帧内模式的色度分量的信息以及关于帧内模式的插值方法的信息。

此外，可将关于根据画面、条带或GOP定义的编码单元的最大尺寸的信息以及关于最大深度的信息插入到比特流的头、序列参数集（SPS）或画面参数集（PPS）中。

此外，也可经由比特流的头、SPS或PPS来输出对当前视频可用的关于变换单元的最大尺寸的信息和关于变换的最小尺寸的信息。输出单元130可对参考信息、预测信息、单向预测信息和关于条带类型的信息进行编码并输出，其中，所述条带类型包括与参照图1至图6所描述的预测相关的第四条带类型。

在视频编码设备100中，较深层编码单元可以是通过将作为上面的一层的更高深度的编码单元的高度或宽度除以2而获得的编码单元。换句话说，当当前深度的编码单元的尺寸是2N×2N时，更低深度的编码单元的尺寸是N×N。此外，尺寸为2N×2N的当前深度的编码单元可包括最多4个更低深度的编码单元。

因此，视频编码设备100可基于考虑当前画面的特性而确定的最大编码单元的尺寸和最大深度，通过针对每个最大编码单元确定具有最佳形状和最佳尺寸的编码单元，来形成具有树结构的编码单元。此外，由于通过使用各种预测模式和变换中的任意一种来对每个最大编码单元执行编码，因此可考虑各种图像尺寸的编码单元的特性来确定最佳编码模式。

因此，如果以传统宏块对具有高分辨率或大数据量的图像进行编码，则每个画面的宏块数量过度增加。因此，针对每个宏块产生的压缩信息的条数增加，从而难以发送压缩信息，并且数据压缩效率降低。然而，由于在考虑图像的尺寸时增加编码单元的最大尺寸，同时在考虑图像的特性时调整编码单元，因此可通过使用视频编码设备100提高图像压缩效率。

参照图1描述的多视点视频预测设备10可包括多达视点数个视频编码设备100，以针对多视点视频的各个视点对单视点图像进行编码。例如，基本层编码器12可包括单个视频编码设备100，增强层编码器14可包括多达另外视点数个视频编码设备100。

当视频编码设备100对基本视点图像进行编码时，编码确定器120可针对每个最大编码单元根据树结构对每个编码单元确定用于帧间预测的预测单元，并且可对每个预测单元执行帧间预测。

当视频编码设备100对另外视点图像进行编码时，编码确定器120针对每个最大编码单元根据树结构还可确定预测单元和编码单元，并可对每个预测单元执行帧间预测。

具体地，对于帧间预测，用于另外视点图像的视频编码设备100可参考相同视点的不同关键图像来预测另外视点关键画面。视频编码设备100可产生深度图，其中，在另外视点图像和具有与另外视点图像相同的POC序号的基本视点图像之间的深度差被记录在深度图中。

例如，对于非关键画面的b画面类型或B画面类型图像，可从参考图像中排除参考相同视点的不同关键画面被预测的关键画面。如另一示例，非关键画面的b画面类型或B画面类型另外视点图像可参考当前另外视点关键画面被预测。

图12是根据本发明的实施例的基于根据树结构的编码单元的视频解码设备200的框图。

基于根据树结构的编码单元的视频解码设备200包括接收器210、图像数据和编码信息提取器220和图像数据解码器230。在下文中，为了便于描述，使用基于根据树结构的编码单元的视频预测的视频解码设备200将被称为“视频解码设备200”。

针对视频解码设备200的解码操作的各种术语（诸如编码单元、深度、预测单元、变换单元以及关于各种编码模式的信息）的定义和参考图11描述的以及视频编码设备100的术语相同。

接收器210接收并解析编码的视频的比特流。图像数据和编码信息提取器220针对每个编码单元从解析的比特流提取编码的图像数据，并将提取的图像数据输出到图像数据解码器230，其中，编码单元具有根据每个最大编码单元的树结构。图像数据和编码信息提取器220可从关于当前画面的头、SPS或SPS提取关于当前画面的编码单元的最大尺寸的信息。

此外，图像数据和编码信息提取器220从解析的比特流提取关于根据每个最大编码单元的针对具有树结构的编码单元的编码深度和编码模式的信息。关于编码深度和编码模式的提取信息被输出到图像数据解码器230。换句话说，将比特流中的图像数据划分成最大编码单元，使得图像数据解码器230针对每个最大编码单元解码图像数据。

可针对关于与编码深度相应的至少一个编码单元的信息设置关于根据最大编码单元的编码深度和编码模式的信息，并且关于编码模式的信息可包括关于与编码深度相应的相应编码单元的分区类型的信息、关于预测模式的信息以及变换单元的尺寸的信息。此外，根据深度的划分信息可被提取为关于编码深度的信息。

由图像数据和编码信息提取器220提取的关于根据每个最大编码单元的编码深度和编码模式的信息是关于当编码器（诸如视频编码设备100）根据每个最大编码单元针对每个根据深度的较深层编码单元重复执行编码时被确定为产生最小编码误差的编码深度和编码模式的信息。因此，视频解码设备200可通过根据产生最小编码误差的编码深度和编码模式来对图像数据进行解码以恢复图像。

由于关于编码深度和编码模式的编码信息可被分配给在相应编码单元、预测单元和最小单元中的预定数据单元，因此图像数据和编码信息提取器220可根据预定数据单元来提取关于编码深度和编码模式的信息。关于编码深度和编码模式的相同信息被分配的预定数据单元可被推断为在相同的最大编码单元中包括的数据单元。

图像数据解码器230通过基于关于根据最大编码单元的编码深度和编码模式的信息来对每个最大编码单元中的图像数据进行解码以恢复当前画面。换句话说，图像数据解码器230可基于提取的关于针对在每个最大编码单元中包括的具有树结构的编码单元之中的每个编码单元的分区类型、预测模式和变换单元的信息，来对编码的图像数据进行解码。解码处理可包括预测和逆变换，所述预测包括帧内预测和运动补偿。可根据逆正交变换或逆整数变换来执行逆变换。

图像数据解码器230可基于关于根据编码深度的编码单元的预测单元的分区类型和预测模式的信息，根据每个编码单元的分区和预测模式来执行帧内预测或运动补偿。

此外，针对每个最大编码单元的逆变换，图像数据解码器230可针对每个编码单元读取根据树结构的变换单元信息，以便确定用于每个编码单元的变换单元，并针对每个编码单元基于变换单元执行逆变换。通过执行逆变换，可恢复编码单元的空间域中的像素值。

图像数据解码器230可根据深度通过使用划分信息来确定当前最大编码单元的至少一个编码深度。如果划分信息表示图像数据在当前深度下不再被划分，则当前深度是编码深度。因此，图像数据解码器230可通过使用关于针对与编码深度相应的每个编码单元的预测单元的分区类型、预测模式和变换单元的尺寸的信息，对当前最大编码单元中的与每个编码深度相应的至少一个编码单元的编码数据进行解码，并输出当前最大编码单元的图像数据。

换句话说，通过观察针对在编码单元、预测单元和最小单元之中的预定数据单元而分配的编码信息集来收集包含包括相同划分信息的编码信息的数据单元，收集的数据单元可被认为是将由图像数据解码器230以相同编码模式解码的一个数据单元。针对如上述所确定的每个编码单元，可获得关于编码模式的信息，以便对当前编码单元进行解码。

参照图1描述的多视点视频预测设备10可包括多达视点数个图像解码设备200的图像数据解码器230，以针对多视点视频的各个视点产生用于帧间预测的参考图像。例如，基本层解码器12可包括单个图像数据解码器230，增强层解码器14可包括多达另外视点数个视频解码设备200。

另外，参照图2描述的多视点视频预测恢复设备20可包括多达视点数个视频解码设备200，以对接收到的基本层图像流和增强层图像流进行解码来恢复基本视点图像和另外视点图像。例如，基本层解码器24可包括单个视频解码设备200，增强层解码器26可包括多达另外视点数个视频解码设备200。

当接收到基本层图像流时，视频解码设备200的图像数据解码器230可根据最大编码单元的树结构将由提取器220从基本层图像流提取的基本视点图像的样值划分成编码单元。图像数据解码器230可针对基本视点图像的样值的根据树结构的每个编码单元的帧间预测对各个预测单元执行运动补偿，来恢复基本视点图像。

当接收到增强层图像流时，视频解码设备200的图像数据解码器230可根据最大编码单元的树结构将由提取器220从增强层图像流提取的另外视点图像的样值划分成编码单元。图像数据解码器230可针对另外视点图像的样值的帧间预测对各个预测单元执行运动补偿，来恢复另外视点图像。

当用于另外视点图像的图像数据解码器230恢复当前另外视点关键画面时，如果作为当前另外视点关键画面的参考图像的另外视点关键画面（参考关键画面）还未恢复时，则可通过使用具有与当前另外视点关键画面相同POC序号的基本视点关键画面以及当前另外视点关键画面的深度图来恢复当前另外视点关键画面。

例如，即使参考关键画面的POC序号比当前另外视点关键画面的POC序号更早，如果在参考关键画面未被恢复时当前另外视点关键画面序号需要被恢复（例如，如果用于当前另外视点关键画面的访问请求被产生），则图像数据解码器230仍可通过使用当前另外视点关键画面的深度图和基本视点图像来恢复当前另外视点关键画面。

例如，当图像数据解码器230能够通过使用基本视点关键画面和深度图来恢复参考关键画面，以恢复参考相同视点的不同关键画面被预测的当前另外视点关键画面时，图像数据解码器230还可参考当前另外视点关键画面来恢复非关键画面的b画面类型或B画面类型另外视点图像。

然而，当b画面类型或B画面类型另外视点图像的参考关键图像未被恢复时，还可通过使用另外视点图像的深度图和基本视点图像来恢复另外视点图像。

视频解码设备200可获得当针对每个最大编码单元递归执行编码时产生最小编码误差的关于至少一个编码单元的信息。换句话说，可对在每个最大编码单元中被确定为最佳编码单元的具有树结构的编码单元进行解码。此外，通过考虑图像数据的量和分辨率来确定编码单元的最大尺寸。

因此，即使图像数据具有高分辨率和大量数据，仍可通过使用从编码器接收到的关于最佳编码模式的信息，通过使用根据图像数据被自适应确定的编码单元的尺寸和编码模式来有效地解码并恢复图像数据。

图13是根据本发明的实施例的用于描述编码单元的概念的示图。

可以以宽度×高度来表示编码单元的尺寸，并且编码单元的尺寸可以是64×64、32×32、16×16和8×8。64×64的编码单元可划分成64×64、64×32、32×64或32×32的分区，32×32的编码单元可划分成32×32、32×16、16×32或16×16的分区，16×16的编码单元可划分成16×16、16×8、8×16或8×8的分区，并且8×8的编码单元可划分成8×8、8×4、4×8或4×4的分区。

在视频数据310中，分辨率是1920×1080，编码单元的最大尺寸是64，最大深度是2。在视频数据320中，分辨率是1920×1080，编码单元的最大尺寸是64，最大深度是3。在视频数据330中，分辨率是352×288，编码单元的最大尺寸是16，最大深度是1。图13中所示的最大深度表示从最大编码单元到最小编码单元的划分总次数。

如果分辨率高或数据量大，则编码单元的最大尺寸可以是大的，以便不仅增加编码效率还准确地反映图像的特性。因此，具有比视频数据330高的分辨率的视频数据310和320的编码单元的最大尺寸可以是64。

由于视频数据310的最大深度是2，因此视频数据310的编码单元315可包括具有64的长轴尺寸的最大编码单元，以及由于通过划分两次最大编码单元将深度加深至二层而具有32和16的长轴尺寸的编码单元。同时，由于视频数据330的最大深度是1，因此视频数据330的编码单元335可包括具有16的长轴尺寸的最大编码单元，以及由于通过划分一次最大编码单元将深度加深至一层而具有8的长轴尺寸的编码单元。

由于视频数据320的最大深度是3，因此视频数据320的编码单元325可包括具有64的长轴尺寸的最大编码单元，以及由于通过划分三次最大编码单元将深度加深至3而具有32、16和8的长轴尺寸的编码单元。

图14是根据本发明的实施例的基于编码单元的图像编码器400的框图。

图像编码器400执行视频编码设备100的编码单元确定器120的操作以对图像数据进行编码。换句话说，帧内预测器410在当前帧405中以帧内模式对编码单元执行帧内预测，运动估计器420和运动补偿器425通过使用当前帧405和参考帧495在当前帧405中以帧间模式对编码单元执行帧间估计和运动补偿。

从帧内预测器410、运动估计器420和运动补偿器425输出的数据通过变换器430和量化器440被输出为被量化的变换系数。被量化的变换系数通过反量化器460和逆变换器470被恢复为空间域中的数据，并且空间域中的恢复的数据在通过去块单元480和环路滤波单元490被后处理之后被输出为参考帧495。被量化的变换系数可通过熵编码器450被输出为比特流455。

为了使图像编码器400应用在视频编码设备100中，图像编码器400的所有元件（即，帧内预测器410、运动估计器420、运动补偿器425、变换器430、量化器440、熵编码器450、反量化器460、逆变换器470、去块单元480和环路滤波单元490）在考虑每个最大编码单元的最大深度时基于在具有树结构的编码单元中的每个编码单元来执行操作。

具体地，帧内预测器410、运动估计器420和运动补偿器425在考虑当前最大编码单元的最大尺寸和最大深度时确定在具有树结构的编码单元中的每个编码单元的分区和预测模式，并且变换器430确定在具有树结构的编码单元中的每个编码单元中的变换单元的尺寸。

如果图像编码器400对多视点视频结构中的另外视点图像进行编码，则当运动估计器420针对最大编码单元对每个编码单元根据树结构确定用于帧间预测的预测单元，并针对每个预测单元执行帧间预测时，另外视点关键画面可参考相同视点的不同关键图像被预测。另外，图像编码400可产生深度图，其中，在具有相同POC的基本视点图像和另外视点图像之间的深度差记录在深度图中。

另外，运动补偿器425可针对用于帧间预测的每个预测单元执行运动补偿，来恢复另外视点图像。另外视点图像的恢复的图像可被用作用于另外视点图像的帧间预测的参考图像。当当前另外视点关键图像被恢复时，如果作为当前另外视点关键画面的参考图像的另外视点关键画面（参考关键图像）未被恢复，则可通过使用具有与当前另外视点关键画面相同POC序号的基本视点关键画面以及当前另外视点关键画面的深度图来恢复当前另外视点关键画面。

图15是根据本发明的实施例的基于编码单元的图像解码器500的框图。

解析器510从比特流505对将被解码的编码的图像数据和对于解码所需的关于编码的信息进行解析。编码的图像数据通过熵解码器520和反量化器530被输出为被反量化的数据，被反量化的数据通过逆变换器540被恢复成空间域中的图像数据。

帧内预测器550针对空间域中的图像数据，以帧内模式对编码单元执行帧内预测，运动补偿器560通过使用参考帧585以帧间模式对编码单元执行运动补偿。

经过帧内预测器550和运动补偿器560的空间域中的图像数据可在通过去块单元570和环路滤波单元580被后处理之后被输出为恢复帧595。此外，通过去块单元570和环路滤波单元580被后处理的图像数据可被输出为参考帧585。

为了在视频解码设备200的图像数据解码器230中解码图像数据，图像解码器500可执行在解析器510执行操作之后被执行的操作。

为了使图像解码器500被应用于视频解码设备200，图像解码器500的所有元件（即，解析器510、熵解码器520、反量化器530、逆变换器540、帧内预测器550、运动补偿器560、去块单元570和环路滤波单元580）可针对每个最大编码单元基于具有树结构的编码单元执行操作。

具体地，帧内预测器550和运动补偿器560基于针对每个具有树结构的每个编码单元的分区和预测模式来执行操作，逆变换器540可基于针对每个编码单元的变换单元的尺寸来执行操作。

具体地，当图像解码器500对多视点视频结构的增强层图像流进行解码时，运动补偿器560可针对帧间预测对每个预测单元执行运动补偿来恢复另外视点图像。当当前另外视点关键画面被恢复时，如果作为当前另外视点关键画面的参考图像的另外视点关键画面（参考关键画面）未被恢复，则通过使用具有与当前另外视点关键画面相同POC序号的基本视点关键画面以及当前另外视点关键画面的深度图来恢复当前另外视点关键画面。

图16是示出根据本发明的实施例的根据深度的较深层编码单元和分区的示图。

视频编码设备100和视频解码设备200使用分层编码单元以考虑图像的特性。编码单元的最大高度、最大宽度和最大深度可根据图像的特性被自适应地确定，或可被用户不同地设置。可根据编码单元的预定最大尺寸来确定根据深度的较深层编码单元的尺寸。

在编码单元的分层结构600中，根据本发明的实施例，编码单元的最大高度和最大宽度均为64，最大深度是4。在此情况下，最大深度表示从最大编码单元到最小编码单元的被划分的总次数。由于深度沿着分层结构600的垂直轴加深，因此较深层编码单元的高度和宽度均被划分。此外，沿着分层结构600的水平轴示出了作为对每个较深层编码单元进行预测编码的基础的预测单元和分区。

换句话说，编码单元610是分层结构600中的最大编码单元，其中，深度是0，尺寸（即，高度乘以宽度）是64×64。深度沿着垂直轴加深，存在尺寸为32×32和深度为1的编码单元620、尺寸为16×16和深度为2的编码单元630、尺寸为8×8和深度为3的编码单元640以及尺寸为4×4和深度为4的编码单元650。尺寸为4×4和深度为4的编码单元650是最小编码单元。

编码单元的预测单元和分区根据每个深度沿着水平轴被排列。换句话说，如果尺寸为64×64和深度为0的编码单元610是预测单元，则可将预测单元划分成包括在编码单元610中的分区，即，尺寸为64×64的分区610、尺寸为64×32的分区612、尺寸为32×64的分区614或尺寸为32×32的分区616。

类似地，可将尺寸为32×32和深度为1的编码单元620的预测单元划分成包括在编码单元620中的分区，即，尺寸为32×32的分区620、尺寸为32×16的分区622、尺寸为16×32的分区624和尺寸为16×16的分区626。

类似地，可将尺寸为16×16和深度为2的编码单元630的预测单元划分成包括在编码单元630中的分区，即，包括在编码单元630中的尺寸为16×16的分区、尺寸为16×8的分区632、尺寸为8×16的分区634和尺寸为8×8的分区636。

类似地，可将尺寸为8×8和深度为3的编码单元640的预测单元划分成包括在编码单元640中的分区，即，包括在编码单元640中的尺寸为8×8的分区、尺寸为8×4的分区642、尺寸为4×8的分区644和尺寸为4×4的分区646。

尺寸为4×4和深度为4的编码单元650是最小编码单元和最低深度的编码单元。编码单元650的预测单元仅被分配给尺寸为4×4的分区。

为了确定构成最大编码单元610的编码单元的至少一个编码深度，视频编码设备100的编码单元确定器120针对包括在最大编码单元610中的与每个深度相应的编码单元执行编码。

包括相同范围和相同尺寸内的数据的根据深度的较深层编码单元的数量随着深度加深而增加。例如，与深度2相应的四个编码单元需要覆盖包括在与深度1相应的一个编码单元中的数据。因此，为了根据深度比较相同数据的编码结果，与深度1相应的编码单元和四个与深度2相应的编码单元均被编码。

为了针对深度中的当前深度执行编码，可沿着分层结构600的水平轴，通过针对与当前深度相应的编码单元中的每个预测单元执行编码来选择针对当前深度的最小编码误差。可选地，可通过随着深度沿分层结构600的垂直轴加深来针对每个深度执行编码，以通过根据深度比较最小编码误差搜索最小编码误差。可将编码单元610中具有最小编码误差的深度和分区选择为编码单元610的编码深度和分区类型。

图17是用于描述根据本发明的实施例的在编码单元710和变换单元720之间的关系的示图。

视频编码设备100或视频解码设备200针对每个最大编码单元根据具有小于或等于最大编码单元的尺寸的编码单元对图像进行编码或解码。可基于不大于相应编码单元的数据单元来选择在编码期间用于变换的变换单元的尺寸。

例如，在视频编码设备100或视频解码设备200中，如果编码单元710的尺寸是64×64，则可通过使用尺寸为32×32的变换单元720来执行变换。

此外，可通过对小于64×64的尺寸为32×32、16×16、8×8和4×4的每个变换单元执行变换来编码尺寸为64×64的编码单元710的数据，然后可选择具有最小编码误差的变换单元。

图18是用于描述根据本发明的实施例的与编码深度相应的编码单元的编码信息的示图。

视频编码设备100的输出单元130可将针对与编码深度相应的每个编码单元的关于分区类型的信息800、关于预测模式的信息810以及关于变换单元的尺寸的信息820编码为关于编码模式的信息并进行发送。

信息800指示关于通过划分当前编码单元的预测单元而获得的分区的形状的信息，其中，所述分区是用于对当前编码单元进行预测编码的数据单元。例如，可将尺寸为2N×2N的当前编码单元CU_0划分成以下分区中的任意一个：尺寸为2N×2N的分区802、尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808。这里，关于分区类型的信息800被设置来指示尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808之一。

信息810指示每个分区的预测模式。例如，信息810可指示对由信息800指示的分区所执行的预测编码的模式，即，帧内模式812、帧间模式814或跳过模式816。

信息820指示当对当前编码单元执行变换时所基于的变换单元。例如，变换单元可以是第一帧内变换单元822、第二帧内变换单元824、第一帧间变换单元826或第二帧内变换单元828。

视频解码设备200的图像数据和编码信息提取器220可根据每个较深层编码单元针对解码提取并使用信息800、810和820。

图19是根据本发明的实施例的根据深度的较深层编码单元的示图。

划分信息可用来指示深度的改变。划分信息指示当前深度的编码单元是否被划分成更低深度的编码单元。

用于对深度为0和尺寸为2N_0×2N_0的编码单元900进行预测编码的预测单元910可包括尺寸为2N_0×2N_0的分区类型912、尺寸为2N_0×N_0的分区类型914、尺寸为N_0×2N_0的分区类型916和尺寸为N_0×N_0的分区类型918。图19仅示出了通过对称地划分预测单元910而获得的分区类型912至918，但是分区类型不限于此，并且预测单元910的分区可包括非对称分区、具有预定形状的分区和具有几何形状的分区。

根据每种分区类型，对尺寸为2N_0×2N_0的一个分区、尺寸为2N_0×N_0的两个分区、尺寸为N_0×2N_0的两个分区和尺寸为N_0×N_0的四个分区重复地执行预测编码。可对尺寸为2N_0×2N_0、N_0×2N_0、2N_0×N_0和N_0×N_0的分区执行在帧内模式和帧间模式下的预测编码。可仅对尺寸为2N_0×2N_0的分区执行在跳过模式下的预测编码。

比较分区类型912至918中的包括预测编码的编码误差进行比较，并在分区类型中确定最小编码误差。如果在分区类型912至916中的一个分区类型中编码误差最小，则可不将预测单元910划分成更低深度。

如果在分区类型918中编码误差最小，则深度从0改变到1以在操作920中划分分区类型918，并对深度为2和尺寸为N_0×N_0的编码单元930重复地执行编码来搜索最小编码误差。

用于对深度为1和尺寸为2N_1×2N_1（=N_0×N_0）的编码单元930进行预测编码的预测单元940可包括以下分区类型的分区：尺寸为2N_1×2N_1的分区类型942、尺寸为2N_1×N_1的分区类型944、尺寸为N_1×2N_1的分区类型946以及尺寸为N_1×N_1的分区类型948。

如果在分区类型948中编码误差最小，则深度从1改变到2以在操作950中划分分区类型948，并对深度为2和尺寸为N_2×N_2的编码单元960重复执行编码来搜索最小编码误差。

当最大深度是d时，根据深度的划分操作可被执行直到深度变成d-1，并且划分信息可被编码直到深度是0至d-2中的一个。换句话说，当编码被执行直到在与d-2的深度相应的编码单元在操作970中被划分之后深度是d-1时，用于对深度为d-1和尺寸为2N_(d-1)×2N_(d-1)的编码单元980进行预测编码的预测单元990可包括以下分区类型的分区：尺寸为2N_(d-1)×2N_(d-1)的分区类型992、尺寸为2N_(d-1)×N_(d-1)的分区类型994、尺寸为N_(d-1)×2N(d-1)的分区类型996和尺寸为N_(d-1)×N(d-1)的分区类型998。

可对分区类型992至998中的尺寸为2N_(d-1)×2N_(d-1)的一个分区、尺寸为2N_(d-1)×N_(d-1)的两个分区、尺寸为N_(d-1)×2N_(d-1)的两个分区、尺寸为N_(d-1)×N_(d-1)的四个分区重复地执行预测编码以搜索具有最小编码误差的分区类型。

即使当分区类型998具有最小编码误差时，由于最大深度是d，因此深度为d-1的编码单元CU_(d-1)也不再被划分到更低深度，对于构成当前最大编码单元900的编码单元的编码深度被确定为d-1，并且当前最大编码单元900的分区类型可被确定为N_(d-1)×N_(d-1)。此外，由于最大深度是d并且具有最低深度d-1的最小编码单元980不再被划分到更低深度，因此不设置针对最小编码单元980的划分信息。

数据单元999可以是用于当前最大编码单元的“最小单元”。根据本发明的实施例的最小单元可以是通过将最小编码单元划分成4份而获得的矩形数据单元。通过重复地执行编码，视频编码设备100可通过根据编码单元900的深度比较编码误差来选择具有最小编码误差的深度以确定编码深度，并将相应分区类型和预测模式设置为编码深度的编码模式。

因此，在所有深度1至d中比较根据深度的最小编码误差，可将具有最小编码误差的深度确定为编码深度。编码深度、预测单元的分区类型和预测模式可被编码为关于编码模式的信息并被发送。此外，由于编码单元被从深度0划分到编码深度，因此仅将编码深度的划分信息设置成0，将排除编码深度之外的深度的划分信息设置到1。

视频解码设备200的图像数据和编码信息提取器220可提取并使用关于编码单元900的编码深度和预测单元的信息以对分区912进行解码。视频解码设备200可通过使用根据深度的划分信息将划分信息是0的深度确定为编码深度，并将关于相应深度的编码模式的信息用于解码。

图20至图22是用于描述根据本发明的实施例的编码单元1010、预测单元1060和变换单元1070之间的关系的示图。

编码单元1010是在最大编码单元中与由视频编码设备100确定的编码深度相应的具有树结构的编码单元。预测单元1060是编码单元1010中的每个的预测单元的分区，变换单元1070是编码单元1010中的每个的变换单元。

当在编码单元1010中最大编码单元的深度是0时，编码单元1012和1054的深度是1，编码单元1014、1016、1018、1028、1050和1052的深度是2，编码单元1020、1022、1024、1026、1030、1032和1048的深度是3，编码单元1040、1042、1044和1046的深度是4。

在预测单元1060中，通过互粉编码单元1010中的编码单元获得一些编码单元1014、1016、1022、1032、1048、1050、1052和1054。换句话说，在编码单元1014、1022、1050和1054中的分区类型具有2N×N的尺寸，在编码单元1016、1048和1052中的分区类型具有N×2N的尺寸，编码单元1032的分区类型具有N×N的尺寸。编码单元1010的预测单元和分区小于或等于每个编码单元。

在小于编码单元1052的数据单元中对变换单元1070中的编码单元1052的图像数据执行变换或逆变换。此外，变换单元1070中的编码单元1014、1016、1022、1032、1048、1050和1052在尺寸和形状方面不同于预测单元1060中的编码单元1014、1016、1022、1032、1048、1050和1052。换句话说，视频编码设备100和视频解码设备200可对相同编码单元中的数据单元单独地执行帧内预测、运动估计、运动补偿、变换和逆变换。

因此，在最大编码单元的每个区域中对具有分层结构的编码单元中的每个编码单元递归地执行编码以确定最佳编码单元，从而可获得具有递归树结构的编码单元。编码信息可包括关于编码单元的划分信息、关于分区类型的信息、关于预测模式的信息和关于变换单元的尺寸的信息。表1示出可由视频编码设备100和视频解码设备200设置的编码信息。

[表1]

视频编码设备100的输出单元130可输出关于具有树结构的编码单元的编码信息，视频解码设备200的图像数据和编码信息提取器220可从接收到的比特流提取关于具有树结构的编码单元的编码信息。

划分信息指示是否将当前编码单元划分成更低深度的编码单元。如果当前深度的划分信息是0，则当前编码单元不再被划分成更低深度的深度是编码深度，从而可针对所述编码深度来定义关于分区类型、预测模式和变换单元的尺寸的信息。如果当前编码单元根据划分信息被进一步划分，则对更低深度的四个划分编码单元独立地执行编码。

预测模式可以是帧内模式、帧间模式和跳过模式中的一种。帧内模式和帧间模式可定义在所有分区类型中，跳过模式仅被定义在尺寸为2N×2N的分区类型中。

关于分区类型的信息可指示通过对称地划分预测单元的高度或宽度而获得的尺寸为2N×2N、2N×N、N×2N和N×N的对称分区类型，以及通过非对称地划分预测单元的高度或宽度而获得的尺寸为2N×nU、2N×nD、nL×2N和nR×2N的非对称分区类型。可通过将预测单元的高度划分成1:3和3:1来分别获得尺寸为2N×nU和2N×nD的非对称分区类型，可通过将预测单元的宽度划分成1:3和3:1来分别获得尺寸为nL×2N和nR×2N的非对称分区类型。

可将变换单元的尺寸设置成帧内模式下的两种类型和帧间模式下的两种类型。换句话说，如果变换单元的划分信息是0，则变换单元的尺寸可以是作为当前编码单元的尺寸的2N×2N。如果变换单元的划分信息是1，则可通过划分当前编码单元来获得变换单元。此外，如果尺寸为2N×2N的当前编码单元的分区类型是对称分区类型，则变换单元的尺寸可以是N×N，如果当前编码单元的分区类型是非对称分区类型，则变换单元的尺寸可以是N/2×N/2。

关于具有树结构的编码单元的编码信息可包括与编码深度相应的编码单元、预测单元和最小单元中的至少一种。与编码深度相应的编码单元可包括包含相同编码信息的预测单元和最小单元中的至少一种。

相应地，通过比较邻近数据单元的编码信息来确定邻近数据单元是否包括在与编码深度相应的相同编码单元中。此外，通过使用数据单元的编码信息来确定与编码深度相应的相应编码单元，从而可确定最大编码单元中的编码深度的分布。

相应地，如果当前编码单元基于邻近数据单元的编码信息被预测，则可直接参考并使用在与当前编码单元邻近的较深层编码单元中的数据单元的编码信息。

可选地，如果当前编码单元基于邻近数据单元的编码信息被预测，则可使用所述数据单元的编码信息来搜索与当前编码单元邻近的数据单元，搜索的邻近编码单元可被参考用于预测当前编码单元。

图23是用于描述根据表1的编码模式信息的编码单元、预测单元或分区和变换单元之间的关系的示图。

最大编码单元1300包括编码深度的编码单元1302、1304、1306、1312、1314、1316和1318。这里，由于编码单元1318是编码深度的编码单元，因此划分信息可以被设置成0。可将关于尺寸为2N×2N的编码单元1318的分区类型的信息设置成以下分区类型中的一种：尺寸为2N×2N的分区类型1322、尺寸为2N×N的分区类型1324、尺寸为N×2N的分区类型1326、尺寸为N×N的分区类型1328、尺寸为2N×nU的分区类型1332、尺寸为2N×nD的分区类型1334、尺寸为nL×2N的分区类型1336以及尺寸为nR×2N的分区类型1338。

变换单元划分信息（即，Tu（变换单元）尺寸标志）是变换索引的类型。与变换索引相应的变换单元的尺寸可根据编码单元的预测单元类型或分区类型而不同。

例如，当分区类型被设置成对称（即，分区类型1322、1324、1326或1328）时，如果变换单元的划分信息（TU尺寸标志）是0，则设置尺寸为2N×2N的变换单元1342，并且如果TU尺寸标志是1，则设置尺寸为N×N的变换单元1344。

当分区类型被设置成非对称（即，分区类型1332、1334、1336或1338）时，如果TU尺寸标志是0，则设置尺寸为2N×2N的变换单元1352，并且如果TU尺寸标志是1，则设置尺寸为N/2×N/2的变换单元1354。

参照图23，TU尺寸标志是具有0或1的标志，但是TU尺寸标志不限于1比特，并且当TU尺寸标志从0开始增加时，可分层地划分变换单元以具有树结构。可将变换单元的划分信息（TU尺寸标志）可以是变换索引的示例。

在这种情况下，根据本发明的实施例，可通过使用变换单元的TU尺寸标志以及变换单元的最大尺寸和最小尺寸来表示被实际使用的变换单元的尺寸。根据本发明的实施例，视频编码设备100能够对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志进行编码。可将编码最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志的结果插入到SPS中。根据本发明的实施例，视频解码设备200可通过使用最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志来对视频进行解码。

例如，（a）如果当前编码单元的尺寸是64×64并且最大变换单元尺寸是32×32，（a-1）则当TU尺寸标志是0时变换单元的尺寸可以是32×32，（a-2）当TU标志尺寸是1时变换单元的尺寸可以是16×16，并且（a-3）当TU尺寸标志是2时变换单元的尺寸可以是8×8。

如另一示例，（b）如果当前编码单元的尺寸是32×32并且最小变换单元尺寸是32×32，（b-1）则当TU尺寸标志是0时变换单元的尺寸是32×32。这里，由于变换单元的尺寸不能小于32×32，因此TU尺寸标志不能被设置成除0之外的值。

如另一示例，（c）如果当前编码单元的尺寸是64×64并且最大TU尺寸标志是1，则TU尺寸标志可以是0或1。这里，TU尺寸标志不能被设置成除0或1以外的值。

因此，如果当尺寸标志是0时定义最大TU尺寸标志为“MaxTransformSizeIndex”、最小变换单元尺寸为“MinTransformSize”并且变换单元尺寸为“RootTuSize”，则可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”可通过等式（1）来定义：

CurrMinTuSize=max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex))   （1）

与可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”相比，当TU尺寸标志是0时的变换单元尺寸“RootTuSize”可表示可在系统中选择的最大变换单元尺寸。在等式（1）中，“RootTuSize/(2^MaxTransformSizeIndex)”表示当在TU尺寸标志是0时的变换单元尺寸“RootTuSize”被划分与最大TU尺寸标志相应的次数时的变换单元尺寸，“MinTransformSize”表示最小变换尺寸。因此，在“RootTuSize/(2^MaxTransformSizeIndex)”和“MinTransformSize”中的较小值可以是可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”。

根据本发明的实施例，最大变换单元尺寸“RootTuSize”可根据预测模式的类型而不同。

例如，如果当前预测模式是帧间模式，则“RootTuSize”可通过使用以下等式（2）来确定。在等式（2）中，“MaxTransformSize”表示最大变换单元尺寸，“PUSize”表示当前预测单元尺寸。

RootTuSize=min(MaxTransformSize,PUSize)          （2）

也就是说，如果当前预测模式是帧间模式，则当TU尺寸标志是0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前预测单元尺寸中的较小值。

如果当前分区单元的预测模式是帧内模式，则“RootTuSize”可通过使用以下等式（3）来确定。在等式（3）中，“PartitionSize”表示当前分区单元的尺寸。

RootTuSize=min(MaxTransformSize,PartitionSize)          （3）

也就是说，如果当前预测模式是帧内模式，则当TU尺寸标志是0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前分区单元的尺寸中的较小值。

然而，根据分区单元中的预测模式的类型而变化的当前最大变换单元尺寸“RootTuSize”仅是示例，本发明不限于此。

参照图11至图23描述的根据基于具有树结构的编码单元的视频编码方法，针对树结构的每个编码单元对空间域的图像数据进行编码。根据基于具有树结构的编码单元的视频解码方法，对每个最大编码单元执行解码以恢复空间域的图像数据。因此，可恢复画面和作为画面序列的视频。恢复后的视频可被再现设备再现、被存储在存储介质中、或通过网络被发送。

根据本发明的实施例可编写为计算机程序，并可被实现在使用计算机可读记录介质来执行所述程序的通用数字计算机中。计算机可读记录介质的示例包括磁存储介质（例如，ROM、软盘、硬盘等）和光学记录介质（例如，CD-ROM或DVD）。

为了便于描述，参照图1至图23所描述的根据多视点视频预测方法、多视点视频预测恢复方法、或多视点视频编码方法的视频编码方法将被共同成为“根据本发明的视频编码方法”。另外，参照图1至图23所描述的根据多视点视频预测恢复方法或多视点视频解码方法的视频解码方法将被称为“根据本发明的视频解码方法”。

参照图1至图23所描述的包括多视点视频预测设备10、多视点视频预测恢复设备20、视频编码设备100或图像编码器400的视频编码设备将被称为“根据本发明的视频编码设备”。另外，参照图1至图23所描述的包括多视点视频预测恢复设备20、视频解码设备200或图像解码器500的视频解码设备将被称为“根据本发明的视频解码设备”。

现在将详细描述根据本发明的实施例的存储程序的计算机可读记录介质（例如，盘260）。

图24a示出根据本发明的实施例的存储程序的盘260的物理结构。作为存储介质的盘260可以是硬盘驱动器、致密盘只读存储器（CD-ROM）盘、蓝光盘或数字多功能盘（DVD）。盘260包括多个同心磁道Tf，每个同心磁道Tf沿盘260的圆周方向被划分成特定数量的扇区Se。在盘260的特定区域中，可分配并存储执行以上所描述的以下方法的程序：预测多视点视频的方法、恢复多视点视频的预测方法、对多视点视频进行编码的方法、以及对多视点视频进行解码的方法。

现在将参照图24b来描述使用存储以下程序的存储介质来实现的计算机系统，其中，所述程序用于执行以上所描述的视频编码方法和视频解码方法。

图24b示出通过使用盘260来记录并读取程序的盘驱动器268。计算机系统267可经由盘驱动器268将执行根据本发明的实施例的视频编码方法和视频解码方法中的至少一个的程序存储在盘260中。为了在计算机系统267中运行存储在盘260中的程序，可通过使用盘驱动器268从盘260读取程序并将程序发送到计算机系统267。

执行根据本发明的实施例的视频编码方法和视频解码方法中的至少一个的程序不仅可被存储在图24a或图24b中示出的盘260中，而且可被存储在存储卡、ROM卡带或固态驱动器（SSD）中。

以下将描述应用以上所描述的视频编码方法和视频解码方法的系统。

图25示出提供内容分布服务的内容供应系统1100的整体结构。将通信系统的服务区域划分成预定尺寸的小区，并将无线基站1170、1180、1190和1200分别安装在这些小区中。

内容供应系统1100包括多个独立装置。例如，诸如计算机1210、个人数字助理（PDA）1220、摄像机1230和移动电话1250的多个独立装置经由互联网服务提供商1120、通信网络1140和无线基站1170、1180、1190和1200连接到互联网1110。

然而，内容供应系统1100不限于如图25中所示，并且装置可选择性地被连接到内容供应系统1100。多个独立装置可不经由无线基站1170、1180、1190和1200而直接连接到通信网络1140。

摄像机1230是能够捕捉视频图像的成像装置，例如，数字摄像机。移动电话1250可利用各种协议（例如，个人数字通信（PDC）、码分多址（CDMA）、宽带码分多址（W-CDMA）、全球移动通信系统（GSM）和个人手持电话系统（PHS））中的至少一种通信方法。

摄像机1230可经由无线基站1190和通信网络1140连接到流服务器1130。流服务器1130允许经由摄像机1230从用户接收到的内容经由实时广播被流传输。可使用摄像机1230或流服务器1130来对从摄像机1230接收到的内容进行编码。通过摄像机1230捕捉到的视频数据可经由计算机1210被发送到流服务器1130。

通过相机1230捕捉到的视频数据也可经由计算机1210被发送到流服务器1130。相机1260是能够捕捉静止图像和视频图像两者的成像装置，相机1260类似于数字相机。可使用相机1260或计算机1210对通过相机1260捕捉到的视频数据进行编码。可将执行对视频进行编码和解码的软件存储在可由计算机1210访问的计算机可读记录介质（例如，CD-ROM盘、软盘、硬盘驱动器、SSD或存储卡）中。

如果视频数据通过内置在移动电话1250中的相机被捕捉到，则可从移动电话1250接收视频数据。

还可通过安装在摄像机1230、移动电话1250或相机1260中的大规模集成电路（LSI）系统来对视频数据进行编码。

根据本发明的实施例，内容供应系统1100可对由用户使用摄像机1230、相机1260、移动电话1250或其它成像装置所记录的内容数据（例如，在音乐会期间记录的内容）进行编码，并将编码后的内容数据发送到流服务器1130。流服务器1130可将编码后的内容数据以流内容的类型发送到请求内容数据的其它客户端。

客户端是能够对编码后的内容数据进行解码的装置，例如，计算机1210、PDA1220、摄像机1230或移动电话1250。因此，内容供应系统1100允许客户端接收并再现编码后的内容数据。此外，内容供应系统1100允许客户端实时接收编码后的内容数据并对编码后的内容数据进行解码和再现，从而实现个人广播。

包括在内容供应系统1100中的多个独立装置的编码和解码操作可类似于根据本发明的实施例的视频编码设备和视频解码设备的编码和解码操作。

现在将参照图26和图27更加详细地描述包括在根据本发明的实施例的内容供应系统1100中的移动电话1250。

图26示出根据本发明的实施例的应用视频编码方法和视频解码方法的移动电话1250的外部结构。移动电话1250可以是智能电话，所述智能电话的功能不受限，并且所述智能电话的大部分功能可被改变或扩展。

移动电话1250包括与图26的无线基站1200交换射频（RF）信号的内部天线1251，并包括用于显示由相机1253捕捉到的图像或经由天线1251接收到并经解码的图像的显示屏1252（例如，液晶显示器（LCD）或有机发光二极管（OLED）屏幕）。智能电话1251包括包含有控制按钮和触摸面板的操作面板1254。如果显示屏1252是触摸屏，则操作面板1254还包括显示屏1252的触摸感测面板。智能电话1251包括用于输出语音和声音的扬声器1258或其它类型声音输出单元、以及用于输入语音和声音的麦克风1255或其它类型声音输入单元。智能电话1251还包括用于捕捉视频和静止图像的相机1253，诸如电荷耦合器件（CCD）相机。智能电话1251还可包括：存储介质1257，用于存储通过相机1253捕捉到的、经由电子邮箱接收到的、或根据各种方式获得的编码/解码数据（例如，视频或静止图像）；插槽1256，存储介质1257经由插槽1256被装入移动电话1250中。存储介质1257可以是闪存，例如，包括在塑料壳中的安全数字（SD）卡或电可擦和可编程只读存储器（EEPROM）。

图27示出根据本发明的实施例的移动电话1250的内部结构。为了系统地控制包括显示屏1252和操作面板1254的移动电话1250的部件，电源电路1270、操作输入控制器1264、图像编码单元1272、相机接口1263、LCD控制器1262、图像解码单元1269、复用器/解复用器1268、记录/读取单元1267、调制/解调单元1266以及声音处理器1265经由同步总线1273被连接到中央控制器1271。

如果用户操作电源按钮，并从“断电”状态设置为“上电”状态，则电源电路1270从电池组向移动电话1250的所有部件供电，从而将移动电话1250设置为操作模式。

中央控制器1271包括中央处理单元（CPU）、ROM和随机存取存储器（RAM）。

在移动电话1250将通信数据发送到外部的同时，在中央控制器的控制下，在移动电话1250中产生数字信号。例如，声音处理器1265可产生数字声音信号，图像编码单元1272可产生数字图像信号，并且消息的文本数据可经由操作面板1254和操作输入控制器1264被产生。当在中央控制器1271的控制下数字信号被传送到调制/解调单元1266时，调制/解调单元1266对数字信号的频带进行调制，并且通信单元1261对频带调制后的数字声音信号执行数模转换（DAC）和频率转换。从通信电路1261输出的发送信号经由天线1251被发送到语音通信基站或无线基站1200。

例如，当移动电话1250处于通话模式时，在中央控制器1271的控制下，经由麦克风1255获得的声音信号通过声音处理器1265被变换成数字声音信号。数字声音信号可经由调制/解调单元1266和通信电路1261被变换成发送信号，并经由天线1251被发送。

当文本消息（例如，电子邮件）在数据通信模式下被发送时，文本消息的文本数据经由操作面板1254被输入，并经由操作输入控制器1264被发送到中央控制器1261。在中央控制器1261的控制下，文本数据经由调制/解调单元1266和通信电路1261被变换成发送信号，并经由天线1251被发送到无线基站1200。

为了在数据通信模式下发送图像数据，由相机1253捕捉到的图像数据经由相机接口1263被提供给图像编码单元1272。捕捉到的图像数据可经由相机接口1263和LCD控制器1262被直接显示在显示屏1252上。

图像编码单元1272的结构可与以上描述的视频编码设备100的结构相应。图像编码单元1272可根据由以上描述的视频编码设备100或图像编码器400所使用的视频编码方法将从相机1253接收到的图像数据变换为压缩和编码后的图像数据，并然后将编码后的图像数据输出到复用器/解复用器1268。在相机1253的记录操作期间，由移动电话1250的麦克风1255获得的声音信号可经由声音处理器1265被变换成数字声音数据，并且数字声音数据可被传送到复用器/解复用器1268。

复用器/解复用器1268对从图像编码单元1272接收到的编码后的图像数据以及从声音处理器1265接收到的声音数据进行复用。对数据进行复用的结果可经由调制/解调单元1266和通信电路1261被变换成发送信号，然后可经由天线1251被发送。

当移动电话1250从外部接收通信数据时，可对经由天线1251接收到的信号执行频率恢复和ADC以将信号变换成数字信号。调制/解调单元1266可对数字信号的频带进行调制。根据频带调制后的数字信号的类型将所述数字信号发送到视频解码单元1269、声音处理器1265或LCD控制器1262。

在通话模式下，移动电话1250对经由天线1251接收到的信号进行放大，并通过对放大后的信号执行频率转换和ADC来获得数字声音信号。在中央控制器1271的控制下，接收到的数字声音信号经由调制/解调单元1266和声音处理器1265被变换成模拟声音信号，并且模拟声音信号经由扬声器1258被输出。

当在数据通信模式下时，接收在互联网网站上访问的视频文件的数据，经由调制/解调单元1266将经由天线1251从无线基站1200接收到的信号输出为复用数据，并将复用数据发送到复用器/解复用器1268。

为了对经由天线1251接收到的复用数据进行解码，复用器/解复用器1268将复用数据解复用成编码后的视频数据流和编码后的音频数据流。经由同步总线1273，编码后的视频数据流和编码后的音频数据流分别被提供给视频解码单元1269和声音处理器1265。

图像解码单元1269的结构与以上描述的视频解码设备200的结构相应。图像解码单元1269可根据由以上描述的视频解码设备200或图像解码器500所使用的视频解码方法对编码后的视频数据进行解码来获得恢复后的视频数据，并经由LCD控制器1262将恢复后的视频数据提供给显示屏1252。

因此，可将在互联网网站上访问的视频文件的数据显示在显示屏1252上。同时，声音处理器1265可将音频数据变换成模拟声音信号，并将模拟声音信号提供给扬声器1258。因此，也可经由扬声器1258再现在互联网网站上访问的视频文件中包含的音频数据。

移动电话1250或其它类型的通信终端可以是包括根据本发明的实施例的视频编码设备和视频解码设备的收发终端，可以是仅包括视频编码设备的收发终端，或者可以是仅包括视频解码设备的收发终端。

根据本发明的通信系统不限于以上参照图25描述的通信系统。例如，图28示出根据本发明的实施例的使用通信系统的数字广播系统。图28的数字广播系统可通过使用根据本发明的实施例的视频编码设备和视频解码设备来接收经由卫星或地面网络发送的数字广播。

具体地，广播站1289通过使用无线电波将视频数据流发送到通信卫星或广播卫星1290。广播卫星1290发送广播信号，广播信号经由家用天线1286被发送到卫星广播接收器。在每个房屋中，可通过TV接收器1281、机顶盒1287或另一装置对编码后的视频流进行解码并再现。

当根据本发明的实施例的视频解码设备被实现在再现设备1283中时，再现设备1283可对记录在存储介质1282（诸如用于存储数字信号的盘或存储卡）中的编码后的视频流进行解析和解码，以恢复数字信号。因此，可在例如监视器1284上再现恢复后的视频信号。

在被连接到用于卫星/地面广播的天线1286或用于接收有线电视（TV）广播的有线天线1285的机顶盒1287中，可安装根据本发明的实施例的视频解码设备。从机顶盒1287输出的数据也可被再现在TV监视器1288上。

如另一示例，可将根据本发明的实施例的视频解码设备安装在TV接收器1281中，而不是机顶盒1287中。

包括适当天线1291的车辆1292可接收从卫星1290或图26的无线基站1170发送的信号。可在内置在车辆1292中的车辆导航系统1293的显示屏上再现解码后的视频。

视频信号可由根据本发明的实施例的视频编码设备来编码，然后可被存储在存储介质中。具体地，可由DVD记录器将图像信号存储在DVD盘中，或可由硬盘记录器1295将图像信号存储在硬盘中。如另一示例，可将视频信号存储在SD卡1297中。如果硬盘记录器1295包括根据本发明的实施例的视频解码设备，则记录在DVD盘1296、SD卡1297或另一存储介质上的视频信号可被再现于TV监视器1288上。

车辆导航系统1293可不包括图28的相机1253、相机接口1263和图像编码单元1272。例如，计算机1210和TV接收器1281可不包括在图28的相机1253、相机接口1263和图像编码单元1272中。

图29示出根据本发明的实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构。

云计算系统可包括云计算服务器1400、用户数据库（DB）1410、多个计算资源1420和用户终端。

响应于来自用户终端的请求，云计算系统经由数据通信网络（例如，互联网）提供多个计算资源1420的点播外包服务。在云计算环境下，服务提供商通过经由使用虚拟技术组合位于不同的物理位置的数据中心处的计算资源来为用户提供想要的服务。服务用户不必将计算资源（例如，应用、存储器、操作系统（OS）和防护）安装在他/她拥有的终端中以使用它们，而是可在想要的时间点在通过虚拟技术产生的虚拟空间的服务中选择和使用想要的服务。

被指定的服务用户的用户终端经由包括互联网和移动通信网络的数据通信网络被连接到云计算服务器1410。可从云计算服务器1410向用户终端提供云计算服务（更具体地说，视频再现服务）。用户终端可以是能够被连接到互联网的各种类型的电子装置，例如，桌上型PC1430、智能TV1440、智能电话1450、笔记本计算机1460、便携式多媒体播放器（PMP）1470、平板PC1480等。

云计算服务器1410可组合分布在云网络中的多个计算资源1420，并向用户终端提供组合的结果。所述多个计算资源1420可包括各种数据服务，并可包括从用户终端更新的数据。如上所描述的，云计算服务器1410可通过根据虚拟技术组合分布在不同区域中的视频数据库来向用户终端提供想要的服务。

将关于已经订阅云计算系统的用户的用户信息存储在用户DB1410中。用户信息可包括用户的注册信息、地址、姓名和个人信用信息。用户信息还可包括视频的索引。这里，所述索引可包括已经被再现的视频的列表、正在被再现的视频的列表，之前被再现的视频的暂停点等。

可在用户装置之间共享存储在用户DB1410中的关于视频的信息。例如，当响应于来自笔记本计算机1460的请求将视频服务提供给笔记本计算机1460时，视频服务的再现历史被存储在用户DB1410中。当从智能电话1450接收到用于再现此视频服务的请求时，云计算服务器1410基于用户DB1410搜索此视频服务，并再现此视频服务。当智能电话1450从云计算服务器1410接收视频数据流时，通过对视频数据流进行解码来再现视频的处理与以上参照图28描述的移动电话1250的操作类似。

云计算服务器1410可参考存储在用户DB1410中的想要的视频服务的再现历史。例如，云计算服务器1410从用户终端接收用于再现存储在用户DB1410中的视频的请求。如果此视频之前被再现过，则由云计算服务器1410执行的对此视频进行流传输的方法可根据来自用户终端的请求（即，根据是将从视频的起点还是视频的暂停点来再现视频）而不同。例如，如果用户终端请求从视频的起点开始再现视频，则云计算服务器1410将从视频的第一帧开始的视频的流数据发送到用户终端。如果用户终端请求从视频的暂停点开始再现视频，则云计算服务器1410将从与暂停点相应的帧开始的视频的流数据发送到用户终端。

在此情况下，用户终端可包括如以上参照图1至图23描述的视频解码设备。如另一示例，用户终端可包括如以上参照图1至图23描述的视频编码设备。可选地，用户终端可包括如以上参照图1至图23描述的视频解码设备和视频编码设备。

以上已经参照图24a至图29描述了以上参照图1至图23描述的根据本发明的实施例的视频编码方法、视频解码方法、视频编码设备和视频解码设备的各种应用。然而，根据本发明的各种实施例的将视频编码方法和视频解码方法存储在存储介质中的方法，或者将视频编码设备和视频解码设备实现在装置中的方法不限于以上参照图24a至图29描述的实施例。

虽然已经参照本发明的示例性实施例的具体示出并描述了本发明，但是本领域的普通技术人员将理解，在不脱离由权利要求限定的根据本发明的精神和范围的情况下，可在所述示例性实施例中做出形式和细节上的各种改变。

Claims (15)

1.一种多视点视频预测方法，包括：

通过执行基本视点图像之间的帧间预测来产生包括I画面类型基本视点关键画面和基本视点图像的残差值的基本层图像流；

产生包括通过执行以下预测所产生的另外视点图像的残差值的增强层图像流：用于参考基本视点图像来预测另外视点图像的视点间预测、用于参照另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、用于参考另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测。

2.如权利要求1所述的多视点视频预测方法，还包括：

产生指示在基本视点图像和另外视点图像中的具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图；

发送深度图以及基本层图像流和增强层图像流。

3.如权利要求1所述的多视点视频预测方法，其中，产生增强层图像流的步骤包括：

执行参考在另外视点关键画面中的在当前视点关键画面的恢复之前被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

4.如权利要求1所述的多视点视频预测方法，其中，产生增强层图像流的步骤包括：

执行参考在另外视点关键画面中的在当前另外视点关键画面的恢复之后被恢复的另外视点关键画面的对当前另外视点关键画面的帧间预测。

5.一种多视点视频预测恢复方法包括：

接收基本层图像流和增强图像流；

从基本层图像流恢复I画面类型基本视点关键画面，并通过执行参考基本视点关键画面的对基本视点图像的运动补偿来从基本层图像流恢复基本视点图像；

当增强层图像流的另外视点关键画面被访问时，通过执行参考恢复后的基本视点关键画面的视差补偿和参考增强层图像流的不同另外视点关键画面的运动补偿中的至少一个来恢复另外视点关键画面；

通过对增强层图像流的另外视点图像执行参考恢复后的基本视点图像的视差补偿和参考在增强层图像流中被首先恢复的恢复后的另外视点图像的运动补偿中的至少一个，来恢复除另外视点关键画面之外的另外视点图像。

6.如权利要求5所述的多视点视频预测恢复方法，其中，所述接收的步骤包括：接收指示在基本视点图像和另外视点图像中的具有相同场景的基本视点图像和另外视点图像之间的视点间深度的深度图。

7.如权利要求6所述的多视点视频预测恢复方法，其中，恢复另外视点关键画面的步骤包括：当在另外视点关键画面中的当前另外视点关键画面的参考图像在当前另外视点关键画面被恢复的时间点处未被恢复时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

8.如权利要求7所述的多视点视频预测恢复方法，其中，恢复另外视点关键画面的步骤包括：当参考在当前另外视点关键画面的恢复之前被恢复的另外视点关键画面被预测的在另外视点关键画面中的当前另外视点关键画面被访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

9.如权利要求6所述的多视点视频预测恢复方法，其中，恢复另外视点关键画面的步骤包括：当参考在当前另外视点关键画面的恢复之后被恢复的另外视点关键画面被预测的在另外视点关键画面中的当前另外视点关键画面被访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

10.如权利要求5所述的多视点视频预测恢复方法，其中，恢复另外视点关键画面的步骤包括：当未参考在另外视点关键画面中的不同另外视点关键画面的另外视点关键画面被访问时，参考与当前另外视点关键画面相应的基本视点图像来恢复当前另外视点关键画面。

11.如权利要求6所述的多视点视频预测恢复方法，其中，恢复另外视点关键画面的步骤包括：当未参考在另外视点关键画面中的不同另外视点关键画面的当前另外视点关键画面被访问时，通过使用与当前另外视点关键画面相应的基本视点图像和深度图来恢复当前另外视点关键画面。

12.一种多视点视频预测设备，包括：

基本层编码器，用于通过执行基本视点图像之间的帧间预测来产生包括I画面类型基本视点关键画面和基本视点图像的残差值的基本层图像流；

增强层编码器，执行用于参考基本视点图像来预测另外视点图像的视点间预测、用于参考另外视点图像中的另外视点关键画面来预测不同另外视点关键画面的帧间预测、用于参考另外视点图像来预测除另外视点关键画面之外的另外视点图像的帧间预测，并产生包括另外视点图像的残差值的增强层图像流。

13.一种多视点视频预测恢复设备，包括：

接收器，用于接收基本层图像流和增强层图像流；

基本层解码器，从基本层图像流恢复I画面类型基本视点关键画面，并通过执行参考基本视点关键画面的对基本视点图像的运动补偿来从基本层图像流恢复基本视点图像；

增强层解码器，用于当增强层图像流的另外视点关键画面被访问时，通过执行参考恢复后的基本视点关键画面的视差补偿和参考增强层图像流中的不同另外视点关键画面的运动补偿中的至少一个来恢复另外视点关键画面，并用于通过对增强层图像流的另外视点图像执行参考恢复后的基本视点图像的视差补偿和参考在增强层图像流中被首先恢复的恢复后的另外视点图像的运动补偿中的至少一个，来恢复除另外视点关键画面之外的另外视点图像。

14.一种记录有用于执行如权利要求1所述的多视点视频预测方法的程序的计算机可读记录介质。

15.一种记录有用于执行如权利要求5所述的多视点视频预测恢复方法的程序的计算机可读记录介质。

Images