CN105340275A - 使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备 - Google Patents

使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备 Download PDF

Info

Publication number
CN105340275A
CN105340275A CN201480034643.6A CN201480034643A CN105340275A CN 105340275 A CN105340275 A CN 105340275A CN 201480034643 A CN201480034643 A CN 201480034643A CN 105340275 A CN105340275 A CN 105340275A
Authority
CN
China
Prior art keywords
candidate
merging
current block
view
coding unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201480034643.6A
Other languages
English (en)
Inventor
李振荣
崔秉斗
朴慜佑
魏浩千
尹载元
曹容振
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN105340275A publication Critical patent/CN105340275A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

公开了一种多视点视频解码方法，包括以下步骤：确定正被解码的当前块的预测模式是否是合并模式；当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；通过从合并候选列表选择将用于对当前块进行预测的合并候选来对当前块进行预测，其中，基于是否对形成空间候选的邻近块之中的至少一个邻近块进行视点合成预测来将所述至少一个邻近块确定为空间候选或视点合成预测候选。

Description

使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备
技术领域
本公开涉及一种多视点视频编码方法和设备以及一种多视点视频解码方法和设备，更具体地讲，涉及一种使用视点合成预测的多视点视频编码方法和设备以及一种多视点视频解码方法和设备。
背景技术
立体视觉图像是同时提供关于深度和空间的形状信息的三维(3D)图像。在立体图像中，不同视图被提供给左眼和右眼，然而，在立体视觉图像中，提供图像使得无论何时观察者改变他或她的观看点所述图像看上去都像是从不同方向被看到一样。因此，为了产生立体视觉图像，需要在不同视点捕获的图像。
为了产生立体视觉图像而在不同视点被捕获的图像具有大量数据。因此，针对立体视觉图像而考虑到网络基础设施、地面带宽等，即使通过使用适用于单视点视频编码(诸如MPEG-2、H.264/AVC或HEVC)的编码设备，对立体视觉图像进行压缩也几乎不可行。
然而，由于从不同观察者的视点捕获的图像彼此相关，因此关于图像的很多信息重复。因此，可通过使用适用于提供视点冗余的多视点图像的编码设备来发送更少量的数据。
因此，需要适用于产生立体视觉图像的多视点图像编码设备。具体地，需要开发用于有效减少时间和视点冗余的技术。
发明内容
技术问题
提供一种使用视点合成预测的多视点视频编码方法和设备以及一种多视点视频解码方法和设备。
解决方案
根据示例性实施例的一方面，一种多视点视频解码方法包括：确定正被解码的当前块的预测模式是否是合并模式；当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；通过从合并候选列表中选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，其中，基于是否对当前块的邻近块以及当前块执行视点合成预测来确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
有益效果
根据本公开的实施例，多个视点合成预测(VSP)候选可被包括在合并候选列表中。因此，编码效率可经由使用视点相关性的视点合成预测而被提高。
附图说明
图1a是根据各种实施例的多视点视频编码设备10的框图。
图1b是根据各种实施例的多视点视频编码方法的流程图。
图2a是根据各种实施例的多视点视频解码设备20的框图。
图2b是根据各种实施例的多视点视频解码方法的流程图。
图3a示出根据实施例的在帧间预测模式中使用的空间预测候选。
图3b示出根据实施例的在帧间预测模式中使用的时间预测候选。
图4a示出根据实施例的在视点间预测模式中使用的视点间预测候选。
图4b是用于描述根据实施例的使用图像合成预测的编码的示图。
图4c是用于描述根据实施例的使用虚拟视点的合成图像的编码处理的示图。
图4d是用于描述根据实施例的使用虚拟视点的合成图像的解码处理的示图。
图4e是用于描述根据实施例的使用视点合成预测编码工具的编码方法的示图。
图5a是用于描述根据本公开的实施例的多视点视频解码设备将视点合成预测候选添加到合并候选列表的处理的示图。
图5b是用于描述根据本公开的实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5c是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5d是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5e是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5f是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5g是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5h是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5i是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5j是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图5k是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
图6a示出用于描述根据本公开的实施例的将视点合成预测候选添加到合并候选列表的处理的伪代码。
图6b示出用于描述根据本公开的实施例的将视点合成预测候选添加到合并候选列表的处理的伪代码。
图7是根据实施例的基于根据树结构的编码单元的视频编码设备的框图。
图8是根据实施例的基于根据树结构的编码单元的视频解码设备的框图。
图9是用于描述根据本公开的实施例的编码单元的构思的示图。
图10是根据本公开的实施例的基于编码单元的图像编码器的框图。
图11是根据本公开的实施例的基于编码单元的图像解码器的框图。
图12是示出根据本公开的实施例的根据深度的较深层编码单元以及分区的示图。
图13是用于描述根据本公开的实施例的编码单元和变换单元之间的关系的示图。
图14是用于描述根据本公开的实施例的与深度相应的编码单元的编码信息的示图。
图15是根据本公开的实施例的根据深度的较深层编码单元的示图。
图16至图18是用于描述根据本公开的实施例的编码单元、预测单元和变换单元之间的关系的示图。
图19是用于描述根据表1的编码模式信息的编码单元、预测单元和变换单元之间的关系的示图。
图20是根据实施例的存储程序的盘的物理结构的示图。
图21是用于通过使用盘来记录和读取程序的盘驱动器的示图。
图22是用于提供内容分发服务的内容供应系统的整体结构的示图。
图23和图24分别是根据实施例的应用了本公开的视频编码方法和视频解码方法的移动电话的外部结构和内部结构的示图。
图25是应用了根据公开的通信系统的数字广播系统的示图。
图26是示出根据本公开的实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构的示图。
最佳实施方式
根据示例性实施例的一方面，一种多视点视频解码方法包括：确定正被解码的当前块的预测模式是否是合并模式；当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，其中，基于是否对当前块的邻近块以及当前块执行视点合成预测来确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
用于当前块的视点合成预测候选可在合并候选列表中具有固定优先级。
当确定对所述邻近块执行视点合成预测时，用于所述邻近块的视点合成预测候选可被包括在合并候选列表中，当确定对当前块执行视点合成预测时，用于当前块的视点合成预测候选可被包括在合并候选列表中。
当确定对所述邻近块执行视点合成预测并且在合并候选列表中不存在视点合成预测候选时，用于所述邻近块的视点合成预测候选可被包括在合并候选列表中，当确定对当前块执行视点合成预测并且在合并候选列表中不存在视点合成预测候选时，用于当前块的视点合成预测候选可被包括在合并候选列表中。
所述邻近块可至少包括当前块的左侧块和当前块的上方块。
所述邻近块可仅包括当前块的左侧块。
形成合并候选列表的步骤可包括：产生包括视点间候选、空间候选、视差候选、时间候选和视点合成预测候选的多个组；将所述多个组中所包括的至少一个候选添加到用于所述多个组中的每个组的合并候选组；基于所述多个组之间的优先级或者所述多个组中的每个组中的候选之间的优先级，将合并候选组中所包括的至少一个候选添加到合并候选列表，其中，用于当前块的视点合成预测候选可被包括在所述多个组中的一些组或所有组中。
根据另一示例性实施例的一方面，一种多视点视频编码方法包括：确定正被编码的当前块的预测模式是否是合并模式；当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，其中，基于是否对当前块的邻近块以及当前块执行视点合成预测来确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
用于当前块的视点合成预测候选可在合并候选列表中具有固定优先级。
当确定对所述邻近块执行视点合成预测时，用于所述邻近块的视点合成预测候选可被包括在合并候选列表中，当确定对当前块执行视点合成预测时，用于当前块的视点合成预测候选可被包括在合并候选列表中。
所述邻近块可仅包括当前块的左侧块。
形成合并候选列表的步骤可包括：产生包括视点间候选、空间候选、视差候选、时间候选和视点合成预测候选的多个组；将所述多个组中所包括的至少一个候选添加到用于所述多个组中的每个组的合并候选组；基于所述多个组之间的优先级或者所述多个组中的每个组中的候选之间的优先级，将合并候选组中所包括的至少一个候选添加到合并候选列表，其中，用于当前块的视点合成预测候选可被包括在所述多个组中的一些组或所有组中。
根据另一示例性实施例的一方面，一种多视点视频解码设备包括：模式确定器，被配置为确定正被解码的当前块的预测模式是否是合并模式；合并候选列表形成器，被配置为当所述预测模式被确定为是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；预测器，被配置为通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，其中，基于是否对当前块的邻近块以及当前块执行视点合成预测来确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
根据另一示例性实施例的一方面，一种多视点视频编码设备包括：模式确定器，被配置为确定正被编码的当前块的预测模式是否是合并模式；合并候选列表形成器，被配置为当模式确定器确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；预测器，被配置为通过从合并候选列表中选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，其中，基于是否对当前块的邻近块以及当前块执行视点合成预测来确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
根据另一示例性实施例的一方面，一种计算机可读记录介质记录有用于执行所述多视点视频解码方法的程序。
具体实施方式
在下文中，将参照图1a至图6b描述根据各种实施例的使用视点合成预测的多视点视频编码技术和多视点视频解码技术。此外，将参照图7至图19描述根据各种实施例的可应用于多视点视频编码技术和多视点视频解码技术的基于具有树结构的编码单元的视频编码技术和视频解码技术。此外，将参照图20至图26描述可应用视频编码方法和视频解码方法的各种实施例。
在下文中，“图像”可表示视频的静态图像或运动图像(即，视频本身)。
在下文中，“样点”是被分配给图像的采样位置的数据，并且可指示作为处理目标的数据。例如，空间域的图像中的像素可以是样点。
预测被用于减少图像中重复的信息。视频压缩中的预测表示提供与原始信号相似的预测信号。预测可基于方法被大致分类为：经由空间重建图像参考的预测、经由时间重建图像参考的预测以及其它符号的预测。
这里，帧间预测是仅允许空间参考的预测技术，其中，当前块通过参考在当前将被编码的块周围的已被重建的样点而被预测。帧内预测是从当前画面中已被编码的邻近像素产生将被编码的块的预测值的技术。这种帧内预测基于画面中的邻近像素具有高相关性的事实。
类似地，形成视频的画面也具有高的时间相关性。因此，可从预先编码的画面产生当前将被编码的画面中的编码块的预测值。从预先编码的画面产生预测块的技术被称为帧间预测。
在帧间预测中，从预先编码的画面产生预测块，但由于存储器的限制，不能存储并参考所有重建的画面。因此，在视频编解码器中，与将被编码的画面具有高相关性的一些重建画面被存储，重建画面中的一部分重建画面被用在帧间预测中。在视频编解码器中，存储重建画面的空间被称为解码画面缓冲器(DPB)，DPB中存储的画面之中的被用在帧间预测中的重建画面被称为参考画面。编码器(编码设备)在帧间预测处理期间搜索与当前将被编码的块最相似的预测块的参考画面，并将关于预测块的信息发送到解码器(解码设备)。此时，搜索合适预测块的参考画面的处理被称为运动估计。为了进行确定的运动估计，可对重建画面进行插值，然后根据视频编解码器的类型以子像素为单位对插值后的画面执行运动估计。在运动补偿中，基于用于在运动估计处理中找到的合适预测块的运动信息(运动矢量或参考画面索引)来产生预测块。总之，视频编码器(编码设备)经由运动估计处理来搜索用于合适预测块的参考画面，并经由运动补偿处理来产生预测块。视频编码器(编码设备)对作为原始块与经由帧间预测产生的预测块之间的差值的差信号进行变换、量化和熵编码。
当当前编码块以帧间预测模式被编码时，由于使用从编码器发送的参考画面信息和参考块信息，因此解码器(解码设备)可在不必对预测块执行运动估计处理的情况下仅经由运动补偿处理来产生预测块。解码器(解码设备)可通过将产生的预测块与经由熵解码处理、反量化处理和逆变换处理而产生的残差信号相加来重建图像，根据编解码器的类型执行环路滤波，并重新存储最终重建的画面，使得最终重建的画面随后被用作参考画面。
在帧间预测中，当存在作为运动估计的结果的多个参考画面列表时，需要将关于使用哪个参考画面列表的信息、用于对参考画面列表中的参考画面进行分类的索引、以及关于运动矢量的信息发送到解码器(解码设备)。为了在帧间预测模式下减少在预测单元(PU)中发送的运动信息的量，使用包括合并模式和高级运动矢量预测(AMVP)模式的模式，其中，合并模式使用邻近块与当前块之间的运动信息的相关性。以上所述的两种方法通过形成用于推导运动信息的邻近块的列表并将列表中的邻近块选择信息发送到解码器(解码设备)有效地减少了运动相关数据的量。因此，编码器(编码设备)和解码器(解码设备)需要经由相同的处理来获得邻近块候选列表。合并跳过模式是特殊的合并模式，在合并跳过模式中，用于熵编码的变换系数在执行量化后全部接近于0，并且仅发送邻近块选择信息而不必发送残差信号。因此，可在具有较少运动的图像、静止图像和屏幕内容图像中获得相对高的编码效率。
合并模式是从邻近块推导参考方向、参考画面索引和运动矢量预测因子(MVP)的技术。通过经由合并而推导出的MVP来计算运动矢量值。由于没有将多条运动信息发送到解码器(解码设备)，因此可在与邻近块具有高相关性的块中获得高的编码效率。编码器(编码设备)通过搜索执行运动预测的邻近块来形成合并候选，并将作为运动搜索的结果而被选择的合并块信息作为合并索引用信号传输到解码器(解码设备)。根据本公开的实施例的编码器(编码设备)和解码器(解码设备)可包括以下候选作为合并模式的候选。然而，合并模式的候选不限于此，可根据执行预测的方法来添加各种类型的候选。
(1)视点间候选
(2)空间候选
(3)视差候选
(4)时间候选
(5)视点合成预测(VSP)候选
这里，空间候选和时间候选可在多视点视频中在同一视点中或者在当前视点与不同于当前视点的另一视点之间执行预测，然而，视点间候选、视差候选和VSP候选可在多视点视频中在当前视点与不同于当前视点的另一视点之间执行预测。
图1a是根据各种实施例的多视点视频编码设备10的框图。图1b是根据各种实施例的多视点视频编码方法的流程图。
根据各种实施例的多视点视频编码设备10包括模式确定器12、合并候选列表形成器14和预测器16。
模式确定器12确定正被编码的当前块的预测模式是否是合并模式。详细地讲，模式确定器12可通过应用预测模式(诸如、合并模式、AMVP模式和合并跳过模式)对当前块进行编码来确定率失真损耗，并基于确定的率失真损耗来确定合适的预测模式。
当模式确定器12确定预测模式是合并模式时，合并候选列表形成器14形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、VSP候选和时间候选中的至少一个作为合并候选。实施例不限于此，并且可通过添加各种类型的合并候选来获得合并候选列表。这里，合并候选列表形成器14可确定VSP候选具有固定优先级。此外，合并候选列表形成器14可多次确定是否将VSP候选添加到合并候选列表。当包括在当前正被编码的图像中的最大编码单元被划分为至少一个编码单元并且一个编码单元被划分为用于预测编码的至少一个预测单元时，当前块是预测单元。
预测器16通过从合并候选列表选择将用于对当前块进行预测的合并候选来对当前块进行预测。详细地讲，通过使用各种候选对当前块进行编码来确定率失真损耗，并基于确定的率失真损耗来确定合适的合并候选。
在下文中，参照图1b描述多视点视频编码设备10的操作。
图1b是根据各种实施例的多视点视频编码方法的流程图。
在操作11，模式确定器12确定正被编码的当前块的预测模式是否是合并模式。
在操作13，当确定预测模式是合并模式时，合并候选列表形成器14形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、VSP候选和时间候选中的至少一个作为合并候选。
在操作15，预测器16通过从合并候选列表选择将用于对当前块进行预测的合并候选来对当前块进行预测。
此外，在操作13，合并候选列表形成器14可多次确定是否将VSP候选添加到合并候选列表。此外，VSP候选可被确定为具有固定优先级。
根据各种实施例的多视点视频编码设备10可包括总体上控制模式确定器12、合并候选列表形成器14和预测器16的中央处理器(未示出)。可选地，模式确定器12、合并候选列表形成器14和预测器16可由它们各自的处理器(未示出)来操作，并且多视点视频编码设备10可根据处理器(未示出)的交互来进行总体操作。可选地，可根据多视点视频编码设备10的外部处理器(未示出)的控制来控制模式确定器12、合并候选列表形成器14和预测器16。
多视点视频编码设备10可包括至少一个数据存储单元(未示出)，其中，所述至少一个数据存储单元存储模式确定器12、合并候选列表形成器14和预测器16的输入数据和输出数据。多视点视频编码设备10可包括存储器控制器(未示出)，其中，存储器控制器(未示出)控制数据存储单元(未示出)的数据输入和数据输出。
多视点视频编码设备10可与内部视频编码处理器或外部视频编码处理器联合地进行操作以便输出视频编码结果，从而执行包括变换的视频编码操作。多视点视频编码设备10的内部视频编码处理器可作为单独的处理器来实现视频编码操作。此外，由于多视点视频编码设备10、中央处理设备或图形处理设备包括视频编码处理模块，因此可实现基本视频编码操作。
图2a是根据各种实施例的多视点视频解码设备的框图。
根据各种实施例的多视点视频解码设备20包括模式确定器22、合并候选列表形成器24和预测器26。
模式确定器22确定正被解码的当前块的预测模式是否是合并模式。
当模式确定器22确定所述预测模式是合并模式时，合并候选列表形成器24形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、VSP候选和时间候选中的至少一个作为合并候选。此时，合并候选列表形成器可多次确定是否将VSP候选添加到合并候选列表。
预测器26通过从合并候选列表选择将用于对当前块进行预测的合并候选来对当前块进行预测。
在下文中，将参照图2b来描述多视点视频解码设备20的操作。
图2b是根据各种实施例的多视点视频解码方法的流程图。
在操作21，模式确定器22可确定正被解码的当前块的预测模式是否是合并模式。
在操作23，当确定所述预测模式是合并模式时，合并候选列表形成器24形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、VSP候选和时间候选中的至少一个作为合并候选。这里，多次执行确定是否将VSP候选添加到合并候选列表的操作。
在操作25，预测器26通过从合并候选列表选择将用于对当前块进行预测的合并候选来对当前块进行预测。
根据各种实施例的多视点视频解码设备20可包括总体上控制模式确定器22、合并候选列表形成器24和预测器26的中央处理器(未示出)。可选地，模式确定器22、合并候选列表形成器24和预测器26可由它们各自的处理器(未示出)来操作，并且多视点视频解码设备20可根据处理器(未示出)的交互来进行总体操作。可选地，可根据多视点视频解码设备20的外部处理器(未示出)的控制来控制模式确定器22、合并候选列表形成器24和预测器26。
多视点视频解码设备20可包括至少一个数据存储单元(未示出)，其中，所述至少一个数据存储单元存储模式确定器22、合并候选列表形成器24和预测器26的输入数据和输出数据。多视点视频解码设备20可包括存储器控制器(未示出)，其中，存储器控制器(未示出)控制数据存储单元(未示出)的数据输入和数据输出。
根据各种实施例的多视点视频解码设备20可与内部视频解码处理器或外部视频解码处理器联合地进行操作以便经由视频解码来重建视频，从而执行包括逆变换的视频解码操作。根据各种实施例的多视点视频解码设备20的内部视频解码处理器可以是单独的处理器，或者由于多视点视频解码设备20、中央处理设备或图形处理设备包括视频解码处理模块，因而基本视频解码操作可被实现。
在下文中，将分别描述可作为合并候选而被添加到合并候选列表的(1)视点间候选、(2)空间候选、(3)视差候选、(4)时间候选和(5)VSP候选。
这里，将首先描述可被用于在同一视点以及与当前正被预测的块的视点不同的另一视点中进行的预测的(2)空间候选和(4)时间候选，并且将描述可被用于参考与当前正被预测的块的视点不同的另一视点进行的预测的(1)视点间候选、(3)视差候选和(5)VSP候选。
首先，将描述(2)空间候选。图3a示出根据实施例的在帧间预测模式中使用的空间预测候选。
在假设当前块和邻近块的运动相似的情况下，当前块附近的邻近块被添加到合并候选。2N×2N预测单元(PU)31将5个邻近块用作空间合并候选，依次寻找并使用A133、B135、B034、A032和B236。如果邻近块是帧边界或者在帧内预测模式下被编码并因此不包括运动信息，则空间候选不能被使用。
然后，现在将描述(4)时间候选。图3b示出根据实施例的在帧间预测模式中使用的时间预测候选。
当时间候选被使用时，通过条带头将用于时间合并候选的参考画面的方向和参考画面索引发送到解码器(解码设备)。图3b示出当前PU的时间合并候选的选择位置。相同位置处的PU是在选择的参考画面中的在与当前PU的位置相应的位置处的PU。参考PU的右下方块H可由于预测性能而被首先用作时间合并候选，如果右下方PU的运动信息不存在，则在参考PU的中心处的块C3可被用作时间合并候选。如果时间合并候选块位于编码树块(CTB)外部，则时间合并候选块不被使用，并且在图像边界或帧内预测的情况下，时间合并候选块的运动信息可能并不存在。
然后，现在将描述(1)视点间候选和(3)视差候选。
可通过使用视点间预测方法去除空间冗余来提高多视点视频编码的压缩性能。当通过移动相机而被隐藏或暴露的区域被排除时，在不同视点捕获的对象的图像具有高相似性。通过使用这种视点相似性从不同视点的图像寻找与当前正被编码的块最相似的区域并对该区域进行编码的方法被称为视差补偿预测。此外，用于视差补偿预测的运动矢量被称为与一般的时间运动矢量区分开的视差矢量。
由于在参考另一视点的图像时，以上描述的视差补偿预测方法符合在对单视点图像进行编码时执行的编码树单元(CTU)的一般编码方法，因此，可在不必使用除了参考画面缓冲器管理之外的另外的编码算法来执行视差补偿预测方法。然而，当针对具有高的视点相关性的多视点图像对在扩展视点编码期间被预先解码的邻近视点的编码参数进行预测时，可进行更有效的编码。因此，视点编码参数预测方法被使用。视点编码参数预测方法的示例包括视点间运动矢量预测方法。由于多视点图像是通过在不同视点捕获一个对象而获得的，因此多视点图像具有非常相似的运动特征，其中，所述非常相似的运动特征不包括根据视点移动而隐藏或暴露的区域。可通过使用这些特征在扩展视点编码期间对被预先编码和预先解码的邻近视点的运动矢量进行预测来提高编码效率。
图4a示出根据本公开的实施例的视点间预测候选和视差候选。
在图4a中，当前视点的运动信息与被预先编码的参考视点的运动信息被一起使用。当前视点的当前画面是当前将被编码的画面，当前块的运动信息共享被预先编码的参考视点的运动预测信息。因此，首先获得在当前块的位置x处的视差矢量。可通过估计当前视点的当前画面的深度图并使用与当前块的位置相关的深度块的最大深度值d来获得视差矢量。当获得了在当前块的位置x处的视差矢量时，可获得参考视点的参考样点位置xR。参考屏幕的包括参考样点位置xR的块是当前画面的当前块的相应块。当所述相应块经由帧间预测被编码时，所述相应块具有运动矢量。所述相应块的运动矢量被用作当前块的运动矢量的预测值。因此，关于所述相应块的运动矢量的信息可被用作视点间候选。
视差候选与将视差矢量作用用于预测当前块的运动矢量有关。当图4a中的相应块所处的参考画面被包括在参考画面列表中时，视差矢量可被用作用于预测当前块的运动矢量，此时，关于视差矢量的信息可被用作视差候选。
为了预测视点间运动矢量，需要对在邻近视点中的与当前将被编码的块相应的位置处的运动矢量进行预测。此时，可通过对在参考视点图像中与当前坐标相隔视差的位置处的视点间运动矢量进行预测来进一步准确地预测视点间运动矢量，并且可从邻近编码块推导用于从邻近视点预测运动矢量的视差。预测出的视点间运动矢量被分配作为用于合并和AMVP的候选之中的第一候选，并被编码。此外，当将被编码的块以视点间运动矢量被编码时，可存储此时使用的视差信息，以将视差信息提供给随后将被编码的另一块。
然后，现在将描述(5)VSP候选。
由于多视点视频具有非常高的视点相关性，因此当非独立视点图像被编码时，可通过将参考视点彩色图像和参考视点深度图像进行组合来获得将被编码的非独立视点图像。当这样获得的非独立视点图像是视点合成(VS)帧时，VS帧可被用作附加参考图像以提高编码效率。
图4b是用于描述根据实施例的使用图像合成预测来进行编码的示图。由于I视点是不参考另一视点的参考视点，因此不使用VSP，但是由于P视点可使用I视点的数据，因此可使用VSP。VSP方法不仅可被应用于彩色视频编码，还可被应用于深度数据编码。
通过使用图像合成而产生的VS帧与将被编码的视点匹配。因此，如果图像合成被理想化地执行，则VS帧与将被编码的当前视点的屏幕完全匹配。由于VS帧是通过使用邻近视点的图像而产生的图像，因此解码器可产生相同的VS帧。因此，由于与当前视点的画面相同的图像可被预测和产生，因此可通过使用视点相关性来提高编码效率。具体的编码方法可使用这样的方法：在编码处理期间，该方法产生VS帧并将VS帧添加到参考列表，并参考VS帧的与将被编码的当前视点的块位于相同位置处的共同定位块，而不必使用运动信息。
图4c是用于描述根据实施例的使用虚拟视点的合成图像的编码处理的示图。
形成多视点视频的彩色图像和深度图像可被单独地编码和解码。参照图4c，编码处理包括获得原始图像与经由基于块的预测而获得的预测图像之间的残差信号并然后对残差信号进行变换和量化的处理。然后，去块滤波器被用于准确地预测接下来的图像。
由于当残差信号的量低时，编码所需的比特数低，因此预测图像与原始图像有多相似是非常重要的。根据实施例，对于块预测，可使用基于帧内预测、帧间预测或视点间预测的合并模式、合并跳过模式或AMVP模式。
参照图4c，为了产生虚拟视点的合成图像，需要用于虚拟视点中的合成的附加结构。参照图4c，为了产生当前视点的彩色图像的合成图像，多视点视频编码设备10可通过使用被预先编码的邻近视点的彩色图像和深度图像来产生当前视点的彩色图像的合成图像。此外，为了产生当前视点的深度图像的合成图像，多视点视频编码设备10可通过使用被预先编码的邻近视点的深度图像来产生当前视点的深度图像的合成图像。
图4d是用于描述根据实施例的使用虚拟视点的合成图像的解码处理的示图。
由于图4d的多视点视频解码设备20基本上与图4c的多视点视频编码设备10执行相同的操作，因此不再提供其细节。
图4e是用于描述根据实施例的使用视点合成预测编码工具的编码方法的示图。
在操作S41，由于多视点视频解码设备20不具有关于当前块的视差矢量的信息，因此多视点视频解码设备20包括当前块的邻近块的视差矢量。
在操作S42，多视点视频解码设备20通过使用关于当前块的邻近块的视差矢量的信息来预测关于当前块的视差矢量的信息。因此，与视差矢量相应的参考视点的深度块信息被用作当前块的深度信息的预测值。通过使用预测的深度块来推导参考视点的视差矢量。
在操作S43，多视点视频解码设备20使用推导出的视差矢量对当前块中包括的块执行逆向映射(backwardwarping)来确定邻近视点的彩色图像中包括的参考块。多视点视频解码设备20使用该参考块来产生当前块的预测值，并通过使用产生的预测值来执行预测编码。
同时，虽然以上描述了由多视点视频解码设备20执行的示例，但是本领域的普通技术人员将理解参照图4e描述的方法也可由多视点视频编码设备10来执行。
现在在下面将参照图5a至图6b提供根据各种实施例的使用视点合成预测的方法。
图5a是用于描述根据本公开的实施例的多视点视频解码设备将VSP候选添加到合并候选列表的处理的示图。在本实施例中，合并候选列表可包括以下列表：该列表包括用于搜索和预测合并模式下的参考块以与邻近数据单元进行合并的合并候选块、各种编码工具或各种编码模式。合并候选列表可包括诸如视点间候选、空间候选、视差候选、时间候选和VSP候选的候选。在这方面，视差候选是用于从推导出的视差被配置的视差矢量补偿预测的候选。
参照图5a(a)，根据本公开的实施例的合并候选列表可包括诸如视点间候选、空间候选、视差候选、时间候选和VSP候选的候选之中的例如6个候选。候选的数量不限于6个，并且可根据所使用的视频编解码器来指定等于或大于1的任意数量。参照图5(a)，诸如视点间候选、空间候选、视差候选和VSP候选的候选可被包括在组A中。此外，时间候选被包括在组B中。组A中所包括的候选之中的5个候选可被选为合并候选。
在这方面，多视点视频解码设备20可根据组A中所包括的候选之间的优先级来选择候选。候选之间的优先级在组内被确定。当不存在候选时，可从具有下一优先级的候选中选择5个合并候选。类似地，多视点视频解码设备20可从组B中包括的候选中选择1个候选。合并候选列表可包括这样选择的6个候选。
参照图5a(b)，诸如视点间候选、空间候选和视差候选的候选被包括在组A中。时间候选和VSP候选被包括在组B中。与图5a(a)不同，VSP候选未被包括在组A中，而被包括在组B中。多视点视频解码设备20可从组A中所包括的候选中选择5个候选。在这方面，可根据组A中所包括的候选之间的优先级来选择候选。当不存在候选时，多视点视频解码设备20可从具有下一优先级的候选中选择5个候选。类似地，多视点视频解码设备20可从组B中所包括的候选中选择1个候选。合并候选列表可包括这样选择的6个候选。
参照图5a(c)，诸如视点间候选、空间候选和视差候选的候选被包括在组A中。时间候选被包括在组B中。与图5a(a)和(b)不同，VSP候选被包括在组C中。多视点视频解码设备20可从组A中所包括的候选中选择5个候选。在这方面，多视点视频解码设备20可根据组A中所包括的候选之间的优先级来选择候选。当不存在候选时，可从具有下一优先级的候选中选择5个合并候选。类似地，多视点视频解码设备20可从组B和组C中所包括的候选中选择1个候选。再从这样选择的候选中选择6个候选。在这方面，可根据组之间的优先级或者组中所包括的候选之间的优先级来选择合并候选。然而，合并候选不限于此，并且可基于各种标准来选择。多视点视频解码设备20可确定将被包括在合并候选列表中的基于各种标准而选择的6个候选。
图5a(a)至(c)中分类的组仅是示例，并且本公开不限于此。可基于组中包括的候选的特征，根据各种形式来对组进行分类。此外，每个组可仅处理并使用一个候选。可选地，可在不使用组的情况下一起处理所有候选。在下文中的图5b至图5k中分类的组也仅是示例，可基于组中包括的候选的特征以各种形式来对组进行分类，或者可不使用组。
图5b是用于描述根据本公开的实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(a)中所示的组中。
多视点视频解码设备20确定是否将视点间候选添加到组A中的将被包括在合并列表中的合并候选列表候选中。
多视点视频解码设备20确定是否将空间候选之中的左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VPS模式被编码，并且VSP候选未被单独添加，则多视点视频解码设备20添加用于左侧候选块的VSP候选。
多视点视频解码设备20执行与对左侧候选所执行的处理相同的处理来按照从上方候选到右上方候选的顺序确定是否将候选添加到将被包括在合并候选列表中的候选中。如果上方候选块以VSP模式被编码并且VSP模式尚未被添加，则多视点视频解码设备20添加用于上方候选块的VSP候选。如果右上方候选块以VSP模式被编码并且VSP模式尚未被添加，则多视点视频解码设备20添加用于右上方候选块的VSP候选。
多视点视频解码设备20根据优先级确定是否将视差候选添加到合并候选列表。
多视点视频解码设备20依次对空间候选之中的左下方候选和左上方候选执行相同的处理来确定是否依次将左下方候选和左上方候选添加到将被包括在合并候选列表中的候选中。如果左下方候选块以VSP模式被编码并且VSP候选尚未被添加，则多视点视频解码设备20添加用于左下方候选块的VSP候选。如果左上方候选块以VSP模式被编码并且VSP候选尚未被添加，则多视点视频解码设备20添加用于左上方候选块的VSP候选。
如果已确定VSP候选在之前未被添加，则多视点视频解码设备20根据优先级确定是否添加当前块的VSP候选。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
因此，根据本公开的实施例，多视点视频解码设备20根据基于空间候选的编码信息而改变的优先级来将VSP候选添加到合并候选列表。
图5c是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(a)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将空间候选之中的左侧候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将上方候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将VSP候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
根据本公开的实施例，存在以下差异：多视点视频解码设备20根据候选之间的固定优先级将VSP候选添加到合并候选列表中。具体地讲，可根据固定优先级而不管空间候选的编码信息如何，来将VSP候选添加到合并候选列表中。
图5d是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(b)中所示的组中。
多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。
多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，VSP候选被包括在组B中，并且多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。换句话说，右下方时间候选或中心时间候选根据优先级被首先添加，如果时间候选未被确定，则确定是否将VSP候选添加到合并候选列表的候选中。
根据本公开的实施例，与图5b不同，存在以下差异：多视点视频解码设备20可根据候选之间的固定优先级将VSP候选添加到合并候选列表中。具体地讲，可根据固定优先级而不管空间候选的编码信息如何，来将VSP候选添加到合并候选列表中。此外，当时间候选未被确定时，由于VSP候选可被添加到合并候选列表的候选中，因此与图5c不同，VSP候选会被添加到合并候选列表的候选中的可能性高。
图5e是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(c)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将上方候选添加到将被包括在合并候选列表中的候选中。多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
同时，VSP候选被包括在组C中，多视点视频解码设备20根据优先级确定是否将VSP候选添加到将被包括在合并候选列表中的候选中。
根据本公开的实施例，存在以下差异：可根据候选之间的固定优先级将VSP候选添加到合并候选列表中。具体地讲，可根据固定优先级而不管空间候选的编码信息如何，来将VSP候选添加到合并候选列表中。具体地，由于VSP候选属于组C，因此与图5c不同，VSP候选可被添加到合并候选列表的候选中的可能性高。此外，与图5c不同，VSP候选可根据组之间的优先级被包括在合并候选列表中的可能性高。
图5c至图5e中分类的组仅是示例，并且本公开不限于此。可根据组中包括的候选的特征以各种形式对组进行分类。此外，可不使用组。
图5f是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(a)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码并且VSP候选未被单独添加到当前合并候选列表中，则多视点视频解码设备20将用于左侧候选块的VSP候选添加到候选中。
此后，将上方候选添加到将被包括在合并候选列表中的候选中。如果上方候选块以VSP模式被编码，并且VSP候选未被单独添加，则多视点视频解码设备20添加用于上方候选块的VSP候选。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。然后，如果VSP候选在之前未被添加，则多视点视频解码设备20确定是否添加当前块的VSP候选。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
根据本公开的实施例，虽然VSP候选的优先级在左侧空间候选或上方空间候选经由VSP被编码时被改变，但是所述优先级被固定，而不管其它空间候选的编码信息如何。
图5g是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(b)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。
此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码并且VSP候选未被单独添加到当前合并候选列表中，则多视点视频解码设备20将用于左侧候选块的VSP候选添加到候选中。
此后，确定是否将上方候选添加到将被包括在合并候选列表中的候选中。当上方候选块以VSP模式被编码并且VSP候选尚未被添加到当前合并候选列表中时，多视点视频解码设备20将用于上方候选块的VSP候选添加到候选中。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。在组B的情况下，VSP候选之间的优先级次于时间候选之间的优先级。因此，在组B中，时间候选首先被添加到将被包括在合并候选列表中的候选中，如果时间候选未被确定，则多视点视频解码设备20将VSP候选添加到将被包括在合并候选列表中的候选中。然而，当左侧空间候选块或上方空间候选块被首先添加为VSP候选时，不添加VSP候选。按照这种方式，多视点视频解码设备20可在添加的合并候选列表的候选之中再次选择将被添加到合并候选列表的候选。在这方面，可根据组之间的优先级或候选之间的优先级来确定将被添加到合并候选列表的候选。
根据本公开的实施例，虽然VSP候选的优先级在左侧空间候选或上方空间候选经由VSP被编码时被改变，但是所述优先级被固定，而不管其它空间候选的编码信息如何。
图5h是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(c)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。
此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码并且VSP候选未被单独添加，则多视点视频解码设备20添加用于左侧候选块的VSP候选。
此后，多视点视频解码设备20确定是否将上方候选添加到将被包括在合并候选列表中的候选中。如果上方候选块以VSP模式被编码并且VSP候选尚未被添加，则多视点视频解码设备20添加用于上方候选块的VSP候选。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，在组B的情况下，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
同时，在组C的情况下，多视点视频解码设备20根据优先级确定是否将VSP候选添加到合并候选列表的候选中。当左侧空间候选块或上方空间候选块被添加为VSP候选时，多视点视频解码设备20确定不添加VSP候选。按照这种方式，多视点视频解码设备20可在添加的合并候选列表的候选之中再次选择将被添加到合并候选列表的候选。
根据本公开的实施例，虽然VSP候选的优先级在左侧空间候选或上方空间候选经由VSP被编码时会被改变，但是所述优先级被固定，而不管其它空间候选的编码信息如何。
图5f至图5h中分类的组仅是示例，并且本公开不限于此。可根据组中包括的候选的特征以各种形式对组进行分类。此外，可不使用组。
在图5f至图5h中，确定当前块的左侧块和当前块的上方块是否以VSP模式被编码，并确定是否将当前块的左侧块和当前块的上方块的VSP候选添加到合并候选列表，但是VSP候选不限于此。例如，可确定作为空间候选块的左侧块、上方块、右上方块、左下方块和左上方块中的每个块是否以VSP模式被编码，并确定是否将每个块的VSP候选添加到合并候选列表中。此外，可确定除了空间候选块之外的当前块的邻近块是否以VSP模式被编码，并确定是否将每个块的VSP候选添加到合并候选列表。
图5I是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(a)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码，则多视点视频解码设备20添加用于左侧候选块的VSP候选。
此后，多视点视频解码设备20确定是否将上方候选添加到将被包括在合并候选列表中的候选中。如果上方候选块以VSP模式被编码，则多视点视频解码设备20添加用于上方候选块的VSP候选。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。然后，多视点视频解码设备20确定是否添加VSP候选。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
根据本公开的实施例，在图5b至图5h中，可包括一个VSP候选，但在图5i中，多个VSP候选可被包括在合并候选列表中。
图5j是用于描述根据本公开的另一实施例的基于候选之间的优先级将视点合成预测候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(b)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。
此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码，则多视点视频解码设备20将用于左侧候选块的VSP候选添加到候选中。
此后，确定是否将上方候选添加到将被包括在合并候选列表中的候选中。当上方候选块以VSP模式被编码时，多视点视频解码设备20将用于上方候选块的VSP候选添加到候选中。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。在组B的情况下，VSP候选之间的优先级次于时间候选之间的优先级。因此，在组B中，时间候选首先被添加到将被包括在合并候选列表中的候选中，如果时间候选未被确定，则多视点视频解码设备20将VSP候选添加到将被包括在合并候选列表中的候选中。按照这种方式，多视点视频解码设备20可在添加的合并候选列表的候选之中再次选择将被添加到合并候选列表的候选。在这方面，可根据组之间的优先级或候选之间的优先级来确定将被添加到合并候选列表的候选。
根据本公开的实施例，在图5b至图5h中，可包括一个VSP候选，但在图5j中，多个VSP候选可被包括在合并候选列表中。
图5k是用于描述根据本公开的另一实施例的基于候选之间的优先级将VSP候选添加到合并候选列表的处理的示图。
在本实施例中假设候选被包括在如图5a(c)中所示的组中。
首先，多视点视频解码设备20确定是否将视点间候选添加到将被包括在合并候选列表中的候选中。
此后，多视点视频解码设备20确定是否将左侧候选添加到将被包括在合并候选列表中的候选中。如果左侧候选块以VSP模式被编码，则多视点视频解码设备20添加用于左侧候选块的VSP候选。
此后，确定是否将上方候选添加到将被包括在合并候选列表中的候选中。如果上方候选块以VSP模式被编码，则多视点视频解码设备20添加用于上方候选块的VSP候选。
此后，多视点视频解码设备20确定是否将右上方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将视差候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左下方候选添加到将被包括在合并候选列表中的候选中。此后，多视点视频解码设备20确定是否将左上方候选添加到将被包括在合并候选列表中的候选中。
同时，在组B的情况下，多视点视频解码设备20首先将参考PU的右下方候选考虑为时间候选，并且如果右下方候选的运动信息不存在，则将位于参考PU的中心处的块考虑为候选，从而根据优先级确定是否将时间候选之一添加到组B中的合并候选列表候选中。
同时，在组C的情况下，多视点视频解码设备20根据优先级确定是否将VSP候选添加到合并候选列表的候选中。按照这种方式，多视点视频解码设备20可在添加的合并候选列表的候选之中再次选择将被添加到合并候选列表的候选。
根据本公开的实施例，在图5b至图5h中，可包括一个VSP候选，但在图5k中，多个VSP候选可被包括在合并候选列表中。
图5i至图5k中分类的组仅是示例，并且本公开不限于此。可根据组中包括的候选的特征以各种形式来对组进行分类。此外，可不使用组。
在图5i至图5k中，确定当前块的左侧块和当前块的上方块是否以VSP模式被编码，并确定是否将当前块的左侧块和当前块的上方块的VSP候选添加到合并候选列表中，但是VSP候选不限于此。例如，可确定作为空间候选块的左侧块、上方块、右上方块、左下方块和左上方块中的每个块是否以VSP模式被编码，并确定是否将每个块的VSP候选添加到合并候选列表中。此外，通过仅将当前块的左侧块用作邻近块，可确定是否将左侧块的VSP候选添加到合并候选列表中。此外，可确定除了空间候选块之外的当前块的邻近块是否以VSP模式被编码，并确定是否将每个块的VSP候选添加到合并候选列表。
同时，虽然以上描述了由多视点视频解码设备20执行的示例，但是本领域的普通技术人员将理解参照图5描述的方法也可由多视点视频编码设备10执行。
图6a示出用于描述根据本公开的实施例的将VSP候选添加到合并候选列表的处理的伪代码。
参照图6a，“extMergeCandList[i++]”是指示合并候选列表的指令。条件语句被顺序地执行，并因此条件语句的顺序可表示合并候选的优先级。基于条件语句的顺序根据条件是否被满足来确定合并候选是否将被包括在合并候选列表中。假设多视点视频解码设备20处理针对当前VSP候选的条件语句61。条件语句61中包括的“availableFlagVSP”是指示当前预测单元是否可使用VSP编码工具被编码的标志。“availabileFlagVSP”确定可在当前视点中使用VSP编码工具(“view_synthesis_pred_flag[nuhlayerid]”)，并且如果可使用VSP编码工具对当前预测单元进行预测解码，则“availableFlagVSP”变成1，使得多视点视频解码设备20确定可使用VSP编码工具对当前预测单元进行解码。“ic_flag”是指示是否对当前编码单元执行亮度补偿的标志。“Iv_res_pred_weight_idx”指示在当前编码单元中使用视点间残差预测的情况下的权重因子的索引。如果“Iv_res_pred_weight_idx”为0，则表示在当前编码单元中不使用残差预测。同时，NumExtraMergeCand指示这样的候选的数量：所述候选的数量将被另外地包括在将被基本包括在合并候选列表中的候选的数量中。例如，NumExtraMergeCand根据视点间预测是否被使用而被确定，如果确定视点间预测被使用，则NumExtraMergeCand可被确定为1，并且将被包括在合并候选列表中的候选的数量增加1。
因此，当确定可使用VSP编码工具对当前预测单元进行解码(avilableFlag)，不对当前编码单元执行亮度补偿(！ic_flag)，在当前编码单元中未使用残差预测(iv_res_pred_weight_idx＝＝0)，并且可包括在合并候选列表中的合并候选的数量未被超过(i<5+NumExtraMergeCand)时，多视点视频解码设备20确定VSP编码工具(或编码模式)被添加到合并候选列表中(extMergeCandList[i++]＝VSP)。
在这方面，i表示合并候选列表的索引。也就是说，i与合并候选列表上的位置相应。当当前索引小于合并候选列表的最大候选数量时，多视点视频解码设备20将VSP候选添加到合并候选列表(extMergeCandList[i++]＝VSP)。此后，通过增加索引(i++)来确定下一候选是否将被添加到合并候选列表。
因此，VSP候选的优先级被固定，而不管其它空间候选或时间候选的编码信息如何。图6b示出用于描述根据本公开的实施例的将VSP候选添加到合并候选列表的处理的伪代码。
一些参数已在上面参照图6a进行了描述，因此省略重复参数的详细描述。参照图6b，MaxNumMergCand表示可包括在合并候选列表中的合并候选的最大数量。假设在确定所有合并候选是否将被包括在合并候选列表中之后处理条件语句62。如果确定可使用VSP编码工具对当前预测单元进行解码(avilableFlagVSP)，对当前编码单元不执行亮度补偿(！ic_flag)，并且在当前编码单元中未使用残差预测(iv_res_pred_weight_idx＝＝0)，则4被分配给参数j。本领域普通技术人员将理解，参数j的值不必限于4，并且可改变。
如果参数j小于合并候选的最大数量，则while条件语句(j<MaxNumMergeCnad)的内容被重复处理。在检查while条件语句内处理的处理时，如果条件被满足，则索引j-1中包括的候选作为下一候选被分配给合并候选列表(extMergeCandList[j]＝extMergeCandList[j-1])。例如，当j＝4时，在合并候选列表的排列的由索引3所指示的排列内的空间中的合并候选被分配给与索引4相应的排列内的空间(extMergeCandList[4]＝extMergeCandList[3])。也就是说，合并候选列表的排列内的由j-1所指示的候选被分配给合并候选列表的排列内的由j所指示的空间。如果j的值被满足，则j的值被增加1(j++)，并且再次确定while条件语句的条件是否被满足。重复此处理直到while条件语句的条件不再被满足为止。总之，在while条件语句中，已包括在合并候选列表的排列内的由MaxNumMergeCand-2(从索引3开始)所指示的空间中的合并候选被向后移动一个空间，并因此该合并候选被分配给合并候选列表的排列内的由MaxNumMergeCand-1(从索引4开始)所指示的空间。最终被包括在合并候选列表的排列中的合并候选所处的空间经由合并候选列表中的由前一索引所指示的候选来分配，因此最终包括在合并候选列表的排列中的合并候选不再被包括在合并候选列表的排列中。
如果while条件语句未被满足，则while条件语句的内容不被处理，并且VSP候选被分配给合并列表排列extMergeCandList中的由索引3所指示的空间。
因此，虽然最大数量的合并候选先前被包括在合并候选列表的排列中，但是VSP候选被分配给合并候选列表的排列的由索引3所指示的空间中，所述空间中包括的合并候选以及大于索引3的合并候选被分配给合并候选列表的排列中的由下一索引所指示的空间，并且合并候选列表的排列的最后一个候选不再被包括在合并候选列表的排列中。伪代码如以上所述被执行，并因此多视点视频解码设备20允许VSP候选一直位于合并候选列表中的固定位置(合并候选列表的排列中的由索引3所指示的空间)，而不管空间候选或时间候选的编码信息如何。
同时，虽然以上描述了由使用VSP的多视点视频解码设备20执行的示例，但是本领域的普通技术人员将理解参照图6描述的方法也可由多视点视频编码设备10执行。
以上参照图1a至图6b描述了使用VSP候选的多视点视频编码设备10和多视点视频解码设备20。基于根据各种实施例的多视点视频编码设备10和多视点视频解码设备20，当当前块以合并模式被预测编码时，VSP候选可以是根据固定优先级的合并候选，而不管邻近数据单元的编码信息如何。此外，多视点视频解码设备20产生多个组，将候选添加在产生的组中，从组中所包括的候选中选择将被包括在合并候选中的候选，并根据合并候选之间的优先级或合并候选中所包括的候选之间的优先级从选择的合并候选中确定合并候选。因此，当多视点视频解码设备20根据组中包括的候选的组成或组之间的优先级以及组中所包括的候选之间的优先级使用相同的候选来执行解码时，多视点视频解码设备20可确定候选将被确定为合并候选的可能性。
在根据实施例的多视点视频编码设备10和根据实施例的多视点视频解码设备20中，如以上所描述的，视频数据可被划分为具有树结构的编码单元，并且编码单元、预测单元和变换单元被用于对编码单元进行层间预测或帧间预测。在下文中，将参照图7至图19描述根据实施例的基于具有树结构的编码单元和变换单元的视频编码方法和设备以及视频解码方法和设备。
原则上，在对多视点视频进行编码/解码期间，单独地执行针对第一视点图像的编码/解码处理以及针对第二视点图像的编码/解码处理。也就是说，当对多视点视频执行视点间预测时，单视点视频的编码/解码结果被相互参考，但针对各个单视点视频执行单独的编码/解码处理。
为了便于描述，由于对单视点视频执行将参照图7至图19描述的基于树结构的编码单元的视频编码处理和视频解码处理，因此将描述帧间预测和运动补偿。然而，如参照图1A至图6所描述的，执行基本视点图像和第二视点图像之间的视点间预测和补偿以对视频流进行编码/解码。
因此，为了使根据实施例的多视点视频编码设备10基于具有树结构的编码单元对多视点视频进行编码，根据实施例的多视点视频编码设备10可包括与多视点视频的视点数一样多的图7的视频编码设备100，以便根据每个单层视频执行视频编码，从而控制每个视频编码设备100对被分配的单层视频进行编码。此外，多视点视频编码设备10可通过使用每个视频编码设备100的单独的单视点的编码结果来执行视点间预测。因此，多视点视频编码设备10可产生包括根据视点的编码结果的基本视点视频流和第二视点视频流。
类似地，为了使根据实施例的多视点视频解码设备20基于具有树结构的编码单元对多视点视频进行解码，多视点视频解码设备20可包括与多视点视频的视点数一样多的图8的视频解码设备200，以便针对接收到的第一视点视频流和接收到的第二视点视频流根据视点执行视频解码，从而控制每个视频解码设备200对被分配的单视点视频进行解码。此外，多视点视频解码设备20可通过使用每个视频解码设备200的单独的单视点的解码结果来执行视点间补偿。因此，多视点视频解码设备20可产生根据视点而重建的第一视点图像和第二视点图像。
图7是根据本公开的实施例的基于根据树结构的编码单元的视频编码设备100的框图。
涉及基于根据树结构的编码单元的视频预测的根据实施例的视频编码设备100包括编码单元确定器120和输出单元130。在下文中，为了便于描述，涉及基于根据树结构的编码单元的视频预测的根据实施例的视频编码设备100将被简称为“视频编码设备100”。
编码单元确定器120可基于图像的当前画面的最大编码单元来划分当前画面，其中，最大编码单元是具有最大尺寸的编码单元。如果当前画面大于最大编码单元，则可将当前画面的图像数据划分为至少一个最大编码单元。根据实施例的最大编码单元可以是尺寸为32×32、64×64、128×128、256×256等的数据单元，其中，数据单元的形状是宽度和长度为2的若干次方的正方形。
根据实施例的编码单元可由最大尺寸和深度表征。深度表示编码单元从最大编码单元被空间划分的次数，并且随着深度加深，根据深度的较深层编码单元可从最大编码单元被划分到最小编码单元。最大编码单元的深度为最高深度，最小编码单元的深度为最低深度。由于随着最大编码单元的深度加深，与每个深度相应的编码单元的尺寸减小，因此与更高深度相应的编码单元可包括多个与更低深度相应的编码单元。
如上所述，当前画面的图像数据根据编码单元的最大尺寸被划分为最大编码单元，并且每个最大编码单元可包括根据深度被划分的较深层编码单元。由于根据深度对根据实施例的最大编码单元进行划分，因此可根据深度对包括在最大编码单元中的空间域的图像数据进行分层分类。
可预先确定编码单元的最大深度和最大尺寸，其中，所述最大深度和最大尺寸限制最大编码单元的高度和宽度被分层划分的总次数。
编码单元确定器120对通过根据深度对最大编码单元的区域进行划分而获得的至少一个划分区域进行编码，并且根据所述至少一个划分区域来确定用于输出最终编码的图像数据的深度。换言之，编码单元确定器120通过根据当前画面的最大编码单元以根据深度的较深层编码单元对图像数据进行编码，并选择具有最小编码误差的深度，来确定最终深度。将确定的最终深度和根据确定的编码深度的编码的图像数据输出到输出单元130。
基于与等于或小于最大深度的至少一个深度相应的较深层编码单元，对最大编码单元中的图像数据进行编码，并且基于每个较深层编码单元比较对图像数据进行编码的结果。在对较深层编码单元的编码误差进行比较之后，可选择具有最小编码误差的深度。可针对每个最大编码单元选择至少一个最终深度。
随着编码单元根据深度而被分层地划分以及随着编码单元的数量增加，最大编码单元的尺寸被划分。另外，即使在一个最大编码单元中编码单元与同一深度相应，仍通过分别测量每个编码单元的图像数据的编码误差来确定是否将与同一深度相应的每个编码单元划分到更低深度。因此，即使当图像数据被包括在一个最大编码单元中时，编码误差仍可根据所述一个最大编码单元中的区域而不同，因此最终深度可根据图像数据中的区域而不同。因此，可在一个最大编码单元中确定一个或更多个最终深度，并且可根据至少一个最终深度的编码单元来对最大编码单元的图像数据进行划分。
因此，根据实施例的编码单元确定器120可确定包括在最大编码单元中的具有树结构的编码单元。根据实施例的“具有树结构的编码单元”包括最大编码单元中包括的所有较深层编码单元中的与确定为最终深度的深度相应的编码单元。可根据最大编码单元的同一区域中的深度来分层地确定最终深度的编码单元，并可在不同区域中独立地确定最终深度的编码单元。类似地，可独立于另一区域中的最终深度而确定当前区域中的编码深度。
根据实施例的最大深度是与从最大编码单元到最小编码单元的划分次数相关的索引。根据实施例的第一最大深度可表示从最大编码单元到最小编码单元的总划分次数。根据实施例的第二最大深度可表示从最大编码单元到最小编码单元的深度等级的总数。例如，当最大编码单元的深度是0时，对最大编码单元划分一次的编码单元的深度可被设置为1，对最大编码单元划分两次的编码单元的深度可被设置为2。这里，如果最小编码单元是最大编码单元被划分四次的编码单元，则存在深度0、1、2、3和4的深度等级，并因此第一最大深度可被设置为4，第二最大深度可被设置为5。
可根据最大编码单元执行预测编码和变换。还根据最大编码单元，基于根据等于或小于最大深度的深度的较深层编码单元来执行预测编码和变换。
由于每当根据深度对最大编码单元进行划分时，较深层编码单元的数量增加，因此对随着深度加深而产生的所有较深层编码单元执行包括预测编码和变换的编码。为了便于描述，在最大编码单元中，现在将基于当前深度的编码单元来描述预测编码和变换。
根据实施例的视频编码设备100可不同地选择用于对图像数据进行编码的数据单元的尺寸或形状。为了对图像数据进行编码，执行诸如预测编码、变换和熵编码的操作，此时，可针对所有操作使用相同的数据单元，或者可针对每个操作使用不同的数据单元。
例如，视频编码设备100不仅可选择用于对图像数据进行编码的编码单元，还可选择不同于编码单元的数据单元，以便对编码单元中的图像数据执行预测编码。
为了在最大编码单元中执行预测编码，可基于根据实施例的与最终深度相应的编码单元(即，基于不再被划分为与更低深度相应的编码单元的编码单元)来执行预测编码。以下，不再被划分且成为用于预测编码的基本单元的编码单元现在将被称为“预测单元”。通过划分预测单元而获得的分区可包括预测单元或通过对预测单元的高度和宽度中的至少一个进行划分而获得的数据单元。分区是编码单元的预测单元被划分的数据单元，并且预测单元可以是与编码单元具有相同尺寸的分区。
例如，当2N×2N(其中，N是正整数)的编码单元不再被划分并且成为2N×2N的预测单元时，分区的尺寸可以是2N×2N、2N×N、N×2N或N×N。根据实施例的分区类型的示例包括通过对预测单元的高度或宽度进行对称地划分而获得的对称分区、通过对预测单元的高度或宽度进行非对称地划分(诸如，1：n或n:1)而获得的分区、通过对预测单元进行几何地划分而获得的分区、以及具有任意形状的分区。
预测单元的预测模式可以是帧内模式、帧间模式和跳过模式中的至少一个。例如，可对2N×2N、2N×N、N×2N或N×N的分区执行帧内模式或帧间模式。另外，可仅对2N×2N的分区执行跳过模式。可对编码单元中的一个预测单元独立地执行编码，从而选择具有最小编码误差的预测模式。
根据实施例的视频编码设备100不仅可基于用于对图像数据进行编码的编码单元还可基于与编码单元不同的数据单元，来对编码单元中的图像数据执行变换。为了在编码单元中执行变换，可基于具有小于或等于编码单元的尺寸的变换单元来执行变换。例如，变换单元可包括用于帧内模式的数据单元和用于帧间模式的变换单元。
根据实施例，按照与根据树结构被划分的编码单元类似的方式，编码单元中的变换单元可被递归地划分为更小尺寸的区域。因此，可基于根据变换深度的具有树结构的变换单元，对编码单元中的残差数据进行划分。
还可在根据实施例的变换单元中设置变换深度，其中，变换深度指示通过对编码单元的高度和宽度进行划分而达到变换单元的划分次数。例如，在2N×2N的当前编码单元中，当变换单元的尺寸是2N×2N时，变换深度可以是0，当变换单元的尺寸是N×N时，变换深度可以是1，当变换单元的尺寸是N/2×N/2时，变换深度可以是2。换句话说，可根据变换深度设置具有树结构的变换单元。
根据深度的划分信息不仅要求关于深度的信息，还要求关于与预测编码和变换相关的信息的信息。因此，编码单元确定器120不仅确定具有最小编码误差的深度，还确定预测单元中的分区模式、根据预测单元的预测模式以及用于变换的变换单元的尺寸。
随后在下面将参照图9至图19详细描述根据实施例的最大编码单元中的根据树结构的编码单元以及确定预测单元/分区和变换单元的方法。
编码单元确定器120可通过使用基于拉格朗日乘数的率失真优化，来测量根据深度的较深层编码单元的编码误差。
输出单元130在比特流中输出最大编码单元的图像数据和根据深度的划分信息，其中，所述最大编码单元的图像数据基于由编码单元确定器120确定的至少一个深度而被编码。
可通过对图像的残差数据进行编码来获得编码图像数据。
根据深度的划分信息可包括关于编码深度的信息、关于预测单元中的分区模式的信息、关于预测模式的信息和关于变换单元的划分的信息。
可通过使用根据深度的划分信息来定义关于最终深度的信息，其中，根据深度的划分信息指示是否对更低深度而不是当前深度的编码单元执行编码。如果当前编码单元的当前深度是深度，则对当前编码单元进行编码，因此可将划分信息定义为不将当前编码单元划分到更低深度。可选地，如果当前编码单元的当前深度不是深度，则对更低深度的编码单元执行编码，并因此可将划分信息定义为对当前编码单元进行划分来获得更低深度的编码单元。
如果当前深度不是深度，则对被划分到更低深度的编码单元的编码单元执行编码。由于更低深度的至少一个编码单元存在于当前深度的一个编码单元中，因此对更低深度的每个编码单元重复执行编码，并因此可对具有相同深度的编码单元递归地执行编码。
由于针对一个最大编码单元确定具有树结构的编码单元，并且针对深度的编码单元确定至少一条划分信息，因此可针对一个最大编码单元确定所述至少一条划分信息。另外，由于根据深度对图像数据进行分层划分，因此最大编码单元的图像数据的深度可根据位置而不同，因此可针对图像数据设置深度和划分信息。
因此，根据实施例的输出单元130可将关于相应的深度和编码模式的编码信息分配给包括在最大编码单元中的编码单元、预测单元和最小单元中的至少一个。
根据实施例的最小单元是通过将构成最低深度的最小编码单元划分为4份而获得的正方形数据单元。可选择地，根据实施例的最小单元可以是可包括在最大编码单元中所包括的所有编码单元、预测单元、分区单元和变换单元中的最大方形数据单元。
例如，通过输出单元130输出的编码信息可被分类为根据较深层编码单元的编码信息和根据预测单元的编码信息。根据较深层编码单元的编码信息可包括关于预测模式的信息和关于分区尺寸的信息。根据预测单元的编码信息可包括关于帧间模式的估计方向的信息、关于帧间模式的参考图像索引的信息、关于运动矢量的信息、关于帧内模式的色度分量的信息、以及关于帧内模式的插值方法的信息。
根据画面、条带或GOP定义的关于编码单元的最大尺寸的信息和关于最大深度的信息可被插入到比特流的头、序列参数集或画面参数集。
关于针对当前视频允许的变换单元的最大尺寸的信息、以及关于变换单元的最小尺寸的信息也可通过比特流的头、序列参数集或画面参数集来输出。输出单元130可对与预测相关的参考信息、预测信息和条带类型信息进行编码和输出。
在根据最简单实施例的视频编码设备100中，较深层编码单元可以是通过将更高深度的编码单元(更高一层)的高度或宽度划分成两份而获得的编码单元。换言之，当当前深度的编码单元的尺寸是2N×2N时，更低深度的编码单元的尺寸是N×N。另外，尺寸为2N×2N的当前深度的编码单元可包括最多4个具有更低深度的编码单元。
因此，视频编码设备100可基于考虑当前画面的特征而确定的最大编码单元的尺寸和最大深度，通过针对每个最大编码单元确定具有最优形状和最优尺寸的编码单元来形成具有树结构的编码单元。另外，由于可通过使用各种预测模式和变换中的任意一个对每个最大编码单元执行编码，因此可考虑各种图像尺寸的编码单元的特征来确定最优编码模式。
因此，如果以传统宏块对具有高分辨率或大数据量的图像进行编码，则每个画面的宏块的数量极度增加。因此，针对每个宏块产生的压缩信息的条数增加，因此难以发送压缩的信息，并且数据压缩效率降低。然而，通过使用根据实施例的视频编码设备100，由于在考虑图像的尺寸的情况下增加编码单元的最大尺寸的同时，可在考虑图像的特征的同时调整编码单元，因此可提高图像压缩效率。
以上参照图1a描述的多视点视频编码设备10可包括与视点数一样多的视频编码设备100，以根据多视点视频的视点对单视点图像进行编码。例如，多视点视频编码设备10可包括第一视点中的一个视频编码设备100，并包括与第二视点数一样多的视频编码设备100。
当视频编码设备100对第一视点图像进行编码时，编码单元确定器120可根据具有树结构的编码单元针对每个最大编码单元确定用于帧间预测的预测单元，并根据预测单元执行帧间预测。
即使当视频编码设备100对第二视点图像进行编码时，编码单元确定器120仍可针对每个最大编码单元确定具有树结构的预测单元和编码单元，并且可根据预测单元执行帧间预测。
视频编码设备100可对第一视点图像与第二视点图像之间的亮度差进行编码，以补偿亮度差。然而，可根据编码单元的编码模式来确定是否执行亮度补偿。例如，可仅对2N×2N的预测单元执行亮度补偿。
图8示出根据各种实施例的基于根据树结构的编码单元的视频解码设备200的框图。
根据实施例的涉及基于具有树结构的编码单元的视频预测的视频解码设备200包括接收器210、图像数据和编码信息提取器220和图像数据解码器230。为了便于描述，根据实施例的涉及基于具有树结构的编码单元的视频预测的视频解码设备200被简称为“视频解码设备200”。
用于根据实施例的视频解码设备200的解码操作的各种术语(诸如编码单元、深度、预测单元、变换单元和各种类型的划分信息)的定义与参照图7和视频编码设备100描述的定义相同。
接收器210接收和解析编码视频的比特流。图像数据和编码信息提取器220从解析的比特流，针对每个编码单元提取编码的图像数据，并将提取的图像数据输出到图像数据解码器230，其中，编码单元具有根据每个最大编码单元的树结构。图像数据和编码信息提取器220可从关于当前画面的头、序列参数集或画面参数集提取关于当前画面的编码单元的最大尺寸的信息。
另外，图像数据和编码信息提取器220从解析的比特流，提取关于具有根据每个最大编码单元的树结构的编码单元的最终深度和划分信息。提取的最终深度和划分信息被输出到图像数据解码器230。换句话说，比特流中的图像数据被划分为最大编码单元，使得图像数据解码器230针对每个最大编码单元对图像数据进行解码。
可针对至少一条深度信息设置根据最大编码单元的深度和划分信息，根据深度的划分信息可包括关于相应编码单元的分区模式的信息、关于预测模式的信息和关于变换单元的划分的信息。另外，根据深度的划分信息可被提取为深度信息。
由图像数据和编码信息提取器220提取的根据每个最大编码单元的深度和划分信息是这样的深度和划分信息：该深度和划分信息被确定为在编码器(诸如，根据实施例的视频编码设备100)根据每个最大编码单元对根据深度的每个较深层编码单元重复地执行编码时产生最小编码误差。因此，视频解码设备200可通过根据产生最小编码误差的编码深度和编码模式对图像数据进行解码来重建图像。
由于关于深度和编码模式的根据实施例的编码信息可被分配给相应编码单元、预测单元和最小单元中的预定数据单元，因此图像数据和编码信息提取器220可根据预定数据单元提取深度和划分信息。如果相应最大编码单元的深度和划分信息根据预定数据单元被记录，则被分配相同的深度和划分信息的预定数据单元可被推断为包括在同一最大编码单元中的数据单元。
图像数据解码器230基于根据最大编码单元的深度和划分信息，通过对每个最大编码单元中的图像数据进行解码，来重建当前画面。换言之，图像数据解码器230可基于提取出的关于包括在每个最大编码单元中的具有树结构的编码单元之中的每个编码单元的分区模式、预测模式和变换单元的信息，对编码的图像数据进行解码。解码处理可包括预测(包含帧内预测和运动补偿)和逆变换。
图像数据解码器230可基于关于根据深度的编码单元的预测单元的分区模式和预测模式的信息，根据每个编码单元的分区和预测模式，执行帧内预测或运动补偿。
此外，为了对每个最大编码单元进行逆变换，图像数据解码器230可读取关于每个编码单元的根据树结构的变换单元的信息，以便基于每个编码单元的变换单元执行逆变换。通过逆变换，编码单元的空间域的像素值可被重建。
图像数据解码器230可通过使用根据深度的划分信息来确定当前最大编码单元的深度。如果划分信息指示图像数据在当前深度下不再被划分，则当前深度是深度。因此，图像数据解码器230可通过使用关于用于与编码深度相应的每个编码单元的预测单元的分区模式、预测模式和变换单元的尺寸的信息，对当前最大编码单元中的编码数据进行解码。
换言之，可通过观察被分配给编码单元、预测单元和最小单元中的预定数据单元的编码信息集来收集包含包括相同划分信息的编码信息的数据单元，并且收集的数据单元可被认为是将由图像数据解码器230以相同编码模式进行解码的一个数据单元。结果，可通过获得关于每个编码单元的编码模式的信息来对当前编码单元进行解码。
以上参照图2a描述的多视点视频解码设备20可包括与视点数一样多的视频解码设备200，以对接收到的第一视点图像流和第二视点图像流进行解码来重建第一视点图像和第二视点图像。
当第一视点图像流被接收时，视频解码设备200的图像数据解码器230可将由提取器220从第一视点图像流提取出的第一视点图像的样点划分为最大编码单元的根据树结构的编码单元。图像数据解码器230可对用于对第一视点图像的样点的根据树结构的每个编码单元进行帧间预测的各个预测单元执行运动补偿，来重建第一视点图像。
当第二视点图像流被接收时，视频解码设备200的图像数据解码器230可将由提取器220从第二视点图像流提取出的第二视点图像的样点划分为最大编码单元的根据树结构的编码单元。图像数据解码器230可对用于对第二视点图像的样点进行帧间预测的各个预测单元执行运动补偿来重建第二视点图像。
提取器220可从比特流获得与第一视点图像与第二视点图像之间的亮度误差有关的信息，以补偿亮度差。然而，可根据编码单元的编码模式来确定是否执行亮度补偿。例如，可仅对2N×2N的预测单元执行亮度补偿。
视频解码设备200可获得与在对每个最大编码单元递归地执行编码时产生最小编码误差的编码单元有关的信息，并可使用所述信息来对当前画面进行解码。换句话说，可对每个最大编码单元中的被确定为适当编码单元的具有树结构的编码单元进行解码。
因此，即使图像数据具有高分辨率或具有庞大数据量，也可通过使用适当划分信息来有效地对图像数据进行解码和重建，其中，所述适当划分信息是通过使用从编码器接收的关于最优编码模式的信息，根据图像数据的特性而被自适应地确定的。
图9是用于描述根据各种实施例的编码单元的构思的示图。
编码单元的尺寸可被表示为宽度×高度，并且可以是64×64、32×32、16×16和8×8。64×64的编码单元可被划分为64×64、64×32、32×64或32×32的分区，32×32的编码单元可被划分为32×32、32×16、16×32或16×16的分区，16×16的编码单元可被划分为16×16、16×8、8×16或8×8的分区，8×8的编码单元可被划分为8×8、8×4、4×8或4×4的分区。
在视频数据310中，分辨率为1920×1080，编码单元的最大尺寸为64，最大深度为2。在视频数据320中，分辨率为1920×1080，编码单元的最大尺寸为64，最大深度为3。在视频数据330中，分辨率为352×288，编码单元的最大尺寸为16，最大深度为1。图10中示出的最大深度表示从最大编码单元到最小解码单元的划分总次数。
如果分辨率高或数据量大，则编码单元的最大尺寸可能较大，从而不仅提高编码效率，而且准确地反映图像的特征。因此，具有比视频数据330更高分辨率的视频数据310和320的编码单元的最大尺寸可以是64。
由于视频数据310的最大深度是2，因此由于通过对最大编码单元划分两次，深度加深至2层，因此视频数据310的编码单元315可包括长轴尺寸为64的最大编码单元和长轴尺寸为32和16的编码单元。由于视频数据330的最大深度是1，因此由于通过对最大编码单元划分一次，深度加深至1层，因此视频数据330的编码单元335可包括长轴尺寸为16的最大编码单元和长轴尺寸为8的编码单元。
由于视频数据320的最大深度是3，因此由于通过对最大编码单元划分三次，深度加深至3层，因此视频数据320的编码单元325可包括长轴尺寸为64的最大编码单元和长轴尺寸为32、16和8的编码单元。随着深度加深，可精确地表示详细信息。
图10是根据各种实施例的基于编码单元的图像编码器400的框图。
根据实施例的图像编码器400执行在视频编码设备100的编码单元确定器120中对图像数据进行编码所需的操作。换句话说，帧内预测器420根据预测单元对当前画面405中的帧内模式下的编码单元执行帧内预测，帧间预测器415根据预测单元通过使用当前画面405和从重建画面缓冲器410获得的参考图像，对帧间模式下的编码单元执行帧间预测。当前图像405可被划分为最大编码单元，然后最大编码单元可被顺序编码。在这方面，可对将被划分为具有树结构的编码单元的最大编码单元进行编码。
从与当前画面405的编码的编码单元相关的数据去除从帧内预测器420或帧间预测器415输出的与每个模式的编码单元相关的预测数据，从而产生残差数据，并且残差数据通过变换器425和量化器430被输出为根据变换单元的量化后的变换系数。量化后的变换系数通过反量化器445和逆变换器450被重建为空间域中的残差数据。重建的空间域中的残差数据与从帧内预测器420或帧间预测器输出的每个模式的编码单元的预测数据相加，并因此被重建为当前画面405的编码单元的空间域中的数据。重建的空间域中的数据通过去块单元455和SAO执行器460被产生为重建图像，并且重建图像被存储在重建画面缓冲器410中。存储在重建画面缓冲器410中的重建图像可被用作用于对另一图像进行帧间预测的参考图像。变换器425和量化器430量化的变换系数可通过熵编码器435被输出为比特流440。
为了将根据实施例的图像编码器400应用于视频编码设备100，图像编码器400的所有元件(即，帧间预测器415、帧内预测器420、变换器425、量化器430、熵编码器435、反量化器445、逆变换器450、去块单元455和SAO执行器460)基于具有根据每个最大编码单元的树结构的编码单元中的每个编码单元执行操作。
具体地，帧内预测器420和帧间预测器415可在考虑当前最大编码单元的最大尺寸和最大深度来确定具有树结构的编码单元中的每个编码单元的分区模式和预测模式，变换器425可确定是否在具有树结构的编码单元中的每个编码单元中划分具有四叉树结构的变换单元。
图11是根据各种实施例的基于编码单元的图像解码器500的框图。
熵解码器515从比特流505解析将被解码的编码图像数据和解码所需的编码信息。编码图像数据作为量化后的变换系数，反量化器520和逆变换器525从量化后的变换系数重建残差数据。
帧内预测器540根据每个预测单元对帧内模式下的编码单元执行帧内预测。帧间预测器535通过使用从重建画面缓冲器530获得的参考图像对用于每个预测单元的当前图像之中的帧间模式下的编码单元执行帧间预测。
通过帧内预测器540或帧间预测器535的关于每个模式的编码单元的预测数据与残差数据相加，从而可重建关于当前画面405的编码单元的空间域的数据，并且重建的空间域的数据可在通过去块单元545和SAO执行器550被输出为重建图像560。存储在重建画面缓冲器530中的重建图像可被输出为参考图像。
为了使视频解码设备200的图像数据解码器230对图像数据进行解码，可执行根据实施例的图像解码器500的熵解码器515之后的操作。
为了将图像解码器500应用于根据实施例的视频解码设备200，图像解码器500的所有元件(即，熵解码器515、反量化器520、逆变换器525、帧内预测器540、帧间预测器535、去块单元545和SAO执行器550)可针对每个最大编码单元基于具有树结构的编码单元执行操作。
具体地，帧内预测器540和帧间预测器535可确定具有树结构的编码单元中的每个编码单元的分区和预测模式，逆变换器525可确定是否针对每个编码单元划分具有四叉树结构的变换单元。
图10的编码操作和图11的解码操作分别描述在单个层中的视频流编码操作和视频流解码操作。因此，如果图1a的多视点视频编码设备10对两个或更多个层的视频流进行编码，则图像编码器400可针对每个层被包括。类似地，如果图2a的多视点视频解码器20对两个或更多个层的视频流进行解码，则图像解码器500可针对每个层被包括。
图12是示出根据各种实施例的根据深度的较深层编码单元以及分区的示图。
根据实施例的视频编码设备100和根据实施例的视频解码设备200使用分层编码单元以考虑图像的特征。可根据图像的特征自适应地确定编码单元的最大高度、最大宽度和最大深度，或可由用户不同地设置编码单元的最大高度、最大宽度和最大深度。可根据编码单元的预定最大尺寸来确定根据深度的较深层编码单元的尺寸。
在根据实施例的编码单元的分层结构600中，编码单元的最大高度和最大宽度均是64，最大深度是3。在此情况下，最大深度表示编码单元从最大编码单元划分到最小编码单元的总次数。由于深度沿着根据实施例的编码单元的分层结构600的垂直轴加深，因此较深层编码单元的高度和宽度均被划分。另外，预测单元和分区沿着分层结构600的水平轴被示出，其中，所述预测单元和分区是对每个较深层编码单元进行预测编码的基础。
换言之，在分层结构600中，编码单元610是最大编码单元，其中，深度为0，尺寸(即，高度乘宽度)为64×64。深度沿着垂直轴加深，存在尺寸为32×32且深度为1的编码单元620、尺寸为16×16且深度为2的编码单元630以及尺寸为8×8且深度为3的编码单元640。尺寸为8×8且深度为3的编码单元640是最小编码单元。
编码单元的预测单元和分区根据每个深度沿着水平轴被排列。换言之，如果尺寸为64×64且深度为0的编码单元610是预测单元，则可将预测单元划分成包括在编码单元610中的分区，即，尺寸为64×64的分区610、尺寸为64×32的分区612、尺寸为32×64的分区614或尺寸为32×32的分区616。
类似地，可将尺寸为32×32且深度为1的编码单元620的预测单元划分成包括在编码单元620中的分区，即，尺寸为32×32的分区620、尺寸为32×16的分区622、尺寸为16×32的分区624和尺寸为16×16的分区626。
类似地，可将尺寸为16×16且深度为2的编码单元630的预测单元划分成包括在编码单元630中的分区，即，包括在编码度单元630中的尺寸为16×16的分区、尺寸为16×8的分区632、尺寸为8×16的分区634和尺寸为8×8的分区636。
类似地，可将尺寸为8×8且深度为3的编码单元640的预测单元划分成包括在编码单元640中的分区，即，包括在编码单元640中的尺寸为8×8的分区、尺寸为8×4的分区642、尺寸为4×8的分区644和尺寸为4×4的分区646。
为了确定构成最大编码单元610的编码单元的至少一个深度，根据实施例的视频编码设备100的编码单元确定器120对包括在最大编码单元610中的与每个深度相应的编码单元执行编码。
随着深度加深，包括具有相同范围和相同尺寸的数据的根据深度的较深层编码单元的数量增加。例如，需要四个与深度2相应的编码单元来覆盖包括在与深度1相应的一个编码单元中的数据。因此，为了根据深度比较对相同数据进行编码的结果，与深度1相应的编码单元和四个与深度2相应的编码单元均被编码。
为了针对多个深度之中的当前深度执行编码，可沿着分层结构600的水平轴，通过对与当前深度相应的编码单元中的每个预测单元执行编码，来针对当前深度选择最小编码误差。可选地，随着深度沿着分层结构600的垂直轴加深，可通过针对每个深度执行编码，通过比较根据深度的最小编码误差，以搜索最小编码误差。在编码单元610中的具有最小编码误差的深度和分区可被选为编码单元610的深度和分区模式。
图13是用于描述根据各种实施例的编码单元和变换单元之间的关系的示图。
根据实施例的视频编码设备100或根据实施例的视频解码设备200针对每个最大编码单元，根据具有小于或等于最大编码单元的尺寸的编码单元，对图像进行编码或解码。可基于不大于相应编码单元的数据单元，来选择用于在编码期间进行变换的变换单元的尺寸。
例如，在根据实施例的视频编码设备100或根据实施例的视频解码设备200中，如果编码单元710的尺寸是64×64，则可通过使用尺寸为32×32的变换单元720来执行变换。
此外，可通过对小于64×64的尺寸为32×32、16×16、8×8和4×4的变换单元中的每一个执行变换，来对尺寸为64×64的编码单元710的数据进行编码，然后可选择具有最小编码误差的变换单元。
图14示出根据实施例的根据深度的多条编码信息。
根据实施例的视频编码设备100的输出单元130可对与编码深度相应的每个编码单元的关于分区模式的信息800、关于预测模式的信息810以及关于变换单元尺寸的信息820进行编码，并将信息800、信息810以及信息820作为划分信息来发送。
信息800指示关于通过划分当前编码单元的预测单元而获得的分区的形状的信息，其中，分区是用于对当前编码单元进行预测编码的数据单元。例如，可将尺寸为2N×2N的当前编码单元CU_0划分成以下分区中的任意一个：尺寸为2N×2N的分区802、尺寸为2N×N的分区804、尺寸为N×2N的分区806和尺寸为N×N的分区808。这里，关于分区类型的信息800被设置为指示以下分区之一：尺寸为2N×N的分区804、尺寸为N×2N的分区806和尺寸为N×N的分区808。
信息810指示每个分区的预测模式。例如，信息810可指示对由信息800指示的分区执行的预测编码的模式，即，帧内模式812、帧间模式814或跳过模式816。
信息820指示当对当前编码单元执行变换时所基于的变换单元。例如，变换单元可以是第一帧内变换单元822、第二帧内变换单元824、第一帧间变换单元826或第二帧间变换单元828。
根据实施例的视频解码设备200的图像数据和编码信息提取器220可根据每个较深层编码单元，提取并使用用于解码的信息800、信息810和信息820。
图15是根据各种实施例的根据深度的较深层编码单元的示图。
划分信息可用来指示深度的改变。划分信息指示当前深度的编码单元是否被划分成更低深度的编码单元。
用于对深度为0且尺寸为2N_0×2N_0的编码单元900进行预测编码的预测单元910可包括以下分区模式的分区：尺寸为2N_0×2N_0的分区模式912、尺寸为2N_0×N_0的分区模式914、尺寸为N_0×2N_0的分区模式916和尺寸为N_0×N_0的分区模式918。图9仅示出了通过对称地划分预测单元910而获得的分区类型912至918，但是分区模式不限于此，并且预测单元910的分区可包括非对称分区、具有预定形状的分区和具有几何形状的分区。
根据每种分区模式，对尺寸为2N_0×2N_0的一个分区、尺寸为2N_0×N_0的两个分区、尺寸为N_0×2N_0的两个分区和尺寸为N_0×N_0的四个分区重复地执行预测编码。可对尺寸为2N_0×2N_0、N_0×2N_0、2N_0×N_0和N_0×N_0的分区执行帧内模式和帧间模式下的预测编码。仅对尺寸为2N_0×2N_0的分区执行跳过模式下的预测编码。
如果在分区模式912至916中的一个分区模式中编码误差最小，则可不将预测单元910划分到更低深度。
如果在分区模式918中编码误差最小，则深度从0改变到1以在操作920中对分区模式918进行划分，并对深度为2和尺寸为N_0×N_0的编码单元930重复地执行编码来搜索最小编码误差。
用于对深度为1和尺寸为2N_1×2N_1(＝N_0×N_0)的编码单元930进行预测编码的预测单元940可包括以下分区模式的分区：尺寸为2N_1×2N_1的分区模式942、尺寸为2N_1×N_1的分区模式944、尺寸为N_1×2N_1的分区模式946以及尺寸为N_1×N_1的分区模式948。
如果在分区模式948中编码误差最小，则深度从1改变到2以在操作950中对分区模式948进行划分，并对深度为2和尺寸为N_2×N_2的编码单元960重复执行编码来搜索最小编码误差。
当最大深度是d时，根据每个深度的划分操作可被执行直到深度变成d-1时，并且划分信息可被编码直到深度是0到d-2之一时。换句话说，当编码被执行直到在与d-2的深度相应的编码单元在操作970中被划分之后深度是d-1时，用于对深度为d-1和尺寸为2N_(d-1)×2N_(d-1)的编码单元980进行预测编码的预测单元990可包括以下分区模式的分区：尺寸为2N_(d-1)×2N_(d-1)的分区模式992、尺寸为2N_(d-1)×N_(d-1)的分区模式994、尺寸为N_(d-1)×2N_(d-1)的分区模式996和尺寸为N_(d-1)×N_(d-1)的分区模式998。
可对分区模式992至998中的尺寸为2N_(d-1)×2N_(d-1)的一个分区、尺寸为2N_(d-1)×N_(d-1)的两个分区、尺寸为N_(d-1)×2N_(d-1)的两个分区、尺寸为N_(d-1)×N_(d-1)的四个分区重复地执行预测编码，以搜索具有最小编码误差的分区模式。
即使当分区模式998具有最小编码误差时，由于最大深度是d，因此深度为d-1的编码单元CU_(d-1)也不再被划分到更低深度，用于构成当前最大编码单元900的编码单元的深度被确定为d-1，并且当前最大编码单元900的分区模式可被确定为N_(d-1)×N_(d-1)。此外，由于最大深度是d，因此不设置用于深度为d-1的编码单元952的划分信息。
数据单元999可以是用于当前最大编码单元的“最小单元”。根据实施例的最小单元可以是通过将具有最低深度的最小编码单元划分成4份而获得的方形数据单元。通过重复地执行编码，根据实施例的视频编码设备100可通过比较根据编码单元900的深度的编码误差来选择具有最小编码误差的深度以确定深度，并将相应分区模式和预测模式设置为该深度的编码模式。
这样，在所有深度1至d中对根据深度的最小编码误差进行比较，并且具有最小编码误差的深度可被确定为深度。编码深度、预测单元的分区模式和预测模式可作为关于划分信息被编码并发送。另外，由于编码单元从0的深度被划分到深度，因此仅将该深度的划分信息设置为0，并且将除了该深度以外的深度的划分信息设置为1。
根据实施例的视频解码设备200的图像数据和编码信息提取器220可提取并使用关于编码单元900的深度和预测单元的信息，来对分区912进行解码。根据实施例的视频解码设备200可通过使用根据深度的划分信息，将划分信息为0的深度确定为深度，并且使用相应深度的划分信息来进行解码。
图16至图18是用于描述根据各种实施例的在编码单元、预测单元和变换单元之间的关系的示图。
编码单元1010是最大编码单元中的与由根据实施例的视频编码设备100确定的深度相应的具有树结构的编码单元。预测单元1060是每个编码单元1010中的预测单元的分区，变换单元1070是每个编码单元1010的变换单元。
当在编码单元1010中最大编码单元的深度是0时，编码单元1012和1054的深度是1，编码单元1014、1016、1018、1028、1050和1052的深度是2，编码单元1020、1022、1024、1026、1030、1032和1048的深度是3，编码单元1040、1042、1044和1046的深度是4。
在预测单元1060中，通过划分编码单元1010中的编码单元来获得一些编码单元1014、1016、1022、1032、1048、1050、1052和1054。换句话说，编码单元1014、1022、1050和1054中的分区模式的尺寸是2N×N，编码单元1016、1048和1052中的分区模式的尺寸是N×2N，编码单元1032的分区模式的尺寸为N×N。编码单元1010的预测单元和分区小于或等于每个编码单元。
在小于编码单元1052的数据单元中的变换单元1070中，对编码单元1052的图像数据执行变换或逆变换。另外，在尺寸和形状方面，变换单元1070中的编码单元1014、1016、1022、1032、1048、1050和1052不同于预测单元1060中的编码单元1014、1016、1022、1032、1048、1050和1052。换句话说，根据实施例的视频编码设备100和视频解码设备200可对同一编码单元中的数据单元独立地执行帧内预测、运动估计、运动补偿、变换和逆变换。
因此，对最大编码单元的每个区域中的具有分层结构的每个编码单元递归地执行编码来确定最优编码单元，从而可获得具有递归树结构的编码单元。编码信息可包括关于编码单元的划分信息、关于分区模式的信息、关于预测模式的信息和关于变换单元的尺寸的信息。表1示出可由根据实施例的视频编码设备100和视频解码设备200设置的编码信息。
[表1]
根据实施例的视频编码设备100的输出单元130可输出关于具有树结构的编码单元的编码信息，根据实施例的视频解码设备200的图像数据和编码信息提取器220可从接收到的比特流提取关于具有树结构的编码单元的编码信息。
划分信息指示是否将当前编码单元划分成更低深度的编码单元。如果当前深度d的划分信息是0，则当前编码单元不再被划分成更低深度的深度是深度，从而可针对该深度定义关于分区模式、预测模式和变换单元的尺寸的信息。如果当前编码单元根据划分信息被进一步划分，则对更低深度的四个划分编码单元独立地执行编码。
预测模式可以是帧内模式、帧间模式和跳过模式中的一种。可在所有分区模式中定义帧内模式和帧间模式，仅在尺寸为2N×2N的分区模式中定义跳过模式。
关于分区模式的信息可指示通过对称地划分预测单元的高度或宽度而获得的尺寸为2N×2N、2N×N、N×2N和N×N的对称分区模式，以及通过非对称地划分预测单元的高度或宽度而获得的尺寸为2N×nU、2N×nD、nL×2N和nR×2N的非对称分区模式。可通过按1:3和3:1来划分预测单元的高度来分别获得尺寸为2N×nU和2N×nD的非对称分区模式，可通过按1:3和3:1来划分预测单元的宽度来分别获得尺寸为nL×2N和nR×2N的非对称分区模式。
可将变换单元的尺寸设置成帧内模式下的两种类型和帧间模式下的两种类型。换句话说，如果变换单元的划分信息是0，则变换单元的尺寸可以是2N×2N，即当前编码单元的尺寸。如果变换单元的划分信息是1，则可通过对当前编码单元进行划分来获得变换单元。另外，如果尺寸为2N×2N的当前编码单元的分区模式是对称分区模式，则变换单元的尺寸可以是N×N，如果当前编码单元的分区模式是非对称分区模式，则变换单元的尺寸可以是N/2×N/2。
根据实施例的关于具有树结构的编码单元的编码信息可包括与深度相应的编码单元、预测单元和最小单元中的至少一个。与深度相应的编码单元可包括包含相同编码信息的预测单元和最小单元中的至少一个。
因此，通过比较邻近数据单元的编码信息来确定邻近数据单元是否被包括在与深度相应的同一编码单元中。另外，通过使用数据单元的编码信息来确定与深度相应的相应编码单元，并因此可确定最大编码单元中的深度的分布。
因此，如果基于邻近数据单元的编码信息来对当前编码单元进行预测，则可直接参考并使用与当前编码单元邻近的较深层编码单元中的数据单元的编码信息。
可选地，如果基于邻近数据单元的编码信息来对当前编码单元进行预测，则使用数据单元的编码信息来搜索与当前编码单元邻近的数据单元，并可参考搜索到的邻近编码单元以对当前编码单元进行预测。
图19是用于描述根据表1的编码模式信息的编码单元、预测单元和变换单元之间的关系的示图。
最大编码单元1300包括多个深度的编码单元1302、1304、1306、1312、1314、1316和1318。这里，由于编码单元1318是一个深度的编码单元，因此划分信息可被设置成0。可将关于尺寸为2N×2N的编码单元1318的分区模式的信息设置成以下分区模式中的一种：尺寸为2N×2N分区模式1322、尺寸为2N×N分区模式1324、尺寸为N×2N分区模式1326、尺寸为N×N分区模式1328、尺寸为2N×nU分区模式1332、尺寸为2N×nD分区模式1334、尺寸为nL×2N分区模式1336和尺寸为nR×2N分区模式1338。
变换单元的划分信息(TU尺寸标志)是一种类型的变换索引。与变换索引相应的变换单元的尺寸可根据编码单元的预测单元类型或分区模式而改变。
例如，当分区模式被设置成对称(即，分区模式1322、1324、1326或1328)时，如果变换单元的TU尺寸标志是0，则设置尺寸为2N×2N的变换单元1342，如果变换单元的TU尺寸标志是1，则设置尺寸为N×N的变换单元1344。
当分区模式被设置成非对称(即，分区模式1332、1334、1336或1338)时，如果TU尺寸标志是0，则设置尺寸为2N×2N的变换单元1352，如果TU尺寸标志是1，则设置尺寸为N/2×N/2的变换单元1354。
参照图19，TU尺寸标志是具有值0或1的标志，但是根据实施例的TU尺寸标志不限于1比特，并且变换单元可在TU尺寸标志从0增加时被分层地划分。变换单元的划分信息(TU尺寸标志)可以是变换索引的示例。
在这种情况下，可通过使用根据实施例的变换单元的TU尺寸标志以及变换单元的最大尺寸和最小尺寸来表示实际上已使用的变换单元的尺寸。根据实施例的视频编码设备100能够对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志进行编码。对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志进行编码的结果可被插入SPS。根据实施例的视频解码设备200可通过使用最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标志来对视频进行解码。
例如，(a)如果当前编码单元的尺寸是64×64并且最大变换单元尺寸是32×32，则(a-1)当TU尺寸标志为0时，变换单元的尺寸可以是32×32，(a-2)当TU尺寸标志为1时，变换单元的尺寸可以是16×16，(a-3)当TU尺寸标志为2时，变换单元的尺寸可以是8×8。
作为另一示例，(b)如果当前编码单元的尺寸是32×32并且最小变换单元尺寸是32×32，则(b-1)当TU尺寸标志为0时，变换单元的尺寸可以是32×32。这里，由于变换单元的尺寸不能够小于32×32，因此TU尺寸标志不能够被设置为除了0以外的值。
作为另一示例，(c)如果当前编码单元的尺寸是64×64并且最大TU尺寸标志为1，则TU尺寸标志可以是0或1。这里，TU尺寸标志不能够被设置为除了0或1以外的值。
因此，如果定义最大TU尺寸标志为“MaxTransformSizeIndex”，最小变换单元尺寸为“MinTransformSize”，当TU尺寸标志为0时的变换单元尺寸为“RootTuSize”，则可通过等式(1)来定义可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”：
CurrMinTuSize＝max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex))
…(1)
与可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”相比，当TU尺寸标志为0时的变换单元尺寸“RootTuSize”可指示可在系统中选择的最大变换单元尺寸。也就是说，在等式(1)中，“RootTuSize/(2^MaxTransformSizeIndex)”指示当TU尺寸标志为0时，变换单元尺寸“RootTuSize”被划分了与最大TU尺寸标志相应的次数时的变换单元尺寸，“MinTransformSize”指示最小变换尺寸。因此，“RootTuSize/(2^MaxTransformSizeIndex)”和“MinTransformSize”中较小的值可以是可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”。
根据实施例，最大变换单元尺寸RootTuSize可根据预测模式的类型而改变。
例如，如果当前预测模式是帧间模式，则可通过使用以下的等式(2)来确定“RootTuSize”。在等式(2)中，“MaxTransformSize”指示最大变换单元尺寸，“PUSize”指示当前预测单元尺寸。
RootTuSize＝min(MaxTransformSize,PUSize)……(2)
也就是说，如果当前预测模式是帧间模式，则当TU尺寸标志为0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前预测单元尺寸中较小的值。
如果当前分区单元的预测模式是帧内模式，则可通过使用以下的等式(3)来确定“RootTuSize”。在等式(3)中，“PartitionSize”指示当前分区单元的尺寸：
RootTuSize＝min(MaxTransformSize,PartitionSize)……(3)
也就是说，如果当前预测模式是帧内模式，则当TU尺寸标志为0时的变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前分区单元的尺寸之中较小的值。
然而，根据分区单元中的预测模式的类型而改变的当前最大变换单元尺寸“RootTuSize”仅是示例，并且本公开不限于此。
根据以上参照图8至图19描述的基于具有树结构的编码单元的视频编码方法，可在树结构的每个编码单元中对空间域的图像数据进行编码。根据基于具有树结构的编码单元的视频解码方法，对每个最大编码单元执行解码来重建空间域的图像数据。因此，可重建画面和作为画面序列的视频。重建的视频可由再现设备来重建，可存储在存储介质中，或可通过网络来发送。
根据本公开的实施例可被编写为计算机程序，并可实现在使用计算机可读记录介质执行程序的通用数字计算机中。计算机可读记录介质的示例包括磁存储介质(例如，ROM、软盘、硬盘等)和光学记录介质(例如，CD-ROM或DVD)。
为了便于描述，以上参照图1a至图19描述的多视点视频编码方法和/或视频编码方法将被统称为“本公开的视频编码方法”。另外，以上参照图1a至图20描述的多视点视频解码方法和/或视频解码方法将被统称为“本公开的视频解码方法”。
此外，以上参照图1a至图19描述的包括多视点视频编码设备10、视频编码设备100或图像编码器400的视频编码设备将被称为“本公开的视频编码设备”。另外，以上参照图1a至图19描述的包括多视点视频解码设备20、视频解码设备200或图像解码器500的视频解码设备将被称为“本公开的视频解码设备”。
现在将详细描述根据本公开的实施例的存储程序的计算机可读记录介质(例如，盘26000)。
图20示出根据各种实施例的存储程序的盘26000的物理结构的示图。作为存储介质的盘26000可以是硬盘驱动器、致密盘只读存储器(CD-ROM)盘、蓝光盘或数字多功能盘(DVD)。盘26000包括多个同心磁道Tr，每个同心磁道Tr沿盘26000的圆周方向被划分成特定数量的扇区Se。根据实施例，在盘26000的特定区域中，可分配并存储执行以上所描述的量化参数确定方法、视频编码方法和视频解码方法的程序。
现在将参照图22来描述使用存储用于执行如上所述的视频编码方法和视频解码方法的程序的存储介质来实现的计算机系统。
图21是通过使用盘26000来记录并读取程序的盘驱动器26800的示图。计算机系统26700可经由盘驱动器26800将执行本公开的视频编码方法和视频解码方法中的至少一个的程序存储在盘26000中。为了在计算机系统27000中运行存储在盘26000中的程序，可通过使用盘驱动器27000从盘26000读取程序并将程序发送到计算机系统26700。
执行本公开的视频编码方法和视频解码方法中的至少一个的程序不仅可被存储在图20或图21中示出的盘26000中，还可被存储在存储卡、ROM卡带或固态驱动器(SSD)中。
以下将描述应用以上所描述的视频编码方法和视频解码方法的系统。
图22是用于提供内容分发服务的内容供应系统11000的整体结构的示图。将通信系统的服务区域划分成预定尺寸的小区，并将无线基站11700、11800、11900和12000分别安装在这些小区中。
内容供应系统11000包括多个独立装置。例如，诸如计算机12100、个人数字助理(PDA)12200、视频相机12300和移动电话12500的多个独立装置经由互联网服务提供器11200、通信网络11400和无线基站11700、11800、11900和12000连接到互联网11100。
然而，内容供应系统11000不限于如图24中所示，并且装置可选择性地被连接到内容供应系统11000。多个独立装置可不经由无线基站11700、11800、11900和12000而直接连接到通信网络11400。
视频相机12300是能够捕捉视频图像的成像装置，例如，数字视频相机。移动电话12500可利用各种协议(例如，个人数字通信(PDC)、码分多址(CDMA)、宽带码分多址(W-CDMA)、全球移动通信系统(GSM)和个人手持电话系统(PHS))中的至少一种通信方法。
视频相机12300可经由无线基站11900和通信网络11400连接到流服务器11300。流服务器11300允许经由视频相机12300从用户接收到的内容经由实时广播被流传输。可使用视频相机12300或流服务器11300来对从视频相机12300接收到的内容进行编码。通过视频相机12300捕捉到的视频数据可经由计算机12100被发送到流服务器11300。
通过相机12600捕捉到的视频数据也可经由计算机12100被发送到流服务器11300。与数码相机类似，相机12600是能够捕捉静止图像和视频图像两者的成像装置。可使用相机12600或计算机12100对通过相机12600捕捉到的视频数据进行编码。可将对视频执行编码和解码的软件存储在可由计算机12100访问的计算机可读记录介质(例如，CD-ROM盘、软盘、硬盘驱动器、SSD或存储卡)中。
如果视频数据通过内置在移动电话12500中的相机被捕捉到，则可从移动电话12500接收视频数据。
还可通过安装在视频相机12300、移动电话12500或相机12600中的大规模集成电路(LSI)系统来对视频数据进行编码。
根据实施例的内容供应系统11000可对由用户使用视频相机12300、相机12600、移动电话12500或另一成像装置所记录的内容数据(例如，在音乐会期间记录的内容)进行编码，并将编码后的内容数据发送到流服务器11300。流服务器11300可将编码后的内容数据以流传输内容的类型发送到请求内容数据的其它客户端。
客户端是能够对编码后的内容数据进行解码的装置，例如，计算机12100、PDA12200、视频相机12300或移动电话12500。因此，内容供应系统11000允许客户端接收并再现编码后的内容数据。此外，内容供应系统11000允许客户端实时接收编码后的内容数据并对编码后的内容数据进行解码和再现，从而能够进行个人广播。
包括在内容供应系统11000中的多个独立装置的编码和解码操作可类似于本公开的视频编码设备和视频解码设备的编码和解码操作。
现在将参照图23和图24更详细地描述包括在根据实施例的内容供应系统11000中的移动电话12500。
图23示出根据各种实施例的应用视频编码方法和视频解码方法的移动电话12500的外部结构。移动电话12500可以是智能电话，所述智能电话的功能不受限，并且所述智能电话的大多数功能可被改变或扩展。
移动电话12500包括可与图21的无线基站12000交换射频(RF)信号的内部天线12510，并包括用于显示由相机12530捕捉到的图像或经由天线12510接收到并被解码的图像的显示屏12520(例如，液晶显示器(LCD)或有机发光二极管(OLED)屏幕)。移动电话12500包括包含有控制按钮和触摸面板的操作面板12540。如果显示屏12520是触摸屏，则操作面板12540还包括显示屏12520的触摸感测面板。移动电话12500包括用于输出语音和声音的扬声器12580或另一类型声音输出单元、以及用于输入语音和声音的麦克风12550或另一类型声音输入单元。移动电话12500还包括用于捕捉视频和静止图像的相机12530，诸如电荷耦合器件(CCD)相机。移动电话12500还可包括：存储介质12570，用于存储通过相机12530捕捉到的、经由电子邮件接收到的、或根据各种方式获得的编码/解码数据(例如，视频或静止图像)；插槽12560，存储介质12570经由插槽12560被装入移动电话12500中。存储介质12570可以是闪存，例如，包括在塑料壳中的安全数字(SD)卡或电可擦和可编程只读存储器(EEPROM)。
图24示出根据本公开的实施例的移动电话12500的内部结构。为了系统地控制包括显示屏12520和操作面板12540的移动电话12500的部件，供电电路12700、操作输入控制器12640、图像编码单元12720、相机接口12630、LCD控制器12620、图像解码单元12690、复用器/解复用器12680、记录/读取单元12670、调制/解调单元12660和声音处理器12650经由同步总线12730被连接到中央控制器12710。
如果用户操作电源按钮，并从“电源关闭”状态设置为“电源开启”状态，则供电电路12700从电池组向移动电话12500的所有部件供电，从而将移动电话12500设置为操作模式。
中央控制器12710包括中央处理器(CPU)、ROM和RAM。
在移动电话12500将通信数据发送到外部的同时，在中央控制器12710的控制下，由移动电话12500产生数字信号。例如，声音处理器12650可产生数字声音信号，图像编码器12720可产生数字图像信号，并且消息的文本数据可经由操作面板12540和操作输入控制器12640被产生。当数字信号在中央控制器12710的控制下被传送到调制/解调单元12660时，调制/解调单元12660对数字信号的频带进行调制，并且通信电路12610对频带调制后的数字声音信号执行数模转换(DAC)和频率转换。从通信电路12610输出的发送信号可经由天线12510被发送到语音通信基站或无线基站12000。
例如，当移动电话12500处于通话模式时，在中央控制器12710的控制下，经由麦克风12550获得的声音信号通过声音处理器12650被变换成数字声音信号。数字声音信号可经由调制/解调单元12660和通信电路12610被变换成发送信号，并可经由天线12510被发送。
当文本消息(例如，电子邮件)在数据通信模式下被发送时，文本消息的文本数据经由操作面板12540被输入，并经由操作输入控制器12640被发送到中央控制器12710。在中央控制器12710的控制下，文本数据经由调制/解调单元12660和通信电路12610被变换成发送信号，并经由天线12510被发送到无线基站12000。
为了在数据通信模式期间发送图像数据，由相机12530捕捉到的图像数据经由相机接口12630被提供给图像编码单元12720。捕捉到的图像数据可经由相机接口12630和LCD控制器12620被直接显示在显示屏12520上。
图像编码器12720的结构可与上述视频编码设备100的结构相应。图像编码器12720可根据以上描述的本公开的视频编码方法，将从相机12530接收到的图像数据变换为压缩和编码后的图像数据，并随后将编码后的图像数据输出到复用器/解复用器12680。在相机12530的记录操作期间，由移动电话12500的麦克风12550获得的声音信号可经由声音处理器12650被变换成数字声音数据，并且数字声音数据可被发送到复用器/解复用器12680。
复用器/解复用器12680对从图像编码单元12720接收到的编码后的图像数据与从声音处理器12650接收到的声音数据一起进行复用。对数据进行复用的结果可经由调制/解调单元12660和通信电路12610被变换成发送信号，然后可经由天线12510被发送。
当移动电话12500从外部接收通信数据时，可对经由天线12510接收到的信号执行频率恢复和ADC以将信号变换成数字信号。调制/解调单元12660对数字信号的频带进行调制。根据频带调制后的数字信号的类型，将所述数字信号发送到视频解码单元12690、声音处理器12650或LCD控制器12620。
在通话模式下，移动电话12500对经由天线12510接收到的信号进行放大，并通过对放大后的信号执行频率转换和ADC来获得数字声音信号。在中央控制器12710的控制下，接收到的数字声音信号经由调制/解调单元12660和声音处理器12650被变换成模拟声音信号，并且模拟声音信号经由扬声器12580被输出。
当在数据通信模式下时，接收在互联网网站上访问的视频文件的数据，经由天线12510从无线基站12000接收到的信号经由调制/解调单元12660被输出为复用数据，并且复用数据被发送到复用器/解复用器12680。
为了对经由天线12510接收到的复用数据进行解码，复用器/解复用器12680将复用数据解复用成编码后的视频数据流和编码后的音频数据流。经由同步总线12730，编码后的视频数据流和编码后的音频数据流分别被提供给视频解码单元12690和声音处理器12650。
图像解码器12690的结构可与以上描述的本公开的视频解码设备的结构相应。图像解码器12690可通过使用以上描述的本公开的视频解码方法，对编码后的视频数据进行解码来获得重建的视频数据，并经由LCD控制器12620将重建的视频数据提供给显示屏12520。
因此，可将在互联网网站上访问的视频文件的数据显示在显示屏12520上。同时，声音处理器12650可将音频数据变换成模拟声音信号，并将模拟声音信号提供给扬声器12580。因此，也可经由扬声器12580再现在互联网网站上访问的视频文件中包含的音频数据。
移动电话12500或另一类型的通信终端可以是包括本公开的视频编码设备和视频解码设备两者的收发终端，可以是仅包括本公开的视频编码设备的收发终端，或者可以是仅包括本公开的视频解码设备的收发终端。
根据本公开的通信系统不限于以上参照图24描述的通信系统。例如，图25示出根据各种实施例的采用通信系统的数字广播系统。图25的数字广播系统可通过使用本公开的视频编码设备和视频解码设备来接收经由卫星或地面网络发送的数字广播。
具体地，广播站12890通过使用无线电波将视频数据流发送到通信卫星或广播卫星12900。广播卫星12900发送广播信号，广播信号经由家用天线12860被发送到卫星广播接收器。在每个房屋中，可通过TV接收器12810、机顶盒12870或其它装置对编码后的视频流进行解码并再现。
当本公开的视频解码设备被实现在再现设备12830中时，再现设备12830可对记录在存储介质12820(诸如盘或存储卡)上的编码后的视频流进行解析和解码，以重建数字信号。因此，可在例如监视器12840上再现重建的视频信号。
在被连接到用于卫星/地面广播的天线12860或用于接收有线电视(TV)广播的线缆天线12850的机顶盒12870中，可安装本公开的视频解码设备。从机顶盒12870输出的数据也可被再现在TV监视器12880上。
作为另一示例，可将本公开的视频解码设备安装在TV接收器12810中，而不是机顶盒12870中。
具有适当天线12910的汽车12920可接收从图23的卫星12900或无线基站11700发送的信号。可在安装在汽车12920中的汽车导航系统12930的显示屏上再现解码后的视频。
视频信号可由本公开的视频编码设备来编码，然后可被存储在存储介质中。更具体地，可由DVD记录器将图像信号存储在DVD盘12960中，或可由硬盘记录器12950将图像信号存储在硬盘中。作为另一示例，可将视频信号存储在SD卡12970中。如果硬盘记录器12950包括根据实施例的本公开的视频解码设备，则记录在DVD盘12960、SD卡12970或另一存储介质上的视频信号可在TV监视器12880上被再现。
汽车导航系统12930可不包括图26的相机12530、相机接口12630和图像编码单元12720。例如，计算机12100和TV接收器12810可不被包括在图26的相机12530、相机接口12630和图像编码单元12720中。
图26是示出根据各种实施例的使用视频编码设备和视频解码设备的云计算系统的网络结构的示图。
本公开的云计算系统可包括云计算服务器14000、用户数据库(DB)14100、多个计算资源14200和用户终端。
响应于来自用户终端的请求，云计算系统经由数据通信网络(例如，互联网)提供多个计算资源14200的点播外包服务。在云计算环境下，服务提供商通过使用虚拟技术组合位于不同的物理位置的数据中心处的计算资源，来为用户提供想要的服务。服务用户不必将计算资源(例如，应用、存储器、操作系统(OS)和安全软件)安装在他/她自己的终端中以使用它们，但可在想要的时间点在通过虚拟技术产生的虚拟空间中从服务中选择和使用想要的服务。
被指定的服务用户的用户终端经由包括互联网和移动电信网络的数据通信网络被连接到云计算服务器14000。可从云计算服务器14100向用户终端提供云计算服务，特别是视频再现服务。用户终端可以是能够被连接到互联网的各种类型的电子装置，例如，桌上型PC14300、智能TV14400、智能电话14500、笔记本计算机14600、便携式多媒体播放器(PMP)14700、平板PC14800等。
云计算服务器14000可组合分布在云网络中的多个计算资源14200，并向用户终端提供组合的结果。所述多个计算资源14200可包括各种数据服务，并可包括从用户终端上载的数据。如上所描述的，云计算服务器14000可通过根据虚拟技术组合分布在不同区域中的视频数据库来向用户终端提供想要的服务。
将关于已经订购云计算服务的用户的用户信息存储在用户DB14100中。用户信息可包括用户的注册信息、地址、姓名和个人信用信息。用户信息还可包括视频的索引。这里，所述索引可包括已经被再现的视频的列表、正在被再现的视频的列表、之前正在被再现的视频的暂停点等。
可在用户装置之间共享存储在用户DB14100中的关于视频的信息。例如，当响应于来自笔记本计算机14600的请求将视频服务提供给笔记本计算机14600时，视频服务的再现历史被存储在用户DB14100中。当从智能电话14500接收到用于再现此视频服务的请求时，云计算服务器14100基于用户DB14100搜索并再现此视频服务。当智能电话14500从云计算服务器14000接收到视频数据流时，通过对视频数据流进行解码来再现视频的处理与以上参照图24描述的移动电话12500的操作类似。
云计算服务器14000可参考存储在用户DB14100中的想要的视频服务的再现历史。例如，云计算服务器14000从用户终端接收用于再现存储在用户DB14100中的视频的请求。如果此视频被再现过，则由云计算服务器14000执行的对此视频进行流传输的方法可根据来自用户终端的请求(即，根据是将从视频的起点还是视频的暂停点开始再现视频)而不同。例如，如果用户终端请求从视频的起点开始再现视频，则云计算服务器14000将从视频的第一帧开始的视频的流数据发送到用户终端。如果用户终端请求从视频的暂停点开始再现视频，则云计算服务器14000将从与暂停点相应的帧开始的视频的流数据发送到用户终端。
在此情况下，用户终端可包括如以上参照图1a至图20描述的本公开的视频解码设备。作为另一示例，用户终端可包括如以上参照图1a至图19描述的本公开的视频编码设备。可选地，用户终端可包括如以上参照图1a至图19描述的本公开的视频解码设备和视频编码设备两者。
以上参照图20至图26描述了以上参照图1a至图19描述的视频编码方法、视频解码方法、视频编码设备和视频解码设备的各种应用。然而，将根据各种实施例的以上参照图1a至图19描述的视频编码方法和视频解码方法存储在存储介质中的方法或者将根据各种实施例的以上参照图1a至图19描述的视频编码设备和视频解码设备实现在装置中的方法不限于以上参照图20至图26描述的实施例。
虽然已经参照本发明的实施例具体示出并描述了本发明，但是本领域的普通技术人员将理解，在不脱离由权利要求限定的本发明的精神和范围的情况下，可作出形式和细节上的各种改变。实施例应被视为仅是说明性意义，而不是限制的目的。因此，本发明的范围不由本发明的详细描述来限定，而由权利要求来限定，并且在该范围内的所有差异都将被认为包括在本公开中。

Claims (15)

1.一种多视点视频解码方法，包括：
确定正被解码的当前块的预测模式是否是合并模式；
当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；
通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，
其中，基于是否对当前块的邻近块以及当前块执行视点合成预测，确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
2.如权利要求1所述的多视点视频解码方法，其中，用于当前块的视点合成预测候选在合并候选列表中具有固定优先级。
3.如权利要求1所述的多视点视频解码方法，其中，当确定对所述邻近块执行视点合成预测时，用于所述邻近块的视点合成预测候选被包括在合并候选列表中，
当确定对当前块执行视点合成预测时，用于当前块的视点合成预测候选被包括在合并候选列表中。
4.如权利要求1所述的多视点视频解码方法，其中，当确定对所述邻近块执行视点合成预测并且在合并候选列表中不存在视点合成预测候选时，用于所述邻近块的视点合成预测候选被包括在合并候选列表中，
当确定对当前块执行视点合成预测并且在合并候选列表中不存在视点合成预测候选时，用于当前块的视点合成预测候选被包括在合并候选列表中。
5.如权利要求1所述的多视点视频解码方法，其中，所述邻近块至少包括当前块的左侧块和当前块的上方块。
6.如权利要求1所述的多视点视频解码方法，其中，所述邻近块仅包括当前块的左侧块。
7.如权利要求1所述的多视点视频解码方法，其中，形成合并候选列表的步骤包括：
产生包括视点间候选、空间候选、视差候选、时间候选和视点合成预测候选的多个组；
将所述多个组中所包括的至少一个候选添加到用于所述多个组中的每个组的合并候选组；
基于所述多个组之间的优先级或者所述多个组中的每个组中的候选之间的优先级，将合并候选组中所包括的至少一个候选添加到合并候选列表，
其中，用于当前块的视点合成预测候选被包括在所述多个组中的一些组或所有组中。
8.一种多视点视频编码方法，包括：
确定正被编码的当前块的预测模式是否是合并模式；
当确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；
通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，
其中，基于是否对当前块的邻近块以及当前块执行视点合成预测，确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
9.如权利要求8所述的多视点视频编码方法，其中，用于当前块的视点合成预测候选在合并候选列表中具有固定优先级。
10.如权利要求8所述的多视点视频编码方法，其中，当确定对所述邻近块执行视点合成预测时，用于所述邻近块的视点合成预测候选被包括在合并候选列表中，
当确定对当前块执行视点合成预测时，用于当前块的视点合成预测候选被包括在合并候选列表中。
11.如权利要求8所述的多视点视频编码方法，其中，所述邻近块仅包括当前块的左侧块。
12.如权利要求8所述的多视点视频编码方法，其中，形成合并候选列表的步骤包括：
产生包括视点间候选、空间候选、视差候选、时间候选和视点合成预测候选的多个组；
将所述多个组中所包括的至少一个候选添加到用于所述多个组中的每个组的合并候选组；
基于所述多个组之间的优先级或者所述多个组中的每个组中的候选之间的优先级，将合并候选组中所包括的至少一个候选添加到合并候选列表，
其中，用于当前块的视点合成预测候选被包括在所述多个组中的一些组或所有组中。
13.一种多视点视频解码设备，包括：
模式确定器，被配置为确定正被解码的当前块的预测模式是否是合并模式；
合并候选列表形成器，被配置为当所述预测模式被确定为是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；
预测器，被配置为通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，
其中，基于是否对当前块的邻近块以及当前块执行视点合成预测，确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
14.一种多视点视频编码设备，包括：
模式确定器，被配置为确定正被编码的当前块的预测模式是否是合并模式；
合并候选列表形成器，被配置为当模式确定器确定所述预测模式是合并模式时，形成合并候选列表，其中，合并候选列表包括视点间候选、空间候选、视差候选、视点合成预测候选和时间候选中的至少一个作为合并候选；
预测器，被配置为通过从合并候选列表选择将在对当前块进行预测的过程中使用的合并候选来对当前块进行预测，
其中，基于是否对当前块的邻近块以及当前块执行视点合成预测，确定是否将用于所述邻近块和当前块中的至少一个的视点合成预测候选包括在合并候选列表中。
15.一种记录有用于执行权利要求1的多视点视频解码方法的程序的计算机可读记录介质。
CN201480034643.6A 2013-04-17 2014-04-17 使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备 Pending CN105340275A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201361812935P 2013-04-17 2013-04-17
US61/812,935 2013-04-17
PCT/KR2014/003372 WO2014171769A1 (ko) 2013-04-17 2014-04-17 시점 합성 예측을 이용한 다시점 비디오 부호화 방법 및 그 장치, 다시점 비디오 복호화 방법 및 그 장치

Publications (1)

Publication Number Publication Date
CN105340275A true CN105340275A (zh) 2016-02-17

Family

ID=51731621

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480034643.6A Pending CN105340275A (zh) 2013-04-17 2014-04-17 使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备

Country Status (5)

Country Link
US (1) US20160073133A1 (zh)
EP (1) EP2988509A4 (zh)
KR (1) KR20140125320A (zh)
CN (1) CN105340275A (zh)
WO (1) WO2014171769A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020114405A1 (en) * 2018-12-03 2020-06-11 Beijing Bytedance Network Technology Co., Ltd. Indication method of maximum number of candidates
CN113228640A (zh) * 2018-12-21 2021-08-06 三星电子株式会社 用于对视频进行解码的方法和设备以及用于对视频进行编码的方法和设备

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014082541A (ja) * 2012-10-12 2014-05-08 National Institute Of Information & Communication Technology 互いに類似した情報を含む複数画像のデータサイズを低減する方法、プログラムおよび装置
EP2983358A4 (en) * 2013-04-05 2017-01-04 Samsung Electronics Co., Ltd. Interlayer video encoding method and apparatus for using view synthesis prediction, and video decoding method and apparatus for using same
US10070147B2 (en) * 2013-10-18 2018-09-04 Lg Electronics Inc. Method predicting view synthesis in multi-view video coding and method for constituting merge candidate list by using same
CN112188207B (zh) 2014-10-31 2023-10-20 三星电子株式会社 使用高精度跳过编码的视频编码设备和视频解码设备及其方法
US9883187B2 (en) 2015-03-06 2018-01-30 Qualcomm Incorporated Fast video encoding method with block partitioning
US10666936B2 (en) * 2015-12-17 2020-05-26 Samsung Electronics Co., Ltd. Video decoding method and video decoding apparatus using merge candidate list
CN116708783A (zh) * 2016-07-12 2023-09-05 韩国电子通信研究院 图像编码/解码方法以及用于该方法的记录介质
KR102320496B1 (ko) * 2018-12-07 2021-11-02 울산과학기술원 이미지 처리 장치 및 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070030356A1 (en) * 2004-12-17 2007-02-08 Sehoon Yea Method and system for processing multiview videos for view synthesis using side information
US20120314027A1 (en) * 2004-12-17 2012-12-13 Dong Tian Method and System for Processing Multiview Videos for View Synthesis Using Motion Vector Predictor List
WO2012171442A1 (en) * 2011-06-15 2012-12-20 Mediatek Inc. Method and apparatus of motion and disparity vector prediction and compensation for 3d video coding

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120080122A (ko) * 2011-01-06 2012-07-16 삼성전자주식회사 경쟁 기반의 다시점 비디오 부호화/복호화 장치 및 방법
KR101423648B1 (ko) * 2011-09-09 2014-07-28 주식회사 케이티 화면 간 예측 수행시 후보 블록 결정 방법 및 이러한 방법을 사용하는 장치
CN104429079B (zh) * 2012-07-09 2016-08-24 三菱电机株式会社 利用运动矢量预测列表处理用于视图合成的多视图视频的方法和系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070030356A1 (en) * 2004-12-17 2007-02-08 Sehoon Yea Method and system for processing multiview videos for view synthesis using side information
US20120314027A1 (en) * 2004-12-17 2012-12-13 Dong Tian Method and System for Processing Multiview Videos for View Synthesis Using Motion Vector Predictor List
WO2012171442A1 (en) * 2011-06-15 2012-12-20 Mediatek Inc. Method and apparatus of motion and disparity vector prediction and compensation for 3d video coding

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020114405A1 (en) * 2018-12-03 2020-06-11 Beijing Bytedance Network Technology Co., Ltd. Indication method of maximum number of candidates
US11284068B2 (en) 2018-12-03 2022-03-22 Beijing Bytedance Network Technology Co., Ltd. Indication method of maximum number of candidates
US11412212B2 (en) 2018-12-03 2022-08-09 Beijing Bytedance Network Technology Co., Ltd. Partial pruning method for inter prediction
US11856185B2 (en) 2018-12-03 2023-12-26 Beijing Bytedance Network Technology Co., Ltd Pruning method in different prediction mode
CN113228640A (zh) * 2018-12-21 2021-08-06 三星电子株式会社 用于对视频进行解码的方法和设备以及用于对视频进行编码的方法和设备
US11917190B2 (en) 2018-12-21 2024-02-27 Samsung Electronics Co., Ltd. Method and apparatus for decoding video, and method and apparatus for encoding video
US11936902B2 (en) 2018-12-21 2024-03-19 Samsung Electronics Co., Ltd. Method and apparatus for decoding video, and method and apparatus for encoding video
US11949905B2 (en) 2018-12-21 2024-04-02 Samsung Electronics Co., Ltd. Method and apparatus for decoding video, and method and apparatus for encoding video
US11949906B2 (en) 2018-12-21 2024-04-02 Samsung Electronics Co., Ltd. Method and apparatus for decoding video, and method and apparatus for encoding video

Also Published As

Publication number Publication date
EP2988509A4 (en) 2016-10-05
EP2988509A1 (en) 2016-02-24
US20160073133A1 (en) 2016-03-10
KR20140125320A (ko) 2014-10-28
WO2014171769A1 (ko) 2014-10-23

Similar Documents

Publication Publication Date Title
CN104754356B (zh) 用于在视频编码或解码中的运动矢量确定的方法和设备
CN105308966B (zh) 视频编码方法及其设备以及视频解码方法及其设备
CN106063271B (zh) 用于执行基于子块的预测的层间视频解码方法及其设备以及用于执行基于子块的预测的层间视频编码方法及其设备
CN104488272A (zh) 用于预测用于对视频进行编码或用于对视频进行解码的运动矢量的方法和设备
CN104396252A (zh) 使用用于多视点视频预测的参考画面集的多视点视频编码方法及其装置、使用用于多视点视频预测的参考画面集的多视点视频解码方法及其装置
CN105340275A (zh) 使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备
CN105325002A (zh) 使用视点合成预测的多视点视频编码方法及其设备以及多视点视频解码方法及其设备
CN105532001A (zh) 用于使用基于深度的视差矢量对视频进行层间解码的方法和设备以及用于使用基于深度的视差矢量对视频进行层间编码的方法和设备
CN105532004B (zh) 层间视频解码方法及设备
CN105103552A (zh) 用于补偿亮度差的对层间视频进行编码的方法及其装置以及用于对视频进行解码的方法及其装置
CN105264894A (zh) 针对层间解码和编码方法以及设备的确定帧间预测候选的方法
CN104365101A (zh) 用于确定用于帧间预测的参考图像的方法及设备
CN103918255A (zh) 对多视点视频数据的深度图进行编码的方法和装置以及对编码的深度图进行解码的方法和装置
CN104604237A (zh) 依据块尺寸来确定帧间预测参考画面列表的用于对视频进行编码的方法和设备以及用于对视频进行解码的方法和设备
CN105027568A (zh) 用于对条带段进行熵编码的方法及其设备以及用于对条带段进行熵解码的方法及其设备
CN104365104A (zh) 用于基于树结构编码单元进行多视点视频编码的方法和设备以及用于基于树结构编码单元进行多视点视频解码的方法和设备
CN104813665A (zh) 用于对层间预测误差进行编码的sao补偿的方法和设备
CN104620578A (zh) 用于随机访问的多层视频编码的方法和设备以及用于随机访问的多层视频解码的方法和设备
CN107409214A (zh) 用于对层间视频进行解码的方法和设备以及用于对层间视频进行编码的方法和设备
CN106031175B (zh) 使用亮度补偿的层间视频编码方法及其装置、以及视频解码方法及其装置
CN105556972A (zh) 用于层间视频解码和编码设备和方法的对深度图像的场景内预测方法
CN104396251A (zh) 使用用于多视点视频预测的参考列表对多视点视频进行编码的方法及其装置以及使用用于多视点视频预测的参考列表对多视点视频进行解码的方法及其装置
CN104541510A (zh) 参考画面列表能够被改变的帧间预测方法及其设备
CN106416256B (zh) 用于对深度图像进行编码或解码的方法和设备
CN103875249A (zh) 用于多视点视频预测编码的方法和装置以及用于多视点视频预测解码的方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160217