CN109257597B - 解码器、编码器及解码视频的方法 - Google Patents

解码器、编码器及解码视频的方法 Download PDF

Info

Publication number
CN109257597B
CN109257597B CN201811286481.1A CN201811286481A CN109257597B CN 109257597 B CN109257597 B CN 109257597B CN 201811286481 A CN201811286481 A CN 201811286481A CN 109257597 B CN109257597 B CN 109257597B
Authority
CN
China
Prior art keywords
block
reference block
partition
coding
decoder
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811286481.1A
Other languages
English (en)
Other versions
CN109257597A (zh
Inventor
菲利普·默克勒
克里斯蒂安·巴特尼克
哈里希兰·拉克什曼
德特勒夫·马尔佩
卡斯滕·穆勒
托马斯·维甘德
格哈德·特希
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GE Video Compression LLC
Original Assignee
GE Video Compression LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GE Video Compression LLC filed Critical GE Video Compression LLC
Priority to CN201811286481.1A priority Critical patent/CN109257597B/zh
Publication of CN109257597A publication Critical patent/CN109257597A/zh
Application granted granted Critical
Publication of CN109257597B publication Critical patent/CN109257597B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/23Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding with coding of regions that are present throughout a whole video segment, e.g. sprites, background or mosaic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation

Abstract

虽然与轮廓分区相比基于楔形波的分区似乎代表了一方面为边信息速率与另一方面为能够实现的分区可能性变化之间的更好的权衡,但是将对分区的约束减轻至分割必须为楔形波分区的程度的能力使得能够对重叠空间采样纹理信息应用相对不复杂的统计分析,以获得用于深度/视差映射的双分割的良好预测器。因而,根据第一方面,在存在图片形式的同位纹理信息的情况下,确切地增加了使传讯开销减小的自由。另一方面涉及节省与传讯支持不规则分区的相应编码模式有关的边信息速率的可能性。

Description

解码器、编码器及解码视频的方法
本申请是申请号为201280066907.7、申请日为2012年11月9日、名称为“自适应分区编码”的中国发明专利申请的分案申请。
技术领域
本发明涉及使用轮廓(contour)块分区或允许高自由度的块分区的样本阵列编码。
背景技术
许多编码方案使用将样本阵列细分成块来压缩样本阵列数据。样本阵列可以限定对纹理的空间采样即图片,但是当然可以使用相似的编码技术诸如深度映射等来压缩其他的样本阵列。由于通过各个样本阵列被空间采样的信息的性质不同,所以不同的编码构思最适合不同种类的样本阵列。然而,与样本阵列的种类无关地,这些编码构思中的许多编码构思都使用块细分(block-subdivisioning)以将单独编码选项分配给样本阵列的块,从而找到一方面为用于对分配给单独块的编码参数进行编码的边信息速率与用于对由于错误预测相应块而产生的预测残差进行编码的残差编码速率之间的良好权衡,或在残差编码或无残差编码的情况下找到速率/失真意义上的良好组成。
通常,块为矩形或方形形状。明显地,有利的是能够使编码单位(块)的形状适应于待编码的样本阵列的内容。然而不幸的是,使块或编码单位的形状适应于样本阵列内容涉及花费(spend)用于块分区传讯(signal)的另外的边信息。已发现对块的楔形波型分区为可能的块分区形状与所涉及的边信息开销之间的适当折衷。楔形波型分区导致将块分区成例如可以使用特定编码参数的楔形波分区。
然而,甚至对楔形波分区的约束也导致用于传讯块的分区的大量的另外的开销,因此有利的是手头上具有如下更有效的编码构思:其使得能够以更高效的方式在样本阵列编码中获得对块进行分区的较高自由度。
发明内容
该目的是通过未决的独立权利要求的主题来实现的。
基于本发明的主要构思为:与轮廓分区相比,尽管基于楔形波的分区似乎代表了一方面为边信息速率与另一方面为能够实现的分区可能性变化之间的较好的权衡,但是将对分区的约束减轻至分区必须为楔形波分区的程度的能力使得能够对重叠空间采样纹理信息应用相对不复杂的统计分析,从而得到用于深度/视差映射中双分割的良好预测器。从而,根据第一方面,只要存在采用图片形式的同位纹理信息,就能够确切地增加使传讯开销减小的自由。
本发明的另一方面所基于的另一个想法为:根据刚刚概述的构思,基于图片内的同位参考块得到双分割以及随后将该双分割转移至深度/视差映射的当前块上,该刚刚概述的构思仅在下述情况下是合理的:实现对深度/视差映射的当前块的内容的良好近似的似然性足够高以使得调整(justify)对应编码选项标识符的相应预定值的保留,以便触发该双分割转移模式。换句话说,在无论如何都非常不可能选择相应的双分割转移的情况下,通过避免在对该编码选项标识符进行熵编码时需要考虑用于深度/视差映射的当前块的编码选项标识符的相应预定值,可以节省边信息速率。
另外的子方面为从属权利要求的主题。
附图说明
下面关于附图来对本发明的优选实施方式进行更详细的描述,在附图中:
图1示出了根据示例的其中可建立本发明的实施方式的多视图编码器的框图;
图2示出了用于说明跨视图和视频深度/视差边界再利用信息的多视图信号的一部分的示意图;
图3示出了适于图1的解码器的框图;
图4示出了方形块在连续信号空间(左)和离散信号空间(右)中的楔形波分区;
图5示出了楔形波块分区的六个不同方位的示意图;
图6示出了针对块尺寸为4×4(左)、8×8(中间)以及16×16(右)的楔形波分区图案的示例;
图7示出了使用楔形波模型通过组合分区信息和CPV(分区区域中深度信号的平均值)进行的深度信号近似;
图8示出了楔形波分区图案的生成;
图9示出了方形块在连续信号空间(左)和离散信号空间(右)中的轮廓分区;
图10示出了针对块尺寸为8×8的轮廓分区图案的示例;
图11示出了使用轮廓模型通过组合分区信息和CPV(分区区域中深度信号的平均值)进行的深度信号近似;
图12示出了针对上方参考块是楔形波分区类型(左)或规则帧内方向类型(右)的情形的楔形波分区(蓝色)的帧内预测;
图13示出了根据纹理亮度参考而对楔形波(蓝色)和轮廓(绿色)分区信息的预测;
图14示出了块分区的CPV:根据相邻块的邻近样本(左)和块的横截面(右)的CPV预测,其中示出了不同CPV类型之间的关系;
图15示出了基于纹理亮度方差的模式预选;
图16示出了根据实施方式的解码器的框图;
图17示出了适于图16的编码器的框图;
图18示出了根据实施方式的解码器的框图;
图19示出了适于图18的编码器的框图;
图20示出了根据实施方式的解码器的框图;
图21示出了适于图20的编码器的框图;
图22示出了根据实施方式的解码器的框图;
图23示出了适于图22的编码器的框图;
图24示出了根据实施方式的解码器的框图;以及
图25示出了适于图24的编码器的框图。
具体实施方式
本发明的优选实施方式的下面的描述开始于可有利地使用本发明的实施方式的可能的环境。具体地,关于图1至图3来描述根据实施方式的多视图编解码器。然而,应当强调的是,后文中描述的实施方式不限于多视图编码。不过,可以更好地理解以下进一步描述的一些方面,并且这些方面在与多视图编码或者更确切地说尤其与深度映射的编码一起使用时具有特殊的协同作用。因此,在图1至图3之后,描述继续进行对不规则块分区及其涉及的问题的介绍。该描述参考图4至图11并且形成用于此后所描述的本发明的实施方式的描述的基础。
如刚刚所述,以下进一步概述的实施方式在图像和视频编码应用中使用非矩形或不规则块分区和建模函数,并且特别适用于对诸如用于表示场景的几何结构的深度映射的编码,尽管这些实施方式也可适用于常规的图像和视频编码。以下进一步概述的实施方式还提供了用于在图像和视频编码应用中使用非矩形块分区和建模函数的构思。这些实施方式特别适用于对(用于表示场景的几何结构)深度映射的编码,而且还适用于常规的图像和视频编码。
在多视图视频编码中,将视频场景的(被多个摄像机同时捕获到的)两个或更多个视图编码在单个比特流中。多视图视频编码的主要目标是通过提供3d观看印象来向最终用户提供高级多媒体体验。如果对两个视图进行编码,则可以在(具有眼镜的)常规立体显示器上显示两个重构视频序列。然而,需要使用用于常规立体显示器的眼镜对于用户而言常常是麻烦的。使得能够在无眼镜情况下实现高质量立体观看印象是当前最重要的研究和发展课题。用于这样的自动立体显示器的有前景的技术基于双凸透镜系统。在原理上,按照使得同时显示视频场景的多个视图的方式在常规显示器上安装柱面透镜的阵列。每个视图显示在小椎体中,使得用户的每只眼睛看见不同的图像;该效果在无特殊眼镜的情况下产生了立体印象。然而,这样的自动立体显示器通常需要相同视频场景的10至30个视图(如果进一步改进技术则会需要甚至更多的视图)。还可以将多于2个的视图用于向用户提供以交互方式选择针对视频场景的视点的可能性。然而,与常规的单视图(2d)视频相比,对视频场景的多个视图的编码急剧增大所需要的位速率。通常,所需要的位速率随着编码视图的数目而以近似线性的方式增大。用于减少自动立体显示器的传送数据量的构思包括:传送仅小数目的视图(或许2至5个视图),而且另外传送所谓的深度映射,所述深度映射表示用于一个或更多个视图的图像样本的深度(真实世界对象距摄像机的距离)。鉴于小数目的编码视图和对应的深度映射,可以通过适合的渲染(rendering)技术在接收机侧产生高质量中间视图(位于编码视图之间的虚拟视图)-以及在某种程度上还有相对摄像机阵列的一端或两端的另外的视图。
在图像和视频编码的现有技术中,通常将图片或用于图片的样本阵列的具体集合分解成与特定编码参数关联的块。该图片通常包括多个样本阵列(亮度和色度)。另外,图片还可以与另外的辅助样本阵列关联,该另外的辅助样本阵列可以例如指定透明度信息或深度映射。通常将每个图片或样本阵列分解成块。通过图片间预测或图片内预测来预测所述块(或样本阵列的对应块)。块可以具有不同的尺寸,并且可以为方形或矩形。将图片分区成块可以通过语法(syntax)来固定,或者可以(至少部分地)在比特流内被传讯。常常传送:传讯针对预定尺寸的块进行细分的语法元素。例如,为了预测的目的,这样的语法元素可以指定是否或如何将块细分成更小的块且与编码参数关联。针对块的所有样本(或样本阵列的对应块),以一定的方式指定对关联的编码参数的解码。在示例中,使用如下预测参数的相同集合来预测块中的所有样本:诸如参考索引(标识已编码图片集合中的参考图片)、运动参数(指定针对块在参考图片与当前图片之间的运动的测量)、用于指定内插滤波器的参数、帧内预测模式等。运动参数可以用具有水平分量或垂直分量的位移矢量或者用包括六个分量的高阶运动参数诸如仿射运动参数来表示。还可能的是,具体的预测参数(诸如参考索引和运动参数)的多于一个的集合与单个块关联。在该情况下,针对这些具体的预测参数的每个集合,生成用于该块(或样本阵列的对应块)的单个中间预测信号,并通过包括叠加中间预测信号的组合来建立最终预测信号。对应的加权参数以及潜在地还有恒定偏移(该恒定偏移相加至与加权和)对于图片、或参考图片或参考图片集合可以是被固定的,或者可以将它们包括在用于对应块的预测参数集合中。通常对原始块(或样本阵列的对应块)与它们的预测信号之间的差-还称为残差信号-进行变换并量化。常常将二维变换应用于残差信号(或用于残差块的对应样本阵列)。针对变换编码,还可以在应用变换之前拆分使用了预定参数的特定集合的块。变换块可以等于或小于用于预测的块。还可能的是,变换块包括用于预测的块中的多于一个的块。不同的变换块可以具有不同的尺寸,并且变换块可以表示方形或矩形块。在变换之后,对所得到的变换系数进行量化,并获得所谓的变换系数水平。对变换系数水平以及预测参数、如果存在的话还有细分信息进行熵编码。
而且,现有技术的编码技术诸如ITU-T Rec.H.264|ISO/IEC JTC 11449610或用于HEVC的当前运行模型还适用于深度映射,还特别设计了编码工具以用于对自然视频的编码。深度映射作为自然视频序列的图片具有不同的特性。例如,深度映射包含较少的空间细节。它们主要通过尖锐边缘(其表示对象边界)和几乎恒定或慢变的样本值的较大区(其表示对象区)来表征。如果通过应用被特别设计用于利用深度映射性质的编码工具来对深度映射进行更高效地编码,则可以改进使用深度映射的多视图视频编码的总编码效率。
为了用作针对可以有利地使用本发明的后续说明的实施方式的可能编码环境的基础,以下关于图1至图3来进一步描述可能的多视图编码构思。
图1示出了根据实施方式的用于对多视图信号进行编码的编码器。图1的多视图信号以10示意性地表示为包括两个视图121和122,然而图1的实施方式使用较高数目的视图也是可行的。此外,根据图1的实施方式,每个视图121和122包括视频14和深度/视差映射数据16,然而以下进一步描述的实施方式的有利原理中的许多有利原理在与视图不包括任何深度/视差映射数据的多视图信号结合使用的情况下也会是有利的。
相应视图121和122的视频14表示沿着不同投影/观看方向的共同场景的投影的时空采样。优选地,视图121和122的视频14的时间采样速率彼此相等,然而不是必须需要满足该约束。如图1所示,优选地,每个视频14包括每个帧与相应的时间戳t、t-1、t-2、...关联的帧序列。在图1中,用v视图号,时间戳号来表示视频帧。每个帧vi,t表示在相应的时间戳t沿着相应的观看方向的场景i的空间采样,并且由此包括一个或更多个样本阵列,例如像针对亮度样本的一个样本阵列和关于色度样本的两个样本阵列,或仅亮度样本或针对其他颜色分量(诸如RGB颜色空间的颜色分量等)的样本阵列。一个或更多个样本阵列的空间分辨率既可以在一个视频14内不同又可以在不同的视图121和122的视频14内不同。
类似地,深度/视差映射数据16表示沿着视图121和122的相应观看方向测量的、共同场景的场景对象的深度的时空采样。深度/视差映射数据16的时间采样速率可以等于或者可以不同于与图1所描绘的视图相同的视图的关联视频的时间采样速率。在图1的情况下,每个视频帧v已与相应视图121和122的深度/视差映射数据16的相应深度/视差映射d相关联。换句话说,在图1的示例中,视图i和时间戳t的每个视频帧vi,t具有与其关联的深度/视差映射di,t。关于深度/视差映射d的空间分辨率,如以上关于视频帧所指出的那样,同样可适用。即,空间分辨率可以在不同视图的深度/视差映射之间不同。
为了有效地压缩多视图信号10,图1的编码器将视图121和122并行地编码至数据流18中。然而,再利用用于对第一视图121进行编码的编码参数,以采用与待在对第二视图122进行编码中使用的第二编码参数相同的参数或预测所述第二编码参数。通过该措施,图1的编码器利用这样的事实,根据所述事实,视图121和12的并行编码导致编码器类似地确定针对这些视图的编码参数,使得可以有效地利用这些编码参数之间的冗余以增大压缩率或速率/失真比(其中失真被测量为例如两个视图的平均失真,以及速率被测量为整个数据流18的编码速率)。
具体地,图1的编码器总体上用附图标记20来表示,并且包括用于接收多视图信号10的输入和用于输出数据流18的输出。如可以在图2中观察到的,图1的编码器20包括针对每个视图121和122的两个编码分支,即针对视频数据的一个编码分支和针对深度/视差映射数据的另一个编码分支。因此,编码器20包括针对视图1的视频数据的编码分支22v,1、针对视图1的深度视差映射数据的编码分支22d,1、针对第二视图的视频数据的编码分支22v,2以及针对第二视图的深度/视差映射数据的编码分支22d,2。以相似方式构造这些编码分支22中的每个编码分支。为了描述编码器20的构造和功能,从编码分支22v,1的构造和功能开始下面的描述。该功能对于所有分支22是共同的。此后,讨论分支22的单独特性。
编码分支22v,1用于对多视图信号12的第一视图121的视频141进行编码,并且因此分支22v,1具有用于接收视频141的输入。除此之外,分支22v,1包括按照提到的顺序彼此串联连接的:减法器24、量化/变换模块26、去量化/逆变换模块28、加法器30、进一步处理模块32、解码图片缓冲器34、进而彼此并联连接的两个预测模块36和38、以及连接在一方面为预测模块36和38的输出与另一方面为减法器24的反相输入之间的组合器或选择器40。组合器40的输出还连接至加法器30的另一输入。减法器24的非反相输入接收视频141
编码分支22v,1的元件24至40协作使得对视频141进行编码。该编码以特定部分为单位对视频141进行编码。例如,在对视频141进行编码时,将帧v1,k分割成段诸如块或其他的样本组。该分割可以是随时间推移而恒定的,或者可以在时间上变化。此外,该分割可以为编码器和解码器默认已知的,或者可以在数据流18内被传讯(signal)。该分割可以是使帧成为块的规则分割(诸如按行和列的块的非重叠布置),或者可以是成为大小变化的块的基于四叉树的分割。在图1至图3的下面描述中,在减法器24的非反相输入处进入的视频141的当前编码段被称为视频141的当前块。
预测模块36和38用于预测当前块,并且为此目的,预测模块36和38使其输入连接至解码图片缓冲器34。实际上,预测模块36和38二者使用驻留在解码图片缓冲器34中的视频141的先前重构部分,以预测进入减法器24的非反相输入的当前块。在这方面,预测模块36用作根据视频141的相同帧的空间上相邻、已重构的部分来空间上预测视频141的当前部分的帧内预测器,而预测模块38用作根据视频141的先前重构帧来时间上预测当前部分的帧间预测器。模块36和38二者执行基于特定的预测参数或通过特定的预测参数描述的预测。更确切地说,后者的参数由编码器20在一些优化架构中确定,所述优化架构用于在一些约束诸如最大比特率下或无任何约束情况下对一些优化目标进行优化,诸如对速率/失真比进行优化。
例如,帧内预测模块36可以确定针对当前部分的空间预测参数,诸如视频141的相同帧的相邻的、已重构的部分的内容被扩展/复制到当前部分中以预测当前部分所沿循的帧内预测方向。
帧间预测模块38可以使用运动补偿,以使得根据先前重构帧来预测当前部分,与之相关的帧间预测参数可以包括运动矢量、参考帧索引、关于当前部分的运动预测细分信息、假设数目或其任意组合。
组合器40可以组合由模块36和38提供的预测中的一个或更多个,或者仅选择其中之一。组合器或选择器40将所得到的当前部分的预测分别转发至减法器24的反相输入和加法器30的另一输入。
在减法器24的输出处,输出当前部分的预测的残差,并且量化/变换模块36被配置成通过对变换系数进行量化来变换该残差信号。该变换可以为任意谱分解变换,诸如DCT。由于量化而导致量化/变换模块26的处理结果为不可逆的。就是说,产生了编码损失。模块26的输出为待在数据流内传送的残差信号421。不是所有块都会经历残差编码。反而,一些编码模式会抑制残差编码。
在模块28中对残差信号421进行去量化和逆变换以尽可能重构残差信号,即,使得与量化噪声无关地对应于减法器24所输出的残差信号。加法器30通过求和来将该重构残差信号与当前部分的预测进行组合。其他的组合也将是可行的。例如,根据替选方案,减法器24可以操作为用于按比率测量剩余物的除法器,并且加法器可以被实现为用于重构当前部分的乘法器。因而,加法器30的输出表示当前部分的初步重构。然而,模块32中的进一步处理可以可选地用于增强该重构。这样的进一步处理可以例如包括去块和自适应滤波等。目前为止可得到的所有重构被缓存在解码图片缓冲器34中。从而,解码图片缓冲器34缓存视频141的先前重构帧、以及当前部分所属的当前帧的先前重构部分。
为了使解码器能够根据数据流18重构多视图信号,量化/变换模块26将残差信号421转发至编码器20的复用器44。同时,预测模块36将帧内预测参数461转发至复用器44,帧间预测模块38将帧间预测参数481转发至复用器44,并且进一步处理模块32将进一步处理参数501转发至复用器44,复用器44又对所有这些信息进行复用或将其插入数据流18中。
如从根据图1的实施方式的以上讨论变得清楚的,编码分支22v,1对视频141的编码为自包含式,在于该编码独立于深度/视差映射数据161和其他视图122中的任意视图的数据。从更一般的观点来看,编码分支22v,1可以被认为是通过下述操作将视频141编码至数据流18中:确定编码参数,并且基于第一编码参数,根据在对当前部分进行编码之前被编码器20编码至数据流18中的、视频141的先前编码部分来预测视频141的当前部分,并确定该当前部分的预测的预测误差以获得校正数据,即以上提到的残差信号421。将编码参数和校正数据插入到数据流18中。
刚刚提到的通过编码分支22v,1插入到数据流18中的编码参数可以包括以下内容中的一个、其组合或全部:
-首先,如之前简要讨论的,针对视频141的编码参数可以限定/传讯对视频141的帧的分割。
-此外,编码参数可以包括编码模式信息,该编码模式信息表示针对每个段或当前部分要使用哪个编码模式来预测相应段,诸如帧内预测、帧间预测或其组合。
-编码参数还可以包括刚刚提到的预测参数,诸如针对通过帧内预测来预测的部分/段的帧内预测参数和针对帧间预测部分/段的帧间预测参数。
-然而,编码参数可以另外包括进一步处理参数501,该进一步处理参数501向解码侧传讯如何在使用用于预测视频141的当前部分或后续部分的已重构部分之前进一步处理视频141的已重构部分。这些进一步处理参数501可以包括标引相应滤波器或滤波系数等的索引。
-预测参数461和481以及进一步处理参数501甚至可以另外包括子分割数据,使得相对于限定模式选择的粒度或限定完全独立分割的前述分割来限定进一步子分割,例如用于在进一步处理内针对帧的不同部分应用不同的自适应滤波器。
-编码参数还可以影响对残差信号的确定,并且从而为残差信号421的一部分。例如,由量化/变换模块26输出的谱变换系数水平可以被认为是校正数据,而同样可以在数据流18内传讯量化步长,并且量化步长参数可以被认为是编码参数。
-编码参数还可以限定下述预测参数:所述预测参数对以上讨论的第一预测阶段的预测残差的第二阶段预测进行限定。在这方面可以使用帧内/帧间预测。
为了提高编码效率,编码器20包括编码信息交换模块52,该编码信息交换模块52接收所有编码参数和影响模块36、38和32内的处理或受所述处理影响的另外信息,如用从相应的模块向下指向编码信息交换模块52的垂直延伸箭头所示意性表示的。编码信息交换模块52负责在编码分支22之间共享编码参数和可选地另外的编码信息,使得分支可以根据彼此预测或采用编码参数。在图1的实施方式中,为此在多视图信号10的视图121和122的数据实体(即视频和深度/视差映射数据)之间限定了顺序。具体地,第一视图121的视频141在第一视图的深度/视差映射数据161之前,第一视图的深度/视差映射数据161之后是第二视图122的视频142,并且然后是第二视图122的深度/视差映射数据162等。这里应当指出,多视图信号10的数据实体之间的该严格顺序不需要严格应用于对整个多视图信号10的编码,而为了更便于讨论,下面假定该顺序为恒定的。自然地,数据实体之间的顺序还限定了与数据实体相关联的分支22之间的顺序。
如以上已经指出的,另外的编码分支22诸如编码分支22d,1、22v,2和22d,2与编码分支22v,1相似地起作用,使得分别对相应的输入161、142和162进行编码。然而,由于刚刚提到的相应地在视图121和122的视频和深度/视差映射数据之间的顺序以及在编码分支22之间限定的对应顺序,编码分支22d,1例如具有附加的自由来预测待用于对第一视图121的深度/视差映射数据161的当前部分进行编码的编码参数。这是因为不同视图的视频和深度/视差映射数据之间的前述顺序。例如,允许这些实体中的每个实体使用其自身及其在这些数据实体之中按照前述顺序的在前的实体的已重构部分而被编码。因此,在对深度/视差映射数据161进行编码时,允许编码分支22d,1使用从对应的视频141的先前重构部分已知的信息。分支22d,1如何利用视频141的重构部分以预测深度/视差映射数据161的、使得能够获得对深度/视差映射数据161的压缩的更好的压缩率的一些性质,在理论上是不受限制的。编码分支22d,1例如能够预测/采用如上所述在对视频141进行编码时所涉及的编码参数,使得获得用于对深度/视差映射数据161进行编码的编码参数。在采用情况下,可以抑制在数据流18内传讯关于深度/视差映射数据161的任何编码参数。在预测情况下,可以在数据流18内必须传讯仅关于这些编码参数的预测残差/校正数据。以下也进一步描述了用于编码参数的这样的预测/采用的示例。
值得注意的是,除了上面关于模块36和38所描述的模式之外,编码分支22d,1还可以具有可用于对深度/视差映射161的块进行编码的另外的编码模式。以下进一步描述这样的另外的编码模式,并且这样的另外的编码模式涉及不规则块分区模式。在可替选视图中,如下所述的不规则分区可以视作将深度/视差映射细分成块/分区的继续。
在任何情况下,针对后续的数据实体即第二视图122的视频142和深度/视差映射数据162,存在另外的预测能力。关于这些编码分支,其帧间预测模块不仅能够执行时间预测而且能够执行视图间预测。与时间预测相比,对应的帧间预测参数包括相似的信息,即每视图间预测段、视差矢量、视图索引、参考帧索引、和/或假设数目的指示,即例如参与通过求和形成视图间帧间预测的帧间预测的数目的指示。这样的视图间预测不仅可用于关于视频142的分支22v,2,而且可用于关于深度/视差映射数据162的分支22d,2的帧间预测模块38。自然地,这些视图间预测参数还表示可以用作用于采用/预测可能的第三视图的后续视图数据的基础的编码参数,然而图1中未示出该可能的第三视图。
由于以上措施,进一步降低待被复用器44插入到数据流18中的数据量。具体地,可以通过采用在前的编码分支的编码参数或经由复用器44仅将相对于在前的编码分支的预测残差插入到数据流28中,来大大减少编码分支22d,1、22v,2和22d,2的编码参数的量。由于在时间预测与视图间预测之间选择的能力,也可以降低编码分支22v,2和22d,2的残差数据423和424的量。残差数据量的减少过度补偿了区分时间预测模式与视图间预测模式时的附加的编码效果。
为了更详细地说明编码参数采用/预测的原理,参照图2。图2示出了多视图信号10的示例性部分。图2把视频帧v1,t示出为被分割成段或部分60a、60b和60c。为了简化,示出了帧v1,t的仅三个部分,然而该分割可以无缝且无间隙地将帧分成段/部分。如之前所提到的,对视频帧v1,t的分割可以在时间上固定或变化,并且可以在数据流内传讯或不传讯该分割。图2示出了使用来自视频141的任意参考帧的重构版本(在本情况下为示例性帧v1,t-1)的运动矢量62a和62b来对部分60a和60b进行时间预测。如现有技术所已知的,视频141的帧之间的编码顺序可以不与这些帧之间的呈现顺序一致,并且因此,参考帧可以按照呈现时间顺序64达到当前帧v1,t。例如,部分60c为帧内预测参数被插入到数据流18中的帧内预测部分。
在对深度/视差映射d1,t进行编码时,编码分支22d,1可以按照下面关于图2例举的以下方式中的一种或更多种利用上述可能性。
-例如,在对深度/视差映射d1,t进行编码时,编码分支22d,1可以采用如编码分支22v,1使用的视频帧v1,t的分割。因此,如果在针对视频帧v1,t的编码参数内存在分割参数,则可以避免针对深度/视差映射数据d1,t再传送分割参数。可替选地,编码分支22d,1可以通过经由数据流18传讯相对于视频帧v1,t的分割的偏差来使用视频帧v1,t的分割作为针对待用于深度/视差映射d1,t的分割的基础/预测。图2示出了编码分支22d,1使用视频帧v1的分割作为深度/视差映射d1,t的预分割的情况。就是说,编码分支22d,1根据视频v1,t的分割采用预分割或根据该视频v1,t的分割来预测预分割。
-此外,编码分支22d,1可以根据分配给视频帧v1,t中相应的部分60a、60b和60c的编码模式来采用或预测深度/视差映射d1,t的部分66a、66b和66c的编码模式。在视频帧v1,t与深度/视差映射d1,t之间的分割不同的情况下,可以控制根据视频帧v1,t对编码模式的采用/预测,以使得根据视频帧v1,t的分割的同位部分来获得该采用/预测。同位的适当限定如下。针对深度/视差映射d1,t中的当前部分的视频帧v1,t中的同位部分可以例如为下述部分:其包括在深度/视差映射d1,t中的当前帧的左上角处的同位位置。在预测编码模式的情况下,编码分支22d,1可以传讯相对于在数据流18内显式传讯的视频帧v1,t内的编码模式的、深度/视差映射d1,t的部分66a至66c的编码模式偏差。
-就关注预测参数而言,编码分支22d,1具有空间上采用或预测用于对相同的深度/视差映射d1,t内的相邻部分进行编码的预测参数或者根据用于对视频帧v1,t的同位部分60a至6c进行编码的预测参数来采用或预测上述预测参数的自由。例如,图2示出了深度/视差映射d1,t的部分66a为帧间预测部分,并且可以根据视频帧v1,t的同位部分60a的运动矢量62a来采用或预测对应的运动矢量68a。在预测的情况下,仅运动矢量差作为帧间预测参数482的一部分被插入到数据流18中。
-在编码效率方面,将有利的是,编码分支22d,1具有使用不规则块分区来细分深度/视差映射d1,t的预分割的段的能力。以下进一步描述的实施方式所涉及的一些不规则块分区模式根据相同视图的重构图片v1,t导出分区信息诸如楔形波分隔线70。通过该措施,深度/视差映射d1,t的预分割的块被细分。例如,将深度/视差映射d1,t的块66c细分成两个楔形波形状的分区72a和72b。编码分支22d,1可以被配置成单独地对这些子段72a和72b进行编码。在图2的情况下,示例性地示出了使用相应的运动矢量68c和68d来帧间预测子段72a和72b二者。根据部分3和4,编码分支22d,1可以具有在用于不规则块分区的若干编码选项之间进行选择以及将该选择作为数据流18内的边信息传讯至解码器的自由。
在对视频142进行编码时,除了可用于编码分支22v,1的编码模式选项之外,编码分支22v,2还具有视图间预测的选项。
图2示出了例如使用视差矢量76、根据第一视图视频141的时间上对应的视频帧v1,t来对视频帧v2,t的分割的部分64b进行视图间预测。
不管该差异如何,编码分支22v,2可以另外地利用可用于视频帧v1,t和深度/视差映射d1,t的编码的所有信息,诸如,特别是在这些编码中所使用的编码参数。因此,根据时间上对准的视频帧v1,t和深度/视差映射d1,t的同位部分60a和66a的各自的运动矢量62a和68a中的任意一个或其组合,编码分支22v,2可以采用或预测包括针对视频帧v2,t的时间上帧间预测部分74a的运动矢量78在内的运动参数。如果有的话,则可以关于针对部分74a的帧间预测参数来传讯预测残差。在这方面,应当记得,已经根据运动矢量62a本身对运动矢量68a进行了预测/采用。
如以上关于深度/视差映射d1,t的编码所述采用/预测用于对视频帧v2,t进行编码的编码参数的其他可能性也同样可适用于编码分支22v,2对视频帧v2,t的编码,然而由于视频帧v1,t和对应的深度/视差映射d1,t二者的编码参数是可用的,所以增多了模块52分发的可用的共同数据。
然后,类似于编码分支22d,1对深度/视差映射d1,t的编码,编码分支22d,2对深度/视差映射d2,t进行编码。例如关于根据相同视图122的视频帧v2,t进行的所有编码参数采用/预测的事件,这也是成立的。然而,另外,编码分支22d,2具有还根据已用于对在前的视图121的深度/视差映射d1,t进行编码的编码参数采用/预测编码参数的机会。另外,编码分支22d,2可以使用如关于编码分支22v,2说明的视图间预测。
在描述了图1的编码器20之后,应当指出,可以将该编码器20实现为软件、硬件或固件,即可编程硬件。尽管图1的框图显示出编码器20在结构上包括并行编码分支,即针对多视图信号10的视频和深度/视差数据中每个存在一个编码分支,然而不必是这样的情况。例如,被配置成执行元件24至40的任务的软件例程、电路部分或可编程逻辑部分分别可以顺序地使用以完成针对每个编码分支的任务。在并行处理中,可以在并行处理器核上或在并行运行电路上执行并行编码分支的处理。
图3示出了能够对数据流18进行解码以根据数据流18来重构与由多视图信号表示的场景对应的一个或若干个视图视频的解码器的示例。在很大程度上,图3的解码器的结构和功能与图20的编码器相似,使得尽可能地再利用图1的附图标记来表示以上关于图1所提供的功能描述还适用于图3。
图3的解码器总体上以附图标记100来表示,并且包括用于数据流18的输入和用于输出前述一个或若干个视图102的重构的输出。解码器100包括解复用器104和用于由数据流18表示的多视图信号10(图1)的每个数据实体的一对解码分支106、以及视图提取器108和编码参数交换器110。如图1的编码器的情况,解码分支106包括具有相同互连的相同解码元件,因此关于负责第一视图121的视频141的解码的解码分支106v,1代表性地描述所述解码分支106。具体地,每个编码分支106包括与复用器104的相应输出连接的输入、以及与视图提取器108的相应输入连接的输出,用以向视图提取器108输出多视图信号10的相应数据实体,即解码分支106v,1的情况下的视频141。在中间,每个编码分支106包括串联连接在复用器104与视图提取器108之间的去量化/逆变换模块28、加法器30、进一步处理模块32以及解码图片缓冲器34。加法器30、进一步处理模块32和解码图片缓冲器34连同后面为组合器/选择器40的预测模块36和38的并联连接一起形成环,预测模块36和38按照提到的顺序连接在解码图片缓冲器34与加法器30的另一输入之间。如通过使用与图1的情况下的附图标记相同的附图标记所表示的,解码分支106的元件28至40的结构和功能与图1中的编码分支的对应元件的相似之处在于:解码分支106的元件利用数据流18内传达的信息来模仿编码过程的处理。自然地,解码分支106仅关于编码器20所最终选择的编码参数来逆转(reverse)编码过程,而图1的编码器20必须找到某种优化意义上的编码参数的最优集合,诸如在可选地进行了特定的约束(诸如最大比特率等)的情况下对速率/失真成本函数进行优化的编码参数。
解复用器104用于将数据流18分发至各个解码分支106。例如,解复用器104向去量化/逆变换模块28提供残差数据421,向进一步处理模块32提供进一步处理参数501,向帧内预测模块36提供帧内预测参数461,并向帧间预测模块38提供帧间预测模块481。编码参数交换器110像图1中的对应模块52那样的起作用,使得在各个解码分支106之间分发共同编码参数和其他的共同数据。
视图提取器108接收并行解码分支106重构的多视图信号,并从该多视图信号中提取与由外部提供的中间视图提取控制数据112规定的视角或视图方向对应的一个或若干个视图102。
由于解码器100相对于编码器20的对应部分的相似构造,以与以上描述相似的方式来说明解码器100的直至视图提取器108的接口的功能。
实际上,解码分支106v,1和106d,1一起用于通过下述操作根据数据流18重构多视图信号10的第一视图121:根据包含在数据流18中的第一编码参数(诸如421内的定标参数、参数461、481、501,以及第二分支16d,1的编码参数的对应的未采用参数和预测残差,即422、参数462、482、502),根据多视图信号10的(在第一视图121的当前部分的重构之前根据数据流18重构的)先前重构部分来预测第一视图121的当前部分,并使用同样包含在数据流18中的、即在421和422内的第一校正数据来校正第一视图121的当前部分的预测的预测误差。当解码分支106v,1负责对视频141进行解码时,编码分支106d,1承担用于对深度/视差映射数据161进行重构的责任。参见例如图2:解码分支106v,1通过下述操作根据数据流18重构第一视图121的视频141:根据从数据流18读取的对应编码参数(即421内的定标参数、参数461、481、501),根据多视图信号10的先前重构部分来预测视频141的当前部分诸如60a、60b或60c,并使用从数据流18获得的对应校正数据即根据421内的变换系数水平来校正该预测的预测误差。例如,解码分支106v,1以段/部分为单位使用视频帧之间的编码顺序来处理视频141,并且对于对帧内的段进行编码,这些帧的段之间的编码顺序如同编码器的对应编码分支的情况一样。因此,视频141的所有先前重构部分可用于针对当前部分的预测。针对当前部分的编码参数可以包括以下参数中的一个或更多个:帧内预测参数501、帧间预测参数481以及用于进一步处理模块32的滤波参数等。用于校正该预测误差的校正数据可以用残差数据421内的谱变换系数水平来表示。并不需要全部传送这些编码参数中的所有编码参数。可以根据视频141的相邻段的编码参数来空间预测这些编码参数中的一些编码参数。可以将例如用于视频141的运动矢量作为视频141的相邻部分/段的运动矢量之间的运动矢量差在比特流内传送。
就关注第二解码分支106d,1而言,该第二解码分支106d,1不仅访问如在数据流18内传讯并通过解复用器104分发给相应的解码分支106d,1的残差数据422以及对应的预测和滤波参数,即未通过跨视图间边界被预测的编码参数,而且间接访问经由解复用器104提供给解码分支106v,1的编码参数和校正数据、或如经由编码信息交换模块110分发的根据该编码参数和校正数据可导出的任何信息。因而,解码分支106d,1根据经由解复用器104转发给针对第一视图121的这对解码分支106v,1和106d,1的编码参数的一部分来确定其用于重构深度/视差映射数据161的编码参数,该编码参数的一部分与尤其专用于并转发给解码分支106v,1的这些编码参数的一部分部分地重叠。例如,解码分支106d,1根据一方面为在481内显式传送的运动矢量62a,例如作为相对帧v1,t的另一个相邻部分的运动矢量差,以及另一方面为在482内显式传送的运动矢量差,来确定运动矢量68a。另外地或可替选地,解码分支106d,1可以使用如以上关于对楔形波分隔线的预测所描述的视频141的重构部分来导出如以上关于解码该深度/视差映射数据161所简要指出且以下将更详细概述的不规则块分区。
更确切地说,解码分支106d,1通过利用编码参数来根据数据流重构第一视图121的深度/视差映射数据141,所述编码参数为至少部分地根据解码分支106v,1所使用的编码参数而预测(或根据其而采用)的编码参数和/或根据解码分支106v,1的解码图片缓冲器34中的视频141的重构部分而预测的编码参数。可以经由解复用器104从数据流18获得编码参数的预测残差。可以全部地或关于另一基础(即参照用于对深度/视差映射数据161本身的先前重构部分的任意部分进行编码所使用的编码参数)在数据流108内传送用于解码分支106d,1的其他编码参数。基于这些编码参数,解码分支106d,1根据深度/视差映射数据161的(在深度/视差映射数据161的当前部分的重构之前由解码分支106d,1根据数据流18而重构的)先前重构部分来预测深度/视差映射数据141的当前部分,并且使用相应的校正数据422来校正深度/视差映射数据161的当前部分的预测的预测误差。
如以上关于编码已描述的,针对第二视图122的这对解码分支106v,2和106d,2的功能与针对第一视图121的功能相似。两个分支协作以利用自己的编码参数来根据数据流18重构多视图信号10的第二视图122。这些编码参数中的仅下述部分需要经由解复用器104被传送并分发给这两个解码分支106v,2和106d,2中的任意一个:其是跨视图141与142之间的视图边界未被采用/预测,并且可选地为视图间预测部分的残差。根据多视图信号10的(在第二视图122的相应当前部分的重构之前由解码分支106中的任意一个根据数据流18而重构的)先前重构部分来预测第二视图122的当前部分,并因此使用由解复用器104转发给这对解码分支106v,2和106d,2的校正数据即423和424来校正预测误差。
解码分支106d,2可以至少部分地通过根据以下内容的采用/预测来确定其编码参数:解码分支106v,1、106d,1和106v,2中的任何一个所使用的编码参数,重构视频142和/或第一视图121的重构深度/视差映射数据161。例如,关于根据视频141、深度/视差映射数据161和视频142或其适当子集中的任何一个的同位部分是否将采用或预测针对当前部分80b的编码参数,以及关于根据所述同位部分将采用或预测针对该当前部分80b的编码参数的哪个部分,数据流18可以针对深度/视差映射数据162的当前部分80b进行传讯。这些编码参数中的关注的部分可以涉及例如运动矢量诸如84、或视差矢量诸如视差矢量82。此外,可以通过解码分支106d,2导出诸如与不规则分区的块相关的其他编码参数。
在任何情况下,多视图数据10的重构部分到达视图提取器108,其中,在该视图提取器108中,包含在其中的视图为用于新视图的视图提取的基础,即例如与这些新视图关联的视频。该视图提取可以包括或涉及通过使用与视频141和142关联的深度/视差映射数据而对视频141和142的再投影。坦白讲,在将视频再投影到另一个中间视图时,与该视频的对应于位置更远离观看者位置的场景部分的部分相比,该视频的对应于位置更接近观看者的场景部分的部分沿着视差方向(即观看方向差矢量的方向)偏移得更多。
应当提到的是,解码器不必包括视图提取器108。更确切地讲,可以不存在视图提取器108。在该情况下,解码器100仅用于重构视图121和122中的任意一个,诸如它们中的一个、若干个或全部视图。在针对单独视图121和122不存在深度/视差数据的情况下,然而视图提取器108可以通过利用使相邻视图的对应部分彼此相关的视差矢量来执行中间视图提取。使用这些视差矢量作为与相邻视图的视频关联的视差矢量场的支持视差矢量,该视图提取器108可以通过应用该视差矢量场根据相邻视图121和122的这样的视频来建立中间视图视频。例如,设想视频帧v2,t的部分/段的50%被视图间预测。就是说,对于该部分/段的50%,将存在视差矢量。对于剩余部分,可以由视图提取器108通过空间意义上的内插/外插来确定视差矢量。还可以使用利用针对视频142的先前重构帧的部分/段的视差矢量的时间内插。然后可以根据这些视差矢量来使视频帧v2,t和/或参考视频帧v1,t失真以产生中间视图。为此,根据在第一视图121的视图位置与第二视图122的视图位置之间的该中间视图的中间视图位置来定标视差矢量。以下更详细地概述关于该过程的细节。
然而,在考虑仅对包括视频和对应的深度/视差映射数据的一个视图(诸如以上概述的实施方式的第一视图121)进行编码的情况下,可以有利地在图1至图3的架构中使用以下概述的实施方式。在该情况下,传送的信号信息即单个视图121可以称为视图合成适应信号,即使得能够实现视图合成的信号。视频141连同深度/视差映射数据161使视图提取器108能够通过利用深度/视差映射数据161将视图121再投影到相邻新视图中来执行某种视图合成。再有,通过使用不规则块分区来获得编码效率增益。从而,可以在独立于上述视图间编码信息交换方面的单视图编码构思内使用以下进一步描述的不规则块分区实施方式。更确切地说,可以将图1至图3的以上实施方式变化至失去分支22、100v/d,2和关联的视图122的程度。
从而,图1至图3示出了针对可以有利地使用后续说明的不规则块分区的多视图编码构思的示例。然而,再次强调的是,不管样本阵列是否为深度/视差映射,都还可以结合其他种类的样本阵列编码来使用以下描述的编码模式。以下描述的编码模式中的一些编码模式甚至不会使深度/视差映射与对应的纹理映射一起共存是必要的。
具体地,以下概述的实施方式涉及如下的一些编码模式:通过这些编码模式,用将信号的样本分成两个样本集合且用恒定样本值来表示每个样本集合的模型来表示块的信号。以下说明的编码模式中的一些编码模式可以被用于直接表示块的信号,或者可以被用于生成针对该块的预测信号,然后进一步通过对另外的残差信息(例如变换系数水平)进行编码来细化(refine)该预测信号。如果将后续说明的编码模式中的一个编码模式应用于深度信号,则除了其他的有利方面之外,还会由于主要通过慢变区域和慢变区域之间的尖锐边缘来表征深度信号的事实而产生优点。虽然可以用变换编码方法(即,基于DCT)来高效地表示慢变区域,但是两个几乎恒定的区域之间的尖锐边缘的表示需要大量待编码的变换系数。如关于以下概述的实施方式中的一些实施方式所描述的,可以通过使用将块分成两个区域且每个区域具有恒定样本值的模型来更好地表示包含边缘的这样的块。
下面,将更详细地描述本发明的不同实施方式。在部分1和2中,描述了用于将块分区成样本值恒定的两个区域的基本构思。部分3描述了用于具体说明可以如何将块分区成不同区域以及需要传送什么参数以用于表示该分区以及针对该区域的样本值的不同实施方式。
实施方式包括如下构思:用于独立于任何其他块来传讯分区信息的构思、用于基于针对空间上相邻的块的传送数据来传讯分区信息的构思、以及用于基于与待编码的深度映射关联的已传送纹理图片(常规的视频图片)来传讯分区信息的构思。从而,部分4关于与用于处理不规则定位块的一些实施方式有关的恒定样本值、模式信息、和分区信息的编码来描述本发明的实施方式。
虽然下面的描述主要针对于深度映射的编码(特别是在多视图视频编码的上下文中)并且下面的描述基于给定的深度块,但是针对常规视频编码也可以应用本发明的若干实施方式。因此,如果用通用术语“信号块”来替换术语“深度块”,则可以将该描述应用于其他信号类型。此外,下面的描述有时专注于方形块,但是本发明也可以应用于矩形块或其他连接或简单连接的样本集合。
1.楔形波
在诸如图1至图3所示的基于块的混合视频编码中,例如,将帧细分为矩形块。通常,这些块为方形,并且针对每个块的处理遵循相同的功能结构。注意,虽然本部分中的大多数示例使用方形块,但是楔形波块分区和所有相关的方法不限于方形块,而是可以用于任何矩形块尺寸。
1.1楔形波块分区
楔形波块分区的基本原理为将块200的区分成用线201分隔的两个区域202a、202b,如图4所示,其中这两个区域用P1和P2来标记。通过都定位在块边界上的起点S和终点E来确定该分隔线。有时,在下面将区域P1称为楔形波分区202a,而将区域P2称为楔形波分区202b。
针对连续信号空间(参见图4,左侧),起点位置为S(xS,yS),并且终点位置为E(xE,yE),这二者均限于块尺寸0≤x≤xB和0≤y≤yB(其中,坐标之一必须等于最小值(0)或最大值(xB或yB))。根据这些限定,分隔线的等式如下:
Figure GDA0004053611730000201
注意,该等式仅对于xS≠xE有效。然后分别将这两个区域P1和P2限定为线的左区和右区。
在数字图像处理中通常使用离散信号空间(参见图4,右侧),其中该块包括通过网格示出的整数个样本203。这里,起点S和终点E对应于块200的具有位置S(uS,vS)和E(uE,vE)的边界样本,这二者均限于块尺寸0≤x≤uB和0≤y≤vB。在离散情况下,可以根据(1)来表示(formulaute)分隔线等式。然而,这里对区域P1和P2的限定是不同的,这是因为仅完整的样本才可以被分配为这两个区域的任一区域的一部分,如图4的右侧所示。如部分1.4.1中所述可以算法上解决该分配问题。
楔形波块分区202a、202b需要起点和终点204定位在块200的不同边缘上。因此,可以针对矩形或方形块200区分出楔形波块分区202a、202b的六种不同方位,如图5所示。
1.2楔形波分区图案
为了在编码过程中利用楔形波块分区,可以采用分区图案的形式来存储分区信息。这样的图案包括尺寸为uB×vB的阵列,并且每个元素包含相符的样本属于区域P1还是区域P2的二进制信息。图6示出了针对不同的块尺寸的示例楔形波分区图案。这里,用黑色或白色样本203来表示二进制区域信息,即双分割。
1.3楔形波建模和近似
为了用楔形波来对块的深度信号进行建模,所需要的信息在概念上包括两个元素。一个元素为例如采用分区图案的形式的分区信息(参见部分1.1),其将每个样本203分配给两个区域中的一个区域(参见部分1.2)。所需要的另一个信息元素为分配给区域的样本的值。可以将两个楔形波区域中的每个楔形波区域的值限定为恒定的。这是以下概述的实施方式中的一些实施方式的情况。从而,该值将被称为恒定分区值(CPV)。在该情况下,第二信息元素包括针对指定区域的两个代表性样本值。
为了通过楔形波对深度块的信号进行近似,可以将给定分区的CPV计算为对应区域的原始深度信号的平均值,如图7所示。在图7的左侧,示出了来自代表性深度映射的灰色定标部分。示例性地示出了当前为基于楔形波的分区的对象的块200。具体地,示出了该块200在原始深度信号205内的说明性位置以及放大的灰色定标版本。首先,就区域P1和区域P2而言,将分区信息即可能的双分割与块200重叠。然后,将一个区域的CPV计算为被相应区域覆盖的所有样本的平均值。由于图5的示例中的分区信息与深度信号205匹配得相当好,所以具有针对区域P1(深灰色)的较低CPV和针对区域P2(浅灰色)的较高CPV的所得到的楔形波模型,即基于所概述的楔形波分区模式对块200的预测,表示对深度块的良好近似。
1.4楔形波处理
1.4.1楔形波图案列表
为了对楔形波块分区进行高效处理和传讯的目的,可以在查找列表中组织分区图案。这样的楔形波图案列表包含针对区域分隔线的起点位置和终点位置的所有可能组合的图案,或者这样的楔形波图案列表包含所有可能组合的适合子集。从而,可以针对每个预测块尺寸生成一个查找列表。可以使得在编码器和解码器处可用相同列表,使得能够依赖于特定块尺寸的列表内的特定图案的位置或索引来在编码器与解码器之间进行传讯(详见部分3)。这可以通过包括预定图案集合或通过执行相同生成算法来实现为编码器和解码器初始化的一部分。
用于创建楔形波分区图案查找列表的核心功能为生成一个列表元素的,如图8所示。这可以如下所述(或通过相似算法)来实现。考虑空图案(二进制元素的uB×vB的阵列)以及起点S坐标和终点E坐标(图8,左侧),第一步骤为绘制分隔线。为此目的,可以应用布雷森汉姆(Bresenham)线算法。大体上,该算法确定应当绘制哪些样本203以形成对两个给定点之间的直线的接近近似。在楔形波分区图案的情况下,标记了与起点S与终点E之间的线近似的所有元素203(图8中的黑框,中间靠左)。最后步骤是填充被标记样本分隔的所得到的两个区域中的一个区域。这里,需要讨论上述分配问题。由于图案的元素为二进制的,所以通过Bresenham算法标记的分隔线变成一个区域的一部分。直观上这似乎是不均衡的,因为线样本理论上为两个域的一部分。然而,可以在不失总体性的情况下将分隔线样本分配给一个区域。这通过如下事实来确保:线标记算法以及区域填充算法二者均为感知方位的,即相对于相符的方位的根角。基于角区域完全被分隔线界定的事实,填充该区域相对简单。该填充算法开始于根角元素206,并按列和行连续标记所有图案元素,直到其到达已标记过且从而为线207的一部分的元素为止(参见图8,中间靠右)。结果,用二进制值来表示针对给定起点位置和终点位置的楔形波分区图案(图8,右侧)。
针对特定块尺寸的楔形波分区图案查找列表的生成处理连续地创建针对可能的线起始位置和终止位置的列表元素。这是在图5所示的六个方位上进行迭代来实现的。针对每个方位,起始位置位于块的另一个边缘上的一个边缘上,而终止位置位于块的另一个边缘上,并且列表生成处理执行以上针对起始位置和终止位置的每种可能组合所介绍的楔形波图案生成方法。为了高效处理和传讯,楔形波图案列表应当仅包含唯一图案。因此,在将新图案添加至列表之前,检查该新图案与该列表中已存在的图案中的任一个相同还是逆向相同(inverse identical)。在这样的情况下,该图案为冗余的,因此被丢弃。除此之外,还将平面图案即所有样本分配至一个区域,还在所述平面图案不表示有效楔形波块分区时从该列表中排除所述平面图案。
作为对所述楔形波图案列表的扩展,可以例如根据块尺寸来自适应性地增大或减小用于生成图案的线起始位置和终止位置的分辨率。该扩展的目的是找到编码效率与复杂性之间的较好权衡。与正常分辨率相比,增大分辨率产生了具有更多图案的列表,而减小分辨率产生了较短列表。因此,通常,针对小块尺寸增大分辨率,而针对大块尺寸减小分辨率。重要的是,应注意,独立于针对起始位置和终止位置的分辨率,存储在列表中的楔形波分区图案必须一直具有正常分辨率,即原始块尺寸。减小分辨率可以简单地通过如上所述但仅针对起始位置和终止位置的子集生成图案来实现。例如,使分辨率减半意味着将图案生成限于每个第二起始位置和终止位置。与此相比,增大分辨率更困难。为了覆盖所有起始位置和终止位置,首先使用上述算法来生成具有增大分辨率的时间图案。在第二步骤中,将所得到的图案下采样为规则分辨率。注意,对于二进制数据,下采样不支持内插值,针对增大分辨率的情况这产生了大量相同图案。
作为上述楔形波图案生成的最终结果,在编码器和解码器侧导出楔形波图案的有序列表。在实际的实现方式中,还可以通过利用的编码算法/编码标准来预定义这些图案。此外,不必通过上述实际算法来生成图案,还可以使用该算法的变型。唯一重要的是,编码器和解码器二者针对编码处理和解码处理均生成了(并且后续使用)楔形波图案的相同列表。
1.4.2最小失真楔形波搜索
基于上述查找列表,通过搜索算法可以找到按照楔形波分区对块的信号的最佳近似。对于基于楔形波的编码算法,可以将最佳算法理解为引起最小失真的楔形波模型。换句话说,该搜索试图找到针对给定块的最佳匹配楔形波分区图案。该搜索使用导出的图案列表,该图案列表包含针对给定块尺寸的所有可能的楔形波分区图案(详见部分1.4.1)。这些列表有助于限制该搜索的处理时间,因为每次执行最小失真楔形波搜索时不需要再次生成图案。每个搜索步骤可以包括下面的步骤:
·根据给定分区图案和原始块信号来计算CPV值。
·计算原始块信号与楔形波模型之间的失真DW,cur
·评估DW,cur<DW,min:如果DW,cur<DW,min成立,则通过设置DW,cur=DW,min并存储当前分区图案的列表索引来更新最小失真楔形波信息。
可以使用拉格朗日成本测量来寻找使用的楔形波图案,来替代失真。拉格朗日常数测量为加权和D+λ·R,其用给定拉格朗日乘数λ的情况下传送关联的参数所需要的速率R对通过具体楔形波图案获得的失真D进行加权。
针对该搜索算法,不同的策略是可能的,范围为从穷举搜索策略到快速搜索策略。穷举搜索意味着连续对楔形波图案列表的所有元素进行最小失真测试。该策略确保了找到全局最小量,然而代价是慢(这对于编码器尤其重要)。快速搜索意味着减少必要搜索步骤的数目的高级策略。快速搜索策略可以例如为连续细化。在第一阶段,例如仅按照每四个边界样本来搜索针对由受限数目的线起始位置和终止位置而产生的分区图案的子集的最小失真楔形波。在第二阶段,将例如通过允许按照每两个边界样本、但将测试的起始位置和终止位置的范围限制于在第一阶段的最佳结果周围的范围来细化起始位置和终止位置。通过在每个循环中细化步长,最终找到最小失真楔形波。与全面搜索相比,这样的快速搜索策略仅允许找到局部最小量,而待测试的楔形波图案的数目显示降低并因此搜索较快。注意,第一阶段的步长不需要为固定值,而可以例如根据块尺寸来自适应性地设置。
标引楔形波线或楔形波图案的路线的刚刚讨论的索引可以称为wedge_full_tab_idx。
2.轮廓
注意,虽然本部分中大多数示例使用方形块,但是轮廓块分区和所有相关的实施方式不限于方形块,而是针对任何矩形块尺寸也是很可以的。
2.1轮廓块分区
轮廓块分区的基本原理为将块200的区分成两个区域202a、202b。与楔形波块分区不同,不能够通过几何公式来描述区域之间的分隔线201。如通过图9中用P1和P2标记的两个区域所示出的,轮廓的区域可以为任意形状,并且轮廓的区域甚至不需要被连接。
图9还示出了针对轮廓块分区的连续信号空间与离散信号空间之间的差异。而且,针对离散信号空间可以将仅完整样本分配为两个区域的任一个区域的一部分(图9,右侧)。当根据离散参考信号而未根据几何公式来导出轮廓分区信息(详见部分3.2.2)时,这里不必考虑与楔形波块分区相似的分配问题。
2.2轮廓分区图案
按照楔形波分区图案(参见部分1.2),可以采用分区图案的形式来存储轮廓块分区信息。这样的图案包括尺寸为uB×vB的阵列,并且每个元素包含相符的样本属于区域P1还是区域P2的二进制信息。图10示出了用黑色样本或白色样本来表示二进制区域信息的示例楔形波分区图案。
2.3轮廓建模和近似
通过轮廓对块的深度信号进行近似的原理与在部分1.3中所描述的楔形波构思相同。而且,所需要的信息可以包括两个元素分区信息和分区填充指令,该分区填充指令又可以包括针对两个区域中的每个区域的一个恒定分区值(CPV),可以将该恒定分区值计算为对应区域的原始深度信号的平均值。
图11中示出了轮廓近似,其中预测块200的原始深度信号被突出以示出其周围环境,并且被放大示出。而且,首先将就区域P1和区域P2而言的分区信息与块重叠,然后将CPV计算为区域所覆盖的所有样本的平均值。由于图11的示例中的分区信息与深度信号匹配得相当好,所以具有针对区域P1(深灰色)的较低CPV和针对区域P2(浅灰色)的较高CPV的所得到的轮廓模型表示对深度块的良好近似。
3.块分区编码
为了在针对多视图视频加深度(MVD)的编码架构诸如图1至图3的编码环境内使用先前部分中所描述的方法和算法,应当限定新的编码例程或模式,并且应当在编码器和解码器中实现需要的工具。
针对诸如图1的编码器的混合视频编码器或编码分支对22v/d,1,可以将这些工具分类为估计、预测或传讯的部分。估计概括了由于依赖于原始输入信息(例如,未压缩图片)而成为仅编码过程的一部分的工具。与此相比,预测概括了由于仅依赖传送信息和/或重构信息(例如解码图片)而成为编码过程和解码过程的一部分的工具。传讯概括了用于将从编码器传送至解码器的信息编码在比特流中的工具。因此,需要它们使用相同语法和相同熵编码状态。
注意,对于估计工具,如已知的根据经典视频编码方法可以导出失真,测量块的失真深度信号与原始深度信号之间的差以作为例如均方误差(MSE)或平均绝对差(MAD),或测量由于块的失真深度信号而错位的样本所引起的合成视图差以作为合成视图中的失真。
可以将根据以下概述的实施方式的不规则块分区编码的构思分成用于处理分区信息的构思(参见部分3.1和3.2)和用于处理CPV的构思(参见部分3.3)。
3.1基于楔形波的帧内编码
该部分呈现了基于楔形波块分区的两种帧内编码模式(参见部分1)。可以将两种模式与增量(delta)CPV方法组合(参见部分3.3.2)。
3.1.1楔形波块分区的帧内建模
该模式的基本原理是在编码器处找到最佳匹配楔形波分区并在比特流中显式地传送分区信息。在解码器处使用显式传送的分区信息来重构块的信号。因此,针对该模式的主要工具是估计和传讯的部分。
不预测针对该模式的楔形波分区信息,但是在编码器处在估计处理内搜索该信息。为此,使用当前块的原始深度信号作为参考来执行如在部分1.4.2中所述的最小失真楔形波搜索。关于所使用的失真方法,该搜索产生了最佳匹配楔形波分区。
在解码器处重构该块,必须将楔形波分区信息在比特流中传讯。这是通过显式地传送列表中相符图案的位置或索引来实现的(参见部分1.4.1)。用固定数目的二进制位(bin)来传讯该列表索引。考虑具有N个元素的楔形波图案列表,使用固定长度编码、或可变长度编码、或算术编码(包括上下文自适应二进制算术编码)、或任何其他的熵编码方法来对使用的图案的索引进行编码。用于传讯楔形波分区信息的高级方法可以包括基于每个分区图案的概率或者使用分区信息的替选表示(例如线起始位置和终止位置、或线起始位置和梯度)来对列表排序。
3.1.2楔形波块分区的帧内预测
该模式的基本原理是根据可用于相同图片中的先前编码块的信息来预测楔形波分区,即帧内预测。为了更好的近似,在编码器处诸如通过改变线终止位置来细化预测分区。在比特流中仅传送对线终止位置的偏移就足够了,并且在解码器处可以使用由于组合预测分区与诸如偏移的传送的细化信息而产生的分区信息来重构块的信号。因此,针对该模式的主要工具为预测、估计和传讯的部分。
针对该模式的楔形波分区信息的预测内部使用包括分隔线的起始位置和梯度的楔形波表示来运行。为了进一步处理,即适应该线终止位置偏移并重构该块的信号,将预测结果转换为包括线起始位置和终止位置的表示。该模式的预测过程根据先前编码块(诸如在当前块的左侧和上方的相邻块)的信息来导出线起始位置和梯度。在图12中,示出了仅当前块210和上方相邻块212。注意,针对一些块,不能得到相邻块中的一个或两个。在这样的情况下,跳过针对该模式的处理,或者在将丢失信息设置成有意义的默认值的情况下继续该处理。
如图12所示,区分了两个主要构思以用于根据提出的本实施方式来预测楔形波分区信息。第一个构思覆盖两个相邻参考块之一为楔形波型的情况,如图12左侧的示例所示,其中对块212示例性地进行楔形波分区。第二个构思覆盖两个相邻参考块都不是楔形波型而是可以为默认帧内编码型的帧内方向型的情况,如图12右侧的示例所示,其中对块212示例性地进行帧内编码。
如果参考块212是楔形波型,则预测过程可以运行如下。根据图12的左侧,在第一步骤中根据起始位置Sref和终止位置Eref导出参考楔形波的梯度mref。该构思的原理是在当前块210中延续该参考楔形波即楔形波分隔线201’,这仅在参考楔形波212的分隔线201’的延续实际上与当前块210相交的情况下才是可能的。因此,下一步骤是检查是否可以延续该参考楔形波。图12左侧的示例示出了下述情形:延续该参考楔形波是可以的,但是如果参考楔形波的起始位置和终止位置将位于块的左边缘和右边缘上则可能该线的延续不与下方的块相交的情形。如果该检查结果为肯定的,则在最后步骤中预测起始位置Sp和终止位置Ep。由于通过限定使梯度mp等于mref,所以将位置简单地计算为延续线与块边界样本的交点。
如果参考块212为帧内方向型,则预测过程可以运行如下。根据图12的右侧,在第一步骤中根据帧内预测方向214导出参考块212的梯度mref。在仅采用抽象索引的形式提供帧内方向214的情况下,实现该梯度mref会需要映射或转换函数。与用于根据楔形波型参考块212进行预测的构思不同,帧内方向型参考块212不提供分隔线信息。因此,根据同样在解码器处可用的信息即左侧和上方相邻块的邻近样本来导出起始位置Sp。在图12的右侧中用阴影示出了所述邻近样本。阴影的密度将表示相邻样本的值。如图12的右侧所示,从这些邻近样本中选择以最大斜率邻接这对相邻样本的邻近样本作为起始位置Sp。这里,斜率应被理解为两个连续样本值的绝对差。针对楔形波分区,线起始点Sp在块210的一个边缘216处分离具有不同值的两个区域202a、202b。因此,相邻块的邻近样本之间的最大斜率点为Sp的最佳预测。关于梯度,再次使mp等于限定的梯度mref,并且作为最后步骤可以与Sp一起计算终止位置Ep
所呈现的两个构思是互补的。虽然根据楔形波型参考块的预测具有较好匹配的分区信息,但并不总是可以的,然而根据帧内方向型参考块的预测总是可能的,但是分区信息拟合较差。因此,有益的是,将这两个构思组合成一个预测模式。为了在无另外传讯的情况下将其实现,可以限定下面的处理层级。如果上方参考块为楔形波型,则尝试预测分区。否则,如果左侧参考块为楔形波型,则尝试预测分区。否则,根据上方参考信息和左侧参考信息来预测分区。对于后者,用于在上方方向与左侧方向之间进行决定的不同决定标准是可能的,范围为从简单优先级上方到用于联合评估邻近样本的方向和斜率的高级方法。还可以在上方参考块和左侧参考块为楔形波型的情况下应用这样的高级标准。
可以不预测用于细化楔形波分区的线终止位置偏移,但是可以在编码器处在估计过程内搜索该线终止位置偏移。对于搜索,根据预测的楔形波分区和如图12所示的针对线终止位置的偏移值Eoff来生成候选分区。通过在偏移值的范围上进行迭代并且比较所得到的的不同楔形波分区的失真,关于使用的失真方法来确定最佳匹配楔形波分区的偏移值。
为了在解码器处重构块,将在比特流中传讯线终止位置偏移值。可以利用以下三个语法元素来传讯该线终止位置偏移值:第一传讯dmm_delta_end_flag,其关于是否存在任何偏移Eoff,即关于偏移Eoff是否为零;第二传讯dmm_delta_end_sign_flag,其表示在该偏移不为零的情况下偏移的符号,即顺时针偏差或逆时针偏差;以及第三传讯dmm_delta_end_abs_minusl,其表示绝对偏移值减一。在伪代码中可以包括这些语法元素作为
Figure GDA0004053611730000281
可以使用dmm_delta_end_abs_minusl和dmm_delta_end_sign_flag来导出DmmDeltaEnd即Eoff如下:
DmmDe]taEnd[x0][y0]=(1-2*dmm_delta_end_sign_flag[x0][y0])*
(dmm_delta_end_abs_minus1[x0][y0]+1)
最可能的情况是偏移值为零。为了高效传讯,发送第一个二进制位,该第一个二进制位具有标签的功能,表示偏移是否为零。如果偏移不为零,则k+1个另外的二进制位跟随以用于在范围±2k内传讯偏移值,其中第一个二进制位表示符号而剩余的k个二进制位表示偏移的绝对值。为了高效编码,k通常为较小的数并且可以例如根据块尺寸来自适应性地设置。还可以通过任何其他的熵编码技术,包括固定长度编码、可变长度编码、或算术编码(包括上下文自适应二进制算术编码)来传送线终止位置偏移。
3.2用于块分区编码的分量间预测
该部分呈现基于根据纹理来预测分区信息的两种编码模式。可以将两种模式与增量CPV方法组合(参见部分3.3.2)。假定在关联的深度映射之前传送纹理信息(即,常规的视频图片)。
这些模式的基本原理可以被描述为根据作为楔形波或作为轮廓块分区的纹理参考块来预测分区信息。这类预测可以称为分量间预测。与时间预测或视图间预测不同,这里不需要运动或视差补偿,因为纹理参考图片在相同时间且从相同角度示出场景。由于针对这些模式不传送分区信息,所以分量间预测使用重构的纹理图片作为参考。根据用于纹理编码的颜色空间,针对分量间预测考虑纹理信号的一个或更多个分量。为了视频编码,通常使用YUV颜色空间。这里,亮度分量包含用于对深度块(即对象之间的边缘)的信号进行预测的最重要信息。从而,简单的分量间预测方法仅利用亮度分量的信息,而高级方法另外地利用色度分量以用于联合预测或用于细化亮度预测结果。
3.2.1楔形波块分区的基于纹理的预测
该模式的基本原理是根据纹理参考块216来预测深度映射213中的深度块210的楔形波分区。这是通过搜索针对重构纹理图片的最佳匹配楔形波分区来实现的,如图13所示。为此,使用重构纹理信号215,更具体地使用与深度块210具有相同位置和尺寸的亮度块216作为参考,来执行如部分1.4.2所述的最小失真楔形波搜索。将所得到的楔形波分区图案218用于对深度块的预测220。在图13中,这通过顶框来突出,并且对于示出的示例,预测的楔形波分区(中间)与深度块210非常好地近似。由于可以在编码器和解码器处相同地执行所述楔形波预测,所以该模式不需要对分区信息的传讯。
3.2.2轮廓块分区的基于纹理的预测
该模式的基本原理是根据纹理参考块预测深度块的轮廓分区。这是通过导出针对重构纹理图片215的轮廓分区218’来实现的,如图10所示。为此,使用重构纹理信号215,更具体地使用与深度块210具有相同位置和尺寸的亮度块216作为参考来执行轮廓近似。由于可以在编码器和解码器处相同地执行这样的轮廓预测,所以针对该模式不需要对分区信息的传讯。
可以通过计算参考块216的平均值并将其设置为阈值来生成轮廓分区图案。根据参考块216中的样本的值在阈值以下还是阈值以上,可以将相符位置标记为分区图案218’中的区域P1或P2的一部分。将所得到的轮廓分区图案218’用于对深度块210的预测220。在图13中,这通过底框来突出,并且对于示出的示例,预测的轮廓分区(中间)218’与深度块210非常好地近似。然而,阈值方法潜在地导致具有许多孤立小部分的磨损(frayed)图案,该方法未很好地近似深度信号。为了改进轮廓图案的一致性,可以例如通过滤波方法或分割方法来扩展偏差处理。
可以根据收集的纹理视频块的亮度样本videoLumaSamples[x,y](其中x,y=0..nT-1)来导出限定(x,y)为x,y=0..nT-1(表示要分区的块内的样本位置)的轮廓分区图案dmmWedgeletPattern[x,y]的二进制分区图案,如下。
导出阈值tH作为:
tH=sumDC/(nT*nT),其中对于x,y=0..nT-1,sumDC+=videoLumaSamples[x,y]
设置图案值作为:
-如果videoLumaSamples[x,y]大于tH,则应用如下:
dmmWedgeletPattern[x,y]=1
-否则,应用如下:
dmmWedgeletPattern[x,y]=0
3.3 CPV编码
在该部分中呈现用于CPV编码的构思。可以将这些构思相同地应用于用于预测或估计块分区信息的所有四种模式(参见部分3.1和3.2)。楔形波和轮廓作为两种分区类型具有带有限定的恒定值的两个分区区域。因此,CPV处理不需要在分区类型或编码模式之间进行区分,而是假定针对当前深度块给定分区图案。
3.3.1预测CPV
为了更好地理解CPV预测,区分了三种类型的CPV,它们是:原始CPV、预测CPV和增量CPV。针对块的横截面(图14的左侧的虚线230),在图14的右侧示意性地示出了这三种类型的CPV之间的关系。这里,线232表示块200的沿着线230的原始信号。根据部分1.3和2.3中的描述,将该原始CPV(图14的右侧的线234和236)分别计算为对应的区域P1和P2覆盖的信号的平均值。
原始CPV
Figure GDA0004053611730000301
Figure GDA0004053611730000302
产生针对给定块分区的原始信号(图14的左侧,或线232)的最佳近似,但是由于在解码器处得不可得到原始信号,所以将需要在比特流中传送所述值。这就比特率而言将是成本相当高的,而可以通过采用针对CPV的预测原理来将其避免。与原始CPV相比,根据在解码器处还可得到的信息,即如图14的左侧的阴影样本203所示的左侧和上方相邻块的邻近样本,来导出预测CPV。这里,用灰色标记邻近样本,并且针对给定分区图案的每个区域的预测CPV由计算邻接对应区域(图14的左侧的线238和240)的这些样本的平均值而产生。注意,并不是总可得到左侧或上方相邻块。在这样的情况下,可以将相应的邻近样本设置为默认值。
在图14中的右侧,用线238和240表示预测CPV
Figure GDA0004053611730000303
Figure GDA0004053611730000304
并且该示意图突出了原始CPV和预测CPV可以明显不同。实际上,原始值与预测值之间的差
Figure GDA0004053611730000305
Figure GDA0004053611730000306
取决于当前块200的原始信号232与阴影样本203上示出的重构相邻块的边界信号之间的相似性。将该差定义为对应区域的增量CPV。这意味着如果在编码器处估计并在比特流中传送该增量CPV
Figure GDA0004053611730000311
Figure GDA0004053611730000312
则可以在解码器处通过将增量CPV相加至预测CPV上来重构原始CPV。代替原始值而仅传送增量产生了所需比特率的显著降低。
预测恒定分区值CPV可以称为dmmPredPartitionDC1和dmmPredPartitionDC2,并且可以根据相邻样本p[x,y]导出所述预测恒定分区值CPV如下。在下面,dmmWedgeletPattern表示对包括样本(x,y)(其中示例性地x,y=0..nT-1)的当前块的分区。就是说,与上边缘相邻的样本位置位于(x,-1),其中x=0..nT-1,与左边缘相邻的样本位置位于(-1,y),其中y=0..nT-1。p[x,y]表示已经重构的相邻样本值。起初将sumPredDC2、sumPredDC1、numSamplesPredDC2以及numSamplesPredDC1设置为零。
针对x=0..nT-1,上方相邻样本被概括为:
-如果dmmWedgeletPattern[x,0]等于1(例如分区P1),则应用如下:
sumPredDC2+=p[x,-1]和numSamplesPredDC2+=1
-否则(例如分区P2),应用如下:
sumPredDC1+=p[x,-1]和numSamplesPredDC1+=1。
针对y=0..nT-1,左侧相邻样本被概括为:
-如果dmmWedgeletPattern[0,y]等于1,则应用如下:
sumPredDC2+=p[-1,y]和numSamplesPredDC2+=1
-否则,应用如下:
sumPredDC1+=p[-1,y]和numSamplesPredDC1+=1。
如下导出预测恒定分区值。
-如果numSamplesPredDC1等于0,则应用如下:
dmmPredPartionDC1=1<<(BitDepthY-1)
-否则,应用如下:
dmmPredPartionDC1=sumPredDC1/numSamplesPredDC1
-如果numSamplesPredDC2等于0,则应用如下:
dmmPredPartionDC2=1<<(BitDepthY-1)
-否则,应用如下:
dmmPredPartionDC2=sumPredDC2/numSamplesPredDC2
3.3.2增量CPV的量化和自适应
基于CPV预测的原理,在本部分中介绍了用于对增量CPV的高效处理的构思。在比特流中传送增量CPV用于降低针对块分区编码的重构信号的失真的目的。然而,用于传讯增量CPV值所需要的比特率界定了该方法的益处,这是因为还通过对残差物的变换编码来覆盖原始信号与预测信号之间的差。因此,可如下介绍对增量CPV的量化:所述值在编码器处估计之后被线性量化,并且在解码器处在重构之前被去量化。传送量化增量CPV具有以下优点:降低了比特率,而根据去量化值重构的信号与最佳可能近似仅略有不同。因此,这与无量化情况相比产生了较低的速率失真代价。关于线性量化的步长,通过应用从变换编码所公知的原理,即通过将量化步长限定为QP的函数而不是固定值,可以进一步改进性能。将针对增量CPV的量化步长设置为qΔCPV=2QP/10,其中
Figure GDA0004053611730000321
证明是高效且鲁棒性的。
可以如下解释针对分区块的两个区域在比特流中对增量CPV的可能传讯:
Figure GDA0004053611730000322
可以依赖于根据一些编码模式语法元素显式地传送或导出的语法元素DmmDeltaFlag来进行针对特定块在比特流上的传送。
如下可以使用dmm_dc_1_abs、dmm_dc_1_sign_flag、dmm_dc_2_abs、dmm_dc_2_sign_flag来导出DmmQuantOffsetDC 1和DmmQuantOffsetDC2:
DmmQuantOffsetDCl[x0][y0]=(1-2*dmm_dc_1_sign_flag[x0][y0])*dmm_dc_1_abs[x0][y0]
DmmQuantOffsetDC2[x0][y0]=(1-2*dmm_dc_2_sign_flag[x0][y0])*dmm_dc_2_abs[x0][y0]
如下可以根据DmmQuantOffsetDC 1和DmmQuantOffsetDC2来导出去量化偏移dmmOffsetDCl和dmmOffsetDC2。
dmmOffsetDC1=DmmQuantOffsetDC1*Clip3(1,(1<<BitDepthY)-1,2(QP’ Y /10)-2)
dmmOffsetDC2=DmmQuantOffsetDC2*Clip3(1,(1<<BitDepthY)-1,2(QP’ Y /10)-2)
BitDepthY可以是在编码器和解码器内内部地表示DmmQuantOffsetDC 1和DmmQuantOffsetDC2的位深度,QP’可以是例如当前片段的预测残差的编码变换系数水平涉及的刚刚提到的量化参数QP,其中clip表示限定函数。
然后能够通过将去量化偏移相加到预测CPV上可获得恒定分区值CPV:
针对第一分区:dmmPredPartitionDC 1+dmmOffsetDC 1
针对第二分区:dmmPredPartitionDC 2+dmmOffsetDC 2
如在部分3的开始处已经提到的,可以按照两种不同方式来测量用于估计工具的失真。关于增量CPV,这些失真方法强烈地影响估计处理。在该失真被测量为块的失真深度信号与原始深度信号之间的差的情况下,估计处理通过如上所述简单地计算并量化增量CPV来搜索原始CPV的最接近近似。在针对合成视图测量该失真的情况下,可以扩展该估计处理以用于更好地使增量CPV适应于合成视图的质量。这基于如下事实:产生原始CPV的最佳近似的那些增量CPV未必产生最佳合成视图质量。为了找到产生最佳合成视图质量的增量CPV,通过在针对两个分区的所有可能的增量CPV组合上进行迭代的最小失真搜索(比较:部分1.4.2)来扩展该估计处理。为了高效处理和传讯,可以限制测试值的范围。该搜索产生了引起合成视图中最小失真的增量CPV组合,并且为了传送最终对这些值进行量化。
注意,增量CPV方法潜在地使得能够跳过对(剩余的)残差物的变换/量化和传送。由于分别对原始深度信号或最优深度信号的接近近似,所以尤其在关于所呈现的视图的质量进行评估的情况下限制了该忽略残差物的影响。
4.模式的编码
4.1模式传讯
在编码处理中,通过速率失真优化针对每个块选择一个模式,并且诸如在分区和CPV信息之前在比特流中传讯模式信息。(除了例如不规则分区模式之外)根据部分3还可以定义下面四个块分区模式。
·Wedgelet_ModelIntra:楔形波块分区的帧内建模(参见部分3.1.1)
·Wedgelet_PredIntra:楔形波块分区的帧内预测(参见部分3.1.2)
·Wedgelet_PredTexture:楔形波块分区的基于纹理的预测(参见部分3.2.1)
·Contour_PredTexture:轮廓块分区的基于纹理的预测(参见部分3.2.2)
可以利用或不利用用于增量CPV处理(参见部分3.3.2)的方法来应用这四个模式中的每个模式,从而导致用于传讯解码器的8个不同的mode_ID(模式ID),该类处理必须应用于块的预测和重构。
如果将以上介绍的块分区模式实现为至现有编码架构诸如图1至图3的编码架构中的另一组块编码模式,则可以在比特流中传送在模式信息之前的、传讯是否使用块分区模式的另外的标签。否则,传讯指定实际块分区模式以及是否也传送增量CPV的mode_ID。在比特流中通过三个二进制位表示mode_ID。
4.2模式预选择
模式预选择背后的构思是:通过实现排除非常不可能被选择用于当前块的模式的构思,来减少针对块分区编码(参见部分3)的处理和传讯效果。
第一模式预选择构思禁用针对小块尺寸而概率非常低的模式。这意味着:在大多数情况下,与传讯模式信息所需要的速率相比,失真较高。在部分4.1所定义的四个模式之中,这应用于Wedgelet_PredIntra和Contour_PredTexture。基于统计分析,针对块尺寸4×4和更小尺寸禁用这两个模式。
第二模式预选择构思应用于基于分量间预测的两个模式,即Wedgelet_PredTexture和Contour_PredTexture。该构思背后的构思是:如果非常不可能会根据纹理参考块导出有意义的块分区图案,则自适应性地排除这些模式。这样的块的特征在于相对平坦而无显著边缘和轮廓。为了识别这些块,分析纹理参考块的方差。用于禁用所提到的两个模式的标准是:方差在特定阈值之下。如下实现该模式预选择方法。测量该方差作为参考块(参见图13中的216)的亮度样本与平均值之间的平均绝对误差
Figure GDA0004053611730000351
图15示出了该模式预选择方法的可视化,其中具有针对两个纹理亮度块250和2502的细节以及分别在右侧2521和2522处的绝对差对比平均值。块2501具有几乎无结构的非常平的空间样本值外观,这通过非常低的方差来反应。由于不能根据该块2501来预测有意义的分区信息,所以不考虑模式Wedgelet_PredTexture和Contour_PredTexture。与此相比,块2502具有由于显著边缘和轮廓而产生的高的方差。从而考虑这两个模式,这是因为根据块2502导出的分区信息很可能是用于对相符深度块的分区的良好预测器。
Figure GDA0004053611730000352
表1:根据预选择决定的模式
表1概括了两个模式预选择构思对可得到的模式的影响。通过排除一些模式,必须在比特流中传讯的mode_ID的数目减少。该表示出了可以以高效方式来组合这两种方法,因为每种方法均将传讯mode_ID所需要的二进制位的数目减少一个,而两种模式的组合将二进制位的数目减少两个。
5.概括
在描述了若干可能的不规则分区模式、该不规则分区模式一方面在概念上细分成双分割确定(参见3.1和3.2)和另一方面用于所得到的两个分区的编码参数编码(参见3.3)、以及该不规则分区模式在编码架构中的可能使用和对可以另外地提供这样的模式的可能编码环境的描述之后,应当部分地就更一般性来说描述用于相应的解码器和编码器的所得到的实施方式。具体地,下面的部分突出了以上概述的具体有利细节,并且说明了可以如何在与上述相比更一般的意义上在解码器和编码器内使用这些细节。具体地,如将在以下概述的,可以单独地利用以上模式中使用的有利方面中的一些有利方面。
5.1跨块边界的楔形波分隔线延续
如从以上讨论变得清楚的是,对楔形波分区的使用形成了一方面为用于传讯该分区的传讯开销与另一方面为通过不规则分区可得到的变化量之间的可能折衷。不过,将需要大量的边信息数据,使得诸如通过例如根据以上关于部分3.1.1概述的构思使用楔形波分隔线的位置的索引来显式地传送分区信息,即楔形波分隔线的位置。
因此,跨块边界的楔形波分隔线延续形成了解决刚刚概述的问题的一种可能方式。部分3.1.2中的以上描述说明了用于利用该问题的解决方案的具体示例。然而,更一般地,在利用跨越块边界的楔形波分隔线延续的构思时,根据本发明的实施方式可以如以下关于图16所概述的那样来解释解码器。不过,部分3.1.2和3至4之中的其他部分中所描述的所有细节应当理解为可以与以下单独呈现的描述进行组合的可能的实现细节。
图16的解码器总体上以附图标记300来表示,并且被配置成根据数据流304重构样本阵列302。解码器被配置成通过基于块的解码来执行重构。例如,样本阵列302可以为样本阵列的序列的一部分,并且解码器300可以实现为针对每个块304支持不同编码模式的基于块的混合编码器。样本阵列可以为任何空间采样信息,诸如纹理或深度映射。例如,图16的解码器300可以实现为使得重构表示样本阵列302的包括纹理/视频和深度/视差映射的一个视图。迄今为止,解码器300可以实现为一对解码分支106d,1加106v,1,或者可以根据解码分支106d,1来单独实现。就是说,解码器300可以被配置成在存在或不存在预测残差的残差编码的情况下使用如下编码模式来重构样本阵列302:诸如帧内预测、时间(运动补偿)预测和/或视图间(视差补偿)预测。编码模式还可以例如包括显式楔形波编码模式,诸如部分3.1.1中概述的模式,根据该模式针对相应块在数据流304内显式地传送该相应块的楔形波分隔线的位置。
在任何情况下,该解码器300被配置成使得其针对当前块210诸如在数据流304内传讯预定编码模式选项所针对的块来执行现在概述的步骤。这些步骤中涉及的功能可以集成在帧内预测模块36或帧内预测模块和交换模块52内。
解码器300针对相应模式的块所执行的步骤是楔形波分隔线位置预测306,之后跟随有位置细化308和解码310。具体地,图16的解码器被配置成在步骤306中根据块210的相邻块212的楔形波分隔线201’来预测样本阵列302的块210内的楔形波分隔线的位置312,使得预测位置312处的楔形波分隔线形成相邻块212的楔形波分隔线201’至当前块210中的扩展或延续。此外,解码器300可以根据数据流304通过针对块212的相应显示传讯、或者通过一些其他的编码选项诸如通过样本阵列302所属的纹理样本阵列等内的边缘检测,来导出相邻块212的楔形波分隔线201’的位置。以上描述了其他的可能性,并且以下将对其进行进一步描述。
如上所述,在306中预测了其位置312的块210的楔形波分隔线可以为直线,如部分3.1.2中的以上描述的情况一样。然而,可替选地,可以例如使用样本位置跳的序列即每个均对属于分隔线的成行的接下来的像素进行限定的符号的序列来更一般地限定线。线可以具有预定解析确定曲率,还可以根据线201’来预测或根据数据流304的一些其他先前的处理部分来导出该预定解析确定曲率。
具体地,该预测306可以被配置成使得此后关于一般扩展方向和与楔形波分隔线的一般扩展方向横向的位置来初步确定块210的楔形波分隔线。在曲线的情况下,使用例如多项式函数的曲线拟合可以被用来分别对块212的分隔线进行外插并定位块210的分隔线。在直线的情况下,确定在与楔形波分隔线横向的方向上的斜率和位置。
关于预测306,还应当提到的是,未必必须就空间来说对邻域和扩展进行限定。然而,块210和212还可以为时间上相邻。例如,块212可以为时间上与样本阵列302相邻的样本阵列序列中的样本阵列的同位块。在该情况下,楔形波分隔线201至块210中的扩展将是“时间延续”。
以上在部分3.1.2中概述了可以如何执行预测306的显式可能性,这里参照该描述。位置细化308用于细化预测位置312。就是说,解码器300被配置成在位置细化308中使用在数据流304内传讯的细化信息来细化块210的楔形波分隔线301的预测位置312。从而,如所细化的楔形波分隔线201将块210分成第一楔形波分区202a和第二楔形波分区202b。
如上所述,解码器300可以被配置成使得在预测位置312处的楔形波分隔线201形成相邻块212的楔形波分隔线201’的空间共线扩展,并且可以约束该细化,使得与细化信息无关地相对于预测位置312保持与相邻块212邻接的预定块210的楔形波分隔线的起始位置314。就是说,在直楔形波分隔线的情况下,仅其斜率可以被细化,而楔形波分隔线201的在块210的分隔块210和212的边缘316处的起点保持不变。例如,楔形波分隔线201的相反端318即楔形波分隔线201的终止位置从根据预测楔形波分隔线位置312的终止位置320沿着块210的周界的偏移,可以如上关于部分3.1.2所述在数据流304内被传讯。
在部分3.1.2中,偏移表示为Eoff。如在该部分所述的,解码器300可以被配置成使用熵解码来从数据流中提取细化信息,在该熵解码中,以样本位置间距为单位沿着周界方向测量的、与直接扩展样本位置320沿着块210的周界的不同可能偏移具有与之关联的概率估计,该概率估计从大偏移向小偏移单调增大,使得小偏移与较大偏移相比具有与之相关的较高概率。例如,VLC代码字长度可以单调减小。
还如上所述,可以使用如下三个语法元素来传送Eoff:第一传讯dmm_delta_end_flag,其关于是否存在任何偏移Eoff,即关于偏移Eoff是否为零;第二传讯dmm_delta_end_sign_flag,其意味着在偏移不为零的情况下偏移的符号,即顺时针偏差或逆时针偏差;以及第三传讯dmm_delta_end_abs_minusl,其表示绝对偏移值减一。在伪代码中可以包括这些语法元素作为
Figure GDA0004053611730000381
可以使用dmm_delta_end_abs_minusl和dmm_delta_end_sign_flag来导出DmmDeltaEnd即Eoff如下:
DmmDeltaEnd[x0][y0]=(1-2*dmm_delta_end_sign_flag[x0][y0])*(dmm_delta_end_abs_minus1[x0][y0]+1)
然后,编码器300被配置成在解码310时以第一楔形波分区202a和第二楔形波分区202b为单位来对预定块210进行解码。在以上部分3和4尤其是部分4所提出的描述中,解码310涉及了通过如下方式对当前块210的预测:将第一恒定分区值
Figure GDA0004053611730000391
分配给在第一楔形波分区202a内的样本阵列位置的样本,并将第二恒定分区值
Figure GDA0004053611730000392
分配给在第二楔形波分区202b内的样本阵列位置的样本。该解码过程310的这种实现的优点是可以将边信息量保持为低。具体地,在通过具有以上概述的性质的样本阵列所传达的信息的种类为包括其间具有陡边的相对平坦值高地的情况下,诸如在深度映射的情况下,该可能的实现是尤其有利的。然而,甚至会有可能的是,解码器将其他编码参数单独分配给楔形波分区202a和202b。例如,可以在解码310中将运动和/或视差补偿预测单独应用于分区202a和202b,从而获得单独地用于分区202a和202b的相应运动和/视差参数,诸如单独矢量。可替选地,可以在解码306中诸如通过将相应帧内编码方向应用于分区202a和202b来单独对其进行帧内编码。
根据图16,针对块210可以在数据流中存在下面的信息:1)编码选项标识符,其具有触发步骤306至310的相应预定状态;2)细化信息,诸如终止位置偏移;3)可选地,编码参数,诸如CPV或CPV残差,用于一个或两个分区202a、202b,可选的,这是由于可以允许根据相邻样本/块在空间上或时间上预测所述编码参数;以及4)可选地,编码参数残差,诸如DeltaCPV(增量CPV)。
而且,图16的解码器可以被配置成使得通过过程306至310实现的编码模式仅为通过数据流304内的相应编码选项标识符的相应共同预定值触发的两个编码模式选项之中的默认编码模式选项。例如,图16的解码器300可以被配置成从数据流304中取出编码选项标识符,其中如果该编码选项标识符具有预定值,则检查与预定块相邻的候选块的集合中的任意候选块是否具有扩展至块210中的楔形波分隔线。例如,候选块可以包括按照编码顺序或在对样本阵列302的块304进行解码时解码器300应用的解码顺序、在当前块210之前的样本阵列302的空间相邻块304。例如,编码顺序可以按排从左至右、从顶至底来扫描块304,并且在该情况下,候选块可以包括与当前块210左侧紧相邻的块和与当前块210的顶部紧相邻的块,诸如块212。如果该检查揭示出在该组候选块之中存在这样的楔形波块,则解码器300可以按照不修改方式来执行预测306、细化308和解码310。然而,如果该检查揭示出在该组候选块之中不存在这样的楔形波块,则解码器300可以按照不同方式执行预测306。如以上在部分3.1.2中所描述的以及如将关于下一部分所更详细地概述的,然后,解码器300可以被配置成:通过根据与当前块210相邻的重构相邻样本或根据候选块的一个或更多个帧内预测块的帧内预测方向来设置当前块210内的楔形波分隔线201的扩展方向,来预测当前块210内的楔形波分隔线201的位置。关注在解码310中用于恒定分区值的预测的尽可能实现,参照以上说明和以下说明。
此外,应当注意,如果跨块边界的楔形波分隔线延续与使得能够获得对当前块进行双分割的更大自由的编码模式(例如如以上概述的和以下进一步描述的轮廓模式)组合,则产生特定优点。更确切地说,解码器300可以被配置成支持轮廓分区模式以及通过块306至310实现的模式,从而使得能够使编码开销适当地适应于块的需要。
在任何情况下,如通过过程306至310解码/重构的块可以用作解码器300的预测循环中的参考。即,在使用双值预测的情况下的预测结果可以用作例如针对运动和/或视差补偿预测的参考。而且,通过解码310获得的重构值可以用作在对遵循解码顺序的样本阵列302的块304的任意块进行的帧内预测中的空间相邻样本。
图17示出了适应图16的解码器的可能的编码器。具体地,图17示出了用于将样本阵列编码至数据流中的编码器330,该编码器330被配置成根据预定块的相邻块的楔形波分隔线来预测样本阵列的预定块内的楔形波分隔线的位置,使得在预测位置处的楔形波分隔线形成相邻块的楔形波分隔线至预定块的扩展。在332处示出了该功能。此外,解码器330具有使用细化信息来细化楔形波分隔线的预测位置的功能334,其中预定块的楔形波分隔线将预定块分成第一楔形波分区和第二楔形波分区。编码器330还具有将细化信息插入到数据流中所根据的插入功能336、以及编码器330以第一楔形波分区和第二楔形波分区为单位对预定块进行编码所根据的编码功能。
5.2根据相邻块的帧内预测方向的楔形波分隔线扩展方向预测
如上所述,甚至基于楔形波的块分区使大量的边信息成为必要,使得将楔形波分隔线的位置通知给解码侧。
以下概述的实施方式所基于的构思为:可以使用相邻帧内预测块的帧内预测方向,使得预测当前块的楔形波分隔线的扩展方向,从而降低为了传达分区信息所需要的边信息速率。
在以上描述中,部分3.1.2示出了对进而就更一般性而言来描述使得不限于以上在部分3和4中所概述的不规则分区模式的结合的、以下概述的实施方式的可能的实现。然而,如以下更详细地描述的,可以独立于部分3.1.2中描述的其他细节来有利地使用刚刚提到的构思。不过,部分3.1.2和其他部分中描述的所有细节应当理解为可以与以下单独呈现的描述组合的可能的实现细节。
因此,图18示出了解码器400的实施方式,其利用刚刚概述的构思,并且可以如上关于部分3.1.2和/或图1至图3所述尽可能关注另外的功能来实现。就是说,图18的解码器400被配置成根据数据流304来重构样本阵列302。通常,除了针对图18的解码器为可选且由功能306至310所限定的编码模式之外,图18的解码器400可以如以上在部分5中关于图16的解码器300所陈述的那样来实现。就是说,图18的解码器400可以操作成通过基于块的解码(诸如基于块的混合解码)来重构图18的样本阵列302。在针对样本阵列302的块303可得到的编码模式之中,存在关于解码器400的功能模块402进一步概述的帧内预测模式。正如图18的解码器300的情况一样,将样本阵列302细分成块303可以通过默认方式来固定,或者可以通过相应的细分信息而在数据流304内被传讯。具体地,图18的解码器400可以如上关于图1至图3所概述的那样来解释,即像图3的解码器或者诸如一对编码分支106v/d,1的视图解码器中的任意一个,或仅为诸如106d,1的深度解码器。
具体地,图18的解码器400具有使用帧内预测来预测样本阵列302的第一块212所根据的功能402。例如,针对块212在数据流304内传讯帧内预测模式。解码器400可以被配置成通过将样本阵列302的沿着帧内预测方向214与第一块212相邻的样本404的重构值复制到第一块212中来填充第一块212,而执行帧内预测402。还可以诸如通过标引若干可能方向中的一个可能方向、针对块212在数据流304内传讯帧内预测方向214。可替选地,可以对块212本身的帧内预测方向214进行预测。参见例如图1至图3的描述,其中解码分支106d,1的帧内预测器36可以被配置成执行步骤402。更确切地说,相邻样本404可以属于样本阵列302的块303,解码器400按照解码顺序已经经过了块303使得已经可得到其重构,包括与块212相邻的相邻样本404的重构值。如上所述,解码器400可以使用各种编码模式来重构按照解码顺序在前面的这些先前块。
此外,图18的解码器400被配置成:通过根据相邻块212的帧内预测方向214来设置与第一块212相邻的第二块210内的楔形波分隔线201的扩展方向来预测第二块210内的楔形波分隔线201的位置312,其中楔形波分隔线201将第二块210分成第一楔形波分区202a和第二楔形波分区202b。例如,图18的解码器400可以被配置成:关于楔形波分隔线201的扩展方向的表示的量化,把楔形波分隔线201的扩展方向设置为尽可能等于帧内预测方向214。在直分隔线的情况下,扩展方向简单地对应于线的斜率。在弯曲分隔线的情况下,帧内预测方向可以例如被采用为边界处当前块分隔线至相邻块的局部斜率。例如,图18的解码器在一组可能的扩展方向之中选择形成对帧内预测方向214的最佳近似的扩展方向。
因此,在预测404中,解码器400至少就关注当前块210的楔形波分隔线201的扩展方向而言来预测该楔形波分隔线201的位置312。可以在不修改扩展方向408的情况下完成对第二块210的楔形波分隔线201的位置的导出。例如,尽管在部分3.1.2中描述了在步骤406中解码器400可以在导出楔形波分隔线位置时执行对楔形波分隔线201的起点314的预测,可替选地,解码器400可以被配置成通过在数据流304内进行显式传讯来导出该起点314。而且,图18的解码器400可以被配置成:在导出406中,通过根据先前解码样本阵列中的同位楔形波块来时间预测横向方向上的距离,或者通过根据与样本阵列302相比属于不同视图的另一个样本阵列来空间预测横向方向上的位置,在与扩展方向316横向的方向上,诸如在保持扩展方向316的条件下与扩展方向316平行的方向上,空间上放置楔形波分隔线201。
然而,优选的是,在导出样本阵列302的第二块210内的楔形波分隔线201的位置时,解码器400将楔形波分隔线201的起点314放置在:邻近第二块210沿着第二块210的周界的一部分扩展的样本线的样本重构值序列的连续样本重构值之间的最大变化的位置。在图18中用附图标记410来表示样本线,其中样本用小叉号来象征。样本线410可以限于空间相邻块的可得到的样本。在任何情况下,应当强调的是,其内确定了最大变化的样本线410可以在矩形块210的角中的一个角的周围进行扩展,如图18所示。从而,根据该过程,解码器400可以被配置成在导出406中放置楔形波分隔线,使得与扩展方向408平行地在相邻样本与样本线410之间存在重构值的最大差处开始。
因此,由于通过除在数据流304内的显式传讯之外的其他手段找到了良好预测来导出楔形波分隔线201的位置,所以节省了边信息速率。
然后,进行解码器400的解码412,据此解码器400以第一楔形波分区202a和第二楔形波分区202b为单位对第二块进行解码,正如关于图16所描述的。
自然地,图18的解码器400可以修改成还包括图16的细化功能。因此,当前块210的楔形波分隔线201的终止位置318相对于楔形波分隔线-如以上所述其可以限于或不限于直线-的位置的终止位置320的如在步骤406中所派导出的偏移可以在数据流304内被传讯。
还如上所述,可以使用以下三个语法元素来传讯这样的终止位置偏移Eoff:第一传讯dmm_delta_end_flag,其关于是否存在任何偏移Eoff,即关于偏移Eoff是否为零;第二传讯dmm_delta_end_sign_flag,其意味着在偏移不为零的情况下偏移的符号,即顺时针偏差或逆时针偏差;以及第三传讯dmm_delta_end_abs_minusl,其表示绝对偏移值减一。在伪代码中可以包括这些语法元素作为
Figure GDA0004053611730000431
可以使用dmm_delta_end_abs_minusl和dmm_delta_end_sign_flag来导出DmmDeltaEnd即Eoff如下:
DmmDeltaEnd[x0][y0]=(1-2*dmm_delta_end_sign_flag[x0][y0])*(dmm_delta_end_abs_minus1[x0][y0]+1)
然而,替选过程也是可行的。例如,代替传讯该终止位置偏移,可以针对块202在数据流304内传讯根据帧内预测方向214设置的相对于扩展方向的方向或角度偏移。
根据图18,针对块210可以在数据流中存在下面的信息:1)编码选项标识符,其具有触发步骤406至412的相应预定状态;2)可选地,细化信息,诸如终止位置偏移;3)可选地,编码参数,诸如CPV或CPV残差,用于一个或两个分区202a、202b,可选的,这是由于可以允许根据相邻样本/块在空间上或时间上预测该编码参数;以及4)可选地,编码参数残差,诸如DeltaCPV。
关于解码步骤412的相对于部分3.3的描述的可能修改,参照图16的步骤310的以上描述。
毫无疑问,图18的解码器400可以被配置成将步骤406和412视作通过数据流304内的编码选项标识符激活的编码模式选项,其中楔形波分隔线位置导出406形成用于在处于当前块210附近的候选块的集合中尚不具有其扩展延续至当前块210中的楔形波分隔线的情况下导出楔形波分隔线位置的从属措施。
图19示出了适应图18的解码器的编码器的实施方式。图19的编码器总体上用附图标记430表示,并且被配置成将样本阵列编码至数据流304中。内部上,编码器430被配置成在块432中使用帧内预测并且在块434中使用根据图18的块406的描述的线导出来预测样本阵列的第一块。然后,编码器430在对块436进行编码时以第一分区和第二分区为单位对在434中作为线导出的对象的第二块进行编码。
自然地,除了图19所示的功能之外,编码器430还被配置为操作成使得与图18的解码器的功能成镜像(mirror)。就是说,编码器430可以使用例如基于块的混合编码来进行基于块操作。尽管未明确说明,但是在与图16的解码器相比时关于图17的编码器也同样适用。
5.3通过根据相邻样本的重构值来放置其起点的楔形波分隔线导出
用于降低传达关于楔形波块的楔形波分隔线的位置的信息所需要的边信息的另一种方式形成了以下进一步概述的实施方式的基础。具体地,该构思是:先前重构样本,即根据编码/解码顺序在当前块之前的块的重构值,允许至少预测对楔形波分隔线的起点的正确放置,即通过将楔形波分隔线的起点放置在:邻近当前块沿着该当前块的周界扩展的样本线的样本重构值序列的连续样本重构值之间的最大变化的位置。从而,与以上关于部分5.1和5.2所概述的可能性类似地,可以降低为了允许解码器正确定位楔形波分隔线所需要的边信息速率。在部分3.1.2的以上描述中也利用了以下概述的实施方式之下的构思,其中因此描述了以下概述的实施方式的可能实现。
因此,图20示出了解码器500的实施方式,其利用刚刚概述的构思,并且可以如上关于部分3.1.2和/或图1至图3所述尽可能关注另外的功能来实现。就是说,图20的解码器500被配置成根据数据流304来重构样本阵列302。通常,例如除了针对图18的解码器为可选且由功能306至310所限定的编码模式之外,图20的解码器500都可以如以上在部分5.1或5.2中关于图16的解码器300所陈述的那样来实现,以及例如除了针对图20的解码器为可选且由功能402、406和412所限定的编码模式之外,图20的解码器500都可以如以上在部分5.1或5.2中关于图18的解码器400所陈述的那样来实现。就是说,图20的解码器500可以操作成通过基于块的解码诸如基于块的混合解码来重构图20的样本阵列302。正如图18的解码器300的情况一样,将样本阵列302细分成块303可以通过默认方式来固定,或者可以通过相应的细分信息在数据流304内被传讯。具体地,图20的解码器500可以如上关于图1至图3所概述的那样来解释,即像图3的解码器或者诸如一对编码分支106v/d,1的视图解码器中的任一个,或仅为诸如106d,1的深度解码器。
坦白地讲,图12的以附图标记500示出的解码器很大程度上对应于图18的解码器。然而,关于图18在块402和406中概述的功能关于图12仅表示可选步骤。而是,图12的解码器500被配置成:在步骤406’中,通过将楔形波分隔线201的起点314放置在:邻近预定块210沿着预定块210的周界的一部分扩展的样本线410的样本重构值序列的连续样本重构值之间的最大变化的位置,来导出样本阵列302的预定块210内的楔形波分隔线201的位置,其中该楔形波分隔线201将预定块210分成第一楔形波分区202a和第二楔形波分区202b。在步骤412’中,然后解码器500按照以上关于图18所概述的方式来执行对所得到的分区202a和202b的解码。
更确切地说,在导出406’中,解码器500根据按照在逆时针或顺时针方向上遍历块210的经解码的相邻块的样本时发生的样本顺序来对这些样本的重构值进行排序。图20中以502示出了所得到的重构值序列。如可以看出的,连续重构值之间的最大差发生在第n个相邻样本与第(n+1)个相邻样本之间,并且因此图20的解码器会在与这对相邻样本邻接的边缘316处将楔形波分隔线放置在块210的又直接与这对相邻样本邻接的样本之间。如上所概述的,解码器500可以使用按排块扫描方向,并因此样本线410的相邻样本可以沿着块210的左侧边缘和顶部边缘进行扩展。可以通过使用对按照解码/编码顺序进行按排扫描的树根块的按排扫描的混合来实现所述解码器500,其中,针对当前访问的每个树根块,执行四叉树细分,按照第一深度遍历顺序来扫描其页根块。在使用这样的顺序时,与使用第一宽度遍历顺序相比,提高了具有经重构的相邻样本的最大数目的似然性。
在导出406’中,图20的解码器500可以使用对如关于图18和在部分3.1.2中所述的楔形波分隔线扩展方向408的导出作为可选方式。可替选地,可以以不同方式例如在时间上根据包括样本阵列302的样本阵列序列的先前解码样本阵列的同位楔形波块来预测解码器500定位当前块210的楔形波分隔线201所沿着的楔形波分隔线扩展方向。可替选地,可以使用对楔形波分隔线的终点318的显式传讯。该显式传讯可以表示终点318从位于横跨块210的中点的、相对于起始位置314的相反位置处的样本位置偏移。当然,其他的解决方案也是可行的。
在这方面,应当注意,在步骤406’中可以由解码器500将起点314限定成对应于第n个样本位置、第(n+1)个样本位置、或其间的子像素位置。
以上在部分5.1和5.2中提到的组合可能性中的许多组合可能性还可转移到本部分的实施方式。例如,通过块406’和412’实现的解码器500的编码模式可以表示使用共同编码选项标识符的共同预定值来触发的辅助后退(fallback)功能,其中部分5.1的楔形波分隔线延续构思表示代替地无论何时候选相邻块的集合中的一个候选相邻块具有延续至当前块210中的楔形波分隔线都执行的默认编码模式。其他的概括和修改也是可行的。例如,解码器500还可以支持轮廓分区模式等。
根据图20,针对块210在数据流中可以存在下面的信息:1)编码选项标识符,其具有触发步骤406’至412’的相应预定状态;2)可选地,细化信息,诸如终止位置偏移;3)可选地,编码参数,诸如CPV或CPV残差,用于一个或两个分区202a、202b,可选的,由于可以允许根据相邻样本/块在空间上或时间上预测所述编码参数;以及4)可选地,编码参数残差,诸如DeltaCPV。
图21示出了适于图20的解码器的编码器。该编码器以附图标记530表示,并且被配置成执行与步骤406相符的线导出434’和如关于图19针对块436所概述的编码436’。
5.4通过把图片的同位部分二值化的深度/视差映射的基于拼接片(像素)的双分割
如从以上讨论变得清楚的是,基于楔形波的分区表示一方面为边信息速率与另一方面为可实现的分区可能性变化之间的一种权衡。与此相比,就边信息速率而言轮廓分区似乎更复杂。
以下进一步描述的实施方式之下的构思是:将对分区的约束减轻至分区必须为楔形波分区的程度的能力,使得能够对重叠空间采样纹理信息应用相对较不复杂的统计分析,以得到用于深度/视差映射中双分割的良好预测器。因而,根据该构思,假设存在图片形式的同位纹理信息并且其中有意义的纹理变量可见,能够确切地增加使传讯开销减小的自由。以上在部分3.2.2中描述了利用该构思的该构思的可能实现,然而以下就更一般性而言对其进行了更详细的描述。此外,部分3.2.2和其他部分中描述的所有细节应当理解为可以与以下单独呈现的描述组合的可能的实现细节。
具体地,图22示出了根据本发明的这样的实施方式的解码器600。该解码器600用于根据数据流304重构与图片215关联的深度/视差映射213的预定块。解码器包括分割器602、空间转移器604和解码器606。解码器600可以如上面关于解码分支106d,1/2中的任意解码分支所述来配置。就是说,解码器600可以基于块进行操作。此外,解码器600可以实现为混合视频解码器。深度/视差映射213到块的细分可以完全根据图片215到块的细分而导出,或者可以偏离图片215到块的细分,其中深度/视差映射的细分可以在数据流304内被传讯,或者可以另外地被解码器600所知。
分割器602被配置成通过在图片215的与深度/视差映射213的预定块210同位的参考块216内把图片215二值化,来分割图片215的参考块216,以获得参考块到第一分区和第二分区的双分割。
然后,空间转移器604将对图片的参考块216的双分割转移至深度/视差映射213的预定块210上,以获得预定块210的第一分区202a和第二分区202b。
解码器606被配置成以第一分区202a和第二分区202b为单位对预定块210进行解码。解码器606的该功能对应于以上关于框310、412和412’所描述的功能。
考虑图1至图3,可以将分割器和转移器功能分别包括在交换模块52和110中,而可以在例如帧内预测模块内实现解码器606的功能。
如以上关于其中描述可以表示单独针对图22的元素的可能的实现细节的部分3.2.2所述的,分割器602可以被配置成:在二值化中,以参考块216的二维细分的拼接片608在参考块216内单独地检查图片215的值,以确定相应值大于还是小于相应预定值,使得图片215的参考块216的第一分区202a和第二分区202b中的每个分区是一起完全覆盖图片215的参考块216且彼此互补的拼接片608的集合。就是说,可以以样本分辨率执行二值化,在该情况下,拼接片608对应于图片215的单独样本610。应当提到的是,解码器600还可负责重构图片215,其中二值化中作为单独检查的对象的值是重构图片215的重构值。具体地,如关于图1至图3所述的,解码器600可以被配置成在与之关联的深度/视差映射213之前重构图片215。
如以上已提到的,分割器602可以被配置成:在分割中,对二值化的结果应用形态孔填充和/或低通滤波,以获得参考块216到第一分区和第二分区的双分割。这避免了出现根据参考块216获得的双分割的分区的许多孤立段,该双分割然后会由空间转移器604空间转移,然而在该双分割中相当不可能明显发生这样的急剧深度变化。自然地,编码器会执行该双分割。
此外,解码器600和分割器602可以被配置成:在二值化中,确定用于图片215的参考块216的重构样本值的集中趋势测量,并通过将图片215的参考块216的每个重构样本值与依赖于所确定的测量的相应阈值进行比较来执行该二值化。如上所述,可以在参考块216内的样本610之间全局地限定阈值。作为集中趋势,可以使用某种平均值,诸如算术平均值或中值。
如以上在部分4.2中所述的,解码器600可以被配置成:仅在图片215的参考块216内的样本的值的先验确定离差超过预定阈值的情况下支持通过块602至606表示的编码模式的可用性。如果该先验确定离差未超过预定阈值,则通过二值化而得到的双分割将非常不可能形成针对深度/视差映射的块210的外观的良好预测器,并且因此针对该块不可以允许该编码模式。通过抑制模式可能性,避免了将必须考虑熵概率估计的相应编码选项识别符的符号值的数目的不利且不需要的增大。
根据图22,针对块210可以在数据流中存在下面的信息:1)编码选项标识符,其具有触发步骤602至604的相应预定状态;2)可选地,操纵双分割的信息,诸如二值化、后续滤波/孔填充方向性;3)可选地,编码参数,诸如CPV或CPV残差,用于一个或两个分区202a、202b,可选的,由于可以允许根据相邻样本/块在空间上或时间上预测所述编码参数;以及4)可选地,编码参数残差,诸如DeltaCPV。
以上关于图16、图18和图20的实施方式所提到的所有另外的变化同样适用于图22的实施方式。对于在解码器600的预测环中使用预测结果作为参考的一部分和可以将图22的编码模式与在部分5.1至5.3的任意部分中所描述的其他编码方式中的任意编码方式或关于以上在部分3至4中所描述的变化进行组合,这尤其是成立的。
图23示出了适于图22的解码器的编码器的可能实现。图23的编码器总体上以附图标记630表示,并且被配置成将与图片关联的深度/视差映射的预定块编码到数据流304中。编码器包括如同图22的部件602和604一样操作的分割器632和空间转移器634,其中分割器632和空间转移器634对数据流304的先前编码部分的内部重构版本进行操作。编码器636以所得到的分区为单位对预定块进行编码。
5.5从图片至深度/视差映射的双分割转移的可用性对图片的参考块内的样本值离差的依赖
以下概述的实施方式之下的构思在上面已在部分4.2中提到,即根据该构思,基于图片内的同位参考块导出双分割以及随后将该双分割转移至深度/视差映射的当前块上,这仅在下述情况下是合理的:实现对深度/视差映射的当前块的内容的良好近似的似然性足够高以使得调整对应编码选项标识符的相应预定值的保留以便触发该双分割转移模式。换句话说,在无论如何都非常不可能选择相应的双分割转移的情况下,通过避免在对该编码选项标识符进行熵编码时需要考虑用于深度/视差映射的当前块的编码选项标识符的相应预定值,可以节省边信息速率。
因此,根据图22的解码器600的变型实施方式,大体上与图20的解码器相似地来构造解码器,使得上述描述尽可能关注解码器600的一般性可能实现。然而,分割器602未被约束为配置成将参考块216分割成轮廓分区,也未被约束为配置成将参考块216分成楔形波分区。而是,分割器602仅被配置成根据参考块216内的图片215的纹理特征来分割图片215的参考块216,以获得参考块到第一分区和第二分区的双分割。例如,根据这样的变型实施方式,分割器602可以使用边缘检测以检测楔形波分隔线的可能扩展方向,使得通过空间转移器604将这样定位的线从块216空间转移到深度/视差块210上。分割器602的其他可能双分割也将是可行的。
然而,除此之外,根据本实施方式,解码器600将被配置成使得分割器602的分割、空间转移器604的空间转移、和解码将形成解码器600的第一组编码选项中的一个编码选项,所述一个编码选项不是解码器600的第二组编码选项的一部分,其中所述解码器被进一步配置成:确定在图片215的参考块216内的样本的值的离差,以从数据流304中取出编码选项标识符并在离差超过预定阈值的情况下将编码选项标识符用作对第一组编码选项的索引,其中如果索引指向一个编码选项,则在框602至606中对预定块210执行分割、空间转移和解码,而在离差在所述预定阈值之后的情况下将编码选项标识符用作对第二组编码选项的索引。因而,可以节省用于传讯编码选项标识符的传讯开销。可以使用平均绝对差、标准偏差或方差作为离差。
关于图22的刚刚提到的修改的实施方式的另外的修改,参照部分5.4和关于部分4.2的描述。
可以根据图23的编码器得到对应的编码器。
5.6通过使用根据相邻样本对一个或两个恒定分区值的预测的双分区的有效预测
如以上关于目前为止所描述的各种实施方式已概述的,尤其在编码样本阵列诸如深度/视差映射(其中这些样本阵列的内容主要包括通过陡边彼此分离的相似值的高地或简单连接的区域)的情况下,通过将恒定分区值分配给块的双分区的分区来预测当前块的方式是相当有效的。不过,这样的恒定分区值的传送甚至需要应被避免的相当大量的边信息。
以下进一步描述的实施方式之下的构思为:如果使用与相应分区关联或邻接的相邻样本的值的平均值作为用于恒定分区值的预测器,则可以降低边信息速率。本发明人发现:针对样本阵列的块的这样的编码模式甚至可以省去对相应恒定分区值的细化的传讯。
图24示出了解码器700,该解码器700用于根据数据流304来重构样本阵列302。解码器700可以被配置成使用基于块的解码来重构样本阵列302,并且可以被配置成使用混合解码。通常,以上在部分5.1至5.5中所描述的所有可能实现还适用于图24的解码器700。自然地,用于将当前块210分区成两个分区的所有可能实现仅表示针对图700的解码器的可选替代方案,在这方面,还可以以不同方式来实现该图7的解码器。
具体地,解码器700被配置成执行用于导出当前块210的预测的不同任务或功能。具体地,解码器700被配置成执行样本阵列302的预定块210到用阴影样本示出的第一分区和用非阴影样本示出的第二分区的双分区的导出702。此外,解码器700被配置成执行样本阵列302的与预定块210邻接的每个相邻样本与第一分区和第二分区中的相应分区的关联704,使得每个相邻样本邻接与其关联的分区。在图24中,作为关联704的对象的相邻样本用两种不同阴影即点阴影和交叉阴影来示出。点阴影的相邻样本示出了与块210的属于块210的一个分区的样本邻接的样本,而交叉阴影的相邻样本邻接块210的属于其他分区的样本。如上关于部分5.1至5.4所述,解码器700可以使用样本阵列302的块303之间的适当的编码/解码顺序,使得实现针对样本阵列302的已被解码器700重构的块303的相邻样本的可用性的高概率。
当然,可以发生:可得到的相邻样本,即位于样本阵列302的已重构块303内的块210的相邻样本仅接合块210的分区中的一个分区。在该情况下,数据流304可以针对不与任何相邻样本接合的相应其他分区显式地传送恒定分区值。可替选地,可以在该情况下由解码器700执行一些其他后退过程。例如,在该情况下,解码器700可以将该丢失恒定分区值设置成预定值或根据样本阵列302和/或一些其他的先前重构样本阵列的先前重构值之间的长期平均值而确定的值。
最后,在预测706中,解码器700通过将与第一分区关联的相邻样本的值的平均值分配给样本阵列的位于第一分区内的样本,和/或将与第二分区关联的相邻样本的值的平均值分配给样本阵列的位于第二分区内的样本,来预测预定块210。
解码器700可以被配置成:使用数据流内的细化信息,即通过对与第一分区关联的相邻样本的值的平均值应用细化信息内的第一细化值、和/或对与第二分区关联的相邻样本的值的平均值应用细化信息内的第二细化值,来细化所述预定块的预测。在这方面,解码器700还可以被进一步配置成:在应用第一细化值和/或第二细化值时,分别将第一细化值和/或第二细化值与关联于第一分区的相邻样本的值的平均值和/或关联于第二分区的相邻样本的值的平均值进行线性组合,诸如相加。解码器700可以被配置成:在应用第一细化值和/或第二细化值时,从数据流取出第一细化值和/或第二细化值并使用量化步长来定标所取出的第一细化值和/或第二细化值,该量化步长取决于在数据流内传送与样本阵列关联的预定空间采样分量(纹理和/或深度/映射)所采用的参考量化步长。该样本阵列可以例如为深度映射,但是解码器700可以使用参考量化步长来根据比特流重构与该深度映射关联的纹理样本阵列。针对另外的细节进一步参照部分3.3.2中的相应部分。
解码器被配置成:在导出样本阵列的预定块到第一分区和第二分区的双分区时,根据预定块的相邻块的楔形波分隔线来预测样本阵列的预定块内的楔形波分隔线的位置,使得在预测位置处的楔形波分隔线形成相邻块的楔形波分隔线至预定块的扩展。解码器还被配置成:使用数据流内的细化信息来细化楔形波分隔线的预测位置,其中预定块的楔形波分隔线将预定块分成第一分区和第二分区。
如所述的,解码器700可以使用部分5.1至5.5中陈述的构思中的任何构思来进行双分割。解码器700可以被配置成:使用通过将样本阵列的沿着帧内预测方向与第一块相邻的样本的重构值复制到样本阵列302的与预定块210相邻的参考块中来填充参考块的帧内预测,来预测参考块。在导出样本阵列的预定块到第一分区和第二分区的双分区时,解码器700可以通过根据帧内预测方向设置预定块内的楔形波分隔线的扩展方向,来预测预定块210内的楔形波分隔线的位置,其中楔形波分隔线将预定块分成第一分区和第二分区。
可替选地,如果样本阵列302是与图片关联的深度/视差映射,则解码器700可以被配置成:通过在图片的与预定块210同位的参考块内把该图片二值化来分割该图片的参考块,以获得将该参考块双分割成第一分区和预定分区,并将该图片的参考块的双分割空间转移至深度/视差映射的预定块上,以获得第一分区和第二分区。
解码器还可以被进一步配置成在解码器的预测环中使用预定块作为参考。
图25示出了适于图24的解码器700的编码器730的可能实施方式。用于将样本阵列编码到数据流中的编码器730被配置成:导出732样本阵列的预定块到第一分区和第二分区的双分区,并将样本阵列的与预定块邻接的相邻样本中的每个相邻样本与第一分区和第二分区中的相应分区进行关联734,使得每个相邻样本邻接与之关联的分区。编码器还被配置成:通过将与第一分区关联的相邻样本的值的平均值分配给样本阵列的位于第一分区内的样本并将与第二分区关联的相邻样本的值的平均值分配给样本阵列的位于第二分区内的样本,来预测736预定块。
尽管在装置的上下文中已描述了一些方面,然而应清楚这些方面还表示对应方法的描述,其中块或设备对应于方法步骤或方法步骤的特征。类似地,在方法步骤的上下文中描述的方面还表示对应装置的对应块或项或特征的描述。这些方法步骤的一些或全部步骤可以通过(或使用)硬件装置来执行,如微处理器、可编程计算机或电子电路。在一些实施方式中,最重要的方法步骤的某一个或更多个方法步骤可以通过这样的装置来执行。
取决于特定的实现要求,本发明的实施方式可以实现为硬件或软件。该实现可以使用数字存储介质,例如软盘、DVD、蓝光、CD、ROM、PROM、EPROM、EEPROM或闪存来进行,这些数字存储介质上存储有电可读控制信号,与可编程计算机系统协作(或能够协作)使得执行相应方法。因此,数字存储介质可以是计算机可读的。
根据本发明的一些实施方式包括具有电可读控制信号的数据载体,其能够与可编程计算机系统协作,使得执行本文中描述的方法中的一种方法。
大体上,本发明的实施方式可以实现为具有程序代码的计算机程序产品,该程序代码操作用于在该计算机程序产品在计算机上运行时执行该方法中的一种方法。程序代码例如可以存储在机器可读载体上。
其他实施方式包括存储在机器可读载体上的用于执行本文描述的方法中的一种方法的计算机程序。
换句话说,因此本发明方法的实施方式为一种具有程序代码的计算机程序,该程序代码用于当计算机程序在计算机上运行时执行本文中描述的方法中的一种方法。
因此,本发明方法的另一实施方式为一种数据载体(或数字存储介质、或计算机可读介质),该数据载体包括记录于其上的用于执行本文中描述的方法中的一种方法的计算机程序。数据载体、数字存储介质或记录介质通常为有形的和/或非暂态的。
因此本发明方法的另一实施方式为一种表示用于执行本文中描述的方法中的一种方法的计算机程序的数据流或信号序列。该数据流或信号序列可以例如被配置成经由数据通信连接,例如经由因特网进行传送。
另一实施方式包括被配置成或适用于执行本文中描述的方法中的一种方法的处理装置,例如计算机或可编程逻辑设备。
另一实施方式包括其上安装了用于执行本文中描述的方法中的一种方法的计算机程序的计算机。
根据本发明的另一实施方式包括配置成将用于执行本文中描述的方法中的一种方法的计算机程序(例如以电子或光学方式)转移至接收器的装置或系统。该接收器可以例如为计算机、移动设备或存储设备等。该装置或系统可以例如包括用于将计算机程序转移至接收器的文件服务器。
在一些实施方式中,可以使用可编程逻辑设备(例如现场可编程门阵列)来执行本文中描述的方法中的功能中的一些或全部功能性。在一些实施方式中,现场可编程门阵列可以与微处理器协作,使得执行本文中描述的方法中的一种方法。通常,优选地通过任意硬件装置来执行所述方法。
以上描述的实施方式对于本发明的原理仅是说明性的。应当理解,本文中描述的布置和细节的修改和变化对于本领域内技术人员将是明显的。因此,本发明意在仅限于所附权利要求的范围,而不限于本文中通过实施方式的描述和说明而呈现的具体细节。
本公开内容的实施方式还包括以下方案。
1.一种用于根据数据流(304)来重构与图片(215)相关联的深度/视差映射(213)的预定块(210)的解码器,所述解码器被配置成:
通过在所述图片(215)的与所述预定块(210)同位的参考块(216)内把所述图片(215)二值化,来分割所述参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块(216)的双分割空间转移至所述深度/视差映射(213)的所述预定块(210)上,以获得所述预定块(210)的第一分区(202a)和第二分区(202b);以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行解码。
2.根据方案1所述的解码器,被配置成:在二值化中,以所述参考块(216)的二维细分的拼接片在所述参考块(216)内单独地检查所述图片(215)的值,以确定相应值大于还是小于相应预定值,使得所述图片(215)的所述参考块(216)的所述第一分区和所述第二分区中的每个分区(218’)是一起完全覆盖所述图片(215)的所述参考块(216)且彼此互补的拼接片(608)的集合。
3.根据方案2所述的解码器,被配置成:在二值化中,以样本分辨率在所述参考块内单独地检查所述图片的值,使得每个拼接片对应于所述参考块的样本位置。
4.根据方案1至3中任一项所述的解码器,被配置成:在二值化中,对所述二值化的结果应用形态孔填充和/或低通滤波,以获得所述参考块(216)到所述第一分区和所述第二分区的所述双分割。
5.根据方案1至4中任一项所述的解码器,被配置成:在二值化中,确定所述图片(215)的所述参考块(216)的重构样本值的集中趋势的测量,并通过将所述图片(215)的所述参考块(216)的每个重构样本值与取决于所确定的所述测量的相应阈值进行比较来执行所述二值化。
6.根据方案1至5中任一项所述的解码器,被配置成使得所述分割、空间转移和预测形成第一组编码选项中的一个编码选项,所形成的编码选项不是第二组编码选项的一部分,其中所述解码器还被配置成:
确定所述图片(215)的所述参考块(216)内的样本的值的离差;以及
从所述数据流接收编码选项标识符,
在所述离差超过预定阈值的情况下将所述编码选项标识符用作对所述第一组编码选项的索引,其中如果所述索引指向所述一个编码选项,则对所述预定块执行所述分割、空间转移和预测,而在所述离差在所述预定阈值之后的情况下将所述编码选项标识符用作对所述第二组编码选项的索引。
7.一种用于根据数据流来重构与图片相关联的深度/视差映射的预定块的解码器,所述解码器被配置成:
根据所述图片(215)的与预定块同位的参考块(216)内所述图片(215)的纹理特征来分割所述参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块(210)上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行解码,
其中所述解码器被配置成使得所述分割、空间转移和解码形成所述解码器的第一组编码选项中的一个编码选项,所形成的编码选项不是所述解码器的第二组编码选项的一部分,其中所述解码器还被配置成:
确定所述图片(215)的所述参考块(216)内的样本的值的离差;以及
从所述数据流取出编码选项标识符,
在所述离差超过预定阈值的情况下将所述编码选项标识符用作对所述第一组编码选项的索引,其中如果所述索引指向所述一个编码选项,则对所述预定块(210)执行所述分割、空间转移和解码,而在所述离差在所述预定阈值之后的情况下将所述编码选项标识符用作对所述第二组编码选项的索引。
8.根据方案7所述的解码器,其中所述解码器被配置成通过熵解码来取出所述编码选项标识符。
9.根据方案1至8中任一项所述的解码器,还被配置成在所述解码器的预测环中使用所述预定块作为参考。
10.根据前述方案中任一项所述的解码器,其中所述解码器被配置成:在对所述预定块(210)进行解码时,
通过将第一恒定分区值分配给所述样本阵列的位于所述第一楔形波分区(202a)内的样本(203)并将第二恒定分区值分配给所述样本阵列的位于所述第二楔形波分区(202b)内的样本(203),来预测所述预定块(210)。
11.根据方案10所述的解码器,其中所述解码器被配置成:
在预测所述预定块时,将所述样本阵列的邻接所述预定块的相邻样本中的每个相邻样本与所述第一楔形波分区和所述第二楔形波分区中的相应的楔形波分区进行关联,使得每个相邻样本邻接与其关联的楔形波分区;以及通过将与所述第一分区相关联的所述相邻样本的值的平均值分配给所述样本阵列的位于所述第一分区内的样本,并将与所述第二分区相关联的所述相邻样本的值的平均值分配给所述样本阵列的位于所述第二分区内的样本,来预测所述预定块。
12.根据方案10和11中任一项所述的解码器,被配置成:
通过对与所述第一分区相关联的所述相邻样本的值的所述平均值应用在细化信息内的第一细化值、和/或对与所述第二分区相关联的所述相邻样本的值的所述平均值应用在细化信息内的第二细化值,来细化所述预定块的预测。
13.根据方案12所述的解码器,被配置成:
在应用所述第一细化值和/或所述第二细化值时,分别将所述第一细化值和/或所述第二细化值与关联于所述第一分区的所述相邻样本的值的所述平均值和/或关联于所述第二分区的所述相邻样本的值的所述平均值进行线性组合。
14.根据方案12或13所述的解码器,被配置成:
在应用所述第一细化值和/或所述第二细化值时,从所述数据流取出所述第一细化值和/或所述第二细化值,并使用量化步长来定标所取出的所述第一细化值和/或所述第二细化值,所述量化步长取决于在所述数据流内传送与所述样本阵列相关联的预定空间采样分量所采用的参考量化步长。
15.根据方案14所述的解码器,其中所述样本阵列为深度映射,并且所述解码器被配置成使用所述参考量化步长以根据比特流重构与所述深度映射相关联的纹理样本阵列。
16.一种用于将与图片相关联的深度/视差映射的预定块编码至数据流中的编码器,所述编码器被配置成:
通过在所述图片的与所述预定块同位的参考块内把所述图片二值化来分割所述图片的所述参考块,以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行编码。
17.一种用于将与图片相关联的深度/视差映射的预定块编码至数据流中的编码器,所述编码器被配置成:
根据所述图片(215)的与预定块同位的参考块(216)内的纹理特征来分割所述图片(215)的所述参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行编码,
其中所述编码器被配置成使得所述分割、空间转移和编码形成所述编码器的第一组编码选项中的一个编码选项,所形成的编码选项不是所述编码器的第二组编码选项的一部分,其中所述编码器还被配置成:
确定所述图片(215)的参考块(216)内的样本的值的离差;以及
将编码选项标识符编码至所述数据流(304)中,
在所述离差超过预定阈值的情况下将所述编码选项标识符用作对所述第一组编码选项的索引,其中如果所述索引指向所述一个编码选项,则对所述预定块(210)执行所述分割、空间转移和编码,而在所述离差在所述预定阈值之后的情况下将所述编码选项标识符用作对所述第二组编码选项的索引。
18.一种用于根据数据流(304)来重构与图片(215)相关联的深度/视差映射(213)的预定块(210)的方法,包括:
通过在所述图片(215)的与所述预定块(210)同位的参考块(216)内把所述图片(215)二值化来分割所述图片(215)的所述参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块(216)的所述双分割空间转移至所述深度/视差映射(213)的所述预定块(210)上,以获得所述预定块(210)的第一分区(202a)和第二分区(202b);以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行解码。
19.一种用于根据数据流来重构与图片相关联的深度/视差映射的预定块的方法,包括:
根据所述图片(215)的与预定块同位的参考块(216)内所述图片(215)的纹理特征来分割所述图片(215)的参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行解码,
其中执行所述方法,使得所述分割、空间转移和解码形成第一组编码选项中的一个编码选项,所形成的编码选项不是所述方法的第二组编码选项的一部分,其中所述方法还包括:
确定所述图片(215)的所述参考块(216)内的样本的值的离差;以及
从所述数据流(304)取出编码选项标识符,
在所述离差超过预定阈值的情况下将所述编码选项标识符用作对所述第一组编码选项的索引,其中如果所述索引指向所述一个编码选项,则对所述预定块(210)执行所述分割、空间转移和解码,而在所述离差在所述预定阈值之后的情况下将所述编码选项标识符用作对所述第二组编码选项的索引。
20.一种用于将与图片相关联的深度/视差映射的预定块编码至数据流中的方法,包括:
通过在所述图片的与所述预定块同位的参考块内把所述图片二值化来分割所述图片的所述参考块,以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行编码。
21.一种用于将与图片相关联的深度/视差映射的预定块编码至数据流中的方法,包括:
根据所述图片(215)的与预定块同位的参考块(216)内所述图片(215)的纹理特征来分割所述图片(215)的参考块(216),以获得所述参考块到第一分区和第二分区的双分割;
将所述图片的所述参考块的所述双分割空间转移至所述深度/视差映射的所述预定块上,以获得所述预定块的第一分区和第二分区;以及
以第一楔形波分区(202a)和第二楔形波分区(202b)为单位对所述预定块(210)进行解码,
其中执行所述方法,使得所述分割、空间转移和编码形成所述方法的第一组编码选项中的一个编码选项,所形成的编码选项不是所述方法的第二组编码选项的一部分,其中所述方法还包括:
确定所述图片(215)的所述参考块(216)内的样本的值的离差;以及
将编码选项标识符编码至所述数据流(304)中,
在所述离差超过预定阈值的情况下将所述编码选项标识符用作对所述第一组编码选项的索引,其中如果所述索引指向所述一个编码选项,则对所述预定块(210)执行所述分割、空间转移和编码,而在所述离差在所述预定阈值之后的情况下将所述编码选项标识符用作对所述第二组编码选项的索引。
22.一种具有程序代码的计算机程序,所述程序代码用于当所述程序代码在计算机上运行时执行根据方案18或21中任一项所述的方法。

Claims (19)

1.一种用于重构与来自数据流的纹理图片相关联的深度映射的预定块的解码器,所述解码器包括微处理器,所述微处理器被配置成:
基于所述纹理图片内的参考块的样本值的平均值确定纹理阈值,其中,所述参考块与所述预定块同位;
通过将所述参考块的每个样本与所述纹理阈值进行比较,将所述纹理图片的所述参考块分割成两个部分以获得所述参考块的双分割;
将所述参考块的所述双分割转移至所述深度映射的所述预定块上以确定所述深度映射的所述预定块的第一部分和第二部分;以及
解码所述第一部分和所述第二部分以重构所述深度映射的所述预定块。
2.根据权利要求1所述的解码器,其中,所述微处理器被配置成:在分割所述参考块时,就相应值大于还是小于相应预定值,按照所述参考块的二维细分的拼接片在所述参考块内单独地检查所述纹理图片的值,使得所述纹理图片的所述参考块的第一分区和第二分区中的每个是一起完全覆盖所述纹理图片的所述参考块并且彼此互补的拼接片的集合。
3.根据权利要求2所述的解码器,其中,所述微处理器被配置成:在分割所述参考块时,按照样本分辨率在所述参考块内单独地检查所述纹理图片的值,使得每个拼接片对应于所述参考块的样本位置。
4.根据权利要求1所述的解码器,其中,所述微处理器被配置成:在分割所述参考块时,对所述比较的结果应用形态孔填充和/或低通滤波,以获得所述参考块的所述两个部分。
5.根据权利要求1所述的解码器,其中,所述微处理器被配置成:在确定所述纹理阈值时,确定所述纹理图片的所述参考块的重构样本值的集中趋势的测量,其中,所述测量表示所述纹理阈值。
6.根据权利要求1所述的解码器,其中,所述微处理器被配置成使得所述分割、所述确定和所述解码形成第一组编码选项,其中,所述解码器还被配置成:
确定所述纹理图片的所述参考块内的样本的值的离差;
从所述数据流中接收编码选项标识符;以及
在所述离差超过预定阈值的情况下,将所述编码选项标识符用作执行形成所述第一组编码选项的操作的索引。
7.根据权利要求1所述的解码器,其中,所述微处理器还被配置成:在对所述第一部分和所述第二部分进行解码时,通过将第一恒定分区值分配给位于所述第一部分内的样本阵列的样本以及将第二恒定分区值分配给位于所述第二部分内的样本阵列的样本来预测所述深度映射的所述预定块。
8.一种用于将与纹理图片相关联的深度映射的预定块编码至数据流中的编码器,所述编码器包括微处理器,其中,所述微处理器被配置成:
基于所述纹理图片内的参考块的样本值的平均值确定纹理阈值,其中,所述参考块与所述预定块同位;
通过将所述参考块的每个样本与所述纹理阈值进行比较,将所述纹理图片的所述参考块分割成两个部分以获得所述参考块的双分割;
将所述参考块的所述双分割转移至所述深度映射的所述预定块上以确定所述深度映射的所述预定块的第一部分和第二部分;以及
将与所述深度映射的所述预定块的第一部分和第二部分有关的信息编码至所述数据流中。
9.根据权利要求8所述的编码器,其中,所述微处理器被配置成:在对所述参考块进行分割时,就确定相应值大于还是小于相应的预定值,按照所述参考块的二维细分的拼接片在所述参考块内单独地检查所述纹理图片的值,以使得所述纹理图片的所述参考块的第一分区和第二分区中的每个是一起完全覆盖所述纹理图片的所述参考块并且彼此互补的拼接片的集合。
10.根据权利要求9所述的编码器,其中,所述微处理器被配置成:在分割所述参考块时,按照样本分辨率在所述参考块内单独地检查所述纹理图片的值,使得每个拼接片对应于所述参考块的样本位置。
11.根据权利要求8所述的编码器,其中,所述微处理器被配置成:在分割所述参考块时,对所述比较的结果应用形态孔填充和/或低通滤波,以获得所述参考块的所述两个部分。
12.根据权利要求8所述的编码器,其中,所述微处理器被配置成:在确定所述纹理阈值时,确定所述纹理图片的所述参考块的重构样本值的集中趋势的测量,其中,所述测量表示所述纹理阈值。
13.根据权利要求8所述的编码器,其中,所述微处理器被配置成使得所述分割、所述确定和所述编码形成第一组编码选项,其中,所述编码器还被配置成:
确定所述纹理图片的所述参考块内的样本的值的离差;以及
将编码选项标识符编码至所述数据流中,其中,所述编码选项标识符在所述离差超过预定阈值的情况下用作执行形成所述第一组编码选项的操作的索引。
14.一种用于解码视频的方法,包括:
在非暂态计算机可读介质上存储与所述视频相关联的数据,所述数据包括:
数据流,所述数据流包括所述视频的纹理图片内的参考块的编码信息和所述视频的深度映射的预定块的编码信息,所述深度映射的所述预定块对应于所述纹理图片,其中,所述参考块与所述预定块同位;以及
使用包括以下的多个操作来解码所述深度映射的所述预定块:
基于所述纹理图片的参考块的样本值的平均值确定纹理阈值;
通过将所述参考块的每个样本与所述纹理阈值进行比较,将所述纹理图片的所述参考块分割成两个部分以获得所述参考块的双分割;
将所述参考块的所述双分割转移至所述深度映射的所述预定块上以确定所述深度映射的所述预定块的第一部分和第二部分;以及
解码所述第一部分和所述第二部分以重构所述深度映射的所述预定块。
15.根据权利要求14所述的方法,其中,分割所述参考块包括:就相应值大于还是小于相应的预定值,按照所述参考块的二维细分的拼接片在所述参考块内单独地检查所述纹理图片的值,定使得所述纹理图片的所述参考块的所述第一部分和所述第二部分中的每个是一起完全覆盖所述纹理图片的所述参考块并且彼此互补的拼接片的集合。
16.根据权利要求15所述的方法,其中,分割所述参考块包括:按照样本分辨率在所述参考块内单独地检查所述纹理图片的值,使得每个拼接片对应于所述参考块的样本位置。
17.根据权利要求14所述的方法,其中,分割所述参考块包括:对所述比较的结果应用形态孔填充和/或低通滤波,以获得所述参考块的所述两个部分。
18.根据权利要求14所述的方法,其中,确定纹理阈值包括:确定所述纹理图片的所述参考块的重构样本值的集中趋势的测量,其中,所述测量表示所述纹理阈值。
19.根据权利要求14所述的方法,其中,解码所述第一部分和所述第二部分包括:通过将第一恒定分区值分配给位于所述第一部分内的样本阵列的样本以及将第二恒定分区值分配给位于所述第二部分内的样本阵列的样本来预测所述深度映射的所述预定块。
CN201811286481.1A 2011-11-11 2012-11-09 解码器、编码器及解码视频的方法 Active CN109257597B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811286481.1A CN109257597B (zh) 2011-11-11 2012-11-09 解码器、编码器及解码视频的方法

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201161558631P 2011-11-11 2011-11-11
US61/558,631 2011-11-11
PCT/EP2012/072328 WO2013068566A1 (en) 2011-11-11 2012-11-09 Adaptive partition coding
CN201280066907.7A CN104221379B (zh) 2011-11-11 2012-11-09 自适应分区编码
CN201811286481.1A CN109257597B (zh) 2011-11-11 2012-11-09 解码器、编码器及解码视频的方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201280066907.7A Division CN104221379B (zh) 2011-11-11 2012-11-09 自适应分区编码

Publications (2)

Publication Number Publication Date
CN109257597A CN109257597A (zh) 2019-01-22
CN109257597B true CN109257597B (zh) 2023-05-16

Family

ID=47178013

Family Applications (5)

Application Number Title Priority Date Filing Date
CN201811287407.1A Active CN109257598B (zh) 2011-11-11 2012-11-09 解码器、编码器、介质及重构、编码和解码方法
CN201280066907.7A Active CN104221379B (zh) 2011-11-11 2012-11-09 自适应分区编码
CN201811287442.3A Active CN109257599B (zh) 2011-11-11 2012-11-09 解码器、编码器及重构、编码、解码、传送和处理方法
CN201811286481.1A Active CN109257597B (zh) 2011-11-11 2012-11-09 解码器、编码器及解码视频的方法
CN201811286480.7A Active CN109257596B (zh) 2011-11-11 2012-11-09 解码器、编码器及重构、编码、解码、传送和处理方法

Family Applications Before (3)

Application Number Title Priority Date Filing Date
CN201811287407.1A Active CN109257598B (zh) 2011-11-11 2012-11-09 解码器、编码器、介质及重构、编码和解码方法
CN201280066907.7A Active CN104221379B (zh) 2011-11-11 2012-11-09 自适应分区编码
CN201811287442.3A Active CN109257599B (zh) 2011-11-11 2012-11-09 解码器、编码器及重构、编码、解码、传送和处理方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201811286480.7A Active CN109257596B (zh) 2011-11-11 2012-11-09 解码器、编码器及重构、编码、解码、传送和处理方法

Country Status (15)

Country Link
US (7) US9756330B2 (zh)
EP (4) EP3249923B1 (zh)
JP (6) JP6084627B2 (zh)
KR (7) KR101663394B1 (zh)
CN (5) CN109257598B (zh)
BR (2) BR112014011406B1 (zh)
DK (1) DK2777285T3 (zh)
ES (1) ES2647514T3 (zh)
HK (1) HK1202202A1 (zh)
HU (1) HUE034631T2 (zh)
IN (1) IN2014KN01047A (zh)
NO (1) NO2806722T3 (zh)
PL (1) PL2777285T3 (zh)
PT (1) PT2777285T (zh)
WO (1) WO2013068566A1 (zh)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2777286B1 (en) 2011-11-11 2017-01-04 GE Video Compression, LLC Effective wedgelet partition coding
EP3657788B1 (en) * 2011-11-11 2021-08-04 GE Video Compression, LLC Effective prediction using partition coding
KR101663394B1 (ko) * 2011-11-11 2016-10-06 지이 비디오 컴프레션, 엘엘씨 적응적 분할 코딩
EP4161078A1 (en) 2011-11-11 2023-04-05 GE Video Compression, LLC Effective wedgelet partition coding using spatial prediction
WO2013129822A1 (ko) * 2012-02-27 2013-09-06 세종대학교산학협력단 영상 부호화와 복호화 장치 및 영상을 부호화와 복호화하는 방법
KR20130098122A (ko) * 2012-02-27 2013-09-04 세종대학교산학협력단 영상 부호화/복호화 장치 및 영상을 부호화/복호화하는 방법
WO2014042459A1 (ko) * 2012-09-17 2014-03-20 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
CN105409215B (zh) 2013-01-11 2018-10-09 华为技术有限公司 深度预测模式选择方法及装置
CN104427291B (zh) * 2013-08-19 2018-09-28 华为技术有限公司 一种图像处理方法及设备
US9544601B2 (en) * 2013-10-15 2017-01-10 Qualcomm Incorporated Wedgelet pattern extension for depth intra coding
US9756359B2 (en) * 2013-12-16 2017-09-05 Qualcomm Incorporated Large blocks and depth modeling modes (DMM'S) in 3D video coding
US20150189269A1 (en) * 2013-12-30 2015-07-02 Google Inc. Recursive block partitioning
WO2015101640A1 (en) * 2014-01-03 2015-07-09 Ge Video Compression, Llc Wedgelet-based coding concept
US10368097B2 (en) 2014-01-07 2019-07-30 Nokia Technologies Oy Apparatus, a method and a computer program product for coding and decoding chroma components of texture pictures for sample prediction of depth pictures
CN106576175A (zh) * 2014-06-18 2017-04-19 三星电子株式会社 多视点图像编码/解码方法和装置
JP2017523682A (ja) 2014-06-20 2017-08-17 サムスン エレクトロニクス カンパニー リミテッド インターレイヤビデオ符号化/復号のためのデプス映像の予測モード伝送方法及びその装置
WO2016003210A1 (ko) * 2014-07-04 2016-01-07 주식회사 케이티 다시점 비디오 신호 처리 방법 및 장치
AU2015327521B2 (en) * 2014-09-30 2018-07-26 Hfi Innovation Inc. Method of lookup table size reduction for depth modelling mode in depth coding
WO2016049913A1 (en) * 2014-09-30 2016-04-07 Mediatek Singapore Pte. Ltd. A simplified method for the depth modeling modes
WO2016049891A1 (en) * 2014-09-30 2016-04-07 Mediatek Singapore Pte. Ltd. Methods on segmentation coding in intra prediction
WO2016123783A1 (zh) * 2015-02-05 2016-08-11 华为技术有限公司 图像预测处理方法和相关设备
WO2016123782A1 (zh) * 2015-02-05 2016-08-11 华为技术有限公司 模板处理方法和相关设备
US20160277751A1 (en) * 2015-03-19 2016-09-22 Patrick J. Sweeney Packaging/mux and unpackaging/demux of geometric data together with video data
WO2016182316A1 (ko) * 2015-05-12 2016-11-17 삼성전자 주식회사 인트라 예측을 수행하는 영상 복호화 방법 및 그 장치 및 인트라 예측을 수행하는 영상 부호화 방법 및 그 장치
WO2016182317A1 (ko) * 2015-05-12 2016-11-17 삼성전자 주식회사 인트라 예측을 수행하는 영상 복호화 방법 및 그 장치 및 인트라 예측을 수행하는 영상 부호화 방법 및 그 장치
CN105007494B (zh) * 2015-07-20 2018-11-13 南京理工大学 一种3d视频深度图像的帧内楔形分割模式选择方法
WO2017097441A1 (en) * 2015-12-07 2017-06-15 Huawei Technologies Co., Ltd. Devices and methods for video coding using intra prediction
CN109565595B (zh) 2016-06-24 2021-06-22 华为技术有限公司 一种使用基于分割的视频编码块划分的视频编码设备和方法
CN109565592B (zh) 2016-06-24 2020-11-17 华为技术有限公司 一种使用基于分割的视频编码块划分的视频编码设备和方法
US20210337202A1 (en) * 2017-06-21 2021-10-28 Vid Scale, Inc. Adaptive quantization method for 360-degree video coding
US20190096041A1 (en) * 2017-09-25 2019-03-28 Texas Instruments Incorporated Methods and system for efficient processing of generic geometric correction engine
US11145079B2 (en) 2017-09-25 2021-10-12 Texas Instruments Incorporated Method and apparatus for arbitrary output shape processing of an image
US11108841B2 (en) 2018-06-19 2021-08-31 At&T Intellectual Property I, L.P. Apparatus, storage medium and method for heterogeneous segmentation of video streaming
US11265579B2 (en) * 2018-08-01 2022-03-01 Comcast Cable Communications, Llc Systems, methods, and apparatuses for video processing
CN110809159B (zh) 2018-08-04 2022-06-07 北京字节跳动网络技术有限公司 更新的mv或推导的mv的裁剪
JP2022502905A (ja) * 2018-09-21 2022-01-11 インターデイジタル ヴィーシー ホールディングス インコーポレイテッド 双予測を使用するビデオエンコーディングおよびデコーディングのための方法および装置
EP3861732A4 (en) * 2018-10-01 2022-07-06 OP Solutions, LLC EXPONENTIAL PARTITIONING METHODS AND SYSTEMS
US11317099B2 (en) 2018-10-05 2022-04-26 Tencent America LLC Method and apparatus for signaling an offset in video coding for intra block copy and/or inter prediction
CN111010569B (zh) 2018-10-06 2023-02-28 北京字节跳动网络技术有限公司 Bio中的时间梯度计算的改善
EP3891977A4 (en) * 2018-12-29 2022-06-22 Huawei Technologies Co., Ltd. METHOD AND DEVICE FOR INTRAPREDICTION
US20220132109A1 (en) * 2019-02-21 2022-04-28 Lg Electronics Inc. Image decoding method and apparatus using intra prediction in image coding system
CN110363212B (zh) * 2019-03-28 2022-02-15 西南石油大学 基于边界扫描的多wedgelet图像近似方法
US11240534B2 (en) * 2019-04-05 2022-02-01 Qualcomm Incorporated Extended multiple transform selection for video coding
CN110225339A (zh) * 2019-05-10 2019-09-10 上海德衡数据科技有限公司 一种hevc视频序列编解码加速方法
CN114731430A (zh) * 2019-12-05 2022-07-08 交互数字Vc控股法国有限公司 与多个变换选择、矩阵加权帧内预测或多参考线帧内预测结合的用于视频编码和解码的帧内子分区

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101536528A (zh) * 2006-10-30 2009-09-16 惠普开发有限公司 用于分解视频序列帧的方法
WO2011046607A2 (en) * 2009-10-14 2011-04-21 Thomson Licensing Filtering and edge encoding
WO2011127966A1 (en) * 2010-04-13 2011-10-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Inter-plane prediction

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60248076A (ja) 1984-05-24 1985-12-07 Matsushita Electric Ind Co Ltd 符号化方法及びその装置
JPH01303888A (ja) * 1988-05-31 1989-12-07 Fujitsu Ltd フレーム間符号化装置
JP3353968B2 (ja) * 1992-09-25 2002-12-09 オリンパス光学工業株式会社 画像処理装置
JPH06153167A (ja) * 1992-11-13 1994-05-31 Oki Electric Ind Co Ltd 動きベクトル検出回路
JPH08298665A (ja) * 1994-04-21 1996-11-12 Sanyo Electric Co Ltd 動きベクトル検出回路、検出方法、及び動画像圧縮回路
JPH09275565A (ja) * 1996-04-05 1997-10-21 Kokusai Electric Co Ltd 画像ブロックマッチング方法及び画像符号化方法
JP3231618B2 (ja) * 1996-04-23 2001-11-26 日本電気株式会社 3次元画像符号化復号方式
US6636633B2 (en) 1999-05-03 2003-10-21 Intel Corporation Rendering of photorealistic computer graphics images
WO2003101117A1 (en) 2002-05-28 2003-12-04 Sharp Kabushiki Kaisha Methods and systems for image intra-prediction mode estimation, communication, and organization
JP4088205B2 (ja) * 2002-06-11 2008-05-21 松下電器産業株式会社 符号化装置、コンピュータ読取可能なプログラム、符号化方法。
US7227901B2 (en) 2002-11-21 2007-06-05 Ub Video Inc. Low-complexity deblocking filter
US6900748B2 (en) 2003-07-17 2005-05-31 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Method and apparatus for binarization and arithmetic coding of a data value
US9351013B2 (en) * 2003-11-13 2016-05-24 Qualcomm Incorporated Selective and/or scalable complexity control for video codecs
EP1790168B1 (en) 2004-09-16 2016-11-09 Thomson Licensing Video codec with weighted prediction utilizing local brightness variation
US8948266B2 (en) * 2004-10-12 2015-02-03 Qualcomm Incorporated Adaptive intra-refresh for digital video encoding
CN1777289A (zh) 2005-11-30 2006-05-24 天津大学 利用选择性预测加快运动估计的方法
WO2007128706A2 (en) 2006-05-05 2007-11-15 Thomson Licensing Simplified inter-layer motion prediction for scalable video coding
EP2052546A4 (en) 2006-07-12 2010-03-03 Lg Electronics Inc METHOD AND DEVICE FOR SIGNAL PROCESSING
EP2047687B1 (en) 2006-08-02 2018-05-16 Thomson Licensing DTV Adaptive geometric partitioning for video encoding
JP4956304B2 (ja) * 2006-08-08 2012-06-20 キヤノン株式会社 画像符号化装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP5026092B2 (ja) 2007-01-12 2012-09-12 三菱電機株式会社 動画像復号装置および動画像復号方法
KR101680951B1 (ko) * 2007-04-12 2016-11-29 톰슨 라이센싱 비디오 인코더에서 고속으로 기하학적 모드를 결정하기 위한 방법들 및 장치
CN101822064A (zh) * 2007-10-16 2010-09-01 汤姆逊许可公司 用于几何分割超级块的视频编码和解码的方法和设备
JP5097523B2 (ja) 2007-12-07 2012-12-12 船井電機株式会社 音声入力装置
EP2243297B1 (en) 2008-02-05 2017-03-08 Thomson Licensing Methods and apparatus for implicit block segmentation in video encoding and decoding
JP5071721B2 (ja) 2008-02-27 2012-11-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
KR20090095316A (ko) 2008-03-05 2009-09-09 삼성전자주식회사 영상 인트라 예측 방법 및 장치
CN101609548B (zh) 2008-09-12 2011-04-06 西安电子科技大学 基于Wavelet和Wedgelet变换HMT模型的图像分割方法
WO2010036772A2 (en) 2008-09-26 2010-04-01 Dolby Laboratories Licensing Corporation Complexity allocation for video and image coding applications
JP2012089905A (ja) 2009-01-13 2012-05-10 Hitachi Ltd 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法
EP2384004A4 (en) 2009-01-29 2012-08-01 Lg Electronics Inc METHOD AND APPARATUS FOR PROCESSING VIDEO SIGNALS USING INTRA MODE CONTOUR CODING
JP5456907B2 (ja) * 2009-12-04 2014-04-02 トムソン ライセンシング テクスチャー・パターン適応式の分割ブロック変換
KR20110068792A (ko) 2009-12-16 2011-06-22 한국전자통신연구원 적응적 영상 부호화 장치 및 방법
US8913661B2 (en) 2010-02-19 2014-12-16 Skype Motion estimation using block matching indexing
PL2559166T3 (pl) 2010-04-13 2018-04-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Koder i dekoder dzielący interwał prawdopodobieństwa
PT3301648T (pt) * 2010-04-13 2020-04-20 Ge Video Compression Llc Herança em matriz de amostras em subdivisão multitree
US9020043B2 (en) 2010-05-10 2015-04-28 Google Inc. Pathway indexing in flexible partitioning
US20120008684A1 (en) 2010-07-09 2012-01-12 Samsung Electronics Co., Ltd. Method and apparatus of encoding and decoding video signal
EP2604036B1 (en) * 2010-08-11 2018-03-07 GE Video Compression, LLC Multi-view signal codec
WO2012147740A1 (ja) 2011-04-25 2012-11-01 シャープ株式会社 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
EP2521357A1 (de) 2011-05-06 2012-11-07 Siemens Aktiengesellschaft Verfahren und Vorrichtung zur Filterung von kodierten Bildpartitionen
JP5937212B2 (ja) * 2011-08-26 2016-06-22 トムソン ライセンシングThomson Licensing デプス符号化
KR101663394B1 (ko) * 2011-11-11 2016-10-06 지이 비디오 컴프레션, 엘엘씨 적응적 분할 코딩
EP3657788B1 (en) 2011-11-11 2021-08-04 GE Video Compression, LLC Effective prediction using partition coding
JP6717790B2 (ja) 2017-09-14 2020-07-08 ファナック株式会社 レーザ加工中に光学系の汚染レベルに応じて焦点シフトを調整するレーザ加工装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101536528A (zh) * 2006-10-30 2009-09-16 惠普开发有限公司 用于分解视频序列帧的方法
WO2011046607A2 (en) * 2009-10-14 2011-04-21 Thomson Licensing Filtering and edge encoding
WO2011127966A1 (en) * 2010-04-13 2011-10-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Inter-plane prediction

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ADAPTIVE GEOMETRY-BASED INTRA PREDICTION FOR DEPTH VIDEO CODING;Min-Koo Kang等;《IEEE》;20101231;全文 *
The effects of multiview depth video compression on multiview rendering;P.Merkle等;《SignalProcessing: Image Communication》;20090101;第2-3节 *

Also Published As

Publication number Publication date
JP6501808B2 (ja) 2019-04-17
US9756330B2 (en) 2017-09-05
BR122020014854B1 (pt) 2022-09-13
KR20190120444A (ko) 2019-10-23
EP3691262B1 (en) 2023-10-25
US20170332086A1 (en) 2017-11-16
JP6788699B2 (ja) 2020-11-25
KR102588425B1 (ko) 2023-10-12
US20200128260A1 (en) 2020-04-23
IN2014KN01047A (zh) 2015-10-09
CN109257599A (zh) 2019-01-22
EP2777285A1 (en) 2014-09-17
EP3691262A1 (en) 2020-08-05
EP3249923A1 (en) 2017-11-29
CN109257599B (zh) 2023-05-16
US10341667B2 (en) 2019-07-02
US10362317B2 (en) 2019-07-23
EP2777285B1 (en) 2017-08-16
CN109257598A (zh) 2019-01-22
US10567776B2 (en) 2020-02-18
JP2024012629A (ja) 2024-01-30
JP6084627B2 (ja) 2017-02-22
KR20160118373A (ko) 2016-10-11
JP2022153645A (ja) 2022-10-12
KR20230145540A (ko) 2023-10-17
US10986352B2 (en) 2021-04-20
JP7389185B2 (ja) 2023-11-29
US20200404294A1 (en) 2020-12-24
KR102373445B1 (ko) 2022-03-11
BR112014011406A2 (pt) 2017-06-27
CN109257596A (zh) 2019-01-22
EP3249923B1 (en) 2020-01-01
CN109257597A (zh) 2019-01-22
JP2015502063A (ja) 2015-01-19
CN109257598B (zh) 2023-05-12
HK1202202A1 (zh) 2015-09-18
KR20200125750A (ko) 2020-11-04
CN104221379B (zh) 2019-01-01
HUE034631T2 (en) 2018-02-28
US20190297334A1 (en) 2019-09-26
CN109257596B (zh) 2023-06-13
KR102036175B1 (ko) 2019-10-24
EP4325865A2 (en) 2024-02-21
JP2021022947A (ja) 2021-02-18
WO2013068566A1 (en) 2013-05-16
US10771794B2 (en) 2020-09-08
US11863763B2 (en) 2024-01-02
BR112014011406A8 (pt) 2018-12-26
KR101663394B1 (ko) 2016-10-06
DK2777285T3 (da) 2017-11-27
US20140247871A1 (en) 2014-09-04
PT2777285T (pt) 2017-12-01
US20210185329A1 (en) 2021-06-17
NO2806722T3 (zh) 2018-03-10
KR20220162859A (ko) 2022-12-08
JP7121093B2 (ja) 2022-08-17
BR112014011406B1 (pt) 2022-06-14
ES2647514T3 (es) 2017-12-22
CN104221379A (zh) 2014-12-17
KR102171788B1 (ko) 2020-10-29
PL2777285T3 (pl) 2018-01-31
EP3691262C0 (en) 2023-10-25
KR20140077990A (ko) 2014-06-24
JP2017108427A (ja) 2017-06-15
KR20220035274A (ko) 2022-03-21
KR102471528B1 (ko) 2022-11-28
JP2019134466A (ja) 2019-08-08
US20170332088A1 (en) 2017-11-16

Similar Documents

Publication Publication Date Title
CN109257597B (zh) 解码器、编码器及解码视频的方法
CN109525846B (zh) 用于编码和解码的设备和方法
EP2777284B1 (en) Effective wedgelet partition coding using spatial prediction
EP2777286B1 (en) Effective wedgelet partition coding

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40003601

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant