CN105393534A - 照度补偿装置、lm预测装置、图像解码装置、图像编码装置 - Google Patents

照度补偿装置、lm预测装置、图像解码装置、图像编码装置 Download PDF

Info

Publication number
CN105393534A
CN105393534A CN201480034579.1A CN201480034579A CN105393534A CN 105393534 A CN105393534 A CN 105393534A CN 201480034579 A CN201480034579 A CN 201480034579A CN 105393534 A CN105393534 A CN 105393534A
Authority
CN
China
Prior art keywords
parameter
mentioned
illuminance compensation
image
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201480034579.1A
Other languages
English (en)
Inventor
猪饲知宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of CN105393534A publication Critical patent/CN105393534A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

通过对周围的像素进行子采样来导出照度变化参数,或者使在导出照度变化参数时所利用的两个参数的进行标准化的标准化移位值之中的一个标准化移位值依赖于另一个标准化移位值来导出,从而削减照度补偿的计算量。

Description

照度补偿装置、LM预测装置、图像解码装置、图像编码装置
技术领域
本发明涉及照度补偿装置、LM预测装置、图像解码装置、图像编码装置。
背景技术
在多视点的图像编码技术中,已提出了在对多视点的图像进行编码时通过预测图像间的视差来降低信息量的视差预测编码、与该编码方法对应的解码方法。将表示视点图像间的视差的矢量称作位移矢量。位移矢量是具有水平方向的要素(x成分)和垂直方向的要素(y成分)的二维的矢量,按照对一个图像进行了分割的区域即块的每一个而算出。此外,为了获取多视点的图像,一般利用的是配置在各个视点的照相机。在多视点的编码中,各视点图像在多个层中分别作为不同的层而被编码。由多个层构成的运动图像的编码方法一般被称作可伸缩编码或者分层编码。在可伸缩编码中,通过在层间进行预测,由此来实现高的编码效率。在层间不进行预测而成为基准的层被称作基础层,除此之外的层被称作扩展层。将层由视点图像构成的情况下的可伸缩编码称作视图可伸缩编码。此时,基础层也被称作基础视图,扩展层也被称作非基础视图。进而,除了视图可伸缩之外,在层由纹理层(图像层)和深度层(距离图像层)构成的情况下的可伸缩编码被称作三维可伸缩编码。
此外,在可伸缩编码中,除了视图可伸缩编码之外,还有空间可伸缩编码(作为基础层而处理分辨率低的图片,作为扩展层而处理分辨率高的图片)、SNR可伸缩编码(作为基础层而处理画质低的图片,作为扩展层而处理分辨率高的图片)等。在可伸缩编码中,例如在扩展层的图片的编码中有时将基础层的图片作为参照图片来使用。
此外,在非专利文献1中,已知将预测对象块的周围的像素中的照度变化用在预测对象块的预测中的被称作照度补偿的技术。
此外,在非专利文献2中,已知被称作根据对应的亮度图像来针对预测对象块的色差图像进行预测的LM预测的技术。
在先技术文献
非专利文献
非专利文献1:3D-CE2.h:ResultsofIlluminationCompensationforInter-ViewPrediction,JCT3V-B0045,JCT-3VShanghai,CN,13-19Oct2012
非专利文献2:LMModeClean-Up,JCTVC-I0148,JCT-VCGeneva,CH,27April-7May2012
发明内容
发明要解决的课题
然而,在非专利文献1的照度补偿中,虽然利用对象区域和参照区域的周围的像素来导出照度补偿的预测参数,但却存在其计算量大的课题。此外,在非专利文献2的LM预测中,虽然利用对象区域(色差图像)和参照区域(亮度图像)的周围的像素来导出照度补偿的预测参数,但却存在其计算量大的课题。
本发明鉴于上述的问题点而完成的,提供一种使得照度补偿以及LM预测的计算量降低的图像解码装置、图像解码方法、图像解码程序、图像编码装置、图像编码方法、图像编码程序、图像显示系统以及图像传输系统。
用于解决课题的手段
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像与对象层上的相邻解码图像来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元,上述照度参数估计部具备:参数a导出单元,其根据第1参数与第2参数来导出上述参数a,上述参数a导出单元具备:导出第1标准化移位值与第2标准化移位值的参数标准化移位部;利用第1标准化移位值使上述第1参数右移位来导出标准化第1参数的参数标准化移位部;以及利用上述第2标准化移位值使上述第2参数右移位来导出标准化第2参数的参数标准化移位部,上述参数标准化移位部通过从上述第2标准化移位值中减去给定的值,由此来导出上述第1标准化移位值。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出至少包含参数b的照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元、或者将上述运动补偿图像与照度变化参数的参数b进行相加的单元之中的任意者,上述照度参数估计部通过对上述参照图像区域与上述相邻解码图像区域的像素进行子采样并参照,由此来导出。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,在对象块为给定的尺寸以上的情况下,由上述照度补偿部进行照度补偿,在上述对象块小于给定的尺寸的情况下,不进行照度补偿。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器在对象块为给定的尺寸以上的情况下,通过在从上述参照层获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块小于上述给定的尺寸的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器在对象块为亮度块的情况下,通过在从参照层获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块为色差块的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
根据一构成的LM预测装置,其特征在于,具备:LM预测部,其根据亮度图像来适用色差预测图像,上述LM预测部具备:LM参数估计部,其根据相邻亮度图像与相邻色差图像来导出LM参数;以及LM预测滤波器,其利用上述LM参数来生成亮度图像至色差预测图像,上述LM预测滤波器包含:在亮度图像与LM参数的参数a的乘积上相加LM参数的参数b的单元,上述LM参数估计部具备:参数a导出部,其根据第1参数a1和第2参数a2v来导出参数a,其中,该第1参数a1是根据相邻亮度图像的像素值与相邻色差图像的像素值的乘积之和、相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY相对于相邻色差图像的像素值之和Y与相邻亮度图像的像素值之和X的乘积的差值而导出的,该第2参数a2v是根据相邻亮度图像的像素值的平方之和XX与相邻亮度图像的像素值之和X的平方的差值而导出的,上述参数a导出部具备:基于根据第2参数a2而确定的第1标准化移位值与第2标准化移位值使上述第1参数a1与上述第2参数a2右移位的单元。
发明效果
根据本发明,使得照度补偿的计算量以及安装规模降低。根据本发明,使得LM预测的计算量以及安装规模降低。
附图说明
图1是表示本发明的实施方式所涉及的图像传输系统的构成的简要图。
图2是表示本实施方式所涉及的编码流的数据的分层构造的图。
图3是表示参照图片列表的一例的概念图。
图4是表示参照图片的例子的概念图。
图5是表示本实施方式所涉及的图像解码装置的构成的简要图。
图6是表示本实施方式所涉及的帧间预测参数解码部的构成的简要图。
图7是表示本实施方式所涉及的合并预测参数导出部的构成的简要图。
图8是表示本实施方式所涉及的AMVP预测参数导出部的构成的简要图。
图9是表示矢量候选的一例的概念图。
图10是本实施方式所涉及的LM预测的概念图。
图11是表示本实施方式所涉及的帧间预测图像生成部的构成的简要图。
图12是本实施方式所涉及的残差预测的概念图。
图13是本实施方式所涉及的照度补偿的概念图。
图14是表示本实施方式所涉及的照度补偿中所利用的表的图。
图15是表示本实施方式所涉及的LM预测部3104的构成的框图。
图16是表示本实施方式所涉及的LM参数a导出部310416的构成的框图。
图17是表示本实施方式所涉及的LM正则化项加法运算部310418的构成的框图。
图18是表示本实施方式所涉及的LM参数a导出部310416A的构成的框图。
图19是表示本实施方式所涉及的LM预测部3104H的构成的框图。
图20是表示本实施方式所涉及的照度补偿部3093的构成的框图。
图21是表示本实施方式所涉及的参数a导出部309316的构成的框图。
图22是表示本实施方式所涉及的参数a导出部309316A的构成的框图。
图23是表示本实施方式所涉及的照度补偿部3093H的构成的框图。
图24是表示本实施方式所涉及的照度补偿部3093O的构成的框图。
图25是说明第2实施方式所涉及的照度补偿的参照像素的图。
图26是说明第3实施方式所涉及的具备切换单元的照度补偿部3093S0的图的框图。
图27是说明第3实施方式所涉及的照度补偿部3093S0的动作的流程图。
图28是说明第3实施方式所涉及的照度补偿部3093S0的另一动作的流程图。
图29是说明第3实施方式所涉及的具备切换单元的照度补偿部3093S1的图的框图。
图30是说明第3实施方式所涉及的照度补偿部3093S1的动作的流程图。
图31是说明第3实施方式所涉及的照度补偿部3093S1的另一动作的流程图。
图32是表示本实施方式所涉及的图像编码装置的构成的框图。
图33是表示本实施方式所涉及的帧间预测参数编码部的构成的简要图。
具体实施方式
(第1实施方式)
以下,参照附图来说明本发明的实施方式。
图1是表示本实施方式所涉及的图像传输系统1的构成的简要图。
图像传输系统1是传输对多个层图像进行编码后的码并对将所传输的码进行解码后的图像加以显示的系统。图像传输系统1构成为包含图像编码装置11、网络21、图像解码装置31以及图像显示装置41。
在图像编码装置11中被输入表示多个层图像(也称为纹理图像)的信号T。所谓层图像,是指在某分辨率以及某视点下被视觉辨别出或拍摄到的图像。在利用多个层图像来进行编码三维图像的视图可伸缩编码的情况下,多个层图像分别被称作视点图像。在此,视点相当于摄影装置的位置或者观测点。例如,多视点图像是左右的摄影装置分别朝向被摄体而拍摄到的图像。图像编码装置11对该信号分别进行编码,生成编码流Te(编码数据)。关于编码流Te的详细将在后面阐述。所谓视点图像,是指在某视点下被观测到的二维图像(平面图像)。视点图像例如由配置在二维平面内的每个像素的亮度值、或者色信号值来表示。以下,将1张视点图像或者表示该视点图像的信号称作图片(picture)。此外,在利用多个层图像来进行空间可伸缩编码的情况下,该多个层图像由分辨率低的基础层图像和分辨率高的扩展层图像构成。在利用多个层图像来进行SNR可伸缩编码的情况下,该多个层图像由画质低的基础层图像和画质高的扩展层图像构成。另外,也可以任意组合地进行视图可伸缩编码、空间可伸缩编码、SNR可伸缩编码。在本实施方式中,作为多个层图像,处理的是至少包含基础层图像和基础层图像以外的图像(扩展层图像)的图像的编码以及解码。针对多个层之中在图像或编码参数中存在参照关系(依赖关系)的两个层,将被参照的一侧的图像称作第1层图像,将进行参照的一侧的图像称作第2层图像。例如,在有参照基础层而被编码的(基础层以外的)增强层图像的情况下,将基础层图像作为第1层图像来处理,将增强层图像作为第2层图像来处理。另外,作为增强层图像的例子,有基础视图以外的视点的图像、深度的图像等。
网络21将图像编码装置11所生成的编码流Te传输至图像解码装置31。网络21是因特网(internet)、广域网(WAN:WideAreaNetwork)、小规模网络(LAN:LocalAreaNetwork)或者它们的组合。网络21未必限定为双向的通信网,也可以为地面数字广播、卫星广播等的传输广播波的单向或者双向的通信网。此外,网络21也可以被DVD(DigitalVersatileDisc;数字通用盘)、BD(Blue-rayDisc;蓝光光盘)等的记录了编码流Te的存储介质来代替。
图像解码装置31对网络21传输来的编码流Te分别进行解码,生成分别解码后的多个解码层图像Td(解码视点图像Td)。
图像显示装置41显示图像解码装置31所生成的多个解码层图像Td的全部或者一部分。例如,在视图可伸缩编码中,在显示全部的情况下,三维图像(立体图像)、自由视点图像被显示,在显示一部分的情况下,二维图像被显示。图像显示装置41例如具备液晶显示器、有机EL(Electro-luminescence;电致发光)显示器等的显示设备。此外,在空间可伸缩编码、SNR可伸缩编码中,在图像解码装置31和图像显示装置41具有高的处理能力的情况下,显示画质高的扩展层图像,在仅具有进一步低的处理能力的情况下,显示无需如扩展层那样高的处理能力和显示能力的基础层图像。
<编码流Te的结构>
在说明本实施方式所涉及的图像编码装置11以及图像解码装置31的详细内容之前,先说明由图像编码装置11生成并由图像解码装置31解码的编码流Te的数据结构。
图2是表示编码流Te中的数据的分层构造的图。编码流Te例示性地包含序列以及构成序列的多个图片。图2(a)~(f)分别是表示规定序列SEQ的序列层、规定图片PICT的图片层、规定切片S的切片层、规定切片数据的切片数据层、规定切片数据中所含的编码树单位的编码树层、规定编码树中所含的编码单位(CodingUnit;CU)的编码单位层的图。
(序列层)
在序列层中,规定了为了解码处理对象的序列SEQ(以下也称作对象序列)而由图像解码装置31进行参照的数据的集合。如图2(a)所示,序列SEQ包含:视频参数集(VideoParameterSet)、序列参数集SPS(SequenceParameterSet)、图片参数集PPS(PictureParameterSet)、图片PICT、以及补充增强信息SEI(SupplementalEnhancementInformation)。在此,#之后所示的值表示层ID。在图2中,示出#0和#1即存在层0和层1的编码数据的例子,但层的种类以及层的数量并不限于此。
视频参数集VPS在由多个层构成的运动图像中,规定了多个运动图像所共用的编码参数的集合以及与运动图像中所含的多个层以及各个层关联的编码参数的集合。
在序列参数集SPS中,规定了为了解码对象序列而由图像解码装置31进行参照的编码参数的集合。例如,规定了图片的宽度、高度。
在图片参数集PPS中,规定了为了解码对象序列内的各图片而由图像解码装置31进行参照的编码参数的集合。例如,包含用于图片解码的量化幅度的基准值(pic_init_qp_minus26)、表示加权预测适用的标志(weighted_pred_flag)。另外,PPS也可以存在多个。在此情况下,从对象序列内的各图片中选择多个PPS的任意个数。
(图片层)
在图片层中,规定了为了解码处理对象的图片PICT(以下也称作对象图片)而由图像解码装置31进行参照的数据的集合。如图2(b)所示,图片PICT包含切片S0~SNS-1(NS为图片PICT中所含的切片的总数)。
另外,以下,在无需分别区分切片S0~SNS-1的情况下,有时省略标号的尾标来进行记述。此外,关于以下说明的编码流Te中所含的数据即标注尾标的其他数据也相同。
(切片层)
在切片层中,规定了为了解码处理对象的切片S(也称作对象切片)而由图像解码装置31进行参照的数据的集合。如图2(c)所示,切片S包含:切片头部SH以及切片数据SDATA。
在切片头部SH中,包含:为了决定对象切片的解码方法而由图像解码装置31进行参照的编码参数组。指定切片类型的切片类型指定信息(slice_type)为切片头部SH中所含的编码参数的一例。
作为可由切片类型指定信息指定的切片类型,列举:(1)在编码时仅利用帧内预测的I切片、(2)在编码时利用单向预测或者帧内预测的P切片、(3)在编码时利用单向预测、双向预测或者帧内预测的B切片等。
另外,在切片头部SH中,也可以包含对于上述序列层中所含的图片参数集PPS的参照(pic_parameter_set_id)。
(切片数据层)
在切片数据层中,规定了为了解码处理对象的切片数据SDATA而由图像解码装置31进行参照的数据的集合。如图2(d)所示,切片数据SDATA包含编码树块(CTB:CodedTreeBlock)。CTB是构成切片的固定尺寸(例如64×64)的块,也有时称作最大编码单位(LCU:LargestCordingUnit)。
(编码树层)
如图2(e)所示,编码树层规定了为了解码处理对象的编码树块而由图像解码装置31进行参照的数据的集合。编码树单位通过递归性4分树分割而被分割。将通过递归性4分树分割而获得的树结构的节点称作编码树(codingtree)。4分树的中间节点为编码树单位(CTU:CodedTreeUnit),编码树块自身也被规定为最上位的CTU。CTU包含分割标志(splif_flag),在splif_flag为1的情况下,被分割为4个编码树单位CTU。在splif_flag为0的情况下,编码树单位CTU被分割为4个编码单位(CU:CodedUnit)。编码单位CU为编码树层的末端节点,在该层中不再进行分割。编码单位CU成为编码处理的基本单位。
此外,在编码树块CTB的尺寸为64×64像素的情况下,编码单位的尺寸可取64×64像素、32×32像素、16×16像素、以及8×8像素之中的任何个数。
(编码单位层)
如图2(f)所示,编码单位层规定了为了解码处理对象的编码单位而由图像解码装置31进行参照的数据的集合。具体而言,编码单位由CU头部CUH、预测树、变换树、CU头部CUF构成。在CU头部CUH中,规定了:编码单位是利用帧内预测的单位、或者是利用帧间预测的单位等。编码单位成为预测树(predictiontree;PT)以及变换树(transformtree;TT)的根源。CU头部CUF包含在预测树与变换树之间或变换树之后。
对于预测树而言,编码单位被分割为1个或者多个预测块,并规定了各预测块的位置与尺寸。换言之,预测块是构成编码单位的1个或者多个不重复的区域。此外,预测树包含通过上述分割而获得的1个或者多个预测块。
按照每个该预测块来进行预测处理。以下,将预测的单位即预测块也称作预测单位(predictionunit;PU、预测单位)。
对于预测树中的分割的种类而言,从广义上讲,有帧内预测的情况和帧间预测的情况这两种。所谓帧内预测,是指同一图片内的预测,所谓帧间预测,是指在互不相同的图片间(例如显示时刻间、层图像间)被进行的预测处理。
在帧内预测的情况下,分割方法有2N×2N(与编码单位相同的尺寸)和N×N。
此外,在帧间预测的情况下,分割方法有通过编码数据的part_mode而被编码的、2N×2N(与编码单位相同的尺寸)、2N×N、2N×nU、2N×nD、N×2N、nL×2N、nR×2N、以及N×N等。另外,2N×nU表示按照从上到下的顺序将2N×2N的编码单位分割为2N×0.5N和2N×1.5N的2个区域。2N×nD表示按照从上到下的顺序将2N×2N的编码单位分割为2N×1.5N和2N×0.5N的2个区域。nL×2N表示按照从左到右的顺序将2N×2N的编码单位分割为0.5N×2N和1.5N×2N的2个区域。nR×2N表示按照从左到右的顺序将2N×2N的编码单位分割为1.5N×2N和0.5N×1.5N的2个区域。由于分割数为1、2、4之中的任意者,因此CU中所含的PU为1个至4个。将这些PU依次表现为PU0、PU1、PU2、PU3。
此外,在变换树中,编码单位被分割为1个或者多个变换块,并规定了各变换块的位置与尺寸。换言之,变换块是构成编码单位的1个或者多个不重复的区域。此外,变换树包含通过上述分割而获得的1个或者多个变换块。
对于变换树中的分割而言,有将与编码单位相同的尺寸的区域作为变换块来分配的分割、和与上述的树块的分割同样基于递归性4分树分割的分割。
按照每个该变换块来进行变换处理。以下,将变换的单位即变换块也称作变换单位(transformunit;TU)。
(预测参数)
预测单位的预测图像通过预测单位所附带的预测参数而导出。在预测参数中包含帧内预测的预测参数或帧间预测的预测参数。以下,说明帧间预测的预测参数(帧间预测参数)。帧间预测参数由预测列表利用标志predFlagL0、predFlagL1、参照图片索引refIdxL0、refIdxL1和矢量mvL0、mvL1构成。预测列表利用标志predFlagL0、predFlagL1分别是表示是否利用了被称作L0列表、L1列表的参照图片列表的标志,在值为1的情况下对应的参照图片列表被利用。另外,在本说明书中记为“表示是否为XX的标志”的情况下,将1设为是XX的情况,将0设为不是XX的情况,在逻辑非、逻辑与等情形下,将1作为真来处理,将0作为伪来处理(以下相同)。但是,在实际的装置、方法中,作为真值、伪值也能够利用其他值。利用了两个参照图片列表的情况、即predFlagL0=1,predFlagL1=1的情况对应于双预测,利用了1个参照图片列表的情况、即(predFlagL0,predFlagL1)=(1,0)或(predFlagL0,predFlagL1)=(0,1)的情况对应于单预测。另外,预测列表利用标志的信息也能够利用后述的帧间预测标志inter_pred_idc来表现。通常,在后述的预测图像生成部、预测参数存储器中,利用的是预测列表利用标志,在根据编码数据对是否利用哪个参照图片列表的信息进行解码的情况下,利用的是帧间预测标志inter_pred_idc。
在用于将编码数据中所含的帧间预测参数进行导出的语法要素中,例如包含:分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX。
(参照图片列表的一例)
接下来,说明参照图片列表的一例。所谓参照图片列表,是指由参照图片存储器306(图5)中存储的参照图片构成的列。图3是表示参照图片列表的一例的概念图。在参照图片列表601中,左右排列为一列的5个长方形分别表示参照图片。从左端向右依次所示的码、P1、P2、Q0、P3、P4是表示各个参照图片的码。P1等的P指的是视点P,并且,Q0的Q指的是与视点P不同的视点Q。P以及Q的附加字符表示图片顺序编号POC。refIdxLX的正下方的朝下的箭头表示:参照图片索引refIdxLX是在参照图片存储器306中对参照图片Q0进行参照的索引。
(参照图片的例子)
接下来,说明导出矢量时所利用的参照图片的例子。图4是表示参照图片的例子的概念图。在图4中,横轴表示显示时刻,纵轴表示视点。图4所示的、纵2行且横3列(共计6个)的长方形分别表示图片。6个长方形之中从下行的左起第2列的长方形表示解码对象的图片(对象图片),剩余的5个长方形分别表示参照图片。从对象图片朝上的箭头所示的参照图片Q0是与对象图片相同的显示时刻但视点不同的图片。在以对象图片为基准的位移预测中,利用的是参照图片Q0。从对象图片朝左的箭头所示的参照图片P1是与对象图片相同的视点且过去的图片。从对象图片朝右的箭头所示的参照图片P2是与对象图片相同的视点且未来的图片。在以对象图片为基准的运动预测中,利用的是参照图片P1或者P2。
(帧间预测标志与预测列表利用标志)
帧间预测标志与预测列表利用标志predFlagL0、predFlagL1的关系能够如下那样相互变换。因而,作为帧间预测参数,既可以使用预测列表利用标志,也可以使用帧间预测标志。此外,以下,使用了预测列表利用标志的判定也可以置换为帧间预测标志。反之,使用了帧间预测标志的判定也可以置换为预测列表利用标志。
帧间预测标志=(predFlagL1<<1)+predFlagL0
predFlagL0=帧间预测标志&1
predFlagL1=帧间预测标志>>1
其中,“>>”为右移位,“<<”为左移位。
(合并预测与AMVP预测)
在预测参数的解码(编码)方法中,有合并预测(merge)模式与AMVP(AdaptiveMotionVectorPrediction、自适应运动矢量预测)模式,合并标志merge_flag是用于识别它们的标志。无论在合并预测模式下还是在AMVP模式下均利用处理已完毕的块的预测参数来导出对象PU的预测参数。合并预测模式是不将预测列表利用标志predFlagLX(帧间预测标志inter_pred_idcinter_pred_idc)、参照图片索引refIdxLX、矢量mvLX包含在编码数据中而直接利用已经导出的预测参数的模式,AMVP模式是将帧间预测标志inter_pred_idcinter_pred_idc、参照图片索引refIdxLX、矢量mvLX包含在编码数据中的模式。另外,矢量mvLX被编码为表示预测矢量的预测矢量索引mvp_LX_idx与差分矢量(mvdLX)。
帧间预测标志inter_pred_idc是表示参照图片的种类以及数量的数据,取Pred_L0、Pred_L1、Pred_Bi之中的任意者的值。Pred_L0、Pred_L1分别表示利用了被称作L0列表、L1列表的参照图片列表中所存储的参照图片,均表示利用1张参照图片(单预测)。将利用了L0列表、L1列表的预测分别称作L0预测、L1预测。Pred_Bi表示利用2张参照图片(双预测),表示利用L0列表与L1列表中所存储的2个参照图片。预测矢量索引mvp_LX_idx是表示预测矢量的索引,参照图片索引refIdxLX是表示参照图片列表中所存储的参照图片的索引。另外,LX是不区分L0预测与L1预测的情况下所利用的记述方法,通过将LX置换为L0、L1,由此来区分相对于L0列表的参数和相对于L1列表的参数。例如,refIdxL0是用于L0预测的参照图片索引,refIdxL1是用于L1预测的参照图片索引,refIdx(refIdxLX)是不区分refIdxL0与refIdxL1的情况下所利用的表记。
合并索引merge_idx是表示将从处理已完成的块中导出的预测参数候选(合并候选)之中的任意个数的预测参数作为解码对象块的预测参数来利用的索引。
(运动矢量与位移矢量)
在矢量mvLX中存在运动矢量与位移矢量(disparityvector、视差矢量)。所谓运动矢量,是指某层的某显示时刻下的图片中的块的位置与不同的显示时刻(例如相邻的离散时刻)下的同一层的图片中的对应的块的位置之间的位置的偏离的矢量。所谓位移矢量,是指某层的某显示时刻下的图片中的块的位置与同一显示时刻下的不同层的图片中的对应的块的位置之间的位置的偏离的矢量。作为不同层的图片,存在是不同视点的图片的情况、或者是不同分辨率的图片的情况等。尤其是,将与不同视点的图片对应的位移矢量称作视差矢量。在以下的说明中,在不区分运动矢量与位移矢量的情况下,简单称作矢量mvLX。将与矢量mvLX相关的预测矢量、差分矢量分别称作预测矢量mvpLX、差分矢量mvdLX。矢量mvLX以及差分矢量mvdLX是运动矢量还是位移矢量是利用矢量所附带的参照图片索引refIdxLX来决定的。
(图像解码装置的构成)
接下来,说明本实施方式所涉及的图像解码装置31的构成。图5是表示本实施方式所涉及的图像解码装置31的构成的简要图。图像解码装置31构成为包含:熵解码部301、预测参数解码部302、参照图片存储器(参照图像存储部、帧存储器)306、预测参数存储器(预测参数存储部、帧存储器)307、预测图像生成部308、逆量化/逆DCT部311、以及加法运算部312、残差保存部313(残差记录部)。
此外,预测参数解码部302构成为包含:帧间预测参数解码部303以及帧内预测参数解码部304。预测图像生成部308构成为包含:帧间预测图像生成部309以及帧内预测图像生成部310。
熵解码部301针对从外部输入的编码流Te进行熵解码,将各个码(语法要素)分离并解码。在被分离出的码中包含:用于生成预测图像的预测信息以及用于生成差分图像的残差信息等。
熵解码部301将分离出的码的一部分输出至预测参数解码部302。所谓分离出的码的一部分,例如为预测模式PredMode、分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idcinter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX。是否对哪个码进行解码的控制是基于预测参数解码部302的指示而进行的。熵解码部301将量化系数输出至逆量化/逆DCT部311。该量化系数是在编码处理中针对残差信号进行DCT(DiscreteCosineTransform、离散余弦变换)并进行量化而得到的系数。
帧间预测参数解码部303基于从熵解码部301输入的码,参照预测参数存储器307中所存储的预测参数来解码帧间预测参数。
帧间预测参数解码部303将解码后的帧间预测参数输出至预测图像生成部308,并存储至预测参数存储器307。关于帧间预测参数解码部303的详细将在后面阐述。
帧内预测参数解码部304基于从熵解码部301输入的码,参照预测参数存储器307中所存储的预测参数来解码帧内预测参数。所谓帧内预测参数,是指在一个图片内预测图片块的处理中所利用的参数,例如为帧内预测模式IntraPredMode。帧内预测参数解码部304将解码后的帧内预测参数输出至预测图像生成部308,并存储至预测参数存储器307。
帧内预测参数解码部304也可以导出在亮度与色差而不同的帧内预测模式。在此情况下,帧内预测参数解码部304作为亮度的预测参数而解码亮度预测模式IntraPredModeY,作为色差的预测参数而解码色差预测模式IntraPredModeC。亮度预测模式IntraPredModeY为35个模式,对应平面预测(0)、DC预测(1)、方向预测(2~34)。色差预测模式IntraPredModeC利用平面预测(0)、DC预测(1)、方向预测(2、3、4)、LM模式(5)之中的任意者。
参照图片存储器306将加法运算部312所生成的参照图片的块(参照图片块)存储至按照解码对象的每个图片以及块而预先规定的位置。
预测参数存储器307将预测参数存储至按照解码对象的每个图片以及块而预先规定的位置。具体而言,预测参数存储器307存储帧间预测参数解码部303解码出的帧间预测参数、帧内预测参数解码部304解码出的帧内预测参数以及熵解码部301分离出的预测模式predMode。在所存储的帧间预测参数中,例如有预测列表利用标志predFlagLX(帧间预测标志inter_pred_idcinter_pred_idc)、参照图片索引refIdxLX、矢量mvLX。
在预测图像生成部308中被输入了从熵解码部301输入的预测模式predMode,并从预测参数解码部302被输入了预测参数。此外,预测图像生成部308从参照图片存储器306中读出参照图片。预测图像生成部308在预测模式predMode所示的预测模式下,利用被输入的预测参数与读出的参照图片来生成预测图片块P(预测图像)。
在此,在预测模式predMode表示帧间预测模式的情况下,帧间预测图像生成部309利用从帧间预测参数解码部303输入的帧间预测参数与读出的参照图片,通过帧间预测来生成预测图片块P。预测图片块P对应于预测单位PU。PU如上所述那样相当于由成为进行预测处理的单位的多个像素构成的图片的一部分、即进行一次预测处理的解码对象块。
帧间预测图像生成部309针对预测列表利用标志predFlagLX为1的参照图片列表(L0列表、或L1列表),从参照图片索引refIdxLX所示的参照图片之中,将以解码对象块为基准而处于矢量mvLX所示的位置的参照图片块从参照图片存储器306读出。帧间预测图像生成部309针对读出的参照图片块进行预测来生成预测图片块P。帧间预测图像生成部309将所生成的预测图片块P输出至加法运算部312。
在预测模式predMode表示帧内预测模式的情况下,帧内预测图像生成部310利用从帧内预测参数解码部304输入的帧内预测参数与读出的参照图片来进行帧内预测。具体而言,帧内预测图像生成部310将解码对象的图片即处于根据已被解码的块之中的解码对象块预先规定的范围内的参照图片块从参照图片存储器306读出。所谓预先规定的范围,是指解码对象块按照所谓的光栅扫描的顺序依次移动的情况,例如是左、左上、上、右上的相邻块之中的任意者,根据帧内预测模式的不同而不同。所谓光栅扫描的顺序,是指在各图片中从上端至下端针对各行依次从左端移动至右端的顺序。
帧内预测图像生成部310针对读出的参照图片块以帧内预测模式IntraPredMode所示的预测模式进行预测来生成预测图片块。帧内预测图像生成部310将所生成的预测图片块P输出至加法运算部312。
在帧内预测参数解码部304中导出在亮度与色差而不同的帧内预测模式的情况下,帧内预测图像生成部310根据亮度预测模式IntraPredModeY并通过平面预测(0)、DC预测(1)、方向预测(2~34)的任意者来生成亮度的预测图片块,根据色差预测模式IntraPredModeC并通过平面预测(0)、DC预测(1)、方向预测(2、3、4)、LM模式(5)的任意者来生成色差的预测图片块。LM模式下,利用与对象块相邻的处理完毕图像,从亮度的像素值中导出对色差的像素值进行预测的预测参数,并基于该预测参数,从处理完毕的亮度的块中生成色差的图片块。这样的预测被称作LM预测。帧内预测图像生成部310由未图示的DC预测部3101、平面预测部3102、方向预测部3103以及LM预测部3104构成。
(LM预测部3104)
图15是表示LM预测部3104的构成的框图。LM预测部3104由LM参数估计部31041与LM预测滤波器部31042构成。LM参数估计部31041由LM乘法运算值导出部310412、LM加法运算值导出部310413、LM第1参数导出部310414、LM第2参数导出部310415、LM参数a导出部310416、以及LM参数b导出部310417构成。
LM参数估计部31041针对对象块(对象预测单位)的像素,求出用于根据参照块的像素来估计的估计参数。图10是用于说明LM预测的图。在图13中示出对象块的周围的色差图像上的像素L、与对象块所对应的亮度图像上的参照块(对应块)的周围的像素C的位置。
LM参数估计部31041将图10所示的对象块的周围所对应的亮度块的周围的像素C设为相邻亮度图像的像素值x[](参照图像区域),将对象块的周围的色差成分的像素L设为相邻色差图像的像素值y[](对象图像区域),基于这些相邻亮度图像的像素值x[]与相邻色差图像的像素值y[],导出根据相邻亮度图像的像素值x对相邻色差图像的像素值y[]进行线性预测的情况下的参数即参数a、参数b。
LM加法运算值导出部310413通过以下的式(B-2)、式(B-3)来导出相邻色差图像的像素值y之和Y、以及相邻亮度图像的像素值x之和X。
LM乘法运算值导出部310412通过以下的式(B-4)~(B-5)来导出相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY、以及相邻亮度图像的像素值的平方之和XX。此时,LM乘法运算值导出部310412在相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY的导出时、以及相邻亮度图像的像素值x的平方之和XX的导出时,右移位乘法运算移位值precShift之后进行加法运算。在以下的和运算之前,X、Y、XY、XX初始化为0。
X=∑x[i]式(B-2)
Y=∑y[i]式(B-3)
XX+=∑(x[i]*x[i])式(B-4)
XY+=∑(y[i]*y[i])式(B-5)
在此,∑是针对参照区域的和,导出对于确定参照区域的像素的索引i的和。y[i]是相邻解码图像的索引i下的像素值。x[i]是参照图像的索引i下的像素值。计数移位值iCountShift是参照区域的尺寸的2的对数。在此,将索引i进行2倍,参照相邻色差图像的像素值y与相邻亮度图像的像素值x。
iCountShift=log2(参照区域的像素数)式(B-6)
LM第1参数导出部310414利用相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY、与相邻色差图像的像素值之和Y和相邻亮度图像的像素值之和X的乘积的差值,通过下式来导出第1参数a1。
a1=(XY<<iCountShift)-(Y*X);式(B-7)
如式(B-7)所示,XY左移位计数移位值iCountShift,Y与X之积右移位乘法运算移位值precShift之后,再算出两者的差值。
LM第2参数导出部310415利用相邻亮度图像的像素值的平方之和XX与相邻亮度图像的像素值之和X的平方的差值,通过下式来导出第2参数a2。
a2=(XX<<iCountShift)-(X*X);式(B-8)
导出的第1参数a1与第2参数a2被输出至LM参数a导出部310416。
图16是表示LM参数a导出部310416的构成的框图。LM参数a导出部310416由LM第1参数限制部3104161、LM第1参数标准化移位部3104162、LM第2参数标准化移位部3104163、以及基于表的LM参数a导出部3104164构成。
LM参数a导出部310416在照度补偿中的线性预测之中导出与倾斜对应的参数a。具体而言,通过以下的处理,利用整数运算来导出为使第1参数a1与第2参数a2之比整数化而左移位固定移位值的值即相当于a1/a2<<iShift的参数a。
LM第1参数限制部3104161根据第2参数a2的大小来限制第1参数a1。例如,如下式那样,将a1限制在约-2*a2以上且a2的127/64(=127>>6)倍以下。
a1=Clip3(-2*a2,(127*a2)>>6,a1)式(B-12′)
通过LM第1参数限制部3104161,根据a2的值来限制a1的值,因此其比值即a1/a2的值也被限制在-2~127/64之间。因此,参数a的值即a1/a2<<iShift的值也被限制在-2<<iShift~(127/64)<<iShift。即,在iShift=6的情况下,参数a变为-128~127,能够在8比特整数的范围内进行处理。
LM参数a导出部310416利用基于表的LM参数a导出部3104164,利用图14所示的倒数表值invTable[],通过下式来导出a1/a2<<iShift的运算。
a1*invTable[a2]>>log2(M)式(A-0)
其中,M设为通过2的ShiftA1乘方而导出的常数。将ShiftA1称作表移位值。如式(A-0)所示,通过利用倒数表invTable[],通过与相当于a2的倒数的倒数表invTable[a2]之积、log2(M)的右移位,能够实现相当于用a2去除的除法运算的运算。
图14是本实施方式中所利用的倒数表值invTable[]。图14所示的倒数invTable[x],在索引x为0的情况下成为0,在索引x为0以外的情况下,根据给定的常数(2的ShiftA1乘方)除以x后进行整数化的值而导出。即,成为下式。
invTable[x]=0(x为0的情况)式(T-1)
invTable[x]=Floor((2^ShiftA1/x/2)/x)(x为0以外的情况)式(T-2)
其中,上述表在x为[0..2^ShiftA2-1]的范围内被定义。在图14的例子中,在ShiftA2=6即0..63的范围内被定义。另外,Floor(x)是通过舍去小数点以下来进行整数化的函数。也可以取代式(T-1)而利用以下的式(T-2′)。即,也可以不进行追加除数x的1/2倍的舍入误差调整。
invTable[x]=Floor(M/x)(x为0以外的情况)式(T-2′)
另外,倒数表invTable[x]定义为,在x=0时,invTable[x]为0。通常1/x的除法运算未定义x=0的情况,因此需要根据是否为x=0来分支处理,但通过如上述那样定义,从而在利用1*invTable[x]来进行1/x的情况下,不必根据是否x=0来分支,便能够进行处理。此外,x=0的情况下的除法运算的结果为0。
在此,将倒数表invTable的尺寸设为0~2的ShiftA2乘方-1,即定义为x为[0,2^ShiftA2乘方-1]的范围的invTable[x],因此为了进行式(A-0),需要将a2的值设为2^ShiftA2乘方-1以下。为此,通过第2标准化移位值iScaleShiftA2使第2参数a2右移位,导出成为[0..2^ShiftA2乘方-1]的范围的标准化第2参数a2s,利用标准化第2参数a2s而引出倒数表invTable。此外,为了在32bit的范围内进行式(A-0)的a1*invTable[a2]的乘积,通过第1标准化移位值iScaleShiftA1使第1参数a1右移位而导出标准化第1参数a1s,以使a1的值不会变得过大。接下来,利用标准化第1参数a1s来计算与倒数表invTable之积。在此,使得标准化第1参数a1s与倒数表invTable之积不超过32bit。具体而言,LM参数a导出部310416取代式(A-0)而进行下式(A-1),利用所获得的值来导出参数a。
a1s*invTable[a2s]>>log2(M)式(A-1)
LM第2参数标准化移位部3104163根据第2参数a2的大小,针对在图14的表的导出中所利用的给定的比特宽度ShiftA2,通过下式而导出第2标准化移位值iScaleShiftA2。所导出的第2标准化移位值iScaleShiftA2被输出至基于表的LM参数a导出部3104164。
iScaleShiftA2=Max(0,Floor(Log2(Abs(a2)))-(ShiftA2-1))式(B-14)
另外,Floor(Log2(Abs(x)))在将a2保存至32比特寄存器时,利用从比特串的左侧Leftmostbit起观看为0连续的数即NumberofLeadingZero(NLZ),能够通过
Floor(Log2(Abs(x)))=32-NLZ(x)-1
来求出。另外,在利用64比特寄存器的情况下,能够通过64-NLZ(x)-1来导出。
另外,由于NLZ的导出需要比较复杂的计算,因此优选数少。
LM第1参数标准化移位部3104162根据第2标准化移位值iScaleShiftA2,通过下式来导出第1标准化移位值iScaleShiftA1。所导出的第1标准化移位值iScaleShiftA1被输出至基于表的LM参数a导出部3104164。
iScaleShiftA1=Max(0,iScaleShiftA2-offsetA1)式(B-13)
另外,offsetA1在此设为满足14以下的常数。
在上述中,通过从第2标准化移位值中减去给定的常数offsetA1,由此来导出第2标准化移位值。在此,在式(B-14)、式(B-13)中,将第1标准化移位值与第2标准化移位值两者限制为0以上。在上述中,将第2标准化移位限制为0以上之后,减去给定的常数offsetA1,并限制为0以上,由此来导出第1标准化移位值,但也可以在将第2标准化移位限制为0以上之前先减去给定的常数offsetA1,然后限制为0以上,由此来导出第1标准化移位值。
在上述中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。即,能够避免如运算量比较大的下式(B-13′)那样求出第1标准化参数。
iScaleShiftA1=Max(0,Floor(Log2(Abs(a1)))-(31-ShiftA1-1))式(B-13′)
LM第1参数标准化移位部3104162、LM第2参数标准化移位部3104163通过第1标准化移位值iScaleShiftA1使第1参数a1右移位,通过第2标准化移位值iScaleShiftA2使第2参数a2右移位,由此来导出标准化第1参数a1s与标准化第2参数a2s。
a1s=a1>>iScaleShiftA1式(B-15)
a2s=a2>>iScaleShiftA2式(B-16)
由此,标准化第1参数a1s与标准化第2参数a2s分别被标准化为0~2的ShiftA1乘方-1、0~2的ShiftA2乘方-1之间的值。
基于表的LM参数a导出部3104164基于第1标准化移位值iScaleShiftA1与第2标准化移位值iScaleShiftA2的差值,通过下式来导出参数a移位值iScaleShiftA。
ScaleShiftA=ShiftA1+iScaleShiftA2-iScaleShiftA1-iShift式(B-18)
其中,由于iScaleShiftA1=Max(0,iScaleShiftA2-offsetA1),因此可获得下式。
ScaleShiftA<=ShiftA1+iScaleShiftA2-(iScaleShiftA2-offsetA1)-iShift
ScaleShiftA<=ShiftA1+offsetA1-iShift
由于offsetA1为0以上、固定移位值iShift为5~8比特、ShiftA1为14比特~15比特,因此ScaleShiftA始终为0以上。在ScaleShiftA小于0的情况下,根据ScaleShiftA为0以上还是小于0来进行分支,如果ScaleShiftA为0以上,则需要以ScaleShiftA的值进行右移位,如果ScaleShiftA小于0,则需要以ScaleShiftA的绝对值(=-ScaleShiftA)的值进行左移位,但在上述的构成中是不需要的。
即,在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在相乘倒数表之后移位时所利用的ScaleShiftA始终为0以上。因而,无需与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
基于表的LM参数a导出部3104164参照根据标准化第2参数a2s而规定的倒数表值invTable,取与标准化第1参数a1s之积,以表移位值(ScaleShiftA)进行右移位,由此根据下式来导出参数a。
a=(a1s*invTable[a2s])>>(ScaleShiftA)式(B-19)
参数a的值为第1参数a1与第2参数a2之比(相当于使a1/a2左移位固定移位值iShift的值)。
所导出的参数a被输出至LM参数b导出部310417与LM预测滤波器部31042。
LM参数b导出部310417通过从相邻色差图像的像素值之和Y之中减去在相邻亮度图像的像素值之和X上相乘参数a后右移位固定移位值iShift的值所得的值,除以参照区域的像素数,由此根据下式来导出参数b。
b=(Y-((a*X)>>iShift)+(1<<(iCountShift-1)))>>iCountShift式(B-20)
另外,iCountShift的右移位相当于除以参照区域的像素数。
LM预测滤波器部31042利用LM参数估计部31041导出的估计参数,根据LM预测前的预测图像predSamples[]来导出LM预测后的预测图像predSamples′[]。例如,在通过式(B-20)来导出参数b的情况下,利用下式。
predSamples′[x][y]=(a*predSamples[x][y]>>iShift)+b式(B-21)
另外,也可以取代LM参数b导出部310417而利用LM参数b导出部310417的其他构成即LM参数b导出部310417′。在此情况下,也可以通过从使相邻色差图像的像素值之和Y左移位固定移位值iShift而得到的值之中减去在相邻亮度图像的像素值之和X上相乘参数a的值所得的值,除以参照像素的数,由此根据下式来导出参数b。
b=((Y<<iShift)-((a*X))+(1<<(iCountShift-1)))>>iCountShift式(B-20′)
另外,在像素的比特深度为8比特的情况下,像素值x的范围成为8比特非负变量的范围,参数a的范围也成为8比特非负变量的范围,因此,在软件中能够通过最小的比特数即8比特非负变量(在C语言中为unsignedchar)彼此的运算来运算。8比特非负变量在利用例如128比特寄存器的SIMD运算中,能够将16个同时保存在寄存器中进行运算。即,通过将16个像素同时进行处理,因此起到高速化的效果。
在取代LM参数b导出部310417而利用LM参数b导出部310417的其他构成即LM参数b导出部310417′的情况下,取代LM预测滤波器部31042而利用LM预测滤波器部31042的其他构成即LM预测滤波器部31042′。LM预测滤波器部31042′根据LM预测前的预测图像predSamples[],通过下式来导出LM预测后的预测图像predSamples′[]。
predSamples′[x][y]=(a*predSamples[x][y]+b>>iShift)式(B-21′)
(LM预测部3104的变形例)
另外,LM预测部3104也可以还具备LM正则化项加法运算部310418。图17是表示LM正则化项加法运算部310418的构成的框图。LM正则化项加法运算部310418由正则化项导出部3104180以及LM第2参数正则化项加法运算部3104182构成。所谓正则化项,在基于最小平方法的预测参数导出中,是在目标函数中被作为参数成本(Parameterscost)进行加法运算的项。
正则化项导出部3104180导出正则化项acost。
acost=XX>>ashift式(E-1)
另外,ashift是用于调整正则化项的大小的固定值。
LM第2参数正则化项加法运算部3104182在用于导出第2参数的参数(例如XX)上相加正则化项。
XX=XX+acost式(E-3)
通过在成为导出参数a时的分母的第2参数上相加正则化项,从而参数a接近0。在相邻色差图像的像素值y与相邻亮度图像的像素值x的相关较弱的情况下,正则化项的影响变强,在相关较强的情况下,正则化项的影响变弱。在相当于线性预测的倾斜的参数a为0的情况下,仅成为相当于线性预测的偏移成分的参数b。对于偏移成分的估计值,与倾斜成分的估计值相比较为稳健,因此在相关较弱的情况下仅成为偏移成分,结果整体上提高了估计精度。
另外,也可以由LM第2参数导出部310415来进行正则化项的加法运算。在此情况下,第2参数取代式(B-8)而通过下式来导出。
a2=((XX+acost)<<iCountShift)-(X*X);式(E-3′)
在上述LM参数估计部31041的构成中,在将根据相邻亮度图像的像素值的平方之和XX与相邻亮度图像的像素值之和X的平方的差值而导出的第2参数a2进行导出时,相加正则化项acost。由于通过正则化项而估计的参数变得稳健,因此起到LM预测的效果得以提高的效果。
(LM预测部3104的其他变形例)
另外,LM预测部3104也可以具备与LM正则化项加法运算部310418不同的LM正则化项加法运算部310418R。作为LM参数估计部31041的变形例,也可以采用利用以下那样的正则化项的LM参数估计部31041R。LM参数估计部31041R具备:LM第1参数导出部310414R、LM第2参数导出部310415R、以及LM正则化项导出部3104180R。
LM正则化项导出部3104180R导出正则化项acostX、acostY。
acostX=X<<ashiftX式(E-1X)
acostY=Y<<ashiftY式(E-1Y)
另外,ashiftX、ashiftY是用于调整正则化项的大小的值
LM第1参数导出部310414R以及LM第2参数导出部310415R利用由LM正则化项导出部3104180R导出的正则化项,如以下那样导出第1参数与第2参数。
a1=((XY+acostY)<<iCountShift)-(X*Y);式(E-3″)
a2=((XX+acostX)<<iCountShift)-(X*X);式(E-3″)
上述以外的LM第1参数导出部310414R以及LM第2参数导出部310415R的动作与LM第1参数导出部310414以及LM第2参数导出部310415相同。
根据以上的构成,在相当于导出参数a时的分子的第1参数参数a1的导出中,相加根据相邻色差成分之和Y而导出的正则化项acostY,在相当于导出参数a时的分母的第2参数参数a2的导出中,相加根据相邻亮度成分之和X而导出的正则化项acostX。一般而言,根据像素之和而导出的1次项即X、Y要比根据像素的乘积之和而导出的2次项即XX、YY更稳健,因此如上所述,将由LM加法运算值导出部310413导出的1次项即相邻色差成分之和Y与相邻亮度成分之和X,分别作为正则化项而相加到第1参数a1、第2参数a2上,从而第1参数a1与第2参数a2之比所对应的参数a也变得稳健。由于通过正则化项而估计的参数变得稳健,因此起到LM预测的效果得以提高的效果。
(LM预测部3104A)
以下,说明LM预测部3104的变形例即LM预测部3104A。LM预测部3104A是与LM预测部3104大致相同的构成,但取代LM参数a导出部310416而利用LM参数a导出部310416A。以下,说明LM参数a导出部310416A。
图18是表示LM参数a导出部310416A的构成的框图。LM参数a导出部310416A由LM第1参数限制部3104161、LM第1参数标准化移位部3104162、LM第2参数标准化移位部3104163A、以及除法运算LM参数a导出部3104165A构成。LM第1参数限制部3104161如已经说明过的那样,因此省略说明。
LM第2参数标准化移位部3104163A在已经说明的LM第2参数标准化移位部3104163中,设为ShiftA2=7而导出第2标准化移位值iScaleShiftA2。
LM第1参数标准化移位部3104162如已经说明的那样,根据第2标准化移位值iScaleShiftA2,通过下式来导出第1标准化移位值iScaleShiftA1。所导出的第1标准化移位值iScaleShiftA1被输出至除法运算LM参数a导出部3104165A。
除法运算LM参数a导出部3104165A基于第1标准化移位值iScaleShiftA1与第2标准化移位值iScaleShiftA2的差值,根据下式来导出参数a移位值iScaleShiftA。
ScaleShiftA=ShiftA1+iScaleShiftA2-iScaleShiftA1-iShift式(B-18)
进而,除法运算LM参数a导出部3104165A通过下式来导出参数a。
tb=(16318+a2s/2)/a2s式(B-19′)
a=(a1s*tb)>>ShiftA式(B-19″)
即,利用标准化第2参数a2s,通过给定的常数16318与a2/2之和除以a2s(在此,在对整数以下进行舍去小数即小数点运算的情况下,在除法运算后进行Floor),由此来导出中间参数tb。进而,使中间参数与标准化第1参数a1s之积以ShiftA进行右移位,由此来导出参数a。
另外,通过ShiftA1=14、ShiftA2=7来生成图14的表,通过下式也能够导出参数a。
a=(a1s*invTable[a2s])>>(ScaleShiftA)式(B-19)
在以上的构成的LM预测部3104A中,通过被选择为能够实现与运动矢量的缩放相同的处理的、按照给定的常数ShiftA1=14、ShiftA2=7而导出的第1标准化移位值iScaleShiftA1、第2标准化移位值iScaleShiftA2,使第1参数a1、第2参数a2右移位,由此来导出第1标准化参数a1s、第2标准化参数a2s。然后,通过上述的处理来导出中间参数tb,进而导出参数a。由此,在LM预测中也能够利用与运动矢量相同的缩放,因此起到降低安装规模的效果。
此外,在上述中,第1标准化移位值与第2标准化移位值两者均根据第2参数a2的大小来导出。具体而言,由于利用第2标准化移位值来导出第1标准化移位值,因此与根据第2参数a1的大小来导出第1标准化移位值并根据第2参数a2的大小来导出第2标准化移位值的情况相比,起到导出第1标准化参数的处理变得容易的效果。
此外,在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在乘以倒数表之后移位时所利用的ScaleShiftA始终为0以上。因而,不需要与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
(LM预测部3104H)
以下,说明LM预测部3104的变形例即LM预测部3104H。
图19是表示LM预测部3104H的构成的框图。LM预测部3104由LM参数估计部31041H以及LM预测滤波器部31042构成。
LM参数估计部31041H由LM加法运算值导出部310413、LM第1参数导出部310414H、LM第2参数导出部310415H、LM参数a导出部310416、以及LM参数b导出部310417构成。另外,对于与LM参数估计部31041相同编号的单元,由于构成相同,因此省略说明。
LM加法运算值导出部310413、LM参数a导出部310416、LM参数b导出部310417由于与已经说明过的单元相同,因此省略说明。
LM第1参数导出部310414H根据相邻色差图像的像素值y之和Y,通过下式来导出第1参数a1。
a1=Y;式(B-7′)
LM第2参数导出部310415H根据相邻亮度图像的像素值x之和X,通过下式来导出第2参数a2。
a2=X;式(B-8′)
所导出的第1参数a1与第2参数a2被输出至LM参数a导出部310416。
LM预测部3104H与LM预测部3104相比较,不具备导出像素的乘积之和的2次项的乘法运算值导出部310412,仅具备导出像素之和的1次项的加法运算值导出部310413。因而,能够以比较容易的处理来导出LM参数。但是,利用2次项的LM预测部3104的编码效率更高。
此外,在LM预测部3104H中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。
另外,在图像的比特深度为10bit以下的情况下,参数a导出部310416也可以是不具备第1参数标准化移位部3104162的构成。即,设为iScaleShiftA1=0,如下式(B-15′)那样,作为标准化第1参数a1s而利用第1参数即可。
a1s=a1式(B-15′)
这如以下式子所述。
在图像的比特深度为bitDepth的情况下,第1参数a1根据像素值的比特深度bitDepth以及参照像素数的最大值128的2的对数7之和,以bitDepth+7以下的比特数来处理。由于倒数表值的最大值为2的ShiftA1乘方,因此乘积为32比特以下的条件为bitDepth+7+ShiftA1<=32。
如果进行变形,则可获得以下式。
bitDepth<=25-ShiftA1
在ShiftA1为14、15的情况下,如果bitDepth<=10,则满足该式,因此在像素的比特深度为10bit以下的情况下,无需第1参数标准化移位部3104162。
(LM预测部3104H的变形例)
LM预测部3104H也可以还具备LM正则化项加法运算部310418H。LM正则化项加法运算部310418H根据相邻亮度图像的像素值x之和X来导出正则化项acost。
acost=X>>ashift式(E-1′)
这里,ashift为给定的常数,用于通过右移位来调整正则化项acost的大小。
另外,在通常的图像中,由于相邻亮度图像的像素值x之和X与相邻色差图像的像素值y之和Y大致相等,因此也可以根据相邻色差图像的像素值y之和Y来导出正则化项acost。
acost=Y>>ashift式(E-1″)
LM正则化项加法运算部310418E在用于导出第2参数的参数(例如X)上相加正则化项。
X=X+acost式(H-3)
另外,正则化项的加法运算也可以由LM第1参数导出部310414H以及LM第2参数导出部310415H来进行。在该情况下,第2参数取代式(B-8′)而通过下式来导出。
a2=X+acost式(E-3″)
在上述LM参数估计部31041H的构成中,通过将正则化项与第2参数a2相加之后算出相当于第1参数a1与第2参数a2之比的值的参数a,从而在有误差值等的情况下,所估计的参数变得稳健,起到编码效率得以提高的效果。另外,正则化项既可以根据相邻亮度图像的像素值x之和X来生成,也可以根据相邻色差图像的像素值y之和Y来生成。
(LM预测部3104HA)
以下,说明LM预测部3104的变形例即LM预测部3104HA。LM预测部3104HA具有与LM预测部3104H大致相同的构成,但能够取代LM参数a导出部310416而利用LM参数a导出部310416A。另外,包含LM参数a导出部310416A在内的构成要素由于已经说明过,因此省略说明。
LM参数a导出部310416A不同于LM参数a导出部310416,虽然在参数a的导出中利用了除法运算,但该除法运算与在运动矢量的缩放中所利用的以下的处理相同,因此起到使得安装规模降低的效果。
在上述中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。
此外,在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在相乘倒数表后进行移位时所利用的ScaleShiftA始终为0以上。因而,无需与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
逆量化/逆DCT部311对从熵解码部301输入的量化系数进行逆量化,求出DCT系数。逆量化/逆DCT部311针对求出的DCT系数进行逆DCT(InverseDiscreteCosineTransform、逆离散余弦变换),算出解码残差信号。逆量化/逆DCT部311将算出的解码残差信号输出至加法运算部312以及残差保存部313。
加法运算部312按照每个像素来相加从帧间预测图像生成部309以及帧内预测图像生成部310输入的预测图片块P与从逆量化/逆DCT部311输入的解码残差信号的信号值,来生成参照图片块。加法运算部312将生成的参照图片块存储至参照图片存储器306,将所生成的参照图片块按照每个图片进行了综合后的解码层图像Td输出至外部。
(帧间预测参数解码部的构成)
接下来,说明帧间预测参数解码部303的构成。
图6是表示本实施方式所涉及的帧间预测参数解码部303的构成的简要图。帧间预测参数解码部303构成为包含:帧间预测参数解码控制部3031、AMVP预测参数导出部3032、加法运算部3035以及合并预测参数导出部3036。
帧间预测参数解码控制部3031对熵解码部301指示与帧间预测关联的码(语法要素)的解码,针对编码数据中所含的码(语法要素),例如提取分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idcinter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX。
帧间预测参数解码控制部3031首先提取合并标志。帧间预测参数解码控制部3031表现为提取某语法要素的情况,意味着:对熵解码部301指示某语法要素的解码,从编码数据中读出相应的语法要素。在此,在合并标志所表示的值为1、即表示合并预测模式的情况下,帧间预测参数解码控制部3031作为合并预测所涉及的预测参数而提取合并索引merge_idx。帧间预测参数解码控制部3031将提取出的合并索引merge_idx输出至合并预测参数导出部3036。
在合并标志merge_flag为0、即表示AMVP预测模式的情况下,帧间预测参数解码控制部3031利用熵解码部301而从编码数据中提取AMVP预测参数。作为AMVP预测参数,例如有帧间预测标志inter_pred_idc、参照图片索引refIdxLX、矢量索引mvp_LX_idx、差分矢量mvdLX。帧间预测参数解码控制部3031将根据提取出的帧间预测标志inter_pred_idcinter_pred_idc而导出的预测列表利用标志predFlagLX与参照图片索引refIdxLX输出至AMVP预测参数导出部3032以及预测图像生成部308(图5),并存储至预测参数存储器307(图5)。帧间预测参数解码控制部3031将提取出的矢量索引mvp_LX_idx输出至AMVP预测参数导出部3032。帧间预测参数解码控制部3031将提取出的差分矢量mvdLX输出至加法运算部3035。
图7是表示本实施方式所涉及的合并预测参数导出部3036的构成的简要图。合并预测参数导出部3036具备:合并候选导出部30361以及合并候选选择部30362。合并候选导出部30361构成为包含:合并候选保存部303611、扩展合并候选导出部303612以及基本合并候选导出部303613。
合并候选保存部303611保存从扩展合并候选导出部303612以及基本合并候选导出部303613输入的合并候选。另外,合并候选构成为包含:预测列表利用标志predFlagLX、矢量mvLX、参照图片索引refIdxLX。在合并候选保存部303611中,按照给定的规则,对于保存的合并候选分配索引。例如,对于从扩展合并候选导出部303612输入的合并候选,作为索引而分配“0”。
扩展合并候选导出部303612构成为包含:位移矢量获取部3036122、帧间层合并候选导出部3036121以及帧间层位移合并候选导出部3036123。
位移矢量获取部3036122首先从与解码对象块相邻的多个候选块(例如与左、上、右上相邻的块)依次获取位移矢量。具体而言,选择一个候选块,利用候选块的参照图片索引refIdxLX,通过参考层判定部303111(后述)来判定选择出的候选块的矢量是位移矢量还是运动矢量,在有位移矢量的情况下,将其设为位移矢量。在候选块中不具有位移矢量的情况下,依次扫描下一个候选块。在相邻的块中不具有位移矢量的情况下,位移矢量获取部3036122尝试时间上不同的显示顺序的参照图片中所含的块的对象块所对应的位置的块的位移矢量的获取。在未获取到位移矢量的情况下,位移矢量获取部3036122作为位移矢量而设定零矢量。位移矢量获取部3036122将位移矢量输出至帧间层合并候选导出部3036121以及帧间层位移合并候选导出部。
帧间层合并候选导出部3036121从位移矢量获取部3036122被输入位移矢量。帧间层合并候选导出部3036121从具有与其他层(例如基础层、基础视图)的解码对象图片相同的POC的图片内,选择仅从位移矢量获取部3036122输入的位移矢量所表示的块,从预测参数存储器307中读出该块所具有的运动矢量即预测参数。更具体而言,帧间层合并候选导出部3036121读出的预测参数是在以对象块的中心点为起点时包含起点的坐标相加位移矢量所得的坐标的块的预测参数。
参照块的坐标(xRef,yRef),在对象块的坐标为(xP,yP)、位移矢量为(mvDisp[0],mvDisp[1])、对象块的宽度和高度为nPSW、nPSH的情况下,通过下式来导出。
xRef=Clip3(0,PicWidthInSamplesL-1,xP+((nPSW-1)>>1)+((mvDisp[0]+2)>>2))
yRef=Clip3(0,PicHeightInSamplesL-1,yP+((nPSH-1)>>1)+((mvDisp[1]+2)>>2))
另外,帧间层合并候选导出部3036121通过在帧间预测参数解码控制部3031中所含的后述的参考层判定部303111的判定方法中判定为伪(不是位移矢量)的方法,来判定预测参数是否为运动矢量。帧间层合并候选导出部3036121将读出的预测参数作为合并候选而输出至合并候选保存部303611。此外,帧间层合并候选导出部3036121在无法导出预测参数时,将其主旨输出至帧间层位移合并候选导出部。本合并候选为运动预测的帧间层候选(帧间视图候选),也记载为帧间层合并候选(运动预测)。
帧间层位移合并候选导出部3036123从位移矢量获取部3036122被输入位移矢量。帧间层位移合并候选导出部3036123将被输入的位移矢量与位移矢量所指代的目的地的层图像的参照图片索引refIdxLX(例如具有与解码对象图片相同的POC的基础层图像的索引)作为合并候选而输出至合并候选保存部303611。本合并候选为位移预测的帧间层候选(帧间视图候选),也记载为帧间层合并候选(位移预测)。
基本合并候选导出部303613构成为包含:空间合并候选导出部3036131、时间合并候选导出部3036132、结合合并候选导出部3036133以及零合并候选导出部3036134。
空间合并候选导出部3036131按照给定的规则,读出预测参数存储器307所存储的预测参数(预测列表利用标志predFlagLX、矢量mvLX、参照图片索引refIdxLX),并将读出的预测参数作为合并候选来导出。读出的预测参数为处于根据解码对象块而预先规定的范围内的块(例如与解码对象块的左下端、左上端、右上端分别相邻的块的全部或者一部分)的各自所涉及的预测参数。导出的合并候选被保存至合并候选保存部303611。
时间合并候选导出部3036132从预测参数存储器307中读出解码对象块的包含右下的坐标的参照图像中的块的预测参数,并作为合并候选。参照图像的指定方法,例如既可以为放置在切片头部中被指定的参照图片索引refIdxLX,也可以利用与解码对象块相邻的块的参照图片索引refIdxLX之中最小的索引来指定。所导出的合并候选被保存至合并候选保存部303611。
结合合并候选导出部3036133将已被导出并被保存至合并候选保存部303611中的两个不同的导出完毕合并候选的矢量和参照图片索引分别作为L0、L1的矢量来组合,由此来导出结合合并候选。所导出的合并候选被保存至合并候选保存部303611。
零合并候选导出部3036134导出参照图片索引refIdxLX为0、矢量mvLX的X成分及Y成分均为0的合并候选。所导出的合并候选被保存至合并候选保存部303611。
合并候选选择部30362将合并候选保存部303611所保存的合并候选之中、与从帧间预测参数解码控制部3031输入的合并索引merge_idx对应的索引被分配的合并候选,作为对象PU的帧间预测参数来选择。合并候选选择部30362将选择出的合并候选存储至预测参数存储器307(图5),并且输出至预测图像生成部308(图5)。
图8是表示本实施方式所涉及的AMVP预测参数导出部3032的构成的简要图。AMVP预测参数导出部3032具备矢量候选导出部3033以及预测矢量选择部3034。矢量候选导出部3033基于参照图片索引refIdx,将预测参数存储器307(图5)所存储的矢量(运动矢量或者位移矢量)作为矢量候选mvpLX来读出。所读出的矢量是处于根据解码对象块而预先规定的范围内的块(例如与解码对象块的左下端、左上端、右上端分别相邻的块的全部或者一部分)的各自所涉及的矢量。
预测矢量选择部3034将矢量候选导出部3033读出的矢量候选之中、从帧间预测参数解码控制部3031输入的矢量索引mvp_LX_idx所表示的矢量候选,选择为预测矢量mvpLX。预测矢量选择部3034将选择出的预测矢量mvpLX输出至加法运算部3035。
图9是表示矢量候选的一例的概念图。图9所示的预测矢量列表602是由在矢量候选导出部3033中导出的多个矢量候选构成的列表。在预测矢量列表602中,左右排列为一列的5个长方形分别表示代表预测矢量的区域。从左端起第2个mvp_LX_idx的正下方的朝下的箭头和其下的mvpLX表示:矢量索引mvp_LX_idx是在预测参数存储器307中参照矢量mvpLX的索引。
对于候选矢量,参照解码处理已完成的块且根据解码对象块而预先规定的范围内的块(例如相邻块),并基于参照的块所涉及的矢量而生成。另外,在相邻块中,除了包含与对象块在空间上相邻的块、例如左块、上块之外,还包含与对象块在时间上相邻的块、例如从位置与对象块相同但显示时刻不同的块中获得的块。
加法运算部3035对从预测矢量选择部3034输入的预测矢量mvpLX与从帧间预测参数解码控制部输入的差分矢量mvdLX进行加法运算,来算出矢量mvLX。加法运算部3035将算出的矢量mvLX输出至预测图像生成部308(图5)。
帧间预测参数解码控制部3031构成为包含:追加预测标志解码部30311、合并索引解码部30312、矢量候选索引解码部30313、以及未图示的、分割模式解码部、合并标志解码部、帧间预测标志解码部、参照图片索引解码部、矢量差分解码部。分割模式解码部、合并标志解码部、合并索引解码部、帧间预测标志解码部、参照图片索引解码部、矢量候选索引解码部30313、矢量差分解码部分别解码:分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX。
追加预测标志解码部30311解码表示是否进行追加预测的标志。追加预测在此是照度补偿和残差预测。追加预测标志解码部30311对表示是否进行照度补偿的标志即照度补偿标志ic_enable_flag以及表示是否进行残差预测的标志即残差预测标志res_pred_flag解码,并输出至帧间预测图像生成部309。另外,照度补偿以及残差预测仅限于分割模式PartMode为2N×2N的情况来进行处理。因此,追加预测标志解码部30311针对照度补偿标志ic_enable_flag以及残差预测标志res_pred_flag,在分割模式PartMode为2N×2N的情况下,解码值,在除此之外的情况下,设定为ic_enable_flag=0、res_pred_flag=0。
位移矢量获取部在与对象PU相邻的块具有位移矢量的情况下,从预测参数存储器307中提取该位移矢量,参照预测参数存储器307,读出与对象PU相邻的块的预测标志predFlagLX、参照图片索引refIdxLX以及矢量mvLX。位移矢量获取部在内部具备参考层判定部303111。位移矢量获取部依次读出与对象PU相邻的块的预测参数,利用参考层判定部303111,根据相邻块的参照图片索引来判定相邻块是否具备位移矢量。在相邻块具备位移矢量的情况下,输出该位移矢量。在相邻块的预测参数不具备位移矢量的情况下,将零矢量作为位移矢量来输出。
(参考层判定部303111)
参考层判定部303111基于所输入的参照图片索引refIdxLX,来规定表示参照图片索引refIdxLX所指代的参照图片与对象图片的关系的参考层信息reference_layer_info。参考层信息reference_layer_info是表示对于参照图片的矢量mvLX是位移矢量还是运动矢量的信息。
将对象图片的层与参照图片的层为相同层的情况下的预测称作同一层预测,此情况下获得的矢量为运动矢量。将对象图片的层与参照图片的层为不同层的情况下的预测称作帧间层预测,此情况下获得的矢量为位移矢量。
(帧间预测图像生成部309)
图11是表示本实施方式所涉及的帧间预测图像生成部309的构成的简要图。帧间预测图像生成部309构成为包含:运动位移补偿部3091、残差预测部3092、照度补偿部3093、以及权重预测部3094。
(运动位移补偿)
运动位移补偿部3091基于从帧间预测参数解码部303输入的、预测列表利用标志predFlagLX、参照图片索引refIdxLX以及运动矢量mvLX,从参照图片存储器306中读出处于以由参照图片索引refIdxLX所指定的参照图片的对象块的位置为起点而偏离了矢量mvLX的位置处的块,由此来生成运动位移补偿图像。在此,在矢量mvLX不是整数矢量的情况下,施加被称作运动补偿滤波(或位移补偿滤波)的用于生成小数位置的像素的滤波,来生成运动位移补偿图像。一般而言,在矢量mvLX为运动矢量的情况下,将上述处理称作运动补偿,在位移矢量的情况下称作位移补偿。在此,总称表现为运动位移补偿。以下,将L0预测的运动位移补偿图像称作predSamplesL0,将L1预测的运动位移补偿图像称作predSamplesL1。在不区分两者的情况下,称作predSamplesLX。以下,说明对由运动位移补偿部3091获得的运动位移补偿图像predSamplesLX进一步进行残差预测以及照度补偿的例子,但这些输出图像也还称作运动位移补偿图像predSamplesLX。另外,在以下的残差预测以及照度补偿中区分输入图像与输出图像的情况下,将输入图像表现为predSamplesLX,将输出图像表现为predSamplesLX′。
(残差预测)
残差预测部3092,在残差预测标志res_pred_flag为1的情况下,针对所输入的运动位移补偿图像predSamplesLX来进行残差预测。在残差预测标志res_pred_flag为0的情况下,将所输入的运动位移补偿图像predSamplesLX直接输出。利用从帧间预测参数解码部303输入的位移矢量mvDisp和残差保存部313中所保存的残差refResSamples,针对由运动位移补偿部3091获得的运动位移补偿图像predSamplesLX来进行残差预测。残差预测是通过将与作为预测图像生成的对象的对象层(第2层图像)不同的参照层(第1层图像)的残差相加到对象层的预测后的图像即运动位移补偿图像predSamplesLX上,由此来进行的。即,假定与参照层同样的残差也在对象层中产生,将已经导出的参照层的残差作为对象层的残差的估计值来利用。在基础层(基础视图)中,只有相同层的图像成为参照图像。因此,在参照层(第1层图像)为基础层(基础视图)的情况下,由于参照层的预测图像为基于运动补偿的预测图像,因此在基于对象层(第2层图像)的预测中,在是基于运动补偿的预测图像的情况下,残差预测也是有效的。即,残差预测具有在对象块为运动补偿的情况下也有效的特性。
残差预测部3092由未图示的残差获取部30921以及残差滤波器部30922构成。图12是用于说明残差预测的图。与对象层上的对象块对应的对应块位于如下块中,即:位于以参照层上的图像的对象块的位置为起点而偏离了表示参照层与对象层的位置关系的矢量即位移矢量mvDisp之后的位置处的块。因此,用于残差预测的残差利用的是处于偏离了位移矢量mvDisp后的位置处的残差。具体而言,残差获取部30921导出使对象块的像素的坐标(x,y)偏离了对象块的位移矢量mvDisp的整数像素成分后的位置的像素。考虑位移矢量mvDisp为小数精度,残差获取部30921通过下式来导出与对象块的像素的坐标为(xP,yP)的情况对应的像素R0的X坐标xR0与像素R0的相邻像素R1的X坐标xR1。
xR0=Clip3(0,PicWidthInSamplesL-1,xP+x+(mvDisp[0]>>2))
xR1=Clip3(0,PicWidthInSamplesL-1,xP+x+(mvDisp[0]>>2)+1)
在此,Clip3(x,y,z)是将z限制(clip)为x以上且y以下的函数。另外,mvDisp[0]>>2是在1/4佩尔精度的矢量中导出整数成分的式。
残差获取部30921根据由位移矢量mvDisp所指定的坐标的小数像素位置(mvDisp[0]-((mvDisp[0]>>2)<<2)),通过下式来导出像素R0的权重系数w0与像素R1的权重系数w1。
w0=4-mvDisp[0]+((mvDisp[0]>>2)<<2)
w1=mvDisp[0]-((mvDisp[0]>>2)<<2)
接着,残差获取部30921从残差保存部313中,通过refResSamplesL[xR0,y]、refResSamplesL[xR1,y]来获取像素R0、像素R1的残差。残差滤波器部30922按下式来导出估计残差deltaL。
deltaL=(w0*Clip3(xmin,xmax,refResSamplesL[xR0,y])+w1*Clip3(xmin,xmax,refResSamplesL[xR1,y]+2))>>2
其中,xmin=-(1<<(BitDepthY-1))、xmax=(1<<(BitDepthY-1))-1。残差获取部30921在读出参照层的残差时,限制在收敛于给定的比特宽度的范围之后进行读出。例如,在将比特深度设为BitDepthY的情况下,将refResSamplesL[xR0,y]、refResSamplesL[xR1,y]限制为-(1<<(BitDepthY-1))~+(1<<BitDepthY-1)-1,读出残差。另外,在上述的说明中,虽然比特深度中利用了亮度的比特深度bitDepthY,但在读出色差的残差的情况下,也进行同样的限制处理。在此情况下,将比特深度置换为色差的比特深度bitDepthC来进行处理(以下相同)。
对于上述处理,在位移矢量mvDisp具有小数精度的情况下,通过线性插补来导出像素,但也可以不利用线性插补而利用附近的整数像素。具体而言,残差获取部30921也可以作为与对象块的像素对应的像素而仅获取像素xR0,利用下式来导出估计残差deltaL。
deltaL=Clip3(xmin,xmax,refResSamplesL[xR0,y])
在上述估计残差deltaL的导出后,残差滤波器部30922在被输入至残差预测部3092的运动位移图像predSamplesLX上相加估计残差deltaL,作为运动位移图像predSamplesLX′来输出。
predSamplesLX′[x,y]=predSamplesLX[x,y]+deltaL
(照度补偿)
照度补偿部3093,在照度补偿标志ic_enable_flag为1的情况下,针对所输入的运动位移补偿图像predSamplesLX来进行照度补偿。在照度补偿标志ic_enable_flag为0的情况下,将所输入的运动位移补偿图像predSamplesLX直接输出。被输入至照度补偿部3093的运动位移补偿图像predSamplesLX,在残差预测为关断的情况下是运动位移补偿部3091的输出图像,在残差预测启动的情况下是残差预测部3092的输出图像。
照度参数估计部30931求出用于根据参照块的像素来估计对象块(对象预测单位)的像素的估计参数。图13是用于说明照度补偿的图。在图13中示出对象块的周围的像素L、以及处于从对象块偏离了位移矢量的位置处的参照层图像上的参照块(对应块)的周围的像素C的位置。
照度参数估计部30931根据上述对象块的周围的像素L(L0~LN-1)与上述参照块的周围的像素C(C0~CN-1)来求出估计参数(照度变化参数)。
以下,说明照度补偿部3093及其变形例的详细内容。
(照度补偿部3093)
图20是表示照度补偿部3093的构成的框图。照度补偿部3093由照度参数估计部30931以及照度补偿滤波器部30932构成。照度参数估计部30931由乘法运算值导出部309312、加法运算值导出部309313、第1参数导出部309314、第2参数导出部309315、参数a导出部309316、以及参数b导出部309317构成。
照度参数估计部30931将图13所示的参照层图像上的参照块的周围的像素C设为参照图像的像素值x[],将对象层图像上的对象块的周围的像素L设为相邻解码图像的像素值y[],基于这些参照图像的像素值x[]与相邻解码图像的像素值y[],导出根据参照图像的像素值x对相邻解码图像的像素值y[]进行线性预测的情况下的参数即参数a、参数b。
加法运算值导出部309313通过以下的式(B-2)、式(B-3)来导出相邻解码图像的像素值y之和Y与参照图像的像素值x之和X。
乘法运算值导出部309312通过以下的式(B-4)~(B-5)来导出相邻解码图像的像素值y与参照图像的像素值x的乘积之和XY、以及参照图像的像素值的平方之和XX。在以下的和运算之前,X、Y、XY、XX初始化为0。
X=∑x[i]式(B-2)
Y=∑y[i]式(B-3)
XX+=∑(x[i]*x[i])式(B-4)
XY+=∑(y[i]*y[i])式(B-5)
在此,∑是针对参照区域的和,导出对于确定参照区域的像素的索引i的和。y[i]为相邻解码图像的索引i下的像素值。x[i]为参照图像的索引i下的像素值。
iCountShift=log2(参照区域的像素数)式(B-6)
第1参数导出部309314利用相邻解码图像的像素值y与参照图像的像素值x的乘积之和XY、以及相邻解码图像的像素值之和Y与参照图像的像素值之和X的乘积的差值,通过下式来导出第1参数a1。
a1=(XY<<iCountShift)-(Y*X);式(B-7)
第2参数导出部309315利用参照图像的像素值的平方之和XX与参照图像的像素值之和X的平方的差值,通过下式来导出第2参数a2。
a2=(XX<<iCountShift)-(X*X)>>precShift;式(B-8)
如式(B-8)所示,XX左移位计数移位值iCountShift,X与X之积右移位乘法运算移位值precShift之后,算出两者的差值。
导出的第1参数a1与第2参数a2被输出至参数a导出部309316。
图21是表示参数a导出部309316的构成的框图。参数a导出部309316由第1参数限制部3093161、第1参数标准化移位部3093162、第2参数标准化移位部3093163以及基于表的参数a导出部3093164构成。
参数a导出部309316在照度补偿中的线性预测之中导出与倾斜对应的参数a。具体而言,通过以下的处理,利用整数运算来导出为使第1参数a1与第2参数a2之比整数化而左移位固定移位值的值即相当于a1/a2<<iShift的参数a。
第1参数限制部3093161根据第2参数a2的大小来限制第1参数a1。例如,如下式那样,将a1限制在0以上且a2的2倍以下。
a1=Clip3(0,2*a2,a1)式(B-12)
通过第1参数限制部3093161,根据a2的值来限制a1的值,因此其比值即a1/a2的值也被限制在0~2之间。因此,参数a的值即a1/a2<<iShift的值也被限制在0~2<<iShift。即,在iShift=6的情况下,参数a变为0~128,能够在8比特非负整数的范围内进行处理。
第2参数标准化移位部3093163根据第2参数a2的大小,针对在图14的表的导出中所利用的给定的比特宽度ShiftA2,通过下式而导出第2标准化移位值iScaleShiftA2。所导出的第2标准化移位值iScaleShiftA2被输出至基于表的参数a导出部3093164。
iScaleShiftA2=Max(0,Floor(Log2(Abs(a2)))-(ShiftA2-1))
式(B-14)
另外,Floor(Log2(Abs(x)))在将a2保存至32比特寄存器时,利用从比特串的左侧Leftmostbit起观看为0连续的数即NumberofLeadingZero(NLZ),能够通过
Floor(Log2(Abs(x)))=32-NLZ(x)-1
来求出。另外,在利用64比特寄存器的情况下,能够通过64-NLZ(x)-1来导出。
另外,由于NLZ的导出需要比较复杂的计算,因此优选数少。
第1参数标准化移位部3093162根据第2标准化移位值iScaleShiftA2,通过下式来导出第1标准化移位值iScaleShiftA1。所导出的第1标准化移位值iScaleShiftA1被输出至基于表的参数a导出部3093164。
iScaleShiftA1=Max(0,iScaleShiftA2-offsetA1)式(B-13)
另外,offsetA1在此设为满足14以下的常数。
在上述中,通过从第2标准化移位值中减去给定的常数offsetA1,由此来导出第2标准化移位值。在此,在式(B-14)、式(B-13)中,将第1标准化移位值与第2标准化移位值两者限制在0以上。在上述中,将第2标准化移位限制为0以上之后,减去给定的常数offsetA1,并限制为0以上,由此来导出第1标准化移位值,但也可以在将第2标准化移位限制为0以上之前先减去给定的常数offsetA1,然后限制为0以上,由此来导出第1标准化移位值。此外,在上述中,第1标准化移位值与第2标准化移位值两者根据第2参数a2的大小来导出。具体而言,利用第2标准化移位值来导出第1标准化移位值。因此,与根据第2参数a1的大小来导出第1标准化移位值并根据第2参数a2的大小来导出第2标准化移位值的情况相比,起到导出第1标准化参数的处理变得容易的效果。即,能够避免如运算量比较大的下式(B-13′)那样求出第1标准化参数。
iScaleShiftA1=Max(0,Floor(Log2(Abs(a1)))-(31-ShiftA1-1))式(B-13′)
另外,导出offsetA1,使得iScaleShiftA1满足下式。
首先,在式(B-19)中,为了在a1s*invTable[a2s]为32比特整数的范围(-2^31~2^31)内进行处理,需要下式成立。
a1s*invTable[a2s]<=2^31-1
其中,因为a1s=a1>>iScaleShiftA1、invTable[a2s]=Floor(2^ShiftA1+a2s/2)/a2s<=(2^ShiftA1+2^ShiftA2)/a2s),所以可获得下式。
(a1>>iScaleShiftA1)*(2^ShiftA1+2^ShiftA2)/a2s<=2^31-1
进而,因为a1<=2*a2,所以可获得下式。
((2*a2)>>iScaleShiftA1)*(2^ShiftA1+2^ShiftA2)/a2s<=2^31-1
进而,由于a2=a2s<<iScaleShiftA2,因此可获得下式。
(2*(a2s<<iScaleShiftA2)>>iScaleShiftA1)*(2^ShiftA1+2^ShiftA2)/a2s<=2^31-1
若进行变形,则可获得下式。
(2*(1<<iScaleShiftA2)>>iScaleShiftA1)*(2^ShiftA1+2^ShiftA2)<=2^31-1
若进行变形,则可获得下式。
(1<<(iScaleShiftA2-iScaleShiftA1+1))*(2^ShiftA1+2^ShiftA2)<=2^31-1
其中,若代入iScaleShiftA1=iScaleShiftA2-offsetA1,则可获得下式。
(1<<(offsetA1+1))*(2^ShiftA1+2^ShiftA2)<=2^31-1
其中,若设为2^ShiftA1+2^ShiftA2=a*2^ShiftA1来进行变形,则为:
(a<<(offsetA1+1+ShiftA1)<=2^31-1
(1<<offsetA1+1+ShiftA1)<=(2^31-1)/a
其中,如果a为が(2^31-1)/2^30以下,则为:
(1<<offsetA1+1+ShiftA1)<=2^30
因此,
offsetA1+1+ShiftA1<=2^30
结果,适合利用满足下式的offsetA1。
offsetA1<=29-ShiftA1
其中,若设ShiftA1=15,则可获得以下的条件。
offsetA1<=14
另外,a为(2^31-1)/2^30以下的条件能够如下那样变形。
a=(2^ShiftA1+2^ShiftA2)/2^ShiftA1<=(2^31-1)/2^30<=b
(2^ShiftA1+2^ShiftA2)/2^ShiftA1<=(2^31-1)/2^30
2^ShiftA1+2^ShiftA2<=(2^31-1)/2^30*2^ShiftA1
2^ShiftA2<=2^ShiftA1*((2^31-1)/2^30-1)
2^ShiftA2<=2^ShiftA1*(2^30-1)/2^30
ShiftA2<=ShiftA1+log2((2^30-1)/2^30)
因此,
ShiftA2<=ShiftA1-1.34
如果这是ShiftA1=15、ShiftA2=7这样的值,则能够容易满足。
以上,结束offsetA1的说明。以下继续。
第1参数标准化移位部3093162与第2参数标准化移位部3093163通过第1标准化移位值iScaleShiftA1使第1参数a1右移位,通过第2标准化移位值iScaleShiftA2使第2参数a2右移位,由此来导出标准化第1参数a1s与标准化第2参数a2s。
a1s=a1>>iScaleShiftA1式(B-15)
a2s=a2>>iScaleShiftA2式(B-16)
由此,标准化第1参数a1s与标准化第2参数a2s分别被标准化为0~2的ShiftA1乘方-1、0~2的ShiftA2乘方-1之间的值。
基于表的参数a导出部3093164基于第1标准化移位值iScaleShiftA1与第2标准化移位值iScaleShiftA2的差值,通过下式来导出参数a移位值iScaleShiftA。
ScaleShiftA=ShiftA1+iScaleShiftA2-iScaleShiftA1-iShift式(B-18)
其中,由于iScaleShiftA1=Max(0,iScaleShiftA2-offsetA1),因此可获得下式。
ScaleShiftA<=ShiftA1+iScaleShiftA2-(iScaleShiftA2-offsetA1)-iShift
ScaleShiftA<=ShiftA1+offsetA1-iShift
由于offsetA1为0以上、固定移位值iShift为5~8比特、ShiftA1为14比特~15比特,因此ScaleShiftA始终为0以上。
在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在相乘倒数表后移位时所利用的ScaleShiftA始终为0以上。因而,无需与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
基于表的参数a导出部3093164参照根据标准化第2参数a2s而规定的倒数表值invTable,取与标准化第1参数a1s之积,以表移位值(ScaleShiftA)进行右移位,由此根据下式来导出参数a。
a=(a1s*invTable[a2s])>>(ScaleShiftA)式(B-19)
其中,invTable[]为图14中所说明的表。
另外,已经说明过的第1参数限制部3093161与第1参数标准化移位部3093162是用于使得a1s*invTable[a2s]的值不超过32比特的处理,第2参数标准化移位部3093163是使得a2s不超过2^ShiftA2-1的处理。
参数a的值为第1参数a1与第2参数a2之比(相当于使a1/a2左移位固定移位值iShift的值)。
所导出的参数a被输出至参数b导出部309317与照度补偿滤波器部30932。
参数b导出部309317通过从相邻解码图像的像素值之和Y之中减去在参照图像的像素值之和X上相乘参数a后右移位固定移位值iShift的值所得的值,除以参照区域的像素数,由此根据下式来导出参数b。
b=(Y-((a*X)>>iShift)+(1<<(iCountShift-1)))>>iCountShift式(B-20)
另外,iCountShift的右移位相当于除以参照区域的像素数。
照度补偿滤波器部30932利用照度参数估计部30931导出的估计参数,根据照度补偿前的预测图像predSamples[]来导出照度补偿后的预测图像predSamples′[]。例如,在通过式(B-20)来导出参数b的情况下,利用下式。
predSamples′[x][y]=(a*predSamples[x][y]>>iShift)+b式(B-21)
另外,也可以取代参数b导出部309317而利用参数b导出部309317的其他构成即参数b导出部309317′。在此情况下,也可以通过从使相邻解码图像的像素值之和Y左移位固定移位值iShift的值之中减去在参照图像的像素值之和X上相乘参数a的值所得的值,除以参照像素的数,由此根据下式来导出参数b。
b=((Y<<iShift)-((a*X))+(1<<(iCountShift-1)))>>iCountShift式(B-20′)
另外,在像素的比特深度为8比特的情况下,像素值x的范围成为8比特非负变量的范围,参数a的范围也成为8比特非负变量的范围,因此,在软件中能够通过最小的比特数即8比特非负变量(在C语言中为unsignedchar)彼此的运算来运算。8比特非负变量在利用例如128比特寄存器的SIMD运算中,能够将16个同时保存在寄存器中进行运算。即,通过将16个像素同时进行处理,因此起到高速化的效果。
在取代参数b导出部309317而利用参数b导出部309317的其他构成即参数b导出部309317′的情况下,取代照度补偿滤波器部30932而利用照度补偿滤波器部30932的其他构成即照度补偿滤波器部30932′。照度补偿滤波器部30932′根据照度补偿前的预测图像predSamples[],通过下式来导出照度补偿后的预测图像predSamples′[]。
predSamples′[x][y]=(a*predSamples[x][y]+b>>iShift)式(B-21′)
在照度补偿部3093中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。
此外,在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在相乘倒数表之后移位时所利用的ScaleShiftA始终为0以上。因而,无需与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
(照度补偿部3093A)
以下,说明照度补偿部3093的变形例即照度补偿部3093A。照度补偿部3093A是与照度补偿部3093大致相同的构成,但取代参数a导出部309316而利用参数a导出部309316A。以下,仅说明参数a导出部309316A。
照度补偿部3093A由照度参数估计部30931A以及照度补偿滤波器部30932构成。照度参数估计部30931A由乘法运算值导出部309312、加法运算值导出部309313、第1参数导出部309314、第2参数导出部309315、参数a导出部309316A以及参数b导出部309317构成。
图22是表示参数a导出部309316A的构成的框图。参数a导出部309316A由第1参数限制部3093161、第1参数标准化移位部3093162、第2参数标准化移位部3093163A、以及除法运算参数a导出部3093165A构成。第1参数限制部3093161如已经说明过的那样,因此省略说明。
第2参数标准化移位部3093163A在已经说明的第2参数标准化移位部3093163中,设为ShiftA2=7而导出第2标准化移位值iScaleShiftA2。
第1参数标准化移位部3093162如已经说明的那样,根据第2标准化移位值iScaleShiftA2,通过式(B-13)来导出第1标准化移位值iScaleShiftA1。
所导出的第1标准化移位值iScaleShiftA1被输出至除法运算参数a导出部3093165A。
除法运算参数a导出部3093165A利用与运动矢量缩放同样的运算,来导出相当于a1/a2<<iShift的参数a。
运动矢量缩放按下式来导出。
tx=(16384+(Abs(td)>>1))/td式(MV-1)
distScaleFactor=Clip3(-4096,4095,(tb*tx+32)>>6)式(MV-2)
mvLXA=Clip3(-32768,32767,Sign(distScaleFactor*mvLXA)*((Abs(distScaleFactor*mvLXA)+127)>>8))式(MV-3)
其中,mvLXA是成为缩放的对象的运动矢量,根据上式来进行相当于mvLXA=mvLXA*tb/td的缩放。另外,式(MV-1)的除法运算是包含整数下的舍去小数的除法运算,也能够通过如下那样进行基于舍去小数的整数化的Floor来进行表现。
tx=Floor((16384+(Abs(td)>>1))/td)式(MV-1′)
其中,td、tb为按下式导出的POC差分,具有-128~127的值。
td=Clip3(-128,127,DiffPicOrderCnt(currPic,refPicA)
tb=Clip3(-128,127,DiffPicOrderCnt(currPic,refPicB)
另外,DiffPicOrderCnt(x,y)是导出图片x与图片y的POC差分的函数。currPic为对象图片,refPicA、refPicB为参照图片。
在上述中,在一次导出以下的tx的基础上,导出tb/td的运算。由于td的范围被限定为-128~127,因此这能够通过预先导出以下的x对应于-128~127的倒数表invTableTX[],由此利用表来导出式(MV-1)的除法运算。
invTableTX[x]=(16384+(Abs(x)>>1))/x式(MV-2)
该表与在LM预测以及照度补偿中所利用的图14的表相同。然而,在LM预测以及照度补偿中所利用的第1参数a1、第2参数a2的值的范围大于POC,因此无法直接适用运动矢量缩放的处理。具体而言,若与以下的式(T-2)进行比较,则需要设ShiftA1=14、ShiftA2=7,设置图14的invTable,并利用第1参数标准化移位部3093162A以及第2参数标准化移位部3093163A。可知,通过与运动矢量缩放相同的处理,能够导出照度补偿的参数a。
tx=Floor((2^ShiftA1/x/2)/x)(x为0以外的情况)式(T-2)
其中,x=[0..2^ShiftA2-1]。
第2参数标准化移位部3093163A在已经说明的第2参数标准化移位部3093163中,设为ShiftA2=7而导出第2标准化移位值iScaleShiftA2。
除法运算参数a导出部3093165A基于第1标准化移位值iScaleShiftA1与第2标准化移位值iScaleShiftA2的差值,通过下式来导出参数a移位值iScaleShiftA。
ScaleShiftA=ShiftA1+iScaleShiftA2-iScaleShiftA1-iShift式(B-18)
进而,除法运算参数a导出部3093165A通过下式来导出参数a。
tb=(16318+(a2s>>1))/a2s式(B-19′)
a=(a1s*tb)>>ShiftA式(B-19″)
即,利用标准化第2参数a2s,通过给定的常数16318与(a2s>>1)之和除以a2s(在此,在对整数以下进行舍去小数即小数点运算的情况下,在除法运算后进行Floor),由此来导出中间参数tb。进而,使中间参数tb与标准化第1参数a1s之积以ShiftA进行右移位,由此来导出参数a。
另外,通过ShiftA1=14、ShiftA2=7来生成图14的表,通过下式也能够导出参数a。
a=(a1s*invTable[a2s])>>(ScaleShiftA)式(B-19)
在以上的构成的照度补偿部3093A中,通过被选择为能够实现与运动矢量的缩放相同的处理的、按照给定的常数ShiftA1=14、ShiftA2=7而导出的第1标准化移位值iScaleShiftA1、第2标准化移位值iScaleShiftA2,使第1参数a1、第2参数a2右移位,由此来导出第1标准化参数a1s、第2标准化参数a2s。然后,通过上述的处理来导出中间参数tb,进而导出参数a。由此,在照度补偿中也能够利用与运动矢量相同的缩放,因此起到降低安装规模的效果。
此外,在照度补偿部3093A中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。
此外,在上述中,由于从第2标准化移位值中减去给定的常数来导出第1标准化移位值,因此在乘以倒数表后移位时所利用的ScaleShiftA始终为0以上。因而,不需要与ScaleShiftA是否为0以上相应的分支,能够始终以右移位来导出参数a,因此起到削减计算量的效果。
(照度补偿部3093H)
以下,说明照度补偿部3093的变形例即照度补偿部3093H。
图23是表示照度补偿部3093H的构成的框图。照度补偿部3093H由照度参数估计部30931H以及照度补偿滤波器部30932构成。另外,对于与照度参数估计部309311相同编号的单元,由于构成相同,因此省略说明。
照度参数估计部30931H由加法运算值导出部309313、第1参数导出部309314H、第2参数导出部309315H、参数a导出部309316、以及参数b导出部309317构成。
加法运算值导出部309313、参数a导出部309316、参数b导出部309317由于与已经说明过的单元相同,因此省略说明。
第1参数导出部309314H根据相邻解码图像的像素值y之和Y,通过下式来导出第1参数a1。
a1=Y;式(B-7′)
第2参数导出部309315H根据参照图像的像素值x之和X,通过下式来导出第2参数a2。
a2=X;式(B-8′)
所导出的第1参数a1与第2参数a2被输出至参数a导出部309316。
照度补偿部3093H与照度补偿部3093相比较,不具备导出像素的乘积之和的2次项的乘法运算值导出部309312,仅具备导出像素之和的1次项的加法运算值导出部309313。因而,能够以比较容易的处理来导出照度变化参数。但是,利用2次项的照度补偿部3093的编码效率更高。
此外,在照度补偿部3093H中,由于利用第2标准化移位值来导出第1标准化移位值,因此起到导出第1标准化参数的处理变得容易的效果。
另外,在图像的比特深度为10bit以下的情况下,参数a导出部309316也可以是不具备第1参数标准化移位部3093162的构成。即,设为iScaleShiftA1=0,如下式(B-15′)那样,作为标准化第1参数a1s而利用第1参数即可。
a1s=a1式(B-15′)
这如以下式子所述。
在图像的比特深度为bitDepth的情况下,第1参数a1根据像素值的比特深度bitDepth以及参照像素数的最大值128的2的对数7之和,以bitDepth+7以下的比特数来处理。由于倒数表值的最大值为2的ShiftA1乘方,因此乘积为32比特以下的条件为bitDepth+7+ShiftA1<=32。
如果进行变形,则可获得以下式。
bitDepth<=25-ShiftA1
在ShiftA1为14、15的情况下,如果bitDepth<=10,则满足该式,因此在像素的比特深度为10bit以下的情况下,无需第1参数标准化移位部3093162。
(照度补偿部3093HA)
以下,说明照度补偿部3093的变形例即照度补偿部3093HA。照度补偿部3093HA具有与照度补偿部3093H大致相同的构成,但能够取代参数a导出部309316而利用参数a导出部309316A。另外,包含参数a导出部309316A在内的构成要素由于已经说明过,因此省略说明。
参数a导出部309316A不同于参数a导出部309316,虽然在参数a的导出中利用了除法运算,但该除法运算与在运动矢量的缩放中所利用的以下的处理相同,因此起到使得安装规模降低的效果。
此外,照度补偿部3093HA仅具备导出像素值之和的1次项的加法运算值导出部309313。因而,能够以比较容易的处理来导出照度变化参数。
另外,在图像的比特深度为10bit以下的情况下,参数a导出部309316A也可以是不具备第1参数标准化移位部3093162的构成。即,设为iScaleShiftA1=0,如下式(B-15′)那样,作为标准化第1参数a1s而利用第1参数即可。
a1s=a1式(B-15′)
(照度补偿部3093O)
以下,说明照度补偿部3093的变形例即照度补偿部3093O。
图24是表示照度补偿部3093O的构成的框图。照度补偿部3093O由照度参数估计部30931O以及照度补偿滤波器部30932O构成。照度参数估计部30931O由加法运算值导出部309313以及参数b导出部309317O构成。
照度参数估计部30931O将图13所示的参照层图像上的对象块所对应的参照块的周围的像素C(参照图像区域)设为参照图像的像素值x[],将对象层图像上的对象块的周围的像素L设为相邻解码图像的像素值y[](对象图像区域),基于这些参照图像的像素值x[]与相邻解码图像的像素值y[],导出根据参照图像的像素值x对相邻解码图像的像素值y[]进行预测的情况下的参数即参数a与参数b。
加法运算值导出部309313通过以下的式(B-2)、式(B-3)来导出相邻解码图像的像素值y之和Y与参照图像的像素值x之和X。
X=∑x[i]式(B-2)
Y=∑y[i]式(B-3)
在此,∑是针对参照区域的和,导出针对确定参照区域的像素的索引i的和。y[i]为相邻解码图像的索引i下的像素值,x[i]为参照图像的索引i下的像素值。计数移位值iCountShift为参照区域的尺寸的2的对数。
iCountShift=log2(参照区域的像素数)式(B-6)
参数b导出部309317O通过相邻解码图像的像素值之和Y与参照图像的像素值之和X的差值,除以参照区域的像素数,由此根据下式来导出参数b。
b=(Y-X+(1<<(iCountShift-1)))>>iCountShift式(B-20″)
另外,iCountShift的右移位相当于除以参照区域的像素数。
照度补偿滤波器部30932O利用照度参数估计部30931O导出的估计参数,根据照度补偿前的预测图像predSamples[]来导出照度补偿后的预测图像predSamples′[]。例如,在通过式(B-20)来导出参数b的情况下,利用下式。
predSamples′[x][y]=predSamples[x][y]+b式(B-21)
(权重预测)
权重预测部3094通过在所输入的运动位移图像predSamplesLX上相乘权重系数,由此来生成预测图片块P(预测图像)。所输入的运动位移图像predSamplesLX,在进行残差预测、照度补偿的情况下是被实施了这些处理后的图像。在参照列表利用标志的一者(predFlagL0或predFlagL1)为1的情况下(单预测的情况下),当不利用权重预测时,进行使所输入的运动位移图像predSamplesLX(LX为L0或L1)与像素比特数相匹配的下式的处理。
predSamples[x][y]=Clip3(0,(1<<bitDepth)-1,(predSamplesLX[x][y]+offset1)>>shift1)
其中,shift1=14-bitDepth、offset1=1<<(shift1-1)。
此外,在参照列表利用标志的两者(predFlagL0或predFlagL1)为1的情况下(双预测的情况下),当不利用权重预测时,进行使所输入的运动位移图像predSamplesL0、predSamplesL1平均来与像素比特数相匹配的下式的处理。
predSamples[x][y]=Clip3(0,(1<<bitDepth)-1,(predSamplesL0[x][y]+predSamplesL1[x][y]+offset2)>>shift2)
其中,shift2=15-bitDepth、offset2=1<<(shift2-1)。
进而,在单预测的情况下,当进行权重预测时,权重预测部3094导出权重预测系数w0与偏移o0,进行下式的处理。
predSamples[x][y]=Clip3(0,(1<<bitDepth)-1,((predSamplesLX[x][y]*w0+2log2WD-1)>>log2WD)+o0)
其中,log2WD是表示给定的移位量的变量。
进而,在双预测的情况下,当进行权重预测时,权重预测部3094导出权重预测系数w0、w1、o0、o1,进行下式的处理。
predSamples[x][y]=Clip3(0,(1<<bitDepth)-1,(predSamplesL0[x][y]*w0+predSamplesL1[x][y]*w1+((o0+o1+1)<<log2WD))>>(log2WD+1))
(图像编码装置的构成)
接下来,说明本实施方式所涉及的图像编码装置11的构成。图32是表示本实施方式所涉及的图像编码装置11的构成的框图。图像编码装置11构成为包含:预测图像生成部101、减法运算部102、DCT/量化部103、熵编码部104、逆量化/逆DCT部105、加法运算部106、预测参数存储器(预测参数存储部、帧存储器)108、参照图片存储器(参照图像存储部、帧存储器)109、编码参数决定部110、预测参数编码部111、以及残差保存部313(残差记录部)。预测参数编码部111构成为包含:帧间预测参数编码部112以及帧内预测参数编码部113。
预测图像生成部101针对从外部输入的层图像T的每个视点的各图片,按照对该图片进行分割后的每个区域即每个块来生成预测图片块P。在此,预测图像生成部101基于从预测参数编码部111输入的预测参数,从参照图片存储器109中读出参照图片块。所谓从预测参数编码部111输入的预测参数,例如是指运动矢量或者位移矢量。预测图像生成部101读出以编码对象块为起点而处于所预测的运动矢量或者位移矢量所表示的位置处的块的参照图片块。预测图像生成部101针对读出的参照图片块,利用多个预测方式之中的一种预测方式来生成预测图片块P。预测图像生成部101将所生成的预测图片块P输出至减法运算部102。另外,预测图像生成部101由于是与已经说明过的预测图像生成部308相同的动作,因此省略预测图片块P的生成的详细内容。
预测图像生成部101为了选择预测方式,例如选择使基于层图像中所含的块的每个像素的信号值与预测图片块P的对应的每个像素的信号值的差分的误差值变为最小的预测方式。选择预测方式的方法并不限于此。
在编码对象的图片为基础视图图片的情况下,所谓多个预测方式,是指帧内预测、运动预测以及合并预测。所谓运动预测,是指上述的帧间预测之中的显示时刻间的预测。所谓合并预测,是指利用已经被编码后的块即与处于根据编码对象块而预先规定的范围内的块相同的参照图片块以及预测参数的预测。在编码对象的图片为非基础视图图片的情况下,所谓多个预测方式,是指帧内预测、运动预测、合并预测、以及位移预测。所谓位移预测(视差预测),是指上述的帧间预测之中的其他层图像(其他视点图像)间的预测。进而是运动预测、合并预测、以及位移预测。存在针对位移预测(视差预测)进行追加预测(残差预测以及照度补偿)的情况和不进行追加的情况下的预测。
预测图像生成部101在选择了帧内预测的情况下,将表示在生成预测图片块P时所利用的帧内预测模式的预测模式predMode输出至预测参数编码部111。另外,作为帧内预测的色差预测模式IntraPredModeC之一,采用的是利用了LM预测部3093的LM预测。
预测图像生成部101在选择了运动预测的情况下,将在生成预测图片块P时所利用的运动矢量mvLX存储至预测参数存储器108,并输出至帧间预测参数编码部112。运动矢量mvLX表示从编码对象块的位置至生成预测图片块P时的参照图片块的位置为止的矢量。在表示运动矢量mvLX的信息中包含表示参照图片的信息(例如,参照图片索引refIdxLX、图片顺序编号POC),也可以表示预测参数。此外,预测图像生成部101将表示帧间预测模式的预测模式predMode输出至预测参数编码部111。
预测图像生成部101在选择了位移预测的情况下,将在生成预测图片块P时所利用的位移矢量存储至预测参数存储器108,并输出至帧间预测参数编码部112。位移矢量dvLX表示从编码对象块的位置至生成预测图片块P时的参照图片块的位置为止的矢量。在表示位移矢量dvLX的信息中包含表示参照图片的信息(例如,参照图片索引refIdxLX、视图IDview_id),也可以表示预测参数。此外,预测图像生成部101将表示帧间预测模式的预测模式predMode输出至预测参数编码部111。
预测图像生成部101在选择了合并预测的情况下,将表示选择出的参照图片块的合并索引merge_idx输出至帧间预测参数编码部112。此外,预测图像生成部101将表示合并预测模式的预测模式predMode输出至预测参数编码部111。
在上述的运动预测、位移预测、合并预测中,预测图像生成部101在残差预测标志res_pred_flag表示进行残差预测的情况下,如已经说明过的那样在预测图像生成部101中所含的残差预测部3092之中进行残差预测,在照度补偿标志ic_enable_flag表示进行照度补偿的情况下,如已经说明过的那样在预测图像生成部101中所含的照度补偿部3093之中进行照度补偿预测。此外,也可以取代照度补偿部3093而利用照度补偿部3093A、照度补偿部3093H、照度补偿部3093HA。
减法运算部102按照每个像素从由外部输入的层图像T的对应的块的信号值中减去由预测图像生成部101输入的预测图片块P的信号值,来生成残差信号。减法运算部102将生成的残差信号输出至DCT/量化部103与编码参数决定部110。
DCT/量化部103针对从减法运算部102输入的残差信号来进行DCT,算出DCT系数。DCT/量化部103对算出的DCT系数进行量化来求出量化系数。DCT/量化部103将求出的量化系数输出至熵编码部104以及逆量化/逆DCT部105。
在熵编码部104中,从DCT/量化部103输入量化系数,从编码参数决定部110输入编码参数。在所输入的编码参数中,例如包含:参照图片索引refIdxLX、矢量索引mvp_LX_idx、差分矢量mvdLX、预测模式predMode、以及合并索引merge_idx等的码。
熵编码部104对所输入的量化系数与编码参数进行熵编码,生成编码流Te,并将生成的编码流Te输出至外部。
逆量化/逆DCT部105对从DCT/量化部103输入的量化系数进行逆量化来求出DCT系数。逆量化/逆DCT部105针对求出的DCT系数来进行逆DCT,算出解码残差信号。逆量化/逆DCT部105将算出的解码残差信号输出至加法运算部106。
加法运算部106按照每个像素来相加从预测图像生成部101输入的预测图片块P的信号值与从逆量化/逆DCT部105输入的解码残差信号的信号值,来生成参照图片块。加法运算部106将生成的参照图片块存储至参照图片存储器109。
预测参数存储器108将预测参数编码部111生成的预测参数存储至按照编码对象的每个图片以及块而预先规定的位置。
参照图片存储器109将加法运算部106生成的参照图片块存储至按照编码对象的每个图片以及块而预先规定的位置。
编码参数决定部110选择编码参数的多个集合之中的一个集合。所谓编码参数,是指上述的预测参数、与该预测参数相关联地生成的成为编码的对象的参数。预测图像生成部101利用这些编码参数的集合的各个集合来生成预测图片块P。
编码参数决定部110针对多个集合的各个集合来算出表示信息量的大小与编码误差的成本值。成本值例如是码量与平方误差相乘系数λ所得的值之和。码量是对量化误差与编码参数进行熵编码所得的编码流Te的信息量。平方误差是关于在减法运算部102中算出的残差信号的残差值的平方值的像素间的总和。系数λ是比预先设定的零大的实数。编码参数决定部110选择算出的成本值最小的编码参数的集合。由此,熵编码部104将选择出的编码参数的集合作为编码流Te而输出至外部,不输出未选择的编码参数的集合。
预测参数编码部111基于从预测图像生成部101输入的参数来导出生成预测图片时所利用的预测参数,对导出的预测参数进行编码来生成编码参数的集合。预测参数编码部111将生成的编码参数的集合输出至熵编码部104。
预测参数编码部111将生成的编码参数的集合之中的与编码参数决定部110选择出的结果对应的预测参数存储至预测参数存储器108。
在从预测图像生成部101输入的预测模式predMode表示帧间预测模式的情况下,预测参数编码部111使帧间预测参数编码部112动作。在预测模式predMode表示帧内预测模式的情况下,预测参数编码部111使帧内预测参数编码部113动作。
帧间预测参数编码部112基于从编码参数决定部110输入的预测参数来导出帧间预测参数。帧间预测参数编码部112作为导出帧间预测参数的构成,包含与帧间预测参数解码部303(参照图5等)导出帧间预测参数的构成相同的构成。关于帧间预测参数编码部112的构成将在后面阐述。
帧内预测参数编码部113将从编码参数决定部110输入的预测模式predMode所表示的帧内预测模式IntraPredMode规定为帧间预测参数的集合。
(帧间预测参数编码部的构成)
接下来,说明帧间预测参数编码部112的构成。帧间预测参数编码部112是与帧间预测参数解码部303对应的单元。
图33是表示本实施方式所涉及的帧间预测参数编码部112的构成的简要图。
帧间预测参数编码部112构成为包含:帧间预测参数编码控制部1031、合并预测参数导出部1121、AMVP预测参数导出部1122、减法运算部1123、以及预测参数综合部1126。
合并预测参数导出部1121具有与上述的合并预测参数导出部3036(参照图7)同样的构成。
帧间预测参数编码控制部1031对熵编码部104指示与帧间预测关联的码(语法要素)的解码,针对编码数据中所含的码(语法要素),进行编码分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idcinter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX的编码。
帧间预测参数编码控制部1031构成为包含:追加预测标志编码部10311、合并索引编码部10312、矢量候选索引编码部10313、以及未图示的、分割模式编码部、合并标志编码部、帧间预测标志编码部、参照图片索引编码部、矢量差分编码部。分割模式编码部、合并标志编码部、合并索引编码部、帧间预测标志编码部、参照图片索引编码部、矢量候选索引编码部10313、矢量差分编码部分别进行分割模式part_mode、合并标志merge_flag、合并索引merge_idx、帧间预测标志inter_pred_idcinter_pred_idc、参照图片索引refIdxLX、预测矢量索引mvp_LX_idx、差分矢量mvdLX的编码。
追加预测标志编码部1031为了表示是否进行追加预测,而编码照度补偿标志ic_enable_flag、残差预测标志res_pred_flag。
在合并预测参数导出部1121中,在从预测图像生成部101输入的预测模式predMode表示合并预测模式的情况下,从编码参数决定部110输入合并索引merge_idx。合并索引merge_idx被输出至预测参数综合部1126。合并预测参数导出部1121从预测参数存储器108中读出合并候选之中的合并索引merge_idx所表示的参照块的参照图片索引refIdxLX、矢量mvLX。所谓合并候选,是指处于根据成为编码对象的编码对象块而预先规定的范围内的参照块(例如,与编码对象块的左下端、左上端、右上端相邻的参照块之中)且编码处理已完成的参照块。
AMVP预测参数导出部1122具有与上述的AMVP预测参数导出部3032(参照图8)同样的构成。
在AMVP预测参数导出部112中,在从预测图像生成部101输入的预测模式predMode表示帧间预测模式的情况下,从编码参数决定部110输入矢量mvLX。AMVP预测参数导出部1122基于输入的矢量mvLX来导出预测矢量mvpLX。AMVP预测参数导出部1122将导出的预测矢量mvpLX输出至减法运算部1123。另外,参照图片索引refIdx以及矢量索引mvp_LX_idx被输出至预测参数综合部1126。
减法运算部1123从由编码参数决定部110输入的矢量mvLX中减去由AMVP预测参数导出部1122输入的预测矢量mvpLX来生成差分矢量mvdLX。差分矢量mvdLX输出至预测参数综合部1126。
在从预测图像生成部101输入的预测模式predMode表示合并预测模式的情况下,预测参数综合部1126将从编码参数决定部110输入的合并索引merge_idx输出至熵编码部104。
在从预测图像生成部101输入的预测模式predMode表示帧间预测模式的情况下,预测参数综合部1126进行如下处理。
预测参数综合部1126对从编码参数决定部110输入的参照图片索引refIdxLX以及矢量索引mvp_LX_idx、从减法运算部1123输入的差分矢量mvdLX进行综合。预测参数综合部1126将综合后的码输出至熵编码部104。
(第2实施方式)
以下,参照附图来说明本发明的实施方式。第2实施方式中的图像编码装置11、图像解码装置31,作为照度补偿单元,取代在第1实施方式中说明过的照度补偿3093、照度补偿3093A、照度补偿3093H、照度补偿3093、照度补偿3093O,而利用照度补偿3093S、照度补偿3093AS、照度补偿3093HS、照度补偿3093S、照度补偿3093OS的构成。第2实施方式对参照图像的像素值x、相邻解码图像的像素值y进行子采样(subsample)的同时进行参照,算出照度变化参数。
图25是说明第2实施方式的照度补偿的参照像素的图。如图25所示,无论是与对象块相邻的相邻解码图像的像素值y还是与对应块相邻的参照图像的像素值x,均仅参照通过2对1的子采样而被采样后的像素。
(照度补偿部3093S)
照度补偿部3093S由照度参数估计部30931S以及照度补偿滤波器部30932构成。照度参数估计部30931S由乘法运算值导出部309312S、加法运算值导出部309313S、第1参数导出部309314、第2参数导出部309315、参数a导出部309316、以及参数b导出部309317构成。
加法运算值导出部309313S通过以下的式(B-2)、式(B-3)来导出相邻解码图像的像素值y之和Y与参照图像的像素值x之和X。
乘法运算值导出部309312S通过以下的式(B-4)~(B-5)来导出相邻解码图像的像素值y与参照图像的像素值x的乘积之和XY、以及参照图像的像素值的平方之和XX。在以下的和运算之前,X、Y、XY、XX初始化为0。
X=∑x[i*2]式(B-2)
Y=∑y[i*2]式(B-3)
XX+=∑(x[i*2]*x[i*2])式(B-4)
XY+=∑(y[i*2]*y[i*2])式(B-5)
在此,∑是针对参照区域的和,导出对于确定参照区域的像素的索引i的和。y[i]为相邻解码图像的索引i下的像素值。x[i]为参照图像的索引i下的像素值。计数移位值iCountShift为参照区域的尺寸的2的对数。其中,将索引i进行2倍,参照相邻解码图像的像素值y与参照图像的像素值x。i*2取0、2、4、…这样的跳跃的值,因此在加法运算值导出部309313中表示对上述相邻解码图像的像素与上述参照图像的像素进行子采样来参照。另外,对于上述子采样而言,在对象块的左相邻的相邻解码图像以及对应块的左相邻的参照区域的情况下,进行将纵向的像素间隔提取的子采样(通过以索引*2来访问Y坐标等,由此成为0、2、4、等的跳跃的值),在对象块的上相邻的相邻解码图像以及对应块的上相邻的参照区域的情况下,进行将横向的像素间隔提取的子采样(通过以索引*2来访问X坐标等,由此成为0、2、4、等的跳跃的值)。
在上述照度参数估计部30931S中,利用根据子进行了采样的像素而导出的加法运算值,来导出在照度补偿滤波器部30932的照度补偿中使用的倾斜成分即参数a、偏移成分即参数b。通过子采样起到削减算出照度变化参数的计算量的效果。
(照度补偿部3093AS)
以下,说明照度补偿部3093Sv的变形例即照度补偿部3093AS。
照度补偿部3093AS由照度参数估计部30931AS以及照度补偿滤波器部30932构成。
照度补偿部3093AS由照度参数估计部30931AS以及照度补偿滤波器部30932构成。照度参数估计部30931AS由乘法运算值导出部309312S、加法运算值导出部309313S、第1参数导出部309314、第2参数导出部309315、参数a导出部309316A、以及参数b导出部309317构成。
在上述构成的参数a导出部309316AS中,通过被选择为能够实现与运动矢量的缩放相同的处理的、按照给定的常数ShiftA1=14、ShiftA2=7而导出的第1标准化移位值iScaleShiftA1、第2标准化移位值iScaleShiftA2,使第1参数a1、第2参数a2右移位,由此来导出第1标准化参数a1s、第2标准化参数a2s。然后,通过上述的处理来导出中间参数tb,进而导出参数a。由此,在照度补偿中也能够利用与运动矢量相同的缩放,因此起到降低安装规模的效果。
在上述构成的照度参数估计部30931AS中,通过采用乘法运算值导出部309312S、加法运算值导出部309313S,由此利用根据进行了子采样的像素而导出的加法运算值,来导出在照度补偿滤波器部30932的照度补偿中使用的倾斜成分即参数a、偏移成分即参数b。通过子采样起到削减算出照度变化参数的计算量的效果。
(照度补偿部3093HS)
以下,说明照度补偿部3093S的变形例即照度补偿部3093HS。
照度补偿部3093HS由照度参数估计部30931HS以及照度补偿滤波器部30932构成。
照度参数估计部30931HS由加法运算值导出部309313S、第1参数导出部309314H、第2参数导出部309315H、参数a导出部309316、以及参数b导出部309317构成。
加法运算值导出部309313S通过以下的式(B-2)、式(B-3)来导出相邻解码图像的像素值y之和Y与参照图像的像素值x之和X。
X=∑x[i*2]式(B-2)
Y=∑y[i*2]式(B-3)
在上述构成的照度参数估计部30931HS中,采用加法运算值导出部309313S,由此利用根据进行了子采样的像素而导出的加法运算值,来导出在照度补偿滤波器部30932的照度补偿中使用的偏移成分即参数b。通过子采样起到削减来算出照度变化参数的计算量的效果。
(照度补偿部3093HAS)
以下,说明照度补偿部3093S的变形例即照度补偿部3093HAS。照度补偿部3093HAS虽然具有与照度补偿部3093HA大致相同的构成,但是不同点在于,取代加法运算值导出部309313而利用加法运算值导出部309313S。
在上述构成的照度参数估计部30931HAS中,采用加法运算值导出部309313S,由此利用根据进行了子采样的像素而导出的加法运算值,来导出在照度补偿滤波器部30932的照度补偿中使用的偏移成分即参数b。通过子采样起到削减算出照度变化参数的计算量的效果。
(照度补偿部3093OS)
以下,说明照度补偿部3093O的变形例即照度补偿部3093OS。
照度补偿部3093OS由照度参数估计部30931OS以及照度补偿滤波器部30932O构成。照度参数估计部30931OS由加法运算值导出部309313S以及参数b导出部309317O构成。
加法运算值导出部309313S通过以下的式(B-2)、式(B-3)来导出相邻解码图像的像素值y之和Y与参照图像的像素值x之和X。
X=∑x[i*2]式(B-2)
Y=∑y[i*2]式(B-3)
在上述构成的照度参数估计部30931OS中,采用加法运算值导出部309313S,由此利用根据进行了子采样的像素而导出的加法运算值,来导出在照度补偿滤波器部30932O的照度补偿中使用的偏移成分即参数b。起到削减通过子采样来算出照度变化参数的计算量的效果。
(第3实施方式)
以下,参照附图来说明本发明的实施方式。第3实施方式中的图像编码装置11、图像解码装置31,作为照度补偿单元,取代照度补偿3093而具备照度补偿单元3093S0或照度补偿单元3093S1。照度补偿单元的构成与在第1实施方式中说明过的图像编码装置11、图像解码装置31相同。
(照度补偿单元3093S0)
图26是说明具备切换单元的照度补偿部3093S0的图的框图。如图26所示,照度补偿部3093S0在内部具备照度补偿切换部30939S0以及照度补偿部。照度补偿切换部30939S0是根据块信息来切换是否进行照度补偿的单元,在块信息表示进行照度处理的情况下,利用被照度补偿部处理后的块,在块信息不表示进行照度处理的情况下,利用未被照度补偿部处理的块。另外,对于照度补偿部3093而言,除了截止至目前为止说明过的照度补偿部3093之外,还能够利用照度补偿部3093A、照度补偿部3093H、照度补偿部3093HA、照度补偿部3093O、照度补偿部3093S、照度补偿部3093AS、照度补偿部3093HS、照度补偿部3093HAS、照度补偿部3093OS等。
图27是说明照度补偿部3093S0的动作的流程图。
S1101:在照度补偿切换部30939S0中,检查块信息即块尺寸,在为给定的尺寸(4×4)以上的情况下,转变为S1102,进行照度补偿。在小于给定的尺寸的情况下,转变为S1103,直接结束。
S1102:由照度补偿部3093来进行照度补偿。
S1103:结束
照度补偿尤其在块尺寸较小的情况下计算负荷高,因此通过不进行计算负荷高的小块的照度补偿,从而起到削减照度补偿中的最差情形的计算量的效果。
图28是说明照度补偿部3093S0的另一动作的流程图。
S1201:在照度补偿切换部30939S0中,检查块信息即色分量,在色分量cIdx为亮度(cIdx为0、亮度块)的情况下,转变为S1202,进行照度补偿,在色分量cIdx为色差(cIdx为0以外、色差块)的情况下,转变为S1203,直接结束。
S1202:由照度补偿部3093来进行照度补偿。
S1203:结束
尤其在色差成分的分辨率为亮度成分的分辨率的一半即4∶2∶0的情况下,当亮度的PU为8×8时,色差的PU为4×4,色差的块尺寸变小。通过在每单位面积的计算负荷高的色差下不进行照度补偿,从而起到削减照度补偿中的最差情形的计算量的效果。
另外,作为块尺寸是否为4×4块以上的判定,能够将块的宽度width或块的高度大于4作为判定条件。此外,在亮度块不利用4×4块而仅在色差中利用4×4块的构成中,作为块尺寸是否为4×4块以上的判定,能够将CU尺寸大于8×8块或者为亮度块作为判定条件。即,也可以构成为,在CU尺寸大于8×8块或者为亮度块的情况下进行照度预测,在除此之外的情况下不进行照度预测。
(照度补偿单元3093S1)
图29是说明具备切换单元的照度补偿部3093S1的图的框图。如图29所示,照度补偿部3093S1在内部具备照度补偿切换部30939S1、照度补偿部3093以及照度补偿部3093O。照度补偿部3093是进行基于线性模型的照度补偿的单元,例如除了照度补偿部3093之外,还能够利用照度补偿部3093A、照度补偿部3093H、照度补偿部3093HA、照度补偿部3093S、照度补偿部3093AS、照度补偿部3093HS、照度补偿部3093HAS等。照度补偿部3093O是进行基于偏移模型的照度补偿的单元。例如,除了照度补偿部3093O之外,还能够利用照度补偿部3093OS等。另外,所谓基于线性模型的照度补偿,是指具备将相当于倾斜的参数a与相当于偏移的参数b用于照度变形参数、并在从参照图片获得的运动补偿图像与参数a之积上相加照度变化参数的参数b的单元的照度补偿。另外,为了整数运算,也可以伴有右移位。即,既可以在运动补偿图像与参数a相乘之后进行右移位再相加参数b,也可以在运动补偿图像与参数a相乘之后进行右移位再相加参数b,然后再进行右移位。此外,所谓基于偏移模型的照度补偿,是指具备在从参照图片获得的运动补偿图像上相加照度变化参数的参数b的单元的照度补偿。
照度补偿切换部30939S1根据块信息来切换是进行基于线性模型的照度补偿还是进行基于偏移模型的照度补偿。
图30是说明照度补偿部3093S1的动作的流程图。
S1301:在照度补偿切换部30939S1中,检查块信息即块尺寸,在为给定的尺寸(例如4×4块)以上的情况下,转变为S1302,进行基于线性模型的照度补偿。在小于给定的尺寸的情况下,转变为S1303,进行基于偏移模型的照度补偿。
S1302:由照度补偿部3093来进行基于线性模型的照度补偿。
S1303:由照度补偿部3093O来进行基于偏移模型的照度补偿。
S1304:结束
照度补偿尤其在块尺寸小的情况下计算负荷高,因此通过对计算负荷高的小块进行基于计算负荷低的偏移模型的照度补偿,由此起到削减照度补偿尤其是计算负荷高的情况下的计算量的效果。特别是,在照度补偿被限制为2N×2N的情况下(仅在PartMode为2N×2N的情况下,使照度补偿标志ic_enable_flag置位,在除此之外的情况下,将照度补偿标志ic_enable_flag设为0的情形),亮度块尺寸最小为8×8,色差块尺寸最小为4×4。因而,块尺寸为4×4的情况成为最小块,在计算负荷上成为最差情形。尤其是,通过将给定的尺寸规定为4×4,从而起到削减最差情形下的计算负荷的效果。
另外,作为块尺寸是否为4×4块以上的判定,能够将块的宽度width或块的高度大于4作为判定条件。此外,在亮度块中不利用4×4块而仅对于色差利用4×4块的构成中,作为块尺寸是否为4×4块以上的判定,能够将CU尺寸大于8×8块或者为亮度块作为判定条件。即,也可以构成为,在CU尺寸大于8×8块或者为亮度块的情况下,进行基于线性模型的照度预测,在除此之外的情况下,进行基于偏移模型的照度预测。
图31是说明照度补偿部3093S1的另一动作的流程图。
S1401:在照度补偿切换部30939S1中,检查块信息即色分量,在色分量cIdx为亮度(cIdx为0、对象块为亮度块)的情况下,转变为S1402,进行照度补偿,在色分量为色差(cIdx为0以外、对象块为色差块)的情况下,转变为S1403,直接结束。
S1402:由线性照度补偿部3093来进行基于线性模型的照度补偿。
S1403:由偏移照度补偿部3093O来进行基于偏移模型的照度补偿。
S1404:结束
尤其在色差成分的分辨率为亮度成分的分辨率的一半即4∶2∶0的情况下,当亮度的PU为8×8时,色差的PU为4×4,色差的块尺寸变小。通过在每单位面积的计算负荷高的色差下对计算负荷高的小块进行基于计算负荷低的偏移模型的照度补偿,从而起到削减照度补偿中的最差情形的计算量的效果。
另外,上述的实施方式中的图像编码装置11、图像解码装置31的一部分、例如熵解码部301、预测参数解码部302、预测图像生成部101、DCT/量化部103、熵编码部104、逆量化/逆DCT部105、编码参数决定部110、预测参数编码部111、熵解码部301、预测参数解码部302、预测图像生成部308、逆量化/逆DCT部311,也可以通过计算机来实现。在此情况下,也可以将用于实现该控制功能的程序记录至计算机可读取的记录介质,将该记录介质所记录的程序读入计算机系统中进行执行,由此来实现。另外,这里提及的“计算机系统”,是指图像编码装置11-11h、图像解码装置31-31h的任意者中内置的计算机系统,假设包含OS、外围设备等的硬件。此外,所谓“计算机可读取的记录介质”,是指软盘、磁光盘、ROM、CD-ROM等的可移动介质、计算机系统所内置的硬盘等的存储装置。进而,所谓“计算机可读取的记录介质”,也可以包含:如经由因特网等网络或电话线路等通信线路来发送程序的情况下的通信线那样,短时间内动态地保持程序的介质;如成为该情况下的服务器或客户端的计算机系统内部的易失性存储器那样,一定时间内保持程序的介质。此外,上述程序既可以用于实现前述的功能的一部分,也可以通过进一步与计算机系统中已经记录的程序的组合来实现前述的功能。
此外,上述的实施方式中的图像编码装置11、图像解码装置31的一部分或者全部,也可以实现为LSI(LargeScaleIntegration,大规模集成电路)等的集成电路。图像编码装置11、图像解码装置31的各功能块既可以单独进行处理器化,也可以将一部分或者全部集成来进行处理器化。此外,集成电路化的方法并不限于LSI,也可以通过专用电路或者通用处理器来实现。此外,在由于半导体技术的进步而出现了替代LSI的集成电路化的技术的情况下,也可以利用基于该技术的集成电路。
以上,参照附图来详细说明了本发明的一实施方式,但具体构成并不限于上述内容,在不脱离本发明主旨的范围内可以进行各种设计变更等。
(总结)
在本说明书中,至少还记载了以下的发明。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像与对象层上的相邻解码图像来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a之积上相加照度变化参数的参数b的单元,上述照度参数估计部具备:参数a导出单元,其根据第1参数与第2参数来导出上述参数a,上述参数a导出单元具备:导出第1标准化移位值与第2标准化移位值的参数标准化移位部;利用第1标准化移位值使上述第1参数右移位来导出标准化第1参数的参数标准化移位部;以及利用上述第2标准化移位值使上述第2参数右移位来导出标准化第2参数的参数标准化移位部,上述参数标准化移位部通过从上述第2标准化移位值中减去给定的值,由此来导出上述第1标准化移位值。
根据上述构成,由于根据第2标准化移位值来导出第1标准化移位值,因此起到削减导出第1标准化移位值的计算量的效果。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出至少包含参数b的照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a之积上相加照度变化参数的参数b的单元、或者将上述运动补偿图像与照度变化参数的参数b进行相加的单元之中的任意者,上述照度参数估计部通过对上述参照图像区域与上述相邻解码图像区域的像素进行子采样并参照,由此来导出。
根据上述构成,由于参照变为子样本的像素来算出照度变化参数,因此起到削减计算量的效果。
根据一构成的照度补偿装置,其特征在于,上述照度参数估计部具备:参数b导出单元,其根据相邻解码图像的像素之和与参照图像的像素之和的差值来导出上述参数b,上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
根据一构成的照度补偿装置,其特征在于,上述照度参数估计部具备:参数a导出单元,其利用根据相邻解码图像的像素的乘积之和而导出的第1参数与根据参照图像的像素之和而导出的第2参数来导出上述参数a;以及参数b导出单元,其根据相邻解码图像的像素之和、上述参数a以及参照图像的像素之和来导出上述参数b,上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
根据一构成的照度补偿装置,其特征在于,上述照度参数估计部具备:参数a导出单元,其利用根据参照图像的像素与相邻解码图像的像素的乘积之和以及参照图像的像素之和与相邻解码图像的像素之和的乘积而导出的第1参数、及由参照图像的像素的平方之和与参照图像的像素之和的平方而导出的第2参数,来导出上述参数a;以及参数b导出单元,其根据相邻解码图像的像素之和、上述参数a以及参照图像的像素之和来导出上述参数b,上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
根据一构成的照度补偿装置,其特征在于,上述参数a导出单元具备:导出第1标准化移位值与第2标准化移位值的参数标准化移位部;利用将上述第1标准化移位值限制为0以上的数使上述第1参数右移位来导出标准化第1参数的参数标准化移位部;以及利用将上述第2标准化移位值限制为0以上的数使上述第2参数右移位来导出标准化第2参数的参数标准化移位部,通过从上述第2标准化移位值中减去给定的值,由此来导出上述第1标准化移位值。
根据一构成的照度补偿装置,其特征在于,上述参数a导出单元至少具备:导出第2标准化移位值的参数标准化移位部;以及利用将上述第2标准化移位值限制为0以上的数使上述第2参数右移位来导出127以下的标准化第2参数的参数标准化移位部,并具备:将通过(16318+(标准化第2参数>>1))/标准化第2参数而导出的tb进行导出的单元;以及利用上述tb与第1参数之积来导出参数a的单元。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,在对象块为给定的尺寸以上的情况下,由上述照度补偿部进行照度补偿,在上述对象块小于给定的尺寸的情况下,不进行照度补偿。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器在对象块为给定的尺寸以上的情况下,通过在从上述参照层获得的运动补偿图像与照度变化参数的参数a之积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块小于上述给定的尺寸的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
根据一构成的照度补偿装置,其特征在于,上述给定的尺寸为4×4块。
根据一构成的照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像区域与对象层上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,照度补偿滤波器在对象块为亮度块的情况下,通过在从参照层获得的运动补偿图像与照度变化参数的参数a之积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块为色差块的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
根据一构成的LM预测装置,其特征在于,具备:LM预测部,其适用亮度图像至色差预测图像,上述LM预测部具备:LM参数估计部,其根据相邻亮度图像与相邻色差图像来导出LM参数;以及LM预测滤波器,其利用上述LM参数来生成亮度图像至色差预测图像,上述LM预测滤波器包含:在亮度图像与LM参数的参数a之积上相加LM参数的参数b的单元,上述LM参数估计部具备:参数a导出部,其利用根据相邻亮度图像的像素值与相邻色差图像的像素值的乘积之和以及相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY与相邻色差图像的像素值之和Y与相邻亮度图像的像素值之和X的乘积的差值而导出的第1参数a1、及根据相邻亮度图像的像素值的平方之和XX与相邻亮度图像的像素值之和X的平方的差值而导出的第2参数a2v,来导出参数a,上述参数a导出部具备:基于根据第2参数a2而规定的第1标准化移位值与第2标准化移位值使上述第1参数a1与上述第2参数a2右移位的单元。
根据一构成的LM预测装置,其特征在于,上述参数a导出部还具备导出正则化项的正则化项导出单元,至少将上述正则化项与上述第2参数a2相加。
根据一构成的LM预测装置,其特征在于,上述参数a导出部还具备导出正则化项的正则化项导出单元,将根据相邻色差图像的像素值之和Y而导出的正则化项与上述第1参数a1相加,将根据相邻亮度图像的像素值之和X而导出的正则化项与上述第2参数a2相加。
根据一构成的照度补偿装置,具备上述记载的照度补偿装置。
根据一构成的照度补偿装置,具备上述记载的照度补偿装置。
产业上的可利用性
本发明能够适合利用于对图像数据被编码后的编码数据进行解码的图像解码装置、以及生成图像数据被编码的编码数据的图像编码装置。此外,适合利用于由图像编码装置生成并由图像解码装置参照的编码数据的数据结构。
标号说明
1…图像传输系统
11…图像编码装置
101…预测图像生成部
102…减法运算部
103...DCT/量化部
104…熵编码部
105…逆量化/逆DCT部
106…加法运算部
108…预测参数存储器(帧存储器)
109…参照图片存储器(帧存储器)
110…编码参数决定部
111…预测参数编码部
112…帧间预测参数编码部
1121…合并预测参数导出部
1122...AMVP预测参数导出部
1123…减法运算部
1126…预测参数综合部
113…帧内预测参数编码部
21…网络
31…图像解码装置
301…熵解码部
302…预测参数解码部
303…帧间预测参数解码部
303111…参考层判定部
30312…合并索引解码部
30313…矢量候选索引解码部
3032...AMVP预测参数导出部
3035…加法运算部
3036…合并预测参数导出部
30361…合并候选导出部
303611…合并候选保存部
303612…扩展合并候选导出部
3036121...帧间层合并候选导出部
3036122...位移矢量获取部
3036123...帧间层位移合并候选导出部
303613…基本合并候选导出部
3036131…空间合并候选导出部
3036132…时间合并候选导出部
3036133…结合合并候选导出部
3036134...零合并候选导出部
30362…合并候选选择部
304…帧内预测参数解码部
306…参照图片存储器(帧存储器)
307…预测参数存储器(帧存储器)
308…预测图像生成部
309…帧间预测图像生成部
3091...位移补偿部
3092…残差预测部
30921…残差获取部
30922…残差滤波器部
3093…照度补偿部
3093A…照度补偿部
3093H…照度补偿部
3093HA…照度补偿部
3093O…照度补偿部
3093S…照度补偿部
3093HS…照度补偿部
3093HAS…照度补偿部
3093OS…照度补偿部
30931…照度参数估计部
30931H…照度参数估计部
30931O…照度参数估计部
309312…乘法运算值导出部
309314…第1参数导出部
309314H…第1参数导出部
309315…第2参数导出部
309315H…第2参数导出部
309316…参数a导出部
309316A…参数a导出部
3093161...第1参数限制部
3093162...第1参数标准化移位部(参数标准化移位部)
3093163...第2参数标准化移位部(参数标准化移位部)
3093164...基于表的参数a导出部
3093165A…除法运算参数a导出部
309317…参数b导出部
309317O…参数b导出部
30932…照度补偿滤波器部
30932′…照度补偿滤波器部
3094…权重预测部
310…帧内预测图像生成部
3104…LM预测部
31041…LM参数估计部
31042…LM预测滤波器部
310412…LM乘法运算值导出部
310413…LM加法运算值导出部
310414…LM第1参数导出部
310415…LM第2参数导出部
310416…LM参数a导出部
310416A…LM参数a导出部
3104161...LM第1参数限制部
3104162…LM第1参数标准化移位部(参数标准化移位部)
3104163...LM第2参数标准化移位部(参数标准化移位部)
3104164...基于表的LM参数a导出部
3104165A…除法运算LM参数a导出部
310417…LM参数b导出部
310418…LM正则化项加法运算部
3104182…LM第2参数正则化项加法运算部
311…逆量化/逆DCT部
312…加法运算部
313…残差保存部
41…图像显示装置

Claims (16)

1.一种照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,
上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像与对象层上的相邻解码图像来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,
照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元,
上述照度参数估计部具备:参数a导出单元,其根据第1参数与第2参数来导出上述参数a,
上述参数a导出单元具备:导出第1标准化移位值与第2标准化移位值的参数标准化移位部;利用第1标准化移位值使上述第1参数右移位来导出标准化第1参数的参数标准化移位部;以及利用上述第2标准化移位值使上述第2参数右移位来导出标准化第2参数的参数标准化移位部,
上述参数标准化移位部通过从上述第2标准化移位值中减去给定的值,来导出上述第1标准化移位值。
2.一种照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,
上述照度补偿部具备:照度参数估计部,其根据参照层上的参照图像与对象层上的相邻解码图像来导出至少包含参数b的照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,
照度补偿滤波器包含:在从参照图片获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元、或者将上述运动补偿图像与照度变化参数的参数b进行相加的单元之中的任意单元,
上述照度参数估计部对上述参照图像与上述相邻解码图像的像素进行子采样并参照,由此来进行导出。
3.根据权利要求2所述的照度补偿装置,其特征在于,
上述照度参数估计部具备:参数b导出单元,其根据相邻解码图像的像素之和与参照图像的像素之和的差值来导出上述参数b,
上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
4.根据权利要求2所述的照度补偿装置,其特征在于,
上述照度参数估计部具备:参数a导出单元,其利用根据相邻解码图像的像素的乘积之和而导出的第1参数与根据参照图像的像素之和而导出的第2参数,来导出上述参数a;以及参数b导出单元,其根据相邻解码图像的像素之和、上述参数a以及参照图像的像素之和,来导出上述参数b,
上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
5.根据权利要求2所述的照度补偿装置,其特征在于,
上述照度参数估计部具备:参数a导出单元,其根据基于参照图像的像素与相邻解码图像的像素的乘积之和以及参照图像的像素之和与相邻解码图像的像素之和的乘积而导出的第1参数、及根据参照图像的像素的平方之和与参照图像的像素之和的平方而导出的第2参数,来导出上述参数a;以及参数b导出单元,其根据相邻解码图像的像素之和、上述参数a以及参照图像的像素之和,来导出上述参数b,
上述相邻解码图像的像素与上述参照图像的像素被进行了子采样。
6.根据权利要求4或5所述的照度补偿装置,其特征在于,
上述参数a导出单元具备:导出第1标准化移位值与第2标准化移位值的参数标准化移位部;利用上述第1标准化移位值使上述第1参数右移位来导出标准化第1参数的参数标准化移位部;以及利用上述第2标准化移位值使上述第2参数右移位来导出标准化第2参数的参数标准化移位部,
上述参数标准化移位部通过从上述第2标准化移位值中减去给定的值,来导出上述第1标准化移位值。
7.根据权利要求1、4、5中任一项所述的照度补偿装置,其特征在于,
上述参数a导出单元具备:至少导出第2标准化移位值的参数标准化移位部;以及利用将上述第2标准化移位值限制为0以上的数值使上述第2参数右移位来导出成为127以下的标准化第2参数的参数标准化移位部,
上述参数a导出单元具备:将通过(16318+(标准化第2参数>>1))/标准化第2参数而被导出的tb进行导出的单元;以及根据上述tb与第1参数的乘积来导出参数a的单元。
8.一种照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,
在对象块为给定的尺寸以上的情况下,由上述照度补偿部进行照度补偿,在上述对象块小于给定的尺寸的情况下,不进行照度补偿。
9.一种照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,
上述照度补偿部具备:照度参数估计部,其根据参照图片上的参照图像区域与对象层上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,
照度补偿滤波器,在对象块为给定的尺寸以上的情况下,通过在从参照层获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块小于上述给定的尺寸的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
10.根据权利要求8或9所述的照度补偿装置,其特征在于,
上述给定的尺寸为4×4块。
11.一种照度补偿装置,其特征在于,具备:照度补偿部,其将照度补偿应用于运动补偿图像,
上述照度补偿部具备:照度参数估计部,其根据参照图片上的参照图像区域与解码对象图片上的相邻解码图像区域来导出照度变化参数;以及照度补偿滤波器,其利用上述照度变化参数来进行照度补偿,
照度补偿滤波器,在对象块为亮度块的情况下,通过在从参照图片获得的运动补偿图像与照度变化参数的参数a的乘积上相加照度变化参数的参数b的单元来进行照度补偿,在对象块为色差块的情况下,通过将上述运动补偿图像与照度变化参数的参数b进行相加的单元来进行照度补偿。
12.一种LM预测装置,其特征在于,具备:LM预测部,其根据亮度图像来适用色差预测图像,
上述LM预测部具备:LM参数估计部,其根据相邻亮度图像与相邻色差图像来导出LM参数;以及LM预测滤波器,其利用上述LM参数,根据亮度图像来生成色差预测图像,
上述LM预测滤波器包含:在亮度图像与LM参数的参数a的乘积上相加LM参数的参数b的单元,
上述LM参数估计部具备:参数a导出部,其根据第1参数a1和第2参数a2来导出参数a,其中,该第1参数a1是根据相邻亮度图像的像素值与相邻色差图像的像素值的乘积之和、相邻色差图像的像素值y与相邻亮度图像的像素值x的乘积之和XY相对于相邻色差图像的像素值之和Y与相邻亮度图像的像素值之和X的乘积的差值而导出的,该第2参数a2是根据相邻亮度图像的像素值的平方之和XX与相邻亮度图像的像素值之和X的平方的差值而导出的,
上述参数a导出部具备:基于根据第2参数a2而确定的第1标准化移位值和第2标准化移位值使上述第1参数a1与上述第2参数a2右移位的单元。
13.根据权利要求12所述的LM预测装置,其特征在于,
上述参数a导出部还具备导出正则化项的正则化项导出单元,至少将上述正则化项与上述第2参数a2相加。
14.根据权利要求12所述的LM预测装置,其特征在于,
上述参数a导出部还具备导出正则化项的正则化项导出单元,将根据相邻色差图像的像素值之和Y而导出的正则化项与上述第1参数a1相加,将根据相邻亮度图像的像素值之和X而导出的正则化项与上述第2参数a2相加。
15.一种图像解码装置,其具备权利要求1至11中任一项所述的照度补偿装置。
16.一种图像编码装置,其具备权利要求1至11中任一项所述的照度补偿装置。
CN201480034579.1A 2013-06-18 2014-06-03 照度补偿装置、lm预测装置、图像解码装置、图像编码装置 Pending CN105393534A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013127263 2013-06-18
JP2013-127263 2013-06-18
PCT/JP2014/064734 WO2014203726A1 (ja) 2013-06-18 2014-06-03 照度補償装置、lm予測装置、画像復号装置、画像符号化装置

Publications (1)

Publication Number Publication Date
CN105393534A true CN105393534A (zh) 2016-03-09

Family

ID=52104467

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480034579.1A Pending CN105393534A (zh) 2013-06-18 2014-06-03 照度补偿装置、lm预测装置、图像解码装置、图像编码装置

Country Status (6)

Country Link
US (2) US9894359B2 (zh)
EP (1) EP3013049A4 (zh)
JP (2) JP6360053B2 (zh)
CN (1) CN105393534A (zh)
HK (1) HK1222490A1 (zh)
WO (1) WO2014203726A1 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019210829A1 (en) * 2018-04-30 2019-11-07 Mediatek Inc. Signaling for illumination compensation
CN110786014A (zh) * 2017-07-05 2020-02-11 华为技术有限公司 用于视频编码的设备和方法
CN111886863A (zh) * 2018-12-27 2020-11-03 Kddi 株式会社 动态图像解码装置、动态图像解码方法及程序
CN112889277A (zh) * 2018-10-22 2021-06-01 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法和解码方法
CN113615171A (zh) * 2019-03-08 2021-11-05 夏普株式会社 Lic部、图像解码装置以及图像编码装置
US11985324B2 (en) 2019-03-14 2024-05-14 Hfi Innovation Inc. Methods and apparatuses of video processing with motion refinement and sub-partition base padding

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9894359B2 (en) * 2013-06-18 2018-02-13 Sharp Kabushiki Kaisha Illumination compensation device, LM prediction device, image decoding device, image coding device
EP3160141B1 (en) * 2014-06-18 2024-07-31 Samsung Electronics Co., Ltd. Inter-layer video encoding method for compensating for luminance difference and device therefor, and video decoding method and device therefor
US10820007B2 (en) * 2015-01-21 2020-10-27 Samsung Electronics Co., Ltd. Method and apparatus for decoding inter-layer video, and method and apparatus for encoding inter-layer video
US20180302641A1 (en) * 2015-10-05 2018-10-18 Sharp Kabushiki Kaisha Image predicting device for image decoding device or image encoding device
JP6781340B2 (ja) * 2016-09-22 2020-11-04 エルジー エレクトロニクス インコーポレイティド 映像コーディングシステムにおける照度補償基盤インター予測方法及び装置
US10951912B2 (en) 2016-10-05 2021-03-16 Qualcomm Incorporated Systems and methods for adaptive selection of weights for video coding
WO2019021803A1 (ja) * 2017-07-24 2019-01-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
US10715810B2 (en) * 2018-02-20 2020-07-14 Qualcomm Incorporated Simplified local illumination compensation
GB2571313B (en) * 2018-02-23 2022-09-21 Canon Kk New sample sets and new down-sampling schemes for linear component sample prediction
GB2574575A (en) * 2018-04-27 2019-12-18 V Nova Int Ltd Video decoder chipset
US11095921B2 (en) * 2018-12-18 2021-08-17 Tencent America LLC Method and apparatus for video encoding or decoding
US11997308B2 (en) 2019-03-08 2024-05-28 Interdigital Madison Patent Holdings, Sas Local illumination compensation for video encoding or decoding
EP3706423A1 (en) * 2019-03-08 2020-09-09 InterDigital VC Holdings, Inc. Local illumination compensation for video encoding or decoding
EP3935861A1 (en) * 2019-03-08 2022-01-12 InterDigital VC Holdings, Inc. Local illumination compensation for video encoding or decoding
EP3706418A1 (en) * 2019-03-08 2020-09-09 InterDigital VC Holdings, Inc. Regularization of local illumination compensation for video encoding or decoding
EP3737099A1 (en) * 2019-05-06 2020-11-11 InterDigital VC Holdings, Inc. Local illumination compensation for video encoding or decoding
CN113841396B (zh) * 2019-05-20 2022-09-13 北京字节跳动网络技术有限公司 简化的局部照明补偿
CN116389725A (zh) * 2019-07-10 2023-07-04 Oppo广东移动通信有限公司 图像分量预测方法、编码器、解码器以及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0706352B1 (pt) * 2006-01-09 2019-07-30 Dolby International Ab Método e aparelho para prover modo de atualização de resolução reduzida para codificação de vídeo de múltiplas visualizações
KR100947234B1 (ko) * 2006-01-12 2010-03-12 엘지전자 주식회사 다시점 비디오의 처리 방법 및 장치
KR101244917B1 (ko) * 2007-06-11 2013-03-18 삼성전자주식회사 조도 보상 방법 및 장치, 이를 이용한 영상의 부호화,복호화 방법 및 장치
JP2013034163A (ja) * 2011-06-03 2013-02-14 Sony Corp 画像処理装置及び画像処理方法
US9894359B2 (en) * 2013-06-18 2018-02-13 Sharp Kabushiki Kaisha Illumination compensation device, LM prediction device, image decoding device, image coding device

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11317100B2 (en) 2017-07-05 2022-04-26 Huawei Technologies Co., Ltd. Devices and methods for video coding
CN110786014A (zh) * 2017-07-05 2020-02-11 华为技术有限公司 用于视频编码的设备和方法
CN110786014B (zh) * 2017-07-05 2022-06-28 华为技术有限公司 用于视频编解码的装置、方法和存储介质
CN112042189A (zh) * 2018-04-30 2020-12-04 联发科技股份有限公司 用于照度补偿的信令
WO2019210829A1 (en) * 2018-04-30 2019-11-07 Mediatek Inc. Signaling for illumination compensation
US11343541B2 (en) 2018-04-30 2022-05-24 Hfi Innovation Inc. Signaling for illumination compensation
CN112042189B (zh) * 2018-04-30 2023-07-21 寰发股份有限公司 照度补偿方法及相应的电子装置
CN112889277A (zh) * 2018-10-22 2021-06-01 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法和解码方法
CN112889277B (zh) * 2018-10-22 2024-07-23 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法和解码方法
CN111886863A (zh) * 2018-12-27 2020-11-03 Kddi 株式会社 动态图像解码装置、动态图像解码方法及程序
CN111886863B (zh) * 2018-12-27 2024-06-11 Kddi株式会社 动态图像解码装置、动态图像解码方法及程序
CN113615171A (zh) * 2019-03-08 2021-11-05 夏普株式会社 Lic部、图像解码装置以及图像编码装置
US11985324B2 (en) 2019-03-14 2024-05-14 Hfi Innovation Inc. Methods and apparatuses of video processing with motion refinement and sub-partition base padding

Also Published As

Publication number Publication date
EP3013049A1 (en) 2016-04-27
US9894359B2 (en) 2018-02-13
US10200688B2 (en) 2019-02-05
EP3013049A4 (en) 2017-02-22
JPWO2014203726A1 (ja) 2017-02-23
WO2014203726A1 (ja) 2014-12-24
US20160134869A1 (en) 2016-05-12
JP6360053B2 (ja) 2018-07-18
US20180109790A1 (en) 2018-04-19
HK1222490A1 (zh) 2017-06-30
JP2018174567A (ja) 2018-11-08

Similar Documents

Publication Publication Date Title
CN105393534A (zh) 照度补偿装置、lm预测装置、图像解码装置、图像编码装置
JP6225241B2 (ja) 画像復号装置、画像復号方法、画像符号化装置及び画像符号化方法
CN105556969B (zh) 视频译码中使用视差向量的块识别
CN105191319B (zh) 对3d视频译码中的视差向量导出和运动向量预测的简化
CN105379282B (zh) 用于纹理译码的先进残余预测(arp)的方法和设备
CN105308965B (zh) 用于3d视频编码的协调视图间和视图合成预测
RU2611240C2 (ru) Устройство, способ и компьютерная программа для трехмерного видеокодирования
CN105637872B (zh) 图像解码装置、图像编码装置
CN109691106A (zh) 时间运动向量预测符的偏移向量识别
CN117857788A (zh) 解码设备、编码设备和发送用于图像的数据的设备
CN107371020B (zh) 动图像解码装置、动图像解码方法以及存储介质
CN105122812A (zh) 用于三维(3d)视频译码的高级合并模式
CN104255029A (zh) 产生用于不同的颜色取样格式的子像素值
CN104412597A (zh) 用于3d视频编码的统一视差矢量推导的方法及装置
WO2017061189A1 (ja) 画像復号装置または画像符号化装置のための画像予測装置
CN105210370A (zh) 图像解码装置以及图像编码装置
US20140348242A1 (en) Image coding apparatus, image decoding apparatus, and method and program therefor
CN114208171A (zh) 用于推导用于生成预测样本的权重索引信息的图像解码方法和装置
CN114258676A (zh) 当最终无法选择当前块的预测模式时执行帧间预测的图像解码方法及其装置
CN114631318A (zh) 应用双向预测时推导用于加权平均的权重索引信息的图像解码方法和设备
JP6118199B2 (ja) 画像復号装置、画像符号化装置、画像復号方法、画像符号化方法及びコンピュータ読み取り可能な記録媒体。
CN114303375A (zh) 使用双向预测的视频解码方法和用于该方法的装置
CN114375573A (zh) 使用合并候选推导预测样本的图像解码方法及其装置
CN105933709B (zh) 运动图像编码方法、装置以及运动图像解码方法、装置
CN118044201A (zh) 基于mdmvr的图像编译方法及设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1222490

Country of ref document: HK

WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160309

WD01 Invention patent application deemed withdrawn after publication
REG Reference to a national code

Ref country code: HK

Ref legal event code: WD

Ref document number: 1222490

Country of ref document: HK