CN109691100A - 图像处理设备和图像处理方法 - Google Patents

图像处理设备和图像处理方法 Download PDF

Info

Publication number
CN109691100A
CN109691100A CN201780055445.1A CN201780055445A CN109691100A CN 109691100 A CN109691100 A CN 109691100A CN 201780055445 A CN201780055445 A CN 201780055445A CN 109691100 A CN109691100 A CN 109691100A
Authority
CN
China
Prior art keywords
prediction mode
frame
prediction
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201780055445.1A
Other languages
English (en)
Other versions
CN109691100B (zh
Inventor
近藤健治
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN109691100A publication Critical patent/CN109691100A/zh
Application granted granted Critical
Publication of CN109691100B publication Critical patent/CN109691100B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

本公开内容涉及能够提高在图像的亮度分量的预测模式是帧内BC预测模式的情况下指示颜色分量的预测模式的信息的编码效率的图像处理设备和图像处理方法。在图像的亮度分量的预测模式是帧内BC预测模式的情况下,编码单元使用图像的亮度分量的预测模式是帧内BC预测模式的事实作为上下文来对指示图像的颜色分量的预测模式的预测模式信息进行编码。本公开内容可以应用于例如图像编码设备等。

Description

图像处理设备和图像处理方法
技术领域
本公开内容涉及图像处理设备和图像处理方法,并且更具体地涉及其中每一个使得能够提高在图像的亮度分量的预测模式是帧内BC预测模式的情况下指示颜色分量的预测模式的信息的编码效率的图像处理设备和图像处理方法。
用于利用HEVC(高效视频编码)执行编码的编码设备对作为编码目标的块的当前块执行具有帧内预测模式或帧间预测模式的预测处理,并且生成预测块作为当前块的预测图像。然后,编码设备使作为预测块与当前块之间的差异的预测残差经受正交变换,并且执行量化,从而生成编码流。
以这样的方式生成的编码流在解码设备中经历逆量化和逆正交变换。然后,产生的预测残差被添加到预测块以生成当前块的解码图像。
HEVC(高效视频编码)版本1采用称为DC帧内预测、平面帧内预测和角度帧内预测的模式作为帧内预测模式中的预测模式。
此外,在HEVC-SCC(屏幕内容编码)中,也可以使用帧内BC(帧内块复制)预测模式(其中,通过与帧间预测模式一样参考屏幕图像内的编码区域来生成预测块)作为帧内预测模式系统预测模式之一。
然而,在HEVC-SCC的帧内BC预测模式的预测处理中,仅对屏幕图像内的编码区域执行平行移动,从而生成预测块。因此,可能无法充分提高预测块的精度。
然后,在帧内BC预测模式的预测处理中,设计:对屏幕图像内的编码区域不仅执行平行移动,而且执行旋转,从而生成预测块(例如,参考NPL 1)。在该情况下,不仅将表示平行移动的方向和幅度的运动矢量而且将旋转角度包括到编码流中。
另一方面,探索ITU-T(国际电信联盟电信标准化部门)的下一代视频编码的JVET(联合视频探索组)提出:在I切片中,颜色分量(Chroma)和亮度分量(Luma)的CU的编码和结构被彼此独立地控制。
引用列表
非专利文献
NPL 1Z.Zhang,V.Sze,“Rotate Intra Block Copy for Still Image Coding”,IEEE国际图像处理会议(ICIP),2015年9月
发明内容
技术问题
在颜色分量和亮度分量的CU的编码和结构被彼此独立地控制的情况下,不仅需要将指示亮度分量的预测模式的信息,而且需要将指示颜色分量的预测模式的信息包括在编码流中。因此,期望有效地对指示颜色分量的预测模式的信息进行编码。
本公开内容已依据这样的情况做出,并且使得能够提高在图像的亮度分量的预测模式是帧内BC预测模式的情况下指示颜色分量的预测模式的信息的编码效率。
问题的解决方案
本公开内容的第一方面的图像处理设备是设置有编码部的图像处理设备,该编码部在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用亮度分量的预测模式是帧内BC预测模式作为上下文来对指示图像的颜色分量的预测模式的信息进行编码。
本公开内容的第一方面的图像处理方法与本公开内容的第一方面的图像处理设备对应。
在本公开内容的第一方面中,在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用亮度分量的预测模式是帧内BC预测模式作为上下文来对指示图像的颜色分量的预测模式的信息进行编码。
本公开内容的第二方面的图像处理设备是设置有解码部的图像处理设备,该解码部在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用亮度分量的预测模式是帧内BC预测模式作为上下文来对指示图像的颜色分量的预测模式的信息进行解码。
本公开内容的第二方面的图像处理方法与本公开内容的第二方面的图像处理设备对应。
在本公开内容的第二方面中,在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用亮度分量的预测模式是帧内BC预测模式作为上下文来对指示图像的颜色分量的预测模式的信息进行解码。
应当注意,可以通过使计算机执行程序来实现第一方面和第二方面中的每一个的图像处理设备。
为了实现第一方面和第二方面中的每一个的图像处理设备,可以通过经由传输介质传送,或通过在记录介质中记录来提供使得要由计算机执行的程序。
有益效果
根据本公开内容的第一方面,可以执行编码。此外,根据本公开内容的第一方面,可以提高在图像的亮度分量的预测模式是帧内BC预测模式的情况下指示颜色分量的预测模式的信息的编码效率。
根据本公开内容的第二方面,可以执行解码。此外,根据本公开内容的第一方面,可以对在图像的亮度分量的预测模式是帧内BC预测模式的情况下被编码以提高编码效率的指示颜色分量的预测模式的信息进行编码。
应当注意,这里描述的效果决不必是限制性的,并且还可以提供本公开内容中描述的任何效果。
附图说明
[图1]图1是说明形成CU的方法的图。
[图2]图2是描绘图像编码设备的第一实施方式的配置示例的框图。
[图3]图3是描绘预测信息的配置的部分的第一示例的图。
[图4]图4是说明帧内BC预测处理的图。
[图5]图5是描绘图片的格式的第一示例的图。
[图6]图6是描绘图片的格式的第二示例的图。
[图7]图7是描绘图片的格式的第三示例的图。
[图8]图8是描绘要进行参考的亮度分量的CU的图。
[图9]图9是说明颜色分量的预测模式信息的语法值的编码的图。
[图10]图10是说明运动矢量信息的生成的图。
[图11]图11是说明运动矢量信息的生成的另一视图。
[图12]图12是说明运动矢量信息的生成的又一视图。
[图13]图13是说明图像编码处理的流程图。
[图14]图14是说明标志设置处理的第一示例的流程图。
[图15]图15是说明标志设置处理的第二示例的流程图。
[图16]图16是说明运动矢量信息设置处理的流程图。
[图17]图17是说明编码处理的流程图。
[图18]图18是说明预测模式编码处理的流程图。
[图19]图19是描绘图像解码设备的实施方式的配置示例的框图。
[图20]图20是说明图像解码处理的流程图。
[图21]图21是说明标志解码处理的第一示例的流程图。
[图22]图22是说明标志解码处理的第二示例的流程图。
[图23]图23是说明预测模式解码处理的流程图。
[图24]图24是说明解码处理的流程图。
[图25]图25是说明运动矢量获取处理的流程图。
[图26]图26是描绘预测信息的配置的部分的第二示例的图。
[图27]图27是描绘预测信息的配置的部分的第三示例的图。
[图28]图28是描绘计算机的硬件的配置示例的框图。
[图29]图29是描绘电视设备的示意性配置的示例的框图。
[图30]图30是描绘便携式电话的示意性配置的示例的框图。
[图31]图31是描绘记录/再现设备的示意性配置的示例的框图。
[图32]图32是描绘成像设备的示意性配置的示例的框图。
[图33]图33是描绘视频设备的示意性配置的示例的框图。
[图34]图34是描绘视频处理器的示意性配置的示例的框图。
[图35]图35是描绘视频处理器的示意性配置的另一示例的框图。
[图36]图36是描绘网络系统的示意性配置的示例的框图。
具体实施方式
在下文中,将给出与用于实施本公开内容的模式(在下文中,称为实施方式)有关的描述。应当注意,将根据以下顺序给出描述。
1.第一实施方式:图像编码设备和图像解码设备(图1至图27)
2.第二实施方式:计算机(图28)
3.第三实施方式:电视设备(图29)
4.第四实施方式:便携式电话(图30)
5.第五实施方式:记录/再现设备(图31)
6.第六实施方式:成像设备(图32)
7.第七实施方式:视频设备(图33至图35)
8.第八实施方式:网络系统(图36)
<第一实施方式>
(形成CU的方法的说明)
在诸如MPEG2(运动图像专家组2(ISO/IEC 13818-2))或MPEG-4 Part10(高级视频编码,在下文中称为AVC)的过去的图像编码系统中,在被称为宏块的处理单元中执行编码处理。宏块是具有16×16像素的均匀尺寸的块。另一方面,在HEVC中,在称为CU(编码单元)的处理单元(编码单元)中执行编码处理。CU是通过递归地划分作为最大编码单元的LCU(最大编码单元)而形成并且具有可变的尺寸的块。可选择的CU的最大尺寸是64×64像素。可选择的CU的最小尺寸是8×8像素。具有最小尺寸的CU被称为SCU(最小编码单元)。应当注意,CU的最大尺寸不限于64×64像素,并且可以具有更大的块尺寸例如128×128像素或256×256像素。
以这样的方式,采用具有可变尺寸的CU,并且因此,在HEVC中,可以响应于图像的内容自适应地调整图像质量和编码效率。在称为PU(预测单元)的处理单元中执行用于预测编码的预测处理。通过使用一些划分模式之一划分CU来形成PU。此外,PU包括针对每个亮度(Y)和色差(Cb、Cr)的称为PB(预测块)的处理单元。此外,在称为TU(变换单元)的处理单元中执行正交变换处理。通过将CU或PU划分到特定深度来形成TU。此外,TU包括针对每个亮度(Y)和色差(Cb、Cr)的称为TB(变换块)的处理单元(变换块)。
在下文中,将通过使用“块”作为图像(图片)的部分区域或在某些情况下的处理单元(不是处理部中的块)来给出描述。在该情况下的“块”指示图片内的任意部分区域,并且其尺寸、形状、特性等不受限制。总之,在该情况下的“块”中包括任意部分区域(处理单元)例如TB、TU、PB、PU、SCU、CU、LCU(CTB)、子块、宏块、区块(tile)或切片。
图1是说明形成CU的方法的图。
通过使用在JVET-C0024,“EE2.1:Quadtree plus binary tree structureintegration with JEM tools”中描述的称为QTBT(四叉树加二叉树)的技术来形成第一实施方式中的CU。
具体地,尽管在HEVC中,一个块被划分为4(=2×2)个子块,从而形成CU,但是在第一实施方式中,一个块被划分为4(=2×2)个子块或2(=1×2,2×1)个子块。也就是说,在第一实施方式中,递归地重复将一个块划分为四个或两个子块,从而形成CU。因此,形成四叉树形状或二叉树形状的树结构。应当注意,在第一实施方式中,PU和TU中的每一个与CU相同。
(图像编码设备的配置示例)
图2是描绘作为应用本公开内容的图像处理设备的图像编码设备的实施方式的配置示例的框图。图2的图像编码设备100是用于如AVC或HEVC那样对图像与其预测图像之间的预测残差进行编码的设备。例如,利用HEVC的技术或JVET中提出的技术实现图像编码设备100。
顺便提及,图2描绘了诸如处理部的主要构成元件或数据流,并且图2中描绘的构成元件不一定是全部构成元件。总之,在图像编码设备100中,可以存在未以图2中的块的形式描绘的处理部,或者可以存在未以图2中的箭头形式等描绘的处理或数据流。
图2的图像编码设备100具有控制部101、计算部111、变换部112、量化部113、编码部114、逆量化部115、逆变换部116、计算部117、帧存储器118和预测部119。图像编码设备100对作为针对每个CU输入的帧单元中的YCbCr的运动图像的图片的亮度分量Y和颜色分量Cb和Cr进行编码。
具体地,图像编码设备100的控制部101基于来自外部的输入、率失真优化(RDO)等来设置编码参数(头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等)。顺便提及,在包括作为编码目标的CU的切片是I切片的情况下,控制部101彼此独立地设置颜色分量Cb、Cr和亮度分量Y的预测信息Pinfo等。
头部信息Hinfo例如包括诸如视频参数集(VPS)、序列参数集(SPS)、图片参数集(PPS)和切片头部(SH)的信息。例如,在头部信息Hinfo的SPS中包括指示亮度分量Y的帧内BC预测模式是否有效的SPS.IntraBCflag、指示色差分量的帧内BC预测模式是否有效的SPS.IntraBCchromaflag等。不必说,头部信息Hinfo的内容是任意的,并且除了以上描述的示例之外的任何信息可以被包括在头部信息Hinfo中。
例如,在预测信息Pinfo中包括作为指示在形成PU(CU)时在划分层次层中的每一个中是否存在水平方向上和竖直方向上的划分的信息(即作为指示PU(CU)的结构的信息)的分割标志、指示PU的预测模式的预测模式信息等。顺便提及,在颜色分量Cr的PU的预测模式不是CrossColor预测模式(细节将在后面描述)的情况下,颜色分量Cr的PU的预测模式与和该颜色分量Cr的PU对应的颜色分量Cb的PU的预测模式相同。不必说,预测信息Pinfo的内容是任意的,并且除了以上描述的示例之外的任何信息可以被包括在预测信息Pinfo中。
在变换信息Tinfo中包括作为指示TB尺寸的信息的TB尺寸TBSize等。不必说,变换信息Tinfo的内容是任意的,并且除了以上描述的示例之外的任何信息可以被包括在变换信息Tinfo中。
控制部101基于设置的编码参数将输入至图像编码设备100的图片划分成CU(PU,TU),并且按顺序将通过对CU(PU,TU)划分获得的CU(PU,TU)设置为编码目标。控制部101将作为编码目标的CU(PU,TU)的图像I提供给计算部111。
此外,控制部101将如此设置的编码参数提供给块中的每一个。例如,控制部101将头部信息Hinfo提供给块中的每一个。此外,控制部101将预测信息Pinfo提供给预测部119和编码部114中的每一个,并且将变换信息Tinfo提供给变换部112、量化部113、逆量化部115和逆变换部116中的每一个。
计算部111通过从图像I中减去从预测部119提供至其的PU的预测图像P来获得预测残差D,并且将预测残差D提供至变换部112。
变换部112基于从控制部101提供至其的变换信息Tinfo使从计算部111提供至其的预测残差D经受正交变换等,以导出变换系数Coeff。变换部112将变换系数Coeff提供至量化部113。
量化部113基于从控制部101提供至其的变换信息Tinfo来对从变换部112提供至其的变换系数Coeff进行缩放(量化)以导出量化变换系数级别Level。量化部113将量化变换系数级别Level提供至编码部114和逆量化部115中的每一个。
编码部114通过使用预定方法对从量化部113提供至其的量化变换系数级别level等进行编码。例如,编码部114根据语法表的定义将从控制部101提供至其的编码参数(头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等)和从量化部113提供至其的量化变换系数级别Level转换成语法元素的语法值。然后,编码部114使语法值经受编码(诸如CABAC(基于上下文的自适应二进制算术编码)的算术编码)。
例如,在与作为编码目标的颜色分量Cb或Cr的CU对应的亮度分量Y的CU的预测模式是帧内BC预测模式的情况下,编码部114通过使用亮度分量Y的CU的预测模式是帧内BC预测模式作为上下文来对作为编码目标的颜色分量Cb或Cr的CU的预测模式信息的语法值进行编码。
编码部114例如将编码数据复用为作为编码结果获得的语法值的比特流,并且输出复用的数据作为编码流。
逆量化部115基于从控制部101提供至其的变换信息Tinfo对从量化部113提供至其的量化变换系数级别level的值进行缩放(逆量化),以导出逆量化后的变换系数Coeff_IQ。逆量化部115将变换系数Coeff_IQ提供至逆变换部116。由逆量化部115执行的逆量化是由量化部113执行的量化的逆处理。
逆变换部116基于从控制部101提供至其的变换信息Tinfo使从逆量化部115提供至其的变换系数Coeff_IQ经受逆正交变换等,以导出预测残差D'。逆变换部116将预测残差D'提供至计算部117。由逆变换部116执行的逆正交变换是由变换部112执行的正交变换的逆处理,并且是与在稍后将描述的图像解码设备中执行的逆正交变换类似的处理。
计算部117将从逆变换部116提供至其的预测残差D'和与从预测部119提供至其并且与预测残差D'对应的预测图像P彼此相加,以导出局部解码图像Rec。计算部117将局部解码图像Rec提供至帧存储器118。
帧存储器118通过使用从计算部117提供至其的局部解码图像Rec重建图片单元中的解码图像,并且将产生的图像存储在帧存储器118内的缓冲器中。帧存储器118从缓冲器读出由预测部119指定为参考图像的解码图像,并且将解码图像提供至预测部119。此外,帧存储器118可以将与解码图像的预测有关的头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等存储在帧存储器118内的缓冲器中。
预测部119基于从控制部101提供至其的预测信息Pinfo获取存储在帧存储器118中的解码图像作为参考图像,并且通过使用参考图像对作为编码目标的PU执行预测处理。在作为编码目标的PU是亮度分量Y的PU的情况下,作为用于帧内预测模式的预测处理的帧内预测处理、作为用于帧内BC预测模式的预测处理的帧内BC预测处理,或作为用于帧间预测模式的预测处理的帧间预测处理被执行为预测处理。
帧内预测处理是指用于利用与作为参考图像的PU的图片相同的图片的相同分量生成作为预测图像P的块的预测处理,具有解码的PU尺寸的块存在于由参考图像内的PU的预测模式指示的方向上。帧内BC预测处理是指以下预测处理,该预测处理用于平行移动具有解码的PU尺寸的块(其位于离开参考图像内的PU运动矢量的距离处),以利用与作为参考图像的PU的图片相同的图片的相同分量生成预测图像P。帧间预测处理是指以下处理,该处理用于利用与在包括PU的图片之前被解码的图片的PU的分量相同的分量平行移动具有解码的PU尺寸的块(其位于离开参考图像内的PU运动矢量的距离处),从而生成作为预测图像P的感兴趣的块。
此外,在作为编码目标的PU是颜色分量Cb的情况下,帧内预测处理、帧内BC预测处理、帧间预测处理、或作为LMchroma预测模式的预测处理的LMchroma预测处理被执行为预测处理。LMchroma预测处理是指用于通过使用利用解码的像素值计算出的变换参数对与PU的位置相同的位置处的亮度分量Y的像素值进行变换从而生成预测图像P的处理。
此外,在作为编码目标的PU是颜色分量Cr的情况下,帧内预测处理、帧内BC预测处理、帧间预测处理、LMchroma预测处理、或作为用于CrossColor预测模式的预测处理的CrossColor预测处理被执行为预测处理。CrossColor预测处理是指用于利用预定变换参数对与PU的位置相同的位置处的颜色分量Cr的像素值进行变换从而生成预测图像P的处理。预定变换参数被包括在预测信息Pinfo中。
预测部119将作为预测处理结果生成的预测图像P提供给计算部111或计算部117。
(预测信息Pinfo的配置示例)
图3是描绘预测信息Pinfo的配置的部分的示例的图。
如图3所示,预测信息Pinfo的pred_mode_flag是指示PU的预测模式是帧间预测模式还是帧内预测模式系统的预测模式(帧内预测模式、帧内BC预测模式、LMchroma预测模式、CrossColor预测模式)的信息。
在pred_mode_flag指示PU的预测模式是帧间预测模式的情况下,pred_mode_flag是预测模式信息。在该情况下,如图3所示,在预测信息Pinfo中包括指示在帧间预测处理中使用的具有分数精度的运动矢量(MV)的运动矢量信息、作为用于指定参考图像的信息的ReferenceIndex等。
另一方面,在pred_mode_flag指示PU的预测模式是帧内预测模式系统预测模式的情况下,指示PU的预测模式是否是帧内BC预测模式的PU.IntraBCflag(PU.IntraBCmode)和pred_mode_flag是预测模式信息。
在该情况下,当PU.IntraBCflag指示预测模式不是帧内BC预测模式时,预测模式信息指示帧内预测模式。然后,指示预测模式不是帧内BC预测模式(即预测模式是帧内预测模式)的PU.IntraBCflag、帧内预测模式等被包括在预测信息Pinfo中。帧内预测模式是指指示在PU的帧内预测模式中称为DC帧内预测、平面帧内预测和角度帧内预测的预测模式的信息。
另一方面,当PU.IntraBCflag指示预测模式是帧内BC预测模式时,预测模式信息指示帧内BC预测模式。然后,在预测信息Pinfo中包括指示预测模式是帧内BC预测模式的PU.IntraBCflag、指示在帧内BC预测中使用的具有整数精度或分数像素精度的运动矢量(MV)的信息等。
顺便提及,在PU是颜色分量Cb或Cr的PU的情况下,存在pred_mode_flag指示PU的预测模式是帧内预测模式系统预测模式的情况以及预测模式是LMchroma预测模式的另一情况。在该情况下,在预测信息Pinfo中包括pred_mode_flag和指示预测模式是LMchroma预测模式的信息作为预测模式信息。
此外,在PU是颜色分量Cr的PU的情况下,存在pred_mode_flag指示PU的预测模式是帧内预测模式系统模式的情况以及预测模式是CrossColor预测模式的另一情况。在该情况下,在预测信息Pinfo中包括指示pred_mode_flag和预测模式是CrossColor预测模式的信息作为预测模式信息。
尽管在图3的示例中,帧内BC预测模式被设置为帧内预测模式系统预测模式,但是帧内BC预测模式可以被设置为帧间预测模式系统预测模式。在该情况下,pred_mode_flag是指示PU的预测模式是帧间预测模式系统还是帧内预测模式的信息。
此外,指示预测模式是帧内BC预测模式的预测模式信息是指示预测模式是帧间模式预测系统预测模式的pred_mode_flag以及指示预测模式是帧内BC预测模式的PU.IntraBCflag。指示预测模式是帧间预测模式的预测模式信息是指示预测模式是帧间预测模式系统预测模式的pred_mode_flag以及指示预测模式不是帧内BC预测模式的PU.IntraBCflag。指示预测模式是帧内预测模式的预测模式信息是指示预测模式是帧内预测模式的pred_mode_flag。
(帧内BC预测处理的说明)
图4是说明由图2的预测部119执行的帧内BC预测处理的图。
如图4所示,在对作为图片150的编码目标的PU 156执行帧内BC预测处理的情况下,相对于PU 156的上侧和左侧区域152被预先编码,并且被解码。然而,尚未对相对于PU156的下侧和右侧区域153进行编码。因此,参考图像是仅对区域152进行局部解码的解码图像。
预测部119基于在预测信息Pinfo中包括的指示运动矢量154的运动矢量信息通过使用参考图像来对PU 156执行帧内BC预测处理。因此,存在于与图片150内的PU 156相距运动矢量154的距离处并且具有与PU 156的尺寸相同的尺寸的解码块155的解码图像被生成为预测图像P。
(图片格式的示例)
图5至图7分别是描绘输入至图像编码设备100的图片的格式的示例的图。
如图5至图7所示,输入至图像编码设备100的图片是YCbCr图像。如图5所示的图片的格式可以是如图6所示的YCbCr 420,可以是YCbCr 422或者可以是YCbCr 444。
在YCbCr 420中,亮度分量Y的水平方向和竖直方向上的像素数目是颜色分量Cb和Cr的水平方向和竖直方向上的像素数目的1/2。此外,在YCbCr 422中,亮度分量Y的竖直方向上的像素数目是颜色分量Cb和Cr的竖直方向上的像素数目的1/2。亮度分量Y的水平方向上的像素数目与颜色分量Cb和Cr的水平方向上的像素数目相同。在YCbCr 444中,亮度分量Y的水平方向和竖直方向上的像素数目与颜色分量Cb和Cr的水平方向和竖直方向上的像素数目相同。
因此,例如,与亮度分量Y的128(宽度)×128(深度)像素的CU对应的颜色分量Cb和Cr的CU的尺寸在YCbCr 420下为64×64像素、在YCbCr 422下为128×64像素以及在YCbCr444下为128×128像素。
因此,在图片的格式是YCbCr 420或YCbCr 422的情况下,在参考与颜色分量Cb或Cr的CU对应的亮度分量Y的CU时,图像编码设备100将颜色分量Cb或Cr的尺寸扩展到与亮度分量Y的尺寸相同的尺寸。
然后,如图8所示,图像编码设备100参考包括以下位置的亮度分量Y的CU 132,该位置是与以与扩展CU 131之前的CU对应的亮度分量Y的CU的形式扩展之后的颜色分量Cb的CU 131的预定位置(例如,左上位置)相同的位置。同样地,图像编码设备100参考包括以下位置的亮度分量Y的CU 132,该位置是与以与扩展CU 133之前的CU对应的亮度分量Y的CU的形式扩展之后的颜色分量Cb的CU 133的预定位置相同的位置。
尽管由于在YCbCr 420和YCbCr 422中亮度分量Y的颜色分量Cb和Cr中的每一个的像素数目小于亮度分量Y的像素数目,所以与亮度分量Y与颜色分量Cb和Cr中的每一个的像素数目相同的YCbCr 444相比可以减少数据量,但是颜色分量Cb和Cr的图像质量劣化。然而,由于人类对亮度的视觉灵敏度不如对颜色的视觉灵敏度,因此难以识别颜色分量Cb和Cr的图像质量的劣化。因此,在YCbCr 420和YCbCr 422中,可以减少数据量而不会使人类识别图像质量的劣化。
(颜色分量Cb和Cr的预测模式信息的语法值的编码的说明)
图9是说明颜色分量Cb和Cr的预测模式信息的语法值的编码的图。
如图9所示,在编码部114对颜色分量Cb的PU 156的预测模式信息的语法值进行编码的情况下,编码部114参考与颜色分量Cb的PU 156对应的亮度分量Y的PU 157的预测模式。然后,在亮度分量Y的PU 157的预测模式是帧内BC预测模式的情况下,编码部114通过使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来对颜色分量Cb的PU 156的预测模式信息的语法值进行编码。
具体地,在亮度分量Y的PU的预测模式是帧内BC预测模式的情况下,与感兴趣的PU对应的颜色分量Cb和Cr的PU的预测模式是帧内BC预测模式的可能性高。因此,在使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文的情况下,编码部114对颜色分量Cb的预测模式信息设置CABAC的概率模型,使得指示帧内BC预测模式的预测模式信息的概率变高,从而执行编码。
因此,与不使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文的情况相比,提高颜色分量Cb的预测模式信息的语法值的压缩率,从而使得能够提高编码效率。
也就是说,在颜色分量Cb的PU 156的预测模式是与亮度分量Y的PU 157的预测模式相同的帧内BC预测模式的情况下,通过使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来执行编码。因此,以高压缩率压缩PU 156的预测模式信息的语法值。另一方面,在颜色分量Cb的PU 156的预测模式与亮度分量Y的PU 157的预测模式不同的情况下,通过使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来执行编码,使得PU 156的预测模式信息的语法值的数据量增加。
然而,颜色分量Cb的预测模式与亮度分量Y的预测模式不同的可能性小。因此,与不使用亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来执行编码的情况相比,颜色分量Cb的预测模式信息的整个语法值的压缩率变高。因此,提高了编码效率。
由于与亮度分量Y的PU 157对应的颜色分量Cr的PU 158的预测模式信息的语法值的编码类似于颜色分量Cb的PU 156的预测模式信息的语法值的编码,因此在此省略其描述。
(颜色分量Cb和Cr的运动矢量信息的生成的说明)
图10至图12是分别说明颜色分量Cb和Cr的帧内BC预测处理中使用的运动矢量信息的生成的图。
在颜色分量Cb的PU 161和与PU 161对应的亮度分量Y的PU 162的预测模式是帧内BC预测模式的情况下,如图10至图12所示,控制部101(生成部)通过参考在PU 162的帧内BC预测处理中使用的运动矢量172来生成在PU 161的帧内BC预测处理中使用的运动矢量信息。
具体地,如图10至图12所示,在PU 161的帧内BC预测处理中使用的运动矢量是与运动矢量172相同的运动矢量171的情况下,控制部101以运动矢量信息的形式生成指示在颜色分量Cb的帧内BC预测处理中使用的运动矢量与亮度分量Y的帧内BC预测处理中使用的运动矢量相同的MVCbSameAsLumaflag。
此外,在颜色分量Cr的PU 163的预测模式也是帧内BC预测模式的情况下,如图10和图11所示,控制部101通过参考运动矢量172生成在PU 163的帧内BC预测处理中使用的运动矢量信息。
具体地,在如图10所示在PU 163的帧内BC预测处理中使用的运动矢量是与运动矢量172相同的运动矢量173的情况下,控制部101以运动矢量信息的形式生成指示在颜色分量Cr的帧内BC预测处理中使用的运动矢量与亮度分量Y的帧内BC预测处理中使用的运动矢量相同的MVCrSameAsLumaflag。
另一方面,在如图11所示在PU 163的帧内BC预测处理中使用的运动矢量是与运动矢量172不同的运动矢量174的情况下,控制部101还可以以运动矢量信息的形式生成指示在颜色分量Cr的帧内BC预测处理中使用的运动矢量与在亮度分量Y的帧内BC预测处理中使用的运动矢量不相同的MVCrSameAsLumaflag以及运动矢量172与运动矢量174之间的差175。顺便提及,控制部101可以生成运动矢量174本身作为运动矢量信息。
以如上所述的方式,控制部101通过使用运动矢量172来生成PU 161(163)的运动矢量信息。因此,可以减少PU 161(163)的运动矢量信息的数据量,从而提高编码效率。
也就是说,由于颜色分量Cb(Cr)的PU 161(163)中的对象与和PU 161(163)对应的亮度分量Y的PU 162中的对象相同,因此在PU 161(163)和PU 162的帧内BC预测处理中使用的运动矢量之间的相关性高。因此,控制部101生成PU 162与PU 161(163)之间的差异以及MVCrSameAsLumaflag作为运动矢量信息,从而与将PU 161(163)的运动矢量本身生成为运动矢量信息的情况相比,可以减少运动矢量信息的数据量。因此,可以提高编码效率。
此外,在颜色分量Cb(Cr)的帧内BC预测处理中使用的运动矢量与运动矢量172不同的情况下,控制部101以运动矢量信息的形式生成这些运动矢量之间的差。因此,稍后将描述的图像解码设备使用运动矢量172与差的相加值作为颜色分量Cb(Cr)的运动矢量,从而与运动矢量172原样用作颜色分量Cb(Cr)的运动矢量的情况相比,可以提高预测精度。
另一方面,在颜色分量Cr的PU 163的预测模式是CrossColor预测模式的情况下,如图12所示,不生成PU 163的运动矢量信息。在该情况下,在PU 163的CrossColor预测处理中,对颜色分量Cb的PU 161的像素值进行参考。
顺便提及,在颜色分量Cb和Cr的PU以及与PU对应的亮度分量Y的PU的预测模式是帧内BC预测模式的情况下,基于与PU对应的亮度分量Y的PU的运动矢量来执行颜色分量Cb和Cr的PU的运动矢量的设置。
具体地,控制部101以候选的形式设置在以与颜色分量Cb和Cr的PU对应的亮度分量Y的PU的运动矢量为中心的预定范围内的运动矢量,并且基于RDO针对颜色分量Cb和Cr设置帧内BC预测处理中使用的运动矢量。
也就是说,由于颜色分量Cb和Cr的PU中的对象与和PU对应的亮度分量Y的PU中的对象相同,因此在颜色分量Cb和Cr的PU与和PU对应的亮度分量Y的PU的运动矢量之间的相关性高。因此,控制部101将颜色分量Cb和Cr的PU的运动矢量的候选限制到以与PU对应的亮度分量Y的PU的运动矢量作为中心的预定范围。因此,与将所有运动矢量设置为候选的情况相比,可以减少用于设置颜色分量Cb和Cr的PU的运动矢量的处理中的处理量。
(图像编码设备中的处理的说明)
图13是说明图像编码设备100的图像编码处理的流程图。例如,对输入至图像编码设备100的图片执行图像编码处理。
在图13的步骤S10中,控制部101基于来自外部的输入、RDO等设置编码参数(头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等)。控制部101将如此设置的编码参数提供给块中的每一个。
在步骤S11中,编码部114对从控制部101提供至其的编码参数进行编码。对每个切片执行稍后将描述的从步骤S12至S19的处理。
在步骤S12中,控制部101基于在步骤S10中设置的编码参数判定作为编码目标的切片是否是I切片。在步骤S12中判定作为编码目标的切片是I切片的情况下,处理进行到步骤S13。
在步骤S13中,控制部101基于在步骤S10中设置的编码参数将输入至图像编码设备100的图片内的作为编码目标的切片的亮度分量Y划分为CU,并且将如此划分的亮度分量Y的CU中的每一个设置成作为编码目标的CU。控制部101将作为编码目标的CU的图像I提供至计算部111。
在步骤S14中,图像编码设备100对从控制部101作为编码目标的CU的图像I提供的亮度分量Y的CU的图像I执行编码处理。
在步骤S15中,控制部101基于在步骤S10中设置的编码参数将输入至图像编码设备100的图片内的作为编码目标的切片的颜色分量Cb和Cr划分为CU,并且将如此通过划分获得的颜色分量Cb和Cr的CU中的每一个设置成作为编码目标的CU。控制部101将作为编码目标的CU的图像I提供至计算部111。
在步骤S16中,图像编码设备100对从控制部101作为编码目标的CU的图像I提供的颜色分量Cb和Cr的CU的图像I执行编码处理,并且结束处理。
另一方面,在步骤S12中判定作为编码目标的切片不是I切片的情况下,处理进行到步骤S17。
在步骤S17中,控制部101基于在步骤S10中设置的编码参数将输入至图像编码设备100的图片内的作为编码目标的切片的颜色分量Cb和Cr和亮度分量Y划分为具有相同结构的CU。控制部101将通过划分获得的亮度分量Y的CU中的每一个设置成作为编码目标的CU,并且将作为编码目标的CU的图像I提供至计算部111。
在步骤S18中,图像编码设备100对从控制部101作为编码目标的CU的图像I提供的亮度分量Y的CU的图像I执行编码处理。然后,控制部101将作为编码目标的切片的颜色分量Cb和Cr的CU中的每一个设置成作为编码目标的CU,并且将作为编码目标的CU的图像I提供至计算部111。
在步骤S19中,图像编码设备100对从控制部101作为编码目标的CU的图像I提供的颜色分量Cb和Cr的CU的图像I执行编码处理,并且结束处理。
图14是说明用于设置图13的步骤S10的SPS.IntraBCflag和SPS.IntraBCchromaflag的标志设置处理的流程图。
在图14的步骤S31中,控制部101基于来自外部的输入等判定是否使亮度分量的帧内BC预测模式有效。在步骤S31中判定使亮度分量的帧内BC预测模式有效的情况下,处理进行到步骤S32。
在步骤S32中,控制部101将SPS.IntraBCflag设置成指示使亮度分量的帧内BC预测模式有效的1,并且处理进行到步骤S34。
另一方面,在步骤S31中判定不使亮度分量的帧内BC预测模式有效的情况下,处理进行到步骤S33。在步骤S33中,控制部101将SPS.IntraBCflag设置成指示不使亮度分量的帧内BC预测模式有效的0,并且处理进行到步骤S34。
在步骤S34中,控制部101基于来自外部的输入等判定是否使颜色分量的帧内BC预测模式有效。在步骤S34中判定使颜色分量的帧内BC预测模式有效的情况下,处理进行到步骤S35。
在步骤S35中,控制部101将SPS.IntraBCchromaflag设置成指示使颜色分量的帧内BC预测模式有效的1,并且处理结束。
另一方面,在步骤S34中判定不使颜色分量的帧内BC预测模式有效的情况下,处理进行到步骤S36。在步骤S36中,控制部101将SPS.IntraBCchromaflag设置成指示不使颜色分量的帧内BC预测模式有效的0,并且处理结束。
顺便提及,仅在SPS.IntraBCflag被设置为1的情况下,即,仅在使亮度分量的帧内BC预测处理有效的情况下,可以使SPS.IntraBCchromaflag可设置。在该情况下的标志设置处理如图15所示。
图15的标志设置处理与图14的标志设置处理的不同之处在于,在图14的步骤S33中的处理之后,处理结束。也就是说,尽管图15的步骤S51至S56的处理部分与图14的步骤S31至S36的处理部分类似,但是在步骤S56的处理之后,处理结束。
在执行图15的标志设置处理的情况下,当SPS.IntraBCflag为0时,不仅使亮度分量的帧内BC预测处理无效而且使颜色分量的帧内BC预测处理无效。也就是说,图像编码设备100通过使用以下方法来提高编码效率:在颜色分量Cb(Cr)的预测模式是帧内BC预测模式的情况下通过使用亮度分量Y的预测模式是帧内BC预测模式作为上下文来对颜色分量Cb(Cr)的预测模式信息进行编码的方法,以及通过使用亮度分量Y的运动矢量来生成颜色分量Cb(Cr)的运动矢量信息的方法。然而,为了使用这些方法,亮度分量Y的预测模式需要是帧内BC预测模式。因此,在图15的标志设置处理中,在亮度分量Y的预测模式不是帧内BC预测模式并且因此可能无法使用这些方法的情况下,防止颜色分量Cb(Cr)的预测模式被设置在帧内BC预测模式下。
图16是说明图13的步骤S11的用于在颜色分量Cb的预测模式是帧内BC预测模式的情况下设置在颜色分量Cb的帧内BC预测处理中使用的运动矢量信息的运动矢量信息设置处理的流程图。对颜色分量Cb的每个PU执行运动矢量信息设置处理。
在图16的步骤S91中,控制部101基于所设置的编码参数判定作为处理目标的颜色分量Cb的PU的预测模式是否是帧内BC预测模式。在作为处理目标的颜色分量Cb的PU的pred_mode_flag指示预测模式是帧内预测模式系统,并且PU.IntraBCflag指示预测模式是帧内BC预测模式的情况下,控制部101在步骤S91中判定作为处理目标的颜色分量Cb的PU的预测模式是帧内BC预测模式。然后,处理进行到步骤S92。
在步骤S92中,控制部101基于所设置的编码参数判定与作为处理目标的颜色分量Cb的PU对应的亮度分量Y的PU的预测模式是否是帧内BC预测模式。在与作为处理目标的颜色分量Cb的PU对应的亮度分量Y的pred_mode_flag指示预测模式是帧内预测模式系统,并且PU.IntraBCflag指示预测模式是帧内BC预测模式的情况下,控制部101在步骤S92中判定预测模式是帧内BC预测模式。然后,处理进行到步骤S93。
在步骤S93中,控制部101判定作为处理目标的颜色分量Cb的PU的运动矢量是否与和PU对应的亮度分量Y的PU的运动矢量相同。
在步骤S93中判定作为处理目标的颜色分量Cb的PU的运动矢量与和PU对应的亮度分量Y的PU的运动矢量相同的情况下,处理进行到步骤S94。在步骤S94中,控制部101将MVCbSameAsLumaflag设置为指示在颜色分量Cb的帧内BC预测处理中使用的运动矢量与在亮度分量Y的帧内BC预测处理中使用的运动矢量相同的1。控制部101将设置为1的MVCbSameAsLumaflag设置为作为处理目标的颜色分量Cb的PU的运动矢量信息,并且处理结束。
另一方面,在步骤S93中判定作为处理目标的颜色分量Cb的PU的运动矢量与和PU对应的亮度分量Y的PU的运动矢量不相同的情况下,处理进行到步骤S95。
在步骤S95中,控制部101将MVCbSameAsLumaflag设置为指示在颜色分量Cb的帧内BC预测处理中使用的运动矢量与在亮度分量Y的帧内BC预测处理中使用的运动矢量不相同的0。
在步骤S96中,控制部101计算作为处理目标的颜色分量Cb的PU的运动矢量与和PU对应的亮度分量Y的PU的运动矢量之间的差dMVCb。控制部101将具有设置成0的MVCbSameAsLumaflag的差dMVCb设置为作为处理目标的颜色分量Cb的PU的运动矢量信息,并且处理结束。
另一方面,在与作为处理目标的颜色分量Cb的PU的pred_mode_flag指示帧间预测模式,或pred_mode_flag指示预测模式是帧内预测模式系统并且PU.IntraBCflag指示预测模式不是帧内BC预测模式的情况下,控制部101在步骤S91中判定预测模式不是帧内BC预测模式。然后,处理结束。
此外,在与作为处理目标的颜色分量Cb的PU对应的亮度分量Y的PU的pred_mode_flag指示预测模式是帧间预测模式,或者pred_mode_flag指示预测模式是帧内预测模式系统,并且PU.IntraBCflag指示预测模式不是帧内BC预测模式的情况下,控制部101在步骤S92中判定预测模式不是帧内BC预测模式。然后,处理结束。
顺便提及,用于在颜色分量Cr的预测模式是帧内BC预测模式的情况下设置在颜色分量Cr的帧内BC预测处理中使用的运动矢量信息的运动矢量信息设置处理与图16的除了用MVCrSameAsLumaflag替换MVCbSameAsLumaflag并且用差dMVCr替换差dMVCb之外的运动矢量信息设置处理类似。
MVCrSameASLumaflag是指示作为处理目标的颜色分量Cr的PU的运动矢量是否与和PU对应的亮度分量Y的PU的运动矢量相同的信息。差dMVCb是作为处理目标的颜色分量Cr的PU的运动矢量与和PU对应的亮度分量Y的PU的运动矢量之间的差。
图17是说明在图13的步骤S14、S16、S18和S19中执行的编码处理的流程图。对作为编码目标的每个CU执行编码处理。
在图17的步骤S101中,预测部119基于从控制部101提供至其的预测信息Pinfo获取被存储在帧存储器118中的解码图像作为参考图像,并且通过使用参考图像对作为编码目标的CU(PU)执行预测处理。预测部119将作为预测处理结果生成的预测图像P提供至计算部111和计算部117中的每一个。
在步骤S102中,计算部111以预测残差D的形式计算图像I与预测图像P之间的差,并且将产生的预测残差D提供至变换部112。与原始图像I相比,以这样的方式获得的预测残差D的数据量减少。因此,与原始图像I按原样编码的情况相比,可以压缩数据量。
在步骤S103中,变换部112基于从控制部101提供至其的变换信息Tinfo对从计算部111提供至其的预测残差D执行正交变换等,以导出变换系数Coeff。变换部112将变换系数Coeff提供至量化部113。
在步骤S104中,量化部113基于从控制部101提供至其的变换信息Tinfo来对从变换部112提供至其的变换系数Coeff进行缩放(量化),以导出量化变换系数级别level。量化部113将量化变换系数级别Level提供至编码部114和逆量化部115中的每一个。
在步骤S105中,逆量化部115基于从控制部101提供至其的变换信息Tinfo利用与步骤S104中的量化特性对应的特性对从量化部113提供至其的量化变换系数级别level进行逆量化。逆量化部115将产生的变换系数Coeff_IQ提供至逆变换部116。
在步骤S106中,逆变换部116基于从控制部101提供至其的变换信息Tinfo通过使用与步骤S103中的正交变换等对应的方法来对从逆量化部115提供至其的变换系数Coeff_IQ执行逆正交变换等,以导出预测残差D'。
在步骤S107处,计算部117将通过步骤S106中的处理导出的预测残差D'与从预测部119提供至其的预测图像P相加,从而生成局部解码图像Rec。
在步骤S108中,帧存储器118通过使用通过步骤S107中的处理获得的局部解码图像Rec来重建图片单元的解码图像,并且解码图像被存储在帧存储器118内的缓冲器中。
在步骤S109中,编码部114通过使用算术编码等对通过步骤S104中的处理获得的量化变换系数级别level进行编码。编码部114以编码流的形式将产生的量化变换系数级别level的编码数据和通过图13的步骤S11中的处理获得的编码参数的编码数据共同输出至图像编码设备100的外部。例如,将编码流通过传输路径或记录介质传输至解码侧。
当步骤S109中的处理结束时,图像编码处理相应地结束。
图18是说明图17的步骤S109的用于在亮度分量Y的PU的预测模式是帧内BC预测模式的情况下对与PU对应的颜色分量Cb(或者Cr)的PU的预测模式信息进行编码的预测模式编码处理的流程图。例如,在颜色分量Cb(或Cr)的PU单元中执行预测模式编码处理。
在图18的步骤S121中,编码部114判定与编码参数的作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量的PU的pred_mode_flag是否指示预测模式是帧内预测模式系统。
在步骤S121中判定与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量的PU的pred_mode_flag指示预测模式是帧内预测模式系统的情况下,处理进行到步骤S122。
在步骤S122中,编码部114从编码参数中提取与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量的PU.IntraBCflag。
在步骤S123中,编码部114判定在步骤S122中提取的PU.IntraBCflag是否为指示预测模式是帧内BC预测模式的1。在步骤S123中判定PU.IntraBCflag是1的情况下,处理进行到步骤S124。
在步骤S124中,编码部114通过使用与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来对作为处理目标的颜色分量Cb(或Cr)的PU的预测模式信息进行编码。然后,处理结束。
在步骤S121中判定与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量的PU的pred_mode_flag不指示预测模式是帧内预测模式系统的情况下,即在感兴趣的PU的预测模式是帧间预测模式的情况下,处理结束。
此外,在步骤S123中判定PU.IntraBCflag不是1的情况下,并且在与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量的PU的预测模式是帧内预测模式的情况下,处理结束。
(图像解码设备的配置示例)
图19是描绘用于对由图2的图像编码设备100生成的编码流进行解码的、作为应用本技术的图像处理设备的图像解码设备的实施方式的配置示例的框图。图19的图像解码设备200通过使用与图像编码设备100中的编码方法对应的解码方法对由图像编码设备100生成的编码流进行解码。例如,利用HEVC中提出的技术或JVET中提出的技术实现图像解码设备200。
应当注意,图19描绘了诸如处理部的主要构成元件或数据流,并且图19中描绘的构成元件不一定是全部的构成元件。总之,在图像解码设备200中,可以存在图19中的未被描绘为块的处理部,或者可以存在图19中的未用箭头等描绘的处理或数据流。
图19的图像解码设备200具有解码部210、获取部211、逆量化部212、逆变换部213、计算部214、帧存储器215和预测部216。图像解码设备200对由图像编码设备100针对每个CU生成的编码流执行解码。
具体地,图像解码设备200的解码部210通过使用与编码部114中的编码方法对应的预定解码方法来对由图像编码设备100生成的编码流进行解码。具体地,解码部210通过使用与编码部114中的编码方法对应的预定解码方法来对来自编码流的比特流的量化变换系数级别level的语法值的编码数据和编码参数(头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等)进行解码。
例如,在与作为解码目标的颜色分量Cb和Cr的CU对应的亮度分量Y的CU的预测模式是帧内BC预测模式的情况下,编码部114通过使用亮度分量Y的CU(PU)的预测模式是帧内BC预测模式作为上下文来对作为解码目标的颜色分量Cb和Cr的CU的预测模式信息的语法值的编码数据进行解码。
解码部210根据语法表的定义从作为解码的结果而获得的量化变换系数级别Level和编码参数的语法值解码出编码参数和量化变换系数级别level。解码部210基于编码参数中包括的分割标志设置作为解码目标的CU(PU,TU)。
解码部210将编码参数提供给关联块。例如,解码部210将预测信息Pinfo提供给获取部211,将变换信息Tinfo提供给逆量化部212和逆变换部213中的每一个,并且将头部信息Hinfo提供给关联块。此外,解码部210将量化变换系数级别level提供给逆量化部212。
获取部211从解码部210获取预测信息Pinfo。获取部211基于预测信息Pinfo的运动矢量信息确定作为解码目标的CU(PU)的运动矢量。
具体地,例如,在作为解码目标的PU是其中预测模式是帧内BC预测模式的颜色分量Cb的PU,并且与PU对应的亮度分量Y的PU的预测模式是帧内BC预测模式的情况下,获取部211从预测信息Pinfo中提取在感兴趣的亮度分量Y的PU的帧内BC预测处理中使用的运动矢量信息。然后,在作为解码目标的颜色分量Cb的PU的运动矢量信息是被设置成1的MVCbSameAsLumaflag的情况下,获取部211将由提取的运动矢量信息指示的运动矢量确定为作为解码目标的颜色分量Cb的PU的运动矢量。
另一方面,在作为解码目标的颜色分量Cb的PU的运动矢量信息是被设置成0的MVCbSameAsLumaflag和差dMVCb的情况下,获取部211将由提取的运动矢量信息指示的运动矢量与差dMVCb的相加值确定为作为解码目标的颜色分量Cb的PU的运动矢量。此外,在作为解码目标的PU是其中预测模式是帧内BC预测模式的颜色分量Cr的PU的情况下,过程与上述除了用MVCrSameAsLumaflag替换MVCbSameAsLumaflag并且用差dMVCr替换差dMVCb之外的情况的过程类似。
获取部211将包括运动矢量而不是包括运动矢量信息的预测信息Pinfo提供给预测部216。
逆量化部212基于从解码部210提供至其的变换信息Tinfo对从解码部210提供至其的量化变换系数级别level的值进行缩放(逆量化),以导出变换系数Coeff_IQ。该逆量化是由图像编码设备100的量化部113(图2)执行的量化的逆处理。应当注意,逆量化部115(图2)执行与在逆量化部212中的逆量化类似的逆量化。逆量化部212将产生的变换系数Coeff_IQ提供至逆变换部213。
逆变换部213基于从解码部210提供至其的变换信息Tinfo对从逆量化部212提供至其的变换系数Coeff_IQ执行逆正交变换等,以导出预测残差D'。逆正交变换等是由图像编码设备100的变换部112(图2)执行的正交变换等的逆处理。应当注意,逆变换部116执行与在逆变换部213中的逆正交变换等类似的逆正交变换等。逆变换部213将产生的预测残差D'提供至计算部214。
计算部214将从逆变换部213提供至其的预测残差D'与和预测残差D'对应的预测图像P彼此相加,以导出局部解码图像Rec。计算部214通过使用产生的局部解码图像Rec重建每个图片单元的解码图像并且将产生的解码图像输出至图像解码设备200的外部。此外,计算部214还将产生的局部解码图像Rec提供至帧存储器215。
帧存储器215通过使用从计算部214提供至其的局部解码图像Rec来重建每个图片单元的解码图像,并且将解码图像存储在帧存储器215内的缓冲器中。帧存储器215读出由预测部216指定为参考图像的解码图像,并且将解码图像提供至预测部216。此外,帧存储器215可以将与解码图像的生成有关的头部信息Hinfo、预测信息Pinfo、变换信息Tinfo等存储在帧存储器215内的缓冲器中。
预测部216基于从获取部211提供至其的预测信息Pinfo等获取被存储在帧存储器215中的解码图像作为参考图像,并且通过使用参考图像来执行帧内BC预测处理、预定预测模式的帧内预测处理或帧间预测处理。预测部216将作为执行的结果生成的预测图像P提供给计算部214。
(图像解码设备中的处理的说明)
图20是说明图19的图像解码设备200中的图像解码处理的流程图。例如,当解码流被输入至图像解码设备200时,执行图像解码处理。
在图20的步骤S161中,解码部210对向其输入的编码流进行解码,并且获得编码参数和量化变换系数级别level。解码部210将编码参数提供给关联块。此外,解码部210将量化变换系数级别level提供给逆量化部212。在切片单元中执行从稍后描述的步骤S162至S169的处理的片段。
在步骤S162中,解码部210基于编码参数判定作为解码目标的切片是否是I切片。在步骤S162中判定作为解码目标的切片是I切片的情况下,处理进行到步骤S163。
在步骤S163中,解码部210基于编码参数将与亮度分量Y的量化变换系数级别level对应的CU设置为作为解码目标的CU。
在步骤S164中,图像解码设备200对亮度分量Y的CU(为作为解码目标的CU)的量化变换系数级别level执行解码处理。
在步骤S165中,解码部210基于编码参数将与颜色分量Cb和Cr的量化变换系数级别level对应的CU设置为作为解码目标的CU。
在步骤S167中,图像解码设备200对作为解码目标的颜色分量Cb和Cr的CU的量化变换系数级别level执行解码处理,并且处理结束。
在步骤S162中判定作为解码目标的切片不是I切片的情况下,处理进行到步骤S167。
在步骤S167中,解码部210基于编码参数将具有相同结构并且与颜色分量Cb和Cr以及亮度分量Y的量化变换系数级别level对应的CU设置为作为解码目标的CU。
在步骤S168中,图像解码设备200对作为解码目标的CU的亮度分量Y的量化变换系数级别level执行解码处理。
在步骤S167中,图像解码设备200对作为解码目标的CU的颜色分量的量化变换系数级别level执行解码处理,并且处理结束。
图21是图20的步骤S161的说明用于对由图14的标志设置处理设置的SPS.IntraBCflag或SPS.IntraBCchromaflag的编码数据进行解码的标志解码处理的流程图。
在图21的步骤S181中,解码部210对编码参数的SPS.IntraBCflag的编码数据进行解码。在步骤S182中,解码部判定作为解码的结果获得的SPS.IntraBCflag是否为指示使亮度分量的帧内BC预测模式有效的1。
在步骤S182中判定SPS.IntraBCflag为1的情况下,在步骤S183中,解码部210使亮度分量的帧内BC预测模式有效。在该情况下,例如,预测部216从从获取部211提供至其的预测信息Pinfo中提取PU.IntraBCflag。在执行步骤S183的处理之后,处理进行至步骤S184。
在步骤S182中判定SPS.IntraBCflag不是1的情况下,即在SPS.IntraBCflag为指示SPS.IntraBCflag不使亮度分量的帧内BC预测模式有效的0的情况下,处理进行到步骤S184。
在步骤S184中,解码部210对编码参数的SPS.IntraBCchromaflag的编码数据进行解码。
在步骤S185中,解码部210判定作为解码的结果获得的SPS.IntraBCchromaflag是否为指示使颜色分量的帧内BC预测模式有效的1。
在步骤S185中判定SPS.IntraBCchromaflag为1的情况下,在步骤S186中,解码部210使颜色分量的帧内BC预测模式有效。在该情况下,例如,预测部216从从获取部211提供至其的预测信息Pinfo中提取PU.IntraBCchromaflag。在执行步骤S186的处理之后,处理结束。
另一方面,在步骤S185中判定SPS.IntraBCchromaflag不是1的情况下,即在SPS.IntraBCchromaflag为指示不使颜色分量的帧内BC预测模式有效的0的情况下,处理结束。
图22是图20的步骤S161的说明用于对由图15的标志设置处理设置的SPS.IntraBCflag或SPS.IntraBCchromaflag的编码数据进行解码的标志解码处理的流程图。
图22的标志解码处理与图21的标志解码处理的不同之处在于,在图21的步骤S182中判定SPS.IntraBCflag不是1的情况下结束处理。也就是说,尽管图22的步骤S201至S206的处理的片段与图21的步骤S181至S186的处理的片段类似,但是在完成步骤S202的处理之后结束处理。总之,仅在亮度分量的帧内BC预测处理有效的情况下,解码部210对SPS.IntraBCchromaflag的编码数据进行解码。
图23是图20的步骤S161的说明用于在亮度分量Y的PU的预测模式是帧内BC预测模式的情况下对与PU对应的颜色分量Cb(或者Cr)的PU的预测模式信息进行解码的预测模式解码处理的流程图。例如,在颜色分量Cb(或Cr)的PU单元中执行预测模式解码处理。
在图23的步骤S221中,解码部210判定与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量Y的PU的解码的pred_mode_flag是否指示预测模式是帧内预测模式系统。
在步骤S221中判定与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量Y的PU的解码的pred_mode_flag指示预测模式是帧内预测模式系统的情况下,处理进行到步骤S222。
在步骤S222中,解码部210从与作为处理目标的颜色分量Cb(或Cr)对应的亮度分量Y的PU的解码预测信息Pinfo中提取PU.IntraBCflag。
在步骤S223中,解码部210判定在步骤S222中提取的PU.IntraBCflag是否为1。在步骤S223中判定在步骤S222中提取的PU.IntraBCflag为1的情况下,处理进行到步骤S224。
在步骤S224中,解码部210通过使用与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量Y的PU的预测模式是帧内BC预测模式作为上下文来对作为处理目标的颜色分量Cb(或Cr)的PU的预测模式信息进行解码。然后,处理结束。
另一方面,在步骤S221中判定与作为处理目标的颜色分量Cb(或Cr)的PU对应的亮度分量Y的PU的解码的pred_mode_flag不指示预测模式是帧内预测模式系统的情况下,处理结束。
此外,在步骤S223中判定在步骤S222中提取的PU.IntraBCflag不是1的情况下,处理结束。
图24是说明在图20的步骤S164、S166、S168和S169中执行的解码处理的流程图。对作为解码目标的每个CU执行解码处理。
在图24的步骤S261中,逆量化部212对从解码部210提供至其的作为解码目标的CU的量化变换系数级别level进行逆量化,以导出变换系数Coeff_IQ。逆量化是在图像编码处理的步骤S104(图17)中执行的量化的逆处理,并且是与在图像编码处理的步骤S105(图17)中执行的逆量化类似的处理。
在步骤S262中,逆变换部213对在步骤S261的处理中获得的变换系数Coeff_IQ执行逆正交变换等,以导出预测残差D'。逆正交变换等是在图像编码处理的步骤S103(图17)中执行的正交变换等的逆处理,并且是与在图像编码处理的步骤S106(图17)中执行的逆正交变换等类似的处理。
在步骤S263中,获取部211基于从解码部210提供至其的编码参数判定包括作为解码目标的CU的切片是否是I切片。在步骤S263中判定包括作为解码目标的CU的切片不是I切片的情况下,即,在包括作为解码目标的CU的切片是P切片或B切片的情况下,处理进行到步骤S264。
在步骤S264中,获取部211从从解码部210提供至其的作为解码目标的CU(PU)的预测信息Pinfo中提取pred_mode_flag。在步骤S265中,预测部216判定在步骤S264中提取的pred_mode_flag是否指示预测模式是帧间预测模式。
在步骤S265中判定提取的pred_mode_flag指示预测模式是帧间预测模式的情况下,处理进行到步骤S266。在步骤S266中,获取部211从作为解码目标的CU(PU)的预测信息Pinfo的运动矢量信息中获取作为解码目标的CU(PU)的运动矢量。获取部211将包括作为解码目标的CU(PU)的运动矢量而不是运动矢量信息的预测信息Pinfo提供给预测部216。
在步骤S267中,预测部216基于作为解码目标的CU(PU)的预测信息Pinfo从帧存储器215读出参考图像,并且通过使用预测信息Pinfo的运动矢量和参考图像来执行帧间预测处理。然后,预测部216将作为处理的结果生成的预测图像P提供给计算部214,并且处理进行到步骤S272。
另一方面,在步骤S263中判定包括作为解码目标的CU的切片是I切片的情况下,或者在步骤S265中判定pred_mode_flag不指示预测模式是帧间预测模式的情况下,处理进行到步骤S268。
在步骤S268中,获取部211判定从解码部210提供的作为解码目标的CU(PU)的预测信息Pinfo的PU.IntraBCflag是否为指示预测处理是帧内BC预测处理的1。在步骤S268中判定PU.IntraBCflag是1的情况下,处理进行到步骤S269。
在步骤S269中,获取部211从作为解码目标的CU(PU)的预测信息Pinfo的运动矢量信息中获取作为解码目标的CU(PU)的运动矢量。获取部211将包括作为解码目标的CU(PU)的运动矢量而不是运动矢量信息的预测信息Pinfo提供给预测部216。
在步骤S270中,预测部216基于作为解码目标的CU(PU)的预测信息Pinfo从帧存储器215中读出通过局部解码获得为参考图像的包括作为解码目标的PU的解码图像,并且通过使用预测信息Pinfo的运动矢量和参考图像来执行帧内BC预测处理。然后,预测部216将作为处理的结果生成的预测图像P提供给计算部214,并且处理进行到步骤S272。
在步骤S268中判定PU.IntraBCflag不是1的情况下,获取部211将从解码部210提供的作为解码目标的CU(PU)的预测信息Pinfo原样提供给预测部216。
然后,在步骤S271中,预测部216从帧存储器215中读出通过局部解码获得为参考图像的包括作为解码目标的PU的解码图像,并且通过使用参考图像来执行在预测信息Pinfo中包括的预测模式的帧内预测处理。然后,预测部216将作为处理的结果生成的预测图像P提供给计算部214,并且处理进行到步骤S272。
在步骤S272中,计算部214将从逆变换部213提供至其的预测残差D'与从预测部216提供至其的预测图像P相加,以导出局部解码图像Rec。计算部214通过使用产生的局部解码图像Rec来重建每个图片单元的解码图像,并且将产生的解码图像输出至图像解码设备200的外部。此外,计算部214还将产生的局部解码图像Rec提供至帧存储器215。
在步骤S273中,帧存储器215通过使用从计算部214提供至其的局部解码图像Rec来重建每个图片单元的解码图像,并且产生的解码图像被存储在帧存储器215内的缓冲器中。然后,处理结束。
图25是说明在图24的步骤S269中作为解码目标的PU是颜色分量Cb的PU的情况下执行的用于从运动矢量信息中获取运动矢量的运动矢量获取处理的流程图。
在图25的步骤S291中,获取部211判定与作为解码目标的颜色分量Cb的PU对应的亮度分量Y的PU的预测模式是否是帧内BC预测模式。在与作为解码目标的颜色分量Cb的PU对应的亮度分量Y的PU的pred_mode_flag指示预测模式是帧内预测模式系统,并且PU.IntraBCflag是指示PU的预测模式是帧内BC预测模式的1的情况下,获取部211判定PU的预测模式是帧内BC预测模式。
然后,在步骤S292中,获取部211从从解码部210提供至其的预测信息Pinfo中提取与作为解码目标的颜色分量Cb的PU对应的亮度分量Y的PU的运动矢量信息。
在步骤S293中,获取部211从作为解码目标的颜色分量Cb的PU的预测信息Pinfo中提取运动矢量信息。
在步骤S294中,获取部211判定在步骤S293中提取的运动矢量信息的MVCbSameAsLumaflag是否为1。在步骤S294中判定MVCbSameAsLumaflag是1的情况下,处理进行到步骤S295。
在步骤S295中,获取部211将由在步骤S292中提取的与作为解码目标的颜色分量Cb的PU对应的亮度分量Y的PU的运动矢量信息指示的运动矢量设置为作为解码目标的颜色分量Cb的PU的运动矢量。然后,处理结束。
另一方面,在步骤S294中判定MVCbSameAsLumaflag不是1的情况下,处理进行到步骤S296。
在步骤S296中,获取部211将由在步骤S292中提取的亮度分量Y的PU的运动矢量信息指示的运动矢量与在步骤S295中提取的运动矢量信息的差dMVCb彼此相加,以获得作为解码目标的颜色分量Cb的PU的运动矢量。然后,处理结束。
顺便提及,在图24的步骤S269中,在作为解码目标的PU是颜色分量Cr的PU的情况下执行的运动矢量获取处理与图25的除了用MVCrSameAsLumaflag替换MVCbSameAsLumaflag并且用差dMVCr替换差dMVCb之外的运动矢量获取处理的情况类似。
(预测信息Pinfo的另一配置示例)
在以上描述中,帧内BC预测模式被设置为帧内预测模式系统,即属于与帧内预测模式的组相同的组的模式。然而,帧内BC预测模式可以被设置为属于与帧内预测模式的组不同的组的模式。
图26是描绘在该情况下预测信息Pinfo的配置的部分的示例的图。
在图26中,预测信息Pinfo的pred_mode_flag是指示作为编码目标的PU(CU)的预测模式是帧间预测模式、帧内预测模式系统(帧内预测模式、LMchroma预测模式、CrossColor预测模式)或帧内BC预测模式的预测模式信息。
在pred_mode_flag指示预测模式是帧间预测模式的情况下,与图3的情况类似,预测信息Pinfo包括在帧间预测处理中使用的运动矢量(MV)、ReferenceIndex等。
另一方面,在pred_mode_flag指示预测模式是帧内预测模式系统的情况下,预测信息Pinfo包括帧内预测模式信息等。此外,在pred_mode_flag指示预测模式是帧内BC预测模式的情况下,预测信息Pinfo包括在帧内BC预测中使用的运动矢量(MV)等。
如上所述,在图26的情况下,由于pred_mode_flag可以指示预测模式是帧内BC预测模式,因此不设置PU.IntraBCflag。
应当注意,指示LMchroma模式的预测模式信息和指示CrossColor预测模式的预测模式信息与图3的情况下的指示LMchroma模式的预测模式信息和指示CrossColor预测模式的预测模式信息类似。
此外,帧内BC预测模式可以被设置为帧内预测模式中的预测模式之一。在该情况下,例如,当与HEVC的情况类似在帧内预测模式中被称为DC帧内预测、平面帧内预测和角度帧内预测的预测模式是35个预测模式时,第36个预测模式被设置为帧内BC预测模式。
图27是描绘在该情况下预测信息Pinfo的配置的部分的示例的图。
在图27中,预测信息Pinfo的pred_mode_flag是指示作为编码目标的PU(CU)的预测模式是帧间预测模式或帧内预测模式系统(帧内预测模式、LMchroma预测模式、CrossColor预测模式)的信息。
在pred_mode_flag指示预测模式是帧间预测模式的情况下,pred_mode_flag是预测模式信息。在该情况下,与图3的情况类似,预测信息Pinfo包括在帧间预测处理中使用的运动矢量(MV)、ReferenceIndex等。
另一方面,在pred_mode_flag指示预测模式是帧内预测模式系统的情况下,pred_mode_flag和帧内预测模式信息是预测模式信息。在该情况下,当帧内预测模式信息是除了指示预测模式是帧内BC预测模式的帧内BC预测模式信息之外的帧内预测模式信息时,预测模式信息指示预测模式是帧内预测模式。然后,预测信息Pinfo包括除了帧内BC预测模式信息之外的帧内预测模式信息等。
另一方面,当帧内预测模式信息是帧内BC预测模式信息时,预测模式信息指示预测模式是帧内BC预测模式。然后,预测信息Pinfo包括帧内BC预测模式信息、在帧内BC预测中使用的运动矢量(MV)等。
如上所述,由于在图27的情况下,帧内BC预测模式可以由帧内预测模式信息指示,因此不设置PU.IntraBCflag。
应当注意,指示LMchroma预测模式的预测模式信息和指示CrossColor预测模式的预测模式信息与图3的情况下的指示LMchroma预测模式的预测模式信息和指示CrossColor预测模式的预测模式信息类似。
此外,在颜色分量Cb(或Cr)的PU与和PU对应的亮度分量Y的PU的预测模式相同的情况下,指示PU的预测模式与和PU对应的亮度分量的PU的预测模式相同的DM_LUMA(从亮度帧内模式导出)模式可以被生成为颜色分量Cb(Cr)的PU的预测模式信息。DM_LUMA模式是指示颜色分量Cb(或Cr)的PU的预测模式与和PU对应的亮度分量Y的PU的预测模式是否相同的信息。
<第二实施方式>
(应用本公开内容的计算机的说明)
上述一系列处理可以由硬件执行或者可以由软件执行。在通过软件执行一系列处理的情况下,将构成软件的程序安装在计算机中。此处,计算机包括并入专用硬件中的计算机,例如能够通过安装各种类型的程序来执行各种类型的功能的通用个人计算机等。
图28是描绘根据程序执行一系列处理的计算机的硬件的配置的示例的框图。
在计算机800中,CPU(中央处理单元)801、ROM(只读存储器)802和RAM(随机存取存储器)803通过总线804彼此连接。
输入/输出接口810还连接至总线804。输入部811、输出部812、存储部813、通信部814以及驱动器815连接至输入/输出接口810。
输入部811包括键盘、鼠标、麦克风等。输出部812包括显示器、扬声器、输出终端等。存储部813包括硬盘、非易失性存储器等。通信部814包括网络接口等。驱动器815驱动可移除介质821例如磁盘、光盘、磁光盘或半导体存储器。
在以上描述的方式配置的计算机800中,CPU 801例如将存储部813中存储的程序通过输入/输出接口810和总线804加载到RAM 803中,并且执行程序,从而执行以上描述的一系列处理。
要由计算机800(CPU 801)执行的程序例如可以被记录在要提供的作为封装介质等的可移除介质821中。此外,可以通过有线或无线传输介质例如局域网、因特网或数字卫星广播来提供程序。
在计算机800中,驱动器815被配备有可移除介质821,从而使程序能够通过输入/输出接口810被安装在存储部813中。此外,可以通过有线或无线传输介质在通信部814处接收程序并且可以将程序安装在存储部813中。除此之外,也可以将程序预先安装在ROM 802或存储部813中。
顺便提及,计算机800执行的程序可以是以下程序,根据该程序按照本说明书中描述的顺序按时间序列执行处理的片段,或者可以是以下程序,根据该程序在必要定时例如当进行调用时的时间处执行处理的片段。
<第三实施方式>
图29描绘了应用上述实施方式中的适当的一个实施方式的电视设备的示意性配置的示例。电视设备900设置有天线901、调谐器902、解复用器903、解码器904、视频信号处理部905、显示部906、音频信号处理部907、扬声器908、外部接口(I/F)部909、控制部910、用户接口(I/F)部911和总线912。
调谐器902从通过天线901接收到的广播信号中提取期望信道的信号,并且对所提取的信号进行解调。然后,调谐器902将通过解调获得的经编码的比特流输出至解复用器903。也就是说,调谐器902充当电视设备900中的用于接收其中图像被编码的编码流的传送部。
解复用器903从经编码的比特流中分离观看目标的节目的视频流和音频流,并且将通过分离获得的视频流和音频流输出至解码器904。此外,解复用器903从经编码的比特流中提取辅助数据例如EPG(电子节目指南),并且将如此提取的数据提供至控制部910。应当注意,在经编码的比特流被加扰的情况下,解复用器903可以执行解扰。
解码器904对从解复用器903向其输入的视频流和音频流进行解码。然后,解码器904将通过解码处理生成的视频数据输出至视频信号处理部905。此外,解码器904将通过解码处理生成的音频数据输出至音频信号处理部907。
视频信号处理部905再现从解码器904向其输入的视频数据,并且使显示部906在其上显示视频。此外,视频信号处理部905可以使显示部906在其上显示通过网络提供的应用屏幕图像。此外,视频信号处理部905可以响应于设置来对视频数据执行附加的处理例如噪声移除。此外,视频信号处理部905例如可以生成GUI(图形用户接口)例如菜单、按钮或光标的图像,并且可以将如此生成的图像叠加在输出图像上。
根据从视频信号处理部905提供至其的驱动信号来驱动显示部906,以在其上显示显示设备(例如,液晶显示器、等离子体显示器、OELD(有机电致发光显示器)等)的视频表面上的视频或图像。
音频信号处理部907对从解码器904向其输入的音频数据执行再现处理例如D/A转换和放大,并且使扬声器908输出声音。此外,音频信号处理部907可以对音频数据执行附加的处理例如噪声移除。
外部接口部909是通过其将电视设备900与外部设备或网络彼此连接的接口。例如,可以通过解码器904对通过外部接口部909接收的视频流或音频流进行解码。也就是说,外部接口部909还充当电视设备900中的接收其中图像被编码的编码流的传送部。
控制部910具有处理器(例如CPU)以及存储器例如RAM和ROM。存储器将要由CPU执行的程序、程序数据、EPG数据、通过网络获取的数据等存储在其中。例如,在激活电视设备900时,在存储器中存储的程序通过CPU被读出以被执行。通过执行程序,CPU根据例如从用户接口部911向其输入的操纵信号来控制电视设备900的操作。
用户接口部911连接至控制部910。用户接口部911例如具有通过其用户操纵电视设备900的开关和按钮、接收远程控制信号的接收部等。用户接口部911检测用户通过这些构成元件的操纵以生成操纵信号,并且将如此生成的操纵信号输出至控制部910。
通过总线912将调谐器902、解复用器903、解码器904、视频信号处理部905、音频信号处理部907、外部接口部909和控制部910彼此连接。
在以这样的方式配置的电视设备900中,解码器904可以具有上面描述的图像解码设备200的功能。总之,解码器904可以根据以上描述的实施方式中描述的方法中的适当的一种方法对编码数据进行解码。通过采用这样的过程,电视设备900可以实现与以上通过参照图1至图27描述的实施方式的效果类似的效果。
此外,在以这样的方式配置的电视设备900中,视频信号处理部905例如可以对从解码器904提供至其的图像数据进行编码,并且可以能够通过外部接口部909将产生的编码数据输出至电视设备900的外部。然后,视频信号处理部905可以具有以上描述的图像编码设备100的功能。总之,视频信号处理部905可以根据以上描述的实施方式中描述的方法中的适当的一种方法对从解码器904提供至其的图像数据进行编码。通过采用这样的过程,电视设备900可以实现与以上通过参照图1至图27描述的实施方式的效果类似的效果。
<第四实施方式>
图30描绘了应用以上描述的实施方式中的适当的一个实施方式的便携式电话的示意性配置的示例。便携式电话920设置有天线921、通信部922、音频编解码器923、扬声器924、麦克风925、摄像装置部926、图像处理部927、解复用部928、记录/再现部929、显示部930、控制部931、操纵部932和总线933。
天线921连接至通信部922。扬声器924和麦克风925中的每一个连接至音频编解码器923。操纵部932连接至控制部931。通过总线933将通信部922、音频编解码器923、摄像装置部926、图像处理部927、解复用部928、记录/再现部929、显示部930和控制部931彼此连接。
便携式电话920在包括音频电话呼叫模式、数据通信模式、成像模式和TV电话模式的各种操作模式下执行操作,例如音频信号的传输/接收、电子邮件或图像数据的传输/接收、对图像的成像以及数据的记录。
在音频电话呼叫模式下,通过麦克风925生成的模拟音频信号被提供至音频编解码器923。音频编解码器923将模拟音频信号转换成音频数据,并且对经转换的音频数据进行A/D转换和压缩。然后,音频编解码器923将压缩后的音频数据输出至通信部922。通信部922对音频数据进行编码和调制,以生成传输信号。然后,通信部922通过天线921将所生成的传输信号发送至基站(未示出)。此外,通信部922对通过天线921接收到的无线信号进行放大和频率转换,以获取接收信号。然后,通信部922对接收信号进行解调和解码以生成音频数据,并且将所生成的音频数据输出至音频编解码器923。音频编解码器923对音频数据进行扩展和D/A转换以生成模拟音频信号。然后,音频编解码器923将所生成的音频信号提供至扬声器924,继而使扬声器924输出声音。
此外,在数据通信模式下,例如,控制部931响应于由用户通过操纵部932进行的操纵而生成组成电子邮件的字符数据。此外,控制部931使显示部930在其上显示字符。此外,控制部931响应于用户通过操纵部932发布的传输指令而生成电子邮件数据,并且将所生成的电子邮件数据输出至通信部922。通信部922对电子邮件数据进行编码和调制,以生成传输信号。然后,通信部922通过天线921将所生成的传输信号发送至基站(未示出)。此外,通信部922对通过天线921接收到的无线信号进行放大和频率转换以获取接收到的信号。然后,通信部922对接收到的信号进行解调和解码以恢复电子邮件数据,并且将已恢复的电子邮件数据输出至控制部931。控制部931使显示部930在其上显示电子邮件的内容,并且将电子邮件数据提供至记录/再现部929,以使记录/再现部929将电子邮件数据写至存储介质。
记录/再现部929具有可读且可写的任意存储介质。例如,存储介质可以是内置的存储介质例如RAM或快闪存储器,或者可以是外部安装的存储介质例如硬盘、磁盘、磁光盘、光盘、USB(通用串行总线)存储器或存储器卡。
此外,在成像模式下,例如,摄像装置部926对对象进行成像以生成图像数据,并且将产生的图像数据输出至图像处理部927。图像处理部927对从摄像装置部926向其输入的图像数据进行编码,并且将编码流提供至记录/再现部929以使记录/再现部929将编码流写至其存储介质。
此外,在图像显示模式下,记录/再现部929读出在存储介质中记录的编码流,并且将如此读出的编码流输出至图像处理部927。图像处理部927对从记录/再现部929向其输入的编码流进行解码,将图像数据提供至显示部930以使显示部930在其上显示图像。
此外,在TV电话模式下,例如,解复用部928对由图像处理部927编码的视频流和从音频编解码器923向其输入的音频流进行复用,并且将通过复用获得的流输出至通信部922。通信部922对流进行编码和调制以生成传输信号。然后,通信部922通过天线921将所生成的传输信号发送至基站(未示出)。此外,通信部922对通过天线921接收到的无线信号进行放大和频率转换,以获取接收信号。经编码的比特流可以被包括在传输信号和接收信号中的每一个中。然后,通信部922对接收信号进行解调和解码以恢复流,并且将已恢复的流输出至解复用部928。解复用部928从输入流中分离视频流和音频流,并且将视频流和音频流分别输出至图像处理部927和音频编解码器923。图像处理部927对视频流进行解码以生成视频数据。视频数据被提供至显示部930,并且显示部930在其上显示一系列图像。音频编解码器923对音频流进行扩展和D/A转换以生成模拟音频信号。然后,音频编解码器923将所生成的模拟音频信号提供至扬声器924以使扬声器924输出声音。
在以这样的方式配置的便携式电话920中,例如,图像处理部927可以具有以上所述的图像编码设备100的功能。总之,图像处理部927可以根据以上所述的实施方式中描述的方法中的适当的一种方法对图像数据进行编码。通过采用这样的过程,便携式电话920可以提供与参照图1至图27描述的实施方式的效果类似的效果。
此外,在以这样的方式配置的便携式电话920中,例如,图像处理部927可以具有以上所述的图像解码设备200的功能。总之,图像处理部927可以根据上述实施方式中描述的方法中的适当的一种方法对编码数据进行解码。通过采用这样的过程,便携式电话920可以实现与参照图1至图27描述的实施方式的效果类似的效果。
<第五实施方式>
图31描绘了应用以上描述的实施方式中的适当的一个实施方式的记录/再现设备的示意性配置的示例。例如,记录/再现设备940对接收到的广播节目的音频数据和视频数据进行编码,并且将编码数据记录在记录介质中。此外,记录/再现设备940例如可以对从其他设备获取的音频数据和视频数据进行编码,并且可以将编码数据记录在记录介质中。此外,记录/再现设备940例如根据用户的指令在监视器和扬声器上再现在记录介质中记录的数据。此时,记录/再现设备940对音频数据和视频数据进行解码。
记录/再现设备940设置有调谐器941、外部接口(I/F)部942、编码器943、HDD(硬盘驱动器)部944、盘驱动器945、选择器946、解码器947、OSD(屏上显示器)部948、控制部949以及用户接口(I/F)部950。
调谐器941从通过天线(未示出)接收到的广播信号中提取期望信道的信号,并且对所提取的信号进行解调。然后,调谐器941将通过解调获得的经编码的比特流输出至选择器946。也就是说,调谐器941充当记录/再现设备940中的传送部。
外部接口部942是通过其记录/再现设备940与外部设备或网络彼此连接的接口。外部接口部942例如可以是IEEE(电气与电子工程师协会)1394接口、网络接口、USB接口或快闪存储器接口等。例如,通过外部接口部942接收到的视频数据和音频数据被输入至编码器943。也就是说,外部接口部942充当记录/再现设备940中的传送部。
在未对从外部接口部942输入的视频数据和音频数据进行编码的情况下,编码器943对视频数据和音频数据进行编码。然后,编码器943将经编码的比特流输出至选择器946。
HDD部944将通过压缩诸如视频和音频的内容数据获得的经编码的比特流、各种类型的程序和其他数据记录在内部硬盘中。此外,HDD部944在再现视频和音频时从硬盘读出这些数据片段。
盘驱动器945执行将数据记录在安装的记录介质中以及从安装的记录介质中读出数据。盘驱动器945被配备有的记录介质例如可以是DVD(数字多功能盘)盘(DVD-视频、或DVD-RAM(DVD-随机存取存储器)、DVD-R(DVD-可记录)、DVD-RW(DVD-可重写)、DVD+R(DVD+可记录)、DVD+RW(DVD+可重写)等)、蓝光(注册商标)盘等。
选择器946在记录视频和音频时选择从调谐器941或编码器943向其输入的经编码的比特流,并且将如此选择的经编码的比特流输出至HDD 944或盘驱动器945。此外,选择器946在再现视频和音频时将从HDD 944或盘驱动器945向其输入的经编码的比特流输出至解码器947。
解码器947对经编码的比特流进行解码,以生成视频数据和音频数据。然后,解码器947将产生的视频数据输出至OSD部948。此外,解码器947将产生的音频数据输出至外部扬声器。
OSD部948再现从解码器947向其输入的视频数据,以显示产生的图像。此外,OSD部948例如可以将GUI例如菜单、按钮或光标的图像叠加在显示的图像上。
控制部949具有处理器(例如CPU)以及存储器例如RAM和ROM。存储器将要由CPU执行的程序、程序数据等存储在其中。例如,在激活记录/再现设备940时,在存储器中存储的程序通过CPU被读出以被执行。通过执行程序,CPU例如响应于从用户接口部950向其输入的操纵信号而控制记录/再现设备940的操作。
用户接口部950连接至控制部949。用户接口部950例如具有用于由用户操纵记录/再现设备940的开关和按钮、远程控制信号的接收部等。用户接口部950检测用户通过这些构成元件的操纵以生成操纵信号,并且将产生的操纵信号输出至控制部949。
在以这样的方式配置的记录/再现设备940中,例如,编码器943可以具有以上所述的图像编码设备100的功能。总之,编码器943可以根据以上所述的实施方式中的方法中的适当的一种方法对图像数据进行编码。通过采用这样的过程,记录/再现设备940可以实现与参照图1至图27描述的实施方式的效果类似的效果。
此外,在以这样的方式配置的记录/再现设备940中,例如,解码器947可以具有以上所述的图像解码设备200的功能。总之,解码器947可以根据上述实施方式中描述的方法中的适当的一种方法对编码数据进行解码。通过采用这样的过程,记录/再现设备940可以实现与参照图1至图27描述的实施方式的效果类似的效果。
<第六实施方式>
图32描绘了应用以上所述的实施方式中的适当的一个实施方式的成像设备的示意性配置的示例。成像设备960对对象进行成像以生成图像,并且对图像数据进行编码,其进而被记录在记录介质中。
成像设备960设置有光学块961、成像部962、信号处理部963、图像处理部964、显示部965、外部接口(I/F)部966、存储器部967、介质驱动器968、OSD部969、控制部970、用户接口(I/F)部971以及总线972。
光学块961连接至成像部962。成像部962连接至信号处理部963。显示部965连接至图像处理部964。用户接口部971连接至控制部970。图像处理部964、外部接口部966、存储器部967、介质驱动器968、OSD部969和控制部970通过用户接口部971彼此连接。
光学块961具有聚焦透镜、停止机构等。光学块961在成像部962的成像表面上对对象的光学图像进行成像。成像部962具有图像传感器例如CCD(电荷耦合设备)或CMOS(互补金属氧化物半导体),并且通过光电转换将在成像表面上成像的光学图像转换成作为电信号的图像信号。然后,成像部962将图像信号输出至信号处理部963。
信号处理部963对从成像部962向其输入的图像信号执行摄像装置信号处理的各种片段例如拐点校正(knee correction)、伽马校正和颜色校正。信号处理部963将在摄像装置信号处理之后的图像数据输出至图像处理部964。
图像处理部964对从信号处理部963向其输入的图像数据进行编码以生成编码数据。然后,图像处理部964将生成的编码数据输出至外部接口部966或介质驱动器968。此外,图像处理部964对从外部接口部966或从介质驱动器968向其输入的编码数据进行解码,以生成图像数据。然后,图像处理部964将生成的图像数据输出至显示部965。此外,图像处理部964可以将从信号处理部963向其输入的图像数据输出至显示部965,并且可以使显示部965在其上显示图像。此外,图像处理部964可以将从OSD部969获取的用于显示的数据叠加在要被输出至显示部965的图像上。
例如,OSD部969生成GUI例如菜单、按钮或光标的图像,并且将所生成的图像输出至图像处理部964。
外部接口部966例如以USB输入/输出端子的形式进行配置。例如,在打印图像时,通过外部接口部966将成像设备960和打印机彼此连接。此外,驱动器根据需要连接至外部接口部966。例如,可移除介质例如磁盘或光盘可以被安装至驱动器,并且从可移除介质中读出的程序可以被安装在成像设备960中。此外,外部接口部966可以以连接至网络例如LAN或因特网的网络接口的形式进行配置。也就是说,外部接口部966充当成像设备960中的传送部。
安装至介质驱动器968的记录介质例如可以是可读且可写的可移除介质例如磁盘、磁光盘、光盘或半导体存储器。此外,记录介质可以被固定地安装至介质驱动器968,并且例如,可以配置不可移动存储部例如内置硬盘驱动器或SSD(固态驱动器)。
控制部970具有处理器(例如CPU)以及存储器例如RAM和ROM。存储器将要由CPU执行的程序、程序数据等存储在其中。例如,在存储器中存储的程序在激活成像设备960时由CPU读出,并且被执行。CPU执行程序,从而例如根据从用户接口部971向其输入的操纵信号来控制成像设备960的操作。
用户接口部971连接至控制部970。用户接口部971例如具有用于操纵成像设备960的按钮、开关等。用户接口部971检测用户通过这些构成元件的操纵以生成操纵信号,并且将所产生的操纵信号输出至控制部970。
在以这样的方式配置的成像设备960中,例如,图像处理部964可以具有以上所述的图像编码设备100的功能。总之,图像处理部964可以根据上述实施方式中描述的方法中的适当的一种方法对图像数据进行编码。通过采用这样的过程,成像设备960可以实现与上面参照图1至图27描述的实施方式的效果类似的效果。
此外,在以这样的方式配置的成像设备960中,例如,图像处理部964可以具有以上所述的图像解码设备200的功能。总之,图像处理部964可以根据上述实施方式中描述的方法中的适当的一种方法对编码数据进行解码。通过采用这样的过程,成像设备960可以实现与上面参照图1至图27描述的实施方式的效果类似的效果。
<第七实施方式>
此外,本技术还可以被实现为安装至任意设备或组成系统的设备的所有构成元件,例如,作为系统LSI(大规模集成)等的处理器、使用多个处理器等的模块、使用多个模块等的单元、将其他功能进一步添加至单元等的设备(即,设备的一部分的配置)。图33描绘了应用本技术的视频设备的示意性配置的示例。
近年来,电子设备的多功能化已经取得了进展。在电子设备的开发和制造中,在配置的一部分被实现为销售品、供给品等的情况下,不仅经常看到实现作为具有一个功能的配置来执行的情况,而且还经常看到具有相关联的功能的多个配置被组合使得实现基于组合作为具有多个功能的一个设备来执行的情况。
图33所示的视频设备1300具有这样的多功能化配置,并且通过将具有与图像的编码或解码(它们之一可用或者它们两者也可以可用)关联的功能的装置与具有与该功能关联的其他功能的装置组合来获得。
如图33所示,视频设备1300具有:模块组,该模块组包括视频模块1311、外部存储器1312、电力管理模块1313、前端模块1314等;以及具有相关联功能的装置,包括连接部1321、摄像装置1322、传感器1323等。
在模块中,将彼此关联的一些部件功能收集到具有凝聚功能的部件中。虽然具体的物理配置是任意的,但是例如,它被视为以下模块:具有相应功能的多个处理器、诸如电阻器和电容器的电子电路元件、其他装置等被布置在电路板上以彼此集成。此外,关于模块,还考虑将模块与其他模块、处理器等组合以获得新模块。
在图33的示例的情况下,通过将具有与图像处理有关的功能的构成元件彼此组合来获得视频模块1311。视频模块1311具有应用处理器、视频处理器、宽带调制解调器1333和RF模块1334。
处理器通过基于SoC(片上系统)将具有预定功能的构成元件彼此集成在半导体芯片上来获得,并且例如被称为系统LSI(大规模集成)等。具有预定功能的构成元件可以是逻辑电路(硬件配置),可以是CPU、ROM、RAM等以及通过使用这些执行的程序(软件配置),或者可以通过将两者彼此组合来获得。例如,处理器可以具有逻辑电路、CPU、ROM、RAM等,在其部分中可以通过逻辑电路(硬件配置)来实现,并且在其其他功能中可以通过由CPU执行的程序(软件配置)来实现。
图33的应用处理器1331是用于执行与图像处理有关的应用的处理器。出于实现预定功能的目的,在应用处理器1331中执行的应用不仅执行算术运算处理,而且还例如可以根据需要控制视频模块1311例如视频处理器1332的内部或外部的配置。
视频处理器1332是具有与图像的编码/解码(编码和解码之一或两者)有关的功能的处理器。
在宽带调制解调器1333中,例如,对通过有线或无线(或有线和无线)宽带通信(其通过带宽线路例如因特网或公共电话网进行)传输的数据(数字信号)进行数字调制以将其转换成模拟信号,并且对通过宽带通信接收的模拟信号进行解调以将其转换成数据(数字信号)。例如,宽带调制解调器1333处理任意信息,例如由视频处理器1332处理的图像数据、图像数据被编码成的流、应用程序和设置数据。
RF模块1334是用于对通过天线传输/接收的RF(射频)信号执行频率转换、调制/解调、放大、滤波器处理等的模块。例如,RF模块1334对通过宽带调制解调器1333提供的基带信号执行频率转换等,以生成RF信号。此外,例如,RF模块1334对通过前端模块1314接收的RF信号执行频率转换等,以生成基带信号。
应当注意,如图33中的虚线1341所示,应用处理器1331和视频处理器1332可以被彼此集成以被配置为一个处理器。
外部存储器1312是被设置在视频模块1311的外部并且具有被视频模块1311利用的存储装置的模块。可以通过任何物理配置来实现外部存储器1312的存储装置。然而,由于通常,外部存储器1312通常用于存储大容量数据例如帧单元的图像数据,因此期望通过相对便宜且大容量的半导体存储器例如DRAM(动态随机存取存储器)来实现外部存储器1312。
电力管理模块1313管理和控制至视频模块1311(视频模块1311内的构成元件)的电力供应。
前端模块1314是为RF模块1334提供前端功能(在天线侧的传输/接收端处的电路)的模块。如图33所示,前端模块1314例如具有天线部1351、滤波器1352以及放大部1353。
天线部1351具有用于发送/接收无线信号的天线以及其外围配置。天线部1351发送从放大部1353提供至其的信号作为无线信号,并且将接收到的无线信号作为电信号(RF信号)提供至滤波器1352。滤波器1352对通过天线部1351接收的RF信号执行滤波器处理等,并且将执行处理之后的RF信号提供至RF模块1334。放大部1353对从RF模块1334提供至其的RF信号进行放大并且将如此放大的RF信号提供至天线部1351。
连接部1321是具有与去往外部的连接有关的功能的模块。连接部1321的物理配置是任意的。例如,连接部1321具有拥有除了遵循与宽带调制解调器1333对应的通信标准的通信功能之外的通信功能、外部输入/输出端子等的配置。
例如,连接部1321可以具有拥有遵循无线通信标准(例如蓝牙(注册商标)、IEEE802.11(例如,无线保真(Wi-Fi)(注册商标))、NFC(近场通信)或IrDA(红外数据协会))的通信功能的模块、通过其传输/接收遵循该标准的信号的天线等。此外,例如,连接部1321可以具有:具有遵循有线通信标准例如USB(通用串行总线)或HDMI(注册商标)(高清晰度多媒体接口)的通信功能的模块以及遵循该标准的端子等。此外,例如,连接部1321可以具有其他数据(信号)传输功能等,例如模拟输入/输出端子的数据传输功能。
应当注意,连接部1321可以包括数据(信号)的传输目的地的装置。例如,连接部1321可以具有用于从记录介质例如磁盘、光盘、磁光盘、半导体存储器等读出数据或向所述记录介质写入数据的驱动器(不仅包括可移除介质的驱动器而且还包括硬盘、SSD(固态驱动器)、NAS(网络附接存储设备)等)。此外,连接部1321可以具有用于图像或音频的输出装置(监视器、扬声器等)。
摄像装置1322是具有对对象进行成像并获得该对象的图像数据的功能的模块。例如,通过利用摄像装置1322进行成像而获得的图像数据被提供至视频处理器1332以进行编码。
传感器1323是具有任意传感器功能的模块,例如音频传感器、超声波传感器、光学传感器、照度传感器、红外线传感器、图像传感器、旋转传感器、角度传感器、角速度传感器、速度传感器、加速度传感器、倾斜传感器、磁识别传感器、震动传感器或温度传感器。利用传感器1323检测到的数据例如被提供至应用处理器1331,并且然后被应用等使用。
上面被描述为模块的配置可以被实现为处理器,或者相反地,上面被描述为处理器的配置可以被实现为模块。
在如稍后将描述的具有如上面描述的配置的视频设备1300中,本技术可以应用于视频处理器1332。因此,视频设备1300可以被实现为应用本技术的设备。
(视频处理器的配置示例)
图34描绘了应用本技术的视频处理器1332(图33)的示意性配置的示例。
在图34的示例的情况下,视频处理器1332具有接收视频信号和音频信号作为其输入并且根据预定系统对视频信号和音频信号进行编码的功能,以及对经编码的视频数据和音频数据进行解码并且对视频信号和音频信号进行重现和输出的功能。
如图34所示,视频处理器1332具有视频输入处理部1401、第一图像扩展/缩小部1402、第二图像扩展/缩小部1403、视频输出处理部1404、帧存储器1405以及存储器控制部1406。此外,视频处理器1332具有编码/解码引擎1407、视频ES(基本流)缓冲器1408A和1408B以及音频ES缓冲器1409A和1409B。此外,视频处理器1332具有音频编码器1410、音频解码器1411、复用部(MUX(复用器))1412、解复用部(DMUX(解复用器))1413以及流缓冲器1414。
视频输入处理部1401例如获取从连接部1321(图33)等向其输入的视频信号,并且将视频信号转化成数字图像数据。第一图像扩展/缩小部1402对图像数据执行图像的格式转换、扩展/缩小处理等。第二图像扩展/缩小部1403根据通过视频输出处理部1404的输出的目的地中的格式对图像数据执行扩展/缩小处理,并且图像的格式转换、扩展/缩小处理等类似于第一图像扩展/缩小部1402中的图像的格式转换、扩展/缩小处理等。视频输出处理部1404对图像数据执行格式转换、成为模拟信号的转换等,并且将产生的图像数据作为再现视频信号输出至连接部1321等。
帧存储器1405是在视频输入处理部1401、第一图像扩展/缩小部1402、第二图像扩展/缩小部1403、视频输出处理部1404以及编码/解码引擎1407之间共享的图像数据的存储器。例如,帧存储器1405以半导体存储器例如DRAM的形式来实现。
存储器控制部1406响应于从编码/解码引擎1407发送的同步信号而根据被写入到访问管理表1406A的对帧存储器1405的访问调度来控制对去往/来自帧存储器1405的写入/记录的访问。响应于通过编码/解码引擎1407、第一图像扩展/缩小部1402、第二图像扩展/缩小部1403等执行的处理片段而通过存储器控制部1406在内容上更新访问管理表1406A。
编码/解码引擎1407执行对图像数据的编码处理以及对作为通过对图像数据进行编码而获得的数据的视频流的解码处理。例如,编码/解码引擎1407对从帧存储器1405读出的图像数据进行编码,并且将经编码的图像数据作为视频流依次写入到视频ES缓冲器1408A。此外,例如,编码/解码引擎1407依次读出从视频ES缓冲器1408B发送的视频流以对如此读出的视频流进行解码,并且将已解码的视频流作为图像数据依次写入到帧存储器1405。在编码处理或解码处理中,编码/解码引擎1407使用帧存储器1405作为工作区域。此外,例如,在每个宏块的处理开始的定时处,编码/解码引擎1407将同步信号输出至存储器控制部1406。
视频ES缓冲器1408A对由编码/解码引擎1407生成的视频流进行缓冲,并且将产生的视频流提供至复用部(MUX)1412。视频ES缓冲器1408B对从解复用部(DMUX)1413提供至其的视频流进行缓冲,并且将产生的视频流提供至编码/解码引擎1407。
音频ES缓冲器1409A对由音频编码器1410生成的音频流进行缓冲,并且将产生的音频流提供至复用部(MUX)1412。音频ES缓冲器1409B对从解复用部1413(DMUX)提供至其的音频流进行缓冲,并且将产生的音频流提供至音频解码器1411。
音频编码器1410例如使从连接部1321等向其输入的音频信号经受例如数字转换,并且例如根据预定系统例如MPEG音频系统或AC3(AudioCode编号3)系统对产生的音频信号进行编码。音频编码器1410将作为通过对音频信号进行编码获得的数据的音频流依次写入到音频ES缓冲器1409A。音频解码器1411将从音频ES缓冲器1409B提供至其的音频流解码成例如模拟信号,将产生的音频流转换成模拟信号,并且将产生的模拟信号作为再现的音频信号提供至例如连接部1321等。
复用部(MUX)1412对视频流和音频流进行复用。用于复用的方法(即,通过复用生成的比特流的格式)是任意的。此外,在复用期间,复用部(MUX)1412还可以将预定头部信息等添加至比特流。总之,复用部(MUX)1412可以通过复用来转换流的格式。例如,复用部(MUX)1412对视频流和音频流进行复用,以将产生的流转换成作为用于传输的格式的比特流的传输流。此外,例如,复用部(MUX)1412对视频流和音频流进行复用,以将产生的流转换成用于记录的文件格式的数据(文件数据)。
解复用部(DMUX)1413根据与通过复用部(MUX)1412进行的复用对应的方法对其中视频流和音频流被复用的比特流进行解复用。总之,解复用部(DMUX)1413从流缓冲器1414中读出的比特流中提取视频流和音频流(将视频流与音频流彼此分离)。总之,解复用部(DMUX)1413可以通过解复用(对通过复用部(MUX)1412的复用的解复用)来转换流的格式。例如,解复用部(DMUX)1413例如通过流缓冲器1414获取从连接部1321、宽带调制解调器1333等提供至其的传输流,并且对如此获取的传输流进行解复用,从而使得能够将产生的流转换成视频流和音频流。此外,解复用部(DMUX)1413例如通过流缓冲器1414获取通过例如连接部1321从各种类型的记录介质读出的文件数据,并且对如此获取的文件数据进行解复用,从而使得能够将产生的流转换成视频流和音频流。
流缓冲器1414对比特流进行缓冲。例如,流缓冲器1414对从复用部(MUX)1412提供至其的传输流进行缓冲,并且在预定定时处或响应于从外部发布的请求等将传输流提供至例如连接部1321、宽带调制解调器1333等。
此外,例如,流缓冲器1414对从复用部(MUX)1412提供至其的文件数据进行缓冲,并且在预定定时处或响应于从外部发布的请求将文件数据提供至例如连接部1321等,并且使连接部1321等将文件数据记录在各种类型的记录介质中。
此外,流缓冲器1414例如对通过连接部1321、宽带调制解调器1333等获取的传输流进行缓冲,并且在预定定时处或响应于从外部发布的请求等将如此获取的传输流提供至解复用部(DMUX)1413。
此外,流缓冲器1414例如对从连接部1321等中的各种类型的记录介质中读出的文件数据进行缓冲,并且在预定定时处或者响应于从外部发布的请求等将如此读出的文件数据提供至解复用部(DMUX)1413。
接下来,将给出关于具有这样的配置的视频处理器1332的操作的示例的描述。例如,根据视频输入处理部1401中的预定系统例如4:2:2Y/Cb/Cr系统等将从连接部1321等输入至视频处理器1332的视频信号转换成数字图像数据,并且将产生的数字图像数据依次写入到帧存储器1405。数字图像数据被读出至第一图像扩展/缩小部1402或第二图像扩展/缩小部1403,使其经受变成预定系统例如4:2:0Y/Cb/Cr系统的格式转换以及扩展/缩小处理,并且再次被写入到帧存储器1405。通过编码/解码引擎1407对图像数据进行编码,并且然后将该图像数据作为视频流写入到视频ES缓冲器1408A。
此外,通过音频编码器1410对从连接部1321等输入至视频处理器1332的音频信号进行编码,并且然后将该音频信号作为音频流写入到音频ES缓冲器1409A。
视频ES缓冲器1408A中的视频流和音频ES缓冲器1409A中的音频流被读出到复用部(MUX)1412,以被复用并且被转换成传输流、文件数据等。在流缓冲器1414中对通过复用部(MUX)1412生成的传输流进行缓冲之后,如此缓冲的传输流例如通过连接部1321、宽带调制解调器1333等被输出到外部网络。此外,在流缓冲器1414中对通过复用部(MUX)1412生成的文件数据进行缓冲之后,如此缓冲的文件数据例如被输出至连接部1321等以被记录在各种类型的记录介质中。
此外,在流缓冲器1414中对通过例如连接部1321、宽带调制解调器1333等从外部网络输入至视频处理器1332的传输流进行缓冲之后,通过解复用部(DMUX)1413对如此缓冲的传输流进行解复用。此外,在流缓冲器1414中对从例如连接部1321等中的各种类型的记录介质中读出并且被输入到视频处理器1332的文件数据进行缓冲之后,通过解复用部(DMUX)1413对如此缓冲的文件数据进行解复用。总之,通过解复用部(DMUX)1413将被输入至视频处理器1332的传输流或文件数据分离成视频流和音频流。
音频流通过音频ES缓冲器1409B被提供至音频解码器1411并且被解码以再现音频信号。此外,在视频流被写入到视频ES缓冲器1408B之后,视频流通过编码/解码引擎1407依次被读出,以被解码从而被写入到帧存储器1405。已解码的图像数据经受通过第二图像扩展/缩小部1403进行的扩展/缩小处理,以被写入到帧存储器1405。然后,已解码的图像数据被读出到视频输出处理部1404并且进行格式转换以便遵循预定系统例如4:2:2Y/Cb/Cr系统,并且还被转换成模拟信号,使得再现和输出视频信号。
在将本技术应用于以这样的方式配置的视频处理器1332的情况下,仅需要将与以上所述的实施方式有关的本技术应用于编码/解码引擎1407。总之,例如,编码/解码引擎1407可以具有以上所述的图像编码设备100的功能或图像解码设备200的功能或者两个功能。通过采用这样的过程,视频处理器1332可以实现与通过参照图1至图27描述的实施方式的效果类似的效果。
应当注意,在编码/解码引擎1407中,本技术(即,以上所述的图像编码设备100的功能或图像解码设备200的功能或者两个功能)可以通过硬件例如逻辑电路来实现,可以通过软件例如并入的程序来实现,或者可以通过它们两者来实现。
(视频处理器的另一配置示例)
图35描绘了应用本技术的视频处理器1332的示意性配置的另一示例。在图35的示例的情况下,视频处理器1332具有根据预定系统对视频数据进行编码/解码的功能。
更具体地,如图35所示,视频处理器1332具有控制部1511、显示接口1512、显示引擎1513、图像处理引擎1514以及内部存储器1515。此外,视频处理器1332具有编解码器引擎1516、存储器接口1517、复用/解复用部(MUX/DMUX)1518、网络接口1519以及视频接口1520。
控制部1511控制视频处理器1332内的处理部例如显示接口1512、显示引擎1513、图像处理引擎1514和编解码器引擎1516的操作。
如图35所示,控制部1511具有主CPU 1581、子CPU 1582以及系统控制器1533。主CPU 1581执行用于控制视频处理器1332内部的处理部的操作的程序等。主CPU 1581根据程序等生成控制信号,并且将控制信号提供至相应的处理部(总之,控制处理部的操作)。子CPU 1582充当主CPU 1581的辅助。例如,子CPU 1582执行主CPU 1581执行的程序等的子处理、子例程等。系统控制器1533控制主CPU 1581和子CPU 1582的操作例如主CPU 1581和子CPU 1582执行的程序的指定等。
显示接口1512在控制部1511的控制下将图像数据输出至例如连接部1321等。例如,显示接口1512将数字数据的图像数据转换成模拟信号,并且将模拟信号作为再现的视频信号输出至连接部1321的监视器设备等或者将数字数据的图像数据原样输出至连接部1321的监视器设备等。
显示引擎1513在控制部1511的控制下对图像数据执行各种类型的转换处理片段例如格式转换、尺寸转换和色域转换,以使图像数据遵循用于在其上显示图像的监视器设备等的硬件规格。
图像处理引擎1514在控制部1511的控制下对图像数据执行预定图像处理例如滤波器处理以提高图像质量。
内部存储器1515是被设置在视频处理器1332内部、由显示引擎1513、图像处理引擎1514和编解码器引擎1516共享的存储器。例如,内部存储器1515用于数据交换,该数据交换在显示引擎1513、图像处理引擎1514和编解码器引擎1516之间执行。例如,内部存储器1515将从显示引擎1513、图像处理引擎1514或编解码器引擎1516提供至其的数据存储在其中,并且根据需要(例如,响应于请求)将该数据提供至显示引擎1513、图像处理引擎1514或编解码器引擎1516。内部存储器1515可以由任意存储装置来实现。然而,通常,在许多情况下,内部存储器1515用于存储小容量数据例如块单元的参数或图像数据。因此,例如,期望通过虽然具有相对小的容量(例如,与外部存储器1312相比)但是响应速度高的半导体存储器例如SRAM(静态随机存取存储器)来实现内部存储器1515。
编解码器引擎1516执行图像数据的编码或解码处理。与编解码器引擎1516对应的编码/解码系统是任意的,编码/解码系统的数目可以是一个或两个或更多个。例如,编解码器引擎1516可以被设置有多个编码/解码系统的编解码器功能,并且可以根据多个编码/解码系统中的所选择的一个编码/解码系统来执行图像数据的编码或编码数据的解码。
在图35描绘的示例中,作为与编解码器有关的处理的功能块的编解码器引擎1516例如具有MPEG-2视频1541、AVC/H.264 1542、HEVC/H.265 1543、HEVC/H.265(可缩放)1544、HEVC/H.265(多视图)1545以及MPEG-DASH 1551。
MPEG-2视频1541是用于根据MPEG-2系统对图像数据进行编码或解码的功能块。AVC/H.264 1542是用于根据AVC系统对图像数据进行编码或解码的功能块。HEVC/H.2651543是用于根据HEVC系统对图像数据进行编码或解码的功能块。HEVC/H.265(可缩放)1544是用于根据HEVC系统对图像数据进行可缩放编码或可缩放解码的功能块。HEVC/H.265(多视图)1545是用于根据HEVC系统对图像数据进行多视图编码或多视图解码的功能块。
MPEG-DASH 1551是用于根据MPEG-DASH(HTTP上的MPEG动态自适应流传输)系统来传输/接收图像数据的功能块。MPEG-DASH是用于通过使用HTTP(超文本传输协议)执行视频的流传输的技术。MPEG-DASH的特征之一是,在分段单元中选择预先准备的其中分辨率等彼此不同的多条编码数据中的适当的一条编码数据,并且进行传输。MPEG-DASH 1551执行遵循标准的流的生成、流的传输控制等,并且针对图像数据的编码/解码,利用MPEG-2视频1541至HEVC/H.265(多视图)1545。
存储器接口1517是用于外部存储器1312的接口。将从图像处理引擎1514或编解码器引擎1516提供的数据通过存储器接口1517提供至外部存储器1312。此外,将从外部存储器1312读出的数据通过存储器接口1517提供至视频处理器1332(图像处理引擎1514或编解码器引擎1516)。
复用/解复用部(MUX DMUX)1518执行与图像有关的各种类型的数据例如编码数据的比特流、图像数据和视频信号的复用或解复用。复用/解复用方法是任意的。例如,在复用期间,复用/解复用部(MUX DMUX)1518不仅可以将多条数据收集成一条数据,而且可以将预定头部信息等添加至一条数据。此外,在解复用期间,复用/解复用部(MUX DMUX)1518不仅可以将一条数据划分成多条数据,而且可以将预定头部信息等添加至通过划分获得的多条数据中的每一条。总之,复用/解复用部(MUX DMUX)1518可以通过复用/解复用来转换数据的格式。例如,复用/解复用部(MUX DMUX)1518可以对比特流进行复用以将产生的比特流转换成作为用于传输的格式的比特流的传输流或者用于记录的文件格式的数据(文件数据)。不必说,还可以通过解复用来执行其逆变换。
网络接口1519例如是用于宽带调制解调器1333、连接部1321等的接口。视频接口1520例如是用于连接部1321、摄像装置1322等的接口。
接下来,将给出关于这样的视频处理器1332的操作的示例的描述。例如,在通过连接部1321、宽带调制解调器1333等从外部网络接收传输流时,传输流通过网络接口1519被提供至复用/解复用部(MUX DMUX)1518以进行解复用,并且通过编解码器引擎1516进行解码。通过由编解码器引擎1516的解码获得的图像数据例如经受通过图像处理引擎1514进行的预定图像处理、经受通过显示引擎1513进行的预定变换、例如通过显示接口1512被提供至连接部1321等,并且在监视器上显示产生的图像。此外,例如,通过编解码器引擎1516的解码获得的图像数据通过编解码器引擎1516进行重新编码,并且通过复用/解复用部(MUXDMUX)1518进行复用以被转换成文件数据。例如,将产生的文件数据通过视频接口1520输出至连接部1321等以被记录在各种类型的记录介质中。
此外,例如,通过连接部1321等从记录介质(未示出)读出的通过图像数据的编码获得的编码数据的文件数据通过视频接口1520被提供至复用/解复用部(MUX DMUX)1518以进行解复用,并且通过编解码器引擎1516进行解码。使通过编解码器引擎1516的解码获得的图像数据经受通过图像处理引擎1514进行的预定图像处理、经受通过显示引擎1513进行的预定变换,并且例如通过显示接口1512被提供至连接部1321等。然后,产生的图像被显示在监视器上。此外,例如,通过编解码器引擎1516的解码获得的图像数据通过编解码器引擎1516进行重新编码,并且通过复用/解复用部(MUX DMUX)1518进行复用以被转换成传输流。然后,例如,产生的传输流通过网络接口1519被提供至连接部1321、宽带调制解调器1333等,并且被传输至其他设备(未示出)。
应当注意,例如,通过利用内部存储器1515或外部存储器1312来执行视频处理器1332内的处理部之间的图像数据和其他数据的交换。此外,例如,电力管理模块1313控制至控制部1511的电力供应。
在将本技术应用于以这样的方式配置的视频处理器1332的情况下,仅需要将与以上所述的实施方式有关的本技术应用于编解码器引擎1516。总之,例如,仅需要编解码器引擎1516具有以上所述的图像编码设备100的功能或图像解码设备200的功能或它们两者。通过采用这样的过程,视频处理器1332可以实现与以上通过参照图1至图27描述的实施方式的效果类似的效果。
应当注意,在编解码器引擎1516中,本技术(即,图像编码设备100的功能)可以通过硬件例如逻辑电路来实现,可以通过软件例如并入的程序来实现,或者可以通过它们两者来实现。
尽管到目前为止已经例示了视频处理器1332的配置的两个示例,但是视频处理器1332的配置是任意的,并且因此除了以上所述的两个示例之外的任意配置可以是可用的。此外,尽管视频处理器1332可以以所述半导体芯片的形式进行配置,但是视频处理器1332也可以以多个半导体芯片的形式进行配置。例如,视频处理器1332可以以多个半导体彼此层叠的三维层叠LSI的形式进行配置。此外,视频处理器1332可以被实现为多个LSI。
<应用于设备的示例>
视频设备1300可以被包含在用于处理图像数据的各种类型的设备中。例如,视频设备1300可以被包含在电视设备900(图29)、便携式电话920(图30)、记录/再现设备940(图31)、成像设备960(图32)等中。通过将视频设备1300包含在设备中,该设备可以实现与上面通过参照图1至图27描述的实施方式的效果类似的效果。
应当注意,即使在以上所述的视频设备1300的构成元件的一部分的情况下,该部分也可以被实现为应用本技术的构成元件,只要该部分包括视频处理器1332即可。例如,仅视频处理器1332可以被实现为应用本技术的视频处理器。此外,例如,如上所述由虚线1341指示的处理器、视频模块1311等可以被实现为应用本技术的处理器模块等。此外,例如,可以将视频模块1311、外部存储器1312、电力管理模块1313以及前端模块1314彼此组合以也被实现为应用本技术的视频单元1361。配置中的任何配置可以实现与上面通过参照图1至图27描述的实施方式的效果类似的效果。
总之,与视频设备1300的情况类似,任何配置可以被包含在用于处理图像数据的各种类型的设备中,只要配置包括视频处理器1332即可。例如,可以将视频处理器1332、由虚线1341指示的处理器、视频模块1311或视频单元1361包含在电视设备900(图29)、便携式电话920(图30)、记录/再现设备940(图31)、成像设备960(图32)等中。然后,与视频设备1300的情况类似,通过将视频设备1300并入任何设备中,该设备可以实现与上面通过参照图1至图27描述的实施方式的效果类似的效果。
<第八实施方式>
此外,本技术还可以应用于通过多个设备进行配置的网络系统。图36描绘了应用本技术的网络系统的示意性配置的示例。
图36中描绘的网络系统1600是其中设备通过网络交换与图像(运动图像)有关的信息的系统。网络系统1600的云服务1601是用于为可传输地连接至云服务1601的计算机1611、AV(视听)设备1612、便携式信息处理终端1613、IoT(物联网)装置1614等提供与图像(运动图像)有关的服务的系统。例如,云服务1601为终端提供或供应图像(运动图像)的内容的服务如所谓的移动图像传送(按需或实时传送)。此外,例如,云服务1601提供用于从终端接收图像(运动图像)的内容并且存储如此接收到的内容的备份服务。此外,例如,云服务1601提供用于调解终端之间的图像(运动图像)的内容的交换的服务。
云服务1601的物理配置是任意的。例如,云服务1601可以具有各种类型的服务例如用于保存和管理运动图像的服务器、用于向终端传送运动图像的服务器、用于从终端获取运动图像的服务器以及用于管理用户(终端)和收费以及任意网络例如因特网或LAN的服务器。
计算机1611例如由信息处理设备例如个人计算机、服务器或工作站进行配置。AV设备1612例如由图像处理设备例如电视接收器、硬盘记录器、游戏设备或摄像装置进行配置。便携式信息处理终端1613例如由便携式信息处理设备例如笔记式个人计算机、平板终端、便携式电话或智能电话进行配置。IoT装置1614例如由用于执行与图像有关的处理的任意对象(例如机器、消费电子设备、家具、其他物品、IC旋塞或卡型装置)进行配置。这些终端可以分别具有通信功能,并且可以连接至云服务1601(会话建立),从而执行与云服务1601的信息交换(执行通信)。此外,终端中的每个终端可以与另一终端通信。终端之间的通信可以通过云服务1601来执行,或者可以在不经过云服务1601的情况下执行。
当将本技术应用于如上所述的网络系统1600并且在终端之间或者终端与云服务1601之间交换图像(运动图像)的数据时,可以如上面在实施方式中描述的那样对图像数据进行编码/解码。总之,终端(计算机1611至IoT装置1614)和云服务1601可以具有以上所述的图像编码设备100或图像解码设备200的功能。通过采用这样的过程,交换图像数据的云服务1601或终端(计算机1611至IoT装置1614)可以实现与上面通过参照图1至图27描述的实施方式的效果类似的效果。
顺便提及,与编码数据(比特流)有关的各种类型的信息片段可以与要被传输或记录的编码数据复用,或者可以作为与编码数据关联的不同的多条数据进行传输或记录,而不经过与编码数据的复用。此处,术语“与......关联”例如意味着:在处理一条数据时,可以利用(可以链接)另一数据。总之,彼此关联的多条数据可以被收集为一条数据,或者可以分别作为单独的多条数据。例如,可以在与编码数据(图像)的传输路径不同的传输路径上传输与编码数据(图像)关联的信息。此外,例如,可以将与编码数据(图像)关联的信息记录在与用于编码数据(图像)的记录介质不同的记录介质(或相同记录介质的不同记录区域)中。应当注意,词语“与……关联”可以不与整个数据对应,而可以是数据的一部分。例如,可以在任意单元例如多个帧、一个帧或帧内的一部分中将图像和与该图像对应的信息彼此相关联。
此外,如上所述,在本说明书中,诸如“合成”、“复用”、“添加”、“集成、“包括”、“存储”、“放入”、“插入”或“嵌入到”的术语例如意味着将多个事物收集到一个事物中,例如将编码数据和元数据收集到一条数据中,并且意味着以上所述的“与……关联”的一种方法。
应当注意,本说明书中描述的效果仅是范例,并且决不限于此,并且也可以提供其他效果。
此外,本公开内容的实施方式决不限于以上所述的实施方式,并且在不脱离本公开内容的主题的情况下可以进行各种改变。
例如,CU、PU和TU中的每一个的结构可以是四叉树形状的树结构。此外,作为编码目标的图片可以不是YCbCr图像,而可以是RGB图像。在该情况下,例如,在以上所述的说明中的亮度分量Y、颜色分量Cb和颜色分量Cr分别被R(红色)分量、G(绿色)分量和B(蓝色)分量替换。
此外,本公开内容可以采用云计算的配置,其中一个功能由多个设备通过网络共享和协作以被处理。
此外,在以上所述的流程图中说明的步骤可以由一个设备执行,并且除此之外,可以由多个设备共享,以被执行。
此外,在一个步骤中包括多个处理的片段的情况下,一个步骤中包括的多个处理的片段可以由一个设备执行,并且除此之外,可以由多个设备共享以被执行。
应当注意,本公开内容还可以采用以下构成。
(1)一种图像处理设备,包括:编码部,在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行编码。
(2)根据上述(1)所述的图像处理设备,其中,在使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文的情况下,所述编码部对指示所述颜色分量的预测模式的所述信息进行编码,使得在所述颜色分量的预测模式是所述帧内BC预测模式的情况下压缩率变高。
(3)根据上述(1)或(2)所述的图像处理设备,其中,进行配置,使得所述颜色分量的预测模式是帧间预测模式、帧内预测模式、帧内BC预测模式、LMchroma预测模式或CrossColor预测模式。
(4)根据上述(1)至(3)中任一项所述的图像处理设备,其中,进行配置,使得指示所述颜色分量的预测模式的所述信息是指示所述颜色分量的预测模式是否与所述亮度分量的预测模式相同的信息。
(5)根据上述(1)至(4)中任一项所述的图像处理设备,其中,进行配置,使得在所述亮度分量的帧内BC预测模式有效的情况下,所述编码部对指示所述颜色分量的帧内BC预测模式是否有效的信息进行编码。
(6)根据上述(1)至(5)中任一项所述的图像处理设备,还包括生成部,所述生成部在所述亮度分量和所述颜色分量中的每一个的预测模式是所述帧内BC预测模式的情况下,基于在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量来生成运动矢量信息,所述运动矢量信息指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
(7)根据上述(6)所述的图像处理设备,其中,进行配置,使得所述运动矢量信息是指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量相同的信息。
(8)根据上述(6)所述的图像处理设备,其中,进行配置,使得所述运动矢量信息是在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量之间的差。
(9)一种由图像处理设备执行的图像处理方法,包括以下编码步骤:在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行编码。
(10)一种图像处理设备,包括:解码部,所述解码部在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行解码。
(11)根据上述(10)所述的图像处理设备,其中,进行配置,使得:在使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文的情况下,所述解码部对指示所述颜色分量的预测模式的信息进行解码,指示所述颜色分量的预测模式的所述信息被编码使得在所述颜色分量的预测模式是所述帧内BC预测模式的情况下压缩率变高。
(12)根据上述(10)或(11)所述的图像处理设备,其中,进行配置,使得所述颜色分量的预测模式是帧间预测模式、帧内预测模式、帧内BC预测模式、LMchroma预测模式或CrossColor预测模式。
(13)根据上述(10)至(12)中任一项所述的图像处理设备,其中,进行配置,使得指示所述颜色分量的预测模式的信息是指示所述颜色分量的预测模式是否与所述亮度分量的预测模式相同的信息。
(14)根据上述(10)至(13)中任一项所述的图像处理设备,其中,进行配置,使得:在所述亮度分量的帧内BC预测模式有效的情况下,所述解码部对指示所述颜色分量的帧内BC预测模式是否有效的信息进行解码。
(15)根据上述(10)至(14)中任一项所述的图像处理设备,还包括获取部,所述获取部在所述亮度分量和所述颜色分量中的每一个的预测模式是所述帧内BC预测模式的情况下获取运动矢量信息,所述运动矢量信息指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量,基于在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量来生成所述运动矢量信息。
(16)根据上述(15)所述的图像处理设备,其中,进行配置,使得所述运动矢量信息是指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量相同的信息,并且
所述获取部基于所述运动矢量信息将在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量设置为在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
(17)根据上述(15)所述的图像处理设备,其中,进行配置,使得所述运动矢量信息是在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量之间的差,并且
所述获取部基于所述运动矢量信息将在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量与所述差的相加值设置为在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
(18)一种由图像处理设备执行的图像处理方法,包括:解码步骤:在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行解码。
附图标记列表
100...图像编码设备,101...控制部,114...编码部,200...图像解码设备,210...解码部,211...获取部。

Claims (18)

1.一种图像处理设备,包括:
编码部,在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行编码。
2.根据权利要求1所述的图像处理设备,其中,
在使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文的情况下,所述编码部对指示所述颜色分量的预测模式的所述信息进行编码,使得在所述颜色分量的预测模式是所述帧内BC预测模式的情况下压缩率变高。
3.根据权利要求1所述的图像处理设备,其中,
进行配置,使得所述颜色分量的预测模式是帧间预测模式、帧内预测模式、帧内BC预测模式、LMchroma预测模式或CrossColor预测模式。
4.根据权利要求1所述的图像处理设备,其中,
进行配置,使得指示所述颜色分量的预测模式的所述信息是指示所述颜色分量的预测模式是否与所述亮度分量的预测模式相同的信息。
5.根据权利要求1所述的图像处理设备,其中,
进行配置,使得:在所述亮度分量的帧内BC预测模式有效的情况下,所述编码部对指示所述颜色分量的帧内BC预测模式是否有效的信息进行编码。
6.根据权利要求1所述的图像处理设备,还包括:
生成部,所述生成部在所述亮度分量和所述颜色分量中的每一个的预测模式是所述帧内BC预测模式的情况下,基于在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量来生成运动矢量信息,所述运动矢量信息指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
7.根据权利要求6所述的图像处理设备,其中,
进行配置,使得所述运动矢量信息是指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量相同的信息。
8.根据权利要求6所述的图像处理设备,其中,
进行配置,使得所述运动矢量信息是在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量之间的差。
9.一种通过图像处理设备执行的图像处理方法,包括以下编码步骤:
在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行编码。
10.一种图像处理设备,包括:
解码部,所述解码部在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行解码。
11.根据权利要求10所述的图像处理设备,其中,
进行配置,使得:在使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文的情况下,所述解码部对指示所述颜色分量的预测模式的信息进行解码,指示所述颜色分量的预测模式的所述信息被编码成使得在所述颜色分量的预测模式是所述帧内BC预测模式的情况下压缩率变高。
12.根据权利要求10所述的图像处理设备,其中,
进行配置,使得所述颜色分量的预测模式是帧间预测模式、帧内预测模式、帧内BC预测模式、LMchroma预测模式或CrossColor预测模式。
13.根据权利要求10所述的图像处理设备,其中,
进行配置,使得指示所述颜色分量的预测模式的所述信息是指示所述颜色分量的预测模式是否与所述亮度分量的预测模式相同的信息。
14.根据权利要求10所述的图像处理设备,其中,
进行配置,使得:在所述亮度分量的帧内BC预测模式有效的情况下,所述解码部对指示所述颜色分量的帧内BC预测模式是否有效的信息进行解码。
15.根据权利要求10所述的图像处理设备,还包括:
获取部,所述获取部在所述亮度分量和所述颜色分量中的每一个的预测模式是所述帧内BC预测模式的情况下获取运动矢量信息,所述运动矢量信息指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量,基于在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量来生成所述运动矢量信息。
16.根据权利要求15所述的图像处理设备,其中,
进行配置,使得所述运动矢量信息是指示在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量相同的信息,并且
所述获取部基于所述运动矢量信息将在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量设置为在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
17.根据权利要求15所述的图像处理设备,其中,
进行配置,使得所述运动矢量信息是在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量与在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量之间的差,并且
所述获取部基于所述运动矢量信息将在所述亮度分量的帧内BC预测模式的预测处理中使用的运动矢量与所述差的相加值设置为在所述颜色分量的帧内BC预测模式的预测处理中使用的运动矢量。
18.一种通过图像处理设备执行的图像处理方法,包括:
解码步骤:在图像的亮度分量的预测模式是帧内BC预测模式的情况下,通过使用所述亮度分量的预测模式是所述帧内BC预测模式作为上下文来对指示所述图像的颜色分量的预测模式的信息进行解码。
CN201780055445.1A 2016-09-16 2017-09-01 图像处理设备和图像处理方法 Expired - Fee Related CN109691100B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016181492 2016-09-16
JP2016-181492 2016-09-16
PCT/JP2017/031541 WO2018051811A1 (ja) 2016-09-16 2017-09-01 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
CN109691100A true CN109691100A (zh) 2019-04-26
CN109691100B CN109691100B (zh) 2021-08-13

Family

ID=61619416

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780055445.1A Expired - Fee Related CN109691100B (zh) 2016-09-16 2017-09-01 图像处理设备和图像处理方法

Country Status (6)

Country Link
US (2) US10715800B2 (zh)
EP (1) EP3515070B1 (zh)
JP (1) JP6891895B2 (zh)
KR (1) KR20190045907A (zh)
CN (1) CN109691100B (zh)
WO (1) WO2018051811A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180040319A (ko) * 2016-10-12 2018-04-20 가온미디어 주식회사 영상 처리 방법, 그를 이용한 영상 복호화 및 부호화 방법
US10798402B2 (en) * 2017-10-24 2020-10-06 Google Llc Same frame motion estimation and compensation
US11758132B2 (en) 2018-12-28 2023-09-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Encoder and decoder, encoding method and decoding method with complexity handling for flexibly sized picture partitions
JP7399973B2 (ja) 2019-02-19 2023-12-18 ヒューマックス・カンパニー・リミテッド イントラ予測ベースのビデオ信号処理方法及び装置
CN113613018A (zh) * 2021-08-18 2021-11-05 广州佰锐网络科技有限公司 Scc帧内编码单元候选预测模式缩减方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015137113A1 (en) * 2014-03-14 2015-09-17 Mitsubishi Electric Corporation Method for decoding a bitstream using intra block copy with extra cache memory
CN105120274A (zh) * 2010-04-23 2015-12-02 M&K控股株式会社 用于对图像编码的设备和方法
CN105493505A (zh) * 2014-06-19 2016-04-13 微软技术许可有限责任公司 统一的帧内块复制和帧间预测模式
CN105556971A (zh) * 2014-03-04 2016-05-04 微软技术许可有限责任公司 针对帧内块复制预测中的块翻动和跳跃模式的编码器侧判定
US20160227245A1 (en) * 2013-11-27 2016-08-04 Shan Liu Method of Video Coding Using Prediction based on Intra Picture Block Copy

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8139875B2 (en) * 2007-06-28 2012-03-20 Mitsubishi Electric Corporation Image encoding device, image decoding device, image encoding method and image decoding method
KR101953384B1 (ko) 2011-03-06 2019-03-04 엘지전자 주식회사 휘도 샘플을 이용한 색차 블록의 화면 내 예측 방법 및 이러한 방법을 사용하는 장치
US9462275B2 (en) 2012-01-30 2016-10-04 Qualcomm Incorporated Residual quad tree (RQT) coding for video coding
AU2013403224B2 (en) 2013-10-14 2018-10-18 Microsoft Technology Licensing, Llc Features of intra block copy prediction mode for video and image coding and decoding
US10412387B2 (en) * 2014-08-22 2019-09-10 Qualcomm Incorporated Unified intra-block copy and inter-prediction
US9918105B2 (en) * 2014-10-07 2018-03-13 Qualcomm Incorporated Intra BC and inter unification

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105120274A (zh) * 2010-04-23 2015-12-02 M&K控股株式会社 用于对图像编码的设备和方法
US20160227245A1 (en) * 2013-11-27 2016-08-04 Shan Liu Method of Video Coding Using Prediction based on Intra Picture Block Copy
CN105556971A (zh) * 2014-03-04 2016-05-04 微软技术许可有限责任公司 针对帧内块复制预测中的块翻动和跳跃模式的编码器侧判定
WO2015137113A1 (en) * 2014-03-14 2015-09-17 Mitsubishi Electric Corporation Method for decoding a bitstream using intra block copy with extra cache memory
CN105493505A (zh) * 2014-06-19 2016-04-13 微软技术许可有限责任公司 统一的帧内块复制和帧间预测模式

Also Published As

Publication number Publication date
US20200288123A1 (en) 2020-09-10
CN109691100B (zh) 2021-08-13
JP6891895B2 (ja) 2021-06-18
EP3515070A4 (en) 2019-07-24
EP3515070A1 (en) 2019-07-24
US10715800B2 (en) 2020-07-14
EP3515070B1 (en) 2021-11-24
US20190208197A1 (en) 2019-07-04
JPWO2018051811A1 (ja) 2019-06-27
WO2018051811A1 (ja) 2018-03-22
KR20190045907A (ko) 2019-05-03

Similar Documents

Publication Publication Date Title
US20220394299A1 (en) Image processing apparatus and method
CN104380752B (zh) 编码设备和编码方法
CN109076226A (zh) 图像处理装置和方法
CN105359522B (zh) 图像解码装置和方法
CN109691100A (zh) 图像处理设备和图像处理方法
CN105900424B (zh) 解码装置、解码方法、编码装置以及编码方法
US20190313095A1 (en) Image processing apparatus and image processing method
CN109804632A (zh) 图像处理装置和图像处理方法
CN109644269A (zh) 图像处理设备、图像处理方法和程序
CN105230017B (zh) 图像编码装置和方法以及图像解码装置和方法
CN109417621A (zh) 图像处理装置及方法
CN110431843A (zh) 图像处理装置及方法
CN105594208A (zh) 解码装置、解码方法、编码装置以及编码方法
CN110169072A (zh) 图像处理装置和图像处理方法
CN104620586B (zh) 图像处理装置和方法
CN106576176A (zh) 图像编码设备和方法以及图像解码设备和方法
CN105874801B (zh) 解码设备和解码方法、以及编码设备和编码方法
CN109076217A (zh) 图像处理装置和图像处理方法
CN104584551A (zh) 解码装置、解码方法、编码装置以及编码方法
CN110169063A (zh) 图像处理装置和图像处理方法
CN110476427A (zh) 编码装置和编码方法以及解码装置和解码方法
CN109219959A (zh) 图像处理装置及方法
CN105659609A (zh) 图像处理设备和方法
US11423578B2 (en) Encoding device, encoding method, decoding device, and decoding method
CN104854869B (zh) 图像处理装置及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210813

CF01 Termination of patent right due to non-payment of annual fee