CN110087069A - 图像编码设备和方法、图像解码设备和方法及存储介质 - Google Patents

图像编码设备和方法、图像解码设备和方法及存储介质 Download PDF

Info

Publication number
CN110087069A
CN110087069A CN201811477627.0A CN201811477627A CN110087069A CN 110087069 A CN110087069 A CN 110087069A CN 201811477627 A CN201811477627 A CN 201811477627A CN 110087069 A CN110087069 A CN 110087069A
Authority
CN
China
Prior art keywords
image
block
block collection
layer
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811477627.0A
Other languages
English (en)
Inventor
前田充
志摩真悟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN110087069A publication Critical patent/CN110087069A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/34Scalability techniques involving progressive bit-plane based encoding of the enhancement layer, e.g. fine granular scalability [FGS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明涉及一种图像编码设备和方法、图像解码设备和方法及存储介质。本发明还涉及在图像的层级编码中,在对通过图像的分割所得到的区块进行编码和解码时指定能够独立进行处理的区块以高速处理特定区域。用于利用多个层对输入图像进行层级编码的图像编码设备包括获取单元和编码单元。该获取单元获取根据输入图像所生成的第一图像和分辨率与该第一图像的分辨率不同的第二图像。在对获取单元所获取到的第一图像中的第一区域进行编码时,编码单元使用第二图像中的与第一图像中的第一区域的位置相对相同的位置处所存在的第二区域作为参考图像来进行编码。

Description

图像编码设备和方法、图像解码设备和方法及存储介质
(本申请是申请日为2014年7月1日、申请号为201480039734.9、发明名称为“图像编码设备和方法以及图像解码设备和方法”的申请的分案申请。)
技术领域
本发明涉及空间分辨率不同或图像质量不同的层的编码和解码。特别地,本发明涉及用以将构成运动图像的各图像分割成多个区域以针对各分割区域进行编码和解码的图像编码和解码技术。
背景技术
已知有H.264/运动图片专家组(MPEG)-4高级视频编码(AVC)(以下称为H.264)作为运动图像的压缩记录所用的编码方法。
近年来,作为H.264的继任,开始更高效率的编码方法的国际标准化的活动,并且在国际标准化组织/国际电工委员会(ISO/IEC)和国际电信联盟电信标准化部门(ITU-T)之间建立视频编码联合组(JCT-VC)。在JCT-VC中,高效率视频编码(以下称为HEVC)的标准化在进行中(称为非专利文献1)。
在HEVC中,采用被称为区块(tile)分割方法的技术,其中在该区块分割方法中,将图像分割成矩形区域(区块)以独立进行各个区域的编码和解码。另外,在该区块分割方法中,提出了用以针对各自包括一个或多个区块的运动受限区块集(以下称为MCTS(motionconstrained tile set))以独立于其它区块的形式进行编码和解码的技术(称为非专利文献2)。在非专利文献2所述的提议中,定义了能够针对各序列进行设置的MCTS。换句话说,在同一序列中,MCTS在各帧中配置于相对相同的位置。在上述提议中,在对要处理的帧中的MCTS进行编码和解码时,对其它帧中配置于与MCTS的位置相对相同的位置处的像素群进行帧间预测。换句话说,不使用除该像素群中的像素以外的像素作为运动矢量搜索中所参考的参考像素。这样使得能够确保MCTS中的编码和解码的独立性。图像中的MCTS内所包含的各区块的位置包括在辅助增强信息(SEI)消息中以供编码。
在HEVC的标准化中,还考虑向层级编码的扩展。在层级编码中,在基本层和增强层上对要编码的区块进行编码。对在各个层中进行编码后的区块进行多路复用以生成位流。在上述的层级编码中,可以独立地设置基本层的区块的边界位置和增强层的区块的边界位置。由于在对增强层的要编码的区块进行编码时需要参考基本层的相应区块,因此需要识别基本层上的该区块的位置。因此,提出了使用tile_boundaries_aligned_flag作为增强层的视频可用性信息(VUI)参数(vui_parameters)(参考非专利文献3)。tile_boundaries_aligned_flag是通过对表示区块是否配置于各个层中的相对相同位置处的一致信息进行编码所得到的。如果tile_boundaries_aligned_flag的值为1,则确保了增强层的区块的边界位置与基本层的相应区块的边界位置一致。由于这样使得能够识别出在对增强层的区块进行编码和解码时被称为的基本层的区块的位置,因此可以独立地对增强层的区块进行编码和解码以使得能够进行高速编码和解码。基本层是最上位层并且后续的增强层是下位层。
然而,在非专利文献2所述的MCTS中,没有考虑层级编码。具体地,在能够针对各层设置区块的边界和MCTS的位置的情况下,各个层的区块的相对位置可能没有彼此一致。例如,在增强层的特定区块包括在MCTS中、但基本层的与该特定区块相对应的位置处的区块没有包括在MCTS中的情况下,在基本层上,除对与该特定区块相对应的位置处的区块进行解码外,还有必要对周围的区块进行解码。
现在将参考图13来具体说明该情况。图13示出如何将帧分割成区块。参考图13,附图标记1301~1310各自表示帧。帧1301~1310各自包括区块编号为0~11的12个区块。以下将区块编号为1的区块称为区块1。这同样适用于其它区块编号。为了说明,在基本层上,将各帧在水平方向上分割成两个区块,但在垂直方向上没有进行分割。在增强层上,将各帧在水平方向上分割成四个区块并且在垂直方向上分割成三个区块。在图13中,细线框表示区块的边界。
帧1301、1303、1305、1307和1309各自表示时刻t处的各层的帧。帧1301表示时刻t处的基本层的帧。帧1305表示时刻t处的增强第一层(第一增强层)的帧。帧1303表示通过将通过对帧1301进行局部解码所得到的重建图像放大为第一增强层的分辨率所产生的帧。帧1309表示时刻t处的增强第二层(第二增强层)的帧。帧1307表示通过将帧1305的解码图像放大为第二增强层的分辨率所产生的帧。
帧1302、1304、1306、1308和1310各自表示时刻t+δ(delta)处的各层的帧。帧1302表示时刻t+δ处的基本层的帧。帧1306表示时刻t+δ处的第一增强层的帧。帧1304表示通过将帧1302的解码图像放大为第一增强层的分辨率所产生的帧。帧1310表示时刻t+δ处的第二增强层的帧。帧1308表示通过将帧1306的解码图像放大为第二增强层的分辨率所产生的帧。
这里将增强层的各个帧(帧1305、1306、1309和1310)上的区块5描述为MCTS中的区块。参考图13,各粗线框表示属于MCTS的区块或与该区块相对应的位置。
参考图13,为了对第二增强层的帧1310中的MCTS(区块5)进行解码,需要对第一增强层的帧1306中的区块5进行解码。另外,为了对第一增强层的帧1306中的区块5进行解码,需要对基本层的帧1302中的区块0进行解码。此外,为了对基本层的帧1302中的区块0进行解码,需要参考帧1301来进行帧间预测,并且需要对帧1301中的所有区块进行解码。
换句话说,在现有技术中,为了对时刻t+δ处的第二增强层的MCTS进行解码,需要对除表示时刻t+δ处的基本层的帧1302中的区块5的位置的区域(帧1304中虚线所表示的区域)以外的区域进行解码。因此,在层级编码中使用MCTS等对特定区块进行编码和解码的情况下,存在不能独立地仅对与MCTS的位置相对应的区块进行编码和解码的问题。
引文列表
非专利文献
非专利文献1(NPL 1):ITU-T H.265(2013年4月)高效率视频编码
非专利文献2(NPL 2):JCT-VC投稿文章JCTVC-M0235因特网<http://phenix.int-evry.fr/jct/doc_end_user/docments/13_Incheon/wg11/>
非专利文献3(NPL 3):JCT-VC投稿文章JCTVC-M0202因特网<http://phenix.int-evry.fr/jct/doc_end_user/documents/13_Incheon/wg11/>
发明内容
本发明提供用以在层级编码中针对被设置为MCTS的特定区块以独立于其它区块的方式进行编码和解码的技术。以下将如MCTS中所包括的各区块那样的能够独立地进行编码和解码的区块称为独立区块。以下将如MCTS那样的独立区块的集合称为独立区块集。
本发明提供一种图像编码设备,用于利用多个层对构成运动图像的图像进行层级编码。所述图像编码设备包括第一生成单元、编码单元、第一获取单元和设置单元。所述第一生成单元用于根据所述图像来生成不同层的第一图像和第二图像。所述编码单元用于对所述第一图像和所述第二图像中的至少任一个进行编码。所述第一获取单元用于获取表示在所述第一图像中是否存在能够无需参考所述第一图像中的其它区域进行编码的第一区域的信息。所述设置单元用于在基于所述第一获取单元所获取到的信息、在所述第一图像中存在所述第一区域的情况下,在所述第二图像中的与所述第一图像中的所述第一区域相对应的位置处设置第二区域。
本发明提供一种图像解码设备,用于解码通过利用多个层对构成运动图像的图像进行层级编码所得到的编码数据。所述图像解码设备包括第一获取单元、第二获取单元和解码单元。所述第一获取单元用于获取与第一图像相对应的第一数据以及与层不同于所述第一图像的层的第二图像相对应的第二数据,其中所述第一数据和所述第二数据是根据所述编码数据所生成的。所述第二获取单元用于获取表示在所述第一图像中是否存在能够无需参考所述第一图像中的其它区域进行解码的第一区域的信息。所述解码单元用于在基于所述第二获取单元所获取到的信息、在所述第一图像中存在所述第一区域的情况下,使用所述第二图像中的与所述第一图像中的所述第一区域相对应的位置处所存在的第二区域来对所述第一图像中的所述第一区域进行解码。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。
根据本发明,可以在层级编码中设置能够独立地进行编码和解码的区块。
附图说明
图1是示出根据第一实施例的图像编码设备的结构的示例的框图。
图2示出示例性区块结构。
图3A是示出第一实施例的图像编码设备中的示例性图像编码处理的流程图。
图3B是示出第一实施例的图像编码设备中的示例性图像编码处理的流程图。
图4是示出第一实施例中的另一图像编码设备的结构的示例的框图。
图5是示出图4所示的图像编码设备中的示例性图像编码处理的流程图。
图6是示出根据第二实施例的图像解码设备的结构的示例的框图。
图7是示出第二实施例中的图像解码单元的结构的示例的框图。
图8A是示出图7所示的图像解码单元中的示例性图像解码处理的流程图。
图8B是示出图7所示的图像解码单元中的示例性图像解码处理的流程图。
图9是示出图7所示的图像解码单元的示例性另一结构的框图。
图10A是示出图9所示的图像解码单元中的示例性图像解码处理的流程图。
图10B是示出图9所示的图像解码单元中的示例性图像解码处理的流程图。
图11是示出适用于根据第一实施例的图像编码设备和根据第二实施例的图像解码设备的计算机的示例性硬件结构的框图。
图12示出位流的vui_parameters的句法的示例。
图13示出现有技术中的示例性区块结构。
具体实施方式
这里将参考附图来详细说明实施例。实施例所述的结构仅是示例,并且本发明不限于以下所述的结构。
第一实施例
现在将参考图1来说明构成根据第一实施例的图像编码设备的各处理单元的概述。图1是示出第一实施例的图像编码设备100的结构的示例的框图。
参考图1,经由端子101(输入单元)将图像(输入图像)输入至图像编码设备100。该输入图像是针对各帧所输入的。区块设置单元102确定一个帧内在水平方向上分割得到的区块的数量、一个帧内在垂直方向上分割得到的区块的数量和各区块的位置。另外,区块设置单元102确定将通过该分割所得到的区块中的哪个区块编码作为独立区块。以下将表示区块设置单元102所设置的在水平方向上分割得到的区块的数量、在垂直方向上分割得到的区块的数量和各区块的位置的信息称为区块分割信息。由于在非专利文献1中的描述了作为与各图片有关的头数据的图片参数集(PPS)的部分中描述了区块分割信息,因此这里省略了针对区块分割信息的说明。
图2示出第一实施例中的如何将帧分割成区块的示例。在第一实施例的图2的示例中,一个帧是4K2K(4,096个水平像素×2,160个垂直像素)。以下在第一实施例中利用4,096×2,160个像素来表示4,096个水平像素×2,160个垂直像素。这同样适用于不同的像素数。参考图2,附图标记201~206表示帧。帧201~206各自在水平方向上被分割成四个并且在垂直方向上被分割成三个,从而包括区块编号为0~11的12个区块。换句话说,一个区块的大小是1,024×720像素。然而,通过分割所得到的区块的数量不限于该数量。图2的帧201~206中的粗线框所包围的区块5和区块6是独立区块,并且包括区块5和6的区域与独立区块集相对应。图2的帧201~206中的细线框表示区块的边界。图2的放大图像中的粗线框表示与独立区块集相对应的位置。如从图2显而易见,在水平方向上分割得到的区块的数量、在垂直方向上分割得到的区块的数量和各区块的相对位置对于各个层而言是共通的。
参考图2,帧201表示在时刻t处输入的基本层的帧。帧202表示在时刻t+δ处输入的基本层的帧。在时刻t+δ对帧201进行了编码和局部解码(去量化和逆变换),并且在对帧202进行编码时可以使用经过了局部解码的帧201作为参考帧。
帧203表示通过在对帧201进行编码之后进行局部解码以生成重建图像、并且将该重建图像放大为与增强层的大小相等的大小所得到的放大图像。帧204表示通过在对帧202进行编码之后进行局部解码以生成重建图像、并且将该重建图像放大为与增强层的大小相等的大小所得到的放大图像。
帧205表示在时刻t处输入的增强层的帧。帧206表示在时刻t+δ处输入的增强层的帧。
继续对图1的各处理单元进行说明。将时刻t+δ的各帧作为要编码的帧来进行说明。
区块设置单元102生成代表表示各序列是否包括独立区块的信息的独立区块标志。区块设置单元102在要编码的帧中包括独立区块的情况下将独立区块标志的值设置为1,并且在要编码的帧中不包括独立区块的情况下将独立区块标志的值设置为0。在要编码的帧中包括独立区块(独立区块标志的值为1)的情况下,区块设置单元102生成表示独立区块的位置的独立区块位置信息。尽管通常利用图像中的区块编号来表示独立区块位置信息,但本发明不限于此。区块设置单元102将所生成的独立区块标志和独立区块位置信息作为区块分割信息供给至下游单元。在第一实施例中,将从区块设置单元102输出的区块分割信息供给至增强层分割单元104、基本层分割单元105、独立区块判断单元106和头编码单元114。
缩小单元103使用预定滤波器等缩小从端子101供给的输入图像的大小,以生成分辨率降低的缩小图像(基本层图像)。
增强层分割单元104使用从端子101供给的输入图像作为增强层图像,以基于从区块设置单元102供给的区块分割信息将该增强层图像分割成一个或多个区块。在图2的示例中,增强层分割单元104将所输入的帧206分割成区块0~11这12个区块。另外,增强层分割单元104将通过该分割所得到的区块按区块编号的顺序(0、1、2、...、11)供给至下游单元。
头编码单元114生成针对各序列和针对各图片的头编码数据。特别地,头编码单元114接收区块设置单元102中所生成的独立区块标志和独立区块位置信息,生成MCTS SEI(SEI消息),并且对VUI参数(vui_parameters)进行编码。
基本层分割单元105基于从区块设置单元102供给的区块分割信息来将缩小单元103所生成的基本层图像分割成一个或多个区块。具体地,基本层分割单元105以基于区块分割信息的各区块的位置在缩小单元103所生成的基本层图像中是相对相同位置的方式,将基本层图像分割成区块。在第一实施例中,如图2所示,基本层分割单元105将所输入的帧202分割成区块0~11这12个区块。基本层分割单元105将通过该分割所得到的区块按区块编号的顺序供给至下游单元。基本层分割单元105将要输出的区块(要编码的区块)的编号供给至独立区块判断单元106。
独立区块判断单元106判断要编码的区块(编码对象区块)是否是独立区块。独立区块判断单元106基于区块设置单元102所生成的独立区块标志和独立区块位置信息以及从基本层分割单元105供给的编码对象区块的编号来判断编码对象区块是否是独立区块。如果独立区块标志被设置为1、独立区块位置信息表示独立区块的位置是区块5、并且编码对象区块是区块5,则独立区块判断单元106判断为编码对象区块是独立区块。独立区块判断单元106将该判断结果作为独立区块编码标志供给至下游单元。独立区块判断单元106在编码对象区块是独立区块的情况下将独立区块编码标志的值设置为1,并且在编码对象区块不是独立区块的情况下将独立区块编码标志的值设置为0。
基本层编码单元107对从基本层分割单元105供给的基本层图像中的编码对象区块的图像进行编码。基本层编码单元107基于从独立区块判断单元106供给的独立区块编码标志来对编码对象区块进行编码以生成基本层编码数据。
在独立区块编码标志表示编码对象区块是独立区块的情况下,基本层编码单元107按以下方式进行编码。基本层编码单元107仅参考经过了局部解码的基本层的重建图像中的、位于与包括编码对象区块的独立区块集的位置相对相同的位置处的像素,来进行预测和编码。在图2的示例中,在帧202中的区块5是编码对象区块的情况下,基本层编码单元107仅参考帧201中的独立区块集内的区块5和区块6来进行预测和编码。作为对比,在独立区块编码标志表示编码对象区块不是独立区块的情况下,基本层编码单元107参考经过了局部解码的基本层的重建图像中的所有像素来进行预测和预测误差等的编码。在图2的示例中,在要对帧202中的区块2进行编码的情况下,基本层编码单元107参考帧201中的所有区块(区块0~11)来进行预测和编码。
基本层编码单元107将预测所使用的预测模式、预测中所生成的预测误差和通过对预测误差进行编码所生成的基本层编码数据等供给至下游单元。
基本层重建单元108接收基本层编码单元107所生成的系数(预测模式和预测误差),并且对该预测误差进行局部解码以生成基本层的重建图像。基本层重建单元108保持所生成的重建图像。这是因为,在基本层编码单元107和增强层编码单元112中使用该重建图像来进行预测。
放大单元109将基本层的重建图像放大为增强层的大小。在图2的示例中,放大单元109分别放大帧201和帧202各自的重建图像以生成帧203和帧204。
增强层编码单元112对从增强层分割单元104供给的区块的图像进行编码。具体地,增强层编码单元112基于从独立区块判断单元106供给的独立区块编码标志来选择参考图像,并且对编码对象区块进行编码以生成增强层编码数据。
如果独立区块编码标志被设置为1(如果编码对象区块是独立区块),则增强层编码单元112参考通过放大经过了局部解码的基本层的重建图像所得到的放大图像和经过了局部解码的增强层的重建图像。增强层编码单元112参考放大图像和重建图像各自的独立区块集中所包括的图像来进行预测和编码。在图2的示例中,在要对帧206中的区块5进行编码的情况下,增强层编码单元112参考帧204中的区块5和区块6以及帧206的区块5中的经过了局部解码的重建图像来进行预测和编码。如果独立区块编码标志被设置为0(如果编码对象区块不是独立区块),则增强层编码单元112参考经过了局部解码的基本层的放大图像和经过了局部解码的增强层的重建图像来在不局限于独立区块的情况下进行预测。增强层编码单元112对预测中所生成的预测误差等进行编码。
与基本层编码单元107相同,增强层编码单元112将预测所使用的预测模式、预测中所生成的预测误差和通过对该预测误差进行编码所生成的增强层编码数据等供给至下游单元。
增强层重建单元113例如使用增强层编码单元112在编码期间生成的系数(预测模式和预测误差)来进行局部解码以生成增强层的重建图像。由于在增强层编码单元112中的编码中使用所生成的重建图像,因此增强层重建单元113保持该重建图像。
合成单元110将基本层编码单元107所生成的基本层编码数据、增强层编码单元112所生成的增强层编码数据和头编码单元114所生成的头编码数据彼此合成以生成位流。从端子111输出合成单元110所生成的位流。
控制单元115控制图像编码设备内的各处理单元并且进行各处理单元之间的参数的传送。在图1中省略了控制单元115与图像编码设备内的各处理单元之间的连接线。控制单元115能够经由参数信号线或寄存器总线来控制图像编码设备内的各处理单元并且进行各处理单元之间的参数的读取和写入。尽管在第一实施例中图1的控制单元115设置在图像编码设备内,但本发明不限于此。具体地,控制单元115可以设置在图像编码设备外,以经由参数信号线或寄存器总线来控制图像编码设备内的各处理单元并且进行各处理单元之间的参数的读取和写入。
现在将参考图3A和3B的流程图来说明上述的图像编码设备100中的图像的示例性编码处理。
参考图3A和3B,在步骤S301中,图像编码设备100获取用户所指定的层级编码的层数。在第一实施例中,假定使用一个增强层并且进行两层(基本层和增强层)的层级编码。
在步骤S302中,区块设置单元102确定要编码的帧中的区块分割数量和分割位置,并且还确定将要编码的帧中的哪个区块设置为独立区块。在第一实施例中,假定区块5和区块6是独立区块并且区块5和区块6构成一个独立区块集。因此,在第一实施例中,区块设置单元102将独立区块标志设置为1。如果在要编码的帧中不包括独立区块,则区块设置单元102将独立区块标志设置为0。区块设置单元102将所确定的独立区块标志供给至增强层分割单元104、基本层分割单元105、独立区块判断单元106和头编码单元114。
在步骤S303中,头编码单元114判断从区块设置单元102供给的独立区块标志。如果头编码单元114判断为独立区块标志被设置为1,则处理进入步骤S304。如果头编码单元114判断为独立区块标志被设置为0,则处理进入步骤S305。
在步骤S304中,头编码单元114将表示与各区块的位置有关的一致信息的vui_parameters的tile_boundaries_aligned_flag设置为1。vui_parameters的tile_boundaries_aligned_flag是通过对表示区块在各个层上是否位于相对相同的位置的一致信息进行编码所得到的。
在步骤S305中,头编码单元114对作为序列头的video_parameter_set进行编码。video_parameter_set包括表示层级编码中的层数的vps_max_layers_minus1。在第一实施例中,vps_max_layers_minus1被设置为1。然后,头编码单元114对(非专利文献1的7.3.2.2所述的)序列(Sequence)参数集进行编码。该序列参数集还包括vui_parameters。vui_parameters包括步骤S304中所设置的tile_boundaries_aligned_flag。合成单元110接收编码数据(video_parameter_set和序列参数集)以生成位流。合成单元110将所生成的位流经由端子111输出至图像编码设备100的外部。
在步骤S306中,头编码单元114对作为图片头的(非专利文献1的7.4.3.3中所述的)图片参数集进行编码。合成单元110接收与图片头有关的编码数据(图片参数集)以生成位流。合成单元110将所生成的位流经由端子111输出至图像编码设备100的外部。
在步骤S307中,头编码单元114判断从区块设置单元102供给的独立区块标志。如果头编码单元114判断为独立区块标志被设置为1,则处理进入步骤S308。如果头编码单元114判断为独立区块标志被设置为0,则处理进入步骤S309。
在步骤S308中,由于要编码的序列包括独立区块,因此头编码单元114对MCTS SEI进行编码。在非专利文献2的第2章中描述了MCTS SEI。在第一实施例中,由于在一个帧中包括一个独立区块集,因此num_sets_in_message_minus1被设置为0。mcts_id的值被设置为0。num_tile_rects_in_set_minus1的值被设置为1。num_tile_rects_in_set_minus1表示属于MCTS的独立区块的数量。在第一实施例中,由于在独立区块集中包括区块5和区块6这两个区块作为独立区块,因此num_tile_rects_in_set_minus1的值被设置为1。top_left_tile_index和bottom_right_tile_index表示独立区块的位置。在第一实施例中,top_left_tile_index的值为5并且bottom_right_tile_index的值为6。头编码单元114以上述方式对各头信息进行编码以生成MCTS SEI。合成单元110接收头编码单元114所生成的MCTSSEI以生成位流,并且将所生成的位流经由端子111输出至图像编码设备100的外部。
在步骤S309中,缩小单元103缩小输入图像的大小以生成基本层图像。在第一实施例中,尽管由于增强层具有一个层因此利用缩小单元103生成基本层,但本发明不限于此。在使用两个以上的增强层(总层数为三个以上)的层级编码的情况下,可以设置多个减小单元103、或者一个缩小单元103可以生成期望层数的图像。
在步骤S310中,基本层分割单元105从图像的左上角起按区块编号的顺序提取要编码的基本层的区块的图像。基本层分割单元105将所提取的基本层的区块的图像各自供给至基本层编码单元107。
在步骤S311中,独立区块判断单元106从基本层分割单元105接收编码对象区块的区块编号。独立区块判断单元106从区块设置单元102接收与编码对象区块有关的独立区块位置信息。在第一实施例中,独立区块位置信息表示5和6。独立区块判断单元106将所接收到的编码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。如果编码对象区块的区块编号与独立区块位置信息中的区块编号一致(步骤S311中为“是”),则独立区块判断单元106判断为编码对象区块是独立区块并且将独立区块编码标志设置为1。然后,处理进入步骤S312。如果编码对象区块的区块编号与独立区块位置信息中的区块编号不一致(步骤S311中为“否”),则独立区块判断单元106判断为编码对象区块不是独立区块并且将独立区块编码标志设置为0。然后,处理进入步骤S313。
在步骤S312中,编码对象区块是基本层的要编码的帧中的独立区块。因此,基本层编码单元107参考经过了局部解码的基本层的其它帧中的、位于与编码对象区块的位置相对相同的位置处的独立区块集中所包括的重建图像,来进行帧间预测和编码。基本层编码单元107参考要编码的帧的编码对象区块中的经过了局部解码的重建图像来进行帧内预测和编码。现在将说明要对图2的帧202中的区块5进行编码的情况。基本层编码单元107参考基本层重建单元108内所存储的、帧201中的区块5和区块6以及帧202中的区块5的经过了局部解码的重建图像来进行预测和编码。基本层编码单元107将通过编码所得到的与基本层的编码对象区块有关的编码数据作为基本层编码数据供给至合成单元110。合成单元110将从基本层编码单元107供给的基本层编码数据与从头编码单元114和增强层编码单元112供给的其它各编码数据合成以生成位流。合成单元110将所生成的位流经由端子111输出。基本层重建单元108例如使用基本层编码单元107在编码期间所生成的系数(预测模式和预测误差)来顺次生成基本层的重建图像,以保持所生成的重建图像。
在步骤S313中,编码对象区块不是基本层的要编码的帧中的独立区块。因此,基本层编码单元107参考经过了局部解码的基本层的其它帧的图像整体来对编码对象区块进行帧间预测和编码。在图2的示例中,在对帧202中的区块5进行编码的情况下,基本层编码单元107参考基本层重建单元108内所存储的、帧201中的所有区块和帧202中的区块5的经过了局部解码的重建图像来进行预测和编码。基本层编码单元107将所生成的基本层编码数据供给至合成单元110。与步骤S312相同,合成单元110将基本层编码数据与其它各编码数据合成以生成位流,并且将所生成的位流经由端子111输出。基本层重建单元108例如使用基本层编码单元107在编码期间所生成的系数来顺次生成基本层的重建图像,以保持所生成的重建图像。
在步骤S314中,控制单元115判断针对基本层的所有区块的图像的编码是否完成。如果控制单元115判断为针对基本层的所有区块的图像的编码没有完成(步骤S314中为“否”),则处理返回至步骤S310。基本层分割单元105提取并输出下一区块编号的区块以继续该处理。如果控制单元115判断为针对基本层的所有区块的图像的编码完成(步骤S314中为“是”),则处理进入步骤S315。
在步骤S315中,增强层分割单元104从图像的左上角起按区块编号的顺序提取要编码的增强层的区块的图像。增强层分割单元104将所提取的增强层的区块的图像各自供给至增强层编码单元112。
在步骤S316中,与步骤S311相同,独立区块判断单元106将所接收到的编码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。如果编码对象区块的区块编号与独立区块位置信息中的区块编号一致(步骤S316中为“是”),则独立区块判断单元106判断为编码对象区块是独立区块并且将独立区块编码标志设置为1。然后,处理进入步骤S317。如果编码对象区块的区块编号与独立区块位置信息中的区块编号不一致(步骤S316中为“否”),则独立区块判断单元106判断为编码对象区块不是独立区块并且将独立区块编码标志设置为0。然后,处理进入步骤S319。
在步骤S317中,编码对象区块是增强层的要编码的帧中的独立区块。因此,放大单元109从基本层重建单元108内所存储的经过了局部解码的基本层的重建图像中接收位于与编码对象区块的位置相对相同的位置处的独立区块集中所包括的重建图像。放大单元109例如通过滤波仅使用所接收到的重建图像来进行放大以生成放大图像,并且将该放大图像供给至增强层编码单元112。
在步骤S318中,增强层编码单元112参考经过了局部解码的基本层的重建图像来对从增强层分割单元104供给的编码对象区块的图像进行预测和编码。具体地,增强层编码单元112参考步骤S317中所生成的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元113内所存储的经过了局部解码的增强层中的、位于与编码对象区块的位置相对相同的位置处的独立区块集的重建图像,来对编码对象区块进行帧间预测。增强层编码单元112参考编码对象区块中的经过了局部解码的重建图像来进行帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息(例如,通过帧间预测所获得的运动矢量)进行编码。增强层重建单元113例如使用增强层编码单元112在编码期间所生成的系数(预测模式和预测误差)来顺次生成增强层的重建图像以保持所生成的重建图像。
在步骤S319中,编码对象区块不是增强层的要编码的帧中的独立区块。因此,放大单元109例如通过滤波使用基本层重建单元108中所存储的基本层的重建图像整体来进行放大以生成放大图像,并且将该放大图像供给至增强层编码单元112。
在步骤S320中,增强层编码单元112参考经过了局部解码的基本层的重建图像来对从增强层分割单元104供给的编码对象区块的图像进行编码。具体地,增强层编码单元112参考步骤S319中所生成的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元113中所存储的经过了局部解码的增强层的重建图像来对编码对象区块进行帧间预测。增强层编码单元112参考编码对象区块中的经过了局部解码的重建图像来对编码对象区块进行帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息进行编码。增强层重建单元113例如使用增强层编码单元112在编码期间所生成的系数来顺次生成增强层的重建图像以保持所生成的重建图像。
在步骤S321中,控制单元115判断针对增强层的所有区块的图像的编码是否完成。如果控制单元115判断为针对增强层的所有区块的图像的编码没有完成(步骤S321中为“否”),则处理返回至步骤S315。增强层分割单元104提取并输出下一区块编号的区块以继续该处理。如果控制单元115判断为针对增强层的所有区块的图像的编码完成(步骤S321中为“是”),则处理进入步骤S322。
在步骤S322中,控制单元115判断针对从端子101供给的序列中所包括的所有帧的图像的编码是否完成。如果存在没有经过编码的任何帧(步骤S322中为“否”),则处理返回至步骤S309以处理下一帧。如果不存在没有经过编码的帧(步骤S322中为“是”),则终止该编码处理。
利用上述结构和操作,在使用独立区块和独立区块集的情况下,可以使增强层的各区块的相对位置与基本层的区块的相对位置一致。换句话说,将基本层的独立区块集中所包括的区块设置成包括在各增强层上的位于与基本层的独立区块集的位置相对相同的位置处的独立区块集中。这样使得能够在层级编码的任何层中限制针对独立区块的预测和解码所要参考的像素的数量以实现高速预测。特别地,由于在独立区块中设置目标区域等使得能够在无需参考从基本层到增强层的其它区块的情况下独立地对独立区块进行编码,因此与现有技术相比,可以以更高的速度对所需部分进行处理。
在第一实施例中,尽管如图2的示例那样说明了仅使用比要编码的帧早的帧作为参考帧来进行预测和编码的示例,但本发明不限于该示例。通过上述说明显而易见,这同样适用于参考多个帧来进行预测和编码的情况。
在第一实施例中,尽管说明了使用缩小单元103和放大单元109的图像编码设备100,但本发明不限于此。可以省略缩小单元103和放大单元109。可选地,可以通过将缩小率和放大率设置为1来使增强层编码单元112中所设置的量化参数小于基本层编码单元107中所设置的量化参数。这样使得能够实现信噪比(SNR)层级编码。
在第一实施例中,尽管在预测增强层的独立区块集中的区块的情况下、仅使用位于与该独立区块集的位置相对相同的位置处的基本层的区块的图像来生成要参考的放大图像,但本发明不限于此。换句话说,如步骤S319那样,还可以参考基本层的独立区块周围的像素。
在第一实施例中,尽管进行了基本层和一个增强层的层级编码(总共两个层的层级编码),但本发明不限于此,并且可以进行总共三个以上层的层级编码。在这种情况下,针对增强层的层数设置缩小单元103、增强层分割单元104、增强层编码单元112、增强层重建单元113和放大单元109的集合使得能够支持更多层。可选地,如图4所示,在对增强层进行编码的情况下,可以共用一个增强层编码单元112、一个增强层重建单元413、一个放大单元409和一个缩小单元403。
图4是示出能够对多层的增强层进行编码的图像编码设备400的结构的示例的框图。图4的图像编码设备包括一个增强层编码单元112、一个增强层重建单元413、一个放大单元409和一个缩小单元403。在图4中使用相同的附图标记来标识具有与图1的图像编码设备100中的各处理单元的功能相同的功能的组件。这里省略了针对这些组件的说明。参考图4,层数设置单元401设置层级编码的层数。尽管图1的缩小单元103缩小从端子101供给的输入图像的大小以生成一个缩小图像,但缩小单元403基于从层数设置单元401供给的层数来缩小输入图像的大小以生成多个层的缩小图像。帧存储器402存储缩小单元403所生成的各层的缩小图像。尽管图1的放大单元109将基本层的重建图像放大为增强层的大小以生成一个放大图像,但放大单元409基于从层数设置单元401供给的层数来放大重建图像以生成分辨率不同的多个层的放大图像。增强层重建单元413从层数设置单元401接收层数以例如使用增强层编码单元112所生成的系数生成增强层的重建图像,并且将这些重建图像供给至放大单元409和增强层编码单元112。合成单元410从层数设置单元401接收层数以将与这些层数相对应的各编码数据彼此合成,从而生成位流。
图5是示出图4所示的图像编码设备400中的各处理单元所进行的示例性编码处理的流程图。参考图5来仅说明图3A和3B的步骤S309~步骤S320的这些步骤中的与图3A和3B的这些步骤有所不同的步骤。在图5中使用相同的步骤编号来标识具有与图3A和3B的功能相同的功能的步骤。这里省略了针对这些步骤的说明。假定在图3A的步骤S301中层数设置单元401将层数设置为3。没有具体限制层数。还假定在图3A的步骤S305中将vps_max_layers_minus1设置为2以生成头编码数据。
参考图5,在步骤S501中,缩小单元403生成一个帧的数量与层数相当的缩小图像。在本实施例中,由于在步骤S301中将层数设置为3,因此缩小单元403生成一个基本层图像和两个增强层图像。具体地,缩小单元403生成通过对输入图像进行纵横1/2分割所得到的增强第一层(第一增强层)图像和通过对该第一增强层图像进行纵横1/2分割所得到的基本层图像。缩小单元403将具有输入图像的分辨率的图像设置为增强第二层(第二增强层)图像。缩小单元403将基本层图像、第一增强层图像和第二增强层图像供给至帧存储器402。
在步骤S312~S314中,如上所述,控制单元115对从帧存储器402供给的基本层图像进行编码。基本层重建单元108对编码后的图像进行局部解码以生成重建图像,并且保持所生成的重建图像。
在步骤S502中,层数设置单元401将在步骤S312或步骤S313中进行编码后的基本层或者在以下所述的步骤S518或步骤S520中进行编码后的层的增强层设置为上位层。层数设置单元401将下一要编码的增强层设置为下位层。这里,将步骤S312或步骤S313中进行编码后的基本层设置为上位层,并且将第一增强层设置为下位层。
在步骤S515中,增强层分割单元104从要编码的层的图像的左上角起按区块编号的顺序提取要编码的增强层的区块的图像。增强层分割单元104将所提取的增强层的区块的图像各自供给至增强层编码单元112。这里,增强层分割单元104提取第一增强层图像中的编码对象区块的图像并且将该图像供给至增强层编码单元112。
在步骤S517中,编码对象区块是要编码的帧中的独立区块。因此,放大单元409从基本层重建单元108或增强层重建单元413内所存储的上位层的重建图像接收位于与编码对象区块的位置相对相同的位置处的独立区块集中所包括的重建图像。放大单元409例如通过滤波仅使用所接收到的重建图像来进行放大以生成放大图像,并且将该放大图像供给至增强层编码单元112。具体地,放大单元409根据基本层重建单元108中所存储的重建图像生成放大图像,并且将该放大图像供给至增强层编码单元112。
在步骤S518中,增强层编码单元112参考经过了局部解码的重建图像来对从增强层分割单元104供给的编码对象区块的图像进行预测和编码。具体地,增强层编码单元112参考步骤S517中所生成的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元413内所存储的经过了局部解码的增强层的其它帧中、位于与编码对象区块的位置相对相同的位置处的独立区块集的重建图像,来进行帧间预测。增强层编码单元112参考编码对象区块中的经过了局部解码的重建图像来进行帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息(例如,通过帧间预测所获得的运动矢量)进行编码。增强层重建单元413例如使用增强层编码单元112在编码期间所生成的系数(预测模式和预测误差)来顺次生成增强层的重建图像,以保持所生成的重建图像。
在步骤S519中,编码对象区块不是要编码的帧中的独立区块。因此,放大单元409例如通过滤波使用基本层重建单元108中所存储的基本层的重建图像整体或增强层重建单元413中所存储的上位增强层的重建图像整体来进行放大以生成放大图像。放大单元409将所生成的放大图像供给至增强层编码单元112。这里,放大单元409根据基本层重建单元108中所存储的重建图像来生成放大图像。
在步骤S520中,增强层编码单元112参考经过了局部解码的重建图像来对从增强层分割单元104供给的编码对象区块的图像进行编码。具体地,增强层编码单元112参考步骤S519中所生成的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元413中所存储的经过了局部解码的增强层的重建图像来进行编码对象区块的帧间预测。增强层编码单元112参考编码对象区块中的经过了局部解码的重建图像来进行编码对象区块的帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息进行编码。增强层重建单元413例如使用增强层编码单元112在编码期间所生成的系数来顺次生成增强层的重建图像以保持所生成的重建图像。
在步骤S503中,控制单元115判断针对层数设置单元401所设置的所有层的编码是否完成。如果控制单元115判断为针对所有层的区块的编码没有完成(步骤S503中为“否”),则处理返回至步骤S502。层数设置单元401将下一层设置为下位层以继续该处理。如果控制单元115判断为针对所有层的区块的编码完成(步骤S503中为“是”),则处理进入步骤S522。这里,控制单元115判断为针对第二增强层的编码没有完成(步骤S503中为“否”)。处理返回至步骤S502。
在步骤S522中,控制单元115判断针对从端子101供给的序列中所包括的所有帧的图像的编码是否完成。如果存在没有经过编码的任何帧(步骤S522中为“否”),则处理返回至步骤S501以处理下一帧。如果不存在没有经过编码的帧(步骤S522中为“是”),则终止该编码处理。
现在将说明第二增强层图像的编码。在步骤S502中,层数设置单元401将步骤S518或步骤S520中进行编码后的第一增强层设置为上位层,并且将第二增强层设置为下位层。在步骤S515中,增强层分割单元104提取第二增强层图像中的编码对象区块的图像,并且将所提取的图像供给至增强层编码单元112。
在步骤S517中,编码对象区块是要编码的帧中的独立区块。因此,放大单元409从增强层重建单元413内所存储的上位层(第一增强层)的重建图像接收位于与编码对象区块的位置相对相同的位置处的独立区块集中所包括的重建图像。放大单元409例如通过滤波仅使用所接收到的独立区块集的重建图像来进行放大以生成上位层(第一增强层)的放大图像,并且将该放大图像供给至增强层编码单元112。在步骤S518中,增强层编码单元112参考经过了局部解码的重建图像来对从增强层分割单元104供给的下位层(第二增强层)的编码对象区块的图像进行预测和编码。具体地,增强层编码单元112参考步骤S517中所生成的上位层(第一增强层)的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元413内所存储的经过了局部解码的下位层(第二增强层)中的、位于与编码对象区块的位置相对相同的位置处的独立区块集的图像,来进行帧间预测。增强层编码单元112参考编码对象区块中的经过了局部解码的下位层(第二增强层)的重建图像来进行帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息(例如,通过帧间预测所获得的运动矢量)进行编码。增强层重建单元413例如使用增强层编码单元112在编码期间所生成的系数来顺次生成下位层(第二增强层)的重建图像,以保持所生成的重建图像。
在步骤S519中,编码对象区块不是要编码的帧中的独立区块。因此,放大单元409例如通过滤波、使用增强层重建单元413中所存储的上位增强层(第一增强层)的重建图像来进行放大,以生成上位层(第一增强层)的放大图像。放大单元409将所生成的放大图像供给至增强层编码单元112。
在步骤S520中,增强层编码单元112参考经过了局部解码的重建图像来对从增强层分割单元104供给的编码对象区块的图像进行编码。具体地,增强层编码单元112参考步骤S519中所生成的上位层(第一增强层)的放大图像来进行层间预测。增强层编码单元112参考增强层重建单元413内所存储的经过了局部解码的下位层(第二增强层)的重建图像来进行帧间预测。增强层编码单元112参考下位层(第二增强层)的编码对象区块中的经过了局部解码的重建图像来进行帧内预测。增强层编码单元112对预测误差和通过预测所获得的与预测有关的信息进行编码。增强层重建单元413例如使用增强层编码单元112在编码期间所生成的系数来顺次生成下位层(第二增强层)的重建图像,以保持所生成的重建图像。
在步骤S503中,控制单元115判断针对层数设置单元401所设置的所有层的编码是否完成。如果控制单元115判断为针对所有层的编码完成(步骤S503中为“是”),则处理进入步骤S522。如果控制单元115判断为所有层的编码没有完成(步骤S503中为“否”),则处理返回至步骤S502。这里,由于完成了直到第二增强层为止的编码,因此处理进入步骤S522。在步骤S522中,控制单元115判断针对从端子101供给的序列中所包括的所有帧的图像的编码是否完成。如果控制单元115判断为针对所有帧的图像的编码完成(步骤S522中为“是”),则终止该编码处理。
通过上述处理,同样在存在多个层的增强层的情况下,可以生成如下的编码数据,其中在该编码数据中,仅对需要独立区块集的编码数据进行解码,以仅参考最小量的图像数据来再现解码图像。
在位流中存在MCTS SEI的情况下,将作为与区块位置有关的一致信息的vui_parameters的tile_boundaries_aligned_flag恒定地设置为1。换句话说,在vui_parameters中在位流中存在MCTS SEI的情况下,可以省略作为编码数据的tile_boundaries_aligned_flag。如果在位流中不存在MCTS SEI,则对tile_boundaries_aligned_flag的值进行编码并且将该编码数据包括在位流中。如果在位流中存在MCTSSEI,则不对tile_boundaries_aligned_flag的值进行编码,并且在解码侧将该值恒定地设置为1。这样使得能够减少冗余的tile_boundaries_aligned_flag。
在层级编码中,切出重要区域并且将独立区块集应用于所切出的区域以进行编码,这样使得能够生成高速读出重要区域的编码数据。
第二实施例
现在将参考图6来说明构成根据第二实施例的图像解码设备的各处理单元的概述。图6是示出包括第二实施例的图像解码单元605的图像解码设备600的结构的示例的框图。在第二实施例中例示了对第一实施例中所生成的位流进行解码的情况。
参考图6,将位流经由接口601通过通信等输入至图像解码设备600。存储单元602存储从接口601供给的位流和预先记录的位流。显示控制单元603指定用于显示用户所指示的位流的方法。显示控制单元603将要解码的层(层级)和要解码的区域(显示区域)作为显示控制信号供给至图像解码单元605。在第二实施例中,尽管利用层数来表示要解码的层并且利用要显示的区块的位置来表示显示区域,但本发明不限于此。选择器604指定所输入的位流的目的地。以下将详细说明图像解码单元605。显示单元606显示图像解码单元605所生成的解码图像。
现在将说明图像解码设备600中的图像的显示操作。将说明显示控制单元603从用户接收用以解码并显示位流中的基本层图像的指示的情况。这与接收到通过对监控照相机等所拍摄到的图像进行编码得到的位流以监控所拍摄到的图像整体的情况相对应。接口601从监控照相机等接收针对各帧输入至图像解码设备600的位流(输入位流)并且将该输入位流供给至存储单元602和选择器604。存储单元602记录该输入位流。选择器604响应于来自显示控制单元603的指示来将输入位流供给至图像解码单元605。图像解码单元605从显示控制单元603接收与要显示的层和要显示的区块等有关的信息作为显示控制信号。具体地,由于显示控制单元603从用户接收用以解码并显示位流中的基本层图像的指示,因此将表示要解码的层是基本层的信息和表示显示区域是所有区块的信息供给至图像解码单元605。
现在将参考图7来说明构成根据第二实施例的图像解码单元605的各处理单元的概述。图7是示出第二实施例的图像解码单元605的结构的示例的框图。
参考图7,将从选择器604供给的位流经由端子701输入至图像解码单元605。为了简单,假定输入头数据和针对各帧的编码数据作为位流。在第二实施例中,尽管在针对各帧的编码数据中包括与构成一个帧的所有层有关的编码数据(层编码数据),但本发明不限于此,并且可以针对各片(slice)将数据输入至图像解码单元605。帧的数据结构不限于此。
将从图6的显示控制单元603供给的与解码有关的显示控制信号经由端子702输入至图像解码单元605。输入与要解码的层和要解码的区块有关的位置信息作为显示控制信号。将输入至端子702的显示控制信号供给至分离部704、基本层解码器707和增强层解码器710。缓冲器703存储从端子701供给的与一个帧相对应的层编码数据。
分离部704使头编码数据、基本层编码数据和各增强层的增强层编码数据与从缓冲器703供给的层编码数据分离。分离部704将针对各层所分离的层编码数据(基本层编码数据和各增强层的增强层编码数据)分离成针对各区块的编码数据并且输出针对各区块的编码数据。分离部704将针对各区块的编码数据供给至头解码器705、基本层解码器707和增强层解码器710。在将针对各区块的编码数据供给至各处理单元的情况下,分离部704将要输出的区块(要解码的区块)的编号作为与区块有关的位置信息供给至独立区块判断部706。
头解码器705对针对各序列和针对各图片的头编码数据进行解码,以再现解码所需的参数。特别地,在头编码数据中存在MCTS SEI的情况下,头解码器705还对MCTS SEI进行解码。头解码器705解码并再现独立区块标志和独立区块位置信息。独立区块判断部706判断要解码的区块(解码对象区块)是否是独立区块。独立区块判断部706基于从头解码器705供给的独立区块标志和独立区块位置信息以及从分离部704供给的与解码对象区块有关的位置信息来判断解码对象区块是否是独立区块。独立区块判断部706将判断结果供给至基本层解码器707和增强层解码器710。
基本层解码器707对分离部704分离出的与基本层的各区块有关的编码数据进行解码,以生成基本层的解码图像。帧存储器708保持基本层解码器707所生成的基本层的各区块的解码图像。放大部709将基本层的解码图像放大为增强层的分辨率以生成放大图像。选择器720从基本层的解码图像和增强层的解码图像中选择期望解码图像以将所选择的解码图像供给至端子712。将从选择器720供给的解码图像经由端子712输出至图像解码单元605的外部。
增强层解码器710对分离部704分离出的与增强层的各区块有关的编码数据进行解码以生成增强层的解码图像。帧存储器711保持增强层解码器710所生成的增强层的各区块的解码图像。
控制器714控制图像解码单元605中的各处理单元并且进行各处理单元之间的参数的传送。在图7中省略了控制器714与图像解码单元605中的各处理单元之间的连接线。控制器714能够经由参数信号线或寄存器总线来控制图像解码单元605中的各处理单元并且进行各处理单元并且进行各处理单元之间的参数的读取和写入。在第二实施例中,尽管图7的控制器714设置在图像解码单元605内,但本发明不限于此。具体地,控制器714可以设置在图像解码单元605外,以经由参数信号线或寄存器总线来控制图像解码单元605内的各处理单元并且进行各处理单元之间的参数的读取和写入。
图8A和8B是示出上述的图像解码单元605中的图像的示例性解码处理的流程图。
现在将说明要解码的层(解码对象层)仅是基本层的情况。这里假定显示控制单元603从用户接收用以解码并显示从接口601供给的位流中的基本层的指示。
参考图8A和8B,在步骤S801中,将经由端子701输入图像解码单元605的位流的开头的头编码数据通过缓冲器703和分离部704的处理供给至头解码器705。头解码器705对作为序列头的video_parameter_set进行解码。video_parameter_set包括表示层级编码中的层数的vps_max_layers_minus1。在第二实施例中,vps_max_layers_minus1被设置为1。然后,头解码器705对序列参数集进行解码。序列参数集包括vui_parameters。vui_parameters包括作为与区块位置有关的一致信息的tile_boundaries_aligned_flag。在第二实施例中,tile_boundaries_aligned_flag被设置为1。
在步骤S802中,头解码器705对图片参数集进行解码。由于在非专利文献1中详细说明了头编码数据的解码,因此这里省略了针对头编码数据的解码的说明。
在步骤S803中,头解码器705判断在要解码的帧中是否包括独立区块。头解码器705使用判断结果作为独立区块标志。头解码器705实际判断是否存在MCTS SEI。如果头解码器705判断为在头编码数据中存在MCTS SEI(步骤S803中为“是”),则头解码器705将独立区块标志设置为1。然后,处理进入步骤S804。如果头解码器705判断为在头编码数据中不存在MCTS SEI(步骤S803中为“否”),则头解码器705将独立区块标志设置为0。然后,处理进入步骤S805。在第二实施例中,头解码器705判断为在头编码数据中存在MCTSSEI并且头解码器705将独立区块标志设置为1。然后,处理进入步骤S804。在要解码的帧中存在独立区块标志的情况下,需要将作为与区块位置有关的一致信息的vui_parameters的tile_boundaries_aligned_flag设置为1。如果vui_parameters的tile_boundaries_aligned_flag没有被设置为1,则头解码器705可以返回错误以停止解码。头解码器705将独立区块标志供给至独立区块判断部706、基本层解码器707和增强层解码器710。
在步骤S804中,头解码器705对MCTS SEI进行解码以获取独立区块标志和独立区块位置信息。
在步骤S805中,分离部704接收从端子702供给的与显示区域中的区块有关的位置信息。在第二实施例中,指示基本层整体的显示。因此,基本层的所有区块都在显示区域中。具体地,分离部704按从区块0起的区块编号的顺序从缓冲器703中提取与基本层的解码对象区块有关的编码数据,并且将与基本层的解码对象区块有关的编码数据供给至基本层解码器707。
在步骤S806中,独立区块判断部706从分离部704接收解码对象区块的编号。独立区块判断部706从头解码器705接收独立区块位置信息。在第二实施例中,存在一个独立区块集并且独立区块位置信息表示5和6。独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。如果独立区块判断部706判断为解码对象区块的区块编号与独立区块位置信息中的区块编号一致(步骤S806中为“是”),则独立区块判断部706判断为解码对象区块是独立区块。然后,处理进入步骤S807。如果独立区块判断部706判断为解码对象区块的区块编号与独立区块位置信息中的区块编号不一致(步骤S806中为“否”),则独立区块判断部706判断为解码对象区块不是独立区块集中的区块。然后,处理进入步骤S808。
在步骤S807中,解码对象区块是基本层的要解码的帧中的独立区块。因此,基本层解码器707仅参考解码后的基本层的其它帧中的位于与解码对象区块的位置相对相同的位置处的独立区块集中的独立区块以及解码对象区块中的解码后的像素,来进行解码。具体地,基本层解码器707参考帧存储器708内所存储的、位于与解码对象区块的位置相对相同的位置处的独立区块集中的独立区块的解码图像,来进行帧间预测。基本层解码器707参考帧存储器708内所存储的解码对象区块的解码图像来进行帧内预测。基本层解码器707将解码后的基本层的解码对象区块的解码图像存储在帧存储器708中。在对下一区块进行解码时参考该解码图像。基本层解码器707将基本层的解码对象区块的解码图像经由选择器720和端子712供给至图6的显示单元606。
在步骤S808中,解码对象区块不是基本层的要解码的帧中的独立区块。因此,基本层解码器707参考解码帧的基本层的解码图像和要解码的帧的基本层的解码后的像素来进行解码。具体地,基本层解码器707参考帧存储器708中所存储的解码图像来进行帧间预测。基本层解码器707参考解码对象区块的解码图像来进行帧内预测。基本层解码器707将解码后的基本层的解码对象区块的解码图像存储在帧存储器708中。在对下一区块进行解码时参考该解码图像。基本层解码器707将基本层的解码对象区块的解码图像经由选择器720和端子712供给至图6的显示单元606。
在步骤S809中,控制器714判断针对与基本层的相当于一个帧的所有区块有关的编码数据的解码是否完成。如果控制器714判断为针对与基本层的相当于一个帧的所有区块有关的编码数据的解码没有完成(步骤S809中为“否”),则处理返回至步骤S805。分离部704提取并输出下一区块以继续该处理。如果控制器714判断为针对与基本层的相当于一个帧的所有区块有关的编码数据的解码完成(步骤S809中为“是”),则处理进入步骤S810。
在步骤S810中,分离部704基于经由端子702从图6的显示控制单元603供给的显示控制信号来判断在要解码并显示的层中是否包括增强层。如果指示了增强层的解码和显示(步骤S810中为“是”),则处理进入步骤S811。如果没有指示增强层的解码和显示(步骤S810中为“否”),则处理进入步骤S818。由于这里仅要解码基本层,因此处理进入步骤S818。增强层解码器710不进行解码。
在步骤S818中,控制器714判断针对从端子701供给的序列中所包括的所有帧的基本层的编码数据或增强层的编码数据的解码是否完成。这里,控制器714判断针对所有帧的基本层的编码数据的解码是否完成。如果存在没有经过解码的基本层或增强层的任何编码数据(步骤S818中为“否”),则处理返回至步骤S805以处理下一帧。如果不存在与没有经过解码的帧有关的编码数据(步骤S818中为“是”),则终止该解码处理。
将图像解码单元605进行解码后的图像供给至图6的显示单元606。显示单元606响应于来自显示控制单元603的用于显示基本层的图像的指示来显示从图像解码单元605供给的基本层的解码图像整体。
在响应于来自用户的指示而从显示控制单元603指示了所记录的运动图像的基本层的显示的情况下,选择器604接收来自存储单元602的输入。显示控制单元603进行控制,以使得从存储单元602中选择所需位流并且将所选择的位流供给至选择器604。
现在将说明解码对象层是增强层的情况。这里将说明在显示控制单元603从用户接收用以对从接口601供给的位流中的增强层进行解码并且显示该位流中的增强层的一部分的指示的情况下的解码处理。这与对监控照相机等所拍摄到的图像的一部分进行详细监控的情况相对应。图像解码单元605从显示控制单元603接收与基本层和增强层的要解码并显示的区域中所包括的区块的编号有关的指示。在第二实施例中,假定为了简单,要显示的区域中所包括的区块是图2中的区块5和区块6。与图像解码单元605接收用以仅解码并显示基本层的指示的情况相同,现在将参考图8A和8B的流程图来说明图像解码单元605中的增强层的图像的示例性解码处理。简单地说明与仅基本层的解码处理共通的步骤。
在步骤S801中,与指示了仅显示基本层的情况相同,头解码器705对video_parameter_set和序列参数集进行解码。头解码器705对video_parameter_set中的vps_max_layers_minus1和序列参数集中的tile_boundaries_aligned_flag进行解码。
在步骤S802中,与仅显示基本层相同,头解码器705对图片参数集进行解码。
在步骤S803中,与仅显示基本层相同,头解码器705判断在头编码数据中是否存在独立区块。
在步骤S804中,与仅显示基本层相同,头解码器705对MCTS SEI进行解码以获取独立区块标志和独立区块位置信息。
在步骤S805中,分离部704接收从端子702供给的与显示区域中的区块有关的位置信息。在第二实施例中,指定了显示的区块的位置是区块5和区块6。因此,分离部704基于从端子702供给的与指定了显示的区块有关的位置信息来将区块5设置为解码对象区块,提取区块5的基本层的编码数据,并且将所提取的编码数据供给至基本层解码器707。分离部704将与指定了显示的区块有关的位置信息供给至独立区块判断部706。
在步骤S806中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。由于作为解码对象区块的区块5是独立区块,因此处理进入步骤S807。
在步骤S807中,解码对象区块是独立区块。与仅显示基本层相同,基本层解码器707对与基本层的区块5有关的编码数据进行解码以生成解码图像并且将该解码图像存储在帧存储器708中。由于这里要进行增强层的显示,因此基本层解码器707没有将所生成的解码图像从端子712输出。然而,本发明不限于此,并且基本层解码器707可以输出解码图像。在这种情况下,可以输出基本层解码器707所生成的解码图像和增强层解码器710所生成的解码图像这两者,并且显示单元606可以选择任一解码图像以显示所选择的解码图像。
在步骤S809中,控制器714判断针对从分离部704供给的与显示区域中的基本层的所有区块有关的编码数据的解码是否完成。由于这里针对与区块6有关的编码数据的解码没有完成,因此处理返回至步骤S805以对区块6的基本层的编码数据进行解码。
现在将说明针对区块6的基本层的编码数据的解码。
在步骤S805中,分离部704提取区块6的基本层的编码数据。在步骤S806中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。由于作为解码对象区块的区块6是独立区块,因此处理进入步骤S807。在步骤S807中,基本层解码器707对区块6的基本层的编码数据进行解码以生成解码图像并且将所生成的解码图像存储在帧存储器708中。
在步骤S809中,控制器714判断为针对从分离部704供给的与显示区域中的基本层的所有区块有关的编码数据的解码完成(步骤S809中为“是”)。然后,处理进入步骤S810。
在步骤S810中,分离部704基于经由端子702从图6的显示控制单元603供给的显示控制信号来判断在要显示的层中是否包括增强层。由于这里要显示增强层(步骤S810中为“是”),因此处理进入步骤S811。
在步骤S811中,与步骤S805相同,分离部704接收从端子702供给的与显示区域中的区块有关的位置信息。这里,指定了显示的区块的位置是区块5和区块6。因此,分离部704基于所接收到的与指定了显示的区块有关的位置信息来提取作为解码对象区块的区块5的增强层的编码数据,并且将所提取的编码数据供给至增强层解码器710。分离部704将与指定了显示的区块有关的位置信息供给至独立区块判断部706。
在步骤S812中,与步骤S806相同,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。如果解码对象区块的区块编号与独立区块位置信息中的区块编号一致(步骤S812中为“是”),则处理进入步骤S813。如果解码对象区块的区块编号与独立区块位置信息中的区块编号不一致(步骤S812中为“否”),则处理进入步骤S815。这里,独立区块位置信息表示5和6。因此,独立区块判断部706判断为作为解码对象区块的区块5是独立区块集中的区块(步骤S812中为“是”)。处理进入步骤S813。
在步骤S813中,解码对象区块是增强层的要解码的帧中的独立区块。放大部709从帧存储器708内所存储的解码后的基本层的解码图像接收位于与解码对象区块的位置相对相同的位置处的独立区块集中所包括的解码图像。放大部709例如通过滤波仅使用所接收到的独立区块的解码图像来进行放大以生成放大图像,并且将该放大图像供给至增强层解码器710。
在步骤S814中,增强层解码器710对从分离部704供给的解码对象区块的增强层的编码数据进行解码。增强层解码器710参考从放大部709供给的放大图像、帧存储器711内所存储的解码后的增强层的解码图像、以及解码对象区块中的解码后的像素,来生成解码图像。具体地,增强层解码器710参考步骤S813中所生成的基本层的放大图像来进行层间预测。增强层解码器710参考帧存储器711内所存储的增强层的解码图像中的、位于与解码对象区块的位置相对相同的位置处的独立区块集内的解码图像,来进行帧间预测。增强层解码器710参考解码对象区块内的解码图像来进行帧内预测。在图2的示例中,在对帧206的区块5进行解码时,增强层解码器710参考帧204的放大图像、解码后的帧205的区块5和区块6的解码图像以及帧206的区块5中的解码后的像素来进行解码。将增强层解码器710所生成的增强层的区块的解码图像供给至帧存储器711并且保持在帧存储器711中。将增强层解码器710所生成的增强层的解码图像经由选择器720和端子712供给至图6的显示单元606。
在步骤S817中,控制器714判断针对从分离部704供给的与显示区域中的增强层的所有区块有关的编码数据的解码是否完成。由于这里针对区块6的增强层的编码数据的解码没有完成(步骤S817中为“否”),因此处理返回至步骤S811,以对区块6的增强层的编码数据进行解码。
现在将说明针对区块6的增强层的编码数据的解码。
在步骤S811中,分离部704提取区块6的增强层的编码数据。在步骤S812中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。由于作为解码对象区块的区块6是独立区块(步骤S812中为“是”),因此处理进入步骤S813。
在步骤S813中,放大部709仅使用所接收到的独立区块的解码图像来生成放大图像。
在步骤S814中,增强层解码器710对区块6的增强层的编码数据进行解码以生成解码图像并且将该解码图像存储在帧存储器711中。增强层解码器710在对区块6的增强层的编码数据进行解码时,参考从放大部709供给的放大图像、帧存储器711内所存储的解码后的增强层的解码图像、以及解码对象区块中的解码后的像素。具体地,增强层解码器710参考步骤S813中所生成的基本层的放大图像来进行层间预测。增强层解码器710参考帧存储器711内所存储的增强层中的、位于与解码对象区块的位置相对相同的位置处的独立区块集中的解码图像,来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。在图2的示例中,在对帧206的区块6进行解码时,增强层解码器710参考帧204的放大图像、解码后的帧205中的区块5和区块6的解码图像、以及帧206的区块6中的解码后的像素,来进行解码。将增强层解码器710所生成的增强层的区块的解码图像供给至帧存储器711并且保持在帧存储器711中。将增强层解码器710所生成的增强层的解码图像经由选择器720和端子712供给至图6的显示单元606。
在步骤S817中,控制器714判断为针对与显示区域中的增强层的所有区块有关的编码数据的解码完成(步骤S817中为“是”)。处理进入步骤S818。
在步骤S818中,控制器714判断针对从端子701供给的序列内所包括的所有帧中的与显示区域的区块有关的编码数据的解码是否完成。如果存在没有经过解码的任何帧(步骤S818中为“否”),则处理返回至步骤S805以处理下一帧。如果不存在没有经过解码的帧(步骤S818中为“是”),则终止解码处理。
以上说明了显示区域(解码对象区块)包括独立区块集的情况下的解码处理。现在将说明显示区域(解码对象区块)不包括独立区块集的情况下的解码处理。解码处理中的步骤S801~步骤S805与上述的步骤相同。
在步骤S806中,独立区块判断部706判断为解码对象区块不是独立区块(步骤S806中为“否”)。处理进入步骤S808。在步骤S808中,与解码对象层仅是基本层的情况相同,基本层解码器707对基本层的区块进行解码以生成解码图像并且将所生成的解码图像存储在帧存储器708中。由于这里要进行增强层的显示,因此基本层解码器707没有将所生成的解码图像从端子712输出。
在步骤S809中,控制器714判断针对与基本层的相当于一个帧的所有区块有关的编码数据的解码是否完成。这里,控制器714判断为针对与基本层的相当于一个帧的所有区块有关的编码数据的解码完成(步骤S809中为“是”)。处理进入步骤S810。在步骤S810中,分离部704基于所接收到的显示控制信号判断为指示了增强层的显示(步骤S810中为“是”)。处理进入步骤S811。在步骤S811中,分离部704从端子702接收与显示区域中的区块有关的位置信息。分离部704基于所接收到的位置信息来提取解码对象区块的增强层的编码数据。在步骤S812中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。这里,独立区块判断部706判断为解码对象区块不是独立区块集中的区块(解码对象区块的区块编号与独立区块位置信息中的区块编号不一致)(步骤S812中为“否”)。处理进入步骤S815。
在步骤S815中,解码对象区块不是独立区块。放大部709从帧存储器708内所存储的解码后的基本层的解码图像接收位于与解码对象区块的位置相对相同的位置处的基本层的区块以及该区块周围的区块的解码图像。放大部709例如通过滤波使用所接收到的基本层的解码图像来进行放大以生成放大图像,并且将所生成的放大图像供给至增强层解码器710。
在步骤S816中,增强层解码器710对从分离部704供给的解码对象区块的增强层的编码数据进行解码。增强层解码器710参考从放大部709供给的放大图像、帧存储器711内所存储的解码后的增强层的解码图像和解码对象区块中的解码后的像素来生成解码图像。具体地,增强层解码器710参考步骤S815中所生成的基本层的放大图像来进行层间预测。增强层解码器710参考帧存储器711内所存储的增强层的解码图像来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。将增强层解码器710所生成的增强层的区块的解码图像供给至帧存储器711并且保持在帧存储器711中。将增强层解码器710所生成的增强层的解码图像经由选择器720和端子712供给至图6的显示单元606。
在步骤S817中,控制器714判断针对从端子702供给至分离部704的基于与显示区域中的区块有关的位置信息的所有区块的解码是否完成。如果针对显示区域中的所有区块的解码没有完成(步骤S817中为“否”),则处理返回至步骤S811。分离部704提取并输出下一区块以继续该处理。如果针对显示区域中的所有区块的解码完成(步骤S817中为“是”),则处理进入步骤S818。
在步骤S818中,控制器717判断针对与所有帧相对应的编码数据的解码是否完成。如果存在没有经过解码的任何编码数据(步骤S818中为“否”),则处理返回至步骤S805以处理下一帧。如果不存在没有经过解码的编码数据(步骤S818中为“是”),则终止解码处理。
返回参考图6,显示单元606从显示控制单元603接收用于显示增强层的图像的指示。因此,显示单元606显示图像解码单元605进行解码后的增强层的解码图像。由于增强层的分辨率高于基本层的分辨率,因此显示增强层的解码图像使得显示单元606能够实现与放大基本层的图像的一部分以供显示的情况相同的效果。
在响应于来自用户的指示而从显示控制单元603指示了所记录的运动图像的基本层的显示的情况下,选择器604接收来自存储单元602的输入。显示控制单元603进行控制,以使得从存储单元602选择所需的位流并且将所选择的位流供给至选择器604。
利用上述结构和操作,在使用独立区块和独立区块集的情况下,可以使增强层的各区块的相对位置与基本层的区块的相对位置一致。换句话说,在基本层的独立区块集中包括区块的情况下,在各增强层的独立区块集中包括位于与该区块的位置相对相同的位置处的区块。因此,在对层级编码的位流进行解码时,在任何层中均可以仅参考最小量的图像数据来对独立区块进行解码。以上述方式减少预测所要参考的图像数据,这使得能够抑制数据的传送量、减少计算量并且实现低电力消耗。另外,在对独立区块进行解码时,在从基本层到增强层的各层中在无需参考除独立区块以外的区块的情况下进行独立解码,这样使得能够实现高速处理。特别地,进行编码以使得独立区块集适应于编码侧的重要区域以生成位流,这样使得能够在对位流进行解码时以高速对重要区域进行解码。
在第二实施例中,尽管如图2的示例那样说明了仅使用比要解码的帧早的帧作为参考帧来进行预测和编码的示例,但本发明不限于该示例。通过上述说明显而易见,这同样适用于参考多个帧来进行预测和编码的情况。
在第二实施例中,尽管说明了使用放大部709的图像解码单元605,但本发明不限于此。可以省略放大部709。可选地,可以通过将放大率设置为1来使增强层解码器710中解码得到的量化参数小于基本层解码器707中解码得到的量化参数。这样使得能够对SNR层级编码的数据进行解码。
在第二实施例中,尽管说明了在与一个帧相对应的编码数据中包括所有层的编码数据的示例,但本发明不限于此,并且可以针对各层输入编码数据。例如,可以将针对各层的编码数据存储在存储单元602中,并且在需要的情况下可以从存储单元602切出并读出增强层的编码数据。
在第二实施例中,尽管说明了基本层和一个增强层的层级编码(总共两层的层级编码),但本发明不限于此,并且可以进行总共三层以上的层级编码。在这种情况下,针对增强层的层数设置增强层解码器710、帧存储器711和放大部709的集合使得能够支持更多层。可选地,如图9所示,在层的解码中可以共用一个增强层解码器710、一个帧存储器911和一个放大部909。图9是示出能够对多层的增强层进行解码的图像解码单元的典型结构的框图。图9的图像解码单元包括一个增强层解码器710、一个帧存储器911和一个放大部909。在图9中使用相同的附图标记来标识具有与图7的图像解码单元605中的各处理单元的功能相同的功能的组件。这里省略了针对这些组件的说明。参考图9,帧存储器908保持基本层解码器707所生成的解码图像。帧存储器908与图7中的帧存储器708的不同之处在于帧存储器908附加具有向选择器920的输出功能。放大部909与图7的放大部709的不同之处在于放大部909能够选择性地接收来自帧存储器911的输入和来自帧存储器908的输入。帧存储器911与图7中的帧存储器711的不同之处在于帧存储器911附加地具有用以将与期望区块有关的编码数据供给至放大部909和选择器920的功能。选择器920从帧存储器908或帧存储器911选择性地接收期望解码图像以将所选择的解码图像供给至端子912。将从选择器920供给的解码图像经由端子912输出至图像解码单元605的外部。
图10A和10B是示出图9所示的图像解码单元605中的各处理单元所进行的示例性解码处理的流程图。参考图10A和10B来仅说明图8A和8B的步骤S805~步骤S818的这些步骤中的与图8A和8B有所不同的步骤。在图10A和10B中使用相同的附图标记来标识具有与图8A和8B的功能相同的功能的步骤。这里省略了针对这些步骤的说明。这里说明对第一实施例的图4所示的图像编码设备400利用图5的编码方法所生成的具有三个层的位流进行解码的示例。在步骤S801~步骤S804中,头解码器705以上述方式对头编码数据进行解码。这里将vps_max_layers_minus1设置为2。
现在将说明解码对象层仅是基本层的情况。这里,假定显示控制单元603从用户接收用以开始从接口601供给的位流中的基本层整体的解码和显示的指示。与上述的仅显示基本层相同,还假定在图8A的步骤S805~步骤S809中针对基本层的一个帧的解码完成。然而,将基本层解码器707所生成的所有解码图像都存储在帧存储器908中。
参考图10A和10B,在步骤S1010中,基本层解码器707或增强层解码器710将解码后的层的数量与显示控制单元603所指定的要显示的层进行比较,以判断是否对要显示的层进行解码。如果要显示的层包括在所解码的层的数量中(步骤S1010中为“是”),则处理进入步骤S1003。如果要显示的层没有包括在所解码的层的数量中(步骤S1010中为“否”),则处理进入步骤S1001。这里假定分离部704基于从端子702供给的显示控制信号判断为要显示的层仅是基本层。因此,基本层解码器707判断为要显示的层包括在解码后的层的数量中(步骤S1010中为“是”)。处理进入步骤S1003。
在步骤S1003中,选择器920选择解码后的层中的最下位层的解码图像。由于在这种情况下最下位层是基本层,因此选择器920从帧存储器908读出解码后的基本层的解码图像,并且将所读出的解码图像经由端子912供给至图6的显示单元606。显示单元606响应于来自显示控制单元603的用以显示基本层的图像的指示来显示从图像解码单元605供给的基本层的解码图像整体。
现在将说明解码对象层是增强层的情况。这里将说明在显示控制单元603从用户接收到用以对从接口601供给的位流中的增强层进行解码并且显示该增强层的解码图像的一部分的指示的情况下的解码。这里假定要显示的层是第二增强层(层数为3)。这里还假定为了简便要显示的区域中所包括的区块是图2中的区块5和区块6。与指示了仅解码和显示基本层的情况相同,将参考图10A和10B的流程图来说明解码处理。简单地说明与仅解码基本层共通的步骤。
在步骤S806中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。由于作为解码对象区块的区块5是独立区块,因此处理进入步骤S807。在步骤S807中,基本层解码器707对与基本层的区块5有关的编码数据进行解码以生成解码图像并且将该解码图像存储在帧存储器908中。在步骤S809中,控制器714判断从分离部704供给的与显示区域中的基本层的所有区块有关的编码数据的解码是否完成。
在步骤S1010中,基本层解码器707或增强层解码器710将解码后的层的数量与显示控制单元603所指定的要显示的层进行比较,以判断是否对要显示的层进行解码。这里,基于从端子702供给的显示控制信号,要显示的层是第二增强层(层数是3)。因此,基本层解码器707判断为不对要显示的层进行解码(步骤S1010中为“否”)。处理进入步骤S1001。
在步骤S1001中,增强层解码器710将步骤S807或步骤S808中进行解码后的基本层或者以下所述的步骤S1014或步骤S1016中进行解码后的层的增强层设置为上位层。增强层解码器710将要解码的下一增强层设置为下位层。首先,增强层解码器710将步骤S807或步骤S803中进行解码后的基本层设置为上位层并且将第一增强层设置为下位层。
在步骤S1011中,分离部704接收从端子702供给的与显示区域中的区块有关的位置信息。这里,显示区域中的区块的位置是区块5和区块6。分离部704基于从端子702供给的位置信息来提取缓冲器703内所存储的层编码数据中的作为解码对象区块的区块5的下位层(第一增强层)的编码数据。分离部704将所提取的编码数据供给至增强层解码器710。分离部704将与区块有关的位置信息供给至独立区块判断部706。
在步骤S812中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。如果解码对象区块的区块编号与独立区块位置信息中的区块编号一致(步骤S812中为“是”),则处理进入步骤S1013。如果解码对象区块的区块编号与独立区块位置信息中的区块编号不一致(步骤S812中为“否”),则处理进入步骤S1015。这里,独立区块位置信息表示5和6,并且作为解码对象区块的区块5与独立区块位置信息中的区块编号一致。因此,独立区块判断部706判断为解码对象区块是独立区块集中的区块。处理进入步骤S1013。
在步骤S1013中,解码对象区块是独立区块。由于上位层是基本层,因此放大部909从帧存储器908内所存储的基本层的解码图像接收位于与解码对象区块的位置相对相同的位置处的独立区块集中所包括的独立区块的解码图像。放大部909例如通过滤波器仅使用所接收到的独立区块的解码图像来进行放大以生成放大图像,并且将该放大图像供给至增强层解码器710。
在步骤S1014中,与步骤S814相同,增强层解码器710对从分离部704供给的解码对象区块的下位层(第一增强层)的编码数据进行解码。增强层解码器710参考从放大部909供给的放大图像、帧存储器711内所存储的解码后的增强层(第一增强层)的解码图像、以及解码对象区块中的解码后的像素来生成解码图像。具体地,增强层解码器710参考步骤S1013中所生成的上位层(基本层)的放大图像来进行层间预测。增强层解码器710参考帧存储器911内所存储的下位层(第一增强层)的解码图像中的、位于与解码对象区块的位置相对相同的位置处的独立区块集中的解码图像,来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。将增强层解码器710进行解码后的下位层(第一增强层)的区块的解码图像供给至帧存储器911并且保持在帧存储器911中。
在步骤S1017中,控制器714判断从分离部704供给的与显示区域中的下位层(第一增强层)的所有区块有关的编码数据的解码是否完成。由于这里针对区块6的增强层的编码数据的解码没有完成,因此处理返回至步骤S1011,以对区块6的下位层(第一增强层)的编码数据进行解码。
现在将说明针对区块6的下位层(第一增强层)的编码数据的解码。
在步骤S1011中,分离部704提取缓冲器703内所存储的层编码数据中的作为解码对象区块的区块6的下位层(第一增强层)的编码数据。在步骤S812中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。这里,独立区块判断部706判断为作为解码对象区块的区块6是独立区块。处理进入步骤S1013。
在步骤S1013中,放大部909仅使用所接收到的与上位层(基本层)的独立区块有关的解码图像来生成放大图像。具体地,放大部909从帧存储器908接收解码图像,并且例如通过滤波使用所接收到的解码图像来进行放大以生成放大图像。
在步骤S1014中,增强层解码器710对区块6的下位层(第一增强层)的编码数据进行解码以生成解码图像并且将该解码图像供给至帧存储器911。在对区块6的下位层(第一增强层)的编码数据进行解码时,增强层解码器710参考从放大部909供给的放大图像、帧存储器911内所存储的解码后的增强层的解码图像、以及解码对象区块中的解码后的像素。具体地,增强层解码器710参考步骤S1013中所生成的上位层(基本层)的放大图像来进行层间预测。增强层解码器710参考帧存储器911内所存储的下位层(第一增强层)的解码图像中的、位于与解码对象区块的位置相对相同的位置处的独立区块集中的解码图像,来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。将增强层解码器710进行解码后的下位层(第一增强层)的区块的解码图像供给至帧存储器911并且保持在帧存储器911中。
在步骤S1017中,控制器714判断为针对与显示区域中的下位层(第一增强层)的所有区块有关的编码数据的解码完成。处理进入步骤S1002。
在步骤S1002中,控制器714判断针对解码后的vps_max_layers_minus1所表示的所有层的解码是否完成。如果控制器714判断为针对所有层的区块的解码没有完成(步骤S1002中为“否”),则处理返回至步骤S1010,以进行与显示有关的判断。如果控制器714判断为针对所有层的区块的解码完成(步骤S1002中为“是”),则处理进入步骤S1003。由于这里针对增强层的解码没有完成,因此增强层解码器710判断为针对所有层的区块的解码没有完成。处理返回至步骤S1010。
这里进行第二增强层的解码。在步骤S1010中,增强层解码器710判断是否对要显示的层进行解码。基于从端子702供给的显示控制信号,要显示的层是第二增强层。由于增强层解码器710判断为完成了直到第一增强层为止的解码(没有对第二增强层进行解码)(步骤S1010中为“否”),因此处理进入步骤S1001。在步骤S1001中,增强层解码器710将步骤S1014或步骤S1016中进行解码后的第一增强层设置为上位层并且将第二增强层设置为下位层。
在步骤S1011中,分离部704提取缓冲器703内所存储的层编码数据中的与下位层(第二增强层)的区块有关的编码数据,并且将所提取的编码数据供给至增强层解码器710。这里,分离部704提取区块5的下位层(第二增强层)的编码数据并且将所提取的编码数据供给至增强层解码器710。在步骤S812中,独立区块判断部706判断为作为解码对象区块的区块5是独立区块。处理进入步骤S1013。在步骤S1013中,上位层是增强层(第一增强层)。因此,放大部909从帧存储器908内所存储的上位层(第一增强层)的解码图像接收位于与解码对象区块的位置相对相同的位置处的独立区块集中所包括的独立区块的解码图像。放大部909例如通过滤波仅使用所接收到的上位层(第一增强层)的独立区块的解码图像来进行放大以生成放大图像,并且将该放大图像供给至增强层解码器710。
在步骤S1014中,增强层解码器710对从分离部704供给的解码对象区块的下位层(第二增强层)的编码数据进行解码。增强层解码器710参考以下图像来生成解码图像。具体地,增强层解码器710参考从放大部909供给的上位层(第一增强层)的放大图像、帧存储器911内所存储的解码后的增强层(第二增强层)的解码图像、以及解码对象区块中的解码后的像素。更具体地,增强层解码器710参考步骤S1013中所生成的上位层(第一增强层)的放大图像来进行层间预测。增强层解码器710参考帧存储器911内所存储的下位层(第二增强层)的解码图像中的、位于与解码对象区块的位置相对相同的位置处的独立区块集中的解码图像,来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。将增强层解码器710进行解码后的下位层(第二增强层)的区块的解码图像供给至帧存储器911并且保持在帧存储器911中。
在步骤S1017中,控制器714判断针对从分离部704供给的与显示区域中的下位层(第二增强层)的所有区块有关的编码数据的解码是否完成。由于这里针对区块6的增强层的编码数据的解码没有完成,因此处理返回至步骤S1011,以对区块6的下位层(第二增强层)的编码数据进行解码。由于以与针对区块5的第二增强层的编码数据的解码相同的方式进行针对区块6的下位层的解码,因此这里省略了针对区块6的下位层的解码的说明。然而,在这种情况下,将第一增强层设置为上位层并且将第二增强层设置为下位层。
在步骤S1002中,由于针对第二增强层的解码完成,因此控制器714判断为针对所有层的区块的解码完成。处理进入步骤S1003。在步骤S1003中,选择器920选择解码后的层中的最下位层的解码图像。在这种情况下,由于最下位层是第二增强层,因此选择器920从帧存储器911读出第二增强层的解码图像并且将该第二增强层的解码图像经由端子912供给至图6的显示单元606。显示单元606响应于来自显示控制单元603的用以显示第二增强层的图像的指示,来显示从图像解码单元605供给的第二增强层的解码图像整体。
在上述说明中,要显示的层是第二增强层(层数是3)。然而,在层级编码中的编码数据的层数是三个以上并且要显示的层是第一增强层(层数是2)的情况下,在对第一增强层的解码完成之后(步骤S1002中为“否”),处理返回至步骤S1010,然后进入步骤S1003。因此,不进行针对比第二增强层高的层的编码数据的解码。
以上说明了显示区域(解码对象区块)包括独立区块集的情况。现在将说明显示区域(解码对象区块)不包括独立区块集的情况。按上述方式进行步骤S801~步骤S805。
在步骤S806中,独立区块判断部706判断为解码对象区块不是独立区块。处理进入步骤S808。在步骤S808中,与解码对象层仅是基本层的情况相同,基本层解码器707对基本层的区块进行解码以生成解码图像并且将所生成的解码图像存储在帧存储器908中。
在步骤S809中,控制器714判断为针对与基本层的相当于一个帧的所有区块有关的编码数据的解码是否完成。这里,控制器714判断为基本层解码器707完成了针对与基本层的相当于一个帧的所有区块有关的编码数据的解码(步骤S809中为“是”)。处理进入步骤S1010。在步骤S1010中,由于要进行直到第二增强层为止的显示,因此基本层解码器707或增强层解码器710判断为不对要显示的层进行解码(步骤S1010中为“否”)。处理进入步骤S1001。
在步骤S1001中,增强层解码器710将步骤S808中进行解码后的基本层设置为上位层并且将要解码的下一增强层(第一增强层)设置为下位层。在步骤S1011中,分离部704接收从端子702供给的与显示区域中的区块有关的位置信息。分离部704基于所接收到的位置信息,来提取缓冲器703内所存储的层编码数据中的解码对象区块的下位层(第一增强层)的编码数据。在步骤S812中,独立区块判断部706将解码对象区块的区块编号与独立区块位置信息中的区块编号进行比较。这里,作为解码对象区块的区块5与独立区块位置信息中的区块编号不一致。因此,独立区块判断部706判断为解码对象区块不是独立区块集中的区块(步骤S812中为“否”)。处理进入步骤S1015。
在步骤S1015中,放大部909从帧存储器708内所存储的上位层(基本层)的解码图像接收位于与解码对象区块的位置相对相同的位置处的基本层的区块和该区块周围的区块的解码图像。放大部909例如通过滤波仅使用所接收到的基本层的区块的解码图像来进行放大以生成放大图像,并且将所生成的放大图像供给至增强层解码器710。
在步骤S1016中,增强层解码器710对从分离部704供给的解码对象区块的下位层(第一增强层)的编码数据进行解码。增强层解码器710参考以下图像来生成预测图像。具体地,增强层解码器710参考从放大部909供给的上位层(基本层)的放大图像、帧存储器911内所存储的解码后的下位层(第一增强层)的解码图像、以及解码对象区块的下位层(第一增强层)的解码后的像素。增强层解码器710根据通过参考所生成的预测图像和解码后的预测误差来生成解码图像。更具体地,增强层解码器710参考步骤S1015中所生成的上位层(基本层)的放大图像来进行层间预测。增强层解码器710参考帧存储器711内所存储的下位层(第一增强层)的解码图像来进行帧间预测。增强层解码器710参考下位层(第一增强层)的解码对象区块的解码图像来进行帧内预测。将增强层解码器710所生成的下位层(第一增强层)的区块的解码图像供给至帧存储器911并且保持在帧存储器911中。
在步骤S1017中,控制器714判断针对与显示区域中的下位层(第一增强层)的所有区块有关的编码数据的解码是否完成。这里,控制器714判断为增强层解码器710完成了针对与第一增强层的所有区块有关的编码数据的解码(步骤S1017中为“是”)。处理进入步骤S1002。在步骤S1002中,控制器714判断针对所有层的解码是否完成。这里,控制器714判断为增强层解码器710没有完成针对第二增强层的解码(步骤S1002中为“否”)。处理返回至步骤S1010。
这里进行第二增强层的解码。在步骤S1010中,增强层解码器710判断为针对要显示的第二增强层的解码没有完成(步骤S1010中为“否”)。处理进入步骤S1001。在步骤S1001中,增强层解码器710将步骤S1016中进行解码后的第一增强层设置为上位层并且将第二增强层设置为下位层。在步骤S1011中,分离部704提取与下位层(第二增强层)的解码对象区块有关的编码数据并且将所提取的编码数据供给至增强层解码器710。在步骤S812中,独立区块判断部706判断为解码对象区块不是独立区块集中的区块(步骤S812中为“否)。处理进入步骤S1015。在步骤S1015中,由于上位层是增强层(第一增强层),因此放大部909接收帧存储器908内所存储的增强层(第一增强层)的解码图像。放大部909例如通过滤波使用所接收到的上位层(第一增强层)的解码图像来进行放大以生成放大图像。这里,放大部909可以使用位于与解码对象区块的位置相对相同的位置处的区块和该区块周围的区块来生成放大图像。放大部909将所生成的放大图像供给至增强层解码器710。
在步骤S1016中,增强层解码器710对从分离部704供给的解码对象区块的下位层(第二增强层)的编码数据进行解码。增强层解码器710参考从放大部909供给的上位层(第一增强层)的放大图像、帧存储器911内所存储的解码后的增强层(第二增强层)的解码图像、以及解码对象区块中的解码后的像素来生成解码图像。具体地,增强层解码器710参考步骤S1015中所生成的上位层(第一增强层)的放大图像来进行层间预测。增强层解码器710参考帧存储器911内所存储的下位层(第二增强层)的解码图像来进行帧间预测。增强层解码器710参考解码对象区块的解码图像来进行帧内预测。将增强层解码器710进行解码后的下位层(第二增强层)的区块的解码图像供给至帧存储器911并且保持在帧存储器911中。
在步骤S1017中,控制器714判断针对从分离部704供给的与显示区域中的下位层(第二增强层)的所有区块有关的编码数据的解码是否完成。由于这里控制器714判断为增强层解码器710完成了针对与第二增强层的所有区块有关的编码数据的解码,因此处理进入步骤S1002。在步骤S1002中,由于针对第二增强层的解码完成,因此控制器714判断为针对所有层的区块的解码完成(步骤S1002中为“是”)。处理进入步骤S1003。在步骤S1003中,选择器920选择解码后的层中的最下位层的解码图像。在这种情况下,由于最下位层是第二增强层,因此选择器920从帧存储器911读出解码图像并且将所读出的解码图像经由端子912供给至图6的显示单元606。显示单元606响应于来自显示控制单元603的用以显示第二增强层的图像的指示来显示从图像解码单元605供给的第二增强层的解码图像。
在上述说明中,要显示的层是第二增强层(层数是3)。然而,在层级编码的编码数据的层数是3以上并且要显示的层是第一增强层(层数是2)的情况下,在针对第一增强层的解码完成之后(步骤S1002中为“否”),处理返回至步骤S1010,然后进入步骤S1003。因此,不进行针对比第二增强层高的层的编码数据的解码。
利用上述的结构和操作,可以使各增强层的各独立区块的相对位置与基本层的独立区块的相对位置一致。换句话说,在将基本层的特定区块设置为独立区块的情况下,位于与基本层的独立区块的位置相对相同的位置处的独立区块是各增强层的独立区块。这样使得能够在层级编码的任何层中均限制与独立区块有关的编码数据的预测和解码所要参考的像素数。特别地,在图6的示例中,如果显示控制单元603指定了显示的区块是独立区块,则可以从存储单元602读出所需的编码数据。图像解码单元605可以仅对该编码数据进行解码。因此,与现有技术相比,可以实现高速处理。
在位流中存在MCTS SEI的情况下,将作为与区块位置有关的一致信息的vui_parameters的tile_boundaries_aligned_flag恒定地设置为1。换句话说,在vui_parameters中在位流中存在MCTS SEI的情况下,可以省略作为编码数据的tile_boundaries_aligned_flag。如果在位流中不存在MCTS SEI,则对tile_boundaries_aligned_flag进行解码并且在后续解码中参考该解码数据。如果在位流中存在MCTS SEI,则由于没有对tile_boundaries_aligned_flag进行编码,因此在解码侧将tile_boundaries_aligned_flag恒定地设置为1。这样使得能够在无tile_boundaries_aligned_flag的情况下以相同方式进行解码。
第三实施例
在第一实施例和第二实施例中,图1、图4、图6、图7和图9所示的各处理单元被配置为硬件。然而,可以利用计算机程序执行各处理单元所进行的处理。
图11是示出执行根据第一实施例的图像编码设备和根据第二实施例的图像解码设备中的各处理单元的处理的计算机的示例性硬件结构的框图。
参考图11,中央处理单元(CPU)1101使用随机存取存储器(RAM)1102和只读存储器(ROM)1103中所存储的计算机程序和数据来控制计算机整体,并且执行以上所述的根据第一实施例的图像编码设备和根据第二实施例的图像解码设备所进行的处理。换句话说,CPU1101用作图1、图4、图6、图7和图9所示的各处理单元。
RAM 1102具有临时存储有从外部存储装置1106所下载的计算机程序和数据以及经由接口(I/F)1107从外部获取到的数据等的区域。RAM 1102还具有CPU 1101执行各种处理所使用的工作区域。换句话说,RAM 1102例如能够被分配作为帧存储器并且适当地提供各种其它区域。
ROM 1103存储计算机的设置数据和引导程序等。操作单元1104包括键盘、鼠标等,并且能够响应于用户的操作来向CPU 1101发出各种指示。输出单元1105进行用以显示CPU1101所进行的处理的结果的控制。输出单元1105还进行用以将CPU 1101所进行的处理的结果显示在例如包括液晶显示器的显示单元(未示出)中的控制。
外部存储装置1106是以硬盘驱动器为代表的大容量存储装置。将操作系统(OS)和CPU 1101实现图1、图4、图6、图7和图9所示的处理单元的功能所使用的计算机程序存储在外部存储装置1106中。可以将要处理的图像数据存储在外部存储装置1106中。
在CPU 1101的控制下将外部存储装置1106中所存储的计算机程序和数据适当地载入RAM 1102中以由CPU 1101进行处理。诸如局域网(LAN)或因特网等的网络以及诸如投影设备或显示设备等的其它装置可以连接至I/F 1107。计算机能够经由I/F 1107来获取并发送各种信息。上述组件经由总线1108彼此连接。
以上参考流程图所述的上述结构的操作主要由CPU 1101进行控制。
其它实施例
为了容易地实现本发明,明确地表示在接近位流的开头的等级处有无独立区块是有用的。例如,现在将参考图12来说明使用vui_parameters的方法。图12示出vui_parameters的句法的示例。在vui_parameters中包括表示在位流中恒定地存在独立区块的motion_constrained_tile_sets_flag。如果motion_constrained_tile_sets_flag被设置为1,则包括MCTS SEI,在位流中存在独立区块,并且基本层的各区块的相对位置与增强层的区块的相对位置一致。换句话说,由于tile_boundaries_aligned_flag恒定地被设置为1,因此不必对tile_boundaries_aligned_flag进行编码。作为对比,如果motion_constrained_tile_sets_flag被设置为0,则不包括MCTS SEI并且在位流中不存在独立区块。因此,需要对tile_boundaries_aligned_flag进行编码。对位流解码的这种图像解码设备能够在进行各区块的解码处理之前获取表示在位流中包括独立区块的信息。因此,在对特定区域进行解码时,图像解码设备可以使用独立区块来以高速进行解码处理。结果,例如可以在进行各区块的解码处理之前判断部分放大应用是否有效。
图像的大小、通过分割所得到的区块数量和独立区块在一个帧中的位置不限于上述实施例所述的情形。
还可以通过读出并执行记录在存储介质(例如,非瞬态计算机可读存储介质)上的计算机可执行指令以进行本发明的上述实施例中的一个或多个的功能的系统或设备的计算机和通过下面的方法来实现本发明的实施例,其中,该系统或设备的计算机通过例如从存储介质读出并执行计算机可执行指令以进行上述实施例中的一个或多个的功能来进行上述方法。该计算机可以包括中央处理单元(CPU)、微处理单元(MPU)或其它电路中的一个或多个,并且可以包括单独计算机或单独计算机处理器的网络。例如可以从网络或存储介质将这些计算机可执行指令提供至计算机。该存储介质可以包括例如硬盘、随机存取存储器(RAM)、只读存储器(ROM)、分布式计算机系统的存储器、光盘(诸如致密盘(CD)、数字多功能盘(DVD)或蓝光盘(BD)TM等)、闪速存储装置和存储卡等中的一个或多个。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。
本申请基于2013年7月12日提交的日本专利申请2013-146305的优先权,在此通过引用包含其全部内容。

Claims (14)

1.一种图像编码设备,用于利用多个层对构成运动图像的图像进行层级编码,所述图像编码设备包括:
生成单元,用于根据第一图像的层来生成不同层的第二图像;
编码单元,用于对所述第一图像中的包括一个或多个区块的第一区块集和所述第二图像中的包括一个或多个区块的第二区块集进行编码;以及
信息编码单元,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
所述编码单元在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行编码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行编码,
在所述编码单元参考所述第二图像的区域的至少一部分来对所述第一区块集进行编码的情况下,所述编码单元通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行编码,以及
所述信息编码单元对表示与所述第一区块集和所述第二区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行编码。
2.根据权利要求1所述的图像编码设备,其中,所述第一图像和所述第二图像在分辨率或图像质量方面不同。
3.根据权利要求1所述的图像编码设备,其中,所述第一图像是扩展层,并且所述第二图像是基本层。
4.根据权利要求1所述的图像编码设备,其中,所述第一图像中的所述第一区块集和所述第二图像中的所述第二区块集分别配置在所述第一图像和所述第二图像中的相同位置处。
5.根据权利要求1所述的图像编码设备,其中,所述SEI消息包括至少表示所述第一区块集的位置的信息。
6.一种图像解码设备,用于解码通过利用多个层对构成运动图像的图像进行层级编码所生成的编码数据,所述图像解码设备包括:
信息解码单元,用于对表示与包括一个或多个区块的区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行解码;以及
解码单元,用于根据所述SEI消息来对第一图像中的第一区块集和第二图像中的第二区块集进行解码,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
所述解码单元在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行解码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行解码,以及
在所述解码单元参考所述第二图像的区域的至少一部分来对所述第一区块集进行解码的情况下,所述解码单元通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行解码。
7.根据权利要求6所述的图像解码设备,其中,所述第一图像和所述第二图像在分辨率或图像质量方面不同。
8.根据权利要求6所述的图像解码设备,其中,所述第一图像是扩展层,并且所述第二图像是基本层。
9.根据权利要求6所述的图像解码设备,其中,所述第一图像中的所述第一区块集和所述第二图像中的所述第二区块集分别配置在所述第一图像和所述第二图像中的相同位置处。
10.根据权利要求6所述的图像解码设备,其中,所述SEI消息包括至少表示所述第一区块集的位置的信息。
11.一种图像编码设备中的图像编码方法,所述图像编码设备用于利用多个层对构成运动图像的图像进行层级编码,所述图像编码方法包括:
根据第一图像的层来生成不同层的第二图像;以及
对所述第一图像中的包括一个或多个区块的第一区块集和所述第二图像中的包括一个或多个区块的第二区块集进行编码,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行编码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行编码,
在参考所述第二图像的区域的至少一部分来对所述第一区块集进行编码的情况下,通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行编码,以及
对表示与所述第一区块集和所述第二区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行编码。
12.一种图像解码设备中的图像解码方法,所述图像解码设备用于解码通过利用多个层对构成运动图像的图像进行层级编码所生成的编码数据,所述图像解码方法包括:
对表示与包括一个或多个区块的区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行解码;以及
根据所述SEI消息来对第一图像中的第一区块集和第二图像中的第二区块集进行解码,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行解码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行解码,以及
在参考所述第二图像的区域的至少一部分来对所述第一区块集进行解码的情况下,通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行解码。
13.一种非瞬态计算机可读存储介质,用于存储使计算机执行编码的程序,所述程序包括计算机可执行指令,所述计算机可执行指令用于进行以下操作:
利用多个层对构成运动图像的图像进行层级编码;
根据第一图像的层来生成不同层的第二图像;以及
对所述第一图像中的包括一个或多个区块的第一区块集和所述第二图像中的包括一个或多个区块的第二区块集进行编码,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行编码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行编码,
在参考所述第二图像的区域的至少一部分来对所述第一区块集进行编码的情况下,通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行编码,以及
对表示与所述第一区块集和所述第二区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行编码。
14.一种非瞬态计算机可读存储介质,用于存储使计算机执行解码的程序,所述程序包括计算机可执行指令,所述计算机可执行指令用于进行以下操作:
解码通过利用多个层对构成运动图像的图像进行层级编码所生成的编码数据;
对表示与包括一个或多个区块的区块集的解码处理有关的限制的辅助增强信息消息即SEI消息进行解码;以及
根据所述SEI消息来对第一图像中的第一区块集和第二图像中的第二区块集进行解码,
其中,所述第二区块集配置在所述第二图像中的与所述第一区块集相对应的位置处,
在不参考所述第一图像中的除所述第一区块集以外的任何区块集的情况下对所述第一区块集进行解码,并且在不参考除所述第二区块集以外的任何区块集的情况下对所述第二区块集进行解码,以及
在参考所述第二图像的区域的至少一部分来对所述第一区块集进行解码的情况下,通过限制成仅参考所述第二图像中的所述第二区块集来对所述第一区块集进行解码。
CN201811477627.0A 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质 Pending CN110087069A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013146305A JP6261215B2 (ja) 2013-07-12 2013-07-12 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2013-146305 2013-07-12
CN201480039734.9A CN105379274B (zh) 2013-07-12 2014-07-01 图像编码设备和方法以及图像解码设备和方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201480039734.9A Division CN105379274B (zh) 2013-07-12 2014-07-01 图像编码设备和方法以及图像解码设备和方法

Publications (1)

Publication Number Publication Date
CN110087069A true CN110087069A (zh) 2019-08-02

Family

ID=51303098

Family Applications (5)

Application Number Title Priority Date Filing Date
CN201811477627.0A Pending CN110087069A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质
CN201480039734.9A Active CN105379274B (zh) 2013-07-12 2014-07-01 图像编码设备和方法以及图像解码设备和方法
CN201811477599.2A Pending CN110049328A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质
CN201811477750.2A Pending CN110049329A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质
CN201811477727.3A Pending CN109889828A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质

Family Applications After (4)

Application Number Title Priority Date Filing Date
CN201480039734.9A Active CN105379274B (zh) 2013-07-12 2014-07-01 图像编码设备和方法以及图像解码设备和方法
CN201811477599.2A Pending CN110049328A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质
CN201811477750.2A Pending CN110049329A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质
CN201811477727.3A Pending CN109889828A (zh) 2013-07-12 2014-07-01 图像编码设备和方法、图像解码设备和方法及存储介质

Country Status (8)

Country Link
US (5) US10085033B2 (zh)
EP (1) EP3020190A1 (zh)
JP (1) JP6261215B2 (zh)
KR (6) KR101906686B1 (zh)
CN (5) CN110087069A (zh)
BR (1) BR112016000233B1 (zh)
RU (6) RU2646389C2 (zh)
WO (1) WO2015004879A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021237475A1 (zh) * 2020-05-26 2021-12-02 华为技术有限公司 图像编解码方法和装置

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6261215B2 (ja) * 2013-07-12 2018-01-17 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
KR20150029592A (ko) * 2013-09-10 2015-03-18 주식회사 케이티 스케일러블 비디오 신호 인코딩/디코딩 방법 및 장치
CN105659597B (zh) * 2013-10-22 2020-01-07 株式会社Kt 用于对多层视频信号进行编码/解码的方法和装置
MX359902B (es) * 2013-10-22 2018-10-16 Kt Corp Metodo y dispositivo para codificar/descodificar una señal de video de multicapa.
WO2015064989A1 (ko) * 2013-10-29 2015-05-07 주식회사 케이티 멀티 레이어 비디오 신호 인코딩/디코딩 방법 및 장치
US10869032B1 (en) * 2016-11-04 2020-12-15 Amazon Technologies, Inc. Enhanced encoding and decoding of video reference frames
US10264265B1 (en) 2016-12-05 2019-04-16 Amazon Technologies, Inc. Compression encoding of images
TWI605704B (zh) * 2017-03-01 2017-11-11 晨星半導體股份有限公司 重組影像檔案的方法
US10764575B2 (en) * 2017-03-03 2020-09-01 Qualcomm Incorporated Coding MCTS-nested SEI messages to exclude other SEI messages that are not MCTS-nested
CN109963176B (zh) * 2017-12-26 2021-12-07 中兴通讯股份有限公司 视频码流处理方法、装置、网络设备和可读存储介质
CN118018761A (zh) 2017-12-28 2024-05-10 韩国电子通信研究院 图像编码和解码的方法和装置以及存储比特流的记录介质
JP6371017B1 (ja) * 2018-01-12 2018-08-08 株式会社アドイン研究所 情報処理システム、情報処理方法及びプログラム
KR102106716B1 (ko) * 2018-11-15 2020-05-04 전자부품연구원 타일 기반 스트리밍을 위한 분산 트랜스코딩 방법 및 시스템
US11012714B1 (en) * 2020-06-23 2021-05-18 Google Llc Image coding using lexicographic coding order with floating block-partitioning
US11321878B2 (en) 2020-06-26 2022-05-03 Sony Group Corporation Decoded tile hash SEI message for V3C/V-PCC
BR112023003717A2 (pt) 2020-09-01 2023-03-28 Hyundai Steel Co Material para estampagem a quente e método de fabricação de um material para estampagem a quente
TWI774165B (zh) * 2020-12-24 2022-08-11 金隆化學工業股份有限公司 一種黏結材及積層製造的方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120288013A1 (en) * 2010-01-27 2012-11-15 Dolby Laboratories Licensing Corporation Methods and Systems for Reference Processing in Image and Video Codecs

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3263807B2 (ja) * 1996-09-09 2002-03-11 ソニー株式会社 画像符号化装置および画像符号化方法
JP2003018602A (ja) * 2001-04-24 2003-01-17 Monolith Co Ltd 画像データ符号化および復号のための方法および装置
US7200272B2 (en) * 2002-01-31 2007-04-03 Canon Kabushiki Kaisha Image processing method storing input encoded data into a memory
US20040190615A1 (en) * 2002-05-22 2004-09-30 Kiyofumi Abe Moving image encoding method, moving image decoding method, and data recording medium
CA2492751C (en) * 2002-07-16 2012-06-12 Nokia Corporation A method for random access and gradual picture refresh in video coding
JP4949836B2 (ja) * 2003-08-29 2012-06-13 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 記述的モデルパラメータを用いたエンハンスメントレイヤデータを符号化及び復号化するシステム及び方法
EP1747677A2 (en) * 2004-05-04 2007-01-31 Qualcomm, Incorporated Method and apparatus to construct bi-directional predicted frames for temporal scalability
EP1790170A2 (en) * 2004-09-14 2007-05-30 Gary Demos High quality wide-range multi-layer compression coding system
US8848789B2 (en) * 2006-03-27 2014-09-30 Qualcomm Incorporated Method and system for coding and decoding information associated with video compression
CN101422046A (zh) * 2006-11-09 2009-04-29 Lg电子株式会社 用于解码/编码视频信号的方法及装置
CN102742270B (zh) * 2010-02-05 2016-02-03 瑞典爱立信有限公司 用于子像素插值的改进的方法和设备
TWI526056B (zh) * 2011-04-27 2016-03-11 Jvc Kenwood Corp A moving picture coding apparatus, a motion picture coding method, a motion picture coding program, a transmission apparatus, a transmission method, a transmission program, a video decoding apparatus, a video decoding method, a video decoding program, a reception device, a reception method, Receiving program
US9686543B2 (en) 2011-06-15 2017-06-20 Electronics And Telecommunications Research Institute Method for coding and decoding scalable video and apparatus using same
CN103828371B (zh) * 2011-09-22 2017-08-22 太阳专利托管公司 运动图像编码方法、运动图像编码装置、及运动图像解码方法以及运动图像解码装置
IN2014CN03712A (zh) * 2011-10-31 2015-09-04 Mitsubishi Electric Corp
JP2013110518A (ja) * 2011-11-18 2013-06-06 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US9819949B2 (en) * 2011-12-16 2017-11-14 Microsoft Technology Licensing, Llc Hardware-accelerated decoding of scalable video bitstreams
EP3879825A3 (en) * 2012-04-06 2022-07-13 Sony Group Corporation Decoding device and decoding method, and encoding device and encoding method
CN104170384A (zh) * 2012-06-25 2014-11-26 索尼公司 图像解码设备、图像解码方法、图像编码设备和图像编码方法
US20140003504A1 (en) * 2012-07-02 2014-01-02 Nokia Corporation Apparatus, a Method and a Computer Program for Video Coding and Decoding
KR101925606B1 (ko) * 2012-10-12 2018-12-05 캐논 가부시끼가이샤 데이터를 스트리밍하기 위한 방법, 데이터를 제공하기 위한 방법, 데이터를 획득하기 위한 방법, 컴퓨터 판독 가능 저장 매체, 서버 장치, 및 클라이언트 장치
EP2941891B1 (en) * 2013-01-04 2020-09-16 GE Video Compression, LLC Efficient scalable coding concept
US9578339B2 (en) * 2013-03-05 2017-02-21 Qualcomm Incorporated Parallel processing for video coding
US9800857B2 (en) * 2013-03-08 2017-10-24 Qualcomm Incorporated Inter-view residual prediction in multi-view or 3-dimensional video coding
JP6331103B2 (ja) * 2013-03-21 2018-05-30 ソニー株式会社 画像復号装置および方法
CN117956141A (zh) * 2013-04-08 2024-04-30 Ge视频压缩有限责任公司 多视图解码器
EP3021586A4 (en) * 2013-07-07 2016-12-07 Wilus Inst Standards & Technology Inc METHOD AND APPARATUS FOR PROCESSING VIDEO SIGNAL
GB2516224A (en) 2013-07-11 2015-01-21 Nokia Corp An apparatus, a method and a computer program for video coding and decoding
JP6261215B2 (ja) * 2013-07-12 2018-01-17 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120288013A1 (en) * 2010-01-27 2012-11-15 Dolby Laboratories Licensing Corporation Methods and Systems for Reference Processing in Image and Video Codecs

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TRUONG CONG THANG等: "Spatial Scalability of Multiple ROIs in Surveillance Video", 《JOINT VIDEO TEAM (JVT) OF ISO/IEC MPEG & ITU-T VCEG(ISO/IEC JTC1/SC29/WG11 AND ITU-T SG16 Q.6),JVT-O037》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021237475A1 (zh) * 2020-05-26 2021-12-02 华为技术有限公司 图像编解码方法和装置

Also Published As

Publication number Publication date
KR101973919B1 (ko) 2019-04-29
WO2015004879A1 (en) 2015-01-15
RU2715291C1 (ru) 2020-02-26
KR102160568B1 (ko) 2020-09-28
CN110049329A (zh) 2019-07-23
US10085033B2 (en) 2018-09-25
RU2736140C1 (ru) 2020-11-11
KR20190045411A (ko) 2019-05-02
RU2646389C2 (ru) 2018-03-02
BR112016000233A2 (zh) 2017-07-25
KR20200074282A (ko) 2020-06-24
CN105379274B (zh) 2018-12-04
RU2016104560A (ru) 2017-08-17
KR102126345B1 (ko) 2020-06-24
KR20180112105A (ko) 2018-10-11
US20210076052A1 (en) 2021-03-11
US11115670B2 (en) 2021-09-07
RU2699414C1 (ru) 2019-09-05
US20160150236A1 (en) 2016-05-26
KR102092518B1 (ko) 2020-03-23
CN109889828A (zh) 2019-06-14
KR20200031714A (ko) 2020-03-24
RU2674933C1 (ru) 2018-12-13
KR20160031515A (ko) 2016-03-22
US10869046B2 (en) 2020-12-15
US20200145677A1 (en) 2020-05-07
BR112016000233B1 (pt) 2023-03-28
JP2015019303A (ja) 2015-01-29
US20210076053A1 (en) 2021-03-11
KR20200111293A (ko) 2020-09-28
US20180367807A1 (en) 2018-12-20
CN110049328A (zh) 2019-07-23
RU2748726C1 (ru) 2021-05-31
KR102196379B1 (ko) 2020-12-30
EP3020190A1 (en) 2016-05-18
JP6261215B2 (ja) 2018-01-17
CN105379274A (zh) 2016-03-02
KR101906686B1 (ko) 2018-10-10
US10567778B2 (en) 2020-02-18

Similar Documents

Publication Publication Date Title
CN105379274B (zh) 图像编码设备和方法以及图像解码设备和方法
JP5872896B2 (ja) パッチベースのサンプリングテクスチャ合成を用いたテクスチャ圧縮の方法及び装置
CN103220531A (zh) 图像信息解码设备和方法、图像信号编码设备和方法及程序
JP6271888B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
EP2723072A1 (en) Video decoding device and video decoding method
JP6656335B2 (ja) 画像符号化装置、画像符号化方法、画像復号装置、画像復号方法、及び、プログラム
JP6834039B2 (ja) 画像符号化装置、画像符号化方法、画像復号装置、画像復号方法、及び、プログラム
JP6419297B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190802