CN114097226A - 基于视频尺寸编码视频的方法和设备,以及基于视频尺寸解码视频的方法和设备 - Google Patents

基于视频尺寸编码视频的方法和设备,以及基于视频尺寸解码视频的方法和设备 Download PDF

Info

Publication number
CN114097226A
CN114097226A CN202080050277.9A CN202080050277A CN114097226A CN 114097226 A CN114097226 A CN 114097226A CN 202080050277 A CN202080050277 A CN 202080050277A CN 114097226 A CN114097226 A CN 114097226A
Authority
CN
China
Prior art keywords
image
current
size
coding unit
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202080050277.9A
Other languages
English (en)
Other versions
CN114097226B (zh
Inventor
郑承洙
朴缗茱
朴慜祐
崔雄一
安尼斯.塔姆塞
崔棋镐
崔娜莱
朴银姬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN114097226A publication Critical patent/CN114097226A/zh
Application granted granted Critical
Publication of CN114097226B publication Critical patent/CN114097226B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

公开了一种根据实施例的视频解码方法,该方法包括:将包括当前块的当前视频的尺寸与参考视频的尺寸进行比较的步骤;根据当前块的运动矢量,从参考视频中选择包括与当前块中的当前样本相对应的参考样本的参考块的步骤;以及基于参考块恢复当前块的步骤。当参考视频的尺寸大于当前视频的尺寸时,相应参考样本在参考视频中彼此隔开与尺寸比较结果相对应的间隔。

Description

基于视频尺寸编码视频的方法和设备,以及基于视频尺寸解 码视频的方法和设备
技术领域
本公开涉及图像编码和解码领域。更具体地,本公开涉及基于图像尺寸的图像编码方法和装置以及图像解码方法和装置。
背景技术
在图像编码和解码中,图像被划分(split)为块,并且每个块通过帧间预测(interprediction)或帧内预测(intra prediction)被预测编码和预测解码。
帧间预测是指通过移除图像之间的时域(temporal redundancy)冗余来压缩图像的方法,其代表性示例是运动估计编解码。运动估计编解码通过使用至少一个参考图像来预测当前图像的块。通过使用特定的评估函数,在预设的搜索范围内搜索与当前块最相似的参考块。基于参考块预测当前块,并且从当前块中减去作为预测的结果而生成的预测块以生成残差块。然后对残差块进行编码。在这种情况下,为了更准确地执行预测,可以对参考图像执行插值以生成小于整数像素单元的子像素单元中的像素,并且可以基于子像素单元中的像素来执行帧间预测。
在诸如H.264高级视频编码(advanced video coding,AVC)和高效视频编码(highefficiency video coding,HEVC)的编解码器中,为了预测当前块的运动矢量,与当前块相邻的先前编码的块或者包括在先前编码图像中的块的运动矢量被用作当前块的预测运动矢量。作为当前块的运动矢量和预测运动矢量之间的差的差分运动矢量通过特定方法被信令通知到解码器侧。
发明内容
技术问题
根据实施例的图像编码方法和装置以及图像解码方法和装置的技术目标是通过考虑图像的尺寸对图像进行编码和解码来提高重构的图像的质量。
解决问题的技术方案
根据实施例的图像解码方法包括:将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;根据当前块的运动矢量,在参考图像中选择与当前块中的当前样本(sample)相对应的参考样本;以及基于参考样本重构当前块,其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
有益效果
根据实施例的图像编码方法和装置以及图像解码方法和装置可以通过考虑图像的尺寸来对图像进行编码和解码,从而提高重构的图像的质量。
应当注意,根据实施例的图像编码方法和装置以及图像解码方法和装置可以实现的效果不限于上述效果,并且根据以下描述中,未提及的其他效果对于本领域普通技术人员将是清楚的。
附图说明
为了更好地理解本文所参考的附图,提供了对每个附图的简要描述。
图1是根据实施例的图像解码装置的框图。
图2是根据实施例的图像编码装置的框图。
图3示出了根据实施例的通过划分当前编码单元来确定至少一个编码单元的过程。
图4示出了根据实施例的通过划分非正方形编码单元来确定至少一个编码单元的过程。
图5示出了根据实施例的基于块形状信息和划分形状模式信息中的至少一个来划分编码单元的过程。
图6示出了根据实施例的从奇数个编码单元当中确定特定编码单元的方法。
图7示出了根据实施例的、当图像解码装置通过划分当前编码单元来确定多个编码单元时,处理多个编码单元的顺序。
图8示出了根据实施例的、当编码单元不能以特定顺序被处理时,确定当前编码单元将被划分为奇数个编码单元的过程。
图9示出了根据实施例的、通过划分第一编码单元来确定至少一个编码单元的过程。
图10示出了根据实施例的、当在第一编码单元被划分时确定的、具有非正方形形状的第二编码单元满足特定条件时,第二编码单元可被划分为的形状受到限制。
图11示出了根据实施例的、当划分形状模式信息指示正方形编码单元不被划分为四个正方形编码单元时,划分正方形编码单元的过程。
图12示出了根据实施例的、多个编码单元之间的处理顺序可以根据划分编码单元的过程而变化。
图13示出了根据实施例的、当编码单元被递归地划分来确定多个编码单元时,随着编码单元的形状和尺寸改变来确定编码单元的深度的过程。
图14示出了根据实施例的、可基于编码单元的形状和尺寸确定的深度,以及用于区分编码单元的部分索引(part indexe,PID)。
图15示出了根据实施例的、基于包括在图片(picture)中的多个预设数据单元来确定多个编码单元。
图16示出了根据实施例的、当编码单元可以被划分为的形状的组合对于每个图片是不同的时,可以为每个图片确定的编码单元。
图17示出了根据实施例的、可以基于可以被表示为二进制码的划分形状模式信息来确定的编码单元的各种形状。
图18示出了根据实施例的、可以基于可以被表示为二进制码的划分形状模式信息来确定的编码单元的其他形状。
图19是执行环路(loop)滤波的图像编码和解码系统的框图。
图20是示出根据实施例的图像解码装置的配置的框图。
图21是示出具有各种形状中的任一个的图像序列的图。
图22是示出与当前块相关的相邻块的位置的图。
图23是示出候选列表的表。
图24示出了当参考图像的尺寸与当前图像的尺寸相同时选择参考样本的方法。
图25示出了当参考图像的尺寸不同于当前图像的尺寸时选择参考样本的方法。
图26是示出根据当前图像和参考图像之间的尺寸比的n抽头滤波器的滤波器系数的表。
图27A是用于描述通过对参考样本进行滤波来生成经滤波的样本的方法的图。
图27B是用于描述通过对参考样本进行滤波来生成经滤波的样本的方法的图。
图27C是用于描述通过对参考样本进行滤波来生成经滤波的样本的方法的图。
图27D是用于描述通过对参考样本进行滤波来生成经滤波的样本的方法的图。
图28是用于描述当参考图像的尺寸不同于当前图像的尺寸时,生成预测样本的方法的图。
图29是示出用于对图28的参考样本进行滤波的n抽头滤波器的滤波器系数的表。
图30是根据实施例的用于描述图像解码方法的流程图。
图31是示出根据实施例的图像编码装置的配置的框图。
图32是根据实施例的用于描述图像编码方法的流程图。
具体实施方式
根据实施例的图像解码方法包括:将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;根据当前块的运动矢量,在参考图像中选择与当前块中的当前样本相对应的参考样本;以及基于参考样本重构当前块,其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
当前块的重构可以包括:通过对参考样本应用n抽头滤波器(n是自然数)来生成与参考样本相对应的经滤波的样本;以及从经滤波的样本中确定当前样本的预测样本,其中,根据尺寸比较的结果来选择n抽头滤波器的滤波器系数。
当当前图像的尺寸和参考图像的尺寸相同时,可以不对参考样本应用n抽头滤波器,并且可以从参考样本中确定预测样本。
参考样本的选择可以包括:通过将当前块的运动矢量应用于当前样本当中左上当前样本的位置来确定位置;根据尺寸比较的结果,改变所确定的位置;以及选择与改变后的位置相对应的左上参考样本和与左上参考样本隔开与尺寸比较的结果相对应的间隔的剩余参考样本。
该图像解码方法还可以包括:配置参考图像列表,该参考图像列表包括在当前图像被解码之前被解码的图像当中尺寸等于或大于当前图像的尺寸的图像;以及从包括在参考图像列表中的图像中选择参考图像。
该图像解码方法还可以包括:确定具有与当前图像的尺寸相同的尺寸的图像是否存储在解码图片缓冲器(decoded picture buffer,DPB)中;当具有相同尺寸的图像存储在DPB中时,将包括比当前图像被更早解码的并置图像(collocated image)中的时域块的运动矢量的候选列表配置为候选运动矢量;以及基于从候选列表中包括的候选运动矢量当中选择的候选运动矢量来确定当前块的运动矢量。
当具有与当前图像的尺寸相同的尺寸的图像没有存储在DPB中时,时域块的运动矢量可以不包括在候选列表中。
根据实施例的图像解码装置包括预测解码器,该预测解码器被配置为将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;根据当前块的运动矢量,在参考图像中选择与当前块中的当前样本相对应的参考样本;并且基于参考样本重构当前块,其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
根据实施例的图像编码方法包括:将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;在参考图像中选择与当前块中的当前样本相对应的参考样本;以及对指示参考样本的运动矢量进行编码,其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
根据实施例的图像编码装置包括预测编码器,该预测编码器被配置为将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;在参考图像中选择与当前块中的当前样本相对应的参考样本;并且对指示参考样本的运动矢量进行编码,其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
由于本公开允许各种变化和众多实施例,因此将在附图中示出并在书面描述中详细描述示例性实施例。然而,这并不旨在将本公开限制于特定的实践模式,应当理解,不脱离本公开的精神和技术范围的所有变化、等同和替代都包含在本公开中。
在对实施例的描述中,当认为相关技术的特定详细解释可能不必要地模糊本公开的实质时,省略了这些详细解释。此外,在说明书的描述中使用的数字(例如,第一和第二)仅仅是用于区分一个组件和另一个组件的标识符码。
此外,在说明书中,应当理解,当元件彼此“连接”或“耦合”时,元件可以直接连接或彼此耦合,但是也可以通过其间的中间元件彼此连接或耦合,除非另有说明。
在说明书中,关于被表示为“部分(单元)”或“模块”的组件,两个或更多个组件可以被组合为一个组件、或者一个组件可以根据细分的功能被分为两个或更多个组件。此外,除了其自身的主要功能之外,下文所描述的每个组件还可以执行由另外的组件执行的功能中的一些或全部,并且每个组件的主要功能中的一些可以完全由另外的组件来执行。
此外,本文所使用的术语“图像”或“图片”可以指视频的静止图像或运动图像,即视频本身。
此外,本文所使用的术语“样本”或“信号”是指被分配给图像的采样位置并且要被处理的数据。例如,空间域中图像的像素值或变换域中的变换系数可以是样本。包括一个或多个样本的单元可以被定义为块。
在下文中,将参考图1至图19公开根据实施例的基于树结构的编码单元和变换单元的图像编码方法和装置以及图像解码方法和装置。
图1是根据实施例的图像解码装置100的框图。
图像解码装置100可以包括比特流获得器110和解码器120。比特流获得器110和解码器120可以包括至少一个处理器。此外,比特流获得器110和解码器120可以包括存储将由至少一个处理器执行的指令的存储器。
比特流获得器110可以接收比特流。比特流可以包括通过图像编码装置200的图像编码产生的信息,将在下面对此进行描述。此外,比特流可以从图像编码装置200发送。图像解码装置100可以以有线或无线方式连接到图像编码装置200,并且比特流获得器110可以以有线或无线方式接收比特流。比特流获得器110可以从诸如光学介质或硬盘的存储介质接收比特流。解码器120可以基于从接收到的比特流获得的信息来重构图像。解码器120可以从比特流获得用于重构图像的语法元素。解码器120可以基于语法元素来重构图像。
下面将详细描述图像解码装置100的操作。比特流获得器110可以接收比特流。
图像解码装置100可以执行从比特流获得与编码单元的划分形状模式相对应的bin(二进制字符)串的操作。然后,图像解码装置100可以执行确定编码单元的划分规则的操作。此外,图像解码装置100可以基于与划分形状模式相对应的bin串和划分规则中的至少一个,执行将编码单元划分为多个编码单元的操作。图像解码装置100可以根据编码单元的高宽比来确定作为编码单元所允许尺寸范围的第一范围,以便确定划分规则。图像解码装置100可以根据编码单元的划分形状模式来确定作为编码单元所允许尺寸范围的第二范围,以便确定划分规则。
在下文中,将根据本公开的实施例详细描述对编码单元的划分。
首先,一个图片可以被划分为一个或多个片(slice)或一个或多个区块(tile)。一个片或一个区块可以是一个或多个最大编码单元(编码树单元(coding tree unit,CTU))的序列。根据实施例,一个片可以包括一个或多个区块,并且一个片可以包括一个或多个最大编码单元。可以在图片中确定包括一个区块或多个区块的片。
作为与最大编码单元(CTU)相比的概念,存在最大编码块(编解码树块(codingtree block,CTB))。最大编码块(CTB)表示包括NxN个样本的NxN个块(N是整数)。每个颜色分量可以被划分为一个或多个最大编码块。
当图片具有三个样本阵列(Y、Cr和Cb分量的样本阵列)时,最大编码单元(CTU)包括亮度样本的最大编码块、色度样本的两个相应的最大编码块以及用于对亮度样本和色度样本进行编码的语法结构。当图片是单色图片时,最大编码单元包括单色样本的最大编码块和用于对单色样本进行编码的语法结构。当图片是在根据颜色分量而分离的颜色平面中被编码的图片时,最大编码单元包括用于对图片和图片的样本进行编码的语法结构。
一个最大编码块(CTB)可以被划分为包括MxN个样本的MxN个编码块(M和N是整数)。
当图片具有Y、Cr和Cb分量的样本阵列时,编码单元(CU)包括亮度样本的编码块、色度样本的两个相应的编码块以及用于对亮度样本和色度样本进行编码的语法结构。当图片是单色图片时,编码单元包括单色样本的编码块和用于对单色样本进行编码的语法结构。当图片是在根据颜色分量而分离的颜色平面中被编码的图片时,编码单元包括用于对图片和图片的样本进行编码的语法结构。
如上所述,最大编码块和最大编码单元在概念上彼此区分,并且编码块和编码单元在概念上彼此区分。也就是说,(最大)编码单元是指包括(最大)编码块(其包括相应的样本)和与该(最大)编码块相对应的语法结构的数据结构。然而,因为本领域普通技术人员理解(最大)编码单元或(最大)编码块是指包括特定数量的样本的特定尺寸的块,所以在以下说明书中提及最大编码块和最大编码单元、或者编码块和编码单元,而不进行区分,除非另有说明。
图像可以被划分为最大编码单元(CTU)。每个最大编码单元的尺寸可以基于从比特流获得的信息来确定。每个最大编码单元的形状可以是相同尺寸的正方形形状。然而,实施例不限于此。
例如,可以从比特流中获得关于亮度编码块的最大尺寸的信息。例如,由关于亮度编码块的最大尺寸的信息指示的亮度编码块的最大尺寸可以是4x4、8x8、16x16、32x32、64x64、128x128和256x256中的一个。
例如,可以从比特流中获得关于亮度块尺寸差和可以被划分为两个的亮度编码块的最大尺寸的信息。关于亮度块尺寸差的信息可以指亮度最大编码单元和可以被划分为两个的最大亮度编码块之间的尺寸差。因此,当从比特流获得的关于可以被划分为两个的亮度编码块的最大尺寸的信息和关于亮度块尺寸差的信息彼此结合时,可以确定亮度最大编码单元的尺寸。色度最大编码单元的尺寸可以通过使用亮度最大编码单元的尺寸来确定。例如,当根据颜色格式,Y:Cb:Cr比为4:2:0时,色度块的尺寸可以是亮度块的尺寸的一半,并且色度最大编码单元的尺寸可以是亮度最大编码单元的尺寸的一半。
根据实施例,因为关于可二元划分的亮度编码块的最大尺寸的信息是从比特流中获得的,所以可以可变地确定可二元划分的亮度编码块的最大尺寸。相反地,可三元划分的亮度编码块的最大尺寸可以是固定的。例如,在I图片中可三元划分的亮度编码块的最大尺寸可以是32x32,而在P图片或B图片中可三元划分的亮度编码块的最大尺寸可以是64x64。
此外,最大编码单元可以基于从比特流获得的划分形状模式信息被分层地(hierarchically)划分为编码单元。可以从比特流中获得指示是否执行四元划分(quadsplitting)的信息、指示是否执行多元划分(multi-splitting)的信息、划分方向信息和划分类型信息中的至少一个来作为划分形状模式信息。
例如,指示是否执行四元划分的信息可以指示当前编码单元是否被四元划分(QUAD_SPLIT)。
当当前编码单元未被四元划分时,指示是否执行多元划分的信息可以指示当前编码单元是否不再被划分(NO_SPLIT)或是否被二元划分/三元划分。
当当前编码单元被二元划分或三元划分时,划分方向信息指示当前编码单元在水平方向和垂直方向之一上被划分。
当当前编码单元在水平方向或垂直方向上被划分时,划分类型信息指示当前编码单元被二元划分或三元划分。
可以根据划分方向信息和划分类型信息来确定当前编码单元的划分模式。当前编码单元在水平方向上被二元划分时的划分模式可以被确定为二元水平划分模式(SPLIT_BT_HOR),当前编码单元在水平方向上被三元划分时的划分模式可以被确定为三元水平划分模式(SPLIT_TT_HOR),当前编码单元在垂直方向上被二元划分时的划分模式可以被确定为二元垂直划分模式(SPLIT_BT_VER),并且当前编码单元在垂直方向上被三元划分时的划分模式可以被确定为三元垂直划分模式(SPLIT_TT_VER)。
图像解码装置100可以从比特流中获得来自一个bin串的划分形状模式信息。由图像解码装置100接收到的比特流的形式可以包括固定长度的二进制码、一元码、截断一元码、预定的二进制码等。bin串是二进制数中的信息。bin串可以包括至少一个比特。图像解码装置100可以基于划分规则获得与bin串相对应的划分形状模式信息。图像解码装置100可以基于一个bin串来确定是否对编码单元进行四元划分、是否对编码单元进行划分、划分方向和划分类型。
编码单元可以小于或等于最大编码单元。例如,因为最大编码单元是具有最大尺寸的编码单元,所以最大编码单元是编码单元之一。当关于最大编码单元的划分形状模式信息指示没有执行划分时,在最大编码单元中确定的编码单元具有与最大编码单元相同的尺寸。当关于最大编码单元的划分形状模式信息指示执行了划分时,最大编码单元可以被划分为编码单元。此外,当关于编码单元的划分形状模式信息指示执行了划分时,编码单元可以被划分为更小的编码单元。然而,对图像的划分不限于此,并且可以不区分最大编码单元和编码单元。将参考图3至图16更详细地描述对编码单元的划分。
此外,可以从编码单元中确定用于预测的一个或多个预测块。预测块可以等于或小于编码单元。此外,可以从编码单元中确定用于变换的一个或多个变换块。变换块可以等于或小于编码单元。
变换块和预测块的形状和尺寸可能彼此不相关。
在另一个实施例中,可以通过使用编码单元作为预测单元来执行预测。此外,可以通过使用编码单元作为变换块来执行变换。
将参考图3至图16更详细地描述对编码单元的划分。本公开的当前块和相邻块可以指示最大编码单元、编码单元、预测块和变换块之一。此外,当前块或当前编码单元是当前正被解码或编码的块或者当前正被划分的块。相邻块可以是在当前块之前被重构的块。相邻块可以在空域上或时域上与当前块相邻。相邻块可以位于当前块的左下、左边、左上、上部、右上、右边、右下之一。
图3示出了根据实施例的图像解码装置100通过划分当前编码单元来确定至少一个编码单元的过程。
块形状可以包括4Nx4N、4Nx2N、2Nx4N、4NxN、Nx4N、32NxN、Nx32N、16NxN、Nx16N、8NxN或Nx8N。这里,N可以是正整数。块形状信息是指示编码单元的形状、方向、宽高比和尺寸中的至少一个的信息。
编码单元的形状可以包括正方形和非正方形。当编码单元的宽度和高度相同时(即,当编码单元的块形状为4Nx4N时),图像解码装置100可以将编码单元的块形状信息确定为正方形。图像解码装置100可以将编码单元的形状确定为非正方形。
当编码单元的宽度和高度彼此不同时(即,当编码单元的块形状是4Nx2N、2Nx4N、4NxN、Nx4N、32NxN、Nx32N、16NxN、Nx16N、8NxN或Nx8N时),图像解码装置100可以将编码单元的块形状信息确定为非正方形。当编码单元的形状是非正方形时,图像解码装置100可以将编码单元的块形状信息当中的宽高比确定为1:2、2:1、1:4、4:1:8、8:1、1:16、16:1、1:32和32:1中的至少一个。此外,图像解码装置100可以基于编码单元的宽度的长度和高度的长度来确定编码单元是在水平方向上还是在垂直方向上。此外,图像解码装置100可以基于编码单元的宽度的长度、高度的长度和面积中的至少一个来确定编码单元的尺寸。
根据实施例,图像解码装置100可以通过使用块形状信息来确定编码单元的形状,并且可以通过使用划分形状模式信息来确定编码单元的划分方法。也就是说,由划分形状模式信息指示的编码单元划分方法可以基于由图像解码装置100使用的块形状信息所指示的块形状来确定。
图像解码装置100可以从比特流获得划分形状模式信息。然而,实施例不限于此,并且图像解码装置100和图像编码装置200可以基于块形状信息来确定预先约定的划分形状模式信息。图像解码装置100可以确定关于最大编码单元或最小编码单元的预先约定的划分形状模式信息。例如,图像解码装置100可以将关于最大编码单元的划分形状模式信息确定为四元划分。此外,图像解码装置100可以将关于最小编码单元的划分形状模式信息确定为“不执行划分”。特别地,图像解码装置100可以将最大编码单元的尺寸确定为256x256。图像解码装置100可以将预先约定的划分形状模式信息确定为四元划分。四元划分是其中编码单元的宽度和高度两者都被一分为二的划分形状模式。图像解码装置100可以基于划分形状模式信息,从256x256尺寸的最大编码单元获得128x128尺寸的编码单元。此外,图像解码装置100可以将最小编码单元的尺寸确定为4x4。图像解码装置100可以获得指示相对于最小编码单元“不执行划分”的划分形状模式信息。
根据实施例,图像解码装置100可以使用指示当前编码单元具有正方形形状的块形状信息。例如,图像解码装置100可以基于划分形状模式信息来确定是否划分正方形编码单元、是否垂直划分正方形编码单元、是否水平划分正方形编码单元、或者是否将正方形编码单元划分为四个编码单元。参考图3,当当前编码单元300的块形状信息指示正方形形状时,解码器120可以基于指示不执行划分的划分形状模式信息,不划分具有与当前编码单元300相同尺寸的编码单元310a、或者可以确定基于指示特定划分方法的划分形状模式信息划分出的编码单元310b、310c、310d、310e或310f。
参考图3,根据实施例,图像解码装置100可以基于指示在垂直方向上执行划分的划分形状模式信息,来确定通过在垂直方向上划分当前编码单元300而获得的两个编码单元310b。图像解码装置100可以基于指示在水平方向上执行划分的划分形状模式信息,来确定通过在水平方向上划分当前编码单元300而获得的两个编码单元310c。图像解码装置100可以基于指示在垂直方向和水平方向上执行划分的划分形状模式信息,来确定通过在垂直方向和水平方向上划分当前编码单元300而获得的四个编码单元310d。根据实施例,图像解码装置100可以基于指示在垂直方向上执行三元划分的划分形状模式信息,来确定通过在垂直方向上划分当前编码单元300而获得的三个编码单元310e。图像解码装置100可以基于指示在水平方向上执行三元划分的划分形状模式信息,来确定通过在水平方向上划分当前编码单元300而获得的三个编码单元310f。然而,对正方形编码单元的划分方法不限于上述方法,并且划分形状模式信息可以指示各种方法。下面将通过各种实施例详细描述划分正方形编码单元的特定划分方法。
图4示出了根据实施例的图像解码装置100通过划分非正方形编码单元来确定至少一个编码单元的过程。
根据实施例,图像解码装置100可以使用指示当前编码单元具有非正方形形状的块形状信息。图像解码装置100可以基于划分形状模式信息,来确定是否不划分非正方形当前编码单元或者是否通过使用特定划分方法划分非正方形当前编码单元。参考图4,当当前编码单元400或450的块形状信息指示非正方形形状时,图像解码装置100可以基于指示不执行划分的划分形状模式信息来确定与当前编码单元400或450具有相同尺寸的编码单元410或460、或者可以确定基于指示特定划分方法的划分形状模式信息而划分出的编码单元420a和420b、430a至430c、470a和470b、或480a至480c。下面将通过各种实施例详细描述划分非正方形编码单元的特定划分方法。
根据实施例,图像解码装置100可以通过使用划分形状模式信息来确定编码单元的划分方法,并且在这种情况下,划分形状模式信息可以指示通过划分编码单元而生成的一个或多个编码单元的数量。参考图4,当划分形状模式信息指示将当前编码单元400或450划分为两个编码单元时,图像解码装置100可以通过基于划分形状模式信息划分当前编码单元400或450来确定包括在当前编码单元400或450中的两个编码单元420a和420b或470a和470b。
根据实施例,当图像解码装置100基于划分形状模式信息划分非正方形当前编码单元400或450时,图像解码装置100可以考虑非正方形当前编码单元400或450的长边的位置来划分当前编码单元。例如,考虑到当前编码单元400或450的形状,图像解码装置100可以通过在划分当前编码单元400或450的长边的方向上划分当前编码单元400或450来确定多个编码单元。
根据实施例,当划分形状模式信息指示将编码单元划分(三元划分)为奇数个块时,图像解码装置100可以确定包括在当前编码单元400或450中的奇数个编码单元。例如,当划分形状模式信息指示将当前编码单元400或450划分为三个编码单元时,图像解码装置100可以将当前编码单元400或450划分为三个编码单元430a、430b和430c或者480a、480b和480c。
根据实施例,当前编码单元400或450的宽高比可以是4∶1或1∶4。当宽高比为4∶1时,块形状信息可以指示水平方向,因为宽度的长度比高度的长度长。当宽高比为1∶4时,块形状信息可以指示垂直方向,因为宽度的长度比高度的长度短。图像解码装置100可以基于划分形状模式信息,来确定将当前编码单元划分为奇数个块。此外,图像解码装置100可以基于当前编码单元400或450的块形状信息来确定当前编码单元400或450的划分方向。例如,当当前编码单元400在垂直方向上时,图像解码装置100可以通过在水平方向上划分当前编码单元400来确定编码单元430a、430b和430c。此外,当当前编码单元450在水平方向上时,图像解码装置100可以通过在垂直方向上划分当前编码单元450来确定编码单元480a、480b和480c。
根据实施例,图像解码装置100可以确定包括在当前编码单元400或450中的奇数个编码单元,并且不是所有确定的编码单元都可以具有相同的尺寸。例如,所确定的奇数个编码单元430a、430b和430c或480a、480b和480c中的特定编码单元430b或480b可以具有与其他编码单元430a和430c或480a和480c不同的尺寸。也就是说,可以通过划分当前编码单元400或450来确定的编码单元可以具有多种尺寸,并且在一些情况下,奇数个编码单元430a、430b和430c或480a、480b和480c中的所有编码单元可以具有不同的尺寸。
根据实施例,当划分形状模式信息指示将编码单元划分为奇数个块时,图像解码装置100可以确定包括在当前编码单元400或450中的奇数个编码单元,并且此外,可以对通过划分当前编码单元400或450而生成的奇数个编码单元中的至少一个施加特定的限制。参考图4,图像解码装置100可以设置关于位于三个编码单元430a、430b和430c或480a、480b和480c当中的中心的编码单元430b或480b(其是在当前编码单元400或450被划分为不同于其他编码单元430a和430c或480a和480c时生成的)的解码过程。例如,与其他编码单元430a和430c或480a和480c不同,图像解码装置100可以限制中心位置处的编码单元430b或480b不再被划分或仅被划分特定次数。
图5示出了根据实施例的图像解码装置100基于块形状信息和划分形状模式信息中的至少一个来划分编码单元的过程。
根据实施例,图像解码装置100可以基于块形状信息和划分形状模式信息中的至少一个,来确定是否将正方形第一编码单元500划分为编码单元。根据实施例,当划分形状模式信息指示在水平方向上划分第一编码单元500时,图像解码装置100可以通过在水平方向上划分第一编码单元500来确定第二编码单元510。根据实施例使用的第一编码单元、第二编码单元和第三编码单元是用于理解划分编码单元之前和之后的关系的术语。例如,可以通过划分第一编码单元来确定第二编码单元,并且可以通过划分第二编码单元来确定第三编码单元。应当理解,第一编码单元、第二编码单元和第三编码单元的关系遵循上述描述。
根据实施例,图像解码装置100可以基于划分形状模式信息来确定是否将所确定的第二编码单元510划分为编码单元。参考图5,图像解码装置100基于划分形状模式信息,可以或者可以不将通过划分第一编码单元500而确定的非正方形第二编码单元510划分为一个或多个第三编码单元520a、520b、520c和520d。图像解码装置100可以获得划分形状模式信息,并且可以通过基于所获得的划分形状模式信息划分第一编码单元500来获得多个各种形状的第二编码单元(例如,510),并且可以通过基于划分形状模式信息使用第一编码单元500的划分方法来划分第二编码单元510。根据实施例,当基于第一编码单元500的划分形状模式信息将第一编码单元500划分为第二编码单元510时,也可以基于第二编码单元510的划分形状模式信息将第二编码单元510划分为第三编码单元(例如,520a或520b、520c和520d)。也就是说,可以基于每个编码单元的划分形状模式信息来递归地划分编码单元。因此,可以通过划分非正方形编码单元来确定正方形编码单元,并且可以通过递归地划分正方形编码单元来确定非正方形编码单元。
参考图5,通过划分非正方形第二编码单元510确定的奇数个第三编码单元520b、520c和520d中的特定编码单元(例如,位于中心位置的编码单元或正方形编码单元)可以被递归地划分。根据实施例,奇数个第三编码单元520b、520c和520d当中的非正方形第三编码单元520b可以在水平方向上被划分为多个第四编码单元。多个第四编码单元530a、530b、530c和530d中的非正方形第四编码单元530b或530d可以被重新划分为多个编码单元。例如,非正方形第四编码单元530b或530d可以被重新划分为奇数个编码单元。下面将通过各种实施例描述可以用于递归地划分编码单元的方法。
根据实施例,图像解码装置100可以基于划分形状模式信息将第三编码单元520a、520b、520c和520d中的每一个划分为编码单元。此外,图像解码装置100可以基于划分形状模式信息来确定不划分第二编码单元510。根据实施例,图像解码装置100可以将非正方形第二编码单元510划分为奇数个第三编码单元520b、520c和520d。图像解码装置100可以对奇数个第三编码单元520b、520c和520d中的特定第三编码单元施加特定限制。例如,图像解码装置100可以限制奇数个第三编码单元520b、520c和520d当中的中心位置处的第三编码单元520c不再被划分或者被划分可设置的次数。
参考图5,图像解码装置100可以限制处于包括在非正方形第二编码单元510中的奇数个第三编码单元520b、520c和520d当中的中心位置处的第三编码单元520c不再被划分、通过使用特定划分方法被划分(例如,仅被划分为四个编码单元或者通过使用第二编码单元510的划分方法被划分)、或者仅被划分特定次数(例如,仅被划分n次(其中n>0))。然而,对中心位置处的第三编码单元520c的限制不限于上述示例,并且可以包括对中心位置处的第三编码单元520c进行不同于对其他的第三编码单元520b和520d的解码的各种限制。
根据实施例,图像解码装置100可以从当前编码单元中的特定位置获得用于划分当前编码单元的划分形状模式信息。
图6示出了根据实施例的其中图像解码装置100从奇数个编码单元当中确定特定编码单元的方法。
参考图6,可以从包括在当前编码单元600或650中的多个样本当中的特定位置的样本(例如,中心位置的样本640或690)获得当前编码单元600或650的划分形状模式信息。然而,当前编码单元600中可以从其获得至少一条划分形状模式信息的特定位置不限于图6中的中心位置,并且可以包括当前编码单元600中包括的各种位置(例如,顶部、底部、左边、右边、左上、左下、右上、右下位置等)。图像解码装置100可以从特定位置获得划分形状模式信息,并且可以确定将当前编码单元划分或不划分为各种形状和各种尺寸的编码单元。
根据实施例,当当前编码单元被划分为特定数量的编码单元时,图像解码装置100可以选择编码单元之一。可以使用各种方法来选择多个编码单元中的一个,将在下面通过各种实施例对此进行描述。
根据实施例,图像解码装置100可以将当前编码单元划分为多个编码单元,并且可以确定特定位置处的编码单元。
根据实施例,图像解码装置100可以使用指示奇数个编码单元的位置的信息来从奇数个编码单元当中确定中心位置处的编码单元。参考图6,图像解码装置100可以通过划分当前编码单元600或当前编码单元650来确定奇数个编码单元620a、620b和620c或奇数个编码单元660a、660b和660c。图像解码装置100可以通过使用关于奇数个编码单元620a、620b和620c或奇数个编码单元660a、660b和660c的位置的信息来确定中间编码单元620b或中间编码单元660b。例如,图像解码装置100可以通过基于指示包括在编码单元620a、620b和620c中的特定样本的位置的信息来确定编码单元620a、620b和620c的位置,从而确定中心位置的编码单元620b。详细地,图像解码装置100可以通过基于指示编码单元620a、620b和620c的左上样本630a、630b和630c的位置的信息来确定编码单元620a、620b和620c的位置,从而确定中心位置处的编码单元620b。
根据实施例,指示分别包括在编码单元620a、620b和620c中的左上样本630a、630b和630c的位置的信息可以包括关于图片中编码单元620a、620b和620c的位置或坐标的信息。根据实施例,指示分别包括在编码单元620a、620b和620c中的左上样本630a、630b和630c的位置的信息可以包括指示包括在当前编码单元600中的编码单元620a、620b和620c的宽度或高度的信息,并且该宽度或高度可以对应于指示图片中编码单元620a、620b和620c的坐标之间的差的信息。也就是说,图像解码装置100可以通过直接使用关于图片中编码单元620a、620b和620c的位置或坐标的信息、或者通过使用关于编码单元的宽度或高度的信息(其与坐标之间的差值相对应)来确定中心位置处的编码单元620b。
根据实施例,指示上部编码单元620a的左上样本630a的位置的信息可以包括坐标(xa,ya),指示中间编码单元620b的左上样本630b的位置的信息可以包括坐标(xb,yb),并且指示下部编码单元620c的左上样本630c的位置的信息可以包括坐标(xc,yc)。图像解码装置100可以通过使用分别包括在编码单元620a、620b和620c中的左上样本630a、630b和630c的坐标来确定中间编码单元620b。例如,当左上样本630a、630b和630c的坐标以升序或降序排序时,中心位置处的包括样本630b坐标(xb,yb)的编码单元620b可以被确定为通过划分当前编码单元600所确定的编码单元620a、620b和620c当中的中心位置处的编码单元。然而,指示左上样本630a、630b和630c的位置的坐标可以包括指示图片中绝对位置的坐标、或者可以使用指示中间编码单元620b的左上样本630b相对于上部编码单元620a的左上样本630a的相对位置的坐标(dxb,dyb)和指示下部编码单元620c的左上样本630c相对于上部编码单元620a的左上样本630a的相对位置的坐标(dxc,dyc)。通过使用包括在编码单元中的样本的坐标作为指示样本的位置的信息来确定特定位置处的编码单元的方法不限于上述方法,并且可以包括能够使用样本的坐标的各种算术方法。
根据实施例,图像解码装置100可以将当前编码单元600划分为多个编码单元620a、620b和620c,并且可以基于特定标准选择编码单元620a、620b和620c之一。例如,图像解码装置100可以从编码单元620a、620b和620c当中选择具有不同于其他编码单元的尺寸的编码单元620b。
根据实施例,图像解码装置100可以通过使用坐标(xa,ya)、坐标(xb,yb)和坐标(xc,yc)来确定编码单元620a、620b和620c中的每一个的宽度或高度,其中,坐标(xa,ya)是指示上部编码单元620a的左上样本630a的位置的信息,坐标(xb,yb)是指示中间编码单元620b的左上样本630b的位置的信息,坐标(xc,yc)是指示下部编码单元620c的左上样本630c的位置的信息。图像解码装置100可以通过使用指示编码单元620a、620b和620c的位置的坐标(xa、ya)、(xb、yb)和(xc、yc)来确定编码单元620a、620b和620c的相应尺寸。根据实施例,图像解码装置100可以将上部编码单元620a的宽度确定为当前编码单元600的宽度。图像解码装置100可以将上部编码单元620a的高度确定为yb-ya。根据实施例,图像解码装置100可以将中间编码单元620b的宽度确定为当前编码单元600的宽度。图像解码装置100可以将中间编码单元620b的高度确定为yc-yb。根据实施例,图像解码装置100可以通过使用当前编码单元600的宽度或高度以及上部编码单元620a和中间编码单元620b的宽度或高度来确定下部编码单元620c的宽度或高度。图像解码装置100可以基于所确定的编码单元620a、620b和620c的宽度和高度来确定具有与其他编码单元的尺寸不同的尺寸的编码单元。参考图6,图像解码装置100可以确定具有与上部编码单元620a和下部编码单元620c的尺寸不同的尺寸的中间编码单元620b作为特定位置的编码单元。然而,其中图像解码装置100确定具有不同于其他编码单元的尺寸的编码单元的上述过程仅对应于通过使用基于样本的坐标而确定的编码单元的尺寸来确定特定位置处的编码单元的示例,因此可以使用通过比较基于特定样本的坐标而确定的编码单元的尺寸来确定特定位置处的编码单元的各种过程。
图像解码装置100可以通过使用作为指示左边编码单元660a的左上样本670a的位置的信息的坐标(xd,yd)、作为指示中间编码单元660b的左上样本670b的位置的信息的坐标(xe,ye)以及作为指示右边编码单元660c的左上样本670c的位置的信息的坐标(xf,yf)来确定编码单元660a、660b和660c中的每一个的宽度或高度。图像解码装置100可以通过使用指示编码单元660a、660b和660c的位置的坐标(xd、yd)、(xe、ye)和(xf、yf)来确定编码单元660a、660b和660c的相应尺寸。
根据实施例,图像解码装置100可以将左边编码单元660a的宽度确定为xe-xd。图像解码装置100可以将左边编码单元660a的高度确定为当前编码单元650的高度。根据实施例,图像解码装置100可以将中间编码单元660b的宽度确定为xf-xe。图像解码装置100可以将中间编码单元660b的高度确定为当前编码单元650的高度。根据实施例,图像解码装置100可以通过使用当前编码单元650的宽度或高度以及左边编码单元660a和中间编码单元660b的宽度或高度来确定右边编码单元660c的宽度或高度。图像解码装置100可以基于所确定的编码单元660a、660b和660c的宽度和高度来确定具有与其他编码单元的尺寸不同的尺寸的编码单元。参考图6,图像解码装置100可以将具有不同于左边编码单元660a和右边编码单元660c的尺寸的中间编码单元660b确定为特定位置的编码单元。然而,其中图像解码装置100确定具有不同于其他编码单元的尺寸的编码单元的上述过程仅对应于通过使用基于样本的坐标而确定的编码单元的尺寸来确定特定位置处的编码单元的示例,因此可以使用通过比较基于特定样本的坐标而确定的编码单元的尺寸来确定特定位置处的编码单元的各种过程。
然而,被考虑用于确定编码单元的位置的样本的位置不限于上述左上位置,并且可以使用关于包括在编码单元中的样本的任意位置的信息。
根据实施例,图像解码装置100可以通过考虑当前编码单元的形状,从通过划分当前编码单元而确定的奇数个编码单元当中选择特定位置处的编码单元。例如,当当前编码单元具有宽度长于高度的非正方形形状时,图像解码装置100可以确定水平方向上特定位置处的编码单元。也就是说,图像解码装置100可以确定水平方向上不同位置处的编码单元中的一个,并且可以对该编码单元施加限制。当当前编码单元具有高度长于宽度的非正方形形状时,图像解码装置100可以确定垂直方向上特定位置处的编码单元。也就是说,图像解码装置100可以确定垂直方向上不同位置处的编码单元中的一个,并且可以对该编码单元施加限制。
根据实施例,图像解码装置100可以使用指示偶数个编码单元的相应位置的信息,来从偶数个编码单元当中确定特定位置处的编码单元。图像解码装置100可以通过划分(二元划分)当前编码单元来确定偶数个编码单元,并且可以通过使用关于偶数个编码单元的位置的信息来确定特定位置处的编码单元。与此相关的操作可以对应于从奇数个编码单元当中确定特定位置(例如,中心位置)处的编码单元的操作,已经在上面参考图6对此进行了详细描述,因此将省略对此的详细描述。
根据实施例,当非正方形当前编码单元被划分为多个编码单元时,可以在划分操作中使用关于特定位置处的编码单元的特定信息,以从多个编码单元当中确定特定位置处的编码单元。例如,图像解码装置100可以在划分操作中使用存储在中间编码单元中包括的样本中的块形状信息和划分形状模式信息中的至少一个,以从通过划分当前编码单元而确定的多个编码单元当中确定中心位置处的编码单元。
参考图6,图像解码装置100可以基于划分形状模式信息将当前编码单元600划分为多个编码单元620a、620b和620c,并且可以从多个编码单元620a、620b和620c当中确定中心位置处的编码单元620b。此外,考虑到从其获得划分形状模式信息的位置,图像解码装置100可以确定中心位置处的编码单元620b。也就是说,可以从当前编码单元600的中心位置处的样本640获得当前编码单元600的划分形状模式信息,并且当当前编码单元600基于划分形状模式信息被划分为多个编码单元620a、620b和620c时,包括样本640的编码单元620b可以被确定为中心位置处的编码单元。然而,用于确定中心位置处的编码单元的信息不限于划分形状模式信息,各种类型的信息可以用于确定中心位置处的编码单元。
根据实施例,可以从包括在待确定的编码单元中的特定样本中获得用于识别特定位置处的编码单元的特定信息。参考图6,图像解码装置100可以使用从当前编码单元600中的特定位置处的样本(例如,当前编码单元600的中心位置处的样本)获得的划分形状模式信息,来从通过划分当前编码单元600而确定的多个编码单元620a、620b和620c当中确定特定位置处的编码单元(例如,多个划分出的编码单元当中中心位置处的编码单元)。也就是说,图像解码装置100可以通过考虑当前编码单元600的块形状来确定特定位置处的样本,可以从通过划分当前编码单元600而确定的多个编码单元620a、620b和620c当中确定包括从其可以获得特定信息(例如,划分形状模式信息)的样本的编码单元620b,并且可以对编码单元620b施加特定限制。参考图6,根据实施例,在解码过程中,图像解码装置100可以将当前编码单元600的中心位置处的样本640确定为可以从其获得特定信息的样本,并且可以对包括样本640的编码单元620b施加特定限制。然而,可以从其获得特定信息的样本的位置不限于上述位置,并且可以包括为了限制而确定的编码单元620b中包括的样本的任意位置。
根据实施例,可以基于当前编码单元600的形状来确定从其获得特定信息的样本的位置。根据实施例,块形状信息可以指示当前编码单元是正方形形状还是非正方形形状,并且可以基于形状来确定从其获得特定信息的样本的位置。例如,图像解码装置100可以通过使用关于当前编码单元的宽度的信息和关于当前编码单元的高度的信息中的至少一个,来将位于用于将当前编码单元的宽度和高度中的至少一个划分为两半的边界处的样本确定为可以从其获得特定信息的样本。作为另一个示例,当当前编码单元的块形状信息指示非正方形形状时,图像解码装置100可以将与用于将当前编码单元的长边划分为两半的边界相邻的样本之一确定为可以从其获得特定信息的样本。
根据实施例,当当前编码单元被划分为多个编码单元时,图像解码装置100可以使用划分形状模式信息来从多个编码单元当中确定特定位置处的编码单元。根据实施例,图像解码装置100可以从编码单元中特定位置处的样本获得划分形状模式信息,并且可以通过使用从多个编码单元的每一个中的特定位置的样本获得的划分形状模式信息,来划分通过划分当前编码单元而生成的多个编码单元。也就是说,可以基于从每个编码单元中的特定位置处的样本获得的划分形状模式信息递归地划分编码单元。上面已经参考图5描述了递归地划分编码单元的过程,因此将省略对其的详细描述。
根据实施例,图像解码装置100可以通过划分当前编码单元来确定一个或多个编码单元,并且可以基于特定块(例如,当前编码单元)来确定解码一个或多个编码单元的顺序。
图7示出了根据实施例的、当图像解码装置100通过划分当前编码单元来确定多个编码单元时,处理多个编码单元的顺序。
根据实施例,基于划分形状模式信息,图像解码装置100可以通过在垂直方向上划分第一编码单元700来确定第二编码单元710a和710b、可以通过在水平方向上划分第一编码单元700来确定第二编码单元730a和730b、或者可以通过在垂直方向和水平方向上划分第一编码单元700来确定第二编码单元750a、750b、750c和750d。
参考图7,图像解码装置100可以确定以水平方向顺序710c处理通过在垂直方向上划分第一编码单元700而确定的第二编码单元710a和710b。图像解码装置100可以确定以垂直方向顺序730c处理通过在水平方向上划分第一编码单元700而确定的第二编码单元730a和730b。图像解码装置100可以根据处理一行中的编码单元然后再处理下一行中的编码单元的特定顺序(例如,光栅扫描顺序或Z扫描顺序750e)来确定通过在垂直方向和水平方向上划分第一编码单元700而确定的第二编码单元750a、750b、750c和750d。
根据实施例,图像解码装置100可以递归地划分编码单元。参考图7,图像解码装置100可以通过划分第一编码单元700来确定多个编码单元710a和710b、730a和730b或者750a、750b、750c和750d,并且可以递归地划分所确定的多个编码单元710a、710b、730a、730b、750a、750b、750c和750d中的每一个。多个编码单元710a和710b、730a和730b或750a、750b、750c和750d的划分方法可以对应于第一编码单元700的划分方法。因此,多个编码单元710a和710b、730a和730b或者750a、750b、750c和750d中的每一个可以独立地被划分为多个编码单元。参考图7,图像解码装置100可以通过在垂直方向上划分第一编码单元700来确定第二编码单元710a和710b,并且可以确定独立地划分或者不划分第二编码单元710a和710b中的每一个。
根据实施例,图像解码装置100可以通过在水平方向上划分左边第二编码单元710a来确定第三编码单元720a和720b,并且可以不划分右边第二编码单元710b。
根据实施例,可以基于划分编码单元的过程来确定编码单元的处理顺序。换句话说,划分出的编码单元的处理顺序可以基于紧接在被划分之前的编码单元的处理顺序来确定。图像解码装置100可以独立于右边第二编码单元710b,确定通过划分左边第二编码单元710a而确定的第三编码单元720a和720b的处理顺序。因为第三编码单元720a和720b是通过在水平方向上划分左边第二编码单元710a来确定的,所以可以以垂直方向顺序720c处理第三编码单元720a和720b。因为以水平方向顺序710c处理了左边编码单元710a和右边第二编码单元710b,所以可以在以垂直方向顺序720c处理包括在左边第二编码单元710a中的第三编码单元720a和720b之后处理右边第二编码单元710b。基于被划分前的编码单元来确定编码单元的处理顺序的过程不限于上述示例,并且可以使用各种方法来以特定顺序独立地处理被划分并被确定为各种形状的编码单元。
图8示出了根据实施例的、其中当编码单元不能以特定顺序被处理时,图像解码装置100确定当前编码单元将被划分为奇数个编码单元的过程。
根据实施例,图像解码装置100可以基于所获得的划分形状模式信息来确定当前编码单元将被划分为奇数个编码单元。参考图8,正方形第一编码单元800可以被划分为非正方形第二编码单元810a和810b,并且第二编码单元810a和810b可以被独立地划分为第三编码单元820a和820b以及820c、820d和820e。根据实施例,图像解码装置100可以通过在水平方向上划分左边第二编码单元810a来确定多个第三编码单元820a和820b,并且可以将右边第二编码单元810b划分为奇数个第三编码单元820c、820d和820e。
根据实施例,图像解码装置100可以通过确定第三编码单元820a和820b以及820c、820d和820e是否可以以特定顺序被处理来确定是否有任何编码单元被划分为奇数个编码单元。参考图8,图像解码装置100可以通过递归地划分第一编码单元800来确定第三编码单元820a和820b以及820c、820d和820e。图像解码装置100可以基于块形状信息和划分形状模式信息中的至少一个来确定第一编码单元800、第二编码单元810a和810b或者第三编码单元820a和820b以及820c、820d和820e中的任何一个是否被划分为奇数个编码单元。例如,第二编码单元810a和810b当中的右边编码单元可以被划分为奇数个第三编码单元820c、820d和820e。包括在第一编码单元800中的多个编码单元的处理顺序可以是特定顺序(例如,Z扫描顺序830),并且图像解码装置100可以确定通过将右边第二编码单元810b划分为奇数个编码单元而确定的第三编码单元820c、820d和820e是否满足以特定顺序进行处理的条件。
根据实施例,图像解码装置100可以确定包括在第一编码单元800中的第三编码单元820a和820b以及820c、820d和820e是否满足以特定顺序进行处理的条件,并且该条件涉及第二编码单元810a和810b的宽度和高度中的至少一个是否将沿着第三编码单元820a和820b以及820c、820d和820e的边界被划分为两半。例如,当非正方形形状的左边第二编码单元810a的高度被划分为两半时确定的第三编码单元820a和820b可以满足所述条件。可以确定第三编码单元820c、820d和820e不满足所述条件,因为当右边第二编码单元810b被划分为三个编码单元时确定的第三编码单元820c、820d和820e的边界不能将右边第二编码单元810b的宽度或高度划分为两半。如上所述,当不满足所述条件时,图像解码装置100可以判定扫描顺序的断开(disconnection),并且可以基于判定的结果确定右边第二编码单元810b将被划分为奇数个编码单元。根据实施例,当编码单元被划分为奇数个编码单元时,图像解码装置100可以对划分出的编码单元当中特定位置处的编码单元施加特定限制。上面已经通过各种实施例描述了限制或特定位置,因此将省略对其的详细描述。
图9示出了根据实施例的图像解码装置100通过划分第一编码单元900来确定至少一个编码单元的过程。
根据实施例,图像解码装置100可以基于由比特流获得器110获得的划分形状模式信息来划分第一编码单元900。正方形第一编码单元900可以被划分为四个正方形编码单元、或者可以被划分为多个非正方形编码单元。例如,参考图9,当第一编码单元900具有正方形形状并且划分形状模式信息指示将第一编码单元900划分为非正方形编码单元时,图像解码装置100可以将第一编码单元900划分为多个非正方形编码单元。具体地,当划分形状模式信息指示通过在水平方向或垂直方向上划分第一编码单元900来确定奇数个编码单元时,图像解码装置100可以将正方形第一编码单元900划分为奇数个编码单元,例如,通过在垂直方向上划分正方形第一编码单元900而确定的第二编码单元910a、910b和910c、或者通过在水平方向上划分正方形第一编码单元900而确定的第二编码单元920a、920b和920c。
根据实施例,图像解码装置100可以确定包括在第一编码单元900中的第二编码单元910a、910b、910c、920a、920b和920c是否满足用于以特定顺序进行处理的条件,并且该条件涉及第一编码单元900的宽度和高度中的至少一个是否将沿着第二编码单元910a、910b、910c、920a、920b和920c的边界被划分为两半。参考图9,因为通过在垂直方向上划分正方形第一编码单元900而确定的第二编码单元910a、910b和910c的边界没有将第一编码单元900的宽度划分为两半,所以可以确定第一编码单元900不满足以特定顺序进行处理的条件。此外,因为通过在水平方向上划分正方形第一编码单元900而确定的第二编码单元920a、920b和920c的边界没有将第一编码单元900的高度划分为两半,所以可以确定第一编码单元900不满足以特定顺序进行处理的条件。如上所述,当不满足该条件时,图像解码装置100可以判定扫描顺序的断开,并且可以基于判定的结果来确定第一编码单元900将被划分为奇数个编码单元。根据实施例,当编码单元被划分为奇数个编码单元时,图像解码装置100可以对划分出的编码单元当中特定位置处的编码单元施加特定限制。上面已经通过各种实施例描述了所述限制或所述特定位置,因此将省略对其的详细描述。
根据实施例,图像解码装置100可以通过划分第一编码单元来确定各种形状的编码单元。
参考图9,图像解码装置100可以将正方形第一编码单元900或非正方形第一编码单元930或950划分为各种形状的编码单元。
图10示出了根据实施例的、当在图像解码装置100划分第一编码单元1000时确定的具有非正方形形状的第二编码单元满足特定条件时,第二编码单元可被划分为的形状受到限制。
根据实施例,图像解码装置100可以基于由比特流获得器110获得的划分形状模式信息,来确定将正方形第一编码单元1000划分为非正方形第二编码单元1010a和1010b或者1020a和1020b。第二编码单元1010a和1010b或者1020a和1020b可以被独立地划分。因此,图像解码装置100可以基于第二编码单元1010a和1010b或者1020a和1020b中的每一个的划分形状模式信息,来确定将或者不将第二编码单元1010a和1010b或者1020a和1020b中的每一个划分为多个编码单元。根据实施例,图像解码装置100可以通过在水平方向上划分通过在垂直方向上划分第一编码单元1000而确定的非正方形左边第二编码单元1010a来确定第三编码单元1012a和1012b。然而,当左边第二编码单元1010a在水平方向上被划分时,图像解码装置100可以限制不在左边第二编码单元1010a被划分的水平方向上划分右边第二编码单元1010b。当通过在相同方向上划分右边第二编码单元1010b来确定第三编码单元1014a和1014b时,因为左边第二编码单元1010a和右边第二编码单元1010b在水平方向上被独立地划分,所以可以确定第三编码单元1012a、1012b、1014a和1014b。然而,这种情况等同于图像解码装置100基于划分形状模式信息将第一编码单元1000划分为四个正方形第二编码单元1030a、1030b、1030c和1030d的情况,并且在图像解码方面可能是低效的。
根据实施例,图像解码装置100可以通过在垂直方向上划分通过在水平方向上划分第一编码单元1000而确定的非正方形第二编码单元1020a或1020b来确定第三编码单元1022a和1022b或者1024a和1024b。然而,当第二编码单元(例如,上部第二编码单元1020a)在垂直方向上被划分时,出于上述原因,图像解码装置100可以限制不在上部第二编码单元1020a被划分的垂直方向上划分另一个第二编码单元(例如,下部第二编码单元1020b)。
图11示出了根据实施例的、其中当划分形状模式信息指示正方形编码单元不被划分为四个正方形编码单元时图像解码装置100划分正方形编码单元的过程。
根据实施例,图像解码装置100可以通过基于划分形状模式信息划分第一编码单元1100来确定第二编码单元1110a和1110b或者1120a和1120b等。划分形状模式信息可以包括关于划分编码单元的各种方法的信息,但是,关于各种划分方法的信息可以不包括用于将编码单元划分为四个正方形编码单元的信息。根据这种划分形状模式信息,图像解码装置100可以不将正方形第一编码单元1100划分为四个正方形第二编码单元1130a、1130b、1130c和1130d。图像解码装置100可以基于划分形状模式信息来确定非正方形第二编码单元1110a和1110b或者1120a和1120b等。
根据实施例,图像解码装置100可以独立地划分非正方形第二编码单元1110a和1110b或者1120a和1120b等。第二编码单元1110a和1110b或者1120a和1120b等中的每一个可以以特定顺序被递归地划分,并且这种划分方法可以对应于基于划分形状模式信息来划分第一编码单元1100的方法。
例如,图像解码装置100可以通过在水平方向上划分左边第二编码单元1110a来确定正方形第三编码单元1112a和1112b,并且可以通过在水平方向上划分右边第二编码单元1110b来确定正方形第三编码单元1114a和1114b。此外,图像解码装置100可以通过在水平方向上划分左边第二编码单元1110a和右边第二编码单元1110b两者来确定正方形第三编码单元1116a、1116b、1116c和1116d。在这种情况下,可以确定与从第一编码单元1100划分出的四个正方形第二编码单元1130a、1130b、1130c和1130d具有相同形状的编码单元。
作为另一个示例,图像解码装置100可以通过在垂直方向上划分上部第二编码单元1120a来确定正方形第三编码单元1122a和1122b,并且可以通过在垂直方向上划分下部第二编码单元1120b来确定正方形第三编码单元1124a和1124b。此外,图像解码装置100可以通过在垂直方向上划分上部第二编码单元1120a和下部第二编码单元1120b两者来确定正方形第三编码单元1126a、1126b、1126c和1126d。在这种情况下,可以确定与从第一编码单元1100划分出的四个正方形第二编码单元1130a、1130b、1130c和1130d具有相同形状的编码单元。
图12示出了根据实施例的、多个编码单元之间的处理顺序可以根据划分编码单元的过程而变化。
根据实施例,图像解码装置100可以基于划分形状模式信息来划分第一编码单元1200。当块形状指示正方形形状并且划分形状模式信息指示在水平方向和垂直方向中的至少一个上划分第一编码单元1200时,图像解码装置100可以通过划分第一编码单元1200来确定第二编码单元(例如,1210a和1210b或者1220a和1220b等)。参考图12,通过仅在水平方向或垂直方向上划分第一编码单元1200而确定的非正方形第二编码单元1210a和1210b或1220a和1220b可以基于每个编码单元的划分形状模式信息被独立地划分。例如,图像解码装置100可以通过在水平方向上划分通过在垂直方向上划分第一编码单元1200而生成的第二编码单元1210a和1210b来确定第三编码单元1216a、1216b、1216c和1216d,并且可以通过在垂直方向上划分通过在水平方向上划分第一编码单元1200而生成的第二编码单元1220a和1220b来确定第三编码单元1226a、1226b、1226c和1226d。上面已经参考图11描述了划分第二编码单元1210a和1210b或者1220a和1220b的过程,因此将省略对其的详细描述。
根据实施例,图像解码装置100可以以特定顺序处理编码单元。上面已经参考图7描述了以特定顺序处理编码单元的操作,因此将省略对其的详细描述。参考图12,图像解码装置100可以通过划分正方形第一编码单元1200来确定四个正方形第三编码单元1216a、1216b、1216c和1216d,以及1226a、1226b、1226c和1226d。根据实施例,图像解码装置100可以基于第一编码单元1200被划分为的划分形状来确定第三编码单元1216a、1216b、1216c和1216d以及1226a、1226b、1226c和1226d的处理顺序。
根据实施例,图像解码装置100可以通过在水平方向上划分通过在垂直方向上划分第一编码单元1200而生成的第二编码单元1210a和1210b来确定第三编码单元1216a、1216b、1216c和1216d,并且可以按照首先在垂直方向上处理包括在左边第二编码单元1210a中的第三编码单元1216a和1216c、然后在垂直方向上处理包括在右边第二编码单元1210b中的第三编码单元1216b和1216d的处理顺序1217来处理第三编码单元1216a、1216b、1216c和1216d。
根据实施例,图像解码装置100可以通过在垂直方向上划分通过在水平方向上划分第一编码单元1200而生成的第二编码单元1220a和1220b来确定第三编码单元1226a、1226b、1226c和1226d,并且可以按照首先在水平方向上处理包括在上部第二编码单元1220a中的第三编码单元1226a和1226b、然后在水平方向上处理包括在下部第二编码单元1220b中的第三编码单元1226c和1226d的处理顺序1227来处理第三编码单元1226a、1226b、1226c和1226d。
参考图12,正方形第三编码单元1216a、1216b、1216c和1216d以及1226a、1226b、1226c和1226d可以分别通过划分第二编码单元1210a和1210b以及1220a和1220b来确定。尽管第二编码单元1210a和1210b是通过在垂直方向上划分第一编码单元1200来确定的,不同于通过在水平方向上划分第一编码单元1200所确定的第二编码单元1220a和1220b,但是从其划分出的第三编码单元1216a、1216b、1216c和1216d以及1226a、1226b、1226c和1226d最终示出了从第一编码单元1200划分出的相同形状的编码单元。这样,通过基于划分形状模式信息以不同的方式递归地划分编码单元,即使在编码单元最终被确定为具有相同形状时,图像解码装置100也可以以不同的顺序处理多个编码单元。
图13示出了根据实施例的、当编码单元被递归地划分来确定多个编码单元时,随着编码单元的形状和尺寸改变来确定编码单元的深度的过程。
根据实施例,图像解码装置100可以基于特定标准来确定编码单元的深度。例如,特定标准可以是编码单元的长边的长度。当在被划分之前的编码单元的长边的长度是划分出的当前编码单元的长边的长度的2n倍(n>0)时,图像解码装置100可以确定当前编码单元的深度比被划分之前的编码单元的深度增加了n。在以下描述中,具有增加的深度的编码单元被表示为较低深度的编码单元。
参考图13,根据实施例,图像解码装置100可以通过基于指示正方形形状的块形状信息(例如,块形状信息可以表示为‘0:SQUARE’)划分正方形第一编码单元1300来确定较低深度的第二编码单元1302和第三编码单元1304。假设正方形第一编码单元1300的尺寸是2Nx2N,通过将第一编码单元1300的宽度和高度划分1/2而确定的第二编码单元1302可以具有NxN的尺寸。此外,通过将第二编码单元1302的宽度和高度划分1/2而确定的第三编码单元1304可以具有N/2xN/2的尺寸。在这种情况下,第三编码单元1304的宽度和高度是第一编码单元1300的1/4倍。当第一编码单元1300的深度是D时,宽度和高度是第一编码单元1300的1/2倍的第二编码单元1302的深度可以是D+1,宽度和高度是第一编码单元1300的1/4倍的第三编码单元1304的深度可以是D+2。
根据实施例,图像解码装置100可以通过基于指示非正方形形状的块形状信息(例如,块形状信息可以表示为指示高度长于宽度的非正方形形状的“1:NS_VER”、或者表示为指示宽度长于高度的非正方形形状的“2:NS_HOR”)划分非正方形第一编码单元1310或1320来确定较低深度的第二编码单元1312或1322和第三编码单元1314或1324。
图像解码装置100可以通过划分尺寸为Nx2N的第一编码单元1310的宽度和高度中的至少一个来确定第二编码单元1302、1312或1322。也就是说,图像解码装置100可以通过在水平方向上划分第一编码单元1310来确定尺寸为NxN的第二编码单元1302或尺寸为NxN/2的第二编码单元1322、或者可以通过在水平方向和垂直方向上划分第一编码单元1310来确定尺寸为N/2xN的第二编码单元1312。
根据实施例,图像解码装置100可以通过划分尺寸为2NxN的第一编码单元1320的宽度和高度中的至少一个来确定第二编码单元(例如,1302、1312或1322)。也就是说,图像解码装置100可以通过在垂直方向上划分第一编码单元1320来确定尺寸为NxN的第二编码单元1302或尺寸为N/2xN的第二编码单元1312、或者可以通过在水平方向和垂直方向上划分第一编码单元1320来确定尺寸为NxN/2的第二编码单元1322。
根据实施例,图像解码装置100可以通过划分尺寸为NxN的第二编码单元1302的宽度和高度中的至少一个来确定第三编码单元(例如,1304、1314或1324)。也就是说,图像解码装置100可以通过在垂直方向和水平方向上划分第二编码单元1302来确定尺寸为N/2xN/2的第三编码单元1304、尺寸为N/4xN/2的第三编码单元1314或尺寸为N/2xN/4的第三编码单元1324。
根据实施例,图像解码装置100可以通过划分尺寸为N/2xN的第二编码单元1312的宽度和高度中的至少一个来确定第三编码单元(例如,1304、1314或1324)。也就是说,图像解码装置100可以通过在水平方向上划分第二编码单元1312来确定尺寸为N/2xN/2的第三编码单元1304或尺寸为N/2xN/4的第三编码单元1324、或者可以通过在垂直方向和水平方向上划分第二编码单元1312来确定尺寸为N/4xN/2的第三编码单元1314。
根据实施例,图像解码装置100可以通过划分尺寸为NxN/2的第二编码单元1322的宽度和高度中的至少一个来确定第三编码单元(例如,1304、1314或1324)。也就是说,图像解码装置100可以通过在垂直方向上划分第二编码单元1322来确定尺寸为N/2xN/2的第三编码单元1304或尺寸为N/4xN/2的第三编码单元1314、或者可以通过在垂直方向和水平方向上划分第二编码单元1322来确定尺寸为N/2xN/4的第三编码单元1324。
根据实施例,图像解码装置100可以在水平方向或垂直方向上划分正方形编码单元(例如,1300、1302或1304)。例如,图像解码装置100可以通过在垂直方向上划分尺寸为2Nx2N的第一编码单元1300来确定尺寸为Nx2N的第一编码单元1310、或者可以通过在水平方向上划分第一编码单元1300来确定尺寸为2NxN的第一编码单元1320。根据实施例,当基于编码单元的最长边的长度来确定深度时,通过在水平方向或垂直方向上划分尺寸为2Nx2N的第一编码单元1300而确定的编码单元的深度可以与第一编码单元1300的深度相同。
根据实施例,第三编码单元1314或1324的宽度和高度可以是第一编码单元1310或1320的1/4倍。当第一编码单元1310或1320的深度是D时,宽度和高度是第一编码单元1310或1320的1/2倍的第二编码单元1312或1322的深度可以是D+1,宽度和高度是第一编码单元1310或1320的1/4倍的第三编码单元1314或1324的深度可以是D+2。
图14示出了根据实施例的、可基于编码单元的形状和尺寸确定的深度,以及用于区分编码单元的部分索引(PID)。
根据实施例,图像解码装置100可以通过划分正方形第一编码单元1400来确定各种形状的第二编码单元。参考图14,图像解码装置100可以通过基于划分形状模式信息在垂直方向和水平方向中的至少一个上划分第一编码单元1400来确定第二编码单元1402a和1402b、1404a和1404b以及1406a、1406b、1406c和1406d。也就是说,图像解码装置100可以基于第一编码单元1400的划分形状模式信息来确定第二编码单元1402a和1402b、1404a和1404b以及1406a、1406b、1406c和1406d。
根据实施例,基于正方形第一编码单元1400的划分形状模式信息确定的第二编码单元1402a和1402b、1404a和1404b以及1406a、1406b、1406c和1406d的深度可以基于其长边的长度来确定。例如,因为正方形第一编码单元1400的边的长度等于非正方形第二编码单元1402a和1402b以及1404a和1404b的长边的长度,所以第一编码单元1400和非正方形第二编码单元1402a和1402b以及1404a和1404b可以具有相同的深度,例如D。然而,当图像解码装置100基于划分形状模式信息将第一编码单元1400划分为四个正方形第二编码单元1406a、1406b、1406c和1406d,因为正方形第二编码单元1406a、1406b、1406c和1406d的边的长度是第一编码单元1400的边的长度的1/2倍,所以第二编码单元1406a、1406b、1406c和1406d的深度可以是比第一编码单元1400的深度D深1的D+1。
根据实施例,图像解码装置100可以通过基于划分形状模式信息在水平方向上划分高度长于宽度的第一编码单元1410来确定多个第二编码单元1412a和1412b以及1414a、1414b和1414c。根据实施例,图像解码装置100可以通过基于划分形状模式信息在垂直方向上划分宽度长于高度的第一编码单元1420来确定多个第二编码单元1422a和1422b以及1424a、1424b和1424c。
根据实施例,基于非正方形第一编码单元1410或1420的划分形状模式信息确定的第二编码单元1412a和1412b以及1414a、1414b和1414c或1422a和1422b以及1424a、1424b和1424c的深度可以基于其长边的长度来确定。例如,因为正方形第二编码单元1412a和1412b的边的长度是高度长于宽度的非正方形形状的第一编码单元1410的长边的长度的1/2倍,所以正方形第二编码单元1412a和1412b的深度是比非正方形第一编码单元1410的深度D深1的D+1。
此外,图像解码装置100可以基于划分形状模式信息将非正方形第一编码单元1410划分为奇数个第二编码单元1414a、1414b和1414c。奇数个第二编码单元1414a、1414b和1414c可以包括非正方形第二编码单元1414a和1414c以及正方形第二编码单元1414b。在这种情况下,因为非正方形第二编码单元1414a和1414c的长边的长度和正方形第二编码单元1414b的边的长度是第一编码单元1410的长边的长度的1/2倍,所以第二编码单元1414a、1414b和1414c的深度可以是比非正方形第一编码单元1410的深度D深1的D+1。图像解码装置100可以通过使用确定从第一编码单元1410划分出的编码单元的深度的上述方法,来确定从具有宽度长于高度的非正方形形状的第一编码单元1420划分出的编码单元的深度。
根据实施例,当奇数个划分编码单元不具有相同的尺寸时,图像解码装置100可以基于编码单元之间的尺寸比来确定用于识别划分编码单元的PID。参考图14,奇数个划分编码单元1414a、1414b和1414c当中的中心位置的编码单元1414b可以具有与其他编码单元1414a和1414c的宽度相等的宽度以及是其他编码单元1414a和1414c的高度两倍的高度。也就是说,在这种情况下,中心位置处的编码单元1414b可以包括其他编码单元1414a或1414c中的两个。因此,当中心位置处的编码单元1414b的PID基于扫描顺序为1时,位于编码单元1414b旁边的编码单元1414c的PID可以增加2,因此可以是3。也就是说,PID值可以不连续。根据实施例,图像解码装置100可以基于用于识别划分出的编码单元的PID是否不连续来确定奇数个划分编码单元是否具有相同的尺寸。
根据实施例,图像解码装置100可以基于用于识别通过划分当前编码单元而确定的多个编码单元的PID值来确定是否使用特定划分方法。参考图14,图像解码装置100可以通过划分高度长于宽度的矩形形状的第一编码单元1410来确定偶数个编码单元1412a和1412b或者奇数个编码单元1414a、1414b和1414c。图像解码装置100可以使用指示各个编码单元的PID来识别各个编码单元。根据实施例,可以从每个编码单元的特定位置处的样本(例如,左上样本)获得PID。
根据实施例,图像解码装置100可以通过使用用于区分编码单元的PID,来从划分出的编码单元当中确定特定位置处的编码单元。根据实施例,当高度长于宽度的具有矩形形状的第一编码单元1410的划分形状模式信息指示将编码单元划分为三个编码单元时,图像解码装置100可以将第一编码单元1410划分为三个编码单元1414a、1414b和1414c。图像解码装置100可以向三个编码单元1414a、1414b和1414c中的每一个分配PID。图像解码装置100可以比较奇数个划分出的编码单元的PID,以从编码单元当中确定中心位置处的编码单元。图像解码装置100可以将具有与编码单元的PID当中的中间值相对应的PID的编码单元1414b确定为通过划分第一编码单元1410而确定的编码单元当中的中心位置处的编码单元。根据实施例,当划分出的编码单元不具有相同的尺寸时,图像解码装置100可以基于编码单元之间的尺寸比来确定用于区分划分出的编码单元的PID。参考图14,通过划分第一编码单元1410而生成的编码单元1414b可以具有与其他编码单元1414a和1414c的宽度相等的宽度以及是其他编码单元1414a和1414c的高度两倍的高度。在这种情况下,当中心位置处的编码单元1414b的PID为1时,位于编码单元1414b旁边的编码单元1414c的PID可以增加2,因此可以是3。如上所述,当PID没有均匀增加时,图像解码装置100可以确定编码单元被划分为包括具有不同于其他编码单元的尺寸的编码单元的多个编码单元。根据实施例,当划分形状模式信息指示将编码单元划分为奇数个编码单元时,图像解码装置100可以以奇数个编码单元当中的特定位置的编码单元(例如,中心位置的编码单元)具有不同于其他编码单元的尺寸的方式来划分当前编码单元。在这种情况下,图像解码装置100可以通过使用编码单元的PID来确定具有不同尺寸的中心位置的编码单元。然而,待确定的特定位置的编码单元的PID和尺寸或位置不限于上述示例,并且可以使用各种PID和各种位置和尺寸的编码单元。
根据实施例,图像解码装置100可以使用其中编码单元开始被递归地划分的特定数据单元。
图15示出了根据实施例的、基于包括在图片中的多个特定数据单元来确定多个编码单元。
根据实施例,特定数据单元可以被定义为其中编码单元开始通过使用划分形状模式信息而被递归地划分的数据单元。也就是说,特定数据单元可以对应于最大深度的编码单元,用于确定从当前图片划分出的多个编码单元。在以下描述中,为了便于解释,特定数据单元被称为参考数据单元。
根据实施例,参考数据单元可以具有特定尺寸和特定形状。根据实施例,参考编码单元可以包括MxN个样本。这里,M和N可以彼此相等,并且可以是被表示为2的幂的整数。也就是说,参考数据单元可以具有正方形形状或非正方形形状,并且可以被划分为整数个编码单元。
根据实施例,图像解码装置100可以将当前图片划分为多个参考数据单元。根据实施例,图像解码装置100可以通过使用每个参考数据单元的划分形状模式信息来划分从当前图片划分出的多个参考数据单元。划分参考数据单元的过程可以对应于使用四叉树结构的划分过程。
根据实施例,图像解码装置100可以预先确定所允许的包括在当前图片中的参考数据单元的最小尺寸。因此,图像解码装置100可以确定具有等于或大于最小尺寸的各种尺寸的参考数据单元,并且可以通过参考所确定的参考数据单元使用划分形状模式信息来确定一个或多个编码单元。
参考图15,图像解码装置100可以使用正方形参考编码单元1500或非正方形参考编码单元1502。根据实施例,参考编码单元的形状和尺寸可以基于能够包括一个或多个参考编码单元(例如,序列、图片、片、片段(slice segment)、区块、区块组、最大编码单元等)的各种数据单元来确定。
根据实施例,图像解码装置100的比特流获得器110可以从比特流获得各种数据单元中的每一个的参考编码单元形状信息和参考编码单元尺寸信息中的至少一个。上面已经结合图3的划分当前编码单元300的过程描述了将正方形参考编码单元1500划分为一个或多个编码单元的过程,并且上面已经结合图4的划分当前编码单元400或450的过程描述了将非正方形参考编码单元1502划分为一个或多个编码单元的过程,因此将省略对其的详细描述。
根据实施例,图像解码装置100可以使用用于识别参考编码单元的尺寸和形状的PID,来根据基于特定条件预先确定的一些数据单元来确定参考编码单元的尺寸和形状。也就是说,比特流获得器110可以仅从比特流中获得用于识别关于各种数据单元(例如,序列、图片、片、片段、区块、区块组、最大编码单元等)当中的每个片、片段、区块、区块组或作为满足特定条件的数据单元(例如,尺寸等于或小于片的数据单元)的最大编码单元的参考编码单元的尺寸和形状的PID。图像解码装置100可以通过使用PID来确定满足特定条件的每个数据单元的参考数据单元的尺寸和形状。当根据具有相对小尺寸的每个数据单元从比特流获得并使用参考编码单元形状信息和参考编码单元尺寸信息时,使用比特流的效率可能不高,因此,可以仅获得并使用PID,而不是直接获得参考编码单元形状信息和参考编码单元尺寸信息。在这种情况下,可以预先确定与用于识别参考编码单元的尺寸和形状的PID相对应的参考编码单元的尺寸和形状中的至少一个。也就是说,图像解码装置100可以通过基于PID选择预先确定的参考编码单元的尺寸和形状中至少一个,来确定包括在用作用于获得PID的单元的数据单元中的参考编码单元的尺寸和形状中的至少一个。
根据实施例,图像解码装置100可以使用包括在最大编码单元中的一个或多个参考编码单元。也就是说,从图片划分出的最大编码单元可以包括一个或多个参考编码单元,并且可以通过递归地划分每个参考编码单元来确定编码单元。根据实施例,最大编码单元的宽度和高度中的至少一个可以是参考编码单元的宽度和高度中的至少一个的整数倍。根据实施例,参考编码单元的尺寸可以通过基于四叉树结构将最大编码单元划分n次来获得。也就是说,根据各种实施例,图像解码装置100可以通过基于四叉树结构将最大编码单元划分n次来确定参考编码单元,并且可以基于块形状信息和划分形状模式信息中的至少一个来划分参考编码单元。
根据实施例,图像解码装置100可以从比特流获得指示当前编码单元的形状的块形状信息或者指示当前编码单元的划分方法的划分形状模式信息,并且可以使用所获得的信息。划分形状模式信息可以包括在与各种数据单元相关的比特流中。例如,图像解码装置100可以使用包括在序列参数集、图片参数集、视频参数集、片标头(slice header)、片段标头、区块标头或区块组标头中的划分形状模式信息。此外,图像解码装置100可以根据每个最大编码单元或每个参考编码单元,从比特流获得与块形状信息或划分形状模式信息相对应的语法元素,并且可以使用所获得的语法元素。
在下文中,将详细描述根据本公开实施例的确定划分规则的方法。
图像解码装置100可以确定图像的划分规则。可以在图像解码装置100和图像编码装置200之间预先确定划分规则。图像解码装置100可以基于从比特流获得的信息来确定图像的划分规则。图像解码装置100可以基于从序列参数集、图片参数集、视频参数集、片标头、片段标头、区块标头和区块组标头中的至少一个获得的信息来确定划分规则。图像解码装置100可以根据帧、片、区块、时域层、最大编码单元、或编码单元来不同地确定划分规则。
图像解码装置100可以基于编码单元的块形状来确定划分规则。块形状可以包括编码单元的尺寸、形状、宽高比和方向。图像编码装置200和图像解码装置100可以预先确定基于编码单元的块形状来确定划分规则。然而,实施例不限于此。图像解码装置100可以基于从图像编码装置200接收到的比特流获得的信息来确定划分规则。
编码单元的形状可以包括正方形和非正方形。当编码单元的宽度和高度的长度相同时,图像解码装置100可以将编码单元的形状确定为正方形。此外,当编码单元的宽度和高度的长度不同时,图像解码装置100可以将编码单元的形状确定为非正方形。
编码单元的尺寸可以包括各种尺寸,诸如4x4、8x4、4x8、8x8、16x4、16x8、……和256x256。编码单元的尺寸可以基于编码单元长边的长度、短边的长度或面积来分类。图像解码装置100可以将相同的划分规则应用于被分类为相同组的编码单元。例如,图像解码装置100可以将具有相同长边长度的编码单元分类为具有相同尺寸。此外,图像解码装置100可以将相同的划分规则应用于具有相同长边长度的编码单元。
编码单元的宽高比可以包括1∶2、2∶1、1∶4、4∶1、1∶8、8∶1、1∶16、16∶1、32∶1、1∶32等。此外,编码单元的方向可以包括水平方向和垂直方向。水平方向可以指示编码单元的宽度的长度长于其高度的长度的情况。垂直方向可以指示编码单元的宽度的长度短于其高度的长度的情况。
图像解码装置100可以基于编码单元的尺寸来自适应地确定划分规则。图像解码装置100可以基于编码单元的尺寸来不同地确定所允许的划分形状模式。例如,图像解码装置100可以基于编码单元的尺寸来确定是否允许划分。图像解码装置100可以根据编码单元的尺寸来确定划分方向。图像解码装置100可以根据编码单元的尺寸来确定所允许的划分类型。
基于编码单元的尺寸确定的划分规则可以是在图像编码装置200和图像解码装置100之间预先确定的划分规则。此外,图像解码装置100可以基于从比特流获得的信息来确定划分规则。
图像解码装置100可以基于编码单元的位置来自适应地确定划分规则。图像解码装置100可以基于编码单元在图像中的位置来自适应地确定划分规则。
此外,图像解码装置100可以确定划分规则,使得经由不同的划分路径生成的编码单元不具有相同的块形状。然而,实施例不限于此,并且经由不同的划分路径生成的编码单元具有相同的块形状。经由不同的划分路径生成的编码单元可以具有不同的解码处理顺序。因为上面已经参考图12描述了解码处理顺序,所以将省略对其的详细描述。
图16示出了根据实施例的、当编码单元可以被划分为的形状的组合对于每个图片是不同的时,可以为每个图片确定的编码单元。
参考图16,图像解码装置100可以针对每个图片不同地确定编码单元可以被划分为的划分形状的组合。例如,图像解码装置100可以通过使用包括在图像中的一个或多个图片当中的可以被划分为四个编码单元的图片1600、可以被划分为两个或四个编码单元的图片1610、以及可以被划分为两个、三个或四个编码单元的图片1620来对图像进行解码。为了将图片1600划分为多个编码单元,图像解码装置100可以仅使用指示划分为四个正方形编码单元的划分形状信息。为了划分图片1610,图像解码装置100可以仅使用指示划分为两个或四个编码单元的划分形状信息。为了划分图片1620,图像解码装置100可以仅使用指示划分为两个、三个或四个编码单元的划分形状信息。上述划分形状的组合仅是用于描述图像解码装置100的操作的实施例。因此,上述划分形状的组合不应该被解释为限于上述实施例,而应该被解释为划分形状的各种类型的组合可以用于特定数据单元。
根据实施例,图像解码装置100的比特流获得器110可以获得包括指示每个特定数据单元(例如,序列、图片、片、片段、区块或区块组)的划分形状信息的组合的索引的比特流。例如,比特流获得器110可以从序列参数集、图片参数集、片标头、区块标头或区块组标头获得指示划分形状信息的组合的索引。图像解码装置100的比特流获得器110可以针对每个特定数据单元确定通过使用所获得的索引可以将编码单元划分为的划分形状的组合,因此,对于每个特定数据单元,可以使用划分形状的不同组合。
图17示出了根据实施例的、可以基于可以被表示为二进制码的划分形状模式信息来确定的编码单元的各种形状。
根据实施例,图像解码装置100可以通过使用由比特流获得器110获得的块形状信息和划分形状模式信息,来将编码单元划分为各种形状。编码单元可以被划分为的形状可以是各种形状,包括上面通过实施例描述的形状。
参考图17,图像解码装置100可以基于划分形状模式信息,在水平方向和垂直方向中的至少一个上划分具有正方形形状的编码单元,以及在水平方向或垂直方向上划分具有非正方形形状的编码单元。
根据实施例,当图像解码装置100可以在水平方向和垂直方向上划分具有正方形形状的编码单元以确定四个正方形编码单元时,正方形编码单元的划分形状模式信息可以表示四种划分形状。根据实施例,划分形状模式信息可以表示为两位二进制码并且二进制码可以分配给每种划分形状。例如,当编码单元未被划分时,划分形状模式信息可以表示为(00)b,当编码单元在水平方向和垂直方向上被划分时,划分形状模式信息可以表示为(01)b,当编码单元在水平方向上被划分时,划分形状模式信息可以表示为(10)b,并且当编码单元在垂直方向上被划分时,划分形状模式信息可以表示为(11)b。
根据实施例,当图像解码装置100在水平方向或垂直方向上划分具有非正方形形状的编码单元时,可以由划分形状模式信息表示的划分形状的类型可以取决于编码单元将被划分为的编码单元的数量。参考图17,根据实施例,图像解码装置100可以将具有非正方形形状的编码单元划分为至多三个编码单元。此外,图像解码装置100可以将编码单元划分为两个编码单元。在这种情况下,划分形状模式信息可以表示为(10)b。图像解码装置100可以将编码单元划分为三个编码单元。在这种情况下,划分形状模式信息可以表示为(11)b。图像解码装置100可以确定不划分编码单元。在这种情况下,划分形状模式信息可以表示为(0)b。也就是说,图像解码装置100可以使用可变长度编码(variable length coding,VLC),而不是固定长度编码(fixed length coding,FLC),以便使用表示划分形状模式信息的二进制码。
根据实施例,参考图17,表示编码单元未被划分的划分形状模式信息的二进制码可以表示为(0)b。当表示编码单元未被划分的划分形状模式信息的二进制码被设置为(00)b时,尽管没有划分形状模式信息被设置为(01)b,但是2比特的划分形状模式信息的二进制码应该全部被使用。然而,如图17所示,当三种划分形状用于具有非正方形形状的编码单元时,图像解码装置100可以通过使用1比特的二进制码(0)b作为划分形状模式信息来确定编码单元未被划分,从而高效地使用比特流。然而,由划分形状模式信息表示的具有非正方形形状的编码单元的划分形状不应该被解释为限于图17所示的三种形状,而应该被解释为包括上述实施例的各种形状。
图18示出了根据实施例的、可以基于可以被表示为二进制码的划分形状模式信息来确定的编码单元的其他形状。
参考图18,图像解码装置100基于划分形状模式信息,可以在水平方向或垂直方向上划分正方形编码单元并且可以在水平方向或垂直方向上划分非正方形编码单元。也就是说,划分形状模式信息可以指示在一个方向上划分正方形编码单元。在这种情况下,指示不划分正方形编码单元的划分形状模式信息的二进制码可以表示为(0)b。当指示不划分编码单元的划分形状模式信息的二进制码被配置为(00)b时,即使没有被配置为(01)b的划分形状模式信息,也可能必须使用划分形状模式信息的所有2比特二进制码。然而,如图18所示,当使用对于正方形编码单元的三种划分形状时,即使通过使用1比特二进制码(0)b作为划分形状模式信息,图像解码装置100也可以确定不划分编码单元。因此,可以高效地使用比特流。然而,由划分形状模式信息指示的正方形编码单元的划分形状不应该被解释为限于图18所示的三种划分形状,而应该被解释为包括包括上述实施例的各种形状。
根据实施例,可以通过使用二进制码来表示块形状信息或划分形状模式信息,并且可以将块形状信息或划分形状模式信息直接生成为比特流。此外,可以表示为二进制码的块形状信息或划分形状模式信息可以不被直接生成为比特流,而是可以用作在上下文自适应二进制算术编码(context adaptive binary arithmetic coding,CABAC)中输入的二进制码。
根据实施例,描述了图像解码装置100通过CABAC获得块形状信息或划分形状模式信息的语法的过程。比特流获得器110可以获得包括关于语法的二进制码的比特流。图像解码装置100可以通过对包括在获得的比特流中的bin串进行逆二进制化(inversebinarization)来检测指示块形状信息或划分形状模式信息的语法元素。根据实施例,图像解码装置100可以获得与待解码的语法元素相对应的二进制bin串集,并且可以通过使用概率信息来对每个bin进行解码。此外,图像解码装置100可以重复该过程,直到由这些经解码的bin组成的bin串变得与先前获得的bin串之一相同为止。图像解码装置100可以通过对bin串执行逆二进制化来确定语法元素。
根据实施例,图像解码装置100可以通过执行自适应二进制算术编码的解码处理来确定bin串的语法,并且图像解码装置100可以更新关于由比特流获得器110获得的bin的概率模型。参考图17,根据实施例,图像解码装置100的比特流获得器110可以获得指示表示划分形状模式信息的二进制码的比特流。图像解码装置100可以通过使用所获得的1比特或2比特尺寸的二进制码来确定划分形状模式信息的语法。为了确定划分形状模式信息的语法,图像解码装置100可以更新关于2比特二进制码的每个比特的概率。也就是说,根据2比特二进制码的第一bin的值是0还是1,图像解码装置100可以更新在下一个bin被解码时下一个bin将具有0或1的值的概率。
根据实施例,在确定语法的过程中,图像解码装置100可以在解码关于语法的bin串的bin的过程中更新关于bin的概率,并且对于bin串当中的特定比特,图像解码装置100可以不更新概率并且可以确定概率是相同的。
参考图17,在通过使用表示关于非正方形编码单元的划分形状模式信息的bin串来确定语法的过程中,当非正方形编码单元未被划分时,图像解码装置100可以通过使用具有值0的一个bin来确定划分形状模式信息的语法。也就是说,当块形状信息指示当前编码单元具有非正方形形状时,当非正方形编码单元未被划分时,关于划分形状模式信息的bin串的第一bin可以是0,并且当非正方形编码单元被划分为两个或三个编码单元时,第一bin可以是1。因此,关于非正方形编码单元的划分形状模式信息的bin串的第一bin是0的概率可以是1/3,并且关于非正方形编码单元的划分形状模式信息的bin串的第一bin是1的概率可以是2/3。如上所述,因为指示非正方形编码单元未被划分的划分形状模式信息可以通过仅使用具有值0的1比特bin串来表示,所以仅当划分形状模式信息的第一bin是1时,图像解码装置100才可以通过确定第二bin是0还是1来确定划分形状模式信息的语法。根据实施例,当关于划分形状模式信息的第一bin为1时,图像解码装置100可以认为第二bin为0的概率和第二bin为1的概率彼此相同,并且可以对bin进行解码。
根据实施例,在确定关于划分形状模式信息的bin串的bin的过程中,图像解码装置100可以使用关于每个bin的各种概率。根据实施例,图像解码装置100可以根据非正方形块的方向来不同地确定关于划分形状模式信息的bin的概率。根据实施例,图像解码装置100可以根据当前编码单元的面积或长边的长度来不同地确定关于划分形状模式信息的bin的概率。根据实施例,图像解码装置100可以根据当前编码单元的形状和长边的长度中的至少一个来不同地确定关于划分形状模式信息的bin的概率。
根据实施例,图像解码装置100可以确定对于具有等于或大于特定尺寸的尺寸的编码单元,关于划分形状模式信息的bin的概率是相同的。例如,图像解码装置100可以基于编码单元的长边的长度,来确定对于具有等于或大于64个样本的尺寸的编码单元,关于划分形状模式信息的bin的概率彼此相同。
根据实施例,图像解码装置100可以基于片类型(例如,I片、P片或B片)来确定组成划分形状模式信息的bin串的bin的初始概率。
图19是执行环路滤波的图像编码和解码系统的框图。
图像编码和解码系统1900的编码端1910发送图像的经编码的比特流,解码端1950通过接收和解码比特流来输出重构的图像。这里,编码端1910可以具有与下面将要描述的图像编码装置200相似的配置,解码端1950可以具有与图像解码装置100相似的配置。
在编码端1910,预测编码器1915经由帧间预测和帧内预测输出预测数据,并且变换器和量化器1920输出预测数据和当前输入图像之间的残差数据的量化后的变换系数。熵编码器1925对量化后的变换系数进行编码和变换,并将量化后的变换系数输出为比特流。量化后的变换系数经由逆量化器和逆变换器1930被重构为空间域的数据,并且空间域的重构的数据经由去块滤波器1935和环路滤波器1940被输出为重构的图像。重构的图像可以经由预测编码器1915用作下一个输入图像的参考图像。
解码端1950接收到的比特流当中经编码的图像数据经由熵解码器1955和逆量化器和逆变换器1960被重构为空间域的残差数据。从预测解码器1975输出的预测数据和残差数据可以被组合来构造空间域的图像数据,并且去块滤波器1965和环路滤波器1970可以对空间域的图像数据执行滤波以输出当前原始图像的重构的图像。重构的图像可以经由预测解码器1975用作下一个原始图像的参考图像。
编码端1910的环路滤波器1940通过使用根据用户输入或系统设置输入的滤波器信息来执行环路滤波。环路滤波器1940使用的滤波器信息被输出到熵编码器1925,并与经编码的图像数据一起被发送到解码端1950。解码端1950的环路滤波器1970可以基于从解码端1950输入的滤波器信息来执行环路滤波。
上述各种实施例描述了与图像解码装置100执行的图像解码方法相关的操作。在下文中,将通过各种实施例描述用于执行图像编码方法的图像编码装置200的操作,其对应于图像解码方法的逆过程。
图2是根据实施例的能够基于块形状信息和划分形状模式信息中的至少一个来对图像进行编码的图像编码装置200的框图。
图像编码装置200可以包括编码器220和比特流生成器210。编码器220可以接收输入图像并对该输入图像进行编码。编码器220可以通过对输入图像进行编码来获得至少一个语法元素。语法元素可以包括跳过标志、预测模式、运动矢量差、运动矢量预测方法(或索引)、变换量化后的系数、编码块图案、编码块标志、帧内预测模式、直接标志、合并标志、增量QP、参考索引、预测方向和变换索引中的至少一个。编码器220可以基于包括编码单元的形状、方向、宽高比以及尺寸中的至少一个的块形状信息来确定上下文模型。
比特流生成器210可以基于经编码的输入图像来生成比特流。例如,比特流生成器210可以通过基于上下文模型对语法元素进行熵编码来生成比特流。此外,图像编码装置200可以将比特流发送到图像解码装置100。
根据实施例,图像编码装置200的编码器220可以确定编码单元的形状。例如,编码单元可以具有正方形形状或非正方形形状,并且指示正方形形状或非正方形形状的信息可以包括在块形状信息中。
根据实施例,编码器220可以确定编码单元将被划分为的形状。编码器220可以确定包括在编码单元中的至少一个编码单元的形状,并且比特流生成器210可以生成包括划分形状模式信息的比特流,该划分形状模式信息包括关于编码单元的形状的信息。
根据实施例,编码器220可以确定是否划分编码单元。当编码器220确定编码单元中仅包括一个编码单元或者编码单元不被划分时,比特流生成器210可以生成包括指示编码单元不被划分的划分形状模式信息的比特流。此外,编码器220可以将编码单元划分为多个编码单元,并且比特流生成器210可以生成包括指示编码单元被划分为多个编码单元的划分形状模式信息的比特流。
根据实施例,指示编码单元将被划分为的编码单元的数量或编码单元将被划分的方向的信息可以包括在划分形状模式信息中。例如,划分形状模式信息可以指示在垂直方向和水平方向中的至少一个上划分编码单元、或者可以指示是否划分编码单元。
图像编码装置200可以基于编码单元的划分形状模式来确定关于划分形状模式的信息。图像编码装置200可以基于编码单元的形状、方向、宽高比和尺寸中的至少一个来确定上下文模型。此外,图像编码装置200可以基于上下文模型来将关于用于划分编码单元的划分形状模式的信息生成为比特流。
为了确定上下文模型,图像编码装置200可以获得用于在编码单元的形状、方向、宽高比和尺寸中的至少一个与上下文模型的索引之间建立对应关系的布置。图像编码装置200可以基于编码单元的形状、方向、宽高比以及尺寸中的至少一个,从该布置中获得上下文模型的索引。图像编码装置200可以基于上下文模型的索引来确定上下文模型。
为了确定上下文模型,图像编码装置200还可以基于包括与编码单元相邻的相邻编码单元的形状、方向、宽高比以及尺寸中的至少一个的块形状信息来确定上下文模型。此外,相邻编码单元可以包括位于编码单元的左下、左边、左上、上部、右上、右边和右下的编码单元中的至少一个。
此外,图像编码装置200可以将上部相邻编码单元的宽度与编码单元的宽度进行比较,以便确定上下文模型。此外,图像编码装置200可以将左右相邻编码单元的高度与编码单元的高度进行比较。此外,图像编码装置200可以基于比较的结果来确定上下文模型。
图像编码装置200的操作包括与参考图3至图19描述的图像解码装置100的操作类似的方面,因此,将省略对其的详细描述。
图20是示出根据实施例的图像解码装置2000的配置的框图。
参考图20,图像解码装置2000可以包括获得器2010和预测解码器2030。图20所示的获得器2010可以对应于图1所示的比特流获得器110,并且预测解码器2030可以对应于图1所示的解码器120。
此外,根据实施例的获得器2010和预测解码器2030可以被实现为至少一个处理器。图像解码装置2000可以包括存储获得器2010和预测解码器2030的输入/输出数据的一个或多个存储器(未示出)。此外,图像解码装置2000可以包括控制存储器(未示出)的数据输入/输出的存储器控制器(未示出)。
获得器2010接收作为对图像进行编码的结果而生成的比特流。获得器2010从比特流获得用于对图像解码的语法元素。根据图像的层级结构,与语法元素相对应的二进制值可以包括在比特流中。获得器2010可以通过对包括在比特流中的二进制值进行熵编码来获得语法元素。
比特流可以包括待解码的图像的尺寸信息、指示包括在图像中的块的预测模式的信息、指示经帧间预测的块的运动矢量的信息以及指示预测样本和原始样本之间的残差数据的信息。
在实施例中,待解码的图像可以具有各种尺寸。尺寸可以指图像的面积。可替代地,尺寸可以指图像的宽度和/或高度。在另一个示例中,尺寸可以指图像的宽度和高度中的任何一个与图像的宽度和高度中的另一个之间的比。
对于自适应流服务,图像可能需要具有各种尺寸。在实时视频通信中,由于支持各种尺寸的图像而无需插入I图片,因此可以自适应地响应信道状态并反映用户偏好。此外,可以减少由于I图片引起的重构的图像的质量下降。然而,在使用图像之间的时域冗余进行帧间预测的情况下,生成预测样本的计算量可能由于图像的各种尺寸而增加,并且预测样本的可靠性可能会降低。因此,需要考虑到图像尺寸的图像解码方法。
图21是示出具有各种尺寸的图像序列的图。
当当前图像2100的宽度是w1并且当前图像2100的高度是h1时,比当前图像2100更早解码的第一图像至第三图像2110、2120和2130的尺寸可以与当前图像2100的尺寸相同、大于或小于当前图像2100的尺寸。
如图21所示,第一图像2110的宽度和高度分别为w2和h2。h2和w2可以大于h1和w1。也就是说,第一图像2110的尺寸大于当前图像2100的尺寸。此外,第二图像2120的宽度和高度是w3和h3。h3和w3可以小于h1和w1。也就是说,第二图像2120的尺寸小于当前图像2100的尺寸。
在实施例中,当图像大于当前图像2100时,可能意味着图像的面积大于当前图像2100的面积。相反,当图像小于当前图像2100时,可能意味着图像的面积小于当前图像2100的面积。
尽管未在图21中示出,但是比当前图像2100更早解码的图像的尺寸可以与当前图像2100的尺寸相同。
在实施例中,可以基于宽度和高度中的每一个来执行图像之间的尺寸比较。例如,第三图像2130的宽度和高度分别是w2和h3。w2可以大于w1,而h3可以小于h1。第三图像2130的宽度大于当前图像2100的宽度,并且第三图像2130的高度小于当前图像2100的高度。
当当前图像2100和先前解码的图像的尺寸被相互比较以用于帧间预测时,可以基于宽度和高度中的每一个来执行尺寸比较。也就是说,第一图像2110的宽度和高度大于当前图像2100的宽度和高度,第二图像2120的宽度和高度小于当前图像2100的宽度和高度。第三图像2130的宽度大于当前图像2100的宽度,且第三图像2130的高度小于当前图像2100的高度。
因为根据实施例的图像序列中的图像可以具有各种尺寸,所以在使用图像之间的时域冗余进行帧间预测的情况下,有必要考虑图像的尺寸。
获得器2010可以从序列参数集、图片参数集和视频参数集中的至少一个获得待解码的图像的尺寸信息。在实施例中,可以根据用于支持图像的时域可伸缩性的时域标识符(ID)(或时域层标识符)来确定图像的尺寸。当针对每个时域ID预先确定了图像的尺寸时,预测解码器2030可以通过参考从比特流获得的时域ID来确定图像的尺寸。
当包括在当前图像2100中的当前块的预测模式是使用先前解码的图像和当前图像之间的时域冗余的帧间模式时,预测解码器2030可以通过考虑当前图像2100的尺寸和先前解码的图像的尺寸来生成与当前块中的当前样本相对应的预测样本。作为通过根据树结构从图像划分而生成的块的当前块可以对应于例如最大编码单元、编码单元、变换单元或从编码单元划分出的子单元的块。
在实施例中,预测解码器2030可以根据当前图像2100的尺寸来确定从当前图像2100划分出的最大编码单元的尺寸。例如,预测解码器2030可以通过将当前图像2100的尺寸应用于特定计算表达式来确定可从当前图像2100划分的最大编码单元的尺寸。因为根据图像的尺寸自适应地确定最大编码单元的尺寸,所以当具有大尺寸的最大编码单元的数据被写入存储器/从存储器中被读取时出现的存储器上的负载可以减少。
在通过帧间预测生成预测样本之后,当残差数据包括在比特流中时,可以通过将残差数据与预测样本相组合来获得当前块的重构的样本;并且当残差数据不包括在比特流中时,预测样本可以被确定为重构的样本。
在实施例中,当从比特流获得的残差数据被逆量化时,变换器(未示出)可以将逆量化后的残差数据从频域逆变换到空间域。在这种情况下,变换器可以通过使用基于当前图像2100的尺寸从各种变换方法当中选择的变换方法来对残差数据进行逆变换。
变换方法可以包括但不限于,从各种变换核(例如,DCT2型、DST7型和DCT8型)当中自适应地选择一个变换核的多变换选择(multiple transform selection,MTS)方法、执行变换然后选择性地对低频分量执行变换的不可分离二次变换(non-separable secondarytransform,NSST)方法、旋转变换(rotational transform,ROT)方法、离散正弦变换(discrete sine transform,DST)方法和离散余弦变换(discrete cosine transform,DCT)方法。
根据实施例,变换器(未示出)可以根据从比特流获得的指示变换方法的信息、通过使用任何一种变换方法来对残差数据进行逆变换。
预测解码器2030可以通过使用比当前块被更早解码的图像(下文中,先前图像)来配置参考图像列表,从而重构当前块。
在实施例中,预测解码器2030可以通过使用先前图像当中尺寸大于当前图像2100的先前图像和/或尺寸与当前图像2100相同的先前图像来配置参考图像列表。当特定图像大于当前图像2100时,可能意味着该特定图像的宽度和高度两者都大于当前图像2100的宽度和高度。可替代地,当特定图像大于当前图像2100时,可能意味着宽度和高度中的任何一个大于当前图像2100的宽度和高度,而宽度和高度中的另一个与当前图像2100的相同。
当在参考图像列表中选择的参考图像的尺寸大于当前图像2100的尺寸时,参考图像中存在的样本可以用作预测样本。然而,当参考图像的尺寸小于当前图像2100的尺寸时,重构的样本的质量可能降低,因为参考图像的尺寸应该增加,然后应该选择预测样本。换句话说,当当前块的尺寸是3x3并且参考图像的宽度和高度是当前图像2100的宽度和高度的两倍时,可以通过使用参考图像中具有6x6尺寸的块中包括的样本中的一些来获得预测样本。然而,当当前块的尺寸是6x6并且参考图像的宽度和高度是当前图像2100的宽度和高度的1/2时,参考图像中具有3x3尺寸的块应该被上采样为6x6的尺寸,然后应该获得预测样本。也就是说,因为应该通过对参考图像中具有3x3尺寸的块进行上采样来生成参考图像中不存在的新的样本,所以重构的样本的质量可能会降低。因此,预测解码器203可以配置仅包括尺寸与当前图像2100的尺寸相同或更大的先前图像的参考图像列表,以保持根据帧间预测生成的重构的样本的质量。
在另一个实施例中,预测解码器2030可以通过使用先前图像当中尺寸大于当前图像2100的先前图像、尺寸小于当前图像2100的先前图像和/或尺寸与当前图像2100相同的先前图像来配置参考图像列表。
预测解码器2030获得当前块的运动矢量,以从参考图像获得预测样本。为了获得运动矢量,预测解码器2030可以将包括与当前块相关的相邻块的运动矢量的候选列表配置为候选运动矢量。
相邻块可以包括与当前图像2100中的当前块相邻的空域块和位于从包括在参考图像列表中的图像当中选择的并置图像(collocated image)中的时域块。
图22是示出与当前块2200相关的相邻块的位置的图。图23是示出候选列表的表。
参考图22,当前块2200的相邻块可以包括空间上与当前块2200相邻的空域块(例如,A0、A1、B0、B1和B2)和时间上与当前块2200相邻的时域块(例如,Col和Br)。
具体地,空域块可以包括左下块A0、左下块A1、右上块B0、右上块B1和左上块B2中的至少一个。
时域块可以包括并置图像中与当前块位于相同点的块Col和与位于相同点处的块Col空间上相邻的块Br中的至少一个,该并置图像具有不同于包括当前块2200的当前图像2100的图片顺序计数(picture order count,POC)。块Br可以位于与当前块位于相同点的块Col的右下方。与当前块位于相同点的块Col可以是包括在并置图像中的像素当中的、包括与当前块中的中心像素相对应的像素的块。
图22中所示的时域块和空域块的位置仅仅是示例,并且根据实施例,可以以各种方式修改时域块和空域块的位置和数量。
预测解码器2030可以根据特定顺序来确定相邻块的可用性,并且可以根据确定的结果在候选列表中顺序地包括相邻块的运动矢量作为候选运动矢量。
当相邻块被帧内预测时,预测解码器2030可以确定相邻块不可用。
在实施例中,当具有与当前图像2100相同尺寸的图像不存在于包括在参考图像列表中的图像中时,预测解码器2030可以确定时域块不可用。在这种情况下,时域块的运动矢量不包括在候选列表中。相反,当具有与当前图像2100相同尺寸的图像存在于包括在参考图像列表中的图像中时,并置图像中的时域块的运动矢量可以作为候选运动矢量包括在候选列表中。在这种情况下,可以从包括在参考图像列表中的图像当中选择与当前图像具有相同尺寸的图像作为并置图像。
在另一个实施例中,当具有与当前图像2100相同尺寸的先前图像不存在于存储在解码图片缓冲器(DPB)中的先前图像中时,预测解码器2030可以确定时域块不可用,并且可以不在候选列表中包括时域块的运动矢量。相反,当具有与当前图像2100相同尺寸的先前图像存在于存储在DPB中的先前图像中时,预测解码器2030可以在候选列表中包括并置图像中的时域块的运动矢量作为候选运动矢量。在这种情况下,可以从包括在参考图像列表中的图像当中选择与当前图像具有相同尺寸的图像作为并置图像。
当具有与当前图像2100相同尺寸的图像不包括在参考图像列表或DPB中时,时域块的运动矢量不包括在候选列表中的原因是计算复杂度大。具体地,并置图像中的时域块的运动矢量对应于时域块的位置和时域块所参考的块的位置之间的差。当并置图像和时域块的参考图像大于或小于当前图像2100和当前块的参考图像时,时域块的运动矢量应该根据当前图像2100的尺寸而减小或增大。也就是说,应该通过考虑并置图像、时域块的参考图像、当前图像2100和当前块的参考图像中的所有的尺寸来改变时域块的运动矢量。
在图23中,块A1的运动矢量、块B0的运动矢量、块B2的运动矢量和块Col的运动矢量作为候选被包括在候选列表中。
当相邻块的运动矢量包括在候选列表中时,预测解码器2030可以基于由相邻块的运动矢量指示的参考图像的尺寸来确定将运动矢量包括在候选列表中的顺序。
例如,低索引(即,高优先级)可以被分配给具有指示与当前图像2100尺寸相同的参考图像的运动矢量的相邻块,并且高索引(即,低优先级)可以被分配给具有指示尺寸小于当前图像2100的参考图像的运动矢量的相邻块。
在另一个示例中,最低索引(即,最高优先级)可以被分配给具有指示与当前图像2100尺寸相同的参考图像的运动矢量的相邻块,中间索引(即,中等优先级)可以被分配给具有指示尺寸大于当前图像2100的参考图像的运动矢量的相邻块,并且最高索引(即,最低优先级)可以被分配给具有指示尺寸小于当前图像2100的参考图像的运动矢量的相邻块。当每个具有指示尺寸大(或小)于当前图像2100的参考图像的运动矢量的相邻块的数量为2或更多时,较低的索引可以被分配给指示尺寸更接近当前图像2100尺寸的参考图像的运动矢量。
预测解码器2030可以通过使用包括在候选列表中的候选运动矢量当中的、由从比特流获得的信息指示的候选运动矢量来获得当前块的运动矢量。例如,预测解码器2030可以将在候选列表中选择的候选运动矢量确定为当前块的运动矢量。在另一个示例中,预测解码器2030可以通过根据指示从比特流获得的差分运动矢量的信息改变候选运动矢量来获得当前块的运动矢量。
在实施例中,指示从比特流获得的差分运动矢量的信息可以包括指示变化距离的信息和指示变化方向的信息。在这种情况下,预测解码器2030可以通过根据变化距离和变化方向改变在候选列表中选择的候选运动矢量来获得当前块的运动矢量。
指示变化距离的信息可以包括索引,并且可以预先确定与每个索引值相对应的变化距离。例如,为0的索引可以指示为1的变化距离,为1的索引可以指示为2的变化距离,并且为2的索引可以指示为4的变化距离。
预测解码器2030可以通过考虑当前图像2100的尺寸来缩放与索引值相对应的变化距离。例如,当当前图像2100的尺寸等于或大于预设尺寸时,预测解码器2030可以增加与每个索引相对应的变化距离。在另一个示例中,当当前图像2100的高度等于或大于预设值并且当前图像2100的宽度小于预设值时,预测解码器2030可以在变化方向是高度方向时增加与每个索引相对应的变化距离,并且可以在变化方向是宽度方向时保持与每个索引相对应的变化距离。
因为根据实施例的预测解码器2030通过考虑当前图像2100的各种尺寸来自适应地确定变化距离,所以预测解码器2030可以更准确地确定当前块的运动矢量。
预测解码器2030可以通过考虑当前块的运动矢量来选择参考图像中的参考样本,并且可以通过使用参考样本来重构当前块。参考样本可以是参考图像中的整数像素。
现在将参考图24和图25来描述选择参考图像中的参考样本的方法。
图24示出了当参考图像2400的尺寸与当前图像2100的尺寸相同时选择参考样本2450的方法。
当当前块2200的尺寸是2x2并且当前图像2100和参考图像2400具有相同的尺寸时,参考样本2450的尺寸也应该是2x2。这是因为四个预测样本用于重构四个当前样本的值。当参考样本2450的尺寸是2x2时,意味着包括参考样本2450的块的尺寸是2x2。此外,当当前图像2100和参考图像2400具有相同的尺寸时,意味着当前图像2100的宽度和高度与参考图像2400的宽度和高度相同。
预测解码器2030通过将当前块2200的运动矢量mv应用于包括在当前块2200中的当前样本当中位于左上的左上当前样本2201的位置,来选择参考图像2400中的左上参考样本2451。接下来,预测解码器2030可以通过选择与左上参考样本2451相邻的剩余参考样本来获得具有2x2尺寸的参考样本2450。
在图24中,发现因为参考图像2400和当前图像2100具有相同的尺寸,所以参考样本2450彼此相邻。也就是说,参考样本2450当中的一个参考样本与最接近该参考样本的参考样本隔开距离(或坐标值)1。例如,当该参考样本的位置是(a,b)时,位于该参考样本右边的参考样本的位置可以是(a+1,b),并且位于该参考样本下方的参考样本的位置可以是(a,b+1)。
预测解码器2030可以通过使用n抽头滤波器(n是自然数,例如,8)对参考样本2450进行滤波来生成经滤波的样本,并且可以从经滤波的样本中确定当前块2200的预测样本。经滤波的样本可以是分数像素。在诸如HEVC的编解码器中使用通过使用整数像素来生成分数像素的插值,因此将省略对其的详细描述。
在实施例中,当参考图像2400的尺寸与当前图像2100的尺寸相同时,预测解码器2030可以不对参考样本2450进行滤波,并且可以从参考样本2450确定预测样本。例如,预测解码器2030可以将参考样本2450确定为预测样本、或者可以调整参考样本2450的样本值,然后可以生成具有调整后的值的预测样本。
可替代地,在实施例中,当参考图像2400的尺寸与当前图像2100的尺寸相同并且指示分数像素的位置的值不为0时,预测解码器2030可以通过使用n抽头滤波器(n是自然数)对参考样本2450进行滤波来生成经滤波的样本,并且可以从经滤波的样本生成当前块2200的预测样本。当指示分数像素的位置的值为0时,预测解码器2030可以不对参考样本2450进行滤波,并且可以从参考样本2450生成预测样本。指示分数像素的位置的值可以基于当前块2100的运动矢量、根据预定算术表达式来计算。
图25示出了当参考图像2500的尺寸大于当前图像2100的尺寸时选择参考样本的方法。
当当前块2200的尺寸是2x2并且参考图像2500的宽度和高度是当前图像2100的宽度和高度的两倍时,参考图像2500中与当前块2200相对应的块2550的尺寸是4x4。因为预测样本的数量应该与当前样本的数量相同,所以具有4x4尺寸的块2550应该被下采样为2x2的尺寸。
在实施例中,预测解码器2030通过将运动矢量mv应用于当前块2200中左上当前样本2201的位置来确定位置2501。因为参考图像2500的尺寸是当前图像2100的尺寸的两倍,所以由运动矢量指示的位置2501应该根据参考图像2500和当前图像2100之间的尺寸比较的结果而改变。也就是说,预测解码器2030可以根据尺寸比较结果,来改变通过将运动矢量应用于左上当前样本2201的位置而确定的位置2501,并且可以选择与改变后的位置相对应的样本作为左上参考样本2551。尺寸比较结果可以是参考图像2500的宽度和当前图像2100的宽度之间的比以及参考图像2500的高度和当前图像2100的高度之间的比。
参考图25,当运动矢量是(0,0)时,通过将运动矢量应用于左上当前样本2201的位置(2,2)而确定的位置是(2,2)。当(2,2)乘以2(其是参考图像2500的高度和当前图像2100的高度之间的比)和2(其是参考图像2500的宽度和当前图像2100的宽度之间的比)时,可以导出位置(4,4),并且可以识别与位置(4,4)相对应的左上参考样本2551。当参考图像2500的高度和当前图像2100的高度之间的比为2并且参考图像2500的宽度和当前图像2100的宽度之间的比为1时,可以识别具有通过将(2,2)乘以2和1而导出的位置(4,2)的左上参考样本。
当选择了左上参考样本2551时,预测解码器2030可以选择与左上参考样本2551隔开特定间隔的剩余参考样本2552、2553和2554。可以根据参考图像2500和当前图像2100之间的尺寸比较的结果来确定该特定间隔。尺寸比较结果可以是参考图像2500的宽度和当前图像2100的宽度之间的比以及参考图像2500的高度和当前图像2100的高度之间的比。例如,当参考图像2500的高度和当前图像2100的高度之间的比是2,并且参考图像2500的宽度和当前图像2100的宽度之间的比是2时,该特定间隔可以被确定为在高度方向上为2,并且在宽度方向上为2。
预测解码器2030可以根据当前样本的数量来选择与左上参考样本2551隔开特定间隔的参考样本2552、2553和2554。参考图25,预测解码器2030可以选择具有位置(4,4)的左上参考样本2551、具有位置(6,4)的参考样本2552、具有位置(4,6)的参考样本2553以及具有位置(6,6)的参考样本2554。
当从尺寸不同于当前图像2100的参考图像2500获得了参考样本2551、2552、2553和2554时,预测解码器2030可以通过考虑当前图像2100和参考图像2500之间的尺寸比较的结果,来将n抽头滤波器(n是自然数,例如,6、8或10)应用于参考样本2551、2552、2553和2554。作为对参考样本2551、2552、2553和2554进行滤波的结果而生成的经滤波的样本可以包括整数像素和分数像素中的至少一种。
在实施例中,预测解码器2030可以根据当前图像2100和参考图像2500之间的尺寸比较的结果(例如,高度比和宽度比)来选择要用于对参考样本2551、2552、2553和2554中的每一个进行滤波的n抽头滤波器的系数。
例如,当当前图像2100和参考图像2500之间的高度(或宽度)比等于或大于预设值时,预测解码器2030可以通过使用滤波器“a”来对参考样本2551、2552、2553和2554中的每一个进行滤波,并且当当前图像2100和参考图像2500之间的高度(或宽度)比小于预设值时,预测解码器2030可以通过使用滤波器“b”来对参考样本2551、2552、2553和2554中的每一个进行滤波。滤波器“a”的滤波器系数可以不同于滤波器“b”的滤波器系数。
图26是示出根据当前图像2100和参考图像之间的尺寸比较的结果的滤波器系数的表。
如图26所示,当当前图像2100和参考图像之间的高度(或宽度)比等于或大于1.75时,可以通过对参考样本应用具有0、-5、15、41、19、-5、-1和0的滤波器系数的8抽头滤波器来生成经滤波的样本。当当前图像2100和参考图像之间的高度(或宽度)比等于或大于1.25且小于1.75时,可以通过对参考样本应用具有-4、0、19、29、21、5、-4和-2的滤波器系数的8抽头滤波器来生成经滤波的样本。此外,当当前图像2100和参考图像之间的高度(或宽度)比小于1.25时,可以通过对参考样本应用具有0、1、-3、63、4、-2、1、0的滤波器系数的8抽头滤波器来生成经滤波的样本。
尽管在图26中仅示出了与当前图像2100和参考图像之间的尺寸比中的每一个相对应的一个滤波器系数集,但是如下面参考图29所述的,可以为每个尺寸比指定与指示分数像素的值相对应的若干个滤波器系数集。
图27A至图27D示出了通过将n抽头滤波器应用于图25的参考样本2551、2552、2553和2554来生成经滤波的样本的方法。
尽管在图27A至图27D中,宽度方向上的滤波器被应用于位于参考样本2551、2552、2553和2554的左边和右边的样本,但是宽度方向上的滤波器的滤波器系数可以根据当前图像2100的宽度和参考图像的宽度之间的比来确定。
当高度方向上的滤波器被应用于位于参考样本2551、2552、2553和2554上方和下方的样本时高度方向上的滤波器的滤波器系数可以根据当前图像2100的高度和参考图像的高度之间的比来确定。
如图27A所示,通过对第一参考样本2551和相邻样本应用滤波器2610,生成与第一参考样本2551相对应的经滤波的样本。如图27B所示,通过对第二参考样本2552和相邻块应用滤波器2610,生成与第二参考样本2552相对应的经滤波的样本。类似地,如图27C和图27D所示,通过对第三参考样本2553和相邻样本以及第四参考样本2554和相邻样本应用滤波器2610,生成与第三参考样本2553和第四参考样本2554相对应的经滤波的样本。
根据实施例,对与当前块2200相对应的块的下采样和插值可以简单地通过以特定间隔应用n抽头滤波器来执行。
尽管图25中参考图像2500中与当前块2200相对应的块2550以块为单位被下采样,但是根据实施例,当参考图像2500的尺寸不同于当前图像2100的尺寸时,可以执行下采样或上采样,使得参考图像2500的尺寸与当前图像2100的尺寸相同,然后可以如图24的方法所示地选择参考样本。
图28是用于描述当参考图像的尺寸和当前图像的尺寸彼此不同时生成预测样本的方法的图。图29是示出用于对图28的参考样本进行滤波的n抽头滤波器的滤波器系数的表。
在图28中,r0至r15可以指示参考图像中的整数像素,而c0至c9可以指示当前图像中的整数像素。
当假设当前图像和参考图像包括一维样本时,可以根据运动矢量以及当前图像和参考图像之间的尺寸比较的结果来选择与当前样本c3、c4、c5和c6对应的参考样本r5、r6、r8和r10。
如上所述,当参考图像的尺寸大于当前图像的尺寸时,参考样本r5、r6、r8和r10可以以与参考图像和当前图像之间的尺寸比较的结果(例如尺寸比)的间隔隔开。在图28中,因为假设参考图像和当前图像之间的尺寸比是1.6并且不是自然数,所以r5和r6可以彼此相邻,并且r6和r8以及r8和r10可以彼此间隔为2的距离。
当参考图像以1/16像素为单位被插值时,分别与r5、r6、r8和r10相对应的分数像素的位置可以是3、13、6和0。可以基于包括当前样本c3、c4、c5和c6的当前块的运动矢量、根据预先确定的算术表达式来计算指示分数像素的位置的值。
在图29中,通过将与分数像素的位置相对应的滤波器系数应用于参考图像中的整数像素,预测解码器2030可以获得与分数像素的位置相对应的经滤波的样本,即预测样本p3、p4、p5和p6。
预测解码器2030可以根据等式1获得预测样本p3、p4、p5和p6。
【等式1】
p3=(r2*fL[3][0]+r3*fL[3][1]+r4*fL[3][2]+r5*fL[3][3]+r6*fL[3][4]+r7*fL[3][5]+r8
*fL[3][6]+r9*fL[3][7]+offset)>>shift
p4=(r3*fL[13][0]+r4*fL[13][1]+r5*fL[13][2]+r6*fL[13][3]+r7*fL[13][4]+r8*fL[13][5]
+r9*fL[13][6]+r10*fL[13][7]+offset)>>shift
p5=(r5*fL[6][0]+r6*fL[6][1]+r7*fL[6][2]+r8*fL[6][3]+r9*fL[6][4]+r10*fL[6][5]+r11
*fL[6][6]+r12*fL[6][7]+offset)>>shift
p6=(r7*fL[0][0]+r8*fL[0][1]+r9*fL[0][2]+r10*fL[0][3]+r11*fL[0][4]+r12*fL[0][5]+r13
*fL[0][6]+r14*fL[0][7]+offset)>>shift
等式1中shift为“位移”,offset为“偏移”。
在等式1中,shift是预定值。参考等式1,发现即使当与r10相对应的分数像素的位置为0时,即当指示整数像素时,也将8抽头滤波器应用于相邻整数像素。尽管已经描述了当当前图像和参考图像的尺寸相同并且指示分数像素的位置的值为0时不将n抽头滤波器应用于参考样本,但是因为在图28中当前图像和参考图像的尺寸彼此不同,所以即使当指示分数像素的位置的值为0时,相邻样本也被滤波以提高预测准确度。
当当前块的预测模式是组合的帧间-帧内预测(combined inter-intraprediction,CIIP)模式时,预测解码器2030可以通过对通过帧间预测而获得的预测样本(被称为帧间预测样本)和通过帧内预测而获得的预测样本(被称为帧内预测样本)进行加权求和来重构当前块。在这种情况下,可以预先确定分别要应用于帧间预测样本和帧内预测样本的权重,并且要应用于帧间预测样本的权重和要应用于帧内预测样本的权重之和可以是恒定的。
预测解码器2030可以根据当前图像2100和参考图像之间的尺寸比较的结果来改变要应用于帧间预测样本和帧内预测样本的权重。
例如,当参考图像的尺寸小于当前图像2100的尺寸时,即,当参考图像中的块应该被上采样以用于帧间预测时,预测解码器2030可以减小要应用于帧间预测样本的权重,并且可以增加要应用于帧内预测样本的权重。这是因为,当块被上采样时,帧间预测样本的可靠性降低。
在另一个实施例中,当参考图像的尺寸等于或大于当前图像2100的尺寸时,预测解码器2030可以增加要应用于帧间预测样本的权重,并且可以减小要应用于帧内预测样本的权重。这是因为从尺寸大于或等于当前图像2100的参考图像获得的预测样本具有高可靠性。
在另一个实施例中,当参考图像的尺寸等于或大于当前图像2100的尺寸时,预测解码器2030增加要应用于帧间预测样本的权重。在这种情况下,当参考图像的尺寸与当前图像2100的尺寸相同时的权重增量可以大于当参考图像的尺寸大于当前图像2100的尺寸时的权重增量。
在另一个实施例中,当参考图像的尺寸与当前图像2100的尺寸相同时,预测解码器2030可以增加要应用于帧间预测样本的权重,并且可以减小要应用于帧内预测样本的权重。相反,当参考图像的尺寸不同于当前图像2100的尺寸时,预测解码器2030可以减小要应用于帧间预测样本的权重,并且可以增加要应用于帧内预测样本的权重。
在另一个实施例中,预测解码器2030可以根据参考图像和当前图像2100之间的尺寸比来确定要应用于帧间预测样本的权重,并且可以基于所确定的权重来确定要应用于帧内预测样本的权重。也就是说,预测解码器2030可以根据参考图像和当前图像2100之间的尺寸比来自适应地确定权重。
在实施例中,当当前块的预测模式是使用包括在参考图像列表0中的第一参考图像和包括在参考图像列表1中的第二参考图像的双向预测模式时,预测解码器2030可以通过对从第一参考图像获得的第一预测样本和从第二参考图像获得的第二预测样本进行加权求和来重构当前块。在这种情况下,可以预先确定分别要应用于第一预测样本和第二预测样本的权重,并且要应用于第一预测样本的权重和要应用于第二预测样本的权重之和可以是恒定的。
预测解码器2030可以根据第一参考图像和第二参考图像之间的尺寸比较的结果来改变要应用于第一预测样本和第二预测样本的权重。
例如,当第一参考图像的尺寸等于或大于当前图像2100的尺寸并且第二参考图像的尺寸小于当前图像2100的尺寸时,预测解码器2030可以增加要应用于第一预测样本的权重,并且可以减小要应用于第二预测样本的权重。
在另一个实施例中,当第一参考图像的尺寸与当前图像2100的尺寸相同并且第二参考图像的尺寸不同于当前图像2100的尺寸时,预测解码器2030可以增加要应用于第一预测样本的权重,并且可以减小要应用于第二预测样本的权重。
在实施例中,当当前块的预测模式是仿射跳过(affine skip)模式或仿射合并(affine merge)模式时,预测解码器2030可以通过使用包括在参考图像列表0中的第一参考图像或包括在参考图像列表1中的第二参考图像来单向地预测当前块。当指示从比特流获得的当前块的预测方向的信息指示双向时,预测解码器2030可以选择包括在参考图像列表0中的第一参考图像和包括在参考图像列表1中的第二参考图像中的任何一个,并且可以通过使用所选择的参考图像来单向地预测当前块。
具体地,当当前块的预测方向是双向的时,预测解码器2030可以通过使用第一参考图像和第二参考图像当中尺寸与当前图像2100相同的参考图像来单向地预测当前块。当第一参考图像和第二参考图像两者都具有不同于当前图像2100的尺寸时,预测解码器2030可以通过使用两个参考图像当中尺寸大于当前图像2100的参考图像来单向地预测当前块;或者当第一参考图像和第二参考图像两者都具有大于当前图像2100的尺寸时,预测解码器2030可以通过使用尺寸更接近当前图像2100的参考图像来单向地预测当前块。
当当前块的预测方向是单向的并且从比特流中识别出的参考图像的尺寸小于当前图像2100的尺寸时,预测解码器2030可以通过使用包括在参考图像列表中的图像当中尺寸等于或大于当前图像2100的图像(而不使用从比特流中识别出的参考图像)作为参考图像,来单向地预测当前块。
当获得指示当前块的预测模式的信息时,获得器2010可以考虑当前图像2100和/或参考图像的尺寸。
例如,当当前图像2100和/或参考图像的尺寸等于或小于预设尺寸时,获得器2010可以不从比特流获得指示是否应用特定预测模式的信息(例如,标志)。作为使用图像之间的时域冗余的模式的特定预测模式(即使用运动矢量的模式)可以是例如但不限于合并模式、跳过模式、CIIP模式、仿射模式、解码器侧运动矢量细化(decoder-side motion vectorrefinement,DMVR)模式或双向预测模式。DMVR模式是其中解码器通过块匹配等直接校正从编码器信令通知的信息获得的运动矢量的模式。
在另一个实施例中,当当前图像2100和/或参考图像的尺寸等于或小于预设尺寸时,如果从指示是否应用其他预测模式的信息中识别出其他预测模式未被应用于当前块,则获得器2010可以从比特流中获得指示是否应用特定预测模式的信息。也就是说,获得器2010可以延迟获得指示是否应用特定预测模式的信息的顺序。
在另一个实施例中,当参考图像的尺寸和当前图像2100的尺寸彼此不同时,获得器2010可以不从比特流获得指示是否应用特定预测的信息(例如,标志)。特定预测模式可以是例如但不限于合并模式、跳过模式、CIIP模式、仿射模式、DMVR模式或双向预测模式。
在另一个示例中,当参考图像的尺寸和当前图像2100的尺寸彼此不同时,如果从指示是否应用其他预测模式的信息中识别出其他预测模式未被应用于当前块,则获得器2010可以从比特流中获得指示是否应用特定预测模式的信息。
图30是用于描述根据实施例的图像解码方法的图。
在操作S3010中,图像解码装置2000将包括当前块的当前图像2100的尺寸与参考图像的尺寸进行比较。作为尺寸比较的结果,图像解码装置2000可以导出当前图像和参考图像之间的尺寸比。
在实施例中,图像解码装置2000可以根据包括在比特流中的尺寸信息来识别当前图像2100的尺寸和参考图像的尺寸。尺寸信息可以是图像的时域ID。在这种情况下,图像解码装置2000可以根据当前图像2100的时域ID和参考图像的时域ID来识别当前图像2100的尺寸和参考图像的尺寸。
图像解码装置2000可以配置包括在当前图像2100之前被解码的图像的参考图像列表,并且可以从包括在参考图像列表中的图像当中选择从包括在比特流中的信息识别出的图像作为当前块的参考图像。
在操作S3020中,图像解码装置2000根据当前块的运动矢量,在参考图像中选择与当前块中的当前样本相对应的参考样本。当参考图像的尺寸大于当前图像2100的尺寸时,参考样本可以在参考图像中隔开与当前图像2100和参考图像之间的尺寸比较的结果相对应的间隔。
已经参考图24和图25描述了通过考虑当前图像2100和参考图像之间的尺寸比来选择参考样本的方法,因此将省略对其的详细描述。
为了确定当前块的运动矢量,图像解码装置2000可以将包括与当前块相关的相邻块的运动矢量的候选列表配置为候选运动矢量。相邻块可以包括与当前图像2100中的当前块相邻的空域块和位于从包括在参考图像列表中的图像当中选择的并置图像中的时域块。
在实施例中,当具有与当前图像2100相同尺寸的图像不存在于包括在参考图像列表中的图像中时,图像解码装置2000可以确定时域块不可用。在这种情况下,时域块的运动矢量不包括在候选列表中。相反,当具有与当前图像2100相同尺寸的图像存在于包括在参考图像列表中的图像中时,并置图像中的块的运动矢量可以作为候选运动矢量包括在候选列表中。在这种情况下,可以从包括在参考图像列表中的图像当中选择与当前图像具有相同尺寸的图像作为并置图像。
在另一个实施例中,当具有与当前图像2100相同尺寸的先前图像不存在于存储在解码图片缓冲器(DPB)中的先前图像中时,图像解码装置2000可以确定时域块不可用,并且可以不在候选列表中包括时域块的运动矢量。相反,当具有与当前图像2100相同尺寸的先前图像存在于存储在DPB中的先前图像中时,图像解码装置2000可以在候选列表中包括并置图像中的块的运动矢量作为候选运动矢量。在这种情况下,可以从包括在参考图像列表中的图像当中选择与当前图像具有相同尺寸的图像作为并置图像。
在操作S3030中,图像解码装置2000基于参考样本来重构当前块。
图像解码装置2000可以通过对参考样本进行插值来生成经滤波的样本,并且可以从经滤波的样本生成当前块的预测样本。可以根据当前图像2100和参考图像之间的尺寸比较的结果来选择用于对参考样本进行插值的滤波器系数。
当残差数据包括在比特流中时,图像解码装置2000可以通过将残差数据与预测样本相结合来生成当前块的重构的样本,并且当残差数据不包括在比特流中时,图像解码装置2000可以将预测样本确定为重构的样本。
图31是示出根据实施例的图像编码装置3100的配置的框图。
参考图31,图像编码装置3100可以包括预测编码器3110和生成器3130。图31的预测编码器3110可以对应于图2的编码器220,并且生成器3130可以对应于图2的比特流生成器210。
根据实施例的预测编码器3110和生成器3130可以被实现为至少一个处理器。图像编码装置3100可以包括存储预测编码器3110和生成器3130的输入/输出数据的一个或多个存储器(未示出)。此外,图像编码装置3100可以包括控制存储器(未示出)的数据输入/输出的存储器控制器(未示出)。
预测编码器3110根据预测模式对图像进行编码,并且生成器3130生成包括作为对图像进行编码的结果而生成的信息的比特流。
预测编码器3110可以确定在当前图像2100中确定的当前块的预测模式。当前块的预测模式可以包括帧内模式、合并模式、高级运动矢量预测(advanced motion vectorprediction,AMVP)模式、跳过模式、CIIP模式、仿射模式、解码器侧运动矢量细化(DMVR)模式或双向预测模式。
在实施例中,预测编码器3110可以通过考虑当前图像2100和/或参考图像的尺寸来确定当前块的预测模式。
例如,当当前图像2100和/或参考图像的尺寸等于或小于预设尺寸时,预测编码器3110可以确定特定预测模式未被应用于当前块,并且生成器3130可以不在比特流中包括指示是否应用特定预测模式的信息(例如,标志)。作为使用图像之间的时域冗余的模式的特定预测模式(即使用运动矢量的模式)可以是例如但不限于合并模式、跳过模式、CIIP模式、仿射模式、解码器侧运动矢量细化(DMVR)模式或双向预测模式。
在另一个示例中,当当前图像2100和/或参考图像的尺寸等于或小于预设尺寸并且确定其他预测模式未被应用于当前块时,预测编码器3110可以确定是否将特定预测模式应用于当前块,并且生成器3130可以在比特流中包括指示是否应用特定预测模式的信息(例如,标志)。也就是说,可以延迟确定是否应用特定预测模式的顺序。
在另一个示例中,当参考图像的尺寸和当前图像2100的尺寸彼此不同时,预测编码器3110可以确定特定预测模式未被应用于当前块,并且生成器3130可以不在比特流中包括指示是否应用特定预测模式的信息。
在另一个示例中,当参考图像的尺寸和当前图像2100的尺寸彼此不同并且确定其他预测模式未被应用于当前块时,预测编码器3110可以确定是否将特定预测模式应用于当前块,并且生成器3130可以在比特流中包括指示是否应用特定预测模式的信息。
当包括在当前图像2100中的当前块的预测模式是使用当前图像2100和先前解码的图像之间的时域冗余的模式时,预测编码器3110可以通过考虑当前图像2100的尺寸和先前解码的图像的尺寸来生成与当前块中的当前样本相对应的预测样本。作为通过根据树结构从图像划分而生成的块的当前块可以对应于例如最大编码单元、编码单元、变换单元或从编码单元划分出的子单元的块。
在实施例中,预测编码器3110可以根据当前图像2100的尺寸来确定从当前图像2100划分出的最大编码单元的尺寸。例如,预测编码器3110可以通过将当前图像的尺寸应用于特定算术表达式来确定可从当前图像2100划分的最大编码单元的尺寸。
预测编码器3110可以通过使用比当前块被更早编码的图像(以下被称为先前图像)来配置参考图像列表,从而对当前块进行编码。
在实施例中,预测编码器3110可以通过使用先前图像当中尺寸大于和/或等于当前图像2100的先前图像来配置参考图像列表。
在另一个实施例中,预测编码器3110可以通过使用先前图像当中尺寸大于当前图像的先前图像、尺寸小于当前图像2100的先前图像和/或尺寸与当前图像2100相同的先前图像来配置参考图像列表。
预测编码器3110可以通过搜索参考图像来选择类似于当前块的参考样本,并且可以对指示所选择的参考样本的运动矢量进行编码。
如图24所示,当当前图像2100的尺寸和参考图像的尺寸相同时,预测编码器3110在参考图像中选择与包括在当前块中的当前样本相对应的参考样本。
预测编码器3110可以通过对参考样本进行滤波来生成经滤波的样本,并且可以基于经滤波的样本来获得当前块的预测样本。
如图25所示,当参考图像的尺寸大于当前图像2100的尺寸时,预测编码器3110可以选择参考图像中隔开特定间隔的参考样本。可以根据参考图像和当前图像2100之间的尺寸比较的结果来确定特定间隔,并且尺寸比较结果可以是参考图像的宽度和当前图像2100的宽度之间的比以及参考图像的高度和当前图像2100的高度之间的比。例如,当参考图像的高度和当前图像2100的高度之间的比为2,并且参考图像的宽度和当前图像2100的宽度之间的比为2时,特定间隔可以被确定为在高度方向上为2,并且在宽度方向上为2。
当从尺寸不同于当前图像2100的参考图像获得参考样本时,预测编码器3110可以通过考虑当前图像2100和参考图像之间的尺寸比较的结果,通过使用n抽头滤波器来对参考样本进行滤波。n抽头滤波器可以是例如6抽头滤波器、8抽头滤波器或10抽头滤波器。
在实施例中,预测编码器3110可以根据当前图像2100和参考图像之间的尺寸比较的结果(例如,高度比和宽度比)来选择用于对参考样本进行滤波的滤波器的系数。
例如,当当前图像2100和参考图像之间的高度(或宽度)比等于或大于预设值时,预测编码器3110可以通过使用滤波器“a”来对参考样本进行滤波,并且当当前图像2100和参考图像之间的高度(或宽度)比小于预设值时,预测编码器3110可以通过使用滤波器“b”来对参考样本进行滤波。滤波器“a”的滤波器系数可以不同于滤波器“b”的滤波器系数。
当当前块的预测模式是组合的帧间-帧内预测(CIIP)模式时,预测编码器3110可以通过对通过帧间预测获得的预测样本(被称为帧间预测样本)和通过帧内预测获得的预测样本(被称为帧内预测样本)进行加权求和来对当前块进行编码。在这种情况下,可以预先确定要应用于帧间预测样本和帧内预测样本的权重,并且要应用于帧间预测样本的权重和要应用于帧内预测样本的权重之和可以是恒定的。
预测编码器3110可以根据当前图像2100和参考图像之间的尺寸比较的结果来改变要应用于帧间预测样本和帧内预测样本的权重。
例如,当参考图像的尺寸小于当前图像2100的尺寸时,预测编码器3110可以减小要应用于帧间预测样本的权重,并且可以增加要应用于帧内预测样本的权重。
在另一个示例中,当当前图像的尺寸等于或大于当前图像2100的尺寸时,预测编码器3110可以增加要应用于帧间预测样本的权重,并且可以减小要应用于帧内预测样本的权重。
在另一个示例中,当参考图像的尺寸等于或大于当前图像2100的尺寸时,预测编码器3110增加要应用于帧间预测样本的权重。在这种情况下,当参考图像的尺寸与当前图像2100的尺寸相同时的权重增量可以大于当参考图像的尺寸大于当前图像2100的尺寸时的权重增量。
在另一个示例中,当参考图像的尺寸与当前图像2100的尺寸相同时,预测编码器3110可以增加要应用于帧间预测样本的权重,并且可以减小要应用于帧内预测样本的权重。相反,当参考图像的尺寸不同于当前图像2100的尺寸时,预测编码器3110可以减小要应用于帧间预测样本的权重,并且可以增加要应用于帧内预测样本的权重。
在另一个示例中,预测编码器3110可以根据参考图像和当前图像2100之间的尺寸比来确定要应用于帧间预测样本的权重,并且可以基于所确定的权重来确定要应用于帧内预测样本的权重。
在实施例中,当当前块的预测模式是使用包括在参考图像列表0中的第一参考图像和包括在参考图像列表1中的第二参考图像的双向预测模式时,预测编码器3110可以通过对从第一参考图像获得的第一预测样本和从第二参考图像获得的第二预测样本进行加权求和来重构当前块。在这种情况下,可以预先确定要应用于第一预测样本和第二预测样本的权重,并且要应用于第一预测样本的权重和要应用于第二预测样本的权重之和可以是恒定的。
预测编码器3110可以根据第一参考图像和第二参考图像之间的尺寸比较的结果来改变要应用于第一预测样本和第二预测样本的权重。
例如,当第一参考图像的尺寸等于或大于当前图像2100的尺寸并且第二参考图像的尺寸小于当前图像2100的尺寸时,预测编码器3110可以增加要应用于第一预测样本的权重,并且可以减小要应用于第二预测样本的权重。
在另一个示例中,当第一参考图像的尺寸小于当前图像2100的尺寸并且第二参考图像的尺寸大于或等于当前图像2100的尺寸时,预测编码器3110可以减小要应用于第一预测样本的权重,并且可以增加要应用于第二预测样本的权重。
在另一个示例中,当第一参考图像的尺寸与当前图像2100的尺寸相同并且第二参考图像的尺寸不同于当前图像2100的尺寸时,预测编码器3110可以增加要应用于第一预测样本的权重,并且可以减小要应用于第二预测样本的权重。
在另一个实施例中,当当前块的预测模式是仿射跳过模式或仿射合并模式时,预测编码器3110可以通过使用包括在参考图像列表0中的第一参考图像或包括在参考图像列表1中的第二参考图像来单向地预测当前块。当确定当前块的预测方向是双向的时,预测编码器3110可以选择包括在参考图像列表0中的第一参考图像和包括在参考图像列表1中的第二参考图像中的任何一个,并且可以通过使用所选择的一个参考图像来单向地预测当前块。
详细地,当当前块的预测方向是双向的时,预测编码器3110可以通过使用第一参考图像和第二参考图像当中尺寸与当前图像2100相同的参考图像来单向地预测当前块。当第一参考图像和第二参考图像两者都具有不同于当前图像2100的尺寸时,预测编码器3110可以通过使用两个参考图像当中尺寸大于当前图像2100的参考图像来单向地预测当前块;或者当两个参考图像都具有大于当前图像2100的尺寸时,预测编码器3110可以通过使用两个参考图像当中尺寸更接近当前图像2100的参考图像来单向地预测当前块。
当当前块的预测方向是单向的并且当前块的参考图像的尺寸小于当前图像2100的尺寸时,预测编码器3110可以通过使用包括在参考图像列表中的图像当中尺寸等于或大于当前图像2100的图像(而不使用当前块的参考图像)作为参考图像,来单向地预测当前块。
预测编码器3110获得用于指示从参考图像获得的预测样本的、当前块的运动矢量。为了获得运动矢量,预测解码器2030可以将包括与当前块相关的相邻块的运动矢量的候选列表配置为候选运动矢量。
相邻块可以包括与当前图像2100中的当前块相邻的空域块和位于从包括在参考图像列表中的图像当中选择的并置图像中的时域块。
如图22所示,当前块的相邻块可以包括空间上与当前块相邻的空域块A0、A1、B0、B1和B2以及时间上与当前块相邻的时域块Col和Br。
预测编码器3110可以根据特定顺序确定相邻块的可用性,并且可以在候选列表中顺序地包括相邻块的运动矢量作为候选运动矢量。
当相邻块被帧内预测时,预测编码器3110可以确定相邻块不可用。
在实施例中,当具有与当前图像2100相同尺寸的图像不存在于包括在参考图像列表中的图像中时,预测解码器3110可以确定时域块不可用。在这种情况下,时域块的运动矢量不包括在候选列表中。相反,当具有与当前图像2100相同尺寸的图像存在于包括在参考图像列表中的图像中时,并置图像中的块的运动矢量可以作为候选运动矢量包括在候选列表中。
在另一个实施例中,当具有与当前图像2100相同尺寸的先前图像不存在于存储在解码图片缓冲器(DPB)中的先前图像中时,预测解码器3110可以确定时域块不可用,并且可以不在候选列表中包括时域块的运动矢量。相反,当具有与当前图像2100相同尺寸的先前图像存在于存储在DPB中的先前图像中时,预测解码器3110可以在候选列表中包括并置图像中的块的运动矢量作为候选运动矢量。
当相邻块的运动矢量包括在候选列表中时,预测解码器3110可以基于由相邻块的运动矢量指示的参考图像的尺寸来确定将运动矢量包括在候选列表中的顺序。例如,低索引(即,高优先级)可以被分配给具有指示与当前图像2100尺寸相同的参考图像的运动矢量的相邻块,并且高索引(即,低优先级)可以被分配给具有指示尺寸小于当前图像2100的参考图像的运动矢量的相邻块。在另一个示例中,最低索引(即,最高优先级)可以被分配给具有指示与当前图像2100尺寸相同的参考图像的运动矢量的相邻块,中间索引(即,中等优先级)可以被分配给具有指示尺寸大于当前图像2100的参考图像的运动矢量的相邻块,并且最高索引(即,最低优先级)可以被分配给具有指示尺寸小于当前图像2100的参考图像的运动矢量的相邻块。当每个具有指示尺寸大(或小)于当前图像2100的参考图像的运动矢量的相邻块的数量为2或更多时,较低的索引可以被分配给指示尺寸更接近当前图像2100尺寸的参考图像的运动矢量。
预测编码器3110可以生成指示包括在候选列表中的候选运动矢量当中的、用作当前块的运动矢量的候选运动矢量的信息。在实施例中,预测编码器3110可以生成指示差分运动矢量的信息。差分运动矢量对应于当前块的运动矢量和候选运动矢量之间的差。
在实施例中,指示差分运动矢量的信息可以包括指示变化距离的信息和指示变化方向的信息。在这种情况下,图像解码装置2000可以通过根据变化距离和变化方向改变在候选列表中选择的候选运动矢量来获得当前块的运动矢量。
指示变化距离的信息可以包括索引,并且可以预先确定与每个索引值相对应的变化距离。例如,为0的索引可以指示为1的变化距离,为1的索引可以指示为2的变化距离,并且为2的索引可以指示为4的变化距离。
预测解码器3110可以通过考虑当前图像2100的尺寸来缩放与索引值相对应的变化距离。例如,当当前图像2100的尺寸等于或大于预设尺寸时,预测解码器3110可以增加与每个索引相对应的变化距离。在另一个示例中,当当前图像2100的高度等于或大于预设值并且当前图像2100的宽度小于预设值时,预测解码器3110可以在变化方向是高度方向时增加与每个索引相对应的变化距离,并且可以在变化方向是宽度方向时保持与每个索引相对应的变化距离。
当获得了当前块的当前样本和预测样本之间的残差数据时,变换器(未示出)可以将残差数据从空间域改变到频域。在这种情况下,变换器可以通过使用基于当前图像2100的尺寸从各种变换方法当中选择的变换方法来对残差数据进行逆变换。变换方法可以包括但不限于,从各种变换核(例如,DCT2型、DST7型和DCT8型)当中自适应地选择一个变换核的多变换选择(MTS)方法、执行变换然后选择性地对低频分量执行变换的不可分离二次变换(NSST)方法、旋转变换(ROT)方法、离散正弦变换(DST)方法和离散余弦变换(DCT)方法。
生成器3130将比特流生成为对图像进行编码的结果。比特流可以包括语法元素,并且根据图像的层级结构,与语法元素相对应的二进制值可以包括在比特流中。生成器3130可以通过对语法元素进行熵编码来生成包括二进制值的比特流。
比特流可以包括待解码的图像的尺寸信息、指示包括在图像中的块的预测模式的信息、指示经帧间预测的块的运动矢量的信息以及指示预测样本和原始样本之间的残差数据的信息。
图像的尺寸信息可以包括在比特流的序列参数集、图片参数集和视频参数集中的至少一个中。在实施例中,图像的尺寸信息可以包括图像的时域ID。
图32是根据实施例的用于描述图像编码方法的流程图。
在操作S3210中,图像编码装置3100将包括当前块的当前图像2100的尺寸与参考图像的尺寸进行比较。图像编码装置3100可以导出当前图像2100的尺寸和参考图像的尺寸之间的比,作为尺寸比较的结果。
图像编码装置3100可以配置包括在当前图像2100之前被解码的图像的参考图像列表,并且可以从包括在参考图像列表中的图像当中选择当前块的参考图像。
在操作S3220中,图像编码装置3100在参考图像中选择与当前块相对应的参考样本。当参考图像的尺寸大于当前图像2100的尺寸时,参考样本可以在参考图像中隔开与当前图像2100和参考图像之间的尺寸比较的结果相对应的间隔。
已经参考图24和图25描述了通过考虑当前图像2100的尺寸和参考图像的尺寸之间的比来选择参考样本的方法,因此将省略对其的详细描述。
图像编码装置3100可以通过对参考样本进行插值来生成经滤波的样本,并且可以通过使用经滤波的样本来生成当前块的预测样本。可以根据当前图像2100的尺寸和参考图像的尺寸之间的比较结果来选择用于对参考样本进行插值的滤波器系数。
在操作S3230中,图像解码装置2000对指示参考样本的当前块的运动矢量进行编码。
为了对运动矢量进行编码,图像编码装置3100可以将包括与当前块相关的相邻块的运动矢量的候选列表配置为候选运动矢量。相邻块可以包括与当前图像2100中的当前块相邻的空域块和位于从包括在参考图像列表中的图像当中选择的并置图像中的时域块。
在实施例中,当具有与当前图像2100相同尺寸的图像不存在于包括在参考图像列表中的图像中时,图像编码装置3100可以确定时域块不可用。在这种情况下,时域块的运动矢量不包括在候选列表中。相反,当具有与当前图像2100相同尺寸的图像存在于包括在参考图像列表中的图像中时,并置图像中的块的运动矢量可以作为候选运动矢量包括在候选列表中。
在另一个实施例中,当具有与当前图像相同尺寸的先前图像不存在于存储在解码图片缓冲器(DPB)中的先前图像中时,图像编码装置3100可以确定时域块不可用,并且可以不在候选列表中包括时域块的运动矢量。相反,当具有与当前图像2100相同尺寸的先前图像存在于存储在DPB中的先前图像中时,图像编码装置3100可以在候选列表中包括并置图像中的块的运动矢量作为候选运动矢量。
图像编码装置3100生成包括图像的尺寸信息、指示包括在图像中的块的预测模式的信息、指示经帧间预测的块的运动矢量的信息以及指示预测样本和原始样本之间的残差数据的信息的比特流。
根据预测模式,可以在比特流中包括指示作为当前块的运动矢量和候选运动矢量之间的差的差分运动矢量的信息。
同时,本公开的实施例可以被编写为可在计算机上执行的程序,并且这些程序可以被存储在介质中。
介质可以连续地存储计算机可执行程序、或者可以暂时存储计算机可执行程序以执行或下载。此外,介质可以是其中单块或多块硬件被组合的各种记录介质或存储介质中的任何一种,并且介质不限于直接连接到特定计算机系统的那些,而是可以分布在网络上。介质的示例包括磁介质(例如硬盘、软盘和磁带)、光记录介质(例如,紧凑盘只读存储器(compact disc-read only memory,CD-ROM)和数字多功能盘(digital versatile disc,DVD))、磁光介质(例如软盘)、只读存储器(ROM)、随机访问存储器(RAM)、闪存等,其被配置为存储程序指令。此外,介质的其他示例可以包括由分发应用的应用商店或由提供或分发其他各种类型软件的网站、服务器等管理的记录介质和存储介质。
到此为止,尽管已经基于优选的实施例描述了本公开的技术思想,但是本公开的技术思想不限于上述实施例,并且本领域普通技术人员可以在本公开的技术思想的范围内做出各种修改和改变。

Claims (10)

1.一种图像解码方法,包括:
将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;
根据当前块的运动矢量,选择参考图像中与当前块中的当前样本相对应的参考样本;以及
基于参考样本重构当前块,
其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
2.根据权利要求1所述的图像解码方法,其中,重构当前块包括:
通过对参考样本应用n抽头滤波器(n是自然数)来生成与参考样本相对应的经滤波的样本;以及
从经滤波的样本中确定当前样本的预测样本,
其中,n抽头滤波器的滤波器系数是根据尺寸比较的结果来选择的。
3.根据权利要求2所述的图像解码方法,其中,当当前图像的尺寸和参考图像的尺寸相同时,不对参考样本应用n抽头滤波器,并且从参考样本中确定预测样本。
4.根据权利要求1所述的图像解码方法,其中,选择参考样本包括:
通过将当前块的运动矢量应用于当前样本当中左上当前样本的位置来确定位置;
根据尺寸比较的结果来改变所确定的位置;以及
选择与改变后的位置相对应的左上参考样本和与所述左上参考样本隔开与尺寸比较的结果相对应的间隔的剩余参考样本。
5.根据权利要求1所述的图像解码方法,还包括:
配置参考图像列表,所述参考图像列表包括在当前图像被解码之前被解码的图像当中尺寸等于或大于当前图像的尺寸的图像;以及
从包括在参考图像列表中的图像当中选择参考图像。
6.根据权利要求1所述的图像解码方法,还包括:
确定具有与当前图像的尺寸相同的尺寸的图像是否存储在解码图片缓冲器(DPB)中;
当具有相同尺寸的图像存储在DPB中时,将包括比当前图像被更早解码的并置图像中的时域块的运动矢量的候选列表配置为候选运动矢量;以及
基于从包括在候选列表中的候选运动矢量当中选择的候选运动矢量来确定当前块的运动矢量。
7.根据权利要求6所述的图像解码方法,其中,当具有与当前图像的尺寸相同的尺寸的图像没有存储在DPB中时,时域块的运动矢量不包括在候选列表中。
8.一种图像解码装置,包括:预测解码器,其被配置为将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;根据当前块的运动矢量,选择参考图像中与当前块中的当前样本相对应的参考样本;并且基于参考样本重构当前块,
其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
9.一种图像编码方法,包括:
将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;
选择参考图像中与当前块中的当前样本相对应的参考样本;以及
对指示参考样本的运动矢量进行编码,
其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
10.一种图像编码装置,包括:预测编码器,其被配置为将包括当前块的当前图像的尺寸与参考图像的尺寸进行比较;选择参考图像中与当前块中的当前样本相对应的参考样本;并且对指示参考样本的运动矢量进行编码,
其中,当参考图像的尺寸大于当前图像的尺寸时,参考样本在参考图像中彼此隔开与尺寸比较的结果相对应的间隔。
CN202080050277.9A 2019-05-13 2020-05-13 基于视频尺寸编码视频的方法和设备,以及基于视频尺寸解码视频的方法和设备 Active CN114097226B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962846915P 2019-05-13 2019-05-13
US62/846,915 2019-05-13
US201962870994P 2019-07-05 2019-07-05
US62/870,994 2019-07-05
PCT/KR2020/006291 WO2020231176A1 (ko) 2019-05-13 2020-05-13 영상 크기에 기반한 영상의 부호화 방법 및 장치, 영상의 복호화 방법 및 장치

Publications (2)

Publication Number Publication Date
CN114097226A true CN114097226A (zh) 2022-02-25
CN114097226B CN114097226B (zh) 2024-09-27

Family

ID=

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160249057A1 (en) * 2013-10-22 2016-08-25 Kt Corporation Method and apparatus for encoding/decoding multilayer video signal
US20180167638A1 (en) * 2013-12-20 2018-06-14 Lg Electronics, Inc. Method and apparatus for encoding and decoding video signal using adaptive sampling
CN108476319A (zh) * 2016-01-11 2018-08-31 三星电子株式会社 图像编码方法和设备以及图像解码方法和设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160249057A1 (en) * 2013-10-22 2016-08-25 Kt Corporation Method and apparatus for encoding/decoding multilayer video signal
US20180167638A1 (en) * 2013-12-20 2018-06-14 Lg Electronics, Inc. Method and apparatus for encoding and decoding video signal using adaptive sampling
CN108476319A (zh) * 2016-01-11 2018-08-31 三星电子株式会社 图像编码方法和设备以及图像解码方法和设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PEISONG CHEN ET AL: "《AHG 19:Adaptive Resolution Change》", 《JVET》, pages 1 - 3 *

Also Published As

Publication number Publication date
MX2021013752A (es) 2021-12-10
BR112021022673A2 (pt) 2022-04-12
EP3972250A4 (en) 2023-01-25
US20220078409A1 (en) 2022-03-10
WO2020231176A1 (ko) 2020-11-19
EP3972250A1 (en) 2022-03-23
KR20210115044A (ko) 2021-09-24

Similar Documents

Publication Publication Date Title
CN112889278A (zh) 用于编码和解码运动信息的方法及用于编码和解码运动信息的装置
KR20230051321A (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR20210115052A (ko) 적응적 움직임 벡터 해상도로 결정된 움직임 벡터의 부호화 장치 및 부호화 방법, 및 움직임 벡터의 복호화 장치 및 복호화 방법
KR102494697B1 (ko) 삼각 예측 모드를 이용하는 영상 부호화 장치 및 영상 복호화 장치, 및 이에 의한 영상 부호화 방법 및 영상 복호화 방법
CN113545059A (zh) 一种用于预测色度分量的视频编码和解码的方法及其装置
KR20220025269A (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR102332529B1 (ko) 주변 움직임 정보를 이용하여 움직임 정보를 부호화 및 복호화하는 장치, 및 방법
KR20210029819A (ko) 양방향 예측을 이용한 영상의 부호화 및 복호화 방법, 및 영상의 부호화 및 복호화 장치
CN114641999A (zh) 使用工具集的图像解码装置及其图像解码方法、和图像编码装置及其图像编码方法
CN112703731B (zh) 基于子块对图像进行编码的方法和装置以及对图像进行解码的方法和装置
KR102546695B1 (ko) 주변 움직임 정보를 이용하여 움직임 정보를 부호화 및 복호화하는 장치, 및 방법
EP3972250A1 (en) Method and device for encoding video on basis of video size, and method and device for decoding video on basis of video size
KR20230019258A (ko) 툴 세트를 이용하는 영상 복호화 장치 및 이에 의한 영상 복호화 방법, 및 영상 부호화 장치 및 이에 의한 영상 부호화 방법
KR102677426B1 (ko) 움직임 벡터의 부호화 장치 및 방법, 및 움직임 벡터의 복호화 장치 및 방법
KR20210122818A (ko) 영상의 부호화 및 복호화 장치, 및 이에 의한 영상의 부호화 및 복호화 방법
KR102493125B1 (ko) 툴 세트를 이용하는 영상 복호화 장치 및 이에 의한 영상 복호화 방법, 및 영상 부호화 장치 및 이에 의한 영상 부호화 방법
CN118694921A (zh) 对图像进行编码和解码的方法和装置
CN118694922A (zh) 对图像进行编码和解码的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination