WO2019199141A1 - 비디오 코딩 시스템에서 인터 예측 방법 및 장치 - Google Patents

비디오 코딩 시스템에서 인터 예측 방법 및 장치 Download PDF

Info

Publication number
WO2019199141A1
WO2019199141A1 PCT/KR2019/004486 KR2019004486W WO2019199141A1 WO 2019199141 A1 WO2019199141 A1 WO 2019199141A1 KR 2019004486 W KR2019004486 W KR 2019004486W WO 2019199141 A1 WO2019199141 A1 WO 2019199141A1
Authority
WO
WIPO (PCT)
Prior art keywords
block
candidate
current block
affine
motion
Prior art date
Application number
PCT/KR2019/004486
Other languages
English (en)
French (fr)
Inventor
이재호
김승환
임재현
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of WO2019199141A1 publication Critical patent/WO2019199141A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/53—Multi-resolution motion estimation; Hierarchical motion estimation

Definitions

  • the present invention relates to video coding techniques, and more particularly, to an inter prediction method and apparatus in a video processing system.
  • the demand for high resolution and high quality images such as high definition (HD) images and ultra high definition (UHD) images is increasing in various fields.
  • the higher the resolution and the higher quality of the image data the more information or bit rate is transmitted than the existing image data. Therefore, the image data can be transmitted by using a medium such as a conventional wired / wireless broadband line or by using a conventional storage medium. In the case of storage, the transmission cost and the storage cost are increased.
  • a high efficiency image compression technique is required to effectively transmit, store, and reproduce high resolution, high quality image information.
  • An object of the present invention is to provide a method and apparatus for improving video coding efficiency.
  • Another object of the present invention is to provide an inter prediction method and apparatus in a video coding system.
  • Another technical problem of the present invention is to provide an inter prediction method and apparatus according to a merge mode.
  • Another technical problem of the present invention is to provide a method and apparatus for deriving a merge candidate list according to a merge mode.
  • Another technical problem of the present invention is to provide a method and apparatus for searching for six candidate types to derive a merge candidate list.
  • Another technical problem of the present invention is to provide a method and apparatus for deriving a motion model of inherited affine candidates and control point-based affine candidates that can be included in a merge candidate list.
  • the decoding method may further include generating a merge candidate list of a current block, selecting one of candidates included in the merge candidate list, deriving subblock unit motion vectors of the current block based on the selected candidate; Deriving a predicted block based on the subblock unit motion vectors, and reconstructing a current picture based on the predicted block, wherein the merge candidate list is an inherited candidate candidate and a control point.
  • a candidate affine candidate and an advanced temporal motion vector predictor (ATMVP) candidate wherein the ATMVP candidate is derived based on motion vectors in units of a subblock of a corresponding block located in a reference picture, and the corresponding block is Based on the motion vector of the spatial neighboring block of the current block, Characterized in that the derivation.
  • ATMVP advanced temporal motion vector predictor
  • the encoding method may further include generating a merge candidate list of the current block, selecting one of candidates included in the merge candidate list, deriving subblock unit motion vectors of the current block based on the selected candidate; Deriving a predicted block based on the subblock unit motion vectors, generating a residual block for the current block based on the predicted block, and image information including information about the residual block.
  • the merge candidate list comprises an inherited candidate, a control point based affine candidate, and an advanced temporal motion vector predictor (ATMVP) candidate
  • ATMVP candidate is Motion in units of subblocks of corresponding blocks located in the reference picture Is derived based on the emitters, the corresponding block is characterized in that based on the motion vectors of spatially neighboring blocks of the current block is derived from the reference picture.
  • Another embodiment of the present invention provides a decoding apparatus for performing video decoding.
  • the decoding apparatus generates a merge candidate list of the current block, selects one of the candidates included in the merge candidate list, derives subblock unit motion vectors of the current block based on the selected candidate, and the subblock A predictor for deriving a predicted block based on unit motion vectors and a reconstructor for reconstructing a current picture based on the predicted block, wherein the merge candidate list is an inherited candidate and a control point-based approach
  • An candidate and an advanced temporal motion vector predictor (ATMVP) candidate wherein the ATMVP candidate is derived based on motion vectors in units of subblocks of a corresponding block located in a reference picture, and the corresponding block is the current block. Derived from the reference picture based on the motion vector of the spatial neighboring block of the block It is characterized by.
  • ATMVP advanced temporal motion vector predictor
  • the encoding apparatus generates a merge candidate list of the current block, selects one of the candidates included in the merge candidate list, derives subblock unit motion vectors of the current block based on the selected candidate, and the subblock A predictor which derives a predicted block based on unit motion vectors, a subtractor which generates a residual block for the current block based on the predicted block, and image information including information about the residual block;
  • An entropy encoding unit for encoding and outputting a bitstream, wherein the merge candidate list includes an inherited affine candidate, a control point-based affine candidate, and an advanced temporal motion vector predictor (ATMVP) candidate, wherein the ATMVP candidate Is a subblock unit of a corresponding block located in a reference picture.
  • ATMVP advanced temporal motion vector predictor
  • the overall coding efficiency can be improved by performing inter prediction according to the merge mode.
  • a motion information candidate list including an optimal motion information candidate may be configured to derive motion information of a current block, thereby improving accuracy (performance) and efficiency of inter prediction.
  • FIG. 1 is a block diagram schematically illustrating a video encoding apparatus according to an embodiment of the present invention.
  • FIG. 2 is a block diagram schematically illustrating a video decoding apparatus according to an embodiment of the present invention.
  • FIG. 3 is a diagram for describing a merge mode in inter prediction according to an embodiment of the present invention.
  • 5A and 5B exemplarily illustrate a four-parameter affine model and a six-parameter affine model according to an embodiment of the present invention.
  • FIG. 6 exemplarily illustrates a case where the affine motion vector field is determined in subblock units according to an embodiment of the present invention.
  • FIG. 7 illustrates an affine merge mode in inter prediction according to an embodiment of the present invention.
  • FIG. 8 is a diagram illustrating positions of candidates in affinity merge mode according to an embodiment of the present invention.
  • FIG. 9 illustrates STMVP candidate derivation in inter prediction according to an embodiment of the present invention.
  • FIG 10 illustrates ATMVP candidates in inter prediction according to an embodiment of the present invention.
  • FIG 11 shows an example of spatial neighboring blocks that can be used for ATMVP candidate derivation.
  • FIG. 12 is a view for explaining a SbTMVP candidate derivation process.
  • FIG. 13 illustrates a control point based affine candidate according to an embodiment of the present invention.
  • FIG. 14 schematically illustrates a video encoding method by an encoding apparatus according to an embodiment of the present invention.
  • FIG. 15 schematically illustrates a video decoding method by a decoding apparatus according to an embodiment of the present invention.
  • each configuration in the drawings described in the present invention are shown independently for the convenience of description of the different characteristic functions, it does not mean that each configuration is implemented by separate hardware or separate software.
  • two or more of each configuration may be combined to form one configuration, or one configuration may be divided into a plurality of configurations.
  • Embodiments in which each configuration is integrated and / or separated are also included in the scope of the present invention without departing from the spirit of the present invention.
  • VVC Versatile Video Coding
  • HEVC High Efficiency Video Coding
  • a video may mean a series of images over time.
  • a picture generally refers to a unit representing one image in a specific time zone, and a slice is a unit constituting a part of a picture in coding.
  • One picture may be composed of a plurality of slices, and if necessary, the picture and the slice may be mixed with each other.
  • a pixel or a pel may refer to a minimum unit constituting one picture (or image). Also, 'sample' may be used as a term corresponding to a pixel.
  • a sample may generally represent a pixel or a value of a pixel, and may only represent pixel / pixel values of the luma component, or only pixel / pixel values of the chroma component.
  • a unit represents the basic unit of image processing.
  • the unit may include at least one of a specific region of the picture and information related to the region.
  • the unit may be used interchangeably with terms such as block or area in some cases.
  • an M ⁇ N block may represent a set of samples or transform coefficients composed of M columns and N rows.
  • FIG. 1 is a block diagram schematically illustrating a video encoding apparatus according to an embodiment of the present invention.
  • the encoding / decoding device may include a video encoding / decoding device and / or an image encoding / decoding device, and the video encoding / decoding device is used as a concept including the image encoding / decoding device, or the image encoding / decoding device is It may be used in a concept including a video encoding / decoding device.
  • the (video) encoding apparatus 100 may include a picture partitioning module 105, a prediction module 110, a residual processing module 120, and an entropy encoding unit (
  • the entropy encoding module 130 may include an adder 140, a filtering module 150, and a memory 160.
  • the residual processor 120 may include a substractor 121, a transform module 122, a quantization module 123, a rearrangement module 124, and a dequantization module 125. ) And an inverse transform module 126.
  • the picture divider 105 may divide the input picture into at least one processing unit.
  • the processing unit may be called a coding unit (CU).
  • the coding unit may be recursively split from the largest coding unit (LCU) according to a quad-tree binary-tree (QTBT) structure.
  • QTBT quad-tree binary-tree
  • one coding unit may be divided into a plurality of coding units of a deeper depth based on a quad tree structure, a binary tree structure, and / or a ternary tree structure.
  • the quad tree structure may be applied first, and the binary tree structure and the ternary tree structure may be applied later.
  • the binary tree structure / tunary tree structure may be applied first.
  • the coding procedure according to the present invention may be performed based on the final coding unit that is no longer split.
  • the maximum coding unit may be used as the final coding unit immediately based on coding efficiency according to the image characteristic, or if necessary, the coding unit is recursively divided into coding units of lower depths and optimized.
  • a coding unit of size may be used as the final coding unit.
  • the coding procedure may include a procedure of prediction, transform, and reconstruction, which will be described later.
  • the processing unit may include a coding unit (CU) prediction unit (PU) or a transform unit (TU).
  • the coding unit may be split from the largest coding unit (LCU) into coding units of deeper depths along the quad tree structure.
  • LCU largest coding unit
  • the maximum coding unit may be used as the final coding unit immediately based on coding efficiency according to the image characteristic, or if necessary, the coding unit is recursively divided into coding units of lower depths and optimized.
  • a coding unit of size may be used as the final coding unit. If a smallest coding unit (SCU) is set, the coding unit may not be split into smaller coding units than the minimum coding unit.
  • the final coding unit refers to a coding unit that is the basis of partitioning or partitioning into a prediction unit or a transform unit.
  • the prediction unit is a unit partitioning from the coding unit and may be a unit of sample prediction. In this case, the prediction unit may be divided into sub blocks.
  • the transform unit may be divided along the quad tree structure from the coding unit, and may be a unit for deriving a transform coefficient and / or a unit for deriving a residual signal from the transform coefficient.
  • a coding unit may be called a coding block (CB)
  • a prediction unit is a prediction block (PB)
  • a transform unit may be called a transform block (TB).
  • a prediction block or prediction unit may mean a specific area in the form of a block within a picture, and may include an array of prediction samples.
  • a transform block or a transform unit may mean a specific area in a block form within a picture, and may include an array of transform coefficients or residual samples.
  • the prediction unit 110 performs prediction on a block to be processed (hereinafter, may mean a current block or a residual block), and generates a predicted block including prediction samples for the current block. can do.
  • the unit of prediction performed by the prediction unit 110 may be a coding block, a transform block, or a prediction block.
  • the prediction unit 110 may determine whether intra prediction or inter prediction is applied to the current block. As an example, the prediction unit 110 may determine whether intra prediction or inter prediction is applied on a CU basis.
  • the prediction unit 110 may derive a prediction sample for the current block based on reference samples outside the current block in the picture to which the current block belongs (hereinafter, referred to as the current picture). In this case, the prediction unit 110 may (i) derive the prediction sample based on the average or interpolation of neighboring reference samples of the current block, and (ii) the neighbor reference of the current block.
  • the prediction sample may be derived based on a reference sample present in a specific (prediction) direction with respect to the prediction sample among the samples. In case of (i), it may be called non-directional mode or non-angle mode, and in case of (ii), it may be called directional mode or angular mode.
  • the prediction mode may have, for example, 33 directional prediction modes and at least two non-directional modes.
  • the non-directional mode may include a DC prediction mode and a planner mode (Planar mode).
  • the prediction unit 110 may determine the prediction mode applied to the current block by using the prediction mode applied to the neighboring block.
  • the prediction unit 110 may derive the prediction sample for the current block based on the sample specified by the motion vector on the reference picture.
  • the prediction unit 110 may apply one of a skip mode, a merge mode, and a motion vector prediction (MVP) mode to derive a prediction sample for the current block.
  • the prediction unit 110 may use the motion information of the neighboring block as the motion information of the current block.
  • the skip mode unlike the merge mode, the difference (residual) between the prediction sample and the original sample is not transmitted.
  • the MVP mode the motion vector of the current block may be derived using the motion vector of the neighboring block as a motion vector predictor.
  • the neighboring block may include a spatial neighboring block existing in the current picture and a temporal neighboring block present in the reference picture.
  • a reference picture including the temporal neighboring block may be called a collocated picture (colPic).
  • the motion information may include a motion vector and a reference picture index.
  • Information such as prediction mode information and motion information may be encoded (entropy) and output in the form of a bitstream.
  • the highest picture on the reference picture list may be used as the reference picture.
  • Reference pictures included in a reference picture list may be sorted based on a difference in a picture order count (POC) between a current picture and a corresponding reference picture.
  • POC picture order count
  • the subtraction unit 121 generates a residual sample which is a difference between the original sample and the prediction sample.
  • residual samples may not be generated as described above.
  • the transform unit 122 generates transform coefficients by transforming the residual sample in units of transform blocks.
  • the transform unit 122 may perform the transform according to the size of the transform block and the prediction mode applied to the coding block or the prediction block that spatially overlaps the transform block. For example, if intra prediction is applied to the coding block or the prediction block overlapping the transform block, and the transform block is a residual array of 4 ⁇ 4, the residual sample may be generated by using a discrete sine transform (DST) transform kernel. In other cases, the residual sample may be transformed using a discrete cosine transform (DCT) transform kernel.
  • DST discrete sine transform
  • DCT discrete cosine transform
  • the quantization unit 123 may quantize the transform coefficients to generate quantized transform coefficients.
  • the reordering unit 124 rearranges the quantized transform coefficients.
  • the reordering unit 124 may reorder the quantized transform coefficients in the form of a block into a one-dimensional vector form through a coefficient scanning method. Although the reordering unit 124 has been described in a separate configuration, the reordering unit 124 may be part of the quantization unit 123.
  • the entropy encoding unit 130 may perform entropy encoding on the quantized transform coefficients.
  • Entropy encoding may include, for example, encoding methods such as exponential Golomb, context-adaptive variable length coding (CAVLC), context-adaptive binary arithmetic coding (CABAC), and the like.
  • the entropy encoding unit 130 may encode information necessary for video reconstruction other than the quantized transform coefficients (for example, a value of a syntax element) together or separately according to entropy encoding or a predetermined method.
  • the encoded information may be transmitted or stored in units of network abstraction layer (NAL) units in the form of bitstreams.
  • the bitstream may be transmitted over a network or may be stored in a digital storage medium.
  • the network may include a broadcasting network and / or a communication network, and the digital storage medium may include various storage media such as USB, SD, CD, DVD, Blu-ray, HDD, SSD, and the like.
  • the inverse quantization unit 125 inverse quantizes the quantized values (quantized transform coefficients) in the quantization unit 123, and the inverse transformer 126 inverse transforms the inverse quantized values in the inverse quantization unit 125 to obtain a residual sample.
  • the adder 140 reconstructs the picture by combining the residual sample and the predictive sample.
  • the residual sample and the predictive sample may be added in units of blocks to generate a reconstructed block.
  • the adder 140 may be part of the predictor 110.
  • the adder 140 may also be called a reconstruction module or a restore block generator.
  • the filter unit 150 may apply a deblocking filter and / or a sample adaptive offset to the reconstructed picture. Through deblocking filtering and / or sample adaptive offset, the artifacts of the block boundaries in the reconstructed picture or the distortion in the quantization process can be corrected.
  • the sample adaptive offset may be applied on a sample basis and may be applied after the process of deblocking filtering is completed.
  • the filter unit 150 may apply an adaptive loop filter (ALF) to the reconstructed picture. ALF may be applied to the reconstructed picture after the deblocking filter and / or sample adaptive offset is applied.
  • ALF adaptive loop filter
  • the memory 160 may store reconstructed pictures (decoded pictures) or information necessary for encoding / decoding.
  • the reconstructed picture may be a reconstructed picture after the filtering process is completed by the filter unit 150.
  • the stored reconstructed picture may be used as a reference picture for (inter) prediction of another picture.
  • the memory 160 may store (reference) pictures used for inter prediction.
  • pictures used for inter prediction may be designated by a reference picture set or a reference picture list.
  • FIG. 2 is a block diagram schematically illustrating a video decoding apparatus according to an embodiment of the present invention.
  • the video decoding apparatus may include an image decoding apparatus.
  • the video decoding apparatus 200 may include an entropy decoding module 210, a residual processing module 220, a prediction module 230, and an adder 240. ), A filtering module 250, and a memory 260.
  • the residual processor 220 may include a rearrangement module 221, a dequantization module 222, and an inverse transform module 223.
  • the video decoding apparatus 200 may include a receiver that receives a bitstream including video information. The receiver may be configured as a separate module or may be included in the entropy decoding unit 210.
  • the video decoding apparatus 200 may reconstruct a video / image / picture in response to a process in which video / image information is processed in the video encoding apparatus.
  • the video decoding apparatus 200 may perform video decoding using a processing unit applied in the video encoding apparatus.
  • the processing unit block of video decoding may be, for example, a coding unit, and in another example, a coding unit, a prediction unit, or a transform unit.
  • the coding unit may be split along the quad tree structure, binary tree structure and / or ternary tree structure from the largest coding unit.
  • the prediction unit and the transform unit may be further used in some cases, in which case the prediction block is a block derived or partitioned from the coding unit and may be a unit of sample prediction. At this point, the prediction unit may be divided into subblocks.
  • the transform unit may be divided along the quad tree structure from the coding unit, and may be a unit for deriving a transform coefficient or a unit for deriving a residual signal from the transform coefficient.
  • the entropy decoding unit 210 may parse the bitstream and output information necessary for video reconstruction or picture reconstruction. For example, the entropy decoding unit 210 decodes information in a bitstream based on a coding method such as exponential Golomb coding, CAVLC, or CABAC, quantized values of syntax elements necessary for video reconstruction, and residual coefficients. Can be output.
  • a coding method such as exponential Golomb coding, CAVLC, or CABAC, quantized values of syntax elements necessary for video reconstruction, and residual coefficients. Can be output.
  • the CABAC entropy decoding method receives a bin corresponding to each syntax element in a bitstream, and decodes syntax element information and decoding information of neighboring and decoding target blocks or information of symbols / bins decoded in a previous step.
  • the context model is determined using the context model, the probability of occurrence of a bin is predicted according to the determined context model, and arithmetic decoding of the bin is performed to generate a symbol corresponding to the value of each syntax element. can do.
  • the CABAC entropy decoding method may update the context model by using the information of the decoded symbol / bin for the context model of the next symbol / bin after determining the context model.
  • the information related to the prediction among the information decoded by the entropy decoding unit 210 is provided to the prediction unit 230, and the residual value on which the entropy decoding has been performed by the entropy decoding unit 210, that is, the quantized transform coefficient, is used as a reordering unit ( 221 may be input.
  • the reordering unit 221 may rearrange the quantized transform coefficients in a two-dimensional block form.
  • the reordering unit 221 may perform reordering in response to coefficient scanning performed by the encoding apparatus.
  • the rearrangement unit 221 has been described in a separate configuration, but the rearrangement unit 221 may be part of the inverse quantization unit 222.
  • the inverse quantization unit 222 may dequantize the quantized transform coefficients based on the (inverse) quantization parameter and output the transform coefficients.
  • information for deriving a quantization parameter may be signaled from the encoding apparatus.
  • the inverse transform unit 223 may inversely transform transform coefficients to derive residual samples.
  • the prediction unit 230 may perform prediction on the current block and generate a predicted block including prediction samples for the current block.
  • the unit of prediction performed by the prediction unit 230 may be a coding block, a transform block, or a prediction block.
  • the prediction unit 230 may determine whether to apply intra prediction or inter prediction based on the information about the prediction.
  • a unit for determining which of intra prediction and inter prediction is to be applied and a unit for generating a prediction sample may be different.
  • the unit for generating a prediction sample in inter prediction and intra prediction may also be different.
  • whether to apply inter prediction or intra prediction may be determined in units of CUs.
  • a prediction mode may be determined and a prediction sample may be generated in PU units
  • intra prediction a prediction mode may be determined in PU units and a prediction sample may be generated in TU units.
  • the prediction unit 230 may derive the prediction sample for the current block based on the neighbor reference samples in the current picture.
  • the prediction unit 230 may derive the prediction sample for the current block by applying the directional mode or the non-directional mode based on the neighbor reference samples of the current block.
  • the prediction mode to be applied to the current block may be determined using the intra prediction mode of the neighboring block.
  • the prediction unit 230 may derive the prediction sample for the current block based on the sample specified on the reference picture by the motion vector on the reference picture.
  • the prediction unit 230 may apply any one of a skip mode, a merge mode, and an MVP mode to derive a prediction sample for the current block.
  • motion information required for inter prediction of the current block provided by the video encoding apparatus for example, information about a motion vector, a reference picture index, and the like may be obtained or derived based on the prediction information.
  • the motion information of the neighboring block may be used as the motion information of the current block.
  • the neighboring block may include a spatial neighboring block and a temporal neighboring block.
  • the prediction unit 230 may construct a merge candidate list using motion information of available neighboring blocks, and may use information indicated by the merge index on the merge candidate list as a motion vector of the current block.
  • the merge index may be signaled from the encoding device.
  • the motion information may include a motion vector and a reference picture. When the motion information of the temporal neighboring block is used in the skip mode and the merge mode, the highest picture on the reference picture list may be used as the reference picture.
  • the difference (residual) between the prediction sample and the original sample is not transmitted.
  • the motion vector of the current block may be derived using the motion vector of the neighboring block as a motion vector predictor.
  • the neighboring block may include a spatial neighboring block and a temporal neighboring block.
  • a merge candidate list may be generated by using a motion vector of a reconstructed spatial neighboring block and / or a motion vector corresponding to a Col block, which is a temporal neighboring block.
  • the motion vector of the candidate block selected from the merge candidate list is used as the motion vector of the current block.
  • the information about the prediction may include a merge index indicating a candidate block having an optimal motion vector selected from candidate blocks included in the merge candidate list.
  • the prediction unit 230 may derive the motion vector of the current block by using the merge index.
  • a motion vector predictor candidate list may be generated using a motion vector of a reconstructed spatial neighboring block and / or a motion vector corresponding to a Col block which is a temporal neighboring block.
  • the prediction information may include a prediction motion vector index indicating an optimal motion vector selected from the motion vector candidates included in the list.
  • the prediction unit 230 may select the predicted motion vector of the current block from the motion vector candidates included in the motion vector candidate list using the motion vector index.
  • the prediction unit of the encoding apparatus may obtain a motion vector difference (MVD) between the motion vector of the current block and the motion vector predictor, and may encode the output vector in a bitstream form. That is, MVD may be obtained by subtracting the motion vector predictor from the motion vector of the current block.
  • the prediction unit 230 may obtain a motion vector difference included in the information about the prediction, and derive the motion vector of the current block by adding the motion vector difference and the motion vector predictor.
  • the prediction unit may also obtain or derive a reference picture index or the like indicating a reference picture from the information about the prediction.
  • the adder 240 may reconstruct the current block or the current picture by adding the residual sample and the predictive sample.
  • the adder 240 may reconstruct the current picture by adding the residual sample and the predictive sample in block units. Since the residual is not transmitted when the skip mode is applied, the prediction sample may be a reconstruction sample.
  • the adder 240 has been described in a separate configuration, the adder 240 may be part of the predictor 230.
  • the adder 240 may also be called a reconstruction module or a reconstruction block generator.
  • the filter unit 250 may apply the deblocking filtering sample adaptive offset, and / or ALF to the reconstructed picture.
  • the sample adaptive offset may be applied in units of samples and may be applied after deblocking filtering.
  • ALF may be applied after deblocking filtering and / or sample adaptive offset.
  • the memory 260 may store reconstructed pictures (decoded pictures) or information necessary for decoding.
  • the reconstructed picture may be a reconstructed picture after the filtering process is completed by the filter unit 250.
  • the memory 260 may store pictures used for inter prediction.
  • pictures used for inter prediction may be designated by a reference picture set or a reference picture list.
  • the reconstructed picture can be used as a reference picture for another picture.
  • the memory 260 may output the reconstructed picture in an output order.
  • a predicted block including prediction samples of the current block which is a coding target block
  • the predicted block comprises prediction samples in the spatial domain (or pixel domain).
  • the predicted block is derived identically in the encoding apparatus and the decoding apparatus, and the encoding apparatus decodes information (residual information) about the residual between the original block and the predicted block, not the original sample value itself of the original block. Signaling to an apparatus may increase image coding efficiency.
  • the decoding apparatus may derive a residual block including residual samples based on the residual information, generate the reconstructed block including reconstructed samples by adding the residual block and the predicted block, and generate reconstructed blocks. A reconstructed picture may be generated.
  • the residual information may be generated through a transform and quantization procedure.
  • the encoding apparatus derives a residual block between the original block and the predicted block, and performs transform procedure on residual samples (residual sample array) included in the residual block to derive transform coefficients.
  • the quantized transform coefficients may be derived by performing a quantization procedure on the transform coefficients to signal related residual information to the decoding device (via a bitstream).
  • the residual information may include information such as value information of the quantized transform coefficients, position information, a transform scheme, a transform kernel, and a quantization parameter.
  • the decoding apparatus may perform an inverse quantization / inverse transformation procedure and derive residual samples (or residual blocks) based on the residual information.
  • the decoding apparatus may generate a reconstructed picture based on the predicted block and the residual block.
  • the encoding apparatus may then dequantize / inverse transform the quantized transform coefficients for reference for inter prediction of the picture to derive a residual block, and generate a reconstructed picture based thereon.
  • FIG. 3 is a diagram for describing a merge mode in inter prediction according to an embodiment of the present invention.
  • inter prediction modes may be used for prediction of the current block in the picture.
  • various modes such as a merge mode, a skip mode, a motion vector prediction (MVP) mode, an affine mode, and a historical motino vector prediction (HMVP) mode
  • Decoder side motion vector refinement (DMVR) mode, adaptive motion vector resolution (AMVR) mode, and the like may be further used as a secondary mode.
  • the affine mode may be called an affine motion prediction mode.
  • MVP mode may be referred to as advanced motion vector prediction (AMVP) mode.
  • motion information candidates derived by some modes and / or some modes may be included as one of motion information candidates of other modes.
  • Prediction mode information indicating the inter prediction mode of the current block may be signaled from the encoding device to the decoding device.
  • the prediction mode information may be included in the bitstream and received by the decoding apparatus.
  • the prediction mode information may include index information indicating one of a plurality of candidate modes.
  • the inter prediction mode may be indicated through hierarchical signaling of flag information.
  • the prediction mode information may include one or more flags. For example, a skip flag is signaled to indicate whether a skip mode is applied, and if a skip mode is not applied, a merge flag is signaled to indicate whether a merge mode is applied, and if a merge mode is not applied, an MVP mode is applied. Or may further signal a flag for additional classification.
  • the affine mode may be signaled in an independent mode, or may be signaled in a mode dependent on a merge mode or an MVP mode.
  • the affine mode may include an affine merge mode and an affine MVP mode.
  • Inter prediction may be performed using motion information of the current block.
  • the encoding apparatus may derive optimal motion information for the current block through a motion estimation procedure. For example, the encoding apparatus may search for a similar reference block having a high correlation using the original block in the original picture for the current block in fractional pixel units within a predetermined search range in the reference picture, thereby deriving motion information. Can be. Similarity of blocks can be derived based on the difference of phase based sample values. For example, the similarity of blocks may be calculated based on the sum of absolute differences (SAD) between the current block (or template of the current block) and the reference block (or template of the reference block). In this case, motion information may be derived based on a reference block having the smallest SAD in the search area. The derived motion information may be signaled to the decoding apparatus according to various methods based on the inter prediction mode.
  • SAD sum of absolute differences
  • the motion information of the current prediction block is not directly transmitted, and the motion information of the current prediction block is derived using the motion information of the neighboring prediction block. Accordingly, the motion information of the current prediction block can be indicated by transmitting flag information indicating that the merge mode is used and a merge index indicating which neighboring prediction blocks are used.
  • the encoder must search a merge candidate block used to derive motion information of the current prediction block to perform the merge mode. For example, up to five merge candidate blocks may be used, but the present invention is not limited thereto.
  • the maximum number of merge candidate blocks may be transmitted in a slice header or a tile group header, but the present invention is not limited thereto.
  • the encoder may generate a merge candidate list, and select the merge candidate block having the smallest cost among them as the final merge candidate block.
  • the present invention provides various embodiments of a merge candidate block constituting the merge candidate list.
  • the merge candidate list may use, for example, five merge candidate blocks. For example, four spatial merge candidates and one temporal merge candidate may be used. As a specific example, in the case of the spatial merge candidate, the blocks shown in FIG. 3 may be used as the spatial merge candidate.
  • the merge candidate list for the current block may be configured based on, for example, the following procedure.
  • the coding device searches for spatial neighboring blocks of the current block and inserts spatial merge candidates derived from the merge candidate list.
  • the spatial neighboring blocks may include a lower left corner peripheral block, a left peripheral block, a right upper corner peripheral block, an upper peripheral block, and an upper left corner peripheral block of the current block.
  • additional peripheral blocks such as a right peripheral block, a lower peripheral block, and a lower right peripheral block may be further used as the spatial peripheral blocks.
  • the coding apparatus may search for the spatial neighboring blocks based on priority, detect available blocks, and derive motion information of the detected blocks as the spatial merge candidates.
  • the encoder and the decoder may search the five blocks shown in FIG. 3 in the order of A1, B1, B0, A0, and B2, and index the available candidates sequentially to form a merge candidate list.
  • the coding apparatus inserts the temporal merge candidate derived by searching the temporal neighboring block of the current block into the merge candidate list.
  • the temporal neighboring block may be located on a reference picture that is a picture different from the current picture in which the current block is located.
  • the reference picture in which the temporal neighboring block is located may be called a collocated picture or a col picture.
  • the temporal neighboring block may be searched in the order of the lower right corner peripheral block and the lower right center block of the co-located block with respect to the current block on the col picture.
  • the technique using the temporal neighboring block may be referred to as temporal motion vector prediction (TMVP).
  • the constant storage unit may be predetermined, for example, 16x16 sample units, 8x8 sample units, or the like, or size information about the constant storage unit may be signaled from the encoder to the decoder.
  • motion information of the temporal neighboring block may be replaced with representative motion information of the predetermined storage unit in which the temporal neighboring block is located. That is, in this case, in terms of implementation, a position that is arithmetically shifted after arithmetic right shift by a predetermined value based on the coordinates (upper left sample position) of the temporal neighboring block, rather than the prediction block located at the coordinate of the temporal neighboring block
  • the temporal merge candidate may be derived based on the motion information of the covering prediction block.
  • the modified positions ((xTnb >> n) ⁇ n) and (yTnb >> The motion information of the prediction block located at n) ⁇ n)) may be used for the temporal merge candidate.
  • the constant storage unit is a 16x16 sample unit
  • the modified positions are ((xTnb >> 4) ⁇ 4) and (yTnb).
  • the motion information of the prediction block located at >> 4) ⁇ 4)) may be used for the temporal merge candidate.
  • the constant storage unit is an 8x8 sample unit
  • the modified position is ((xTnb >> 3) ⁇ 3)
  • (yTnb> The motion information of the prediction block located at > 3) ⁇ 3) can be used for the temporal merge candidate.
  • the coding apparatus may check whether the number of current merge candidates is smaller than the number of maximum merge candidates.
  • the maximum number of merge candidates may be predefined or signaled at the encoder to the decoder. For example, the encoder may generate information about the maximum number of merge candidates, encode the information, and transmit the encoded information to the decoder in the form of a bitstream. If the maximum number of merge candidates is filled up, the subsequent candidate addition process may not proceed.
  • the coding apparatus inserts an additional merge candidate into the merge candidate list.
  • the additional merge candidate may include, for example, an ATMVP, a combined bi-predictive merge candidate (when the slice / tile group type of the current slice / tile group is B type) and / or a zero vector merge candidate.
  • the coding apparatus may terminate the construction of the merge candidate list.
  • the encoder may select an optimal merge candidate among merge candidates constituting the merge candidate list based on a rate-distortion (RD) cost, and decode selection information (eg, a merge index) indicating the selected merge candidate. May be signaled.
  • the decoder may select the optimal merge candidate based on the merge candidate list and the selection information.
  • the motion information of the selected merge candidate may be used as the motion information of the current block, and the prediction samples of the current block may be derived based on the motion information of the current block.
  • An encoder may derive residual samples of the current block based on the prediction samples, and may signal residual information about the residual samples to a decoder.
  • the decoder may generate reconstructed samples based on the residual samples derived from the residual information and the prediction samples, and generate a reconstructed picture based on the same.
  • the motion information of the current block may be derived in the same manner as when the merge mode is applied. However, when the skip mode is applied, the residual signal for the corresponding block is omitted, and thus prediction samples may be used as reconstructed samples.
  • an affine mode or an affine motion prediction mode that encodes using an affine motion model capable of determining an optimal motion vector in a pixel unit may be used.
  • the affine mode may determine an optimal motion vector in subblock units of the current block in order to further improve coding efficiency.
  • the affine motion prediction mode may represent a motion vector in each pixel unit of a block by using two, three, or four motion vectors.
  • the affine motion model may include four motion models, but since this is an exemplary motion model, the scope of the present invention is not limited thereto.
  • the four movements described above may include translation, scale, rotate and shape.
  • 5A and 5B exemplarily illustrate a four-parameter affine model and a six-parameter affine model according to an embodiment of the present invention.
  • a control point may be defined to use an affine motion model, and two or more control point motion vectors (CPMVs) may be defined.
  • the motion vector of the pixel position or the subblock included in the block can be determined by using.
  • the set of pixel positions or motion vectors of the sub-blocks may be referred to as an affine Motion Vector Field (affine MVF).
  • the 4-parameter affine model may mean a model for determining a motion vector of a pixel position or a subblock using two CPMVs, and the motion vectors or affine motion of the pixel position or a subblock.
  • the vector field may be derived as shown in Equation 1.
  • the 6-parameter affine model may mean a model for determining a motion vector of a pixel position or a subblock using three CPMV motion vectors, and the motion vectors or the affinity of the pixel position or subblock.
  • the motion vector field may be derived as shown in Equation 2.
  • Equation 1 and Equation 2 v 0x, v 0y is the CP CPMV of the upper left corner position of the current block, v 1x, v 1y are the CP CPMV of the upper right corner position of the current block, v 2x, v 2y is It may indicate the CPMV of the CP of the lower left corner of the current block.
  • W may represent the width of the current block, H may represent the height of the current block.
  • vx, vy may represent a motion vector of a pixel at (x, y) position or a subblock including (x, y) position.
  • Equations 1 and 2 representing the affine motion model are merely examples, and the equations for representing the affine motion model are not limited to the equations (1) and (2).
  • the sign of each coefficient disclosed in Equations 1 and 2 may be different from Equations 1 and 2 in some cases.
  • FIG. 6 exemplarily illustrates a case where the affine motion vector field is determined in subblock units according to an embodiment of the present invention.
  • the affine motion vector field may be determined in a previously defined subblock unit, or may be determined in a pixel unit unlike FIG. 6.
  • the motion vector may be determined based on each pixel value, and when determined in units of subblocks, the motion vector is the center of the subblock (lower right center, that is, four centers). The right lower sample of the samples) may be determined based on the pixel value.
  • the affine mode may include an affine merge mode and an affine MVP mode.
  • FIG. 7 illustrates an affine merge mode in inter prediction according to an embodiment of the present invention.
  • the affine merge mode may derive the CPMV of the current block by using the CPMV of the neighboring block coded in the affine mode. Affine coded neighboring blocks within the search order may be used for the affine merge mode.
  • the current block may be coded in affine merge mode if one or more neighboring blocks are coded with affine motion prediction.
  • the CPMVs of the current block may be derived using the CPMVs of the neighboring block.
  • the CPMVs of the neighboring block may be used as the CPMVs of the current block, or the CPMVs of the neighboring block may be modified based on the size of the neighboring block, the size of the current block, and the like.
  • an affine merge in which a motion vector is derived in a subblock unit, it may be called a subblock merge mode, which may be indicated when the value of the flag merge_subblock_flag is 1.
  • the affine merge candidate list described later may be referred to as a subblock merge candidate list.
  • the subblock merge candidate list may further include a candidate derived by SbTMVP which will be described later.
  • the affinity merge candidate list may be configured to derive the CPMVs for the current block.
  • the affinity merge candidate list may include, for example, at least one of inherited affine candidates, constructed affine candidates, and zero motion vector candidates.
  • the inherited affine candidate is a candidate derived based on the CPMVs of the neighboring block when the neighboring block is coded in the affine mode
  • the configured candidate candidate is a motion vector of the corresponding CP neighboring block in units of each CPMV.
  • a candidate derived by constructing CPMVs based on MV) and a zero motion vector candidate may represent a candidate composed of CPMVs having a value of zero.
  • the affluent merge candidate list may be configured as follows, for example.
  • the neighboring blocks may include one left peripheral block and an upper peripheral block.
  • Candidate blocks may be located as shown in FIG. 3.
  • the scan order for the left predictor may be A1-> A0 and the scan order for the upper predictor may be B1-> B0-> B2. Only one inherited candidate may be selected from each of the left and top sides. A pruning check may not be performed between two inherited candidates.
  • the control point motion vectors of the identified block may be used to derive the CPMVP candidate in the affine merge list of the current block. For example, referring to FIG. 7, when the bottom-left peripheral block A is coded in the affine mode, the top-left corner and the top-right corner of the neighboring block A are coded. And motion vectors v 2 , v 3 and v 4 of the bottom-left corner can be obtained.
  • the neighboring block A is coded with a four-parameter affine model
  • two CPMVs of the current block may be calculated according to v 2 and v 3 .
  • the neighboring block A is coded with a 6-parameter affine model, it can be calculated according to the three CPMVs v 2 , v 3 and v 4 of the current block.
  • FIG. 8 is a diagram illustrating positions of candidates in affinity merge mode according to an embodiment of the present invention.
  • a constructed candidate may refer to a candidate constructed by combining translational motion information around each control point.
  • the motion information of the control points can be derived from the specified spatial and temporal surroundings.
  • blocks may be checked according to the order B2->B3-> A2 for CPMV 1 , and the motion vector of the first available block may be used. Blocks may be checked in the order of B1-> B0 for CPMV2, and blocks may be checked in the order of A1-> A0 for CPMV3.
  • the temporal motion vector predictor (TMVP) can be used as CPMV4 when available.
  • control point motion vectors is ⁇ CPMV1, CPMV2, CPMV3 ⁇ , ⁇ CPMV1, CPMV2, CPMV4 ⁇ , ⁇ CPMV1, CPMV3, CPMV4 ⁇ , ⁇ CPMV2, CPMV3, CPMV4 ⁇ , ⁇ CPMV1, CPMV2 ⁇ and ⁇ CPMV1, CPMV3 It may be configured as follows, and may be configured in the order listed.
  • the combination of three CPMVs may constitute a six-parameter affiliate merge candidate, and the combination of two CPMVs may constitute a four-parameter affine merge candidate.
  • the associated combinations of control point motion vectors may be discarded.
  • the control point motion vector difference (CPMVD) corresponding to the difference value may be transmitted from the encoding device to the decoding device.
  • the affine MVP mode may be applied.
  • the affine MVP mode may be called an affine CP MVP mode.
  • the affine MVP candidate list described later may be referred to as a control point motion vector predictor candidate list or a control point based affine candidate list.
  • the affinity MVP candidate list may be configured to derive the CPMVs for the current block.
  • the affine MVP candidate list is, for example, affine mvp candidates constructed using inherited affine MVP candidates, extrapolated from the CPMVs of neighboring blocks, and translational motion vectors of neighboring blocks. , Additional candidates based on translational motion vectors from neighboring blocks and zero motion vector candidates.
  • the affinity MVP candidate list may include a maximum of n (eg two) candidates.
  • the inherited affine candidate is a candidate derived based on the CPMVs of the neighboring block when the neighboring block is coded in the affine mode, and the configured candidate candidate is based on the MV of the corresponding CP neighboring block in units of each CPMV.
  • a zero motion vector candidate may represent a candidate composed of CPMVs having a value of zero. If the maximum number of candidates for the affine MVP candidate list is two, additional candidates based on translational motion vectors and zero motion vector candidates from the neighboring blocks may be considered and added when the current number of candidates is less than two. .
  • Additional candidates based on translational motion vectors from the neighboring blocks may be derived in the following order. 1) If the number of candidates is less than 2 and CPMV0 of the configured candidate is valid, CPMV0 is used as an affinity MVP candidate. That is, a candidate equal to CPMV0 of a candidate in which all MVs of CP0, CP1, and CP2 are configured is considered. 2) If the number of candidates is less than 2 and CPMV1 of the configured candidate is valid, CPMV1 is used as an affinity MVP candidate. That is, a candidate such as CPMV1 of a candidate in which all MVs of CP0, CP1, and CP2 are configured is considered.
  • CPMV2 is used as an affinity MVP candidate. That is, a candidate such as CPMV2 of a candidate in which all MVs of CP0, CP1, and CP2 are configured is considered. 4) If the number of candidates is less than 2, TMVP (temporal motion vector predictor or mvCol) is used as an affinity MVP candidate.
  • TMVP temporary motion vector predictor or mvCol
  • the affine MVP candidate can be derived, for example, as follows.
  • the check order of inherited affine MVP candidates may be the same as the check order of inherited affine merge candidates. However, the difference is that the affine MVP candidate may be considered an affine block having the same reference picture as the current block.
  • a pruning check process may not be applied.
  • the configured MVP candidate may be derived from the specified spatial neighboring blocks shown in FIG. 8.
  • the same check order as the check order performed in the affinity merge candidate configuration may be used.
  • the reference picture index of the neighboring block may also be checked.
  • the first block coded with inter prediction in the check order and having the same reference picture as the current block may be used.
  • FIG. 9 illustrates STMVP candidate derivation in inter prediction according to an embodiment of the present invention.
  • the motion vector of the subblock may be recursively derived for a spatial-temporal motion vector prediction (STMVP) candidate.
  • STMVP spatial-temporal motion vector prediction
  • the current block is 8x8 in size and includes four 4x4 sized subblocks (A, B, C, and D), 4x4 sized neighboring blocks (a, b, c, and d) within the current picture. This may exist.
  • Motion derivation of subblock A may begin by identifying two spatial neighboring blocks of subblock A.
  • the first neighboring block may be a block c located above the subblock A.
  • block c is not available or coded intra
  • another block located above subblock A may be checked. Checking of other blocks may be performed from left to right starting at block c.
  • the second neighboring block may be a block b located on the left side of the subblock A.
  • block b is not available or coded intra
  • another block located to the left of subblock A may be checked. Checking of other blocks may be performed starting from block b and going from top to bottom.
  • Motion information obtained from neighboring blocks for each list may be scaled to the first reference picture for a given list.
  • TMVP temporal motion vector predictor
  • all available motion vectors (up to three) can be averaged individually for each reference list.
  • the averaged motion vector may be assigned to the motion vector of the current subblock.
  • subblocks may also be assigned a motion vector through the above-described process as in subblock A.
  • FIG. 1 A is a diagrammatic representation of subblock A.
  • FIG 10 illustrates ATMVP candidates in inter prediction according to an embodiment of the present invention.
  • the advanced temporal motion vector prediction (ATMVP) candidate may be a method of improving an existing temporal motion vector prediction (TMVP) candidate.
  • the existing TMVP may use a motion vector of a col- located block at the bottom-right block of the current block or at the center of the current block.
  • the existing TMVP has a limitation that can not reflect the movement in the screen.
  • the ATMVP candidate may be derived based on the motion vector of the corresponding block (or col block) derived based on the position indicated by the motion vector of the spatial neighboring block, thereby overcoming the limitation of the existing TMVP candidate.
  • it may be derived based on the corresponding block (or col block), the upper left sample position of the current block, the motion vector of the spatial neighboring block, and the width / height of the current block.
  • the upper left sample position of the corresponding block may correspond to a position moved from the upper left sample position of the current block by the motion vector of the spatial neighboring block, and the width / height of the corresponding block is the width / height of the current block.
  • the corresponding block is located in a reference picture (or collocated picture) that is not the current picture.
  • the ATMVP may be derived based on motion vectors in units of subblocks in the corresponding block (or col block).
  • the position of the corresponding block may be derived based on the motion vector of the spatial neighboring block, and the spatial neighboring block may include, for example, the following.
  • FIG 11 shows an example of spatial neighboring blocks that can be used for ATMVP candidate derivation.
  • the spatial peripheral block includes a lower left corner peripheral block A0, a left peripheral block A1, a right upper corner peripheral block B0, an upper peripheral block B1, and an upper left corner peripheral block of the current block. It may include at least one of the blocks (B2). Here, B2 may be omitted. Alternatively, the spatial neighboring block may include only the left neighboring block A1 of the current block.
  • the coding device may search for the spatial neighboring block in a predetermined scan order and use the motion vector of the first available spatial neighboring block to derive the corresponding block.
  • the available spatial neighboring block may mean, for example, a case in which a reference picture of the spatial neighboring block and an or collocated picture of the current block are the same. For example, when the spatial neighboring block is coded based on an intra prediction mode or located outside the current picture / tile, the spatial neighboring block may be determined to be unavailable.
  • the scan order may be defined in various ways.
  • the scan order may be A1, B1, B0, A0.
  • the scan order may be A1, B1, B0, A0, B2.
  • the scan order may be A0, A1, B0, B1, B2.
  • when only A1 is referred to, only A1 may be scanned.
  • the motion information of the current block may be derived based on the motion information of the corresponding block.
  • motion vectors in subblock units of the corresponding block may be derived, and motion vectors in subblock units of the current block may be derived based on motion vectors in the subblock units of the corresponding block.
  • scaling may be applied to the motion vectors of the subblock unit of the corresponding block to derive the motion vectors of the subblock unit of the current block.
  • the scaling may be performed based on a temporal distance difference between a reference picture of the corresponding block and a reference picture of the current block.
  • a motion vector may not exist in a specific subblock.
  • the motion vector of the block located in the center of the corresponding block may be used as a motion vector for the specific subblock in which the motion vector does not exist, and may be stored as a representative motion vector.
  • the center of the corresponding block may include a lower right end of the center of the corresponding block. The lower right end of the center of the corresponding block may indicate a lower right sample position among four samples positioned at the center of the corresponding block.
  • the process of deriving the corresponding block with respect to the current block by using the motion vector of the spatial neighboring block may be referred to as a motion shift.
  • the ATMVP candidate is derived based on motion vectors of subblock units of the corresponding block in a reference picture (same location picture) and may be called a subblock-based temporal motion vector prediction (SbTMVP) candidate.
  • SbTMVP subblock-based temporal motion vector prediction
  • FIG. 12 is a view for explaining a SbTMVP candidate derivation process.
  • SbTMVP may use the motion field in the collocated picture to improve motion vector prediction and the merge mode of the block within the current picture.
  • SbTMVP the same col picture as that used by TMVP can be used.
  • SbTMVP may predict motion at the subblock level or the sub-coding unit level, and apply a motion shift before fetching temporal motion information from the col picture.
  • the motion shift may be obtained from a motion vector of one of the spatial neighboring blocks of the current block.
  • SbTMVP may predict the motion vector of the sub block in the current block according to two steps.
  • the spatial neighboring blocks may be tested in the order of A1, B1, B0, and A0 of FIG. 3.
  • the first spatial neighboring block having a motion vector using the col picture as its reference picture can be identified, and the motion vector can be selected as the motion shift to be applied. If such movement is not identified from the spatial neighboring block, the movement shift may be set to (0, 0).
  • the motion shift identified in the first step may be applied to obtain sub-block level motion information (motion vector and reference indices) from the col picture. For example, motion shift can be added to the coordinates of the current block.
  • the movement shift may be set to the movement of the block A1.
  • motion information of the corresponding block in the col picture may be used to derive motion information of the sub-block for each sub-block.
  • the motion information may be converted into motion vectors and reference indices of the current subblock in a similar manner to the TMVP process.
  • Temporal motion scaling can be applied to align the reference pictures of the temporal motion vectors with the reference pictures of the current block.
  • the combined subblock based merge list that includes both SbTVMP candidates and affine merge candidates may be used for signaling in affine merge mode.
  • the merge merge mode may be referred to as a subblock based merge mode.
  • the SbTVMP mode may be indicated to be enabled or disabled by a sequence parameter set (SPS) flag. If the SbTMVP mode is available, the SbTMVP predictor may be added to the first entry of the list of subblock based merge candidates, followed by the affine merge candidates.
  • the maximum allowed size of the affine merge candidate list may be five.
  • the subblock size used in the SbTMVP can be fixed to 8x8, and as in the affine merge mode, the SbTMVP mode can only be applied to blocks having both width and height of 8 or more.
  • the encoding logic of the additional SbTMVP merge candidate may be the same as other merge candidates. That is, an additional RD check may be performed for each block in the P or B slice to determine whether to use the SbTMVP candidate.
  • One embodiment of the present invention may provide a generalized merge mode.
  • the generalized merge mode may be referred to as a subblock merge mode, which will be described later (motion information or merge).
  • the candidate list may be called a subblock merge candidate list.
  • the merge mode may derive motion information of the current block from spatial or temporal neighboring blocks.
  • the merge mode may also carry an index for indicating one to be selected from the candidate list.
  • the candidate list in the generalized merge mode may be composed of six candidate types.
  • the six candidate types are, for example, inherited affine candidates, spatial candidates, Advanced Temporal Motion Vector Prediction (ATMVP) candidates, Spatial Temporal Motion Vector Prediction (STMVP) candidates, control point based And at least one of control point based affine candidates, and combined candidates and zero candidates used in HEVC.
  • the maximum number of merge candidates may be set to N, and the first N candidates may be used for the generalized merge mode.
  • the candidate insertion order or candidate construction order to be inserted into the candidate list is 1. inherited affine candidates (N_1), 2. spatial candidates (N_2), 3. ATMVP candidates (N_3), 4. STMVP candidates (N_4), 5. Control point based affine candidates N_5, 6. Combined candidates and zero candidates N_6 may be predefined.
  • N_1, N_2, N_3, N_4, N_5, and N_6 may indicate the maximum number of candidates of each type. For example, when N_1 is 2, up to two inherited affine candidates may be used, and when N_2 is 3, up to three candidates may be used as spatial candidates.
  • the maximum number of merge candidates may be N.
  • N may be adaptively determined among predefined values according to the number of available merge types. For example, if there are no surrounding affine blocks, the inherited affine candidates may not be available. Here, N may be set to a predefined small value. However, when the inherited affinity candidate is available, N may be set to a predefined large value.
  • Merge candidate types may be adaptively skipped. For example, if inherited affinity candidates are available, the control point based affinity candidate may not be considered merge candidates. Or, if inherited affinity candidates are not available, a control point based affinity candidate may be considered as merge candidates.
  • Control point based affine candidates may be determined in consideration of the motion model except for the motion model already considered for the inherited affine candidates. For example, if four-parameter models are considered to be inherited affine candidates, models other than the four-parameter model may be considered as control point based affine candidates.
  • One embodiment of the present invention may provide an inherited affine candidate list construction.
  • Table 1 is a table describing a motion model according to the number of parameters.
  • the inherited affine candidate list may be constructed from a spatial affine motion model meaning a motion model of a neighboring block.
  • Four types of affine motion models can be considered as shown in Table 1.
  • the selected spatial motion model may also be used to derive inherited affine candidates of the current block.
  • the affine motion candidate may be derived using an affine motion model of a neighboring block coded with an affine motion model. For example, when the neighboring block is coded with the rotational model, the candidate of the current block may be derived from the rotational model of the neighboring block.
  • N_1 candidates may be selected from the neighboring block by one of the following methods. 1) Perform a predefined scanning order, and the first scanned N_1 blocks with the considered motion models can be used to generate inherited affine candidates. 2) The neighboring blocks having the considered motion models are arranged in order with the reference frame close to the current frame, and N_1 blocks available for the first time may be used. 3) Only the neighboring blocks with the motion model and the most frequently generated reference frames may be used or initially used.
  • FIG. 13 illustrates a control point based affine candidate according to an embodiment of the present invention.
  • One embodiment of the present invention may provide corner point based affine candidates.
  • the motion information of the control points CP may determine the motion model of the current block.
  • the motion model may also be used as corner point based affine candidates.
  • the available number of control points can be considered up to five points, the five points being the top-left sample position, top-right sample position, bottom left corner of the current block. It may be located at the bottom-left sample position, the bottom-right sample position, and the center sample position.
  • the center sample position may correspond to the center right bottom sample position of the current block as described above.
  • CP k may represent a k th control point.
  • the motion information of CP1 may be determined from motion information of one of blocks A, B, and C, and the motion information of CP2 may be determined from motion information of one of blocks D and E, and CP3.
  • the motion information of may be determined from the motion information of one of the blocks F and G.
  • the motion information of CP4 may be determined from the motion information of block H, which is a temporal candidate.
  • the motion vector of the block H may be scaled in consideration of the reference frame of the current block and the reference frame of the block H.
  • the motion information of CP5 may be determined from motion information of block I, which is a temporal candidate.
  • a scaling process similar to the motion vector of the block H may be used.
  • the motion vector of the block I may be scaled in consideration of the reference frame of the current block and the reference frame of the block I.
  • Table 2 is a table showing the motion information and the motion model of the control points (CP).
  • Twenty-four motion models including affine motion models and higher-order motion models may be configured as shown in Table 2 and may be considered.
  • Affine may mean an affine motion model determined by three control points (CP1, CP2, and CP3)
  • Bilinear CP1, CP2, CP3
  • CP4 may mean a bilinear motion model determined from motion information of CP1, CP2, CP3, and CP4.
  • the above-described motion models can be considered as candidates for affine and higher-order motion candidates using the following methods. 1)
  • the motion vectors of the CPs are scaled to face the same target reference frame and can be used to generate the corresponding motion model. Here all motion models may be available.
  • the motion model may be determined when the motion vectors of the CPs have the same reference frame.
  • Simplified affine (CP1, CP2) may be available when the reference frames of CP1 and CP2 are the same, and Affine (CP1, CP2, CP3) may be available when the reference frames of CP1, CP2, and CP3 are different.
  • Process 2) may be considered first, and process 1) may be considered sequentially.
  • Motion models considered within inherited motion candidates may be excluded to be considered control point candidates.
  • FIG. 14 schematically illustrates a video encoding method by an encoding apparatus according to an embodiment of the present invention.
  • the method disclosed in FIG. 14 may be performed by the encoding apparatus disclosed in FIG. 1.
  • S1400 to S1430 of FIG. 14 may be performed by the prediction unit of the encoding apparatus
  • S1440 may be performed by the subtraction unit of the encoding apparatus
  • S1450 may be performed by the entropy encoding unit of the encoding apparatus. have.
  • the encoding apparatus derives the merge candidate list of the current block (S1400).
  • the merge candidate list may be a candidate list according to a generalized merge mode.
  • the merge candidate list may include an inherited candidate, a control point based candidate and an advanced temporal motion vector predictor (ATMVP) candidate.
  • the merge candidate list may further include a spatial candidate, a spatial temporal motion vector prediction (STMVP) candidate, and a combined candidate and zero candidate.
  • the merge candidate list includes inherited affine candidates, spatial candidates, advanced temporal motion vector prediction (ATMVP) candidates, spatial temporal motion vector prediction (STMVP) candidates, control point based affine candidates, and combined ) Candidates and zero candidates may be sequentially searched for and included.
  • ATMVP advanced temporal motion vector prediction
  • STMVP spatial temporal motion vector prediction
  • Candidates and zero candidates may be sequentially searched for and included.
  • the ATMVP candidate may be derived based on motion vectors in units of subblocks of a corresponding block located in a reference picture, and the corresponding block may be derived from a reference picture based on motion vectors of spatial neighboring blocks of the current block. have.
  • the inherited affine candidate can be derived based on the control point motion vectors of one of the spatial neighboring blocks of the current block, and the spatial neighboring blocks are the lower left corner peripheral block, the left peripheral block, and the upper right corner of the current block. And may include a corner peripheral block, an upper peripheral block, and an upper left corner peripheral block.
  • the control point based affinity candidate may include motion vector candidates for control points (CPs) of the current block.
  • the control point based affine candidate may refer to an affine MVP candidate.
  • the motion vector candidate for the first CP among the CPs of the current block is derived based on a first block group, and the first block group is the left adjacent to the lower left corner of the current block and the lower adjacent corner of the upper left corner of the current block. It may include a peripheral block and an upper peripheral block adjacent to the right of the upper left corner peripheral block.
  • a motion vector candidate for a second CP among the CPs of the current block is derived based on a second block group, and the second block group is adjacent to a left side of a block around a top right corner and a block around a right top corner of the current block. It may include an upper peripheral block.
  • the first block group may include blocks A, B, and C in FIG. 13, and the second block group may include blocks D and E.
  • control point based affine candidate may be derived based on the third block group the motion vector candidate for the third CP among the CPs of the current block
  • the third block group is a block around the lower left corner of the current block and It may include a left peripheral block adjacent to the upper side of the lower left corner peripheral block.
  • the third block group may include blocks F and G in FIG. 13.
  • the maximum number of candidates may be set in advance, and the maximum number of candidate candidates may be set in advance.
  • the maximum number of candidates may be determined according to the number of available candidate types.
  • the maximum candidate number may be determined as a predetermined small value as the number of available merge types is reduced.
  • the maximum number of candidates may be determined to be a relatively larger value than the predefined small value. Large values may also be predefined.
  • the sum of the number of inherited affine candidates and the number of control point based affine candidates may be set to a fixed value. For example, when the fixed value is 3 and the number of inherited affine candidates is 2, only one control point-based affine candidate may be used.
  • candidate types may be adaptively skipped. For example, if an inherited affinity candidate is available, the control point based affinity candidate may not be considered, and if the inherited affinity candidate is unavailable, a control point based affinity candidate may be considered.
  • the motion model of the inherited affine candidate and the control point-based affine candidate motion model may be considered differently.
  • the motion model of the control point-based affine candidates may be derived from the remaining motion models except for the inherited affinity candidates. For example, if four-parameter models are considered to be inherited affine candidates, models other than the four-parameter model may be considered as control point based affine candidates.
  • the motion model of the inherited affine candidate may be derived from a neighboring block of the current block.
  • the inherited affine candidate may be derived from the motion model of the neighboring block.
  • the candidate of the current block may be derived from the rotational model of the neighboring block.
  • the motion model includes a rotation motion model, a scaling motion model, a simplified affine motion model, an affine motion model, a bilinear motion model, and a quadratic motion model.
  • the number of parameters and the number of motion vectors required according to each model may be as shown in Table 1.
  • the inherited affine candidate is selected as the first N_1 blocks having the motion models considered among the neighboring blocks scanned according to a predefined scanning order when the maximum number of the corresponding types is N_1. Can be.
  • the inherited affine candidate may be selected as the first available N_1 blocks after the neighboring blocks having the motion models considered are arranged in order with the reference picture close to the current picture.
  • the inherited affine candidates may be selected or preferentially selected only with neighboring blocks having the motion model and the most frequently generated reference picture.
  • a corner point based affinity candidate or a control point based affinity candidate can use up to five control points (CPs).
  • the five CPs are the top-left sample position, top-right sample position, bottom-left sample position, bottom-right sample position, and center of the current block.
  • the sample position may be located and CPs located in each sample position may derive motion information based on a spatial neighboring block or a temporal neighboring block.
  • the above-described motion models may be determined by motion vectors of CPs having the same reference picture.
  • the motion vectors of the CPs are scaled to point to the same target reference picture, and the motion model may be determined by the scaled motion vectors.
  • all motion models can be used.
  • motion models considered for the inherited affine candidate may be excluded when considering motion models of the control point based affine candidate.
  • the encoding apparatus selects one of the candidates included in the merge candidate list (S1410). In operation S1420, the encoding apparatus derives subblock unit motion vectors of the current block based on the selected candidate.
  • subblock-based motion vectors of the current block may be derived based on motion vectors of a subblock of the corresponding block.
  • a detailed description of the ATMVP candidate has been given above with reference to FIGS. 10 to 12.
  • control point motion vectors of the current block may be derived based on the selected candidate, and based on the control point motion vectors Subblock unit motion vectors of the current block may be calculated.
  • the encoding apparatus derives the predicted block based on the subblock unit motion vectors (S1430).
  • the predicted block may mean a block having a high correlation with the current block in the motion information candidate list.
  • the encoding apparatus generates a residual block for the current block based on the predicted block (S1440), encodes image information including the residual block information, and outputs a bitstream (S1450).
  • the bitstream may be transmitted to the decoding apparatus via a network or a storage medium.
  • FIG. 15 schematically illustrates a video decoding method by a decoding apparatus according to an embodiment of the present invention.
  • the method disclosed in FIG. 15 may be performed by the decoding apparatus disclosed in FIG. 2.
  • S1500 to S1530 of FIG. 15 may be performed by the prediction unit of the decoding apparatus
  • S1540 may be performed by the reconstruction unit of the decoding apparatus.
  • the decoding apparatus generates a merge candidate list of the current block (S1500).
  • the merge candidate list may be a candidate list according to a generalized merge mode.
  • the merge candidate list may include an inherited candidate, a control point based candidate and an advanced temporal motion vector predictor (ATMVP) candidate.
  • the merge candidate list may further include a spatial candidate, a spatial temporal motion vector prediction (STMVP) candidate, and a combined candidate and zero candidate.
  • the merge candidate list includes inherited affine candidates, spatial candidates, advanced temporal motion vector prediction (ATMVP) candidates, spatial temporal motion vector prediction (STMVP) candidates, control point based affine candidates, and combined ) Candidates and zero candidates may be sequentially searched for and included.
  • ATMVP advanced temporal motion vector prediction
  • STMVP spatial temporal motion vector prediction
  • Candidates and zero candidates may be sequentially searched for and included.
  • the ATMVP candidate may be derived based on motion vectors in units of subblocks of a corresponding block located in a reference picture, and the corresponding block may be derived from a reference picture based on motion vectors of spatial neighboring blocks of the current block. have.
  • the inherited affine candidate can be derived based on the control point motion vectors of one of the spatial neighboring blocks of the current block, and the spatial neighboring blocks are the lower left corner peripheral block, the left peripheral block, and the upper right corner of the current block. And may include a corner peripheral block, an upper peripheral block, and an upper left corner peripheral block.
  • the control point based affinity candidate may include motion vector candidates for control points (CPs) of the current block.
  • the control point based affine candidate may refer to an affine MVP candidate.
  • the motion vector candidate for the first CP among the CPs of the current block is derived based on a first block group, and the first block group is the left adjacent to the lower left corner of the current block and the lower adjacent corner of the upper left corner of the current block. It may include a peripheral block and an upper peripheral block adjacent to the right of the upper left corner peripheral block.
  • a motion vector candidate for a second CP among the CPs of the current block is derived based on a second block group, and the second block group is adjacent to a left side of a block around a top right corner and a block around a right top corner of the current block. It may include an upper peripheral block.
  • the first block group may include blocks A, B, and C in FIG. 13, and the second block group may include blocks D and E.
  • control point based affine candidate may be derived based on the third block group the motion vector candidate for the third CP among the CPs of the current block
  • the third block group is a block around the lower left corner of the current block and It may include a left peripheral block adjacent to the upper side of the lower left corner peripheral block.
  • the third block group may include blocks F and G in FIG. 13.
  • the maximum number of candidates may be set in advance, and the maximum number of candidate candidates may be set in advance.
  • the maximum number of candidates may be determined according to the number of available candidate types.
  • the maximum candidate number may be determined as a predetermined small value as the number of available merge types is reduced.
  • the maximum number of candidates may be determined to be a relatively larger value than the predefined small value. Large values may also be predefined.
  • the sum of the number of inherited affine candidates and the number of control point based affine candidates may be set to a fixed value. For example, when the fixed value is 3 and the number of inherited affine candidates is 2, only one control point-based affine candidate may be used.
  • candidate types may be adaptively skipped. For example, if an inherited affinity candidate is available, the control point based affinity candidate may not be considered, and if the inherited affinity candidate is unavailable, a control point based affinity candidate may be considered.
  • the motion model of the inherited affine candidate and the control point-based affine candidate motion model may be considered differently.
  • the motion model of the control point-based affine candidates may be derived from the remaining motion models except for the inherited affinity candidates. For example, if four-parameter models are considered to be inherited affine candidates, models other than the four-parameter model may be considered as control point based affine candidates.
  • the motion model of the inherited affine candidate may be derived from a neighboring block of the current block.
  • the inherited affine candidate may be derived from the motion model of the neighboring block.
  • the candidate of the current block may be derived from the rotational model of the neighboring block.
  • the motion model includes a rotation motion model, a scaling motion model, a simplified affine motion model, an affine motion model, a bilinear motion model, and a quadratic motion model.
  • the number of parameters and the number of motion vectors required according to each model may be as shown in Table 1.
  • the inherited affine candidate is selected as the first N_1 blocks having the motion models considered among the neighboring blocks scanned according to a predefined scanning order when the maximum number of the corresponding types is N_1. Can be.
  • the inherited affine candidate may be selected as the first available N_1 blocks after the neighboring blocks having the motion models considered are arranged in order with the reference picture close to the current picture.
  • the inherited affine candidates may be selected or preferentially selected only with neighboring blocks having the motion model and the most frequently generated reference picture.
  • a corner point based affinity candidate or a control point based affinity candidate can use up to five control points (CPs).
  • the five CPs are the top-left sample position, top-right sample position, bottom-left sample position, bottom-right sample position, and center of the current block.
  • the sample position may be located and CPs located in each sample position may derive motion information based on a spatial neighboring block or a temporal neighboring block.
  • the above-described motion models may be determined by motion vectors of CPs having the same reference picture.
  • the motion vectors of the CPs are scaled to point to the same target reference picture, and the motion model may be determined by the scaled motion vectors.
  • all motion models can be used.
  • motion models considered for the inherited affine candidate may be excluded when considering motion models of the control point based affine candidate.
  • the decoding apparatus selects one of the candidates included in the merge candidate list (S1510). In operation S1520, the decoding apparatus derives subblock unit motion vectors of the current block based on the selected candidate.
  • subblock-based motion vectors of the current block may be derived based on motion vectors of a subblock of the corresponding block.
  • a detailed description of the ATMVP candidate has been given above with reference to FIGS. 10 to 12.
  • control point motion vectors of the current block may be derived based on the selected candidate, and based on the control point motion vectors Subblock unit motion vectors of the current block may be calculated.
  • the decoding apparatus derives the predicted block based on the subblock unit motion vectors (S1530).
  • the predicted block may mean a block having a high correlation with the current block in the motion information candidate list.
  • the decoding apparatus reconstructs the current picture based on the predicted block (S1540).
  • the bitstream may be transmitted from the encoding device via a network or a storage medium.
  • the above-described method according to the present invention may be implemented in software, and the encoding device and / or the decoding device according to the present invention may perform image processing of, for example, a TV, a computer, a smartphone, a set-top box, a display device, and the like. It can be included in the device.
  • the above-described method may be implemented as a module (process, function, etc.) for performing the above-described function.
  • the module may be stored in memory and executed by a processor.
  • the memory may be internal or external to the processor and may be coupled to the processor by various well known means.
  • the processor may include application-specific integrated circuits (ASICs), other chipsets, logic circuits, and / or data processing devices.
  • the memory may include read-only memory (ROM), random access memory (RAM), flash memory, memory card, storage medium and / or other storage device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 디코딩 장치에 의하여 수행되는 비디오 디코딩 방법으로서, 현재 블록의 머지 후보 리스트를 생성하는 단계, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하는 단계, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하는 단계, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 단계 및 상기 예측된 블록을 기반으로 현재 픽처를 복원하는 단계를 포함하되, 상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고, 상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고, 상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 한다.

Description

비디오 코딩 시스템에서 인터 예측 방법 및 장치
본 발명은 비디오 코딩 기술에 관한 것으로서 보다 상세하게는 비디오 처리 시스템에서 인터 예측 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 전송되는 정보량 또는 비트량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 영상 데이터를 저장하는 경우, 전송 비용과 저장 비용이 증가된다.
이에 따라, 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술이 요구된다.
본 발명의 기술적 과제는 비디오 코딩 효율을 높이는 방법 및 장치를 제공함에 있다.
본 발명의 다른 기술적 과제는 비디오 코딩 시스템에서 인터 예측 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 머지 모드에 따른 인터 예측 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 머지 모드에 따라 머지 후보 리스트를 도출하는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 머지 후보 리스트를 도출하기 위해 6개의 후보 타입을 탐색하는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 머지 후보 리스트에 포함시킬 수 있는 계승된 어파인 후보 및 컨트롤 포인트 기반 어파인 후보의 움직임 모델을 도출하는 방법 및 장치를 제공함에 있다.
본 발명의 일 실시예는 디코딩 장치에 의하여 수행되는 비디오 디코딩 방법을 제공한다. 상기 디코딩 방법은 현재 블록의 머지 후보 리스트를 생성하는 단계, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하는 단계, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하는 단계, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 단계 및 상기 예측된 블록을 기반으로 현재 픽처를 복원하는 단계를 포함하되, 상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고, 상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고, 상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 한다.
본 발명의 다른 실시예는 인코딩 장치에 의하여 수행되는 비디오 인코딩 방법을 제공한다. 상기 인코딩 방법은 현재 블록의 머지 후보 리스트를 생성하는 단계, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하는 단계, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하는 단계, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 단계, 상기 예측된 블록을 기반으로 상기 현재 블록에 대한 레지듀얼 블록을 생성하는 단계 및 상기 레지듀얼 블록에 대한 정보를 포함하는 영상 정보를 인코딩하여 비트스트림을 출력하는 단계를 포함하되, 상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고, 상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고, 상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 한다.
본 발명의 또 다른 실시예는 비디오 디코딩을 수행하는 디코딩 장치를 제공한다. 상기 디코딩 장치는 현재 블록의 머지 후보 리스트를 생성하고, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하고, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하고, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 예측부 및 상기 예측된 블록을 기반으로 현재 픽처를 복원하는 복원부를 포함하되, 상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고, 상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고, 상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 한다.
본 발명의 또 다른 실시예는 비디오 인코딩을 수행하는 인코딩 장치를 제공한다. 상기 인코딩 장치는 현재 블록의 머지 후보 리스트를 생성하고, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하고, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하고, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 예측부, 상기 예측된 블록을 기반으로 상기 현재 블록에 대한 레지듀얼 블록을 생성하는 감산부 단계 및 상기 레지듀얼 블록에 대한 정보를 포함하는 영상 정보를 인코딩하여 비트스트림을 출력하는 엔트로피 인코딩부를 포함하되, 상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고, 상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고, 상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 한다.
본 발명에 따르면, 머지 모드에 따른 인터 예측을 수행하여 전반적인 코딩 효율을 향상시킬 수 있다.
본 발명에 따르면, 현재 블록의 움직임 정보 도출을 위하여 최적의 움직임 정보 후보를 포함하는 움직임 정보 후보 리스트를 구성하여 인터 예측의 정확도(성능) 및 효율를 향상시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 도시한 블록도이다.
도 3은 본 발명의 일 실시예에 따른 인터 예측에서 머지 모드를 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 어파인 움직임 모델을 예시적으로 나타낸다.
도 5a 및 도 5b는 본 발명의 일 실시예에 따른 4-파라미터 어파인 모델 및 6-파라미터 어파인 모델을 예시적으로 나타낸다.
도 6은 본 발명의 일 실시예에 따른 어파인 움직임 벡터 필드가 서브블록 단위에서 결정되는 경우를 예시적으로 나타낸다.
도 7은 본 발명의 일 실시예에 따른 인터 예측에서 어파인 머지 모드를 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 어파인 머지 모드에서 후보들의 위치를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 인터 예측에서 STMVP 후보 도출을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 인터 예측에서 ATMVP 후보를 설명하기 위한 도면이다.
도 11은 ATMVP 후보 도출을 위하여 사용될 수 있는 공간적 주변 블록들의 예를 나타낸다.
도 12는 SbTMVP 후보 도출 과정을 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시예에 따른 컨트롤 포인트 기반 어파인 후보를 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시예에 따른 인코딩 장치에 의한 비디오 인코딩 방법을 개략적으로 나타낸다.
도 15는 본 발명의 일 실시예에 따른 디코딩 장치에 의한 비디오 디코딩 방법을 개략적으로 나타낸다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니다. 본 명세서에서 사용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명에서 "/"와 ","는 "및/또는"으로 해석된다. 예를 들어, "A/B"는 "A 및/또는 B"로 해석되고, "A, B"는 "A 및/또는 B"로 해석된다. 추가적으로, "A/B/C"는 "A, B 및/또는 C 중 적어도 하나"를 의미한다. 또한, "A, B, C"도 "A, B 및/또는 C 중 적어도 하나"를 의미한다.
추가적으로, 본 발명에서 "또는"는 "및/또는"으로 해석된다. 예를 들어, "A 또는 B"은, 1) "A" 만을 의미하고, 2) "B" 만을 의미하거나, 3) "A 및 B"를 의미할 수 있다. 달리 표현하면, 본 문서의 "또는"은 "추가적으로 또는 대체적으로(additionally or alternatively)"를 의미할 수 있다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
이하의 설명은 비디오, 이미지 또는 영상에 대해 다루는 기술 분야에서 적용될 수 있다. 예를 들어, 이하의 설명에서 개시된 방법 또는 실시예는 VVC (Versatile Video Coding) 표준 (ITU-T Rec. H.266), VVC 이후의 차세대 비디오/이미지 코딩 표준, 또는 VVC 이전의 표준들(예를 들어, HEVC (High Efficiency Video Coding) 표준 (ITU-T Rec. H.265) 등)의 개시 내용과 관련될 수 있다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성 요소에 대해서는 동일한 참조 부호를 사용하고 동일한 구성 요소에 대해서 중복된 설명은 생략한다.
본 명세서에서 비디오(video)는 시간의 흐름에 따른 일련의 영상(image)들의 집합을 의미할 수 있다. 픽처(picture)는 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미하며, 슬라이스(slice)는 코딩에 있어서 픽처의 일부를 구성하는 단위이다. 하나의 픽처는 복수의 슬라이스로 구성될 수 있으며, 필요에 따라서 픽처 및 슬라이스는 서로 혼용되어 사용될 수 있다.
픽셀(pixel) 또는 펠(pel)은 하나의 픽처(또는 영상)을 구성하는 최소의 단위를 의미할 수 있다. 또한, 픽셀에 대응하는 용어로서 '샘플(sample)'이 사용될 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 휘도(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 채도(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있다.
유닛(unit)은 영상 처리의 기본 단위를 나타낸다. 유닛은 픽처의 특정 영역 및 해당 영역에 관련된 정보 중 적어도 하나를 포함할 수 있다. 유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들 또는 변환 계수(transform coefficient)들의 집합을 나타낼 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
이하 인코딩/디코딩 장치는 비디오 인코딩/디코딩 장치 및/또는 영상 인코딩/디코딩 장치를 포함할 수 있고, 비디오 인코딩/디코딩 장치가 영상 인코딩/디코딩 장치를 포함하는 개념으로 사용되거나, 영상 인코딩/디코딩 장치가 비디오 인코딩/디코딩 장치를 포함하는 개념으로 사용될 수도 있다.
도 1을 참조하면, (비디오) 인코딩 장치(100)는 픽처 분할부(picture partitioning module, 105), 예측부(prediction module, 110), 레지듀얼 처리부(residual processing module, 120), 엔트로피 인코딩부(entropy encoding module, 130), 가산부(adder, 140), 필터부(filtering module, 150) 및 메모리(memory, 160)을 포함할 수 있다. 레지듀얼 처리부(120)는 감산부(substractor, 121), 변환부(transform module, 122), 양자화부(quantization module, 123), 재정렬부(rearrangement module, 124), 역양자화부(dequantization module, 125) 및 역변환부(inverse transform module, 126)를 포함할 수 있다.
픽처 분할부(105)는 입력된 픽처를 적어도 하나의 처리 유닛(processing unit)으로 분할할 수 있다.
일 예로, 처리 유닛은 코딩 유닛(coding unit, CU)이라고 불릴 수 있다. 이 경우 코딩 유닛은 최대 코딩 유닛(largest coding unit, LCU)으로부터 QTBT (Quad-tree binary-tree) 구조에 따라 재귀적으로(recursively) 분할될 수 있다. 예를 들어, 하나의 코딩 유닛은 쿼드 트리 구조, 바이너리 트리 구조 및/또는 터너리(ternary) 트리 구조를 기반으로 하위(deeper) 뎁스의 복수의 코딩 유닛들로 분할될 수 있다. 이 경우 예를 들어 쿼드 트리 구조가 먼저 적용되고 바이너리 트리 구조 및 터너리 트리 구조가 나중에 적용될 수 있다. 또는 바이너리 트리 구조/터너리 트리 구조가 먼저 적용될 수도 있다. 더 이상 분할되지 않는 최종 코딩 유닛을 기반으로 본 발명에 따른 코딩 절차가 수행될 수 있다. 이 경우 영상 특성에 따른 코딩 효율 등을 기반으로, 최대 코딩 유닛이 바로 최종 코딩 유닛으로 사용될 수 있고, 또는 필요에 따라 코딩 유닛은 재귀적으로(recursively) 보다 하위 뎁스의 코딩 유닛들로 분할되어 최적의 사이즈의 코딩 유닛이 최종 코딩 유닛으로 사용될 수 있다. 여기서 코딩 절차라 함은 후술하는 예측, 변환, 및 복원 등의 절차를 포함할 수 있다.
다른 예로, 처리 유닛은 코딩 유닛(coding unit, CU) 예측 유닛(prediction unit, PU) 또는 변환 유닛(transform unit, TU)을 포함할 수도 있다. 코딩 유닛은 최대 코딩 유닛(largest coding unit, LCU)으로부터 쿼드 트리 구조를 따라서 하위(deeper) 뎁스의 코딩 유닛들로 분할(split)될 수 있다. 이 경우 영상 특성에 따른 코딩 효율 등을 기반으로, 최대 코딩 유닛이 바로 최종 코딩 유닛으로 사용될 수 있고, 또는 필요에 따라 코딩 유닛은 재귀적으로(recursively) 보다 하위 뎁스의 코딩 유닛들로 분할되어 최적의 사이즈의 코딩 유닛이 최종 코딩 유닛으로 사용될 수 있다. 최소 코딩 유닛(smallest coding unit, SCU)이 설정된 경우 코딩 유닛은 최소 코딩 유닛보다 더 작은 코딩 유닛으로 분할될 수 없다. 여기서 최종 코딩 유닛이라 함은 예측 유닛 또는 변환 유닛으로 파티셔닝 또는 분할되는 기반이 되는 코딩 유닛을 의미한다. 예측 유닛은 코딩 유닛으로부터 파티셔닝(partitioning)되는 유닛으로서, 샘플 예측의 유닛일 수 있다. 이 때, 예측 유닛은 서브 블록(sub block)으로 나뉠 수도 있다. 변환 유닛은 코딩 유닛으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 유도하는 유닛 및/또는 변환 계수로부터 레지듀얼 신호(residual signal)를 유도하는 유닛일 수 있다. 이하, 코딩 유닛은 코딩 블록(coding block, CB), 예측 유닛은 예측 블록(prediction block, PB), 변환 유닛은 변환 블록(transform block, TB) 으로 불릴 수 있다. 예측 블록 또는 예측 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 예측 샘플의 어레이(array)를 포함할 수 있다. 또한, 변환 블록 또는 변환 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 변환 계수 또는 레지듀얼 샘플의 어레이를 포함할 수 있다.
예측부(110)는 처리 대상 블록(이하, 현재 블록 또는 레지듀얼 블록을 의미할 수도 있다)에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부(110)에서 수행되는 예측의 단위는 코딩 블록일 수 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.
예측부(110)는 현재 블록에 인트라 예측이 적용되는지 인터 예측이 적용되는지를 결정할 수 있다. 일 예로, 예측부(110)는 CU 단위로 인트라 예측 또는 인터 예측이 적용되는지를 결정할 수 있다.
인트라 예측의 경우에, 예측부(110)는 현재 블록이 속하는 픽처(이하, 현재 픽처) 내의 현재 블록 외부의 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 예측부(110)는 (i) 현재 블록의 주변(neighboring) 참조 샘플들의 평균(average) 혹은 인터폴레이션(interpolation)을 기반으로 예측 샘플을 유도할 수 있고, (ii) 현재 블록의 주변 참조 샘플들 중 예측 샘플에 대하여 특정 (예측) 방향에 존재하는 참조 샘플을 기반으로 상기 예측 샘플을 유도할 수도 있다. (i)의 경우는 비방향성 모드 또는 비각도 모드, (ii)의 경우는 방향성(directional) 모드 또는 각도(angular) 모드라고 불릴 수 있다. 인트라 예측에서 예측 모드는 예를 들어 33개의 방향성 예측 모드와 적어도 2개 이상의 비방향성 모드를 가질 수 있다. 비방향성 모드는 DC 예측 모드 및 플래너 모드(Planar 모드)를 포함할 수 있다. 예측부(110)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측의 경우에, 예측부(110)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 샘플을 기반으로, 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(110)는 스킵(skip) 모드, 머지(merge) 모드, 및 MVP(motion vector prediction) 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 스킵 모드와 머지 모드의 경우에, 예측부(110)는 주변 블록의 움직임 정보를 현재 블록의 움직임 정보로 이용할 수 있다. 스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차(레지듀얼)가 전송되지 않는다. MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(Motion Vector Predictor)로 이용하여 현재 블록의 움직임 벡터 예측자로 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다.
인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처(reference picture)에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 움직임 정보(motion information)는 움직임 벡터와 참조 픽처 인덱스를 포함할 수 있다. 예측 모드 정보와 움직임 정보 등의 정보는 (엔트로피) 인코딩되어 비트스트림 형태로 출력될 수 있다.
스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트(reference picture list) 상의 최상위 픽처가 참조 픽처로서 이용될 수도 있다. 참조 픽처 리스트(Picture Order Count)에 포함되는 참조 픽처들은 현재 픽처와 해당 참조 픽처 간의 POC(Picture order count) 차이 기반으로 정렬될 수 있다. POC는 픽처의 디스플레이 순서에 대응하며, 코딩 순서와 구분될 수 있다.
감산부(121)는 원본 샘플과 예측 샘플 간의 차이인 레지듀얼 샘플을 생성한다. 스킵 모드가 적용되는 경우에는, 상술한 바와 같이 레지듀얼 샘플을 생성하지 않을 수 있다.
변환부(122)는 변환 블록 단위로 레지듀얼 샘플을 변환하여 변환 계수(transform coefficient)를 생성한다. 변환부(122)는 해당 변환 블록의 사이즈와, 해당 변환 블록과 공간적으로 겹치는 코딩 블록 또는 예측 블록에 적용된 예측 모드에 따라서 변환을 수행할 수 있다. 예컨대, 상기 변환 블록과 겹치는 상기 코딩 블록 또는 상기 예측 블록에 인트라 예측이 적용되었고, 상기 변환 블록이 4Х4의 레지듀얼 어레이(array)라면, 레지듀얼 샘플은 DST(Discrete Sine Transform) 변환 커널을 이용하여 변환되고, 그 외의 경우라면 레지듀얼 샘플은 DCT(Discrete Cosine Transform) 변환 커널을 이용하여 변환할 수 있다.
양자화부(123)는 변환 계수들을 양자화하여, 양자화된 변환 계수를 생성할 수 있다.
재정렬부(124)는 양자화된 변환 계수를 재정렬한다. 재정렬부(124)는 계수들 스캐닝(scanning) 방법을 통해 블록 형태의 양자화된 변환 계수들을 1차원 벡터 형태로 재정렬할 수 있다. 여기서 재정렬부(124)는 별도의 구성으로 설명하였으나, 재정렬부(124)는 양자화부(123)의 일부일 수 있다.
엔트로피 인코딩부(130)는 양자화된 변환 계수들에 대한 엔트로피 인코딩을 수행할 수 있다. 엔트로피 인코딩은 예를 들어 지수 골롬(exponential Golomb), CAVLC(context-adaptive variable length coding), CABAC(context-adaptive binary arithmetic coding) 등과 같은 인코딩 방법을 포함할 수 있다. 엔트로피 인코딩부(130)는 양자화된 변환 계수 외 비디오 복원에 필요한 정보들(예컨대 신택스 요소(syntax element)의 값 등)을 함께 또는 별도로 엔트로피 인코딩 또는 기 설정된 방법에 따라 인코딩할 수도 있다. 인코딩된 정보들은 비트스트림 형태로 NAL(network abstraction layer) 유닛 단위로 전송 또는 저장될 수 있다. 상기 비트스트림은 네트워크를 통하여 전송될 수 있고, 또는 디지털 저장매체에 저장될 수 있다. 여기서 네트워크는 방송망 및/또는 통신망 등을 포함할 수 있고, 디지털 저장매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장매체를 포함할 수 있다.
역양자화부(125)는 양자화부(123)에서 양자화된 값(양자화된 변환 계수)들을 역양자화하고, 역변환부(126)는 역양자화부(125)에서 역양자화된 값들을 역변환하여 레지듀얼 샘플을 생성한다.
가산부(140)는 레지듀얼 샘플과 예측 샘플을 합쳐서 픽처를 복원한다. 레지듀얼 샘플과 예측 샘플은 블록 단위로 더해져서 복원 블록이 생성될 수 있다. 여기서 가산부(140)는 별도의 구성으로 설명하였으나, 가산부(140)는 예측부(110)의 일부일 수 있다. 한편, 가산부(140)는 복원부(reconstruction module) 또는 복원 블록 생성부로 불릴 수도 있다.
복원된 픽처(reconstructed picture)에 대하여 필터부(150)는 디블록킹 필터 및/또는 샘플 적응적 오프셋(sample adaptive offset)을 적용할 수 있다. 디블록킹 필터링 및/또는 샘플 적응적 오프셋을 통해, 복원 픽처 내 블록 경계의 아티팩트나 양자화 과정에서의 왜곡이 보정될 수 있다. 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링의 과정이 완료된 후 적용될 수 있다. 필터부(150)는 ALF(Adaptive Loop Filter)를 복원된 픽처에 적용할 수도 있다. ALF는 디블록킹 필터 및/또는 샘플 적응적 오프셋이 적용된 후의 복원된 픽처에 대하여 적용될 수 있다.
메모리(160)는 복원 픽처(디코딩된 픽처) 또는 인코딩/디코딩에 필요한 정보를 저장할 수 있다. 여기서 복원 픽처는 상기 필터부(150)에 의하여 필터링 절차가 완료된 복원 픽처일 수 있다. 상기 저장된 복원 픽처는 다른 픽처의 (인터) 예측을 위한 참조 픽처로 활용될 수 있다. 예컨대, 메모리(160)는 인터 예측에 사용되는 (참조) 픽처들을 저장할 수 있다. 이 때, 인터 예측에 사용되는 픽처들은 참조 픽처 세트(reference picture set) 혹은 참조 픽처 리스트(reference picture list)에 의해 지정될 수 있다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 도시한 블록도이다.
이하 비디오 디코딩 장치라 함은 영상 디코딩 장치를 포함할 수 있다.
도 2를 참조하면, 비디오 디코딩 장치(200)는 엔트로피 디코딩부(entropy decoding module, 210), 레지듀얼 처리부(residual processing module, 220), 예측부(prediction module, 230), 가산부(adder, 240), 필터부(filtering module, 250) 및 메모리(memory, 260)을 포함할 수 있다. 여기서 레지듀얼 처리부(220)는 재정렬부(rearrangement module, 221), 역양자화부(dequantization module, 222), 역변환부(inverse transform module, 223)을 포함할 수 있다. 또한, 비록 도시되지는 않았으나, 비디오 디코딩 장치(200)는 비디오 정보를 포함하는 비트스트림을 수신하는 수신부를 포함할 수 있다. 상기 수신부는 별도의 모듈로 구성될 수도 있고 또는 엔트로피 디코딩부(210)에 포함될 수 있다.
비디오/영상 정보를 포함하는 비트스트림이 입력되면, 비디오 디코딩 장치는(200)는 비디오 인코딩 장치에서 비디오/영상 정보가 처리된 프로세스에 대응하여 비디오/영상/픽처를 복원할 수 있다.
예컨대, 비디오 디코딩 장치(200)는 비디오 인코딩 장치에서 적용된 처리 유닛을 이용하여 비디오 디코딩을 수행할 수 있다. 따라서 비디오 디코딩의 처리 유닛 블록은 일 예로 코딩 유닛일 수 있고, 다른 예로 코딩 유닛, 예측 유닛 또는 변환 유닛일 수 있다. 코딩 유닛은 최대 코딩 유닛으로부터 쿼드 트리 구조, 바이너리 트리 구조 및/또는 터너리 트리 구조를 따라서 분할될 수 있다.
예측 유닛 및 변환 유닛이 경우에 따라 더 사용될 수 있으며, 이 경우 예측 블록은 코딩 유닛으로부터 도출 또는 파티셔닝되는 블록으로서, 샘플 예측의 유닛일 수 있다. 이 때, 예측 유닛은 서브 블록으로 나뉠 수도 있다. 변환 유닛은 코딩 유닛으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 유도하는 유닛 또는 변환 계수로부터 레지듀얼 신호를 유도하는 유닛일 수 있다.
엔트로피 디코딩부(210)는 비트스트림을 파싱하여 비디오 복원 또는 픽처 복원에 필요한 정보를 출력할 수 있다. 예컨대, 엔트로피 디코딩부(210)는 지수 골롬 부호화, CAVLC 또는 CABAC 등의 코딩 방법을 기초로 비트스트림 내 정보를 디코딩하고, 비디오 복원에 필요한 신택스 엘리먼트의 값, 레지듀얼에 관한 변환 계수의 양자화된 값 들을 출력할 수 있다.
보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 컨택스트(context) 모델을 결정하고, 결정된 컨택스트 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 컨택스트 모델 결정 후 다음 심볼/빈의 컨택스트 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 컨택스트 모델을 업데이트할 수 있다.
엔트로피 디코딩부(210)에서 디코딩된 정보 중 예측에 관한 정보는 예측부(230)로 제공되고, 엔트로피 디코딩부(210)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수는 재정렬부(221)로 입력될 수 있다.
재정렬부(221)는 양자화되어 있는 변환 계수들을 2차원의 블록 형태로 재정렬할 수 있다. 재정렬부(221)는 인코딩 장치에서 수행된 계수 스캐닝에 대응하여 재정렬을 수행할 수 있다. 여기서 재정렬부(221)는 별도의 구성으로 설명하였으나, 재정렬부(221)는 역양자화부(222)의 일부일 수 있다.
역양자화부(222)는 양자화되어 있는 변환 계수들을 (역)양자화 파라미터를 기반으로 역양자화하여 변환 계수를 출력할 수 있다. 이 때, 양자화 파라미터를 유도하기 위한 정보는 인코딩 장치로부터 시그널링될 수 있다.
역변환부(223)는 변환 계수들을 역변환하여 레지듀얼 샘플들을 유도할 수 있다.
예측부(230)는 현재 블록에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부(230)에서 수행되는 예측의 단위는 코딩 블록일 수도 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.
예측부(230)는 상기 예측에 관한 정보를 기반으로 인트라 예측을 적용할 것인지 인터 예측을 적용할 것인지를 결정할 수 있다. 이 때, 인트라 예측과 인터 예측 중 어느 것을 적용할 것인지를 결정하는 단위와 예측 샘플을 생성하는 단위는 상이할 수 있다. 아울러, 인터 예측과 인트라 예측에 있어서 예측 샘플을 생성하는 단위 또한 상이할 수 있다. 예를 들어, 인터 예측과 인트라 예측 중 어느 것을 적용할 것인지는 CU 단위로 결정할 수 있다. 또한 예를 들어, 인터 예측에 있어서 PU 단위로 예측 모드를 결정하고 예측 샘플을 생성할 수 있고, 인트라 예측에 있어서 PU 단위로 예측 모드를 결정하고 TU 단위로 예측 샘플을 생성할 수도 있다.
인트라 예측의 경우에, 예측부(230)는 현재 픽처 내의 주변 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(230)는 현재 블록의 주변 참조 샘플을 기반으로 방향성 모드 또는 비방향성 모드를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 주변 블록의 인트라 예측 모드를 이용하여 현재 블록에 적용할 예측 모드가 결정될 수도 있다.
인터 예측의 경우에, 예측부(230)는 참조 픽처 상에서 움직임 벡터에 의해 참조 픽처 상에서 특정되는 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(230)는 스킵(skip) 모드, 머지(merge) 모드 및 MVP 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이때, 비디오 인코딩 장치에서 제공된 현재 블록의 인터 예측에 필요한 움직임 정보, 예컨대 움직임 벡터, 참조 픽처 인덱스 등에 관한 정보는 상기 예측에 관한 정보를 기반으로 획득 또는 유도될 수 있다
스킵 모드와 머지 모드의 경우에, 주변 블록의 움직임 정보가 현재 블록의 움직임 정보로 이용될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.
예측부(230)는 가용한 주변 블록의 움직임 정보로 머지 후보 리스트를 구성하고, 머지 인덱스가 머지 후보 리스트 상에서 지시하는 정보를 현재 블록의 움직임 벡터로 사용할 수 있다. 머지 인덱스는 인코딩 장치로부터 시그널링될 수 있다. 움직임 정보는 움직임 벡터와 참조 픽처를 포함할 수 있다. 스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트 상의 최상위 픽처가 참조 픽처로서 이용될 수 있다.
스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차이(레지듀얼)이 전송되지 않는다.
MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하여 현재 블록의 움직임 벡터가 유도될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.
일 예로, 머지 모드가 적용되는 경우, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 머지 후보 리스트가 생성될 수 있다. 머지 모드에서는 머지 후보 리스트에서 선택된 후보 블록의 움직임 벡터가 현재 블록의 움직임 벡터로 사용된다. 상기 예측에 관한 정보는 상기 머지 후보 리스트에 포함된 후보 블록들 중에서 선택된 최적의 움직임 벡터를 갖는 후보 블록을 지시하는 머지 인덱스를 포함할 수 있다. 이 때, 예측부(230)는 상기 머지 인덱스를 이용하여, 현재 블록의 움직임 벡터를 도출할 수 있다.
다른 예로, MVP(Motion Vector Prediction) 모드가 적용되는 경우, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 움직임 벡터 예측자 후보 리스트가 생성될 수 있다. 즉, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터는 움직임 벡터 후보로 사용될 수 있다. 상기 예측에 관한 정보는 상기 리스트에 포함된 움직임 벡터 후보 중에서 선택된 최적의 움직임 벡터를 지시하는 예측 움직임 벡터 인덱스를 포함할 수 있다. 이 때, 예측부(230)는 상기 움직임 벡터 인덱스를 이용하여, 움직임 벡터 후보 리스트에 포함된 움직임 벡터 후보 중에서, 현재 블록의 예측 움직임 벡터를 선택할 수 있다. 인코딩 장치의 예측부는 현재 블록의 움직임 벡터와 움직임 벡터 예측자 간의 움직임 벡터 차분(MVD)을 구할 수 있고, 이를 인코딩하여 비트스트림 형태로 출력할 수 있다. 즉, MVD는 현재 블록의 움직임 벡터에서 상기 움직임 벡터 예측자를 뺀 값으로 구해질 수 있다. 이 때, 예측부(230)는 상기 예측에 관한 정보에 포함된 움직임 벡터 차분을 획득하고, 상기 움직임 벡터 차분과 상기 움직임 벡터 예측자의 가산을 통해 현재 블록의 상기 움직임 벡터를 도출할 수 있다. 예측부는 또한 참조 픽처를 지시하는 참조 픽처 인덱스 등을 상기 예측에 관한 정보로부터 획득 또는 유도할 수 있다.
가산부(240)는 레지듀얼 샘플과 예측 샘플을 더하여 현재 블록 혹은 현재 픽처를 복원할 수 있다. 가산부(240)는 레지듀얼 샘플과 예측 샘플을 블록 단위로 더하여 현재 픽처를 복원할 수도 있다. 스킵 모드가 적용된 경우에는 레지듀얼이 전송되지 않으므로, 예측 샘플이 복원 샘플이 될 수 있다. 여기서는 가산부(240)를 별도의 구성으로 설명하였으나, 가산부(240)는 예측부(230)의 일부일 수도 있다. 한편, 가산부(240)는 복원부(reconstruction module) 또는 복원 블록 생성부로 불릴 수도 있다.
필터부(250)는 복원된 픽처에 디블록킹 필터링 샘플 적응적 오프셋, 및/또는 ALF 등을 적용할 수 있다. 이 때, 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링 이후 적용될 수도 있다. ALF는 디블록킹 필터링 및/또는 샘플 적응적 오프셋 이후 적용될 수도 있다.
메모리(260)는 복원 픽처(디코딩된 픽처) 또는 디코딩에 필요한 정보를 저장할 수 있다. 여기서 복원 픽처는 상기 필터부(250)에 의하여 필터링 절차가 완료된 복원 픽처일 수 있다. 예컨대, 메모리(260)는 인터 예측에 사용되는 픽처들을 저장할 수 있다. 이 때, 인터 예측에 사용되는 픽처들은 참조 픽처 세트 혹은 참조 픽처 리스트에 의해 지정될 수도 있다. 복원된 픽처는 다른 픽처에 대한 참조 픽처로서 이용될 수 있다. 또한, 메모리(260)는 복원된 픽처를 출력 순서에 따라서 출력할 수도 있다.
한편, 상술한 바와 같이 비디오 코딩을 수행함에 있어 압축 효율을 높이기 위하여 예측을 수행한다. 이를 통하여 코딩 대상 블록인 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록을 생성할 수 있다. 여기서 상기 예측된 블록은 공간 도메인(또는 픽셀 도메인)에서의 예측 샘플들을 포함한다. 상기 예측된 블록은 인코딩 장치 및 디코딩 장치에서 동일하게 도출되며, 상기 인코딩 장치는 원본 블록의 원본 샘플 값 자체가 아닌 상기 원본 블록과 상기 예측된 블록 간의 레지듀얼에 대한 정보(레지듀얼 정보)를 디코딩 장치로 시그널링함으로써 영상 코딩 효율을 높일 수 있다. 디코딩 장치는 상기 레지듀얼 정보를 기반으로 레지듀얼 샘플들을 포함하는 레지듀얼 블록을 도출하고, 상기 레지듀얼 블록과 상기 예측된 블록을 합하여 복원 샘플들을 포함하는 복원 블록을 생성할 수 있고, 복원 블록들을 포함하는 복원 픽처를 생성할 수 있다.
상기 레지듀얼 정보는 변환 및 양자화 절차를 통하여 생성될 수 있다. 예를 들어, 인코딩 장치는 상기 원본 블록과 상기 예측된 블록 간의 레지듀얼 블록을 도출하고, 상기 레지듀얼 블록에 포함된 레지듀얼 샘플들(레지듀얼 샘플 어레이)에 변환 절차를 수행하여 변환 계수들을 도출하고, 상기 변환 계수들에 양자화 절차를 수행하여 양자화된 변환 계수들을 도출하여 관련된 레지듀얼 정보를 (비트스트림을 통하여) 디코딩 장치로 시그널링할 수 있다. 여기서 상기 레지듀얼 정보는 상기 양자화된 변환 계수들의 값 정보, 위치 정보, 변환 기법, 변환 커널, 양자화 파라미터 등의 정보를 포함할 수 있다. 디코딩 장치는 상기 레지듀얼 정보를 기반으로 역양자화/역변환 절차를 수행하고 레지듀얼 샘플들(또는 레지듀얼 블록)을 도출할 수 있다. 디코딩 장치는 예측된 블록과 상기 레지듀얼 블록을 기반으로 복원 픽처를 생성할 수 있다. 인코딩 장치는 또한 이후 픽처의 인터 예측을 위한 참조를 위하여 양자화된 변환 계수들을 역양자화/역변환하여 레지듀얼 블록을 도출하고, 이를 기반으로 복원 픽처를 생성할 수 있다.
도 3은 본 발명의 일 실시예에 따른 인터 예측에서 머지 모드를 설명하기 위한 도면이다.
픽처 내 현재 블록의 예측을 위하여 다양한 인터 예측 모드가 사용될 수 있다. 예를 들어, 머지 모드, 스킵 모드, MVP(motion vector prediction) 모드, 어파인(Affine) 모드, HMVP(historical motino vector prediction) 모드 등 다양한 모드가 사용될 수 있다. DMVR (Decoder side motion vector refinement) 모드, AMVR(adaptive motion vector resolution) 모드 등이 부수적인 모드로 더 사용될 수 있다. 어파인 모드는 어파인 움직임 예측(affine motion prediction) 모드라고 불릴 수도 있다. MVP 모드는 AMVP(advanced motion vector prediction) 모드라고 불릴 수도 있다. 본 문서에서 일부 모드 및/또는 일부 모드에 의하여 도출된 움직임 정보 후보는 다른 모드의 움직임 정보 관련 후보들 중 하나로 포함될 수도 있다.
현재 블록의 인터 예측 모드를 가리키는 예측 모드 정보가 인코딩 장치로부터 디코딩 장치로 시그널링될 수 있다. 상기 예측 모드 정보는 비트스트림에 포함되어 디코딩 장치에 수신될 수 있다. 상기 예측 모드 정보는 다수의 후보 모드들 중 하나를 지시하는 인덱스 정보를 포함할 수 있다. 또는, 플래그 정보의 계층적 시그널링을 통하여 인터 예측 모드를 지시할 수도 있다. 이 경우 상기 예측 모드 정보는 하나 이상의 플래그들을 포함할 수 있다. 예를 들어, 스킵 플래그를 시그널링하여 스킵 모드 적용 여부를 지시하고, 스킵 모드가 적용 안되는 경우에 머지 플래그를 시그널링하여 머지 모드 적용 여부를 지시하고, 머지 모드가 적용 안되는 경우에 MVP 모드 적용되는 것으로 지시하거나 추가적인 구분을 위한 플래그를 더 시그널링할 수도 있다. 어파인 모드는 독립적인 모드로 시그널링될 수도 있고, 또는 머지 모드 또는 MVP 모드 등에 종속적인 모드로 시그널링될 수도 있다. 예를 들어, 어파인 모드는 어파인 머지 모드 및 어파인 MVP 모드를 포함할 수 있다.
현재 블록의 움직임 정보를 이용하여 인터 예측을 수행할 수 있다. 인코딩 장치는 움직임 추정(motion estimation) 절차를 통하여 현재 블록에 대한 최적의 움직임 정보를 도출할 수 있다. 예를 들어, 인코딩 장치는 현재 블록에 대한 원본 픽처 내 원본 블록을 이용하여 상관성이 높은 유사한 참조 블록을 참조 픽처 내의 정해진 탐색 범위 내에서 분수 픽셀 단위로 탐색할 수 있고, 이를 통하여 움직임 정보를 도출할 수 있다. 블록의 유사성은 위상(phase) 기반 샘플 값들의 차를 기반으로 도출할 수 있다. 예를 들어, 블록의 유사성은 현재 블록(or 현재 블록의 템플릿)과 참조 블록(or 참조 블록의 템플릿) 간 SAD(sum of absolute differences)를 기반으로 계산될 수 있다. 이 경우 탐색 영역 내 SAD가 가장 작은 참조 블록을 기반으로 움직임 정보를 도출할 수 있다. 도출된 움직임 정보는 인터 예측 모드 기반으로 여러 방법에 따라 디코딩 장치로 시그널링될 수 있다.
머지 모드(merge mode)가 적용되는 경우, 현재 예측 블록의 움직임 정보가 직접적으로 전송되지 않고, 주변 예측 블록의 움직임 정보를 이용하여 상기 현재 예측 블록의 움직임 정보를 유도하게 된다. 따라서, 머지 모드를 이용하였음을 알려주는 플래그 정보 및 주변의 어떤 예측 블록을 이용하였는지를 알려주는 머지 인덱스를 전송함으로써 현재 예측 블록의 움직임 정보를 지시할 수 있다.
인코더는 머지 모드를 수행하기 위해서 현재 예측 블록의 움직임 정보를 유도하기 위해 이용되는 머지 후보 블록(merge candidate block)을 서치하여야 한다. 예를 들어, 상기 머지 후보 블록은 최대 5개까지 이용될 수 있으나, 본 발명은 이에 한정되지 않는다. 그리고, 상기 머지 후보 블록의 최대 개수는 슬라이스 헤더 또는 타일 그룹 헤더에서 전송될 수 있으며, 본 발명은 이에 한정되지 않는다. 상기 머지 후보 블록들을 찾은 후, 인코더는 머지 후보 리스트를 생성할 수 있고, 이들 중 가장 작은 비용을 갖는 머지 후보 블록을 최종 머지 후보 블록으로 선택할 수 있다.
본 발명은 상기 머지 후보 리스트를 구성하는 머지 후보 블록에 대한 다양한 실시예를 제공한다.
상기 머지 후보 리스트는 예를 들어 5개의 머지 후보 블록을 이용할 수 있다. 예를 들어, 4개의 공간적 머지 후보(spatial merge candidate)와 1개의 시간적 머지 후보(temporal merge candidate)를 이용할 수 있다. 구체적 예로, 공간적 머지 후보의 경우 도 3에 도시된 블록들을 공간적 머지 후보로 이용할 수 있다.
상기 현재 블록에 대한 머지 후보 리스트는 예를 들어 다음과 같은 절차를 기반으로 구성될 수 있다.
코딩 장치(인코더/디코더)는 현재 블록의 공간적 주변 블록들을 탐색하여 도출된 공간적 머지 후보들을 머지 후보 리스트에 삽입한다. 예를 들어, 상기 공간적 주변 블록들은 상기 현재 블록의 좌하측 코너 주변 블록, 좌측 주변 블록, 우상측 코너 주변 블록, 상측 주변 블록, 좌상측 코너 주변 블록들을 포함할 수 있다. 다만, 이는 예시로서 상술한 공간적 주변 블록들 이외에도 우측 주변 블록, 하측 주변 블록, 우하측 주변 블록 등 추가적인 주변 블록들이 더 상기 공간적 주변 블록들로 사용될 수 있다. 코딩 장치는 상기 공간적 주변 블록들을 우선순위를 기반으로 탐색하여 가용한 블록들을 검출하고, 검출된 블록들의 움직임 정보를 상기 공간적 머지 후보들로 도출할 수 있다. 예를 들어, 인코더 및 디코더는 도 3에 도시된 5개의 블록들을 A1, B1, B0, A0, B2의 순서대로 탐색하여, 가용한 후보들을 순차적으로 인덱싱하여 머지 후보 리스트로 구성할 수 있다.
코딩 장치는 상기 현재 블록의 시간적 주변 블록을 탐색하여 도출된 시간적 머지 후보를 상기 머지 후보 리스트에 삽입한다. 상기 시간적 주변 블록은 상기 현재 블록이 위치하는 현재 픽처와 다른 픽처인 참조 픽처 상에 위치할 수 있다. 상기 시간적 주변 블록이 위치하는 참조 픽처는 collocated 픽처 또는 col 픽처라고 불릴 수 있다. 상기 시간적 주변 블록은 상기 col 픽처 상에서의 상기 현재 블록에 대한 동일 위치 블록(co-located block)의 우하측 코너 주변 블록 및 우하측 센터 블록의 순서로 탐색될 수 있다. 상기 시간적 주변 블록을 이용하는 기법은 TMVP(temporal motion vector prediction)라고 지칭할 수도 있다.
한편, 움직임 데이터 압축(motion data compression)이 적용되는 경우, 상기 col 픽처에 일정 저장 단위마다 특정 움직임 정보를 대표 움직임 정보로 저장할 수 있다. 이 경우 상기 일정 저장 단위 내의 모든 블록에 대한 움직임 정보를 저장할 필요가 없으며 이를 통하여 움직임 데이터 압축 효과를 얻을 수 있다. 이 경우, 일정 저장 단위는 예를 들어 16x16 샘플 단위, 또는 8x8 샘플 단위 등으로 미리 정해질 수도 있고, 또는 인코더에서 디코더로 상기 일정 저장 단위에 대한 사이즈 정보가 시그널링될 수도 있다.
상기 움직임 데이터 압축이 적용되는 경우 상기 시간적 주변 블록의 움직임 정보는 상기 시간적 주변 블록이 위치하는 상기 일정 저장 단위의 대표 움직임 정보로 대체될 수 있다. 즉, 이 경우 구현 측면에서 보면, 상기 시간적 주변 블록의 좌표에 위치하는 예측 블록이 아닌, 상기 시간적 주변 블록의 좌표(좌상단 샘플 포지션)를 기반으로 일정 값만큼 산술적 오른쪽 쉬프트 후 산술적 왼쪽 쉬프트 한 위치를 커버하는 예측 블록의 움직임 정보를 기반으로 상기 시간적 머지 후보가 도출될 수 있다.
예를 들어, 상기 일정 저장 단위가 2nx2n 샘플 단위인 경우, 상기 시간적 주변 블록의 좌표가 (xTnb, yTnb)라 하면, 수정된 위치인 ((xTnb>>n)<<n), (yTnb>>n)<<n))에 위치하는 예측 블록의 움직임 정보가 상기 시간적 머지 후보를 위하여 사용될 수 있다. 구체적으로 예를 들어, 상기 일정 저장 단위가 16x16 샘플 단위인 경우, 상기 시간적 주변 블록의 좌표가 (xTnb, yTnb)라 하면, 수정된 위치인 ((xTnb>>4)<<4), (yTnb>>4)<<4))에 위치하는 예측 블록의 움직임 정보가 상기 시간적 머지 후보를 위하여 사용될 수 있다. 또는 예를 들어, 상기 일정 저장 단위가 8x8 샘플 단위인 경우, 상기 시간적 주변 블록의 좌표가 (xTnb, yTnb)라 하면, 수정된 위치인 ((xTnb>>3)<<3), (yTnb>>3)<<3))에 위치하는 예측 블록의 움직임 정보가 상기 시간적 머지 후보를 위하여 사용될 수 있다.
코딩 장치는 현재 머지 후보들의 개수가 최대 머지 후보들의 개수보다 작은지 여부를 확인할 수 있다. 상기 최대 머지 후보들의 개수는 미리 정의되거나 인코더에서 디코더로 시그널링될 수 있다. 예를 들어, 인코더는 상기 최대 머지 후보들의 개수에 관한 정보를 생성하고, 인코딩하여 비트스트림 형태로 상기 디코더로 전달할 수 있다. 상기 최대 머지 후보들의 개수가 다 채워지면 이후의 후보 추가 과정은 진행하지 않을 수 있다.
상기 확인 결과 상기 현재 머지 후보들의 개수가 상기 최대 머지 후보들의 개수보다 작은 경우, 코딩 장치는 추가 머지 후보를 상기 머지 후보 리스트에 삽입한다. 상기 추가 머지 후보는 예를 들어 ATMVP, combined bi-predictive 머지 후보 (현재 슬라이스/타일 그룹의 슬라이스/타일 그룹 타입이 B 타입인 경우) 및/또는 영벡터 머지 후보를 포함할 수 있다.
상기 확인 결과 상기 현재 머지 후보들의 개수가 상기 최대 머지 후보들의 개수보다 작지 않은 경우, 코딩 장치는 상기 머지 후보 리스트의 구성을 종료할 수 있다. 이 경우 인코더는 RD(rate-distortion) cost 기반으로 상기 머지 후보 리스트를 구성하는 머지 후보들 중 최적의 머지 후보를 선택할 수 있으며, 상기 선택된 머지 후보를 가리키는 선택 정보(예를 들어, 머지 인덱스)를 디코더로 시그널링할 수 있다. 디코더는 상기 머지 후보 리스트 및 상기 선택 정보를 기반으로 상기 최적의 머지 후보를 선택할 수 있다.
상기 선택된 머지 후보의 움직임 정보가 상기 현재 블록의 움직임 정보로 사용될 수 있으며, 상기 현재 블록의 움직임 정보를 기반으로 상기 현재 블록의 예측 샘플들을 도출할 수 있음을 상술한 바와 같다. 인코더는 상기 예측 샘플들을 기반으로 상기 현재 블록의 레지듀얼 샘플들을 도출할 수 있으며, 상기 레지듀얼 샘플들에 관한 레지듀얼 정보를 디코더로 시그널링할 수 있다. 디코더는 상기 제지듀얼 정보를 기반으로 도출된 레지듀얼 샘플들 및 상기 예측 샘플들을 기반으로 복원 샘플들을 생성하고, 이를 기반으로 복원 픽처를 생성할 수 있음은 상술한 바와 같다.
스킵 모드(skip mode)가 적용되는 경우, 앞에서 머지 모드가 적용되는 경우와 동일한 방법으로 상기 현재 블록의 움직임 정보를 도출할 수 있다. 다만, 스킵 모드가 적용되는 경우 해당 블록에 대한 레지듀얼 신호가 생략되며 따라서 예측 샘플들이 바로 복원 샘플들로 이용될 수 있다.
도 4는 본 발명의 일 실시예에 따른 어파인 움직임 모델을 예시적으로 나타낸다.
통상의 비디오 코딩 시스템은 부호화 블록의 움직임을 표현하기 위해 하나의 움직임 벡터를 사용하였다. 다만, 이러한 방법은 블록 단위에서 최적의 움직임을 나타낼 수 있으나, 실제 각 화소의 최적의 움직임은 나타낼 수 없을 수 있다. 따라서, 부호화 효율을 보다 향상시키기 위해 화소 단위에서 최적의 움직임 벡터를 결정할 수 있는 어파인 움직임 모델을 사용하여 부호화하는 어파인 모드 또는 어파인 움직임 예측 모드가 이용될 수 있다. 여기서 어파인 모드는 부호화 효율을 보다 향상시키기 위해 현재 블록의 서브블록 단위에서 최적의 움직임 벡터를 결정할 수도 있다. 어파인 움직임 예측 모드는 2개, 3개, 또는 4개의 움직임 벡터를 이용하여 블록의 각 화소 단위에서의 움직임 벡터를 나타낼 수 있다.
도 4를 참조하면, 어파인 움직임 모델은 4가지의 움직임 모델을 포함할 수 있으나, 이는 예시적인 움직임 모델이므로, 본 발명의 범위가 이에 한정되는 것은 아니다. 상술한 4가지 움직임은 이동 변형(translate), 스케일(scale), 회전(rotate) 및 형태 변형(shear)을 포함할 수 있다.
도 5a 및 도 5b는 본 발명의 일 실시예에 따른 4-파라미터 어파인 모델 및 6-파라미터 어파인 모델을 예시적으로 나타낸다.
도 5a 및 도 5b를 참조하면, 어파인 움직임 예측은 아핀 움직임 모델을 이용하기 위해 컨트롤 포인트(CP, Control Point)가 정의될 수 있으며, 2개 이상의 컨트롤 포인트 움직임 벡터(CPMV, Control Point Motion Vector)를 이용하여 블록이 포함하는 화소 위치 또는 서브블록의 움직임 벡터를 결정할 수 있다. 여기서 블록이 포함하는 화소 위치 또는 서브블록의 움직임 벡터들의 집합은 어파인 움직임 벡터 필드(affine MVF, affine Motion Vector Field)라고 지칭할 수 있다.
도 5a를 참조하면, 4-파라미터 어파인 모델은 2개의 CPMV를 이용하여 화소 위치 또는 서브블록의 움직임 벡터를 결정하는 모델을 의미할 수 있으며, 화소 위치 또는 서브블록의 움직임 벡터들 또는 어파인 움직임 벡터 필드는 수학식 1과 같이 도출될 수 있다.
Figure PCTKR2019004486-appb-M000001
도 5b를 참조하면, 6-파라미터 어파인 모델은 3개의 CPMV 움직임 벡터를 이용하여 화소 위치 또는 서브블록의 움직임 벡터를 결정하는 모델을 의미할 수 있으며, 화소 위치 또는 서브블록의 움직임 벡터들 또는 어파인 움직임 벡터 필드는 수학식 2와 같이 도출될 수 있다.
Figure PCTKR2019004486-appb-M000002
수학식 1 및 수학식 2에서 v0x, v0y는 현재 블록의 좌상단 코너 위치의 CP의 CPMV를, v1x, v1y는 현재 블록의 우상단 코너 위치의 CP의 CPMV를, v2x, v2y는 현재 블록의 좌하단 코너 위치의 CP의 CPMV를 나타낼 수 있다. 또한 W는 현재 블록의 너비를, H는 현재 블록의 높이를 나타낼 수 있다. vx, vy는 (x, y) 위치의 화소 또는 (x, y) 위치를 포함하는 서브블록의 움직임 벡터를 나타낼 수 있다.
어파인 움직임 모델을 나타내는 수학식 1 및 수학식 2는 일 예시에 해당할 뿐이며, 어파인 움직임 모델을 나타내기 위한 수식은 수학식 1 및 수학식 2에 한정되지 않는다. 예를 들어, 수학식 1 및 수학식 2에 개시된 각 계수들의 부호는 경우에 따라 수학식 1 및 2와 상이할 수도 있다.
도 6은 본 발명의 일 실시예에 따른 어파인 움직임 벡터 필드가 서브블록 단위에서 결정되는 경우를 예시적으로 나타낸다.
도 6을 참조하면, 인코딩/디코딩 과정에서 어파인 움직임 벡터 필드는 이미 정의된 서브블록 단위에서 결정될 수 있고, 도 6과 달리 화소 단위에서 결정될 수도 있다.
어파인 움직임 벡터 필드는 화소 단위로 결정하는 경우, 움직임 벡터는 각 화소값을 기준으로 결정될 수 있고, 서브블록 단위로 결정하는 경우, 움직임 벡터는 서브블록의 중앙(센터 우하측, 즉 중앙 4개의 샘플들 중 우하측 샘플) 화소값을 기준으로 결정될 수 있다.
어파인 모드는 어파인 머지 모드 및 어파인 MVP 모드를 포함할 수 있다.
도 7은 본 발명의 일 실시예에 따른 인터 예측에서 어파인 머지 모드를 설명하기 위한 도면이다.
어파인 머지 모드는 어파인 모드로 코딩된 주변 블록의 CPMV를 이용하여 현재 블록의 CPMV를 도출할 수 있다. 써치 순서 내에 어파인 코딩된 주변 블록이 어파인 머지 모드를 위해 사용될 수 있다. 현재 블록은 하나 이상의 주변 블록이 어파인 움직임 예측으로 코딩된 경우, 어파인 머지 모드로 코딩될 수 있다.
어파인 머지 모드가 적용되는 경우, 주변 블록의 CPMV들을 이용하여 현재 블록의 CPMV들을 도출될 수 있다. 이 경우 주변 블록의 CPMV들이 그대로 현재 블록의 CPMV들로 사용될 수도 있고, 주변 블록의 CPMV들이 상기 주변 블록의 사이즈 및 상기 현재 블록의 사이즈 등을 기반으로 수정되어 현재 블록의 CPMV들로 사용될 수 있다.
한편, 서브블록 단위로 움직임 벡터가 도출되는 어파인 머지의 경우에는, 서브블록 머지 모드라고 불릴 수 있으며, 이는 플래그(merge_subblock_flag)의 값이 1인 경우, 지시될 수 있다. 이 경우 후술하는 어파인 머지 후보 리스트는 서브블록 머지 후보 리스트라고 불릴 수도 있다. 이 경우 상기 서브블록 머지 후보 리스트는 후술하는 후술하는 SbTMVP로 도출된 후보가 더 포함될 수 있다.
어파인 머지 모드가 적용되는 경우, 현재 블록에 대한 CPMV들 도출을 위하여 어파인 머지 후보 리스트가 구성될 수 있다. 어파인 머지 후보 리스트는 예를 들어 계승된 어파인 후보(inherited affine candidates), 구성된 어파인 후보(constructed affine candidates) 및 제로 움직임 벡터 후보(zero motion vector candidate) 중 적어도 하나를 포함할 수 있다.
여기서, 상기 계승된 어파인 후보는 주변 블록이 어파인 모드로 코딩된 경우, 주변 블록의 CPMVs을 기반으로 도출되는 후보이고, 상기 구성된 어파인 후보는 각 CPMV 단위로 해당 CP 주변 블록의 움직임 벡터(MV)를 기반으로 CPMVs을 구성하여(constructed) 도출된 후보이고, 제로 움직임 벡터 후보는 그 값이 0인 CPMV들로 구성된 후보를 나타낼 수 있다.
어파인 머지 후보 리스트는 예를 들어 다음과 같이 구성될 수 있다.
최대 2개의 계승된 어파인 후보가 있을 수 있고, 계승된 어파인 후보는 주변 블록들의 어파인 움직임 모델로부터 도출될 수 있다. 주변 블록들은 하나의 좌측 주변 블록과 상측의 주변 블록을 포함할 수 있다. 후보 블록들은 도 3과 같이 위치할 수 있다. 좌측 예측자를 위한 스캔 순서는 A1->A0일 수 있고, 상측 예측자를 위한 스캔 순서는 B1->B0->B2일 수 있다. 좌측 및 상측 각각으로부터 하나의 계승된 후보만이 선택될 수 있다. 두 개의 계승된 후보들 간에는 프루닝 체크(pruning check)가 수행되지 않을 수 있다.
주변 어파인 블록이 확인되는 경우, 확인한 블록의 컨트롤 포인트 움직임 벡터들이 현재 블록의 어파인 머지 리스트 내의 CPMVP 후보를 도출하기 위해 사용될 수 있다. 예를 들어, 도 7을 참조하면, 좌하측(bottom-left) 주변 블록 A가 어파인 모드로 코딩된 경우, 주변 블록 A의 좌상측(top-left) 코너, 우상측(top-right) 코너 및 좌하측(bottom-left) 코너의 움직임 벡터 v2, v3 및 v4가 획득될 수 있다. 주변 블록 A가 4-파라미터 어파인 모델로 코딩된 경우, 현재 블록의 2개의 CPMV들이 v2 및 v3에 따라 산출될 수 있다. 주변 블록 A가 6-파라미터 어파인 모델로 코딩된 경우, 현재 블록의 3개의 CPMV들 v2, v3 및 v4에 따라 산출될 수 있다.
도 8은 본 발명의 일 실시예에 따른 어파인 머지 모드에서 후보들의 위치를 설명하기 위한 도면이다.
구성된(constructed) 어파인 후보는 각 컨트롤 포인트의 주변의 translational 움직임 정보를 조합하여 구성되는 후보를 의미할 수 있다. 컨트롤 포인트들의 움직임 정보는 특정된 공간적 주변 및 시간적 주변으로부터 도출될 수 있다. CPMVk(k=1, 2, 3, 4)는 k번째 컨트롤 포인트를 나타낼 수 있다.
도 8을 참조하면, CPMV1을 위해 B2->B3->A2 순서에 따라 블록들이 체크될 수 있고, 첫 번째로 이용 가능한 블록의 움직임 벡터가 사용될 수 있다. CPMV2를 위해 B1->B0 순서에 따라 블록들이 체크될 수 있고, CPMV3을 위해 A1->A0 순서에 따라 블록들이 체크될 수 있다. TMVP(temporal motion vector predictor)는 이용 가능한 경우 CPMV4로써 사용될 수 있다.
4개의 컨트롤 포인트들의 움직임 벡터들이 획득된 후, 어파인 머지 후보들은 획득한 움직임 정보들을 기반으로 구성될 수 있다. 컨트롤 포인트 움직임 벡터들의 조합은 {CPMV1, CPMV2, CPMV3}, {CPMV1, CPMV2, CPMV4}, {CPMV1, CPMV3, CPMV4}, {CPMV2, CPMV3, CPMV4}, {CPMV1, CPMV2} 및 {CPMV1, CPMV3}와 같이 구성될 수 있으며, 나열한 순서에 따라 구성될 수 있다.
3개의 CPMV들의 조합은 6-파라미터 어파인 머지 후보를 구성할 수 있고, 2개의 CPMV들의 조합은 4-파라미터 어파인 머지 후보를 구성할 수 있다. 움직임 스케일링 과정을 회피하기 위해, 컨트롤 포인트들의 참조 인덱스들이 서로 다른 경우, 컨트롤 포인트 움직임 벡터들의 관련된 조합들은 버려질 수 있다.
어파인 MVP 모드에서는 현재 블록에 대한 2 이상의 CPMVP 및 CPMV를 결정한 후 차이값에 해당하는 CPMVD(control point motion vector difference)를 인코딩 장치에서 디코딩 장치로 전송할 수 있다.
예를 들어, 플래그(affine merge flag 또는 merge_subblock_flag)의 값이 0인 경우, 어파인 MVP 모드가 적용될 수 있다. 상기 어파인 MVP 모드는 어파인 CP MVP 모드라고 불릴 수도 있다. 후술하는 어파인 MVP 후보 리스트는 컨트롤 포인트 움직임 벡터 예측자 후보 리스트(control point motion vectors predictor candidate list) 또는 컨트롤 포인트 기반 어파인 후보 리스트라고 불릴 수 있다.
어파인 MVP 모드가 적용되는 경우, 현재 블록에 대한 CPMV들 도출을 위하여 어파인 MVP 후보 리스트가 구성될 수 있다. 어파인 MVP 후보 리스트는 예를 들어, 주변 블록들의 CPMV들로부터 추론되는(extrapolated) 계승된(inherited) 어파인 MVP 후보들, 주변 블록들의 translational 움직임 벡터들을 이용하여 도출되는 구성된(constructed) 어파인 mvp 후보, 주변 블록들로부터 translational 움직임 벡터들에 기반된 추가적인 후보들 및 제로 움직임 벡터 후보 중 적어도 하나를 포함할 수 있다. 예를 들어, 어파인 MVP 후보 리스트는 최대 n(예를 들어 2개)의 후보를 포함할 수 있다.
여기서, 상기 계승된 어파인 후보는 주변 블록이 어파인 모드로 코딩된 경우, 주변 블록의 CPMVs을 기반으로 도출되는 후보이고, 상기 구성된 어파인 후보는 각 CPMV 단위로 해당 CP 주변 블록의 MV를 기반으로 CPMVs을 구성하여(constructed) 도출된 후보이고, 제로 움직임 벡터 후보는 그 값이 0인 CPMV들로 구성된 후보를 나타낼 수 있다. 어파인 MVP 후보 리스트에 대한 최대 후보 개수가 2개인 경우, 상기 주변 블록들로부터 translational 움직임 벡터들에 기반된 추가적인 후보들 및 제로 움직임 벡터 후보는 현재 후보 개수가 2개 미만인 경우에 고려 및 추가될 수 있다.
상기 주변 블록들로부터 translational 움직임 벡터들에 기반된 추가적인 후보들은 다음과 같은 순서로 도출될 수 있다. 1) 만약 후보 수가 2 미만이고 구성된 후보의 CPMV0이 유효하면 CPMV0를 어파인 MVP 후보로 사용한다. 즉, CP0, CP1 및 CP2의 MV가 모두 구성된 후보의 CPMV0와 같은 후보를 고려한다. 2) 만약 후보 수가 2 미만이고 구성된 후보의 CPMV1이 유효하면 CPMV1를 어파인 MVP 후보로 사용한다. 즉, CP0, CP1 및 CP2 의 MV가 모두 구성된 후보의 CPMV1과 같은 후보를 고려한다. 3) 만약 후보 수가 2 미만이고 구성된 후보의 CPMV2가 유효하면 CPMV2를 어파인 MVP 후보로 사용한다. 즉, CP0, CP1 및 CP2 의 MV가 모두 구성된 후보의 CPMV2와 같은 후보를 고려한다. 4) 만약 후보 수가 2 미만이면 TMVP(temporal motion vector predictor or mvCol)를 어파인 MVP 후보로 사용한다.
어파인 MVP 후보는 예를 들어, 다음과 같이 도출될 수 있다.
계승된 어파인 MVP 후보들의 체크 순서는 계승된 어파인 머지 후보들의 체크 순서와 동일할 수 있다. 다만, 차이점은 어파인 MVP 후보는 현재 블록과 동일한 참조 픽처를 가지는 어파인 블록이 고려될 수 있다. 계승된 어파인 움직임 예측자를 후보 리스트에 삽입하는 경우, 프루닝 체크(pruning check) 과정은 적용되지 않을 수 있다.
구성된 MVP 후보는 도 8에 나타난 특정된 공간적 주변 블록들로부터 도출될 수 있다. 어파인 머지 후보 구성에서 수행된 체크 순서와 동일한 체크 순서가 사용될 수 있다. 추가적으로 주변 블록의 참조 픽처 인덱스도 체크될 수 있다. 체크 순서에서 인터 예측으로 코딩되고, 현재 블록과 동일한 참조 픽처를 가지는 첫 번째 블록이 사용될 수 있다.
도 9는 본 발명의 일 실시예에 따른 인터 예측에서 STMVP 후보 도출을 설명하기 위한 도면이다.
STMVP(spatial-temporal motion vector prediction) 후보를 위하여 서브블록의 움직임 벡터가 재귀적으로(recursively) 도출될 수 있다.
예를 들어, 현재 블록이 8x8 크기이고, 4개의 4x4 크기의 서브블록(A, B, C 및 D)을 포함하는 경우, 현재 픽처 내에 4x4 크기의 주변 블록들(a, b, c 및 d)이 존재할 수 있다.
서브블록 A의 움직임 도출은 서브블록 A의 2개의 공간적 주변 블록을 확인하여 시작될 수 있다.
제1 주변 블록은 서브블록 A의 상측에 위치한 블록 c일 수 있다. 여기서 블록 c가 이용될 수 없거나 인트라로 코딩된 경우, 서브블록 A의 상측에 위치한 다른 블록이 체크될 수 있다. 다른 블록의 체크는 블록 c에서 시작하여 좌측에서 우측으로 수행될 수 있다.
제2 주변 블록은 서브블록 A의 좌측에 위치한 블록 b일 수 있다. 여기서 블록 b가 이용될 수 없거나 인트라로 코딩된 경우, 서브블록 A의 좌측에 위치한 다른 블록이 체크될 수 있다. 다른 블록의 체크는 블록 b에서 시작하여 상측에서 하측으로 수행될 수 있다.
각 리스트에 대한 주변 블록들으로부터 획득된 움직임 정보는 주어진 리스트에 대한 제1 참조 픽처로 스케일될 수 있다.
이후, 서브블록 A의 TMVP(temporal motion vector predictor)가 도출될 수 있다. 여기서, TMVP는 비디오 코딩 기술에서의 일반적인 TMVP 도출 과정을 통해 도출될 수 있다. 이에 따라 서브블록 D의 위치에서 col 블록(collocated block)의 움직임 정보가 가져와 질 수 있고(fetched), 스케일될 수 있다.
마지막으로, 움직임 정보를 되찾아오고(retrieving) 스케일링한 후, 모든 이용 가능한 움직임 벡터(최대 3개)는 각 참조 리스트에 대해 개별적으로 평균화될 수 있다. 평균화된 움직임 벡터는 현재 서브블록의 움직임 벡터로 할당될 수 있다.
다른 서브블록들도 서브블록 A와 같이 상술한 과정을 통해 움직임 벡터가 할당될 수 있다.
도 10은 본 발명의 일 실시예에 따른 인터 예측에서 ATMVP 후보를 설명하기 위한 도면이다.
ATMVP(advanced temporal motion vector prediction) 후보는 기존의 TMVP(temporal motion vector prediction) 후보를 개선한 방법일 수 있다.
기존의 TMVP는 현재 블록의 우하측(bottom-right) 블록 또는 현재 블록의 중앙(center) 위치의 col 블록(collocated block)의 움직임 벡터를 사용할 수 있다. 다만, 기존 TMVP는 화면 내의 움직임을 반영할 수 없는 한계점이 존재하였다.
ATMVP 후보는 공간적 주변 블록의 움직임 벡터가 가리키는 위치를 기반으로 도출되는 대응 블록(또는 col 블록)의 움직임 벡터를 기반으로 도출될 수 있고, 이를 통해 기존의 TMVP 후보의 한계점을 극복할 수 있다. 이 경우, 상기 대응 블록(또는 col 블록), 현재 블록의 좌상단 샘플 위치, 상기 공간적 주변 블록의 움직임 벡터, 상기 현재 블록의 너비/높이를 기반으로 도출될 수 있다. 예를 들어, 상기 대응 블록의 좌상단 샘플 위치는 현재 블록의 좌상단 샘플 위치로부터 상기 공간적 주변 블록의 움직임 벡터만큼 이동한 위치에 대응될 수 있고, 상기 대응 블록의 너비/높이는 상기 현재 블록의 너비/높이와 같을 수 있다. 상기 대응 블록은 현재 픽처가 아닌 참조 픽처(또는 동일위치 픽처(collocated picture))에 위치한다. 구체적으로 예를 들어, 상기 ATMVP는 상기 대응 블록(또는 col 블록) 내의 서브블록 단위의 움직임 벡터들을 기반으로 도출될 수 있다.
상술한 바와 같이 공간적 주변 블록의 움직임 벡터를 기반으로 상기 대응 블록의 위치가 도출될 수 있으며, 여기서 상기 공간적 주변 블록을 예를 들어 다음을 포함할 수 있다.
도 11은 ATMVP 후보 도출을 위하여 사용될 수 있는 공간적 주변 블록들의 예를 나타낸다.
도 11을 참조하면, 상기 공간적 주변 블록은 현재 블록의 좌하측 코너 주변 블록(A0), 좌측 주변 블록(A1), 우상측 코너 주변 블록(B0), 상측 주변 블록(B1), 좌상측 코너 주변 블록(B2) 중 적어도 하나를 포함할 수 있다. 여기서 상기 B2는 생략될 수도 있다. 또는 상기 공간적 주변 블록은 현재 블록의 좌측 주변 블록(A1)만을 포함할 수도 있다.
이 경우, 코딩 장치(인코딩 장치/디코딩 장치)는 상기 공간적 주변 블록을 미리 정해진 스캔 순서에 따라 탐색하면서 가장 먼저 가용한 공간적 주변 블록의 움직임 벡터를 상기 대응 블록을 도출하기 위하여 사용할 수 있다. 상기 가용한 공간적 주변 블록이라 함은 예를 들어, 상기 공간적 주변 블록의 참조 픽처와 상기 현재 블록의 참조 픽처(or collocated picture)가 동일한 경우를 의미할 수 있다. 예를 들어, 상기 공간적 주변 블록이 인트라 예측 모드 기반으로 코딩되거나 현재 픽처/타일 외부에 위치하는 경우 상기 공간적 주변 블록은 가용하지 않은 것으로 판단될 수 있다.
상기 스캔 순서는 다양하게 정의될 수 있으며, 예를 들어, 상기 스캔 순서는 A1, B1, B0, A0 순일 수 있다. 또는 상기 스캔 순서는 A1, B1, B0, A0, B2 순일 수 있다. 또는 상기 스캔 순서는 A0, A1, B0, B1, B2 순일 수 있다. 또는, A1만을 참조하는 경우, A1만을 스캔할 수도 있다.
상술한 바와 같이 상기 대응 블록의 움직임 정보를 기반으로 상기 현재 블록의 움직임 정보가 도출될 수 있다. 구체적으로, 상기 대응 블록의 서브블록 단위의 움직임 벡터들이 도출되고, 상기 대응 블록의 서브블록 단위의 움직임 벡터들을 기반으로 상기 현재 블록의 서브블록 단위의 움직임 벡터들이 도출될 수 있다. 이 경우, 상기 대응 블록의 서브블록 단위의 움직임 벡터들에 스케일링이 적용되어 상기 현재 블록의 서브블록 단위의 움직임 벡터들이 도출될 수도 있다. 상기 스케일링은 상기 대응 블록의 참조 픽처와 상기 현재 블록의 참조 픽처와의 시간적 거리 차이를 기반으로 수행될 수 있다.
상기 대응 블록의 서브블록 단위의 움직임 벡터들을 도출함에 있어서, 특정 서브블록에는 움직임 벡터가 존재하지 않을 수도 있다. 상기 특정 서브블록에 움직임 벡터가 존재하지 않는 경우, 상기 대응 블록의 중앙에 위치한 블록의 움직임 벡터를 움직임 벡터가 존재하지 않는 특정 서브블록을 위한 움직임 벡터로 사용할 수 있으며, 이를 대표 움직임 벡터로 저장할 수 있다. 이 경우 상기 대응 블록의 중앙이라 함은 상기 대응 블록의 센터 우하단을 포함할 수 있다. 상기 대응 블록의 센터 우하단은 상기 대응 블록의 중앙에 위치하는 4개의 샘플들 중 우하측 샘플 위치를 나타낼 수 있다.
상술한 ATMVP 후보 도출 과정에서, 상기 공간적 주변 블록의 움직임 벡터를 이용하여 상기 현재 블록에 대한 상기 대응 블록을 도출하는 과정을 움직임 쉬프트라고 부를 수 있다. 또한, 상기 ATMVP 후보는 참조 픽처(동일위치 픽처) 내의 상기 대응블록의 서브블록 단위의 움직임 벡터들을 기반으로 도출되는바, SbTMVP(subblock-based temporal motion vector prediction) 후보라고 불릴 수 있다. 구체적으로 예를 들어 다시 설명하면, 상술한 ATMVP (또는 SbTMVP) 후보 도출 과정은 다음과 같이 설명될 수 있다.
도 12는 SbTMVP 후보 도출 과정을 설명하기 위한 도면이다.
SbTMVP는 현재 픽처 내에서 움직임 벡터 예측 및 블록의 머지 모드를 향상시키기 위해 col픽처(collocated picture) 내의 움직임 필드를 이용할 수 있다. SbTMVP에서는 TMVP에 의해 이용되는 col픽처와 동일한 col픽처가 이용될 수 있다.
다만, SbTMVP는 서브블록 레벨 또는 서브 코딩 유닛 레벨에서 움직임을 예측할 수 있고, col픽처로부터 시간적 움직임 정보를 패칭(fetching)하기 전에 움직임 쉬프트(shift)를 적용할 수 있다. 여기서 움직임 쉬프트는 현재 블록의 공간적 주변 블록들 중 하나의 움직임 벡터로부터 획득될 수 있다.
SbTMVP는 두 단계에 따라 현재 블록 내의 서브 블록의 움직임 벡터를 예측할 수 있다.
제1 단계에서 공간적 주변 블록들은 도 3의 A1, B1, B0 및 A0의 순서에 따라 시험될 수 있다. col픽처를 자신의 참조 픽처로서 사용하는 움직임 벡터를 가지는 첫 번째 공간적 주변 블록이 확인될 수 있고, 움직임 벡터는 적용될 움직임 쉬프트로 선택될 수 있다. 공간적 주변 블록으로부터 이러한 움직임이 확인되지 않는 경우, 움직임 쉬프트는 (0, 0)으로 설정될 수 있다.
제2 단계에서는 제1 단계에서 확인된 움직임 쉬프트가 col픽처로부터 서브 블록 레벨 움직임 정보(움직임 벡터 및 참조 인덱스들)를 획득하기 위해 적용될 수 있다. 예를 들어, 움직임 쉬프트가 현재 블록의 좌표에 추가될 수 있다.
예를 들어, 움직임 쉬프트가 블록 A1의 움직임으로 설정될 수 있다. 이 경우 각 서브 블록들에 대하여 col픽처 내의 대응 블록의 움직임 정보는 서브 블록의 움직임 정보를 도출하기 위해 사용될 수 있다. col서브블록(collocated sub-block)의 움직임 정보가 확인된 후, 움직임 정보는 TMVP 과정과 유사한 방법으로 현재 서브 블록의 움직임 벡터들 및 참조 인덱스들로 전환될 수 있다. 시간적 움직임 스케일링은 시간적 움직임 벡터들의 참조 픽처들과 현재 블록의 참조 픽처들을 정렬하기 위해 적용될 수 있다.
SbTVMP 후보 및 어파인 머지 후보들을 모두 포함하는 조합된 서브블록 기반 머지 리스트는 어파인 머지 모드의 시그널링에 사용될 수 있다. 여기서 어파인 머지 모드는 서브블록 기반 머지 모드로 지칭될 수 있다. SbTVMP 모드는 SPS(sequence parameter set) 플래그에 의해 이용 가능 또는 이용 불가능이 지시될 수 있다. SbTMVP 모드가 이용 가능한 경우, SbTMVP 예측자는 서브블록 기반 머지 후보들의 리스트의 제1 엔트리로 추가될 수 있고, 어파인 머지 후보들이 다음으로 따라올 수 있다. 어파인 머지 후보 리스트의 최대로 허용되는 사이즈는 5개일 수 있다.
SbTMVP 내에서 사용되는 서브블록 사이즈는 8x8로 고정될 수 있고, 어파인 머지 모드에서와 마찬가지로 SbTMVP 모드는 너비 및 높이가 모두 8 이상인 블록에만 적용될 수 있다. 추가적인 SbTMVP 머지 후보의 인코딩 로직은 다른 머지 후보들과 동일할 수 있다. 즉, P 또는 B 슬라이스 내의 각 블록에 대하여 추가적인 RD 체크가 SbTMVP 후보를 이용할지 결정하기 위해 수행될 수 있다.
본 발명의 일 실시예는 일반화된 머지 모드(generalized merge mode)를 제공할 수 있다. 상기 일반화된 머지 모드를 통하여 현재 블록의 서브블록 단위의 움직임 정보들을 도출할 수 있으며, 따라서, 본 문서에서 상기 일반화된 머지 모드는 서브블록 머지 모드라고 불릴 수 있으며, 후술하는 (움직임 정보 또는 머지) 후보 리스트는 서브블록 머지 후보 리스트라고 불릴 수 있다.
머지 모드는 공간적 또는 시간적 주변 블록들로부터 현재 블록의 움직임 정보를 도출할 수 있다. 또한 머지 모드는 후보 리스트로부터 선택될 하나를 지시하기 위한 인덱스를 전달할 수 있다. 본 발명의 일 실시예에 따른 일반화된 머지 모드의 후보 리스트는 6개의 후보 타입으로 구성될 수 있다. 6개의 후보 타입은 예를 들어, 계승된 어파인 후보들(inherited affine candidates), 공간적 후보들(spatial candidates), ATMVP(Advanced Temporal Motion Vector Prediction) 후보들, STMVP(Spatial Temporal Motion Vector Prediction) 후보들, 컨트롤 포인트 기반 어파인 후보들(control point based affine candidates), 및 HEVC에서 이용되는 조합된 후보들(combined candidates)과 제로 후보들(zero candidates) 중 적어도 하나를 포함할 수 있다. 머지 후보의 최대 개수는 N으로 설정될 수 있고, 첫 번째 N개의 후보들이 일반화된 머지 모드를 위해 이용될 수 있다.
후보 리스트에 삽입되는 후보 삽입 순서 또는 후보 구성 순서는 1. 계승된 어파인 후보들(N_1), 2. 공간적 후보들(N_2), 3. ATMVP 후보들(N_3), 4. STMVP 후보들(N_4), 5. 컨트롤 포인트 기반 어파인 후보들(N_5), 6. 조합된 후보들 및 제로 후보들(N_6)과 같이 미리 정의될 수 있다.
여기서, N_1, N_2, N_3, N_4, N_5, 및 N_6은 각 타입의 최대 후보 개수를 지시할 수 있다. 예를 들어, N_1이 2인 경우, 계승된 어파인 후보들이 2개까지 이용될 수 있고, N_2가 3인 경우, 3개까지의 후보들이 공간적 후보들로 이용될 수 있다.
머지 후보의 최대 개수가 N은 고정될 수 있다. 또는 N은 이용 가능한 머지 타입의 개수에 따라 미리 정의된 값 중 적응적으로 결정될 수 있다. 예를 들어, 주변 어파인 블록이 존재하지 않는 경우, 계승된 어파인 후보는 이용 가능하지 않을 수 있다. 여기서 N은 미리 정의된 작은 값으로 설정될 수 있다. 다만, 계승된 어파인 후보가 이용 가능한 경우, N은 미리 정의된 큰 값으로 설정될 수 있다.
머지 후보 타입들은 적응적으로 스킵(skip)될 수 있다. 예를 들어, 계승된 어파인 후보들이 이용 가능한 경우, 컨트롤 포인트 기반 어파인 후보가 머지 후보들로 고려되지 않을 수 있다. 또는, 계승된 어파인 후보들이 이용 가능하지 않은 경우, 컨트롤 포인트 기반 어파인 후보가 머지 후보들로서 고려될 수 있다.
N_1과 N_5를 합산한 값이 미리 정의된 값으로 설정될 수 있다. 예를 들어, N_1 + N_5 = 3이며 계승된 어파인 후보의 이용 가능한 개수가 2인 경우, 컨트롤 포인트 기반 어파인 후보들로부터 하나의 후보까지만 이용될 수 있다. 이는 상술한 2개의 타입(계승된 어파인 후보들 및 컨트롤 포인트 기반 어파인 후보들)이 모두 어파인 움직임 모델에 기반한 타입으로므로 유사하기 때문일 수 있다.
컨트롤 포인트 기반 어파인 후보들은 계승된 어파인 후보들을 위해 이미 고려된 움직임 모델을 제외하고 움직임 모델을 고려하여 결정될 수 있다. 예를 들어, 4-파라미터 모델들이 계승된 어파인 후보로 고려되는 경우, 4-파라미터 모델을 제외한 모델들이 컨트롤 포인트 기반 어파인 후보로 고려될 수 있다.
본 발명의 일 실시예는 계승된 어파인 후보 리스트의 구성(inherited affine candidate list construction)을 제공할 수 있다.
표 1은 파라미터의 개수에 따른 움직임 모델을 설명한 표이다.
Figure PCTKR2019004486-appb-T000001
계승된 어파인 후보 리스트는 주변 블록의 움직임 모델을 의미하는 공간적 어파인 움직임 모델로부터 구성될 수 있다. 어파인 움직임 모델의 네 가지 종류들은 표 1과 같이 고려될 수 있다. 또한 선택된 공간적 움직임 모델은 현재 블록의 계승된 어파인 후보를 도출하기 위해 이용될 수 있다.
어파인 움직임 후보는 어파인 움직임 모델로 코딩된 주변 블록의 어파인 움직임 모델을 이용하여 도출될 수 있다. 예를 들어, 주변 블록이 회전 모델로 코딩된 경우, 현재 블록의 후보는 주변 블록의 회전 모델로부터 도출될 수 있다.
고차(higher-order) 파라미터 움직임 모델, 이선형(bilinear) 및 이차(quadratic) 움직임 모델이 추가적으로 고려될 수도 있다. 이 모델들은 표 1과 같이 나타낼 수 있으며, 움직임 모델의 6 가지 타입이 전체적으로 이용될 수 있다.
예를 들어, 계승된 어파인 후보들의 최대 개수를 N_1이라고 가정하는 경우, N_1개까지의 후보들이 다음의 방법들 중 하나에 의해 주변 블록으로부터 선택될 수 있다. 1) 미리 정의된 스캐닝 순서를 수행하고, 고려된 움직임 모델들을 가지는 최초로 스캔된 N_1개의 블록들이 계승된 어파인 후보들을 생성하기 위해 이용될 수 있다. 2) 고려된 움직임 모델들을 가지는 주변 블록들이 현재 프레임에 가까운 참조 프레임과 순서대로 정리되고, 최초로 이용 가능한 N_1개의 블록들이 이용될 수 있다. 3) 움직임 모델을 및 가장 빈번하게 발생된 참조 프레임을 가지는 가지는 주변 블록만이 이용되거나 최초로 이용될 수 있다.
도 13은 본 발명의 일 실시예에 따른 컨트롤 포인트 기반 어파인 후보를 설명하기 위한 도면이다.
본 발명의 일 실시예는 코너 포인트 기반 어파인 후보(corner point based affine candidates)를 제공할 수 있다.
컨트롤 포인트(CP, Control Point)들의 움직임 정보는 현재 블록의 움직임 모델을 결정할 수 있다. 또한 상기 움직임 모델은 코너 포인트 기반 어파인 후보들로 이용될 수 있다.
도 13을 참조하면, 컨트롤 포인트의 이용 가능한 개수는 5개의 포인트들까지 고려될 수 있으며, 5개의 포인트들은 현재 블록의 좌상단(top-left) 샘플 포지션, 우상단(top-right) 샘플 포지션, 좌하단(bottom-left) 샘플 포지션, 우하단(bottom-right) 샘플 포지션, 및 중앙(center) 샘플 포지션에 위치할 수 있다. 상기 중앙 샘플 포지션은 상술한 바와 같이 현재 블록의 센터 우하단 샘플 포지션에 대응될 수 있다. 도 13에서 CPk는 k번째 컨트롤 포인트를 나타낼 수 있다.
도 13을 참조하면, CP1의 움직임 정보는 블록들 A, B, 및 C 중 하나의 움직임 정보로부터 결정될 수 있으며, CP2의 움직임 정보는 블록들 D 및 E 중 하나의 움직임 정보로부터 결정될 수 있고, CP3의 움직임 정보는 블록들 F 및 G 중 하나의 움직임 정보로부터 결정될 수 있다. CP4의 움직임 정보는 시간적 후보인 블록 H의 움직임 정보로부터 결정될 수 있다. 블록 H의 움직임 벡터는 현재 블록의 참조 프레임 및 블록 H의 참조 프레임을 고려하여 스케일될 수 있다. CP5의 움직임 정보는 시간적 후보인 블록 I의 움직임 정보로부터 결정될 수 있다. 여기서 블록 H의 움직임 벡터와 유사한 스케일링 과정이 이용될 수 있다. 다시 말해, 블록 I의 움직임 벡터는 현재 블록의 참조 프레임 및 블록 I의 참조 프레임을 고려하여 스케일될 수 있다.
표 2는 컨트롤 포인트(CP)들의 움직임 정보 및 움직임 모델을 나타낸 표이다.
Figure PCTKR2019004486-appb-T000002
어파인 움직임 모델들 및 고차 움직임 모델들을 포함하는 24개의 움직임 모델들이 표 2와 같이 구성될 수 있고, 고려될 수 있다.
예를 들어, 표 2에서 Affine(CP1, CP2, CP3)은 3개의 컨트롤 포인트들(CP1, CP2, 및 CP3)에 의해 결정되는 어파인 움직임 모델을 의미할 수 있고, Bilinear(CP1, CP2, CP3, CP4)는 CP1, CP2, CP3, 및 CP4의 움직임 정보로부터 결정되는 이선형 움직임 모델을 의미할 수 있다.
상술한 움직임 모델들은 다음의 방법들을 이용하여 어파인 후보들 및 고차 움직임 후보들로 고려될 수 있다. 1) CP들의 움직임 벡터들은 동일한 타겟 참조 프레임(target reference frame)을 향하도록 스케일되고, 해당 움직임 모델을 생성하기 위해 이용될 수 있다. 여기서 모든 움직임 모델은 이용 가능할 수 있다. 타겟 참조 프레임은 ref_idx=0를 가지는 현재 프레임의 참조 프레임 또는 모든 주변 블록들을 고려하여 가장 빈번하게 발생된 프레임으로 선택될 수 있다. 2) 움직임 모델은 CP들의 움직임 벡터들이 동일한 참조 프레임을 가지는 경우 결정될 수 있다. 예를 들어, Simplified affine(CP1, CP2)는 CP1 및 CP2의 참조 프레임이 동일할 때 이용 가능할 수 있고, Affine(CP1, CP2, CP3)은 CP1, CP2, 및 CP3의 참조 프레임이 다른 경우 이용 가능하지 않을 수 있다. 3) 과정 2)가 최초로 고려되고, 순차적으로 과정 1)이 고려될 수 있다. 4) 계승된 움직임 후보들 내에서 고려된 움직임 모델들은 컨트롤 포인트 후보들로 고려되기 위해 배제될 수 있다.
도 14는 본 발명의 일 실시예에 따른 인코딩 장치에 의한 비디오 인코딩 방법을 개략적으로 나타낸다.
도 14에서 개시된 방법은 도 1에서 개시된 인코딩 장치에 의하여 수행될 수 있다. 예를 들어, 도 14의 S1400 내지 S1430은 인코딩 장치의 예측부에 의하여 수행될 수 있으며, S1440은 인코딩 장치의 감산부에 의하여 수행될 수 있고, S1450은 인코딩 장치의 엔트로피 인코딩부에 의하여 수행될 수 있다.
인코딩 장치는 현재 블록의 머지 후보 리스트를 도출한다(S1400). 머지 후보 리스트는 일반화된 머지 모드(generalized merge mode)에 따른 후보 리스트일 수 있다.
머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함할 수 있다. 또한, 머지 후보 리스트는 공간적 후보, STMVP(spatial temporal motion vector prediction) 후보 및 조합된(combined) 후보와 제로 후보를 더 포함할 수도 있다.
또한, 머지 후보 리스트는 계승된(inherited) 어파인 후보, 공간적 후보, ATMVP(advanced temporal motion vector prediction) 후보, STMVP(spatial temporal motion vector prediction) 후보, 컨트롤 포인트 기반 어파인 후보, 및 조합된(combined) 후보와 제로 후보를 순차적으로 탐색하여 포함시킬 수 있다.
ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출될 수 있고, 대응 블록은 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 참조 픽처에서 도출될 수 있다.
계승된 어파인 후보는 현재 블록의 공간적 주변 블록들 중 하나의 주변 블록의 컨트롤 포인트 움직임 벡터들을 기반으로 도출될 수 있고, 공간적 주변 블록들은 현재 블록의 좌하측 코너 주변 블록, 좌측 주변 블록, 우상측 코너 주변 블록, 상측 주변 블록, 좌상측 코너 주변 블록을 포함할 수 있따.
컨트롤 포인트 기반 어파인 후보는 현재 블록의 컨트롤 포인트들(control points, CPs)에 대한 움직임 벡터 후보들을 포함할 수 있다. 컨트롤 포인트 기반 어파인 후보는 어파인 MVP 후보를 지칭할 수도 있다. 현재 블록의 상기 CP들 중 제1 CP에 대한 움직임 벡터 후보는 제1 블록 그룹을 기반으로 도출되고, 제1 블록 그룹은 현재 블록의 좌상측 코너 주변 블록, 좌상측 코너 주변 블록의 하측에 인접한 좌측 주변 블록 및 좌상측 코너 주변 블록의 우측에 인접한 상측 주변 블록을 포함할 수 있다. 현재 블록의 상기 CP들 중 제2 CP에 대한 움직임 벡터 후보는 제2 블록 그룹을 기반으로 도출되고, 제2 블록 그룹은 상기 현재 블록의 우상측 코너 주변 블록 및 우상측 코너 주변 블록의 좌측에 인접한 상측 주변 블록을 포함할 수 있다. 여기서, 제1 블록 그룹은 도 13에서 블록 A, B 및 C를 포함할 수 있고, 제2 블록 그룹은 블록 D 및 E를 포함할 수 있다.
또한, 컨트롤 포인트 기반 어파인 후보는 현재 블록의 CP들 중 제3 CP에 대한 움직임 벡터 후보는 제3 블록 그룹을 기반으로 도출될 수 있고, 제3 블록 그룹은 현재 블록의 좌하측 코너 주변 블록 및 좌하측 코너 주변 블록의 상측에 인접한 좌측 주변 블록을 포함할 수 있다. 여기서, 제3 블록 그룹은 도 13에서 블록 F 및 G를 포함할 수 있다.
어파인 후보 및 컨트롤 포인트 기반 어파인 후보에 대한 상세한 설명은 도 7, 도 8 및 도 13과 함께 상술하였다.
머지 후보 리스트는 최대 후보 개수가 미리 설정될 수 있으며, 후보 타입 별로 최대 개수가 미리 설정될 수도 있다. 여기서 최대 후보 개수는 이용 가능한 후보 타입의 개수에 따라 결정될 수도 있다.
예를 들어, 현재 블록의 주변 블록 중 어파인 모드로 코딩된 블록이 존재하지 않는 경우, 계승된 어파인 후보는 이용할 수 없다. 여기서 최대 후보 개수는 이용 가능한 머지 타입의 개수가 감소됨에 따라 미리 정의된 작은 값으로 결정될 수 있다. 다만, 현재 블록의 주변 블록 중 어파인 모드로 코딩된 블록이 존재하여 계승된 어파인 후보를 이용할 수 있는 경우, 최대 후보 개수는 상기 미리 정의된 작은 값보다 상대적으로 큰 값으로 결정될 수 있다. 여기서 큰 값도 미리 정의될 수 있다.
또한, 계승된 어파인 후보의 개수 및 컨트롤 포인트 기반 어파인 후보의 개수의 합이 고정된 값으로 설정될 수도 있다. 예를 들어, 상기 고정된 값이 3이고, 계승된 어파인 후보의 개수가 2인 경우, 컨트롤 포인트 기반 어파인 후보는 1개까지만 이용될 수 있다.
또한, 후보 타입들은 적응적으로 스킵될 수도 있다. 예를 들어, 계승된 어파인 후보가 이용 가능한 경우, 컨트롤 포인트 기반 어파인 후보가 고려되지 않을 수 있고, 계승된 어파인 후보가 이용 불가한 경우, 컨트롤 포인트 기반 어파인 후보가 고려될 수도 있다.
또한, 계승된 어파인 후보의 움직임 모델과 컨트롤 포인트 기반 어파인 후보의 움직임 모델은 서로 다르게 고려될 수 있다. 다시 말해, 컨트롤 포인트 기반 어파인 후보들의 움직임 모델은 계승된 어파인 후보들의 움직임 모델을 제외한 나머지 움직임 모델들로부터 도출될 수 있다. 예를 들어, 4-파라미터 모델들이 계승된 어파인 후보로 고려되는 경우, 4-파라미터 모델을 제외한 모델들이 컨트롤 포인트 기반 어파인 후보로 고려될 수 있다.
계승된 어파인 후보의 움직임 모델은 현재 블록의 주변 블록으로부터 도출될 수 있다. 다시 말해, 계승된 어파인 후보는 주변 블록의 움직임 모델로부터 도출될 수 있다. 예를 들어, 주변 블록이 회전 모델로 코딩된 경우, 현재 블록의 후보는 주변 블록의 회전 모델로부터 도출될 수 있다.
움직임 모델은 회전(rotation) 움직임 모델, 스케일링(scaling) 움직임 모델, 간소화된 어파인(simplified affine) 움직임 모델, 어파인(affine) 움직임 모델, 이선형(bilinear) 움직임 모델, 및 이차(quadratic) 움직임 모델을 포함할 수 있으며, 각 모델에 따라 요구되는 파라미터 개수 및 움직임 벡터 개수는 표 1과 같을 수 있다.
계승된 어파인 후보는 해당 타입의 최대 개수가 N_1인 경우, 계승된 어파인 후보는 미리 정의된 스캐닝 순서에 따라 스캔된 주변 블록들 중 고려되는 움직임 모델들을 가지는 최초의 N_1개의 블록들로 선택될 수 있다. 또는, 계승된 어파인 후보는 고려되는 움직임 모델들을 가지는 주변 블록들이 현재 픽처에 가까운 참조 픽처와 순서대로 정렬된 후, 최초로 이용 가능한 N_1개의 블록들로 선택될 수 있다. 또는, 계승된 어파인 후보는 모션 모델 및 가장 빈번하게 발생되는 참조 픽처를 가지는 주변 블록들만으로 선택되거나 우선 선택될 수 있다.
코너 포인트 기반 어파인 후보 또는 컨트롤 포인트 기반 어파인 후보는 최대 5개의 컨트롤 포인트(CP, control point)를 이용할 수 있다. 5개의 CP는 현재 블록의 좌상단(top-left) 샘플 포지션, 우상단(top-right) 샘플 포지션, 좌하단(bottom-left) 샘플 포지션, 우하단(bottom-right) 샘플 포지션, 및 중앙(centor) 샘플 포지션의 위치할 수 있으며, 각 샘플 포지션에 위치한 CP들은 공간적 주변 블록 또는 시간적 주변 블록을 기반으로 움직임 정보를 도출할 수 있다. 보다 상세한 설명은 도 13과 함께 상술하였다.
여기서, 상술한 움직임 모델들은 동일한 참조 픽처를 가지는 CP들의 움직임 벡터들에 의해 결정될 수 있다. 다만, 동일한 참조 픽처를 가지는 CP들의 움직임 벡터들이 존재하지 않는 경우, CP들의 움직임 벡터들을 동일한 타겟 참조 픽처를 가리키도록 스케일되고, 움직임 모델은 스케일된 움직임 벡터들에 의해 결정될 수 있다. 이 경우 모든 움직임 모델이 이용될 수 있다. 여기서 타겟 참조 픽처는 ref_idx=0인 현재 픽처의 참조 픽처 또는 모든 주변 블록들을 고려하여 가장 빈번하게 발생된 픽처로 선택될 수 있다. 이후, 계승된 어파인 후보를 위해 고려된 움직임 모델들은 컨트롤 포인트 기반 어파인 후보의 움직임 모델들 고려 시 배제될 수 있다.
인코딩 장치는 머지 후보 리스트에 포함된 후보들 중 하나를 선택한다(S1410). 또한, 인코딩 장치는 선택된 후보를 기반으로 현재 블록의 서브블록 단위 움직임 벡터들을 도출한다(S1420).
머지 후보 리스트에 포함된 후보들 중에서 ATMVP 후보가 선택되는 경우, 대응 블록의 서브블록 단위의 움직임 벡터들을 기반으로 현재 블록의 서브블록 단위 움직임 벡터들이 도출될 수 있다. ATMVP 후보에 대한 상세한 설명은 도 10 내지 도 12와 함께 상술하였다.
머지 후보 리스트에 포함된 후보들 중에서 계승된 어파인 후보 또는 컨트롤 포인트 기반 어파인 후보가 선택되는 경우, 선택된 후보를 기반으로 현재 블록의 컨트롤 포인트 움직임 벡터들이 도출될 수 있고, 컨트롤 포인트 움직임 벡터들을 기반으로 현재 블록의 서브블록 단위 움직임 벡터들이 계산될 수 있다.
인코딩 장치는 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출한다(S1430). 여기서, 예측된 블록은 움직임 정보 후보 리스트 중 현재 블록과 상관도가 높은 블록을 의미할 수 있다.
인코딩 장치는 예측된 블록을 기반으로 현재 블록에 대한 레지듀얼 블록을 생성하고(S1440), 레지듀얼 블록에 대한 정보를 포함하는 영상 정보를 인코딩하여 비트스트림을 출력한다(S1450). 비트스트림은 네트워크 또는 저장매체를 통하여 디코딩 장치로 전송될 수 있다.
도 15는 본 발명의 일 실시예에 따른 디코딩 장치에 의한 비디오 디코딩 방법을 개략적으로 나타낸다.
도 15에서 개시된 방법은 도 2에서 개시된 디코딩 장치에 의하여 수행될 수 있다. 예를 들어, 도 15의 S1500 내지 S1530은 디코딩 장치의 예측부에 의하여 수행될 수 있고, S1540은 디코딩 장치의 복원부에 의하여 수행될 수 있다.
디코딩 장치는 현재 블록의 머지 후보 리스트를 생성한다(S1500). 머지 후보 리스트는 일반화된 머지 모드(generalized merge mode)에 따른 후보 리스트일 수 있다.
머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함할 수 있다. 또한, 머지 후보 리스트는 공간적 후보, STMVP(spatial temporal motion vector prediction) 후보 및 조합된(combined) 후보와 제로 후보를 더 포함할 수도 있다.
또한, 머지 후보 리스트는 계승된(inherited) 어파인 후보, 공간적 후보, ATMVP(advanced temporal motion vector prediction) 후보, STMVP(spatial temporal motion vector prediction) 후보, 컨트롤 포인트 기반 어파인 후보, 및 조합된(combined) 후보와 제로 후보를 순차적으로 탐색하여 포함시킬 수 있다.
ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출될 수 있고, 대응 블록은 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 참조 픽처에서 도출될 수 있다.
계승된 어파인 후보는 현재 블록의 공간적 주변 블록들 중 하나의 주변 블록의 컨트롤 포인트 움직임 벡터들을 기반으로 도출될 수 있고, 공간적 주변 블록들은 현재 블록의 좌하측 코너 주변 블록, 좌측 주변 블록, 우상측 코너 주변 블록, 상측 주변 블록, 좌상측 코너 주변 블록을 포함할 수 있따.
컨트롤 포인트 기반 어파인 후보는 현재 블록의 컨트롤 포인트들(control points, CPs)에 대한 움직임 벡터 후보들을 포함할 수 있다. 컨트롤 포인트 기반 어파인 후보는 어파인 MVP 후보를 지칭할 수도 있다. 현재 블록의 상기 CP들 중 제1 CP에 대한 움직임 벡터 후보는 제1 블록 그룹을 기반으로 도출되고, 제1 블록 그룹은 현재 블록의 좌상측 코너 주변 블록, 좌상측 코너 주변 블록의 하측에 인접한 좌측 주변 블록 및 좌상측 코너 주변 블록의 우측에 인접한 상측 주변 블록을 포함할 수 있다. 현재 블록의 상기 CP들 중 제2 CP에 대한 움직임 벡터 후보는 제2 블록 그룹을 기반으로 도출되고, 제2 블록 그룹은 상기 현재 블록의 우상측 코너 주변 블록 및 우상측 코너 주변 블록의 좌측에 인접한 상측 주변 블록을 포함할 수 있다. 여기서, 제1 블록 그룹은 도 13에서 블록 A, B 및 C를 포함할 수 있고, 제2 블록 그룹은 블록 D 및 E를 포함할 수 있다.
또한, 컨트롤 포인트 기반 어파인 후보는 현재 블록의 CP들 중 제3 CP에 대한 움직임 벡터 후보는 제3 블록 그룹을 기반으로 도출될 수 있고, 제3 블록 그룹은 현재 블록의 좌하측 코너 주변 블록 및 좌하측 코너 주변 블록의 상측에 인접한 좌측 주변 블록을 포함할 수 있다. 여기서, 제3 블록 그룹은 도 13에서 블록 F 및 G를 포함할 수 있다.
어파인 후보 및 컨트롤 포인트 기반 어파인 후보에 대한 상세한 설명은 도 7, 도 8 및 도 13과 함께 상술하였다.
머지 후보 리스트는 최대 후보 개수가 미리 설정될 수 있으며, 후보 타입 별로 최대 개수가 미리 설정될 수도 있다. 여기서 최대 후보 개수는 이용 가능한 후보 타입의 개수에 따라 결정될 수도 있다.
예를 들어, 현재 블록의 주변 블록 중 어파인 모드로 코딩된 블록이 존재하지 않는 경우, 계승된 어파인 후보는 이용할 수 없다. 여기서 최대 후보 개수는 이용 가능한 머지 타입의 개수가 감소됨에 따라 미리 정의된 작은 값으로 결정될 수 있다. 다만, 현재 블록의 주변 블록 중 어파인 모드로 코딩된 블록이 존재하여 계승된 어파인 후보를 이용할 수 있는 경우, 최대 후보 개수는 상기 미리 정의된 작은 값보다 상대적으로 큰 값으로 결정될 수 있다. 여기서 큰 값도 미리 정의될 수 있다.
또한, 계승된 어파인 후보의 개수 및 컨트롤 포인트 기반 어파인 후보의 개수의 합이 고정된 값으로 설정될 수도 있다. 예를 들어, 상기 고정된 값이 3이고, 계승된 어파인 후보의 개수가 2인 경우, 컨트롤 포인트 기반 어파인 후보는 1개까지만 이용될 수 있다.
또한, 후보 타입들은 적응적으로 스킵될 수도 있다. 예를 들어, 계승된 어파인 후보가 이용 가능한 경우, 컨트롤 포인트 기반 어파인 후보가 고려되지 않을 수 있고, 계승된 어파인 후보가 이용 불가한 경우, 컨트롤 포인트 기반 어파인 후보가 고려될 수도 있다.
또한, 계승된 어파인 후보의 움직임 모델과 컨트롤 포인트 기반 어파인 후보의 움직임 모델은 서로 다르게 고려될 수 있다. 다시 말해, 컨트롤 포인트 기반 어파인 후보들의 움직임 모델은 계승된 어파인 후보들의 움직임 모델을 제외한 나머지 움직임 모델들로부터 도출될 수 있다. 예를 들어, 4-파라미터 모델들이 계승된 어파인 후보로 고려되는 경우, 4-파라미터 모델을 제외한 모델들이 컨트롤 포인트 기반 어파인 후보로 고려될 수 있다.
계승된 어파인 후보의 움직임 모델은 현재 블록의 주변 블록으로부터 도출될 수 있다. 다시 말해, 계승된 어파인 후보는 주변 블록의 움직임 모델로부터 도출될 수 있다. 예를 들어, 주변 블록이 회전 모델로 코딩된 경우, 현재 블록의 후보는 주변 블록의 회전 모델로부터 도출될 수 있다.
움직임 모델은 회전(rotation) 움직임 모델, 스케일링(scaling) 움직임 모델, 간소화된 어파인(simplified affine) 움직임 모델, 어파인(affine) 움직임 모델, 이선형(bilinear) 움직임 모델, 및 이차(quadratic) 움직임 모델을 포함할 수 있으며, 각 모델에 따라 요구되는 파라미터 개수 및 움직임 벡터 개수는 표 1과 같을 수 있다.
계승된 어파인 후보는 해당 타입의 최대 개수가 N_1인 경우, 계승된 어파인 후보는 미리 정의된 스캐닝 순서에 따라 스캔된 주변 블록들 중 고려되는 움직임 모델들을 가지는 최초의 N_1개의 블록들로 선택될 수 있다. 또는, 계승된 어파인 후보는 고려되는 움직임 모델들을 가지는 주변 블록들이 현재 픽처에 가까운 참조 픽처와 순서대로 정렬된 후, 최초로 이용 가능한 N_1개의 블록들로 선택될 수 있다. 또는, 계승된 어파인 후보는 모션 모델 및 가장 빈번하게 발생되는 참조 픽처를 가지는 주변 블록들만으로 선택되거나 우선 선택될 수 있다.
코너 포인트 기반 어파인 후보 또는 컨트롤 포인트 기반 어파인 후보는 최대 5개의 컨트롤 포인트(CP, control point)를 이용할 수 있다. 5개의 CP는 현재 블록의 좌상단(top-left) 샘플 포지션, 우상단(top-right) 샘플 포지션, 좌하단(bottom-left) 샘플 포지션, 우하단(bottom-right) 샘플 포지션, 및 중앙(centor) 샘플 포지션의 위치할 수 있으며, 각 샘플 포지션에 위치한 CP들은 공간적 주변 블록 또는 시간적 주변 블록을 기반으로 움직임 정보를 도출할 수 있다. 보다 상세한 설명은 도 13과 함께 상술하였다.
여기서, 상술한 움직임 모델들은 동일한 참조 픽처를 가지는 CP들의 움직임 벡터들에 의해 결정될 수 있다. 다만, 동일한 참조 픽처를 가지는 CP들의 움직임 벡터들이 존재하지 않는 경우, CP들의 움직임 벡터들을 동일한 타겟 참조 픽처를 가리키도록 스케일되고, 움직임 모델은 스케일된 움직임 벡터들에 의해 결정될 수 있다. 이 경우 모든 움직임 모델이 이용될 수 있다. 여기서 타겟 참조 픽처는 ref_idx=0인 현재 픽처의 참조 픽처 또는 모든 주변 블록들을 고려하여 가장 빈번하게 발생된 픽처로 선택될 수 있다. 이후, 계승된 어파인 후보를 위해 고려된 움직임 모델들은 컨트롤 포인트 기반 어파인 후보의 움직임 모델들 고려 시 배제될 수 있다.
디코딩 장치는 머지 후보 리스트에 포함된 후보들 중 하나를 선택한다(S1510). 또한, 디코딩 장치는 선택된 후보를 기반으로 현재 블록의 서브블록 단위 움직임 벡터들을 도출한다(S1520).
머지 후보 리스트에 포함된 후보들 중에서 ATMVP 후보가 선택되는 경우, 대응 블록의 서브블록 단위의 움직임 벡터들을 기반으로 현재 블록의 서브블록 단위 움직임 벡터들이 도출될 수 있다. ATMVP 후보에 대한 상세한 설명은 도 10 내지 도 12와 함께 상술하였다.
머지 후보 리스트에 포함된 후보들 중에서 계승된 어파인 후보 또는 컨트롤 포인트 기반 어파인 후보가 선택되는 경우, 선택된 후보를 기반으로 현재 블록의 컨트롤 포인트 움직임 벡터들이 도출될 수 있고, 컨트롤 포인트 움직임 벡터들을 기반으로 현재 블록의 서브블록 단위 움직임 벡터들이 계산될 수 있다.
디코딩 장치는 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출한다(S1530). 여기서, 예측된 블록은 움직임 정보 후보 리스트 중 현재 블록과 상관도가 높은 블록을 의미할 수 있다.
디코딩 장치는 예측된 블록을 기반으로 현재 픽처를 복원한다(S1540). 비트스트림은 네트워크 또는 저장매체를 통하여 인코딩 장치로부터 전송될 수 있다.
상술한 실시예에서, 방법들은 일련의 단계 또는 블록으로써 순서도를 기초로 설명되고 있지만, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당업자라면 순서도에 나타내어진 단계들이 배타적이지 않고, 다른 단계가 포함되거나 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
상술한 본 발명에 따른 방법은 소프트웨어 형태로 구현될 수 있으며, 본 발명에 따른 인코딩 장치 및/또는 디코딩 장치는 예를 들어 TV, 컴퓨터, 스마트폰, 셋톱박스, 디스플레이 장치 등의 영상 처리를 수행하는 장치에 포함될 수 있다.
본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다. 프로세서는 ASIC(application-specific integrated circuit), 다른 칩셋, 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리는 ROM(read-only memory), RAM(random access memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다.

Claims (15)

  1. 디코딩 장치에 의하여 수행되는 영상 디코딩 방법에 있어서,
    현재 블록의 머지 후보 리스트를 생성하는 단계;
    상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하는 단계;
    상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하는 단계;
    상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 단계; 및
    상기 예측된 블록을 기반으로 현재 픽처를 복원하는 단계를 포함하되,
    상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고,
    상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고,
    상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 하는, 디코딩 방법.
  2. 제1항에 있어서,
    상기 머지 후보 리스트에 포함된 후보들 중 상기 ATMVP 후보가 선택된 경우,
    상기 대응 블록의 서브블록 단위의 움직임 벡터들을 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들이 도출되는 것을 특징으로 하는, 디코딩 방법.
  3. 제1항에 있어서,
    상기 머지 후보 리스트에 포함된 후보들 중 상기 계승된 어파인 후보 또는 상기 컨트롤 포인트 기반 어파인 후보가 선택된 경우,
    상기 선택된 후보를 기반으로 상기 현재 블록의 컨트롤 포인트 움직임 벡터들이 도출되고,
    상기 컨트롤 포인트 움직임 벡터들을 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들이 계산되는 것을 특징으로 하는, 디코딩 방법.
  4. 제1항에 있어서,
    상기 계승된 어파인 후보는 상기 현재 블록의 공간적 주변 블록들 중 하나의 주변 블록의 컨트롤 포인트 움직임 벡터들을 기반으로 도출되고,
    상기 공간적 주변 블록들은 상기 현재 블록의 좌하측 코너 주변 블록, 좌측 주변 블록, 우상측 코너 주변 블록, 상측 주변 블록, 좌상측 코너 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  5. 제4항에 있어서,
    상기 공간적 주변 블록들 중 어파인 예측 모드로 코딩된 블록이 상기 하나의 주변 블록으로 도출되는 것을 특징으로 하는, 디코딩 방법.
  6. 제1항에 있어서,
    상기 컨트롤 포인트 기반 어파인 후보는 상기 현재 블록의 컨트롤 포인트들(control points, CPs)에 대한 움직임 벡터 후보들을 포함하고,
    상기 현재 블록의 상기 CP들 중 제1 CP에 대한 움직임 벡터 후보는 제1 블록 그룹을 기반으로 도출되고, 상기 제1 블록 그룹은 상기 현재 블록의 좌상측 코너 주변 블록, 상기 좌상측 코너 주변 블록의 하측에 인접한 좌측 주변 블록 및 상기 좌상측 코너 주변 블록의 우측에 인접한 상측 주변 블록을 포함하고,
    상기 현재 블록의 상기 CP들 중 제2 CP에 대한 움직임 벡터 후보는 제2 블록 그룹을 기반으로 도출되고, 상기 제2 블록 그룹은 상기 현재 블록의 우상측 코너 주변 블록 및 상기 우상측 코너 주변 블록의 좌측에 인접한 상측 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  7. 제6항에 있어서,
    상기 현재 블록의 상기 CP들 중 제3 CP에 대한 움직임 벡터 후보는 제3 블록 그룹을 기반으로 도출되고, 상기 제3 블록 그룹은 상기 현재 블록의 좌하측 코너 주변 블록 및 상기 좌하측 코너 주변 블록의 상측에 인접한 좌측 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  8. 인코딩 장치에 의하여 수행되는 영상 인코딩 방법에 있어서,
    현재 블록의 머지 후보 리스트를 생성하는 단계;
    상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하는 단계;
    상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하는 단계;
    상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 단계;
    상기 예측된 블록을 기반으로 상기 현재 블록에 대한 레지듀얼 블록을 생성하는 단계; 및
    상기 레지듀얼 블록에 대한 정보를 포함하는 영상 정보를 인코딩하여 비트스트림을 출력하는 단계를 포함하되,
    상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고,
    상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고,
    상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 하는, 인코딩 방법.
  9. 제8항에 있어서,
    상기 머지 후보 리스트에 포함된 후보들 중 상기 ATMVP 후보가 선택된 경우,
    상기 대응 블록의 서브블록 단위의 움직임 벡터들을 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들이 도출되는 것을 특징으로 하는, 디코딩 방법.
  10. 제8항에 있어서,
    상기 머지 후보 리스트에 포함된 후보들 중 상기 계승된 어파인 후보 또는 상기 컨트롤 포인트 기반 어파인 후보가 선택된 경우,
    상기 선택된 후보를 기반으로 상기 현재 블록의 컨트롤 포인트 움직임 벡터들이 도출되고,
    상기 컨트롤 포인트 움직임 벡터들을 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들이 계산되는 것을 특징으로 하는, 디코딩 방법.
  11. 제8항에 있어서,
    상기 계승된 어파인 후보는 상기 현재 블록의 공간적 주변 블록들 중 하나의 주변 블록의 컨트롤 포인트 움직임 벡터들을 기반으로 도출되고,
    상기 공간적 주변 블록들은 상기 현재 블록의 좌하측 코너 주변 블록, 좌측 주변 블록, 우상측 코너 주변 블록, 상측 주변 블록, 좌상측 코너 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  12. 제11항에 있어서,
    상기 공간적 주변 블록들 중 어파인 예측 모드로 코딩된 블록이 상기 하나의 주변 블록으로 도출되는 것을 특징으로 하는, 디코딩 방법.
  13. 제8항에 있어서,
    상기 컨트롤 포인트 기반 어파인 후보는 상기 현재 블록의 컨트롤 포인트들(control points, CPs)에 대한 움직임 벡터 후보들을 포함하고,
    상기 현재 블록의 상기 CP들 중 제1 CP에 대한 움직임 벡터 후보는 제1 블록 그룹을 기반으로 도출되고, 상기 제1 블록 그룹은 상기 현재 블록의 좌상측 코너 주변 블록, 상기 좌상측 코너 주변 블록의 하측에 인접한 좌측 주변 블록 및 상기 좌상측 코너 주변 블록의 우측에 인접한 상측 주변 블록을 포함하고,
    상기 현재 블록의 상기 CP들 중 제2 CP에 대한 움직임 벡터 후보는 제2 블록 그룹을 기반으로 도출되고, 상기 제2 블록 그룹은 상기 현재 블록의 우상측 코너 주변 블록 및 상기 우상측 코너 주변 블록의 좌측에 인접한 상측 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  14. 제13항에 있어서,
    상기 현재 블록의 상기 CP들 중 제3 CP에 대한 움직임 벡터 후보는 제3 블록 그룹을 기반으로 도출되고, 상기 제3 블록 그룹은 상기 현재 블록의 좌하측 코너 주변 블록 및 상기 좌하측 코너 주변 블록의 상측에 인접한 좌측 주변 블록을 포함하는 것을 특징으로 하는, 디코딩 방법.
  15. 비디오 디코딩을 수행하는 디코딩 장치에 있어서,
    현재 블록의 머지 후보 리스트를 생성하고, 상기 머지 후보 리스트에 포함된 후보들 중 하나를 선택하고, 상기 선택된 후보를 기반으로 상기 현재 블록의 서브블록 단위 움직임 벡터들을 도출하고, 상기 서브블록 단위 움직임 벡터들을 기반으로 예측된 블록을 도출하는 예측부; 및
    상기 예측된 블록을 기반으로 현재 픽처를 복원하는 복원부를 포함하되,
    상기 머지 후보 리스트는 계승된(inherited) 어파인 후보, 컨트롤 포인트 기반 어파인 후보 및 ATMVP(advanced temporal motion vector predictor) 후보를 포함하고,
    상기 ATMVP 후보는 참조 픽처에 위치하는 대응 블록(corresponding block)의 서브블록 단위의 움직임 벡터들을 기반으로 도출되고,
    상기 대응 블록은 상기 현재 블록의 공간적 주변 블록의 움직임 벡터를 기반으로 상기 참조 픽처에서 도출되는 것을 특징으로 하는, 디코딩 장치.
PCT/KR2019/004486 2018-04-13 2019-04-15 비디오 코딩 시스템에서 인터 예측 방법 및 장치 WO2019199141A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201862657016P 2018-04-13 2018-04-13
US62/657,016 2018-04-13

Publications (1)

Publication Number Publication Date
WO2019199141A1 true WO2019199141A1 (ko) 2019-10-17

Family

ID=68164318

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/004486 WO2019199141A1 (ko) 2018-04-13 2019-04-15 비디오 코딩 시스템에서 인터 예측 방법 및 장치

Country Status (1)

Country Link
WO (1) WO2019199141A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3764643A4 (en) * 2018-04-01 2021-04-28 LG Electronics, Inc. IMAGE PROCESSING METHODS BASED ON AN INTERPREDICTION MODE AND DEVICE FOR IT

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140110957A (ko) * 2011-12-22 2014-09-17 퀄컴 인코포레이티드 비디오 코딩을 위한 모션 벡터 예측의 수행
WO2017118411A1 (en) * 2016-01-07 2017-07-13 Mediatek Inc. Method and apparatus for affine inter prediction for video coding system
WO2017148345A1 (en) * 2016-03-01 2017-09-08 Mediatek Inc. Method and apparatus of video coding with affine motion compensation
KR20170108010A (ko) * 2015-01-26 2017-09-26 퀄컴 인코포레이티드 서브-예측 유닛 기반 어드밴스드 시간 모션 벡터 예측

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140110957A (ko) * 2011-12-22 2014-09-17 퀄컴 인코포레이티드 비디오 코딩을 위한 모션 벡터 예측의 수행
KR20170108010A (ko) * 2015-01-26 2017-09-26 퀄컴 인코포레이티드 서브-예측 유닛 기반 어드밴스드 시간 모션 벡터 예측
WO2017118411A1 (en) * 2016-01-07 2017-07-13 Mediatek Inc. Method and apparatus for affine inter prediction for video coding system
WO2017148345A1 (en) * 2016-03-01 2017-09-08 Mediatek Inc. Method and apparatus of video coding with affine motion compensation

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JIANLE CHEN: "Algorithm Description of Joint Exploration Test Model 7 (JEM 7)", JOINT VIDEO EXPLORATION TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, JVET-G1001, 7TH MEETING, 21 July 2017 (2017-07-21), Torino, IT, XP055576095 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3764643A4 (en) * 2018-04-01 2021-04-28 LG Electronics, Inc. IMAGE PROCESSING METHODS BASED ON AN INTERPREDICTION MODE AND DEVICE FOR IT
US11252432B2 (en) 2018-04-01 2022-02-15 Lg Electronics Inc. Image processing method based on inter prediction mode, and device therefor
US11632565B2 (en) 2018-04-01 2023-04-18 Lg Electronics Inc. Image processing method based on inter prediction mode, and device therefor
US11949904B2 (en) 2018-04-01 2024-04-02 Lg Electronics Inc. Image processing method based on inter prediction mode, and device therefor

Similar Documents

Publication Publication Date Title
WO2018105757A1 (ko) 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
WO2017188566A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2020071830A1 (ko) 히스토리 기반 움직임 정보를 이용한 영상 코딩 방법 및 그 장치
WO2020184991A1 (ko) Ibc 모드를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2018021585A1 (ko) 영상 코딩 시스템에서 인트라 예측 방법 및 장치
WO2018056709A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2017048008A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2021137597A1 (ko) Ols에 대한 dpb 파라미터를 사용하는 영상 디코딩 방법 및 그 장치
WO2020251319A1 (ko) Sbtmvp를 이용한 인터 예측 기반 영상 또는 비디오 코딩
WO2020262931A1 (ko) 비디오/영상 코딩 시스템에서 머지 데이터 신택스의 시그널링 방법 및 장치
WO2020141879A1 (ko) 영상 코딩 시스템에서 서브 블록 기반 시간적 머지 후보를 사용하는 어파인 움직임 예측에 기반한 영상 디코딩 방법 및 장치
WO2020141886A1 (ko) Sbtmvp 기반 인터 예측 방법 및 장치
WO2020256455A1 (ko) 디폴트 머지 모드에 기반하여 예측 샘플을 도출하는 영상 디코딩 방법 및 그 장치
WO2020256454A1 (ko) 현재 블록에 대하여 최종적으로 예측 모드를 선택하지 못하는 경우 인터 예측을 수행하는 영상 디코딩 방법 및 그 장치
WO2020141932A1 (ko) Cpr 기반 mmvd를 이용하는 인터 예측 방법 및 장치
WO2020141831A2 (ko) 인트라 블록 카피 예측을 이용한 영상 코딩 방법 및 장치
WO2017195917A1 (ko) 비디오 코딩 시스템에서 인트라 예측 방법 및 장치
WO2020251270A1 (ko) 서브블록 단위의 시간적 움직임 정보 기반 영상 또는 비디오 코딩
WO2020197243A1 (ko) Smvd(symmetric motion vector difference)를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2018128228A1 (ko) 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
WO2019199071A1 (ko) 영상 코딩 시스템에서 인터 예측에 따른 영상 디코딩 방법 및 장치
WO2019117659A1 (ko) 움직임 벡터 도출을 기반으로 하는 영상 코딩 방법 및 그 장치
WO2019199141A1 (ko) 비디오 코딩 시스템에서 인터 예측 방법 및 장치
WO2021137598A1 (ko) Dpb 관리 프로세스를 포함하는 영상 디코딩 방법 및 그 장치
WO2020256329A1 (ko) 움직임 예측에 기반한 영상 코딩 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19784505

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19784505

Country of ref document: EP

Kind code of ref document: A1