WO2020009419A1 - 병합 후보를 사용하는 비디오 코딩 방법 및 장치 - Google Patents

병합 후보를 사용하는 비디오 코딩 방법 및 장치 Download PDF

Info

Publication number
WO2020009419A1
WO2020009419A1 PCT/KR2019/008031 KR2019008031W WO2020009419A1 WO 2020009419 A1 WO2020009419 A1 WO 2020009419A1 KR 2019008031 W KR2019008031 W KR 2019008031W WO 2020009419 A1 WO2020009419 A1 WO 2020009419A1
Authority
WO
WIPO (PCT)
Prior art keywords
merge candidate
block
pixel
partition
current block
Prior art date
Application number
PCT/KR2019/008031
Other languages
English (en)
French (fr)
Inventor
안용조
Original Assignee
인텔렉추얼디스커버리 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔렉추얼디스커버리 주식회사 filed Critical 인텔렉추얼디스커버리 주식회사
Priority to CN202410005766.2A priority Critical patent/CN117834909A/zh
Priority to US17/257,052 priority patent/US11671619B2/en
Priority to CN202410005335.6A priority patent/CN117834907A/zh
Priority to CN202410005340.7A priority patent/CN117834908A/zh
Priority to CN201980044560.8A priority patent/CN112369034B/zh
Priority to CN202410009902.5A priority patent/CN117834910A/zh
Publication of WO2020009419A1 publication Critical patent/WO2020009419A1/ko
Priority to US18/190,892 priority patent/US20230308678A1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Definitions

  • the present invention relates to video coding techniques.
  • the present invention relates to motion prediction and compensation in video coding techniques.
  • Video compression is largely composed of intra prediction (or intra prediction), inter prediction (or inter prediction), transform, quantization, entropy coding, and in-loop filter. Meanwhile, as the demand for high resolution video increases, the demand for stereoscopic video content also increases as a new video service. There is a discussion about a video compression technology for effectively providing high resolution and ultra high resolution stereoscopic image contents.
  • An object of the present invention is to provide an image encoding / decoding method and apparatus having improved efficiency.
  • Another object of the present invention is to provide a method and apparatus for adaptively constructing a merge candidate list of a current block.
  • An object of the present invention is to provide a method and apparatus for limiting a prediction direction of a block to which diagonal motion division is applied.
  • Another object of the present invention is to provide a weighted prediction method and apparatus for a block to which diagonal motion division is applied.
  • the video encoding / decoding method and apparatus determine a merge candidate of a current block, construct a merge candidate list based on the merge candidate, derive motion information of the current block from the merge candidate list, and The inter prediction of the current block may be performed using the motion information.
  • the current block may be divided into two partitions through diagonal motion division.
  • the diagonal motion division may be performed based on a flag indicating whether diagonal motion division is performed for the current block.
  • the flag is derived based on a predetermined encoding parameter
  • the encoding parameter is a slice type, an inter mode type, a block size / type, or a block width and a height. It may include at least one of the ratio (ratio) of.
  • two partitions belonging to the current block may share the configured merge candidate list.
  • the merge candidate list may include at least one of a spatial merge candidate, a temporal merge candidate, or a combined merge candidate.
  • the motion information is derived based on a merge index of the current block, and the merge index may be signaled from the encoding apparatus for each of the two partitions. have.
  • a pixel of the current block may be predicted using at least one of a first reference block of a first partition or a second reference block of a second partition.
  • a pixel of the current block is predicted using only one of a first pixel of the first reference block or a second pixel of a second reference block, or A weighted average of the first pixel of the reference block and the second pixel of the second reference block may be predicted.
  • the weight for the weighted average is [7: 1], [6: 2], [4: 4], [2: 6], or [1: 7]. ].
  • the weight may be selectively applied according to the position of a pixel in the current block.
  • the coding / decoding efficiency can be improved through block division of various forms.
  • the present invention can improve the encoding / decoding efficiency of motion information by using an adaptive merge candidate list.
  • the present invention can efficiently reduce the memory bandwidth by limiting the prediction direction of a block to which diagonal motion division is applied.
  • the present invention can reduce artifacts near the partition boundary through weighted prediction of blocks to which diagonal motion partition is applied.
  • a computer-readable recording medium for storing a bitstream generated by the video encoding method / apparatus according to the present invention can be provided.
  • FIG. 1 is a block diagram illustrating a video encoding apparatus according to the present invention.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to the present invention.
  • FIG 3 illustrates a method of dividing a square or rectangular block into a triangular form using two types of diagonal lines proposed by the present invention.
  • FIG. 4 illustrates an inter prediction method based on a merge mode according to an embodiment to which the present invention is applied.
  • FIG. 5 is a diagram illustrating a conceptual diagram of a merge candidate list and a configuration of a current block.
  • FIG. 6 is a diagram illustrating a conceptual diagram of a merge candidate list and a configuration of a current block.
  • FIG. 7 is a diagram illustrating a concept of separately configuring a merge candidate list according to diagonal motion division.
  • FIG. 8 is a diagram illustrating a concept of performing mask-based motion prediction and compensation for diagonal motion division shown in FIG. 3.
  • FIG. 9 is an embodiment to which another weight of the proposed mask-based block partitioning method illustrated in FIG. 8 is applied.
  • the video encoding / decoding method and apparatus determine a merge candidate of a current block, construct a merge candidate list based on the merge candidate, derive motion information of the current block from the merge candidate list, and The inter prediction of the current block may be performed using the motion information.
  • the current block may be divided into two partitions through diagonal motion division.
  • the diagonal motion division may be performed based on a flag indicating whether diagonal motion division is performed for the current block.
  • the flag is derived based on a predetermined encoding parameter
  • the encoding parameter is a slice type, an inter mode type, a block size / type, or a block width and a height. It may include at least one of the ratio (ratio) of.
  • two partitions belonging to the current block may share the configured merge candidate list.
  • the merge candidate list may include at least one of a spatial merge candidate, a temporal merge candidate, or a combined merge candidate.
  • the motion information is derived based on a merge index of the current block, and the merge index may be signaled from the encoding apparatus for each of the two partitions. have.
  • a pixel of the current block may be predicted using at least one of a first reference block of a first partition or a second reference block of a second partition.
  • a pixel of the current block is predicted using only one of a first pixel of the first reference block or a second pixel of a second reference block, or A weighted average of the first pixel of the reference block and the second pixel of the second reference block may be predicted.
  • the weight for the weighted average is [7: 1], [6: 2], [4: 4], [2: 6], or [1: 7]. ].
  • the weight may be selectively applied according to the position of a pixel in the current block.
  • first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.
  • some of the configuration of the apparatus or some of the steps of the method may be omitted.
  • the order of some of the components of the apparatus or some of the steps of the method may be changed.
  • other configurations or other steps may be inserted into part of the device or part of the steps of the method.
  • each component shown in the embodiments of the present invention are shown independently to represent different characteristic functions, and do not mean that each component is composed of separate hardware or one software unit. That is, each component is described by listing each component for convenience of description, and at least two of the components may be combined to form one component, or one component may be divided into a plurality of components to perform a function. The integrated and separated embodiments of each of these components are also included within the scope of the present invention without departing from the spirit of the invention.
  • the video decoding apparatus (Video Decoding Apparatus) to be described below is a civil security camera, civil security system, military security camera, military security system, personal computer (PC, Personal Computer), notebook computer, portable multimedia player (PMP, Portable MultimediaPlayer), It may be a device included in a server terminal such as a wireless communication terminal, a smart phone, a TV application server and a service server, and a communication modem for communicating with a user terminal such as various devices or a wired or wireless communication network. It may mean a variety of devices including a communication device such as an image, a memory for storing various programs and data for inter- or intra-prediction for decoding or decoding an image, a microprocessor for executing and operating a program, and the like. Can be.
  • the image encoded in the bitstream by the encoder is real-time or non-real-time through the wired or wireless communication network, such as the Internet, local area wireless communication network, wireless LAN network, WiBro network, mobile communication network or the like, cable, universal serial bus (USB, It can be transmitted to a video decoding apparatus through various communication interfaces such as a universal serial bus), decoded, reconstructed, and played back.
  • the bitstream generated by the encoder may be stored in the memory.
  • the memory may include both a volatile memory and a nonvolatile memory.
  • a memory may be represented as a recording medium storing a bitstream.
  • a video may be composed of a series of pictures, and each picture may be divided into a coding unit such as a block.
  • a coding unit such as a block.
  • FIG. 1 is a block diagram illustrating a video encoding apparatus according to the present invention.
  • the conventional video encoding apparatus 100 may include a picture splitter 110, a predictor 120 and 125, a transformer 130, a quantizer 135, a reordering unit 160, and an entropy encoder. 165, an inverse quantizer 140, an inverse transformer 145, a filter 150, and a memory 155.
  • the picture dividing unit 110 may divide the input picture into at least one processing unit.
  • the processing unit may be a prediction unit (PU), a transform unit (TU), or a coding unit (CU).
  • a coding unit may be used as a unit for encoding or may be used as a unit for decoding.
  • the prediction unit may be split in the form of at least one square or rectangle having the same size in one coding unit, or the prediction unit of any one of the prediction units split in one coding unit is different from one another. It may be divided to have a different shape and / or size than the unit.
  • the intra prediction may be performed without splitting into a plurality of prediction units NxN.
  • the predictors 120 and 125 may include an inter predictor 120 that performs inter prediction or inter prediction, and an intra predictor 125 that performs intra prediction or intra prediction. Whether to use inter prediction or intra prediction on the prediction unit may be determined, and specific information (eg, an intra prediction mode, a motion vector, a reference picture, etc.) according to each prediction method may be determined.
  • the residual value (residual block) between the generated prediction block and the original block may be input to the transformer 130.
  • prediction mode information and motion vector information used for prediction may be encoded by the entropy encoder 165 together with the residual value and transmitted to the decoder.
  • the inter prediction unit 120 may predict the prediction unit based on the information of at least one of the previous picture or the next picture of the current picture. In some cases, the inter prediction unit 120 may predict the prediction unit based on the information of the partial region in which the encoding is completed in the current picture. You can also predict units.
  • the inter predictor 120 may include a reference picture interpolator, a motion predictor, and a motion compensator.
  • the reference picture interpolator may receive reference picture information from the memory 155 and generate pixel information of an integer pixel or less in the reference picture.
  • a DCT based 8-tap interpolation filter having different filter coefficients may be used to generate pixel information of integer pixels or less in units of 1/4 pixels.
  • a DCT-based interpolation filter having different filter coefficients may be used to generate pixel information of an integer pixel or less in units of 1/8 pixels.
  • the motion predictor may perform motion prediction based on the reference picture interpolated by the reference picture interpolator.
  • various methods such as full search-based block matching algorithm (FBMA), three step search (TSS), and new three-step search algorithm (NTS) may be used.
  • the motion vector may have a motion vector value of 1/2 or 1/4 pixel units based on the interpolated pixels.
  • the motion prediction unit may predict the current prediction unit by using a different motion prediction method.
  • various methods such as a skip mode, a merge mode, an AMVP mode, an intra block copy mode, and an affine mode may be used. 3 to 9, the inter prediction based on the merge mode will be described in detail.
  • the intra predictor 125 may generate a prediction unit based on reference pixel information around the current block, which is pixel information in the current picture. If the neighboring block of the current prediction unit is a block that has performed inter prediction, and the reference pixel is a pixel that has performed inter prediction, the reference pixel of the block that has performed intra prediction around the reference pixel included in the block where the inter prediction has been performed Can be used as a substitute for information. That is, when the reference pixel is not available, the unavailable reference pixel information may be replaced with at least one reference pixel among the available reference pixels.
  • a residual block may include a prediction unit performing prediction based on the prediction units generated by the prediction units 120 and 125 and residual information including residual information that is a difference from an original block of the prediction unit.
  • the generated residual block may be input to the transformer 130.
  • the transform unit 130 converts the residual block including residual information of the original block and the prediction unit generated by the prediction units 120 and 125 into a discrete cosine transform (DCT), a discrete sine transform (DST), and a KLT. You can convert using the same conversion method. Whether to apply DCT, DST, or KLT to transform the residual block may be determined based on intra prediction mode information of the prediction unit used to generate the residual block.
  • DCT discrete cosine transform
  • DST discrete sine transform
  • KLT KLT
  • the quantization unit 135 may quantize the values converted by the transformer 130 into the frequency domain.
  • the quantization coefficient may change depending on the block or the importance of the image.
  • the value calculated by the quantization unit 135 may be provided to the inverse quantization unit 140 and the reordering unit 160.
  • the reordering unit 160 may reorder coefficient values with respect to the quantized residual value.
  • the reordering unit 160 may change the two-dimensional block shape coefficients into a one-dimensional vector form through a coefficient scanning method. For example, the reordering unit 160 may scan from DC coefficients to coefficients in the high frequency region by using a Zig-Zag scan method and change them into one-dimensional vectors.
  • a vertical scan that scans two-dimensional block shape coefficients in a column direction instead of a zig-zag scan may be used, and a horizontal scan that scans two-dimensional block shape coefficients in a row direction. That is, according to the size of the transform unit and the intra prediction mode, it is possible to determine which scan method among the zig-zag scan, the vertical scan, and the horizontal scan is used.
  • the entropy encoder 165 may perform entropy encoding based on the values calculated by the reordering unit 160. Entropy encoding may use various encoding methods such as, for example, Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC). In this regard, the entropy encoder 165 may encode residual value coefficient information of a coding unit from the reordering unit 160 and the predictors 120 and 125. In addition, according to the present invention, it is possible to signal and transmit information indicating that the motion information is derived from the decoder side and information on a technique used for deriving the motion information.
  • CAVLC Context-Adaptive Variable Length Coding
  • CABAC Context-Adaptive Binary Arithmetic Coding
  • the inverse quantizer 140 and the inverse transformer 145 inverse quantize the quantized values in the quantizer 135 and inversely transform the transformed values in the transformer 130.
  • the residual value generated by the inverse quantizer 140 and the inverse transformer 145 is reconstructed by combining the prediction units predicted by the motion estimator, the motion compensator, and the intra predictor included in the predictors 120 and 125. You can create a Reconstructed Block.
  • the filter unit 150 may include at least one of a deblocking filter, an offset correction unit, and an adaptive loop filter (ALF).
  • the deblocking filter may remove block distortion caused by boundaries between blocks in the reconstructed picture.
  • the offset correction unit may correct the offset with respect to the original image on a pixel-by-pixel basis for the deblocking image.
  • the pixels included in the image are divided into a predetermined number of areas, and then, an area to be offset is determined, an offset is applied to the corresponding area, or offset considering the edge information of each pixel. You can use this method.
  • Adaptive Loop Filtering ALF
  • ALF Adaptive Loop Filtering
  • the memory 155 may store the reconstructed block or picture calculated by the filter unit 150, and the stored reconstructed block or picture may be provided to the predictors 120 and 125 when performing inter prediction.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to the present invention.
  • the image decoder 200 includes an entropy decoder 210, a reordering unit 215, an inverse quantizer 220, an inverse transformer 225, a predictor 230, 235, and a filter unit ( 240, a memory 245 may be included.
  • the input bitstream may be decoded by a procedure opposite to that of the image encoder.
  • the entropy decoder 210 may perform entropy decoding in a procedure opposite to that of the entropy encoding performed by the entropy encoder of the image encoder. For example, various methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC) may be applied to the method performed by the image encoder.
  • various methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC) may be applied to the method performed by the image encoder.
  • the entropy decoder 210 may decode information related to intra prediction and inter prediction performed by the encoder.
  • the reordering unit 215 may reorder the entropy decoded bitstream by the entropy decoding unit 210 based on a method of rearranging the bitstream. Coefficients expressed in the form of a one-dimensional vector may be reconstructed by reconstructing the coefficients in a two-dimensional block form.
  • the inverse quantization unit 220 may perform inverse quantization based on the quantization parameter provided by the encoder and the coefficient values of the rearranged block.
  • the inverse transform unit 225 may perform an inverse transform, i.e., an inverse DCT, an inverse DST, and an inverse KLT, for a quantization result performed by the image encoder, that is, a DCT, DST, and KLT. Inverse transformation may be performed based on a transmission unit determined by the image encoder.
  • the inverse transform unit 225 of the image decoder may selectively perform a transform scheme (eg, DCT, DST, KLT) according to a plurality of pieces of information such as a prediction method, a size of a current block, and a prediction direction.
  • a transform scheme eg, DCT, DST, KLT
  • the prediction units 230 and 235 may generate the prediction block based on the prediction block generation related information provided by the entropy decoder 210 and previously decoded blocks or picture information provided by the memory 245.
  • the intra prediction when performing the intra prediction or the intra prediction in the same way as the operation of the image encoder, when the size of the prediction unit and the size of the transform unit are the same, the pixel existing on the left side and the pixel present on the upper left side
  • intra prediction is performed on a prediction unit based on the pixel present at the top, but the size of the prediction unit and the size of the transformation unit are different when performing the intra prediction, the intra prediction is performed using a reference pixel based on the transformation unit. You can make predictions.
  • intra prediction using NxN division may be used only for a minimum coding unit.
  • the predictors 230 and 235 may include a prediction unit determiner, an inter predictor, and an intra predictor.
  • the prediction unit determiner receives various information such as prediction unit information input from the entropy decoder 210, prediction mode information of the intra prediction method, and motion prediction related information of the inter prediction method, and distinguishes the prediction unit from the current coding unit, and predicts It may be determined whether the unit performs inter prediction or intra prediction. On the other hand, if the encoder 100 does not transmit the motion prediction related information for the inter prediction, instead it transmits information indicating that the motion information is derived from the decoder side and information about the technique used for deriving the motion information. In this case, the prediction unit determination unit determines the prediction of the inter prediction unit 23 based on the information transmitted from the encoder 100.
  • the inter prediction unit 230 predicts the current prediction based on information included in at least one of a previous picture or a subsequent picture of the current picture including the current prediction unit by using information required for inter prediction of the current prediction unit provided by the image encoder. Inter prediction may be performed on a unit.
  • a motion prediction method of a prediction unit included in a coding unit based on a coding unit may include a skip mode, a merge mode, an AMVP mode, an intra block copy mode ( It may be determined whether it is an intra block copy mode or an affine mode. 3 to 9, the inter prediction based on the merge mode will be described in detail.
  • the intra predictor 235 may generate a prediction block based on pixel information in the current picture.
  • intra prediction may be performed based on intra prediction mode information of the prediction unit provided by the image encoder.
  • the intra predictor 235 may include an adaptive intra smoothing (AIS) filter, a reference pixel interpolator, and a DC filter.
  • the AIS filter is a part of filtering the reference pixel of the current block and determines whether to apply the filter according to the prediction mode of the current prediction unit.
  • AIS filtering may be performed on the reference pixel of the current block by using the prediction mode and the AIS filter information of the prediction unit provided by the image encoder. If the prediction mode of the current block is a mode that does not perform AIS filtering, the AIS filter may not be applied.
  • the reference pixel interpolator may generate a reference pixel having an integer value or less by interpolating the reference pixel. If the prediction mode of the current prediction unit is a prediction mode for generating a prediction block without interpolating the reference pixel, the reference pixel may not be interpolated.
  • the DC filter may generate the prediction block through filtering when the prediction mode of the current block is the DC mode.
  • the reconstructed block or picture may be provided to the filter unit 240.
  • the filter unit 240 may include a deblocking filter, an offset correction unit, and an ALF.
  • Information about whether a deblocking filter is applied to a corresponding block or picture, and when the deblocking filter is applied to the corresponding block or picture, may be provided with information about whether a strong filter or a weak filter is applied.
  • the deblocking filter related information provided by the image encoder may be provided and the deblocking filtering of the corresponding block may be performed in the image decoder.
  • the offset correction unit may perform offset correction on the reconstructed image based on the type of offset correction and offset value information applied to the image during encoding.
  • the ALF may be applied to a coding unit based on ALF application information, ALF coefficient information, and the like provided from the encoder. Such ALF information may be provided included in a specific parameter set.
  • the memory 245 may store the reconstructed picture or block to use as a reference picture or reference block, and may provide the reconstructed picture to the output unit.
  • FIG 3 illustrates a method of dividing a square or rectangular block into a triangular form using two types of diagonal lines proposed by the present invention.
  • FIG. 3A illustrates an example of dividing a square or rectangular block into two triangular blocks using diagonal lines connecting the upper left and lower right sides of the block.
  • 3 (b) shows an example of dividing a square or rectangular block into two triangular blocks using diagonal lines connecting the upper right and lower left sides of the block.
  • Two triangular blocks divided in (a) and (b) of FIG. 3 may be referred to as a first partition and a second partition according to a position.
  • Equation 1 is a diagonal line connecting the upper left and lower right of the block can be expressed as Equation 1 using the upper left position of the block as an origin.
  • Equation 1 w means the width of the block, h means the height of the block.
  • a diagonal line connecting the upper right side and the lower left side of the block may be expressed as Equation 2 using the upper left position of the block as an origin.
  • Equation 2 w means the width of the block, h means the height of the block.
  • a flag indicating whether diagonal motion division is performed for one coding unit (CU) may be used. For example, when the flag is the first value, diagonal motion division may be performed. Otherwise, diagonal motion division may not be performed.
  • the flag may be encoded and signaled by the encoding apparatus or may be derived from the decoding apparatus based on a predetermined encoding parameter.
  • the encoding parameter may include a slice type, an inter mode type, a block size / type, a ratio of a width and a height of a block, and the like.
  • the flag may be set to the first value only when the slice type to which the current block belongs is a B slice. Alternatively, the flag may be set to the first value only when the slice type to which the current block belongs is not an I slice. Alternatively, the flag may be set to the first value only when the inter mode of the current block is at least one of a merge mode, a skip mode, an AMVP mode, or an affine mode. Alternatively, the flag may be set to the first value only when at least one of the width or height of the current block is greater than or equal to a predetermined threshold size.
  • the threshold size may be 4, 8, 16 or more.
  • the flag may be set to the first value only when the number W * H of samples belonging to the current block is greater than or equal to a predetermined threshold number.
  • the threshold number may be 32, 64 or more.
  • the flag may be set to the first value only when the ratio of the width and height of the current block is smaller than a predetermined threshold.
  • the threshold value may be 4, 8 or more.
  • direction information of the diagonal motion division may be signaled.
  • the direction information is the first value
  • the current block is divided based on a diagonal line connecting the upper left and the lower right (hereinafter referred to as a first diagonal line), otherwise, the current block is a diagonal line connecting the upper right and lower left (hereinafter, referred to as a first diagonal line). , A second diagonal line).
  • the information for the diagonal motion division may not be signaled according to the mode information of the current block.
  • the mode information of the current block is an intra prediction mode, it is not signaled.
  • the information for the diagonal motion division may not be signaled according to the size information of the current block.
  • the size information of the current block may be defined as a width or height size, a ratio of width and height, a product of width and height, and the like. For example, if the width or height of the current block is less than 8, the current block may not use diagonal motion division.
  • the diagonal motion division may not be used.
  • This particular ratio means that if the ratio of width to height is greater than 1: 3 or 3: 1 (eg, 1: 4 or 4: 1, 1: 8 or 8: 1), then the current block does May not be used. In this case, the diagonal motion split information may not be signaled.
  • FIG. 4 illustrates an inter prediction method based on a merge mode according to an embodiment to which the present invention is applied.
  • a merge candidate list of the current block may be configured (S400).
  • the current block may have a square or non-square shape.
  • the current block may be divided into two partitions through the diagonal motion division described above. In this case, at least one of the two partitions may be a triangular partition.
  • a merge candidate of the current block may be determined, and a merge candidate list may be configured based on the merge candidate. Two partitions of the current block may share one merge candidate list, and a different merge candidate list may be configured for each partition.
  • the merge candidate list may include at least one of a spatial merge candidate or a temporal merge candidate of the current block.
  • the motion information of the spatial merge candidate may be derived from the motion information of the spatial neighboring block of the current block.
  • the spatial neighboring block is a block belonging to the same picture as the current block and may mean a block adjacent to the current block.
  • the spatial neighboring block may include a block adjacent to at least one of a left side, an upper end, an upper right end, a lower left end, or an upper left end of the current block.
  • the upper left neighboring block may be used only when at least one of the blocks adjacent to the left, the upper, the upper right and the lower left is not available.
  • the motion information of the temporal merging candidate may be derived from the motion information of the temporal neighboring block of the current block.
  • the temporal neighboring block is a block belonging to a picture different from the current block and may be defined as a block having the same position as the current block.
  • the block of the same position is at least one of a block BR adjacent to the lower right corner of the current block, a block CTR including the position of the center sample of the current block, or a block TL including the position of the upper left sample of the current block. It can mean one.
  • the block of the same position may mean a block including a position shifted by a predetermined disparity vector from the position of the upper left sample of the current block.
  • the disparity vector may be determined based on any one of the motion vectors of the spatial neighboring block described above.
  • the disparity vector may be set to the motion vector of the left neighboring block or may be set to the motion vector of the upper neighboring block.
  • the disparity vector may be determined based on a combination of at least two of the motion vectors of the spatial neighboring block described above. The combination may include a calculation process of a maximum value, a minimum value, a median value, a weighted average value, and the like.
  • the disparity vector may be set to an intermediate value or an average value between the motion vector of the left neighboring block and the motion vector of the lower left neighboring block.
  • the motion vector and the reference picture index of the temporal merging candidate may be respectively derived from the motion vector and the reference picture index of the temporal neighboring block described above.
  • the motion vector of the temporal merging candidate is derived from the motion vector of the temporal neighboring block, and the reference picture index of the temporal merging candidate is set to a default value (eg, 0) pre-committed to the decoding apparatus regardless of the temporal neighboring block. Can be.
  • the merge candidate list may further include at least one of a combined merge candidate or a merge candidate having zero motion vectors.
  • the combined merge candidate may be derived by combining n merge candidates belonging to the pre-generated merge candidate list.
  • n may be an integer of 2, 3, 4 or more.
  • the number n of merge candidates to be combined may be a fixed value pre-committed to the encoding / decoding apparatus, or may be encoded and signaled by the encoding apparatus. The signaling may be performed in at least one unit of a sequence, a picture, a slice, a tile, a sub-tile (brick), or a predetermined block.
  • the number n of merge candidates to be combined may be variably determined based on the number of remaining merge candidates.
  • the number of remaining merge candidates may mean a difference between the maximum number of merge candidates included in the merge candidate list and the current number of merge candidates included in the merge candidate list.
  • the maximum number may be a number pre-committed to the encoding / decoding apparatus, or may be encoded and signaled by the encoding apparatus.
  • the current number may mean the number of merge candidates configured before adding the combined merge candidate. For example, when the number of remaining merge candidates is 1, two merge candidates are used, and when the number of remaining merge candidates is larger than 1, three or more merge candidates may be used.
  • the n merge candidates may be determined in consideration of the prediction direction of each merge candidate included in the merge candidate list. For example, among the merge candidates included in the merge candidate list, only merge candidates that are bidirectional predictions may be selectively used, or only merge candidates that are unidirectional predictions may be selectively used.
  • the combined merge candidate may be derived using both the spatial merge candidate and the temporal merge candidate, or may be derived using only either the spatial merge candidate or the temporal merge candidate.
  • the combined merge candidate may be added after the spatial / temporal merge candidate in the merge candidate list. That is, the index of the combined merge candidate may be larger than the index of the spatial / temporal merge candidate.
  • the combined merge candidate may be added between the spatial merge candidate and the temporal merge candidate in the merge candidate list. That is, the index of the combined merge candidate may be larger than the index of the spatial merge candidate and smaller than the index of the temporal merge candidate.
  • the position of the combined merge candidate may be variably determined in consideration of the prediction direction of the combined merge candidate. Depending on whether the prediction direction of the combined merge candidate is bidirectional prediction, the positions of the combined merge candidates may be rearranged in the merge candidate list. For example, if the combined merge candidate is bidirectional prediction, an index smaller than the spatial or temporal merging candidate may be assigned, otherwise an index larger than the spatial or temporal merging candidate may be assigned.
  • the motion information of the combined merge candidate may be derived by weighted average of the motion information of the first merge candidate and the second merge candidate.
  • the reference picture index in the LX direction of the combined merge candidate may be derived as the reference picture index in the LX direction of either the first merge candidate or the second merge candidate.
  • the reference picture index in the LX direction of the combined merge candidate may be derived using only the reference picture index in the LX direction of the first merge candidate.
  • the first merge candidate may have a smaller index than the second merge candidate.
  • the weighted weighted average is [1: 1], [1: 2], [1: 3], or [2: 3], but is not limited thereto.
  • the weight may be pre-defined in the encoding / decoding apparatus or may be derived in the decoding apparatus. In this case, the weight may be derived in consideration of at least one of a distance between the current picture and a reference picture of the merge candidate or a prediction direction of the merge candidate.
  • the motion information in the L0 direction of the combined merge candidate may be derived from the motion information in the L0 direction of the first merge candidate, and the motion information in the L1 direction may be derived from the motion information in the L1 direction of the second merge candidate.
  • the motion information in the L0 direction of the combined merge candidate may be derived from the motion information in the L0 direction of the second merge candidate, and the motion information in the L1 direction may be derived from the motion information in the L1 direction of the first merge candidate.
  • the above-described motion information includes at least one of a prediction direction flag, a reference picture index, or a motion vector, and may be similarly interpreted in the following embodiments.
  • a merge candidate list may be configured based on the above merge candidate, which will be described in detail with reference to FIGS. 5 to 7.
  • motion information of the current block may be derived from the merge candidate list (S410).
  • a merge index of the current block may be signaled.
  • the merge index may be information encoded to specify any one of a plurality of merge candidates included in the merge candidate list.
  • the merge index may be signaled based on a flag indicating whether motion compensation based on diagonal motion division is performed. For example, if the flag indicates that motion compensation based on diagonal motion partitioning is to be performed (ie, the flag is a first value), the merge index is signaled, otherwise the merge index may not be signaled. Can be.
  • the flag is as described with reference to FIG. 3, and a detailed description thereof will be omitted.
  • the merge index may be signaled for each of the first partition and the second partition of the current block (Example 1).
  • the motion information of the first partition may be derived using the motion information of the merge candidate having the same index as the merge index mergeIdx1 of the signaled first partition.
  • mergeIdx2 mergeIdx2
  • mergeIdx2 is greater than or equal to mergeIdx1
  • motion information of the second partition may be derived using motion information of a merge candidate having the same index as (mergeIdx2 + 1).
  • one merge index mergeIdx may be signaled for the current block (Embodiment 2). That is, the first partition and the second partition belonging to the current block may share the signaled mergeIdx. Based on the motion information of the merge candidate specified by mergeIdx, motion information of the first and second partitions may be derived.
  • the merge candidate when the merge candidate specified by mergeIdx is bidirectional prediction, the merge candidate may have motion information in the L0 direction and motion information in the L1 direction.
  • the motion information of the first partition may be derived from one of the motion information in the L0 direction and the motion information in the L1 direction
  • the motion information of the second partition may be derived from the other.
  • the motion information of the first partition is derived to the motion information of the merge candidate specified by mergeIdx
  • the motion information of the second partition is (mergeIdx + k It can be derived to the motion information of the merge candidate specified by.
  • k may be an integer having an absolute value of 1, 2, 3, or more.
  • the present embodiment may be applied to a case where a merge candidate list is configured by configuring merge candidates of the first and second partitions into one set as shown in FIG. 7.
  • the motion information of the first and second partitions may be derived based on the motion information of the pre-committed merge candidate in the merge candidate list (Embodiment 3). In this case, signaling of the merge index may be omitted.
  • the pre-committed merge candidate may be a merge candidate with an index of zero.
  • the motion information of the first and second partitions may be derived in consideration of whether a merge candidate having an index of 0 is bidirectional prediction, which is the same as the embodiment 2 described above.
  • the pre-committed merge candidate may be a merge candidate having the smallest index among the merge candidates that are bidirectional predictions.
  • the merge candidate that is the bidirectional prediction may include at least one of a spatial / temporal merge candidate or a combined merge candidate.
  • the motion information of the first and second partitions is derived based on the motion information of the merge candidate, which is bidirectional prediction, as described above in the second embodiment.
  • the partition-specific motion information may be derived based on any one of the above-described embodiments 1 to 3, and the motion information for each partition may be derived based on a combination of at least two of the embodiments 1-3.
  • motion information of the first partition may be derived based on the first embodiment
  • motion information of the second partition may be derived based on the third embodiment.
  • each partition may be limited to perform unidirectional prediction only in order to reduce memory bandwidth.
  • the limiting method will be described in detail.
  • the partition may be restricted to perform only one-way prediction (Embodiment 1).
  • the motion information of the first partition includes motion information in the L0 direction of the merge candidate corresponding to mergeIdx1. Can be derived using.
  • the merge candidate corresponding to mergeIdx1 may not have the motion information in the L0 direction.
  • the motion information of the first partition may be derived using the motion information in the L1 direction of the merge candidate.
  • the motion information of the first partition may be derived using the motion information in the L1 direction of the merge candidate corresponding to mergeIdx1. Can be. However, the merge candidate corresponding to mergeIdx1 may not have the motion information in the L1 direction. In this case, the motion information of the first partition may be derived using the motion information in the L0 direction of the merge candidate.
  • the merge index mergeIdx1 may be encoded and signaled by the encoding apparatus, may be derived based on the signaled merge index, or may be pre-committed to the decoding apparatus.
  • the motion information of the second partition may be derived in the same manner as the above-described first partition, and a detailed description thereof will be omitted.
  • the motion information of the first partition is determined by using the motion information in the L1 direction of the merge candidate corresponding to mergeIdx1. If not, motion information of the first partition may be derived using motion information in the L0 direction of the merge candidate corresponding to mergeIdx1.
  • the partition may be restricted to perform unidirectional prediction only according to the position of the diagonal motion partitioned partition (Example 2).
  • the first partition of the current block refers only to motion information in the L0 direction of the merge candidate specified by the merge index mergeIdx1
  • the second partition refers to the L1 direction of the merge candidate specified by the merge index mergeIdx2.
  • the merge candidate specified by mergeIdx1 does not have the motion information in the L0 direction (ie, L1 prediction)
  • the motion information in the L1 direction of the merge candidate may be referred to.
  • the merge candidate specified by mergeIdx2 does not have the motion information in the L1 direction (ie, L0 prediction)
  • the motion information in the L0 direction of the merge candidate may be referred to.
  • the first partition may mean a diagonal upper partition that divides the current block
  • the second partition may mean a lower partition.
  • unidirectional prediction may be forced.
  • unidirectional prediction may be forced based on the combination of the first and second embodiments described above.
  • inter prediction of the current block may be performed using the derived motion information (S420).
  • the pixel of the current block is predicted using at least one of the first reference block P P0 specified by the motion vector of the first partition or the second reference block P P1 specified by the motion vector of the second partition. Can be. According to the position of the pixel in the current block, the pixel may be predicted using only one of the first pixel of the first reference block or the second pixel of the second reference block, or with the first pixel of the first reference block. It may be predicted by weighting the second pixel of the second reference block, where the first pixel and the second pixel may be at the same position as the pixel of the predicted current block.
  • the prediction block P CUR of the current block according to the present invention may be obtained as in Equation 3 below.
  • P P0 and P P1 denote reference blocks of the first and second partitions, respectively, and MASK P0 (x, y) and MASK P1 (x, y) represent weights at coordinates (x, y), and MASK The sum of P0 (x, y) and MASK P1 (x, y) must equal 2 shift .
  • the offset may be 0 or 2 (shift-1) .
  • the peripheral pixels P (x2, y2) of the pixels P (x1, y1) are weighted average of pixels at positions (x2, y2) in the first partition and pixels at positions (x2, y2) in the second partition. Either the pixel at the (x2, y2) position in the first partition or the pixel at the (x2, y2) position in the second partition may be predicted.
  • the weight w1 applied to the pixel P (x1, y1) may be different from the weight w2 applied to the pixel P (x2, y2).
  • Weighted prediction of the present invention will be described in detail with reference to FIGS. 8 and 9.
  • FIG. 5 is a diagram illustrating a conceptual diagram of a merge candidate list and a configuration of a current block.
  • a merge candidate list may be configured for the current block, and various types of merge candidates may be used.
  • the various types of merge candidates include not only a spatially adjacent merge candidate and a temporally adjacent merge candidate, but also a sub-block that uses a temporally corresponding motion in each sub-block unit by dividing the current block into a plurality of sub-blocks. It may refer to at least one of a block unit merge candidate or an affine transform merge candidate used for calculating a motion vector for each of a plurality of sub-blocks within a block by using a motion vector of a specific position of the block.
  • the merge candidate of the current block may be determined differently according to whether motion information of the current block is derived in units of sub-blocks.
  • the merge candidate list may include a sub-block unit merge candidate, an affine transform merge candidate, and the like, otherwise, the merge candidate list may be The spatial merge candidate and the temporal merge candidate may be included.
  • the construction order is not limited to the order shown in FIG. 5, and the order of construction of the merge candidate list shown in FIG. 5 is an embodiment. And may be in the order of unit temporal merge candidates, affine transform merge candidates, and temporally adjacent merge candidates, and include spatially adjacent merge candidates, affine transform merge candidates, sub-block unit temporal merge candidates, and temporally adjacent merge candidates. It may be in order.
  • a temporal contiguous merge candidate with a sub-block unit temporal merge candidate may be arranged between a spatially adjacent merge candidate and an affine transform merge candidate.
  • the sub-block unit of temporal merge candidate may be arranged before the spatially adjacent merge candidate or the temporally adjacent merge candidate.
  • the sub-block unit of temporal merging candidates may be arranged after temporally adjacent merging candidates.
  • FIG. 6 is a diagram illustrating a conceptual diagram of a merge candidate list and a configuration of a current block.
  • the merge candidate list may be configured for the current block, and various kinds of merge candidates may be used.
  • the various types of merge candidates include not only a spatially adjacent merge candidate and a temporally adjacent merge candidate, but also a sub-block that uses a temporally corresponding motion in each sub-block unit by dividing the current block into a plurality of sub-blocks. It may refer to at least one of a block unit merge candidate or an affine transform merge candidate used for calculating a motion vector for each of a plurality of sub-blocks within a block by using a motion vector of a specific position of the block.
  • one or more diagonal motion division may be used as a merge candidate of the current block.
  • the current block is divided into two partitions, and motion prediction and compensation are performed using different motion vectors for each partition.
  • a different motion vector for each partition refers to a motion vector of a spatially and temporally adjacent position of the current block, and the motion vector is a merge candidate list configured using existing spatial merging candidates and temporal merging candidates.
  • the motion vectors may be configured in the same order as.
  • FIG. 7 is a diagram illustrating a concept of separately configuring a merge candidate list according to diagonal motion division.
  • FIG. 7 unlike FIG. 5 and FIG. 6, a concept of separately configuring a merge candidate list is illustrated.
  • a separate list for only merge candidates for diagonal motion division may be configured to perform motion prediction and compensation using diagonal motion division.
  • signaling about whether to use an existing merge candidate list or a merge candidate list for diagonal motion division is necessary, which may be signaled in a flag form for a case in which the current block is encoded by SKIP or MERGE.
  • a diagonal merge candidate list 710 for dividing the diagonal motion may be configured.
  • the merge candidate list 710 for diagonal motion division has a merge candidate index 701 for each motion candidate 702, 703, 704, and 705, similar to the existing merge candidate list 700. .
  • merge candidates exist for each partition, and the merge candidates are configured in one set to each other. Use a different index.
  • the motion for P0 and the motion for P1 should always be different from each other, and if the motions of P0 and P1 are the same, they are excluded from the diagonal motion merge candidate list.
  • FIG. 8 is a diagram illustrating a concept of performing mask-based motion prediction and compensation for diagonal motion division shown in FIG. 3.
  • FIG. 8 illustrates an example of dividing a current block into two partitions through diagonal motion partitioning.
  • pixels P (x1, y1) (hereinafter, referred to as a first region) positioned diagonally may include pixels at a position (x1, y1) in a reference block of the first partition and (x1, y1) in a reference block of the second partition.
  • y1) can be predicted by applying a weight of 1 to each pixel at position y1).
  • the remaining pixels P (x2, y2) except for the pixels belonging to the first region apply a weight of 2 to the pixels at positions (x2, y2) in the reference block of the first partition, and It can be predicted by applying a weight of 0 to the pixel at the position (x2, y2) in the reference block. That is, the pixel P (x2, y2) may be predicted as the pixel at the position (x2, y2) in the reference block of the first partition.
  • the remaining pixels P (x3, y3) except for the pixels belonging to the first area in the second partition apply a weight of 0 to the pixels at positions (x3, y3) in the reference block of the first partition, and the second It can be predicted by applying a weight of 8 to the pixel at the position (x3, y3) in the reference block of the partition. That is, the pixel P (x3, y3) may be predicted as the pixel at the position (x3, y3) in the reference block of the second partition.
  • the prediction pixels predSample1 of the first partition and the prediction pixels predSample2 of the second partition are obtained, respectively, and the sum of predSample1 and predSample2 is the sum of weights applied to each of predSample1 and predSample2 (that is, 8). Divide and obtain the final prediction block.
  • the sum of the weight w1 applied to the pixels of the first partition and the weight w2 applied to the pixels of the second partition is 2, and reconstructed into a final square or rectangular prediction block.
  • the pixel values of the corresponding position are added and divided by 2 to obtain a final predicted pixel value.
  • such a method is referred to as a mask-based motion prediction and compensation method, and may include extending and using the mask in various arbitrary forms.
  • Equation 4 MASK P0 means a weight of the first partition, and MASK P1 means a weight of the second partition.
  • Equation 5 A method of generating final square and rectangular prediction blocks using the weight of Equation 4 is shown in Equation 5 below.
  • P DMP (x, y) (P P0 (x, y) x MASK P0 (x, y) + P P1 (x, y) x MASK P1 (x, y)) >> shift
  • Equation 5 the final square and rectangular prediction blocks obtained by using P DMP diagonal motion partitioning, P P0 (x, y) is the pixel value of the (x, y) position in the first partition, P P1 ( x, y) denotes pixel values at positions (x, y) in the second partition, respectively.
  • Shift is the final shift value according to the weight. Since the weight shown in FIG. 8 is 2, the shift value in FIG. 2 has 1.
  • FIG. 9 is an embodiment to which another weight of the proposed mask-based block partitioning method illustrated in FIG. 8 is applied.
  • FIG. 9 illustrates an embodiment in which the sum of the weights w1 and the weights w2 is 8, and unlike FIG. 8, the diagonal movement is performed by using different weights not only for the pixels including the diagonal line segments but also for the pixels in the areas adjacent to the diagonal lines. It plays a role in reducing boundary degradation that may occur at the boundary of partitioning.
  • the adjacent region may include i pixels adjacent in the top or left direction and i pixels adjacent in the bottom or right direction from pixels positioned on a diagonal line.
  • i may be 1, 2, 3, 4 or more, and may be variably determined according to a ratio (W / H) of the width and height of the current block.
  • i may be set to the same value as W / H of the current block.
  • Pixel P (x1, y1) (hereinafter referred to as a first region) positioned diagonally includes a pixel at position (x1, y1) in a reference block of a first partition and a position (x1, y1) in a reference block of a second partition. It can be predicted by applying a weight of 4 to each pixel of.
  • the upper or left neighboring pixel P (x2, y2) (hereinafter referred to as the second region) of the first region applies a weight of 6 to the pixel at the position (x2, y2) in the reference block of the first partition, It can be predicted by applying a weight of 2 to the pixel at the position (x2, y2) in the reference block of the second partition.
  • the upper or left neighboring pixel P (x3, y3) (hereinafter referred to as the third region) of the second region applies a weight of 7 to the pixel at the position (x3, y3) in the reference block of the first partition, It can be predicted by applying a weight of 1 to the pixel at the position (x3, y3) in the reference block of the second partition.
  • the remaining pixels P (x4, y4) except for the pixels belonging to the first to third regions in the first partition apply a weight of 8 to the pixel at the position (x4, y4) in the reference block of the first partition, It can be predicted by applying a weight of 0 to the pixel at the position (x4, y4) in the reference block of the second partition. That is, the pixel P (x4, y4) may be predicted as the pixel at the position (x4, y4) in the reference block of the first partition.
  • the lower or right neighboring pixel P (x5, y5) (hereinafter referred to as a fourth region) of the first region applies a weight of 2 to the pixel at the position (x5, y5) in the reference block of the first partition. And, it can be predicted by applying a weight of 6 to the pixel at the position (x5, y5) in the reference block of the second partition.
  • the lower or right neighboring pixel P (x6, y6) (hereinafter referred to as a fifth region) of the fourth region applies a weight of 1 to the pixel at the position (x6, y6) in the reference block of the first partition, It can be predicted by applying a weight of 7 to the pixel at the position (x6, y6) in the reference block of the second partition.
  • the remaining pixels P (x7, y7) excluding pixels belonging to the first, fourth and fifth regions in the second partition have a weight equal to zero for the pixel at the position (x7, y7) in the reference block of the first partition. It can be predicted by applying and by applying a weight of 8 to the pixel at the position (x7, y7) in the reference block of the second partition. That is, the pixel P (x7, y7) may be predicted as the pixel at the position (x7, y7) in the reference block of the second partition.
  • Pixel P (x1, y1) (hereinafter referred to as a first region) positioned diagonally includes a pixel at position (x1, y1) in a reference block of a first partition and a position (x1, y1) in a reference block of a second partition. It can be predicted by applying a weight of 4 to each pixel of.
  • the upper or left neighboring pixel P (x2, y2) (hereinafter referred to as the second region) of the first region applies a weight of 5 to the pixel at the position (x2, y2) in the reference block of the first partition, It can be predicted by applying a weight of 3 to the pixel at the position (x2, y2) in the reference block of the second partition.
  • the upper or left neighboring pixel P (x3, y3) (hereinafter referred to as the third region) of the second region applies a weight of 6 to the pixel at the position (x3, y3) in the reference block of the first partition, It can be predicted by applying a weight of 2 to the pixel at the position (x3, y3) in the reference block of the second partition.
  • the upper or left neighboring pixel P (x4, y4) (hereinafter referred to as a fourth region) of the third region applies a weight of 7 to the pixel at the position (x4, y4) in the reference block of the first partition, It can be predicted by applying a weight of 1 to the pixel at the position (x4, y4) in the reference block of the second partition.
  • the remaining pixels P (x5, y5) except for the pixels belonging to the first to fourth regions in the first partition apply a weight of 8 to the pixel at the position (x5, y5) in the reference block of the first partition, It can be predicted by applying a weight of 0 to the pixel at the position (x5, y5) in the reference block of the second partition. That is, the pixel P (x5, y5) may be predicted as the pixel at the position (x5, y5) in the reference block of the first partition.
  • the lower or right neighboring pixel P (x6, y6) (hereinafter referred to as a fifth region) of the first region is applied with a weight of 3 to the pixel at the position (x6, y6) in the reference block of the first partition. And, it can be predicted by applying a weight of 5 to the pixel at the position (x6, y6) in the reference block of the second partition.
  • the lower or right neighboring pixel P (x7, y7) (hereinafter referred to as a sixth region) of the fifth region applies a weight of 2 to the pixel at the position (x7, y7) in the reference block of the first partition, It can be predicted by applying a weight of 6 to the pixel at the position (x7, y7) in the reference block of the second partition.
  • the lower or right neighboring pixel P (x8, y8) (hereinafter referred to as a seventh region) of the sixth region applies a weight of 1 to the pixel at the position (x8, y8) in the reference block of the first partition, It can be predicted by applying a weight of 7 to the pixel at the position (x8, y8) in the reference block of the second partition.
  • the remaining pixels P (x9, y9) except for pixels belonging to the first region and the fifth to seventh regions in the second partition have a weight equal to zero for the pixel at the position (x9, y9) in the reference block of the first partition.
  • the current block may be divided into k regions, and different weights may be applied according to the region to which the corresponding pixel belongs.
  • k may be 3, 5, 7, 9 or more.
  • K may be determined based on an index encoded and signaled by the encoding apparatus.
  • the index may specify at least one of a weight set, a number of weights for each weight set, or a sum (w1 + w2) of weights.
  • the weight set includes a first weight set consisting of three weights ([2: 0], [1: 1], [0: 2]), and a second weight set consisting of seven weights ([ 8: 0], [7: 1], [6: 2], [4: 4], [2: 6], [1: 7], [0: 8]) or a third set of nine weight sets Weight set ([8: 0], [7: 1], [6: 2], [5: 3], [4: 4], [3: 5], [2: 6], [1: 7] , [0: 8]).
  • the first set of weights may be applied, otherwise the second or third set of weights may be applied.
  • the second set of weights may be applied, otherwise, the third set of weights may be applied.
  • k may be determined based on coding parameters such as the size, shape, split type, etc. of the current block. For example, when at least one of the width or height of the current block is smaller than the predetermined threshold size, the first embodiment may be applied, otherwise, the second embodiment may be applied.
  • the prediction pixels predSample1 of the first partition and the prediction pixels predSample2 of the second partition are obtained, respectively, and the sum of predSample1 and predSample2 is the sum of weights applied to each of predSample1 and predSample2 (that is, 8). Divide and obtain the final prediction block.
  • the present invention includes using different weights according to the size of the block.
  • the block size when the block size is smaller than the predetermined threshold size, motion prediction and compensation are performed using the mask shown in FIG. 8, and when the block size is larger than or equal to the threshold size, the block size is illustrated in FIG. 9.
  • One mask is used to perform motion prediction and compensation.
  • the size of the block may be understood as the width, height, the sum of the width and height of the block, the product of the width and height, the minimum / maximum of the width and height, the ratio of the width and height.
  • the threshold size may be 1, 2, 4, 8, 16, 32, 64, 128, 256 or more.
  • the size of the block is one embodiment, and it is within the scope of the present invention to perform prediction and compensation using different masks according to the size of various blocks as in the embodiment.
  • various embodiments of the present disclosure may be implemented by hardware, firmware, software, or a combination thereof.
  • one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), Programmable Logic Devices (PLDs), Field Programmable Gate Arrays (FPGAs), General Purpose It may be implemented by a general processor, a controller, a microcontroller, a microprocessor, and the like.
  • scope of the disclosure include software or machine-executable instructions (eg, an operating system, an application, firmware, a program, etc.) to cause an operation in accordance with various embodiments of the method to be executed on an apparatus or a computer, and such software or Instructions, and the like, including non-transitory computer-readable media that are stored and executable on a device or computer.
  • software or machine-executable instructions eg, an operating system, an application, firmware, a program, etc.
  • the present invention can be used to encode / decode a video signal.

Abstract

본 발명에 따른 비디오 부호화/복호화 방법 및 장치는, 현재 블록의 병합 후보를 결정하고, 병합 후보를 기반으로 병합 후보 리스트를 구성하며, 병합 후보 리스트로부터 현재 블록의 움직임 정보를 유도하고, 움직임 정보를 이용하여 상기 현재 블록의 인터 예측을 수행할 수 있다.

Description

병합 후보를 사용하는 비디오 코딩 방법 및 장치
본 발명은 비디오 코딩 기술에 관한 것이다. 특히, 본 발명은 비디오 코딩 기술 중 움직임 예측 및 보상에 관한 것이다.
고해상도 비디오에 대한 시장의 수요가 증가하고 있으며, 이에 따라 고해상도 영상을 효율적으로 압축할 수 있는 기술이 필요하다. 이러한 시장의 요구에 따라 ISO/IEC의 MPEG (Moving Picture Expert Group)과 ITU-T의 VCEG (Video Coding Expert Group)이 공동으로 JCT-VC (Joint Collaborative Team on Video Coding)를 결성하여, HEVC (High Efficiency Video Coding) 비디오 압축 표준을 2013년 1월에 개발을 완료했으며, 차세대 압축 표준에 대한 연구 및 개발을 활발히 진행해오고 있다.
동영상 압축은 크게 화면 내 예측 (또는 인트라 예측), 화면 간 예측(또는 인터 예측), 변환, 양자화, 엔트로피(Entropy coding) 부호화, 인루프 필터(In-loop filter)로 구성된다. 한편, 고해상도 영상에 대한 수요가 증가함과 함께, 새로운 영상 서비스로서 입체 영상 컨텐츠에 대한 수요도 함께 증가하고 있다. 고해상도 및 초고해상도의 입체 영상 콘텐츠를 효과적으로 제공하기 위한 비디오 압축 기술에 대하여 논의가 진행되고 있다.
본 발명은 효율이 향상된 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 부호화 블록을 사각형, 삼각형 또는 임의의 형태를 가진 파티션으로 분할하는 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 현재 블록의 병합 후보 리스트를 적응적으로 구성하는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 발명은 대각선 움직임 분할이 적용된 블록의 예측 방향을 제한하는 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 대각선 움직임 분할이 적용된 블록의 가중 예측 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 상기 영상 부호화 방법/장치에 의해 생성된 비트스트림을 저장하는 컴퓨터 판독 가능한 기록 매체를 제공하는 것을 목적으로 한다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치는, 현재 블록의 병합 후보를 결정하고, 상기 병합 후보를 기반으로, 병합 후보 리스트를 구성하며, 상기 병합 후보 리스트로부터 상기 현재 블록의 움직임 정보를 유도하고, 상기 움직임 정보를 이용하여 상기 현재 블록의 인터 예측을 수행할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록은 대각선 움직임 분할을 통해 2개의 파티션으로 분할될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 대각선 움직임 분할은, 상기 현재 블록에 대해서 대각선 움직임 분할이 수행되는지 여부를 나타내는 플래그에 기초하여 수행될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 플래그는, 소정의 부호화 파라미터에 기초하여 유도되고, 상기 부호화 파라미터는, 슬라이스 타입, 인터 모드의 타입, 블록 크기/형태 또는 블록 너비와 높이의 비(ratio) 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록에 속한 2개의 파티션은, 상기 구성된 병합 후보 리스트를 공유할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 병합 후보 리스트는, 공간적 병합 후보, 시간적 병합 후보 또는 조합 병합 후보 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 움직임 정보는, 상기 현재 블록의 병합 인덱스에 기초하여 유도되고, 상기 병합 인덱스는, 상기 2개의 파티션 각각에 대해서 부호화 장치로부터 시그날링될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록의 화소는, 제1 파티션의 제1 참조 블록 또는 제2 파티션의 제2 참조 블록 중 적어도 하나를 이용하여 예측될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록의 화소는, 상기 제1 참조 블록의 제1 화소 또는 제2 참조 블록의 제2 화소 중 어느 하나만 이용하여 예측되거나, 상기 제1 참조 블록의 제1 화소와 상기 제2 참조 블록의 제2 화소를 가중평균하여 예측될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 가중평균을 위한 가중치는, [7:1], [6:2], [4:4], [2:6] 또는 [1:7] 중 어느 하나일 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 가중치는, 상기 현재 블록 내 화소의 위치에 따라 선택적으로 적용될 수 있다.
본 발명에 따르면, 다양항 형태의 블록 분할을 통해 부호화/복호화 효율을 향상시킬 수 있다.
또한, 본 발명은 적응적인 머지 후보 리스트를 이용함으로써, 움직임 정보의 부호화/복호화 효율을 향상시킬 수 있다.
본 발명은 대각선 움직임 분할이 적용된 블록의 예측 방향을 제한함으로써, 메모리 밴드폭을 효율적으로 줄일 수 있다.
또한, 본 발명은 대각선 움직임 분할이 적용된 블록의 가중 예측을 통해, 분할 경계 부근의 artifact를 줄일 수 있다.
또한, 본 발명에 따르면, 본 발명에 따른 영상 부호화 방법/장치에 의해 생성된 비트스트림을 저장하는 컴퓨터 판독 가능한 기록 매체가 제공될 수 있다.
도 1은 본 발명에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 2는 본 발명에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 3은 본 발명에서 제안하는 두 종류의 대각선을 이용하여 정방형 혹은 직방형 블록을 삼각형 형태로 분할하는 방법을 도시한다.
도 4는 본 발명이 적용되는 일실시예로서, 병합 모드 기반의 인터 예측 방법을 도시한 것이다.
도 5는 현재 블록의 병합(merge) 후보 리스트와 구성의 개념도를 도시한 도면이다.
도 6은 현재 블록의 병합 후보 리스트와 구성의 개념도를 도시한 도면이다.
도 7은 대각선 움직임 분할에 따른 병합 후보 리스트를 별도로 구성하는 개념을 도시한 도면이다.
도 8은 도 3에서 도시한 대각선 움직임 분할을 위한 마스크 기반 움직임 예측 및 보상의 수행의 개념을 도시한 도면이다.
도 9는 도 8에서 도시한 제안하는 마스크 기반 블록 분할 방법의 또 다른 가중치를 적용한 일 실시예이다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치는, 현재 블록의 병합 후보를 결정하고, 상기 병합 후보를 기반으로, 병합 후보 리스트를 구성하며, 상기 병합 후보 리스트로부터 상기 현재 블록의 움직임 정보를 유도하고, 상기 움직임 정보를 이용하여 상기 현재 블록의 인터 예측을 수행할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록은 대각선 움직임 분할을 통해 2개의 파티션으로 분할될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 대각선 움직임 분할은, 상기 현재 블록에 대해서 대각선 움직임 분할이 수행되는지 여부를 나타내는 플래그에 기초하여 수행될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 플래그는, 소정의 부호화 파라미터에 기초하여 유도되고, 상기 부호화 파라미터는, 슬라이스 타입, 인터 모드의 타입, 블록 크기/형태 또는 블록 너비와 높이의 비(ratio) 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록에 속한 2개의 파티션은, 상기 구성된 병합 후보 리스트를 공유할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 병합 후보 리스트는, 공간적 병합 후보, 시간적 병합 후보 또는 조합 병합 후보 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 움직임 정보는, 상기 현재 블록의 병합 인덱스에 기초하여 유도되고, 상기 병합 인덱스는, 상기 2개의 파티션 각각에 대해서 부호화 장치로부터 시그날링될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록의 화소는, 제1 파티션의 제1 참조 블록 또는 제2 파티션의 제2 참조 블록 중 적어도 하나를 이용하여 예측될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 현재 블록의 화소는, 상기 제1 참조 블록의 제1 화소 또는 제2 참조 블록의 제2 화소 중 어느 하나만 이용하여 예측되거나, 상기 제1 참조 블록의 제1 화소와 상기 제2 참조 블록의 제2 화소를 가중평균하여 예측될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 가중평균을 위한 가중치는, [7:1], [6:2], [4:4], [2:6] 또는 [1:7] 중 어느 하나일 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 가중치는, 상기 현재 블록 내 화소의 위치에 따라 선택적으로 적용될 수 있다.
본 명세서에 첨부된 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
본 명세서 전체에서, 어떤 부분이 다른 부분과 '연결'되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 전기적으로 연결되어 있는 경우도 포함한다.
또한, 본 명세서 전체에서 어떤 부분이 어떤 구성요소를 '포함'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.
또한, 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
또한, 본 명세서에서 설명되는 장치 및 방법에 관한 실시예에 있어서, 장치의 구성 일부 또는 방법의 단계 일부는 생략될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부의 순서가 변경될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부에 다른 구성 또는 다른 단계가 삽입될 수 있다.
또한, 본 발명의 제1 실시예의 일부 구성 또는 일부 단계는 본 발명의 제2 실시예에 부가되거나, 제2 실시예의 일부 구성 또는 일부 단계를 대체할 수 있다.
덧붙여, 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 기술되고, 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.
먼저, 본 출원에서 사용되는 용어를 간략히 설명하면 다음과 같다.
이하에서 후술할 복호화 장치(Video Decoding Apparatus)는 민간 보안 카메라, 민간 보안 시스템, 군용 보안 카메라, 군용 보안 시스템, 개인용 컴퓨터(PC, Personal Computer), 노트북 컴퓨터, 휴대형 멀티미디어 플레이어(PMP, Portable MultimediaPlayer), 무선 통신 단말기(Wireless Communication Terminal), 스마트 폰(Smart Phone), TV 응용 서버와 서비스 서버 등 서버 단말기에 포함된 장치일 수 있으며, 각종 기기 등과 같은 사용자 단말기, 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신 장치, 영상을 복호화하거나 복호화를 위해 화면 간 또는 화면 내 예측하기 위한 각종 프로그램과 데이터를 저장하기 위한 메모리, 프로그램을 실행하여 연산 및 제어하기 위한 마이크로프로세서 등을 구비하는 다양한 장치를 의미할 수 있다.
또한, 부호화기에 의해 비트스트림(bitstream)으로 부호화된 영상은 실시간 또는 비실시간으로 인터넷, 근거리 무선 통신망, 무선랜망, 와이브로망, 이동통신망 등의 유무선 통신망 등을 통하거나 케이블, 범용 직렬 버스(USB, Universal Serial Bus)등과 같은 다양한 통신 인터페이스를 통해 영상 복호화 장치로 전송되어 복호화되어 영상으로 복원되고 재생될 수 있다. 또는 부호화기에 의해 생성된 비트스트림은 메모리에 저장될 수 있다. 상기 메모리는 휘발성 메모리와 비휘발성 메모리를 모두 포함할 수 있다. 본 명세서에서 메모리는 비트스트림을 저장한 기록 매체로 표현될 수 있다.
통상적으로 동영상은 일련의 픽쳐(Picture)들로 구성될 수 있으며, 각 픽쳐들은 블록(Block)과 같은 코딩 유닛(coding unit)으로 분할될 수 있다. 또한, 이하에 기재된 픽쳐라는 용어는 영상(Image), 프레임(Frame) 등과 같은 동등한 의미를 갖는 다른 용어로 대치되어 사용될 수 있음을 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있을 것이다. 그리고 코딩 유닛이라는 용어는 단위 블록, 블록 등과 같은 동등한 의미를 갖는 다른 용어로 대치되어 사용될 수 있음을 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있을 것이다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 종래 영상 부호화 장치(100)는 픽쳐 분할부(110), 예측부(120, 125), 변환부(130), 양자화부(135), 재정렬부(160), 엔트로피 부호화부(165), 역양자화부(140), 역변환부(145), 필터부(150) 및 메모리(155)를 포함할 수 있다.
픽쳐 분할부(110)는 입력된 픽쳐를 적어도 하나의 처리 단위로 분할할 수 있다. 이때, 처리 단위는 예측 단위(Prediction Unit: PU)일 수도 있고, 변환 단위(Transform Unit: TU)일 수도 있으며, 부호화 단위(Coding Unit: CU)일 수도 있다. 이하, 본 발명의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다.
예측 단위는 하나의 부호화 단위 내에서 동일한 크기의 적어도 하나의 정사각형 또는 직사각형 등의 형태를 가지고 분할된 것일 수도 있고, 하나의 부호화 단위 내에서 분할된 예측 단위 중 어느 하나의 예측 단위가 다른 하나의 예측 단위와 상이한 형태 및/또는 크기를 가지도록 분할된 것일 수도 있다. 부호화 단위를 기초로 인트라 예측을 수행하는 예측 단위를 생성시 최소 부호화 단위가 아닌 경우, 복수의 예측 단위 NxN 으로 분할하지 않고 인트라 예측을 수행할 수 있다.
예측부(120, 125)는 인터 예측 또는 화면 간 예측을 수행하는 인터 예측부(120)와 인트라 예측 또는 화면 내 예측을 수행하는 인트라 예측부(125)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 모션 벡터, 참조 픽쳐 등)를 결정할 수 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(130)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(165)에서 부호화되어 복호화기에 전달될 수 있다.
인터 예측부(120)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 단위를 예측할 수도 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 단위를 예측할 수도 있다. 인터 예측부(120)는 참조 픽쳐 보간부, 모션 예측부, 움직임 보상부를 포함할 수 있다.
참조 픽쳐 보간부에서는 메모리(155)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
모션 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 모션 예측을 수행할 수 있다. 모션 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 모션 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 모션 벡터값을 가질 수 있다. 모션 예측부에서는 모션 예측 방법을 다르게 하여 현재 예측 단위를 예측할 수 있다. 모션 예측 방법으로 스킵 모드(Skip Mode), 병합 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피(Intra Block Copy) 모드, 어파인 모드(Affine mode) 등 다양한 방법이 사용될 수 있다. 도 3 내지 도 9를 참조하여, 병합 모드에 기반한 인터 예측에 대해서 자세히 살펴 보도록 한다.
인트라 예측부(125)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 단위를 생성할 수 있다. 현재 예측 단위의 주변 블록이 인터 예측을 수행한 블록이어서, 참조 픽셀이 인터 예측을 수행한 픽셀일 경우, 인터 예측을 수행한 블록에 포함되는 참조 픽셀을 주변의 인트라 예측을 수행한 블록의 참조 픽셀 정보로 대체하여 사용할 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.
또한, 예측부(120, 125)에서 생성된 예측 단위를 기초로 예측을 수행한 예측 단위와 예측 단위의 원본 블록과 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력될 수 있다.
변환부(130)에서는 원본 블록과 예측부(120, 125)를 통해 생성된 예측 단위의 잔차값(residual)정보를 포함한 잔차 블록을 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지, DST를 적용할지 또는 KLT를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 단위의 인트라 예측 모드 정보를 기초로 결정할 수 있다.
양자화부(135)는 변환부(130)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(135)에서 산출된 값은 역양자화부(140)와 재정렬부(160)에 제공될 수 있다.
재정렬부(160)는 양자화된 잔차값에 대해 계수값의 재정렬을 수행할 수 있다.
재정렬부(160)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(160)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔 대신 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160)에 의해 산출된 값들을 기초로 엔트로피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다. 관련하여, 엔트로피 부호화부(165)는 재정렬부(160) 및 예측부(120, 125)로부터 부호화 단위의 잔차값 계수 정보를 부호화 할 수 있다. 또한, 본 발명에 따라 움직임 정보를 디코더 측면에서 유도하여 사용함을 지시하는 정보 및 움직임 정보 유도에 사용된 기법에 대한 정보를 시그널링(signaling)하여 전송하는 것이 가능하다.
역양자화부(140) 및 역변환부(145)에서는 양자화부(135)에서 양자화된 값들을 역양자화하고 변환부(130)에서 변환된 값들을 역변환한다. 역양자화부(140) 및 역변환부(145)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 인트라 예측부를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(150)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다. 디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다. ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다.
메모리(155)는 필터부(150)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.
도 2는 본 발명에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화기(200)는 엔트로피 복호화부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230, 235), 필터부(240), 메모리(245)가 포함될 수 있다.
영상 부호화기에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 영상 부호화기와 반대의 절차로 복호화될 수 있다.
엔트로피 복호화부(210)는 영상 부호화기의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다.
엔트로피 복호화부(210)에서는 부호화기에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.
재정렬부(215)는 엔트로피 복호화부(210)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다.
역양자화부(220)는 부호화기에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 영상 부호화기에서 수행한 양자화 결과에 대해 변환부에서 수행한 변환 즉, DCT, DST, 및 KLT에 대해 역변환 즉, 역 DCT, 역 DST 및 역 KLT를 수행할 수 있다. 역변환은 영상 부호화기에서 결정된 전송 단위를 기초로 수행될 수 있다. 영상 복호화기의 역변환부(225)에서는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 변환 기법(예를 들어, DCT, DST, KLT)이 선택적으로 수행될 수 있다.
예측부(230, 235)는 엔트로피 복호화부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(245)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
전술한 바와 같이 영상 부호화기에서의 동작과 동일하게 인트라 예측 또는 화면 내 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 단위에 대한 인트라 예측을 수행하지만, 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 픽셀을 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수도 있다.
예측부(230, 235)는 예측 단위 판별부, 인터 예측부 및 인트라 예측부를 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(210)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 모션 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 반면, 만약 부호화기(100)에서 상기 인터 예측을 위한 모션 예측 관련 정보를 전송하지 않고, 대신 움직임 정보를 디코더 측면에서 유도하여 사용함을 지시하는 정보 및 움직임 정보 유도에 사용된 기법에 대한 정보를 전송하는 경우에는, 상기 예측 단위 판별부는 부호화기(100)로부터 전송된 정보를 기초로 하여, 인터 예측부(23)의 예측 수행을 판별하게 된다.
인터 예측부(230)는 영상 부호화기에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 인터 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 모션 예측 방법이 스킵 모드(Skip Mode), 병합 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피 모드(Intra block copy mode), 어파인 모드(Affine mode) 중 어떠한 방법인지 여부를 판단할 수 있다. 도 3 내지 도 9를 참조하여, 병합 모드에 기반한 인터 예측에 대해서 자세히 살펴 보도록 한다.
인트라 예측부(235)는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 단위가 인트라 예측을 수행한 예측 단위인 경우, 영상 부호화기에서 제공된 예측 단위의 인트라 예측 모드 정보를 기초로 인트라 예측을 수행할 수 있다. 인트라 예측부(235)에는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 부분으로써 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 결정하여 적용할 수 있다. 영상 부호화기에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
복원된 블록 또는 픽쳐는 필터부(240)로 제공될 수 있다. 필터부(240)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화기로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화기의 디블록킹 필터에서는 영상 부호화기에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화기에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다. ALF는 부호화기로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라메터 셋에 포함되어 제공될 수 있다.
메모리(245)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력부로 제공할 수 있다.
도 3은 본 발명에서 제안하는 두 종류의 대각선을 이용하여 정방형 혹은 직방형 블록을 삼각형 형태로 분할하는 방법을 도시한다.
도 3의 (a)는 블록의 좌측 상단과 우측 하단을 잇는 대각선을 이용하여 정방형 혹은 직방형 블록을 두개의 삼각형 블록으로 분할하는 예시를 도시한다.
도 3의 (b)는 블록의 우측 상단과 좌측 하단을 잇는 대각선을 이용하여 정방형 혹은 직방형 블록을 두개의 삼각형 블록으로 분할하는 예시를 도시한다.
도 3의 (a)와 (b)에서 분할된 두개의 삼각형 블록들은 위치에 따라 제 1 파티션, 제 2 파티션으로 지칭 될 수 있다.
도 3의 (a)는 블록의 좌측 상단과 우측 하단을 잇는 대각선은 블록의 좌측 상단 위치를 원점으로하여 수학식 1과 같이 표현할 수 있다.
[수학식 1]
f(x,y) = w*y - h*x
수학식 1에서 w는 block의 width, h는 block의 height를 의미한다.
도 3의 (b)는 블록의 우측 상단과 좌측 하단을 잇는 대각선은 블록의 좌측 상단 위치를 원점으로하여 수학식 2와 같이 표현할 수 있다.
[수학식 2]
f(x,y) = w*(h-y) - h*x
수학식 2에서 w는 block의 width, h는 block의 height를 의미한다.
전술한 대각선 움직임 분할을 위해, 하나의 부호화 유닛(CU: coding unit)에 대하여 대각선 움직임 분할이 수행되는지를 나태는 플래그가 이용될 수 있다. 예를 들어, 상기 플래그가 제1 값인 경우, 대각선 움직임 분할이 수행되고, 그렇지 않은 경우, 대각선 움직임 분할이 수행되지 않을 수 있다.
상기 플래그는 부호화 장치에서 부호화되어 시그날링되거나, 소정의 부호화 파라미터에 기반하여 복호화 장치에서 유도될 수 있다. 여기서, 부호화 파라미터는, 슬라이스 타입, 인터 모드의 타입, 블록 크기/형태, 블록의 너비와 높이의 비(ratio) 등을 포함할 수 있다.
예를 들어, 현재 블록이 속한 슬라이스 타입이 B 슬라이스인 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 또는, 현재 블록이 속한 슬라이스 타입이 I 슬라이스가 아닌 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 또는, 현재 블록의 인터 모드가 병합 모드, 스킵 모드, AMVP 모드 또는 어파인 모드 중 적어도 하나인 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 또는, 현재 블록의 너비 또는 높이 중 적어도 하나가 소정의 문턱크기보다 크거나 같은 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 여기서, 문턱크기는, 4, 8, 16 또는 그 이상일 수 있다. 또는, 현재 블록에 속한 샘플의 개수(W*H)가 소정의 문턱개수보다 크거나 같은 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 여기서, 문턱개수는, 32, 64 또는 그 이상일 수 있다. 또는, 현재 블록의 너비와 높이의 비가 소정의 문턱값보다 작은 경우에 한하여 상기 플래그가 제1 값으로 설정될 수 있다. 여기서, 문턱값은, 4, 8 또는 그 이상일 수 있다.
상기 플래그가 대각선 움직임 분할이 수행됨을 나타내는 경우, 대각선 움직임 분할의 방향 정보가 시그널링될 수 있다. 상기 방향 정보가 제1 값인 경우, 현재 블록은 좌상단과 우하단을 잇는 대각선(이하, 제1 대각선이라 함)을 기반으로 분할되고, 그렇지 않은 경우, 현재 블록은 우상단과 좌하단을 잇는 대각선(이하, 제2 대각선이라 함)을 기반으로 분할될 수 있다.
상기 대각선 움직임 분할을 위한 정보는, 현재 블록의 모드 정보에 따라 시그널링되지 않을 수도 있다. 이때, 상기 현재 블록의 모드 정보가 인트라 예측 모드인 경우에는 시그널링되지 않는 것을 포함한다.
또한, 상기 대각선 움직임 분할을 위한 정보는 현재 블록의 크기 정보에 따라 시그널링되지 않을 수 있다. 상기 현재 블록의 크기 정보는 너비 또는 높이의 크기, width와 height의 비율, 너비와 높이의 곱 등으로 정의될 수 있다. 예를 들어, 현재 블록의 너비 또는 높이가 8보다 작은 경우, 현재 블록은 대각선 움직임 분할을 사용하지 않을 수 있다.
또는, 추가적인 실시예로, 현재 블록의 너비 또는 높이가 8보다 작거나 현재 블록의 너비와 높이의 비율이 특정한 비율 이상인 경우에는 대각선 움직임 분할을 사용하지 않을 수 있다. 상기 특정한 비율이라 함은, 너비와 높이의 비율이 1:3 혹은 3:1 보다 큰 경우(e.g., 1:4 또는 4:1, 1:8 또는 8:1), 현재 블록은 대각선 움직임 분할을 사용하지 않을 수 있다. 이 경우에는 대각선 움직임 분할 정보가 시그널링되지 않을 수 있다.
도 4는 본 발명이 적용되는 일실시예로서, 병합 모드 기반의 인터 예측 방법을 도시한 것이다.
도 4를 참조하면, 현재 블록의 병합 후보 리스트를 구성할 수 있다(S400).
현재 블록은 정방형 또는 비정방형의 형태를 가질 수 있다. 현재 블록은 전술한 대각선 움직임 분할을 통해 2개의 파티션으로 분할될 수 있다. 이때, 2개의 파티션 중 적어도 하나는 삼각 파티션(triangular partition)일 수 있다.
현재 블록의 병합 후보를 결정하고, 병합 후보를 기반으로 병합 후보 리스트(merge candidate list)를 구성할 수 있다. 현재 블록의 2개의 파티션은 하나의 병합 후보 리스트를 공유할 수도 있고, 각 파티션 별로 상이한 병합 후보 리스트가 구성될 수도 있다. 여기서, 병합 후보 리스트는, 현재 블록의 공간적 병합 후보 또는 시간적 병합 후보 중 적어도 하나를 포함할 수 있다.
공간적 병합 후보의 움직임 정보는, 현재 블록의 공간적 이웃 블록의 움직임 정보로부터 유도될 수 있다. 여기서, 공간적 이웃 블록은, 현재 블록과 동일한 픽쳐에 속하는 블록으로서, 현재 블록에 인접한 블록을 의미할 수 있다. 공간적 이웃 블록은, 현재 블록의 좌측, 상단, 우상단, 좌하단 또는 좌상단 중 적어도 하나에 인접한 블록을 포함할 수 있다. 좌상단 이웃 블록은, 좌측, 상단, 우상단 및 좌하단에 인접한 블록 중 적어도 하나가 가용하지 않은 경우에 한하여 이용될 수 있다.
시간적 병합 후보의 움직임 정보는, 현재 블록의 시간적 이웃 블록의 움직임 정보로부터 유도될 수 있다. 시간적 이웃 블록은, 현재 블록과 다른 픽쳐에 속하는 블록으로서, 현재 블록과 동일 위치의 블록으로 정의될 수 있다. 여기서, 동일 위치의 블록은, 현재 블록의 우하단 코너에 인접한 블록(BR), 현재 블록의 중앙 샘플의 위치를 포함한 블록(CTR) 또는 현재 블록의 좌상단 샘플의 위치를 포함한 블록(TL) 중 적어도 하나를 의미할 수 있다.
또는, 동일 위치의 블록은, 현재 블록의 좌상단 샘플의 위치에서 소정의 변이 벡터(disparity vector)만큼 쉬프트된 위치를 포함한 블록을 의미할 수도 있다. 여기서, 변이 벡터는, 전술한 공간적 이웃 블록의 움직임 벡터 중 어느 하나에 기초하여 결정될 수 있다. 예를 들어, 변이 벡터는, 좌측 이웃 블록의 움직임 벡터로 설정될 수도 있고, 상단 이웃 블록의 움직임 벡터로 설정될 수도 있다. 또는, 변이 벡터는, 전술한 공간적 이웃 블록의 움직임 벡터 중 적어도 2개의 조합에 기초하여 결정될 수 있다. 상기 조합은, 최대값, 최소값, 중간값, 가중 평균값 등의 연산 과정을 포함할 수 있다. 예를 들어, 변이 벡터는, 좌측 이웃 블록의 움직임 벡터와 좌하단 이웃 블록의 움직임 벡터 간의 중간값 또는 평균값으로 설정될 수 있다.
시간적 병합 후보의 움직임 벡터와 참조 픽쳐 인덱스는, 전술한 시간적 이웃 블록의 움직임 벡터와 참조 픽쳐 인덱스로 각각 유도될 수 있다. 또는, 시간적 병합 후보의 움직임 벡터는 시간적 이웃 블록의 움직임 벡터로 유도되고, 시간적 병합 후보의 참조 픽쳐 인덱스는 시간적 이웃 블록과 관계없이 복호화 장치에 기-약속된 디폴트 값(e.g., 0)으로 설정될 수 있다.
병합 후보 리스트는, 조합 병합 후보(combined merge candidate) 또는 제로 움직임 벡터를 가진 병합 후보 중 적어도 하나를 더 포함할 수 있다.
조합 병합 후보는, 기-생성된 병합 후보 리스트에 속한 n개의 병합 후보를 조합하여 유도될 수 있다. 여기서, n은 2, 3, 4 또는 그 이상의 정수일 수 있다. 조합 대상인 병합 후보의 개수(n)는 부호화/복호화 장치에 기-약속된 고정된 값일 수도 있고, 부호화 장치에서 부호화되어 시그날링될 수도 있다. 상기 시그날링은, 시퀀스, 픽쳐, 슬라이스, 타일, 서브-타일(브릭, brick) 또는 소정의 블록 중 적어도 하나의 단위에서 수행될 수 있다. 조합 대상인 병합 후보의 개수(n)는, 잔여 병합 후보의 개수에 기반하여 가변적으로 결정될 수도 있다. 여기서, 잔여 병합 후보의 개수는, 병합 후보 리스트에 포함 가능한 병합 후보의 최대 개수와 병합 후보 리스트에 속한 병합 후보의 현재 개수 간의 차이를 의미할 수 있다. 상기 최대 개수는 부호화/복호화 장치에 기-약속된 개수이거나, 부호화 장치에서 부호화되어 시그날링될 수 있다. 상기 현재 개수는, 조합 병합 후보를 추가하기 전까지 구성된 병합 후보의 개수를 의미할 수 있다. 예를 들어, 잔여 병합 후보의 개수가 1인 경우, 2개의 병합 후보가 이용되고, 잔여 병합 후보의 개수가 1보다 큰 경우, 3개 또는 그 이상의 병합 후보가 이용될 수 있다.
상기 n개의 병합 후보의 위치는, 병합 후보 리스트에서 기-결정된 위치일 수 있다. 예를 들어, 병합 후보 리스트에 속한 병합 후보 별로 인덱스(0 내지 (k-1))가 할당될 수 있다. 여기서, k는 병합 후보 리스트에 속한 병합 후보의 총 개수를 의미할 수 있다. 이때, n개의 병합 후보의 위치는, 병합 후보 리스트에서 인덱스 0 내지 인덱스 (n-1)에 대응될 수 있다. 예를 들어, n=2인 경우, 조합 대상인 병합 후보는 병합 후보 리스트에서 첫번째 병합 후보(인덱스=0)와 두번째 병합 후보(인덱스=1)만을 이용하여 유도될 수 있다.
또는, 상기 n개의 병합 후보는, 병합 후보 리스트에 속한 각 병합 후보의 예측 방향을 고려하여 결정될 수 있다. 예를 들어, 병합 후보 리스트에 속한 병합 후보 중에서, 양방향 예측인 병합 후보만을 선택적으로 이용하거나, 단방향 예측인 병합 후보만을 선택적으로 이용할 수 있다.
조합 병합 후보는, 공간적 병합 후보와 시간적 병합 후보를 모두 이용하여 유도될 수도 있고, 공간적 병합 후보 또는 시간적 병합 후보 중 어느 하나만을 이용하여 유도될 수도 있다.
상기 조합 병합 후보는, 병합 후보 리스트에서 공간적/시간적 병합 후보 이후에 추가될 수 있다. 즉, 조합 병합 후보의 인덱스는 공간적/시간적 병합 후보의 인덱스보다 클 수 있다. 또는, 상기 조합 병합 후보는, 병합 후보 리스트에서 공간적 병합 후보와 시간적 병합 후보 사이에 추가될 수도 있다. 즉, 조합 병합 후보의 인덱스는 공간적 병합 후보의 인덱스보다 크고, 시간적 병합 후보의 인덱스보다 작을 수 있다. 또는, 조합 병합 후보의 위치는, 조합 병합 후보의 예측 방향을 고려하여 가변적으로 결정될 수도 있다. 조합 병합 후보의 예측 방향이 양방향 예측인지 여부에 따라, 병합 후보 리스트 내에서 조합 병합 후보의 위치가 재배열될 수 있다. 예를 들어, 조합 병합 후보가 양방향 예측인 경우, 공간적 또는 시간적 병합 후보보다 작은 인덱스가 할당될 수 있고, 그렇지 않은 경우, 공간적 또는 시간적 병합 후보보다 큰 인덱스가 할당될 수 있다.
이하, 설명의 편의를 위해 2개의 병합 후보를 기반으로 조합 병합 후보를 유도하는 방법을 살펴 보기로 한다.
조합 병합 후보의 움직임 정보는, 제1 병합 후보와 제2 병합 후보의 움직임 정보를 가중 평균하여 유도될 수 있다. 예를 들어, 조합 병합 후보의 LX 방향의 움직임 정보는, 제1 병합 후보의 LX 방향의 움직임 정보와 제2 병합 후보의 LX 방향의 움직임 정보를 가중 평균하여 유도될 수 있다(X=0 또는 1). 다만, 조합 병합 후보의 LX 방향의 참조 픽쳐 인덱스는 제1 병합 후보 또는 제2 병합 후보 중 어느 하나의 LX 방향의 참조 픽쳐 인덱스로 유도될 수 있다. 예를 들어, 조합 병합 후보의 LX 방향의 참조 픽쳐 인덱스는 제1 병합 후보의 LX 방향의 참조 픽쳐 인덱스만을 이용하여 유도될 수 있다. 여기서, 제1 병합 후보는 제2 병합 후보보다 작은 인덱스를 가진 것일 수 있다.
상기 가중 평균의 가중치는 [1:1], [1:2], [1:3] 또는 [2:3]이나, 이에 한정되지 아니한다. 상기 가중치는, 부호화/복호화 장치에 기-정의된 것일 수도 있고, 복호화 장치에서 유도될 수도 있다. 이때, 가중치는, 현재 픽쳐와 병합 후보의 참조 픽쳐 간의 거리 또는 병합 후보의 예측 방향 중 적어도 하나를 고려하여 유도될 수 있다.
또는, 조합 병합 후보의 L0 방향의 움직임 정보는 제1 병합 후보의 L0 방향의 움직임 정보로부터, L1 방향의 움직임 정보는 제2 병합 후보의 L1 방향의 움직임 정보로부터 각각 유도될 수 있다. 역으로, 조합 병합 후보의 L0 방향의 움직임 정보는 제2 병합 후보의 L0 방향의 움직임 정보로부터, L1 방향의 움직임 정보는 제1 병합 후보의 L1 방향의 움직임 정보로부터 각각 유도될 수도 있다.
본 실시예에서, 전술한 움직임 정보는, 예측 방향 플래그, 참조 픽쳐 인덱스 또는 움직임 벡터 중 적어도 하나를 포함하며, 후술하는 실시예에서도 동일하게 해석될 수 있다.
전술한 병합 후보를 기반으로 병합 후보 리스트를 구성할 수 있으며, 이는 도 5 내지 도 7을 참조하여 자세히 살펴 보도록 한다.
도 4를 참조하면, 병합 후보 리스트로부터 현재 블록의 움직임 정보가 유도될 수 있다(S410).
구체적으로, 현재 블록의 병합 인덱스(merge index)가 시그날링될 수 있다. 병합 인덱스는, 병합 후보 리스트에 속한 복수의 병합 후보 중 어느 하나를 특정하기 위해 부호화된 정보일 수 있다. 상기 병합 인덱스는, 대각선 움직임 분할 기반의 움직임 보상이 수행되는지 여부를 나타내는 플래그에 기초하여 시그날링될 수 있다. 예를 들어, 상기 플래그가 대각선 움직임 분할 기반의 움직임 보상이 수행됨을 나타내는 경우(즉, 플래그가 제1 값인 경우), 상기 병합 인덱스가 시그날링되고, 그렇지 않은 경우, 상기 병합 인덱스는 시그날링되지 않을 수 있다. 상기 플래그는, 도 3에서 살펴본 바와 같으며, 여기서 자세한 설명은 생략하기로 한다.
상기 병합 인덱스는 , 현재 블록의 제1 파티션과 제2 파티션 각각에 대해서 시그날링될 수 있다(실시예 1). 시그날링된 제1 파티션의 병합 인덱스(mergeIdx1)와 동일한 인덱스를 가진 병합 후보의 움직임 정보를 이용하여 제1 파티션의 움직임 정보가 유도될 수 있다. 시그날링된 제2 파티션의 병합 인덱스(mergeIdx2)가 mergeIdx1보다 작은 경우, mergeIdx2와 동일한 인덱스를 가진 병합 후보의 움직임 정보를 이용하여 제2 파티션의 움직임 정보가 유도될 수 있다. 반면, mergeIdx2가 mergeIdx1보다 크거나 같은 경우, (mergeIdx2+1)과 동일한 인덱스를 가진 병합 후보의 움직임 정보를 이용하여 제2 파티션의 움직임 정보가 유도될 수 있다.
또는, 현재 블록에 대해서 하나의 병합 인덱스(mergeIdx)가 시그날링될 수도 있다(실시예 2). 즉, 현재 블록의 속한 제1 파티션과 제2 파티션은 시그날링된 mergeIdx를 공유할 수 있다. mergeIdx에 의해 특정된 병합 후보의 움직임 정보에 기초하여, 제1 및 제2 파티션의 움직임 정보가 유도될 수 있다.
예를 들어, mergeIdx에 의해 특정된 병합 후보가 양방향 예측인 경우, 해당 병합 후보는 L0 방향의 움직임 정보와 L1 방향의 움직임 정보를 가질 수 있다. 이 경우, 제1 파티션의 움직임 정보는, L0 방향의 움직임 정보와 L1 방향의 움직임 정보 중 어느 하나로 유도되고, 제2 파티션의 움직임 정보는 다른 하나로 유도될 수 있다. 반면, mergeIdx에 의해 특정된 병합 후보가 양방향 예측이 아닌 경우, 제1 파티션의 움직임 정보는, mergeIdx에 의해 특정된 병합 후보의 움직임 정보로 유도되고, 제2 파티션의 움직임 정보는, (mergeIdx+k)에 의해 특정된 병합 후보의 움직임 정보로 유도될 수 있다. 여기서, k는 1, 2, 3, 또는 그 이상의 절대값을 가진 정수일 수 있다.
또는, 본 실시예는, 도 7과 같이, 제1 및 제2 파티션의 병합 후보를 하나의 셋(set)으로 구성하여 병합 후보 리스트를 구성하는 경우에 적용될 수도 있다.
제1 및 제2 파티션의 움직임 정보는, 병합 후보 리스트 내 기-약속된 병합 후보의 움직임 정보에 기초하여 유도될 수 있다(실시예 3). 이 경우, 병합 인덱스의 시그날링이 생략될 수 있다. 기-약속된 병합 후보는, 인덱스가 0인 병합 후보일 수 있다. 제1 및 제2 파티션의 움직임 정보는, 인덱스가 0인 병합 후보가 양방향 예측인지 여부를 고려하여 유도될 수 있으며, 이는 전술한 실시예 2에서 살펴본 바와 같다. 또는, 기-약속된 병합 후보는, 양방향 예측인 병합 후보 중 가장 작은 인덱스를 가진 병합 후보일 수 있다. 양방향 예측인 병합 후보는, 공간적/시간적 병합 후보 또는 조합 병합 후보 중 적어도 하나를 포함할 수 있다. 제1 및 제2 파티션의 움직임 정보는, 양방향 예측인 병합 후보의 움직임 정보에 기초하여 유도되며, 이 역시 전술한 실시예 2에서 살펴본 바와 같다.
전술한 실시예 1 내지 3 중 어느 하나에 기초하여 파티션 별 움직임 정보가 유도될 수도 있고, 실시예 1 내지 3 중 적어도 2개의 조합에 기초하여 파티션 별 움직임 정보가 유도될 수도 있다. 예를 들어, 제1 파티션의 움직임 정보는 실시예 1에 기초하여 유도되고, 제2 파티션의 움직임 정보는 실시예 3에 기초하여 유도될 수 있다.
대각선 움직임 분할의 경우, 메모리 대역폭을 감소시키기 위하여 각 파티션이 단방향 예측만을 수행하도록 제한될 수 있으며, 이하 제한 방법에 대해서 자세히 살펴 보도록 한다.
대각 움직임 분할된 파티션의 병합 인덱스를 고려하여, 해당 파티션이 단방향 예측만을 수행하도록 제한할 수 있다(실시예 1).
예를 들어, 제1 파티션의 병합 인덱스(mergeIdx1)가 0 또는 짝수(e.g., 2, 4, 6)인 경우, 제1 파티션의 움직임 정보는, mergeIdx1에 대응하는 병합 후보의 L0 방향의 움직임 정보를 이용하여 유도될 수 있다. 다만, mergeIdx1에 대응하는 병합 후보가 L0 방향의 움직임 정보를 가지고 있지 않을 수 있다. 이 경우, 제1 파티션의 움직임 정보는 해당 병합 후보의 L1 방향의 움직임 정보를 이용하여 유도될 수 있다.
반면, 제1 파티션의 병합 인덱스(mergeIdx1)가 홀수(e.g., 1, 3, 5)인 경우, 제1 파티션의 움직임 정보는, mergeIdx1에 대응하는 병합 후보의 L1 방향의 움직임 정보를 이용하여 유도될 수 있다. 다만, mergeIdx1에 대응하는 병합 후보가 L1 방향의 움직임 정보를 가지고 있지 않을 수 있다. 이 경우, 제1 파티션의 움직임 정보는 해당 병합 후보의 L0 방향의 움직임 정보를 이용하여 유도될 수 있다.
상기 병합 인덱스(mergeIdx1)는 부호화 장치에서 부호화되어 시그날링된 것일 수도 있고, 시그날링된 병합 인덱스에 기반하여 유도되거나, 복호화 장치에 기-약속된 것일 수도 있다. 제2 파티션의 움직임 정보는, 전술한 제1 파티션과 동일한 방법으로 유도될 수 있으며, 자세한 설명은 생략하기로 한다.
역으로, 제1 파티션의 병합 인덱스(mergeIdx1)가 0 또는 짝수(e.g., 2, 4, 6)인 경우, 제1 파티션의 움직임 정보는 mergeIdx1에 대응하는 병합 후보의 L1 방향의 움직임 정보를 이용하여 유도되고, 그렇지 않은 경우, 제1 파티션의 움직임 정보는 mergeIdx1에 대응하는 병합 후보의 L0 방향의 움직임 정보를 이용하여 유도될 수도 있다.
또는, 대각선 움직임 분할된 파티션의 위치에 따라, 해당 파티션이 단방향 예측만을 수행하도록 제한할 수 있다(실시예 2).
예를 들어, 현재 블록의 제1 파티션은 병합 인덱스(mergeIdx1)에 의해 특정된 병합 후보의 L0 방향의 움직임 정보만을 참조하고, 제2 파티션은 병합 인덱스(mergeIdx2)에 의해 특정된 병합 후보의 L1 방향의 움직임 정보만을 참조할 수 있다. 다만, mergeIdx1에 의해 특정된 병합 후보가 L0 방향의 움직임 정보를 가지고 있지 않은 경우(즉, L1 예측인 경우), 해당 병합 후보의 L1 방향의 움직임 정보를 참조할 수 있다. 마찬가지로, mergeIdx2에 의해 특정된 병합 후보가 L1 방향의 움직임 정보를 가지고 있지 않은 경우(즉, L0 예측인 경우), 해당 병합 후보의 L0 방향의 움직임 정보를 참조할 수 있다. 여기서, 제1 파티션은 현재 블록을 분할하는 대각선의 상단 파티션을, 제2 파티션은 하단 파티션을 각각 의미할 수 있다.
전술한 실시예 1 또는 2 중 어느 하나에 기초하여, 단방향 예측이 강제될 수 있다. 또는, 전술한 실시예 1과 2의 조합에 기초하여 단방향 예측이 강제될 수도 있다.
도 4를 참조하면, 유도된 움직임 정보를 이용하여 현재 블록의 인터 예측을 수행할 수 있다(S420).
현재 블록의 화소는, 제1 파티션의 움직임 벡터에 의해 특정된 제1 참조 블록(PP0) 또는 제2 파티션의 움직임 벡터에 의해 특정된 제2 참조 블록(PP1) 중 적어도 하나를 이용하여 예측될 수 있다. 현재 블록 내 화소의 위치에 따라, 상기 화소는, 제1 참조 블록의 제1 화소 또는 제2 참조 블록의 제2 화소 중 어느 하나만 이용하여 예측될 수 있고, 또는 제1 참조 블록의 제1 화소와 제2 참조 블록의 제2 화소를 가중평균하여 예측될 수도 있다, 여기서, 제1 화소와 제2 화소는 상기 예측되는 현재 블록의 화소와 동일한 위치일 수 있다.
예를 들어, 본 발명에 따른 현재 블록의 예측 블록(PCUR)은 다음 수학식 3과 같이 획득할 수 있다.
[수학식 3]
PCUR(x,y) = (PP0(x,y) x MASKP0(x,y) + PP1(x,y) x MASKP1(x,y) + offset) >> shift
상기 PP0와 PP1은 제1 및 제2 파티션의 참조 블록을 각각 의미하고, MASKP0(x,y)와 MASKP1(x,y)는 (x,y) 좌표에서의 가중치를 나타내며, MASKP0(x,y)와 MASKP1(x,y)의 합은 2shift와 동일하여야 한다. offset은 0이거나, 2(shift-1)일 수 있다.
한편, 대각선 움직임 분할의 경우, 대각선 상에 위치한 화소 P(x1,y1)는, 제1 파티션 내 (x1,y1) 위치의 화소와 제2 파티션 내 (x1,y1) 위치의 화소를 가중평균하여 예측될 수 있다. 마찬가지로, 상기 화소 P(x1,y1)의 주변 화소 P(x2,y2)는, 제1 파티션 내 (x2,y2) 위치의 화소와 제2 파티션 내 (x2,y2) 위치의 화소를 가중평균하여 예측되거나, 제1 파티션 내 (x2,y2) 위치의 화소 또는 제2 파티션 내 (x2,y2) 위치의 화소 중 어느 하나 예측될 수 있다. 이때, 화소 P(x1,y1)에 적용되는 가중치(w1)는, 화소 P(x2,y2)에 적용되는 가중치(w2)와 상이할 수 있다. 본 발명의 가중 예측에 대해서는 도 8 및 도 9를 참조하여 자세히 살펴 보기로 한다.
도 5는 현재 블록의 병합(merge) 후보 리스트와 구성의 개념도를 도시한 도면이다.
본 발명의 일 실시예에 따르면, 현재 블록을 위하여 병합 후보 리스트를 구성할 수 있으며, 다양한 종류의 병합 후보를 사용할 수 있다.
이때, 상기 다양한 종류의 병합 후보는 공간적으로 인접한 병합 후보, 시간적으로 인접한 병합 후보 뿐만 아니라, 현재 블록을 다수개의 서브-블록으로 분할하여 시간적으로 대응되는 움직임을 각각의 서브-블록 단위로 사용하는 서브-블록 단위 병합 후보, 또는 블록의 특정한 위치의 움직임 벡터를 이용하여 블록 내부의 다수개의 서브-블록 별로 움직임 벡터를 계산하여 사용하는 어파인 변환 병합 후보 중 적어도 하나를 지칭할 수 있다.
현재 블록의 병합 후보는, 현재 블록의 움직임 정보가 서브 블록의 단위로 유도되는지 여부에 따라 상이하게 결정될 수 있다. 예를 들어, 현재 블록의 움직임 정보가 서브 블록의 단위로 유도되는 경우, 병합 후보 리스트는 서브-블록 단위 병합 후보, 어파인 변환 병합 후보 등을 포함할 수 있고, 그렇지 않은 경우, 병합 후보 리스트는 상기 공간적 병합 후보, 시간적 병합 후보 등을 포함할 수 있다.
상기 병합 후보 리스트를 구성함에 있어, 그 구성 순서는 도 5에서 도시한 순서에만 한정되지 않으며, 도 5에서 도시한 병합 후보 리스트의 구성 순서는 일 실시예이며, 공간적으로 인접한 병합 후보, 서브-블록 단위 시간적 병합 후보, 어파인 변환 병합 후보, 및 시간적으로 인접한 병합 후보의 순서일 수 있으며, 공간적으로 인접한 병합 후보, 어파인 변환 병합 후보, 서브-블록 단위 시간적 병합 후보, 및 시간적으로 인접한 병합 후보의 순서일 수도 있다. 또는, 서브-블록 단위 시간적 병합 후보와 시간적으로 인접한 병합 후보는, 공간적으로 인접한 병합 후보와 어파인 변환 병합 후보 간의 사이에 배열될 수도 있다. 또는, 서브-블록 단위 시간적 병합 후보은, 공간적으로 인접한 병합 후보 또는 시간적으로 인접한 병합 후보 이전에 배열될 수도 있다. 또는, 서브-블록 단위 시간적 병합 후보는 시간적으로 인접한 병합 후보 이후에 배열될 수도 있다.
도 6은 현재 블록의 병합 후보 리스트와 구성의 개념도를 도시한 도면이다.
도 5와 도 6에서 도시한 본 발명의 일 실시예에 따르면, 현재 블록을 위하여 병합 후보 리스트를 구성할 수 있으며, 다양한 종류의 병합 후보를 사용할 수 있다.
이때, 상기 다양한 종류의 병합 후보는 공간적으로 인접한 병합 후보, 시간적으로 인접한 병합 후보 뿐만 아니라, 현재 블록을 다수개의 서브-블록으로 분할하여 시간적으로 대응되는 움직임을 각각의 서브-블록 단위로 사용하는 서브-블록 단위 병합 후보, 또는 블록의 특정한 위치의 움직임 벡터를 이용하여 블록 내부의 다수개의 서브-블록 별로 움직임 벡터를 계산하여 사용하는 어파인 변환 병합 후보 중 적어도 하나를 지칭할 수 있다.
또한, 도 6에서 도시한 바와 같이, 하나 이상의 대각선 움직임 분할을 현재 블록의 병합 후보로 사용할 수 있다.
상기 대각선 움직임 분할을 현재 블록의 병합 후보로 선택할 경우, 현재 블록은 2개의 파티션으로 분할되어, 각 파티션 별로 서로 다른 움직임 벡터를 이용하여 움직임 예측 및 보상을 수행한다.
이때, 각 파티션 별로 서로 다른 움직임 벡터라 함은, 현재 블록의 공간적 및 시간적으로 인접한 위치의 움직임 벡터를 지칭하며, 해당 움직임 벡터는 기존의 공간적 병합 후보 및 시간적 병합 후보를 이용하여 구성하는 병합 후보 리스트와 동일한 순서로 구성한 움직임 벡터들을 의미할 수 있다.
도 7은 대각선 움직임 분할에 따른 병합 후보 리스트를 별도로 구성하는 개념을 도시한 도면이다.
도 7에서는 도 5, 도 6과 달리, 병합 후보 리스트를 별도로 구성하는 개념을 도시한 도면이다.
도 7에 따르면, 도 5, 도 6과 달리, 대각선 움직임 분할을 위한 병합 후보만을 위한 별도의 리스트를 구성하여 대각선 움직임 분할을 이용한 움직임 예측 및 보상을 수행할 수 있음을 의미한다.
이때, 기존의 병합 후보 리스트를 사용하는지 혹은 대각선 움직임 분할을 위한 병합 후보 리스트를 사용하는지에 대한 시그널링이 필요하며, 이는 현재 블록이 SKIP 혹은 MERGE로 부호화 된 경우에 대하여 flag 형태로 시그널링 될 수 있다.
기존의 병합 후보 리스트(700)과는 별도로 대각선 움직임 분할을 위한 대각선 병합 후보 리스트(710)를 구성할 수 있다.
도 7에서 대각선 움직임 분할을 위한 병합 후보 리스트(710)는 기존의 병합 후보 리스트(700)와 동일하게 각 움직임 후보(702, 703, 704, 705) 별로 각각의 병합 후보 인덱스 (701)가 존재한다.
하지만, 본 발명의 일실시예에서는 도 7에서 도시한 바와 같이 병합 후보 리스트(710)의 경우, 각각의 파티션 별로 병합 후보가 존재하고, 이를 하나의 셋 (set)으로 구성하여 각각의 set별로 서로 다른 인덱스를 사용하는 방식을 사용한다.
이때, 상기 하나의 움직임 후보 set을 구성함에 있어, P0를 위한 움직임과 P1을 위한 움직임은 항상 서로 달라야 하며, P0와 P1의 움직임이 같은 경우는 대각선 움직임 병합 후보 리스트에서 제외한다.
도 8은 도 3에서 도시한 대각선 움직임 분할을 위한 마스크 기반 움직임 예측 및 보상의 수행의 개념을 도시한 도면이다.
도 8에서는 대각선 움직임 분할을 통해, 현재 블록을 2개의 파티션으로 분할한 예시를 도시한다.
구체적으로, 대각선에 위치한 화소 P(x1, y1)(이하, 제1 영역이라 함)는, 제1 파티션의 참조 블록 내 (x1,y1) 위치의 화소와 제2 파티션의 참조 블록 내 (x1,y1) 위치의 화소에 각각 1인 가중치를 적용하여 예측될 수 있다. 제1 파티션에서 상기 제1 영역에 속한 화소를 제외한 나머지 화소 P(x2,y2)는, 제1 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 2인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 0인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x2,y2)는 제1 파티션의 참조 블록 내 (x2,y2) 위치의 화소로 예측될 수 있다.
한편, 제2 파티션에서 상기 제1 영역에 속한 화소를 제외한 나머지 화소 P(x3,y3)는, 제1 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 0인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 8인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x3,y3)는 제2 파티션의 참조 블록 내 (x3,y3) 위치의 화소로 예측될 수 있다.
전술한 바와 같이, 제1 파티션의 예측 화소(predSample1)와 제2 파티션의 예측 화소(predSample2)를 각각 획득하고, predSample1와 predSample2의 합을 predSample1와 predSample2 각각에 적용된 가중치의 합(즉, 8)으로 나누어 최종 예측 블록을 획득한다.
도 8에서 도시한 실시예에 따르면, 제1 파티션의 화소에 적용되는 가중치(w1)와 제2 파티션의 화소에 적용되는 가중치(w2)의 합이 2이고, 최종 정방형 혹은 직방형 예측 블록으로 재구성하는 과정에서 해당 위치의 화소 값들을 합산하여 2로 나누어 최종 예측 화소 값을 획득한다.
본 발명에서는 이러한 방법을 마스크 기반 움직임 예측 및 보상 방법이라고 지칭하고, 다양한 임의의 형태의 마스크 형태로 확장하여 사용하는 것 또한 포함할 수 있다.
도 8에서 도시한 대각선 움직임 분할을 마스크 형태로 구성하면 수학식 4와 같이 구성할 수 있다.
[수학식 4]
Figure PCTKR2019008031-appb-I000001
수학식 4에서 MASKP0는 제 1 파티션의 가중치를 의미하고, MASKP1은 제 2 파티션의 가중치를 의미한다. 상기 수학식 4의 가중치를 이용하여 최종 정방형 및 직방형 예측 블록을 생성하는 방법은 다음 수학식 5와 같다.
[수학식 5]
PDMP(x,y) = (PP0(x,y) x MASKP0(x,y) + PP1(x,y) x MASKP1(x,y)) >> shift
수학식 5에서 PDMP 대각선 움직임 분할을 이용하여 획득한 최종 정방형 및 직방형 예측 블록을 의미하고, PP0(x,y)는 제1 파티션 내 (x,y) 위치의 화소 값, PP1(x,y)는 제2 파티션 내 (x,y) 위치의 화소 값을 각각 의미한다. Shift는 가중치에 따른 최종 shift 값으로써, 도 8에서 도시한 가중치는 2이므로, 도 2에서 shift 값은 1을 갖는다.
도 9는 도 8에서 도시한 제안하는 마스크 기반 블록 분할 방법의 또 다른 가중치를 적용한 일 실시예이다.
도 9에서는 가중치 w1와 가중치 w2의 합이 8인 일 실시예를 나타내며, 도 8과 달리, 대각선 선분이 포함되는 화소 뿐만 아니라, 대각선에 인접한 영역의 화소들에 서로 다른 가중치를 사용하므로써, 대각선 움직임 분할의 경계에서 발생할 수 있는 경계 열화를 감소시키는 역할을 수행한다. 상기 인접한 영역은, 대각선 상에 위치한 화소에서 상단 또는 좌측 방향으로 이웃한 i개의 화소 및 하단 또는 우측 방향으로 인접한 i개의 화소를 포함할 수 있다. 여기서, i는 1, 2, 3, 4 또는 그 이상일 수 있으며, 현재 블록의 너비와 높이의 비율(W/H)에 따라 가변적으로 결정될 수 있다. 예를 들어, i는 현재 블록의 W/H와 동일한 값으로 설정될 수 있다.
[실시예 1]
대각선에 위치한 화소 P(x1, y1)(이하, 제1 영역이라 함)는, 제1 파티션의 참조 블록 내 (x1,y1) 위치의 화소와 제2 파티션의 참조 블록 내 (x1,y1) 위치의 화소에 각각 4인 가중치를 적용하여 예측될 수 있다. 상기 제1 영역의 상단 또는 좌측 이웃 화소 P(x2, y2)(이하, 제2 영역이라 함)는, 제1 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 6인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 2인 가중치를 적용하여 예측될 수 있다. 상기 제2 영역의 상단 또는 좌측 이웃 화소 P(x3, y3)(이하, 제3 영역이라 함)는, 제1 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 7인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 1인 가중치를 적용하여 예측될 수 있다. 제1 파티션에서 상기 제1 영역 내지 제3 영역에 속한 화소를 제외한 나머지 화소 P(x4,y4)는, 제1 파티션의 참조 블록 내 (x4,y4) 위치의 화소에 8인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x4,y4) 위치의 화소에 0인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x4,y4)는 제1 파티션의 참조 블록 내 (x4,y4) 위치의 화소로 예측될 수 있다.
한편, 상기 제1 영역의 하단 또는 우측 이웃 화소 P(x5, y5)(이하, 제4 영역이라 함)는, 제1 파티션의 참조 블록 내 (x5,y5) 위치의 화소에 2인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x5,y5) 위치의 화소에 6인 가중치를 적용하여 예측될 수 있다. 상기 제4 영역의 하단 또는 우측 이웃 화소 P(x6, y6)(이하, 제5 영역이라 함)는, 제1 파티션의 참조 블록 내 (x6,y6) 위치의 화소에 1인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x6,y6) 위치의 화소에 7인 가중치를 적용하여 예측될 수 있다. 제2 파티션에서 상기 제1 영역, 제4 영역 및 제5 영역에 속한 화소를 제외한 나머지 화소 P(x7,y7)는, 제1 파티션의 참조 블록 내 (x7,y7) 위치의 화소에 0인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x7,y7) 위치의 화소에 8인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x7,y7)는 제2 파티션의 참조 블록 내 (x7,y7) 위치의 화소로 예측될 수 있다.
[실시예 2]
대각선에 위치한 화소 P(x1, y1)(이하, 제1 영역이라 함)는, 제1 파티션의 참조 블록 내 (x1,y1) 위치의 화소와 제2 파티션의 참조 블록 내 (x1,y1) 위치의 화소에 각각 4인 가중치를 적용하여 예측될 수 있다. 상기 제1 영역의 상단 또는 좌측 이웃 화소 P(x2, y2)(이하, 제2 영역이라 함)는, 제1 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 5인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x2,y2) 위치의 화소에 3인 가중치를 적용하여 예측될 수 있다. 상기 제2 영역의 상단 또는 좌측 이웃 화소 P(x3, y3)(이하, 제3 영역이라 함)는, 제1 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 6인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x3,y3) 위치의 화소에 2인 가중치를 적용하여 예측될 수 있다. 상기 제3 영역의 상단 또는 좌측 이웃 화소 P(x4, y4)(이하, 제4 영역이라 함)는, 제1 파티션의 참조 블록 내 (x4,y4) 위치의 화소에 7인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x4,y4) 위치의 화소에 1인 가중치를 적용하여 예측될 수 있다. 제1 파티션에서 상기 제1 영역 내지 제4 영역에 속한 화소를 제외한 나머지 화소 P(x5,y5)는, 제1 파티션의 참조 블록 내 (x5,y5) 위치의 화소에 8인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x5,y5) 위치의 화소에 0인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x5,y5)는 제1 파티션의 참조 블록 내 (x5,y5) 위치의 화소로 예측될 수 있다.
한편, 상기 제1 영역의 하단 또는 우측 이웃 화소 P(x6, y6)(이하, 제5 영역이라 함)는, 제1 파티션의 참조 블록 내 (x6,y6) 위치의 화소에 3인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x6,y6) 위치의 화소에 5인 가중치를 적용하여 예측될 수 있다. 상기 제5 영역의 하단 또는 우측 이웃 화소 P(x7, y7)(이하, 제6 영역이라 함)는, 제1 파티션의 참조 블록 내 (x7,y7) 위치의 화소에 2인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x7,y7) 위치의 화소에 6인 가중치를 적용하여 예측될 수 있다. 상기 제6 영역의 하단 또는 우측 이웃 화소 P(x8, y8)(이하, 제7 영역이라 함)는, 제1 파티션의 참조 블록 내 (x8,y8) 위치의 화소에 1인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x8,y8) 위치의 화소에 7인 가중치를 적용하여 예측될 수 있다. 제2 파티션에서 상기 제1 영역 및 제5 영역 내지 제7 영역에 속한 화소를 제외한 나머지 화소 P(x9,y9)는, 제1 파티션의 참조 블록 내 (x9,y9) 위치의 화소에 0인 가중치를 적용하고, 제2 파티션의 참조 블록 내 (x9,y9) 위치의 화소에 8인 가중치를 적용하여 예측될 수 있다. 즉, 화소 P(x9,y9)는 제2 파티션의 참조 블록 내 (x9,y9) 위치의 화소로 예측될 수 있다.
도 8 및 도 9에서 살펴본 바와 같이, 현재 블록은 k개의 영역으로 구분될 수 있고, 해당 화소가 속한 영역에 따라 상이한 가중치가 적용될 수 있다. 여기서, k는 3, 5, 7, 9 또는 그 이상일 수 있다.
상기 k는 부호화 장치에서 부호화되어 시그날링된 인덱스에 기초하여 결정될수 있다. 상기 인덱스는, 가중치 세트, 가중치 세트 별 가중치의 개수 또는 가중치의 합(w1+w2) 중 적어도 하나를 특정할 수 있다. 상기 가중치 세트는, 전술한 바와 같이, 3개의 가중치로 구성된 제1 가중치 세트([2:0], [1:1], [0:2]), 7개의 가중치로 구성된 제2 가중치 세트([8:0], [7:1], [6:2], [4:4], [2:6], [1:7], [0:8]) 또는 9개의 가중치 세트로 구성된 제3 가중치 세트([8:0], [7:1], [6:2], [5:3], [4:4], [3:5], [2:6], [1:7], [0:8]) 중 적어도 하나를 의미할 수 있다. 예를 들어, 인덱스가 제1 값인 경우, 제1 가중치 세트가 적용되고, 그렇지 않은 경우, 제2 또는 제3 가중치 세트가 적용될 수 있다. 또는, 인덱스가 제2 값인 경우, 상기 제2 가중치 세트가 적용되고, 그렇지 않은 경우, 상기 제3 가중치 세트가 적용될 수 있다.
또는, k는 현재 블록의 크기, 형태, 분할 타입 등과 같은 부호화 파라미터에 기초하여 결정될 수도 있다. 예를 들어, 현재 블록의 너비 또는 높이 중 적어도 하나가 소정의 문턱크기보다 작은 경우, 상기 실시예 1이 적용되고, 그렇지 않은 경우, 상기 실시예 2가 적용될 수 있다.
전술한 바와 같이, 제1 파티션의 예측 화소(predSample1)와 제2 파티션의 예측 화소(predSample2)를 각각 획득하고, predSample1와 predSample2의 합을 predSample1와 predSample2 각각에 적용된 가중치의 합(즉, 8)으로 나누어 최종 예측 블록을 획득한다.
이와 더불어, 본 발명에서는 블록의 크기에 따라 서로 다른 가중치를 사용하는 것을 포함한다. 일 실시예로 블록의 크기가 소정의 문턱크기보다 작은 경우에는 도 8에서 도시한 마스크를 사용하여 움직임 예측 및 보상을 수행하고, 블록의 크기가 상기 문턱크기보다 크거나 같은 경우에는 도 9에서 도시한 마스크를 사용하여 움직임 예측 및 보상을 수행한다. 여기서, 블록의 크기는, 블록의 너비, 높이, 너비와 높이의 합, 너비와 높이의 곱, 너비와 높이 중 최소값/최대값, 너비와 높이의 비율 등으로 이해될 수 있다. 상기 문턱크기는, 1, 2, 4, 8, 16, 32, 64, 128, 256 또는 그 이상일 수 있다.
상기 블록의 크기는 하나의 실시예이며, 상기 실시예와 같이 다양한 블록의 크기에 따라 서로 다른 마스크를 사용하여 예측 및 보상을 수행하는 것은 본 발명의 범위에 포함된다.
본 개시의 다양한 실시 예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.
또한, 본 개시의 다양한 실시 예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.
본 발명은 비디오 신호를 부호화/복호화하기 위해 이용될 수 있다.

Claims (10)

  1. 현재 블록의 병합 후보를 결정하는 단계;
    상기 병합 후보를 기반으로, 병합 후보 리스트를 구성하는 단계;
    상기 병합 후보 리스트로부터 상기 현재 블록의 움직임 정보를 유도하는 단계; 및
    상기 움직임 정보를 이용하여 상기 현재 블록의 인터 예측을 수행하는 단계를 포함하되,
    상기 현재 블록은 대각선 움직임 분할을 통해 2개의 파티션으로 분할된, 비디오 복호화 방법.
  2. 제1항에 있어서,
    상기 대각선 움직임 분할은, 상기 현재 블록에 대해서 대각선 움직임 분할이 수행되는지 여부를 나타내는 플래그에 기초하여 수행되는, 비디오 복호화 방법.
  3. 제2항에 있어서,
    상기 플래그는, 소정의 부호화 파라미터에 기초하여 유도되고,
    상기 부호화 파라미터는, 슬라이스 타입, 인터 모드의 타입, 블록 크기/형태 또는 블록 너비와 높이의 비(ratio) 중 적어도 하나를 포함하는, 비디오 복호화 방법.
  4. 제1항에 있어서,
    상기 현재 블록에 속한 2개의 파티션은, 상기 구성된 병합 후보 리스트를 공유하는, 비디오 복호화 방법.
  5. 제1항에 있어서,
    상기 병합 후보 리스트는, 공간적 병합 후보, 시간적 병합 후보 또는 조합 병합 후보 중 적어도 하나를 포함하는, 비디오 복호화 방법.
  6. 제1항에 있어서,
    상기 움직임 정보는, 상기 현재 블록의 병합 인덱스에 기초하여 유도되고,
    상기 병합 인덱스는, 상기 2개의 파티션 각각에 대해서 부호화 장치로부터 시그날링되는, 비디오 복호화 방법.
  7. 제1항에 있어서,
    상기 현재 블록의 화소는, 제1 파티션의 제1 참조 블록 또는 제2 파티션의 제2 참조 블록 중 적어도 하나를 이용하여 예측되는, 비디오 복호화 방법.
  8. 제7항에 있어서,
    상기 현재 블록의 화소는, 상기 제1 참조 블록의 제1 화소 또는 제2 참조 블록의 제2 화소 중 어느 하나만 이용하여 예측되거나, 상기 제1 참조 블록의 제1 화소와 상기 제2 참조 블록의 제2 화소를 가중평균하여 예측되는, 비디오 복호화 방법.
  9. 제8항에 있어서,
    상기 가중평균을 위한 가중치는, [7:1], [6:2], [4:4], [2:6] 또는 [1:7] 중 어느 하나인, 비디오 복호화 방법.
  10. 제9항에 있어서,
    상기 가중치는, 상기 현재 블록 내 화소의 위치에 따라 선택적으로 적용되는, 비디오 복호화 방법.
PCT/KR2019/008031 2018-07-02 2019-07-02 병합 후보를 사용하는 비디오 코딩 방법 및 장치 WO2020009419A1 (ko)

Priority Applications (7)

Application Number Priority Date Filing Date Title
CN202410005766.2A CN117834909A (zh) 2018-07-02 2019-07-02 对视频进行解码的方法和对视频进行编码的方法
US17/257,052 US11671619B2 (en) 2018-07-02 2019-07-02 Video coding method and device using merge candidate
CN202410005335.6A CN117834907A (zh) 2018-07-02 2019-07-02 对视频进行解码的方法和对视频进行编码的方法
CN202410005340.7A CN117834908A (zh) 2018-07-02 2019-07-02 对视频进行解码的方法和对视频进行编码的方法
CN201980044560.8A CN112369034B (zh) 2018-07-02 2019-07-02 使用合并候选的视频编码方法和装置
CN202410009902.5A CN117834910A (zh) 2018-07-02 2019-07-02 对视频进行解码的方法和对视频进行编码的方法
US18/190,892 US20230308678A1 (en) 2018-07-02 2023-03-27 Video coding method and device using merge candidate

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2018-0076540 2018-07-02
KR20180076540 2018-07-02

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US17/257,052 A-371-Of-International US11671619B2 (en) 2018-07-02 2019-07-02 Video coding method and device using merge candidate
US18/190,892 Continuation US20230308678A1 (en) 2018-07-02 2023-03-27 Video coding method and device using merge candidate

Publications (1)

Publication Number Publication Date
WO2020009419A1 true WO2020009419A1 (ko) 2020-01-09

Family

ID=69060131

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/008031 WO2020009419A1 (ko) 2018-07-02 2019-07-02 병합 후보를 사용하는 비디오 코딩 방법 및 장치

Country Status (4)

Country Link
US (2) US11671619B2 (ko)
KR (1) KR20200003734A (ko)
CN (5) CN117834908A (ko)
WO (1) WO2020009419A1 (ko)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3811611A4 (en) * 2018-06-22 2022-06-15 OP Solutions, LLC BLOCK LEVEL GEOMETRIC PARTITIONING
WO2020058955A1 (en) 2018-09-23 2020-03-26 Beijing Bytedance Network Technology Co., Ltd. Multiple-hypothesis affine mode
CN111083487A (zh) * 2018-10-22 2020-04-28 北京字节跳动网络技术有限公司 仿射模式的运动信息的存储
CN116939198A (zh) * 2018-10-23 2023-10-24 北京字节跳动网络技术有限公司 并置的局部照明补偿和修改的帧间预测编解码
WO2020084509A1 (en) 2018-10-23 2020-04-30 Beijing Bytedance Network Technology Co., Ltd. Harmonized local illumination compensation and modified inter coding tools
WO2020094049A1 (en) 2018-11-06 2020-05-14 Beijing Bytedance Network Technology Co., Ltd. Extensions of inter prediction with geometric partitioning
WO2020140862A1 (en) 2018-12-30 2020-07-09 Beijing Bytedance Network Technology Co., Ltd. Conditional application of inter prediction with geometric partitioning in video processing
WO2020147747A1 (en) 2019-01-15 2020-07-23 Beijing Bytedance Network Technology Co., Ltd. Weighted prediction in video coding
CN113302919A (zh) 2019-01-17 2021-08-24 北京字节跳动网络技术有限公司 在视频处理中使用虚拟候选预测和加权预测
US20220109835A1 (en) * 2019-03-11 2022-04-07 Apple Inc. Method for encoding/decoding image signal, and device therefor

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101559876B1 (ko) * 2010-07-09 2015-10-13 삼성전자주식회사 블록 병합을 이용한 비디오 부호화 방법 및 그 장치, 블록 병합을 이용한 비디오 복호화 방법 및 그 장치
JP2016165135A (ja) * 2010-07-20 2016-09-08 株式会社Ｎｔｔドコモ 画像予測符号化装置、画像予測符号化方法、画像予測復号装置、及び、画像予測復号方法
KR20170002460A (ko) * 2014-06-11 2017-01-06 엘지전자 주식회사 임베디드 블록 파티셔닝을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
KR20170122280A (ko) * 2010-05-04 2017-11-03 엘지전자 주식회사 비디오 신호의 처리 방법 및 장치
KR20180037600A (ko) * 2016-10-04 2018-04-12 주식회사 케이티 비디오 신호 처리 방법 및 장치

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8879632B2 (en) * 2010-02-18 2014-11-04 Qualcomm Incorporated Fixed point implementation for geometric motion partitioning
JP2012023597A (ja) * 2010-07-15 2012-02-02 Sony Corp 画像処理装置及び画像処理方法
KR101712156B1 (ko) 2010-12-06 2017-03-06 에스케이 텔레콤주식회사 임의의 형태의 블록을 이용한 인터예측에 의한 영상의 부호화/복호화 방법 및 장치
KR20120090740A (ko) * 2011-02-07 2012-08-17 (주)휴맥스 정밀한 단위의 필터 선택을 적용한 영상 부호화/복호화 장치 및 방법
KR101960034B1 (ko) 2011-09-09 2019-03-19 엘지전자 주식회사 인터 예측 방법 및 그 장치
US10187657B2 (en) 2014-03-14 2019-01-22 Samsung Electronics Co., Ltd. Method and device for configuring merge candidate list for decoding and encoding of interlayer video
CN116684604A (zh) * 2017-03-31 2023-09-01 松下电器（美国）知识产权公司 图像编码装置、图像解码装置及存储介质
WO2019151279A1 (ja) * 2018-01-30 2019-08-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
BR112020021718B1 (pt) * 2018-05-17 2024-01-16 Panasonic Intellectual Property Corporation Of America Codificador, decodificador, método de codificação e método de decodificação
CN112740670A (zh) * 2018-06-25 2021-04-30 Oppo广东移动通信有限公司 帧内预测方法和装置
CN112204982A (zh) * 2018-06-29 2021-01-08 株式会社Kt 用于处理视频信号的方法和设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170122280A (ko) * 2010-05-04 2017-11-03 엘지전자 주식회사 비디오 신호의 처리 방법 및 장치
KR101559876B1 (ko) * 2010-07-09 2015-10-13 삼성전자주식회사 블록 병합을 이용한 비디오 부호화 방법 및 그 장치, 블록 병합을 이용한 비디오 복호화 방법 및 그 장치
JP2016165135A (ja) * 2010-07-20 2016-09-08 株式会社Ｎｔｔドコモ 画像予測符号化装置、画像予測符号化方法、画像予測復号装置、及び、画像予測復号方法
KR20170002460A (ko) * 2014-06-11 2017-01-06 엘지전자 주식회사 임베디드 블록 파티셔닝을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
KR20180037600A (ko) * 2016-10-04 2018-04-12 주식회사 케이티 비디오 신호 처리 방법 및 장치

Also Published As

Publication number Publication date
CN112369034B (zh) 2024-01-26
CN117834908A (zh) 2024-04-05
CN112369034A (zh) 2021-02-12
CN117834910A (zh) 2024-04-05
CN117834907A (zh) 2024-04-05
KR20200003734A (ko) 2020-01-10
US20210168398A1 (en) 2021-06-03
US20230308678A1 (en) 2023-09-28
US11671619B2 (en) 2023-06-06
CN117834909A (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
WO2020009419A1 (ko) 병합 후보를 사용하는 비디오 코딩 방법 및 장치
WO2017188652A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2018212578A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017164645A2 (ko) 비디오 신호 부호화/복호화 방법 및 장치
WO2016175549A1 (ko) 비디오 신호의 처리 방법 및 이를 위한 장치
WO2018174593A1 (ko) 적응적인 화소 분류 기준에 따른 인루프 필터링 방법
WO2018066959A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017039256A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016175550A1 (ko) 비디오 신호의 처리 방법 및 이를 위한 장치
WO2016052977A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019078581A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018008904A2 (ko) 비디오 신호 처리 방법 및 장치
WO2020004979A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2019240448A1 (ko) 성분 간 참조 기반의 비디오 신호 처리 방법 및 장치
WO2016159610A1 (ko) 비디오 신호 처리 방법 및 장치
WO2013154366A1 (ko) 블록 정보에 따른 변환 방법 및 이러한 방법을 사용하는 장치
WO2016048092A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016114583A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019240449A1 (ko) 양자화 파라미터 기반의 잔차 블록 부호화/복호화 방법 및 장치
WO2019194568A1 (ko) 어파인 모델 기반의 영상 부호화/복호화 방법 및 장치
WO2018044089A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019078664A1 (ko) 비디오 신호 처리 방법 및 장치
WO2013109123A1 (ko) 인트라 예측 처리 속도 향상을 위한 비디오의 부호화 방법 및 장치, 비디오의 복호화 방법 및 장치
WO2019194484A1 (ko) 인트라 예측을 이용한 영상 부호화/복호화 방법 및 장치
WO2016064123A1 (ko) 비디오 신호 처리 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19831493

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 18/05/2021)

122 Ep: pct application non-entry in european phase

Ref document number: 19831493

Country of ref document: EP

Kind code of ref document: A1