WO2017065357A1 - 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치 - Google Patents

영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치 Download PDF

Info

Publication number
WO2017065357A1
WO2017065357A1 PCT/KR2016/000788 KR2016000788W WO2017065357A1 WO 2017065357 A1 WO2017065357 A1 WO 2017065357A1 KR 2016000788 W KR2016000788 W KR 2016000788W WO 2017065357 A1 WO2017065357 A1 WO 2017065357A1
Authority
WO
WIPO (PCT)
Prior art keywords
block
prediction
current block
wiener filter
samples
Prior art date
Application number
PCT/KR2016/000788
Other languages
English (en)
French (fr)
Inventor
김규운
임재현
박내리
서정동
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to CN201680067276.9A priority Critical patent/CN108293111B/zh
Priority to US15/768,403 priority patent/US10602141B2/en
Priority to EP16855575.3A priority patent/EP3364653A4/en
Priority to KR1020187008009A priority patent/KR20180069789A/ko
Publication of WO2017065357A1 publication Critical patent/WO2017065357A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Definitions

  • the present invention relates to image coding technology, and more particularly, to a filtering method and apparatus for improving prediction in an image coding system.
  • the demand for high resolution and high quality images such as high definition (HD) images and ultra high definition (UHD) images is increasing in various fields.
  • the higher the resolution and the higher quality of the image data the more information or bit rate is transmitted than the existing image data. Therefore, the image data can be transmitted by using a medium such as a conventional wired / wireless broadband line or by using a conventional storage medium. In the case of storage, the transmission cost and the storage cost are increased.
  • a high efficiency image compression technique is required to effectively transmit, store, and reproduce high resolution, high quality image information.
  • An object of the present invention is to provide a method and apparatus for improving image coding efficiency.
  • Another technical problem of the present invention is to provide a method and apparatus for improving the performance of prediction.
  • Another technical problem of the present invention is to provide a method and apparatus for improving the performance of inter prediction.
  • Another technical problem of the present invention is to provide a method and apparatus for improving prediction performance by applying a Wiener filter to prediction samples.
  • Another technical problem of the present invention is to provide a method and apparatus for efficiently applying filtering to prediction samples while reducing additional information on the Wiener filter.
  • an image decoding method performed by a decoding apparatus.
  • the method includes obtaining prediction related information and residual information from a received bitstream, performing inter prediction on the current block based on the prediction related information, and generating prediction samples, and a Wiener filter for the current block. determining whether a Wiener filter is available, and when the Wiener filter is available, generates a Wiener filter candidate list based on spatial neighboring blocks of the current block, and based on the candidate block in the Wiener filter candidate list. Deriving Wiener filter coefficients for the current block, filtering the prediction samples based on the derived Wiener filter coefficients, and deriving residual samples for the current block based on the residual information. And filtering the filtered prediction samples and the residual samples. Characterized in that the restored picture generating a (reconstructed picture).
  • a decoding apparatus for performing image decoding.
  • the decoding apparatus may include a decoding unit for obtaining prediction related information and residual information from a received bitstream, inter prediction of the current block based on the prediction related information, and generating prediction samples, and a winner for the current block. Determine whether a filter is available, and when the Wiener filter is available, generate a Wiener filter candidate list based on spatial neighboring blocks of the current block, and based on the candidate block in the Wiener filter candidate list.
  • a predictor that derives Wiener filter coefficients for the current block and filters the prediction samples based on the derived Wiener filter coefficients, and generates residual samples for the current block based on the residual information
  • An inverse transform unit to calculate the filtered prediction samples and the residual samples It characterized in that it comprises an adder for generating the restored picture.
  • an image encoding method performed by an encoding apparatus.
  • the method may include generating prediction samples for a current block based on inter prediction, determining whether a Wiener filter is available for the current block, and if the Wiener filter is available, spatial neighboring blocks of the current block. Generating a winner filter candidate list based on the result, and deriving winner filter coefficients for the current block based on the candidate block in the winner filter candidate list, and predicting the sample based on the derived winner filter coefficients. Filtering the data, deriving residual samples for the current block based on the original samples and the filtered prediction samples, and prediction related information about the current block and residual information about the residual samples. And encoding and outputting the Wiener filter information.
  • an encoding apparatus for performing image encoding.
  • the encoding apparatus generates prediction samples for the current block based on inter prediction, determines whether a Wiener filter is available for the current block, and if the Wiener filter is available, based on spatial neighboring blocks of the current block. Generate a winner filter candidate list, derive winner filter coefficients for the current block based on the candidate block in the winner filter candidate list, and filter the prediction samples based on the derived winner filter coefficients.
  • a prediction unit a subtractor for deriving residual samples for the current block based on the original samples and the filtered prediction samples, prediction related information for the current block, and residual information for the residual samples
  • an encoding unit for encoding and outputting the Wiener filter information.
  • the prediction efficiency can be increased by filtering the prediction samples based on the Wiener filter coefficients, and the amount of data for the residual signal transmission can be reduced, thereby increasing the overall coding efficiency.
  • FIG. 1 is a block diagram schematically illustrating a video encoding apparatus according to an embodiment of the present invention.
  • FIG. 2 is a block diagram schematically illustrating a video decoding apparatus according to an embodiment of the present invention.
  • FIG. 3 is a diagram schematically illustrating an embodiment of a candidate block that may be used when inter prediction is performed on a current block.
  • FIG. 4 exemplarily illustrates a method of deriving filter coefficients based on neighboring blocks of a current block.
  • FIG. 5 shows an example of a method of obtaining Wiener filter coefficients for a neighboring block.
  • FIG. 6 shows the number and shape of prediction blocks in a coding block according to a partitioning mode.
  • FIG. 7 illustrates an example in which a Wiener filter is enabled / disabled based on a prediction mode of a current block and a partitioning mode for the current block.
  • FIG. 9 illustrates an example of neighboring blocks that can be considered for deriving Wiener filter coefficients for each prediction block when the partitioning mode is N ⁇ N.
  • FIG. 10 shows an example of a method of obtaining a temporal predictor for obtaining Wiener filter coefficients.
  • 11 shows an example of candidate blocks considered to obtain a temporal predictor.
  • FIG. 12 shows an example of a motion vector phase in accordance with the present invention.
  • FIG. 13 shows a divided region for obtaining Wiener filter coefficients according to the present invention.
  • each of the components in the drawings described in the present invention are shown independently for the convenience of description of the different characteristic functions in the video encoding apparatus / decoding apparatus, each component is a separate hardware or separate software It does not mean that it is implemented.
  • two or more of each configuration may be combined to form one configuration, or one configuration may be divided into a plurality of configurations.
  • Embodiments in which each configuration is integrated and / or separated are also included in the present invention without departing from the spirit of the present invention.
  • FIG. 1 is a block diagram schematically illustrating a video encoding apparatus according to an embodiment of the present invention.
  • the encoding apparatus 100 may include a picture divider 105, a predictor 110, a transformer 115, a quantizer 120, a reordering unit 125, an entropy encoding unit 130, An inverse quantization unit 135, an inverse transform unit 140, a filter unit 145, and a memory 150 are provided.
  • the picture dividing unit 105 may divide the input picture into at least one processing unit block.
  • the block as the processing unit may be a prediction unit (PU), a transform unit (TU), or a coding unit (CU).
  • a picture may be composed of a plurality of coding tree units (CTUs), and each CTU may be split into CUs in a quad-tree structure.
  • a CU may be divided into quad tree structures with CUs of a lower depth.
  • PU and TU may be obtained from a CU.
  • a PU may be partitioned from a CU into a symmetrical or asymmetrical square structure.
  • the TU may also be divided into quad tree structures from the CU.
  • the predictor 110 includes an inter predictor for performing inter prediction and an intra predictor for performing intra prediction, as described below.
  • the prediction unit 110 performs prediction on the processing unit of the picture in the picture division unit 105 to generate a prediction block including a prediction sample (or a prediction sample array).
  • the processing unit of the picture in the prediction unit 110 may be a CU, a TU, or a PU.
  • the prediction unit 110 may determine whether the prediction performed on the processing unit is inter prediction or intra prediction, and determine specific contents (eg, prediction mode, etc.) of each prediction method.
  • the processing unit in which the prediction is performed and the processing unit in which the details of the prediction method and the prediction method are determined may be different.
  • the method of prediction and the prediction mode may be determined in units of PUs, and the prediction may be performed in units of TUs.
  • a prediction block may be generated by performing prediction based on information of at least one picture of a previous picture and / or a subsequent picture of the current picture.
  • a prediction block may be generated by performing prediction based on pixel information in a current picture.
  • a skip mode, a merge mode, an advanced motion vector prediction (AMVP), and the like can be used.
  • a reference picture may be selected for a PU and a reference block corresponding to the PU may be selected.
  • the reference block may be selected in units of integer pixels (or samples) or fractional pixels (or samples).
  • a predictive block is generated in which a residual signal with the PU is minimized and the size of the motion vector is also minimized.
  • the pixel and the sample may be mixed with each other.
  • the prediction block may be generated in integer pixel units, or may be generated in sub-pixel units such as 1/2 pixel unit or 1/4 pixel unit.
  • the motion vector may also be expressed in units of integer pixels or less.
  • Information such as an index of a reference picture selected through inter prediction, a motion vector difference (MDV), a motion vector predictor (MVP), a residual signal, and the like may be entropy encoded and transmitted to a decoding apparatus.
  • MDV motion vector difference
  • MVP motion vector predictor
  • the residual may be used as the reconstructed block, and thus the residual may not be generated, transformed, quantized, or transmitted.
  • a prediction mode When performing intra prediction, a prediction mode may be determined in units of PUs, and prediction may be performed in units of PUs. In addition, a prediction mode may be determined in units of PUs, and intra prediction may be performed in units of TUs.
  • the prediction mode may have, for example, 33 directional prediction modes and at least two non-directional modes.
  • the non-directional mode may include a DC prediction mode and a planner mode (Planar mode).
  • a prediction block may be generated after applying a filter to a reference sample.
  • whether to apply the filter to the reference sample may be determined according to the intra prediction mode and / or the size of the current block.
  • the residual value (the residual block or the residual signal) between the generated prediction block and the original block is input to the converter 115.
  • the prediction mode information, the motion vector information, etc. used for the prediction are encoded by the entropy encoding unit 130 together with the residual value and transmitted to the decoding apparatus.
  • the transform unit 115 performs transform on the residual block in units of transform blocks and generates transform coefficients.
  • the transform block is a rectangular block of samples to which the same transform is applied.
  • the transform block can be a transform unit (TU) and can have a quad tree structure.
  • the transformer 115 may perform the transformation according to the prediction mode applied to the residual block and the size of the block.
  • the residual block is transformed using a discrete sine transform (DST), otherwise the residual block is transformed into a DCT (Discrete). Can be transformed using Cosine Transform.
  • DST discrete sine transform
  • DCT Discrete
  • the transform unit 115 may generate a transform block of transform coefficients by the transform.
  • the quantization unit 120 may generate quantized transform coefficients by quantizing the residual values transformed by the transform unit 115, that is, the transform coefficients.
  • the value calculated by the quantization unit 120 is provided to the inverse quantization unit 135 and the reordering unit 125.
  • the reordering unit 125 rearranges the quantized transform coefficients provided from the quantization unit 120. By rearranging the quantized transform coefficients, the encoding efficiency of the entropy encoding unit 130 may be increased.
  • the reordering unit 125 may rearrange the quantized transform coefficients in the form of a 2D block into a 1D vector form through a coefficient scanning method.
  • the entropy encoding unit 130 entropy-codes a symbol according to a probability distribution based on the quantized transform values rearranged by the reordering unit 125 or the encoding parameter value calculated in the coding process, thereby performing a bitstream. You can output The entropy encoding method receives a symbol having various values and expresses it as a decodable column while removing statistical redundancy.
  • the symbol means a syntax element, a coding parameter, a value of a residual signal, etc., to be encoded / decoded.
  • An encoding parameter is a parameter necessary for encoding and decoding, and may include information that may be inferred in the encoding or decoding process as well as information encoded by an encoding device and transmitted to the decoding device, such as a syntax element. It means the information you need when you do.
  • the encoding parameter may be, for example, a value such as an intra / inter prediction mode, a moving / motion vector, a reference image index, a coding block pattern, a residual signal presence, a transform coefficient, a quantized transform coefficient, a quantization parameter, a block size, block partitioning information, or the like. May include statistics.
  • the residual signal may mean a difference between the original signal and the prediction signal, and a signal in which the difference between the original signal and the prediction signal is transformed or a signal in which the difference between the original signal and the prediction signal is converted and quantized It may mean.
  • the residual signal may be referred to as a residual block in the block unit, and the residual sample in the sample unit.
  • Encoding methods such as exponential golomb, context-adaptive variable length coding (CAVLC), and context-adaptive binary arithmetic coding (CABAC) may be used for entropy encoding.
  • the entropy encoding unit 130 may store a table for performing entropy encoding, such as a variable length coding (VLC) table, and the entropy encoding unit 130 may store the variable length coding. Entropy encoding can be performed using the (VLC) table.
  • the entropy encoding unit 130 derives the binarization method of the target symbol and the probability model of the target symbol / bin, and then uses the derived binarization method or the probability model to entropy. You can also perform encoding.
  • the entropy encoding unit 130 may apply a constant change to a parameter set or syntax to be transmitted.
  • the inverse quantizer 135 inversely quantizes the quantized values (quantized transform coefficients) in the quantizer 120, and the inverse transformer 140 inversely transforms the inverse quantized values in the inverse quantizer 135.
  • the residual value (or the residual sample or the residual sample array) generated by the inverse quantizer 135 and the inverse transform unit 140 and the prediction block predicted by the predictor 110 are added together to reconstruct the sample (or the reconstructed sample array).
  • a reconstructed block including a may be generated.
  • a reconstructed block is generated by adding a residual block and a prediction block through an adder.
  • the adder may be viewed as a separate unit (restore block generation unit) for generating a reconstruction block.
  • the filter unit 145 may apply a deblocking filter, an adaptive loop filter (ALF), and a sample adaptive offset (SAO) to the reconstructed picture.
  • ALF adaptive loop filter
  • SAO sample adaptive offset
  • the deblocking filter may remove distortion generated at the boundary between blocks in the reconstructed picture.
  • the adaptive loop filter may perform filtering based on a value obtained by comparing the reconstructed image with the original image after the block is filtered through the deblocking filter. ALF may be performed only when high efficiency is applied.
  • the SAO restores the offset difference from the original image on a pixel-by-pixel basis for the residual block to which the deblocking filter is applied, and is applied in the form of a band offset and an edge offset.
  • the filter unit 145 may not apply filtering to the reconstructed block used for inter prediction.
  • the memory 150 may store the reconstructed block or the picture calculated by the filter unit 145.
  • the reconstructed block or picture stored in the memory 150 may be provided to the predictor 110 that performs inter prediction.
  • the video decoding apparatus 200 includes an entropy decoding unit 210, a reordering unit 215, an inverse quantization unit 220, an inverse transform unit 225, a prediction unit 230, and a filter unit 235.
  • Memory 240 may be included.
  • the input bitstream may be decoded according to a procedure in which image information is processed in the video encoding apparatus.
  • the entropy decoding unit 210 may entropy decode the input bitstream according to a probability distribution to generate symbols including symbols in the form of quantized coefficients.
  • the entropy decoding method is a method of generating each symbol by receiving a binary string.
  • the entropy decoding method is similar to the entropy encoding method described above.
  • VLC variable length coding
  • 'VLC' variable length coding
  • CABAC CABAC
  • the CABAC entropy decoding method receives a bin corresponding to each syntax element in a bitstream, and decodes syntax element information and decoding information of neighboring and decoding target blocks or information of symbols / bins decoded in a previous step.
  • the context model may be determined using the context model, the probability of occurrence of a bin may be predicted according to the determined context model, and arithmetic decoding of the bin may be performed to generate a symbol corresponding to the value of each syntax element. have.
  • the CABAC entropy decoding method may update the context model by using the information of the decoded symbol / bin for the context model of the next symbol / bean after determining the context model.
  • Information for generating the prediction block among the information decoded by the entropy decoding unit 210 is provided to the predictor 230, and a residual value where entropy decoding is performed by the entropy decoding unit 210, that is, a quantized transform coefficient It may be input to the reordering unit 215.
  • the reordering unit 215 may reorder the information of the bitstream entropy decoded by the entropy decoding unit 210, that is, the quantized transform coefficients, based on the reordering method in the encoding apparatus.
  • the reordering unit 215 may reorder the coefficients expressed in the form of a one-dimensional vector by restoring the coefficients in the form of a two-dimensional block.
  • the reordering unit 215 scans the coefficients based on the prediction mode applied to the current block (transform block) and the size of the transform block to generate an array of coefficients (quantized transform coefficients) in the form of a two-dimensional block. Can be.
  • the inverse quantization unit 220 may perform inverse quantization based on the quantization parameter provided by the encoding apparatus and the coefficient values of the rearranged block.
  • the inverse transform unit 225 may perform inverse DCT and / or inverse DST on the DCT and the DST performed by the transform unit of the encoding apparatus with respect to the quantization result performed by the video encoding apparatus.
  • the inverse transformation may be performed based on a transmission unit determined by the encoding apparatus or a division unit of an image.
  • the DCT and / or DST in the encoding unit of the encoding apparatus may be selectively performed according to a plurality of pieces of information, such as a prediction method, a size and a prediction direction of the current block, and the inverse transform unit 225 of the decoding apparatus is configured in the transformation unit of the encoding apparatus.
  • Inverse transformation may be performed based on the performed transformation information.
  • the prediction unit 230 may include prediction samples (or prediction sample arrays) based on prediction block generation related information provided by the entropy decoding unit 210 and previously decoded block and / or picture information provided by the memory 240.
  • a prediction block can be generated.
  • intra prediction for generating a prediction block based on pixel information in the current picture may be performed.
  • inter prediction on the current PU may be performed based on information included in at least one of a previous picture or a subsequent picture of the current picture.
  • motion information required for inter prediction of the current PU provided by the video encoding apparatus for example, a motion vector, a reference picture index, and the like, may be derived by checking a skip flag, a merge flag, and the like received from the encoding apparatus.
  • a prediction block may be generated such that a residual signal with a current block is minimized and a motion vector size is also minimized.
  • the motion information derivation scheme may vary depending on the prediction mode of the current block.
  • Prediction modes applied for inter prediction may include an advanced motion vector prediction (AMVP) mode, a merge mode, and the like.
  • AMVP advanced motion vector prediction
  • the encoding apparatus and the decoding apparatus may generate a merge candidate list by using the motion vector of the reconstructed spatial neighboring block and / or the motion vector corresponding to the Col block, which is a temporal neighboring block.
  • the motion vector of the candidate block selected from the merge candidate list is used as the motion vector of the current block.
  • the encoding apparatus may transmit, to the decoding apparatus, a merge index indicating a candidate block having an optimal motion vector selected from candidate blocks included in the merge candidate list. In this case, the decoding apparatus may derive the motion vector of the current block by using the merge index.
  • the encoding device and the decoding device use a motion vector corresponding to a motion vector of a reconstructed spatial neighboring block and / or a Col block, which is a temporal neighboring block, and a motion vector.
  • a predictor candidate list may be generated. That is, the motion vector of the reconstructed spatial neighboring block and / or the Col vector, which is a temporal neighboring block, may be used as a motion vector candidate.
  • the encoding apparatus may transmit the predicted motion vector index indicating the optimal motion vector selected from the motion vector candidates included in the list to the decoding apparatus. In this case, the decoding apparatus may select the predicted motion vector of the current block from the motion vector candidates included in the motion vector candidate list using the motion vector index.
  • the encoding apparatus may obtain a motion vector difference MVD between the motion vector MV of the current block and the motion vector predictor MVP, and may encode the same and transmit the encoded motion vector to the decoding device. That is, MVD may be obtained by subtracting MVP from MV of the current block.
  • the decoding apparatus may decode the received motion vector difference and derive the motion vector of the current block through the addition of the decoded motion vector difference and the motion vector predictor.
  • the encoding apparatus may also transmit a reference picture index or the like indicating the reference picture to the decoding apparatus.
  • the decoding apparatus may predict the motion vector of the current block using the motion information of the neighboring block, and may derive the motion vector for the current block using the residual received from the encoding apparatus.
  • the decoding apparatus may generate a prediction block for the current block based on the derived motion vector and the reference picture index information received from the encoding apparatus.
  • the encoding apparatus and the decoding apparatus may generate the merge candidate list using the motion information of the reconstructed neighboring block and / or the motion information of the call block. That is, the encoding apparatus and the decoding apparatus may use this as a merge candidate for the current block when there is motion information of the reconstructed neighboring block and / or the call block.
  • the encoding apparatus may select a merge candidate capable of providing an optimal encoding efficiency among the merge candidates included in the merge candidate list as motion information for the current block.
  • a merge index indicating the selected merge candidate may be included in the bitstream and transmitted to the decoding apparatus.
  • the decoding apparatus may select one of the merge candidates included in the merge candidate list by using the transmitted merge index, and determine the selected merge candidate as motion information of the current block. Therefore, when the merge mode is applied, motion information corresponding to the reconstructed neighboring block and / or the call block may be used as the motion information of the current block.
  • the decoding apparatus may reconstruct the current block by adding the prediction block and the residual transmitted from the encoding apparatus.
  • the motion information of the reconstructed neighboring block and / or the motion information of the call block may be used to derive the motion information of the current block.
  • the encoding apparatus does not transmit syntax information such as residual to the decoding apparatus other than information indicating which block motion information to use as the motion information of the current block.
  • the encoding apparatus and the decoding apparatus may generate the prediction block of the current block by performing motion compensation on the current block based on the derived motion information.
  • the prediction block may mean a motion compensated block generated as a result of performing motion compensation on the current block.
  • the plurality of motion compensated blocks may constitute one motion compensated image.
  • the reconstruction block may be generated using the prediction block generated by the predictor 230 and the residual block provided by the inverse transform unit 225.
  • the reconstructed block is generated by combining the prediction block and the residual block in the adder.
  • the adder may be viewed as a separate unit (restore block generation unit) for generating a reconstruction block.
  • the reconstruction block includes a reconstruction sample (or reconstruction sample array) as described above
  • the prediction block includes a prediction sample (or a prediction sample array)
  • the residual block is a residual sample (or a residual sample). Array).
  • a reconstructed sample (or reconstructed sample array) may be expressed as the sum of the corresponding predictive sample (or predictive sample array) and the residual sample (residual sample array).
  • the residual is not transmitted for the block to which the skip mode is applied, and the prediction block may be a reconstruction block.
  • the reconstructed block and / or picture may be provided to the filter unit 235.
  • the filter unit 235 may apply deblocking filtering, sample adaptive offset (SAO), and / or ALF to the reconstructed block and / or picture.
  • SAO sample adaptive offset
  • the memory 240 may store the reconstructed picture or block to use as a reference picture or reference block and provide the reconstructed picture to the output unit.
  • Components directly related to the decoding of an image for example, an entropy decoding unit 210, a reordering unit 215, an inverse quantization unit 220, an inverse transform unit 225, a prediction unit 230, and a filter unit ( 235) and the like may be distinguished from other components by a decoder or a decoder.
  • the decoding apparatus 200 may further include a parsing unit (not shown) for parsing information related to the encoded image included in the bitstream.
  • the parsing unit may include the entropy decoding unit 210 or may be included in the entropy decoding unit 210. Such a parser may also be implemented as one component of the decoder.
  • FIG 3 is a diagram schematically illustrating an embodiment of a candidate block that may be used when inter prediction is performed on a current block.
  • the current block may be a prediction block.
  • the prediction unit of the encoding apparatus and the decoding apparatus may use the reconstructed neighboring block at a predetermined position around the current block 300 as a candidate block.
  • two blocks A0 310 and A1 320 positioned to the left of the current block and three blocks B0 330, B1 340, and B2 350 located above the current block are spatially ( spatial) candidate blocks.
  • A0 310 may be referred to as a lower left neighboring block
  • A1 320 may be referred to as a left neighboring block.
  • B0 330 may be referred to as an upper right neighboring block
  • B1 340 may be referred to as an upper neighboring block
  • B2 350 may be referred to as an upper left neighboring block.
  • the Col block 360 described above may be used as a candidate block as a temporal candidate block in addition to the spatially adjacent blocks.
  • the Col block 360 may be referred to as a Col prediction block (ColPb), and is a block corresponding to the current block in a collocated picture, which is one of reconstructed reference pictures, and has a predetermined relative position (eg, The number of blocks that exist at an arithmetic shift according to a predetermined criterion from the lower right peripheral sample position or the center lower right sample position of the block existing at the same position as the current block in the Col picture. have.
  • a predetermined relative position eg, The number of blocks that exist at an arithmetic shift according to a predetermined criterion from the lower right peripheral sample position or the center lower right sample position of the block existing at the same position as the current block in the Col picture. have.
  • the MV of the best merge candidate among the merge candidate lists generated based on the candidate blocks is used as the MV for the current block.
  • the encoding apparatus encodes merge index information indicating the selected merge candidate in the merge candidate list and transmits the merge index information to the decoding apparatus through a bitstream.
  • the decoding apparatus may derive the MV of the merge candidate block selected from the merge candidate list as the MV for the current block based on the merge index information transmitted from the encoding apparatus.
  • the encoding apparatus may derive the reference block on the reference picture based on the MV of the current block and use the reference block as a prediction block for the current block. That is, samples in the reference block may be used as prediction samples for the current block.
  • an optimal MVP for the current block is selected from an MVP candidate list including motion vector predictor (MVP) candidates derived from candidate blocks.
  • the encoding apparatus derives an optimal MVP from the MVP candidate list based on the MV of the current block derived by performing motion estimation, and calculates an MVD obtained by subtracting the MVP from the MV.
  • the encoding apparatus encodes the bitstream by encoding MVP index information indicating which MVP candidate is the MVP for the current block among the MVP candidates included in the MVP candidate list, and MVD information indicating the x-axis value and the y-axis value of the obtained MVD. Through the transmission to the decoding device.
  • the decoding apparatus may derive the MVP for the current block from the MVP candidate list based on the MVP index information and the MVD information transmitted from the encoding apparatus, and derive the MV of the current block by adding the MVD to the derived MVP.
  • a reference block on a reference picture may be derived based on the MV of the current block, and the reference block may be used as a prediction block for the current block. That is, samples in the reference block may be used as prediction samples for the current block.
  • the decoding apparatus may receive the information about the residual sample from the encoding apparatus to generate the residual samples.
  • the information about the residual sample may include information about transform coefficients.
  • the decoding apparatus may receive transform coefficients from the encoding apparatus through a bitstream, and inversely transform the transform coefficients to generate a residual block (or residual samples).
  • the residual sample may indicate a difference between the original sample and the prediction sample
  • the residual block may indicate a difference between the original block including the original samples and the prediction block including the prediction samples.
  • the amount of data for information on the residual sample can be reduced, thereby improving the overall coding efficiency.
  • the prediction performance may be improved by applying filtering to the prediction block (prediction samples in the prediction block) based on reconstructed samples / block information located around the current block.
  • prediction performance may be improved by applying a Wiener filter based filtering to the prediction samples of the prediction block.
  • Wiener filter In order to apply the Wiener filter, filter coefficients must be determined, and thus, information on the filter coefficients needs to be transmitted and received.
  • a Wiener filter generated using only a small amount of side information can be applied to a prediction block to improve the prediction accuracy of the prediction block. By reducing the image compression efficiency can be increased.
  • a more suitable filter may be generated by reflecting a prediction mode, block partition information, and block characteristics.
  • the current block may be a coding block CB or a coding unit CU.
  • neighboring blocks here may be reconstructed blocks.
  • the filter coefficients of the Wiener filter for the current block may be derived based on the neighboring blocks 410, 420, 430, 440, and 450 of the current block 400. For example, by using the lower left peripheral block 410, the left peripheral block 420, the right upper peripheral block 430, the upper peripheral block 440, and the upper left peripheral block 450 of the current block 400. Filter coefficients for each of the neighboring blocks 410, 420, 430, 440, and 450 may be derived. Further, additional filter coefficients may be derived by combining filter coefficients for each of the neighboring blocks.
  • the neighboring blocks 410, 420, 430, 440, and 450 filter coefficients and / or the additional filter coefficients are filter coefficients candidates, and the selected filter coefficients are selected from the current block 400. Can be used as filter coefficients.
  • the encoding apparatus and the decoding apparatus may derive filter coefficients for the neighboring block based on the relationship between the neighboring block and the reference block of the neighboring block.
  • the reference block for the upper left peripheral block 450 may be the reference block 455. That is, the reference block 455 may be a block indicated by the MV of the upper left peripheral block 450 on the reference picture of the upper left peripheral block 450.
  • filter coefficients for the upper left peripheral block 450 may be derived based on the relationship between the upper left peripheral block 450 and the reference block 455. The same is true for other neighboring blocks.
  • a method of obtaining filter coefficients for the neighboring block based on the relationship between the neighboring block and the reference block of the neighboring block may be performed as follows, for example.
  • FIG. 5 shows an example of a method of obtaining Wiener filter coefficients for a neighboring block.
  • the neighboring block and its reference block have an 8 ⁇ 8 sample size
  • the Wiener filter has a 3 ⁇ 3 sample size.
  • the filter coefficients of the corresponding Wiener filter 560 may be the peripheral block 550. Are the filter coefficients of.
  • the Wiener filter may be sequentially applied to the remaining samples from the top-left sample of the reference block 555 to the raster scan order.
  • the size of the Wiener filter 560 is 3 ⁇ 3
  • one row of samples each padded up and down.
  • the size of the padded area may vary depending on the size of the winner filter 560. For example, when the size of the Wiener filter 560 is 5 ⁇ 5, two rows of samples may be padded on the left and right sides of the reference block 555 and one row of samples may be padded on the top and bottom sides, respectively.
  • the filter coefficients of the Wiener filter 560 may be arranged in one dimension in a predetermined order.
  • the equation for obtaining the Wiener filter 560 may be, for example, as follows.
  • R is a matrix consisting of samples of the reference block
  • h is a Wiener filter coefficient matrix
  • O is a sample of the neighboring block.
  • R T represents the transpose matrix of the matrix R.
  • Equation 1 may be expressed as follows.
  • Equation 2 since the size of the reference block and the neighboring block is 8 ⁇ 8, one matrix relation equation as shown in Equation 2 may be derived for each sample in the neighboring block, and for all samples in the neighboring block, A total of 64 relations can be derived.
  • Equation 3 When the sum operation is completed in Equation 3, a matrix equation is derived for each of the left and right sides. Since h is to be obtained, h can be obtained by multiplying the inverse of the term before h by the left and right sides, and Wiener filter coefficients can be obtained.
  • optimal filter coefficients for the current block may be selected based on the obtained filter coefficient candidates.
  • the encoding apparatus may apply the filter coefficient candidates to the current block, and select filter coefficients that minimize error with the original block based on the candidates.
  • the encoding device may encode a flag indicating whether a Wiener filter is enabled and an index of selected filter coefficients and transmit the encoded signal to the decoding device.
  • the flag may be called a filter flag, a winner filter flag, or a WF flag.
  • the index may be called a filter index, a Wiener filter index, or a WF index.
  • the decoding apparatus decodes the received flag and index, determines whether a Wiener filter is available for the current block based on the flag, and applies filter coefficients for applying the Wiener filter based on the index to the neighboring block. Or from the filter coefficient candidates.
  • the index may indicate one of the separately configured filter coefficient candidates or may indicate one of the neighboring candidate blocks.
  • the order of the index number may be determined in any order.
  • the left peripheral block 410 may be based on the lower left peripheral block 410, the left peripheral block 420, the upper right peripheral block 430, the upper peripheral block 440 and the upper left peripheral block 450, or the left peripheral It may be based on the block 420, the upper peripheral block 440, the upper right peripheral block 430, the lower left peripheral block 410, and the upper left peripheral block 450.
  • the lower left peripheral block 410 is a2
  • the left peripheral block 420 is a1
  • the upper right peripheral block 430 is b2
  • the upper peripheral block 440 is b1 and the upper left peripheral block (
  • 450 is b0
  • the order of the index number may follow one of the methods shown in the following table.
  • the Wiener filter coefficient for each of the neighboring blocks 410, 420, 430, 440, and 450 may be determined in the following units, for example.
  • whether the Wiener filter is applied to the current block may be determined by referring to the prediction mode and the partitioning mode of the current block 400.
  • the Wiener filter may not be applied in the following cases.
  • the encoding apparatus may not transmit the flag, and the decoding apparatus may implicitly determine that the Wiener filter is not available.
  • the Wiener filter may not be available in consideration of the amount of data consumed for encoding the flag and the index, which are additional information added for the Wiener filter application.
  • the coding block is partitioned into a plurality of prediction blocks.
  • FIG. 6 shows the number and shape of prediction blocks in a coding block according to a partitioning mode.
  • (a) indicates that partition mode is 2N ⁇ 2N
  • (b) indicates partition mode is N ⁇ 2N
  • (c) indicates partition mode is 2N ⁇ N
  • (d) indicates partition
  • (e) indicates that the partition mode is nL ⁇ 2N
  • (f) indicates that the partition mode is 2N ⁇ nU
  • (g) indicates that the partition mode is nR ⁇ 2N.
  • the case where the mode is 2N x nD is shown.
  • the coding block is partitioned into a plurality of prediction blocks, and considering that the coding block may have different coding characteristics such as different MVs between the prediction blocks, Applying the same Wiener filter to the prediction blocks may rather result in lower overall efficiency of prediction. Thus, if the partitioning mode is not 2N ⁇ 2N, the Wiener filter can be made unavailable.
  • the current block may be a coding block.
  • the decoding apparatus receives a skip flag through a bitstream and checks whether a value of the skip flag indicates 1 (S700).
  • the value of the skip flag is 1, it indicates that the prediction mode for the current block is the skip mode.
  • the skip mode may mean that there is no residual signal regarding a difference between original samples and prediction samples for the current block.
  • the skip mode is not applied as a prediction mode for the current block.
  • the decoding apparatus performs a prediction procedure according to the skip mode related prediction tool (S710). For example, when the value of the skip flag is 1, the decoding apparatus may derive the partitioning mode for the current block as 2N ⁇ 2N without receiving the partitioning mode information for the current block. That is, in this case, the decoding apparatus may derive a prediction block having the same size as that of the coding block and perform prediction based on the skip mode for the prediction block. Specifically, for example, the decoding apparatus receives a merge index, performs inter prediction using the MV of the block indicated by the merge index among the neighboring blocks of the prediction block as the MV of the current block, and reconstructs the derived prediction samples. Samples are available.
  • the decoding apparatus does not receive / parse the WF flag and the WF index, and implicitly determines that the Wiener filter is not applied or available.
  • the decoding apparatus receives prediction related information (S720).
  • the prediction related information may include information about a partitioning mode and information about a prediction mode.
  • the information about the partitioning mode indicates one of 2N ⁇ 2N, N ⁇ 2N, 2N ⁇ N, N ⁇ N, nL ⁇ 2N, 2N ⁇ nU, nR ⁇ 2N, and 2N ⁇ nD as the partitioning mode for the current block. can do.
  • the information about the prediction mode indicates an inter prediction mode for at least one prediction block in the current block.
  • the inter prediction mode may include a merge mode and an AMVP mode.
  • the decoding apparatus checks whether the partitioning mode for the current block indicates 2N ⁇ 2N (S730).
  • the decoding apparatus performs a prediction procedure according to an associated prediction tool (S740). For example, the decoding apparatus may derive a prediction block having a size equal to the size of the coding block that is the current block and perform inter prediction on the prediction block. For example, the decoding apparatus parses a merge flag and determines whether a merge mode or an advanced motion vector prediction (AMVP) mode is applied to the prediction block. When the merge mode is applied, the decoding apparatus may parse the merge index, derive the MV of the neighboring block as the MV of the prediction block based on the merge index, and generate the prediction samples based on the derived MV.
  • an associated prediction tool S740. For example, the decoding apparatus may derive a prediction block having a size equal to the size of the coding block that is the current block and perform inter prediction on the prediction block. For example, the decoding apparatus parses a merge flag and determines whether a merge mode or an advanced motion vector prediction (AMVP) mode is applied to the prediction block. When the merge mode is
  • the decoding apparatus parses the mvp index, derives the MV of the neighboring block as the MVP of the prediction block based on the mvp index, adds the received MVD to the MVP, and derives the MV. Prediction samples can be generated based on the MV.
  • the decoding apparatus parses the WF flag and checks whether the value of the WF flag indicates 1 (S750). When the value of the WF flag indicates 1, it means the availability or application of the Wiener filter to the current block. When the value of the WF flag indicates 0, it means that a Wiener filter for the current block is not available.
  • the decoding apparatus parses the WF index and derives Wiener filter coefficients of the current block based on the WF index and neighboring blocks of the current block (S760).
  • the decoding apparatus may reduce the difference between the prediction samples and the original samples by applying filtering to the prediction samples in the current block based on the Wiener filter coefficients.
  • the decoding apparatus partitions the current block into a plurality of prediction blocks based on the partitioning mode, and, for the prediction blocks, an associated prediction tool.
  • the decoding apparatus may derive a plurality of prediction blocks according to the partitioning mode from the coding block which is the current block, and perform inter prediction on each of the prediction blocks.
  • the decoding apparatus parses a merge flag for each of the prediction blocks, and determines whether a merge mode or an advanced motion vector prediction (AMVP) mode is applied to each of the prediction blocks based on the merge flag.
  • the inter prediction may be performed according to the determined mode.
  • the decoding apparatus does not receive / parse the WF flag and the WF index, and implicitly determines that the Wiener filter is not applied or available.
  • the application of the Wiener filter may be performed in units of prediction blocks instead of units of coding blocks. If the partitioning mode is not 2N ⁇ 2N, a plurality of prediction blocks exist in the same coding block, in which case a constraint arises in deriving a neighboring block to use to derive Wiener filter coefficients.
  • FIG. 8 shows an example of neighboring blocks that can be considered for deriving Wiener filter coefficients.
  • (a) shows neighboring blocks considered when applying the Wiener filter in units of coding blocks
  • (b) and (c) show neighboring blocks considered when applying the Wiener filter in units of prediction blocks.
  • the region of neighboring blocks considered in deriving Wiener filter coefficients for each of the first and second prediction blocks of (b) and (c) may include the Wiener filter coefficients for the coding block of (a). There is a difference from the area of the neighboring blocks considered in derivation.
  • FIG. 9 illustrates an example of neighboring blocks that can be considered for deriving Wiener filter coefficients for each prediction block when the partitioning mode is N ⁇ N.
  • (b) shows (b) for the second prediction block (partIdx 1) with partitioning mode N ⁇ N.
  • the positions of neighboring (candidate) blocks changed based on the prediction block as in the case of (b) and (c) of FIG.
  • a block (shaded portion) belonging to another prediction block in the same coding block is not available.
  • the Wiener filter application is always disabled for the current prediction block, and the Wiener filter related information (for example, WF flag and WF index) is not transmitted.
  • the Wiener filter related information for example, WF flag and WF index
  • one of the Wiener filter coefficients used for other prediction blocks in the same coding block is selected and used.
  • the WF index indicates which prediction block among other prediction blocks in the same coding block to obtain the Wiener filter coefficients based on the current prediction block. If the Wiener filter is not applied to all other prediction blocks in the same coding block, the Wiener filter application is not applied to the current block, and the Wiener filter related information is not transmitted.
  • Wiener filter coefficients for the current block may be obtained by using temporal prediction information.
  • the current block may be, for example, a prediction block or may be a coding block.
  • the temporal predictor may represent a temporal candidate block.
  • a temporal predictor may obtain from a collocated block existing at the same position as a current block position in a collocated picture which is one of reconstructed reference pictures.
  • the call picture may be assigned to a current slice including a current block or determined through signaling.
  • the division and partitioning structure may be set differently for each picture according to image characteristics.
  • the co-located block on the call picture may be part of one block, for example, or may include multiple blocks.
  • blocks of positions as shown in FIG. 11 may be considered.
  • 11 shows an example of candidate blocks that are considered to obtain a temporal predictor.
  • the same position block is not used as it is, but the lower right side peripheral block A or the center lower right block B of the same position block may be used.
  • the motion information of the lower right peripheral block A may be utilized, and if the right lower peripheral block A is not available, the motion information of the center lower right block B may be utilized.
  • the lower right peripheral block A may be represented based on the top-left sample position (first sample position) of the lower right peripheral block A
  • the center lower right block B is the center lower right peripheral block B It can be represented based on the upper left sample position of (second sample position).
  • the first sample position is located outside the boundary of the call picture, or the first sample position is located outside the CTU (or LCU (largest coding unit) to which the co-located block belongs, based on the y-axis direction.
  • the lower right peripheral block A (and the first sample position) may not be available.
  • the right bottom peripheral block A is intra predicted, the right bottom peripheral block A may not be available.
  • the reference block on the reference picture for the right lower peripheral block A may be found using the MV for the right lower peripheral block A, and Wiener filter coefficients may be obtained based on the right lower peripheral block A and the reference block. have.
  • the reference block on the reference picture for the center lower right block B may be found using the MV for the lower right block B, and Wiener filter coefficients may be obtained based on the center lower right block B and the reference block.
  • the method for obtaining Wiener filter coefficients is as described above.
  • a unit for obtaining Wiener filter coefficients may be determined as follows.
  • the lower right peripheral block A or the center lower right block B may be referred to as a corresponding block.
  • Predictive block including corresponding block
  • the temporal candidate block may be represented by T (or Col).
  • T is added after each index order in Table 1.
  • T may be entered instead of all in Table 1, and an arbitrary index order derived from experiments may be used.
  • the index position may be signaled at a sequence parameter set (SPS), picture parameter set (PPS), or slice level.
  • SPS sequence parameter set
  • PPS picture parameter set
  • slice level slice level
  • the Wiener filter coefficient may be obtained from the block including the temporal prediction information and the reference block as described above, the Wiener filter coefficient may be obtained from the information of the wider region.
  • the region may be defined as follows in the call picture.
  • CTB Coding tree block
  • the divided region may be formed of multiples of the CTB except for the region located at the far left end and the bottom far end.
  • phase of the motion vector at d may be expressed as follows.
  • FIG. 12 shows an example of a motion vector phase in accordance with the present invention.
  • Wiener filter coefficients may be obtained based on all prediction blocks having the same phase as the motion vector phase of the temporal predictor and its reference blocks in the call picture.
  • the prediction blocks may be those within the same slice or the same picture.
  • the partitioning may be performed into the slice in the call picture or the area having the same size as a multiple of CTB with respect to the call picture in e.
  • the divided region may be represented as follows.
  • FIG. 13 shows a divided region for obtaining Wiener filter coefficients according to the present invention.
  • the call picture 1300 may be divided into regions having the same size that is a multiple of the CTB.
  • the call picture 1300 may include the region 1 1310, the region 2 1320, the region 3 1330, the region 4 1340, and the region 5 1350 as shown. ), And region 6 (1360).
  • the temporal predictor 1315 is located in the CTB 1311, and the CTB 1311 is included in the region 1 1310, that is, the temporal predictor 1315 is located in the region 1 1310.
  • Region 1 1310 is determined as the region for obtaining Wiener filter coefficients.
  • Wiener filter coefficients for the region 1 1310 may be obtained by using all blocks included in the region 1 1310 and reference blocks thereof.
  • the candidate block that is identical to the candidate block indicated by the merge index among the merge candidate blocks is Wiener filter coefficients.
  • a temporal merge candidate may be used as the temporal predictor (ie, a temporal candidate for Wiener filter coefficients).
  • the Wiener filter candidates are positioned at the positions of the merge candidates. The selection of a particular candidate in the skip mode or the merge mode may be interpreted that the candidate has the characteristics most similar to the current block, and thus a Wiener filter coefficient may be derived from the candidate block and used for the current block. In this case, the amount of data required for separately encoding the WF index can be reduced.
  • a condition for deriving an index for deriving Wiener filter coefficients from the merge index may be as follows.
  • the Wiener filter coefficients may be derived using the method described above with reference to FIGS. 8 and 9.
  • FIG. 14 schematically shows an example of an image encoding method according to the present invention.
  • the method disclosed in FIG. 14 may be performed by an encoding device.
  • the encoding apparatus generates prediction samples for the current block (S1400).
  • the current block may be a coding block or a prediction block.
  • the coding block may include one or a plurality of prediction blocks according to a partitioning mode.
  • the encoding apparatus derives an MV through motion estimation for each of the one or more prediction blocks, finds a reference block on the reconstructed reference picture based on the derived MV for each of the prediction blocks, and A prediction sample of the prediction block may be derived based on the reconstructed samples in the block.
  • the encoding apparatus may derive prediction samples for the coding block by collecting prediction samples generated in units of prediction blocks.
  • the encoding apparatus derives an optimal MV through motion estimation for the prediction block, and extracts a reference block on the reconstructed reference picture based on the derived MV for the prediction block.
  • the prediction sample of the corresponding prediction block may be derived based on the reconstructed samples in the reference block.
  • the encoding apparatus determines whether a Wiener filter is available for the current block (S1410).
  • the encoding apparatus may determine whether the Wiener filter is available by comparing a rate-distortion (RD) cost between when the Wiener filter is applied and when it is not applied.
  • the encoding apparatus may generate a Wiener filter flag based on the determination result.
  • the encoding apparatus may set the value of the winner filter flag to 1 when the winner filter is available, and set the value of the winner filter flag to 0 when the winner filter is not available.
  • the encoding apparatus may determine that the Wiener filter is not available when at least one of the prediction mode for the current block is a skip mode or the partitioning mode for the current block is 2N ⁇ 2N. have. In this case, the encoding apparatus may not generate the Wiener filter flag. This is because the decoding apparatus may also implicitly determine that the Wiener flag is not available according to the same criterion.
  • the current block is a prediction block
  • the prediction block is partitioned from a coding block based on partitioning mode N ⁇ N
  • the prediction block has a partitioning mode N ⁇ N in the coding block with partIdx of 3
  • the encoding apparatus may determine that the Wiener filter is not available. In this case, the encoding apparatus may not generate the Wiener filter flag for the same reason as described above.
  • the encoding apparatus derives Wiener filter coefficients for the current block based on one candidate from the Wiener filter candidate list (S1420).
  • the encoding apparatus may generate the Wiener filter candidate list based on spatial neighboring blocks.
  • the encoding apparatus may further generate the Wiener filter candidate list based on the temporal corresponding block.
  • the winner filter candidate list may include the winner filter candidates disclosed in Tables 1 and 2 described above.
  • the encoding apparatus may generate a winner filter index indicating a winner filter candidate selected from the winner filter candidate list.
  • Wiener filter coefficients for the selected candidate block may be derived as Wiener filter coefficients for the current block.
  • Wiener filter coefficients for the selected candidate block may be derived based on a relationship between the candidate block and a reference block of the candidate block.
  • a method of deriving Wiener filter coefficients for each of the spatial neighboring blocks or the temporal corresponding blocks is as described above with reference to FIG. 5.
  • the temporal corresponding block may be a lower right peripheral block or center lower right block of a collocated block located on a collocated picture which is one of the reference pictures.
  • the temporal correspondence block is an arithmetic right shift by n on the x and y axes from the lower right peripheral block or the center lower right block of the same position block located on the call picture which is one of the reference pictures. It may also be a block in the arithmetic left shift position after the. That is, when the top-left sample position of the right lower peripheral block or the center lower right block is (x 0 , y 0 ), the temporal corresponding block is ((x 0 >> n) ⁇ n, (y 0 >> n) ⁇ n) may be a block covering the sample position. N may be 2, 3, 4, 5, or 6 as a positive integer.
  • the temporal correspondence block may be a coding block (CB) or a coding tree block (CTB) including a lower right peripheral block or a lower right center block of the same position block located on one of the reference pictures. It may be.
  • CB coding block
  • CTB coding tree block
  • the temporal corresponding block may be a CTB row or a CTB column including a lower right peripheral block or a lower right center block of the same position block located on a call picture which is one of reference pictures.
  • the temporal corresponding block may correspond to an area having a motion vector of the same phase as the motion vector phase of the lower right peripheral block or the center lower right block of the same position block located on the call picture which is one of the reference pictures. have.
  • the temporal correspondence block is an area including a lower right peripheral block or a lower right center block of the same position block located on a call picture, which is one of reference pictures, and the area is within the call picture or the call picture.
  • the slice may be a region obtained by dividing the slice into a predetermined size and number. At this time, the width and / or length of the region may be made of multiples of the CTB.
  • the current block is a prediction block
  • the prediction block is partitioned from a coding block based on a partitioning mode N ⁇ N
  • the prediction block has a partitioning mode N ⁇ N in the coding block with partIdx of 3
  • the Wiener filter candidate list is generated based on prediction blocks having partIdx of 0 to 2 located in the coding block
  • the encoding apparatus is configured in the coding block to derive Wiener filter coefficients for the current block.
  • Select one of prediction blocks having partIdx of 0 to 2 located therein, and the encoding apparatus generates the Wiener filter index indicating a selected prediction block among prediction blocks having partIdx of 0 to 2 located within the coding block.
  • the Wiener filter coefficients for the selected prediction block may be the same as the Wiener filter coefficients selected for filtering the selected prediction block.
  • the encoding apparatus filters the prediction samples for the current block based on the derived Wiener filter coefficients (S1430).
  • the encoding apparatus may generate predictive samples more similar to the original sample through the filtering, thereby reducing the amount of data for the residual samples.
  • the encoding apparatus derives residual samples based on the original samples and the filtered prediction samples (S1440).
  • the encoding apparatus may derive the residual samples by subtracting original samples in the original picture corresponding to the current block and the filtered prediction samples.
  • the encoding apparatus encodes and outputs prediction related information, residual information, and winner filter information (S1450).
  • the encoding apparatus may entropy-encode the prediction related information, the residual information, and the sound winner filter information and output the result in a bitstream form.
  • the output bitstream may be transmitted or transmitted to the decoding apparatus through a network or a storage medium.
  • the prediction related information may include prediction mode information and partitioning mode information on the current block.
  • the residual information is information about the residual samples, and may include, for example, transform coefficients in the frequency domain for the residual samples.
  • the winner filter information may include, for example, the winner filter flag and the winner filter index as information related to the winner filter.
  • FIG. 15 schematically illustrates an example of an image decoding method according to the present invention.
  • the method disclosed in FIG. 15 may be performed by a decoding apparatus.
  • the decoding apparatus obtains prediction related information, residual information, and winner filter information from a bitstream received from an encoding apparatus (S1500).
  • the decoding apparatus may entropy decode the bitstream to obtain the prediction related information, the residual information, and the Wiener filter information.
  • the prediction related information may include prediction mode information and partitioning mode information on the current block.
  • the residual information is information about the residual samples, and may include, for example, transform coefficients in the frequency domain for the residual samples.
  • the winner filter information may include, for example, a winner filter flag and a winner filter index as information related to the winner filter. The winner filter information may be omitted in some cases.
  • the decoding apparatus generates prediction samples for the current block (S1510).
  • the current block may be a coding block or a prediction block.
  • the coding block may include one or a plurality of prediction blocks according to a partitioning mode.
  • the decoding apparatus derives an MV based on a merge index or an mvp index for each of the one or multiple prediction blocks, and extracts a reference block on the reconstructed reference picture based on the derived MV for each of the prediction blocks.
  • the prediction sample of the corresponding prediction block may be derived based on the reconstructed samples in the reference block.
  • the decoding apparatus may derive prediction samples for the coding block by collecting prediction samples generated in units of prediction blocks.
  • the decoding apparatus derives the MV through the merge index or the mvp index for the prediction block, and the reference block on the reconstructed reference picture based on the derived MV for the prediction block.
  • a prediction sample of the corresponding prediction block may be derived based on the reconstructed samples in the reference block.
  • the decoding apparatus may determine the current block based on the merge candidate list configured according to a predefined method and the merge index obtained from the bitstream.
  • An MV may be derived, and the prediction samples in the prediction block may be generated based on the MV.
  • the decoding apparatus determines whether a Wiener filter is available for the current block (S1520).
  • the decoding apparatus may explicitly receive a Wiener filter flag through the bitstream, and determine whether the Wiener filter is available for the current block based on the Wiener filter flag.
  • the decoding apparatus implicitly determines that the Wiener filter is not available when at least one of the prediction mode for the current block is a skip mode or the partitioning mode for the current block is 2N ⁇ 2N. You may. In this case, the decoding apparatus may not receive or parse the Wiener filter flag from the bitstream. In this case, the decoding apparatus may estimate or determine the value of the Wiener filter flag as 0.
  • the current block is a prediction block
  • the prediction block is partitioned from a coding block based on partitioning mode N ⁇ N
  • the prediction block has a partitioning mode N ⁇ N in the coding block with partIdx of 3
  • the decoding apparatus may determine that the Wiener filter is not available. In this case, the decoding apparatus may not receive or parse the Wiener filter flag from the bitstream. In this case, the decoding apparatus may estimate or determine the value of the Wiener filter flag as 0.
  • the decoding apparatus When the winner filter is available, the decoding apparatus generates a winner filter candidate list based on spatial neighboring blocks of the current block, and derives winner filter coefficients for the current block based on the candidate block in the winner filter candidate list. (S1530).
  • the decoding apparatus may generate the Wiener filter candidate list further based on the temporal corresponding block.
  • the winner filter candidate list may include the winner filter candidates disclosed in Tables 1 and 2 described above.
  • the decoding apparatus may obtain a Wiener filter index from the bitstream and select one candidate block from the Wiener filter candidate list based on the Wiener filter index.
  • Wiener filter coefficients for the selected candidate block may be derived as Wiener filter coefficients for the current block.
  • Wiener filter coefficients for the selected candidate block may be derived based on a relationship between the candidate block and a reference block of the candidate block.
  • a method of deriving Wiener filter coefficients for each of the spatial neighboring blocks or the temporal corresponding blocks is as described above with reference to FIG.
  • the temporal corresponding block may be a lower right peripheral block or center lower right block of a collocated block located on a collocated picture which is one of the reference pictures.
  • the temporal correspondence block is an arithmetic right shift by n on the x and y axes from the lower right peripheral block or the center lower right block of the same position block located on the call picture which is one of the reference pictures. It may also be a block in the arithmetic left shift position after the. That is, when the top-left sample position of the right lower peripheral block or the center lower right block is (x 0 , y 0 ), the temporal corresponding block is ((x 0 >> n) ⁇ n, (y 0 >> n) ⁇ n) may be a block covering the sample position. N may be 2, 3, 4, 5, or 6 as a positive integer.
  • the temporal correspondence block may be a coding block (CB) or a coding tree block (CTB) including a lower right peripheral block or a lower right center block of the same position block located on one of the reference pictures. It may be.
  • CB coding block
  • CTB coding tree block
  • the temporal corresponding block may be a CTB row or a CTB column including a lower right peripheral block or a lower right center block of the same position block located on a call picture which is one of reference pictures.
  • the temporal corresponding block may correspond to an area having a motion vector of the same phase as the motion vector phase of the lower right peripheral block or the center lower right block of the same position block located on the call picture which is one of the reference pictures. have.
  • the temporal correspondence block is an area including a lower right peripheral block or a lower right center block of the same position block located on a call picture, which is one of reference pictures, and the area is within the call picture or the call picture.
  • the slice may be a region obtained by dividing the slice into a predetermined size and number. At this time, the width and / or length of the region may be made of multiples of the CTB.
  • the current block is a prediction block
  • the prediction block is partitioned from a coding block based on a partitioning mode N ⁇ N
  • the prediction block has a partitioning mode N ⁇ N in the coding block with partIdx of 3
  • the Wiener filter candidate list is generated based on prediction blocks having partIdx of 0 to 2 located in the coding block among the spatial neighboring blocks, and the Wiener filter index obtained from the bitstream is the coding.
  • the decoding apparatus may select one of the prediction blocks having partIdx located in the coding block from 0 to 2 based on the Wiener filter index. have.
  • the Wiener filter coefficients for the selected prediction block may be the same as the Wiener filter coefficients selected for filtering the selected prediction block.
  • Wiener filter coefficients for the selected candidate block may be derived as Wiener filter coefficients for the current block.
  • the decoding apparatus filters the prediction samples based on the derived Wiener filter coefficients (S1540).
  • the decoding apparatus may generate predictive samples more similar to the original sample through the filtering, thereby reducing the amount of data for the residual samples.
  • the decoding apparatus generates a reconstructed picture based on the filtered prediction samples and the residual samples (S1550).
  • the decoding apparatus may derive residual samples for the current block based on the acquired residual information, and generate reconstructed samples by adding the filtered prediction samples and the residual samples for the current block. Can be.
  • the decoding apparatus may generate the reconstructed picture based on the reconstructed samples.
  • the prediction efficiency can be increased by filtering the prediction samples based on the Wiener filter coefficients, and the amount of data for the residual signal transmission can be reduced, thereby increasing the overall coding efficiency.
  • the above-described method may be implemented as a module (process, function, etc.) for performing the above-described function.
  • the module may be stored in memory and executed by a processor.
  • the memory may be internal or external to the processor and may be coupled to the processor by various well known means.
  • the processor may include application-specific integrated circuits (ASICs), other chipsets, logic circuits, and / or data processing devices.
  • the memory may include read-only memory (ROM), random access memory (RAM), flash memory, memory card, storage medium and / or other storage device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 디코딩 장치에 의하여 수행되는 인터 예측 방법은 수신된 비트스트림으로부터 예측 관련 정보 및 레지듀얼 정보를 획득하는 단계, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들을 도출하는 단계, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계, 상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 단계, 및 상기 필터링된 예측 샘플들과 상기 레지듀얼 샘플들을 기반으로 복원 픽처를 생성하는 단계를 포함함을 특징으로 한다. 본 발명에 따르면, 레지듀얼 신호를 위한 데이터량을 줄이고 코딩 효율을 향상시킬 수 있다.

Description

영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치
본 발명은 영상 코딩 기술에 관한 것으로서 보다 상세하게는 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 전송되는 정보량 또는 비트량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 영상 데이터를 저장하는 경우, 전송 비용과 저장 비용이 증가된다.
이에 따라, 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술이 요구된다.
본 발명의 기술적 과제는 영상 코딩 효율을 높이는 방법 및 장치를 제공함에 있다.
본 발명의 다른 기술적 과제는 예측의 성능을 향상시키기 위한 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 인터 예측(inter prediction)의 성능을 향상시키기 위한 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 예측 샘플들에 위너 필터(Wiener filter)를 적용하여 예측 성능을 향상시키는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 위너 필터에 대한 부가 정보를 줄이면서 예측 샘플들에 효율적으로 필터링을 적용하는 방법 및 장치를 제공함에 있다.
본 발명의 일 실시예에 따르면, 디코딩 장치에 의하여 수행되는 영상 디코딩 방법이 제공된다. 상기 방법은 수신된 비트스트림으로부터 예측 관련 정보 및 레지듀얼 정보를 획득하는 단계, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계, 상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하는 단계, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계, 상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 단계, 및 상기 필터링된 예측 샘플들과 상기 레지듀얼 샘플들을 기반으로 복원 픽처(reconstructed picture)를 생성하는 단계를 포함함을 특징으로 한다.
본 발명의 다른 일 실시예에 따르면, 영상 디코딩을 수행하는 디코딩 장치가 제공된다. 상기 디코딩 장치는 수신된 비트스트림으로부터 예측 관련 정보 및 레지듀얼 정보를 획득하는 디코딩부, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하고, 상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하고, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하고, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 예측부, 상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 생성하는 역변환부, 상기 필터링된 예측 샘플들과 상기 레지듀얼 샘플들을 기반으로 복원 픽처를 생성하는 가산기를 포함함을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 인코딩 장치에 의하여 수행되는 영상 인코딩 방법을 제공한다. 상기 방법은 인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하는 단계, 상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하는 단계, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계, 원본 샘플들 및 상기 필터링된 예측 샘플들을 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 단계, 및 상기 현재 블록에 대한 예측 관련 정보, 상기 레지듀얼 샘플들에 대한 레지듀얼 정보 및 위너 필터 정보를 인코딩하여 출력하는 단계를 포함함을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 영상 인코딩을 수행하는 인코딩 장치를 제공한다. 상기 인코딩 장치는 인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하고, 상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하고, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하고, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 예측부, 원본 샘플들 및 상기 필터링된 예측 샘플들을 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 감산부, 및 상기 현재 블록에 대한 예측 관련 정보, 상기 레지듀얼 샘플들에 대한 레지듀얼 정보 및 위너 필터 정보를 인코딩하여 출력하는 인코딩부를 포함함을 특징으로 한다.
본 발명에 따르면, 적은 부가 정보를 사용하면서 현재 블록에 대한 위너 필터 계수들을 효율적으로 도출할 수 있다. 또한, 본 발명에 따르면 위너 필터 계수들에 기반한 예측 샘플들에 대한 필터링을 통하여 예측 효율을 높일 수 있고, 레지듀얼 신호 전송을 위한 데이터량을 줄일 수 있는바, 전반적인 코딩 효율이 증가될 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 도시한 블록도이다.
도 3은 현재 블록에 대해 인터 예측이 수행되는 경우에 이용될 수 있는 후보 블록의 일 실시예를 개략적으로 설명하는 도면이다.
도 4는 현재 블록의 주변 블록들을 기반으로 필터 계수들 도출 방법을 예시적으로 나타낸다.
도 5는 주변 블록에 대한 위너 필터 계수들을 구하는 방법의 일 예를 나타낸다.
도 6은 파티셔닝 모드에 따른 코딩 블록 내 예측 블록들의 개수 및 모양을 나타낸다.
도 7은 현재 블록의 예측 모드 및 상기 현재 블록에 대한 파티셔닝 모드를 기반으로 위너 필터가 가용/불가용되는 예를 나타낸다.
도 8은 위너 필터 계수들 도출을 위하여 고려 가능한 주변 블록들의 예를 나타낸다.
도 9는 파티셔닝 모드가 N×N인 경우의 각 예측 블록별로 위너 필터 계수들 도출을 위하여 고려 가능한 주변 블록들의 예를 나타낸다.
도 10은 위너 필터 계수들을 구하기 위한 시간적 예측자(predictor)를 구하는 방법의 예를 나타낸다.
도 11은 시간적 예측자를 구하기 위하여 고려되는 후보 블록들의 예를 나탄내다.
도 12는 본 발명에 따른 움직임 벡터 페이즈의 예를 나타낸다.
도 13은 본 발명에 따른 위너 필터 계수를 구하기 위하여 분할된 영역을 나타낸다.
도 14는 본 발명에 따른 영상 인코딩 방법의 일 예를 개략적으로 나타낸다.
도 15는 본 발명에 따른 영상 디코딩 방법의 일 예를 개략적으로 나타낸다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니다. 본 명세서에서 사용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 비디오 인코딩 장치/디코딩 장치에서 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명에 포함된다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 1을 참조하면, 인코딩 장치(100)는 픽처 분할부(105), 예측부(110), 변환부(115), 양자화부(120), 재정렬부(125), 엔트로피 인코딩부(130), 역양자화부(135), 역변환부(140), 필터부(145) 및 메모리(150)를 구비한다.
픽처 분할부(105)는 입력된 픽처를 적어도 하나의 처리 단위 블록으로 분할할 수 있다. 이때, 처리 단위로서의 블록은 예측 유닛(Prediction Unit, PU)일 수도 있고, 변환 유닛(Transform Unit, TU)일 수도 있으며, 코딩 유닛(Coding Unit, CU)일 수도 있다. 픽처는 복수의 코딩 트리 유닛(Coding Tree Unit, CTU)들로 구성될 수 있으며, 각각의 CTU는 쿼드 트리(quad-tree) 구조로 CU들로 분할(split)될 수 있다. CU는 보다 하위(deeper) 뎁스의 CU들로 쿼드 트리 구조로 분할될 수도 있다. PU 및 TU는 CU로부터 획득될 수 있다. 예를 들어, PU는 CU로부터 대칭 또는 비대칭 사각형 구조로 파티셔닝(partitioning)될 수 있다. 또한 TU는 CU로부터 쿼드 트리 구조로 분할될 수도 있다.
예측부(110)는 후술하는 바와 같이, 인터 예측을 수행하는 인터 예측부와 인트라 예측을 수행하는 인트라 예측부를 포함한다. 예측부(110)는, 픽처 분할부(105)에서 픽처의 처리 단위에 대하여 예측을 수행하여 예측 샘플(또는 예측 샘플 어레이)을 포함하는 예측 블록을 생성한다. 예측부(110)에서 픽처의 처리 단위는 CU일 수도 있고, TU일 수도 있고, PU일 수도 있다. 또한, 예측부(110)는 해당 처리 단위에 대하여 실시되는 예측이 인터 예측인지 인트라 예측인지를 결정하고, 각 예측 방법의 구체적인 내용(예컨대, 예측 모드 등)을 정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 예측 방법의 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 PU 단위로 결정되고, 예측의 수행은 TU 단위로 수행될 수도 있다.
인터 예측을 통해서는 현재 픽처의 이전 픽처 및/또는 이후 픽처 중 적어도 하나의 픽처의 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다. 또한, 인트라 예측을 통해서는 현재 픽처 내의 픽셀 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다.
인터 예측의 방법으로서, 스킵(skip) 모드, 머지(merge) 모드, AMVP(Advanced Motion Vector Prediction) 등을 이용할 수 있다. 인터 예측에서는 PU에 대하여, 참조 픽처를 선택하고 PU에 대응하는 참조 블록을 선택할 수 있다. 참조 블록은 정수 픽셀(또는 샘플) 또는 분수 픽셀(또는 샘플) 단위로 선택될 수 있다. 이어서, PU와의 레지듀얼(residual) 신호가 최소화되며 움직임 벡터 크기 역시 최소가 되는 예측 블록이 생성된다. 본 명세서에서 픽셀과 샘플은 서로 혼용될 수 있다.
예측 블록은 정수 픽셀 단위로 생성될 수도 있고, 1/2 픽셀 단위 또는 1/4 픽셀 단위와 같이 정수 이하 픽셀 단위로 생성될 수도 있다. 이때, 움직임 벡터 역시 정수 픽셀 이하의 단위로 표현될 수 있다.
인터 예측을 통해 선택된 참조 픽처의 인덱스, 움직임 벡터 차분(motion vector difference, MDV), 움직임 벡터 예측자(motion vector predictor, MVP), 레지듀얼 신호 등의 정보는 엔트로피 인코딩되어 디코딩 장치에 전달될 수 있다. 스킵 모드가 적용되는 경우에는 레지듀얼을 예측 블록을 복원 블록으로 할 수 있으므로, 레지듀얼을 생성, 변환, 양자화, 전송하지 않을 수 있다.
인트라 예측을 수행하는 경우에는, PU 단위로 예측 모드가 정해져서 PU 단위로 예측이 수행될 수 있다. 또한, PU 단위로 예측 모드가 정해지고 TU 단위로 인트라 예측이 수행될 수도 있다.
인트라 예측에서 예측 모드는 예를 들어 33개의 방향성 예측 모드와 적어도 2개 이상의 비방향성 모드를 가질 수 있다. 비방향성 모드는 DC 예측 모드 및 플래너 모드(Planar 모드)을 포함할 수 있다.
인트라 예측에서는 참조 샘플에 필터를 적용한 후 예측 블록을 생성할 수 있다. 이때, 참조 샘플에 필터를 적용할 것인지는 현재 블록의 인트라 예측 모드 및/또는 사이즈에 따라 결정될 수 있다.
생성된 예측 블록과 원본 블록 사이의 레지듀얼 값(레지듀얼 블록 또는 레지듀얼 신호)은 변환부(115)로 입력된다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 벡터 정보 등은 레지듀얼 값과 함께 엔트로피 인코딩부(130)에서 인코딩되어 디코딩 장치에 전달된다.
변환부(115)는 변환 블록 단위로 레지듀얼 블록에 대한 변환을 수행하고 변환 계수를 생성한다.
변환 블록은 샘플들의 직사각형 블록으로서 동일한 변환이 적용되는 블록이다. 변환 블록은 변환 유닛(TU)일 수 있으며, 쿼드 트리(quad tree) 구조를 가질 수 있다.
변환부(115)는 레지듀얼 블록에 적용된 예측 모드와 블록의 크기에 따라서 변환을 수행할 수 있다.
예컨대, 레지듀얼 블록에 인트라 예측이 적용되었고 블록이 4x4의 레지듀얼 배열(array)이라면, 레지듀얼 블록을 DST(Discrete Sine Transform)를 이용하여 변환하고, 그 외의 경우라면 레지듀얼 블록을 DCT(Discrete Cosine Transform)를 이용하여 변환할 수 있다.
변환부(115)는 변환에 의해 변환 계수들의 변환 블록을 생성할 수 있다.
양자화부(120)는 변환부(115)에서 변환된 레지듀얼 값들, 즉 변환 계수들을 양자화하여 양자화된 변환 계수를 생성할 수 있다. 양자화부(120)에서 산출된 값은 역양자화부(135)와 재정렬부(125)에 제공된다.
재정렬부(125)는 양자화부(120)로부터 제공된 양자화된 변환 계수를 재정렬한다. 양자화된 변환 계수를 재정렬함으로써 엔트로피 인코딩부(130)에서의 인코딩 효율을 높일 수 있다.
재정렬부(125)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원 블록 형태의 양자화된 변환 계수들을 1차원의 벡터 형태로 재정렬할 수 있다.
엔트로피 인코딩부(130)는 재정렬부(125)에 의해 재정렬된 양자화된 변환 값들 또는 코딩 과정에서 산출된 인코딩 파라미터 값 등을 기초로 심볼(symbol)을 확률 분포에 따라 엔트로피 코딩하여 비트스트림(bitstream)을 출력할 수 있다. 엔트로피 인코딩 방법은 다양한 값을 갖는 심볼을 입력 받아, 통계적 중복성을 제거하면서, 디코딩 가능한 2진수의 열로 표현하는 방법이다.
여기서, 심볼이란 인코딩/디코딩 대상 구문 요소(syntax element) 및 코딩 파라미터(coding parameter), 레지듀얼 신호(residual signal)의 값 등을 의미한다. 인코딩 파라미터는 인코딩 및 디코딩에 필요한 매개변수로서, 구문 요소와 같이 인코딩 장치에서 인코딩되어 디코딩 장치로 전달되는 정보뿐만 아니라, 인코딩 혹은 디코딩 과정에서 유추될 수 있는 정보를 포함할 수 있으며 영상을 인코딩하거나 디코딩할 때 필요한 정보를 의미한다. 인코딩 파라미터는 예를 들어 인트라/인터 예측모드, 이동/움직임 벡터, 참조 영상 색인, 코딩 블록 패턴, 잔여 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할 정보 등의 값 또는 통계를 포함할 수 있다. 또한 잔여 신호는 원신호와 예측 신호의 차이를 의미할 수 있고, 또한 원신호와 예측 신호의 차이가 변환(transform)된 형태의 신호 또는 원신호와 예측 신호의 차이가 변환되고 양자화된 형태의 신호를 의미할 수도 있다. 잔여 신호는 블록 단위에서는 잔여 블록이라 할 수 있고, 샘플 단위에서는 잔여 샘플이라고 할 수 있다.
엔트로피 인코딩이 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당되고 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 인코딩 대상 심볼들에 대한 비트열의 크기가 감소될 수 있다. 따라서 엔트로피 인코딩을 통해서 영상 인코딩의 압축 성능이 높아질 수 있다.
엔트로피 인코딩을 위해 지수 골룸(exponential golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 인코딩 방법이 사용될 수 있다. 예를 들어, 엔트로피 인코딩부(130)에는 가변 길이 코딩(VLC: Variable Length Coding/Code) 테이블과 같은 엔트로피 인코딩을 수행하기 위한 테이블이 저장될 수 있고, 엔트로피 인코딩부(130)는 저장된 가변 길이 코딩(VLC) 테이블을 사용하여 엔트로피 인코딩을 수행할 수 있다. 또한 엔트로피 인코딩부(130)는 대상 심볼의 이진화(binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출(derive)한 후, 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 인코딩을 수행할 수도 있다.
또한, 엔트로피 인코딩부(130)는 필요한 경우에, 전송하는 파라미터 셋(parameter set) 또는 신택스에 일정한 변경을 가할 수도 있다.
역양자화부(135)는 양자화부(120)에서 양자화된 값(양자화된 변환 계수)들을 역양자화하고, 역변환부(140)는 역양자화부(135)에서 역양자화된 값들을 역변환한다.
역양자화부(135) 및 역변환부(140)에서 생성된 레지듀얼 값(또는 레지듀얼 샘플 또는 레지듀얼 샘플 어레이)과 예측부(110)에서 예측된 예측 블록이 합쳐져 복원 샘플(또는 복원 샘플 어레이)를 포함하는 복원 블록(Reconstructed Block)이 생성될 수 있다.
도 1에서는 가산기를 통해서, 레지듀얼 블록과 예측 블록이 합쳐져 복원 블록이 생성되는 것으로 설명하고 있다. 이때, 가산기를 복원 블록을 생성하는 별도의 유닛(복원 블록 생성부)로 볼 수도 있다.
필터부(145)는 디블록킹 필터, ALF(Adaptive Loop Filter), SAO(Sample Adaptive Offset)를 복원된 픽처에 적용할 수 있다.
디블록킹 필터는 복원된 픽처에서 블록 간의 경계에 생긴 왜곡을 제거할 수 있다. ALF(Adaptive Loop Filter)는 디블록킹 필터를 통해 블록이 필터링된 후 복원된 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있다. ALF는 고효율을 적용하는 경우에만 수행될 수도 있다. SAO는 디블록킹 필터가 적용된 레지듀얼 블록에 대하여, 픽셀 단위로 원본 영상과의 오프셋 차이를 복원하며, 밴드 오프셋(Band Offset), 엣지 오프셋(Edge Offset) 등의 형태로 적용된다.
한편, 인터 예측에 사용되는 복원 블록에 대해서 필터부(145)는 필터링을 적용하지 않을 수도 있다.
메모리(150)는 필터부(145)를 통해 산출된 복원 블록 또는 픽처를 저장할 수 있다. 메모리(150)에 저장된 복원 블록 또는 픽처는 인터 예측을 수행하는 예측부(110)에 제공될 수 있다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 나타낸 블록도이다. 도 2를 참조하면, 비디오 디코딩 장치(200)는 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 메모리(240)를 포함할 수 있다.
비디오 인코딩 장치에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 비디오 인코딩 장치에서 영상 정보가 처리된 절차에 따라서 디코딩될 수 있다.
엔트로피 디코딩부(210)는, 입력된 비트스트림을 확률 분포에 따라 엔트로피 디코딩하여, 양자화된 계수(quantized coefficient) 형태의 심볼을 포함한 심볼들을 생성할 수 있다. 엔트로피 디코딩 방법은 2진수의 열을 입력 받아 각 심볼들을 생성하는 방법이다. 엔트로피 디코딩 방법은 상술한 엔트로피 인코딩 방법과 유사하다.
예컨대, 비디오 인코딩 장치에서 엔트로피 인코딩을 수행하기 위해 CAVLC 등의 가변 길이 코딩(Variable Length Coding: VLC, 이하 'VLC' 라 함)가 사용된 경우에, 엔트로피 디코딩부(210)도 인코딩 장치에서 사용한 VLC 테이블과 동일한 VLC 테이블로 구현하여 엔트로피 디코딩을 수행할 수 있다. 또한, 비디오 인코딩 장치에서 엔트로피 인코딩을 수행하기 위해 CABAC을 이용한 경우에, 엔트로피 디코딩부(210)는 이에 대응하여 CABAC을 이용한 엔트로피 디코딩을 수행할 수 있다.
보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 문맥(context) 모델을 결정하고, 결정된 문맥 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 문맥 모델 결정 후 다음 심볼/빈의 문맥 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 문맥 모델을 업데이트할 수 있다.
엔트로피 디코딩부(210)에서 디코딩된 정보 중 예측 블록을 생성하기 위한 정보는 예측부(230)로 제공되고, 엔트로피 디코딩부(210)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수는 재정렬부(215)로 입력될 수 있다.
재정렬부(215)는 엔트로피 디코딩부(210)에서 엔트로피 디코딩된 비트스트림의 정보, 즉 양자화된 변환 계수를 인코딩 장치에서 재정렬한 방법을 기초로 재정렬할 수 있다.
재정렬부(215)는 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부(215)는 현재 블록(변환 블록)에 적용된 예측 모드와 변환 블록의 크기를 기반으로 계수에 대한 스캐닝을 수행하여 2 차원 블록 형태의 계수(양자화된 변환 계수) 배열(array)을 생성할 수 있다.
역양자화부(220)는 인코딩 장치에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 비디오 인코딩 장치에서 수행된 양자화 결과에 대해, 인코딩 장치의 변환부가 수행한 DCT 및 DST에 대해 역DCT 및/또는 역DST를 수행할 수 있다.
역변환은 인코딩 장치에서 결정된 전송 단위 또는 영상의 분할 단위를 기초로 수행될 수 있다. 인코딩 장치의 변환부에서 DCT 및/또는 DST는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 선택적으로 수행될 수 있고, 디코딩 장치의 역변환부(225)는 인코딩 장치의 변환부에서 수행된 변환 정보를 기초로 역변환을 수행할 수 있다.
예측부(230)는 엔트로피 디코딩부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(240)에서 제공된 이전에 디코딩된 블록 및/또는 픽처 정보를 기초로 예측 샘플(또는 예측 샘플 어레이)를 포함하는 예측 블록을 생성할 수 있다.
현재 PU에 대한 예측 모드가 인트라 예측(intra prediction) 모드인 경우에, 현재 픽처 내의 픽셀 정보를 기초로 예측 블록을 생성하는 인트라 예측을 수행할 수 있다.
현재 PU에 대한 예측 모드가 인터 예측(inter prediction) 모드인 경우에, 현재 픽처의 이전 픽처 또는 이후 픽처 중 적어도 하나의 픽처에 포함된 정보를 기초로 현재 PU에 대한 인터 예측을 수행할 수 있다. 이때, 비디오 인코딩 장치에서 제공된 현재 PU의 인터 예측에 필요한 움직임 정보, 예컨대 움직임 벡터, 참조 픽처 인덱스 등에 관한 정보는 인코딩 장치로부터 수신한 스킵 플래그, 머지 플래그 등을 확인하고 이에 대응하여 유도될 수 있다.
현재 픽처에 대한 인터 예측 시, 현재 블록과의 레지듀얼(residual) 신호가 최소화되며 움직임 벡터 크기 역시 최소가 되도록 예측 블록을 생성할 수 있다.
한편, 움직임 정보 도출 방식은 현재 블록의 예측 모드에 따라 달라질 수 있다. 인터 예측을 위해 적용되는 예측 모드에는 AMVP(Advanced Motion Vector Prediction) 모드, 머지(merge) 모드 등이 있을 수 있다.
일 예로, 머지 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 머지 후보 리스트를 생성할 수 있다. 머지 모드에서는 머지 후보 리스트에서 선택된 후보 블록의 움직임 벡터가 현재 블록의 움직임 벡터로 사용된다. 인코딩 장치는 상기 머지 후보 리스트에 포함된 후보 블록들 중에서 선택된 최적의 움직임 벡터를 갖는 후보 블록을 지시하는 머지 인덱스를 디코딩 장치로 전송할 수 있다. 이 때, 디코딩 장치는 상기 머지 인덱스를 이용하여, 현재 블록의 움직임 벡터를 도출할 수 있다.
다른 예로, AMVP(Advanced Motion Vector Prediction) 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 움직임 벡터 예측자 후보 리스트를 생성할 수 있다. 즉, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터는 움직임 벡터 후보로 사용될 수 있다. 인코딩 장치는 상기 리스트에 포함된 움직임 벡터 후보 중에서 선택된 최적의 움직임 벡터를 지시하는 예측 움직임 벡터 인덱스를 디코딩 장치로 전송할 수 있다. 이 때, 디코딩 장치는 상기 움직임 벡터 인덱스를 이용하여, 움직임 벡터 후보 리스트에 포함된 움직임 벡터 후보 중에서, 현재 블록의 예측 움직임 벡터를 선택할 수 있다.
인코딩 장치는 현재 블록의 움직임 벡터(MV)와 움직임 벡터 예측자(MVP) 간의 움직임 벡터 차분(MVD)을 구할 수 있고, 이를 인코딩하여 디코딩 장치로 전송할 수 있다. 즉, MVD는 현재 블록의 MV에서 MVP를 뺀 값으로 구해질 수 있다. 이 때, 디코딩 장치는 수신된 움직임 벡터 차분을 디코딩할 수 있고, 디코딩된 움직임 벡터 차분과 움직임 벡터 예측자의 가산을 통해 현재 블록의 움직임 벡터를 도출할 수 있다.
인코딩 장치는 또한 참조 픽처를 지시하는 참조 픽처 인덱스 등을 디코딩 장치에 전송할 수 있다.
디코딩 장치는 주변 블록의 움직임 정보들을 이용하여 현재 블록의 움직임 벡터를 예측하고, 인코딩 장치로부터 수신한 레지듀얼을 이용하여 현재 블록에 대한 움직임 벡터를 유도할 수 있다. 디코딩 장치는 유도한 움직임 벡터와 인코딩 장치로부터 수신한 참조 픽처 인덱스 정보를 기반으로 현재 블록에 대한 예측 블록을 생성할 수 있다.
다른 예로, 머지(merge) 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보를 이용하여, 머지 후보 리스트를 생성할 수 있다. 즉, 인코딩 장치 및 디코딩 장치는 복원된 주변 블록 및/또는 콜 블록의 움직임 정보가 존재하는 경우, 이를 현재 블록에 대한 머지 후보로 사용할 수 있다.
인코딩 장치는 머지 후보 리스트에 포함된 머지 후보 중에서 최적의 인코딩 효율을 제공할 수 있는 머지 후보를 현재 블록에 대한 움직임 정보로 선택할 수 있다. 이 때, 상기 선택된 머지 후보를 지시하는 머지 인덱스가 비트스트림에 포함되어 디코딩 장치로 전송될 수 있다. 디코딩 장치는 상기 전송된 머지 인덱스를 이용하여, 머지 후보 리스트에 포함된 머지 후보 중에서 하나를 선택할 수 있으며, 상기 선택된 머지 후보를 현재 블록의 움직임 정보로 결정할 수 있다. 따라서, 머지 모드가 적용되는 경우, 복원된 주변 블록 및/또는 콜 블록에 대응하는 움직임 정보가 현재 블록의 움직임 정보로 그대로 사용될 수 있다. 디코딩 장치는 예측 블록과 인코딩 장치로부터 전송되는 레지듀얼을 더하여 현재 블록을 복원할 수 있다.
상술한 AMVP 및 머지 모드에서는, 현재 블록의 움직임 정보를 도출하기 위해, 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보가 사용될 수 있다.
화면 간 예측에 이용되는 다른 모드 중 하나인 스킵 모드의 경우에, 주변 블록의 정보를 그대로 현재 블록에 이용할 수 있다. 따라서 스킵 모드의 경우에, 인코딩 장치는 현재 블록의 움직임 정보로서 어떤 블록의 움직임 정보를 이용할 것인지를 지시하는 정보 외에 레지듀얼 등과 같은 신택스 정보를 디코딩 장치에 전송하지 않는다.
인코딩 장치 및 디코딩 장치는 상기 도출된 움직임 정보에 기반하여 현재 블록에 대한 움직임 보상을 수행함으로써, 현재 블록의 예측 블록을 생성할 수 있다. 여기서, 예측 블록은 현재 블록에 대한 움직임 보상 수행 결과 생성된, 움직임 보상된 블록을 의미할 수 있다. 또한, 복수의 움직임 보상된 블록은 하나의 움직임 보상된 영상을 구성할 수 있다.
복원 블록은 예측부(230)에서 생성된 예측 블록과 역변환부(225)에서 제공된 레지듀얼 블록을 이용해 생성될 수 있다. 도 2에서는 가산기에서 예측 블록과 레지듀얼 블록이 합쳐져 복원 블록이 생성되는 것으로 설명하고 있다. 이때, 가산기를 복원 블록을 생성하는 별도의 유닛(복원 블록 생성부)로 볼 수 있다. 여기서 상기 복원 블록은 상술한 바와 같이 복원 샘플(또는 복원 샘플 어레이)를 포함하고, 상기 예측 블록은 예측 샘플(또는 예측 샘플 어레이)를 포함하고, 상기 레지듀얼 블록은 레지듀얼 샘플(또는 레지듀얼 샘플 어레이)를 포함할 수 있다. 따라서, 복원 샘플(또는 복원 샘플 어레이)은 대응하는 예측 샘플(또는 예측 샘플 어레이)과 레지듀얼 샘플(레지듀얼 샘플 어레이)이 합쳐서 생성된다고 표현될 수도 있다.
스킵 모드가 적용되는 블록에 대하여는 레지듀얼이 전송되지 않으며 예측 블록을 복원 블록으로 할 수 있다.
복원된 블록 및/또는 픽처는 필터부(235)로 제공될 수 있다. 필터부(235)는 복원된 블록 및/또는 픽처에 디블록킹 필터링, SAO(Sample Adaptive Offset) 및/또는 ALF 등을 적용할 수 있다.
메모리(240)는 복원된 픽처 또는 블록을 저장하여 참조 픽처 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽처를 출력부로 제공할 수 있다.
디코딩 장치(200)에 포함되어 있는 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 및 메모리(240) 중 영상의 디코딩에 직접적으로 관련된 구성요소들, 예컨대, 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 등을 다른 구성요소와 구분하여 디코더 또는 디코딩부로 표현할 수 있다.
또한, 디코딩 장치(200)는 비트스트림에 포함되어 있는 인코딩된 영상에 관련된 정보를 파싱(parsing)하는 도시되지 않은 파싱부를 더 포함할 수 있다. 파싱부는 엔트로피 디코딩부(210)를 포함할 수도 있고, 엔트로피 디코딩부(210)에 포함될 수도 있다. 이러한 파싱부는 또한 디코딩부의 하나의 구성요소로 구현될 수도 있다.
도 3은 현재 블록에 대해 인터 예측이 수행되는 경우에 이용될 수 있는 후보 블록의 일 실시예를 개략적으로 설명하는 도면이다. 여기서 현재 블록은 예측 블록일 수 있다.
인코딩 장치 및 디코딩 장치의 예측부는 현재 블록(300) 주변 소정 위치의 복원된 주변 블록을 후보 블록으로 이용할 수 있다. 예컨대, 도 3의 예에서는 현재 블록 좌측에 위치하는 두 개의 블록 A0(310)와 A1(320) 그리고 현재 블록 상측의 세 블록 B0(330), B1(340), B2(350)이 공간적인(spatial) 후보 블록들로 선택될 수 있다. 여기서 A0(310)는 좌하측 주변 블록(lower left neighboring block)으로 불릴 수 있고, A1(320)은 좌측 주변 블록(left neighboring block)으로 불릴 수 있다. 그리고 B0(330)는 우상측 주변 블록(upper right neighboring block)으로, B1(340)은 상측 주변 블록(upper neighboring block)으로, B2(350)은 좌상측 주변 블록(upper left neighboring block)으로 불릴 수 있다.
또한, 공간적으로 인접하는 블록 외에 시간적인(temporal) 후보 블록으로서, 상술한 Col 블록(360)이 후보 블록으로 이용될 수 있다. Col 블록(360)은 ColPb(Col prediction block)라고 불릴 수 있으며, 복원된 참조 픽처들 중의 하나인 콜 픽쳐(collocated picture) 내에서 현재 블록에 대응하는 블록으로, 소정의 상대적인 위치(예를 들어, Col 픽처 내에서 상기 현재 블록과 동일 위치에 존재하는 블록의 우하측 주변 샘플 위치 또는 센터 우하측 샘플 위치(sample position)으로부터 일정 기준에 따라 산술 쉬프트(arithmetic shift)한 위치)에 존재하는 블록일 수 있다.
구체적으로 머지 모드에서는, 후보 블록들을 기반으로 생성된 머지 후보 리스트 중에서 최적의 머지 후보의 MV가 현재 블록을 위한 MV로 사용된다. 인코딩 장치는 상기 머지 후보 리스트에서 상기 선택된 머지 후보를 가리키는 머지 인덱스 정보를 인코딩하여 비트스트림을 통하여 디코딩 장치로 전송한다.
디코딩 장치는 인코딩 장치로부터 전송된 머지 인덱스 정보를 기반으로 머지 후보 리스트에서 선택된 머지 후보 블록의 MV를 현재 블록에 대한 MV로 도출할 수 있다. 인코딩 장치는 현재 블록의 MV를 기반으로 참조 픽처 상의 참조 블록을 도출하고, 상기 참조 블록을 현재 블록에 대한 예측 블록으로 이용할 수 있다. 즉, 상기 참조 블록 내의 샘플들을 현재 블록에 대한 예측 샘플들로 이용할 수 있다.
또한, 구체적으로 AMVP 모드에서는, 후보 블록들로부터 도출된 움직임 벡터 예측자(MVP) 후보들(candidates)을 포함하는 MVP 후보 리스트(MVP candidate list)에서 현재 블록을 위한 최적의 MVP가 선택된다. 이 경우 인코딩 장치에서는 움직임 추정을 수행하여 도출된 현재 블록의 MV를 기반으로 MVP 후보 리스트에서 최적의 MVP를 도출(derive)하고, 상기 MV에서 MVP를 뺀 MVD를 계산한다. 인코딩 장치는 상기 MVP 후보 리스트에 포함되는 MVP 후보들 중에서 어떤 MVP 후보가 현재 블록에 대한 MVP인지를 가리키는 MVP 인덱스 정보, 그리고 상기 구한 MVD의 x축 값 및 y축 값을 나타내는 MVD 정보를 인코딩하여 비트스트림을 통하여 디코딩 장치로 전송한다.
디코딩 장치는 인코딩 장치로부터 전송된 MVP 인덱스 정보 및 MVD 정보를 기반으로 MVP 후보 리스트에서 현재 블록에 대한 MVP를 도출할 수 있고, 도출된 MVP에 MVD를 더하여 현재 블록의 MV를 도출할 수 있다. 그리고 현재 블록의 MV를 기반으로 참조 픽처 상의 참조 블록을 도출하고, 상기 참조 블록을 현재 블록에 대한 예측 블록으로 이용할 수 있다. 즉, 상기 참조 블록 내의 샘플들을 현재 블록에 대한 예측 샘플들로 이용할 수 있다.
디코딩 장치는 인코딩 장치로부터 레지듀얼 샘플에 대한 정보를 수신하여 레지듀얼 샘플들을 생성할 수 있다. 상기 레지듀얼 샘플에 대한 정보는 변환 계수들에 대한 정보를 포함할 수 있다. 구체적으로 예를 들어 디코딩 장치는 인코딩 장치로부터 비트스트림을 통하여 변환 계수들을 수신하고, 상기 변환 계수들을 역변환하여 레지듀얼 블록(또는 레지듀얼 샘플들)을 생성할 수 있다. 여기서 레지듀얼 샘플은 원본 샘플과 예측 샘플 간의 차를 나타낼 수 있고, 레지듀얼 블록은 원본 샘플들을 포함하는 원본 블록과 예측 샘플들을 포함하는 예측 블록 간의 차를 나타낼 수 있다.
따라서, 예측 성능이 향상될수록 레지듀얼 샘플에 대한 정보를 위한 데이터량을 줄일 수 있으며, 이를 통하여 전반적인 코딩 효율이 향상될 수 있다.
하지만, 예측 절차를 수행함에 있어 한정된 정보를 사용하여 현재 블록을 예측하므로 예측 성능을 높여 원본 블록과 거의 동일한 예측 블록을 생성하기는 쉽지 않다. 이에 본 발명에서는 현재 블록의 주변에 위치한 복원된 샘플들/블록 정보들을 기반으로 예측 블록(예측 블록 내 예측 샘플들)에 필터링을 적용하여 예측 성능을 높일 수 있다. 이 경우 예측 블록의 예측 샘플들에 위너 필터(Wiener filter) 기반한 필터링을 적용하여 예측 성능을 높일 수 있다. 위너 필터를 적용하기 위하여는 필터 계수들(filter coefficients)들이 결정되어야 하며, 따라서 필터 계수들에 대한 정보가 송수신되어야 하는 필요성이 있다. 본 발명에서는 적은 양의 보조 정보(side information)만을 사용하여 생성한 위너 필터를 예측 블록에 적용하여, 예측 블록의 예측 정확도를 향상시킬 수 있으며, 이에 따라 레지듀얼 블록을 코딩하기 위하여 필요한 데이터량을 줄여서 영상 압축 효율을 높일 수 있다. 이 때 상기 필터 계수를 생성함에 있어, 예측 모드, 블록 분할 정보, 블록 특성을 반영하여 보다 적합한 필터를 생성할 수 있다.
먼저, 필터 계수들을 도출하기 위한 절차(process)는 다음과 같다.
도 4는 현재 블록의 주변 블록들을 기반으로 필터 계수들 도출 방법을 예시적으로 나타낸다. 여기서 현재 블록은 코딩 블록(CB) 또는 코딩 유닛(CU)일 수 있다. 또한 여기서 주변 블록들은 복원된(reconstructed) 블록들일 수 있다.
도 4를 참조하면, 현재 블록(400)의 주변 블록들(410, 420, 430, 440 및 450)들을 기반으로 현재 블록에 대한 위너 필터의 필터 계수들을 도출(derive)할 수 있다. 예를 들어, 현재 블록(400)의 좌하측 주변 블록(410), 좌측 주변 블록(420), 우상측 주변 블록(430), 상측 주변 블록(440) 및 좌상측 주변 블록(450)을 이용하여 해당 주변 블록들(410, 420, 430, 440 및 450) 각각에 대한 필터 계수들을 도출할 수 있다. 또한, 상기 주변 블록들 각각에 대한 필터 계수들을 종합하여 추가적인 필터 계수들을 도출할 수도 있다.
상기 주변 블록들(410, 420, 430, 440 및 450) 필터 계수들 및/또는 상기 추가적인 필터 계수들을 필터 계수들 후보들(filter coefficients candidates)로 하여, 그 중에서 선택된 필터 계수들을 현재 블록(400)을 위한 필터 계수들로 이용할 수 있다.
이 경우, 예를 들어, 인코딩 장치 및 디코딩 장치는 주변 블록과 해당 주변 블록의 참조 블록과의 관계를 기반으로 해당 주변 블록에 대한 필터 계수들을 도출할 수 있다. 예를 들어, 좌상측 주변 블록(450)에 대한 참조 블록이 참조 블록(455)일 수 있다. 즉, 참조 블록(455)는 좌상측 주변 블록(450)의 MV가 상기 좌상측 주변 블록(450)의 참조 픽처 상에서 가리키는 블록일 수 있다. 이 경우 좌상측 주변 블록(450)과 참조 블록(455) 간의 관계를 기반으로 해당 좌상측 주변 블록(450)에 대한 필터 계수들을 도출할 수 있다. 이는 다른 주변 블록들도 마찬가지이다.
주변 블록과 해당 주변 블록의 참조 블록 간의 관계를 기반으로 해당 주변 블록에 대한 필터 계수들을 구하는 방법은 예를 들어 다음과 같이 수행될 수 있다.
도 5는 주변 블록에 대한 위너 필터 계수들을 구하는 방법의 일 예를 나타낸다. 도 5에서 주변 블록 및 그 참조블록은 8×8 샘플 사이즈를 갖고, 위너 필터는 3×3 샘플 사이즈를 갖는 것을 가정한다.
도 5를 참조하면, 참조 블록(555)에 위너 필터(560)를 적용하여 주변 블록(550)과 동일하거나 가장 유사하게 되는 경우, 해당 위너 필터(560)의 필터 계수들이 상기 주변 블록(550)의 필터 계수들이 된다.
상기 위너 필터는 참조 블록(555)의 좌상단(top-left) 샘플로부터 래스터 스캔 오더로 순차적으로 나머지 샘플들에 적용될 수 있다. 도 5에서는 위너 필터(560) 사이즈가 3×3이므로, 참조 블록(555) 경계 내에 위치하는 경계 샘플들에 위너 필터(560)를 적용하기 위하여 참조 블록(555)의 좌우측으로 각각 1개 열의 샘플들, 상하측으로 각각 1개 행의 샘플들이 패딩(padding)되었다. 상기 패딩되는 영역의 크기는 위너 필터(560)의 사이즈에 따라 달라질 수 있다. 예를 들어 위너 필터(560)의 사이즈가 5×5일 경우, 참조 블록(555)의 좌우측으로 각각 2개 열의 샘플들, 상하측으로 각각 1개 행의 샘플들이 패딩될 수도 있다.
위너 필터(560)의 필터 계수들은 정해진 순서에 따라 1차원으로 배열될 수 있다.
여기서 위너 필터(560)를 구하는 식은 예를 들어 다음과 같을 수 있다.
Figure PCTKR2016000788-appb-M000001
여기서, R은 참조 블록의 샘플들로 이루어진 메트릭스, h는 위너 필터 계수 메트릭스, O는 주변 블록의 샘플을 나타낸다. 그리고 RT는 행렬 R의 전치(transpose) 행렬을 나타낸다.
다시 도 5를 참조하면, 만약 그림과 같이 위너 필터 계수들의 순서를 1~9와 같이 정한 경우, 참조 블록에서도 대응되는 샘플들의 순서는 a~i로 정해질 수 있다. 이 경우 상기 수학식 1은 다음과 같이 나타내어질 수 있다.
Figure PCTKR2016000788-appb-M000002
상술한 예에서 참조 블록 및 주변 블록의 사이즈가 8×8이므로, 주변 블록 내 각 샘플들에 대하여 상기 수학식 2와 같은 메트릭스 관계식이 한 개씩 도출될 수 있으며, 상기 주변 블록 내 모든 샘플들에 대하여는 총 64개의 관계식이 도출될 수 있다.
수학식을 간단히 하기 위하여 상기 수학식의 양변에 합계(sum) 함수를 적용하면, 다음과 같이 나타낼 수 있다.
Figure PCTKR2016000788-appb-M000003
수학식 3에서 합계 연산이 완료되면 좌우변 각각에 메트릭스 식이 도출된다. 여기서 구하고자 하는 것은 h이므로, h 앞의 항(term)의 역행렬을 좌우변에 각각 곱하여, h를 구할 수 있고, 위너 필터 계수들을 얻을 수 있다.
다시 도 4를 참조하면, 이렇게 구해진 필터 계수들 후보들을 기반으로 현재 블록을 위한 최적의 필터 계수들이 선택될 수 있다. 인코딩 장치는 상기 필터 계수들 후보들을 현재 블록에 적용하여, 이를 기반으로 원본 블록과의 에러를 최소화시키는 필터 계수들을 선택할 수 있다. 이 경우 인코딩 장치는 위너 필터의 가용(enable) 여부를 나타내는 플래그(flag)와, 선택된 필터 계수들의 인덱스(index)를 인코딩하여 디코딩 장치로 전송할 수 있다. 상기 플래그는 필터 플래그, 위너 필터 플래그 또는 WF 플래그로 불릴 수 있다. 상기 인덱스는 필터 인덱스, 위너 필터 인덱스 또는 WF 인덱스로 불릴 수 있다.
디코딩 장치는 상기 수신된 플래그와 인덱스를 디코딩하고, 상기 플래그를 기반으로 상기 현재 블록에 위너 필터가 가용한지 여부를 결정하고, 상기 인덱스를 기반으로 상기 위너 필터를 적용하기 위한 필터 계수들을 상기 주변 블록들 또는 상기 필터 계수들 후보들로부터 도출할 수 있다. 예를 들어, 상기 인덱스는 별도로 구성된 상기 필터 계수들 후보들 중에 하나를 지시할 수도 있고, 또는 상기 주변 후보 블록들 중 하나를 지시할 수도 있다. 예를 들어 상기 인덱스가 상기 주변 후보 블록들 중 하나를 지시하는 경우 인덱스 넘버의 순서는 임의의 순서로 결정될 수 있다. 예를 들어 좌하측 주변 블록(410), 좌측 주변 블록(420), 우상측 주변 블록(430), 상측 주변 블록(440) 및 좌상측 주변 블록(450) 순서에 기반할 수도 있고, 또는 좌측 주변 블록(420), 상측 주변 블록(440), 우상측 주변 블록(430), 좌하측 주변 블록(410) 및 좌상측 주변 블록(450)에 기반할 수도 있다.
도 4에 도시된 바와 같이 좌하측 주변 블록(410)을 a2, 좌측 주변 블록(420)을 a1, 우상측 주변 블록(430)을 b2, 상측 주변 블록(440)을 b1 및 좌상측 주변 블록(450)을 b0라 하는 경우 상기 인덱스 넘버의 순서는 다음 표에서 나타낸 방법들 중 하나를 따를 수 있다.
Index 0 1 2 3 4 5
method 1 a1 b1 b2 a2 b0
method 2 a1 a2 b0 b1 b2
method 3 a1 b1 b2 a2 b0 all
method 4 a1 a2 b0 b1 b2 all
method 5 all a1 b1 b2 a2 b0
method 6 all a1 a2 b0 b1 b2
표 1에서 all은 상기 주변 블록들 각각에 대한 필터 계수들을 종합하여 도출된 추가적인 필터 계수들을 사용함을 의미한다.
한편, 상기 주변 블록들(410, 420, 430, 440 및 450) 각각에 대한 위너 필터 계수는 예를 들어 다음과 같은 단위로 결정될 수 있다.
a. 주변 블록을 포함하는 코딩 블록
b. 주변 블록을 포함하는 예측 블록
c. 주변 블록 위치에 존재하는 동일한 MV를 가지는 최소 단위 블록
d. 사전에 정해진 특정 크기의 블록
e. a~d의 선택적 조합
한편, 현재 블록(400)의 예측 모드와 파티셔닝(partitioning) 모드를 참조하여 현재 블록에 대한 위너 필터의 적용 여부를 결정할 수 있다. 예를 들어 다음과 같은 경우에는 위너 필터를 적용하지 않을 수 있다.
a. 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우
b. 현재 블록에 대한 파티셔닝 모드가 2N×2N이 아닌 경우
c. a~b의 조합
즉, 상기와 같은 경우에는 인코딩 장치는 상기 플래그를 전송하지 않을 수 있고, 디코딩 장치는 묵시적으로 위너 필터가 가용하지 않은(disable) 것으로 판단할 수 있다.
현재 블록의 예측 모드가 스킵 모드인 경우에는, 레지듀얼 신호 없이 예측만으로 충분히 원본 샘플들과 유사한 수준의 예측 샘플들을 획득할 수 있거나, 혹은 그렇지 않더라도 시그널링에 드는 데이터량을 최소화하여 비용(cost) 함수 측면에서 충분한 이득을 획득할 수 있는 상태이므로, 위너 필터 적용을 위하여 추가되는 부가 정보인 플래그 및 인덱스의 인코딩에 소비되는 데이터량을 고려하여 위너 필터가 가용하지 않게 만들 수 있다.
또한, 현재 블록이 코딩 블록이고, 상기 코딩 블록에 대한 파티셔닝 모드가 2N×2N이 아닌 경우에는, 상기 코딩 블록은 복수의 예측 블록들로 파티셔닝된다.
도 6은 파티셔닝 모드에 따른 코딩 블록 내 예측 블록들의 개수 및 모양을 나타낸다.
도 6을 참조하면, (a)는 파티션 모드가 2N×2N인 경우, (b)는 파티션 모드가 N×2N인 경우, (c)는 파티션 모드가 2N×N인 경우, (d)는 파티션 모드가 N×N인 경우, (e)는 파티션 모드가 nL×2N인 경우, (f)는 파티션 모드가 2N×nU, (g)는 파티션 모드가 nR×2N인 경우, (h)는 파티션 모드가 2N×nD인 경우를 나타낸다.
상기 코딩 블록에 대한 파티셔닝 모드가 2N×2N이 아닌 경우에는, 상기 코딩 블록은 복수의 예측 블록들로 파티셔닝되며, 상기 예측 블록들 간 상이한 MV 등 상이한 코딩 특성을 가질 수 있는 점을 고려하면, 상기 예측 블록들에 동일한 위너 필터를 적용하는 것은 오히려 전반적으로 예측의 효율 저하를 가져올 수도 있다. 따라서 파티셔닝 모드가 2N×2N이 아닌 경우에는 위너 필터가 가용하지 않게 만들 수 있다.
즉, 도 6에서 (a)의 경우에는 위너 필터 가용 여부를 나타내는 플래그가 명시적으로 시그널링되며, (a)를 제외한 나머지 경우에는 위너 필터가 묵시적으로 가용하지 않게 될 수 있다.
도 7은 현재 블록의 예측 모드 및 상기 현재 블록에 대한 파티셔닝 모드를 기반으로 위너 필터가 가용/불가용되는 예를 나타낸다. 여기서 현재 블록은 코딩 블록일 수 있다.
도 7을 참조하면, 디코딩 장치는 비트스트림을 통하여 스킵 플래그를 수신하고, 상기 스킵 플래그의 값이 1을 나타내는지 여부를 확인한다(S700). 상기 스킵 플래그의 값이 1인 경우 현재 블록에 대한 예측 모드가 스킵 모드인 것을 나타낸다. 상기 스킵 모드는 상기 현재 블록에 대하여 원본 샘플들과 예측 샘플들간의 차이에 관한 레지듀얼 신호가 존재하지 않음을 의미할 수 있다. 상기 스킵 플래그의 값이 0인 경우 상기 현재 블록에 대한 예측 모드로 스킵 모드가 적용되지 않는다.
만약 S700에서 상기 스킵 플래그의 값이 1인 경우, 디코딩 장치는 상기 스킵 모드 관련 예측 툴에 따라 예측 절차를 수행한다(S710). 일 예로, 상기 스킵 플래그의 값이 1인 경우, 디코딩 장치는 상기 현재 블록에 대한 파티셔닝 모드 정보를 수신하지 않고, 상기 현재 블록에 대한 파티셔닝 모드를 2N×2N으로 도출할 수도 있다. 즉, 이 경우 디코딩 장치는 코딩 블록의 사이즈와 동일한 사이즈를 갖는 예측 블록을 도출하고, 해당 예측 블록에 대한 상기 스킵 모드에 기반한 예측을 수행할 수 있다. 구체적으로 예를 들어 디코딩 장치는 머지 인덱스를 수신하고, 상기 예측 블록의 주변 블록들 중 상기 머지 인덱스가 가리키는 블록의 MV를 현재 블록의 MV로 이용하여 인터 예측을 수행하고, 도출된 예측 샘플들을 복원 샘플들로 이용할 수 있다.
한편, 이 경우 영역 780 내의 동작들은 수행되지 않는다. 즉, 디코딩 장치는 WF 플래그 및 WF 인덱스를 수신/파싱하지 않고, 묵시적으로 위너 필터가 적용되지 않음 또는 가용하지 않음을 판단한다.
만약 S700에서 상기 스킵 플래그의 값이 0인 경우, 디코딩 장치는 예측 관련 정보를 수신한다 수신한다(S720). 상기 여기서 예측 관련 정보는 파티셔닝 모드에 관한 정보 및 예측 모드에 관한 정보를 포함할 수 있다. 상기 파티셔닝 모드에 관한 정보는 상기 현재 블록에 대한 파티셔닝 모드로 2N×2N, N×2N, 2N×N, N×N, nL×2N, 2N×nU, nR×2N 및 2N×nD 중 하나를 지시할 수 있다. 상기 예측 모드에 관한 정보는 상기 현재 블록 내 적어도 하나의 예측 블록에 대한 인터 예측 모드를 지시한다. 예를 들어 상기 인터 예측 모드는 머지 모드 및 AMVP 모드를 포함할 수 있다.
디코딩 장치는 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N을 지시하는지 확인한다(S730).
만약, S730에서 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N인 경우, 디코딩 장치는 관련 예측 툴에 따라 예측 절차를 수행한다(S740). 예를 들어 디코딩 장치는 상기 현재 블록인 코딩 블록의 사이즈와 동일한 사이즈를 갖는 예측 블록을 도출하고, 해당 예측 블록에 대한 인터 예측을 수행할 수 있다. 예를 들어, 디코딩 장치는 머지 플래그 파싱하고, 이를 기반으로 상기 예측 블록에 머지(merge) 모드가 적용되는지 AMVP(advanced motion vector prediction) 모드가 적용되는지 여부를 결정한다. 머지 모드가 적용되는 경우 디코딩 장치는 머지 인덱스 파싱하고, 상기 머지 인덱스를 기반으로 주변 블록의 MV를 상기 예측 블록의 MV로 도출하고, 도출된 MV를 기반으로 예측 샘플들을 생성할 수 있다. 또는 AMVP 모드가 적용되는 경우 디코딩 장치는 mvp 인덱스 파싱하고, 상기 mvp 인덱스를 기반으로 주변 블록의 MV를 상기 예측 블록의 MVP로 도출하고, 상기 MVP에 수신된 MVD를 더하여 MV를 도출하고, 도출된 MV를 기반으로 예측 샘플들을 생성할 수 있다.
디코딩 장치는 WF 플래그를 파싱하고 상기 WF 플래그의 값이 1을 나타내는지 확인한다(S750). WF 플래그의 값이 1을 나타내는 경우 상기 현재 블록에 대한 위너 필터의 가용 또는 적용을 의미한다. WF 플래그의 값이 0을 나타내는 경우, 상기 현재 블록에 대한 위너 필터가 가용하지 않음을 의미한다.
만약 S750에서 상기 WF 플래그의 값이 1을 나타내는 경우, 디코딩 장치는 WF 인덱스를 파싱하고, 상기 WF 인덱스 및 상기 현재 블록의 주변 블록들을 기반으로 상기 현재 블록의 위너 필터 계수들을 도출한다(S760). 디코딩 장치는 상기 위너 필터 계수들을 기반으로 상기 현재 블록 내 예측 샘플들에 필터링을 적용하여 예측 샘플들과 원본 샘플들 간의 차이를 줄일 수 있다.
만약 S730에서 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N가 아닌 경우, 디코딩 장치는 해당 파티셔닝 모드를 기반으로 상기 현재 블록을 복수의 예측 블록들로 파티셔닝하고, 상기 예측 블록들에 대하여, 관련 예측 툴에 따라 예측 절차를 수행한다(S770). 예를 들어 디코딩 장치는 상기 현재 블록인 코딩 블록으로부터 상기 파티셔닝 모드에 따라 복수의 예측 블록들을 도출하고, 해당 예측 블록들 각각에 대한 인터 예측을 수행할 수 있다. 예를 들어, 디코딩 장치는 예측 블록들 각각에 대한 머지 플래그를 파싱하여, 이를 기반으로 상기 예측 블록들 각각에 머지(merge) 모드가 적용되는지 AMVP(advanced motion vector prediction) 모드가 적용되는지 여부를 결정하고, 결정된 모드에 따라 인터 예측을 수행할 수 있다.
한편, 이 경우 영역 790 내의 동작들은 수행되지 않는다. 즉, 디코딩 장치는 WF 플래그 및 WF 인덱스를 수신/파싱하지 않고, 묵시적으로 위너 필터가 적용되지 않음 또는 가용하지 않음을 판단한다.
한편, 위너 필터의 적용은 코딩 블록 단위가 아닌 예측 블록 단위로 수행할 수도 있다. 파티셔닝 모드가 2N×2N가 아니라면, 복수의 예측 블록이 동일 코딩 블록 내에 존재하며, 이 경우 위너 필터 계수들을 유도하는데 사용할 주변 블록을 도출함에 있어 제약이 발생한다.
도 8은 위너 필터 계수들 도출을 위하여 고려 가능한 주변 블록들의 예를 나타낸다. 도 8에서, (a)는 코딩 블록 단위로 위너 필터를 적용할 때 고려되는 주변 블록들, (b) 및 (c)는 예측 블록 단위로 위너 필터를 적용할 때 고려되는 주변 블록들을 나타낸다. 여기서 (b)는 파티셔닝 모드 2N×N을 갖는(with) 첫번째 예측 블록(partIdx=0)에 대한 주변 블록들을 나타내고, (c)는 파티셔닝 모드 2N×N을 갖는 두번째 예측 블록(partIdx=1)에 대한 주변 블록들을 나타낸다.
도 8을 참조하면, (b), (c)의 첫번째 예측 블록 및 두번째 예측 블록 각각에 대한 위너 필터 계수들을 유도하는데 고려되는 주변 블록들의 영역은, (a)의 코딩 블록에 대한 위너 필터 계수들을 유도하는데 고려되는 주변 블록들의 영역과 차이가 있다.
특히, 레지듀얼 샘플들이 코딩 블록 단위로 가산되는 경우, 즉, 코딩 블록 내의 예측 블록들 단위로 예측 샘플들이 구해져서 코딩 블록 전체에 대한 예측 샘플들이 구해진 후에, 상기 코딩 블록 단위로 레지듀얼 샘플들이 가산되는 경우, 두번째 예측 블록에 대한 위너 필터를 적용하는 시점에, 아직 첫번째 예측 블록이 완전하게 복원되지 않은 상태이다. 따라서, (c)에서 두번째 예측 블록을 위한 상측 주변 블록은 아직 사용가능(available)하지 않고, 위너 필터 계수들 유도를 위한 후보에서 제외되어야 한다.
도 9는 파티셔닝 모드가 N×N인 경우의 각 예측 블록별로 위너 필터 계수들 도출을 위하여 고려 가능한 주변 블록들의 예를 나타낸다. 도 9에서 (a)는 파티셔닝 모드 N×N을 갖는 첫번째 예측 블록(partIdx=0)에 대한 주변 블록들을 나타내고, (b)는 파티셔닝 모드 N×N을 갖는 두번째 예측 블록(partIdx=1)에 대한 주변 블록들을 나타내고, (c)는 파티셔닝 모드 N×N을 갖는 세번째 예측 블록(partIdx=2)에 대한 주변 블록들을 나타내고, 그리고 (d)는 파티셔닝 모드 N×N을 갖는 네번째 예측 블록(partIdx=3)에 대한 주변블록들을 나타낸다.
도 9를 참조하면, (a), (b), (c)의 경우에는 도 8의 (b), (c)의 경우와 같이 해당 예측 블록을 기준으로 변경된 주변 (후보) 블록들의 위치가 결정되며, 주변 블록들 중에서 동일 코딩 블록 내의 다른 예측 블록에 속한 블록(음영 표시된 부분)은 가용하지 않게 된다.
또한, (d)의 경우, 주변 블록들 중 a1, b0, b1은 현재 코딩 블록 내의 다른 예측 블록에 속한 블록들이므로 가용하지 않으며, a2, b2는 레스터 스캔 오더에 따라 현재 코딩 블록의 복원이 끝난 이후에 복원을 하게 되는 코딩 블록에 속하므로 마찬가지로 가용하지 않는다. 따라서, (d)의 경우 위너 필터 계수들 유도를 위하여 가용한 주변 블록들이 존재하지 않게 된다. 따라서, 현재 예측 블록이 파티셔닝 모드 N×N을 갖는 네번째 예측 블록(partIdx=3)을 나타낼 경우, 상기 현재 예측 블록에 대하여 다음과 같은 동작 및 제한을 적용할 수 있다.
일 예로, 상기 현재 예측 블록에 대하여는 위너 필터 적용을 항상 가용하지 않게(disable) 하고, 위너 필터 관련 정보(예를 들어 WF 플래그, WF 인덱스)의 전송 또한 수행하지 않는다.
다른 예로, 동일 코딩 블록 내의 다른 예측 블록들에 사용된 위너 필터 계수들 중 하나를 선택하여 사용한다. 이 경우 WF 인덱스는 상기 현재 예측 블록을 기준으로 동일 코딩 블록 내 주변의 다른 예측 블록들 중 어느 예측 블록으로부터 상기 위너 필터 계수들을 가져올 지를 지시한다. 만약, 동일 코딩 블록 내의 다른 모든 예측 블록에 대하여 위너 필터가 적용되지 않았다면, 상기 현재 블록에 대해서 위너 필터 적용을 가용하지 않게 하고, 위너 필터 관련 정보의 전송 또한 수행하지 않는다.
한편, 상술한 실시예에서는 공간적 주변 후보 블록들을 기반으로 위너 필터 계수들을 구하는 방법을 설명하였으며, 현재 블록의 위너 필터 계수들 도출을 위하여 시간적(temporal) 후보 블록이 더 고려될 수 있다. 즉, 이 경우 시간적 예측 정보를 활용하여 현재 블록을 위한 위너 필터 계수들을 구할 수 있다. 여기서 현재 블록은 예를 들어 예측 블록일 수 있고, 또는 코딩 블록일 수도 있다.
도 10은 위너 필터 계수들을 구하기 위한 시간적 예측자(predictor)를 구하는 방법의 예를 나타낸다. 여기서 시간적 예측자라 함은 시간적 후보 블록을 나타낼 수 있다.
도 10을 참조하면, 시간적 예측자는 복원된 참조 픽처들 중의 하나인 콜 픽쳐(collocated picture) 내에서, 현재 블록 위치와 동일한 위치에 존재하는 동일 위치 블록(collocated block)으로부터 구할 수 있다. 상기 콜 픽처는 현재 블록이 포함된 현재 슬라이스(slice)에 대하여 지정되거나 시그널링을 통하여 정해질 수 있다.
한편, 영상 코딩 시스템에서 영상 특성에 따라 각 픽처마다 분할 및 파티셔닝 구조가 다르게 설정될 수 있다. 따라서 콜 픽처 상에서 동일위치 블록은 예컨대 하나의 블록의 일부일 수도 있고, 또는 다수의 블록을 포함할 수도 있다.
따라서, 상기 동일위치 블록을 기반으로 시간적 예측자를 구함에 있어, 다음 도 11과 같은 위치의 블록들을 고려할 수 있다.
도 11은 시간적 예측자를 구하기 위하여 고려되는, 후보 블록들의 예를 나타낸다.
도 11을 참조하면, 시간적 예측자를 구하기 위하여 상기 동일위치 블록이 그대로 이용되는 것이 아니라, 상기 동일위치 블록의 우하측 주변 블록 A 또는 센터 우하측 블록 B가 이용될 수 있다. 이 경우, 상기 우하측 주변 블록 A가 가용한 경우, 상기 우하측 주변 블록 A의 움직임 정보를 활용하고, 상기 우하측 주변 블록 A가 가용하지 않은 경우 센터 우하측 블록 B의 움직임 정보를 활용할 수 있다. 여기서 우하측 주변 블록 A는 상기 우하측 주변 블록 A의 좌상단(top-left) 샘플 포지션(제1 샘플 포지션)을 기반으로 나타내어질 수 있고, 상기 센터 우하측 블록 B는 상기 센터 우하측 주변 블록 B의 좌상단 샘플 포지션(제2 샘플 포지션)을 기반으로 나타내어질 수 있다. 또한, 여기서 상기 제1 샘플 포지션이 상기 콜 픽처의 경계 외부에 위치하거나, y축 방향을 기준으로 상기 제1 샘플 포지션이 상기 동일위치 블록이 속하는 CTU(또는 LCU(largest coding unit))의 외부에 위치하는 경우, 상기 우하측 주변 블록 A(및 상기 제1 샘플 포지션)은 가용하지 않을 수 있다. 또한, 상기 우하측 주변 블록 A가 인트라 예측된 경우 상기 우하측 주변 블록 A는 가용하지 않을 수도 있다.
이 경우, 상기 우하측 주변 블록 A에 대한 MV를 이용하여 상기 우하측 주변 블록 A에 대한 참조 픽처 상의 참조 블록을 찾고, 상기 우하측 주변 블록 A 및 상기 참조 블록을 기반으로 위너 필터 계수들을 구할 수 있다. 또는 상기 센터 우하측 블록 B에 대한 MV를 이용하여 상기 센터 우하측 블록 B에 대한 참조 픽처 상의 참조 블록을 찾고, 상기 센터 우하측 블록 B 및 상기 참조 블록을 기반으로 위너 필터 계수들을 구할 수 있다. 여기서 위너 필터 계수들을 구하는 방법은 상술한 바와 같다.
한편, 위너 필터 계수들을 구하기 위하여 상기 도 11에서와 같이 상기 우하측 주변 블록 A 또는 상기 센터 우하측 블록 B와 그 참조 블록을 이용할 때, 위너 필터 계수들을 구하는 단위는 다음과 같이 결정될 수 있다. 여기서 상기 우하측 주변 블록 A 또는 상기 센터 우하측 블록 B은 대응 블록이라고 불릴 수 있다.
a. 대응 블록을 포함하는 코딩 블록
b. 대응 블록을 포함하는 예측 블록
c. 대응 블록 위치에 존재하는 동일한 움직임 벡터를 가지는 최소 단위 블록
d. 사전에 정해진 특정 크기의 블록
e. a~d의 선택적 조합
또한, 위너 필터 계수를 구하기 위한 공간적 주변 후보 블록들에 더하여 시간적 후보 블록이 더 추가되었으므로, WF 인덱스의 인덱스 넘버의 순서는 다음 표에서 나타낸 방법들 중 하나를 따를 수 있다. 상기 시간적 후보 블록은 T(또는 Col)로 나타내어질 수 있다.
Index 0 1 2 3 4 5 6
method 1 a1 b1 b2 a2 b0 T
method 2 a1 a2 b0 b1 b2 T
method 3 a1 b1 b2 a2 b0 all T
method 4 a1 a2 b0 b1 b2 all T
method 5 all a1 b1 b2 a2 b0 T
method 6 all a1 a2 b0 b1 b2 T
표 2에서는 표 1에서의 각각의 인덱스 순서의 뒤에 T가 추가되었다. 다만 이는 예시로서 표 1에서 all 대신 T가 들어갈 수도 있고, 실험을 바탕으로 도출된 임의의 인덱스 순서가 사용될 수도 있다. 혹은 상기 T가 어느 인덱스 위치에 있을지에 대하여 SPS(sequence parameter set), PPS(picture parameter set), 혹은 슬라이스 레벨에서 시그널링할 수도 있다.
한편, 상기와 같이 시간적 예측 정보를 포함한 블록과 그 참조 블록으로부터 위너 필터 계수를 구할 수도 있지만, 보다 넓은 영역의 정보들로부터 위너 필터 계수를 구할 수도 있다. 여기서 상기 영역은 콜 픽처 내에서 다음과 같이 정의될 수 있다.
a. 시간적 예측자를 포함하는 CTB(coding tree block)
b. 시간적 예측자를 포함하는 CTB 행 또는 CTB 열
c. 시간적 예측자를 포함하는 슬라이스 전체 혹은 픽처 전체
d. 시간적 예측자의 움직임 벡터 페이즈(motion phase)와 동일한 페이즈의 움직임 벡터를 갖는 슬라이스 또는 픽처 내의 모든 블록들
e. 슬라이스 또는 픽처를 일정한 크기를 갖는 임의의 개수로 분할한 영역. 이 때 분할된 영역은 좌측 맨 끝과, 하단 맨 끝에 위치하는 영역을 제외하면 CTB의 배수로 이루어질 수 있다.
f. a~e의 선택적 조합
참고로, 상기 d에서 움직임 벡터의 페이즈는 다음과 같이 나타낼 수 있다.
도 12는 본 발명에 따른 움직임 벡터 페이즈의 예를 나타낸다.
도 12를 참조하면, 하나의 블록은 하나의 페이즈에 대응되며, 움직임 벡터가 1/4 샘플(또는 픽셀) 정확도를 지원하는 경우, 즉, 움직임 벡터가 1/4 분수 샘플 단위를 가리키는 경우, 움직임 벡터에 대하여 (x,y) = (int, int)인 정수 샘플을 기준으로 총 16가지의 페이즈가 도출될 수 있다.
따라서, 상기 d가 적용되는 경우, 콜 픽처 내에서 시간적 예측자의 움직임 벡터 페이즈와 동일한 페이즈를 갖는 모든 예측 블록들 및 그 참조 블록들을 기반으로 위너 필터 계수들을 구할 수 있다. 여기에서 상기 예측 블록들은 동일 슬라이스 또는 동일 픽처 내에 있는 것들일 수 있다.
또한, 상기 e에서 콜 픽처 내의 슬라이스 또는 상기 콜 픽처에 대하여 CTB의 배수이며 동일 크기를 갖는 영역으로 분할이 수행될 수 있다. 이 경우 분할된 영역은 다음과 같이 나타낼 수 있다.
도 13은 본 발명에 따른 위너 필터 계수를 구하기 위하여 분할된 영역을 나타낸다.
도 13을 참조하면, 콜 픽처(1300)은 CTB의 배수인 동일 크기를 갖는 영역으로 분할될 수 있다. 4개의 CTB들 단위로 영역을 구성하는 경우, 콜 픽처(1300)는 도시된 바와 같이 영역 1(1310), 영역 2(1320), 영역 3(1330), 영역 4(1340), 영역 5(1350), 및 영역 6(1360)으로 나누어질 수 있다.
여기서 상기 시간적 예측자(1315)는 CTB(1311) 내에 위치하고, 상기 CTB(1311)는 영역 1(1310)에 포함되는 경우, 즉 상기 시간적 예측자(1315)가 영역 1(1310)에 위치하는 경우, 영역 1(1310)이 위너 필터 계수들을 구하기 위한 영역으로 결정된다. 이 경우, 영역 1(1310)에 포함된 모든 블록들과 그 참조 블록들을 활용하여 영역 1(1310)에 대한 위너 필터 계수들을 구할 수 있다.
한편, 영역 3(1330)과 같이 해당 영역이 콜 픽처(1300)의 경계를 넘어가는 경우, 콜 픽처(1300)의 경계 내부의 (예측) 블록들 중 영역 3(1330)에 속하는 것들만을 이용하여 위너 필터 계수들을 도출하게 된다. 마찬가지로 영역 4(1340), 영역 5(1350), 영역 6(1360)의 경우도 콜 픽처(1300) 경계 내부의 (예측) 블록들 중 해당 영역에 속하는 것들만을 이용하여 위너 필터 계수들을 도출하게 된다.
한편, 만약에 현재 (예측) 블록의 예측 모드가 스킵 모드이거나, 또는 머지 모드이면서 파티셔닝 모드가 2N×2N인 경우, 머지 후보 블록들 중 머지 인덱스가 가리키는 후보 블록과 동일한 후보 블록이 위너 필터 계수들 도출을 위하여 사용된다. 즉, 이 경우 시간적 머지 후보가 상기 시간적 예측자(즉, 위너 필터 계수들을 위한 시간적 후보)로 사용될 수 있다. 다시 말하면, 이 경우 머지 후보들의 위치에 위너 필터 후보들이 위치하게 된다. 스킵 모드 또는 머지 모드에서 특정 후보가 선택되었다는 것은, 해당 후보가 현재 블록과 가장 유사한 특성을 가지고 있다고 해석될 수 있으므로, 해당 후보 블록으로부터 위너 필터 계수를 도출하여 상기 현재 블록을 위하여 사용할 수 있고, 이 경우 WF 인덱스를 별도로 부호화하는데 드는 데이터량을 줄일 수 있다.
이 때, 머지 인덱스로부터 위너 필터 계수들 도출을 위한 인덱스를 유도하는 조건은 다음과 같을 수 있다.
a. 현재 블록에 대한 예측 모드가 스킵 모드일 경우
b. 현재 블록의 파티셔닝 모드가 2N×2N이고, 상기 현재 블록의 예측 모드가 머지 모드일 경우
c. a/b 둘 다를 만족하는 경우
d. a~c의 선택적 조합
여기서, 스킵 모드 또는 머지 모드에서, 머지 인덱스에 의하여 시간적 후보가 지시된 경우, 도 8 및 도 9에서 상술한 방법 등을 이용하여 위너 필터 계수들을 도출할 수 있다.
도 14는 본 발명에 따른 영상 인코딩 방법의 일 예를 개략적으로 나타낸다. 도 14에서 개시된 방법은 인코딩 장치에 의하여 수행될 수 있다.
도 14를 참조하면, 인코딩 장치는 현재 블록에 대한 예측 샘플들을 생성한다(S1400). 여기서 현재 블록은 코딩 블록 또는 예측 블록일 수 있다. 상기 현재 블록이 코딩 블록인 경우, 파티셔닝 모드에 따라 상기 코딩 블록은 하나 또는 다수의 예측 블록들을 포함할 수 있다. 인코딩 장치는 상기 하나 또는 다수의 예측 블록들 각각에 대하여 움직임 추정을 통하여 MV를 도출하고, 상기 각각의 예측 블록들에 대하여 상기 도출한 MV를 기반으로 복원된 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다. 인코딩 장치는 예측 블록 단위로 생성된 예측 샘플들을 취합하여 상기 코딩 블록에 대한 예측 샘플들을 도출할 수 있다.
또는, 상기 현재 블록이 예측 블록인 경우, 인코딩 장치는 해당 예측 블록에 대한 움직임 추정을 통하여 최적의 MV를 도출하고, 해당 예측 블록에 대하여 상기 도출한 MV를 기반으로 복원된 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다.
인코딩 장치는 상기 현재 블록에 대한 위너 필터 가용 여부를 판단한다(S1410). 인코딩 장치는 상기 위너 필터를 적용했을 때와 적용하지 않았을 때 간의 RD(rate-distortion) 코스트를 비교하여, 상기 위너 필터 가용 여부를 판단할 수 있다. 인코딩 장치는 상기 판단 결과를 기반으로 위너 필터 플래그를 생성할 수 있다. 인코딩 장치는 상기 위너 필터가 가용한 경우 상기 위너 필터 플래그의 값을 1로 설정하고, 상기 위너 필터가 가용하지 않은 경우 위너 필터 플래그의 값을 0으로 설정할 수 있다.
또한, 인코딩 장치는 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 또는 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N인 경우 중 적어도 하나의 경우 상기 위너 필터가 가용하지 않은 것으로 판단할 수 있다. 이 경우 인코딩 장치는 상기 위너 필터 플래그를 생성하지 않을 수 있다. 이는 디코딩 장치 또한 동일한 판단 기준에 따라 상기 위너 플래그가 가용하지 않은 것으로 묵시적으로 판단할 수 있기 때문이다.
또한, 상기 현재 블록은 예측 블록이고, 상기 예측 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고, 상기 예측 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 인코딩 장치는 상기 위너 필터가 가용하지 않은 것으로 판단할 수 있다. 이 경우 인코딩 장치는 상기와 동일한 이유로 상기 위너 필터 플래그를 생성하지 않을 수 있다.
인코딩 장치는 상기 위너 필터가 가용한 경우, 위너 필터 후보 리스트 중 하나의 후보를 기반으로 상기 현재 블록에 대한 위너 필터 계수들을 도출한다(S1420). 인코딩 장치는 이 경우 공간적 주변 블록들을 기반으로 상기 위너 필터 후보 리스트를 생성할 수 있다. 또는 인코딩 장치는 시간적 대응 블록을 더 기반하여 상기 위너 필터 후보 리스트를 생성할 수 있다. 상기 위너 필터 후보 리스트는 상술한 표 1 및 표 2에 개시된 위너 필터 후보들을 포함할 수 있다. 인코딩 장치는 상기 위너 필터 후보 리스트 중에서 선택된 위너 필터 후보를 가리키는 위너 필터 인덱스를 생성할 수 있다.
한편, 상기 현재 블록이 예측 블록이고, 상기 현재 블록에 대한 예측 모드가 스킵 모드인거나 머지 모드인 경우, 인코딩 장치는 상기 위너 필터 후보 리스트 중에서 상기 머지 인덱스가 가리키는 인덱스의 후보 블록을 선택하고, 상기 선택된 후보 블록에 대한 위너 필터 계수들을 상기 현재 블록에 대한 위너 필터 계수들로 도출할 수도 있다.
상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록과 상기 후보 블록의 참조 블록 간의 관계를 기반으로 도출될 수 있다. 구체적으로 공간적 주변 블록들 또는 시간적 대응 블록 각각에 대한 위너 필터 계수들을 도출하는 방법은 도 5에 대한 설명에서 상술한 바와 같다.
여기서, 일 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록일 수 있다.
다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록으로부터 x축, y축으로 n만큼씩 산술 오른쪽 쉬프트(arithmetic right shift)한 후 산술 왼쪽 쉬프트(arithmetic left shift)한 위치에 있는 블록일 수도 있다. 즉, 상기 시간 적 대응 블록은 상기 우하측 주변 블록 또는 상기 센터 우하측 블록의 좌상단(top-left) 샘플 위치를 (x0, y0)라고 할 때, ((x0>>n)<<n, (y0>>n)<<n) 샘플 위치를 커버링하는 블록일 수도 있다. 여기서 상기 n은 양의 정수로서 2, 3, 4, 5 또는 6 등일 수 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 CB(coding block) 또는 CTB(coding tree block)일 수도 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 CTB 행 또는 CTB 열일 수도 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록의 움직임 벡터 페이즈와 동일한 페이즈의 움직임 벡터를 갖는 영역에 대응할 수도 있다.
또 다른 예로 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 영역으로, 상기 영역은 상기 콜 픽처 또는 상기 콜 픽처 내의 슬라이스를 일정한 크기 및 개수로 분할한 영역일 수 있다. 이 때 상기 영역의 가로 및/또는 세로는 CTB의 배수로 이루어질 수도 있다.
한편, 상기 현재 블록은 예측 블록이고, 상기 예측 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고, 상기 예측 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 상기 위너 필터 후보 리스트는 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들을 기반으로 생성되고, 인코딩 장치는 상기 현재 블록에 대한 위너 필터 계수들 도출을 위하여 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들 중 하나를 선택하고, 인코딩 장치는 상기 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들 중 선택된 예측 블록을 지시하는 상기 위너 필터 인덱스를 생성할 수 있다. 이 경우 상기 선택된 예측 블록에 대한 위너 필터 계수들은 상기 선택된 예측 블록에 대한 필터링을 위하여 선택된 위너 필터 계수들과 같을 수 있다.
인코딩 장치는 도출된 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 예측 샘플들을 필터링한다(S1430). 인코딩 장치는 상기 필터링을 통하여 원본 샘플에 보다 유사한 예측 샘플들을 생성할 수 있고, 이를 통하여 레지듀얼 샘플들에 대한 데이터량을 줄일 수 있다.
인코딩 장치는 원본 샘플들 및 상기 필터링된 예측 샘플들 기반으로 레지듀얼 샘플들을 도출한다(S1440). 인코딩 장치는 상기 현재 블록에 대응하는 원본 픽처 내의 원본 샘플들과 상기 필터링된 예측 샘플들 간의 감산을 통하여 상기 레지듀얼 샘플들을 도출할 수 있다.
인코딩 장치는 예측 관련 정보, 레지듀얼 정보 및 위너 필터 정보를 인코딩 및 출력한다(S1450). 인코딩 장치는 상기 예측 관련 정보, 상기 레지듀얼 정보 및 사익 위너 필터 정보를 엔트로피 인코딩하고 비트스트림 형태로 출력할 수 있다. 출력된 비트스트림은 네트워크 또는 저장매체를 통하여 디코딩 장치로 전송 또는 전달될 수 있다.
여기서 예측 관련 정보는 상기 현재 블록에 대한 예측 모드 정보 및 파티셔닝 모드 정보를 포함할 수 있다. 상기 레지듀얼 정보는 상기 레지듀얼 샘플들에 대한 정보로서, 예를 들어 상기 레지듀얼 샘플들에 대한 주파수 도메인에서의 변환 계수들을 포함할 수 있다. 상기 위너 필터 정보는 상기 위너 필터와 관련된 정보로서 예를 들어 상기 위너 필터 플래그 및 상기 위너 필터 인덱스를 포함할 수 있다.
도 15는 본 발명에 따른 영상 디코딩 방법의 일 예를 개략적으로 나타낸다. 도 15에서 개시된 방법은 디코딩 장치에 의하여 수행될 수 있다.
도 15를 참조하면, 디코딩 장치는 인코딩 장치로부터 수신된 비트스트림으로부터 예측 관련 정보, 레지듀얼 정보 및 위너 필터 정보를 획득한다(S1500). 디코딩 장치는 상기 비트스트림을 엔트로피 디코딩하여 상기 예측 관련 정보, 상기 레지듀얼 정보 및 상기 위너 필터 정보를 획득할 수 있다.
상기 예측 관련 정보는 현재 블록에 대한 예측 모드 정보 및 파티셔닝 모드 정보를 포함할 수 있다. 상기 레지듀얼 정보는 레지듀얼 샘플들에 대한 정보로서, 예를 들어 상기 레지듀얼 샘플들에 대한 주파수 도메인에서의 변환 계수들을 포함할 수 있다. 상기 위너 필터 정보는 상기 위너 필터와 관련된 정보로서 예를 들어 위너 필터 플래그 및 위너 필터 인덱스를 포함할 수 있다. 상기 위너 필터 정보는 경우에 따라 생략될 수 있다.
디코딩 장치는 상기 현재 블록에 대한 예측 샘플들을 생성한다(S1510).
여기서 현재 블록은 코딩 블록 또는 예측 블록일 수 있다. 상기 현재 블록이 코딩 블록인 경우, 파티셔닝 모드에 따라 상기 코딩 블록은 하나 또는 다수의 예측 블록들을 포함할 수 있다. 디코딩 장치는 상기 하나 또는 다수의 예측 블록들 각각에 대하여 머지 인덱스 또는 mvp 인덱스를 기반으로 MV를 도출하고, 상기 각각의 예측 블록들에 대하여 상기 도출한 MV를 기반으로 복원된 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다. 디코딩 장치는 예측 블록 단위로 생성된 예측 샘플들을 취합하여 상기 코딩 블록에 대한 예측 샘플들을 도출할 수 있다.
또는, 상기 현재 블록이 예측 블록인 경우, 디코딩 장치는 해당 예측 블록에 대한 머지 인덱스 또는 mvp 인덱스를 통하여 MV를 도출하고, 해당 예측 블록에 대하여 상기 도출한 MV를 기반으로 복원된 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다.
예를 들어, 상기 예측 블록에 대한 예측 모드가 스킵 모드이거나 머지 모드인 경우, 디코딩 장치는 미리 정의된 방법에 따라 구성된 머지 후보 리스트와 상기 비트스트림으로부터 획득한 머지 인덱스를 기반으로 상기 현재 블록에 대한 MV를 도출할 수 있고, 상기 MV를 기반으로 상기 예측 블록 내의 상기 예측 샘플들을 생성할 수 있다.
디코딩 장치는 상기 현재 블록에 대한 위너 필터 가용 여부를 판단한다(S1520).
디코딩 장치는 상기 비트스트림을 통하여 위너 필터 플래그를 명시적으로 수신하여, 상기 위너 필터 플래그를 기반으로 상기 현재 블록에 대한 상기 위너 필터 가용 여부를 판단할 수 있다.
또한, 디코딩 장치는 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 또는 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N인 경우 중 적어도 하나의 경우 상기 위너 필터가 가용하지 않은 것으로 묵시적으로 판단할 수도 있다. 이 경우 디코딩 장치는 상기 위너 필터 플래그를 상기 비트스트림으로부터 수신 또는 파싱하지 않을 수 있다. 디코딩 장치는 이 경우 상기 위너 필터 플래그의 값을 0으로 추정 또는 판단할 수 있다.
또한, 상기 현재 블록은 예측 블록이고, 상기 예측 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고, 상기 예측 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 디코딩 장치는 상기 위너 필터가 가용하지 않은 것으로 판단할 수 있다. 이 경우 디코딩 장치는 상기 위너 필터 플래그를 상기 비트스트림으로부터 수신 또는 파싱하지 않을 수 있다. 디코딩 장치는 이 경우 상기 위너 필터 플래그의 값을 0으로 추정 또는 판단할 수 있다.
상기 위너 필터가 가용한 경우, 디코딩 장치는 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들을 도출한다(S1530).
디코딩 장치는 시간적 대응 블록을 더 기반하여 상기 위너 필터 후보 리스트를 생성할 수 있다. 상기 위너 필터 후보 리스트는 상술한 표 1 및 표 2에 개시된 위너 필터 후보들을 포함할 수 있다.
디코딩 장치는 상기 비트스트림으로부터 위너 필터 인덱스를 획득하고, 상기 위너 필터 인덱스를 기반으로 상기 위너 필터 후보 리스트 중에서 하나의 후보 블록을 선택할 수 있다.
한편, 상기 현재 블록이 예측 블록이고, 상기 현재 블록에 대한 예측 모드가 스킵 모드인거나 머지 모드인 경우, 디코딩 장치는 상기 위너 필터 후보 리스트 중에서 상기 머지 인덱스가 가리키는 인덱스의 후보 블록을 선택하고, 상기 선택된 후보 블록에 대한 위너 필터 계수들을 상기 현재 블록에 대한 위너 필터 계수들로 도출할 수도 있다.
상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록과 상기 후보 블록의 참조 블록 간의 관계를 기반으로 도출될 수 있다. 구체적으로 공간적 주변 블록들 또는 시간적 대응 블록 각각에 대한 위너 필터 계수들을 도출하는 방법은 도 5에 대한 설명에서 상술한 바와 같다.
여기서, 일 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록일 수 있다.
다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록으로부터 x축, y축으로 n만큼씩 산술 오른쪽 쉬프트(arithmetic right shift)한 후 산술 왼쪽 쉬프트(arithmetic left shift)한 위치에 있는 블록일 수도 있다. 즉, 상기 시간 적 대응 블록은 상기 우하측 주변 블록 또는 상기 센터 우하측 블록의 좌상단(top-left) 샘플 위치를 (x0, y0)라고 할 때, ((x0>>n)<<n, (y0>>n)<<n) 샘플 위치를 커버링하는 블록일 수도 있다. 여기서 상기 n은 양의 정수로서 2, 3, 4, 5 또는 6 등일 수 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 CB(coding block) 또는 CTB(coding tree block)일 수도 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 CTB 행 또는 CTB 열일 수도 있다.
또 다른 예로, 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록의 움직임 벡터 페이즈와 동일한 페이즈의 움직임 벡터를 갖는 영역에 대응할 수도 있다.
또 다른 예로 상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처 상에 위치하는 동일 위치 블록의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 영역으로, 상기 영역은 상기 콜 픽처 또는 상기 콜 픽처 내의 슬라이스를 일정한 크기 및 개수로 분할한 영역일 수 있다. 이 때 상기 영역의 가로 및/또는 세로는 CTB의 배수로 이루어질 수도 있다.
한편, 상기 현재 블록은 예측 블록이고, 상기 예측 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고, 상기 예측 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 상기 위너 필터 후보 리스트는 상기 공간적 주변 블록들 중에서 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들을 기반으로 생성되고, 상기 비트스트림으로부터 획득한 상기 위너 필터 인덱스는 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들 중 하나를 지시하고, 디코딩 장치는 상기 위너 필터 인덱스를 기반으로 상기 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들 중 하나를 선택할 수 있다. 이 경우 상기 선택된 예측 블록에 대한 위너 필터 계수들은 상기 선택된 예측 블록에 대한 필터링을 위하여 선택된 위너 필터 계수들과 같을 수 있다.
또는, 상기 현재 블록은 예측 블록이고, 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드이거나 머지 모드인 경우, 상기 위너 필터 후보 리스트 중에서 상기 머지 인덱스가 가리키는 인덱스의 상기 후보 블록이 선택되고, 상기 선택된 후보 블록에 대한 위너 필터 계수들이 상기 현재 블록에 대한 위너 필터 계수들로 도출될 수도 있다.
디코딩 장치는 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링한다(S1540). 디코딩 장치는 상기 필터링을 통하여 원본 샘플에 보다 유사한 예측 샘플들을 생성할 수 있고, 이를 통하여 레지듀얼 샘플들에 대한 데이터량을 줄일 수 있다.
디코딩 장치는 상기 필터링된 예측 샘플들 및 레지듀얼 샘플들을 기반으로 복원 픽처를 생성한다(S1550). 디코딩 장치는 상기 획득환 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출할 수 있고, 상기 현재 블록에 대한 상기 필터링된 예측 샘플들 및 상기 레지듀얼 샘플들을 가산하여 복원 샘플들을 생성할 수 있다. 디코딩 장치는 상기 복원 샘플들을 기반으로 상기 복원 픽처를 생성할 수 있다.
상술한 본 발명에 따르면, 적은 부가 정보를 사용하면서 현재 블록에 대한 위너 필터 계수들을 효율적으로 도출할 수 있다. 또한, 본 발명에 따르면 위너 필터 계수들에 기반한 예측 샘플들에 대한 필터링을 통하여 예측 효율을 높일 수 있고, 레지듀얼 신호 전송을 위한 데이터량을 줄일 수 있는바, 전반적인 코딩 효율이 증가될 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시 예들은 본 발명을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 할 것이다.
본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다. 프로세서는 ASIC(application-specific integrated circuit), 다른 칩셋, 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리는 ROM(read-only memory), RAM(random access memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다.

Claims (15)

  1. 디코딩 장치에 의하여 수행되는 영상 디코딩 방법에 있어서,
    수신된 비트스트림으로부터 예측 관련 정보 및 레지듀얼 정보를 획득하는 단계;
    현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계;
    상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하는 단계;
    상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계;
    상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계;
    상기 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 단계; 및
    상기 필터링된 예측 샘플들과 상기 레지듀얼 샘플들을 기반으로 복원 픽처(reconstructed picture)를 생성하는 단계를 포함함을 특징으로 하는, 디코딩 방법.
  2. 제 1항에 있어서,
    상기 비트스트림으로부터 위너 필터 인덱스를 획득하는 단계를 더 포함하되,
    상기 위너 필터 후보 리스트 중에서 상기 위너 필터 인덱스가 가리키는 상기 후보 블록이 선택되고, 상기 선택된 후보 블록에 대한 위너 필터 계수들이 상기 현재 블록에 대한 위너 필터 계수들로 도출되는 것을 특징으로 하는, 디코딩 방법.
  3. 제 2항에 있어서,
    상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록과 상기 후보 블록의 참조 블록 간의 관계를 기반으로 도출됨을 특징으로 하는, 디코딩 방법.
  4. 제 1항에 있어서,
    상기 비트스트림으로부터 위너 필터 인덱스를 획득하는 단계를 더 포함하되,
    상기 위너 필터 플래그의 값이 1인 경우, 상기 위너 필터가 가용한 것으로 판단되고,
    상기 위너 필터 플래그의 값이 0인 경우, 상기 위너 필터가 가용하지 않은 것으로 판단됨을 특징으로 하는, 디코딩 방법.
  5. 제 1항에 있어서,
    상기 현재 블록은 코딩 블록이고,
    상기 예측 관련 정보는 상기 현재 블록에 대한 예측 모드(prediction mode) 정보 및 파티셔닝 모드(partitioning mode) 정보를 포함하고,
    상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 또는 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N인 경우 중 적어도 하나의 경우, 상기 위너 필터가 가용하지 않은 것으로 판단됨을 특징으로 하는, 디코딩 방법.
  6. 제 5항에 있어서,
    상기 현재 블록에 대한 예측 모드가 상기 스킵 모드인 경우 또는 상기 현재 블록에 대한 파티셔닝 모드가 상기 2N×2N인 경우 중 적어도 하나의 경우, 위너 필터 플래그 및 위너 필터 인덱스는 상기 비트스트림으로부터 획득되지 않고, 상기 위너 필터 플래그의 값은 0으로 추정되는 것을 특징으로 하는, 디코딩 방법.
  7. 제 1항에 있어서,
    상기 현재 블록은 예측 블록이고,
    상기 예측 관련 정보는 상기 현재 블록에 대한 파티셔닝 모드 정보를 포함하고, 상기 현재 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고,
    상기 현재 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 상기 위너 필터가 가용하지 않은 것으로 판단됨을 특징으로 하는, 디코딩 방법.
  8. 제 1항에 있어서,
    상기 비트스트림으로부터 위너 필터 인덱스를 획득하는 단계를 더 포함하되,
    상기 현재 블록은 예측 블록이고,
    상기 예측 관련 정보는 상기 현재 블록에 대한 파티셔닝 모드 정보를 포함하고, 상기 현재 블록은 코딩 블록으로부터 파티셔닝 모드 N×N을 기반으로 파티셔닝되고,
    상기 현재 블록이 상기 코딩 블록 내에 파티셔닝 모드 N×N을 갖는(with) partIdx가 3인 예측 블록인 경우, 상기 위너 필터 인덱스는 상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 예측 블록들 중 하나를 지시함을 특징으로 하는, 디코딩 방법.
  9. 제 8항에 있어서,
    상기 코딩 블록 내에 위치하는 partIdx가 0 내지 2인 상기 예측 블록들을 기반으로 도출된 상기 위너 필터 후보 리스트 중에서 상기 위너 필터 인덱스가 가리키는 상기 후보 블록이 선택되고,
    상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 선택된 후보 블록에 대한 필터링을 위하여 선택된 위너 필터 계수들과 같은 것을 특징으로 하는, 디코딩 방법.
  10. 제 1항에 있어서,
    상기 위너 필터 후보 리스트는 상기 현재 블록의 시간적 대응 블록을 더 기반하여 도출되며,
    상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록인 것을 특징으로 하는, 디코딩 방법.
  11. 제 10항에 있어서,
    상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록으로부터 x축, y축으로 n만큼 산술 쉬프트한 위치에 있는 블록인 것을 특징으로 하는, 디코딩 방법.
  12. 제 1항에 있어서,
    상기 위너 필터 후보 리스트는 상기 현재 블록의 시간적 대응 블록을 더 기반하여 도출되며,
    상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록을 포함하는 CB(coding block) 또는 CTB(coding tree block)임을 특징으로 하는, 디코딩 방법.
  13. 제 1항에 있어서,
    상기 위너 필터 후보 리스트는 상기 현재 블록의 시간적 대응 블록을 더 기반하여 도출되며,
    상기 시간적 대응 블록은 참조 픽처들 중 하나인 콜 픽처(collocated picture) 상에 위치하는 동일 위치 블록(collocated block)의 우하측 주변 블록 또는 센터 우하측 블록의 움직임 벡터 페이즈와 동일한 페이즈의 움직임 벡터를 갖는 영역에 대응하는 것을 특징으로 하는, 디코딩 방법.
  14. 제 1항에 있어서,
    상기 현재 블록은 예측 블록이고,
    상기 예측 관련 정보는 상기 현재 블록에 대한 예측 모드(prediction mode) 정보 및 머지 인덱스를 포함하고,
    상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드이거나 머지 모드인 경우, 상기 예측 샘플들을 생성하는 단계는:
    상기 머지 인덱스를 기반으로 상기 현재 블록에 대한 움직임 벡터(MV)를 도출하는 단계; 및
    상기 움직임 벡터를 기반으로 상기 현재 블록 내의 상기 예측 샘플들을 생성하는 단계를 포함하고,
    상기 위너 필터 후보 리스트 중에서 상기 머지 인덱스가 가리키는 인덱스의 상기 후보 블록이 선택되고, 상기 선택된 후보 블록에 대한 위너 필터 계수들이 상기 현재 블록에 대한 위너 필터 계수들로 도출되는 것을 특징으로 하는, 디코딩 방법.
  15. 인코딩 장치에 의하여 수행되는 영상 인코딩 방법에 있어서,
    인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하는 단계;
    상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하는 단계;
    상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계;
    상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계;
    원본 샘플들 및 상기 필터링된 예측 샘플들을 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출하는 단계; 및
    상기 현재 블록에 대한 예측 관련 정보, 상기 레지듀얼 샘플들에 대한 레지듀얼 정보 및 위너 필터 정보를 인코딩하여 출력하는 단계를 포함함을 특징으로 하는, 인코딩 방법.
PCT/KR2016/000788 2015-10-16 2016-01-25 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치 WO2017065357A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201680067276.9A CN108293111B (zh) 2015-10-16 2016-01-25 改善图像编码系统中的预测的滤波方法、装置和存储介质
US15/768,403 US10602141B2 (en) 2015-10-16 2016-01-25 Filtering method and apparatus for improving prediction in image coding system
EP16855575.3A EP3364653A4 (en) 2015-10-16 2016-01-25 FILTRATION METHOD AND DEVICE FOR IMPROVING THE PREDICTION IN A BILDCODING SYSTEM
KR1020187008009A KR20180069789A (ko) 2015-10-16 2016-01-25 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201562242308P 2015-10-16 2015-10-16
US201562242309P 2015-10-16 2015-10-16
US62/242,308 2015-10-16
US62/242,309 2015-10-16

Publications (1)

Publication Number Publication Date
WO2017065357A1 true WO2017065357A1 (ko) 2017-04-20

Family

ID=58517349

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/000788 WO2017065357A1 (ko) 2015-10-16 2016-01-25 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치

Country Status (5)

Country Link
US (1) US10602141B2 (ko)
EP (1) EP3364653A4 (ko)
KR (1) KR20180069789A (ko)
CN (1) CN108293111B (ko)
WO (1) WO2017065357A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019091235A1 (zh) * 2017-11-09 2019-05-16 北京大学深圳研究生院 一种用于帧内预测的边界滤波方法
WO2019105120A1 (zh) * 2017-11-29 2019-06-06 北京大学深圳研究生院 一种用于帧内和帧间预测的滤波方法

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11496747B2 (en) 2017-03-22 2022-11-08 Qualcomm Incorporated Intra-prediction mode propagation
WO2020042990A1 (zh) * 2018-08-28 2020-03-05 华为技术有限公司 帧间预测方法、装置及其应用的编/解方法及装置
CN111010565B (zh) * 2018-10-04 2023-05-16 华为技术有限公司 帧间预测方法、装置及其应用的编/解方法及装置
GB2577056B (en) * 2018-09-11 2022-12-14 British Broadcasting Corp Bitstream decoder
BR112021004516B1 (pt) * 2018-09-11 2021-12-14 Lg Electronics Inc Método de decodificação de imagem executado por um aparelho de decodificação, método de codificação de imagem executado por um aparelho de codificação e mídia de armazenamento legível por computador
MX2021005271A (es) 2018-11-08 2021-06-18 Guangdong Oppo Mobile Telecommunications Corp Ltd Metodo de codificacion/decodificacion de se?ales de imagen y el aparato para el mismo.
CN113347429B (zh) 2018-11-08 2023-06-23 Oppo广东移动通信有限公司 图像信号编码/解码方法及其设备
US11563975B2 (en) * 2018-12-26 2023-01-24 Interdigital Madison Patent Holdings, Sas Motion compensation boundary filtering
JP7148739B2 (ja) 2019-03-04 2022-10-05 エルジー エレクトロニクス インコーポレイティド 映像コーディングシステムにおいて文脈コーディングされたサインフラグを使用する映像デコーディング方法及びその装置
CN111279706B (zh) * 2019-03-13 2022-03-22 北京大学 环路滤波的方法、装置、计算机系统和可移动设备
KR20210126774A (ko) * 2019-03-26 2021-10-20 엘지전자 주식회사 Mpm 리스트에 기반한 인트라 예측 방법 및 그 장치
KR20230157529A (ko) 2019-04-01 2023-11-16 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 히스토리 기반 움직임 벡터 예측을 위한 보간 필터 사용
FI3944618T3 (fi) * 2019-04-16 2024-01-11 Lg Electronics Inc Muunnos matriisipohjaista intraennustusta varten kuvan koodauksessa
US11595668B2 (en) * 2019-05-22 2023-02-28 Lg Electronics Inc. Image decoding method using BDPCM and device therefor
JP2022536425A (ja) * 2019-06-13 2022-08-16 エルジー エレクトロニクス インコーポレイティド 双予測基盤映像／ビデオコーディング方法及び装置
JP7328365B2 (ja) * 2019-06-14 2023-08-16 エルジー エレクトロニクス インコーポレイティド 双予測（ｂｉ－ｐｒｅｄｉｃｔｉｏｎ）が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置
JP7460664B2 (ja) * 2019-06-19 2024-04-02 エルジー エレクトロニクス インコーポレイティド 決定された予測モードを適用して予測サンプルを生成する映像デコーディング方法及びその装置
WO2020262900A1 (ko) * 2019-06-24 2020-12-30 엘지전자 주식회사 머지 후보를 이용하여 예측 샘플을 도출하는 영상 디코딩 방법 및 그 장치
KR20220019241A (ko) * 2019-07-08 2022-02-16 엘지전자 주식회사 적응적 루프 필터 기반 비디오 또는 영상 코딩
KR102635319B1 (ko) 2019-08-20 2024-02-07 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 프로세싱에서 대안적 보간 필터들의 선택적 사용
JP2021052241A (ja) * 2019-09-20 2021-04-01 Kddi株式会社 画像復号装置、画像復号方法及びプログラム
MX2022005993A (es) * 2019-11-18 2022-09-07 Lg Electronics Inc Dispositivo y metodo de codificacion de imagenes para controlar el filtrado en bucle.
US20230007310A1 (en) * 2019-11-18 2023-01-05 Lg Electronics Inc. Image coding apparatus and method based on signaling of information for filtering
CN114982231A (zh) * 2019-11-27 2022-08-30 Lg电子株式会社 图像解码方法及用于其的装置
EP4068786A4 (en) 2019-11-28 2023-10-11 LG Electronics Inc. METHOD AND DEVICE FOR SIGNALING INFORMATION RELATING TO A SLICE OF AN IMAGE/VIDEO ENCODING/DECODING SYSTEM
CN115589484A (zh) * 2019-12-06 2023-01-10 杭州海康威视数字技术股份有限公司 滤波方法、装置及设备
CN113259669B (zh) * 2021-03-25 2023-07-07 浙江大华技术股份有限公司 编码方法、装置、电子设备及计算机可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100254448A1 (en) * 2009-04-06 2010-10-07 Lidong Xu Selective Local Adaptive Wiener Filter for Video Coding and Decoding
KR20110066888A (ko) * 2009-12-11 2011-06-17 에스케이 텔레콤주식회사 움직임 보상 프레임의 선택적 필터링을 이용한 영상 부호화/복호화 방법 및 장치와 그를 위한 인터 예측 방법 및 장치
KR20110093811A (ko) * 2008-11-27 2011-08-18 파나소닉 주식회사 동화상 복호 방법, 동화상 부호화 방법, 동화상 복호 장치, 동화상 부호화 장치, 프로그램, 및 집적 회로
US20120307898A1 (en) * 2009-11-30 2012-12-06 Nec Corporation Video encoding device and video decoding device
KR20130124539A (ko) * 2011-01-12 2013-11-14 미쓰비시덴키 가부시키가이샤 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법 및 화상 복호 방법

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8270472B2 (en) * 2007-11-09 2012-09-18 Thomson Licensing Methods and apparatus for adaptive reference filtering (ARF) of bi-predictive pictures in multi-view coded video
US8326075B2 (en) * 2008-09-11 2012-12-04 Google Inc. System and method for video encoding using adaptive loop filter
CN101754010A (zh) * 2008-12-18 2010-06-23 北京中星微电子有限公司 视频数据编码的环路滤波方法和滤波器
EP2525576A4 (en) * 2010-01-12 2015-04-15 Sharp Kk ENCODER APPARATUS, DECODER APPARATUS, AND DATA STRUCTURE
US20120320973A1 (en) * 2010-03-09 2012-12-20 Thomson Licensing Methods and apparatus for a classification-based loop filter
WO2011113282A1 (en) * 2010-03-15 2011-09-22 Mediatek Singapore Pte. Ltd. Localized in-loop filtering with multiple filters in hybrid video coding
US9628821B2 (en) * 2010-10-01 2017-04-18 Apple Inc. Motion compensation using decoder-defined vector quantized interpolation filters
US9462280B2 (en) * 2010-12-21 2016-10-04 Intel Corporation Content adaptive quality restoration filtering for high efficiency video coding
US8761245B2 (en) * 2010-12-21 2014-06-24 Intel Corporation Content adaptive motion compensation filtering for high efficiency video coding
US9819965B2 (en) * 2012-11-13 2017-11-14 Intel Corporation Content adaptive transform coding for next generation video
WO2017122997A1 (ko) * 2016-01-11 2017-07-20 삼성전자 주식회사 영상 부호화 방법 및 장치와 영상 복호화 방법 및 장치
US10965941B2 (en) * 2017-10-09 2021-03-30 Qualcomm Incorporated Position-dependent prediction combinations in video coding

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110093811A (ko) * 2008-11-27 2011-08-18 파나소닉 주식회사 동화상 복호 방법, 동화상 부호화 방법, 동화상 복호 장치, 동화상 부호화 장치, 프로그램, 및 집적 회로
US20100254448A1 (en) * 2009-04-06 2010-10-07 Lidong Xu Selective Local Adaptive Wiener Filter for Video Coding and Decoding
US20120307898A1 (en) * 2009-11-30 2012-12-06 Nec Corporation Video encoding device and video decoding device
KR20110066888A (ko) * 2009-12-11 2011-06-17 에스케이 텔레콤주식회사 움직임 보상 프레임의 선택적 필터링을 이용한 영상 부호화/복호화 방법 및 장치와 그를 위한 인터 예측 방법 및 장치
KR20130124539A (ko) * 2011-01-12 2013-11-14 미쓰비시덴키 가부시키가이샤 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법 및 화상 복호 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3364653A4 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019091235A1 (zh) * 2017-11-09 2019-05-16 北京大学深圳研究生院 一种用于帧内预测的边界滤波方法
US11381812B2 (en) 2017-11-09 2022-07-05 Peking University Shenzhen Graduate School Boundary filtering method for intra prediction
WO2019105120A1 (zh) * 2017-11-29 2019-06-06 北京大学深圳研究生院 一种用于帧内和帧间预测的滤波方法
US10939124B1 (en) 2017-11-29 2021-03-02 Peking University Shenzhen Graduate School Filtering method for intra-frame and inter-frame prediction

Also Published As

Publication number Publication date
EP3364653A1 (en) 2018-08-22
CN108293111B (zh) 2022-07-08
US20180309987A1 (en) 2018-10-25
US10602141B2 (en) 2020-03-24
CN108293111A (zh) 2018-07-17
KR20180069789A (ko) 2018-06-25
EP3364653A4 (en) 2019-07-10

Similar Documents

Publication Publication Date Title
WO2017065357A1 (ko) 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치
WO2017209328A1 (ko) 영상 코딩 시스템에서 인트라 예측 방법 및 장치
WO2018212577A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018008906A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019164031A1 (ko) 영상 코딩 시스템에서 블록 분할 구조에 따른 영상 디코딩 방법 및 장치
WO2017222325A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018106047A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019117634A1 (ko) 2차 변환에 기반한 영상 코딩 방법 및 그 장치
WO2018008905A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018066959A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017052009A1 (ko) 영상 코딩 시스템에서 amvr 기반한 영상 코딩 방법 및 장치
WO2016143991A1 (ko) 저 복잡도 변환에 기반한 영상 부호화 및 복호화 방법 및 이를 이용하는 장치
WO2014171713A1 (ko) 인트라 예측을 이용한 비디오 부호화/복호화 방법 및 장치
WO2017082443A1 (ko) 영상 코딩 시스템에서 임계값을 이용한 적응적 영상 예측 방법 및 장치
WO2019117639A1 (ko) 변환에 기반한 영상 코딩 방법 및 그 장치
WO2017065509A2 (ko) 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
WO2018212579A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018044089A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016159610A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018056701A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017159901A1 (ko) 비디오 코딩 시스템에서 블록 구조 도출 방법 및 장치
WO2020116961A1 (ko) 이차 변환에 기반한 영상 코딩 방법 및 그 장치
WO2016122253A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016122251A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019231206A1 (ko) 영상 부호화/복호화 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16855575

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20187008009

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15768403

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2016855575

Country of ref document: EP