WO2019031842A1 - 영상 처리 방법 및 이를 위한 장치 - Google Patents

영상 처리 방법 및 이를 위한 장치 Download PDF

Info

Publication number
WO2019031842A1
WO2019031842A1 PCT/KR2018/009026 KR2018009026W WO2019031842A1 WO 2019031842 A1 WO2019031842 A1 WO 2019031842A1 KR 2018009026 W KR2018009026 W KR 2018009026W WO 2019031842 A1 WO2019031842 A1 WO 2019031842A1
Authority
WO
WIPO (PCT)
Prior art keywords
cost
block
motion information
mode
current block
Prior art date
Application number
PCT/KR2018/009026
Other languages
English (en)
French (fr)
Inventor
장형문
임재현
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of WO2019031842A1 publication Critical patent/WO2019031842A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the present invention relates to a still image or moving image processing method, and more particularly, to a method of encoding / decoding a still image or moving image based on an inter prediction mode and a device supporting the same.
  • Compressive encoding refers to a series of signal processing techniques for transmitting digitized information over a communication line or for storing it in a form suitable for a storage medium.
  • Media such as video, image, and audio can be subject to compression coding.
  • a technique for performing compression coding on an image is referred to as video image compression.
  • Next-generation video content will feature high spatial resolution, high frame rate, and high dimensionality of scene representation. Processing such content will result in a tremendous increase in terms of memory storage, memory access rate, and processing power.
  • the decoder can derive the motion information in the process of encoding / decoding the still image or moving image.
  • a method for determining the induction method adaptively based on the cost is needed.
  • an inter-prediction-based image processing method comprising: calculating a first cost of a first inductive mode, wherein the first inductive mode includes: A mode for deriving motion information that minimizes a difference value between neighboring template regions; Calculating a second cost of the second inductive mode, wherein the second inductive mode is a mode of deriving motion information that minimizes a difference value between reference blocks indicated by two motion vectors symmetric with respect to the current block, Indicates; Determining a scheme having a smaller cost among the first guidance mode and the second guidance mode based on the first cost and the second cost as a motion information derivation method of the current block; Deriving motion information of the current block using the determined motion information derivation method; And generating a prediction block of the current block using the derived motion information.
  • the calculating the first cost of the first inductive mode comprises: determining a first motion vector that identifies a first reference template area included in a reference picture of reference picture list 0; Determining a second motion vector that identifies a second reference template area included in a reference picture of reference picture list 1; And calculating a difference value between reference blocks identified by the first motion vector and the second motion vector as the first cost, wherein the first reference template region is included in the reference picture list 0 And the second reference template area corresponds to an area for minimizing a difference value between the current reference block and the surrounding template area of the current block in the reference picture, It corresponds to the area where the value is minimized.
  • the calculating of the second cost of the second inductive mode may comprise calculating a second cost of the first reference block of the reference picture list and the second reference block of the reference picture list 1 using the first motion vector and the second motion vector, Wherein the second motion vector is equal in magnitude and opposite in direction to the first motion vector; And calculating a difference value between the first reference block and the second reference block as the second cost.
  • the calculating of the second cost of the second inductive mode may include calculating a first reference block of the reference picture list 0 and a second reference block of the reference picture list 1 using the first motion vector and the second motion vector, Wherein the second motion vector is the same size and opposite in direction as the first motion vector; And calculating a difference value between a neighboring template area of the first reference block and a neighboring template area of the second reference block as a second cost.
  • the step of determining a motion information derivation method of the current block includes: obtaining a first normalized cost by normalizing the first cost; Obtaining a second normalized cost by normalizing the second cost; And determining a scheme having a smaller cost of the first guidance mode and the second guidance mode based on the first normalized cost and the second normalized cost as a motion information derivation method of the current block .
  • the first normalized cost is obtained by dividing the first normalized cost by the number of samples included in the surrounding template region of the current block.
  • the second normalized cost is obtained by dividing by the number of samples included in the reference block.
  • a first cost operation unit for calculating a first cost of a first inductive mode, wherein the first inductive mode is a mode in which a difference value between a surrounding template region of a current block and a surrounding template region of a reference block intra- A mode for deriving motion information to minimize;
  • a second cost operation unit for calculating a second cost of the second guidance mode, wherein the second guidance mode is a mode in which motion information for minimizing a difference value between reference blocks indicated by two motion vectors symmetric with respect to the current block is derived
  • a motion information derivation unit for deriving motion information of the current block using the determined motion information derivation scheme;
  • a prediction block generator for generating a prediction block of the current block using the
  • the decoder can adaptively select the motion information derivation method based on the cost.
  • the cost of the template matching method can be calculated using a cost calculation method of bilateral matching, and the cost of the bilateral matching method can be calculated using a cost calculation method of template matching .
  • the present invention can improve the accuracy of prediction by comparing the cost obtained by the same calculation method.
  • prediction accuracy can be improved by dividing the cost of each matching method by the number of pixels used for cost calculation and comparing the cost per pixel.
  • FIG. 1 shows a video coding system to which the present invention is applied.
  • FIG. 2 is a schematic block diagram of an encoder in which still image or moving picture signal encoding is performed according to an embodiment of the present invention.
  • FIG. 3 is a schematic block diagram of a decoder in which still image or moving picture signal encoding is performed according to an embodiment of the present invention.
  • FIG. 4B is a diagram illustrating a Binary Tree (hereinafter referred to as BT)
  • FIG. 4C is a diagram illustrating a TT (Ternary) 4D is a diagram for explaining block division structures by an asymmetric tree (AT).
  • BT Binary Tree
  • AT asymmetric tree
  • FIG. 5 is a diagram illustrating the direction of inter prediction, which is an embodiment to which the present invention can be applied.
  • Figure 6 illustrates integer and fractional sample locations for 1/4 sample interpolation as an embodiment to which the present invention may be applied.
  • Figure 7 illustrates the location of spatial candidates as an embodiment to which the present invention may be applied.
  • FIG. 8 is a diagram illustrating an inter prediction method according to an embodiment to which the present invention is applied.
  • FIG. 9 is a diagram illustrating a motion compensation process according to an embodiment to which the present invention can be applied.
  • FIG. 10 is a diagram for explaining template matching according to an embodiment of the present invention.
  • FIG. 11 is a view for explaining bi-lateral matching according to an embodiment of the present invention.
  • FIG. 13 shows a process of calculating the cost of bi-lateral matching according to an embodiment of the present invention.
  • FIG. 14 shows a flowchart of a procedure in which a decoder determines a motion information derivation method using cost normalization, according to an embodiment of the present invention.
  • FIG. 15 shows a block diagram of an inter prediction unit according to an embodiment of the present invention.
  • 16 is a flowchart of an inter prediction based image processing method according to an embodiment of the present invention.
  • FIG. 17 shows a structure of a content streaming system according to an embodiment of the present invention.
  • 'block' or 'unit' means a unit in which encoding / decoding processes such as prediction, conversion and / or quantization are performed, and may be composed of a multi-dimensional array of samples (or pixels).
  • a 'block' or 'unit' may refer to a multidimensional array of samples for a luma component, or a multidimensional array of samples for a chroma component. It may also be collectively referred to as a multidimensional array of samples for a luma component and a multidimensional array of samples for a chroma component.
  • a 'block' or a 'unit' may include a coding block (CB) indicating an array of samples to be subjected to encoding / decoding, a coding tree block (CTB) composed of a plurality of coding blocks
  • a prediction block (PU) Prediction Unit
  • a conversion block (TB) representing an array of samples to which the same conversion is applied
  • Transform Block or Transform Unit (TU)
  • a 'block' or 'unit' is a syntax or syntax used in encoding / decoding an array of samples for a luma component and / or a chroma component,
  • the syntax structure means zero or more syntax elements existing in the bit stream in a specific order, and the syntax element means an element of data represented in the bitstream.
  • a 'block' or a 'unit' includes a coding block (CB) and a coding unit (CU) including a syntax structure used for encoding the corresponding coding block (CB)
  • a prediction unit PU Prediction Unit
  • a prediction unit PU Coding Tree Unit
  • a conversion unit TU: Transform Unit
  • 'block' or 'unit' is not necessarily limited to an array of samples (or pixels) in the form of a square or a rectangle, but may be a polygonal sample (or pixel, pixel) having three or more vertices. May also be used. In this case, it may be referred to as a polygon block or a polygon unit.
  • FIG. 1 shows a video coding system to which the present invention is applied.
  • the video coding system may include a source device and a receiving device.
  • the source device may deliver the encoded video / image information or data in the form of a file or stream to a receiving device via a digital storage medium or network.
  • the source device may include a video source, an encoding apparatus, and a transmitter.
  • the receiving device may include a receiver, a decoding apparatus, and a renderer.
  • the encoding apparatus may be referred to as a video / image encoding apparatus, and the decoding apparatus may be referred to as a video / image decoding apparatus.
  • the transmitter may be included in the encoding device.
  • the receiver may be included in the decoding apparatus.
  • the renderer may include a display unit, and the display unit may be composed of a separate device or an external component.
  • a video source can acquire video / image through capturing, compositing, or generating a video / image.
  • the video source may include a video / video capture device and / or a video / video generation device.
  • the video / video capture device may include, for example, one or more cameras, video / video archives including previously captured video / images, and the like.
  • the video / image generation device may include, for example, a computer, tablet, smart phone, and the like (electronically) to generate video / images.
  • a virtual video / image may be generated through a computer or the like. In this case, the video / image capturing process may be replaced in the process of generating related data.
  • the encoding device may encode the input video / image.
  • the encoding apparatus can perform a series of procedures such as prediction, conversion, and quantization for compression and coding efficiency.
  • the encoded data (encoded video / image information) can be output in the form of a bitstream.
  • the transmitting unit may transmit the encoded video / image information or data output in the form of a bit stream to a receiving unit of the receiving device through a digital storage medium or a network in the form of a file or a stream.
  • the digital storage medium may include various storage media such as USB, SD, CD, DVD, Blu-ray, HDD, SSD and the like.
  • the transmission unit may include an element for generating a media file through a predetermined file format, and may include an element for transmission over a broadcast / communication network.
  • the receiving unit may extract the bitstream and transmit it to the decoding apparatus.
  • the decoding apparatus may perform a series of procedures such as inverse quantization, inverse transformation, and prediction corresponding to the operation of the encoding apparatus to decode the video / image.
  • the renderer may render the decoded video / image.
  • the rendered video / image can be displayed through the display unit.
  • FIG. 2 is a schematic block diagram of an encoder in which still image or moving picture signal encoding is performed according to an embodiment of the present invention.
  • the encoder 100 includes an image divider 110, a subtractor 115, a transformer 120, a quantizer 130, an inverse quantizer 140, an inverse transformer 150, A decoding unit 160, a decoded picture buffer (DPB) 170, a predicting unit 180, and an entropy encoding unit 190.
  • the prediction unit 180 may include an inter prediction unit 181 and an intra prediction unit 182.
  • the image divider 110 divides an input video signal (or a picture or a frame) input to the encoder 100 into one or more blocks.
  • a QT QuantTree, hereinafter referred to as QT
  • a BT Binary Tree, hereinafter referred to as TT
  • AT asymmetric tree, Block
  • the subtractor 115 subtracts a predicted signal (or a predicted block) from the predictor 180 (i.e., the inter prediction unit 181 or the intra prediction unit 182) )) To generate a residual signal (or a difference block).
  • the generated difference signal (or difference block) is transmitted to the conversion unit 120.
  • the transforming unit 120 transforms a difference signal (or a difference block) by a transform technique (for example, DCT (Discrete Cosine Transform), DST (Discrete Sine Transform), GBT (Graph-Based Transform), KLT (Karhunen- Etc.) to generate a transform coefficient.
  • a transform technique for example, DCT (Discrete Cosine Transform), DST (Discrete Sine Transform), GBT (Graph-Based Transform), KLT (Karhunen- Etc.
  • the transform unit 120 may generate transform coefficients by performing transform using a transform technique determined according to a prediction mode applied to a difference block and a size of a difference block.
  • the quantization unit 130 quantizes the transform coefficients and transmits the quantized transform coefficients to the entropy encoding unit 190.
  • the entropy encoding unit 190 entropy-codes the quantized signals and outputs them as a bitstream.
  • the quantized signal output from the quantization unit 130 may be used to generate a prediction signal.
  • the quantized signal can be reconstructed by applying inverse quantization and inverse transformation through the inverse quantization unit 140 and the inverse transform unit 150 in the loop.
  • a reconstructed signal (or reconstruction block) can be generated by adding the reconstructed difference signal to the prediction signal output from the inter prediction unit 181 or the intra prediction unit 182.
  • the filtering unit 160 applies filtering to the restored signal and outputs the restored signal to the playback apparatus or the decoded picture buffer 170.
  • the filtered signal transmitted to the decoding picture buffer 170 may be used as a reference picture in the inter-prediction unit 181. [ As described above, not only the picture quality but also the coding efficiency can be improved by using the filtered picture as a reference picture in the inter picture prediction mode.
  • the decoded picture buffer 170 may store the filtered picture for use as a reference picture in the inter-prediction unit 181.
  • the inter-prediction unit 181 performs temporal prediction and / or spatial prediction to remove temporal redundancy and / or spatial redundancy with reference to a reconstructed picture.
  • the reference picture used for prediction is a transformed signal obtained through quantization and inverse quantization in units of blocks at the time of encoding / decoding in the previous time, blocking artifacts or ringing artifacts may exist have.
  • the inter-prediction unit 181 can interpolate signals between pixels by sub-pixel by applying a low-pass filter in order to solve the performance degradation due to discontinuity or quantization of such signals.
  • a subpixel means a virtual pixel generated by applying an interpolation filter
  • an integer pixel means an actual pixel existing in a reconstructed picture.
  • the interpolation method linear interpolation, bi-linear interpolation, wiener filter and the like can be applied.
  • the interpolation filter may be applied to a reconstructed picture to improve the accuracy of the prediction.
  • the inter prediction unit 181 may apply an interpolation filter to an integer pixel to generate an interpolation pixel, and may perform prediction using an interpolated block composed of interpolated pixels.
  • the intra predictor 182 predicts a current block by referring to samples in the vicinity of a block to be currently encoded.
  • the intraprediction unit 182 may perform the following procedure to perform intra prediction. First, a reference sample necessary for generating a prediction signal can be prepared. Then, the predicted signal (predicted block) can be generated using the prepared reference sample. Thereafter, the prediction mode is encoded. At this time, reference samples can be prepared through reference sample padding and / or reference sample filtering. Since the reference samples have undergone prediction and reconstruction processes, quantization errors may exist. Therefore, a reference sample filtering process can be performed for each prediction mode used for intraprediction to reduce such errors.
  • a predicted signal (or a predicted block) generated through the inter prediction unit 181 or the intra prediction unit 182 is used to generate a reconstructed signal (or a reconstructed block) Block).
  • FIG. 3 is a schematic block diagram of a decoder in which still image or moving picture signal encoding is performed according to an embodiment of the present invention.
  • the decoder 200 includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, an adder 235, a filtering unit 240, a decoded picture buffer (DPB) A buffer unit 250, and a prediction unit 260.
  • the prediction unit 260 may include an inter prediction unit 261 and an intra prediction unit 262.
  • the reconstructed video signal output through the decoder 200 may be reproduced through a reproducing apparatus.
  • the decoder 200 receives a signal (i.e., a bit stream) output from the encoder 100 of FIG. 2, and the received signal is entropy-decoded through the entropy decoding unit 210.
  • a signal i.e., a bit stream
  • the inverse quantization unit 220 obtains a transform coefficient from the entropy-decoded signal using the quantization step size information.
  • the inverse transform unit 230 obtains a residual signal (or a difference block) by inverse transforming the transform coefficient by applying an inverse transform technique.
  • the adder 235 adds the obtained difference signal (or difference block) to a predicted signal (or prediction signal) output from the predicting unit 260 (i.e., the inter prediction unit 261 or the intra prediction unit 262)
  • the reconstructed signal (or restoration block) is generated.
  • the filtering unit 240 applies filtering to a reconstructed signal (or a reconstructed block) and outputs it to a reproducing apparatus or transmits the reconstructed signal to a decoding picture buffer unit 250.
  • the filtered signal transmitted to the decoding picture buffer unit 250 may be used as a reference picture in the inter prediction unit 261.
  • the embodiments described in the filtering unit 160, the inter-prediction unit 181 and the intra-prediction unit 182 of the encoder 100 respectively include the filtering unit 240 of the decoder, the inter-prediction unit 261, The same can be applied to the intra prediction unit 262.
  • FIG. 4B is a diagram illustrating a Binary Tree (hereinafter referred to as BT)
  • FIG. 4C is a diagram illustrating a TT (Ternary) 4D is a diagram for explaining block division structures by an asymmetric tree (AT).
  • BT Binary Tree
  • AT asymmetric tree
  • a still image or moving image compression technique uses a block-based image compression method.
  • a block-based image compression method is a method of dividing an image into a specific block unit, and can reduce memory usage and computation amount.
  • One block in video coding can be segmented based on QT (QuadTree).
  • QT QualityTree
  • one sub-block divided by QT can be further recursively partitioned using QT.
  • a leaf block that is not QT-divided can be divided by at least one of BT (Binary Tree), TT (Ternary Tree), or AT (Asymmetric Tree).
  • BT can have two types of segmentation: horizontal BT (2NxN, 2NxN) and vertical BT (Nx2N, Nx2N).
  • TT can have two types of segmentation: horizontal TT (2Nx1 / 2N, 2NxN, 2Nx1 / 2N) and vertical TT (1 / 2Nx2N, Nx2N, 1 / 2Nx2N).
  • AT is a horizontal-up AT (2Nx1 / 2N, 2Nx3 / 2N), a horizontal-down AT (2Nx3 / 2N, 2Nx1 / 2N), a vertical-left AT (1 / 2Nx2N, 3 / 2Nx2N) / 2Nx2N, 1 / 2Nx2N).
  • Each BT, TT, and AT can be recursively further partitioned using BT, TT, and AT.
  • FIG. 4A shows an example of QT division.
  • the block A can be divided into four sub-blocks (A0, A1, A2, A3) by QT.
  • the sub-block A1 can be further divided into four sub-blocks (B0, B1, B2, B3) by QT.
  • FIG. 4B shows an example of BT division.
  • Block B3 which is no longer partitioned by QT, can be divided into vertical BT (C0, C1) or horizontal BT (D0, D1).
  • each sub-block can be further recursively partitioned, such as in the form of horizontal BT (E0, E1) or vertical BT (F0, F1).
  • FIG. 4C shows an example of TT division.
  • Block B3 which is no longer partitioned by QT, may be divided into vertical TT (C0, C1, C2) or horizontal TT (D0, D1, D2).
  • each sub-block can be further recursively divided into a horizontal TT (E0, E1, E2) or a vertical TT (F0, F1, F2).
  • FIG. 4D shows an example of AT segmentation.
  • Block B3 which is no longer partitioned by QT, may be partitioned into vertical AT (C0, C1) or horizontal AT (D0, D1).
  • each subblock can be further recursively partitioned, such as in the form of horizontal AT (E0, E1) or vertical TT (F0, F1).
  • BT, TT, and AT segmentation can be used together.
  • a subblock divided by BT can be divided by TT or AT.
  • subblocks divided by TT can be divided by BT or AT.
  • a subblock divided by AT can be divided by BT or TT.
  • each subblock may be partitioned into a vertical BT, or after a vertical BT partition, each subblock may be partitioned into a horizontal BT.
  • the two kinds of division methods have the same shape in the final division although the division order is different.
  • searching is performed from left to right and from top to bottom, and searching for a block means a procedure for determining whether or not each divided sub-block is further divided into blocks, or when a block is not further divided, Refers to a coding order of a block, or a search order when referring to information of another neighboring block in a sub-block.
  • FIG. 5 is a diagram illustrating the direction of inter prediction, which is an embodiment to which the present invention can be applied.
  • And may use the decoded portion of the current picture or other pictures that contain the current processing unit to recover the current processing unit in which decoding is performed.
  • a picture (slice) that uses only the current picture for restoration that is, a picture (slice) that only performs intra prediction (or intra prediction) is referred to as an intra picture or an I picture (Slice) is referred to as a predictive picture or a P picture (slice), and a picture (slice) using a maximum of two motion vectors and a reference index is referred to as a Bi-predictive picture or a B picture .
  • Intra prediction refers to a prediction method that derives the current processing block from a data element (e.g., a sample value, etc.) of the same decoded picture (or slice). That is, it means a method of predicting the pixel value of the current processing block by referring to the reconstructed areas in the current picture.
  • a data element e.g., a sample value, etc.
  • Inter prediction refers to a prediction method of deriving a current processing block based on a data element (e.g., a sample value or a motion vector) of a picture other than the current picture. That is, this means a method of predicting pixel values of a current processing block by referring to reconstructed areas in other reconstructed pictures other than the current picture.
  • a data element e.g., a sample value or a motion vector
  • Inter prediction refers to a prediction method of deriving a current processing block based on a data element (e.g., a sample value or a motion vector) of a picture other than the current picture. That is, this means a method of predicting pixel values of a current processing block by referring to reconstructed areas in other reconstructed pictures other than the current picture.
  • a data element e.g., a sample value or a motion vector
  • Inter prediction is a technique for eliminating the redundancy existing between pictures, and is mostly performed through motion estimation and motion compensation.
  • the inter prediction includes uni-directional prediction using a past picture or a future picture as a reference picture on a time axis for one block, and bidirectional prediction Bi-directional prediction).
  • uni-directional prediction includes forward direction prediction using one reference picture temporally displayed (or outputting) before the current picture and forward prediction using temporally one And a backward direction prediction using a plurality of reference pictures.
  • the motion parameter (or information) used to specify which reference region (or reference block) is used to predict the current block in the inter prediction process i. E., Unidirectional or bidirectional prediction
  • the inter prediction mode may indicate a reference direction (i.e., unidirectional or bidirectional) and a reference list (i.e. L0, L1 or bidirectional), a reference index (or reference picture index or reference list index) And includes motion vector information.
  • the motion vector information may include a motion vector, a motion vector predictor (MVP), or a motion vector difference (MVD).
  • the motion vector difference value means a difference value between the motion vector and the motion vector predictor.
  • a motion parameter for one direction is used. That is, one motion parameter may be needed to specify the reference region (or reference block).
  • bidirectional prediction motion parameters for both directions are used.
  • a maximum of two reference areas can be used. These two reference areas may exist in the same reference picture or in different pictures. That is, in the bi-directional prediction method, a maximum of two motion parameters can be used, and two motion vectors may have the same reference picture index or different reference picture indexes.
  • the reference pictures may be all displayed (or output) temporally before the current picture, or all displayed (or output) thereafter.
  • the encoder performs motion estimation (Motion Estimation) for finding a reference region most similar to the current block from the reference pictures.
  • the encoder may then provide motion parameters for the reference region to the decoder.
  • the encoder / decoder can obtain the reference area of the current block using motion parameters.
  • the reference area exists in the reference picture having the reference index.
  • a pixel value or an interpolated value of a reference region specified by the motion vector may be used as a predictor of the current processing block. That is, motion compensation for predicting an image of a current processing block from a previously decoded picture is performed using motion information.
  • a method of acquiring a motion vector predictor (mvp) using motion information of previously coded blocks and transmitting only a difference value (mvd) therebetween may be used. That is, the decoder obtains the motion vector predictor of the current block by using the motion information of the decoded other blocks, and obtains the motion vector value for the current processing block using the difference value transmitted from the encoder. In obtaining the motion vector predictor, the decoder may obtain various motion vector candidate values using the motion information of other decoded blocks and acquire one of the candidate motion vector predictors.
  • DPB decoding picture buffer
  • a reference picture refers to a picture including samples that can be used for inter prediction in the decoding process of the next picture in the decoding order.
  • a reference picture set refers to a set of reference pictures associated with a picture, and is composed of all the pictures previously associated in the decoding order.
  • the reference picture set may be used for inter prediction of a picture following an associated picture or a picture associated with the decoding order. That is, the reference pictures held in the decoded picture buffer DPB may be referred to as a reference picture set.
  • the encoder can provide the decoder with reference picture set information in a sequence parameter set (SPS) (i.e., a syntax structure composed of syntax elements) or in each slice header.
  • SPS sequence parameter set
  • a reference picture list refers to a list of reference pictures used for inter prediction of a P picture (or a slice) or a B picture (or a slice).
  • the reference picture list can be divided into two reference picture lists and can be referred to as a reference picture list 0 (or L0) and a reference picture list 1 (or L1), respectively.
  • the reference picture belonging to the reference picture list 0 can be referred to as a reference picture 0 (or L0 reference picture)
  • the reference picture belonging to the reference picture list 1 can be referred to as a reference picture 1 (or L1 reference picture).
  • one reference picture list i.e., reference picture list 0
  • two reference picture lists Picture list 0 and reference picture list 1 can be used.
  • Information for identifying the reference picture list for each reference picture may be provided to the decoder through the reference picture set information.
  • the decoder adds the reference picture to the reference picture list 0 or the reference picture list 1 based on the reference picture set information.
  • a reference picture index (or a reference index) is used to identify any one specific reference picture in the reference picture list.
  • Figure 6 illustrates integer and fractional sample locations for 1/4 sample interpolation as an embodiment to which the present invention may be applied.
  • a sample of a prediction block for an inter-predicted current block is obtained from a sample value of a corresponding reference area in a reference picture identified by a reference picture index.
  • the corresponding reference area in the reference picture indicates a region of a position indicated by a horizontal component and a vertical component of a motion vector.
  • Fractional sample interpolation is used to generate a prediction sample for noninteger sample coordinates, except when the motion vector has an integer value. For example, a motion vector of a quarter of the distance between samples may be supported.
  • fractional sample interpolation of the luminance component applies an 8-tap filter in the horizontal and vertical directions, respectively.
  • the fractional sample interpolation of the chrominance components applies the 4-tap filter in the horizontal direction and the vertical direction, respectively.
  • a shaded block in which an upper-case letter (A_i, j) is written represents an integer sample position and a shaded block in which a lower-case letter (x_i, j) .
  • a fractional sample is generated with interpolation filters applied to integer sample values in the horizontal and vertical directions, respectively.
  • interpolation filters applied to integer sample values in the horizontal and vertical directions, respectively.
  • an 8-tap filter may be applied to the left four integer sample values and the right four integer sample values based on the fraction sample to be generated.
  • Figure 7 illustrates the location of spatial candidates as an embodiment to which the present invention may be applied.
  • a merge mode AMVP (Advanced Motion Vector Prediction) can be used to reduce the amount of motion information.
  • the merge mode refers to a method of deriving a motion parameter (or information) from a neighboring block spatially or temporally.
  • the set of candidates available in the merge mode consists of spatial neighbor candidates, temporal candidates, and generated candidates.
  • each spatial candidate block is available according to the order of ⁇ A1, B1, B0, A0, B2 ⁇ . At this time, if the candidate block is encoded in the intra-prediction mode and motion information does not exist, or if the candidate block is located outside the current picture (or slice), the candidate block can not be used.
  • the spatial merge candidate can be constructed by excluding unnecessary candidate blocks from the candidate block of the current block. For example, if the candidate block of the current prediction block is the first prediction block in the same coding block, the candidate blocks excluding the candidate block and the same motion information may be excluded.
  • the temporal merge candidate configuration process proceeds according to the order of ⁇ T0, T1 ⁇ .
  • a right bottom block T0 of a collocated block of a reference picture is available, the block is configured as a temporal merge candidate.
  • a collocated block refers to a block existing at a position corresponding to a current block in a selected reference picture. Otherwise, the block (T1) located at the center of the collocated block is constructed as a temporal merge candidate.
  • the maximum number of merge candidates can be specified in the slice header. If the number of merge candidates is greater than the maximum number, the spatial candidates and temporal candidates smaller than the maximum number are retained. Otherwise, additional merge candidates (i.e., combined bi-predictive merging candidates) are generated by combining the candidates added so far until the number of merge candidates reaches the maximum number of candidates .
  • a merge index (for example, merge_idx [x0] [y0]) is obtained by constructing a merge candidate list and performing motion estimation (Motion Estimation) To the decoder.
  • FIG. 7B illustrates a case where the B1 block is selected in the merge candidate list.
  • "Index 1" can be signaled to the decoder as a merge index.
  • the decoder constructs a merge candidate list in the same way as the encoder and derives the motion information for the current block from the motion information of the candidate block corresponding to the merge index received from the encoder in the merge candidate list. Then, the decoder generates a prediction block for the current block based on the derived motion information (i.e., motion compensation).
  • the AMVP mode refers to a method of deriving motion vector prediction values from neighboring blocks.
  • the horizontal and vertical motion vector difference (MVD), reference index, and inter prediction mode are signaled to the decoder.
  • the horizontal and vertical motion vector values are calculated using the derived motion vector prediction value and the motion vector difference (MVD) provided from the encoder.
  • the encoder constructs a motion vector predictor candidate list and performs motion estimation (Motion Estimation) to select a motion vector predictor flag (i.e., candidate block information) (e.g., mvp_lX_flag [ x0] [y0]) to the decoder.
  • the decoder constructs a motion vector predictor candidate list in the same way as the encoder.
  • the motion vector prediction of the current processing block is performed using the motion information of the candidate block indicated in the motion vector predictor flag received from the encoder To derive a person.
  • the decoder obtains a motion vector value for the current processing block using the derived motion vector predictor and the motion vector difference value transmitted from the encoder.
  • the decoder generates a predicted block (i.e., an array of predicted samples) for the current block based on the derived motion information (i.e., motion compensation).
  • the motion vector is scaled.
  • the candidate composition is terminated. If the number of selected candidates is less than two, temporal motion candidates are added.
  • FIG. 8 is a diagram illustrating an inter prediction method according to an embodiment to which the present invention is applied.
  • a decoder (specifically, the inter-prediction unit 261 of the decoder in FIG. 3) decodes motion parameters for a processing block (e.g., a prediction block) (S801).
  • a processing block e.g., a prediction block
  • the decoder can decode the signaled merge index from the encoder. Then, the decoder can derive the motion parameter of the current block from the motion parameter of the candidate block indicated in the merge index.
  • the decoder can decode the horizontal and vertical motion vector difference (MVD) signaled from the encoder, the reference index and the inter prediction mode.
  • the motion vector predictor is derived from the motion parameter of the candidate block indicated by the motion vector predictor flag, and the motion vector value of the current block can be derived using the motion vector predictor and the received motion vector difference value.
  • the decoder performs motion compensation on the current block using the decoded motion parameter (or information) (S802).
  • the encoder / decoder performs motion compensation for predicting an image of a current block from a previously decoded picture (i.e., generating a prediction block for a current unit) using the decoded motion parameters.
  • the encoder / decoder can derive a predicted block (i.e., an array of predicted samples) of the current block from a sample of the area corresponding to the current block in the previously decoded reference picture.
  • FIG. 9 is a diagram illustrating a motion compensation process according to an embodiment to which the present invention can be applied.
  • a motion parameter for a current block to be coded in the current picture is unidirectional prediction, a second picture in LIST0, a picture in the LIST0, and a motion vector (-a, b) do.
  • the current block is predicted using the value of the position (-a, b) of the current block in the second picture of LIST0 (i.e., the sample value of the reference block).
  • another reference list e.g., LIST1
  • a reference index e.g., a reference index
  • a motion vector difference value e.g., a motion vector difference value
  • the decoder may use the motion information by deriving it. That is, in this case, the motion information is not signaled from the encoder to the decoder.
  • the method in which the motion information of the current block e.g., a coding unit
  • the motion information of the current block can be achieved by pattern matched motion vector derivation (PMMVD), frame rate up conversion (FRUC), or decoder side motion vector derivation ), And the like.
  • PMMVD pattern matched motion vector derivation
  • FRUC frame rate up conversion
  • decoder side motion vector derivation a method in which the motion information of the current block is derived from the decoder without being signaled
  • this method is referred to as a motion information induction mode (method) or a DSMVD mode.
  • the motion information of the block to which the DSMVD mode is applied is not transmitted from the encoder to the decoder.
  • a method of deriving motion information from an encoder / decoder or a motion estimation method can be classified into a template matching method using a template and a bilateral matching method based on a bilateral (bi-symmetric two) ) Method can be used. Details of template matching and bi-lateral matching will be described later.
  • the decoder can adaptively select a more efficient derivation method between template matching and bi-lateral matching based on cost.
  • template matching and bilateral matching will be described in detail.
  • FIG. 10 is a diagram for explaining template matching according to an embodiment of the present invention.
  • the encoding apparatus and the decoding apparatus can derive the corrected motion information by performing motion estimation based on the derived motion information, and can perform inter prediction of the current block based on the modified motion information.
  • the motion estimation for deriving the modified motion information may be referred to as a motion information refinement.
  • the refinement may be applied to the merge mode or the MVP mode described above and the derived motion information may include motion information of the merge candidate derived in the merge mode or a motion vector predictor derived from MVP mode ). ≪ / RTI >
  • the motion information refinement for deriving the modified motion information may be performed by a template matching method.
  • an arbitrary peripheral region of the current block may be set as a template of the current block, and a modified motion of the current block using a template of the same type as the template of the current block on a reference picture, Information can be searched.
  • the template matching method is a method of performing motion estimation using information of a region already decoded in the vicinity of a current block. As shown in FIG. 10, a rectangular template is constructed on the left and upper sides of a current block, The modified motion information of the block can be found.
  • a template having the minimum difference from the template of the current block among the templates of the blocks in the reference picture i.e., the template most similar to the template of the current block
  • a motion vector pointing to a block may be derived as a modified motion vector of the current block.
  • the difference may be called a cost.
  • the cost may be derived as the sum of the absolute values of the differences between the templates of the current block and the corresponding samples of the blocks in the reference picture.
  • a decoder may derive a motion vector using a template matching method.
  • the decoder Since the decoder can not know the information of the original image of the current block, the decoder must perform prediction using information other than information of the current block. At this time, the decoder can derive the motion information using the information of the decoded neighboring blocks.
  • Template matching is a method of performing prediction using information of a surrounding template region which has already been decoded in the current block.
  • the template matching method derives the motion information of the current block based on the similarity of the template region of the current block rather than the similarity with the current block.
  • the decoder derives the motion information by finding the most similar position in the reference picture using the decoded samples of the neighboring blocks.
  • the template matching scheme is based on the assumption that the current block will be similar to the reference block if the surrounding decoded samples are similar.
  • the template matching may be performed in uni-directional prediction or bi-directional prediction.
  • the template region may be composed of left neighboring blocks and / or upper neighboring blocks (or samples, pixels) of the block among the decoded regions around the block.
  • the template may include N samples at the top and / or N samples at the top adjacent to the current block.
  • the center-positioned picture represents the current picture, the current block (dotted line area) in the current picture, and the template (shaded area) of the current block. Both pictures show areas (or positions) that are most similar to the templates of the current block selected in the reference picture lists L0 and L1.
  • the two dotted arrows indicate the motion vectors mv (L0) and mv (L1), respectively, indicating the most similar areas selected from the two reference picture lists.
  • the reference picture lists L0 and L1 can be obtained through a general merge mode.
  • the encoder / decoder may use a sum of absolute difference (SAD) in the process of finding the most similar location to the template region.
  • SAD sum of absolute difference
  • FIG. 11 is a view for explaining bi-lateral matching according to an embodiment of the present invention.
  • a decoder may derive a motion vector using a bilateral matching method.
  • the bilateral matching method is a method of deriving a motion vector of a current block using two motion vectors having a size and an opposite direction (i.e., symmetric).
  • the bi-linear matching method includes a first prediction block generated based on the first motion information (for example, mv (x L0 , y L0 ) in FIG. 11), second motion information in one embodiment, leads (derive) the motion information is a difference value mv of the second prediction block is generated based on the (-x L0, -y L0)) 11 is minimized as the motion information of the current block.
  • By-Later Matching can exhibit particularly high prediction performance when light or an object moves in a certain direction.
  • the bi-directional matching can be performed in Bi-directional prediction.
  • the decoder can use a sum of difference (SAD) in the process of finding an area having a minimum difference value.
  • Equation (1) shows an example of a formula schematically showing a method of determining an optimal motion vector in a bi-linear matching method.
  • BestMV represents the optimal motion vector of the current block determined through bi-linear matching.
  • min (*) indicates that the * area is the minimum.
  • the decoder first motion vector (mv (x L0, L0 y)) Cost of the first motion vector and the second motion vector to be symmetrical (mv (L0 -x, -y L0 when using ) Can be determined as the optimal motion vector BestMV with the minimum cost difference value.
  • the template matching and the bilateral matching described above can be performed in the encoder and the decoder.
  • the encoder can determine the optimal derivation scheme of both and signal information (or flag) to the decoder indicating the determined motion vector derivation scheme.
  • the decoder can derive the motion vector of the current block using the motion information derivation scheme indicated by the signaled information.
  • the decoder can determine the motion information derivation method without flag signaling. At this time, the decoder should decide one of the template matching and the bi-lateral matching based on the cost.
  • the cost is not calculated in an equivalent manner because the size of the template used in the template matching and the number of samples of the reference block considered in the bi-lateral method are different.
  • the number of samples (or pixels) used in the cost calculation of the template matching is 16, which is the sum of 8 upper neighbor samples and 8 lower left neighbor samples.
  • 64 samples included in the 8x8 block are used for the cost calculation. That is, there is a difference in the number of samples used for the cost calculation, so that the cost can not be fairly compared.
  • the decoder can calculate each cost of template matching and bi-lateral matching using the same method (formula 1) (Examples 1 and 2) (Third embodiment), it is possible to determine a more efficient motion information derivation method.
  • the decoder can use the cost calculation method of bi-linear matching in the process of calculating the cost of template matching.
  • the first step (STEP 1) and the second step (STEP 2) show the process of calculating the cost of template matching.
  • the decoder can calculate the cost of template matching by combining the template matching method and the bi-linear matching method.
  • a new method of calculating the cost of template matching is proposed for comparison with the cost of the bi-lateral matching obtained based on the difference value of the blocks.
  • the decoder determines an optimal motion vector in each of the reference picture lists L0 and L1 based on the similarity of the template (the first step). Thereafter, the decoder calculates the cost of the final template matching using blocks at the positions indicated by the two motion vectors determined in the first step (i.e., using the cost calculation method of bi-lateral matching) (second step).
  • a decoder decodes a first motion vector mv (L0) and a second motion vector mv (L1) having a minimum cost in each reference picture list using an existing template matching method, ). That is, the position of the region most similar to the template of the current block in the two reference picture lists is determined based on the similarity of the template region. That is, the decoder determines the position of the region most similar to the template of the current block in each of the reference picture list 0 (L0) and the reference picture list 1 (L1).
  • the decoder calculates the cost of the final template matching based on the difference value of the block, not the difference value of the template area.
  • the decoder refers to a reference block (simply L0 block) at a position indicated by the first motion vector mv (L0) determined in the first step and a reference to a position indicated by the second motion vector mv (L1)
  • the cost of the final template matching is calculated using a block (simply, L1 block).
  • the L0 block and the L1 block have the same size as the current block.
  • the left boundary and the upper boundary of the L0 block and the L1 block are adjacent to the template shape area in the reference picture determined in the first step.
  • upper left corners of the L0 block and the L1 block may be located at positions indicated by the first motion vector and the second motion vector.
  • the decoder calculates the final cost of the template matching using the L0 block and the L1 block. That is, according to the present embodiment, a block area, which is not a template area, is used for cost calculation of template matching.
  • Equation (2) shows an example of a schematic expression for calculating the final cost of template matching using the L0 block and the L1 block obtained in the second step.
  • the decoder comprising: a first movement L0 block the vector instruction determined in step 2 (pred (mv (x L0 , y L0))) and the second motion vector is indicated L1 block (pred (mv ( x L1 , y L1 )) as the final cost of the template matching.
  • Equation (3) shows an example of a schematic expression for calculating the cost of bi-linear matching using the existing bi-linear matching cost calculation method.
  • the decoder is a two symmetrically vector (mv (x L0, L0 y) and mv (-x L0, - y L0 )) obtained as the optimum motion vector by a difference value between a block indicative of the respective It can be obtained as an optimal cost of the lateral matching.
  • the bilateral matching cost may be calculated before the template matching cost is calculated. For details on bi-lateral matching, refer to the description of FIG. 11 described above.
  • Equation (4) shows an example of a schematic expression for determining a scheme having a minimum cost among the costs obtained by the decoder through Equations (3) and (4) as a motion information derivation method of the current block.
  • BestMV represents the optimal motion information derivation method or optimal motion vector selected.
  • the decoder compares the optimal cost of the template matching obtained through Equation (2) with the optimum cost of bilateral matching obtained through Equation (3) Of the current block can be determined by a motion information derivation method of the current block.
  • the cost of template matching can be obtained by using the same method as the cost calculation method of bi-lateral matching.
  • the decoder can determine the optimal motion information derivation method by comparing the two obtained by using the same calculation method.
  • FIG. 13 shows a process of calculating the cost of bi-lateral matching according to an embodiment of the present invention.
  • the decoder can use the cost calculation method of template matching in the process of calculating the cost of bi-linear matching.
  • the first step (STEP 1) and the second step (STEP 2) of FIG. 13 show the process of calculating the cost of bi-lateral matching.
  • the decoder can calculate the cost of bi-linear matching by combining the template matching method and the bi-linear matching method.
  • a new method for calculating the cost of bi-lateral matching is proposed for comparison with the template matching cost obtained based on the difference value of the template area.
  • the decoder determines a position where the difference value of the reference block indicated by the two motion vectors having the same size and opposite (i.e., symmetric) direction is the smallest (step 1). Thereafter, the decoder calculates the cost of the final bi-lateral matching using the neighboring template regions of the two reference blocks determined in the first step (step 2).
  • a decoder decodes a first motion vector mv (x L0 , y L0 ) and a second motion vector mv (-x L0 , -y L0 )).
  • the first motion vector and the second motion vector are symmetric. That is, the decoder determines the position of an area having a minimum difference value between reference blocks (L0 block and L1 block) indicated by two symmetric motion vectors.
  • the decoder computes the cost of the final bi-lateral matching based on the difference value of the peripheral template region of the reference block, not the difference value between the reference blocks.
  • the surrounding template region of the reference block indicated by the first motion vector may be referred to as the L0 template.
  • the surrounding template area of the reference block indicated by the second motion vector may be referred to as an L1 template.
  • the L0 template may include the left neighbor sample and / or the upper neighbor sample of the L0 block
  • the L1 template may include a left neighbor sample and / or an upper neighbor sample of the L1 block.
  • the L0 template and the L1 template have the same shape and size as the template of the current block.
  • the decoder calculates the difference value between the L0 template and the L1 template as the final cost of the bi-linear matching. That is, according to the present embodiment, the peripheral template area of the reference block is used for cost calculation of bi-lateral matching, not the reference block.
  • Equation (5) shows an example of a rough formula for calculating the final cost of bi-linear matching using the L0 template and the L1 template obtained in the second step.
  • Equation (6) shows a schematic example of a formula for calculating the cost of template matching through the existing template matching.
  • the decoder first motion vector (mv (x L0, y L0)) is close to the template region of a current block in instruction (pred template (mv (x L0, y L0))) and the second motion vector (the difference value of the mv (x L1, y L1) ) around the template region of a current block in instruction (pred template (mv (x L0 , y L0))) can be obtained as the cost of the template matching. Details regarding the template matching are described with reference to FIG. 10 described above.
  • Equation (7) shows an example of a schematic formula for determining the cost of the bilateral matching obtained through Equations (5) and (6) and the method having the optimal cost among the costs of template matching.
  • BestMV represents the optimal motion information derivation method or optimal motion vector selected.
  • the cost of template matching and the cost of bi-lateral matching can be obtained using the same calculation method.
  • the decoder compares the two costs acquired using the same calculation method to determine a motion information derivation method having a minimum cost and a motion information derivation method of the current block.
  • a more accurate motion information derivation method can be selected through a more fair comparison, and prediction performance can be improved.
  • the bit rate may be reduced under certain conditions, but the prediction performance may be lowered.
  • the prediction performance may be lowered.
  • the prediction performance through Examples 1 and 2 may not be satisfactory.
  • the method in the third embodiment below can be utilized.
  • FIG. 14 shows a flow chart of a procedure in which a decoder determines a motion information derivation method using cost normalization, according to an embodiment of the present invention.
  • the decoder can determine an optimum motion information derivation method by applying a cost normalization process to each cost obtained by using template matching and bi-lateral matching. That is, in the process of determining the optimum scheme by comparing the costs, the number of samples used in the cost calculation is considered.
  • the decoder uses a different number of samples in computing the cost of template matching and the cost of bi-lateral matching. Specifically, the samples in the current block are used for the cost calculation of the bi-lateral matching, and the samples around the current block are used for the cost calculation of the template matching. Therefore, since the number of samples used for the cost calculation is different, it is difficult to determine a method that provides better prediction performance through simple cost comparison.
  • the cost per template is obtained by dividing the cost of template matching and the cost of bi-lateral matching by the number of samples (or the number of active samples) used for each cost calculation.
  • This process is referred to as cost normalization.
  • the decoder compares the cost value per sample (or the normalized cost value) obtained through cost normalization, and determines the method having the smaller value as the method of deriving the final motion information of the current block.
  • the decoder calculates the cost of template matching (S14010).
  • the matters relating to the cost calculation of the template matching will be described with reference to Fig. 10 described above.
  • the decoder normalizes the cost of template matching obtained in step S14010 (S14020). Normalization herein refers to obtaining the cost value per sample by dividing the obtained cost by the number of samples used in the cost calculation. The decoder obtains the template cost per sample by dividing the cost of template matching by the number of samples used in the template matching operation. Through this process, a normalized template matching cost is obtained.
  • the decoder calculates the cost of the bi-linear matching (S14030).
  • the matters concerning the cost calculation of the bi-lateral matching are described with reference to Fig. 11 described above.
  • the decoder normalizes the cost of the bilateral matching obtained in step S14030 (S14040).
  • the decoder obtains the cost per sample by dividing the cost of the bilateral matching by the number of samples used in the bilateral matching operation. Through this process, the cost of the normalized bi-lateral matching is obtained.
  • the order in which the cost calculation / normalization process (S14010 to S14020) of template matching and the cost calculation / normalization process (S14030 to S14040) of bi-lateral matching are performed can be changed. However, each cost normalization process can be performed after the corresponding cost calculation.
  • the decoder compares the cost of the normalized template matching with the cost of the normalized bi-lateral matching (S14050). In one example, the decoder may determine whether the cost of the normalized template matching is less than the cost of the normalized bi-lateral matching. The comparison criterion can be changed. For example, the decoder may determine (determine) whether the cost of the normalized bi-lateral matching is less than the cost of the normalized template matching. Through this process, the decoder determines the method having a smaller normalized cost as a method of deriving the final motion information of the current block.
  • the decoder performs motion estimation using template matching (S14060).
  • the decoder performs motion estimation using bi-linear matching (S14070).
  • FIG. 15 shows a block diagram of an inter prediction unit according to an embodiment of the present invention.
  • the inter prediction unit may implement the functions, procedures, and / or methods proposed in the description related to FIGS. 12 to 14 above.
  • the inter prediction unit may include a cost calculation unit 15010, a motion information derivation method determination unit 15020, a motion information inducement unit 15030, and a prediction block generation unit 15030.
  • the cost calculation unit 15010 may be constituted by one operation unit or a first cost operation unit and a second cost operation unit.
  • the cost arithmetic unit includes only one arithmetic unit, one arithmetic unit may perform both of the functions performed by the first cost arithmetic unit and the second cost arithmetic unit described below.
  • the first cost calculator may calculate the first cost of the first derived mode.
  • the first guidance mode may indicate a mode (i.e., a template matching mode) for deriving motion information that minimizes the difference value between the surrounding template region of the current block and the surrounding template region of the reference block in the reference picture.
  • the second cost operation unit can calculate the second cost of the second guidance mode.
  • the second guidance mode may be a mode for deriving motion information that minimizes a difference value between reference blocks indicated by two motion vectors symmetric with respect to the current block (i.e., a bilateral matching mode).
  • the first guidance mode indicates template matching
  • the second guidance mode indicates bi-lateral matching
  • the first cost indicates the cost of template matching
  • the second cost indicates the cost of bi-lateral matching
  • the motion information derivation method determination unit 15020 may determine a scheme having a smaller cost among the first guidance mode and the second guidance mode based on the first cost and the second cost as a motion information derivation method of the current block.
  • the motion information inducing unit 15030 can derive the motion information of the current block using the determined motion information derivation method.
  • the prediction block generation unit 15030 can generate a prediction block of the current block using the derived motion information.
  • the first cost calculation unit may determine a first motion vector that identifies the first reference template area included in the reference picture of the reference picture list 0, Lt; / RTI > can be determined. Then, the first cost calculator may calculate a difference value between reference blocks identified by the first motion vector and the second motion vector as a first cost.
  • the first reference template area corresponds to an area for minimizing the difference value between the reference picture included in the reference picture list 0 and the surrounding template area of the current block.
  • the second reference template area corresponds to an area for minimizing the difference value between the reference picture included in the reference picture list 1 and the surrounding template of the current block.
  • the first cost calculator can calculate the template matching cost based on the difference value between the reference blocks proposed in the present specification (see above-mentioned Embodiment 1).
  • the first cost operation unit can determine a first reference template area that minimizes the difference value between the reference picture included in the reference picture list 0 and the surrounding template area of the current block, and the reference included in the reference picture list 1 It is possible to determine a second reference template area that minimizes the difference value between the current block and the surrounding template area in the picture. Thereafter, the difference value between the first reference template region and the second reference template region can be calculated as the first cost.
  • the first reference template region and the second reference template region have the same shape and size as the surrounding template region of the current block.
  • the first cost operation unit can calculate the template matching cost based on the difference value between the template regions.
  • the second cost calculator may determine the first reference block of the reference picture list 0 and the second reference block of the reference picture list 1 using the first motion vector and the second motion vector. Where the second motion vector is the same size as the first motion vector and is opposite in direction (i.e., symmetric). Thereafter, the second cost arithmetic unit can calculate the difference value between the first reference block and the second reference block as the second cost. Through this process, the second cost operation unit can calculate the bi-lateral matching cost based on the difference value of the reference block.
  • the second cost calculation unit may determine the first reference block of the reference picture list 0 and the second reference block of the reference picture list 1 using the first motion vector and the second motion vector. Where the second motion vector is the same size as the first motion vector and is opposite in direction (i.e., symmetric). Thereafter, the second cost arithmetic unit can calculate the difference value between the peripheral template area of the first reference block and the peripheral template area of the second reference block as a second cost.
  • each reference block for minimizing a difference value between a reference block indicated by the first motion vector and a reference block indicated by the second motion vector may be determined as a first reference block and a second reference block.
  • the second cost operation unit can calculate the cost of the bi-lateral matching based on the difference value between the template regions proposed in the present specification (see the above-described embodiment 2).
  • the motion information derivation method determination unit 15020 determines one of the first guidance mode and the second guidance mode as a motion information derivation method of the current block in consideration of the number of samples used in the calculation of the first and second costs You can decide. Specifically, the motion information derivation method determination unit 15020 obtains the first normalized cost by normalizing the first cost, obtains the second normalized cost by normalizing the second cost , A method having a smaller cost of the first guidance mode and the second guidance mode based on the first normalized cost and the second normalized cost can be determined by a motion information derivation method of the current block. The first normalized cost is obtained by dividing by the number of samples contained in the surrounding template region of the current block. The second normalized cost is obtained by dividing by the number of samples included in the reference block. Through this process, the motion information derivation method determination unit 15020 can determine the motion information derivation method based on the normalized cost (see Embodiment 3 described above).
  • the motion information inducing unit 15030 may derive the motion information of the current block using one mode determined by the motion information derivation method of the current block among the first guidance mode (template matching) and the second guidance mode (bi-lateral matching) have.
  • the prediction block generation unit 15040 can generate a prediction block of the current block using the derived motion information.
  • 16 is a flowchart of an inter prediction based image processing method according to an embodiment of the present invention.
  • the decoder calculates the first cost of the first guidance mode (S16010).
  • the first inductive mode represents a mode (i.e., template matching) for deriving motion information that minimizes the difference value between the surrounding template region of the current block and the surrounding template region of the reference block in the reference picture.
  • template matching i.e., template matching
  • the decoder calculates the second cost of the second guidance mode (S16020).
  • the second guidance mode is a mode for deriving motion information that minimizes a difference value between reference blocks indicated by two motion vectors symmetric with respect to the current block (i.e., bi-lateral matching).
  • bi-lateral matching For details on the cost calculation of the bi-lateral matching and the bi-lateral matching, refer to the description of Figs. 11 and 13 described above.
  • the decoder determines a scheme having a smaller cost, i.e., the first guidance mode and the second guidance mode, based on the first cost and the second cost (S16030).
  • the decoder derives the motion information of the current block using the motion information derivation method determined in step S16030 (S16040).
  • the decoder generates a prediction block of the current block using the motion information derived in step S16040 (S16050).
  • FIG. 17 shows a structure of a content streaming system according to an embodiment of the present invention.
  • the content streaming system to which the present invention is applied may include an encoding server, a streaming server, a web server, a media repository, a user device, and a multimedia input device.
  • the encoding server compresses content input from multimedia input devices such as a smart phone, a camera, and a camcorder into digital data to generate a bit stream and transmit the bit stream to the streaming server.
  • multimedia input devices such as a smart phone, a camera, a camcorder, or the like directly generates a bitstream
  • the encoding server may be omitted.
  • the bitstream may be generated by an encoding method or a bitstream generating method to which the present invention is applied, and the streaming server may temporarily store the bitstream in the process of transmitting or receiving the bitstream.
  • the streaming server transmits multimedia data to a user device based on a user request through the web server, and the web server serves as a medium for informing the user of what services are available.
  • the web server delivers it to the streaming server, and the streaming server transmits the multimedia data to the user.
  • the content streaming system may include a separate control server. In this case, the control server controls commands / responses among the devices in the content streaming system.
  • the streaming server may receive content from a media repository and / or an encoding server. For example, when receiving the content from the encoding server, the content can be received in real time. In this case, in order to provide a smooth streaming service, the streaming server can store the bit stream for a predetermined time.
  • Examples of the user device include a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), a navigation device, a slate PC, Such as tablet PCs, ultrabooks, wearable devices (e.g., smartwatches, smart glass, HMDs (head mounted displays)), digital TVs, desktops Computers, and digital signage.
  • PDA personal digital assistant
  • PMP portable multimedia player
  • slate PC Such as tablet PCs, ultrabooks, wearable devices (e.g., smartwatches, smart glass, HMDs (head mounted displays)), digital TVs, desktops Computers, and digital signage.
  • Each of the servers in the content streaming system can be operated as a distributed server. In this case, data received at each server can be distributed.
  • the embodiments described in the present invention can be implemented and executed on a processor, a microprocessor, a controller, or a chip.
  • the functional units depicted in the figures may be implemented and implemented on a computer, processor, microprocessor, controller, or chip.
  • the decoder and encoder to which the present invention is applied can be applied to multimedia communication devices such as a multimedia broadcasting transmitting and receiving device, a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chatting device, (3D) video devices, video telephony video devices, and medical video devices, and the like, which may be included in, for example, a storage medium, a camcorder, a video on demand (VoD) service provision device, an OTT video (Over the top video) And may be used to process video signals or data signals.
  • the OTT video (Over the top video) device may include a game console, a Blu-ray player, an Internet access TV, a home theater system, a smart phone, a tablet PC, a DVR (Digital Video Recorder)
  • the processing method to which the present invention is applied may be produced in the form of a computer-executed program, and may be stored in a computer-readable recording medium.
  • the multimedia data having the data structure according to the present invention can also be stored in a computer-readable recording medium.
  • the computer-readable recording medium includes all kinds of storage devices and distributed storage devices in which computer-readable data is stored.
  • the computer-readable recording medium may be, for example, a Blu-ray Disc (BD), a Universal Serial Bus (USB), a ROM, a PROM, an EPROM, an EEPROM, a RAM, a CD- Data storage devices.
  • the computer-readable recording medium includes media implemented in the form of a carrier wave (for example, transmission over the Internet).
  • the bit stream generated by the encoding method can be stored in a computer-readable recording medium or transmitted over a wired or wireless communication network.
  • an embodiment of the present invention may be embodied as a computer program product by program code, and the program code may be executed in a computer according to an embodiment of the present invention.
  • the program code may be stored on a carrier readable by a computer.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에서는 인터 예측 기반의 영상 처리 방법이 개시된다. 구체적으로, 인터 예측 기반의 영상 처리 방법에 있어서, 제1 유도 모드의 제1 코스트를 연산하는 단계, 여기서 상기 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 제2 유도 모드의 제2 코스트를 연산하는 단계, 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 상기 제1 코스트와 상기 제2 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계를 포함할 수 있다.

Description

영상 처리 방법 및 이를 위한 장치
본 발명은 정지 영상 또는 동영상 처리 방법에 관한 것으로서, 보다 상세하게 인터 예측 모드(inter prediction mode) 기반으로 정지영상 또는 동영상을 인코딩/디코딩하는 방법 및 이를 지원하는 장치에 관한 것이다.
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 영상, 이미지, 음성 등의 미디어가 압축 부호화의 대상이 될 수 있으며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다.
차세대 비디오 컨텐츠는 고해상도(high spatial resolution), 고프레임율(high frame rate) 및 영상 표현의 고차원화(high dimensionality of scene representation)라는 특징을 갖게 될 것이다. 그러한 컨텐츠를 처리하기 위해서는 메모리 저장(memory storage), 메모리 액세스율(memory access rate) 및 처리 전력(processing power) 측면에서 엄청난 증가를 가져올 것이다.
따라서, 차세대 비디오 컨텐츠를 보다 효율적으로 처리하기 위한 코딩 툴을 디자인할 필요가 있다.
움직임 정보를 시그널링하지 않기 위해, 정지 영상 또는 동영상을 부호화/복호화 하는 과정에서 디코더는 움직임 정보를 유도하여 사용할 수 있다. 이때 보다 효율적으로 움직임 정보 유도 방식을 결정하기 위하여 코스트를 기반으로 적응적으로 유도 방식을 결정하기 위한 방법이 필요하다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 양상은, 인터 예측 기반의 영상 처리 방법에 있어서, 제1 유도 모드의 제1 코스트를 연산하는 단계, 여기서 상기 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 제2 유도 모드의 제2 코스트를 연산하는 단계, 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 상기 제1 코스트와 상기 제2 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계; 상기 결정된 움직임 정보 유도 방식을 이용하여 상기 현재 블록의 움직임 정보를 유도하는 단계; 및 상기 유도된 움직임 정보를 이용하여 상기 현재 블록의 예측 블록을 생성하는 단계를 포함한다.
바람직하게, 상기 제1 유도 모드의 제1 코스트를 연산하는 단계는, 참조 픽쳐 리스트 0의 참조 픽쳐에 포함된 제1 참조 템플릿 영역을 식별하는 제1 움직임 벡터를 결정하는 단계; 참조 픽쳐 리스트 1의 참조 픽쳐에 포함된 제2 참조 템플릿 영역을 식별하는 제2 움직임 벡터를 결정하는 단계; 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터에 의해 식별되는 참조 블록들 간의 차분값을 상기 제1 코스트로써 연산하는 단계를 더 포함하되, 상기 제1 참조 템플릿 영역은 상기 참조 픽쳐 리스트 0에 포함된 참조 픽쳐에서 상기 현재 블록의 주변 템플릿 영역과의 차분값을 최소화하는 영역에 해당하고, 상기 제2 참조 템플릿 영역은 상기 참조 픽쳐 리스트 1에 포함된 참조 픽쳐에서 상기 현재 블록의 주변 템플릿과의 차분값을 최소화하는 영역에 해당한다.
바람직하게, 상기 제2 유도 모드의 제2 코스트를 연산하는 단계는, 제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트의 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정하는 단계, 여기서 상기 제2 움직임 벡터는 상기 제1 움직임 벡터와 크기가 동일하고 방향이 반대됨; 상기 제1 참조 블록과 상기 제2 참조 블록 간의 차분값을 상기 제2 코스트로써 연산하는 단계를 더 포함한다.
바람직하게, 상기 제2 유도 모드의 제2 코스트를 연산하는 단계는, 제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정하는 단계, 여기서 상기 제2 움직임 벡터는 상기 제1 움직임 벡터와 크기가 동일하고 방향이 반대됨; 상기 제1 참조 블록의 주변 템플릿 영역과 상기 제2 참조 블록의 주변 템플릿 영역 간의 차분값을 제2 코스트로써 연산하는 단계를 포함한다.
바람직하게, 상기 제1 코스트와 상기 제2 코스트를 연산하는 과정에서 사용된 샘플 수를 고려하여 상기 제1 유도 모드 및 상기 제2 유도 모드 중 하나를 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계를 더 포함한다.
바람직하게, 상기 현재 블록의 움직임 정보 유도 방식을 결정하는 단계는, 상기 제1 코스트를 정규화(normalize)함으로써 제1 정규화된 코스트를 획득하는 단계; 상기 제2 코스트를 정규화함으로써 제2 정규화된 코스트를 획득하는 단계; 및 상기 제1 정규화된 코스트와 상기 제2 정규화된 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계를 더 포함한다.
바람직하게, 상기 제1 정규화된 코스트는 상기 현재 블록의 주변 템플릿 영역에 포함된 샘플 수로 나눔으로써 획득된다.
바람직하게, 상기 제2 정규화된 코스트는 상기 참조 블록에 포함된 샘플 수로 나눔으로써 획득된다.
본 발명의 일 양상은, 제1 유도 모드의 제1 코스트를 연산하는 제1 코스트 연산부, 여기서 상기 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 제2 유도 모드의 제2 코스트를 연산하는 제2 코스트 연산부, 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄; 상기 제1 코스트와 상기 제2 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 움직임 정보 유도 방식 결정부; 상기 결정된 움직임 정보 유도 방식을 이용하여 상기 현재 블록의 움직임 정보를 유도하는 움직임 정보 유도부; 및 상기 유도된 움직임 정보를 이용하여 상기 현재 블록의 예측 블록을 생성하는 예측 블록 생성부를 포함한다.
본 발명의 실시예에 따르면, 정지 영상 또는 동영상을 부호화/복호화 하는 과정에서 요구되는 움직임 정보를 디코더에서 직접 유도함으로써 시그널링되는 데이터 전송량을 감소시킬 수 있다.
또한, 본 발명의 실시예에 따르면, 디코더는 코스트를 기반으로 움직임 정보 유도 방식을 적응적으로 선택할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 템플릿 매칭 방식의 코스트를 바이래터럴 매칭(bilateral matching)의 코스트 계산 방법을 이용하여 계산할 수 있고, 바이래터럴 매칭 방식의 코스트를 템플릿 매칭의 코스트 계산 방법을 이용하여 계산할 수 있다. 이로써 본 발명은 동일한 계산 방식으로 획득된 코스트를 비교함으로써 예측의 정확도를 향상시킬 수 있다.
또한, 본 발명의 일 실시예에 따르면 각 매칭 방식의 코스트를 코스트 계산에 사용된 픽셀 수로 나누어 픽셀 당 코스트를 비교함으로써 예측 정확도를 향상시킬 수 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명에 관한 이해를 돕기 위해 상세한 설명의 일부로 포함되는, 첨부 도면은 본 발명에 대한 실시예를 제공하고, 상세한 설명과 함께 본 발명의 기술적 특징을 설명한다.
도 1은 본 발명이 적용되는 비디오 코딩 시스템을 나타낸다.
도 2는 본 발명이 적용되는 실시예로서, 정지 영상 또는 동영상 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 3은 본 발명이 적용되는 실시예로서, 정지 영상 또는 동영상 신호의 인코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 4는 본 발명이 적용될 수 있는 실시예들로서, 도 4A는 QT(QuadTree, 이하 ‘QT’라 함), 도 4B는 BT(Binary Tree, 이하 ‘BT’라 함), 도 4C는 TT(Ternary Tree, 이하 ‘TT’라 함) 도 4D는 AT(Asymmetric Tree, 이하 ‘AT’라 함)에 의한 블록 분할 구조들을 설명하기 위한 도면이다.
도 5는 본 발명이 적용될 수 있는 실시예로서, 인터 예측의 방향을 예시하는 도면이다.
도 6은 본 발명이 적용될 수 있는 실시예로서, 1/4 샘플 보간을 위한 정수 및 분수 샘플 위치를 예시한다.
도 7은 본 발명이 적용될 수 있는 실시예로서, 공간적 후보의 위치를 예시한다.
도 8은 본 발명이 적용되는 실시예로서, 인터 예측 방법을 예시하는 도면이다.
도 9는 본 발명이 적용될 수 있는 실시예로서, 움직임 보상 과정을 예시하는 도면이다.
도 10은 본 발명의 일 실시예에 따른, 템플릿 매칭을 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른, 바이래터럴 매칭을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예에 따른, 템플릿 매칭의 코스트를 연산하는 과정을 나타낸다.
도 13은 본 발명의 일 실시예에 따른, 바이래터럴 매칭의 코스트를 연산하는 과정을 나타낸다.
도 14는 본 발명의 일 실시예에 따른, 디코더가 코스트 정규화(normalize)를 이용하여 움직임 정보 유도 방식을 결정하는 절차의 순서도를 나타낸다.
도 15는 본 발명의 일 실시예에 따른, 인터 예측부의 블록도를 나타낸다.
도 16은 본 발명의 일 실시예에 따른, 인터 예측 기반의 영상 처리 방법의 순서도를 나타낸다.
도 17은 본 발명의 일 실시예에 따른, 컨텐츠 스트리밍 시스템 구조도를 나타낸다.
이하, 본 발명에 따른 바람직한 실시 형태를 첨부된 도면을 참조하여 상세하게 설명한다. 첨부된 도면과 함께 이하에 개시될 상세한 설명은 본 발명의 예시적인 실시형태를 설명하고자 하는 것이며, 본 발명이 실시될 수 있는 유일한 실시형태를 나타내고자 하는 것이 아니다. 이하의 상세한 설명은 본 발명의 완전한 이해를 제공하기 위해서 구체적 세부사항을 포함한다. 그러나, 당업자는 본 발명이 이러한 구체적 세부사항 없이도 실시될 수 있음을 안다.
몇몇 경우, 본 발명의 개념이 모호해지는 것을 피하기 위하여 공지의 구조 및 장치는 생략되거나, 각 구조 및 장치의 핵심기능을 중심으로 한 블록도 형식으로 도시될 수 있다.
아울러, 본 발명에서 사용되는 용어는 가능한 한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 특정한 경우는 출원인이 임의로 선정한 용어를 사용하여 설명한다. 그러한 경우에는 해당 부분의 상세 설명에서 그 의미를 명확히 기재하므로, 본 발명의 설명에서 사용된 용어의 명칭만으로 단순 해석되어서는 안 될 것이며 그 해당 용어의 의미까지 파악하여 해석되어야 함을 밝혀두고자 한다.
이하의 설명에서 사용되는 특정 용어들은 본 발명의 이해를 돕기 위해서 제공된 것이며, 이러한 특정 용어의 사용은 본 발명의 기술적 사상을 벗어나지 않는 범위에서 다른 형태로 변경될 수 있다. 예를 들어, 신호, 데이터, 샘플, 픽쳐, 프레임, 블록 등의 경우 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다.
이하 본 명세서에서 '블록' 또는 '유닛'은 예측, 변환 및/또는 양자화 등과 같은 인코딩/디코딩의 과정이 수행되는 단위를 의미하며, 샘플(또는 화소, 픽셀)의 다차원 배열로 구성될 수 있다.
'블록' 또는 '유닛'은 휘도(luma) 성분에 대한 샘플의 다차원 배열을 의미할 수도 있으며, 색차(chroma) 성분에 대한 샘플의 다차원 배열을 의미할 수도 있다. 또한, 휘도(luma) 성분에 대한 샘플의 다차원 배열과 색차(chroma) 성분에 대한 샘플의 다차원 배열을 모두 포함하여 통칭할 수도 있다.
예를 들어, '블록' 또는 '유닛'은 인코딩/디코딩의 수행 대상이 되는 샘플의 배열을 의미하는 코딩 블록(CB: Conding Block), 복수의 코딩 블록으로 구성되는 코딩 트리 블록(CTB: Coding Tree Block), 동일한 예측이 적용되는 샘플의 배열을 의미하는 예측 블록(PB: Prediction Block)(또는 예측 유닛(PU: Prediction Unit)), 동일한 변환이 적용되는 샘플의 배열을 의미하는 변환 블록(TB: Transform Block)(또는 변환 유닛(TU: Transform Unit))을 모두 포함하는 의미로 해석될 수 있다.
또한, 본 명세서 별도의 언급이 없는 한, '블록' 또는 '유닛'은 휘도(luma) 성분 및/또는 색차(chroma) 성분에 대한 샘플의 배열을 인코딩/디코딩하는 과정에서 이용되는 신택스 구조(syntax sturcture)를 포함하는 의미로 해석될 수 있다. 여기서, 신택스 구조는 특정한 순서로 비트스트림 내 존재하는 0 또는 그 이상의 신택스 요소(syntax element)를 의미하며, 신택스 요소는 비트스트림 내에서 표현되는 데이터의 요소를 의미한다.
예를 들어, '블록' 또는 '유닛'은 코딩 블록(CB)과 해당 코딩 블록(CB)의 인코딩을 위해 이용되는 신택스 구조를 포함하는 코딩 유닛(CU: Coding Unit), 복수의 코딩 유닛으로 구성되는 코딩 트리 유닛(CU: Coding Tree Unit), 예측 블록(PB)과 해당 예측 블록(PB)의 예측을 위해 이용되는 신택스 구조를 포함하는 예측 유닛(PU: Prediction Unit), 변환 블록(TB)과 해당 변환 블록(TB)의 변환을 위해 이용되는 신택스 구조를 포함하는 변환 유닛(TU: Transform Unit)을 모두 포함하는 의미로 해석될 수 있다.
또한, 본 명세서에서 '블록' 또는 '유닛'은 반드시 정사각형 또는 직사각형 형태의 샘플(또는 화소, 픽셀)의 배열로 한정되는 것은 아니며, 3개 이상의 꼭지점을 가지는 다각형 형태의 샘플(또는 화소, 픽셀)의 배열을 의미할 수도 있다. 이 경우, 폴리곤(Polygon) 블록 또는 폴리곤 유닛으로 지칭될 수도 있다.
도 1은 본 발명이 적용되는 비디오 코딩 시스템을 나타낸다.
비디오 코딩 시스템은 소스 디바이스(source device) 및 수신 디바이스(receiving device)를 포함할 수 있다. 소스 디바이스는 인코딩된 비디오/영상 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스로 전달할 수 있다.
상기 소스 디바이스는 비디오 소스(video source), 인코딩 장치(encoding apparatus), 전송부(transmitter)를 포함할 수 있다. 상기 수신 디바이스는 수신부(receiver), 디코딩 장치(decoding apparatus) 및 렌더러(renderer)를 포함할 수 있다. 상기 인코딩 장치는 비디오/영상 인코딩 장치라고 불릴 수 있고, 상기 디코딩 장치는 비디오/영상 디코딩 장치라고 불릴 수 있다. 송신기는 인코딩 장치에 포함될 수 있다. 수신기는 디코딩 장치에 포함될 수 있다. 렌더러는 디스플레이부를 포함할 수도 있고, 디스플레이부는 별개의 디바이스 또는 외부 컴포넌트로 구성될 수도 있다.
비디오 소스는 비디오/영상의 캡쳐, 합성 또는 생성 과정 등을 통하여 비디오/영상을 획득할 수 있다. 비디오 소스는 비디오/영상 캡쳐 디바이스 및/또는 비디오/영상 생성 디바이스를 포함할 수 있다. 비디오/영상 캡쳐 디바이스는 예를 들어, 하나 이상의 카메라, 이전에 캡쳐된 비디오/영상을 포함하는 비디오/영상 아카이브 등을 포함할 수 있다. 비디오/영상 생성 디바이스는 예를 들어 컴퓨터, 타블렛 및 스마트폰 등을 포함할 수 있으며 (전자적으로) 비디오/영상을 생성할 수 있다. 예를 들어, 컴퓨터 등을 통하여 가상의 비디오/영상이 생성될 수 있으며, 이 경우 관련 데이터가 생성되는 과정으로 비디오/영상 캡쳐 과정이 갈음될 수 있다.
인코딩 장치는 입력 비디오/영상을 인코딩할 수 있다. 인코딩 장치는 압축 및 코딩 효율을 위하여 예측, 변환, 양자화 등 일련의 절차를 수행할 수 있다. 인코딩된 데이터(인코딩된 비디오/영상 정보)는 비트스트림(bitstream) 형태로 출력될 수 있다.
전송부는 비트스트림 형태로 출력된 인코딩된 비디오/영상 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 전송부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘레멘트를 포함할 수 있다. 수신부는 상기 비트스트림을 추출하여 디코딩 장치로 전달할 수 있다.
디코딩 장치는 인코딩 장치의 동작에 대응하는 역양자화, 역변환, 예측 등 일련의 절차를 수행하여 비디오/영상을 디코딩할 수 있다.
렌더러는 디코딩된 비디오/영상을 렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다.
도 2는 본 발명이 적용되는 실시예로서, 정지 영상 또는 동영상 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 2를 참조하면, 인코더(100)는 영상 분할부(110), 감산기(115), 변환부(120), 양자화부(130), 역양자화부(140), 역변환부(150), 필터링부(160), 복호 픽쳐 버퍼(DPB: Decoded Picture Buffer)(170), 예측부(180) 및 엔트로피 인코딩부(190)를 포함하여 구성될 수 있다. 그리고, 예측부(180)는 인터 예측부(181), 인트라 예측부(182)를 포함하여 구성될 수 있다.
영상 분할부(110)는 인코더(100)에 입력된 입력 영상 신호(Input video signal)(또는, 픽쳐, 프레임)를 하나 이상의 블록으로 분할한다. 이때, QT(QuadTree, 이하 ‘QT’라 함), BT(Binary Tree, 이하 ‘BT’라 함), TT(Ternary Tree, 이하 ‘TT’라 함), AT(Asymmetric Tree, 이하 ‘AT’라 함) 방식에 의한 블록 분할이 가능하다. 이는 도 4에서 보다 상세히 설명하도록 한다.
감산기(115)는 입력 영상 신호에서 예측부(180)로부터(즉, 인터 예측부(181) 또는 인트라 예측부(182))로부터 출력된 예측된 신호(predicted signal)(또는 예측된 블록(predicted block))를 감산하여 차분 신호(residual signal)(또는 차분 블록)를 생성한다. 생성된 차분 신호(또는 차분 블록)는 변환부(120)로 전송된다.
변환부(120)는 차분 신호(또는 차분 블록)에 변환 기법(예를 들어, DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), GBT(Graph-Based Transform), KLT(Karhunen-Loeve transform) 등)을 적용하여 변환 계수(transform coefficient)를 생성한다. 이때, 변환부(120)는 차분 블록에 적용된 예측 모드와 차분 블록의 크기에 따라서 결정된 변환 기법을 이용하여 변환을 수행함으로써 변환 계수들을 생성할 수 있다.
양자화부(130)는 변환 계수를 양자화하여 엔트로피 인코딩부(190)로 전송하고, 엔트로피 인코딩부(190)는 양자화된 신호(quantized signal)를 엔트로피 코딩하여 비트 스트림으로 출력한다.
한편, 양자화부(130)로부터 출력된 양자화된 신호(quantized signal)는 예측 신호를 생성하기 위해 이용될 수 있다. 예를 들어, 양자화된 신호(quantized signal)는 루프 내의 역양자화부(140) 및 역변환부(150)를 통해 역양자화 및 역변환을 적용함으로써 차분 신호를 복원할 수 있다. 복원된 차분 신호를 인터 예측부(181) 또는 인트라 예측부(182)로부터 출력된 예측 신호(prediction signal)에 더함으로써 복원 신호(reconstructed signal)(또는 복원 블록)가 생성될 수 있다.
한편, 위와 같은 압축 과정에서 인접한 블록들이 서로 다른 양자화 파라미터에 의해 양자화됨으로써 블록 경계가 보이는 열화가 발생될 수 있다. 이러한 현상을 블록킹 열화(blocking artifacts)라고 하며, 이는 화질을 평가하는 중요한 요소 중의 하나이다. 이러한 열화를 줄이기 위해 필터링 과정을 수행할 수 있다. 이러한 필터링 과정을 통해 블록킹 열화를 제거함과 동시에 현재 픽쳐에 대한 오차를 줄임으로써 화질을 향상시킬 수 있게 된다.
필터링부(160)는 복원 신호에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼(170)에 전송한다. 복호 픽쳐 버퍼(170)에 전송된 필터링된 신호는 인터 예측부(181)에서 참조 픽쳐로 사용될 수 있다. 이처럼, 필터링된 픽쳐를 화면간 예측 모드에서 참조 픽쳐로 이용함으로써 화질뿐만 아니라 부호화 효율도 향상시킬 수 있다.
복호 픽쳐 버퍼(170)는 필터링된 픽쳐를 인터 예측부(181)에서의 참조 픽쳐으로 사용하기 위해 저장할 수 있다.
인터 예측부(181)는 복원 픽쳐(reconstructed picture)를 참조하여 시간적 중복성 및/또는 공간적 중복성을 제거하기 위해 시간적 예측 및/또는 공간적 예측을 수행한다. 여기서, 예측을 수행하기 위해 이용되는 참조 픽쳐는 이전 시간에 부호화/복호화 시 블록 단위로 양자화와 역양자화를 거친 변환된 신호이기 때문에, 블로킹 아티팩트(blocking artifact)나 링잉 아티팩트(ringing artifact)가 존재할 수 있다.
따라서, 인터 예측부(181)는 이러한 신호의 불연속이나 양자화로 인한 성능 저하를 해결하기 위해, 로우패스 필터(lowpass filter)를 적용함으로써 픽셀들 사이의 신호를 서브 픽셀 단위로 보간할 수 있다. 여기서, 서브 픽셀은 보간 필터를 적용하여 생성된 가상의 화소를 의미하고, 정수 픽셀은 복원된 픽쳐에 존재하는 실제 화소를 의미한다. 보간 방법으로는 선형 보간, 양선형 보간(bi-linear interpolation), 위너 필터(wiener filter) 등이 적용될 수 있다.
보간 필터는 복원 픽쳐(reconstructed picture)에 적용되어 예측의 정밀도를 향상시킬 수 있다. 예를 들어, 인터 예측부(181)는 정수 픽셀에 보간 필터를 적용하여 보간 픽셀을 생성하고, 보간 픽셀들(interpolated pixels)로 구성된 보간 블록(interpolated block)을 사용하여 예측을 수행할 수 있다.
인트라 예측부(182)는 현재 부호화를 진행하려고 하는 블록의 주변에 있는 샘플들을 참조하여 현재 블록을 예측한다. 인트라 예측부(182)는, 인트라 예측을 수행하기 위해 다음과 같은 과정을 수행할 수 있다. 먼저, 예측 신호를 생성하기 위해 필요한 참조 샘플을 준비할 수 있다. 그리고, 준비된 참조 샘플을 이용하여 예측된 신호(예측된 블록)를 생성할 수 있다. 이후, 예측 모드를 부호화하게 된다. 이때, 참조 샘플은 참조 샘플 패딩 및/또는 참조 샘플 필터링을 통해 준비될 수 있다. 참조 샘플은 예측 및 복원 과정을 거쳤기 때문에 양자화 에러가 존재할 수 있다. 따라서, 이러한 에러를 줄이기 위해 인트라 예측에 이용되는 각 예측 모드에 대해 참조 샘플 필터링 과정이 수행될 수 있다.
인터 예측부(181) 또는 상기 인트라 예측부(182)를 통해 생성된 예측된 신호(predicted signal)(또는 예측된 블록)는 복원 신호(또는 복원 블록)를 생성하기 위해 이용되거나 차분 신호(또는 차분 블록)를 생성하기 위해 이용될 수 있다.
도 3은 본 발명이 적용되는 실시예로서, 정지 영상 또는 동영상 신호의 인코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 3을 참조하면, 디코더(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(230), 가산기(235), 필터링부(240), 복호 픽쳐 버퍼(DPB: Decoded Picture Buffer Unit)(250), 예측부(260)를 포함하여 구성될 수 있다. 그리고, 예측부(260)는 인터 예측부(261) 및 인트라 예측부(262)를 포함하여 구성될 수 있다.
그리고, 디코더(200)를 통해 출력된 복원 영상 신호(reconstructed video signal)는 재생 장치를 통해 재생될 수 있다.
디코더(200)는 도 2의 인코더(100)로부터 출력된 신호(즉, 비트 스트림)을 수신하고, 수신된 신호는 엔트로피 디코딩부(210)를 통해 엔트로피 디코딩된다.
역양자화부(220)에서는 양자화 스텝 사이즈 정보를 이용하여 엔트로피 디코딩된 신호로부터 변환 계수(transform coefficient)를 획득한다.
역변환부(230)에서는 역변환 기법을 적용하여 변환 계수를 역변환하여 차분 신호(residual signal)(또는 차분 블록)를 획득하게 된다.
가산기(235)는 획득된 차분 신호(또는 차분 블록)를 예측부(260)(즉, 인터 예측부(261) 또는 인트라 예측부(262))로부터 출력된 예측된 신호(predicted signal)(또는 예측된 블록)에 더함으로써 복원 신호(reconstructed signal)(또는 복원 블록)가 생성된다.
필터링부(240)는 복원 신호(reconstructed signal)(또는 복원 블록)에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼부(250)에 전송한다. 복호 픽쳐 버퍼부(250)에 전송된 필터링된 신호는 인터 예측부(261)에서 참조 픽쳐로 사용될 수 있다.
본 명세서에서, 인코더(100)의 필터링부(160), 인터 예측부(181) 및 인트라 예측부(182)에서 설명된 실시예들은 각각 디코더의 필터링부(240), 인터 예측부(261) 및 인트라 예측부(262)에도 동일하게 적용될 수 있다.
도 4는 본 발명이 적용될 수 있는 실시예들로서, 도 4A는 QT(QuadTree, 이하 ‘QT’라 함), 도 4B는 BT(Binary Tree, 이하 ‘BT’라 함), 도 4C는 TT(Ternary Tree, 이하 ‘TT’라 함) 도 4D는 AT(Asymmetric Tree, 이하 ‘AT’라 함)에 의한 블록 분할 구조들을 설명하기 위한 도면이다.
블록 분할 구조
일반적으로 정지 영상 또는 동영상 압축 기술에서는 블록 기반의 영상 압축 방법을 이용한다. 블록 기반의 영상 압축 방법은 영상을 특정 블록 단위로 나누어서 처리하는 방법으로서, 메모리 사용과 연산량을 감소시킬 수 있다.
비디오 코딩에서 하나의 블록은 QT(QuadTree) 기반으로 분할될 수 있다. 또한, QT에 의해서 분할된 하나의 서브 블록 (sub block)은 QT를 사용하여 재귀적으로 더 분할될 수 있다. 더 이상 QT 분할되지 않는 리프 블록 (leaf block)은 BT(Binary Tree), TT(Ternary Tree) 또는 AT(Asymmetric Tree) 중 적어도 하나의 방식에 의해서 분할될 수 있다. BT는 horizontal BT (2NxN, 2NxN)과 vertical BT (Nx2N, Nx2N)의 두 가지 형태의 분할을 가질 수 있다. TT는 horizontal TT (2Nx1/2N, 2NxN, 2Nx1/2N)와 vertical TT (1/2Nx2N, Nx2N, 1/2Nx2N)의 두 가지 형태의 분할을 가질 수 있다. AT는 horizontal-up AT (2Nx1/2N, 2Nx3/2N), horizontal-down AT (2Nx3/2N, 2Nx1/2N), vertical-left AT (1/2Nx2N, 3/2Nx2N), vertical-right AT (3/2Nx2N, 1/2Nx2N) 의 네 가지 형태의 분할을 가질 수 있다. 각각의 BT, TT, AT는 BT, TT, AT를 사용하여 재귀적으로 더 분할될 수 있다.
상기 도 4A는 QT 분할의 예를 보여준다. 블록 A는 QT에 의해서 4개의 서브 블록 (A0, A1, A2, A3)으로 분할될 수 있다. 서브 블록 A1은 다시 QT에 의해서 4개의 서브 블록 (B0, B1, B2, B3)로 분할될 수 있다.
상기 도 4B는 BT 분할의 예를 보여준다. QT에 의해서 더 이상 분할되지 않는 블록 B3은 vertical BT (C0, C1) 또는 horizontal BT (D0, D1)으로 분할될 수 있다. 블록 C0와 같이 각각의 서브 블록은 horizontal BT (E0, E1) 또는 vertical BT (F0, F1)의 형태와 같이 재귀적으로 더 분할될 수 있다.
상기 도 4C는 TT 분할의 예를 보여준다. QT에 의해서 더 이상 분할되지 않는 블록 B3은 vertical TT (C0, C1, C2) 또는 horizontal TT (D0, D1, D2)으로 분할될 수 있다. 블록 C1와 같이 각각의 서브 블록은 horizontal TT (E0, E1, E2) 또는 vertical TT (F0, F1, F2)의 형태와 같이 재귀적으로 더 분할될 수 있다.
상기 도 4D는 AT 분할의 예를 보여준다. QT에 의해서 더 이상 분할되지 않는 블록 B3은 vertical AT (C0, C1) 또는 horizontal AT (D0, D1)으로 분할될 수 있다. 블록 C1와 같이 각각의 서브 블록은 horizontal AT (E0, E1) 또는 vertical TT (F0, F1)의 형태와 같이 재귀적으로 더 분할 될 수 있다.
한편, BT, TT, AT 분할은 함께 사용하여 분할이 가능하다. 예를 들어, BT에 의해 분할된 서브 블록은 TT 또는 AT에 의한 분할이 가능하다. 또한, TT에 의해 분할된 서브 블록은 BT 또는 AT에 의한 분할이 가능하다. AT에 의해 분할된 서브 블록은 BT 또는 TT에 의한 분할이 가능하다. 예를 들어, horizontal BT 분할 이후, 각각의 서브 블록이 vertical BT로 분할될 수 있고, 또는 vertical BT 분할 이후, 각각의 서브 블록이 horizontal BT로 분할될 수도 있다. 상기 두 종류의 분할 방법은 분할 순서는 다르지만 최종적으로 분할되는 모양은 동일하다.
또한, 블록이 분할되면 블록을 탐색하는 순서를 다양하게 정의할 수 있다. 일반적으로, 좌측에서 우측으로, 상단에서 하단으로 탐색을 수행하며, 블록을 탐색한다는 것은 각 분할된 서브 블록의 추가적인 블록 분할 여부를 결정하는 순서를 의미하거나, 블록이 더 이상 분할되지 않을 경우 각 서브 블록의 부호화 순서를 의미하거나, 또는 서브 블록에서 다른 이웃 블록의 정보를 참조할 때의 탐색 순서를 의미할 수 있다.
도 5는 본 발명이 적용될 수 있는 실시예로서, 인터 예측의 방향을 예시하는 도면이다.
예측(prediction)
디코딩이 수행되는 현재 처리 유닛을 복원하기 위해서 현재 처리 유닛이 포함된 현재 픽쳐 또는 다른 픽쳐들의 디코딩된 부분을 이용할 수 있다.
복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측(또는 화면 내 예측)만을 수행하는 픽쳐(슬라이스)를 인트라 픽쳐 또는 I 픽쳐(슬라이스), 각 유닛을 예측하기 위하여 최대 하나의 움직임 벡터 및 레퍼런스 인덱스를 이용하는 픽쳐(슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(슬라이스), 최대 두 개의 움직임 벡터 및 레퍼런스 인덱스를 이용하는 픽쳐(슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(슬라이스)라고 지칭할 수 있다.
인트라 예측은 동일한 디코딩된 픽쳐(또는 슬라이스)의 데이터 요소(예를 들어, 샘플 값 등)으로부터 현재 처리 블록을 도출하는 예측 방법을 의미한다. 즉, 현재 픽쳐 내의 복원된 영역들을 참조하여 현재 처리 블록의 픽셀값을 예측하는 방법을 의미한다.
인터 예측은 현재 픽쳐 이외의 픽쳐의 데이터 요소(예를 들어, 샘플 값 또는 움직임 벡터 등)의 기반하여 현재 처리 블록을 도출하는 예측 방법을 의미한다. 즉, 현재 픽쳐 이외의 복원된 다른 픽쳐 내의 복원된 영역들을 참조하여 현재 처리 블록의 픽셀값을 예측하는 방법을 의미한다.
이하, 인터 예측에 대하여 보다 상세히 살펴본다.
인터 예측(Inter prediction)
인터 예측은 현재 픽쳐 이외의 픽쳐의 데이터 요소(예를 들어, 샘플 값 또는 움직임 벡터 등)의 기반하여 현재 처리 블록을 도출하는 예측 방법을 의미한다. 즉, 현재 픽쳐 이외의 복원된 다른 픽쳐 내의 복원된 영역들을 참조하여 현재 처리 블록의 픽셀값을 예측하는 방법을 의미한다.
인터 예측은 픽쳐들 사이에 존재하는 중복성을 제거하는 기술로 대부분 움직임 추정(motion estimation) 및 움직임 보상(motion compensation)을 통해 이루어진다.
도 5를 참조하면, 인터 예측은 하나의 블록에 대해 시간축 상에서 과거의 픽쳐 혹은 미래의 픽쳐 하나만을 참조 픽쳐로 사용하는 단방향 예측(Uni-directional prediction)과 과거와 미래 픽쳐들을 동시에 참조하는 양방향 예측(Bi-directional prediction)으로 나눌 수 있다.
또한, 단방향 예측(Uni-directional prediction)은 시간적으로 현재 픽쳐 이전에 표시(또는 출력)되는 1개의 참조 픽쳐를 이용하는 순방향 예측(forward direction prediction)과 시간적으로 현재 픽쳐 이후에 표시(또는 출력)되는 1개의 참조 픽쳐를 이용하는 역방향 예측(backward direction prediction)으로 구분될 수 있다.
인터 예측 과정(즉, 단방향 또는 양방향 예측)에서 현재 블록을 예측하는데 어떤 참조 영역(또는 참조 블록)이 이용되는지 특정하기 위하여 사용되는 움직임 파라미터(또는 정보)는 인터 예측 모드(inter prediction mode)(여기서, 인터 예측 모드는 참조 방향(즉, 단방향 또는 양방향)과 참조 리스트(즉, L0, L1 또는 양방향)을 지시할 수 있음), 참조 인덱스(reference index)(또는 참조 픽쳐 인덱스 또는 참조 리스트 인덱스), 움직임 벡터(motion vector) 정보를 포함한다. 상기 움직임 벡터 정보는 움직임 벡터, 움직임 벡터 예측자(MVP: motion vector predictor) 또는 움직임 벡터 차분값(MVD: motion vector difference)을 포함할 수 있다. 움직임 벡터 차분값은 상기 움직임 벡터와 움직임 벡터 예측자 간의 차분값을 의미한다.
단방향 예측은 한 쪽 방향에 대한 움직임 파라미터가 사용된다. 즉, 참조 영역(또는 참조 블록)을 특정하기 위하여 1개의 움직임 파라미터가 필요할 수 있다.
양방향 예측은 양쪽 방향에 대한 움직임 파라미터가 사용된다. 양방향 예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 양방향 예측 방식에서는 최대 2개의 움직임 파라미터가 이용될 수 있는데, 2개의 움직임 벡터가 동일한 참조 픽쳐 인덱스를 가질 수도 있고 서로 다른 참조 픽쳐 인덱스를 가질 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전에 모두 표시(또는 출력)되거나 이후에 모두 표시(또는 출력)될 수 있다.
인코더는 인터 예측 과정에서 현재 블록과 가장 유사한 참조 영역을 참조 픽쳐들로부터 찾는 움직임 추정(Motion Estimation)을 수행한다. 그리고, 인코더는 참조 영역에 대한 움직임 파라미터를 디코더에게 제공할 수 있다.
인코더/디코더는 움직임 파라미터를 이용하여 현재 블록의 참조 영역을 획득할 수 있다. 상기 참조 영역은 상기 참조 인덱스를 가진 참조 픽쳐 내에 존재한다. 또한, 상기 움직임 벡터에 의해서 특정된 참조 영역의 픽셀값 또는 보간(interpolation)된 값이 상기 현재 처리 블록의 예측값(predictor)으로 이용될 수 있다. 즉, 움직임 정보를 이용하여, 이전에 디코딩된 픽쳐로부터 현재 처리 블록의 영상을 예측하는 움직임 보상(motion compensation)이 수행된다.
움직임 벡터 정보와 관련한 전송량을 줄이기 위하여, 이전에 코딩된 블록들의 움직임 정보를 이용하여 움직임 벡터 예측자(mvp)를 획득하고, 이에 대한 차분값(mvd)만을 전송하는 방법을 이용할 수 있다. 즉, 디코더에서는 디코딩된 다른 블록들의 움직임 정보들을 이용하여 현재 블록의 움직임 벡터 예측자를 구하고, 인코더로부터 전송된 차분값을 이용하여 현재 처리 블록에 대한 움직임 벡터값을 획득하게 된다. 움직임 벡터 예측자를 획득함에 있어서, 디코더는 이미 디코딩된 다른 블록들의 움직임 정보을 이용하여 다양한 움직임 벡터 후보 값들을 획득하고 그 중 하나를 움직임 벡터 예측자로 획득할 수 있다.
참조 픽쳐 세트 및 참조 픽쳐 리스트
다중의 참조 픽쳐를 관리하기 위하여, 이전에 디코딩된 픽쳐의 세트가 남은 픽쳐의 디코딩을 위해 복호 픽쳐 버퍼(DPB)내 저장된다.
DPB에 저장된 복원된 픽쳐 중 인터 예측에 이용되는 복원된 픽쳐를 참조 픽쳐(referece picture)로 지칭한다. 다시 말해, 참조 픽쳐(reference picture)는 디코딩 순서 상 다음의 픽쳐의 디코딩 프로세스에서 인터 예측을 위해 사용될 수 있는 샘플을 포함하는 픽쳐를 의미한다.
참조 픽쳐 세트(RPS: reference picture set)는 픽쳐와 연관된 참조 픽쳐의 세트를 의미하고, 디코딩 순서 상 이전에 연관된 모든 픽쳐로 구성된다. 참조 픽쳐 세트는 연관된 픽쳐 또는 디코딩 순서 상 연관된 픽쳐에 뒤따르는 픽쳐의 인터 예측에 이용될 수 있다. 즉, 복호 픽쳐 버퍼(DPB)에 유지되는 참조 픽쳐들은 참조 픽쳐 세트로 지칭될 수 있다. 인코더는 시퀀스 파라미터 세트(SPS: sequence parameter set)(즉, 신택스 요소로 구성되는 신택스 구조) 또는 각 슬라이스 헤더에서 참조 픽쳐 세트 정보를 디코더에게 제공할 수 있다.
참조 픽쳐 리스트(reference picture list)는 P 픽쳐(또는 슬라이스) 또는 B 픽쳐(또는 슬라이스)의 인터 예측을 위해 이용되는 참조 픽쳐의 리스트를 의미한다. 여기서, 참조 픽쳐 리스트는 2개의 참조 픽쳐 리스트로 구분될 수 있으며, 각각 참조 픽쳐 리스트 0(또는 L0) 및 참조 픽쳐 리스트 1(또는 L1)로 지칭할 수 있다. 또한, 참조 픽쳐 리스트 0에 속한 참조 픽쳐를 참조 픽쳐 0(또는 L0 참조 픽쳐)로 지칭하고, 참조 픽쳐 리스트 1에 속한 참조 픽쳐를 참조 픽쳐 1(또는 L1 참조 픽쳐)로 지칭할 수 있다.
P 픽쳐(또는 슬라이스)의 디코딩 프로세스에 있어서, 하나의 참조 픽쳐 리스트(즉, 참조 픽쳐 리스트 0)가 이용되고, B 픽쳐(또는 슬라이스)의 디코딩 프로세스에 있어서, 2개의 참조 픽쳐 리스트(즉, 참조 픽쳐 리스트 0 및 참조 픽쳐 리스트 1)가 이용될 수 있다. 이러한, 각 참조 픽쳐 별로 참조 픽쳐 리스트를 구분하기 위한 정보는 참조 픽쳐 세트 정보를 통해 디코더에게 제공될 수 있다. 디코더는 참조 픽쳐 세트(reference picture set) 정보를 기반으로 참조 픽쳐를 참조 픽쳐 리스트 0 또는 참조 픽쳐 리스트 1에 추가한다.
참조 픽쳐 리스트 내 어느 하나의 특정 참조 픽쳐를 식별하기 위하여 참조 픽쳐 인덱스(reference picture index)(또는 참조 인덱스)가 이용된다.
도 6은 본 발명이 적용될 수 있는 실시예로서, 1/4 샘플 보간을 위한 정수 및 분수 샘플 위치를 예시한다.
분수 샘플 보간(fractional sample interpolation)
인터 예측된 현재 블록에 대한 예측 블록의 샘플은 참조 픽쳐 인덱스(reference picture index)에 의해 식별되는 참조 픽쳐 내 해당 참조 영역의 샘플 값으로부터 획득된다. 여기서, 참조 픽쳐 내 해당 참조 영역은 움직임 벡터의 수평 요소(horizontal component) 및 수직 요소(vertical component)에 의해 지시되는 위치의 영역을 나타낸다. 움직임 벡터가 정수 값을 가지는 경우를 제외하고, 비정수(noninteger) 샘플 좌표를 위한 예측 샘플을 생성하기 위하여 분수 샘플 보간(fractional sample interpolation)이 사용된다. 예를 들어, 샘플 간의 거리의 1/4 단위의 움직임 벡터가 지원될 수 있다.
다른 예로, 휘도 성분의 분수 샘플 보간(fractional sample interpolation)은 8탭 필터를 가로 방향 및 세로 방향으로 각각 적용한다. 그리고, 색차 성분의 분수 샘플 보간(fractional sample interpolation)은 4탭 필터를 가로 방향 및 세로 방향으로 각각 적용한다.
도 6을 참조하면, 대문자(upper-case letter)(A_i,j)가 기재된 음영 블록은 정수 샘플 위치를 나타내고, 소문자(lower-case letter)(x_i,j)가 기재된 음영 없는 블록은 분수 샘플 위치를 나타낸다.
분수 샘플은 수평 방향 및 수직 방향으로 각각 정수 샘플 값에 보간 필터가 적용되어 생성된다. 예를 들어, 수평 방향의 경우, 생성하려는 분수 샘플을 기준으로 좌측의 4개의 정수 샘플 값과 우측의 4개의 정수 샘플 값에 8탭 필터가 적용될 수 있다.
도 7은 본 발명이 적용될 수 있는 실시예로서, 공간적 후보의 위치를 예시한다.
인터 예측 모드
움직임 정보의 양을 줄이기 위하여 머지(Merge) 모드, AMVP(Advanced Motion Vector Prediction)가 이용될 수 있다.
1) 머지(Merge) 모드
머지(Merge) 모드는 공간적(spatially) 또는 시간적(temporally)으로 이웃하는 블록으로부터 움직임 파라미터(또는 정보)를 도출하는 방법을 의미한다.
머지 모드에서 이용 가능한 후보의 세트는 공간적으로 이웃하는 후보(spatial neighbor candidates), 시간적 후보(temporal candidates) 및 생성된 후보(generated candidates)로 구성된다.
도 7(a)를 참조하면, {A1, B1, B0, A0, B2}의 순서에 따라 각 공간적 후보 블록이 이용 가능한지 여부가 판단된다. 이때, 후보 블록이 인트라 예측 모드로 인코딩되어 움직임 정보가 존재하지 않는 경우 또는 후보 블록이 현재 픽쳐(또는 슬라이스)의 밖에 위치하는 경우에는 해당 후보 블록은 이용할 수 없다.
공간적 후보의 유효성의 판단 후, 현재 블록의 후보 블록에서 불필요한 후보 블록을 제외함으로써 공간적 머지 후보가 구성될 수 있다. 예를 들어, 현재 예측 블록의 후보 블록이 동일 코딩 블록 내 첫 번째 예측 블록인 경우 해당 후보 블록을 제외하고 또한 동일한 움직임 정보를 가지는 후보 블록들을 제외할 수 있다.
공간적 머지 후보 구성이 완료되면, {T0, T1}의 순서에 따라 시간적 머지 후보 구성 과정이 진행된다.
시간적 후보 구성에 있어서, 참조 픽쳐의 동일 위치(collocated) 블록의 우하단(right bottom) 블록(T0)이 이용 가능한 경우, 해당 블록을 시간적 머지 후보로 구성한다. 동일 위치(collocated) 블록은 선택된 참조 픽쳐에서 현재 블록에 대응되는 위치에 존재하는 블록을 의미한다. 반면, 그렇지 않은 경우, 동일 위치(collocated) 블록의 중앙(center)에 위치하는 블록(T1)을 시간적 머지 후보로 구성한다.
머지 후보의 최대 개수는 슬라이스 헤더에서 특정될 수 있다. 머지 후보의 개수가 최대 개수보다 큰 경우, 최대 개수 보다 작은 개수의 공간적 후보와 시간적 후보가 유지된다. 그렇지 않은 경우, 머지 후보의 개수는 후보 개수가 최대 개수가 될 때까지 현재까지 추가된 후보들을 조합하여 추가적인 머지 후보(즉, 조합된 쌍예측 머지 후보(combined bi-predictive merging candidates))가 생성된다.
인코더에서는 위와 같은 방법으로 머지 후보 리스트를 구성하고, 움직임 추정(Motion Estimation)을 수행함으로써 머지 후보 리스트에서 선택된 후보 블록 정보를 머지 인덱스(merge index)(예를 들어, merge_idx[x0][y0])로써 디코더에게 시그널링한다. 도 7(b)에서는 머지 후보 리스트에서 B1 블록이 선택된 경우를 예시하고 있으며, 이 경우, 머지 인덱스(merge index)로 "인덱스 1(Index 1)"이 디코더로 시그널링될 수 있다.
디코더에서는 인코더와 동일하게 머지 후보 리스트를 구성하고, 머지 후보 리스트에서 인코더로부터 수신한 머지 인덱스(merge index)에 해당하는 후보 블록의 움직임 정보로부터 현재 블록에 대한 움직임 정보를 도출한다. 그리고, 디코더는 도출한 움직임 정보를 기반으로 현재 블록에 대한 예측 블록을 생성한다(즉, 움직임 보상).
2) AMVP(Advanced Motion Vector Prediction) 모드
AMVP 모드는 주변 블록으로부터 움직임 벡터 예측 값을 유도하는 방법을 의미한다. 따라서, 수평 및 수직 움직임 벡터 차분 값(MVD: motion vector difference), 참조 인덱스 및 인터 예측 모드가 디코더로 시그널링된다. 수평 및 수직 움직임 벡터 값은 유도된 움직임 벡터 예측 값과 인코더로부터 제공된 움직임 벡터 차분 값(MVD: motion vector difference)를 이용하여 계산된다.
즉, 인코더에서는 움직임 벡터 예측자 후보 리스트를 구성하고, 움직임 추정(Motion Estimation)을 수행함으로써 움직임 벡터 예측자 후보 리스트에서 선택된 움직임 벡터 예측자 플래그(즉, 후보 블록 정보)(예를 들어, mvp_lX_flag[x0][y0])를 디코더에게 시그널링한다. 디코더에서는 인코더와 동일하게 움직임 벡터 예측자 후보 리스트를 구성하고, 움직임 벡터 예측자 후보 리스트에서 인코더로부터 수신한 움직임 벡터 예측자 플래그에서 지시된 후보 블록의 움직임 정보를 이용하여 현재 처리 블록의 움직임 벡터 예측자를 도출한다. 그리고, 디코더는 도출된 움직임 벡터 예측자와 인코더로부터 전송된 움직임 벡터 차분값을 이용하여 현재 처리 블록에 대한 움직임 벡터값을 획득하게 된다. 그리고, 디코더는 도출한 움직임 정보를 기반으로 현재 블록에 대한 예측된 블록(즉, 예측된 샘플들의 배열)을 생성한다(즉, 움직임 보상).
AMVP 모드의 경우, 앞서 도 7에서 5개의 이용 가능한 후보들 중에서 2개의 공간적 움직임 후보가 선택된다. 첫 번째 공간적 움직임 후보는 좌측에 위치한 {A0, A1} 세트로부터 선택되고, 두 번째 공간적 움직임 후보는 상위에 위치한 {B0, B1, B2} 세트로부터 선택된다. 이때, 이웃한 후보 블록의 참조 인덱스가 현재 예측 블록과 동일하지 않은 경우, 움직임 벡터가 스케일링된다.
공간적 움직임 후보의 탐색 결과 선택된 후보 개수가 2개라면 후보 구성을 종료하나, 2개 미만인 경우 시간적 움직임 후보가 추가된다.
도 8은 본 발명이 적용되는 실시예로서, 인터 예측 방법을 예시하는 도면이다.
도 8을 참조하면, 디코더(특히, 도 3에서 디코더의 인터 예측부(261))는 처리 블록(예를 들어, 예측 블록)에 대한 움직임 파라미터를 복호화한다(S801).
예를 들어, 현재 블록에 머지 모드가 적용된 경우, 디코더는 인코더로부터 시그널링된 머지 인덱스를 복호화할 수 있다. 그리고, 디코더는 머지 인덱스에서 지시된 후보 블록의 움직임 파라미터로부터 현재 블록의 움직임 파라미터를 도출할 수 있다.
또한, 현재 블록에 AMVP 모드가 적용된 경우, 디코더는 인코더로부터 시그널링된 수평 및 수직 움직임 벡터 차분 값(MVD: motion vector difference), 참조 인덱스 및 인터 예측 모드를 복호화할 수 있다. 그리고, 움직임 벡터 예측자 플래그로부터 지시된 후보 블록의 움직임 파라미터로부터 움직임 벡터 예측자를 도출하고, 움직임 벡터 예측자와 수신한 움직임 벡터 차분 값을 이용하여 현재 블록의 움직임 벡터값을 도출할 수 있다.
디코더는 복호화된 움직임 파라미터(또는 정보)를 이용하여 현재 블록에 대한 움직임 보상을 수행한다(S802).
즉, 인코더/디코더에서는 복호화된 움직임 파라미터를 이용하여, 이전에 디코딩된 픽쳐로부터 현재 블록의 영상을 예측(즉, 현재 단위에 대한 예측 블록 생성)하는 움직임 보상(motion compensation)을 수행한다. 인코더/디코더에서는 다시 말해, 이전에 디코딩된 참조 픽쳐 내 현재 블록과 대응되는 영역의 샘플로부터 현재 블록의 예측된 블록(즉, 예측된 샘플들의 배열)을 도출할 수 있다.
도 9는 본 발명이 적용될 수 있는 실시예로서, 움직임 보상 과정을 예시하는 도면이다.
도 9에서는 현재 픽쳐(current picture)에서 부호화 하고자 하는 현재 블록(current block)을 위한 움직임 파라미터는 단방향 예측, LIST0, LIST0 내 두 번째 픽쳐(picture), 움직임 벡터 (-a, b) 인 경우를 예시한다.
이 경우, 도 9와 같이 현재 블록은 LIST0의 두 번째 픽쳐에서 현재 블록과 (-a, b) 만큼 떨어져 있는 위치의 값(즉, 참조 블록(reference block)의 샘플값)들을 사용하여 예측된다.
양방향 예측의 경우는, 또 다른 참조 리스트(예를 들어, LIST1)와 참조 인덱스, 움직임 벡터 차분값이 전송되어, 디코더는 두 개의 참조 블록을 도출하고, 이를 기반으로 현재 블록을 예측(즉, 현재 블록의 예측된 샘플을 생성)한다.
디코더 측 움직임 벡터 유도(Decoder side motion vector derivation)
움직임 정보와 관련된 데이터 전송량(또는 시그널링 오버헤드(signaling overhead))을 줄이기 위해, 디코더에서 움직임 정보를 유도(derive)하여 사용할 수 있다. 즉, 이 경우 움직임 정보는 인코더에서 디코더로 시그널링되지 않는다.
이와 같이, 현재 블록(일 예로, 코딩 유닛)의 움직임 정보가 시그널링되지 않고 디코더에서 유도되는 방법은 PMMVD(pattern matched motion vector derivation), FRUC(frame rate up conversion), 또는 DSMVD(decoder side motion vector derivation) 등의 다양한 명칭으로 지칭될 수 있다. 이하에서는 이 방법을 움직임 정보 유도 모드(방식) 또는 DSMVD 모드로 지칭한다. DSMVD 모드가 적용된 블록의 움직임 정보는 인코더로부터 디코더로 전송되지 않는다.
인코더/디코더에서 움직임 정보를 유도하는 방식 또는 움직임 추정(motion estimation) 방식으로써, 템플릿(template)을 이용하는 템플릿 매칭(template matching) 방식과 바이래터럴(대칭되는 두 벡터) 기반의 바이래터럴 매칭(bilateral matching) 방식이 사용될 수 있다. 템플릿 매칭과 바이래터럴 매칭에 관한 자세한 설명은 후술한다.
디코더에서 움직임 정보를 직접 유도하는 경우, 디코더는 코스트를 기반으로 템플릿 매칭과 바이래터럴 매칭 중 더 효율적인 유도 방법을 적응적으로(adaptive) 선택할 수 있다. 이하에서 템플릿 매칭과 바이래터럴 매칭에 대해 구체적으로 설명한다.
도 10은 본 발명의 일 실시예에 따른, 템플릿 매칭을 설명하기 위한 도면이다.
템플릿 매칭(Template matching)
인코딩 장치 및 디코딩 장치는 도출된 움직임 정보를 기반으로 움직임 추정을 수행하여 수정된 움직임 정보를 도출할 수 있고, 수정된 움직임 정보를 기반으로 현재 블록의 인터 예측을 수행할 수 있다. 여기서, 상기 수정된 움직임 정보를 도출하기 위한 움직임 추정은 움직임 정보 리파인먼트(refinement)라고 나타낼 수도 있다. 상기 리파인먼트는 상술한 머지 모드 또는 MVP 모드에 적용될 수 있고, 이에, 상기 도출된 움직임 정보는 머지 모드로 도출된 머지 후보의 움직임 정보 또는 MVP 모드로 도출된 움직임 벡터 예측자(motion vedtor predictor, MVP)를 나타낼 수 있다.
예를 들어, 수정된 움직임 정보를 도출하기 위한 움직임 정보 리파인먼트는 템플릿 매칭(Template matching) 방식으로 수행될 수 있다. 구체적으로, 상기 현재 블록의 임의의 주변 영역이 상기 현재 블록의 템플릿(template)으로 설정될 수 있고, 참조 픽처 상에서 상기 현재 블록의 상기 템플릿과 동일한 형태의 템플릿을 이용하여 상기 현재 블록의 수정된 움직임 정보가 탐색될 수 있다. 일 예로, 템플릿 매칭 방식은 현재 블록의 주변에서 이미 복호화된 영역의 정보를 이용하여 움직임 추정을 수행하는 방식으로 도 10과 같이 현재 블록의 좌측과 상측에 직사각형 형태의 템플릿을 구성하고 이를 이용하여 현재 블록의 수정된 움직임 정보를 찾을 수 있다.
예를 들어, 상기 참조 픽처 내 블록들의 템플릿들 중 상기 현재 블록의 템플릿과의 차이가 최소인 템플릿(즉, 상기 현재 블록의 템플릿과 가장 유사한 템플릿)이 도출될 수 있고, 상기 도출된 템플릿의 참조 블록을 가리키는 움직임 벡터는 상기 현재 블록의 수정된 움직임 벡터로 도출될 수 있다. 여기서, 상기 차이는 코스트라고 불릴 수 있다. 상기 코스트는 상기 현재 블록의 템플릿과 상기 참조 픽처 내 블록의 대응하는 샘플들간 차이의 절대값의 합으로 도출될 수 있다.
도 10을 참조하면, 디코더는 템플릿 매칭 방식을 이용하여 움직임 벡터를 유도할 수 있다.
디코더는 현재 블록의 원본 영상에 대한 정보를 알 수 없기 때문에 현재 블록의 정보가 아닌 다른 정보를 이용하여 예측을 수행해야 한다. 이때, 디코더는 디코딩된 주변 블록의 정보를 이용하여 움직임 정보를 유도할 수 있다.
템플릿 매칭은 현재 블록의 이미 복호화된 주변 템플릿 영역의 정보를 이용하여 예측을 수행하는 방식이다. 템플릿 매칭 방식은 현재 블록과의 유사성이 아닌 현재 블록의 템플릿(template) 영역의 유사성 기반으로 현재 블록의 움직임 정보를 유도한다. 이 경우, 디코더는 복호화된 주변 블록의 샘플을 이용하여 참조 픽쳐에서 가장 유사한 위치를 찾음으로써 움직임 정보를 유도한다. 템플릿 매칭 방식은 주변의 복호화된 샘플이 유사하면 현재 블록도 참조 블록과 유사할 것이라는 가정에 기반한다. 템플릿 매칭은 단방향 예측(Uni-directional prediction) 또는 양방향 예측(Bi-directional prediction)으로 수행될 수 있다.
템플릿 영역은 블록 주변의 복호화된 영역 중 블록의 좌측 이웃 블록들 및/또는 상측 이웃 블록들(또는 샘플, 화소)로 구성될 수 있다. 일 예로, 현재 블록의 크기가 N×N일 때, 템플릿은 현재 블록에 이웃하는 상단의 N개의 샘플들 및/또는 좌측의 N개의 샘플들을 포함할 수 있다.
도 10은 템플릿 매칭이 적용되는 방식의 일 예를 나타낸다. 도 10에서, 가운데 위치한 그림은 현재 픽쳐, 현재 픽쳐 내의 현재 블록(점선 영역) 및 현재 블록의 템플릿(음영 영역)을 나타낸다. 양쪽의 그림은 참조 픽쳐 리스트 L0과 L1에서 각각 선택된 현재 블록의 템플릿과 가장 유사한 영역들(또는 위치)을 나타낸다. 두 점선 화살표는 두 참조 픽쳐 리스트에서 선택된 가장 유사한 영역들을 각각 지시하는 움직임 벡터(mv(L0) 및 mv(L1))를 나타낸다. 참조 픽쳐 리스트 L0과 L1는 일반적인 머지 모드를 통해 획득될 수 있다. 일 예로, 인코더/디코더는 템플릿 영역과 가장 유사한 위치를 찾는 과정에서 SAD(sum of absolute difference)를 사용할 수 있다.
도 11은 본 발명의 일 실시예에 따른, 바이래터럴 매칭을 설명하기 위한 도면이다.
도 11을 참조하면, 디코더는 바이래터럴 매칭 방식을 이용하여 움직임 벡터를 유도할 수 있다.
바이래터럴 매칭 방식은 크기가 갖고 방향이 반대인(즉, 대칭)의 두 움직임 벡터를 사용하여 현재 블록의 움직임 벡터를 유도하는 방식이다. 구체적으로, 바이래터럴 매칭 방식은 제1 움직임 정보(일 예로, 도 11의 mv(xL0,yL0))를 기반으로 생성된 제1 예측 블록과 제1 움직임 정보와 대칭되는 제2 움직임 정보(일 예로, 도 11의 mv(-xL0,-yL0))를 기반으로 생성된 제2 예측 블록의 차분값이 최소가 되는 움직임 정보를 현재 블록의 움직임 정보로써 유도(derive)한다.
바이래터럴 매칭은 빛이나 물체(object)가 일정한 방향으로 움직이는 경우에 특히 높은 예측 성능을 나타낼 수 있다. 또한, 바이래터럴 매칭은 양방향 예측(Bi-directional prediction)으로 수행될 수 있다. 일 예로, 디코더는 차분값이 최소인 영역을 찾는 과정에서 SAD(sum of difference)를 사용할 수 있다.
아래의 수학식 1은 바이래터럴 매칭 방식에서 최적의 움직임 벡터가 결정되는 방식을 개략적으로 나타내는 수식의 예를 나타낸다.
Figure PCTKR2018009026-appb-M000001
수학식 1에서, BestMV는 바이래터럴 매칭을 통해 결정된 현재 블록의 최적의 움직임 벡터를 나타낸다. min(*) 는 * 영역이 최소(minimum)인 것을 나타낸다. 수학식 1에 의하면, 디코더는 제1 움직임 벡터(mv(xL0, yL0))를 사용한 때의 코스트와 상기 제1 움직임 벡터와 대칭되는 제2 움직임 벡터(mv(-xL0,-yL0))를 사용한 때의 코스트의 차분값이 최소인 움직임 벡터를 최적의 움직임 벡터(BestMV)로써 결정할 수 있다.
상술한 템플릿 매칭과 바이래터럴 매칭은 인코더와 디코더에서 수행될 수 있다. 인코더는 둘 중 최적의 유도 방식을 결정하고, 결정된 움직임 벡터 유도 방식을 지시하는 정보(또는 플래그)를 디코더로 시그널링 할 수 있다. 이 경우, 디코더는 시그널링된 정보가 지시하는 움직임 정보 유도 방식을 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다.
다만, 인코더가 움직임 벡터 유도 방식을 지시하는 정보를 디코더로 시그널링 하는 경우, 시그널링 오버헤드(signaling overhead)가 발생될 수 있다. 따라서, 전송되는 비트 수를 줄임으로써 데이터 전송량을 줄이기 위해, 플래그의 시그널링 없이 디코더가 움직임 정보 유도 방법을 결정할 수 있다. 이때, 디코더는 코스트를 기반으로 템플릿 매칭과 바이래터럴 매칭 중 한가지 방식을 결정해야 한다. 다만 코스트를 기반으로 비교하는 과정에서, 템플릿 매칭에서 이용되는 템플릿의 크기와 바이래터럴 방식에서 고려되는 참조 블록의 샘플 수가 달라 코스트가 동등한 방식으로 계산되지 않는 문제가 발생할 수 있다.
예를 들어, 현재 블록의 크기가 8x8인 경우, 템플릿 매칭의 코스트 연산에 이용되는 샘플(또는 픽셀) 수는 상단 이웃 샘플 8개와 좌측 이웃 샘플 8개의 합인 16개에 해당한다. 반면, 바이래터럴 매칭의 경우 8x8 블록에 포함된 64개의 샘플들이 코스트 연산에 이용된다. 즉, 코스트 계산에 이용되는 샘플 수에 차이가 있어 코스트가 공정하게 비교될 수 없다.
이하에서는, 디코더가 움직임 정보 유도하는 경우, 템플릿 매칭과 바이래터럴 매칭 중 더욱 최적의 움직임 정보 유도 방식을 선택함으로써 예측 성능과 압축 효율을 향상시키기 위한 방법을 제안한다. 본 명세서에서 제안하는 실시예들에 의하면, 디코더는 템플릿 매칭과 바이래터럴 매칭의 각 코스트를 동일한 방식(수식)을 사용하여 연산하거나(실시예 1,2), 또는 템플릿과 참조 블록에 포함된 샘플 수를 고려하여 연산함으로써(실시예 3), 더욱 효율적인 움직임 정보 유도 방식을 결정할 수 있다.
도 12는 본 발명의 일 실시예에 따른, 템플릿 매칭의 코스트를 연산하는 과정을 나타낸다.
실시예 1(embodiment 1)
도 12를 참조하면, 디코더는 템플릿 매칭의 코스트를 연산하는 과정에서 바이래터럴 매칭의 코스트 연산 방식을 이용할 수 있다. 도 12에서 제1 단계(STEP 1) 및 제2 단계(STEP 2)는 템플릿 매칭의 코스트를 연산하는 과정을 나타낸다.
본 실시예에 의하면, 디코더는 템플릿 매칭의 방식과 바이래터럴 매칭의 방식을 조합하여 템플릿 매칭의 코스트를 연산할 수 있다. 본 실시예에서는, 블록들의 차분값을 기반으로 획득된 바이래터럴 매칭의 코스트와의 비교를 위해, 템플릿 매칭의 코스트를 연산하는 새로운 방법을 제안한다.
구체적으로, 디코더는 템플릿의 유사성을 기초로 참조 픽쳐 리스트 L0과 L1 각각에서 최적의 움직임 벡터를 결정한다(제1 단계). 이후, 디코더는 제1 단계에서 결정된 두 움직임 벡터가 지시하는 위치의 블록들을 이용하여(즉, 바이래터럴 매칭의 코스트 연산 방식을 이용) 최종 템플릿 매칭의 코스트를 연산한다(제2 단계).
먼저 제1 단계(STEP 1)로써, 디코더는 기존의 템플릿 매칭 방식을 이용하여 각 참조 픽쳐 리스트에서 각각 최소 코스트를 갖는 제1 움직임 벡터(mv(L0))와 제2 움직임 벡터(mv(L1))를 결정한다. 즉, 두 참조 픽쳐 리스트에서 현재 블록의 템플릿과 가장 유사한 영역의 위치는 템플릿 영역의 유사성을 기반으로 결정된다. 즉, 디코더는 참조 픽쳐 리스트 0(L0)과 참조 픽쳐 리스트 1(L1) 각각에서 현재 블록의 템플릿과 가장 유사한 영역의 위치를 결정한다.
이후, 제2 단계(STEP 2)로써, 디코더는 템플릿 영역의 차분값이 아닌 블록의 차분값에 기초하여 최종 템플릿 매칭의 코스트를 연산한다. 구체적으로, 디코더는 제1 단계에서 결정된 제1 움직임 벡터(mv(L0))가 지시하는 위치의 참조 블록(간단히, L0 블록)과 제2 움직임 벡터(mv(L1))가 지시하는 위치의 참조 블록(간단히, L1 블록)을 이용하여 최종 템플릿 매칭의 코스트를 연산한다. L0 블록과 L1 블록은 현재 블록과 동일한 크기를 갖는다.
도 12를 참조하면, L0 블록과 L1 블록의 좌측 경계와 상측 경계는 제1 단계에서 결정된 참조 픽쳐 내의 템플릿 모양 영역과 이웃한다. 일 예로, 도 12를 참조하면, L0 블록과 L1 블록의 좌상단 코너가 제1 움직임 벡터와 제2 움직임 벡터가 지시하는 곳에 위치할 수 있다.
디코더는 L0 블록과 L1 블록을 이용하여 템플릿 매칭의 최종 코스트를 계산한다. 즉, 본 실시예에 의하면 템플릿 매칭의 코스트 연산에 템플릿 영역이 아닌 블록 영역이 사용된다.
아래의 수학식 2는, 제2 단계에서 획득된 L0 블록과 L1 블록을 이용하여 템플릿 매칭의 최종 코스트를 연산하는 개략적인 수식의 예를 나타낸다.
Figure PCTKR2018009026-appb-M000002
수학식 2에 의하면, 디코더는 제2 단계에서 결정된 제1 움직임 벡터가 지시하는 L0 블록(pred(mv(xL0, yL0)))과 제2 움직임 벡터가 지시하는 L1 블록 (pred(mv(xL1, yL1)))의 차분값을 템플릿 매칭의 최종 코스트로써 획득할 수 있다.
아래의 수학식 3은, 기존의 바이래터럴 매칭 코스트 연산 방식을 이용하여 바이래터럴 매칭의 코스트를 연산하는 개략적인 수식의 예를 나타낸다.
Figure PCTKR2018009026-appb-M000003
수학식 3에 의하면, 디코더는 최적의 움직임 벡터로써 획득한 대칭되는 두 벡터(mv(xL0, yL0) 및 mv(-xL0,- yL0))를 각각 지시하는 블록의 차분값을 바이래터럴 매칭의 최적 코스트로써 획득할 수 있다. 바이래터럴 매칭 코스트는 템플릿 매칭 코스트가 연산되기 전에 미리 연산될 수도 있다. 바이래터럴 매칭에 관한 자세한 내용은 상술한 도 11에 관한 설명을 참조한다.
아래의 수학식 4는, 디코더가 수학식 3과 수학식 4를 통해 획득한 코스트 중 최소 코스트를 갖는 방식을 현재 블록의 움직임 정보 유도 방식으로써 결정하는 개략적인 수식의 예를 나타낸다.
Figure PCTKR2018009026-appb-M000004
수학식 4에서, BestMV는 선택된 최적의 움직임 정보 유도 방식 또는 최적의 움직임 벡터를 나타낸다. 디코더는 상술한 수학식 2을 통해 획득한 템플릿 매칭의 최적의 코스트(Best cost of template)와 수학식 3를 통해 획득한 바이래터럴 매칭의 최적의 코스트(Best cost of Bilateral)를 비교하고, 두 방식 중 최소 코스트를 갖는 방식을 현재 블록의 움직임 정보 유도 방식으로써 결정할 수 있다.
상술한 과정을 통해, 템플릿 매칭의 코스트가 바이래터럴 매칭의 코스트 연산 방식과 같은 방식을 이용하여 획득될 수 있다. 디코더는 같은 연산 방식을 사용하여 획득한 두 코스트를 비교하여 최적의 움직임 정보 유도 방식을 결정할 수 있다.
도 13은 본 발명의 일 실시예에 따른, 바이래터럴 매칭의 코스트를 연산하는 과정을 나타낸다.
실시예 2(embodiment 2)
도 13을 참조하면, 디코더는 바이래터럴 매칭의 코스트를 연산하는 과정에서 템플릿 매칭의 코스트 연산 방식을 이용할 수 있다. 도 13의 제1 단계(STEP 1) 및 제2 단계(STEP 2)는 바이래터럴 매칭의 코스트를 연산하는 과정을 나타낸다.
본 실시예에 의하면, 디코더는 템플릿 매칭의 방식과 바이래터럴 매칭의 방식을 조합하여 바이래터럴 매칭의 코스트를 연산할 수 있다. 본 실시예에서는, 템플릿 영역의 차분값을 기반으로 획득된 템플릿 매칭 코스트와의 비교를 위해, 바이래터럴 매칭의 코스트를 연산하는 새로운 방법을 제안한다.
구체적으로, 디코더는 크기가 동일하고 방향이 반대(즉, 대칭)인 두 움직임 벡터가 지시하는 참조 블록의 차분값이 최소인 위치를 결정한다(제1 단계). 이후, 디코더는 제1 단계에서 결정된 두 참조 블록 각각의 주변 템플릿 영역을 이용하여 최종 바이래터럴 매칭의 코스트를 연산한다(제2 단계).
먼저 제1 단계(STEP 1)로써, 디코더는 기존의 바이래터럴 매칭 방식을 이용하여 제1 움직임 벡터(mv(xL0, yL0))와 제2 움직임 벡터(mv(-xL0,- yL0))를 결정한다. 제1 움직임 벡터와 제2 움직임 벡터는 대칭된다. 즉, 디코더는 대칭되는 두 움직임 벡터가 지시하는 참조 블록들(L0 블록 및 L1 블록)간의 차분값이 최소인 영역의 위치를 결정한다.
이후, 제2 단계로써, 디코더는 참조 블록 간의 차분값이 아닌, 참조 블록의 주변 템플릿 영역의 차분값에 기초하여 최종 바이래터럴 매칭의 코스트를 연산한다. 이하에서, 제1 움직임 벡터가 지시하는 참조 블록의 주변 템플릿 영역은 L0 템플릿으로 지칭될 수 있다. 제2 움직임 벡터가 지시하는 참조 블록의 주변 템플릿 영역은 L1 템플릿으로 지칭될 수 있다.현재 블록의 템플릿과 마찬가지로, L0 템플릿은 L0 블록의 좌측 이웃 샘플 및/또는 상측 이웃 샘플을 포함할 수 있고, L1 템플릿은 L1 블록의 좌측 이웃 샘플 및/또는 상측 이웃 샘플을 포함할 수 있다. 코스트 연산을 위해, L0 템플릿과 L1 템플릿은 현재 블록의 템플릿과 동일한 모양과 크기를 갖는다.
디코더는 L0 템플릿과 L1 템플릿의 차분값을 바이래터럴 매칭의 최종 코스트로써 계산한다. 즉, 본 실시예에 의하면 바이래터럴 매칭의 코스트 연산에 참조 블록이 아닌 참조 블록의 주변 템플릿 영역이 사용된다.
아래의 수학식 5는 제2 단계에서 획득된 L0 템플릿과 L1 템플릿을 이용하여 바이래터럴 매칭의 최종 코스트를 연산하는 개략적인 수식의 예를 나타낸다.
Figure PCTKR2018009026-appb-M000005
수학식 5에 의하면, 디코더는 제2 단계에서 결정된 L0 템플릿 (pred(mv(xL0, yL0)))과 L1 템플릿(pred(mv(-xL0,- yL0)))의 차분값을 바이래터럴 매칭의 최종 코스트로써 획득할 수 있다.
아래의 수학식 6은 기존의 템플릿 매칭을 통해 템플릿 매칭의 코스트를 연산하는 수식의 개략적인 예를 나타낸다.
Figure PCTKR2018009026-appb-M000006
수학식 6에 의하면, 디코더는 제1 움직임 벡터(mv(xL0, yL0))가 지시하는 블록의 주변 템플릿 영역(predtemplate(mv(xL0, yL0)))과 제2 움직임 벡터(mv(xL1, yL1))가 지시하는 블록의 주변 템플릿 영역 (predtemplate(mv(xL0, yL0)))의 차분값을 템플릿 매칭의 코스트로써 획득할 수 있다. 템플릿 매칭에 관한 자세한 내용은 상술한 도 10에 관한 설명을 참조한다.
아래의 수학식 7은, 수학식 5 및 6을 통해 획득된 바이래터럴 매칭의 코스트와 템플릿 매칭의 코스트 중 최적의 코스트를 갖는 방식을 결정하는 개략적인 수식의 일 예를 나타낸다.
Figure PCTKR2018009026-appb-M000007
수학식 7에서, BestMV는 선택된 최적의 움직임 정보 유도 방식 또는 최적의 움직임 벡터를 나타낸다. 상술한 실시예 1 또는 2를 통해, 템플릿 매칭의 코스트와 바이래터럴 매칭의 코스트가 같은 연산 방식을 이용하여 획득될 수 있다. 디코더는 같은 연산 방식을 사용하여 획득한 두 코스트를 비교하여 최소 코스트를 갖는 움직임 정보 유도 방식을 현재 블록의 움직임 정보 유도 방식을 결정한다. 이로써 더욱 공정한 비교를 통해 더욱 정확한 움직임 정보 유도 방식이 선택될 수 있고, 이로써 예측 성능이 향상될 수 있다.
다만, 상술한 실시예 1,2는 특정 조건 하에서는 비트레이트(bit rate)는 줄 수 있으나, 예측 성능이 오히려 떨어질 수 있다. 예를 들어, 주변 블록의 복호화된 샘플이 유사하고 현재 블록도 유사하지만, 물체나 빛의 흐름이 일정한 방향으로 움직이지 않을때에는 실시예 1과 2를 통한 예측 성능이 만족스럽지 못할 수 있다. 이 경우, 아래의 실시예 3에서의 방식을 활용할 수 있다.
도 14는 본 발명의 일 실시예에 따른, 디코더가 코스트 정규화를 이용하여 움직임 정보 유도 방식을 결정하는 절차의 순서도를 나타낸다.
실시예 3(embodiment 2)
도 14를 참조하면, 디코더는 템플릿 매칭과 바이래터럴 매칭을 이용하여 획득된 각각의 코스트에 코스트 정규화(normalization) 과정을 적용함으로써 최적의 움직임 정보 유도 방식을 결정할 수 있다. 즉, 코스트를 비교하여 최적의 방식을 결정하는 과정에서, 코스트 연산에 사용된 샘플 수가 고려된다.
디코더는 템플릿 매칭의 코스트와 바이래터럴 매칭의 코스트를 연산하는 과정에서 상이한 개수의 샘플들을 사용한다. 구체적으로, 바이래터럴 매칭의 코스트 연산에는 현재 블록 내의 샘플들이 사용되고, 템플릿 매칭의 코스트 연산에는 현재 블록 주변의 샘플들이 사용된다. 따라서 코스트 연산에 이용된 샘플 수가 다르기 때문에, 단순한 코스트 비교를 통해 더 예측 성능이 좋은 방식을 결정하기 어렵다.
본 실시예에 의하면, 템플릿 매칭의 코스트와 바이래터럴 매칭의 코스트를 각 코스트 연산에 이용된 샘플 수(또는 active 샘플 수)로 나눔으로써, 샘플 당 코스트값이 각각 획득된다. 이 과정을 코스트 정규화로 지칭한다. 디코더는 코스트 정규화를 통해 획득된 샘플 당 코스트값(또는 정규화된 코스트값)을 비교하고, 더 작은값을 갖는 방식을 현재 블록의 최종 움직임 정보 유도 방식으로 결정한다.
디코더는 템플릿 매칭의 코스트를 연산한다(S14010). 템플릿 매칭의 코스트 연산에 관한 사항은 상술한 도 10에 관한 설명을 참조한다.
이후, 디코더는 S14010 단계에서 획득된 템플릿 매칭의 코스트를 정규화한다(S14020). 본 명세서에서 정규화란 획득된 코스트를 코스트 연산에 사용된 샘플 수로 나누어 샘플 당 코스트값을 획득하는 것을 나타낸다. 디코더는 템플릿 매칭의 코스트를 템플릿 매칭 연산에 사용된 샘플 수로 나눔으로써 샘플 당 템플릿 코스트를 획득한다. 이 과정을 통해, 정규화된(normalized) 템플릿 매칭 코스트가 획득된다.
이후, 디코더는 바이래터럴 매칭의 코스트를 연산한다(S14030). 바이래터럴 매칭의 코스트 연산에 관한 사항은 상술한 도 11에 관한 설명을 참조한다.
이후, 디코더는 S14030 단계에서 획득된 바이래터럴 매칭의 코스트를 정규화한다(S14040). 디코더는 바이래터럴 매칭의 코스트를 바이래터럴 매칭 연산에 사용된 샘플 수로 나눔으로써 샘플 당 코스트를 획득한다. 이 과정을 통해, 정규화된 바이래터럴 매칭의 코스트가 획득된다.
템플릿 매칭의 코스트 연산/정규화 과정(S14010 내지 S14020)과 바이래터럴 매칭의 코스트 연산/정규화 과정(S14030 내지 S14040)이 수행되는 순서는 변경될 수 있다. 다만 각 코스트 정규화 과정은 해당 코스트 연산 이후에 수행될 수 있다.
이후, 디코더는 정규화된 템플릿 매칭의 코스트와 정규화된 바이래터럴 매칭의 코스트를 비교한다(S14050). 일 예로, 디코더는 정규화된 템플릿 매칭의 코스트가 정규화된 바이래터럴 매칭의 코스트보다 작은지 여부를 판단(결정)할 수 있다. 비교 기준은 변경될 수 있다. 예를 들어, 디코더는 정규화된 바이래터럴 매칭의 코스트가 정규화된 템플릿 매칭의 코스트보다 작은지 여부를 판단(결정)할 수도 있다. 이 과정을 통해 디코더는 더 작은 정규화된 코스트를 갖는 방식이 현재 블록의 최종 움직임 정보 유도 방식으로써 결정한다.
이후, 디코더는 최종 움직임 정보 유도 방식이 템플릿 매칭으로 결정된 경우, 템플릿 매칭을 사용하여 움직임 추정을 수행한다(S14060). 또는, 디코더는 최종 움직임 정보 유도 방식이 바이래터럴 매칭으로 결정된 경우, 바이래터럴 매칭을 사용하여 움직임 추정을 수행한다(S14070).
도 15는 본 발명의 일 실시예에 따른, 인터 예측부의 블록도를 나타낸다.
도 15를 참조하면, 인터 예측부는 앞서 도 12 내지 14과 관련된 설명에서 제안된 기능, 과정 및/또는 방법을 구현할 수 있다.
구체적으로, 인터 예측부는 코스트 연산부(15010), 움직임 정보 유도 방식 결정부(15020), 움직임 정보 유도부(15030), 및 예측 블록 생성부(15030)를 포함하여 구성될 수 있다. 코스트 연산부(15010)는, 하나의 연산부로 구성될 수 있고 또는 제1 코스트 연산부와 제2 코스트 연산부를 포함하여 구성될 수도 있다. 코스트 연산부가 하나의 연산부만을 포함하는 경우, 하나의 연산부는 이하의 제1 코스트 연산부와 제2 코스트 연산부가 수행하는 기능들을 모두 수행할 수 있다.
제1 코스트 연산부는 제1 유도 모드의 제1 코스트를 연산할 수 있다. 여기서 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드(즉, 템플릿 매칭 모드)를 나타낼 수 있다.
제2 코스트 연산부는 제2 유도 모드의 제2 코스트를 연산할 수 있다. 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드(즉, 바이래터럴 매칭 모드)를 나타낼 수 있다.
이하에서, 제1 유도 모드는 템플릿 매칭을 지시하고, 제2 유도 모드는 바이래터럴 매칭을 지시한다. 제1 코스트는 템플릿 매칭의 코스트를 지시하고, 제2 코스트는 바이래터럴 매칭의 코스트를 지시한다.
움직임 정보 유도 방식 결정부(15020)는 제1 코스트와 제2 코스트를 기반으로 제1 유도 모드 및 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 현재 블록의 움직임 정보 유도 방식으로써 결정할 수 있다.
움직임 정보 유도부(15030)는 결정된 움직임 정보 유도 방식을 이용하여 현재 블록의 움직임 정보를 유도할 수 있다.
예측 블록 생성부(15030)는 유도된 움직임 정보를 이용하여 현재 블록의 예측 블록을 생성할 수 있다.
일 예로, 제1 코스트 연산부는, 참조 픽쳐 리스트 0의 참조 픽쳐에 포함된 제1 참조 템플릿 영역을 식별하는 제1 움직임 벡터를 결정하고, 참조 픽쳐 리스트 1의 참조 픽쳐에 포함된 제2 참조 템플릿 영역을 식별하는 제2 움직임 벡터를 결정할 수 있다. 이후, 제1 코스트 연산부는 제1 움직임 벡터와 제2 움직임 벡터에 의해 식별되는 참조 블록들 간의 차분값을 제1 코스트로써 연산할 수 있다. 이때, 제1 참조 템플릿 영역은 참조 픽쳐 리스트 0에 포함된 참조 픽쳐에서 현재 블록의 주변 템플릿 영역과의 차분값을 최소화하는 영역에 해당한다. 제2 참조 템플릿 영역은 참조 픽쳐 리스트 1에 포함된 참조 픽쳐에서 현재 블록의 주변 템플릿과의 차분값을 최소화하는 영역에 해당한다. 이 과정을 통해 제1 코스트 연산부는 본 명세서에서 제안하는 참조 블록 간의 차분값에 기반한 템플릿 매칭 코스트를 연산할 수 있다(상술한 실시예 1 참조).
다른 예로, 제1 코스트 연산부는, 참조 픽쳐 리스트 0에 포함된 참조 픽쳐에서 현재 블록의 주변 템플릿 영역과의 차분값을 최소화하는 제1 참조 템플릿 영역을 결정할 수 있고, 참조 픽쳐 리스트 1에 포함된 참조 픽쳐에서 현재 블록의 주변 템플릿 영역과의 차분값을 최소화하는 제2 참조 템플릿 영역을 결정할 수 있다. 이후, 제1 참조 템플릿 영역과 제2 참조 템플릿 영역의 차분값을 제1 코스트로써 연산할 수 있다. 여기서 제1 참조 템플릿 영역과 제2 참조 템플릿 영역은 현재 블록의 주변 템플릿 영역과 동일한 모양과 크기를 갖는다. 이 과정을 통해 제1 코스트 연산부는 템플릿 영역 간의 차분값에 기반한 템플릿 매칭 코스트를 연산할 수 있다.
일 예로, 제2 코스트 연산부는, 제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트의 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정할 수 있다. 여기서 제2 움직임 벡터는 제1 움직임 벡터와 크기가 동일하고 방향이 반대(즉, 대칭)된다. 이후, 제2 코스트 연산부는, 제1 참조 블록과 제2 참조 블록 간의 차분값을 제2 코스트로써 연산할 수 있다. 이 과정을 통해 제2 코스트 연산부는 참조 블록의 차분값에 기반한 바이래터럴 매칭 코스트를 연산할 수 있다.
다른 예로, 제2 코스트 연산부는, 제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정할 수 있다. 여기서 제2 움직임 벡터는 제1 움직임 벡터와 크기가 동일하고 방향이 반대(즉, 대칭)된다. 이후, 제2 코스트 연산부는, 제1 참조 블록의 주변 템플릿 영역과 제2 참조 블록의 주변 템플릿 영역 간의 차분값을 제2 코스트로써 연산할 수 있다. 여기서, 제1 움직임 벡터가 지시하는 참조 블록과 제2 움직임 벡터가 지시하는 참조 블록 간의 차분값을 최소화하는 각 참조 블록이 제1 참조 블록과 제2 참조 블록으로 결정될 수 있다. 이 과정을 통해 제2 코스트 연산부는 본 명세서에서 제안하는 템플릿 영역 간의 차분값에 기반한 바이래터럴 매칭의 코스트를 연산할 수 있다(상술한 실시예 2 참조).
움직임 정보 유도 방식 결정부(15020)는, 제1 코스트와 제2 코스트를 연산하는 과정에서 사용된 샘플 수를 고려하여 제1 유도 모드 및 제2 유도 모드 중 하나를 현재 블록의 움직임 정보 유도 방식으로써 결정할 수 있다. 구체적으로, 움직임 정보 유도 방식 결정부(15020)는, 제1 코스트를 정규화(normalize)함으로써 제1 정규화된 코스트(normalized cost)를 획득하고, 제2 코스트를 정규화함으로써 제2 정규화된 코스트를 획득하고, 제1 정규화된 코스트와 제2 정규화된 코스트를 기반으로 제1 유도 모드 및 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 현재 블록의 움직임 정보 유도 방식으로써 결정할 수 있다. 제1 정규화된 코스트는 현재 블록의 주변 템플릿 영역에 포함된 샘플 수로 나눔으로써 획득된다. 제2 정규화된 코스트는 참조 블록에 포함된 샘플 수로 나눔으로써 획득된다. 이 과정을 통해 움직임 정보 유도 방식 결정부(15020)는, 정규화된 코스트를 기반으로 움직임 정보 유도 방식을 결정할 수 있다(상술한 실시예 3 참조).
움직임 정보 유도부(15030)는 제1 유도 모드(템플릿 매칭) 및 제2 유도 모드(바이래터럴 매칭) 중 현재 블록의 움직임 정보 유도 방식으로써 결정된 하나의 방식을 이용하여 현재 블록의 움직임 정보를 유도할 수 있다.
예측 블록 생성부(15040)는 유도된 움직임 정보를 이용하여 현재 블록의 예측 블록을 생성할 수 있다.
도 16은 본 발명의 일 실시예에 따른, 인터 예측 기반의 영상 처리 방법의 순서도를 나타낸다.
디코더는 제1 유도 모드의 제1 코스트를 연산한다(S16010). 여기서 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드(즉, 템플릿 매칭)를 나타낸다. 템플릿 매칭과 템플릿 매칭의 코스트 연산에 관한 자세한 내용은 상술한 도 10 및 도 12 관한 설명을 참조한다.
이후, 디코더는 제2 유도 모드의 제2 코스트를 연산한다(S16020). 여기서 제2 유도 모드는 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드(즉, 바이래터럴 매칭)를 나타낸다. 바이래터럴 매칭과 바이래터럴 매칭의 코스트 연산에 관한 자세한 내용은 상술한 도 11 및 도 13에 관한 설명을 참조한다.
이후, 디코더는 제1 코스트와 제2 코스트를 기반으로 제1 유도 모드 및 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 현재 블록의 움직임 정보 유도 방식으로써 결정한다(S16030).
이후, 디코더는 S16030 단계에서 결정된 움직임 정보 유도 방식을 이용하여 현재 블록의 움직임 정보를 유도한다(S16040).
이후, 디코더는 S16040 단계에서 유도된 움직임 정보를 이용하여 현재 블록의 예측 블록을 생성한다(S16050).
이상에서 설명된 실시예들은 본 발명의 구성요소들과 특징들이 소정 형태로 결합된 것들이다. 각 구성요소 또는 특징은 별도의 명시적 언급이 없는 한 선택적인 것으로 고려되어야 한다. 각 구성요소 또는 특징은 다른 구성요소나 특징과 결합되지 않은 형태로 실시될 수 있다. 또한, 일부 구성요소들 및/또는 특징들을 결합하여 본 발명의 실시예를 구성하는 것도 가능하다. 본 발명의 실시예들에서 설명되는 동작들의 순서는 변경될 수 있다. 어느 실시예의 일부 구성이나 특징은 다른 실시예에 포함될 수 있고, 또는 다른 실시예의 대응하는 구성 또는 특징과 교체될 수 있다. 특허청구범위에서 명시적인 인용 관계가 있지 않은 청구항들을 결합하여 실시예를 구성하거나 출원 후의 보정에 의해 새로운 청구항으로 포함시킬 수 있음은 자명하다.
도 17은 본 발명의 일 실시예에 따른, 컨텐츠 스트리밍 시스템 구조도를 나타낸다.
상기 도 17을 살펴보면, 본 발명이 적용되는 컨텐츠 스트리밍 시스템은 크게 인코딩 서버, 스트리밍 서버, 웹 서버, 미디어 저장소, 사용자 장치 및 멀티미디어 입력 장치를 포함할 수 있다.
상기 인코딩 서버는 스마트폰, 카메라, 캠코더 등과 같은 멀티미디어 입력 장치들로부터 입력된 컨텐츠를 디지털 데이터로 압축하여 비트스트림을 생성하고 이를 상기 스트리밍 서버로 전송하는 역할을 한다. 다른 예로, 스마트폰, 카메라, 캠코더 등과 같은 멀티미디어 입력 장치들이 비트스트림을 직접 생성하는 경우, 상기 인코딩 서버는 생략될 수 있다.
상기 비트스트림은 본 발명이 적용되는 인코딩 방법 또는 비트스트림 생성 방법에 의해 생성될 수 있고, 상기 스트리밍 서버는 상기 비트스트림을 전송 또는 수신하는 과정에서 일시적으로 상기 비트스트림을 저장할 수 있다.
상기 스트리밍 서버는 웹 서버를 통한 사용자 요청에 기초하여 멀티미디어 데이터를 사용자 장치에 전송하고, 상기 웹 서버는 사용자에게 어떠한 서비스가 있는지를 알려주는 매개체 역할을 한다. 사용자가 상기 웹 서버에 원하는 서비스를 요청하면, 상기 웹 서버는 이를 스트리밍 서버에 전달하고, 상기 스트리밍 서버는 사용자에게 멀티미디어 데이터를 전송한다. 이때, 상기 컨텐츠 스트리밍 시스템은 별도의 제어 서버를 포함할 수 있고, 이 경우 상기 제어 서버는 상기 컨텐츠 스트리밍 시스템 내 각 장치 간 명령/응답을 제어하는 역할을 한다.
상기 스트리밍 서버는 미디어 저장소 및/또는 인코딩 서버로부터 컨텐츠를 수신할 수 있다. 예를 들어, 상기 인코딩 서버로부터 컨텐츠를 수신하게 되는 경우, 상기 컨텐츠를 실시간으로 수신할 수 있다. 이 경우, 원활한 스트리밍 서비스를 제공하기 위하여 상기 스트리밍 서버는 상기 비트스트림을 일정 시간동안 저장할 수 있다.
상기 사용자 장치의 예로는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)), 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등이 있을 수 있다.
상기 컨텐츠 스트리밍 시스템 내 각 서버들은 분산 서버로 운영될 수 있으며, 이 경우 각 서버에서 수신하는 데이터는 분산 처리될 수 있다.
상기 기술된 것과 같이, 본 발명에서 설명한 실시예들은 프로세서, 마이크로 프로세서, 컨트롤러 또는 칩 상에서 구현되어 수행될 수 있다. 예를 들어, 각 도면에서 도시한 기능 유닛들은 컴퓨터, 프로세서, 마이크로 프로세서, 컨트롤러 또는 칩 상에서 구현되어 수행될 수 있다.
또한, 본 발명이 적용되는 디코더 및 인코더는 멀티미디어 방송 송수신 장치, 모바일 통신 단말, 홈 시네마 비디오 장치, 디지털 시네마 비디오 장치, 감시용 카메라, 비디오 대화 장치, 비디오 통신과 같은 실시간 통신 장치, 모바일 스트리밍 장치, 저장 매체, 캠코더, 주문형 비디오(VoD) 서비스 제공 장치, OTT 비디오(Over the top video) 장치, 인터넷 스트리밍 서비스 제공 장치, 3차원(3D) 비디오 장치, 화상 전화 비디오 장치, 및 의료용 비디오 장치 등에 포함될 수 있으며, 비디오 신호 또는 데이터 신호를 처리하기 위해 사용될 수 있다. 예를 들어, OTT 비디오(Over the top video) 장치로는 게임 콘솔, 블루레이 플레이어, 인터넷 접속 TV, 홈시어터 시스템, 스마트폰, 태블릿 PC, DVR(Digital Video Recoder) 등을 포함할 수 있다.
또한, 본 발명이 적용되는 처리 방법은 컴퓨터로 실행되는 프로그램의 형태로 생산될 수 있으며, 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 또한 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 판독할 수 있는 기록 매체는 컴퓨터로 읽을 수 있는 데이터가 저장되는 모든 종류의 저장 장치 및 분산 저장 장치를 포함한다. 상기 컴퓨터가 판독할 수 있는 기록 매체는, 예를 들어, 블루레이 디스크(BD), 범용 직렬 버스(USB), ROM, PROM, EPROM, EEPROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크 및 광학적 데이터 저장 장치를 포함할 수 있다. 또한, 상기 컴퓨터가 판독할 수 있는 기록 매체는 반송파(예를 들어, 인터넷을 통한 전송)의 형태로 구현된 미디어를 포함한다. 또한, 인코딩 방법으로 생성된 비트스트림이 컴퓨터가 판독할 수 있는 기록 매체에 저장되거나 유무선 통신 네트워크를 통해 전송될 수 있다.
또한, 본 발명의 실시예는 프로그램 코드에 의한 컴퓨터 프로그램 제품으로 구현될 수 있고, 상기 프로그램 코드는 본 발명의 실시예에 의해 컴퓨터에서 수행될 수 있다. 상기 프로그램 코드는 컴퓨터에 의해 판독가능한 캐리어 상에 저장될 수 있다.
이상, 전술한 본 발명의 바람직한 실시예는, 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서, 다양한 다른 실시예들을 개량, 변경, 대체 또는 부가 등이 가능할 것이다.

Claims (9)

  1. 인터 예측 기반의 영상 처리 방법에 있어서,
    제1 유도 모드의 제1 코스트를 연산하는 단계, 여기서 상기 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄;
    제2 유도 모드의 제2 코스트를 연산하는 단계, 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄;
    상기 제1 코스트와 상기 제2 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계;
    상기 결정된 움직임 정보 유도 방식을 이용하여 상기 현재 블록의 움직임 정보를 유도하는 단계; 및
    상기 유도된 움직임 정보를 이용하여 상기 현재 블록의 예측 블록을 생성하는 단계를 포함하는 방법.
  2. 제1항에 있어서,
    상기 제1 유도 모드의 제1 코스트를 연산하는 단계는,
    참조 픽쳐 리스트 0의 참조 픽쳐에 포함된 제1 참조 템플릿 영역을 식별하는 제1 움직임 벡터를 결정하는 단계;
    참조 픽쳐 리스트 1의 참조 픽쳐에 포함된 제2 참조 템플릿 영역을 식별하는 제2 움직임 벡터를 결정하는 단계; 및
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터에 의해 식별되는 참조 블록들 간의 차분값을 상기 제1 코스트로써 연산하는 단계를 더 포함하되,
    상기 제1 참조 템플릿 영역은 상기 참조 픽쳐 리스트 0에 포함된 참조 픽쳐에서 상기 현재 블록의 주변 템플릿 영역과의 차분값을 최소화하는 영역에 해당하고, 상기 제2 참조 템플릿 영역은 상기 참조 픽쳐 리스트 1에 포함된 참조 픽쳐에서 상기 현재 블록의 주변 템플릿과의 차분값을 최소화하는 영역에 해당하는 방법.
  3. 제1항에 있어서,
    상기 제2 유도 모드의 제2 코스트를 연산하는 단계는,
    제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트의 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정하는 단계, 여기서 상기 제2 움직임 벡터는 상기 제1 움직임 벡터와 크기가 동일하고 방향이 반대됨;
    상기 제1 참조 블록과 상기 제2 참조 블록 간의 차분값을 상기 제2 코스트로써 연산하는 단계를 더 포함하는 방법.
  4. 제1항에 있어서,
    상기 제2 유도 모드의 제2 코스트를 연산하는 단계는,
    제1 움직임 벡터와 제2 움직임 벡터를 이용하여 참조 픽쳐 리스트 0의 제1 참조 블록과 참조 픽쳐 리스트 1의 제2 참조 블록을 결정하는 단계, 여기서 상기 제2 움직임 벡터는 상기 제1 움직임 벡터와 크기가 동일하고 방향이 반대됨;
    상기 제1 참조 블록의 주변 템플릿 영역과 상기 제2 참조 블록의 주변 템플릿 영역 간의 차분값을 제2 코스트로써 연산하는 단계;를 포함하는 방법.
  5. 제1항에 있어서,
    상기 제1 코스트와 상기 제2 코스트를 연산하는 과정에서 사용된 샘플 수를 고려하여 상기 제1 유도 모드 및 상기 제2 유도 모드 중 하나를 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계를 더 포함하는 방법.
  6. 제5항에 있어서,
    상기 현재 블록의 움직임 정보 유도 방식을 결정하는 단계는,
    상기 제1 코스트를 정규화(normalize)함으로써 제1 정규화된 코스트를 획득하는 단계;
    상기 제2 코스트를 정규화함으로써 제2 정규화된 코스트를 획득하는 단계; 및
    상기 제1 정규화된 코스트와 상기 제2 정규화된 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 단계를 더 포함하는 방법.
  7. 제6항에 있어서,
    상기 제1 정규화된 코스트는 상기 현재 블록의 주변 템플릿 영역에 포함된 샘플 수로 나눔으로써 획득되는 방법.
  8. 제6항에 있어서,
    상기 제2 정규화된 코스트는 상기 참조 블록에 포함된 샘플 수로 나눔으로써 획득되는 방법.
  9. 인터 예측 기반의 영상 처리 장치에 있어서,
    제1 유도 모드의 제1 코스트를 연산하는 제1 코스트 연산부, 여기서 상기 제1 유도 모드는 현재 블록의 주변 템플릿 영역과 참조 픽쳐 내 참조 블록의 주변 템플릿 영역 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄;
    제2 유도 모드의 제2 코스트를 연산하는 제2 코스트 연산부, 여기서 상기 제2 유도 모드는 상기 현재 블록을 기준으로 대칭되는 두 움직임 벡터가 각각 지시하는 참조 블록 간의 차분값을 최소화하는 움직임 정보를 유도하는 모드를 나타냄;
    상기 제1 코스트와 상기 제2 코스트를 기반으로 상기 제1 유도 모드 및 상기 제2 유도 모드 중 더 작은 코스트를 갖는 방식을 상기 현재 블록의 움직임 정보 유도 방식으로써 결정하는 움직임 정보 유도 방식 결정부;
    상기 결정된 움직임 정보 유도 방식을 이용하여 상기 현재 블록의 움직임 정보를 유도하는 움직임 정보 유도부; 및
    상기 유도된 움직임 정보를 이용하여 상기 현재 블록의 예측 블록을 생성하는 예측 블록 생성부를 포함하는 방법.
PCT/KR2018/009026 2017-08-08 2018-08-08 영상 처리 방법 및 이를 위한 장치 WO2019031842A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201762542341P 2017-08-08 2017-08-08
US62/542,341 2017-08-08

Publications (1)

Publication Number Publication Date
WO2019031842A1 true WO2019031842A1 (ko) 2019-02-14

Family

ID=65272435

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/009026 WO2019031842A1 (ko) 2017-08-08 2018-08-08 영상 처리 방법 및 이를 위한 장치

Country Status (1)

Country Link
WO (1) WO2019031842A1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016072745A1 (ko) * 2014-11-04 2016-05-12 삼성전자 주식회사 정규화를 수행하는 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
US20160212436A1 (en) * 2013-09-24 2016-07-21 Vid Scale, Inc. Inter-layer prediction for scalable video coding
WO2016204372A1 (ko) * 2015-06-18 2016-12-22 엘지전자 주식회사 영상 코딩 시스템에서 필터 뱅크를 이용한 영상 필터링 방법 및 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160212436A1 (en) * 2013-09-24 2016-07-21 Vid Scale, Inc. Inter-layer prediction for scalable video coding
WO2016072745A1 (ko) * 2014-11-04 2016-05-12 삼성전자 주식회사 정규화를 수행하는 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
WO2016204372A1 (ko) * 2015-06-18 2016-12-22 엘지전자 주식회사 영상 코딩 시스템에서 필터 뱅크를 이용한 영상 필터링 방법 및 장치

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JIANLE CHEN: "Algorithm Description of Joint Exploration Test Model 3", JOINT VIDEO EXPLORATION TEAM (JVET) OF ITU-T SG 16 WP 3, 1 June 2016 (2016-06-01), Geneva, CH, XP055577005 *
JIANLE CHEN: "Algorithm Description of Joint Exploration Test Model 7 (JEM 7", JOINT VIDEO EXPLORATION TEAM (JVET) OF ITU-T SG 16 WP 3, 21 July 2017 (2017-07-21), Torino, IT, XP055576095 *

Similar Documents

Publication Publication Date Title
WO2020166897A1 (ko) Dmvr 기반의 인터 예측 방법 및 장치
WO2020256389A1 (ko) Bdpcm 기반 영상 디코딩 방법 및 그 장치
WO2019117640A1 (ko) 영상 코딩 시스템에서 인터 예측에 따른 영상 디코딩 방법 및 장치
WO2019017694A1 (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2020184991A1 (ko) Ibc 모드를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2020017892A1 (ko) 서브블록 단위의 시간적 움직임 벡터 예측을 위한 방법 및 그 장치
WO2021137597A1 (ko) Ols에 대한 dpb 파라미터를 사용하는 영상 디코딩 방법 및 그 장치
WO2019235822A1 (ko) 어파인 움직임 예측을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2020180119A1 (ko) Cclm 예측에 기반한 영상 디코딩 방법 및 그 장치
WO2019027145A1 (ko) 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2020235961A1 (ko) 영상 디코딩 방법 및 그 장치
WO2020262931A1 (ko) 비디오/영상 코딩 시스템에서 머지 데이터 신택스의 시그널링 방법 및 장치
WO2020256390A1 (ko) 블록 사이즈를 기반으로 bdpcm 을 수행하는 영상 디코딩 방법 및 그 장치
WO2020141879A1 (ko) 영상 코딩 시스템에서 서브 블록 기반 시간적 머지 후보를 사용하는 어파인 움직임 예측에 기반한 영상 디코딩 방법 및 장치
WO2021141227A1 (ko) 영상 디코딩 방법 및 그 장치
WO2020251257A1 (ko) 예측 샘플을 생성하기 위한 가중치 인덱스 정보를 도출하는 영상 디코딩 방법 및 그 장치
WO2020262930A1 (ko) 머지 데이터 신택스에서 중복적인 신택스의 제거 방법 및 장치
WO2019078427A1 (ko) 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2021112633A1 (ko) 동일 위치 픽처에 관한 정보를 포함하는 픽처 헤더에 기반한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2021137598A1 (ko) Dpb 관리 프로세스를 포함하는 영상 디코딩 방법 및 그 장치
WO2021034117A1 (ko) 영상 디코딩 방법 및 그 장치
WO2021015512A1 (ko) Ibc를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2020256329A1 (ko) 움직임 예측에 기반한 영상 코딩 방법 및 장치
WO2020256493A1 (ko) 인터 예측에 기반한 영상 코딩 방법 및 장치
WO2020184953A1 (ko) 쌍 예측을 위한 가중치 인덱스 정보를 유도하는 비디오 또는 영상 코딩

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18843396

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18843396

Country of ref document: EP

Kind code of ref document: A1