WO2018105757A1 - 영상 코딩 시스템에서 영상 디코딩 방법 및 장치 - Google Patents

영상 코딩 시스템에서 영상 디코딩 방법 및 장치 Download PDF

Info

Publication number
WO2018105757A1
WO2018105757A1 PCT/KR2016/014167 KR2016014167W WO2018105757A1 WO 2018105757 A1 WO2018105757 A1 WO 2018105757A1 KR 2016014167 W KR2016014167 W KR 2016014167W WO 2018105757 A1 WO2018105757 A1 WO 2018105757A1
Authority
WO
WIPO (PCT)
Prior art keywords
motion information
block
target block
modified
reference picture
Prior art date
Application number
PCT/KR2016/014167
Other languages
English (en)
French (fr)
Inventor
서정동
임재현
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to CN202310703397.XA priority Critical patent/CN116527884A/zh
Priority to KR1020237028920A priority patent/KR20230129582A/ko
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to CN202310707482.3A priority patent/CN116527885A/zh
Priority to EP22175536.6A priority patent/EP4090025A1/en
Priority to HUE21163358A priority patent/HUE059684T2/hu
Priority to US16/465,895 priority patent/US10764598B2/en
Priority to HUE16923451A priority patent/HUE055198T2/hu
Priority to ES16923451T priority patent/ES2886871T3/es
Priority to PT211633581T priority patent/PT3855745T/pt
Priority to EP21163358.1A priority patent/EP3855745B1/en
Priority to PCT/KR2016/014167 priority patent/WO2018105757A1/ko
Priority to KR1020197016155A priority patent/KR102322128B1/ko
Priority to DK16923451.5T priority patent/DK3541073T3/da
Priority to KR1020217035512A priority patent/KR102414924B1/ko
Priority to CN201680091905.1A priority patent/CN110121883B/zh
Priority to CN202310708056.1A priority patent/CN116527886A/zh
Priority to EP16923451.5A priority patent/EP3541073B1/en
Priority to ES21163358T priority patent/ES2927560T3/es
Priority to KR1020227021390A priority patent/KR102572286B1/ko
Priority to PL21163358.1T priority patent/PL3855745T3/pl
Priority to PL16923451T priority patent/PL3541073T3/pl
Priority to DK21163358.1T priority patent/DK3855745T3/da
Priority to SI201631609T priority patent/SI3855745T1/sl
Publication of WO2018105757A1 publication Critical patent/WO2018105757A1/ko
Priority to US16/985,118 priority patent/US11363289B2/en
Priority to US17/734,959 priority patent/US12096020B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/573—Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Definitions

  • the present invention relates to an image coding technique, and more particularly, to an image decoding method and apparatus in an image coding system.
  • the demand for high resolution and high quality images such as high definition (HD) images and ultra high definition (UHD) images is increasing in various fields.
  • the higher the resolution and the higher quality of the image data the more information or bit rate is transmitted than the existing image data. Therefore, the image data can be transmitted by using a medium such as a conventional wired / wireless broadband line or by using a conventional storage medium. In the case of storage, the transmission cost and the storage cost are increased.
  • a high efficiency image compression technique is required to effectively transmit, store, and reproduce high resolution, high quality image information.
  • An object of the present invention is to provide a method and apparatus for improving image coding efficiency.
  • Another object of the present invention is to provide an inter prediction method and apparatus for updating motion information of a target block.
  • Another object of the present invention is to provide a method and apparatus for calculating modified motion information of a target block after the decoding process of the target block and updating the updated motion information based on the modified motion information.
  • Another technical problem of the present invention is to provide a method and apparatus for using for motion information of a next block around a target block based on updated motion information of the target block.
  • an image decoding method performed by a decoding apparatus.
  • the method may include obtaining information on inter prediction of a target block through a bitstream, deriving motion information of the target block based on the information on the inter prediction, and obtaining the information on the target block based on the motion information. Deriving a predictive sample by performing inter prediction on the target, generating a reconstructed block based on the predicted sample, deriving modified motion information about the target block based on the reconstructed block, and And updating the motion information of the target block based on the modified motion information.
  • a decoding apparatus for performing image decoding.
  • the decoding apparatus may further include an entropy decoding unit that obtains information on inter prediction of a target block through a bitstream, and derives motion information of the target block based on the information on the inter prediction, and based on the motion information. Deriving a prediction sample by performing inter prediction on the block, generating a reconstruction block of the target block based on the prediction sample, and deriving modified motion information on the target block based on the reconstructed block And a memory configured to update the motion information of the target block based on the corrected motion information.
  • a video encoding method performed by an encoding apparatus may include generating motion information on a target block, deriving a prediction sample by performing inter prediction on the target block based on the motion information, generating a reconstruction block based on the prediction sample, Generating modified motion information for the target block based on the reconstructed block, and updating the motion information of the target block based on the modified motion information. It is done.
  • a video encoding apparatus generates motion information about a target block, derives a prediction sample by performing inter prediction on the target block based on the motion information, generates a reconstruction block based on the prediction sample, and restores the And a prediction unit configured to generate modified motion information of the target block based on the block, and a memory to update the motion information of the target block based on the modified motion information. It is done.
  • the modified motion information of the target block can be calculated and updated with more accurate motion information, thereby improving the overall coding efficiency.
  • the motion information of the next block around the target block can be derived based on the updated motion information of the target block, thereby reducing the propagation of distortion, thereby improving the overall coding efficiency.
  • FIG. 1 is a diagram schematically illustrating a configuration of a video encoding apparatus to which the present invention may be applied.
  • FIG. 2 is a diagram schematically illustrating a configuration of a video decoding apparatus to which the present invention may be applied.
  • FIG. 3 illustrates an example of performing inter prediction based on uni-prediction motion information applied to a target block and performing inter prediction based on bi-prediction motion information. It shows by way of example.
  • FIG. 4 illustrates an example of an encoding process including a method of updating motion information of a target block.
  • FIG. 5 illustrates an example of a decoding process including a method of updating motion information of a target block.
  • FIG. 6 exemplarily illustrates a method of a decoding apparatus updating motion information of the target block through a block matching method.
  • FIG. 8 illustrates an example of a merge candidate list of a next block around the target blocks when the motion information of the target blocks is updated with the modified motion information of the target blocks.
  • FIG. 9 illustrates an example of a merge candidate list of a next block around the target blocks when the motion information of the target blocks is updated with the modified motion information of the target blocks.
  • FIG. 10 illustrates an example of a motion vector predictor candidate list of a next block around the target block when the motion information of the target block is updated based on the modified motion information of the target block.
  • FIG. 11 illustrates an example of a motion vector predictor candidate list of a next block around the target block when the motion information of the target block is updated based on the modified motion information of the target block.
  • FIG. 12 schematically illustrates a video encoding method by an encoding device according to the present invention.
  • FIG. 13 schematically illustrates a video decoding method by a decoding apparatus according to the present invention.
  • each configuration in the drawings described in the present invention are shown independently for the convenience of description of the different characteristic functions, it does not mean that each configuration is implemented by separate hardware or separate software.
  • two or more of each configuration may be combined to form one configuration, or one configuration may be divided into a plurality of configurations.
  • Embodiments in which each configuration is integrated and / or separated are also included in the scope of the present invention without departing from the spirit of the present invention.
  • a picture generally refers to a unit representing one image of a specific time zone
  • a slice is a unit constituting a part of a picture in coding.
  • One picture may be composed of a plurality of slices, and if necessary, the picture and the slice may be mixed with each other.
  • a pixel or a pel may refer to a minimum unit constituting one picture (or image). Also, 'sample' may be used as a term corresponding to a pixel.
  • a sample may generally represent a pixel or a value of a pixel, and may only represent pixel / pixel values of the luma component, or only pixel / pixel values of the chroma component.
  • a unit represents the basic unit of image processing.
  • the unit may include at least one of a specific region of the picture and information related to the region.
  • the unit may be used interchangeably with terms such as block or area in some cases.
  • an M ⁇ N block may represent a set of samples or transform coefficients composed of M columns and N rows.
  • FIG. 1 is a diagram schematically illustrating a configuration of a video encoding apparatus to which the present invention may be applied.
  • the video encoding apparatus 100 may include a picture divider 105, a predictor 110, a subtractor 115, a transformer 120, a quantizer 125, a reordering unit 130, An entropy encoding unit 135, an inverse quantization unit 140, an inverse transform unit 145, an adder 150, a filter unit 155, and a memory 160 are included.
  • the picture divider 105 may divide the input picture into at least one processing unit.
  • the processing unit may be a coding unit block (CU), a prediction unit (PU), or a transform unit (TU).
  • a coding unit is a unit block of coding and may be split from a largest coding unit (LCU) into coding units of a deeper depth along a quad-tree structure.
  • LCU largest coding unit
  • the maximum coding unit may be used as the final coding unit immediately based on coding efficiency according to the image characteristic, or if necessary, the coding unit is recursively divided into coding units of lower depths and optimized.
  • a coding unit of size may be used as the final coding unit.
  • the coding unit may not be split into smaller coding units than the minimum coding unit.
  • the final coding unit refers to a coding unit that is the basis of partitioning or partitioning into a prediction unit or a transform unit.
  • the prediction unit is a block partitioning from the coding unit block and may be a unit block of sample prediction. In this case, the prediction unit may be divided into sub blocks.
  • the transform unit may be divided along the quad tree structure from the coding unit block, and may be a unit block for deriving a transform coefficient and / or a unit block for deriving a residual signal from the transform coefficient.
  • a coding unit may be called a coding block (CB)
  • a prediction unit is a prediction block (PB)
  • a transform unit may be called a transform block (TB).
  • a prediction block or prediction unit may mean a specific area in the form of a block within a picture, and may include an array of prediction samples.
  • a transform block or a transform unit may mean a specific area in a block form within a picture, and may include an array of transform coefficients or residual samples.
  • the prediction unit 110 may perform a prediction on a block to be processed (hereinafter, referred to as a current block) and generate a prediction block including prediction samples of the current block.
  • the unit of prediction performed by the prediction unit 110 may be a coding block, a transform block, or a prediction block.
  • the prediction unit 110 may determine whether intra prediction or inter prediction is applied to the current block. As an example, the prediction unit 110 may determine whether intra prediction or inter prediction is applied on a CU basis.
  • the prediction unit 110 may derive a prediction sample for the current block based on reference samples outside the current block in the picture to which the current block belongs (hereinafter, referred to as the current picture). In this case, the prediction unit 110 may (i) derive the prediction sample based on the average or interpolation of neighboring reference samples of the current block, and (ii) the neighbor reference of the current block.
  • the prediction sample may be derived based on a reference sample present in a specific (prediction) direction with respect to the prediction sample among the samples. In case of (i), it may be called non-directional mode or non-angle mode, and in case of (ii), it may be called directional mode or angular mode.
  • the prediction mode may have, for example, 33 directional prediction modes and at least two non-directional modes.
  • the non-directional mode may include a DC prediction mode and a planner mode (Planar mode).
  • the prediction unit 110 may determine the prediction mode applied to the current block by using the prediction mode applied to the neighboring block.
  • the prediction unit 110 may derive the prediction sample for the current block based on the sample specified by the motion vector on the reference picture.
  • the prediction unit 110 may apply one of a skip mode, a merge mode, and a motion vector prediction (MVP) mode to derive a prediction sample for the current block.
  • the prediction unit 110 may use the motion information of the neighboring block as the motion information of the current block.
  • the skip mode unlike the merge mode, the difference (residual) between the prediction sample and the original sample is not transmitted.
  • the MVP mode the motion vector of the current block can be derived using the motion vector of the neighboring block as a motion vector predictor.
  • the neighboring block may include a spatial neighboring block existing in the current picture and a temporal neighboring block present in the reference picture.
  • a reference picture including the temporal neighboring block may be called a collocated picture (colPic).
  • the motion information may include a motion vector and a reference picture index.
  • Information such as prediction mode information and motion information may be encoded (entropy) and output in the form of a bitstream.
  • the highest picture on the reference picture list may be used as the reference picture.
  • Reference pictures included in a reference picture list may be sorted based on a difference in a picture order count (POC) between a current picture and a corresponding reference picture.
  • POC picture order count
  • the subtraction unit 115 generates a residual sample which is a difference between the original sample and the prediction sample.
  • residual samples may not be generated as described above.
  • the transform unit 120 generates a transform coefficient by transforming the residual sample in units of transform blocks.
  • the transform unit 120 may perform the transformation according to the size of the transform block and the prediction mode applied to the coding block or the prediction block that spatially overlaps the transform block. For example, if intra prediction is applied to the coding block or the prediction block that overlaps the transform block, and the transform block is a 4 ⁇ 4 residual array, the residual sample uses a discrete sine transform (DST). In other cases, the residual sample may be transformed by using a discrete cosine transform (DCT).
  • DST discrete sine transform
  • DCT discrete cosine transform
  • the quantization unit 125 may quantize the transform coefficients to generate quantized transform coefficients.
  • the reordering unit 130 rearranges the quantized transform coefficients.
  • the reordering unit 130 may reorder the quantized transform coefficients in the form of a block into a one-dimensional vector form through a coefficient scanning method. Although the reordering unit 130 has been described in a separate configuration, the reordering unit 130 may be part of the quantization unit 125.
  • the entropy encoding unit 135 may perform entropy encoding on the quantized transform coefficients.
  • Entropy encoding may include, for example, encoding methods such as exponential Golomb, context-adaptive variable length coding (CAVLC), context-adaptive binary arithmetic coding (CABAC), and the like.
  • the entropy encoding unit 135 may encode information necessary for video reconstruction other than the quantized transform coefficients (for example, a value of a syntax element) together or separately. Entropy encoded information may be transmitted or stored in units of network abstraction layer (NAL) units in the form of bitstreams.
  • NAL network abstraction layer
  • the inverse quantization unit 140 inverse quantizes the quantized values (quantized transform coefficients) in the quantization unit 125, and the inverse transform unit 145 inversely transforms the inverse quantized values in the inverse quantization unit 135 to obtain a residual sample.
  • the adder 150 reconstructs the picture by combining the residual sample and the predictive sample.
  • the residual sample and the predictive sample may be added in units of blocks to generate a reconstructed block.
  • the adder 150 has been described in a separate configuration, the adder 150 may be part of the predictor 110.
  • the filter unit 155 may apply a deblocking filter and / or a sample adaptive offset to the reconstructed picture. Through deblocking filtering and / or sample adaptive offset, the artifacts of the block boundaries in the reconstructed picture or the distortion in the quantization process can be corrected.
  • the sample adaptive offset may be applied on a sample basis and may be applied after the process of deblocking filtering is completed.
  • the filter unit 155 may apply an adaptive loop filter (ALF) to the reconstructed picture. ALF may be applied to the reconstructed picture after the deblocking filter and / or sample adaptive offset is applied.
  • ALF adaptive loop filter
  • the memory 160 may store information necessary for reconstruction picture or encoding / decoding.
  • the reconstructed picture may be a reconstructed picture after the filtering process is completed by the filter unit 155.
  • the stored reconstructed picture may be used as a reference picture for (inter) prediction of another picture.
  • the memory 160 may store (reference) pictures used for inter prediction.
  • pictures used for inter prediction may be designated by a reference picture set or a reference picture list.
  • FIG. 2 is a diagram schematically illustrating a configuration of a video decoding apparatus to which the present invention may be applied.
  • the video decoding apparatus 200 includes an entropy decoding unit 210, a reordering unit 220, an inverse quantization unit 230, an inverse transform unit 240, a predictor 250, and an adder 260. , A filter unit 270, and a memory 280.
  • the video decoding apparatus 200 may reconstruct the video in response to a process in which the video information is processed in the video encoding apparatus.
  • the video decoding apparatus 200 may perform video decoding using a processing unit applied in the video encoding apparatus.
  • the processing unit block of video decoding may be a coding unit block, a prediction unit block, or a transform unit block.
  • the coding unit block may be divided along the quad tree structure from the largest coding unit block as a unit block of decoding.
  • the prediction unit block is a block partitioned from the coding unit block and may be a unit block of sample prediction. In this case, the prediction unit block may be divided into sub blocks.
  • the transform unit block may be divided along the quad tree structure from the coding unit block, and may be a unit block for deriving a transform coefficient or a unit block for deriving a residual signal from the transform coefficient.
  • the entropy decoding unit 210 may parse the bitstream and output information necessary for video reconstruction or picture reconstruction. For example, the entropy decoding unit 210 decodes information in a bitstream based on a coding method such as exponential Golomb coding, CAVLC, or CABAC, quantized values of syntax elements necessary for video reconstruction, and residual coefficients. Can be output.
  • a coding method such as exponential Golomb coding, CAVLC, or CABAC, quantized values of syntax elements necessary for video reconstruction, and residual coefficients. Can be output.
  • the CABAC entropy decoding method receives a bin corresponding to each syntax element in a bitstream, and decodes syntax element information and decoding information of neighboring and decoding target blocks or information of symbols / bins decoded in a previous step.
  • the context model may be determined using the context model, the probability of occurrence of a bin may be predicted according to the determined context model, and arithmetic decoding of the bin may be performed to generate a symbol corresponding to the value of each syntax element. have.
  • the CABAC entropy decoding method may update the context model by using the information of the decoded symbol / bin for the context model of the next symbol / bean after determining the context model.
  • the information related to the prediction among the information decoded by the entropy decoding unit 210 is provided to the prediction unit 230, and the residual value on which the entropy decoding has been performed by the entropy decoding unit 210, that is, the quantized transform coefficient, is used as a reordering unit ( 220).
  • the reordering unit 220 may rearrange the quantized transform coefficients in the form of a two-dimensional block.
  • the reordering unit 220 may perform reordering in response to coefficient scanning performed by the encoding apparatus. Although the reordering unit 220 has been described in a separate configuration, the reordering unit 220 may be a part of the quantization unit 230.
  • the inverse quantization unit 230 may output the transform coefficients by inversely quantizing the transform coefficients quantized based on the (inverse) quantization parameter.
  • information for deriving a quantization parameter may be signaled from the encoding apparatus.
  • the inverse transform unit 240 may induce residual samples by inversely transforming the transform coefficients.
  • the prediction unit 250 may perform prediction on the current block and generate a prediction block including prediction samples for the current block.
  • the unit of prediction performed by the prediction unit 250 may be a coding block, a transform block, or a prediction block.
  • the prediction unit 250 may determine whether to apply intra prediction or inter prediction based on the information about the prediction.
  • a unit for determining which of intra prediction and inter prediction is to be applied and a unit for generating a prediction sample may be different.
  • the unit for generating a prediction sample in inter prediction and intra prediction may also be different.
  • whether to apply inter prediction or intra prediction may be determined in units of CUs.
  • a prediction mode may be determined and a prediction sample may be generated in PU units
  • intra prediction a prediction mode may be determined in PU units and a prediction sample may be generated in TU units.
  • the prediction unit 250 may derive the prediction sample for the current block based on the neighbor reference samples in the current picture.
  • the prediction unit 250 may derive the prediction sample for the current block by applying the directional mode or the non-directional mode based on the neighbor reference samples of the current block.
  • the prediction mode to be applied to the current block may be determined using the intra prediction mode of the neighboring block.
  • the prediction unit 250 may derive the prediction sample for the current block based on the sample specified on the reference picture by the motion vector on the reference picture.
  • the prediction unit 250 may induce a prediction sample for the current block by applying any one of a skip mode, a merge mode, and an MVP mode.
  • motion information required for inter prediction of the current block provided by the video encoding apparatus for example, information about a motion vector, a reference picture index, and the like may be obtained or derived based on the prediction information.
  • the motion information of the neighboring block may be used as the motion information of the current block.
  • the neighboring block may include a spatial neighboring block and a temporal neighboring block.
  • the predictor 250 may construct a merge candidate list using motion information of available neighboring blocks, and may use information indicated by the merge index on the merge candidate list as a motion vector of the current block.
  • the merge index may be signaled from the encoding device.
  • the motion information may include a motion vector and a reference picture. When the motion information of the temporal neighboring block is used in the skip mode and the merge mode, the highest picture on the reference picture list may be used as the reference picture.
  • the difference (residual) between the prediction sample and the original sample is not transmitted.
  • the motion vector of the current block may be derived using the motion vector of the neighboring block as a motion vector predictor.
  • the neighboring block may include a spatial neighboring block and a temporal neighboring block.
  • a merge candidate list may be generated by using a motion vector of a reconstructed spatial neighboring block and / or a motion vector corresponding to a Col block, which is a temporal neighboring block.
  • the motion vector of the candidate block selected from the merge candidate list is used as the motion vector of the current block.
  • the information about the prediction may include a merge index indicating a candidate block having an optimal motion vector selected from candidate blocks included in the merge candidate list.
  • the prediction unit 250 may derive the motion vector of the current block by using the merge index.
  • a motion vector predictor candidate list may be generated using a motion vector of a reconstructed spatial neighboring block and / or a motion vector corresponding to a Col block, which is a temporal neighboring block.
  • the prediction information may include a prediction motion vector index indicating an optimal motion vector selected from the motion vector candidates included in the list.
  • the prediction unit 250 may select the predicted motion vector of the current block from the motion vector candidates included in the motion vector candidate list using the motion vector index.
  • the prediction unit of the encoding apparatus may obtain a motion vector difference (MVD) between the motion vector of the current block and the motion vector predictor, and may encode the output vector in a bitstream form. That is, MVD may be obtained by subtracting the motion vector predictor from the motion vector of the current block.
  • the prediction unit 250 may obtain a motion vector difference included in the information about the prediction, and derive the motion vector of the current block by adding the motion vector difference and the motion vector predictor.
  • the prediction unit may also obtain or derive a reference picture index or the like indicating a reference picture from the information about the prediction.
  • the adder 260 may reconstruct the current block or the current picture by adding the residual sample and the predictive sample.
  • the adder 260 may reconstruct the current picture by adding the residual sample and the predictive sample in block units. Since the residual is not transmitted when the skip mode is applied, the prediction sample may be a reconstruction sample.
  • the adder 260 is described in a separate configuration, the adder 260 may be part of the predictor 250.
  • the filter unit 270 may apply the deblocking filtering sample adaptive offset, and / or ALF to the reconstructed picture.
  • the sample adaptive offset may be applied in units of samples and may be applied after deblocking filtering.
  • ALF may be applied after deblocking filtering and / or sample adaptive offset.
  • the memory 280 may store information necessary for reconstruction picture or decoding.
  • the reconstructed picture may be a reconstructed picture after the filtering process is completed by the filter unit 270.
  • the memory 280 may store pictures used for inter prediction.
  • pictures used for inter prediction may be designated by a reference picture set or a reference picture list.
  • the reconstructed picture can be used as a reference picture for another picture.
  • the memory 280 may output the reconstructed picture in an output order.
  • the motion information on the target block may be generated by applying a skip mode, a merge mode, or an adaptive motion vector prediction (AMVP) mode. It can be encoded and output.
  • the motion information of the target block may be included in the distortion due to the encoding process of the block, and thus may not completely reflect the motion information indicating the reconstructed block of the target block.
  • the merge mode is applied to the target block, the accuracy of the motion information for the target block may be degraded. That is, the difference between the prediction block derived through the motion information on the target block and the reconstruction block of the target block may be large. In this case, since the motion information of the target block is used in the decoding process of the next block around the target block, distortion may be propagated, thereby reducing overall coding efficiency.
  • the modified motion information for the target block is calculated based on the derived reconstruction block, and the motion information of the target block is updated based on the modified motion information.
  • the present invention proposes a method in which a next block around the target block can derive more accurate motion information. Through this, the overall coding efficiency can be improved.
  • FIG. 3 illustrates an example of performing inter prediction based on uni-prediction motion information applied to a target block and performing inter prediction based on bi-prediction motion information. It shows by way of example.
  • the bi-predictive motion information may include an L0 reference picture index and an L0 motion vector, an L1 reference picture index, and an L1 motion vector
  • the short-predicted motion information may include an L0 reference picture index and an L0 motion vector, or It may include an L1 reference picture index and an L1 motion vector.
  • L0 represents a reference picture list L0 (List 0)
  • L1 represents a reference picture list L1 (List 1).
  • a method used for inter prediction in an image coding process may include derivation of motion information by motion estimation and motion compensation. As illustrated in FIG.
  • the motion estimation may be a process of deriving a block matched to the target block from reference pictures encoded before encoding of the target picture including the target block.
  • a block matched with the target block may be defined as a reference block, and the difference between the position of the target block and the reference block derived on the assumption that the reference block is included in the same target picture as the target block may be determined. It can be defined as the motion vector of the target block.
  • the motion compensation may include a short prediction method for deriving and using one reference block and a pair prediction method for deriving and using two reference blocks.
  • Information including the motion vector and the reference picture of the target block may be referred to as motion information of the target block.
  • the information about the reference picture may include a reference picture list and a reference picture index indicating a reference picture included in the reference picture list.
  • the encoding apparatus may store the motion information of the target block for the next block around the target block to be encoded next to the target block or for the pictures to be encoded next to the target picture.
  • the stored motion information may be used in a method for representing motion information of the next block to be encoded next to the target block or pictures to be encoded next to the target picture.
  • the method may include a merge mode, which is a method of indexing motion information of the target block and transmitting motion information of a next block around the target block, and a motion vector of a next block around the target block.
  • a merge mode which is a method of indexing motion information of the target block and transmitting motion information of a next block around the target block, and a motion vector of a next block around the target block.
  • AMVP mode which is a method of expressing only a difference between a motion vector of a block and a motion vector of the target block.
  • the present invention proposes a method of updating motion information of the target picture or the target block after the encoding process of the target picture or the target block.
  • motion information used for the inter prediction may be stored.
  • the motion information may include distortion generated in a process calculated through block matching, and the motion information may be a value selected through a rate-distortion (RD) optimization process for the target block. Because of this, it may be difficult to fully reflect the actual movement of the target block.
  • the motion information of the target block is not used only for the inter prediction process of the target block, but is encoded after encoding of the next block around the target block encoded after encoding of the target block and the target picture including the target block. It can also affect the picture being added, which can reduce the overall coding efficiency.
  • the encoding device encodes the target block (S400).
  • the encoding apparatus may derive a prediction sample by performing inter prediction on the target block, and generate a reconstructed block of the target block based on the prediction sample.
  • the encoding apparatus may derive motion information of the target block to perform the inter prediction, and generate information on inter prediction of the target block including the motion information.
  • the motion information may be referred to as first motion information.
  • the encoding apparatus calculates modified motion information based on the reconstructed block of the target block (S410).
  • the encoding apparatus may calculate the modified motion information of the target block through various methods.
  • the modified motion information may be referred to as second motion information.
  • the method may include at least one of direct methods such as an optical flow method, a block-matching method, a frequency domain method, and an indirect method such as a feature point matching method and a method using statistical characteristics. One method may be applied.
  • the direct method and the indirect method may be applied at the same time. Details of the block matching method and the OF method will be described later.
  • the encoding apparatus may perform the encoding process of the target picture and calculate the modified motion information based on more information than immediately after the encoding process of the target block is performed.
  • the encoding apparatus may further generate, encode, and output motion vector update difference information indicating a difference between the existing motion vector and the corrected motion vector included in the (first) motion information.
  • the motion vector update difference information may be transmitted in units of the PUs.
  • the encoding apparatus determines whether to update the motion information of the target block (S420).
  • the encoding apparatus may determine whether to update the (first) motion information by comparing the accuracy of the (first) motion information and the corrected motion information. For example, the encoding apparatus may determine whether the (first) motion information is updated based on how different the image derived by motion compensation using the motion information is from the original video. In other words, it is possible to determine whether to update the data by comparing the data amount of the residual signal between the reference block derived based on each motion information and the original block of the target block.
  • the encoding apparatus updates the motion information of the target block based on the modified motion information and stores the updated motion information (S430). ).
  • the amount of data of the residual signal between the specific reference block derived based on the modified motion information and the original block is the register between the reference block derived based on the (first) motion information and the original block.
  • the encoding apparatus may update the (first) motion information based on the modified motion information.
  • the encoding apparatus may update the motion information of the target block by replacing the (first) motion information with the modified motion information, and store the updated motion information including only the modified motion information. have.
  • the encoding apparatus may update the motion information of the target block by adding the modified motion information to the (first) motion information, wherein the update includes the (first) motion information and the modified motion information. Recorded motion information can be stored.
  • the encoding apparatus stores the (first) motion information (S440). For example, the amount of data of the residual signal between the specific reference block derived based on the modified motion information and the original block is the register between the reference block derived based on the (first) motion information and the original block. If it is not smaller than the data amount of the dual signal, the encoding apparatus may store the (first) motion information.
  • the encoding apparatus may correct the motion information when the modified motion information is derived without judging whether the (first) motion information used for the inter prediction and the modified motion information are updated or not.
  • the motion information of the target block may be updated based on.
  • the decoding apparatus may receive additional information indicating whether the target block is updated. That is, the encoding apparatus may generate additional information indicating whether the update is performed, and may encode and output the additional information through the bitstream.
  • the additional information indicating whether the update is performed may be called an update flag.
  • the update flag When the value of the update flag is 1, it may indicate that the motion information is updated. When the value of the update flag is 0, it may indicate that the motion information is not updated.
  • the update flag may be transmitted in units of PUs.
  • the update flag may be transmitted in units of a CU, a CTU, and a slice, or may be transmitted through a higher level such as a picture parameter set (PPS) unit or a sequence parameter set (SPS) unit.
  • PPS picture parameter set
  • SPS sequence parameter set
  • the decoding apparatus may determine whether the update is made by comparing the (first) motion information and the modified motion information of the target block based on the reconstruction block of the target block without receiving the update flag. When it is determined that the motion information of the target block is updated, the decoding apparatus may update the motion information of the target block based on the modified motion information and store the updated motion information. . Also, the decoding apparatus may determine the motion of the target block based on the corrected motion information when the modified motion information is derived without determining whether to update the motion information used for the inter prediction and the modified motion information. You can update the information. In this case, the decoding apparatus may update the motion information of the target block by replacing the (first) motion information with the modified motion information, and store the updated motion information including only the modified motion information. have. In addition, the decoding apparatus may update the motion information of the target block by adding the modified motion information to the (first) motion information, wherein the update includes the (first) motion information and the modified motion information. Recorded motion information can be stored.
  • the encoding of the next block around the target block in the sequence following the encoding of the target block may be performed.
  • the decoding process may be performed similarly to the encoding process described above.
  • the decoding device decodes the target block (S500).
  • the decoding apparatus may obtain information about inter prediction of the target block through a bitstream.
  • the decoding apparatus may derive motion information of the target block based on the information on the inter prediction, and derive a prediction sample by performing inter prediction on the target block based on the motion information.
  • the motion information may be referred to as first motion information.
  • the decoding apparatus may generate a reconstruction block based on the prediction sample.
  • the decoding apparatus calculates modified motion information of the target block (S510).
  • the decoding apparatus may calculate the modified motion information through various methods.
  • the modified motion information may be referred to as second motion information.
  • the method may include at least one of direct methods such as an optical flow method, a block-matching method, a frequency domain method, and an indirect method such as a feature point matching method and a method using statistical characteristics. One method may be applied.
  • the direct method and the indirect method may be applied at the same time. Details of the block matching method and the OF method will be described later.
  • the decoding apparatus may perform the decoding process of the target picture and calculate the modified motion information based on more information than immediately after the decoding process of the target block is performed.
  • the decoding apparatus may obtain motion vector update difference information indicating a difference between the existing motion vector and the modified motion vector included in the (first) motion information through the bitstream.
  • the motion vector update difference information may be transmitted in units of the PUs.
  • the decoding apparatus does not calculate the modified motion information independently through the direct and indirect methods described above, and adds the (first) motion information and the obtained motion vector update difference information to the modified motion.
  • Information can be derived. That is, the decoding apparatus may derive the existing motion vector as a motion vector preditor (MVP) of the modified motion vector, add the motion vector update difference information to the existing motion vector, and modify the motion.
  • MVP motion vector preditor
  • the decoding apparatus determines whether to update the motion information of the target block (S520).
  • the decoding apparatus may determine whether to update the (first) motion information by comparing the accuracy of the (first) motion information and the corrected motion information. For example, the decoding apparatus may determine whether the (first) motion information is updated based on how much a reference block derived from motion compensation using each motion information differs from the reconstructed block of the target block. have. In other words, it is possible to determine whether to update the data by comparing the data amount of the residual signal between the reference block derived based on each motion information and the reconstruction block of the target block.
  • the decoding apparatus may receive additional information indicating whether the update is performed from the encoding apparatus, and determine whether to update the motion information of the target block based on the additional information.
  • the additional information indicating whether the update is performed may be called an update flag.
  • the value of the update flag is 1, it may indicate that the motion information is updated.
  • the value of the update flag is 0, it may indicate that the motion information is not updated.
  • the decoding apparatus updates the motion information of the target block based on the modified motion information and stores the corrected motion information (S530). ). For example, the amount of data of the residual signal between the specific reference block derived based on the modified motion information and the reconstruction block and the reference block derived based on the (first) motion information and the recovery block If the amount of data of the dual signal is smaller than the decoding apparatus, the decoding apparatus may update the (first) motion information based on the modified motion information. In this case, the decoding apparatus may update the motion information of the target block by replacing the (first) motion information with the modified motion information, and store the updated motion information including only the modified motion information. have. In addition, the decoding apparatus may update the motion information of the target block by adding the modified motion information to the (first) motion information, wherein the update includes the (first) motion information and the modified motion information. Recorded motion information can be stored.
  • the decoding apparatus stores the (first) motion information (S540). For example, the amount of data of the residual signal between the specific reference block derived based on the modified motion information and the reconstruction block and the reference block derived based on the (first) motion information and the recovery block If it is not smaller than the data amount of the dual signal, the decoding apparatus may store the (first) motion information.
  • the decoding apparatus may determine the target based on the corrected motion information when the corrected motion information is derived without determining whether to update it by comparing the (first) motion information with the corrected motion information.
  • the motion information of the block can be updated.
  • the stored motion information and the motion information for transmission may have different resolutions.
  • the unit of the motion vector included in the modified motion information and the unit of the motion vector included in the motion information derived based on the information about the inter prediction may have different units.
  • the unit of the motion vector of the motion information derived based on the information on the inter prediction may represent a quarter fractional sample unit
  • the unit of the motion vector of the modified motion information calculated by the decoding apparatus may be 1/8 fractional samples or 1/16 fractional sample units.
  • the decoding apparatus may adjust the resolution to be necessary for storage in the process of calculating the modified motion information, or may be adjusted through an operation (for example, rounding or multiplication) in the process of storing the modified motion information.
  • decoding may be performed according to internal processing criteria.
  • the modified motion information may be derived as follows.
  • the block matching method may be represented as a motion estimation method used in an encoding apparatus.
  • the coding apparatus may accumulate the difference values between the samples according to the phase between the target block and the reference block, measure the degree of distortion, and use the same as a cost function to derive the reference block most similar to the target block. That is, the coding apparatus may derive the modified motion information of the target block based on a reference block having a minimum residual with the reconstructed block (or original block) of the target block.
  • the reference block with the smallest residual may be called a specific reference block.
  • functions representing difference values between the samples sum of absolute differences (SAD) and mean squared error (MSE) may be used.
  • SAD for measuring the degree of distortion by accumulating the absolute value of the difference between the samples according to the phase of the target block and the reference block can be derived based on the following equation.
  • block cur (i, j) is a reconstructed sample (or original sample) of (i, j) coordinates in the reconstructed block (or original block) of the target block
  • Block ref (i, j) is in the reference block.
  • a reconstruction sample of (i, j) coordinates, width indicates a width of the reconstruction block (or original block), and height indicates a height of the reconstruction block (or original block).
  • an MSE for measuring a degree of distortion by accumulating squared values of difference values between samples according to a phase between the target block and the reference block may be derived based on the following equation.
  • block cur (i, j) is a reconstructed sample (or original sample) of (i, j) coordinates in the reconstructed block (or original block) of the target block
  • Block ref (i, j) is in the reference block.
  • a reconstruction sample of (i, j) coordinates, width indicates a width of the reconstruction block (or original block), and height indicates a height of the reconstruction block (or original block).
  • Methods for calculating the modified motion information may vary in computation complexity depending on a search range for searching for the specific reference block.
  • the decoding apparatus is fixed from a reference block derived through the (first) motion information used in the decoding process of the target block. Only reference blocks included in the region may be searched, thereby maintaining a low computational complexity.
  • the decoding device decodes the target block (S600).
  • the decoding apparatus may obtain information about inter prediction of the target block through a bitstream, and generate a reconstructed block of the target block. Since the method of updating the motion information of the target block applied in the encoding apparatus should be similarly applied to the decoding apparatus, the encoding apparatus and the decoding apparatus may calculate the modified motion information of the target block based on the reconstruction block of the target block. have.
  • the decoding apparatus performs motion estimation on the reference picture for the modified motion information using the reconstructed block (S610).
  • the decoding apparatus may derive a reference picture for the motion information derived based on the information on the inter prediction as a specific reference picture for the modified motion information, and detect a specific reference block among the reference blocks in the reference picture. can do.
  • the specific reference block may be a reference block having a minimum sum of absolute values, that is, sum of absolute differences (SAD) among samples with the reconstructed block among the reference blocks.
  • the decoding apparatus may limit the search region for detecting the specific reference block to a predetermined region from the reference block indicated through the motion information derived based on the information on the inter prediction.
  • the decoding apparatus may derive, as the specific reference block, a reference block having a minimum SAD with the reconstruction block among the reference blocks located within a predetermined area from the reference block.
  • the decoding apparatus may perform motion estimation only in a predetermined region from the reference block, thereby increasing the reliability of the modified motion information while reducing computational complexity.
  • the decoding device divides the reconstruction block into blocks smaller than the specific size and calculates each small block in order to calculate the more accurate modified motion information. More detailed motion information is calculated on the basis (S620).
  • the specific size may be preset and the divided blocks may be called sub reconstruction blocks.
  • the decoding apparatus may divide the reconstruction block into a plurality of sub reconstruction blocks, and derive a specific sub reference block in units of the respective sub reconstruction blocks within the reference picture for the modified motion information based on the sub reconstruction blocks.
  • the derived specific sub reference blocks may be derived from the specific reference block.
  • the decoding apparatus may calculate the modified motion information based on the specific reference block.
  • the modified motion information may be derived as follows.
  • the OF method may be represented as a method mainly used to track how an object is moving in the screen.
  • the OF method may be calculated based on the assumption that the speed of the object in the target block in the image is constant and the sample value of the sample representing the object does not change.
  • the object moves ⁇ x in the x-axis direction and ⁇ y in the y-axis direction for a time ⁇ t.
  • I (x, y, t) represents a sample value of a reconstructed sample at position (x, y) representing the object at time t included in the target block.
  • Equation 3 If the right term is expanded into a taylor series in Equation 3, the following equation may be derived.
  • Equation 4 When Equation 4 holds, the following equation may be established.
  • Equation 5 may yield the following equation.
  • v x represents the x-axis vector component of the calculated motion vector
  • v y represents the y-axis vector component of the calculated motion vector.
  • the decoding apparatus derives partial values of the object on the x-axis, y-axis, and t-axis, and applies the derived partial values to the equation to determine the current position, that is, the position of a reconstruction sample representing the object.
  • the motion vector (v x , v y ) can be derived.
  • the decoding apparatus may set reconstructed samples in a reconstructed block of the target block representing the object as reconstructed samples included in an area unit of a 3x3 size, and applies the equation to the reconstructed samples.
  • the stored format of the modified motion information of the target block calculated by the coding apparatus may have various formats, but the next block around the target block to be coded after the coding process of the target block or the target including the target block is included. Since it may be used for a picture to be coded after the coding process of the picture, it may be advantageously stored in the same format as the motion information used for the prediction of the target block.
  • the motion information used for the prediction may include uni-prediction or bi-prediction motion information, a reference picture index, and a motion vector.
  • the modified motion information may be calculated to have the same format as the motion information used for the prediction.
  • Pair prediction may be performed when there is only one reference picture of the target picture, that is, when the value of the picture order count (POC) of the target picture is 1.
  • the prediction performance may be higher when the encoding apparatus performs the double prediction than when performing the single prediction. Therefore, when the target picture is capable of pair prediction, in order to improve the overall coding efficiency of the image by propagating accurate motion information, the coding apparatus converts the modified motion information of the target block into the pair prediction motion information through the above-described method. Can be calculated and updated However, even when the target picture is capable of performing pair prediction, that is, even if the POC value of the target picture is not 1, an occlusion may occur and thus the pair prediction may not be performed.
  • the hidden region is a sum of absolute values of difference values between sample values of the prediction block derived by motion compensation based on the modified motion information and sample values of the reconstructed block (or original block) of the target block. If greater than the threshold value can be determined to occur. For example, when the modified motion information of the target block is bi-predictive motion information, sample values of a specific reference block derived based on the L0 motion vector included in the modified motion information and restoration of the target block. If the sum of the absolute values of the difference values with the sample values of the block (or the original block) is greater than a specific threshold value, the prediction for L0 may be determined to have occurred an area that is hidden.
  • the coding apparatus may derive the modified motion information as short-predicted motion information except for the prediction about the list in which the covered region is generated.
  • the method of updating the motion information of the target block using the motion information of the neighboring blocks of the target block may be performed.
  • a method of not updating the motion information of the target block based on the modified motion information may be applied.
  • a method of not updating the motion information of the target block based on the modified motion information may be more appropriate.
  • the L0 reference picture index and the L1 reference picture index of the modified motion information may indicate one reference picture of each reference picture list (L0 or L1).
  • the reference picture indicated by the reference picture index of the modified motion information may be referred to as a specific reference picture.
  • a method of selecting one reference picture among the plurality of reference pictures of each reference picture list may be as described below.
  • the encoding apparatus may select the most recently encoded reference picture among the reference pictures included in the reference picture list. That is, the encoding apparatus may generate a reference picture index included in the modified motion information indicating the most recently encoded reference picture among the reference pictures included in the reference picture list.
  • the encoding apparatus may select a reference picture having a POC closest to the picture order count (POC) of the current picture in the reference picture list. That is, the encoding apparatus includes a reference included in the modified motion information indicating a reference picture having a POC having the smallest absolute value of the difference from the POC of the target picture including the target block among the reference pictures included in the reference picture list.
  • the picture index may be generated.
  • the encoding apparatus may select a reference picture belonging to a lower layer in the hierarchical structure from the reference picture list.
  • the reference picture belonging to the lower layer may be an I-slice or may be a reference picture encoded by applying a low quantization parameter (QP).
  • QP low quantization parameter
  • the encoding apparatus may select a reference picture including a reference block having the highest reliability of motion compensation from the reference picture list. That is, the encoding apparatus may derive a specific reference block of the reconstructed block (or original block) of the target block among the reference blocks located in the reference pictures included in the reference picture list, and includes the derived specific reference block.
  • a reference picture index included in the modified motion information indicating a reference picture may be generated.
  • the above-described methods for generating the reference picture index of the modified motion information may be applied independently, or it may be possible to apply the methods in combination.
  • the motion vector included in the modified motion information may be derived through at least one of methods such as the OF method, the block matching method, and the feature point matching method as described above, and the motion vector is at least the minimum block unit. It may be necessary to have a motion vector.
  • the target picture may perform pair prediction, and a picture having a POC value of 2 and a picture having a POC value of 4 are the target picture.
  • L0 of the target picture may be composed of a reference picture having a POC value of 2 and a reference picture having a POC value of 0, and values of corresponding L0 reference picture indices may be 0 and 1, respectively.
  • L1 of the target picture may be composed of a reference picture having a POC value of 4 and a reference picture having a POC value of 8, and values of corresponding L1 reference picture indices may be 0 and 1, respectively.
  • the encoding apparatus may select a particular reference picture of the modified motion information of the target picture as a reference picture having a POC having the smallest absolute value of the difference from the POC of the target picture among the reference pictures of each reference picture list. .
  • the encoding apparatus may derive the motion vector of the modified motion information in units of blocks of 4x4 size in the target picture.
  • the above-described OF method may be applied to the method of deriving the motion vector, and the motion vector derived based on the reference picture having the POC value of 2 may be stored as L0 motion information included in the modified motion information.
  • the motion vector derived based on the reference picture having the POC value of 4 may be stored as L1 motion information included in the modified motion information.
  • the target picture when a picture having a POC value of 8 is a target picture, the target picture may perform mono prediction, and a picture having a POC value of 0 may be derived as a reference picture of the target picture.
  • L0 of the target picture may be configured of a reference picture having a POC value of 0, and a value of an L0 reference picture index corresponding to the reference picture may be 0.
  • the encoding apparatus may select a specific reference picture of the modified motion information of the target picture as a reference picture having a POC having the smallest absolute value of the difference from the POC of the target picture among the reference pictures included in the L0. .
  • the encoding apparatus may derive a motion vector of the modified motion information in units of blocks of size 4x4 in the current picture.
  • the above-described block matching method may be applied to the method for deriving the motion vector, and the motion vector derived based on the reference picture having the value of the POC 0 may be stored as L0 motion information included in the modified motion information. have.
  • the reference picture index of the modified motion information of the target block is a reference picture having a POC having the smallest absolute value of the difference from the POC of the target picture among the reference pictures included in the reference picture list.
  • the motion vector of the modified motion information may be calculated in units of 4 ⁇ 4 blocks.
  • the encoding apparatus selects one motion information format from bi-predicted motion information and short-predicted motion information. Can be determined in units of blocks.
  • the reference picture index of the modified motion information is included in the hierarchical structure other than the reference picture having the smallest absolute value of the difference from the POC of the current picture among the reference pictures included in the reference picture list.
  • the reference picture selected may be generated to point to the selected reference picture.
  • the L0 reference picture index of the modified motion information of the target picture may refer to a picture having a POC value of 0 rather than a picture having a POC value of 4.
  • the most recently encoded reference picture at the time after performing the encoding process of the target picture may refer to a reference picture having a POC having the smallest absolute value of a difference from the POC of the target picture.
  • the most recently encoded reference picture is a reference picture having a POC value of 2, and a picture having a POC having a smallest absolute difference from the POC of the target picture.
  • the POC may refer to another reference picture as a reference picture having a value of 4.
  • inter prediction of the next block around the target block may be performed using the corrected motion information (the target block may include the first block). May be called one block, and the next block may be called a second block).
  • a method of indexing and transmitting the modified motion information and transmitting a motion vector of the next block of the motion vector of the target block and the next block may include a method of expressing the difference value with the motion vector.
  • the method of indexing and transmitting the modified motion information may be a method in which a merge mode among inter prediction modes is applied to the next block, wherein the motion vector of the next block is determined by the motion vector of the target block and the next block.
  • the method of expressing the difference value with the motion vector may be a method in which an AMVP mode among inter prediction modes is applied to the neighboring block.
  • the coding apparatus may construct the merge candidate list of the next block including the target blocks.
  • the encoding apparatus may transmit a merge index indicating a block most similar to the motion information of the next block among the blocks included in the merge candidate list.
  • the updated motion information of the target blocks may be used as motion information of a spatial neighbor candidate block of the next block, or may be used as motion information of a temporal neighbor candidate block.
  • the motion information of the target blocks may include the modified motion information of the target blocks. As shown in FIG.
  • the motion information of the spatial neighbor candidate block may be represented as motion information of one of stored motion information of blocks around the next block at positions A1, B1, B0, A0, and B2.
  • the motion information of the encoded target blocks before encoding of the next block may be updated, and the updated motion information may affect the encoding process of the next block.
  • motion information including an error propagates in the next block through the merge mode, the error may be accumulated and propagated, but the propagation error may be reduced by updating the motion information for each block through the aforementioned methods.
  • FIG. 9 illustrates an example of a merge candidate list of a next block around the target blocks when the motion information of the target blocks is updated with the modified motion information of the target blocks.
  • the (first) motion information and the modified motion information used for the prediction of the target block around the next block may be stored.
  • the coding apparatus may configure the target block representing the modified motion information of the target block newly calculated in the merge candidate list of the next block as a separate merge candidate block.
  • the target block indicating the modified motion information of the target block is inserted into the merge candidate list after the target block representing the (first) motion information applied in the encoding process of the target block around the next block. You may.
  • the priority of the merge candidate list may be changed, and the position and number of insertion may be different.
  • FIG. 9 exemplarily illustrates A1 and B1 as target blocks from which the modified motion information is derived, this is an example, and modified motion information is derived for the remaining A0, B0, B2, T0, and T1.
  • the merge candidate list may be constructed based on this.
  • the next block may be located in a picture different from the target block, and a temporal neighboring candidate block of the next block may be included in the merge candidate list.
  • the motion information of the temporal neighboring candidate block may be selected through the merge index of the next block.
  • the motion information of the temporal neighbor candidate block may also be updated with the modified motion information through the above-described method, and the temporal neighbor candidate block representing the updated motion information may be inserted into the merge candidate list of the next block. have.
  • the (first) motion information of the temporal neighboring candidate block and the modified motion information may be stored separately. In this case, the modified motion in the process of generating the merge candidate list of the next block.
  • the temporal neighboring candidate block representing the information may be inserted as an additional candidate of the merge candidate list.
  • an AMVP mode may be applied to the next block.
  • the coding apparatus may generate a motion vector predictor candidate list based on the motion information of neighboring blocks of the next block like the merge mode.
  • the encoding apparatus may select the motion information according to a specific condition among the motion information included in the motion vector predictor candidate list, the index indicating the selected motion information, the motion vector of the selected motion information, and the motion of the next block.
  • a motion vector difference (MVD) with a motion vector of information may be transmitted.
  • a list including motion information of the neighboring blocks in the AMVP mode is generated, such as a method of inserting a block representing updated motion information around the next block into a merge candidate list as a spatial or temporal merge candidate block.
  • a method of inserting updated motion information of the neighboring block as a candidate for spatial or temporal motion vector predictor may be applied.
  • the coding apparatus may detect whether the updated motion information of the target block A0 and the target block A1 around the next block meets a specific condition defined in advance in the direction of the arrow, and is detected first.
  • the updated motion information corresponding to a specific condition may be derived as MVP A included in the motion predictor candidate list.
  • the coding apparatus may detect whether updated motion information of the target block B0, the target block B1, and the target block B2 around the next block meets a predetermined predetermined condition in an arrow direction, and the first detected
  • the updated motion information meeting the specific condition may be derived as MVP B included in the motion predictor candidate list.
  • the next block may be located in a picture different from the target block, and the temporal MVP candidate of the next block may be included in the motion vector predictor candidate list.
  • the coding apparatus may detect whether a predetermined condition is met in order from updated motion information of the target block T0 located in the reference picture of the next block to updated motion information of the target block T1.
  • the updated motion information meeting the specific condition detected first may be derived as the MVP Col included in the motion predictor candidate list.
  • the MVP A, the MVP B, and / or the MVP Col are updated motion information replaced with modified motion information
  • the updated motion information may be used as a motion vector predictor candidate of the next block.
  • the coding apparatus may derive a zero vector as MVP zero and include the motion vector predictor candidate list in the motion vector predictor candidate list.
  • FIG. 11 illustrates an example of a motion vector predictor candidate list of a next block around the target block when the motion information of the target block is updated based on the modified motion information of the target block.
  • the coding apparatus may perform arrow direction order of the existing motion information of the target block A0 and the target block A1 around the next block. It is possible to detect whether a specific condition is met, and the existing motion information meeting the specific condition detected first may be derived as MVP A included in the motion predictor candidate list.
  • the coding apparatus may detect whether the modified motion information of the target block A0 and the target block A1 meets a specific condition in the direction of the arrow, and the modified motion information corresponding to the detected specific condition is first detected.
  • the updated MVP A included in the motion predictor candidate list may be derived.
  • the coding apparatus may detect whether existing motion information of the target block B0, the target block B1, and the target block B2 around the next block meets a specific condition in the direction of the arrow, and meets the specific condition detected first.
  • the existing motion information may be derived as MVP B included in the motion predictor candidate list.
  • the coding apparatus may detect whether the modified motion information of the target block B0, the target block B1, and the target block B2 meets a specific condition in the direction of the arrow, and meets the specific condition detected first.
  • the updated motion information may be derived as the updated MVP B included in the motion predictor candidate list.
  • the coding apparatus may detect whether a specific condition is met in the order of the existing motion information of the target block T0 located in the reference picture of the next block from the existing motion information of the target block T1, and the first detected specific Existing motion information meeting the condition may be derived as MVP Col included in the motion predictor candidate list.
  • the coding apparatus may detect whether a specific condition is met in order from the modified motion information of the target block T0 located in the reference picture of the next block to the modified motion information of the target block T1, and the first detected
  • the modified motion information corresponding to a specific condition may be derived as an updated MVP Col included in the motion predictor candidate list.
  • the coding apparatus may derive a zero vector as MVP zero and include the motion vector predictor candidate list in the motion vector predictor candidate list.
  • FIG. 12 schematically illustrates a video encoding method by an encoding device according to the present invention.
  • the method disclosed in FIG. 12 may be performed by the encoding apparatus disclosed in FIG. 1.
  • S1200 to S1230 of FIG. 12 may be performed by the prediction unit of the encoding apparatus
  • S1240 may be performed by the memory of the encoding apparatus.
  • the encoding apparatus generates motion information on the target block (S1200).
  • the encoding apparatus may apply inter prediction to the target block.
  • the encoding apparatus applies one of a skip mode, a merge mode, and an adaptive motion vector prediction (AMVP) mode to generate motion information on the target block.
  • the motion information may be referred to as first motion information.
  • the encoding apparatus may generate the motion information of the target block based on the motion information of the neighboring block of the target block.
  • the motion information may include a motion vector and a reference picture index.
  • the motion information may be bi-prediction motion information or uni-prediction motion information.
  • the bi-predictive motion information may include an L0 reference picture index and an L0 motion vector, an L1 reference picture index, and an L1 motion vector
  • the short-predicted motion information may include an L0 reference picture index and an L0 motion vector, or It may include an L1 reference picture index and an L1 motion vector.
  • L0 represents a reference picture list L0 (List 0)
  • L1 represents a reference picture list L1 (List 1).
  • the encoding apparatus may derive the motion vector of the target block by using the motion vector of the neighboring block of the target block as a motion vector predictor (MVP) of the target block.
  • the motion information including a vector and a reference picture index of the motion vector may be generated.
  • the encoding apparatus derives a prediction sample by performing inter prediction on the target block based on the motion information (S1210).
  • the encoding apparatus may generate a predictive sample of the target block based on the reference picture index and the motion vector included in the motion information.
  • the encoding apparatus generates a reconstruction block based on the prediction sample (S1220).
  • the encoding apparatus may generate a reconstructed block of the target block based on the prediction sample, or generate a residual signal of the target block and generate a reconstructed block of the target block based on the residual signal and the predictive sample. Can be generated.
  • the encoding apparatus generates modified motion information on the target block based on the reconstructed block (S1230).
  • the encoding apparatus may calculate a modified reference picture index indicating a specific reference picture for the modified motion information of the target block and a modified motion vector for the specific reference picture through various methods.
  • the modified motion information may be referred to as second motion information.
  • the method may include at least one of direct methods such as an optical flow method, a block-matching method, a frequency domain method, and an indirect method such as a feature point matching method and a method using statistical characteristics. One method may be applied. In addition, the direct method and the indirect method may be applied at the same time.
  • the encoding apparatus may generate the modified motion information through the block matching method.
  • the encoding apparatus accumulates the difference values between the samples according to the phase of the reconstructed block and the reference block of the target block, measures the degree of distortion, and uses this as a cost function to reference a specific reference of the reconstructed block. Blocks can be detected.
  • the encoding apparatus may generate the modified motion information based on the detected specific reference block.
  • the encoding apparatus may generate the modified motion information including a modified reference picture index pointing to the specific reference picture and a modified motion vector pointing to the specific reference block in the specific reference picture.
  • the encoding apparatus identifies the reference block among the reference blocks in the specific reference picture, the reference block having a minimum sum of absolute values (or squared values) of differences between samples according to a phase with a reconstructed block of the target block. It may be detected as a reference block, and the modified motion information may be derived based on the specific reference block.
  • a sum of absolute differences (SAD) may be used as a method of representing the sum of absolute values of the difference values. In this case, the sum of absolute values of the difference values may be calculated by applying Equation 1 described above.
  • a mean squared error (MSE) may be used as a method of representing the sum of square values of the difference values. In this case, the sum of the square values of the difference values may be calculated by applying Equation 2 described above.
  • the specific reference picture for the modified motion information may be derived as a reference picture indicated by a reference picture index included in the (first) motion information, and a search region for detecting the specific reference block may be the (
  • the reference block may be limited to reference blocks located in a predetermined region from a reference block derived in the reference picture based on a motion vector associated with the reference picture included in the motion information. That is, the encoding apparatus may determine an SAD with the reconstructed block among the reference blocks located in a predetermined area from the reference block derived in the reference picture based on the motion vector associated with the reference picture included in the (first) motion information.
  • a reference block having a minimum of may be derived as the specific reference block.
  • the reconstruction block is divided into a plurality of sub reconstruction blocks, and each sub reconstruction block is identified within the specific reference picture for the modified motion information.
  • the sub reference block can be derived.
  • the encoding apparatus may derive the specific reference block based on the derived specific sub-reference blocks.
  • the encoding apparatus may generate the modified motion information through the OF method.
  • the encoding apparatus obtains a motion vector for the modified motion information of the target block based on the assumption that the speed of the object included in the target block in the image is constant and the sample values of the samples representing the object do not change.
  • Can be calculated The motion vector may be calculated through Equation 6 described above.
  • An area of samples representing an object included in the target block may be set to an area of 3x3 size.
  • the encoding apparatus may calculate the modified motion information to have the same format as the (first) motion information. That is, the encoding apparatus may calculate the modified motion information to have the same format as the motion information among bi-prediction motion information and uni-prediction motion information.
  • the bi-predictive motion information may include an L0 reference picture index and an L0 motion vector, an L1 reference picture index, and an L1 motion vector
  • the short-predicted motion information may include an L0 reference picture index and an L0 motion vector, or It may include an L1 reference picture index and an L1 motion vector.
  • L0 represents a reference picture list L0 (List 0)
  • L1 represents a reference picture list L1 (List 1).
  • the encoding apparatus may calculate the modified motion information as the pair prediction motion information through the above-described method.
  • the corrected motion information is calculated as the bi-predicted motion information
  • the encoding apparatus determines the corrected motion information. May be derived as unipredicted motion information excluding motion information for a reference picture list of a specific reference picture including the specific reference block in which the masked area is generated.
  • Whether the masked area is generated may be determined to occur when a difference between samples according to a phase between a reference block derived based on the modified motion information and a reconstructed block of the target block is greater than a specific threshold.
  • the threshold may be preset.
  • the encoding apparatus calculates the modified motion information as bi-predictive motion information, and restores the specific reference block and the target block derived based on the L0 motion vector and the L0 reference picture index of the modified motion information.
  • the encoding apparatus may derive the modified motion information as short-predicted motion information including an L1 motion vector and an L1 reference picture index.
  • the encoding apparatus calculates the modified motion information as bi-predictive motion information, and restores the specific reference block and the target block derived based on the L1 motion vector and the L1 reference picture index of the modified motion information.
  • the encoding apparatus may derive the modified motion information as short predictive motion information including an L0 motion vector and an L0 reference picture index.
  • a difference value between samples according to a phase between a specific reference block derived based on the L0 motion vector and the L0 reference picture index and the reconstructed block of the target block is greater than the preset threshold
  • the L1 motion If a difference value between samples according to a phase between a specific reference block derived based on a vector and the L1 reference picture index and a reconstructed block of the target block is greater than the preset threshold, the encoding apparatus is configured to determine the periphery of the target block.
  • the motion information of the block may be derived as the modified motion information, or the modified motion information may not be calculated.
  • the encoding apparatus may select a specific reference picture indicated by the modified reference picture index included in the modified motion information through various methods.
  • the encoding apparatus may select a most recently encoded reference picture among the reference pictures included in the reference picture list L0 and generate a modified L0 reference picture index indicating the reference picture.
  • the encoding apparatus may select a most recently encoded reference picture among the reference pictures included in the reference picture list L1 and generate a modified L1 reference picture index indicating the reference picture.
  • the encoding apparatus selects a reference picture having a POC having the smallest absolute value of a difference from a picture order count (POC) of the target picture among reference pictures included in the L0 reference picture list, and indicates the reference picture.
  • the modified L0 reference picture index may be generated.
  • the encoding apparatus selects a reference picture having a POC having the smallest absolute value of a difference from a picture order count (POC) of the target picture among the reference pictures included in the L1 reference picture list, and points to the reference picture.
  • the generated L1 reference picture index may be generated.
  • the encoding apparatus may select a reference picture belonging to a lower layer in the hierarchical structure among the reference pictures included in the respective reference picture lists, and generate a modified reference picture index indicating the reference picture.
  • the reference picture belonging to the lower layer may be an I-slice or may be a reference picture encoded by applying a low QP (quantization parameter).
  • the encoding apparatus may select a reference picture including a reference block having the highest reliability of motion compensation from the reference picture list, and generate a modified reference picture index indicating the reference picture.
  • the encoding apparatus derives a specific reference block of the reconstruction block of the target block based on the reference pictures included in the reference picture list, and indicates a modified reference picture indicating the specific reference picture including the derived specific reference block. You can create an index.
  • the above-described methods for generating the modified reference picture index of the modified motion information may be applied independently, or it may be possible to apply the methods in combination.
  • the encoding apparatus may generate modified motion information of the target block based on the original block of the target block.
  • the encoding apparatus may derive a specific reference block of the original block among the reference blocks included in the reference pictures, and generate the modified motion information indicating the derived specific reference block.
  • the encoding apparatus updates the motion information of the target block based on the modified motion information (S1240).
  • the encoding apparatus may store the modified motion information and update the motion information of the target block.
  • the encoding apparatus may update the motion information of the target block by replacing the motion information used for the prediction of the target block with the modified motion information.
  • the encoding apparatus may store both the motion information and the modified motion information used for the prediction of the target block to update the motion information of the target block.
  • the updated motion information may be used for motion information of the next block around the target block. For example, when a merge mode is applied to a next block around the target block, the merge candidate list of the next block may include the target block, and the updated motion information of the target block may include the modified motion. May contain information.
  • the merge candidate list of the next block may include a target block indicating the modified motion information.
  • the merge candidate list of the next block indicates the motion information used for the prediction of the target block.
  • a target block indicating the target block and the modified motion information may be included.
  • the target block indicating the modified motion information may be inserted as a spatial neighbor candidate block in the merge candidate list or as a temporal neighbor candidate block in the merge candidate list.
  • a method of inserting updated motion information of the target block around the next block as spatial or temporal motion information in a merge candidate list in the merge mode described above As described above, a method of inserting updated motion information of the neighboring block as a spatial or temporal motion vector predictor candidate in the motion vector predictor candidate list of the next block may be applied. That is, the encoding apparatus may generate the motion vector predictor candidate list including updated motion information of the target block around the next block.
  • the motion vector predictor candidate list includes the modified motion information as the spatial motion vector predictor candidate. can do.
  • the motion vector predictor candidate list may include the target blocks around the next block.
  • the motion vector predictor candidate list of the next block includes updated motion information of a collocated block at the same position as the position of the next block in the reference picture of the next block and neighboring blocks of the same block.
  • the updated motion information of may be included as a temporal motion vector predictor candidate.
  • the motion vector predictor candidate The list may include the modified motion information as the temporal motion vector predictor candidate.
  • the motion vector predictor candidate list May include the existing motion information selected according to a specific condition among the existing motion information and the modified motion information selected according to a specific condition among the modified motion information as separate temporal motion vector predictor candidates.
  • the stored motion information and the motion information for transmission may have different resolutions.
  • an encoding apparatus encodes and transmits information on the motion information and stores the modified motion information for motion information of a neighboring block of the target block.
  • the unit of the motion vector included in the motion information may represent a quarter fractional sample unit
  • the unit of the motion vector included in the modified motion information may represent a 1/8 fractional sample unit or 1/16 fractional sample unit. Can be.
  • the encoding apparatus performs a comparison process between the (first) motion information and the modified motion information based on the reconstructed block of the target block, thereby performing the (first) motion information of the target block. It can be determined whether or not.
  • the encoding apparatus may include a data amount of a residual signal of a specific reference block derived based on the modified motion information and a reconstruction block of the target block, and a reference block derived based on the motion information. It is possible to determine whether to update the target block by comparing the data amount of the residual signal with the restored block. If the data amount of the residual signal between the specific reference block and the reconstruction block among the data amounts is smaller, the encoding apparatus may determine that the motion information of the target block is updated. In addition, when the data amount of the residual signal between the specific reference block and the reconstruction block among the data amounts is not smaller, the encoding apparatus may determine that the motion information of the target block is not updated.
  • the encoding apparatus may determine whether to update the (first) motion information of the target block by performing a comparison process between the motion information and the modified motion information based on the original block of the target block.
  • the encoding apparatus may include a data amount of a residual signal of a specific reference block derived based on the modified motion information and an original block of the target block, and a reference block derived based on the motion information. It is possible to determine whether to update the target block by comparing the data amount of the residual signal with the original block. If the data amount of the residual signal between the specific reference block and the original block among the data amounts is smaller, the encoding apparatus may determine that the motion information of the target block is updated. In addition, when the data amount of the residual signal between the specific reference block and the original block among the data amounts is not smaller, the encoding apparatus may determine that the motion information of the target block is not updated.
  • the encoding apparatus may generate additional information indicating whether the update is performed, and may encode and output the additional information through the bitstream.
  • the additional information indicating whether the update is performed may be called an update flag.
  • the update flag When the value of the update flag is 1, it may indicate that the motion information is updated. When the value of the update flag is 0, it may indicate that the motion information is not updated.
  • the update flag may be transmitted in units of PUs.
  • the update flag may be transmitted in units of a CU, a CTU, and a slice, or may be transmitted through a higher level such as a picture parameter set (PPS) unit or a sequence parameter set (SPS) unit.
  • PPS picture parameter set
  • SPS sequence parameter set
  • the encoding apparatus may further generate, encode, and output motion vector update difference information indicating a difference between the existing motion vector and the modified motion vector.
  • the motion vector update difference information may be transmitted in units of the PUs.
  • the encoding apparatus may encode and output information about the residual sample for the target block.
  • the information about the residual sample may include transform coefficients regarding the residual sample.
  • FIG. 13 schematically illustrates a video decoding method by a decoding apparatus according to the present invention.
  • the method disclosed in FIG. 13 may be performed by the decoding apparatus disclosed in FIG. 2.
  • S1300 of FIG. 13 may be performed by the entropy decoding unit of the decoding apparatus
  • S1310 to S1340 may be performed by the prediction unit of the decoding apparatus
  • S1350 may be stored in the memory of the decoding apparatus. It can be performed by.
  • the decoding apparatus obtains information on inter prediction of the target block through the bitstream (S1300). Inter prediction or intra prediction may be applied to the target block. When inter prediction is applied to the target block, the decoding apparatus may obtain information about inter prediction of the target block through the bitstream. In addition, the decoding apparatus may obtain motion vector update difference information indicating a difference between the existing motion vector and the modified motion vector of the target block through the bitstream. Also, the decoding apparatus may obtain additional information indicating whether the target block is updated through the bitstream. For example, the additional information indicating whether the update is performed may be called an update flag.
  • the decoding apparatus derives motion information of the target block based on the information on the inter prediction (S1310).
  • the motion information may be referred to as first motion information.
  • the information on the inter prediction may indicate whether any one of a skip mode, a merge mode, and an adaptive motion vector prediction (AMVP) mode is applied to the target block.
  • AMVP adaptive motion vector prediction
  • the decoding apparatus may generate a merge candidate list including neighboring blocks of the target block, and the neighboring block of one of the neighboring blocks included in the merge candidate list.
  • a merge index that indicates may be obtained.
  • the merge index may be included in the information about the inter prediction.
  • the decoding apparatus may derive the motion information of the neighboring block indicated by the merge index as the motion information of the target block.
  • the decoding apparatus may generate a list based on neighboring blocks of the target block like the merge mode.
  • the decoding apparatus determines an index indicating a neighboring block of one of neighboring blocks included in the generated list, and a motion vector difference (MVD) between a motion vector of the neighboring block indicated by the index and a motion vector of the target block. Can be obtained.
  • the index and the MVD may be included in the information about the inter prediction.
  • the decoding apparatus may derive the motion information of the target block based on the motion vector of the neighboring block indicated by the index and the MVD.
  • the motion information may include a motion vector and a reference picture index.
  • the motion information may be bi-prediction motion information or uni-prediction motion information.
  • the bi-predictive motion information may include an L0 reference picture index and an L0 motion vector, an L1 reference picture index, and an L1 motion vector
  • the short-predicted motion information may include an L0 reference picture index and an L0 motion vector, or It may include an L1 reference picture index and an L1 motion vector.
  • L0 represents a reference picture list L0 (List 0)
  • L1 represents a reference picture list L1 (List 1).
  • the decoding apparatus derives a prediction sample by performing inter prediction on the target block based on the motion information (S1320).
  • the decoding apparatus may generate a predictive sample of the target block based on the reference picture index and the motion vector included in the motion information.
  • the decoding apparatus generates a reconstruction block based on the prediction sample (S1330).
  • the decoding apparatus may generate a reconstruction block of the target block based on the prediction sample.
  • the decoding apparatus may obtain a residual signal of the target block through the bitstream, and restore the target block based on the residual signal and the prediction sample. You can create a block.
  • the decoding apparatus derives the modified motion information on the target block based on the reconstructed block (S1340).
  • the decoding apparatus may calculate a modified reference picture index indicating a specific reference picture for the modified motion information of the target block and the modified motion vector for the specific reference picture through various methods.
  • the modified motion information may be referred to as second motion information.
  • the method may include at least one of direct methods such as an optical flow method, a block-matching method, a frequency domain method, and an indirect method such as a feature point matching method and a method using statistical characteristics. One method may be applied. In addition, the direct method and the indirect method may be applied at the same time.
  • the decoding apparatus may derive the modified motion information through the block matching method.
  • the decoding apparatus accumulates the difference values between the samples according to the phase of the reconstructed block and the reference block of the target block, measures the degree of distortion, and uses this as a cost function to refer to a specific reference of the reconstructed block. Blocks can be detected.
  • the decoding apparatus may derive the modified motion information based on the detected specific reference block.
  • the decoding apparatus may derive the modified motion information including a modified reference picture index pointing to the specific reference picture and a modified motion vector pointing to the specific reference block in the specific reference picture.
  • the decoding apparatus identifies the reference block among the reference blocks in the specific reference picture, the reference block having a minimum sum of absolute values (or squared values) of differences between samples according to a phase with a reconstructed block of the target block. It may be detected as a reference block, and the modified motion information may be derived based on the specific reference block.
  • a sum of absolute differences (SAD) may be used as a method of representing the sum of absolute values of the difference values. In this case, the sum of absolute values of the difference values may be calculated by applying Equation 1 described above.
  • a mean squared error (MSE) may be used as a method of representing the sum of square values of the difference values. In this case, the sum of the square values of the difference values may be calculated by applying Equation 2 described above.
  • the specific reference picture for the modified motion information may be derived as a reference picture indicated by a reference picture index included in the (first) motion information, and a search region for detecting the specific reference block may be the (
  • the reference block may be limited to reference blocks located in a predetermined region from a reference block derived in the specific reference picture based on a motion vector associated with the reference picture included in the motion information. That is, the decoding apparatus may have a minimum SAD with the reconstructed block among the reference blocks located in a predetermined region from the reference block derived in the specific reference picture based on the motion vector associated with the reference picture included in the motion information.
  • a reference block can be derived to the specific reference block.
  • the reconstruction block is divided into a plurality of sub reconstruction blocks, and each sub reconstruction block is identified within the specific reference picture for the modified motion information.
  • the sub reference block can be derived.
  • the decoding apparatus may derive the specific reference block based on the derived specific sub reference blocks.
  • the decoding apparatus may derive the modified motion information through the OF method.
  • the decoding apparatus corrects the motion of the modified motion information of the target block based on the assumption that the speed of the object included in the target block in the image is constant and the sample values of the samples representing the object do not change.
  • the motion vector may be calculated through Equation 6 described above.
  • An area of samples representing an object included in the target block may be set to an area of 3x3 size.
  • the decoding apparatus may calculate the modified motion information to have the same format as the (first) motion information. That is, the decoding apparatus may calculate the modified motion information to have the same format as the motion information among bi-prediction motion information and uni-prediction motion information.
  • the bi-predictive motion information may include an L0 reference picture index and an L0 motion vector, an L1 reference picture index, and an L1 motion vector
  • the short-predicted motion information may include an L0 reference picture index and an L0 motion vector, or It may include an L1 reference picture index and an L1 motion vector.
  • L0 represents a reference picture list L0 (List 0)
  • L1 represents a reference picture list L1 (List 1).
  • the decoding apparatus may calculate the modified motion information as the pair prediction motion information through the above-described method.
  • the decoding apparatus may determine the corrected motion information. It may be derived as unipredicted motion information excluding motion information for a reference picture list of a specific reference picture including the specific reference block in which the masked area is generated.
  • the occurrence of the masked area occurs when a difference between samples according to a phase between a specific reference block derived based on the modified motion information and a reconstruction block of the target block is greater than a specific threshold value.
  • the threshold may be preset.
  • the decoding apparatus calculates the modified motion information as bi-predictive motion information, and determines the specific reference block and the target block derived based on the L0 motion vector and the L0 reference picture index of the modified motion information.
  • the decoding apparatus may derive the modified motion information as short predictive motion information including an L1 motion vector and an L1 reference picture index. have.
  • the decoding apparatus calculates the modified motion information as bi-predictive motion information, and restores the specific reference block and the target block derived based on the L1 motion vector and the L1 reference picture index of the modified motion information.
  • the decoding apparatus may derive the modified motion information as short-predicted motion information including an L0 motion vector and an L0 reference picture index.
  • a difference value between samples according to a phase between a specific reference block derived based on the L0 motion vector and the L0 reference picture index and the reconstructed block of the target block is greater than the preset threshold, and the L1 motion If a difference value between samples according to a phase between a specific reference block derived based on a vector and the L1 reference picture index and the reconstructed block of the target block is greater than the predetermined threshold value, the decoding apparatus may determine the target block.
  • the motion information of the neighboring block may be derived as the modified motion information, or the modified motion information may not be calculated.
  • the decoding apparatus may select a specific reference picture indicated by the modified reference picture index included in the modified motion information through various methods.
  • the decoding apparatus may select a most recently decoded reference picture among the reference pictures included in the reference picture list L0 and derive a modified L0 reference picture index indicating the reference picture.
  • the decoding apparatus may select the most recently decoded reference picture among the reference pictures included in the reference picture list L1 and derive a modified L1 reference picture index indicating the reference picture.
  • the decoding apparatus selects a reference picture having a POC having the smallest absolute value of a difference from a picture order count (POC) of the target picture among reference pictures included in the L0 reference picture list, and indicates the reference picture.
  • the modified L0 reference picture index may be derived.
  • the decoding apparatus selects a reference picture having a POC having the smallest absolute value of a difference from a picture order count (POC) of the target picture among reference pictures included in the L1 reference picture list, and indicates a reference picture.
  • the L1 reference picture index may be derived.
  • the decoding apparatus may select a reference picture belonging to a lower layer in the hierarchical structure among the reference pictures included in the respective reference picture lists, and derive a modified reference picture index indicating the reference picture.
  • the reference picture belonging to the lower layer may be an I-slice or may be a reference picture decoded by applying a low quantization parameter (QP).
  • QP low quantization parameter
  • the decoding apparatus may select a reference picture including a reference block having the highest reliability of motion compensation from the reference picture list, and derive a modified reference picture index indicating the reference picture.
  • the decoding apparatus derives a specific reference block of the reconstruction block of the target block based on the reference pictures included in the reference picture list, and indicates a modified reference picture indicating the specific reference picture including the derived specific reference block. Index can be derived.
  • the above-described methods for generating the modified reference picture index of the modified motion information may be applied independently, or it may be possible to apply the methods in combination.
  • the decoding apparatus may obtain motion vector update difference information indicating a difference between the existing motion vector and the modified motion vector of the target block through the bitstream.
  • the decoding apparatus may derive the modified motion information by adding the (first) motion information and the motion vector update difference information of the target block.
  • the motion vector update difference information may be transmitted in units of the PUs.
  • the decoding apparatus updates the motion information of the target block based on the modified motion information (S1350).
  • the decoding apparatus may store the modified motion information and update the motion information of the target block.
  • the decoding apparatus may update the motion information of the target block by replacing the motion information used for the prediction of the target block with the modified motion information.
  • the decoding apparatus may store both the motion information and the modified motion information used for the prediction of the target block to update the motion information of the target block.
  • the updated motion information may be used for motion information of the next block around the target block.
  • the merge candidate list of the next block may include the target block, and the updated motion information of the target block may include the modified motion. May contain information.
  • the merge candidate list of the next block may include a target block indicating the modified motion information.
  • the merge candidate list of the next block indicates the motion information used for the prediction of the target block.
  • a target block indicating the target block and the modified motion information may be included.
  • the target block indicating the modified motion information may be inserted as a spatial neighbor candidate block in the merge candidate list or as a temporal neighbor candidate block in the merge candidate list.
  • a method of inserting updated motion information of the target block around the next block as spatial or temporal motion information in a merge candidate list in the merge mode described above As described above, a method of inserting updated motion information of the neighboring block as a spatial or temporal motion vector predictor candidate in the motion vector predictor candidate list of the next block may be applied. That is, the decoding apparatus may generate the motion vector predictor candidate list including updated motion information of the target block around the next block.
  • the motion vector predictor candidate list includes the modified motion information as the spatial motion vector predictor candidate. can do.
  • the motion vector predictor candidate list may include the target blocks around the next block.
  • the motion vector predictor candidate list of the next block includes updated motion information of a collocated block at the same position as the position of the next block in the reference picture of the next block and neighboring blocks of the same block.
  • the updated motion information of may be included as a temporal motion vector predictor candidate.
  • the motion vector predictor candidate The list may include the modified motion information as the temporal motion vector predictor candidate.
  • the motion vector predictor candidate list May include the existing motion information selected according to a specific condition among the existing motion information and the modified motion information selected according to a specific condition among the modified motion information as separate temporal motion vector predictor candidates.
  • the stored motion information and the motion information for transmission may have different resolutions.
  • a decoding apparatus decodes and transmits information on the motion information, and stores the modified motion information for motion information of neighboring blocks of the target block.
  • the unit of the motion vector included in the motion information may represent a quarter fractional sample unit
  • the unit of the motion vector included in the modified motion information may represent a 1/8 fractional sample unit or 1/16 fractional sample unit. Can be.
  • the decoding apparatus performs a comparison process between the (first) motion information and the modified motion information based on the reconstructed block of the target block to perform the (first) motion information of the target block. It can be determined whether or not.
  • the decoding apparatus may further include a data amount of a residual signal of a specific reference block derived based on the modified motion information and a reconstruction block of the target block, and a reference block derived based on the motion information. It is possible to determine whether to update the target block by comparing the data amount of the residual signal with the restored block. When the data amount of the residual signal between the specific reference block and the reconstruction block among the data amounts is smaller, the decoding apparatus may determine that the motion information of the target block is updated. In addition, when the data amount of the residual signal between the specific reference block and the reconstruction block among the data amounts is not smaller, the decoding apparatus may determine that the motion information of the target block is not updated.
  • the decoding apparatus may obtain additional information indicating whether the target block is updated through the bitstream.
  • the additional information indicating whether the update is performed may be called an update flag.
  • the update flag When the value of the update flag is 1, it may indicate that the motion information is updated. When the value of the update flag is 0, it may indicate that the motion information is not updated.
  • the update flag may be transmitted in units of PUs.
  • the update flag may be transmitted in units of a CU, a CTU, and a slice, or may be transmitted through a higher level such as a picture parameter set (PPS) unit or a sequence parameter set (SPS) unit.
  • PPS picture parameter set
  • SPS sequence parameter set
  • the modified motion information of the target block can be calculated and updated to more accurate motion information, thereby improving the overall coding efficiency.
  • the motion information of the next block around the target block can be derived based on the updated motion information of the target block, thereby reducing the propagation of distortion, thereby improving the overall coding efficiency.
  • the above-described method according to the present invention may be implemented in software, and the encoding device and / or the decoding device according to the present invention may perform image processing of, for example, a TV, a computer, a smartphone, a set-top box, a display device, and the like. It can be included in the device.
  • the above-described method may be implemented as a module (process, function, etc.) for performing the above-described function.
  • the module may be stored in memory and executed by a processor.
  • the memory may be internal or external to the processor and may be coupled to the processor by various well known means.
  • the processor may include application-specific integrated circuits (ASICs), other chipsets, logic circuits, and / or data processing devices.
  • the memory may include read-only memory (ROM), random access memory (RAM), flash memory, memory card, storage medium and / or other storage device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 디코딩 장치에 의하여 수행되는 영상 디코딩 방법은 비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득하는 단계, 상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출하는 단계, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하는 단계, 상기 예측 샘플을 기반으로 복원 블록을 생성하는 단계, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된 움직임 정보를 도출하는 단계, 및 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신하는 단계를 포함함을 특징으로 한다. 본 발명에 따르면 상기 대상 블록의 수정된 움직임 정보를 계산하고 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.

Description

영상 코딩 시스템에서 영상 디코딩 방법 및 장치
본 발명은 영상 코딩 기술에 관한 것으로서 보다 상세하게는 영상 코딩 시스템에서 영상 디코딩 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 전송되는 정보량 또는 비트량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 영상 데이터를 저장하는 경우, 전송 비용과 저장 비용이 증가된다.
이에 따라, 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술이 요구된다.
본 발명의 기술적 과제는 영상 코딩 효율을 높이는 방법 및 장치를 제공함에 있다.
본 발명의 다른 기술적 과제는 대상 블록의 움직임 정보를 갱신하는 인터 예측 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 대상 블록의 디코딩 과정 이후에 대상 블록의 수정된 움직임 정보를 계산하고, 수정된 움직임 정보를 기반으로 갱신하는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 대상 블록의 갱신된 움직임 정보를 기반으로 대상 블록 주변의 다음 블록의 움직임 정보를 위하여 사용하는 방법 및 장치를 제공함에 있다.
본 발명의 일 실시예에 따르면, 디코딩 장치에 의하여 수행되는 영상 디코딩 방법이 제공된다. 상기 방법은 비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득하는 단계, 상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출하는 단계, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하는 단계, 상기 예측 샘플을 기반으로 복원 블록을 생성하는 단계, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 도출하는 단계, 및 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신(update)하는 단계를 포함함을 특징으로 한다.
본 발명의 다른 일 실시예에 따르면, 영상 디코딩을 수행하는 디코딩 장치가 제공된다. 상기 디코딩 장치는 비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득하는 엔트로피 디코딩부, 상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출하고, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하고, 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성하고, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 도출하는 예측부, 및 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신(update)하는 메모리를 포함하는 것을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 인코딩 장치에 의하여 수행되는 비디오 인코딩 방법을 제공한다. 상기 방법은 대상 블록에 대한 움직임 정보를 생성하는 단계, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하는 단계, 상기 예측 샘플을 기반으로 복원 블록을 생성하는 단계, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 생성하는 단계, 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신(update)하는 단계를 포함하는 것을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 비디오 인코딩 장치를 제공한다. 상기 인코딩 장치는 대상 블록에 대한 움직임 정보를 생성하고, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하고, 상기 예측 샘플을 기반으로 복원 블록을 생성하고, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 생성하는 예측부, 및 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신(update)하는 메모리를 포함하는 것을 특징으로 한다.
본 발명에 따르면 대상 블록의 디코딩 과정 이후에 상기 대상 블록의 수정된 움직임 정보를 계산하여 더욱 정확한 움직임 정보로 갱신할 수 있고, 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.
본 발명에 따르면 갱신된 대상 블록의 움직임 정보를 기반으로 상기 대상 블록 주변의 다음 블록의 움직임 정보를 도출할 수 있어 왜곡의 전파를 줄일 수 있고, 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.
도 1은 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 2는 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 3은 대상 블록에 대하여 적용되는 단예측(uni-prediction) 움직임 정보를 기반으로 인터 예측을 수행하는 경우와 쌍예측(bi-prediction) 움직임 정보를 기반으로 인터 예측을 수행하는 경우의 일 예를 예시적으로 나타낸다.
도 4는 대상 블록의 움직임 정보를 갱신하는 방법을 포함한 인코딩 과정의 일 예를 예시적으로 나타낸다.
도 5는 대상 블록의 움직임 정보를 갱신하는 방법을 포함한 디코딩 과정의 일 예를 예시적으로 나타낸다.
도 6은 디코딩 장치가 블록 매칭 방법을 통하여 상기 대상 블록의 움직임 정보를 갱신하는 방법의 일 예를 예시적으로 나타낸다.
도 7은 수정된 움직임 정보에 사용될 수 있는 참조 픽처들을 예시적으로 나타낸다.
도 8은 대상 블록들의 움직임 정보들이 대상 블록들의 수정된 움직임 정보들로 갱신된 경우에 상기 대상 블록들 주변의 다음 블록의 머지 후보 리스트의 일 예를 예시적으로 나타낸다.
도 9는 대상 블록들의 움직임 정보들이 대상 블록들의 수정된 움직임 정보들로 갱신된 경우에 상기 대상 블록들 주변의 다음 블록의 머지 후보 리스트의 일 예를 예시적으로 나타낸다.
도 10은 대상 블록의 움직임 정보가 대상 블록의 수정된 움직임 정보를 기반으로 갱신된 경우에 상기 대상 블록 주변의 다음 블록의 움직임 벡터 예측자 후보 리스트의 일 예를 예시적으로 나타낸다.
도 11은 대상 블록의 움직임 정보가 대상 블록의 수정된 움직임 정보를 기반으로 갱신된 경우에 상기 대상 블록 주변의 다음 블록의 움직임 벡터 예측자 후보 리스트의 일 예를 예시적으로 나타낸다.
도 12은 본 발명에 따른 인코딩 장치에 의한 비디오 인코딩 방법을 개략적으로 나타낸다.
도 13은 본 발명에 따른 디코딩 장치에 의한 비디오 디코딩 방법을 개략적으로 나타낸다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정 실시예에 한정하려고 하는 것이 아니다. 본 명세서에서 상용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서 "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 도는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성 요소에 대해서는 동일한 참조 부호를 사용하고 동일한 구성 요소에 대해서 중복된 설명은 생략한다.
본 명세서에서 픽처(picture)는 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미하며, 슬라이스(slice)는 코딩에 있어서 픽처의 일부를 구성하는 단위이다. 하나의 픽처는 복수의 슬라이스로 구성될 수 있으며, 필요에 따라서 픽처 및 슬라이스는 서로 혼용되어 사용될 수 있다.
픽셀(pixel) 또는 펠(pel)은 하나의 픽처(또는 영상)을 구성하는 최소의 단위를 의미할 수 있다. 또한, 픽셀에 대응하는 용어로서 '샘플(sample)'이 사용될 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 휘도(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 채도(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있다.
유닛(unit)은 영상 처리의 기본 단위를 나타낸다. 유닛은 픽처의 특정 영역 및 해당 영역에 관련된 정보 중 적어도 하나를 포함할 수 있다. 유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들 또는 변환 계수(transform coefficient)들의 집합을 나타낼 수 있다.
도 1은 본 발명이 적용될 수 있는 비디오 인코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 1을 참조하면, 비디오 인코딩 장치(100)는 픽처 분할부(105), 예측부(110), 감산부(115), 변환부(120), 양자화부(125), 재정렬부(130), 엔트로피 인코딩부(135), 역양자화부(140), 역변환부(145), 가산부(150), 필터부(155) 및 메모리(160)을 포함한다.
픽처 분할부(105)는 입력된 픽처를 적어도 하나의 처리 유닛(processing unit)으로 분할할 수 있다. 이 때, 처리 유닛 코딩 유닛 블록(coding unit, CU), 예측 유닛(prediction unit, PU) 또는 변환 유닛(transform unit, TU)일 수 있다. 코딩 유닛은 코딩의 유닛 블록이고, 최대 코딩 유닛(largest coding unit, LCU)으로부터 쿼드 트리 구조(quad-tree structure)를 따라서 하위(deeper) 뎁스의 코딩 유닛들로 분할(split)될 수 있다. 이 경우 영상 특성에 따른 코딩 효율 등을 기반으로, 최대 코딩 유닛이 바로 최종 코딩 유닛으로 사용될 수 있고, 또는 필요에 따라 코딩 유닛은 재귀적으로(recursively) 보다 하위 뎁스의 코딩 유닛들로 분할되어 최적의 사이즈의 코딩 유닛이 최종 코딩 유닛으로 사용될 수 있다. 최소 코딩 유닛(smallest coding unit, SCU)이 설정된 경우 코딩 유닛은 최소 코딩 유닛보다 더 작은 코딩 유닛으로 분할될 수 없다. 여기서 최종 코딩 유닛이라 함은 예측 유닛 또는 변환 유닛으로 파티셔닝 또는 분할되는 기반이 되는 코딩 유닛을 의미한다. 예측 유닛은 코딩 유닛 블록으로부터 파티셔닝(partitioning)되는 블록으로서, 샘플 예측의 유닛 블록일 수 있다. 이 때, 예측 유닛은 서브 블록(sub block)으로 나뉠 수도 있다. 변환 유닛은 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 유도하는 유닛 블록 및/또는 변환 계수로부터 레지듀얼 신호(residual signal)를 유도하는 유닛 블록일 수 있다.
이하, 코딩 유닛은 코딩 블록(coding block, CB), 예측 유닛은 예측 블록(prediction block, PB), 변환 유닛은 변환 블록(transform block, TB) 으로 불릴 수 있다.
예측 블록 또는 예측 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 예측 샘플의 어레이(array)를 포함할 수 있다. 또한, 변환 블록 또는 변환 유닛은 픽처 내에서 블록 형태의 특정 영역을 의미할 수 있고, 변환 계수 또는 레지듀얼 샘플의 어레이를 포함할 수 있다.
예측부(110)는 처리 대상 블록(이하, 현재 블록이라 함)에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측 블록을 생성할 수 있다. 예측부(110)에서 수행되는 예측의 단위는 코딩 블록일 수 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.
예측부(110)는 현재 블록에 인트라 예측이 적용되는지 인터 예측이 적용되는지를 결정할 수 있다. 일 예로, 예측부(110)는 CU 단위로 인트라 예측 또는 인터 예측이 적용되는지를 결정할 수 있다.
인트라 예측의 경우에, 예측부(110)는 현재 블록이 속하는 픽처(이하, 현재 픽처) 내의 현재 블록 외부의 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 예측부(110)는 (i) 현재 블록의 주변(neighboring) 참조 샘플들의 평균(average) 혹은 인터폴레이션(interpolation)을 기반으로 예측 샘플을 유도할 수 있고, (ii) 현재 블록의 주변 참조 샘플들 중 예측 샘플에 대하여 특정 (예측) 방향에 존재하는 참조 샘플을 기반으로 상기 예측 샘플을 유도할 수도 있다. (i)의 경우는 비방향성 모드 또는 비각도 모드, (ii)의 경우는 방향성(directional) 모드 또는 각도(angular) 모드라고 불릴 수 있다. 인트라 예측에서 예측 모드는 예를 들어 33개의 방향성 예측 모드와 적어도 2개 이상의 비방향성 모드를 가질 수 있다. 비방향성 모드는 DC 예측 모드 및 플래너 모드(Planar 모드)를 포함할 수 있다. 예측부(110)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측의 경우에, 예측부(110)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 샘플을 기반으로, 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(110)는 스킵(skip) 모드, 머지(merge) 모드, 및 MVP(motion vector prediction) 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 스킵 모드와 머지 모드의 경우에, 예측부(110)는 주변 블록의 움직임 정보를 현재 블록의 움직임 정보로 이용할 수 있다. 스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차(레지듀얼)가 전송되지 않는다. MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하여 현재 블록의 움직임 벡터 예측자로 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다.
인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처(reference picture)에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 상기 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 움직임 정보(motion information)는 움직임 벡터와 참조 픽처 인덱스를 포함할 수 있다. 예측 모드 정보와 움직임 정보 등의 정보는 (엔트로피) 인코딩되어 비트스트림 형태로 출력될 수 있다.
스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트(reference picture list) 상의 최상위 픽처가 참조 픽처로서 이용될 수도 있다. 참조 픽처 리스트(Picture Order Count)에 포함되는 참조 픽처들은 현재 픽처와 해당 참조 픽처 간의 POC(Picture order count) 차이 기반으로 정렬될 수 있다. POC는 픽처의 디스플레이 순서에 대응하며, 코딩 순서와 구분될 수 있다.
감산부(115)는 원본 샘플과 예측 샘플 간의 차이인 레지듀얼 샘플을 생성한다. 스킵 모드가 적용되는 경우에는, 상술한 바와 같이 레지듀얼 샘플을 생성하지 않을 수 있다.
변환부(120)는 변환 블록 단위로 레지듀얼 샘플을 변환하여 변환 계수(transform coefficient)를 생성한다. 변환부(120)는 해당 변환 블록의 사이즈와, 해당 변환 블록과 공간적으로 겹치는 코딩 블록 또는 예측 블록에 적용된 예측 모드에 따라서 변환을 수행할 수 있다. 예컨대, 상기 변환 블록과 겹치는 상기 코딩 블록 또는 상기 예측 블록에 인트라 예측이 적용되었고, 상기 변환 블록이 4×4의 레지듀얼 어레이(array)라면, 레지듀얼 샘플은 DST(Discrete Sine Transform)를 이용하여 변환되고, 그 외의 경우라면 레지듀얼 샘플은 DCT(Discrete Cosine Transform)를 이용하여 변환할 수 있다.
양자화부(125)는 변환 계수들을 양자화하여, 양자화된 변환 계수를 생성할 수 있다.
재정렬부(130)는 양자화된 변환 계수를 재정렬한다. 재정렬부(130)는 계수들 스캐닝(scanning) 방법을 통해 블록 형태의 양자화된 변환 계수들을 1차원 벡터 형태로 재정렬할 수 있다. 여기서 재정렬부(130)는 별도의 구성으로 설명하였으나, 재정렬부(130)는 양자화부(125)의 일부일 수 있다.
엔트로피 인코딩부(135)는 양자화된 변환 계수들에 대한 엔트로피 인코딩을 수행할 수 있다. 엔트로피 인코딩은 예를 들어 지수 골롬(exponential Golomb), CAVLC(context-adaptive variable length coding), CABAC(context-adaptive binary arithmetic coding) 등과 같은 인코딩 방법을 포함할 수 있다. 엔트로피 인코딩부(135)는 양자화된 변환 계수 외 비디오 복원에 필요한 정보들(예컨대 신택스 요소(syntax element)의 값 등)을 함께 또는 별도로 인코딩할 수도 있다. 엔트로피 인코딩된 정보들은 비트스트림 형태로 NAL(network abstraction layer) 유닛 단위로 전송 또는 저장될 수 있다.
역양자화부(140)는 양자화부(125)에서 양자화된 값(양자화된 변환 계수)들을 역양자화하고, 역변환부(145)는 역양자화부(135)에서 역양자화된 값들을 역변환하여 레지듀얼 샘플을 생성한다.
가산부(150)는 레지듀얼 샘플과 예측 샘플을 합쳐서 픽처를 복원한다. 레지듀얼 샘플과 예측 샘플은 블록 단위로 더해져서 복원 블록이 생성될 수 있다. 여기서 가산부(150)는 별도의 구성으로 설명하였으나, 가산부(150)는 예측부(110)의 일부일 수 있다.
복원된 픽처(reconstructed picture)에 대하여 필터부(155)는 디블록킹 필터 및/또는 샘플 적응적 오프셋(sample adaptive offset)을 적용할 수 있다. 디블록킹 필터링 및/또는 샘플 적응적 오프셋을 통해, 복원 픽처 내 블록 경계의 아티팩트나 양자화 과정에서의 왜곡이 보정될 수 있다. 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링의 과정이 완료된 후 적용될 수 있다. 필터부(155)는 ALF(Adaptive Loop Filter)를 복원된 픽처에 적용할 수도 있다. ALF는 디블록킹 필터 및/또는 샘플 적응적 오프셋이 적용된 후의 복원된 픽처에 대하여 적용될 수 있다.
메모리(160)는 복원 픽처 또는 인코딩/디코딩에 필요한 정보를 저장할 수 있다. 여기서 복원 픽처는 상기 필터부(155)에 의하여 필터링 절차가 완료된 복원 픽처일 수 있다. 상기 저장된 복원 픽처는 다른 픽처의 (인터) 예측을 위한 참조 픽처로 활용될 수 있다. 예컨대, 메모리(160)는 인터 예측에 사용되는 (참조) 픽처들을 저장할 수 있다. 이 때, 인터 예측에 사용되는 픽처들은 참조 픽처 세트(reference picture set) 혹은 참조 픽처 리스트(reference picture list)에 의해 지정될 수 있다.
도 2는 본 발명이 적용될 수 있는 비디오 디코딩 장치의 구성을 개략적으로 설명하는 도면이다.
도 2를 참조하면, 비디오 디코딩 장치(200)는 엔트로피 디코딩부(210), 재정렬부(220), 역양자화부(230), 역변환부(240), 예측부(250), 가산부(260), 필터부(270), 메모리(280)를 포함한다.
비디오 정보를 포함하는 비트스트림이 입력되면, 비디오 디코딩 장치는(200)는 비디오 인코딩 장치에서 비디오 정보가 처리된 프로세스에 대응하여 비디오를 복원할 수 있다.
예컨대, 비디오 디코딩 장치(200)는 비디오 인코딩 장치에서 적용된 처리 유닛을 이용하여 비디오 디코딩을 수행할 수 있다. 따라서 비디오 디코딩의 처리 유닛 블록은 코딩 유닛 블록, 예측 유닛 블록 또는 변환 유닛 블록일 수 있다. 코딩 유닛 블록은 디코딩의 유닛 블록으로서 최대 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할될 수 있다. 예측 유닛 블록은 코딩 유닛 블록으로부터 파티셔닝되는 블록으로서, 샘플 예측의 유닛 블록일 수 있다. 이 때, 예측 유닛 블록은 서브 블록으로 나뉠 수도 있다. 변환 유닛 블록은 코딩 유닛 블록으로부터 쿼드 트리 구조를 따라서 분할 될 수 있으며, 변환 계수를 유도하는 유닛 블록 또는 변환 계수로부터 레지듀얼 신호를 유도하는 유닛 블록일 수 있다.
엔트로피 디코딩부(210)는 비트스트림을 파싱하여 비디오 복원 또는 픽처 복원에 필요한 정보를 출력할 수 있다. 예컨대, 엔트로피 디코딩부(210)는 지수 골롬 부호화, CAVLC 또는 CABAC 등의 코딩 방법을 기초로 비트스트림 내 정보를 디코딩하고, 비디오 복원에 필요한 신택스 엘리먼트의 값, 레지듀얼에 관한 변환 계수의 양자화된 값 들을 출력할 수 있다.
보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 문맥(context) 모델을 결정하고, 결정된 문맥 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 문맥 모델 결정 후 다음 심볼/빈의 문맥 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 문맥 모델을 업데이트할 수 있다.
엔트로피 디코딩부(210)에서 디코딩된 정보 중 예측에 관한 정보는 예측부(230)로 제공되고, 엔트로피 디코딩부(210)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수는 재정렬부(220)로 입력될 수 있다.
재정렬부(220)는 양자화되어 있는 변환 계수들을 2차원의 블록 형태로 재정렬할 수 있다. 재정렬부(220)는 인코딩 장치에서 수행된 계수 스캐닝에 대응하여 재정렬을 수행할 수 있다. 여기서 재정렬부(220)는 별도의 구성으로 설명하였으나, 재정렬부(220)는 양자화부(230)의 일부일 수 있다.
역양자화부(230)는 양자화되어 있는 변환 계수들을 (역)양자화 파라미터를 기반으로 역양자화하여 변환 계수를 출력할 수 있다. 이 때, 양자화 파라미터를 유도하기 위한 정보는 인코딩 장치로부터 시그널링될 수 있다.
역변환부(240)는 변환 계수들을 역변환하여 레지듀얼 샘플들을 유도할 수 있다.
예측부(250)는 현재 블록에 대한 예측을 수행하고, 상기 현재 블록에 대한 예측 샘플들을 포함하는 예측 블록을 생성할 수 있다. 예측부(250)에서 수행되는 예측의 단위는 코딩 블록일 수도 있고, 변환 블록일 수도 있고, 예측 블록일 수도 있다.
예측부(250)는 상기 예측에 관한 정보를 기반으로 인트라 예측을 적용할 것인지 인터 예측을 적용할 것인지를 결정할 수 있다. 이 때, 인트라 예측과 인터 예측 중 어느 것을 적용할 것인지를 결정하는 단위와 예측 샘플을 생성하는 단위는 상이할 수 있다. 아울러, 인터 예측과 인트라 예측에 있어서 예측 샘플을 생성하는 단위 또한 상이할 수 있다. 예를 들어, 인터 예측과 인트라 예측 중 어느 것을 적용할 것인지는 CU 단위로 결정할 수 있다. 또한 예를 들어, 인터 예측에 있어서 PU 단위로 예측 모드를 결정하고 예측 샘플을 생성할 수 있고, 인트라 예측에 있어서 PU 단위로 예측 모드를 결정하고 TU 단위로 예측 샘플을 생성할 수도 있다.
인트라 예측의 경우에, 예측부(250)는 현재 픽처 내의 주변 참조 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(250)는 현재 블록의 주변 참조 샘플을 기반으로 방향성 모드 또는 비방향성 모드를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이 때, 주변 블록의 인트라 예측 모드를 이용하여 현재 블록에 적용할 예측 모드가 결정될 수도 있다.
인터 예측의 경우에, 예측부(250)는 참조 픽처 상에서 움직임 벡터에 의해 참조 픽처 상에서 특정되는 샘플을 기반으로 현재 블록에 대한 예측 샘플을 유도할 수 있다. 예측부(250)는 스킵(skip) 모드, 머지(merge) 모드 및 MVP 모드 중 어느 하나를 적용하여 현재 블록에 대한 예측 샘플을 유도할 수 있다. 이때, 비디오 인코딩 장치에서 제공된 현재 블록의 인터 예측에 필요한 움직임 정보, 예컨대 움직임 벡터, 참조 픽처 인덱스 등에 관한 정보는 상기 예측에 관한 정보를 기반으로 획득 또는 유도될 수 있다
스킵 모드와 머지 모드의 경우에, 주변 블록의 움직임 정보가 현재 블록의 움직임 정보로 이용될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.
예측부(250)는 가용한 주변 블록의 움직임 정보로 머지 후보 리스트를 구성하고, 머지 인덱스가 머지 후보 리스트 상에서 지시하는 정보를 현재 블록의 움직임 벡터로 사용할 수 있다. 머지 인덱스는 인코딩 장치로부터 시그널링될 수 있다. 움직임 정보는 움직임 벡터와 참조 픽처를 포함할 수 있다. 스킵 모드와 머지 모드에서 시간적 주변 블록의 움직임 정보가 이용되는 경우에, 참조 픽처 리스트 상의 최상위 픽처가 참조 픽처로서 이용될 수 있다.
스킵 모드의 경우, 머지 모드와 달리 예측 샘플과 원본 샘플 사이의 차이(레지듀얼)이 전송되지 않는다.
MVP 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하여 현재 블록의 움직임 벡터가 유도될 수 있다. 이 때, 주변 블록은 공간적 주변 블록과 시간적 주변 블록을 포함할 수 있다.
일 예로, 머지 모드가 적용되는 경우, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 머지 후보 리스트가 생성될 수 있다. 머지 모드에서는 머지 후보 리스트에서 선택된 후보 블록의 움직임 벡터가 현재 블록의 움직임 벡터로 사용된다. 상기 예측에 관한 정보는 상기 머지 후보 리스트에 포함된 후보 블록들 중에서 선택된 최적의 움직임 벡터를 갖는 후보 블록을 지시하는 머지 인덱스를 포함할 수 있다. 이 때, 예측부(250)는 상기 머지 인덱스를 이용하여, 현재 블록의 움직임 벡터를 도출할 수 있다.
다른 예로, MVP(Motion Vector Prediction) 모드가 적용되는 경우, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 움직임 벡터 예측자 후보 리스트가 생성될 수 있다. 즉, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터는 움직임 벡터 후보로 사용될 수 있다. 상기 예측에 관한 정보는 상기 리스트에 포함된 움직임 벡터 후보 중에서 선택된 최적의 움직임 벡터를 지시하는 예측 움직임 벡터 인덱스를 포함할 수 있다. 이 때, 예측부(250)는 상기 움직임 벡터 인덱스를 이용하여, 움직임 벡터 후보 리스트에 포함된 움직임 벡터 후보 중에서, 현재 블록의 예측 움직임 벡터를 선택할 수 있다. 인코딩 장치의 예측부는 현재 블록의 움직임 벡터와 움직임 벡터 예측자 간의 움직임 벡터 차분(MVD)을 구할 수 있고, 이를 인코딩하여 비트스트림 형태로 출력할 수 있다. 즉, MVD는 현재 블록의 움직임 벡터에서 상기 움직임 벡터 예측자를 뺀 값으로 구해질 수 있다. 이 때, 예측부(250)는 상기 예측에 관한 정보에 포함된 움직임 벡터 차분을 획득하고, 상기 움직임 벡터 차분과 상기 움직임 벡터 예측자의 가산을 통해 현재 블록의 상기 움직임 벡터를 도출할 수 있다. 예측부는 또한 참조 픽처를 지시하는 참조 픽처 인덱스 등을 상기 예측에 관한 정보로부터 획득 또는 유도할 수 있다.
가산부(260)는 레지듀얼 샘플과 예측 샘플을 더하여 현재 블록 혹은 현재 픽처를 복원할 수 있다. 가산부(260)는 레지듀얼 샘플과 예측 샘플을 블록 단위로 더하여 현재 픽처를 복원할 수도 있다. 스킵 모드가 적용된 경우에는 레지듀얼이 전송되지 않으므로, 예측 샘플이 복원 샘플이 될 수 있다. 여기서는 가산부(260)를 별도의 구성으로 설명하였으나, 가산부(260)는 예측부(250)의 일부일 수도 있다.
필터부(270)는 복원된 픽처에 디블록킹 필터링 샘플 적응적 오프셋, 및/또는 ALF 등을 적용할 수 있다. 이 때, 샘플 적응적 오프셋은 샘플 단위로 적용될 수 있으며, 디블록킹 필터링 이후 적용될 수도 있다. ALF는 디블록킹 필터링 및/또는 샘플 적응적 오프셋 이후 적용될 수도 있다.
메모리(280)는 복원 픽처 또는 디코딩에 필요한 정보를 저장할 수 있다. 여기서 복원 픽처는 상기 필터부(270)에 의하여 필터링 절차가 완료된 복원 픽처일 수 있다. 예컨대, 메모리(280)는 인터 예측에 사용되는 픽처들을 저장할 수 있다. 이 때, 인터 예측에 사용되는 픽처들은 참조 픽처 세트 혹은 참조 픽처 리스트에 의해 지정될 수도 있다. 복원된 픽처는 다른 픽처에 대한 참조 픽처로서 이용될 수 있다. 또한, 메모리(280)는 복원된 픽처를 출력 순서에 따라서 출력할 수도 있다.
상술한 내용과 같이 대상 블록에 대하여 인터 예측이 수행되는 경우, 상기 대상 블록에 대한 움직임 정보는 스킵(skip) 모드, 머지 모드, 또는 AMVP(adaptive motion vector prediction) 모드를 적용하여 생성될 수 있고, 인코딩되어 출력될 수 있다. 이 경우, 상기 대상 블록에 대한 움직임 정보는 상기 블록 단위로 인코딩되는 과정으로 인하여 왜곡이 계산되어 포함될 수 있고, 이를 통하여 상기 대상 블록의 복원 블록을 나타내는 움직임 정보를 완벽하게 반영하지 못할 수 있다. 특히 대상 블록에 머지 모드가 적용되는 경우, 상기 대상 블록에 대한 움직임 정보의 정확성이 저하될 수 있다. 즉, 상기 대상 블록에 대한 움직임 정보를 통하여 도출되는 예측 블록과 상기 대상 블록의 복원 블록간의 차이가 클 수 있다. 이 경우, 상기 대상 블록의 움직임 정보를 상기 대상 블록 주변의 다음 블록의 디코딩 과정에서 이용하게 되어 왜곡이 전파될 수 있고, 이를 통하여 전반적인 코딩 효율을 저하시킬 수 있다.
따라서, 본 발명에서는 상기 대상 블록의 디코딩 과정 이후에, 도출된 복원 블록을 기반으로 상기 대상 블록에 대한 수정된 움직임 정보를 계산하고, 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신하여 상기 대상 블록 주변의 다음 블록이 더욱 정확한 움직임 정보를 도출할 수 있도록 하는 방법을 제안한다. 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.
도 3은 대상 블록에 대하여 적용되는 단예측(uni-prediction) 움직임 정보를 기반으로 인터 예측을 수행하는 경우와 쌍예측(bi-prediction) 움직임 정보를 기반으로 인터 예측을 수행하는 경우의 일 예를 예시적으로 나타낸다. 상기 쌍예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터, L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있고, 상기 단예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터를 포함할 수 있고, 또는 L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있다. 상기 L0은 참조 픽처 리스트 L0(List 0)를 나타내고, 상기 L1은 참조 픽처 리스트 L1(List 1)를 나타낸다. 영상 코딩 과정에서 인터 예측을 위하여 사용되는 방법은 움직임 추정(motion estimation)에 의한 움직임 정보의 도출 및 움직임 보상(motion compensation)을 포함할 수 있다. 도 3에 도시된 것과 같이 상기 움직임 추정은 상기 대상 블록이 포함된 대상 픽처의 인코딩 이전에 인코딩된 참조 픽처들을 대상으로 상기 대상 블록에 정합되는 블록을 도출하는 과정으로 나타낼 수 있다. 상기 대상 블록에 정합되는 블록을 참조 블록이라고 정의할 수 있고, 상기 참조 블록이 상기 대상 블록과 동일한 상기 대상 픽처에 포함되어 있다고 가정하여 도출된 상기 대상 블록과 상기 참조 블록과의 위치의 차이를 상기 대상 블록의 움직임 벡터로 정의할 수 있다. 상기 움직임 보상은 하나의 참조 블록을 도출하고 사용하는 단예측 방법과, 두 개의 참조 블록들을 도출하고 사용하는 쌍예측 방법을 포함할 수 있다.
대상 블록에 대한 움직임 벡터, 참조 픽처에 대한 정보를 포함하는 정보를 대상 블록의 움직임 정보라고 할 수 있다. 상기 참조 픽처에 대한 정보는 참조 픽처 리스트 및 상기 참조 픽처 리스트에 포함된 참조 픽처를 나타내는 참조 픽처 인덱스를 포함할 수 있다. 인코딩 장치는 상기 대상 블록을 인코딩한 이후에 상기 대상 블록 다음으로 인코딩할 상기 대상 블록 주변의 다음 블록 또는 상기 대상 픽처 다음으로 인코딩할 픽처들을 위하여 상기 대상 블록에 대한 움직임 정보를 저장할 수 있다. 상기 저장된 움직임 정보는 상기 대상 블록 다음으로 인코딩할 상기 다음 블록 또는 상기 대상 픽처 다음으로 인코딩할 픽처들의 움직임 정보를 표현하기 위한 방법에 사용될 수 있다. 상기 방법으로는 상기 대상 블록의 움직임 정보를 인덱싱(indexing)하고 상기 대상 블록 주변의 다음 블록의 움직임 정보를 인덱스로 전송하는 방법인 머지 모드와, 상기 대상 블록 주변의 다음 블록의 움직임 벡터를 상기 다음 블록의 움직임 벡터와 상기 대상 블록의 움직임 벡터와의 차분만으로 표현하는 방법인 AMVP 모드가 있을 수 있다.
본 발명에서는 상기 대상 픽처 또는 상기 대상 블록의 인코딩 과정 이후에 상기 대상 픽처 또는 상기 대상 블록에 대한 움직임 정보를 갱신하는 방법을 제안한다. 상기 대상 블록에 인터 예측이 수행되고 인코딩되면 상기 인터 예측에 사용된 움직임 정보가 저장될 수 있다. 하지만 상기 움직임 정보는 블록 매칭 방법(block matching)을 통하여 계산되는 과정에서 발생하는 왜곡이 포함될 수 있고, 또한 상기 움직임 정보는 상기 대상 블록에 대한 RD(rate-distortion) 최적화 과정을 통하여 선택된 값일 수 있기 때문에 상기 대상 블록의 실제 움직임을 완벽하게 반영하는 것은 어려울 수 있다. 상기 대상 블록의 움직임 정보는 상기 대상 블록의 인터 예측 과정에만 사용되는 것이 아니라, 상기 대상 블록의 인코딩 이후에 인코딩되는 상기 대상 블록 주변의 다음 블록과 상기 대상 블록이 포함된 대상 픽처의 인코딩 이후에 인코딩되는 픽처에도 영향을 줄 수 있기 때문에 전반적인 코딩 효율을 저하시킬 수 있다.
도 4는 대상 블록의 움직임 정보를 갱신하는 방법을 포함한 인코딩 과정의 일 예를 예시적으로 나타낸다. 인코딩 장치는 대상 블록을 인코딩한다(S400). 인코딩 장치는 상기 대상 블록에 인터 예측을 수행하여 예측 샘플을 도출할 수 있고, 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성할 수 있다. 인코딩 장치는 상기 인터 예측을 수행하기 위하여 상기 대상 블록의 움직임 정보를 도출할 수 있고, 상기 움직임 정보를 포함하는 상기 대상 블록의 인터 예측에 대한 정보를 생성할 수 있다. 상기 움직임 정보는 제1 움직임 정보라고 불릴 수 있다.
상기 대상 블록의 인코딩 과정을 수행한 후, 인코딩 장치는 상기 대상 블록의 복원 블록을 기반으로 수정된(modified) 움직임 정보를 계산한다(S410). 인코딩 장치는 다양한 방법을 통하여 상기 대상 블록의 상기 수정된 움직임 정보를 계산할 수 있다. 상기 수정된 움직임 정보는 제2 움직임 정보라고 불릴 수 있다. 상기 방법은 OF(optical flow) 방법, 블록 매칭(block-matching) 방법, 주파수 도메인(frequency domain) 방법 등의 직접적인 방법들, 및 특징점 정합 방법, 통계적 특성을 이용하는 방법 등의 간접적인 방법들 중 적어도 하나의 방법이 적용될 수 있다. 또한, 직접적인 방법과 간접적인 방법이 동시에 적용될 수도 있다. 상기 블록 매칭 방법과 상기 OF 방법에 대한 구체적인 내용은 후술한다.
상기 인코딩 장치는 상기 대상 블록의 움직임 정보 계산의 특성상 인코딩된 상기 대상 블록의 정보만으로는 보다 정확한 움직임 정보를 계산하는 것이 어려울 수 있고, 이에 인코딩 장치가 상기 대상 블록의 상기 수정된 움직임 정보를 계산하는 시점은 예를 들어 상기 대상 블록의 인코딩 과정 이후가 아닌 상기 대상 블록이 포함된 대상 픽처의 인코딩 과정을 수행한 이후가 될 수 있다. 즉, 상기 인코딩 장치는 상기 대상 픽처의 인코딩 과정을 수행하고, 상기 대상 블록의 인코딩 과정이 수행된 직후보다 더 많은 정보를 기반으로 상기 수정된 움직임 정보를 계산할 수 있다.
한편, 인코딩 장치는 상기 (제1) 움직임 정보에 포함된 기존 움직임 벡터와 수정된 움직임 벡터 간의 차분을 나타내는 움직임 벡터 갱신 차분 정보를 더 생성하고, 인코딩하여 출력할 수도 있다. 상기 움직임 벡터 갱신 차분 정보는 상기 PU 단위로 전송될 수 있다.
인코딩 장치는 상기 대상 블록의 움직임 정보의 갱신 여부를 판단한다(S420). 인코딩 장치는 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보와의 정확성의 비교를 통하여 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어, 인코딩 장치는 각 움직임 정보를 사용한 움직임 보상(motion compensation)으로 도출된 영상이 원본 영상과 얼마나 차이를 보이는가로 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 다시 말해, 각 움직임 정보를 기반으로 도출된 참조 블록과 상기 대상 블록의 원본 블록과의 레지듀얼(residual) 신호의 데이터량을 비교하여 상기 갱신 여부를 판단할 수 있다.
S420 절차에서 상기 대상 블록의 움직임 정보가 갱신되도록 판단된 경우, 인코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신(update)하고, 상기 갱신된 움직임 정보를 저장한다(S430). 예를 들어, 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 원본 블록과의 레지듈얼 신호의 데이터량이 상기 (제1) 움직임 정보를 기반으로 도출된 참조 블록과 상기 원본 블록과의 레지듀얼 신호의 데이터량보다 작은 경우, 인코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 (제1) 움직임 정보를 갱신할 수 있다. 이 경우, 인코딩 장치는 상기 (제1) 움직임 정보를 상기 수정된 움직임 정보로 대체하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 수정된 움직임 정보만을 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다. 또한, 인코딩 장치는 상기 (제1) 움직임 정보에 상기 수정된 움직임 정보 추가하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 (제1) 움직임 정보 및 상기 수정된 움직임 정보를 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다.
한편, S420 절차에서 상기 대상 블록의 움직임 정보가 갱신되도록 판단되지 않은 경우, 인코딩 장치는 상기 (제1) 움직임 정보를 저장한다(S440). 예를 들어, 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 원본 블록과의 레지듈얼 신호의 데이터량이 상기 (제1) 움직임 정보를 기반으로 도출된 참조 블록과 상기 원본 블록과의 레지듈얼 신호의 데이터량보다 작지 않은 경우, 인코딩 장치는 상기 (제1) 움직임 정보를 저장할 수 있다.
한편, 비록 도시되지는 않았으나 인코딩 장치는 상기 인터 예측에 사용된 (제1) 움직임 정보와 상기 수정된 움직임 정보의 비교를 통한 갱신 여부 판단 없이 상기 수정된 움직임 정보가 도출된 경우 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신할 수 있다.
한편, 디코딩 장치는 원본 영상을 사용할 수 없으므로 상기 대상 블록의 갱신 여부를 나타내는 부가 정보를 전송 받을 수 있다. 즉, 인코딩 장치는 상기 갱신 여부를 나타내는 부가 정보를 생성할 수 있고, 인코딩하여 비트스트림을 통하여 출력할 수 있다. 예를 들어 상기 갱신 여부를 나타내는 부가 정보는 갱신 플래그라고 불릴 수 있다. 상기 갱신 플래그의 값이 1인 경우 상기 움직임 정보가 갱신됨을 나타낼 수 있고, 상기 갱신 플래그의 값이 0인 경우 상기 움직임 정보가 갱신되지 않음을 나타낼 수 있다. 예를 들어 상기 갱신 플래그는 PU 단위로 전송될 수 있다. 또는 상기 갱신 플래그는 CU 단위, CTU 단위, 슬라이스 단위로 전송될 수도 있고, PPS(picture parameter set) 단위 또는 SPS(sequence parameter set) 단위와 같은 상위 레벨을 통하여 전송될 수도 있다.
또한, 디코딩 장치는 상기 갱신 플래그의 수신 없이 상기 대상 블록의 복원 블록을 기반으로 상기 대상 블록의 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보간의 비교를 통하여 상기 갱신 여부를 판단할 수 있고, 상기 대상 블록의 움직임 정보가 갱신되는 것으로 판단된 경우, 디코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신하고, 상기 갱신된 움직임 정보를 저장할 수 있다. . 또한, 디코딩 장치는 상기 인터 예측에 사용된 움직임 정보와 상기 수정된 움직임 정보와의 비교를 통한 갱신 여부 판단 없이 상기 수정된 움직임 정보가 도출된 경우 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신할 수 있다. 이 경우, 디코딩 장치는 상기 (제1) 움직임 정보를 상기 수정된 움직임 정보로 대체하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 수정된 움직임 정보만을 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다. 또한, 디코딩 장치는 상기 (제1) 움직임 정보에 상기 수정된 움직임 정보 추가하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 (제1) 움직임 정보 및 상기 수정된 움직임 정보를 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다.
상기 움직임 정보의 갱신하는 과정이 상기 대상 블록의 인코딩 과정 이후에 수행되는 경우, 상기 대상 블록의 인코딩 다음 순서의 상기 대상 블록 주변의 다음 블록의 인코딩 과정이 수행될 수 있다.
도 5는 대상 블록의 움직임 정보를 갱신하는 방법을 포함한 디코딩 과정의 일 예를 예시적으로 나타낸다. 상기 디코딩 과정은 상술한 인코딩 과정과 유사하게 수행될 수 있다. 디코딩 장치는 상기 대상 블록을 디코딩한다(S500). 상기 대상 블록에 인터 예측이 적용되는 경우, 디코딩 장치는 비트스트림을 통하여 상기 대상 블록의 인터 예측에 대한 정보를 획득할 수 있다. 디코딩 장치는 상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출할 수 있고, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출할 수 있다. 상기 움직임 정보는 제1 움직임 정보라고 불릴 수 있다. 디코딩 장치는 상기 예측 샘플을 기반으로 복원 블록을 생성할 수 있다.
디코딩 장치는 상기 대상 블록의 수정된(modified) 움직임 정보를 계산한다(S510). 디코딩 장치는 다양한 방법을 통하여 상기 수정된 움직임 정보를 계산할 수 있다. 상기 수정된 움직임 정보는 제2 움직임 정보라고 불릴 수 있다. 상기 방법은 OF(optical flow) 방법, 블록 매칭(block-matching) 방법, 주파수 도메인(frequency domain) 방법 등의 직접적인 방법들, 및 특징점 정합 방법, 통계적 특성을 이용하는 방법 등의 간접적인 방법들 중 적어도 하나의 방법이 적용될 수 있다. 또한, 직접적인 방법과 간접적인 방법이 동시에 적용될 수도 있다. 상기 블록 매칭 방법과 상기 OF 방법에 대한 구체적인 내용은 후술한다.
상기 디코딩 장치는 상기 대상 블록의 움직임 정보 계산의 특성상 디코딩된 상기 대상 블록의 정보만으로는 보다 정확한 움직임 정보를 계산하는 것이 어려울 수 있고, 이에 디코딩 장치가 상기 대상 블록의 상기 수정된 움직임 정보를 계산하는 시점은 상기 대상 블록의 디코딩 과정 이후가 아닌 상기 대상 블록이 포함된 대상 픽처의 디코딩 과정을 수행한 이후가 될 수 있다. 즉, 상기 디코딩 장치는 상기 대상 픽처의 디코딩 과정을 수행하고, 상기 대상 블록의 디코딩 과정이 수행된 직후보다 더 많은 정보를 기반으로 상기 수정된 움직임 정보를 계산할 수 있다.
한편, 디코딩 장치는 비트스트림을 통하여 상기 (제1) 움직임 정보에 포함된 기존 움직임 벡터와 수정된 움직임 벡터 간의 차분을 나타내는 움직임 벡터 갱신 차분 정보를 획득할 수도 있다. 상기 움직임 벡터 갱신 차분 정보는 상기 PU 단위로 전송될 수 있다. 이 경우, 디코딩 장치는 상술한 직접적인 방법과 간접적인 방법을 통하여 독자적으로 상기 수정된 움직임 정보를 계산하지 않고, 상기 (제1) 움직임 정보와 상기 획득한 움직임 벡터 갱신 차분 정보를 더하여 상기 수정된 움직임 정보를 도출할 수 있다. 즉, 디코딩 장치는 상기 기존 움직임 벡터를 상기 수정된 움직임 벡터의 움직임 벡터 예측자(motion vector preditor, MVP)로 도출할 수 있고, 상기 기존 움직임 벡터에 상기 움직임 벡터 갱신 차분 정보를 더하여 상기 수정된 움직임 움직임 벡터를 도출할 수 있다.
디코딩 장치는 상기 대상 블록의 움직임 정보의 갱신 여부를 판단한다(S520). 디코딩 장치는 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보와의 정확성의 비교를 통하여 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어, 디코딩 장치는 각 움직임 정보를 사용한 움직임 보상(motion compensation)으로 도출된 참조 블록이 상기 대상 블록의 복원 블록과 얼마나 차이를 보이는가로 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 다시 말해, 각 움직임 정보를 기반으로 도출된 참조 블록과 상기 대상 블록의 복원 블록과의 레지듀얼(residual) 신호의 데이터량을 비교하여 상기 갱신 여부를 판단할 수 있다.
한편, 디코딩 장치는 인코딩 장치로부터 상기 갱신 여부를 나타내는 부가 정보를 수신할 수 있고, 상기 부가 정보를 기반으로 상기 대상 블록의 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어 상기 갱신 여부를 나타내는 부가 정보는 갱신 플래그라고 불릴 수 있다. 상기 갱신 플래그의 값이 1인 경우 상기 움직임 정보가 갱신됨을 나타낼 수 있고, 상기 갱신 플래그의 값이 0인 경우 상기 움직임 정보가 갱신되지 않음을 나타낼 수 있다.
S520 절차에서 상기 대상 블록의 움직임 정보를 갱신되도록 판단된 경우, 디코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신(update)하고, 상기 수정된 움직임 정보를 저장한다(S530). 예를 들어, 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 복원 블록과의 레지듈얼 신호의 데이터량이 상기 (제1) 움직임 정보를 기반으로 도출된 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량보다 작은 경우, 디코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 (제1) 움직임 정보를 갱신할 수 있다. 이 경우, 디코딩 장치는 상기 (제1) 움직임 정보를 상기 수정된 움직임 정보로 대체하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 수정된 움직임 정보만을 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다. 또한, 디코딩 장치는 상기 (제1) 움직임 정보에 상기 수정된 움직임 정보 추가하여 상기 대상 블록의 움직임 정보를 갱신할 수 있고, 상기 (제1) 움직임 정보 및 상기 수정된 움직임 정보를 포함하는 상기 갱신된 움직임 정보를 저장할 수 있다.
한편, S520 절차에서 상기 대상 블록의 움직임 정보를 갱신되도록 판단되지 않은 경우, 디코딩 장치는 상기 (제1) 움직임 정보를 저장한다(S540). 예를 들어, 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 복원 블록과의 레지듈얼 신호의 데이터량이 상기 (제1) 움직임 정보를 기반으로 도출된 참조 블록과 상기 복원 블록과의 레지듈얼 신호의 데이터량보다 작지 않은 경우, 디코딩 장치는 상기 (제1) 움직임 정보를 저장할 수 있다.
한편, 비록 도시되지는 않았으나 디코딩 장치는 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보의 비교를 통한 갱신 여부 판단 없이 상기 수정된 움직임 정보가 도출된 경우 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신할 수 있다.
한편, 저장되는 움직임 정보와 전송을 위한 움직임 정보는 서로 다른 해상도를 가질 수 있다. 다시 말해, 상기 수정된 움직임 정보에 포함된 움직임 벡터의 단위와 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보에 포함된 움직임 벡터의 단위는 서로 다른 단위를 가질 수 있다. 예를 들어, 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보의 움직임 벡터의 단위는 1/4 분수 샘플 단위를 나타낼 수 있고, 디코딩 장치에서 계산된 상기 수정된 움직임 정보의 움직임 벡터의 단위는 1/8 분수 샘플 또는 1/16 분수 샘플 단위를 나타낼 수 있다. 디코딩 장치는 상기 수정된 움직임 정보를 계산하는 과정에서 저장에 필요한 해상도로 조절할 수 있고, 또는 상기 수정된 움직임 정보를 저장하는 과정에서 연산(예를 들어 반올림 또는 곱셈 등)을 통하여 조절할 수도 있다. 상기 수정된 움직임 정보의 움직임 벡터의 해상도가 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보의 움직임 벡터의 해상도보다 높은 경우, 시간축 주변 움직임 정보 계산을 위한 스케일링 연산에 대하여 정확도를 높일 수 있다. 또한, 움직임 정보의 전송과 내부 처리의 해상도가 다른 디코딩 장치인 경우, 내부 처리 기준에 맞춰 디코딩을 수행할 수 있다는 효과를 얻을 수 있다.
한편, 상기 수정된 움직임 정보를 계산하기 위한 방법 중 상기 블록 매칭 방법이 적용되는 경우, 상기 수정된 움직임 정보는 다음과 같이 도출될 수 있다. 상기 블록 매칭 방법은 인코딩 장치에서 사용되는 움직임 추정 방법으로 나타날 수 있다.
코딩 장치는 대상 블록과 참조 블록과의 위상(phase)에 따른 샘플간의 차분값들을 누적하여 왜곡의 정도를 측정하고, 이를 비용함수로 사용하여 상기 대상 블록과 가장 유사한 참조 블록을 도출할 수 있다. 즉, 코딩 장치는 상기 대상 블록의 복원 블록(또는 원본 블록)과의 레지듀얼(residual)이 최소인 참조 블록을 기반으로 상기 대상 블록의 수정된 움직임 정보를 도출할 수 있다. 상기 레지듀얼이 최소인 참조 블록은 특정 참조 블록이라고 불릴 수 있다. 상기 샘플들간의 차분값들을 나타내는 함수로는 SAD(sum of absolute differences)와 MSE(mean squared error)가 사용될 수 있다. 상기 대상 블록과 상기 참조 블록과의 위상(phase)에 따른 샘플간의 차분값들의 절대값을 누적하여 왜곡의 정도를 측정하는 SAD는 다음과 같은 수학식을 기반으로 도출될 수 있다.
Figure PCTKR2016014167-appb-M000001
여기서, Blockcur(i,j)는 상기 대상 블록의 상기 복원 블록(또는 원본 블록) 내 (i,j) 좌표의 복원 샘플(또는 원본 샘플), Blockref(i,j)는 상기 참조 블록 내 (i,j) 좌표의 복원 샘플, width는 상기 복원 블록(또는 원본 블록)의 너비, height는 상기 복원 블록(또는 원본 블록)의 높이를 나타낸다.
또한, 상기 대상 블록과 상기 참조 블록과의 위상에 따른 샘플간의 차분값들의 제곱값을 누적하여 왜곡의 정도를 측정하는 MSE는 다음과 같은 수학식을 기반으로 도출될 수 있다.
Figure PCTKR2016014167-appb-M000002
여기서, Blockcur(i,j)는 상기 대상 블록의 상기 복원 블록(또는 원본 블록) 내 (i,j) 좌표의 복원 샘플(또는 원본 샘플), Blockref(i,j)는 상기 참조 블록 내 (i,j) 좌표의 복원 샘플, width는 상기 복원 블록(또는 원본 블록)의 너비, height는 상기 복원 블록(또는 원본 블록)의 높이를 나타낸다.
상기 수정된 움직임 정보를 계산하기 위한 방법들은 상기 특정 참조 블록을 탐색하는 탐색 범위에 따라서 계산 복잡도가 유동적으로 변할 수 있다. 이에, 상기 블록 매칭 방법을 사용하여 상기 대상 블록의 상기 수정된 움직임 정보를 계산하는 경우, 디코딩 장치는 상기 대상 블록의 디코딩 과정에서 사용된 상기 (제1) 움직임 정보를 통하여 도출된 참조 블록으로부터 일정 영역에 포함된 참조 블록들만을 탐색할 수 있고, 이를 통하여 낮은 계산 복잡도를 유지할 수 있다.
도 6은 디코딩 장치가 블록 매칭 방법을 통하여 상기 대상 블록의 움직임 정보를 갱신하는 방법의 일 예를 예시적으로 나타낸다. 디코딩 장치는 상기 대상 블록을 디코딩한다(S600). 상기 대상 블록에 인터 예측이 적용되는 경우, 디코딩 장치는 비트스트림을 통하여 상기 대상 블록의 인터 예측에 대한 정보를 획득할 수 있고, 상기 대상 블록의 복원 블록을 생성할 수 있다. 인코딩 장치에서 적용된 상기 대상 블록의 움직임 정보를 갱신하는 방법이 디코딩 장치에서도 동일하게 적용되어야 하므로, 인코딩 장치 및 디코딩 장치는 상기 대상 블록의 복원 블록을 기반으로 상기 대상 블록의 수정된 움직임 정보를 계산할 수 있다.
디코딩 장치는 상기 복원 블록을 사용하여 상기 수정된 움직임 정보에 대한 참조 픽처에서 움직임 추정을 수행한다(S610). 디코딩 장치는 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보에 대한 참조 픽처를 상기 수정된 움직임 정보에 대한 특정 참조 픽처로 도출할 수 있고, 상기 참조 픽처 내 참조 블록들 중 특정 참조 블록을 검출할 수 있다. 상기 특정 참조 블록은 상기 참조 블록들 중 상기 복원 블록과의 샘플들간의 차분값들의 절대값의 합, 즉, SAD(sum of absolute differences)가 최소인 참조 블록일 수 있다. 또한, 디코딩 장치는 상기 특정 참조 블록을 검출하기 위한 탐색 영역을 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보를 통하여 나타나는 참조 블록으로부터 일정 영역으로 한정할 수 있다. 다시 말해, 디코딩 장치는 상기 참조 블록으로부터 일정 영역 내에 위치하는 참조 블록들 중 상기 복원 블록과의 SAD가 최소인 참조 블록을 상기 특정 참조 블록으로 도출할 수 있다. 디코딩 장치는 상기 참조 블록으로부터 일정 영역에서만 움직임 추정을 수행할 수 있고, 이를 통하여 계산 복잡도를 낮추면서 상기 수정된 움직임 정보의 신뢰도를 높일 수 있다.
상기 대상 블록의 복원 블록의 사이즈가 특정의 사이즈보다 큰 경우, 보다 정교한 상기 수정된 움직임 정보를 계산하기 위하여 디코딩 장치는 상기 복원 블록을 상기 특정의 사이즈보다 작은 블록들로 분할하여 각각의 작은 블록을 기반으로 보다 세밀한 움직임 정보를 계산한다(S620). 상기 특정의 사이즈는 기설정될 수 있고, 상기 분할된 블록들은 서브 복원 블록들이라고 불릴 수 있다. 디코딩 장치는 상기 복원 블록을 복수의 서브 복원 블록들로 분할할 수 있고, 상기 서브 복원 블록들을 기반으로 상기 수정된 움직임 정보에 대한 참조 픽처 내에서 상기 각 서브 복원 블록 단위로 특정 서브 참조 블록을 도출할 수 있고, 상기 도출된 특정 서브 참조 블록들을 상기 특정 참조 블록을 도출할 수 있다. 디코딩 장치는 상기 특정 참조 블록을 기반으로 상기 수정된 움직임 정보를 계산할 수 있다.
한편, 상기 수정된 움직임 정보를 계산하기 위한 방법 중 상기 OF(optical flow) 방법이 적용되는 경우, 상기 수정된 움직임 정보는 다음과 같이 도출될 수 있다. 상기 OF 방법은 화면 내에서 객체가 어떻게 움직이고 있는가를 추적하는데 주로 사용되는 방법으로 나타낼 수 있다. 상기 OF 방법은 영상에서 상기 대상 블록 내 객체의 속도가 일정하고 상기 객체를 나타내는 샘플의 샘플값은 변화하지 않는다는 가정을 기반으로 계산될 수 있다. 상기 객체가 시간 δt 동안 x축 방향으로 δx, y축 방향으로 δy을 이동한 경우, 다음과 같은 수학식이 성립될 수 있다.
Figure PCTKR2016014167-appb-M000003
여기서, I(x,y,t)는 상기 대상 블록에 포함된 시간 t에서의 상기 객체를 나타내는 (x,y) 위치의 복원 샘플의 샘플값을 나타낸다.
상기 수학식 3에서 우측 항을 테일러 시리즈(taylor series)로 전개하면, 다음과 같은 수학식이 도출될 수 있다.
Figure PCTKR2016014167-appb-M000004
상기 수학식 4가 성립하는 경우, 다음과 같은 수학식이 성립될 수 있다.
Figure PCTKR2016014167-appb-M000005
상기 수학식 5를 다시 쓰면 다음과 같은 수학식이 도출될 수 있다.
Figure PCTKR2016014167-appb-M000006
여기서, vx는 계산된 움직임 벡터의 x축 벡터 성분, vy는 계산된 움직임 벡터의 y축 벡터 성분을 나타낸다. 디코딩 장치는 상기 객체를 x축, y축, 및 t축으로 편미분한 값들을 도출하고, 상기 도출된 편미분한 값들을 상기 수학식에 적용하여 상기 현재 위치, 즉, 객체를 나타내는 복원 샘플의 위치의 움직임 벡터 (vx, vy)를 도출할 수 있다. 이 경우, 예를 들어 디코딩 장치는 상기 객체를 나타내는 상기 대상 블록의 복원 블록 내 복원 샘플들을 3x3 사이즈의 영역 단위에 포함되는 복원 샘플들로 설정할 수 있고, 상기 복원 샘플들에 상기 수학식을 적용하여 좌항을 0에 가깝게 만드는 움직임 벡터 (vx, vy)를 계산할 수 있다.
코딩 장치에 의하여 계산된 대상 블록의 수정된 움직임 정보의 저장되는 형식은 다양한 형식을 가질 수 있지만, 상기 대상 블록의 코딩 과정 이후에 코딩되는 상기 대상 블록 주변의 다음 블록이나 상기 대상 블록이 포함된 대상 픽처의 코딩 과정 이후에 코딩되는 픽처를 위하여 사용될 수 있으므로 상기 대상 블록의 예측에 사용된 움직임 정보와 동일한 형식으로 저장되는 것이 유리할 수 있다. 상기 예측에 사용된 움직임 정보는 단예측(uni-prediction) 또는 쌍예측(bi-prediction) 움직임 정보 여부, 참조 픽처 인덱스, 및 움직임 벡터를 포함할 수 있다. 상기 수정된 움직임 정보는 상기 예측에 사용된 움직임 정보와 동일한 형식을 갖도록 계산될 수 있다.
쌍예측은 상기 대상 픽처의 참조 픽처가 하나밖에 없는 경우, 즉, 상기 대상 픽처의 POC(picture order count)의 값이 1인 경우를 제외하면 수행 가능할 수 있다. 일반적으로, 인코딩 장치가 단예측을 수행하는 경우보다 쌍예측을 수행하는 경우에 예측 성능이 높을 수 있다. 따라서, 상기 대상 픽처가 쌍예측이 수행 가능한 경우, 정확한 움직임 정보의 전파로 영상의 전체적인 코딩 효율을 향상시키기 위하여 코딩 장치는 상술한 방법을 통해 상기 대상 블록의 수정된 움직임 정보를 쌍예측 움직임 정보로 계산하고 갱신할 수 있다. 다만 상기 대상 픽처가 쌍예측이 수행 가능한 경우이더라도, 즉, 상기 대상 픽처의 POC의 값이 1이 아니더라도 가려진 영역(occlusion)이 발생하여 쌍예측이 수행 가능하지 않은 경우가 발생할 수 있다. 상기 가려진 영역은 상기 수정된 움직임 정보를 기반으로 움직임 보상하여 도출된 예측 블록의 샘플값들과 상기 대상 블록의 복원 블록(또는 원본 블록)의 샘플값들과의 차분값들의 절대값들의 합이 특정의 임계값보다 크면 발생한 것으로 판단될 수 있다. 예를 들어, 상기 대상 블록의 상기 수정된 움직임 정보가 쌍예측 움직임 정보인 경우, 상기 수정된 움직임 정보에 포함된 L0 움직임 벡터를 기반으로 도출된 특정 참조 블록의 샘플값들과 상기 대상 블록의 복원 블록(또는 원본 블록)의 샘플값들과의 차분값들의 절대값들의 합이 특정의 임계값보다 크면 상기 L0에 대한 예측은 가려진 영역이 발생한 것으로 판단될 수 있다. 또한, 상기 수정된 움직임 정보에 포함된 L1 움직임 벡터를 기반으로 도출된 특정 참조 블록의 샘플값들과 상기 대상 블록의 복원 블록(또는 원본 블록)의 샘플값들과의 차분값들의 절대값들의 합이 특정의 임계값보다 크면 상기 L1에 대한 예측은 가려진 영역이 발생한 것으로 판단될 수 있다. L0 및 L1 중 하나에 대한 예측에 가려진 영역이 발생한 경우에는 코딩 장치는 상기 수정된 움직임 정보를 상기 가려진 영역이 발생한 리스트에 대한 예측에 대한 정보를 제외한 단예측 움직임 정보로 도출할 수 있다.
상기 L0 및 상기 L1에 대한 예측에 상기 가려진 영역이 발생하거나, 상기 수정된 움직임 정보를 계산할 수 없는 경우에는 상기 대상 블록의 주변 블록의 움직임 정보를 사용하여 상기 대상 블록의 움직임 정보를 갱신하는 방법이 적용될 수 있고, 또는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신하지 않는 방법이 적용될 수 있다. 정확한 움직임 정보를 저장하여 전파하기 위하여 상술한 경우에는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신하지 않는 방법이 더 적절할 수 있다.
상기 수정된 움직임 정보의 L0 참조 픽처 인덱스 및 L1 참조 픽처 인덱스는 각 참조 픽처 리스트(상기 L0 또는 상기 L1) 중 하나의 참조 픽처를 가리킬 수 있다. 상기 수정된 움직임 정보의 참조 픽처 인덱스가 가리키는 참조 픽처는 특정 참조 픽처라고 불릴 수 있다. 상기 각 참조 픽처 리스트의 여러 참조 픽처들 중 하나의 참조 픽처를 선택하는 방법은 후술하는 내용과 같을 수 있다.
예를 들어, 인코딩 장치는 참조 픽처 리스트에 포함된 참조 픽처들 중 가장 최근에 인코딩된 참조 픽처를 선택할 수 있다. 즉, 인코딩 장치는 상기 참조 픽처 리스트에 포함된 참조 픽처들 중 가장 최근에 인코딩된 참조 픽처를 가리키는 상기 수정된 움직임 정보에 포함된 참조 픽처 인덱스를 생성할 수 있다.
또한, 인코딩 장치는 상기 참조 픽처 리스트 중 상기 현재 픽처의 POC(picture order count)와 가장 가까운 POC를 갖는 참조 픽처를 선택할 수 있다. 즉, 인코딩 장치는 상기 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 블록이 포함된 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 가리키는 상기 수정된 움직임 정보에 포함된 참조 픽처 인덱스를 생성할 수 있다.
또한, 인코딩 장치는 상기 참조 픽처 리스트 중 계층 구조상 낮은 계층에 속하는 참조 픽처를 선택할 수 있다. 낮은 계층에 속하는 참조 픽처는 I-슬라이스(slice)일 수 있고, 또는 낮은 QP(quantization parameter)가 적용되어 인코딩된 참조 픽처일 수 있다.
또한, 인코딩 장치는 상기 참조 픽처 리스트 중 움직임 보상의 신뢰도가 가장 높은 참조 블록을 포함하는 참조 픽처를 선택할 수 있다. 즉, 인코딩 장치는 상기 참조 픽처 리스트에 포함된 참조 픽처들에 위치한 참조 블록들 중 상기 대상 블록의 복원 블록(또는 원본 블록)의 특정 참조 블록을 도출할 수 있고, 상기 도출된 특정 참조 블록을 포함하는 참조 픽처를 가리키는 상기 수정된 움직임 정보에 포함된 참조 픽처 인덱스를 생성할 수 있다.
상술한 상기 수정된 움직임 정보의 참조 픽처 인덱스를 생성하는 방법들은 독립적으로 적용될 수 있고, 또는 방법들을 복합적으로 적용하는 것도 가능할 수 있다.
상기 수정된 움직임 정보에 포함된 움직임 벡터는 상술한 내용과 같이 OF 방법, 블록 매칭 방법, 및 특징점 정합 방법 등의 방법 중 적어도 하나의 방법을 통하여 도출할 수 있고, 상기 움직임 벡터는 적어도 최소 블록 단위로 움직임 벡터를 갖도록 할 필요가 있을 수 있다.
도 7은 수정된 움직임 정보에 사용될 수 있는 참조 픽처들을 예시적으로 나타낸다.
도 7을 참조하면 상기 POC의 값이 3인 픽처가 대상 픽처인 경우, 상기 대상 픽처는 쌍예측을 수행할 수 있고, POC의 값이 2인 픽처 및 POC의 값이 4인 픽처가 상기 대상 픽처의 참조 픽처들로 도출될 수 있다. 상기 대상 픽처의 L0은 POC의 값이 2인 참조 픽처 및 POC의 값이 0인 참조 픽처로 구성될 수 있고, 각각 대응하는 L0 참조 픽처 인덱스들의 값은 0 및 1일 수 있다. 또한, 상기 대상 픽처의 L1은 POC의 값이 4인 참조 픽처 및 POC의 값이 8인 참조 픽처로 구성될 수 있고, 각각 대응하는 L1 참조 픽처 인덱스들의 값은 0 및 1일 수 있다. 이 경우, 인코딩 장치는 상기 대상 픽처의 수정된 움직임 정보의 특정 참조 픽처들을 각 참조 픽처 리스트의 참조 픽처들 중 상기 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처로 선택할 수 있다. 또한, 인코딩 장치는 상기 대상 픽처 내 4x4 사이즈의 블록 단위로 상기 수정된 움직임 정보의 움직임 벡터를 도출할 수 있다. 상기 움직임 벡터를 도출하는 방법은 상술한 OF 방법이 적용될 수 있고, 상기 POC의 값이 2인 참조 픽처를 기반으로 도출된 움직임 벡터는 상기 수정된 움직임 정보에 포함된 L0 움직임 정보로 저장될 수 있고, 상기 POC의 값이 4인 참조 픽처를 기반으로 도출된 움직임 벡터는 상기 수정된 움직임 정보에 포함된 L1 움직임 정보로 저장될 수 있다.
또한, 도 7을 참조하면 상기 POC의 값이 8인 픽처가 대상 픽처인 경우, 상기 대상 픽처는 단예측을 수행할 수 있고, POC의 값이 0인 픽처가 상기 대상 픽처의 참조 픽처로 도출될 수 있다. 상기 대상 픽처의 L0은 POC의 값이 0인 참조 픽처로 구성될 수 있고, 상기 참조 픽처에 대응하는 L0 참조 픽처 인덱스의 값은 0일 수 있다. 이 경우, 인코딩 장치는 상기 대상 픽처의 수정된 움직임 정보의 특정 참조 픽처를 상기 L0에 포함된 참조 픽처들 중 상기 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처로 선택할 수 있다. 또한, 인코딩 장치는 상기 현재 픽처 내 4x4 사이즈의 블록 단위로 상기 수정된 움직임 정보의 움직임 벡터를 도출할 수 있다. 상기 움직임 벡터를 도출하는 방법은 상술한 블록 매칭 방법이 적용될 수 있고, 상기 POC의 값이 0인 참조 픽처를 기반으로 도출된 움직임 벡터는 상기 수정된 움직임 정보에 포함된 L0 움직임 정보로 저장될 수 있다.
상술한 실시 예들을 참조하면 상기 대상 블록의 상기 수정된 움직임 정보의 참조 픽처 인덱스는 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 가리키도록 도출될 수 있고, 상기 수정된 움직임 정보의 움직임 벡터의 계산은 4x4 사이즈의 블록 단위로 계산될 수 있다. 대상 픽처가 POC 8인 픽처인 경우, 상기 대상 픽처가 도 7에 도시된 픽처들 중 첫 번째로 인터 예측이 수행되는 픽처이므로 단예측이 수행되지만, 대상 픽처가 POC 3인 픽처인 경우, 양예측이 수행 가능하므로 상기 대상 픽처의 수정된 움직임 정보는 양예측 움직임 정보로 결정될 수 있다. 또한, 대상 픽처가 POC 3인 픽처인 경우라도 대상 픽처 내 블록 단위로 수정된 움직임 정보를 계산 및 갱신하는 경우, 인코딩 장치는 양예측 움직임 정보 및 단예측 움직임 정보 중 하나의 움직임 정보 형식의 선택을 블록 단위로 결정할 수 있다.
또한, 상술한 실시예와 다르게 상기 수정된 움직임 정보의 참조 픽처 인덱스를 참조 픽처 리스트에 포함된 참조 픽처들 중 현재 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처가 아닌 계층 구조에 의하여 선택된 참조 픽처를 가리키도록 생성할 수 있다. 예를 들어, 대상 픽처가 POC 5인 픽처인 경우, 상기 대상 픽처의 수정된 움직임 정보의 L0 참조 픽처 인덱스는 POC의 값이 4인 픽처가 아닌 POC의 값이 0인 픽처를 가리킬 수 있다. 상기 대상 픽처의 인코딩 과정을 수행한 후의 시점에서 가장 최근에 인코딩된 참조 픽처는 대부분 상기 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 지칭할 수 있다. 하지만, 상기 POC의 값이 6인 픽처의 경우와 같이, 가장 최근에 인코딩된 참조 픽처는 POC의 값이 2인 참조 픽처이고, 상기 대상 픽처의 POC와의 차이의 절대값이 가장 작은 POC를 갖는 픽처는 POC의 값이 4인 참조 픽처로 다른 참조 픽처를 지칭하는 경우도 발생할 수 있다.
상술한 방법을 통하여 대상 블록의 움직임 정보가 상기 수정된 움직임 정보로 갱신된 경우, 상기 수정된 움직임 정보를 이용하여 상기 대상 블록 주변의 다음 블록의 인터 예측을 수행할 수 있다(상기 대상 블록은 제1 블록이라고 불릴 수 있고, 상기 다음 블록은 제2 블록이라고 불릴 수 있다). 상기 다음 블록의 인터 예측 모드에 상기 수정된 움직임 정보를 이용하는 방법은 상기 수정된 움직임 정보를 인덱싱(indexing)하여 전송하는 방법과 상기 다음 블록의 움직임 벡터를 상기 대상 블록의 움직임 벡터와 상기 다음 블록의 움직임 벡터와의 차분값으로 표현하는 방법을 포함할 수 있다. 상기 수정된 움직임 정보를 인덱싱하여 전송하는 방법은 상기 다음 블록에 인터 예측 모드 중 머지 모드가 적용되는 경우의 방법일 수 있고, 상기 다음 블록의 움직임 벡터를 상기 대상 블록의 움직임 벡터와 상기 다음 블록의 움직임 벡터와의 차분값으로 표현하는 방법은 상기 주변 블록에 인터 예측 모드 중 AMVP 모드가 적용되는 경우의 방법일 수 있다.
도 8은 대상 블록들의 움직임 정보들이 상기 대상 블록들의 수정된 움직임 정보들로 갱신된 경우에 상기 대상 블록들 주변의 다음 블록의 머지 후보 리스트의 일 예를 예시적으로 나타낸다. 도 8을 참조하면 코딩 장치는 상기 대상 블록들을 포함하는 상기 다음 블록의 상기 머지 후보 리스트를 구성할 수 있다. 인코딩 장치는 상기 머지 후보 리스트에 포함된 블록들 중 상기 다음 블록의 움직임 정보와 가장 유사한 블록을 가리키는 머지 인덱스를 전송할 수 있다. 이 경우, 상기 대상 블록들의 갱신된 움직임 정보들은 상기 다음 블록의 공간적 주변 후보 블록의 움직임 정보로 사용될 수 있고, 또는 시간적 주변 후보 블록의 움직임 정보로 사용될 수 있다. 상기 대상 블록들의 움직임 정보들은 상기 대상 블록들의 상기 수정된 움직임 정보들을 포함할 수 있다. 도 8에 도시된 것과 같이 상기 공간적 주변 후보 블록의 움직임 정보는 A1, B1, B0, A0, 및 B2 위치에 상기 다음 블록 주변의 블록들의 저장된 움직임 정보들 중 하나의 움직임 정보로 나타낼 수 있다. 상기 다음 블록의 인코딩 이전에 인코딩된 대상 블록들의 움직임 정보들은 갱신될 수 있고, 갱신된 움직임 정보는 상기 다음 블록의 인코딩 과정에 영향을 줄 수 있다. 머지 모드를 통하여 오류를 포함한 움직임 정보가 상기 다음 블록에 전파되는 경우, 오류가 누적되어 전파될 수 있지만 상술한 방법들을 통하여 각 블록마다 움직임 정보를 갱신함으로써 전파되는 오류를 줄일 수 있다.
도 9는 대상 블록들의 움직임 정보들이 상기 대상 블록들의 수정된 움직임 정보들로 갱신된 경우에 상기 대상 블록들 주변의 다음 블록의 머지 후보 리스트의 일 예를 예시적으로 나타낸다. 상기 다음 블록 주변의 상기 대상 블록의 예측에 사용된 (제1) 움직임 정보 및 수정된 움직임 정보가 저장될 수 있다. 이 경우, 코딩 장치는 상기 다음 블록의 머지 후보 리스트에 새롭게 계산된 대상 블록의 수정된 움직임 정보를 나타내는 상기 대상 블록을 별도의 머지 후보 블록으로 구성할 수 있다. 도 9에서 도시된 것과 같이 상기 다음 블록 주변의 대상 블록의 인코딩 과정에서 적용된 (제1) 움직임 정보를 나타내는 대상 블록 다음에 상기 대상 블록의 수정된 움직임 정보를 나타내는 상기 대상 블록을 머지 후보 리스트에 삽입할 수도 있다. 또한, 상기 머지 후보 리스트의 우선 순위는 변경될 수 있고 삽입되는 위치와 개수 등도 다르게 구성될 수 있다.
비록 도 9에서는 수정된 움직임 정보가 도출되는 대상 블록들의 예로 A1 및 B1를 예시적으로 도시하고 있으나, 이는 예시이고, 나머지 A0, B0, B2, T0 및 T1에 대하여도 수정된 움직임 정보들이 도출되어 이를 기반으로 상기 머지 후보 리스트가 구성될 수도 있다.
예를 들어, 상기 다음 블록은 상기 대상 블록과 다른 픽처에 위치할 수 있으며, 상기 다음 블록의 시간적 주변 후보 블록이 상기 머지 후보 리스트에 포함될 수 있다. 상기 다음 블록의 머지 인덱스를 통하여 상기 시간적 주변 후보 블록의 움직임 정보가 선택될 수 있다. 이 경우 상기 시간적 주변 후보 블록의 움직임 정보도 상술한 방법을 통하여 수정된 움직임 정보로 갱신될 수 있고, 상기 갱신된 움직임 정보를 나타내는 상기 시간적 주변 후보 블록이 상기 다음 블록의 머지 후보 리스트에 삽입될 수 있다. 또한, 상술한 방법을 통하여 상기 시간적 주변 후보 블록의 (제1) 움직임 정보와 상기 수정된 움직임 정보가 별도로 저장될 수 있고, 이 경우, 상기 다음 블록의 머지 후보 리스트의 생성 과정에서 상기 수정된 움직임 정보를 나타내는 상기 시간적 주변 후보 블록이 상기 머지 후보 리스트의 추가적인 후보로 삽입될 수 있다.
도 9에 도시된 내용과 다르게 상기 다음 블록에 AMVP 모드가 적용될 수도 있다. 상기 다음 블록의 AMVP 모드가 적용되는 경우, 코딩 장치는 상기 머지 모드와 같이 상기 다음 블록의 주변 블록들의 움직임 정보들을 기반으로 움직임 벡터 예측자 후보 리스트를 생성할 수 있다.
도 10은 대상 블록의 움직임 정보가 상기 대상 블록의 수정된 움직임 정보를 기반으로 갱신된 경우에 상기 대상 블록 주변의 다음 블록의 움직임 벡터 예측자 후보 리스트의 일 예를 예시적으로 나타낸다. 인코딩 장치는 상기 움직임 벡터 예측자 후보 리스트에 포함된 움직임 정보들 중 특정의 조건에 따라 움직임 정보를 선택할 수 있고, 상기 선택된 움직임 정보를 가리키는 인덱스 및 상기 선택된 움직임 정보의 움직임 벡터와 상기 다음 블록의 움직임 정보의 움직임 벡터와의 차분값(motion vector difference, MVD)을 전송할 수 있다. 상술한 머지 모드에서 머지 후보 리스트에 상기 다음 블록 주변의 갱신된 움직임 정보를 나타내는 블록을 공간적 또는 시간적 머지 후보 블록으로 삽입하는 방법과 같이 상기 AMVP 모드의 상기 주변 블록들의 움직임 정보들을 포함하는 리스트를 생성하는 과정도 상기 주변 블록의 갱신된 움직임 정보를 공간적 또는 시간적 움직임 벡터 예측자(motion vector predictor, MVP) 후보로 삽입하는 방법이 적용될 수 있다. 도 10에 도시된 것과 같이 코딩 장치는 상기 다음 블록 주변의 대상 블록 A0 및 대상 블록 A1의 갱신된 움직임 정보들을 화살표 방향 순서로 미리 정의된 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정 조건에 부합되는 갱신된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP A로 도출할 수 있다.
또한, 코딩 장치는 상기 다음 블록 주변의 대상 블록 B0, 대상 블록 B1, 및 대상 블록 B2의 갱신된 움직임 정보들을 화살표 방향 순서로 미리 정의된 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정 조건에 부합되는 갱신된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP B로 도출할 수 있다.
또한, 코딩 장치는 상기 다음 블록은 상기 대상 블록과 다른 픽처에 위치할 수 있으며, 상기 다음 블록의 시간적 MVP 후보가 상기 움직임 벡터 예측자 후보 리스트에 포함될 수 있다. 도 10에 도시된 것과 같이 코딩 장치는 상기 다음 블록의 참조 픽처에 위치하는 대상 블록 T0의 갱신된 움직임 정보에서 대상 블록 T1의 갱신된 움직임 정보로의 순서로 미리 정의된 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정 조건에 부합되는 갱신된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP Col로 도출할 수 있다. 상기 MVP A, 상기 MVP B, 및/또는 상기 MVP Col가 수정된 움직임 정보로 대체되어 갱신된 움직임 정보인 경우, 상기 갱신된 움직임 정보가 상기 다음 블록의 움직임 벡터 예측자 후보로 사용될 수 있다.
한편, 상기 움직임 벡터 예측자 후보 리스트의 MVP 후보들이 특정 개수보다 적게 도출된 경우, 코딩 장치는 영 벡터를 MVP 제로(zero)로 도출하여 상기 움직임 벡터 예측자 후보 리스트에 포함할 수 있다.
도 11은 대상 블록의 움직임 정보가 상기 대상 블록의 수정된 움직임 정보를 기반으로 갱신된 경우에 상기 대상 블록 주변의 다음 블록의 움직임 벡터 예측자 후보 리스트의 일 예를 예시적으로 나타낸다. 상기 대상 블록의 움직임 정보가 상기 수정된 움직임 정보 및 상기 기존 움직임 정보를 포함하는 갱신된 움직임 정보인 경우, 코딩 장치는 상기 다음 블록 주변의 대상 블록 A0 및 대상 블록 A1의 기존 움직임 정보들을 화살표 방향 순서로 특정의 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정의 조건에 부합되는 기존 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP A로 도출할 수 있다.
또한, 코딩 장치는 상기 대상 블록 A0 및 상기 대상 블록 A1의 수정된 움직임 정보들을 화살표 방향 순서로 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정의 조건에 부합되는 수정된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 갱신된(updated) MVP A로 도출할 수 있다.
또한, 코딩 장치는 상기 다음 블록 주변의 대상 블록 B0, 대상 블록 B1, 및 대상 블록 B2의 기존 움직임 정보들을 화살표 방향 순서로 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정 조건에 부합되는 기존 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP B로 도출할 수 있다.
또한, 코딩 장치는 상기 대상 블록 B0, 상기 대상 블록 B1, 및 상기 대상 블록 B2의 수정된 움직임 정보들을 화살표 방향 순서로 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정의 조건에 부합되는 갱신된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 갱신된 MVP B로 도출할 수 있다.
또한, 코딩 장치는 상기 다음 블록의 참조 픽처에 위치하는 대상 블록 T0의 기존 움직임 정보에서 대상 블록 T1의 기존 움직임 정보로의 순서로 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정의 조건에 부합되는 기존 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 MVP Col로 도출할 수 있다.
또한, 코딩 장치는 상기 다음 블록의 참조 픽처에 위치하는 대상 블록 T0의 수정된 움직임 정보에서 대상 블록 T1의 수정된 움직임 정보로의 순서로 특정 조건에 부합되는지 검출할 수 있고, 가장 먼저 검출된 상기 특정의 조건에 부합되는 수정된 움직임 정보를 상기 움직임 예측자 후보 리스트에 포함된 갱신된 MVP Col로 도출할 수 있다.
한편, 상기 움직임 벡터 예측자 후보 리스트의 MVP 후보들이 특정 개수보다 적게 도출된 경우, 코딩 장치는 영 벡터를 MVP 제로(zero)로 도출하여 상기 움직임 벡터 예측자 후보 리스트에 포함할 수 있다.
도 12은 본 발명에 따른 인코딩 장치에 의한 비디오 인코딩 방법을 개략적으로 나타낸다. 도 12에서 개시된 방법은 도 1에서 개시된 인코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 12의 S1200 내지 S1230은 상기 인코딩 장치의 예측부에 의하여 수행될 수 있고, S1240은 상기 인코딩 장치의 메모리에 의하여 수행될 수 있다.
인코딩 장치는 대상 블록에 대한 움직임 정보를 생성한다(S1200). 인코딩 장치는 상기 대상 블록에 대하여 인터 예측을 적용할 수 있다. 상기 대상 블록에 인터 예측이 적용되는 경우, 인코딩 장치는 스킵(skip) 모드, 머지(merge) 모드, 및 AMVP(adaptive motion vector prediction) 모드 중 어느 하나를 적용하여 대상 블록에 대한 움직임 정보를 생성할 수 있다. 상기 움직임 정보는 제1 움직임 정보라고 불릴 수 있다. 스킵 모드와 머지 모드의 경우에, 인코딩 장치는 상기 대상 블록의 주변 블록의 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보로 생성할 수 있다. 상기 움직임 정보는 움직임 벡터와 참조 픽처 인덱스를 포함할 수 있다. 상기 움직임 정보는 쌍예측(bi-prediction) 움직임 정보일 수 있고, 또는 단예측(uni-prediction) 움직임 정보일 수 있다. 상기 쌍예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터, L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있고, 상기 단예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터를 포함할 수 있고, 또는 L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있다. 상기 L0은 참조 픽처 리스트 L0(List 0)를 나타내고, 상기 L1은 참조 픽처 리스트 L1(List 1)를 나타낸다.
AMVP 모드의 경우, 인코딩 장치는 상기 대상 블록의 주변 블록의 움직임 벡터를 상기 대상 블록의 움직임 벡터 예측자(motion vector predictor, MVP)로 이용하여 상기 대상 블록의 움직임 벡터를 유도할 수 있고, 상기 움직임 벡터 및 상기 움직임 벡터에 대한 참조 픽처 인덱스를 포함한 상기 움직임 정보를 생성할 수 있다.
인코딩 장치는 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출한다(S1210). 인코딩 장치는 상기 움직임 정보에 포함된 참조 픽처 인덱스 및 움직임 벡터를 기반으로 상기 대상 블록의 예측 샘플을 생성할 수 있다.
인코딩 장치는 상기 예측 샘플을 기반으로 복원 블록을 생성한다(S1220). 인코딩 장치는 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성할 수 있고, 또는 상기 대상 블록의 레지듀얼 신호를 생성하고 상기 레지듀얼 신호 및 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성할 수 있다.
인코딩 장치는 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된 움직임 정보를 생성한다(S1230). 인코딩 장치는 다양한 방법을 통하여 상기 대상 블록의 상기 수정된 움직임 정보에 대한 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스 및 상기 특정 참조 픽처에 대한 수정된 움직임 벡터를 계산할 수 있다. 상기 수정된 움직임 정보는 제2 움직임 정보라고 불릴 수 있다. 상기 방법은 OF(optical flow) 방법, 블록 매칭(block-matching) 방법, 주파수 도메인(frequency domain) 방법 등의 직접적인 방법들, 및 특징점 정합 방법, 통계적 특성을 이용하는 방법 등의 간접적인 방법들 중 적어도 하나의 방법이 적용될 수 있다. 또한, 직접적인 방법과 간접적인 방법이 동시에 적용될 수도 있다.
예를 들어, 인코딩 장치는 상기 블록 매칭 방법을 통하여 상기 수정된 움직임 정보를 생성할 수 있다. 이 경우, 인코딩 장치는 상기 대상 블록의 복원 블록과 참조 블록과의 위상(phase)에 따른 샘플들간의 차분값들을 누적하여 왜곡의 정도를 측정하고, 이를 비용함수로 사용하여 상기 복원 블록의 특정 참조 블록을 검출할 수 있다. 인코딩 장치는 상기 검출된 특정 참조 블록을 기반으로 상기 수정된 움직임 정보를 생성할 수 있다. 다시 말해, 인코딩 장치는 상기 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스 및 상기 특정 참조 픽처에서 상기 특정 참조 블록을 가리키는 수정된 움직임 벡터를 포함하는 상기 수정된 움직임 정보를 생성할 수 있다. 인코딩 장치는 상기 특정 참조 픽처 내 참조 블록들 중 상기 대상 블록의 복원 블록과의 위상(phase)에 따른 샘플간의 차분값들의 절대값들(또는 제곱값들)의 합이 최소인 참조 블록을 상기 특정 참조 블록으로 검출할 수 있고, 상기 특정 참조 블록을 기반으로 상기 수정된 움직임 정보를 도출할 수 있다. 상기 차분값들의 절대값들의 합을 나타내는 방법으로 SAD(sum of absolute differences)가 사용될 수 있다. 이 경우 상기 차분값들의 절대값들의 합은 상술한 수학식 1을 적용하여 계산될 수 있다. 또한, 상기 차분값들의 제곱값들의 합을 나타내는 방법으로 MSE(mean squared error)가 사용될 수 있다. 이 경우 상기 차분값들의 제곱값들의 합은 상술한 수학식 2를 적용하여 계산될 수 있다.
또한, 상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처는 상기 (제1) 움직임 정보에 포함된 참조 픽처 인덱스가 가리키는 참조 픽처로 도출될 수 있고, 상기 특정 참조 블록을 검출하기 위한 탐색 영역은 상기 (제1) 움직임 정보에 포함된 상기 참조 픽처와 관련된 움직임 벡터를 기반으로 상기 참조 픽처 내에서 도출되는 참조 블록으로부터 일정 영역 내에 위치하는 참조 블록들로 한정할 수 있다. 즉, 인코딩 장치는 상기 (제1) 움직임 정보에 포함된 상기 참조 픽처와 관련된 움직임 벡터를 기반으로 상기 참조 픽처 내에서 도출되는 참조 블록으로부터 일정 영역 내에 위치하는 참조 블록들 중 상기 복원 블록과의 SAD가 최소인 참조 블록을 상기 특정 참조 블록으로 도출할 수 있다.
또한, 상기 복원 블록의 사이즈가 기설정된 사이즈보다 큰 경우, 상기 복원 블록을 복수의 서브 복원 블록들로 분할하고, 상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처 내에서 상기 각 서브 복원 블록 단위로 특정 서브 참조 블록을 도출할 수 있다. 이 경우, 인코딩 장치는 상기 도출된 특정 서브 참조 블록들을 기반으로 상기 특정 참조 블록을 도출할 수 있다.
다른 예로, 인코딩 장치는 상기 OF 방법을 통하여 상기 수정된 움직임 정보를 생성할 수 있다. 이 경우, 인코딩 장치는 영상에서 상기 대상 블록에 포함된 객체의 속도가 일정하고 상기 객체를 나타내는 샘플들의 샘플값들은 변화하지 않는다는 가정을 기반으로 상기 대상 블록의 상기 수정된 움직임 정보에 대한 움직임 벡터를 계산할 수 있다. 상기 움직임 벡터는 상술한 수학식 6을 통하여 계산될 수 있다. 상기 대상 블록에 포함된 객체를 나타내는 샘플들의 영역은 3x3 사이즈의 영역으로 설정될 수 있다.
상술한 방법들을 통하여 상기 수정된 움직임 정보를 계산하는 경우, 인코딩 장치는 상기 수정된 움직임 정보를 상기 (제1) 움직임 정보와 동일한 형식을 갖도록 계산할 수 있다. 즉, 인코딩 장치는 상기 수정된 움직임 정보를 쌍예측(bi-prediction) 움직임 정보 및 단예측(uni-prediction) 움직임 정보 중 상기 움직임 정보와 동일한 형식을 갖도록 계산할 수 있다. 상기 쌍예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터, L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있고, 상기 단예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터를 포함할 수 있고, 또는 L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있다. 상기 L0은 참조 픽처 리스트 L0(List 0)를 나타내고, 상기 L1은 참조 픽처 리스트 L1(List 1)를 나타낸다.
또한, 상기 대상 블록이 포함된 대상 픽처에서 쌍예측이 수행 가능한 경우, 인코딩 장치는 상술한 방법을 통하여 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산할 수 있다. 다만 상기 수정된 움직임 정보가 상기 쌍예측 움직임 정보로 계산한 이후, 상기 쌍예측 움직임 정보로 도출되는 특정 참조 블록들 중 하나에 가려진 영역(occlusion)이 발생하는 경우, 인코딩 장치는 상기 수정된 움직임 정보를 상기 가려진 영역이 발생한 특정 참조 블록이 포함된 특정 참조 픽처의 참조 픽처 리스트에 대한 움직임 정보를 제외한 단예측 움직임 정보로 도출할 수 있다. 상기 가려진 영역의 발생 여부는 상기 수정된 움직임 정보를 기반으로 도출된 참조 블록과 상기 대상 블록의 복원 블록과의 위상(phase)에 따른 샘플들 간의 차분값이 특정의 임계값보다 크면 발생한 것으로 판단될 수 있다. 상기 임계값은 기설정될 수 있다.
예를 들어, 인코딩 장치는 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산하고, 상기 수정된 움직임 정보의 L0 움직임 벡터 및 L0 참조 픽처 인덱스를 기반으로 도출되는 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 인코딩 장치는 상기 수정된 움직임 정보를 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 포함하는 단예측 움직임 정보로 도출할 수 있다.
다른 예로, 상기 인코딩 장치는 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산하고, 상기 수정된 움직임 정보의 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 기반으로 도출되는 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 인코딩 장치는 상기 수정된 움직임 정보를 L0 움직임 벡터 및 L0 참조 픽처 인덱스를 포함하는 단예측 움직임 정보로 도출할 수 있다.
또한, 상기 L0 움직임 벡터 및 상기 L0 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 크고, 상기 L1 움직임 벡터 및 상기 L1 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 인코딩 장치는 상기 대상 블록의 주변 블록의 움직임 정보를 상기 수정된 움직임 정보로 도출할 수 있고, 또는 상기 수정된 움직임 정보를 계산하지 않을 수 있다.
한편, 인코딩 장치는 상기 수정된 움직임 정보에 포함된 수정된 참조 픽처 인덱스가 가리키는 특정 참조 픽처를 다양한 방법을 통하여 선택할 수 있다.
예를 들어, 인코딩 장치는 상기 참조 픽처 리스트 L0에 포함된 참조 픽처들 중 가장 최근에 인코딩된 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L0 참조 픽처 인덱스를 생성할 수 있다. 또한, 인코딩 장치는 상기 참조 픽처 리스트 L1에 포함된 참조 픽처들 중 가장 최근에 인코딩된 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L1 참조 픽처 인덱스를 생성할 수 있다.
다른 예로, 인코딩 장치는 상기 L0 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 픽처의 POC(picture order count)와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L0 참조 픽처 인덱스를 생성할 수 있다. 또한, 인코딩 장치는 상기 L1 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 픽처의 POC(picture order count)와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L1 참조 픽처 인덱스를 생성할 수 있다.
다른 예로, 인코딩 장치는 상기 각 참조 픽처 리스트들에 포함된 참조 픽처들 중 계층 구조상 낮은 계층에 속하는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 생성할 수 있다. 상기 낮은 계층에 속하는 참조 픽처는 I-슬라이스(slice)일 수 있고, 또는 낮은 QP(quantization parameter)가 적용되어 인코딩된 참조 픽처일 수 있다.
다른 예로, 인코딩 장치는 상기 참조 픽처 리스트 중 움직임 보상의 신뢰도가 가장 높은 참조 블록을 포함하는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 생성할 수 있다. 다시 말해, 인코딩 장치는 상기 참조 픽처 리스트에 포함된 참조 픽처들을 기반으로 상기 대상 블록의 복원 블록의 특정 참조 블록을 도출하고, 상기 도출된 특정 참조 블록을 포함하는 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 생성할 수 있다.
상술한 상기 수정된 움직임 정보의 상기 수정된 참조 픽처 인덱스를 생성하는 방법들은 독립적으로 적용될 수 있고, 또는 방법들을 복합적으로 적용하는 것도 가능할 수 있다.
또한, 비록 도시되지는 않았으나 인코딩 장치는 상기 대상 블록의 원본 블록을 기반으로 상기 대상 블록의 수정된 움직임 정보를 생성할 수 있다. 인코딩 장치는 상기 참조 픽처들에 포함된 참조 블록들 중 상기 원본 블록의 특정 참조 블록을 도출할 수 있고, 상기 도출된 특정 참조 블록을 나타내는 상기 수정된 움직임 정보를 생성할 수 있다.
인코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신한다(S1240). 인코딩 장치는 상기 수정된 움직임 정보를 저장하고 상기 대상 블록의 상기 움직임 정보를 갱신할 수 있다. 인코딩 장치는 상기 대상 블록의 예측에 사용된 상기 움직임 정보를 상기 수정된 움직임 정보로 대체하여 상기 대상 블록의 상기 움직임 정보를 갱신할 수 있다. 또한, 인코딩 장치는 상기 대상 블록의 예측에 사용된 상기 움직임 정보 및 상기 수정된 움직임 정보를 모두 저장하여 상기 대상 블록의 상기 움직임 정보를 갱신할 수 있다. 상기 갱신된 움직임 정보는 상기 대상 블록 주변의 다음 블록의 움직임 정보를 위하여 사용될 수 있다. 예를 들어, 상기 대상 블록 주변의 다음 블록에 머지 모드가 적용되는 경우, 상기 다음 블록의 머지 후보 리스트는 상기 대상 블록을 포함할 수 있고, 상기 대상 블록의 상기 갱신된 움직임 정보는 상기 수정된 움직임 정보를 포함할 수 있다. 상기 대상 블록의 움직임 정보가 대상 블록의 예측에 사용된 상기 움직임 정보에서 상기 수정된 움직임 정보로 대체되어 저장된 경우, 상기 다음 블록의 머지 후보 리스트는 상기 수정된 움직임 정보를 나타내는 대상 블록이 포함될 수 있다. 또한, 상기 대상 블록의 움직임 정보에 대상 블록의 예측에 사용된 상기 움직임 정보 및 상기 수정된 움직임 정보 모두 저장된 경우, 상기 다음 블록의 머지 후보 리스트는 상기 대상 블록의 예측에 사용된 상기 움직임 정보를 나타내는 대상 블록과 상기 수정된 움직임 정보를 나타내는 대상 블록이 포함될 수 있다. 상기 수정된 움직임 정보를 나타내는 대상 블록은 상기 머지 후보 리스트 중 공간적 주변 후보 블록으로 삽입될 수 있고, 또는 상기 머지 후보 리스트 중 시간적 주변 후보 블록으로 삽입될 수 있다.
다른 예로, 상기 대상 블록 주변의 다음 블록에 AMVP 모드가 적용되는 경우, 상술한 머지 모드에서 머지 후보 리스트에 상기 다음 블록 주변의 대상 블록의 갱신된 움직임 정보를 공간적 또는 시간적 주변 움직임 정보로 삽입하는 방법과 같이 상기 다음 블록의 움직임 벡터 예측자 후보 리스트에 상기 주변 블록의 갱신된 움직임 정보를 공간적 또는 시간적 움직임 벡터 예측자 후보로 삽입하는 방법이 적용될 수 있다. 즉, 인코딩 장치는 상기 다음 블록 주변의 대상 블록의 갱신된 움직임 정보를 포함하는 상기 움직임 벡터 예측자 후보 리스트를 생성할 수 있다.
예를 들어, 상기 다음 블록 주변의 대상 블록의 상기 갱신된 움직임 정보가 수정된 움직임 정보만을 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 수정된 움직임 정보를 상기 공간적 움직임 벡터 예측자 후보로 포함할 수 있다.
다른 예로, 상기 다음 블록 주변의 대상 블록의 상기 갱신된 움직임 정보가 수정된 움직임 정보 및 상기 대상 블록의 기존 움직임 정보를 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 다음 블록 주변의 대상 블록들의 기존 움직임 정보들 중 특정의 조건에 따라 선택된 기존 움직임 정보와 상기 다음 블록 주변의 대상 블록들의 상기 수정된 움직임 정보들 중 특정의 조건에 따라 선택된 수정된 움직임 정보를 각각 별도의 공간적 움직임 벡터 예측자 후보로 포함할 수 있다.
한편, 상기 다음 블록의 상기 움직임 벡터 예측자 후보 리스트는 상기 다음 블록의 참조 픽처 내 상기 다음 블록의 위치와 동일한 위치의 동일 위치 블록(collocated block)의 갱신된 움직임 정보 및 상기 동일 위치 블록의 주변 블록의 갱신된 움직임 정보를 시간적 움직임 벡터 예측자 후보로 포함할 수 있다. 예를 들어, 상기 다음 블록의 상기 동일 위치 블록의 갱신된 움직임 정보 및 상기 동일 위치 블록의 주변 블록의 갱신된 움직임 정보가 각 블록의 상기 수정된 움직임 정보만을 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 수정된 움직임 정보들을 상기 시간적 움직임 벡터 예측자 후보로 포함할 수 있다.
다른 예로, 상기 갱신된 움직임 정보들이 상기 동일 위치 블록 및 상기 동일 위치 블록의 상기 주변 블록 각각의 상기 수정된 움직임 정보 및 상기 동일 위치 블록의 기존 움직임 정보를 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 기존 움직임 정보들 중 특정의 조건에 따라 선택된 기존 움직임 정보와 상기 수정된 움직임 정보들 중 특정의 조건에 따라 선택된 수정된 움직임 정보를 각각 별도의 시간적 움직임 벡터 예측자 후보로 포함할 수 있다.
한편, 저장되는 움직임 정보와 전송을 위한 움직임 정보는 서로 다른 해상도를 가질 수 있다. 예를 들어, 인코딩 장치가 상기 움직임 정보에 대한 정보를 인코딩하여 전송하고 상기 수정된 움직임 정보는 상기 대상 블록의 주변 블록의 움직임 정보를 위하여 저장하는 경우. 상기 움직임 정보에 포함된 움직임 벡터의 단위는 1/4 분수 샘플 단위를 나타낼 수 있고, 상기 수정된 움직임 정보에 포함된 움직임 벡터의 단위는 1/8 분수 샘플 단위 또는 1/16 분수 샘플 단위를 나타낼 수 있다.
한편, 비록 도시되지는 않았으나 인코딩 장치는 상기 대상 블록의 복원 블록을 기반으로 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보와의 비교 과정을 수행하여 상기 대상 블록의 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어, 인코딩 장치는 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 복원 블록과의 레지듀얼(residual) 신호의 데이터량과, 상기 움직임 정보를 기반으로 도출되는 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량을 비교하여 상기 대상 블록의 갱신 여부를 판단할 수 있다. 상기 데이터량들 중 상기 특정 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량이 더 작은 경우, 인코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하는 것으로 판단할 수 있다. 또한, 상기 데이터량들 중 상기 특정 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량이 더 작지 않은 경우, 인코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하지 않는 것으로 판단할 수 있다.
또한, 인코딩 장치는 상기 대상 블록의 원본 블록을 기반으로 상기 움직임 정보와 상기 수정된 움직임 정보와의 비교 과정을 수행하여 상기 대상 블록의 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어, 인코딩 장치는 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 원본 블록과의 레지듀얼(residual) 신호의 데이터량과, 상기 움직임 정보를 기반으로 도출되는 참조 블록과 상기 원본 블록과의 레지듀얼 신호의 데이터량을 비교하여 상기 대상 블록의 갱신 여부를 판단할 수 있다. 상기 데이터량들 중 상기 특정 참조 블록과 상기 원본 블록과의 레지듀얼 신호의 데이터량이 더 작은 경우, 인코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하는 것으로 판단할 수 있다. 또한, 상기 데이터량들 중 상기 특정 참조 블록과 상기 원본 블록과의 레지듀얼 신호의 데이터량이 더 작지 않은 경우, 인코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하지 않는 것으로 판단할 수 있다.
한편, 인코딩 장치는 상기 갱신 여부를 나타내는 부가 정보를 생성할 수 있고, 인코딩하여 비트스트림을 통하여 출력할 수 있다. 예를 들어 상기 갱신 여부를 나타내는 부가 정보는 갱신 플래그라고 불릴 수 있다. 상기 갱신 플래그의 값이 1인 경우 상기 움직임 정보가 갱신됨을 나타낼 수 있고, 상기 갱신 플래그의 값이 0인 경우 상기 움직임 정보가 갱신되지 않음을 나타낼 수 있다. 예를 들어 상기 갱신 플래그는 PU 단위로 전송될 수 있다. 또는 상기 갱신 플래그는 CU 단위, CTU 단위, 슬라이스 단위로 전송될 수도 있고, PPS(picture parameter set) 단위 또는 SPS(sequence parameter set) 단위와 같은 상위 레벨을 통하여 전송될 수도 있다.
한편, 인코딩 장치는 기존 움직임 벡터와 수정된 움직임 벡터 간의 차분을 나타내는 움직임 벡터 갱신 차분 정보를 더 생성하고, 인코딩하여 출력할 수도 있다. 상기 움직임 벡터 갱신 차분 정보는 상기 PU 단위로 전송될 수 있다.
비록 도시되지는 않았으나 인코딩 장치는 상기 대상 블록에 대한 레지듀얼 샘플에 관한 정보를 인코딩하여 출력할 수도 있다. 상기 레지듀얼 샘플에 관한 정보는 상기 레지듀얼 샘플에 관한 변환 계수들을 포함할 수 있다.
도 13은 본 발명에 따른 디코딩 장치에 의한 비디오 디코딩 방법을 개략적으로 나타낸다. 도 13에서 개시된 방법은 도 2에서 개시된 디코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 13의 S1300은 상기 디코딩 장치의 엔트로피 디코딩부에 의하여 수행될 수 있고, S1310 내지 S1340은 상기 디코딩 장치의 예측부에 의하여 수행될 수 있고, S1350은 상기 디코딩 장치의 메모리에 의하여 수행될 수 있다.
디코딩 장치는 비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득한다(S1300). 상기 대상 블록은 인터 예측 또는 인트라 예측이 적용될 수 있다. 상기 대상 블록에 인터 예측이 적용되는 경우, 디코딩 장치는 상기 비트스트림을 통하여 상기 대상 블록의 인터 예측에 대한 정보를 획득할 수 있다. 또한, 디코딩 장치는 디코딩 장치는 상기 비트스트림을 통하여 상기 대상 블록의 기존 움직임 벡터와 수정된 움직임 벡터 간의 차분을 나타내는 움직임 벡터 갱신 차분 정보를 획득할 수 있다. 또한, 디코딩 장치는 상기 비트스트림을 통하여 상기 대상 블록의 갱신 여부를 나타내는 부가 정보를 획득할 수 있다. 예를 들어 상기 갱신 여부를 나타내는 부가 정보는 갱신 플래그라고 불릴 수 있다.
디코딩 장치는 상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출한다(S1310). 상기 움직임 정보는 제1 움직임 정보라고 불릴 수 있다. 상기 인터 예측에 대한 정보는 상기 대상 블록에 스킵(skip) 모드, 머지(merge) 모드, 및 AMVP(adaptive motion vector prediction) 모드 중 어느 하나의 모드가 적용되는지 나타낼 수 있다. 상기 대상 블록에 스킵 모드 또는 머지 모드가 적용되는 경우, 디코딩 장치는 상기 대상 블록의 주변 블록들을 포함하는 머지 후보 리스트를 생성할 수 있고, 상기 머지 후보 리스트에 포함된 주변 블록들 중 하나의 주변 블록을 가리키는 머지 인덱스(merge index)를 획득할 수 있다. 상기 머지 인덱스는 상기 인터 예측에 대한 정보에 포함될 수 있다. 디코딩 장치는 상기 머지 인덱스가 가리키는 주변 블록의 움직임 정보를 상기 대상 블록의 움직임 정보로 도출할 수 있다.
상기 대상 블록에 AMVP 모드가 적용되는 경우, 디코딩 장치는 상기 머지 모드와 같이 상기 대상 블록의 주변 블록들을 기반으로 리스트를 생성할 수 있다. 디코딩 장치는 상기 생성된 리스트에 포함된 주변 블록들 중 하나의 주변 블록을 가리키는 인덱스 및 상기 인덱스가 가리키는 주변 블록의 움직임 벡터와 상기 대상 블록의 움직임 벡터와의 차분값(motion vector difference, MVD)을 획득할 수 있다. 상기 인덱스 및 상기 MVD는 상기 인터 예측에 대한 정보에 포함될 수 있다. 디코딩 장치는 상기 인덱스가 가리키는 주변 블록의 움직임 벡터 및 상기 MVD를 기반으로 상기 대상 블록의 상기 움직임 정보를 도출할 수 있다.
상기 움직임 정보는 움직임 벡터와 참조 픽처 인덱스를 포함할 수 있다. 상기 움직임 정보는 쌍예측(bi-prediction) 움직임 정보일 수 있고, 또는 단예측(uni-prediction) 움직임 정보일 수 있다. 상기 쌍예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터, L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있고, 상기 단예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터를 포함할 수 있고, 또는 L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있다. 상기 L0은 참조 픽처 리스트 L0(List 0)를 나타내고, 상기 L1은 참조 픽처 리스트 L1(List 1)를 나타낸다.
디코딩 장치는 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출한다(S1320). 디코딩 장치는 상기 움직임 정보에 포함된 참조 픽처 인덱스 및 움직임 벡터를 기반으로 상기 대상 블록의 예측 샘플을 생성할 수 있다.
디코딩 장치는 상기 예측 샘플을 기반으로 복원 블록을 생성한다(S1330). 상기 대상 블록에 스킵 모드가 적용되는 경우, 디코딩 장치는 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성할 수 있다. 상기 대상 블록에 머지 모드 또는 AMVP 모드가 적용되는 경우, 디코딩 장치는 상기 비트스트림을 통하여 대상 블록의 레지듀얼 신호를 획득할 수 있고, 상기 레지듀얼 신호 및 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성할 수 있다.
디코딩 장치는 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된 움직임 정보를 도출한다(S1340). 디코딩 장치는 다양한 방법을 통하여 상기 대상 블록의 상기 수정된 움직임 정보에 대한 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스 및 상기 특정 참조 픽처에 대한 수정된 움직임 벡터를 계산할 수 있다. 상기 수정된 움직임 정보는 제2 움직임 정보라고 불릴 수 있다. 상기 방법은 OF(optical flow) 방법, 블록 매칭(block-matching) 방법, 주파수 도메인(frequency domain) 방법 등의 직접적인 방법들, 및 특징점 정합 방법, 통계적 특성을 이용하는 방법 등의 간접적인 방법들 중 적어도 하나의 방법이 적용될 수 있다. 또한, 직접적인 방법과 간접적인 방법이 동시에 적용될 수도 있다.
예를 들어, 디코딩 장치는 상기 블록 매칭 방법을 통하여 상기 수정된 움직임 정보를 도출할 수 있다. 이 경우, 디코딩 장치는 상기 대상 블록의 복원 블록과 참조 블록과의 위상(phase)에 따른 샘플들간의 차분값들을 누적하여 왜곡의 정도를 측정하고, 이를 비용함수로 사용하여 상기 복원 블록의 특정 참조 블록을 검출할 수 있다. 디코딩 장치는 상기 검출된 특정 참조 블록을 기반으로 상기 수정된 움직임 정보를 도출할 수 있다. 다시 말해, 디코딩 장치는 상기 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스 및 상기 특정 참조 픽처에서 상기 특정 참조 블록을 가리키는 수정된 움직임 벡터를 포함하는 상기 수정된 움직임 정보를 도출할 수 있다. 디코딩 장치는 상기 특정 참조 픽처 내 참조 블록들 중 상기 대상 블록의 복원 블록과의 위상(phase)에 따른 샘플간의 차분값들의 절대값들(또는 제곱값들)의 합이 최소인 참조 블록을 상기 특정 참조 블록으로 검출할 수 있고, 상기 특정 참조 블록을 기반으로 상기 수정된 움직임 정보를 도출할 수 있다. 상기 차분값들의 절대값들의 합을 나타내는 방법으로 SAD(sum of absolute differences)가 사용될 수 있다. 이 경우 상기 차분값들의 절대값들의 합은 상술한 수학식 1을 적용하여 계산될 수 있다. 또한, 상기 차분값들의 제곱값들의 합을 나타내는 방법으로 MSE(mean squared error)가 사용될 수 있다. 이 경우 상기 차분값들의 제곱값들의 합은 상술한 수학식 2를 적용하여 계산될 수 있다.
또한, 상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처는 상기 (제1) 움직임 정보에 포함된 참조 픽처 인덱스가 가리키는 참조 픽처로 도출될 수 있고, 상기 특정 참조 블록을 검출하기 위한 탐색 영역은 상기 (제1) 움직임 정보에 포함된 상기 참조 픽처와 관련된 움직임 벡터를 기반으로 상기 특정 참조 픽처 내에서 도출되는 참조 블록으로부터 일정 영역 내에 위치하는 참조 블록들로 한정할 수 있다. 즉, 디코딩 장치는 상기 움직임 정보에 포함된 상기 참조 픽처와 관련된 움직임 벡터를 기반으로 상기 특정 참조 픽처 내에서 도출되는 참조 블록으로부터 일정 영역 내에 위치하는 참조 블록들 중 상기 복원 블록과의 SAD가 최소인 참조 블록을 상기 특정 참조 블록으로 도출할 수 있다.
또한, 상기 복원 블록의 사이즈가 기설정된 사이즈보다 큰 경우, 상기 복원 블록을 복수의 서브 복원 블록들로 분할하고, 상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처 내에서 상기 각 서브 복원 블록 단위로 특정 서브 참조 블록을 도출할 수 있다. 이 경우, 디코딩 장치는 상기 도출된 특정 서브 참조 블록들을 기반으로 상기 특정 참조 블록을 도출할 수 있다.
다른 예로, 디코딩 장치는 상기 OF 방법을 통하여 상기 수정된 움직임 정보를 도출할 수 있다. 이 경우, 디코딩 장치는 영상에서 상기 대상 블록에 포함된 객체의 속도가 일정하고 상기 객체를 나타내는 샘플들의 샘플값들은 변화하지 않는다는 가정을 기반으로 상기 대상 블록의 상기 수정된 움직임 정보에 대한 수정된 움직임 벡터를 계산할 수 있다. 상기 움직임 벡터는 상술한 수학식 6을 통하여 계산될 수 있다. 상기 대상 블록에 포함된 객체를 나타내는 샘플들의 영역은 3x3 사이즈의 영역으로 설정될 수 있다.
상술한 방법들을 통하여 상기 수정된 움직임 정보를 계산하는 경우, 디코딩 장치는 상기 수정된 움직임 정보를 상기 (제1) 움직임 정보와 동일한 형식을 갖도록 계산할 수 있다. 즉, 디코딩 장치는 상기 수정된 움직임 정보를 쌍예측(bi-prediction) 움직임 정보 및 단예측(uni-prediction) 움직임 정보 중 상기 움직임 정보와 동일한 형식을 갖도록 계산할 수 있다. 상기 쌍예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터, L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있고, 상기 단예측 움직임 정보는 L0 참조 픽처 인덱스 및 L0 움직임 벡터를 포함할 수 있고, 또는 L1 참조 픽처 인덱스 및 L1 움직임 벡터를 포함할 수 있다. 상기 L0은 참조 픽처 리스트 L0(List 0)를 나타내고, 상기 L1은 참조 픽처 리스트 L1(List 1)를 나타낸다.
또한, 상기 대상 블록이 포함된 대상 픽처에서 쌍예측이 수행 가능한 경우, 디코딩 장치는 상술한 방법을 통하여 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산할 수 있다. 다만 상기 수정된 움직임 정보가 상기 쌍예측 움직임 정보로 계산한 이후, 상기 쌍예측 움직임 정보로 도출되는 참조 블록들 중 하나에 가려진 영역(occlusion)이 발생하는 경우, 디코딩 장치는 상기 수정된 움직임 정보를 상기 가려진 영역이 발생한 특정 참조 블록이 포함된 특정 참조 픽처의 참조 픽처 리스트에 대한 움직임 정보를 제외한 단예측 움직임 정보로 도출할 수 있다. 상기 가려진 영역의 발생 여부는 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 복원 블록과의 위상(phase)에 따른 샘플들 간의 차분값이 특정의 임계값보다 크면 발생한 것으로 판단될 수 있다. 상기 임계값은 기설정될 수 있다.
예를 들어, 상기 디코딩 장치는 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산하고, 상기 수정된 움직임 정보의 L0 움직임 벡터 및 L0 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 디코딩 장치는 상기 수정된 움직임 정보를 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 포함하는 단예측 움직임 정보로 도출할 수 있다.
다른 예로, 상기 디코딩 장치는 상기 수정된 움직임 정보를 쌍예측 움직임 정보로 계산하고, 상기 수정된 움직임 정보의 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 디코딩 장치는 상기 수정된 움직임 정보를 L0 움직임 벡터 및 L0 참조 픽처 인덱스를 포함하는 단예측 움직임 정보로 도출할 수 있다.
또한, 상기 L0 움직임 벡터 및 상기 L0 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 크고, 상기 L1 움직임 벡터 및 상기 L1 참조 픽처 인덱스를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상에 따른 샘플들 간의 차분값이 상기 기설정된 임계값보다 큰 경우, 디코딩 장치는 상기 대상 블록의 주변 블록의 움직임 정보를 상기 수정된 움직임 정보로 도출할 수 있고, 또는 상기 수정된 움직임 정보를 계산하지 않을 수 있다.
한편, 디코딩 장치는 상기 수정된 움직임 정보에 포함된 수정된 참조 픽처 인덱스가 가리키는 특정 참조 픽처를 다양한 방법을 통하여 선택할 수 있다.
예를 들어, 디코딩 장치는 상기 참조 픽처 리스트 L0에 포함된 참조 픽처들 중 가장 최근에 디코딩된 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L0 참조 픽처 인덱스를 도출할 수 있다. 또한, 디코딩 장치는 상기 참조 픽처 리스트 L1에 포함된 참조 픽처들 중 가장 최근에 디코딩된 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L1 참조 픽처 인덱스를 도출할 수 있다.
다른 예로, 디코딩 장치는 상기 L0 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 픽처의 POC(picture order count)와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L0 참조 픽처 인덱스를 도출할 수 있다. 또한, 디코딩 장치는 상기 L1 참조 픽처 리스트에 포함된 참조 픽처들 중 상기 대상 픽처의 POC(picture order count)와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 L1 참조 픽처 인덱스를 도출할 수 있다.
다른 예로, 디코딩 장치는 상기 각 참조 픽처 리스트들에 포함된 참조 픽처들 중 계층 구조상 낮은 계층에 속하는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 도출할 수 있다. 상기 낮은 계층에 속하는 참조 픽처는 I-슬라이스(slice)일 수 있고, 또는 낮은 QP(quantization parameter)가 적용되어 디코딩된 참조 픽처일 수 있다.
다른 예로, 디코딩 장치는 상기 참조 픽처 리스트 중 움직임 보상의 신뢰도가 가장 높은 참조 블록을 포함하는 참조 픽처를 선택하고, 상기 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 도출할 수 있다. 다시 말해, 디코딩 장치는 상기 참조 픽처 리스트에 포함된 참조 픽처들을 기반으로 상기 대상 블록의 복원 블록의 특정 참조 블록을 도출하고, 상기 도출된 특정 참조 블록을 포함하는 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스를 도출할 수 있다.
상술한 상기 수정된 움직임 정보의 수정된 참조 픽처 인덱스를 생성하는 방법들은 독립적으로 적용될 수 있고, 또는 방법들을 복합적으로 적용하는 것도 가능할 수 있다.
한편, 디코딩 장치는 상기 비트스트림을 통하여 상기 대상 블록의 기존 움직임 벡터와 수정된 움직임 벡터 간의 차분을 나타내는 움직임 벡터 갱신 차분 정보를 획득할 수 있다. 이 경우, 디코딩 장치는 상기 대상 블록의 상기 (제1) 움직임 정보와 상기 움직임 벡터 갱신 차분 정보를 더하여 상기 수정된 움직임 정보를 도출할 수 있다. 상기 움직임 벡터 갱신 차분 정보는 상기 PU 단위로 전송될 수 있다.
디코딩 장치는 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신한다(S1350). 디코딩 장치는 상기 수정된 움직임 정보를 저장하고 상기 대상 블록의 상기 움직임 정보를 갱신할 수 있다. 디코딩 장치는 상기 대상 블록의 예측에 사용된 상기 움직임 정보를 상기 수정된 움직임 정보로 대체하여 상기 대상 블록의 상기 움직임 정보를 갱신할 수 있다. 또한, 디코딩 장치는 상기 대상 블록의 예측에 사용된 상기 움직임 정보 및 상기 수정된 움직임 정보를 모두 저장하여 상기 대상 블록의 움직임 정보를 갱신할 수 있다. 상기 갱신된 움직임 정보는 상기 대상 블록 주변의 다음 블록의 움직임 정보를 위하여 사용될 수 있다.
예를 들어, 상기 대상 블록 주변의 다음 블록에 머지 모드가 적용되는 경우, 상기 다음 블록의 머지 후보 리스트는 상기 대상 블록을 포함할 수 있고, 상기 대상 블록의 상기 갱신된 움직임 정보는 상기 수정된 움직임 정보를 포함할 수 있다. 상기 대상 블록의 움직임 정보가 대상 블록의 예측에 사용된 상기 움직임 정보에서 상기 수정된 움직임 정보로 대체되어 저장된 경우, 상기 다음 블록의 머지 후보 리스트는 상기 수정된 움직임 정보를 나타내는 대상 블록이 포함될 수 있다. 또한, 상기 대상 블록의 움직임 정보에 대상 블록의 예측에 사용된 상기 움직임 정보 및 상기 수정된 움직임 정보 모두 저장된 경우, 상기 다음 블록의 머지 후보 리스트는 상기 대상 블록의 예측에 사용된 상기 움직임 정보를 나타내는 대상 블록과 상기 수정된 움직임 정보를 나타내는 대상 블록이 포함될 수 있다. 상기 수정된 움직임 정보를 나타내는 대상 블록은 상기 머지 후보 리스트 중 공간적 주변 후보 블록으로 삽입될 수 있고, 또는 상기 머지 후보 리스트 중 시간적 주변 후보 블록으로 삽입될 수 있다.
다른 예로, 상기 대상 블록 주변의 다음 블록에 AMVP 모드가 적용되는 경우, 상술한 머지 모드에서 머지 후보 리스트에 상기 다음 블록 주변의 대상 블록의 갱신된 움직임 정보를 공간적 또는 시간적 주변 움직임 정보로 삽입하는 방법과 같이 상기 다음 블록의 움직임 벡터 예측자 후보 리스트에 상기 주변 블록의 갱신된 움직임 정보를 공간적 또는 시간적 움직임 벡터 예측자 후보로 삽입하는 방법이 적용될 수 있다. 즉, 디코딩 장치는 상기 다음 블록 주변의 대상 블록의 갱신된 움직임 정보를 포함하는 상기 움직임 벡터 예측자 후보 리스트를 생성할 수 있다.
예를 들어, 상기 다음 블록 주변의 대상 블록의 상기 갱신된 움직임 정보가 수정된 움직임 정보만을 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 수정된 움직임 정보를 상기 공간적 움직임 벡터 예측자 후보로 포함할 수 있다.
다른 예로, 상기 다음 블록 주변의 대상 블록의 상기 갱신된 움직임 정보가 수정된 움직임 정보 및 상기 대상 블록의 기존 움직임 정보를 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 다음 블록 주변의 대상 블록들의 기존 움직임 정보들 중 특정의 조건에 따라 선택된 기존 움직임 정보와 상기 다음 블록 주변의 대상 블록들의 상기 수정된 움직임 정보들 중 특정의 조건에 따라 선택된 수정된 움직임 정보를 각각 별도의 공간적 움직임 벡터 예측자 후보로 포함할 수 있다.
한편, 상기 다음 블록의 상기 움직임 벡터 예측자 후보 리스트는 상기 다음 블록의 참조 픽처 내 상기 다음 블록의 위치와 동일한 위치의 동일 위치 블록(collocated block)의 갱신된 움직임 정보 및 상기 동일 위치 블록의 주변 블록의 갱신된 움직임 정보를 시간적 움직임 벡터 예측자 후보로 포함할 수 있다. 예를 들어, 상기 다음 블록의 상기 동일 위치 블록의 갱신된 움직임 정보 및 상기 동일 위치 블록의 주변 블록의 갱신된 움직임 정보가 각 블록의 상기 수정된 움직임 정보만을 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 수정된 움직임 정보들을 상기 시간적 움직임 벡터 예측자 후보로 포함할 수 있다.
다른 예로, 상기 갱신된 움직임 정보들이 상기 동일 위치 블록 및 상기 동일 위치 블록의 상기 주변 블록 각각의 상기 수정된 움직임 정보 및 상기 동일 위치 블록의 기존 움직임 정보를 포함하는 경우, 상기 움직임 벡터 예측자 후보 리스트는 상기 기존 움직임 정보들 중 특정의 조건에 따라 선택된 기존 움직임 정보와 상기 수정된 움직임 정보들 중 특정의 조건에 따라 선택된 수정된 움직임 정보를 각각 별도의 시간적 움직임 벡터 예측자 후보로 포함할 수 있다.
한편, 저장되는 움직임 정보와 전송을 위한 움직임 정보는 서로 다른 해상도를 가질 수 있다. 예를 들어, 디코딩 장치가 상기 움직임 정보에 대한 정보를 디코딩하여 전송하고 상기 수정된 움직임 정보는 상기 대상 블록의 주변 블록의 움직임 정보를 위하여 저장하는 경우. 상기 움직임 정보에 포함된 움직임 벡터의 단위는 1/4 분수 샘플 단위를 나타낼 수 있고, 상기 수정된 움직임 정보에 포함된 움직임 벡터의 단위는 1/8 분수 샘플 단위 또는 1/16 분수 샘플 단위를 나타낼 수 있다.
한편, 비록 도시되지는 않았으나 디코딩 장치는 상기 대상 블록의 복원 블록을 기반으로 상기 (제1) 움직임 정보와 상기 수정된 움직임 정보와의 비교 과정을 수행하여 상기 대상 블록의 상기 (제1) 움직임 정보의 갱신 여부를 판단할 수 있다. 예를 들어, 디코딩 장치는 상기 수정된 움직임 정보를 기반으로 도출된 특정 참조 블록과 상기 대상 블록의 복원 블록과의 레지듀얼(residual) 신호의 데이터량과, 상기 움직임 정보를 기반으로 도출되는 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량을 비교하여 상기 대상 블록의 갱신 여부를 판단할 수 있다. 상기 데이터량들 중 상기 특정 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량이 더 작은 경우, 디코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하는 것으로 판단할 수 있다. 또한, 상기 데이터량들 중 상기 특정 참조 블록과 상기 복원 블록과의 레지듀얼 신호의 데이터량이 더 작지 않은 경우, 디코딩 장치는 상기 대상 블록의 움직임 정보를 갱신하지 않는 것으로 판단할 수 있다.
한편, 디코딩 장치는 상기 비트스트림을 통하여 상기 대상 블록의 갱신 여부를 나타내는 부가 정보를 획득할 수 있다. 예를 들어 상기 갱신 여부를 나타내는 부가 정보는 갱신 플래그라고 불릴 수 있다. 상기 갱신 플래그의 값이 1인 경우 상기 움직임 정보가 갱신됨을 나타낼 수 있고, 상기 갱신 플래그의 값이 0인 경우 상기 움직임 정보가 갱신되지 않음을 나타낼 수 있다. 예를 들어 상기 갱신 플래그는 PU 단위로 전송될 수 있다. 또는 상기 갱신 플래그는 CU 단위, CTU 단위, 슬라이스 단위로 전송될 수도 있고, PPS(picture parameter set) 단위 또는 SPS(sequence parameter set) 단위와 같은 상위 레벨을 통하여 전송될 수도 있다.
상술한 본 발명에 따르면 대상 블록의 디코딩 과정 이후에 상기 대상 블록의 수정된 움직임 정보를 계산하여 더욱 정확한 움직임 정보로 갱신할 수 있고, 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.
또한, 본 발명에 따르면 갱신된 대상 블록의 움직임 정보를 기반으로 상기 대상 블록 주변의 다음 블록의 움직임 정보를 도출할 수 있어 왜곡의 전파를 줄일 수 있고, 이를 통하여 전체적인 코딩 효율을 향상시킬 수 있다.
상술한 실시예에서, 방법들은 일련의 단계 또는 블록으로써 순서도를 기초로 설명되고 있지만, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당업자라면 순서도에 나타내어진 단계들이 배타적이지 않고, 다른 단계가 포함되거나 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
상술한 본 발명에 따른 방법은 소프트웨어 형태로 구현될 수 있으며, 본 발명에 따른 인코딩 장치 및/또는 디코딩 장치는 예를 들어 TV, 컴퓨터, 스마트폰, 셋톱박스, 디스플레이 장치 등의 영상 처리를 수행하는 장치에 포함될 수 있다.
본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다. 프로세서는 ASIC(application-specific integrated circuit), 다른 칩셋, 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리는 ROM(read-only memory), RAM(random access memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다.

Claims (15)

  1. 디코딩 장치에 의하여 수행되는 영상 디코딩 방법에 있어서,
    비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득하는 단계;
    상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출하는 단계;
    상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하는 단계;
    상기 예측 샘플을 기반으로 복원 블록을 생성하는 단계;
    상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 도출하는 단계; 및
    상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신(update)하는 단계를 포함함을 특징으로 하는 영상 디코딩 방법.
  2. 제1항에 있어서,
    상기 대상 블록의 상기 움직임 정보의 갱신 여부를 판단하는 단계를 더 포함하되,
    상기 대상 블록의 상기 움직임 정보가 갱신되도록 판단된 경우, 상기 복원 블록을 기반으로 도출된 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 상기 움직임 정보를 갱신하는 것을 특징으로 하는 영상 디코딩 방법.
  3. 제1항에 있어서,
    상기 갱신된 움직임 정보는 상기 대상 블록 주변의 다음 블록의 움직임 정보 도출을 위하여 사용되는 것을 특징으로 하는 영상 디코딩 방법.
  4. 제1항에 있어서,
    상기 움직임 정보에 포함된 움직임 벡터의 단위가 1/4 분수 샘플 단위를 나타내는 경우, 상기 수정된 움직임 정보에 포함된 움직임 벡터의 단위는 1/8 분수 샘플 단위를 나타내는 것을 특징으로 하는 영상 디코딩 방법.
  5. 제1항에 있어서,
    상기 수정된 움직임 정보를 도출하는 단계는,
    참조 픽처들 중에서 상기 수정된 움직임 정보에 대한 특정 참조 픽처를 도출하는 단계;
    상기 특정 참조 픽처 내 참조 블록들 중 특정 참조 블록을 검출하는 단계; 및
    상기 특정 참조 픽처를 가리키는 수정된 참조 픽처 인덱스 및 상기 특정 참조 블록을 가리키는 수정된 움직임 벡터를 포함하는 상기 수정된 움직임 정보를 도출하는 단계를 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  6. 제5항에 있어서,
    상기 특정 참조 블록은 상기 특정 참조 픽처 내 참조 블록들 중 상기 복원 블록과의 SAD(sum of difference)가 최소인 참조 블록으로 도출되되, 상기 SAD는 다음의 수학식을 기반으로 결정되고,
    Figure PCTKR2016014167-appb-I000001
    여기서, Blockcur(i, j)는 상기 복원 블록 내 (i, j) 좌표의 복원 샘플, Blockref(i, j)는 참조 블록 내 (i, j) 좌표의 복원 샘플, width는 상기 복원 블록의 너비, 및 height는 상기 복원 블록의 높이를 나타내는 것을 특징으로 하는 영상 디코딩 방법.
  7. 제5항에 있어서,
    상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처는 상기 움직임 정보에 포함된 참조 픽처 인덱스가 가리키는 참조 픽처로 도출되고,
    상기 움직임 정보에 포함된 움직임 벡터를 기반으로 상기 특정 참조 픽처 내에서 도출되는 참조 블록으로부터 일정 영역 내에 포함되는 참조 블록들 중 상기 복원 블록의 SAD가 최소인 참조 블록이 상기 특정 참조 블록으로 도출되는 것을 특징으로 하는 영상 디코딩 방법.
  8. 제5항에 있어서,
    상기 특정 참조 블록을 도출하는 단계는,
    상기 복원 블록의 사이즈가 기설정된 사이즈보다 큰 경우, 상기 복원 블록을 복수의 서브 복원 블록들로 분할하는 단계;
    상기 수정된 움직임 정보에 대한 상기 특정 참조 픽처 내에서 상기 각 서브 복원 블록 단위로 특정 서브 참조 블록을 도출하는 단계;
    상기 도출된 특정 서브 참조 블록들을 기반으로 상기 특정 참조 블록을 도출하는 단계를 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  9. 제1항에 있어서,
    상기 대상 블록에 대한 수정된 움직임 정보는 상기 움직임 정보에 포함된 L0 움직임 벡터 및 L1 움직임 벡터에 기반하여 수행되는 OF(optical flow) 방법을 통하여 도출되는 것을 특징으로 하는 영상 디코딩 방법.
  10. 제1항에 있어서,
    상기 수정된 움직임 정보는 쌍예측(bi-prediction) 움직임 정보이되,
    상기 쌍예측 움직임 정보는 L0 움직임 벡터 및 L0 참조 픽처 인덱스, 그리고 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  11. 제1항에 있어서,
    상기 수정된 움직임 정보의 L0 움직임 벡터 및 L0 참조 픽처 인덱스를 기반으로 도출되는 특정 참조 블록과 상기 대상 블록의 상기 복원 블록과의 위상(phase)에 따른 샘플들 간의 차분값이 기설정된 임계값보다 큰 경우, 상기 수정된 움직임 정보는 L1 움직임 벡터 및 L1 참조 픽처 인덱스를 포함하는 단예측(uni-prediction) 움직임 정보로 도출되는 것을 특징으로 하는 영상 디코딩 방법.
  12. 제10항에 있어서,
    상기 수정된 움직임 정보의 상기 L0 참조 픽처 인덱스는 참조 픽처 리스트 L0에 포함된 참조 픽처들 중 상기 대상 블록이 포함된 대상 픽처의 POC(picture order count)와의 차이의 절대값이 가장 작은 POC를 갖는 참조 픽처를 가리키고,
    상기 수정된 움직임 정보의 상기 L1 참조 픽처 인덱스는 참조 픽처 리스트 L1에 포함된 참조 픽처들 중 상기 대상 블록이 포함된 대상 픽처의 POC(picture order count)와의 차이의 절대값이 작은 POC를 갖는 참조 픽처를 가리키는 것을 특징으로 하는 영상 디코딩 방법.
  13. 제1항에 있어서.
    상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보가 갱신되고 상기 대상 블록 주변의 다음 블록에 머지 모드가 적용되는 경우, 상기 다음 블록의 머지 후보 리스트는 상기 대상 블록을 포함하고,
    상기 대상 블록의 상기 갱신된 움직임 정보는 상기 수정된 움직임 정보를 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  14. 영상 디코딩을 수행하는 디코딩 장치에 있어서,
    비트스트림을 통하여 대상 블록의 인터 예측에 대한 정보를 획득하는 엔트로피 디코딩부;
    상기 인터 예측에 대한 정보를 기반으로 상기 대상 블록의 움직임 정보를 도출하고, 상기 움직임 정보를 기반으로 상기 대상 블록에 대한 인터 예측을 수행하여 예측 샘플을 도출하고, 상기 예측 샘플을 기반으로 상기 대상 블록의 복원 블록을 생성하고, 상기 복원 블록을 기반으로 상기 대상 블록에 대한 수정된(modified) 움직임 정보를 도출하는 예측부; 및
    상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신(update)하는 메모리를 포함하는 것을 특징으로 하는 디코딩 장치.
  15. 제14항에 있어서,
    상기 예측부는,
    상기 복원 블록을 기반으로 상기 수정된 움직임 정보가 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보보다 더 정확한 움직임 정보인지 판단하고,
    상기 메모리는 상기 수정된 움직임 정보가 상기 인터 예측에 대한 정보를 기반으로 도출된 움직임 정보보다 더 정확한 움직임 정보인 경우, 상기 수정된 움직임 정보를 기반으로 상기 대상 블록의 움직임 정보를 갱신하는 것을 특징으로 하는 디코딩 장치.
PCT/KR2016/014167 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치 WO2018105757A1 (ko)

Priority Applications (25)

Application Number Priority Date Filing Date Title
KR1020227021390A KR102572286B1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
KR1020197016155A KR102322128B1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
CN202310707482.3A CN116527885A (zh) 2016-12-05 2016-12-05 图像编解码方法、数字存储介质以及数据发送方法
EP22175536.6A EP4090025A1 (en) 2016-12-05 2016-12-05 Video decoding method, video encoding method, storage medium and transmission method
HUE21163358A HUE059684T2 (hu) 2016-12-05 2016-12-05 Videó dekódoló berendezés, videó kódoló berendezés, tárolóközeg és átviteli eljárás
US16/465,895 US10764598B2 (en) 2016-12-05 2016-12-05 Method and device for decoding image in image coding system
HUE16923451A HUE055198T2 (hu) 2016-12-05 2016-12-05 Eljárás és tárolóközeg kép dekódolására képkódoló rendszerben
ES16923451T ES2886871T3 (es) 2016-12-05 2016-12-05 Método y medio de almacenamiento para la decodificación de una imagen en un sistema de codificación de imágenes
PT211633581T PT3855745T (pt) 2016-12-05 2016-12-05 Aparelho de descodificação de vídeo, aparelho de codificação de vídeo, meio de armazenamento e processo de transmissão
EP21163358.1A EP3855745B1 (en) 2016-12-05 2016-12-05 Video decoding apparatus, video encoding apparatus, storage medium and method for transmission
PCT/KR2016/014167 WO2018105757A1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
CN202310703397.XA CN116527884A (zh) 2016-12-05 2016-12-05 解码设备、编码设备以及数据发送设备
DK16923451.5T DK3541073T3 (da) 2016-12-05 2016-12-05 Fremgangsmåde og lagringsmedie til dekodning af et billede i et billedkodningssystem
PL16923451T PL3541073T3 (pl) 2016-12-05 2016-12-05 Sposób i nośnik pamięci do dekodowania obrazu w systemie kodowania obrazu
CN201680091905.1A CN110121883B (zh) 2016-12-05 2016-12-05 在图像编码系统中对图像进行解码的方法和装置
CN202310708056.1A CN116527886A (zh) 2016-12-05 2016-12-05 解码设备、编码设备以及数据发送设备
EP16923451.5A EP3541073B1 (en) 2016-12-05 2016-12-05 Method and storage medium for decoding an image in an image coding system
ES21163358T ES2927560T3 (es) 2016-12-05 2016-12-05 Aparato de decodificación de vídeo, aparato de codificación de vídeo, medio de almacenamiento y método para la trasmisión
KR1020237028920A KR20230129582A (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
PL21163358.1T PL3855745T3 (pl) 2016-12-05 2016-12-05 Urządzenie dekodujące wideo, urządzenie kodujące wideo, nośnik pamięci oraz sposób przesyłania
KR1020217035512A KR102414924B1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
DK21163358.1T DK3855745T3 (da) 2016-12-05 2016-12-05 Videoafkodningsapparat, videokodningsapparat, lagringsmedium og fremgangsmåde til transmission
SI201631609T SI3855745T1 (sl) 2016-12-05 2016-12-05 Naprava za dekodiranje videa, naprava za kodiranje videa, pomnilniški medij in postopek za prenos
US16/985,118 US11363289B2 (en) 2016-12-05 2020-08-04 Method and device for decoding image in image coding system
US17/734,959 US12096020B2 (en) 2016-12-05 2022-05-02 Method and device for decoding image in image coding system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2016/014167 WO2018105757A1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/465,895 A-371-Of-International US10764598B2 (en) 2016-12-05 2016-12-05 Method and device for decoding image in image coding system
US16/985,118 Continuation US11363289B2 (en) 2016-12-05 2020-08-04 Method and device for decoding image in image coding system

Publications (1)

Publication Number Publication Date
WO2018105757A1 true WO2018105757A1 (ko) 2018-06-14

Family

ID=62492214

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/014167 WO2018105757A1 (ko) 2016-12-05 2016-12-05 영상 코딩 시스템에서 영상 디코딩 방법 및 장치

Country Status (11)

Country Link
US (3) US10764598B2 (ko)
EP (3) EP3541073B1 (ko)
KR (4) KR102322128B1 (ko)
CN (4) CN116527886A (ko)
DK (2) DK3541073T3 (ko)
ES (2) ES2886871T3 (ko)
HU (2) HUE055198T2 (ko)
PL (2) PL3855745T3 (ko)
PT (1) PT3855745T (ko)
SI (1) SI3855745T1 (ko)
WO (1) WO2018105757A1 (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020032531A1 (ko) * 2018-08-06 2020-02-13 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020060177A1 (ko) * 2018-09-18 2020-03-26 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020122640A1 (ko) * 2018-12-12 2020-06-18 엘지전자 주식회사 히스토리 기반 모션 벡터 예측을 기반으로 비디오 신호를 처리하기 위한 방법 및 장치
TWI703861B (zh) * 2018-07-06 2020-09-01 聯發科技股份有限公司 解碼器的視訊解碼方法及裝置
RU2775829C1 (ru) * 2018-08-06 2022-07-11 Электроникс Энд Телекоммьюникейшнз Рисерч Инститьют Способ и устройство кодирования/декодирования изображения и носитель записи, хранящий битовый поток
US11800139B2 (en) 2018-06-22 2023-10-24 Avago Technologies International Sales Pte. Limited Memory latency management for decoder-side motion refinement

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117544786A (zh) * 2017-08-29 2024-02-09 株式会社Kt 视频解码和编码方法及用于存储压缩视频数据的装置
WO2019216325A1 (en) 2018-05-09 2019-11-14 Sharp Kabushiki Kaisha Systems and methods for performing motion vector prediction using a derived set of motion vectors
EP3791588A1 (en) 2018-06-29 2021-03-17 Beijing Bytedance Network Technology Co. Ltd. Checking order of motion candidates in lut
WO2020003278A1 (en) 2018-06-29 2020-01-02 Beijing Bytedance Network Technology Co., Ltd. Update of look up table: fifo, constrained fifo
CN110662057B (zh) 2018-06-29 2022-06-21 北京字节跳动网络技术有限公司 视频处理方法、装置、设备以及存储比特流的方法
JP7460617B2 (ja) 2018-06-29 2024-04-02 北京字節跳動網絡技術有限公司 Ｌｕｔ更新条件
EP3797516A1 (en) 2018-06-29 2021-03-31 Beijing Bytedance Network Technology Co. Ltd. Interaction between lut and amvp
KR20210024502A (ko) 2018-06-29 2021-03-05 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 Hmvp 후보를 병합/amvp에 추가할 때의 부분/풀 프루닝
TWI723444B (zh) 2018-06-29 2021-04-01 大陸商北京字節跳動網絡技術有限公司 使用一個或多個查找表來按順序存儲先前編碼的運動信息並使用它們來編碼後面的塊的概念
CN110662056B (zh) 2018-06-29 2022-06-07 北京字节跳动网络技术有限公司 哪个查找表需要更新或不更新
EP4307679A3 (en) 2018-07-02 2024-06-19 Beijing Bytedance Network Technology Co., Ltd. Luts with intra prediction modes and intra mode prediction from non-adjacent blocks
TW202025760A (zh) 2018-09-12 2020-07-01 大陸商北京字節跳動網絡技術有限公司 要檢查多少個hmvp候選
GB2577318B (en) 2018-09-21 2021-03-10 Canon Kk Video coding and decoding
GB2579763B (en) * 2018-09-21 2021-06-09 Canon Kk Video coding and decoding
GB2578150C (en) 2018-10-18 2022-05-18 Canon Kk Video coding and decoding
CN113273186A (zh) 2019-01-10 2021-08-17 北京字节跳动网络技术有限公司 Lut更新的调用
CN113383554B (zh) 2019-01-13 2022-12-16 北京字节跳动网络技术有限公司 LUT和共享Merge列表之间的交互
CN113302937B (zh) 2019-01-16 2024-08-02 北京字节跳动网络技术有限公司 运动候选推导
CN113615193B (zh) 2019-03-22 2024-06-25 北京字节跳动网络技术有限公司 Merge列表构建和其他工具之间的交互
CN114667735B (zh) * 2019-09-25 2024-09-10 Lg电子株式会社 基于变换的图像编译方法及其设备
CN112995669B (zh) * 2021-04-27 2021-08-03 浙江华创视讯科技有限公司 一种帧间预测方法、装置、电子设备及存储介质
US20230113104A1 (en) * 2021-10-11 2023-04-13 Tencent America LLC On intra mode propagation

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080070374A (ko) * 2007-01-26 2008-07-30 삼성전자주식회사 외부 메모리 액세스를 최소화하는 움직임 탐색 방법 및장치
KR20140093910A (ko) * 2014-06-12 2014-07-29 에스케이텔레콤 주식회사 인터 예측을 이용한 영상 부호화 및 복호화 방법과 장치
KR20160030140A (ko) * 2016-02-24 2016-03-16 삼성전자주식회사 영상 복호화 방법 및 장치
US20160080770A1 (en) * 2008-03-07 2016-03-17 Sk Planet Co., Ltd. Encoding system using motion estimation and encoding method using motion estimation
KR20160132863A (ko) * 2014-03-17 2016-11-21 퀄컴 인코포레이티드 비-자연스러운 비디오 데이터의 모션 추정을 위한 방법

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103039075B (zh) * 2010-05-21 2015-11-25 Jvc建伍株式会社 图像编码装置、图像编码方法、以及图像解码装置、图像解码方法
EP2716047A4 (en) * 2011-10-19 2015-03-18 Mediatek Inc METHOD AND DEVICE FOR DERIVING MOTION VECTOR PREVIEW CANDIDATE SETS
TWI569634B (zh) * 2011-10-31 2017-02-01 Jvc Kenwood Corp Dynamic image decoding device, dynamic image decoding method and dynamic image decoding program
KR101934277B1 (ko) * 2011-11-28 2019-01-04 에스케이텔레콤 주식회사 개선된 머지를 이용한 영상 부호화/복호화 방법 및 장치
US20130188716A1 (en) * 2012-01-20 2013-07-25 Qualcomm Incorporated Temporal motion vector predictor candidate
US9426498B2 (en) * 2012-07-10 2016-08-23 Broadcom Corporation Real-time encoding system of multiple spatially scaled video based on shared video coding information
US9124899B2 (en) * 2012-09-28 2015-09-01 Sharp Laboratories Of America, Inc. Motion derivation and coding for scaling video
US9800857B2 (en) * 2013-03-08 2017-10-24 Qualcomm Incorporated Inter-view residual prediction in multi-view or 3-dimensional video coding
US20140301463A1 (en) * 2013-04-05 2014-10-09 Nokia Corporation Method and apparatus for video coding and decoding
US9930363B2 (en) * 2013-04-12 2018-03-27 Nokia Technologies Oy Harmonized inter-view and view synthesis prediction for 3D video coding
JP6145002B2 (ja) * 2013-09-02 2017-06-07 株式会社日立ハイテクノロジーズ 自動分析装置
US10531116B2 (en) * 2014-01-09 2020-01-07 Qualcomm Incorporated Adaptive motion vector resolution signaling for video coding
WO2015149698A1 (en) 2014-04-01 2015-10-08 Mediatek Inc. Method of motion information coding
US10200711B2 (en) * 2015-03-27 2019-02-05 Qualcomm Incorporated Motion vector derivation in video coding
CN105149698B (zh) 2015-08-19 2017-04-19 天津市达鑫精密机械设备有限公司 一种汽车同步器齿套双面倒角连续加工系统
KR20180085714A (ko) * 2015-12-17 2018-07-27 삼성전자주식회사 머지 후보 리스트를 이용한 비디오 복호화 방법 및 비디오 복호화 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080070374A (ko) * 2007-01-26 2008-07-30 삼성전자주식회사 외부 메모리 액세스를 최소화하는 움직임 탐색 방법 및장치
US20160080770A1 (en) * 2008-03-07 2016-03-17 Sk Planet Co., Ltd. Encoding system using motion estimation and encoding method using motion estimation
KR20160132863A (ko) * 2014-03-17 2016-11-21 퀄컴 인코포레이티드 비-자연스러운 비디오 데이터의 모션 추정을 위한 방법
KR20140093910A (ko) * 2014-06-12 2014-07-29 에스케이텔레콤 주식회사 인터 예측을 이용한 영상 부호화 및 복호화 방법과 장치
KR20160030140A (ko) * 2016-02-24 2016-03-16 삼성전자주식회사 영상 복호화 방법 및 장치

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11800139B2 (en) 2018-06-22 2023-10-24 Avago Technologies International Sales Pte. Limited Memory latency management for decoder-side motion refinement
TWI703861B (zh) * 2018-07-06 2020-09-01 聯發科技股份有限公司 解碼器的視訊解碼方法及裝置
US11356689B2 (en) 2018-07-06 2022-06-07 Hfi Innovation Inc. Inherited motion information for decoding a current coding unit in a video coding system
WO2020032531A1 (ko) * 2018-08-06 2020-02-13 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
RU2775829C1 (ru) * 2018-08-06 2022-07-11 Электроникс Энд Телекоммьюникейшнз Рисерч Инститьют Способ и устройство кодирования/декодирования изображения и носитель записи, хранящий битовый поток
US11838514B2 (en) 2018-08-06 2023-12-05 Electronics And Telecommunications Research Institute Image encoding/decoding method and device, and recording medium storing bitstream
WO2020060177A1 (ko) * 2018-09-18 2020-03-26 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020122640A1 (ko) * 2018-12-12 2020-06-18 엘지전자 주식회사 히스토리 기반 모션 벡터 예측을 기반으로 비디오 신호를 처리하기 위한 방법 및 장치
CN111771376A (zh) * 2018-12-12 2020-10-13 Lg电子株式会社 以基于历史的运动向量预测为基础处理视频信号的方法和设备
US11477478B2 (en) 2018-12-12 2022-10-18 Lg Electronics Inc. Method and apparatus for processing video signal based on history based motion vector prediction
US11653022B2 (en) 2018-12-12 2023-05-16 Lg Electronics Inc. Method and apparatus for processing video signal based on history based motion vector prediction
CN111771376B (zh) * 2018-12-12 2023-08-08 Lg电子株式会社 以基于历史的运动向量预测为基础处理视频信号的方法和设备

Also Published As

Publication number Publication date
CN110121883B (zh) 2023-07-04
HUE059684T2 (hu) 2022-12-28
HUE055198T2 (hu) 2021-11-29
US11363289B2 (en) 2022-06-14
PL3541073T3 (pl) 2021-12-13
DK3855745T3 (da) 2022-10-10
US20200366922A1 (en) 2020-11-19
PT3855745T (pt) 2022-09-19
ES2927560T3 (es) 2022-11-08
KR20210135347A (ko) 2021-11-12
EP3541073B1 (en) 2021-06-16
CN116527886A (zh) 2023-08-01
ES2886871T3 (es) 2021-12-21
EP3855745A1 (en) 2021-07-28
KR102572286B1 (ko) 2023-08-29
US12096020B2 (en) 2024-09-17
KR102322128B1 (ko) 2021-11-04
US10764598B2 (en) 2020-09-01
EP3541073A4 (en) 2019-12-11
PL3855745T3 (pl) 2022-11-07
KR20190084271A (ko) 2019-07-16
EP3855745B1 (en) 2022-07-13
EP3541073A1 (en) 2019-09-18
KR20230129582A (ko) 2023-09-08
CN110121883A (zh) 2019-08-13
CN116527884A (zh) 2023-08-01
DK3541073T3 (da) 2021-09-20
EP4090025A1 (en) 2022-11-16
US20220264141A1 (en) 2022-08-18
KR102414924B1 (ko) 2022-06-30
CN116527885A (zh) 2023-08-01
KR20220093392A (ko) 2022-07-05
US20190297343A1 (en) 2019-09-26
SI3855745T1 (sl) 2022-11-30

Similar Documents

Publication Publication Date Title
WO2018105757A1 (ko) 영상 코딩 시스템에서 영상 디코딩 방법 및 장치
WO2017188566A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2020166897A1 (ko) Dmvr 기반의 인터 예측 방법 및 장치
WO2017052081A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2019177429A1 (ko) 인트라 예측 기반 영상/비디오 코딩 방법 및 그 장치
WO2018021585A1 (ko) 영상 코딩 시스템에서 인트라 예측 방법 및 장치
WO2017082443A1 (ko) 영상 코딩 시스템에서 임계값을 이용한 적응적 영상 예측 방법 및 장치
WO2016085231A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018056709A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2020141932A1 (ko) Cpr 기반 mmvd를 이용하는 인터 예측 방법 및 장치
WO2021125700A1 (ko) 예측 가중 테이블 기반 영상/비디오 코딩 방법 및 장치
WO2020141886A1 (ko) Sbtmvp 기반 인터 예측 방법 및 장치
WO2020141831A2 (ko) 인트라 블록 카피 예측을 이용한 영상 코딩 방법 및 장치
EP3020192A1 (en) Hierarchical motion estimation method and apparatus based on adaptive sampling
WO2021141477A1 (ko) 머지 후보들의 최대 개수 정보를 포함하는 시퀀스 파라미터 세트를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2020009427A1 (ko) 영상 코딩 시스템의 인터 예측에서 템플릿 기반의 후보 리스트 재정렬 방법 및 장치
WO2017195917A1 (ko) 비디오 코딩 시스템에서 인트라 예측 방법 및 장치
WO2020251340A1 (ko) 움직임 벡터 예측 기반 영상/비디오 코딩 방법 및 장치
WO2021015512A1 (ko) Ibc를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2019013363A1 (ko) 영상 코딩 시스템에서 주파수 도메인 잡음 감소 방법 및 장치
WO2020251270A1 (ko) 서브블록 단위의 시간적 움직임 정보 기반 영상 또는 비디오 코딩
WO2019117659A1 (ko) 움직임 벡터 도출을 기반으로 하는 영상 코딩 방법 및 그 장치
WO2019199071A1 (ko) 영상 코딩 시스템에서 인터 예측에 따른 영상 디코딩 방법 및 장치
WO2021112633A1 (ko) 동일 위치 픽처에 관한 정보를 포함하는 픽처 헤더에 기반한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
WO2021125702A1 (ko) 가중된 예측에 기반한 영상/비디오 코딩 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16923451

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20197016155

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2016923451

Country of ref document: EP

Effective date: 20190613