WO2019147067A1 - 시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치 - Google Patents

시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치 Download PDF

Info

Publication number
WO2019147067A1
WO2019147067A1 PCT/KR2019/001096 KR2019001096W WO2019147067A1 WO 2019147067 A1 WO2019147067 A1 WO 2019147067A1 KR 2019001096 W KR2019001096 W KR 2019001096W WO 2019147067 A1 WO2019147067 A1 WO 2019147067A1
Authority
WO
WIPO (PCT)
Prior art keywords
block
motion vector
candidate
target block
prediction
Prior art date
Application number
PCT/KR2019/001096
Other languages
English (en)
French (fr)
Inventor
임성창
강정원
고현석
이진호
이하현
전동산
김휘용
이영렬
김남욱
김재곤
Original Assignee
한국전자통신연구원
세종대학교산학협력단
한국항공대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원, 세종대학교산학협력단, 한국항공대학교 산학협력단 filed Critical 한국전자통신연구원
Priority to US16/964,878 priority Critical patent/US11425390B2/en
Priority to CN201980022099.6A priority patent/CN111919448A/zh
Priority claimed from KR1020190009837A external-priority patent/KR20190091217A/ko
Publication of WO2019147067A1 publication Critical patent/WO2019147067A1/ko
Priority to US17/864,226 priority patent/US11943447B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/567—Motion estimation based on rate distortion criteria

Definitions

  • the embodiments described below relate to a video decoding method, a decoding apparatus, a coding method, and an encoding apparatus, and more particularly, to a decoding method, a decoding apparatus, a coding method, and an encoding apparatus for an image using temporal motion information.
  • HDTV High Definition TV
  • FHD Full HD
  • UHD ultra high definition
  • An apparatus and method for encoding / decoding an image includes an inter prediction technique, an intra prediction technique, and an entropy coding technique to perform encoding / decoding on high resolution and high image quality images Can be used.
  • the inter prediction technique may be a technique of predicting a value of a pixel included in a target picture temporally using a previous picture and / or a temporally subsequent picture.
  • the intra prediction technique may be a technique of predicting a value of a pixel included in a target picture by using information of a pixel in the target picture.
  • the entropy coding technique may be a technique of allocating a short code to a symbol having a high appearance frequency and allocating a long code to a symbol having a low appearance frequency.
  • One embodiment of the present invention can provide a coding apparatus, a coding method, a decoding apparatus, and a decoding method for generating a motion vector predictor of a target block using a motion vector of a candidate block in a call picture.
  • Whether or not to generate the motion vector predictor can be determined based on the inter prediction mode of the inter prediction information for the target block.
  • the motion vector predictor may be generated if the inter prediction mode is an advanced motion vector prediction (AMVP) mode, a merge mode, or a skip mode.
  • AMVP advanced motion vector prediction
  • the motion vector predictor may be added to the list for the target block as a candidate.
  • the generating of the motion vector predictor comprises: determining whether to use the motion information of the candidate block to generate the motion vector predictor for the target block; And generating the motion vector predictor for the target block based on the motion information of the candidate block.
  • a first scaled motion vector may be generated by applying a first scaling to the motion vector of the candidate block.
  • the first temporal distance may be a temporal distance from the call picture to a target picture.
  • the first scaling coefficient may be a coefficient scaling the motion vector of the candidate block according to a temporal direction between a target picture and a reference picture of a target block.
  • the motion vector generator may be generated by applying a second scaling to the motion vector of the candidate block.
  • the motion vector generator may be generated by multiplying the motion vector of the candidate block by a second scaling factor.
  • the second scaling factor may be a value obtained by dividing the third temporal distance by a second temporal distance.
  • An average value of a plurality of motion vectors of the plurality of candidate blocks may be used to generate the motion vector predictor.
  • One or more motion vectors among a plurality of motion vectors of the plurality of candidate blocks may be selected based on the inter-prediction indicators of the plurality of candidate blocks or the inter-prediction indicator of the target block.
  • One or more motion vectors among the plurality of motion vectors of the plurality of candidate blocks may be selected based on the reference picture indexes of the plurality of candidate blocks or the reference picture index of the target block.
  • the one or more selected motion vectors may be used to generate the motion vector predictor.
  • the one or more selected motion vectors may be used to generate the motion vector predictor.
  • an encoding apparatus an encoding method, a decoding apparatus, and a decoding method for performing inter-prediction using a motion vector predictor of a target block.
  • a coding method, a decoding device, and a decoding method for generating a motion vector predictor of a target block using a motion vector of a candidate block in a call picture are provided.
  • FIG. 1 is a block diagram illustrating a configuration of an encoding apparatus to which the present invention is applied.
  • FIG. 2 is a block diagram illustrating a configuration of a decoding apparatus to which the present invention is applied.
  • FIG. 3 is a diagram schematically showing a division structure of an image when coding and decoding an image.
  • Fig. 4 is a diagram showing a form of a prediction unit (PU) that a coding unit (CU) can include.
  • FIG. 5 is a diagram showing a form of a conversion unit (TU) which can be included in a coding unit (CU).
  • TU conversion unit
  • CU coding unit
  • Figure 6 shows the partitioning of a block according to an example.
  • FIG. 8 is a view for explaining the positions of reference samples used in the intra prediction process.
  • FIG. 11 shows an order of addition of motion information of a spatial candidate to a merge list according to an example.
  • FIG. 12 illustrates a process of transforming and quantizing according to an example.
  • FIG 13 illustrates diagonal scanning according to an example.
  • 16 is a structural diagram of an encoding apparatus according to an embodiment.
  • 17 is a structural diagram of a decoding apparatus according to an embodiment.
  • FIG. 21 shows a process of generating UTMVP according to an example.
  • FIG. 22 shows a process of generating UTMVP according to an example.
  • FIG. 23 is a flowchart of an inter prediction method in a decoding apparatus according to an embodiment.
  • 25 is a flowchart of a method of generating a motion vector predictor for a target block according to an embodiment.
  • 26 is a flowchart of a method for determining whether motion information of a candidate block according to an embodiment is used to generate a motion vector predictor.
  • FIG. 27 is a flowchart of a method of generating a motion vector predictor for a target block based on motion information of a candidate block according to an exemplary embodiment.
  • FIG. 28 is a flowchart of a method of generating a motion vector predictor for a destination block according to an embodiment.
  • 29 is a flowchart of a method for generating a motion vector predictor for a target block using a specified condition according to an embodiment.
  • a component When it is mentioned that a component is “connected” or “connected” to another component, the two components may be directly connected or connected to each other, It is to be understood that other components may be present in the middle of the components. When a component is referred to as being “directly connected” or “directly connected” to another component, it should be understood that no other component is present in the middle of the two components.
  • each component shown in the embodiments of the present invention are shown independently to represent different characteristic functions, and do not mean that each component is composed of separate hardware or one software constituent unit. That is, each component is listed as a separate component for convenience of explanation. At least two components of each component are combined to form one component, or one component is divided into a plurality of components, And the integrated embodiments and the separate embodiments of each of these components are also included in the scope of the present invention unless they depart from the essence of the present invention.
  • the description of "comprising" a specific configuration does not exclude a configuration other than the specific configuration, and the additional configuration is not limited to the implementation of the exemplary embodiments or the technical idea of the exemplary embodiments. Range. ≪ / RTI >
  • an image may denote a picture constituting a video, or may represent a video itself.
  • "encoding and / or decoding of an image” may mean “encoding and / or decoding of video ", which means” encoding and / or decoding of one of the images constituting a video " It is possible.
  • video and “motion picture” may be used interchangeably and may be used interchangeably.
  • image image
  • picture picture
  • frame and “screen” may be used interchangeably and may be used interchangeably.
  • block and “unit” may be used interchangeably and may be used interchangeably. Or “block” may represent a particular unit.
  • a specific signal may be a signal indicating a specific block.
  • an original signal may be a signal representing a target block.
  • the prediction signal may be a signal representing a prediction block.
  • the residual signal may be a signal representing the residual block.
  • each of the specified information, data, flags and elements, attributes, etc. may have a value.
  • the value "0" of information, data, flags and element, attribute, etc. may represent a logical false or a first predefined value. That is to say, the values “0 ", False, Logical False, and First Default values can be used interchangeably.
  • the value "1" of information, data, flags and elements, attributes, etc. may represent a logical true or a second predefined value. That is to say, the values "1 ", " true ", " logical "
  • i When a variable such as i or j is used to represent a row, column or index, the value of i may be an integer greater than or equal to 0 and may be an integer greater than or equal to one. In other words, in the embodiments, rows, columns, indexes, etc. may be counted from 0 and counted from 1.
  • Decoder A device that performs decoding.
  • the unit may be an MxN array of samples.
  • M and N may be positive integers, respectively.
  • a unit can often refer to an array of two-dimensional samples.
  • a unit may be an area generated by the division of one image. That is to say, a unit may be a specified area in one image.
  • One image may be divided into a plurality of units.
  • a unit may mean the divided portion when one image is divided into subdivided portions and when encoding or decoding is performed on the subdivided portions.
  • predetermined processing on the unit may be performed depending on the type of unit.
  • the type of unit may be a Macro Unit, a Coding Unit (CU), a Prediction Unit (PU), a Residual Unit and a Transform Unit (TU) . ≪ / RTI >
  • the unit may include a block, a macroblock, a Coding Tree Unit, a Coding Tree Block, a Coding Unit, a Coding Block, A prediction unit, a prediction block, a residual unit, a residual block, a transform unit, and a transform block.
  • a unit may refer to information comprising a luma component block and its corresponding chroma component block, and a syntax element for each block, to distinguish it from a block.
  • the unit information may include at least one of a unit type, a unit size, a unit depth, a unit encoding order, and a unit decoding order.
  • the type of unit may refer to one of CU, PU, residual unit, and TU.
  • one unit may be further subdivided into smaller units with a smaller size than the unit.
  • Depth can mean the degree of division of a unit. Unit depth can also indicate the level at which a unit is present when the unit is represented in a tree structure.
  • the unit partition information may include a depth for the depth of the unit.
  • the depth may indicate the number and / or the number of times the unit is divided.
  • a unit may be hierarchically divided into a plurality of subunits with depth information based on a tree structure. That is to say, the unit and the lower unit generated by the division of the unit can correspond to the node and the child node of the node, respectively. Each divided subunit may have a depth. Since the depth indicates the number and / or degree of division of the unit, the division information of the lower unit may include information on the size of the lower unit.
  • the top node may correspond to the first unit that has not been partitioned.
  • the superordinate node may be referred to as a root node.
  • the uppermost node may have a minimum depth value. At this time, the uppermost node can have a level 0 depth.
  • a node with a depth of level 1 can represent a unit created as the first unit is once partitioned.
  • a node with a depth of level 2 may represent a unit created as the first unit is divided twice.
  • a node with a depth of level n can represent a unit created as the first unit is divided n times.
  • the leaf node may be the lowest node, and may be a node that can not be further divided.
  • the depth of the leaf node may be the maximum level.
  • the default value of the maximum level may be three.
  • - QT depth can indicate depth for quad split.
  • the BT depth can represent the depth for binary segmentation.
  • the TT depth can represent the depth for the ternary splitting.
  • the sample may be a pixel or a pixel value.
  • pixel In the following, the terms “pixel”, “pixel” and “sample” may be used interchangeably and may be used interchangeably.
  • a CTU can consist of one luma component (Y) coding tree block and two chroma component (Cb, Cr) coding tree blocks related to the luma component coding tree block have.
  • the CTU may also include the above blocks and the syntax elements for each block of the above blocks.
  • Each coding tree unit may be configured as a quad tree (QT), a binary tree (BT), and a ternary tree (TT) to construct a lower unit such as a coding unit, May be divided using one or more division methods.
  • each coding tree unit may be partitioned using a MultiType Tree (MTT) using one or more partitioning schemes.
  • QT quad tree
  • BT binary tree
  • TT ternary tree
  • MTT MultiType Tree
  • the CTU can be used as a term to refer to a pixel block, which is a processing unit in the process of decoding and encoding an image, as in the segmentation of an input image.
  • a coding tree block can be used as a term for designating any one of a Y coding tree block, a Cb coding tree block, and a Cr coding tree block.
  • a neighboring block may mean a block adjacent to a target block.
  • a neighboring block may mean a restored neighboring block.
  • peripheral block and “adjacent block” may be used interchangeably and may be used interchangeably.
  • a spatial neighbor block may be a block spatially adjacent to a target block.
  • the neighboring block may include a spatial neighboring block.
  • a spatial neighboring block may refer to a block that is bounded to a target block or a block located within a predetermined distance from a target block.
  • a spatial neighboring block may mean a block adjacent to the vertex of the target block.
  • a block adjacent to a vertex of a target block may be a block vertically adjacent to a neighboring block horizontally adjacent to the target block or a block horizontally adjacent to a neighboring block vertically adjacent to the target block.
  • Temporal neighbor block The temporal neighbor block may be temporally adjacent to the target block.
  • the neighboring blocks may include temporal neighboring blocks.
  • the call block may be a block in a co-located picture (col picture).
  • the position of the call block in the call picture may correspond to the position in the target picture of the target block.
  • the position of the call block in the call picture may be the same as the position in the target picture of the target block.
  • the call picture may be a picture included in the reference picture list.
  • the temporal neighboring block may be a block temporally adjacent to the spatial neighboring block of the target block.
  • one prediction unit may be divided into a plurality of partitions or lower prediction units having a smaller size.
  • the plurality of partitions may also be a base unit in performing prediction or compensation.
  • the partition generated by the division of the prediction unit may also be a prediction unit.
  • Prediction unit partition may mean a type in which a prediction unit is divided.
  • the reconstructed neighboring unit may be a unit that has already been decoded and reconstructed around the target unit.
  • the reconstructed neighboring unit may be a spatial adjacent unit or a temporal adjacent unit for the target unit.
  • the reconstructed spatial surrounding unit may be a unit in the target picture and a unit already reconstructed through coding and / or decoding.
  • the reconstructed temporal neighboring unit may be a unit in the reference image and a unit already reconstructed through coding and / or decoding.
  • the position in the reference picture of the reconstructed temporal neighboring unit may be the same as the position in the target picture of the target unit or may correspond to the position in the target picture of the target unit.
  • the parameter set may include slice header information and tile header information.
  • Rate-distortion optimization An encoding apparatus uses rate-distortion optimization to provide a high coding efficiency using a combination of a coding unit size, a prediction mode, a prediction unit size, motion information, Distortion optimization can be used.
  • the rate-distortion optimization scheme can calculate the rate-distortion cost of each combination to select the optimal combination from among the combinations above.
  • the rate-distortion cost can be calculated using Equation 1 below.
  • the combination in which the rate-distortion cost is minimized can be selected as the optimum combination in the rate-distortion optimization method.
  • D may be the mean square error of the difference values between the original transform coefficients and the reconstructed transform coefficients in the transform unit.
  • R can represent the bit rate using related context information.
  • R may include coding parameter information such as a prediction mode, motion information, and coded block flag, as well as bits generated by coding the transform coefficients.
  • the encoder may perform inter prediction and / or intra prediction, conversion, quantization, entropy coding, inverse quantization, inverse transform, etc. to calculate the correct D and R. These processes can greatly increase the complexity in the encoding apparatus.
  • Bitstream may be a bit string containing encoded image information.
  • a parameter set may correspond to header information among structures in a bitstream.
  • the parameter set may comprise at least one of a video parameter set, a sequence parameter set, a picture parameter set and an adaptation parameter set.
  • the parameter set may also include information of a slice header and information of a tile header.
  • Parsing may entropy-decode the bitstream to determine the value of a syntax element. Or, parsing may mean entropy decoding itself.
  • Symbol may include at least one of a syntax element, a coding parameter, and a transform coefficient of a coding target unit and / or a target unit to be decoded.
  • the symbol may mean a target of entropy encoding or a result of entropy decoding.
  • a reference picture may refer to an image that a unit refers to for inter prediction or motion compensation.
  • the reference picture may be an image including a reference unit referred to by the target unit for inter prediction or motion compensation.
  • reference picture and “reference picture” may be used interchangeably and may be used interchangeably.
  • Reference picture list may be a list including one or more reference pictures used for inter-prediction or motion compensation.
  • the types of the reference picture list include a list combination (LC), a list 0 (L0), a list 1 (L1), a list 2 (L2), and a list 3 ) And the like.
  • One or more reference picture lists may be used for inter prediction.
  • An inter prediction indicator may indicate the direction of inter prediction for a target unit.
  • the inter prediction may be one of a unidirectional prediction and a bidirectional prediction.
  • the inter prediction indicator may indicate the number of reference images used when generating the prediction unit of the target unit.
  • the inter prediction indicator may mean the number of prediction blocks used for inter prediction or motion compensation for the target unit.
  • the reference picture index may be an index indicating a specific reference picture in the reference picture list.
  • Motion Vector A motion vector may be a two-dimensional vector used in inter prediction or motion compensation.
  • a motion vector may mean an offset between a target image and a reference image.
  • MV can be expressed in the form (mv x , mv y ).
  • mv x may represent a horizontal component
  • mv y may represent a vertical component.
  • the search area may be a two-dimensional area where an MV search is performed during inter prediction.
  • the size of the search area may be MxN.
  • M and N may be positive integers, respectively.
  • Motion vector candidate may mean a motion vector of a block, which is a prediction candidate or a prediction candidate, when a motion vector is predicted.
  • the motion vector candidate may be included in the motion vector candidate list.
  • a motion vector candidate list may refer to a list constructed using one or more motion vector candidates.
  • Motion vector candidate index may indicate an indicator indicating a motion vector candidate in the motion vector candidate list.
  • the motion vector candidate index may be an index of a motion vector predictor.
  • Motion information includes motion picture information, reference picture list information, reference picture, motion vector candidate, motion vector candidate index, merge candidate and merge index, etc., as well as a motion vector, a reference picture index and an inter prediction indicator Quot; and " information "
  • a merge candidate list can mean a list constructed using merge candidates.
  • a merge candidate can mean a spatial merge candidate, a temporal merge candidate, a combined merge candidate, a combined bi-prediction merge candidate, and a zero merge candidate.
  • the merge candidate may include motion information such as prediction type information, a reference picture index for each list, and a motion vector.
  • the merge index may be an indicator that indicates a merge candidate in the merge candidate list.
  • the merge index may indicate a reconstructed unit spatially adjacent to the target unit and a reconstructed unit that derives the merge candidate among the reconstructed units temporally adjacent to the target unit.
  • the merge index may indicate at least one of the merge candidate motion information.
  • the transform unit can be a base unit in residual signal coding and / or residual signal decoding such as transform, inverse transform, quantization, inverse quantization, transform coefficient coding and transform coefficient decoding.
  • One conversion unit can be divided into a plurality of conversion units of a smaller size.
  • Scaling can refer to the process of multiplying the transform coefficient level by an argument.
  • Scaling may also be referred to as dequantization.
  • the quantization parameter may refer to a value used when generating a transform coefficient level for a transform coefficient in quantization.
  • the quantization parameter may mean a value used when generating the transform coefficient by scaling the transform coefficient level in the inverse quantization.
  • the quantization parameter may be a value mapped to a quantization step size.
  • a delta quantization parameter means a difference value between a predicted quantization parameter and a quantization parameter of a target unit.
  • the transform coefficient may be a coefficient value generated as a result of performing the transform in the encoding apparatus.
  • the transform coefficient may be a coefficient value generated by performing at least one of entropy decoding and inverse quantization in the decoding apparatus.
  • the quantized level or quantized transform coefficient level generated by applying the quantization to the transform coefficients or residual signals may also be included in the meaning of the transform coefficients.
  • a quantized level may mean a value generated by performing a quantization on a transform coefficient or a residual signal in an encoding apparatus.
  • the quantized level may be a value to be subjected to inverse quantization in performing inverse quantization in the decoding apparatus.
  • the quantized transform coefficient levels resulting from the transform and quantization can also be included in the meaning of the quantized levels.
  • Non-zero transform coefficient may mean a transform coefficient having a value other than zero or a transform coefficient level having a non-zero value.
  • the non-zero transform coefficient may mean a transform coefficient whose magnitude is not zero or a transform coefficient level whose magnitude is not zero.
  • a quantization matrix may mean a matrix used in a quantization process or a dequantization process to improve the subjective or objective image quality of an image.
  • the quantization matrix may also be referred to as a scaling list.
  • Quantization matrix coefficient may refer to each element in the quantization matrix.
  • the quantization matrix coefficient may also be referred to as a matrix coefficient.
  • the base matrix may be a predefined quantization matrix in the encoder and decoder.
  • Non-default matrix The non-default matrix may be a non-default quantization matrix in the encoder and decoder.
  • the non-default matrix may be signaled from the encoder to the decoder.
  • the MPM may indicate an intra prediction mode that is likely to be used for intra prediction of a target block.
  • the encoding device and the decoding device may determine one or more MPMs based on coding parameters related to the object block and attributes of the object related to the object block.
  • the encoder and decoder may determine one or more MPMs based on the intra prediction mode of the reference block.
  • the reference block may be plural.
  • the plurality of reference blocks may include a spatial neighboring block to the left of the target block and a spatial neighboring block to the top of the target block. That is to say, one or more different MPMs may be determined depending on which intra prediction modes are used for the reference blocks.
  • One or more MPMs may be determined in the same manner in the encoder and decoder. That is to say, the encoder and decoder can share an MPM list that includes the same one or more MPMs.
  • the MPM list may be a list containing one or more MPMs.
  • the number of one or more MPMs in the MPM list may be predetermined.
  • the MPM indicator can indicate the MPM used for intraprediction of the target block of one or more MPMs in the MPM list.
  • the MPM indicator may be an index to the MPM list.
  • the MPM list is determined in the same manner in the encoder and the decoder, the MPM list itself may not need to be transmitted from the encoder to the decoder.
  • the MPM indicator may be signaled from the encoder to the decoder. As the MPM indicator is signaled, the decoding device may determine the MPM to be used for intra prediction of the target block among the MPMs in the MPM list.
  • the MPM Utilization Indicator can indicate whether the MPM use mode is to be used for prediction of the target block.
  • the MPM usage mode may be a mode for determining an MPM to be used for intra prediction on a target block using the MPM list.
  • the MPM usage indicator may be signaled from the encoding device to the decryption device.
  • FIG. 1 is a block diagram illustrating a configuration of an encoding apparatus to which the present invention is applied.
  • the encoding apparatus 100 may be an encoder, a video encoding apparatus, or an image encoding apparatus.
  • the video may include one or more images.
  • the encoding apparatus 100 may sequentially encode one or more images of the video.
  • an encoding apparatus 100 includes an inter prediction unit 110, an intra prediction unit 120, a switch 115, a subtractor 125, a transform unit 130, a quantization unit 140, An inverse quantization unit 160, an inverse transform unit 170, an adder 175, a filter unit 180, and a reference picture buffer 190.
  • the encoding apparatus 100 may perform encoding of a target image using an intra mode and / or an inter mode.
  • the encoding apparatus 100 can generate a bitstream including encoding information through encoding of a target image, and output the generated bitstream.
  • the generated bit stream can be stored in a computer-readable recording medium and can be streamed through a wired / wireless transmission medium.
  • the switch 115 When the intra mode is used as the prediction mode, the switch 115 can be switched to intra. When the inter mode is used as the prediction mode, the switch 115 can be switched to the inter.
  • the encoding apparatus 100 may generate a prediction block for the target block. Also, after the prediction block is generated, the encoding device 100 may code the residual of the target block and the prediction block.
  • the intra prediction unit 120 can use the pixels of the already coded / decoded block around the target block as a reference sample.
  • the intra prediction unit 120 can perform spatial prediction of a target block using a reference sample and generate prediction samples of a target block through spatial prediction.
  • the inter prediction unit 110 may include a motion prediction unit and a motion compensation unit.
  • the motion predicting unit can search for the best matched region from the reference block in the motion estimation process, derive the motion vector for the target block and the searched region using the searched region, can do.
  • the reference picture may be stored in the reference picture buffer 190 and may be stored in the reference picture buffer 190 when the coding and / or decoding of the reference picture has been processed.
  • the motion compensation unit may generate a prediction block for a target block by performing motion compensation using a motion vector.
  • the motion vector may be a two-dimensional vector used for inter prediction.
  • the motion vector may also indicate an offset between the target image and the reference image.
  • the motion prediction unit and the motion compensation unit can generate a prediction block by applying an interpolation filter to a part of the reference image when the motion vector has a non-integer value.
  • a method of motion prediction and motion compensation of a PU included in a CU based on a CU is called a skip mode, a merge mode, an advanced motion vector prediction (AMVP) mode and a current picture reference mode, and inter prediction or motion compensation may be performed according to each mode.
  • the subtracter 125 may generate a residual block which is a difference between the target block and the prediction block.
  • the residual block may be referred to as a residual signal.
  • the transforming unit 130 may perform a transform on the residual block to generate a transform coefficient, and output the generated transform coefficient.
  • the transform coefficient may be a coefficient value generated by performing a transform on the residual block.
  • the conversion unit 130 may use one of a plurality of predetermined conversion methods for performing the conversion.
  • the predetermined plurality of conversion methods may include Discrete Cosine Transform (DCT), Discrete Sine Transform (DST), and Karhunen-Loeve Transform (KLT) have.
  • DCT Discrete Cosine Transform
  • DST Discrete Sine Transform
  • KLT Karhunen-Loeve Transform
  • the transform method used for transforming the residual block may be determined according to at least one of the coding parameters for the object block and / or the surrounding block.
  • the transformation method may be determined based on at least one of an inter prediction mode for the PU, an intra prediction mode for the PU, a size of the TU, and a type of the TU.
  • conversion information indicating the conversion method may be signaled from the encoding device 100 to the decryption device 200.
  • the transforming unit 130 may omit the transform for the residual block.
  • a quantized transform coefficient level or a quantized level can be generated by applying quantization to the transform coefficients.
  • the quantized transform coefficient level and the quantized level may also be referred to as a transform coefficient.
  • the quantization unit 140 may generate a quantized transform coefficient level (i.e., a quantized level or a quantized coefficient) by quantizing the transform coefficient in accordance with the quantization parameter.
  • the quantization unit 140 may output the generated quantized transform coefficient levels. At this time, the quantization unit 140 can quantize the transform coefficient using the quantization matrix.
  • the entropy encoding unit 150 can generate a bitstream by performing entropy encoding according to the probability distribution based on the values calculated by the quantization unit 140 and / or the coding parameter values calculated in the encoding process .
  • the entropy encoding unit 150 may output the generated bitstream.
  • the entropy encoding unit 150 may perform entropy encoding on information about pixels of an image and information for decoding an image.
  • the information for decoding the image may include a syntax element or the like.
  • entropy coding When entropy coding is applied, a small number of bits can be assigned to a symbol having a high probability of occurrence, and a large number of bits can be assigned to a symbol having a low probability of occurrence. As the symbol is represented through this allocation, the size of the bit string for the symbols to be encoded can be reduced. Therefore, the compression performance of the image encoding can be improved through the entropy encoding.
  • the entropy encoding unit 150 may change coefficients of a form of a two-dimensional block into a form of a one-dimensional vector through a transform coefficient scanning method to encode the quantized transform coefficient levels.
  • the coding parameters may be information required for coding and / or decoding.
  • the coding parameters may include information that is encoded in the encoding apparatus 100 and transferred from the encoding apparatus 100 to the decoding apparatus, and may include information that can be inferred in the encoding or decoding process. For example, as information transmitted to the decoding apparatus, there is a syntax element.
  • Coding parameters may include not only information (or flags, indexes, etc.) encoded in a coding apparatus such as syntax elements and signaled from a coding apparatus to a decoding apparatus, but also information derived from a coding process or a decoding process have.
  • the coding parameters may include information required in coding or decoding an image.
  • the primary transformation selection information may represent a primary transformation applied to the target block.
  • the secondary transformation selection information may represent a quadratic transformation applied to the target block.
  • the residual signal may represent a difference between the original signal and the prediction signal.
  • the residual signal may be a signal generated by transforming the difference between the original signal and the prediction signal.
  • the residual signal may be a signal generated by converting and quantizing the difference between the original signal and the prediction signal.
  • the residual block may be a residual signal for the block.
  • Signaling a flag or an index may be performed by encoding the entropy-encoded flag or the entropy-encoded index generated by performing entropy encoding on a flag or an index in a bitstream in the encoding apparatus 100
  • the decryption apparatus 200 may mean to obtain a flag or an index by performing entropy decoding on an entropy-encoded flag extracted from the bitstream or an entropy-encoded index .
  • the encoded target image can be used as a reference image for another image (s) to be processed later. Accordingly, the encoding apparatus 100 can reconstruct or decode the encoded target image again, and store the reconstructed or decoded image as a reference image in the reference picture buffer 190. [ The inverse quantization and inverse transform of the encoded object image for decoding can be processed.
  • the quantized level may be inversely quantized in the inverse quantization unit 160 and may be inversely transformed in the inverse transformation unit 170.
  • the inverse quantization unit 160 may generate inverse quantized coefficients by performing inverse quantization on the quantized levels.
  • the inverse transform unit 170 may generate the reconstructed residual block by performing an inverse transform on the inversely quantized coefficient. That is to say, the reconstructed residual block may be inverse quantized and inverse transformed coefficients.
  • the dequantized and inverse transformed coefficients may be combined with a prediction block via an adder 175.
  • a reconstructed block may be generated by summing the dequantized and / or inverse transformed coefficients and the prediction block.
  • the dequantized and / or inverse transformed coefficient may mean a coefficient on which at least one of dequantization and inverse-transformation is performed, and may mean a reconstructed residual block.
  • the reconstructed block may pass through filter portion 180.
  • the filter unit 180 includes at least one of a deblocking filter, a sample adaptive offset (SAO), an adaptive loop filter (ALF), and a non-local filter (NLF) One or more can be applied to reconstructed blocks or reconstructed pictures.
  • the filter unit 180 may be referred to as an in-loop filter.
  • the deblocking filter can remove block distortion occurring at the boundary between the blocks. To determine whether to apply a deblocking filter, it may be determined whether to apply a deblocking filter to a target block based on the number of columns or pixels (or pixels) included in the block.
  • the applied filter may differ depending on the strength of the required deblocking filtering. In other words, a filter determined according to the strength of deblocking filtering among different filters can be applied to the target block.
  • a deblocking filter is applied to a target block, one of a strong filter and a weak filter may be applied to the target block according to the strength of the required deblocking filtering.
  • horizontal filtering and vertical filtering can be processed in parallel.
  • SAO may add an appropriate offset to the pixel value of the pixel to compensate for coding errors.
  • SAO can perform correction using an offset with respect to a difference between an original image and an image to which deblocking is applied, in units of pixels, for an image to which deblocking is applied.
  • a method of dividing pixels included in an image into a predetermined number of regions, determining an area to be offset of the divided areas, and applying an offset to the determined area may be used And a method of applying an offset in consideration of edge information of each pixel of the image may be used.
  • ALF can perform filtering based on the comparison of the reconstructed image and the original image. After dividing the pixels included in the image into predetermined groups, a filter to be applied to each divided group can be determined, and different filtering can be performed for each group. For a luma signal, information related to whether or not to apply an adaptive loop filter may be signaled per CU. The shape and filter coefficients of the ALF to be applied to each block may be different for each block. Alternatively, regardless of the characteristics of the block, a fixed form of ALF may be applied to the block.
  • the non-local filter can perform filtering based on reconstructed blocks similar to the target block.
  • a region similar to the target block can be selected, and the filtering of the target block can be performed using the statistical properties of the selected similar regions.
  • Information related to whether or not to apply a non-local filter may be signaled to the CU.
  • the shapes of the non-local filters to be applied to the blocks and the filter coefficients may differ from each other depending on the blocks.
  • the reconstructed block or reconstructed image through the filter unit 180 may be stored in the reference picture buffer 190.
  • the reconstructed block through the filter unit 180 may be part of the reference picture. That is to say, the reference picture may be a reconstructed picture composed of reconstructed blocks via the filter unit 180.
  • the stored reference picture can then be used for inter prediction.
  • FIG. 2 is a block diagram illustrating a configuration of a decoding apparatus to which the present invention is applied.
  • the decoding apparatus 200 may be a decoder, a video decoding apparatus, or an image decoding apparatus.
  • the decoding apparatus 200 includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, an intra prediction unit 240, an inter prediction unit 250, a switch 245, An adder 255, a filter unit 260, and a reference picture buffer 270.
  • the decoding apparatus 200 can receive the bit stream output from the encoding apparatus 100. [ The decoding apparatus 200 can receive a bitstream stored in a computer-readable recording medium and can receive a bitstream streamed through a wired / wireless transmission medium.
  • the decoding apparatus 200 may perform decoding of an intra mode and / or an inter mode with respect to a bit stream.
  • the decoding apparatus 200 can generate a reconstructed image or a decoded image through decoding, and output the reconstructed image or the decoded image.
  • the switch to the intra mode or the inter mode according to the prediction mode used for decoding may be performed by the switch 245.
  • the prediction mode used for decoding is the intra mode
  • the switch 245 can be switched to intra.
  • the prediction mode used for decoding is the inter mode
  • the switch 245 can be switched to the inter.
  • the decoding apparatus 200 can obtain a reconstructed residual block by decoding the input bitstream, and can generate a prediction block. Once the reconstructed residual block and the prediction block are obtained, the decoding apparatus 200 can generate the reconstructed block to be decoded by adding the reconstructed residual block and the prediction block.
  • the entropy decoding unit 210 may generate the symbols by performing entropy decoding on the bitstream based on the probability distribution of the bitstream.
  • the generated symbols may include symbols in the form of a quantized transform coefficient level (i.e., a quantized level or a quantized coefficient).
  • the entropy decoding method may be similar to the above-described entropy encoding method.
  • the entropy decoding method may be the inverse of the above-described entropy encoding method.
  • the entropy decoding unit 210 may change the coefficient of the one-dimensional vector form into a two-dimensional block form through a transform coefficient scanning method to decode the quantized transform coefficient levels.
  • the coefficients may be changed to a two-dimensional block form by scanning the coefficients of the block using the upper-right diagonal scan.
  • it may be determined which of the upper right diagonal scan, the vertical scan and the horizontal scan will be used.
  • the quantized coefficients may be inversely quantized in the inverse quantization unit 220.
  • the inverse quantization unit 220 may generate inverse quantized coefficients by performing inverse quantization on the quantized coefficients.
  • the inverse quantized coefficient may be inversely transformed by the inverse transform unit 230.
  • the inverse transform unit 230 may generate the reconstructed residual block by performing an inverse transform on the inversely quantized coefficient.
  • the reconstructed residual block can be generated.
  • the inverse quantization unit 220 may apply the quantization matrix to the quantized coefficients in generating the reconstructed residual block.
  • the intraprediction unit 240 can generate a prediction block by performing spatial prediction using the pixel value of the already decoded block around the target block.
  • the inter prediction unit 250 may include a motion compensation unit.
  • the inter prediction unit 250 may be named as a motion compensation unit.
  • the motion compensation unit may generate a prediction block by performing motion compensation using a motion vector and a reference image stored in the reference picture buffer 270.
  • the motion compensation unit can apply an interpolation filter to a part of the reference image and generate a prediction block using the reference image to which the interpolation filter is applied.
  • the motion compensation unit may determine which of the skip mode, the merge mode, the AMVP mode, and the current picture reference mode is used for the PU included in the CU based on the CU to perform motion compensation, To perform motion compensation.
  • the reconstructed residual block and the prediction block may be added through an adder 255.
  • the adder 255 may generate the reconstructed block by adding the reconstructed residual block and the prediction block.
  • the reconstructed block may pass through filter portion 260.
  • the filter unit 260 may apply at least one of the deblocking filter, SAO, ALF, and non-local filter to the reconstructed block or the reconstructed image.
  • the reconstructed image may be a picture including a reconstructed block.
  • the reconstructed image through the filter unit 260 can be output by the encoding apparatus 100 and can be used by the encoding apparatus 100.
  • the reconstructed image through the filter unit 260 can be stored in the reference picture buffer 270 as a reference picture.
  • the reconstructed block through the filter unit 260 may be part of the reference picture. That is to say, the reference picture may be an image composed of reconstructed blocks through the filter unit 260.
  • the stored reference picture may then be used for inter prediction.
  • FIG. 3 is a diagram schematically showing a division structure of an image when coding and decoding an image.
  • 3 schematically shows an example in which one unit is divided into a plurality of lower units.
  • a unit may be a term collectively referred to as 1) a block containing image samples and 2) a syntax element.
  • “division of a unit” may mean “division of a block corresponding to a unit ".
  • the CU can be used as a base unit of image encoding / decoding. Also, the CU can be used as a unit to which one of the intra mode and the inter mode is applied in image encoding / decoding. That is to say, in the image coding / decoding, it is possible to determine which of intra mode and inter mode is applied to each CU.
  • the CU may also be a base unit for prediction, transform, quantization, inverse transform, dequantization, and encoding / decoding of transform coefficients.
  • an image 300 may be sequentially divided into units of a Largest Coding Unit (LCU).
  • LCU Largest Coding Unit
  • a partition structure can be determined.
  • the LCU can be used in the same sense as a coding tree unit (CTU).
  • CTU coding tree unit
  • the division of a unit may mean division of a block corresponding to the unit.
  • the block partitioning information may include depth information about the depth of the unit.
  • the depth information may indicate the number and / or the number of times the unit is divided.
  • One unit may be hierarchically subdivided with depth information based on a tree structure. Each divided subunit may have depth information.
  • the depth information may be information indicating the size of the CU. Depth information can be stored for each CU.
  • Each CU can have depth information. If the CU is partitioned, the CUs generated by partitioning may have an increased depth by one in the depth of the partitioned CU.
  • the divided structure may mean a distribution of CUs for efficiently encoding an image in the LCU 310. [ This distribution can be determined depending on whether or not to divide one CU into a plurality of CUs.
  • the number of divided CUs may be two or more positive integers including 2, 4, 8, and 16, and so on.
  • the horizontal size and the vertical size of the CU generated by the division may be smaller than the horizontal size and the vertical size of the CU before division according to the number of CUs generated by the division.
  • the divided CUs can be recursively divided into a plurality of CUs in the same manner.
  • the size of at least one of the horizontal and vertical sizes of the partitioned CUs can be reduced compared to at least one of the horizontal and vertical sizes of the CUs before partitioning.
  • the partitioning of the CU can be done recursively up to a predetermined depth or a predetermined size.
  • the depth of the CU may have a value from 0 to 3.
  • the size of the CU may range from 64x64 to 8x8 depending on the depth of the CU.
  • the depth of the LCU may be zero, and the depth of the Smallest Coding Unit (SCU) may be a predetermined maximum depth.
  • the LCU may be a CU having a maximum coding unit size as described above, and the SCU may be a CU having a minimum coding unit size.
  • the partitioning may be started from the LCU 310 and the depth of the CU may increase by one each time the horizontal and / or vertical size of the CU is reduced by partitioning.
  • the unpartitioned CU may have a size of 2Nx2N.
  • a CU having a size of 2Nx2N can be divided into four CUs having an NxN size. The size of N can be reduced by half each time the depth is increased by one.
  • a LCU having a depth of 0 may be 64x64 pixels or 64x64 block. 0 may be the minimum depth.
  • An SCU with a depth of 3 may be 8x8 pixels or 8x8 block. 3 may be the maximum depth.
  • the CU of the 64x64 block, which is the LCU can be represented by the depth 0.
  • the CU of a 32x32 block can be represented by a depth of one.
  • the CU of a 16x16 block can be represented by a depth of two.
  • the CU of an 8x8 block that is an SCU can be represented by a depth of 3.
  • the division information may be 1-bit information. All CUs except SCU can contain partition information. For example, the value of the partition information of the unpartitioned CU may be 0, and the value of the partition information of the partitioned CU may be 1.
  • the horizontal size and the vertical size of each CU of the four CUs generated by the division are respectively half of the horizontal size and half of the vertical size of the CU before division .
  • the sizes of the 4 divided CUs may be 16x16.
  • the horizontal size or the vertical size of each CU of the two CUs generated by the division is respectively one half of the horizontal size of the CU before the division, .
  • the sizes of the two divided CUs may be 16x32.
  • the sizes of the two CUs may be 32x16.
  • both a quad-tree type partition and a binary-tree type partition are applied.
  • a 64.times.64 size Coding Tree Unit can be divided into a smaller number of CUs by a recursive quad-crree structure.
  • One CU may be divided into four CUs having the same sizes.
  • CUs can be recursively partitioned, and each CU can have a quadtree structure.
  • Fig. 4 is a diagram showing a form of a prediction unit (PU) that a coding unit (CU) can include.
  • a CU that is not further divided among the CUs divided from the LCU may be divided into one or more Prediction Units (PUs).
  • PUs Prediction Units
  • the PU can be a base unit for prediction.
  • the PU may be coded and decoded in either a skip mode, an inter mode, or an intra mode.
  • the PU can be divided into various forms according to each mode.
  • the target block described above with reference to FIG. 1 and the target block described above with reference to FIG. 2 may be a PU.
  • the CU may not be divided into PUs. If the CU is not partitioned into PUs, the size of the CU and the size of the PU may be the same.
  • the skip mode there may be no division in the CU.
  • the 2Nx2N mode 410 having the same sizes of PU and CU without division can be supported.
  • inter mode eight subdivided forms within the CU can be supported.
  • 2Nx2N mode 410, 2NxN mode 415, Nx2N mode 420, NxN mode 425, 2NxnU mode 430, 2NxnD mode 435, nLx2N mode 440, Mode 445 may be supported.
  • 2Nx2N mode 410 and NxN mode 425 may be supported.
  • a PU of size 2Nx2N may be encoded.
  • a PU of size 2Nx2N can mean a PU of the same size as a CU.
  • a PU of size 2Nx2N may have a size of 64x64, 32x32, 16x16, or 8x8.
  • the PU of the size NxN can be encoded.
  • the size of the PU when the size of the PU is 8x8, four divided PUs can be encoded.
  • the size of the partitioned PU may be 4x4.
  • the PU When the PU is encoded by the intra mode, the PU may be encoded using one of the plurality of intra prediction modes.
  • the High Efficiency Video Coding (HEVC) technique may provide 35 intra prediction modes, and the PU may be coded into one of the 35 intra prediction modes.
  • HEVC High Efficiency Video Coding
  • the mode in which the PU is encoded by the 2Nx2N mode 410 and the NxN mode 425 can be determined by the rate-distortion cost.
  • the encoding apparatus 100 can perform the encoding operation on the 2Nx2N size PU.
  • the encoding operation may be to encode the PU in each of a plurality of intra prediction modes that the encoding apparatus 100 can use.
  • the optimal intra prediction mode for the 2Nx2N size PU can be derived through the encoding operation.
  • the optimal intra prediction mode may be an intra prediction mode in which a minimum rate-distortion cost is incurred for encoding 2Nx2N sized PUs among a plurality of intra prediction modes available for use by the encoding apparatus 100.
  • the encoding apparatus 100 can sequentially perform encoding operations on each PU of PUs divided into NxN.
  • the encoding operation may be to encode the PU in each of a plurality of intra prediction modes that the encoding apparatus 100 can use.
  • An optimal intra prediction mode for an NxN size PU can be derived through an encoding operation.
  • the optimal intra prediction mode may be an intra prediction mode in which a minimum rate-distortion cost is incurred for encoding of NxN-sized PUs among a plurality of intra prediction modes available for use by the encoding apparatus 100.
  • the encoding apparatus 100 may determine which of 2Nx2N sized PU and NxN sized PUs to encode based on a comparison of the rate-distortion cost of the 2Nx2N sized PU and the rate-distortion costs of the NxN sized PUs.
  • One CU may be divided into one or more PUs, and a PU may be divided into a plurality of PUs.
  • the horizontal size and the vertical size of each PU of the four PUs generated by the division are respectively one half of the horizontal size of the PU before division and one half of the vertical size .
  • the sizes of the 4 divided PUs may be 16x16.
  • the horizontal size or the vertical size of each PU of the two PUs generated by the division is a half of the horizontal size or half of the vertical size of the PU before the division, .
  • the sizes of the two divided PUs may be 16x32.
  • the sizes of the two divided PUs may be 32x16.
  • FIG. 5 is a diagram showing a form of a conversion unit (TU) which can be included in a coding unit (CU).
  • TU conversion unit
  • CU coding unit
  • a Transform Unit can be a basic unit used for transform, quantization, inverse transform, inverse quantization, entropy coding, and entropy decoding processes in a CU.
  • the TU may have a square shape or a rectangular shape.
  • the form of the TU may be determined depending on the size and / or shape of the CU.
  • the CUs that are no longer divided into CUs may be divided into one or more TUs.
  • the partition structure of the TU may be a quad-tree structure.
  • one CU 510 may be divided one or more times according to the quad-tree structure.
  • one CU 510 can be composed of TUs of various sizes.
  • the CU can be considered to be recursively partitioned.
  • partitioning one CU can be composed of TUs with various sizes.
  • one CU may be divided into one or more TUs based on the number of vertical and / or horizontal lines dividing the CU.
  • the CU may be divided into symmetric TUs and may be divided into asymmetric TUs.
  • information about the size and / or type of the TU may be signaled from the encoding device 100 to the decoding device 200.
  • the size and / or shape of the TU may be derived from information about the size and / or shape of the CU.
  • the CU may not be divided into TUs. If the CU is not divided into TUs, the size of the CU and the size of the TU may be the same.
  • One CU may be divided into one or more TUs, and a TU may be divided into a plurality of TUs.
  • the horizontal size and the vertical size of each TU of the four TUs generated by the division are respectively one half of the horizontal size of the TU before the division and one half of the vertical size .
  • the sizes of the 4 TUs divided may be 16x16.
  • the horizontal size or vertical size of each TU of the two TUs generated by the partition may be half of the horizontal size of the TU before the partition, .
  • the sizes of the two divided TUs may be 16x32.
  • the sizes of the two TUs divided may be 32x16.
  • the CU may be divided in a manner other than that shown in Fig.
  • one CU may be divided into three CUs.
  • the horizontal size or the vertical size of the three divided CUs may be 1/4, 1/2 and 1/4 of the horizontal size or vertical size of the CU before division, respectively.
  • the sizes of the three divided CUs may be 8x32, 16x32, and 8x32, respectively.
  • the CU is divided into the form of a triad tree.
  • One of the partitioning of the illustrated quad tree type, the partitioning of the binary tree type and the partitioning of the triple tree can be applied for partitioning of the CU, and a plurality of partitioning schemes may be combined for partitioning the CU .
  • a case where a plurality of division methods are used in combination is referred to as a division of the form of a composite tree.
  • Figure 6 shows the partitioning of a block according to an example.
  • the target block may be divided as shown in FIG.
  • an indicator indicating the division information may be signaled from the coding apparatus 100 to the decoding apparatus 200.
  • the partition information may be information indicating how the target block is divided.
  • quadtree_flag a binary tree flag
  • QB_flag quad-binary flag
  • Btype_flag a binary type flag
  • the split_flag may be a flag indicating whether or not the block is divided. For example, the value 1 of split_flag may indicate that the block is partitioned. A value of 0 in split_flag may indicate that the block is not partitioned.
  • QB_flag may be a flag indicating whether the block is divided into a quad tree form or a binary tree form. For example, a value of 0 in QB_flag may indicate that the block is partitioned into a quadtree form. A value of 1 in QB_flag may indicate that the block is partitioned into a binary tree. Alternatively, a value of 0 in QB_flag may indicate that the block is partitioned into a binary tree form. A value of 1 in QB_flag may indicate that the block is partitioned into a quadtree form.
  • the quadtree_flag may be a flag indicating whether the block is divided into a quad tree form. For example, a value of 1 in quadtree_flag may indicate that the block is partitioned into a quadtree form. A value of 0 in the quadtree_flag may indicate that the block is not partitioned into quadtrees.
  • the binarytree_flag may be a flag indicating whether the block is divided into a binary tree form. For example, a value of 1 in the binarytree_flag may indicate that the block is partitioned into a binary tree. A value of binarytree_flag of 0 may indicate that the block is not partitioned into a binary tree.
  • Btype_flag may be a flag indicating whether the block is divided into a vertical division or a horizontal division when the block is divided into a binary tree form. For example, a value of 0 for Btype_flag may indicate that the block is divided horizontally. A value of 1 for Btype_flag may indicate that the block is vertically partitioned. Alternatively, a value of 0 for Btype_flag may indicate that the block is vertically split. A value of 1 for Btype_flag may indicate that the block is split horizontally.
  • the partition information for the block of FIG. 6 can be derived by signaling at least one of quadtree_flag, binarytree_flag, and Btype_flag as shown in Table 1 below.
  • the partition information for the block of FIG. 6 can be derived by signaling at least one of split_flag, QB_flag, and Btype_flag as shown in Table 2 below.
  • the partitioning method may be limited to a quadtree only according to the size and / or type of the block, or may be limited to a binary tree only.
  • the split_flag may be a flag indicating whether to split into a quadtree form or a flag indicating whether to divide it into a binary tree form.
  • the size and shape of the block may be derived according to the depth information of the block, and the depth information may be signaled from the encoding device 100 to the decoding device 200.
  • the specified range may be defined by at least one of a maximum block size and a minimum block size that can be partitioned only in the form of a quadtree.
  • the information indicating the maximum block size and / or the minimum block size that can be divided only in the quadtree form can be signaled from the encoding apparatus 100 to the decoding apparatus 200 through the bit stream.
  • such information may be signaled for at least one of a video, a sequence, a picture, and a slice (or segment).
  • the maximum block size and / or minimum block size may be a fixed size predefined in the encoding device 100 and the decoding device 200. For example, if the block size is greater than or equal to 64x64, and less than or equal to 256x256, only a quadtree-type partition may be possible.
  • the split_flag may be a flag indicating whether the split_flag is divided into a quadtree form.
  • the specified range may be defined by at least one of a maximum block size and a minimum block size that can be partitioned only in a binary tree form.
  • Information indicating the maximum block size and / or minimum block size that can be divided only in the binary tree form can be signaled from the encoding apparatus 100 to the decoding apparatus 200 through the bit stream. This information may also be signaled for at least one of a sequence, a picture, and a slice (or segment).
  • the maximum block size and / or minimum block size may be a fixed size predefined in the encoding device 100 and the decoding device 200. For example, if the block size is greater than or equal to 8x8 and less than or equal to 16x16, then only a binary tree-like partition may be possible.
  • the split_flag may be a flag indicating whether the split tree is divided into a binary tree form.
  • the partitioning of the block can be limited by the previous partitioning. For example, when a block is divided into a binary tree form to generate a plurality of divided blocks, each divided block can be further divided into a binary tree form only.
  • the aforementioned indicator may not be signaled.
  • FIG. 7 is a diagram for explaining an embodiment of an intra prediction process.
  • the arrows from the center to the outline of the graph of FIG. 7 may indicate the prediction directions of the intra-prediction modes.
  • the number indicated close to the arrow may represent an example of the mode value assigned to the prediction direction of the intra-prediction mode or the intra-prediction mode.
  • Intra coding and / or decoding may be performed using reference samples of the units around the target block.
  • the surrounding block may be the reconstructed block around.
  • intra-coding and / or decoding may be performed using values or coding parameters of reference samples included in the reconstructed neighboring blocks.
  • the encoding apparatus 100 and / or the decoding apparatus 200 can generate a prediction block by performing intra prediction on a target block based on information of samples in the target image.
  • the encoding apparatus 100 and / or the decoding apparatus 200 may generate a prediction block for a target block by performing intra prediction based on information of samples in the target image.
  • the encoding apparatus 100 and / or the decoding apparatus 200 may perform directional prediction and / or non-directional prediction based on at least one reconstructed reference sample.
  • the prediction block may refer to a block generated as a result of performing intra prediction.
  • the prediction block may correspond to at least one of CU, PU, and TU.
  • the unit of the prediction block may be at least one of CU, PU, and TU.
  • the prediction block may have the form of a square having a size of 2Nx2N or a size of NxN.
  • the size of NxN may include 4x4, 8x8, 16x16, 32x32 and 64x64.
  • the prediction block may be a block in the form of a square having a size of 2x2, 4x4, 8x8, 16x16, 32x32, or 64x64, or may be a rectangular block having a size of 2x8, 4x8, 2x16, 4x16, have.
  • Intra prediction may be performed according to the intra prediction mode for the target block.
  • the number of intra prediction modes that a target block may have may be a predetermined fixed value and may be a value determined differently depending on the property of the prediction block.
  • the attributes of the prediction block may include the size of the prediction block and the type of the prediction block.
  • the number of intra prediction modes can be fixed to 35 irrespective of the size of the prediction block.
  • the number of intra prediction modes may be 3, 5, 9, 17, 34, 35 or 36, and so on.
  • the intra prediction mode may be a non-directional mode or a directional mode.
  • the intra-prediction mode may include two non-directional modes and 33 directional modes as shown in FIG.
  • the two non-directional modes may include a DC mode and a Planar mode.
  • the directional modes may be a prediction mode having a specific direction or a specific angle.
  • the intra prediction mode may be represented by at least one of a mode number, a mode value, and a mode angle.
  • the number of intra prediction modes may be M. M may be at least one. That is to say, the intra prediction mode may be M numbers including the number of non-directional modes and the number of directional modes.
  • the number of intra prediction modes may be fixed to M, regardless of the size of the block and / or the color component.
  • the number of intra prediction modes can be fixed to either 35 or 67 regardless of the size of the block.
  • the number of intra prediction modes may differ depending on the size of the block and / or the type of color component.
  • the larger the block size the larger the number of intra prediction modes.
  • the larger the block size the smaller the number of intra prediction modes. If the block size is 4x4 or 8x8, then the number of intra prediction modes may be 67. If the size of the block is 16x16, the number of intra prediction modes may be 35. If the block size is 32x32, the number of intra prediction modes may be 19. If the block size is 64x64, the number of intra prediction modes may be 7.
  • the number of intra prediction modes may be different depending on whether the color component is a luma signal or a chroma signal.
  • the number of intra prediction modes of the luma component block may be greater than the number of intra prediction modes of the chroma component block.
  • the prediction can be performed in the vertical direction based on the pixel value of the reference sample.
  • prediction can be performed in the horizontal direction based on the pixel value of the reference sample.
  • the encoding apparatus 100 and the decoding apparatus 200 can perform intra prediction on a target unit using a reference sample according to an angle corresponding to the directional mode even in the directional mode other than the above-described mode.
  • the intra prediction mode located on the right side of the vertical mode may be referred to as a vertical-right mode.
  • the intra prediction mode located at the lower end of the horizontal mode may be named a horizontal-below mode.
  • the intra prediction modes in which the mode value is one of 27, 28, 29, 30, 31, 32, 33, and 34 may be vertical right modes 613.
  • Intra prediction modes where the mode value is one of 2, 3, 4, 5, 6, 7, 8, and 9 may be horizontal lower modes 616.
  • the non-directional mode may include a DC mode and a planar mode.
  • the mode value of the DC mode may be one.
  • the mode value of the planner mode may be zero.
  • the directional mode may include an angular mode.
  • the remaining modes except for the DC mode and the planar mode may be the directional mode.
  • a prediction block may be generated based on an average of pixel values of a plurality of reference samples. For example, the value of a pixel of a prediction block may be determined based on an average of pixel values of a plurality of reference samples.
  • the number of intra prediction modes described above and the mode value of each intra prediction mode may be exemplary only.
  • the number of intra prediction modes described above and the mode value of each intra prediction mode may be differently defined according to the embodiment, implementation and / or necessity.
  • a step of checking whether samples included in the restored neighboring block can be used as a reference sample of the target block to perform intra prediction on the target block can be performed.
  • a value generated by copying and / or interpolation using at least one sample value of samples included in the reconstructed neighboring block if there is a sample that is not available as a reference sample of the target block among the samples of the neighboring block It can be replaced with the sample value of the sample which is not available as a reference sample. If the value generated by copying and / or interpolation is replaced with the sample value of the sample, the sample may be used as a reference sample of the target block.
  • a filter may be applied to at least one of a reference sample or a prediction sample based on at least one of an intra prediction mode and a size of a target block.
  • the kind of filter applied to at least one of the reference sample and the prediction sample may be different depending on at least one of an intra prediction mode of a target block, a size of a target block, and a shape of a target block.
  • the type of the filter can be classified according to one or more of the number of filter taps, the value of the filter coefficient, and the filter strength.
  • the intra prediction mode is the planar mode
  • the upper reference sample of the target sample, the left reference sample of the target sample, and the upper right reference sample of the target block And a weighted sum of the lower left reference samples of the target block may be used to generate a sample value of the prediction target sample.
  • the intra prediction mode is the DC mode
  • the average value of the upper reference samples and the left reference samples of the target block may be used.
  • filtering may be performed using the values of the reference samples for the specified rows or specified columns in the object block.
  • the specified rows may be one or more top rows adjacent to the reference sample.
  • the specified columns may be one or more left columns adjacent to the reference sample.
  • a prediction block can be generated using the upper reference sample, the left reference sample, the upper right reference sample, and / or the lower left reference sample of the target block.
  • Real-unit interpolation may be performed to generate the prediction samples described above.
  • the intra prediction mode of the target block can be predicted from the intra prediction mode of the neighboring block of the target block, and the information used for prediction can be entropy encoded / decoded.
  • the intraprediction modes of the target block and the neighboring blocks are the same, it can be signaled that the intraprediction modes of the target block and the neighboring block are the same using the predetermined flag.
  • an indicator indicating an intra prediction mode that is the same as the intra prediction mode of the target block among the intra prediction modes of a plurality of neighboring blocks may be signaled.
  • the information of the intra prediction mode of the target block can be encoded and / or decoded using entropy encoding and / or decoding.
  • FIG. 8 is a view for explaining the positions of reference samples used in the intra prediction process.
  • a reconstructed reference sample used for intra prediction of a target block includes lower-left reference samples 831, left reference samples 833, an upper- left corner reference sample 835, top reference samples 837 and top-right reference samples 839, and the like.
  • the left reference samples 833 may refer to reconstructed reference pixels adjacent to the left of the target block.
  • Top reference samples 837 may refer to a reconstructed reference pixel adjacent the top of the target block.
  • the upper left corner reference sample 835 may refer to a reconstructed reference pixel located at the upper left corner of the object block.
  • the lower left reference samples 831 may refer to a reference sample located at the lower end of the left sample line among the samples located on the same line as the left sample line composed of the left reference samples 833.
  • Upper right reference samples 839 may refer to reference samples located on the right side of the upper pixel line among samples located on the same line as the upper sample line composed of upper reference samples 837.
  • the lower left reference samples 831, the left reference samples 833, the upper reference samples 837, and the upper right reference samples 839 may be N, respectively.
  • a prediction block can be generated through intraprediction of a target block.
  • the generation of the prediction block may include determining the value of the pixels of the prediction block.
  • the size of the target block and the size of the prediction block may be the same.
  • the reference sample used for intra prediction of the target block may be changed depending on the intra prediction mode of the target block.
  • the direction of the intra-prediction mode may indicate a dependency between the reference samples and the pixels of the prediction block.
  • the value of the specified reference sample may be used as the value of one or more specified pixels of the prediction block.
  • the specified reference sample and the specified one or more pixels of the prediction block may be samples and pixels designated by a straight line in the direction of the intra prediction mode. That is to say, the value of the specified reference sample can be copied to the value of the pixel located in the reverse direction of the intra prediction mode.
  • the value of the pixel of the prediction block may be the value of the reference sample located in the direction of the intra-prediction mode with respect to the position of the pixel.
  • the intra prediction mode of the target block is a vertical mode with a mode value of 26
  • upper reference samples 837 may be used for intra prediction.
  • the intra prediction mode is the vertical mode
  • the value of the pixel of the prediction block may be the value of the reference sample vertically positioned with respect to the position of the pixel.
  • top reference samples 837 that are near the top of the target block may be used for intra prediction.
  • the values of the pixels of a row of the prediction block may be the same as the values of the upper reference samples 837.
  • the left reference samples 833 can be used for intra prediction.
  • the value of the pixel of the prediction block may be the value of the reference sample located horizontally on the left side of the pixel.
  • the left reference samples 833 to the left of the target block may be used for intra prediction.
  • the values of the pixels in a column of the prediction block may be the same as the values of the left reference samples 833.
  • the mode value of the intra prediction mode of the target block is 18, at least a part of the left reference samples 833, at least a part of the upper left corner reference sample 835 and the upper reference samples 837, Can be used. If the mode value of the intra prediction mode is 18, the value of the pixel of the prediction block may be a value of the reference sample located diagonally to the left of the upper side with respect to the pixel.
  • At least some of the upper right reference samples 839 may be used for intra prediction.
  • At least a part of the lower left reference samples 831 may be used for intra prediction.
  • upper left corner reference sample 835 may be used for intra prediction.
  • the reference sample used to determine the pixel value of one pixel of the prediction block may be one, or may be two or more.
  • the pixel value of the pixel of the prediction block as described above can be determined according to the position of the pixel and the position of the reference sample indicated by the direction of the intra prediction mode. If the position of the pixel and the position of the reference sample pointed by the direction of the intra prediction mode is an integer position, the value of one reference sample pointed to by the integer position can be used to determine the pixel value of the pixel of the prediction block.
  • an interpolated reference sample may be generated based on the two reference samples closest to the location of the reference sample have.
  • the value of the interpolated reference sample may be used to determine the pixel value of the pixel of the prediction block. That is, when the position of the pixel of the prediction block and the position of the reference sample pointed by the direction of the intra prediction mode indicate between the two reference samples, an interpolated value is generated based on the values of the two samples .
  • the prediction block generated by the prediction may not be the same as the original target block. That is, there may be a prediction error which is a difference between the target block and the prediction block, and a prediction error may exist between the pixels of the target block and the pixels of the prediction block.
  • Filtering for the prediction block may be used to reduce the prediction error.
  • the filtering may be adaptively applying a filter to an area of the prediction block that is considered to have a large prediction error.
  • the region considered as having a large prediction error may be the boundary of the prediction block.
  • an area regarded as having a large prediction error among the prediction blocks may be different, and the characteristics of the filter may be different.
  • FIG. 9 is a diagram for explaining an embodiment of the inter prediction process.
  • the rectangle shown in FIG. 9 may represent an image (or a picture).
  • arrows may indicate the prediction direction. That is, the image can be encoded and / or decoded according to the prediction direction.
  • Each image can be classified into an I picture (Intra Picture), a P picture (Uni-prediction Picture), and a B picture (Bi-prediction Picture) according to the coding type.
  • Each picture can be coded and / or decoded according to the coding type of each picture.
  • the object image to be encoded is an I-picture
  • the object image can be encoded using data in the image itself without inter-prediction referring to other images.
  • an I-picture can be encoded only by intra prediction.
  • the target image When the target image is a P picture, the target image can be encoded by inter prediction using only reference pictures existing in a unidirection.
  • the unidirectional may be forward or reverse.
  • the target image When the target image is a B picture, the target image can be encoded by inter prediction using bi-directional reference pictures or inter prediction using reference pictures existing in one direction of forward and backward directions. Here, both directions may be forward and backward.
  • P-pictures and B-pictures that are encoded and / or decoded using reference pictures can be regarded as pictures in which inter-prediction is used.
  • Inter prediction can be performed using motion information.
  • the encoding apparatus 100 can perform inter prediction and / or motion compensation on a target block.
  • the decoding apparatus 200 may perform inter-prediction and / or motion compensation corresponding to inter-prediction and / or motion compensation in the encoding apparatus 100 with respect to a target block.
  • the motion information for the target block can be derived during inter-prediction by the encoding apparatus 100 and the decoding apparatus 200, respectively.
  • the motion information may be derived using motion information of the restored neighboring block, motion information of the call block, and / or motion information of a block adjacent to the call block.
  • the coding apparatus 100 or the decoding apparatus 200 may perform prediction and / or motion compensation by using motion information of a spatial candidate and / or a temporal candidate as motion information of a target block Can be performed.
  • the target block may refer to a PU and / or PU partition.
  • the spatial candidate may be a reconstructed block spatially adjacent to the target block.
  • the temporal candidate may be a reconstructed block corresponding to a target block in a collocated picture (col picture) that has already been reconstructed.
  • the coding apparatus 100 and the decoding apparatus 200 can improve coding efficiency and decoding efficiency by using motion information of spatial candidates and / or temporal candidates.
  • the motion information of the spatial candidate may be referred to as spatial motion information.
  • the temporal candidate motion information may be referred to as temporal motion information.
  • the motion information of the spatial candidate may be the motion information of the PU including the spatial candidate.
  • the motion information of the temporal candidate may be the motion information of the PU including the temporal candidate.
  • the motion information of the candidate block may be the motion information of the PU including the candidate block.
  • Inter prediction can be performed using a reference picture.
  • the reference picture may be at least one of a previous picture of a target picture or a subsequent picture of a target picture.
  • the reference picture may refer to an image used for prediction of a target block.
  • an area in a reference picture can be specified by using a reference picture index (or refIdx) indicating a reference picture and a motion vector or the like to be described later.
  • the specified area in the reference picture may indicate a reference block.
  • Inter prediction can select a reference picture and can select a reference block corresponding to a target block in a reference picture.
  • the inter prediction can generate a prediction block for a target block using the selected reference block.
  • the motion information may be derived during inter-prediction by the encoding apparatus 100 and the decoding apparatus 200, respectively.
  • the spatial candidate may be 1) existing in the target picture, 2) already reconstructed through encoding and / or decoding, and 3) adjacent to the target block or a block located at the corner of the target block.
  • a block located at a corner of a target block may be a block vertically adjacent to a neighboring block that is laterally adjacent to the target block, or a block that is laterally adjacent to a neighboring block vertically adjacent to the target block.
  • the "block located at the corner of the target block” may have the same meaning as "the block adjacent to the corner of the target block ".
  • the "block located at the corner of the target block” may be included in the "block adjacent to the target block ".
  • the spatial candidate may be a reconstructed block located on the left side of the target block, a reconstructed block located on the top of the target block, a reconstructed block located in the lower left corner of the target block, The reconstructed block or the reconstructed block located in the upper left corner of the target block.
  • Each of the encoding apparatus 100 and the decoding apparatus 200 can identify a block existing in a position spatially corresponding to a target block in a col picture.
  • the position of the target block in the target picture and the position of the identified block in the call picture can correspond to each other.
  • Each of the encoding apparatus 100 and the decoding apparatus 200 can determine a col block existing at a predetermined relative position with respect to the identified block as a temporal candidate.
  • the predetermined relative position may be a position inside the identified block and / or an outside position.
  • the call block may include a first call block and a second call block.
  • the first call block may be a block located in the coordinates (xP + nPSW, yP + nPSH).
  • the second call block may be a block located in the coordinates (xP + (nPSW >> 1), yP + (nPSH >> 1).
  • the second call block may optionally be used when the first call block is unavailable.
  • the motion vector of the target block may be determined based on the motion vector of the call block.
  • Each of the encoding apparatus 100 and the decoding apparatus 200 can scale a motion vector of a call block.
  • a scaled motion vector of the call block can be used as a motion vector of the target block.
  • the motion vector of the temporal candidate motion information stored in the list may be a scaled motion vector.
  • the ratio of the motion vector of the target block and the motion vector of the call block may be the same as the ratio of the first temporal distance and the second temporal distance.
  • the first temporal distance may be the distance between the reference picture and the target picture of the target block.
  • the second temporal distance may be the distance between the reference picture of the call block and the call picture.
  • the derivation method of the motion information can be changed according to the inter prediction mode of the target block.
  • an inter-prediction mode applied for inter prediction such as an Advanced Motion Vector Predictor (AMVP) mode
  • AMVP Advanced Motion Vector Predictor
  • merge mode may also be referred to as a motion merge mode.
  • the encoding apparatus 100 can search for similar blocks in the vicinity of the target block.
  • the encoding apparatus 100 can obtain a prediction block by performing prediction on a target block using motion information of a similar similar block.
  • the encoding apparatus 100 may encode a residual block which is a difference between the target block and the prediction block.
  • each of the encoding apparatus 100 and the decoding apparatus 200 can generate a predicted motion vector candidate list using a spatial candidate motion vector, a temporal motion motion vector, and a zero vector have.
  • the predicted motion vector candidate list may include one or more predicted motion vector candidates. At least one of a spatial candidate motion vector, a temporal candidate motion vector, and a zero vector may be determined and used as a predicted motion vector candidate.
  • predicted motion vector (candidate) and “motion vector (candidate)” may be used interchangeably and may be used interchangeably.
  • predicted motion vector candidate and “AMVP candidate” can be used interchangeably and can be used interchangeably.
  • predicted motion vector candidate list and “AMVP candidate list” may be used interchangeably and may be used interchangeably.
  • Spatial candidates may include reconstructed spatial neighboring blocks.
  • the motion vector of the reconstructed neighboring block may be referred to as a spatial prediction motion vector candidate.
  • the temporal candidate may include a call block and a block adjacent to the call block.
  • a motion vector of a call block or a block adjacent to a call block may be referred to as a temporal prediction motion vector candidate.
  • the zero vector may be a (0, 0) motion vector.
  • the predicted motion vector candidate may be a motion vector predictor for predicting the motion vector. Also, in the encoding apparatus 100, the predicted motion vector candidate may be a motion vector initial search position.
  • the encoding apparatus 100 may use the predicted motion vector candidate list to determine a motion vector to be used for encoding the target block within the search range. Also, the encoding apparatus 100 can determine a predicted motion vector candidate to be used as a predicted motion vector of a target block among predicted motion vector candidates of the predicted motion vector candidate list.
  • a motion vector to be used for coding a target block may be a motion vector that can be encoded at a minimum cost.
  • the encoding apparatus 100 can determine whether to use the AMVP mode in encoding the target block.
  • the encoding apparatus 100 can generate a bitstream including inter prediction information required for inter prediction.
  • the decoding apparatus 200 may perform inter prediction on a target block using inter prediction information of a bit stream.
  • the inter prediction information includes 1) mode information indicating whether the AMVP mode is used, 2) a predicted motion vector index, 3) a motion vector difference (MVD), 4) a reference direction, and 5) can do.
  • predicted motion vector index and “AMVP index” may be used interchangeably and may be used interchangeably.
  • the inter prediction information may include a residual signal.
  • the decoding apparatus 200 can obtain the predicted motion vector index, the motion vector difference, the reference direction, and the reference picture index from the bitstream through entropy decoding.
  • the predicted motion vector index may indicate a predicted motion vector candidate used for predicting a target block among the predicted motion vector candidates included in the predicted motion vector candidate list.
  • the decoding apparatus 200 can derive a predicted motion vector candidate using the predicted motion vector candidate list and determine the motion information of the target block based on the derived predicted motion vector candidate.
  • the decoding apparatus 200 can determine a motion vector candidate for a target block from among the predicted motion vector candidates included in the predicted motion vector candidate list using the predicted motion vector index.
  • the decoding apparatus 200 can select a predicted motion vector candidate pointed to by the predicted motion vector index among the predicted motion vector candidates included in the predicted motion vector candidate list as a predicted motion vector of the target block.
  • the motion vector to be actually used for inter prediction of the target block may not coincide with the predicted motion vector.
  • the MVD may be used to represent the difference between the motion vector to be actually used for inter prediction of the target block and the predicted motion vector.
  • the encoding apparatus 100 can derive a predictive motion vector similar to a motion vector to be actually used for inter prediction of a target block in order to use an MVD as small as possible.
  • the MVD may be a difference between a motion vector of a target block and a predicted motion vector.
  • the encoding apparatus 100 can calculate the MVD and entropy-encode the MVD.
  • the MVD may be transmitted from the encoding apparatus 100 to the decoding apparatus 200 through a bitstream.
  • the decoding apparatus 200 can decode the received MVD.
  • the decoding apparatus 200 can derive a motion vector of a target block by adding the decoded MVD and the predicted motion vector.
  • the motion vector of the target block derived from the decoding apparatus 200 may be the sum of the entropy-decoded MVD and the motion vector candidate.
  • the reference direction may indicate a reference picture list used for predicting a target block.
  • the reference direction may indicate one of the reference picture list L0 and the reference picture list L1.
  • the reference direction may refer to a reference picture list used for prediction of a target block, but may not indicate that the directions of the reference pictures are limited in a forward direction or a backward direction. That is to say, each of the reference picture list L0 and the reference picture list L1 may include forward and / or backward pictures.
  • the reference direction being uni-directional may mean that one reference picture list is used.
  • the bi-directional reference direction may mean that two reference picture lists are used. That is to say, the reference direction may indicate that only the reference picture list L0 is used, only the reference picture list L1 is used, and one of the two reference picture lists.
  • the reference picture index may indicate a reference picture used for prediction of a target block among reference pictures of the reference picture list.
  • the reference picture index can be entropy-encoded by the encoding apparatus 100.
  • the entropy encoded reference picture index may be signaled from the encoding apparatus 100 to the decoding apparatus 200 through the bit stream.
  • two reference picture lists are used for prediction of a target block.
  • One reference picture index and one motion vector may be used for each reference picture list.
  • two prediction blocks can be specified for a target block. For example, a (final) prediction block of a target block may be generated through an average or a weighted sum of two prediction blocks for a target block.
  • the motion vector of the target block can be derived by the predicted motion vector index, the MVD, the reference direction, and the reference picture index.
  • the decoding apparatus 200 may generate a prediction block for a target block based on the derived motion vector and the reference picture index.
  • the prediction block may be a reference block pointed to by the derived motion vector in the reference picture pointed to by the reference picture index.
  • the amount of bits to be transmitted from the encoding apparatus 100 to the decoding apparatus 200 can be reduced by encoding the predicted motion vector index and the MVD without encoding the motion vector of the target block and the encoding efficiency can be improved.
  • Motion information of the reconstructed neighboring blocks may be used for the target block.
  • the encoding apparatus 100 may not separately encode the motion information on the target block.
  • the motion information of the target block is not coded and other information capable of deriving the motion information of the target block through motion information of the reconstructed neighboring block can be encoded instead.
  • the amount of bits to be transmitted to the decoding apparatus 200 can be reduced, and the coding efficiency can be improved.
  • a skip mode and / or a merge mode may be an inter prediction mode in which motion information of the target block is not directly encoded.
  • the encoding apparatus 100 and the decoding apparatus 200 may use an identifier and / or index indicating which one of the reconstructed neighboring units is used as motion information of the target unit.
  • a merge may mean a merging of movements for a plurality of blocks.
  • Merging may mean applying motion information of one block to another block as well.
  • the merge mode may mean a mode in which motion information of a target block is derived from motion information of a neighboring block.
  • the encoding apparatus 100 can predict motion information of a target block using motion information of a spatial candidate and / or motion information of a temporal candidate.
  • the spatial candidate may include reconstructed spatial neighboring blocks spatially adjacent to the object block.
  • the spatial neighboring block may include a left adjacent block and an upper adjacent block.
  • the temporal candidate may include a call block.
  • the encoding apparatus 100 can obtain a prediction block through prediction.
  • the encoding apparatus 100 can encode a residual block that is a difference between the target block and the prediction block.
  • each of the encoding apparatus 100 and the decoding apparatus 200 can generate a merge candidate list using motion information of a spatial candidate and / or motion information of a temporal candidate.
  • the motion information may include 1) a motion vector, 2) a reference picture index, and 3) a reference direction.
  • the reference direction may be unidirectional or bidirectional.
  • the merge candidate list may include merge candidates.
  • the merge candidate may be motion information. That is to say, the merge candidate list may be a list in which motion information is stored.
  • the merge candidates may be motion information such as temporal candidates and / or spatial candidates.
  • the merge candidate list may include a new merge candidate generated by a combination of merge candidates already present in the merge candidate list. That is, the merge candidate list may include new motion information generated by a combination of motion information already present in the merge candidate list.
  • the merge candidates may be specified modes for deriving inter prediction information.
  • the merge candidate may be information indicating a specified mode for deriving inter prediction information.
  • the inter prediction information of the target block may be derived according to the specified mode indicated by the merge candidate.
  • the specified mode may include a process of deriving a series of inter prediction information.
  • This specified mode may be an inter prediction information availability mode or a motion information induction mode.
  • the inter prediction information of the target block may be derived according to the mode indicated by the merge candidate selected by the merge index among the merge candidates in the merge candidate list.
  • the motion information derivation modes in the merge candidate list may be at least one of 1) a motion information derivation mode in sub-block units, and 2) an affine motion information derivation mode.
  • the merge candidate list may include motion information of a zero vector.
  • Zero vectors may also be called zero-merge candidates.
  • the motion information in the merge candidate list includes: 1) motion information of a spatial candidate, 2) motion information of a temporal candidate, 3) motion information generated by a combination of motion information existing in an already existing candidate list, 4) Lt; / RTI >
  • the motion information may include 1) a motion vector, 2) a reference picture index, and 3) a reference direction.
  • the reference direction may be referred to as an inter prediction indicator.
  • the reference direction may be unidirectional or bidirectional.
  • the unidirectional reference direction may represent L0 prediction or L1 prediction.
  • the merge candidate list can be generated before the prediction by merge mode is performed.
  • the number of merge candidates in the merge candidate list can be predetermined.
  • the encoding apparatus 100 and the decrypting apparatus 200 may add a merge candidate to the merge candidate list according to the predefined manner and the predefined rank so that the merge candidate list has a predetermined number of merge candidates.
  • the merge candidate list of the encoding apparatus 100 and the merge candidate list of the decryption apparatus 200 may be the same through the predetermined scheme and the default rank.
  • the merge can be applied in CU units or PU units.
  • the encoding apparatus 100 may transmit the bitstream including the predetermined information to the decoding apparatus 200.
  • the predefined information may include: 1) information indicating whether to perform a merge by block partitions, 2) a block to be merged with any block among the blocks that are spatial candidates and / or temporal candidates for the target block And information about whether or not it is possible.
  • the encoding apparatus 100 can determine a merge candidate to be used for encoding the target block. For example, the encoding apparatus 100 may use the merge candidates of the merge candidate list to perform predictions on the target block, and generate residual blocks for the merge candidates. The encoding apparatus 100 can use a merge candidate that requires a minimum cost in prediction and encoding of the residual block for encoding the target block.
  • the encoding apparatus 100 can determine whether to use the merge mode in encoding the target block.
  • the encoding apparatus 100 can generate a bitstream including inter prediction information required for inter prediction.
  • the encoding apparatus 100 may generate entropy-encoded inter prediction information by performing entropy encoding on the inter prediction information, and may transmit the bit stream including the entropy-encoded inter prediction information to the decoding apparatus 200.
  • entropy-encoded inter prediction information can be signaled from the encoding apparatus 100 to the decoding apparatus 200.
  • the decoding apparatus 200 may perform inter prediction on a target block using inter prediction information of a bit stream.
  • the inter prediction information may include 1) mode information indicating whether the merge mode is used, and 2) a merge index.
  • the inter prediction information may include a residual signal.
  • the decoding apparatus 200 can obtain a merge index from the bit stream only when the mode information indicates that the merge mode is used.
  • the mode information may be a merge flag.
  • the unit of mode information may be a block.
  • the information about the block may include mode information, and the mode information may indicate whether the merge mode is applied to the block.
  • the merge index may indicate a merge candidate used for predicting a target block among merge candidates included in the merge candidate list.
  • the merge index may indicate which of the neighboring blocks spatially or temporally adjacent to the target block is merged with.
  • the encoding apparatus 100 can select the merge candidate having the highest encoding capability among the merge candidates included in the merge candidate list and set the merge index value to point to the selected merge candidate.
  • the decoding apparatus 200 can perform the prediction on the target block using merge candidates indicated by the merge index among merge candidates included in the merge candidate list.
  • the motion vector of the target block may be specified by the motion vector of the merge candidate pointed to by the merge index, the reference picture index, and the reference direction.
  • the skip mode may be a mode in which motion information of a spatial candidate or motion information of a temporal candidate is directly applied to a target block.
  • the skip mode may be a mode in which the residual signal is not used. That is to say, when the skip mode is used, the reconstructed block may be a prediction block.
  • the difference between the merge mode and the skip mode may be the transmission or use of the residual signal. That is to say, the skip mode may be similar to the merge mode, except that the residual signal is not transmitted or used.
  • the encoding apparatus 100 transmits information indicating which of the blocks, which are spatial candidates or temporal candidates, is to be used as motion information of the target block, to the decoding apparatus 200 through the bit stream Lt; / RTI >
  • the encoding apparatus 100 may generate entropy-encoded information by performing entropy encoding on the information, and may signal entropy-encoded information to the decoding apparatus 200 through the bitstream.
  • the encoding apparatus 100 may not transmit other syntax element information such as MVD to the decryption apparatus 200.
  • the encoding apparatus 100 may not signal a syntax element related to MVD, a coded block flag, and a transform coefficient level to the decoding apparatus 200.
  • the merge candidate list can be used in both merge mode and skip mode.
  • the merge candidate list may be named a “skip candidate list” or a “merge / skip candidate list ".
  • the skip mode may use a separate candidate list different from the merge mode.
  • the merge candidate list and merge candidate in the following description can be replaced with a skip candidate list and a skip candidate, respectively.
  • the merge candidate list can be generated before the prediction by the skip mode is performed.
  • the encoding apparatus 100 can determine a merge candidate to be used for encoding the target block. For example, the encoding apparatus 100 may perform predictions on a target block using merge candidates of a merge candidate list. The encoding apparatus 100 can use the merge candidate requiring minimum cost in prediction for encoding the target block.
  • the encoding apparatus 100 can determine whether to use the skip mode in encoding the target block.
  • the encoding apparatus 100 can generate a bitstream including inter prediction information required for inter prediction.
  • the decoding apparatus 200 may perform inter prediction on a target block using inter prediction information of a bit stream.
  • the inter prediction information may include 1) mode information indicating whether a skip mode is used, and 2) a skip index.
  • the skip index may be the same as the merge index described above.
  • the target block can be encoded without a residual signal.
  • the inter prediction information may not include the residual signal.
  • the bitstream may not include the residual signal.
  • the decoding apparatus 200 can acquire the skip index from the bit stream only when the mode information indicates that the skip mode is used. As described above, the merge index and the skip index may be the same. The decoding apparatus 200 can acquire the skip index from the bit stream only when the mode information indicates that the merge mode or the skip mode is used.
  • the skip index may indicate a merge candidate used for predicting a target block among merge candidates included in the merge candidate list.
  • the decoding apparatus 200 can perform prediction on the target block using merge candidates indicated by the skip index among merge candidates included in the merge candidate list.
  • the motion vector of the target block may be specified by the motion vector of the merge candidate pointed to by the skip index, the reference picture index, and the reference direction.
  • the current picture reference mode may mean a prediction mode using the preexisting reconstructed region in the target picture to which the target block belongs.
  • a motion vector may be used to specify the periodically reconstructed region. Whether or not the target block is coded in the current picture reference mode can be determined using the reference picture index of the target block.
  • a flag or an index indicating whether the target block is a block coded in the current picture reference mode may be signaled from the coding apparatus 100 to the decoding apparatus 200. [ Alternatively, whether the target block is a block coded in the current picture reference mode may be inferred through the reference picture index of the target block.
  • the target picture When the target block is coded in the current picture reference mode, the target picture may be in a fixed position or an arbitrary position in the reference picture list for the target block.
  • the fixed position may be the position where the value of the reference picture index is 0 or the last position.
  • a separate reference picture index indicating this arbitrary position may be signaled from the coding apparatus 100 to the decoding apparatus 200.
  • motion information to be used for prediction of a target block among the motion information in the list can be specified through the index for the list.
  • the coding apparatus 100 can signal only the index of the element causing the minimum cost in the inter prediction of the target block among the elements of the list.
  • the encoding apparatus 100 can encode an index and signal the encoded index.
  • the above-described lists may have to be derived in the same manner based on the same data in the encoding apparatus 100 and the decrypting apparatus 200.
  • the same data may include reconstructed pictures and reconstructed blocks.
  • the order of the elements in the list may have to be constant.
  • Figure 10 shows spatial candidates according to an example.
  • a large block in the middle can represent a target block.
  • the five small blocks may represent spatial candidates.
  • the coordinates of the target block may be (xP, yP), and the size of the target block may be (nPSW, nPSH).
  • the spatial candidate A 0 may be a block adjacent to the lower left corner of the target block.
  • a 0 may be a block occupying a pixel of coordinates (xP - 1, yP + nPSH + 1).
  • the spatial candidate A 1 may be a block adjacent to the left of the target block.
  • a 1 may be the lowermost block among the blocks adjacent to the left of the target block.
  • a 1 may be a block adjacent to the top of A 0 .
  • a 1 may be a block occupying a pixel of coordinates (xP - 1, yP + nPSH).
  • the spatial candidate B 0 may be a block adjacent to the upper right corner of the target block.
  • B 0 may be a block occupying a pixel of coordinates (xP + nPSW + 1, yP-1).
  • the spatial candidate B 1 may be a block adjacent to the top of the target block.
  • B 1 may be the rightmost block among the blocks adjacent to the top of the target block.
  • B 1 may be a block adjacent to the left of B 0 .
  • B 1 may be a block occupying the pixels of the coordinates (xP + nPSW, yP-1).
  • the spatial candidate B 2 may be a block adjacent to the upper left corner of the target block.
  • B 2 may be a block occupying pixels of coordinates (xP-1, yP-1).
  • the candidate block may include spatial candidates and temporal candidates.
  • the above determination can be made by sequentially applying the following steps 1) to 4).
  • Step 1) If the PU including the candidate block is outside the boundary of the picture, the availability of the candidate block may be set to false. "Availability is set to false” may be synonymous with "set to unavailable ".
  • Step 2 If the PU including the candidate block is outside the boundary of the slice, the availability of the candidate block may be set to false. If the target block and the candidate block are located in different slices, the availability of the candidate block may be set to false.
  • Step 3 If the PU including the candidate block is outside the boundary of the tile, the availability of the candidate block may be set to false. If the target block and the candidate block are located in different tiles, the availability of the candidate block may be set to false.
  • Step 4 If the prediction mode of the PU including the candidate block is the intra prediction mode, the availability of the candidate block may be set to false. If the PU including the candidate block does not use inter prediction, the availability of the candidate block may be set to false.
  • FIG. 11 shows an order of addition of motion information of a spatial candidate to a merge list according to an example.
  • the order of A 1 , B 1 , B 0 , A 0, and B 2 may be used. That is, the motion information of available spatial candidates can be added to the merged list in the order of A 1 , B 1 , B 0 , A 0, and B 2 .
  • the maximum number of merge candidates in the merge list can be set.
  • the set maximum number is denoted by N.
  • the set number can be transferred from the encoding apparatus 100 to the decoding apparatus 200.
  • the slice header of the slice may contain N.
  • the maximum number of merge candidates of the merge list for the target block of the slice can be set by the slice header.
  • basically the value of N may be 5.
  • the motion information (i.e., merge candidate) may be added to the merge list in the following order of steps 1) to 4) below.
  • Step 1) Available spatial candidates among the spatial candidates can be added to the merged list.
  • the motion information of the available spatial candidates may be added to the merge list in the order shown in FIG. At this time, if the motion information of the available spatial candidate overlaps with other motion information already existing in the merge list, the motion information may not be added to the merge list.
  • Checking whether or not to overlap with other motion information present in the list can be outlined as "redundancy check ".
  • the motion information to be added may be a maximum of N pieces.
  • Step 2 If the number of motion information in the merge list is smaller than N and temporal candidates are available, motion information of temporal candidates may be added to the merge list. At this time, if the available temporal candidate motion information overlaps with other motion information already existing in the merge list, the motion information may not be added to the merge list.
  • Step 3 If the number of pieces of motion information in the merge list is smaller than N and the type of the target slice is "B ", the combined motion information generated by the combined bi-prediction is added to the merge list .
  • the target slice may be a slice containing the target block.
  • the combined motion information may be a combination of L0 motion information and L1 motion information.
  • the L0 motion information may be motion information that refers to only the reference picture list L0.
  • the L1 motion information may be motion information referring to only the reference picture list L1.
  • the L0 motion information may be one or more.
  • the L1 motion information may be one or more.
  • the combined motion information may be one or more. In generating the combined motion information, it is possible to determine which L0 motion information and which L1 motion information to use among one or more L0 motion information and one or more L1 motion information.
  • the one or more combined motion information may be generated in a predetermined order by combined bidirectional prediction using a pair of different motion information in the merge list. One of the pairs of different motion information may be the L0 motion information and the other may be the L1 motion information.
  • the highest combined motion information may be a combination of L0 motion information having a merge index of 0 and L1 motion information having a merge index of 1. If the motion information whose merge index is 0 is not L0 motion information, or the motion information whose merge index is 1 is not L1 motion information, the combined motion information may not be generated and added.
  • the next motion information may be a combination of L0 motion information having a merge index of 1 and L1 motion information having a merge index of 0. [ The following specific combinations may follow other combinations of fields of video encoding / decoding.
  • the combined motion information may not be added to the merge list.
  • the zero vector motion information may be motion information whose motion vector is a zero vector.
  • the zero vector motion information may be one or more.
  • the reference picture indexes of one or more zero vector motion information may be different from each other.
  • the value of the reference picture index of the first zero vector motion information may be zero.
  • the value of the reference picture index of the second zero vector motion information may be one.
  • the number of zero vector motion information may be equal to the number of reference pictures in the reference picture list.
  • the reference direction of the zero vector motion information may be bi-directional.
  • the two motion vectors may all be zero vectors.
  • the number of zero vector motion information may be the smaller of the number of reference pictures in the reference picture list L0 and the number of reference pictures in the reference picture list L1.
  • a unidirectional reference direction can be used for a reference picture index that can be applied to only one reference picture list.
  • the coding apparatus 100 and / or the decoding apparatus 200 can sequentially add the zero vector motion information to the merged list while changing the reference picture index.
  • the zero vector motion information may not be added to the merge list.
  • steps 1) to 4) is merely exemplary, and the order between the steps may be mutually exclusive. In addition, some of the steps may be omitted depending on the predefined conditions.
  • the maximum number of predicted motion vector candidates in the predicted motion vector candidate list can be predetermined.
  • the default maximum number is denoted by N.
  • the default maximum number may be two.
  • the motion information (i.e., the predicted motion vector candidate) may be added to the predicted motion vector candidate list in the order of the following steps 1) to 3).
  • Step 1) Available spatial candidates among the spatial candidates can be added to the predicted motion vector candidate list.
  • the spatial candidates may include a first spatial candidate and a second spatial candidate.
  • the first spatial candidate may be one of A 0 , A 1 , scaled A 0, and scaled A 1 .
  • the second spatial candidate may be one of B 0 , B 1 , B 2 , Scaled B 0 , Scaled B 1, and Scaled B 2 .
  • the motion information of the available spatial candidates may be added to the predicted motion vector candidate list in the order of the first spatial candidate and the second spatial candidate.
  • the motion information of the available spatial candidate is already overlapped with other motion information existing in the predicted motion vector candidate list, the motion information may not be added to the predicted motion vector candidate list. That is, if the value of N is 2 and the motion information of the second spatial candidate is the same as the motion information of the first spatial candidate, the motion information of the second spatial candidate may not be added to the predicted motion vector candidate list.
  • the motion information to be added may be a maximum of N pieces.
  • Step 2 If the number of pieces of motion information in the predicted motion vector candidate list is smaller than N and temporal candidates are available, temporal motion information may be added to the predicted motion vector candidate list. In this case, if the motion information of the available temporal candidate overlaps with other motion information already present in the predicted motion vector candidate list, the motion information may not be added to the predicted motion vector candidate list.
  • Step 3 If the number of motion information in the predicted motion vector candidate list is smaller than N, zero vector motion information may be added to the predicted motion vector candidate list.
  • the zero vector motion information may be one or more.
  • the reference picture indexes of one or more zero vector motion information may be different from each other.
  • the encoding apparatus 100 and / or the decoding apparatus 200 may sequentially add the zero vector motion information to the predicted motion vector candidate list while changing the reference picture index.
  • the zero vector motion information may not be added to the predicted motion vector candidate list if the zero vector motion information overlaps with other motion information already present in the predicted motion vector candidate list.
  • FIG. 12 illustrates a process of transform and quantization according to an example.
  • a quantized level may be generated by performing a conversion and / or quantization process on the residual signal as shown in FIG.
  • the residual signal can be generated as a difference between the original block and the prediction block.
  • the prediction block may be a block generated by intra prediction or inter prediction.
  • the residual signal can be transformed into the frequency domain through a transform process that is part of the quantization process.
  • the transformation kernel used for the transformation may include various DCT kernels and Discrete Sine Transform (DST) kernels such as Discrete Cosine Transform (DCT) type 2 (DCT-II) .
  • DCT Discrete Cosine Transform
  • transform kernels may perform a separable transform or a two-dimensional (2D) non-separable transform on the residual signal.
  • the detachable transform may be a transform that performs a one-dimensional (1D) transform on the residual signal in each of the horizontal and vertical directions.
  • the DCT type and DST type adaptively used for 1D conversion can include DCT-V, DCT-VIII, DST-I and DST-VII in addition to DCT-II as shown in Tables 3 and 4, have.
  • a transform set may be used in deriving the DCT type or DST type to be used for the transform.
  • Each transform set may include a plurality of transform candidates.
  • Each conversion candidate may be a DCT type or a DST type.
  • Table 5 below shows an example of a transform set applied in the horizontal direction and a transform set applied in the vertical direction according to the intra-prediction mode.
  • the transform sets applied in the horizontal direction and the vertical direction may be predetermined depending on the intra-prediction mode of the target block.
  • the encoding apparatus 100 can perform the transform and inverse transform on the residual signal using the transform included in the transform set corresponding to the intra prediction mode of the object block.
  • the decoding apparatus 200 can perform inverse transform on the residual signal using the transform included in the transform set corresponding to the intra-prediction mode of the target block.
  • the transform set applied to the residual signal may be determined as illustrated in Table 3, Table 4, and may not be signaled.
  • the conversion instruction information can be signaled from the encoding apparatus 100 to the decoding apparatus 200.
  • the conversion instruction information may be information indicating which conversion candidate is used among a plurality of conversion candidates included in the conversion set applied to the residual signal.
  • all three transform sets may be constructed as in the example of Table 4 according to the intra prediction mode.
  • An optimal conversion method can be selected from all nine multiple conversion methods due to a combination of three transversions in the horizontal direction and three transformations in the vertical direction. The encoding efficiency can be improved by encoding and / or decoding the residual signal with this optimum conversion method.
  • information on which of the transforms belonging to the transform set is used may be entropy encoded and / or decoded. Truncated unary binarization may be used for encoding and / or decoding such information.
  • the method of using various transformations as described above can be applied to the residual signal generated by intra prediction or inter prediction.
  • the transform may include at least one of a primary transform and a secondary transform.
  • a transform coefficient may be generated by performing a first transform on the residual signal and a second transform coefficient may be generated by performing a second transform on the transform coefficient.
  • the primary transformation can be named primary.
  • the first order transformation can be named as Adaptive Multiple Transform (AMT).
  • AMT may mean that different transforms are applied for each of the 1D directions (i.e., vertical and horizontal directions) as described above.
  • the quadratic transformation may be a transform to improve the energy concentration of the transform coefficients generated by the primary transform.
  • the quadratic transformation can be a separable transformation or a non-separable transformation like the primary transformation.
  • the non-separable transform may be a non-separable secondary transform (NSST).
  • the primary transformation may be performed using at least one of a plurality of predetermined transformation methods.
  • a plurality of predetermined conversion methods may be implemented using discrete cosine transform (DCT), discrete sine transform (DST), and Karhunen-Loeve Transform (KLT) .
  • DCT discrete cosine transform
  • DST discrete sine transform
  • KLT Karhunen-Loeve Transform
  • the first order transform may be a transform of various types depending on the kernel function defining the DCT or DST.
  • the primary transform may include transforms such as DCT-2, DCT-5, DCT-7, DST-1 and DST-8 according to the transform kernel shown in Table 6 below.
  • Table 6 various transformation types and transformation kernel functions for Multiple Transform Selection (MTS) are illustrated.
  • the MTS may mean that a combination of one or more DCT and / or DST transform kernels is selected for conversion to the horizontal and / or vertical direction of the residual signal.
  • i and j may be an integer value of 0 or more and N-1 or less.
  • a secondary transform may be performed on the transform coefficients generated by performing the primary transform.
  • the transformation set can also be defined in the second transformation.
  • the methods for deriving and / or determining the transform set as described above may be applied to the first transform as well as the second transform.
  • the first order transform and the second order transform can be determined for a specified object.
  • the first order transform and the second order transform can be applied to one or more signal components of a luma component and a chroma component.
  • the application of the primary transformation and / or the secondary transformation may be determined according to at least one of coding parameters for a target block and / or a neighboring block.
  • the application of the primary transformation and / or the secondary transformation may be determined by the size and / or shape of the target block.
  • conversion information indicating a conversion method used for an object can be derived by using the specified information.
  • the transformation information may include an index of transformations to be used for the primary transformation and / or the secondary transformation.
  • the transformation information may indicate that the primary transformation and / or the secondary transformation is not used.
  • the transformation method (s) applied to the primary transformation and / or the secondary transformation indicated by the transformation information may be applied to the target block and / Lt; / RTI > may be determined according to at least one of the following coding parameters:
  • the conversion information for the specified object may be signaled from the encoding device 100 to the decryption device 200.
  • an index indicating a primary transformation, whether or not a secondary transformation is used, and an index indicating a secondary transformation can be derived as transformation information in the decryption apparatus 200 have.
  • conversion information indicating whether or not to use a primary conversion, an index indicating a primary conversion, whether or not a secondary conversion is used, and an index indicating a secondary conversion may be signaled.
  • the quantized transform coefficients (i.e., quantized levels) can be generated by performing quantization on the result or residual signal generated by performing the primary transform and / or the quadratic transform.
  • FIG 13 illustrates diagonal scanning according to an example.
  • the quantized transform coefficients may be scanned according to at least one of an intraprediction mode, a block size, and a block type according to at least one of (up-right) diagonal scanning, vertical scanning and horizontal scanning.
  • the block may be a conversion unit.
  • Each scanning can start at a specified starting point and end at a specified ending point.
  • the quantized transform coefficients can be changed to a one-dimensional vector form by scanning the coefficients of the block using the diagonal scanning of FIG.
  • horizontal scanning of FIG. 14 or vertical scanning of FIG. 15 may be used instead of diagonal scanning depending on the block size and / or intra prediction mode.
  • Vertical scanning may be a two dimensional block form factor scan in the column direction.
  • the horizontal scanning may be to scan the two-dimensional block form factor in the row direction.
  • the quantized transform coefficients may be scanned along the diagonal direction, the horizontal direction, or the vertical direction.
  • the quantized transform coefficients may be expressed in block form.
  • a block may include a plurality of sub-blocks. Each sub-block may be defined according to a minimum block size or a minimum block type.
  • the scanning order according to the type or direction of scanning may be first applied to the sub-blocks.
  • the scanning order according to the scanning direction may be applied to the quantized transform coefficients in the sub-block.
  • the scanned quantized transform coefficients may be entropy encoded and the bitstream may comprise entropy encoded quantized transform coefficients.
  • the decoding apparatus 200 can generate quantized transform coefficients through entropy decoding on the bit stream.
  • the quantized transform coefficients may be arranged in a two-dimensional block form through inverse scanning.
  • inverse scanning at least one of top-right diagonal scanning, vertical scanning, and horizontal scanning may be performed.
  • the inverse quantization may be performed on the quantized transform coefficients.
  • the second-order inverse transform can be performed on the result generated by performing the inverse quantization.
  • the first-order inverse transform can be performed on the result generated by performing the second-order inverse transform.
  • the reconstructed residual signal can be generated by performing the first-order inverse transform on the result generated by performing the second-order inverse transform.
  • 16 is a structural diagram of an encoding apparatus according to an embodiment.
  • the encoding apparatus 1600 may correspond to the encoding apparatus 100 described above.
  • the encoding device 1600 includes a processing unit 1610, a memory 1630, a user interface (UI) input device 1650, a UI output device 1660, and a storage unit 1630, which communicate with each other via a bus 1690.
  • UI user interface
  • the encoding apparatus 1600 may further include a communication unit 1620 connected to the network 1699.
  • the processing unit 1610 may be a semiconductor device that executes processing instructions stored in a central processing unit (CPU), memory 1630, or storage 1640.
  • the processing unit 1610 may be at least one hardware processor.
  • the processing unit 1610 can generate and process signals, data, or information that are input to the encoding apparatus 1600, output from the encoding apparatus 1600, used in the encoding apparatus 1600, Compare, and judge related to data or information. In other words, in the embodiment, the generation and processing of data or information and the inspection, comparison and judgment relating to data or information can be performed by the processing unit 1610.
  • the processing unit 1610 includes an inter prediction unit 110, an intra prediction unit 120, a switch 115, a subtractor 125, a transform unit 130, a quantization unit 140, an entropy coding unit 150, An inverse transform unit 170, an adder 175, a filter unit 180, and a reference picture buffer 190, as shown in FIG.
  • the inter prediction unit 110, the intra prediction unit 120, the switch 115, the subtractor 125, the transform unit 130, the quantization unit 140, the entropy coding unit 150, the inverse quantization unit 160, At least some of the inverse transform unit 170, the adder 175, the filter unit 180, and the reference picture buffer 190 may be program modules and may communicate with an external device or system.
  • the program modules may be included in the encoding device 1600 in the form of an operating system, application program modules, and other program modules.
  • the program modules may be physically stored on various known storage devices. At least some of these program modules may also be stored in a remote storage device capable of communicating with the encoding device 1600.
  • Program modules may be implemented as a set of routines, subroutines, programs, objects, components, and data that perform functions or operations in accordance with one embodiment, implement an abstract data type according to one embodiment, Data structures, and the like, but are not limited thereto.
  • Program modules may be comprised of instructions or code that are executed by at least one processor of the encoding device 1600.
  • the processing unit 1610 includes an inter prediction unit 110, an intra prediction unit 120, a switch 115, a subtractor 125, a transform unit 130, a quantization unit 140, an entropy coding unit 150, The adder 175, the filter unit 180, and the reference picture buffer 190, as shown in FIG.
  • the storage may represent memory 1630 and / or storage 1640.
  • Memory 1630 and storage 1640 can be various types of volatile or non-volatile storage media.
  • memory 1630 may include at least one of ROM (R) 1631 and RAM (RAM) 1632.
  • the storage unit may store data or information used for the operation of the encoding apparatus 1600.
  • the data or information possessed by the encoding apparatus 1600 can be stored in the storage unit.
  • the storage unit may store pictures, blocks, lists, motion information, inter prediction information, bit streams, and the like.
  • Encoding device 1600 can be implemented in a computer system that includes a recording medium that can be read by a computer.
  • the recording medium may store at least one module required for the encoding apparatus 1600 to operate.
  • the memory 1630 may store at least one module, and at least one module may be configured to be executed by the processing unit 1610.
  • the function related to the communication of data or information of the encoding apparatus 1600 may be performed through the communication unit 1620.
  • the communication unit 1620 can transmit the bit stream to the decoding apparatus 1700 to be described later.
  • 17 is a structural diagram of a decoding apparatus according to an embodiment.
  • the decoding apparatus 1700 may correspond to the decoding apparatus 200 described above.
  • the decryption apparatus 1700 includes a processing unit 1710, a memory 1730, a user interface (UI) input device 1750, a UI output device 1760, and a storage 1760, which communicate with each other via a bus 1790.
  • UI user interface
  • the decryption apparatus 1700 may further include a communication unit 1720 connected to the network 1799.
  • the processing unit 1710 may be a semiconductor device that executes processing instructions stored in a central processing unit (CPU), memory 1730, or storage 1740.
  • the processing unit 1710 may be at least one hardware processor.
  • the processing unit 1710 may perform generation and processing of signals, data, or information to be input to the decoding apparatus 1700, output from the decoding apparatus 1700, or used in the decoding apparatus 1700, Compare, and judge related to data or information.
  • the generation and processing of data or information and the inspection, comparison and judgment relating to the data or information can be performed by the processing unit 1710.
  • the processing unit 1710 includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, an intra prediction unit 240, an inter prediction unit 250, a switch 245, an adder 255, A reference picture buffer 260, and a reference picture buffer 270.
  • An entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, an intra prediction unit 240, an inter prediction unit 250, a switch 245, an adder 255, a filter unit 260, At least some of the reference picture buffer 270 may be program modules and may communicate with an external device or system.
  • the program modules may be included in the decryption device 1700 in the form of an operating system, an application program module, and other program modules.
  • the program modules may be physically stored on various known storage devices. At least some of these program modules may also be stored in a remote storage device capable of communicating with the decryption device 1700.
  • Program modules may be implemented as a set of routines, subroutines, programs, objects, components, and data that perform functions or operations in accordance with one embodiment, implement an abstract data type according to one embodiment, Data structures, and the like, but are not limited thereto.
  • the program modules may be comprised of instructions or code that are executed by at least one processor of the decoding apparatus 1700.
  • the processing unit 1710 includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, an intra prediction unit 240, an inter prediction unit 250, a switch 245, an adder 255, (260) and the reference picture buffer (270).
  • the storage may represent memory 1730 and / or storage 1740.
  • Memory 1730 and storage 1740 can be various types of volatile or non-volatile storage media.
  • the memory 1730 may include at least one of a ROM 1731 and a RAM 1732.
  • the storage unit may store data or information used for the operation of the decoding apparatus 1700.
  • the data or information possessed by the decryption apparatus 1700 can be stored in the storage unit.
  • the storage unit may store pictures, blocks, lists, motion information, inter prediction information, bit streams, and the like.
  • the decryption apparatus 1700 can be implemented in a computer system including a recording medium that can be read by a computer.
  • the recording medium may store at least one module required for the decryption apparatus 1700 to operate.
  • the memory 1730 may store at least one module, and at least one module may be configured to be executed by the processing unit 1710.
  • the function related to the communication of data or information of the decryption apparatus 1700 may be performed through the communication unit 1720.
  • the communication unit 1720 can receive the bit stream from the encoding device 1600.
  • ColP may represent a call picture.
  • ColB can represent a call block.
  • the inter prediction may be performed for a unit of the PU, and the motion vector of the PU may be calculated through a motion prediction process for the PU.
  • a merge mode and an AMVP mode may be used to reduce the amount of bits for representing a motion vector.
  • the merge mode may be a method of directly using motion information of a neighboring block or a call block as motion information of a target block by copying motion information of a neighboring block or a call block into motion information of the target block.
  • the motion information may include a motion vector.
  • the call block may be a block located at the same position as the position of the target block in one reference picture among the reference pictures that have been encoded or decoded before the coding or decoding of the target picture.
  • the reference picture including the call block can be referred to as a call picture.
  • the position may be a pixel position.
  • the position of the block may be the coordinates of the upper left corner of the block.
  • the position of the call block in the call picture may be the same as the position of the target block in the target picture.
  • the AMVP mode may be a method of using a motion vector obtained from a neighboring block or a call block of a target block as a predicted motion vector for a motion vector of a target block and encoding and / or decoding a motion vector difference.
  • the motion vector difference may be a difference between a motion vector of a target block calculated by motion prediction and the predicted motion vector.
  • the Temporal Motion Vector Predictor may be a motion vector or motion information obtained from neighboring blocks of a call block or call block.
  • TMVP may be a motion vector obtained from a neighbor block of a call block or call block, and may be a motion vector of a temporal candidate.
  • TMVP may mean a motion vector of the temporal candidate.
  • the TMVP may be motion information obtained from a neighbor block of a call block or a call block, and may be motion information of a temporal candidate.
  • the TMVP may be motion information of the temporal candidate.
  • the coordinates of the upper left corner of the area 1820 of the target block may be (xP, yP), and the size of the area 1820 of the target block may be (nPSW, nPSH).
  • the TMVP may be obtained from the first call block located at the first location 1821.
  • the first call block may be a block occupying the first location 1821.
  • the first position 1821 may be the position of the lower right end of the target block.
  • the first position may be coordinates (xP + nPSW, yP + nPSH).
  • TMVP may be obtained from a second call block located at second location 1822.
  • the second call block may be a block occupying the second location 1822.
  • the second position 1822 may be the position of the center of the target block.
  • the first position may be the coordinates (xP + (nPSW >> 1), yP + (nPSH >> 1)).
  • TMVP the higher the accuracy of TMVP, the greater the benefit gained by using TMVP.
  • a higher accuracy of TMVP may mean that TMVP is closer to the motion vector of the target block.
  • the size of a motion vector of a block representing the object may be large. If such a block is used as a temporal candidate, the size of the derived TMVP may be large. Also, if the size of TMVP is large, the accuracy of TMVP can be greatly reduced.
  • UTMVP Uni-lateral Temporal Motion Vector Predictor
  • the UTMVP may be obtained from the motion vectors in the call picture.
  • the use of UTMVP can reduce the error rate and the like with respect to the determination of the motion vector of the target block.
  • FIG. 19 shows a TMVP acquisition process according to an example.
  • the call block 1921 of the target block 1911 may be located at the same position as the position of the target block 1911 in the target picture 1910. [ That is, the target block 1911 and the call block 1921 may be collocated.
  • the call block 1921 may be a block in the call picture 1920.
  • the motion vector 1922 of the call block 1921 may be scaled in the direction of the target picture 1910 and the reference picture 1930 and the scaled motion vector may be used as the TMVP 1912 for the target block 1911 have.
  • TMVP 1912 when the size of the TMVP 1912 is small, when the motion vector 1922 of the call block 1921 is scaled from the call picture 1920 to the target picture 1910, 1911).
  • the target block may represent a target unit of a specific type.
  • the target block may refer to the target PU.
  • FIG. 20 shows a TMVP acquisition process and a UTMVP acquisition process according to an example.
  • Fig. 20 the process of obtaining a TMVP having a large motion is shown.
  • the scaled motion vector can be greatly out of the target block 2011 have.
  • the difference between the actual motion vectors of the TMVP 2019 and the target block 2011 may be large.
  • the UTMVP 2012 may be generated based on the motion vector 2024 of the block 2023 of the call picture 2020.
  • the UTMVP generation method may mean steps 1) through 4) below.
  • a first scaled motion vector may be generated by scaling the motion vector of at least one candidate block to the target picture.
  • a candidate block may represent a particular type of unit in a call picture.
  • the candidate block may refer to a candidate PU.
  • the term “candidate” may mean that the motion vector of the block is likely to be used to generate the UTMVP of the target block, but this use has not yet been determined.
  • Step 2) It may be determined whether or not the first scaled motion vector indicates a target block.
  • a second scaled motion vector may be generated by scaling the motion vector of the candidate block from the target picture in the direction of the reference picture.
  • Step 4) A second scaled motion vector may be used as the UTMVP.
  • FIG. 21 shows a process of generating UTMVP according to an example.
  • a position 2113 at which the motion vector 2124 of the candidate block 2123 in the call picture 2120 passes through the target picture 2110 is shown.
  • 21, the reference picture 2130 of the target block 2111 is shown.
  • the position 2113 is inside the target block 2111. That is to say, the motion vector 2124 passes through the target block 2111.
  • Motion vector 2124 may be used to generate the UTMVP and motion vectors 2124 may be used by the UTMVP 2112 by applying scaling to the motion vector 2124. [ May be generated.
  • FIG. 22 shows a process of generating UTMVP according to an example.
  • Fig. 22 the motion vector 2224 of the candidate block 2223 in the call picture 2220 is shown.
  • the reference picture 2240 of the candidate block 2223 and the reference picture 2230 of the target block 2211 are shown.
  • the motion vector 2224 of the candidate block 2223 may be scaled in the direction from the call picture 2220 to the target picture 2210. [ The location 2213 where the scaled motion vector passes through the target picture 2210 is shown. As shown, the scaled motion vector passes through the target block 2211. [
  • a motion vector 2224 may be used to generate the UTMVP 2212 and a scaling applied to the motion vector 2224 to generate the UTMVP 2212 .
  • FIG. 23 is a flowchart of an inter prediction method in a decoding apparatus according to an embodiment.
  • the inter prediction method of the present embodiment can be understood as a decoding method.
  • the communication unit 1720 of the decoding apparatus 1700 can receive a bitstream including inter prediction information.
  • step 2320 the processing unit 1710 of the decoding apparatus 1700 may generate a motion vector predictor for a target block.
  • the motion vector predictor may be the UTMVP described above.
  • the motion vector predictor may be a UTMVP used as the TMVP described above.
  • the UTMVP may be used as the TMVP as the UTMVP satisfies the specified condition.
  • the processing unit 1710 may generate a motion vector predictor for the target block based on the motion vector of the candidate block in the target picture.
  • the processing unit 1710 may determine whether to generate a motion vector predictor based on an inter-prediction mode of inter-prediction information for a target block.
  • the processing unit 1710 may generate a motion vector predictor if the inter prediction mode is an AMVP mode, a merge mode, or a skip mode. That is, the processing unit 1710 may generate a motion vector predictor for one or more specified inter-prediction modes of AMVP mode, merge mode, and skip mode.
  • the skip mode and merge mode may be the same or similar except for the use of the reconstructed residual block.
  • the description of the merge mode can also be applied to the skip mode.
  • the generated motion vector predictor may be added to the list for the target block as a candidate.
  • a list may include one or more candidates.
  • the inter prediction information may include an index for the list.
  • the index for the list may indicate which candidate of one or more of the candidates in the list is used for inter prediction for the target block.
  • the AMVP mode may be used for the target block.
  • the motion vector predictor may be a predicted motion vector candidate in the AMVP mode.
  • the motion vector predictor may be added to the motion vector candidate list as a predicted motion vector candidate.
  • the merge mode may be used for the target block.
  • the motion vector predictor may be motion information in the merge mode.
  • the motion information in the merge mode may include a motion vector predictor.
  • the motion vector predictor may be added to the merge candidate list as part of the motion information or motion information.
  • the processing unit 1710 may perform inter-prediction on the object block based on the motion vector predictor.
  • the processing unit 1710 uses the motion vector predictor in the motion vector candidate list, Prediction can be performed.
  • the processing unit 1710 performs inter prediction on the target block using the motion vector predictor in the merge candidate list can do.
  • the processing unit 1710 may generate a prediction block for the target block by performing inter-prediction on the target block based on the motion vector predictor.
  • the processing unit 1710 may generate the reconstructed block by summing the predicted block and the reconstructed block.
  • 24 is a flowchart of an inter prediction method in an encoding apparatus according to an embodiment.
  • the inter prediction method of the present embodiment can be understood as a coding method.
  • the reconstructed block for the target block may be generated in the same manner as in the decoding apparatus 1700 in the encoding apparatus 1600 according to the principle of encoding the image.
  • the reconstructed block generated in the decoding apparatus 1700 and the reconstructed block generated in the encoding apparatus 1600 must be the same, at least a part of the inter prediction method described above with reference to FIG. 1600).
  • the processing unit 1610 of the encoding apparatus 1600 may generate a motion vector predictor for a target block.
  • the motion vector predictor may be the UTMVP described above.
  • the motion vector predictor may be a UTMVP used as the TMVP described above.
  • the UTMVP may be used as the TMVP as the UTMVP satisfies the specified condition.
  • the processing unit 1610 may generate a motion vector predictor for a target block based on a motion vector of a candidate block in the call picture.
  • the processing unit 1610 may include: 1) motion information of a candidate block in a call picture, 2) motion vector of a candidate block, 3) position of a candidate block in a call picture, and 4) 7) the POC of the reference picture of the candidate block, 8) the POC of the target picture, 9) the POC of the reference picture of the target block, 10) the relative position of the candidate block with respect to the target block, A first temporal distance from the call picture to the target picture, 11) a second temporal distance from the call picture to the reference picture of the candidate block, 12) a ratio between the first temporal distance and the second temporal distance, 14) a ratio between a third temporal distance and a second temporal distance, 15) a first difference that is a difference between a POC of a target picture and a POC of a call picture, 16) a first difference between a reference picture of a candidate block
  • the second difference being the difference between POC and POC of the call picture 17) the first difference and 2 may be based on one
  • the skip mode and merge mode may be the same or similar except for the use of the reconstructed residual block.
  • the description of the merge mode can also be applied to the skip mode.
  • the generated motion vector predictor may be added to the list as a candidate.
  • a list may include one or more candidates.
  • the processing unit 1610 may generate inter prediction information based on the motion vector predictor.
  • the inter prediction mode of the inter prediction information may indicate whether or not a motion vector predictor is generated.
  • the inter prediction mode may indicate that a motion vector predictor for the target block is generated.
  • the inter prediction information may include an index for the list.
  • the index for the list may indicate which candidate of one or more of the candidates in the list is used for inter prediction for the target block.
  • the candidate pointed to by the index for the list of one or more candidates in the list may be the same as the motion vector predictor used for inter prediction.
  • the communication unit 1620 of the encoding apparatus 1600 may transmit the bitstream including the inter prediction information to the decoding apparatus 1700.
  • the processing unit 1610 may perform inter prediction on a target block based on a motion vector predictor.
  • the processing unit 1610 can perform inter-prediction on the target block using a motion vector predictor.
  • the predicted motion vector index may indicate a motion vector predictor among the predicted motion vector candidates in the motion vector candidate list.
  • the predicted motion vector candidate pointed to by the predicted motion vector index of the predicted motion vector candidates may be the same as the motion vector predictor.
  • the processing unit 1610 can perform inter-prediction on a target block using a motion vector predictor.
  • the merge index may indicate motion information including a motion vector predictor among motion information in the merge list.
  • the motion vector of the motion information indicated by the merge index among the motion information in the merge list may be the same as the motion vector predictor.
  • the motion vector of the target block may be the same as the motion vector predictor.
  • the processing unit 1710 may generate a prediction block for a target block by performing inter prediction on the target block.
  • the processing unit 1710 may generate the reconstructed block by summing the predicted block and the reconstructed block.
  • UTMVP Ultrathyma VP
  • UTMVP candidate can be used in the same sense as the term "UTMVP".
  • Code 1 below can represent the first method for generating UTMVP.
  • the procedure DeriveUTMVP can return the generated UTMVP or return a value indicating that UTMVP is not available.
  • current PU can represent the target block PU.
  • "p” may represent a PU that is a candidate block in the call picture.
  • the candidate block may be one of the blocks in the call picture.
  • "ColP” can represent a call picture.
  • curPOC can represent the POC of the target picture including the target block.
  • colPOC can represent the POC of the call picture.
  • p.refPOC can represent the POC of the reference picture of the candidate block.
  • refPOC can represent the POC of the reference picture of the target block.
  • the reference picture of the candidate block may refer to a picture referred to by the candidate block.
  • the reference picture of the target block may be a picture referred to by the target block.
  • scaleDST may represent a first scale factor
  • p.mv can represent the motion vector of the candidate block.
  • quot; dstPt may represent a first scaled motion vector.
  • the function "isInboundOfCurrentPU (dstPt)" can return whether or not the input motion vector dstPt indicates the target block of the target picture.
  • “isInboundOfCurrentPU (dstPt)” can return whether or not the position indicated by the input motion vector dstPt is included in the target block.
  • scaleSrc may represent a second scale factor.
  • the product of “p.mv” and “scaleSrc” may represent a second scaled motion vector.
  • the second scaled motion vector may be the UTMVP for the target block.
  • 25 is a flowchart of a method of generating a motion vector predictor for a target block according to an embodiment.
  • step 2330 with reference to FIG. 23 may include the following steps 2510 and 2520.
  • step 2410, described above with reference to FIG. 24, may include the following steps 2510 and 2520.
  • the processing unit may determine whether to use the motion information of the candidate block to generate a motion vector predictor for the target block.
  • step 2520 may be performed.
  • the procedure for the current candidate block may end.
  • the processor may determine whether to use the motion information of the candidate block to generate a motion vector predictor for the target block based on the specified condition.
  • the processing unit 1610 may include: 1) motion information of a candidate block in a call picture, 2) motion vector of a candidate block, 3) position of a candidate block in a call picture, and 4) 7) the POC of the reference picture of the candidate block, 8) the POC of the target picture, 9) the POC of the reference picture of the target block, 10) the relative position of the candidate block with respect to the target block, A second temporal distance from the call picture to the reference picture of the candidate block, 12) a ratio between the first temporal distance and the second temporal distance, 13) a POC of the target picture, and A first difference that is the difference between the POC of the reference picture and a POC of the reference picture, 13) a second difference that is a difference between a POC of the reference picture of the candidate block and a POC of the call picture, and 15) It is possible to determine whether to generate a motion vector predictor for the block All.
  • the POC of the specified picture may indicate the position of the picture in the pictures.
  • the processing unit may generate a motion vector predictor for the target block based on the motion information of the candidate block.
  • the motion information of the candidate block can be used to generate a motion vector predictor for the target block.
  • 26 is a flowchart of a method for determining whether motion information of a candidate block according to an embodiment is used to generate a motion vector predictor.
  • step 2510 with reference to Fig. 25 may include steps 2610, 2620 and 2630.
  • the processing unit may calculate a first scaling factor for the motion vector of the candidate block.
  • the first scaling factor may be a value whose first temporal distance is divided by a second temporal distance.
  • the first scaling factor may be a ratio between a first temporal distance and a second temporal distance.
  • the first temporal distance may be a temporal distance from the call picture to the target picture.
  • the second temporal distance may be a temporal distance from the call picture to the reference picture of the candidate block.
  • the distance between the pictures may be indicated by the difference between the POCs of the pictures.
  • the first scaling factor may be a value in which the first difference is divided by a second difference.
  • the first scaling factor may be a ratio between the first difference and the second difference.
  • the first difference may be the difference between the POC of the target picture and the POC of the call picture.
  • the second difference may be the difference between the POC of the reference picture of the candidate block and the POC of the call picture.
  • the processing unit may generate a first scaled motion vector by applying a first scaling to the motion vector of the candidate block.
  • the processing unit may generate the first scaled motion vector by multiplying the motion vector of the candidate block by a first scaling coefficient. That is to say, the first scaled motion vector may be a motion vector of the candidate block and a multiplication of the first scaling coefficient.
  • the first scaling coefficient may be a coefficient for scaling the motion vector of the candidate block according to the temporal direction between the target picture and the reference picture of the target block.
  • the first scaled motion vector may indicate the position in the target picture indicated by the motion vector of the candidate block.
  • the processing unit may determine whether the first scaled motion vector indicates a target block.
  • the first scaled motion vector may point to the target block .
  • the first scaled motion vector indicates the target block .
  • the one scaled motion vector may point to the target block.
  • the first scaled motion vector may not point to the target block.
  • motion information of the candidate block may be used to generate a motion vector predictor for the target block, and step 2520 may be performed.
  • the motion information of the candidate block may not be used to generate the motion vector predictor for the target block, and the procedure for the current candidate block ends .
  • FIG. 27 is a flowchart of a method of generating a motion vector predictor for a target block based on motion information of a candidate block according to an exemplary embodiment.
  • step 2520 with reference to FIG. 25 may include steps 2710 and 2720.
  • FIG. 25 may include steps 2710 and 2720.
  • the processing unit may calculate a second scaling factor for the motion vector of the candidate block.
  • the second scaling factor may be a value whose third temporal distance is divided by a second temporal distance.
  • the second scaling factor may be a ratio between a third temporal distance and a second temporal distance.
  • the third temporal distance may be a temporal distance from the target picture to the reference picture of the target block.
  • the second temporal distance may be a temporal distance from the call picture to the reference picture of the candidate block.
  • the distance between pictures may be indicated by the difference between POCs between pictures.
  • the second scaling factor may be a value obtained by dividing the third difference by the second difference.
  • the third scaling factor may be a ratio between the third difference and the second difference.
  • the third difference may be the difference between the POC of the reference picture of the target block and the POC of the target picture.
  • the second difference may be the difference between the POC of the reference picture of the candidate block and the POC of the call picture.
  • the processing unit may generate a motion vector predictor by applying a second scaling to the motion vector of the candidate block.
  • the processor may generate a motion vector predictor by multiplying a motion vector of the candidate block by a second scaling coefficient. That is to say, the motion vector predictor may be a product of the motion vector of the candidate block and the second scaling factor.
  • a motion vector predictor may be calculated for a specified candidate block.
  • the candidate block may be plural. Steps 2510 and 2520 of FIG. 25 may be performed in a specified order for a plurality of candidate blocks.
  • Steps 2510 and 2520 of Figure 25 may be performed for each candidate block of a plurality of candidate blocks. For each candidate block, it may be determined in step 2510 whether to generate a motion vector predictor using the motion vector of the candidate block.
  • the motion vector used to generate the motion vector predictor may be referred to as an available motion vector.
  • the available motion vector may be a motion vector that meets a specified condition.
  • the specified condition may be that the first scaled vector generated by applying the first scaling to the motion vector of the candidate block points to the target block.
  • the specified condition may be that the trajectory of the motion vector of the candidate block passes through the target block. That is to say, the first scaled vector generated using the available motion vectors may point to the target block. Alternatively, the trajectory of the available motion vector may pass through the target block.
  • a motion vector that is not used to generate a motion vector predictor may be referred to as an unused motion vector.
  • the unused motion vector may be a motion vector that does not meet the specified condition.
  • a motion vector predictor may be generated based on the plurality of available motion vectors of the plurality of candidate blocks.
  • a motion vector that is the first of a plurality of available motion vectors to be computed may be used to generate a motion vector predictor.
  • an average value of a plurality of available motion vectors may be used to generate a motion vector predictor. That is to say, the motion vector predictor may be a multiple of the average value and the second scaling factor.
  • an average value of one or more of the plurality of available motion vectors may be used to generate a motion vector predictor. That is to say, the motion vector predictor may be a multiple of the average value and the second scaling factor.
  • an available motion vector that produces a first scaled vector that arrives closest to a specified location of a plurality of available motion vectors may be used to generate a motion vector predictor.
  • the specified position may be the center of the target block. Alternatively, the specified position may be a specified position in the target block.
  • a plurality of available motion vectors and a motion vector having a sum of absolute differences may be used to generate a motion vector predictor.
  • SAD may be the SAD between the reconstructed block for the candidate block with the available motion vector and the reconstructed block pointed to by the available motion vector.
  • one or more of the available motion vectors of a plurality of available motion vectors may be selected based on an inter-prediction indicator of a target block, and one or more selected available motion vectors may be used to generate a motion vector predictor .
  • one or more usable motion vectors of one or more candidate blocks that refer to a reference picture in the L0 reference picture list of the target block among a plurality of usable motion vectors May be used to generate a motion vector predictor.
  • one or more usable motion vectors of one or more candidate blocks that refer to the reference picture in the L1 reference picture list of the target block among the plurality of usable motion vectors May be used to generate a motion vector predictor.
  • one or more available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on the inter-prediction indicators of the plurality of candidate blocks in the call picture, and one or more selected available motion vectors May be used to generate a motion vector predictor.
  • a motion vector corresponding to a specified prediction of a candidate block may be used to generate a motion vector predictor.
  • the specified prediction may be the L0 prediction
  • the corresponding motion vector may be the L0 motion vector of the candidate block.
  • the specified prediction may be the L1 prediction and the corresponding motion vector may be the L1 motion vector of the candidate block.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on the reference picture index of the target block, and one or more selected available motion vectors may be generated Lt; / RTI >
  • a reference picture index of a target block indicates a specified reference picture
  • one or more usable motion vectors of one or more candidate blocks that refer to a specified reference picture among a plurality of candidate blocks generate a motion vector predictor Lt; / RTI >
  • the specified reference picture may be the first reference picture in the L0 reference picture list.
  • the specified reference picture may be the first reference picture in the L1 reference picture list.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on the reference picture indexes of the candidate blocks in the call picture, and one or more selected available motion vectors Can be used to generate a vector predictor.
  • a motion vector corresponding to a reference picture index of a candidate block may be used to generate a motion vector predictor.
  • the specified reference picture may be the first reference picture in the L0 reference picture list, and the corresponding motion vector may be the L0 motion vector.
  • the specified reference picture may be the first reference picture in the L1 reference picture list, and the corresponding motion vector may be the L1 motion vector.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on the POC of the target picture, and one or more selected available motion vectors may be used to generate a motion vector predictor Can be used.
  • the POC of the candidate block may mean the POC of the reference picture referred to by the candidate block.
  • the available motion vector of the candidate block can be used to generate the motion vector predictor.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on the POC of the call picture, and one or more selected available motion vectors may be used to generate a motion vector predictor Can be used.
  • the POC of the candidate block may mean the POC of the reference picture referred to by the candidate block.
  • the available motion vector of the candidate block can be used to generate the motion vector predictor.
  • the associated motion vector may be a motion vector of a candidate block, a first scaled motion vector of a candidate block, or a motion vector predictor of a candidate block.
  • an available motion vector of a candidate block may be used to generate a motion vector predictor.
  • the specified inter prediction direction may be the L0 direction or the L1 direction.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected, and one or more selected available motion vectors may be used to generate the motion vector predictor .
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected, and one or more selected available motion vectors may be used to generate the motion vector predictor .
  • the slice type may be a P slice or a B slice.
  • the available motion vector of the candidate block may be used to generate the motion vector predictor.
  • the available motion vector of the candidate block may be used to generate the motion vector predictor.
  • M and N may be a positive integer.
  • the available motion vector of the candidate block may be used to generate a motion vector predictor.
  • the available motion vectors of the candidate block may be used to generate a motion vector predictor.
  • an available motion vector of the candidate block may be used to generate a motion vector predictor.
  • the available motion vector of the candidate block may be used to generate the motion vector predictor.
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on at least one of the coding parameters of the target block, Lt; / RTI >
  • one or more of the available motion vectors of the available motion vectors of the plurality of candidate blocks may be selected based on at least one of the coding parameters of the candidate block, and one or more selected available motion vectors may be selected as the motion vector prediction Lt; / RTI >
  • a motion vector predictor can be calculated for all candidate blocks in a call picture for one object block. That is, if the target block is changed, the motion vector predictor may be calculated for all the candidate blocks by repeating the process for the changed target block. Such repetition can greatly increase the computational complexity of encoding and / or decoding.
  • Code 2 below may represent a second method for generating UTMVP.
  • a first scaled motion vector can be generated using the motion vector of the candidate block, and the first scaled motion vector of the blocks in the target picture A block can be identified.
  • the motion vector of the candidate block may be used to generate a motion vector predictor for the identified destination block.
  • numberOfPUsInPicture may represent the total number of blocks in the target picture.
  • numberOfPUsInPicture may indicate the number of divided blocks when the target picture is divided into NxN sized blocks.
  • N may be a positive integer.
  • UTMVPSet may represent a memory storing the UTMVP of the block for each block in the target picture.
  • the memory can be an array.
  • UTMVPSet [cP] may represent the UTMVP of the block cP.
  • FIG. 28 is a flowchart of a method of generating a motion vector predictor for a target block according to an embodiment.
  • Step 2330 described above with reference to FIG. 23 may include the following steps 2810, 2820, 2830, 2840, 2850, and 2860.
  • step 2410 described above with reference to FIG. 24 may include the following steps 2810, 2820, 2830, 2840, 2850, and 2860.
  • the processing unit may perform the following steps 2810, 2820, 2830, 2840, 2850 and 2860 for each candidate block of the total candidate blocks in the call picture.
  • the processing unit may perform the following steps 2810, 2820, 2830, 2840, 2850, and 2860 for each candidate block of a selected portion of the candidate blocks in the call picture.
  • a target block may be used to specify a target picture.
  • the motion vector predictor generated in the embodiment may be set as a motion vector predictor for a destination block, not a target block.
  • some selected candidate blocks may include candidate blocks that are described as being selected based on the conditions specified in the embodiments described above, and may be selected based on the conditions specified in the embodiments described above And may include candidate blocks having the described motion vectors.
  • the processing unit can initialize the memory.
  • the memory may store the motion vector predictor of the block for each block in the target picture.
  • the processing unit may calculate a first scaling factor for the motion vector of the candidate block.
  • Step 2810 may correspond to step 2610 described above with reference to FIG. Duplicate descriptions are omitted.
  • the processing unit may generate a first scaled motion vector by applying a first scaling to the motion vector of the candidate block.
  • Step 2820 may correspond to step 2620 described above with reference to FIG. Duplicate descriptions are omitted.
  • the processing unit may identify the destination block indicated by the first one of the blocks of the target picture.
  • the destination block may be a block including the arrival position of the first one of the blocks in the target picture.
  • the destination block may be a block including the position of the candidate block among the blocks in the target picture and the position indicated by the sum of the first scaled motion vectors.
  • the processing unit may calculate a second scaling factor for the motion vector of the candidate block.
  • Step 2840 may correspond to step 2710 described above with reference to FIG. Duplicate descriptions are omitted.
  • the processing unit may generate a motion vector predictor by applying a second scaling to the motion vector of the candidate block.
  • Step 2850 may correspond to step 2720 described above with reference to FIG. Duplicate descriptions are omitted.
  • the processing unit may set the generated motion vector predictor as a motion vector predictor of the destination block.
  • the motion vector predictor generated in step 2850 can be a motion vector predictor of the target block.
  • the processing unit may add a motion vector predictor to an element representing a destination block in the memory.
  • the element representing the destination block may be an element determined as an object of access by the index among the elements of the memory when the index to the memory is the identifier of the destination block or the destination block.
  • the generated motion vector predictor may be set as a motion vector predictor of the target block.
  • the motion vector of each candidate block is A motion vector predictor for the destination block can be generated.
  • a first scaled motion vector may be derived using the motion vector of each candidate block, and a destination block pointed to by the first scaled motion vector may be identified.
  • steps 2810, 2820, 2830, 2840, 2850, and 2860 of an embodiment may be performed for a plurality of reference picture lists, respectively.
  • steps 2810, 2820, 2830, 2840, 2850, and 2860 may be performed for the L0 reference picture list and the L1 reference picture list, respectively.
  • a plurality of memories can be used, and a plurality of memories can be used for each of a plurality of reference picture lists.
  • Code 3 below can represent a third method for generating UTMVP.
  • code 3 a condition for starting the calculation of the UTMVP for the target block and a condition for selecting the candidate block are added.
  • the UTMVP is derived only for the target and candidate blocks satisfying these conditions, the amount of coding and / or decoding using code 3 can be further reduced compared to the amount of code and / or decoding using code 1 .
  • TMVP may be TMVP for the target block.
  • ⁇ can be a function that returns the size of the input value.
  • T may represent a first threshold.
  • abbreviations () can be a function that returns the absolute value of the input value.
  • S may represent a second threshold.
  • 29 is a flowchart of a method for generating a motion vector predictor for a target block using a specified condition according to an embodiment.
  • step 2330 with reference to FIG. 23 may include the following steps 2910, 2920, 2930, and 2940.
  • step 2410 described above with reference to FIG. 24 may include the following steps 2910, 2920, 2930, and 2940.
  • the processing unit may determine whether to derive a motion vector predictor for the target block.
  • the processor may determine whether to derive a motion vector predictor for the target block according to the specified condition.
  • the processing unit may determine whether to derive a motion vector predictor for a target block according to a specified condition based on a result of comparison between the size of the TMVP of the target block and the first threshold.
  • the processor may derive a motion vector predictor for a target block if the size of the target block's TMVP is greater than or equal to a first threshold.
  • the processing unit may not derive a motion vector predictor for a target block if the size of the target block's TMVP is smaller than the first threshold.
  • the size of the TMVP may be computed based on one or more of the x and y components of the motion vector of the TMVP.
  • the size of TMVP may be the sum of the absolute value of the x component and the absolute value of the y component.
  • the size of TMVP may be the sum of the square of the value of the x component and the square of the value of the y component.
  • the size of TMVP may be the square root of the square of the value of the x component and the square of the value of the y component.
  • the first threshold value can be predetermined in the encoder 1600 and the decoder 1700 according to the magnitude of error according to the size of the TMVP. That is to say, the first threshold may be a predetermined constant.
  • the first threshold may be determined based on a coding parameter of a target block, a coding parameter of a neighboring block of a target block, a coding parameter of a block of a call picture, and a coding parameter of a call block.
  • the first threshold may be determined for a specified unit.
  • the determined first threshold may be signaled from the encoder 1600 to the decoder 1700 via the bitstream.
  • entropy coding in the coding apparatus 1600 and entropy decoding in the decoding apparatus 1700 can be used.
  • the specified unit may be a unit of coding and / or decoding as described above such as SPS, PPS, slice and CTU.
  • step 2920 may be performed.
  • the procedure can be terminated.
  • step 2920 the processing unit may select a candidate block according to the specified condition.
  • the processing unit may select, as a candidate block, a block that satisfies the specified condition among the entire blocks in the call picture.
  • the processing unit may determine whether to select the block as a candidate block, depending on whether or not the block satisfies the specified condition.
  • the processing unit may select a candidate block based on the location or area of the target block.
  • the processing unit may select a candidate block based on at least one of the locations of the target block.
  • the positions of the target block may be the center position, left upper position, right upper position, left lower position, and right lower position of the target block.
  • the processing unit may select a candidate block based on a candidate region determined using the location or area of the target block.
  • the processing unit may select a candidate block based on the location or area of the call block.
  • the processing unit may select a candidate block based on at least one of the positions of the call block.
  • the positions of the call blocks may be the center position, left upper position, right upper position, left lower position, and right lower position of the call block.
  • the processing unit may select a candidate block based on the candidate region determined using the location or area of the call block.
  • the processing unit can select, as a candidate block, only the blocks in the candidate area out of the blocks in the call picture.
  • the candidate region may be a square of a specified size centered at the location of the call block.
  • the horizontal length and vertical length of the square may be determined according to the second threshold value.
  • the width and height of the square may be twice the second threshold.
  • the processing unit may be configured such that 1) the absolute value of the difference between the x-coordinate of the block in the call picture and the x-coordinate of the target block is smaller than the second threshold, and 2) the y-coordinate of the block in the above- If the absolute value of the difference between the coordinates is smaller than the second threshold value, the block in the above-mentioned call picture can be selected as a candidate block. That is, the blocks retrieved as candidate blocks to generate the motion vector predictor among the blocks in the call picture may be limited to the blocks within the specified square.
  • the center of the specified square may be the coordinates of the target block, and the width and height of the specified square may be twice the second threshold.
  • the second threshold may be determined based on a coding parameter of a target block, a coding parameter of a neighboring block of a target block, a coding parameter of a block of a call picture, and a coding parameter of a call block.
  • the second threshold may be determined based on the size of the target block.
  • the second threshold may be a predetermined constant.
  • the second threshold may be determined for a specified unit.
  • the determined second threshold may be signaled from the encoder 1600 to the decoder 1700 via the bitstream.
  • entropy coding in the coding apparatus 1600 and entropy decoding in the decoding apparatus 1700 can be used.
  • the specified unit may be a unit of coding and / or decoding as described above such as SPS, PPS, slice and CTU.
  • the processing unit may determine whether to use the motion information of the candidate block to generate a motion vector predictor for the target block.
  • Step 2930 may correspond to step 2510 described above with reference to FIG.
  • step 2930 may include steps 2610, 2620, and 2630. Duplicate descriptions are omitted.
  • the processing unit may generate a motion vector predictor for the target block based on motion information of the candidate block.
  • Step 2940 may correspond to step 2520 described above with reference to FIG.
  • step 2940 may include steps 2710 and 2720. Duplicate descriptions are omitted.
  • UTMVP generated as described above can be used in merge mode and AMVP mode as follows.
  • UTMVP may be the motion vector predictor described with reference to FIGS.
  • UTMVP can replace TMVP. That is to say, the TMVP described above may not be used, and the description of TMVP may be applied to UTMVP.
  • TMVP may be used.
  • the TMVP used may be a TMVP to which at least one of various embodiments of the above-described UTVMP is applied.
  • UTMVP may optionally replace TMVP.
  • TMVP may be used if the size of the TMVP is smaller than the threshold, and UTMVP may be used if the size of the TMVP is greater than or equal to the threshold.
  • the UTMVP of embodiments may be added to the merge candidate list with a higher priority than the priority of TMVP.
  • the number of UTMVPs and the number of TMVPs can be set to the default values, respectively.
  • the UTMVP of the embodiments may be added to the merge candidate list with a lower priority than the priority of the TMVP.
  • the number of UTMVPs and the number of TMVPs can be set to the default values, respectively.
  • the PU In merge mode, the PU may be divided into subblocks of a specified size, a UTMVP may be computed for each subblock of the subblocks divided, and the computed UTMVP may be used.
  • One or more of the methods for the merge modes described above can be combined.
  • the methods for the merge mode described above can also be applied to the skip mode.
  • UTMVP can replace TMVP. That is to say, the TMVP described above may not be used, and the description of TMVP may be applied to UTMVP.
  • TMVP may be used.
  • the TMVP used may be a TMVP to which at least one of various embodiments of the above-described UTVMP is applied.
  • UTMVP may optionally replace TMVP.
  • TMVP may be used if the size of the TMVP is smaller than the threshold, and UTMVP may be used if the size of the TMVP is greater than or equal to the threshold.
  • the UTMVP of embodiments may be added to the AMVP candidate list with a priority higher than that of TMVP.
  • the number of UTMVPs and the number of TMVPs can be set to the default values, respectively.
  • the UTMVP of the embodiments may be added to the AMVP candidate list with a lower priority than the priority of the TMVP.
  • the number of UTMVPs and the number of TMVPs can be set to the default values, respectively.
  • One or more of the methods for the AMVP mode described above can be combined.
  • the embodiments of the present invention described above can be implemented in the form of program instructions that can be executed through various computer components and recorded on a computer-readable recording medium.
  • the computer-readable recording medium may include program commands, data files, data structures, and the like, alone or in combination.
  • the program instructions recorded on the computer-readable recording medium may be those specially designed and constructed for the present invention or may be those known and used by those skilled in the computer software arts.
  • the computer-readable recording medium may include information used in embodiments according to the present invention.
  • the computer readable recording medium may comprise a bit stream, and the bit stream may comprise the information described in embodiments according to the present invention.
  • the computer-readable recording medium may comprise a non-transitory computer-readable medium.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like.
  • Examples of program instructions include machine language code such as those generated by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device may be configured to operate as one or more software modules for performing the processing according to the present invention, and vice versa.

Abstract

움직임 벡터 예측자를 사용하여 인터 예측을 수행하는 복호화 방법, 복호화 장치, 부호화 방법 및 부호화 장치가 개시된다. 콜 픽처 내의 후보 블록에 대하여, 후보 블록의 움직임 벡터에 기반하여 스케일된 움직임 벡터가 생성된다. 스케일된 움직임 벡터가 대상 블록을 가리키는 경우, 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자가 생성된다. 움직임 벡터 예측자는 머지 모드 및 AMVP 모드와 같은 특정된 인터 예측 모드에 대하여, 대상 블록의 움직임 벡터를 유도하기 위해 사용된다.

Description

시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치
아래의 실시예들은 비디오의 복호화 방법, 복호화 장치, 부호화 방법 및 부호화 장치에 관한 것으로서, 시간적 움직임 정보를 이용하는 영상에 대한 복호화 방법, 복호화 장치, 부호화 방법 및 부호화 장치에 관한 것이다.
정보 통신 산업의 지속적인 발달을 통해 HD(High Definition) 해상도를 가지는 방송 서비스가 세계적으로 확산되었다. 이러한 확산을 통해, 많은 사용자들이 고해상도이며 고화질인 영상(image) 및/또는 비디오(video)에 익숙해지게 되었다.
높은 화질에 대한 사용자들의 수요를 만족시키기 위하여, 많은 기관들이 차세대 영상 기기에 대한 개발에 박차를 가하고 있다. 에이치디티브이(High Definition TV; HDTV) 및 풀에이치디(Full HD; FHD) TV뿐만 아니라, FHD TV에 비해 4배 이상의 해상도를 갖는 울트라에이치디(Ultra High Definition; UHD) TV에 대한 사용자들의 관심이 증대하였고, 이러한 관심의 증대에 따라, 더 높은 해상도 및 화질을 갖는 영상에 대한 영상 부호화(encoding)/복호화(decoding) 기술이 요구된다.
영상 부호화(encoding)/복호화(decoding) 장치 및 방법은 고해상도 및 고화질의 영상에 대한 부호화/복호화를 수행하기 위해, 인터(inter) 예측(prediction) 기술, 인트라(intra) 예측 기술 및 엔트로피 부호화 기술 등을 사용할 수 있다. 인터 예측 기술은 시간적으로(temporally) 이전의 픽처 및/또는 시간적으로 이후의 픽처를 이용하여 대상 픽처에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 인트라 예측 기술은 대상 픽처 내의 픽셀의 정보를 이용하여 대상 픽처에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 엔트로피 부호화 기술은 출현 빈도가 높은 심볼에는 짧은 코드(code)를 할당하고, 출현 빈도가 낮은 심볼에는 긴 코드를 할당하는 기술일 수 있다.
보다 정확한 예측을 위해 다양한 인터 예측 기술들 및 인트라 예측 기술들이 개발되고 있다.
일 실시예는 대상 블록의 움직임 벡터 예측자를 사용하여 인터 예측을 수행하는 부호화 장치, 부호화 방법, 복호화 장치 및 복호화 방법을 제공할 수 있다.
일 실시예는 콜 픽처 내의 후보 블록의 움직임 벡터를 사용하여 대상 블록의 움직임 벡터 예측자를 생성하는 부호화 장치, 부호화 방법, 복호화 장치 및 복호화 방법을 제공할 수 있다.
일 측에 있어서, 대상 블록의 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 단계; 및 상기 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행하는 단계를 포함하는, 복호화 방법이 제공된다.
상기 움직임 벡터 예측자를 생성할지 여부는 상기 대상 블록에 대한 인터 예측 정보의 인터 예측 모드에 기반하여 결정될 수 있다.
상기 움직임 벡터 예측자는 상기 인터 예측 모드가 향상된 움직임 벡터 예측(advanced motion vector prediction; AMVP) 모드, 머지 모드 또는 스킵 모드이면 생성될 수 있다.
상기 움직임 벡터 예측자는 후보로서 상기 대상 블록에 대한 리스트에 추가될 수 있다.
상기 움직임 벡터 예측자를 생성하는 단계는, 상기 후보 블록의 움직임 정보를 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 단계; 및 상기 후보 블록의 상기 움직임 정보에 기반하여 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하는 단계를 포함할 수 있다.
상기 후보 블록의 상기 움직임 벡터에 대하여 제1 스케일링을 적용함으로써 제1 스케일된 움직임 벡터가 생성될 수 있다.
상기 제1 스케일된 움직임 벡터가 상기 대상 블록을 가리키면 상기 후보 블록의 움직임 정보가 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
상기 제1 스케일된 움직임 벡터는 상기 후보 블록의 움직임 벡터에 제1 스케일링 계수를 곱함으로써 생성될 수 있다.
상기 제1 스케일링 계수는 제1 시간적 거리가 제2 시간적 거리로 나뉘어진 값일 수 있다.
상기 제1 시간적 거리는 상기 콜 픽처로부터 대상 픽처까지의 시간적 거리일 수 있다.
상기 제2 시간적 거리는 상기 콜 픽처로부터 상기 후보 블록의 참조 픽처까지의 시간적 거리일 수 있다.
상기 대상 픽처는 상기 대상 블록을 포함하는 픽처일 수 있다.
상기 제1 스케일링 계수는 상기 후보 블록의 상기 움직임 벡터를 대상 픽처 및 대상 블록의 참조 픽처 간의 시간적 방향에 따라 스케일링하는 계수일 수 있다.
상기 대상 픽처는 상기 대상 블록을 포함하는 픽처일 수 있다.
상기 후보 블록의 상기 움직임 벡터에 대하여 제2 스케일링을 적용함으로써 상기 움직임 벡터 생성자가 생성될 수 있다.
상기 움직임 벡터 생성자는 상기 후보 블록의 상기 움직임 벡터에 대하여 제2 스케일링 계수를 곱함으로써 생성될 수 있다.
상기 제2 스케일링 계수는 제3 시간적 거리가 제2 시간적 거리로 나뉘어진 값일 수 있다.
상기 제3 시간적 거리는 상기 대상 픽처로부터 상기 대상 블록의 참조 픽처까지의 시간적 거리일 수 있다.
상기 제2 시간적 거리는 상기 콜 픽처로부터 상기 후보 블록의 참조 픽처까지의 시간적 거리일 수 있다.
상기 대상 픽처는 상기 대상 블록을 포함하는 픽처일 수 있다.
상기 후보 블록은 복수일 수 있다.
상기 복수의 후보 블록들의 복수의 움직임 벡터들의 평균 값이 상기 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
상기 복수의 후보 블록들의 인터 예측 지시자들 또는 상기 대상 블록의 인터 예측 지시자에 기반하여 상기 복수의 후보 블록들의 복수의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택될 수 있다.
상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
상기 복수의 후보 블록들의 참조 픽처 인덱스들 또는 상기 대상 블록의 참조 픽처 인덱스에 기반하여 상기 복수의 후보 블록들의 복수의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택될 수 있다.
상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
상기 대상 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 상기 복수의 후보 블록들의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택될 수 있다.
상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
상기 후보 블록에 관련된 움직임 벡터의 크기에 기반하여 상기 후보 블록의 움직임 벡터가 상기 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
상기 대상 블록의 크기에 기반하여 상기 후보 블록의 움직임 벡터가 상기 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
다른 일 측에 있어서, 대상 블록의 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 단계; 및 상기 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행하는 단계를 포함하는, 부호화 방법이 제공된다.
또 다른 일 측에 있어서, 후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 단계; 및 상기 후보 블록의 상기 움직임 정보에 기반하여 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하는 단계를 포함하는, 움직임 벡터 예측자 생성 방법이 제공된다.
대상 블록의 움직임 벡터 예측자를 사용하여 인터 예측을 수행하는 부호화 장치, 부호화 방법, 복호화 장치 및 복호화 방법이 제공된다.
콜 픽처 내의 후보 블록의 움직임 벡터를 사용하여 대상 블록의 움직임 벡터 예측자를 생성하는 부호화 장치, 부호화 방법, 복호화 장치 및 복호화 방법이 제공된다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
도 6은 일 예에 따른 블록의 분할을 나타낸다.
도 7은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 8은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 9는 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 10은 일 예에 따른 공간적 후보들을 나타낸다.
도 11은 일 예에 따른 공간적 후보들의 움직임 정보들의 머지 리스트로의 추가 순서를 나타낸다.
도 12은 일 예에 따른 변환 및 양자화의 과정을 설명한다.
도 13은 일 예에 따른 대각선 스캐닝을 나타낸다.
도 14는 일 예에 따른 수평 스캐닝을 나타낸다.
도 15는 일 예에 따른 수직 스캐닝을 나타낸다.
도 16은 일 실시예에 따른 부호화 장치의 구조도이다.
도 17은 일 실시예에 따른 복호화 장치의 구조도이다.
도 18은 일 예에 따른 콜 픽처 내의 콜 블록을 나타낸다.
도 19는 일 예에 따른 TMVP 획득 과정을 보인다.
도 20은 일 예에 따른 TMVP 획득 과정 및 UTMVP 획득 과정을 보인다.
도 21은 일 예에 따른 UTMVP의 생성 과정을 보인다.
도 22는 일 예에 따른 UTMVP의 생성 과정을 보인다.
도 23은 일 실시예에 따른 복호화 장치에서의 인터 예측 방법의 흐름도이다.
도 24는 일 실시예에 따른 부호화 장치에서의 인터 예측 방법의 흐름도이다.
도 25는 일 실시예에 따른 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 26은 일 실시예에 따른 후보 블록의 움직임 정보를 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 방법의 흐름도이다.
도 27은 일 실시예에 따른 후보 블록의 움직임 정보에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 28은 일 실시예에 따른 목적지 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 29는 일 실시예에 따른 특정된 조건을 사용하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들면, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.
도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다.
본 발명에서 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들면, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소(component)가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기의 2개의 구성요소들이 서로 간에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 상기의 2개의 구성요소들의 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 어떤 구성요소(component)가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기의 2개의 구성요소들의 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 발명의 실시예에 나타나는 구성요소들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성요소들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성요소는 설명의 편의상 각각의 구성요소로 나열하여 포함한 것으로 각 구성요소 중 적어도 두 개의 구성요소가 합쳐져 하나의 구성요소로 이루어지거나, 하나의 구성요소가 복수 개의 구성요소로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성요소의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
또한, 예시적 실시예들에서 특정 구성을 "포함"한다고 기술하는 내용은 상기의 특정 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 예시적 실시예들의 실시 또는 예시적 실시예들의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
본 발명에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 발명에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 즉, 본 발명에서 특정 구성을 "포함"한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성 또한 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
이하에서는, 기술분야에서 통상의 지식을 가진 자가 실시예들을 용이하게 실시할 수 있도록 하기 위하여, 첨부된 도면을 참조하여 실시 형태에 대하여 구체적으로 설명한다. 실시예들을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 도면 상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고, 동일한 구성요소에 대한 중복된 설명은 생략한다.
이하에서, 영상은 비디오(video)을 구성하는 하나의 픽처(picture)를 의미할 수 있으며, 비디오 자체를 나타낼 수도 있다. 예를 들면, "영상의 부호화 및/또는 복호화"는 "비디오의 부호화 및/또는 복호화"를 의미할 수 있으며, "비디오를 구성하는 영상들 중 하나의 영상의 부호화 및/또는 복호화"를 의미할 수도 있다.
이하에서, 용어들 "비디오(video)" 및 "동영상(motion picture)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 대상 영상은 부호화의 대상인 부호화 대상 영상 및/또는 복호화의 대상인 복호화 대상 영상일 수 있다. 또한, 대상 영상은 부호화 장치로 입력된 입력 영상일 수 있고, 복호화 장치로 입력된 입력 영상일 수 있다.
이하에서, 용어들 "영상", "픽처", "프레임(frame)" 및 "스크린(screen)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 대상 블록은 부호화의 대상인 부호화 대상 블록 및/또는 복호화의 대상인 복호화 대상 블록일 수 있다. 또한, 대상 블록은 현재 부호화 및/또는 복호화의 대상인 현재 블록일 수 있다. 예를 들면, 용어들 "대상 블록" 및 "현재 블록"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 용어들 "블록" 및 "유닛"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다. 또는 "블록"은 특정한 유닛을 나타낼 수 있다.
이하에서, 용어들 "영역(region)" 및 "세그먼트(segment)"는 서로 교체되어 사용될 수 있다.
이하에서, 특정한 신호는 특정한 블록을 나타내는 신호일 수 있다. 예를 들면, 원(original) 신호는 대상 블록을 나타내는 신호일 수 있다. 예측(prediction) 신호는 예측 블록을 나타내는 신호일 수 있다. 잔차(residual) 신호는 잔차 블록을 나타내는 신호일 수 있다.
실시예들에서, 특정된 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 각각은 값을 가질 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "0"은 논리 거짓(logical false) 또는 제1 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "0", 거짓, 논리 거짓 및 제1 기정의된 값은 서로 대체되어 사용될 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "1"은 논리 참(logical true) 또는 제2 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "1", 참, 논리 참 및 제2 기정의된 값은 서로 대체되어 사용될 수 있다.
행, 열 또는 인덱스(index)를 나타내기 위해 i 또는 j 등의 변수가 사용될 때, i의 값은 0 이상의 정수일 수 있으며, 1 이상의 정수일 수도 있다. 말하자면, 실시예들에서 행, 열 및 인덱스 등은 0에서부터 카운트될 수 있으며, 1에서부터 카운트될 수 있다.
아래에서는, 실시예들에서 사용되는 용어가 설명된다.
부호화기(encoder): 부호화(encoding)를 수행하는 장치를 의미한다.
복호화기(decoder): 복호화(decoding)를 수행하는 장치를 의미한다.
유닛(unit): 유닛은 영상의 부호화 및 복호화의 단위를 나타낼 수 있다. 용어들 "유닛" 및 "블록(block)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
- 유닛은 샘플의 MxN 배열일 수 있다. M 및 N은 각각 양의 정수일 수 있다. 유닛은 흔히 2차원의 샘플들의 배열을 의미할 수 있다.
- 영상의 부호화 및 복호화에 있어서, 유닛은 하나의 영상의 분할에 의해 생성된 영역일 수 있다. 말하자면, 유닛은 하나의 영상 내의 특정된 영역일 수 있다. 하나의 영상은 복수의 유닛들로 분할될 수 있다. 또는, 유닛은 하나의 영상을 세분화된 부분들로 분할하고, 분할된 부분에 대한 부호화 또는 복호화가 수행될 때, 상기의 분할된 부분을 의미할 수 있다.
- 영상의 부호화 및 복호화에 있어서, 유닛의 종류에 따라서 유닛에 대한 기정의된 처리가 수행될 수 있다.
- 기능에 따라서, 유닛의 타입은 매크로 유닛(Macro Unit), 코딩 유닛(Coding Unit; CU), 예측 유닛(Prediction Unit; PU), 잔차 유닛(Residual Unit) 및 변환 유닛(Transform Unit; TU) 등으로 분류될 수 있다. 또는, 기능에 따라서, 유닛은 블록, 매크로블록(Macroblock), 코딩 트리 유닛(Coding Tree Unit), 코딩 트리 블록(Coding Tree Block), 코딩 유닛(Coding Unit), 부호화 블록(Coding Block), 예측 유닛(Prediction Unit), 예측 블록(Prediction Block), 잔차 유닛(Residual Unit), 잔차 블록(Residual Block), 변환 유닛(Transform Unit) 및 변환 블록(Transform Block) 등을 의미할 수 있다.
- 유닛은, 블록과 구분하여 지칭하기 위해, 루마(luma) 성분 블록 및 이에 대응하는 크로마(chroma) 성분 블록, 그리고 각 블록에 대한 구문 요소(syntax element)를 포함하는 정보를 의미할 수 있다.
- 유닛의 크기 및 형태는 다양할 수 있다. 또한, 유닛은 다양한 크기 및 다양한 형태를 가질 수 있다. 특히 유닛의 형태는 정사각형뿐만 아니라 직사각형, 사다리꼴, 삼각형 및 오각형 등 2차원으로 표현될 수 있는 기하학적 도형을 포함할 수 있다.
- 또한, 유닛 정보는 유닛의 타입, 유닛의 크기, 유닛의 깊이, 유닛의 부호화 순서 및 유닛의 복호화 순서 등 중 적어도 하나 이상을 포함할 수 있다. 예를 들면, 유닛의 타입은 CU, PU, 잔차 유닛 및 TU 등 중 하나를 가리킬 수 있다.
- 하나의 유닛은 유닛에 비해 더 작은 크기를 갖는 하위 유닛으로 더 분할될 수 있다.
깊이(depth): 깊이는 유닛의 분할된 정도를 의미할 수 있다. 또한, 유닛 깊이는 유닛을 트리 구조로 표현했을 때 유닛이 존재하는 레벨을 나타낼 수 있다.
- 유닛 분할 정보는 유닛의 깊이에 관한 깊이를 포함할 수 있다. 깊이는 유닛이 분할되는 회수 및/또는 정도를 나타낼 수 있다.
- 트리 구조에서, 루트 노드(root node)의 깊이가 가장 얕고, 리프 노드(leaf node)의 깊이가 가장 깊다고 볼 수 있다.
- 하나의 유닛은 트리 구조(tree structure)에 기반하여 깊이 정보(depth)를 가지면서 계층적으로(hierarchically) 복수의 하위 유닛들로 분할될 수 있다. 말하자면, 유닛 및 상기의 유닛의 분할에 의해 생성된 하위 유닛은 노드 및 상기의 노드의 자식 노드에 각각 대응할 수 있다. 각각의 분할된 하위 유닛은 깊이를 가질 수 있다. 깊이는 유닛이 분할된 회수 및/또는 정도를 나타내므로, 하위 유닛의 분할 정보는 하위 유닛의 크기에 관한 정보를 포함할 수도 있다.
- 트리 구조에서, 가장 상위 노드는 분할되지 않은 최초의 유닛에 대응할 수 있다. 가장 상위 노드는 루트 노드로 칭해질 수 있다. 또한, 가장 상위 노드는 최소의 깊이 값을 가질 수 있다. 이 때, 가장 상위 노드는 레벨 0의 깊이를 가질 수 있다.
- 레벨 1의 깊이를 갖는 노드는 최초의 유닛이 한 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다. 레벨 2의 깊이를 갖는 노드는 최초의 유닛이 두 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 레벨 n의 깊이를 갖는 노드는 최초의 유닛이 n번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 리프 노드는 가장 하위의 노드일 수 있으며, 더 분할될 수 없는 노드일 수 있다. 리프 노드의 깊이는 최대 레벨일 수 있다. 예를 들면, 최대 레벨의 기정의된 값은 3일 수 있다.
- QT 깊이는 쿼드 분할에 대한 깊이를 나타낼 수 있다. BT 깊이는 이진 분할에 대한 깊이를 나타낼 수 있다. TT 깊이는 삼진 분할에 대한 깊이를 나타낼 수 있다.
샘플(sample): 샘플은 블록을 구성하는 기반(base) 단위일 수 있다. 샘플은 비트 깊이(bit depth; Bd)에 따라서 0부터 2Bd-1까지의 값들로서 표현될 수 있다.
- 샘플은 픽셀 또는 픽셀 값일 수 있다.
- 이하에서, 용어들 "픽셀", "화소" 및 "샘플"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
코딩 트리 유닛(Coding Tree Unit; CTU): CTU는 하나의 루마 성분(Y) 코딩 트리 블록과, 상기의 루마 성분 코딩 트리 블록에 관련된 두 크로마 성분(Cb, Cr) 코딩 트리 블록들로 구성될 수 있다. 또한, CTU는 상기의 블록들과 상기의 블록들의 각 블록에 대한 구문 요소를 포함한 것을 의미할 수도 있다.
- 각 코딩 트리 유닛은 코딩 유닛, 예측 유닛 및 변환 유닛 등의 하위 유닛을 구성하기 위하여 쿼드 트리(Quad Tree: QT), 이진 트리(Binary Tree; BT) 및 삼진 트리(Ternary Tree; TT) 등과 같은 하나 이상의 분할 방식을 이용하여 분할될 수 있다. 또한, 각 코딩 트리 유닛은 하나 이상의 분할 방식들을 사용하는 복수 트리(MultiType Tree; MTT)을 이용하여 분할될 수 있다.
- CTU는 입력 영상의 분할에서와 같이, 영상의 복호화 및 부호화 과정에서의 처리 단위인 픽셀 블록을 지칭하기 위한 용어로서 사용될 수 있다.
코딩 트리 블록(Coding Tree Block; CTB): 코딩 트리 블록은 Y 코딩 트리 블록, Cb 코딩 트리 블록, Cr 코딩 트리 블록 중 어느 하나를 지칭하기 위한 용어로 사용될 수 있다.
주변 블록(neighbor block): 주변 블록은 대상 블록에 인접한 블록을 의미할 수 있다. 주변 블록은 복원된 주변 블록을 의미할 수도 있다.
- 이하에서, 용어들 "주변 블록" 및 "인접 블록(adjacent block)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
공간적 주변 블록(spatial neighbor block): 공간적 주변 블록은 대상 블록에 공간적으로 인접한 블록일 수 있다. 주변 블록은 공간적 주변 블록을 포함할 수 있다.
- 대상 블록 및 공간적 주변 블록은 대상 픽처 내에 포함될 수 있다.
- 공간적 주변 블록은 대상 블록에 경계가 맞닿은 블록 또는 대상 블록으로부터 소정의 거리 내에 위치한 블록을 의미할 수 있다.
- 공간적 주변 블록은 대상 블록의 꼭지점에 인접한 블록을 의미할 수 있다. 여기에서, 대상 블록의 꼭지점에 인접한 블록이란, 대상 블록에 가로로 인접한 이웃 블록에 세로로 인접한 블록 또는 대상 블록에 세로로 인접한 이웃 블록에 가로로 인접한 블록일 수 있다.
시간적 주변 블록(temporal neighbor block): 시간적 주변 블록은 대상 블록에 시간적으로 인접한 블록일 수 있다. 주변 블록은 시간적 주변 블록을 포함할 수 있다.
- 시간적 주변 블록은 콜 블록(co-located block; col block)을 포함할 수 있다.
- 콜 블록은 이미 복원된 콜 픽처(co-located picture; col picture) 내의 블록일 수 있다. 콜 블록의 콜 픽처 내에서의 위치는 대상 블록의 대상 픽처 내의 위치에 대응할 수 있다. 또는, 콜 블록의 콜 픽처 내에서의 위치는 대상 블록의 대상 픽처 내의 위치와 동일할 수 있다. 콜 픽처는 참조 픽처 리스트에 포함된 픽처일 수 있다.
- 시간적 주변 블록은 대상 블록의 공간적 주변 블록에 시간적으로 인접한 블록일 수 있다.
예측 유닛(prediction unit): 인터 예측, 인트라 예측, 인터 보상(compensation), 인트라 보상 및 움직임 보상 등의 예측에 대한 기반 단위를 의미할 수 있다.
- 하나의 예측 유닛은 더 작은 크기를 갖는 복수의 파티션(partition)들 또는 하위 예측 유닛들로 분할될 수도 있다. 복수의 파티션들 또한 예측 또는 보상의 수행에 있어서의 기반 단위일 수 있다. 예측 유닛의 분할에 의해 생성된 파티션 또한 예측 유닛일 수 있다.
예측 유닛 파티션(prediction unit partition): 예측 유닛 파티션은 예측 유닛이 분할된 형태를 의미할 수 있다.
재구축된 이웃 유닛(reconstructed neighboring unit): 재구축된 이웃 유닛은 대상 유닛의 주변에 이미 복호화되어 재구축된 유닛일 수 있다.
- 재구축된 이웃 유닛은 대상 유닛에 대한 공간적(spatial) 인접 유닛 또는 시간적(temporal) 인접 유닛일 수 있다.
- 재구축된 공간적 주변 유닛은 대상 픽처 내의 유닛이면서 부호화 및/또는 복호화를 통해 이미 재구축된 유닛일 수 있다.
- 재구축된 시간적 주변 유닛은 참조 영상 내의 유닛이면서 부호화 및/또는 복호화를 통해 이미 재구축된 유닛일 수 있다. 재구축된 시간적 주변 유닛의 참조 영상 내에서의 위치는 대상 유닛의 대상 픽처 내에서의 위치와 같거나, 대상 유닛의 대상 픽처 내에서의 위치에 대응할 수 있다.
파라미터 세트(parameter set): 파라미터 세트는 비트스트림 내의 구조(structure) 중 헤더(header) 정보에 해당할 수 있다. 예를 들면, 파라미터 세트는 비디오 파라미터 세트(Video Parameter Set; VPS), 시퀀스 파라미터 세트(Sequence Parameter Set: SPS), 픽처 파라미터 세트(Picture Parameter Set; PPS) 및 적응 파라미터 세트(Adaptation Parameter Set; APS) 등을 포함할 수 있다.
또한, 파라미터 세트는 슬라이스(slice) 헤더 정보 및 타일 헤더 정보를 포함할 수 있다.
율-왜곡 최적화(rate-distortion optimization): 부호화 장치는 코딩 유닛의 크기, 예측 모드, 예측 유닛의 크기, 움직임 정보 및, 변환 유닛의 크기 등의 조합을 이용해서 높은 부호화 효율을 제공하기 위해 율-왜곡 최적화를 사용할 수 있다.
- 율-왜곡 최적화 방식은 상기의 조합들 중에서 최적의 조합을 선택하기 위해 각 조합의 율-왜곡 비용(rate-distortion cost)을 계산할 수 있다. 율-왜곡 비용은 아래의 수식 1을 이용하여 계산될 수 있다. 일반적으로 상기 율-왜곡 비용이 최소가 되는 조합이 율-왜곡 최적화 방식에 있어서의 최적의 조합으로 선택될 수 있다.
[수식 1]
Figure PCTKR2019001096-appb-I000001
- D는 왜곡을 나타낼 수 있다. D는 변환 유닛 내에서 원래의 변환 계수들 및 재구축된 변환 계수들 간의 차이 값들의 제곱들의 평균(mean square error)일 수 있다.
- R은 율을 나타낼 수 있다. R은 관련된 문맥 정보를 이용한 비트 율을 나타낼 수 있다.
- λ는 라그랑지안 승수(Lagrangian multiplier)를 나타낼 수 있다. R은 예측 모드, 움직임 정보 및 코드된 블록 플래그(coded block flag) 등과 같은 코딩 파라미터 정보뿐만 아니라, 변환 계수의 부호화에 의해 발생하는 비트도 포함할 수 있다.
- 부호화 장치는 정확한 D 및 R을 계산하기 위해 인터 예측 및/또는 인트라 예측, 변환, 양자화, 엔트로피 부호화, 역양자화, 역변환 등의 과정들을 수행할 수 있다. 이러한 과정들은 부호화 장치에서의 복잡도를 크게 증가시킬 수 있다.
비트스트림(bitstream): 비트스트림은 부호화된 영상 정보를 포함하는 비트의 열을 의미할 수 있다.
파라미터 세트(parameter set): 파라미터 세트는 비트스트림 내의 구조(structure) 중 헤더(header) 정보에 해당할 수 있다.
- 파라미터 세트는 비디오 파라미터 세트(video parameter set), 시퀀스 파라미터 세트(sequence parameter set), 픽처 파라미터 세트(picture parameter set) 및 적응 파라미터 세트(adaptation parameter set) 중 적어도 하나를 포함할 수 있다. 또한, 파라미터 세트는 슬라이스(slice) 헤더의 정보 및 타일(tile) 헤더의 정보를 포함할 수도 있다.
파싱(parsing): 파싱은 비트스트림을 엔트로피 복호화하여 구문 요소(syntax element)의 값을 결정하는 것을 의미할 수 있다. 또는, 파싱은 엔트로피 복호화 자체를 의미할 수 있다.
심볼(symbol): 부호화 대상 유닛 및/또는 복호화 대상 유닛의 구문 요소, 코딩 파라미터(coding parameter) 및 변환 계수(transform coefficient) 등 중 적어도 하나를 의미할 수 있다. 또한, 심볼은 엔트로피 부호화의 대상 또는 엔트로피 복호화의 결과를 의미할 수 있다.
참조 픽처(reference picture): 참조 픽처는 인터 예측 또는 움직임 보상을 위하여 유닛이 참조하는 영상을 의미할 수 있다. 또는, 참조 픽처는 인터 예측 또는 움직임 보상을 위해 대상 유닛이 참조하는 참조 유닛을 포함하는 영상일 수 있다.
이하, 용어 "참조 픽처" 및 "참조 영상"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
참조 픽처 리스트(reference picture list): 참조 픽처 리스트는 인터 예측 또는 움직임 보상에 사용되는 하나 이상의 참조 영상들을 포함하는 리스트일 수 있다.
- 참조 픽처 리스트의 종류는 리스트 조합(List Combined; LC), 리스트 0(List 0; L0), 리스트 1(List 1; L1), 리스트 2(List 2; L2) 및 리스트 3(List 3; L3) 등이 있을 수 있다.
- 인터 예측에는 하나 이상의 참조 픽처 리스트들이 사용될 수 있다.
인터 예측 지시자(inter prediction indicator): 인터 예측 지시자는 대상 유닛에 대한 인터 예측의 방향을 가리킬 수 있다. 인터 예측은 단방향 예측 및 양방향 예측 등 중 하나일 수 있다. 또는, 인터 예측 지시자는 대상 유닛의 예측 유닛을 생성할 때 사용되는 참조 영상의 개수를 나타낼 수 있다. 또는, 인터 예측 지시자는 대상 유닛에 대한 인터 예측 혹은 움직임 보상을 위해 사용되는 예측 블록의 개수를 의미할 수 있다.
참조 픽처 인덱스(reference picture index): 참조 픽처 인덱스는 참조 픽처 리스트에서 특정 참조 영상을 지시하는 인덱스일 수 있다.
움직임 벡터(Motion Vector; MV): 움직임 벡터는 인터 예측 또는 움직임 보상에서 사용되는 2차원의 벡터일 수 있다. 움직임 벡터는 대상 영상 및 참조 영상 간의 오프셋을 의미할 수 있다.
- 예를 들면, MV는 (mvx, mvy)와 같은 형태로 표현될 수 있다. mvx는 수평(horizontal) 성분을 나타낼 수 있고, mvy 는 수직(vertical) 성분을 나타낼 수 있다.
탐색 영역(search range): 탐색 영역은 인터 예측 중 MV에 대한 탐색이 이루어지는 2차원의 영역일 수 있다. 예를 들면, 탐색 영역의 크기는 MxN일 수 있다. M 및 N은 각각 양의 정수일 수 있다.
움직임 벡터 후보(motion vector candidate): 움직임 벡터 후보는 움직임 벡터를 예측할 때 예측 후보인 블록 혹은 예측 후보인 블록의 움직임 벡터를 의미할 수 있다.
- 움직임 벡터 후보는 움직임 벡터 후보 리스트에 포함될 수 있다.
움직임 벡터 후보 리스트(motion vector candidate list): 움직임 벡터 후보 리스트는 하나 이상의 움직임 벡터 후보들을 이용하여 구성된 리스트를 의미할 수 있다.
움직임 벡터 후보 인덱스(motion vector candidate index): 움직임 벡터 후보 인덱스는 움직임 벡터 후보 리스트 내의 움직임 벡터 후보를 가리키는 지시자를 의미할 수 있다. 또는, 움직임 벡터 후보 인덱스는 움직임 벡터 예측기(motion vector predictor)의 인덱스(index)일 수 있다.
움직임 정보(motion information): 움직임 정보는 움직임 벡터, 참조 픽처 인덱스 및 인터 예측 지시자(inter prediction indicator) 뿐만 아니라 참조 픽처 리스트 정보, 참조 영상, 움직임 벡터 후보, 움직임 벡터 후보 인덱스, 머지 후보 및 머지 인덱스 등 중 적어도 하나를 포함하는 정보를 의미할 수 있다.
머지 후보 리스트(merge candidate list): 머지 후보 리스트는 머지 후보를 이용하여 구성된 리스트를 의미할 수 있다.
머지 후보(merge candidate): 머지 후보는 공간적 머지 후보, 시간적 머지 후보, 조합된 머지 후보, 조합 양예측(combined bi-prediction) 머지 후보 및 제로 머지 후보 등을 의미할 수 있다. 머지 후보는 예측 타입 정보, 각 리스트에 대한 참조 픽처 인덱스 및 움직임 벡터 등의 움직임 정보를 포함할 수 있다.
머지 인덱스(merge index): 머지 인덱스는 머지 후보 리스트 내의 머지 후보를 가리키는 지시자일 수 있다.
- 머지 인덱스는 대상 유닛에 공간적으로 인접한 재구축된 유닛 및 대상 유닛에 시간적으로 인접한 재구축된 유닛 중 머지 후보를 유도한 재구축된 유닛을 지시할 수 있다.
- 머지 인덱스는 머지 후보의 움직임 정보들 중 적어도 하나를 지시할 수 있다.
변환 유닛(transform unit): 변환 유닛은 변환, 역변환, 양자화, 역양자화, 변환 계수 부호화 및 변환 계수 복호화 등과 같은 잔차 신호(residual signal) 부호화 및/또는 잔차 신호 복호화에 있어서의 기본 유닛일 수 있다. 하나의 변환 유닛은 더 작은 크기의 복수의 변환 유닛들로 분할될 수 있다.
스케일링(scaling): 스케일링은 변환 계수 레벨에 인수를 곱하는 과정을 의미할 수 있다.
- 변환 계수 레벨에 대한 스케일링의 결과로서, 변환 계수가 생성될 수 있다. 스케일링은 역양자화(dequantization)로 칭해질 수도 있다.
양자화 파라미터(Quantization Parameter; QP): 양자화 파라미터는 양자화에서 변환 계수에 대해 변환 계수 레벨(transform coefficient level)을 생성할 때 사용되는 값을 의미할 수 있다. 또는, 양자화 파라미터는 역양자화에서 변환 계수 레벨을 스케일링(scaling)함으로써 변환 계수를 생성할 때 사용되는 값을 의미할 수도 있다. 또는, 양자화 파라미터는 양자화 스탭 크기(step size)에 매핑된 값일 수 있다.
델타 양자화 파라미터(delta quantization parameter): 델타 양자화 파라미터는 예측된 양자화 파라미터 및 대상 유닛의 양자화 파라미터의 차분(difference) 값을 의미한다.
스캔(scan): 스캔은 유닛, 블록 또는 행렬 내의 계수들의 순서를 정렬하는 방법을 의미할 수 있다. 예를 들면, 2차원 배열을 1차원 배열 형태로 정렬하는 것을 스캔이라고 칭할 수 있다. 또는, 1차원 배열을 2차원 배열 형태로 정렬하는 것도 스캔 또는 역 스캔(inverse scan)이라고 칭할 수 있다.
변환 계수(transform coefficient): 변환 계수는 부호화 장치에서 변환을 수행함에 따라 생성된 계수 값일 수 있다. 또는, 변환 계수는 복호화 장치에서 엔트로피 복호화 및 역양자화 중 적어도 하나를 수행함에 따라 생성된 계수 값일 수 있다.
- 변환 계수 또는 잔차 신호에 양자화를 적용함으로써 생성된 양자화된 레벨 또는 양자화된 변환 계수 레벨 또한 변환 계수의 의미에 포함될 수 있다.
양자화된 레벨(quantized level): 양자화된 레벨은 부호화 장치에서 변환 계수 또는 잔차 신호에 양자화를 수행함으로써 생성된 값을 의미할 수 있다. 또는, 양자화된 레벨은 복호화 장치에서 역양자화를 수행함에 있어서 역양자화의 대상이 되는 값을 의미할 수도 있다.
- 변환 및 양자화의 결과인 양자화된 변환 계수 레벨도 양자화된 레벨의 의미에 포함될 수 있다.
넌제로 변환 계수(non-zero transform coefficient): 넌제로 변환 계수는 0이 아닌 값을 갖는 변환 계수 또는 0이 아닌 값을 갖는 변환 계수 레벨을 의미할 수 있다. 또는, 넌제로 변환 계수는 값의 크기가 0이 아난 변환 계수 또는 값의 크기가 0이 아닌 변환 계수 레벨을 의미할 수 있다.
양자화 행렬(quantization matrix): 양자화 행렬은 영상의 주관적 화질 혹은 객관적 화질을 향상시키기 위해서 양자화 과정 또는 역양자화 과정에서 이용되는 행렬을 의미할 수 있다. 양자화 행렬은 스케일링 리스트(scaling list)라고도 칭해질 수 있다.
양자화 행렬 계수(quantization matrix coefficient): 양자화 행렬 계수는 양자화 행렬 내의 각 원소(element)를 의미할 수 있다. 양자화 행렬 계수는 행렬 계수(matrix coefficient)라고도 칭해질 수 있다.
디폴트 행렬(default matrix): 기본 행렬은 부호화 장치 및 복호화 장치에서 기정의된 양자화 행렬일 수 있다.
비 디폴트 행렬(non-default matrix): 비 디폴트 행렬은 부호화 장치 및 복호화 장치에서 기정의되어 있지 않은 양자화 행렬일 수 있다. 비 디폴트 행렬은 부호화 장치로부터 복호화 장치로 시그널링될 수 있다.
가장 가능성있는 모드(Most Probable Mode; MPM): MPM은 대상 블록의 인트라 예측을 위해 사용될 가능성이 높은 인트라 예측 모드를 나타낼 수 있다.
부호화 장치 및 복호화 장치는 대상 블록에 관련된 코딩 파라미터 및 대상 블록에 관련된 개체의 속성에 기반하여 하나 이상의 MPM들을 결정할 수 있다.
부호화 장치 및 복호화 장치는 참조 블록의 인트라 예측 모드에 기반하여 하나 이상의 MPM들을 결정할 수 있다. 참조 블록은 복수일 수 있다. 복수의 참조 블록들은 대상 블록의 좌측에 인접한 공간적 주변 블록 및 대상 블록의 상단에 인접한 공간적 주변 블록을 포함할 수 있다. 말하자면, 참조 블록들에 대하여 어떠한 인트라 예측 모드들이 사용되었는가에 따라서 서로 다른 하나 이상의 MPM들이 결정될 수 있다.
하나 이상의 MPM들은 부호화 장치 및 복호화 장치에서 동일한 방식으로 결정될 수 있다. 말하자면, 부호화 장치 및 복호화 장치는 동일한 하나 이상의 MPM들을 포함하는 MPM 리스트를 공유할 수 있다.
MPM 리스트: MPM 리스트는 하나 이상의 MPM들을 포함하는 리스트일 수 있다. MPM 리스트 내의 하나 이상의 MPM들의 개수는 기정의될 수 있다.
MPM 지시자: MPM 지시자는 MPM 리스트의 하나 이상의 MPM들 중 대상 블록의 인트라 예측을 위해 사용되는 MPM을 지시할 수 있다. 예를 들면, MPM 지시자는 MPM 리스트에 대한 인덱스일 수 있다.
MPM 리스트는 부호화 장치 및 복호화 장치에서 동일한 방식으로 결정되기 때문에 MPM 리스트 자체는 부호화 장치로부터 복호화 장치로 전송될 필요가 없을 수 있다.
MPM 지시자는 부호화 장치로부터 복호화 장치로 시그널링될 수 있다. MPM 지시자가 시그널링됨에 따라 복호화 장치는 MPM 리스트의 MPM들 중 대상 블록에 대한 인트라 예측을 위해 사용될 MPM을 결정할 수 있다.
MPM 사용 지시자: MPM 사용 지시자는 대상 블록에 대한 예측을 위해 MPM 사용 모드가 사용될지 여부를 지시할 수 있다. MPM 사용 모드는 MPM 리스트를 사용하여 대상 블록에 대한 인트라 예측을 위해 사용될 MPM을 결정하는 모드일 수 있다.
MPM 사용 지시자는 부호화 장치로부터 복호화 장치로 시그널링될 수 있다.
시그널링: 시그널링은 정보가 부호화 장치로부터 복호화 장치로 전송되는 것을 나타낼 수 있다. 또는, 시그널링은 정보를 비트스트림 또는 기록 매체 내에 포함시키는 것을 의미할 수 있다. 부호화 장치에 의해 시그널링된 정보는 복호화 장치에 의해 사용될 수 있다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
부호화 장치(100)는 인코더, 비디오 부호화 장치 또는 영상 부호화 장치일 수 있다. 비디오는 하나 이상의 영상들을 포함할 수 있다. 부호화 장치(100)는 비디오의 하나 이상의 영상들을 순차적으로 부호화할 수 있다.
도 1을 참조하면, 부호화 장치(100)는 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽처 버퍼(190)를 포함할 수 있다.
부호화 장치(100)는 인트라 모드 및/또는 인터 모드를 사용하여 대상 영상에 대한 부호화를 수행할 수 있다.
또한, 부호화 장치(100)는 대상 영상에 대한 부호화를 통해 부호화의 정보를 포함하는 비트스트림을 생성할 수 있고, 생성된 비트스트림을 출력할 수 있다. 생성된 비트스트림은 컴퓨터 판독가능한 기록 매체에 저장될 수 있고, 유/무선 전송 매체를 통해 스트리밍될 수 있다.
예측 모드로서, 인트라 모드가 사용되는 경우, 스위치(115)는 인트라로 전환될 수 있다. 예측 모드로서, 인터 모드가 사용되는 경우, 스위치(115)는 인터로 전환될 수 있다.
부호화 장치(100)는 대상 블록에 대한 예측 블록을 생성할 수 있다. 또한, 부호화 장치(100)는 예측 블록이 생성된 후, 대상 블록 및 예측 블록의 잔차(residual)를 부호화할 수 있다.
예측 모드가 인트라 모드인 경우, 인트라 예측부(120)는 대상 블록의 주변에 있는, 이미 부호화/복호화된 블록의 픽셀을 참조 샘플로서 이용할 수 있다. 인트라 예측부(120)는 참조 샘플을 이용하여 대상 블록에 대한 공간적 예측을 수행할 수 있고, 공간적 예측을 통해 대상 블록에 대한 예측 샘플들을 생성할 수 있다.
인터 예측부(110)는 움직임 예측부 및 움직임 보상부를 포함할 수 있다.
예측 모드가 인터 모드인 경우, 움직임 예측부는, 움직임 예측 과정에서 참조 영상으로부터 대상 블록과 가장 매치가 잘 되는 영역을 검색할 수 있고, 검색된 영역을 이용하여 대상 블록 및 검색된 영역에 대한 움직임 벡터를 도출할 수 있다.
참조 영상은 참조 픽처 버퍼(190)에 저장될 수 있으며, 참조 영상에 대한 부호화 및/또는 복호화가 처리되었을 때 참조 픽처 버퍼(190)에 저장될 수 있다.
움직임 보상부는 움직임 벡터를 이용하는 움직임 보상을 수행함으로써 대상 블록에 대한 예측 블록을 생성할 수 있다. 여기에서, 움직임 벡터는 인터 예측에 사용되는 2차원 벡터일 수 있다. 또한 움직임 벡터는 대상 영상 및 참조 영상 간의 오프셋(offset)을 나타낼 수 있다.
움직임 예측부 및 움직임 보상부는 움직임 벡터가 정수가 아닌 값을 가진 경우 참조 영상 내의 일부 영역에 대해 보간 필터(interpolation filter)를 적용함으로써 예측 블록을 생성할 수 있다. 인터 예측 또는 움직임 보상을 수행하기 위해, CU를 기준으로 CU에 포함된 PU의 움직임 예측 및 움직임 보상의 방법이 스킵 모드(skip mode), 머지 모드(merge mode), 향상된 움직임 벡터 예측(advanced motion vector prediction; AMVP) 모드 및 현재 픽처 참조 모드 중 어떠한 방법인지 여부가 판단될 수 있고, 각 모드에 따라 인터 예측 또는 움직임 보상이 수행될 수 있다.
감산기(125)는 대상 블록 및 예측 블록의 차분인 잔차 블록(residual block)을 생성할 수 있다. 잔차 블록은 잔차 신호로 칭해질 수도 있다.
잔차 신호는 원 신호 및 예측 신호 간의 차이(difference)를 의미할 수 있다. 또는, 잔차 신호는 원신호 및 예측 신호 간의 차이를 변환(transform)하거나 양자화하거나 또는 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔차 블록은 블록 단위에 대한 잔차 신호일 수 있다.
변환부(130)는 잔차 블록에 대해 변환(transform)을 수행하여 변환 계수를 생성할 수 있고, 생성된 변환 계수(transform coefficient)를 출력할 수 있다. 여기서, 변환 계수는 잔차 블록에 대한 변환을 수행함으로써 생성된 계수 값일 수 있다.
변환부(130)는 변환을 수행함에 있어서 기정의된 복수의 변환 방법들 중 하나를 사용할 수 있다.
기정의된 복수의 변환 방법들은 이산 코사인 변환(Discrete Cosine Transform; DCT), 이산 사인 변환(Discrete Sine Transform; DST) 및 카루넨-루베 변환(Karhunen-Loeve Transform; KLT) 기반 변환 등을 포함할 수 있다.
잔차 블록에 대한 변환을 위해 사용되는 변환 방법은 대상 블록 및/또는 주변 블록에 대한 코딩 파라미터들 중 적어도 하나에 따라 결정될 수 있다. 예를 들면, 변환 방법은 PU에 대한 인터 예측 모드, PU에 대한 인트라 예측 모드, TU의 크기 및 TU의 형태 중 적어도 하나에 기반하여 결정될 수 있다. 또는, 변환 방법을 지시하는 변환 정보가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수도 있다.
변환 스킵(transform skip) 모드가 적용되는 경우, 변환부(130)는 잔차 블록에 대한 변환을 생략할 수도 있다.
변환 계수에 양자화를 적용함으로써 양자화된 변환 계수 레벨(transform coefficient level) 또는 양자화된 레벨이 생성될 수 있다. 이하, 실시예들에서는 양자화된 변환 계수 레벨 및 양자화된 레벨도 변환 계수로 칭해질 수 있다.
양자화부(140)는 변환 계수를 양자화 파라미터에 맞춰 양자화함으로써 양자화된 변환 계수 레벨(quantized transform coefficient level)(말하자면, 양자화된 레벨 또는 양자화된 계수)를 생성할 수 있다. 양자화부(140)는 생성된 양자화된 변환 계수 레벨을 출력할 수 있다. 이때, 양자화부(140)에서는 양자화 행렬을 사용하여 변환 계수를 양자화할 수 있다.
엔트로피 부호화부(150)는, 양자화부(140)에서 산출된 값들 및/또는 부호화 과정에서 산출된 코딩 파라미터 값들 등에 기초하여 확률 분포에 따른 엔트로피 부호화를 수행함으로써 비트스트림(bitstream)을 생성할 수 있다. 엔트로피 부호화부(150)는 생성된 비트스트림을 출력할 수 있다.
엔트로피 부호화부(150)는 영상의 픽셀에 관한 정보 및 영상의 복호화를 위한 정보에 대한 엔트로피 부호화를 수행할 수 있다. 예를 들면, 영상의 복호화를 위한 정보는 구문 요소(syntax element) 등을 포함할 수 있다.
엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당될 수 있고, 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당될 수 있다. 이러한 할당을 통해 심볼이 표현됨에 따라, 부호화의 대상인 심볼들에 대한 비트열(bitstring)의 크기가 감소될 수 있다. 따라서, 엔트로피 부호화를 통해서 영상 부호화의 압축 성능이 향상될 수 있다.
또한, 엔트로피 부호화부(150)는 엔트로피 부호화를 위해 지수 골롬(exponential golomb), 문맥-적응형 가변 길이 코딩(Context-Adaptive Variable Length Coding; CAVLC) 및 문맥-적응형 이진 산술 코딩(Context-Adaptive Binary Arithmetic Coding; CABAC) 등과 같은 부호화 방법을 사용할 수 있다. 예를 들면, 엔트로피 부호화부(150)는 가변 길이 부호화(Variable Length Coding/Code; VLC) 테이블을 이용하여 엔트로피 부호화를 수행할 수 있다. 예를 들면, 엔트로피 부호화부(150)는 대상 심볼에 대한 이진화(binarization) 방법을 도출할 수 있다. 또한, 엔트로피 부호화부(150)는 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출할 수 있다. 엔트로피 부호화부(150)는 도출된 이진화 방법, 확률 모델 및 문맥 모델(context model)을 사용하여 산술 부호화를 수행할 수도 있다.
엔트로피 부호화부(150)는 양자화된 변환 계수 레벨을 부호화하기 위해 변환 계수 스캐닝(transform coefficient scanning) 방법을 통해 2차원의 블록의 형태(form)의 계수를 1차원의 벡터의 형태로 변경할 수 있다.
코딩 파라미터는 부호화 및/또는 복호화를 위해 요구되는 정보일 수 있다. 코딩 파라미터는 부호화 장치(100)에서 부호화되어 부호화 장치(100)로부터 복호화 장치로 전달되는 정보를 포함할 수 있고, 부호화 혹은 복호화 과정에서 유추될 수 있는 정보를 포함할 수 있다. 예를 들면, 복호화 장치로 전달되는 정보로서, 구문 요소가 있다.
코딩 파라미터(coding parameter)는 구문 요소와 같이 부호화 장치에서 부호화되고, 부호화 장치로부터 복호화 장치로 시그널링되는 정보(또는, 플래그, 인덱스 등)뿐만 아니라, 부호화 과정 또는 복호화 과정에서 유도되는 정보를 포함할 수 있다. 또한, 코딩 파라미터는 영상을 부호화하거나 복호화함에 있어서 요구되는 정보를 포함할 수 있다. 예를 들면, 유닛/블록의 크기, 유닛/블록의 깊이, 유닛/블록의 분할 정보, 유닛/블록의 분할 구조, 유닛/블록이 쿼드 트리 형태로 분할되는지 여부를 나타내는 정보, 유닛/블록이 이진 트리 형태로 분할되는지 여부를 나타내는 정보, 이진 트리 형태의 분할 방향(가로 방향 또는 세로 방향), 이진 트리 형태의 분할 형태(대칭 분할 또는 비대칭 분할), 유닛/블록이 삼진 트리 형태로 분할되는지 여부를 나타내는 정보, 삼진 트리 형태의 분할 방향(가로 방향 또는 세로 방향), 삼진 트리 형태의 분할 형태(대칭 분할 또는 비대칭 분할 등), 유닛/블록이 복합 트리 형태로 분할되는지 여부를 나타내는 정보, 복합 트리 형태의 분할의 조합 및 방향(가로 방향 또는 세로 방향 등), 예측 방식(인트라 예측 또는 인터 예측), 인트라 예측 모드/방향, 참조 샘플 필터링 방법, 예측 블록 필터링 방법, 예측 블록 경계 필터링 방법, 필터링의 필터 탭, 필터링의 필터 계수, 인터 예측 모드, 움직임 정보, 움직임 벡터, 참조 픽처 인덱스, 인터 예측 방향, 인터 예측 지시자, 참조 픽처 리스트, 참조 영상, 움직임 벡터 예측기, 움직임 벡터 예측 후보, 움직임 벡터 후보 리스트, 머지 모드를 사용하는지 여부를 나타내는 정보, 머지 후보, 머지 후보 리스트, 스킵(skip) 모드를 사용하는지 여부를 나타내는 정보, 보간 필터의 종류, 보간 필터의 필터 탭, 보간 필터의 필터 계수, 움직임 벡터 크기, 움직임 벡터 표현 정확도, 변환 종류, 변환 크기, 1차 변환을 사용하는지 여부를 나타내는 정보, 추가(2차) 변환을 사용하는지 여부를 나타내는 정보, 1차 변환 선택 정보(또는, 1차 변환 인덱스), 2차 변환 선택 정보(또는, 2차 변환 인덱스), 잔차 신호의 유무를 나타내는 정보, 코드된 블록 패턴(coded block pattern), 코드된 블록 플래그(coded block flag), 양자화 파라미터, 양자화 행렬, 인트라-루프 필터에 대한 정보, 인트라-루프 필터를 적용하는지 여부에 대한 정보, 인트라-루프 필터의 계수, 인트라-루프의 필터 탭, 인트라 루프 필터의 모양(shape)/형태(form), 디블록킹 필터를 적용하는지 여부를 나타내는 정보, 디블록킹 필터 계수, 디블록킹 필터 탭, 디블록킹 필터 강도, 디블록킹 필터 모양/형태, 적응적 샘플 오프셋을 적용하는지 여부를 나타내는 정보, 적응적 샘플 오프셋 값, 적응적 샘플 오프셋 카테고리, 적응적 샘플 오프셋 종류, 적응적 루프-내(in-loop) 필터를 적용하는지 여부, 적응적 루프-내 필터 계수, 적응적 루프-내 필터 탭, 적응적 루프-내 필터 모양/형태, 이진화/역이진화 방법, 문맥 모델, 문맥 모델 결정 방법, 문맥 모델 업데이트 방법, 레귤러 모드를 수행하는지 여부, 바이패스 모드를 수행하는지 여부, 문맥 빈, 바이패스 빈, 변환 계수, 변환 계수 레벨, 변환 계수 레벨 스캐닝 방법, 영상의 디스플레이/출력 순서, 슬라이스 식별 정보, 슬라이스 타입, 슬라이스 분할 정보, 타일 식별 정보, 타일 타입, 타일 분할 정보, 픽처 타입, 비트 심도, 루마 신호에 대한 정보 및 크로마 신호에 대한 정보 중 적어도 하나의 값, 조합된 형태 또는 통계가 코딩 파라미터에 포함될 수 있다. 예측 방식은 인트라 예측 모드 및 인터 예측 모드 중 하나의 예측 모드를 나타낼 수 있다.
1차 변환 선택 정보는 대상 블록에 적용되는 1차 변환을 나타낼 수 있다.
2차 변환 선택 정보는 대상 블록에 적용되는 2차 변환을 나타낼 수 있다.
잔차 신호는 원 신호 및 예측 신호 간의 차분(difference)을 나타낼 수 있다. 또는, 잔차 신호는 원신호 및 예측 신호 간의 차분을 변환(transform)함으로써 생성된 신호일 수 있다. 또는, 잔차 신호는 원 신호 및 예측 신호 간의 차분을 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔차 블록은 블록에 대한 잔차 신호일 수 있다.
여기서, 플래그 또는 인덱스를 시그널링(signaling)한다는 것은 부호화 장치(100)에서는 플래그 또는 인덱스에 대한 엔트로피 부호화(entropy encoding)를 수행함으로써 생성된 엔트로피 부호화된 플래그 또는 엔트로피 부호화된 인덱스를 비트스트림(Bitstream)에 포함시키는 것을 의미할 수 있고, 복호화 장치(200)에서는 비트스트림으로부터 추출된 엔트로피 부호화된 플래그 또는 엔트로피 부호화된 인덱스에 대한 엔트로피 복호화(entropy decoding)를 수행함으로써 플래그 또는 인덱스를 획득하는 것을 의미할 수 있다.
부호화 장치(100)에 의해 인터 예측을 통한 부호화가 수행되기 때문에, 부호화된 대상 영상은 이후에 처리되는 다른 영상(들)에 대하여 참조 영상으로서 사용될 수 있다. 따라서, 부호화 장치(100)는 부호화된 대상 영상을 다시 재구축 또는 복호화할 수 있고, 재구축 또는 복호화된 영상을 참조 영상으로서 참조 픽처 버퍼(190)에 저장할 수 있다. 복호화를 위해 부호화된 대상 영상에 대한 역양자화 및 역변환이 처리될 수 있다.
양자화된 레벨은 역양자화부(160)에서 역양자화될(inversely quantized) 수 있고, 역변환부(170)에서 역변환될(inversely transformed) 수 있다. 역양자화부(160)는 양자화된 레벨에 대한 역양자화를 수행함으로써 역양자화된 계수를 생성할 수 있다. 역변환부(170)는 역양자화된 계수에 대한 역변환을 수행함으로써 재구축된 잔차 블록을 생성할 수 있다. 말하자면, 재구축된 잔차 블록은 역양자화 및 역변환된 계수일 수 있다.
역양자화 및 역변환된 계수는 가산기(175)를 통해 예측 블록과 합해질 수 있다, 역양자화 및/또는 역변환된 계수와 예측 블록을 합함으로써 재구축된(reconstructed) 블록이 생성될 수 있다. 여기서, 역양자화 및/또는 역변환된 계수는 역양자화(dequantization) 및 역변환(inverse-transformation) 중 적어도 하나 이상이 수행된 계수를 의미할 수 있고, 재구축된 잔차 블록을 의미할 수 있다.
재구축된 블록은 필터부(180)를 거칠 수 있다. 필터부(180)는 디블록킹 필터(deblocking filter), 샘플 적응적 오프셋(Sample Adaptive Offset; SAO), 적응적 루프 필터(Adaptive Loop Filter; ALF) 및 논 로컬 필터(Non Local Filter; NLF) 중 적어도 하나 이상을 재구축된 블록 또는 재구축된 픽처에 적용할 수 있다. 필터부(180)는 루프-내(in-loop) 필터로 칭해질 수도 있다.
디블록킹 필터는 블록들 간의 경계에서 발생한 블록 왜곡을 제거할 수 있다. 디블록킹 필터를 적용할지 여부를 판단하기 위해, 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀(들)에 기반하여 대상 블록에 디블록킹 필터를 적용할지 여부가 판단될 수 있다.
대상 블록에 디블록킹 필터를 적용하는 경우, 적용되는 필터는 요구되는 디블록킹 필터링의 강도에 따라 다를 수 있다. 말하자면, 서로 다른 필터들 중 디블록킹 필터링의 강도에 따라 결정된 필터가 대상 블록에 적용될 수 있다. 대상 블록에 디블록킹 필터가 적용되는 경우, 요구되는 디블록킹 필터링의 강도에 따라 강한 필터(strong filter) 및 약한 필터(weak filter) 중 하나의 필터가 대상 블록에 적용될 수 있다.
또한, 대상 블록에 수직 방향 필터링 및 수평 방향 필터링이 수행되는 경우, 수평 방향 필터링 및 수직 방향 필터링이 병행으로 처리될 수 있다.
SAO는 코딩 에러에 대한 보상을 위해 픽셀의 픽셀 값에 적정한 오프셋(offset)을 더할 수 있다. SAO는 디블록킹이 적용된 영상에 대해, 픽셀의 단위로 원본 영상 및 디블록킹이 적용된 영상 간의 차이에 대하여 오프셋을 사용하는 보정을 수행할 수 있다. 영상에 대한 오프셋 보정을 수행하기 위해, 영상에 포함된 픽셀들을 일정한 수의 영역들로 구분한 후, 구분된 영역들 중 오프셋이 수행될 영역을 결정하고 결정된 영역에 오프셋을 적용하는 방법이 사용될 수 있고, 영상의 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법이 사용될 수 있다.
ALF는 재구축된 영상 및 원래의 영상을 비교한 값에 기반하여 필터링을 수행할 수 있다. 영상에 포함된 픽셀들을 소정의 그룹들로 분할한 후, 각 분할된 그룹에 적용될 필터가 결정될 수 있고, 그룹 별로 차별적으로 필터링이 수행될 수 있다. 루마 신호에 대하여, 적응적 루프 필터를 적용할지 여부에 관련된 정보는 CU 별로 시그널링될 수 있다. 각 블록에 적용될 ALF 의 모양 및 필터 계수는 블록 별로 다를 수 있다. 또는, 블록의 특징과는 무관하게, 고정된 형태의 ALF가 블록에 적용될 수 있다.
논 로컬 필터는 대상 블록과 유사한 재구축된 블록들에 기반하여 필터링을 수행할 수 있다. 재구축된 영상에서 대상 블록과 유사한 영역이 선택될 수 있고, 선택된 유사한 영역의 통계적 성질을 사용하여 대상 블록의 필터링이 수행될 수 있다. 논 로컬 필터를 적용할지 여부에 관련된 정보는 CU에 대하여 시그널링될 수 있다. 또한, 블록들에 적용될 논 로컬 필터의 모양들 및 필터 계수들은 블록에 따라서 서로 다를 수 있다.
필터부(180)를 거친 재구축된 블록 또는 재구축된 영상은 참조 픽처 버퍼(190)에 저장될 수 있다. 필터부(180)를 거친 재구축된 블록은 참조 픽처의 일부일 수 있다. 말하자면, 참조 픽처는 필터부(180)를 거친 재구축된 블록들로 구성된 재구축된 픽처일 수 있다. 저장된 참조 픽처는 이후 인터 예측에 사용될 수 있다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
복호화 장치(200)는 디코더, 비디오 복호화 장치 또는 영상 복호화 장치일 수 있다.
도 2를 참조하면, 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 스위치(245), 가산기(255), 필터부(260) 및 참조 픽처 버퍼(270)를 포함할 수 있다.
복호화 장치(200)는 부호화 장치(100)에서 출력된 비트스트림을 수신할 수 있다. 복호화 장치(200)는 컴퓨터 판독가능한 기록 매체에 저장된 비트스트림을 수신할 수 있고, 유/무선 전송 매체를 통해 스트리밍되는 비트스트림을 수신할 수 있다.
복호화 장치(200)는 비트스트림에 대하여 인트라 모드 및/또는 인터 모드의 복호화를 수행할 수 있다. 또한, 복호화 장치(200)는 복호화를 통해 재구축된 영상 또는 복호화된 영상을 생성할 수 있고, 생성된 재구축된 영상 또는 복호화된 영상을 출력할 수 있다.
예를 들면, 복호화에 사용되는 예측 모드에 따른 인트라 모드 또는 인터 모드로의 전환은 스위치(245)에 의해 이루어질 수 있다. 복호화에 사용되는 예측 모드가 인트라 모드인 경우 스위치(245)가 인트라로 전환될 수 있다. 복호화에 사용되는 예측 모드가 인터 모드인 경우 스위치(245)가 인터로 전환될 수 있다.
복호화 장치(200)는 입력된 비트스트림을 복호화함으로써 재구축된 잔차 블록(reconstructed residual block)을 획득할 수 있고, 예측 블록을 생성할 수 있다. 재구축된 잔차 블록 및 예측 블록이 획득되면, 복호화 장치(200)는 재구축된 잔차 블록 및 예측 블록을 더함으로써 복호화의 대상이 되는 재구축된 블록을 생성할 수 있다.
엔트로피 복호화부(210)는 비트스트림에 대한 확률 분포에 기초하여 비트스트림에 대한 엔트로피 복호화를 수행함으로써 심볼들을 생성할 수 있다. 생성된 심볼들은 양자화된 변환 계수 레벨(quantized transform coefficient level)(말하자면, 양자화된 레벨 또는 양자화된 계수) 형태의 심볼을 포함할 수 있다. 여기에서, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법과 유사할 수 있다. 예를 들면, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법의 역과정일 수 있다.
엔트로피 복호화부(210)는 양자화된 변환 계수 레벨을 복호화하기 위해 변환 계수 스캐닝 방법을 통해 1차원의 벡터의 형태의 계수를 2차원의 블록의 형태로 변경할 수 있다.
예를 들면, 우상단 대각 스캔을 이용하여 블록의 계수들을 스캔함으로써 계수들이 2차원 블록 형태로 변경될 수 있다. 또는, 블록의 크기 및/또는 인트라 예측 모드에 따라 우상단 대각 스캔, 수직 스캔 및 수평 스캔 중 어떤 스캔이 사용될 것인지가 결정될 수 있다.
양자화된 계수는 역양자화부(220)에서 역양자화될 수 있다. 역양자화부(220)는 양자화된 계수에 대한 역양자화를 수행함으로써 역양자화된 계수를 생성할 수 있다. 또한, 역양자화된 계수는 역변환부(230)에서 역변환될 수 있다. 역변환부(230)는 역양자화된 계수에 대한 역변환을 수행함으로써 재구축된 잔차 블록을 생성할 수 있다. 양자화된 계수에 대한 역양자화 및 역변환이 수행된 결과로서, 재구축된 잔차 블록이 생성될 수 있다. 이때, 역양자화부(220)는 재구축된 잔차 블록을 생성함에 있어서 양자화된 계수에 양자화 행렬을 적용할 수 있다.
인트라 모드가 사용되는 경우, 인트라 예측부(240)는 대상 블록 주변의 이미 복호화된 블록의 픽셀 값을 이용하는 공간적 예측을 수행함으로써 예측 블록을 생성할 수 있다.
인터 예측부(250)는 움직임 보상부를 포함할 수 있다. 또는, 인터 예측부(250)는 움직임 보상부로 명명될 수 있다.
인터 모드가 사용되는 경우, 움직임 보상부는 움직임 벡터 및 참조 픽처 버퍼(270)에 저장된 참조 영상을 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다.
움직임 보상부는 움직임 벡터가 정수가 아닌 값을 가진 경우, 참조 영상 내의 일부 영역에 대해 보간 필터를 적용할 수 있고, 보간 필터가 적용된 참조 영상을 사용하여 예측 블록을 생성할 수 있다. 움직임 보상부는 움직임 보상을 수행하기 위해 CU를 기준으로 CU에 포함된 PU를 위해 사용되는 움직임 보상 방법이 스킵 모드, 머지 모드, AMVP 모드 및 현재 픽처 참조 모드 중 어떤 모드인가를 결정할 수 있고, 결정된 모드에 따라 움직임 보상을 수행할 수 있다.
재구축된 잔차 블록 및 예측 블록은 가산기(255)를 통해 더해질 수 있다. 가산기(255)는 재구축된 잔차 블록 및 예측 블록을 더함으로써 재구축된 블록을 생성할 수 있다.
재구축된 블록은 필터부(260)를 거칠 수 있다. 필터부(260)는 디블록킹 필터, SAO, ALF 및 논 로컬 필터 중 적어도 하나를 재구축된 블록 또는 재구축된 영상에 적용할 수 있다. 재구축된 영상은 재구축된 블록을 포함하는 픽처일 수 있다.
필터부(260)를 거친 재구축된 영상은 부호화 장치(100)에 의해 출력될 수 있으며, 부호화 장치(100)에 의해 사용될 수 있다.
필터부(260)를 거친 재구축된 영상은 참조 픽처 버퍼(270)에 참조 픽처로서 저장될 수 있다. 필터부(260)를 거친 재구축된 블록은 참조 픽처의 일부일 수 있다. 말하자면, 참조 픽처는 필터부(260)를 거친 재구축된 블록들로 구성된 영상일 수 있다. 저장된 참조 픽처는 이후 인터 예측을 위해 사용될 수 있다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
도 3은 하나의 유닛이 복수의 하위 유닛들로 분할되는 예를 개략적으로 나타낼 수 있다.
영상을 효율적으로 분할하기 위해, 부호화 및 복호화에 있어서, 코딩 유닛(Coding Unit; CU)이 사용될 수 있다. 유닛은 1) 영상 샘플들을 포함하는 블록 및 2) 구문 요소(syntax element)을 합쳐서 지칭하는 용어일 수 있다. 예를 들면, "유닛의 분할"은 "유닛에 해당하는 블록의 분할"을 의미할 수 있다.
영상 부호화/복호화의 기반 단위로서 CU가 사용될 수 있다. 또한, CU는 영상 부호화/복호화에 있어서 인트라 모드 및 인터 모드 중 하나의 선택된 모드가 적용되는 단위로 사용될 수 있다. 말하자면, 영상 부호화/복호화에 있어서, 각 CU에 대해서 인트라 모드 및 인터 모드 중 어떤 모드가 적용될 것인가가 결정될 수 있다.
또한, CU는 예측, 변환, 양자화, 역변환, 역양자화 및 변환 계수의 부호화/복호화에 있어서 기반 단위일 수 있다.
도 3을 참조하면, 영상(300)은 최대 코딩 유닛(Largest Coding Unit; LCU)의 단위로 순차적으로 분할될 수 있다. 각 LCU에 대해, 분할 구조가 결정될 수 있다. 여기서, LCU는 코딩 트리 유닛(Coding Tree Unit; CTU)과 동일한 의미로 사용될 수 있다.
유닛의 분할은 유닛에 해당하는 블록의 분할을 의미할 수 있다. 블록 분할 정보는 유닛의 깊이(depth)에 관한 깊이 정보를 포함할 수 있다. 깊이 정보는 유닛이 분할되는 회수 및/또는 정도를 나타낼 수 있다. 하나의 유닛은 트리 구조(tree structure)에 기반하여 깊이 정보를 가지고 계층적으로 하위 유닛들로 분할될 수 있다. 각각의 분할된 하위 유닛은 깊이 정보를 가질 수 있다. 깊이 정보는 CU의 크기를 나타내는 정보일 수 있다. 깊이 정보는 각 CU마다 저장될 수 있다.
각 CU는 깊이 정보를 가질 수 있다. CU가 분할되면, 분할에 의해 생성된 CU들은 분할된 CU의 깊이에서 1 증가한 깊이를 가질 수 있다.
분할 구조는 LCU(310) 내에서의, 영상을 효율적으로 부호화하기 위한, CU의 분포를 의미할 수 있다. 이러한 분포는 하나의 CU를 복수의 CU들로 분할할지 여부에 따라 결정될 수 있다. 분할된 CU들의 개수는 2, 4, 8 및 16 등을 포함하는 2 이상의 양의 정수일 수 있다. 분할에 의해 생성된 CU의 가로 크기 및 세로 크기는, 분할에 의해 생성된 CU들의 개수에 따라, 분할 전의 CU의 가로 크기 및 세로 크기보다 더 작을 수 있다.
분할된 CU는 동일한 방식으로 복수의 CU들로 재귀적으로 분할될 수 있다. 재귀적 분할에 의해, 분할된 CU의 가로 크기 및 세로 크기 중 적어도 하나의 크기가 분할 전의 CU의 가로 크기 및 세로 크기 중 적어도 하나에 비해 감소될 수 있다.
CU의 분할은 기정의된 깊이 또는 기정의된 크기까지 재귀적으로 이루어질 수 있다. 예를 들면, CU의 깊이는 0 내지 3의 값을 가질 수 있다. CU의 크기는 CU의 깊이에 따라 64x64로부터 8x8까지의 크기일 수 있다.
예를 들면, LCU의 깊이는 0일 수 있고, 최소 코딩 유닛(Smallest Coding Unit; SCU)의 깊이는 기정의된 최대 깊이일 수 있다. 여기서, LCU는 상술된 것과 같이 최대의 코딩 유닛 크기를 가지는 CU일 수 있고, SCU는 최소의 코딩 유닛 크기를 가지는 CU일 수 있다.
LCU(310)로부터 분할이 시작될 수 있고, 분할에 의해 CU의 가로 크기 및/또는 세로 크기가 줄어들 때마다 CU의 깊이는 1씩 증가할 수 있다.
예를 들면, 각각의 깊이 별로, 분할되지 않는 CU는 2Nx2N 크기를 가질 수 있다. 또한, 분할되는 CU의 경우, 2Nx2N 크기의 CU가 NxN 크기를 가지는 4개의 CU들로 분할될 수 있다. N의 크기는 깊이가 1씩 증가할 때마다 절반으로 감소할 수 있다.
도 3을 참조하면, 깊이가 0인 LCU는 64x64 픽셀들 또는 64x64 블록일 수 있다. 0은 최소 깊이일 수 있다. 깊이가 3인 SCU는 8x8 픽셀들 또는 8x8 블록일 수 있다. 3은 최대 깊이일 수 있다. 이때, LCU인 64x64 블록의 CU는 깊이 0으로 표현될 수 있다. 32x32 블록의 CU는 깊이 1로 표현될 수 있다. 16x16 블록의 CU는 깊이 2로 표현될 수 있다. SCU인 8x8 블록의 CU는 깊이 3으로 표현될 수 있다.
CU가 분할되는지 여부에 대한 정보는 CU의 분할 정보를 통해 표현될 수 있다. 분할 정보는 1비트의 정보일 수 있다. SCU를 제외한 모든 CU는 분할 정보를 포함할 수 있다. 예를 들면, 분할되지 않는 CU의 분할 정보의 값은 0일 수 있고, 분할되는 CU의 분할 정보의 값은 1일 수 있다.
예를 들면, 하나의 CU가 4 개의 CU들로 분할되는 경우, 분할에 의해 생성된 4 개의 CU들의 각 CU의 가로 크기 및 세로 크기는 각각 분할 전의 CU의 가로 크기의 절반 및 세로 크기의 절반일 수 있다. 32x32 크기의 CU가 4 개의 CU들로 분할되는 경우, 분할된 4 개의 CU들의 크기들은 16x16일 수 있다. 하나의 CU가 4 개의 CU들로 분할되는 경우, CU가 쿼드-트리 형태로 분할되었다고 할 수 있다.
예를 들면, 하나의 CU가 2 개의 CU들로 분할되는 경우, 분할에 의해 생성된 2 개의 CU들의 각 CU의 가로 크기 또는 세로 크기는 각각 분할 전의 CU의 가로 크기의 절반 또는 세로 크기의 절반일 수 있다. 32x32 크기의 CU가 2 개의 CU들로 세로로 분할되는 경우, 분할된 2 개의 CU들의 크기들은 16x32일 수 있다. 32x32 크기의 CU가 2 개의 CU들로 가로로 분할되는 경우, 분할된 2 개의 CU들의 크기들은 32x16일 수 있다. 하나의 CU가 2 개의 CU들로 분할되는 경우, CU가 이진-트리(binary-tree) 형태로 분할되었다고 할 수 있다.
도 3의 LCU(310)에는 쿼드-트리 형태의 분할 및 이진-트리 형태의 분할이 모두 적용되었다.
부호화 장치(100)에서, 64x64 크기의 코딩 트리 유닛(Coding Tree Unit; CTU)은 재귀적인 쿼드-크리 구조에 의해 더 작은 복수의 CU들로 분할될 수 있다. 하나의 CU는 동일한 크기들을 갖는 4개의 CU들로 분할될 수 있다. CU는 재귀적으로 분할될 수 있으며, 각 CU는 쿼드 트리의 구조를 가질 수 있다.
CU에 대한 재귀적인 분할을 통해, 최소의 율-왜곡 비율을 발생시키는 최적의 분할 방법이 선택될 수 있다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
LCU로부터 분할된 CU 중 더 이상 분할되지 않는 CU는 하나 이상의 예측 유닛(Prediction Unit; PU)들로 분할될 수 있다.
PU는 예측에 대한 기본 단위일 수 있다. PU는 스킵(skip) 모드, 인터 모드 및 인트라 모드 중 어느 하나로 부호화 및 복호화될 수 있다. PU는 각 모드에 따라서 다양한 형태로 분할될 수 있다. 예를 들면, 도 1을 참조하여 전술된 대상 블록 및 도 2를 참조하여 전술된 대상 블록은 PU일 수 있다.
CU는 PU들로 분할되지 않을 수 있다. CU가 PU들로 분할되지 않는 경우 CU의 크기 및 PU의 크기는 같을 수 있다.
스킵 모드에서는, CU 내에 분할이 존재하지 않을 수 있다. 스킵 모드에서는 분할 없이 PU 및 CU의 크기들이 동일한 2Nx2N 모드(410)가 지원될 수 있다.
인터 모드에서는, CU 내에서 8가지로 분할된 형태들이 지원될 수 있다. 예를 들면, 인터 모드에서는 2Nx2N 모드(410), 2NxN 모드(415), Nx2N 모드(420), NxN 모드(425), 2NxnU 모드(430), 2NxnD 모드(435), nLx2N 모드(440) 및 nRx2N 모드(445)가 지원될 수 있다.
인트라 모드에서는, 2Nx2N 모드(410) 및 NxN 모드(425)가 지원될 수 있다.
2Nx2N 모드(410)에서는 2Nx2N의 크기의 PU가 부호화될 수 있다. 2Nx2N의 크기의 PU는 CU의 크기와 동일한 크기의 PU를 의미할 수 있다. 예를 들면, 2Nx2N의 크기의 PU는 64x64, 32x32, 16x16 또는 8x8의 크기를 가질 수 있다.
NxN 모드(425)에서는 NxN의 크기의 PU가 부호화될 수 있다.
예를 들면, 인트라 예측에서, PU의 크기가 8x8일 때, 4개의 분할된 PU들이 부호화될 수 있다. 분할된 PU의 크기는 4x4일 수 있다.
PU가 인트라 모드에 의해 부호화될 경우, PU는 복수의 인트라 예측 모드들 중 하나의 인트라 예측 모드를 사용하여 부호화될 수 있다. 예를 들면, 고 효율 비디오 코딩(High Efficiency Video Coding; HEVC) 기술에서는 35 개의 인트라 예측 모드들을 제공할 수 있고, PU는 35 개의 인트라 예측 모드들 중 하나의 인트라 예측 모드로 부호화될 수 있다.
PU가 2Nx2N 모드(410) 및 NxN 모드(425) 중 어느 모드에 의해 부호화될 것인가는 율-왜곡 비용(rate-distortion cost)에 의해 결정될 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU에 대해 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 2Nx2N 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 2Nx2N 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
또한, 부호화 장치(100)는 NxN으로 분할된 PU들의 각 PU에 대해서 순차적으로 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 NxN 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 NxN 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU의 율-왜곡 비용 및 NxN 크기의 PU들의 율-왜곡 비용들의 비교에 기반하여 2Nx2N 크기의 PU 및 NxN 크기의 PU들 중 어느 것을 부호화할 지를 결정할 수 있다.
하나의 CU는 하나 이상의 PU들로 분할될 수 있고, PU도 복수의 PU들로 분할될 수 있다.
예를 들면, 하나의 PU가 4 개의 PU들로 분할되는 경우, 분할에 의해 생성된 4 개의 PU들의 각 PU의 가로 크기 및 세로 크기는 각각 분할 전의 PU의 가로 크기의 절반 및 세로 크기의 절반일 수 있다. 32x32 크기의 PU가 4 개의 PU들로 분할되는 경우, 분할된 4 개의 PU들의 크기들은 16x16일 수 있다. 하나의 PU가 4 개의 PU들로 분할되는 경우, PU가 쿼드-트리 형태로 분할되었다고 할 수 있다.
예를 들면, 하나의 PU가 2 개의 PU들로 분할되는 경우, 분할에 의해 생성된 2 개의 PU들의 각 PU의 가로 크기 또는 세로 크기는 각각 분할 전의 PU의 가로 크기의 절반 또는 세로 크기의 절반일 수 있다. 32x32 크기의 PU가 2 개의 PU들로 세로로 분할되는 경우, 분할된 2 개의 PU들의 크기들은 16x32일 수 있다. 32x32 크기의 PU가 2 개의 PU들로 가로로 분할되는 경우, 분할된 2 개의 PU들의 크기들은 32x16일 수 있다. 하나의 PU가 2 개의 PU들로 분할되는 경우, PU가 이진-트리 형태로 분할되었다고 할 수 있다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
변환 유닛(Transform Unit; TU)은 CU 내에서 변환, 양자화, 역변환, 역양자화, 엔트로피 부호화 및 엔트로피 복호화의 과정을 위해 사용되는 기본 단위일 수 있다.
TU는 정사각형 형태 또는 직사각형 형태를 가질 수 있다. TU의 형태는 CU의 크기 및/또는 형태에 의존하여 결정될 수 있다.
LCU로부터 분할된 CU 중, 더 이상 CU들로 분할되지 않는 CU는 하나 이상의 TU들로 분할될 수 있다. 이때, TU의 분할 구조는 쿼드-트리(quad-tree) 구조일 수 있다. 예컨대, 도 5에서 도시된 것과 같이, 하나의 CU(510)가 쿼드-트리 구조에 따라서 한 번 혹은 그 이상 분할될 수 있다. 분할을 통해, 하나의 CU(510)는 다양한 크기의 TU들로 구성될 수 있다.
하나의 CU가 2 번 이상 분할될 경우, CU는 재귀적으로 분할되는 것으로 볼 수 있다. 분할을 통해, 하나의 CU는 다양한 크기들을 갖는 TU들로 구성될 수 있다.
또는, 하나의 CU는 CU를 분할하는 수직 선 및/또는 수평 선의 개수에 기반하여 하나 이상의 TU들로 분할될 수도 있다.
CU는 대칭형의 TU들로 분할될 수 있고, 비대칭형의 TU들로 분할될 수도 있다. 비대칭형의 TU들로의 분할을 위해, TU의 크기 및/또는 형태에 대한 정보가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다. 또는, TU의 크기 및/또는 형태는 CU의 크기 및/또는 형태에 대한 정보로부터 유도될 수 있다.
CU는 TU들로 분할되지 않을 수 있다. CU가 TU들로 분할되지 않는 경우 CU의 크기 및 TU의 크기는 같을 수 있다.
하나의 CU는 하나 이상의 TU들로 분할될 수 있고, TU도 복수의 TU들로 분할될 수 있다.
예를 들면, 하나의 TU가 4 개의 TU들로 분할되는 경우, 분할에 의해 생성된 4 개의 TU들의 각 TU의 가로 크기 및 세로 크기는 각각 분할 전의 TU의 가로 크기의 절반 및 세로 크기의 절반일 수 있다. 32x32 크기의 TU가 4 개의 TU들로 분할되는 경우, 분할된 4 개의 TU들의 크기들은 16x16일 수 있다. 하나의 TU가 4 개의 TU들로 분할되는 경우, TU가 쿼드-트리 형태로 분할되었다고 할 수 있다.
예를 들면, 하나의 TU가 2 개의 TU들로 분할되는 경우, 분할에 의해 생성된 2 개의 TU들의 각 TU의 가로 크기 또는 세로 크기는 각각 분할 전의 TU의 가로 크기의 절반 또는 세로 크기의 절반일 수 있다. 32x32 크기의 TU가 2 개의 TU들로 세로로 분할되는 경우, 분할된 2 개의 TU들의 크기들은 16x32일 수 있다. 32x32 크기의 TU가 2 개의 TU들로 가로로 분할되는 경우, 분할된 2 개의 TU들의 크기들은 32x16일 수 있다. 하나의 TU가 2 개의 TU들로 분할되는 경우, TU가 이진-트리 형태로 분할되었다고 할 수 있다.
도 5에서 도시된 것 외의 다른 방식으로 CU가 분할될 수도 있다.
예를 들면, 하나의 CU는 3 개의 CU들로 분할될 수 있다. 분할된 3 개의 CU들의 가로 크기 또는 세로 크기는 각각 분할전의 CU의 가로 크기 또는 세로 크기의 1/4, 1/2 및 1/4일 수 있다.
일 예로, 32x32 크기의 CU가 3 개의 CU들로 세로로 분할되는 경우, 분할된 3 개의 CU들의 크기들은 각각 8x32, 16x32 및 8x32일 수 있다. 이와 같이, 하나의 CU가 3 개의 CU들로 분할되는 경우, CU는 삼진 트리의 형태로 분할되었다고 볼 수 있다.
예시된 쿼드 트리의 형태의 분할, 이진 트리의 형태의 분할 및 삼진 트리의 형태의 분할 중 하나가 CU의 분할을 위해 적용될 수 있으며, 복수 개의 분할 방식들이 함께 조합되어 CU의 분할을 위해 사용될 수도 있다. 이 때, 복수 개의 분할 방식들이 조합되어 사용되는 경우를 복합 트리의 형태의 분할이라고 칭할 수 있다.
도 6은 일 예에 따른 블록의 분할을 나타낸다.
영상의 부호화 및/또는 복호화의 과정에서, 도 6과 같이 대상 블록이 분할될 수 있다.
대상 블록의 분할을 위해, 분할 정보를 나타내는 지시자가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다. 분할 정보는 대상 블록이 어떻게 분할되는가를 나타내는 정보일 수 있다.
분할 정보는 분할 플래그(이하, "split_flag"로 표시), 쿼드-이진 플래그(이하, "QB_flag"로 표시), 쿼드 트리 플래그(이하, "quadtree_flag"로 표시), 이진 트리 플래그(이하, "binarytree_flag"로 표시) 및 이진 타입 플래그(이하, "Btype_flag"로 표시) 중 하나 이상일 수 있다.
split_flag는 블록이 분할되었는지 여부를 나타내는 플래그일 수 있다. 예를 들면, split_flag의 값 1은 블록이 분할됨을 나타낼 수 있다. split_flag의 값 0은 블록이 분할되지 않음을 나타낼 수 있다.
QB_flag는 블록이 쿼드 트리 형태 및 이진 트리 형태 중 어떤 형태로 분할되는가를 나타내는 플래그일 수 있다. 예를 들면, QB_flag의 값 0은 블록이 쿼드 트리 형태로 분할됨을 나타낼 수 있다. QB_flag의 값 1은 블록이 이진 트리 형태로 분할됨을 나타낼 수 있다. 또는, QB_flag의 값 0은 블록이 이진 트리 형태로 분할됨을 나타낼 수 있다. QB_flag의 값 1은 블록이 쿼드 트리 형태로 분할됨을 나타낼 수 있다.
quadtree_flag는 블록이 쿼드 트리 형태로 분할되는지 여부를 나타내는 플래그일 수 있다. 예를 들면, quadtree_flag의 값 1은 블록이 쿼드 트리 형태로 분할됨을 나타낼 수 있다. quadtree_flag의 값 0은 블록이 쿼드 트리 형태로 분할되지 않음을 나타낼 수 있다.
binarytree_flag는 블록이 이진 트리 형태로 분할되었는지 여부를 나타내는 플래그일 수 있다. 예를 들면, binarytree_flag의 값 1은 블록이 이진 트리 형태로 분할됨을 나타낼 수 있다. binarytree_flag의 값 0은 블록이 이진 트리 형태로 분할되지 않음을 나타낼 수 있다.
Btype_flag는 블록이 이진 트리 형태로 분할되는 경우, 수직 분할 및 수평 분할 중 어떤 것으로 분할되었는지를 나타내는 플래그일 수 있다. 예를 들면, Btype_flag의 값 0은 블록이 수평 방향으로 분할됨을 나타낼 수 있다. Btype_flag의 값 1은 블록이 수직 방향으로 분할됨을 나타낼 수 있다. 또는, Btype_flag의 값 0은 블록이 수직 방향으로 분할되었음을 나타낼 수 있다. Btype_flag의 값 1은 블록이 수평 방향으로 분할되었음을 나타낼 수 있다.
예를 들면, 도 6의 블록에 대한 분할 정보는 아래의 표 1과 같이 quadtree_flag, binarytree_flag 및 Btype_flag 중 적어도 하나를 시그널링함으로써 유도할 수 있다.
[표 1]
Figure PCTKR2019001096-appb-I000002
예를 들면, 도 6의 블록에 대한 분할 정보는 아래의 표 2와 같이 split_flag, QB_flag 및 Btype_flag 중 적어도 하나를 시그널링함으로써 유도할 수 있다.
[표 2]
Figure PCTKR2019001096-appb-I000003
분할 방법은 블록의 크기 및/또한 형태에 따라 쿼드 트리로만 제한될 수 있고, 또는 이진 트리로만 제한될 수 있다. 이러한 제한이 적용되는 경우, split_flag는 쿼드 트리 형태로의 분할 여부를 나타내는 플래그 또는 이진 트리 형태로의 분할 여부를 나타내는 플래그일 수 있다. 블록의 크기 및 형태는 블록의 깊이 정보에 따라서 유도될 수 있으며, 깊이 정보는 부호화 장치(100)로부터 복호화 장치(200)로 시그널링 될 수 있다.
블록의 크기가 특정된 범위 내에 속하는 경우, 쿼드 트리 형태의 분할만이 가능할 수 있다. 예를 들면, 특정된 범위는 쿼드 트리 형태의 분할만이 가능한 최대 블록 크기 및 최소 블록 크기 중 적어도 하나에 의해 정의될 수 있다.
쿼트 트리 형태의 분할만이 가능한 최대 블록 크기 및/또는 최소 블록 크기를 나타내는 정보는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다. 또한, 이러한 정보는 비디오, 시퀀스, 픽처 및 슬라이스(또는, 세그먼트) 중 적어도 하나의 단위에 대하여 시그널링될 수 있다.
또는, 최대 블록 크기 및/또는 최소 블록 크기는 부호화 장치(100) 및 복호화 장치(200)에서 기정의된 고정된 크기일 수 있다. 예를 들면, 블록의 크기가 64x64의 이상이며, 256x256의 이하인 경우에는 쿼드 트리 형태의 분할만이 가능할 수 있다. 이러한 경우, split_flag는 쿼드 트리 형태로의 분할 여부를 나타내는 플래그일 수 있다.
블록의 크기가 특정된 범위 내에 속하는 경우, 이진 트리 형태의 분할만이 가능할 수 있다. 여기서, 예를 들면, 특정된 범위는 이진 트리 형태의 분할만이 가능한 최대 블록 크기 및 최소 블록 크기 중 적어도 하나에 의해 정의될 수 있다.
이진 트리 형태의 분할만이 가능한 최대 블록 크기 및/또는 최소 블록 크기를 나타내는 정보는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다. 또한, 이러한 정보는 시퀀스, 픽처 및 슬라이스(또는, 세그먼트) 중 적어도 하나의 단위에 대하여 시그널링될 수 있다.
또는, 최대 블록 크기 및/또는 최소 블록 크기는 부호화 장치(100) 및 복호화 장치(200)에서 기정의된 고정된 크기일 수 있다. 예를 들면, 블록의 크기가 8x8의 이상이며, 16x16의 이하인 경우에는 이진 트리 형태의 분할만이 가능할 수 있다. 이러한 경우, split_flag는 이진 트리 형태로의 분할 여부를 나타내는 플래그일 수 있다.
블록의 분할은 이전의 분할에 의해 제한될 수 있다. 예를 들면, 블록이 이진 트리 형태로 분할되어 복수의 분할된 블록들이 생성된 경우, 각 분할된 블록은 이진 트리 형태로만 추가로 분할될 수 있다.
분할된 블록의 가로 크기 또는 세로 크기가 더 이상 분할될 수 없는 크기에 해당하는 경우 전술된 지시자는 시그널링되지 않을 수 있다.
도 7은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 7의 그래프의 중심으로부터 외곽으로의 화살표들은 인트라 예측 모드들의 예측 방향들을 나타낼 수 있다. 또한, 화살표에 근접하게 표시된 숫자는 인트라 예측 모드 또는 인트라 예측 모드의 예측 방향에 할당된 모드 값의 일 예를 나타낼 수 있다.
인트라 부호화 및/또는 복호화는 대상 블록의 주변의 유닛의 참조 샘플을 이용하여 수행될 수 있다. 주변의 블록은 주변의 재구축된 블록일 수 있다. 예를 들면, 인트라 부호화 및/또는 복호화는 주변의 재구축된 블록이 포함하는 참조 샘플의 값 또는 코딩 파라미터를 이용하여 수행될 수 있다.
부호화 장치(100) 및/또는 복호화 장치(200)는 대상 영상 내의 샘플의 정보에 기초하여 대상 블록에 대한 인트라 예측을 수행함으로써 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 대상 영상 내의 샘플의 정보에 기반하여 인트라 예측을 수행함으로써 대상 블록에 대한 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 적어도 하나의 재구축된 참조 샘플에 기반하여 방향성 예측 및/또는 비방향성 예측을 수행할 수 있다.
예측 블록은 인트라 예측의 수행의 결과로 생성된 블록을 의미할 수 있다. 예측 블록은 CU, PU 및 TU 중 적어도 하나에 해당할 수 있다.
예측 블록의 단위는 CU, PU 및 TU 중 적어도 하나의 크기일 수 있다. 예측 블록은 2Nx2N의 크기 또는 NxN의 크기를 갖는, 정사각형의 형태를 가질 수 있다. NxN의 크기는 4x4, 8x8, 16x16, 32x32 및 64x64 등을 포함할 수 있다.
또는, 예측 블록은 2x2, 4x4, 8x8, 16x16, 32x32 또는 64x64 등의 크기를 갖는 정사각형의 형태의 블록일 수 있고, 2x8, 4x8, 2x16, 4x16 및 8x16 등의 크기를 갖는 직사각형 모양의 블록일 수도 있다.
인트라 예측은 대상 블록에 대한 인트라 예측 모드에 따라 수행될 수 있다. 대상 블록이 가질 수 있는 인트라 예측 모드의 개수는 기정의된 고정된 값일 수 있으며, 예측 블록의 속성에 따라 다르게 결정된 값일 수 있다. 예를 들면, 예측 블록의 속성은 예측 블록의 크기 및 예측 블록의 타입 등을 포함할 수 있다.
예를 들면, 인트라 예측 모드의 개수는 예측 블록의 크기에 관계없이 35개로 고정될 수 있다. 또는, 예를 들면, 인트라 예측 모드의 개수는 3, 5, 9, 17, 34, 35 또는 36 등일 수 있다.
인트라 예측 모드는 비방향성(non-directional) 모드 또는 방향성(directional) 모드일 수 있다. 예를 들면, 인트라 예측 모드는 도 7에서 도시된 것과 같이 2개의 비방향성 모드들 및 33개의 방향성 모드들을 포함할 수 있다.
2개의 비방향성 모드들은 디씨(DC) 모드 및 플래너(Planar) 모드를 포함할 수 있다.
방향성 모드들은 특정한 방향 또는 특정한 각도를 갖는 예측 모드일 수 있다.
인트라 예측 모드는 모드 번호, 모드 값 및 모드 각도 중 적어도 하나로 표현될 수 있다. 인트라 예측 모드의 개수는 M 개일 수 있다. M은 1 이상일 수 있다. 말하자면, 인트라 예측 모드는 비방향성 모드의 개수 및 방향성 모드의 개수를 포함하는 M 개일 수 있다.
인트라 예측 모드의 개수는 블록의 크기 및/또는 색 성분(color component)에 관계없이 M 개로 고정될 수 있다. 예를 들면, 인트라 예측 모드의 개수는, 블록의 크기와 무관하게, 35 또는 67 중 하나로 고정될 수 있다.
또는, 인트라 예측 모드의 개수는 블록의 크기 및/또는 색 성분의 타입에 따라 상이할 수 있다.
예를 들면, 블록의 크기가 커질수록 인트라 예측 모드의 개수는 많아질 수 있다. 또는, 블록의 크기가 커질수록 인트라 예측 모드의 개수는 적어질 수 있다. 블록의 크기가 4x4 또는 8x8인 경우에는 인트라 예측 모드의 개수는 67일 수 있다. 블록의 크기가 16x16인 경우에는 인트라 예측 모드의 개수는 35일 수 있다. 블록의 크기가 32x32인 경우에는 인트라 예측 모드의 개수는 19일 수 있다. 블록의 크기가 64x64인 경우에는 인트라 예측 모드의 개수는 7일 수 있다.
예를 들면, 색 성분이 루마(luma) 신호인지 아니면 크로마(chroma) 신호인지에 따라 인트라 예측 모드의 개수가 다를 수 있다. 또는 루마 성분 블록의 인트라 예측 모드의 개수는 크로마 성분 블록의 인트라 예측 모드의 개수보다 많을 수 있다.
예를 들면, 모드 값이 26인 수직 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수직 방향으로 예측이 수행될 수 있다. 예를 들면, 모드 값이 10인 수평 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수평 방향으로 예측이 수행될 수 있다.
전술된 모드 이외의 방향성 모드인 경우에도 부호화 장치(100) 및 복호화 장치(200)는 방향성 모드에 대응하는 각도에 따라 참조 샘플을 이용하여 대상 유닛에 대한 인트라 예측을 수행할 수 있다.
수직 모드의 우측에 위치한 인트라 예측 모드는 수직 우측 모드(vertical-right mode)로 명명될 수 있다. 수평 모드의 하단에 위치한 인트라 예측 모드는 수형 하단 모드(horizontal-below mode)로 명명될 수 있다. 예를 들면, 도 7에서, 모드 값이 27, 28, 29, 30, 31, 32, 33 및 34 중 하나인 인트라 예측 모드들은 수직 우측 모드들(613)일 수 있다. 모드 값이 2, 3, 4, 5, 6, 7, 8 및 9 중 하나인 인트라 예측 모드들은 수평 하단 모드들(616)일 수 있다.
비방향성 모드는 디씨(DC) 모드 및 플래너(planar) 모드를 포함할 수 있다. 예를 들면, 디씨 모드의 모드 값은 1일 수 있다. 플래너 모드의 모드 값은 0일 수 있다.
방향성 모드는 각진(angular) 모드를 포함할 수 있다. 복수의 인트라 예측 모드들 중 DC 모드 및 플래너 모드를 제외한 나머지의 모드는 방향성 모드일 수 있다.
인트라 예측 모드가 DC 모드인 경우, 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 예측 블록이 생성될 수 있다. 예를 들면, 예측 블록의 픽셀의 값은 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 결정될 수 있다.
전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 단지 예시적인 것일 수 있다. 전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 실시예, 구현 및/또는 필요에 따라 다르게 정의될 수도 있다.
대상 블록에 대한 인트라 예측을 수행하기 위해 복원된 주변 블록에 포함되는 샘플들이 대상 블록의 참조 샘플로서 이용될 수 있는지 여부를 검사하는 단계가 수행될 수 있다. 주변 블록의 샘플들 중 대상 블록의 참조 샘플로 이용할 수 없는 샘플이 존재하는 경우, 복원된 주변 블록에 포함된 샘플들 중 적어도 하나의 샘플 값을 사용하는 복사 및/또는 보간에 의해 생성된 값이 참조 샘플로 이용할 수 없는 샘플의 샘플 값으로 대체될 수 있다. 복사 및/또는 보간에 의해 생성된 값이 샘플의 샘플 값으로 대체되면, 샘플이 대상 블록의 참조 샘플로서 이용될 수 있다.
인트라 예측 시, 인트라 예측 모드 및 대상 블록의 크기 중 적어도 하나에 기반하여 참조 샘플 또는 예측 샘플 중 적어도 하나에 필터가 적용될 수 있다.
참조 샘플 또는 예측 샘플 중 적어도 하나에 적용되는 필터의 종류는 대상 블록의 인트라 예측 모드, 대상 블록의 크기 및 대상 블록의 형태 중 적어도 하나에 따라서 다를 수 있다. 필터의 종류는 필터 탭의 개수, 필터 계수의 값 및 필터 강도 중 하나 이상에 따라서 분류될 수 있다.
인트라 예측 모드가 플래너 모드인 경우, 대상 블록의 예측 블록을 생성함에 있어서, 예측 대상 샘플의 예측 블록 내 위치에 따라, 대상 샘플의 상단 참조 샘플, 대상 샘플의 좌측 참조 샘플, 대상 블록의 우상단 참조 샘플 및 대상 블록의 좌하단 참조 샘플의 가중치가 부여된 합(weight-sum)을 이용하여 예측 대상 샘플의 샘플 값이 생성될 수 있다.
인트라 예측 모드가 DC 모드인 경우, 대상 블록의 예측 블록을 생성함에 있어서, 대상 블록의 상단 참조 샘플들 및 좌측 참조 샘플들의 평균 값이 이용될 수 있다. 또한, 대상 블록 내의 특정된 행들 또는 특정된 열들에 대해서는 참조 샘플들의 값들을 이용하는 필터링이 수행될 수 있다. 특정된 행들은 참조 샘플과 인접한 하나 이상의 상단 행들일 수 있다. 특정된 열들은 참조 샘플과 인접한 하나 이상의 좌측 열들일 수 있다.
인트라 예측 모드가 방향성 모드인 경우 대상 블록의 상단 참조 샘플, 좌측 참조 샘플, 우상단 참조 샘플 및/또는 좌하단 참조 샘플을 이용하여 예측 블록이 생성될 수 있다.
전술된 예측 샘플을 생성하기 위해 실수 단위의 보간이 수행될 수도 있다.
대상 블록의 인트라 예측 모드는 대상 블록의 주변 블록의 인트라 예측 모드로부터 예측될 수 있으며, 예측을 위해 사용되는 정보가 엔트로피 부호화/복호화될 수 있다.
예를 들면, 대상 블록 및 주변 블록의 인트라 예측 모드들이 동일하면 기정의된 플래그를 이용하여 대상 블록 및 주변 블록의 인트라 예측 모드들이 동일하다는 것이 시그널링될 수 있다.
예를 들면, 복수의 주변 블록들의 인트라 예측 모드들 중 대상 블록의 인트라 예측 모드와 동일한 인트라 예측 모드를 가리키는 지시자가 시그널링될 수 있다.
대상 블록 및 주변 블록의 인트라 예측 모드들이 서로 다르면, 엔트로피 부호화 및/또는 복호화를 사용하여 대상 블록의 인트라 예측 모드의 정보가 부호화 및/또는 복호화될 수 있다.
도 8은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 8은 대상 블록의 인트라 예측을 위해 사용되는 참조 샘플의 위치를 도시한다. 도 8을 참조하면, 대상 블록의 인트라 예측에 사용되는 재구축된 참조 샘플은 하단 좌측(below-left) 참조 샘플들(831), 좌측(left) 참조 샘플들(833), 상단 좌측(above-left) 코너 참조 샘플(835), 상단(above) 참조 샘플들(837) 및 상단 우측(above-right) 참조 샘플들(839) 등을 포함할 수 있다.
예를 들면, 좌측 참조 샘플들(833)은 대상 블록의 좌측에 인접한 재구축된 참조 픽셀을 의미할 수 있다. 상단 참조 샘플들(837)은 대상 블록의 상단에 인접한 재구축된 참조 픽셀을 의미할 수 있다. 상단 좌측 코너 참조 샘플(835)은 대상 블록의 상단 좌측 코너에 위치한 재구축된 참조 픽셀을 의미할 수 있다. 또한, 하단 좌측 참조 샘플들(831)은 좌측 참조 샘플들(833)로 구성된 좌측 샘플 라인과 동일 선상에 위치한 샘플들 중에서 좌측 샘플 라인의 하단에 위치한 참조 샘플을 의미할 수 있다. 상단 우측 참조 샘플들(839)은 상단 참조 샘플들(837)로 구성된 상단 샘플 라인과 동일 선상에 위치한 샘플들 중에서 상단 픽셀 라인의 우측에 위치한 참조 샘플들을 의미할 수 있다.
대상 블록의 크기가 NxN일 때, 하단 좌측 참조 샘플들(831), 좌측 참조 샘플들(833), 상단 참조 샘플들(837) 및 상단 우측 참조 샘플들(839)은 각각 N개일 수 있다.
대상 블록에 대한 인트라 예측을 통해 예측 블록이 생성될 수 있다. 예측 블록의 생성은 예측 블록의 픽셀들의 값이 결정되는 것을 포함할 수 있다. 대상 블록 및 예측 블록의 크기는 동일할 수 있다.
대상 블록의 인트라 예측에 사용되는 참조 샘플은 대상 블록의 인트라 예측 모드에 따라 달라질 수 있다. 인트라 예측 모드의 방향은 참조 샘플들 및 예측 블록의 픽셀들 간의 의존 관계를 나타낼 수 있다. 예를 들면, 특정된 참조 샘플의 값이 예측 블록의 특정된 하나 이상의 픽셀들의 값으로서 사용될 수 있다. 이 경우, 특정된 참조 샘플 및 예측 블록의 특정된 하나 이상의 픽셀들은 인트라 예측 모드의 방향의 직선으로 지정되는 샘플 및 픽셀들일 수 있다. 말하자면, 특정된 참조 샘플의 값은 인트라 예측 모드의 방향의 역방향에 위치한 픽셀의 값으로 복사될 수 있다. 또는, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 인트라 예측 모드의 방향에 위치한 참조 샘플의 값일 수 있다.
예를 들면, 대상 블록의 인트라 예측 모드가 모드 값이 26인 수직 모드인 경우, 상단 참조 샘플들(837)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수직 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 수직으로 위에 위치한 참조 샘플의 값일 수 있다. 따라서, 대상 블록에 상단으로 인접한 상단 참조 샘플들(837)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 행의 픽셀들의 값들은 상단 참조 샘플들(837)의 값들과 동일할 수 있다.
예를 들면, 대상 블록의 인트라 예측 모드가 모드 값이 10인 수평 모드인 경우, 좌측 참조 샘플들(833)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수평 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 수평으로 좌측에 위치한 참조 샘플의 값일 수 있다. 따라서, 대상 블록에 좌측으로 인접한 좌측 참조 샘플들(833)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 열의 픽셀들의 값들은 좌측 참조 샘플들(833)의 값들과 동일할 수 있다.
예를 들면, 대상 블록의 인트라 예측 모드의 모드 값이 18인 경우 좌측 참조 샘플들(833)의 적어도 일부, 상단 좌측 코너 참조 샘플(835) 및 상단 참조 샘플들(837)의 적어도 일부 인트라 예측에 사용될 수 있다. 인트라 예측 모드의 모드 값이 18인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 대각선으로 상단 좌측에 위치한 참조 샘플의 값일 수 있다.
또한, 모드 값이 27, 28, 29, 30, 31, 32, 33 또는 34인 인트라 예측 모드가 사용되는 경우에는 상단 우측 참조 샘플들(839) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 2, 3, 4, 5, 6, 7, 8 또는 9인 인트라 예측 모드가 사용되는 경우에는 하단 좌측 참조 샘플들(831) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 11 내지 25 중 하나인 인트라 예측 모드가 사용되는 경우에는 상단 좌측 코너 참조 샘플(835)이 인트라 예측에 사용될 수 있다.
예측 블록의 하나의 픽셀의 픽셀 값을 결정하기 위해 사용되는 참조 샘플은 1개일 수 있고, 2개 이상일 수도 있다.
전술된 것과 같이 예측 블록의 픽셀의 픽셀 값은 상기의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치에 따라 결정될 수 있다. 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치인 경우, 정수 위치가 가리키는 하나의 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다.
픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치가 아닌 경우, 참조 샘플의 위치에 가장 가까운 2개의 참조 샘플들에 기반하여 보간된(interpolated) 참조 샘플이 생성될 수 있다. 보간된 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다. 말하자면, 예측 블록의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 2개의 참조 샘플들 간의 사이를 나타낼 때, 상기의 2개의 샘플들의 값들에 기반하여 보간된 값이 생성될 수 있다.
예측에 의해 생성된 예측 블록은 원래의 대상 블록과는 동일하지 않을 수 있다. 말하자면, 대상 블록 및 예측 블록 간의 차이(difference)인 예측 오차(prediction error)가 존재할 수 있으며, 대상 블록의 픽셀 및 예측 블록의 픽셀 간에도 예측 오차가 존재할 수 있다.
이하에서, 용어들 "차이(difference)", "오차(error)" 및 "잔차(residual)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
예를 들면, 방향성 인트라 예측의 경우, 예측 블록의 픽셀 및 참조 샘플 간의 거리가 더 멀수록 더 큰 예측 오차가 발생할 수 있다. 이러한 예측 오차에 등 의해 생성된 예측 블록 및 주변 블록 간에는 불연속성이 발생할 수 있다.
예측 오차의 감소를 위해 예측 블록에 대한 필터링이 사용될 수 있다. 필터링은 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역에 대해 적응적으로 필터를 적용하는 것일 수 있다. 예를 들면, 큰 예측 오차를 갖는 것으로 간주되는 영역은 예측 블록의 경계일 수 있다. 또한, 인트라 예측 모드에 따라서 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역이 다를 수 있으며, 필터의 특징이 다를 수 있다.
도 9는 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 9에서 도시된 사각형은 영상(또는, 픽처)를 나타낼 수 있다. 또한, 도 9에서 화살표는 예측 방향을 나타낼 수 있다. 즉, 영상은 예측 방향에 따라 부호화 및/또는 복호화될 수 있다.
각 영상은 부호화 타입에 따라 I 픽처(Intra Picture), P 픽처(Uni-prediction Picture) 및 B 픽처(Bi-prediction Picture)로 분류될 수 있다. 각 픽처는 각 픽처의 부호화 타입에 따라 부호화 및/또는 복호화될 수 있다.
부호화의 대상인 대상 영상이 I 픽처인 경우, 대상 영상은 다른 영상을 참조하는 인터 예측 없이 영상 자체 내의 데이터를 사용하여 부호화될 수 있다. 예를 들면, I 픽처는 인트라 예측으로만 부호화될 수 있다.
대상 영상이 P 픽처인 경우, 대상 영상은 단방향에 존재하는 참조 픽처만을 이용하는 인터 예측을 통해 부호화될 수 있다. 여기에서, 단방향은 순방향 또는 역방향일 수 있다.
대상 영상이 B 픽처인 경우, 대상 영상은 양방향에 존재하는 참조 픽처들을 이용하는 인터 예측 또는 순방향 및 역방향 중 일 방향에 존재하는 참조 픽처를 이용하는 인터 예측을 통해 부호화될 수 있다. 여기에서, 양방향은 순방향 및 역방향일 수 있다.
참조 픽처를 이용하여 부호화 및/또는 복호화되는 P 픽처 및 B 픽처는 인터 예측이 사용되는 영상으로 간주될 수 있다.
아래에서, 실시예에 따른 인터 모드에서의 인터 예측에 대해 구체적으로 설명된다.
인터 예측은 움직임 정보를 이용하여 수행될 수 있다.
인터 모드에서, 부호화 장치(100)는 대상 블록에 대한 인터 예측 및/또는 움직임 보상을 수행할 수 있다. 복호화 장치(200)는 대상 블록에 대하여 부호화 장치(100)에서의 인터 예측 및/또는 움직임 보상에 대응하는 인터 예측 및/또는 움직임 보상을 수행할 수 있다.
대상 블록에 대한 움직임 정보는 부호화 장치(100) 및 복호화 장치(200)의 각각에 의해 인터 예측 중 도출될 수 있다. 움직임 정보는 복원된 주변 블록의 움직임 정보, 콜 블록의 움직임 정보 및/또는 콜 블록에 인접한 블록의 움직임 정보를 이용하여 도출될 수 있다.
예를 들면, 부호화 장치(100) 또는 복호화 장치(200)는 공간적 후보(spatial candidate) 및/또는 시간적 후보(temporal candidate)의 움직임 정보를 대상 블록의 움직임 정보로 사용함으로써 예측 및/또는 움직임 보상을 수행할 수 있다. 대상 블록은 PU 및/또는 PU 파티션을 의미할 수 있다.
공간적 후보는 대상 블록에 공간적으로 인접한 재구축된 블록일 수 있다.
시간적 후보는 이미 재구축된 콜 픽처(collocated picture; col picture) 내의 대상 블록에 대응하는 재구축된 블록일 수 있다.
인터 예측에 있어서, 부호화 장치(100) 및 복호화 장치(200)는 공간적 후보 및/또는 시간적 후보의 움직임 정보를 이용함으로써 부호화 효율 및 복호화 효율을 향상시킬 수 있다. 공간적 후보의 움직임 정보는 공간적 움직임 정보로 칭해질 수 있다. 시간적 후보의 움직임 정보는 시간적 움직임 정보로 칭해질 수 있다.
이하에서, 공간적 후보의 움직임 정보는, 공간적 후보를 포함하는 PU의 움직임 정보일 수 있다. 시간적 후보의 움직임 정보는, 시간적 후보를 포함하는 PU의 움직임 정보일 수 있다. 후보 블록의 움직임 정보는, 후보 블록을 포함하는 PU의 움직임 정보일 수 있다.
인터 예측은 참조 픽처를 이용하여 수행될 수 있다.
참조 픽처(reference picture)는 대상 픽처의 이전 픽처 또는 대상 픽처의 이후 픽처 중 적어도 하나일 수 있다. 참조 픽처는 대상 블록의 예측에 이용되는 영상을 의미할 수 있다.
인터 예측에 있어서, 참조 픽처를 지시하는 참조 픽처 인덱스(또는, refIdx) 및 후술될 움직임 벡터(motion vector) 등을 이용함으로써 참조 픽처 내의 영역이 특정될 수 있다. 여기에서, 참조 픽처 내의 특정된 영역은 참조 블록을 나타낼 수 있다.
인터 예측은 참조 픽처를 선택할 수 있고, 참조 픽처 내에서 대상 블록에 대응하는 참조 블록을 선택할 수 있다. 또한, 인터 예측은 선택된 참조 블록을 사용하여 대상 블록에 대한 예측 블록을 생성할 수 있다.
움직임 정보는 부호화 장치(100) 및 복호화 장치(200)의 각각에 의해 인터 예측 중 도출될 수 있다.
공간적 후보는, 1) 대상 픽처 내의 존재하며, 2) 이미 부호화 및/또는 복호화를 통해 재구축되었고, 3) 대상 블록에 인접하거나, 대상 블록의 코너에 위치한 블록일 수 있다. 여기에서, 대상 블록의 코너에 위치한 블록이란, 대상 블록에 가로로 인접한 이웃 블록에 세로로 인접한 블록 또는 대상 블록에 세로로 인접한 이웃 블록에 가로로 인접한 블록일 수 있다. "대상 블록의 코너에 위치한 블록"은 "대상 블록의 코너에 인접한 블록"과 동일한 의미일 수 있다. "대상 블록의 코너에 위치한 블록"은 "대상 블록에 인접한 블록"에 포함될 수 있다.
예를 들면, 공간적 후보는 대상 블록의 좌측에 위치한 재구축된 블록, 대상 블록의 상단에 위치한 재구축된 블록, 대상 블록의 좌측 하단 코너에 위치한 재구축된 블록, 대상 블록의 우측 상단 코너에 위치한 재구축된 블록 또는 대상 블록의 좌측 상단 코너에 위치한 재구축된 블록일 수 있다.
부호화 장치(100) 및 복호화 장치(200)의 각각은 콜(col) 픽처 내에서 대상 블록에 공간적으로 대응하는 위치에 존재하는 블록을 식별할 수 있다. 대상 픽처 내의 대상 블록의 위치 및 콜 픽처 내의 식별된 블록의 위치는 서로 대응할 수 있다.
부호화 장치(100) 및 복호화 장치(200)의 각각은 식별된 블록에 대하여 기정의된 상대적인 위치에 존재하는 콜(col) 블록을 시간적 후보로서 결정할 수 있다. 기정의된 상대적인 위치는 식별된 블록의 내부의 위치 및/또는 외부의 위치일 수 있다.
예를 들면, 콜 블록은 제1 콜 블록 및 제2 콜 블록을 포함할 수 있다. 식별된 블록의 좌표들이 (xP, yP)이고, 식별된 블록의 크기가 (nPSW, nPSH)일 때, 제1 콜 블록은 좌표들 (xP + nPSW, yP + nPSH)에 위치한 블록일 수 있다. 제2 콜 블록은 좌표들 (xP + (nPSW >> 1), yP + (nPSH >> 1))에 위치한 블록일 수 있다. 제2 콜 블록은 제1 콜 블록이 가용하지 않을(unavailable) 경우 선택적으로 사용될 수 있다.
대상 블록의 움직임 벡터는 콜 블록의 움직임 벡터에 기반하여 결정될 수 있다. 부호화 장치(100) 및 복호화 장치(200)의 각각은 콜 블록의 움직임 벡터를 스케일(scale)할 수 있다. 콜 블록의 스케일된(scale) 움직임 벡터가 대상 블록의 움직임 벡터로서 이용될 수 있다. 또한, 리스트에 저장되는 시간적 후보의 움직임 정보의 움직임 벡터는 스케일된 움직임 벡터일 수 있다.
대상 블록의 움직임 벡터 및 콜 블록의 움직임 벡터의 비율(ratio)은 제1 시간적 거리 및 제2 시간적 거리의 비율과 같을 수 있다. 제1 시간적 거리는 대상 블록의 참조 픽처 및 대상 픽처 간의 거리일 수 있다. 제2 시간적 거리는 콜 블록의 참조 픽처 및 콜 픽처 간의 거리일 수 있다.
움직임 정보의 도출 방식은 대상 블록의 인터 예측 모드에 따라 변할 수 있다. 예를 들면, 인터 예측을 위해 적용되는 인터 예측 모드로서, 향상된 움직임 벡터 예측자(Advanced Motion Vector Predictor; AMVP) 모드, 머지(merge) 모드 및 스킵(skip) 모드 및 현재 픽처 참조 모드 등이 있을 수 있다. 머지 모드는 움직임 머지 모드(motion merge mode)로 칭해질 수도 있다. 아래에서는, 모드들의 각각에 대해서 상세하게 설명된다.
1) AMVP 모드
AMVP 모드가 사용되는 경우, 부호화 장치(100)는 대상 블록의 주변에서 유사한 블록을 검색할 수 있다. 부호화 장치(100)는 검색된 유사한 블록의 움직임 정보를 이용하여 대상 블록에 대한 예측을 수행함으로써 예측 블록을 획득할 수 있다. 부호화 장치(100)는 대상 블록 및 예측 블록 간의 차이인 잔차 블록을 부호화할 수 있다.
1-1) 예측 움직임 벡터 후보 리스트의 작성
예측 모드로서 AMVP 모드가 사용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 공간적 후보의 움직임 벡터, 시간적 후보의 움직임 벡터 및 제로 벡터를 이용하여 예측 움직임 벡터 후보 리스트를 생성할 수 있다. 예측 움직임 벡터 후보 리스트는 하나 이상의 예측 움직임 벡터 후보들을 포함할 수 있다. 공간적 후보의 움직임 벡터, 시간적 후보의 움직임 벡터 및 제로 벡터 중 적어도 하나가 예측 움직임 벡터 후보로서 결정 및 사용될 수 있다.
이하에서, 용어들 "예측 움직임 벡터 (후보)" 및 "움직임 벡터 (후보)"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 용어들 "예측 움직임 벡터 후보" 및 "AMVP 후보"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 용어들 "예측 움직임 벡터 후보 리스트" 및 "AMVP 후보 리스트"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
공간적 후보는 복원된 공간적 주변 블록을 포함할 수 있다. 말하자면, 복원된 주변 블록의 움직임 벡터는 공간적 예측 움직임 벡터 후보(spatial prediction motion vector candidate)라 칭해질 수 있다.
시간적 후보는 콜 블록 및 콜 블록에 인접한 블록을 포함할 수 있다. 말하자면, 콜 블록의 움직임 벡터 또는 콜 블록에 인접한 블록의 움직임 벡터는 시간적 예측 움직임 벡터 후보(temporal prediction motion vector candidate)로 칭해질 수 있다.
제로 벡터는 (0, 0) 움직임 벡터일 수 있다.
예측 움직임 벡터 후보는 움직임 벡터의 예측을 위한 움직임 벡터 예측자(motion vector predictor)일 수 있다. 또한, 부호화 장치(100)에 있어서 예측 움직임 벡터 후보는 움직임 벡터 초기 검색 위치일 수 있다.
1-2) 예측 움직임 벡터 후보 리스트를 사용하는 움직임 벡터의 검색
부호화 장치(100)는 예측 움직임 벡터 후보 리스트를 사용하여 검색 범위 내에서 대상 블록의 부호화를 위해 사용될 움직임 벡터를 결정할 수 있다. 또한, 부호화 장치(100)는 예측 움직임 벡터 후보 리스트의 예측 움직임 벡터 후보들 중 대상 블록의 예측 움직임 벡터로 사용할 예측 움직임 벡터 후보를 결정할 수 있다.
대상 블록의 부호화를 위해 사용될 움직임 벡터는 최소의 비용으로 부호화될 수 있는 움직임 벡터일 수 있다.
또한, 부호화 장치(100)는 대상 블록의 부호화에 있어서 AMVP 모드를 사용할지 여부를 결정할 수 있다.
1-3) 인터 예측 정보의 전송
부호화 장치(100)는 인터 예측을 위해 요구되는 인터 예측 정보를 포함하는 비트스트림을 생성할 수 있다. 복호화 장치(200)는 비트스트림의 인터 예측 정보를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
인터 예측 정보는, 1) AMVP 모드를 사용하는지 여부를 나타내는 모드 정보, 2) 예측 움직임 벡터 인덱스, 3) 움직임 벡터 차분(MVD: Motion Vector Difference), 4) 참조 방향 및 5) 참조 픽처 인덱스를 포함할 수 있다.
이하에서, 용어들 "예측 움직임 벡터 인덱스" 및 "AMVP 인덱스"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
또한, 인터 예측 정보는 잔차 신호를 포함할 수 있다.
복호화 장치(200)는 모드 정보가 AMVP 모드를 사용하는 것을 나타낼 경우 엔트로피 복호화를 통해 예측 움직임 벡터 인덱스, 움직임 벡터 차분, 참조 방향 및 참조 픽처 인덱스를 비트스트림으로부터 획득할 수 있다.
예측 움직임 벡터 인덱스는 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보들 중에서 대상 블록의 예측을 위해 사용되는 예측 움직임 벡터 후보를 가리킬 수 있다.
1-4) 인터 예측 정보를 사용하는 AMVP 모드의 인터 예측
복호화 장치(200)는 예측 움직임 벡터 후보 리스트를 이용하여 예측 움직임 벡터 후보를 유도할 수 있고, 유도된 예측 움직임 벡터 후보에 기반하여 대상 블록의 움직임 정보를 결정할 수 있다.
복호화 장치(200)는 예측 움직임 벡터 인덱스를 사용하여 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보 중에서 대상 블록에 대한 움직임 벡터 후보를 결정할 수 있다. 복호화 장치(200)는 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보들 중에서 예측 움직임 벡터 인덱스가 가리키는 예측 움직임 벡터 후보를 대상 블록의 예측 움직임 벡터로서 선택할 수 있다.
대상 블록의 인터 예측을 위해 실제로 사용될 움직임 벡터는 예측 움직임 벡터와 일치하지 않을 수 있다. 대상 블록의 인터 예측을 위해 실제로 사용될 움직임 벡터는 및 예측 움직임 벡터 간의 차분을 나타내기 위해 MVD가 사용될 수 있다. 부호화 장치(100)는 가능한 작은 크기의 MVD를 사용하기 위해 대상 블록의 인터 예측을 위해 실제로 사용될 움직임 벡터와 유사한 예측 움직임 벡터를 도출할 수 있다.
MVD는 대상 블록의 움직임 벡터 및 예측 움직임 벡터 간의 차분일 수 있다. 부호화 장치(100)는 MVD를 계산할 수 있고, MVD를 엔트로피 부호화할 수 있다.
MVD는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 복호화 장치(200)는 수신된 MVD를 복호화할 수 있다. 복호화 장치(200)는 복호화된 MVD 및 예측 움직임 벡터를 합함으로써 대상 블록의 움직임 벡터를 유도(derive)할 수 있다. 말하자면, 복호화 장치(200)에서 도출되는 대상 블록의 움직임 벡터는 엔트로피 복호화된 MVD 및 움직임 벡터 후보의 합일 수 있다.
참조 방향은 대상 블록의 예측을 위해 사용되는 참조 픽처 리스트를 가리킬 수 있다. 예를 들면, 참조 방향은 참조 픽처 리스트 L0 및 참조 픽처 리스트 L1 중 하나를 가리킬 수 있다.
참조 방향은 대상 블록의 예측을 위해 사용되는 참조 픽처 리스트를 가리킬 뿐, 참조 픽처들의 방향들이 순방향(forward direction) 또는 역방향(backward direction)으로 제한된다는 것을 나타내는 것을 아닐 수 있다. 말하자면, 참조 픽처 리스트 L0 및 참조 픽처 리스트 L1의 각각은 순방향 및/또는 역방향의 픽처들을 포함할 수 있다.
참조 방향이 단방향(uni-direction)이란 것은 하나의 참조 픽처 리스트가 사용된다는 것을 의미할 수 있다. 참조 방향이 양방향(bi-direction)이란 것은 2 개의 참조 픽처 리스트들이 사용된다는 것을 의미할 수 있다. 말하자면, 참조 방향은, 참조 픽처 리스트 L0만이 사용된다는 것, 참조 픽처 리스트 L1만이 사용된다는 것 및 2 개의 참조 픽처 리스트들 것 중 하나를 가리킬 수 있다.
참조 픽처 인덱스는 참조 픽처 리스트의 참조 픽처들 중 대상 블록의 예측을 위해 사용되는 참조 픽처를 가리킬 수 있다. 참조 픽처 인덱스는 부호화 장치(100)에 의해 엔트로피 부호화될 수 있다. 엔트로피 부호화된 참조 픽처 인덱스는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다.
대상 블록의 예측을 위해 2 개의 참조 픽처 리스트가 사용될 경우. 각 참조 픽처 리스트에 대해 하나의 참조 픽처 인덱스 및 하나의 움직임 벡터가 사용될 수 있다. 또한, 대상 블록의 예측을 위해 2 개의 참조 픽처 리스트가 사용될 경우, 대상 블록에 대해 2 개의 예측 블록들이 특정될 수 있다. 예를 들면, 대상 블록에 대한 2 개의 예측 블록들의 평균 또는 가중치가 부여된 합(weighed-sum)을 통해 대상 블록의 (최종적인) 예측 블록이 생성될 수 있다.
예측 움직임 벡터 인덱스, MVD, 참조 방향 및 참조 픽처 인덱스에 의해 대상 블록의 움직임 벡터가 유도될 수 있다.
복호화 장치(200)는 유도된 움직임 벡터 및 참조 픽처 인덱스에 기반하여 대상 블록에 대한 예측 블록을 생성할 수 있다. 예를 들면, 예측 블록은 참조 픽처 인덱스가 가리키는 참조 픽처 내의 유도된 움직임 벡터가 가리키는 참조 블록일 수 있다.
대상 블록의 움직임 벡터 자체를 부호화하지 않고, 예측 움직임 벡터 인덱스 및 MVD를 부호화함에 따라 부호화 장치(100)로부터 복호화 장치(200)로 전송되는 비트량이 감소될 수 있고, 부호화 효율이 향상될 수 있다.
대상 블록에 대해서 재구축된 주변 블록의 움직임 정보가 사용될 수 있다. 특정한 인터 예측 모드에서는, 부호화 장치(100)가 대상 블록에 대한 움직임 정보 자체는 별도로 부호화하지 않을 수도 있다. 대상 블록의 움직임 정보가 부호화되지 않고, 재구축된 주변 블록의 움직임 정보를 통해 대상 블록의 움직임 정보를 유도할 수 있는 다른 정보가 대신 부호화될 수 있다. 다른 정보가 대신 부호화됨에 따라, 복호화 장치(200)로 전송되는 비트량이 감소될 수 있고, 부호화 효율이 향상될 수 있다.
예를 들면, 이러한 대상 블록의 움직임 정보가 직접적으로 부호화되지 않는 인터 예측 모드로서, 스킵 모드(skip mode) 및/또는 머지 모드(merge mode) 등이 있을 수 있다. 이때, 부호화 장치(100) 및 복호화 장치(200)는 재구축된 주변 유닛들 중 어떤 유닛의 움직임 정보가 대상 유닛의 움직임 정보로서 사용되는지를 지시하는 식별자 및/또는 인덱스를 사용할 수 있다.
2) 머지 모드
대상 블록의 움직임 정보를 도출하는 방식으로서, 머지(merge)가 있다. 머지는 복수의 블록들에 대한 움직임들의 병합을 의미할 수 있다. 머지는 하나의 블록의 움직임 정보를 다른 블록에도 함께 적용시키는 것을 의미할 수 있다. 말하자면, 머지 모드는 대상 블록의 움직임 정보가 주변 블록의 움직임 정보로부터 유도되는 모드를 의미할 수 있다.
머지 모드가 사용되는 경우, 부호화 장치(100)는 공간적 후보의 움직임 정보 및/또는 시간적 후보의 움직임 정보를 이용하여 대상 블록의 움직임 정보에 대한 예측을 수행할 수 있다. 공간적 후보는 대상 블록에 공간적으로 인접한 복원된 공간적 주변 블록을 포함할 수 있다. 공간적 주변 블록은 좌측 인접 블록 및 상단 인접 블록을 포함할 수 있다. 시간적 후보는 콜 블록을 포함할 수 있다. 용어들 "공간적 후보" 및 "공간적 머지 후보"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다. 용어들 "시간적 후보" 및 "시간적 머지 후보"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
부호화 장치(100)는 예측을 통해 예측 블록을 획득할 수 있다. 부호화 장치(100)는 대상 블록 및 예측 블록의 차이인 잔차 블록을 부호화할 수 있다.
2-1) 머지 후보 리스트(merge candidate list)의 작성
머지 모드가 사용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 공간적 후보의 움직임 정보 및/또는 시간적 후보의 움직임 정보를 이용하여 머지 후보 리스트를 생성할 수 있다. 움직임 정보는 1) 움직임 벡터, 2) 참조 픽처 인덱스, 및 3) 참조 방향을 포함할 수 있다. 참조 방향은 단방향 또는 양방향일 수 있다.
머지 후보 리스트는 머지 후보들을 포함할 수 있다. 머지 후보는 움직임 정보일 수 있다. 말하자면, 머지 후보 리스트는 움직임 정보들이 저장된 리스트일 수 있다.
머지 후보들은 시간적 후보 및/또는 공간적 후보 등의 움직임 정보들일 수 있다. 또한, 머지 후보 리스트는 머지 후보 리스트에 이미 존재하는 머지 후보들의 조합에 의해 생성된 새로운 머지 후보를 포함할 수 있다. 말하자면, 머지 후보 리스트는 머지 후보 리스트에 이미 존재하는 움직임 정보들의 조합에 의해 생성된 새로운 움직임 정보를 포함할 수 있다.
머지 후보들은 인터 예측 정보를 유도하는 특정된 모드들일 수 있다. 머지 후보는 인터 예측 정보를 유도하는 특정된 모드를 가리키는 정보일 수 있다. 머지 후보가 가리키는 특정된 모드에 따라 대상 블록의 인터 예측 정보가 유도될 수 있다. 이 때, 특정된 모드는 일련의 인터 예측 정보를 유도하는 과정을 포함할 수 있다. 이러한 특정된 모드는 인터 예측 정보 유킵 도 모드 또는 움직임 정보 유도 모드일 수 있다.
머지 후보 리스트 내의 머지 후보들 중 머지 인덱스에 의해 선택된 머지 후보가 가리키는 모드에 따라서 대상 블록의 인터 예측 정보가 유도될 수 있다.
예를 들면, 머지 후보 리스트 내의 움직임 정보 유도 모드들은, 1) 서브 블록 단위의 움직임 정보 유도 모드 및 2) 어파인 움직임 정보 유도 모드 중 적어도 하나일 수 있다.
또한, 머지 후보 리스트는 제로 벡터의 움직임 정보를 포함할 수 있다. 제로 벡터는 제로 머지 후보로 칭해질 수도 있다.
말하자면, 머지 후보 리스트 내의 움직임 정보들은, 1) 공간적 후보의 움직임 정보, 2) 시간적 후보의 움직임 정보, 3) 이미 머지 후보 리스트에 존재하는 움직임 정보들의 조합에 의해 생성된 움직임 정보, 4) 제로 벡터 중 적어도 하나일 수 있다.
움직임 정보는 1) 움직임 벡터, 2) 참조 픽처 인덱스 및 3) 참조 방향을 포함할 수 있다. 참조 방향은 인터 예측 지시자로 칭해질 수도 있다. 참조 방향은 단방향 또는 양방향일 수 있다. 단방향의 참조 방향은 L0 예측 또는 L1 예측을 나타낼 수 있다.
머지 후보 리스트는 머지 모드에 의한 예측이 수행되기 전에 생성될 수 있다.
머지 후보 리스트의 머지 후보들의 개수는 기정의될 수 있다. 머지 후보 리스트가 기정의된 개수의 머지 후보들을 갖도록 부호화 장치(100) 및 복호화 장치(200)는 기정의된 방식 및 기정의된 순위에 따라서 머지 후보 리스트에 머지 후보를 추가할 수 있다. 기정의된 방식 및 기정의된 순위를 통해 부호화 장치(100)의 머지 후보 리스트 및 복호화 장치(200)의 머지 후보 리스트는 동일하게 될 수 있다.
머지는 CU 단위 또는 PU 단위로 적용될 수 있다. CU 단위 또는 PU 단위로 머지가 수행되는 경우, 부호화 장치(100)는 기정의된 정보를 포함하는 비트스트림을 복호화 장치(200)로 전송할 수 있다. 예를 들면, 기정의된 정보는, 1) 블록 파티션(partition) 별로 머지를 수행할지 여부를 나타내는 정보, 2) 대상 블록에 대하여 공간적 후보 및/또는 시간적 후보인 블록들 중 어떤 블록과 머지를 할 것인가에 대한 정보를 포함할 수 있다.
2-2) 머지 후보 리스트를 사용하는 움직임 벡터의 검색
부호화 장치(100)는 대상 블록의 부호화를 위해 사용될 머지 후보를 결정할 수 있다. 예를 들면, 부호화 장치(100)는 머지 후보 리스트의 머지 후보들을 사용하여 대상 블록에 대한 예측들을 수행하고, 머지 후보들에 대한 잔차 블록들을 생성할 수 있다. 부호화 장치(100)는 예측과 잔차 블록의 부호화에 있어서 최소의 비용을 요구하는 머지 후보를 대상 블록의 부호화를 위해 사용할 수 있다.
또한, 부호화 장치(100)는 대상 블록의 부호화에 있어서 머지 모드를 사용할지 여부를 결정할 수 있다.
2-3) 인터 예측 정보의 전송
부호화 장치(100)는 인터 예측을 위해 요구되는 인터 예측 정보를 포함하는 비트스트림을 생성할 수 있다. 부호화 장치(100)는 인터 예측 정보에 대한 엔트로피 부호화를 수행하여 엔트로피 부호화된 인터 예측 정보를 생성할 수 있고, 엔트로피 부호화된 인터 예측 정보를 포함하는 비트스트림을 복호화 장치(200)로 전송할 수 있다. 비트스트림을 통해, 엔트로피 부호화된 인터 예측 정보가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다.
복호화 장치(200)는 비트스트림의 인터 예측 정보를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
인터 예측 정보는, 1) 머지 모드를 사용하는지 여부를 나타내는 모드 정보 및 2) 머지 인덱스를 포함할 수 있다.
또한, 인터 예측 정보는 잔차 신호를 포함할 수 있다.
복호화 장치(200)는 모드 정보가 머지 모드를 사용하는 것을 나타낼 경우에만 머지 인덱스를 비트스트림으로부터 획득할 수 있다.
모드 정보는 머지 플래그일 수 있다. 모드 정보의 단위는 블록일 수 있다. 블록에 대한 정보는 모드 정보를 포함할 수 있고, 모드 정보는 블록에 대하여 머지 모드가 적용되는지 여부를 나타낼 수 있다.
머지 인덱스는 머지 후보 리스트에 포함된 머지 후보들 중에서 대상 블록의 예측을 위해 사용되는 머지 후보를 가리킬 수 있다. 또는, 머지 인덱스는 대상 블록에 공간적 또는 시간적으로 인접한 주변 블록들 중 어떤 블록과의 머지가 수행되는가를 가리킬 수 있다.
부호화 장치(100)는 머지 후보 리스트에 포함된 머지 후보들 중 가장 높은 부호화 성능을 갖는 머지 후보를 선택할 수 있고, 선택된 머지 후보를 가리키도록 머지 인덱스의 값을 설정할 수 있다.
2-4) 인터 예측 정보를 사용하는 머지 모드의 인터 예측
복호화 장치(200)는 머지 후보 리스트에 포함된 머지 후보들 중에서 머지 인덱스가 가리키는 머지 후보를 사용하여 대상 블록에 대한 예측을 수행할 수 있다.
머지 인덱스가 가리키는 머지 후보의 움직임 벡터, 참조 픽처 인덱스 및 참조 방향에 의해 대상 블록의 움직임 벡터가 특정될 수 있다.
3) 스킵 모드
스킵 모드는 공간적 후보의 움직임 정보 또는 시간적 후보의 움직임 정보를 그대로 대상 블록에 적용하는 모드일 수 있다. 또한, 스킵 모드는 잔차 신호를 사용하지 않는 모드일 수 있다. 말하자면, 스킵 모드가 사용될 때, 재구축된 블록은 예측 블록일 수 있다.
머지 모드 및 스킵 모드의 차이는 잔차 신호의 전송 또는 사용의 여부일 수 있다. 말하자면, 스킵 모드는 잔차 신호가 전송 또는 사용되지 않는다는 점을 제외하고는 머지 모드와 유사할 수 있다.
스킵 모드가 사용되는 경우, 부호화 장치(100)는 공간적 후보 또는 시간적 후보인 블록들 중 어떤 블록의 움직임 정보가 대상 블록의 움직임 정보로서 이용되는 지를 나타내는 정보를 비트스트림을 통해 복호화 장치(200)에 전송할 수 있다. 부호화 장치(100)는 이러한 정보에 대한 엔트로피 부호화를 수행하여 엔트로피 부호화된 정보를 생성할 수 있고, 비트스트림을 통해 엔트로피 부호화된 정보를 복호화 장치(200)로 시그널링할 수 있다.
또한, 스킵 모드가 사용되는 경우 부호화 장치(100)는 MVD와 같은 다른 구문 요소 정보는 복호화 장치(200)에 전송하지 않을 수 있다. 예를 들면, 스킵 모드와 사용되는 경우, 부호화 장치(100)는 MVD, 코드된 블록 플래그 및 변환 계수 레벨 중 적어도 하나에 관한 구문 요소를 복호화 장치(200)에 시그널링하지 않을 수 있다.
3-1) 머지 후보 리스트의 작성
스킵 모드 또한 머지 후보 리스트를 사용할 수 있다. 말하자면, 머지 후보 리스트는 머지 모드 및 스킵 모드의 양자에서 사용될 수 있다. 이러한 측면에서, 머지 후보 리스트는 "스킵 후보 리스트" 또는 "머지/스킵 후보 리스트"로 명명될 수도 있다.
또는, 스킵 모드는 머지 모드와는 다른 별개의 후보 리스트를 사용할 수도 있다. 이러한 경우, 아래의 설명에서 머지 후보 리스트 및 머지 후보는 스킵 후보 리스트 및 스킵 후보로 각각 대체될 수 있다.
머지 후보 리스트는 스킵 모드에 의한 예측이 수행되기 전에 생성될 수 있다.
3-2) 머지 후보 리스트를 사용하는 움직임 벡터의 검색
부호화 장치(100)는 대상 블록의 부호화를 위해 사용될 머지 후보를 결정할 수 있다. 예를 들면, 부호화 장치(100)는 머지 후보 리스트의 머지 후보들을 사용하여 대상 블록에 대한 예측들을 수행할 수 있다. 부호화 장치(100)는 예측에 있어서 최소의 비용을 요구하는 머지 후보를 대상 블록의 부호화를 위해 사용할 수 있다.
또한, 부호화 장치(100)는 대상 블록의 부호화에 있어서 스킵 모드를 사용할지 여부를 결정할 수 있다.
3-3) 인터 예측 정보의 전송
부호화 장치(100)는 인터 예측을 위해 요구되는 인터 예측 정보를 포함하는 비트스트림을 생성할 수 있다. 복호화 장치(200)는 비트스트림의 인터 예측 정보를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
인터 예측 정보는, 1) 스킵 모드를 사용하는지 여부를 나타내는 모드 정보 및 2) 스킵 인덱스를 포함할 수 있다.
스킵 인덱스는 전술된 머지 인덱스와 동일할 수 있다.
스킵 모드가 사용될 경우, 대상 블록은 잔차 신호 없이 부호화될 수 있다. 인터 예측 정보는 잔차 신호를 포함하지 않을 수 있다. 또는, 비트스트림은 잔차 신호를 포함하지 않을 수 있다.
복호화 장치(200)는 모드 정보가 스킵 모드를 사용하는 것을 나타낼 경우에만 스킵 인덱스를 비트스트림으로부터 획득할 수 있다. 전술된 것과 같이, 머지 인덱스 및 스킵 인덱스는 동일한 것일 수 있다. 복호화 장치(200)는 모드 정보가 머지 모드 또는 스킵 모드를 사용하는 것을 나타낼 경우에만 스킵 인덱스를 비트스트림으로부터 획득할 수 있다.
스킵 인덱스는 머지 후보 리스트에 포함된 머지 후보들 중에서 대상 블록의 예측을 위해 사용되는 머지 후보를 가리킬 수 있다.
3-4) 인터 예측 정보를 사용하는 스킵 모드의 인터 예측
복호화 장치(200)는 머지 후보 리스트에 포함된 머지 후보들 중에서 스킵 인덱스가 가리키는 머지 후보를 사용하여 대상 블록에 대한 예측을 수행할 수 있다.
스킵 인덱스가 가리키는 머지 후보의 움직임 벡터, 참조 픽처 인덱스 및 참조 방향에 의해 대상 블록의 움직임 벡터가 특정될 수 있다.
4) 현재 픽처 참조 모드
현재 픽처 참조 모드는 대상 블록이 속한 대상 픽처 내의 기-복원된 영역을 이용하는 예측 모드를 의미할 수 있다.
기-복원된 영역을 특정하기 위한 움직임 벡터가 이용될 수 있다. 대상 블록이 현재 픽처 참조 모드로 부호화되는지 여부는 대상 블록의 참조 픽처 인덱스를 이용하여 판단될 수 있다.
대상 블록이 현재 픽처 참조 모드로 부호화된 블록인지 여부를 나타내는 플래그 혹은 인덱스가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수도 있다. 또는, 대상 블록이 현재 픽처 참조 모드로 부호화된 블록인지 여부는 대상 블록의 참조 픽처 인덱스를 통해 유추될 수도 있다.
대상 블록이 현재 픽처 참조 모드로 부호화된 경우, 대상 픽처는 대상 블록을 위한 참조 픽처 리스트 내에서 고정된 위치 또는 임의의 위치에 존재할 수 있다.
예를 들면, 고정된 위치는 참조 픽처 인덱스의 값이 0인 위치 또는 가장 마지막의 위치일 수 있다.
대상 픽처가 참조 픽처 리스트 내의 임의의 위치에 존재하는 경우, 이러한 임의의 위치를 나타내는 별도의 참조 픽처 인덱스가 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수도 있다.
전술된 AMVP 모드, 머지 모드 및 스킵 모드에서는 리스트에 대한 인덱스를 통해 리스트 내의 움직임 정보들 중 대상 블록의 예측을 위해 사용될 움직임 정보가 특정될 수 있다.
부호화 효율의 향상을 위해서, 부호화 장치(100)는 리스트의 요소들 중 대상 블록의 인터 예측에 있어서 최소의 비용을 유발하는 요소의 인덱스만을 시그널링할 수 있다. 부호화 장치(100)는 인덱스를 부호화할 수 있으며, 부호화된 인덱스를 시그널링할 수 있다.
따라서, 전술된 리스트들(즉, 예측 움직임 벡터 후보 리스트 및 머지 후보 리스트)은 부호화 장치(100) 및 복호화 장치(200)에서 동일한 데이터에 기반하여 동일한 방식으로 유도되어야 할 수 있다. 여기에서, 동일한 데이터는 재구축된 픽처 및 재구축된 블록을 포함할 수 있다. 또한, 인덱스로 요소를 특정하기 위해, 리스트 내에서 요소들의 순서는 일정해야 할 수 있다.
도 10은 일 예에 따른 공간적 후보들을 나타낸다.
도 10에서는, 공간적 후보들의 위치가 도시되었다.
가운데의 큰 블록은 대상 블록을 나타낼 수 있다. 5 개의 작은 블록들은 공간적 후보들을 나타낼 수 있다.
대상 블록의 좌표들은 (xP, yP)일 수 있고, 대상 블록의 크기는 (nPSW, nPSH)일 수 있다.
공간적 후보 A0은 대상 블록의 좌측 하단의 코너에 인접한 블록일 수 있다. A0은 좌표들 (xP - 1, yP + nPSH + 1)의 픽셀을 차지하는 블록일 수 있다.
공간적 후보 A1은 대상 블록의 좌측에 인접한 블록일 수 있다. A1은 대상 블록의 좌측에 인접한 블록들 중 최 하단의 블록일 수 있다. 또는, A1은 A0의 상단에 인접한 블록일 수 있다. A1은 좌표들 (xP - 1, yP + nPSH)의 픽셀을 차지하는 블록일 수 있다.
공간적 후보 B0은 대상 블록의 우측 상단의 코너에 인접한 블록일 수 있다. B0은 좌표들 (xP + nPSW + 1, yP - 1)의 픽셀을 차지하는 블록일 수 있다.
공간적 후보 B1은 대상 블록의 상단에 인접한 블록일 수 있다. B1은 대상 블록의 상단에 인접한 블록들 중 최 우측의 블록일 수 있다. 또는, B1은 B0의 좌측에 인접한 블록일 수 있다. B1은 좌표들 (xP + nPSW, yP - 1)의 픽셀을 차지하는 블록일 수 있다.
공간적 후보 B2는 대상 블록의 좌측 상단의 코너에 인접한 블록일 수 있다. B2는 좌표들 (xP - 1, yP - 1)의 픽셀을 차지하는 블록일 수 있다.
공간적 후보 및 시간적 후보의 가용성(availability)의 판단
공간적 후보의 움직임 정보 또는 시간적 후보의 움직임 정보를 리스트에 포함시키기 위해서는, 공간적 후보의 움직임 정보 또는 시간적 후보의 움직임 정보가 가용한지 여부가 판단되어야 한다.
이하에서, 후보 블록은 공간적 후보 및 시간적 후보를 포함할 수 있다.
예를 들면, 상기의 판단은 아래의 단계 1) 내지 단계 4)를 순차적으로 적용함으로써 이루어질 수 있다.
단계 1) 후보 블록을 포함하는 PU가 픽처의 경계의 밖에 있으면 후보 블록의 가용성은 거짓(false)으로 설정될 수 있다. "가용성이 거짓으로 설정된다"는 것은 "비가용한 것으로 설정된다"는 것과 동일한 의미일 수 있다.
단계 2) 후보 블록을 포함하는 PU가 슬라이스의 경계의 밖에 있으면 후보 블록의 가용성은 거짓으로 설정될 수 있다. 대상 블록 및 후보 블록이 서로 다른 슬라이스들 내에 위치하면, 후보 블록의 가용성은 거짓으로 설정될 수 있다.
단계 3) 후보 블록을 포함하는 PU가 타일의 경계의 밖에 있으면 후보 블록의 가용성은 거짓으로 설정될 수 있다. 대상 블록 및 후보 블록이 서로 다른 타일들 내에 위치하면, 후보 블록의 가용성은 거짓으로 설정될 수 있다.
단계 4) 후보 블록을 포함하는 PU의 예측 모드가 인트라 예측 모드이면 후보 블록의 가용성은 거짓으로 설정될 수 있다. 후보 블록을 포함하는 PU가 인터 예측을 사용하지 않으면 후보 블록의 가용성은 거짓으로 설정될 수 있다.
도 11은 일 예에 따른 공간적 후보들의 움직임 정보들의 머지 리스트로의 추가 순서를 나타낸다.
도 11에서 도시된 것처럼, 공간적 후보들의 움직임 정보들을 머지 리스트에 추가함에 있어서, A1, B1, B0, A0 및 B2의 순서가 사용될 수 있다. 즉, A1, B1, B0, A0 및 B2의 순서로, 가용한 공간적 후보의 움직임 정보가 머지 리스트에 추가될 수 있다.
머지 모드 및 스킵 모드에서의 머지 리스트의 유도 방법
전술된 것과 같이, 머지 리스트 내의 머지 후보들의 최대 개수는 설정될 수 있다. 설정된 최대 개수를 N으로 표시한다. 설정된 개수는 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 슬라이스의 슬라이스 헤더는 N을 포함할 수 있다. 말하자면, 슬라이스 헤더에 의해 슬라이스의 대상 블록에 대한 머지 리스트의 머지 후보들의 최대 개수가 설정될 수 있다. 예를 들면, 기본적으로 N의 값은 5일 수 있다.
움직임 정보(즉, 머지 후보)는 아래의 단계 1) 내지 단계 4)의 순서로 머지 리스트에 추가될 수 있다.
단계 1) 공간적 후보들 중 가용한 공간적 후보들이 머지 리스트에 추가될 수 있다. 가용한 공간적 후보들의 움직임 정보들은 도 10에서 도시된 순서대로 머지 리스트에 추가될 수 있다. 이 때, 가용한 공간적 후보의 움직임 정보가 이미 머지 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 움직임 정보는 머지 리스트에 추가되지 않을 수 있다. 리스트 내에 존재하는 다른 움직임 정보와 중복되는지 여부를 검사하는 것은 "중복성 검사"로 약술될 수 있다.
추가되는 움직임 정보들은 최대 N 개일 수 있다.
단계 2) 머지 리스트 내의 움직임 정보들의 개수가 N 보다 더 작고, 시간적 후보가 가용하면, 시간적 후보의 움직임 정보가 머지 리스트에 추가될 수 있다. 이 때, 가용한 시간적 후보의 움직임 정보가 이미 머지 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 움직임 정보는 머지 리스트에 추가되지 않을 수 있다.
단계 3) 머지 리스트 내의 움직임 정보들의 개수가 N 보다 더 작고, 대상 슬라이스의 타입이 "B"이면, 조합된 양방향 예측(combined bi-prediction)에 의해 생성된 조합된 움직임 정보가 머지 리스트에 추가될 수 있다.
대상 슬라이스는 대상 블록을 포함하는 슬라이스일 수 있다.
조합된 움직임 정보는 L0 움직임 정보 및 L1 움직임 정보의 조합일 수 있다. L0 움직임 정보는 참조 픽처 리스트 L0만을 참조하는 움직임 정보일 수 있다. L1 움직임 정보는 참조 픽처 리스트 L1만을 참조하는 움직임 정보일 수 있다.
머지 리스트 내에서, L0 움직임 정보는 하나 이상일 수 있다. 또한, 머지 리스트 내에서, L1 움직임 정보는 하나 이상일 수 있다.
조합된 움직임 정보는 하나 이상일 수 있다. 조합된 움직임 정보를 생성함에 있어서 하나 이상의 L0 움직임 정보들 및 하나 이상의 L1 움직임 정보들 중 어떤 L0 움직임 정보 및 어떤 L1 움직임 정보를 사용할 것인가는 기정의될 수 있다. 하나 이상의 조합된 움직임 정보는 머지 리스트 내의 서로 다른 움직임 정보들의 쌍(pair)을 사용하는 조합된 양방향 예측에 의해 기정의된 순서로 생성될 수 있다. 서로 다른 움직임 정보들의 쌍 중 하나는 L0 움직임 정보고 다른 하나는 L1 움직임 정보일 수 있다.
예를 들면, 최우선적으로 추가되는 조합된 움직임 정보는 머지 인덱스가 0인 L0 움직임 정보 및 머지 인덱스가 1인 L1 움직임 정보의 조합일 수 있다. 머지 인덱스가 0인 움직임 정보가 L0 움직임 정보가 아니거나, 머지 인덱스가 1인 움직임 정보가 L1 움직임 정보가 아니면 상기의 조합된 움직임 정보는 생성 및 추가되지 않을 수 있다. 다음으로 추가되는 움직임 정보는 머지 인덱스가 1인 L0 움직임 정보 및 머지 인덱스가 0인 L1 움직임 정보의 조합일 수 있다. 이하의 구체적인 조합은 비디오의 부호화/복호화 분야의 다른 조합을 따를 수 있다.
이 때, 조합된 움직임 정보가 이미 머지 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 조합된 움직임 정보는 머지 리스트에 추가되지 않을 수 있다.
단계 4) 머지 리스트 내의 움직임 정보들의 개수가 N 보다 더 작으면, 제로 벡터 움직임 정보가 머지 리스트에 추가될 수 있다.
제로 벡터 움직임 정보는 움직임 벡터가 제로 벡터인 움직임 정보일 수 있다.
제로 벡터 움직임 정보는 하나 이상일 수 있다. 하나 이상의 제로 벡터 움직임 정보들의 참조 픽처 인덱스들은 서로 상이할 수 있다. 예를 들면, 첫 번째의 제로 벡터 움직임 정보의 참조 픽처 인덱스의 값은 0일 수 있다. 두 번째의 제로 벡터 움직임 정보의 참조 픽처 인덱스의 값은 1일 수 있다.
제로 벡터 움직임 정보들의 개수는 참조 픽처 리스트 내의 참조 픽처들의 개수와 동일할 수 있다.
제로 벡터 움직임 정보의 참조 방향은 양방향일 수 있다. 2 개의 움직임 벡터들은 모두 제로 벡터들일 수 있다. 제로 벡터 움직임 정보들의 개수는 참조 픽처 리스트 L0 내의 참조 픽처들의 개수 및 참조 픽처 리스트 L1 내의 참조 픽처들의 개수 중 더 작은 것일 수 있다. 또는, 참조 픽처 리스트 L0 내의 참조 픽처들의 개수 및 참조 픽처 리스트 L1 내의 참조 픽처들의 개수가 서로 다를 경우, 하나의 참조 픽처 리스트에만 적용될 수 있는 참조 픽처 인덱스에 대해서는 단방향의 참조 방향이 사용될 수 있다.
부호화 장치(100) 및/또는 복호화 장치(200)는 참조 픽처 인덱스를 변경하면서 순차적으로 제로 벡터 움직임 정보를 머지 리스트에 추가할 수 있다.
제로 벡터 움직임 정보가 이미 머지 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 제로 벡터 움직임 정보는 머지 리스트에 추가되지 않을 수 있다.
전술된 단계 1) 내지 단계 4)의 순서는 단지 예시적인 것으로, 단계들 간의 순서는 서로 바뀔 수 있다. 또한, 단계들 중 일부는 기정의된 조건에 따라 생략될 수 있다.
AMVP 모드에서의 예측 움직임 벡터 후보 리스트의 유도 방법
예측 움직임 벡터 후보 리스트 내의 예측 움직임 벡터 후보들의 최대 개수는 기정의될 수 있다. 기정의된 최대 개수를 N으로 표시한다. 예를 들면, 기정의된 최대 개수는 2일 수 있다.
움직임 정보(즉, 예측 움직임 벡터 후보)는 아래의 단계 1) 내지 단계 3)의 순서로 예측 움직임 벡터 후보 리스트에 추가될 수 있다.
단계 1) 공간적 후보들 중 가용한 공간적 후보들이 예측 움직임 벡터 후보 리스트에 추가될 수 있다. 공간적 후보들은 제1 공간적 후보 및 제2 공간적 후보를 포함할 수 있다.
제1 공간적 후보는 A0, A1, 스케일된(scaled) A0 및 스케일된 A1 중 하나일 수 있다. 제2 공간적 후보는 B0, B1, B2, 스케일된 B0, 스케일된 B1 및 스케일된 B2 중 하나일 수 있다.
가용한 공간적 후보들의 움직임 정보들은 제1 공간적 후보 및 제2 공간적 후보의 순서로 예측 움직임 벡터 후보 리스트에 추가될 수 있다. 이 때, 가용한 공간적 후보의 움직임 정보가 이미 예측 움직임 벡터 후보 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 움직임 정보는 예측 움직임 벡터 후보 리스트에 추가되지 않을 수 있다. 말하자면, N의 값이 2인 경우, 제2 공간적 후보의 움직임 정보가 제1 공간적 후보의 움직임 정보와 동일하면 제2 공간적 후보의 움직임 정보는 예측 움직임 벡터 후보 리스트에 추가되지 않을 수 있다.
추가되는 움직임 정보들은 최대 N 개일 수 있다.
단계 2) 예측 움직임 벡터 후보 리스트 내의 움직임 정보들의 개수가 N 보다 더 작고, 시간적 후보가 가용하면, 시간적 후보의 움직임 정보가 예측 움직임 벡터 후보 리스트에 추가될 수 있다. 이 때, 가용한 시간적 후보의 움직임 정보가 이미 예측 움직임 벡터 후보 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 움직임 정보는 예측 움직임 벡터 후보 리스트에 추가되지 않을 수 있다.
단계 3) 예측 움직임 벡터 후보 리스트 내의 움직임 정보들의 개수가 N 보다 더 작으면, 제로 벡터 움직임 정보가 예측 움직임 벡터 후보 리스트에 추가될 수 있다.
제로 벡터 움직임 정보는 하나 이상일 수 있다. 하나 이상의 제로 벡터 움직임 정보들의 참조 픽처 인덱스들은 서로 상이할 수 있다.
부호화 장치(100) 및/또는 복호화 장치(200)는 참조 픽처 인덱스를 변경하면서 순차적으로 제로 벡터 움직임 정보를 예측 움직임 벡터 후보 리스트에 추가할 수 있다.
제로 벡터 움직임 정보가 이미 예측 움직임 벡터 후보 리스트 내에 존재하는 다른 움직임 정보와 중복되는 경우 상기의 제로 벡터 움직임 정보는 예측 움직임 벡터 후보 리스트에 추가되지 않을 수 있다.
머지 리스트에 대해 전술된 제로 벡터 움직임 정보에 대한 설명은 제로 벡터 움직임 정보에도 적용될 수 있다. 중복되는 설명은 생략된다.
전술된 단계 1) 내지 단계 3)의 순서는 단지 예시적인 것으로, 단계들 간의 순서는 서로 바뀔 수 있다. 또한, 단계들 중 일부는 기정의된 조건에 따라 생략될 수 있다.
도 12는 일 예에 따른 변환 및 양자화의 과정을 설명한다.
도 12에 도시된 바와 같이 잔차 신호에 변환 및/또는 양자화 과정을 수행하여 양자화된 레벨이 생성될 수 있다.
잔차 신호는 원본 블록과 예측 블록 간의 차분으로 생성될 수 있다. 여기에서, 예측 블록은 인트라 예측 또는 인터 예측에 의해 생성된 블록일 수 있다.
잔차 신호는 양자화 과정의 일부인 변환 과정을 통해 주파수 도메인으로 변환될 수 있다.
변환을 위해 사용되는 변환 커널은 이산 코사인 변환(Discrete Cosine Transform; DCT) 타입(type) 2 (DCT-II) 등과 같은 다양한 DCT 커널 및 이산 사인 변환(Discrete Sine Transform; DST) 커널을 포함할 수 있다.
이러한 변환 커널들은 잔차 신호에 대해 분리가능 변환(separable transform) 또는 2차원(2Dimensional; 2D) 비-분리가능 변환(non-separable transform)을 수행할 수 있다. 분리가능 변환은 잔차 신호에 대해 1차원(1Dimensional; 1D) 변환을 수평 방향 및 수직 방향의 각각에 수행하는 변환일 수 있다.
1D 변환을 위해 적응적으로 사용되는 DCT 타입 및 DST 타입은 아래의 표 3 및 표 4에서 각각 표시된 것과 같이 DCT-II 외에도 DCT-V, DCT-VIII, DST-I 및 DST-VII를 포함할 수 있다.
[표 3]
Figure PCTKR2019001096-appb-I000004
[표 4]
Figure PCTKR2019001096-appb-I000005
표 3 및 표 4에서 표시된 것과 같이, 변환에 사용될 DCT 타입 또는 DST 타입을 유도함에 있어서 변환 세트(transform set)가 사용될 수 있다. 각 변환 세트는 복수의 변환 후보들을 포함할 수 있다. 각 변환 후보는 DCT 타입 또는 DST 타입 등일 수 있다.
아래의 표 5는 인트라 예측 모드에 따라 수평 방향에 적용되는 변환 세트 및 수직 방향에 적용되는 변환 세트의 일 예를 나타낸다.
[표 5]
Figure PCTKR2019001096-appb-I000006
표 5에서는, 대상 블록의 인트라 예측 모드에 따라서 잔차 신호의 수평 방향에 적용되는 수직 방향 변환 세트의 번호 및 수평 방향 변환 세트의 번호가 표시되었다.
표 5에서 예시된 것과 같이, 대상 블록의 인트라 예측 모드에 따라 수평 방향 및 수직 방향에 적용되는 변환 세트들이 기정의될 수 있다. 부호화 장치(100)는 대상 블록의 인트라 예측 모드에 대응하는 변환 세트에 포함된 변환을 이용하여 잔차 신호에 대한 변환 및 역변환을 수행할 수 있다. 또한, 복호화 장치(200)는 대상 블록의 인트라 예측 모드에 대응하는 변환 세트에 포함된 변환을 이용하여 잔차 신호에 대한 역변환을 수행할 수 있다.
이러한 변환 및 역변환에 있어서, 잔차 신호에 적용되는 변환 세트는 표 3, 표 4에서 예시된 것과 같이 결정될 수 있고, 시그널링되지 않을 수 있다. 변환 지시 정보는 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수 있다. 변환 지시 정보는 잔차 신호에 적용되는 변환 세트가 포함하는 복수의 변환 후보들 중 어떤 변환 후보가 사용되는가를 지시하는 정보일 수 있다.
예를 들어, 대상 블록의 크기가 64x64 이하인 경우, 인트라 예측 모드에 따라 표 4의 예에서와 같이 모두 3 개들인 변환 세트들이 구성될 수 있다. 수평 방향의 3 개의 변환들 및 수직 방향의 3 개의 변환들의 조합으로 인한 모두 9 개의 다중 변환 방법들 중에서 최적의 변환 방법이 선택될 수 있다. 이러한 최적의 변환 방법으로 잔차 신호를 부호화 및/또는 복호화함으로써 부호화 효율이 향상될 수 있다.
이 때, 수직 변환 및 수평 변환 중 적어도 하나 이상에 대해, 변환 세트에 속한 변환들 중 어떤 변환이 사용되었는지에 대한 정보가 엔트로피 부호화 및/또는 복호화될 수 있다. 이러한 정보의 부호화 및/또는 복호화를 위해 절삭된 단항(truncated unary) 이진화(binarization)가 사용될 수 있다.
전술된 것과 같이 다양한 변환들을 사용하는 방법은 인트라 예측 또는 인터 예측에 의해 생성된 잔차 신호에 적용될 수 있다.
변환은 1차 변환 및 2차 변환 중 적어도 하나를 포함할 수 있다. 잔차 신호에 대해서 1차 변환을 수행함으로써 변환 계수가 생성될 수 있고, 변환 계수에 2차 변환을 수행함으로써 2차 변환 계수가 생성될 수 있다.
1차 변환은 주 변환(primary)으로 명명될 수 있다. 또한, 1차 변환은 적응적 다중 변환(Adaptive Multiple Transform; AMT)로 명명될 수 있다. AMT는 전술된 것과 같이 1D 방향들(즉, 수직 방향 및 수평 방향)의 각각에 대해 서로 다른 변환이 적용되는 것을 의미할 수 있다.
2차 변환은 1차 변환에 의해 생성된 변환 계수의 에너지 집중도를 향상시키기 위한 변환일 수 있다. 2차 변환도 1차 변환과 마찬가지로 분리가능 변환 또는 비-분리가능 변환일 수 있다. 비-분리가능 변환은 비-분리가능 2차 변환(Non-Separable Secondary Transform; NSST)일 수 있다.
1차 변환은 기정의된 복수의 변환 방법들 중 적어도 하나를 이용하여 수행될 수 있다. 일 예로, 기정의된 복수의 변환 방법들은 이산 코사인 변환(Discrete Cosine Transform; DCT), 이산 사인 변환(Discrete Sine Transform; DST) 및 카루넨-루베 변환(Karhunen-Loeve Transform; KLT) 기반 변환 등을 포함할 수 있다.
또한, 1차 변환은 DCT 또는 DST를 정의하는 커널 함수에 따라서 다양한 타입을 갖는 변환일 수 있다.
예를 들면, 1차 변환은 아래의 표 6에서 제시된 변환 커널에 따른 DCT-2, DCT-5, DCT-7, DST-1 및 DST-8과 같은 변환들을 포함할 수 있다. 표 6에서는 복수 변환 선택(Multiple Transform Selection; MTS)에 대한 다양한 변환 타입들 및 변환 커널 함수들이 예시되었다.
MTS는 잔차 신호의 수평 및/또는 수직방향에 대한 변환을 위해 하나 이상의 DCT 및/또는 DST 변환 커널의 조합이 선택되는 것을 의미할 수 있다.
[표 6]
Figure PCTKR2019001096-appb-I000007
표 6에서, i 및 j는 0 이상 N-1 이하의 정수 값일 수 있다.
1차 변환의 수행에 의해 생성된 변환 계수에 2차 변환(secondary transform)이 수행될 수 있다.
1차 변환에서와 같이, 2차 변환에서도 변환 세트가 정의될 수 있다. 전술된 것과 같은 변환 세트를 유도 및/또는 결정하기 위한 방법들은 1차 변환뿐만 아니라 2차 변환에도 적용될 수 있다.
1차 변환 및 2차 변환은 특정된 대상에 대해서 결정될 수 있다.
예를 들면, 1차 변환 및 2차 변환은 루마 성분 및 크로마 성분 중 하나 이상의 신호 성분에 적용될 수 있다. 1차 변환 및/또는 2차 변환의 적용 여부는 대상 블록 및/또는 주변 블록에 대한 코딩 파라미터들 중 적어도 하나에 따라 결정될 수 있다. 예를 들면, 1차 변환 및/또는 2차 변환의 적용 여부는 대상 블록의 크기 및/또는 형태에 의해 결정될 수 있다.
부호화 장치(100) 및 복호화 장치(200)에서, 대상에게 사용되는 변환 방법을 지시하는 변환 정보는 특정된 정보를 사용함으로써 유도될 수 있다.
예를 들면, 변환 정보는 1차 변환 및/또는 2차 변환을 위해 사용될 변환의 인덱스를 포함할 수 있다. 또는, 변환 정보는 1차 변환 및/또는 2차 변환이 사용되지 않음을 나타낼 수도 있다.
예를 들면, 1차 변환 및 2차 변환의 대상이 대상 블록일 때, 변환 정보가 지시하는 1차 변환 및/또는 2차 변환에 적용되는 변환 방법(들)은 대상 블록 및/또는 주변 블록에 대한 코딩 파라미터들 중 적어도 하나에 따라 결정될 수 있다.
또는, 특정된 대상에 대한 변환 정보는 부호화 장치(100)로부터 복호화 장치(200)로 시그널링될 수도 있다.
예를 들면, 하나의 CU에 대하여 1차 변환의 사용 여부, 1차 변환을 가리키는 인덱스, 2차 변환의 사용 여부 및 2차 변환을 가리키는 인덱스 등이 복호화 장치(200)에서 변환 정보로서 유도될 수 있다. 또는, 하나의 CU에 대하여 1차 변환의 사용 여부, 1차 변환을 가리키는 인덱스, 2차 변환의 사용 여부 및 2차 변환을 가리키는 인덱스 등을 나타내는 변환 정보가 시그널링될 수 있다.
1차 변환 및/또는 2차 변환의 수행에 의해 생성된 결과 또는 잔차 신호에 양자화를 수행함으로써 양자화된 변환 계수(즉, 양자화된 레벨)이 생성될 수 있다.
도 13은 일 예에 따른 대각선 스캐닝을 나타낸다.
도 14는 일 예에 따른 수평 스캐닝을 나타낸다.
도 15는 일 예에 따른 수직 스캐닝을 나타낸다.
양자화된 변환 계수들은 인트라 예측 모드, 블록 크기 및 블록 형태 중 적어도 하나에 따라서, (우상단(up-right)) 대각선 스캐닝, 수직 스캐닝 및 수평 스캐닝 중 적어도 하나에 따라서 스캐닝(scanning) 될 수 있다. 블록은 변환 유닛일 수 있다.
각 스캐닝은 특정된 시작 점에서 시작할 수 있고 특정된 종료 점에서 종료할 수 있다.
예를 들면, 도 13의 대각선 스캐닝을 이용하여 블록의 계수들을 스캔함으로써 양자화된 변환 계수들이 1차원 벡터 형태로 변경될 수 있다. 또는, 블록의 크기 및/또는 인트라 예측 모드에 따라 대각선 스캐닝 대신 도 14의 수평 스캐닝이나, 도 15의 수직 스캐닝이 사용될 수 있다.
수직 스캐닝은 2차원의 블록 형태 계수를 열 방향으로 스캔하는 것일 수 있다. 수평 스캐닝은 2차원의 블록 형태 계수를 행 방향으로 스캔하는 것일 수 있다.
말하자면, 블록의 크기 및/또는 인터 예측 모드에 따라 대각선 스캐닝, 수직 스캐닝 및 수평 스캐닝 중 어떤 스캐닝이 사용될 것인지가 결정될 수 있다.
도 13, 도 14 및 도 15에서 도시된 것과 같이, 양자화된 변환 계수들은 대각선 방향, 수평 방향 또는 수직 방향에 따라 스캔될 수 있다.
양자화된 변환 계수들은 블록 형태로 표현될 수 있다. 블록은 복수의 서브 블록들을 포함할 수 있다. 각 서브 블록은 최소 블록 크기 또는 최소 블록 형태에 따라 정의될 수 있다.
스캐닝에 있어서, 스캐닝의 종류 또는 방향에 따른 스캐닝 순서는 우선 서브 블록들에 적용될 수 있다. 또한, 서브 블록 내의 양자화된 변환 계수들에 대해 스캐닝의 방향에 따른 스캐닝 순서가 적용될 수 있다.
예를 들면, 도 13, 도 14 및 도 15에서 도시된 것과 같이, 대상 블록의 크기가 8x8일 때, 대상 블록의 잔차 신호에 대한 1차 변환, 2차 변환 및 양자화에 의해 양자화된 변환 계수들이 생성될 수 있다. 이후, 4 개의 4x4 서브 블록들에 대해 3 가지의 스캐닝 순서들 중 하나의 스캐닝 순서가 적용될 수 있으며, 각 4x4 서브 블록에 대해서도 스캐닝 순서에 따라 양자화된 변환 계수들이 스캐닝될 수 있다.
스캐닝된 양자화된 변환 계수들은 엔트로피 부호화될 수 있고, 비트스트림은 엔트로피 부호화된 양자화된 변환 계수들을 포함할 수 있다.
복호화 장치(200)는 비트스트림에 대한 엔트로피 복호화를 통해 양자화된 변환 계수들 생성할 수 있다. 양자화된 변환 계수들은 역 스캐닝(inverse scanning)을 통해 2차원의 블록 형태로 정렬될 수 있다. 이때, 역 스캐닝의 방법으로서, 우상단 대각 스캔, 수직 스캔 및 수평 스캔 중 적어도 하나가 수행될 수 있다.
복호화 장치(200)에서는, 양자화된 변환 계수들에 역양자화가 수행될 수 있다. 2차 역변환의 수행 여부에 따라서, 역양자화의 수행에 의해 생성된 결과에 대하여 2차 역변환이 수행될 수 있다. 또한, 1차 역변환의 수행 여부에 따라서, 2차 역변환의 수행에 의해 생성된 결과에 대하여 1차 역변환이 수행될 수 있다. 2차 역변환의 수행에 의해 생성된 결과에 대하여 1차 역변환을 수행함으로써 복원된 잔차 신호가 생성될 수 있다.
도 16은 일 실시예에 따른 부호화 장치의 구조도이다.
부호화 장치(1600)는 전술된 부호화 장치(100)에 대응할 수 있다.
부호화 장치(1600)는 버스(1690)를 통하여 서로 통신하는 처리부(1610), 메모리(1630), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1650), UI 출력 디바이스(1660) 및 저장소(storage)(1640)를 포함할 수 있다. 또한, 부호화 장치(1600)는 네트워크(1699)에 연결되는 통신부(1620)를 더 포함할 수 있다.
처리부(1610)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1630) 또는 저장소(1640)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 처리부(1610)는 적어도 하나의 하드웨어 프로세서일 수 있다.
처리부(1610)는 부호화 장치(1600)로 입력되거나, 부호화 장치(1600)에서 출력되거나, 부호화 장치(1600)의 내부에서 사용되는 신호, 데이터 또는 정보의 생성 및 처리를 수행할 수 있고, 신호, 데이터 또는 정보에 관련된 검사, 비교 및 판단 등을 수행할 수 있다. 말하자면, 실시예에서 데이터 또는 정보의 생성 및 처리와, 데이터 또는 정보에 관련된 검사, 비교 및 판단은 처리부(1610)에 의해 수행될 수 있다.
처리부(1610)는 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽처 버퍼(190)를 포함할 수 있다.
인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽처 버퍼(190) 중 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 부호화 장치(1600)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 부호화 장치(1600)와 통신 가능한 원격 기억 장치에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 부호화 장치(1600)의 적어도 하나의 프로세서(processor)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
처리부(1610)는 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽처 버퍼(190)의 명령어 또는 코드를 실행할 수 있다.
저장부는 메모리(1630) 및/또는 저장소(1640)를 나타낼 수 있다. 메모리(1630) 및 저장소(1640)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리(1630)는 롬(ROM)(1631) 및 램(RAM)(1632) 중 적어도 하나를 포함할 수 있다.
저장부는 부호화 장치(1600)의 동작을 위해 사용되는 데이터 또는 정보를 저장할 수 있다. 실시예에서, 부호화 장치(1600)가 갖는 데이터 또는 정보는 저장부 내에 저장될 수 있다.
예를 들면, 저장부는 픽처, 블록, 리스트, 움직임 정보, 인터 예측 정보 및 비트스트림 등을 저장할 수 있다.
부호화 장치(1600)는 컴퓨터에 의해 독출(read)될 수 있는 기록 매체를 포함하는 컴퓨터 시스템에서 구현될 수 있다.
기록 매체는 부호화 장치(1600)가 동작하기 위해 요구되는 적어도 하나의 모듈을 저장할 수 있다. 메모리(1630)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 모듈이 처리부(1610)에 의하여 실행되도록 구성될 수 있다.
부호화 장치(1600)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1620)를 통해 수행될 수 있다.
예를 들면, 통신부(1620)는 비트스트림을 후술될 복호화 장치(1700)로 전송할 수 있다.
도 17은 일 실시예에 따른 복호화 장치의 구조도이다.
복호화 장치(1700)는 전술된 복호화 장치(200)에 대응할 수 있다.
복호화 장치(1700)는 버스(1790)를 통하여 서로 통신하는 처리부(1710), 메모리(1730), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1750), UI 출력 디바이스(1760) 및 저장소(storage)(1740)를 포함할 수 있다. 또한, 복호화 장치(1700)는 네트워크(1799)에 연결되는 통신부(1720)를 더 포함할 수 있다.
처리부(1710)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1730) 또는 저장소(1740)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 처리부(1710)는 적어도 하나의 하드웨어 프로세서일 수 있다.
처리부(1710)는 복호화 장치(1700)로 입력되거나, 복호화 장치(1700)에서 출력되거나, 복호화 장치(1700)의 내부에서 사용되는 신호, 데이터 또는 정보의 생성 및 처리를 수행할 수 있고, 신호, 데이터 또는 정보에 관련된 검사, 비교 및 판단 등을 수행할 수 있다. 말하자면, 실시예에서 데이터 또는 정보의 생성 및 처리와, 데이터 또는 정보에 관련된 검사, 비교 및 판단은 처리부(1710)에 의해 수행될 수 있다.
처리부(1710)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 스위치(245), 가산기(255), 필터부(260) 및 참조 픽처 버퍼(270)를 포함할 수 있다.
엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 스위치(245), 가산기(255), 필터부(260) 및 참조 픽처 버퍼(270) 중 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 복호화 장치(1700)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 복호화 장치(1700)와 통신 가능한 원격 기억 장치에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 복호화 장치(1700)의 적어도 하나의 프로세서(processor)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
처리부(1710)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 스위치(245), 가산기(255), 필터부(260) 및 참조 픽처 버퍼(270)의 명령어 또는 코드를 실행할 수 있다.
저장부는 메모리(1730) 및/또는 저장소(1740)를 나타낼 수 있다. 메모리(1730) 및 저장소(1740)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리(1730)는 롬(ROM)(1731) 및 램(RAM)(1732) 중 적어도 하나를 포함할 수 있다.
저장부는 복호화 장치(1700)의 동작을 위해 사용되는 데이터 또는 정보를 저장할 수 있다. 실시예에서, 복호화 장치(1700)가 갖는 데이터 또는 정보는 저장부 내에 저장될 수 있다.
예를 들면, 저장부는 픽처, 블록, 리스트, 움직임 정보, 인터 예측 정보 및 비트스트림 등을 저장할 수 있다.
복호화 장치(1700)는 컴퓨터에 의해 독출(read)될 수 있는 기록 매체를 포함하는 컴퓨터 시스템에서 구현될 수 있다.
기록 매체는 복호화 장치(1700)가 동작하기 위해 요구되는 적어도 하나의 모듈을 저장할 수 있다. 메모리(1730)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 모듈이 처리부(1710)에 의하여 실행되도록 구성될 수 있다.
복호화 장치(1700)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1720)를 통해 수행될 수 있다.
예를 들면, 통신부(1720)는 부호화 장치(1600)로부터 비트스트림을 수신할 수 있다.
도 18은 일 예에 따른 콜 픽처 내의 콜 블록을 나타낸다.
도 18 및 이후의 도면들에서, ColP는 콜 픽처를 나타낼 수 있다. ColB는 콜 블록을 나타낼 수 있다.
인터 예측은 PU의 단위에 대해서 수행될 수 있으며, PU에 대한 움직임 예측 과정을 통해 PU의 움직임 벡터가 계산될 수 있다. 움직임 벡터를 표현하기 위한 비트들의 양을 감소시키기 위해 머지 모드 및 AMVP 모드 등이 사용될 수 있다.
머지 모드는 주변 블록 또는 콜 블록의 움직임 정보를 대상 블록의 움직임 정보로 복사함으로써 주변 블록 또는 콜 블록의 움직임 정보를 대상 블록의 움직임 정보로서 그대로 사용하는 방법을 의미할 수 있다. 움직임 정보는 움직임 벡터를 포함할 수 있다.
콜 블록은 대상 픽처의 부호화 또는 복호화의 이전에 부호화 또는 복호화가 완료된 참조 픽처들 중 하나의 참조 픽처 내에서, 대상 블록의 위치와 동일한 위치에 있는 블록일 수 있다. 이 때, 콜 블록을 포함하는 참조 픽처를 콜 픽처로 칭할 수 있다. 여기에서, 위치는 픽셀 위치일 수 있다. 또는, 블록의 위치는 블록의 좌측 상단의 좌표들일 수 있다.
말하자면, 콜 픽처 내에서의 콜 블록의 위치는 대상 픽처 내에서의 대상 블록의 위치와 동일할 수 있다.
AMVP 모드는 대상 블록의 주변 블록 또는 콜 블록으로부터 획득된 움직임 벡터를 대상 블록의 움직임 벡터에 대한 예측 움직임 벡터로 사용하고, 움직임 벡터 차분을 부호화 및/또는 복호화하는 방법을 의미할 수 있다. 움직임 벡터 차분은 움직임 예측에 의해 계산된 대상 블록의 움직임 벡터 및 상기의 예측 움직임 벡터 간의 차분일 수 있다.
시간적 움직임 벡터 예측자(Temporal Motion Vector Predictor; TMVP)는 콜 블록 또는 콜 블록의 주변 블록으로부터 획득된 움직임 벡터 또는 움직임 정보일 수 있다.
AMVP 모드가 사용되는 경우, TMVP는 콜 블록 또는 콜 블록의 주변 블록으로부터 획득된 움직임 벡터일 수 있고, 시간적 후보의 움직임 벡터일 수 있다. 말하자면, 대상 블록의 인터 예측 모드가 AMVP 모드인 경우, TMVP는 시간적 후보의 움직임 벡터를 의미할 수 있다.
머지 모드가 사용되는 경우, TMVP는 콜 블록 또는 콜 블록의 주변 블록으로부터 획득된 움직임 정보일 수 있고, 시간적 후보의 움직임 정보일 수 있다. 말하자면, 대상 블록의 인터 예측 모드가 머지 모드인 경우, TMVP는 시간적 후보의 움직임 정보일 수 있다.
도 18에서는, 대상 블록의 영역(1820), 제1 위치(1821) 및 제2 위치 (1822)가 도시되었다. 대상 블록의 영역(1820)의 좌측 상단의 좌표들은 (xP, yP)일 수 있고, 대상 블록의 영역(1820)의 크기는 (nPSW, nPSH)일 수 있다.
TMVP는 제1 위치(1821)에 위치한 제1 콜 블록으로부터 획득될 수 있다. 제1 콜 블록은 제1 위치(1821)를 차지하는 블록일 수 있다. 예를 들면, 제1 위치(1821)는 대상 블록의 우측 하단의 위치일 수 있다. 또는, 제1 위치는 좌표들 (xP + nPSW, yP + nPSH)일 수 있다.
TMVP는 제2 위치(1822)에 위치한 제2 콜 블록으로부터 획득될 수 있다. 제2 콜 블록은 제2 위치(1822)를 차지하는 블록일 수 있다. 예를 들면, 제2 위치(1822)는 대상 블록의 중심의 위치일 수 있다. 또는, 제1 위치는 좌표들 (xP + (nPSW >> 1), yP + (nPSH >> 1))일 수 있다.
TMVP가 정확도가 더 높을수록 TMVP를 사용함으로써 획득되는 이익이 클 수 있다. 여기에서, TMVP의 정확도가 더 높다는 것은 TMVP가 대상 블록의 움직임 벡터와 더 가깝다는 것을 의미할 수 있다.
영상에서의 물체가 빠르게 이동할 경우, 물체를 나타내는 블록의 움직임 벡터의 크기가 클 수 있다. 이러한 블록이 시간적 후보로서 사용되는 경우 유도된 TMVP의 크기가 클 수 있다. 또한, TMVP의 크기가 큰 경우 TMVP의 정확도는 크게 떨어질 수 있다.
아래의 실시예들에서는, TMVP를 대체하여 부호화 효율을 향상시키기 위해 일방 시간적 움직임 벡터 예측자(Uni-lateral Temporal Motion Vector Predictor; UTMVP)가 설명된다.
UTMVP는 콜 픽처 내의 움직임 벡터들로부터 획득될 수 있다. UTMVP를 사용함으로써 대상 블록의 움직임 벡터의 결정과 관련하여 에러율(error rate) 등이 감소될 수 있다.
도 19는 일 예에 따른 TMVP 획득 과정을 보인다.
도 19에서는 작은 움직임을 갖는 TMVP가 획득되는 과정이 도시되었다.
대상 블록(1911)의 콜 블록(1921)은 대상 픽처(1910) 내에서의 대상 블록(1911)의 위치와 동일한 위치에 있을 수 있다. 말하자면, 대상 블록(1911) 및 콜 블록(1921)은 병치될(collocated) 수 있다. 콜 블록(1921)은 콜 픽처(1920) 내의 블록일 수 있다.
콜 블록(1921)의 움직임 벡터(1922)는 대상 픽처(1910) 및 참조 픽처(1930)의 방향으로 스케일될 수 있고, 스케일된 움직임 벡터가 대상 블록(1911)에 대한 TMVP(1912)로서 사용될 수 있다.
예를 들면, TMVP(1912)의 크기가 작은 경우, 콜 블록(1921)의 움직임 벡터(1922)가 콜 픽처(1920)로부터 대상 픽처(1910)로 스케일되었을 때, 스케일된 움직임 벡터가 대상 블록(1911)을 크게 벗어나지 않을 수 있다.
이하, 도 19 및 이하의 도면들을 참조하는 실시예에서, 대상 블록은 특정 타입의 대상 유닛을 나타낼 수 있다. 예를 들면, 대상 블록은 대상 PU를 의미할 수 있다.
도 20은 일 예에 따른 TMVP 획득 과정 및 UTMVP 획득 과정을 보인다.
도 20에서는, 큰 움직임을 갖는 TMVP가 획득되는 과정이 도시되었다.
대상 블록(2011)의 콜 블록(2021)의 움직임 벡터(2022)가 콜 픽처(2020)로부터 대상 픽처(2010)로의 방향으로 스케일되는 경우, 스케일된 움직임 벡터가 대상 블록(2011)을 크게 벗어날 수 있다. 이러한 경우, TMVP(2019) 및 대상 블록(2011)의 실제의 움직임 벡터 간의 차이가 클 수 있다.
상기의 문제의 해결을 위해, TMVP(2019) 대신 UTMVP(2012)를 사용하여 UTMVP(2012) 및 대상 블록(2010)의 실제의 움직임 벡터 간의 차이를 감소시킬 수 있다. UTMVP(2012)는 콜 픽처(2020)의 블록(2023)의 움직임 벡터(2024)에 기반하여 생성될 수 있다.
일 실시예에서, UTMVP 생성 방법은 아래의 단계 1) 내지 단계 4)를 의미할 수 있다.
단계 1) 콜 픽처 내의 후보 블록들에 대하여, 적어도 하나의 후보 블록의 움직임 벡터를 대상 픽처로 스케일함으로써 제1 스케일된 움직임 벡터가 생성될 수 있다. 이하, 도 20 및 이하의 도면들을 참조하는 실시예에서, 후보 블록은 콜 픽처 내의 특정 타입의 유닛을 나타낼 수 있다. 예를 들면, 후보 블록은 후보 PU를 의미할 수 있다.
후보 블록에서, 용어 "후보"는 블록의 움직임 벡터가 대상 블록의 UTMVP를 생성하기 위해 사용될 가능성이 있으나, 아직 이러한 사용의 여부가 결정되지 않았음을 의미할 수 있다.
단계 2) 제1 스케일된 움직임 벡터가 대상 블록을 가리키는지 여부가 판단될 수 있다.
단계 3) 제1 스케일된 움직임 벡터가 대상 블록을 가리키면, 후보 블록의 움직임 벡터를 대상 픽처로부터 참조 픽처의 방향으로 스케일링함으로써 제2 스케일된 움직임 벡터가 생성될 수 있다.
단계 4) 제2 스케일된 움직임 벡터가 UTMVP로서 사용될 수 있다.
도 21은 일 예에 따른 UTMVP의 생성 과정을 보인다.
도 21에서는, 콜 픽처(2120) 내의 후보 블록(2123)의 움직임 벡터(2124)가 대상 픽처(2110)를 통과하는 위치(2113)가 도시되었다. 또한, 도 21에서는 대상 블록(2111)의 참조 픽처(2130)가 도시되었다.
도시된 것과 같이, 위치(2113)는 대상 블록(2111)의 내부에 있다. 말하자면, 움직임 벡터(2124)는 대상 블록(2111)을 통과한다.
움직임 벡터(2124)가 대상 픽처(2110)의 대상 블록(2111)을 통과함에 따라, 움직임 벡터(2124)가 UTMVP를 생성하기 위해 사용될 수 있고, 움직임 벡터(2124)에 스케일링을 적용함으로써 UTMVP(2112)가 생성될 수 있다.
도 22는 일 예에 따른 UTMVP의 생성 과정을 보인다.
도 22에서는, 콜 픽처(2220) 내의 후보 블록(2223)의 움직임 벡터(2224)가 도시되었다. 또한, 도 22에서는, 후보 블록(2223)의 참조 픽처(2240) 및 대상 블록(2211)의 참조 픽처(2230)가 도시되었다.
후보 블록(2223)의 움직임 벡터(2224)는 콜 픽처(2220)로부터 대상 픽처(2210)로의 방향으로 스케일될 수 있다. 스케일된 움직임 벡터가 대상 픽처(2210)를 통과하는 위치(2213)가 도시되었다. 도시된 것과 같이, 스케일된 움직임 벡터는 대상 블록(2211)을 통과한다.
스케일된 움직임 벡터가 대상 블록(2211)을 통과함에 따라, 움직임 벡터(2224)가 UTMVP(2212)를 생성하기 위해 사용될 수 있고, 움직임 벡터(2224)에 스케일링을 적용하여 UTMVP(2212)가 생성될 수 있다.
도 23은 일 실시예에 따른 복호화 장치에서의 인터 예측 방법의 흐름도이다.
본 실시예의 인터 예측 방법은 복호화 방법으로 이해될 수 있다.
단계(2310)에서, 복호화 장치(1700)의 통신부(1720)는 인터 예측 정보를 포함하는 비트스트림을 수신할 수 있다.
단계(2320)에서, 복호화 장치(1700)의 처리부(1710)는 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
움직임 벡터 예측자는 전술된 UTMVP일 수 있다. 또는, 움직임 벡터 예측자는 전술된 TMVP로서 사용되는 UTMVP일 수 있다. UTMVP가 특정된 조건을 충족시킴에 따라 UTMVP가 TMVP로서 사용될 수 있다.
처리부(1710)는 대상 블록의 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
예를 들면, 처리부(1710)는 1) 콜 픽처 내의 후보 블록의 움직임 정보, 2) 후보 블록의 움직임 벡터, 3) 후보 블록의 콜 픽처 내에서의 위치, 4) 대상 블록의 대상 픽처 내에서의 위치, 5) 후보 블록의 대상 블록에 대한 상대적 위치, 6) 콜 픽처의 POC, 7) 후보 블록의 참조 픽처의 POC, 8) 대상 픽처의 POC, 9) 대상 블록의 참조 픽처의 POC, 10) 콜 픽처로부터 대상 픽처까지의 제1 시간적 거리, 11) 콜 픽처로부터 후보 블록의 참조 픽처까지의 제2 시간적 거리, 12) 제1 시간적 거리 및 제2 시간적 거리 간의 비율, 13) 대상 픽처로부터 대상 블록의 참조 픽처까지의 제3 시간적 거리, 14) 제3 시간적 거리 및 제2 시간적 거리 간의 비율, 15) 대상 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제1 차이, 16) 후보 블록의 참조 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제2 차이 17) 제1 차이 및 제2 차이 간의 비율 및 18) 대상 블록의 참조 픽처의 POC 및 대상 픽처의 POC 간의 제3 차이 중 하나 이상에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다. 여기에서, 특정된 픽처의 POC는 픽처들 내에서의 픽처의 위치를 의미할 수 있다.
일 실시예에서, 처리부(1710)는 대상 블록에 대한 인터 예측 정보의 인터 예측 모드에 기반하여 움직임 벡터 예측자를 생성할지 여부를 결정할 수 있다.
예를 들면, 처리부(1710)는 인터 예측 모드가 AMVP 모드, 머지 모드 또는 스킵 모드이면, 움직임 벡터 예측자를 생성할 수 있다. 말하자면, 처리부(1710)는 AMVP 모드, 머지 모드 및 스킵 모드 중 하나 이상의 특정된 인터 예측 모드들에 대해서 움직임 벡터 예측자를 생성할 수 있다.
전술된 것과 같이, 스킵 모드 및 머지 모드는 재구축된 잔차 블록의 사용 여부 외에는 동일 또는 유사할 수 있다. 이하에서, 머지 모드에 대한 설명은 스킵 모드에도 적용될 수 있다.
일 실시예에서, 생성된 움직임 벡터 예측자는 후보로서 대상 블록에 대한 리스트에 추가될 수 있다. 리스트는 하나 이상의 후보들을 포함할 수 있다. 인터 예측 정보는 리스트에 대한 인덱스를 포함할 수 있다. 리스트에 대한 인덱스는 리스트 내의 하나 이상의 후보들 중 어떤 후보가 대상 블록에 대한 인터 예측을 위해 사용되는가를 가리킬 수 있다.
예를 들면, 인터 예측 정보의 인터 예측 모드가 AMVP 모드를 나타내는 경우, 대상 블록에 대해 AMVP 모드가 사용될 수 있다. 움직임 벡터 예측자는 AMVP 모드의 예측 움직임 벡터 후보일 수 있다. 움직임 벡터 예측자는 예측 움직임 벡터 후보로서 움직임 벡터 후보 리스트에 추가될 수 있다.
예를 들면, 인터 예측 정보의 인터 예측 모드가 머지 모드를 나타내는 경우, 대상 블록에 대해 머지 모드가 사용될 수 있다. 움직임 벡터 예측자는 머지 모드의 움직임 정보일 수 있다. 또는, 머지 모드의 움직임 정보는 움직임 벡터 예측자를 포함할 수 있다. 움직임 벡터 예측자는 움직임 정보 또는 움직임 정보의 일부로서 머지 후보 리스트에 추가될 수 있다.
단계(2330)에서, 처리부(1710)는 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
예를 들면, 대상 블록에 대해 AMVP 모드가 사용되고, 인터 예측 정보의 예측 움직임 벡터 인덱스가 움직임 벡터 예측자를 가리키는 경우, 처리부(1710)는 움직임 벡터 후보 리스트 내의 움직임 벡터 예측자를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
예를 들면, 대상 블록에 대해 머지 모드가 사용되고, 인터 예측 정보의 머지 인덱스가 움직임 벡터 예측자를 가리키는 경우, 처리부(1710)는 머지 후보 리스트 내의 움직임 벡터 예측자를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
처리부(1710)는 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행함으로써 대상 블록에 대한 예측 블록을 생성할 수 있다.
처리부(1710)는 예측 블록 및 재구축된 블록을 합함으로써 재구축된 블록을 생성할 수 있다.
도 24는 일 실시예에 따른 부호화 장치에서의 인터 예측 방법의 흐름도이다.
본 실시예의 인터 예측 방법은 부호화 방법으로 이해될 수 있다.
영상의 부호화의 원리에 따라, 부호화 장치(1600)에서도 복호화 장치(1700)에서의 방식과 동일한 방식으로 대상 블록에 대한 재구축된 블록이 생성되어야 할 수 있다. 또한, 복호화 장치(1700)에서 생성되는 재구축된 블록 및 부호화 장치(1600)에서 생성되는 재구축된 블록은 동일해야만 하기 때문에, 도 16을 참조하여 전술된 인터 예측 방법의 적어도 일부는 부호화 장치(1600)에서도 동일하게 수행될 수 있다.
단계(2410)에서, 부호화 장치(1600)의 처리부(1610)는 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
움직임 벡터 예측자는 전술된 UTMVP일 수 있다. 또는, 움직임 벡터 예측자는 전술된 TMVP로서 사용되는 UTMVP일 수 있다. UTMVP가 특정된 조건을 충족시킴에 따라 UTMVP가 TMVP로서 사용될 수 있다.
처리부(1610)는 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
예를 들면, 처리부(1610)는 1) 콜 픽처 내의 후보 블록의 움직임 정보, 2) 후보 블록의 움직임 벡터, 3) 후보 블록의 콜 픽처 내에서의 위치, 4) 대상 블록의 대상 픽처 내에서의 위치, 5) 후보 블록의 대상 블록에 대한 상대적 위치, 6) 콜 픽처의 POC, 7) 후보 블록의 참조 픽처의 POC, 8) 대상 픽처의 POC, 9) 대상 블록의 참조 픽처의 POC, 10) 콜 픽처로부터 대상 픽처까지의 제1 시간적 거리, 11) 콜 픽처로부터 후보 블록의 참조 픽처까지의 제2 시간적 거리, 12) 제1 시간적 거리 및 제2 시간적 거리 간의 비율, 13) 대상 픽처로부터 대상 블록의 참조 픽처까지의 제3 시간적 거리, 14) 제3 시간적 거리 및 제2 시간적 거리 간의 비율, 15) 대상 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제1 차이, 16) 후보 블록의 참조 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제2 차이 17) 제1 차이 및 제2 차이 간의 비율 및 18) 대상 블록의 참조 픽처의 POC 및 대상 픽처의 POC 간의 제3 차이 중 하나 이상에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다. 여기에서, 특정된 픽처의 POC는 픽처들 내에서의 픽처의 위치를 의미할 수 있다.
전술된 것과 같이, 스킵 모드 및 머지 모드는 재구축된 잔차 블록의 사용 여부 외에는 동일 또는 유사할 수 있다. 이하에서, 머지 모드에 대한 설명은 스킵 모드에도 적용될 수 있다.
일 실시예에서, 생성된 움직임 벡터 예측자는 후보로서 리스트에 추가될 수 있다. 리스트는 하나 이상의 후보들을 포함할 수 있다.
예를 들면, 처리부(1600)는 대상 블록에 대해 AMVP 모드를 사용할 수 있다. 이 때, 인터 예측 정보의 인터 예측 모드는 AMVP 모드를 나타낼 수 있다. AMVP 모드가 사용되는 경우, 움직임 벡터 예측자는 AMVP 모드의 예측 움직임 벡터 후보일 수 있다. 움직임 벡터 예측자는 예측 움직임 벡터 후보로서 움직임 벡터 후보 리스트에 추가될 수 있다.
예를 들면, 처리부(1600)는 대상 블록에 대해 머지 모드를 사용할 수 있다. 이 때, 인터 예측 정보의 인터 예측 모드는 머지 모드를 나타낼 수 있다. 머지 모드가 사용되는 경우, 움직임 벡터 예측자는 머지 모드의 움직임 정보일 수 있다. 또는, 머지 모드의 움직임 정보는 움직임 벡터 예측자를 포함할 수 있다. 움직임 벡터 예측자는 움직임 정보 또는 움직임 정보의 일부로서 머지 후보 리스트에 추가될 수 있다.
단계(2420)에서, 처리부(1610)는 움직임 벡터 예측자에 기반하여 인터 예측 정보를 생성할 수 있다.
인터 예측 정보의 인터 예측 모드는 움직임 벡터 예측자가 생성되는지 여부를 나타낼 수 있다.
예를 들면, 인터 예측 모드가 대상 블록의 인터 예측을 위해 AMVP 모드, 머지 모드 또는 스킵 모드가 사용됨을 나타내면, 인터 예측 모드는 대상 블록에 대한 움직임 벡터 예측자가 생성된다는 것을 나타낼 수 있다.
예를 들면, 부호화 장치(1600)에서, 대상 블록의 인터 예측을 위해 AMVP 모드, 머지 모드 또는 스킵 모드가 사용되면, 인터 예측 모드는 대상 블록의 인터 예측을 위해 AMVP 모드, 머지 모드 또는 스킵 모드가 사용됨을 나타낼 수 있고, AMVP 모드, 머지 모드 또는 스킵 모드가 사용됨에 따라 복호화 장치(1700)에서도 움직임 벡터 예측자가 생성될 수 있다.
인터 예측 정보는 리스트에 대한 인덱스를 포함할 수 있다. 리스트에 대한 인덱스는 리스트 내의 하나 이상의 후보들 중 어떤 후보가 대상 블록에 대한 인터 예측을 위해 사용되는가를 가리킬 수 있다. 또는, 리스트의 하나 이상의 후보들 중 리스트에 대한 인덱스가 가리키는 후보는 인터 예측을 위해 사용되는 움직임 벡터 예측자와 동일할 수 있다.
단계(2430)에서, 부호화 장치(1600)의 통신부(1620)는 인터 예측 정보를 포함하는 비트스트림을 복호화 장치(1700)로 전송할 수 있다.
단계(2440)에서, 처리부(1610)는 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행할 수 있다.
예를 들면, 대상 블록에 대해 AMVP 모드가 사용되면, 처리부(1610)는 움직임 벡터 예측자를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다. 이 때, 예측 움직임 벡터 인덱스는 움직임 벡터 후보 리스트 내의 예측 움직임 벡터 후보들 중 움직임 벡터 예측자를 가리킬 수 있다. 또는, 예측 움직임 벡터 후보들 중 예측 움직임 벡터 인덱스가 가리키는 예측 움직임 벡터 후보는 움직임 벡터 예측자와 동일할 수 있다.
예를 들면, 대상 블록에 대해 머지 모드가 사용되면, 처리부(1610)는 움직임 벡터 예측자를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다. 이 때, 머지 인덱스는 머지 리스트 내의 움직임 정보들 중 움직임 벡터 예측자를 포함하는 움직임 정보를 가리킬 수 있다. 또는, 머지 리스트 내의 움직임 정보들 중 머지 인덱스가 가리키는 움직임 정보의 움직임 벡터는 움직임 벡터 예측자와 동일할 수 있다.
또는, 처리부(1610)는 대상 블록의 움직임 벡터를 사용하여 대상 블록에 대한 인터 예측을 수행할 수 있다. 이 때, 대상 블록의 움직임 벡터 및 움직임 벡터 예측자는 특정된 관계를 가질 수 있다.
예를 들면, 인터 예측 모드가 대상 블록의 인터 예측을 위해 AMVP 모드가 사용됨을 나타내면, 대상 블록의 움직임 벡터는 움직임 벡터 예측자 및 인터 예측 정보의 움직임 벡터 차분의 합과 같을 수 있다. 또는, 대상 블록의 움직임 벡터는 움직임 벡터 예측자 및 인터 예측 정보의 움직임 벡터 차분에 기반하여 생성될 수 있다.
예를 들면, 인터 예측 모드가 대상 블록의 인터 예측을 위해 머지 모드가 사용됨을 나타내면, 대상 블록의 움직임 벡터는 움직임 벡터 예측자와 같을 수 있다.
처리부(1710)는 대상 블록에 대한 인터 예측을 수행함으로써 대상 블록에 대한 예측 블록을 생성할 수 있다.
처리부(1710)는 예측 블록 및 재구축된 블록을 합함으로써 재구축된 블록을 생성할 수 있다.
UTMVP를 생성하기 위한 방법들
UTMVP를 획득하기 위해 다양한 방법들이 사용될 수 있다. 아래에서 설명될 방법들을 포함하는 다양한 방법들을 통해 생성된 UTMVP가 대상 블록의 TMVP로서 사용될 수 있다. 이하에서, 용어 "UTMVP 후보"는 용어 "UTMVP"와 동일한 의미로 사용될 수 있다.
아래의 코드 1은 UTMVP를 생성하기 위한 제1 방법을 나타낼 수 있다.
[코드 1]
Figure PCTKR2019001096-appb-I000008
코드 1에서, 프로시듀어 DeriveUTMVP는 생성된 UTMVP를 반환하거나, UTMVP가 가용하지 않음을 나타내는 값을 반환할 수 있다.
코드 1에서 "current PU"는 대상 블록인 PU를 나타낼 수 있다.
코드 1에서, "p"는 콜 픽처 내의 후보 블록인 PU를 나타낼 수 있다. 후보 블록은 콜 픽처 내의 블록들 중 하나의 블록일 수 있다. "ColP"는 콜 픽처를 나타낼 수 있다.
코드 1에서, "curPOC"는 대상 블록을 포함하는 대상 픽처의 POC를 나타낼 수 있다. "colPOC"는 콜 픽처의 POC를 나타낼 수 있다. "p.refPOC"는 후보 블록의 참조 픽처의 POC를 나타낼 수 있다. "refPOC"는 대상 블록의 참조 픽처의 POC를 나타낼 수 있다. 후보 블록의 참조 픽처는 후보 블록이 참조하는 픽처를 의미할 수 있다. 대상 블록의 참조 픽처는 대상 블록이 참조하는 픽처를 의미할 수 있다.
코드 1에서, "scaleDST"는 제1 스케일 계수를 나타낼 수 있다.
코드 1에서, "p.mv"는 후보 블록의 움직임 벡터를 나타낼 수 있다. "dstPt"는 제1 스케일된 움직임 벡터를 나타낼 수 있다.
코드 1에서, 함수 "isInboundOfCurrentPU(dstPt)"는 입력된 움직임 벡터 dstPt가 대상 픽처의 대상 블록을 가리키는지 여부를 반환할 수 있다. 또는, "isInboundOfCurrentPU(dstPt)"는 입력된 움직임 벡터 dstPt가 가리키는 위치가 대상 블록 내에 포함되는지 여부를 반환할 수 있다.
코드 1에서, "scaleSrc"는 제2 스케일 계수를 나타낼 수 있다. "p.mv" 및 "scaleSrc"의 곱은 제2 스케일된 움직임 벡터를 나타낼 수 있다. 제2 스케일된 움직임 벡터는 대상 블록에 대한 UTMVP일 수 있다.
도 25는 일 실시예에 따른 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 23을 참조하여 전술된 단계(2330)는 아래의 단계들(2510 및 2520)을 포함할 수 있다. 또한, 도 24를 참조하여 전술된 단계(2410)는 아래의 단계들(2510 및 2520)을 포함할 수 있다.
단계(2510)에서, 처리부는 후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단할 수 있다.
후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할 것으로 판단된 경우, 단계(2520)가 수행될 수 있다.
후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용하지 않을 것으로 판단된 경우, 현재의 후보 블록에 대한 절차가 종료할 수 있다.
처리부는 특정된 조건에 기반하여 후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단할 수 있다.
예를 들면, 처리부(1610)는 1) 콜 픽처 내의 후보 블록의 움직임 정보, 2) 후보 블록의 움직임 벡터, 3) 후보 블록의 콜 픽처 내에서의 위치, 4) 대상 블록의 대상 픽처 내에서의 위치, 5) 후보 블록의 대상 블록에 대한 상대적 위치, 6) 콜 픽처의 POC, 7) 후보 블록의 참조 픽처의 POC, 8) 대상 픽처의 POC, 9) 대상 블록의 참조 픽처의 POC, 10) 콜 픽처로부터 대상 픽처까지의 제1 시간적 거리, 11) 콜 픽처로부터 후보 블록의 참조 픽처까지의 제2 시간적 거리, 12) 제1 시간적 거리 및 제2 시간적 거리 간의 비율, 13) 대상 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제1 차이, 13) 후보 블록의 참조 픽처의 POC 및 콜 픽처의 POC 간의 차이인 제2 차이 및 15) 제1 차이 및 제2 차이 간의 비율 중 하나 이상에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할지 여부를 판단할 수 있다. 여기에서, 특정된 픽처의 POC는 픽처들 내에서의 픽처의 위치를 의미할 수 있다.
단계(2520)에서, 처리부는 후보 블록의 움직임 정보에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
말하자면, 후보 블록의 움직임 정보가 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
도 26은 일 실시예에 따른 후보 블록의 움직임 정보를 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 방법의 흐름도이다.
도 25를 참조하여 전술된 단계(2510)는 단계들(2610, 2620 및 2630)을 포함할 수 있다.
단계(2610)에서, 처리부는 후보 블록의 움직임 벡터에 대한 제1 스케일링 계수를 계산할 수 있다.
제1 스케일링 계수는 제1 시간적 거리가 제2 시간적 거리로 나뉘어진 값일 수 있다. 또는, 제1 스케일링 계수는 제1 시간적 거리 및 제2 시간적 거리 간의 비율일 수 있다. 제1 시간적 거리는 콜 픽처로부터 대상 픽처까지의 시간적 거리일 수 있다. 제2 시간적 거리는 콜 픽처로부터 후보 블록의 참조 픽처까지의 시간적 거리일 수 있다.
또는, 픽처들 간의 거리는 픽처들의 POC들 간의 차이로 표시될 수 있다. 제1 스케일링 계수는 제1 차이가 제2 차이로 나뉘어진 값일 수 있다. 또는, 제1 스케일링 계수는 제1 차이 및 제2 차이 간의 비율일 수 있다. 제1 차이는 대상 픽처의 POC 및 콜 픽처의 POC 간의 차이일 수 있다. 제2 차이는 후보 블록의 참조 픽처의 POC 및 콜 픽처의 POC 간의 차이일 수 있다.
단계(2620)에서, 처리부는 후보 블록의 움직임 벡터에 대하여 제1 스케일링을 적용함으로써 제1 스케일된 움직임 벡터를 생성할 수 있다.
처리부는 후보 블록의 움직임 벡터에 제1 스케일링 계수를 곱함으로써 제1 스케일된 움직임 벡터를 생성할 수 있다. 말하자면, 제1 스케일된 움직임 벡터는 후보 블록의 움직임 벡터 및 제1 스케일링 계수의 곱일 수 있다.
제1 스케일링 계수는 후보 블록의 움직임 벡터를 대상 픽처 및 대상 블록의 참조 픽처 간의 시간적 방향에 따라 스케일링하는 계수일 수 있다.
제1 스케일된 움직임 벡터는 후보 블록의 움직임 벡터가 가리키는 대상 픽처 내의 위치를 나타낼 수 있다.
단계(2630)에서, 처리부는 제1 스케일된 움직임 벡터가 대상 블록을 가리키는지 여부를 판단할 수 있다.
예를 들면, 제1 스케일된 움직임 벡터의 출발 위치가 후보 블록일 때, 제1 스케일된 움직임 벡터의 도착 위치가 대상 블록의 영역 내에 포함되면, 제1 스케일된 움직임 벡터는 대상 블록을 가리킬 수 있다.
예를 들면, 제1 스케일된 움직임 벡터의 출발 위치가 후보 블록일 때, 제1 스케일된 움직임 벡터의 도착 위치가 대상 블록의 영역 내에 포함되지 않으면, 제1 스케일된 움직임 벡터는 대상 블록을 가리키지 않을 수 있다.
예를 들면, 후보 블록의 위치 및 제1 스케일된 움직임 벡터의 합이 대상 블록의 영역 내에 포함되면, 1 스케일된 움직임 벡터는 대상 블록을 가리킬 수 있다. 예를 들면, 후보 블록의 위치 및 제1 스케일된 움직임 벡터의 합이 대상 블록의 영역을 벗어나면, 제1 스케일된 움직임 벡터는 대상 블록을 가리키지 않을 수 있다.
제1 스케일된 움직임 벡터가 대상 블록을 가리키는 것으로 판단되면, 후보 블록의 움직임 정보가 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용될 수 있고, 단계(2520)가 수행될 수 있다.
제1 스케일된 움직임 벡터가 대상 블록을 가리키지 않는 것으로 판단되면, 후보 블록의 움직임 정보가 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용되지 않을 수 있고, 현재의 후보 블록에 대한 절차가 종료할 수 있다.
도 27은 일 실시예에 따른 후보 블록의 움직임 정보에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 25를 참조하여 전술된 단계(2520)는 단계들(2710 및 2720)을 포함할 수 있다.
단계(2710)에서, 처리부는 후보 블록의 움직임 벡터에 대한 제2 스케일링 계수를 계산할 수 있다.
제2 스케일링 계수는 제3 시간적 거리가 제2 시간적 거리로 나뉘어진 값일 수 있다. 또는, 제2 스케일링 계수는 제3 시간적 거리 및 제2 시간적 거리 간의 비율일 수 있다. 제3 시간적 거리는 대상 픽처로부터 대상 블록의 참조 픽처까지의 시간적 거리일 수 있다. 제2 시간적 거리는 콜 픽처로부터 후보 블록의 참조 픽처까지의 시간적 거리일 수 있다.
또는, 픽처들 간의 거리는 픽처들 간의 POC들 간의 차이로 표시될 수 있다. 제2 스케일링 계수는 제3 차이가 제2 차이로 나뉘어진 값일 수 있다. 또는, 제3 스케일링 계수는 제3 차이 및 제2 차이 간의 비율일 수 있다. 제3 차이는 대상 블록의 참조 픽처의 POC 및 대상 픽처의 POC 간의 차이일 수 있다. 제2 차이는 후보 블록의 참조 픽처의 POC 및 콜 픽처의 POC 간의 차이일 수 있다.
단계(2720)에서, 처리부는 후보 블록의 움직임 벡터에 대하여 제2 스케일링을 적용함으로써 움직임 벡터 예측자를 생성할 수 있다.
처리부는 후보 블록의 움직임 벡터에 제2 스케일링 계수를 곱함으로써 움직임 벡터 예측자를 생성할 수 있다. 말하자면, 움직임 벡터 예측자는 후보 블록의 움직임 벡터 및 제2 스케일링 계수의 곱일 수 있다.
복수의 후보 블록들에 의한 복수의 움직임 벡터 예측자들의 사용
전술된 것과 같이, 특정된 후보 블록에 대해 움직임 벡터 예측자가 계산될 수 있다.
후보 블록은 복수일 수 있다. 복수의 후보 블록들에 대하여 특정된 순서로 도 25의 단계들(2510 및 2520)이 수행될 수 있다.
도 25의 단계들(2510 및 2520)은 복수의 후보 블록들의 각 후보 블록에 대하여 수행될 수 있다. 각 후보 블록에 대해서, 단계(2510)에 의해 후보 블록의 움직임 벡터를 사용하여 움직임 벡터 예측자를 생성할지 여부가 결정될 수 있다.
움직임 벡터 예측자를 생성하기 위해 사용되는 움직임 벡터를 가용한 움직임 벡터로 칭할 수 있다. 가용한 움직임 벡터는 특정된 조건을 충족하는 움직임 벡터일 수 있다. 특정된 조건은 후보 블록의 움직임 벡터에 제1 스케일링을 적용함으로써 생성된 제1 스케일된 벡터가 대상 블록을 가리키는 것일 수 있다. 또는, 특정된 조건은 후보 블록의 움직임 벡터의 궤적이 대상 블록을 관통하는 것일 수 있다. 말하자면, 가용한 움직임 벡터를 사용하여 생성된 제1 스케일된 벡터는 대상 블록을 가리킬 수 있다. 또는, 가용한 움직임 벡터의 궤적은 대상 블록을 관통할 수 있다.
움직임 벡터 예측자를 생성하기 위해 사용되지 않는 움직임 벡터를 비가용한 움직임 벡터로 칭할 수 있다. 비가용한 움직임 벡터는 특정된 조건을 충족하지 않는 움직임 벡터일 수 있다.
단계들(2510 및 2520)에 의해, 복수의 후보 블록들의 복수의 가용한 움직임 벡터들에 기반하여 움직임 벡터 예측자가 생성될 수 있다.
일 실시예에서, 복수의 가용한 움직임 벡터들 중 첫 번째로 계산의 대상이 된 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 복수의 가용한 움직임 벡터들의 평균 값이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 말하자면, 움직임 벡터 예측자는 평균 값 및 제2 스케일링 계수의 곱일 수 있다.
일 실시예에서, 복수의 가용한 움직임 벡터들 중 하나 이상의 움직임 벡터들의 평균 값이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 말하자면, 움직임 벡터 예측자는 평균 값 및 제2 스케일링 계수의 곱일 수 있다.
일 실시예에서, 복수의 가용한 움직임 벡터들 중 특정된 위치에 가장 가깝게 도달하는 제1 스케일된 벡터를 생성하는 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 특정된 위치는 대상 블록의 중심일 수 있다. 또는, 특정된 위치는 대상 블록 내의 특정된 위치일 수 있다.
일 실시예에서, 복수의 가용한 움직임 벡터들 가장 낮은 절대 차이들의 합(Sum of Absolute Differences; SAD)를 갖는 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 여기에서, SAD는 가용한 움직임 벡터를 갖는 후보 블록에 대한 재구축된 블록 및 가용한 움직임 벡터가 가리키는 재구축된 블록 간의 SAD일 수 있다.
일 실시예에서, 대상 블록의 인터 예측 지시자에 기반하여 복수의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 인터 예측 지시자가 L0 예측을 지시하는 경우, 복수의 가용한 움직임 벡터들 중 대상 블록의 L0 참조 픽처 리스트 내의 참조 픽처를 참조하는 하나 이상의 후보 블록들의 하나 이상의 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 인터 예측 지시자가 L1 예측을 지시하는 경우, 복수의 가용한 움직임 벡터들 중 대상 블록의 L1 참조 픽처 리스트 내의 참조 픽처를 참조하는 하나 이상의 후보 블록들의 하나 이상의 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 콜 픽처 내의 복수의 후보 블록들의 인터 예측 지시자들에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 콜 픽처 내의 후보 블록의 인터 예측 지시자가 특정된 예측을 지시하는 경우, 후보 블록의 특정된 예측에 대응하는 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 예를 들면, 특정된 예측은 L0 예측일 수 있고, 대응하는 움직임 벡터는 후보 블록의 L0 움직임 벡터일 수 있다. 또는, 특정된 예측은 L1 예측일 수 있고, 대응하는 움직임 벡터는 후보 블록의 L1 움직임 벡터일 수 있다.
일 실시예에서, 대상 블록의 참조 픽처 인덱스에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 참조 픽처 인덱스가 특정된 참조 픽처를 가리키는 경우, 복수의 후보 블록들 중 특정된 참조 픽처를 참조하는 하나 이상의 후보 블록들의 하나 이상의 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 예를 들면, 특정된 참조 픽처는 L0 참조 픽처 리스트 내의 첫 번째 참조 픽처일 수 있다. 또는, 특정된 참조 픽처는 L1 참조 픽처 리스트 내의 첫 번째 참조 픽처일 수 있다.
일 실시예에서, 콜 픽처 내의 후보 블록들의 참조 픽처 인덱스들에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 후보 블록의 참조 픽처 인덱스가 특정된 참조 픽처를 가리키는 경우, 후보 블록의 참조 픽처 인덱스에 대응하는 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 예를 들면, 특정된 참조 픽처는 L0 참조 픽처 리스트 내의 첫 번째 참조 픽처일 수 있고, 대응하는 움직임 벡터는 L0 움직임 벡터일 수 있다. 또는, 특정된 참조 픽처는 L1 참조 픽처 리스트 내의 첫 번째 참조 픽처일 수 있고, 대응하는 움직임 벡터는 L1 움직임 벡터일 수 있다.
일 실시예에서, 대상 픽처의 POC에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 픽처의 POC 및 후보 블록의 POC 간의 비교에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다. 여기에서, 후보 블록의 POC는 후보 블록이 참조하는 참조 픽처의 POC를 의미할 수 있다.
예를 들면, 대상 픽처의 POC가 후보 블록의 POC보다 더 작을 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 콜 픽처의 POC에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 콜 픽처의 POC 및 후보 블록의 POC 간의 비교에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다. 여기에서, 후보 블록의 POC는 후보 블록이 참조하는 참조 픽처의 POC를 의미할 수 있다.
예를 들면, 콜 픽처의 POC가 후보 블록의 POC보다 더 클 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 후보 블록에 관련된 움직임 벡터의 크기에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다. 여기에서, 관련된 움직임 벡터는 후보 블록의 움직임 벡터, 후보 블록의 제1 스케일된 움직임 벡터 또는 후보 블록의 움직임 벡터 예측자일 수 있다.
예를 들면, 후보 블록에 관련된 움직임 벡터의 크기 및 기정의된 임계 값 간의 비교에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 후보 블록에 관련된 움직임 벡터의 크기가 기정의된 임계 값보다 더 작을 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 특정된 인터 예측 방향에 대하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다. 특정된 인터 예측 방향은 L0 방향 또는 L1 방향일 수 있다.
예를 들면, L0 방향에 대하여, 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, L1 방향에 대하여, 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 대상 블록의 슬라이스 타입 또는 후보 블록의 슬라이스 타입에 따라 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다. 슬라이스 타입은 P 슬라이스 또는 B 슬라이스일 수 있다.
일 실시예에서, 대상 블록의 크기에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 대상 블록의 크기 및 기정의된 크기 간의 비교에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 대상 블록의 크기가 기정의된 크기 MxN 보다 더 작은 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. 또는, 대상 블록의 크기가 기정의된 크기 MxN 보다 더 클 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다. M 및 N의 각각은 양의 정수일 수 있다.
일 실시예에서, 대상 블록의 인터 예측 모드에 따라 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 대상 블록의 인터 예측 모드가 특정된 모드인 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 인터 예측 모드가 머지 모드인 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 인터 예측 모드가 스킵 모드인 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
예를 들면, 대상 블록의 인터 예측 모드가 AMVP 모드인 경우, 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 대상 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 대상 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
일 실시예에서, 후보 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 후보 블록의 가용한 움직임 벡터가 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정될 수 있다.
예를 들면, 후보 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 복수의 후보 블록들의 가용한 움직임 벡터들 중 하나 이상의 가용한 움직임 벡터들이 선택될 수 있고, 하나 이상의 선택된 가용한 움직임 벡터들이 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
전술된 실시예들에 따른 사용 여부를 결정하는 방법들의 하나 이상이 조합될 수 있다.
도 25 내지 도 27을 참조하여 전술된 실시예에 따르면, 하나의 대상 블록에 대해서 콜 픽처 내의 전체의 후보 블록들에 대해 움직임 벡터 예측자가 계산될 수 있다. 즉, 대상 블록이 변경되면, 변경된 대상 블록에 대해 다시 반복하여 전체의 후보 블록들에 대해 움직임 벡터 예측자가 계산될 수 있다. 이러한 반복은 부호화 및/또는 복호화의 계산 복잡도를 크게 증가시킬 수 있다.
아래의 코드 2는 UTMVP를 생성하기 위한 제2 방법을 나타낼 수 있다.
[코드 2]
Figure PCTKR2019001096-appb-I000009
코드 2에서는, 콜 픽처 내의 전체의 후보 블록들에 대해서, 후보 블록의 움직임 벡터를 사용하여 제1 스케일된 움직임 벡터가 생성될 수 있고, 대상 픽처 내의 블록들 중 제1 스케일된 움직임 벡터가 가리키는 목적지 블록이 식별될 수 있다. 후보 블록의 움직임 벡터는 식별된 목적지 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용될 수 있다.
코드 1 및 코드 2에서 공통적으로 나타나는 기호에 있어서, 기호의 의미는 전술된 코드 1에서 설명된 의미와 동일할 수 있다.
코드 2에서, "numberOfPUsInPicture"은 대상 픽처 내의 전체의 블록들의 개수를 나타낼 수 있다. 또는, "numberOfPUsInPicture"은 대상 픽처가 NxN의 크기의 블록들로 분할되었을 때, 분할된 블록들의 개수를 나타낼 수 있다. N은 양의 정수일 수 있다.
코드 2에서 "UTMVPSet"은 대상 픽처 내의 블록들에 대하여 각 블록 별로 블록의 UTMVP를 저장하는 메모리를 나타낼 수 있다. 메모리는 배열(array)일 수 있다. "UTMVPSet[cP]"는 블록 cP의 UTMVP을 나타낼 수 있다.
코드 2에서 "cP"는 대상 픽처 내의 블록들 중 "dstPt"가 가리키는 목적지 블록을 나타낼 수 있다.
도 28은 일 실시예에 따른 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 23을 참조하여 전술된 단계(2330)는 아래의 단계들(2810, 2820, 2830, 2840, 2850 및 2860)을 포함할 수 있다. 또한, 도 24를 참조하여 전술된 단계(2410)는 아래의 단계들(2810, 2820, 2830, 2840, 2850 및 2860)을 포함할 수 있다.
처리부는 콜 픽처 내의 전체의 후보 블록들의 각 후보 블록에 대하여, 아래의 단계들(2810, 2820, 2830, 2840, 2850 및 2860)을 수행할 수 있다.
또는, 처리부는 콜 픽처 내의 선택된 일부의 후보 블록들의 각 후보 블록에 대하여, 아래의 단계들(2810, 2820, 2830, 2840, 2850 및 2860)을 수행할 수 있다.
실시예에서는, 대상 픽처를 특정하기 위해 대상 블록이 사용될 수 있다. 반면, 실시예에서 생성되는 움직임 벡터 예측자는 대상 블록이 아닌 목적지 블록을 위한 움직임 벡터 예측자로 설정될 수 있다.
예를 들면, 선택된 일부의 후보 블록들은 전술된 실시예들에서 특정된 조건에 기반하여 선택되는 것으로 설명된 후보 블록을 포함할 수 있고, 전술된 실시예들에서 특정된 조건에 기반하여 선택되는 것으로 설명된 움직임 벡터를 갖는 후보 블록을 포함할 수 있다.
예를 들면, 처리부는 메모리를 초기화할 수 있다. 메모리는 대상 픽처 내의 블록들에 대하여, 각 블록 별로 블록의 움직임 벡터 예측자를 저장할 수 있다.
단계(2810)에서, 처리부는 후보 블록의 움직임 벡터에 대한 제1 스케일링 계수를 계산할 수 있다.
단계(2810)는 도 26을 참조하여 전술된 단계(2610)에 대응할 수 있다. 중복되는 설명은 생략된다.
단계(2820)에서, 처리부는 후보 블록의 움직임 벡터에 대하여 제1 스케일링을 적용함으로써 제1 스케일된 움직임 벡터를 생성할 수 있다.
단계(2820)는 도 26을 참조하여 전술된 단계(2620)에 대응할 수 있다. 중복되는 설명은 생략된다.
단계(2830)에서, 처리부는 대상 픽처의 블록들 중 제1 스케일된 움직임 벡터가 가리키는 목적지 블록을 식별할 수 있다.
예를 들면, 제1 스케일된 움직임 벡터의 출발 위치가 후보 블록일 때, 목적지 블록은 대상 픽처 내의 블록들 중 제1 스케일된 움직임 벡터의 도착 위치를 포함하는 블록일 수 있다.
예를 들면, 목적지 블록은 대상 픽처 내의 블록들 중 후보 블록의 위치 및 제1 스케일된 움직임 벡터의 합이 가리키는 위치를 포함하는 블록일 수 있다.
단계(2840)에서, 처리부는 후보 블록의 움직임 벡터에 대한 제2 스케일링 계수를 계산할 수 있다.
단계(2840)는 도 27을 참조하여 전술된 단계(2710)에 대응할 수 있다. 중복되는 설명은 생략된다.
단계(2850)에서, 처리부는 후보 블록의 움직임 벡터에 대하여 제2 스케일링을 적용함으로써 움직임 벡터 예측자를 생성할 수 있다.
단계(2850)는 도 27을 참조하여 전술된 단계(2720)에 대응할 수 있다. 중복되는 설명은 생략된다.
단계(2860)에서, 처리부는 생성된 움직임 벡터 예측자를 목적지 블록의 움직임 벡터 예측자로 설정할 수 있다. 이러한 설정을 통해, 목적지 블록이 대상 블록일 경우, 단계(2850)에서 생성된 움직임 벡터 예측자가 대상 블록의 움직임 벡터 예측자가 될 수 있다.
예를 들면, 처리부는 메모리 중 목적지 블록을 나타내는 요소(element)에 움직임 벡터 예측자를 추가할 수 있다. 상기의 목적지 블록을 나타내는 요소는 메모리에 대한 인덱스가 목적지 블록 또는 목적지 블록의 식별자일 때, 메모리의 요소들 중 상기의 인덱스에 의해 접근의 대상으로서 결정되는 요소일 수 있다.
예를 들면, 단계(2830)에서 식별된 목적지 블록이 대상 블록이면, 생성된 움직임 벡터 예측자는 대상 블록의 움직임 벡터 예측자로 설정될 수 있다.
전술된 단계들(2810, 2820, 2830, 2840, 2850 및 2860)의 반복에 의해, 콜 픽처 내의 전체의 후보 블록들 또는 선택된 일부의 후보 블록들의 각 후보 블록에 대해서, 각 후보 블록의 움직임 벡터를 사용하여 목적지 블록에 대한 움직임 벡터 예측자가 생성될 수 있다. 이 때, 각 후보 블록의 움직임 벡터를 사용하여 제1 스케일된 움직임 벡터가 유도될 수 있고, 제1 스케일된 움직임 벡터가 가리키는 목적지 블록이 식별될 수 있다.
일 실시예에서, 실시예의 단계들(2810, 2820, 2830, 2840, 2850 및 2860)은 복수의 참조 픽처 리스트들에 대해 각각 수행될 수 있다.
예를 들면, 대상 픽처의 슬라이스 타입이 B 슬라이스인 경우, 단계들(2810, 2820, 2830, 2840, 2850 및 2860)은 L0 참조 픽처 리스트 및 L1 참조 픽처 리스트에 대하여 각각 수행될 수 있다. 이러한 경우, 메모리는 복수일 수 있으며, 복수의 메모리들이 복수의 참조 픽처 리스트들의 각각에 대하여 사용될 수 있다.
아래의 코드 3은 UTMVP를 생성하기 위한 제3 방법을 나타낼 수 있다.
[코드 3]
Figure PCTKR2019001096-appb-I000010
코드 3에서는, 대상 블록에 대한 UTMVP의 계산을 시작하기 위한 조건과, 후보 블록을 선택하는 조건이 부가되었다. 이러한 조건들을 충족시키는 대상 블록 및 후보 블록에 대해서만 UTMVP가 유도됨에 따라, 코드 3을 사용하는 부호화 및/또는 복호화의 계산량은 코드 1을 사용하는 부호화 및/또는 복호화의 계산량에 비해 더 감소될 수 있다.
코드 1 및 코드 3에서 공통적으로 나타나는 기호에 있어서, 기호의 의미는 전술된 코드 1에서 설명된 의미와 동일할 수 있다.
코드 3에서, "x" 및 "y"는 대상 블록의 좌표들을 나타낼 수 있다.
코드 3에서, "TMVP"는 대상 블록에 대한 TMVP일 수 있다. "∥ ∥"는 입력 값의 크기를 반환하는 함수일 수 있다. "T"는 제1 임계치를 나타낼 수 있다.
코드 3에서, "p.x" 및 "p.y"는 후보 블록의 좌표들을 나타낼 수 있다.
코드 3에서, "abs( )"는 입력 값의 절대 값을 반환하는 함수일 수 있다.
코드 3에서, "S"는 제2 임계치를 나타낼 수 있다.
도 29는 일 실시예에 따른 특정된 조건을 사용하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 방법의 흐름도이다.
도 23을 참조하여 전술된 단계(2330)는 아래의 단계들(2910, 2920, 2930 및 2940)을 포함할 수 있다. 또한, 도 24를 참조하여 전술된 단계(2410)는 아래의 단계들(2910, 2920, 2930 및 2940)을 포함할 수 있다.
단계(2910)에서, 처리부는 대상 블록에 대한 움직임 벡터 예측자를 유도할지 여부를 판단할 수 있다.
처리부는 특정된 조건에 따라서 대상 블록에 대한 움직임 벡터 예측자를 유도할지 여부를 판단할 수 있다.
일 실시예에서, 처리부는 대상 블록의 TMVP의 크기 및 제1 임계치 간의 비교의 결과에 기반하여 특정된 조건에 따라서 대상 블록에 대한 움직임 벡터 예측자를 유도할지 여부를 판단할 수 있다.
예를 들면, 처리부는 대상 블록의 TMVP의 크기가 제1 임계치의 이상인 경우 대상 블록에 대한 움직임 벡터 예측자를 유도할 수 있다.
예를 들면, 처리부는 대상 블록의 TMVP의 크기가 제1 임계치 보다 더 작은 경우 대상 블록에 대한 움직임 벡터 예측자를 유도하지 않을 수 있다.
일 실시예에서, TMVP의 크기는 TMVP의 움직임 벡터의 x 성분 및 y 성분 중 하나 이상에 기반하여 계산될 수 있다.
예를 들면, TMVP의 크기는 x 성분의 절대 값 및 y 성분의 절대 값의 합일 수 있다.
예를 들면, TMVP의 크기는 x 성분의 값의 제곱 및 y 성분의 값의 제곱의 합일 수 있다.
예를 들면, TMVP의 크기는 x 성분의 값의 제곱 및 y 성분의 값의 제곱의 합의 제곱근일 수 있다.
예를 들면, 제1 임계치는 TMVP의 크기에 따른 오차의 크기에 따라서 부호화 장치(1600) 및 복호화 장치(1700)에서 미리 정해질 수 있다. 말하자면, 제1 임계치는 기정의된 상수일 수 있다.
예를 들면, 제1 임계치는 대상 블록의 코딩 파라미터, 대상 블록의 주변 블록의 코딩 파라미터, 콜 픽처의 블록의 코딩 파라미터 및 콜 블록의 코딩 파라미터에 기반하여 결정될 수 있다.
예를 들면, 제1 임계치는 특정된 단위에 대해서 결정될 수 있다. 결정된 제1 임계치는 비트스트림을 통해 부호화 장치(1600)로부터 복호화 장치(1700)로 시그널링될 수 있다. 제1 임계치의 시그널링에 있어서, 부호화 장치(1600)에서의 엔트로피 부호화 및 복호화 장치(1700)에서의 엔트로피 복호화가 사용될 수 있다. 특정된 단위는 SPS, PPS, 슬라이스 및 CTU 등과 같은 전술된 부호화 및/또는 복호화의 단위일 수 있다.
대상 블록에 대한 움직임 벡터 예측자를 유도하는 것으로 판단되면, 단계(2920)가 수행될 수 있다.
대상 블록에 대한 움직임 벡터 예측자를 유도하지 않는 것으로 판단되면, 절차가 종료할 수 있다.
단계(2920)에서, 처리부는 특정된 조건에 따라 후보 블록을 선택할 수 있다.
처리부는 콜 픽처 내의 전체의 블록들 중 특정된 조건을 충족시키는 블록을 후보 블록으로서 선택할 수 있다.
또는, 처리부는 콜 픽처 내의 전체의 블록들의 각 블록에 대해서, 블록이 특정된 조건을 충족시키는지 여부에 따라 블록을 후보 블록으로서 선택할지 여부를 결정할 수 있다.
일 실시예에서, 처리부는 대상 블록의 위치 또는 영역에 기반하여 후보 블록을 선택할 수 있다.
예를 들면, 처리부는 대상 블록의 위치들 중 적어도 하나에 기반하여 후보 블록을 선택할 수 있다. 대상 블록의 위치들은 대상 블록의 중심 위치, 좌측 상단 위치, 우측 상단 위치, 좌측 하단 위치 및 우측 하단 위치일 수 있다.
예를 들면, 처리부는 대상 블록의 위치 또는 영역을 사용하여 결정된 후보 영역에 기반하여 후보 블록을 선택할 수 있다.
일 실시예에서, 처리부는 콜 블록의 위치 또는 영역에 기반하여 후보 블록을 선택할 수 있다.
예를 들면, 처리부는 콜 블록의 위치들 중 적어도 하나에 기반하여 후보 블록을 선택할 수 있다. 콜 블록의 위치들은 콜 블록의 중심 위치, 좌측 상단 위치, 우측 상단 위치, 좌측 하단 위치 및 우측 하단 위치일 수 있다.
예를 들면, 처리부는 콜 블록의 위치 또는 영역을 사용하여 결정된 후보 영역에 기반하여 후보 블록을 선택할 수 있다.
예를 들면, 처리부는 콜 픽처 내의 블록들 중 후보 영역 내의 블록 만을 후보 블록으로서 선택할 수 있다.
예를 들면, 후보 영역은 콜 블록의 위치가 중심인 특정된 크기의 정사각형일 수 있다. 정사각형의 가로 길이 및 세로 길이는 제2 임계치에 따라서 결정될 수 있다. 예를 들면, 정사각형의 가로 길이 및 세로 길이는 제2 임계치의 2 배일 수 있다.
예를 들면, 처리부는 1) 콜 픽처 내의 블록의 x 좌표 및 대상 블록의 x 좌표 간의 차이의 절대 값이 제2 임계치보다 더 작고, 2) 상기의 콜 픽처 내의 블록의 y 좌표 및 대상 블록의 y 좌표 간의 차이의 절대 값이 제2 임계치보다 더 작으면, 상기의 콜 픽처 내의 블록을 후보 블록으로서 선택할 수 있다. 말하자면, 콜 픽처 내의 블록들 중 움직임 벡터 예측자를 생성하기 위해 후보 블록으로서 검색되는 블록들은 특정된 정사각형 내의 블록들로 한정될 수 있다. 여기에서, 특정된 정사각형의 중심은 대상 블록의 좌표들일 수 있으며, 특정된 정사각형의 가로 길이 및 세로 길이는 제2 임계치의 2 배일 수 있다.
예를 들면, 제2 임계치는 대상 블록의 코딩 파라미터, 대상 블록의 주변 블록의 코딩 파라미터, 콜 픽처의 블록의 코딩 파라미터 및 콜 블록의 코딩 파라미터에 기반하여 결정될 수 있다. 제2 임계치는 대상 블록의 크기에 기반하여 결정될 수 있다.
예를 들면, 제2 임계치는 기정의된 상수일 수 있다.
예를 들면, 제2 임계치는 특정된 단위에 대해서 결정될 수 있다. 결정된 제2 임계치는 비트스트림을 통해 부호화 장치(1600)로부터 복호화 장치(1700)로 시그널링될 수 있다. 제2 임계치의 시그널링에 있어서, 부호화 장치(1600)에서의 엔트로피 부호화 및 복호화 장치(1700)에서의 엔트로피 복호화가 사용될 수 있다. 특정된 단위는 SPS, PPS, 슬라이스 및 CTU 등과 같은 전술된 부호화 및/또는 복호화의 단위일 수 있다.
단계(2930)에서, 처리부는 후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단할 수 있다.
단계(2930)은 도 25를 참조하여 전술된 단계(2510)에 대응할 수 있다. 예를 들면, 단계(2930)는 단계들(2610, 2620 및 2630)을 포함할 수 있다. 중복되는 설명은 생략된다.
단계(2940)에서, 처리부는 후보 블록의 움직임 정보에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성할 수 있다.
단계(2940)는 도 25를 참조하여 전술된 단계(2520)에 대응할 수 있다. 예를 들면, 단계(2940)는 단계들(2710 및 2720)을 포함할 수 있다. 중복되는 설명은 생략된다.
특정 인터 예측 모드에 대한 움직임 벡터 예측자의 사용
전술된 것과 같이 생성된 UTMVP는 아래와 같이 머지 모드 및 AMVP 모드 등에서 사용될 수 있다. 여기에서, UTMVP는 도 23 내지 도 29를 참조하여 설명된 움직임 벡터 예측자일 수 있다.
머지 모드에서, UTMVP는 TMVP를 대체할 수 있다. 말하자면, 전술된 TMVP가 사용되지 않을 수 있고, TMVP에 대한 설명은 UTMVP에 적용될 수 있다.
머지 모드에서, TMVP가 사용될 수 있다. 이때, 사용되는 TMVP는 전술된 UTVMP에 대한 다양한 실시예들 중 적어도 하나가 적용된 TMVP일 수 있다.
예를 들면, 머지 모드에서, UTMVP는 선택적으로 TMVP를 대체할 수 있다. 예를 들면, TMVP의 크기가 임계치보다 더 작은 경우 TMVP가 사용될 수 있고, TMVP의 크기가 임계치의 이상인 경우 UTMVP가 사용될 수 있다.
또는, 실시예들의 UTMVP는 TMVP의 우선순위보다 더 높은 우선순위를 갖고 머지 후보 리스트에 추가될 수 있다. 이 때, UTMVP의 개수 및 TMVP의 개수는 각각 기정의될 수 있다.
또는, 실시예들의 UTMVP는 TMVP의 우선순위보다 더 낮은 우선순위를 갖고 머지 후보 리스트에 추가될 수 있다. 이 때, UTMVP의 개수 및 TMVP의 개수는 각각 기정의될 수 있다.
머지 모드에서, PU는 특정된 크기의 서브 블록들로 분할될 수 있고, 분할된 서브 블록들의 각 서브 블록에 대해서 UTMVP가 계산될 수 있고, 계산된 UTMVP가 사용될 수 있다.
전술된 머지 모드에 대한 방법들의 하나 이상이 조합될 수 있다. 또한, 전술된 머지 모드에 대한 방법들은 스킵 모드에도 적용될 수 있다.
AMVP 모드에서, UTMVP는 TMVP를 대체할 수 있다. 말하자면, 전술된 TMVP가 사용되지 않을 수 있고, TMVP에 대한 설명은 UTMVP에 적용될 수 있다.
AMVP 모드에서, TMVP가 사용될 수 있다. 이때, 사용되는 TMVP는 전술된 UTVMP에 대한 다양한 실시예들 중 적어도 하나가 적용된 TMVP일 수 있다.
예를 들면, AMVP 모드에서, UTMVP는 선택적으로 TMVP를 대체할 수 있다. 예를 들면, TMVP의 크기가 임계치보다 더 작은 경우 TMVP가 사용될 수 있고, TMVP의 크기가 임계치의 이상인 경우 UTMVP가 사용될 수 있다.
또는, 실시예들의 UTMVP는 TMVP의 우선순위보다 더 높은 우선순위를 갖고 AMVP 후보 리스트에 추가될 수 있다. 이 때, UTMVP의 개수 및 TMVP의 개수는 각각 기정의될 수 있다.
또는, 실시예들의 UTMVP는 TMVP의 우선순위보다 더 낮은 우선순위를 갖고 AMVP 후보 리스트에 추가될 수 있다. 이 때, UTMVP의 개수 및 TMVP의 개수는 각각 기정의될 수 있다.
전술된 AMVP 모드에 대한 방법들의 하나 이상이 조합될 수 있다.
상술한 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.
컴퓨터 판독 가능한 기록 매체는 본 발명에 따른 실시예들에서 사용되는 정보를 포함할 수 있다. 예를 들면, 컴퓨터 판독 가능한 기록 매체는 비트스트림을 포함할 수 있고, 비트스트림은 본 발명에 따른 실시예들에서 설명된 정보를 포함할 수 있다.
컴퓨터 판독 가능한 기록 매체는 비-일시적 컴퓨터 판독 가능한 매체(non-transitory computer-readable medium)를 포함할 수 있다.
컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (20)

  1. 대상 블록의 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 단계; 및
    상기 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행하는 단계를 포함하는, 복호화 방법.
  2. 제1항에 있어서,
    상기 움직임 벡터 예측자를 생성할지 여부는 상기 대상 블록에 대한 인터 예측 정보의 인터 예측 모드에 기반하여 결정되는, 복호화 방법.
  3. 제2항에 있어서,
    상기 움직임 벡터 예측자는 상기 인터 예측 모드가 향상된 움직임 벡터 예측(advanced motion vector prediction; AMVP) 모드, 머지 모드 또는 스킵 모드이면 생성되는, 복호화 방법.
  4. 제1항에 있어서,
    상기 움직임 벡터 예측자는 후보로서 상기 대상 블록에 대한 리스트에 추가되는, 복호화 방법.
  5. 제1항에 있어서,
    상기 움직임 벡터 예측자를 생성하는 단계는,
    상기 후보 블록의 움직임 정보를 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 단계; 및
    상기 후보 블록의 상기 움직임 정보에 기반하여 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하는 단계
    를 포함하는, 복호화 방법.
  6. 제5항에 있어서,
    상기 후보 블록의 상기 움직임 벡터에 대하여 제1 스케일링을 적용함으로써 제1 스케일된 움직임 벡터가 생성되고,
    상기 제1 스케일된 움직임 벡터가 상기 대상 블록을 가리키면 상기 후보 블록의 움직임 정보가 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하기 위해 사용되는, 복호화 방법.
  7. 제6항에 있어서,
    상기 제1 스케일된 움직임 벡터는 상기 후보 블록의 움직임 벡터에 제1 스케일링 계수를 곱함으로써 생성되는, 복호화 방법.
  8. 제7항에 있어서,
    상기 제1 스케일링 계수는 제1 시간적 거리가 제2 시간적 거리로 나뉘어진 값이고,
    상기 제1 시간적 거리는 상기 콜 픽처로부터 대상 픽처까지의 시간적 거리이고,
    상기 제2 시간적 거리는 상기 콜 픽처로부터 상기 후보 블록의 참조 픽처까지의 시간적 거리이고,
    상기 대상 픽처는 상기 대상 블록을 포함하는 픽처인, 복호화 방법.
  9. 제7항에 있어서,
    상기 제1 스케일링 계수는 상기 후보 블록의 상기 움직임 벡터를 대상 픽처 및 대상 블록의 참조 픽처 간의 시간적 방향에 따라 스케일링하는 계수이고,
    상기 대상 픽처는 상기 대상 블록을 포함하는 픽처인, 복호화 방법.
  10. 제5항에 있어서,
    상기 후보 블록의 상기 움직임 벡터에 대하여 제2 스케일링을 적용함으로써 상기 움직임 벡터 생성자가 생성되는, 복호화 방법.
  11. 제5항에 있어서,
    상기 움직임 벡터 생성자는 상기 후보 블록의 상기 움직임 벡터에 대하여 제2 스케일링 계수를 곱함으로써 생성되고,
    상기 제2 스케일링 계수는 제3 시간적 거리가 제2 시간적 거리로 나뉘어진 값이고,
    상기 제3 시간적 거리는 상기 대상 픽처로부터 상기 대상 블록의 참조 픽처까지의 시간적 거리이고,
    상기 제2 시간적 거리는 상기 콜 픽처로부터 상기 후보 블록의 참조 픽처까지의 시간적 거리이고,
    상기 대상 픽처는 상기 대상 블록을 포함하는 픽처인, 복호화 방법.
  12. 제5항에 있어서,
    상기 후보 블록은 복수인, 복호화 방법.
  13. 제12항에 있어서,
    상기 복수의 후보 블록들의 복수의 움직임 벡터들의 평균 값이 상기 움직임 벡터 예측자를 생성하기 위해 사용되는, 복호화 방법.
  14. 제12항에 있어서,
    상기 복수의 후보 블록들의 인터 예측 지시자들 또는 상기 대상 블록의 인터 예측 지시자에 기반하여 상기 복수의 후보 블록들의 복수의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택되고,
    상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용되는, 복호화 방법.
  15. 제12항에 있어서,
    상기 복수의 후보 블록들의 참조 픽처 인덱스들 또는 상기 대상 블록의 참조 픽처 인덱스에 기반하여 상기 복수의 후보 블록들의 복수의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택되고,
    상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용되는, 복호화 방법.
  16. 제12항에 있어서,
    상기 대상 블록의 코딩 파라미터들 중 적어도 하나에 기반하여 상기 복수의 후보 블록들의 움직임 벡터들 중 하나 이상의 움직임 벡터들이 선택되고,
    상기 하나 이상의 선택된 움직임 벡터들이 상기 움직임 벡터 예측자를 생성하기 위해 사용되는, 복호화 방법.
  17. 제5항에 있어서,
    상기 후보 블록에 관련된 움직임 벡터의 크기에 기반하여 상기 후보 블록의 움직임 벡터가 상기 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정되는, 복호화 방법.
  18. 제5항에 있어서,
    상기 대상 블록의 크기에 기반하여 상기 후보 블록의 움직임 벡터가 상기 움직임 벡터 예측자를 생성하기 위해 사용될지 여부가 결정되는, 복호화 방법.
  19. 대상 블록의 콜 픽처 내의 후보 블록의 움직임 벡터에 기반하여 대상 블록에 대한 움직임 벡터 예측자를 생성하는 단계; 및
    상기 움직임 벡터 예측자에 기반하여 대상 블록에 대한 인터 예측을 수행하는 단계를 포함하는, 부호화 방법.
  20. 후보 블록의 움직임 정보를 대상 블록에 대한 움직임 벡터 예측자를 생성하기 위해 사용할지 여부를 판단하는 단계; 및
    상기 후보 블록의 상기 움직임 정보에 기반하여 상기 대상 블록에 대한 상기 움직임 벡터 예측자를 생성하는 단계
    를 포함하는, 움직임 벡터 예측자 생성 방법.
PCT/KR2019/001096 2018-01-26 2019-01-25 시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치 WO2019147067A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US16/964,878 US11425390B2 (en) 2018-01-26 2019-01-25 Method and apparatus for image encoding and image decoding using temporal motion information
CN201980022099.6A CN111919448A (zh) 2018-01-26 2019-01-25 用于使用时间运动信息的图像编码和图像解码的方法和设备
US17/864,226 US11943447B2 (en) 2018-01-26 2022-07-13 Method and apparatus for image encoding and decoding using temporal motion information

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2018-0010177 2018-01-26
KR20180010177 2018-01-26
KR1020190009837A KR20190091217A (ko) 2018-01-26 2019-01-25 시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치
KR10-2019-0009837 2019-01-25

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/964,878 A-371-Of-International US11425390B2 (en) 2018-01-26 2019-01-25 Method and apparatus for image encoding and image decoding using temporal motion information
US17/864,226 Continuation US11943447B2 (en) 2018-01-26 2022-07-13 Method and apparatus for image encoding and decoding using temporal motion information

Publications (1)

Publication Number Publication Date
WO2019147067A1 true WO2019147067A1 (ko) 2019-08-01

Family

ID=67395054

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/001096 WO2019147067A1 (ko) 2018-01-26 2019-01-25 시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치

Country Status (2)

Country Link
US (1) US11943447B2 (ko)
WO (1) WO2019147067A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110505486A (zh) * 2019-08-23 2019-11-26 绍兴文理学院 一种对高概率运动矢量映射的编码及解码方法
CN110602502A (zh) * 2019-08-23 2019-12-20 绍兴文理学院 一种运动矢量编码和解码的方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2020009056A (es) * 2018-03-01 2020-12-03 Arris Entpr Llc Sistema y método de almacenamiento de información de movimiento para codificación y señalizacion de video.

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130223533A1 (en) * 2002-01-25 2013-08-29 Microsoft Corporation Video coding
US9392235B2 (en) * 2011-11-18 2016-07-12 Google Technology Holdings LLC Explicit way for signaling a collocated reference picture for video coding
WO2017076221A1 (en) * 2015-11-05 2017-05-11 Mediatek Inc. Method and apparatus of inter prediction using average motion vector for video coding
US20170150168A1 (en) * 2011-05-31 2017-05-25 JVC Kenwood Corporation Moving picture coding device, moving picture coding method, and moving picture coding program
KR20170131321A (ko) * 2011-07-12 2017-11-29 한국전자통신연구원 인터 예측 방법 및 그 장치

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711211B1 (en) 2000-05-08 2004-03-23 Nokia Mobile Phones Ltd. Method for encoding and decoding video information, a motion compensated video encoder and a corresponding decoder
KR101522850B1 (ko) * 2010-01-14 2015-05-26 삼성전자주식회사 움직임 벡터를 부호화, 복호화하는 방법 및 장치
CN102823248B (zh) * 2010-04-08 2015-06-24 株式会社东芝 图像编码方法以及图像编码装置
US20120075436A1 (en) * 2010-09-24 2012-03-29 Qualcomm Incorporated Coding stereo video data
EP2675167B1 (en) * 2011-02-10 2018-06-20 Sun Patent Trust Moving picture encoding method, moving picture encoding device, moving picture decoding method, moving picture decoding device, and moving picture encoding decoding device
WO2012122927A1 (en) 2011-03-14 2012-09-20 Mediatek Inc. Method and apparatus for derivation of motion vector candidate and motion vector prediction candidate
US9819963B2 (en) 2011-07-12 2017-11-14 Electronics And Telecommunications Research Institute Inter prediction method and apparatus for same
KR20130030181A (ko) 2011-09-16 2013-03-26 한국전자통신연구원 움직임 벡터 예측기를 이용한 움직임 벡터 부호화/복호화 방법 및 장치
KR101711355B1 (ko) * 2011-09-28 2017-02-28 가부시키가이샤 제이브이씨 켄우드 동영상 디코딩 장치, 동영상 디코딩 방법 및 동영상 디코딩 프로그램을 저장한 기록매체
TWI559747B (zh) * 2011-12-28 2016-11-21 Jvc Kenwood Corp A dynamic image coding apparatus, a motion picture coding method and a motion picture coding program, and a motion picture decoding apparatus, a motion picture decoding method, and a motion picture decoding program
CN110809157B (zh) 2012-01-18 2023-05-02 韩国电子通信研究院 视频解码装置、视频编码装置和传输比特流的方法
AU2013285749B2 (en) 2012-07-02 2016-06-16 Samsung Electronics Co., Ltd. Method and apparatus for predicting motion vector for coding video or decoding video
JP6131652B2 (ja) * 2013-03-18 2017-05-24 富士通株式会社 符号化装置、符号化方法、および符号化プログラム
KR102438181B1 (ko) * 2017-06-09 2022-08-30 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
US10735758B2 (en) * 2017-12-07 2020-08-04 Tencent America LLC Method and apparatus for video coding
CN111886861B (zh) * 2018-02-22 2023-12-22 Lg电子株式会社 根据图像编码系统中的块划分结构的图像解码方法和设备
CN111919447A (zh) * 2018-03-14 2020-11-10 韩国电子通信研究院 用于对图像进行编码/解码的方法和装置以及存储有比特流的记录介质
KR102570087B1 (ko) * 2018-03-27 2023-08-25 (주)휴맥스 모션 보상을 이용하는 비디오 신호 처리 방법 및 장치
WO2020009449A1 (ko) * 2018-07-02 2020-01-09 엘지전자 주식회사 어파인 예측을 이용하여 비디오 신호를 처리하기 위한 방법 및 장치
US11297330B2 (en) * 2018-09-22 2022-04-05 Lg Electronics Inc. Method and apparatus for processing video signal based on inter prediction
WO2020141879A1 (ko) * 2019-01-02 2020-07-09 엘지전자 주식회사 영상 코딩 시스템에서 서브 블록 기반 시간적 머지 후보를 사용하는 어파인 움직임 예측에 기반한 영상 디코딩 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130223533A1 (en) * 2002-01-25 2013-08-29 Microsoft Corporation Video coding
US20170150168A1 (en) * 2011-05-31 2017-05-25 JVC Kenwood Corporation Moving picture coding device, moving picture coding method, and moving picture coding program
KR20170131321A (ko) * 2011-07-12 2017-11-29 한국전자통신연구원 인터 예측 방법 및 그 장치
US9392235B2 (en) * 2011-11-18 2016-07-12 Google Technology Holdings LLC Explicit way for signaling a collocated reference picture for video coding
WO2017076221A1 (en) * 2015-11-05 2017-05-11 Mediatek Inc. Method and apparatus of inter prediction using average motion vector for video coding

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110505486A (zh) * 2019-08-23 2019-11-26 绍兴文理学院 一种对高概率运动矢量映射的编码及解码方法
CN110602502A (zh) * 2019-08-23 2019-12-20 绍兴文理学院 一种运动矢量编码和解码的方法
CN110505486B (zh) * 2019-08-23 2022-09-02 绍兴文理学院 一种对高概率运动矢量映射的编码及解码方法

Also Published As

Publication number Publication date
US20220353509A1 (en) 2022-11-03
US11943447B2 (en) 2024-03-26

Similar Documents

Publication Publication Date Title
WO2019112394A1 (ko) 채널들 간의 선택적인 정보 공유를 사용하는 부호화 및 복호화를 위한 방법 및 장치
WO2019190224A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2019177354A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018012886A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 기록 매체
WO2018026148A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018174617A1 (ko) 블록 형태에 기반한 예측 방법 및 장치
WO2019107927A1 (ko) 양방향 인트라 예측 방법 및 장치
WO2019022568A1 (ko) 영상 처리 방법, 그를 이용한 영상 부호화/복호화 방법 및 그 장치
WO2018097700A1 (ko) 필터링을 위한 방법 및 장치
WO2018174618A1 (ko) 참조 블록을 사용하는 예측 방법 및 장치
WO2020050600A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2021015581A1 (ko) 기하학적 분할을 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2020256522A1 (ko) 영역 분할을 사용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치
WO2021112651A1 (ko) 팔레트 모드를 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2021054805A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2021112652A1 (ko) 영역 차등적 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2022019613A1 (ko) 기하학적 분할을 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2019074273A1 (ko) 인터 예측 정보를 사용하는 방법 및 장치
WO2019147067A1 (ko) 시간적 움직임 정보를 이용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치
WO2019117645A1 (ko) 예측 네트워크를 사용하는 영상의 부호화 및 복호화를 위한 방법 및 장치
WO2020256495A1 (ko) 참조 픽처를 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2020256324A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020209671A1 (ko) 화면 내 예측에서 예측 모드 관련 신호를 시그널링하는 방법 및 장치
WO2021029720A1 (ko) 분할을 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2020184920A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19743150

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19743150

Country of ref document: EP

Kind code of ref document: A1