WO2021060829A1 - 비디오 신호 처리 방법 및 장치 - Google Patents

비디오 신호 처리 방법 및 장치 Download PDF

Info

Publication number
WO2021060829A1
WO2021060829A1 PCT/KR2020/012865 KR2020012865W WO2021060829A1 WO 2021060829 A1 WO2021060829 A1 WO 2021060829A1 KR 2020012865 W KR2020012865 W KR 2020012865W WO 2021060829 A1 WO2021060829 A1 WO 2021060829A1
Authority
WO
WIPO (PCT)
Prior art keywords
flag
residual coefficient
transform
value
encoded
Prior art date
Application number
PCT/KR2020/012865
Other languages
English (en)
French (fr)
Inventor
임성원
Original Assignee
주식회사 케이티
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 케이티 filed Critical 주식회사 케이티
Priority to CN202080066694.2A priority Critical patent/CN114521329A/zh
Priority to US17/760,554 priority patent/US20220408087A1/en
Publication of WO2021060829A1 publication Critical patent/WO2021060829A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/93—Run-length coding

Definitions

  • the present disclosure relates to a video signal processing method and apparatus.
  • High-resolution and high-quality images such as high definition (HD) images and ultra high definition (UHD) images is increasing in various application fields.
  • the higher the resolution and quality of the video data the higher the amount of data is compared to the existing video data. Therefore, when the video data is transmitted using a medium such as an existing wired/wireless broadband line or stored using an existing storage medium, the transmission cost and The storage cost will increase.
  • High-efficiency image compression techniques can be used to solve these problems that occur as image data becomes high-resolution and high-quality.
  • Inter-screen prediction technology that predicts pixel values included in the current picture from a picture before or after the current picture with image compression technology
  • intra prediction technology that predicts pixel values included in the current picture using pixel information in the current picture
  • Various technologies exist such as an entropy encoding technology that allocates a short code to a value with a high frequency of appearance and a long code to a value with a low frequency of appearance, and it is possible to effectively compress and transmit or store image data using this image compression technology.
  • An object of the present disclosure is to provide a method and apparatus for efficiently encoding/decoding residual coefficients in encoding/decoding a video signal.
  • An object of the present disclosure is to provide a method and apparatus for additionally applying a second transform to a result of a first transform in encoding/decoding a video signal.
  • the video signal encoding method includes determining whether to skip a transformation in a current block, quantizing a result of applying the transformation or a result of skipping the transformation, and calculating a residual coefficient output as a result of the quantization. It may include the step of encoding. In this case, when encoding the residual coefficient, one of a first syntax indicating whether the residual coefficient is greater than 0 and a second syntax indicating an absolute value of the residual coefficient may be alternatively encoded.
  • whether to decode the first syntax or the second syntax may be determined by comparing the number of bins decoded using context information with a threshold value.
  • the number of bins decoded using the context information may increase.
  • an absolute value of the residual coefficient is greater than 1 Gt_1_flag indicating whether to have it may be additionally decoded.
  • gt_1_flag indicates that the absolute value has a value greater than 1
  • a parity flag indicating whether the absolute value is an even number and a parity flag indicating whether the absolute value is greater than 3 gt_2_flag may be additionally decoded.
  • the threshold value may be determined based on the size of the current block.
  • encoding/decoding efficiency can be improved by setting the encoding method of a residual coefficient differently according to the number of bins encoded using context information.
  • encoding/decoding efficiency can be improved by additionally applying the second transform to the first transformed result.
  • FIG. 1 is a block diagram illustrating an image encoding apparatus according to an embodiment of the present disclosure.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to an embodiment of the present disclosure.
  • FIG. 3 is a flowchart illustrating an intra prediction method according to an embodiment of the present disclosure.
  • FIG. 5 is a diagram for explaining an example of deriving a prediction sample under a planar mode.
  • FIG. 6 shows an example in which prediction samples are generated in a horizontal mode and a vertical mode.
  • FIG. 7 and 8 are diagrams illustrating an example in which a second transform is applied.
  • FIG. 9 and 10 illustrate a second transform based on a second transform kernel of an asymmetric form.
  • 11 illustrates an example in which information indicating whether or not to apply a second transform is determined based on the position of the last non-zero coefficient.
  • FIG. 13 is a diagram illustrating an example in which a second transform kernel having a predefined size is applied.
  • 15 is a flowchart illustrating a process of encoding a residual coefficient in an encoder.
  • 16 is a flowchart illustrating a process of encoding information on the size of a residual coefficient.
  • 17 is a flowchart illustrating a process of decoding a residual coefficient in a decoder.
  • 18 is a diagram illustrating a process of decoding information on the size of a residual coefficient.
  • 19 and 20 are diagrams illustrating an example of counting the number of bins using context information.
  • 21 to 23 illustrate examples of different priorities between syntaxes encoded using context information.
  • 24 and 25 illustrate a surrounding restoration area referred to to determine context information.
  • 26 illustrates the number of context information that can be referenced when encoding a flag sig_flag.
  • 27 illustrates the number of referenced context information when encoding gt_N_flag or par_flag.
  • first and second may be used to describe various elements, but the elements should not be limited by the terms. The above terms are used only for the purpose of distinguishing one component from another component. For example, without departing from the scope of the present disclosure, a first element may be referred to as a second element, and similarly, a second element may be referred to as a first element.
  • the term and/or includes a combination of a plurality of related listed items or any of a plurality of related listed items.
  • FIG. 1 is a block diagram illustrating an image encoding apparatus according to an embodiment of the present disclosure.
  • the image encoding apparatus 100 includes a picture splitter 110, a prediction unit 120, 125, a transform unit 130, a quantization unit 135, a rearrangement unit 160, and an entropy encoder ( 165, an inverse quantization unit 140, an inverse transform unit 145, a filter unit 150, and a memory 155.
  • each of the components shown in FIG. 1 is shown independently to represent different characteristic functions in an image encoding apparatus, and does not mean that each component is formed of separate hardware or a single software component. That is, each constituent part is listed and included as a constituent part for convenience of explanation, and at least two constituent parts of each constituent part are combined to form one constituent part, or one constituent part is divided into a plurality of constituent parts to perform functions Integrated embodiments and separate embodiments of the components are also included in the scope of the present disclosure unless departing from the essence of the present disclosure.
  • the components are not essential components that perform essential functions in the present disclosure, but may be optional components only for improving performance.
  • the present disclosure may be implemented by including only components essential to implement the essence of the present disclosure excluding components used for performance improvement, and a structure including only essential components excluding optional components used for performance improvement Also included in the scope of the present disclosure.
  • the picture dividing unit 110 may divide the input picture into at least one processing unit.
  • the processing unit may be a prediction unit (PU), a transform unit (TU), or a coding unit (CU).
  • the picture splitter 110 divides one picture into a combination of a plurality of coding units, prediction units, and transformation units, and combines one coding unit, a prediction unit, and a transformation unit based on a predetermined criterion (for example, a cost function). You can select to encode the picture.
  • a predetermined criterion for example, a cost function
  • one picture may be divided into a plurality of coding units.
  • a recursive tree structure such as a quad tree structure can be used. Encoding that is split into other coding units based on one image or the largest coding unit as a root. A unit may be divided with as many child nodes as the number of divided coding units. Coding units that are no longer split according to certain restrictions become leaf nodes. That is, when it is assumed that only square splitting is possible for one coding unit, one coding unit may be split into up to four different coding units.
  • a coding unit may be used as a unit that performs encoding or a unit that performs decoding.
  • the prediction unit may be split in a shape such as at least one square or rectangle of the same size within one coding unit, or one prediction unit among the prediction units split within one coding unit is another prediction. It may be divided to have a different shape and/or size from the unit.
  • intra prediction may be performed without dividing into a plurality of prediction units NxN.
  • the prediction units 120 and 125 may include an inter prediction unit 120 that performs inter prediction and an intra prediction unit 125 that performs intra prediction. It is possible to determine whether to use inter prediction or to perform intra prediction for the prediction unit, and determine specific information (eg, intra prediction mode, motion vector, reference picture, etc.) according to each prediction method.
  • a processing unit in which prediction is performed may be different from a processing unit in which a prediction method and specific content are determined. For example, a prediction method and a prediction mode are determined in a prediction unit, and prediction may be performed in a transformation unit. A residual value (residual block) between the generated prediction block and the original block may be input to the transform unit 130.
  • prediction mode information, motion vector information, and the like used for prediction may be encoded by the entropy encoder 165 together with a residual value and transmitted to a decoding apparatus.
  • prediction mode information, motion vector information, and the like used for prediction may be encoded by the entropy encoder 165 together with a residual value and transmitted to a decoding apparatus.
  • the inter prediction unit 120 may predict a prediction unit based on information of at least one picture of a picture before or after the current picture, and in some cases, predict based on information of a partial region in the current picture that has been encoded. You can also predict the unit.
  • the inter prediction unit 120 may include a reference picture interpolation unit, a motion prediction unit, and a motion compensation unit.
  • the reference picture interpolation unit may receive reference picture information from the memory 155 and may generate pixel information of an integer number of pixels or less from the reference picture.
  • a DCT-based 8-tap interpolation filter with different filter coefficients may be used to generate pixel information of an integer number of pixels or less in units of 1/4 pixels.
  • a DCT-based interpolation filter with different filter coefficients may be used to generate pixel information of an integer number of pixels or less in units of 1/8 pixels.
  • the motion prediction unit may perform motion prediction based on the reference picture interpolated by the reference picture interpolation unit.
  • Various methods such as a full search-based block matching algorithm (FBMA), a three step search (TSS), and a new three-step search algorithm (NTS), can be used as a method for calculating a motion vector.
  • the motion vector may have a motion vector value in units of 1/2 or 1/4 pixels based on the interpolated pixels.
  • the motion prediction unit may predict the current prediction unit by differently predicting the motion.
  • Various methods such as a skip method, a merge method, an advanced motion vector prediction (AMVP) method, and an intra block copy method may be used as a motion prediction method.
  • AMVP advanced motion vector prediction
  • the intra predictor 125 may generate a prediction unit based on reference pixel information around a current block, which is pixel information in the current picture. If the neighboring block of the current prediction unit is a block that has performed inter prediction and the reference pixel is a pixel that has performed inter prediction, a reference pixel included in the block that has performed inter prediction is a reference pixel of a block that has performed intra prediction around it. Can be used as a substitute for information. That is, when the reference pixel is not available, information about the reference pixel that is not available may be replaced with at least one reference pixel among the available reference pixels.
  • the prediction mode may have a directional prediction mode in which reference pixel information is used according to a prediction direction, and a non-directional mode in which directional information is not used when prediction is performed.
  • a mode for predicting luminance information and a mode for predicting color difference information may be different, and intra prediction mode information or predicted luminance signal information used to predict luminance information may be used to predict chrominance information.
  • intra prediction When performing intra prediction, if the size of the prediction unit and the size of the transformation unit are the same, intra prediction for the prediction unit is based on a pixel on the left, a pixel on the top left, and a pixel on the top of the prediction unit. You can do it. However, when the size of the prediction unit and the size of the transformation unit are different when performing intra prediction, intra prediction may be performed using a reference pixel based on the transformation unit. In addition, intra prediction using NxN splitting may be used for only the smallest coding unit.
  • a prediction block may be generated after applying an adaptive intra smoothing (AIS) filter to a reference pixel according to a prediction mode.
  • AIS adaptive intra smoothing
  • the type of AIS filter applied to the reference pixel may be different.
  • the intra prediction mode of the current prediction unit may be predicted from the intra prediction mode of the prediction unit existing around the current prediction unit.
  • mode information predicted from the neighboring prediction units if the intra prediction modes of the current prediction unit and the neighboring prediction units are the same, the current prediction unit and the neighboring prediction units are used using predetermined flag information.
  • Information indicating that the prediction mode of is the same may be transmitted, and if the prediction modes of the current prediction unit and the neighboring prediction units are different, entropy encoding may be performed to encode prediction mode information of the current block.
  • a residual block including a prediction unit that performs prediction based on a prediction unit generated by the prediction units 120 and 125 and residual information that is a difference value from the original block of the prediction unit may be generated.
  • the generated residual block may be input to the transform unit 130.
  • the transform unit 130 converts the original block and the residual block including residual information of the prediction unit generated through the prediction units 120 and 125 into a DCT (Discrete Cosine Transform), DST (Discrete Sine Transform), and KLT. You can convert it using the same conversion method. Whether to apply DCT, DST, or KLT to transform the residual block may be determined based on intra prediction mode information of a prediction unit used to generate the residual block.
  • DCT Discrete Cosine Transform
  • DST Discrete Sine Transform
  • KLT Discrete Sine Transform
  • the quantization unit 135 may quantize values converted by the transform unit 130 into the frequency domain. Quantization coefficients may vary depending on the block or the importance of the image. The value calculated by the quantization unit 135 may be provided to the inverse quantization unit 140 and the rearrangement unit 160.
  • the rearrangement unit 160 may rearrange coefficient values on the quantized residual values.
  • the rearrangement unit 160 may change the 2-dimensional block shape coefficient into a 1-dimensional vector shape through a coefficient scanning method. For example, the rearrangement unit 160 may scan from a DC coefficient to a coefficient in a high frequency region using a Zig-Zag Scan method, and change it into a one-dimensional vector form.
  • a vertical scan that scans a two-dimensional block shape coefficient in a column direction and a horizontal scan that scans a two-dimensional block shape coefficient in a row direction may be used. That is, according to the size of the transform unit and the intra prediction mode, it is possible to determine which scan method is to be used among zig-zag scan, vertical direction scan, and horizontal direction scan.
  • the entropy encoding unit 165 may perform entropy encoding based on values calculated by the rearrangement unit 160.
  • Entropy coding may use various coding methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC).
  • the entropy encoding unit 165 includes residual value coefficient information and block type information of a coding unit, prediction mode information, division unit information, prediction unit information and transmission unit information, and motion from the rearrangement unit 160 and the prediction units 120 and 125.
  • Various information such as vector information, reference frame information, block interpolation information, and filtering information may be encoded.
  • the entropy encoder 165 may entropy-encode a coefficient value of a coding unit input from the reordering unit 160.
  • the inverse quantization unit 140 and the inverse transform unit 145 inverse quantize values quantized by the quantization unit 135 and inverse transform the values transformed by the transform unit 130.
  • the residual value generated by the inverse quantization unit 140 and the inverse transform unit 145 is reconstructed by being combined with the prediction units predicted through the motion estimation unit, motion compensation unit, and intra prediction unit included in the prediction units 120 and 125 Blocks (Reconstructed Block) can be created.
  • the filter unit 150 may include at least one of a deblocking filter, an offset correction unit, and an adaptive loop filter (ALF).
  • a deblocking filter may include at least one of a deblocking filter, an offset correction unit, and an adaptive loop filter (ALF).
  • ALF adaptive loop filter
  • the deblocking filter can remove block distortion caused by the boundary between blocks in the reconstructed picture.
  • it may be determined whether to apply the deblocking filter to the current block based on pixels included in several columns or rows included in the block.
  • a strong filter or a weak filter may be applied according to the required deblocking filtering strength.
  • horizontal filtering and vertical filtering may be processed in parallel when performing vertical filtering and horizontal filtering.
  • the offset correction unit may correct an offset from the original image on a pixel-by-pixel basis for the deblocking image.
  • the pixels included in the image are divided into a certain number of areas, and then the area to be offset is determined and the offset is applied to the area, or offset by considering the edge information of each pixel. You can use the method to apply.
  • Adaptive Loop Filtering may be performed based on a value obtained by comparing the filtered reconstructed image and the original image. After dividing the pixels included in the image into predetermined groups, one filter to be applied to the group may be determined, and filtering may be performed differentially for each group. Information related to whether to apply ALF may be transmitted for each coding unit (CU) of the luminance signal, and the shape and filter coefficient of the ALF filter to be applied may vary according to each block. In addition, the same type (fixed type) ALF filter may be applied regardless of the characteristics of the block to be applied.
  • ALF Adaptive Loop Filtering
  • the memory 155 may store the reconstructed block or picture calculated through the filter unit 150, and the stored reconstructed block or picture may be provided to the prediction units 120 and 125 when performing inter prediction.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to an embodiment of the present disclosure.
  • the image decoding apparatus 200 includes an entropy decoding unit 210, a rearrangement unit 215, an inverse quantization unit 220, an inverse transform unit 225, prediction units 230 and 235, and a filter unit. 240) and a memory 245 may be included.
  • the input bitstream may be decoded in a procedure opposite to that of the image encoding apparatus.
  • the entropy decoding unit 210 may perform entropy decoding in a procedure opposite to that performed by the entropy encoding unit of the image encoding apparatus. For example, various methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC) may be applied in response to the method performed by the image encoding apparatus.
  • various methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC) may be applied in response to the method performed by the image encoding apparatus.
  • CAVLC Context-Adaptive Variable Length Coding
  • CABAC Context-Adaptive Binary Arithmetic Coding
  • the entropy decoder 210 may decode information related to intra prediction and inter prediction performed by the encoding apparatus.
  • the rearrangement unit 215 may perform rearrangement based on a method of rearranging the bitstream entropy-decoded by the entropy decoder 210 by the encoder.
  • the coefficients expressed in the form of a one-dimensional vector may be reconstructed into coefficients in the form of a two-dimensional block and rearranged.
  • the reordering unit 215 may perform reordering through a method of receiving information related to coefficient scanning performed by the encoder and performing reverse scanning based on the scanning order performed by the corresponding encoder.
  • the inverse quantization unit 220 may perform inverse quantization based on a quantization parameter provided by an encoding apparatus and a coefficient value of a rearranged block.
  • the inverse transform unit 225 may perform an inverse transform, that is, an inverse DCT, an inverse DST, and an inverse KLT, for transforms, that is, DCT, DST, and KLT, performed by the transform unit on the quantization result performed by the image encoding apparatus.
  • the inverse transformation may be performed based on a transmission unit determined by the image encoding apparatus.
  • the inverse transform unit 225 of the image decoding apparatus may selectively perform a transformation technique (eg, DCT, DST, KLT) according to a plurality of pieces of information such as a prediction method, a size of a current block, and a prediction direction.
  • a transformation technique eg, DCT, DST, KLT
  • the prediction units 230 and 235 may generate a prediction block based on information related to prediction block generation provided from the entropy decoder 210 and previously decoded block or picture information provided from the memory 245.
  • a pixel existing on the left side of the prediction unit, a pixel existing on the top left side, and Intra prediction is performed on a prediction unit based on an existing pixel, but when the size of the prediction unit and the size of the transformation unit are different when performing intra prediction, intra prediction is performed using a reference pixel based on the transformation unit. can do.
  • intra prediction using NxN splitting for only the smallest coding unit may be used.
  • the prediction units 230 and 235 may include a prediction unit determination unit, an inter prediction unit, and an intra prediction unit.
  • the prediction unit determining unit receives various information such as prediction unit information input from the entropy decoder 210, prediction mode information of the intra prediction method, motion prediction related information of the inter prediction method, etc., and classifies the prediction unit from the current coding unit, and makes predictions. It can be determined whether the unit performs inter prediction or intra prediction.
  • the inter prediction unit 230 uses information required for inter prediction of the current prediction unit provided by the video encoding apparatus, and based on information included in at least one picture of a previous picture or a subsequent picture of the current picture containing the current prediction unit, the current prediction unit 230 Inter prediction may be performed on the prediction unit. Alternatively, inter prediction may be performed based on information on a partial region previously-restored in the current picture including the current prediction unit.
  • the motion prediction method of the prediction unit included in the coding unit based on the coding unit is among the skip mode, merge mode, AMVP mode, and intra block copy mode. You can determine whether or not this is any way.
  • the intra prediction unit 235 may generate a prediction block based on pixel information in the current picture. If the prediction unit is a prediction unit that has performed intra prediction, intra prediction may be performed based on intra prediction mode information of the prediction unit provided by the image encoding apparatus.
  • the intra prediction unit 235 may include an adaptive intra smoothing (AIS) filter, a reference pixel interpolation unit, and a DC filter.
  • the AIS filter is a part that performs filtering on a reference pixel of the current block, and may determine whether to apply the filter according to the prediction mode of the current prediction unit and apply it.
  • AIS filtering may be performed on a reference pixel of the current block by using the prediction mode and AIS filter information of the prediction unit provided by the image encoding apparatus. When the prediction mode of the current block is a mode in which AIS filtering is not performed, the AIS filter may not be applied.
  • the reference pixel interpolator may interpolate the reference pixel to generate a reference pixel of a pixel unit having an integer value or less. If the prediction mode of the current prediction unit is a prediction mode in which a prediction block is generated without interpolating a reference pixel, the reference pixel may not be interpolated.
  • the DC filter may generate a prediction block through filtering when the prediction mode of the current block is the DC mode.
  • the reconstructed block or picture may be provided to the filter unit 240.
  • the filter unit 240 may include a deblocking filter, an offset correction unit, and an ALF.
  • the deblocking filter of the image decoding apparatus may receive information related to the deblocking filter provided by the image encoding apparatus, and the image decoding apparatus may perform deblocking filtering on a corresponding block.
  • the offset correction unit may perform offset correction on the reconstructed image based on the type of offset correction applied to the image during encoding and information on the offset value, and the like.
  • the ALF may be applied to a coding unit based on information on whether to apply ALF and information on ALF coefficients provided from an encoding device.
  • Such ALF information may be provided by being included in a specific parameter set.
  • the memory 245 may store the reconstructed picture or block so that it can be used as a reference picture or a reference block, and may also provide the reconstructed picture to an output unit.
  • a coding unit is used as a coding unit, but may be a unit that performs not only encoding but also decoding.
  • the current block represents a block to be encoded/decoded, and according to an encoding/decoding step, a coding tree block (or coding tree unit), a coding block (or coding unit), a transform block (or transform unit), or a prediction block (Or a prediction unit) or the like.
  • a coding tree block or coding tree unit
  • a coding block or coding unit
  • a transform block or transform unit
  • a prediction block Or a prediction unit
  • the image may be encoded/decoded in units of blocks. Coding blocks can be recursively partitioned based on a tree structure. For example, the coding block may be divided by at least one of quad tree division, binary tree division, or ternary tree division.
  • the coding block may be divided into a plurality of prediction blocks or a plurality of transform blocks.
  • FIG. 3 is a flowchart illustrating an intra prediction method according to an embodiment of the present disclosure.
  • an index of a reference sample line of a current block may be determined (S301).
  • the index may specify one of a plurality of reference sample line candidates.
  • the plurality of reference sample line candidates may include an adjacent reference sample line adjacent to the current block and at least one non-adjacent reference sample line not adjacent to the current block.
  • an adjacent reference sample line composed of an adjacent row having a y-axis coordinate of 1 smaller than the uppermost row of the current block and an adjacent column having an x-axis coordinate of 1 smaller than the leftmost column of the current block may be used as a reference sample line candidate.
  • a first non-adjacent reference sample line including a non-adjacent row whose y-axis coordinate is less than the top row of the current block by 2 and a non-adjacent column whose x-axis coordinate is less than the leftmost column of the current block by 2 is a reference sample line candidate Can be used.
  • a second non-contiguous reference sample line including a non-adjacent row whose y-axis coordinate is 3 smaller than the top row of the current block and a non-adjacent column whose x-axis coordinate is 3 smaller than the leftmost column of the current block is a reference sample line candidate. Can be used.
  • the index may indicate one of an adjacent reference sample line, a first non-adjacent reference sample line, or a second non-adjacent reference sample line. For example, an index of 0 means that an adjacent reference sample line is selected, an index of 1 means that a first non-contiguous reference sample line is selected, and an index of 2 means that a second non-contiguous reference sample line is selected. It means to be chosen.
  • An index specifying one of the plurality of reference sample line candidates may be signaled through the bitstream.
  • the index may be signaled for the luma component block and the index signaling may be omitted for the chroma component block.
  • the signaling of the index is omitted, it may be considered that the index is 0. That is, for a chroma component block, intra prediction may be performed using adjacent reference sample lines.
  • the reconstructed samples included in the selected reference sample line may be derived as reference samples.
  • the intra prediction mode of the current block may be determined (S302).
  • the intra prediction modes include a non-directional prediction mode (DC and Planar) and a directional prediction mode.
  • DC and Planar non-directional prediction mode
  • directional prediction mode a directional prediction mode.
  • 65 directional prediction modes are defined.
  • a flag indicating whether the intra prediction mode of the current block is the same as the Most Probable Mode (MPM) may be signaled through the bitstream. For example, when the value of the MPM flag is 1, it indicates that the same MPM as the intra prediction mode of the current block exists. On the other hand, when the value of the MPM flag is 0, it indicates that the same MPM as the intra prediction mode of the current block does not exist.
  • MPM Most Probable Mode
  • a flag indicating whether the intra prediction mode of the current block is the same as the default intra prediction mode may be signaled.
  • the default intra prediction mode may be at least one of DC, planar, vertical prediction mode, and horizontal prediction mode.
  • a flag intra_not_planar_flag indicating whether the intra prediction mode of the current block is a planar mode may be signaled.
  • the value of the flag intra_not_planar_flag is 0, it indicates that the intra prediction mode of the current block is a planner.
  • the value of the flag intra_not_planar_flag when the value of the flag intra_not_planar_flag is 1, it indicates that the intra prediction mode of the current block is not a planner.
  • an index specifying one of MPM candidates may be signaled.
  • the intra prediction mode of the current block may be set to be the same as the MPM indicated by the MPM index.
  • a prediction sample may be derived based on the reference samples belonging to the reference sample line and the intra prediction mode (S303).
  • a prediction sample may be derived using a reference sample positioned on a line along an angle of the directional prediction mode.
  • a prediction sample may be derived using a reference sample positioned in a vertical direction and a reference sample positioned in a horizontal direction of the prediction target sample.
  • FIG. 5 is a diagram for explaining an example of deriving a prediction sample under a planar mode.
  • T denotes a reference sample adjacent to the upper right corner of the current block
  • L denotes a reference sample adjacent to the lower left corner of the current block.
  • a horizontal prediction sample P1 and a vertical prediction sample P2 may be derived for a prediction target sample.
  • the horizontal prediction sample P1 may be generated by linearly interpolating a reference sample H and an upper right reference sample T positioned on the same horizontal line as the prediction target sample.
  • the vertical prediction sample P2 may be generated by linearly interpolating the reference sample V and the lower left reference sample L positioned on the same vertical line as the prediction target sample.
  • a prediction sample may be derived based on a weighted sum operation of the horizontal direction prediction sample P1 and the vertical direction prediction sample P2. Equation 1 shows an example in which the prediction sample P is derived by a weighted sum operation of the horizontal direction prediction sample P1 and the vertical direction prediction sample P2.
  • Equation 1 ⁇ represents a weight applied to the horizontal direction prediction sample P1, and ⁇ represents a weight applied to the vertical direction prediction sample P2.
  • the weights ⁇ and ⁇ may be determined based on the size or shape of the current block. Specifically, weights ⁇ and ⁇ may be determined in consideration of at least one of the width or height of the current block. For example, when the width and height of the current block are the same, the weights ⁇ and ⁇ may be set to the same value. When the weights ⁇ and ⁇ are the same, the prediction sample may be derived as an average value of the horizontal direction prediction sample P1 and the vertical direction prediction sample P2. On the other hand, when the width and height of the current block are different, the weights ⁇ and ⁇ may be set differently.
  • the weight ⁇ when the width of the current block is larger than the height, the weight ⁇ can be set to a value larger than the weight ⁇ , and when the height of the current block is larger than the width, the weight ⁇ can be set to a larger value than the weight ⁇ . have. Or, contrary to the above, if the width of the current block is larger than the height, the weight ⁇ is set to a value larger than the weight ⁇ , and if the height of the current block is larger than the width, the weight ⁇ is set to a value larger than the weight ⁇ . Can be set.
  • weights ⁇ and ⁇ may be derived from one of a plurality of weight set candidates.
  • weight candidate sets (1, 1), (3, 1) and (1, 3) representing a combination of weights ⁇ and ⁇ are predefined, weights ⁇ and ⁇ are one of the weight candidate sets It can be selected in the same way as.
  • An index indicating one of the plurality of weight set candidates may be signaled through the bitstream.
  • the index may be signaled at the block level. For example, in units of coding blocks or transform blocks, the index may be signaled.
  • the index may be signaled at the coding tree unit, slice, picture, or sequence level.
  • Blocks included in the index transmission unit may determine weights ⁇ and ⁇ by referring to an index signaled at a higher level. That is, for blocks included in the index transmission unit, the weights ⁇ and ⁇ may be set equally.
  • a horizontal direction prediction sample P1 may be derived using a reference sample other than the upper right reference sample, or a vertical direction prediction sample P2 may be derived using a reference sample other than the lower left reference sample.
  • reference sample set candidates for a first reference sample used to derive a horizontal direction prediction sample P1 and a second reference sample used to derive a vertical direction prediction sample P2 are configured, and selected from among a plurality of reference sample set candidates. Using one, a horizontal direction prediction sample P1 and a vertical direction prediction sample P2 can be derived.
  • An index identifying one of the plurality of reference sample set candidates may be signaled through the bitstream.
  • the index may be signaled in units of blocks, sub-blocks, or samples.
  • a reference sample set candidate may be selected based on the position of the prediction target sample.
  • a prediction sample may be generated using reconstructed pixels around the current block.
  • FIG. 6 shows an example in which prediction samples are generated in a horizontal mode and a vertical mode.
  • a prediction sample may be generated using a reconstructed sample positioned in a horizontal direction of a prediction target sample.
  • prediction samples may be generated using reconstructed samples positioned in the vertical direction of the prediction target sample.
  • a residual block may be derived by differentiating the prediction block from the original block.
  • a prediction method using one of modes 0 to 66 may be used, or a limited prediction method may be used.
  • the intra prediction mode may be specified by 1-bit information.
  • diagonal prediction modes for example, a lower left diagonal direction (No. 2) and an upper right diagonal direction (No. 66) may be added as available candidates.
  • an intra prediction mode may be specified with 2 bits of information.
  • two of three diagonal direction modes for example, a lower left diagonal direction (No. 2), an upper left diagonal direction (No. 34), and an upper right diagonal direction (No. 66) may be added as available candidates.
  • the number of available intra prediction modes may be encoded and transmitted to a decoder.
  • the number of intra prediction modes usable in the encoder and decoder may be fixed.
  • the number of available intra prediction modes may be determined based on the size or shape of the current block.
  • a residual block may be obtained by differentiating the original block and the prediction block.
  • the residual coefficient may be obtained by performing at least one of transform or quantization on the residual block.
  • transform_skip_flag may be encoded and signaled.
  • transform_skip_flag When transform_skip_flag is 1, it indicates that no transform is applied to the current block.
  • the transformation may include not only the first transformation to be described later, but also the second transformation.
  • transform_skip_flag When transform_skip_flag is 0, it indicates that transform is applied to the current block.
  • transform_skip_flag When transform_skip_flag is 0, the first transform is essentially applied to the current block, while the second transform may be selectively applied.
  • the conversion may be performed based on at least one of a DCT-based conversion kernel and a DST-based conversion kernel.
  • the DCT-based conversion kernel may include at least one of DCT-2 and DCT-8
  • the DST-based conversion kernel may include DST-7.
  • An additional transformation may be applied to the result of transforming the residual samples.
  • a transform performed by a DCT or DST-based transform kernel is referred to as a first transform
  • a transform additionally applied to the result of the first transform is referred to as a second transform.
  • transform coefficients generated as a result of the first transform are referred to as first transform coefficients
  • transform coefficients generated as a result of the second transform are referred to as second transform coefficients.
  • the second transform may be applied to at least some of the first transform coefficients.
  • the second transform may be applied to 16, 48, or 64 first transform coefficients.
  • the shape of the region including the first transform coefficients to which the second transform is applied may be square, non-square, or polygonal.
  • Equation 2 shows the application aspect of the second transform.
  • B_Rx1 represents second transform coefficients composed of R rows and 1 column.
  • T_RXN represents a second transform kernel composed of R rows and N columns.
  • A_Nx1 represents first transform coefficients composed of N rows and 1 column.
  • FIG. 7 and 8 are diagrams illustrating an example in which a second transform is applied.
  • First transform coefficients generated as a result of the first transform in the 8x8 block may be arranged in one dimension.
  • a one-dimensional array may be generated by scanning the first transform coefficients in a predetermined scan method.
  • the predetermined scan method may include at least one of a diagonal scan, a horizontal scan, a vertical scan, and a raster scan.
  • a second transform coefficient may be derived through matrix multiplication between a second transform kernel having a size of 64x64 and an input matrix having a size of 64x1.
  • the quantized transform block may be encoded.
  • the second transform kernel has a size of 48x48.
  • 48 first transform coefficients may be rearranged in one dimension.
  • the 48 first transform coefficients may be included in a polygonal shape region excluding a subblock having a size of 4x4 at the bottom right of the 8x8 block.
  • a second transform coefficient may be derived through matrix multiplication between a second transform kernel having a size of 48x48 and an input matrix having a size of 48x1.
  • 48 second transform coefficients are generated, and the second transform coefficients in the 8x8 block may be rearranged.
  • 48 second transform coefficients may be rearranged in a polygonal shape region excluding a subblock having a size of 4x4 at the bottom right of an 8x8 block.
  • the first transform coefficients may be maintained as they are. After applying quantization to a block including the second transform coefficients and the first transform coefficients, the quantized transform block may be encoded.
  • the transform coefficients of the region in which the second transform coefficients are not arranged may be set to 0. That is, after the values of the transform coefficients in the region to which the second transform is not applied are set to 0, quantization and encoding may be performed.
  • the size of the second transform kernel may be determined based on the size of the current block. For example, when at least one of the width or height of the current block is 4, the second transform may be applied to 16 first transform coefficients. On the other hand, when the width and height of the current block are 8 or more, the second transform may be applied to 48 or 64 first transform coefficients.
  • information indicating the size and type of the second transform kernel may be encoded and signaled.
  • the information may be signaled at the block level. For example, information specifying at least one of the number of rows or the number of columns of the transform size may be encoded.
  • an index specifying one of the combinations may be encoded.
  • an index specifying one of the second transform kernel candidates may be encoded.
  • each of the plurality of second transform kernel candidates may have at least one of a size or a coefficient different from each other.
  • an index specifying one of the plurality of second transform kernel candidates having the determined size may be encoded.
  • FIG. 9 and 10 illustrate a second transform based on a second transform kernel of an asymmetric form.
  • the number of rows R of the second conversion kernel may be set to a value smaller than the number of columns N.
  • the number R of rows may be set to 8
  • the number of columns N may be set to 48.
  • the number of second transform coefficients output as a result of the second transform also decreases. For example, when matrix multiplication between a second transform kernel having a size of 8x48 and an input matrix having a size of 48x1 is performed, second transform coefficients having a size of 8x1 are generated.
  • the eight second transform coefficients may be rearranged in an 8x8 block.
  • values of the transform coefficients may be set to 0 in the area to which the second transform is applied (ie, the area including the first transform coefficients to which the second transform is applied) and in the area to which the second transform coefficients are not assigned.
  • the values of the transformation coefficients are set to 0 in the remaining region excluding the region to which eight second transform coefficients are allocated among the polygonal shape regions. I can.
  • the first transform coefficients may be maintained as they are.
  • At least some of the first transform coefficients in a region to which the second transform is not applied may be transformed into 0 and then encoded. 10 illustrates an example in which at least some of the regions to which the second transformation is not applied are transformed to zero.
  • values of first transform coefficients corresponding to a high frequency region within a region in which the second transformation is not performed may be converted to zero.
  • values of first transform coefficients in which the sum of the x-axis and y-axis coordinates is equal to or greater than a threshold value may be converted to 0.
  • first transform coefficients converted to 0 may be selected according to a specific shape. As an example, as in the example shown in FIG. 10B, the first transform coefficients included in the lower n rows in the region in which the second transform is not performed may be transformed into zero. Alternatively, as in the example shown in FIG. 10C, the first transform coefficients included in the n columns on the right side of the region in which the second transform is not performed may be transformed into 0.
  • all first transform coefficients in a region in which the second transform is not performed may be transformed into zero.
  • the shape of the region including the first transform coefficients converted to 0 may be determined based on at least one of the size and shape of the current block, an intra prediction mode, and a transform kernel.
  • the signal may be performed by encoding an index specifying one of the plurality of candidate shapes that matches the region.
  • Whether the second transform is allowed may be determined based on at least one of the encoding mode of the current block or the first transform kernel.
  • the encoding mode indicates intra prediction or inter prediction. For example, when the current block is encoded by intra prediction, the second transformation is allowed, whereas when the current block is encoded by inter prediction, the second transformation may not be permitted.
  • Information indicating whether the second transform is applied may be encoded and signaled.
  • the information may be a 1-bit flag. Depending on whether the flag is true or false, it may be determined whether the second transform is applied to the current block.
  • the information may be index information. When the index value is 0, it indicates that the second transform is not applied to the current block. On the other hand, when the index value is greater than 0, it indicates that the second transform is applied to the current block. When the index value is greater than 0, the second transform kernel can be specified by the index.
  • Information indicating whether the second transformation has been performed on the current block may be individually encoded for each color component. For example, information indicating whether the second transformation has been performed may be encoded for each of the luma component Y, the first color difference component Cb, and the second color difference component Cr.
  • information indicating whether the second transformation has been performed on the color difference components may be co-coded. For example, for each of the color difference components Cb and Cr, whether or not to apply the second transform may be jointly determined. That is, the first color difference component Cb and the second color difference component Cr may share information indicating whether the second conversion has been performed.
  • the information may be determined whether the information is encoded for each color component. For example, when a luma component and a chroma component have the same tree structure, three color components (ie, Y, Cb, and Cr) may share information indicating whether the second transformation is performed. On the other hand, when the luma component and the chroma component have a different tree structure, information indicating whether or not the second transformation is performed may be signaled for each of the luma component and the chroma component.
  • a plurality of second transform kernel candidates may be grouped into at least a plurality of groups.
  • One group may be specified based on at least one of the size, shape, or intra prediction modes of the current block among the plurality of groups.
  • at least one of a plurality of second transform kernel candidates included in the specified group may be specified using the index information.
  • Whether to encode information indicating whether to apply the second transform may be determined based on the position of the last non-zero coefficient in the current block.
  • 11 illustrates an example in which information indicating whether or not to apply a second transform is determined based on the position of the last non-zero coefficient.
  • the number of second transform coefficients equal to the number of rows R of the second transform kernel is generated.
  • the values of residual transform coefficients excluding the second transform coefficients are all set to 0, and there is no non-zero coefficient in the residual area except for the area in which the R second transform coefficients are rearranged.
  • an area in which the R second transform coefficients are rearranged may be set as the limiting area.
  • FIGS. 11A to 11C it is exemplified that a block having a size of 4x4 at the upper left of a block having a size of 8x8 is set as a restricted area.
  • the presence of a non-zero coefficient outside the restricted area indicates that the second transform is not applied to the current block. Accordingly, when the last non-zero coefficient exists outside the restriction area, encoding of information indicating whether the second transform is applied to the current block may be omitted. As an example, as in the example shown in FIG. 11A, when the last non-zero coefficient exists outside the restricted area, encoding of information indicating whether the second transform has been applied may be omitted.
  • the decoder may also determine that the information is not decoded and that the second inverse transform is not applied to the current block when the last non-zero coefficient exists outside the restricted area.
  • non-zero transform coefficients may exist only in the restricted area.
  • a case in which a non-zero transform coefficient exists only in the limited area may occur. Accordingly, when the last non-zero coefficient exists in the restriction region, information indicating whether the second transform is applied may be encoded.
  • the decoder may determine whether to apply the second inverse transform to the current block based on the information.
  • encoding of the information may be omitted and the second transform may be essentially applied.
  • the size of the restriction region may be determined based on the size of the second transform kernel.
  • the second transform kernel is a matrix having a size of RxN
  • a rectangular area having a width and a height of Log 2 R, respectively, may be set as a restriction area.
  • the region to which the second transformation is applied may be set as the restricted region.
  • information indicating at least one of the size or shape of the restricted area may be encoded and signaled.
  • the information may be signaled through a higher level such as a sequence, a picture header, or a slice header.
  • At least one of the size or shape of the restriction region may be predefined in the encoder and the decoder. For example, between the encoder and the decoder, it may be pre-arranged to set the upper left 4x4 sized block in the current block as a restricted area.
  • At least one of the size or shape of the restriction region may be adaptively determined based on at least one of the size and shape of the current block, the first transform kernel, and the intra prediction mode.
  • an index specifying one of the plurality of restriction region candidates may be encoded and signaled.
  • index information specifying one of the plurality of restricted region candidates shown in FIG. 12 may be encoded.
  • At least one of the restriction region candidates shown in FIG. 12 may be applied 7 not only to a block having a size of 4x4 but also to a block having a size larger than 4x4. For example, for a block in which at least one of the width or height is 4 and the other is greater than 4, at least one of the restriction region candidates shown in FIG. 12 may be applied.
  • the size or number of restricted region candidates may be set differently according to the size of the current block.
  • one of the restriction region candidates may be specified based on the size or shape of the current block.
  • the size of the second transform kernel can be adaptively selected.
  • a second transform kernel of a predefined size may be applied to all blocks.
  • a second transform kernel having a size of 16x48 may be used.
  • the second transform may be applied to the 48 first transform coefficients.
  • FIG. 13 is a diagram illustrating an example in which a second transform kernel having a predefined size is applied.
  • the second transform may be applied to a region in which the lower-right 4x4 sized sub-block is excluded from the 8x8 sized block.
  • the second transform may be applied to the first transform coefficients included in the polygonal shape region shown in FIG. 13A.
  • the second transform may not be applied to the current block.
  • the area to which the second transform is applied may be transformed into a rectangular shape such as 4x12 or 12x4, and then the second transform may be performed.
  • the upper left position of the current block and the upper left region of the region to which the second transformation is applied are matched, and then the current block and the region to which the second transformation is applied.
  • the second transform can be applied only to the overlapping region of the liver.
  • 13B shows an example in which the second transform is performed only in the overlapping area.
  • the first transform coefficients included in the overlapping area may be set as an input matrix for the second transform.
  • the decoder When the first transform and the second transform are applied to the current block, the decoder performs the inverse transform (the second inverse transform) for the second transform, and then the inverse transform for the first transform (the second inverse transform). 1 inverse transformation) to derive a residual sample.
  • the second inverse transform may be performed based on the transpose matrix of the second transform kernel. For example, when the second transform kernel has a size of 8x48, the second inverse transform may be performed by a transform kernel having a size of 48x8.
  • the second transform coefficients generated by the second transform may be set as the input matrix of the second inverse transform.
  • an 8x1 input matrix composed of eight coefficients may be used.
  • transform coefficients for which the second inverse transform has been performed may be output by matrix multiplication between the transpose matrix of the second transform kernel and the input matrix.
  • 48 transform coefficients may be output through matrix multiplication between a transform kernel having a size of 48x8 and an input matrix having a size of 8x1.
  • the first inverse transform may be applied to the rearranged block.
  • a transform coefficient generated by transforming the residual sample may be quantized, and then the quantized transform coefficient may be encoded. Alternatively, quantization may be omitted and transform coefficients may be encoded.
  • the residual sample may be quantized and then the quantized residual sample may be encoded.
  • quantization information may be additionally encoded for each block.
  • quantization information for transform skip coded by applying differential pulse-coded modulation (DPCM) to quantization information transmitted through a sequence, picture header, or slice header may be additionally signaled.
  • DPCM differential pulse-coded modulation
  • run length coding may be applied. That is, quantized coefficients generated as a result of quantization may be encoded in a run length method.
  • the run means that the same data is continuous
  • the run length means the length of the continuous data. For example, if there is a character string aaaaaabbccccccc, a is 6 consecutive times, b is 2 times, and c is 7 consecutive times, and thus, 6a2b7c or a6b2c7 may be expressed and encoded.
  • the above coding scheme can be defined as a run length coding scheme.
  • coefficients are scanned according to a specific direction.
  • information specifying the scan method of the current block may be encoded and signaled.
  • the information may be an index specifying one of a plurality of scan methods.
  • the number or type of available scan scheme candidates may be differently set based on at least one of the size, shape, or intra prediction mode of the current block. For example, when the intra prediction mode of the current block is in the horizontal direction or the vertical direction, only two scan methods shown in FIG. 4 may be set as candidates. On the other hand, when the intra prediction mode of the current block is in a diagonal direction (eg, 2, 34 or 66), all four scan methods shown in FIG. 14 may be set as candidates. Accordingly, according to the intra prediction mode of the current block, the bit length allocated to the index for specifying the scan method may be different. For example, when the intra prediction mode of the current block is in the horizontal direction or the vertical direction, the index may have a length of 1 bit. On the other hand, when the intra prediction mode of the current block is in the diagonal direction, the index may have a length of 2 bits.
  • the scan method may be determined based on at least one of the size, shape, or intra prediction mode of the current block.
  • the intra prediction mode is a horizontal direction
  • a horizontal direction scan method or a vertical direction scan method shown in FIG. 14A may be applied.
  • a coding method that applies additional prediction to the quantized coefficients may be applied.
  • transformation may be skipped on the residual block and quantization may be performed.
  • DPCM may be applied to the output value.
  • One of the plurality of direction candidates may be used for DPCM.
  • a horizontal direction DPCM or a vertical direction DPCM may be applied to the quantized coefficients.
  • information for specifying the DPCM direction applied to the quantized residual coefficient may be encoded and signaled.
  • the prediction direction used to generate the prediction block may be set as the DPCM direction.
  • the DPCM direction may be used for intra prediction mode prediction. For example, when deriving an MPM candidate of the current block, if a horizontal direction DPCM is applied to a neighboring block, the intra prediction mode of the neighboring block is considered to be in the horizontal direction, and the MPM may be derived. Alternatively, when deriving the MPM candidate of the current block, when vertical DPCM is applied to the neighboring block, the intra prediction mode of the neighboring block is considered to be the vertical direction, and the MPM may be derived.
  • the intra prediction mode of the neighboring block is considered to be a diagonal (e.g., 2, 34 or 66), or is considered to be a non-directional mode (e.g., planner or DC), and MPM Can induce.
  • the MPM directly derived from the DPCM direction may have the highest priority or the lowest priority among MPM candidates.
  • the highest priority means that the lowest index among MPM candidates is allocated (i.e., that is set as the first MPM), and the lowest priority indicates that the highest index among MPM candidates is allocated. It may mean (that is, what is set as the last MPM).
  • the residual coefficient may mean at least one of a quantized transform coefficient, a transform coefficient, or a quantized residual sample, depending on whether transform or quantization is applied.
  • a flag indicating whether a non-zero residual coefficient exists in the current block may be encoded and signaled.
  • the position of the last non-zero residual coefficient in the scan order may be encoded.
  • a sub-block flag indicating whether a non-zero residual coefficient exists in the sub-block may be encoded in units of sub-blocks within the current block.
  • information on each residual coefficient may be additionally encoded according to a scan order.
  • encoding of the sub-block flag may be omitted for a sub-block having a faster scan order than a sub-block including the last non-zero residual coefficient. Since a non-zero residual coefficient is not included in the sub-block, the value of the sub-block flag may be regarded as 0.
  • encoding of the sub-block flag may be omitted for the sub-block including the last non-zero residual coefficient. Since a non-zero residual coefficient is necessarily included in the sub-block, the value of the sub-block flag may be regarded as 1.
  • encoding of position information of the last non-zero residual coefficient may be omitted.
  • a subblock flag may be encoded for all subblocks in the current block.
  • Information indicating whether position information of the last non-zero coefficient is encoded may be additionally encoded.
  • the value of the information may be set to 1.
  • the subblock flag may be encoded from the subblock in which the last non-zero coefficient exists.
  • the position information of the last non-zero coefficient is not encoded, the value of the information may be set to 0.
  • the sub-block flag may be encoded from the sub-block having the first scan order.
  • a non-zero residual coefficient exists in the current block, it may be assumed that a non-zero residual coefficient is necessarily included for the first sub-block in the current block. Accordingly, encoding of a sub-block flag indicating whether a non-zero residual coefficient exists for the first sub-block can be omitted.
  • the information on each residual coefficient may include at least one of a flag indicating whether the residual coefficient has a non-zero value, information indicating a size of the residual coefficient, and information indicating a sign of the residual coefficient.
  • Residual coefficients may be encoded according to a predetermined scan order.
  • the encoding order of the residual coefficients may be different based on whether the transformation is skipped in the current block. For example, when transformation is not skipped in the current block, a residual coefficient located at a lower right of a subblock may be first encoded, and a residual coefficient located at an upper left of a subblock may be encoded last. That is, a scan order between residual coefficients may be determined according to an inverse-diagonal scan, an inverse-horizontal scan, or an inverse-vertical scan.
  • the residual coefficient located at the upper left of the subblock may be encoded first, and the residual coefficient located at the lower right corner may be encoded last. That is, a scan order between residual coefficients may be determined according to a diagonal scan, a horizontal scan, or a vertical scan.
  • the scan order between residual coefficients may be determined according to an inverse-diagonal scan, an inverse-horizontal scan, or an inverse-vertical scan.
  • the scan order of residual coefficients may be predefined in an encoder and a decoder. Alternatively, information indicating a scan order of residual coefficients may be encoded and signaled. Alternatively, the scan order may be determined based on at least one of the size and shape of the current block, the intra prediction mode, whether the transformation is skipped, or whether the quadratic transformation has been performed.
  • 15 is a flowchart illustrating a process of encoding a residual coefficient in an encoder.
  • a flag indicating whether the residual coefficient has a non-zero value, significant_flag may be encoded (S1510).
  • encoding may be performed by setting the value of the flag sig_flag to 0.
  • encoding may be performed by setting the value of the flag sig_flag to 1.
  • information on the size of the residual coefficient may be further encoded (S1520).
  • 16 is a flowchart illustrating a process of encoding information on the size of a residual coefficient.
  • the absolute value of the residual coefficient may be encoded by using at least one or more gt_N_flag.
  • N may be a natural number of 1 or more.
  • the flag gt_N_flag may indicate whether the absolute value of the residual coefficient has a value greater than 2(N-1).
  • the number of gt_N_flag used to encode the absolute value of the residual coefficient may be determined based on whether or not transformation is skipped in the current block. For example, when transformation is not skipped in the current block, two gt_N_flag (N is 1 to 2) may be used. On the other hand, when the transform is skipped in the current block, three or more gt_N_flags (eg, three, four, or five) may be used. In this embodiment, it is assumed that two gt_N_flag are used.
  • a flag gt1_flag indicating whether the absolute value of the residual coefficient is greater than 1 may be encoded (S1610).
  • encoding may be performed by setting the value of the flag gt1_flag to 0.
  • the value of the flag gt1_flag may be set to 1 for encoding.
  • a flag par_flag indicating whether the absolute value of the residual coefficient is an even number or an odd number may be encoded (S1620).
  • encoding may be performed by setting the flag par_flag to 0.
  • encoding may be performed by setting the flag par_flag to 1.
  • the flag par_flag may be set to 1
  • the flag par_flag may be set to 0.
  • a flag gt_2_flag indicating whether the absolute value of the residual coefficient is greater than 3 may be encoded (S1630).
  • the value of the flag gt_2_flag may be set to 0.
  • the value of the flag gt_2_flag may be set to 1.
  • rem_level indicating the residual size may be encoded (S1640).
  • the syntax rem_level may be derived by shifting a value derived by dividing 4 from the absolute value of the residual coefficient by 1 to the right.
  • gt_N_flag such as gt_3_flag, gt_4_flag, or gt_5_flag, may be additionally encoded.
  • gt_N_flag when the value of gt_(N-1)_flag is 1, gt_N_flag may be additionally encoded.
  • gt_N_flag may indicate whether the absolute value of the residual coefficient has a value greater than (2N-1).
  • rem_level may be derived by shifting a value derived by dividing 2N from the absolute value of the residual coefficient by 1 to the right.
  • the absolute value of the residual coefficient is encoded using sig_flag, gt_1_flag, par_flag, gt_2_flag, and rem_level.
  • the absolute value of the residual coefficient may be encoded as it is.
  • the syntax abs_level indicating the absolute value of the residual coefficient may be encoded. A method of selecting a method of encoding the absolute value of the residual coefficient will be described later.
  • a flag sign_flag indicating the sign of the residual coefficient may be encoded (S1030).
  • the value of the flag sign_flag is 0, it indicates that the residual coefficient is positive.
  • the value of the flag sing_flag is 1, it indicates that the residual coefficient is negative.
  • Table 1 shows values allocated to each syntax when the residual coefficient is -21 and two gt_N_flag are used.
  • Table 2 shows values allocated to each syntax when the residual coefficient is -21 and 5 gt_N_flag are used.
  • 17 is a flowchart illustrating a process of decoding a residual coefficient in a decoder.
  • the residual coefficients may be restored based on a predetermined scan order.
  • a flag indicating whether the residual coefficient has a non-zero value may be decoded (S1710).
  • the value of the flag sig_flag is 0, it indicates that the value of the residual coefficient is 0.
  • the value of the flag sig_flag is 1, it indicates that the value of the residual coefficient is not 0.
  • the value of the flag sig_flag is 1, information on the size of the residual coefficient may be further decoded (S1720).
  • 18 is a diagram illustrating a process of decoding information on the size of a residual coefficient.
  • the residual coefficient is encoded using at most two gt_N_flag.
  • a flag gt1_flag indicating whether the absolute value of the residual coefficient is greater than 1 may be decoded (S1810). When the value of the flag gt_1_flag is 0, it indicates that the absolute value of the residual coefficient is 1. On the other hand, when the value of the flag gt_1_flag is 1, it indicates that the absolute value of the residual coefficient is greater than 1.
  • a flag par_flag indicating whether the absolute value of the residual coefficient is an even number or an odd number may be decoded (S1820).
  • the value of the flag par_flag is 0, it indicates that the absolute value of the residual coefficient is an even number, and when the value of the flag par_flag is 1, it indicates that the absolute value of the residual coefficient is odd.
  • a flag gt_2_flag indicating whether the absolute value of the residual coefficient is greater than 3 may be decoded (S1830).
  • the value of the flag gt_2_flag is 0, it indicates that the absolute value of the residual coefficient is less than 3.
  • the absolute value of the residual coefficient may be determined as 2 or 3 according to the value of the flag par_flag.
  • rem_level indicating the remaining size may be decoded (S1840).
  • the absolute value of the residual coefficient can be derived by adding 3 or 4 to the value derived by shifting the value representing the syntax rem_level by 1 to the left.
  • gt_N_flag such as gt_3_flag, gt_4_flag, or gt_5_flag, may be additionally decoded. In this case, when the value of gt_(N-1)_flag is 1, gt_N_flag may be additionally decoded.
  • gt_N_flag may indicate whether the absolute value of the residual coefficient has a value greater than (2N-1).
  • rem_level may be set to a value derived by shifting a value derived by dividing 2N from the absolute value of the residual coefficient by 1 to the right.
  • the absolute value of the residual coefficient is decoded using sig_flag, gt_1_flag, par_flag, gt_2_flag, and rem_level.
  • the absolute value of the residual coefficient may be decoded as it is.
  • the syntax abs_level indicating the absolute value of the residual coefficient may be decoded. A method of selecting a method of decoding the absolute value of the residual coefficient will be described later.
  • a flag sign_flag indicating the sign of the residual coefficient may be decoded (S1230).
  • the value of the flag sign_flag is 0, it indicates that the residual coefficient is positive.
  • the value of the flag sing_flag is 1, it indicates that the residual coefficient is negative.
  • Table 3 shows an example of decoding a residual coefficient having a value of -21 using two gt_N_flag.
  • the variable tmp_coeff represents a temporary restoration coefficient.
  • the temporary restoration coefficient tmp_coeff may be set as an absolute value of the residual coefficient.
  • the absolute value of the residual coefficient can be derived by updating the temporary restoration coefficient tmp_coeff based on the syntax rem_level.
  • Table 4 shows an example of decoding a residual coefficient having a value of -21 using five gt_N_flag.
  • the variable tmp_coeff represents a temporary restoration coefficient.
  • the temporary restoration coefficient tmp_coeff may be set as an absolute value of the residual coefficient.
  • the residual coefficient may be encoded by at least one syntax.
  • the residual coefficient may be changed into a plurality of bins through a process of binarization of the syntax(s), and the changed bins may be encoded through entropy encoding.
  • Entropy encoding may be classified into encoding using context information and encoding without context information.
  • the context indicates the probability that the value of the bin is 0 or 1.
  • a threshold value may be set.
  • a bin whose count value is smaller than the threshold value is encoded using context information.
  • the count value becomes more than the threshold value encoding using context information may no longer be used.
  • the threshold value may be determined based on the number of non-zero residual coefficients in the current block. For example, a value obtained by multiplying the number of non-zero residual coefficients in the current block by a real number or a value obtained by adding or subtracting an offset may be set as a threshold value.
  • the threshold value may be determined based on the number of pixels included in the current block. For example, a value obtained by multiplying the number of pixels in the current block by a real number or a value obtained by adding or subtracting an offset may be set as a threshold value.
  • information indicating a threshold value may be signaled through a bitstream.
  • the information may be encoded through an upper header such as a sequence, a picture header, or a slice header.
  • the threshold value may be determined based on at least one of the size or shape of the current block.
  • the threshold value may be determined based on at least one of whether a transform skip has been applied, a transform kernel applied to the current block, or a quantization parameter.
  • the counter When counting the number of bins to be encoded using context information, when encoding information indicating the position of the last non-zero residual coefficient, the counter may be set not to operate. That is, the information may be excluded from counting.
  • the counter when a flag indicating whether a non-zero residual coefficient exists for each sub-block in the current block is encoded, the counter may be set not to operate. That is, the flag may be excluded from the counting target.
  • a residual coefficient is used by using gt_N_flag or the like.
  • the absolute value of the residual coefficient can be encoded as it is.
  • the threshold value when the number of bins encoded using context information is smaller than the threshold value, at least one of sig_flag, sign_flag, gt_1_flag, par_flag, gt_2_flag, gt_3_flag, gt_4_flag, gt_5_flag, or rem_level illustrated in Tables 1 to 4
  • the absolute value of the residual coefficient can be encoded.
  • the syntax abs_level indicating the absolute value of the residual coefficient may be encoded.
  • the counter can be operated whenever the encoded bin is decoded using context information.
  • the absolute value of the residual coefficient may be restored using at least one of sig_flag, sign_flag, gt_1_flag, par_flag, gt_2_flag, gt_3_flag, gt_4_flag, gt_5_flag, or rem_level.
  • the absolute value of the residual coefficient may be restored using the syntax abs_level.
  • 19 is a diagram illustrating an example of counting the number of bins using context information.
  • each of the coefficients is C0 to C15.
  • C15 denotes a residual coefficient positioned at the lower right of the sub-block
  • C0 denotes a residual coefficient positioned at the upper left of the sub-block.
  • the maximum number of bins encoded using context information is 36, and the information indicating the position of the last non-zero residual coefficient and the flag indicating whether there is a non-zero residual coefficient in the sub-block are counted. Is assumed to be excluded from.
  • one pass represents syntaxes that are encoded using context information.
  • Excluding 1 pass, 2-1, 2-2, and 3 pass represent syntaxes that are encoded without using context information.
  • the path represents an encoding order and a decoding order.
  • the decoder may decode all syntaxes belonging to the first pass and then decode the syntaxes belonging to the 2-1 pass.
  • syntaxes belonging to the 3 pass may be decoded.
  • a 2-2 pass represents an alternate path of 1 pass, 2-1 pass and 3 pass.
  • the absolute value of the residual coefficient may be encoded through 1 pass and 2-1 pass.
  • the absolute value of the residual coefficient may be encoded through 2-2 passes.
  • flags sig_flag, gt_1_flag, par_flag, gt_2_flag, and rem_level may be encoded.
  • the syntaxes encoded using context information that is, sig_flag, gt_1_flag, par_flag, gt_2_flag
  • the counter increases to 4.
  • syntaxes encoded using context information may also be used for the second residual coefficient C14. Assuming that four syntaxes that are encoded using context information for each of C15 to C7 are used, after encoding the absolute value of the residual coefficient C7, the value of the counter is set to 36 equal to the threshold value.
  • the absolute value of the residual coefficient C6 can be encoded as it is through the syntax abs_level without using syntaxes encoded using context information. That is, for the residual coefficients C6 to C0, instead of the syntax rem_level belonging to the 4 syntax (i.e., sig_flag, gt_1_flag, par_flag, gt_2_flag) belonging to the 1 pass and the syntax rem_level belonging to the 2-1 pass, the syntax abs_level belonging to the 2-2 pass is used.
  • the absolute value of the residual coefficient may be encoded.
  • context information You can set abs_level to be coded without using. For example, when sig_flag, gt_1_flag, par_flag, and gt_2_flag are set to be encoded using context information, the syntaxes may be encoded only when the difference between the number and the threshold is greater than 4. On the other hand, when the difference is less than 4, abs_level may be encoded.
  • the counter may increase by the number of bins allocated to the syntax rem_level.
  • one pass represents syntaxes that are encoded using context information.
  • Excluding 1 pass, 2, 3-1, 3-2, and 4 pass represent syntaxes that are encoded without using context information.
  • the absolute value of the residual coefficient may be encoded through 1 pass, 2 pass, and 3-1 pass.
  • the absolute value of the residual coefficient may be encoded through 3-2 passes.
  • the number of bins (ie, one) allocated to the flag par_flag may be set so that the counter does not increase.
  • the counter is incremented only for bins allocated to the three syntaxes, sig_flag, gt_1_flag, and gt_2_flag.
  • the counter is set to 36 equal to the threshold value.
  • the absolute value of the residual coefficient C3 may be encoded as it is through the syntax abs_level included in the 3-2 pass. That is, for the residual coefficients C3 to C0, the absolute value of the residual coefficient may be encoded using the syntax abs_level belonging to the 3-2 pass instead of syntax belonging to the 1 pass and the 2-1 pass.
  • Priority can also be set between syntaxes that are encoded using context information. In this case, after counting the number of bins allocated to syntaxes having a high priority, the number of bins allocated to syntaxes having a low priority may be counted.
  • 21 shows an example in which the priorities of syntaxes encoded using context information are different.
  • syntaxes belonging to the first pass and the second pass may be encoded using context information.
  • the syntaxes belonging to the first pass have a higher priority than the syntaxes belonging to the second pass
  • the number of bins allocated to the syntaxes belonging to the first pass is counted.
  • the number of bins allocated to syntaxes belonging to the second pass may be counted.
  • syntaxes belonging to one pass are encoded for all 16 residual coefficients, and then the value of the counter is set to 64. Since the value of the counter is smaller than the threshold value, syntaxes belonging to the second pass can also be encoded using context information.
  • the value of the counter is set to 96. Accordingly, syntaxes belonging to two passes for the next residual coefficient C8 can be encoded without using context information.
  • 1 pass and 3 pass indicate syntaxes that are encoded using context information.
  • the 2nd and 4th paths represent syntaxes that are encoded without using context information.
  • the flag par_flag can be encoded without using context information. Accordingly, when the flag par_flag is encoded, it may be set so that the counter does not increase. After encoding the syntaxes belonging to 3 passes for the residual coefficient C11, the value of the counter is set to 96 equal to the threshold value. Accordingly, from the next residual coefficient C12, context information may not be used when encoding syntaxes belonging to three passes.
  • gt_N_flags are distributed in different paths.
  • gt_1_flag belongs to 1 pass
  • gt_2_flag is exemplified as belonging to 2 passes.
  • all gt_N_flags may be allocated to one path, or gt_1_pass and gt_2_pass may be allocated to one path.
  • par_flag may be set to the same path as gt_1_flag or gt_2_flag, but the context information may not be used when encoding the flag par_flag. 23 is an example of this. In the example shown in Fig. 23, it is shown that the flag par_flag is assigned to the same path as gt_2_flag, gt_3_flag, gt_4_flag, and gt_5_flag.
  • the flag par_flag may be assigned to a lower path than gt_N_flag. For example, in the example shown in FIG. 22, 2 paths including par_flag may be changed to 3 paths, and the existing 3 paths may be changed to 2 paths. In this case, syntaxes that use context information may be encoded first, and then syntaxes that do not use context information may be encoded.
  • the absolute value of the residual coefficient may be encoded using at least one of sig_flag, par_flag, gt_N_flag, or rem_level.
  • residual syntaxes other than rem_level may be encoded with reference to various context information according to properties of the surrounding coefficients.
  • the flag sig_flag representing whether the residual coefficient is 0 or not may be encoded with reference to various context information according to properties of neighboring residual coefficients. In this case, the number of referenceable context information may be determined according to the location of the pixel.
  • 24 and 25 illustrate a surrounding restoration area referred to to determine context information.
  • FIG. 24 is an example of a case in which residual coefficients are encoded according to a scan order from a lower right residual coefficient to an upper left residual coefficient. As an example, FIG. 24 may be applied when transformation is not skipped in the current block.
  • FIG. 25 is an example of a case in which residual coefficients are encoded according to a scan order from an upper left residual coefficient to a lower right residual coefficient. As an example, FIG. 25 may be applied when a transform is skipped to a current block.
  • a maximum of two or a maximum of five reconstruction coefficients may be referenced.
  • a region including reconstruction coefficients in which an absolute value of the sum of the x-coordinate difference and y-coordinate difference with the residual coefficient is 1 or less, or a restoration coefficient having the absolute value of 2 or less
  • the area including the cells may be set as the surrounding restoration area.
  • the above unusable reconstruction coefficient may be excluded from the reference object.
  • context information may be selected as the information of the corresponding position is regarded as a default value.
  • the sig_flag value of the left reconstruction coefficient of the current residual coefficient is 0. Or it can be regarded as 1.
  • the corresponding reconstruction coefficient may be set as available.
  • an index specifying one of them may be encoded and transmitted to the decoder.
  • the reconstructed region may be adaptively determined according to the size or shape of the current block.
  • a restoration region may be determined. For example, when the variable QState is 0 or 1, a restoration region including a maximum of two restoration coefficients may be used. Alternatively, when the QState is 2 or 3, a restoration region including a maximum of five restoration coefficients may be used.
  • N may be 1.
  • the value of N may be determined according to the position of the residual system. For example, when the sum of x and y is less than the threshold value, N may be set to 1, and when the sum of x and y is greater than or equal to the threshold value, N may be set to 2.
  • the threshold value may be transmitted to the encoder through the upper header. Alternatively, a threshold value may be preset in the encoder and the decoder.
  • values of sig_flag of reconstructed coefficients included in the reconstructed region around the residual coefficient may be summed.
  • an absolute value of a reconstructed coefficient or a partially reconstructed coefficient included in the reconstructed region around the residual coefficient may be calculated.
  • the absolute value of the partially reconstructed coefficient may mean a temporary restoration coefficient derived based on syntaxes included in one pass, for example, (sig_flag + gt_1_flag + par_flag + (gt_2_flag ⁇ 1)).
  • one of a plurality of context information can be specified.
  • 26 illustrates the number of context information that can be referenced when encoding a flag sig_flag.
  • FIG. 26 is an example of a luma component
  • (b) of FIG. 26 is an example of a chroma component.
  • the current block may be divided into a plurality of regions, and the types of context information that can be referenced for each region may be differently set. For example, a first area in which the sum of x and y coordinates is less than 2, a second area in which the sum of x and y coordinates is 2 or more and less than 5, and a third area where the sum of x and y coordinates is 5 or more can be referenced.
  • the types of contextual information may be different.
  • the number of referenceable context information in each region may be different.
  • the number of referenceable context information in each region may be fixed.
  • the number of context information that can be referenced may be different for each area. For example, a first area in which the sum of x and y coordinates is less than 2, a second area in which the sum of x and y coordinates is 2 or more and less than 5, and a third area where the sum of x and y coordinates is 5 or more can be referenced.
  • the number of context information may be different.
  • the type of context information that can be referred to may be differently set according to the quantization state information.
  • the variable QState representing quantization state information may have a value of 0 to 3. For example, when the variable QState is 0 and 1, the context information of the first type is referred, while when the QState is 2, the context information of the second type is referred to, and when the QState is 3, the context information of the third type is referred to. I can.
  • the luma block is divided into three regions, and the number of referenceable context information for each region is four.
  • the quantization state information when it is assumed that three types of context information are available, a total of 36 (3x4x3) context information in a luma block may be set to a state that can be referred to.
  • the chroma block is divided into two regions, and the number of referenceable context information for each region is four.
  • the quantization state information when it is assumed that three types of context information are available, a total of 24 (2x4x3) context information in a chroma block may be set to a state that can be referred to.
  • the number of referenceable context information may be differently set.
  • the number of context information that can be referred to may be different depending on whether the transform skip is applied to the current block. For example, when transformation skip is applied to the current block, 3 or 5 context information can be referred to, whereas when transformation is applied to the current block, 4 context information may be referenced.
  • the derived sum value can be compared with a threshold value.
  • the threshold value may be set equal to the number of referenceable context information.
  • the sum value may have a range of 0 to 2, or may have a range of 0 to 5.
  • the sum value may be converted into a threshold value. For example, when the sum value is 5 and the threshold value is 4, the sum value may be changed to 4.
  • one of a plurality of context information may be specified. That is, the sum value may be used as an index specifying one of a plurality of context information.
  • the derived value may be divided by a predefined value.
  • the predefined value may be a natural number such as 2, 3, 4 or 5.
  • the sum of the absolute values may be divided by the number of restoration coefficients in the surrounding restoration region.
  • a result value derived by the division operation may be compared with a threshold value.
  • the derived value when the result value is greater than the threshold value, the derived value may be converted into a threshold value.
  • the result value may be converted to 3. Accordingly, the result value may be set to a value between 0 and 3.
  • context information to be referred to when encoding/decoding the corresponding residual coefficient may be specified. That is, the result value may function as an index specifying one of a plurality of context information. Accordingly, the threshold value may be determined based on the number of referenceable context information in the region including the residual coefficient.
  • the residual coefficient may be encoded/decoded using the simplified context information. For example, when the variable QState is 0 or 1, the number of referenceable context information may be four. On the other hand, when the variable QState is 2 or 3, the number of referenceable context information may be two.
  • the number of referenceable regions for each region may be set differently. For example, when the variable QState is 2 or 3, the number of referenceable context information may be set to 4 in the third area, while the number of referenceable context information may be set to 2 in the first area and the second area. .
  • the threshold value may be set to 1. In this case, since the result value becomes a value of 0 or 1, one of the two context information may be specified by the result value.
  • the context information may be specified based on whether the sum of the absolute values of the restoration coefficients in the surrounding restoration area and a value derived by a modulo operation of 2 are 0 or not.
  • context information may be determined with reference to the surrounding reconstructed region.
  • 27 illustrates the number of referenced context information when encoding gt_N_flag or par_flag.
  • FIG. 27 illustrates a luma block
  • (b) of FIG. 27 illustrates a chroma block.
  • the block can be divided into a plurality of regions.
  • the luma block includes a first area including a residual coefficient of the position (0, 0), a second area in which the sum of the x-axis and y-axis coordinates is 1 or more and is less than 3, It is exemplified that the sum of the x-axis and y-axis coordinates is 3 or more and is divided into a third area less than 10 and a fourth area excluding the first to third areas.
  • the last non-zero residual coefficient may be set as the fifth area. Since the last non-zero residual coefficient is first encoded/decoded in the scan order, only one context information may be set to be referenceable for the last non-zero residual coefficient.
  • the number of divided regions may be smaller than that of a luma block.
  • the chroma block is divided into a first region including a residual coefficient of (0, 0) and a second region excluding the first region.
  • it may be set as a third area including the last non-zero residual coefficient.
  • the number of context information that can be referenced in each region is 5 except for the region including the last non-zero residual coefficient.
  • the types of context information that can be referenced for each area may be different. Accordingly, the total number of referenceable context information in the luma block may be 21 (4x5+1), and the total number of referenceable context information in the chroma block may be 11 (2x5+1).
  • the number and/or type of referenceable context information may be set differently according to region or quantization state information.
  • At least one of a sum of absolute values of residual coefficients included in a neighboring restoration region and a sum of sig_flag may be derived. Thereafter, a result value derived by differentiating the sum of sig_flag from the sum of absolute values may be compared with a threshold value. In this case, when the result value is greater than the threshold value, the result value may be converted into a threshold value. For example, when the threshold value is 4, a result value greater than 4 may be converted to 4. As a result, the result value is set to a value ranging from 0 to 4. Based on the result value, one of five context information may be specified. That is, the result value may function as an index specifying one of a plurality of context information.
  • the simplified context information determination method may be applied to both a luma block and a chroma block, or may be applied only to one of a luma block and a chroma block.
  • a method of specifying one of a plurality of context information based on a result value may be used, while a method of using predefined context information may be used in a chroma block.
  • the partitioning method and number of regions are not limited to the illustrated example.
  • at least one of a partition method or number may be determined in consideration of at least one of the size and shape of the current block, whether a transform skip is applied, or a position of the last non-zero residual coefficient.
  • information specifying any one of the partitioning method or number of regions within the current block may be encoded and signaled through an upper header.
  • the number of referenceable context information may be differently set.
  • one of up to five context information may be specified when gt_N_flag or par_flag is encoded.
  • one of up to three context information may be specified.
  • the threshold value may also decrease.
  • the size of the reconstructed area may be set differently for each area, or the size of the reconstructed area may be set differently for each color component.
  • context information may be derived by comparing information of each of the restoration coefficients instead of summing information of each of the restoration coefficients in the surrounding restoration region.
  • par_flag when par_flag is encoded/decoded, it is assumed that a reconstructed region is set as shown in FIG. 27A.
  • context information to be referred when encoding/decoding par_flag for the current residual coefficient may be determined by referring to par_flag of each reconstruction coefficient.
  • par_flag when par_flag is not coded (that is, for each of the left and upper reconstruction coefficients, when at least one of sig_flag or gt_1_flag is 0), or the value of par_flag of the two reconstruction coefficients
  • a case in which par_flag values of both reconstruction coefficients are 1 may be defined as a second case, and a case in which par_flag values of both reconstruction coefficients are all 0 may be defined as a third case.
  • par_flag encoding of the current residual coefficient it may be set to refer to different context information for each case. That is, after allocating an index (0 to 2) to each case, one context information may be specified based on the index.
  • each of the components (eg, units, modules, etc.) constituting the block diagram in the above-described embodiment may be implemented as a hardware device or software, or a plurality of components are combined to form a single hardware device or software. It can also be implemented.
  • the above-described embodiments may be implemented in the form of program instructions that can be executed through various computer components and recorded in a computer-readable recording medium.
  • the computer-readable recording medium may include program instructions, data files, data structures, and the like alone or in combination.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical recording media such as CD-ROMs and DVDs, magnetic-optical media such as floptical disks. media), and a hardware device specially configured to store and execute program instructions such as ROM, RAM, flash memory, and the like.
  • the hardware device may be configured to operate as one or more software modules to perform processing according to the present disclosure, and vice versa.
  • the present invention can be applied to an electronic device capable of encoding/decoding an image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 개시에 따른 영상 복호화 방법은, 현재 블록에 역변환이 스킵되는지 여부를 결정하는 단계, 상기 현재 블록의 잔차 계수를 복호화하는 단계, 및 상기 결정 여부에 기초하여, 상기 잔차 계수에 선택적으로 상기 역변환을 적용하는 단계를 포함할 수 있다. 이때, 상기 잔차 계수 복호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 복호화될 수 있다.

Description

비디오 신호 처리 방법 및 장치
본 개시는 비디오 신호 처리 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 고효율의 영상 압축 기술들이 활용될 수 있다.
영상 압축 기술로 현재 픽쳐의 이전 또는 이후 픽쳐로부터 현재 픽쳐에 포함된 화소값을 예측하는 화면 간 예측 기술, 현재 픽쳐 내의 화소 정보를 이용하여 현재 픽쳐에 포함된 화소값을 예측하는 화면 내 예측 기술, 출현 빈도가 높은 값에 짧은 부호를 할당하고 출현 빈도가 낮은 값에 긴 부호를 할당하는 엔트로피 부호화 기술 등 다양한 기술이 존재하고 이러한 영상 압축 기술을 이용해 영상 데이터를 효과적으로 압축하여 전송 또는 저장할 수 있다.
한편, 고해상도 영상에 대한 수요가 증가함과 함께, 새로운 영상 서비스로서 입체 영상 컨텐츠에 대한 수요도 함께 증가하고 있다. 고해상도 및 초고해상도의 입체 영상 콘텐츠를 효과적으로 제공하기 위한 비디오 압축 기술에 대하여 논의가 진행되고 있다.
본 개시는 비디오 신호를 부호화/복호화함에 있어서, 잔차 계수의 효율적으로 부호화/복호화하는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 개시는 비디오 신호를 부호화/복호화함에 있어서, 제1 변환의 결과에 제2 변환을 추가 적용하는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 개시에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 개시에 따른 비디오 신호 복호화 방법은, 현재 블록에 역변환이 스킵되는지 여부를 결정하는 단계, 상기 현재 블록의 잔차 계수를 복호화하는 단계, 및 상기 결정 여부에 기초하여, 상기 잔차 계수에 선택적으로 상기 역변환을 적용하는 단계를 포함할 수 있다. 이때, 상기 잔차 계수 복호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 복호화될 수 있다.
본 개시에 따른 비디오 신호 부호화 방법은, 현재 블록에 변환을 스킵할 것인지 여부를 결정하는 단계, 변환이 적용된 결과 또는 변환이 스킵된 결과를 양자화하는 단계, 및 상기 양자화의 결과로 출력되는 잔차 계수를 부호화하는 단계를 포함할 수 있다. 이때, 상기 잔차 계수 부호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 부호화될 수 있다.
본 개시에 따른 비디오 신호 복호화 방법에 있어서, 문맥 정보를 이용하여 복호화된 빈의 개수와 임계값을 비교하여, 상기 제1 신택스를 복호화할 것인지 또는 제2 신택스를 복호화할 것인지 여부가 결정될 수 있다.
본 개시에 따른 비디오 신호 복호화 방법에 있어서, 상기 제1 신택스, 절대값이 (2N-1)보다 큰 값을 갖는지 여부를 나타내는 적어도 하나의 gt_N_flag 또는 절대값이 짝수인지 여부를 나타내는 패리티 플래그 중 적어도 하나가 복호화되는 경우, 상기 문맥 정보를 이용하여 복호화된 빈의 개수가 증가할 수 있다.
본 개시에 따른 비디오 신호 복호화 방법에 있어서, 상기 제1 신택스가 복호화되고, 상기 제1 신택스가 상기 잔차 계수가 0이 아닌 값을 가짐을 나타내는 경우, 상기 잔차 계수의 절대값이 1보다 큰 값을 갖는지 여부를 나타내는 gt_1_flag가 추가 복호화될 수 있다.
본 개시에 따른 비디오 신호 복호화 방법에 있어서, 상기 gt_1_flag가 상기 절대값이 1보다 큰 값을 가짐을 나타내는 경우, 상기 절대값이 짝수인지 여부를 나타내는 패리티 플래그 및 상기 절대값이 3보다 큰지 여부를 나타내는 gt_2_flag가 추가 복호화될 수 있다.
본 개시에 따른 비디오 신호 복호화 방법에 있어서, 상기 임계값은 상기 현재 블록의 크기에 기초하여 결정될 수 있다.
본 개시에 대하여 위에서 간략하게 요약된 특징들은 후술하는 본 개시의 상세한 설명의 예시적인 양상일 뿐이며, 본 개시의 범위를 제한하는 것은 아니다.
본 개시에 의하면, 문맥 정보를 이용하여 부호화되는 빈의 개수에 따라, 잔차 계수의 부호화 방법을 상이하게 설정함으로써, 부호화/복호화 효율을 향상시킬 수 있다.
본 개시에 의하면, 제1 변환된 결과에 제2 변환을 추가 적용함으로써, 부호화/복호화 효율을 향상시킬 수 있다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 개시의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 2는 본 개시의 일실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 3은 본 개시의 일 실시예에 따른 인트라 예측 방법을 나타낸 흐름도이다.
도 4는 인트라 예측 모드들의 종류를 예시한 것이다.
도 5는 평면 모드 하에서 예측 샘플을 유도하는 예를 설명하기 위한 도면이다.
도 6은 수평 모드 및 수직 모드 하에서 예측 샘플이 생성되는 예를 나타낸 것이다.
도 7 및 도 8은 제2 변환이 적용되는 예를 나타낸 도면이다.
도 9 및 도 10은 비대칭 형태의 제2 변환 커널에 기초한 제2 변환을 예시한 것이다.
도 11은 마지막 0이 아닌 계수의 위치에 기초하여, 제2 변환의 적용 여부를 나타내는 정보의 부호화 여부가 결정되는 예를 나타낸 것이다.
도 12는 4x4 크기의 블록에 대한 제한 영역 후보들을 예시한 것이다.
도 13은 기 정의된 크기의 제2 변환 커널이 적용되는 예를 나타낸 도면이다.
도 14는 스캔 방식을 예시한 것이다.
도 15는 부호화기에서 잔차 계수를 부호화하는 과정을 나타낸 흐름도이다.
도 16은 잔차 계수의 크기 정보의 부호화 과정을 나타낸 흐름도이다.
도 17은 복호화기에서 잔차 계수를 복호화하는 과정을 나타낸 흐름도이다.
도 18은 잔차 계수의 크기 정보의 복호화 과정을 나타낸 도면이다.
도 19 및 도 20은 문맥 정보를 이용하는 빈의 개수를 카운팅하는 예를 나타낸 도면이다.
도 21 내지 도 23은 문맥 정보를 이용하여 부호화되는 신택스들 간 우선 순위가 상이한 예를 나타낸 것이다.
도 24 및 도 25는 문맥 정보를 결정하기 위해 참조되는 주변 복원 영역을 나타낸 것이다.
도 26은 플래그 sig_flag 부호화시 참조 가능한 문맥 정보의 개수를 예시한 것이다.
도 27은 gt_N_flag 또는 par_flag를 부호화시 참조 가능한 문맥 정보의 개수를 예시한 것이다.
본 개시는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 개시의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 개시를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 첨부한 도면들을 참조하여, 본 개시의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 개시의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 영상 부호화 장치(100)는 픽쳐 분할부(110), 예측부(120, 125), 변환부(130), 양자화부(135), 재정렬부(160), 엔트로피 부호화부(165), 역양자화부(140), 역변환부(145), 필터부(150) 및 메모리(155)를 포함할 수 있다.
도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 개시의 본질에서 벗어나지 않는 한 본 개시의 권리범위에 포함된다.
또한, 일부의 구성 요소는 본 개시에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 개시는 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 개시의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 개시의 권리범위에 포함된다.
픽쳐 분할부(110)는 입력된 픽쳐를 적어도 하나의 처리 단위로 분할할 수 있다. 이때, 처리 단위는 예측 단위(Prediction Unit: PU)일 수도 있고, 변환 단위(Transform Unit: TU)일 수도 있으며, 부호화 단위(Coding Unit: CU)일 수도 있다. 픽쳐 분할부(110)에서는 하나의 픽쳐에 대해 복수의 부호화 단위, 예측 단위 및 변환 단위의 조합으로 분할하고 소정의 기준(예를 들어, 비용 함수)으로 하나의 부호화 단위, 예측 단위 및 변환 단위 조합을 선택하여 픽쳐를 부호화 할 수 있다.
예를 들어, 하나의 픽쳐는 복수개의 부호화 단위로 분할될 수 있다. 픽쳐에서 부호화 단위를 분할하기 위해서는 쿼드 트리 구조(Quad Tree Structure)와 같은 재귀적인 트리 구조를 사용할 수 있는데 하나의 영상 또는 최대 크기 부호화 단위(largest coding unit)를 루트로 하여 다른 부호화 단위로 분할되는 부호화 유닛은 분할된 부호화 단위의 개수만큼의 자식 노드를 가지고 분할될 수 있다. 일정한 제한에 따라 더 이상 분할되지 않는 부호화 단위는 리프 노드가 된다. 즉, 하나의 코딩 유닛에 대하여 정방형 분할만이 가능하다고 가정하는 경우, 하나의 부호화 단위는 최대 4개의 다른 부호화 단위로 분할될 수 있다.
이하, 본 개시의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다.
예측 단위는 하나의 부호화 단위 내에서 동일한 크기의 적어도 하나의 정사각형 또는 직사각형 등의 형태를 가지고 분할된 것일 수도 있고, 하나의 부호화 단위 내에서 분할된 예측 단위 중 어느 하나의 예측 단위가 다른 하나의 예측 단위와 상이한 형태 및/또는 크기를 가지도록 분할된 것일 수도 있다.
부호화 단위를 기초로 인트라 예측을 수행하는 예측 단위를 생성시 최소 부호화 단위가 아닌 경우, 복수의 예측 단위 NxN 으로 분할하지 않고 인트라 예측을 수행할 수 있다.
예측부(120, 125)는 인터 예측을 수행하는 인터 예측부(120)와 인트라 예측을 수행하는 인트라 예측부(125)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 모션 벡터, 참조 픽쳐 등)를 결정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 예측 단위로 결정되고, 예측의 수행은 변환 단위로 수행될 수도 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(130)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(165)에서 부호화되어 복호화 장치에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(120, 125)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.
인터 예측부(120)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 단위를 예측할 수도 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 단위를 예측할 수도 있다. 인터 예측부(120)는 참조 픽쳐 보간부, 모션 예측부, 움직임 보상부를 포함할 수 있다.
참조 픽쳐 보간부에서는 메모리(155)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
모션 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 모션 예측을 수행할 수 있다. 모션 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 모션 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 모션 벡터값을 가질 수 있다. 모션 예측부에서는 모션 예측 방법을 다르게 하여 현재 예측 단위를 예측할 수 있다. 모션 예측 방법으로 스킵(Skip) 방법, 머지(Merge) 방법, AMVP(Advanced Motion Vector Prediction) 방법, 인트라 블록 카피(Intra Block Copy) 방법 등 다양한 방법이 사용될 수 있다.
인트라 예측부(125)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 단위를 생성할 수 있다. 현재 예측 단위의 주변 블록이 인터 예측을 수행한 블록이어서, 참조 픽셀이 인터 예측을 수행한 픽셀일 경우, 인터 예측을 수행한 블록에 포함되는 참조 픽셀을 주변의 인트라 예측을 수행한 블록의 참조 픽셀 정보로 대체하여 사용할 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.
인트라 예측에서 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드가 상이할 수 있고, 색차 정보를 예측하기 위해 휘도 정보를 예측하기 위해 사용된 인트라 예측 모드 정보 또는 예측된 휘도 신호 정보를 활용할 수 있다.
인트라 예측을 수행할 때 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 단위에 대한 인트라 예측을 수행할 수 있다. 그러나 인트라 예측을 수행할 때 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 픽셀을 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수 있다.
인트라 예측 방법은 예측 모드에 따라 참조 화소에 AIS(Adaptive Intra Smoothing) 필터를 적용한 후 예측 블록을 생성할 수 있다. 참조 화소에 적용되는 AIS 필터의 종류는 상이할 수 있다. 인트라 예측 방법을 수행하기 위해 현재 예측 단위의 인트라 예측 모드는 현재 예측 단위의 주변에 존재하는 예측 단위의 인트라 예측 모드로부터 예측할 수 있다. 주변 예측 단위로부터 예측된 모드 정보를 이용하여 현재 예측 단위의 예측 모드를 예측하는 경우, 현재 예측 단위와 주변 예측 단위의 인트라 예측 모드가 동일하면 소정의 플래그 정보를 이용하여 현재 예측 단위와 주변 예측 단위의 예측 모드가 동일하다는 정보를 전송할 수 있고, 만약 현재 예측 단위와 주변 예측 단위의 예측 모드가 상이하면 엔트로피 부호화를 수행하여 현재 블록의 예측 모드 정보를 부호화할 수 있다.
또한, 예측부(120, 125)에서 생성된 예측 단위를 기초로 예측을 수행한 예측 단위와 예측 단위의 원본 블록과 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력될 수 있다.
변환부(130)에서는 원본 블록과 예측부(120, 125)를 통해 생성된 예측 단위의 잔차값(residual)정보를 포함한 잔차 블록을 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지, DST를 적용할지 또는 KLT를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 단위의 인트라 예측 모드 정보를 기초로 결정할 수 있다.
양자화부(135)는 변환부(130)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(135)에서 산출된 값은 역양자화부(140)와 재정렬부(160)에 제공될 수 있다.
재정렬부(160)는 양자화된 잔차값에 대해 계수값의 재정렬을 수행할 수 있다.
재정렬부(160)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(160)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔 대신 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160)에 의해 산출된 값들을 기초로 엔트로피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160) 및 예측부(120, 125)로부터 부호화 단위의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 단위 정보 및 전송 단위 정보, 모션 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다.
엔트로피 부호화부(165)에서는 재정렬부(160)에서 입력된 부호화 단위의 계수값을 엔트로피 부호화할 수 있다.
역양자화부(140) 및 역변환부(145)에서는 양자화부(135)에서 양자화된 값들을 역양자화하고 변환부(130)에서 변환된 값들을 역변환한다. 역양자화부(140) 및 역변환부(145)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 인트라 예측부를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(150)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다.
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위(Coding Unit, CU) 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.
메모리(155)는 필터부(150)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.
도 2는 본 개시의 일실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화 장치(200)는 엔트로피 복호화부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230, 235), 필터부(240), 메모리(245)가 포함될 수 있다.
영상 부호화 장치에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 영상 부호화 장치와 반대의 절차로 복호화될 수 있다.
엔트로피 복호화부(210)는 영상 부호화 장치의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화 장치에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다.
엔트로피 복호화부(210)에서는 부호화 장치에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.
재정렬부(215)는 엔트로피 복호화부(210)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부(215)에서는 부호화부에서 수행된 계수 스캐닝에 관련된 정보를 제공받고 해당 부호화부에서 수행된 스캐닝 순서에 기초하여 역으로 스캐닝하는 방법을 통해 재정렬을 수행할 수 있다.
역양자화부(220)는 부호화 장치에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 영상 부호화 장치에서 수행한 양자화 결과에 대해 변환부에서 수행한 변환 즉, DCT, DST, 및 KLT에 대해 역변환 즉, 역 DCT, 역 DST 및 역 KLT를 수행할 수 있다. 역변환은 영상 부호화 장치에서 결정된 전송 단위를 기초로 수행될 수 있다. 영상 복호화 장치의 역변환부(225)에서는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 변환 기법(예를 들어, DCT, DST, KLT)이 선택적으로 수행될 수 있다.
예측부(230, 235)는 엔트로피 복호화부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(245)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
전술한 바와 같이 영상 부호화 장치에서의 동작과 동일하게 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 단위에 대한 인트라 예측을 수행하지만, 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 픽셀을 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수도 있다.
예측부(230, 235)는 예측 단위 판별부, 인터 예측부 및 인트라 예측부를 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(210)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 모션 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 인터 예측부(230)는 영상 부호화 장치에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 또는, 현재 예측 단위가 포함된 현재 픽쳐 내에서 기-복원된 일부 영역의 정보를 기초로 인터 예측을 수행할 수도 있다.
인터 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 모션 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피 모드 중 어떠한 방법인지 여부를 판단할 수 있다.
인트라 예측부(235)는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 단위가 인트라 예측을 수행한 예측 단위인 경우, 영상 부호화 장치에서 제공된 예측 단위의 인트라 예측 모드 정보를 기초로 인트라 예측을 수행할 수 있다. 인트라 예측부(235)에는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 부분으로써 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 결정하여 적용할 수 있다. 영상 부호화 장치에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
복원된 블록 또는 픽쳐는 필터부(240)로 제공될 수 있다. 필터부(240)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화 장치로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화 장치의 디블록킹 필터에서는 영상 부호화 장치에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화 장치에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.
ALF는 부호화 장치로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라메터 셋에 포함되어 제공될 수 있다.
메모리(245)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력부로 제공할 수 있다.
전술한 바와 같이 이하, 본 개시의 실시예에서는 설명의 편의상 코딩 유닛(Coding Unit)을 부호화 단위라는 용어로 사용하지만, 부호화뿐만 아니라 복호화를 수행하는 단위가 될 수도 있다.
또한, 현재 블록은, 부호화/복호화 대상 블록을 나타내는 것으로, 부호화/복호화 단계에 따라, 코딩 트리 블록(또는 코딩 트리 유닛), 부호화 블록(또는 부호화 유닛), 변환 블록(또는 변환 유닛) 또는 예측 블록(또는 예측 유닛) 등을 나타내는 것일 수 있다. 본 명세서에서, '유닛'은 특정 부호화/복호화 프로세스를 수행하기 위한 기본 단위를 나타내고, '블록'은 소정 크기의 화소 어레이를 나타낼 수 있다. 별도의 구분이 없는 한, '블록'과 '유닛'은 동등한 의미로 사용될 수 있다. 예컨대, 후술되는 실시예에서, 부호화 블록(코딩 블록) 및 부호화 유닛(코딩 유닛)은 상호 동등한 의미인 것으로 이해될 수 있다.
영상은 블록 단위로 부호화/복호화될 수 있다. 코딩 블록은 트리 구조에 기반하여 재귀적으로 분할될 수 있다. 일 예로, 쿼드(quad) 트리 분할, 바이너리(binary) 트리 분할 또는 터너리(ternary) 트리 분할 중 적어도 하나에 의해 코딩 블록이 분할될 수 있다.
또한, 코딩 블록을 복수의 예측 블록들 또는 복수의 변환 블록들로 분할할 수 있다.
도 3은 본 개시의 일 실시예에 따른 인트라 예측 방법을 나타낸 흐름도이다.
도 3을 참조하면, 현재 블록의 참조 샘플 라인의 인덱스를 결정할 수 있다(S301). 상기 인덱스는 복수의 참조 샘플 라인 후보들 중 하나를 특정할 수 있다. 복수의 참조 샘플 라인 후보들은, 현재 블록에 인접하는 인접 참조 샘플 라인 및 현재 블록에 인접하지 않는 적어도 하나의 비인접 참조 샘플 라인을 포함할 수 있다.
일 예로, 현재 블록의 최상단 행보다 y축 좌표가 1이 작은 인접 행 및 현재 블록의 최좌측 열보다 x축 좌표가 1이 작은 인접 열로 구성된 인접 참조 샘플 라인이 참조 샘플 라인 후보로 이용될 수 있다.
현재 블록의 최상단 행보다 y축 좌표가 2만큼 작은 비인접 행 및 현재 블록의 최좌측 열보다 x축 좌표가 2만큼 작은 비인접 열을 포함하는 제1 비인접 참조 샘플 라인이 참조 샘플 라인 후보로 이용될 수 있다.
현재 블록의 최상단 행보다 y축 좌표가 3만큼 작은 비인접 행 및 현재 블록의 최좌측 열보다 x축 좌표가 3만큼 작은 비인접 열을 포함하는 제2 비인접 참조 샘플 라인이 참조 샘플 라인 후보로 이용될 수 있다.
상기 인덱스는, 인접 참조 샘플 라인, 제1 비인접 참조 샘플 라인 또는 제2 비인접 참조 샘플 라인 중 하나를 가리킬 수 있다. 일 예로, 인덱스가 0인 것은, 인접 참조 샘플 라인이 선택됨을 의미하고, 인덱스가 1인 것은 제1 비인접 참조 샘플 라인이 선택됨을 의미하고, 인덱스가 2인 것은 제2 비인접 참조 샘플 라인이 선택됨을 의미한다.
복수개의 참조 샘플 라인 후보들 중 하나를 특정하는 인덱스가 비트스트림을 통해 시그날링될 수 있다.
또는, 루마 성분 블록에 대해서는 인덱스를 시그날링하고, 크로마 성분 블록에 대해서는 인덱스의 시그날링을 생략할 수 있다. 인덱스의 시그날링이 생략되는 경우, 인덱스가 0인 것으로 간주할 수 있다. 즉, 크로마 성분 블록에 대해서는, 인접 참조 샘플 라인을 이용하여 인트라 예측이 수행될 수 있다.
선택된 참조 샘플 라인이 포함하는 복원 샘플들이 참조 샘플들로 유도될 수 있다.
다음으로, 현재 블록의 인트라 예측 모드를 결정할 수 있다(S302).
도 4는 인트라 예측 모드들의 종류를 예시한 것이다. 도 4에 도시된 예에서와 같이, 인트라 예측 모드들은 비방향성 예측 모드(DC 및 플래너(Planar)) 및 방향성 예측 모드를 포함한다. 도 4에서는, 65개의 방향성 예측 모드들이 정의된 것으로 예시되었다.
현재 블록의 인트라 예측 모드가 MPM(Most Probable Mode)과 동일한지 여부를 나타내는 플래그가 비트스트림을 통해 시그날링될 수 있다. 일 예로, MPM 플래그의 값이 1인 것은, 현재 블록의 인트라 예측 모드와 동일한 MPM이 존재함을 나타낸다. 반면, MPM 플래그의 값이 0인 것은, 현재 블록의 인트라 예측 모드와 동일한 MPM이 존재하지 않음을 나타낸다.
MPM 플래그의 값이 1인 경우, 현재 블록의 인트라 예측 모드가 디폴터 인트라 예측 모드와 동일한지 여부를 나타내는 플래그가 시그날링될 수 있다. 디폴트 인트라 예측 모드는, DC, 플래너, 수직 방향 예측 모드 또는 수평 방향 예측 모드 중 적어도 하나일 수 있다. 일 예로, 현재 블록의 인트라 예측 모드가 플래너 모드인지 여부를 나타내는 플래그 intra_not_planar_flag가 시그날링될 수 있다. 상기 플래그 intra_not_planar_flag의 값이 0인 것은, 현재 블록의 인트라 예측 모드가 플래너임을 나타낸다. 반면, 상기 플래그 intra_not_planar_flag의 값이 1인 것은, 현재 블록의 인트라 예측 모드가 플래너가 아님을 나타낸다. 상기 플래그 intra_not_planar_flag의 값이 1인 경우, MPM 후보들 중 하나를 특정하는 인덱스가 시그날링될 수 있다. 현재 블록의 인트라 예측 모드는 MPM 인덱스가 가리키는 MPM과 동일하게 설정될 수 있다.
참조 샘플 라인에 속하는 참조 샘플들 및 인트라 예측 모드에 기초하여, 예측 샘플을 유도할 수 있다(S303).
현재 블록의 인트라 예측 모드가 방향성 예측 모드인 경우, 방향성 예측 모드의 각도를 따르는 라인 상에 위치하는 참조 샘플을 이용하여, 예측 샘플을 유도할 수 있다.
현재 블록의 인트라 예측 모드가 평면 모드인 경우, 예측 대상 샘플의 수직 방향에 위치하는 참조 샘플 및 수평 방향에 위치하는 참조 샘플을 이용하여, 예측 샘플을 유도할 수 있다.
도 5는 평면 모드 하에서 예측 샘플을 유도하는 예를 설명하기 위한 도면이다.
도 5에서, T는 현재 블록의 우측 상단 코너에 인접하는 참조 샘플을 나타내고, L은 현재 블록의 좌측 하단 코너에 인접하는 참조 샘플을 나타낸다.
플래너 모드 하에서, 예측 대상 샘플에 대해, 수평 방향 예측 샘플 P1 및 수직 방향 예측 샘플 P2을 유도할 수 있다.
수평 방향 예측 샘플 P1은, 예측 대상 샘플과 동일한 수평선상에 위치하는 참조 샘플 H 및 우측 상단 참조 샘플 T를 선형 보간하여 생성될 수 있다.
수직 방향 예측 샘플 P2는, 예측 대상 샘플과 동일한 수직선상에 위치하는 참조 샘플 V 및 좌측 하단 참조 샘플 L을 선형 보간하여 생성될 수 있다.
이후, 수평 방향 예측 샘플 P1 및 수직 방향 예측 샘플 P2의 가중합 연산에 기초하여, 예측 샘플을 유도할 수 있다. 수학식 1은 수평 방향 예측 샘플 P1 및 수직 방향 예측 샘플 P2의 가중합 연산에 의해 예측 샘플 P가 유도되는 예를 나타낸다.
Figure PCTKR2020012865-appb-M000001
상기 수학식 1에서, α는 수평 방향 예측 샘플 P1에 적용되는 가중치를 나타내고, β는 수직 방향 예측 샘플 P2에 적용되는 가중치를 나타낸다.
가중치 α 및 β는, 현재 블록의 크기 또는 형태에 기초하여 결정될 수 있다. 구체적으로, 현재 블록의 너비 또는 높이 중 적어도 하나를 고려하여, 가중치 α 및 β가 결정될 수 있다. 일 예로, 현재 블록의 너비 및 높이가 동일한 경우, 가중치 α 및 β를 동일한 값으로 설정할 수 있다. 가중치 α 및 β가 동일한 경우, 예측 샘플은, 수평 방향 예측 샘플 P1 및 수직 방향 예측 샘플 P2의 평균값으로 유도될 수 있다. 반면, 현재 블록의 너비 및 높이가 상이한 경우, 가중치 α 및 β를 상이하게 설정할 수 있다. 일 예로, 현재 블록의 너비가 높이보다 더 큰 경우, 가중치 β를 가중치 α보다 더 큰 값으로 설정하고, 현재 블록의 높이가 너비보다 더 큰 경우, 가중치 α를 가중치 β보다 더 큰 값으로 설정할 수 있다. 또는, 위와 반대로, 현재 블록의 너비가 높이보다 더 큰 경우, 가중치 α를 가중치 β보다 더 큰 값으로 설정하고, 현재 블록의 높이가 너비보다 더 큰 경우, 가중치 β를 가중치 α보다 더 큰 값으로 설정할 수 있다.
다른 예로, 복수의 가중치 세트 후보들 중 하나로부터, 가중치 α 및 β를 유도할 수 있다. 일 예로, 가중치 α 및 β의 조합을 나타내는 가중치 후보 세트들 (1, 1), (3, 1) 및 (1, 3)이 기 정의된 경우, 가중치 α 및 β는 상기 가중치 후보 세트들 중 하나와 동일하게 선택될 수 있다.
복수의 가중치 세트 후보들 중 하나를 가리키는 인덱스가 비트스트림을 통해 시그날링될 수 있다. 상기 인덱스는 블록 레벨에서 시그날링될 수 있다. 일 예로, 코딩 블록 또는 변환 블록 단위로, 인덱스가 시그날링될 수 있다.
또는, 코딩 트리 유닛, 슬라이스, 픽처 또는 시퀀스 레벨에서 인덱스를 시그날링할 수도 있다. 인덱스 전송 단위에 포함된 블록들은, 상위 레벨에서 시그날링된 인덱스를 참조하여, 가중치 α 및 β를 결정할 수 있다. 즉, 인덱스 전송 단위에 포함된 블록들에 대해서는, 가중치 α 및 β가 동일하게 설정될 수 있다.
도 5의 예에서는, 수평 방향 예측 샘플 P1을 유도하는데, 우측 상단 참조 샘플 T가 이용되고, 수직 방향 예측 샘플 P2를 유도하는데, 좌측 하단 참조 샘플 L이 이용되는 것으로 도시되었다.
우측 상단 참조 샘플 이외의 참조 샘플을 이용하여, 수평 방향 예측 샘플 P1을 유도하거나, 좌측 하단 참조 샘플 이외의 참조 샘플을 이용하여 수직 방향 예측 샘플 P2를 유도할 수 있다. 일 예로, 수평 방향 예측 샘플 P1을 유도하는데 이용되는 제1 참조 샘플 및 수직 방향 예측 샘플 P2를 유도하는데 이용되는 제2 참조 샘플에 대한 참조 샘플 세트 후보들을 구성하고, 복수개의 참조 샘플 세트 후보들 중 선택된 하나를 이용하여, 수평 방향 예측 샘플 P1 및 수직 방향 예측 샘플 P2를 유도할 수 있다.
복수의 참조 샘플 세트 후보들 중 하나를 식별하는 인덱스가 비트스트림을 통해 시그날링될 수 있다. 상기 인덱스는, 블록, 서브 블록 또는 샘플 단위로 시그날링될 수 있다.
또는, 예측 대상 샘플의 위치에 기초하여, 참조 샘플 세트 후보를 선택할 수도 있다.
방향성 예측 모드 하에서, 예측 샘플은, 현재 블록 주변의 복원 화소들을 이용하여 생성될 수 있다.
도 6은 수평 모드 및 수직 모드 하에서 예측 샘플이 생성되는 예를 나타낸 것이다.
도 6에 도시된 예에서와 같이, 수평 모드하에서는, 예측 대상 샘플의 수평 방향에 위치하는 복원 샘플을 이용하여 예측 샘플이 생성될 수 있다.
수직 모드 하에서는, 예측 대상 샘플의 수직 방향에 위치하는 복원 샘플을 이용하여 예측 샘플이 생성될 수 있다.
인트라 예측 모드에 기초하여 화면 내 예측을 수행한 뒤, 원본 블록에서 예측 블록을 차분하여 잔차 블록을 유도할 수 있다.
이때, 0 부터 66 번 모드 중 하나를 이용하는 예측 방식이 이용될 수도 있고, 제한된 예측 방식이 이용될 수도 잇다. 제한된 예측 방식에서는, 수평 방향의 화면 내 예측 모드(18번) 또는 수직 방향의 화면 내 예측 모드(50번) 만이 이용될 수 있다. 이 경우, 1비트 정보에 의해, 화면 내 예측 모드가 특정될 수 있다. 또는, 수직 및 수평 방향 이외에, 대각 방향 예측 모드들, 예컨대, 좌측 하단 대각 방향(2번) 및 우측 상단 대각 방향(66번)을 이용가능한 후보로 추가할 수 있다. 이 경우, 2비트의 정보로 화면 내 예측 모드가 특정될 수 있다. 또는, 3개의 대각 방향 모드들, 예컨대, 좌측 하단 대각 방향(2번), 좌측 상단 대각 방향(34번) 및 우측 상단 대각 방향(66번) 중 두개를 이용 가능한 후보로 추가할 수 있다.
이용 가능한 인트라 예측 모드들의 개수가 부호화되어 복호화기로 전송될 수 있다. 또는, 부호화기 및 복호화기에서 이용 가능한 인트라 예측 모드들의 개수가 고정되어 있을 수 있다. 또는, 현재 블록의 크기 또는 형태에 기초하여, 이용 가능한 인트라 예측 모드들의 개수가 결정될 수 있다.
예측을 수행한 뒤, 원본 블록과 예측 블록을 차분하여 잔차 블록을 획득할 수 있다. 잔차 블록이 획득되면, 잔차 블록에 변환 또는 양자화 중 적어도 하나를 수행함으로써, 잔차 계수가 획득될 수 있다.
현재 블록에 변환이 적용되는지 여부를 나타내는 정보가 부호화되어 시그날링될 수 있다. 일 예로, transform_skip_flag가 부호화되어 시그날링될 수 있다. transform_skip_flag가 1인 경우, 현재 블록에 변환이 적용되지 않았음을 나타낸다. 여기서, 변환은 후술할 제1 변환 뿐만 아니라, 제2 변환도 포함될 수 있다. transform_skip_flag가 0인 경우, 현재 블록에 변환이 적용됨을 나타낸다. transform_skip_flag가 0인 경우, 현재 블록에 제1 변환이 필수적으로 적용되는 한편, 제2 변환은 선택적으로 적용될 수 있다.
변환은, DCT에 기반한 변환 커널 또는 DST에 기반한 변환 커널 중 적어도 하나에 기초하여 수행될 수 있다. 여기서, DCT에 기반한 변환 커널은, DCT-2 또는 DCT-8 중 적어도 하나를 포함하고, DST에 기반한 변환 커널은, DST-7을 포함할 수 있다. 잔차 샘플을 변환한 결과에, 추가 변환을 적용할 수도 있다. 이하, 설명의 편의를 위해, DCT 또는 DST 기반의 변환 커널에 의해 수행되는 변환을 제1 변환이라 호칭하고, 제1 변환의 결과에 추가 적용되는 변환을 제2 변환이라 호칭하기로 한다. 또한, 제1 변환의 결과로 생성된 변환 계수들을 제1 변환 계수들이라 호칭하고, 제2 변환의 결과로 생성된 변환 계수들을 제2 변환 계수들이라 호칭하기로 한다.
제2 변환은, 제1 변환 계수들 중 적어도 일부에 적용될 수 있다. 일 예로, 제2 변환 커널의 크기에 따라, 16개, 48개 또는 64개의 제1 변환 계수들을 대상으로 제2 변환을 적용할 수 있다. 제2 변환이 적용되는 제1 변환 계수들을 포함하는 영역의 형태는, 정방형, 비정방형 또는 다각형태일 수 있다.
수학식 2는, 제2 변환의 적용 양상을 나타낸 것이다.
Figure PCTKR2020012865-appb-M000002
상기 수학식 2에서, B_Rx1은, R행 1열로 구성된 제2 변환 계수들을 나타낸다. T_RXN은, R행 N열로 이루어진 제2 변환 커널을 나타낸다. A_Nx1은, N행 1열로 구성된 제1 변환 계수들을 나타낸다.
도 7 및 도 8은 제2 변환이 적용되는 예를 나타낸 도면이다.
도 7은, 제2 변환 커널이 64x64 크기인 예를 나타낸 것이다. 8x8 블록 내 제1 변환의 결과로 생성된 제1 변환 계수들을 1차원으로 배열할 수 있다. 이때, 소정의 스캔 방식으로 제1 변환 계수들을 스캐닝하여, 1차원 배열을 생성할 수 있다. 소정의 스캔 방식은, 대각 방향 스캔, 수평 방향 스캔, 수직 방향 스캔 또는 래스터 스캔 중 적어도 하나를 포함할 수 있다.
상기 재정렬을 통해 64x1 크기의 입력 행력이 생성되면, 64x64 크기의 제2 변환 커널과 64x1 크기의 입력 행렬 사이의 행렬 곱을 통해 제2 변환 계수를 유도할 수 있다.
제2 변환의 수행 결과, 64개의 제2 변환 계수들이 생성되고, 8x8 블록 내 제2 변환 계수들을 재배열할 수 있다. 제2 변환 계수들이 재배열된 8x8 블록을 양자화한 뒤, 양자화된 변환 블록을 부호화할 수 있다.
도 8은, 제2 변환 커널이 48x48 크기인 예를 나타낸 것이다. 8x8 블록 내 제1 변환의 결과로 생성된 제1 변환 계수들 중 48개의 제1 변환 계수들을 1차원으로 재정렬할 수 있다. 이때, 48개의 제1 변환 계수들은, 8x8 블록 내 우하단 4x4 크기의 서브 블록을 제외한 다각 형태 영역에 포함된 것일 수 있다.
48개의 제1 변환 계수들을 1차원으로 재정렬하여, 48x1 크기의 입력 행렬이 생성되면, 48x48 크기의 제2 변환 커널과 48x1 크기의 입력 행렬 사이의 행렬 곱을 통해 제2 변환 계수를 유도할 수 있다.
제2 변환의 수행 결과, 48개의 제2 변환 계수들이 생성되고, 8x8 블록 내 제2 변환 계수들을 재배열할 수 있다. 일 예로, 8x8 블록 내 우하단 4x4 크기의 서브 블록을 제외한 다각 형태 영역에 48개의 제2 변환 계수들을 재배열할 수 있다.
제2 변환 계수들이 배치되지 않는 영역에는, 제1 변환 계수들이 그대로 유지될 수 있다. 제2 변환 계수들 및 제1 변환 계수들을 포함하는 블록에 양자화를 적용한 뒤, 양자화된 변환 블록을 부호화할 수 있다.
또는, 제2 변환 계수들이 배치되지 않은 영역의 변환 계수들을 0으로 설정할 수도 있다. 즉, 제2 변환이 적용되지 않는 영역 내 변환 계수들의 값은 0으로 설정한 뒤, 양자화 및 부호화가 진행될 수 있다.
제2 변환 커널의 크기는, 현재 블록의 크기에 기초하여 결정될 수 있다. 일 예로, 현재 블록의 너비 또는 높이 중 적어도 하나가 4인 경우, 16개의 제1 변환 계수들에 제2 변환을 적용할 수 있다. 반면, 현재 블록의 너비 및 높이가 8 이상인 경우, 48개 또는 64개의 제1 변환 계수들에 제2 변환이 적용될 수 있다.
또는, 제2 변환 커널의 크기 및 종류를 나타내는 정보가 부호화되어 시그날링될 수 있다. 상기 정보는 블록 레벨에서 시그날링될 수 있다. 일 예로, 변환 크기의 행의 개수 또는 열의 개수 중 적어도 하나를 특정하는 정보가 부호화될 수 있다. 또는, 행의 개수 및 열의 개수의 조합들 각각에 상이한 인덱스를 할당한 뒤, 상기 조합들 중 하나를 특정하는 인덱스를 부호화할 수도 있다. 또는, 복수개의 제2 변환 커널 후보들 각각에 상이한 인덱스를 할당한 뒤, 상기 제2 변환 커널 후보들 중 하나를 특정하는 인덱스를 부호화할 수도 있다. 여기서, 복수의 제2 변환 커널 후보들 각각은 크기 또는 계수 중 적어도 하나가 상이할 수 있다.
또는, 현재 블록의 크기에 기초하여, 제2 변환 커널의 크기를 결정한 뒤, 결정된 크기를 갖는 복수개의 제2 변환 커널 후보들 중 하나를 특정하는 인덱스를 부호화할 수도 있다.
도 7 및 도 8에 도시된 예에서는 행의 개수와 열의 개수가 같은, 제2 변환 커널이 이용되는 것으로 도시되었다. 제2 변환의 간소화를 위해, 행의 개수 및 열의 개수를 상이하게 설정하는 것도 가능하다.
도 9 및 도 10은 비대칭 형태의 제2 변환 커널에 기초한 제2 변환을 예시한 것이다.
제2 변환 커널의 행의 개수 R을 열의 개수 N보다 작은 값으로 설정할 수 있다. 예컨대, 행의 개수 R을 8로 설정하고, 열의 개수 N을 48로 설정할 수 있다.
제2 변환 커널의 행의 개수가 감소할 경우, 제2 변환의 결과로 출력되는 제2 변환 계수들의 개수도 감소하게 된다. 예컨대, 8x48 크기의 제2 변환 커널과, 48x1 크기의 입력 행렬 사이의 행렬 곱을 수행하면, 8x1 크기의 제2 변환 계수들이 생성된다.
8개의 제2 변환 계수들을 8x8 블록 내 재정렬할 수 있다. 이때, 제2 변환의 적용 영역(즉, 제2 변환이 적용되는 제1 변환 계수들이 포함된 영역) 내, 제2 변환 계수들이 할당되지 않은 영역에서는, 변환 계수들의 값을 0으로 설정할 수 있다. 예컨대, 48개 샘플을 포함하는 다각 형태 영역이 제2 변환의 적용 영역인 경우, 상기 다각 형태 영역 중 8개의 제2 변환 계수들이 할당된 영역을 제외한 잔여 영역에서는, 변환 계수들의 값을 0으로 설정할 수 있다.
제2 변환이 적용되지 않는 영역에서는, 제1 변환 계수들을 그대로 유지할 수 있다.
또는, 제2 변환이 적용되지 않는 영역 내 제1 변환 계수들 중 적어도 일부를 0으로 변환하여 부호화할 수 있다. 도 10에는, 제2 변환이 적용되지 않는 영역 중 적어도 일부가 0으로 변환되는 예가 예시되어 있다.
도 10의 (a)에 도시된 예에서와 같이, 제2 변환이 수행되지 않는 영역 내, 고주파 영역에 해당하는 제1 변환 계수들의 값을 0으로 변환할 수 있다. 일 예로, x축 및 y축 좌표의 합이 문턱값 이상인 제1 변환 계수들의 값을 0으로 변환할 수 있다.
또는, 특정 형태에 따라, 0으로 변환되는 제1 변환 계수들을 선택할 수 있다. 일 예로, 도 10의 (b)에 도시된 예에서와 같이, 제2 변환이 수행되지 않는 영역 내 하단 n개의 행에 포함된 제1 변환 계수들을 0으로 변환할 수 있다. 또는, 도 10의 (c)에 도시된 예에서와 같이, 제2 변환이 수행되지 않는 영역 내 우측 n개의 열에 포함된 제1 변환 계수들을 0으로 변환할 수 있다.
또는, 도 10의 (d)에 도시된 예에서와 같이, 제2 변환이 수행되지 않는 영역 내 모든 제1 변환 계수들을 0으로 변환할 수도 있다.
0으로 변환되는 제1 변환 계수들을 포함하는 영역의 형태는, 현재 블록의 크기, 형태, 인트라 예측 모드 또는 변환 커널 중 적어도 하나에 기초하여 결정될 수 있다. 또는, 복수개의 후보 형태들 중 상기 영역과 일치하는 하나를 특정하는 인덱스를 부호화하여 시그날링할 수도 있다.
제2 변환이 허용되는지 여부는, 현재 블록의 부호화 모드 또는 제1 변환 커널 중 적어도 하나에 기초하여, 결정될 수 있다. 여기서, 부호화 모드는, 인트라 예측 또는 인터 예측을 가리킨다. 일 예로, 현재 블록이 인트라 예측으로 부호화된 경우에는, 제2 변환이 허용되는 반면, 현재 블록이 인터 예측으로 부호화된 경우에는, 제2 변환이 허용되지 않을 수 있다.
제2 변환이 적용되었는지 여부를 나타내는 정보가 부호화되어 시그날링될 수 있다. 상기 정보는 1비트의 플래그일 수 있다. 상기 플래그가 참 또는 거짓인지 여부에 따라, 현재 블록에 제2 변환이 적용되었는지 여부가 결정될 수 있다. 또는, 상기 정보는 인덱스 정보일 수 있다. 인덱스의 값이 0인 것은, 현재 블록에 제2 변환이 적용되지 않음을 나타낸다. 반면, 인덱스의 값이 0보다 큰 것은, 현재 블록에 제2 변환이 적용되었음을 나타낸다. 인덱스의 값이 0보다 큰 경우, 인덱스에 의해, 제2 변환 커널을 특정할 수 있다.
현재 블록에 제2 변환이 수행되었는지 여부를 나타내는 정보는, 컬러 성분별로 개별적으로 부호화될 수 있다. 일 예로, 루마 성분(Y), 제1 색차 성분(Cb) 및 제2 색차 성분(Cr) 각각에 대해, 제2 변환이 수행되었는지 여부를 나타내는 정보가 부호화될 수 있다.
또는, 색차 성분들에 대해, 제2 변환이 수행되었는지 여부를 나타내는 정보가 통합 부호화될 수 있다. 일 예로, 각각의 색차 성분들(Cb, Cr)에 대해서는, 제2 변환의 적용 여부가 공동으로 결정될 수 있다. 즉, 제1 색차 성분(Cb) 및 제2 색차 성분(Cr)은, 제2 변환이 수행되었는지 여부를 나타내는 정보를 공유할 수 있다.
또는, 트리 구조에 기초하여, 컬러 성분별로 상기 정보가 부호화되었는지 여부가 결정될 수 있다. 일 예로, 루마 성분과 크로마 성분이 동일한 트리 구조를 갖는 경우, 세개의 컬러 성분들(즉, Y, Cb, Cr)이 제2 변환의 수행 여부를 나타내는 정보를 공유할 수 있다. 반면, 루마 성분과 크로마 성분이 상이한 트리 구조를 갖는 경우, 루마 성분 및 크로마 성분 각각에 대해 제2 변환의 수행 여부를 나타내는 정보가 시그날링될 수 있다.
복수개의 제2 변환 커널 후보들을 적어도 복수개의 그룹들로 그루핑할 수 있다. 복수개의 그룹들 중 현재 블록의 크기, 형태 또는 인트라 예측 모드들 중 적어도 하나에 기초하여, 하나의 그룹을 특정할 수 있다. 그룹이 특정되면, 상기 인덱스 정보를 이용하여, 특정된 그룹이 포함하는 복수개의 제2 변환 커널 후보들 중 적어도 하나를 특정할 수 있다.
현재 블록 내 마지막 0이 아닌 계수의 위치에 기초하여, 제2 변환의 적용 여부를 나타내는 정보의 부호화 여부가 결정될 수도 있다.
도 11은 마지막 0이 아닌 계수의 위치에 기초하여, 제2 변환의 적용 여부를 나타내는 정보의 부호화 여부가 결정되는 예를 나타낸 것이다.
설명의 편의를 위해, 제2 변환이 수행된 경우, 제2 변환 계수들이 재배열된 영역 이외 잔여 영역들에서는, 변환 계수들의 값이 0으로 설정되는 것으로 가정한다.
제2 변환의 수행 결과, 제2 변환 커널의 행의 개수 R과 동일한 개수의 제2 변환 계수들이 생성된다. 상술한 예에서와 같이, 제2 변환 계수들을 제외한 잔여 변환 계수들의 값은 모두 0으로 설정되는 바, R개의 제2 변환 계수들이 재배열된 영역을 제외한 잔여 영역에는 0이 아닌 계수가 존재하지 않는다. 위 원리에 따라, R개의 제2 변환 계수들이 재배열되는 영역을 제한 영역으로 설정할 수 있다.
도 11의 (a) 내지 (c)에서는, 8x8 크기의 블록 내 좌상단 4x4 크기의 블록이 제한 영역으로 설정되는 것으로 예시되었다.
제한 영역 바깥에 0이 아닌 계수가 존재하는 것은, 현재 블록에 제2 변환이 적용되지 않았음을 나타낸다. 이에 따라, 마지막 0이 아닌 계수가 상기 제한 영역 바깥에 존재하는 경우, 현재 블록에 제2 변환이 적용되었는지 여부를 나타내는 정보의 부호화를 생략할 수 있다. 일 예로, 도 11의 (a)에 도시된 예에서와 같이, 제한 영역 바깥에 마지막 0이 아닌 계수가 존재하는 경우, 상기 제2 변환이 적용되었는지 여부를 나타내는 정보의 부호화가 생략될 수 있다.
복호화기도, 마지막 0이 아닌 계수가 제한 영역 바깥에 존재하는 경우, 상기 정보를 복호화하지 않고, 현재 블록에 제2 역변환이 적용되지 않는 것으로 결정할 수 있다.
도 11의 (b)에 도시된 예에서와 같이, 현재 블록에 제2 변환이 적용된 경우, 제한 영역 내에만 0이 아닌 변환 계수가 존재할 수 있다. 또는, 도 11의 (c)에 도시된 예에서와 같이, 현재 블록에 제2 변환이 적용되지 않은 경우라 하더라도, 제한 영역 내에만 0이 아닌 변환 계수가 존재하는 경우가 발생할 수 있다. 이에 따라, 마지막 0이 아닌 계수가 제한 영역 내 존재하는 경우, 제2 변환이 적용되었는지 여부를 나타내는 정보가 부호화될 수 있다.
복호화기는 상기 정보에 기초하여, 현재 블록에 제2 역변환을 적용할 것인지 여부를 결정할 수 있다.
또는, 마지막 0이 아닌 계수가 제한 영역 안에 존재하는 경우, 상기 정보의 부호화를 생략하고, 제2 변환을 필수적으로 적용할 수도 있다.
제한 영역의 크기는 제2 변환 커널의 크기에 기초하여 결정될 수 있다. 일 예로, 제2 변환 커널이 RxN 크기의 행렬인 경우, 너비 및 높이가 각각 Log2R 인 사각 영역을 제한 영역으로 설정할 수 있다.
또는, 제2 변환이 적용되는 영역을 제한 영역으로 설정할 수도 있다.
또는, 제한 영역의 크기 또는 형태 중 적어도 하나를 나타내는 정보가 부호화되어 시그날링될 수 있다. 상기 정보는, 시퀀스, 픽처 헤더 또는 슬라이스 헤더와 같은 상위 레벨을 통해 시그날링될 수 있다.
또는, 제한 영역의 크기 또는 형태 중 적어도 하나가 부호화기 및 복호화기에 기 정의되어 있을 수 있다. 일 예로, 부호화기 및 복호화기 간에, 현재 블록 내 좌상단 4x4 크기의 블록을 제한 영역으로 설정하는 것이 기 약속되어 있을 수 있다.
또는, 현재 블록의 크기, 형태, 제1 변환 커널 또는 인트라 예측 모드 중 적어도 하나에 기초하여, 제한 영역의 크기 또는 형태 중 적어도 하나를 적응적으로 결정할 수도 있다.
또는, 복수개의 제한 영역 후보들을 정의한 뒤, 복수개의 제한 영역 후보들 중 하나를 특정하는 인덱스를 부호화하여 시그날링할 수도 있다.
도 12는 4x4 크기의 블록에 대한 제한 영역 후보들을 예시한 것이다.
현재 블록이 4x4 크기인 경우, 도 12에 도시된 복수개의 제한 영역 후보들 중 하나를 특정하는 인덱스 정보가 부호화될 수 있다.
4x4 크기의 블록 뿐만 아니라, 4x4 보다 큰 크기를 갖는 블록에도, 도 12에 도시된 제한 영역 후보들 중 적어도 하나가 적7용될 수 있다. 일 예로, 너비 또는 높이 중 적어도 하나가 4이고, 다른 하나가 4보다 큰 블록에 대해서도, 도 12에 도시된 제한 영역 후보들 중 적어도 하나가 적용될 수 있다.
또는, 현재 블록의 크기에 따라 제한 영역 후보들의 크기 또는 개수가 상이하게 설정될 수도 있다.
제한 영역 후보들 중 하나를 특정하는 인덱스를 부호화하는 대신, 현재 블록의 크기 또는 형태에 기초하여, 제한 영역 후보들 중 하나를 특정할 수도 있다.
상술한 예에서는, 제2 변환 커널의 크기가 적응적으로 선택될 수 있는 것으로 설명하였다. 다른 예로, 기 정의된 크기의 제2 변환 커널을 모든 블록에 적용할 수도 있다. 일 예로, 모든 블록에 대해, 16x48 크기의 제2 변환 커널을 이용할 수 있다. 이 경우, 48개의 제1 변환 계수들에 대해 제2 변환이 적용될 수 있다.
도 13은 기 정의된 크기의 제2 변환 커널이 적용되는 예를 나타낸 도면이다.
16x48 크기의 제2 변환 커널이 이용되는 경우, 도 13의 (a)에 도시된 예에서와 같이, 8x8 크기의 블록 내 우하단 4x4 크기의 서브 블록이 제외된 영역에 제2 변환이 적용될 수 있다. 일 예로, 도 13의 (a)에 도시된 다각 형태 영역에 포함된 제1 변환 계수들에 대해 제2 변환이 적용될 수 있다.
이때, 현재 블록의 너비 또는 높이 중 적어도 하나가 8보다 작은 경우, 현재 블록에 제2 변환을 적용하지 않을 수 있다.
또는, 현재 블록의 너비 또는 높이 중 적어도 하나가 8보다 작은 경우, 제2 변환이 적용되는 영역을 4x12 또는 12x4와 같은 직사각형 형태로 변형한 뒤, 제2 변환을 수행할 수 있다.
또는, 현재 블록의 너비 또는 높이 중 적어도 하나가 8보다 작은 경우, 현재 블록의 좌측 상단 위치와 제2 변환이 적용되는 영역의 좌측 상단 영역을 일치시킨 뒤, 현재 블록과 제2 변환이 적용되는 영역 간의 중복 영역에만, 제2 변환을 적용할 수 있다.
도 13의 (b)는 중복 영역에만 제2 변환이 수행되는 예를 나타낸 것이다.
중복 영역에 포함된 제1 변환 계수들을 1차원으로 배열한 뒤, 이를 제2 변환을 위한 입력 행렬로 설정할 수 있다.
현재 블록에 제1 변환 및 제2 변환이 적용된 경우, 복호화기에서는, 제2 변환에 대한 역변환(제2 역변환)을 수행한 뒤, 제2 역변환이 수행된 결과에 제1 변환에 대한 역변환(제1 역변환)을 수행하여, 잔차 샘플을 유도할 수 있다.
제2 역변환은, 제2 변환 커널의 전치 행렬을 기초로 수행될 수 있다. 일 예로, 제2 변환 커널이 8x48 크기인 경우, 제2 역변환은, 48x8 크기의 변환 커널에 의해 수행될 수 있다.
제2 변환에 의해 생성된 제2 변환 계수들이 제2 역변환의 입력 행렬로 설정될 수 있다. 일 예로, 8x48 크기의 제2 변환 커널에 의해 제2 변환이 수행된 경우, 제2 역변환 수행시, 8개의 계수들로 구성된 8x1 크기의 입력 행렬이 이용될 수 있다. 이후, 제2 변환 커널의 전치 행렬과 입력 행렬 사이의 행렬 곱에 의해, 제2 역변환이 수행된 변환 계수들이 출력될 수 있다. 일 예로, 48x8 크기의 변환 커널과, 8x1 크기의 입력 행렬 사이의 행렬 곱을 통해 48개의 변환 계수들이 출력될 수 있다.
현재 블록 내 변환 계수들을 재배열한 뒤, 재배열된 블록에 제1 역변환을 적용할 수 있다.
잔차 샘플을 변환하여 생성된 변환 계수를 양자화한 뒤, 양자화된 변환 계수를 부호화할 수 있다. 또는, 양자화를 생략하고, 변환 계수를 부호화할 수도 있다.
현재 블록에 변환이 적용되지 않은 경우, 잔차 샘플을 양자화한 뒤, 양자화된 잔차 샘플을 부호화할 수도 있다.
변환이 스킵된 경우, 블록 별로 양자화 정보가 추가 부호화될 수 있다. 일 예로, 시퀀스, 픽처 헤더 또는 슬라이스 헤더를 통해 전송되는 양자화 정보에 DPCM(Differential Pulse-Coded Modulation)을 적용하여 부호화된 변환 스킵을 위한 양자화 정보가 추가 시그날링될 수 있다.
양자화가 수행된 이후에는, 런 렝스(run length) 부호화가 적용될 수 있다. 즉, 양자화 결과로 생성된 양자화된 계수들이 런 렝스 방식으로 부호화될 수 있다. 여기서, 런(run)은, 동일한 데이터가 연속되어 있는 것을 의미하고, 런 렝스는, 연속된 데이터들의 길이를 의미한다. 일 예로, aaaaaabbccccccc라는 문자열이 있는 경우 a가 6회 연속되고, b가 2회 연속되고, c가 7개 연속되므로, 6a2b7c 혹은 a6b2c7로 표현되어 부호화될 수 있다.
위와 같은 부호화 방식을 런 렝스 부호화 방식이라 정의할 수 있다.
효율적은 런 렝스 부호화를 위해, 최적의 스캔 방식을 결정할 수 있다.
도 14는 스캔 방식을 예시한 것이다.
도 14에 도시된 스캔 방식에 의하면, 특정 방향성에 따라, 계수들이 스캔된다. 도 14에 도시된 스캔 방식들 중, 동일한 값들이 연속적으로 정렬되어 있는 것을 최적의 스캔 방식으로 결정할 수 있다.
현재 블록에 변환 스킵이 적용된 경우, 현재 블록의 스캔 방식을 특정하는 정보가 부호화되어 시그날링될 수 있다. 상기 정보는, 복수의 스캔 방식들 중 하나를 특정하는 인덱스일 수 있다.
현재 블록의 크기, 형태 또는 화면 내 예측 모드 중 적어도 하나에 기초하여, 이용 가능한 스캔 방식 후보의 개수 또는 종류를 상이하게 설정할 수 있다. 일 예로, 현재 블록의 화면 내 예측 모드가 수평 방향 또는 수직 방향인 경우에는, 도 4에 도시된 2개의 스캔 방식들 만이 후보로서 설정될 수 있다. 반면, 현재 블록의 화면 내 예측 모드가 대각 방향(예컨대, 2, 34 또는 66)인 경우, 도 14에 도시된 4개의 스캔 방식들이 모두 후보로서 설정될 수 있다. 이에 따라, 현재 블록의 인트라 예측 모드에 따라, 스캔 방식을 특정하기 위한 인덱스에 할당되는 비트 길이가 상이할 수 있다. 일 예로, 현재 블록의 인트라 예측 모드가 수평 방향 또는 수직 방향인 경우, 인덱스는 1비트의 길이를 가질 수 있다. 반면, 현재 블록의 인트라 예측 모드가 대각 방향인 경우, 인덱스는 2비트의 길이를 가질 수 있다.
또는, 현재 블록의 크기, 형태 또는 화면 내 예측 모드 중 적어도 하나에 기초하여, 스캔 방식을 결정할 수 있다. 일 예로, 화면 내 예측 모드가 수평 방향인 경우, 도 14의 (a)에 도시된 수평 방향 스캔 방식 또는 수직 방향 스캔 방식을 적용할 수 있다.
양자화된 계수들을 런 렝스 방식으로 부호화하는 대신, 양자화된 계수들에 대해 추가 예측을 적용하는 부호화 방식을 적용할 수도 있다. 일 예로, 현재 블록 내 인트라 예측을 통해 잔차 블록이 생성되면, 상기 잔차 블록에 변환을 스킵하고, 양자화를 수행할 수 있다. 상기 양자화를 통해 양자화된 계수가 출력되면, 출력된 값에 DPCM을 적용할 수 있다.
복수개의 방향 후보들 중 하나가 DPCM에 이용될 수 있다. 일 예로, 양자화된 계수에 가로 방향 DPCM 또는 세로 방향 DPCM을 적용할 수 있다.
부호화기에서는, 양자화된 잔차 계수에 적용되는 DPCM 방향을 특정하기 위한 정보를 부호화하여 시그날링할 수 있다. 혹은, 예측 블록을 생성하는데 이용되었던 예측 방향이 DPCM 방향으로 설정될 수 있다.
DPCM 방향은 인트라 예측 모드 예측 시 이용될 수 있다. 일 예로, 현재 블록의 MPM 후보 유도 시, 이웃 블록에 수평 방향 DPCM이 적용된 경우, 이웃 블록의 인트라 예측 모드가 수평 방향인 것으로 간주하고 MPM을 유도할 수 있다. 또는, 현재 블록의 MPM 후보 유도 시, 이웃 블록에 수직 방향 DPCM이 적용된 경우, 이웃 블록의 인트라 예측 모드가 수직 방향인 것으로 간주하고 MPM을 유도할 수 있다. 또는, 이웃 블록에 대각 방향 DPCM이 적용된 경우, 이웃 블록의 인트라 예측 모드가 대각 방향(예컨대, 2, 34 또는 66)인 것으로 간주하거나, 비방향성 모드(예컨대, 플래너 또는 DC)인 것으로 간주하고 MPM을 유도할 수 있다.
이때, DPCM 방향으로부터 직접적으로 유도되는 MPM이 MPM 후보들 중 가장 높은 우선 순위 또는 가장 낮은 우선 순위를 가질 수 있다. 여기서, 우선 순위가 가장 높은 것은, MPM 후보들 중 가장 낮은 인덱스가 할당되는 것(즉, 첫번째 MPM으로 설정되는 것)을 의미하고, 우선 순위가 가장 낮은 것은, MPM 후보들 중 가장 높은 인덱스가 할당되는 것(즉, 마지막 MPM으로 설정되는 것)을 의미할 수 있다.
설명의 편의를 위해, 부호화기에서 부호화되는 잔차 신호 관련 데이터를 잔차 계수라 호칭하기로 한다. 예컨대, 잔차 계수는, 변환 또는 양자화의 적용 여부에 따라, 양자화된 변환 계수, 변환 계수 또는 양자화된 잔차 샘플 중 적어도 하나를 의미할 수 있다.
현재 블록 내 0이 아닌 잔차 계수가 존재하는지 여부를 나타내는 플래그가 부호화되어 시그날링될 수 있다. 현재 블록 내 0이 아닌 잔차 계수가 존재하는 경우, 스캔 순서 상 마지막 0이 아닌 잔차 계수의 위치를 부호화할 수 있다.
또한, 현재 블록 내 서브 블록 단위로, 서브 블록 내 0이 아닌 잔차 계수가 존재하는지 여부를 나타내는 서브 블록 플래그를 부호화할 수 있다. 서브 블록 내 0이 아닌 잔차 계수가 존재하는 경우, 스캔 순서에 따라, 각 잔차 계수에 대한 정보가 추가 부호화될 수 있다.
이때, 마지막 0이 아닌 잔차 계수를 포함하는 서브 블록보다 스캔 순번이 빠른 서브 블록에 대해서는, 서브 블록 플래그의 부호화가 생략될 수 있다. 상기 서브 블록에는, 0이 아닌 잔차 계수가 포함되지 않는 바, 서브 블록 플래그의 값이 0으로 간주될 수 있다.
또한, 마지막 0이 아닌 잔차 계수를 포함하는 서브 블록에 대해서는, 서브 블록 플래그의 부호화를 생략할 수도 있다. 상기 서브 블록에는 0이 아닌 잔차 계수가 반드시 포함되는 바, 서브 블록 플래그의 값이 1로 간주될 수 있다.
다른 예로, 마지막 0이 아닌 잔차 계수의 위치 정보의 부호화를 생략할 수 있다. 마지막 0이 아닌 잔차 계수의 위치 정보의 부호화가 생략되는 경우, 현재 블록 내 모든 서브 블록들에 대해 서브 블록 플래그가 부호화될 수 있다.
이때, 스캔 순번이 마지막 서브 블록을 제외한 잔여 서브 블록들에 0이 아닌 잔차 계수가 포함되지 않은 것으로 결정되는 경우, 마지막 서브 블록에는 0이 아닌 잔차 계수가 반드시 포함되는 것으로 이해될 수 있다. 이에 따라, 마지막 서브 블록에 대해서는 서브 블록 플래그의 부호화를 생략하고, 그 값이 1인 것으로 간주할 수 있다.
마지막 0이 아닌 계수의 위치 정보가 부호화었는지 여부를 나타내는 정보가 추가 부호화될 수도 있다. 마지막 0이 아닌 계수의 위치 정보가 부호화되는 경우, 상기 정보의 값은 1로 설정될 수 있다. 이 경우, 마지막 0이 아닌 계수가 존재하는 서브 블록부터 서브 블록 플래그가 부호화될 수 있다. 반면, 마지막 0이 아닌 계수의 위치 정보가 부호화되지 않는 경우, 상기 정보의 값은 0으로 설정될 수 있다. 이 경우, 스캔 순서가 첫번째인 서브 블록부터 서브 블록 플래그가 부호화될 수 있다.
현재 블록에 0이 아닌 잔차 계수가 존재하는 경우, 상기 현재 블록 내 첫번째 서브 블록에 대해서는, 0이 아닌 잔차 계수가 반드시 포함되는 것으로 가정할 수 있다. 이에 따라, 첫번째 서브 블록에 대해서는 0이 아닌 잔차 계수가 존재하는지 여부를 나타내는 서브 블록 플래그의 부호화를 생략할 수 있다.
각 잔차 계수에 관한 정보는, 잔차 계수가 0이 아닌 값을 갖는지 여부를 나타내는 플래그, 잔차 계수의 크기를 나타내는 정보 및 잔차 계수의 부호를 나타내는 정보 중 적어도 하나를 포함할 수 있다.
소정의 스캔 순서에 따라 잔차 계수들을 부호화할 수 있다. 이때, 현재 블록에 변환이 스킵되었는지 여부에 기초하여, 잔차 계수들의 부호화 순서가 상이할 수 있다. 일 예로, 현재 블록에 변환이 스킵되지 않은 경우, 서브 블록 내 우측 하단에 위치하는 잔차 계수가 첫번째로 부호화되고, 좌측 상단에 위치하는 잔차 계수가 마지막으로 부호화될 수 있다. 즉, 역-대각 스캔, 역-수평 스캔 또는 역-수직 스캔을 따라 잔차 계수들 간 스캔 순번이 결정될 수 있다. 반면, 현재 블록에 변환이 스킵된 경우, 서브 블록 내 좌측 상단에 위치하는 잔차 계수가 첫번째로 부호화되고, 우측 하단에 위치하는 잔차 계수가 마지막으로 부호화될 수 있다. 즉, 대각 스캔, 수평 스캔 또는 수직 스캔을 따라 잔차 계수들 간 스캔 순번이 결정될 수 있다.
또는, 현재 블록에 변환이 스킵된 경우에도, 역-대각 스캔, 역-수평 스캔 또는 역-수직 스캔을 따라 잔차 계수들 간 스캔 순번을 결정할 수도 있다.
잔차 계수들의 스캔 순서는 부호화기 및 복호화기에서 기 정의되어 있을 수 있다. 또는, 잔차 계수들의 스캔 순서를 나타내는 정보가 부호화되어 시그날링될 수 있다. 또는, 현재 블록의 크기, 형태, 인트라 예측 모드, 변환이 스킵되었는지 여부 또는 2차 변환이 수행되었는지 여부 중 적어도 하나에 기초하여 스캔 순서가 결정될 수 있다.
도 15는 부호화기에서 잔차 계수를 부호화하는 과정을 나타낸 흐름도이다.
먼저, 잔차 계수가 0이 아닌 값을 갖는지 여부를 나타내는 플래그, significant_flag를 부호화할 수 있다(S1510). 잔차 계수의 값이 0인 경우, 플래그 sig_flag의 값을 0으로 설정하여 부호화할 수 있다. 반면, 잔차 계수의 값이 0이 아닌 경우, 플래그 sig_flag의 값을 1로 설정하여 부호화할 수 있다. 잔차 계수의 값이 0이 아닌 경우, 잔차 계수의 크기 정보가 더 부호화될 수 있다(S1520).
도 16은 잔차 계수의 크기 정보의 부호화 과정을 나타낸 흐름도이다.
적어도 하나 이상의 gt_N_flag를 이용하여, 잔차 계수의 절대값을 부호화할 수 있다. 여기서, N은, 1 이상의 자연수일 수 있다. 플래그 gt_N_flag는 잔차 계수의 절대값이 2(N-1) 보다 큰 값을 갖는지 여부를 나타낼 수 있다. 잔차 계수의 절대값을 부호화하는데 이용되는 gt_N_flag의 개수는, 현재 블록에 변환이 스킵되었는지 여부에 기초하여 결정될 수 있다. 일 예로, 현재 블록에 변환이 스킵되지 않은 경우, 2개의 gt_N_flag(N은 1부터 2)가 이용될 수 있다. 반면, 현재 블록에 변환이 스킵된 경우, 3개 이상의 gt_N_flag (예컨대, 3개, 4개, 또는 5개)가 이용될 수 있다. 본 실시예에서는, 2개의 gt_N_flag가 이용되는 것으로 가정한다.
잔차 계수의 절대값이 1보다 큰지 여부를 나타내는 플래그 gt1_flag를 부호화할 수 있다(S1610). 잔차 계수의 절대값이 1인 경우, 플래그 gt1_flag의 값을 0으로 설정하여 부호화할 수 있다. 반면, 잔차 계수의 절대값이 1보다 큰 경우, 플래그 gt1_flag의 값을 1로 설정하여 부호화할 수 있다.
잔차 계수의 절대값이 1보다 큰 경우, 잔차 계수의 절대값이 짝수인지 또는 홀수인지 여부를 나타내는 플래그 par_flag를 부호화할 수 있다(S1620). 잔차 계수의 절대값이 짝수인 경우, 플래그 par_flag를 0으로 설정하여 부호화할 수 있다. 반면, 잔차 계수의 절대값이 홀수인 경우, 플래그 par_flag를 1로 설정하여 부호화할 수 있다. 또는, 이와 반대로, 잔차 계수의 절대값이 짝수인 경우, 플래그 par_flag를 1로 설정하고, 잔차 계수의 절대값이 홀수인 경우, 플래그 par_flag를 0으로 설정할 수도 있다.
다음으로, 잔차 계수의 절대값이 3보다 큰지 여부를 나타내는 플래그 gt_2_flag를 부호화할 수 있다(S1630). 잔차 계수의 절대값이 3 이하인 경우, 플래그 gt_2_flag의 값을 0으로 설정할 수 있다. 반면, 잔차 계수의 절대값이 3보다 큰 경우, 플래그 gt_2_flag의 값을 1로 설정할 수 있다.
잔차 계수의 절대값이 3보다 큰 경우, 잔여 크기를 나타내는 rem_level을 부호화할 수 있다(S1640). 신택스 rem_level은, 잔차 계수의 절대값에서 4를 차분하여 유도된 값을 오른쪽으로 1만큼 시프팅하여 유도될 수 있다.
도 16에 도시된, gt_1_flag 및 gt_2_flag 플래그 이외에도, gt_3_flag, gt_4_flag 또는 gt_5_flag 등과 같은, gt_N_flag가 추가 부호화될 수 있다. 이때, gt_(N-1)_flag의 값이 1인 경우, gt_N_flag가 추가 부호화될 수 있다.
gt_N_flag는, 잔차 계수의 절대값이, (2N-1)보다 큰 값을 갖는지 여부를 나타낼 수 있다. gt_N_flag가 추가 이용되는 경우, rem_level은, 잔차 계수의 절대값에서 2N을 차분하여 유도된 값을 오른쪽으로 1만큼 시프팅하여 유도될 수 있다.
상술한 예에서는, sig_flag, gt_1_flag, par_flag, gt_2_flag 및 rem_level을 이용하여, 잔차 계수의 절대값이 부호화되는 것으로 예시되었다. 다른 예로, 잔차 계수의 절대값을 그대로 부호화할 수도 있다. 일 예로, 잔차 계수의 절대값을 나타내는 신택스 abs_level가 부호화될 수 있다. 잔차 계수의 절대값의 부호화 방법을 선택하는 방법에 대해서는 후술하기로 한다.
잔차 계수의 크기 정보를 부호화한 이후, 잔차 계수의 부호를 나타내는 플래그 sign_flag를 부호화할 수 있다(S1030). 플래그 sign_flag의 값이 0인 것은, 잔차 계수가 양수임을 나타낸다. 반면, 플래그 sing_flag의 값이 1인 것은, 잔차 계수가 음수임을 나타낸다.
표 1은, 잔차 계수의 값이 -21이고, 2개의 gt_N_flag가 이용된 경우, 각 신택스들에 할당되는 값을 나타낸 것이다.
구분 수식 값
잔차 계수(Coeff) coeff -21
sig_flag coeff != 0 1
gt_1_flag !! (|coeff|-1) 1
par_flag (|coeff|-2) & 1 1
gt_2_flag (|coeff|-2) >> 1 1
rem_level (|coeff|-4) >> 1 8
sign_flag 1
표 1에서, coeff는 잔차 계수의 값을 나타내고, '수식' 항목은 각 신택스들의 값을 유도하기 위해 사용되는 수식을 나타낸다.
표 2는, 잔차 계수의 값이 -21이고, 5개의 gt_N_flag가 이용된 경우, 각 신택스들에 할당되는 값을 나타낸 것이다.
구분 수식 값
잔차 계수(Coeff) coeff -21
sig_flag coeff != 0 1
gt_1_flag !! (|coeff|-1) 1
par_flag (|coeff|-2) & 1 1
gt_2_flag |coeff| >= 4 1
gt_3_flag |coeff| >= 6 1
gt_4_flag |coeff| >= 8 1
gt_5_flag |coeff| >= 10 1
rem_level (|coeff|-10) >> 1 5
sign_flag 1
도 17은 복호화기에서 잔차 계수를 복호화하는 과정을 나타낸 흐름도이다.
서브 블록 내 0이 아닌 잔차 계수가 포함되는 것으로 결정된 경우, 소정 스캔 순서에 기초하여, 잔차 계수들을 복원할 수 있다.
먼저, 잔차 계수가 0이 아닌 값을 갖는지 여부를 나타내는 플래그, sig_flag를 복호화할 수 있다(S1710). 플래그 sig_flag의 값이 0인 것은, 잔차 계수의 값이 0임을 나타낸다. 반면, 플래그 sig_flag의 값이 1인 것은, 잔차 계수의 값이 0이 아님을 나타낸다. 플래그 sig_flag의 값이 1인 경우, 잔차 계수의 크기 정보가 더 복호화될 수 있다(S1720).
도 18은 잔차 계수의 크기 정보의 복호화 과정을 나타낸 도면이다.
설명의 편의를 위해, 잔차 계수는 최대 2개의 gt_N_flag를 이용하여 부호화된 것으로 가정한다.
잔차 계수의 절대값이 1보다 큰지 여부를 나타내는 플래그 gt1_flag를 복호화할 수 있다(S1810). 플래그 gt_1_flag의 값이 0인 것은, 잔차 계수의 절대값이 1임을 나타낸다. 반면, 플래그 gt_1_flag의 값이 1인 것은, 잔차 계수의 절대값이 1보다 큼을 나타낸다.
플래그 gt_1_flag의 값이 1인 경우, 잔차 계수의 절대값이 짝수인지 또는 홀수인지 여부를 나타내는 플래그 par_flag를 복호화할 수 있다(S1820). 플래그 par_flag의 값이 0인 것은, 잔차 계수의 절대값이 짝수임을 나타내고, 플래그 par_flag의 값이 1인 것은, 잔차 계수의 절대값이 홀수임을 나타낸다.
다음으로, 잔차 계수의 절대값이 3보다 큰지 여부를 나타내는 플래그 gt_2_flag를 복호화할 수 있다(S1830). 플래그 gt_2_flag의 값이 0인 것은, 잔차 계수의 절대값이 3보다 작음을 나타낸다. 플래그 gt_2_flag의 값이 0인 경우, 플래그 par_flag의 값에 따라, 잔차 계수의 절대값이 2 또는 3으로 결정될 수 있다.
플래그 gt_2_flag의 값이 1인 것은, 잔차 계수의 절대값이 3보다 큼을 나타낸다.
플래그 gt_2_flag의 값이 1인 경우, 잔여 크기를 나타내는 rem_level을 복호화할 수 있다(S1840). 신택스 rem_level를 나타내는 값을 왼쪽으로 1만큼 시프팅하여 유도된 값에, 3 또는 4를 더하여, 잔차 계수의 절대값을 유도할 수 있다.
도 18에 도시된, gt_1_flag 및 gt_2_flag 플래그 이외에도, gt_3_flag, gt_4_flag 또는 gt_5_flag 등과 같은, gt_N_flag가 추가 복호화될 수 있다. 이때, gt_(N-1)_flag의 값이 1인 경우, gt_N_flag가 추가 복호화될 수 있다.
gt_N_flag는, 잔차 계수의 절대값이, (2N-1)보다 큰 값을 갖는지 여부를 나타낼 수 있다. gt_N_flag가 추가 이용되는 경우, rem_level은, 잔차 계수의 절대값에서 2N을 차분하여 유도된 값을 오른쪽으로 1만큼 시프팅하여 유도되는 값으로 설정될 수 있다.
상술한 예에서는, sig_flag, gt_1_flag, par_flag, gt_2_flag 및 rem_level을 이용하여, 잔차 계수의 절대값이 복호화되는 것으로 예시되었다. 다른 예로, 잔차 계수의 절대값을 그대로 복호화할 수도 있다. 일 예로, 잔차 계수의 절대값을 나타내는 신택스 abs_level가 복호화될 수 있다. 잔차 계수의 절대값의 복호화 방법을 선택하는 방법에 대해서는 후술하기로 한다.
잔차 계수의 크기 정보를 복호화한 이후, 잔차 계수의 부호를 나타내는 플래그 sign_flag를 복호화할 수 있다(S1230). 플래그 sign_flag의 값이 0인 것은, 잔차 계수가 양수임을 나타낸다. 반면, 플래그 sing_flag의 값이 1인 것은, 잔차 계수가 음수임을 나타낸다.
표 3은, 2개의 gt_N_flag를 이용하여, 값이 -21인 잔차 계수를 복호화하는 예를 나타낸 것이다.
구분 값 수식
sig_flag 1 -
gt_1_flag 1 -
par_flag 1 -
gt_2_flag 1 -
tmp_coeff 5 1+gt_1_flag+par_flag+(gt_2_flag <<1)
rem_level 8
sign_flag 1 sign = (sign_flag == 1 ? -1 : 1)
잔차계수(coeff) -21 tmp_coeff + (rem_level<<1) * sign
표 3에서, 변수 tmp_coeff는 임시 복원 계수를 나타낸다. gt_2_flag의 값이 0인 경우, 임시 복원 계수 tmp_coeff가 잔차 계수의 절대값으로 설정될 수 있다. 반면, gt_2_flag의 값이 1인 경우, 신택스 rem_level에 기초하여 임시 복원 계수 tmp_coeff를 업데이트함으로서, 잔차 계수의 절대값을 유도할 수 있다.
표 4는, 5개의 gt_N_flag를 이용하여, 값이 -21인 잔차 계수를 복호화하는 예를 나타낸 것이다.
구분 값 수식
sig_flag 1 -
gt_1_flag 1 -
par_flag 1 -
tmp_coeff 5 1+gt_1_flag+par_flag
gt_2_flag 1 tmp_coeff += (sig_2_flag <<1)
gt_3_flag 1 tmp_coeff += (sig_3_flag <<1)
gt_4_flag 1 tmp_coeff += (sig_4_flag <<1)
gt_5_flag 1 tmp_coeff += (sig_5_flag <<1)
rem_level 5 tmp_coeff += (rem_level << 1)
sign_flag 1 sign = (sign_flag == 1 ? -1 : 1)
잔차계수(coeff) -21 tmp_coeff + (rem_level<<1) * sign
표 3에서, 변수 tmp_coeff는 임시 복원 계수를 나타낸다. gt_N_flag가 0인 경우, 임시 복원 계수 tmp_coeff가 잔차 계수의 절대값으로 설정될 수 있다. 반면, gt_N_flag가 1인 경우, 임시 복원 계수를 업데이트(예컨대, tmp_coeff += sig_N_flag <<1) 하고, 다음 신택스를 파싱할 수 있다.
설명한 바와 같이, 잔차 계수는 적어도 하나의 신택스에 의해 부호화될 수 있다. 신택스(들)의 이진화 과정을 거쳐 잔차 계수가 다수의 빈(bin)으로 변경될 수 있고, 변경된 빈들이 엔트로피 부호화를 통해 부호화될 수 있다.
엔트로피 부호화는, 문맥(context) 정보를 이용한 부호화 및 문맥 정보를 이용하지 않는 부호화로 구분될 수 있다. 문맥은, 빈의 값이 0일 확률 또는 1일 확률을 나타낸다.
문맥 정보를 이용하여 부호화되는 빈들의 개수를 제한하기 위해, 임계값을 설정할 수 있다. 생성된 빈들 중 카운트 값이 임계값보다 작은 빈은 문맥 정보를 이용한 부호화가 수행된다. 카운트 값이 임계값 이상이 되는 경우, 더 이상 문맥 정보를 이용한 부호화를 사용하지 않을 수 있다.
임계값은 현재 블록 내, 0이 아닌 잔차 계수들의 개수에 기초하여 결정될 수 있다. 일 예로, 현재 블록 내 0이 아닌 잔차 계수들의 개수에 실수를 곱한 값 또는 오프셋을 가산 또는 감산한 값이 임계값으로 설정될 수 있다.
또는, 현재 블록이 포함하는 화소들의 개수에 기초하여 임계값이 결정될 수 있다. 일 예로, 현재 블록 내 화소들의 개수에 실수를 곱한 값 또는 오프셋을 가산 또는 감산한 값을 임계값으로 설정될 수 있다.
또는, 임계값을 나타내는 정보가 비트스트림을 통해 시그날링될 수 있다. 상기 정보는, 시퀀스, 픽처 헤더 또는 슬라이스 헤더와 같은 상위 헤더를 통해 부호화될 수 있다.
또는, 현재 블록의 크기 또는 형태 중 적어도 하나에 기초하여, 임계값이 결정될 수 있다.
또는, 변환 스킵이 적용되었는지 여부, 현재 블록에 적용되는 변환 커널 또는 양자화 파라미터 중 적어도 하나에 기초하여, 임계값이 결정될 수 있다.
문맥 정보를 이용하여 부호화되는 빈의 개수를 카운팅할 때, 마지막 0이 아닌 잔차 계수의 위치를 나타내는 정보를 부호화할 시, 카운터가 동작하지 않도록 설정할 수 있다. 즉, 상기 정보는 카운팅 대상에서 제외될 수 있다.
또는, 현재 블록 내 서브 블록 별 0이 아닌 잔차 계수가 존재하는지 여부를 나타내는 플래그를 부호화할 시, 카운터가 동작하지 않도록 설정할 수도 있다. 즉, 상기 플래그는 카운팅 대상에서 제외될 수 있다.
본 발명의 일 실시예에 따르면, 문맥 정보를 이용하여 부호화되는 빈들의 개수를 제한하기 위해, 문맥 정보를 이용하여 부호화된 빈들의 개수가 임계값 이상이 되는 경우, gt_N_flag 등을 이용하여, 잔차 계수를 단계적으로 부호화하는 대신, 잔차 계수의 절대값을 그대로 부호화할 수 있다. 일 예로, 문맥 정보를 이용하여 부호화된 빈의 개수가, 임계값보다 작은 경우에는, 표 1 내지 표 4에 예시된 sig_flag, sign_flag, gt_1_flag, par_flag, gt_2_flag, gt_3_flag, gt_4_flag, gt_5_flag 또는 rem_level 중 적어도 하나를 이용하여, 잔차 계수의 절대값을 부호화할 수 있다. 반면, 문맥 정보를 이용하여 부호화된 빈의 개수가 임계값이상인 경우, 잔차 계수의 절대값을 나타내는 신택스 abs_level을 부호화할 수 있다.
복호화기에서도, 문맥 정보를 이용하여 부호화된 빈을 복호화할 때마다 카운터를 작동할 수 있다. 카운터의 값이 임계값 보다 작은 경우에는, sig_flag, sign_flag, gt_1_flag, par_flag, gt_2_flag, gt_3_flag, gt_4_flag, gt_5_flag 또는 rem_level 중 적어도 하나를 이용하여, 잔차 계수의 절대값을 복원할 수 있다. 반면, 카운터의 값이 임계값 이상인 경우, 신택스 abs_level을 이용하여, 잔차 계수의 절대값을 복원할 수 있다.
도 19는 문맥 정보를 이용하는 빈의 개수를 카운팅하는 예를 나타낸 도면이다.
설명의 편의를 위해, 서브 블록 내에는, 16개의 잔차 계수가 존재하는 것으로 가정하고, 계수들 각각이 C0 내지 C15인 것으로 가정한다. 여기서, C15는 서브 블록 내 우측 하단에 위치하는 잔차 계수를 의미하고, C0는, 서브 블록 내 좌측 상단에 위치하는 잔차 계수를 의미한다.
아울러, 잔차 계수들은 변환을 거쳐 생성된 것이고, 이에 따라, 스캔 순번은 C15 - C0의 순서로 결정되는 것으로 가정한다.
또한, 문맥 정보를 이용하여 부호화되는 빈의 최대 개수는 36개인 것으로 가정하고, 마지막 0이 아닌 잔차 계수의 위치를 나타내는 정보 및 서브 블록 내 0이 아닌 잔차 계수가 존재하는지 여부를 나타내는 플래그는 카운팅 대상에서 제외되는 것으로 가정한다.
도 19에서, 1패스(pass)는, 문맥 정보를 이용하여 부호화되는 신택스들을 나타낸 것이다. 1패스를 제외한, 2-1, 2-2 및 3패스는 문맥 정보를 이용하지 않고 부호화되는 신택스들을 나타낸 것이다.
패스는, 부호화 순서 및 복호화 순서를 나타낸다. 일 예로, 복호화기에서는, 1패스에 속하는 신택스들을 모두 복호화한 뒤, 2-1패스에 속하는 신택스들을 복호화할 수 있다. 또한, 2-1패스에 속하는 신택스들을 모두 복호화한 뒤, 3패스에 속한 신택스들이 복호화될 수 있다.
도시된 예에서, 2-2 패스는, 1패스, 2-1 패스 및 3 패스의 대체 경로를 나타낸다.
문맥 정보를 이용하여 부호화되는 빈의 계수가 임계값보다 작은 경우, 1 패스 및 2-1 패스를 거쳐 잔차 계수의 절대값이 부호화될 수 있다. 반면, 문맥 정보를 이용하여 부호화되는 빈의 계수가 임계값과 같거나 큰 경우, 2-2 패스를 거처, 잔차 계수의 절대값이 부호화될 수 있다.
일 예로, 첫번째 잔차 계수 C15가, -21인 경우, 표 2에 도시된 예에서와 같이, 플래그 sig_flag, gt_1_flag, par_flag, gt_2_flag 및 rem_level이 부호화될 수 있다. 첫번째 잔차 계수 C15를 부호화시 문맥 정보를 이용하여 부호화되는 신택스들(즉, sig_flag, gt_1_flag, par_flag, gt_2_flag)은 총 4개의 빈을 이용하여 부호화되므로, 카운터가 4로 증가한다.
첫번째 잔차 계수 C15를 부호화한 뒤 카운터 값이 임계값 36보다 작으므로, 두번째 잔차 계수 C14에 대해서도, 문맥 정보를 이용하여 부호화되는 신택스들이 이용될 수 있다. C15 부터 C7 각각에 대해 문맥 정보를 이용하여 부호화되는 4개의 신택스들이 이용된 것으로 가정할 경우, 잔차 계수 C7의 절대값을 부호화한 이후, 카운터의 값이 임계값과 동일한 36으로 설정된다.
이에 따라, 다음 잔차 계수 C6의 부호화시에는, 문맥 정보를 이용하여 부호화되는 신택스들을 이용함이 없이, 신택스 abs_level을 통해, 잔차 계수 C6의 절대값을 그대로 부호화할 수 있다. 즉, 잔차 계수 C6 내지 C0에 대해서는, 1패스에 속하는 4개의 신택스(즉, sig_flag, gt_1_flag, par_flag, gt_2_flag) 및 2-1패스에 속하는 신택스 rem_level 대신, 2-2패스에 속하는 신택스 abs_level을 이용하여 잔차 계수 절대값이 부호화될 수 있다.
이때, 문맥 정보를 이용하여 부호화된 빈의 개수가 임계값보다 작은 경우라 하더라도, 상기 개수 및 임계값의 차분이, 문맥 정보를 이용하여 부호화되도록 설정되는 신택스들의 최대 개수보다 작은 경우에는, 문맥 정보를 이용함이 없이 abs_level이 부호화되도록 설정할 수 있다. 예컨대, sig_flag, gt_1_flag, par_flag 및 gt_2_flag가 문맥 정보를 이용하여 부호화되도록 설정된 경우에는, 상기 개수 및 임계값의 차분이 4보다 큰 경우에 한하여, 상기 신택스들이 부호화될 수 있다. 반면, 상기 차분이 4보다 작은 경우에는, abs_level이 부호화될 수 있다.
도시된 예에서는, 1패스에 속하는 4개의 신택스들만이 문맥 정보를 이용하여 부호화되는 것으로 도시되었다. 설명한 예와 달리, 2-1패스에 속하는 신택스 rem_level 또는 3패스에 속하는 신택스 sign_flag 중 적어도 하나도 문맥 정보를 이용하여 부호화될 수 있다. 일 예로, rem_level이 문맥 정보를 이용하여 부호화되는 경우, 신택스 rem_level에 할당되는 빈의 개수만큼 카운터가 증가할 수 있다.
도 19에 도시된 예에서, 플래그 par_flag가 문맥 정보를 이용하여 부호화되지 않도록 설정할 수도 있다. 도 20은 이에 대한 예시를 나타낸다.
도 20에서, 1패스는, 문맥 정보를 이용하여 부호화되는 신택스들을 나타낸 것이다. 1패스를 제외한, 2, 3-1, 3-2 및 4패스는 문맥 정보를 이용하지 않고 부호화되는 신택스들을 나타낸 것이다. 문맥 정보를 이용하여 부호화되는 빈의 계수가 임계값보다 작은 경우, 1패스, 2패스 및 3-1 패스를 거쳐 잔차 계수의 절대값이 부호화될 수 있다. 반면, 문맥 정보를 이용하여 부호화되는 빈의 계수가 임계값보다 같거나 큰 경우, 3-2 패스를 거처, 잔차 계수의 절대값이 부호화될 수 있다.
플래그 par_flag가 문맥 정보를 이용하지 않고 부호화되도록 설정되는 경우, 플래그 par_flag에 할당되는 빈의 개수(즉, 1개)에 대해서는, 카운터가 증가하지 않도록 설정될 수 있다.
이에 따라, 각 잔차 계수에 대해, 3개의 신택스, sig_flag, gt_1_flag 및 gt_2_flag에 할당되는 빈에 대해서만 카운터가 증가하게 된다.
잔차 계수 C15 내지 C4 각각에 대해, 신택스 sig_flag, gt_1_flag 및 gt_2_flag가 부호화되는 것으로 가정할 경우, 잔차 계수를 C4에 대한 신택스들을 부호화한 뒤, 카운터가 임계값과 동일한 36으로 설정된다.
이에 따라, 잔차 계수 C3의 부호화시에는, 3-2패스에 포함된 신택스 abs_level을 통해 잔차 계수 C3의 절대값을 그대로 부호화할 수 있다. 즉, 잔차 계수 C3 내지 C0에 대해서는, 1패스 및 2-1패스에 속하는 신택스들 대신, 3-2패스에 속하는 신택스 abs_level을 이용하여 잔차 계수 절대값이 부호화될 수 있다.
문맥 정보를 이용하여 부호화되는 신택스들 간에도 우선 순위를 설정할 수 있다. 이 경우, 우선 순위가 높은 신택스들에 할당되는 빈의 개수를 카운팅한 뒤, 우선 순위가 낮은 신택스들에 할당되는 빈의 개수가 카운팅될 수 있다.
도 21은 문맥 정보를 이용하여 부호화되는 신택스들 간 우선 순위가 상이한 예를 나타낸 것이다.
현재 블록에 변환이 스킵된 상태이고, 이에 따라, 스캔 순번은 C0 - C15의 순서로 결정되는 것으로 가정한다.
도 21의 예에서, 1패스 및 2패스에 속하는 신택스들이 문맥 정보를 이용하여 부호화될 수 있다. 이때, 1패스에 속하는 신택스들이 2패스에 속하는 신택스들보다 우선 순위가 높은 상태인 경우, 문맥 정보를 이용하여 부호화된 빈의 개수 카운팅 시, 1패스에 속하는 신택스들에 할당되는 빈의 개수를 카운팅한 이후, 2패스에 속하는 신택스들에 할당되는 빈의 개수를 카운팅할 수 있다.
일 예로, 16개의 잔차 계수들이 부호화고, 임계값이 96인 것으로 가정하면, 16개의 잔차 계수들 모두에 1패스에 속하는 신택스들을 부호화하고 난 뒤, 카운터의 값은 64로 설정된다. 카운터의 값이 임계값보다 작으므로, 2패스에 속하는 신택스들도 문맥정보를 이용하여 부호화할 수 있다.
도시된 예에서, 잔차 계수 C7에 대한 2패스에 속하는 신택스들을 부호화한 뒤, 카운터의 값이 96으로 설정된다. 이에 따라, 다음 잔차 계수 C8에 대한 2패스에 속하는 신택스들은 문맥 정보를 이용함이 없이 부호화될 수 있다.
도 21에 도시된 예에서, 플래그 par_flag가 문맥 정보를 이용하여 부호화되지 않도록 설정할 수도 있다. 도 22는 이에 대한 예시를 나타낸다.
도 22에서, 1패스 및 3패스는, 문맥 정보를 이용하여 부호화되는 신택스들을 나타낸 것이다. 2패스 및 4패스는, 문맥 정보를 이용하지 않고 부호화되는 신택스들을 나타낸 것이다.
플래그 par_flag는 문맥 정보를 이용하지 않고 부호화될 수 있다. 이에 따라, 플래그 par_flag 부호화시, 카운터가 증가하지 않도록 설정될 수 있다. 잔차 계수 C11에 대해 3패스에 속하는 신택스들을 부호화한 뒤, 카운터의 값이 임계값과 동일한 96으로 설정된다. 이에 따라, 다음 잔차 계수 C12 부터는, 3패스에 속하는 신택스들 부호화시 문맥 정보를 이용하지 않을 수 있다.
도 21 및 도 22에서는, gt_N_flag들이 상이한 패스에 분산 배치되는 것으로 도시되었다. 일 예로, 도 21에 도시된 예에서, gt_1_flag는 1패스에 속하는 반면, gt_2_flag부터는 2패스에 속하는 것으로 예시되었다.
신택스들의 분포를 도 21 및 도 22와 상이하게 설정하는 것도 가능하다. 일 예로, 모든 gt_N_flag들을 하나의 패스에 할당하거나, gt_1_pass 및 gt_2_pass를 하나의 패스에 할당할 수 있다.
플래그 par_flag를 별도의 패스로 설정하는 대신, par_flag를 gt_1_flag 또는 gt_2_flag와 동일한 패스로 설정하되, 플래그 par_flag 부호화시 문맥 정보를 이용하지 않도록 설정할 수도 있다. 도 23은 이에 대한 예시이다. 도 23에 도시된 에에서는, 플래그 par_flag가 gt_2_flag, gt_3_flag, gt_4_flag 및 gt_5_flag와 동일한 패스에 할당되는 것으로 도시되었다.
플래그 par_flag를 gt_N_flag보다 하위 패스에 할당할 수도 있다. 일 예로, 도 22에 도시된 예에서, par_flag를 포함하는 2패스를 3패스로 변경하고, 기존 3패스를 2패스로 변경할 수 있다. 이 경우, 문맥 정보를 이용하는 신택스들을 먼저 부호화한 뒤, 문맥 정보를 이용하지 않는 신택스들이 부호화될 수 있다.
par_flag과 rem_level를 3패스로 묶어, 부호화하는 것도 가능하다.
상술한 예에서와 같이, 잔차 계수의 절대값은, sig_flag, par_flag, gt_N_flag 또는 rem_level 중 적어도 하나를 이용하여 부호화될 수 있다. 이때, rem_level을 제외한 잔여 신택스들은, 주변 계수들의 성질에 따라, 다양한 문맥 정보를 참조하여 부호화될 수 있다. 일 예로, 잔차 계수가 0인지 아닌지를 표현하는 플래그 sig_flag는 주변 잔차 계수들의 성질에 따라 다양한 문맥 정보를 참고하여 부호화될 수 있다. 이때, 참조 가능한 문맥 정보의 개수는 화소의 위치에 따라 결정될 수 있다.
도 24 및 도 25는 문맥 정보를 결정하기 위해 참조되는 주변 복원 영역을 나타낸 것이다.
도 24는, 우측 하단 잔차 계수에서부터 좌측 상단 잔차 계수로 이어지는 스캔 순서에 따라 잔차 계수가 부호화되는 경우의 예시이다. 일 예로, 도 24는, 현재 블록에 변환이 스킵되지 않은 경우에 적용될 수 있다.
도 25는, 좌측 상단 잔차 계수에서부터 우측 하단 잔차 계수로 이어지는 스캔 순서에 따라 잔차 계수가 부호화되는 경우의 예시이다. 일 예로, 도 25는, 현재 블록에 변환이 스킵된 경우 적용되는 것일 수 있다.
도 24 및 도 25의 예를 참조하면, 최대 2개 또는 최대 5개의 복원 계수들을 참조할 수 있다. 일 예로, 잔차 계수의 위치를 (x, y)라 할 경우, 잔차 계수와의 x 좌표 차분 및 y 좌표 차분의 합의 절대값이 1이하인 복원 계수들을 포함하는 영역 또는 상기 절대값이 2 이하인 복원 계수들을 포함하는 영역이 주변 복원 영역으로 설정될 수 있다.
또는, 잔차 계수와의 복원 영역 내 복원 계수들 중 블록 경계를 벗어나거나, 스캔 순서상 아직 복원되지 않은 복원 계수가 존재하는 경우, 위 이용 불가능한 복원 계수는 참조 대상에서 제외할 수 있다.
또는, 이용 불가능한 복원 계수에 대해서는, 해당 위치의 정보가 디폴트 값인 것으로 간주하여, 문맥 정보를 선택할 수 있다. 일 예로, 도 25의 (a)에 도시된 예에서와 같이, 복원 영역이 설정되고, 현재 부호화하려는 잔차 계수가 현재 블록내 최좌측 열에 포함된 경우, 현재 잔차 계수 왼쪽 복원 계수의 sig_flag값은 0 또는 1인 것으로 간주할 수 있다.
또는, 블록 경계를 벗어나는 복원 계수가 현재 잔차 계수와 상이한 서브 블록에 포함되나, 동일한 코딩 블록에 포함되는 경우, 해당 복원 계수는 이용 가능한 것으로 설정될 수도 있다.
도시된 예보다, 더 많은 수 혹은 더 적은 수의 복원 계수들을 참조하여 문맥 정보를 결정하는 것도 가능하다. 일 예로, 도 24에 도시되지는 않았으나, 잔차 계수의 우측에 존재하는 복원 계수 및 하단에 위치하는 복원 계수만이 문맥 정보를 결정하는데 이용될 수 있다.
또는, 복수개의 복원 영역 후보들 각각에 인덱스를 할당한 뒤, 이들 중 하나를 특정하는 인덱스를 부호화하여 복호화기로 전송할 수도 있다. 또는, 현재 블록의 크기 또는 형태에 따라, 복원 영역을 적응적으로 결정할 수 있다. 또는, 양자화 상태 정보 QState에 기초하여, 복원 영역을 결정할 수 있다. 일 예로, 변수 QState가 0 또는 1인 경우, 최대 2개의 복원 계수들을 포함하는 복원 영역을 이용할 수 있다. 또는, QState가 2 또는 3인 경우, 최대 5개의 복원 계수들을 포함하는 복원 영역을 이용할 수 있다.
또는, 주변 복원 영역을 설정하는 대신 N개의 고정된 문맥 정보 중 하나를 참조하도록 설정할 수도 있다. 일 예로, N은 1일 수 있다. 또는, 잔차 계쑤의 위치에 따라, N 값이 결정될 수 있다. 일 예로, x와 y의 합이 임계값 미만인 경우, N을 1로 설정하고, 임계값 이상인 경우, N을 2로 설정할 수 있다. 임계값은 상위 헤더를 통해 부호화기로 전송될 수 있다. 또는, 부호화기 및 복호화기에서 임계값이 기 약속되어 있을 수 있다.
sig_flag 부호화/복호화시, 잔차 계수 주변의 복원 영역에 포함된, 복원된 계수들의 sig_flag의 값을 합산할 수 있다.
또는, 잔차 계수 주변의 복원 영역에 포함된, 복원된 계수 또는 부분적으로 복원된 계수의 절대값을 계산할 수 있다. 여기서, 부분적으로 복원된 계수의 절대값은, 1패스에 포함된 신택스들에 기초하여 유도되는 임시 복원 계수, 예컨대, (sig_flag + gt_1_flag + par_flag + (gt_2_flag<<1))을 의미할 수 있다.
유도된 값을 이용하여, 복수개의 문맥 정보들 중 하나를 특정할 수 있다.
도 26은 플래그 sig_flag 부호화시 참조 가능한 문맥 정보의 개수를 예시한 것이다.
도 26의 (a)는 루마 성분에 대한 예시이고, 도 26의 (b)는 크로마 성분에 대한 예시이다.
현재 블록을 복수개의 영역들로 분할하고, 각 영역별 참조 가능한 문맥 정보의 종류를 상이하게 설정할 수 있다. 일 예로, x 및 y좌표의 합이 2보다 작은 제1 영역, x 좌표 및 y좌표의 합이 2 이상 5 미만인 제2 영역 및 x좌표 및 y좌표의 합이 5 이상인 제3 영역 각각에서 참조 가능한 문맥 정보의 종류가 상이할 수 있다.
또한, 각 영역 내 참조 가능한 문맥 정보의 개수가 상이할 수 있다. 일 예로, 각 영역 내 참조 가능한 문맥 정보의 개수는 고정될 수 있다.
또는, 각 영역별, 참조 가능한 문맥 정보의 개수가 상이할 수 있다. 일 예로, x 및 y좌표의 합이 2보다 작은 제1 영역, x 좌표 및 y좌표의 합이 2 이상 5 미만인 제2 영역 및 x좌표 및 y좌표의 합이 5 이상인 제3 영역 각각에서 참조 가능한 문맥 정보의 개수가 상이할 수 있다.
다른 예로, 양자화 상태 정보에 따라, 참조 가능한 문맥 정보의 종류를 상이하게 설정할 수 있다. 양자화 상태 정보를 나타내는 변수 QState는 0 내지 3의 값을 가질 수 있다. 일 예로, 변수 QState가 0 및 1일 때는, 제1 타입의 문맥 정보를 참조하는 한편, QState가 2일 때는 제2 타입의 문맥 정보를, QState가 3일 때는 제3 타입의 문맥 정보를 참조할 수 있다.
도 26의 (a)에 도시된 예에서, 루마 블록이 3개의 영역들로 구분되고, 각 영역 별 참조 가능한 문맥 정보의 개수가 4개인 것으로 예시되었다. 양자화 상태 정보에 따라, 3개 타입의 문맥 정보가 이용 가능하다고 가정할 경우, 루마 블록 내 총 36(3x4x3)개의 문맥 정보가 참조 가능한 상태로 설정될 수 있다.
도 26의 (b)에 도시된 예에서, 크로마 블록이 2개의 영역들로 구분되고, 각 영역 별 참조 가능한 문맥 정보의 개수가 4개인 것으로 예시되었다. 양자화 상태 정보에 따라, 3개 타입의 문맥 정보가 이용 가능하다고 가정할 경우, 크로마 블록 내 총 24(2x4x3)개의 문맥 정보가 참조 가능한 상태로 설정될 수 있다.
복원 영역의 크기(즉, 복원 영역에 포함된 복원 계수들의 개수)에 따라, 참조 가능한 문맥 정보의 개수가 상이하게 설정될 수도 있다.
또는, 현재 블록에 변환 스킵이 적용되었는지 여부에 따라, 참조 가능한 문맥 정보의 개수가 상이할 수 있다. 일 예로, 현재 블록에 변환 스킵이 적용된 경우, 3개 또는 5개의 문맥 정보들이 참조 가능한 반면, 현재 블록에 변환이 적용된 경우, 4개의 문맥 정보들이 참조 가능할 수 있다.
주변 복원 계수들의 sig_flag의 값의 합을 이용하는, 경우, 유도된 합산값을 문턱값과 비교할 수 있다. 여기서, 문턱값은, 참조 가능한 문맥 정보의 개수와 동일하게 설정될 수 있다. 복원 영역에 포함된 복원 계수의 개수에 따라, 합산값은 0~2의 범위를 갖거나, 0~5의 범위를 가질 수 있다. 합산값이 문턱값보다 큰 경우, 합산값을 문턱값으로 변환할 수 있다. 일 예로, 합산값이 5이고, 문턱값이 4인 경우, 합산값은 4로 변경될 수 있다. 이후, 합산값을 기초로, 복수의 문맥 정보들 중 하나를 특정할 수 있다. 즉, 합산값은 복수의 문맥 정보들 중 하나를 특정하는 인덱스로 이용될 수 잇다.
주변 복원 계수들의 절대값 합을 이용하는 경우, 주변 복원 영역 내 복원 계수들의 절대값 합을 계산한 뒤, 유도된 값을 기 정의된 값으로 나눌 수 있다. 예컨대, 기 정의된 값은, 2, 3, 4 또는 5와 같은 자연수일 수 있다. 또는, 절대값 합을 주변 복원 영역 내 복원 계수들의 개수로 나눌 수도 있다.
상기 나눗셈 연산에 의해 유도된 결과값을 문턱값과 비교할 수 있다. 이때, 결과값이 문턱값보다 큰 경우, 유도된 값을 문턱값으로 변환할 수 있다. 일 예로, 문턱값이 3이고, 상기 결과값이 3보다 큰 경우, 결과값을 3으로 변환할 수 있다. 이에 따라, 결과값은, 0부터 3 사이의 값으로 설정될 수 있다.
유도된 결과값에 따라, 해당 잔차 계수를 부호화/복호화할 때 참조해야 하는 문맥 정보가 특정될 수 있다. 즉, 상기 결과값은, 복수의 문맥 정보들 중 하나를 특정하는 인덱스로서 기능할 수 있다. 이에 따라, 문턱값은 잔차 계수가 포함되는 영역 내 참조 가능한 문맥 정보의 개수에 기초하여 결정될 수 있다.
간소화된 문맥 정보를 사용하여, 잔차 계수를 부호화/복호화할 수도 있다. 일 예로, 변수 QState가 0 또는 1인 경우에는, 참조 가능한 문맥 정보의 개수가 4개일 수 있다. 반면, 변수 QState가 2 또는 3인 경우, 참조 가능한 문맥 정보의 개수가 2개일 수 있다.
또는, 영역별 참조 가능한 개수를 상이하게 설정할 수 있다. 일 예로, 변수 QState가 2 또는 3인 경우, 제3 영역에서는 참조 가능한 문맥 정보의 개수를 4개로 설정하는 한편, 제1 영역 및 제2 영역 내에서는 참조 가능한 문맥 정보의 개수를 2개로 설정할 수도 있다.
잔차 계수 부호화/복호화시, 참조 가능한 문맥 정보의 개수가 2개인 경우, 문턱값을 1로 설정할 수 있다. 이 경우, 결과값이 0 또는 1의 값이 되므로, 상기 결과값에 의해 2개의 문맥 정보 중 하나가 특정될 수 있다.
또는, 참조 가능한 문맥 정보의 개수가 2개인 경우, 주변 복원 영역 내 복원 계수들의 절대값 합과 2와의 모듈로 연산에 의해 유도되는 값이 0인지 아닌지 여부에 기초하여 문맥 정보를 특정할 수도 있다.
gt_N_flag 또는 par_flag를 부호화/복호화하는 경우에도, 주변 복원 영역을 참조하여 문맥 정보가 결정될 수 있다.
도 27은 gt_N_flag 또는 par_flag를 부호화시 참조 가능한 문맥 정보의 개수를 예시한 것이다.
도 27의 (a)는 루마 블록을 예시한 것이고, 도 27의 (b)는 크로마 블록을 예시한 것이다.
루마 블록의 경우, 블록을 복수의 영역으로 구획할 수 있다. 도 27의 (a)에 도시된 예에서는, 루마 블록이 (0, 0) 위치의 잔차 계수를 포함하는 제1 영역, x축 및 y축 좌표의 합이 1이상이고 3보다 작은 제2 영역, x축 및 y축 좌표의 합이 3이상이고 10보다 작은 제3 영역 및 제1 내지 제3 영역을 제외한 제4 영역으로 구분되는 것으로 예시되었다.
이때, 마지막 0이 아닌 잔차 계수를 제5 영역으로 설정할 수 있다. 마지막 0이 아닌 잔차 계수가 스캔 순서상 첫번째로 부호화/복호화 되므로, 마지막 0이 아닌 잔차 계수에 대해서는 1개의 문맥 정보만이 참조 가능하도록 설정될 수 있다.
크로마 블록의 경우, 루마 블록보다 분할 영역들의 개수가 작을 수 있다. 일 예로, 도 27의 (b)에서는, 크로마 블록이 (0, 0)인 잔차 계수를 포함하는 제1 영역 및 상기 제1 영역을 제외한 제2 영역으로 구획되는 것으로 예시되었다.
이때, 마지막 0이 아닌 잔차 계수를 포함하는 제3 영역으로 설정될 수 있다.
도 27에 도시된 예에서, 마지막 0이 아닌 잔차 계수를 포함하는 영역을 제외한, 각 영역에서 참조 가능한 문맥 정보의 개수가 5개인 것으로 예시되었다. 이때, 각 영역별 참조 가능한 문맥 정보의 종류가 상이할 수 있다. 이에 따라, 루마 블록 내 참조 가능한 문맥 정보의 총 개수는 21개(4x5+1)이고, 크로마 블록 내 참조 가능한 문맥 정보의 총 개수는 11개(2x5+1)일 수 있다.
앞서, 설명한 바와 같이, 참조 가능한 문맥 정보의 개수 및/또는 종류가 영역 또는 양자화 상태 정보에 따라 상이하게 설정될 수도 있다.
gt_N_flag 또는 par_flag 부호화/복호화시, 주변 복원 영역에 포함된 잔차 계수들의 절대값의 합 및 sig_flag의 합 중 적어도 하나를 유도할 수 있다. 이후, 절대값의 합에서, sig_flag의 합을 차분하여 유도된 결과값을 문턱값과 비교할 수 있다. 이때, 결과값이 문턱값보다 큰 경우, 결과값을 문턱값으로 변환할 수 있다. 일 예로, 문턱값이 4인 경우, 4보다 큰 결과값은 4로 변환될 수 있다. 이 결과, 결과값은 0 부터 4 범위의 값으로 설정된다. 상기 결과값에 기초하여, 5개의 문맥 정보 중 하나가 특정될 수 있다. 즉, 상기 결과값은 복수의 문맥 정보들 중 하나를 특정하는 인덱스로서 기능할 수 있다.
간소하된 방법으로, 참조해야 하는 문맥 정보를 결정할 수도 있다. 일 예로, 각 영역에서 잔차 계수를 부호화 할 때, 주변 복원된 영역 내 복원 계수들의 절대값의 합을 유도하는 과정을 생략한 채, 기 정의된 하나의 문맥 정보만을 참조할 수 있다. 간소화된 문맥 정보 결정 방법은, 루마 블록 및 크로마 블록에 모두 적용되거나, 루마 블록 및 크로마 블록 중 하나에만 적용될 수 있다.
일 예로, 루마 블록에서는, 결과값에 기초하여 복수개의 문맥 정보들 중 하나를 특정하는 방법을 사용하는 한편, 크로마 블록에서는 기 정의된 문맥 정보들을 이용하는 방법이 사용될 수 있다.
영역들의 구획 방법 및 개수는 도시된 예에 한정되지 않는다. 일 예로, 현재 블록의 크기, 형태, 변환 스킵의 적용 여부 또는 마지막 0이 아닌 잔차 계수의 위치 중 적어도 하나에 고려하여, 구획 방법 또는 개수 중 적어도 하나가 결정될 수 있다. 또는, 현재 블록 내 영역들의 구획 방법 또는 개수 중 ㅈ거어도 하나를 특정하는 정보가 상위 헤더를 통해 부호화되어 시그날링될 수 있다.
복원 영역의 크기(즉, 복원 계수들의 개수)에 따라, 참조 가능한 문맥 정보들의 개수를 상이하게 설정할 수 있다.
일 예로, 5개의 복원 계수들을 이용하여 문맥 정보들을 결정하는 경우, gt_N_flag 또는 par_flag 부호화시 최대 5개의 문맥 정보들 중 하나를 특정할 수 있다. 반면, 2개의 복원 계수들을 이용하여 문맥 정보들을 결정하는 경우, 최대 3개의 문맥 정보들 중 하나를 특정할 수 있다. 참조 가능한 문맥 정보들의 개수가 감소하는 경우, 임계값도 함께 감소될 수 있다.
또한, 영역별로 복원 영역의 크기를 상이하게 설정하거나, 컬러 성분별로 복원 영역의 크기를 상이하게 설정할 수도 있다.
또는, 주변 복원 영역 내 각 복원 계수들의 정보를 합산하는 것이 아니라, 각 복원 계수들의 정보를 비교하여, 문맥 정보를 유도할 수도 있다. 일 예로, par_flag 부호화/복호화시, 도 27의 (a)에 도시된 것과 같이 복원 영역이 설정되는 것으로 가정한다. 이때, 잔차 계수의 왼쪽 복원 계수 및 상단 복원 계수에 대해, 각 복원 계수의 par_flag를 참조하여, 현재 잔차 계수에 대한 par_flag 부호화/복호화시 참조하여야 하는 문맥 정보를 결정할 수 있다.
일 예로, 좌측 및 상단 복원 계수에 대해, par_flag가 모두 부호화되지 않은 경우(즉, 좌측 및 상단 복원 계수 각각에 대해, sig_flag 또는 gt_1_flag 중 적어도 하나가 0인 경우) 또는, 두 복원 계수들의 par_flag의 값이 상이한 경우를 제1 케이스로 정의할 수 있다. 두 복원 계수들의 par_flag의 값이 모두 1인 경우를 제2 케이스로, 두 복원 계수들의 par_flag의 값이 모두 0인 경우를 제3 케이스로 정의할 수 있다. 현재 잔차 계수의 par_flag 부호화시, 각각의 케이스에 대해 상이한 문맥 정보를 참조하도록 설정할 수 있다. 즉, 각 케이스에 인덱스 (0부터 2)를 할당한 뒤, 상기 인덱스에 기초하여, 하나의 문맥 정보를 특정할 수 있다.
상술한 실시예들에서 사용된 신택스들의 명칭은, 설명의 편의를 위해 명명된 것에 불과하다.
복호화 과정 또는 부호화 과정을 중심으로 설명된 실시예들을, 부호화 과정 또는 복호화 과정에 적용하는 것은, 본 개시의 범주에 포함되는 것이다. 소정의 순서로 설명된 실시예들을, 설명된 것과 상이한 순서로 변경하는 것 역시, 본 개시의 범주에 포함되는 것이다.
상술한 실시예는 일련의 단계 또는 순서도를 기초로 설명되고 있으나, 이는 발명의 시계열적 순서를 한정한 것은 아니며, 필요에 따라 동시에 수행되거나 다른 순서로 수행될 수 있다. 또한, 상술한 실시예에서 블록도를 구성하는 구성요소(예를 들어, 유닛, 모듈 등) 각각은 하드웨어 장치 또는 소프트웨어로 구현될 수도 있고, 복수의 구성요소가 결합하여 하나의 하드웨어 장치 또는 소프트웨어로 구현될 수도 있다. 상술한 실시예는 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 상기 하드웨어 장치는 본 개시에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
본 발명은 영상을 부호화/복호화할 수 있는 전자 장치에 적용될 수 있다.

Claims (13)

  1. 현재 블록에 역변환이 스킵되는지 여부를 결정하는 단계;
    상기 현재 블록의 잔차 계수를 복호화하는 단계; 및
    상기 결정 여부에 기초하여, 상기 잔차 계수에 선택적으로 상기 역변환을 적용하는 단계를 포함하되,
    상기 잔차 계수 복호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 복호화되는 것을 특징으로 하는, 영상 복호화 방법.
  2. 제1 항에 있어서,
    문맥 정보를 이용하여 복호화된 빈의 개수와 임계값을 비교하여, 상기 제1 신택스를 복호화할 것인지 또는 제2 신택스를 복호화할 것인지 여부가 결정되는 것을 특징으로 하는, 영상 복호화 방법.
  3. 제2 항에 있어서,
    상기 제1 신택스, 절대값이 (2N-1)보다 큰 값을 갖는지 여부를 나타내는 적어도 하나의 gt_N_flag 또는 절대값이 짝수인지 여부를 나타내는 패리티 플래그 중 적어도 하나가 복호화되는 경우, 상기 문맥 정보를 이용하여 복호화된 빈의 개수가 증가하는 것을 특징으로 하는, 영상 복호화 방법.
  4. 제1 항에 있어서,
    상기 제1 신택스가 복호화되고, 상기 제1 신택스가 상기 잔차 계수가 0이 아닌 값을 가짐을 나타내는 경우,
    상기 잔차 계수의 절대값이 1보다 큰 값을 갖는지 여부를 나타내는 gt_1_flag가 추가 복호화되는 것을 특징으로 하는, 영상 복호화 방법.
  5. 제4 항에 있어서,
    상기 gt_1_flag가 상기 절대값이 1보다 큰 값을 가짐을 나타내는 경우, 상기 절대값이 짝수인지 여부를 나타내는 패리티 플래그 및 상기 절대값이 3보다 큰지 여부를 나타내는 gt_2_flag가 추가 복호화되는 것을 특징으로 하는, 영상 복호화 방법.
  6. 제2 항에 있어서,
    상기 임계값은 상기 현재 블록의 크기에 기초하여 결정되는 것을 특징으로 하는, 영상 복호화 방법.
  7. 현재 블록에 변환을 스킵할 것인지 여부를 결정하는 단계;
    변환이 적용된 결과 또는 변환이 스킵된 결과를 양자화하는 단계; 및
    상기 양자화의 결과로 출력되는 잔차 계수를 부호화하는 단계를 포함하되,
    상기 잔차 계수 부호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 부호화되는 것을 특징으로 하는, 영상 부호화 방법.
  8. 제8 항에 있어서,
    문맥 정보를 이용하여 부호화된 빈의 개수와 임계값을 비교하여, 상기 제1 신택스를 부호화할 것인지 또는 제2 신택스를 부호화할 것인지 여부가 결정되는 것을 특징으로 하는, 영상 부호화 방법.
  9. 제8 항에 있어서,
    상기 제1 신택스, 절대값이 (2N-1)보다 큰 값을 갖는지 여부를 나타내는 적어도 하나의 gt_N_flag 또는 절대값이 짝수인지 여부를 나타내는 패리티 플래그 중 적어도 하나가 부호화되는 경우, 상기 문맥 정보를 이용하여 부호화된 빈의 개수가 증가하는 것을 특징으로 하는, 영상 부호화 방법.
  10. 제7 항에 있어서,
    상기 제1 신택스가 부호화되고, 상기 제1 신택스가 상기 잔차 계수가 0이 아닌 값을 가짐을 나타내는 경우,
    상기 잔차 계수의 절대값이 1보다 큰 값을 갖는지 여부를 나타내는 gt_1_flag가 추가 부호화되는 것을 특징으로 하는, 영상 부호화 방법.
  11. 제10 항에 있어서,
    상기 gt_1_flag가 상기 절대값이 1보다 큰 값을 가짐을 나타내는 경우, 상기 절대값이 짝수인지 여부를 나타내는 패리티 플래그 및 상기 절대값이 3보다 큰지 여부를 나타내는 gt_2_flag가 추가 부호화되는 것을 특징으로 하는, 영상 부호화 방법.
  12. 제8 항에 있어서,
    상기 임계값은 상기 현재 블록의 크기에 기초하여 결정되는 것을 특징으로 하는, 영상 부호화 방법.
  13. 비디오 부호화 방법에 의해 부호화되는 비트스트림을 저장하는 컴퓨터로 판독가능한 기록 매체에 있어서,
    상기 비디오 부호화 방법은,
    현재 블록에 변환을 스킵할 것인지 여부를 결정하는 단계;
    변환이 적용된 결과 또는 변환이 스킵된 결과를 양자화하는 단계; 및
    상기 양자화의 결과로 출력되는 잔차 계수를 부호화하는 단계를 포함하되,
    상기 잔차 계수 부호화시, 상기 잔차 계수가 0보다 큰지 여부를 나타내는 제1 신택스 및 상기 잔차 계수의 절대값을 나타내는 제2 신택스 중 어느 하나가 택일적으로 부호화되는 것을 특징으로 하는, 컴퓨터로 판독가능한 기록 매체.
PCT/KR2020/012865 2019-09-23 2020-09-23 비디오 신호 처리 방법 및 장치 WO2021060829A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202080066694.2A CN114521329A (zh) 2019-09-23 2020-09-23 用于处理视频信号的方法和装置
US17/760,554 US20220408087A1 (en) 2019-09-23 2020-09-23 Method and device for processing video signal

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20190116836 2019-09-23
KR10-2019-0116836 2019-09-23
KR20190116837 2019-09-23
KR10-2019-0116837 2019-09-23

Publications (1)

Publication Number Publication Date
WO2021060829A1 true WO2021060829A1 (ko) 2021-04-01

Family

ID=75165872

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/012865 WO2021060829A1 (ko) 2019-09-23 2020-09-23 비디오 신호 처리 방법 및 장치

Country Status (4)

Country Link
US (1) US20220408087A1 (ko)
KR (1) KR20210035068A (ko)
CN (1) CN114521329A (ko)
WO (1) WO2021060829A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230063796A1 (en) * 2019-12-29 2023-03-02 Lg Electronics Inc. Transform-based image coding method and device for same

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019074291A1 (ko) * 2017-10-11 2019-04-18 엘지전자 주식회사 분리 변환 기반 영상 코딩 방법 및 그 장치
KR20190090865A (ko) * 2017-01-03 2019-08-02 엘지전자 주식회사 영상 처리 방법 및 이를 위한 장치
US20190281304A1 (en) * 2012-06-26 2019-09-12 Velos Media, Llc Modified Coding for Transform Skipping

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PL3399760T3 (pl) * 2011-10-31 2021-07-19 Samsung Electronics Co., Ltd. Sposób i urządzenie do określania modelu kontekstu do entropijnego kodowania poziomu współczynnika przekształcenia
IN2014CN03598A (ko) * 2011-11-04 2015-07-31 Sharp Kk
JP6190361B2 (ja) * 2012-06-01 2017-08-30 シャープ株式会社 算術復号装置、画像復号装置、算術符号化装置、および画像符号化装置
US9294779B2 (en) * 2012-06-15 2016-03-22 Blackberry Limited Multi-bit information hiding using overlapping subsets
US9930341B2 (en) * 2014-06-20 2018-03-27 Qualcomm Incorporated Block vector coding for intra block copying
US10623774B2 (en) * 2016-03-22 2020-04-14 Qualcomm Incorporated Constrained block-level optimization and signaling for video coding tools

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190281304A1 (en) * 2012-06-26 2019-09-12 Velos Media, Llc Modified Coding for Transform Skipping
KR20190090865A (ko) * 2017-01-03 2019-08-02 엘지전자 주식회사 영상 처리 방법 및 이를 위한 장치
WO2019074291A1 (ko) * 2017-10-11 2019-04-18 엘지전자 주식회사 분리 변환 기반 영상 코딩 방법 및 그 장치

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
B. BROSS (FRAUNHOFER), T. NGUYEN, P. KEYDEL, H. SCHWARZ, D. MARPE, T. WIEGAND (HHI): "Non-CE8: Unified Transform Type Signalling and Residual Coding for Transform Skip", 13. JVET MEETING; 20190109 - 20190118; MARRAKECH; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-M0464, 15 January 2019 (2019-01-15), XP030202239 *
MARTA KARCZEWICZ , HONGTAO WANG , MUHAMMED COBAN , YUNG-HUSAIN CHAO , YU HAN: "CE7: Sign context, level mapping, and bitplane coding for TS residual coding (CE7-3.7, CE7-3.8, CE7-3.9, CE7-3.10, and CE7-3.11)", 15. JVET MEETING; 20190703 - 20190712; GOTHENBURG; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-O0122-v3, 4 July 2019 (2019-07-04), pages 1 - 23, XP030218677 *

Also Published As

Publication number Publication date
KR20210035068A (ko) 2021-03-31
US20220408087A1 (en) 2022-12-22
CN114521329A (zh) 2022-05-20

Similar Documents

Publication Publication Date Title
WO2017176030A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017171370A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018026219A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017222326A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018097626A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017146526A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017026681A1 (ko) 비디오 코딩 시스템에서 인터 예측 방법 및 장치
WO2020111785A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2019225993A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020050685A1 (ko) 인트라 예측을 이용한 영상 부호화/복호화 방법 및 장치
WO2020096428A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2020096427A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2019190201A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016190627A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019190199A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017222331A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020180166A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2018155985A1 (ko) 비디오 신호 처리 방법 및 장치
WO2021040458A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018155983A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020005007A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020130714A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2020141904A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2019235893A1 (ko) 비디오 신호 처리 방법 및 장치
WO2021040410A1 (ko) 레지듀얼 코딩에 대한 영상 디코딩 방법 및 그 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20870248

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20870248

Country of ref document: EP

Kind code of ref document: A1