WO2017188784A2 - 영상 신호 부호화/복호화 방법 및 장치 - Google Patents

영상 신호 부호화/복호화 방법 및 장치 Download PDF

Info

Publication number
WO2017188784A2
WO2017188784A2 PCT/KR2017/004576 KR2017004576W WO2017188784A2 WO 2017188784 A2 WO2017188784 A2 WO 2017188784A2 KR 2017004576 W KR2017004576 W KR 2017004576W WO 2017188784 A2 WO2017188784 A2 WO 2017188784A2
Authority
WO
WIPO (PCT)
Prior art keywords
block
partial
prediction mode
value
intra prediction
Prior art date
Application number
PCT/KR2017/004576
Other languages
English (en)
French (fr)
Other versions
WO2017188784A3 (ko
Inventor
문주희
임성원
원동재
Original Assignee
세종대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020170050049A external-priority patent/KR20170124077A/ko
Priority claimed from KR1020170050054A external-priority patent/KR102365937B1/ko
Priority to CN202311054699.5A priority Critical patent/CN116915994A/zh
Priority to CN202311056041.8A priority patent/CN116916004A/zh
Priority to CN202311055806.6A priority patent/CN116916000A/zh
Priority to CN202311054774.8A priority patent/CN116915995A/zh
Priority to CN202311055914.3A priority patent/CN116916002A/zh
Priority to CN202311054848.8A priority patent/CN116915997A/zh
Priority to CN202311054843.5A priority patent/CN116915996A/zh
Priority to CN202311050260.5A priority patent/CN116915987A/zh
Priority to US16/097,394 priority patent/US10805607B2/en
Priority to CN202311055507.2A priority patent/CN116915998A/zh
Priority to CN202311058445.0A priority patent/CN116916013A/zh
Priority to CN202311051162.3A priority patent/CN116915988A/zh
Application filed by 세종대학교 산학협력단 filed Critical 세종대학교 산학협력단
Priority to CN202311057067.4A priority patent/CN116916006A/zh
Priority to CN202311054691.9A priority patent/CN116915993A/zh
Priority to CN202311055556.6A priority patent/CN116915999A/zh
Priority to CN202311055993.8A priority patent/CN116916003A/zh
Priority to CN202311054618.1A priority patent/CN116915992A/zh
Priority to CN201780039690.3A priority patent/CN109328461B/zh
Priority to CN202311056416.0A priority patent/CN116916005A/zh
Priority to CN202311054573.8A priority patent/CN116915990A/zh
Priority to CN202311057660.9A priority patent/CN116916008A/zh
Publication of WO2017188784A2 publication Critical patent/WO2017188784A2/ko
Publication of WO2017188784A3 publication Critical patent/WO2017188784A3/ko
Priority to US17/016,867 priority patent/US11115659B2/en
Priority to US17/016,940 priority patent/US11122265B2/en
Priority to US17/363,911 priority patent/US20210329238A1/en
Priority to US17/812,158 priority patent/US11849111B2/en
Priority to US18/309,726 priority patent/US11849074B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the present invention relates to a video signal encoding / decoding method and apparatus.
  • the present invention mainly aims at improving the compression efficiency of an image by using a multiple intra prediction mode in encoding / decoding an image.
  • the present invention mainly aims at improving the compression efficiency of an image by efficiently encoding / decoding a multiple intra prediction mode of an encoding / decoding target block in encoding / decoding an image.
  • the present invention aims to improve the compression efficiency of an image by efficiently encoding / decoding coefficients in a partial block.
  • the video signal decoding method and apparatus decodes information indicating whether a current block is encoded using a multi intra prediction mode, and if it is determined that the current block is encoded in a multi intra prediction mode,
  • the block may be divided into a plurality of partial blocks, and an intra prediction mode of each of the plurality of partial blocks may be obtained.
  • an inflection point is determined among pixels around the current block, and the inclination information is determined based on the plurality of pixels around the inflection point.
  • the inflection point is determined based on an inflection value of each of the peripheral pixels, and the inflection value is based on a difference value between neighboring pixels neighboring neighboring pixels. Can be generated.
  • the video signal decoding method and apparatus when obtaining the intra prediction mode of each of the plurality of partial blocks, obtains the first intra prediction mode of the first partial block, the first intra prediction mode and the second The difference value between the second intra prediction modes of the partial block may be decoded, and the second intra prediction mode may be obtained based on the difference value.
  • the intra prediction modes of each of the plurality of partial blocks may have different values.
  • the video signal encoding method and apparatus determine whether a current block is encoded in a multi intra prediction mode, and based on the determination result, information indicating whether the current block uses a multi intra prediction mode is provided.
  • the current block may be divided into a plurality of partial blocks, and an intra prediction mode of each of the plurality of partial blocks may be determined.
  • the video signal encoding method and apparatus when dividing the current block into a plurality of partial blocks, determines an inflection point among the pixels around the current block, and determines the inclination information based on the plurality of pixels around the inflection point. Obtaining and determining the partition type of the current block based on the inflection point and the slope information.
  • the inflection point is determined based on an inflection value of each of the peripheral pixels, and the inflection value is based on a difference value between neighboring pixels neighboring the neighboring pixels. Can be generated.
  • the video signal encoding method and apparatus determine a first intra prediction mode of a first partial block among the plurality of partial blocks, and determine a second intra prediction mode of a first partial block among the plurality of partial blocks.
  • the difference value between the first intra prediction mode and the second intra prediction mode may be encoded.
  • the intra prediction modes of each of the plurality of partial blocks may have different values.
  • the compression efficiency of an image can be improved by using a multi intra prediction mode.
  • the compression efficiency of an image can be improved by efficiently encoding / decoding a multi intra prediction mode of an encoding / decoding target block.
  • the compression efficiency of an image can be improved by efficiently encoding / decoding a coefficient of a transform block.
  • FIG. 1 is a block diagram illustrating an image encoding apparatus according to an embodiment of the present invention.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to an embodiment of the present invention.
  • FIG. 3 is a diagram for describing an intra prediction method using a DC mode.
  • FIG. 4 is a diagram for describing an intra prediction method using a planner mode.
  • FIG. 5 is a diagram for describing an intra prediction method using a directional prediction mode.
  • FIG. 6 illustrates a method of encoding coefficients of a transform block according to an embodiment to which the present invention is applied.
  • FIG. 7 illustrates a method of encoding a maximum value of coefficients of a partial block according to an embodiment to which the present invention is applied.
  • FIG. 8 illustrates a method of encoding a first threshold flag for a partial block according to an embodiment to which the present invention is applied.
  • FIG. 9 illustrates a method of decoding coefficients of a transform block as an embodiment to which the present invention is applied.
  • FIG. 10 illustrates a method of decoding a maximum value of coefficients of a partial block as an embodiment to which the present invention is applied.
  • FIG. 11 illustrates a method of decoding a first threshold flag for a partial block according to an embodiment to which the present invention is applied.
  • FIG. 12 illustrates a method of deriving a first / second threshold flag for a current partial block as an embodiment to which the present invention is applied.
  • FIG. 13 illustrates a method of determining a size / shape of a partial block based on a merge flag according to an embodiment to which the present invention is applied.
  • FIG. 14 illustrates a method of determining a size / shape of a partial block based on a division flag as an embodiment to which the present invention is applied.
  • FIG. 15 illustrates a method of determining a size / shape of a partial block based on split index information according to an embodiment to which the present invention is applied.
  • FIG. 16 illustrates a method of dividing a transform block based on positions of non-zero coefficients according to an embodiment to which the present invention is applied.
  • FIG. 17 illustrates a method for selectively dividing a partial region of a transform block according to an embodiment to which the present invention is applied.
  • FIG. 18 illustrates a method of dividing a transform block based on an attribute of a DC / AC component in a frequency domain as an embodiment to which the present invention is applied.
  • 19 is a flowchart illustrating a process of determining whether to use a multi intra prediction mode in an encoding process.
  • 20 is a diagram for explaining an example of searching for an inflection point.
  • 21 is a diagram illustrating a divided form according to the form of a current block.
  • 22 is a diagram for describing an example of calculating slope information of a neighboring pixel.
  • FIG. 23 is a diagram illustrating an example in which a redundant area is generated according to a division type of a current block.
  • 24 is a flowchart illustrating a process of encoding an intra prediction mode of a partial block.
  • 25 is a flowchart illustrating a method of encoding an intra prediction mode using an MPM candidate.
  • 26 is a diagram illustrating determining an MPM candidate of a current block.
  • 27 is a flowchart illustrating a method of decoding an intra prediction mode of a current block.
  • 28 is a flowchart illustrating a process of decoding an intra prediction mode of a current block by using an MPM candidate.
  • first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.
  • the first component may be referred to as the second component, and similarly, the second component may also be referred to as the first component.
  • FIG. 1 is a block diagram illustrating an image encoding apparatus according to an embodiment of the present invention.
  • the image encoding apparatus 100 may include a picture splitter 110, a predictor 120 and 125, a transformer 130, a quantizer 135, a realigner 160, and an entropy encoder. 165, an inverse quantizer 140, an inverse transformer 145, a filter 150, and a memory 155.
  • each of the components shown in FIG. 1 is independently illustrated to represent different characteristic functions in the image encoding apparatus, and does not mean that each of the components is made of separate hardware or one software component unit.
  • each component is included in each component for convenience of description, and at least two of the components may be combined into one component, or one component may be divided into a plurality of components to perform a function.
  • Integrated and separate embodiments of the components are also included within the scope of the present invention without departing from the spirit of the invention.
  • the components may not be essential components for performing essential functions in the present invention, but may be optional components for improving performance.
  • the present invention can be implemented including only the components essential for implementing the essentials of the present invention except for the components used for improving performance, and the structure including only the essential components except for the optional components used for improving performance. Also included in the scope of the present invention.
  • the picture dividing unit 110 may divide the input picture into at least one block.
  • the block may mean a coding unit (CU), a prediction unit (PU), or a transformation unit (TU).
  • the partitioning may be performed based on at least one of a quadtree or a binary tree.
  • Quad tree is a method of dividing an upper block into lower blocks having a width and a height of half of the upper block.
  • the binary tree divides the upper block into lower blocks, which are half of the upper block in either width or height.
  • a block may have a square as well as a non-square shape.
  • a coding unit may be used as a unit for encoding or may be used as a unit for decoding.
  • the predictors 120 and 125 may include an inter predictor 120 that performs inter prediction and an intra predictor 125 that performs intra prediction. Whether to use inter prediction or intra prediction on the prediction unit may be determined, and specific information (eg, an intra prediction mode, a motion vector, a reference picture, etc.) according to each prediction method may be determined. In this case, the processing unit in which the prediction is performed may differ from the processing unit in which the prediction method and the details are determined. For example, the method of prediction and the prediction mode may be determined in the prediction unit, and the prediction may be performed in the transform unit.
  • the encoding apparatus may determine an optimal prediction mode for the coding block by using various techniques such as performing rate-distortion optimization (RDO) on the residual block obtained by subtracting the original block and the prediction block.
  • RDO rate-distortion optimization
  • Equation 1 Equation 1 below.
  • Equation 1 D denotes degradation due to quantization, R denotes a rate of a compressed stream, and J denotes an RD cost.
  • ⁇ represents an encoding mode and ⁇ represents a Lagranginan multiplier. [lambda] can be used as a scale correction coefficient to match the unit between the amount of error and the bit amount.
  • the encoding apparatus may determine a mode having a minimum RD cost value as an optimal mode for the coding block. At this time, the RD-cost value is calculated considering the bit rate and the error at the same time.
  • DC mode which is a non-directional prediction mode (or non-angle prediction mode) uses an average value of neighboring pixels of the current block.
  • 3 is a diagram for describing an intra prediction method using a DC mode.
  • Equation 2 is a diagram illustrating an example of generating a prediction pixel through a DC mode for each region.
  • regions R1, R2, and R3 are located at the outermost (ie, boundary) of the prediction block, and weighted filtering may be applied to the pixels included in the region.
  • Wid in Equation 2 is the horizontal length of the prediction block, Hei means the vertical length of the prediction block.
  • x and y mean coordinate positions for each prediction pixel when the upper left point of the prediction block is set to (0,0).
  • R means peripheral pixels.
  • the pixels a to i are represented by R [0] [-1] to R [8] [-1].
  • From j pixels to r pixels R [-1] [0] to R [-1] [8] can be represented.
  • the prediction pixel value Pred is obtained according to the weighted sum filtering method as shown in Equation 2 for each of the regions R1 to R4.
  • the planar mode of the non-directional mode is a method of generating a prediction pixel of the current block by linearly interpolating pixels around the current block according to a distance.
  • FIG. 4 is a diagram for describing an intra prediction method using a planner mode.
  • the vertical prediction value may be obtained by copying the pixel e pixel at the top of Pred and the r pixel at the bottom left at the bottom of Pred by linear interpolation according to the distance in the vertical direction.
  • the horizontal prediction value may be obtained by copying n pixels on the left side of Pred and i pixels on the upper right side to the right side of Pred by linear interpolation according to distance in the horizontal direction. Thereafter, the average value of the horizontal and vertical prediction values may be determined as the value of Pred. Equation 3 expresses a process of obtaining a prediction value Pred under a planner mode.
  • Wid in Equation 3 is the horizontal length of the prediction block, Hei means the vertical length of the prediction block.
  • x and y denote coordinate positions for each prediction pixel when the upper left point of the prediction block is set to (0, 0).
  • R means peripheral pixels.
  • the pixels a to i are represented by R [0] [-1] to R [8] [-1].
  • From j pixels to r pixels, R [-1] [0] to R [-1] [8] can be represented.
  • FIG. 5 is a diagram for describing an intra prediction method using a directional prediction mode.
  • the directional prediction mode (or angular prediction mode) is a method of generating at least one or more pixels located in any one direction among N predetermined directions among neighboring pixels of the current block as prediction samples.
  • the directional prediction mode may include a horizontal mode and a vertical mode.
  • the horizontal mode refers to modes having a greater horizontal direction than the angle prediction mode toward the top left at 45 degrees
  • the vertical mode refers to modes having a greater longitudinal direction than the angle prediction mode toward the top left at 45 degrees.
  • the directional prediction mode having the prediction direction toward the upper left in the 45 degree direction may be treated as a landscape mode or as a portrait mode. In Fig. 5, the landscape mode and the portrait mode are shown.
  • the pixel value may be put at a pixel position corresponding to the prediction block direction.
  • the residual value (residual block or transform block) between the generated prediction block and the original block may be input to the transform unit 130.
  • the residual block is the minimum unit for the transform and quantization process.
  • the partitioning scheme of the coding block can also be applied to the transform block. As an example, the transform block may be divided into four or two partial blocks.
  • the prediction mode information and the motion vector information used for the prediction may be encoded by the entropy encoder 165 together with the residual value and transmitted to the decoder.
  • the original block may be encoded as it is and transmitted to the decoder without generating the prediction block through the prediction units 120 and 125.
  • the inter prediction unit 120 may predict the prediction unit based on the information of at least one of the previous picture or the next picture of the current picture. In some cases, the inter prediction unit 120 may predict the prediction unit based on the information of the partial region in which the current picture is encoded. You can also predict units.
  • the inter predictor 120 may include a reference picture interpolator, a motion predictor, and a motion compensator.
  • the reference picture interpolator may receive reference picture information from the memory 155 and generate pixel information of an integer pixel or less in the reference picture.
  • a DCT based 8-tap interpolation filter having different filter coefficients may be used to generate pixel information of integer pixels or less in units of 1/4 pixels.
  • a DCT-based interpolation filter having different filter coefficients may be used to generate pixel information of an integer pixel or less in units of 1/8 pixels.
  • the motion predictor may perform motion prediction based on the reference picture interpolated by the reference picture interpolator.
  • various methods such as full search-based block matching algorithm (FBMA), three step search (TSS), and new three-step search algorithm (NTS) may be used.
  • FBMA full search-based block matching algorithm
  • TSS three step search
  • NTS new three-step search algorithm
  • the motion vector may have a motion vector value of 1/2 or 1/4 pixel units based on the interpolated pixels.
  • the motion prediction unit may predict the current prediction unit by using a different motion prediction method.
  • various methods such as a skip method, a merge method, and an advanced motion vector prediction (AMVP) method may be used.
  • AMVP advanced motion vector prediction
  • the encoding apparatus may generate motion information of the current block based on the motion estimation or the motion information of the neighboring block.
  • the motion information may include at least one of a motion vector, a reference picture index, and a prediction direction.
  • the intra predictor 125 may generate a prediction unit based on reference pixel information around the current block, which is pixel information in the current picture. If the neighboring block of the current prediction unit is a block that has performed inter prediction, and the reference pixel is a pixel that has performed inter prediction, the reference pixel of the block that has performed intra prediction around the reference pixel included in the block where the inter prediction has been performed Can be used as a substitute for information. That is, when the reference pixel is not available, the unavailable reference pixel information may be replaced with at least one reference pixel among the available reference pixels.
  • a prediction mode may have a directional prediction mode using reference pixel information according to a prediction direction, and a non-directional mode using no directional information when performing prediction.
  • the mode for predicting the luminance information and the mode for predicting the color difference information may be different, and the intra prediction mode information or the predicted luminance signal information used for predicting the luminance information may be utilized to predict the color difference information.
  • the intra prediction method may generate a prediction block after applying an adaptive intra smoothing (AIS) filter to a reference pixel according to a prediction mode.
  • AIS adaptive intra smoothing
  • the type of AIS filter applied to the reference pixel may be different.
  • the intra prediction mode of the current prediction unit may be predicted from the intra prediction mode of the prediction unit existing around the current prediction unit.
  • the prediction mode of the current prediction unit is predicted by using the mode information predicted from the neighboring prediction unit, if the intra prediction mode of the current prediction unit and the neighboring prediction unit is the same, the current prediction unit and the neighboring prediction unit using the predetermined flag information If the prediction modes of the current prediction unit and the neighboring prediction unit are different, entropy encoding may be performed to encode the prediction mode information of the current block.
  • a residual block may include a prediction unit performing prediction based on the prediction units generated by the prediction units 120 and 125 and residual information including residual information that is a difference from an original block of the prediction unit.
  • the generated residual block may be input to the transformer 130.
  • the transformer 130 converts the residual signal into the frequency domain to generate a residual block (or transform block) having a transform coefficient.
  • various transformation techniques such as Discrete Cosine Transform (DCT) based, Discreate Sine Transform (DST), and Karhunen Loeve Transform (KLT) may be used.
  • DCT Discrete Cosine Transform
  • DST Discreate Sine Transform
  • KLT Karhunen Loeve Transform
  • a matrix operation is performed using a basis vector.
  • the transformation schemes may be mixed and used in the matrix operation. For example, in intra prediction, a discrete cosine transform may be used in the horizontal direction and a discrete sine transform in the vertical direction, depending on the prediction mode.
  • the quantization unit 135 may quantize the values converted by the transformer 130 into the frequency domain. That is, the quantization unit 135 may quantize the transform coefficients of the transform block generated from the transform unit 130 to generate a quantized transform block having the quantized transform coefficients.
  • the quantization technique may include dead zone uniform threshold quantization (DZUTQ) or a quantization weighted matrix (DZUTQ). Improved quantization techniques may be used that improve upon these quantization techniques.
  • the quantization coefficient may change depending on the block or the importance of the image.
  • the value calculated by the quantization unit 135 may be provided to the inverse quantization unit 140 and the reordering unit 160.
  • the transformer 130 and / or the quantizer 135 may be selectively included in the image encoding apparatus 100. That is, the image encoding apparatus 100 may encode the residual block by performing at least one of transform or quantization on the residual data of the residual block, or skipping both transform and quantization. Even if neither the transformation nor the quantization is performed or neither the transformation nor the quantization is performed in the image encoding apparatus 100, a block entering the input of the entropy encoder 165 is generally called a transform block (or a quantized transform block). It is called.
  • the reordering unit 160 may reorder coefficient values with respect to the quantized residual value.
  • the reordering unit 160 may change the two-dimensional block shape coefficients into a one-dimensional vector form through a coefficient scanning method. For example, the reordering unit 160 may scan a DC coefficient to a coefficient of a high frequency region by using a predetermined scan type and change it into a one-dimensional vector.
  • the entropy encoder 165 may perform entropy encoding based on the values calculated by the reordering unit 160. Entropy encoding may use various encoding methods such as, for example, Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC).
  • Entropy encoding may use various encoding methods such as, for example, Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC).
  • the entropy encoder 165 receives residual value coefficient information, block type information, prediction mode information, partition unit information, prediction unit information, transmission unit information, and motion of the coding unit from the reordering unit 160 and the prediction units 120 and 125.
  • Various information such as vector information, reference frame information, interpolation information of a block, and filtering information can be encoded.
  • the coefficients of the transform block encode various types of flags indicating nonzero coefficients, coefficients whose absolute value is greater than 1 or 2, and the sign of the coefficient, etc., in units of partial blocks in the transform block. Can be.
  • Coefficients not encoded with only the flag may be encoded through an absolute value of the difference between the coefficient encoded through the flag and the coefficient of the actual transform block. A method of encoding coefficients of a transform block will be described in detail with reference to FIG. 6.
  • the entropy encoder 165 may entropy encode a coefficient value of a coding unit input from the reordering unit 160.
  • the inverse quantizer 140 and the inverse transformer 145 inverse quantize the quantized values in the quantizer 135 and inversely transform the transformed values in the transformer 130.
  • the inverse quantization unit 140 and the inverse transform unit 145 may perform inverse quantization and inverse transformation by using the quantization method and the transformation method used in the quantization unit 135 and the conversion unit 130 inversely. In addition, when only the quantization is performed by the transform unit 130 and the quantization unit 135 and no transform is performed, only the inverse quantization may be performed and the inverse transform may not be performed. If both transformation and quantization are not performed, the inverse quantization unit 140 and the inverse transformation unit 145 may also be omitted without performing inverse transformation and inverse quantization or not included in the image encoding apparatus 100.
  • the residual value generated by the inverse quantizer 140 and the inverse transformer 145 is reconstructed by combining the prediction units predicted by the motion estimator, the motion compensator, and the intra predictor included in the predictors 120 and 125. You can create a Reconstructed Block.
  • the filter unit 150 may include at least one of a deblocking filter, an offset correction unit, and an adaptive loop filter (ALF).
  • a deblocking filter may include at least one of a deblocking filter, an offset correction unit, and an adaptive loop filter (ALF).
  • ALF adaptive loop filter
  • the deblocking filter may remove block distortion caused by boundaries between blocks in the reconstructed picture.
  • it may be determined whether to apply a deblocking filter to the current block based on the pixels included in several columns or rows included in the block.
  • a strong filter or a weak filter may be applied according to the required deblocking filtering strength.
  • horizontal filtering and vertical filtering may be performed in parallel when vertical filtering and horizontal filtering are performed.
  • the offset correction unit may correct the offset with respect to the original image on a pixel-by-pixel basis for the deblocking image.
  • the pixels included in the image are divided into a predetermined number of areas, and then, an area to be offset is determined, an offset is applied to the corresponding area, or offset considering the edge information of each pixel. You can use this method.
  • Adaptive Loop Filtering may be performed based on a value obtained by comparing the filtered reconstructed image with the original image. After dividing the pixels included in the image into a predetermined group, one filter to be applied to the group may be determined and filtering may be performed for each group. For information related to whether to apply ALF, a luminance signal may be transmitted for each coding unit (CU), and the shape and filter coefficient of an ALF filter to be applied may vary according to each block. In addition, regardless of the characteristics of the block to be applied, the same type (fixed form) of the ALF filter may be applied.
  • ALF Adaptive Loop Filtering
  • the memory 155 may store the reconstructed block or picture calculated by the filter unit 150, and the stored reconstructed block or picture may be provided to the predictors 120 and 125 when performing inter prediction.
  • FIG. 2 is a block diagram illustrating an image decoding apparatus according to an embodiment of the present invention.
  • the image decoder 200 includes an entropy decoder 210, a reordering unit 215, an inverse quantizer 220, an inverse transformer 225, a predictor 230, 235, and a filter unit ( 240, a memory 245 may be included.
  • the input bitstream may be decoded by a procedure opposite to that of the image encoder.
  • the entropy decoder 210 may perform entropy decoding in a procedure opposite to that of the entropy encoding performed by the entropy encoder of the image encoder. For example, various methods such as Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC) may be applied to the method performed by the image encoder.
  • the coefficients of the transform block are based on various types of flags indicating nonzero coefficients, coefficients having an absolute value greater than 1 or 2, a sign of the coefficient, and the like, in units of partial blocks in the transform block. Can be decrypted. Coefficients not represented by the flag alone may be decoded through the sum of the coefficients represented by the flag and the signaled coefficients. A method of decoding the coefficients of the transform block will be described in detail with reference to FIG. 9.
  • the entropy decoder 210 may decode information related to intra prediction and inter prediction performed by the encoder.
  • the reordering unit 215 may reorder the entropy decoded bitstream by the entropy decoding unit 210 based on a method of rearranging the bitstream. Coefficients expressed in the form of a one-dimensional vector may be reconstructed by reconstructing the coefficients in a two-dimensional block form.
  • the reordering unit 215 may be realigned by receiving information related to coefficient scanning performed by the encoder and performing reverse scanning based on the scanning order performed by the corresponding encoder.
  • the inverse quantization unit 220 may perform inverse quantization based on the quantization parameter provided by the encoder and the coefficient values of the rearranged block.
  • the inverse transform unit 225 may perform inverse transform on the inverse quantized transform coefficients using a predetermined transform method.
  • the transformation method may be determined based on information on a prediction method (inter / intra prediction), a size / shape of a block, an intra prediction mode, and the like.
  • the prediction units 230 and 235 may generate the prediction block based on the prediction block generation related information provided by the entropy decoder 210 and previously decoded blocks or picture information provided by the memory 245.
  • the predictors 230 and 235 may include a prediction unit determiner, an inter predictor, and an intra predictor.
  • the prediction unit determiner receives various information such as prediction unit information input from the entropy decoder 210, prediction mode information of the intra prediction method, and motion prediction related information of the inter prediction method, and distinguishes the prediction unit from the current coding unit, and predicts It may be determined whether the unit performs inter prediction or intra prediction.
  • the inter prediction unit 230 predicts the current prediction based on information included in at least one of a previous picture or a subsequent picture of the current picture including the current prediction unit by using information required for inter prediction of the current prediction unit provided by the image encoder. Inter prediction may be performed on a unit. Alternatively, inter prediction may be performed based on information of some regions pre-restored in the current picture including the current prediction unit.
  • the motion prediction method of the prediction unit included in the coding unit is skip mode, merge mode, or AMVP mode to perform inter prediction. You can judge.
  • the intra predictor 235 may generate a prediction block based on pixel information in the current picture.
  • intra prediction may be performed based on intra prediction mode information of the prediction unit provided by the image encoder.
  • the intra predictor 235 may include an adaptive intra smoothing (AIS) filter, a reference pixel interpolator, and a DC filter.
  • the AIS filter is a part of filtering the reference pixel of the current block and determines whether to apply the filter according to the prediction mode of the current prediction unit.
  • AIS filtering may be performed on the reference pixel of the current block by using the prediction mode and the AIS filter information of the prediction unit provided by the image encoder. If the prediction mode of the current block is a mode that does not perform AIS filtering, the AIS filter may not be applied.
  • the reference pixel interpolator may generate a reference pixel having an integer value or less by interpolating the reference pixel. If the prediction mode of the current prediction unit is a prediction mode for generating a prediction block without interpolating the reference pixel, the reference pixel may not be interpolated.
  • the DC filter may generate the prediction block through filtering when the prediction mode of the current block is the DC mode.
  • the reconstructed block or picture may be provided to the filter unit 240.
  • the filter unit 240 may include a deblocking filter, an offset correction unit, and an ALF.
  • Information about whether a deblocking filter is applied to a corresponding block or picture, and when the deblocking filter is applied to the corresponding block or picture, may be provided with information about whether a strong filter or a weak filter is applied.
  • the deblocking filter related information provided by the image encoder may be provided and the deblocking filtering of the corresponding block may be performed in the image decoder.
  • the offset correction unit may perform offset correction on the reconstructed image based on the type of offset correction and offset value information applied to the image during encoding.
  • the ALF may be applied to a coding unit based on ALF application information, ALF coefficient information, and the like provided from the encoder. Such ALF information may be provided included in a specific parameter set.
  • the memory 245 may store the reconstructed picture or block to use as a reference picture or reference block, and may provide the reconstructed picture to the output unit.
  • FIG. 6 illustrates a method of encoding coefficients of a transform block according to an embodiment to which the present invention is applied.
  • coefficients of a transform block may be encoded in predetermined block units (hereinafter, referred to as partial blocks).
  • the transform block can consist of one or more partial blocks.
  • the partial block may be a NxM size block.
  • N and M are natural numbers, and N and M may be the same or different from each other.
  • the partial block may be a square or non-square block.
  • the size / shape of the partial block may be fixed (eg, 4 ⁇ 4) pre-committed to the image encoding apparatus, or may be variably determined according to the size / shape of the transform block.
  • the image encoding apparatus may determine the size / shape of the optimal partial block in consideration of encoding efficiency and encode the same.
  • Information about the size / shape of the encoded partial block may be signaled in at least one of a sequence, a picture, a slice, or a block level.
  • an order of encoding a partial block belonging to a transform block may be determined according to a predetermined scan type (hereinafter, referred to as a first scan type).
  • the order of encoding coefficients belonging to the partial block may be determined according to a predetermined scan type (hereinafter, referred to as a second scan type).
  • the first scan type and the second scan type may be the same or different.
  • a diagonal scan, a vertical scan, a horizontal scan, or the like may be used.
  • the present invention is not limited thereto, and one or more scan types having a predetermined angle may be further added.
  • the first / second scan type may include coding block related information (eg, maximum / minimum size, splitting technique, etc.), transform block size / shape, partial block size / shape, prediction mode, intra prediction related information ( For example, it may be determined based on at least one of the value of the intra prediction mode, the direction, the angle, etc.) or the inter prediction related information.
  • the image encoding apparatus may encode location information of coefficients that are not first zero (hereinafter, referred to as non-zero coefficients) in the above-described encoding order in the transform block. Encoding may be sequentially performed from the partial block including the first non-zero coefficient. Hereinafter, a process of encoding the coefficients of the partial block will be described with reference to FIG. 6.
  • the partial block flag for the current partial block may be encoded (S600).
  • the partial block flag may be encoded in units of partial blocks.
  • the partial block flag may indicate whether at least one non-zero coefficient exists in the current partial block. For example, when the partial block flag is a first value, the current partial block indicates that at least one non-zero coefficient exists, and when the partial block flag is a second value, all coefficients of the current partial block are zero. May indicate that
  • the partial block coefficient flag for the current partial block may be encoded (S610).
  • the partial block coefficient flag may be encoded in a coefficient unit.
  • the partial block coefficient flag may indicate whether the coefficient is a non-zero coefficient. For example, when the coefficient is a non-zero coefficient, the partial block coefficient flag may be encoded with a first value, and when the coefficient is 0, the partial block coefficient flag may be encoded with a second value.
  • the partial block coefficient flag may be selectively encoded according to the partial block flag. For example, only when there is at least one non-zero coefficient in the current partial block (that is, when the partial block flag is the first value), it may be encoded for each coefficient of the partial block.
  • a flag indicating whether the absolute value of the coefficient is greater than 1 (hereinafter, referred to as a first flag) may be encoded (S620).
  • the first flag may be selectively encoded according to a value of the partial block coefficient flag. For example, when the coefficient is a non-zero coefficient (that is, when the partial block coefficient flag is the first value), the first flag may be encoded by checking whether the absolute value of the coefficient is greater than one. . When the absolute value of the coefficient is greater than 1, the first flag may be encoded with a first value, and when the absolute value of the coefficient is not greater than 1, the first flag may be encoded with a second value.
  • a flag (hereinafter referred to as a second flag) indicating whether the absolute value of the coefficient is greater than 2 may be encoded (S630).
  • the second flag may be selectively encoded according to the value of the first flag. For example, when the coefficient is greater than 1 (that is, when the first flag is the first value), the second flag may be encoded by checking whether the absolute value of the coefficient is greater than 2. When the absolute value of the coefficient is greater than 2, the second flag may be encoded with a first value, and when the absolute value of the coefficient is not greater than 2, the second flag may be encoded with a second value.
  • the number of at least one of the aforementioned first flag or second flag may be at least one to at most N * M.
  • at least one of the first flag and the second flag may be a fixed number (eg, one, two, or more) pre-committed to the image encoding apparatus.
  • the number of first / second flags includes the bit depth of the input image, the dynamic range of the original pixel value in any region of the image, the block size / depth, the segmentation technique (eg, quad tree, binary tree), and the transformation technique. (eg, DCT, DST), whether to skip transform, a quantization parameter, a prediction mode (eg, intra / inter mode), and the like.
  • an nth flag indicating whether the absolute value of the coefficient is greater than n may be additionally encoded.
  • n may mean a natural number greater than 2.
  • the number of the n-th flag may be one, two, or more, and may be determined in the same / similar manner as the aforementioned first / second flag.
  • the remaining coefficients that are not encoded based on the first / second flag may be encoded (S640).
  • the encoding may be a process of encoding the coefficient value itself.
  • the remaining coefficient may be equal to or greater than two.
  • the remaining coefficients may be encoded based on at least one of a partial block coefficient flag, a first flag, or a second flag with respect to the remaining coefficients.
  • the residual coefficient may be encoded by subtracting (partial block coefficient flag + first flag + second flag) from an absolute value of the residual coefficient.
  • a sign of coefficients of the partial block may be encoded (S650).
  • the code may be encoded in a flag unit in units of coefficients.
  • the code may be selectively encoded according to the value of the aforementioned partial block coefficient flag. For example, the sign may be encoded only if the coefficient is a non-zero coefficient (ie, when the partial block coefficient flag is a first value).
  • each absolute value of the coefficients of the partial block may be encoded through at least one of partial block coefficient flag encoding, first flag encoding, second flag encoding, or remaining coefficient encoding.
  • the above-described coefficient encoding of the partial block may further involve specifying a range of coefficient values belonging to the partial block. Through this process, it is also possible to determine whether there is at least one non-zero coefficient in the partial block.
  • the above process may be implemented through at least one of (A) encoding of the maximum value, (B) encoding of the first threshold flag, or (C) encoding of the second threshold flag, which will be described later.
  • the process may be implemented by being included in any one of the above-described steps S600 to S650, or may be implemented in a form that is replaced with at least one of the steps S600 to S650.
  • a process of specifying a range of coefficient values belonging to a partial block will be described in detail with reference to FIGS. 7 to 8.
  • FIG. 7 illustrates a method of encoding a maximum value of coefficients of a partial block according to an embodiment to which the present invention is applied.
  • a maximum value of absolute values of coefficients of a current partial block may be encoded (S700).
  • a range of coefficient values belonging to the current partial block may be inferred. For example, when the maximum value is m, the coefficient of the current partial block may be in the range of 0 to m.
  • the maximum value may be selectively encoded according to the value of the above-described partial block flag. For example, it may be coded only if the current partial block contains at least one non-zero coefficient (ie, the partial block flag is the first value). If the coefficients of the current partial block are all zero (that is, the partial block flag is the second value), the maximum value may be derived to zero.
  • the maximum value may determine whether at least one non-zero coefficient is included in the current partial block. For example, when the maximum value is greater than zero, the current partial block includes at least one non-zero coefficient, and when the maximum value is zero, all coefficients of the current partial block may be zero. Therefore, the maximum value encoding may be performed in place of encoding of the partial block flag of S600.
  • FIG. 8 illustrates a method of encoding a first threshold flag for a partial block according to an embodiment to which the present invention is applied.
  • the first threshold flag of the present invention may indicate whether all coefficients of the partial block are smaller than the predetermined threshold.
  • the 0 th threshold value T 0 means the minimum value
  • the (N-1) th threshold value T N-1 means the maximum value, respectively
  • ⁇ T 0 , T 1 , T 2 ,... , T N-1 ⁇ may be the threshold value is arranged in ascending order.
  • the number of thresholds may be preset in the image encoding apparatus.
  • the image encoding apparatus may determine an optimal number of thresholds in consideration of encoding efficiency and encode the same.
  • the threshold may be preset in the image encoding apparatus.
  • the image encoding apparatus may determine an optimal threshold value in consideration of encoding efficiency and encode the same.
  • the range of the threshold may be determined differently according to the quantization parameter QP.
  • the QP may be set at at least one level of a sequence, a picture, a slice, or a transform block.
  • the threshold range may be determined to be ⁇ 3 ⁇ or the first / second threshold flag encoding process may be omitted, and the coefficients of the partial block may be encoded through steps S600 to S650 described above.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the QP is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the QP is large.
  • the number of QP thresholds may be one, two, or more.
  • the QP threshold may be preset in the image encoding apparatus.
  • the QP threshold may correspond to a median value in a range of QPs available in the video encoding apparatus.
  • the video encoding apparatus may determine an optimal QP threshold in consideration of encoding efficiency and encode the same.
  • the range of thresholds may be determined differently depending on the size / shape of the block.
  • the block may mean a coding block, a prediction block, a transform block, or a partial block.
  • the size may be expressed by at least one of a width, a height, a sum of the width and the height of the block, or the number of coefficients.
  • the threshold range is determined to be ⁇ 3 ⁇ , or the first / second threshold flag encoding process is skipped, and the above-described steps S600 to S650 are performed. Through the coding of the partial block can be encoded.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the block size is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the block size is large.
  • the number of threshold sizes may be one, two or more.
  • the threshold size may be preset in the image encoding apparatus.
  • the threshold size is represented by axb, where a and b are 2, 4, 8, 16, 32, 64 or more, and a and b may be the same or different.
  • the image encoding apparatus may determine an optimal threshold size in consideration of encoding efficiency and encode the same.
  • the threshold range may be determined differently according to the pixel value range.
  • the pixel value range may be expressed as a maximum value and / or a minimum value of a pixel belonging to a predetermined region.
  • the predetermined area may mean at least one of a sequence, a picture, a slice, or a block.
  • the threshold range is determined to be ⁇ 3 ⁇ or the first / second threshold flag encoding process is omitted.
  • the coefficients of the partial block may be encoded.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the difference is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the difference is large.
  • the number of threshold difference values may be one, two, or more.
  • the threshold difference value may be preset in the image encoding apparatus. Alternatively, the image encoding apparatus may determine an optimal threshold difference value in consideration of encoding efficiency and encode the same.
  • the first threshold flag may be encoded as "false" (S810).
  • the current threshold value (i th threshold value) is updated to the next threshold value ((i + 1) th threshold value) (S820), and based on the updated current threshold value, the above-described step S800 may be performed. Can be.
  • the first threshold flag encoding process of step S810 may be omitted, and the current threshold value may be updated to the next threshold value.
  • the current threshold value When the current threshold value reaches the maximum value of the threshold value, or when the number of the threshold value is one, the current threshold value may be updated by adding a predetermined constant to the current threshold value.
  • the predetermined constant may be an integer greater than or equal to one.
  • the update may be repeatedly performed until the first threshold flag is encoded as "true”. Based on the updated current threshold value, step S800 may be performed. Alternatively, when the current threshold value reaches the maximum value of the threshold value or when the number of threshold values is one, the update process may be terminated.
  • the first threshold flag may be encoded as "true” (S830).
  • the first threshold flag for the i th threshold when the first threshold flag for the i th threshold is “true”, this may indicate that the absolute value of all coefficients in the partial block is less than the i th threshold.
  • the first threshold flag for the i-th threshold is "false”, this may indicate that the absolute value of all coefficients in the partial block is greater than or equal to the i-th threshold.
  • the range of coefficient values belonging to the partial block may be specified based on the first threshold flag that is “true”. That is, when the first threshold flag for the i th threshold is “true”, the coefficient belonging to the partial block may be in the range of 0 to (i th threshold-1).
  • At least one of the above-described steps S600 to S650 may be omitted.
  • the coefficients of the partial block may be encoded by performing the remaining steps except at least one of the above-described steps S630 or S640, or the coefficients of the partial block may be encoded by performing the remaining steps except at least one of the steps S600, S630 or S640. It may be.
  • the first threshold flag for the threshold "3" is “false”
  • the first threshold flag for the threshold "5" may be encoded.
  • at least one of the absolute values of the coefficients in the partial block may be greater than or equal to five.
  • the above-described steps S600 to S650 may be performed in the same manner to encode the coefficients of the partial block, or steps other than the S600 step may be performed to encode the coefficients of the partial block.
  • the absolute value of all coefficients in the partial block may be in the range of 0 to 4.
  • the above-described steps S600 to S650 may be performed in the same manner to encode the coefficients of the partial block, or steps other than the S600 step may be performed to encode the coefficients of the partial block.
  • the first threshold flag of the current partial block may be derived based on the first threshold flag of the other partial block.
  • the first threshold flag encoding process may be omitted, which will be described with reference to FIG. 14.
  • FIG. 9 illustrates a method of decoding coefficients of a transform block as an embodiment to which the present invention is applied.
  • coefficients of a transform block may be decoded in predetermined block units (hereinafter, referred to as partial blocks).
  • the transform block can consist of one or more partial blocks.
  • the partial block may be a NxM size block.
  • N and M are natural numbers, and N and M may be the same or different from each other.
  • the partial block may be a square or non-square block.
  • the size / shape of the partial block may be fixed (e.g., 4x4) pre-committed to the image decoding apparatus, may be variably determined according to the size / shape of the transform block, and the size of the partial block signaled. It may be determined variably based on information on the / form. Information about the size / shape of the partial block may be signaled at at least one of a sequence, picture, slice, or block level.
  • the order of decoding the partial block belonging to the transform block may be determined according to a predetermined scan type (hereinafter, referred to as a first scan type).
  • the order of decoding coefficients belonging to the partial block may be determined according to a predetermined scan type (hereinafter, referred to as a second scan type).
  • the first scan type and the second scan type may be the same or different.
  • a diagonal scan, a vertical scan, a horizontal scan, or the like may be used.
  • the present invention is not limited thereto, and one or more scan types having a predetermined angle may be further added.
  • the first / second scan type may include coding block related information (eg, maximum / minimum size, splitting technique, etc.), transform block size / shape, partial block size / shape, prediction mode, intra prediction related information ( For example, it may be determined based on at least one of the value of the intra prediction mode, the direction, the angle, etc.) or the inter prediction related information.
  • the image decoding apparatus may decode the position information of the partial block including the first non-zero coefficient (hereinafter, referred to as non-zero coefficient) in the above-described decoding order. Decoding may be sequentially performed from the partial block according to the location information. Hereinafter, a process of decoding the coefficients of the partial block will be described with reference to FIG. 9.
  • the partial block flag regarding the current partial block may be decoded (S900).
  • the partial block flag may be decoded in units of partial blocks.
  • the partial block flag may indicate whether at least one non-zero coefficient exists in the current partial block. For example, when the partial block flag is a first value, the current partial block indicates that at least one non-zero coefficient exists, and when the partial block flag is a second value, all coefficients of the current partial block are zero. May indicate that
  • the partial block coefficient flag for the current partial block may be decoded (S910).
  • the partial block coefficient flag may be decoded in units of coefficients.
  • the partial block coefficient flag may indicate whether the coefficient is a non-zero coefficient. For example, when the partial block coefficient flag is the first value, it may indicate that the coefficient is a non-zero coefficient, and when the partial block coefficient flag is the second value, the coefficient may be 0.
  • the partial block coefficient flag may be selectively decoded according to the partial block flag. For example, only when there is at least one non-zero coefficient in the current partial block (that is, when the partial block flag is the first value), it may be decoded for each coefficient of the partial block.
  • a flag indicating whether the absolute value of the coefficient is greater than 1 (hereinafter, referred to as a first flag) may be decoded (S920).
  • the first flag may be selectively decoded according to a value of the partial block coefficient flag. For example, when the coefficient is a non-zero coefficient (that is, when the partial block coefficient flag is the first value), the first flag may be decoded to determine whether the absolute value of the coefficient is greater than one.
  • the first flag is the first value
  • the absolute value of the coefficient may be greater than 1
  • the first flag is the second value
  • the absolute value of the coefficient may be 1.
  • a flag indicating whether the absolute value of the coefficient is greater than 2 (hereinafter referred to as a second flag) may be decoded (S930).
  • the second flag may be selectively decoded according to the value of the first flag. For example, when the coefficient is greater than 1 (that is, when the first flag is the first value), the second flag may be decoded to determine whether the absolute value of the coefficient is greater than 2.
  • the second flag is the first value
  • the absolute value of the coefficient may be greater than two
  • the second flag is the second value
  • the absolute value of the coefficient may be two.
  • the number of at least one of the aforementioned first flag or second flag may be at least one to at most N * M.
  • at least one of the first flag and the second flag may be a fixed number (eg, one, two, or more) pre-committed to the image decoding apparatus.
  • the number of first / second flags is block size / depth, division scheme (eg, quad tree, binary tree), transformation scheme (eg, DCT, DST), transformation skipping, quantization parameter, prediction mode (eg, intra / Inter mode) and the like.
  • an nth flag indicating whether the absolute value of the coefficient is greater than n may be additionally decoded.
  • n may mean a natural number greater than 2.
  • the number of the n-th flag may be one, two, or more, and may be determined in the same / similar manner as the aforementioned first / second flag.
  • the remaining coefficients that are not decoded based on the first / second flag may be decoded (S940).
  • the decoding may be a process of decoding the coefficient value itself.
  • the remaining coefficient may be equal to or greater than two.
  • the remaining coefficients may be decoded based on at least one of a partial block coefficient flag, a first flag, or a second flag with respect to the remaining coefficients. For example, the remaining coefficient may be derived as (partial block coefficient flag + first flag + second flag + signaled coefficient).
  • a sign of coefficients of the partial block may be decoded (S950).
  • the code may be decoded in the form of a flag in units of coefficients.
  • the code may be selectively decoded according to the value of the aforementioned partial block coefficient flag. For example, the sign can be decoded only when the coefficient is a non-zero coefficient (ie, when the partial block coefficient flag is a first value).
  • the aforementioned coefficient decoding of the partial block may further involve specifying a range of coefficient values belonging to the partial block. Through this process, it is also possible to determine whether there is at least one non-zero coefficient in the partial block.
  • the process may be performed by at least one of (A) decoding the maximum value, (B) decoding the first threshold flag, or (C) decoding the second threshold flag, which will be described later.
  • the process may be performed by being included in any one of the above-described steps S900 to S950, or may be performed in a form that is replaced with at least one of the steps S900 to S950.
  • a process of specifying a range of coefficient values belonging to a partial block will be described in detail with reference to FIGS. 10 to 11.
  • FIG. 10 illustrates a method of decoding a maximum value of coefficients of a partial block as an embodiment to which the present invention is applied.
  • information indicating a maximum value among absolute values of coefficients of a current partial block may be decoded (S1000).
  • a range of coefficient values belonging to the current partial block may be inferred. For example, when the maximum value is m, the coefficient of the current partial block may be in the range of 0 to m.
  • the information representing the maximum value may be selectively decoded according to the value of the above-described partial block flag. For example, it can be decoded only if the current partial block contains at least one non-zero coefficient (ie, the partial block flag is the first value). When the coefficients of the current partial block are all zero (that is, when the partial block flag is the second value), the information representing the maximum value may be derived as zero.
  • the maximum value it may be determined whether at least one non-zero coefficient is included in the current partial block. For example, when the maximum value is greater than zero, the current partial block includes at least one non-zero coefficient, and when the maximum value is zero, all coefficients of the current partial block may be zero. Therefore, the maximum value decoding may be performed in place of the decoding of the partial block flag of S900.
  • FIG. 11 illustrates a method of decoding a first threshold flag for a partial block according to an embodiment to which the present invention is applied.
  • the first threshold flag of the present invention may indicate whether all coefficients of the partial block are smaller than the predetermined threshold.
  • the 0 th threshold value T 0 means the minimum value
  • the (N-1) th threshold value T N-1 means the maximum value, respectively
  • ⁇ T 0 , T 1 , T 2 ,... , T N-1 ⁇ may be the threshold value is arranged in ascending order.
  • the number of thresholds may be pre-set in the image decoding apparatus, or may be determined based on information about the number of thresholds that are signaled.
  • the threshold may be pre-configured in the image decoding apparatus, or may be determined based on information about a threshold signaled.
  • the range of the threshold may be determined differently according to the quantization parameter QP.
  • the QP may be set at at least one level of a sequence, a picture, a slice, or a transform block.
  • the threshold range is determined to be ⁇ 3 ⁇ , or the first / second threshold flag decoding process is skipped, and the above-described steps S900 to S950 are performed.
  • the coefficient of the partial block can be decoded.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the QP is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the QP is large.
  • the number of QP thresholds may be one, two, or more.
  • the QP threshold may be preset in the image decoding apparatus.
  • the QP threshold may correspond to a median value of a range of QPs available in the image decoding apparatus.
  • the QP threshold may be determined based on information about a QP threshold signaled by the image encoding apparatus.
  • the range of thresholds may be determined differently depending on the size / shape of the block.
  • the block may mean a coding block, a prediction block, a transform block, or a partial block.
  • the size may be expressed by at least one of a width, a height, a sum of the width and the height of the block, or the number of coefficients.
  • the threshold range is determined to be ⁇ 3 ⁇ , or the first / second threshold flag decoding process is skipped, and the above-described steps S900 to S950 are performed. Through the coefficients of the partial block can be decoded.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the block size is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the block size is large.
  • the number of threshold sizes may be one, two or more.
  • the threshold size may be preset in the image decoding apparatus.
  • the threshold size is represented by axb, where a and b are 2, 4, 8, 16, 32, 64 or more, and a and b may be the same or different.
  • the threshold size may be determined based on information about the threshold size signaled by the image encoding apparatus.
  • the threshold range may be determined differently according to the pixel value range.
  • the pixel value range may be expressed as a maximum value and / or a minimum value of a pixel belonging to a predetermined region.
  • the predetermined area may mean at least one of a sequence, a picture, a slice, or a block.
  • the threshold range is determined to be ⁇ 3 ⁇ or the first / second threshold flag decoding process is omitted.
  • the coefficients of the partial block may be decoded.
  • the threshold range may be determined as ⁇ 3, 5 ⁇ or ⁇ 5, 3 ⁇ .
  • the threshold range when the difference is small may have a number and / or size (eg, a maximum value) of thresholds different from the threshold range when the difference is large.
  • the number of threshold difference values may be one, two, or more.
  • the threshold difference value may be predetermined in the image decoding apparatus, or may be determined based on information about the threshold difference value signaled by the image encoding apparatus.
  • a first threshold flag related to a current threshold value may be decoded (S1100).
  • the first threshold flag may indicate whether an absolute value of all coefficients of the partial block is smaller than a current threshold value. For example, if the first threshold flag is "false”, this may mean that the absolute value of all coefficients of the partial block is greater than or equal to the current threshold. On the other hand, when the first threshold flag is "true”, this may mean that the absolute value of all coefficients of the partial block is less than the current threshold value.
  • step S1100 the current threshold value (i th threshold value) is updated to a next threshold value ((i + 1) th threshold value) (S1110) and the updated current threshold value. Based on the value, step S1100 described above may be performed.
  • the current threshold value When the current threshold value reaches the maximum value of the threshold value, or when the number of the threshold value is one, the current threshold value may be updated by adding a predetermined constant to the current threshold value.
  • the predetermined constant may be an integer greater than or equal to one. In this case, the update may be repeatedly performed until the first threshold flag that is "true" is decoded. Alternatively, when the current threshold value reaches the maximum value of the threshold value or when the number of threshold values is one, the update process may be terminated.
  • the first threshold flag for the i th threshold when the first threshold flag for the i th threshold is “true”, this may indicate that the absolute value of all coefficients in the partial block is less than the i th threshold.
  • the first threshold flag for the i-th threshold is "false”, this may indicate that the absolute value of all coefficients in the partial block is greater than or equal to the i-th threshold.
  • the range of coefficient values belonging to the partial block may be specified based on the first threshold flag that is “true”. That is, when the first threshold flag for the i th threshold is “true”, the coefficient belonging to the partial block may be in the range of 0 to (i th threshold-1).
  • At least one of the above-described steps S900 to S950 may be omitted.
  • the coefficients of the partial block may be decoded by performing the remaining steps except at least one of the above-described step S930 or S940, or the coefficients of the partial block may be decoded by performing the remaining steps except at least one of the steps S900, S930 or S940. It may be.
  • the first threshold flag for the threshold "3" is “false”
  • the first threshold flag for the threshold "5" may be decoded.
  • at least one of the absolute values of the coefficients in the partial block may be greater than or equal to five.
  • the above-described steps S900 to S950 may be performed in the same manner to decode the coefficients of the partial block, or the remaining blocks except for the S900 step may be performed to decode the coefficients of the partial block.
  • the absolute value of all coefficients in the partial block may be in the range of 0 to 4.
  • the above-described steps S900 to S950 may be performed in the same manner to decode the coefficients of the partial block, or the remaining blocks except for the S900 step may be performed to decode the coefficients of the partial block.
  • the first threshold flag of the current partial block may be derived based on the first threshold flag of the other partial block.
  • the first threshold flag decoding process may be omitted, which will be described with reference to FIG. 12.
  • FIG. 12 illustrates a method of deriving a first / second threshold flag for a current partial block as an embodiment to which the present invention is applied.
  • the transform block 1200 is 8x8, the partial block is 4x4, the block containing the first non-zero coefficient is 1220, and the partial block of the transform block is 1240, 1220, 1230, 1210 according to the scan type. Assume that they are encoded / decoded in order.
  • a first threshold flag for a particular threshold may be derived based on the first threshold flag of the previous partial block.
  • the first threshold flag of the current partial block may be derived as “false” based on the first threshold flag that is “false” in the previous partial block.
  • ⁇ 3, 5, 7 ⁇ is used as the range of the threshold.
  • the partial block 1240 since the encoding / decoding order is earlier than the position of the partial block 1220 to which the first non-zero coefficient belongs, the partial block 1240, which is first in the encoding / decoding order, may not be encoded / decoded.
  • the partial block 1220 that is second in the encoding / decoding sequence since the first threshold flag for the threshold value "3" is "true”, only the first threshold flag for the threshold value "3" may be encoded / decoded. .
  • the first threshold flag related to the threshold value "3" is "false"
  • the first threshold flag related to the threshold value "5" is "true”.
  • the first threshold flag for values "3" and "5" may be encoded / decoded, respectively.
  • the first threshold flag for threshold “3” is “false”
  • the first threshold flag for threshold "5" is “false”.
  • the current partial block 1210 predicts that there is at least one absolute value of a coefficient of 3 or more, and the threshold value “3”.
  • the first threshold flag for may be derived as "false”.
  • a first threshold flag for a particular threshold may be derived based on the first threshold flag of the previous partial block.
  • the first threshold flag of the current partial block may be derived as “false” based on the first threshold flag that is “false” in the previous partial block.
  • the video encoding apparatus may determine a partial block having a predetermined size / shape constituting the transform block and encode information about the size / shape of the partial block.
  • the image decoding apparatus may determine the size / shape of the partial block based on the encoded information (first method). Alternatively, the size / shape of the partial block may be determined through a rule pre-committed to the image encoding / decoding apparatus (second method).
  • Information indicating which of the first method and the second method determines the size / shape of the partial block may be signaled in at least one layer of a video, sequence, picture, slice, or block.
  • the block may mean a coding block, a prediction block, or a transform block.
  • the size of the partial block in the transform block may be equal to or smaller than the size of the transform block.
  • the shape of the transform block / partial block may be square or non-square.
  • the shape of the transform block may be the same as or different from the shape of the partial block.
  • Information about the shape of the transform block may be encoded.
  • the information may include at least one of information about whether to use only square, non-square, or both square and non-square in the form of a transform block.
  • the information may be signaled in at least one layer of video, sequence, picture, slice, or block.
  • the block may mean a coding block, a prediction block, or a transform block.
  • Information about the size of the transform block may be encoded.
  • the information may include at least one of a minimum size, a maximum size, a split depth, or a maximum / minimum value regarding the split depth.
  • the information may be signaled in at least one layer of video, sequence, picture, slice, or block.
  • Information about the shape of the partial block may be encoded.
  • the information may include at least one of information about whether to use only square, non-square, or both square and non-square in the form of a partial block.
  • the information may be signaled in at least one layer of video, sequence, picture, slice, or block.
  • the block may mean a coding block, a prediction block, or a transform block.
  • Information about the size of the partial block may be encoded.
  • the information may include at least one of a minimum size, a maximum size, a split depth, or a maximum / minimum value regarding the split depth.
  • the information may be signaled in at least one layer of video, sequence, picture, slice, or block.
  • FIG. 13 illustrates a method of determining a size / shape of a partial block based on a merge flag according to an embodiment to which the present invention is applied.
  • the image encoding apparatus may determine which merge type is most optimal through the RDO from the minimum size partial block to the maximum size partial block.
  • an RD-cost value for a transform block 1301 consisting of a plurality of partial blocks 1-16 may be calculated.
  • the partial block may be a partial block of a minimum size pre-committed to the image encoding apparatus.
  • the transform block 1302 is a case where four partial blocks 13-16 of the transform block 1301 are merged into one partial block, and an RD-cost value for the transform block 1302 can be calculated.
  • the transform block 1303 is a case where four partial blocks 9-12 of the transform block 1301 are merged into one partial block, and an RD-cost value for the transform block 1303 may be calculated.
  • the transform block 1304 is a case where four partial blocks 5-8 of the transform block 1301 are merged into one partial block, and an RD-cost value for the transform block 1304 can be calculated. .
  • the image encoding apparatus may calculate an RD-cost value while merging partial blocks in a transform block to a partial block having a maximum size in a quad tree method.
  • An optimal merge may be determined based on the RD-cost value, and a merge flag indicating the optimal merge may be encoded.
  • the image decoding apparatus may determine the size / shape of the partial block in the transform block based on the encoded merge flag.
  • transform block 1304 is the optimal merging
  • the minimum size of the partial block is equal to the size of partial block " 1 " of transform block 1304, and the maximum size of the partial block is the transform block 1304.
  • the image encoding apparatus may encode a merge flag (“false”) indicating that the transform block 1301 is not an optimal merge.
  • a merge flag (“false”) indicating that the four partial blocks 10-13 of the transform block 1304 are not merged is optimal, and the four partial blocks 6-6 of the transform block 1304 are encoded.
  • 9) may encode a merge flag (“false”) indicating that the unmerged state is optimal.
  • a merge flag (“true”) indicating that the state in which the four partial blocks 6-9 in the transform block 1301 are merged into one partial block is optimal is encoded, and four of the transform blocks 1304 are encoded.
  • a merge flag (“false”) may be encoded indicating that the unblocked state of the partial blocks 1-4 is optimal. That is, the image encoding apparatus may generate a bitstream "00010" through the encoding, and the image decoding apparatus may determine the merged form of the transform block 1304 by decoding the bitstream.
  • the merged partial block may have a square or non-square shape.
  • the shape of the merged partial block may be determined based on an encoding order or a scan order of the partial block.
  • a vertical non-square merge may be used.
  • a long non-square merge may be used.
  • FIG. 14 illustrates a method of determining a size / shape of a partial block based on a division flag as an embodiment to which the present invention is applied.
  • the image encoding apparatus may determine which partition type the transform block is most optimal through the RDO, from the partial block having the largest size to the partial block having the smallest size.
  • an RD-cost value for a transform block 1401 composed of one partial block 1 may be calculated.
  • the partial block 1 may be a partial block of a maximum size pre-committed to the image encoding apparatus.
  • the transform block 1302 is a case where the largest partial block is divided into four partial blocks 1-4, and the RD-cost value for the transform block 1302 can be calculated.
  • the transform block 1403 is a case where the partial block "1" of the transform block 1402 is divided into four partial blocks 1-4, and the RD-cost value for the transform block 1403 can be calculated. have.
  • the transform block 1404 is a case where the partial block " 1 " of the transform block 1403 is divided into four partial blocks 1-4 again, and the RD-cost value for the transform block 1404 can be calculated. Can be.
  • the image encoding apparatus may calculate an RD-cost value by dividing a partial block in a transform block into a partial block having a minimum size in a quad tree method.
  • An optimal partition may be determined based on the RD-cost value, and a partition flag indicating the optimal partition may be encoded.
  • the image decoding apparatus may determine the size / shape of the partial block in the transform block based on the encoded partition flag.
  • the transform block 1403 is an optimal partition
  • the minimum size of the partial block is equal to the size of the partial block "1" of the transform block 1403
  • the maximum size of the partial block is the transform block 1403.
  • the video encoding apparatus may encode a partition flag (“true”) indicating that the transform block 1401 is not an optimal partition.
  • the partition flag (“true") indicating that the partial block '1' is best divided into four partial blocks can be encoded.
  • a partition flag (“false”) may be encoded indicating that the remaining partial blocks 2-4 are not divided into four partial blocks. That is, the image encoding apparatus may generate a bitstream “11000” through the encoding, and the image decoding apparatus may determine the partition type of the transform block 1403 by decoding the bitstream.
  • the divided partial block may have a square or non-square shape.
  • the shape of the divided partial block may be determined based on an encoding order or a scan order of the partial block.
  • coding order of the partial blocks in the transform block is in a diagonal direction
  • square division may be used.
  • coding order of the partial blocks in the transform block is in the vertical direction
  • a long vertical non-square division may be used.
  • coding order of the partial blocks in the transform block is in the horizontal direction
  • a long horizontal non-square division may be used.
  • FIG. 15 illustrates a method of determining a size / shape of a partial block based on split index information according to an embodiment to which the present invention is applied.
  • the image encoding apparatus may identify which partition type is most optimal through the RDO, from the partial blocks of the transform block to the partial blocks of the maximum size to the partial blocks of the minimum size.
  • the conversion block 1501 is composed of one partial block 1, and the RD-cost value in this case can be calculated.
  • the partial block 1 may be a partial block of a maximum size pre-committed to the image encoding apparatus.
  • the transform block 1502 is a case where the transform block 1501 is divided into four partial blocks 1-4, and the RD-cost value in this case can be calculated.
  • the transform block 1503 is a case where each partial block of the transform block 1502 is further divided into four partial blocks, and the RD-cost value in this case can be calculated.
  • the RD-cost value can be calculated while dividing the transform block into partial blocks of the same size within the range of the maximum size to the smallest size block.
  • the optimal partition may be determined based on the RD-cost value, and partition index information indicating the optimal partition may be encoded.
  • the image decoding apparatus may determine the size / shape of the partial block in the transform block based on the encoded partition index information.
  • the video encoding apparatus sets "0" as the split index information when the transform block 1501 is an optimal partition, and "1" as the split index information when the transform block 1502 is an optimal partition.
  • "2" may be encoded using partition index information.
  • the image decoding apparatus may determine the size / shape of the partial block in the transform block based on the encoded partition index information.
  • FIG. 16 illustrates a method of dividing a transform block based on positions of non-zero coefficients according to an embodiment to which the present invention is applied.
  • the size / shape of the partial block may be determined.
  • the size / shape of the partial block may be determined by the size / shape of the block (hereinafter referred to as the first reference block) including the position of the first non-zero coefficient.
  • the first reference block may be a minimum size of a block including the position of the first non-zero coefficient and the position of the lower right coefficient of the transform block.
  • the first reference block may belong to a range of the minimum size and the maximum size of the partial block pre-committed to the image encoding / decoding apparatus.
  • the transform block may be divided into the size / type of the determined partial block.
  • the transform block 1601 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (12,12) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (12
  • the size of the partial block including, 12 may be determined as 4 ⁇ 4, and as illustrated in FIG. 16, the transform block 1601 may be divided into 16 partial blocks having a size of 4 ⁇ 4.
  • the transform block 1602 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (8,8) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (8,8) ) May be determined to be 8x8 in size, and the transform block 1602 may be divided into 4 partial blocks of size 8x8 as shown in FIG. 16.
  • the transform block 1603 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (8,0) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (8,0) ) May be determined to be 8x16 in size, and in this case, the transform block 1603 may be divided into two partial blocks of size 8x16.
  • the size / shape of the partial block may be determined as the size / shape of a block (hereinafter referred to as a second reference block) that does not include the position of the first non-zero coefficient.
  • the second reference block may be the largest size among the blocks including the position of the lower right coefficient of the transform block without including the position of the first non-zero coefficient.
  • the second reference block may belong to a range of the minimum size and the maximum size of the partial block pre-committed to the image encoding / decoding apparatus.
  • the transform block may be divided into the size / type of the determined partial block.
  • the transform block 1601 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (12,11) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (12
  • the size of the partial block not including 11 may be determined as 4 ⁇ 4, and in this case, the transform block 1601 may be divided into 16 partial blocks having a size of 4 ⁇ 4.
  • the transform block 1602 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (7,13) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (7,13)
  • the size of the partial block that does not include) may be determined to be 8x8, and in this case, the transform block 1602 may be divided into four partial blocks of size 8x8.
  • the transform block 1603 is 16x16, and if the position of the first non-zero coefficient in the encoding / decoding order is (6,14) with respect to the upper left (0,0) of the transform block, the corresponding coefficient (6,14). ) May be determined to be 8x16 in size, and in this case, the transform block 1603 may be divided into two partial blocks of size 8x16.
  • FIG. 17 illustrates a method for selectively dividing a partial region of a transform block according to an embodiment to which the present invention is applied.
  • the remaining area except for the partial area in the transform block may be divided into partial blocks having a predetermined size / shape.
  • some regions may be specified based on the position (a, b) of the first non-zero coefficient.
  • the partial region may include at least one of a region having an x-coordinate greater than a or a region having a y-coordinate greater than b.
  • the size / shape of the partial block may be determined in the same / similar manner as the above-described at least one embodiment, and a detailed description thereof will be omitted.
  • transform block 1701 is 16x16 and the position of the first non-zero coefficient in the encoding / decoding order is (11,11) with respect to the upper left (0,0) of the transform block, then (11,11) The region located to the right of the x-coordinate of) and the region below the y-coordinate of (11,11) may not be encoded / decoded except in the partial block setting range. In this case, the remaining area of the transform block 1701 may be divided into four partial blocks having a size of 6 ⁇ 6.
  • the remaining area except for the partial area in the transform block may be divided into partial blocks having a predetermined size / shape.
  • some regions may be specified based on the position (a, b) of the first non-zero coefficient and the maximum coordinate value (c, d) of the transform block.
  • the maximum coordinate value (c, d) may be the position of the lower right coefficient of the transform block. For example, "(c-a)" and "(d-b)", which are the difference between the position (a, b) of the first non-zero coefficient and the maximum coordinate value (c, d) of the transform block, may be calculated, respectively.
  • a position (e, f) shifted by a minimum value among the difference values may be determined based on the position of the lower right coefficient of the transform block.
  • the partial region may include at least one of a region having an x-coordinate greater than e or a region having a y-coordinate greater than f.
  • the size / shape of the partial block may be determined in the same / similar manner as the above-described at least one embodiment, and a detailed description thereof will be omitted.
  • transform block 1701 is 16x16 and the position of the first non-zero coefficient in the encoding / decoding order is (11,8) with respect to the upper left (0,0) of the transform block, then x of that coefficient -"4", the difference between coordinate "11” and the maximum x-coordinate "15” of the transform block, and "", the difference between the y-coordinate "8" of the coefficient and the maximum y-coordinate "15” of the transform block. 7 "can be calculated. Based on the position of the lower right coefficient of the transform block, the shifted position by the minimum value of "4" among the difference values may be determined as (11,11).
  • the region to the right of the x-coordinate of (11,11) and the region below the y-coordinate of (11,11) may not be encoded / decoded except in the partial block setting range.
  • the remaining area of the transform block 1701 may be divided into four partial blocks having a size of 6 ⁇ 6.
  • the transform block may be divided into a plurality of areas based on a predetermined boundary line.
  • the boundary line may be one, two or more.
  • the boundary line has a slope of a predetermined angle, and the angle may be in the range of 0 degrees to 90 degrees.
  • the boundary line may include the position of the first non-zero coefficient in the encoding / decoding order of the coefficients in the transform block.
  • the transform block may be divided into a first area and a second area based on the boundary line. In this case, the first region may be divided into partial blocks having a predetermined size / shape, and the second region may not be divided into partial blocks having a predetermined size / shape.
  • coefficients belonging to the first region may be encoded / decoded based on partial blocks having a predetermined size / shape, and encoding / decoding of coefficients belonging to the second region may be skipped.
  • the first area may mean an area located at an upper side, left side, or upper left end with respect to the boundary line.
  • the first region may further include an area of the partial block including the boundary line.
  • the second area may mean an area located at the bottom, right, or bottom right of the boundary line.
  • the transform block 1402 is 16x16
  • the position of the first non-zero coefficient in the encoding / decoding order is (10,6) with respect to the upper left (0,0) of the transform block
  • the transform block 1402 Assume that all partial blocks of are pre-divided into 4x4 units.
  • the last pixel position in the upper right 45 degree direction is (15,1) based on (10,6) and the last pixel position in the lower left 45 degree direction is (1,15).
  • the partial block 1-10 of the region located at the upper left is determined as a partial block to be encoded / decoded
  • the partial block of the region located at the lower right is not encoded / decoded. May be determined as a block.
  • the shape of the partial block of the region located in the upper left end may be determined by a rectangle and / or a triangle.
  • the transform block 1403 is 16x16
  • the position of the first non-zero coefficient in the encoding / decoding order is (8,7) with respect to the upper left (0,0) of the transform block
  • the transform block 1403 Assume that all partial blocks of are pre-divided into 4x4 units.
  • the last pixel position in the upper right 45 degree direction is (15,0)
  • the last pixel position in the lower left 45 degree direction is (0,15) based on (8,7).
  • the partial block 1-10 of the region located at the upper left is determined as a partial block to be encoded / decoded, and the partial block of the region located at the lower right is not encoded / decoded.
  • the shape of the partial block of the region located in the upper left end may be determined by a rectangle (partial blocks 1-5, 8) and / or a triangle (partial blocks 6, 7, 9, and 10).
  • FIG. 18 illustrates a method of dividing a transform block based on an attribute of a DC / AC component in a frequency domain as an embodiment to which the present invention is applied.
  • the partition type of the transform block may be determined by considering the attributes of the DC / AC components constituting the transform block.
  • the attribute may mean a component position, distribution, density or strength, and the attribute may be determined depending on a transformation method of the transform block (eg, DCT, DST, etc.).
  • the region where the AC component is most weakly concentrated may be divided into partial blocks of larger size than the remaining regions.
  • the AC component may be located primarily in the partial blocks "5" to "13".
  • the 8x8 sized partial blocks may be allocated only to the partial block 13 which is the area where the AC component is weakest concentrated, and the 4x4 sized partial blocks may be allocated to the remaining areas.
  • the region where the AC component is most weakly concentrated may be divided into partial blocks of a smaller size than the remaining regions.
  • the AC component may be located primarily in the partial blocks "2" through "7".
  • the 4x4 sized partial blocks may be allocated only to the partial blocks "4" to "7" which are the weakest AC components, and the 8x8 sized partial blocks may be allocated to the remaining areas.
  • an area where the DC component is most strongly concentrated may be divided into partial blocks having a smaller size than the remaining areas.
  • the DC component may be located primarily in the partial blocks "1" through "4".
  • a partial block of 4x4 size may be allocated only to the partial blocks "1" to "4", which are regions of which the DC component is the strongest, and a partial block of 8x8 size may be allocated to the remaining regions.
  • an area where the DC component is most strongly concentrated may be divided into partial blocks having a larger size than the remaining areas.
  • the DC component may be primarily located in the partial block "1" region.
  • an 8x8 sized partial block may be allocated only to the partial block "1" which is the region having the strongest DC component, and a 4x4 sized partial block may be allocated to the remaining area.
  • a region of the DC / AC component in the transform block is assumed based on the quadrature transform block.
  • the present invention is not limited thereto, and the same or similarly may be applied to a transform block divided by N (N ⁇ 1) or N powers.
  • all or part of the partial blocks in the transform block may be selectively encoded / decoded. For example, when the QP of the transform block is larger than a predetermined QP threshold, only a partial region of the transform block may be encoded / decoded. On the other hand, when the QP of the transform block is smaller than a predetermined QP threshold, all partial blocks in the transform block may be encoded / decoded.
  • the partial region may be specified by at least one of a predetermined vertical line or a horizontal line.
  • the vertical line may be located at a point a distance to the left from the left boundary of the transform block
  • the horizontal line may be located at a point away from the top boundary of the transform block by b.
  • a and b are natural numbers and may be the same as or different from each other.
  • the partial region may be a region located to the left of the vertical line and / or to an upper portion of the horizontal line.
  • the position of the vertical / horizontal line may be pre-committed to the image encoding / decoding apparatus, or may be variably determined in consideration of the size / shape of the transform block.
  • the image encoding apparatus encodes and signals the information specifying the partial region (for example, information specifying the position of the vertical / horizontal line), and the image decoding apparatus partially encodes the signal based on the signaled information. You can also specify an area.
  • the boundary of the specified partial region may or may not be in contact with the boundary of the partial block in the transform block.
  • the partial region may be one partial block of the region in which the DC component is concentrated or N partial blocks including N partial blocks including adjacent partial blocks.
  • the partial region may be specified by a vertical line passing through a 1 / n point of the upper boundary of the transform block and / or a horizontal line passing through a 1 / m point of the left boundary of the transform block.
  • N and m are natural numbers and may be the same as or different from each other.
  • the number of QP thresholds may be one, two, or more.
  • the QP threshold may be preset in the image encoding apparatus.
  • the QP threshold may correspond to a median value of a range of QPs available in the image encoding / decoding apparatus.
  • the video encoding apparatus may determine an optimal QP threshold in consideration of encoding efficiency and encode the same.
  • all or some of the partial blocks in the transform block may be selectively encoded / decoded according to the size of the transform block. For example, when the size of the transform block is greater than or equal to a predetermined threshold size, only a part of the region in the transform block may be encoded / decoded. On the other hand, when the size of the transform block is smaller than a predetermined threshold size, all partial blocks in the transform block may be encoded / decoded.
  • the partial region may be specified by at least one of a predetermined vertical line or a horizontal line.
  • the vertical line may be located at a point a distance to the left from the left boundary of the transform block
  • the horizontal line may be located at a point away from the top boundary of the transform block by b.
  • a and b are natural numbers and may be the same as or different from each other.
  • the partial region may be a region located to the left of the vertical line and / or to an upper portion of the horizontal line.
  • the position of the vertical / horizontal line may be pre-committed to the image encoding / decoding apparatus, or may be variably determined in consideration of the size / shape of the transform block.
  • the image encoding apparatus encodes and signals the information specifying the partial region (for example, information specifying the position of the vertical / horizontal line), and the image decoding apparatus partially encodes the signal based on the signaled information. You can also specify an area.
  • the boundary of the specified partial region may or may not be in contact with the boundary of the partial block in the transform block.
  • the partial region may be one partial block of the region in which the DC component is concentrated or N partial blocks including N partial blocks including adjacent partial blocks.
  • the partial region may be specified by a vertical line passing through a 1 / n point of the upper boundary of the transform block and / or a horizontal line passing through a 1 / m point of the left boundary of the transform block.
  • N and m are natural numbers and may be the same as or different from each other.
  • the number of threshold sizes may be one, two or more.
  • the threshold size may be preset in the image encoding apparatus.
  • the threshold size is represented by cxd, where c and d are 2, 4, 8, 16, 32, 64 or more, and c and d may be the same or different.
  • the image encoding apparatus may determine an optimal threshold size in consideration of encoding efficiency and encode the same.
  • the coding block may be divided into at least one prediction block, and each prediction block may be divided into at least one or more partial blocks (or prediction partial blocks) through an additional partitioning process.
  • each partial block may be encoded using different intra prediction modes. That is, the coding block or the prediction block may be divided into a plurality of prediction blocks or a plurality of partial blocks using a multi intra prediction mode (or a multi mode).
  • the prediction block may be divided into a plurality of partial blocks according to a preset pattern. In this case, the split form of the prediction block may be preset and used in the image encoding apparatus and the image decoding apparatus.
  • the current block represents a prediction block encoded in the current intra prediction mode.
  • the current block may mean a partial block generated by splitting a coding block, a transform block, or a prediction block.
  • the encoding apparatus may search for a point (hereinafter, referred to as an “inflection point”) in which a pixel value of the neighboring pixels adjacent to the current block is significantly changed (S601).
  • An inflection point may mean a point at which a change in pixel value between a neighboring pixel and a neighboring pixel adjacent to the neighboring pixel is greater than or equal to a preset limit value, or a point at which the change in pixel value between a neighboring pixel and a neighboring pixel neighboring the pixel is the largest. have.
  • the current block is a 4x4 size prediction block.
  • the encoding apparatus may calculate a degree of change in pixel value (hereinafter, referred to as an inflection value) for each of the neighboring pixels adjacent to the current block.
  • the inflection value may be calculated based on a change amount (or difference value) between a neighboring pixel adjacent to the current block and a neighboring pixel adjacent to the neighboring pixel, or a change amount (or difference value) between neighboring pixels neighboring the neighboring pixel.
  • the neighboring pixels adjacent to the current block include pixels adjacent to the upper boundary of the current block, pixels adjacent to the left boundary of the current block, and pixels adjacent to corners of the current block (eg, upper left corner, upper right corner, and lower left corner). It may include at least one of.
  • a to k are illustrated as neighboring pixels of the current block.
  • the encoding apparatus may include a pixel adjacent to a corner of the current block among the neighboring pixels adjacent to the current block (eg, a pixel adjacent to the upper left corner of the current block, a pixel adjacent to the lower left corner of the current block, or an upper right corner of the current block).
  • the inflection value may be calculated for the remaining neighboring pixels except at least one of the pixels adjacent to.
  • the encoding apparatus may calculate an inflection value for the remaining neighboring pixels except the rightmost pixel or the bottommost pixel among the neighboring pixels adjacent to the current block.
  • the encoding apparatus may calculate an inflection value of the remaining pixels except for the f and k pixels among the pixels a to k.
  • the number or range of neighboring pixels may vary depending on the size and shape of the current prediction block. Accordingly, depending on the size and shape of the current block, the number or range of the neighboring pixels to be calculated inflection value may also vary.
  • Equation 4 shows an example of a method of calculating an inflection value.
  • the current peripheral pixel represents a peripheral pixel that is an object of inflection value calculation among the neighboring pixels adjacent to the current block.
  • the inflection value of the current peripheral pixel may be calculated by taking an absolute value of the difference between adjacent neighboring pixels adjacent to the current peripheral pixel.
  • the inflection value of the peripheral pixels adjacent to the top of the current block eg, pixels 'b to e' in FIG. 20
  • the inflection value of the peripheral pixels adjacent to the top of the current block may be determined by a difference between the peripheral pixel adjacent to the left side of the peripheral pixel and the peripheral pixel adjacent to the right side of the peripheral pixel. It can be calculated based on the value.
  • the inflection value of the peripheral pixels adjacent to the left side of the current block eg, pixels 'g to j' in FIG.
  • the peripheral pixels adjacent to the upper left corner of the current block (eg, pixel 'a' in FIG. 20) may be calculated based on a difference value between the peripheral pixels adjacent to the bottom of the peripheral pixels and the peripheral pixels adjacent to the right of the peripheral pixels. Can be.
  • some of the neighboring pixels of the current block may be excluded from the inflection value calculation object.
  • the inflection value of the neighboring pixels excluded from the inflection value calculation target among the neighboring pixels of the current block may be set to a preset value (eg, 0).
  • the encoding apparatus may select an inflection point based on the calculated inflection value. For example, the encoding apparatus may set the peripheral pixel having the largest inflection value as the inflection point among the peripheral pixel having the largest inflection value or the peripheral pixel having the inflection value greater than or equal to the threshold value. As an example, in the example illustrated in FIG. 20, when the inflection value of the peripheral pixel b is maximum, the encoding apparatus may set the 'O' point illustrated in FIG. 20 as the inflection point.
  • the encoding apparatus When there are a plurality of neighboring pixels having the same maximum inflection value, the encoding apparatus re-defines the inflection value for the plurality of neighboring pixels or selects one of the plurality of neighboring pixels based on a preset priority. Can be selected as an inflection point.
  • the encoding apparatus may re-define the inflection values of the inflection points, and adjust the number or positions of the neighboring pixels used for the inflection of the inflection value. For example, the encoding apparatus may increase the number of adjacent pixels adjacent to the neighboring pixel by one in both directions (or unidirectional) when the inflection value of the neighboring pixel is recalculated. Accordingly, when the peripheral pixel having the maximum inflection value is the peripheral pixel adjacent to the upper end of the current block, the two peripheral pixels adjacent to the left side of the peripheral pixel and two peripheral pixels adjacent to the right side of the peripheral pixel are used. The inflection value of the surrounding pixels can be redefined.
  • the encoding apparatus may select a neighboring pixel close to the pixel at a specific position as the inflection point. For example, the encoding apparatus may give higher priority as the inflection point closer to the upper left peripheral pixel of the current block.
  • the encoding apparatus may redefine the inflection values of the inflection points and determine the inflection point based on the reselected inflection value, even though the inflection value is reselected.
  • the inflection point may be selected based on the priority.
  • the inflection point is determined based on the peripheral pixels adjacent to the current block and the peripheral pixels neighboring the peripheral pixels. Unlike the example described, the inflection point may be determined based on encoding parameters of neighboring blocks neighboring the current block.
  • the encoding parameters are parameters used to encode neighboring blocks and may include prediction related information such as an intra prediction mode and a motion vector.
  • the inflection point may be adjacent when the difference in the intra prediction mode between neighboring blocks neighboring the current block is greater than or equal to a preset threshold, or the difference in motion vectors between neighboring blocks neighboring the current block is greater than or equal to the preset threshold. It is also possible to set the boundary of the block to the inflection point.
  • the decoding apparatus may also determine an inflection point by using encoding parameters of neighboring blocks.
  • the encoding apparatus may determine the partition type of the current block based on the inflection point (S602).
  • 21 is a diagram illustrating a divided form according to the form of a current block.
  • the current block may be divided into two or more partial blocks, according to at least one baseline.
  • the partial block generated by dividing the current block may have a triangular or trapezoidal shape as well as a rectangular shape.
  • 21 illustrates that there may be 18 dividing lines (or 18 dividing forms) when the current block has a square shape, and 2102 and 2103 of FIG. 21 indicate that the current block is rectangular. When illustrated, it may have 20 dividing lines (or 20 dividing forms).
  • the partition type of the current block is not limited to the illustrated example. In addition to those shown, various forms of diagonal or bidivision may be applied.
  • the encoding apparatus may select a dividing line having the determined inflection point as a starting point or a dividing line having the closest starting point to the determined inflection point, and divide the current block according to the selected dividing line. For example, when the position of the inflection point does not coincide with the left or top start point of the dividing line, the encoding apparatus may change the position of the inflection point to the start point of the closest dividing line.
  • the encoding apparatus may calculate slope information of the pixels around the inflection point in order to determine how to divide the current block from the inflection point.
  • FIG. 22 is a diagram for describing an example of calculating slope information of peripheral pixels.
  • the size of the current block is 4x4 and the inflection point is b1.
  • the encoding apparatus may calculate gradient information using the N pixels selected based on the inflection point. For example, as in the example illustrated in FIG. 22, the encoding apparatus may configure a 3x3 block including an inflection point b1 and calculate gradient information based on pixels included in the configured 3x3 block.
  • the inflection point of the current block When the inflection point of the current block is a neighboring pixel located at the top of the current block, the inflection point may be included in the lowest row of the 3x3 block. On the other hand, when the inflection point of the current block is a neighboring pixel located to the left of the current block, the inflection point may be included in the rightmost column of the 3x3 block. That is, when the inflection point of the current block exists at the upper end, a 3x3 block may be configured based on the pixels surrounding the inflection point and the pixels located in the upper direction of the inflection point. On the other hand, when the inflection point of the current block exists on the left side, a 3x3 block may be configured based on the pixels surrounding the inflection point and the pixels located on the left side of the inflection point.
  • the encoding apparatus may calculate horizontal slope and vertical slope using peripheral pixels adjacent to the inflection point, and calculate tilt information of the current block based on the horizontal slope and the vertical slope.
  • Equation 5 illustrates a series of processes for calculating slope information.
  • Equation 5 f x (x, y) represents the degree of inclination in the horizontal direction, and f y (x, y) represents the degree of inclination in the vertical direction.
  • the slope of the current block can be obtained by taking the arc tangent to the horizontal slope value with respect to the vertical slope value.
  • the inclination direction of the current block can be known from the slope value of the current block.
  • the inclination value is calculated based on the peripheral pixels adjacent to the current block and the peripheral pixels adjacent to the peripheral pixels.
  • the slope of the current block may be determined based on encoding parameters of neighboring blocks neighboring the current block.
  • the slope value may be determined based on an intra prediction mode (or an intra prediction mode angle) of neighboring blocks around the inflection point or a motion vector of the neighboring blocks around the inflection point.
  • the encoding apparatus may encode index information for indicating which of the neighboring blocks located at the inflection point to determine the slope value.
  • the index information may be information representing any one of neighboring blocks.
  • the encoding apparatus may determine an optimal division type for the current block in consideration of the position of the inflection point and the degree of inclination.
  • the optimal division type may include a division line having an inclination angle that matches the inclination angle of the current block among the division lines having the starting point of the inflection point of the current block, or a division line having an inclination angle most similar to the inclination angle of the current block ( That is, the division line having a tilt angle having a minimum difference from the tilt angle of the current block) may be used.
  • the encoding apparatus may select a split form having a higher priority according to a preset priority.
  • the encoding apparatus may encode information for determining a partition type of the current block, and transmit the encoded information to the decoding apparatus through a bitstream.
  • Information for determining the partition type of the current block may be encoded through a prediction block unit or an upper header.
  • the upper header may mean a coding block layer, a slice layer, a picture layer, a sequence layer, a video layer, and the like.
  • the information for determining the partition type of the current block may include at least one of an index, a position of an inflection point, or slope information for identifying the partition type of the current block.
  • the position of the inflection point may be encoded through a prediction block unit or an upper header and transmitted to the decoding apparatus.
  • the decoding apparatus may determine the partition type of the current block in the same manner as the encoding apparatus. For example, the decoding apparatus may induce an inflection point based on the amount of change in pixel values between neighboring blocks, calculate gradient information using N pixels based on the induced inflection point, and then select one of the preset division patterns. The partition type of the current block can be determined.
  • the encoding apparatus encodes information on whether to use the multi intra prediction mode (that is, whether to perform intra prediction by dividing a current block into a plurality of partial blocks) and then encodes the information encoded through the bitstream.
  • the decoding apparatus may split the current block into a plurality of partial blocks only when the information is encoded and the information indicates that the current block is divided into a plurality of partial blocks to perform intra prediction.
  • the encoding apparatus may determine an intra prediction mode for each partial block included in the current block (S603). In this case, the encoding apparatus may allocate different intra prediction modes to each partial block.
  • the encoding apparatus determines an intra prediction mode of each partial block included in the current block based on an RD-cost value calculated by performing RDO (Rate Distortion Optimization) for each partial prediction mode for the partial block. You can decide. For example, the encoding apparatus may determine, as an intra prediction mode of each partial block, an intra prediction mode in which an RD-cost value is minimum for each partial block included in the current block.
  • RDO Rate Distortion Optimization
  • the encoding apparatus may calculate the RD-cost value for all available intra prediction modes, and may calculate the RD-cost value for some intra prediction modes.
  • Some intra prediction modes may be set and used in the same manner in the image encoding apparatus and the image decoding apparatus.
  • some intra prediction modes may include only intra prediction modes using only reference pixels adjacent to the current block.
  • some intra prediction modes may include at least one of an intra prediction mode of a neighboring block adjacent to the current block and a preset additional intra prediction mode.
  • the RDO may be selected based on all the non-directional modes and some directional prediction modes with high selection frequency (eg, vertical prediction mode, horizontal prediction mode, etc.). Can be done.
  • the intra prediction mode of the neighboring block is a directional mode
  • an intra prediction mode having a similar direction to all the anisotropic prediction modes, the intra prediction mode of the neighboring block, and the intra prediction mode of the neighboring block (eg, the intra prediction mode of the neighboring block).
  • RDO may be performed using an intra prediction mode) having a difference of less than or equal to a threshold value and the like as a candidate.
  • the encoding apparatus may perform intra prediction on the current block by using the selected intra prediction mode. At this time, if the current block is divided into partial blocks by diagonal lines, the division lines do not coincide with the pixel boundary, and thus overlapping pixels (ie, overlapping regions) between the partial blocks may appear.
  • FIG. 23 is a diagram illustrating an example in which a duplicate area is generated according to a division type of a current block.
  • the prediction values of pixels included in the overlapping regions may be obtained through an average of prediction values generated as a result of intra prediction of the partial blocks including the overlapping regions or linear interpolation of the prediction values.
  • a prediction value of a pixel commonly included in the first partial block and the second partial block may determine an intra prediction mode of the first partial block.
  • An average value between the first prediction value calculated using the first prediction value and the second prediction value calculated using the intra prediction mode of the second partial block, or a linear interpolation of the first prediction value and the second prediction value may be determined.
  • the prediction value of the pixel included in the overlapped region may be generated using an intra prediction mode of any one of the partial blocks including the overlapped region.
  • which of the partial blocks may be used may be determined based on a preset priority among the partial blocks, a preset priority between the intra prediction modes, or a position of a pixel included in the overlapped region.
  • the predicted value of the pixel included in the overlapped region may be generated using a higher priority among intra prediction modes of the partial blocks including the overlapped region.
  • the intra prediction mode of the partial blocks is divided into a main prediction mode and a sub prediction mode.
  • the primary prediction mode may indicate an intra prediction mode of one of the partial blocks
  • the secondary prediction mode may indicate an intra prediction mode of the other one of the partial blocks.
  • the main prediction mode and the sub prediction mode may be determined according to the priority of the intra prediction mode, the size of the partial block, the position of the partial block, or the size of the partial block.
  • the sub prediction mode may be determined as an intra prediction mode that is different from the main prediction mode.
  • the encoding apparatus may encode motion information for multi intra prediction (S1101).
  • the multi-mode operation information indicates whether it is optimal to use a single intra prediction mode or a plurality of intra prediction modes for the current block.
  • the encoding apparatus may encode the intra prediction mode determined as the main prediction mode (S1103), and then encode the intra prediction mode determined as the sub prediction mode (S1104).
  • the main prediction mode may be encoded through an encoding process using a Most Probable Mode (MPM) candidate, or may be encoded without using an MPM candidate.
  • the sub prediction mode may be encoded through an encoding process using an MPM candidate, or may be encoded without using an MPM candidate.
  • the encoding apparatus may encode a difference value between the main prediction mode and the sub prediction mode.
  • the encoding apparatus may encode the main prediction mode using the MPM candidate as the main prediction mode, and may encode a difference value between the main prediction mode and the sub prediction mode.
  • the decoding apparatus may derive the main prediction mode using the MPM candidate, and obtain the sub prediction mode through the difference value between the main prediction mode and the sub prediction mode.
  • the encoding apparatus may encode a single intra prediction mode for the current block (S1105).
  • the encoding apparatus may encode the intra prediction mode for the current block by using the MPM candidate.
  • the intra prediction mode of the current block may mean any one of a main prediction mode, a sub prediction mode, or a single prediction mode.
  • the encoding apparatus may determine an MPM candidate for a current block (S1201).
  • the encoding apparatus may determine the MPM candidate of the current block based on the intra prediction modes of neighboring blocks neighboring the current block.
  • FIG. 26 is a diagram illustrating determining an MPM candidate of a current block.
  • L is an intra prediction mode with the highest frequency of use among intra prediction modes of left neighboring blocks adjacent to the left side of the current block
  • A is a frequency of use among intra prediction modes of upper peripheral blocks adjacent to the top of the current block. Represents the highest intra prediction mode.
  • L may represent the intra prediction mode of the left neighboring block of the specific position
  • A may represent the intra prediction mode of the upper neighboring block of the specific position.
  • the three MPM candidates of the current block there are three MPM candidates of the current block, and the three MPM candidates are intra prediction modes (ie, L-1, L + 1) and non-directional modes (Planar, DC) in directions similar to L, A, and L. And at least one of a preset directional mode (vertical direction mode).
  • the MPM candidate of the current block may be generated by a method different from that shown.
  • the MPM candidates of the current block may include more than three.
  • the MPM candidate of the current block may be determined in consideration of all of the multi intra prediction modes of the neighboring block, and only one of the multi intra prediction modes of the neighboring block is determined. It may be determined in consideration of. For example, the MPM candidate of the current block may be determined in consideration of the main prediction mode among the multi intra prediction modes of the neighboring block.
  • the MPM candidate for the main prediction mode of the current block may be determined using the main prediction mode of the neighboring block, and the MPM candidate for the sub prediction mode of the current block may be determined using the sub prediction mode of the neighboring block.
  • the encoding apparatus may determine whether the same MPM candidate as the intra prediction mode of the current block exists, and may encode motion information according to the determination result (S1202).
  • the operation information may be a 1-bit flag (eg, an MPM flag).
  • the encoding apparatus encodes the MPM flag as 'true', and when the same MPM candidate as the intra prediction mode of the current block does not exist, the encoding apparatus
  • the MPM flag may be encoded as 'false'.
  • the encoding apparatus may encode index information for specifying the same MPM candidate as the intra prediction mode of the current block (S1204).
  • the encoding apparatus may encode a residual mode indicating an optimal intra prediction mode for the current block among the remaining intra prediction modes except for the MPM candidate. (S1205).
  • the encoding apparatus may encode the residual mode by allocating bits as many as the remaining intra prediction modes after subtracting the number of MPM candidates from all intra prediction modes (or intra prediction modes available to the current block).
  • the residual mode for the sub prediction mode may be encoded based on the residual intra prediction mode except for the MPM candidate and the main prediction mode.
  • 27 is a flowchart illustrating a method of decoding an intra prediction mode of a current block.
  • a decoding apparatus may decode multi-mode operation information from a bitstream (S1401).
  • the multi-mode operation information indicates whether the current block is encoded using the multi intra prediction mode.
  • the decoding apparatus may split the current block into a plurality of partial blocks.
  • the decoding apparatus may split the current block based on the block division pattern information signaled from the encoding apparatus, calculate the inflection point and the slope, and then select the division pattern corresponding to the calculated inflection point and the slope, and select the current block. You can also divide.
  • the decoding apparatus may decode the main prediction mode for the current block (S1403), and then decode the sub prediction mode (S1404).
  • the main prediction mode or the sub prediction mode may be decoded using the MPM candidate, or may be decoded without using the MPM candidate.
  • the sub prediction mode may be obtained based on the difference value between the main prediction mode and the sub prediction mode.
  • the decoding apparatus may decode a single intra prediction mode for the current block (S1405).
  • the single intra prediction mode for the current block may be decoded using the MPM candidate.
  • the intra prediction mode of the current block may mean any one of a main prediction mode, a sub prediction mode, or a single prediction mode.
  • the decoding apparatus may determine an MPM candidate for the current block (S1501).
  • the decoding apparatus may determine the MPM candidate based on the intra prediction modes of neighboring blocks neighboring the current block. Generating the MPM candidate of the current block has been described in detail with reference to FIG. 26, and thus detailed description thereof will be omitted at this stage.
  • the decoding apparatus may decode information indicating whether the same MPM candidate as the intra prediction mode of the current block exists (S1502).
  • the information may be a 1-bit flag, but is not limited thereto.
  • the decoding apparatus may decode information (eg, MPM index information) that specifies the same MPM candidate as the intra prediction mode of the current block. (S1504).
  • the intra prediction mode of the current block may be determined as the intra prediction mode specified by the MPM index information.
  • the decoding apparatus decodes the residual mode information (S1505) and based on the decoded residual mode information, Intra prediction mode may be determined.
  • the residual mode information may be encoded except for an MPM candidate among intra prediction modes available to the current block.
  • Exemplary methods of the present disclosure are represented as a series of operations for clarity of description, but are not intended to limit the order in which the steps are performed, and each step may be performed simultaneously or in a different order as necessary.
  • the illustrated step may further include other steps, may include other steps except some, or may include additional other steps except some.
  • various embodiments of the present disclosure may be implemented by hardware, firmware, software, or a combination thereof.
  • one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), Programmable Logic Devices (PLDs), Field Programmable Gate Arrays (FPGAs), General Purpose It may be implemented by a general processor, a controller, a microcontroller, a microprocessor, and the like.
  • scope of the disclosure include software or machine-executable instructions (eg, an operating system, an application, firmware, a program, etc.) to cause an operation in accordance with various embodiments of the method to be executed on an apparatus or a computer, and such software or Instructions, and the like, including non-transitory computer-readable media that are stored and executable on a device or computer.
  • software or machine-executable instructions eg, an operating system, an application, firmware, a program, etc.
  • the present invention can be used to encode / decode an image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 영상 신호 복호화 방법은, 현재 블록이 다중 인트라 예측 모드를 이용하여 부호화되었는지 여부를 나타내는 정보를 복호화하는 단계, 상기 현재 블록이 다중 인트라 예측 모드로 부호화된 것으로 판단되는 경우, 상기 현재 블록을 복수의 부분 블록으로 분할하는 단계, 및 상기 복수의 부분 블록 각각의 인트라 예측 모드를 획득하는 단계를 포함한다.

Description

영상 신호 부호화/복호화 방법 및 장치
본 발명은 영상 신호 부호화/복호화 방법 및 장치에 관한 것이다.
최근, 인터넷에서는 동영상과 같은 멀티미디어 데이터의 수요가 급격히 증가하고 있다. 하지만 채널(Channel)의 대역폭(Bandwidth)이 발전하는 속도는 급격히 증가하고 있는 멀티미디어 데이터의 양을 따라가기 힘든 상황이다.
본 발명은 영상을 부호화/복호화함에 있어서, 다중 인트라 예측 모드를 이용함으로써 영상의 압축 효율을 향상시키는 것에 주된 목적이 있다.
본 발명은 영상을 부호화/복호화함에 있어서, 부호화/복호화 대상 블록의 다중 인트라 예측 모드를 효율적으로 부호화/복호화 함으로써, 영상의 압축 효율을 향상시키는 것에 주된 목적이 있다.
본 발명은 부분 블록 내 계수들을 효율적으로 부호화/복호화 함으로써, 영상의 압축 효율을 향상시키는데 주된 목적이 있다.
본 발명에 따른 영상 신호 복호화 방법 및 장치는, 현재 블록이 다중 인트라 예측 모드를 이용하여 부호화되었는지 여부를 나타내는 정보를 복호화하고, 상기 현재 블록이 다중 인트라 예측 모드로 부호화된 것으로 판단되는 경우, 상기 현재 블록을 복수의 부분 블록으로 분할하고, 상기 복수의 부분 블록 각각의 인트라 예측 모드를 획득할 수 있다.
본 발명에 따른 영상 신호 복호화 방법 및 장치는, 상기 현재 블록을 복수의 부분 블록으로 분할할 때, 상기 현재 블록 주변의 주변 화소들 중 변곡점을 결정하고, 상기 변곡점 주변 복수 화소들을 기초로 기울기 정보를 획득하고, 상기 변곡점 및 상기 기울기 정보를 기초로, 상기 현재 블록의 분할 형태를 결정할 수 있다.
본 발명에 따른 영상 신호 복호화 방법 및 장치에 있어서, 상기 변곡점은, 상기 주변 화소들 각각의 변곡값을 기초로 결정되고, 상기 변곡값은, 주변 화소에 이웃하는 이웃 화소들 사이의 차분값에 기초하여 생성될 수 있다.
본 발명에 따른 영상 신호 복호화 방법 및 장치는, 상기 복수의 부분 블록 각각의 인트라 예측 모드를 획득할 때, 제1 부분 블록의 제1 인트라 예측 모드를 획득하고, 상기 제1 인트라 예측 모드 및 제2 부분 블록의 제2 인트라 예측 모드 사이의 차분값을 복호화하고, 상기 차분값에 기초하여, 상기 제2 인트라 예측 모드를 획득할 수 있다.
본 발명에 따른 영상 신호 복호화 방법 및 장치에 있어서, 상기 복수의 부분 블록 각각의 인트라 예측 모드는 상이한 값을 가질 수 있다.
본 발명에 따른 영상 신호 부호화 방법 및 장치는, 현재 블록이 다중 인트라 예측 모드로 부호화되었는지 여부를 판단하고, 상기 판단 결과를 기초로, 상기 현재 블록이 다중 인트라 예측 모드를 이용하는지 여부를 나타내는 정보를 부호화하고, 상기 현재 블록이 다중 인트라 예측 모드를 이용하도록 설정된 경우, 상기 현재 블록을 복수의 부분 블록으로 분할하고, 상기 복수의 부분 블록 각각의 인트라 예측 모드를 결정할 수 있다.
본 발명에 따른 영상 신호 부호화 방법 및 장치는,상기 현재 블록을 복수의 부분 블록으로 분할할 때, 상기 현재 블록 주변의 주변 화소들 중 변곡점을 결정하고, 상기 변곡점 주변 복수 화소들을 기초로 기울기 정보를 획득하고, 상기 변곡점 및 상기 기울기 정보를 기초로, 상기 현재 블록의 분할 형태를 결정할 수 있다.
본 발명에 따른 영상 신호 부호화 방법 및 장치에 있어서, 상기 변곡점은, 상기 주변 화소들 각각의 변곡값을 기초로 결정되고, 상기 변곡값은, 주변 화소에 이웃하는 이웃 화소들 사이의 차분값에 기초하여 생성될 수 있다.
본 발명에 따른 영상 신호 부호화 방법 및 장치는, 상기 복수의 부분 블록 중 제1 부분 블록의 제1 인트라 예측 모드를 결정하고, 상기 복수의 부분 블록 중 제1 부분 블록의 제2 인트라 예측 모드를 결정하고, 상기 제1 인트라 예측 모드 및 상기 제2 인트라 예측 모드 사이의 차분값을 부호화할 수 있다.
본 발명에 따른 영상 신호 부호화 방법 및 장치에 있어서, 상기 복수의 부분 블록 각각의 인트라 예측 모드는 상이한 값을 가질 수 있다.
본 발명에 따르면, 다중 인트라 예측 모드를 이용함으로써, 영상의 압축 효율을 향상시킬 수 있다.
본 발명에 따르면, 부호화/복호화 대상 블록의 다중 인트라 예측 모드를 효율적으로 부호화/복호화함으로써, 영상의 압축 효율을 향상시킬 수 있다.
본 발명에 따르면, 변환 블록의 계수를 효율적으로 부호화/복호화 함으로써, 영상의 압축 효율을 향상시킬 수 있다.
도 1은 본 발명의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 2는 본 발명의 일실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 3은 DC 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
도 4는 플래너 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
도 5는 방향성 예측 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
도 6은 본 발명이 적용되는 일실시예로서, 변환 블록의 계수를 부호화하는 방법을 도시한 것이다.
도 7은 본 발명이 적용되는 일실시예로서, 부분 블록의 계수의 최대값을 부호화하는 방법을 도시한 것이다.
도 8은 본 발명이 적용되는 일실시예로서, 부분 블록에 관한 제1 임계값 플래그를 부호화하는 방법을 도시한 것이다.
도 9는 본 발명이 적용되는 일실시예로서, 변환 블록의 계수를 복호화하는 방법을 도시한 것이다.
도 10은 본 발명이 적용되는 일실시예로서, 부분 블록의 계수의 최대값을 복호화하는 방법을 도시한 것이다.
도 11은 본 발명이 적용되는 일실시예로서, 부분 블록에 관한 제1 임계값 플래그를 복호화하는 방법을 도시한 것이다.
도 12는 본 발명이 적용되는 일실시예로서, 현재 부분 블록에 관한 제1/제2 임계값 플래그를 유도하는 방법을 도시한 것이다.
도 13은 본 발명이 적용되는 일실시예로서, 병합 플래그를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
도 14는 본 발명이 적용되는 일실시예로서, 분할 플래그를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
도 15는 본 발명이 적용되는 일실시예로서, 분할 색인 정보를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
도 16은 본 발명이 적용되는 일실시예로서, 넌-제로 계수의 위치를 기반으로 변환 블록을 분할하는 방법을 도시한 것이다.
도 17은 본 발명이 적용되는 일실시예로서, 변환 블록의 일부 영역을 선택적으로 분할하는 방법을 도시한 것이다.
도 18은 본 발명이 적용되는 일실시예로서, 주파수 도메인에서 DC/AC 성분의 속성을 기반으로 변환 블록을 분할하는 방법을 도시한 것이다.
도 19는 부호화 과정에서 다중 인트라 예측 모드의 이용 여부를 결정하는 과정을 나타낸 흐름도이다.
도 20은 변곡점을 탐색하는 예를 설명하기 위한 도면이다.
도 21은 현재 블록의 형태에 따른 분할 형태를 예시한 도면이다.
도 22는 주변 화소의 기울기 정보를 계산하는 예를 설명하기 위한 도면이다.
도 23은 현재 블록의 분할 형태에 따라, 중복 영역이 발생되는 예를 나타낸 도면이다.
도 24는 부분 블록의 인트라 예측 모드를 부호화하는 과정을 나타낸 흐름도이다.
도 25는 MPM 후보를 이용하여, 인트라 예측 모드를 부호화하는 방법을 나타낸 흐름도이다.
도 26은 현재 블록의 MPM 후보를 결정하는 것을 예시한 도면이다.
도 27은 현재 블록의 인트라 예측 모드를 복호화하는 방법을 나타낸 흐름도이다.
도 28은 MPM 후보를 이용하여 현재 블록의 인트라 예측 모드를 복호화하는 과정을 나타낸 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 영상 부호화 장치(100)는 픽쳐 분할부(110), 예측부(120, 125), 변환부(130), 양자화부(135), 재정렬부(160), 엔트로피 부호화부(165), 역양자화부(140), 역변환부(145), 필터부(150) 및 메모리(155)를 포함할 수 있다.
도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
픽쳐 분할부(110)는 입력된 픽쳐를 적어도 하나의 블록으로 분할할 수 있다. 이때, 블록은 부호화 단위(CU), 예측 단위(PU) 또는 변환 단위(TU)를 의미할 수 있다. 상기 분할은 쿼드 트리(Quadtree) 또는 바이너리 트리(Biniary tree) 중 적어도 하나에 기반하여 수행될 수 있다. 쿼드 트리는 상위 블록을 너비와 높이가 상위 블록의 절반인 하위 블록으로 사분할하는 방식이다. 바이너리 트리는 상위 블록을 너비 또는 높이 중 어느 하나가 상위 블록의 절반인 하위 블록으로 이분할하는 방식이다. 전술한 바이너리 트리 기반의 분할을 통해, 블록은 정방형뿐만 아니라 비정방형의 형태를 가질 수 있다.
이하, 본 발명의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다.
예측부(120, 125)는 인터 예측을 수행하는 인터 예측부(120)와 인트라 예측을 수행하는 인트라 예측부(125)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 모션 벡터, 참조 픽쳐 등)를 결정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 예측 단위로 결정되고, 예측의 수행은 변환 단위로 수행될 수도 있다.
부호화 장치는, 원본 블록과 예측 블록을 뺀 잔차 블록에 대한 율-왜곡 최적화(RDO: Rate-Distortion Optimization) 등을 수행하는 등 다양한 기법을 이용하여 부호화 블록에 대한 최적 예측 모드를 결정할 수 있다. 일 예로, RDO는 하기 수학식 1에 의해 결정될 수 있다.
Figure PCTKR2017004576-appb-M000001
상기 수학식 1에서, D는 양자화에 의한 열화, R은 압축 스트림의 레이트, J는 RD 비용을 나타낸다. 또한, Φ는 부호화 모드, λ는 라그랑지안 승수(Lagranginan multiplier)를 나타낸다. λ는 에러의 양과 비트량 간의 단위를 일치시키기 위한 스케일 보정용 계수로 이용될 수 있다. 부호화 과정에서 부호화 장치는, RD 비용값이 최소인 모드를 부호화 블록에 대한 최적 모드로 결정할 수 있다. 이때, RD-비용값은, 비트율과 에러를 동시에 고려하여 계산한다.
인트라 예측 모드 중, 비방향성 예측 모드(또는 비각도 예측 모드)인 DC 모드는 현재 블록의 주변 화소들의 평균값을 이용하는 것이다. 도 3은 DC 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
예측 블록에 주변 화소들의 평균값을 채워 넣은 뒤, 예측 블록의 경계에 위치하는 화소들에 대해 필터링을 수행할 수 있다. 일 예로, 예측 블록의 좌측 또는 상단 경계에 위치하는 화소들에는, 주변 참조 화소들과의 가중합 필터링이 적용될 수 있다. 일 예로, 수학식 2는 구역별 DC 모드를 통한 예측 화소를 생성하는 예를 나타낸 도면이다. 하기 수학식 1에서, R1, R2, R3 영역은, 예측 블록의 최외각(즉, 경계)에 위치하는 영역으로, 상기 영역에 포함된 화소들에는 가중합 필터링이 적용될 수 있다.
Figure PCTKR2017004576-appb-M000002
수학식 2의 Wid는 예측 블록의 가로 길이, Hei는 예측 블록의 세로 길이를 의미한다. x, y는 예측 블록의 맨 왼쪽 상단 지점을 (0,0)으로 정하였을 때의 각 예측 화소 별 좌표 위치를 의미한다. R은 주변 화소를 의미한다. 일 예로, 도 3에 도시된 s화소를 R[-1][-1]로 정의할 경우, a화소부터 i화소 까지는 R[0][-1]~R[8][-1]로 나타내고 j화소부터 r화소까지는 R[-1][0]~R[-1][8]로 나타낼 수 있다. 도 3에 도시된 예에서, R1~R4 구역 별로 수학식 2와 같이 가중합 필터링 방식에 따라 예측 화소값 Pred를 구하게 된다.
비방향성 모드 중 플래너(Planar) 모드는, 현재 블록 주변 화소들을 거리에 따라 선형 보간하여, 현재 블록의 예측 화소를 생성하는 방법이다. 일 예로, 도 4는 플래너 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
예를 들어서 8x8 부호화 블록에서 도 4에 도시된 Pred를 예측 하고자 하는 경우를 가정한다. 이 경우, Pred의 위쪽에 있는 화소 e화소와 왼쪽 아래에 있는 r화소를 Pred의 맨 아래쪽에 복사 하여 세로 방향으로 거리에 따른 선형 보간 방식으로 세로 예측 값을 구할 수 있다. 또한, Pred의 왼쪽에 있는 n화소와 위쪽 오른편에 있는 i화소를 Pred의 맨 오른쪽에 복사 하여 가로 방향으로 거리에 따른 선형 보간 방식으로 가로 예측 값을 구할 수 있다. 이후, 가로 세로 예측 값의 평균값을 Pred의 값으로 정할 수 있다. 수학식 3은 플래너 모드 하에서, 예측값 Pred를 구하는 과정을 수식으로 표현한 것이다.
Figure PCTKR2017004576-appb-M000003
수학식 3의 Wid는 예측 블록의 가로 길이, Hei는 예측 블록의 세로 길이를 의미한다. x, y는 예측 블록의 맨 왼쪽 상단 지점을 (0, 0)으로 정하였을 때의 각 예측 화소 별 좌표 위치를 의미한다. R은 주변 화소를 의미한다. 일 예로, 도 4에 도시된 s화소를 R[-1][-1]로 정의할 경우, a화소부터 i화소 까지는 R[0][-1]~R[8][-1]로 나타내고 j화소부터 r화소까지는 R[-1][0]~R[-1][8]로 나타낼 수 있다.
도 5는 방향성 예측 모드를 이용한 인트라 예측 방법을 설명하기 위한 도면이다.
방향성 예측 모드(또는 각도 예측 모드)는 현재 블록의 주변 화소들 중, 미리 정해 놓은 N가지 방향 중 어느 하나의 방향에 위치하는 적어도 하나 이상의 화소를 예측 샘플로 생성하는 방식이다.
방향성 예측 모드는, 가로 방향 모드와 세로 방향 모드를 포함할 수 있다. 여기서, 가로 방향 모드란 좌상단으로 45도 방향을 향하는 각도 예측 모드보다 가로 방향성이 큰 모드들을 의미하고, 세로 방향 모드란 좌상단으로 45도 방향을 향하는 각도 예측 모드 보다 세로 방향성이 큰 모드들을 의미한다. 좌상단으로 45도 방향으로 향하는 예측 방향을 갖는 방향성 예측 모드는, 가로 방향 모드로 취급될 수도 있고, 세로 방향 모드로 취급될 수도 있다. 도 5에, 가로 방향 모드 및 세로 방향 모드가 도시되어 있다.
도 5를 참조하면, 각 방향 별로 정수 화소 부분에 부합이 안 되는 방향도 있는데, 이런 경우는 주변 화소와 화소 사이를 거리에 따른 선형 보간 방식이나 DCT-IF 방식, Cubic convolution 보간 방식 등 다양한 보간 방식을 이용하여 보간을 한 후, 그 화소 값을 예측 블록 방향에 부합하는 화소 위치에 넣을 수 있다.
생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록 또는 변환 블록)은 변환부(130)로 입력될 수 있다. 잔차 블록은 변환 및 양자화 과정을 위한 최소 단위이다. 부호화 블록의 분할 방식이 변환 블록에도 적용될 수 있다. 일 예로, 변환 블록은 4개 또는 2개의 부분 블록으로 분할될 수 있다.
예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(165)에서 부호화되어 복호화기에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(120, 125)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.
인터 예측부(120)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 단위를 예측할 수도 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 단위를 예측할 수도 있다. 인터 예측부(120)는 참조 픽쳐 보간부, 모션 예측부, 움직임 보상부를 포함할 수 있다.
참조 픽쳐 보간부에서는 메모리(155)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
모션 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 모션 예측을 수행할 수 있다. 모션 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 모션 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 모션 벡터값을 가질 수 있다. 모션 예측부에서는 모션 예측 방법을 다르게 하여 현재 예측 단위를 예측할 수 있다. 모션 예측 방법으로 스킵(Skip) 방법, 머지(Merge) 방법, AMVP(Advanced Motion Vector Prediction) 방법 등 다양한 방법이 사용될 수 있다.
부호화 장치는, 움직임 추정 또는 이웃 블록의 움직임 정보에 기초하여 현재 블록의 움직임 정보를 생성할 수 있다. 여기서, 움직임 정보는, 움직임 벡터, 참조 영상 인덱스 및 예측 방향 중 적어도 하나를 포함할 수 있다.
인트라 예측부(125)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 단위를 생성할 수 있다. 현재 예측 단위의 주변 블록이 인터 예측을 수행한 블록이어서, 참조 픽셀이 인터 예측을 수행한 픽셀일 경우, 인터 예측을 수행한 블록에 포함되는 참조 픽셀을 주변의 인트라 예측을 수행한 블록의 참조 픽셀 정보로 대체하여 사용할 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.
인트라 예측에서 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드가 상이할 수 있고, 색차 정보를 예측하기 위해 휘도 정보를 예측하기 위해 사용된 인트라 예측 모드 정보 또는 예측된 휘도 신호 정보를 활용할 수 있다.
인트라 예측 방법은 예측 모드에 따라 참조 화소에 AIS(Adaptive Intra Smoothing) 필터를 적용한 후 예측 블록을 생성할 수 있다. 참조 화소에 적용되는 AIS 필터의 종류는 상이할 수 있다. 인트라 예측 방법을 수행하기 위해 현재 예측 단위의 인트라 예측 모드는 현재 예측 단위의 주변에 존재하는 예측 단위의 인트라 예측 모드로부터 예측할 수 있다. 주변 예측 단위로부터 예측된 모드 정보를 이용하여 현재 예측 단위의 예측 모드를 예측하는 경우, 현재 예측 단위와 주변 예측 단위의 인트라 예측 모드가 동일하면 소정의 플래그 정보를 이용하여 현재 예측 단위와 주변 예측 단위의 예측 모드가 동일하다는 정보를 전송할 수 있고, 만약 현재 예측 단위와 주변 예측 단위의 예측 모드가 상이하면 엔트로피 부호화를 수행하여 현재 블록의 예측 모드 정보를 부호화할 수 있다.
또한, 예측부(120, 125)에서 생성된 예측 단위를 기초로 예측을 수행한 예측 단위와 예측 단위의 원본 블록과 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력될 수 있다.
변환부(130)에서는 잔차 신호를 주파수 영역으로 변환하여 변환 계수를 갖는 잔차 블록(또는 변환 블록)을 생성한다. 여기서 잔차 신호를 주파수 영역으로 변환하기 위해, 이산 코사인 변환(DCT: Discrete Cosine Transform)기반 변환, 이산 사인 변환(DST: Discreate Sine Transform), KLT(Karhunen Loeve Transform) 등 다양한 변환 기법이 이용될 수 있다. 변환 기법을 편하게 사용하기 위해 기저벡터(basis vector)를 이용하여 행렬 연산을 하게 된다. 이때, 예측 블록이 어떤 예측 모드로 부호화 되었는지에 따라서 행렬 연산 시 변환 기법들을 다양하게 혼합하여 사용할 수도 있다. 예를 들어, 인트라 예측 시 예측 모드에 따라 가로 방향으로는 이산 코사인 변환을 사용하고 세로 방향으로는 이산 사인 변환을 사용 할 수도 있다.
양자화부(135)는 변환부(130)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 즉, 양자화부(135)는 변환부(130)로부터 생성된 변환 블록의 변환 계수들을 양자화하여, 양자화된 변환 계수를 갖는 양자화된 변환 블록을 생성할 수 있다. 여기서, 양자화 기법은, 데드존 균일 경계 양자화(DZUTQ: Dead Zone Uniform Threshold Quantization) 또는 양자화 가중치 행렬 (Quantization Weighted Matrix) 등을 포함할 수 있다. 이들 양자화 기법을 개량한 개량된 양자화 기법을 이용할 수도 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(135)에서 산출된 값은 역양자화부(140)와 재정렬부(160)에 제공될 수 있다.
상기 변환부(130) 및/또는 양자화부(135)는, 영상 부호화 장치(100)에 선택적으로 포함될 수 있다. 즉, 영상 부호화 장치(100)는, 잔차 블록의 잔차 데이터에 대해 변환 또는 양자화 중 적어도 하나를 수행하거나, 변환 및 양자화를 모두 스킵하여 잔차 블록을 부호화할 수 있다. 영상 부호화 장치(100)에서 변환 또는 양자화 중 어느 하나가 수행되지 않거나, 변환 및 양자화 모두 수행되지 않더라도, 엔트로피 부호화부(165)의 입력으로 들어가는 블록을 통상적으로 변환 블록(또는 양자화된 변환 블록)이라 일컫는다.
재정렬부(160)는 양자화된 잔차값에 대해 계수값의 재정렬을 수행할 수 있다.
재정렬부(160)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(160)에서는 소정의 스캔 타입을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다.
엔트로피 부호화부(165)는 재정렬부(160)에 의해 산출된 값들을 기초로 엔트로피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160) 및 예측부(120, 125)로부터 부호화 단위의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 단위 정보 및 전송 단위 정보, 모션 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다. 엔트로피 부호화부(165)에서, 변환 블록의 계수는, 변환 블록 내 부분 블록 단위로, 0이 아닌 계수, 절대값이 1 또는 2보다 큰 계수, 그리고 계수의 부호 등을 나타내는 여러 종류의 플래그를 부호화될 수 있다. 상기 플래그만으로 부호화되지 않는 계수는, 플래그를 통해 부호화된 계수와 실제 변환 블록의 계수 간의 차이의 절대값을 통해 부호화될 수 있다. 변환 블록의 계수를 부호화하는 방법은 도 6을 참조하여 자세히 살펴 보도록 한다.
엔트로피 부호화부(165)에서는 재정렬부(160)에서 입력된 부호화 단위의 계수값을 엔트로피 부호화할 수 있다.
역양자화부(140) 및 역변환부(145)에서는 양자화부(135)에서 양자화된 값들을 역양자화하고 변환부(130)에서 변환된 값들을 역변환한다.
한편, 역양자화부(140)와 역변환부(145)는 양자화부(135)와 변환부(130)에서 사용한 양자화 방식과 변환 방식을 역으로 사용하여 역 양자화 및 역 변환 할 수 있다. 또한 변환부(130)와 양자화부(135)에서 양자화만을 수행하고 변환을 수행하지 않은 경우에는 역 양자화만을 수행하고 역 변환을 수행하지 않을 수 있다. 만약, 변환 및 양자화를 모두 수행하지 않은 경우, 역 양자화부(140)와역 변환부(145)도 역 변환 및 역 양자화를 모두 수행하지 않거나 영상 부호화 장치(100)에 포함되지 않고 생략 될 수 있다.
역양자화부(140) 및 역변환부(145)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 인트라 예측부를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(150)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다.
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위(Coding Unit, CU) 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.
메모리(155)는 필터부(150)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.
도 2는 본 발명의 일실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화기(200)는 엔트로피 복호화부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230, 235), 필터부(240), 메모리(245)가 포함될 수 있다.
영상 부호화기에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 영상 부호화기와 반대의 절차로 복호화될 수 있다.
엔트로피 복호화부(210)는 영상 부호화기의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다. 엔트로피 복호화부(210)에서, 변환 블록의 계수는, 변환 블록 내 부분 블록 단위로, 0이 아닌 계수, 절대값이 1 또는 2보다 큰 계수, 그리고 계수의 부호 등을 나타내는 여러 종류의 플래그를 기반으로 복호화될 수 있다. 상기 플래그만으로 표현되지 않는 계수는, 플래그를 통해 표현되는 계수와 시그날링된 계수의 합을 통해 복호화될 수 있다. 변환 블록의 계수를 복호화하는 방법은 도 9를 참조하여 자세히 살펴 보도록 한다.
엔트로피 복호화부(210)에서는 부호화기에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.
재정렬부(215)는 엔트로피 복호화부(210)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부(215)에서는 부호화부에서 수행된 계수 스캐닝에 관련된 정보를 제공받고 해당 부호화부에서 수행된 스캐닝 순서에 기초하여 역으로 스캐닝하는 방법을 통해 재정렬을 수행할 수 있다.
역양자화부(220)는 부호화기에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 역양자화된 변환 계수를 소정의 변환 방법으로 역변환을 수행할 수 있다. 이때, 변환 방법은 예측 방법(인터/인트라 예측), 블록의 크기/형태, 인트라 예측 모드 등에 관한 정보를 기반으로 결정될 수 있다.
예측부(230, 235)는 엔트로피 복호화부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(245)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
예측부(230, 235)는 예측 단위 판별부, 인터 예측부 및 인트라 예측부를 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(210)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 모션 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 인터 예측부(230)는 영상 부호화기에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 또는, 현재 예측 단위가 포함된 현재 픽쳐 내에서 기-복원된 일부 영역의 정보를 기초로 인터 예측을 수행할 수도 있다.
인터 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 모션 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode) 중 어떠한 방법인지 여부를 판단할 수 있다.
인트라 예측부(235)는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 단위가 인트라 예측을 수행한 예측 단위인 경우, 영상 부호화기에서 제공된 예측 단위의 인트라 예측 모드 정보를 기초로 인트라 예측을 수행할 수 있다. 인트라 예측부(235)에는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 부분으로써 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 결정하여 적용할 수 있다. 영상 부호화기에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
복원된 블록 또는 픽쳐는 필터부(240)로 제공될 수 있다. 필터부(240)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화기로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화기의 디블록킹 필터에서는 영상 부호화기에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화기에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.
ALF는 부호화기로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라메터 셋에 포함되어 제공될 수 있다.
메모리(245)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력부로 제공할 수 있다.
도 6은 본 발명이 적용되는 일실시예로서, 변환 블록의 계수를 부호화하는 방법을 도시한 것이다.
영상 부호화 장치에서, 변환 블록의 계수는 소정의 블록 단위(이하, 부분 블록이라 함)로 부호화될 수 있다. 변환 블록은 하나 또는 그 이상의 부분 블록으로 구성될 수 있다. 상기 부분 블록은 NxM 크기의 블록일 수 있다. 여기서, N과 M은 자연수이며, N과 M은 서로 동일하거나 상이할 수 있다. 즉, 부분 블록은 정방형 또는 비정방형의 블록일 수 있다. 부분 블록의 크기/형태는 영상 부호화 장치에 기-약속된 고정된 것(예를 들어, 4x4)일 수도 있고, 변환 블록의 크기/형태에 따라 가변적으로 결정될 수도 있다. 또는, 영상 부호화 장치는 부호화 효율을 고려하여 최적의 부분 블록의 크기/형태를 결정하고, 이를 부호화할 수도 있다. 상기 부호화된 부분 블록의 크기/형태에 관한 정보는 시퀀스, 픽쳐, 슬라이스 또는 블록 레벨 중 적어도 하나에서 시그날링될 수 있다.
영상 부호화 장치에서, 변환 블록에 속한 부분 블록을 부호화하는 순서는, 소정의 스캔 타입(이하, 제1 스캔 타입이라 함)에 따라 결정될 수 있다. 또한, 부분 블록에 속한 계수를 부호화하는 순서는 소정의 스캔 타입(이하, 제2 스캔 타입이라 함)에 따라 결정될 수 있다. 상기 제1 스캔 타입과 제2 스캔 타입은 동일할 수도 있고, 상이할 수도 있다. 상기 제1/제2 스캔 타입으로, 대각선 스캔, 수직 스캔, 수평 스캔 등이 이용될 수 있다. 다만, 이에 한정되지 아니하며, 소정의 각도를 가진 하나 또는 그 이상의 스캔 타입이 더 추가될 수도 있다. 상기 제1/제2 스캔 타입은 코딩 블록 관련 정보(예를 들어, 최대/최소 크기, 분할 기법 등), 변환 블록의 크기/형태, 부분 블록의 크기/형태, 예측 모드, 인트라 예측 관련 정보(예를 들어, 인트라 예측 모드의 값, 방향성, 각도 등) 또는 인터 예측 관련 정보 중 적어도 하나에 기초하여 결정될 수 있다.
영상 부호화 장치는, 변환 블록 내에서, 전술한 부호화 순서상 최초 0이 아닌 계수(이하, 넌-제로 계수라 함)의 위치 정보를 부호화할 수 있다. 상기 최초 0이 아닌 계수를 포함한 부분 블록부터 순차적으로 부호화가 수행될 수 있다. 이하, 도 6을 참조하여, 부분 블록의 계수를 부호화하는 과정을 살펴 보기로 한다.
현재 부분 블록에 관한 부분 블록 플래그가 부호화될 수 있다(S600). 상기 부분 블록 플래그는 부분 블록의 단위로 부호화될 수 있다. 상기 부분 블록 플래그는, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는지 여부를 나타낼 수 있다. 예를 들어, 상기 부분 블록 플래그가 제1 값인 경우, 상기 현재 부분 블록은 적어도 하나의 넌-제로 계수가 존재함을 나타내고, 부분 블록 플래그가 제2 값인 경우, 상기 현재 부분 블록의 모든 계수는 0임을 나타낼 수 있다.
현재 부분 블록에 관한 부분 블록 계수 플래그가 부호화될 수 있다(S610). 상기 부분 블록 계수 플래그는 계수 단위로 부호화될 수 있다. 상기 부분 블록 계수 플래그는, 계수가 넌-제로 계수인지 여부를 나타낼 수 있다. 예를 들어, 상기 계수가 넌-제로 계수인 경우, 상기 부분 블록 계수 플래그는 제1 값으로 부호화되고, 상기 계수가 0인 경우, 상기 부분 블록 계수 플래그는 제2 값으로 부호화될 수 있다. 상기 부분 블록 계수 플래그는 상기 부분 블록 플래그에 따라 선택적으로 부호화될 수도 있다. 예를 들어, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는 경우(즉, 부분 블록 플래그가 제1 값인 경우)에만, 부분 블록의 계수 별로 부호화될 수 있다.
계수의 절대값이 1보다 큰지 여부를 나타내는 플래그(이하, 제1 플래그라 함)를 부호화할 수 있다(S620). 상기 제1 플래그는, 상기 부분 블록 계수 플래그의 값에 따라 선택적으로 부호화될 수 있다. 예를 들어, 상기 계수가 넌-제로 계수인 경우(즉, 부분 블록 계수 플래그가 제1 값인 경우), 상기 계수의 절대값이 1보다 큰지 여부를 확인하여, 상기 제1 플래그를 부호화할 수 있다. 상기 계수의 절대값이 1보다 큰 경우, 상기 제1 플래그는 제1 값으로 부호화되고, 계수의 절대값이 1보다 크지 않은 경우, 상기 제1 플래그는 제2 값으로 부호화될 수 있다.
계수의 절대값이 2보다 큰지 여부를 나타내는 플래그(이하, 제2 플래그라 함)를 부호화할 수 있다(S630). 상기 제2 플래그는, 상기 제1 플래그의 값에 따라 선택적으로 부호화될 수 있다. 예를 들어, 상기 계수가 1보다 큰 경우(즉, 제1 플래그가 제1 값인 경우), 상기 계수의 절대값이 2보다 큰지 여부를 확인하여, 상기 제2 플래그를 부호화할 수 있다. 상기 계수의 절대값이 2보다 큰 경우, 상기 제2 플래그는 제1 값으로 부호화되고, 계수의 절대값이 2보다 크지 않은 경우, 상기 제2 플래그는 제2 값으로 부호화될 수 있다.
전술한 제1 플래그 또는 제2 플래그 중 적어도 하나의 개수는, 최소 1개에서 최대 (N*M)개일 수 있다. 또는, 제1 플래그 또는 제2 플래그 중 적어도 하나는 영상 부호화 장치에 기-약속된 고정된 개수(예를 들어, 1개, 2개 또는 그 이상)일 수 있다. 제1/제2 플래그의 개수는 입력 영상의 비트 뎁스, 영상 내 임의의 영역에서 원본 화소값의 범위(Dynamic range), 블록 크기/뎁스, 분할 기법(e.g., 쿼드 트리, 바이너리 트리), 변환 기법(e.g., DCT, DST), 변환 스킵 여부, 양자화 파라미터, 예측 모드(e.g., 인트라/인터 모드) 등에 따라 상이할 수 있다. 상기 제1/제2 플래그 외에, 계수의 절대값이 n보다 큰지 여부를 나타내는 제n 플래그가 추가적으로 부호화될 수도 있다. 여기서, n은 2보다 큰 자연수를 의미할 수 있다. 제n 플래그의 개수는 1개, 2개 또는 그 이상일 수 있으며, 전술한 제1/제2 플래그와 동일/유사한 방식으로 결정될 수 있다.
상기 현재 부분 블록 내에, 상기 제1/제2 플래그를 기반으로 부호화되지 않은 나머지 계수를 부호화할 수 있다(S640). 여기서, 상기 부호화는 계수값 자체를 부호화하는 과정일 수 있다. 상기 나머지 계수는 2와 같거나 클 수 있다. 상기 나머지 계수는, 상기 나머지 계수에 대한 부분 블록 계수 플래그, 제1 플래그 또는 제2 플래그 중 적어도 하나를 기반으로 부호화될 수 있다. 예를 들어, 상기 나머지 계수는, 상기 나머지 계수의 절대값에서 (부분 블록 계수 플래그+제1 플래그+제2 플래그)를 뺀 값으로 부호화될 수 있다.
부분 블록의 계수에 대한 부호(sign)를 부호화할 수 있다(S650). 상기 부호는, 계수 단위로, 플래그 형태로 부호화될 수 있다. 상기 부호는, 전술한 부분 블록 계수 플래그의 값에 따라 선택적으로 부호화될 수 있다. 예를 들어, 상기 부호는, 상기 계수가 넌-제로 계수인 경우(즉, 상기 부분 블록 계수 플래그가 제1 값인 경우)에만 부호화될 수 있다.
전술한 바와 같이, 상기 부분 블록의 계수의 절대값 각각은, 부분 블록 계수 플래그 부호화, 제1 플래그 부호화, 제2 플래그 부호화, 또는 나머지 계수 부호화 중 적어도 하나를 통해 부호화될 수 있다.
한편, 전술한 부분 블록의 계수 부호화는, 부분 블록에 속한 계수 값의 범위를 특정하는 과정을 더 수반할 수 있다. 상기 과정을 통해, 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는지 여부도 확인할 수 있다. 상기 과정은, 후술할 (A) 최대값의 부호화, (B) 제1 임계값 플래그의 부호화 또는 (C) 제2 임계값 플래그의 부호화 중 적어도 하나를 통해 구현될 수 있다. 상기 과정은, 전술한 S600 내지 S650 단계 중 어느 하나에 포함되어 구현될 수도 있고, S600 내지 S650 단계 중 적어도 하나와 대체되는 형태로 구현될 수도 있다. 이하, 도 7 내지 도 8을 참조하여, 부분 블록에 속한 계수 값의 범위를 특정하는 과정에 대해서 자세히 살펴 보기로 한다.
도 7은 본 발명이 적용되는 일실시예로서, 부분 블록의 계수의 최대값을 부호화하는 방법을 도시한 것이다.
도 7을 참조하면, 현재 부분 블록의 계수의 절대값 중 최대값을 부호화할 수 있다(S700). 상기 최대값을 통해, 현재 부분 블록에 속한 계수 값의 범위가 유추될 수 있다. 예를 들어, 상기 최대값이 m인 경우, 현재 부분 블록의 계수는 0 내지 m 범위에 속할 수 있다. 상기 최대값은, 전술한 부분 블록 플래그의 값에 따라 선택적으로 부호화될 수 있다. 예를 들어, 현재 부분 블록이 적어도 하나의 넌-제로 계수를 포함하는 경우(즉, 부분 블록 플래그가 제1 값인 경우)에만 부호화될 수 있다. 현재 부분 블록의 계수가 모두 0인 경우(즉, 부분 블록 플래그가 제2 값인 경우), 상기 최대값은 0으로 유도될 수 있다.
또한, 상기 최대값을 통해, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 포함되는지 여부를 판단할 수도 있다. 예를 들어, 상기 최대값이 0보다 큰 경우, 상기 현재 부분 블록은 적어도 하나의 넌-제로 계수를 포함하고, 상기 최대값이 0인 경우, 상기 현재 부분 블록의 모든 계수는 0일 수 있다. 따라서, 상기 최대값 부호화는, S600의 부분 블록 플래그의 부호화와 대체되어 수행될 수도 있다.
도 8은 본 발명이 적용되는 일실시예로서, 부분 블록에 관한 제1 임계값 플래그를 부호화하는 방법을 도시한 것이다.
본 발명의 제1 임계값 플래그는 부분 블록의 모든 계수가 소정의 임계값보다 작은지 여부를 나타낼 수 있다. 상기 임계값의 개수는 N개(N>=1)일 수 있고, 이 경우 임계값의 범위는 {T0, T1, T2,…,TN- 1}과 같이 표현될 수 있다. 여기서, 0번째 임계값인 T0은 최소값을, (N-1)번째 임계값인 TN-1은 최대값을 각각 의미하고, {T0, T1, T2,…,TN-1}는 임계값이 오름차순으로 배열된 것일 수 있다. 상기 임계값의 개수는, 영상 부호화 장치에 기-설정된 것일 수 있다. 영상 부호화 장치는, 부호화 효율을 고려하여 최적의 임계값의 개수를 결정하고, 이를 부호화할 수 있다.
상기 임계값은, 상기 최소값을 1로 설정하고, 최소값을 n씩(n>=1) 증가시켜서 획득될 수 있다. 상기 임계값은, 영상 부호화 장치에 기-설정된 것일 수 있다. 영상 부호화 장치는, 부호화 효율을 고려하여 최적의 임계값을 결정하고, 이를 부호화할 수 있다.
상기 임계값의 범위는, 양자화 파라미터(QP)에 따라 상이하게 결정될 수 있다. 상기 QP는, 시퀀스, 픽쳐, 슬라이스, 또는 변환 블록 중 적어도 하나의 레벨에서 설정된 것일 수 있다.
예를 들어, 상기 QP가 소정의 QP 임계치보다 큰 경우, 변환 블록 내 제로 계수의 분포가 많아질 것으로 예측할 수 있다. 이 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 부호화 과정을 생략하고, 전술한 S600 내지 S650 단계를 통해 부분 블록의 계수를 부호화할 수 있다.
반면, 상기 QP가 소정의 QP 임계치보다 작은 경우, 변환 블록 내 넌-제로 계수의 분포가 많아질 것으로 예측할 수 있다. 이 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, QP가 작은 경우의 임계값 범위는, QP가 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 QP 임계치의 개수는, 1개, 2개 또는 그 이상일 수 있다. QP 임계치는, 영상 부호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 QP 임계치는, 영상 부호화 장치에서 이용 가능한 QP의 범위 중 중앙값에 해당할 수 있다. 또는, 영상 부호화 장치에서 부호화 효율을 고려하여 최적의 QP 임계치를 결정하고, 이를 부호화할 수도 있다.
또는, 임계값의 범위는, 블록의 크기/형태에 따라 상이하게 결정될 수 있다. 여기서, 블록은 코딩 블록, 예측 블록, 변환 블록, 또는 부분 블록을 의미할 수 있다. 상기 크기는, 블록의 너비, 높이, 너비와 높이의 합, 또는 계수 개수 중 적어도 하나로 표현될 수 있다.
예를 들어, 블록의 크기가 소정의 임계크기보다 작은 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 부호화 과정을 생략하고, 전술한 S600 내지 S650 단계를 통해 부분 블록의 계수를 부호화할 수 있다. 반면, 블록의 크기가 소정의 임계크기보다 큰 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, 블록의 크기가 작은 경우의 임계값 범위는, 블록의 크기가 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 임계크기의 개수는, 1개, 2개 또는 그 이상일 수 있다. 상기 임계크기는, 영상 부호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 임계크기는 axb로 표현되며, 여기서 a와 b는 2, 4, 8, 16, 32, 64 또는 그 이상이고, a와 b는 동일하거나 상이할 수 있다. 또는, 영상 부호화 장치에서 부호화 효율을 고려하여 최적의 임계크기를 결정하고, 이를 부호화할 수도 있다.
또는, 상기 임계값의 범위는, 화소값 범위에 따라 상이하게 결정될 수 있다. 상기 화소값 범위는, 소정의 영역에 속하는 화소의 최대값 및/또는 최소값으로 표현될 수 있다. 이때, 소정의 영역은, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나를 의미할 수 있다.
예를 들어, 화소값 범위의 최대값과 최소값 간의 차이가, 소정의 임계 차이값보다 작은 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 부호화 과정을 생략하고, 전술한 S600 내지 S650 단계를 통해 부분 블록의 계수를 부호화할 수 있다. 반면, 상기 차이가 소정의 임계 차이값보다 큰 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, 상기 차이가 작은 경우의 임계값 범위는, 상기 차이 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 임계 차이값의 개수는, 1개, 2개 또는 그 이상일 수 있다. 상기 임계 차이값은 영상 부호화 장치에 기-설정된 것일 수 있다. 또는, 영상 부호화 장치에서 부호화 효율을 고려하여 최적의 임계 차이값을 결정하고, 이를 부호화할 수도 있다.
도 8을 참조하면, 현재 부분 블록 내 모든 계수의 절대값이 현재 임계값보다 작은지 여부를 판단할 수 있다(S800).
만일, 모든 계수의 절대값이 현재 임계값보다 작지 않은 경우, 제1 임계값 플래그를 "거짓"으로 부호화할 수 있다(S810). 이 경우, 상기 현재 임계값(i번째 임계값)은 다음 임계값((i+1)번째 임계값)으로 업데이트되고(S820), 업데이트된 현재 임계값을 기반으로, 전술한 S800 단계를 수행할 수 있다. 또는, 모든 계수의 절대값이 현재 임계값보다 작지 않은 경우, S810 단계의 제1 임계값 플래그 부호화 과정을 생략하고, 상기 현재 임계값을 다음 임계값으로 업데이트할 수도 있다.
상기 현재 임계값이 임계값의 최대값에 도달한 경우 또는 상기 임계값의 개수가 1개인 경우, 현재 임계값에 소정의 상수를 가산하여 현재 임계값을 업데이트할 수도 있다. 상기 소정의 상수는 1보다 크거나 같은 정수일 수 있다. 이때, 상기 업데이트는, 상기 제1 임계값 플래그가 "참"으로 부호화될 때까지 반복적으로 수행될 수도 있다. 상기 업데이트된 현재 임계값을 기반으로, 전술한 S800 단계를 수행할 수 있다. 또는, 현재 임계값이 임계값의 최대값에 도달한 경우 또는 상기 임계값의 개수가 1개인 경우, 상기 업데이트 과정이 종료될 수도 있다.
만일, 모든 계수의 절대값이 현재 임계값보다 작은 경우, 상기 제1 임계값 플래그를 "참"으로 부호화할 수 있다(S830).
전술한 바와 같이, i번째 임계값에 대한 제1 임계값 플래그가 "참"인 경우, 이는 부분 블록 내 모든 계수의 절대값이 i번째 임계값보다 작음을 나타낼 수 있다. 반면, i번째 임계값에 대한 제1 임계값 플래그가 "거짓"인 경우, 이는 부분 블록 내 모든 계수의 절대값이 i번째 임계값보다 크거나 같음을 나타낼 수 있다. 상기 "참"인 제1 임계값 플래그를 기반으로, 부분 블록에 속한 계수 값의 범위를 특정할 수 있다. 즉, i번째 임계값에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록에 속한 계수는 0 내지 (i번째 임계값-1) 범위에 속할 수 있다.
상기 부호화된 제1 임계값 플래그에 따라, 전술한 S600 내지 S650 단계 중 적어도 하나가 생략될 수 있다.
예를 들어, 임계값의 범위가 {3, 5}인 경우, 임계값 "3"에 대한 제1 임계값 플래그 또는 임계값 "5"에 대한 제1 임계값 플래그 중 적어도 하나가 부호화될 수 있다. 상기 임계값 "3"에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록 내 모든 계수의 절대값은 0 내지 2 범위에 속할 수 있다. 이 경우, 전술한 S630 또는 S640 단계 중 적어도 하나를 제외한 나머지 단계를 수행하여 부분 블록의 계수를 부호화하거나, S600, S630 또는 S640 단계 중 적어도 하나를 제외한 나머지 단계를 수행하여 부분 블록의 계수를 부호화할 수도 있다.
상기 임계값 "3"에 대한 제1 임계값 플래그가 "거짓"인 경우, 상기 임계값 "5"에 대한 제1 임계값 플래그가 부호화될 수 있다. 상기 임계값 "5"에 대한 제1 임계값 플래그가 "거짓"인 경우, 부분 블록 내 계수의 절대값 중 적어도 하나는 5보다 크거나 같을 수 있다. 이 경우, 전술한 S600 내지 S650 단계를 동일하게 수행하여, 부분 블록의 계수를 부호화할 수도 있고, S600 단계를 제외한 나머지 단계를 수행하여, 부분 블록의 계수를 부호화할 수도 있다.
반면, 상기 임계값 "5"에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록 내 모든 계수의 절대값이 0 내지 4 범위에 속할 수 있다. 이 경우, 전술한 S600 내지 S650 단계를 동일하게 수행하여, 부분 블록의 계수를 부호화할 수도 있고, S600 단계를 제외한 나머지 단계를 수행하여, 부분 블록의 계수를 부호화할 수도 있다.
한편, 현재 부분 블록의 제1 임계값 플래그는, 다른 부분 블록의 제1 임계값 플래그를 기반으로 유도될 수 있다. 이 경우, 제1 임계값 플래그 부호화 과정은 생략될 수 있으며, 이에 대해서는 도 14를 참조하여 살펴 보기로 한다.
도 9는 본 발명이 적용되는 일실시예로서, 변환 블록의 계수를 복호화하는 방법을 도시한 것이다.
영상 복호화 장치에서, 변환 블록의 계수는 소정의 블록 단위(이하, 부분 블록이라 함)로 복호화될 수 있다. 변환 블록은 하나 또는 그 이상의 부분 블록으로 구성될 수 있다. 상기 부분 블록은 NxM 크기의 블록일 수 있다. 여기서, N과 M은 자연수이며, N과 M은 서로 동일하거나 상이할 수 있다. 즉, 부분 블록은 정방형 또는 비정방형의 블록일 수 있다. 부분 블록의 크기/형태는 영상 복호화 장치에 기-약속된 고정된 것(예를 들어, 4x4)일 수도 있고, 변환 블록의 크기/형태에 따라 가변적으로 결정될 수도 있고, 시그날링되는 부분 블록의 크기/형태에 관한 정보를 기반으로 가변적으로 결정될 수도 있다. 상기 부분 블록의 크기/형태에 관한 정보는 시퀀스, 픽쳐, 슬라이스 또는 블록 레벨 중 적어도 하나에서 시그날링될 수 있다.
영상 복호화 장치에서, 변환 블록에 속한 부분 블록을 복호화하는 순서는, 소정의 스캔 타입(이하, 제1 스캔 타입이라 함)에 따라 결정될 수 있다. 또한, 부분 블록에 속한 계수를 복호화하는 순서는 소정의 스캔 타입(이하, 제2 스캔 타입이라 함)에 따라 결정될 수 있다. 상기 제1 스캔 타입과 제2 스캔 타입은 동일할 수도 있고, 상이할 수도 있다. 상기 제1/제2 스캔 타입으로, 대각선 스캔, 수직 스캔, 수평 스캔 등이 이용될 수 있다. 다만, 이에 한정되지 아니하며, 소정의 각도를 가진 하나 또는 그 이상의 스캔 타입이 더 추가될 수도 있다. 상기 제1/제2 스캔 타입은 코딩 블록 관련 정보(예를 들어, 최대/최소 크기, 분할 기법 등), 변환 블록의 크기/형태, 부분 블록의 크기/형태, 예측 모드, 인트라 예측 관련 정보(예를 들어, 인트라 예측 모드의 값, 방향성, 각도 등) 또는 인터 예측 관련 정보 중 적어도 하나에 기초하여 결정될 수 있다.
영상 복호화 장치는, 변환 블록 내에서, 전술한 복호화 순서상 최초 0이 아닌 계수(이하, 넌-제로 계수라 함)를 포함한 부분 블록의 위치 정보를 복호화할 수 있다. 상기 위치 정보에 따른 부분 블록부터 순차적으로 복호화를 수행할 수 있다. 이하, 도 9를 참조하여, 부분 블록의 계수를 복호화하는 과정을 살펴 보기로 한다.
현재 부분 블록에 관한 부분 블록 플래그가 복호화될 수 있다(S900). 상기 부분 블록 플래그는 부분 블록의 단위로 복호화될 수 있다. 상기 부분 블록 플래그는, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는지 여부를 나타낼 수 있다. 예를 들어, 상기 부분 블록 플래그가 제1 값인 경우, 상기 현재 부분 블록은 적어도 하나의 넌-제로 계수가 존재함을 나타내고, 부분 블록 플래그가 제2 값인 경우, 상기 현재 부분 블록의 모든 계수는 0임을 나타낼 수 있다.
현재 부분 블록에 관한 부분 블록 계수 플래그가 복호화될 수 있다(S910). 상기 부분 블록 계수 플래그는 계수 단위로 복호화될 수 있다. 상기 부분 블록 계수 플래그는, 계수가 넌-제로 계수인지 여부를 나타낼 수 있다. 예를 들어, 상기 부분 블록 계수 플래그가 제1 값인 경우, 상기 계수가 넌-제로 계수임을 나타내고, 상기 부분 블록 계수 플래그가 제2 값인 경우, 상기 계수가 0임을 나타낼 수 있다. 상기 부분 블록 계수 플래그는 상기 부분 블록 플래그에 따라 선택적으로 복호화될 수도 있다. 예를 들어, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는 경우(즉, 부분 블록 플래그가 제1 값인 경우)에만, 부분 블록의 계수 별로 복호화될 수 있다.
계수의 절대값이 1보다 큰지 여부를 나타내는 플래그(이하, 제1 플래그라 함)가 복호화될 수 있다(S920). 상기 제1 플래그는, 상기 부분 블록 계수 플래그의 값에 따라 선택적으로 복호화될 수 있다. 예를 들어, 상기 계수가 넌-제로 계수인 경우(즉, 부분 블록 계수 플래그가 제1 값인 경우), 상기 제1 플래그를 복호화하여, 상기 계수의 절대값이 1보다 큰지 여부를 확인할 수 있다. 상기 제1 플래그가 제1 값인 경우, 상기 계수의 절대값이 1보다 크고, 상기 제1 플래그가 제2 값인 경우, 상기 계수의 절대값이 1일 수 있다.
상기 계수의 절대값이 2보다 큰지 여부를 나타내는 플래그(이하, 제2 플래그라 함)가 복호화할 수 있다(S930). 상기 제2 플래그는, 상기 제1 플래그의 값에 따라 선택적으로 복호화될 수 있다. 예를 들어, 상기 계수가 1보다 큰 경우(즉, 제1 플래그가 제1 값인 경우), 상기 제2 플래그를 복호화하여, 상기 계수의 절대값이 2보다 큰지 여부를 확인할 수 있다. 상기 제2 플래그가 제1 값인 경우, 상기 계수의 절대값이 2보다 크고, 상기 제2 플래그가 제2 값인 경우, 상기 계수의 절대값이 2일 수 있다.
전술한 제1 플래그 또는 제2 플래그 중 적어도 하나의 개수는, 최소 1개에서 최대 (N*M)개일 수 있다. 또는, 제1 플래그 또는 제2 플래그 중 적어도 하나는 영상 복호화 장치에 기-약속된 고정된 개수(예를 들어, 1개, 2개 또는 그 이상)일 수 있다. 제1/제2 플래그의 개수는 블록 크기/뎁스, 분할 기법(e.g., 쿼드 트리, 바이너리 트리), 변환 기법(e.g., DCT, DST), 변환 스킵 여부, 양자화 파라미터, 예측 모드(e.g., 인트라/인터 모드) 등에 따라 상이할 수 있다. 상기 제1/제2 플래그 외에, 계수의 절대값이 n보다 큰지 여부를 나타내는 제n 플래그가 추가적으로 복호화될 수도 있다. 여기서, n은 2보다 큰 자연수를 의미할 수 있다. 제n 플래그의 개수는 1개, 2개 또는 그 이상일 수 있으며, 전술한 제1/제2 플래그와 동일/유사한 방식으로 결정될 수 있다.
상기 현재 부분 블록 내에, 상기 제1/제2 플래그를 기반으로 복호화되지 않은 나머지 계수를 복호화할 수 있다(S940). 여기서, 상기 복호화는 계수값 자체를 복호화하는 과정일 수 있다. 상기 나머지 계수는 2와 같거나 클 수 있다. 상기 나머지 계수는, 상기 나머지 계수에 대한 부분 블록 계수 플래그, 제1 플래그 또는 제2 플래그 중 적어도 하나를 기반으로 복호화될 수 있다. 예를 들어, 상기 나머지 계수는, (부분 블록 계수 플래그+제1 플래그+제2 플래그+시그날링된 계수)로 유도될 수 있다.
부분 블록의 계수에 대한 부호(sign)를 복호화할 수 있다(S950). 상기 부호는, 계수 단위로, 플래그 형태로 복호화될 수 있다. 상기 부호는, 전술한 부분 블록 계수 플래그의 값에 따라 선택적으로 복호화될 수 있다. 예를 들어, 상기 부호는, 상기 계수가 넌-제로 계수인 경우(즉, 상기 부분 블록 계수 플래그가 제1 값인 경우)에만 복호화될 수 있다.
한편, 전술한 부분 블록의 계수 복호화는, 부분 블록에 속한 계수 값의 범위를 특정하는 과정을 더 수반할 수 있다. 상기 과정을 통해, 부분 블록에 적어도 하나의 넌-제로 계수가 존재하는지 여부도 확인할 수 있다. 상기 과정은, 후술할 (A) 최대값의 복호화, (B) 제1 임계값 플래그의 복호화 또는 (C) 제2 임계값 플래그의 복호화 중 적어도 하나를 통해 수행될 수 있다. 상기 과정은, 전술한 S900 내지 S950 단계 중 어느 하나에 포함되어 수행될 수도 있고, S900 내지 S950 단계 중 적어도 하나와 대체되는 형태로 수행될 수도 있다. 이하, 도 10 내지 도 11을 참조하여, 부분 블록에 속한 계수 값의 범위를 특정하는 과정에 대해서 자세히 살펴 보기로 한다.
도 10은 본 발명이 적용되는 일실시예로서, 부분 블록의 계수의 최대값을 복호화하는 방법을 도시한 것이다.
도 10을 참조하면, 현재 부분 블록의 계수의 절대값 중 최대값을 나타내는 정보를 복호화할 수 있다(S1000). 상기 정보에 따른 최대값을 통해, 현재 부분 블록에 속한 계수 값의 범위가 유추될 수 있다. 예를 들어, 상기 최대값이 m인 경우, 현재 부분 블록의 계수는 0 내지 m 범위에 속할 수 있다. 상기 최대값을 나타내는 정보는, 전술한 부분 블록 플래그의 값에 따라 선택적으로 복호화될 수 있다. 예를 들어, 현재 부분 블록이 적어도 하나의 넌-제로 계수를 포함하는 경우(즉, 부분 블록 플래그가 제1 값인 경우)에만 복호화될 수 있다. 현재 부분 블록의 계수가 모두 0인 경우(즉, 부분 블록 플래그가 제2 값인 경우), 상기 최대값을 나타내는 정보는 0으로 유도될 수 있다.
또한, 상기 정보에 따른 최대값을 통해, 현재 부분 블록에 적어도 하나의 넌-제로 계수가 포함되는지 여부를 결정할 수도 있다. 예를 들어, 상기 최대값이 0보다 큰 경우, 상기 현재 부분 블록은 적어도 하나의 넌-제로 계수를 포함하고, 상기 최대값이 0인 경우, 상기 현재 부분 블록의 모든 계수는 0일 수 있다. 따라서, 상기 최대값 복호화는, S900의 부분 블록 플래그의 복호화와 대체되어 수행될 수도 있다.
도 11은 본 발명이 적용되는 일실시예로서, 부분 블록에 관한 제1 임계값 플래그를 복호화하는 방법을 도시한 것이다.
본 발명의 제1 임계값 플래그는 부분 블록의 모든 계수가 소정의 임계값보다 작은지 여부를 나타낼 수 있다. 상기 임계값의 개수는 N개(N>=1)일 수 있고, 이 경우 임계값의 범위는 {T0, T1, T2,…,TN- 1}과 같이 표현될 수 있다. 여기서, 0번째 임계값인 T0은 최소값을, (N-1)번째 임계값인 TN-1은 최대값을 각각 의미하고, {T0, T1, T2,…,TN-1}는 임계값이 오름차순으로 배열된 것일 수 있다. 상기 임계값의 개수는, 영상 복호화 장치에 기-설정된 것일 수도 있고, 시그날링되는 임계값의 개수에 관한 정보를 기반으로 결정될 수도 있다.
상기 임계값은, 상기 최소값을 1로 설정하고, 최소값을 n씩(n>=1) 증가시켜서 획득될 수 있다. 상기 임계값은, 영상 복호화 장치에 기-설정된 것일 수도 있고, 시그날링되는 임계값에 관한 정보를 기반으로 결정될 수도 있다.
상기 임계값의 범위는, 양자화 파라미터(QP)에 따라 상이하게 결정될 수 있다. 상기 QP는, 시퀀스, 픽쳐, 슬라이스, 또는 변환 블록 중 적어도 하나의 레벨에서 설정된 것일 수 있다.
예를 들어, 상기 QP가 소정의 QP 임계치보다 큰 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 복호화 과정을 생략하고, 전술한 S900 내지 S950 단계를 통해 부분 블록의 계수를 복호화할 수 있다.
반면, 상기 QP가 소정의 QP 임계치보다 작은 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, QP가 작은 경우의 임계값 범위는, QP가 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 QP 임계치의 개수는, 1개, 2개 또는 그 이상일 수 있다. QP 임계치는, 영상 복호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 QP 임계치는, 영상 복호화 장치에서 이용 가능한 QP의 범위 중 중앙값에 해당할 수 있다. 또는, 상기 QP 임계치는, 영상 부호화 장치에서 시그날링되는 QP 임계치에 관한 정보를 기반으로 결정될 수도 있다.
또는, 임계값의 범위는, 블록의 크기/형태에 따라 상이하게 결정될 수 있다. 여기서, 블록은 코딩 블록, 예측 블록, 변환 블록, 또는 부분 블록을 의미할 수 있다. 상기 크기는, 블록의 너비, 높이, 너비와 높이의 합, 또는 계수 개수 중 적어도 하나로 표현될 수 있다.
예를 들어, 블록의 크기가 소정의 임계크기보다 작은 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 복호화 과정을 생략하고, 전술한 S900 내지 S950 단계를 통해 부분 블록의 계수를 복호화할 수 있다. 반면, 블록의 크기가 소정의 임계크기보다 큰 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, 블록의 크기가 작은 경우의 임계값 범위는, 블록의 크기가 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 임계크기의 개수는, 1개, 2개 또는 그 이상일 수 있다. 상기 임계크기는, 영상 복호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 임계크기는 axb로 표현되며, 여기서 a와 b는 2, 4, 8, 16, 32, 64 또는 그 이상이고, a와 b는 동일하거나 상이할 수 있다. 또는, 상기 임계크기는, 영상 부호화 장치에서 시그날링되는 임계크기에 관한 정보를 기반으로 결정될 수 있다.
또는, 상기 임계값의 범위는, 화소값 범위에 따라 상이하게 결정될 수 있다. 상기 화소값 범위는, 소정의 영역에 속하는 화소의 최대값 및/또는 최소값으로 표현될 수 있다. 이때, 소정의 영역은, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나를 의미할 수 있다.
예를 들어, 화소값 범위의 최대값과 최소값 간의 차이가, 소정의 임계 차이값보다 작은 경우, 임계값의 범위를 {3}으로 결정하거나, 상기 제1/제2 임계값 플래그 복호화 과정을 생략하고, 전술한 S900 내지 S950 단계를 통해 부분 블록의 계수를 복호화할 수 있다. 반면, 상기 차이가 소정의 임계 차이값보다 큰 경우, 임계값의 범위를 {3, 5} 혹은 {5, 3}으로 결정할 수 있다.
즉, 상기 차이가 작은 경우의 임계값 범위는, 상기 차이 큰 경우의 임계값 범위와 상이한 임계값의 개수 및/또는 크기(예를 들어, 최대값)를 가질 수 있다. 상기 임계 차이값의 개수는, 1개, 2개 또는 그 이상일 수 있다. 상기 임계 차이값은 영상 복호화 장치에 기-설정된 것일 수도 있고, 영상 부호화 장치에서 시그날링되는 임계 차이값에 관한 정보를 기반으로 결정될 수도 있다.
도 11을 참조하면, 현재 임계값에 관한 제1 임계값 플래그를 복호화할 수 있다(S1100).
상기 제1 임계값 플래그는, 부분 블록의 모든 계수의 절대값이 현재 임계값보다 작은지 여부를 나타낼 수 있다. 예를 들어, 상기 제1 임계값 플래그가 "거짓"인 경우, 이는 부분 블록의 모든 계수의 절대값이 현재 임계값보다 크거나 같을 수 있다. 반면, 상기 제1 임계값 플래그가 "참"인 경우, 이는 부분 블록의 모든 계수의 절대값이 현재 임계값보다 작을 수 있다.
만일, 상기 제1 임계값 플래그가 "거짓"인 경우, 상기 현재 임계값(i번째 임계값)은 다음 임계값((i+1)번째 임계값)으로 업데이트되고(S1110), 업데이트된 현재 임계값을 기반으로, 전술한 S1100 단계를 수행할 수 있다.
상기 현재 임계값이 임계값의 최대값에 도달한 경우 또는 상기 임계값의 개수가 1개인 경우, 현재 임계값에 소정의 상수를 가산하여 현재 임계값을 업데이트할 수도 있다. 상기 소정의 상수는 1보다 크거나 같은 정수일 수 있다. 이때, 상기 업데이트는, "참"인 제1 임계값 플래그가 복호화될 때까지 반복적으로 수행될 수도 있다. 또는, 현재 임계값이 임계값의 최대값에 도달한 경우 또는 상기 임계값의 개수가 1개인 경우, 상기 업데이트 과정이 종료될 수도 있다.
도 11에 도시된 바와 같이, 상기 제1 임계값 플래그가 "참"인 경우, 제1 임계값 플래그에 대한 복호화는 더 이상 수행되지 않을 수 있다.
전술한 바와 같이, i번째 임계값에 대한 제1 임계값 플래그가 "참"인 경우, 이는 부분 블록 내 모든 계수의 절대값이 i번째 임계값보다 작음을 나타낼 수 있다. 반면, i번째 임계값에 대한 제1 임계값 플래그가 "거짓"인 경우, 이는 부분 블록 내 모든 계수의 절대값이 i번째 임계값보다 크거나 같음을 나타낼 수 있다. 상기 "참"인 제1 임계값 플래그를 기반으로, 부분 블록에 속한 계수 값의 범위를 특정할 수 있다. 즉, i번째 임계값에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록에 속한 계수는 0 내지 (i번째 임계값-1) 범위에 속할 수 있다.
상기 복호화된 제1 임계값 플래그에 따라, 전술한 S900 내지 S950 단계 중 적어도 하나가 생략될 수 있다.
예를 들어, 임계값의 범위가 {3, 5}인 경우, 임계값 "3"에 대한 제1 임계값 플래그 또는 임계값 "5"에 대한 제1 임계값 플래그 중 적어도 하나가 복호화될 수 있다. 상기 임계값 "3"에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록 내 모든 계수의 절대값은 0 내지 2 범위에 속할 수 있다. 이 경우, 전술한 S930 또는 S940 단계 중 적어도 하나를 제외한 나머지 단계를 수행하여 부분 블록의 계수를 복호화하거나, S900, S930 또는 S940 단계 중 적어도 하나를 제외한 나머지 단계를 수행하여 부분 블록의 계수를 복호화할 수도 있다.
상기 임계값 "3"에 대한 제1 임계값 플래그가 "거짓"인 경우, 상기 임계값 "5"에 대한 제1 임계값 플래그가 복호화될 수 있다. 상기 임계값 "5"에 대한 제1 임계값 플래그가 "거짓"인 경우, 부분 블록 내 계수의 절대값 중 적어도 하나는 5보다 크거나 같을 수 있다. 이 경우, 전술한 S900 내지 S950 단계를 동일하게 수행하여, 부분 블록의 계수를 복호화할 수도 있고, S900 단계를 제외한 나머지 단계를 수행하여, 부분 블록의 계수를 복호화할 수도 있다.
반면, 상기 임계값 "5"에 대한 제1 임계값 플래그가 "참"인 경우, 부분 블록 내 모든 계수의 절대값이 0 내지 4 범위에 속할 수 있다. 이 경우, 전술한 S900 내지 S950 단계를 동일하게 수행하여, 부분 블록의 계수를 복호화할 수도 있고, S900 단계를 제외한 나머지 단계를 수행하여, 부분 블록의 계수를 복호화할 수도 있다.
한편, 현재 부분 블록의 제1 임계값 플래그는, 다른 부분 블록의 제1 임계값 플래그를 기반으로 유도될 수 있다. 이 경우, 제1 임계값 플래그 복호화 과정은 생략될 수 있으며, 이에 대해서는 도 12를 참조하여 살펴 보기로 한다.
도 12는 본 발명이 적용되는 일실시예로서, 현재 부분 블록에 관한 제1/제2 임계값 플래그를 유도하는 방법을 도시한 것이다.
본 실시예에서는, 변환 블록(1200)은 8x8이고, 부분 블록이 4x4이며, 최초 넌-제로 계수를 포함한 블록은 1220이며, 변환 블록의 부분 블록은 스캔 타입에 따라 1240, 1220, 1230, 1210의 순서로 부호화/복호화됨을 가정한다.
현재 부분 블록에서, 특정 임계값에 관한 제1 임계값 플래그는 이전 부분 블록의 제1 임계값 플래그를 기반으로 유도될 수 있다. 예를 들어, 이전 부분 블록에서 "거짓"인 제1 임계값 플래그를 기반으로, 현재 부분 블록의 제1 임계값 플래그를 "거짓"으로 유도할 수 있다. 여기서, 임계값의 범위로 {3, 5, 7}이 이용됨을 가정한다.
구체적으로, 부호화/복호화 순서상 첫번째인 부분 블록 1240은 최초 넌-제로 계수가 속한 부분 블록 1220의 위치보다 부호화/복호화 순서가 앞서므로, 상기 제1 임계값 플래그가 부호화/복호화되지 않을 수 있다. 부호화/복호화 순서상 두번째인 부분 블록 1220에서는 임계값 "3"에 관한 제1 임계값 플래그가 "참"이므로, 상기 임계값 "3"에 관한 제1 임계값 플래그만이 부호화/복호화될 수 있다. 부호화/복호화 순서상 세번째인 부분 블록 1230에서는, 임계값 "3"에 관한 제1 임계값 플래그가 "거짓"이고, 임계값 "5"에 관한 제1 임계값 플래그가 "참"이므로, 상기 임계값 "3"과 "5"에 관한 제1 임계값 플래그가 각각 부호화/복호화될 수 있다. 부호화/복호화 순서상 마지막 부분 블록 1210에서는, 임계값 "3"에 관한 제1 임계값 플래그가 "거짓"이고, 임계값 "5"에 관한 제1 임계값 플래그가 "거짓"이다. 이때, 이전 부분 블록 1230에서 임계값 "3"에 관한 제1 임계값 플래그가 "거짓"이므로, 현재 부분 블록 1210은 3 이상인 계수의 절대값이 적어도 하나가 존재할 것으로 예측하고, 임계값 "3"에 관한 제1 임계값 플래그를 "거짓"으로 유도할 수 있다.
현재 부분 블록에서, 특정 임계값에 관한 제1 임계값 플래그는 이전 부분 블록의 제1 임계값 플래그를 기반으로 유도될 수 있다. 예를 들어, 이전 부분 블록에서 "거짓"인 제1 임계값 플래그를 기반으로, 현재 부분 블록의 제1 임계값 플래그를 "거짓"으로 유도할 수 있다.
이하, 도 13 내지 도 18을 참조하여, 변환 블록의 부분 블록을 결정하는 방법에 대해서 자세히 살펴 보도록 한다.
영상 부호화 장치는, 변환 블록을 구성하는, 소정의 크기/형태를 가진 부분 블록을 결정하고, 부분 블록의 크기/형태에 관한 정보를 부호화할 수 있다. 영상 복호화 장치는, 상기 부호화된 정보를 기반으로, 부분 블록의 크기/형태를 결정할 수 있다(제1 방법). 또는, 영상 부호화/복호화 장치에 기-약속된 규칙을 통해, 부분 블록의 크기/형태를 결정할 수도 있다(제2 방법). 상기 제1 방법과 제2 방법 중 어떤 방법을 통해 부분 블록의 크기/형태를 결정하는지를 알려주는 정보가 비디오, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나의 계층에서 시그날링될 수 있다. 상기 블록은 코딩 블록, 예측 블록 또는 변환 블록을 의미할 수 있다.
변환 블록 내 부분 블록의 크기는 변환 블록의 크기와 같거나 작을 수 있다. 변환 블록/부분 블록의 형태는 정방형 또는 비정방형일 수 있다. 변환 블록의 형태는 부분 블록의 형태와 동일하거나 상이할 수 있다.
변환 블록의 형태에 관한 정보가 부호화될 수 있다. 이때, 상기 정보는, 변환 블록의 형태로 정방형만을 사용할 것인지, 비정방형만을 사용할 것인지, 또는 정방형과 비정방형 모두 사용할 것인지에 대한 정보 중 적어도 하나를 포함할 수 있다. 상기 정보는, 비디오, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나의 계층에서 시그날링될 수 있다. 상기 블록은 코딩 블록, 예측 블록 또는 변환 블록을 의미할 수 있다. 변환 블록의 크기에 관한 정보가 부호화될 수 있다. 이때, 상기 정보는, 최소 크기, 최대 크기, 분할 깊이(depth) 또는 분할 깊이에 관한 최대/최소값 중 적어도 하나를 포함할 수 있다. 상기 정보는, 비디오, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나의 계층에서 시그날링될 수 있다.
부분 블록의 형태에 관한 정보가 부호화될 수 있다. 이때, 상기 정보는, 부분 블록의 형태로 정방형만을 사용할 것인지, 비정방형만을 사용할 것인지, 또는 정방형과 비정방형 모두 사용할 것인지에 대한 정보 중 적어도 하나를 포함할 수 있다. 상기 정보는, 비디오, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나의 계층에서 시그날링될 수 있다. 상기 블록은 코딩 블록, 예측 블록 또는 변환 블록을 의미할 수 있다. 부분 블록의 크기에 관한 정보가 부호화될 수 있다. 이때, 상기 정보는, 최소 크기, 최대 크기, 분할 깊이(depth) 또는 분할 깊이에 관한 최대/최소값 중 적어도 하나를 포함할 수 있다. 상기 정보는, 비디오, 시퀀스, 픽쳐, 슬라이스, 또는 블록 중 적어도 하나의 계층에서 시그날링될 수 있다.
도 13은 본 발명이 적용되는 일실시예로서, 병합 플래그를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
영상 부호화 장치는, 최소 크기의 부분 블록일 때부터 최대 크기의 부분 블록일 때까지, RDO를 통해서 부분 블록이 어떤 병합 형태일 때가 가장 최적인지를 확인할 수 있다.
도 13을 참조하면, 복수의 부분 블록(1-16)으로 구성된 변환 블록(1301)에 대한 RD-비용값을 계산할 수 있다. 상기 부분 블록은 영상 부호화 장치에 기-약속된 최소 크기의 부분 블록일 수 있다. 변환 블록(1302)은, 변환 블록(1301)의 4개의 부분 블록(13-16)이 하나의 부분 블록으로 병합된 경우이며, 상기 변환 블록(1302)에 대한 RD-비용값을 계산할 수 있다. 변환 블록(1303)은, 상기 변환 블록(1301)의 4개의 부분 블록(9-12)이 하나의 부분 블록으로 병합된 경우이며, 상기 변환 블록(1303)에 대한 RD-비용값을 계산할 수 있다. 변환 블록(1304)은, 상기 변환 블록(1301)의 4개의 부분 블록(5-8)이 하나의 부분 블록으로 병합된 경우이며, 상기 변환 블록(1304)에 대한 RD-비용값을 계산할 수 있다.
영상 부호화 장치는, 쿼드 트리 방식으로, 변환 블록 내 부분 블록을 최대 크기의 부분 블록까지 병합해가면서 RD-비용값을 계산할 수 있다. 상기 RD-비용값을 기반으로 최적의 병합을 결정하고, 최적의 병합을 나타내는 병합 플래그를 부호화할 수 있다. 영상 복호화 장치는, 부호화된 병합 플래그를 기반으로, 변환 블록 내 부분 블록의 크기/형태를 결정할 수 있다.
예를 들어, 변환 블록(1304)이 상기 최적의 병합이며, 부분 블록의 최소 크기가 변환 블록(1304)의 부분 블록 "1"의 크기와 동일하고, 부분 블록의 최대 크기가 상기 변환 블록(1304)의 부분 블록 "5"와 동일한 것으로 가정한다. 이 경우, 영상 부호화 장치는, 변환 블록(1301)이 최적의 병합이 아님을 나타내는 병합 플래그("거짓")를 부호화할 수 있다. 그리고, 변환 블록(1304)의 4개의 부분 블록(10-13)이 병합되지 않은 상태가 최적임을 나타내는 병합 플래그("거짓")를 부호화하고, 변환 블록(1304)의 4개의 부분 블록(6-9)이 병합되지 않은 상태가 최적임을 나타내는 병합 플래그("거짓")를 부호화할 수 있다. 그리고, 변환 블록(1301)에서의 4개의 부분 블록(6-9)이 하나의 부분 블록으로 병합된 상태가 최적임을 나타내는 병합 플래그("참")을 부호화하고, 변환 블록(1304)의 4개의 부분 블록(1-4)이 병합되지 않은 상태가 최적임을 나타내는 병합 플래그("거짓")를 부호화할 수 있다. 즉, 영상 부호화 장치는 상기 부호화를 통해 비트스트림 "00010"을 생성할 수 있고, 영상 복호화 장치는 상기 비트스트림을 복호화하여 변환 블록(1304)의 병합 형태를 결정할 수 있다.
도 13은 부분 블록의 병합 순서를 한정한 것은 아니며, 다른 순서로 병합하는 것도 가능하다. 전술한 병합은, 영상 부호화/복호화 장치에 기-약속된 블록 크기/형태의 범위 내에서 수행될 수 있다. 상기 병합된 부분 블록의 형태는, 정방형 또는 비정방형일 수 있다. 상기 병합된 부분 블록의 형태는, 부분 블록의 부호화 순서 또는 스캔 순서에 기초하여 결정될 수 있다.
예를 들어, 변환 블록 내 부분 블록의 부호화 순서가 대각 방향일 경우, 정방형의 병합이 이용될 수 있다. 또는, 변환 블록 내 부분 블록의 부호화 순서가 세로 방향인 경우, 세로가 긴 비정방형의 병합이 이용될 수 있다. 또는, 변환 블록 내 부분 블록의 부호화 순서가 가로 방향인 경우, 가로가 긴 비정방형의 병합이 이용될 수 있다.
도 14는 본 발명이 적용되는 일실시예로서, 분할 플래그를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
영상 부호화 장치는, 최대 크기의 부분 블록일 때부터 최소 크기의 부분 블록일 때까지, RDO를 통해서 변환 블록이 어떤 분할 형태일 때가 가장 최적인지를 확인할 수 있다.
도 14를 참조하면, 하나의 부분 블록(1)으로 구성된 변환 블록(1401)에 대한 RD-비용값을 계산할 수 있다. 상기 부분 블록(1)은 영상 부호화 장치에 기-약속된 최대 크기의 부분 블록일 수 있다. 변환 블록(1302)은, 최대 크기의 부분 블록이 4개의 부분 블록(1-4)로 분할된 경우이며, 상기 변환 블록(1302)에 대한 RD-비용값을 계산할 수 있다. 변환 블록(1403)은, 상기 변환 블록(1402)의 부분 블록 "1"이 4개의 부분 블록(1-4)으로 분할된 경우이며, 상기 변환 블록(1403)에 대한 RD-비용값을 계산할 수 있다. 변환 블록(1404)은, 상기 변환 블록(1403)의 부분 블록 "1"이 다시 4개의 부분 블록(1-4)으로 분할된 경우이며, 상기 변환 블록(1404)에 대한 RD-비용값을 계산할 수 있다.
영상 부호화 장치는, 쿼드 트리 방식으로, 변환 블록 내 부분 블록을 최소 크기의 부분 블록까지 분할해가면서 RD-비용값을 계산할 수 있다. 상기 RD-비용값을 기반으로 최적의 분할을 결정하고, 최적의 분할을 나타내는 분할 플래그를 부호화할 수 있다. 영상 복호화 장치는, 부호화된 분할 플래그를 기반으로, 변환 블록 내 부분 블록의 크기/형태를 결정할 수 있다.
예를 들어, 변환 블록(1403)이 최적의 분할이며, 부분 블록의 최소 크기가 변환 블록(1403)의 부분 블록 "1"의 크기와 동일하고, 부분 블록의 최대 크기가 상기 변환 블록(1403)과 동일한 것으로 가정한다. 이 경우, 영상 부호화 장치는, 변환 블록(1401)이 최적의 분할이 아님을 나타내는 분할 플래그("참")를 부호화할 수 있다. 그리고, 변환 블록(1402)에서, 부분 블록 '1'이 4개의 부분 블록으로 분할하는 것이 최적임을 나타내는 분할 플래그("참")을 부호화할 수 있다. 상기 변환 블록(1402)에서, 나머지 부분 블록(2-4)이 4개의 부분 블록으로 분할되지 않는 것이 최적임을 나타내는 분할 플래그("거짓")을 부호화할 수 있다. 즉, 영상 부호화 장치는 상기 부호화를 통해 비트스트림은 "11000"을 생성할 수 있고, 영상 복호화 장치는 상기 비트스트림을 복호화하여 변환 블록(1403)의 분할 형태를 결정할 수 있다.
도 14는 부분 블록의 분할 순서를 한정한 것은 아니며, 다른 순서로 분할하는 것도 가능하다. 전술한 분할은, 영상 부호화/복호화 장치에 기-약속된 블록 크기/형태의 범위 내에서 수행될 수 있다. 상기 분할된 부분 블록의 형태는, 정방형 또는 비정방형일 수 있다. 상기 분할된 부분 블록의 형태는, 부분 블록의 부호화 순서 또는 스캔 순서에 기초하여 결정될 수 있다.
예를 들어, 변환 블록 내 부분 블록의 부호화 순서가 대각 방향일 경우, 정방형의 분할이 이용될 수 있다. 또는, 변환 블록 내 부분 블록의 부호화 순서가 세로 방향인 경우, 세로가 긴 비정방형의 분할이 이용될 수 있다. 또는, 변환 블록 내 부분 블록의 부호화 순서가 가로 방향인 경우, 가로가 긴 비정방형의 분할이 이용될 수 있다.
도 15는 본 발명이 적용되는 일실시예로서, 분할 색인 정보를 기반으로 부분 블록의 크기/형태를 결정하는 방법을 도시한 것이다.
영상 부호화 장치는, 변환 블록의 부분 블록이 모두 최대 크기의 부분 블록일 때부터 모두 최소 크기의 부분 블록일 때까지, RDO를 통해서 부분 블록이 어떤 분할 형태일 때가 가장 최적인지를 확인할 수 있다.
도 15를 참조하면, 변환 블록(1501)은 하나의 부분 블록(1)으로 구성된 경우이며, 이 경우의 RD-비용값을 계산할 수 있다. 상기 부분 블록(1)은 영상 부호화 장치에 기-약속된 최대 크기의 부분 블록일 수 있다. 변환 블록(1502)는 상기 변환 블록(1501)이 4개의 부분 블록(1-4)으로 분할된 경우이며, 이 경우의 RD-비용값을 계산할 수 있다. 변환 블록(1503)은, 상기 변환 블록(1502)의 각 부분 블록이 다시 4개의 부분 블록으로 분할된 경우이며, 이 경우의 RD-비용값을 계산할 수 있다.
전술한 바와 같이, 최대 크기 내지 최소 크기의 부분 블록 범위 내에서, 변환 블록을 동일한 크기의 부분 블록으로 분할해가면서 RD-비용값을 계산할 수 있다. 상기 RD-비용값을 기반으로 최적의 분할을 결정하고, 최적의 분할을 나타내는 분할 색인 정보를 부호화할 수 있다. 영상 복호화 장치는, 상기 부호화된 분할 색인 정보를 기반으로, 변환 블록 내 부분 블록의 크기/형태를 결정할 수 있다.
예를 들어, 영상 부호화 장치는, 변환 블록(1501)이 최적인 분할인 경우에는 분할 색인 정보로 "0"을, 변환 블록(1502)이 최적의 분할인 경우에는 분할 색인 정보로 "1"을, 변환 블록(1503)이 최적의 분할인 경우에는 분할 색인 정보로 "2"를 각각 부호화할 수 있다. 영상 복호화 장치는, 상기 부호화된 분할 색인 정보를 기반으로 변환 블록 내 부분 블록의 크기/형태를 결정할 수 있다.
도 16은 본 발명이 적용되는 일실시예로서, 넌-제로 계수의 위치를 기반으로 변환 블록을 분할하는 방법을 도시한 것이다.
변환 블록에서, 부호화/복호화 순서상 최초 넌-제로 계수의 위치를 기반으로, 부분 블록의 크기/형태가 결정될 수 있다.
부분 블록의 크기/형태는, 상기 최초 넌-제로 계수의 위치를 포함한 블록(이하, 제1 기준 블록이라 함)의 크기/형태로 결정될 수 있다. 상기 제1 기준 블록은, 상기 최초 넌-제로 계수의 위치와 상기 변환 블록의 우하단 계수의 위치를 포함한 블록 중 최소 크기일 수 있다. 이때, 상기 제1 기준 블록은, 영상 부호화/복호화 장치에 기-약속된 부분 블록의 최소 크기와 최대 크기의 범위에 속할 수 있다. 상기 변환 블록은 상기 결정된 부분 블록의 크기/형태로 분할될 수 있다.
예를 들어, 변환 블록(1601)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (12,12)인 경우, 해당 계수 (12,12)를 포함하는 부분 블록의 크기를 4x4로 결정할 수 있고, 도 16에 도시된 바와 같이 변환 블록(1601)은 4x4 크기의 16개 부분 블록으로 분할될 수 있다. 또는, 변환 블록(1602)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (8,8)인 경우, 해당 계수 (8,8)을 포함하는 부분 블록의 크기를 8x8로 결정할 수 있고, 도 16에 도시된 바와 같이 변환 블록(1602)은 8x8 크기의 4개 부분 블록으로 분할될 수 있다. 또는, 변환 블록(1603)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (8,0)인 경우, 해당 계수 (8,0)를 포함하는 부분 블록의 크기를 8x16로 결정할 수 있고, 이 경우 변환 블록(1603)은 8x16 크기의 2개 부분 블록으로 분할될 수 있다.
또는, 상기 부분 블록의 크기/형태는, 상기 최초 넌-제로 계수의 위치를 포함하지 않는 블록(이하, 제2 기준 블록)의 크기/형태로 결정될 수 있다. 상기 제2 기준 블록은, 상기 최초 넌-제로 계수의 위치를 포함하지 않고, 상기 변환 블록의 우하단 계수의 위치를 포함한 블록 중 최대 크기일 수 있다. 이때, 상기 제2 기준 블록은, 영상 부호화/복호화 장치에 기-약속된 부분 블록의 최소 크기와 최대 크기의 범위에 속할 수 있다. 상기 변환 블록은 상기 결정된 부분 블록의 크기/형태로 분할될 수 있다.
예를 들어, 변환 블록(1601)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (12,11)인 경우, 해당 계수 (12,11)를 포함하지 않는 부분 블록의 크기를 4x4로 결정할 수 있고, 이 경우 변환 블록(1601)은 4x4 크기의 16개 부분 블록으로 분할될 수 있다. 또는, 변환 블록(1602)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (7,13)인 경우, 해당 계수 (7,13)을 포함하지 않는 부분 블록의 크기를 8x8로 결정할 수 있고, 이 경우 변환 블록(1602)은 8x8 크기의 4개 부분 블록으로 분할될 수 있다. 또는, 변환 블록(1603)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (6,14)인 경우, 해당 계수 (6,14)를 포함하는 부분 블록의 크기를 8x16으로 결정할 수 있고, 이 경우 변환 블록(1603)은 8x16 크기의 2개 부분 블록으로 분할될 수 있다.
도 17은 본 발명이 적용되는 일실시예로서, 변환 블록의 일부 영역을 선택적으로 분할하는 방법을 도시한 것이다.
변환 블록 내에서 일부 영역을 제외한 나머지 영역을 소정의 크기/형태를 가진 부분 블록으로 분할할 수도 있다. 여기서, 일부 영역은 상기 최초 넌-제로 계수의 위치 (a,b)를 기반으로 특정될 수 있다. 예를 들어, 상기 일부 영역은, 상기 a보다 큰 x-좌표를 가진 영역 또는 상기 b보다 큰 y-좌표를 가진 영역 중 적어도 하나를 포함할 수 있다. 여기서, 부분 블록의 크기/형태는 전술한 적어도 하나의 실시예와 동일/유사한 방식으로 결정될 수 있는바, 자세한 설명은 생략하기로 한다.
예를 들어, 변환 블록(1701)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (11,11)인 경우, (11,11)의 x-좌표보다 우측에 있는 영역 및 (11,11)의 y-좌표보다 하단에 있는 영역은 부분 블록 설정 범위에서 제외하고, 부호화/복호화하지 않을 수 있다. 이때, 상기 변환 블록(1701)의 나머지 영역은 6x6 크기의 4개 부분 블록으로 분할될 수 있다.
또는, 변환 블록 내에서 일부 영역을 제외한 나머지 영역을 소정의 크기/형태를 가진 부분 블록으로 분할할 수도 있다. 여기서, 일부 영역은 상기 최초 넌-제로 계수의 위치 (a,b)와 변환 블록의 최대 좌표값 (c,d)를 기반으로 특정될 수 있다. 상기 최대 좌표값 (c,d)는 변환 블록의 우하단 계수의 위치일 수 있다. 예를 들어, 최초 넌-제로 계수의 위치 (a,b)와 변환 블록의 최대 좌표값 (c,d) 간의 차이값인 "(c-a)"와 "(d-b)"를 각각 산출할 수 있다. 변환 블록의 우하단 계수의 위치를 기준으로, 상기 차이값 중 최소값만큼 쉬프트한 위치 (e,f)를 결정할 수 있다. 이때, 상기 일부 영역은, 상기 e보다 큰 x-좌표를 가진 영역 또는 상기 f보다 큰 y-좌표를 가진 영역 중 적어도 하나를 포함할 수 있다. 여기서, 부분 블록의 크기/형태는 전술한 적어도 하나의 실시예와 동일/유사한 방식으로 결정될 수 있는바, 자세한 설명은 생략하기로 한다.
예를 들어, 변환 블록(1701)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (11,8)인 경우, 해당 계수의 x-좌표 "11"과 변환 블록의 최대 x-좌표 "15" 간의 차이값인 "4", 그리고 해당 계수의 y-좌표 "8"과 변환 블록의 최대 y-좌표 "15" 간의 차이값인 "7"을 산출할 수 있다. 변환 블록의 우하단 계수의 위치를 기준으로, 상기 차이값 중 최소값인 "4"만큼 쉬프트한 위치는 (11,11)로 결정될 수 있다. 이 경우, (11,11)의 x-좌표보다 우측에 있는 영역 및 (11,11)의 y-좌표보다 하단에 있는 영역은 부분 블록 설정 범위에서 제외하고, 부호화/복호화하지 않을 수 있다. 이때, 상기 변환 블록(1701)의 나머지 영역은 6x6 크기의 4개 부분 블록으로 분할될 수 있다.
또는, 변환 블록은 소정의 경계선을 기준으로 복수의 영역으로 구획될 수 있다. 상기 경계선은 1개, 2개 또는 그 이상일 수 있다. 상기 경계선은 소정의 각도의 기울기를 가지며, 상기 각도는 0도 내지 90도 범위 내에 속할 수 있다. 상기 경계선은, 변환 블록 내 계수의 부호화/복호화 순서상 최초 넌-제로 계수의 위치를 포함할 수 있다. 구체적으로, 상기 경계선을 기준으로, 상기 변환 블록은 제1 영역과 제2 영역으로 구획될 수 있다. 이때, 제1 영역은 소정의 크기/형태를 가진 부분 블록으로 분할되고, 제2 영역은 소정의 크기/형태를 가진 부분 블록으로 분할되지 않을 수 있다. 즉, 상기 제1 영역에 속한 계수는, 소정의 크기/형태를 가진 부분 블록을 기반으로 부호화/복호화되고, 상기 제2 영역에 속한 계수에 대한 부호화/복호화는 스킵될 수 있다. 상기 제1 영역은, 상기 경계선을 기준으로 상단, 좌측, 또는 좌상단에 위치한 영역을 의미할 수 있다. 이때, 상기 제1 영역은 상기 경계선을 포함하는 부분 블록의 영역을 더 포함할 수도 있다. 상기 제2 영역은 상기 경계선을 기준으로 하단, 우측, 또는 우하단에 위치한 영역을 의미할 수 있다.
예를 들어, 변환 블록(1402)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (10,6)이며, 변환 블록(1402)의 모든 부분 블록이 4x4 단위로 기 분할된 경우를 가정한다. 이 경우, (10,6)을 기준으로 우상단 45도 방향의 마지막 화소 위치는 (15,1)이고, 좌하단 45도 방향의 마지막 화소 위치는 (1,15)이다. 상기 2개의 화소 위치를 이은 경계선을 기준으로, 좌상단에 위치한 영역의 부분 블록(1-10)은 부호화/복호화되는 부분 블록으로 결정되고, 우하단에 위치한 영역의 부분 블록은 부호화/복호화되지 않는 부분 블록으로 결정될 수 있다. 이때, 좌상단에 위치한 영역의 부분 블록의 형태는 사각형 및/또는 삼각형으로 결정될 수도 있다.
예를 들어, 변환 블록(1403)은 16x16이고, 부호화/복호화 순서상 최초 넌-제로 계수의 위치가 변환 블록의 좌상단 (0,0)을 기준으로 (8,7)이며, 변환 블록(1403)의 모든 부분 블록이 4x4 단위로 기 분할된 경우를 가정한다. 이 경우, (8,7)을 기준으로 우상단 45도 방향의 마지막 화소 위치는 (15,0)이고, 좌하단 45도 방향의 마지막 화소 위치는 (0,15)이다. 상기 2개의 화소 위치를 이은 경계선을 기준으로, 좌상단에 위치한 영역의 부분 블록(1-10)은 부호화/복호화되는 부분 블록으로 결정되고, 우하단에 위치한 영역의 부분 블록은 부호화/복호화되지 않는 부분 블록으로 결정될 수 있다. 이때, 상기 경계선을 포함하는 부분 블록의 경우, 상기 경계선을 기준으로 좌상단 영역에 있는 계수만 부분 블록에 포함시키고, 우하단 영역에 있는 계수는 부분 블록에서 제외시킬 수 있다. 상기 좌상단에 위치한 영역의 부분 블록의 형태는 사각형(부분 블록 1-5, 8) 및/또는 삼각형(부분 블록 6, 7, 9, 10)으로 결정될 수도 있다.
도 18은 본 발명이 적용되는 일실시예로서, 주파수 도메인에서 DC/AC 성분의 속성을 기반으로 변환 블록을 분할하는 방법을 도시한 것이다.
주파수 도메인에서, 변환 블록을 구성하는 DC/AC 성분의 속성을 고려하여, 변환 블록의 분할 형태를 결정할 수 있다. 상기 속성은, 성분 위치, 분포도, 밀집도 또는 강약 등을 의미할 수 있고, 상기 속성은 변환 블록의 변환 방법(예를 들어, DCT, DST 등)에 종속적으로 결정될 수 있다.
변환 블록 내에서, AC 성분이 가장 약하게 집중되는 영역은 나머지 영역보다 큰 크기의 부분 블록으로 분할될 수 있다. 예를 들어, 16x16 크기의 변환 블록(1801)에서, AC 성분은 주로 부분 블록 "5" 내지 "13"에 위치할 수 있다. 이때, AC 성분이 가장 약하게 집중되는 영역인 부분 블록 13에만 8x8 크기의 부분 블록을 할당하고, 나머지 영역에는 4x4 크기의 부분 블록을 할당할 수 있다.
또는, 변환 블록 내에서, AC 성분이 가장 약하게 집중되는 영역은 나머지 영역보다 작은 크기의 부분 블록으로 분할될 수도 있다. 예를 들어, 16x16 크기의 변환 블록(1802)에서, AC 성분은 주로 부분 블록 "2" 내지 "7"에 위치할 수 있다. 이때, AC 성분이 가장 약한 영역인 부분 블록 "4" 내지 "7"에만 4x4 크기의 부분 블록을 할당하고, 나머지 영역에는 8x8 크기의 부분 블록을 할당할 수 있다.
또는, 변환 블록 내에서, DC 성분이 가장 강하게 집중되는 영역은 나머지 영역보다 작은 크기의 부분 블록으로 분할될 수도 있다. 예를 들어, 16x16 크기의 변환 블록(1803)에서, DC 성분은 주로 부분 블록 "1" 내지 "4"에 위치할 수 있다. 이때, DC 성분이 가장 강한 영역인 부분 블록 "1" 내지 "4"에만 4x4 크기의 부분 블록을 할당하고, 나머지 영역에는 8x8 크기의 부분 블록을 할당할 수 있다.
또는, 변환 블록 내에서, DC 성분이 가장 강하게 집중되는 영역은 나머지 영역보다 큰 크기의 부분 블록으로 분할될 수도 있다. 예를 들어, 16x16 크기의 변환 블록(1804)에서, DC 성분은 주로 부분 블록 "1"영역에 위치할 수 있다. 이때, DC 성분이 가장 강한 영역인 부분 블록 "1"에만 8x8 크기의 부분 블록을 할당하고, 나머지 영역에는 4x4 크기의 부분 블록을 할당할 수 있다.
전술한 실시예에서는, 4등분된 변환 블록을 기준으로, 변환 블록 내 DC/AC 성분의 영역을 가정하였다. 다만, 이에 한정되지 아니하며, N(N≥≥1)등분 또는 2의 N승 등분된 변환 블록의 경우에도 동일/유사하게 적용될 수 있다.
변환 블록의 양자화 파라미터(QP)에 따라서, 변환 블록 내 부분 블록 전부 또는 일부가 선택적으로 부호화/복호화될 수도 있다. 예를 들어, 상기 변환 블록의 QP가 소정의 QP 임계치보다 큰 경우, 변환 블록 내에서 일부 영역만을 부호화/복호화할 수 있다. 반면, 상기 변환 블록의 QP가 소정의 QP 임계치보다 작은 경우, 변환 블록 내 모든 부분 블록을 부호화/복호화할 수 있다.
여기서, 일부 영역은, 소정의 수직 라인 또는 수평 라인 중 적어도 하나에 의해서 특정될 수 있다. 상기 수직 라인은 변환 블록의 좌측 경계에서 왼쪽으로 a만큼 떨어진 지점에 위치하고, 상기 수평 라인은 변환 블록의 상단 경계에서 아래쪽으로 b만큼 떨어진 지점에 위치할 수 있다. 상기 a와 b는 자연수이며, 서로 동일하거나 상이할 수 있다. 상기 일부 영역은, 상기 수직 라인을 기준으로 왼쪽 및/또는 상기 수평 라인을 기준으로 위쪽에 위치한 영역일 수 있다. 상기 수직/수평 라인의 위치는 영상 부호화/복호화 장치에 기-약속된 것일 수도 있고, 변환 블록의 크기/형태를 고려하여 가변적으로 결정될 수도 있다. 또는, 영상 부호화 장치는 상기 일부 영역을 특정하는 정보(예를 들어, 상기 수직/수평 라인의 위치를 특정하는 정보)를 부호화하여 시그날링하고, 영상 복호화 장치는 상기 시그날링된 정보를 기반으로 일부 영역을 특정할 수도 있다. 상기 특정된 일부 영역의 경계는, 변환 블록 내 부분 블록의 경계에 접할 수도 있고, 접하지 않을 수도 있다.
예를 들어, 상기 일부 영역은, DC 성분이 집중된 영역의 부분 블록 1개 또는 인접 부분 블록을 포함한 N개(N≥≥1)의 부분 블록일 수 있다. 또는, 상기 일부 영역은, 변환 블록의 상단 경계의 1/n 지점을 지나가는 수직 라인 및/또는 변환 블록의 좌측 경계의 1/m 지점을 지나가는 수평 라인에 의해서 특정될 수 있다. 상기 n과 m은 자연수이며, 서로 동일하거나 상이할 수 있다.
상기 QP 임계치의 개수는, 1개, 2개 또는 그 이상일 수 있다. QP 임계치는, 영상 부호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 QP 임계치는, 영상 부호화/복호화 장치에서 이용 가능한 QP의 범위 중 중앙값에 해당할 수 있다. 또는, 영상 부호화 장치에서 부호화 효율을 고려하여 최적의 QP 임계치를 결정하고, 이를 부호화할 수도 있다.
또는, 변환 블록의 크기에 따라서, 상기 변환 블록 내 부분 블록 전부 또는 일부가 선택적으로 부호화/복호화될 수 있다. 예를 들어, 변환 블록의 크기가 소정의 임계크기보다 크거나 같은 경우, 변환 블록 내에서 일부 영역 만을 부호화/복호화할 수 있다. 반면, 상기 변환 블록의 크기가 소정의 임계크기보다 작은 경우, 변환 블록 내 모든 부분 블록을 부호화/복호화할 수 있다.
여기서, 일부 영역은, 소정의 수직 라인 또는 수평 라인 중 적어도 하나에 의해서 특정될 수 있다. 상기 수직 라인은 변환 블록의 좌측 경계에서 왼쪽으로 a만큼 떨어진 지점에 위치하고, 상기 수평 라인은 변환 블록의 상단 경계에서 아래쪽으로 b만큼 떨어진 지점에 위치할 수 있다. 상기 a와 b는 자연수이며, 서로 동일하거나 상이할 수 있다. 상기 일부 영역은, 상기 수직 라인을 기준으로 왼쪽 및/또는 상기 수평 라인을 기준으로 위쪽에 위치한 영역일 수 있다. 상기 수직/수평 라인의 위치는 영상 부호화/복호화 장치에 기-약속된 것일 수도 있고, 변환 블록의 크기/형태를 고려하여 가변적으로 결정될 수도 있다. 또는, 영상 부호화 장치는 상기 일부 영역을 특정하는 정보(예를 들어, 상기 수직/수평 라인의 위치를 특정하는 정보)를 부호화하여 시그날링하고, 영상 복호화 장치는 상기 시그날링된 정보를 기반으로 일부 영역을 특정할 수도 있다. 상기 특정된 일부 영역의 경계는, 변환 블록 내 부분 블록의 경계에 접할 수도 있고, 접하지 않을 수도 있다.
예를 들어, 상기 일부 영역은, DC 성분이 집중된 영역의 부분 블록 1개 또는 인접 부분 블록을 포함한 N개(N≥≥1)의 부분 블록일 수 있다. 또는, 상기 일부 영역은, 변환 블록의 상단 경계의 1/n 지점을 지나가는 수직 라인 및/또는 변환 블록의 좌측 경계의 1/m 지점을 지나가는 수평 라인에 의해서 특정될 수 있다. 상기 n과 m은 자연수이며, 서로 동일하거나 상이할 수 있다.
상기 임계크기의 개수는, 1개, 2개 또는 그 이상일 수 있다. 상기 임계크기는, 영상 부호화 장치에 기-설정된 것일 수 있다. 예를 들어, 상기 임계크기는 cxd로 표현되며, 여기서 c와 d는 2, 4, 8, 16, 32, 64 또는 그 이상이고, c와 d는 동일하거나 상이할 수 있다. 또는, 영상 부호화 장치에서 부호화 효율을 고려하여 최적의 임계크기를 결정하고, 이를 부호화할 수도 있다.
다음으로, 다중 인트라 예측 모드를 이용하여 블록을 부호화/복호화하는 방법에 대해 상세히 살펴보기로 한다.
부호화 블록은 적어도 하나 이상의 예측 블록으로 분할될 수 있고, 각 예측 블록은 추가 분할 과정을 통해 적어도 하나 이상의 부분 블록(또는 예측 부분 블록)으로 분할될 수 있다. 이때, 각각의 부분 블록은, 서로 다른 인트라 예측 모드를 이용하여 부호화될 수 있다. 즉, 부호화 블록 또는 예측 블록은 다중 인트라 예측 모드(또는 다중 모드)를 이용하여 복수의 예측 블록 또는 복수의 부분 블록으로 분할될 수 있다. 예측 블록은 기 설정된 패턴에 따라 복수의 부분 블록으로 분할될 수 있다. 이때, 예측 블록의 분할 형태는 영상 부호화 장치 및 영상 복호화 장치에서 기 설정되어 사용될 수 있다.
이하, 도면을 참조하여, 다중 인트라 예측 모드 정보를 부호화/복호화하는 것에 대해 상세히 살펴보기로 한다.
도 19는 부호화 과정에서 다중 인트라 예측 모드의 이용 여부를 결정하는 과정을 나타낸 흐름도이다. 본 실시예에서, 현재 블록은, 현재 인트라 예측 모드로 부호화되는 예측 블록을 나타내는 것으로 가정한다. 경우에 따라, 현재 블록은, 부호화 블록, 변환 블록 또는 예측 블록이 분할됨으로써 생성되는 부분 블록 등을 의미할 수도 있다.
먼저, 부호화 장치는 현재 블록에 인접한 주변 화소들 중 화소값이 두드러지게 변화하는 지점(이하, '변곡점'이라 호칭함)을 탐색할 수 있다(S601). 변곡점은 주변 화소 및 주변 화소에 이웃하는 이웃 화소 사이의 화소값 변화가 기 설정된 한계값 이상인 지점, 또는 주변 화소 및 주변 화소에 이웃하는 이웃 화소 사이의 화소값 변화가 가장 큰 지점 등을 의미할 수 있다.
도 20은 변곡점을 탐색하는 예를 설명하기 위한 도면이다. 설명의 편의를 위해, 현재 블록은 4x4 크기의 예측 블록인 것으로 가정한다.
부호화 장치는 현재 블록에 인접한 주변 화소들 각각에 대한 화소값 변화 정도(이하, '변곡값'이라 호칭함)를 계산할 수 있다. 변곡값은 현재 블록에 인접한 주변 화소 및 주변 화소에 인접한 이웃 화소 사이의 변화량(또는 차분값), 또는 주변 화소에 이웃한 이웃 화소들 사이의 변화량(또는 차분값)에 기초하여 계산될 수 있다.
여기서, 현재 블록에 인접한 주변 화소는, 현재 블록의 상단 경계에 인접한 화소, 현재 블록의 좌측 경계에 인접한 화소 및 현재 블록의 코너(예컨대, 좌측 상단 코너, 우측 상단 코너 및 좌측 하단 코너)에 인접한 화소 중 적어도 하나를 포함할 수 있다. 일 예로, 도 20에 도시된 예에서는, 현재 블록의 주변 화소로 a~k 가 예시되었다.
다른 예로, 부호화 장치는 현재 블록에 인접한 주변 화소들 중 현재 블록의 코너에 인접한 화소(예컨대, 현재 블록의 좌측 상단 코너에 인접한 화소, 현재 블록의 좌측 하단 코너에 인접한 화소 또는 현재 블록의 우측 상단 코너에 인접한 화소 중 적어도 하나)를 제외한 잔여 주변 화소들을 대상으로, 변곡값을 계산할 수도 있다. 또는, 부호화 장치는 현재 블록에 인접한 주변 화소들 중 최우측 화소 또는 최하단 화소를 제외한 잔여 주변 화소들을 대상으로, 변곡값을 계산할 수도 있다. 일 예로, 부호화 장치는 도 20에 도시된 예에서, a~k 주변 화소들 중 f 및 k 화소를 제외한 잔여 화소에 대한 변곡값을 계산할 수 있다.
현재 예측 블록의 크기와 모양에 따라 주변 화소의 개수 또는 범위는 달라질 수 있다. 이에 따라, 현재 블록의 크기와 모양에 따라, 변곡값 계산 대상이 되는 주변 화소의 개수 또는 범위 또한 달라질 수 있다.
수학식 4는 변곡값 계산 방법의 일 예를 나타낸 것이다.
Figure PCTKR2017004576-appb-M000004
수학식 4에서, 현재 주변 화소는, 현재 블록에 인접한 주변 화소 중 변곡값 계산 대상이 되는 주변 화소를 나타낸다. 현재 주변 화소의 변곡값은, 현재 주변 화소에 인접한 인접 주변 화소들의 차분에 절대값을 취한 값으로 계산될 수 있다. 일 예로, 현재 블록의 상단에 인접한 주변 화소들(예컨대, 도 20의 화소 'b~e')의 변곡값은, 주변 화소의 좌측에 인접한 주변 화소 및 주변 화소의 우측에 인접한 주변 화소 사이의 차분값에 기초하여 계산될 수 있다. 현재 블록의 좌측에 인접하는 주변 화소들(예컨대, 도 20의 화소 'g~j')의 변곡값은 주변 화소의 상단에 인접한 주변 화소 및 주변 화소의 하단에 인접한 주변 화소 사이의 차분값에 기초하여 계산될 수 있다. 또한, 현재 블록의 좌측 상단 코너에 인접한 주변 화소(예컨대, 도 20의 화소 'a')는 주변 화소의 하단에 인접한 주변 화소 및 주변 화소의 우측에 인접한 주변 화소 사이의 차분값에 기초하여 계산될 수 있다.
앞서, 설명한 바와 같이, 현재 블록의 주변 화소들 중 일부(예컨대, 주변 화소들 중 현재 블록의 경계에 인접하지 않은 화소, f 및 k)는 변곡값 계산 대상에서 제외될 수 있다. 현재 블록의 주변 화소들 중 변곡값 계산 대상에서 제외되는 주변 화소들의 변곡값은 기 설정된 값(예컨대, 0)으로 설정될 수 있다.
주변 화소들에 대한 변곡값 계산이 완료되면, 부호화 장치는, 계산된 변곡값을 기초로, 변곡점을 선택할 수 있다. 일 예로, 부호화 장치는 변곡값이 가장 큰 주변 화소 또는 변곡값이 임계값 이상인 주변 화소 중 변곡값이 가장 큰 주변 화소를 변곡점으로 설정할 수 있다. 일 예로, 도 20에 도시된 예에서, 주변 화소 b의 변곡값이 최대인 경우, 부호화 장치는 도 20에 도시된 'O' 지점을 변곡점으로 설정할 수 있다.
동일한 최대 변곡값을 갖는 주변 화소가 복수개 존재하는 경우, 부호화 장치는 상기 복수개의 주변 화소를 대상으로, 변곡값을 재산정 하거나, 기 설정된 우선 순위에 기초하여, 복수개의 주변 화소들 중 어느 하나를 변곡점으로 선택할 수 있다.
일 예로, 동일한 최대 변곡값을 갖는 주변 화소가 복수개 존재하는 경우, 부호화 장치는 해당 변곡점들의 변곡값을 재산정하되, 변곡값의 재산정시 이용되는 주변 화소들의 개수 또는 위치를 조정할 수 있다. 일 예로, 부호화 장치는 주변 화소의 변곡값 재계산시, 주변 화소에 인접한 인접 화소의 개수를 양방향(또는 단방향)으로 1개씩 증가시킬 수 있다. 이에 따라, 최대 변곡값을 갖는 주변 화소가 현재 블록의 상단에 인접한 주변 화소인 경우, 상기 주변 화소의 좌측에 인접한 2개의 주변 화소 및 상기 주변 화소의 우측에 인접한 2개의 주변 화소를 이용하여, 상기 주변 화소의 변곡값을 재산정할 수 있다.
다른 예로, 동일한 최대 변곡값을 갖는 주변 화소가 복수개 존재하는 경우, 부호화 장치는 특정 위치의 화소와 가까운 주변 화소를 변곡점으로 선택할 수도 있다. 예컨대, 부호화 장치는 현재 블록의 좌측 상단 주변 화소에 가까운 변곡점일 수록 더 높은 우선순위를 부여할 수 있다.
다른 예로, 부호화 장치는 동일한 최대 변곡값을 갖는 주변 화소가 복수개 존재하는 경우, 해당 변곡점들의 변곡값을 재산정하고, 재선정된 변곡값을 기초로 변곡점을 결정하되, 변곡값을 재선정하였음에도 불구하고, 최대 변곡값을 갖는 주변 화소가 복수개 존재할 경우, 우선 순위에 기초하여 변곡점을 선택할 수도 있다.
상술한 예에서는, 현재 블록에 인접한 주변 화소 및 주변 화소에 이웃하는 주변 화소들에 기초하여 변곡점이 결정되는 것으로 설명하였다. 설명한 예와 달리, 변곡점은, 현재 블록에 이웃한 주변 블록들의 부호화 파라미터를 기초로 결정될 수도 있다. 여기서, 부호화 파라미터는 주변 블록들을 부호화하는데 이용되는 파라미터들로, 인트라 예측 모드, 움직임 벡터 등의 예측 관련 정보를 포함할 수 있다. 일 예로, 변곡점은, 현재 블록에 이웃하는 주변 블록 간 인트라 예측 모드의 차이가 기 설정된 임계값 이상인 경우 또는 현재 블록에 이웃하는 주변 블록 간 움직임 벡터의 차이가 기 설정된 임계값 이상인 경우 등에 있어서, 주변 블록의 경계를 변곡점으로 설정할 수도 있다. 이처럼, 주변 블록 간 부호화 파라미터의 차이가 큰 경우, 주변 블록의 경계에서 급격한 변화가 발생한 것이라 예측할 수 있으므로, 주변 블록의 경계를 변곡점으로 삼아 부호화/복호화 효율을 향상시킬 수 있다. 복호화 장치 역시, 주변 블록들의 부호화 파라미터를 이용하여, 변곡점을 결정할 수 있다.
변곡점이 결정되면, 부호화 장치는 변곡점을 기준으로, 현재 블록의 분할 형태를 결정할 수 있다(S602).
도 21은 현재 블록의 형태에 따른 분할 형태를 예시한 도면이다.
도 21에 도시된 예에서, 현재 블록은 적어도 하나의 기준선에 따라, 두개 이상의 부분 블록으로 분할될 수 있다. 이때, 현재 블록이 분할됨으로써 생성되는 부분 블록은, 직사각형 형태뿐만 아니라, 삼각형 또는 사다리꼴 형태를 띨 수도 있다. 도 21의 식별부호 2101은 현재 블록이 정사각형 형태일 때, 18개의 분할선(또는 18개의 분할 형태)이 존재할 수 있음을 예시한 것이고, 도 21의 식별부호 2102 및 2103은 현재 블록이 직사각형 형태일 때, 20개의 분할선(또는 20개의 분할형태)를 가질 수 있음을 예시한 것이다. 다만, 현재 블록의 분할 형태는 도시된 예에 한정되는 것은 아니라 할 것이다. 도시된 것 이외에도, 다양한 형태의 대각 분할 또는 이분 분할이 적용될 수 있다.
부호화 장치는 결정된 변곡점을 시작점으로 하는 분할선 또는 결정된 변곡점과 가장 가까운 시작점으로 하는 분할선을 선택하고, 선택된 분할선에 따라, 현재 블록을 분할할 수 있다. 일 예로, 변곡점의 위치가 분할선의 좌측 또는 상단 시작점과 일치하지 않는 경우, 부호화 장치는 변곡점의 위치를 가장 가까운 분할선의 시작점으로 변경할 수 있다.
이후, 부호화 장치는 변곡점으로부터 어떠한 형태로 현재 블록을 분할할 것인지를 결정하기 위해, 변곡점 주변 화소의 기울기 정보를 계산할 수 있다.
일 예로, 도 22는 주변 화소의 기울기 정보를 계산하는 예를 설명하기 위한 도면이다. 설명의 편의를 위해, 현재 블록의 크기는 4x4이고, 변곡점은 b1 인 것으로 가정한다.
부호화 장치는 변곡점을 기초로 선택된 N 개의 화소를 이용하여, 기울기 정보를 계산할 수 있다. 일 예로, 부호화 장치는 도 22에 도시된 예에서와 같이, 변곡점 b1을 포함하는 3x3 블록을 구성하고, 구성된 3x3 블록에 포함된 화소들을 기초로 기울기 정보를 계산할 수 있다.
현재 블록의 변곡점이 현재 블록의 상단에 위치한 주변 화소일 경우, 변곡점은 3x3 블록의 최하단행에 포함될 수 있다. 반면, 현재 블록의 변곡점이 현재 블록의 좌측에 위치한 주변 화소일 경우, 변곡점은 3x3 블록의 최우측 열에 포함될 수 있다. 즉, 현재 블록의 변곡점이 상단에 존재하는 경우, 변곡점의 주변 화소 및 변곡점의 상단 방향에 위치한 화소들을 중심으로 3x3 블록을 구성할 수 있다. 반면, 현재 블록의 변곡점이 좌측에 존재하는 경우, 변곡점의 주변 화소 및 변곡점의 좌측 방향에 위치한 화소들을 중심으로 3x3 블록을 구성할 수 있다.
부호화 장치는 변곡점에 인접한 주변 화소들을 이용하여, 가로 방향 기울기 및 세로 방향 기울기를 계산하고, 가로 방향 기울기 및 세로 방향 기울기를 기초로, 현재 블록에 대한 기울기 정보를 계산할 수 있다. 일 예로, 수학식 5는 기울기 정보를 계산하기 위한 일련의 과정을 나타낸 것이다.
Figure PCTKR2017004576-appb-M000005
상기 수학식 5에서, fx(x, y)는 가로 방향의 기울기 정도를 나타내고, fy(x, y)는 세로 방향의 기울기 정도를 나타낸다. 현재 블록의 기울기는 세로 방향의 기울기 값에 대한 가로 방향 기울기 값에 아크 탄젠트를 취함으로써 획득될 수 있다. 현재 블록의 기울기 값을 통해 현재 블록의 윤곽선 방향을 알 수 있다.
상술한 예에서는, 현재 블록에 이웃한 주변 화소 및 주변 화소에 인접한 주변 화소들을 기초로 기울기 값이 계산되는 것으로 설명하였다. 다른 예로, 현재 블록의 기울기는 현재 블록에 이웃하는 주변 블록들의 부호화 파라미터를 기초로 결정될 수도 있다. 일 예로, 기울기 값은 변곡점 주변의 주변 블록들의 인트라 예측 모드(또는 인트라 예측 모드 각도) 또는 변곡점 주변의 주변 블록들의 모션 벡터 등을 기초로 결정될 수 있다. 변곡점이 주변 블록들 사이의 경계에 위치하는 경우, 부호화 장치는 변곡점에 위치한 주변 블록들 중 어느 블록의 부호화 파라미터를 이용하여 기울기 값을 결정할 것인지를 나타내기 위한 인덱스 정보를 부호화할 수 있다. 여기서, 인덱스 정보는 주변 블록들 중 어느 하나를 나타내는 정보일 수 있다.
현재 블록의 기울기가 계산되면, 부호화 장치는 변곡점의 위치 및 기울기 정도를 고려하여, 현재 블록에 대한 최적의 분할 형태를 결정할 수 있다. 여기서, 최적의 분할 형태는, 현재 블록의 변곡점을 시작점으로 하는 분할선 중 현재 블록의 기울기 각도와 일치하는 기울기 각도를 갖는 분할선, 또는 현재 블록의 기울기 각도와 가장 유사한 기울기 각도를 갖는 분할선(즉, 현재 블록의 기울기 각도와의 차이가 최소인 기울기 각도를 갖는 분할선)을 이용한 것일 수 있다. 이때, 현재 블록의 기울기 각도와 가장 유사한 기울기 각도를 갖는 분할 형태가 복수개 존재하는 경우, 부호화 장치는 기 설정된 우선 순위에 따라, 우선 순위가 높은 분할 형태를 선택할 수도 있다.
부호화 장치는 현재 블록의 분할 형태를 결정하기 위한 정보를 부호화하고, 부호화된 정보를 비트스트림을 통해 복호화 장치로 전송할 수 있다. 현재 블록의 분할 형태를 결정하기 위한 정보는 예측 블록 단위 또는 상위 헤더를 통해 부호화될 수 있다. 여기서, 상위 헤더는, 부호화 블록 계층, 슬라이스 계층, 픽처 계층, 시퀀스 계층 및 비디오 계층 등을 의미할 수 있다.
현재 블록의 분할 형태를 결정하기 위한 정보는, 현재 블록의 분할 형태를 식별하기 위한 인덱스, 변곡점의 위치 또는 기울기 정보 중 적어도 하나를 포함할 수 있다. 일 예로, 변곡점의 위치는 예측 블록 단위 또는 상위 헤더를 통해 부호화되어 복호화 장치로 전송될 수 있다.
다른 예로, 복호화 장치는 부호화 장치와 동일한 방법으로, 현재 블록의 분할 형태를 결정할 수도 있다. 일 예로, 복호화 장치는, 주변 블록들 사이의 화소값 변화량을 기초로, 변곡점을 유도하고, 유도된 변곡점을 중심으로 N 개의 화소를 이용해 기울기 정보를 계산한 뒤, 기 설정된 분할 패턴 중 어느 하나를 현재 블록의 분할 형태를 결정할 수 있다.
이때, 부호화 장치는 다중 인트라 예측 모드를 이용할 것인지 여부(즉, 한 현재 블록을 복수의 부분 블록으로 분할하여 인트라 예측을 수행할 것인지 여부)에 대한 정보를 부호화하고, 비트스트림을 통해 부호화된 정보를 전송할 수 있다. 복호화 장치는 상기 정보를 부호화하고, 상기 정보가 현재 블록을 복수의 부분 블록으로 나누어 인트라 예측을 수행할 것을 나타내는 경우에만, 현재 블록을 복수의 부분 블록으로 분할할 수 있다.
현재 블록에 대한 분할 형태가 결정되면, 부호화 장치는 현재 블록에 포함된 각 부분 블록에 대한 인트라 예측 모드를 결정할 수 있다(S603). 이때, 부호화 장치는 각 부분 블록에 서로 다른 인트라 예측 모드를 할당할 수 있다.
부호화 장치는, 부분 블록에 대해 인트라 예측 모드별 RDO(Rate Distortion Optimization)를 수행함으로써 계산되는 RD-비용값(Rate Distortion-Cost)에 기초하여, 현재 블록에 포함된 각 부분 블록의 인트라 예측 모드를 결정할 수 있다. 일 예로, 부호화 장치는 현재 블록에 포함된 각 부분 블록에 대해 RD-비용값이 최소가 되는 인트라 예측 모드를, 각 부분 블록의 인트라 예측 모드로 결정할 수 있다.
RDO를 수행함에 있어서, 부호화 장치는, 모든 이용 가능한 인트라 예측 모드를 대상으로 RD-비용값을 계산할 수도 있고, 일부 인트라 예측 모드를 대상으로 RD-비용값을 계산할 수도 있다. 일부 인트라 예측 모드는, 영상 부호화 장치 및 영상 복호화 장치에서 동일하게 설정되어 사용될 수 있다. 또는, 일부 인트라 예측 모드는, 현재 블록과 인접한 참조 화소만을 이용하는 인트라 예측 모드만을 포함할 수도 있다.
다른 예로, 일부 인트라 예측 모드는, 현재 블록에 인접한 주변 블록의 인트라 예측 모드 및 기 설정된 추가 인트라 예측 모드 중 적어도 하나를 포함할 수도 있다. 일 예로, 주변 블록의 인트라 예측 모드가 비방향성 모드인 경우, 모든 비방향성 모드와 선택 빈도가 높은 일부 방향성 예측 모드(예컨대, 수직 방향 예측 모드, 수평 방향 예측 모드 등) 등을 후보로 삼아 RDO를 수행할 수 있다. 또는, 주변 블록의 인트라 예측 모드가 방향성 모드인 경우, 모든 비방형성 예측 모드와 주변 블록의 인트라 예측 모드 및 주변 블록의 인트라 예측 모드와 유사한 방향을 갖는 인트라 예측 모드(예컨대, 주변 블록의 인트라 예측 모드와 차이가 임계값 이하인 인트라 예측 모드) 등을 후보로 삼아 RDO를 수행할 수 있다.
부호화 장치는, 선택된 인트라 예측 모드를 이용하여, 현재 블록에 대한 인트라 예측을 수행할 수 있다. 이때, 현재 블록이 사선에 의해 부분 블록으로 분할되었다면, 분할선이 화소 경계와 일치하지 않아, 부분 블록 간 중복 화소(즉, 중복되는 영역)가 나타날 수 있다.
일 예로, 도 23은 현재 블록의 분할 형태에 따라, 중복 영역이 발생되는 예를 나타낸 도면이다.
도 23에 도시된 식별부호 2301 및 2302에 대응하는 블록의 경우, 분할선이 화소 경계에 일치하므로, 부분 블록 간 중복 영역이 발생하지 않는다. 그러나, 식별부호 2303 내지 2305에 대응하는 블록의 경우, 분할선이 화소 경계와 일치하지 않는 부분(즉, 화소를 관통하는 부분)이 존재하므로, 부분 블록간 중복된 화소(즉, 중복 영역)이 존재하는 것으로 볼 수 있다.
이처럼, 부분 블록 간 중복 영역이 존재하는 경우, 중복 영역에 포함된 화소의 예측값은, 중복 영역을 포함하는 부분 블록들의 인트라 예측 결과로 생성된 예측값들의 평균 또는 예측값들의 선형 보간 등을 통해 획득될 수 있다. 일 예로, 현재 블록이 제1 부분 블록 및 제2 부분 블록으로 분할되었다고 가정할 경우, 제1 부분 블록 및 제2 부분 블록에 공통적으로 포함된 화소의 예측값은, 제1 부분 블록의 인트라 예측 모드를 이용하여 계산된 제1 예측값 및 제2 부분 블록의 인트라 예측 모드를 이용하여 계산된 제2 예측값 사이의 평균값 또는 제1 예측값 및 제2 예측값을 선형 보간한 값으로 결정될 수 있다.
다른 예로, 중복 영역에 포함된 화소의 예측값은, 중복 영역을 포함하는 부분 블록들 중 어느 하나의 인트라 예측 모드를 이용하여 생성될 수도 있다. 이때, 부분 블록들 중 어느 블록을 이용할 것인지는, 부분 블록 간 기 설정된 우선 순위, 인트라 예측 모드 간 기 설정된 우선 순위 또는 중복 영역에 포함된 화소의 위치 등에 기초하여 결정될 수 있다. 일 예로, 중복 영역에 포함된 화소의 예측값은, 중복 영역을 포함하는 부분 블록들의 인트라 예측 모드 중 기 설정된 우선 순위가 높은 것을 이용하여 생성될 수 있다.
다음으로, 부호화 장치에서, 각 부분 블록별 인트라 예측 모드를 부호화하는 것에 대해 상세히 살펴보기로 한다.
도 24는 부분 블록의 인트라 예측 모드를 부호화하는 과정을 나타낸 흐름도이다. 설명의 편의를 위해, 부분 블록들의 인트라 예측 모드를, 주 예측 모드 및 부 예측 모드로 구분하기로 한다. 여기서, 주 예측 모드는 부분 블록들 중 어느 하나의 인트라 예측 모드를 나타내고, 부 예측 모드는 부분 블록들 중 다른 하나의 인트라 예측 모드를 나타낼 수 있다. 또는, 주 예측 모드 및 부 예측 모드는 인트라 예측 모드에 대한 우선 순위, 부분 블록의 크기, 부분 블록의 위치 또는 부분 블록의 크기 등에 따라 결정될 수도 있다. 부 예측 모드는 주 예측 모드와 상이한 인트라 예측 모드로 결정될 수 있다.
먼저, 부호화 장치는 다중 인트라 예측을 위한 동작 정보를 부호화할 수 있다(S1101). 여기서, 다중 모드 동작 정보는 현재 블록에 대해 단일의 인트라 예측 모드를 사용하는 것이 최적인지 혹은 복수의 인트라 예측 모드를 사용하는 것이 최적인지 여부를 나타낸다.
다중 인트라 예측 모드가 참인 경우(S1102), 부호화 장치는 주 예측 모드로 결정된 인트라 예측 모드를 부호화하고(S1103), 뒤이어 부 예측 모드로 결정된 인트라 예측 모드를 부호화할 수 있다(S1104). 주 예측 모드는 MPM(Most Probable Mode) 후보를 이용한 부호화 과정을 거쳐 부호화될 수도 있고, MPM 후보를 이용함이 없이 부호화될 수도 있다. 부 예측 모드는 MPM 후보를 이용한 부호화 과정을 거쳐 부호화될 수도 있고, MPM 후보를 이용함이 없이 부호화될 수도 있다.
부호화 장치는 주 예측 모드와 부 예측 모드 사이의 차분값을 부호화할 수도 있다. 일 예로, 부호화 장치는 주 예측 모드를 MPM 후보를 이용하여, 주 예측 모드를 부호화하는 한편, 주 예측 모드와 부 예측 모드 사이의 차분값을 부호화할 수 있다. 이 경우, 복호화 장치는 MPM 후보를 이용하여 주 예측 모드를 유도하는 한편, 주 예측 모드와 부 예측 모드 사이의 차분값을 통해 부 예측 모드를 획득할 수 있을 것이다.
다중 인트라 예측 모드가 거짓인 경우(S1102), 부호화 장치는 현재 블록에 대한 단일의 인트라 예측 모드를 부호화할 수 있다(S1105). 일 예로, 부호화 장치는 MPM 후보를 이용하여, 현재 블록에 대한 인트라 예측 모드를 부호화할 수 있다.
도 25를 기초로, MPM 후보를 이용하여, 현재 블록에 대한 인트라 예측 모드를 부호화하는 것에 대해 상세히 설명하기로 한다.
도 25는 MPM 후보를 이용하여, 인트라 예측 모드를 부호화하는 방법을 나타낸 흐름도이다. 본 실시예에서, 현재 블록의 인트라 예측 모드는, 주 예측 모드, 부 예측 모드 또는 단일 예측 모드 중 어느 하나를 의미할 수 있다.
도 25를 참조하면, 먼저, 부호화 장치는 현재 블록에 대한 MPM 후보를 결정할 수 있다(S1201). 부호화 장치는 현재 블록에 이웃하는 이웃 블록들의 인트라 예측 모드에 기초하여, 현재 블록의 MPM 후보를 결정할 수 있다.
일 예로, 도 26은 현재 블록의 MPM 후보를 결정하는 것을 예시한 도면이다. 도 26에서, L은, 현재 블록의 좌측에 인접한 좌측 주변 블록들의 인트라 예측 모드 중 사용 빈도수가 가장 높은 인트라 예측 모드이고, A는 현재 블록의 상단에 인접한 상단 주변 블록들의 인트라 예측 모드 중 사용 빈도수가 가장 높은 인트라 예측 모드를 나타낸다. 또는, L은 특정 위치의 좌측 주변 블록의 인트라 예측 모드를 타나내고, A는 특정 위치의 상단 주변 블록의 인트라 예측 모드를 나타낼 수도 있다.
도 26에서는, 현재 블록의 MPM 후보가 3개이고, 3개의 MPM 후보는, L, A, L과 유사한 방향의 인트라 예측 모드(즉, L-1, L+1), 비 방향성 모드(Planar, DC) 및 기 설정된 방향성 모드(수직 방향 모드) 중 적어도 하나를 포함하는 것으로 도시되었다. 다만, 도시된 예에 따라, 본 발명이 한정되는 것은 아니며, 현재 블록의 MPM 후보는 도시된 것과 다른 방법에 의해 생성되는 것도 가능하다. 일 예로, 현재 블록의 MPM 후보는 3개보다 더 많은 수를 포함할 수도 있다.
만약, 현재 블록에 이웃한 주변 블록이 다중 인트라 예측 모드로 부호화되었다면, 현재 블록의 MPM 후보는 주변 블록의 다중 인트라 예측 모드를 모두 고려하여 결정될 수도 있고, 주변 블록의 다중 인트라 예측 모드 중 어느 하나만을 고려하여 결정될 수도 있다. 일 예로, 현재 블록의 MPM 후보는 주변 블록의 다중 인트라 예측 모드 중 주 예측 모드를 고려하여 결정될 수 있다.
또는, 현재 블록의 주 예측 모드에 대한 MPM 후보는, 주변 블록의 주 예측 모드를 이용하여 결정하고, 현재 블록의 부 예측 모드에 대한 MPM 후보는, 주변 블록의 부 예측 모드를 이용하여 결정할 수도 있다.
부호화 장치는 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는지 여부를 판단하고, 판단 결과에 따라, 동작 정보를 부호화할 수 있다(S1202). 여기서, 동작 정보는 1비트의 플래그(예컨대, MPM 플래그)일 수 있다. 일 예로, 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는 경우, 부호화 장치는 MPM 플래그를 '참'으로 부호화하고, 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는 않는 경우, 부호화 장치는 MPM 플래그를 '거짓'으로 부호화할 수 있다.
현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는 경우(S1203), 부호화 장치는 현재 블록의 인트라 예측 모드와 동일한 MPM 후보를 특정하는 색인 정보를 부호화할 수 있다(S1204).
현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하지 않는 경우(S1203), 부호화 장치는 MPM 후보를 제외한 잔여 인트라 예측 모드들 중 현재 블록에 대한 최적의 인트라 예측 모드를 나타내는 잔여 모드를 부호화할 수 있다(S1205). 구체적으로, 부호화 장치는 전체 인트라 예측 모드(또는 현재 블록이 이용할 수 있는 인트라 예측 모드) 중 MPM 후보의 개수를 차감한 잔여 인트라 예측 모드 개수만큼 비트를 할당하여 잔여 모드를 부호화할 수 있다.
부 예측 모드는 주 예측 모드와 상이한 값으로 설정되는 바, 부 예측 모드에 대한 잔여 모드는, MPM 후보 및 주 예측 모드를 제외한 잔여 인트라 예측 모드를 기초로 부호화될 수 있다.
다음으로, 복호화 장치에서 최적 인트라 예측 모드를 복호화하는 방법에 대해 설명하기로 한다.
도 27은 현재 블록의 인트라 예측 모드를 복호화하는 방법을 나타낸 흐름도이다.
도 27을 참조하면, 먼저, 복호화 장치는 비트스트림으로부터 다중 모드 동작 정보를 복호화할 수 있다(S1401). 여기서, 다중 모드 동작 정보는 현재 블록이 다중 인트라 예측 모드를 이용하여 부호화되었는지 여부를 나타낸다.
현재 블록이 다중 인트라 예측 모드를 이용하여 부호화된 것으로 판단되는 경우(S1402), 복호화 장치는 현재 블록을 복수의 부분 블록으로 분할할 수 있다. 여기서, 복호화 장치는 부호화 장치로부터 시그널링되는 블록 분할 패턴 정보에 기초하여 현재 블록을 분할할 수도 있고, 변곡점 및 기울기를 산출한 뒤, 산출된 변곡점 및 기울기에 부합하는 분할 패턴을 선택하여, 현재 블록을 분할할 수도 있다.
현재 블록이 복수의 부분 블록으로 분할되는 경우, 복호화 장치는 현재 블록에 대한 주 예측 모드를 복호화하고(S1403), 이어 부 예측 모드를 복호화할 수 있다(S1404). 앞서, 부호화 과정에서 설명한 바와 같이, 주 예측 모드 또는 부 예측 모드는 MPM 후보를 이용하여 복호화될 수도 있고, MPM 후보를 이용함이 없이 복호화될 수도 있다. 또는, 주 예측 모드를 복호화한 뒤, 주 예측 모드와 부 예측 모드 사이의 차분값에 기초하여, 부 예측 모드를 획득할 수도 있다.
현재 블록이 다중 인트라 예측 모드를 이용하지 않고 부호화된 것으로 판단되는 경우, 복호화 장치는 현재 블록에 대한 단일의 인트라 예측 모드를 복호화할 수 있다(S1405). 여기서, 현재 블록에 대한 단일의 인트라 예측 모드는 MPM 후보를 이용하여 복호화될 수 있다.
도 28은 MPM 후보를 이용하여 현재 블록의 인트라 예측 모드를 복호화하는 과정을 나타낸 흐름도이다. 본 실시예에서, 현재 블록의 인트라 예측 모드는, 주 예측 모드, 부 예측 모드 또는 단일 예측 모드 중 어느 하나를 의미할 수 있다.
먼저, 복호화 장치는 현재 블록에 대한 MPM 후보를 결정할 수 있다(S1501). 구체적으로, 복호화 장치는 현재 블록에 이웃한 이웃 블록들의 인트라 예측 모드에 기초하여 MPM 후보를 결정할 수 있다. 현재 블록의 MPM 후보를 생성하는 것에 대해서는, 도 26을 통해 상세히 설명하였으므로, 현 단계에서는 이에 대한 상세한 설명은 생략한다.
이후, 복호화 장치는 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는지 여부를 나타내는 정보를 복호화할 수 있다(S1502). 상기 정보는 1비트의 플래그일 수 있으나, 이에 한정되는 것은 아니다.
현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하는 것으로 판단되는 경우(S1503), 복호화 장치는 현재 블록의 인트라 예측 모드와 동일한 MPM 후보를 특정하는 정보(예컨대, MPM 색인 정보)를 복호화할 수 있다(S1504). 이 경우, 현재 블록의 인트라 예측 모드는 MPM 색인 정보가 특정하는 인트라 예측 모드으로 결정될 수 있다.
반면, 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하지 않는 것으로 판단되는 경우(S1503), 복호화 장치는 잔여 모드 정보를 복호화하고(S1505), 복호화된 잔여 모드 정보에 기초하여, 현재 블록에 대한 인트라 예측 모드를 결정할 수 있다. 여기서, 잔여 모드 정보는 현재 블록이 이용할 수 있는 인트라 예측 모드 중 MPM 후보를 제외하고 부호화된 것일 수 있다.
본 개시의 예시적인 방법들은 설명의 명확성을 위해서 동작의 시리즈로 표현되어 있지만, 이는 단계가 수행되는 순서를 제한하기 위한 것은 아니며, 필요한 경우에는 각각의 단계가 동시에 또는 상이한 순서로 수행될 수도 있다. 본 개시에 따른 방법을 구현하기 위해서, 예시하는 단계에 추가적으로 다른 단계를 포함하거나, 일부의 단계를 제외하고 나머지 단계를 포함하거나, 또는 일부의 단계를 제외하고 추가적인 다른 단계를 포함할 수도 있다.
본 개시의 다양한 실시 예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.
또한, 본 개시의 다양한 실시 예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.
본 발명은 영상을 부호화/복호화하는 것에 이용될 수 있다.

Claims (10)

  1. 현재 블록이 다중 인트라 예측 모드를 이용하여 부호화되었는지 여부를 나타내는 정보를 복호화하는 단계;
    상기 현재 블록이 다중 인트라 예측 모드로 부호화된 것으로 판단되는 경우, 상기 현재 블록을 복수의 부분 블록으로 분할하는 단계; 및
    상기 복수의 부분 블록 각각의 인트라 예측 모드를 획득하는 단계를 포함하는 영상 복호화 방법.
  2. 제1항에 있어서,
    상기 현재 블록을 복수의 부분 블록으로 분할하는 단계는,
    상기 현재 블록 주변의 주변 화소들 중 변곡점을 결정하는 단계;
    상기 변곡점 주변 복수 화소들을 기초로 기울기 정보를 획득하는 단계; 및
    상기 변곡점 및 상기 기울기 정보를 기초로, 상기 현재 블록의 분할 형태를 결정하는 단계를 포함하는 영상 복호화 방법.
  3. 제2항에 있어서,
    상기 변곡점은, 상기 현재 블록 주변의 복원 정보를 기초로 결정되는 것을 특징으로 하는, 영상 복호화 방법.
  4. 제1항에 있어서,
    상기 복수의 부분 블록 각각의 인트라 예측 모드를 획득하는 단계는,
    제1 부분 블록의 제1 인트라 예측 모드를 획득하는 단계;
    상기 제1 인트라 예측 모드 및 제2 부분 블록의 제2 인트라 예측 모드 사이의 차분값을 복호화하는 단계; 및
    상기 차분값에 기초하여, 상기 제2 인트라 예측 모드를 획득하는 단계를 포함하는, 영상 복호화 방법.
  5. 제1항에 있어서,
    상기 복수의 부분 블록 각각의 인트라 예측 모드는 상이한 값을 갖는 것을 특징으로 하는, 영상 복호화 방법.
  6. 현재 블록이 다중 인트라 예측 모드로 부호화되었는지 여부를 판단하는 단계;
    상기 판단 결과를 기초로, 상기 현재 블록이 다중 인트라 예측 모드를 이용하는지 여부를 나타내는 정보를 부호화는 단계;
    상기 현재 블록이 다중 인트라 예측 모드를 이용하도록 설정된 경우, 상기 현재 블록을 복수의 부분 블록으로 분할하는 단계; 및
    상기 복수의 부분 블록 각각의 인트라 예측 모드를 결정하는 단계를 포함하는 영상 부호화 방법.
  7. 제6항에 있어서,
    상기 현재 블록을 복수의 부분 블록으로 분할하는 단계는,
    상기 현재 블록 주변의 주변 화소들 중 변곡점을 결정하는 단계;
    상기 변곡점 주변 복수 화소들을 기초로 기울기 정보를 획득하는 단계; 및
    상기 변곡점 및 상기 기울기 정보를 기초로, 상기 현재 블록의 분할 형태를 결정하는 단계를 포함하는 영상 부호화 방법.
  8. 제7항에 있어서,
    상기 변곡점은, 상기 현재 블록 주변의 복원 정보를 기초로 결정되는 것을 특징으로 하는, 영상 부호화 방법.
  9. 제6항에 있어서,
    상기 복수의 부분 블록 중 제1 부분 블록의 제1 인트라 예측 모드를 결정하는 단계;
    상기 복수의 부분 블록 중 제1 부분 블록의 제2 인트라 예측 모드를 결정하는 단계; 및
    상기 제1 인트라 예측 모드 및 상기 제2 인트라 예측 모드 사이의 차분값을 부호화하는 단계를 더 포함하는, 영상 부호화 방법.
  10. 제6항에 있어서,
    상기 복수의 부분 블록 각각의 인트라 예측 모드는 상이한 값을 갖는 것을 특징으로 하는, 영상 부호화 방법.
PCT/KR2017/004576 2016-04-29 2017-04-28 영상 신호 부호화/복호화 방법 및 장치 WO2017188784A2 (ko)

Priority Applications (26)

Application Number Priority Date Filing Date Title
CN202311054573.8A CN116915990A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311057660.9A CN116916008A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311055556.6A CN116915999A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054691.9A CN116915993A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054774.8A CN116915995A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311056041.8A CN116916004A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054848.8A CN116915997A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054843.5A CN116915996A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311050260.5A CN116915987A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
US16/097,394 US10805607B2 (en) 2016-04-29 2017-04-28 Video signal encoding/decoding method and apparatus
CN202311055507.2A CN116915998A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311058445.0A CN116916013A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311055993.8A CN116916003A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054699.5A CN116915994A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311057067.4A CN116916006A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311055806.6A CN116916000A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311055914.3A CN116916002A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311051162.3A CN116915988A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311054618.1A CN116915992A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN201780039690.3A CN109328461B (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
CN202311056416.0A CN116916005A (zh) 2016-04-29 2017-04-28 视频信号编码/解码方法和设备
US17/016,940 US11122265B2 (en) 2016-04-29 2020-09-10 Video signal encoding/decoding method and apparatus
US17/016,867 US11115659B2 (en) 2016-04-29 2020-09-10 Video signal encoding/decoding method and apparatus
US17/363,911 US20210329238A1 (en) 2016-04-29 2021-06-30 Video signal encoding/decoding method and apparatus
US17/812,158 US11849111B2 (en) 2016-04-29 2022-07-12 Video signal encoding/decoding method and apparatus
US18/309,726 US11849074B2 (en) 2016-04-29 2023-04-28 Video signal encoding/decoding method and apparatus

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
KR10-2016-0052925 2016-04-29
KR20160052925 2016-04-29
KR20160052692 2016-04-29
KR10-2016-0052692 2016-04-29
KR10-2017-0050054 2017-04-18
KR1020170050049A KR20170124077A (ko) 2016-04-29 2017-04-18 영상 신호 부호화/복호화 방법 및 장치
KR10-2017-0050049 2017-04-18
KR1020170050054A KR102365937B1 (ko) 2016-04-29 2017-04-18 영상 신호 부호화/복호화 방법 및 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
US17/016,867 Division US11115659B2 (en) 2016-04-29 2020-09-10 Video signal encoding/decoding method and apparatus

Related Child Applications (4)

Application Number Title Priority Date Filing Date
US16/097,394 A-371-Of-International US10805607B2 (en) 2016-04-29 2017-04-28 Video signal encoding/decoding method and apparatus
US17/016,940 Division US11122265B2 (en) 2016-04-29 2020-09-10 Video signal encoding/decoding method and apparatus
US17/016,867 Division US11115659B2 (en) 2016-04-29 2020-09-10 Video signal encoding/decoding method and apparatus
US17/363,911 Division US20210329238A1 (en) 2016-04-29 2021-06-30 Video signal encoding/decoding method and apparatus

Publications (2)

Publication Number Publication Date
WO2017188784A2 true WO2017188784A2 (ko) 2017-11-02
WO2017188784A3 WO2017188784A3 (ko) 2018-08-02

Family

ID=60160939

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/004576 WO2017188784A2 (ko) 2016-04-29 2017-04-28 영상 신호 부호화/복호화 방법 및 장치

Country Status (3)

Country Link
US (2) US11849111B2 (ko)
CN (19) CN116916005A (ko)
WO (1) WO2017188784A2 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109451315A (zh) * 2018-11-19 2019-03-08 西安科锐盛创新科技有限公司 带宽压缩中复杂纹理的双模式选择预测方法
CN109600608A (zh) * 2018-10-26 2019-04-09 西安科锐盛创新科技有限公司 带宽压缩中复杂纹理的双模式选择预测方法
CN110213594A (zh) * 2018-12-29 2019-09-06 腾讯科技（深圳）有限公司 用于帧内编码的方法、装置、帧编码器、帧编码系统以及计算机可读存储媒体
WO2020141833A1 (ko) * 2019-01-02 2020-07-09 디지털인사이트 주식회사 영상 복호화 방법, 영상 부호화 방법, 영상 복호화 장치, 영상 부호화 장치 및 컴퓨터 판독 가능한 기록 매체

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100581264C (zh) 2006-01-21 2010-01-13 宇龙计算机通信科技(深圳)有限公司 确定视频块帧内或帧间编码的方法
CN101502120B (zh) 2006-08-02 2012-08-29 汤姆逊许可公司 用于视频解码的自适应几何分割方法和设备
BRPI0818649A2 (pt) 2007-10-16 2015-04-07 Thomson Licensing Métodos e aparelho para codificação e decodificação de vídeo em superblocos geometricamente particionados.
US8634456B2 (en) 2008-10-03 2014-01-21 Qualcomm Incorporated Video coding with large macroblocks
US8619856B2 (en) * 2008-10-03 2013-12-31 Qualcomm Incorporated Video coding with large macroblocks
US9196059B2 (en) 2009-01-29 2015-11-24 Lg Electronics Inc. Method and apparatus for processing video signals using boundary intra coding
CN101873500B (zh) 2009-04-24 2012-05-23 华为技术有限公司 帧间预测编码方法、帧间预测解码方法及设备
KR20110061468A (ko) * 2009-12-01 2011-06-09 (주)휴맥스 고해상도 영상의 부호화/복호화 방법 및 이를 수행하는 장치
KR101752418B1 (ko) 2010-04-09 2017-06-29 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
WO2012002785A2 (ko) * 2010-07-02 2012-01-05 (주)휴맥스 화면내 예측 부호화를 위한 영상 부호화/복호화 장치 및 방법
KR101681303B1 (ko) 2010-07-29 2016-12-01 에스케이 텔레콤주식회사 블록 분할예측을 이용한 영상 부호화/복호화 방법 및 장치
CN102595116B (zh) 2011-01-14 2014-03-12 华为技术有限公司 多图像块划分的编解码方法和装置
WO2012098868A1 (ja) 2011-01-19 2012-07-26 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及び画像符号化復号装置
EP2744201A4 (en) 2011-08-09 2016-03-23 Samsung Electronics Co Ltd METHOD AND DEVICE FOR CODING A DEPTH CARD OF VIDEO DATA WITH MULTIPLE VIEWPOINTS AND METHOD AND DEVICE FOR DECODING THE CODED DEPTH CARD
US9253481B2 (en) 2012-01-13 2016-02-02 Qualcomm Incorporated Determining contexts for coding transform coefficient data in video coding
SG11201500316PA (en) * 2012-09-28 2015-02-27 Intel Corp Inter-layer intra mode prediction
AU2013200051B2 (en) 2013-01-04 2016-02-11 Canon Kabushiki Kaisha Method, apparatus and system for de-blocking video data
US9432696B2 (en) 2014-03-17 2016-08-30 Qualcomm Incorporated Systems and methods for low complexity forward transforms using zeroed-out coefficients
KR20150113524A (ko) * 2014-03-31 2015-10-08 인텔렉추얼디스커버리 주식회사 향상된 화면 내 블록 복사 기반의 예측 모드를 이용한 영상 복호화 장치 및 그 방법
US10616604B2 (en) 2015-09-01 2020-04-07 Qualcomm Incorporated Coefficient level coding in video coding

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109600608A (zh) * 2018-10-26 2019-04-09 西安科锐盛创新科技有限公司 带宽压缩中复杂纹理的双模式选择预测方法
CN109600608B (zh) * 2018-10-26 2021-01-26 西安科锐盛创新科技有限公司 带宽压缩中复杂纹理的双模式选择预测方法
CN109451315A (zh) * 2018-11-19 2019-03-08 西安科锐盛创新科技有限公司 带宽压缩中复杂纹理的双模式选择预测方法
CN109451315B (zh) * 2018-11-19 2020-10-13 吉林建筑大学 带宽压缩中复杂纹理的双模式选择预测方法
CN110213594A (zh) * 2018-12-29 2019-09-06 腾讯科技（深圳）有限公司 用于帧内编码的方法、装置、帧编码器、帧编码系统以及计算机可读存储媒体
US11582444B2 (en) 2018-12-29 2023-02-14 Tencent Technology (Shenzhen) Company Limited Intra-frame coding method and apparatus, frame coder, and frame coding system
WO2020141833A1 (ko) * 2019-01-02 2020-07-09 디지털인사이트 주식회사 영상 복호화 방법, 영상 부호화 방법, 영상 복호화 장치, 영상 부호화 장치 및 컴퓨터 판독 가능한 기록 매체
US11895289B2 (en) 2019-01-02 2024-02-06 Digitalinsights Inc. Image decoding method, image encoding method, image decoding device, image encoding device, and computer-readable recording medium

Also Published As

Publication number Publication date
CN116915997A (zh) 2023-10-20
US20230262216A1 (en) 2023-08-17
CN116915994A (zh) 2023-10-20
CN116915988A (zh) 2023-10-20
US11849111B2 (en) 2023-12-19
CN116916003A (zh) 2023-10-20
CN116915992A (zh) 2023-10-20
CN116916005A (zh) 2023-10-20
CN116915987A (zh) 2023-10-20
US11849074B2 (en) 2023-12-19
CN116915999A (zh) 2023-10-20
CN116915993A (zh) 2023-10-20
CN116915998A (zh) 2023-10-20
CN116915996A (zh) 2023-10-20
CN116915995A (zh) 2023-10-20
CN116916004A (zh) 2023-10-20
WO2017188784A3 (ko) 2018-08-02
CN116916008A (zh) 2023-10-20
CN116916000A (zh) 2023-10-20
CN116916013A (zh) 2023-10-20
CN116916006A (zh) 2023-10-20
US20220368900A1 (en) 2022-11-17
CN116916002A (zh) 2023-10-20
CN116915990A (zh) 2023-10-20

Similar Documents

Publication Publication Date Title
WO2017171370A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017176030A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017222326A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017188780A2 (ko) 영상 신호 부호화/복호화 방법 및 장치
WO2018026219A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018097626A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017204532A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 기록 매체
WO2018026118A1 (ko) 영상 부호화/복호화 방법
WO2020076116A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2019050292A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019225993A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018047995A1 (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
WO2020050685A1 (ko) 인트라 예측을 이용한 영상 부호화/복호화 방법 및 장치
WO2018212579A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016200234A1 (ko) 영상의 부호화/복호화 방법 및 이를 위한 장치
WO2020096428A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2018066958A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018056701A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019050291A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019221465A1 (ko) 영상 복호화 방법/장치, 영상 부호화 방법/장치 및 비트스트림을 저장한 기록 매체
WO2017222331A1 (ko) 비디오 신호 처리 방법 및 장치
WO2019182295A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020055169A1 (ko) 인터 예측을 이용한 영상 부호화/복호화 방법 및 장치
WO2019190201A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020096427A1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치

Legal Events

Date Code Title Description
NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17789968

Country of ref document: EP

Kind code of ref document: A2

122 Ep: pct application non-entry in european phase

Ref document number: 17789968

Country of ref document: EP

Kind code of ref document: A2