WO2019083243A1 - Sao 필터링을 위한 방법 및 장치 - Google Patents

Sao 필터링을 위한 방법 및 장치

Info

Publication number
WO2019083243A1
WO2019083243A1 PCT/KR2018/012527 KR2018012527W WO2019083243A1 WO 2019083243 A1 WO2019083243 A1 WO 2019083243A1 KR 2018012527 W KR2018012527 W KR 2018012527W WO 2019083243 A1 WO2019083243 A1 WO 2019083243A1
Authority
WO
WIPO (PCT)
Prior art keywords
bands
total number
information
target
filtering
Prior art date
Application number
PCT/KR2018/012527
Other languages
English (en)
French (fr)
Inventor
임정연
이선영
손세훈
신재섭
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020180054031A external-priority patent/KR102617469B1/ko
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Publication of WO2019083243A1 publication Critical patent/WO2019083243A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component

Definitions

  • the present invention relates to image encoding and decoding, and is related to SAO (Sample Adaptive Offset) as one aspect.
  • SAO Sample Adaptive Offset
  • video data Since video data has a larger amount of data than voice data or still image data, it requires a lot of hardware resources including memory to store or transmit the video data itself without processing for compression. Accordingly, when moving picture data is stored or transmitted, the moving picture data is compressed and stored or transmitted using an encoder.
  • the decoder receives compressed moving picture data, decompresses and reproduces the moving picture data.
  • HEVC High Efficiency Video Coding
  • the present invention aims to provide an improved image encoding and decoding technique.
  • one aspect of the present invention is to compensate for distortion between an original pixel and a reconstructed pixel after encoding / (Sample Adaptive Offset) technique.
  • a method of filtering reconstructed pixels in a target area in an image decoding apparatus comprising: dividing a range of pixel values into a total number of bands or a band width, ; Selecting one or more target bands to perform filtering among the plurality of bands divided based on the total number of bands or the band width; Obtaining an offset corresponding to each of the selected one or more object bands from a bit stream; And adding the corresponding offsets to pixels belonging to the selected one or more object bands of the restored pixels in the target area.
  • an image decoding apparatus comprising: an image reconstructor for decoding pixels in a target area by decoding a bitstream; Wherein the filter determines a total number of bands or a bandwidth for dividing a range of pixel values into a plurality of bands that do not overlap each other, and the total number of bands or Selecting one or more target bands to perform filtering from among the plurality of bands divided based on the band width, obtaining an offset corresponding to each of the selected one or more target bands from the decoded bit stream, And adds corresponding ones of the pixels belonging to the selected one or more target bands among the plurality of pixels.
  • FIG. 1 is an exemplary block diagram of an image encoding apparatus capable of implementing the techniques of the present disclosure
  • FIG. 2 is an example of block division using a QTBT structure
  • 3 is an exemplary diagram of a plurality of intra prediction modes
  • FIG. 4 is an exemplary block diagram of an image decoding apparatus capable of implementing the techniques of the present disclosure
  • FIG. 6 is an exemplary view for explaining a method of classifying target pixels into four categories for each of the four classes of FIG. 5;
  • FIG. 8 is a flow chart illustrating the process of the improved BO described in this disclosure.
  • FIG. 1 is an exemplary block diagram of an image encoding apparatus in which the techniques of the present disclosure may be implemented.
  • the image encoding apparatus includes a block division unit 110, a prediction unit 120, a subtracter 130, a transform unit 140, a quantization unit 145, an encoding unit 150, an inverse quantization unit 160, 165, an adder 170, a filter unit 180, and a memory 190.
  • the image encoding apparatus may be implemented such that each component is implemented as a hardware chip or software, and one or more microprocessors execute the function of the software corresponding to each component.
  • One video is composed of a plurality of pictures. Each picture is divided into a plurality of areas and coding is performed for each area. For example, one picture is divided into one or more slices or / and tiles, and each slice or tile is divided into one or more CTU (Coding Tree Unit). Each CTU is divided into one or more CUs (Coding Units) by a tree structure. The information applied to each CU is encoded as a syntax of the CU, and the information commonly applied to the CUs included in one CTU is encoded as the syntax of the CTU.
  • information that is commonly applied to all blocks in one slice is encoded as a syntax of a slice, and information applied to all blocks constituting one picture is encoded into a picture parameter set (PPS) .
  • PPS picture parameter set
  • information that is commonly referred to by a plurality of pictures is encoded into a sequence parameter set (SPS).
  • SPS sequence parameter set
  • VPS Video Parameter Set
  • the block dividing unit 110 determines the size of the Coding Tree Unit (CTU).
  • the information on the size of the CTU (CTU size) is encoded as the syntax of the SPS or PPS and transmitted to the image decoding apparatus.
  • the block dividing unit 110 divides each picture constituting an image into a plurality of CTUs (Coding Tree Units) having a determined size, and thereafter recursively recursively CTUs using a tree structure, .
  • a leaf node in a tree structure becomes a coding unit (CU) which is a basic unit of coding.
  • CU coding unit
  • a quad tree in which an upper node (or a parent node) is divided into four sub nodes (or child nodes) of the same size, or a binary tree in which an upper node is divided into two lower nodes , BT), or a ternary tree (TT) in which an ancestor node is divided into three subnodes at a ratio of 1: 2: 1, or a structure combining one or more of these QT structures, BT structures and TT structures have.
  • a QuadTree plus BinaryTree (QTBT) structure can be used, or a QuadTree plus BinaryTreeTernaryTree (QTBTTT) structure can be used.
  • FIG. 2 is an exemplary diagram of block partitioning using a QTBT structure.
  • 2 (a) shows an example in which blocks are divided by a QTBT structure
  • FIG. 2 (b) shows them in a tree structure.
  • the solid line represents the division by the QT structure
  • the dotted line represents the division by the BT structure.
  • the absence of parentheses indicates a layer of QT
  • the presence of parentheses indicates a layer of BT.
  • the numbers represent the division type information.
  • the CTU can be first divided into a QT structure.
  • the quadtree partitioning can be repeated until the size of the splitting block reaches the minimum block size (MinQTSize) of the leaf node allowed in QT.
  • the first flag (QT_split_flag) indicating whether each node of the QT structure is divided into four nodes of the lower layer is encoded by the encoding unit 150 and signaled to the video decoding apparatus.
  • the leaf node of the QT is not larger than the maximum block size (MaxBTSize) of the root node allowed in BT, it can be further partitioned into a BT structure.
  • BT there may be a plurality of split types. For example, in some examples, there may be two types: a symmetric horizontal splitting and a vertically splitting type (i.e., symmetric vertical splitting) that divides a block of the node into two blocks of equal size horizontally.
  • the second flag (BT_split_flag) indicating whether each node of the BT structure is divided into the lower layer blocks and the division type information indicating the divided type are encoded by the encoding unit 150 and transmitted to the video decoding apparatus.
  • the block of the node may be divided into two rectangular blocks having a size ratio of 1: 3, or the block of the corresponding node may be divided into diagonal directions.
  • the leaf nodes of the QT may be divided into one or more of the BT structure or the TT structure.
  • the TT structure may also have a plurality of split types. For example, when divided, there are two types: a symmetric horizontal splitting (i.e., symmetric vertical splitting) in which a block of the node is horizontally divided into three blocks at a 1: 2: 1 ratio Can exist.
  • a flag indicating whether each node is divided into blocks of a lower layer and whether the BT structure or the TT structure is used in addition to the division type information (or dividing direction information) indicating the divided type Additional information for discrimination can be signaled to the video decoding apparatus.
  • the CU may have various sizes depending on the QTBT or QTBTTT segment from the CTU.
  • a block corresponding to a CU to be encoded or decoded i.e., a leaf node of QTBTTT
  • a 'current block' a block corresponding to a CU to be encoded or decoded
  • the prediction unit 120 generates a prediction block by predicting the current block.
  • the prediction unit 120 includes an intra prediction unit 122 and an inter prediction unit 124.
  • the current blocks in a picture may each be predictively coded.
  • Prediction of the current block is generally performed using an intra prediction technique (using data from a picture containing the current block) or an inter prediction technique (using data from a picture coded prior to a picture containing the current block) .
  • Inter prediction includes both unidirectional prediction and bidirectional prediction.
  • the intra prediction unit 122 predicts pixels in the current block using pixels (reference pixels) located in the vicinity of the current block in the current picture including the current block.
  • a plurality of intraprediction modes may include a non-directional mode including a planar mode and a DC mode, and 65 directional modes.
  • the neighboring pixels to be used and the calculation expression are defined differently according to each prediction mode.
  • the intra prediction unit 122 may determine an intra prediction mode to be used for coding the current block.
  • the intra-prediction unit 122 may encode the current block using a plurality of intra-prediction modes and may select an appropriate intra-prediction mode to use from the tested modes.
  • the intra-prediction unit 122 may calculate rate-distortion values using a rate-distortion analysis for various tested intra-prediction modes, and may employ rate- The intra prediction mode may be selected.
  • the intra prediction unit 122 selects one intra prediction mode from a plurality of intra prediction modes, and predicts the current block using neighboring pixels (reference pixels) determined by the selected intra prediction mode and an equation.
  • the information on the selected intra prediction mode is encoded by the encoding unit 150 and transmitted to the video decoding apparatus.
  • the inter-prediction unit 124 generates a prediction block for the current block through a motion compensation process.
  • a block most similar to the current block is searched in a reference picture coded and decoded earlier than the current picture, and a prediction block for the current block is generated using the searched block.
  • a motion vector corresponding to the displacement between the current block in the current picture and the prediction block in the reference picture is generated.
  • motion estimation is performed on a luma component, and motion vectors calculated based on luma components are used for both luma components and chroma components.
  • the motion information including the information on the reference picture used for predicting the current block and the information on the motion vector is encoded by the encoding unit 150 and transmitted to the video decoding apparatus.
  • the subtractor 130 subtracts the prediction block generated by the intra prediction unit 122 or the inter prediction unit 124 from the current block to generate a residual block.
  • the transform unit 140 transforms the residual signal in the residual block having pixel values in the spatial domain into transform coefficients in the frequency domain.
  • the transform unit 140 may transform the residual signals in the residual block by using the size of the current block as a transform unit or divide the residual block into a plurality of smaller subblocks and transform residual signals into subblock- Conversion. There are various ways of dividing the residual block into smaller sub-blocks. For example, it may be divided into sub blocks of the same size that have been set, or a QT (quadtree) type partition using a residual block as a root node.
  • QT quadtree
  • the quantization unit 145 quantizes the transform coefficients output from the transform unit 140, and outputs the quantized transform coefficients to the encoding unit 150.
  • the encoding unit 150 encodes the quantized transform coefficients using a coding scheme such as CABAC to generate a bitstream.
  • the encoding unit 150 encodes information such as a CTU size, a QT division flag, a BT division flag, and a division type associated with the block division so that the image decoding apparatus can divide the block into the same blocks as the image encoding apparatus.
  • the encoding unit 150 encodes information on a prediction type indicating whether the current block is coded by intraprediction or inter prediction, and outputs the intra prediction information (that is, Information) or inter prediction information (information on reference pictures and motion vectors).
  • the inverse quantization unit 160 dequantizes the quantized transform coefficients output from the quantization unit 145 to generate transform coefficients.
  • the inverse transform unit 165 transforms the transform coefficients output from the inverse quantization unit 160 from the frequency domain to the spatial domain and restores the residual block.
  • the adder 170 adds the reconstructed residual block and the prediction block generated by the predictor 120 to reconstruct the current block.
  • the pixels in the reconstructed current block are used as reference pixels when intra prediction of the next-order block is performed.
  • the filter unit 180 performs filtering on the restored pixels to reduce blocking artifacts, ringing artifacts, blurring artifacts, and the like caused by block-based prediction and transformation / .
  • the filter unit 180 may include a deblocking filter 182 and an SAO filter 184.
  • the deblocking filter 180 filters boundaries between the restored blocks to remove blocking artifacts caused by block-based encoding / decoding, and the SAO filter 184 adds additional Perform filtering.
  • the SAO filter 184 is a filter used to compensate for the difference between the reconstructed pixel and the original pixel caused by lossy coding. The SAO process will be described later with reference to Fig. 5 and subsequent drawings.
  • the restored block filtered through deblocking filter 182 and SAO filter 184 is stored in memory 190.
  • the reconstructed picture is used as a reference picture for inter prediction of a block in a picture to be coded later.
  • FIG. 4 is an exemplary block diagram of an image decoding apparatus capable of implementing the techniques of this disclosure
  • the image decoding apparatus includes an image reconstructor 4000 including a decoding unit 410, an inverse quantization unit 420, an inverse transform unit 430, a prediction unit 440, an adder 450, And a memory 470.
  • each component may be implemented as a hardware chip, or may be implemented as software, and a microprocessor may be implemented to execute functions of software corresponding to each component.
  • the decoding unit 410 decodes the bit stream received from the image encoding apparatus to extract information related to the block division to determine a current block to be decoded and outputs prediction information necessary for restoring the current block and information about the residual signal .
  • the decoding unit 410 extracts information on a CTU size from an SPS (Sequence Parameter Set) or a PPS (Picture Parameter Set) to determine the size of the CTU, and divides the picture into CTUs of a predetermined size. Then, the CTU is determined as the top layer of the tree structure, that is, the root node, and the CTU is divided using the tree structure by extracting the partition information for the CTU. For example, when the CTU is divided using the QTBT structure, the first flag (QT_split_flag) related to the division of the QT is first extracted and each node is divided into four nodes of the lower layer.
  • SPS Sequence Parameter Set
  • PPS Picture Parameter Set
  • the second flag (BT_split_flag) and the split type (split direction) information related to the BT split are extracted and the corresponding leaf node is divided into the BT structure.
  • the first flag (QT_split_flag) related to the division of the QT is extracted and each node is divided into four nodes of the lower layer.
  • a split flag (split_flag) and a split type (or dividing direction) information indicating whether the node corresponding to the leaf node of the QT is further divided into BT or TT and additional information for distinguishing whether the BT structure or the TT structure . In this way, each node below the leaf nodes of the QT is recursively divided into BT or TT structures.
  • the decoding unit 410 extracts information on a prediction type indicating whether the current block is intra-predicted or inter-predicted.
  • the decoding unit 410 extracts the syntax element for the intra prediction information (intra prediction mode) of the current block.
  • the decoding unit 410 extracts syntax elements for inter prediction information, that is, information indicating a motion vector and a reference picture referred to by the motion vector.
  • the decoding unit 410 extracts information on the quantized transform coefficients of the current block as information on the residual signal.
  • the inverse quantization unit 420 dequantizes the quantized transform coefficients and the inverse transform unit 430 inversely transforms the dequantized transform coefficients from the frequency domain to the spatial domain to generate residual blocks for the current block by restoring the residual signals.
  • the prediction unit 440 includes an intra prediction unit 442 and an inter prediction unit 444.
  • the intra prediction unit 342 is activated when the intra prediction is the prediction type of the current block
  • the inter prediction unit 344 is activated when the intra prediction is the prediction type of the current block.
  • the intra prediction unit 442 determines an intra prediction mode of the current block among the plurality of intra prediction modes from the syntax element for the intra prediction mode extracted from the decoding unit 410, To predict the current block.
  • the inter prediction unit 444 determines a motion vector of the current block and a reference picture referenced by the motion vector using the syntax element for the intra prediction mode extracted from the decoding unit 410, The block is predicted.
  • the adder 450 adds the residual block output from the inverse transform unit and the prediction block output from the inter prediction unit or the intra prediction unit to reconstruct the current block.
  • the pixels in the reconstructed current block are utilized as reference pixels for intra prediction of a block to be decoded later.
  • the image restorer 4000 sequentially restores the current blocks corresponding to the CUs, thereby restoring the picture composed of the CTUs and CTUs constituted by the CUs.
  • the filter unit 460 includes a deblocking filter 462 and an SAO filter 464.
  • the deblocking filter 462 deblocks the boundary between the restored blocks to remove blocking artifacts caused by decoding on a block-by-block basis.
  • the SAO filter 464 performs additional filtering on the reconstructed block after deblocking filtering to compensate for the difference between the reconstructed pixel and the original pixel resulting from lossy coding.
  • the reconstructed block filtered through deblocking filter 462 and SAO filter 464 is stored in memory 470. When all the blocks in one picture are reconstructed, the reconstructed picture is used as a reference picture for inter prediction of a block in a picture to be coded later.
  • the SAO process performed by the SAO filter 184 of the image encoding apparatus and the SAO filter 464 of the image decoding apparatus are the same.
  • the encoding unit 150 of the image encoding apparatus encodes the syntax elements related to the SAO and transmits the encoded syntax elements to the image decoding apparatus.
  • the decoding unit 410 of the image decoding apparatus decodes the syntax elements related to the SAO, (464).
  • the SAO filter 464 performs the same process as the SAO filter 184 of the image encoding apparatus using syntax elements related to SAO.
  • the SAO process is performed on a region-by-region basis, in which the unit in which the SAO process is performed is referred to as a "target region ".
  • the target area may be a picture, a slice, a CTU, a CU, or the like.
  • the CTU is described as a target area, but it is obvious that the present invention is not limited thereto.
  • SAO SAO
  • EO edge offset
  • BO band offset
  • the image encoding apparatus selects one of EO and BO for the target area, and transmits the syntax indicating the SAO type to the image decoding apparatus.
  • the video decoding apparatus determines whether to apply SAO from the syntax indicating the SAO type, whether to apply the edge offset or the band offset when applied. For example, if the syntax indicating SAO type is 0, SAO is not applied. If 1 is BO, 2 is EO.
  • the classification of the target pixel reconstructed in the EO is based on the difference between the target pixel and the adjacent pixels.
  • EO has four classes of horizontal, vertical, 135 degrees and 45 degrees, and the adjacent pixels to be used depend on the class. For example, in the case of the horizontal class, two pixels a and b adjacent to the left and right of the target pixel c are selected, and two pixels a and b adjacent to the top and bottom of the target pixel c Is selected. Which class is applied is signaled on a target area (e.g., CTU) basis.
  • a target area e.g., CTU
  • the image encoding apparatus selects one of the classes of the EO and applies it to the CTU, and transmits information for instructing the class of the EO applied to the CTU to the image decoding apparatus.
  • the image decoding apparatus decodes information for instructing the EO class and selects a class to be applied to the CTU.
  • each pixel in the CTU is classified into one of five categories.
  • a target pixel denoted by " c " is compared with two adjacent pixels (a, b) and classified into one of five categories according to the result.
  • the classification criteria are shown in the table below.
  • Category 1 is associated with the local valley when the target pixel c is less than two adjacent pixels a and b, and category 4 is associated with the local peak when the target pixel c is less than two adjacent pixels a and b.
  • Category 2 is associated with the concave corner where the target pixel c is smaller than any one of the two adjacent pixels and equal to the remaining one, and category 3 is the case where the target pixel c is larger than any one of the two adjacent pixels and the other is equal convex corner.
  • Target pixels not belonging to any of the categories 1 to 4 are classified into category 0, and no filtering is performed.
  • the video encoding apparatus determines an offset to be applied to each category. Then, the size of each pixel (target pixel) in the CTU is compared with two neighboring pixels, and an offset corresponding to the selected category is added to the target pixel after selecting the category to which the target pixel belongs.
  • the offset information for each category is signaled to the video decoding apparatus.
  • the image encoding apparatus encodes only the absolute value of the offset, and the sign of the offset is not encoded.
  • the sign of the offset is automatically determined by categories 1 and 2 (+), and categories 3 and 4 (-) automatically.
  • the video decoding apparatus After decoding the offset information for each category, the video decoding apparatus determines to which category the target pixel in the restored CTU belongs. Then, an offset corresponding to the category to which the target pixel belongs is added to the target pixel.
  • the classification of the target pixel in BO which is another SAO type, is based on the pixel value itself.
  • the image coding apparatus applies an offset to only four consecutive bands instead of applying an offset to all the bands.
  • each pixel is assigned to pixels belonging to four consecutive bands of pixels in the CTU And adds offsets corresponding to the bands to which they belong. Then, information on the offsets of each of the four consecutive bands and the position of the first band (start band) of the consecutive bands are transmitted to the image decoding apparatus.
  • the offset of each of the four consecutive bands may be encoded with a separate syntax for the sign of the offset and the absolute value of the offset, and the absolute value and sign may be encoded as a syntax.
  • the image decoding apparatus After decoding the information indicating the position of the first band to which the BO is applied, the image decoding apparatus determines four consecutive bands from the position indicated by the information as a band to which the BO is to be applied. Then, an offset corresponding to a band to which each pixel belongs is added to the pixels belonging to the four consecutive bands among the pixels in the restored CTU.
  • the total number of bands is fixed to 32.
  • bitdepth has a fixed value
  • the fact that the total number of bands is fixed means that the band width is fixed.
  • the pixel value has a value from 0 to 255.
  • the width of one band is fixed to 8. That is, the fact that the total number of bands is fixed to 32 is equal to that the band width is fixed at 8.
  • the bitdepth representing the number of bits representing the pixel value is set differently, or if the range of pixel values of the pixels within the target region (e.g., CTU) is different, the total number of bands or the width of the band is fixed It is difficult to obtain sufficient image quality improvement effect.
  • the improved BO process adaptively determines (A) the total number of bands (or the width of the bands), and (B) further determines the number or position of the bands to which the BO offset is applied.
  • the improved BO process is the same as the above-described BO process except for the above (A) and (B), and therefore (A) and (B) will be described below.
  • the image encoding apparatus uses at least one of bitdepth, distribution of pixel values of restored pixels in a target area, maximum and minimum values of pixel values of restored pixels in a target area, and quantization parameter (QP) Thereby determining the total number of bands or the bandwidth of the BO adaptively.
  • bitdepth and QP are signaled from the image coding apparatus to the image decoding apparatus.
  • the distribution of restored pixels in the target area and the maximum and minimum values of the restored pixels can be known when the image decoding apparatus restores the target area (e.g., CTU).
  • the video encoding apparatus reproduces the number of total bands of the BO Or the bandwidth is adaptively determined.
  • the information decoding apparatus may signal information for indicating the determined total number of bands or the bandwidth.
  • the image decoding apparatus decodes the information to determine the total number of bands or the bandwidth of the bands.
  • the video encoding apparatus and the video decoding apparatus designate the total number of bands for BO as a constant number based on the bit depth. That is, the image encoding apparatus and the image decoding apparatus determine the total number (k) of bands of the BO of the image based on the bit depth of the image to be encoded.
  • the bitdepth information may be located in any one of the VPS, SPS, PPS, and slice header, and the brightness (luma) and the bitdepth of the chroma may be separately designated.
  • the bitdepths of Luma and chroma are different, you can have different number of bands of BO. Or luma and chroma bitdepth are equal, the pixel distribution of the luma block may have a larger fluctuation width than the chroma block pixel distribution. Therefore, the number of BO bands for the luma block and the number of bands for the chroma block are differentiated It can also be set. For example, even though luma and chroma have the same bit depth, the number of BOs for a luma block can be set to be greater than the number of bands for a chroma block.
  • BD denotes bitdepth, and " ⁇ " denotes a shift operation to the left.
  • bitdepth For example, if the bit depth for a luma of an image is 8, it is possible to have 32 BO bands for a luma block according to Equation (1). As another example, if the bit depth for a luma of an image is 10, it can have 128 BO bands for a luma block according to Equation (1).
  • the video encoding apparatus and the video decoding apparatus can obtain the total number of bands of the same BO using the bitdepth.
  • the image encoding apparatus determines the total number of bands for the BO based on bitdepth, and information for indicating the total number of bands is set to any one of VPS, SPS, PPS, slice header, and CTU header To the video decoding apparatus.
  • the information for indicating the total number of bands may be a number of bands or a specific value required for determining the number of bands.
  • the image decoding apparatus can recognize the total number of bands of the BO for the corresponding image through the header information. As an example, the image encoding apparatus determines the total number of bands in the same manner as in Equation (1), and stores the total number of bands in the header information, and transfers the total number of bands to the image decoding apparatus.
  • the image encoding apparatus may transmit a specific value required for determining the total number of bands of the BO to the image decoding apparatus.
  • the specific value to be transmitted to the image decoding apparatus means a parameter or an offset value necessary for determining the number of bands of the BO.
  • the t value in Equation 2 for determining the number of bands belongs to this.
  • t denotes a parameter for determining the number of intervals.
  • a method of adaptively determining the total number of bands of the BO in units of a target area (picture, slice, CTU, or CU) will be introduced.
  • the video encoding apparatus adaptively determines the total number of bands of the BO according to the distribution of the restored pixel values in the target area, and signals information indicating the total number of bands in the target area unit. For example, as a syntax in the PPS when the target area is a picture, as a syntax of the slice header when the target area is a slice, and as a syntax of the CTU when the target area is a CTU. As described above, the information for indicating the total number of bands may mean the total number of bands itself or may be a specific value required for determining the number of bands.
  • the image decoding apparatus can determine the total number of bands of the BO by acquiring information for indicating the total number of bands for the target area.
  • the image encoding apparatus can determine the total number of bands " 2 " Signals a specific value.
  • the image decoding apparatus decodes information for indicating the total number of bands included as the syntax of the corresponding CTU and determines the total number of sections of the BO for the corresponding CTU to be 2.
  • the number of reference bands is encoded as the syntax of the first region higher in level than the target region, and as a syntax of the second region which is lower than the first region and is the same as or higher than the target region,
  • the number may be encoded.
  • the number of reference bands may be encoded in a slice, picture, or sequence, which is a higher level than the CTU, in units of video, and the number of differential bins may be encoded in units of CTU.
  • the image decoding apparatus can obtain the total number of bands by adding the number of reference bands obtained by decoding the syntax of the high level and the number of difference bands obtained by decoding the syntax of the CTU.
  • the present embodiment adaptively sets the total number of bands of the target area based on the minimum value and the maximum value of the pixel values of the restored pixels existing in the target area.
  • the image encoding apparatus determines the total number of bands on the basis of the maximum value and the minimum value of the pixels in the restored target area CTU. After decoding the CTU, the image decoding apparatus also determines the total number of bands for the target region on the basis of the maximum value and the minimum value of the pixels in the CTU as in the image encoding apparatus.
  • the present invention is not limited to this, and the image encoding apparatus may signal information indicating the total number of bands to the image decoding apparatus based on the minimum and maximum values of the pixel values of the reconstructed pixels, Decoded to determine the total number of bands for the target area.
  • the minimum value of the restored pixel values of one target area is 32
  • the maximum value is 70
  • the width of one band is a fixed value 8
  • the total number of bands of the target area can be set to five have.
  • the duration of the band is (32-39), (40-47), (48-55), (56-63), and (64-71), including the minimum and maximum values.
  • the minimum value for the total number of bands may be set in advance.
  • the image encoding apparatus determines the width of the band based on the maximum value and the minimum value of the pixels in the CTU, which is the restored target area. After decoding the CTU, the image decoding apparatus also determines the width of the band for the target region on the basis of the maximum value and the minimum value of the pixels in the CTU, as in the image encoding apparatus.
  • the present invention is not limited to this, and the image coding apparatus may signal information indicating the width of the band to the image decoding apparatus based on the minimum value and the maximum value of the pixel values of the reconstructed pixels, And determine the width of the band for the target area.
  • the width of one band of the target area is set to 1 and / Can be set.
  • the duration of the band is (32 - 33), (34 - 35), (36 - 37), (38 - 39), and , (70 - 71), (72 - 73), ... , (94 - 95).
  • the minimum value for the width of one band may be set in advance.
  • the present embodiment determines a total number of bands for a target region using a quantization parameter (QP).
  • QP quantization parameter
  • the larger the QP the simpler the distribution of the restored pixel values, so the total number of bands can be reduced. Therefore, the larger the QP, the smaller the total number of bands, and the smaller the QP, the greater the total number of bands.
  • the QP value increases, the number of total bands may be increased because the reconstructed pixel value and the original pixel value may be more distorted. Therefore, the total number of bands may be reduced because the distortion is likely to disappear as the QP value decreases.
  • the video encoding apparatus and the video decoding apparatus can determine the total number of bands using the QP according to a common criterion.
  • the image encoding apparatus may determine the total number of bands using the QP, and may signal information for indicating the total number of bands to the image decoding apparatus.
  • Embodiments A-1 through A-5 described above can be applied to any one of a bit depth, a distribution of restored pixel values in a target area, a maximum value and a minimum value of restored pixel values in a target area, and a QP using a factor Thereby determining the total number of bands.
  • the present invention is not limited thereto, and it is also included in the present invention to determine the total number of bands using a plurality of factors.
  • the image encoding apparatus may determine the number of reference bands based on the bit depth and determine the total number of bands by adjusting the number of reference bands according to QP.
  • the number of reference bands may be determined based on the bit depth, and the total number of bands may be determined by adjusting the number of reference bands according to the maximum and minimum values of the restored pixel values in the target area.
  • the image decoding apparatus can determine the total number of bands of the BO by the same method as that of the image encoding apparatus or determine the total number of bands by receiving information for indicating the total number of bands from the image encoding apparatus.
  • Embodiments A-1 to A-5 described above are described for determining the total number of bands, it is also possible to determine the bandwidth using one or more of the same factors.
  • Embodiment A-2 for determining the total number of bands according to bitdepth can encode information indicating the total number of bands in the same unit as the unit in which bitdepth is signaled. If bitdepth is encoded as a syntax of the SPS, information indicating the total number of bands is also encoded as the syntax of the SPS.
  • Example A-3 using the distribution of restored pixel values in the target area Example A-4 using the maximum / minimum value of restored pixel values in the target area, and A-5 using the QP, It is possible to encode information on the number.
  • the embodiments A-3 to A-5 encode information on the total number of bands as the syntax of the CTU.
  • the information about the number of reference bands is encoded as the syntax of the first area higher than the target area, as in the case of the embodiment A-3, It is also possible to use a method of coding information on the number of differential bands as a syntax of a second region which is a lower level and which is the same as or higher than the target region.
  • the image decoding apparatus determines the number of reference bands by decoding the number of reference bands, which is the syntax of the first region, and determines the number of difference bands by decoding the difference bands, which is the syntax of the second region.
  • the total number of bands for all target regions in the second region is obtained by adding the number of reference bands and the number of difference bands.
  • the information indicating the total number of bands may be encoded as one syntax commonly applied to the luma block and the chroma block, or may be encoded as a separate syntax applied to each of the luma block and the chroma block.
  • the image encoding apparatus encodes a flag for enabling an adaptive BO-band number determination method to a position of VPS, SPS, PPS, etc., and the image decoding apparatus decodes only the adaptive BO- The determination method can be applied.
  • the flag is off, the adaptive BO number count determination method is not used and the above-described fixed BO band number is used.
  • the adaptive BO number count determination method may be applied only to the target area in which the corresponding flag is encoded in the target area unit.
  • the range of pixel values is divided into a plurality of bands that do not overlap each other.
  • the range of pixel values may be a range of values that can be expressed by bitdepth.
  • the range of pixel values may be a range of values that can be represented by bitdepth.
  • the range of pixel values may be defined by a minimum value and a maximum value of pixel values of restored pixels in the target area. That is, the range of the pixel value may be in a range between a minimum value and a maximum value or less.
  • the restored pixels in the target area may be defined by the minimum value and the maximum value of the pixel value.
  • the BO filtering is applied to a certain number of bands among a plurality of bands. Accordingly, the image encoding apparatus encodes the identification information for identifying bands to which the BO is to be applied, and encodes the identification information for each target region.
  • the image decoding apparatus decodes the identification information and identifies bands to which the BO is applied among the entire bands.
  • a method for determining a band to which a BO is applied and encoding / decoding identification information for identifying bands is disclosed.
  • the present embodiment applies BO to a certain number of consecutive bands among all the bands.
  • the image encoding apparatus determines a continuous band of a predetermined number (n, n is a natural number equal to or greater than 1) and determines identification information for identifying the first band among the determined consecutive bands, that is, position information As a target area unit. For example, when an index is assigned in ascending order from a low band to a pixel value in each of all bands, an index corresponding to the first band among consecutive bands to which BO is to be applied is encoded.
  • the image decoding apparatus decodes the position information and determines n consecutive bands from the band indicated by the position information as a band to which the BO is to be applied.
  • the total number of bands or the width of the bands is set based on the maximum value and the minimum value of the restored pixels of the target area, in the present embodiment, if the total number of bands for the target area is smaller than a specific threshold value , It may not signal the separate information for the band to which the BO is applied. That is, the BO may be applied to the total band of the target area. For example, if the number n of bands to be applied to BO is set to 4, if the total number of bands is less than 4, BO is applied to all bands. Therefore, no additional signaling is required for the identification information to identify the band to which the BO is to be applied. If the number of total bands is smaller than 4 in the video decoding apparatus, BO is applied to all bands.
  • This embodiment is suitable when it is not required to continuously determine bands to which BO is applied.
  • the image encoding apparatus determines n bands to which BO is applied among all bands and encodes position information indicating positions of the determined bands.
  • the position information of each band may be indices corresponding to the bands.
  • the position information of each band is signaled to the video decoding unit in a target area unit.
  • the image encoding apparatus may encode the index itself of the first band among the n bands, and may encode a differential index, which is an index difference between bands adjacent to each other, among the n bands for the remaining bands have.
  • the image decoding apparatus decodes the index of the first band to identify the first one of the n bands.
  • the index of the second band is obtained by adding the difference index corresponding to the second band and the index of the first band.
  • the index of the third band is obtained by adding the difference index corresponding to the third band and the index of the second band. In this way, the image decoding apparatus can identify n bands to which the BO is applied by adding the index of the previous band and the difference index.
  • the image encoding apparatus encodes 4, 9, 2 and 20.
  • the image decoding apparatus decodes these values After decoding, the first band is identified from 4, the index 13 of the second band is obtained by adding the index 4 of the first band and the difference index 9, and similarly, the third band is obtained through the 13 + 2 operation and the 15 + Find the index of the fourth-order band.
  • the number n of bands to which BO is applied may be a fixed value shared by the image encoding apparatus and the image decoding apparatus, but may be a variable value.
  • the image coding apparatus signals the information on the number n of consecutive bands to which the BO is applied to the image decoding apparatus.
  • the information on n may be signaled on a target area basis to variably determine the number of consecutive bands to which BO is applied for each target area.
  • it may be signaled as a syntax of a higher level than the target area, for example, a slice, a PPS, or a SPS.
  • the value of n is variably determined for each higher level. That is, all the target areas included in the upper level share the value of signaled n as the syntax of the higher level.
  • the improved BO process described in this disclosure may optionally apply Examples B-1 and B-2.
  • the image encoding apparatus may encode flags indicating whether the determined bands are continuous or discontinuous.
  • the method of Embodiment B-1 is used.
  • the position of bands to which the BO is to be applied by using Embodiment B-2 can be encoded.
  • the image decoding apparatus decodes the flag and determines whether bands to which the BO is applied are continuous or discontinuous.
  • Figure 8 is an exemplary flowchart illustrating the improved BO process described in this disclosure.
  • the video encoding apparatus determines the total number of bands or the bandwidth of the BO (S802). As described in “ Determining the total number of bands (or bandwidth) ", the total number of bands or the bandwidth is determined by bitdepth, distribution of pixel values of restored pixels in the target area, A maximum value and a minimum value of the values, and a quantization parameter (QP).
  • QP quantization parameter
  • the video encoding apparatus divides the entire range of pixel values into a plurality of bands that do not overlap with each other using the total number of bands or the bandwidth and determines target bands to which the BO is applied among the plurality of bands (S804) .
  • the number n of target bands may be a fixed value shared by the image encoding apparatus and the image decoding apparatus, or may be a variable value.
  • the BO related syntax elements to be encoded by the image encoding apparatus include information on the number of target bands.
  • the image encoding apparatus determines an offset corresponding to each of the determined target bands (S806), and adds offset of a target band to which the pixels belong to each target band among the restored pixels in the target area (S808).
  • the image encoding apparatus encodes the BO related syntax elements so that the image decoding apparatus can perform the BO process in the same manner as the image encoding apparatus, and transmits the encoded BO related syntax elements to the image decoding apparatus (S810).
  • the BO related syntax elements include position information indicating positions of bands to which BO is applied among all bands, and information about offsets corresponding to the respective bands. The method of encoding the position information indicating the position of the bands to which the BO is to be applied is already described in " B. Determining the band to which the BO is applied ", and thus a detailed explanation will be omitted.
  • the BO related syntax elements further include information for indicating the total number of bands or the bandwidth . Further, when the number n of the bands to which the BO is applied is variable, information on n may be further included.
  • the encoded BO related syntax elements are signaled to the video decoding apparatus.
  • the video decoding apparatus decodes BO related syntax elements received from the video encoding apparatus (S902). Then, the total number of bands or the bandwidth is determined (S904). When the information for indicating the total number of bands or the bandwidth is not signaled, the video decoding apparatus determines the total number of bands or the bandwidth in the same manner as the video encoding apparatus. That is, by using at least one of bitdepth, a distribution of pixel values of restored pixels in a target area, a maximum value and a minimum value of pixel values of restored pixels in a target area, and a quantization parameter (QP) The number of bands or the bandwidth is determined.
  • QP quantization parameter
  • the video decoding apparatus obtains information for indicating the total number of bands or the bandwidth from the decoded BO related syntax elements, The number of bands or the bandwidth is determined. Since various methods for determining the total number of bands or the bandwidth have already been described in " A. Determining the total number of bands (or bandwidth) ", further explanation is omitted.
  • the image decoding apparatus divides the range of pixel values into a plurality of bands that do not overlap each other using the determined total number of bands or the band width. Then, position information for identifying the positions of the bands to which the BO is applied is obtained from the BO related syntax elements, and bands to which the BO is to be applied are determined using the position information (S906). The determination of the target band to which the BO is applied has already been described in " B. Determining the band to which the BO is applied "
  • the image decoding apparatus obtains an offset corresponding to each of the target bands from the BO related syntax elements (S908), and calculates the offset of the target bands to which the pixels belong to each of the target bands among the restored pixels in the target area (S910).

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 대한 것으로, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭(band width)을 결정하는 단계; 상기 총 밴드 개수 또는 상기 밴드 폭을 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계; 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 비트스트림으로부터 획득하는 단계; 및 상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계를 포함한다.

Description

SAO 필터링을 위한 방법 및 장치
본 발명은 영상의 부호화 및 복호화에 관한 것으로, 한 측면으로서 SAO (Sample Adaptive Offset)와 관련된다.
동영상 데이터는 음성 데이터나 정지 영상 데이터 등에 비하여 데이터량이 많기 때문에, 압축을 위한 처리 없이 그 자체를 저장하거나 전송하기 위해서는 메모리를 포함하여 많은 하드웨어 자원을 필요로 한다. 따라서, 통상적으로 동영상 데이터를 저장하거나 전송할 때에는 부호화기를 사용하여 동영상 데이터를 압축하여 저장하거나 전송하며, 복호화기에서는 압축된 동영상 데이터를 수신하여 압축을 해제하고 재생한다. 이러한 동영상 압축 기술로는 H.264/AVC를 비롯하여, H.264/AVC 약 40% 정도의 부호화 효율을 향상시킨 2013년 초에 제정된 HEVC(High Efficiency Video Coding)가 존재한다.
그러나, 영상의 크기 및 해상도, 프레임율이 점차 증가하고 있고, 이에 따라 부호화해야 하는 데이터량도 증가하고 있다. 따라서, 기존의 압축 기술보다 더 부호화 효율이 좋고 화질 개선 효과도 높은 압축 기술이 요구된다.
이러한 요구에 부응하기 위해 본 발명은 개선된 영상 부호화 및 복호화 기술을 제공하는 것을 목적으로 하며, 특히, 본 발명의 일 측면은 원본 픽셀과 부호화/복호화 이후의 복원된 픽셀 간의 왜곡(distortion)을 보상하기 위한 SAO (Sample Adaptive Offset) 기술과 관련된다.
본 발명의 일 측면은, 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 있어서, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭(band width)을 결정하는 단계; 상기 총 밴드 개수 또는 상기 밴드 폭을 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계; 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 비트스트림으로부터 획득하는 단계; 및 상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계를 포함하는 필터링 방법을 제공한다.
본 발명의 다른 측면은, 영상 복호화 장치에 있어서, 비트스트림을 복호화함으로써 타겟 영역 내의 픽셀들을 복원하는 영상 복원기; 상기 타겟 영역 내의 복원된 픽셀들을 필터링하는 필터를 포함하되, 상기 필터는, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭을 결정하고, 상기 총 밴드 개수 또는 밴드 폭에 근거하여 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하며, 상기 복호화된 비트스트림으로부터 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 획득하고, 상기 타겟 영역 내의 복원된 픽셀 중에서 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 것을 특징을 하는 영상 복호화 장치를 제공한다.
도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도,
도 2는 QTBT 구조를 이용한 블록 분할의 예시도,
도 3은 복수의 인트라 예측 모드들에 대한 예시도,
도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도,
도 5는 SAO 타입 중 에지 오프셋(EO, edge offset)의 네 가지의 클래스를 설명하기 위한 도면,
도 6은 도 5의 네 가지의 클래스 각각에 대해 대상 픽셀을 네 가지 카테고리로 분류하는 방법을 설명하기 위한 예시도,
도 7은 SAO 타입 중 밴드 오프셋(BO, edge offset)을 설명하기 위한 예시도,
도 8은 본 개시가 기술하는 개선된 BO의 프로세스를 설명하기 위한 순서도이다.
이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성 요소들에 식별 부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다.
영상 부호화 장치는 블록 분할부(110), 예측부(120), 감산기(130), 변환부(140), 양자화부(145), 부호화부(150), 역양자화부(160), 역변환부(165), 가산기(170), 필터부(180) 및 메모리(190)를 포함한다. 영상 부호화 장치는 각 구성요소가 하드웨어 칩으로 구현될 수 있으며, 또는 소프트웨어로 구현되고 하나 이상의 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.
하나의 영상(비디오)는 복수의 픽처들로 구성된다. 각 픽처들은 복수의 영역으로 분할되고 각 영역마다 부호화가 수행된다. 예를 들어, 하나의 픽처는 하나 이상의 슬라이스(slice) 또는/및 타일(Tile)로 분할되고, 각 슬라이스 또는 타일은 하나 이상의 CTU(Coding Tree Unit)로 분할된다. 그리고 각 CTU는 트리 구조에 의해 하나 이상의 CU(Coding Unit)들로 분할된다. 각 CU에 적용되는 정보들은 CU의 신택스로서 부호화되고, 하나의 CTU에 포함된 CU들에 공통적으로 적용되는 정보는 CTU의 신택스로서 부호화된다. 또한, 하나의 슬라이스 내의 모든 블록들에 공통적으로 적용되는 정보는 슬라이스의 신택스로서 부호화되며, 하나의 픽처들을 구성하는 모든 블록들에 적용되는 정보는 픽처 파라미터 셋(PPS, Picture Parameter Set)에 부호화된다. 나아가, 복수의 픽처가 공통으로 참조하는 정보들은 시퀀스 파라미터 셋(SPS, Sequence Parameter Set)에 부호화된다. 그리고 하나 이상의 SPS가 공통으로 참조하는 정보들은 비디오 파라미터 셋(VPS, Video Parameter Set)에 부호화된다.
블록 분할부(110)는 CTU(Coding Tree Unit)의 크기를 결정한다. CTU의 크기에 대한 정보(CTU size)는 SPS 또는 PPS 의 신택스로서 부호화되어 영상 복호화 장치로 전달된다. 블록 분할부(110)는 영상을 구성하는 각 픽처(picture)를 결정된 크기의 복수의 CTU(Coding Tree Unit)로 분할한 이후에, CTU를 트리 구조(tree structure)를 이용하여 반복적으로(recursively) 분할한다. 트리 구조에서의 리프 노드(leaf node)가 부호화의 기본 단위인 CU (coding unit)가 된다. 트리 구조로는 상위 노드(혹은 부모 노드)가 동일한 크기의 네 개의 하위 노드(혹은 자식 노드)로 분할되는 쿼드트리(QuadTree, QT), 또는 상위 노드가 두 개의 하위 노드로 분할되는 바이너리트리(BinaryTree, BT), 또는 상위 노드가 1:2:1 비율로 세 개의 하위 노드로 분할되는 터너리트리(TernaryTree, TT), 또는 이러한 QT 구조, BT 구조 및 TT 구조 중 하나 이상을 혼용한 구조일 수 있다. 예컨대, QTBT (QuadTree plus BinaryTree) 구조가 사용될 수 있고, 또는 QTBTTT (QuadTree plus BinaryTree TernaryTree) 구조가 사용될 수 있다.
도 2는 QTBT 구조를 이용한 블록 분할의 예시도이다. 도 2의 (a)는 QTBT 구조에 의해 블록이 분할되는 예시이고, (b)는 이를 트리구조로 표현한 것이다. 도 2에서 실선은 QT 구조에 의한 분할을, 점선은 BT 구조에 의한 분할을 나타낸다. 또한, 도 2의 (b)에서 layer 표기와 관련하여, 괄호가 없는 것은 QT의 레이어를, 괄호가 있는 것은 BT의 레이어를 나타낸다. 점선으로 표현된 BT 구조에서 숫자는 분할 타입 정보를 나타낸다.
도 2에서 보는 바와 같이, CTU는 먼저 QT 구조로 분할될 수 있다. 쿼드트리 분할은 분할 블록(splitting block)의 크기가 QT에서 허용되는 리프 노드의 최소 블록 크기(MinQTSize)에 도달할 때까지 반복될 수 있다. QT 구조의 각 노드가 하위 레이어의 4개의 노드들로 분할되는지 여부를 지시하는 제1 플래그(QT_split_flag)는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 시그널링된다.
QT의 리프 노드가 BT에서 허용되는 루트 노드의 최대 블록 크기(MaxBTSize)보다 크지 않은 경우, BT 구조로 더 파티셔닝될 수 있다. BT에서는 복수의 분할 타입이 존재할 수 있다. 예컨대, 일부 예시에서, 해당 노드의 블록을 동일 크기의 두 개 블록으로 가로로 분할하는 타입(즉, symmetric horizontal splitting)과 세로로 분할하는 타입(즉, symmetric vertical splitting) 두 가지가 존재할 수 있다. BT 구조의 각 노드가 하위 레이어의 블록으로 분할되는지 여부를 지시하는 제2 플래그(BT_split_flag) 및 분할되는 타입을 지시하는 분할 타입 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다. 한편, 해당 노드의 블록을 서로 비대칭 형태의 두 개의 블록으로 분할하는 타입이 추가로 더 존재할 수도 있다. 비대칭 형태로는 해당 노드의 블록을 1:3의 크기 비율을 가지는 두 개의 직사각형 블록으로 분할하는 형태를 포함할 수 있고, 혹은 해당 노드의 블록을 대각선 방향으로 분할하는 형태를 포함할 수도 있다.
트리 구조의 다른 예시로서 QTBTTT가 사용되는 경우, CTU는 먼저 QT 구조로 분할된 이후에, QT의 리프노드들은 BT 구조 또는 TT 구조 중 어느 하나 이상으로 분할될 수 있다. TT 구조도 복수의 분할 타입이 존재할 수 있다. 예컨대, 분할되는 경우, 해당 노드의 블록을 1:2:1 비율로 세 개 블록으로 가로로 분할하는 타입(즉, symmetric horizontal splitting)과 세로로 분할하는 타입(즉, symmetric vertical splitting) 두 가지가 존재할 수 있다. QTBTTT의 경우, 각 노드가 하위 레이어의 블록으로 분할되는지 여부를 지시하는 플래그 및 분할되는 타입(또는 분할되는 방향)을 지시하는 분할 타입 정보 (또는 분할 방향 정보) 이외에, BT 구조 인지 TT 구조인지를 구분하는 추가 정보가 영상 복호화 장치로 시그널링될 수 있다.
CU는 CTU로부터의 QTBT 또는 QTBTTT 분할에 따라 다양한 크기를 가질 수 있다. 이하에서는, 부호화 또는 복호화하고자 하는 CU(즉, QTBTTT의 리프 노드)에 해당하는 블록을 '현재블록'이라 칭한다.
예측부(120)는 현재블록을 예측하여 예측블록을 생성한다. 예측부(120)는 인트라 예측부(122)와 인터 예측부(124)를 포함한다.
일반적으로, 픽처 내 현재블록들은 각각 예측적으로 코딩될 수 있다. 현재블록의 예측은 (현재블록을 포함하는 픽처로부터의 데이터를 사용하는) 인트라 예측 기술 또는 (현재블록을 포함하는 픽처 이전에 코딩된 픽처로부터의 데이터를 사용하는) 인터 예측 기술을 사용하여 일반적으로 수행될 수 있다. 인터 예측은 단방향 예측과 양방향 예측 모두를 포함한다.
인트라 예측부(122)는 현재블록이 포함된 현재 픽처 내에서 현재블록의 주변에 위치한 픽셀(참조 픽셀)들을 이용하여 현재블록 내의 픽셀들을 예측한다. 예측 방향에 따라 복수의 인트라 예측모드가 존재한다. 예컨대, 도 3에서 보는 바와 같이, 복수의 인트라 예측모드는 planar 모드와 DC 모드를 포함하는 비방향성 모드와 65 개의 방향성 모드를 포함할 수 있다. 각 예측모드에 따라 사용할 주변 픽셀과 연산식이 다르게 정의된다.
인트라 예측부(122)는 현재블록을 부호화하는데 사용할 인트라 예측 모드를 결정할 수 있다. 일부 예들에서, 인트라 예측부(122)는 여러 인트라 예측 모드들을 사용하여 현재블록을 인코딩하고, 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측부(122)는 여러 테스트된 인트라 예측 모드들에 대한 레이트 왜곡(rate-distortion) 분석을 사용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중 최선의 레이트 왜곡 특징들을 갖는 인트라 예측 모드를 선택할 수도 있다.
인트라 예측부(122)는 복수의 인트라 예측 모드 중에서 하나의 인트라 예측 모드를 선택하고, 선택된 인트라 예측 모드에 따라 결정되는 주변 픽셀(참조 픽셀)과 연산식을 사용하여 현재블록을 예측한다. 선택된 인트라 예측 모드에 대한 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.
인터 예측부(124)는 움직임 보상 과정을 통해 현재블록에 대한 예측블록을 생성한다. 현재 픽처보다 먼저 부호화 및 복호화된 참조픽처 내에서 현재블록과 가장 유사한 블록을 탐색하고, 그 탐색된 블록을 이용하여 현재블록에 대한 예측블록을 생성한다. 그리고, 현재 픽처 내의 현재블록과 참조픽처 내의 예측블록 간의 변위(displacement)에 해당하는 움직임벡터(motion vector)를 생성한다. 일반적으로, 움직임 추정은 루마(luma) 성분에 대해 수행되고, 루마 성분에 기초하여 계산된 모션 벡터는 루마 성분 및 크로마 성분 모두에 대해 사용된다. 현재블록을 예측하기 위해 사용된 참조픽처에 대한 정보 및 움직임벡터에 대한 정보를 포함하는 움직임 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.
감산기(130)는 현재블록으로부터 인트라 예측부(122) 또는 인터 예측부(124)에 의해 생성된 예측블록을 감산하여 잔차 블록을 생성한다.
변환부(140)는 공간 영역의 픽셀 값들을 가지는 잔차 블록 내의 잔차 신호를 주파수 도메인의 변환 계수로 변환한다. 변환부(140)는 잔차 블록 내의 잔차 신호들을 현재블록의 크기를 변환 단위로 사용하여 변환할 수 있으며, 또는 잔차 블록을 더 작은 복수의 서브블록을 분할하고 서브블록 크기의 변환 단위로 잔차 신호들을 변환할 수도 있다. 잔차 블록을 더 작은 서브블록으로 분할하는 방법은 다양하게 존재할 수 있다. 예컨대, 기정의된 동일한 크기의 서브블록으로 분할할 수도 있으며, 또는 잔차 블록을 루트 노드로 하는 QT(quadtree) 방식의 분할을 사용할 수도 있다.
양자화부(145)는 변환부(140)로부터 출력되는 변환 계수들을 양자화하고, 양자화된 변환 계수들을 부호화부(150)로 출력한다.
부호화부(150)는 양자화된 변환 계수들을 CABAC 등의 부호화 방식을 사용하여 부호화하여 비트스트림을 생성한다. 또한, 부호화부(150)는 블록 분할과 관련된 CTU size, QT 분할 플래그, BT 분할 플래그, 분할 타입 등의 정보를 부호화하여, 영상 복호화 장치가 영상 부호화 장치와 동일하게 블록을 분할할 수 있도록 한다.
부호화부(150)는 현재블록이 인트라 예측에 의해 부호화되었는지 아니면 인터 예측에 의해 부호화되었는지 여부를 지시하는 예측 타입에 대한 정보를 부호화하고, 예측 타입에 따라 인트라 예측정보(즉, 인트라 예측 모드에 대한 정보) 또는 인터 예측정보(참조픽처 및 움직임벡터에 대한 정보)를 부호화한다.
역양자화부(160)는 양자화부(145)로부터 출력되는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 생성한다. 역변환부(165)는 역양자화부(160)로부터 출력되는 변환 계수들을 주파수 도메인으로부터 공간 도메인으로 변환하여 잔차블록을 복원한다.
가산부(170)는 복원된 잔차블록과 예측부(120)에 의해 생성된 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 다음 순서의 블록을 인트라 예측할 때 참조 픽셀로서 사용된다.
필터부(180)는 블록 기반의 예측 및 변환/양자화로 인해 발생하는 블록킹 아티팩트(blocking artifacts), 링잉 아티팩트(ringing artifacts), 블러링 아티팩트(blurring artifacts) 등을 줄이기 위해 복원된 픽셀들에 대한 필터링을 수행한다. 필터부(180)는 디블록킹 필터(182)와 SAO 필터(184)를 포함할 수 있다.
디블록킹 필터(180)는 블록 단위의 부호화/복호화로 인해 발생하는 블록킹 현상(blocking artifact)을 제거하기 위해 복원된 블록 간의 경계를 필터링하고, SAO 필터(184)는 디블록킹 필터링된 영상에 대해 추가적인 필터링을 수행한다. SAO 필터(184)는 손실 부호화(lossy coding)로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해 사용되는 필터이다. SAO 프로세스에 대해서는 도 5 이하의 도면을 참조하여 후술한다.
디블록킹 필터(182) 및 SAO 필터(184)를 통해 필터링된 복원 블록은 메모리(190)에 저장한다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.
도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.
영상 복호화 장치는 복호화부(410), 역양자화부(420), 역변환부(430), 예측부(440), 가산기(450) 등을 포함하는 영상 복원기(4000)와, 필터부(460) 및 메모리(470)를 포함한다. 도 2의 영상 부호화 장치와 마찬가지로, 영상 복호화 장치는 각 구성요소가 하드웨어 칩으로 구현될 수 있으며, 또는 소프트웨어로 구현되고 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.
복호화부(410)는 영상 부호화 장치로부터 수신한 비트스트림을 복호화하여 블록 분할과 관련된 정보를 추출하여 복호화하고자 하는 현재블록을 결정하고, 현재블록을 복원하기 위해 필요한 예측 정보와 잔차신호에 대한 정보 등을 추출한다.
복호화부(410)는 SPS (Sequence Parameter Set) 또는 PPS (Picture Parameter Set)로부터 CTU size에 대한 정보를 추출하여 CTU의 크기를 결정하고, 픽처를 결정된 크기의 CTU로 분할한다. 그리고 CTU를 트리 구조의 최상위 레이어, 즉, 루트 노드로 결정하고, CTU에 대한 분할 정보를 추출함으로써 CTU를 트리 구조를 이용하여 분할한다. 예컨대, QTBT 구조를 사용하여 CTU를 분할하는 경우, 먼저 QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 BT의 분할과 관련된 제2 플래그(BT_split_flag) 및 분할 타입(분할 방향) 정보를 추출하여 해당 리프 노드를 BT 구조로 분할한다. 다른 예로서, QTBTTT 구조를 사용하여 CTU를 분할하는 경우, QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 BT 또는 TT로 더 분할되는지 여부를 지시하는 분할 플래그(split_flag) 및 분할 타입(또는 분할 방향) 정보, BT 구조 인지 TT 구조 인지를 구별하는 추가 정보를 추출한다. 이를 통해 QT의 리프 노드 이하의 각 노드들을 BT 또는 TT 구조로 반복적으로(recursively) 분할한다.
한편, 복호화부(410)는 트리 구조의 분할을 통해 복호화하고자 하는 현재블록을 결정하게 되면, 현재블록이 인트라 예측되었는지 아니면 인터 예측되었는지를 지시하는 예측 타입에 대한 정보를 추출한다.
예측 타입 정보가 인트라 예측을 지시하는 경우, 복호화부(410)는 현재블록의 인트라 예측정보(인트라 예측 모드)에 대한 신택스 요소를 추출한다.
예측 타입 정보가 인터 예측을 지시하는 경우, 복호화부(410)는 인터 예측정보에 대한 신택스 요소, 즉, 움직임벡터 및 그 움직임벡터가 참조하는 참조픽처를 나타내는 정보를 추출한다.
한편, 복호화부(410)는 잔차신호에 대한 정보로서 현재블록의 양자화된 변환계수들에 대한 정보를 추출한다.
역양자화부(420)는 양자화된 변환계수들을 역양자화하고 역변환부(430)는 역양자화된 변환계수들을 주파수 도메인으로부터 공간 도메인으로 역변환하여 잔차신호들을 복원함으로써 현재블록에 대한 잔차블록을 생성한다.
예측부(440)는 인트라 예측부(442) 및 인터 예측부(444)를 포함한다. 인트라 예측부(342)는 현재블록의 예측 타입인 인트라 예측일 때 활성화되고, 인터 예측부(344)는 현재블록의 예측 타입인 인트라 예측일 때 활성화된다.
인트라 예측부(442)는 복호화부(410)로부터 추출된 인트라 예측 모드에 대한 신택스 요소로부터 복수의 인트라 예측 모드 중 현재블록의 인트라 예측 모드를 결정하고, 인트라 예측 모드에 따라 현재블록 주변의 참조 픽셀들을 이용하여 현재블록을 예측한다.
인터 예측부(444)는 복호화부(410)로부터 추출된 인트라 예측 모드에 대한 신택스 요소를 이용하여 현재블록의 움직임 벡터와 그 움직임벡터가 참조하는 참조픽처를 결정하고, 움직임벡터와 참조픽처를 현재블록을 예측한다.
가산기(450)는 역변환부로부터 출력되는 잔차블록과 인터 예측부 또는 인트라 예측부로부터 출력되는 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 이후에 복호화할 블록을 인트라 예측할 때의 참조픽셀로서 활용된다.
영상 복원기(4000)에 의해 CU들에 해당하는 현재블록들을 순차적으로 복원함으로써, CU들로 구성된 CTU, CTU들로 구성된 픽처가 복원된다.
필터부(460)는 디블록킹 필터(462) 및 SAO 필터(464)를 포함한다. 디블록킹 필터(462)는 블록 단위의 복호화로 인해 발생하는 블록킹 현상(blocking artifact)를 제거하기 위해 복원된 블록 간의 경계를 디블록킹 필터링한다. SAO 필터(464)는, 손실 부호화(lossy coding)으로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해, 디블록킹 필터링 이후의 복원된 블록에 대해 추가적인 필터링을 수행한다. 디블록킹 필터(462) 및 SAO 필터(464)를 통해 필터링된 복원 블록은 메모리(470)에 저장한다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.
이하에서는 SAO 프로세스에 대해 상세히 설명한다. 영상 부호화 장치의 SAO 필터(184)와 영상 복호화 장치의 SAO 필터(464)에 의해 수행되는 SAO 프로세스는 서로 동일하다. 이를 위해 영상 부호화 장치의 부호화부(150)는 SAO와 관련된 신택스 요소들을 부호화하여 영상 복호화 장치로 전달하며, 영상 복호화 장치의 복호화부(410)는 SAO와 관련된 신택스 요소들을 복호화한 이후에 이를 SAO 필터(464)로 전달한다. SAO 필터(464)는 SAO와 관련된 신택스 요소들을 이용하여 영상 부호화 장치의 SAO 필터(184)와 동일한 프로세스를 수행한다.
SAO 프로세스는 영역 단위로 수행되는데, 본 개시에서는 SAO 프로세스가 수행되는 단위를 "타겟 영역"으로서 언급한다. 타겟 영역은 픽처, 슬라이스, CTU, CU 등이 될 수 있다. 이하에서는 타겟 영역인 CTU인 것으로 설명하나 본 발명이 이에 한정되지 않음은 자명하다.
SAO는 두 가지 타입이 존재하는데, 하나는 에지 오프셋(EO, edge offset)이고 다른 하나는 밴드 오프셋(BO, band offset)이다. 영상 부호화 장치는 타겟 영역에 대해 EO와 BO 중 하나를 선택하여 수행하고, SAO 타입을 지시하는 신택스를 영상 복호화 장치로 전달된다. 영상 복호화 장치는 SAO 타입을 지시하는 신택스로부터 SAO를 적용할지, 적용하는 경우 에지 오프셋을 적용할지 아니면 밴드 오프셋을 적용할지 여부를 결정한다. 예를 들어, SAO 타입을 지시하는 신택스가 0이면 SAO를 적용하지 않으며, 1인 경우에는 BO를, 2인 경우에는 EO를 적용한다.
EO에서 복원된 대상픽셀의 분류는 그 대상픽셀과 인접 픽셀들 간의 차이에 근거한다. 도 5에서 알 수 있는 바와 같이, EO는 수평, 수직, 135도, 45도 네 가지 클래스가 존재하며, 클래스에 따라 사용되는 인접 픽셀들이 달라진다. 예컨대, 수평 클래스의 경우 대상픽셀("c")의 좌우에 인접한 두 픽셀(a, b)가 선택되고, 수직 클래스의 경우에는 대상픽셀("c")의 상하에 인접한 두 픽셀(a, b)가 선택된다. 어떤 클래스가 적용되는지는 타겟 영역(예컨대, CTU) 단위로 시그널링된다. 즉, 영상 부호화 장치는 EO의 클래스들 중 하나의 클래스를 선택하여 CTU에 적용하고, 그 CTU에 적용된 EO의 클래스를 지시하기 위한 정보를 영상 복호화 장치로 전달한다. 영상 복호화 장치는 EO의 클래스를 지시하기 위한 정보를 복호화하여 CTU에 적용할 클래스를 선택한다.
선택된 EO 클래스에 대해, CTU 내의 각 픽셀들은 다섯 가지 카테고리 중 하나로 분류된다.
도 6을 참조하면 설명하면,“c”로 표시된 대상픽셀은 두 개의 인접픽셀(a, b)과 비교되며, 그 결과에 따라 다섯 가지의 카테고리 중 하나로 분류된다. 분류 기준은 아래 표와 같다.
Figure PCTKR2018012527-appb-T000001
카테고리 1은 대상픽셀 c가 두 인접픽셀 a와 b보다 작은 경우로 local valley와 관련되고, 카테고리 4는 대상픽셀 c가 두 인접픽셀 a와 b보다 작은 경우로 local peak과 관련된다. 카테고리 2는 대상픽셀 c가 두 인접픽셀 중 어느 하나보다 작고 나머지 하나와는 같은 경우로서 concave corner와 관련되고, 카테고리 3은 대상픽셀 c가 두 인접픽셀 중 어느 하나보다 크고 나머지 하나와는 같은 경우로서 convex corner와 관련된다. 카테고리 1 내지 4 중 어디에도 속하지 않는 대상픽셀은 카테고리 0으로 분류되며 필터링을 수행하지 않는다. 영상 부호화 장치는 각 카테고리마다 적용할 오프셋을 결정한다. 그리고 CTU 내의 각각의 픽셀(대상픽셀)에 대해 인접한 두 개의 픽셀과의 크기를 비교하여 대상 픽셀이 속하는 카테고리를 선택한 이후에 선택된 카테고리에 대응하는 오프셋을 대상픽셀에 가산한다.
각 카테고리에 대한 오프셋 정보는 영상 복호화 장치로 시그널링된다. 여기서, 영상 부호화 장치는 오프셋의 절대값(absolute value)만을 부호화하고 오프셋의 부호(sign)은 부호화되지 않는다. 오프셋의 부호는 카테고리 1과 2는 (+)로, 카테고리 3과 4는 (-)로 자동으로 결정된다.
영상 복호화 장치는, 각 카테고리에 대한 오프셋 정보를 복호화한 이후에, 복원된 CTU 내의 대상픽셀이 어느 카테고리에 속하는지를 판단한다. 그리고, 대상픽셀이 속하는 카테고리에 대응하는 오프셋을 대상픽셀에 가산한다.
SAO 타입 중 다른 하나인 BO에서 대상픽셀의 분류는 픽셀 값 자체에 근거한다. 픽셀값의 범위는 총 32개의 밴드로 균등하게 분할된다. 예컨대, bitdepth가 8인 경우, 픽셀 값은 0에서 255의 값을 가지며, 하나의 밴드의 폭은 8이다. 즉, 8k 부터 8k+7의 값을 가지는 픽셀들이 밴드 k (k = 0 ~ 31)에 속한다. 영상 부호화 장치는 모든 밴드들에 오프셋을 적용하는 것이 아니라 연속된 네 개의 밴드들에만 오프셋을 적용한다.
예를 들어, 도 7을 참조하여 설명하면, 영상 부호화 장치는 연속된 네 개의 밴드들에 적용할 오프셋을 산출한 이후에, CTU 내의 픽셀 중 그 연속된 네 개의 밴드에 속하는 픽셀들에 각 픽셀이 속하는 밴드에 대응하는 오프셋을 가산한다. 그리고, 연속된 네 개의 밴드들 각각의 오프셋들에 대한 정보와 그 연속된 밴드 중 첫 번째 밴드(시작 밴드)의 위치를 영상 복호화 장치로 전송한다. 연속된 네 개의 밴드 각각의 오프셋은 오프셋의 절대값과 오프셋의 부호가 별도의 신택스로 부호화될 수도 있고, 절대값과 부호가 하나의 신택스로서 부호화될 수도 있다.
영상 복호화 장치는 BO가 적용되는 첫 번째 밴드의 위치를 지시하는 정보를 복호화한 이후에, 그 정보가 지시하는 위치로부터 연속된 네 개의 밴드를 BO를 적용할 밴드로 결정한다. 그리고, 복원된 CTU 내의 픽셀들 중 그 연속된 네 개의 밴드에 속하는 픽셀들에 각 픽셀이 속하는 밴드에 대응하는 오프셋을 가산한다.
이상에서 설명한 SAO의 BO에서는 총 밴드의 개수가 32개로 고정되어 있다. bitdepth가 고정된 값을 가지는 경우 총 밴드의 개수가 고정된다는 것은 밴드 폭이 고정되어 있다는 것을 의미한다. 예를 들어, bitdepth가 8인 경우 픽셀 값은 0에서 255의 값을 가진다. 이 경우, 총 밴드의 개수가 32개로 고정되면 하나의 밴드의 폭은 8로 고정된다. 즉, 총 밴드의 개수가 32개로 고정되어 있다는 것은 밴드의 폭이 8로 고정되어 있다는 것과 동일하다. 그러나, 픽셀값을 표현하는 비트수를 나타내는 bitdepth가 다르게 설정되는 경우나 또는 타겟 영역(예: CTU)마다 그 내부의 픽셀들의 픽셀값의 범위가 다른 경우에도 총 밴드 개수 또는 밴드의 폭을 고정하는 것은 충분한 화질 개선 효과를 보기 어렵다. 따라서, 본 개시는 보다 개선된 BO 프로세스를 소개한다. 개선된 BO 프로세스는 (A) 총 밴드의 개수(또는 밴드의 폭)를 적응적으로 결정하고, (B) 나아가 BO 오프셋을 적용하는 밴드의 개수 또는 위치도 적응적으로 결정한다. 개선된 BO 프로세스는 위 (A)와 (B) 이외에는 전술한 BO 프로세스와 동일하므로 이하에서는 (A)와 (B)에 대해 설명한다.
A. 총 밴드 개수(또는 밴드 폭) 결정
영상 부호화 장치는 bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 BO의 총 밴드의 개수 또는 밴드 폭을 적응적으로 결정한다. 통상적으로 bitdepth와 QP는 영상 부호화 장치로부터 영상 복호화 장치로 시그널링된다. 타겟 영역 내의 복원된 픽셀들의 분포나 복원된 픽셀들의 최대값과 최소값은 영상 복호화 장치가 타겟 영역(예: CTU)을 복원하면 알 수 있다. 따라서, 영상 부호화 장치가 영상 복호화 장치로 BO의 총 밴드의 개수 또는 밴드 폭의 개수를 지시하기 위한 정보가 추가적으로 시널링되지 않아도, 영상 복호화 장치는 영상 부호화 장치와 동일한 방식으로 BO의 총 밴드의 개수 또는 밴드 폭을 적응적으로 결정한다.
또는, 영상 부호화 장치가 BO의 총 밴드의 개수 또는 밴드 폭을 결정한 이후에, 결정된 총 밴드의 개수 또는 밴드 폭을 지시하기 위한 정보를 영상 복호화 장치로 시그널링할 수도 있다. 영상 복호화 장치는 그 정보를 복호화하여 BO의 총 밴드의 개수 또는 밴드 폭을 결정한다.
실시예 A-1
본 실시예에서 영상 부호화 장치와 영상 복호화 장치가 bitdepth에 근거하여 BO을 위한 총 밴드의 개수를 상수 개로 지정한다. 즉, 영상 부호화 장치 및 영상 복호화 장치는 부호화하려는 영상의 bitdepth에 근거하여 해당 영상의 BO의 총 밴드 개수(k)를 결정하는 것이다. 여기서, bitdepth 정보는 VPS, SPS, PPS, slice header 중 어느 하나에 위치할 수 있으며, 휘도(luma)와 색차(chroma)의 bitdepth를 별도로 지정할 수 있다.
Luma 와 chroma의 bitdepth가 다른 경우에는 각기 다른 BO의 밴드 개수를 가질 수 있다. 혹은 Luma 와 chroma의 bitdepth가 동일한 경우에도 luma 블록의 픽셀 분포가 chroma 블록의 픽셀 분포보다 변동 폭이 클 수 있으므로, luma 블록을 위한 BO의 밴드 개수와 chroma 블록을 위한 BO의 밴드 개수에 차별을 두어 설정할 수도 있다. 예컨대, luma 및 chroma가 동일 bitdepth를 가진다 해도, luma 블록을 위한 BO의 밴드 개수를 chroma 블록을 위한 BO의 밴드 개수보다 더 많게 설정할 수 있다.
bitdepth에 따라 BO의 총 밴드 개수를 구하는 방법은 다양하게 존재할 수 있으며, 일례로서 수학식 1을 사용할 수 있다.
Figure PCTKR2018012527-appb-M000001
수학식 1에서 BD는 bitdepth를 나타내고, "<<"은 왼쪽으로의 시프트(shift) 연산을 의미한다. 예를 들어, 어떤 영상의 luma에 대한 bitdepth가 8인 경우, 수학식 1에 의해 luma 블록을 위한 32개의 BO 밴드를 가질 수 있다. 다른 예로, 어떤 영상의 luma에 대한 bitdepth가 10인 경우, 수학식 1에 의해 luma 블록을 위한 128개의 BO 밴드를 가질 수 있다. 영상 부호화 장치와 영상 복호화 장치는 bitdepth를 이용하여 동일하게 BO의 총 밴드 개수를 구할 수 있다.
실시예 A-2
본 실시예에서, BO을 위한 총 밴드의 개수를 bitdepth에 근거하여 영상 부호화 장치가 결정하고, 총 밴드의 개수를 지시하기 위한 정보를 VPS, SPS, PPS, slice header, CTU header 중 어느 하나의 위치에 포함시켜 영상 복호화 장치로 전송할 수 있다. 여기서, 총 밴드의 개수를 지시하기 위한 정보는 밴드의 개수를 의미할 수도 있고, 밴드 개수를 결정하는데 필요한 특정 값일 수도 있다. 영상 복호화 장치는 해당 영상을 위한 BO의 총 밴드 개수 정보를 상기 헤더 정보를 통해 인식할 수 있다. 일례로서, 영상 부호화 장치는 수학식 1과 같은 방법으로 총 밴드 개수를 결정하고, 이에 대한 총 밴드 개수를 헤더 정보에 실어서 영상 복호화 장치로 전달한다. 다른 예로, 영상 부호화 장치는 BO의 총 밴드 개수를 정하는데 필요한 특정 값을 영상 복호화 장치로 전달할 수도 있다. 영상 복호화 장치로 전달하는 그 특정 값은 BO의 밴드 개수를 결정하는데 필요한 파라미터 혹은 offset 값 등을 의미한다. 예를 들어, 밴드 개수를 결정하는 수학식 2의 t 값이 이에 속한다.
Figure PCTKR2018012527-appb-M000002
여기서, t는 구간 개수를 결정하는 파라미터를 의미한다.
실시예 A-3
본 실시예에서는 BO의 총 밴드 개수를 타겟 영역(픽처, 슬라이스, CTU 또는 CU) 단위로 적응적으로 결정하는 방법을 소개한다.
영상 부호화 장치는 타겟 영역 내의 복원된 픽셀 값의 분포도에 따라 BO의 총 밴드 개수를 적응적으로 결정하고, 총 밴드 개수를 지시하기 위한 정보를 타겟 영역 단위로 시그널링한다. 예컨대, 타겟 영역이 픽처인 경우 PPS 내의 신택스로서, 타겟 영역이 슬라이스인 경우 슬라이스 헤더의 신택스로서, 타겟 영역이 CTU인 경우 CTU의 신택스로서 시그널링된다. 전술한 바와 같이, 총 밴드 개수를 지시하기 위한 정보는 총 밴드 개수 그 자체를 의미할 수도 있고 또는 그 밴드 개수를 결정하는데 필요한 특정 값일 수도 있다. 영상 복호화 장치는 타겟 영역에 대한 BO의 총 밴드 개수를 지시하기 위한 정보를 획득하여 BO의 총 밴드 개수를 결정할 수 있다. 예를 들어, 타겟 영역인 하나의 CTU 내의 복원된 픽셀값이 두 그룹으로 나누어 진다면, BO의 전체 구간 개수는 2가 되고, 영상 부호화 장치는 CTU의 신택스로서 총 밴드 개수인 “2”를 결정할 수 있는 특정값을 시그널링한다. 영상 복호화 장치는 해당 CTU의 신택스로서 포함된 총 밴드 개수를 지시하기 위한 정보를 복호화하여 해당 CTU에 대한 BO의 전체 구간 개수를 2로 결정한다.
본 실시예의 또 다른 예로서, 타겟 영역보다 상위 레벨인 제1 영역의 신택스로서 기준 밴드 개수를 부호화하고, 제1 영역보다 하위 레벨이고 타겟 영역과 동일 또는 상위 레벨인 제2 영역의 신택스로서 차분 밴드 개수를 부호화할 수도 있다. 예를 들어, 타겟 영역이 CTU인 경우 CTU보다 상위 레벨인 슬라이스, 픽처, 또는 시퀀스, 비디오 단위로 기준 밴드 개수를 부호화하고, CTU 단위로 차분 밴드 개수를 부호화할 수 있다. 영상 복호화 장치는 상위 레벨의 신택스를 복호화하여 획득한 기준 밴드 개수와 CTU의 신택스들을 복호화하여 획득한 차분 밴드 개수를 가산하여 총 밴드 개수를 구할 수 있다.
실시예 A-4
본 실시예는 타겟 영역에 존재하는 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 타겟 영역의 총 밴드 개수를 적응적으로 설정한다.
예컨대, 영상 부호화 장치는 복원된 타겟 영역인 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 총 밴드의 개수를 결정한다. 영상 복호화 장치 또한 CTU를 복원한 이후에 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 타겟 영역에 대한 총 밴드 개수를 영상 부호화 장치와 동일하게 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 영상 부호화 장치가 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 총 밴드 개수를 지시하는 정보를 영상 복호화 장치로 시그널링하고, 영상 복호화 장치는 그 정보를 복호화하여 타겟 영역에 대한 총 밴드 개수를 결정할 수도 있다.
예를 들어, 하나의 타켓 영역의 복원된 픽셀값의 최소값이 32이고, 최대값이 70이며, 하나의 밴드의 폭은 고정 값 8 인 경우, 해당 타켓 영역의 총 밴드의 개수를 5개로 설정할 수 있다. 밴드의 구간은 최소값 및 최대값을 포함하는 (32 - 39), (40 - 47), (48 - 55), (56 - 63), (64 - 71)이 된다. 여기서, 총 밴드의 개수에 대한 최소값을 미리 설정할 수도 있다.
본 실시예의 다른 예시로서, 타겟 영역에 존재하는 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 타겟 영역의 밴드의 폭을 적응적으로 설정하는 것도 가능하다.
예컨대, 영상 부호화 장치는 복원된 타겟 영역인 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 밴드의 폭을 결정한다. 영상 복호화 장치 또한 CTU를 복원한 이후에 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 타겟 영역에 대한 밴드의 폭을 영상 부호화 장치와 동일하게 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 영상 부호화 장치가 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 밴드의 폭을 지시하는 정보를 영상 복호화 장치로 시그널링하고, 영상 복호화 장치는 그 정보를 복호화하여 타겟 영역에 대한 밴드의 폭을 결정할 수도 있다.
예를 들어, 하나의 타켓 영역의 복원된 픽셀값의 최소값이 32이고, 최대값이 70이며, 총 밴드의 개수가 고정 값 32 인 경우, 해당 타켓 영역의 한 밴드의 폭을 1 및/또는 2개로 설정할 수 있다. 밴드의 구간은 최소값 및 최대값을 포함하는 (32 - 33), (34 - 35), (36 - 37), (38 - 39), … , (70 - 71), (72 - 73), … , (94 - 95)이 된다. 여기서, 한 밴드의 폭에 대한 최소값을 미리 설정할 수도 있다.
실시예 A-5
본 실시예는 QP (quantization parameter)를 이용하여 타겟 영역에 대한 총 밴드 개수를 결정한다.
QP가 클수록 복원된 픽셀값의 분포가 단순해 지므로 총 밴드의 개수를 줄여도 될 수 있다. 그러므로 QP가 클수록 총 밴드의 개수를 줄이고, QP가 작을수록 총 밴드의 개수를 증가시킨다. 또는 반대로, QP 값이 증가할수록 복원된 픽셀값과 원본 픽셀값과의 왜곡이 심해질 수 있으므로 총 밴드 개수를 늘리고, QP 값이 감소할수록 왜곡이 사라질 가능성이 높으므로 총 밴드 개수를 줄일 수도 있다.
영상 부호화 장치와 영상 복호화 장치는 서로 공유하는 기준에 따라 QP를 이용하여 총 밴드 개수를 결정할 수 있다. 또는 영상 부호화 장치가 QP를 이용하여 총 밴드 개수를 결정하고, 영상 복호화 장치로 총 밴드 개수를 지시하기 위한 정보를 시그널링할 수도 있다.
이상에서 설명한 실시예 A-1 내지 A-5는, bitdepth, 타겟 영역 내의 복원된 픽셀값들의 분포, 타겟 영역 내의 복원된 픽셀값들의 최대값과 최소값, QP 중 어느 하나를 요인(factor)을 이용하여 BO의 총 밴드 개수를 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 복수의 요인들을 이용하여 총 밴드 개수를 결정하는 것도 본 발명에 포함된다. 예컨대, 영상 부호화 장치는 bitdepth에 기초하여 기준이 되는 밴드 개수를 결정하고 QP에 따라 그 기준 밴드의 개수를 조절하여 BO의 총 밴드 개수를 결정할 수도 있다. 또는, bitdepth에 기초하여 기준이 되는 밴드 개수를 결정하고 타겟 영역 내의 복원된 픽셀값들의 최대값과 최소값에 따라 그 기준이 되는 밴드 개수를 조절하여 BO의 총 밴드 개수를 결정할 수도 있다. 영상 복호화 장치도 영상 부호화 장치와 마찬가지 방법으로 BO의 총 밴드 개수를 결정할 수 있고, 또는 총 밴드 개수를 지시하기 위한 정보를 영상 부호화 장치로부터 수신하여 총 밴드 개수를 결정할 수도 있다.
이상에서 설명한 실시예 A-1 내지 A-5는 총 밴드 개수를 결정하는 것으로 설명하였으나, 동일한 하나 이상의 요인들을 이용하여 밴드 폭을 결정하는 것도 가능하다.
한편, 총 밴드 개수를 지시하는 정보를 부호화하기 위해 다양한 방법이 적용될 수 있다. 예컨대, bitdepth에 따라 총 밴드 개수를 결정하는 실시예 A-2는 bitdepth가 시그널링되는 단위와 동일한 단위에서 총 밴드 개수를 지시하는 정보를 부호화할 수 있다. 만약, bitdepth가 SPS의 신택스로서 부호화된다면 총 밴드 개수를 지시하는 정보도 SPS의 신택스로서 부호화된다. 타겟 영역 내의 복원된 픽셀값들의 분포를 이용하는 실시예 A-3, 타겟 영역 내의 복원된 픽셀값의 최대값/최소값을 이용하는 실시예 A-4 및 QP를 이용하는 A-5는 타겟 영역 단위로 총 밴드 개수에 대한 정보를 부호화할 수 있다. 예컨대, 타겟 영역이 CTU인 경우, 실시예 A-3 내지 A-5는 CTU의 신택스로서 총 밴드 개수에 대한 정보를 부호화한다. 다른 예로서, 실시예 A-3에서 설명한 것과 마찬가지로, 실시예 A-4 및 A-5도 타겟 영역보다 상위 레벨인 제1 영역의 신택스로서 기준 밴드 개수에 대한 정보를 부호화하고, 제1 영역보다 하위 레벨이고 타겟 영역과 동일하거나 상위 레벨인 제2 영역의 신택스로서 차분 밴드 개수에 대한 정보를 부호화하는 방법을 사용할 수도 있다. 이 경우 영상 복호화 장치는 제1 영역의 신택스인 기준 밴드 개수를 복호화하여 기준 밴드 개수를 결정하고, 제2 영역의 신택스인 차분 밴드 개수를 복호화하여 차분 밴드 개수를 결정한다. 제2 영역 내의 모든 타겟 영역에 대한 총 밴드 개수는 기준 밴드 개수와 차분 밴드 개수를 가산하여 얻는다.
또한, 총 밴드 개수를 지시하는 정보는 luma 블록과 chroma 블록에 공통으로 적용되는 하나의 신택스로서 부호화될 수도 있고, luma 블록과 chroma 블록 각각에 적용되는 별개의 신택스로서 부호화될 수도 있다.
또한, 영상 부호화 장치는 VPS, SPS, PPS 등의 위치에 적응적 BO 밴드 개수 결정 방법을 인에이블(enable)하기 위한 플래그를 부호화하고, 영상 복호화 장치는 플래그가 on 인 경우에만 적응적 BO 밴드 개수 결정 방법을 적용하도록 할 수 있다. 플래그가 off인 경우에는 적응적 BO 밴드 개수 결정 방법이 사용되지 않고 전술한 고정된 BO 밴드 개수를 사용한다. 대안적으로, 타겟 영역 단위로 해당 플래그를 부호화하여 플래그가 on인 타겟 영역만 적응적 BO 밴드 개수 결정 방법을 적용할 수도 있다.
B. BO을 적용할 밴드 결정
BO의 총 밴드 개수 또는 밴드 폭이 결정된 후, 픽셀값의 범위는 서로 중첩되지 않는 복수의 밴드로 분할된다. 여기서, 픽셀값의 범위는 bitdepth에 의해 표현 가능한 값의 범위일 수 있다. 예컨대, 총 밴드 개수 또는 밴드 폭이 bitdepth에 의해 결정되는 경우 픽셀값의 범위는 bitdepth에 의해 표현 가능한 값의 범위일 수 있다. 다른 예로서, 픽셀값의 범위는 타겟 영역 내의 복원된 픽셀들이 가지는 픽셀값의 최소값과 최대값에 의해 정의될 수도 있다. 즉, 픽셀값의 범위는 최소값 이상 최대값 이하의 범위일 수 있다. 예컨대, 총 밴드 개수 또는 밴드 폭이 타겟 영역 내의 복원된 픽셀들의 최대값과 최소값에 의해 결정되는 경우, 타겟 영역 내의 복원된 픽셀들이 가지는 픽셀값의 최소값과 최대값에 의해 정의될 수도 있다.
BO 필터링은 복수의 밴드들 중에서 일정 개수의 밴드에 적용한다. 따라서, 영상 부호화 장치는 BO를 적용할 밴드들을 식별하기 위한 식별 정보를 부호화하여, 타겟 영역 단위로 부호화한다. 여기서, 영상 복호화 장치는 그 식별 정보를 복호화하여 전체 밴드들 중에서 BO를 적용할 밴드들을 식별한다. 이하에서는 BO를 적용할 밴드를 결정하고 밴드들의 위치를 식별하기 위한 식별 정보를 부호화/복호화하는 방법을 개시한다.
실시예 B-1
본 실시예는 전체 밴드들 중에서 일정 개수의 연속된 밴드들에 BO를 적용한다. 영상 부호화 장치는 일정 개수(n, n은 1 이상의 자연수)의 연속된 밴드를 결정하고, 결정된 연속된 밴드 중에서 첫 번째 밴드를 식별하기 위한 식별 정보, 다시 말해, 시작 밴드의 위치를 지시하는 위치 정보를 타겟 영역 단위로 시그널링한다. 예를 들어, 전체 밴드들 각각에 픽셀값이 낮은 밴드로부터 오름차순으로 인덱스를 부여한 경우, BO를 적용할 연속된 밴드 중에서 첫 번째 밴드에 해당하는 인덱스를 부호화한다. 영상 복호화 장치는 그 위치 정보를 복호화하여 그 위치 정보가 지시하는 밴드로부터 연속된 n개의 밴드를 BO를 적용할 밴드로 결정한다.
만약, 타켓 영역의 복원한 픽셀들 중 최대값과 최소값을 기반으로 총 밴드의 개수 또는 밴드의 폭을 설정하는 경우, 본 실시예는 해당 타켓 영역에 대한 총 밴드의 개수가 특정 임계값보다 작으면, BO를 적용할 밴드에 대한 별도 정보를 시그널링 하지 않을 수 있다. 즉, 해당 타켓 영역의 총 밴드에 대해 BO를 적용할 수도 있다. 예를 들어, BO를 적용할 밴드의 개수 n이 4로 설정되어 있는 경우, 총 밴드의 개수가 4보다 작으면 모든 밴드에 BO를 적용하게 된다. 따라서, BO를 적용할 밴드를 식별하기 위한 식별정보에 대한 추가적인 시그널링은 요구되지 않는다. 영상 복호화 장치도 총 밴드의 개수가 4보다 작으면, 모든 밴드에 BO를 적용한다.
실시예 B-2
본 실시예는 BO를 적용할 밴드를 연속하여 결정하는 것이 요구되지 않는 경우에 적합하다.
본 실시예에서 영상 부호화 장치는 전체 밴드들 중에서 BO를 적용할 n개의 밴드를 결정하고 그 결정된 밴드들 각각의 위치를 나타내는 위치 정보를 부호화한다. 각 밴드의 위치 정보는 그 밴드들에 해당하는 인덱스들일 수 있다. 각 밴드의 위치 정보는 타겟 영역 단위로 영상 복호화 장치로 시그널링된다.
대안적으로, 영상 부호화 장치는 n개의 밴드들 중에서 첫 번째 밴드의 인덱스 그 자체를 부호화하고, 나머지 밴드들에 대해서는 n개의 밴드들 사이에서 서로 이웃하는 밴드들 간의 인덱스 차이인 차분 인덱스를 부호화할 수도 있다. 영상 복호화 장치는 첫 번째 밴드의 인덱스를 복호화하여 n개의 밴드들 중 첫 번째 밴드를 식별한다. 두 번째 밴드의 인덱스는 그 두 번째 밴드에 해당하는 차분 인덱스와 첫 번째 밴드의 인덱스를 가산하여 구한다. 세 번째 밴드의 인덱스는 그 세 번째 밴드에 해당하는 차분 인덱스와 두 번째 밴드의 인덱스를 가산하여 구한다. 이렇게 이전 밴드의 인덱스와 차분 인덱스를 가산하는 방식으로 영상 복호화 장치는 BO를 적용할 n개의 밴드들을 식별할 수 있다. 예를 들어 n의 값이 4이고 4개의 밴드에 해당하는 인덱스가 4, 13, 15 및 35 인 경우, 영상 부호화 장치는 4, 9, 2, 및 20을 부호화한다, 영상 복호화 장치는 이 값들을 복호화한 후, 4로부터 첫 번째 밴드를 식별하고, 첫 번째 밴드의 인덱스 4와 차분 인덱스 9를 더하여 두 번째 밴드의 인덱스 13을 구하고, 마찬가지로 13+2 연산과 15+20 연산을 통해 세 번째 밴드와 네 변째 밴드의 인덱스를 구한다.
이상에서 설명한 실시예에서 BO를 적용한 밴드의 개수 n은 영상 부호화 장치와 영상 복호화 장치가 공유하는 고정된 값일 수도 있지만, 가변하는 값일 수도 있다. 이 경우, 영상 부호화 장치는 BO를 적용할 연속된 밴드의 개수 n에 대한 정보를 영상 복호화 장치로 시그널링한다. n에 대한 정보는 타겟 영역 단위로 시그널링되어 타겟 영역마다 BO를 적용할 연속된 밴드의 개수를 가변적으로 결정할 수 있다. 또는, 타겟 영역보다 상위 레벨의 신택스, 예컨대, 슬라이스, PPS 또는 SPS의 신택스로서 시그널링할 수도 있다. 이 경우 그 상위 레벨마다 n의 값이 가변적으로 결정된다. 즉, 상위 레벨에 포함되는 모든 타겟 영역들은 상위 레벨의 신택스로서 시그널링된 n의 값을 공유한다.
한편, 본 개시에서 기술하는 개선된 BO 프로세스는 실시예 B-1과 B-2를 선택적으로 적용할 수도 있다. 예를 들어, 영상 부호화 장치는 BO를 적용할 밴드들을 결정한 이후에, 그 결정된 밴드들이 연속적인지 아니면 불연속적인지 여부를 지시하는 플래그를 부호화할 수 있다. 그리고 BO를 적용할 밴드들이 연속적인 경우에는 실시예 B-1의 방법을 사용하고 불연속적인 경우에는 실시예 B-2를 사용하여 BO를 적용할 밴드들의 위치를 부호화할 수 있다. 영상 복호화 장치는 플래그를 복호화하여 BO를 적용할 밴드들이 연속적인지 아니면 불연속적인지 여부를 판단한다. 플래그가 '연속'을 지시하면 실시예 B-1의 방법을 사용하여 BO를 적용할 밴드들의 위치를 식별하고, 플래그가 '불연속'을 지시하면 실시예 B-2의 방법을 사용하여 BO를 적용할 밴드들의 위치를 식별한다.
도 8은 본 개시가 기술하는 개선된 BO 프로세스를 설명하는 예시적인 순서도이다.
영상 부호화 장치는 BO의 총 밴드 개수 또는 밴드 폭을 결정한다(S802). "A. 총 밴드 개수(또는 밴드 폭) 결정"에서 설명한 바와 같이, 총 밴드 개수 또는 밴드 폭은 bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 결정될 수 있다.
영상 부호화 장치는, 총 밴드 개수 또는 밴드 폭을 이용하여 픽셀값의 전체 범위를 서로 중첩되지 않는 복수의 밴드로 분할하고, 그 복수의 전체 밴드들 중에서 BO를 적용할 대상 밴드들을 결정한다(S804). "B. BO을 적용할 밴드 결정"에서 설명한 바와 같이, 대상 밴드의 개수(n)는 영상 부호화 장치와 영상 복호화 장치가 서로 공유하는 고정된 값일 수도 있고, 또는 가변하는 값일 수도 있다. 가변하는 값일 경우, 영상 부호화 장치가 부호화하는 BO 관련 신택스 요소들에는 대상 밴드의 개수에 대한 정보가 포함된다.
영상 부호화 장치는 결정된 대상밴드 각각에 대응하는 오프셋을 결정하고(S806), 타겟 영역 내의 복원된 픽셀들 중에서 각 대상밴드에 속하는 픽셀들에 그 픽셀들이 속하는 대상밴드의 오프셋을 가산한다(S808).
그리고, 영상 부호화 장치는, 영상 복호화 장치가 자신과 동일하게 BO 프로세스를 수행할 수 있도록, BO 관련 신택스 요소들을 부호화하여 영상 복호화 장치로 전송한다(S810). BO 관련 신택스 요소들은 전체 밴드들 중에서 BO를 적용할 대상 밴드들의 위치를 나타내는 위치 정보, 각 대상 밴드에 대응하는 오프셋에 대한 정보를 포함한다. BO를 적용할 대상 밴드들의 위치를 나타내는 위치 정보를 부호화하는 방법은 "B. BO을 적용할 밴드 결정"에서 이미 설명하였으므로, 더 상세한 설명은 생략한다. 만약, 영상 부호화 장치와 영상 복호화 장치가 총 밴드 개수 또는 밴드 폭을 결정하는 방법을 공유할 수 없는 경우에는, BO 관련 신택스 요소들은 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보를 추가로 더 포함할 수 있다. 또한, BO를 적용할 대상 밴드의 개수(n)가 가변적인 경우에는 n에 대한 정보를 추가로 더 포함할 수 있다.
부호화된 BO 관련 신택스 요소들은 영상 복호화 장치로 시그널링된다.
영상 복호화 장치는 영상 부호화 장치로부터 수신한 BO 관련 신택스 요소들을 복호화한다(S902). 그리고, BO의 총 밴드 개수 또는 밴드 폭을 결정한다(S904). 영상 복호화 장치는, 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보가 시그널링되지 않는 경우, 영상 부호화 장치와 동일한 방식으로 총 밴드 개수 또는 밴드 폭을 결정한다. 즉, bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 총 밴드 개수 또는 밴드 폭을 결정한다. 반면 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보가 시그널링되는 다른 경우, 영상 복호화 장치는 복호화된 BO 관련 신택스 요소들로부터 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보를 획득하고, 그 정보에 의해 총 밴드 개수 또는 밴드 폭을 결정한다. 총 밴드 개수 또는 밴드 폭을 결정하는 다양한 방법에 대해서는 이미 "A. 총 밴드 개수(또는 밴드 폭) 결정"에서 설명하였으므로, 더 이상의 설명은 생략한다.
영상 복호화 장치는, 그 결정된 총 밴드 개수 또는 밴드 폭을 사용하여 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할한다. 그리고 BO 관련 신택스 요소들로부터 BO를 적용한 대상밴드들의 위치를 식별하기 위한 위치 정보를 획득하고, 그 위치 정보를 이용하여 그 복수의 전체 밴드들 중에서 BO를 적용할 대상밴드들을 결정한다(S906). BO를 적용할 대상밴드의 결정에 대해서는 "B. BO을 적용할 밴드 결정"에서 이미 설명하였으므로, 더 상세한 설명은 생략한다.
영상 복호화 장치는 BO 관련 신택스 요소들로부터 대상 밴드 각각에 대응하는 오프셋을 획득하고(S908), 타겟 영역 내의 복원된 픽셀들 중 대상 밴드들 각각에 속하는 픽셀들에 그 픽셀들이 속하는 대상 밴드들의 오프셋을 가산한다(S910).
이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
CROSS-REFERENCE TO RELATED APPLICATION
본 특허출원은, 본 명세서에 그 전체가 참고로서 포함되는, 2017년 10월 23일 한국에 출원한 특허출원번호 제10-2017-0137713호 및 2018년 05월 11일 한국에 출원한 특허출원번호 제10-2018-0054031호에 대해 우선권을 주장한다.

Claims (16)

  1. 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 있어서,
    픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭(band width)을 결정하는 단계;
    상기 총 밴드 개수 또는 상기 밴드 폭을 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계;
    상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 비트스트림으로부터 획득하는 단계; 및
    상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계
    를 포함하는 필터링 방법.
  2. 제1항에 있어서,
    상기 총 밴드 개수 또는 상기 밴드 폭을 결정하는 단계,
    상기 비트스트림으로부터 비트 뎁스(bitdepth)에 대한 정보 또는 양자화 파라미터(quantization parameter)에 대한 정보 중 적어도 하나를 복호화하는 단계; 및
    상기 비트 뎁스에 대한 정보 또는 상기 양자화 파라미터에 대한 정보 중 적어도 하나에 근거하여 상기 총 밴드 개수 또는 밴드 폭을 적응적으로 결정하는 단계
    를 포함하는 필터링 방법.
  3. 제1항에 있어서,
    상기 총 밴드 개수 또는 밴드 폭을 결정하는 단계는,
    상기 비트스트림으로부터 상기 총 밴드 개수를 지시하기 위한 정보를 복호화하는 단계; 및
    상기 총 밴드 개수를 지시하기 위한 정보를 이용하여 상기 총 밴드 개수를 적응적으로 결정하는 단계
    를 포함하는 필터링 방법.
  4. 제3항에 있어서,
    상기 총 밴드 개수를 지시하기 위한 정보를 복호화하는 단계는,
    상기 타겟 영역의 상위 레벨인 제1 영역에 대응하는 신택스들을 복호화하여 기준 밴드 개수를 획득하는 단계; 및
    상기 제1 영역보다 하위 레벨이고 상기 타겟 영역과 동일 또는 상위 레벨인 제2 영역에 대응하는 신택스들을 복호화하여 차분 밴드 개수를 획득하는 단계를 포함하고,
    상기 총 밴드 개수는 상기 기준 밴드 개수와 상기 차분 밴드 개수를 가산하여 결정되는 것을 특징으로 하는 필터링 방법.
  5. 제1항에 있어서,
    상기 총 밴드 개수 또는 상기 밴드 폭은 상기 타겟 영역 내의 복원된 픽셀들의 최대값과 최소값에 근거하여 결정되는 것을 특징으로 하는 필터링 방법.
  6. 제1항에 있어서,
    상기 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계는,
    상기 비트스트림으로부터 필터링을 수행할 밴드의 개수에 대한 정보를 복호화하는 단계;
    상기 비트스트림으로부터 상기 복수의 밴드들 중에서 필터링을 수행할 첫 번째 밴드를 식별하기 위한 식별 정보를 복호화하는 단계; 및
    상기 식별 정보에 의해 지시되는 밴드로부터 상기 필터링을 수행할 밴드의 개수에 대한 정보에 의해 지시되는 개수만큼의 연속된 밴드들(consecutive bands)을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 단계
    를 포함하는 필터링 방법.
  7. 제1항에 있어서,
    상기 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계는,
    상기 복수의 밴드들 중에서 필터링을 수행할 밴드들 각각을 식별하기 위한 식별 정보를 복호화하는 단계;
    상기 식별 정보에 의해 식별되는 밴드들을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 단계
    를 포함하는 필터링 방법.
  8. 제7항에 있어서,
    상기 식별 정보는,
    상기 필터링을 수행할 밴드들 중 첫 번째 밴드의 위치를 지시하는 인덱스, 및
    상기 필터링을 수행할 밴드들 중 서로 이웃하는 밴드들 간의 인덱스의 차이인 차분 인덱스를 포함하는 것을 특징으로 하는 필터링 방법.
  9. 제1항에 있어서,
    상기 픽셀값의 범위는 비트뎁스에 의해 표현 가능한 픽셀값의 범위, 또는 상기 타겟 영역 내의 복원된 픽셀들의 최소값 및 최대값에 의해 정의되는 것을 특징으로 하는 필터링 방법.
  10. 영상 복호화 장치에 있어서,
    비트스트림을 복호화함으로써 타겟 영역 내의 픽셀들을 복원하는 영상 복원기;
    상기 타겟 영역 내의 복원된 픽셀들을 필터링하는 필터를 포함하되,
    상기 필터는,
    픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭을 결정하고,
    상기 총 밴드 개수 또는 밴드 폭에 근거하여 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하며,
    상기 복호화된 비트스트림으로부터 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 획득하고,
    상기 타겟 영역 내의 복원된 픽셀 중에서 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 것을 특징을 하는 영상 복호화 장치.
  11. 제10항에 있어서,
    상기 필터는,
    상기 복호화된 비트스트림으로부터 비트 뎁스(bitdepth)에 대한 정보 또는 양자화 파라미터(quantization parameter)에 대한 정보 중 적어도 하나를 획득하고,
    상기 비트 뎁스에 대한 정보 또는 상기 양자화 파라미터에 대한 정보 중 적어도 하나에 근거하여 상기 총 밴드 개수 또는 상기 밴드 폭을 적응적으로 결정하는 것을 특징으로 하는 영상 복호화 장치.
  12. 제10항에 있어서,
    상기 필터는,
    상기 복호화된 비트스트림으로부터 상기 총 밴드 개수를 지시하기 위한 정보를 획득하고,
    상기 총 밴드 개수를 지시하기 위한 정보를 이용하여 상기 총 밴드 개수를 적응적으로 결정하는 것을 특징으로 하는 영상 복호화 장치.
    를 포함하는 영상 복호화 장치.
  13. 제10항에 있어서,
    상기 필터는,
    상기 총 밴드 개수 또는 상기 밴드 폭은 상기 타겟 영역 내의 복원된 픽셀들의 최대값과 최소값에 근거하여 결정하는 것을 특징으로 하는 영상 복호화 장치.
  14. 제10항에 있어서,
    상기 필터는,
    상기 복호화된 비트스트림으로부터 필터링을 수행할 밴드의 개수에 대한 정보를 획득하고,
    상기 복호화된 비트스트림으로부터 상기 복수의 밴드들 중에서 필터링을 수행할 첫 번째 밴드를 식별하기 위한 식별 정보를 획득하며,
    상기 식별 정보에 의해 지시되는 밴드로부터 상기 밴드의 개수에 대한 정보에 의해 지시되는 개수만큼의 연속된 밴드들(consecutive bands)을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 것을 특징으로 하는 영상 복호화 장치.
  15. 제10항에 있어서,
    상기 필터는,
    상기 복호화된 비트스트림으로부터 상기 복수의 밴드들 중에서 필터링을 수행할 밴드들 각각을 식별하기 위한 식별 정보를 획득하고,
    상기 식별 정보에 의해 식별되는 밴드들을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 것을 특징으로 하는 영상 복호화 장치.
  16. 제15항에 있어서,
    상기 식별 정보는,
    상기 필터링을 수행할 밴드들 중 첫 번째 밴드의 위치를 지시하는 인덱스, 및
    상기 필터링을 수행할 밴드들 중 서로 이웃하는 밴드들 간의 인덱스 차이인 차분 인덱스를 포함하는 것을 특징으로 하는 필터링 방법.
PCT/KR2018/012527 2017-10-23 2018-10-23 Sao 필터링을 위한 방법 및 장치 WO2019083243A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20170137713 2017-10-23
KR10-2017-0137713 2017-10-23
KR10-2018-0054031 2018-05-11
KR1020180054031A KR102617469B1 (ko) 2017-10-23 2018-05-11 Sao 필터링을 위한 방법 및 장치

Publications (1)

Publication Number Publication Date
WO2019083243A1 true WO2019083243A1 (ko) 2019-05-02

Family

ID=66246939

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/012527 WO2019083243A1 (ko) 2017-10-23 2018-10-23 Sao 필터링을 위한 방법 및 장치

Country Status (1)

Country Link
WO (1) WO2019083243A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113841397A (zh) * 2019-05-15 2021-12-24 现代自动车株式会社 影像编码和解码方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130114909A1 (en) * 2011-11-08 2013-05-09 Texas Instruments Incorporated Method and Apparatus for Image and Video Coding Using Hierarchical Sample Adaptive Band Offset
KR20140038476A (ko) * 2011-06-24 2014-03-28 엘지전자 주식회사 영상 정보 부호화 및 복호화 방법
KR101547201B1 (ko) * 2011-01-09 2015-08-25 미디어텍 인크. 비디오 부호화를 위한 샘플 적응 오프셋의 장치 및 방법
KR20160114087A (ko) * 2014-01-30 2016-10-04 퀄컴 인코포레이티드 낮은 복잡도 샘플의 적응적 오프셋 인코딩
WO2017078450A1 (ko) * 2015-11-04 2017-05-11 엘지전자 주식회사 영상 코딩 시스템에서 영상 디코딩 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101547201B1 (ko) * 2011-01-09 2015-08-25 미디어텍 인크. 비디오 부호화를 위한 샘플 적응 오프셋의 장치 및 방법
KR20140038476A (ko) * 2011-06-24 2014-03-28 엘지전자 주식회사 영상 정보 부호화 및 복호화 방법
US20130114909A1 (en) * 2011-11-08 2013-05-09 Texas Instruments Incorporated Method and Apparatus for Image and Video Coding Using Hierarchical Sample Adaptive Band Offset
KR20160114087A (ko) * 2014-01-30 2016-10-04 퀄컴 인코포레이티드 낮은 복잡도 샘플의 적응적 오프셋 인코딩
WO2017078450A1 (ko) * 2015-11-04 2017-05-11 엘지전자 주식회사 영상 코딩 시스템에서 영상 디코딩 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113841397A (zh) * 2019-05-15 2021-12-24 现代自动车株式会社 影像编码和解码方法及装置

Similar Documents

Publication Publication Date Title
WO2020185004A1 (ko) 예측 유닛을 서브 유닛들로 분할하여 예측하는 인트라 예측 방법 및 장치
WO2020185009A1 (ko) 잔차블록을 효율적으로 코딩하는 방법 및 장치
WO2019194500A1 (ko) 인트라 예측에 기반한 영상 코딩 방법 및 그 장치
WO2022114742A1 (ko) 비디오 부호화 및 복호화를 위한 장치 및 방법
WO2022186616A1 (ko) 인트라 예측모드 유도를 이용하는 비디오 코딩방법 및 장치
WO2019135628A1 (ko) 영상을 부호화 또는 복호화하는 방법 및 장치
WO2019135630A1 (ko) 변환 계수의 부호 데이터 은닉
WO2021251787A1 (ko) 루마 매핑 크로마 스케일링을 이용하는 영상 부호화 및 복호화
WO2020242181A1 (ko) 인트라 모드 후보 구성 방법 및 영상 복호화 장치
WO2020184999A1 (ko) 영상 부호화 및 복호화 방법 및 장치
WO2023038447A1 (ko) 비디오 부호화/복호화 방법 및 장치
WO2019083243A1 (ko) Sao 필터링을 위한 방법 및 장치
WO2022030980A1 (ko) 비디오 데이터의 패치북 기반 부호화 및 복호화를 위한 방법 및 장치
WO2022045738A1 (ko) 딥러닝 기반 인루프 필터를 이용하는 영상 부호화 및 복호화
WO2018124686A1 (ko) 인트라 예측을 이용한 영상의 부호화 및 복호화
WO2020185027A1 (ko) 데이터 블록에 변환 생략 모드를 효율적으로 적용하기 위한 방법 및 장치
WO2019135636A1 (ko) Ycbcr간의 상관 관계를 이용한 영상 부호화/복호화 방법 및 장치
WO2020009460A1 (ko) 잔차신호 재배열 방법 및 영상 복호화 장치
WO2023075120A1 (ko) 다양한 블록 분할 구조를 이용하는 비디오 코딩방법 및 장치
WO2019078693A1 (ko) 영상 부호화 또는 복호화하기 위한 장치 및 방법
WO2024058430A1 (ko) 하나의 블록에 싱글 트리와 듀얼 트리를 적응적으로 이용하는 비디오 코딩을 위한 방법 및 장치
WO2024112126A1 (ko) 코딩트리유닛의 분할구조를 예측하고 수정하는 비디오 부호화/복호화 방법 및 장치
WO2022114669A2 (ko) 신경망을 이용한 영상 부호화
WO2022177380A1 (ko) 인터 예측 기반의 비디오 부호화 및 복호화
WO2020190077A1 (ko) 예측모드 추정에 기반하는 인트라 예측장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18870528

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18870528

Country of ref document: EP

Kind code of ref document: A1