WO2017057922A1 - 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치 - Google Patents

그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치 Download PDF

Info

Publication number
WO2017057922A1
WO2017057922A1 PCT/KR2016/010913 KR2016010913W WO2017057922A1 WO 2017057922 A1 WO2017057922 A1 WO 2017057922A1 KR 2016010913 W KR2016010913 W KR 2016010913W WO 2017057922 A1 WO2017057922 A1 WO 2017057922A1
Authority
WO
WIPO (PCT)
Prior art keywords
gblt
graph
transform
prediction
dct
Prior art date
Application number
PCT/KR2016/010913
Other languages
English (en)
French (fr)
Inventor
-쉬안 챠오융
예세훈
오르테가안토니오
Original Assignee
엘지전자 주식회사
유니버시티 오브 서던 캘리포니아
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사, 유니버시티 오브 서던 캘리포니아 filed Critical 엘지전자 주식회사
Priority to US15/764,599 priority Critical patent/US10771815B2/en
Priority to KR1020187011824A priority patent/KR20180079314A/ko
Publication of WO2017057922A1 publication Critical patent/WO2017057922A1/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding

Definitions

  • the present invention relates to a method and apparatus for encoding and decoding a video signal using a Graph-Based Lifting Transform (GBLT).
  • GBLT Graph-Based Lifting Transform
  • GMRF Gaussian Markov Random Field
  • Compression coding refers to a series of signal processing techniques for transmitting digitized information through a communication line or for storing in a form suitable for a storage medium.
  • Media such as an image, an image, an audio, and the like may be a target of compression encoding.
  • a technique of performing compression encoding on an image is called video image compression.
  • Next-generation video content will have a tuxing of high spatial resolution, high frame rate and high dimensionality of scene representation. Processing such content will have a tremendous increase in terms of memory storage, memory access rate, and processing power.
  • a graph is a data representation form useful for describing relationship information between pixels, and a graph-based signal processing method of expressing and processing such relationship information between pixels as a graph is used.
  • Graph Fourier Transform (GFT) is used in image / video processing, including compression and noise reduction.
  • GFT Graph Fourier Transform
  • the advantage of the GFT lies in its ability to decode the characteristics of the signals, relative to the location of the signal sequences that are signaled and represented by the graph.
  • the use of GFT in block-based processing is preferentially introduced for depth map coding, and high frequency edge structures can be easily represented with low bitrates. Edges with small pixel gradients are represented by additional optimized weights w ⁇ (0, 1).
  • GFT The main challenge of GFT is that it requires eigen-decomposition, which can be complex.
  • transform operation requires 0 (N 2 ) operations.
  • some graphs are selected as templates, and their unique vectors are precomputed and stored.
  • this method is only applicable for small block sizes, ie 4 ⁇ 4 and 8 ⁇ 8, and the number of different templates considered is relatively small.
  • GBLT Graph-Based Lifting Transform
  • DCT Discrete Cosine Transform
  • the present invention intends to design a bipartition algorithm that defines a model for an intra predicted residual signal using GMRF and minimizes energy in a prediction set.
  • the present invention also proposes a new reconnection technique that improves prediction in local filterbanks.
  • the present invention is to propose a method of determining the conversion method by comparing the RD (Rate Distortion) cost among a plurality of conversion methods including a graph-based lifting conversion.
  • the present invention also proposes a method of encoding a video signal using a graph-based lifting transform.
  • the present invention also proposes a method of decoding a video signal using a graph-based lifting transform.
  • the present invention proposes a method of signaling a mode index to use a graph-based lifting transform.
  • the present invention relates to a measurement error of Maximum A Posteriori (MAP) in a prediction set. I would like to suggest a way to minimize it.
  • MAP Maximum A Posteriori
  • the present invention provides a method of defining a model for an intra predicted residual signal using GMRF and designing a bipartition algorithm that minimizes energy in the prediction set.
  • the present invention also proposes a new reconnection technique that improves prediction in local filterbanks.
  • the present invention proposes a method of determining a conversion method by comparing a Rate Distortion (RD) cost among a plurality of conversion methods including a graph-based lifting conversion.
  • RD Rate Distortion
  • the present invention proposes a method of encoding and decoding a video signal using a graph-based lifting transform.
  • the present invention proposes a method of signaling a mode index to use a graph-based lifting transform.
  • the present invention proposes a method of minimizing a Maximum A Posteriori (MAP) measurement error in a prediction set.
  • MAP Maximum A Posteriori
  • the present invention proposes a transform scheme for intra predicted video coding based on graph-based lifting transform.
  • the dichotomy algorithm is proven based on the GMRF model and provides better coding gain than the MaxCut based dichotomy.
  • the invention will also be applicable to video coding with larger block sizes.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 2 is a schematic block diagram of a decoder in which decoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • FIG. 4 is a diagram for describing a process of obtaining a graph-based transformation matrix based on a 1D graph and a 2D graph as an embodiment to which the present invention is applied.
  • 5 illustrates a schematic block diagram of an encoder for processing a graph-based signal as an embodiment to which the present invention is applied.
  • FIG. 6 illustrates a schematic block diagram of a decoder for processing a graph-based signal as an embodiment to which the present invention is applied.
  • FIG. 7 is a schematic internal block diagram of a graph-based transform unit using a graph-based lifting transform (GBLT) according to an embodiment to which the present invention is applied.
  • GBLT graph-based lifting transform
  • FIG. 8 is a schematic internal block diagram of an inverse transform unit using a graph-based lifting transform (GBLT) according to an embodiment to which the present invention is applied.
  • FIG. 9 is a diagram for explaining boundary expansion of pixels around a block boundary according to an embodiment to which the present invention is applied.
  • GBLT graph-based lifting transform
  • FIG. 10 illustrates a graph configuration in higher level decomposition through kron reduction for 8x8 blocks obtained from an intra prediction residual signal as an embodiment to which the present invention is applied.
  • FIG. 11 is an embodiment to which the present invention is applied, and FIG. 11 (a) shows an image composed of a flat area (left half) and a high dispersion area (right half), and FIG. 11 (b) has one suction links.
  • the dividing graph used for the prediction / update operator is shown, and FIG. 11 (c) shows the dividing graph used for prediction / update with links derived from cron reduction.
  • FIG. 12 is a flowchart illustrating a method of determining a conversion method by comparing RD (Rate Distortion) cost among a plurality of conversion methods including a graph-based lifting conversion according to an embodiment to which the present invention is applied.
  • RD Random Distortion
  • FIG. 13 is a flowchart illustrating a method of encoding a video signal using a graph-based lifting transform according to an embodiment to which the present invention is applied.
  • FIG. 14 is a flowchart illustrating a method of decoding a video signal using a graph-based lifting transform, according to an embodiment to which the present invention is applied.
  • 15 is a graph illustrating a coding gain between Max-Cut-based lifting and Max-Cut-based lifting using the reconnection technique according to an embodiment to which the present invention is applied.
  • 16 is a diagram illustrating Max-Cut-based lifting using GFT, GMRF sampling, Max-Cut-based lifting and reconnection techniques, as an embodiment to which the present invention is applied. Table for comparing the average PSNR gain and bitrate reduction between the two. 17 illustrates a schematic structure to which a lifting transform is applied as an embodiment to which the present invention is applied.
  • a method of encoding a video signal based on a Graph-Based Lifting Transform comprising: detecting an edge from an intra residual signal; Generating a graph based on the detected edges, wherein the graph consists of nodes and weighted links; Performing GBLT on the graph to obtain a GB-Based Lifting Transform coefficient; Performing quantization on the GBLT coefficients; And performing entropy encoding on the quantized GBLT coefficients, wherein the GBLT includes a segmentation process, a prediction process, and an update process.
  • GBLT Graph-Based Lifting Transform
  • the method comprises: determining a mode index corresponding to the GBLT; And entropy encoding the mode index.
  • the method comprises: obtaining a DCT coefficient by performing DCT on the intra residual signal; And comparing the rate-distortion cost of the DCT coefficients and the GBLT coefficients, wherein when the rate-distortion cost of the GBLT coefficients is less than the DCT coefficients, a mode index is determined for the GBLT. It features.
  • the partitioning process may be performed by a Maximum A Posteriori (MAP) in a prediction set. It is characterized in that it is performed to minimize the measurement error.
  • MAP Maximum A Posteriori
  • the dividing process includes the steps of calculating the size of the update set; Selecting a node that minimizes MAP measurement error in a prediction set based on the size of the update set; And calculating an update set for the selected node.
  • the graph is characterized in that the reconnect before the next GBLT.
  • the present invention provides a method of decoding a video signal based on a graph-based lifting transform (GBLT) word 1, comprising: extracting a mode index indicating a transformation scheme from the video signal; Deriving a transform corresponding to the mode index, wherein the transform represents one of DCT or GBLT; Performing inverse transform on an intra residual signal based on the transform; And generating a reconstruction signal by adding a prediction signal to the inverse transformed intra residual signal.
  • GBLT graph-based lifting transform
  • the partitioning process of the GBLT is characterized in that it is performed in order to minimize the maximum A Posteriori (MAP) measurement error in the prediction set.
  • MAP A Posteriori
  • the mode index is determined by comparing the rate-distortion cost with respect to the DCT coefficient and the GBLT coefficient.
  • the present invention provides an apparatus for encoding a video signal based on a graph-based lifting transform (GBLT), comprising: an edge detector for detecting an edge from an intra residual signal; Generate a graph based on the detected edges, perform a GBLT on the graph to obtain GBLT coefficients Lifting conversion unit; A quantizer for performing quantization on the GBLT coefficients; And an entropy encoding unit for performing entropy encoding on the quantized GBLT coefficients, wherein the GBLT includes a division process, a prediction process, and an update process.
  • the apparatus further comprises a mode selection unit for determining a mode index corresponding to the GBLT, wherein the mode index is entropy encoded by the entropy encoding unit.
  • the apparatus includes a DCT unit for obtaining a DCT coefficient by performing a DCT on the intra residual signal; And the mode selector for comparing the rate-distortion cost of the DCT coefficient and the GBLT coefficient, wherein the mode selector corresponds to the GBLT when the rate-distortion cost of an additional GBLT coefficient is smaller than the DCT coefficient. It is characterized by selecting the mode index.
  • an apparatus for decoding a video signal based on a graph-based lifting transform (GBLT) comprising: a parser configured to extract a mode index indicating a transform scheme from the video signal; An inverse transform unit for inducing a transform corresponding to the mode index and performing an inverse transform on an intra residual signal based on the transform; And a reconstruction unit that adds a prediction signal to the inverse transformed intra residual signal to generate a reconstruction signal, wherein the conversion represents one of a DCT or a GBLT increment.
  • a parser configured to extract a mode index indicating a transform scheme from the video signal
  • An inverse transform unit for inducing a transform corresponding to the mode index and performing an inverse transform on an intra residual signal based on the transform
  • a reconstruction unit that adds a prediction signal to the inverse transformed intra residual signal to generate a reconstruction signal, wherein the conversion represents one of a DCT or a GBLT increment.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • the encoder 100 includes an image splitter 110, a transformer 120, a quantizer 130, an inverse quantizer 140, an inverse transform unit 150, a filter 160, and a decoded picture buffer (DPB).
  • Picture Buffer 170, the inter prediction unit 180, the intra prediction unit 185 and the entropy encoding unit 190 may be configured.
  • the image divider 1 10 may divide an input image (or a picture or a frame) input to the encoder 100 into one or more processing units.
  • the processing unit may be a Coding Tree Unit (CTU), a Coding Unit (CU), a Prediction Unit (PU), or a Transform Unit (TU).
  • CTU Coding Tree Unit
  • CU Coding Unit
  • PU Prediction Unit
  • TU Transform Unit
  • the terms are only used for the convenience of description of the present invention, the present invention is not limited to the definition of the terms.
  • the term coding unit is used as a unit used in encoding or decoding a video signal, but the present invention is not limited thereto and may be appropriately interpreted according to the present disclosure.
  • the encoder 100 may generate a residual signal by subtracting a prediction signal output from the inter predictor 180 or the intra predictor 185 from the input image signal, and generate the residual signal. Is transmitted to the converter 120.
  • the transform unit 120 may generate a transform coefficient by applying a transform technique to the residual signal.
  • the conversion process may be applied to pixel blocks having the same size as the square, or may be applied to blocks of variable size rather than square.
  • the converter 120 may use a graph-based signal processing method for representing and processing relationship information between pixels in a graph.
  • the converter 120 may include a graph-bearing converter, and the additive graph-based converter may detect an edge from an intra residual signal and generate a graph by adding to the detected edge.
  • GBLT Graph-Based Lifting
  • Transform to obtain a GBLT coefficient (Graph-Based Lifting Transform coefficient).
  • the graph may be composed of a node and a weight link, the node may be represented by a vertex or a vertex parameter, and the weight link may be represented by an edge or edge weight.
  • the GBLT coefficients may be quantized through the quantization unit 130, and the quantized GBLT coefficients may be entropy encoded through the entropy encoding unit 190.
  • the GBLT provides a method comprising a partitioning process, a prediction process and an update process.
  • the present invention may determine a mode index that is applied to the GBLT, and entropy encode the mode index.
  • the present invention is not limited thereto, and the GBLT may be directly transmitted to the decoder or derived from the decoder.
  • an edge map for the residual signal may be sent to an encoder, and a decoder may generate a graph based on the edge map and derive the GBLT therefrom.
  • the present invention may obtain a DCT coefficient by performing DCT on the intra residual signal, and obtain a more optimal transform coefficient by comparing the RD cost of the DCT coefficient and the GBLT coefficient. For example, when the rate-distortion cost of the GBLT coefficient is smaller than the DCT coefficient, the mode index that is attributed to the GBLT may be determined.
  • the partitioning process may be performed to minimize the Maximum A Posteriori (MAP) measurement error in the prediction set.
  • MAP Maximum A Posteriori
  • the partitioning process calculates the size of the update set and minimizes MAP measurement error in the prediction set based on the size of the update set. Select a node and calculate an update set for the selected node. In one embodiment, the graph may be reconnected before the next GBLT.
  • the graph may be determined based on the intra prediction mode used for the residual block.
  • the graphs may be obtained by using edge information of the residual block.
  • the graph-based converter to which the present invention is applied may exist as a separate functional unit.
  • the graph-based converter may be located in front of the converter 120, but the present invention is not limited thereto.
  • the quantization unit 130 may quantize the transform coefficients and transmit the quantized coefficients to the entropy encoding unit 190, and the entropy encoding unit 190 may entropy code the quantized signal to output the bitstream.
  • the quantized signal output from the quantization unit 130 may be used to generate a prediction signal.
  • the quantized signal may recover the residual signal by applying inverse quantization and inverse transformation through inverse quantization unit 140 and inverse transformation unit 150 in a loop.
  • a reconstructed signal may be generated by adding the reconstructed residual signal to a prediction signal output from the inter predictor 180 or the intra predictor 185.
  • the filtering unit 160 applies filtering to the reconstruction signal and outputs it to the reproduction apparatus or transmits the decoded picture buffer to the decoded picture buffer 170.
  • the filtered signal transmitted to the decoded picture buffer 170 may be used as the reference picture in the inter predictor 180. As such, by using the filtered picture as a reference picture in the inter prediction mode, not only image quality but also encoding efficiency may be improved.
  • the decoded picture buffer 170 may store the filtered picture for use as a reference picture in the inter prediction unit 180.
  • the inter prediction unit 180 performs temporal prediction and / or spatial prediction to remove temporal redundancy and / or spatial redundancy with reference to a reconstructed picture.
  • the reference picture used to perform the prediction is a transformed signal that has been quantized and dequantized in units of blocks at the time of encoding / decoding, a blocking artifact or a ringing artifact may exist. have.
  • the inter prediction unit 180 may interpolate the signals between pixels in sub-pixel units by applying a lowpass filter to solve performance degradation due to discontinuity or quantization of such signals.
  • the subpixel refers to a virtual pixel generated by applying an interpolation filter
  • the integer pixel refers to an actual pixel existing in the reconstructed picture.
  • the interpolation method linear interpolation, bilinear interpolation, wiener filter, or the like may be applied.
  • Interpolation filters are applied to the reconstructed picture to improve the precision of the prediction. Can be improved.
  • the inter prediction unit 180 generates an interpolation pixel by applying an interpolation filter to integer pixels, and uses an interpolated block composed of interpolated pixels as a prediction block. You can make predictions.
  • the intra predictor 185 may predict the current block by referring to samples around the block to which current encoding is to be performed.
  • the intra prediction unit 185 may perform the following process to perform intra prediction. First, reference samples necessary for generating a prediction signal may be prepared. The prediction signal may be generated using the prepared reference sample. Then, the prediction mode is encoded. In this case, the reference sample may be prepared through reference sample padding and / or reference sample filtering. Since the reference sample has been predicted and reconstructed, there may be a quantization error. Accordingly, the reference sample filtering process may be performed for each prediction mode used for intra prediction to reduce such an error.
  • a prediction signal generated through the inter predictor 180 or the intra predictor 185 may be used to generate a reconstruction signal or to generate a residual signal.
  • Figure 2 according to an embodiment of the present invention is applied, a schematic block diagram of a decoder that performs decoding of the video signal.
  • the decoder 200 may include an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 230, a filtering unit 240, and a decoded picture buffer unit (DPB) 250. ), An inter predictor 260, and an intra predictor 265.
  • the reconstructed video signal output through the decoder 200 may be reproduced through the reproducing apparatus.
  • the decoder 200 may receive a signal output from the encoder 100 of FIG. 1, and the received signal may be entropy decoded through the entropy decoding unit 210.
  • the decoder or the entropy decoding unit 210 may receive a mode index.
  • the mode index may mean information indicating a conversion method or a conversion type.
  • the transform corresponding to the mode index may be either DCT or GBLT.
  • the entropy decoded mode index may be transmitted to the inverse quantizer 220 to be inversely quantized and transmitted to the inverse transformer 230 to be used.
  • the entropy decoded mode index may be transmitted to and used by the inverse transformer 230 without passing through the inverse quantizer.
  • the inverse quantization unit 220 obtains a transform coefficient from the entropy decoded signal using the quantization step size information.
  • the obtained transform coefficients may include various embodiments described by the transform unit 120 of FIG. 1.
  • the inverse transform unit 230 inversely transforms the transform coefficient to obtain a residual signal.
  • the graph-based transformation matrix used in the inverse transformation represents a transformation performed on the mode index.
  • the transformation performed on the mode index may be one of DCT or GBLT.
  • the reconstructed signal is obtained by adding the obtained residual signal to the prediction signal output from the inter predictor 260 or the intra predictor 265. Is generated.
  • the filtering unit 240 applies filtering to the reconstructed signal and outputs the filtering to the reproducing apparatus or transmits it to the decoded picture buffer unit 250.
  • the filtered signal transmitted to the decoded picture buffer unit 250 may be used as the reference picture in the inter predictor 260.
  • the embodiments described by the filtering unit 160, the inter prediction unit 180, and the intra prediction unit 185 of the encoder 100 are respectively the filtering unit 240, the inter prediction unit 260, and the decoder of the decoder 100.
  • the same may be applied to the intra prediction unit 265.
  • 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • the encoder may split one image (or picture) in units of a rectangular Coding Tree Unit (CTU). Then, one CTU is sequentially encoded according to a raster scan order.
  • CTU Coding Tree Unit
  • the size of the CTU may be set to any one of 64x64, 32x32, and 16x16, but the present invention is not limited thereto.
  • the encoder may select and use the size of the CTU according to the resolution of the input video or the characteristics of the input video.
  • the CTU may include a coding tree block (CTB) for luma components and a coding tree block (CTB) for two chroma components.
  • One CTU may be decomposed into a quadtree (QT) structure.
  • QT quadtree
  • one CTU has a square shape and each side is half the length It can be divided into four units which decrease.
  • the decomposition of this QT structure can be done recursively.
  • a root node of a QT may be associated with a CTU.
  • the QT may be split until it reaches a leaf node, where the leaf node may be referred to as a coding unit (CU).
  • CU coding unit
  • a CU may mean a basic unit of coding in which an input image is processed, for example, intra / inter prediction is performed.
  • the CU may include a coding block (CB) for a luma component and a CB for two chroma components.
  • CB coding block
  • the size of the CU may be determined as any one of 64x64, 32x32, 16x16, and 8x8.
  • the present invention is not limited thereto, and in the case of a high resolution image, the size of the CU may be larger or more diverse.
  • the CTU corresponds to a root node and has the smallest depth (ie, level 0) value.
  • the CTU may not be divided according to the characteristics of the input image. In this case, the CTU corresponds to a CU.
  • the CTU may be decomposed into a QT form, and as a result, lower nodes having a depth of level 1 may be generated. Then, a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 1 corresponds to a CU. For example, in FIG. 3 (b), CU (a), CU (b), and CU (j), which perform on nodes a, b, and j, are divided once in the CTU and have a depth of level 1.
  • FIG. 3 (b) CU (a), CU (b), and CU (j)
  • At least one of the nodes having a depth of level 1 may be split into QT again.
  • a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 2 corresponds to a CU.
  • CU (c) CU (h) and CU (i), which serve nodes c, h and i, are split twice in the CTU and have a depth of level 2.
  • At least one of the nodes having a depth of 2 may be divided into QTs.
  • a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 3 corresponds to a CU.
  • CU (d), CU (e), CU (f), and CU (g) corresponding to nodes d, e, f, and g are divided three times in the CTU, and level 3 Has a depth of.
  • the maximum size or the minimum size of the CU may be determined according to characteristics of the video image (eg, resolution) or in consideration of encoding efficiency. In addition, information on this or information capable of deriving the information may be included in the bitstream. have.
  • a CU having a maximum size may be referred to as a largest coding unit (LCU), and a CU having a minimum size may be referred to as a smallest coding unit (SCU).
  • LCU largest coding unit
  • SCU smallest coding unit
  • a CU having a tree structure may be hierarchically divided with predetermined maximum depth information (or maximum level information).
  • Each partitioned CU may have depth information. Since the depth information indicates the number and / or degree of division of the CU, the depth information may include information about the size of the CU.
  • the size of the SCU can be obtained by using the size and maximum depth information of the LCU. Or conversely, using the size of the SCU and the maximum depth information of the tree, the size of the LCU can be obtained.
  • information indicating whether the corresponding CU is split may be delivered to the decoder.
  • the information may be defined as a split flag. And it may be represented by a syntax element "S plit_ CU _flag".
  • the division flag may be included in all CUs except the SCU. For example, if the split flag value is T, the corresponding CU is divided into 4 CUs again. If the split flag value is ⁇ ', the CU is not divided any more and a coding process for the CU can be performed. have.
  • the division process of the CU has been described as an example, but the QT structure described above may also be applied to the division process of a transform unit (TU), which is a basic unit for performing transformation.
  • TU transform unit
  • the TU may be hierarchically divided into a QT structure from a CU to be coded.
  • a CU may correspond to a root node of a tree for a transform unit (TU).
  • the TU divided from the CU may be divided into smaller lower TUs.
  • the size of the TU may be determined by any one of 32x32, 16x16, 8x8, and 4x4.
  • the present invention is not limited thereto, and in the case of a high resolution image, the size of the TU may be larger or more diverse.
  • information indicating whether the corresponding TU is divided may be delivered to the decoder.
  • the information may be defined as a split transform flag, and may be represented by a syntax element "split_transform_flag".
  • the division conversion flag may be included in all TUs except the TU of the minimum size. For example, if the value of the division conversion flag is T, the corresponding TU is divided into four TUs again. If the value of the division conversion flag is ' ⁇ ', the corresponding TU is no longer divided.
  • a CU is a combination of intra prediction or inter prediction.
  • the basic unit of coding that is performed. To code the input image more effectively
  • a CU may be divided into prediction units (PUs).
  • PUs prediction units
  • the PU is a basic unit for generating a prediction block, and may generate different prediction blocks in PU units within one CU.
  • the PU may be divided differently according to whether an intra prediction mode or an inter prediction mode is used as a coding mode of a CU to which the PU accelerates.
  • 4 is a diagram for describing a process of obtaining a graph-based transformation matrix based on a 1D graph and a 2D graph as an embodiment to which the present invention is applied.
  • a graph type that can be used for the processing of pixel blocks in an image can be described with reference to FIG. 4.
  • FIG. 4A illustrates a one-dimensional graph of each line of the pixel block
  • FIG. 4B illustrates a two-dimensional graph corresponding to the pixel block.
  • the graph vertex is associated with each pixel of the pixel block, and the value of the graph vertex may be expressed as a pixel value.
  • the graph edge may mean a line connecting graph vertices.
  • the graph edge is used to represent some form of statistical dependence in the signal, and a value representing the strength may be referred to as edge weight.
  • a one-dimensional graph is shown, 0, 1, 2, and 3 represent positions of vertices, and Wo , Wl and w 2 represent edge weights between the vertices.
  • Each vertex may be connected to all other vertices, and an edge weight of zero may be assigned to the edges connecting the unrelated or weakly associated vertices.
  • an edge with an edge weight of zero can be completely removed.
  • a transform obtained from a graph signal may be defined as a graph-based transform (hereinafter, referred to as 'GBT').
  • 'GBT' graph-based transform
  • GBT graph-based transform
  • relationship information between pixels can be expressed in various ways. For example, relationship information between pixels may be expressed based on similarities between pixel values, whether they belong to the same PU, whether they belong to the same object, and the like.
  • the relationship information between pixels may be represented by edge presence and edge weight values between pixels when each pixel is placed at a vertex of a graph.
  • the GBT may be obtained through the following process.
  • the encoder or decoder may obtain graph information from the target block of the video signal. From the obtained graph information, a Laplacian matrix L may be obtained as shown in Equation 1 below.
  • Equation 1 D represents a diagonal matrix, and A represents an adjacency matrix.
  • Equation 2 L denotes a Laplacian matrix, U denotes an eigen matrix, and 1 ⁇ denotes a transpose matrix of U.
  • the eigen matrix U may provide a specialized graph-based Fourier transform for a signal that fits the graph model.
  • an eigen matrix U that satisfies Equation 2 may mean a GBT kernel.
  • 5 illustrates a schematic block diagram of an encoder for processing a graph-based signal as an embodiment to which the present invention is applied.
  • the encoder 500 to which the present invention is applied includes a graph-based transform unit 510, a quantizer 520, an inverse quantizer 530, an inverse transform unit 540, a buffer 550, and a predictor. 560, and an entropy encoding unit 570.
  • the encoder 500 receives a video signal and subtracts the predicted signal output from the predictor 560 from the video signal to generate a residual signal.
  • the generated residual signal is transmitted to the graph-based transform unit 510, and the graph-based transform unit 510 generates a transform coefficient by applying a transform scheme to the residual signal.
  • the graph-based converter may detect an edge from an intra residual signal and generate a graph based on the detected edge.
  • a GBLT coefficient (Graph-Based) is performed by performing a graph-based lifting transform (GBLT) on the graph. Lifting Transform coefficient) can be obtained.
  • the GBLT provides a method comprising a partitioning process, a prediction process and an update process.
  • the present invention may determine a mode index that is applied to the GBLT and entropy encode the mode index.
  • the present invention is not limited thereto, and the GBLT may be directly transmitted to the decoder or derived from the decoder.
  • an edge map for the residual signal may be sent to an encoder, and a decoder may generate a graph based on the edge map and derive the GBLT therefrom.
  • the present invention may obtain a DCT coefficient by performing DCT on the intra residual signal, and obtain a more optimal transform coefficient by comparing the RD cost of the DCT coefficient and the GBLT coefficient. For example, when the rate-distortion cost of the GBLT coefficient is smaller than the DCT coefficient, the mode index that is attributed to the GBLT may be determined.
  • the partitioning process may be performed to minimize the Maximum A Posteriori (MAP) measurement error in the prediction set.
  • MAP Maximum A Posteriori
  • the dividing process may calculate a size of an update set, select a node that minimizes MAP measurement error in a prediction set based on the size of the update set, and calculate an update set for the selected node. have.
  • the graph may be reconnected before the next GBLT.
  • the graph may be determined based on the intra prediction mode used for the residual block.
  • the graphs are generated by using edge information of the residual block. It may be obtained.
  • the graph-based transform unit 510 generates at least one data cluster for video data, generates at least one graph Laplacian matrix corresponding thereto, and is based on multiple graph-based models including the same. By performing transform optimization, an optimized transform matrix can be generated.
  • graphs that are performed on multiple graph-based models may be generated through the following embodiments.
  • GBT template, graph template, template graph, GBT template set, graph template set, or template graph set as used herein
  • the terms such as graph set are general terms selected to describe the present invention, and thus may be appropriately substituted and interpreted in each coding process.
  • GBT may be applied by being replaced by GBLT.
  • the graph-based converter 510 may extract a graph parameter in a graph that is subjected to the target unit of the residual signal.
  • the graph parameter may include at least one of a vertex parameter and an edge parameter.
  • the vertex parameter includes at least one of a vertex position and a vertex number
  • the edge parameter includes an edge decrement value and an edge decrement. It may include at least one of the number of teeth.
  • the graph parameter may be defined as a predetermined number of sets.
  • the edge parameter set may be defined by a weight matrix.
  • the graph-based converter 510 may generate a graph based on the extracted graph parameter, and may set the generated graph as a base template. In the following, this is called a base template graph.
  • the basic template graph may be a uniformly weighted graph, in which case it may be expressed as ⁇ 3 ⁇ .
  • the nodes of the graph correspond to the pixels of the target unit and all edge weights of the target unit may be set to W uni .
  • the present invention may generate T different graphs by adjusting the edge weight set of the basic template graph.
  • this is called a template graph set, and may be expressed as in Equation 3 below.
  • edges around corners in the transform block may be set to ⁇ ⁇ ⁇ ⁇ , which is an edge weight smaller than W uni .
  • ⁇ ⁇ is called weak edge weight.
  • the present invention can reduce the complexity by allowing the edges around the corners of the transform block to have the same weak edge weight and weak value.
  • the present invention provides a signal according to different positions of the residual blocks. To reflect the characteristics, we provide a way to select T different graphs as a template graph set. In addition, the present invention may obtain a GBT through spectral decomposition of the selected template graph set.
  • the quantization unit 520 quantizes the GBLT coefficients and transmits the quantized GBLT coefficients to the entropy encoding unit 570.
  • the entropy encoding unit 570 performs entropy coding on the quantized signal and outputs an entropy coded signal.
  • the quantized signal output by the quantization unit 520 may be used to generate a prediction signal.
  • the inverse quantization unit 530 and the inverse transform unit 540 in the loop of the encoder 500 may perform inverse quantization and inverse transformation on the quantized signal so that the quantized signal is restored to a residual signal. Can be.
  • the reconstructed signal may be generated by adding the reconstructed residual signal to the prediction signal output by the prediction unit 560.
  • the buffer 550 stores the reconstructed signal for future reference by the predictor 560.
  • the prediction unit 560 may generate a prediction signal by using a signal previously restored and stored in the buffer 550.
  • the present invention relates to the efficient prediction of the region in the target image using the region in the anchor image.
  • the anchor image may mean a reference image, a reference picture or a reference frame.
  • the efficiency can be determined by calculating the rate-distortion cost or the mean squared error that quantifies the distortion in the residual signal.
  • 6 illustrates a schematic block diagram of a decoder for processing a graph-based signal as an embodiment to which the present invention is applied.
  • the decoder 600 of FIG. 6 receives a signal output by the encoder 500 of FIG. 5.
  • the entropy decoding unit 610 performs entropy decoding on the received signal.
  • the inverse quantization unit 620 obtains a transform coefficient from the entropy decoded signal based on the quantization step size information.
  • the inverse transform unit 630 acquires a residual signal by performing inverse transform on the transform coefficients.
  • the inverse transform may mean an inverse transform for the graph-based transform obtained by the encoder 500.
  • the graph-based transformation may represent GBLT.
  • the inverse transform unit 630 may receive a mode index indicating a transformation method or a transformation type and induce a transformation that is performed on the mode index.
  • the transformation can be performed on either GBLT or DCT.
  • the residual signal may be obtained by performing an inverse transform based on the derived transform.
  • the residual signal represents an intra predicted residual signal, but the present invention is not limited thereto and the residual signal may represent an inter predicted residual signal.
  • a reconstruction signal may be generated by adding the residual signal to the prediction signal output by the prediction unit 650.
  • the buffer 640 receives the reconstruction signal for future reference by the predictor 650. Save it.
  • FIG. 7 is a schematic internal block diagram of a graph-based transform unit using a graph-based lifting transform (GBLT) according to an embodiment to which the present invention is applied.
  • GBLT graph-based lifting transform
  • the graph-based converter 510 may include an edge detector 511, a DCT unit 512, a graph-based lifting converter 513, and a mode selector 514.
  • the present invention is divided into functional units as shown in FIG. 7, but this is only an example and the contents of the present invention should not be construed as being limited to the names of the functional units.
  • the contents described below may all be performed in one functional unit such as a converter, a graph-based converter, a graph-based lifting converter, or a processor.
  • the edge detector 511 may detect an edge from the residual signal.
  • the residual signal may be an intra predicted residual signal or an inter predicted residual signal.
  • the residual signal may be expressed as a residual signal or a difference signal.
  • the DCT unit 512 may perform DCT on the residual signal to obtain a DCT coefficient.
  • the graph-based lifting converter 513 may generate a graph based on the detected edges and perform GBLT on the graph to obtain GBLT coefficients.
  • Lifting structures can be divided into split or partition, prediction, It consists of three phases: update. Each lifting step is always invertible and there is no loss of information. Referring to FIG. 17, a schematic structure to which a lifting transform is applied is shown.
  • Figure 17 (a) shows the analysis stage
  • Figure 17 (b) shows the synthesis stage.
  • x [n] x [2n]
  • x 0 [n] x [2n + l].
  • the multi-phase coefficient x 0 [n] is predicted from the peripheral coefficient x e [n] in the lifting interpolation formula.
  • the mode selector 514 may select or determine one conversion scheme by comparing the RD (Rate-Distortion) cost for the DCT coefficient and the GBLT coefficient. For example, when the RD cost of the GBLT coefficient is smaller than the DCT coefficient, the mode selector 514 may select a mode index that corresponds to the GBLT.
  • RD Random-Distortion
  • the present invention provides a graph for intra prediction or inter predicted video sequences.
  • the graph-based lifting transform approximates the performance of Graph Fourier Transform (GFT) for a given graph, but does not require computing unique vectors.
  • Prediction-update bipartition is designed based on a Gaussian Markov random field (GMRF) model with the goal of minimizing energy in the prediction set.
  • GFT Graph Fourier Transform
  • a new re-connection method is applied to multilevel graphs, which leads to significant gains over the proposed dividing method and the existing MaxCut based dividing.
  • DCT discrete cosine transform
  • the present invention improves the block based lifting transform and evaluates the performance on the intra predicted residual signal.
  • First we define a model for intra predicted residuals using GMRF and design a bipartite approach that minimizes energy in the prediction set.
  • the performance of lifting using existing MaxCut based dividing can also be improved by using re-connection.
  • the results of the proposed method for test sequences exceed DCT but are comparable to the results obtained using GFT without high complexity operations such as eigen decomposition.
  • weighted graph G (V, E) constitutes a set of nodes ⁇ V and edges e, which retain similarities between the two connected nodes i and j (capture)
  • the similarity is measured using the weight 3 ⁇ 4 3 ⁇ 4 3 ⁇ [0, 1] '.
  • Lifting transforms are multilevel filterbanks that guarantee invertibility.
  • the nodes are separated into two separate sets, the prediction set ( ⁇ ) — and the update set ⁇ ⁇ ).
  • the values of () are used to predict the values of ( ⁇ ) and then to update the values of ().
  • the smoothed signal in ⁇ acts as an input signal at level m + 1.
  • the operation on the coefficients of uses only the information of () and vice versa. Execution of the process repeatedly yields multi-solution decomposition.
  • the coefficients in the update set of highest level q, along with the prediction set information at levels ⁇ , q-2, 7 ⁇ are quantized and entropy coded.
  • the present invention designs a bipartition to minimize the energy in the prediction set, in order to increase the coding efficiency.
  • the most widely applied method is based on computing MaxCut, where the total link weight between S P and Su is maximized. Each weight measures similarity between connected nodes and performs MaxCut to maximize similarity between the two sets. It can be proved that MaxCut is optimal for minimizing the lower bound of li size prediction error using linear filters when the entries in the signal are uniformly distributed. However, this model does not consider correlation between signal entries.
  • the present invention can significantly improve the coding gain by utilizing the relationships between signal components modeled with Gaussian Markov Random Field (GMRF).
  • GMRF Gaussian Markov Random Field
  • the transform to which the present invention is applied may be implemented independently for m X m blocks in intra predicted residual video.
  • f ' e M TM a Mark a columnified block.
  • Each block is then modeled as an implementation of GMRF, where ( ⁇ ⁇ ( ⁇ , ⁇ e W m ⁇ Km ⁇ ).
  • a zero mean is assumed for each block.
  • the graph for each of the blocks may be constructed using edge map information.
  • Each block is first represented as a 4-connected grid graph. Image edges can be detected based on pixel gradients. Given a threshold T and for i, j with pixel differences greater than T, the link is assigned a weight c e iO). Two blocks with different image edge structures will have different graph Laplacian and GMRF models.
  • dividing may be performed such that the average 1 2 norm error in the prediction set based on the MAP estimate from the update set is minimized.
  • f P represents a vector containing entries for prediction in f
  • f represents a vector for the pixels in the update set.
  • the prediction of f P can be calculated as
  • Equation 5 [Equation 5]
  • the present invention may select half of the nodes at each lifting level to construct an update set.
  • the update set S v (S2) for level m (Sl) where q is the number of levels and m- ⁇ l, 2, ..., q ⁇ is the sampling shown in the algorithm of Table 1 below. It can be calculated using the method.
  • FIG. 8 is a schematic internal block diagram of an inverse transform unit using a graph-based lifting transform (GBLT) according to an embodiment to which the present invention is applied.
  • GBLT graph-based lifting transform
  • the inverse transform unit 630 may include a mode selector 631 and an inverse transform performer 632, and the inverse transform performer 632 may include an inverse DCT unit 633 and an inverse graph based lifting.
  • the conversion unit 634 may be included.
  • the present invention is divided into functional units as shown in FIG. 8, but this is only an example and the contents of the present invention should not be construed as being limited to the names of the functional units.
  • the contents described below may all be performed in one functional unit, such as an inverse transform unit, an inverse graph based transform unit, an inverse graph based lifting transform unit, or a processor.
  • the decoder receives a bitstream, and transmits an inverse quantized signal to the inverse transform unit 630 through entropy decoding and inverse quantization.
  • the decoder may extract a mode index from the bitstream, and the mode selector 631 may derive a transform or transform kernel that is subjected to the mode index. For example, if the mode index points to the DCT matrix, the corresponding DCT transform kernel may be derived. If the mode index points to the GBLT matrix, the GBLT transform kernel may be derived. The inverse transform execution unit 632 may perform inverse transform using the derived transform kernel.
  • inverse DCT unit 633 performs inverse transform using DCT transform kernel, and if the mode index indicates GBLT, inverse graph based lifting transform unit 634 uses GBLT transform kernel. Inverse transformation can be performed.
  • the inverse transform performer 632 may derive a transform kernel corresponding to the mode index.
  • the inverse transform unit 630 may receive the edge map information and use the edge map information to derive the transform kernel.
  • FIG. 9 is a diagram for explaining boundary expansion of pixels around a block boundary according to an embodiment to which the present invention is applied.
  • Boundary expansion can be used to equalize the number of links for each node, and consequently the graph used for sampling is augmented.
  • This approach corresponds to the filterbank used later, which also uses boundary extension with degree normalization.
  • FIG 9 is selected node V as a sample (the node 11 in FIG. 9), the mirror node (shown as 11,) are also selected.
  • the weight and border node X eg, node 15
  • the present invention can also be applied to nodes around image edges, which can be described in the algorithm of Table 2 below. This algorithm represents a boundary / edge extension method for sampling on a graph.
  • Output Su and Sp after sampling Adjacent matrix A to include the extended nodes (A ext ) around the boundary and edge.
  • FIG. 10 illustrates a graph configuration in higher level decomposition through kron reduction for an 8x8 block obtained from an intra prediction residual signal as an embodiment to which the present invention is applied.
  • Equation 6 the leveling coefficients S T is stored in the updated set at level m, the c 1 is taken as the input signal at the planarization level coefficients are m in the detail coefficients are stored in the prediction set -l eu level m at level m.
  • the prediction and update operators are functions of the adjacency matrix of the graph at level m.
  • FIG. 10 (c) for the stratification between localization and graph connectivity, simple regression may be applied by maintaining only k nearest neighbors for each node.
  • 1 1 is an embodiment to which the present invention is applied, and FIG. 1 (a) shows an image composed of a flat region (left half) and a high dispersion region (right half), and FIG. The dividing graph used for the prediction / update operator with links is shown, and FIG. 11 (c) shows the dividing graph used for prediction / update with links derived from cron reduction.
  • the coefficients in the prediction set are calculated based only on the information in the update set, and vice versa. Therefore, the conversion
  • the graph utilized for this purpose is in fact a bipartite graph that only uses links connecting nodes in opposite sets.
  • the dividing scheme proposed in the present invention is based on minimizing the prediction error of MAP prediction.
  • the update set nodes of high dispersion regions for example regions with many image edges, are densely distributed compared to the distributions in the flattened region.
  • the pixels in the flat area have similar values even when they are few away, so that multiple update samples overlap in this area.
  • the dichotomous graph used for the update and prediction operators consists of only one-suction links in the raw graph. As a result, for regions where sample nodes for an update set are distributed sparsely, the nodes in the prediction set have no or very few links connecting the update set, resulting in high prediction errors.
  • FIG. 1 (a) shows an image composed of a flat region (left half) and a high dispersion region (right half), while FIG. 1 (b) shows an prediction / update operator with one absorption links.
  • the dividing graph used for Figure 11 (c) shows the dividing graph used for prediction / update with links derived from cron reduction.
  • FIG. 12 is a flowchart illustrating a method of determining a conversion method by comparing RD (Rate Distortion) cost among a plurality of conversion methods including a graph-based lifting conversion according to an embodiment to which the present invention is applied.
  • the encoder may generate an intra prediction signal through intra prediction, and generate an intra residual signal by subtracting the intra prediction signal from an original signal.
  • the encoder may detect an edge from the intra residual signal (S 1210) and generate a graph based on the detected edge (S 1220).
  • the encoder may obtain GBLT coefficients by performing GBLT on the graph (S 1230).
  • the encoder may determine an optimal transform scheme for more efficient coding.
  • a transform coefficient may be obtained by applying a transform scheme other than the GBLT.
  • DCT coefficients may be obtained by performing DCT on the intra residual signal (S 1240).
  • the encoder may determine an optimal transform scheme by comparing RD costs between transform coefficients to which a plurality of transform schemes are applied.
  • the encoder can compare the RD costs of GBLT coefficients and DCT coefficients. It may be determined whether the RD cost of the GBLT coefficient is smaller than the DCT coefficient. There is (S1250).
  • the encoder may perform quantization on the DCT coefficient (S1260) and entropy encoding on the quantized DCT coefficient (S1261).
  • the encoder may determine a mode index corresponding to the DCT (S1262) and entropy encode the mode index (S1263).
  • the encoder may perform quantization on the GBLT coefficient (S1270) and entropy encoding on the quantized GBLT coefficient (S1271).
  • FIG. 13 is a flowchart illustrating a method of encoding a video signal using a graph-based lifting transform as an embodiment to which the present invention is applied.
  • the encoder may generate an intra prediction signal through intra prediction, and generate an intra residual signal by subtracting the intra prediction signal from an original signal.
  • the encoder may detect an edge from the intra residual signal (S1310), and generate a graph based on the detected edge (S1320).
  • the encoder may obtain GBLT coefficients by performing GBLT on the graph (S1330).
  • the ancoder may perform quantization on the GBLT coefficients (S1340) and entropy encoding on the quantized GBLT coefficients (S1350). Meanwhile, the encoder may determine a mode index that is subjected to GBLT (S1360) and entropy encode the mode index (S1370). The steps S1360 to S1370 may be additionally performed and may not be an affluent process. 14 is a flowchart illustrating a method of decoding a video signal using a graph-based lifting transform, according to an embodiment to which the present invention is applied.
  • the decoder may receive a bitstream transmitted from the encoder, and the bitstream may be entropy decoded through an entropy decoding unit.
  • the entropy decoded signal is transmitted to the inverse quantizer and inverse quantized, and the inverse quantized signal is transmitted to the inverse transformer.
  • the dequantized signal may be substituted for an intra residual signal or an inter residual signal.
  • the decoder may extract a mode index from the transmitted bitstream (S1410).
  • the mode index may mean information indicating a conversion method or a conversion type.
  • the transformation performed on the mode index may be either DCT or GBLT.
  • the decoder may induce a transform corresponding to the mode index (S1420).
  • the transformation can be performed on DCT or GBLT.
  • the decoder may perform inverse transform on the intra residual signal based on the transform (S1430).
  • the decoder may generate a reconstruction signal by adding the prediction signal to the inverse transformed intra residual signal (S1440).
  • 15 is a graph illustrating a coding gain between Max-Cut-based lifting and Max-Cut-based lifting using the reconnection scheme according to an embodiment to which the present invention is applied.
  • the present invention compares the coding gain of the reconnection approach using MaxCut based on the proposed dichotomy and lifting.
  • the test sequences consist of seven frames of seven video sequences. The results are shown in FIG.
  • the results include the results of MaxCut based dividing with re-connection using cron reduction. Even with a simple dichotomy such as the greedy approximated Max-Cut, with better designed re-connections, the performance is comparable to using the GMRF model.
  • the GFT operations for each graph find the inherent vector and apply the transform to the signal.
  • Eigenvector decomposition is a high complexity process with 0 (N 3 ) even when the Laplacian matrix is sparse.
  • the transformation requires a matrix-vector product with OfN 2 , due to the fact that the matrix is generally dense.
  • creating a lifting base can consist of three parts: dividing using greedy approximated MaxCut, re-connection using cron reduction and generation of graphs at the next higher level. .
  • the greedy MaxCut selects the nodes with the maximum gain, corresponding to the initial angle. Initialization requires a sort, which has 0 (NlogN) if a better data structure such as max-heap is used. In each iteration, after the node with the maximum gain is selected, the gain of its neighboring node will be adjusted. The max-heap for the gain values will be adjusted, which has 0 (NlogN) because the number of neighbors is constant for sparse graphs.
  • the present invention also shows that the graph maintains a sparsity pattern in cron repeats.
  • c the maximum number of links to the node removed during cron iteration. Since the cost of removing one node is Or ⁇ , the total complexity for cron reduction is O (N. It is necessary to perform reconnection for all nodes in the prediction set. However, during cron reduction, Only the connection to the updated set of predicted nodes is considered, so the cost of removing one node is 0 (c), so the total complexity for re-connection is 0 (cN 2). At each level, the number of lifting levels required is half logN because half of the nodes are taken from the update set, so the overall complexity for defining the lifting base is OCc ⁇ logN ⁇ . Since the graph size can be small, much lower complexity can be expected in actual implementations.
  • FIG. 16 is a table for comparing average PSNR gain and bitrate reduction between GFT, lifting using GMRF sampling, Max-Cut based lifting and Max-Cut based lifting using reconnection technique as an embodiment to which the present invention is applied. to be.
  • intra prediction residual frames having a transform unit size fixed to 8x8 for test sequences Foreman, Mobile, Silent, and Deadline using HEVC (HM-14) are generated.
  • QP quantization parameter
  • the image edge overhead first includes arithmetic edge coding (AEC) that connects adjacent edge components into contours and then encodes each contour in a context-based manner. Can be coded using Only one contour may be allowed in each 8 x 8 block.
  • AEC arithmetic edge coding
  • the DCT and for example the flag may indicate a mode index.
  • Lifting transformed coefficients are uniformly quantized and encoded using an amplitude group division technique called an amplitude group partition (AGP).
  • AGP can know and adapt to different coefficient distributions, thus providing a fair comparison between different transforms.
  • the coefficients of the CDF53 lifting transform Prior to quantization, the coefficients of the CDF53 lifting transform are first normalized to compensate for the lack of orthogonality.
  • the DCT coefficients are zig-zag scanned and the GBLT coefficients can be ordered from the lowest frequency (update set at the highest level) to the highest frequency (update set at the first level). Within each subband, the coefficients can be ordered from low confidence to high confidence.
  • the embodiments described herein may be implemented and performed on a processor, microprocessor, controller, or chip.
  • the functional units illustrated in FIGS. 1, 2, 5, 6, 7, and 8 may be implemented by a computer, a processor, a microprocessor, a controller, or a chip.
  • the decoder and encoder to which the present invention is applied include a multimedia broadcasting transmitting and receiving device, a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chat device, a real time communication device such as video communication, a mobile streaming device, Storage media, camcorders, video on demand (VoD) service providers, Internet streaming service providers, three-dimensional (3D) video devices, video telephony video devices, and medical video devices.
  • a multimedia broadcasting transmitting and receiving device include a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chat device, a real time communication device such as video communication, a mobile streaming device, Storage media, camcorders, video on demand (VoD) service providers, Internet streaming service providers, three-dimensional (3D) video devices, video telephony video devices, and medical video devices.
  • VoD video on demand
  • 3D three-dimensional
  • the processing method to which the present invention is applied can be produced in the form of a program executed by a computer, and can be stored in a computer-readable recording medium.
  • Multimedia data having a data structure according to the present invention can also be stored in a computer-readable recording medium.
  • the computer readable recording medium includes all kinds of storage devices for storing computer readable data.
  • the computer-readable recording medium may include, for example, a Blu-ray disc (BD), a universal serial bus (USB), a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, and an optical data storage device. Can be.
  • the computer-readable recording medium also includes media embodied in the form of a carrier wave (for example, transmission over the Internet).
  • the bit stream generated by the encoding method may be stored in a computer-readable recording medium or transmitted through a wired or wireless communication network.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은, 그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 인코딩하는 방법에 있어서, 인트라 레지듀얼 신호로부터 에지를 검출하는 단계; 상기 검출된 에지에 기초하여 그래프를 생성하는 단계, 여기서 상기 그래프는 노드와 가중치 링크로 구성됨; 상기 그래프에 대해 GBLT를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득하는 단계; 상기 GBLT 계수에 대해 양자화를 수행하는 단계; 및 상기 양자화된 GBLT계수에 대해 엔트로피 인코딩을 수행하는 단계를 포함하되, 상기 GBLT 는 분할 과정, 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 방법을 제공한다.

Description

【명세서】
【발명의 명칭】
그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
【기술분야】
본 발명은 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치에 관한 것이다. 구체적으로, 가우시안 마르코프 랜덤 필드 (Gaussian Markov Random Field, GMRF)를 이용하여 인트라 예측된 잔차 신호에 대한 모델을 정의하고 예측 세트에서 에너지를 최소화하는 이분할 알고리즘 (bipartition algorithm)을 설계한다. 또한， 국부 필터뱅크들에서 예측을 향상시키는 새로운 재연결 (reconnection) 기법을 제안한다. 【배경기술】
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 영상, 이미지, 음성 등의 미디어가 압축 부호화의 대상이 될 수 있으며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 차세대 비디오 컨텐츠는 고해상도 (high spatial resolution), 고프레임율 (high frame rate) 및 영상 표현의 고차원화 (high dimensionality of scene representation)라는 툭징을 갖게 될 것이다. 그러한 컨텐츠를 처리하기 위해서는 메모리 저장 (memory storage), 메모리 액세스율 (memory access rate) 및 처리 전력 (processing power) 측면에서 엄청난 증가를 가져을 것이다.
따라서， 차세대 비디오 컨텐츠를 보다 효율적으로 처리하기 위한 코딩 를을 디자인할 필요가 있다.
특히, 그래프는 픽셀 간 관계 정보를 기술하는데 유용한 데이터 표현 형태로써, 이러한 픽셀 간 관계 정보를 그래프로 표현하여 처리하는 그래프 기반 신호 처리 방식이 활용되고 있다. 그래프 푸리에 변환 (Graph Fourier Transform, GFT)은 압축 및 잡음 제거를 포함하는, 이미지 /비디오 처리시 이용된다. GFT의 장점은 시그널링되고 그래프에 의해 표현되는 블연속들의 위치에 대하여, 신호들의 특성들에 적웅하는 능력에 있다. 블록 -기반 처리시 GFT의 사용은 깊이 맵 코딩에 대하여 우선적으로 도입되고, 높은 주파수 에지 구조들이 낮은 비트레이트로 용이하게 표현될 수 있다. 작은 픽셀 그래디언트 (small pixel gradient)를 갖는 에지들은 부가적인 최적화된 가중치 w ≡ (0, 1)로 표현된다. GFT의 주요 과제는 복소수일수 있는， 고유-분해를 요구한다는 것이다. 또한, 변환 연산은 0(N2) 동작들을 요구한다. 여기서, 일부 그래프들이 템플릿으로 선택되고, 이들의 대웅하는 고유 백터들이 미리 계산되어 저장된다. 그러나, 이러한 방법은 작은 블록 크기, 즉, 4 X 4 및 8 X 8 에 대해서만 적용가능하고， 고려되는 상이한 템블릿들의 개수는 상대적으로 작다.
GFT와 연관된 볶잡도를 다루기 위해, 그래프 기반 리프팅 변환 (Graph- Based Lifting Transform, GBLT)을 적용하고, 이는 불규칙한 그래프들에 적용될 수 있다. 국부 (localized) 필터링을 이용하여, 복잡도는 GFT보다 훨씬 낮아질 수 았다. 그래프들에 관한 리프팅은 이미지 잡음제거 및 비디오 압축에 적용되었지만， 이들은 전역 변환들이고, 전체 이미지에 적용된다. 리프팅은 깊이 맵들의 블록- 기반 코딩에 대하여 적용 가능하고， DCT(Discrete Cosine Transform)-기반 코딩의 성능을 능가하고 GFT를 사용하는 것과 비교할 만한 결과를 갖는다. 다만, 단순 리프팅 기반 변환 설계는 부분적으로 일정한 이미지들
(piecewise constant images)어 1 대하여 잘 동작하지만， 자연 이미지들 (natural images) 또는 인트라 예측 잔차들 (intra prediction residuals)과 같은 보다 일반적인 신호들에 대하여 DCT보다 이점들을 제공하지 않는다.
【발명의 상세한 설명】
【기술적 과제】 본 발명은, GMRF를 이용하여 인트라 예측된 잔차 신호에 대한 모델을 정의하고 예측 세트에서 에너지를 최소화하는 이분할 알고리즘 (bipartition algorithm)을 설계하고자 한다.
또한， 본 발명은, 국부 필터뱅크들에서 예측을 향상시키는 새로운 재연결 (reconnection) 기법을 제안하고자 한다.
또한, 본 발명은, 그래프 기반 리프팅 변환을 포함하는 복수개의 변환 방식 중 RD(Rate Distortion) 비용 비교를 통해 변환 방식을 결정하는 방법을 제안하고자 한다.
또한, 본 발명은, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩하는 방법을 제안하고자 한다.
또한, 본 발명은, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 디코딩하는 방법을 제안하고자 한다.
또한, 본 발명은， 그래프 기반 리프팅 변환을 이용하기 위해 모드 인덱스를 시그널링하는 방법을 제안하고자 한다.
또한, 본 발명은, 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하는 방법을 제안하고자 한다.
【기술적 해결방법】
본 발명은, GMRF를 이용하여 인트라 예측된 잔차 신호에 대한 모델을 정의하고 예측 세트에서 에너지를 최소화하는 이분할 알고리즘 (bipartition algorithm)을 설계하는 방법을 제공한다.
또한, 본 발명은， 국부 필터뱅크들에서 예측을 향상시키는 새로운 재연결 (reconnection) 기법올 제안한다.
또한, 본 발명은， 그래프 기반 리프팅 변환을 포함하는 복수개의 변환 방식 중 RD(Rate Distortion) 비용 비교를 통해 변환 방식을 결정하는 방법을 제안한다.
또한, 본 발명은, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩 및 다코딩하는 방법을 제안한다.
또한, 본 발명은， 그래프 기반 리프팅 변환을 이용하기 위해 모드 인덱스를 시그널링하는 방법을 제안한다.
또한， 본 발명은, 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하는 방법을 제안한다.
【발명의 효과】
본 발명은, 그래프 기반 리프팅 변환에 기반하여 인트라 예측된 비디오 코딩을 위한 변환 방식을 제안한다. 이분법 알고리즘은 GMRF 모델에 기반하여 입증되고 MaxCut 기반 이분법보다 더 양호한 코딩 이득을 제공한다.
그리고, 단순한 MaxCut 이분법을 이용함에도, 더 양호한 그래프 재연결을 이용하여, DCT를 능가하고 높은 복잡도의 GMRF 기반 접근법 및 GFT를 근사화할 수 있다. 또한, 본 발명은 더 큰 블록크기를 갖는 비디오 코딩에도 적용가능할 것이다.
【도면의 간단한 설명】
【도면의 간단한 설명]
도 1은 본 발명이 적용되는 실시예로서, 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
도 4는 본 발명이 적용되는 일실시예로서, 1차원 그래프와 2차원 그래프에 기초하여 그래프 기반 변환 행렬을 획득하는 과정을 설명하기 위한 도면이다. 도 5는 본 발명이 적용되는 실시예로서, 그래프 기반 신호를 처리하는 인코더의 개략적 블록도를 예시한다.
도 6은 본 발명이 적용되는 실시예로서, 그래프 기반 신호를 처리하는 디코더의 개략적 블록도를 예시한다.
도 7은 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)을 이용하는 그래프 기반 변환부의 개략적인 내부 블록도를 나타낸다.
도 8은 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)을 이용하는 역변환부의 개략적인 내부 블록도를 나타낸다. 도 9는 본 발명이 적용되는 일실시예로서， 블록 경계 주변의 픽셀들에 대한 경계 확장을 설명하기 위한 도면이다.
도 10은 본 발명이 적용되는 일실시예로서, 인트라 예측 잔차 신호로부터 획득된 8x8 블톡에 대해 크론 감소 (kron reduction)를 통한 상위 레벨 분해 (higher level decomposition)에서의 그래프 구성을 나타낸다.
도 11은 본 발명이 적용되는 일실시예들로서, 도 11(a)는 평탄 영역 (좌측 절반) 및 높은 분산 영역 (우측 절반)으로 구성된 이미지를 나타내고, 도 11(b)는 1흡 링크들을 갖는 예측 /업데이트 연산자에 대하여 사용된 이분할 그래프를 나타내며， 도 11(c)는 크론 감소로부터 유도된 링크들을 갖는 예측 /업데이트를 위하여 사용된 이분할 그래프를 나타낸다.
도 12는 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환을 포함하는 복수개의 변환 방식 중 RD(Rate Distortion) 비용 비교를 통해 변환 방식을 결정하는 방법을 설명하기 위한 흐름도이다.
도 13은 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩하는 방법을 설명하기 위한 흐름도이다.
도 14는 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 디코딩하는 방법을 설명하기 위한 흐름도이다.
도 15는 본 발명이 적용되는 일실시예로서, Max-Cut 기반 리프팅과 본 발명의 재연결 기법을 이용하는 Max-Cut 기반 리프팅의 코딩 이득을 비교하는 그래프이다.
, 도 16은 본 발명이 적용되는 일실시예로서， GFT, GMRF 샘플링을 이용한 리프팅, Max-Cut 기반 리프팅 및 재연결 기법을 이용하는 Max-Cut 기반 리프팅 간의 평균 PSNR 이득 및 비트레이트 감소를 비교하기 위한 표이다. 도 17은 본 발명이 적용되는 일실시예로서, 리프팅 변환이 적용되는 개략적인 구조를 나타낸다.
【발명의 실시를 위한 최선의 형태】
본 발명은， 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)에 기초하여 비디오 신호를 인코딩하는 방법에 있어서, 인트라 레지듀얼 신호로부터 에지를 검출하는 단계; 상기 검출된 에지에 기초하여 그래프를 생성하는 단계, 여기서 상기 그래프는 노드와 가중치 링크로 구성됨; 상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득하는 단계; 상기 GBLT 계수에 대해 양자화를 수행하는 단계; 및 상기 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행하는 단계를 포함하되， 상기 GBLT 는 분할 과정, 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 방법을 제공한다.
본 발명에서， 상기 방법은, 상기 GBLT 에 대응되는 모드 인덱스를 결정하는 단계; 및 상기 모드 인덱스를 엔트로피 인코딩하는 단계를 더 포함하는 것을 특징으로 한다.
본 발명에서， 상기 방법은, 상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하는 단계; 및 상기 DCT 계수와 상기 GBLT 계수의 율 -왜곡 비용을 비교하는 단계를 더 포함하되, 상기 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때, 상기 GBLT 에 대웅되는 모드 인덱스가 결정되는 것을 특징으로 한다.
본 발명에서, 상기 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행되는 것을 특징으로 한다.
본 발명에서, 상기 분할 과정은, 업데이트 세트의 크기를 계산하는 단계; 상기 업데이트 세트의 크기에 기초하여, 예측 세트 내 MAP 측정 에러를 최소화하는 노드를 선택하는 단계; 및 상기 선택된 노드에 대한 업데이트 세트를 계산하는 단계를 포함하는 것을 특징으로 한다.
본 발명에서, 상기 그래프는 다음 GBLT 이전에 재연결되는 것을 특징으로 한다.
본 발명은， 그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)어 1 기초하여 비디오 신호를 디코딩하는 방법에 있어서, 상기 비디오 신호로부터 변환 방식을 나타내는 모드 인텍스를 추출하는 단계; 상기 모드 인덱스에 대응되는 변환을 유도하는 단계, 여기서 상기 변환은 DCT 또는 GBLT 중 하나를 나타냄; 상기 변환에 기초하여 인트라 레지듀얼 신호에 대해 역변환을 수행하는 단계; 및 상기 역변환된 인트라 레지듀얼 신호에 예측 신호를 합하여 복원 신호를 생성하는 단계를 포함하는 것을 특징으로 하는 방법을 제공한다.
본 발명에서, 상기 GBLT의 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행된 것을 특징으로 한다.
본 발명에서， 상기 모드 인덱스는 DCT 계수와 GBLT 계수에 대해 율 -왜곡 비용을 비교함으로써 결정된 것을 특징으로 한다.
본 발명은, 그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 인코딩하는 장치에 있어서, 인트라 레지듀얼 신호로부터 에지를 검출하는 에지 검출부; 상기 검출된 에지에 기초하여 그래프를 생성하고, 상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수를 획득하는 그래프 기반 리프팅 변환부; 상기 GBLT 계수에 대해 양자화를 수행하는 양자화부; 및 상기 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행하는 엔트로피 인코딩부를 포함하되, 상기 GBLT 는 분할 과정, 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 장치를 제공한다. ― 본 발명에서, 상기 장치는, 상기 GBLT 에 대응되는 모드 인덱스를 결정하는 모드 선택부를 더 포함하고， 상기 모드 인덱스는 상기 엔트로피 인코딩부에 의해 엔트로피 인코딩되는 것을 특징으로 한다.
본 발명에서， 상기 장치는, 상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하는 DCT부; 및 상기 DCT 계수와 상기 GBLT 계수의 율 -왜곡 비용을 비교하는 상기 모드 선택부를 더 포함하되, 상기 모드 선택부는, 상가 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때, 상기 GBLT 에 대응되는 모드 인텍스를 선택하는 것을 특징으로 한다.
본 발명은, 그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 디코딩하는 장치에 있어서, 상기 비디오 신호로부터 변환 방식을 나타내는 모드 인덱스를 추출하는 파싱부; 상기 모드 인덱스에 대응되는 변환을 유도하고, 상기 변환에 기초하여 인트라 레지듀얼 신호에 대해 역변환을 수행하는 역변환부; 및 상기 역변환된 인트라 레지듀얼 신호에 예측 신호를 합하여 복원 신호를 생성하는 복원부를 포함하되， 상기 변환은 DCT 또는 GBLT 증 하나를 나타내는 것을 특징으로 하는 장치를 제공한다.
【발명의 실시를 위한 형태】
이하， 첨부된 도면을 참조하여 본 발명의 실시예의 구성과 그 작용을 설명하며， 도면에 의해서 설명되는 본 발명의 구성과 작용은 하나의 실시예로서 설명되는 것이며, 이것에 의해서 본 발명의 기술적 사상과 그 핵심 구성 및 작용이 제한되지는 않는다.
아울러, 본 발명에서 사용되는 용어는 가능한 한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 특정한 경우는 출원인이 임의로 선정한 용어를 사용하여 설명한다. 그러한 경우에는 해당 부분의 상세 설명에서 그 의미를 명확히 기재하므로, 본 발명의 설명에서 사용된 용어의 명칭만으로 단순 해석되어서는 안 될 것이며 그 해당 용어의 의미까지 파악하여 해석되어야 함을 밝혀두고자 한다.
또한, 본 발명에서 사용되는 용어들은 발명을 설명하기 위해 선택된 일반적인 용어들이나, 유사한 의미를 갖는 다른 용어가 있는 경우 보다 적절한 해석을 위해 대체 가능할 것이다. 예를 들어, 신호， 데이터， 샘플, 픽쳐, 프레임, 블록 등의 경우 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다. 또한, 파티셔닝 (partitioning), 분해 (decomposition), 스플리팅 (splitting) 및 분할 (division) 등의 경우에도 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다. 도 1은 본 발명이 적용되는 실시예로서, 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 1을 참조하면, . 인코더 (100)는 영상 분할부 (110)， 변환부 (120), 양자화부 (130), 역양자화부 (140), 역변환부 (150), 필터링부 (160), 복호 픽쳐 버퍼 (DPB: Decoded Picture Buffer)(170), 인터 예측부 (180), 인트라 예측부 (185) 및 엔트로피 인코딩부 (190)를 포함하여 구성될 수 있다. 영상 분할부 (1 10)는 인코더 (100)에 입력된 입력 영상 (Input image)(또는, 픽쳐, 프레임)를 하나 이상의 처리 유닛으로 분할할 수 있다. 예를 들어, 상기 처리 유닛은 코딩 트리 유닛 (CTU: Coding Tree Unit), 코딩 유닛 (CU: Coding Unit), 예측 유닛 (PU: Prediction Unit) 또는 변환 유닛 (TU: Transform Unit)일 수 있다.
다만, 상기 용어들은 본 발명에 대한 설명의 편의를 위해 사용할 뿐이며, 본 발명은 해당 용어의 정의에 한정되지 않는다. 또한， 본 명세서에서는 설명의 편의를 위해, 비디오 신호를 인코딩 또는 디코딩하는 과정에서 이용되는 단위로써 코딩 유닛이라는 용어를 사용하지만, 본 발명은 그에 한정되지 않으며 발명 내용에 따라 적절하게 해석 가능할 것이다.
인코더 (100)는 입력 영상 신호에서 인터 예측부 (180) 또는 인트라 예측부 (185)로부터 출력된 예측 신호 (prediction signal)를 감산하여 잔여 신호 (residual signal)를 생성할 수 있고, 생성된 잔여 신호는 변환부 (120)로 전송된다.
변환부 (120)는 잔여 신호에 변환 기법을 적용하여 변환 계수 (transform coefficient)를 생성할 수 있다. 변환 과정은 정사각형의 동일한 크기를 갖는 픽셀 블록에 적용될 수도 있고， 정사각형이 아닌 가변 크기의 블록에도 적용될 수 있다.
상기 변환부 (120)는 픽셀 간 관계 정보를 그래프로 표현하여 처리하는 그래프 기반 신호 처리 방식을 이용할 수 있다. 예를 들어, 상기 변환부 (120)는 그래프 가반 변환부를 포함할 수 있고, 상가 그래프 기반 변환부는 인트라 레지듀얼 신호로부터 에지를 검출하고, 상기 검출된 에지에 가초하여 그래프를 생성할 수 있다. 그리고, 상기 그래프에 대해 GBLT(Graph-Based Lifting Transform)를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득할 수 있다. 여기서, 상기 그래프는 노드와 가중치 링크로 구성될 수 있으며, 상기 노드는 꼭지점 또는 꼭지점 파라미터로 표현될 수 있고, 상기 가중치 링크는 에지 또는 에지 가중치로 표현될 수 있다.
상기 GBLT 계수는 양자화부 (130)를 통해 양자화되고, 양자화된 GBLT 계수는 엔트로피 인코딩부 (190)를 통해 엔트로피 인코딩될 수 있다.
일실시예로, 상기 GBLT 는 분할 과정， 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 방법을 제공한다.
일실시예로, 본 발명은, 상기 GBLT 에 대웅되는 모드 인덱스를 결정하고, 상기 모드 인덱스를 엔트로피 인코딩할 수 있다. 다만, 본 발명은 이에 한정되지 않으며, 상기 GBLT는 직접 디코더로 전송되거나, 디코더에서 유도될 수 있다. 예를 들어, 인코더에 잔차 신호에 대한 에지 맵을 전송하고, 디코더에서 상기 에지 맵에 기초하여 그래프를 생성하고 이로부터 상기 GBLT를 유도할 수 있다. 일실시예로, 본 발명은， 상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하고, 상기 DCT 계수와 상기 GBLT 계수의 RD 비용을 비교함으로써 보다 최적의 변환 계수를 획득할 수 있다. 예를 들어, 상기 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때, 상기 GBLT 에 대웅되는 모드 인덱스가 결정될 수 있다.
일실시예로, 상기 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행될 수 있다.
일실시예로, 상기 분할 과정은, 업데이트 세트의 크기를 계산하고, 상기 업데이트 세트의 크기에 기초하여 예측 세트 내 MAP 측정 에러를 최소화하는 노드를 선택하고, 상기 선택된 노드에 대한 업데이트 세트를 계산할 수 있다. 일실시예로， 상기 그래프는 다음 GBLT 이전에 재연결될 수 있다.
일실시예로， 상기 그래프는 상기 잔차 블록에 이용된 인트라 예측 모드에 기초하여 결정된 것일 수 있다.
일실시예로, 상기 그래프들은 상기 잔차 블록의 에지 정보를 이용함으로써 획득된 것일 수 있다.
본 발명이 적용되는 그래프 기반 변환부는 별개의 기능 유닛으로 존재할 수 있고， 이 경우 상기 그래프 기반 변환부는 상기 변환부 (120) 앞에 위치할 수 있으나, 본 발명은 이에 한정되지 않는다.
양자화부 (130)는 변환 계수를 양자화하여 엔트로피 인코딩부 (190)로 전송하고, 엔트로피 인코딩부 (190)는 양자화된 신호 (quantized signal)를 엔트로피 코딩하여 비트스트림으로 출력할 수 있다.
양자화부 (130)로부터 출력된 양자화된 신호 (quantized signal)는 예측 신호를 생성하기 위해 이용돨수 있다. 예를 들어, 양자화된 신호 (quantized signal)는 루프 내의 역양자화부 (140) 및 역변환부 (150)를 통해 역양자화 및 역변환을 적용함으로써 잔여 신호를 복원할 수 있다. 복원된 잔여 신호를 인터 예측부 (180) 또는 인트라 예측부 (185)로부터 출력된 예측 신호 (prediction signal)에 더함으로써 복원 신호 (reconstructed signal)가 생성될 수 있다.
한편, 위와 같은 압축 과정에서 인접한 블록들이 서로 다른 양자화 파라미터에 의해 양자화됨으로써 블록 경계가 보이는 열화가 발생될 수 있다. 이러한 현상을 블록킹 열화 (blocking artifacts)라고 하며， 이는 화질을 평가하는 중요한 요소 중의 하나이다. 이라한 열화를 줄이기 위해 필터링 과정을 수행할 수 있다. 이러한 필터링 과정을 통해 블록킹 열화를 제거함과 동시에 현재 픽쳐에 대한 오차를 줄임으로써 화질을 향상시킬 수 있게 된다.
필터링부 (160)는 복원 신호에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼 (170)에 전송한다. 복호 픽쳐 버퍼 (170)에 전송된 필터링된 신호는 인터 예측부 (180)에서 참조 픽쳐로 사용될 수 있다. 이처럼, 필터링된 픽쳐를 화면간 예측 모드에서 참조 픽쳐로 이용함으로써 화질 뿐만 아니라 부호화 효율도 향상시킬 수 있다.
복호 픽쳐 버퍼 (170)는 필터링된 픽쳐를 인터 예측부 (180)에서의 참조 픽쳐로 사용하기 위해 저장할 수 있다.
인터 예측부 (180)는 복원 픽쳐 (reconstructed picture)를 참조하여 시간적 중복성 및 /또는 공간적 중복성을 제거하기 위해 시간적 예측 및 /또는 공간적 예측을 수행한다. 여기서, 예측을 수행하기 위해 이용되는 참조 픽쳐는 이전 시간에 부호화 /복호화 시 블록 단위로 양자화와 역양자화를 거친 변환된 신호이기 때문에, 블로킹 아티팩트 (blocking artifact)나 링잉 아티팩트 (ringing artifact)가 존재할 수 있다.
따라서, 인터 예측부 (180)는 이러한 신호의 불연속이나 양자화로 인한 성능 저하를 해결하기 위해, 로우패스 필터 (lowpass filter)를 적용함으로써 픽샐들 사이의 신호를 서브 픽셀 단위로 보간할 수 있다. 여기서， 서브 픽셀은 보간 필터를 적용하여 생성된 가상의 화소를 의미하고, 정수 픽셀은 복원된 픽쳐에 존재하는 실제 화소를 의미한다. 보간 방법으로는 선형 보간, 양선형 보간 (bilinear interpolation), 위너 필터 (wiener filter) 등이 적용될 수 있다.
보간 필터는 복원 픽쳐 (reconstructed picture)에 적용되어 예측의 정밀도를 향상시킬 수 있다. 예를 들어， 인터 예측부 (180)는 정수 픽셀에 보간 필터를 적용하여 보간 픽샐을 생성하고, 보간 픽셀들 (interpolated pixels)로 구성된 보간 블록 (interpolated block)을 예측 블록 (prediction block)으로 사용하여 예측을 수행할 수 있다.
인트라 예측부 (185)는 현재 부호화를 진행하려고 하는 블록의 주변에 있는 샘플들을 참조하여 현재 블록을 예측할 수 있다. 상기 인트라 예측부 (185)는 인트라 예측을 수행하기 위해 다음과 같은 과정을 수행할 수 있다. 먼저, 예측 신호를 생성하기 위해 필요한 참조 샘플을 준비할 수 있다. 그리고, 준비된 참조 샘플을 이용하여 예측 신호를 생성할 수 있다. 이후, 예측 모드를 부호화하게 된다. 이때, 참조 샘플은 참조 샘플 패딩 및 /또는 참조 샘플 필터링을 통해 준비될 수 있다. 참조 샘플은 예측 및 복원 과정을 거쳤기 때문에 양자화 에러가 존재할 수 있다. 따라서, 이러한 에러를 줄이기 위해 인트라 예측에 이용되는 각 예측 모드에 대해 참조 샘플 필터링 과정이 수행될 수 있다.
상기 인터 예측부 (180) 또는 상기 인트라 예측부 (185)를 통해 생성된 예측 신호 (prediction signal)는 복원 신호를 생성하기 위해 이용되거나 잔여 신호를 생성하기 위해 이용될 수 있다. 도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다'.
도 2를 참조하면， 디코더 (200)는 엔트로피 디코딩부 (210), 역양자화부 (220), 역변환부 (230), 필터링부 (240), 복호 픽쳐 버퍼 (DPB: Decoded Picture Buffer Unit)(250), 인터 예측부 (260) 및 인트라 예측부 (265)를 포함하여 구성될 수 있다. 그리고, 디코더 (200)를 통해 출력된 복원 영상 신호 (reconstructed video signal)는 재생 장치를 통해 재생될 수 있다.
디코더 (200)는 도 1의 인코더 (100)로부터 출력된 신호을 수신할 수 있고， 수신된 신호는 엔트로피 디코딩부 (210)를 통해 엔트로피 디코딩될 수 있다.
본 발명의 일실시예로, 상기 디코더 또는 상기 엔트로피 디코딩부 (210)는 모드 인덱스를 수신할 수 있다. 여기서, 상기 모드 인덱스는 변환 방식 또는 변환 타입을 나타내는 정보를 의미할 수 있다. 예를 들어, 상기 모드 인덱스에 대응되는 변환은 DCT또는 GBLT 중 하나일 수 있다.
엔트로피 디코딩된 모드 인덱스는 역양자화부 (220)로 전송되어 역양자화되고, 역변환부 (230)로 전송되어 이용될 수 있다. 다른 예로, 상기 엔트로피 디코딩된 모드 인덱스가 양자화되지 않은 경우, 역양자화부를 거치지 않고 역변환부 (230)로 전송되어 이용될 수 있다.
역양자화부 (220)에서는 양자화 스텝 사이즈 정보를 이용하여 엔트로피 디코딩된 신호로부터 변환 계수 (transform coefficient)를 획득한다. 여기서, 획득된 변환 계수는 상기 도 1의 변환부 (120)에서 설명한 다양한 실시예들이 적용된 것일 수 있다.
역변환부 (230)에서는 변환 계수를 역변환하여 잔여 신호 (residual signal)를 획득하게 된다. 여기서, 역변환시 이용되는 그래프 기반 변환 행렬은 모드 인덱스에 대웅되는 변환을 나타내며, 예를 들어 상기 모드 인덱스에 대웅되는 변환은 DCT 또는 GBLT 중 하나일 수 있다.
획득된 잔여 신호를 인터 예측부 (260) 또는 인트라 예측부 (265)로부터 출력된 예측 신호 (prediction signal)에 더함으로써 복원 신호 (reconstructed signal)가 생성된다.
필터링부 (240)는 복원 신호 (reconstructed signal)에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼부 (250)에 전송한다. 복호 픽쳐 버퍼부 (250)에 전송된 필터링된 신호는 인터 예측부 (260)에서 참조 픽쳐로 사용될 수 있다.
본 명세서에서, 인코더 (100)의 필터링부 (160), 인터 예측부 (180) 및 인트라 예측부 (185)에서 설명된 실시예들은 각각 디코더의 필터링부 (240), 인터 예측부 (260) 및 인트라 예측부 (265)에도 동일하게 적용될 수 있다. 도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
인코더는 하나의 영상 (또는 픽쳐)을 사각형 형태의 코딩 트리 유닛 (CTU: Coding Tree Unit) 단위로 분할할 수 있다. 그리고， 래스터 스캔 순서 (raster scan order)에 따라 하나의 CTU 씩 순차적으로 인코딩한다.
예를 들어, CTU의 크기는 64x64， 32x32, 16x16 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않는다. 인코더는 입력된 영상의 해상도 또는 입력된 영상의 특성 등에 따라 CTU의 크기를 선택하여 사용할 수 있다. CTU은 휘도 (luma) 성분에 대한 코딩 트리 블톡 (CTB: Coding Tree Block)과 이에 대웅하는 두 개의 색차 (chroma) 성분에 대한 코딩 트리 블록 (CTB: Coding Tree Block)을 포함할 수 있다.
하나의 CTU은 쿼드트리 (quadtree, 이하 'QT'라 함) 구조로 분해될 수 있다. 예를 들어, 하나의 CTU은 정사각형 형태를 가지면서 각 변의 길이가 절반씩 감소하는 4개의 유닛으로 분할될 수 있다. 이러한 QT 구조의 분해는 재귀적으로 수행될 수 있다.
도 3을 참조하면, QT의 루트 노드 (root node)는 CTU와 관련될 수 있다. QT는 리프 노드 (leaf node)에 도달할 때까지 분할될 수 있고, 이때 상기 리프 노드는 코딩 유닛 (CU: Coding Unit)으로 지칭될 수 있다.
CU은 입력 영상의 처리 과정, 예컨대 인트라 (intra)/인터 (inter) 예측이 수행되는 코딩의 기본 단위를 의미할 수 있다. CU은 휘도 (luma) 성분에 대한 코딩 블록 (CB: Coding Block)과 이에 대웅하는 두 개의 색차 (chroma) 성분에 대한 CB를 포함할 수 있다. 예를 들어, CU의 크기는 64x64, 32x32, 16x16, 8x8 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않으며, 고해상도 영상일 경우, CU의 크기는 더 커지거나 다양해질 수 있다.
도 3을 참조하면, CTU는 루트 노드 (root node)에 해당되고, 가장 작은 깊이 (depth)(즉, 레벨 0) 값을 가진다. 입력 영상의 특성에 따라 CTU가 분할되지 않을 수도 있으며, 이 경우 CTU은 CU에 해당된다.
CTU은 QT 형태로 분해될 수 있으며， 그 결과 레벨 1의 깊이를 가지는 하위 노드들이 생성될 수 있다. 그리고， 레벨 1의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드)는 CU에 해당한다. 예를 들어, 도 3(b)에서 노드 a, b 및 j에 대웅하는 CU(a), CU(b), CU(j)는 CTU에서 한 번 분할되었으며, 레벨 1의 깊이를 가진다.
레벨 1의 깊이를 가지는 노드 중 적어도 어느 하나는 다시 QT 형태로 분할될 수 있다. 그리고, 레벨 2의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드)는 CU에 해당한다. 예를 들어, 도 3(b)에서 노드 c, h 및 i에 대옹하는 CU(c), CU(h), CU(i)는 CTU에서 두 번 분할되었으며, 레벨 2의 깊이를 가¾다.
또한, 레벨 2의 깊이를 가지는 노드 중 적어도 어느 하나는 다시 QT 형태로 분할될 수 있다. 그리고, 레벨 3의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드)는 CU에 해당한다. 예를 들어, 도 3(b)에서 노드 d, e, f, g에 대응하는 CU(d), CU(e), CU(f), CU(g)는 CTU에서 3번 분할되었으며, 레벨 3의 깊이를 가진다.
인코더에서는 비디오 영상의 특성 (예를 들어, 해상도)에 따라서 혹은 부호화의 효율을 고려하여 CU의 최대 크기 또는 최소 크기를 결정할 수 있다. 그리고, 이에 대한 정보 또는 이를 유도할 수 있는 정보가 비트스트림에 포함될 수. 있다. 최대 크기를 가지는 CU를 최대 코딩 유닛 (LCU: Largest Coding Unit)이라고 지칭하며, 최소 크기를 가지는 CU를 최소 코딩 유닛 (SCU: Smallest Coding Unit)이라고 지칭할 수 있다.
또한, 트리 구조를 갖는 CU은 미리 정해진 최대 깊이 정보 (또는, 최대 레벨 정보)를 가지고 계층적으로 분할될 수 있다. 그리고， 각각의 분할된 CU은 깊이 정보를 가질 수 있다. 깊이 정보는 CU의 분할된 횟수 및 /또는 정도를 나타내므로, CU의 크기에 관한 정보를 포함할 수도 있다.
LCU가 QT 형태로 분할되므로, LCU의 크기 및 최대 깊이 정보를 이용하면 SCU의 크기를 구할 수 있다. 또는 역으로, SCU의 크기 및 트리의 최대 깊이 정보를 이용하면, LCU의 크기를 구할 수 있다.
하나의 CU에 대하여， 해당 CU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 플래그로 정의될 수 있으며, 신택스 엘리먼트 "Split_CU_flag"로 표현될 수 있다. 상기 분할 플래그는 SCU을 제외한 모든 CU에 포함될 수 있다. 예를 들어, 상기 분할 플래그의 값이 T이면 해당 CU은 다시 4개의 CU으로 나누어지고， 상기 분할 플래그의 값이 Ό'이면 해당 CU은 더 이상 나누어지지 않고 해당 CU에 대한 코딩 과정이 수행될 수 있다.
앞서 도 3의 실시예에서는 CU의 분할 과정에 대해 예로 들어 설명하였으나, 변환을 수행하는 기본 단위인 변환 유닛 (TU: Transform Unit)의 분할 과정에 대해서도 상술한 QT 구조를 적용할 수 있다.
TU는 코딩하려는 CU로부터 QT 구조로 계층적으로 분할될 수 있다. 예를 들어, CU은 변환 유닛 (TU)에 대한 트리의 루트 노트 (root node)에 해당될 수 있다.
TU는 QT 구조로 분할되므로 CU로부터 분할된 TU는 다시 더 작은 하위 TU로 분할될 수 있다. 예를 들어, TU의 크기는 32x32， 16x16, 8x8, 4x4 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않으며, 고해상도 영상일 경우， TU의 크기는더 커지거나 다양해질 수 있다.
하나의 TU에 대하여， 해당 TU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 변환 플래그로 정의될 수 있으며, 신택스 엘리먼트 " split_transform_flag "로 표현될 수 있다.
상기 분할 변환 플래그는 최소 크기의 TU을 제외한 모든 TU에 포함될 수 있다. 예를 들어, 상기 분할 변환 플래그의 값이 T이면 해당 TU은 다시 4개의 TU으로 나누어지고, 상기 분할 변환 플래그의 값이 Ό'이면 해당 TU은 더 이상 나누어지지 않는다.
상기에서 설명한 바와 같이, CU는 인트라 예측 또는 인터 예측이 수행되는 코딩의 기본 단위이다. 입력 영상을 보다 효과적으로 코딩하기 위하여
CU를 예측 유닛 (PU: Prediction Unit) 단위로 분할할 수 있다.
PU는 예측 블록을 생성하는 기본 단위로서， 하나의 CU 내에서도 PU 단위로 서로 다르게 예측 블록을 생성할 수 있다. PU는 PU가속하는 CU의 코딩 모드로 인트라 예측 모드가 사용되는지 인터 예측 모드가 사용되는지에 따라 상이하게 분할될 수 있다. 도 4는 본 발명이 적용되는 일실시예로서, 1차원 그래프와 2차원 그래프에 기초하여 그래프 기반 변환 행렬을 획득하는 과정을 설명하기 위한 도면이다. 본 발명의 일실시예로， 이미지 내 픽샐 블록의 처리를 위해 사용될 수 있는 그래프 타입은 도 4를 통해 설명될 수 있다. 예를 들어, 도 4(a)는 픽셀 블록의 각 라인에 대웅되는 1차원 그래프를 나타내고, 도 4(b)는 픽샐 블록에 대응되는 2차원 그래프를 나타낼 수 있다.
그래프 꼭지점 (vertex)은 픽셀 블록의 각 픽셀에 연관되며, 그래프 꼭지점의 값은 픽셀 값으로 표현될 수 있다. 그리고, 그래프 에지 (graph edge)는 그래프 꼭지점을 연결하는 선을 의미할 수 있다. 상기 그래프 에지는 신호 내의 어떠한 형태의 통계적 의존성을 나타내기 위해 사용되며, 그 강도를 나타내는 값을 에자 가중치 (edge weight)라 할 수 있다.
예를 들어, 도 4(a)를 살펴보면， 1차원 그래프를 나타내며, 0,1,2,3은 각 꼭지점의 위치를 나타내고, Wo,Wl,w2는 각 꼭지점 간의 에지 가중치를 나타낸다. 도 4(b)를 살펴보면, 2차원 그래프를 나타내며, (i=0,l,2,3,j=0,l,2), bkl (k=0, 1,2,1=0, 1,2,3)는 각 꼭지점 간의 에지 가중치를 나타낸다. 각 꼭지점은 모든 다른 꼭지점에 연결될 수 있으며, 0의 에지 가중치는 서로 연관되지 않거나 약하게 연관된 꼭지점들을 연결하는 에지에 할당될 수 있다. 다만， 표현의 간단화를 위해, 0의 에지 가중치를 갖는 에지는 완전히 제거될 수 있다.
본 발명이 적용되는 일실시예로, 그래프 신호로부터 획득되는 변환을 그래프 기반 변환 (Graph-Based Transform, 이하 'GBT'라 함)이라 정의할 수 있다. 예를 들어, TU를 구성하는 픽셀 간의 관계 정보를 그래프로 표현한다고 할 때, 이 그래프로부터 얻어진 변환을 GBT라고 할 수 있다.
픽셀 간의 관계 정보는 다양한 방법으로 표현될 수 있다. 예를 들어, 픽샐 값들 사이의 유사성, 동일한 PU에 속해 있는지 여부, 같은 오브젝트에 속해 있는지 여부 등에 기초하여 픽셀 간의 관계 정보를 표현할 수 있다. 상기 픽셀 간 관계 정보는 각 픽셀을 그래프의 꼭지점에 대웅시켰을 때 픽셀들 간의 에지 유무 및 에지 가중치 (edge weight) 값으로 표현될 수 있다.
이 경우, 상기 GBT는 다음과 같은 과정을 통해 획득될 수 있다. 예를 들어, 인코더 또는 디코더는 비디오 신호의 타겟 블록으로부터 그래프 정보를 획득할 수 있다. 상기 획득된 그래프 정보로부터 다음 수학식 1과 같이 라플라시안 행렬 (Laplacian matrix) L을 획득할 수 있다.
【수학식 1】
L = D - A
상기 수학식 1에서, D는 대각 행렬 (diagonal matrix)을 나타내고, A는 인접 행렬 (adjacency matrix)을 나타낸다 .
그리고, 상기 라플라시안 행렬 (Laplacian matrix) L에 대해 아래 수학식 2와 같이 고유 분해 (dgen decomposition)를 수행함으로써 GBT 커널을 획득할 수 있다. 【수학식 2】
L = UAUT
상기 수학식 2에서, L은 라플라시안 행렬 (Laplacian matrix), U는 고유 행렬 (eigen matrix), 1^는 U의 전치 행렬 (transpose matrix)을 의미한다. 상기 수학식 2에서, 상기 고유 행렬 (eigen matrix) U는 해당 그래프 모델에 맞는 신호에 대해 특화된 그래프 기반 푸리에 (Fourier) 변환을 제공할 수 있다. 예를 들어， 상기 수학식 2를 만족하는 고유 행렬 (eigen matrix) U는 GBT 커널을 의미할 수 있다. 도 5는 본 발명이 적용되는 실시예로서， 그래프 기반 신호를 처리하는 인코더의 개략적 블록도를 예시한다.
상기 도 5를 살펴보면, 본 발명이 적용되는 인코더 (500)는 그래프 기반 변환부 (510), 양자화부 (520)， 역양자화부 (530), 역변환부 (540)， 버퍼 (550), 예측부 (560), 및 엔트로피 인코딩부 (570)을 포함한다.
인코더 (500)는 비디오 신호를 수신하고 상기 비디오 신호로부터 상기 예측부 (560)에서 출력된 예측된 신호를 차감하여 잔차 신호를 생성한디-. 상기 생성된 잔차 신호는 상기 그래프 기반 변환부 (510)으로 전송되고， 상기 그래프 기반 변환부 (510)은 변환 방식을 상기 잔차 신호에 적용함으로써 변환 계수를 생성한다.
상기 그래프 기반 변환부는 인트라 레지듀얼 신호로부터 에지를 검출하고, 상기 검출된 에지에 기초하여 그래프를 생성할 수 있다. 그리고, 상기 그래프에 대해 GBLT(Graph-Based Lifting Transform)를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득할 수 있다.
일실시예로, 상기 GBLT 는 분할 과정， 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 방법을 제공한다.
일실시예로， 본 발명은， 상기 GBLT 에 대웅되는 모드 인덱스를 결정하고, 상기 모드 인덱스를 엔트로피 인코딩할 수 있다. 다만, 본 발명은 이에 한정되지 않으며， 상기 GBLT는 직접 디코더로 전송되거나， 디코더에서 유도될 수 있다. 예를 들어， 인코더에 잔차 신호에 대한 에지 맵을 전송하고， 디코더에서 상기 에지 맵에 기초하여 그래프를 생성하고 이로부터 상기 GBLT를 유도할 수 있다. 일실시예로， 본 발명은, 상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하고, 상기 DCT 계수와 상기 GBLT 계수의 RD 비용을 비교함으로써 보다 최적의 변환 계수를 획득할 수 있다. 예를 들어, 상기 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때, 상기 GBLT 에 대웅되는 모드 인덱스가 결정될 수 있다.
일실시예로, 상기 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행될 수 있다.
일실시예로, 상기 분할 과정은， 업데이트 세트의 크기를 계산하고, 상기 업데이트 세트의 크기에 기초하여 예측 세트 내 MAP 측정 에러를 최소화하는 노드를 선택하고， 상기 선택된 노드에 대한 업데이트 세트를 계산할 수 있다. 일실시예로， 상기 그래프는 다음 GBLT 이전에 재연결될 수 있다.
일실시예로， 상기 그래프는 상기 잔차 블록에 이용된 인트라 예측 모드에 기초하여 결정된 것일 수 있다.
일실시예로, 상기 그래프들은 상기 잔차 블록의 에지 정보를 이용함으로써 획득된 것일 수 있다.
다른 실시예로, 상기 그래프 기반 변환부 (510)는 비디오 데이터에 대해 적어도 하나의 데이터 클러스터를 생성하고, 그에 대응되는 적어도 하나의 그래프 라플라시안 행렬을 생성하고, 이를 포함하는 다중 그래프 기반 모델들에 기초하여 변환 최적화를 수행함으로써 최적화된 변환 행렬을 생성할 수 있다. 여기서, 다중 그래프 기반 모델들에 대웅되는 그래프들은 아래의 실시예들을 통해 생성될 수 있다.
다른 실시예로, 잔차 신호의 통계적 특성을 활용하기 위해, 적웅적이고 저복잡도의 GBT 템플릿 셋을 이용할 수 있다. 본 명세서에서 사용되는 GBT 템플릿 (GBT template), 그래프 템플릿 (graph template), 템플릿 그래프 (template graph), GBT 템플릿 셋 (GBT template set), 그래프 템플릿 셋 (graph template set), 또는 템플릿 그래프 셋 (template graph set) 등의 용어는 본 발명을 설명하기 위해 선택된 일반적인 용어들이므로 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다. 또한, 본 명세서에서, GBT는 GBLT로 대체되어 적용될 수: 있다.
다른 실시예로, 상기 그래프 기반 변환부 (510)는 잔차 신호의 타겟 유닛에 대웅되는 그래프 내 그래프 파라미터를 추출할 수 있다. 예를 들어, 상기 그래프 파라미터는 꼭지점 파라미터, 및 에지 파라미터 중 적어도 하나를 포함할 수 있다ᅳ 상기 꼭지점 파라미터는 꼭지점 위치 및 꼭지점 개수 중 적어도 하나를 포함하고, 상기 에지 파라미터는 에지 가증치 값 및 에지 가증치 개수 중 적어도 하나를 포함할 수 있다. 또한, 상기 그래프 파라미터는 일정 개수의 셋 (set)으로 정의될 수 있다. 예를 들어, 상기 에지 파라미터 셋 (edge parameter set)은 가중치 행렬 (weight matrix)로 정의될 수 있다. 다른 실시예로, 상기 그래프 기반 변환부 (510)는 상기 추출된 그래프 파라미터에 기초하여 그래프를 생성할 수 있고, 상기 생성된 그래프에 대해 기본 템플릿 (base template)으로 설정할 수 있다. 이하에서는， 이를 기본 템플릿 그래프 (base template graph)라 한다. 예를 들어, 상기 기본 템플릿 그래프는 균일 가중치가 적용된 그래프 (uniformly weighted graph)일 수 있으며, 이 경우 <3^로 표현될 수 있다. 상기 그래프의 노드는 타켓 유닛의 픽샐에 대응되고 타켓 유닛의 모든 에지 가중치 (edge weight)는 Wuni로 설정될 수 있다.
또한, 본 발명은, 상기 기본 템플릿 그래프의 에지 가중치 셋을 조정함으로써， T개의 서로 다른 그래프들을 생성할 수 있다. 이하에서는, 이를 템플릿 그래프 셋 (template graph set)이라 하며, 다음 수학식 3과 같이 표현할 수 있다.
【수학식 3】
{쒜
또한, 본 발명은, 변환 블록 내 코너 주변의 에지들의 가중치를 감소시킴으로써 블록 적응적 템플릿 그래프 (block-adaptive template graph)를 생성할 수 있다. 예를 들어， 상기 변환 블록 내 코너 주변의 에지들은 상기 Wuni보다 작은 에지 가중치인 ^\^^ᅳ로 설정될 수 있다. 여기서, \\^^는 약한 에지 가중치 (weak edge weight)라 한다.
또한， 본 발명은， 상기 변환 블록 내 코너 주변의 에지들이 동일한 상기 약한 에지 가중치 (weak edge weight) Wweak 값을 갖도록 함으로써 복잡도를 감소시킬 수 있다.
또한， 본 발명은, 잔차 블록들의 다른 위치에 따라 적웅적으로 신호 특성을 반영하기 위해， T 개의 다른 그래프들을 템플릿 그래프 셋 (template graph set)으로 선택하는 방법을 제공한다. 그리고， 본 발명은, 상기 선택된 템플릿 그래프 셋 (template graph set)의 스펙트럼 분해 (spectral decomposition)를 통해 GBT를 획득할 수 있다.
상기 양자화부 (520)은 상기 GBLT 계수를 양자화하여 상기 양자화된 GBLT 계수를 엔트로피 인코딩부 (570)으로 전송한다.
상기 엔트로피 인코딩부 (570)은 상기 양자화된 신호에 대한 엔트로피 코딩을 수행하고 엔트로피 코딩된 신호를 출력한다.
상기 양자화부 (520)에 의해 출력된 상기 양자화된 신호는 예측 신호를 생성하기 위해 사용될 수 있다. 예를 들어, 상기 인코더 (500)의 루프 내의 상기 역양자화부 (530) 및 상기 역변환부 (540)은 상기 양자화된 신호가 잔차 신호로 복원되도록 상기 양자화된 신호에 대한 역양자화 및 역변환을 수행할 수 있다. 복원된 신호는 상기 복원된 잔차 신호를 상기 예측부 (560)에 의해 출력된 예측 신호에 더함으로써 생성될 수 있다.
상기 버퍼 (550)는 예측부 (560)의 향후 참조를 위해 복원된 신호를 저장한다.
상기 ! 예측부 (560)은 이전에 복원되어 상기 버퍼 (550)에 저장된 신호를 사용하여 예측 신호를 생성할 수 있다. 이러한 경우, 본 발명은 앵커 (anchor) 이미지 내 영역을 사용하여 목표 이미지 내 영역을 효율적으로 예측하는 것에 관련된 것이다. 여기서, 상기 앵커 이미지는 참조 이미지, 참조 픽쳐 또는 참조 프레임을 의미할 수 있다. 효율은 율 -왜곡 (Rate-Distortion) 비용 또는 잔차 신호 내 왜곡을 정량화하는 평균 제곱 에러를 산출함으로써 결정될 수 있다. 도 6은 본 발명이 적용되는 실시예로서, 그래프 기반 신호를 처리하는 디코더의 개략적 블록도를 예시한다. 도 6의 디코더 (600)는 도 5의 인코더 (500)에 의해 출력된 신호를 수신한다. 상기 엔트로피 디코딩부 (610)은 수신된 신호에 대한 엔트로피 디코딩을 수행한다ᅳ 상기 역양자화부 (620)은 양자화 스텝 사이즈 정보를 기초로 하여 상기 엔트로피 디코딩된 신호로부터 변환 계수를 획득한다.
상기 역변환부 (630)은 변환 계수에 대한 역변환을 수행함으로써 잔차 신호를 취득한다. 이때, 상기 역변환은 상기 인코더 (500)에서 획득된 그래프 기반 변환에 대한 역변환을 의미할 수 있다. 예를 들어， 상기 그래프 기반 변환은 GBLT를 나타낼 수 있다.
본 발명의 다른 실시예로, 상기 역변환부 (630)는 변환 방식 또는 변환 타입을 나타내는 모드 인덱스를 수신하고, 상기 모드 인덱스에 대웅되는 변환을 유도할 수 있다. 예를 들어， 상기 변환은 GBLT 또는 DCT 중 어느 하나에 대웅될 수 있다.
상기 유도된 변환에 기초하여 역변환을 수행함으로써 잔차 신호를 획득할 수 있다. 여기서, 상기 잔차 신호는 인트라 예측된 잔차 신호를 나타내며， 다만 본 발명은 이에 한정되지 않으며 상기 잔차 신호는 인터 예측된 잔차 신호를 나타낼 수도 있다.
상기 잔차 신호를 상기 예측부 (650)에 의해 출력된 예측 신호에 더함으로써 복원 신호가 생성될 수 있다.
상기 버퍼 (640)는 상기 예측부 (650)의 향후 참조를 위해 상기 복원 신호를 저장한다.
상기 예측부 (650)은 이전에 복원되어 상기 버퍼 (640)에 저장된 신호를 기반으로 예측 신호를 생성한다. 도 7은 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)을 이용하는 그래프 기반 변환부의 개략적인 내부 블록도를 나타낸다.
상기 도 7을 살펴보면, 그래프 기반 변환부 (510)는 에지 검출부 (511), DCT부 (512)， 그래프 기반 리프팅 변환부 (513) 및 모드 선택부 (514)를 포함할 수 있다. 본 발명을 설명하기 위해， 편의상 본 명세서에서는 도 7와 같이 기능 유닛별로 나누어 설명하지만, 이는 일실시예일뿐이며 본 발명의 내용이 기능 유닛의 이름에 한정되어 해석되어서는 안될 것이다. 예를 들어, 이하에서 설명되는 내용은 변환부, 그래프 기반 변환부, 그래프 기반 리프팅 변환부, 또는 프로세서와 같이 어느 하나의 기능 유닛에서 모두 수행될 수 있다.
에지 검출부 (511)는 잔차 신호로부터 에지를 검출할 수 있다. 여기서, 상기 잔차 신호는 인트라 예측된 잔차 신호 또는 인터 예측된 잔차 신호일 수 있다. 여기서, 잔차 신호는 레지듀얼 신호 또는 차분 신호로 표현될 수 있다.
DCT부 (512)는 상기 잔차 신호에 대해 DCT를 수행하여 DCT 계수를 획득할 수 있다.
그래프 기반 리프팅 변환부 (513)는 상기 검출된 에지에 기초하여 그래프를 생성하고， 상기 그래프에 대해 GBLT를 수행하여 GBLT 계수를 획득할 수 있다. 리프팅 구조는 크게 분할 (split or partition), 예측 (prediction), 업데이트 (update)의 세 단계로 구성된다. 각 리프팅 단계는 항상 역변환 가능하며 정보의 손실이 없다. 도 17을 참조하면, 리프팅 변환이 적용되는 개략적인 구조를 나타낸다. 도 17(a)는 분석단을 나타내고, 도 17(b)는 합성단을 나타낸다.
먼저, 분할 과정에서, x[n]을 입력 신호라 하면 첫번째로 x[n]을 우수와 기수의 다 위상 요소 xe[n] 및 x0[n]으로 나눌 수 있다. 여기서， xe[n] = x[2n], x0[n] = x[2n+l] 이 된다.
예측 과정에서는， 리프팅의 보간 공식에서 주변 계수 xe[n]으로부터 다 위상 계수 x0[n]를 예측한다. 각 x0[n]에 대한 예측기는 이웃한 우수의 계수들과 선형 결합할 수 있다. 이는 P(xe)[n] = I Ρ/ xe [n+1] 로 나타낼 수 있다. 여기서, x[n]을 오차가 존재하는 x0[n]으로 바꿈으로써 새로운 표현을 얻을 수 있고， 이는 첫번째 리프팅 단계 d[n] = x0[n] - P(xe)[n] 를 이끌어 낸다.
마지막으로 세번째 단계인 업데이트 과정에서는, 우수의 다 위상 계수 xe[n] 는 저역통과 필터로 전달되고 부표본화된 x[n]이 된다. xe[n]과 예측 오차 d[n]의 선형 결합을 통해 업데이트될 수 있다. 이는 c[n] = xe[n] + U(d)[n]으로 나타낼 수 있다. 여기서 , U(d)는 예측 오차 d의 값들과 선형 결합을 이룬다.
모드 선택부 (514)는 상기 DCT 계수와 상기 GBLT 계수에 대한 RD(Rate- Distortion) 비용을 비교함으로써 하나의 변환 방식을 선택 또는 결정할 수 있다. 예를 들어, 상기 GBLT 계수의 RD 비용이 상기 DCT 계수보다 더 작을 때, 상기 모드 선택부 (514)는 GBLT 에 대웅되는 모드 인덱스를 선택할 수 있다. 이하에서는, GBLT를 수행하는 방법에 대한 상세 내용를 설명하도톡 한다. 본 발명은, 인트라 예측 또는 인터 예측된 비디오 시¾스들을 위한 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform)을 제안한다. 상기 그래프 기반 리프팅 변환은 주어진 그래프에 대하여 그래프 푸리에 변환 (GFT)의 성능을 근사화하지만, 고유 백터들을 연산하는 것을 요구하지 않는다. 예측-업데이트 이분할 (bipartition)은 예측 세트에서 에너지를 최소화하기 위한 목표를 갖는 가우시안 마르코프 랜덤 필드 (GMRF) 모델에 기반하여 설계된다.
일실시예로, 새로운 재연결 (re-connection) 방법이 다중 레벨 그래프들 (multilevel graphs)에 적용되고, 이는 제안된 이분할 방법 및 기존의 MaxCut 기반 이분할에 대한 상당한 이득을 유도한다. 인트라 예측된 비디오 시뭔스들에 대한 실험들은 에지 정보에 대한 추가적인 오버헤드를 고려한다하여도, 제안된 방법은 이산 코사인 변환 (DCT)을 능가하고 높은 복잡도 GFT의 성능을 근사화함을 보여준다.
본 발명은, 블록 기반 리프팅 변환을 향상시키고 인트라 예측된 잔차 신호에 대한 성능올 평가한다. 첫째, GMRF를 이용하여 인트라 예측된 잔차들에 대한 모델을 정의하고, 예측 세트에서 에너지를 최소화하는 이분할 접근올 설계한다. 둘째， 국부 필터뱅크들에서 예측을 향상시키는 새로운 재연결 (re- connection) 기법을 제안한다. 기존의 MaxCut 기반 이분할을 이용하는 리프팅의 성능도 또한 재 -연결 (re-connection)을 이용하여 향상될 수 있다. 시험 시뭔스들에 대한 제안된 방법의 결과들은 DCT를 능가하지만 고유 분해 (eigen decomposition)와 같은 높은 복잡도 연산 없이도 GFT를 이용하여 획득되는 결과들에 비교할 만하다.
이하에서는, 먼저 그래프들에 대한 일부 예비수단들 (preliminaries) 및 리프팅 변환을 검토하고, GMRF 모델에 기반하여 이분할 알고리즘을 논의한다. 그리고, 제안된 이분법에 기반한 그래프 재연결을 이용하는 필터뱅크를 설계하는 방법을 설명하도톡 한다. 마지막으로, 본 발명의 복잡도 및 GFT의 복잡도를 비교한 실험 결과 값을 설명한다. 리프팅 변환에서 업데이트 -예측 이분할 (update- redict bipartition in lifting transform)
(T) 예비수단들 (preliminaries) 가중 그래프 (weighted graph) G= (V, E)는 노드들 ^ V 및 에지들 e 의 세트를 구성하고， 이는 연결된 두 개의 노드들 i 및 j 간에 유사성들을 보유 (capture)한다. 상기 유사성은 가중치 ¾¾3·€ [0， 1]'를 이용하여 측정된다. 정보는 인접성 행렬 Α를 이용하여 표현될 수 있고, 그 성분은 A(i,j) = Wij이다. 결합된 라플라시안 행렬은 L = D - A로 정의되고, D는 그 성분이 D(is i) = E¾ M fc인 대각 행렬이다ᅳ
리프팅 변환은 가역성 (invertibility)을 보장하는 다중 레벨 필터뱅크 (multilevel filterbank)이다. 각각의 레벨 m에서, 노드들은 두 개의 분리된 세트들, 예측 세트 (^)—및 업데이트 세트 ί^) 로 분리된다. ( )의 값들이 (^ )의 값들을 예측하는데 사용되고, 이후에 ( )의 값들을 업데이트하는데 사용된다. ^ 내의 스무딩된 신호 (smoothed signal)는 레벨 m+1의 입력 신호로서 동작한다. 의 계수들에 대한 연산은 ( )의 정보만을 이용하고， 그 역도 성립한다. 상기 과정의 수행은 다중 해법 분해 (multi-solution decomposition)을 반복적으로 산출한다. 비디오 /이미지 압축 어플리케이션들에 대하여， 레벨들 { ， q-2, 7 }에서의 예측 세트 정보와 함께, 최고 레벨 (highest level) q의 업데이트 세트에서의 계수들이 양자화되고 엔트로피 코딩된다.
따라서, 본 발명은， 코딩 효율을 증가시키기 위하여, 예측 세트에서의 에너지를 최소화하도록 이분할 (bipartition)을 설계한다. 가장 널리 적용되는 방법은 MaxCut 을 연산하는 것에 기반하는 것이고, 여기서 SP 및 Su 간의 총 링크 가중 (total link weight)은 최대화된다. 각각의 가중치는 연결된 노드들 간에 유사도를 측정하고, MaxCut을 수행함으로써, 두 개의 세트들 간에 유사도가 최대화된다. 신호 내 엔트리들이 균일하게 분포된 경우에 선형 필터들을 사용하여 li 크기 예측 오차의 하한 (lower bound)을 최소화하는데 MaxCut은 최적임이 입증될 수 있다. 그러나, 이러한 모델은 신호 엔트리들 간에 상관을 고려하지 못한다. 따라서， 본 발명은, 가우시안 마르코프 랜덤 필드 (GMRF)로 모델링된 신호 성분들 간에 관계들을 활용함으로써, 코딩 이득을 상당히 향상시킬 수 있다.
(2) GMRF 모델에 기반한 다중 -레벨 이분할 (multi-level bipartition)
본 발명이 적용되는 변환은 인트라 예측된 잔차 비디오에서 m X m 블록들에 대하여 독립적으로 구현될 수 있다. f ' e M™a 컬럼화된 블록을 표시한다. 각 블록은 이후에 GMRF의 구현으로 모델링되고, 여기서 ( ^ Ν(μ, Έ e Wm^ Km^) 이다. 본 실시예에서, 각 블록에 대하여 영 평균 (zero mean)이 가정된다. ∑는 공분산 행렬이고, 예측 행렬이라 불리우는, 그 역 Q =∑— 1 은 ， 샘플들 간에 부분 상관 (partiai corrrelation)을 측정한다. 샘플들 i 및 j는 Q(i,j) = 0인 경우 조건적으로 독립적이다. 실제 신호 통계를 이용하여 Q의 성분들을 예측하는 것 대신에, Q = ^£ 과 같은 그래프 라플라시안 함수로서
Q를 정의하고, 여기서 £ 은 L + 로서 정의된다. 작은 재귀 -루프 가중치 δ가 확률적 판단이 유효하도록 행렬 가역성 (invertibility)을 보장하기 위해 이용된다. 본 실시예에서, 각 블톡들에 대한 그래프는 에지 맵 정보를 이용하여 구성될 수 있다. 각 블록은 4-연결된 격자 그래프 (4-connected grid graph)로서 우선 표현된다. 이미지 에지들은 픽셀 그래디언트 (gradient)에 기반하여 검출될 수 있다. 임계값 T가 주어지고, T보다 큰 픽셀 차이를 갖는 i, j에 대하여, 링크는 가중치 c e iO ).가 할당된다. 상이한 이미지 에지 구조를 갖는 두 개의 블록들은 상이한 그래프 라플라시안 및 GMRF 모델을 갖게 될 것이다.
본 발명에서, 업데이트 세트의 MAP측정 (MAP estimate from the update set)에 기반한 예측 세트에서의 평균 12 정규 오차 (norm error)가 최소화되도록 이분할이 수행될 수 있다. 여기서， fP는 f에서 예측에 대웅하는 엔트리들을 포함하는 백터를 나타내고, 는 업데이트 세트에서 픽샐들에 대한 백터를 나타낸다. 주어진 fu에 대해, fP의 예측은 다음 수학식 4와 같이 연산될 수 있다.
【수학식 4】
' = itpp pufu .
여기서, £†는 ' 의 의사-역이다. 이는 GMRF의 MMSE 예측과 등가일 수 있다. 이후, 이분할 문제는 샘플링 문제로서 구성될 수 있고, 예측 세트에서 MAP 예측을 최소화하는 업데이트 세트를 찾는다. 목표 함수는 다음 수학식 5와 같이 작성될 수 있다: 【수학식 5】
Figure imgf000037_0001
= arg mmE|||fp '― ic; !2]
= argtniri<r(E|(fp― μ·ρ|£/)(ίρ― ριυ ])
= arg mia ir (∑pp― ¾3'u∑ffJ∑i p)
s'u
= argmlii*r(L|:>p:).
su 본 발명흔, 업데이트 세트를 구성하기 위하여 각 리프팅 레벨에서 노드들의 절반을 선택할 수 있다. 표 1을 살펴보면, q가 레벨 개수로써, m-{l,2,...,q}인 레벨 m(Sl)에 대한 업데이트 세트 Sv (S2)는， 하기 표 1의 알고리즘에 도시된 샘플링 방법을 이용하여 연산될 수 있다.
【표 11
Inpet grap G = {V, E); Su = Φ; SP = V; {S = nm=ltq
S1 for m = q：—1： 1 do
■compote- the update set size- |Sy| =: | |/2n¾
S2
fors = 1： do
Select ¾i* = arg miiiw. EMAP{SU U ρ/{κ })
S3 Sp = Sp /
end for
end for 본 발명은 상기 수학식 5를 해결하기 위해, 그리디 (greedy) 접근법을 이용할 수 있다. 각 반복에서, 하나의 노드 Vi가 선택되고 ¾에 부가된다 (S3). 도 8은 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환 (Graph-Based Lifting Transform, GBLT)을 이용하는 역변환부의 개략적인 내부 블록도를 나타낸다.
상기 도 8을 살펴보면, 역변환부 (630)는 모드 선택부 (631) 및 역변환 수행부 (632)를 포함할 수 있고, 상기 역변환 수행부 (632)는 역 DCT부 (633) 및 역 그래프 기반 리프팅 변환부 (634)를 포함할 수 있다. 본 발명을 설명하기 위해, 편의상 본 명세서에서는 도 8과 같이 기능 유닛별로 나누어 설명하지만, 이는 일실시예일뿐이며 본 발명의 내용이 기능 유닛의 이름에 한정되어 해석되어서는 안될 것이다. 예를 들어, 이하에서 설명되는 내용은 역변환부, 역 그래프 기반 변환부, 역 그래프 기반 리프팅 변환부, 또는 프로세서와 같이 어느 하나의 기능 유닛에서 모두 수행될 수 있다.
먼저, 디코더는 비트스트림올 수신하고, 엔트로피 디코딩， 역양자화를 거쳐 역양자화된 신호를 상기 역변환부 (630)에 전송한다.
상기 디코더는 상기 비트스트림으로부터 모드 인덱스를 추출할 수 있고, 모드 선택부 (631)는 상기 모드 인텍스에 대웅되는 변환 또는 변환 커널을 유도할 수 있다. 예를 들어, 상기 모드 인덱스가 DCT 행렬을 가리키면 대응되는 DCT 변환 커널을 유도하고, 상기 모드 인덱스가 GBLT 행렬을 가리키면 대웅되는 GBLT 변환 커널을 유도할 수 있다. 역변환 수행부 (632)는 상기 유도된 변환 커널올 이용하여 역변환을 수행할 수 있다.
상기 모드 인덱스가 DCT 를 나타내면， 역 DCT부 (633)는 DCT 변환 커널을 이용하여 역변환을 수행하고, 상기 모드 인덱스가 GBLT 를 나타내면, 역 그래프 기반 리프팅 변환부 (634)는 GBLT 변환 커널을 이용하여 역변환을 수행할 수 있다.
다른 실시예로, 모드 선택부 (631)에서 모드 인덱스를 수신하면， 역변환 수행부 (632)에서 상기 모드 인덱스에 대응되는 변환 커널을 유도할 수도 있다. 이때, 역변환부 (630)는 에지 맵 정보를 수신하여 변환 커널을 유도하기 위해 상기 에지 맵 정보를 이용할 수 있다.
상기 역변환부 (630)로부터 잔차 신호가 출력되고, 상기 잔차 신호는 예측 신호와 합하여 복원 신호를 생성하게 된다. 도 9는 본 발명이 적용되는 일실시예로서， 블록 경계 주변의 픽셀들에 대한 경계 확장을 설명하기 위한 도면이다.
경계 및 에지 확장
GMRF에서, 대각 행렬 (i, j)은 V=/{/}로 주어지는 노드 i에 대한 예측 오차의 역으로 해식될 수 있다. 따라서, 블록 경계들 및 이미지 에지들 주변의 노드들은 더 큰 예측 오차를 갖는 것으로 고려되어서, 샘플링에서 높은 우선 순위가 부여된다. 그러나, 경계들 주변의 노드는 다른 노드들로부터 더 멀리 있는 경향이 있고, 이러한 노드들을 사용하는 예측을 덜 효율적으로 만든다.
따라서, 본 발명은 이를 해결하기 위해, 도 9에 도시된 바와 같은 대칭 경계 확장을 사용하여 각 노드에 대한 링크들의 수를 균일하게 할 수 있으며, 결과적으로 샘플링을 위하여 사용되는 그래프는 강화 (augment)된다. 이러한 접근법은 이후에 사용되는 필터뱅크에 부합하고， 이는 또한 각도 정규화 (degree normalization)을 갖는 경계 확장을 사용한다. 상기 도 9를 살펴보면: 노드 V (상기 도 9의 노드 11)가 샘플로서 선택되고, 미러 노드들 (11，로 표시)이 또한 선택된다. 확장된 노드 ν'사이에 가중치 및 경계 노드 X (예컨대， 노드 15)는 V와 X 간의 가중치와 등가일 수 있다. 본 발명은 이미지 에지들 주변의 노드들에 대하여 또한 적용될 수 있으며, 이는 다음 표 2의 알고리즘에서 설명될 수 있다. 본 알고리즘은 그래프 상 샘플링을 위한 경계 /에지 확장 방법을 나타낸다.
【표 2】
Input Su = Φ, ΞΡ = V
Output Su and Sp after sampling 경계 및 에지 주변의 확장된 노드들 (Aext)을 포함하도록 인접 행렬 A를
S1
확장 이전 집단 (formal batches) 내 데이터의 De35iᅳ Aearf + 로 라플라시안
S2
행렬을 계산
S3 확장된 노드들 {y', y", ...} 및 이전 샘플링된 세트에 따라 샘플 y를 선택하고， V/{y} 세트 내 MAP 에러를 최소화
S4 S = S U {y}, md Sc = Sc/{y]
S5 특정 샘플 사이즈에 도달할 때까지 S3-S4 단계를 반복 도 10은 본 발명이 적용되는 일실시예로서, 인트라 예측 잔차 신호로부터 획득된 8x8 블록에 대해 크론 감소 (kron reduction)를 통한 상위 레벨 분해 (higher level decomposition)에서의 그래프 구성을 나타낸다.
다중 -레벨 리프팅 변환에서의 필터뱅크 설계
필터뱅크 설계를 위하여, CDF53 기반 접근법을 이용할 수 있다. 입력 신호
(레벨 0)을 s0로 정의하자. 레벨 m에서, 노드들이 우선 분류 ( 되고, 계수들이 다음 수학식 6과 같이 연산된다.
【수학식 6】
Figure imgf000041_0001
Figure imgf000041_0002
여기서, ST 은 레벨 m에서 업데이트 세트에 저장된 평탄화 계수이고, c 1은 레벨 m에서의 예측 세트에 저장된 세부 계수들이다ᅳ 레벨 m-l에서의 평탄화 계수들이 레벨 m에서의 입력 신호로서 취해진다. 예측 및 업데이트 연산자들은 레벨 m에서의 그래프의 인접성 행렬 의 함수들이다.
(I) 높은 레벨 분해에서의 그래프 구성 (Graph construction in higher level decomposition')
첫번째 레벨 리프팅 변환 (1 st level lifting transform)에서의 과정 이후에, 업데이트에서 평탄화된 값들 (smoothed values) (예컨대, 도 10(a)에서 검정 노드들)만이 다음 레벨에서 활용될 수 있다. 노드들의 개수가 감소되고 그들간의 평균 거리가 길어지기 때문에, 필터링을 위한 연결된 그래프는 레벨 1에서 사용되는 1-흡 링크들만을 이용하여 형성될 수 없다.
따라서, 그래프 노드들 간에 많은 전역 상관 (global correlation)을 제공하는 그래프 링크들이 요구된다. 이를 달성하기 위하여, 레벨 m > 1에서 그래프 구성을 위하여， 레벨 (m-1)로부터의 그래프를 사용하는 크론 (Kron) 감소가 적용된다. 크론 감소는 서브그래프 S에 대한 그래프 라플라시안을 £^ΐζ S) = Ii s - :^ scl s L :,s로 연산한다ᅳ 그러나, 도 10(b)에서와 같이, 크론 감소를 이용하여 제공되는 그래프는 일반적으로 밀집된다. 사실상, 추가적인 희소화 (sparsification) 없이, 8 x 8과 같은 작은 블록들에 대하여, 그래프는 레벨 3 이후에 완전히 (fully) 연결된다.
따라서， 도 10(c)에서와 같이, 국부화 (localization) 및 그래프 연결성 간의 절층을 위하여, 각 노드에 대하여 k개의 가장 가까운 이웃들만을 유지하여 간단한 회소화를 적용할 수 있다. 도 1 1은 본 발명이 적용되는 일실시예들로서， 도 1 1 (a)는 평탄 영역 (좌측 절반) 및 높은 분산 영역 (우측 절반)으로 구성된 이미지를 나타내고, 도 1 1 (b)는 1흡 링크들을 갖는 예측 /업데이트 연산자에 대하여 사용된 이분할 그래프를 나타내며, 도 11 (c)는 크론 감소로부터 유도된 링크들을 갖는 예측 /업데이트를 위하여 사용된 이분할 그래프를 나타낸다.
예측을 위한 그래프 재 -연결 (re-connection)
각 레벨의 리프팅 변환에서, 예측 세트 내의 계수들은 업데이트 세트에서의 정보에만 기반하여 연산되 ί, 그 역도 성립한다. 그러므로, 변환을 위하여 활용되는 그래프는 사실상 반대편 세트들 내의 노드들을 연결하는 링크들만을 이용하는 이분할 그래프이다.
본 발명에서 제안된 이분할 방식은 MAP 예측의 예측 오차를 최소화하는 것에 기반한다. 결과적으로, 높은 분산 영역, 예컨대 많은 이미지 에지를 갖는 영역들의 업데이트 세트 노드들은 평탄화된 영역에서의 분포들과 비교하여 밀집되어 분포된다. 직관적으로， 평탄한 영역에서 픽셀들은 그들이 수 흡들 떨어진 경우에도 유사한 값들을 가지므로, 이러한 영역에서 다수의 업데이트 샘플들이 중복된다.
업데이트 및 예측 연산자에 대하여 사용되는 이분법 그래프는 원시 그래프에서 1 -흡 링크들만으로 구성된다. 결과적으로， 업데이트 세트에 대한 샘플 노드들이 회소하게 분포되는 영역에 대하여, 예측 세트 내의 노드들은 업데이트 세트를 연결하는 링크들이 없거나 또는 극히 일부를 갖게 되어, 높은 예측 오차를 초래한다.
예를 들어, 도 1 1(a)는 평탄 영역 (좌측 절반) 및 높은 분산 영역 (우측 절반)으로 구성된 이미지를 나타내고, 이에 대해 도 1 1(b)는 1흡 링크들을 갖는 예측 /업데이트 연산자에 대하여 사용된 이분할 그래프를 나타내며, 도 11 (c)는 크론 감소로부터 유도된 링크들을 갖는 예측 /업데이트를 위하여 사용된 이분할 그래프를 나타낸다.
밀도 변화에 기반하여， 변환을 위한 이분법 그래프에서의 링크들은 적절하게 조정될 필요가 있다. 또한, 이분법 그래프를 재연결하기 위하여 크론 감소를 이용한다. 알고리즘은 두 부분들로 구성된다: 첫째， 이분법 세트들 SP 내의 각 노드 V는 서브그래프 라플라시안 ^( Stf U ^을 연산하여 업데이트 세트 S{/에 연결되고, V 와 St/ 간의 링크들만이 유지된다. 이후에， 각 SP 노드에 대하여 k개의 가장 가까운 이웃들만이 유지되는 회소화가 적용된다. 상기 도 11 (c)를 살펴보면， CDF53 필터뱅크가 희소화된 이분할 그래프 상에서 구현된 것을 확인할 수 있다. 도 12는 본 발명이 적용되는 일실시예로서， 그래프 기반 리프팅 변환을 포함하는 복수개의 변환 방식 중 RD(Rate Distortion) 비용 비교를 통해 변환 방식을 결정하는 방법을 설명하기 위한 흐름도이다.
인코더는 인트라 예측을 통해 인트라 예측 신호를 생성하고, 원 신호에서 상기 인트라 예측 신호를 감산하여 인트라 레지듀얼 신호를 생성할 수 있다. 상기 인코더는, 상기 인트라 레지듀얼 신호로부터 에지를 검출할 수 있고 (S 1210), 상기 검출된 에지에 기초하여 그래프를 생성할 수 있다 (S 1220). 상기 인코더는, 상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수를 획득할 수 있다 (S 1230).
한편， 상기 인코더는， 보다 효율적인 코딩을 위해 최적 변환 방식을 결정할 수 있으며, 이를 위해 상기 GBLT 외에 다른 변환 방식을 적용하여 변환 계수를 획득할 수 있다. 예를 들어， 상기 인트라 레지듀얼 신호에 대해 DCT를 수행하여 DCT 계수를 획득할 수도 있다 (S 1240).
상기 인코더는， 복수개의 변환 방식이 적용된 변환 계수들 간의 RD 비용을 비교함으로써 최적 변환 방식을 결정할 수 있다.
예를 들어， 상기 인코더는 GBLT 계수와 DCT 계수의 RD 비용을 비교할 수 있다. 상기 GBLT 계수의 RD 비용이 DCT 계수보다 작은지 여부를 확인할 수 있다 (S1250).
만약, 상기 GBLT 계수의 RD 비용이 DCT 계수보다 작지 않은 경우, 상기 인코더는 DCT 계수에 대해 양자화를 수행하고 (S1260), 양자화된 DCT 계수에 대해 엔트로피 인코딩을 수행할 수 있다 (S1261).
부가적으로, 상기 인코더는 DCT 에 대응되는 모드 인텍스를 결정하고 (S1262), 상기 모드 인덱스를 엔트로피 인코딩할 수 있다 (S1263).
반면, 상기 GBLT 계수의 RD 비용이 DCT 계수보다 작은 경우, 상기 인코더는 GBLT 계수에 대해 양자화를 수행하고 (S1270), 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행할 수 있다 (S1271).
부가적으로， 상기 인코더는 GBLT 에 대웅되는 모드 인덱스를 결정하고 (S1272), 상기 모드 인덱스를 엔트로피 인코딩할 수 있다 (S1273). 도 13은 본 발명이 적용되는 일실시예로서， 그래프 기반 리프팅 변환올 이용하여 비디오 신호를 인코딩하는방법을 설명하기 위한 흐름도이다.
인코더는 인트라 예측을 통해 인트라 예측 신호를 생성하고, 원 신호에서 상기 인트라 예측 신호를 감산하여 인트라 레지듀얼 신호를 생성할 수 있다. 상기 인코더는, 상기 인트라 레지듀얼 신호로부터 에지를 검출할 수 있고 (S1310), 상기 검출된 에지에 기초하여 그래프를 생성할 수 있다 (S1320). 상기 인코더는, 상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수를 획득할 수 있다 (S1330).
상기 안코다는, GBLT 계수에 대해 양자화를 수행하고 (S1340), 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행할 수 있다 (S1350). 한편， 상기 인코더는 GBLT 에 대웅되는 모드 인텍스를 결정하고 (S1360), 상기 모드 인덱스를 엔트로피 인코딩할 수 있다 (S1370). 상기 S1360 내지 S1370 단계는 부가적으로 수행될 수 있으며, 팔수적인 과정은 아닐 수 있다. 도 14는 본 발명이 적용되는 일실시예로서, 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 디코딩하는 방법을 설명하기 위한 흐름도이다.
디코더는 인코더로부터 전송된 비트스트림을 수신할 수 있고, 비트스트림은 엔트로피 디코딩부를 통해 엔트로피 디코딩될 수 있다. 엔트로피 디코딩된 신호는 역양자화부로 전송되어 역양자화되고, 역양자화된 신호는 역변환부로 전송된다. 여기서, 상기 역양자화된 신호는 인트라 레지듀얼 신호 또는 인터 레지듀얼 신호에 대웅될 수 있다.
상기 디코더는 상기 전송된 비트스트림으로부터 모드 인덱스를 추출할 수 있다 (S1410). 여기서， 상기 모드 인덱스는 변환 방식 또는 변환 타입을 나타내는 정보를 의미할 수 있다. 예를 들어， 상기 모드 인덱스에 대웅되는 변환은 DCT 또는 GBLT 중 하나일 수 있다.
상기 디코더는 상기 모드 인덱스에 대응되는 변환을 유도할 수 있다 (S1420). 예를 들어, 상기 변환은 DCT 또는 GBLT에 대웅될 수 있다.
상기 디코더는 상기 변환에 기초하여 상기 인트라 레지듀얼 신호에 대해 역변환을 수행할 수 있다 (S1430).
상기 디코더는 역변환된 인트라 레지듀얼 신호에 예측 신호를 합하여 복원 신호를 생성할 수 있다 (S1440). 도 15는 본 발명이 적용되는 일실시예로서， Max-Cut 기반 리프팅과 본 발명의 재연결 기법을 이용하는 Max-Cut 기반 리프팅의 코딩 이득을 비교하는 그래프이다.
본 발명은 제안된 이분법 및 리프팅에 기반한 MaxCut 을 이용하는 재연결 접근법의 코딩 이득을 비교한다. 시험 시퀀스들은 7개의 비디오 시퀀스들의 7 프레임들로 구성된다. 결과는 도 15에 도시된다. 상기 결과는 크론 감소를 이용하는 재연결 (re-connection)을 갖는 MaxCut 기반 이분할의 결과를 포함한다. 그리디 (greedy) 근사화된 Max-Cut과 같은 간단한 이분법 방식을 이용하는 경우에도, 더 양호하게 설계된 재연결 (re-connection)을 이용하여, 그 성능은 GMRF 모델을 이용하는 것과 비교할 만하다.
이하에서는, 크기 N의 그래프 G에 대하여， 그래프 기반 리프팅 변환 및 GFT의 변환 복잡도를 설명한다.
각 그래프에 대한 GFT 동작들은 고유백터를 찾고 신호메 대하여 변환을 적용한다. 고유 백터 분해는 라플라시안 행렬이 희소한 경우에도 0(N3)을 갖는 높은 복잡도의 과정이다. 상기 변환은 행렬이 일반적으로 밀도가 높다는 사실에 기인하여, OfN2를 갖는 행렬 -백터 곱을 요구한다.
다음으로， 그리디 MaxCut 이분할 및 그래프 재 -연결 (re-connection)에 기반한 리프팅 변환의 복잡도가 고려되고, 이는 GMRF 기반 이분할과 비교할만한 성능을 제공한다.
본 발명에서， 리프팅 기반을 생성하는 것은 3 부분들로 구성될 수 있다: 그리디 근사화된 MaxCut 을 이용하는 이분할, 크론 감소를 이용하는 재연결 (re- connection) 및 다음 높은 레벨에서의 그래프의 생성이다. 그리디 MaxCut은 초기 각도에 대응하여, 최대 이득을 갖는 노드들을 선택한다. 초기화는 정렬을 요구하고， 이는 최대-힙 (max-heap)과 같은 더 양호한 데이터 구조가 사용되는 경우， 0(NlogN) 를 갖는다. 각 반복에서, 최대 이득을 갖는 노드가 선택된 이후에, 자신의 이웃 노드의 이득이 조정될 것이다. 이득 값들에 대한 최대-힙 (max-heap)이 조정될 것이고, 이는 이웃들의 수가 희소한 그래프들에 대하여 일정하기 때문에 0(NlogN) 를 갖는다.
크론 감소에 대하여, L(K 의 연산은 역행렬을 취하는 것을 요구함에도 불구하고, 연산이 반복적으로 구현될 수 있다. 그리고， V=S에서 노드들이 하나씩 제거되고 복잡도는 제거된 노드에 연결된 링크들의 수에 의존한다.
본 발명은 크론 반복에서 그래프가 희소성 패턴을 유지하는 것을 또한 보여준다. c 를 크론 반복 동안에 제거된 노드에 대하여 최대 개수의 링크들이 되도록 정의한다. 하나의 노드를 제거하기 위한 비용은 Or^이므로, 크론 감소에 대한 총 복잡도는 O( N이다. 예측 세트에서의 모든 노드들에 대하여 재연결을 수행할 필요가 있다. 하지만, 크론 감소 동안에, 특정된 예측 노드들에 대한 업데이트 세트로의 연결만이 고려되어서, 하나의 노드를 제거하기 위한 비용은 0(c)이다. 그러므로, 재 -연결 (re-connection)에 대하여 전체 복잡도는 0(cN2) 이다. 각 레벨에서, 업데이트 세트에서 절반의노드들이 취해지기 때문에 요구되는 리프팅 레벨들의 개수는 logN이다. 결국, 리프팅 기반을 정의하기 위한 전체 복잡도는 OCc^logN^ ^. 높은 리프팅 레벨들에서의 그래프 크기는 작을 수 있기 때문에, 실제 구현에서 훨씬 낮은 복잡도를 기대할 수 있다.
각 노드에 대한 연산은 자신의 이웃들만을 요구하기 때문에, 리프팅 변환은 각 단계에서 복잡도 0(N) : 가지고, 이는 희소 그래프에 대하여 일정하다. 그러므로， 변환 어플리케이션의 총 복잡도는 OfN/ogN이다. 실제 어플리케이션에서, 그래프들은 템플릿으로 미리 연산될 수 있는 경우， 필요한 유일한 연산은 변환 부분이고, 그래프 리프팅은 GFT와 비교하여 상당한 복잡도 감소를 제공한다. 본 발명을 구현함에 있어서, 그래프 기반 리프팅 변환들은 GFT들보다 50% 이상 더 빠르다. 도 16은 본 발명이 적용되는 일실시예로서, GFT, GMRF 샘플링을 이용한 리프팅， Max-Cut 기반 리프팅 및 재연결 기법을 이용하는 Max-Cut 기반 리프팅 간의 평균 PSNR 이득 및 비트레이트 감소를 비교하기 위한 표이다.
본 발명의 실험에서, HEVC(HM-14)를 사용하는 테스트 시뭔스들 Foreman, Mobile, Silent, and Deadline에 대하여 8x8로 고정된 변환 유닛 크기를 갖는 인트라 예측 잔차 프레임들이 생성된다.
본 발명이 적용되는 인코더는 앞서 도 1, 도 5 및 도 7에서 설명하였으며, 본 명세서에서 설명되는 실시예들은 모두 적용가능할 것이다.
인코더는 (SSE + λ ·비트레이트)로 정의되는 최소 RD 비용을 갖는 변환을 선택하여 모드 인덱스를 결정할 수 있고, 예를 들어 := 0.85 ' 2^^ᄂ1 /8일 수 있다. 즉, 상기 인코더는 양자화 파라미터 QP (예를 들어 양자화 스텝 사이즈)에 기초하여 최소 RD 비용을 갖는 변환을 선택할 수 있다.
그래프 기반 리프팅올 이용하여 인코딩된 블록에 대하여, 이미지 에지 오버헤드는, 먼저 인접 에지 성분들을 윤곽 (contour)들로 연결하고, 이후에 각각의 윤곽들을 컨텍스트 -기반 방법으로 인코딩하는 산술 에지 코딩 (AEC)를 이용하여 코딩할 수 있다. 각각의 8 x 8 블록에서 단지 하나의 윤곽만이 허용될 수 있다. 또한, 인코더는 선택된 변환을 지시하는 플래그를 송신할 필요가 있다.
DCT 및 예를 들어 상기 플래그는 모드 인덱스를 나타낼 수 있다. 리프팅 변환된 계수들은 균일하게 양자화되고 AGP(amplitude group partition)로 불리우는 진폭 그룹 분할 기법을 이용하여 인코딩된다. AGP는 상이한 계수 분포를 알고 적응할 수 있으므로, 상이한 변환들 간에 공평한 비교를 제공한다. 양자화 이전에, CDF53 리프팅 변환의 계수는 직교성의 결여를 보상하기 위하여 먼저 정규화된다. DCT 계수들은 지그 -재그 스캔되고, GBLT 계수들은 최저 주파수 (최고 레벨에서의 업데이트 세트)로부터 최고 주파수 (첫번째 레벨에서의 업데이트 세트)로 정렬될 수 있다. 각 서브밴드 내에서, 계수들은 낮은 신뢰도로부터 높은 신뢰도로 정렬될 수 있다.
상기 도 16을 살펴보면, 평균 PSNR 이득 및 비트레이트 감소를 나타낸다. Foreman 및 Deadline과 같은 단순 에지 구조들을 갖는 비디오들에 대하여, 그래프 기반 리프팅은 PSNR에서 약 0.3dB 이득을 갖는다. 반면에 Mobile과 같은 복잡한 에지 구조를 갖는 비디오에서, 에지 맵은 비용이 지배적이기 때문에 이득이 제한된다. 그래프 재연결 (re-connection)을 갖는 MaxCut 기반 이분법은 높은 복잡도의 GMRF 기반 이분법 및 GFT 모두로의 양호한 근사화를 제공한다는 것을 확인할 수 있다.
상기 기술된 것과 같이， 본 발명에서 설명한 실시예들은 프로세서, 마이크로 프로세서， 컨트를러 또는 칩 상에서 구현되어 수행될 수 있다. 예를 들어, 상기 도 1, 도 2, 도 5, 도 6, 도 7 및 도 8에서 도시한 기능 유닛들은 컴퓨터, 프로세서, 마이크로 프로세서, 컨트를러 또는 칩 상에서 구현되어 수행될 수 있다. 또한, 본 발명이 적용되는 디코더 및 인코더는 멀티미디어 방송 송수신 장치, 모바일 통신 단말, 홈 시네마 비디오 장치, 디지털 시네마 비디오 장치, 감시용 카메라, 비디오 대화 장치， 비디오 통신과 같은 실시간 통신 장치, 모바일 스트리밍 장치, 저장 매체, 캠코더， 주문형 비디오 (VoD) 서비^ 제공 장치, 인터넷 스트리밍 서비스 제공 장치, 3차원 (3D) 비디오 장치, 화상 전화 비디오 장치, 및 의료용 비디오 장치 등에 포함될 수 있으며, 비디오 신호 및 데이터 신호를 처리하기 위해 사용될 수 있다.
또한, 본 발명이 적용되는 처리 방법은 컴퓨터로 실행되는 프로그램의 형태로 생산될 수 있으며， 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 또한 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 판독할 수 있는 기록 매체는 컴퓨터로 읽을 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 상기 컴퓨터가 판독할 수 있는 기록 매체는, 예를 들어, 블루레이 디스크 (BD), 범용 직렬 버스 (USB), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크 및 광학적 데이터 저장 장치를 포함할 수 있다. 또한, 상기 컴퓨터가 판독할 수 있는 기록 매체는 반송파 (예를 들어, 인터넷을 통한 전송)의 형태로 구현된 미디어를 포함한다. 또한, 인코딩 방법으로 생성된 비트 스트림이 컴퓨터가 판독할 수 있는 기록 매체에 저장되거나 유무선 통신 네트워크를 통해 전송될 수 있다.
【산업상 이용가능성】
이상, 전술한 본 발명의 바람직한 실시예는, 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서, 다양한 다른 실시예들을 개량, 변경， 대체 또는 부가 등이 가능할 것이다.

Claims

【청구의 범위】
【청구항 1】
그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 인코딩하는 방법에 있어서,
인트라 레지듀얼 신호로부터 에지를 검출하는 단계;
상기 검출된 에지에 기초하여 그래프를 생성하는 단계, 여기서 상기 그래프는 노드와 가중치 링크로 구성됨;
상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득하는 단겨 h
상기 GBLT 계수에 대해 양자화를 수행하는 단계; 및
상기 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행하는 단계 를 포함하되,
상기 GBLT 는 분할 과정, 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 방법.
4청구항 2】
제 1항에 있어서, 상기 방법은,
상기 GBLT 에 대웅되는 모드 인덱스를 결정하는 단계; 및
상기 모드 인덱스를 엔트로피 인코딩하는 단계
를 더 포함하는 것을 특징으로 하는 방법.
【청구항 3】
제 2항에 있어서, 상기 방법은，
상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하는 단계 ; 및
상기 DCT 계수와 상기 GBLT 계수의 율 -왜곡 비용을 비교하는 단계 를 더 포함하되,
상기 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때， 상기 GBLT 에 대응되는 모드 인텍스가 결정되는 것을 특징으로 하는 방법.
【청구항 4】
제 1항에 있어서,
상기 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행되는 것을 특징으로 하는 방법.
【청구항 5】
계 1항에 있어서, 상기 분할 과정은,
업데이트 세트의 크기를 계산하는 단계;
상기 업데이트 세트의 크기에 기초하여, 예측 세트 내 MAP 측정 에러를 최소화하는 노드를 선택하는 단계; 및
상기 선택된 노드에 대한 업데이트 세트를 계산하는 단계
를 포함하는 것을 특징으로 하는 방법.
【청구항 6]
제 1항에 있어서，
상기 그래프는 다음 GBLT 이전에 재연결되는 것을 특징으로 하는 방법. [청구항 7】
그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 디코딩하는 방법에 있어서, 상기 비디오 신호로부터 변환 방식을 나타내는 모드 인덱스를 추출하는 단계;
상기 모드 인덱스에 대웅되는 변환을 유도하는 단계, 여기서 상기 변환은
DCT 또는 GBLT 중 하나를 나타냄;
상기 변환에 기초하여 인트라 레지듀얼 신호에 대해 역변환을 수행하는 단계; 및
상기 역변환된 인트라 레지듀얼 신호에 예측 신호를 합하여 복원 신호를 생성하는 단계
를 포함하는 것을 특징으로 하는 방법.
[청구항 8】
계 7항에 있어서，
상기 GBLT의 분할 과정은 예측 세트 내 MAP(Maximum A Posteriori) 측정 에러를 최소화하기 위해 수행된 것을 특징으로 하는 방법.
【청구항 9】
제 7항에 있어서,
상기 모드 인텍스는 DCT 계수와 GBLT 계수에 대해 율 -왜곡 비용을 비교함으로써 결정된 것을 특징으로 하는 방법.
【청구항 10】
그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 인코딩하는 장치에 있어서，
인트라 레지듀얼 신호로부터 에지를 검출하는 에지 검출부;
상기 검출된 에지에 기초하여 그래프를 생성하고, 상기 그래프에 대해 GBLT 를 수행하여 GBLT 계수 (Graph-Based Lifting Transform coefficient)를 획득하는 그래프 기반 뫼프팅 변환부;
상기 GBLT 계수에 대해 양자화를 수행하는 양자화부; 및
상기 양자화된 GBLT 계수에 대해 엔트로피 인코딩을 수행하는 엔트로피 인코딩부
를 포함하되,
상기 GBLT 는 분할 과정, 예측 과정 및 업데이트 과정을 포함하는 것을 특징으로 하는 장치.
【청구항 11】
제 10항에 있어서， 상기 장치는,
상기 GBLT 에 대웅되는 모드 인덱스를 결정하는 모드 선택부
를 더 포함하고,
상기 모드 인덱스는 상기 엔트로피 인코딩부에 의해 엔트로피 인코딩되는 것을 특징으로 하는 장치.
【청구항 12】
제 11항에 있어서, 상기 장치는,
상기 인트라 레지듀얼 신호에 대해 DCT를 수행함으로써 DCT 계수를 획득하는 DCT부; 및
상기 DCT 계수와 상기 GBLT 계수의 율 -왜곡 비용을 비교하는 상기 모드 선택부
를 더 포함하되,
상기 모드 선택부는, 상기 GBLT 계수의 율 -왜곡 비용이 상기 DCT 계수보다 더 작을 때, 상기 GBLT 에 대응되는 모드 인덱스를 선택하는 것을 특징으로 하는 장치.
【청구항 13】
그래프 기반 리프팅 변환 (graph-based lifting transform, GBLT)에 기초하여 비디오 신호를 디코딩하는 장치에 있어서,
상기 비디오 신호로부터 변환 방식을 나타내는 모드 인덱스를 추출하는 파싱부;
상기 모드 인덱스에 대응되는 변환을 유도하고, 상기 변환에 기초하여 인트라 레지듀얼 신호에 대해 역변환을 수행하는 역변환부; 및
상기 역변환된 인트라 레지듀얼 신호에 예측 신호를 합하여 복원 신호를 생성하는 복원부
를 포함하되,
상기 변환은 DCT 또는 GBLT 중 하나를 나타내는 것올 특징으로 하는 장치.
【청구항 14]
제 13항에 있어서,
상기 모드 인덱스는 DCT 계수와 GBLT 계수에 대해 율 -왜곡 비용을 비교함으로써 결정된 것을 특징으로 하는 장치.
PCT/KR2016/010913 2015-09-29 2016-09-29 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치 WO2017057922A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/764,599 US10771815B2 (en) 2015-09-29 2016-09-29 Method and apparatus for processing video signals using coefficient induced prediction
KR1020187011824A KR20180079314A (ko) 2015-09-29 2016-09-29 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201562234641P 2015-09-29 2015-09-29
US62/234,641 2015-09-29

Publications (1)

Publication Number Publication Date
WO2017057922A1 true WO2017057922A1 (ko) 2017-04-06

Family

ID=58423879

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/010913 WO2017057922A1 (ko) 2015-09-29 2016-09-29 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치

Country Status (3)

Country Link
US (1) US10771815B2 (ko)
KR (1) KR20180079314A (ko)
WO (1) WO2017057922A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201600122898A1 (it) * 2016-12-02 2018-06-02 Ecole Polytechnique Fed Lausanne Epfl Metodi e apparati per codificare e decodificare immagini o flussi video digitali
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
US11693924B2 (en) * 2019-06-06 2023-07-04 Hitachi, Ltd. System and method for maintenance recommendation in industrial networks
US11917205B2 (en) * 2019-07-05 2024-02-27 Tencent America LLC Techniques and apparatus for scalable lifting for point-cloud attribute coding
WO2021194065A1 (ko) * 2020-03-23 2021-09-30 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110093532A (ko) * 2010-02-12 2011-08-18 삼성전자주식회사 그래프 기반 화소 예측을 이용한 영상 부호화/복호화 시스템 및 방법 그리고 깊이 맵 부호화 시스템 및 방법
KR20110135787A (ko) * 2010-06-11 2011-12-19 삼성전자주식회사 엣지-적응 변환을 이용한 영상 부호화/복호화 시스템 및 방법
JP2014007477A (ja) * 2012-06-21 2014-01-16 Research Organization Of Information & Systems 濃淡画像符号化装置及び復号装置
JP2014195324A (ja) * 2009-10-20 2014-10-09 Sharp Corp 動画像符号化装置、動画像復号装置、動画像符号化・復号システム、動画像符号化方法および動画像復号方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2549754A1 (en) * 2011-07-19 2013-01-23 Thomson Licensing Method and apparatus for reframing and encoding an original video signal

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014195324A (ja) * 2009-10-20 2014-10-09 Sharp Corp 動画像符号化装置、動画像復号装置、動画像符号化・復号システム、動画像符号化方法および動画像復号方法
KR20110093532A (ko) * 2010-02-12 2011-08-18 삼성전자주식회사 그래프 기반 화소 예측을 이용한 영상 부호화/복호화 시스템 및 방법 그리고 깊이 맵 부호화 시스템 및 방법
KR20110135787A (ko) * 2010-06-11 2011-12-19 삼성전자주식회사 엣지-적응 변환을 이용한 영상 부호화/복호화 시스템 및 방법
JP2014007477A (ja) * 2012-06-21 2014-01-16 Research Organization Of Information & Systems 濃淡画像符号化装置及び復号装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
CHAO, YUNG-HSUAN ET AL.: "Edge-adaptive Depth Map Coding with Lifting Transform on Graphs", 2015 PICTURE CODING SYMPOSIUM (PCS), 31 May 2015 (2015-05-31), pages 60 - 64, XP032951334 *

Also Published As

Publication number Publication date
KR20180079314A (ko) 2018-07-10
US20180288438A1 (en) 2018-10-04
US10771815B2 (en) 2020-09-08

Similar Documents

Publication Publication Date Title
JP5957561B2 (ja) 大きいサイズの変換単位を用いた映像符号化、復号化方法及び装置
CN107431813B (zh) 使用基于图的变换处理视频信号的方法和装置
EP3140988B1 (en) Method and device for reducing a computational load in high efficiency video coding
US10567763B2 (en) Method and device for processing a video signal by using an adaptive separable graph-based transform
KR101912769B1 (ko) 그래프 템플릿으로부터 유도된 변환을 이용하여 비디오 신호를 디코딩/인코딩하는 방법 및 장치
WO2017057922A1 (ko) 그래프 기반 리프팅 변환을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
JP7476401B2 (ja) 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング
KR20180028468A (ko) 싱글톤 계수 업데이트를 이용하여 변환을 수행하는 방법 및 장치
JP6730191B2 (ja) 予測された信号と変換コーディングされた信号とを用いたビデオ信号の予測方法及び装置
KR20190039562A (ko) 레이어드 기븐스 변환을 이용하여 변환을 수행하는 방법 및 장치
JP7488399B2 (ja) 変換カーネルセットに関する情報に対するコーディング
KR102059842B1 (ko) 일반화된 그래프 파라미터를 이용하여 그래프 기반 변환을 수행하는 방법 및 장치
KR102605285B1 (ko) 다중 그래프 기반 모델에 따라 최적화된 변환을 이용하여 비디오 신호를 인코딩/디코딩하는 방법 및 장치
US10382792B2 (en) Method and apparatus for encoding and decoding video signal by means of transform-domain prediction
JP7476402B2 (ja) 画像コーディングシステムにおいて変換カーネルセットに関する情報に対するコンテキストコーディング
KR20180089858A (ko) 레이어드 기븐스 변환을 이용하여 변환을 수행하는 방법 및 장치
JP7467687B2 (ja) 符号化・復号方法及び装置
CN113709459B (zh) 帧内预测方法、装置及计算机存储介质
KR101927970B1 (ko) 적응적인 루프 필터링을 이용한 비디오의 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
WO2017135661A1 (ko) 그래프 기반 분리 가능한 변환 (graph-based separable transform)을 이용하여 비디오 신호를 인코딩 / 디코딩하는 방법 및 장치
US11956427B2 (en) Method of restoration in subblock units, and video decoding apparatus
KR101882950B1 (ko) 적응적인 루프 필터링을 이용한 비디오의 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101824058B1 (ko) 적응적인 루프 필터링을 이용한 비디오의 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101780026B1 (ko) 적응적인 루프 필터링을 이용한 비디오의 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101727065B1 (ko) 적응적인 루프 필터링을 이용한 비디오의 부호화 방법 및 장치, 비디오 복호화 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16852068

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 15764599

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 20187011824

Country of ref document: KR

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 16852068

Country of ref document: EP

Kind code of ref document: A1