WO2017135663A2 - 행 -열 변환 (row- column transform)을 이용하여 변환을 수행하는 방법 및 장치 - Google Patents

행 -열 변환 (row- column transform)을 이용하여 변환을 수행하는 방법 및 장치 Download PDF

Info

Publication number
WO2017135663A2
WO2017135663A2 PCT/KR2017/001053 KR2017001053W WO2017135663A2 WO 2017135663 A2 WO2017135663 A2 WO 2017135663A2 KR 2017001053 W KR2017001053 W KR 2017001053W WO 2017135663 A2 WO2017135663 A2 WO 2017135663A2
Authority
WO
WIPO (PCT)
Prior art keywords
transform
row
column
matrix
transformation
Prior art date
Application number
PCT/KR2017/001053
Other languages
English (en)
French (fr)
Other versions
WO2017135663A3 (ko
Inventor
이. 에길메즈힐라미
쥐. 귈레우즈오누르
에만야나
예세훈
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US16/074,364 priority Critical patent/US20210195241A1/en
Publication of WO2017135663A2 publication Critical patent/WO2017135663A2/ko
Publication of WO2017135663A3 publication Critical patent/WO2017135663A3/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/76—Arrangements for rearranging, permuting or selecting data according to predetermined rules, independently of the content of the data
    • G06F7/78—Arrangements for rearranging, permuting or selecting data according to predetermined rules, independently of the content of the data for changing the order of data flow, e.g. matrix transposition or LIFO buffers; Overflow or underflow handling therefor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/88—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving rearrangement of data among different coding units, e.g. shuffling, interleaving, scrambling or permutation of pixel data or permutation of transform coefficient data among different blocks

Definitions

  • the present invention relates to a method and apparatus for encoding / decoding a video signal, and more particularly, to a non-separable transform using a row-column transform. It is about a technique to approximate.
  • Compression coding refers to a series of signal processing techniques for transmitting digitized information through a communication line or for storing in a form suitable for a storage medium.
  • Media such as an image, an image, an audio, and the like may be a target of compression encoding.
  • a technique of performing compression encoding on an image is called video image compression.
  • Next generation video content will have high spatial resolution, high frame rate and high dimensionality of scene representation 5 ⁇ -features. Processing such content would result in a tremendous increase in terms of memory storage, memory access rate, and processing power. Thus, there is a need to design new coding to process next-generation video content more efficiently.
  • DCT Discrete Cosine Transform
  • KLT Karhunen-Loeve Transform
  • a mode-dependent transform scheme is designed to reduce the complexity of a KLT where a separable KLT for each mode is not separable.
  • Asymmetric Discrete Sine Transform (referred to as Asymmetric Discrete Sine Transform,. Or less 'ADST') asymmetric discrete sine transformation has been integrated into a hybrid DCT / ADST technology, it was considered separable rare orthogonal like the regular transformation (separable sparse orthonormal transform) seolgyeo j.
  • the present invention proposes a method of improving coding efficiency through a new transform design.
  • the present invention seeks to design a transform that provides a low complexity and reasonable coding gain.
  • the present invention provides an RCT (Row—Column) approximating a high complexity conversion. We want to design a transform.
  • the invention seeks to provide a way to approximate a non-separable transform using RCT (Row-Coi-umn-Transform-).
  • RCT Raster-Coi-umn-Transform-
  • the present invention proposes an encoder / decoder structure to reflect a new transform design.
  • the present invention provides a method for improving coding efficiency through a new transform design.
  • the present invention provides a method of approximating a non-separable transform using a row-column transform (RCT).
  • RCT row-column transform
  • the present invention provides a method of designing a two-dimensional non-separable transformation based on a one-dimensional linear transformation and a substitution matrix.
  • the present invention provides a method for obtaining a row-column transform coefficient based on a row transform set, a column transform set, and a substitution matrix.
  • the present invention can improve coding efficiency through a new transform design.
  • RCT a two-dimensional non-separable transform defined as a set of ID linear transforms and basis order permutation, it has the same complexity as the separable transforms but with much increased accuracy
  • the present invention optimizes linear transformations associated with RCT with basis order permutation, when compared to an approximation of separable transformations.
  • RCT is much closer to the performance of complex transforms. Because of the integration of reordering permutation, the separable transform produced by the proposed algorithm outperforms the pure approximation of the separable transform.
  • the RCT of the present invention substantially surpasses the approximation of a well-designed separable transform. Not all basis functions of the transform in compression and other uses are of equal importance. In particular, if it is relatively difficult to approximate the transforms, weighting functions may be used to further improve the application performance of the present invention RCT.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 2 is a schematic block diagram of a decoder in which decoding of a video signal is performed as an embodiment to which the present invention is applied.
  • FIG. 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • FIG. 4 is a schematic block diagram of a transform unit to which an RCT and a substitution matrix are applied according to an embodiment to which the present invention is applied.
  • FIG. 5 is a diagram for describing a process in which an RCT and a substitution matrix are applied as an embodiment to which the present invention is applied.
  • FIG. 6 is a flowchart illustrating a process of obtaining an RCT coefficient according to an embodiment to which the present invention is applied.
  • 7 is a flowchart illustrating a process of performing decoding based on RCT coefficients according to an embodiment to which the present invention is applied.
  • FIG. 8 is a flowchart illustrating a process of inversely transforming RCT coefficients according to an embodiment to which the present invention is applied.
  • FIG. 9 is a graph showing an approximation result for eight SOT (Sparse Orthonormal Transforms) s using RCT and separable approximation as an embodiment to which the present invention is applied.
  • 10 to 12 illustrate embodiments to which the present invention is applied, and show distortion and gain rates of test images.
  • FIG. 13 is an embodiment to which the present invention is applied, showing separable approximations to RC and SOT5 (oriented at 90 degrees) for high RC approximation performance.
  • FIG. 14 shows separable approximations to RC and SOT7 (oriented at 135 degrees) for an embodiment to which the present invention is applied, for low RC approximation performance.
  • the present invention relates to a method of performing a transform using a row-column transform, wherein a row transform set is based on a given transformation matrix (H) and an error tolerance parameter. ), column set transform (converting "set), and inducing the substitution matrix (permutation matrix); Obtaining a Row—Column Transform (RCT) coefficient based on the row transform set, the column transform set, and the substitution matrix; And performing quantization and entropy encoding on the RCT coefficients, wherein the substitution
  • the matrix provides a method characterized in that it represents a matrix obtained by replacing rows of an identity matrix.
  • the substitution matrix is derived through an optimization process, and the optimization process is determined based on matching between a row-column transform (RCT) matrix and the given transform matrix (H), and the RCT (Row Column Transform) A matrix is derived using the row transform set and the column transform set.
  • RCT row-column transform
  • H given transform matrix
  • RCT Row Column Transform
  • each transform in the row transform set and the column transform set is orthonormal.
  • each of the row transform set and the column transform set has a single transform.
  • the row transform set has a single transform
  • the column transform set has another single transform
  • the row transform set and the column transform set are used for at least one of a square region, a rectangular region, or an arbitrary region.
  • the RCT coefficient is obtained by performing a column transformation after performing a row transformation.
  • the present invention also provides a method for performing inverse transformation using a row-column transformation, the method comprising: receiving a video signal; Obtaining coefficients from the video signal through entropy decoding and dequantization; remind Performing inverse-permutation on the coefficients; Performing an inverse transform on the inversely substituted coefficient; And reconstructing the video signal using an inverse transformed coefficient.
  • the performing the inverse transform may include: performing an inverse-column transform on the inversely substituted coefficient; And performing an inverse-row transform on the inverse-column transformed coefficients.
  • the present invention provides a device for performing a transform using a row-column transform, wherein a row transform set is based on a given transform matrix H and an error tolerance parameter.
  • a transform that derives a transform set, a column transform set, and a permutation matrix and obtains a row-column transform coefficient based on the row transform set, the column transform set, and the substitution matrix part;
  • a quantization unit performing quantization on the RCT coefficients;
  • an entropy encoding unit for performing entropy encoding on the quantized RCT coefficients, wherein the substitution matrix indicates a matrix obtained by replacing a row of an identity matrix.
  • the present invention also provides an apparatus for performing inverse transformation using a row-column transformation, comprising: a receiver configured to receive a video signal including a residual signal; An entropy decoding unit for entropy decoding the residual signal; Dequantizing the entropy decoded residual signal to obtain a coefficient Inverse quantization unit; Performing an inverse substitution (inverse -permutation) with respect to the coefficients and to buy 7 j euyeok hwandoen - for eu in gyesun yeokbyeon _3 ⁇ 4 (inv & rse _ trans form- that sukweng the-inverse-section ⁇ and the video using the inverse transform coefficient It provides a device comprising a recovery unit for recovering the signal.
  • FIG. 1 is a schematic block diagram of an encoder in which encoding of a video signal is performed as an embodiment to which the present invention is applied.
  • the encoder 100 may include an image splitter 110, a transformer 120, a quantizer 130, an inverse quantizer 140, an inverse transformer 150, a filter 160, and a decoder. It may include a decoded picture buffer (DPB) 170, an inter predictor 180, an intra predictor 185, and an entropy encoder 190.
  • the image divider 110 may divide an input image (or a picture or a frame) input to the encoder 100 into one or more processing units.
  • the processing unit encoding a tree unit may be: (Transform Unit TU) (CTU : Coding Tree Unit), coding units (CU:: Coding Unit), prediction unit ( ⁇ Prediction Unit) or a conversion unit.
  • the terms are only used for the convenience of description of the present invention, the present invention is not limited to the definition of the terms.
  • the term coding unit is used as a unit used in encoding or decoding a video signal, but the present invention is not limited thereto and may be appropriately interpreted according to the present invention.
  • the encoder 100 may generate a residual signal by subtracting a prediction signal output from the inter predictor 180 or the intra predictor 185 from the input image signal, and generate the residual signal. Is transmitted to the converter 120.
  • the converter 120 converts the residual signal by applying a conversion technique. Transform coefficients can be generated.
  • the conversion process may be applied to pixel blocks having the same size as the square, or may be applied to blocks of variable size rather than square.
  • the present invention provides a method for improving coding efficiency through a new transform design.
  • the encoder provides a method of obtaining row-column transform coefficients based on a row transform set, a column transform set, and a substitution matrix.
  • the present invention provides a method of approximating a non-separable transform using a row-column transform (RCT).
  • RCT row-column transform
  • the present invention also provides a method of designing two-dimensional non-separable transformations based on one-dimensional linear transformations and substitution matrices.
  • the quantization unit 130 may quantize the transform coefficients and transmit the quantized coefficients to the entropy encoding unit 190, and the entropy encoding unit 190 may entropy code the quantized signal to output the bitstream.
  • the quantized signal output from the quantization unit 130 may be used to generate a prediction signal.
  • the quantized signal may recover the residual signal by applying inverse quantization and inverse transformation through inverse quantization unit 140 and inverse transform unit 150 in a loop.
  • the reconstructed signal is added by adding the reconstructed residual signal to a prediction signal output from the inter predictor 180 or the intra predictor 185. signal) can be generated.
  • the eu wihwe-like-eu compression process clerical script may be a block containing the deterioration seen that ⁇ each other eu o block being quantized by both eu Chemistry eu parameter generating boundary-adjacent. This phenomenon is called blocking artifacts, which is one of the important factors in evaluating image quality. To reduce this deterioration, the filtering process can be performed. Through this filtering process, the image quality can be improved by removing the blocking degradation and reducing the error of the current picture.
  • the filtering unit 160 applies filtering to the reconstruction signal and outputs it to the reproduction apparatus or transmits the decoded picture buffer to the decoded picture buffer 170.
  • the filtered signal transmitted to the decoded picture buffer 170 may be used as the reference picture in the inter predictor 180. As such, by using the filtered picture as a reference picture in the inter prediction mode, not only image quality but also encoding efficiency may be improved.
  • the decoded picture buffer 170 may store the filtered picture for use as a reference picture in the inter prediction unit 180.
  • the inter prediction unit 180 performs temporal prediction and / or spatial prediction to remove temporal redundancy and / or spatial redundancy with reference to a reconstructed picture.
  • the reference picture used to perform the prediction is a transformed signal that has been quantized and dequantized in units of blocks during encoding / decoding in the previous time, blocking artifacts or ringing artifacts may exist. have.
  • the inter prediction unit 180 applies a lowpass filter to solve the performance degradation due to discontinuity or quantization of the signal.
  • Signals between pixels may be interpolated in units of subpixels.
  • the subpixel refers to a virtual pixel generated by applying an interpolation filter
  • the integer pixel refers to an actual pixel existing in the reconstructed picture.
  • the interpolation method linear interpolation, bi-linear interpolation, and Wiener filter may be applied.
  • the interpolation filter may be applied to a reconstructed picture to improve the precision of prediction.
  • the inter prediction unit 180 generates an interpolation pixel by applying an interpolation filter to integer pixels, and uses an interpolated block composed of interpolated pixels as a prediction block. You can make predictions.
  • the intra predictor 185 may predict the current block by referring to samples around the block to which current encoding is to be performed.
  • the intra prediction unit 185 may perform the following process to perform intra prediction. First, reference samples necessary for generating a prediction signal may be prepared. The prediction signal may be generated using the prepared reference sample. Then, the prediction mode is encoded. In this case, the reference sample may be prepared through reference sample padding and / or reference sample filtering. Since the reference sample has undergone prediction and reconstruction, quantization errors may exist. Accordingly, the reference sample filtering process may be performed for each prediction mode used for intra prediction to reduce such an error.
  • a prediction signal generated through the inter predictor 180 or the intra predictor 185 may be used to generate a reconstruction signal or to generate a residual signal.
  • 2 is a schematic block diagram of a decoder in which decoding of a video signal is performed according to an embodiment to which the present invention is applied.
  • the decoder 200 includes a parser (not shown), an entropy decoder 210, an inverse quantizer 220, an inverse transformer 230, a filter 240, and a decoded picture buffer (DPB). It may include a decoded picture buffer unit) 250, an inter predictor 260, and an intra predictor 265.
  • the reconstructed video signal output through the decoder 200 may be reproduced through the reproducing apparatus.
  • the decoder 200 may receive a signal output from the encoder 100 of FIG. 1, and the received signal may be entropy decoded through the entropy decoding unit 210.
  • the inverse quantization unit 220 obtains a transform coefficient from the entropy decoded signal using the quantization step size information.
  • the inverse transform unit 230 inversely transforms the transform coefficient to obtain a residual signal.
  • a reconstructed signal is generated by adding the obtained residual signal to a prediction signal output from the inter predictor 260 or the intra predictor 265.
  • the filtering unit 24 Applies filtering to the reconstructed signal and outputs the filtering to the reproducing apparatus or transmits it to the decoded picture buffer unit 250.
  • the filtered signal transmitted to the decoded picture buffer unit 250 is referenced by the inter prediction unit 260. Can be used as a picture.
  • FIG. 3 is a diagram for describing a division structure of a coding unit according to an embodiment to which the present invention is applied.
  • the encoder may split one image (or picture) in units of a rectangular Coding Tree Unit (CTU). Then, one CTU is sequentially encoded according to a raster scan order. For example, the size of the CTU may be set to any one of 64x64, 32x32, and 16x16, but the present invention is not limited thereto.
  • the encoder may select and use the size of the CTU according to the resolution of the input video or the characteristics of the input video.
  • the CTU generates a coding ⁇ B: Coding Tree Block (CTB: _ Coding-Tree Block) for the luma component and two corresponding chroma components. It may include.
  • CTB Coding Tree Block
  • One CTU may be decomposed into a quadtree (QT) structure.
  • QT quadtree
  • one CTU may be divided into four units having a square shape and each side is reduced by half in length.
  • the decomposition of this QT structure can be done recursively.
  • a root node of a QT may be associated with a CTU.
  • QT can be split until it reaches a leaf node, where The leaf node may be referred to as a coding unit (CU).
  • CU coding unit
  • a CU may mean a basic unit of coding in which an input image is processed, for example, intra / inter prediction is performed.
  • cu may include a coding block (CB) for a luma component and a CB for two chroma components.
  • the size of the CU may be determined as any one of 64x64, 32x32, 16x16, and 8x8.
  • the present invention is not limited thereto, and in the case of a high resolution image, the size of the CU may be larger or more diverse.
  • a CTU corresponds to a root node and has a smallest depth (ie, level 0) value.
  • the CTU may not be divided according to the characteristics of the input image. In this case, the CTU corresponds to a CU.
  • the CTU may be decomposed in QT form, and as a result, lower nodes having a depth of level 1 may be generated. And, a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 1 corresponds to a CU.
  • CU a
  • CU a
  • CU b
  • CU (j) corresponding to nodes a, b, and j are divided once in the CTU and have a depth of level 1.
  • At least one of the nodes having a depth of level 1 may be split into QT again. Then, a node that is no longer partitioned (ie, a leaf node) in a lower node having a depth of level 2 corresponds to a CU.
  • a CU corresponding to nodes c, h, and i ( c), CU (h) and CU (i) are split twice in the CTU and have a depth of level 2.
  • At least one of the nodes having a depth of 2 may be divided into QTs.
  • Nodes not abnormally partitioned correspond to CUs.
  • CUs For example, in FIG. 3 (b), CU (d), CU (e), CU (f), and CU (g) corresponding to nodes d, e, f, and g are divided three times in the CTU, and level 3 Has a depth of
  • the maximum size or the minimum size of the CU may be determined according to characteristics (eg, resolution) of the video image or in consideration of encoding efficiency. Information about this or information capable of deriving the information may be included in the bitstream.
  • a CU having a maximum size may be referred to as a largest coding unit (L J), and a CU having a minimum size may be referred to as a smallest coding unit (SCU).
  • a CU having a tree structure may be hierarchically divided with predetermined maximum depth information (or maximum level information).
  • Each partitioned CU may have depth. Since the depth information indicates the number and / or degree of division of the CU, the depth information may include information about the size of the CU.
  • the size of the SCU can be obtained by using the size and maximum depth information of the LCU. Or conversely, using the size of the SCU and the maximum depth information of the tree, the size of the LCU can be obtained.
  • information indicating whether the corresponding CU is split may be delivered to the decoder.
  • the information may be defined as a split flag and may be represented by a syntax element "split_cu_flag".
  • the division flag may be included in all CUs except the SCU. For example, if the value of the partition flag is '1', the CU is divided into 4 CUs again. If the value of the partition flag is 0, the CU is not divided any more and the corresponding CU is not divided. The coding process can be performed.
  • the division process of the CU has been described as an example, but the QT structure described above may also be applied to the division process of a transform unit (TU) which is a basic unit for performing transformation.
  • TU transform unit
  • the TU may be hierarchically divided into a QT structure from a CU to be coded.
  • a CU may correspond to the root note (root node) of the tree for the transform unit (TU).
  • the TU divided from the CU may be divided into smaller lower TUs.
  • the size of the TU may be determined by any one of 32x32, 16x16, 8x8, and 4x4, but the present invention is not limited thereto.
  • the size of ⁇ may be larger or more diverse.
  • information indicating whether the corresponding TU is divided may be delivered to the decoder.
  • the information may be defined as a split transform flag, and may be represented as "tax elements" spli t_J rans f orm_-f lag "-" where the split transform flag is a TU of minimum size. It can be included in all TUs except. For example, if the value of the division conversion flag is 1, the TU is divided into four TUs again. If the value of the division conversion flag is '0', the corresponding TU is no longer divided.
  • a CU is a basic unit of coding in which intra prediction or inter prediction is performed.
  • a CU may be divided into prediction units (PUs).
  • PU is a basic unit for generating a prediction block, and is a PU even within one CU
  • the prediction blocks may be generated differently in units.
  • the PU may be divided differently depending on whether an intra prediction mode or an inter prediction mode is used as a coding mode of a CU accelerating CU.
  • 4 is a schematic block diagram of a transform unit to which an RCT and a substitution matrix are applied according to an embodiment to which the present invention is applied.
  • the present invention provides an RCT in which transformations that are not two-dimensionally separable are defined based on sets of one-dimensional linear transformations and basis ordering permutation.
  • the present invention optimizes the set of one-dimensional linear transforms applied to the rows and columns of blocks, and obtains RCT by obtaining alignment substitution for the optimal transform coefficients.
  • the transform unit 120 to which the present invention is applied may largely include an RCT unit 121 and a substitution matrix application unit 122.
  • the RC unit 121 stores a row transform set, a column transform set, and a permutation matrix based on a given transformation matrix H and an error tolerance parameter 1.
  • the substitution matrix may be derived through an optimization process. The optimization process is based on the row-column transform (RCT) matrix It can be determined through matching with the transformation matrix (H).
  • the row-column transform (HCT) row Hfl may be derived by using the ⁇ conversion set and the above-described transformation set.
  • the row-column transform (RCT) matrix may mean a matrix G of Equations 2 and 3, which will be described later.
  • the RCT unit 121 may obtain a transform coefficient based on the row transform set and the column transform set.
  • the transform coefficient may be obtained by performing a column transform after performing a row transform.
  • the substitution matrix application unit 122 may obtain a row-column transform (RCT) coefficient by applying the substitution matrix to the transform coefficient.
  • RCT row-column transform
  • FIG. 5 is a diagram for describing a process in which an RCT and a substitution matrix are applied as an embodiment to which the present invention is applied.
  • the present invention uses a Row-Column Transform (RCT) as a new method for approximating non-separable transforms.
  • RCT Row-Column Transform
  • the RCT is one of the one-dimensional transforms applied to the rows and columns of the signal blits, followed by the substitution of the coefficients.
  • the RCT proposed in the present invention has an advantage in that the complexity of the separable transform stones can be maintained while providing better approximations of non-separable transforms.
  • RCT requires multiply-adds of 2N 3 (or 2N 2 logN if fast conversion is used), while the typical non-separable transform ( non-separable transform) ⁇ has a computational complexity of N 4 .
  • FIG. 6 is a flowchart illustrating a process of obtaining an RCT coefficient according to an embodiment to which the present invention is applied.
  • the encoder to which the present invention is applied first comprises a row transform set, a column transform set and a permutation based on a given transformation matrix H and an error tolerance parameter 1.
  • matrix can be derived (S610).
  • the substitution matrix may mean a matrix obtained by replacing a row of an identity matrix.
  • the substitution matrix is to be derived through an optimization process Can be.
  • the optimization process may be determined by matching the row-column transform (RCT) matrix with the given transform matrix (H).
  • the RCT matrix may be derived using the row transform set and the column transform set.
  • the row-column transform (RCT) matrix may mean a matrix G of Equations 2 and 3, which will be described later. A more detailed process will be described below.
  • each transform in the row transform set and the column transform set may be orthonormal. That is, each transform constituting the row transform set and the column transform set may be orthonormal.
  • the present invention is not limited thereto, and the RCT derived by the algorithm proposed in the present invention may not be orthonormal.
  • the row transform set and the column transform set Gig are: Rising le transf orm.
  • the row transform set may have a single transform
  • the column transform set may have another single transform.
  • the row transform set and the column transform set may be used for at least one of a rectangular area, a rectangular area, or any area.
  • the encoder may obtain a row-column transform (RCT) coefficient based on the row transform set, the column transform set, and the substitution matrix (S620).
  • RCT row-column transform
  • S620 substitution matrix
  • the RCT coefficient may be obtained by performing a column transformation after performing a row transformation.
  • the encoder may perform quantization on the RCT coefficients and entropy encoding on the quantized RCT coefficients (S630).
  • Equation 1 Is (l N) ⁇ i (basis function) k th basis functions of the transform and the c th row J) (iVxl) the first basis function (basis function of the j-th row conversion). If this is expressed as a matrix, Equation 1 is given.
  • Equation 2 the RCT matrix, G (N 2 XN 2 ), is represented by Equation 2 below.
  • Equation 4 is a joint optimization problem due to a P permutation matrix constraint o Following row-column (RC) constraints
  • Equation 7 W is the (i, j) th NXN partition of the matrix * 1 can be expressed as Equation ( 8 ).
  • the present invention proposes an alternating minimization approach by dividing the original problem into two sub-problems.
  • RCT row-column transformation
  • Equation 9 Where is the partition of H in Equation ( 8 ). Equation 9 may be calculated independently for each pair (i, j). Double sum
  • Equation 10 j ⁇ 3 ⁇ 4 J l J l 3
  • the present invention is to provide a method for finding an optimal substitution matrix for a given G, as shown in Equation 11 below.
  • Algorithm 1 solves Equations 9 and 11 to find the transformation matrix G * and the substitution matrix P * (S5).
  • the encoder can generate a row transform set, a column transform set, and a permutation matrix based on a given transformation matrix (H) and an error tolerance parameter.
  • the substitution matrix may refer to a matrix obtained by replacing a row of an identity matrix.
  • singular value decomposition for 'in Equation 8 (Sin g ular
  • Value Decomposition (SVD) may be applied.
  • the RCT coefficients may be written in the form of a vector as shown in Equation 12 below.
  • Equation 13 Equation 13
  • Equation 13 is an assignment problem and the optimal substitution matrix P can be found using the Hungarian method in polynomial time (S4).
  • the optimal substitution matrix P replaces the columns of the desired transform matrix H (ie, the base vectors), so that the row-column transformation (RCT) G and
  • the optimal substitution matrix P determines the best assignment between the base vectors of H and G. 7 illustrates an embodiment to which the present invention is applied and performs decoding based on RCT coefficients. This is a flow chart to explain the process.
  • the decoder to which the present invention is applied may receive a video signal (S710).
  • the decoder may obtain coefficients through entropy decoding and inverse quantization from the video signal (S720).
  • the coefficient may mean a Row-Column Transform (RCT) coefficient, and the RCT coefficient may be obtained by performing a column transformation after performing a row transformation.
  • RCT Row-Column Transform
  • the decoder may perform inverse-permutation on the coefficients (S730).
  • the inverse substitution may be performed using an inverse of the substitution matrix, and the substitution matrix may refer to a matrix obtained by replacing a row of an identity matrix.
  • ⁇ the substitution matrix can be derived through the optimization process.
  • the optimization process may be determined by matching the row-column transform (RCT) matrix with the given transform matrix (H).
  • the decoder may perform inverse-transform on the inversely substituted coefficient (S740).
  • the decoder may reconstruct the video signal using the inverse transformed coefficient (S750).
  • S750 is a flowchart illustrating a process of inversely transforming RCT coefficients according to an embodiment to which the present invention is applied.
  • the decoder to which the present invention is applied may first perform an inverse-column transform on the inversely substituted coefficient to inversely transform the RCT coefficients. There is (S810).
  • De-Cordon may perform an inverse-row transform on an inverse-column transformed coefficient (S820).
  • the decoder may reconstruct the video signal using the inverse transformed coefficient (S830).
  • FIG. 9 is a graph showing the results of approximation for eight SORs (Sparse Orthonormal Transforms) using RCT and separable approximation as an embodiment to which the present invention is applied.
  • the X-axis represents the Basis index
  • the Y-axis represents the Basis approximation-SNR (dB).
  • FIG. 9 shows the row-column and branching of the eight non-separable bases S0T1-S0T8, which are non-separable — approximations.
  • the SOTs are mainly aligned along 0 °, 22.5 °, 45 °, 67.5 °, 90 °, 112.5 °, 135 ° and 157.5 °, respectively. bracket
  • One embodiment of the present invention may use the algorithm of Table 1 above to approximate a set of sparse orthonormal transforms (SOTs).
  • SOT Sparse Orthonormal Transform
  • the SOT may be a generalization of KLT because it is the same as KLT for Gaussian processes, but provides significant improvements over KLT for non-Gaussian data.
  • SOTS trained for typical images and videos tend to have a directional structure, so the corresponding SOT basis aligned to 0 °, 22.5 °, 45 °, 67.5 °, 90 °, 112.5 °, 135 °, 157.5 ° respectively.
  • Eight classes may be used for the compression of raw image blocks.
  • 10 (a) to 10 (e) show five test images (Camera, Vermeer, Museum, Chair, Graphics), and FIG. ⁇ shows a ratio—distortion (ratio) of the camera original image among the five test images. rate distortion).
  • SPIHT Set Partitioning In Hierarchical Trees
  • Each 8 x 8 block in the image has nine transforms (SOT1-SOT8 and DCT for SOT-based results, RCT1-RCT8 and DCT for RCT-based results, separable 1- for separable results). Separable 8 and DCT).
  • the separable 1-separable 8 means a transformation made through separable approximation for the SOT1 to SOT8.
  • the classification information may be encoded as additional information.
  • FIG. 11 shows typical rate-distortion curves
  • FIG. 12 shows the overall rate-gain that each cortex obtains. Shows the rate-gains.
  • the RCT-based codec outperforms the separable transform-based codec while exhibiting DR performance close to the SOT-based codec.
  • RCT is performed closest to the SOT. Museum, close to diagonal / ant idiagonal structures
  • FIG. 13 is an embodiment to which the present invention is applied, showing separable approximations to RC and SOT5 (oriented at 90 degrees) for high RC approximation performance.
  • FIG. 14 shows separable approximations to RC and SOT7 (oriented at 135 degrees) for an embodiment to which the present invention is applied, for low RC approximation performance.
  • RC 14 shows a case of low RC approximation performance. That is, separable approximations to RC and SOT7 (oriented at 135 °). The two simplifications (RC and separable simplifications) are rearranged to match the target basis alignment. In this case, RC and separable simplification achieve reduced quality approximation. Low-column simplif ication is still significantly better than separable simplif ication.
  • the present invention provides a set of one-dimensional linear transformations and Proposes row-column transformations (RCTS) which are defined two-dimensional non-separable transformations
  • RC ⁇ _ can approximate a complex target transformation given a much higher fidelity, but with a higher degree of complexity—such as separable and transformative transformations.
  • the algorithm to which the present invention is applied may optimize linear transformations associated with RCT with alignment substitution.
  • the present invention confirms that RCTs substantially outperform well-designed separable approximations. Not all basis functions of the transform in compression and other uses are of equal importance. Especially in cases where it is relatively difficult to approximate the transforms, weighting functions may be used to further improve the application performance of the RCTs.
  • the embodiments described herein may be implemented and performed on a processor, microprocessor, controller, or chip.
  • the functional units illustrated in FIGS. 1, 2, and 4 may be implemented and performed on a computer, a processor, a microprocessor, a controller, or a chip.
  • the decoder and encoder to which the present invention is applied include a multimedia broadcasting transmitting and receiving device, a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chat device, a real time communication device such as video communication, Mobile streaming devices, storage media, camcorders, video on demand (VOD) service providing devices, Internet streaming service providing devices, three-dimensional (3D) video devices, video telephony video devices, and medical video devices. Can be used to process the signal.
  • a multimedia broadcasting transmitting and receiving device a mobile communication terminal, a home cinema video device, a digital cinema video device, a surveillance camera, a video chat device, a real time communication device such as video communication, Mobile streaming devices, storage media, camcorders, video on demand (VOD) service providing devices, Internet streaming service providing devices, three-dimensional (3D) video devices, video telephony video devices, and medical video devices.
  • VOD video on demand
  • 3D three-dimensional
  • the processing method to which the present invention is applied can be produced in the form of a program executed by a computer, and can be stored in a computer-readable recording medium.
  • Multimedia data having a data structure according to the present invention can also be stored in a computer-readable recording medium.
  • the computer readable recording medium includes all kinds of storage devices for storing computer readable data.
  • the computer-readable recording medium may include, for example, a Blu-ray Disc (BD), a Universal Serial Bus (USB), a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, and an optical data storage device. Can be.
  • the computer-readable recording medium also includes media embodied in the form of a carrier wave (for example, transmission over the Internet).
  • the bit stream generated by the encoding method may be stored in a computer-readable recording medium or transmitted through a wired or wireless communication network.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Processing (AREA)

Abstract

본 발명은, 변환을 수행하는 방법에 있어서, 주어진 변환 행렬 (H) 및 에러 공치" 파라미터 (error tolerance parameter)에 기초하여 행 변환 셋 ( row transform set ), 열 변환 셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도하는 단계; 상기 행 변환 셋, 상기 열 변환 셋 및 상기 치환 행렬에 기초하여 RCT (Row- Column Transform) 계수를 획득하는 단계; 및 상기 RCT 계수에 대해 양자화 및 엔트로피 인코딩을 수행하는 단계를 포함하되, 상기 치환 행렬은 단위 행렬 ( identity matrix)의 행 ( row)을 치환함으로써 획득되는 행렬을 나타내는 것을 특징으로 하는 방법을 제공한다.

Description

【명세서】
【발명의 명칭】
행 -열 변환 (ROW- COLUMN TRANSFORM)을 이용하여 변환을 수행하는 방법 및 장치
【기술분야】
본 발명은 비디오 신호의 인코딩 /디코딩 방법 및 장치에 관한 것이며 , 보다 구체적으로 행-열 변환 (Row- Column Transform, 이하 ' RCT '라 함)을 이용하여 분리 가능하지 않은 변환 (non— separable transform)을 근사화하는 기술에 관한 것이다.
【배경기술】
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 영상, 이미지, 음성 등의 미디어가 압축 부호화의 대상이 될 수 있으며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 차세대 비디오 컨텐츠는 고해상도 (high spatial resolution) , 고프레임율 (high frame rate ) 및 영상 표현의 고차원화 (high dimensionality of scene representation) 5 ^- 특징을 갖게 될 것이다. 그러한 컨텐츠를 처리하기 위해서는 메모리 저장 (memory storage ) , 메 Η리 액세스율 (memory access rate ) 및 처리 전력 (processing power) 측면에서 엄청난 증가를 가져올 것이다. 따라서, 차세대 비디오 컨텐츠를 보다 효율적으로 처리하기 위한 새로운 코딩 를을 디자인할 필요가 있다 .
특히, 많은 이미지 처리 및 압축 기법들은 분리 가능한 변환들을 채택하고 있다. 예를 들어 , 이산 코사인 변환 (Discrete Cosine Transform, 이하 ' DCT '라 함)은 인터 픽샐 상관이 높은 경우 카루넨 루베 변환 ( Karhunen- Loeve transform, 이하 ' KLT '라 함)으로의 양호한 근사화를 제공하고, 저복잡도 구현이 가능하기 때문에 광범위하게 이용되고 있다. 분리 가능한 변환들의 이용과 상관없이, 자연적인 이미지 압축은 매우 상이한 통계적 특성들을 가지고 있기 때문에, 신호 블록들의 가변적인 통계적 특성들에 적용될 수 있는 복잡한 변환을 이용하여야 더 나은 압축을 수행할 수 있게 된다.
실제적인 구현들은 지금까지 저복잡도의 합리적인 코딩 이득을 제공하기 위하여 이러한 변환들의 분리 가능한 근사화 ( separable approximation)에 초점이 맞춰져 왔다. 예를 들어, 모드 -의존 변환 방식 (mode— dependent transform scheme )은 각 모드에 대하여 분리 가능한 KLT가 분리 가능하지 않은 KLT의 복잡도를 경감시키도록 설계되었다. 다른 예로, 비대칭 이산 사인 변환 (Asymmetric Discrete Sine Transform, .이하 ' ADST '라 함)은 하이브리드 DCT/ADST 기술로 통합되었고 , 분리 가능한 희소 직교정규 변환 ( separable sparse orthonormal transform) 설겨 j 등이 고려되었다.
[발명의 상세한 설명]
【기술적 과제】
본 발명은 새로운 변환 디자인을 통해 코딩 효율을 향상시키는 방법을 제안하고자 한다.
본 발명은 저복잡도의 합리적인 코딩 이득을 제공하는 변환을 디자인하고자 한다.
본 발명은 고복잡도의 변환을 근사화하는 RCT ( Row— Column Transform)를 디자인하고자 한다.
발명—은一 RCT (— Row— Coi— umn— Transform— )—를―이용— —여 분리— 7능^—지— 않은 변환 (non— separable transform)을 근사화하는 방법을 제공하고자 한다. 본 발명은 새로운 변환 디자인을 반영하기 위한 인코더 /디코더 구조를 제안하고자 한다.
【기술적 해결방법】
본 발명은 새로운 변환 디자인을 통해 코딩 효율을 향상시키는 방법을 제공한다.
본 발명은 RCT ( Row- Column Transform)를 이용하여 분리 가능하지 않은 변환 (non- separable transform)을 근사화하는 방법을 제공한다.
본 발명은 1차원 선형 변환과 치환 행렬에 기초하여 2차원의 분리 가능하지 않은 변환을 디자인하는 방법을 제공한다.
본 발명은 행 변환 셋, 열 변환 셋 및 치환 행렬에 기초하여 RCT (Row- Column Transform) 계수를 획득하는 방법을 제공한다.
【발명의 효과】
본 발명은 새로운 변환 디자인을 통해 코딩 효율을 향상시킬 수 있다. 1차원 선형 변환의 세트 ( set of ID linear transforms ) 및 기저 정렬 치환 (basis order permutation)으로서 정의되는 2차원 분리 가능하지 않은 변환인 RCT를 제공함으로써 분리 가능한 변환들과 같은 복잡도를 갖지만 훨씬 증가된 정확도 ( f idelity)로 주어진 복잡한목표 변환을 근사화시킬 수 있다. 본 발명은 기저 정렬 치환 (basis order permutation)과 함께 RCT와 연관된 선형 변환들을 최적화함으로써 , 분리 가능한 변환의 근사화와 비교할 때, RCT가 복잡한 변환들의 성능에 훨씬 더 가깝다는 것을 확인할 수 있다. 재정렬 치환 ( reordering permutation)을 통합하기 때문에 , 제안된 알고리즘에 의해 만들어지는 분리 가능한 변환은 순수한 분리 가능한 변환의 근사화보다 우월한 성능을 보인다.
따라서, 본 발명의 RCT는 잘 설계된 분리 가능한 변환의 근사화를 실질적으로 능가한다. 압축 및 다른 웅용들에서 변환의 모든 기저 함수들이 동일한 중요성을 가지는 것은 아니다. 특히, 비교적 변환들을 근사화시키기 어려운 경우, 가중치 함수들을 이용하여 본 발명 RCT의 적용 성능을 더 향상시킬 수 있다.
【도면의 간단한 설명】
도 1은 본 발명이 적용되는 실시예로서, 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다.
도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
도 4는 본 발명이 적용되는 실시예로서, RCT와 치환 행렬이 적용되는 변환부의 개략적인 블록도를 나타낸다.
도 5는 본 발명이 적용되는 실시예로서, RCT와 치환 행렬이 적용되는 과정을 설명하기 위한 도면이다.
도 6은 본 발명이 적용되는 실시예로서, RCT 계수를 획득하는 과정윷 설명하기 위한흐름도이다. 도 7은 본 발명이 적용되는 실시예로서, RCT 계수에 기초하여 디코딩을 수행하는 과정을 설명하기 위한흐름도이다.
도 8은 본 발명이 적용되는 실시예로서, RCT 계수를 역변환하는 과정을 설명하기 위한흐름도이다.
도 9는 본 발명이 적용되는 실시예로서, RCT 및 분리 가능한 근사화를 이용하는 8개의 SOT ( Sparse Orthonormal Transform , 이하 ' SOT '라 함) s에 대한 근사화 결과를 나타내는 그래프이다.
도 10 내지 도 12는 본 발명이 적용되는 실시예들로서, 테스트 영상들에 대한 왜곡율 (distortion rate ) 및 게인율 (gain rate )을 나타내는 도면들이다.
도 13은 본 발명이 적용되는 실시예로서, 높은 RC 근사화 성능의 경우 RC 및 ( 90도로 배향된) SOT5로의 분리 가능한 근사화들을 나타낸다.
도 14는 본 발명이 적용되는 실시예로서, 낮은 RC 근사화 성능의 경우 RC 및 ( 135도로 배향된) SOT7로의 분리 가능한 근사화들을 나타낸다.
【발명의 실시를 위한 최선의 형태】
본 발명은， 행-열 변환 (Row- Column Transform)을 이용하여 변환을 수행하는 방법에 있어서 , 주어진 변환 행렬 (H) 및 에러 공차 파라미터 (error tolerance parameter)에 기초하여 행 변환 셋 ( row transform set ) , 열 변환 '셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도하는 단계; 상기 행 변환 셋, 상기 열 변환 셋 및 상기 치환 행렬에 기초하여 RCT (Row— Column Transform) 계수를 획득하는 단계 ; 및 상기 RCT 계수에 대해 양자화 및 엔트로피 인코딩을 수행하는 단계를 포함하되, 상기 치환 행렬은 단위 행렬 ( identity matrix)의 행 ( row)을 치환함으로써 획득되는 행렬을 나타내는 것을 특징으로 하는 방법을 제공한다.
또한, 본 발명에서, 상기 치환 행렬은 최적화 과정을 통해서 유도되고, 상기 최적화 과정은 RCT ( Row- Column Transform) 행렬과 상기 주어진 변환 행렬 (H)과의 매칭에 기초하여 결정되고, 상기 RCT (Row- Column Transform) 행렬은 상기 행 변환 셋 및 상기 열 변환 셋을 이용하여 유도되는 것을 특징으로 한다.
또한, 본 발명에서 , 상기 행 ( row) 변환 셋 및 상기 열 ( column) 변환 셋 내의 각 변환은 정규직교 (orthonormal )인 것을 특징으로 한다.
또한, 본 발명에서 , 상기 행 ( row) 변환 셋 및 상기 열 ( column) 변환 셋 각각은 싱글 변환 ( single transform)을 갖는 것을 특징으로 한다.
또한, 본 발명에서 , 상기 행 ( row) 변환 셋은 싱글 변환 ( single transform)을 갖고, 상기 열 ( column) 변환 셋은 또 다른 싱글 변환 (another single transform)을 갖는 것을 특징으로 한다.
또한, 본 발명에서 , 상기 행 ( row) 변환 셋 및 상기 열 ( column) 변환 셋은 정사각형 영역, 직사각형 영역 또는 임의의 영역 중 적어도 하나에 대해 이용되는 것을 특징으로 한다.
또한, 본 발명에서 , 상기 RCT 계수는 행 ( row) 변환을 수행한 후 열 ( column) 변환을 수행함으로써 획득되는 것을 특징으로 한다.
또한, 본 발명은, 행-열 변환 (Row- Column Transform)을 이용하여 역변환을 수행하는 방법에 있어서, 비디오 신호를 수신하는 단계; 상기 비디오 신호로부터 엔트로피 디코딩 및 역양자화를 통해 계수를 획득하는 단계; 상기 계수에 대해 역치환 ( inverse -permutation)을 수행하는 단계 ; 상기 역치환된 계수에 대해 역변환 ( inverse— transform)을 수행하는 단계 ; 역변환된 계수를 이용하여 상기 비디오 신호를 복원하는 단계를 포함하는 것을 특징으로 하는 방법올 제공한다.
또한, 본 발명에서, 상기 역변환 수행 단계는, 상기 역치환된 계수에 대해 역 -열 변환 ( inverse- column transform)을 수행하는 단계 ; 및 상기 역 -열 변환된 계수에 대해 역 -행 변환 ( inverse— row transform)을 수행하는 단계를 포함하는 것을 특징으로 한다.
또한, 본 발명은, 행-열 변환 (Row-Column Transform)을 이용하여 변환을 수행하는 장치에 있어서, 주어진 변환 행렬 (H) 및 에러 공차 파라미터 (error tolerance parameter)에 기초하여 행 변환 셋 ( row transform set ) , 열 변환 셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도하고, 상기 행 변환 셋 , 상기 열 변환 셋 및 치환 행렬에 기초하여 RCT (Row-Column Transform) 계수를 획득하는 변환부; 상기 RCT 계수에 대해 양자화를 수행하는 양자화부; 및 상기 양자화된 RCT 계수에 대해 엔트로피 인코딩을 수행하는 엔트로피 인코딩부를 포함하되, 상기 치환 행렬은 단위 행렬 ( identity matrix)의 행을 치환함으로써 획득되는 행렬을 나타내는 것을 특징으로 하는 장치를 제공한다.
또한, 본 발명은, 행-열 변환 (Row- Column Transform)을 이용하여 역변환을 수행하는 장치에 있어서, 레지듀얼 신호를 포함하는 비디오 신호를 수신하는 수신부; 상기 레지듀얼 신호를 엔트로피 디코딩하는 엔트로피 디코딩부; 상기 엔트로피 디코딩된 레지듀얼 신호를 역양자화하여 계수를 획득하는 역양자화부; 상기 계수에 대해 역치환 ( inverse -permutation)을 수행하고, 살 7jᅳ역 환된—계순에ᅳ대해 역변 _¾(inv&rse_trans form-을 수퀭하는-역변환—부丁 및 역변환된 계수를 이용하여 상기 비디오 신호를 복원하는 복원부를 포함하는 것을 특징으로 하는 장치를 제공한다.
【발명의 실시를 위한 형태】
이하, 첨부된 도면을 참조하여 본 발명의 실시예의 구성과 그 작용을 설명하며, 도면에 의해서 설명되는 본 발명의 구성과 작용은 하나의 실시예로서 설명되는 것이며, 이것에 의해서 본 발명의 기술적 사상과 그 핵심 구성 및 작용이 제한되지는 않는다.
아울러, 본 발명에서 사용되는 용어는 가능한 한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 특정한 경우는 출¾인이 임의로 선정한 용어를 사용하여 설명한다. 그러한 경우에는 해당 부분의 상세 설명에서 그 의미를 명확히 기재하므로, 본 발명의 설명에서 사용된 용어의 명칭만으로 단순 해석되어서는 안 될 것이며 그 해당 용어의 의미까지 파악하여 해석되어야 함을 밝혀두고자 한다.
또한, 본 발명에서 사용되는 용어들은 발명을 설명하기 위해 선택된 일반적인 용어들이나, 유사한 의미를 갖는 다른 용어가 있는 경우 보다 적절한 해석을 위해 대체 가능할 것이다. 예를 들어, 신호, 데이터, 샘플, 픽쳐, 프레임, 블록 등의 경우 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다. 또한, 파티셔닝 (partitioning) , 분해 (decomposition) , 스플리팅 ( splitting) 및 분할 (division) 등의 경우에도 각 코딩 과정에서 적절하게 대체되어 해석될 수 있을 것이다. 도 1은 본 발명이 적용되는 실시예로서 , 비디오 신호의 인코딩이 수행되는 인코더의 개략적인 블록도를 나타낸다.
도 1을 참조하면 , 인코더 (100)는 영상 분할부 (110) , 변환부 (120) , 양자화부 (130) , 역양자화부 (140) , 역변환부 (150) , 필터링부 (160) , 복호 픽쳐 버퍼 (DPB: Decoded Picture Buffer) (170) , 인터 예측부 (180) , 인트라 예측부 (185) 및 엔트로피 인코딩부 (190)를 포함하여 구성될 수 있다. 영상 분할부 (110)는 인코더 (100)에 입력된 입력 영.상 (Input image) (또는, 픽쳐 , 프레임 )를 하나 이상의 처리 유닛으로 분할할 수 있다. 예를 들어 , 상기 처리 유닛은 코딩 트리 유닛 (CTU: Coding Tree Unit) , 코딩 유닛 (CU: Coding Unit) , 예측 유닛 (Ρϋ: Prediction Unit) 또는 변환 유닛 (TU: Transform Unit)일 수 있다.
다만, 상기 용어들은 본 발명에 대한 설명의 편의를 위해 사용할 뿐이며, 본 발명은 해당 용어의 정의에 한정되지 않는다. 또한, 본 명세서에서는 설명의 편의를 위해, 비디오 신호를 인코딩 또는 디코딩하는 과정에서 이용되는 단위로써 코딩 유닛이라는 용어를 사용하지만, 본 발명은 그에 한정되지 않으며 발명 내용에 따라 적절하게 해석 가능할 것이다.
인코더 (100)는 입력 영상 신호에서 인터 예측부 (180) 또는 인트라 예측부 (185)로부터 출력된 예측 신호 (prediction signal)를 감산하여 잔여 신호 (residual signal)를 생성할 수 있고, 생성된 잔여 신호는 변환부 (120)로 전송된다.
변환부 (120)는 잔여 신호에 변환 기법을 적용하여 변환 계수 (transform coefficient)를 생성할 수 있다. 변환 과정은 정사각형의 동일한 크기를 갖는 픽셀 블록에 적용될 수도 있고, 정사각형이 아닌 가변 크기의 블록에도 적용될 수 있다.
본 발명은 새로운 변환 디자인올 통해 코딩 효율을 향상시키는 방법을 제공한다. 예를 들어, 인코더는 행 변환 셋, 열 변환 셋 및 치환 행렬에 기초하여 RCT( Row- Column Transform) 계수를 획득하는 법을 게공한다. 또한, 본 발명은, RCT( Row- Column Transform)를 이용하여 분리 가능하지 않은 변환 (non- separable transform)을 근사화하는 방법을 제공한다.
또한, 본 발명은 1차원 선형 변환과 치환 행렬에 기초하여 2차원의 분리 가능하지 않은 변환을 디자인하는 방법을 제공한다.
. 이에 대한 구체적인 실시예들은 본 명세서에서 보다 상세히 설명하도록 한다.
양자화부 (130)는 변환 계수를 양자화하여 엔트로피 인코딩부 (190)로 전송하고, 엔트로피 인코딩부 (190)는 양자화된 신호 (quantized signal)를 엔트로피 코딩하여 비트스트림으로 출력할 수 있다.
양자화부 (130)로부터 출력된 양자화된 신호 (quantized signal)는 예측 신호를 생성하기 위해 이용될 수 있다. 예를 들어, 양자화된 신호 (quantized signal)는 루프 내의 역양자화부 (140) 및 역변환부 (150)를 통해 역양자화 및 역변환을 적용함으로써 잔여 신호를 복원할 수 있다 . 복원된 잔여 신호를 인터 예측부 (180) 또는 인트라 예측부 (185)로부터 출력된 예측 신호 (prediction signal)에 더함으로써 복원 신호 (reconstructed signal)가 생성될 수 있다.
한편 ᅳ위훼—같은 -압축ᅳ과정예서 -인접한—블록들어一서로ᅳ다른ᅩ 양자ᅳ화ᅳ 파라미터에 의해 양자화됨으로써 블록 경계가 보이는 열화가 발생될 수 있다. 이러한 현상을 블록킹 열화 (blocking artifacts)라고 하며 , 이는 화질을 평가하는 증요한 요소 중의 하나이다. 이러한 열화를 줄이기 위해 필터링 과정올 수행할 수 있다. 이러한 필터링 과정을 통해 블록킹 열화를 제거함과 동시에 현재 픽쳐에 대한 오차를 줄임으로써 화질을 향상시킬 수 있게 된다.
필터링부 (160)는 복원 신호에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼 (170)에 전송한다. 복호 픽쳐 버퍼 (170)에 전송된 필터링된 신호는 인터 예측부 (180)에서 참조 픽쳐로 사용될 수 있다. 이처럼 , 필터링된 픽쳐를 화면간 예측 모드에서 참조 픽쳐로 이용함으로써 화질 뿐만 아니라부호화 효율도 향상시킬 수 있다.
복호 픽쳐 버퍼 (170)는 필터링된 픽쳐를 인터 예측부 (180)에서의 참조 픽쳐로 사용하기 위해 저장할 수 있다.
인터 예측부 (180)는 복원 픽쳐 (reconstructed picture)를 참조하여 시간적 중복성 및 /또는 공간적 중복성을 제거하기 위해 시간적 예측 및 /또는 공간적 예측을 수행한다. 여기서, 예측을 수행하기 위해 이용되는 참조 픽쳐는 이전 시간에 부호화 /복호화 시 블톡 단위로 양자화와 역양자화를 거친 변환된 신호이기 때문에 , 블로킹 아티팩트 (blocking artifact)나 링잉 아티팩트 (ringing artifact)가존재할 수 있다.
따라서, 인터 예측부 (180)는 이러한 신호의 불연속이나 양자화로 인한 성능 저하를 해결하기 위해, 로우패스 필터 (lowpass filter)를 적용함으로써 픽셀들 사이의 신호를 서브 픽셀 단위로 보간할 수 있다. 여기서, 서브 픽셀은 보간 필터를 적용하여 생성된 가상의 화소를 의미하고, 정수 픽셀은 복원된 픽쳐에 존재하는 실제 화소를 의미한다. 보간 방법으로는 선형 보간, 양선형 보간 (bi-linear interpolation) , 위너 필터 (wiener filter) 등이 적용될 수 있다.
보간 필터는 복원 픽쳐 (reconstructed picture)에 적용되어 예측의 정밀도를 향상시킬 수 있다. 예를 들어 , 인터 예측부 (180)는 정수 픽셀에 보간 필터를 적용하여 보간 픽셀을 생성하고, 보간 픽샐들 (interpolated pixels)로 구성된 보간 블록 (interpolated block)을 예측 블록 (prediction block)으로 사용하여 예측을 수행할 수 있다.
한편 , 인트라 예측부 (185)는 현재 부호화를 진행하려고 하는 블록의 주변에 있는 샘플들을 참조하여 현재 블록을 예측할 수 있다. 상기 인트라 예측부 (185)는 인트라 예측을 수행하기 위해 다음과 같은 과정을 수행할 수 있다. 먼저, 예측 신호를 생성하기 위해 필요한 참조 샘플을 준비할 수 있다. 그리고, 준비된 참조 샘플을 이용하여 예측 신호를 생성할 수 있다. 이후, 예측 모드를 부호화하게 된다. 이때, 참조 샘플은 참조 샘플 패딩 및 /또는 참조 샘플 필터링을 통해 준비될 수 있다. 참조 샘플은 예측 및 복원 과정을 거쳤기 때문에 양자화 에러가 존재할 수 있다. 따라서, 이러한 에러를 줄이기 위해 인트라 예측에 이용되는 각 예측 모드에 대해 참조 샘플 필터링 과정이 수행될 수 있다. 상기 인터 예측부 (180) 또는 상기 인트라 예측부 (185)를 통해 생성된 예측 신호 (prediction signal)는 복원 신호를 생성하기 위해 이용되거나 잔여 신호를 생성하기 위해 이용될 수 있다. 도 2는 본 발명이 적용되는 실시예로서, 비디오 신호의 디코딩이 수행되는 디코더의 개략적인 블록도를 나타낸다 .
도 2를 참조하면 , 디코더 (200)는 파싱부 (미도시) , 엔트로피 디코딩부 (210) , 역양자화부 (220) , 역변환부 (230) , 필터링부 (240) , 복호 픽쳐 버퍼 (DPB: Decoded Picture Buffer Unit) (250) , 인터 예측부 (260) 및 인트라 예측부 (265)를 포함하여 구성될 수 있다.
그리고, 디코더 (200)를 통해 출력된 복원 영상 신호 (reconstructed video signal)는 재생 장치를 통해 재생될 수 있다.
디코더 (200)는 도 1의 인코더 (100)로부터 출력된 신호을 수신할 수 있고, 수신된 신호는 엔트로피 디코딩부 (210)를 통해 엔트로피 디코딩될 수 있다.
역양자화부 (220)에서는 양자화 스텝 사이즈 정보를 이용하여 엔트로피 디코딩된 신호로부터 변환 계수 (transform coefficient)를 획득한다.
역변환부 (230)에서는 변환 계수를 역변환하여 잔여 신호 (residual signal)를 획득하게 된다.
획득된 잔여 신호를 인터 예측부 (260) 또는 인트라 예측부 (265)로부터 출력된 예측 신호 (prediction signal)에 더함으로써 복원 신호 (reconstructed signal)가 생성된다.
필터링부 (24。)는 복원 신호 (reconstructed signal)에 필터링을 적용하여 이를 재생 장치로 출력하거나 복호 픽쳐 버퍼부 (250)에 전송한다. 복호 픽쳐 버퍼부 (250)에 전송된 필터링된 신호는 인터 예측부 (260)에서 참조 픽쳐로 사용될 수 있다.
본 명세서에서 , 인코더 (100)의 변환부 (120) 및 각 기능 유닛들에서 설명된 실시예들은 각각 디코더의 역변환부 (230) 및 대웅되는 기능 유닛들에도 동일하게 적용될 수 있다. 도 3은 본 발명이 적용되는 실시예로서, 코딩 유닛의 분할 구조를 설명하기 위한 도면이다.
인코더는 하나의 영상 (또는 픽쳐)을사각형 형태의 코딩 트리 유닛 (CTU: Coding Tree Unit) 단위로 분할할 수 있다. 그리고, 래스터 스캔 순서 (raster scan order)에 따라 하나의 CTU씩 순차적으로 인코딩한다. 예를 들어, CTU의 크기는 64x64, 32x32, 16x16 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않는다. 인코더는 입력된 영상의 해상도 또는 입력된 영상의 특성 등에 따라 CTU의 크기를 선택하여 사용할 수 있다. CTU은 휘도 (luma) 성분에 대한ᅳ코 ^ 트린 „i:¾(CTB :_ Coding -Tree Block)과 이에 대응하는 두 개의 색차 (chroma) 성분에 대한 코딩 트리 블록 (CTB: Coding Tree Block)을 포함할 수 있다.
하나의 CTU은 쿼드트리 (quadtree, 이하 'QT'라 함) 구조로 분해될 수 있다. 예를 들어, 하나의 CTU은 정사각형 형태를 가지면서 각 변의 길이가 절반씩 감소하는 4개의 유닛으로 분할될 수 있다. 이러한 QT 구조의 분해는 재귀적으로 수행될 수 있다.
도 3을 참조하면 , QT의 루트 노드 (root node)는 CTU와 관련될 수 있다. QT는 리프 노드 (leaf node)에 도달할 때까지 분할될 수 있고, 이때 상기 리프 노드는 코딩 유닛 (CU: Coding Unit)으로 지칭될 수 있다.
CU는 입력 영상의 처리 과정, 예컨대 인트라 (intra)/인터 (inter) 예측이 수행되는 코딩의 기본 단위를 의미할 수 있다. cu는 휘도 (luma) 성분에 대한 코딩 블록 (CB: Coding Block)과 이에 대웅하는 두 개의 색차 (chroma) 성분에 대한 CB를 포함할 수 있다. 예를 들어, CU의 크기는 64x64, 32x32, 16x16, 8x8 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않으며, 고해상도 영상일 경우, CU의 크기는 더 커지거나 다양해질 수 있다. 도 3을 참조하면 , CTU는 루트 노드 (root node)에 해당되고, 가장 작은 깊이 (depth) (즉, 레벨 0) 값을 가진다. 입력 영상의 특성에 따라 CTU가 분할되지 않을 수도 있으며, 이 경우 CTU은 CU에 해당된다.
CTU은 QT 형태로 분해될 수 있으며, 그 결과 레벨 1의 깊이를 가지는 하위 노드들이 생성될 수 있다. 그리고, 레벨 1의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드)는 CU에 해당한다. 예를 들어 , 도 3(b)에서 노드 a, b 및 j에 대응하는 CU(a) , CU(b) , CU(j)는 CTU에서 한 번 분할되었으며, 레벨 1의 깊이를 가진다.
레벨 1의 깊이를 가지는 노드 중 적어도 어느 하나는 다시 QT 형태로 분할될 수 있다. 그리고, 레벨 2의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드〉는 CU에 해당한다. 예를 들어 , 도 3(b)에서 노드 c, h 및 i에 대응하는 CU(c) , CU(h) , CU(i)는 CTU에서 두 번 분할되었으며, 레벨 2의 깊이를 가진다.
또한, 레벨 2의 깊이를 가지는 노드 중 적어도 어느 하나는 다시 QT 형태로 분할될 수 있다. 그리고, 레벨 3의 깊이를 가지는 하위 노드에서 더 이상 분할되지 않은 노드 (즉, 리프 노드)는 CU에 해당한다. 예를 들어 , 도 3(b)에서 노드 d, e, f, g에 대응하는 CU(d) , CU(e) , CU(f) , CU(g)는 CTU에서 3번 분할되었으며, 레벨 3의 깊이를 가진다.
인코더에서는 비디오 영상의 특성 (예를 들어 , 해상도)에 따라서 혹은 부호화의 효율을 고려하여 CU의 최대 크기 또는 최소 크기를 결정할 수 있다. 그리고, 이에 대한 정보 또는 이를 유도할 수 있는 정보가 비트스트림에 포함될 수 있다. 최대 크기를 가지는 CU를 최대 코딩 유닛 (L J: Largest Coding Unit)이라고 지칭하며 , 최소 크기를 가지는 CU를 최소 코딩 유닛 (SCU: Smallest Coding Unit)이라고 지칭할 수 있다.
또한, 트리 구조를 갖는 CU는 미리 정해진 최대 깊이 정보 (또는, 최대 레벨 정보)를 가지고 계층적으로 분할될 수 있다. 그리고, 각각의 분할된 CU는 깊이 .정보를 가질 수 있다. 깊이 정보는 CU의 분할된 횟수 및 /또는 정도를 나타내므로, CU의 크기에 관한 정보를 포함할 수도 있다.
LCU가 QT 형태로 분할되므로, LCU의 크기 및 최대 깊이 정보를 이용하면 SCU의 크기를 구할 수 있다. 또는 역으로, SCU의 크기 및 트리의 최대 깊이 정보를 이용하면, LCU의 크기를 구할 수 있다.
하나의 CU에 대하여, 해당 CU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 플래그로 정의될 수 있으며, 신택스 엘리먼트 "split_cu_flag"로 표현될 수 있다. 상기 분할 플래그는 SCU을 제외한 모든 CU에 포함될 수 있다. 예를 들어, 상기 분할 플래그의 값이 '1'이면 해당 CU는 다시 4개의 CU으로 나누어지고, 상기 분할 플래그의 값이 ，0'이면 해당 CU는 더 이상 나누어지지 않고 해당 CU에 대한 코딩 과정이 수행될 수 있다.
앞서 도 3의 실시예에서는 CU의 분할 과정에 대해 예로 들어 설명하였으나, 변환을 수행하는 기본 단위인 변환 유닛 (TU : Transform Unit )의 분할 과정에 대해서도 상술한 QT 구조를 적용할 수 있다.
TU는 코딩하려는 CU로부터 QT 구조로 계층적으로 분할될 수 있다. 예를 들어 , CU는 변환 유닛 (TU)에 대한 트리의 루트 노트 ( root node )에 해당될 수 있다.
TU는 QT 구조로 분할되므로 CU로부터 분할된 TU는 다시 더 작은 하위 TU로 분할될 수 있다. 예를 들어 , TU의 크기는 32x32 , 16x16 , 8x8 , 4x4 중 어느 하나로 정해질 수 있으나, 본 발명은 이에 한정되지 않으며, 고해상도 영상일 경우, Τϋ의 크기는 더 커지거나 다양해질 수 있다.
하나의 TU에 대하여, 해당 TU이 분할 되는지 여부를 나타내는 정보가 디코더에 전달될 수 있다. 예를 들어, 상기 정보는 분할 변환 플래그로 정의될 수 있으며 , 택스ᅳ엘린먼트ᅳ" spli t_J rans f orm_-f lag "-로—표현될—수 있다「 ― 상기 분할 변환 플래그는 최소 크기의 TU을 제외한 모든 TU에 포함될 수 있다. 예를 들어, 상기 분할 변환 플래그의 값이 ，1 '이면 해당 TU은 다시 4개의 TU으로 나누어지고, 상기 분할 변환 플래그의 값이 ' 0 '이면 해당 TU은 더 이상 나누어지지 않는다.
상기에서 설명한 바와 같이, CU는 인트라 예측 또는 인터 예측이 수행되는 코딩의 기본 단위이다. 입력 영상을 보다 효과적으로 코딩하기 위하여 CU를 예측 유닛 ( PU : Prediction Unit ) 단위로 분할할 수 있다.
PU는 예측 블록을 생성하는 기본 단위로서 , 하나의 CU 내에서도 PU 단위로 서로 다르게 예측 블록을 생성할 수 있다. PU는 Ρϋ가속하는 CU의 코딩 모드로 인트라 예측 모드가 사용되는지 인터 예측 모드가 사용되는지에 따라 상이하게 분할될 수 있다. 도 4는 본 발명이 적용되는 실시예로서, RCT와 치환 행렬이 적용되는 변환부의 개략적인 블록도를 나타낸다.
본 발명은 2차원 분리 가능하지 않은 변환들이 1차원 선형 변환의 세트들 및 기저 정렬 치환 (basis ordering permutation)에 기초하여 정의되는 RCT를 제공한다.
본 발명은, 이미지 내 관심 영역에 대한 분리 가능하지 않은 블록 변환들이 주어지면, 블록들의 행들 및 열들에 적용되는 1차원 선형 변환들의 세트를 최적화하고 , 최적 변환 계수에 대한 정렬 치환을 획득함으로써 RCT를 설계할 수 있다. 이를 통해 최적화된 RCTs (Row— Column Transforms )가 분리 가능하지 않은 변환들의 압축 성능에 매우 근접하는 한편 분리 가능한 변환들의 연산 복잡도를 유지할 수 있다.
본 발명이 적용되는 변환부 ( 120 )는 크게 RCT부 ( 121 )와 치환 행렬 적용부 ( 122 )를 포함할 수 있다.
상기 RC 부 ( 121 )는 주어진 변환 행렬 (H) 및 에러 공차 파라미터 (error tolerance parameter)어 1 기초하여 행 변환 셋 ( row transform set ) , 열 변환 셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도할 수 있다. 여기서, 상기 치환 행렬은 최적화 과정을 통해서 유도될 수 있다. 상기 최적화 과정은 RCT (Row-Column Transform) 행렬과 상기 주어진 변환 행렬 (H)과의 매칭을 통해 결정될 수 있다. 그리고, 상기 RCT (Row- Column Transform ) 행 Hfl — ¾환ᅳ셋ᅳ및ᅳ상기ᅳ열— -변환 셋을—이—용하여一 유도될 수 있다. 예를 들어, 상기 RCT( Row- Column Transform) 행렬은 이후 설명하게 될 수학식 2 및 수학식 3의 행렬 G를 의미할 수 있다.
상기 RCT부 (121)는 상기 행 변환 셋 및 상기 열 변환 셋에 기초하여 변환 계수를 획득할 수 있다. 예를 들어 , 상기 변환 계수는 행 (row) 변환을 수행한후 열 (column) 변환을 수행함으로써 획득될 수 있다.
상기 치환 행렬 적용부 (122)는 상기 변환 계수에 상기 치환 행렬을 적용함으로써 RCT( Row- Column Transform) 계수를 획득할 수 있다.
본 실시예에서는 상기 변환부 (120)의 동작을 상기 RCT부 (121)와 상기 치환 행렬 적용부 (122)로 구분하여 설명하였지만, 본 발명은 이에 한정되지 않으며 , 상기 RCT 계수를 획득하는 과정은 상기 변환부 (120)에서 수행된다고 이해될 수 있다. 도 5는 본 발명이 적용되는 실시예로서, RCT와 치환 행렬이 적용되는 과정을 설명하기 위한 도면이다.
상기 도 5(a)~5(d)를 살펴보면 , 블록 X에 대하여 행 변환을 수행하고 열 변환을 수행한 후, 치환 행렬 (P)을 적용함으로써 변환 계수 Y를 획득하는 일련의 과정을 확인할 수 있다.
본 발명은, 분리 가능하지 않은 변환을 근사화하기 위한 새로운 방법으로 RCT( Row -Column Transform)를 이용한다. 여기서, 상기 RCT는, 계수들의 치환이 뒤따르는, 신호 블톡들의 행들 및 열들에 적용되는 1차원 변환들의 세트로 정의될 수 있다.
NXN 블록에 대해 RCT를 디자인 또는 결정하는 것은, (2N+1) 개의 행렬들 (즉, (NxN) 변환 행렬들 R(", C(i), i = l,...,N, 및 (N2xN2) 치환 행렬 P) 간의 결합 최적화에 의존한다 .
본 발명에서 제안되는 RCT는 분리 가능하지 않은 변환들의 더 양호한 근사화들 (better approximations)을 제공하면서 분리 가능한 변환돌의 복잡도를 유지할 수 있다는 점에서 장점이 있다. 특히, (NxN) 블록들을 변환하기 위하여, RCT는 2N3 (또는 빠른 변환이 사용되는 경우에는 2N2logN)의 곱셈—덧셈 (multiply-adds)을 필요로 하는 반면에 일반적인 분리 가능하지 않은 변환 (non- separable transform)^ N4 의 연산 복잡도를 갖는다.
이하에서는, RCT를 디자인하는 방법에 대해 상세히 살펴보도록 한다. 도 6은 본 발명이 적용되는 실시예로서, RCT 계수를 획득하는 과정을 설명하기 위한흐름도이다.
본 발명이 적용되는 인코더는, 먼저 주어진 변환 행렬 (H) 및 에러 공차 파라미터 (error tolerance parameter)어 1 기초하여 행 변환 셋 (row transform set) , 열 변환 셋 (column transform set) 및 치환 행렬 (permutation matrix)을 유도할 수 있다 (S610) . 여기서 , 상기 치환 행렬은 단위 행렬 (identity matrix)의 행 (row)을 치환함으로써 획득되는 행렬을 의미할 수 있다.
본 발명의 일실시예로, 상기 치환 행렬은 최적화 과정을 통해서 유도될 수 있다. 여기서, 상기 최적화 과정은 RCT( Row- Column Transform) 행렬과 상기 주어진 변환 행렬 (H)과의 매칭을 통해 결정될 수 있다. 그리고, 상기 RCT( Row- Column Transform) 행렬은 상기 행 변환 셋 및 상기 열 변환 셋을 이용하여 유도될 수 있다. 예를 들어, 상기 RCT( Row- Column Transform) 행렬은 이후 설명하게 될 수학식 2 및 수학식 3의 행렬 G를 의미할 수 있다. 보다 상세한 과정은 이하에서 설명하도록 한다.
본 발명의 일실시예로, 상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 내의 각 변환은 정규직교 (orthonormal)일 수 있다. 즉, 상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋을 구성하는 각 변환이 정규직교 (orthonormal)일 수 있다. 다만, 본 발명은 이에 한정되지 않으며 , 본 발명에서 제안되는 알고리즘에 의해 도출되는 RCT는 정규직교 (orthonormal)이지 않을 수 있다.
본 발명의 일실시예로, 상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 긱:은ᅳ싱글: Rising le transf orm)을—자―질ᅳ수―있다 .ᅳ ― ― 본 발명의 다른 일실시예로, 상기 행 (row) 변환 셋은 싱¾ 변환 (single transform)을 갖고, 상기 열 (column) 변환 셋은 또 다른 싱글 변환 (another single transform)을 가질 수 있다.
본 발명의 일실시예로, 상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋은 장사각형 영역, 직사각형 영역 또는 임의의 영역 중 적어도 하나에 대해 이용될 수 있다.
상기 인코더는, 상기 행 변환 셋, 상기 열 변환 셋 및 상기 치환 행렬에 기초하여 RCT (Row- Column Transform) 계수를 획득할 수 있다 (S620) . 여기서 , 상기 RCT 계수는 행 (row) 변환을 수행한 후 열 (column) 변환을 수행함으로써 획득될 수 있다.
상기 인코더는, 상기 RCT 계수에 대해 양자화를 수행하고, 상기 양자화된 RCT 계수에 대해 엔트로피 인코딩을 수행할 수 있다 (S630) .
RCT (Row- Column Transform) 정의
N x N블록 X의 변환을 고려할 때 , X = vec (X) 를 블록 X의 행 -우선 정렬 (row— major ordering)에 의해 획득된 백터라고 하자. 그리고, 1차원 선 형 변환들의 두 세트를 R = {R(i),..., R(N)} 및 C = {C(i),...( C(N)}라고 표시 하기로 한다. 여기서 , R(i) 및 C<i) (i = l N)는 (NxN) 행렬을 나타낸다.
Figure imgf000023_0001
각각 블록의 i번째 행 및 j번째 열을 변환하기 위해 이용된다. 여기서 ,
(N l) ^ i번째 행 변환의 k번째 기저 함수 (basis function)이고 cJ)(iVxl)는 j번째 행 변환의 1번째 기저 함수 (basis function)이다. 이를 행렬로 표현하면 다음 수학식 1과 같다.
[수학식 1]
Figure imgf000023_0002
상기 수학식 i을 이용하여 RCT 행렬, G(N2XN2)은 다음 수학식 2와 같이 정의할수 있다
[수학식 2]
Figure imgf000024_0001
2 F
이를 다시 표시하면 다음 수학식 3과 같다.
[수학식 3]
Figure imgf000024_0002
따라서 , 블록 X의 변환은 GTx에 영향을 미침으로써 획득될 수 있다
RCT (Row-Column Transform) 디자인 바람직한 변환 행렬 (desired transform matrix) H G X / }의 행-열 (RC) 근사화는 다음 수학식 4의 최적화 문제로 표현될 수 있다.
[수학식 4] inmimize HP-G subject to G = r衝 coumn transfooB
P := permutation matrix 여기서, ^는 프로베니우스 놈 (Frobenius norm)을 나타내고, G는
RCT 행렬을 나타내며, P는 치환 행렬을 나타낸다. 상기 수학식 4는 P 치환 행 렬 제약 (permutation matrix constraint)에 기인하는 결합 최적화 문제 o 대한 행-열 (RC) 제약을 다음과
번째 열 (
[수학식 5]
Figure imgf000025_0001
상기 수학식 3에서의 BiC ¾ 상기 수학식 5로 대체하면 다음 수학식 6이 유도될 수 있다.
[수학식 6]
Figure imgf000025_0002
여기서 , G는 N2xN2이고 상기 수학식 6에서의 각 NxN 블록 성분 (즉, i, j=l,...,N 에 대하여 1 )은 랭크 -1 행렬 (rank-1 matrix)이다. 상 기 수학식 4에서 최적의 치환 행렬을 P* 라고 가정하면, H = HP*이므로, 상기 수학식 4의 목표 함수 (objective function)은 다음 수학식 7과 같을 수 있다. [수학식 7]
Figure imgf000026_0001
여기서 , W는 행렬 *1의 (i, j)번째 N X N 파티션이고 는 다음 수학식 8과 같이 표현될 수 있다.
[수학식 8]
Figure imgf000026_0002
RCT( Row -Column Transform) 디자인 알고리즘
상기 수학식 4의 RCT 디자인 문제에 대한 해법으로, 본 발명은 원 문제 (original problem)를 2개의 서브-문제들 (sub— problems)로 나누 교차 최소화 (alternating minimization) 접근법을 게안한다 . 첫번째로, 본 발명은 주어진 치환 행렬 P에 대하여 H = HP에 가장 근접한 행-열 변환 (RCT)을 찾는 방법을 제공하고자 한다.
9와 같은 최적화 문제를 유도할 수 있다.
[수학식 9]
Figure imgf000026_0003
여기서 , 는 상기 수학식 8에서의 H 의 파티션 (partition)이다. 상기 수학식 9는 각 ( i , j ) 쌍에 대하여 독립적으로 산출될 수 있다. 이중 합
(double summation)에서 각 요소를 최소화하는 것이 ¾의 최적의 랭크 - i 근사화 (best rank— 1 approximation) §· 유도한다. 이는 흑이값 분해 ( Singular Value Decomposition, SVD)를 이용하여 최적으로 해결될 수 있 다.
[수학식 10 ] j ΐ ¾J lJ l3
- .
여기서 , Uij 및 Vij는 의 최대 특이값 (maximum singular value )
°¾와 연관된 좌 및 우 특이 백터들 ( singular vectors )이다. 두번째로, 본 발명은, 다음 수학식 11과 같이, 주어진 G에 대하여 최적 치환 행렬을 찾는 방법을 제공하고자 한다.
[수학식 11] minimize ||HP― G||
subject to P := permutation matrix
[표 1]
Require: Transform matrix H and error tolerance parameter e
SI Initialize k 4- 0, G(0) I, P (0) - I and c ∞
Figure imgf000028_0001
S5 Return G* <— G(fc)? P* — P(k) 상기 표 1은 RCT 디자인 알고리즘을 나타낸다.
상기 알고리즘 1은 변환 행렬 G* 및 치환 행렬 P* 을 찾기 위해 상기 수학식 9 및 11을 해결한다 (S5) . 예를 들어, 인코더는 주어진 변환 행렬 (H) 및 에러 공치" 파라미터 (error tolerance parameter)에 기초하여 행 변환 셋 (row transform set) , 열 변환 셋 (column transform set) 및 치환 행렬 (permutation matrix)을 유도할 수 있다. 여기서 , 상기 치환 행렬은 단위 행렬 (identity matrix)의 행 (row)을 치환함으로써 획득되는 행렬을 의미할 수 있다. 상기 인코더는, k — 0, G(0) ― I, P(0) — I, c <— ∞ 와 같이 초기화를 수행할 수 있다 (SI) , c > cl이면, k c 0) m H ^ HP(7c- 1) 이 되고, i = 1 ,„ , j = 1,..., N 에 대해 ( ^' U^, Vij)를 획득할 수 있다 (S2) . 이때, 상기 수학식 8의 ' 에 대해 특이값 분해 (Singular
Value Decomposition, SVD)가 적용될 수 있다.
그리고, 상기 인코더는, 상기 수학식 6 및 10을 이용하여
Gii 一 ° uiv'를 획득 또는 유도할수 있다 (S3) .
그리고, 주어진 블록 X에 대하여, RCT 계수들은 다음 수학식 12와 같이 백터 형태로 작성될 수 있다.
[수학식 12]
y = P*G*T
여기서 , x=vec(X)이다. 상기 수학식 u의 최적화 문제는 다음 수학식 13과 같이 표현될 수 있다. [수학식 13]
P* = arg maxTr (GTHP) 여기서 , 은 트레이스 (trace)를 나타내고, P는 치환 행렬을 나타 상기 수학식 u은 다음 수학식 14와 같이 재작성될 수 있다 .
[수학식 14] argmln ||HP - < = Tr ((HP - G)T(HP - G)) p \ /
= argminTr (PTHTHP― 2GTHP + GTG) = argminTr (HTHPPT) - Tr (2CrHP) , 여기서, ᅳ 1가 성립하므로 상기 수학식 14에서 1^(11 ?1^)는 상수가 되므로 결국 상기 수학식 13으로 귀결된다. 즉, 상기 수학식 13은 다음 수학식 14로부터 유도된다.
상기 수학식 13은 할당 문제 (assignment problem)이고 다항식 시간 (polynomial time )에서의 형가리안 방법 (Hungarian method)을 사용하여 최적의 치환 행렬 P를 찾을 수 있다 (S4) . 상기 최적의 치환 행렬 P는 바람직한 변환 행렬 (desired transform matrix) H의 열들 (columns) (즉, 기저 백 터들)을 치환하므로, 다음 수학식 15와 같이 , 행 -열 변환 (RCT) G 및
H = HP의 기저 백터들 간의 내적 (inner products)의 합 (summation)은 최대화된다.
[수학식 15]
Figure imgf000030_0001
즉, 최적의 치환 행렬 P는 H와 G의 기저 백터들 간의 최적 할당 (best assignment)을 결정한다. 도 7은 본 발명이 적용되는 실시예로서, RCT 계수에 기초하여 디코딩을 수행하는 과정을 설명하기 위한흐름도이다.
본 발명이 적용되는 디코더는, 비디오 신호를 수신할 수 있다 (S710) . 상기 디코더는, 상기 비디오 신호로부터 엔트로피 디코딩 및 역양자화를 통해 계수를 획득할 수 있다 (S720) . 여기서 , 상기 계수는 RCT( Row -Column Transform) 계수를 의미할 수 있고, 상기 RCT 계수는 행 (row) 변환을 수행한 후 열 (column) 변환을 수행함으로써 획득된 것일 수 있다.
상기 디코더는, 상기 계수에 대해 역치환 (inverse -permutation)을 수행할 수 있다 (S730) . 상기 역치환은 치환 행렬의 역행렬을 이용하여 수행될 수 있으며 , 상기 치환 행렬은 단위 행렬 (identity matrix)의 행 (row)을 치환함으로써 획득된 행렬을 의미할 수 있다. ■ 상기 치환 행렬은 최적화 과정을 통해서 유도될 수 있다. 여기서, 상기 최적화 과정은 RCT( Row- Column Transform) 행렬과 상기 주어진 변환 행렬 (H)과의 매칭을 통해 결정될 수 있다.
상기 디코더는, 상기 역치환된 계수에 대해 역변환 (inverse- transform)을 수행할 수 있다 (S740) .
상기 디코더는, 상기 역변환된 계수를 이용하여 상기 비디오 신호를 복원할 수 있다 (S750) . 도 8은 본 발명이 적용되는 실시예로서 , RCT 계수를 역변환하는 과정을 설명하기 위한 흐름도이다.
본 발명이 적용되는 디코더는, RCT 계수를 역변환하기 위해, 먼저 역치환된 계수에 대해 역 -열 변환 (inverse -column transform)을 수행할 수 있다 (S810) .
그리프, 디—코던는, -―열ᅳ변환돤 ᅳ계수 ( inverse- column transformed coefficient)에 대해 역-행 변환 ( inverse -row transform)을 수행할 수 있다 (S820) .
상기 디코더는, 역변환된 계수를 이용하여 비디오 신호를 복원할 수 있다 (S830) . 도 9는 본 발명이 적용되는 실시예로서, RCT 및 분리 가능한 근사화를 이용하는 8개의 SOTs (Sparse Orthonormal Transforms)에 대한 근사화 결과를 나타내는 그래프이다.
상기 도 9를 살펴보면, X축은 기저 인덱스 (Basis index)를 나타내고, Y축은 기저 근사화 (Basis approximation) -SNR(dB)을 나타낸다.
즉, 상기 도 9는 8개의 분리 가능하지 않은 기저 S0T1-S0T8의 행- 열 (Row-Column) 및 분린 }¾¾： —근 화―들 (non- separable — ― approximations)을 나타낸다. 여기서 , SOTs는 각각 0°, 22.5°, 45°, 67.5°, 90°, 112.5°, 135°, 157.5°를 따라 주로 정렬 (align)된다. 각
SOT에 대하여, 201O IO(IIHSOT||F/||HSOT - G||F)이 G = Grc 및 G =
Gseparable 에 대해 도시 (plot)된다.
본 발명의 일실시예는, SOTs (Sparse Orthonormal Transforms)의 세트를 근사화하기 위해 상기 표 1의 알고리즘을 이용할 수 있다. SOT (Sparse Orthonormal Transform) 기저 (basis)가, 여1를 들어 , 8 8 블록들, 즉 N = 8에 대하여 변환 계수들의 희소성 (sparsity)을 최대화하기 위한 훈련 세트들 (training sets)로부터 유도될 수 있다.
상기 SOT는 가우시안 과정들에 대하여 KLT와 동일하기 때문에 KLT의 일반화일 수 있지만, 비-가우시안 데이터에 대하여 KLT보다 상당한 향상들을 제공한다. 전형적인 이미지들 및 비디오에 대하여 훈련된 SOTS는 방향성 구조를 갖는 경향이 있으므로, 0°, 22.5°, 45°, 67.5°, 90°, 112.5°, 135°, 157.5°에 각각 정렬된 대응하는 SOT 기저로 이미지 블록들의 압축을 위해 8개의 클래스가 이용될 수 있다.
방향성 변환들은 계산상 단순한 변환들을 이용하여 근사화하기 어렵다. SOT"가 직교정규 (orthonormal)이기 때문에 행 -열 변환들 (RCTs)은 직교정규한 것으로 제약될 수 있다. 이러한 제약은 R(i) 및 C(" (i= 1, ..·,Ν)가 직교정규 하도록 요구되는 것과 마찬가지이다. 분리 가능한 근사화들과도 비교하기 위하여 분리 가능한 변환들을 출력하도록 알고리즘에 해당 제약조건을 추가할 수 있다. 상기 도 9는 RCTS 및 분리 가능한 근사화들을 사용하는 8개의 SOTS에 대한 근산 결^¾윷ᅳᅩ도스ᅵ-한다. -ᅳ RCTS가-모—든ᅳ경우ᅳ들에—대하여 분리ᅳ가능한 변환들을 능가하는 것은 분명하다. 목표 SOT의 방향이 수직 및 수평 방향들에 접근하는 경우 RCT( Row— Column Transform)와 분리 가능한 변환 (separable transform) 간의 성능 차이는 증가한다. 이는 상기 표 1의 알고리즘의 단계 14의 재정렬 치환 (reordering permutation) 이후에 발생하는 기저 함수들을 도시하는 도 13을 관찰하면 확인할 수 있다. RCT가 SOT5 (주로 수직 )을 세밀하게 근사화하는 반면에 분리 가능한 근사화는 보다 적은 보조 (support) 기저 함수들에 대하여 특히 취약하다. 도 10 내지 도 12는 본 발명이 적용되는 실시예들로서, 테스트 영상들에 대한 왜곡율 (distortion rate) 및 게인율 (gain rate)을 나타내는 도면들이다.
상기 도 10(a)~(e)는 5개의 테스트 이미지들 (Camera, Vermeer, Museum, Chair, Graphics)을 나타내고, 상기 도 ιι은 상기 5개의 테스트 이미지들 중 카메라 원본 이미지에 대한 율—왜곡 (rate distortion)을 나타낸다.
상기 도 10의 이미지들을 사용하여 SPIHT(Set Partitioning In Hierarchical Trees) -유사코덱들을 사용하는 압축 실험들이 또한 수행된다. 이미지 내의 각각의 8 x 8 블록은 9개의 변환들 (SOT-기반 결과들에 대하여 SOT1-SOT8 및 DCT, RCT-기반 결과들에 대하여 RCT1-RCT8 및 DCT, 분리 가능한 결과들에 대하여 분리가능 1-분리가능 8 및 DCT) 중 하나로 분류될 수 있다. 여기서, 상기 분리가능 1-분리가능 8은 상기 SOTl~SOT8에 대해 분리 가능 근사를 통해 만들어진 변환을 의미한다 . 분류 정보는 부가 정보로 인코딩될 수 있다. 모든 블록들에 대하여 모든 경우에 DCT를 사용하거나, 또는 DCT만을 사용하는 DCT-기반 코덱에 대하여 상기 도 11은 전형적인 레이트 -왜곡 커브들을 도시하고 상기 도 12는 각각의 코텍이 획득하는 전체 레이트- 이득들 (rate-gains)을 도시한다.
상기 도 12에서 알 수 있는 바와 같이, RCT-기반 코덱은 SOT-기반 코덱에 근접한 D-R 성능을 보이면서 분리가능한 변환 기반 코덱을 능가한다 . 수평 /수직 에지들에 가까운 이미지들 (Camera, Vermeer, Graphics)에 대하여, RCT는 SOT에 가장 가깝게 수행된다. 대각 /역대각 ( diagonal /ant idiagonal ) 구조들에 가까운 이口!지들 (Museum,
Chair)은 더 일반적이고 RCT성능은 SOT성능과 다소 더 차이가 난다. 도 13은 본 발명이 적용되는 실시예로서, 높은 RC 근사화 성능의 경우 RC 및 ( 90도로 배향된) SOT5로의 분리 가능한 근사화들을 나타낸다.
상기 도 13을 살펴보면 , 목표 기저 정렬과 매칭되도록 두 단순화들 (RC 및 분리 가능한 단순화)이 재정렬된다. 분리 가능한 단순화가 감소된 품질 근사화를 획득하는 반면에 , RC는 원시 기저에 대한 높은 층실도 ( f idelity)를 보존한다. 도 14는 본 발명이 적용되는 실시예로서, 낮은 RC 근사화 성능의 경우 RC 및 ( 135도로 배향된) SOT7로의 분리 가능한 근사화들을 나타낸다.
상기 도 14는 낮은 RC 근사화 성능의 경우를 나타낸다. 즉, RC 및 ( 135°로 배향된) SOT7로의 분리 가능한 근사화들을 나타낸다. 목표 기저 정렬과 매칭되도록 두 단순화들 (RC 및 분리 가능한 단순화)이 재정렬된다. 이러한 경우에서, RC 및 분리 가능한 단순화는 감소된 품질 근사화를 획득한다. RC 단순화 (Row- Column simplif ication)는 분리 가능한 단순화 ( separable simplif ication)보다 여전히 상당히 더 양호하다.
상기 도 14에서 SOT7 (주로 135°)로의 근사화가 도시되고 여기서 RCT는 상기 도 13의 경우와 비교하면 덜 정확하다. 분리 가능한 근사화는 훨씬 악화된다.
본 발명은, 1차원 선형 변환들의 세트 및 기저 정렬 치환으로서 정의되는 2차원 분리 가능하지 않은 변환들인 행 -열 변환들 ( RCTS )을 제안한다
— RC^_는 J—산량ᅳ면싀 i ᅵ분리 ¾능한 -변환들과ᅳ같은—복잡도를ᅳ가저—지만 훨씬 증가된 충실도로 주어진 복잡한 목표 변환을 근사화시킬 수 있다. 본 발명이 적용되는 알고리즘은 정렬 치환과 함께 RCT와 연관된 선형 변환들을 최적화할 수 있다.
상기 알고리즘에 따르면, 분리 가능한 근사화들과 비교하여, RCTs가 근사화하고자 하는 복잡한 변환들의 성능을 훨씬 더 정확하게 따른다는 것을 확인할 수 있다. 재정렬 치환을 통합하기 때문에, 제안된 알고리즘에 의해 만들어지는 분리 가능한 설계들은 순수한 분리 가능한 근사화들보다 우수할 수 있다.
따라서, 본 발명을 통해, RCTs가 잘 설계된 분리 가능한 근사화들올 실질적으로 능가한다는 것을 확인할 수 있다. 압축 및 다른 웅용들에서 변환의 모든 기저 함수들이 동일한 중요성을 가지는 것은 아니다. 특히 비교적 변환들을 근사화시키기 어려운 경우에, 가중치 함수들을 이용하여 RCTs의 적용 성능을 더욱 향상시킬 수도 있다.
상기 기술된 것과 같이, 본 발명에서 설명한 실시예들은 프로세서, 마이크로 프로세서, 컨트를러 또는 칩 상에서 구현되어 수행될 수 있다. 예를 들어, 상기 도 1 , 도 2 및 도 4에서 도시한 기능 유닛들은 컴퓨터, 프로세서, 마이크로 프로세서, 컨트롤러 또는 칩 상에서 구현되어 수행될 수 있다.
또한, 본 발명이 적용되는 디코더 및 인코더는 멀티미디어 방송 송수신 장치, 모바일 통신 단말, 홈 시네마 비디오 장치, 디지털 시네마 비디오 장치, 감시용 카메라, 비디오 대화 장치, 비디오 통신과 같은 실시간 통신 장치, 모바일 스트리밍 장치 , 저장 매체 , 캠코더 , 주문형 비디오 (VOD ) 서비스 제공 장치 , 인터넷 스트리밍 서비스 제공 장치 , 3차원 ( 3D ) 비디오 장치 , 화상 전화 비디오 장치, 및 의료용 비디오 장치 등에 포함될 수 있으며, 비디오 신호 및 데이터 신호를 처리하기 위해 사용될 수 있다.
또한, 본 발명이 적용되는 처리 방법은 컴퓨터로 실행되는 프로그램의 형태로 생산될 수 있으며, 컴퓨터가판독할 수 있는 기록 매체에 저장될 수 있다. 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 또한 컴퓨터가 판독할 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 판독할 수 있는 기록 매체는 컴퓨터로 읽을 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 상기 컴퓨터가 판독할 수 있는 기록 매체는, 예를 들어, 블루레이 디스크 ( BD) , 범용 직렬 버스 ( USB ) , ROM , RAM , CD-ROM , 자기 테이프, 플로피 디스크 및 광학적 데이터 저장 장치를 포함할 수 있다. 또한, 상기 컴퓨터가 판독할 수 있는 기록 매체는 반송파 (예를 들어 , 인터넷을 통한 전송)의 형태로 구현된 미디어를 포함한다. 또한, 인코딩 방법으로 생성된 비트 스트림이 컴퓨터가 판독할 수 있는 기록 매체에 저장되거나 유무선 통신 네트워크를 통해 전송될 수 있다.
【산업상 이용가능성】
이상, 전술한 본 발명의 바람직한 실시예는, 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서 , 다양한 다른 실시예들을 개량, 변경 , 대체 또는 부가 등이 가능할 것이다.

Claims

【청구의 범위】
【청구항 1】
행-열 변환 (Row- Column Transform)을 이용하여 변환을 수행하는 방법에 있어서,
주어진 변환 행렬 (H) 및 에러 공차 파라미터 ( error tolerance parameter)에 기초하여 행 변환 셋 (row transform set ) , 열 변환 셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도하는 단계 ;
상기 행 변환 셋, 상기 열 변환 셋 및 상기 치환 행렬에 기초하여 RCT ( Row- Column Transform) 계수를 획득하는 단계; 및
상기 RCT 계수에 대해 양자화 및 엔트로피 인코딩을 수행하는 단계 를 포함하되 ,
상기 치환 행렬은 단위 행렬 ( identity matrix)의 행 ( row)을 치환함으로써 획득되는 행렬을 나타내는 것을 특징으로 하는 방법 .
【청구항 2】
게 1항에 있어서,
상기 치환 행렬은 최적화 과정을 통해서 유도되고, 상기 최적화 과정은 RCT ( Row- Column Transform) 행렬과 상기 주어진 변환 행렬 (H)과의 매칭에 기초하여 결정되고,
상기 RCT (Row- Column Transform) 행렬은 상기 행 변환 셋 및 상기 열 변환 셋을 이용하여 유도되는 것을 특징으로 하는 방법 .
【청구항 3】
계 1항에 있어서,
상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 내의 각 변환은 정규직교 (orthonormal)인 것을 특징으로 하는 방법 .
【청구항 4】
제 1항에 있어서,
상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 각각은 싱글 변환 (single transform)을 갖는 것을 특징으로 하는 방법 .
【청구항 5】
제 1항에 있어서,
상기 행 (row) 변환 셋은 싱글 변환 (single transform)을 갖고, 상기 열 (column) 변환 셋은 또 다른 싱글 변환 (another single transform)을 갖는 것을 특징으로 하는 방법 .
【청구항 6】
제 1항에 있어서,
상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋은 정사각형 영역 , 직사각형 영역 또는 임의의 영역 중 적어도 하나에 대해 이용되는 것을 특징으로 하는 방법 .
【청구항 7】
제 1항에 있어서,
상기 RCT 계수는 행 ( row) 변환을 수행한 후 열 ( column) 변환을 수행함으로써 획득되는 것을 특징으로 하는 방법.
【청구항 8】
행-열 변환 (Row - Column Transform)을 이용하여 역변환을 수행하는 방법에 있어서,
비디오 신호를 수신하는 단계;
상기 비디오 신호로부터 엔트로피 디코딩 및 역양자화를 통해 계수를 획득하는 단계 ;
상기 계수에 대해 역치환 ( inverse-permutation)을 수행하는 단계 ; 상기 역치환된 계수에 대해 역변환 ( inverse- transform)을 수행하는 단계;
역변환된 계수를 이용하여 상기 비디오 신호를 복원하는 단계
를 포함하는 것을 특징으로 하는 방법 .
【청구항 9】
제 8항에 있어서 , 상기 역변환수행 단계는,
상기 역치환된 계수에 대해 역 -열 변환 ( inverse— column transform)을 수행하는 단계 ; 및 상기 역-열 변환된 계수에 대해 역―행 변환 (irweirse row transform)을 수행하는 단계
를 포함하는 것을 특징으로 하는 방법 .
【청구항 10】
제 8항에 있어서,
상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 내의 각 변환은 정규직교 (orthonormal)인 것을 특징으로 하는 방법 .
【청구항 11】
제 8항에 있어서,
상기 행 (row) 변환 셋 및 상기 열 (column) 변환 셋 각각은 싱글 변환 (single transform)을 갖는 것을 특징으로 하는 방법 .
【청구항 12]
제 8항에 있어서,
상기 행 (row) 변환 셋은 싱글 변환 (single transform)을 갖고, 상기 열 (column) 변환 셋은 또 다른 싱글 변환 (another single transform)을 갖는 것을 특징으로 하는 방법 .
【청구항 13】
제 8항에 있어서, 상기 행 ( row) 변환 셋 및 상기 열 ( column) 변환 셋은 정사각형 영역 , 직사각형 영역 또는 임의의 영역 중 적어도 하나에 대해 이용되는 것을 특징으로 하는 방법 .
【청구항 14】
행-열 변환 (Row- Column Transform)을 이용하여 변환을 수행하는 장치에 있어서,
주어진 변환 행렬 (H) 및 에러 공차 파라미터 ( error tolerance parameter)에 기초하여 행 변환 셋 ( row transform set ) , 열 변환 셋 ( column transform set ) 및 치환 행렬 (permutation matrix)을 유도하고, 상기 행 변환 셋, 상기 열 변환 셋 및 상기 치환 행렬에 기초하여 RCT ( Row- Column Transform) 계수를 획득하는 변환부;
상기 RCT 계수에 대해 양자화를 수행하는 양자화부; 및
상기 양자화된 RCT 계수에 대해 엔트로피 인코딩을 수행하는 엔트로피 인코딩부
를 포함하되 ,
상기 치환 행렬은 단위 행렬 ( identity matrix)의 행올 치환함으로써 획득되는 행렬을 나타내는 것을 특징으로 하는 장치 .
【청구항 15】
행 -열 변환 (Row- Column Transform)을 이용하여 역변환을 수행하는 장치에 있어서, 레지듀얼 신호를 포함하는 비디오 신호를 수신하는 수신부; 상기 레지듀얼 신호를 엔트로피 디코딩하는 엔트로피 디코딩부;
상기 엔트로피 디코딩된 레지듀얼 신호를 역양자화하여 계수를 획득하는 역양자화부；
상기 계수에 대해 역치환 ( inverse-permutation)을 수행하고, 상기 역치환된 계수에 대해 역변환 ( inverse- transform)을 수행하는 역변환부; 및 역변환된 계수를 이용하여 상기 비디오 신호를 복원하는 복원부
를 포함하는 것을 특징으로 하는 장치 .
PCT/KR2017/001053 2016-02-01 2017-02-01 행 -열 변환 (row- column transform)을 이용하여 변환을 수행하는 방법 및 장치 WO2017135663A2 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/074,364 US20210195241A1 (en) 2016-02-01 2017-02-01 Method and device for performing transform using row-column transforms

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662289888P 2016-02-01 2016-02-01
US62/289,888 2016-02-01

Publications (2)

Publication Number Publication Date
WO2017135663A2 true WO2017135663A2 (ko) 2017-08-10
WO2017135663A3 WO2017135663A3 (ko) 2017-09-28

Family

ID=59499944

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/001053 WO2017135663A2 (ko) 2016-02-01 2017-02-01 행 -열 변환 (row- column transform)을 이용하여 변환을 수행하는 방법 및 장치

Country Status (2)

Country Link
US (1) US20210195241A1 (ko)
WO (1) WO2017135663A2 (ko)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140010284A1 (en) * 2011-02-25 2014-01-09 Samsung Electronics Co., Ltd. Image transform and inverse transform method, and image encoding and decoding device using same
KR20120098499A (ko) * 2011-02-25 2012-09-05 삼성전자주식회사 영상의 변환 방법 및 장치, 및 영상의 역변환 방법 및 장치
GB2561487B (en) * 2011-10-18 2019-01-02 Kt Corp Method for encoding image, method for decoding image, image encoder, and image decoder
WO2014120367A1 (en) * 2013-01-30 2014-08-07 Intel Corporation Content adaptive parametric transforms for coding for next generation video

Also Published As

Publication number Publication date
US20210195241A1 (en) 2021-06-24
WO2017135663A3 (ko) 2017-09-28

Similar Documents

Publication Publication Date Title
US20230137884A1 (en) Transform-based image coding method and apparatus therefor
US11949873B2 (en) Image coding method based on transform, and device therefor
US20240048766A1 (en) Image coding using transform index
US20240171776A1 (en) Image coding method based on secondary transform, and device therefor
US11503298B2 (en) Signaling of information indicating transform kernel set in image coding
CN113940070A (zh) 基于变换的图像编码方法及其装置
US20230049623A1 (en) Transform-based image coding method, and apparatus therefor
EP3952313B1 (en) Transform in intra prediction-based image coding
EP4294012A1 (en) Video coding method on basis of secondary transform, and device for same
US11943456B2 (en) Transform-based image coding method and apparatus therefor
US11570438B2 (en) Coding of information about transform kernel set
CN113940074A (zh) 基于广角帧内预测和变换的图像编码方法和装置
US11882289B2 (en) Transform-based image coding method and device therefor
US20240323387A1 (en) Transformation-based image coding method and device therefor
US10893274B2 (en) Method for processing video signal on basis of arbitrary partition transform
US20230209061A1 (en) Context coding for information on transform kernel set in image coding system
WO2017135692A1 (ko) 픽셀 순환 코딩과 변환 코딩의 결합에 기초하여 비디오 신호를 처리하는 방법 및 장치
US11962779B2 (en) Image coding method based on conversion, and device for same
WO2017135663A2 (ko) 행 -열 변환 (row- column transform)을 이용하여 변환을 수행하는 방법 및 장치
WO2018143687A1 (ko) 행-열 변환을 이용하여 변환을 수행하는 방법 및 장치
US11997315B2 (en) Method and apparatus for coding image on basis of transform
US11284083B2 (en) Method and apparatus for coding information about merge data

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17747708

Country of ref document: EP

Kind code of ref document: A2

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17747708

Country of ref document: EP

Kind code of ref document: A2