KR20200132762A - Method and apparatus for reconstructing chroma block - Google Patents

Method and apparatus for reconstructing chroma block Download PDF

Info

Publication number
KR20200132762A
KR20200132762A KR1020200058335A KR20200058335A KR20200132762A KR 20200132762 A KR20200132762 A KR 20200132762A KR 1020200058335 A KR1020200058335 A KR 1020200058335A KR 20200058335 A KR20200058335 A KR 20200058335A KR 20200132762 A KR20200132762 A KR 20200132762A
Authority
KR
South Korea
Prior art keywords
color difference
residual sample
block
residual
difference component
Prior art date
Application number
KR1020200058335A
Other languages
Korean (ko)
Inventor
심동규
박시내
박승욱
임화평
Original Assignee
현대자동차주식회사
광운대학교 산학협력단
기아자동차주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사, 광운대학교 산학협력단, 기아자동차주식회사 filed Critical 현대자동차주식회사
Priority to PCT/KR2020/006432 priority Critical patent/WO2020231225A1/en
Priority to US17/611,466 priority patent/US11863754B2/en
Publication of KR20200132762A publication Critical patent/KR20200132762A/en
Priority to US18/509,580 priority patent/US20240089454A1/en
Priority to US18/509,537 priority patent/US20240089452A1/en
Priority to US18/509,624 priority patent/US20240089456A1/en
Priority to US18/509,557 priority patent/US20240089453A1/en
Priority to US18/509,596 priority patent/US20240089455A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

The present invention relates to a chroma block reconstruction method and a video decoding device. The method according to one embodiment of the present invention is to reconstruct the chroma block of a reconstruction target block, and includes: a step of decoding, from a bitstream, information on the correlation between a first residual sample as the residual samples of a first chroma component and a second residual sample as the residual samples of a second chroma component, prediction information on the chroma block, and the first residual sample; a step of generating prediction samples of the first chroma component and prediction samples of the second chroma component based on the prediction information; a step of deriving the second residual sample by applying the correlation information to the first residual sample; and a step of reconstructing the chroma block of the first chroma component by adding the prediction samples of the first chroma component and the first residual sample and reconstructing the chroma block of the second chroma component by adding the prediction samples of the second chroma component and the second residual sample.

Description

색차블록을 복원하는 방법 및 영상 복호화 장치{METHOD AND APPARATUS FOR RECONSTRUCTING CHROMA BLOCK}Method for restoring color difference blocks and image decoding apparatus {METHOD AND APPARATUS FOR RECONSTRUCTING CHROMA BLOCK}

본 발명은 영상의 부호화 및 복호화에 관한 것으로서, 더욱 구체적으로는 색차 성분의 잔차샘플들을 효율적으로 예측하여 부호화 및 복호화의 효율을 향상시킨 색차블록을 복원하는 방법 및 영상 복호화 장치에 관한 것이다.The present invention relates to encoding and decoding of an image, and more particularly, to a method and an image decoding apparatus for reconstructing a color difference block having improved encoding and decoding efficiency by efficiently predicting residual samples of a color difference component.

동영상 데이터는 음성 데이터나 정지 영상 데이터 등에 비하여 많은 데이터량을 가지기 때문에, 압축을 위한 처리 없이 그 자체를 저장하거나 전송하기 위해서는 메모리를 포함하여 많은 하드웨어 자원을 필요로 한다. Since moving picture data has a large amount of data compared to audio data or still image data, it requires a lot of hardware resources including memory in order to store or transmit itself without processing for compression.

따라서, 통상적으로 동영상 데이터를 저장하거나 전송할 때에는 부호화기를 사용하여 동영상 데이터를 압축하여 저장하거나 전송하며, 복호화기에서는 압축된 동영상 데이터를 수신하여 압축을 해제하고 재생한다. 이러한 동영상 압축 기술로는 H.264/AVC를 비롯하여, H.264/AVC에 비해 약 40% 정도의 부호화 효율을 향상시킨 HEVC(High Efficiency Video Coding)가 존재한다. Accordingly, when moving or transmitting moving picture data, the moving picture data is compressed and stored or transmitted using an encoder, and the decoder receives the compressed moving picture data, decompresses and reproduces the compressed moving picture data. As such video compression technologies, there are H.264/AVC and HEVC (High Efficiency Video Coding), which improves coding efficiency by about 40% compared to H.264/AVC.

그러나, 영상의 크기 및 해상도, 프레임율이 점차 증가하고 있고, 이에 따라 부호화해야 하는 데이터량도 증가하고 있으므로 기존의 압축 기술보다 더 부호화 효율이 좋고 화질 개선 효과도 높은 새로운 압축 기술이 요구된다.However, the size, resolution, and frame rate of an image are gradually increasing, and accordingly, the amount of data to be encoded is also increasing. Accordingly, a new compression technique with higher encoding efficiency and higher quality improvement effect than the existing compression technique is required.

이러한 요구에 부응하기 위해 본 발명은 개선된 영상 부호화 및 복호화 기술을 제공하는 것을 목적으로 하며, 특히, 본 발명의 일 측면은 Cb 색차 성분 및 Cr 색차 성분 중에서 어느 하나로부터 다른 하나를 유도함으로써, 부호화 및 복호화의 효율을 향상시키는 기술과 관련된다.In order to meet these needs, the present invention aims to provide an improved video encoding and decoding technology, and in particular, an aspect of the present invention is to derive the other from one of the Cb color difference component and the Cr color difference component, And a technique for improving the efficiency of decryption.

본 발명의 일 측면은, 복원하고자 하는 대상 블록의 색차블록을 복원하는 방법으로서, 제1색차 성분의 잔차샘플들인 제1잔차샘플과 제2색차 성분의 잔차샘플들인 제2잔차샘플 사이의 상관관계 정보, 상기 제1잔차샘플 및, 상기 색차블록의 예측정보를 비트스트림으로부터 복호화하는 단계; 상기 예측정보에 기반하여, 상기 제1색차 성분의 예측샘플들과 상기 제2색차 성분의 예측샘플들을 생성하는 단계; 상기 상관관계 정보를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는 단계; 및 상기 제1색차 성분의 예측샘플들과 상기 제1잔차샘플을 가산하여 상기 제1색차 성분의 색차블록을 복원하고, 상기 제2색차 성분의 예측샘플들과 상기 제2잔차샘플을 가산하여 상기 제2색차 성분의 색차블록을 복원하는 단계를 포함하는, 색차블록 복원 방법을 제공한다.An aspect of the present invention is a method of restoring a color difference block of a target block to be restored, comprising: a correlation between a first residual sample, which is residual samples of a first color difference component, and a second residual sample, which is residual samples of a second color difference component. Decoding information, the first residual sample, and prediction information of the color difference block from a bitstream; Generating prediction samples of the first color difference component and prediction samples of the second color difference component based on the prediction information; Applying the correlation information to the first residual sample to derive the second residual sample; And reconstructing a color difference block of the first color difference component by adding the prediction samples of the first color difference component and the first residual sample, and adding the prediction samples of the second color difference component and the second residual sample, It provides a color difference block restoration method comprising the step of restoring a color difference block of a second color difference component.

본 발명의 다른 일 측면은, 복원하고자 하는 대상 블록의 색차블록을 복원하는 영상 복호화 장치로서, 제1색차 성분의 잔차샘플들인 제1잔차샘플과 제2색차 성분의 잔차샘플들인 제2잔차샘플 사이의 상관관계 정보, 상기 제1잔차샘플 및, 상기 색차블록의 예측정보를 비트스트림으로부터 복호화하는 복호화부; 상기 예측정보에 기반하여, 상기 제1색차 성분의 예측샘플들과 상기 제2색차 성분의 예측샘플들을 생성하는 예측부; 상기 상관관계 정보를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는 색차 성분 복원부; 및 상기 제1색차 성분의 예측샘플들과 상기 제1잔차샘플을 가산하여 상기 제1색차 성분의 색차블록을 복원하고, 상기 제2색차 성분의 예측샘플들과 상기 제2잔차샘플을 가산하여 상기 제2색차 성분의 색차블록을 복원하는 가산기를 포함하는, 영상 복호화 장치를 제공한다.Another aspect of the present invention is an image decoding apparatus for reconstructing a color difference block of a target block to be reconstructed, between a first residual sample, which is residual samples of a first color difference component, and a second residual sample, which is residual samples of a second color difference component. A decoding unit that decodes the correlation information, the first residual sample, and prediction information of the color difference block from a bitstream; A prediction unit that generates prediction samples of the first color difference component and prediction samples of the second color difference component based on the prediction information; A color difference component restoration unit for inducing the second residual sample by applying the correlation information to the first residual sample; And reconstructing a color difference block of the first color difference component by adding the prediction samples of the first color difference component and the first residual sample, and adding the prediction samples of the second color difference component and the second residual sample, It provides an image decoding apparatus comprising an adder for reconstructing a color difference block of a second color difference component.

이상에서 설명한 바와 같이 본 발명의 일 실시예에 의하면, Cb 색차 성분과 Cr 색차 성분 중에서 어느 하나가 시그널링되지 않고 유도되므로, 부호화 및 복호화의 압축 성능을 향상시킬 수 있다.As described above, according to an embodiment of the present invention, since either one of the Cb color difference component and the Cr color difference component is derived without being signaled, compression performance of encoding and decoding may be improved.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다.
도 2는 QTBTTT 구조를 이용하여 블록을 분할하는 방법을 설명하기 위한 도면이다.
도 3a는 복수의 인트라 예측 모드들을 나타낸 도면이다.
도 3b는 광각 인트라 예측모드들을 포함한 복수의 인트라 예측 모드들을 나타낸 도면이다.
도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.
도 5는 잔차블록 복원 방법의 일 예를 구현할 수 있는 영상 부호화 장치의 예시적인 블록도이다.
도 6은 도 5에 표현된 영상 부호화 장치에서 구현되는 잔차블록 복원 방법의 일 예를 설명하기 위한 순서도이다.
도 7은 잔차블록 복원 방법의 일 예를 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.
도 8은 도 7에 표현된 영상 복호화 장치에서 구현되는 잔차블록 복원 방법의 일 예를 설명하기 위한 순서도이다.
도 9는 잔차블록 복원 방법의 다른 예를 구현할 수 있는 영상 부호화 장치의 예시적인 블록도이다.
도 10은 도 9에 표현된 영상 부호화 장치에서 구현되는 잔차블록 복원 방법의 일 예를 설명하기 위한 순서도이다.
도 11은 잔차블록 복원 방법의 다른 예를 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.
도 12는 도 11에 표현된 영상 복호화 장치에서 구현되는 잔차블록 복원 방법의 일 예를 설명하기 위한 순서도이다.
도 13 및 도 14는 잔차블록 복원 방법의 또 다른 예들을 설명하기 위한 순서도이다.
도 15는 잔차블록 복원 방법의 수행 조건들 중에서 일 예를 설명하기 위한 순서도이다.
1 is an exemplary block diagram of an image encoding apparatus capable of implementing the techniques of the present disclosure.
2 is a diagram for explaining a method of dividing a block using a QTBTTT structure.
3A is a diagram illustrating a plurality of intra prediction modes.
3B is a diagram illustrating a plurality of intra prediction modes including wide-angle intra prediction modes.
4 is an exemplary block diagram of an image decoding apparatus capable of implementing the techniques of the present disclosure.
5 is an exemplary block diagram of an image encoding apparatus capable of implementing an example of a method of reconstructing a residual block.
FIG. 6 is a flowchart illustrating an example of a method of reconstructing a residual block implemented in the image encoding apparatus illustrated in FIG. 5.
7 is an exemplary block diagram of an image decoding apparatus capable of implementing an example of a method of reconstructing a residual block.
FIG. 8 is a flowchart illustrating an example of a method of reconstructing a residual block implemented in the image decoding apparatus illustrated in FIG. 7.
9 is an exemplary block diagram of an image encoding apparatus capable of implementing another example of a residual block reconstruction method.
10 is a flowchart illustrating an example of a method of reconstructing a residual block implemented in the image encoding apparatus illustrated in FIG. 9.
11 is an exemplary block diagram of an image decoding apparatus capable of implementing another example of a method of reconstructing a residual block.
12 is a flowchart illustrating an example of a method of reconstructing a residual block implemented in the image decoding apparatus shown in FIG. 11.
13 and 14 are flow charts illustrating still other examples of a method of reconstructing a residual block.
15 is a flowchart illustrating an example of execution conditions of a residual block restoration method.

이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성 요소들에 식별 부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.Hereinafter, some embodiments of the present invention will be described in detail through exemplary drawings. In adding identification codes to elements of each drawing, it should be noted that the same elements have the same symbols as possible even if they are indicated on different drawings. In addition, in describing the present invention, if it is determined that a detailed description of a related known configuration or function may obscure the subject matter of the present invention, a detailed description thereof will be omitted.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다. 이하에서는 도 1을 참조하여 영상 부호화 장치와 이 장치의 하위 구성들에 대하여 설명하도록 한다.1 is an exemplary block diagram of an image encoding apparatus capable of implementing the techniques of the present disclosure. Hereinafter, an image encoding apparatus and subordinate components of the apparatus will be described with reference to FIG. 1.

영상 부호화 장치는 픽처 분할부(110), 예측부(120), 감산기(130), 변환부(140), 양자화부(145), 재정렬부(150), 엔트로피 부호화부(155), 역양자화부(160), 역변환부(165), 가산기(170), 필터부(180) 및 메모리(190)를 포함하여 구성될 수 있다.The image encoding apparatus includes a picture segmentation unit 110, a prediction unit 120, a subtractor 130, a transform unit 140, a quantization unit 145, a rearrangement unit 150, an entropy encoding unit 155, an inverse quantization unit. (160), an inverse transform unit 165, an adder 170, a filter unit 180, and a memory 190 may be included.

영상 부호화 장치의 각 구성요소는 하드웨어 또는 소프트웨어로 구현되거나, 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 각 구성요소의 기능이 소프트웨어로 구현되고 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.Each component of the image encoding apparatus may be implemented by hardware or software, or by a combination of hardware and software. In addition, functions of each component may be implemented as software, and a microprocessor may be implemented to execute a function of software corresponding to each component.

하나의 영상(비디오)은 복수의 픽처들로 구성된다. 각 픽처들은 복수의 영역으로 분할되고 각 영역마다 부호화가 수행된다. 예를 들어, 하나의 픽처는 하나 이상의 타일(Tile) 또는/및 슬라이스(Slice)로 분할된다. 여기서, 하나 이상의 타일은 타일 그룹(Tile Group)으로 정의될 수 있다. 각 타일 또는 슬라이스는 하나 이상의 CTU(Coding Tree Unit)로 분할된다. 그리고 각 CTU는 트리 구조에 의해 하나 이상의 CU(Coding Unit)들로 분할된다. 각 CU에 적용되는 정보들은 CU의 신택스로서 부호화되고, 하나의 CTU에 포함된 CU들에 공통적으로 적용되는 정보는 CTU의 신택스로서 부호화된다. 또한, 하나의 슬라이스 내의 모든 블록들에 공통적으로 적용되는 정보는 슬라이스 헤더의 신택스로서 부호화되며, 하나의 픽처를 구성하는 모든 블록들에 적용되는 정보는 픽처 파라미터 셋(PPS, Picture Parameter Set) 혹은 픽처 헤더에 부호화된다. 나아가, 복수의 픽처가 공통으로 참조하는 정보들은 시퀀스 파라미터 셋(SPS, Sequence Parameter Set)에 부호화된다. 그리고, 하나 이상의 SPS가 공통으로 참조하는 정보들은 비디오 파라미터 셋(VPS, Video Parameter Set)에 부호화된다. 또한, 하나의 타일 또는 타일 그룹에 공통으로 적용되는 정보는 타일 또는 타일 그룹 헤더의 신택스로서 부호화될 수도 있다.One image (video) is composed of a plurality of pictures. Each picture is divided into a plurality of regions, and encoding is performed for each region. For example, one picture is divided into one or more tiles or/and slices. Here, one or more tiles may be defined as a tile group. Each tile or slice is divided into one or more Coding Tree Units (CTUs). And each CTU is divided into one or more CUs (Coding Units) by a tree structure. Information applied to each CU is encoded as the syntax of the CU, and information commonly applied to CUs included in one CTU is encoded as the syntax of the CTU. In addition, information commonly applied to all blocks in one slice is encoded as the syntax of the slice header, and information applied to all blocks constituting one picture is a picture parameter set (PPS) or picture. It is coded in the header. Further, information commonly referred to by a plurality of pictures is encoded in a sequence parameter set (SPS). In addition, information commonly referred to by one or more SPSs is encoded in a video parameter set (VPS). Also, information commonly applied to one tile or tile group may be encoded as syntax of a tile or tile group header.

픽처 분할부(110)는 CTU(Coding Tree Unit)의 크기를 결정한다. CTU의 크기에 대한 정보(CTU size)는 SPS 또는 PPS의 신택스로서 부호화되어 영상 복호화 장치로 전달된다. The picture dividing unit 110 determines the size of a coding tree unit (CTU). Information on the size of the CTU (CTU size) is encoded as the syntax of the SPS or PPS and transmitted to the video decoding apparatus.

픽처 분할부(110)는 영상을 구성하는 각 픽처(picture)를 미리 결정된 크기를 가지는 복수의 CTU(Coding Tree Unit)들로 분할한 이후에, 트리 구조(tree structure)를 이용하여 CTU를 반복적으로(recursively) 분할한다. 트리 구조에서의 리프 노드(leaf node)가 부호화의 기본 단위인 CU(coding unit)가 된다. After dividing each picture constituting an image into a plurality of CTUs (Coding Tree Units) having a predetermined size, the picture dividing unit 110 repetitively divides the CTU using a tree structure. (recursively) split. A leaf node in the tree structure becomes a coding unit (CU), which is a basic unit of coding.

트리 구조는 상위 노드(혹은 부모 노드)가 동일한 크기의 네 개의 하위 노드(혹은 자식 노드)들로 분할되는 쿼드트리(QuadTree, QT), 또는 상위 노드가 두 개의 하위 노드로 분할되는 바이너리트리(BinaryTree, BT), 또는 상위 노드가 1:2:1 비율을 가지는 세 개의 하위 노드로 분할되는 터너리트리(TernaryTree, TT), 또는 이러한 QT 구조, BT 구조 및 TT 구조 중 둘 이상을 혼용한 구조일 수 있다. 예컨대, QTBT(QuadTree plus BinaryTree) 구조가 사용될 수 있고, 또는 QTBTTT(QuadTree plus BinaryTree TernaryTree) 구조가 사용될 수 있다. 여기서, BTTT를 합쳐서 MTT(Multiple-Type Tree)라 지칭할 수 있다. The tree structure is a quadtree (QuadTree, QT) in which an upper node (or parent node) is divided into four lower nodes (or child nodes) of the same size, or a binary tree (BinaryTree) in which an upper node is divided into two lower nodes. , BT), or a ternary tree (TT) in which an upper node is divided into three lower nodes with a 1:2:1 ratio, or a structure in which two or more of these QT structures, BT structures, and TT structures are mixed I can. For example, a QTBT (QuadTree plus BinaryTree) structure may be used, or a QTBTTT (QuadTree plus BinaryTree TernaryTree) structure may be used. Here, BTTT may be combined to be referred to as MTT (Multiple-Type Tree).

도 2는 QTBTTT 분할 트리 구조를 보인다. 도 2에서 보는 바와 같이, CTU는 먼저 QT 구조로 분할될 수 있다. 쿼드트리 분할은 분할 블록(splitting block)의 크기가 QT에서 허용되는 리프 노드의 최소 블록 크기(MinQTSize)에 도달할 때까지 반복될 수 있다. QT 구조의 각 노드가 하위 레이어의 4개의 노드들로 분할되는지 여부를 지시하는 제1플래그(QT_split_flag)는 엔트로피 부호화부(155)에 의해 부호화되어 영상 복호화 장치로 시그널링된다. 2 shows a QTBTTT split tree structure. As shown in FIG. 2, the CTU may be first divided into a QT structure. The quadtree division may be repeated until the size of a splitting block reaches the minimum block size (MinQTSize) of a leaf node allowed in QT. A first flag (QT_split_flag) indicating whether each node of the QT structure is divided into four nodes of a lower layer is encoded by the entropy encoder 155 and signaled to the image decoding apparatus.

QT의 리프 노드가 BT에서 허용되는 루트 노드의 최대 블록 크기(MaxBTSize)보다 크지 않은 경우, BT 구조 또는 TT 구조 중 어느 하나 이상으로 더 분할될 수 있다. BT 구조 및/또는 TT 구조에서는 복수의 분할 방향이 존재할 수 있다. 예컨대, 해당 노드의 블록이 가로로 분할되는 방향과 세로로 분할되는 방향 두 가지가 존재할 수 있다. 도 2와 같이, MTT 분할이 시작되면, 노드들이 분할되었는지 여부를 지시하는 제2플래그(mtt_split_flag)와, 분할이 되었다면 추가적으로 분할 방향(vertical 혹은 horizontal)을 나타내는 플래그 및/또는 분할 타입(Binary 혹은 Ternary)을 나타내는 플래그가 엔트로피 부호화부(155)에 의해 부호화되어 영상 복호화 장치로 시그널링된다. 대안적으로, 각 노드가 하위 레이어의 4개의 노드들로 분할되는지 여부를 지시하는 제1플래그(QT_split_flag)를 부호화하기에 앞서, 그 노드가 분할되는지 여부를 지시하는 CU 분할 플래그(split_cu_flag)가 부호화될 수도 있다. CU 분할 플래그(split_cu_flag) 값이 분할되지 않았음을 지시하는 경우, 해당 노드의 블록이 분할 트리 구조에서의 리프 노드(leaf node)가 되어 부호화의 기본 단위인 CU(coding unit)가 된다. CU 분할 플래그(split_cu_flag) 값이 분할됨을 지시하는 경우, 영상 부호화 장치는 전술한 방식으로 제1플래그부터 부호화를 시작한다.If the leaf node of the QT is not larger than the maximum block size (MaxBTSize) of the root node allowed in BT, it may be further divided into one or more of a BT structure or a TT structure. In the BT structure and/or the TT structure, a plurality of division directions may exist. For example, there may be two directions in which a block of a corresponding node is divided horizontally and a direction vertically divided. As shown in FIG. 2, when MTT division starts, a second flag (mtt_split_flag) indicating whether or not the nodes are divided, and a flag indicating additional division direction (vertical or horizontal) and/or a division type (Binary or Ternary). A flag indicating) is encoded by the entropy encoder 155 and signaled to the image decoding apparatus. Alternatively, before encoding the first flag (QT_split_flag) indicating whether each node is divided into four nodes of the lower layer, a CU split flag (split_cu_flag) indicating whether the node is divided is encoded. It could be. When it is indicated that the value of the CU split flag (split_cu_flag) is not split, the block of the corresponding node becomes a leaf node in the split tree structure and becomes a coding unit (CU), which is a basic unit of encoding. When indicating that the value of the CU split flag (split_cu_flag) is to be split, the video encoding apparatus starts encoding from the first flag in the above-described manner.

트리 구조의 다른 예시로서 QTBT가 사용되는 경우, 해당 노드의 블록을 동일 크기의 두 개 블록으로 가로로 분할하는 타입(즉, symmetric horizontal splitting)과 세로로 분할하는 타입(즉, symmetric vertical splitting) 두 가지가 존재할 수 있다. BT 구조의 각 노드가 하위 레이어의 블록으로 분할되는지 여부를 지시하는 분할 플래그(split_flag) 및 분할되는 타입을 지시하는 분할 타입 정보가 엔트로피 부호화부(155)에 의해 부호화되어 영상 복호화 장치로 전달된다. 한편, 해당 노드의 블록을 서로 비대칭 형태의 두 개의 블록으로 분할하는 타입이 추가로 더 존재할 수도 있다. 비대칭 형태에는 해당 노드의 블록을 1:3의 크기 비율을 가지는 두 개의 직사각형 블록으로 분할하는 형태가 포함될 수 있고, 혹은 해당 노드의 블록을 대각선 방향으로 분할하는 형태가 포함될 수도 있다.When QTBT is used as another example of the tree structure, two types of horizontally splitting a block of the corresponding node into two blocks of the same size (i.e., symmetric horizontal splitting) and a type splitting vertically (i.e., symmetric vertical splitting) Branches can exist. A split flag indicating whether each node of the BT structure is divided into blocks of a lower layer and split type information indicating a type to be divided are encoded by the entropy encoder 155 and transmitted to the image decoding apparatus. Meanwhile, a type of dividing the block of the corresponding node into two blocks having an asymmetric shape may further exist. The asymmetric form may include a form of dividing a block of a corresponding node into two rectangular blocks having a size ratio of 1:3, or a form of dividing a block of a corresponding node in a diagonal direction.

CU는 CTU로부터의 QTBT 또는 QTBTTT 분할에 따라 다양한 크기를 가질 수 있다. 이하에서는, 부호화 또는 복호화하고자 하는 CU(즉, QTBTTT의 리프 노드)에 해당하는 블록을 '현재블록'이라 칭한다. QTBTTT 분할의 채용에 따라, 현재블록의 모양은 정사각형뿐만 아니라 직사각형일 수도 있다.The CU can have various sizes according to the QTBT or QTBTTT split from the CTU. Hereinafter, a block corresponding to a CU to be encoded or decoded (ie, a leaf node of QTBTTT) is referred to as a'current block'. According to the adoption of the QTBTTT division, the shape of the current block may be not only square but also rectangular.

예측부(120)는 현재블록을 예측하여 예측블록을 생성한다. 예측부(120)는 인트라 예측부(122)와 인터 예측부(124)를 포함한다. The prediction unit 120 predicts the current block and generates a prediction block. The prediction unit 120 includes an intra prediction unit 122 and an inter prediction unit 124.

일반적으로, 픽처 내 현재블록들은 각각 예측적으로 코딩될 수 있다. 일반적으로 현재블록의 예측은 (현재블록을 포함하는 픽처로부터의 데이터를 사용하는) 인트라 예측 기술 또는 (현재블록을 포함하는 픽처 이전에 코딩된 픽처로부터의 데이터를 사용하는) 인터 예측 기술을 사용하여 수행될 수 있다. 인터 예측은 단방향 예측과 양방향 예측 모두를 포함한다.In general, each of the current blocks in a picture can be predictively coded. In general, prediction of the current block is performed using an intra prediction technique (using data from a picture containing the current block) or an inter prediction technique (using data from a picture coded before a picture containing the current block). Can be done. Inter prediction includes both one-way prediction and two-way prediction.

인트라 예측부(122)는 현재블록이 포함된 현재 픽처 내에서 현재블록의 주변에 위치한 픽셀(참조 픽셀)들을 이용하여 현재블록 내의 픽셀들을 예측한다. 예측 방향에 따라 복수의 인트라 예측모드가 존재한다. 예컨대, 도 3a에서 보는 바와 같이, 복수의 인트라 예측모드는 planar 모드와 DC 모드를 포함하는 2개의 비방향성 모드와 65개의 방향성 모드를 포함할 수 있다. 각 예측모드에 따라 사용할 주변 픽셀과 연산식이 다르게 정의된다.The intra prediction unit 122 predicts pixels in the current block by using pixels (reference pixels) located around the current block in the current picture including the current block. There are a plurality of intra prediction modes according to the prediction direction. For example, as shown in FIG. 3A, the plurality of intra prediction modes may include two non-directional modes including a planar mode and a DC mode, and 65 directional modes. Depending on each prediction mode, the surrounding pixels to be used and the equation are defined differently.

직사각형 모양의 현재블록에 대한 효율적인 방향성 예측을 위해, 도 3b에 점선 화살표로 도시된 방향성 모드들(67 ~ 80번, -1 ~ -14 번 인트라 예측모드들)이 추가로 사용될 수 있다. 이들은 "광각 인트라 예측모드들(wide angle intra-prediction modes)"로 지칭될 수 있다. 도 3b에서 화살표들은 예측에 사용되는 대응하는 참조샘플들을 가리키는 것이며, 예측 방향을 나타내는 것이 아니다. 예측 방향은 화살표가 가리키는 방향과 반대이다. 광각 인트라 예측모드들은 현재블록이 직사각형일 때 추가적인 비트 전송 없이 특정 방향성 모드를 반대방향으로 예측을 수행하는 모드이다. 이때 광각 인트라 예측모드들 중에서, 직사각형의 현재블록의 너비와 높이의 비율에 의해, 현재블록에 이용 가능한 일부 광각 인트라 예측모드들이 결정될 수 있다. 예컨대, 45도보다 작은 각도를 갖는 광각 인트라 예측모드들(67 ~ 80번 인트라 예측모드들)은 현재블록이 높이가 너비보다 작은 직사각형 형태일 때 이용 가능하고, -135도보다 큰 각도를 갖는 광각 인트라 예측모드들(-1 ~ -14 번 인트라 예측모드들)은 현재블록이 높이가 너비보다 큰 직사각형 형태일 때 이용 가능하다.For efficient directional prediction for the rectangular-shaped current block, directional modes (67 to 80, intra prediction modes -1 to -14) shown by dotted arrows in FIG. 3B may be additionally used. These may be referred to as "wide angle intra-prediction modes". Arrows in FIG. 3B indicate corresponding reference samples used for prediction, and do not indicate a prediction direction. The prediction direction is opposite to the direction indicated by the arrow. In the wide-angle intra prediction modes, when the current block is a rectangular shape, a specific directional mode is predicted in the opposite direction without additional bit transmission. In this case, among the wide-angle intra prediction modes, some wide-angle intra prediction modes available for the current block may be determined based on a ratio of the width and height of the rectangular current block. For example, wide-angle intra prediction modes with an angle less than 45 degrees (intra prediction modes 67 to 80) can be used when the current block has a rectangular shape with a height smaller than the width, and wide-angle with an angle greater than -135 degrees. The intra prediction modes (intra prediction modes -1 to -14) can be used when the current block has a rectangular shape whose height is greater than the width.

인트라 예측부(122)는 현재블록을 부호화하는데 사용할 인트라 예측모드를 결정할 수 있다. 일부 예들에서, 인트라 예측부(122)는 여러 인트라 예측모드들을 사용하여 현재블록을 인코딩하고, 테스트된 모드들로부터 사용할 적절한 인트라 예측모드를 선택할 수도 있다. 예를 들어, 인트라 예측부(122)는 여러 테스트된 인트라 예측모드들에 대한 레이트 왜곡(rate-distortion) 분석을 사용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중 최선의 레이트 왜곡 특징들을 갖는 인트라 예측모드를 선택할 수도 있다.The intra prediction unit 122 may determine an intra prediction mode to be used to encode the current block. In some examples, the intra prediction unit 122 may encode the current block using several intra prediction modes and select an appropriate intra prediction mode to use from the tested modes. For example, the intra prediction unit 122 calculates rate distortion values using rate-distortion analysis for several tested intra prediction modes, and has the best rate distortion characteristics among the tested modes. It is also possible to select an intra prediction mode.

인트라 예측부(122)는 복수의 인트라 예측모드 중에서 하나의 인트라 예측모드를 선택하고, 선택된 인트라 예측모드에 따라 결정되는 주변 픽셀(참조 픽셀)과 연산식을 사용하여 현재블록을 예측한다. 선택된 인트라 예측모드에 대한 정보는 엔트로피 부호화부(155)에 의해 부호화되어 영상 복호화 장치로 전달된다.The intra prediction unit 122 selects one intra prediction mode from among a plurality of intra prediction modes, and predicts the current block using a neighboring pixel (reference pixel) determined according to the selected intra prediction mode and an equation. Information on the selected intra prediction mode is encoded by the entropy encoder 155 and transmitted to the image decoding apparatus.

인터 예측부(124)는 움직임 보상 과정을 통해 현재블록에 대한 예측블록을 생성한다. 인터 예측부(124)는 현재 픽처보다 먼저 부호화 및 복호화된 참조픽처 내에서 현재블록과 가장 유사한 블록을 탐색하고, 그 탐색된 블록을 이용하여 현재블록에 대한 예측블록을 생성한다. 그리고, 현재 픽처 내의 현재블록과 참조픽처 내의 예측블록 간의 변위(displacement)에 해당하는 움직임벡터(motion vector)를 생성한다. 일반적으로, 움직임 추정은 루마(luma) 성분에 대해 수행되고, 루마 성분에 기초하여 계산된 모션 벡터는 루마 성분 및 크로마 성분 모두에 대해 사용된다. 현재블록을 예측하기 위해 사용된 참조픽처에 대한 정보 및 움직임벡터에 대한 정보를 포함하는 움직임 정보는 엔트로피 부호화부(155)에 의해 부호화되어 영상 복호화 장치로 전달된다.The inter prediction unit 124 generates a prediction block for the current block through a motion compensation process. The inter prediction unit 124 searches for a block most similar to the current block in the coded and decoded reference picture prior to the current picture, and generates a prediction block for the current block using the searched block. Then, a motion vector corresponding to a displacement between the current block in the current picture and the prediction block in the reference picture is generated. In general, motion estimation is performed on a luma component, and a motion vector calculated based on the luma component is used for both the luma component and the chroma component. Motion information including information on a reference picture used to predict the current block and information on a motion vector is encoded by the entropy encoder 155 and transmitted to an image decoding apparatus.

감산기(130)는 현재블록으로부터 인트라 예측부(122) 또는 인터 예측부(124)에 의해 생성된 예측블록을 감산하여 잔차블록을 생성한다.The subtractor 130 generates a residual block by subtracting the prediction block generated by the intra prediction unit 122 or the inter prediction unit 124 from the current block.

변환부(140)는 잔차블록을 하나 이상의 변환블록들로 나누고, 변환을 하나 이상의 변환 블록들에 적용하여, 변환블록들의 잔차 값들을 픽셀 도메인에서 주파수 도메인으로 변환한다. 주파수 도메인에서, 변환된 블록들은 하나 이상의 변환 계수 값들을 포함하는 계수 블록들이라고 지칭된다. 변환에는 2차원 변환 커널이 사용될 수 있으며, 수평 방향 변환과 수직 방향 변환에 각각 1차원 변환 커널이 사용될 수도 있다. 변환 커널은 이산 코사인 변환(DCT), 이산 사인 변환(DST) 등에 기반할 수 있다.The transform unit 140 divides the residual block into one or more transform blocks, applies the transform to one or more transform blocks, and transforms residual values of the transform blocks from the pixel domain to the frequency domain. In the frequency domain, transformed blocks are referred to as coefficient blocks comprising one or more transform coefficient values. A 2D transformation kernel may be used for transformation, and a 1D transformation kernel may be used for horizontal and vertical transformation respectively. The transform kernel may be based on discrete cosine transform (DCT), discrete sine transform (DST), or the like.

변환부(140)는 잔차블록의 전체 크기를 변환 단위로 사용하여 잔차블록 내의 잔차 신호들을 변환할 수 있다. 또한, 변환부(140)는 잔차블록을 수평 혹은 수직 방향으로 2개의 서브블록으로 분할하고, 변환을 2개의 서브블록 중 하나에만 수행할 수 있다. 따라서, 변환 블록의 사이즈는 잔차 블록의 사이즈(따라서 예측블록의 사이즈)와 상이할 수도 있다. 변환이 수행되지 않는 서브블록에는 논-제로 잔차 샘플 값들이 존재하지 않거나 매우 희소할 수 있다. 변환이 수행되지 않는 서브블록의 잔차 샘플들은 시그널링되지 않으며, 영상 복호화 장치에 의해 모두 "0"으로 간주될 수 있다. 분할 방향과 분할 비율에 따라 여러 파티션 타입들이 존재할 수 있다. 변환부(140)는 잔차블록의 코딩 모드(혹은 변환 모드)에 관한 정보(예컨대, 잔차 블록을 변환하였는지 아니면 잔차 서브블록을 변환하였는지를 나타내는 정보, 잔차블록을 서브블록들로 분할하기 위해 선택된 파티션 타입을 나타내는 정보, 변환이 수행되는 서브블록을 식별하는 정보 등을 포함하는 정보)를 엔트로피 부호화부(155)에 제공할 수 있다. 엔트로피 부호화부(155)는 잔차블록의 코딩 모드(혹은 변환 모드)에 관한 정보를 부호화할 수 있다. The transform unit 140 may transform residual signals in the residual block by using the entire size of the residual block as a transform unit. In addition, the transform unit 140 may divide the residual block into two sub-blocks in a horizontal or vertical direction, and may perform transformation on only one of the two sub-blocks. Accordingly, the size of the transform block may be different from the size of the residual block (and thus the size of the prediction block). Non-zero residual sample values may not exist or may be very sparse in a subblock on which transformation is not performed. The residual samples of the subblock on which the transformation is not performed are not signaled, and may be regarded as "0" by the image decoding apparatus. There can be several partition types depending on the partitioning direction and the partitioning ratio. The transform unit 140 includes information on the coding mode (or transform mode) of the residual block (e.g., information indicating whether the residual block is transformed or the residual subblock is transformed, and a partition type selected to divide the residual block into subblocks) The entropy encoding unit 155 may be provided with information indicating information and information identifying a subblock on which transformation is performed. The entropy encoder 155 may encode information about a coding mode (or transform mode) of the residual block.

양자화부(145)는 변환부(140)로부터 출력되는 변환 계수들을 양자화하고, 양자화된 변환 계수들을 엔트로피 부호화부(155)로 출력한다. 양자화부(145)는, 어떤 블록 혹은 프레임에 대해, 변환 없이, 관련된 잔차 블록을 곧바로 양자화할 수도 있다.The quantization unit 145 quantizes the transform coefficients output from the transform unit 140 and outputs the quantized transform coefficients to the entropy encoding unit 155. The quantization unit 145 may immediately quantize a related residual block for a certain block or frame without transformation.

재정렬부(150)는 양자화된 잔차 값에 대해 계수 값의 재정렬을 수행할 수 있다. 재정렬부(150)는 계수 스캐닝(coefficient scanning)을 통해 2차원의 계수 어레이를 1차원의 계수 시퀀스로 변경할 수 있다. 예를 들어, 재정렬부(150)에서는 지그-재그 스캔(zig-zag scan) 또는 대각선 스캔(diagonal scan)을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원의 계수 시퀀스를 출력할 수 있다. 변환 단위의 크기 및 인트라 예측모드에 따라 지그-재그 스캔 대신 2차원의 계수 어레이를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔, 대각선 스캔, 수직 방향 스캔 및 수평 방향 스캔 중에서 사용될 스캔 방법이 결정될 수도 있다.The rearrangement unit 150 may rearrange coefficient values on the quantized residual values. The rearrangement unit 150 may change a two-dimensional coefficient array into a one-dimensional coefficient sequence through coefficient scanning. For example, the rearrangement unit 150 may scan from a DC coefficient to a coefficient in a high frequency region using a zig-zag scan or a diagonal scan to output a one-dimensional coefficient sequence. . Depending on the size of the transform unit and the intra prediction mode, instead of zig-zag scan, a vertical scan that scans a two-dimensional coefficient array in a column direction or a horizontal scan that scans a two-dimensional block shape coefficient in a row direction may be used. That is, a scan method to be used may be determined from among zig-zag scan, diagonal scan, vertical direction scan, and horizontal direction scan according to the size of the transformation unit and the intra prediction mode.

엔트로피 부호화부(155)는, CABAC(Context-based Adaptive Binary Arithmetic Code), 지수 골롬(Exponential Golomb) 등의 다양한 부호화 방식을 사용하여, 재정렬부(150)로부터 출력된 1차원의 양자화된 변환 계수들의 시퀀스를 부호화함으로써 비트스트림을 생성한다. The entropy encoding unit 155 uses various encoding methods such as Context-based Adaptive Binary Arithmetic Code (CABAC), Exponential Golomb, and the like, and the quantized transform coefficients of 1D output from the reordering unit 150 are A bitstream is generated by encoding the sequence.

또한, 엔트로피 부호화부(155)는 블록 분할과 관련된 CTU size, CU 분할 플래그, QT 분할 플래그, MTT 분할 타입, MTT 분할 방향 등의 정보를 부호화하여, 영상 복호화 장치가 영상 부호화 장치와 동일하게 블록을 분할할 수 있도록 한다. 또한, 엔트로피 부호화부(155)는 현재블록이 인트라 예측에 의해 부호화되었는지 아니면 인터 예측에 의해 부호화되었는지 여부를 지시하는 예측 타입에 대한 정보를 부호화하고, 예측 타입에 따라 인트라 예측정보(즉, 인트라 예측모드에 대한 정보) 또는 인터 예측정보(참조픽처 및 움직임벡터에 대한 정보)를 부호화한다.In addition, the entropy encoder 155 encodes information such as a CTU size related to block division, a CU division flag, a QT division flag, an MTT division type, and an MTT division direction, so that the video decoding apparatus performs the same block as the video encoding apparatus. Make it possible to divide. In addition, the entropy encoder 155 encodes information on a prediction type indicating whether the current block is encoded by intra prediction or inter prediction, and intra prediction information (ie, intra prediction) according to the prediction type. Mode information) or inter prediction information (reference picture and motion vector information) is encoded.

역양자화부(160)는 양자화부(145)로부터 출력되는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 생성한다. 역변환부(165)는 역양자화부(160)로부터 출력되는 변환 계수들을 주파수 도메인으로부터 공간 도메인으로 변환하여 잔차블록을 복원한다.The inverse quantization unit 160 inverse quantizes the quantized transform coefficients output from the quantization unit 145 to generate transform coefficients. The inverse transform unit 165 converts transform coefficients output from the inverse quantization unit 160 from the frequency domain to the spatial domain to restore the residual block.

가산부(170)는 복원된 잔차블록과 예측부(120)에 의해 생성된 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 다음 순서의 블록을 인트라 예측할 때 참조 픽셀로서 사용된다.The addition unit 170 restores the current block by adding the restored residual block and the prediction block generated by the prediction unit 120. The pixels in the reconstructed current block are used as reference pixels when intra-predicting the next block.

필터부(180)는 블록 기반의 예측 및 변환/양자화로 인해 발생하는 블록킹 아티팩트(blocking artifacts), 링잉 아티팩트(ringing artifacts), 블러링 아티팩트(blurring artifacts) 등을 줄이기 위해 복원된 픽셀들에 대한 필터링을 수행한다. 필터부(180)는 디블록킹 필터(182)와 SAO(Sample Adaptive Offset) 필터(184)를 포함할 수 있다.The filter unit 180 filters reconstructed pixels to reduce blocking artifacts, ringing artifacts, blurring artifacts, etc. that occur due to block-based prediction and transformation/quantization. Perform. The filter unit 180 may include a deblocking filter 182 and a sample adaptive offset (SAO) filter 184.

디블록킹 필터(180)는 블록 단위의 부호화/복호화로 인해 발생하는 블록킹 현상(blocking artifact)을 제거하기 위해 복원된 블록 간의 경계를 필터링하고, SAO 필터(184)는 디블록킹 필터링된 영상에 대해 추가적인 필터링을 수행한다. SAO 필터(184)는 손실 부호화(lossy coding)로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해 사용되는 필터이다.The deblocking filter 180 filters the boundary between reconstructed blocks to remove blocking artifacts caused by block-based encoding/decoding, and the SAO filter 184 adds additional information to the deblocking-filtered image. Filtering is performed. The SAO filter 184 is a filter used to compensate for a difference between a reconstructed pixel and an original pixel caused by lossy coding.

디블록킹 필터(182) 및 SAO 필터(184)를 통해 필터링된 복원블록은 메모리(190)에 저장된다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용될 수 있다.The reconstructed block filtered through the deblocking filter 182 and the SAO filter 184 is stored in the memory 190. When all blocks in one picture are reconstructed, the reconstructed picture may be used as a reference picture for inter prediction of a block in a picture to be encoded later.

도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다. 이하에서는 도 4를 참조하여 영상 복호화 장치와 이 장치의 하위 구성들에 대하여 설명하도록 한다.4 is an exemplary block diagram of an image decoding apparatus capable of implementing the techniques of the present disclosure. Hereinafter, an image decoding apparatus and sub-components of the apparatus will be described with reference to FIG. 4.

영상 복호화 장치는 엔트로피 복호화부(410), 재정렬부(415), 역양자화부(420), 역변환부(430), 예측부(440), 가산기(450), 필터부(460) 및 메모리(470)를 포함하여 구성될 수 있다. The image decoding apparatus includes an entropy decoding unit 410, a rearrangement unit 415, an inverse quantization unit 420, an inverse transform unit 430, a prediction unit 440, an adder 450, a filter unit 460, and a memory 470. ) Can be included.

도 1의 영상 부호화 장치와 마찬가지로, 영상 복호화 장치의 각 구성요소는 하드웨어 또는 소프트웨어로 구현되거나, 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 각 구성요소의 기능이 소프트웨어로 구현되고 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.Like the image encoding apparatus of FIG. 1, each component of the image decoding apparatus may be implemented as hardware or software, or may be implemented as a combination of hardware and software. In addition, functions of each component may be implemented as software, and a microprocessor may be implemented to execute a function of software corresponding to each component.

엔트로피 복호화부(410)는 영상 부호화 장치에 의해 생성된 비트스트림을 복호화하여 블록 분할과 관련된 정보를 추출함으로써 복호화하고자 하는 현재블록을 결정하고, 현재블록을 복원하기 위해 필요한 예측정보와 잔차신호에 대한 정보 등을 추출한다.The entropy decoding unit 410 determines the current block to be decoded by decoding the bitstream generated by the image encoding apparatus and extracting information related to block division, and predicting information and residual signals necessary to restore the current block. Extract information, etc.

엔트로피 복호화부(410)는 SPS(Sequence Parameter Set) 또는 PPS(Picture Parameter Set)로부터 CTU size에 대한 정보를 추출하여 CTU의 크기를 결정하고, 픽처를 결정된 크기의 CTU로 분할한다. 그리고, CTU를 트리 구조의 최상위 레이어, 즉, 루트 노드로 결정하고, CTU에 대한 분할정보를 추출함으로써 트리 구조를 이용하여 CTU를 분할한다. The entropy decoding unit 410 determines the size of the CTU by extracting information on the CTU size from a sequence parameter set (SPS) or a picture parameter set (PPS), and divides the picture into CTUs of the determined size. Then, the CTU is determined as the uppermost layer of the tree structure, that is, the root node, and the CTU is divided using the tree structure by extracting partition information for the CTU.

예컨대, QTBTTT 구조를 사용하여 CTU를 분할하는 경우, 먼저 QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 MTT의 분할과 관련된 제2 플래그(MTT_split_flag) 및 분할 방향(vertical / horizontal) 및/또는 분할 타입(binary / ternary) 정보를 추출하여 해당 리프 노드를 MTT 구조로 분할한다. 이를 통해 QT의 리프 노드 이하의 각 노드들을 BT 또는 TT 구조로 반복적으로(recursively) 분할한다.For example, in the case of splitting the CTU using the QTBTTT structure, first, a first flag (QT_split_flag) related to the splitting of the QT is extracted and each node is split into four nodes of a lower layer. And, for the node corresponding to the leaf node of QT, the second flag (MTT_split_flag) related to the splitting of the MTT and the splitting direction (vertical / horizontal) and/or split type (binary / ternary) information are extracted, and the corresponding leaf node is MTT. Divide into structure. Through this, each node below the leaf node of the QT is recursively divided into a BT or TT structure.

또 다른 예로서, QTBTTT 구조를 사용하여 CTU를 분할하는 경우, 먼저 CU의 분할 여부를 지시하는 CU 분할 플래그(split_cu_flag)를 추출하고, 해당 블록이 분할된 경우, 제1 플래그(QT_split_flag)를 추출할 수도 있다. 분할 과정에서 각 노드는 0번 이상의 반복적인 QT 분할 후에 0번 이상의 반복적인 MTT 분할이 발생할 수 있다. 예컨대, CTU는 바로 MTT 분할이 발생하거나, 반대로 다수 번의 QT 분할만 발생할 수도 있다. As another example, when splitting the CTU using the QTBTTT structure, first extract the CU split flag (split_cu_flag) indicating whether to split the CU, and if the corresponding block is split, the first flag (QT_split_flag) is extracted. May be. In the segmentation process, each node may have 0 or more repetitive MTT segmentation after 0 or more repetitive QT segmentation. For example, in the CTU, MTT division may occur immediately, or, conversely, only multiple QT divisions may occur.

다른 예로서, QTBT 구조를 사용하여 CTU를 분할하는 경우, QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 BT로 더 분할되는지 여부를 지시하는 분할 플래그(split_flag) 및 분할 방향 정보를 추출한다.As another example, when the CTU is divided using the QTBT structure, each node is divided into four nodes of a lower layer by extracting the first flag (QT_split_flag) related to the division of the QT. In addition, a split flag indicating whether or not the node corresponding to the leaf node of the QT is further split into BT and split direction information are extracted.

한편, 엔트로피 복호화부(410)는 트리 구조의 분할을 통해 복호화하고자 하는 현재블록을 결정하게 되면, 현재블록이 인트라 예측되었는지 아니면 인터 예측되었는지를 지시하는 예측 타입에 대한 정보를 추출한다. 예측 타입 정보가 인트라 예측을 지시하는 경우, 엔트로피 복호화부(410)는 현재블록의 인트라 예측정보(인트라 예측모드)에 대한 신택스 엘리먼트를 추출한다. 예측 타입 정보가 인터 예측을 지시하는 경우, 엔트로피 복호화부(410)는 인터 예측정보에 대한 신택스 엘리먼트, 즉, 움직임벡터 및 그 움직임벡터가 참조하는 참조픽처를 나타내는 정보를 추출한다.Meanwhile, when determining the current block to be decoded through the division of the tree structure, the entropy decoder 410 extracts information on a prediction type indicating whether the current block is intra prediction or inter prediction. When the prediction type information indicates intra prediction, the entropy decoder 410 extracts a syntax element for intra prediction information (intra prediction mode) of the current block. When the prediction type information indicates inter prediction, the entropy decoder 410 extracts a syntax element for the inter prediction information, that is, information indicating a motion vector and a reference picture referenced by the motion vector.

한편, 엔트로피 복호화부(410)는 잔차블록의 코딩 모드에 관한 정보(예컨대, 잔차블록이 부호화되었는지 잔차블록의 서브블록만이 부호화되었는지 여부에 관한 정보, 잔차블록을 서브블록들로 분할하기 위해 선택된 파티션 타입을 나타내는 정보, 부호화된 잔차 서브블록을 식별하는 정보, 양자화 파라미터 등)를 비트스트림으로부터 추출한다. 또한, 엔트로피 복호화부(410)는 잔차신호에 대한 정보로서 현재블록의 양자화된 변환계수들에 대한 정보를 추출한다.On the other hand, the entropy decoder 410 includes information on the coding mode of the residual block (e.g., information on whether the residual block is encoded or only the subblocks of the residual block are encoded, and is selected to divide the residual block into subblocks). Information indicating the partition type, information identifying the encoded residual subblock, quantization parameters, etc.) are extracted from the bitstream. In addition, the entropy decoder 410 extracts information on quantized transform coefficients of the current block as information on the residual signal.

재정렬부(415)는, 영상 부호화 장치에 의해 수행된 계수 스캐닝 순서의 역순으로, 엔트로피 복호화부(410)에서 엔트로피 복호화된 1차원의 양자화된 변환계수들의 시퀀스를 다시 2차원의 계수 어레이(즉, 블록)로 변경할 수 있다.The rearrangement unit 415, in the reverse order of the coefficient scanning order performed by the image encoding apparatus, reconverts the sequence of one-dimensional quantized transform coefficients entropy-decoded by the entropy decoder 410 into a two-dimensional coefficient array (i.e., Block).

역양자화부(420)는 양자화된 변환계수들을 역양자화하고, 역변환부(430)는, 잔차블록의 코딩 모드에 관한 정보를 기초로, 역양자화된 변환계수들을 주파수 도메인으로부터 공간 도메인으로 역변환하여 잔차신호들을 복원함으로써 현재블록에 대한 복원된 잔차블록을 생성한다.The inverse quantization unit 420 inverse quantizes the quantized transform coefficients, and the inverse transform unit 430 inversely transforms the inverse quantized transform coefficients from the frequency domain to the spatial domain based on information on the coding mode of the residual block By reconstructing the signals, a reconstructed residual block for the current block is generated.

역변환부(430)는, 잔차블록의 코딩 모드에 관한 정보가 영상 부호화 장치에서 현재블록의 잔차블록이 부호화되었다고 지시하는 경우에, 역양자화된 변환계수들에 대해 현재블록의 사이즈(따라서, 복원될 잔차블록의 사이즈)를 변환 단위로 사용하여 역변환을 수행하여 현재블록에 대한 복원된 잔차블록을 생성한다. When the information on the coding mode of the residual block indicates that the residual block of the current block is coded in the image encoding apparatus, the inverse transform unit 430 determines the size of the current block (and thus, to be reconstructed) with respect to the inverse quantized transformation coefficients. A reconstructed residual block for the current block is generated by performing inverse transformation using the residual block size) as a transformation unit.

또한, 역변환부(430)는, 잔차블록의 코딩 모드에 관한 정보가 영상 부호화 장치에서 잔차블록의 하나의 서브블록만이 부호화되었다고 지시하는 경우에, 역양자화된 변환계수들에 대해, 변환된 서브블록의 사이즈를 변환 단위로 사용하여, 역변환을 수행하여 변환된 서브블록에 대한 잔차신호들을 복원하고, 비변환된 서브블록에 대한 잔차신호들을 "0" 값으로 채움으로써, 현재블록에 대한 복원된 잔차블록을 생성한다.In addition, when the information on the coding mode of the residual block indicates that only one subblock of the residual block is coded in the image encoding apparatus, the inverse transform unit 430 performs the transformed sub-blocks on the inverse quantized transform coefficients. By using the size of the block as a transformation unit, performing inverse transformation to restore residual signals for the transformed subblock, and filling the residual signals for untransformed subblocks with a value of "0", the reconstructed current block Create a residual block.

예측부(440)는 인트라 예측부(442) 및 인터 예측부(444)를 포함할 수 있다. 인트라 예측부(442)는 현재블록의 예측 타입이 인트라 예측일 때 활성화되고, 인터 예측부(444)는 현재블록의 예측 타입이 인터 예측일 때 활성화된다.The prediction unit 440 may include an intra prediction unit 442 and an inter prediction unit 444. The intra prediction unit 442 is activated when the prediction type of the current block is intra prediction, and the inter prediction unit 444 is activated when the prediction type of the current block is inter prediction.

인트라 예측부(442)는 엔트로피 복호화부(410)로부터 추출된 인트라 예측모드에 대한 신택스 엘리먼트로부터 복수의 인트라 예측모드 중 현재블록의 인트라 예측모드를 결정하고, 인트라 예측모드에 따라 현재블록 주변의 참조 픽셀들을 이용하여 현재블록을 예측한다.The intra prediction unit 442 determines an intra prediction mode of the current block among a plurality of intra prediction modes from the syntax element for the intra prediction mode extracted from the entropy decoding unit 410, and references around the current block according to the intra prediction mode. Predict the current block using pixels.

인터 예측부(444)는 엔트로피 복호화부(410)로부터 추출된 인트라 예측모드에 대한 신택스 엘리먼트를 이용하여 현재블록의 움직임벡터와 그 움직임벡터가 참조하는 참조픽처를 결정하고, 움직임벡터와 참조픽처를 이용하여 현재블록을 예측한다.The inter prediction unit 444 determines a motion vector of the current block and a reference picture referenced by the motion vector using the syntax element for the intra prediction mode extracted from the entropy decoding unit 410, and determines the motion vector and the reference picture. Is used to predict the current block.

가산기(450)는 역변환부(430)로부터 출력되는 잔차블록과 인터 예측부(444) 또는 인트라 예측부(442)로부터 출력되는 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 이후에 복호화할 블록을 인트라 예측할 때의 참조픽셀로서 활용된다.The adder 450 adds the residual block output from the inverse transform unit 430 and the prediction block output from the inter prediction unit 444 or the intra prediction unit 442 to restore the current block. The pixels in the reconstructed current block are used as reference pixels for intra prediction of a block to be decoded later.

필터부(460)는 디블록킹 필터(462) 및 SAO 필터(464)를 포함할 수 있다. 디블록킹 필터(462)는 블록 단위의 복호화로 인해 발생하는 블록킹 현상(blocking artifact)를 제거하기 위해, 복원된 블록 간의 경계를 디블록킹 필터링한다. SAO 필터(464)는 손실 부호화(lossy coding)으로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해, 디블록킹 필터링 이후의 복원된 블록에 대해 추가적인 필터링을 수행한다. 디블록킹 필터(462) 및 SAO 필터(464)를 통해 필터링된 복원블록은 메모리(470)에 저장된다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.The filter unit 460 may include a deblocking filter 462 and an SAO filter 464. The deblocking filter 462 performs deblocking filtering on the boundary between reconstructed blocks in order to remove blocking artifacts caused by decoding in units of blocks. The SAO filter 464 performs additional filtering on the reconstructed block after deblocking filtering in order to compensate for the difference between the reconstructed pixel and the original pixel caused by lossy coding. The reconstructed block filtered through the deblocking filter 462 and the SAO filter 464 is stored in the memory 470. When all blocks in one picture are reconstructed, the reconstructed picture is used as a reference picture for inter prediction of a block in a picture to be encoded later.

종래의 비디오 부호화/복호화 방법에서는 색차 성분(크로마 성분)에 대한 예측의 복잡도를 낮추기 위하여, 휘도 성분(루마 성분)에 대한 예측 과정과 동일한 방법으로 색차 성분에 대한 예측을 수행하거나, 휘도 성분에 대한 예측 과정을 간소화하여 색차 성분에 대한 예측을 수행하였다. 그러나, 이러한 종래 방법은 색상에 대한 왜곡(distortion)이 발생하는 문제점을 가지고 있다. In the conventional video encoding/decoding method, in order to reduce the complexity of prediction for the chrominance component (chroma component), prediction on the chrominance component is performed in the same manner as the prediction process for the luminance component (luma component), or The prediction process was simplified to predict color difference components. However, such a conventional method has a problem in that a color distortion occurs.

본 명세서에서는 복원하고자 하는 대상 블록(현재블록)의 색차블록(크로마블록) 내 색차 성분에 대한 예측을 효과적으로 수행하는 부호화 및 복호화 방법들이 제안된다.In this specification, encoding and decoding methods for effectively predicting a color difference component within a color difference block (chroma block) of a target block (current block) to be reconstructed are proposed.

본 명세서에서 제안되는 방법들은 Cb 색차 성분(또는 Cb 크로마 성분)의 잔차샘플들(잔차신호 또는 차분신호)과 Cr 색차 성분(Cr 크로마 성분)의 잔차샘플들 중에서, 어느 하나에 대한 정보만을 코딩 및 시그널링하고, 다른 하나에 대한 정보를 코딩 및 시그널링 없이 유도하는 방법이다. The methods proposed in the present specification code only information on any one of residual samples (residual signal or difference signal) of Cb color difference component (or Cb chroma component) and residual samples of Cr color difference component (Cr chroma component) and This is a method of signaling and inducing information about the other without coding and signaling.

본 명세서에서, 유도의 대상이 되는 색차 성분(제2색차 성분)의 잔차샘플들을 제2잔차샘플로 지칭할 수 있으며, 제2잔차샘플의 유도를 위해 코딩 및 시그널링되는 색차 성분(제1색차 성분)의 잔차샘플들을 제1잔차샘플로 지칭할 수 있다. In the present specification, residual samples of a color difference component (second color difference component) to be derived may be referred to as a second residual sample, and a color difference component (first color difference component) coded and signaled to induce the second residual sample The residual samples of) may be referred to as the first residual sample.

제1색차 성분은 Cb 색차 성분 및 Cr 색차 성분 중에서 어느 하나에 해당하고, 제2색차 성분은 Cb 색차 성분 및 Cr 색차 성분 중에서 다른 하나에 해당할 수 있다. 예를 들어, Cb 색차 성분의 잔차샘플들이 코딩 및 시그널링되고 Cr 색차 성분의 잔차샘플들이 유도되는 경우에, Cb 색차 성분의 잔차샘플들을 제1잔차샘플로 지칭하고 Cr 색차 성분의 잔차샘플들을 제2잔차샘플로 지칭할 수 있다. 다른 예로, Cr 색차 성분의 잔차샘플들이 코딩 및 시그널링되고 Cb 색차 성분의 잔차샘플들이 유도되는 경우에, Cr 색차 성분의 잔차샘플들을 제1잔차샘플로 지칭하고 Cb 색차 성분의 잔차샘플들을 제2잔차샘플로 지칭할 수 있다.The first color difference component may correspond to any one of the Cb color difference component and the Cr color difference component, and the second color difference component may correspond to the other one of the Cb color difference component and the Cr color difference component. For example, when the residual samples of the Cb color difference component are coded and signaled and the residual samples of the Cr color difference component are derived, the residual samples of the Cb color difference component are referred to as a first residual sample, and the residual samples of the Cr color difference component are second It can be referred to as a residual sample. As another example, when residual samples of the Cr color difference component are coded and signaled and residual samples of the Cb color difference component are derived, the residual samples of the Cr color difference component are referred to as the first residual sample, and the residual samples of the Cb color difference component are referred to as the second residual. It can be referred to as a sample.

제2잔차샘플을 유도하는 방법은 1) 제1잔차샘플과 제2잔차샘플 사이의 상관관계 정보를 이용하는 실시예, 2) 제2잔차샘플 유도 방법의 활성화 또는 적용(on/off) 여부를 결정하는 실시예 등으로 구분될 수 있다. 또한, 상관관계 정보를 이용하는 실시예는 색차 간 차분 값의 이용 여부에 따라 서로 다른 실시예로 구분될 수 있다. 이하에서는, 본 명세서에서 사용되는 용어들에 대해 먼저 정의한 후에, 각 실시예들에 대해 구체적으로 설명하도록 한다.The method of deriving the second residual sample is 1) an embodiment using the correlation information between the first residual sample and the second residual sample, and 2) deciding whether to activate or apply (on/off) the second residual sample derivation method. It can be divided into embodiments, etc. Further, embodiments using correlation information may be classified into different embodiments according to whether or not a difference value between color differences is used. Hereinafter, the terms used in the present specification will be first defined, and then each exemplary embodiment will be described in detail.

상관관계 정보Correlation information

상관관계 정보는 제1잔차샘플로부터 제2잔차샘플을 유도하기 위한 정보를 의미하며, 부호화하려는 현재블록의 휘도 성분 값의 범위에 따라 적응적으로 결정될 수 있다. 상관관계 정보에는 곱셈 정보가 포함되거나, 곱셈 정보와 오프셋 정보가 포함될 수 있다.The correlation information means information for deriving a second residual sample from the first residual sample, and may be adaptively determined according to a range of a luminance component value of a current block to be encoded. The correlation information may include multiplication information or multiplication information and offset information.

상관관계 정보는 비트스트림의 다양한 위치에서 정의되어 영상 복호화 장치로 시그널링될 수 있으며, 비트스트림 내 해당 위치로부터 복호화될 수 있다. 예를 들어, 상관관계 정보는 SPS, PPS, 픽처 레벨 등과 같은 하이 레벨 신택스(HLS, high level syntax)들 중에서 하나 이상의 위치에 정의되어 시그널링될 수 있다. 다른 예로, 상관관계 정보는 타일 그룹 레벨, 타일 레벨, CTU 레벨, 단위 블록 레벨(CU, TU, PU) 등과 같은 하위 레벨에서 시그널링될 수도 있다. 또 다른 예로, 하위 레벨에서는 HLS를 통해 시그널링된 상관관계 정보와의 차분 값(차분 상관관계 정보)이 시그널링될 수도 있다.The correlation information may be defined at various positions of the bitstream and signaled to the image decoding apparatus, and may be decoded from corresponding positions in the bitstream. For example, the correlation information may be defined and signaled at one or more positions among high level syntaxes (HLS) such as SPS, PPS, and picture level. As another example, the correlation information may be signaled at a lower level such as a tile group level, a tile level, a CTU level, and a unit block level (CU, TU, PU). As another example, a difference value (differential correlation information) with correlation information signaled through HLS may be signaled at a lower level.

실시형태에 따라, 상관관계 정보가 직접 시그널링되는 것이 아닌, 상관관계 정보를 영상 복호화 장치에서 유도 또는 유추할 수 있는 정보가 시그널링될 수도 있다. 예를 들어, 상관관계 정보에 대한 고정된 값들이 포함된 테이블 정보가 시그널링되고, 테이블 정보 내 고정된 값들 중에서 제2잔차샘플의 유도에 이용된 상관관계 정보를 지시하는 인덱스 값이 시그널링될 수 있다. 다른 예로, 테이블 정보는 시그널링되지 않고 영상 부호화 장치와 영상 복호화 장치 사이에 미리 결정된 테이블 정보가 사용될 수도 있다. 인덱스 값은 타일 그룹 레벨, 타일 레벨, 단위 블록 레벨 중 하나 이상에서 정의되어 시그널링될 수 있다.Depending on the embodiment, the correlation information may not be signaled directly, but information that can induce or infer the correlation information in the video decoding apparatus may be signaled. For example, table information including fixed values for correlation information may be signaled, and an index value indicating correlation information used for derivation of a second residual sample among fixed values in the table information may be signaled. . As another example, table information may not be signaled, and table information previously determined between the image encoding apparatus and the image decoding apparatus may be used. The index value may be defined and signaled at one or more of a tile group level, a tile level, and a unit block level.

상관관계 정보는 제2잔차샘플의 유도에 이용되는 정보이므로, 제2잔차샘플의 유도가 on되는 경우에 시그널링될 수 있다. 따라서, 상관관계 정보는 후술되는 제1신택스 요소가 제2잔차샘플의 유도가 허용됨을 지시하는 경우에 비트스트림으로부터 복호화되거나, 제2신택스 요소가 제2잔차샘플의 유도가 적용됨을 지시하는 경우에 비트스트림으로부터 복호화될 수 있다.Since the correlation information is information used to induce the second residual sample, it may be signaled when the induction of the second residual sample is turned on. Accordingly, the correlation information is decoded from the bitstream when the first syntax element to be described later indicates that derivation of the second residual sample is allowed, or when the second syntax element indicates that the derivation of the second residual sample is applied. It can be decoded from the bitstream.

곱셈 정보Multiplication information

곱셈 정보는 제1잔차샘플과 제2잔차샘플 사이의 곱셈 인자(multiplication factor)를 나타내기 위한 정보에 해당한다. 제1잔차샘플(제1잔차샘플의 값)에 곱셈 인자가 적용되면, 제2잔차샘플(제2잔차샘플의 값)과 일치하는 값 또는 제2잔차샘플에 대응되는 범위 내의 값이 유도될 수 있다. 곱셈 인자는 제1잔차샘플과 제2잔차샘플 사이의 스케일링 관계, 가중치 관계, 부호 관계 등을 나타낼 수 있다. 따라서, 곱셈 인자는 -1 또는 1과 같은 정수이거나, 1/2 또는 -1/2과 같은 분수일 수 있다. The multiplication information corresponds to information for indicating a multiplication factor between the first residual sample and the second residual sample. When a multiplication factor is applied to the first residual sample (the value of the first residual sample), a value matching the second residual sample (the value of the second residual sample) or a value within the range corresponding to the second residual sample may be derived. have. The multiplication factor may represent a scaling relationship, a weight relationship, a sign relationship, and the like between the first residual sample and the second residual sample. Thus, the multiplication factor may be an integer such as -1 or 1, or a fraction such as 1/2 or -1/2.

곱셈 정보가 플래그 형태(0 또는 1)로 구현되고 곱셈 인자가 제1잔차샘플과 제2잔차샘플 사이의 부호 관계를 나타내는 경우, 곱셈 정보는 수학식 1과 같은 방법을 통해 곱셈 인자를 나타낼 수 있다.When the multiplication information is implemented in the form of a flag (0 or 1) and the multiplication factor indicates a sign relationship between the first residual sample and the second residual sample, the multiplication information may represent the multiplication factor through the same method as in Equation 1. .

Figure pat00001
Figure pat00001

곱셈정보=0은 제1잔차샘플과 제2잔차샘플이 서로 같은 부호 관계를 가짐을 나타내며, 1의 곱셈 인자가 제1잔차샘플에 적용될 수 있다. 곱셈정보=1은 제1잔차샘플과 제2잔차샘플이 서로 다른 부호 관계를 가짐을 나타내며, -1의 곱셈 인자가 제1잔차샘플에 적용될 수 있다.Multiplication information = 0 indicates that the first residual sample and the second residual sample have the same sign relationship, and a multiplication factor of 1 may be applied to the first residual sample. Multiplication information = 1 indicates that the first residual sample and the second residual sample have a different sign relationship, and a multiplication factor of -1 may be applied to the first residual sample.

오프셋 정보Offset information

오프셋 정보는 (곱셈 인자가 적용된) 제1잔차샘플과 제2잔차샘플 사이의 오프셋 인자(offset factor)를 나타내기 위한 정보에 해당한다. 곱셈 인자가 적용된 제1잔차샘플에 오프셋 인자가 적용되면, 제2잔차샘플과 일치하는 값 또는 제2잔차샘플에 대응되는 범위 내의 값이 유도될 수 있다. 오프셋 인자도 -1, 0, 1과 같은 정수이거나, 1/2 또는 -1/2과 같은 분수일 수 있다.The offset information corresponds to information for indicating an offset factor between the first and second residual samples (to which a multiplication factor is applied). When the offset factor is applied to the first residual sample to which the multiplication factor is applied, a value coincident with the second residual sample or a value within a range corresponding to the second residual sample may be derived. The offset factor may also be an integer such as -1, 0, 1, or a fraction such as 1/2 or -1/2.

오프셋 인자=0인 경우와 관련하여, 상관관계 정보에 곱셈 정보만이 포함된다면 오프셋 정보가 시그널링되지 않으며, 상관관계 정보에 곱셈 정보와 오프셋 정보가 포함된다면 오프셋 정보는 오프셋 인자=0임을 나타낼 수 있다.Regarding the case of offset factor = 0, if only multiplication information is included in the correlation information, offset information is not signaled, and if multiplication information and offset information are included in the correlation information, the offset information may indicate that the offset factor = 0. .

색차 간 차분 값Difference value between color differences

색차 간 차분 값은 제1잔차샘플과 제2잔차샘플 사이의 차분 값(제1잔차샘플과 제2잔차샘플를 차분한 값)에 해당한다. 구체적으로, 색차 값 차분 값은 상관관계 정보가 적용된 제1잔차샘플과 제2잔차샘플을 차분하여 도출되는 값에 해당한다. 예를 들어, 상관관계 정보가 곱셈 정보만을 포함하는 경우, 색차 간 차분 값은 곱셈 인자가 적용된 제1잔차샘플과 제2잔차샘플을 차분하여 도출될 수 있다. 다른 예로, 상관관계 정보가 곱셈 정보와 오프셋 정보를 포함하는 경우, 색차 간 차분 값은 '곱셈 인자 및 오프셋 인자가 적용된 제1잔차샘플'과 제2잔차샘플을 차분하여 도출될 수 있다.The difference value between the color differences corresponds to a difference value between the first and second residual samples (a value obtained by differentiating the first and second residual samples). Specifically, the color difference value difference value corresponds to a value derived by differentiating the first residual sample and the second residual sample to which the correlation information is applied. For example, when the correlation information includes only multiplication information, a difference value between color differences may be derived by differentiating a first residual sample and a second residual sample to which a multiplication factor is applied. As another example, when the correlation information includes multiplication information and offset information, a difference value between color differences may be derived by differentiating a'first residual sample to which a multiplication factor and an offset factor are applied' and a second residual sample.

실시예 1Example 1

실시예 1은 상관관계 정보와 색차 간 차분 값을 모두 이용하는 방법이다. 실시예 1은 색차 간 차분 값 및 상관관계 정보를 유도하는 과정이 부호화 단계들 중에서 어느 단계에 수행되는지 여부 및, 제2잔차샘플을 유도하는 과정이 복호화 단계들 중에서 어느 단계에 수행되는지 여부에 따라, 아래와 같은 하위 실시예들로 구분될 수 있다.Example 1 is a method of using both correlation information and a difference value between color differences. Embodiment 1 is based on whether the process of deriving the difference value and correlation information between color differences is performed in which of the encoding steps and the process of deriving the second residual sample is performed in which of the decoding steps. , It can be divided into the following sub-embodiments.

실시예 1-1Example 1-1

실시예 1-1에서는, 색차 간 차분 값 및 상관관계 정보를 유도하는 과정이 잔차샘플들을 변환하는 단계 이전에 수행되며, 제2잔차샘플을 유도하는 과정이 잔차샘플들을 역변환하는 단계 이후에 수행된다. In Example 1-1, the process of deriving the difference value and correlation information between color differences is performed before the step of converting residual samples, and the process of deriving the second residual sample is performed after the step of inversely transforming the residual samples. .

실시예 1-1을 수행하기 위한 영상 부호화 장치의 예시적인 블록도와 순서도가 도 5 및 도 6에 각각 나타나 있으며, 실시예 1-1을 수행하기 위한 영상 복호화 장치의 예시적인 블록도와 순서도가 도 7 및 도 8에 각각 나타나 있다. An exemplary block diagram and a flowchart of an image encoding apparatus for performing Embodiment 1-1 are shown in FIGS. 5 and 6, respectively, and FIG. 7 an exemplary block diagram and a flowchart of an image decoding apparatus for performing Embodiment 1-1. And Fig. 8 respectively.

감산기(130)는 제1잔차샘플과 제2잔차샘플을 획득할 수 있다(S610). 구체적으로, 제1색차 성분의 예측블록(예측샘플들)과 제1색차 성분의 색차블록이 감산되어 제1잔차샘플이 획득될 수 있으며, 제2색차 성분의 예측블록과 제2색차 성분의 색차블록이 감산되어 제2잔차샘플이 획득될 수 있다. 색차 성분들의 예측블록은 예측부(120)의 예측을 통해 도출될 수 있으며, 이 과정에서 예측에 이용된 정보들(예측정보)이 도출될 수 있다. 예측샘플들을 생성하는 과정과 예측정보를 도출하는 과정은 본 명세서의 다른 실시예들에 대해서도 동일하게 적용될 수 있다.The subtractor 130 may obtain a first residual sample and a second residual sample (S610). Specifically, the prediction block (prediction samples) of the first color difference component and the color difference block of the first color difference component may be subtracted to obtain a first residual sample, and the color difference between the prediction block of the second color difference component and the second color difference component The block may be subtracted to obtain a second residual sample. The prediction blocks of color difference components may be derived through prediction by the prediction unit 120, and information (prediction information) used for prediction may be derived in this process. The process of generating prediction samples and the process of deriving prediction information may be equally applied to other embodiments of the present specification.

색차 성분 예측부(510)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부를 결정할 수 있다(S620). The color difference component predictor 510 may determine whether to derive a second residual sample from the first residual sample (S620).

색차 성분 예측부(510)는 제1잔차샘플 및 제2잔차샘플을 모두 코딩하는 방법(일반 방법)과 제2잔차샘플을 유도하는 방법 중에서, 색차블록을 위한 어느 하나의 방법을 결정할 수 있다. 예를 들어, 색차 성분 예측부(510)는 일반 방법과 제2잔차샘플을 유도하는 방법에 대한 레이트 왜곡(rate-distortion) 분석을 통해 레이트 왜곡 값들을 계산하고, 최선의 레이트 왜곡 특징들을 갖는 방법을 색차블록을 위한 방법으로 선택 또는 결정할 수 있다. 제2잔차샘플의 유도 여부를 결정하는 방법은 본 명세서의 다른 실시예들에 대해서도 동일하게 적용될 수 있다.The chrominance component predictor 510 may determine any one method for a chrominance block among a method of coding both the first residual sample and the second residual sample (a general method) and a method of deriving the second residual sample. For example, the color difference component predictor 510 calculates rate distortion values through rate-distortion analysis of the general method and the method of inducing the second residual sample, and has the best rate distortion characteristics. Can be selected or determined as a method for a color difference block. The method of determining whether to derive the second residual sample may be equally applied to other embodiments of the present specification.

색차 성분 예측부(510)는 제2잔차샘플을 유도하는 방법이 색차블록을 위한 방법으로 결정되는 경우에, 제1잔차샘플을 보정할 수 있다(S630). 제1잔차샘플의 보정은 제1잔차샘플에 상관관계 정보를 적용함으로써 수행될 수 있다.The color difference component predictor 510 may correct the first residual sample when the method for deriving the second residual sample is determined as the method for the color difference block (S630). The correction of the first residual sample may be performed by applying correlation information to the first residual sample.

색차 성분 예측부(510)는 보정된 제1잔차샘플과 제2잔차샘플을 이용하여 색차 간 차분 값을 유도할 수 있다(S640). 보정된 제1잔차샘플과 제2잔차샘플이 차분 또는 감산되어 색차 간 차분 값이 유도될 수 있다.The color difference component predictor 510 may derive a difference value between color differences using the corrected first and second residual samples (S640). The corrected first residual sample and the second residual sample may be differentiated or subtracted to derive a difference value between color differences.

S630 과정과 S640 과정은 아래 수학식 2를 통해 수행될 수 있다.Process S630 and process S640 may be performed through Equation 2 below.

Figure pat00002
Figure pat00002

수학식 2에서, Cro_resi1은 제1잔차샘플을 나타내며, Cro_resi2는 제2잔차샘플을 나타내고, Cro_r은 색차 간 차분 값을 나타내며, W는 곱셈 인자를 나타내고, Offset는 오프셋 인자를 나타낸다. 제2잔차샘플을 중심으로 하여 수학식 1을 다시 살펴보면, Cro_resi2은 제2잔차샘플의 1차신호(제2색차 성분의 1차 차분신호)일 수 있고, Cro_r은 제2잔차샘플의 2차신호(제2색차 성분의 2차 차분신호)일 수 있다.In Equation 2, Cro_resi1 represents a first residual sample, Cro_resi2 represents a second residual sample, Cro_r represents a difference between color differences, W represents a multiplication factor, and Offset represents an offset factor. Looking at Equation 1 again, focusing on the second residual sample, Cro_resi2 may be the first signal of the second residual sample (the first difference signal of the second color difference component), and Cro_r is the second signal of the second residual sample. It may be a (second difference signal of the second color difference component).

변환부(140)는 색차 간 차분 값 및 제1잔차샘플은 변환할 수 있으며, 양자화부(145)는 변환된 색차 간 차분 값 및 변환된 제1잔차샘플을 양자화할 수 있다(S650). 여기서, 색차 간 차분 값은 휘도 성분 또는 제1잔차샘플의 양자화 파라미터에 'QP_C_offset을 이용하여 변화된 양자화 파라미터'를 통해 양자화될 수 있다. QP_C_offset은 다양한 방법을 통해 결정될 수 있다. 예를 들어, QP_C_offset은 휘도 성분 값의 범위(밝기 값의 범위), 색차블록의 크기, 휘도 성분의 양자화 파라미터의 범위들 중에서 하나 이상에 따라 적응적으로 결정될 수 있다. 다른 예로, QP_C_offset은 영상 부호화 장치와 영상 복호화 장치에서 미리 설정된 값으로 결정될 수 있다. 또 다른 예로, 영상 부호화 장치가 QP_C_offset을 임의의 값으로 결정하여 양자화 과정을 수행하고, 양자화 과정에 이용된 QP_C_offset의 값을 영상 복호화 장치로 시그널링할 수도 있다. QP_C_offset을 이용한 양자화 방법은 본 명세서의 다른 실시예들에도 적용될 수 있다.The conversion unit 140 may convert the difference between color differences and the first residual sample, and the quantization unit 145 may quantize the converted difference between the color differences and the converted first residual sample (S650). Here, the difference between color differences may be quantized through'quantization parameter changed using QP_C_offset' in the quantization parameter of the luminance component or the first residual sample. QP_C_offset can be determined through various methods. For example, QP_C_offset may be adaptively determined according to one or more of a range of a luminance component value (a range of a luminance value), a size of a color difference block, and a range of a quantization parameter of a luminance component. As another example, QP_C_offset may be determined as a preset value in the image encoding apparatus and the image decoding apparatus. As another example, the image encoding apparatus may perform a quantization process by determining QP_C_offset as an arbitrary value, and may signal a value of QP_C_offset used in the quantization process to the image decoding apparatus. The quantization method using QP_C_offset may be applied to other embodiments of the present specification.

변환 및 양자화된 색차 간 차분 값 및 제1잔차샘플, 상관관계 정보 및 예측정보가 부호화되어 영상 복호화 장치로 시그널링될 수 있다(S660). 여기서, 제2잔차샘플은 시그널링되지 않는다.A difference value between transformed and quantized color differences, a first residual sample, correlation information, and prediction information may be encoded and signaled to the image decoding apparatus (S660). Here, the second residual sample is not signaled.

엔트로피 복호화부(410)는 색차 간 차분 값, 제1잔차샘플, 상관관계 정보 및 예측정보를 비트스트림으로부터 복호화할 수 있다(S810). 역양자화부(420)는 색차 간 차분 값 및 제1잔차샘플을 역양자화하고, 역변환부(430)는 역양자화된 색차 간 차분 값 및 역양자화된 제1잔차샘플을 역변환할 수 있다(S820).The entropy decoder 410 may decode a difference value between color differences, a first residual sample, correlation information, and prediction information from the bitstream (S810). The inverse quantization unit 420 may inverse quantize the difference between the color differences and the first residual sample, and the inverse transform unit 430 may inversely transform the difference between the inverse quantized color differences and the inverse quantized first residual sample (S820). .

예측부(440)는 예측정보에 기반하여, 제1색차 성분의 예측샘플들(예측블록)과 제2색차 성분의 예측샘플들을 생성 또는 복원할 수 있다(S820).The prediction unit 440 may generate or restore prediction samples (prediction blocks) of the first color difference component and prediction samples of the second color difference component based on the prediction information (S820).

색차 성분 복원부(710)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부(제2잔차샘플 유도 방법의 활성화(허용) 여부 및/또는 적용 여부)를 결정할 수 있다(S830). S830 과정에 대한 구체적인 내용은 별도의 실시예를 통해 후술하도록 한다.The color difference component restoration unit 710 may determine whether to derive the second residual sample from the first residual sample (whether to activate (allow) and/or apply the second residual sample derivation method) (S830). Details of the process S830 will be described later through a separate embodiment.

색차 성분 복원부(710)는 제2잔차샘플을 유도하는 것으로 결정되는 경우에, 상관관계 정보를 이용하여 (역변환된) 제1잔차샘플을 보정할 수 있다(S840). 또한, 색차 성분 복원부(710)는 보정된 제1잔차샘플과 역변환된 색차 간 차분 값을 이용하여 제2잔차샘플을 유도할 수 있다(S850). 보정된 제1잔차샘플과 역변환된 색차 간 차분 값이 합산 또는 가산되어 제2잔차샘플이 유도될 수 있다.When it is determined to induce the second residual sample, the color difference component restoration unit 710 may correct the (inversely transformed) first residual sample by using the correlation information (S840). In addition, the color difference component restoration unit 710 may derive a second residual sample by using a difference value between the corrected first residual sample and the inversely transformed color difference (S850). A second residual sample may be derived by adding or adding a difference value between the corrected first residual sample and the inversely transformed color difference.

S840 과정과 S850 과정은 아래 수학식 3을 통해 수행될 수 있다.Process S840 and process S850 may be performed through Equation 3 below.

Figure pat00003
Figure pat00003

가산기(450)는 제1색차 성분의 예측블록과 제1잔차샘플을 가산하여 제1색차 성분의 색차블록을 복원하고, 제2색차 성분의 예측블록과 유도된 제2잔차샘플을 가산하여 제2색차 성분의 색차블록을 복원할 수 있다(S860).The adder 450 restores the color difference block of the first color difference component by adding the prediction block of the first color difference component and the first residual sample, and adds the prediction block of the second color difference component and the derived second residual sample to obtain a second The color difference block of the color difference component may be restored (S860).

실시예 1-2Example 1-2

실시예 1-2에서는, 색차 간 차분 값 및 상관관계 정보를 유도하는 과정이 잔차샘플들을 양자화하는 단계 이후에 수행되며, 제2잔차샘플을 유도하는 과정이 잔차샘플들을 역양자화하는 단계 이전에 수행된다. In Example 1-2, the process of deriving the difference value and correlation information between color differences is performed after the step of quantizing residual samples, and the process of deriving the second residual sample is performed before the step of inverse quantizing the residual samples. do.

실시예 1-2를 수행하기 위한 영상 부호화 장치의 예시적인 블록도와 순서도가 도 9 및 도 10에 각각 나타나 있으며, 실시예 1-2를 수행하기 위한 영상 복호화 장치의 예시적인 블록도와 순서도가 도 11 및 도 12에 각각 나타나 있다. An exemplary block diagram and flowchart of an image encoding apparatus for performing Embodiment 1-2 are shown in FIGS. 9 and 10, respectively, and FIG. 11 is an exemplary block diagram and flowchart of an image decoding apparatus for performing Embodiment 1-2. And Fig. 12, respectively.

감산기(130)는 제1잔차샘플과 제2잔차샘플을 획득할 수 있다(S1010). 색차 성분들 각각의 예측블록과 색차블록이 감산되어 색차 성분들 각각의 잔차샘플들이 획득될 수 있으며, 예측부(120)의 예측 과정을 통해 색차 성분들 각각의 예측블록과 예측정보가 도출될 수 있다. The subtractor 130 may obtain a first residual sample and a second residual sample (S1010). A prediction block of each of the chrominance components and a chrominance block may be subtracted to obtain residual samples of each of the chrominance components, and prediction blocks and prediction information of each of the chrominance components may be derived through the prediction process of the prediction unit 120. have.

변환부(140)는 제1잔차샘플과 제2잔차샘플을 변환하고, 양자화부(145)는 변환된 제1잔차샘플과 변환된 제2잔차샘플을 양자화할 수 있다(S1020). 여기서, 제2잔차샘플은 제2잔차샘플의 양자화를 위한 양자화 오프셋을 제1잔차샘플의 양자화 파라미터에 합산한 값으로 양자화될 수 있다. 양자화 오프셋은 다양한 방법을 통해 결정될 수 있다. 예를 들어, 양자화 오프셋은 휘도 성분 값의 범위(밝기 값의 범위), 제1잔차샘플 값의 범위, 제2잔차샘플의 비트 뎁스(bit-depth)들 중에서 하나 이상에 따라 적응적으로 결정될 수 있다. 다른 예로, 양자화 오프셋은 영상 부호화 장치와 영상 복호화 장치에서 미리 설정된 값으로 결정될 수 있다. 영상 복호화 장치는 영상 부호화 장치로부터 시그널링된 delta-QP를 이용하여 양자화 파라미터를 결정하고, 양자화 파라미터에 양자화 오프셋을 합산하여 제2잔차샘플의 양자화 파라미터를 도출한 후에, 도출된 양자화 파라미터를 이용하여 제2잔차샘플의 역양자화를 수행할 수 있다. 양자화 오프셋을 이용한 양자화/역양자화 방법은 본 명세서의 다른 실시예들에도 적용될 수 있다.The transform unit 140 may transform the first residual sample and the second residual sample, and the quantization unit 145 may quantize the transformed first residual sample and the transformed second residual sample (S1020). Here, the second residual sample may be quantized by adding a quantization offset for quantization of the second residual sample to a quantization parameter of the first residual sample. The quantization offset can be determined through various methods. For example, the quantization offset may be adaptively determined according to one or more of a range of a luminance component value (a range of a brightness value), a range of a first residual sample value, and a bit-depth of a second residual sample. have. As another example, the quantization offset may be determined as a preset value in the image encoding apparatus and the image decoding apparatus. The image decoding apparatus determines a quantization parameter using delta-QP signaled from the image encoding apparatus, summing the quantization offset to the quantization parameter to derive the quantization parameter of the second residual sample, and then uses the derived quantization parameter to determine the quantization parameter. Inverse quantization of 2 residual samples can be performed. The quantization/dequantization method using the quantization offset may be applied to other embodiments of the present specification.

실시형태에 따라, 제2잔차샘플의 양자화 과정을 통해 “0”의 양자화 계수들이 도출될 수 있다(즉, 양자화 과정에서 차분신호가 존재하지 않을 수 있다). 이 경우, “0”의 양자화 계수들이 도출됨을 지시하는 정보 또는 신택스 요소가 영상 부호화 장치로부터 영상 복호화 장치로 시그널링될 수 있다. Depending on the embodiment, quantization coefficients of “0” may be derived through the quantization process of the second residual sample (that is, the difference signal may not exist during the quantization process). In this case, information indicating that quantization coefficients of "0" are derived or a syntax element may be signaled from the image encoding apparatus to the image decoding apparatus.

한편, (양자화 오프셋이 합산되지 않은) 제1잔차샘플의 양자화 파라미터 값(제1값), 제1잔차샘플의 양자화 파라미터에 양자화 오프셋이 합산된 값(제2값), 제1값과 제2값의 평균 값 중에서, 하나 이상이 제2잔차샘플의 인루프 필터링 과정에 이용될 수 있다. 예를 들어, 제1값, 제2값 및 평균 값 중에서 하나 이상이 제2잔차샘플의 인루프 필터링 강도를 결정하는 파라미터로 이용되거나, 또는 경계 강도를 결정하기 위한 테이블 내 인덱스를 결정하는 파라미터로 이용될 수도 있다. 제1값, 제2값 및 평균 값 중에서 하나 이상이 인루프 필터링 과정에 이용되는 방법은 본 명세서의 다른 실시예들에 적용될 수 있다.On the other hand, the quantization parameter value (first value) of the first residual sample (the quantization offset is not added), the value obtained by adding the quantization offset to the quantization parameter of the first residual sample (second value), the first value and the second value One or more of the average values of the values may be used in the in-loop filtering process of the second residual sample. For example, at least one of a first value, a second value, and an average value is used as a parameter for determining the in-loop filtering strength of the second residual sample, or as a parameter for determining an index in the table for determining the boundary strength. It can also be used. A method in which at least one of the first value, the second value, and the average value is used in the in-loop filtering process may be applied to other embodiments of the present specification.

색차 성분 예측부(510)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부를 결정할 수 있다(S1030). 색차 성분 예측부(510)는 제2잔차샘플을 유도하는 것으로 결정되는 경우에, 양자화된 제1잔차샘플을 보정할 수 있다(S1040). 제1잔차샘플의 보정은 양자화된 제1잔차샘플에 상관관계 정보를 적용함으로써 수행될 수 있다.The color difference component predictor 510 may determine whether to derive a second residual sample from the first residual sample (S1030). When it is determined to derive the second residual sample, the color difference component predictor 510 may correct the quantized first residual sample (S1040). The correction of the first residual sample may be performed by applying correlation information to the quantized first residual sample.

색차 성분 예측부(510)는 보정된 제1잔차샘플과 양자화된 제2잔차샘플을 이용하여 색차 간 차분 값을 유도할 수 있다(S1050). 보정된 제1잔차샘플과 양자화된 제2잔차샘플이 차분 또는 감산되어 색차 간 차분 값이 유도될 수 있다.The color difference component predictor 510 may derive a difference value between color differences using the corrected first residual sample and the quantized second residual sample (S1050). The corrected first residual sample and the quantized second residual sample may be differentiated or subtracted to derive a difference value between color differences.

S1040 과정과 S1050 과정은 아래 수학식 4를 통해 수행될 수 있다.Process S1040 and process S1050 may be performed through Equation 4 below.

Figure pat00004
Figure pat00004

수학식 4에서, Q(T(Cro_resi1))은 변환 및 양자화된 제1잔차샘플을 나타내고, Q(T(Cro_resi2))는 변환 및 양자화된 제2잔차샘플을 나타내며, Q(T(Cro_r))은 '변환 및 양자화된 제1잔차샘플'과 '변환 및 양자화된 제2잔차샘플'로부터 유도된 색차 간 차분 값을 나타낸다.In Equation 4, Q(T(Cro_resi1)) denotes a transformed and quantized first residual sample, Q(T(Cro_resi2)) denotes a transformed and quantized second residual sample, and Q(T(Cro_r)) Denotes a difference value between a color difference derived from a'transformed and quantized first residual sample' and a'transformed and quantized second residual sample'.

색차 간 차분 값, 제1잔차샘플, 상관관계 정보 및 예측정보가 부호화되어 영상 복호화 장치로 시그널링될 수 있다(S1060). 여기서, 제2잔차샘플은 시그널링되지 않는다.A difference value between color differences, a first residual sample, correlation information, and prediction information may be encoded and signaled to an image decoding apparatus (S1060). Here, the second residual sample is not signaled.

엔트로피 복호화부(410)는 색차 간 차분 값, 제1잔차샘플, 상관관계 정보 및 예측정보를 비트스트림으로부터 복호화할 수 있다(S1210). 예측부(440)는 예측정보에 기반하여, 제1색차 성분의 예측샘플들(예측블록)과 제2색차 성분의 예측샘플들을 생성 또는 복원할 수 있다(S1220).The entropy decoder 410 may decode a difference value between color differences, a first residual sample, correlation information, and prediction information from the bitstream (S1210). The prediction unit 440 may generate or restore prediction samples (prediction blocks) of the first color difference component and prediction samples of the second color difference component based on the prediction information (S1220).

색차 성분 복원부(710)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부(즉, 제2잔차샘플 유도 방법의 활성화 여부 및/또는 적용 여부)를 결정할 수 있다(S1230). S1230 과정에 대한 구체적인 내용은 별도의 실시예를 통해 후술하도록 한다.The color difference component restoration unit 710 may determine whether to derive the second residual sample from the first residual sample (ie, whether to activate and/or apply the second residual sample derivation method) (S1230). Details of the S1230 process will be described later through a separate embodiment.

색차 성분 복원부(710)는 제2잔차샘플을 유도하는 것으로 결정되는 경우에, 상관관계 정보를 이용하여 제1잔차샘플을 보정할 수 있다(S1240). 또한, 색차 성분 복원부(710)는 보정된 제1잔차샘플과 색차 간 차분 값을 이용하여 제2잔차샘플을 유도할 수 있다(S1250). 보정된 제1잔차샘플과 색차 간 차분 값이 합산 또는 가산되어 제2잔차샘플이 유도될 수 있다.When it is determined to derive the second residual sample, the color difference component restoration unit 710 may correct the first residual sample using the correlation information (S1240). In addition, the color difference component restoration unit 710 may derive a second residual sample by using the corrected first residual sample and a difference value between the color difference (S1250). A second residual sample may be derived by adding or adding a difference value between the corrected first residual sample and the color difference.

S1240 과정과 S1250 과정은 아래 수학식 5를 통해 수행될 수 있다.Process S1240 and process S1250 may be performed through Equation 5 below.

Figure pat00005
Figure pat00005

역양자화부(420)는 제1잔차샘플과 유도된 제2잔차샘플을 역양자화하고, 역양자화된 제1잔차샘플과 역양자화된 제2잔차샘플을 역변환할 수 있다(S1260). 가산기(450)는 제1색차 성분의 예측블록과 역변환된 제1잔차샘플을 가산하여 제1색차 성분의 색차블록을 복원하고, 제2색차 성분의 예측블록과 역변환된 제2잔차샘플을 가산하여 제2색차 성분의 색차블록을 복원할 수 있다(S1270).The inverse quantization unit 420 may inverse quantize the first residual sample and the derived second residual sample, and inversely transform the inverse quantized first residual sample and the inverse quantized second residual sample (S1260). The adder 450 restores the color difference block of the first color difference component by adding the prediction block of the first color difference component and the inversely transformed first residual sample, and adds the prediction block of the second color difference component and the inversely transformed second residual sample. The color difference block of the second color difference component may be restored (S1270).

실시예 2Example 2

실시예 2는 색차 간 차분 값을 이용하지 않고, 상관관계 정보를 이용하여 제2잔차샘플을 예측하고 유도하는 방법이다. Example 2 is a method of predicting and deriving a second residual sample using correlation information without using a difference value between color differences.

실시예 2는 실시예 1의 '색차 간 차분 값이 이용되지 않는 점'과, '색차 간 차분 값을 유도하는 과정(S640, S1050)이 수행되지 않는 점'에서 실시예 1과 차이점을 가진다. Embodiment 2 is different from Embodiment 1 in that'the difference between color differences is not used' and'the process of deriving the difference between color differences (S640 and S1050) is not performed' of the first embodiment.

이와 같은 차이점들을 제외한 실시예 1의 나머지 과정들은 실시예 2에서도 수행될 수 있다. 따라서, 실시예 1-1과 마찬가지로, 영상 부호화 장치에서 상관관계 정보를 유도하는 과정이 잔차샘플들을 변환하는 단계 이전에 수행될 수 있으며, 영상 복호화 장치에서 제2잔차샘플을 유도하는 과정이 잔차샘플들을 역변환하는 단계 이후에 수행될 수 있다. 또한, 실시예 1-2와 마찬가지로, 영상 부호화 장치에서 상관관계 정보를 유도하는 과정이 잔차샘플들을 양자화하는 단계 이후에 수행될 수 있으며, 영상 복호화 장치에서 제2잔차샘플을 유도하는 과정이 잔차샘플들을 역양자화하는 단계 이전에 수행될 수 있다. 다만, 이하에서는 잔차샘플들을 변환/양자화하는 단계와 잔차샘플들을 역양자화/역변환하는 단계를 제외한 나머지 단계들에 대해서 설명하도록 한다.Excluding these differences, the rest of the processes of the first embodiment may also be performed in the second embodiment. Therefore, as in Example 1-1, the process of deriving the correlation information in the image encoding apparatus may be performed before the step of converting the residual samples, and the process of deriving the second residual sample in the image decoding apparatus is the residual sample. It can be performed after the step of inverse transforming them. Also, as in Example 1-2, the process of deriving the correlation information in the image encoding apparatus may be performed after the step of quantizing residual samples, and the process of deriving the second residual sample in the image decoding apparatus is a residual sample. Can be performed prior to the step of inverse quantizing the s. However, hereinafter, the remaining steps except for the step of transforming/quantizing residual samples and the step of inverse quantizing/inverse transforming residual samples will be described.

실시예 2에 대한 일 예를 설명하기 위한 순서도가 도 13 및 도 14에 나타나 있다. 13 and 14 are flowcharts for explaining an example of the second embodiment.

감산기(130)는 제1색차 성분의 예측블록과 제1색차 성분의 색차블록을 감산하여 제1잔차샘플을 획득하고, 제2색차 성분의 예측블록과 제2색차 성분의 색차블록을 감산하여 제2잔차샘플을 획득할 수 있다(S1310). The subtractor 130 obtains a first residual sample by subtracting the prediction block of the first color difference component and the color difference block of the first color difference component, and subtracts the prediction block of the second color difference component and the color difference block of the second color difference component. Two residual samples may be obtained (S1310).

색차 성분 예측부(510)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부를 결정할 수 있다(S1320). 색차 성분 예측부(510)는 제2잔차샘플을 유도하는 것으로 결정되는 경우에, 제1잔차샘플과 제2잔차샘플을 이용하여 상관관계 정보를 유도할 수 있다(S1330).The color difference component predictor 510 may determine whether to derive a second residual sample from the first residual sample (S1320). When it is determined to derive the second residual sample, the color difference component predictor 510 may derive correlation information using the first residual sample and the second residual sample (S1330).

한편, 실시형태에 따라, 제2잔차샘플을 유도하는 방법은 상관관계 정보에 곱셈 정보만이 포함되는 경우에, 아래와 같은 세 가지 모드를 포함할 수 있다.Meanwhile, according to an embodiment, the method of deriving the second residual sample may include the following three modes when only multiplication information is included in the correlation information.

1) 제1모드 - Cb 잔차샘플들의 값은 시그널링하고, Cr 잔차샘플들의 값은 Cb 잔차샘플들의 값에 -1/2 또는 +1/2의 곱셈 인자를 적용하여 유도.1) Mode 1-The values of Cb residual samples are signaled, and the values of Cr residual samples are derived by applying a multiplication factor of -1/2 or +1/2 to the values of the Cb residual samples.

2) 제2모드 - Cb 잔차샘플들의 값은 시그널링하고, Cr 잔차샘플들의 값은 Cb 잔차샘플들의 값에 -1 또는 +1의 곱셈 인자를 적용하여 유도 유도.2) Second mode-The values of the Cb residual samples are signaled and the values of the Cr residual samples are derived by applying a multiplication factor of -1 or +1 to the values of the Cb residual samples.

3) 제3모드 - Cr 잔차샘플들의 값은 시그널링하고, Cb 잔차샘플들의 값은 Cr 잔차샘플들의 값에 -1/2 또는 +1/2의 곱셈 인자를 적용하여 유도.3) Third mode-The values of the Cr residual samples are signaled, and the values of the Cb residual samples are derived by applying a multiplication factor of -1/2 or +1/2 to the values of the Cr residual samples.

또한, 제2잔차샘플을 유도하는 방법은 상관관계 정보에 오프셋 정보도 포함되는 경우에, 제1모드 내지 제3모드 각각에 오프셋 인자가 적용된 모드들을 더 포함할 수 있다. In addition, the method of deriving the second residual sample may further include modes in which an offset factor is applied to each of the first mode to the third mode when offset information is also included in the correlation information.

이와 같은 실시형태의 경우, 색차 성분 예측부(510)는 위 모드들 중에서 최선의 레이트 왜곡 특징을 갖는 모드를 색차블록을 위한 모드로 결정할 수 있다. 색차 성분 예측부(510)는 앞서 설명된 '일반 방법과 제2잔차샘플을 유도하는 방법 중에서 어느 하나를 결정하는 과정'과 '제2잔차샘플을 유도하는 방법 내 모드들 중에서 어느 하나를 결정하는 과정'을 통합적으로 수행할 수 있다. 예를 들어, 색차 성분 예측부(510)는 '제2잔차샘플을 유도하는 방법 내 모드들과 일반 방법 중에서' 최선의 레이트 왜곡 특징으로 갖는 모드 또는 방법을 색차블록을 위한 방법으로 결정할 수 있다.In this embodiment, the color difference component predictor 510 may determine a mode having the best rate distortion characteristic among the above modes as a mode for a color difference block. The color difference component predictor 510 determines any one of the modes in the'process of determining any one of the general method and the method of deriving the second residual sample' and'the method of deriving the second residual sample' described above. The process can be performed in an integrated manner. For example, the chrominance component predictor 510 may determine a mode or method having the best rate distortion characteristic among'the modes in the method for deriving the second residual sample and the general method' as the method for the color difference block.

제1잔차샘플, 상관관계 정보 및 예측정보는 부호화되어 영상 복호화 장치로 시그널링될 수 있다(S1340). 여기서, 제2잔차샘플과 색차 간 차분 값은 시그널링되지 않는다. The first residual sample, correlation information, and prediction information may be encoded and signaled to an image decoding apparatus (S1340). Here, a difference value between the second residual sample and the color difference is not signaled.

엔트로피 복호화부(410)는 제1잔차샘플, 상관관계 정보 및 예측정보를 비트스트림으로부터 복호화할 수 있다(S1410). The entropy decoding unit 410 may decode the first residual sample, correlation information, and prediction information from the bitstream (S1410).

예측부(440)는 예측정보에 기반하여, 제1색차 성분의 예측샘플들(예측블록)과 제2색차 성분의 예측샘플들을 생성 또는 복원할 수 있다(S1420).The prediction unit 440 may generate or restore prediction samples (prediction blocks) of the first color difference component and prediction samples of the second color difference component based on the prediction information (S1420).

색차 성분 복원부(710)는 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부(즉, 제2잔차샘플 유도 방법의 활성화 여부 및/또는 적용 여부)를 결정할 수 있다(S1430). S1430 과정에 대한 구체적인 내용은 별도의 실시예를 통해 후술하도록 한다.The color difference component restoration unit 710 may determine whether to derive the second residual sample from the first residual sample (ie, whether to activate and/or apply the second residual sample derivation method) (S1430). Details of the S1430 process will be described later through a separate embodiment.

색차 성분 복원부(710)는 제2잔차샘플을 유도하는 것으로 결정되는 경우에, 상관관계 정보를 제1잔차샘플에 적용하여 제2잔차샘플을 유도할 수 있다(S1440). 예를 들어, 상관관계 정보가 곱셈 정보를 포함하는 경우, 곱셈 정보가 나타내는 곱셈 인자가 제1잔차샘플에 적용되어 제2잔차샘플이 유도될 수 있다. 다른 예로, 상관관계 정보가 곱셈 정보와 오프셋 정보를 포함하는 경우에, 곱셈 인자가 적용된 제1잔차샘플에 오프셋 정보가 나타내는 오프셋 인자가 적용되어 제2잔차샘플이 유도될 수 있다.When it is determined to derive the second residual sample, the color difference component restoration unit 710 may derive the second residual sample by applying the correlation information to the first residual sample (S1440). For example, when the correlation information includes multiplication information, a multiplication factor indicated by the multiplication information may be applied to the first residual sample to derive the second residual sample. As another example, when the correlation information includes multiplication information and offset information, an offset factor indicated by the offset information may be applied to the first residual sample to which the multiplication factor is applied to derive the second residual sample.

S1440 과정은 아래 수학식 6을 통해 수행될 수 있다.The S1440 process may be performed through Equation 6 below.

Figure pat00006
Figure pat00006

수학식 6을 수학식 2 내지 5와 비교하면, 실시예 2에서 색차 간 차분 값이 이용되지 않음(Cro_r=0)을 알 수 있다. 따라서, 색차 간 차분 값에 대한 변환/역변환 과정, 양자화/역양자화 과정 및 부호화/복호화 과정은 수행되지 않는다.Comparing Equation 6 with Equations 2 to 5, it can be seen that the difference value between color differences is not used in Example 2 (Cro_r=0). Therefore, a transformation/inverse transformation process, a quantization/inverse quantization process, and an encoding/decoding process for the difference between color differences are not performed.

가산기(450)는 제1색차 성분의 예측블록과 제1잔차샘플을 가산하여 제1색차 성분의 색차블록을 복원하고, 제2색차 성분의 예측블록과 유도된 제2잔차샘플을 가산하여 제2색차 성분의 색차블록을 복원할 수 있다(S1450).The adder 450 restores the color difference block of the first color difference component by adding the prediction block of the first color difference component and the first residual sample, and adds the prediction block of the second color difference component and the derived second residual sample to obtain a second The color difference block of the color difference component may be restored (S1450).

실시예 3Example 3

실시예 3은 제1잔차샘플로부터 제2잔차샘플을 유도할지 여부(제2잔차샘플 복원 방법의 허용(활성화) 여부 및/또는 적용 여부)를 결정하는 방법이다.Embodiment 3 is a method of determining whether to derive a second residual sample from the first residual sample (whether to allow (activate) and/or apply the second residual sample restoration method).

제2잔차샘플 유도 방법의 수행 여부는 다양한 기준들에 의해 결정될 수 있다. 이 다양한 기준들에는 1) 제2잔차샘플의 유도가 허용 및/또는 적용되는지 여부(on/off 여부)를 지시하는 신택스 요소(예: 플래그)의 값, 2) 대상 블록의 예측 모드, 3) 휘도 성분 값의 범위 등이 포함될 수 있다.Whether to perform the second residual sample derivation method may be determined according to various criteria. These various criteria include 1) a value of a syntax element (eg, a flag) indicating whether the derivation of the second residual sample is allowed and/or applied (whether on/off), 2) a prediction mode of the target block, 3) A range of luminance component values, etc. may be included.

기준 1) - on/off 여부를 지시하는 신택스 요소Criterion 1)-Syntax element indicating whether to on/off

제2잔차샘플의 유도 여부를 지시하는 신택스 요소에는 제1신택스 요소 및/또는 제2신택스 요소가 포함될 수 있다. The syntax element indicating whether to derive the second residual sample may include a first syntax element and/or a second syntax element.

제1신택스 요소는 제2잔차샘플 유도 방법이 허용(활성화)되는지 여부(on/off 여부)를 지시하는 신택스 요소로서, 비트스트림의 다양한 위치에서 정의되어 영상 복호화 장치로 시그널링될 수 있다. 예를 들어, 제1신택스 요소는 CTU 이상의 레벨에서 정의되어 시그널링되거나, 단위 블록(PU, TU, CU) 레벨, 타일 레벨, 타일 그룹 레벨, 픽처 레벨 중 하나 이상에서 정의되어 시그널링될 수도 있다.The first syntax element is a syntax element indicating whether the second residual sample derivation method is allowed (activated) (whether on/off), and may be defined at various positions in the bitstream and signaled to the image decoding apparatus. For example, the first syntax element may be defined and signaled at a level of CTU or higher, or may be defined and signaled at one or more of a unit block (PU, TU, CU) level, tile level, tile group level, and picture level.

제2신택스 요소는 제2잔차샘플 유도 방법이 대상 블록(색차블록)에 적용되는지 여부(on/off 여부)를 지시하는 신택스 요소로서, 비트스트림의 다양한 위치에서 정의되어 영상 복호화 장치로 시그널링될 수 있다. 예를 들어, 제2신택스 요소는 CTU 이상의 레벨에서 정의되어 시그널링되거나, 단위 블록(PU, TU, CU) 레벨, 타일 레벨, 타일 그룹 레벨, 픽처 레벨 중 하나 이상에서 정의되어 시그널링될 수도 있다.The second syntax element is a syntax element indicating whether the second residual sample derivation method is applied to the target block (color difference block) (whether on/off), and may be defined at various positions in the bitstream and signaled to the image decoding apparatus. have. For example, the second syntax element may be defined and signaled at a level of CTU or higher, or may be defined and signaled at one or more of a unit block (PU, TU, CU) level, a tile level, a tile group level, and a picture level.

실시형태에 따라, 제1신택스 요소가 비트스트림 내 상대적인 상위 레벨에서 정의되어 시그널링되며, 제2신택스 요소가 비트스트림 내 상대적인 하위 레벨에서 정의되어 시그널링될 수 있다. 이 경우, 제2잔차샘플 유도 방법이 상위 레벨에서 off되면 하위 레벨에서 제2신택스 요소가 시그널링되지 않을 수 있으며, 제2잔차샘플 유도 방법이 상위 레벨에서 on된 경우에도 하위 레벨에서 on/off 여부가 선택적으로 결정될 수 있다. 따라서, 제2잔차샘플 유도 방법에 대한 비트 효율성이 향상될 수 있다.According to an embodiment, a first syntax element may be defined and signaled at a relatively higher level in the bitstream, and a second syntax element may be defined and signaled at a relatively lower level in the bitstream. In this case, when the second residual sample derivation method is turned off at the upper level, the second syntax element may not be signaled at the lower level, and whether the second residual sample derivation method is turned on/off at the lower level even when the second residual sample derivation method is turned on at the upper level. Can be determined selectively. Accordingly, the bit efficiency for the second residual sample derivation method can be improved.

제2잔차샘플 유도 방법의 on/off 여부를 결정하는 일 예가 도 13에 나타나 있다.An example of determining whether to turn on/off the second residual sample derivation method is shown in FIG. 13.

영상 부호화 장치는 제2잔차샘플 유도 방법이 허용되는지 여부를 결정하고, 그 결과를 제1신택스 요소의 값으로 설정하여 영상 복호화 장치로 시그널링할 수 있다. 또한, 영상 부호화 장치는 제2잔차샘플 유도 방법이 적용되는지 여부를 결정하고, 그 결과를 제2신택스 요소의 값으로 설정하여 영상 복호화 장치로 시그널링할 수 있다.The image encoding apparatus may determine whether the second residual sample derivation method is allowed, and may signal the result to the image decoding apparatus by setting the result as a value of the first syntax element. In addition, the image encoding apparatus may determine whether or not the second residual sample derivation method is applied, set the result as a value of the second syntax element, and signal the result to the image decoding apparatus.

영상 복호화 장치는 제1신택스 요소를 비트스트림으로부터 복호화하고(S1510), 제1신택스 요소의 값에 따라 제2잔차샘플 유도 방법이 허용되는지 여부를 판단할 수 있다(S1520). The image decoding apparatus may decode the first syntax element from the bitstream (S1510), and determine whether a second residual sample derivation method is allowed according to the value of the first syntax element (S1520).

영상 복호화 장치는 제2신택스 요소가 제2잔차샘플 유도 방법이 허용됨을 지시하는 경우에(제1신택스 요소=1, S1520), 제2신택스 요소를 비트스트림으로부터 복호화할 수 있다(S1530). 또한, 영상 복호화 장치는 제2신택스 요소의 값에 따라 제2잔차샘플 유도 방법이 적용되는지 여부를 판단할 수 있다(S1540). When the second syntax element indicates that the second residual sample derivation method is allowed (first syntax element = 1, S1520), the video decoding apparatus may decode the second syntax element from the bitstream (S1530). In addition, the image decoding apparatus may determine whether a second residual sample derivation method is applied according to the value of the second syntax element (S1540).

영상 복호화 장치는 제2신택스 요소가 제2잔차샘플 유도 방법이 적용됨을 지시하는 경우에(제2신택스 요소=0, S1540), 상관관계 정보 및 제1잔차샘플(또는, 상관관계 정보, 제1잔차샘플 및 색차 간 차분 값)에 기초하여 제2잔차샘플을 유도할 수 있다(S1550).In the case where the second syntax element indicates that the second residual sample derivation method is applied (the second syntax element = 0, S1540), the correlation information and the first residual sample (or correlation information, the first A second residual sample may be derived based on the residual sample and a difference value between color differences (S1550).

S1520 과정에서 제1신택스 요소가 제2잔차샘플 유도 방법이 허용되지 않음을 지시하거나(제1신택스 요소=0), S1540 과정에서 제2신택스 요소가 제2잔차샘플 유도 방법이 적용되지 않음을 지시하는 경우에는, 제2잔차샘플의 유도가 수행되지 않는다.In step S1520, the first syntax element indicates that the method for deriving the second residual sample is not allowed (the first syntax element = 0), or in step S1540, the second syntax element indicates that the method for deriving the second residual sample is not applied. In this case, the derivation of the second residual sample is not performed.

기준 2) - 대상 블록의 예측 모드Criterion 2)-prediction mode of the target block

제2잔차샘플 유도 방법의 on/off 여부는 대상 블록(색차블록)의 예측 모드를 고려하여(예측 모드에 따라) 적응적으로 결정될 수 있다. Whether to turn on/off the second residual sample derivation method may be adaptively determined in consideration of the prediction mode of the target block (color difference block) (according to the prediction mode).

예를 들어, 색차블록이 인트라 모드, 인터 모드, IBC 모드, 팔레트 모드 중에서 어느 하나의 모드로 예측된 경우에, 제2잔차샘플의 유도가 on 또는 off될 수 있다. 다른 예로, 색차블록이 인트라 모드, 인터 모드, IBC 모드, 팔레트 모드 중에서 둘 이상의 모드로 예측된 경우에(둘 이상의 모드들 중에서 어느 하나의 모드로 예측된 경우에) 제2잔차샘플의 유도가 on 또는 off될 수 있다. For example, when a color difference block is predicted in one of an intra mode, an inter mode, an IBC mode, and a palette mode, the derivation of the second residual sample may be turned on or off. As another example, when the color difference block is predicted in two or more of the intra mode, inter mode, IBC mode, and palette mode (when predicted by any one of two or more modes), the derivation of the second residual sample is turned on. Or can be turned off.

또 다른 예로, 인트라 예측 모드 중에서 CCLM(cross-component linear model) 또는 DM(direct mode)을 통해 색차블록이 예측된 경우에, 제2잔차샘플의 유도가 on 또는 off될 수 있다. 이 경우, 제2잔차샘플의 유도에 대한 on/off를 지시하는 정보는 색차블록이 CCLM 또는 DM을 통해 예측된 경우에만 영상 복호화 장치로 시그널링될 수 있다.As another example, when a color difference block is predicted through a cross-component linear model (CCLM) or a direct mode (DM) among intra prediction modes, the derivation of the second residual sample may be turned on or off. In this case, information indicating on/off for derivation of the second residual sample may be signaled to the image decoding apparatus only when the color difference block is predicted through CCLM or DM.

또 다른 예로, 색차블록이 인터 예측 모드 중에서 양방향(bi-prediction) 예측 모드 또는 머지(merge) 모드를 통해 예측된 경우 및, 0-번째 참조 영상을 참조하여 예측된 경우에, 제2잔차샘플의 유도가 on 또는 off될 수 있다. 제2잔차샘플의 유도에 대한 on/off를 지시하는 정보는 색차블록이 양방향 예측 모드 또는 머지 모드 통해 예측되거나, 0-번째 참조 영상을 참조하여 예측된 경우에만 영상 복호화 장치로 시그널링될 수 있다.As another example, when a color difference block is predicted through a bi-prediction mode or a merge mode among inter prediction modes, and when predicted with reference to the 0-th reference image, the second residual sample Induction can be turned on or off. Information indicating on/off for derivation of the second residual sample may be signaled to the image decoding apparatus only when the color difference block is predicted through a bidirectional prediction mode or a merge mode, or predicted with reference to the 0-th reference image.

색차블록의 예측 모드를 고려하는 예는 제1신택스 요소와 제2신택스 요소를 이용하는 앞선 예와 결합될 수 있다. 예를 들어, S1520 과정에서, 제1신택스 요소=1이면서 색차블록의 예측 모드가 제2잔차샘플의 유도가 on되는 예측 모드에 해당하는 경우에, 제2신택스 요소가 비트스트림으로부터 복호화될 수 있다(S1530). 즉, 제2신택스 요소는 색차블록의 예측 모드를 고려하여 복호화 여부가 결정될 수 있다.The example of considering the prediction mode of the color difference block may be combined with the previous example using the first syntax element and the second syntax element. For example, in step S1520, when the first syntax element = 1 and the prediction mode of the color difference block corresponds to the prediction mode in which the derivation of the second residual sample is on, the second syntax element may be decoded from the bitstream. (S1530). That is, whether to decode the second syntax element may be determined in consideration of the prediction mode of the color difference block.

기준 3) - 휘도 성분 값의 범위Criterion 3)-Range of luminance component values

휘도 성분 값의 범위(밝기 값의 범위)를 2개 이상의 구간으로 분할하고, 분할된 구간 중에서 대상 블록의 휘도 성분 값이 어느 구간에 속하는지 여부에 따라 제2잔차샘플 유도 방법의 적용 여부가 결정될 수 있다.The range of the luminance component value (the range of the luminance value) is divided into two or more sections, and whether the second residual sample derivation method is applied or not is determined according to which section the luminance component value of the target block belongs among the divided sections. I can.

예를 들어, 휘도 성분 값의 범위가 2개의 구간(제1구간 및 제2구간)으로 분할된 경우에, 대상 블록의 휘도 성분 값이 제1구간에 속하는 경우에는 제2잔차샘플 유도 방법을 적용하지 않고, 대상 블록의 휘도 성분 값이 제2구간에 속하는 경우에 제2잔차샘플 유도 방법을 적용할 수 있다. 또한, 이를 반대로 적용할 수도 있다.For example, when the range of the luminance component value is divided into two sections (the first section and the second section), when the luminance component value of the target block belongs to the first section, the second residual sample derivation method is applied. Instead, a second residual sample derivation method may be applied when the luminance component value of the target block belongs to the second section. It is also possible to apply this in reverse.

2개 이상의 구간들 중에서, 제2잔차샘플 유도 방법이 적용되지 않는 구간은 사용자의 시각이 예민하게 반응할 수 있는 '시각 인지 구간'에 해당할 수 있고, 제2잔차샘플 유도 방법이 적용되는 구간은 '시각 인지 구간'에 해당하지 않을 수 있다. 따라서, 시각 인지 구간에 대해서는 제2잔차샘플 유도 방법을 적용하지 않고, 시각 인지 구간이 아닌 경우에 대해서만 제2잔차샘플 유도 방법을 선택적으로 적용할 수 있으므로, 주관적 화질의 저하를 방지할 수 있다.Among two or more sections, a section to which the second residual sample derivation method is not applied may correspond to a'visual recognition section' in which the user's vision can react sensitively, and a section to which the second residual sample derivation method is applied May not correspond to the'visual recognition interval'. Accordingly, since the second residual sample derivation method is not applied to the visual recognition section, and the second residual sample derivation method can be selectively applied only to the non-visual recognition section, it is possible to prevent subjective image quality from deteriorating.

제1구간의 범위를 나타내는 값 및 제2구간의 범위를 나타내는 값 중에서 하나 이상(구간 값)이 영상 부호화 장치로부터 영상 복호화 장치로 시그널링될 수 있다. 실시형태에 따라, 구간 값은 시그널링 없이 영상 부호화 장치와 영상 복호화 장치 간에 미리 설정될 수도 있다.One or more (interval values) of a value representing the range of the first section and a value representing the range of the second section may be signaled from the video encoding apparatus to the video decoding apparatus. Depending on the embodiment, the interval value may be preset between the image encoding apparatus and the image decoding apparatus without signaling.

기준 4) - 양자화 결과Criterion 4)-Quantization result

제2색차 성분에 대한 예측의 정확성이 높아 제2잔차샘플에 대한 양자화 계수들의 값이 매우 작은 경우(양자화 계수가 적게 발생하거나, 양자화 계수가 적게 존재하는 경우)에, 제2잔차샘플 유도 방법이 선택적으로 적용될 수 있다. 또한, 이 경우, 제2잔차샘플 전체에 대한 양자화를 생략하는 것이 아닌, 일부에 대한 양자화를 생략할 수도 있다(즉, 제2잔차샘플의 일부만을 시그널링).When the prediction accuracy for the second color difference component is high and the values of the quantization coefficients for the second residual sample are very small (when there are few quantization coefficients or there are few quantization coefficients), the second residual sample derivation method is Can be applied selectively. Also, in this case, not all of the second residual sample is omitted, but the quantization of a part of the second residual sample may be omitted (ie, only a part of the second residual sample is signaled).

그 외 기준들Other standards

휘도 성분의 DQP(delta-QP)가 미리 설정된 값 이상이거나, 색차블록에 대해 변환 스킵 모드(transform skip)가 적용되지 않는 경우 또는, 대상 블록에 BDPCM(block differential coded modulation) 모드가 적용되지 않는 경우에, 제2잔차샘플 유도 방법이 적용되거나 적용되지 않을 수 있다.When the DQP (delta-QP) of the luminance component is greater than or equal to a preset value, when the transform skip mode is not applied to the color difference block, or when the block differential coded modulation (BDPCM) mode is not applied to the target block In E, the second residual sample derivation method may or may not be applied.

대상 블록이 포함된 픽처가 임의 접근(random access)을 위한 IDR(instantaneous decoding recoding) 픽처 또는 GRA(Gradual Random Access) 픽처인 경우에, 제2잔차샘플 유도 방법이 적용되지 않을 수 있다.When the picture including the target block is an instantaneous decoding recoding (IDR) picture for random access or a gradual random access (GRA) picture, the second residual sample derivation method may not be applied.

이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely illustrative of the technical idea of the present embodiment, and those of ordinary skill in the technical field to which the present embodiment belongs will be able to make various modifications and variations without departing from the essential characteristics of the present embodiment. Accordingly, the present exemplary embodiments are not intended to limit the technical idea of the present exemplary embodiment, but are illustrative, and the scope of the technical idea of the present exemplary embodiment is not limited by these exemplary embodiments. The scope of protection of this embodiment should be interpreted by the following claims, and all technical ideas within the scope equivalent thereto should be construed as being included in the scope of the present embodiment.

120, 440: 예측부 130: 감산기
170, 450: 가산기 180, 460: 필터부
120, 440: prediction unit 130: subtractor
170, 450: adder 180, 460: filter unit

Claims (14)

복원하고자 하는 대상 블록의 색차블록을 복원하는 방법으로서,
제1색차 성분의 잔차샘플들인 제1잔차샘플과 제2색차 성분의 잔차샘플들인 제2잔차샘플 사이의 상관관계 정보, 상기 제1잔차샘플 및, 상기 색차블록의 예측정보를 비트스트림으로부터 복호화하는 단계;
상기 예측정보에 기반하여, 상기 제1색차 성분의 예측샘플들과 상기 제2색차 성분의 예측샘플들을 생성하는 단계;
상기 상관관계 정보를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는 단계; 및
상기 제1색차 성분의 예측샘플들과 상기 제1잔차샘플을 가산하여 상기 제1색차 성분의 색차블록을 복원하고, 상기 제2색차 성분의 예측샘플들과 상기 제2잔차샘플을 가산하여 상기 제2색차 성분의 색차블록을 복원하는 단계를 포함하는, 색차블록 복원 방법.
As a method of restoring a color difference block of a target block to be restored,
To decode correlation information between the first residual sample, which is the residual samples of the first color difference component and the second residual sample, which is the residual samples of the second color difference component, the first residual sample, and prediction information of the color difference block from a bitstream. step;
Generating prediction samples of the first color difference component and prediction samples of the second color difference component based on the prediction information;
Applying the correlation information to the first residual sample to derive the second residual sample; And
The prediction samples of the first color difference component and the first residual sample are added to restore the color difference block of the first color difference component, and the prediction samples of the second color difference component and the second residual sample are added to the second residual sample. A color difference block restoration method comprising the step of restoring a color difference block of a two color difference component.
제1항에 있어서,
상기 제1색차 성분은,
Cb 색차 성분 및 Cr 색차 성분 중에서 어느 하나에 해당하고,
상기 제2색차 성분은,
상기 Cb 색차 성분 및 상기 Cr 색차 성분 중에서 다른 하나에 해당하는, 색차블록 복원 방법.
The method of claim 1,
The first color difference component,
Corresponds to any one of the Cb color difference component and the Cr color difference component,
The second color difference component,
The color difference block restoration method corresponding to the other one of the Cb color difference component and the Cr color difference component.
제1항에 있어서,
상기 복호화하는 단계는,
상기 상관관계 정보를 상기 비트스트림의 픽처 레벨로부터 복호화하는, 색차블록 복원 방법.
The method of claim 1,
The decoding step,
A color difference block restoration method for decoding the correlation information from a picture level of the bitstream.
제1항에 있어서,
상기 상관관계 정보는,
상기 제1잔차샘플과 상기 제2잔차샘플 사이의 곱셈 인자(multiplication factor)를 나타내기 위한 곱셈 정보를 포함하고,
상기 유도하는 단계는,
상기 곱셈 정보가 나타내는 곱셈 인자를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는, 색차블록 복원 방법.
The method of claim 1,
The correlation information,
Including multiplication information for indicating a multiplication factor between the first residual sample and the second residual sample,
The inducing step,
A method of reconstructing a color difference block by applying a multiplication factor indicated by the multiplication information to the first residual sample to derive the second residual sample.
제4항에 있어서,
상기 상관관계 정보는,
상기 제1잔차샘플과 상기 제2잔차샘플 사이의 오프셋(offset) 인자를 나타내기 위한 오프셋 정보를 더 포함하고,
상기 유도하는 단계는,
상기 곱셈 인자가 적용된 제1잔차샘플에 상기 오프셋 정보가 나타내는 오프셋 인자를 적용하여, 상기 제2잔차샘플을 유도하는, 색차블록 복원 방법.
The method of claim 4,
The correlation information,
Further comprising offset information for indicating an offset factor between the first residual sample and the second residual sample,
The inducing step,
A method of reconstructing a color difference block, wherein the second residual sample is derived by applying an offset factor indicated by the offset information to the first residual sample to which the multiplication factor is applied.
제1항에 있어서,
상기 복호화하는 단계는,
상기 제2잔차샘플의 유도가 허용되는지 여부를 나타내는 제1신택스 요소를 상기 비트스트림의 SPS(sequence parameter set) 레벨로부터 복호화하는 단계; 및
상기 제1신택스 요소가 상기 제2잔차샘플의 유도가 허용됨을 지시하는 경우에, 상기 제2잔차샘플의 유도가 상기 색차블록에 적용되는지 여부를 지시하는 제2신택스 요소를 상기 비트스트림 내 상기 SPS 레벨의 하위 레벨로부터 복호화하는 단계를 포함하며,
상기 유도하는 단계는,
상기 제2신택스 요소가, 상기 제2잔차샘플의 유도가 상기 색차블록에 적용됨을 지시하는 경우에 상기 제2잔차샘플을 유도하는, 색차블록 복원 방법.
The method of claim 1,
The decoding step,
Decoding a first syntax element indicating whether derivation of the second residual sample is allowed from a sequence parameter set (SPS) level of the bitstream; And
When the first syntax element indicates that derivation of the second residual sample is allowed, a second syntax element indicating whether derivation of the second residual sample is applied to the color difference block is added to the SPS in the bitstream. Including the step of decoding from the lower level of the level,
The inducing step,
A color difference block reconstruction method for deriving the second residual sample when the second syntax element indicates that the derivation of the second residual sample is applied to the color difference block.
제6항에 있어서,
상기 제2신택스 요소를 복호화하는 단계는,
상기 대상 블록의 예측 모드를 고려하여 상기 제2신택스 요소를 복호화하는, 색차블록 복원 방법.
The method of claim 6,
The step of decoding the second syntax element,
A method of reconstructing a color difference block, wherein the second syntax element is decoded in consideration of a prediction mode of the target block.
복원하고자 하는 대상 블록의 색차블록을 복원하는 영상 복호화 장치로서,
제1색차 성분의 잔차샘플들인 제1잔차샘플과 제2색차 성분의 잔차샘플들인 제2잔차샘플 사이의 상관관계 정보, 상기 제1잔차샘플 및, 상기 색차블록의 예측정보를 비트스트림으로부터 복호화하는 복호화부;
상기 예측정보에 기반하여, 상기 제1색차 성분의 예측샘플들과 상기 제2색차 성분의 예측샘플들을 생성하는 예측부;
상기 상관관계 정보를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는 색차 성분 복원부; 및
상기 제1색차 성분의 예측샘플들과 상기 제1잔차샘플을 가산하여 상기 제1색차 성분의 색차블록을 복원하고, 상기 제2색차 성분의 예측샘플들과 상기 제2잔차샘플을 가산하여 상기 제2색차 성분의 색차블록을 복원하는 가산기를 포함하는, 영상 복호화 장치.
An image decoding apparatus that restores a color difference block of a target block to be restored,
To decode correlation information between the first residual sample, which is the residual samples of the first color difference component and the second residual sample, which is the residual samples of the second color difference component, the first residual sample, and prediction information of the color difference block from a bitstream. Decoding unit;
A prediction unit that generates prediction samples of the first color difference component and prediction samples of the second color difference component based on the prediction information;
A color difference component restoration unit for inducing the second residual sample by applying the correlation information to the first residual sample; And
The prediction samples of the first color difference component and the first residual sample are added to restore the color difference block of the first color difference component, and the prediction samples of the second color difference component and the second residual sample are added to the second residual sample. An image decoding apparatus comprising an adder for reconstructing a color difference block of two color difference components.
제8항에 있어서,
상기 제1색차 성분은,
Cb 색차 성분 및 Cr 색차 성분 중에서 어느 하나에 해당하고,
상기 제2색차 성분은,
상기 Cb 색차 성분 및 상기 Cr 색차 성분 중에서 다른 하나에 해당하는, 영상 복호화 장치.
The method of claim 8,
The first color difference component,
Corresponds to any one of the Cb color difference component and the Cr color difference component,
The second color difference component,
The image decoding apparatus corresponding to the other one of the Cb color difference component and the Cr color difference component.
제8항에 있어서,
상기 복호화부는,
상기 상관관계 정보를 상기 비트스트림의 픽처 레벨로부터 복호화하는, 영상 복호화 장치.
The method of claim 8,
The decryption unit,
A video decoding apparatus for decoding the correlation information from a picture level of the bitstream.
제8항에 있어서,
상기 상관관계 정보는,
상기 제1잔차샘플과 상기 제2잔차샘플 사이의 곱셈 인자(multiplication factor)를 나타내기 위한 곱셈 정보를 포함하고,
상기 색차 성분 복원부는,
상기 곱셈 정보가 나타내는 곱셈 인자를 상기 제1잔차샘플에 적용하여, 상기 제2잔차샘플을 유도하는, 영상 복호화 장치.
The method of claim 8,
The correlation information,
Including multiplication information for indicating a multiplication factor between the first residual sample and the second residual sample,
The color difference component restoration unit,
A video decoding apparatus for inducing the second residual sample by applying a multiplication factor indicated by the multiplication information to the first residual sample.
제11항에 있어서,
상기 상관관계 정보는,
상기 제1잔차샘플과 상기 제2잔차샘플 사이의 오프셋(offset) 인자를 나타내기 위한 오프셋 정보를 더 포함하고,
상기 색차 성분 복원부는,
상기 곱셈 인자가 적용된 제1잔차샘플에 상기 오프셋 정보가 나타내는 오프셋 인자를 적용하여, 상기 제2잔차샘플을 유도하는, 영상 복호화 장치.
The method of claim 11,
The correlation information,
Further comprising offset information for indicating an offset factor between the first residual sample and the second residual sample,
The color difference component restoration unit,
An image decoding apparatus for inducing the second residual sample by applying an offset factor indicated by the offset information to the first residual sample to which the multiplication factor is applied.
제8항에 있어서,
상기 복호화부는,
상기 제2잔차샘플의 유도가 허용되는지 여부를 나타내는 제1신택스 요소를 상기 비트스트림의 SPS(sequence parameter set) 레벨로부터 복호화하고, 상기 제1신택스 요소가 상기 제2잔차샘플의 유도가 허용됨을 지시하는 경우에 상기 제2잔차샘플의 유도가 상기 색차블록에 적용되는지 여부를 지시하는 제2신택스 요소를 상기 비트스트림 내 상기 SPS 레벨의 하위 레벨로부터 복호화하며,
상기 색차 성분 복원부는,
상기 제2신택스 요소가, 상기 제2잔차샘플의 유도가 상기 색차블록에 적용됨을 지시하는 경우에 상기 제2잔차샘플을 유도하는, 영상 복호화 장치.
The method of claim 8,
The decryption unit,
A first syntax element indicating whether derivation of the second residual sample is allowed is decoded from the SPS (sequence parameter set) level of the bitstream, and the first syntax element indicates that derivation of the second residual sample is allowed. In this case, a second syntax element indicating whether the derivation of the second residual sample is applied to the color difference block is decoded from a lower level of the SPS level in the bitstream,
The color difference component restoration unit,
The image decoding apparatus, for inducing the second residual sample when the second syntax element indicates that the derivation of the second residual sample is applied to the color difference block.
제13항에 있어서,
상기 복호화부는,
상기 대상 블록의 예측 모드를 고려하여 상기 제2신택스 요소를 복호화하는, 영상 복호화 장치.
The method of claim 13,
The decryption unit,
An image decoding apparatus for decoding the second syntax element in consideration of a prediction mode of the target block.
KR1020200058335A 2019-05-15 2020-05-15 Method and apparatus for reconstructing chroma block KR20200132762A (en)

Priority Applications (7)

Application Number Priority Date Filing Date Title
PCT/KR2020/006432 WO2020231225A1 (en) 2019-05-15 2020-05-15 Method for restoring chrominance block and apparatus for decoding image
US17/611,466 US11863754B2 (en) 2019-05-15 2020-05-15 Method and for reconstructing chroma block and video decoding apparatus
US18/509,580 US20240089454A1 (en) 2019-05-15 2023-11-15 Method and for reconstructing chroma block and video decoding apparatus
US18/509,537 US20240089452A1 (en) 2019-05-15 2023-11-15 Method and for reconstructing chroma block and video decoding apparatus
US18/509,624 US20240089456A1 (en) 2019-05-15 2023-11-15 Method and for reconstructing chroma block and video decoding apparatus
US18/509,557 US20240089453A1 (en) 2019-05-15 2023-11-15 Method and for reconstructing chroma block and video decoding apparatus
US18/509,596 US20240089455A1 (en) 2019-05-15 2023-11-15 Method and for reconstructing chroma block and video decoding apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20190056974 2019-05-15
KR1020190056974 2019-05-15

Publications (1)

Publication Number Publication Date
KR20200132762A true KR20200132762A (en) 2020-11-25

Family

ID=73645516

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200058335A KR20200132762A (en) 2019-05-15 2020-05-15 Method and apparatus for reconstructing chroma block

Country Status (2)

Country Link
KR (1) KR20200132762A (en)
CN (1) CN114009031A (en)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101138392B1 (en) * 2004-12-30 2012-04-26 삼성전자주식회사 Color image encoding and decoding method and apparatus using a correlation between chrominance components
KR101261526B1 (en) * 2006-07-04 2013-05-06 삼성전자주식회사 An video encoding/decoding method and apparatus
KR101362757B1 (en) * 2007-06-11 2014-02-14 삼성전자주식회사 Method and apparatus for image encoding and decoding using inter color compensation
US20140348240A1 (en) * 2013-05-22 2014-11-27 Qualcomm Incorporated Video coding using sample prediction among color components
KR20150048637A (en) * 2013-10-28 2015-05-07 한국전자통신연구원 Method and apparatus for inter color component prediction
US10397607B2 (en) * 2013-11-01 2019-08-27 Qualcomm Incorporated Color residual prediction for video coding
WO2015100522A1 (en) * 2013-12-30 2015-07-09 Mediatek Singapore Pte. Ltd. Methods for inter-component residual prediction
WO2016138513A1 (en) * 2015-02-27 2016-09-01 Arris Enterprises, Inc. Modification of unification of intra block copy and inter signaling related syntax and semantics
US11032550B2 (en) * 2016-02-25 2021-06-08 Mediatek Inc. Method and apparatus of video coding
KR102601732B1 (en) * 2016-05-31 2023-11-14 삼성디스플레이 주식회사 Method for image encoding and method for image decoding
US11019339B2 (en) * 2017-07-12 2021-05-25 Futurewei Technologies, Inc. Fractional quantization parameter offset in video compression

Also Published As

Publication number Publication date
CN114009031A (en) 2022-02-01

Similar Documents

Publication Publication Date Title
KR20170042526A (en) Method for image encoding and computer readable redording meduim thereof
KR20110017300A (en) Method and apparatus for encoding and decoding image using large transform unit
KR20200110214A (en) Method and apparatus for intra prediction in which prediction unit is divided into sub-units
KR20200110220A (en) Method and apparatus for efficiently coding residual block
US20230090210A1 (en) Inverse quantization device and method used in video decoding device
US20220353505A1 (en) Method for reconstructing residual blocks of chroma blocks, and video decoding apparatus
KR20210018137A (en) Method and apparatus for intra prediction coding of video data
KR20200056272A (en) Inter prediction method and apparatus using the same
KR20140004018A (en) The method of encoding and decoding of quantization matrix and the apparatus for using the same
KR20200133185A (en) Method and Apparatus for Quantization Used in Image Decoding Device
KR20210037508A (en) Method and apparatus for processing escape sample
KR20200132762A (en) Method and apparatus for reconstructing chroma block
KR20210002321A (en) Method and apparatus for adaptively setting resolution
KR20200073124A (en) Filtering method and apparatus
KR20140071297A (en) Method and apparatus for encoding and decoding image using large transform unit
KR101625632B1 (en) Method and apparatus for encoding and decoding image using large transform unit
KR101603271B1 (en) Method and apparatus for encoding and decoding image using large transform unit
US11863754B2 (en) Method and for reconstructing chroma block and video decoding apparatus
KR20210037506A (en) Method and apparatus for reconstructing residual block of chroma block
KR101971626B1 (en) Method and apparatus for encoding and decoding image using large transform unit
KR101857798B1 (en) Method and apparatus for encoding and decoding image using large transform unit
KR101720194B1 (en) Method and apparatus for encoding and decoding image using large transform unit
KR20200145773A (en) Method and apparatus for controlling coding tools
KR20200112623A (en) Method for reconstructing in unit of sub-block and apparatus
KR101603272B1 (en) Method and apparatus for encoding and decoding image using large transform unit

Legal Events

Date Code Title Description
A201 Request for examination