KR20210035413A - Explicit peripheral kernel application to matrix-based intra prediction in video codecs - Google Patents

Explicit peripheral kernel application to matrix-based intra prediction in video codecs Download PDF

Info

Publication number
KR20210035413A
KR20210035413A KR1020190117169A KR20190117169A KR20210035413A KR 20210035413 A KR20210035413 A KR 20210035413A KR 1020190117169 A KR1020190117169 A KR 1020190117169A KR 20190117169 A KR20190117169 A KR 20190117169A KR 20210035413 A KR20210035413 A KR 20210035413A
Authority
KR
South Korea
Prior art keywords
unit
picture
prediction
transform
block
Prior art date
Application number
KR1020190117169A
Other languages
Korean (ko)
Inventor
이범식
Original Assignee
(주)휴맥스
조선대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)휴맥스, 조선대학교산학협력단 filed Critical (주)휴맥스
Priority to KR1020190117169A priority Critical patent/KR20210035413A/en
Publication of KR20210035413A publication Critical patent/KR20210035413A/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

Disclosed are a video signal processing method for encoding or decoding a video signal, and a device therefor. According to the present invention, efficiency of video coding can be increased. Moreover, the encoding device (100) comprises a transform unit (110), a quantization unit (115), a dequantization unit (120), a reverse transform unit (125), a filtering unit (130), a prediction unit (150), and an entropy coding unit (160).

Description

비디오 코덱에서 행렬 기반 인트라 예측에 따른 명시적 주변환 커널 적용 방법{EXPLICIT PERIPHERAL KERNEL APPLICATION TO MATRIX-BASED INTRA PREDICTION IN VIDEO CODECS}Explicit peripheral kernel application method according to matrix-based intra prediction in video codec {EXPLICIT PERIPHERAL KERNEL APPLICATION TO MATRIX-BASED INTRA PREDICTION IN VIDEO CODECS}

본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.The present invention relates to a video signal processing method and apparatus, and more particularly, to a video signal processing method and apparatus for encoding or decoding a video signal.

압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 압축이라고 일컫는다. 비디오 신호에 대한 압축 부호화는 공간적인 상관관계, 시간적인 상관관계, 확률적인 상관관계 등을 고려하여 잉여 정보를 제거함으로써 이루어진다. 그러나 최근의 다양한 미디어 및 데이터 전송 매체의 발전으로 인해, 더욱 고효율의 비디오 신호 처리 방법 및 장치가 요구되고 있다.Compression coding refers to a series of signal processing techniques for transmitting digitized information through a communication line or storing it in a format suitable for a storage medium. Objects of compression encoding include objects such as audio, video, and text, and in particular, a technique for performing compression encoding on an image is referred to as video compression. Compression coding of a video signal is performed by removing redundant information in consideration of spatial correlation, temporal correlation, and probabilistic correlation. However, due to the recent development of various media and data transmission media, a more efficient video signal processing method and apparatus is required.

본 발명의 실시예에 따르면 비디오 코딩의 효율을 증가시킬 수 있다. According to an embodiment of the present invention, it is possible to increase the efficiency of video coding.

상기와 같은 과제를 해결하기 위해, 본 발명은 다양한 비디오 신호 처리 장치 및 비디오 신호 처리 방법을 제공한다.In order to solve the above problems, the present invention provides various video signal processing apparatuses and video signal processing methods.

본 발명의 실시예에 따르면 비디오 코딩의 효율을 증가시킬 수 있다.According to an embodiment of the present invention, it is possible to increase the efficiency of video coding.

도 1은 본 발명의 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다.
도 2는 본 발명의 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.
도 3은 픽처 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.
도 5. 일반적인 방향성 인트라 예측 방법을 도시한다.
도 6. 행렬 기반 인트라 예측 방법을 도시한다.
도 7. Explicit MTS의 경우, MTS 인트라 예측 시 다중 변환 커널 이용 및 명시적 변환 식별자 파싱 조건
1 is a schematic block diagram of a video signal encoding apparatus according to an embodiment of the present invention.
2 is a schematic block diagram of a video signal decoding apparatus according to an embodiment of the present invention.
3 shows an embodiment in which a coding tree unit is divided into coding units within a picture.
4 shows an embodiment of a method for signaling the division of a quad tree and a multi-type tree.
Figure 5. A general directional intra prediction method is shown.
Figure 6. A matrix-based intra prediction method is shown.
Fig. 7. In the case of Explicit MTS, conditions for using multiple transform kernels and explicit transform identifier parsing when MTS intra prediction

본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.The terms used in the present specification have been selected as currently widely used general terms as possible while considering functions in the present invention, but this may vary according to the intention, custom, or the emergence of new technologies of technicians in the field. In addition, in certain cases, there are terms arbitrarily selected by the applicant, and in this case, the meaning will be described in the description of the corresponding invention. Therefore, it should be noted that the terms used in the present specification should be interpreted based on the actual meaning of the term and the entire contents of the present specification, not a simple name of the term.

본 명세서에서 일부 용어들은 다음과 같이 해석될 수 있다. 코딩은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있다. 본 명세서에서 비디오 신호의 인코딩(부호화)을 수행하여 비디오 신호 비트스트림을 생성하는 장치는 인코딩 장치 혹은 인코더로 지칭되며, 비디오 신호 비트스트림의 디코딩(복호화)을 수행하여 비디오 신호를 복원하는 장치는 디코딩 장치 혹은 디코더로 지칭된다. 또한, 본 명세서에서 비디오 신호 처리 장치는 인코더 및 디코더를 모두 포함하는 개념의 용어로 사용된다. 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다. '유닛'은 영상 처리의 기본 단위 또는 픽쳐의 특정 위치를 지칭하는 의미로 사용되며, 루마(luma) 성분과 크로마(chroma) 성분을 모두 포함하는 이미지 영역을 가리킨다. 또한, '블록'은 루마 성분 및 크로마 성분들(즉, Cb 및 Cr) 중 특정 성분을 포함하는 이미지 영역을 가리킨다. 다만, 실시예에 따라서 '유닛', '블록', '파티션' 및 '영역' 등의 용어는 서로 혼용하여 사용될 수 있다. 또한, 본 명세서에서 유닛은 코딩 유닛, 예측 유닛, 변환 유닛을 모두 포함하는 개념으로 사용될 수 있다. 픽쳐는 필드 혹은 프레임을 가리키며, 실시예에 따라 상기 용어들은 서로 혼용하여 사용될 수 있다.In this specification, some terms may be interpreted as follows. Coding can be interpreted as encoding or decoding in some cases. In this specification, an apparatus for generating a video signal bitstream by performing encoding (encoding) of a video signal is referred to as an encoding apparatus or an encoder, and an apparatus for restoring a video signal by performing decoding (decoding) of a video signal bitstream is decoding. It is referred to as a device or decoder. In addition, in this specification, a video signal processing apparatus is used as a term for a concept including both an encoder and a decoder. Information is a term including all values, parameters, coefficients, elements, etc., and the meaning may be interpreted differently in some cases, so the present invention is not limited thereto. The'unit' is used to refer to a basic unit of image processing or a specific position of a picture, and refers to an image area including both a luma component and a chroma component. In addition,'block' refers to an image region including a specific component among luma components and chroma components (ie, Cb and Cr). However, depending on the embodiment, terms such as'unit','block','partition', and'area' may be used interchangeably. In addition, in this specification, a unit may be used as a concept including all of a coding unit, a prediction unit, and a transform unit. A picture refers to a field or a frame, and the terms may be used interchangeably according to embodiments.

도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 인코딩 장치(100)는 변환부(110), 양자화부(115), 역양자화부(120), 역변환부(125), 필터링부(130), 예측부(150) 및 엔트로피 코딩부(160)를 포함한다.1 is a schematic block diagram of an apparatus for encoding a video signal according to an embodiment of the present invention. Referring to FIG. 1, the encoding apparatus 100 of the present invention includes a transform unit 110, a quantization unit 115, an inverse quantization unit 120, an inverse transform unit 125, a filtering unit 130, and a prediction unit 150. ) And an entropy coding unit 160.

변환부(110)는 입력 받은 비디오 신호와 예측부(150)에서 생성된 예측 신호의 차이인 레지듀얼 신호를 변환하여 변환 계수 값을 획득한다. 예를 들어, 이산 코사인 변환(Discrete Cosine Transform, DCT), 이산 사인 변환(Discrete Sine Transform, DST) 또는 웨이블릿 변환(Wavelet Transform) 등이 사용될 수 있다. 이산 코사인 변환 및 이산 사인 변환은 입력된 픽쳐 신호를 블록 형태로 나누어 변환을 수행하게 된다. 변환에 있어서 변환 영역 내의 값들의 분포와 특성에 따라서 코딩 효율이 달라질 수 있다. 양자화부(115)는 변환부(110)에서 출력된 변환 계수 값을 양자화한다. The transform unit 110 converts a residual signal that is a difference between the input video signal and the prediction signal generated by the prediction unit 150 to obtain a transform coefficient value. For example, Discrete Cosine Transform (DCT), Discrete Sine Transform (DST), or Wavelet Transform may be used. In the discrete cosine transform and discrete sine transform, transform is performed by dividing the input picture signal into a block form. In transformation, coding efficiency may vary depending on the distribution and characteristics of values in the transformation region. The quantization unit 115 quantizes a transform coefficient value output from the transform unit 110.

코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인코더와 디코더에서 미스매치가 발생되지 않도록 하기 위해, 인코더에서 예측을 수행할 때에는 디코더에서도 사용 가능한 정보를 사용해야 한다. 이를 위해, 인코더에서는 부호화한 현재 블록을 다시 복원하는 과정을 수행한다. 역양자화부(120)에서는 변환 계수 값을 역양자화하고, 역변환부(125)에서는 역양자화된 변환 계수값을 이용하여 레지듀얼 값을 복원한다. 한편, 필터링부(130)는 복원된 픽쳐의 품질 개선 및 부호화 효율 향상을 위한 필터링 연산을 수행한다. 예를 들어, 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 및 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(Decoded Picture Buffer, DPB, 156)에 저장된다.In order to improve coding efficiency, the picture signal is not coded as it is, but a reconstructed picture by predicting a picture using a region already coded through the prediction unit 150 and adding a residual value between the original picture and the predicted picture to the predicted picture. The method of obtaining is used. In order to prevent mismatches from occurring in the encoder and decoder, information available in the decoder must be used when performing prediction in the encoder. To this end, the encoder performs a process of reconstructing the encoded current block again. The inverse quantization unit 120 inverse quantizes the transform coefficient value, and the inverse transform unit 125 restores the residual value by using the inverse quantization transform coefficient value. Meanwhile, the filtering unit 130 performs a filtering operation to improve the quality and encoding efficiency of the reconstructed picture. For example, a deblocking filter, a sample adaptive offset (SAO), an adaptive loop filter, and the like may be included. The filtered picture is output or stored in a decoded picture buffer (DPB) 156 to be used as a reference picture.

예측부(150)는 인트라 예측부(152)와 인터 예측부(154)를 포함한다. 인트라 예측부(152)는 현재 픽쳐 내에서 인트라(intra) 예측을 수행하며, 인터 예측부(154)는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측하는 인터(inter) 예측을 수행한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인터 예측부(154)는 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)는 복원된 참조 픽쳐의 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)는 참조 영역에 대한 모션 정보(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 엔트로피 코딩부(160)로 전달한다. 모션 보상부(154b)는 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상을 수행한다. 인터 예측부(154)는 참조 영역에 대한 모션 정보를 포함하는 인터 부호화 정보를 엔트로피 코딩부(160)에 전달한다.The prediction unit 150 includes an intra prediction unit 152 and an inter prediction unit 154. The intra prediction unit 152 performs intra prediction within the current picture, and the inter prediction unit 154 predicts the current picture using a reference picture stored in the decoded picture buffer 156. Perform. The intra prediction unit 152 performs intra prediction from reconstructed samples in the current picture, and transmits intra-encoding information to the entropy coding unit 160. The intra encoding information may include at least one of an intra prediction mode, a Most Probable Mode (MPM) flag, and an MPM index. The inter prediction unit 154 may include a motion estimation unit 154a and a motion compensation unit 154b. The motion estimation unit 154a obtains a motion vector value of the current region by referring to a specific region of the reconstructed reference picture. The motion estimation unit 154a transfers motion information (reference picture index, motion vector information, etc.) for the reference region to the entropy coding unit 160. The motion compensation unit 154b performs motion compensation using the motion vector value transmitted from the motion estimation unit 154a. The inter prediction unit 154 transfers inter encoding information including motion information on the reference region to the entropy coding unit 160.

위와 같은 픽쳐 예측이 수행될 경우, 변환부(110)는 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 변환하여 변환 계수 값을 획득한다. 이때, 변환은 픽쳐 내에서 특정 블록 단위로 수행될 수 있으며, 특정 블록의 크기는 기 설정된 범위 내에서 가변할 수 있다. 양자화부(115)는 변환부(110)에서 생성된 변환 계수 값을 양자화하여 엔트로피 코딩부(160)로 전달한다.When the above picture prediction is performed, the transform unit 110 obtains a transform coefficient value by transforming a residual value between the original picture and the predicted picture. In this case, the transformation may be performed in units of a specific block within the picture, and the size of the specific block may vary within a preset range. The quantization unit 115 quantizes the transform coefficient values generated by the transform unit 110 and transmits the quantization to the entropy coding unit 160.

엔트로피 코딩부(160)는 양자화된 변환 계수, 인트라 부호화 정보, 및 인터 부호화 정보 등을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성한다. 엔트로피 코딩부(160)에서는 가변 길이 코딩(Variable Length Coding, VLC) 방식과 산술 코딩(arithmetic coding) 방식 등이 사용될 수 있다. 가변 길이 코딩(VLC) 방식은 입력되는 심볼들을 연속적인 코드워드로 변환하는데, 코드워드의 길이는 가변적일 수 있다. 예를 들어, 자주 발생하는 심볼들을 짧은 코드워드로, 자주 발생하지 않은 심볼들은 긴 코드워드로 표현하는 것이다. 가변 길이 코딩 방식으로서 컨텍스트 기반 적응형 가변 길이 코딩(Context-based Adaptive Variable Length Coding, CAVLC) 방식이 사용될 수 있다. 산술 코딩은 연속적인 데이터 심볼들을 하나의 소수로 변환하는데, 산술 코딩은 각 심볼을 표현하기 위하여 필요한 최적의 소수 비트를 얻을 수 있다. 산술 코딩으로서 컨텍스트 기반 적응형 산술 부호화(Context-based Adaptive Binary Arithmetic Code, CABAC)가 이용될 수 있다.The entropy coding unit 160 entropy-codes quantized transform coefficients, intra-encoding information, and inter-encoding information to generate a video signal bitstream. In the entropy coding unit 160, a variable length coding (VLC) method and an arithmetic coding method may be used. The variable length coding (VLC) method converts input symbols into consecutive codewords, and the length of the codeword may be variable. For example, frequently occurring symbols are expressed as short codewords, and infrequently occurring symbols are expressed as long codewords. As a variable length coding scheme, a context-based adaptive variable length coding (CAVLC) scheme may be used. Arithmetic coding converts consecutive data symbols into one prime number, and arithmetic coding can obtain an optimal prime bit necessary to represent each symbol. Context-based Adaptive Binary Arithmetic Code (CABAC) may be used as arithmetic coding.

상기 생성된 비트스트림은 NAL(Network Abstraction Layer) 유닛을 기본 단위로 캡슐화 된다. NAL 유닛은 부호화된 정수 개의 코딩 트리 유닛(coding tree unit)을 포함한다. 비디오 디코더에서 비트스트림을 복호화하기 위해서는 먼저 비트스트림을 NAL 유닛 단위로 분리한 후, 분리 된 각각의 NAL 유닛을 복호화해야 한다. 한편, 비디오 신호 비트스트림의 복호화를 위해 필요한 정보들은 픽쳐 파라미터 세트(Picture Parameter Set, PPS), 시퀀스 파라미터 세트(Sequence Parameter Set, SPS), 비디오 파라미터 세트(Video Parameter Set, VPS) 등과 같은 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload)를 통해 전송될 수 있다.The generated bitstream is encapsulated in a basic unit of a Network Abstraction Layer (NAL) unit. The NAL unit includes an integer number of coded coding tree units. To decode a bitstream in a video decoder, first, the bitstream must be separated into NAL unit units, and then each separated NAL unit must be decoded. Meanwhile, information necessary for decoding a video signal bitstream is a high-level set such as a picture parameter set (PPS), a sequence parameter set (SPS), and a video parameter set (VPS). It may be transmitted through RBSP (Raw Byte Sequence Payload).

한편, 도 1의 블록도는 본 발명의 일 실시예에 따른 인코딩 장치(100)를 나타낸 것으로서, 분리하여 표시된 블록들은 인코딩 장치(100)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 인코딩 장치(100)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 인코딩 장치(100)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.Meanwhile, the block diagram of FIG. 1 shows the encoding apparatus 100 according to an embodiment of the present invention, and separately displayed blocks are shown by logically distinguishing elements of the encoding apparatus 100. Accordingly, the elements of the encoding apparatus 100 described above may be mounted as one chip or as a plurality of chips according to the design of the device. According to an embodiment, the operation of each element of the encoding apparatus 100 described above may be performed by a processor (not shown).

도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치(200)의 개략적인 블록도이다. 도 2를 참조하면 본 발명의 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(225), 필터링부(230) 및 예측부(250)를 포함한다.2 is a schematic block diagram of a video signal decoding apparatus 200 according to an embodiment of the present invention. Referring to FIG. 2, the decoding apparatus 200 of the present invention includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 225, a filtering unit 230, and a prediction unit 250.

엔트로피 디코딩부(210)는 비디오 신호 비트스트림을 엔트로피 디코딩하여, 각 영역에 대한 변환 계수, 인트라 부호화 정보, 인터 부호화 정보 등을 추출한다. 역양자화부(220)는 엔트로피 디코딩된 변환 계수를 역양자화하고, 역변환부(225)는 역양자화된 변환 계수를 이용하여 레지듀얼 값을 복원한다. 비디오 신호 처리 장치(200)는 역변환부(225)에서 획득된 레지듀얼 값을 예측부(250)에서 획득된 예측값과 합산하여 원래의 화소값을 복원한다.The entropy decoding unit 210 entropy-decodes the video signal bitstream and extracts transform coefficients, intra-encoding information, and inter-encoding information for each region. The inverse quantization unit 220 inverse quantizes the entropy-decoded transform coefficient, and the inverse transform unit 225 restores a residual value by using the inverse quantization transform coefficient. The video signal processing apparatus 200 restores the original pixel value by summing the residual value obtained by the inverse transform unit 225 with the predicted value obtained by the prediction unit 250.

한편, 필터링부(230)는 픽쳐에 대한 필터링을 수행하여 화질을 향상시킨다. 여기에는 블록 왜곡 현상을 감소시키기 위한 디블록킹 필터 및/또는 픽쳐 전체의 왜곡 제거를 위한 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 다음 픽쳐에 대한 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(DPB, 256)에 저장된다.Meanwhile, the filtering unit 230 improves image quality by filtering a picture. This may include a deblocking filter for reducing block distortion and/or an adaptive loop filter for removing distortion of an entire picture. The filtered picture is output or stored in the decoded picture buffer (DPB) 256 to be used as a reference picture for the next picture.

예측부(250)는 인트라 예측부(252) 및 인터 예측부(254)를 포함한다. 예측부(250)는 전술한 엔트로피 디코딩부(210)를 통해 복호화된 부호화 타입, 각 영역에 대한 변환 계수, 인트라/인터 부호화 정보 등을 활용하여 예측 픽쳐를 생성한다. 복호화가 수행되는 현재 블록을 복원하기 위해서, 현재 블록이 포함된 현재 픽쳐 또는 다른 픽쳐들의 복호화된 영역이 이용될 수 있다. 복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측만을 수행하는 픽쳐(또는, 타일/슬라이스)를 인트라 픽쳐 또는 I 픽쳐(또는, 타일/슬라이스), 인트라 예측과 인터 예측을 모두 수행할 수 있는 픽쳐(또는, 타일/슬라이스)를 인터 픽쳐(또는, 타일/슬라이스)라고 한다. 인터 픽쳐(또는, 타일/슬라이스) 중 각 블록의 샘플값들을 예측하기 위하여 최대 하나의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(또는, 타일/슬라이스)라고 하며, 최대 두 개의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(또는, 타일/슬라이스) 라고 한다. 다시 말해서, P 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 하나의 모션 정보 세트를 이용하고, B 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 두 개의 모션 정보 세트를 이용한다. 여기서, 모션 정보 세트는 하나 이상의 모션 벡터와 하나의 참조 픽쳐 인덱스를 포함한다.The prediction unit 250 includes an intra prediction unit 252 and an inter prediction unit 254. The prediction unit 250 generates a prediction picture using the encoding type decoded by the entropy decoding unit 210 described above, transform coefficients for each region, intra/inter encoding information, and the like. In order to restore a current block on which decoding is performed, a current picture including the current block or a decoded area of other pictures may be used. An intra picture or I picture (or tile/slice) using only the current picture for reconstruction, that is, performing only intra prediction (or tile/slice), a picture capable of performing both intra prediction and inter prediction (or, Tile/slice) is called an inter picture (or tile/slice). In order to predict the sample values of each block among inter-pictures (or tiles/slices), a picture (or tile/slice) using at most one motion vector and a reference picture index is a predictive picture or a P picture (or , Tile/slice), and a picture (or tile/slice) using up to two motion vectors and a reference picture index is referred to as a bi-predictive picture or a B picture (or tile/slice). In other words, a P picture (or tile/slice) uses at most one set of motion information to predict each block, and a B picture (or tile/slice) uses at most two motion information to predict each block. Use a set. Here, the motion information set includes one or more motion vectors and one reference picture index.

인트라 예측부(252)는 인트라 부호화 정보 및 현재 픽쳐 내의 복원된 샘플들을 이용하여 예측 블록을 생성한다. 전술한 바와 같이, 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 예측부(252)는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 픽셀들을 참조 픽셀들로 이용하여 현재 블록의 픽셀값들을 예측한다. 일 실시예에 따르면, 참조 픽셀들은 현재 블록의 좌측 경계에 인접한 픽셀들 및/또는 상측 경계에 인접한 픽셀들일 수 있다. 다른 실시예에 따르면, 참조 픽셀들은 현재 블록의 주변 블록의 픽셀들 중 현재 블록의 좌측 경계로부터 기 설정된 거리 이내에 인접한 픽셀들 및/또는 현재 블록의 상측 경계로부터 기 설정된 거리 이내에 인접한 픽셀들일 수 있다. 이때, 현재 블록의 주변 블록은 현재 블록에 인접한 좌측(L) 블록, 상측(A) 블록, 하좌측(Below Left, BL) 블록, 상우측(Above Right, AR) 블록 또는 상좌측(Above Left, AL) 블록 중 적어도 하나를 포함할 수 있다.The intra prediction unit 252 generates a prediction block using intra-encoding information and reconstructed samples in the current picture. As described above, the intra encoding information may include at least one of an intra prediction mode, a Most Probable Mode (MPM) flag, and an MPM index. The intra prediction unit 252 predicts pixel values of the current block by using reconstructed pixels located on the left and/or above of the current block as reference pixels. According to an embodiment, the reference pixels may be pixels adjacent to the left boundary of the current block and/or pixels adjacent to the upper boundary. According to another embodiment, the reference pixels may be adjacent pixels within a predetermined distance from the left boundary of the current block among pixels of the neighboring block of the current block and/or pixels adjacent within a predetermined distance from the upper boundary of the current block. At this time, the neighboring block of the current block is a left (L) block, an upper (A) block, a lower left (BL) block, an upper right (AR) block, or an upper left (Above Left) block adjacent to the current block. AL) may include at least one of the blocks.

인터 예측부(254)는 복호 픽쳐 버퍼(256)에 저장된 참조 픽쳐 및 인터 부호화 정보를 이용하여 예측 블록을 생성한다. 인터 부호화 정보는 참조 블록에 대한 현재 블록의 모션 정보(참조 픽쳐 인덱스, 모션 벡터 정보 등)을 포함할 수 있다. 인터 예측에는 L0 예측, L1 예측 및 쌍예측(Bi-prediction)이 있을 수 있다. L0 예측은 L0 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측이고, L1 예측은 L1 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측을 의미한다. 이를 위해서는 1세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 필요할 수 있다. 쌍예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 쌍예측 방식에서는 최대 2세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 이용될 수 있는데, 2개의 모션 벡터가 동일한 참조 픽쳐 인덱스에 대응될 수도 있고 서로 다른 참조 픽쳐 인덱스에 대응될 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전이나 이후 모두에 표시(또는 출력)될 수 있다.The inter prediction unit 254 generates a prediction block by using a reference picture and inter encoding information stored in the decoded picture buffer 256. The inter-encoding information may include motion information (reference picture index, motion vector information, etc.) of the current block for the reference block. Inter prediction may include L0 prediction, L1 prediction, and Bi-prediction. L0 prediction refers to prediction using one reference picture included in the L0 picture list, and L1 prediction refers to prediction using one reference picture included in the L1 picture list. For this, one set of motion information (eg, a motion vector and a reference picture index) may be required. In the bi-prediction scheme, up to two reference regions may be used, and the two reference regions may exist in the same reference picture or in different pictures. That is, in the bi-prediction method, up to two sets of motion information (for example, a motion vector and a reference picture index) may be used, and the two motion vectors may correspond to the same reference picture index or to different reference picture indexes. May correspond. In this case, the reference pictures may be displayed (or output) temporally before or after the current picture.

인터 예측부(254)는 모션 벡터 및 참조 픽쳐 인덱스를 이용하여 현재 블록의 참조 블록을 획득할 수 있다. 상기 참조 블록은 참조 픽쳐 인덱스에 대응하는 참조 픽쳐 내에 존재한다. 또한, 모션 벡터에 의해서 특정된 블록의 픽셀값 또는 이의 보간(interpolation)된 값이 현재 블록의 예측값(predictor)으로 이용될 수 있다. 서브펠(sub-pel) 단위의 픽셀 정확도를 갖는 모션 예측을 위하여 이를 테면, 루마 신호에 대하여 8-탭 보간 필터가, 크로마 신호에 대하여 4-탭 보간 필터가 사용될 수 있다. 다만, 서브펠 단위의 모션 예측을 위한 보간 필터는 이에 한정되지 않는다. 이와 같이 인터 예측부(254)는 이전에 복원된 픽쳐로부터 현재 유닛의 텍스쳐를 모션 정보를 이용하여 예측하는 모션 보상(motion compensation)을 수행한다.The inter prediction unit 254 may obtain a reference block of the current block by using the motion vector and the reference picture index. The reference block exists in a reference picture corresponding to a reference picture index. Also, a pixel value of a block specified by a motion vector or an interpolated value thereof may be used as a predictor of the current block. For motion prediction with pixel accuracy in sub-pel units, for example, an 8-tap interpolation filter may be used for a luma signal and a 4-tap interpolation filter may be used for a chroma signal. However, the interpolation filter for motion prediction in units of subpels is not limited thereto. In this way, the inter prediction unit 254 performs motion compensation for predicting a texture of a current unit from a previously reconstructed picture using motion information.

상기 인트라 예측부(252) 또는 인터 예측부(254)로부터 출력된 예측값, 및 역변환부(225)로부터 출력된 레지듀얼 값이 더해져서 복원된 비디오 픽쳐가 생성된다. 즉, 비디오 신호 디코딩 장치(200)는 예측부(250)에서 생성된 예측 블록과 역변환부(225)로부터 획득된 레지듀얼을 이용하여 현재 블록을 복원한다.A reconstructed video picture is generated by adding a prediction value output from the intra prediction unit 252 or the inter prediction unit 254 and a residual value output from the inverse transform unit 225. That is, the video signal decoding apparatus 200 reconstructs the current block by using the prediction block generated by the prediction unit 250 and the residual obtained from the inverse transform unit 225.

한편, 도 2의 블록도는 본 발명의 일 실시예에 따른 디코딩 장치(200)를 나타낸 것으로서, 분리하여 표시된 블록들은 디코딩 장치(200)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 디코딩 장치(200)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 디코딩 장치(200)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.Meanwhile, the block diagram of FIG. 2 shows the decoding apparatus 200 according to an embodiment of the present invention, and separately displayed blocks are shown by logically distinguishing elements of the decoding apparatus 200. Accordingly, the elements of the decoding apparatus 200 described above may be mounted as one chip or as a plurality of chips according to the design of the device. According to an embodiment, the operation of each element of the decoding apparatus 200 described above may be performed by a processor (not shown).

도 3은 픽쳐 내에서 코딩 트리 유닛(Coding Tree Unit, CTU)이 코딩 유닛들(Coding Units, CUs)로 분할되는 실시예를 도시한다. 비디오 신호의 코딩 과정에서, 픽쳐는 코딩 트리 유닛(CTU)들의 시퀀스로 분할될 수 있다. 코딩 트리 유닛은 루마(luma) 샘플들의 NXN 블록과, 이에 대응하는 크로마(chroma) 샘플들의 2개의 블록들로 구성된다. 코딩 트리 유닛은 복수의 코딩 유닛들로 분할될 수 있다. 코딩 유닛은 상기에서 설명한 비디오 신호의 처리 과정, 즉 인트라/인터 예측, 변환, 양자화 및/또는 엔트로피 코딩 등의 과정에서 픽쳐를 처리하기 위한 기본 단위를 가리킨다. 하나의 픽쳐 내에서 코딩 유닛의 크기 및 모양은 일정하지 않을 수 있다. 코딩 유닛은 정사각형 혹은 직사각형의 모양을 가질 수 있다. 직사각형 코딩 유닛(혹은, 직사각형 블록)은 수직 코딩 유닛(혹은, 수직 블록)과 수평 코딩 유닛(혹은, 수평 블록)을 포함한다. 본 명세서에서, 수직 블록은 높이가 너비보다 큰 블록이며, 수평 블록은 너비가 높이보다 큰 블록이다. 또한, 본 명세서에서 정사각형이 아닌(non-square) 블록은 직사각형 블록을 가리킬 수 있지만, 본 발명은 이에 한정되지 않는다.3 shows an embodiment in which a coding tree unit (CTU) is divided into coding units (CUs) in a picture. In the process of coding a video signal, a picture may be divided into a sequence of coding tree units (CTUs). The coding tree unit is composed of an NXN block of luma samples and two blocks of chroma samples corresponding thereto. The coding tree unit may be divided into a plurality of coding units. The coding unit refers to a basic unit for processing a picture in the above-described video signal processing, that is, intra/inter prediction, transformation, quantization, and/or entropy coding. The size and shape of the coding unit in one picture may not be constant. The coding unit may have a square or rectangular shape. The rectangular coding unit (or rectangular block) includes a vertical coding unit (or vertical block) and a horizontal coding unit (or horizontal block). In this specification, a vertical block is a block having a height greater than a width, and a horizontal block is a block having a width greater than the height. In addition, in the present specification, a non-square block may refer to a rectangular block, but the present invention is not limited thereto.

도 3을 참조하면, 코딩 트리 유닛은 먼저 쿼드 트리(Quad Tree, QT) 구조로 분할된다. 즉, 쿼드 트리 구조에서 2NX2N 크기를 가지는 하나의 노드는 NXN 크기를 가지는 네 개의 노드들로 분할될 수 있다. 본 명세서에서 쿼드 트리는 4진(quaternary) 트리로도 지칭될 수 있다. 쿼드 트리 분할은 재귀적으로 수행될 수 있으며, 모든 노드들이 동일한 깊이로 분할될 필요는 없다.Referring to FIG. 3, a coding tree unit is first divided into a quad tree (QT) structure. That is, in a quad tree structure, one node having a size of 2NX2N may be divided into four nodes having a size of NXN. In this specification, the quad tree may also be referred to as a quaternary tree. Quad-tree partitioning can be performed recursively, and not all nodes need to be partitioned to the same depth.

한편, 전술한 쿼드 트리의 리프 노드(leaf node)는 멀티-타입 트리(Multi-Type Tree, MTT) 구조로 더욱 분할될 수 있다. 본 발명의 실시예에 따르면, 멀티 타입 트리 구조에서는 하나의 노드가 수평 혹은 수직 분할의 2진(binary, 바이너리) 혹은 3진(ternary, 터너리) 트리 구조로 분할될 수 있다. 즉, 멀티-타입 트리 구조에는 수직 바이너리 분할, 수평 바이너리 분할, 수직 터너리 분할 및 수평 터너리 분할의 4가지 분할 구조가 존재한다. 본 발명의 실시예에 따르면, 상기 각 트리 구조에서 노드의 너비 및 높이는 모두 2의 거듭제곱 값을 가질 수 있다. 예를 들어, 바이너리 트리(Binary Tree, BT) 구조에서, 2NX2N 크기의 노드는 수직 바이너리 분할에 의해 2개의 NX2N 노드들로 분할되고, 수평 바이너리 분할에 의해 2개의 2NXN 노드들로 분할될 수 있다. 또한, 터너리 트리(Ternary Tree, TT) 구조에서, 2NX2N 크기의 노드는 수직 터너리 분할에 의해 (N/2)X2N, NX2N 및 (N/2)X2N의 노드들로 분할되고, 수평 바이너리 분할에 의해 2NX(N/2), 2NXN 및 2NX(N/2)의 노드들로 분할될 수 있다. 이러한 멀티-타입 트리 분할은 재귀적으로 수행될 수 있다.Meanwhile, a leaf node of the aforementioned quad tree may be further divided into a multi-type tree (MTT) structure. According to an embodiment of the present invention, in a multi-type tree structure, one node may be divided into a horizontal or vertically divided binary (binary) or ternary (ternary) tree structure. That is, in the multi-type tree structure, there are four division structures: vertical binary division, horizontal binary division, vertical ternary division, and horizontal ternary division. According to an embodiment of the present invention, both widths and heights of nodes in each tree structure may have a power of 2. For example, in a binary tree (Binary Tree, BT) structure, a node having a size of 2NX2N may be divided into two NX2N nodes by vertical binary division, and divided into two 2NXN nodes by horizontal binary division. In addition, in a ternary tree (TT) structure, a node of 2NX2N size is divided into nodes of (N/2)X2N, NX2N and (N/2)X2N by vertical ternary division, and horizontal binary division. It can be divided into 2NX(N/2), 2NXN, and 2NX(N/2) nodes by. This multi-type tree division can be performed recursively.

멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛이 최대 변환 길이에 비해 너무 크지 않으면, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및 변환의 단위로 사용된다. 한편, 전술한 쿼드 트리 및 멀티-타입 트리에서 다음의 파라메터들 중 적어도 하나가 사전에 정의되거나 PPS, SPS, VPS 등과 같은 상위 레벨 세트의 RBSP를 통해 전송될 수 있다. 1) CTU 크기: 쿼드 트리의 루트 노드(root node) 크기, 2) 최소 QT 크기(MinQtSize): 허용된 최소 QT 리프 노드 크기, 3) 최대 BT 크기(MaxBtSize): 허용된 최대 BT 루트 노드 크기, 4) 최대 TT 크기(MaxTtSize): 허용된 최대 TT 루트 노드 크기, 5) 최대 MTT 깊이(MaxMttDepth): QT의 리프 노드로부터의 MTT 분할의 최대 허용 깊이, 6) 최소 BT 크기(MinBtSize): 허용된 최소 BT 리프 노드 크기, 7) 최소 TT 크기(MinTtSize): 허용된 최소 TT 리프 노드 크기.A leaf node of a multi-type tree can be a coding unit. If the coding unit is not too large for the maximum transform length, the coding unit is used as a unit of prediction and transform without further division. Meanwhile, in the aforementioned quad tree and multi-type tree, at least one of the following parameters may be defined in advance or transmitted through RBSP of a higher level set such as PPS, SPS, VPS, and the like. 1) CTU size: the size of the root node of the quad tree, 2) the minimum QT size (MinQtSize): the minimum QT leaf node size allowed, 3) the maximum BT size (MaxBtSize): the maximum BT root node size allowed, 4) Maximum TT size (MaxTtSize): Maximum allowed TT root node size, 5) Maximum MTT depth (MaxMttDepth): Maximum allowed depth of MTT segmentation from leaf nodes of QT, 6) Minimum BT size (MinBtSize): allowed Minimum BT leaf node size, 7) Minimum TT size (MinTtSize): Minimum allowed TT leaf node size.

도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다. 전술한 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하기 위해 기 설정된 플래그들이 사용될 수 있다. 도 4를 참조하면, 쿼드 트리 노드의 분할 여부를 지시하는 플래그 'qt_split_flag', 멀티-타입 트리 노드의 분할 여부를 지시하는 플래그 'mtt_split_flag', 멀티-타입 트리 노드의 분할 방향을 지시하는 플래그 'mtt_split_vertical_flag' 또는 멀티-타입 트리 노드의 분할 모양을 지시하는 플래그 'mtt_split_binary_flag' 중 적어도 하나가 사용될 수 있다.4 shows an embodiment of a method for signaling the division of a quad tree and a multi-type tree. Preset flags may be used to signal the division of the quad tree and multi-type tree described above. 4, a flag'qt_split_flag' indicating whether to divide a quad tree node, a flag'mtt_split_flag' indicating whether to divide a multi-type tree node, and a flag'mtt_split_vertical_flag' indicating a split direction of a multi-type tree node. 'Or at least one of'mtt_split_binary_flag' indicating the split shape of the multi-type tree node may be used.

본 발명의 실시예에 따르면, 코딩 트리 유닛은 쿼드 트리의 루트 노드이며, 쿼드 트리 구조로 우선 분할될 수 있다. 쿼드 트리 구조에서는 각각의 노드 'QT_node' 별로 'qt_split_flag'가 시그널링된다. 'qt_split_flag'의 값이 1일 경우 해당 노드는 4개의 정사각형 노드들로 분할되며, 'qt_split_flag'의 값이 0일 경우 해당 노드는 쿼드 트리의 리프 노드 'QT_leaf_node'가 된다.According to an embodiment of the present invention, the coding tree unit is a root node of a quad tree, and may be first divided into a quad tree structure. In the quad tree structure,'qt_split_flag' is signaled for each node'QT_node'. If the value of'qt_split_flag' is 1, the node is divided into 4 square nodes, and if the value of'qt_split_flag' is 0, the node becomes'QT_leaf_node', a leaf node of the quad tree.

각각의 쿼드 트리 리프 노드 'QT_leaf_node'는 멀티-타입 트리 구조로 더 분할될 수 있다. 멀티-타입 트리 구조에서는 각각의 노드 'MTT_node' 별로 'mtt_split_flag'가 시그널링된다. 'mtt_split_flag'의 값이 1일 경우 해당 노드는 복수의 직사각형 노드들로 분할되며, 'mtt_split_flag'의 값이 0일 경우 해당 노드는 멀티-타입 트리의 리프 노드 'MTT_leaf_node'가 된다. 멀티-타입 트리 노드 'MTT_node'가 복수의 직사각형 노드들로 분할될 경우(즉, 'mtt_split_flag'의 값이 1일 경우), 노드 'MTT_node'를 위한 'mtt_split_vertical_flag' 및 'mtt_split_binary_flag'가 추가로 시그널링될 수 있다. 'mtt_split_vertical_flag'의 값이 1일 경우 노드 'MTT_node'의 수직 분할이 지시되며, 'mtt_split_vertical_flag'의 값이 0일 경우 노드 'MTT_node'의 수평 분할이 지시된다. 또한, 'mtt_split_binary_flag'의 값이 1일 경우 노드 'MTT_node'는 2개의 직사각형 노드들로 분할되며, 'mtt_split_binary_flag'의 값이 0일 경우 노드 'MTT_node'는 3개의 직사각형 노드들로 분할된다.Each quad tree leaf node'QT_leaf_node' may be further divided into a multi-type tree structure. In the multi-type tree structure,'mtt_split_flag' is signaled for each node'MTT_node'. When the value of'mtt_split_flag' is 1, the corresponding node is divided into a plurality of rectangular nodes. When the value of'mtt_split_flag' is 0, the corresponding node becomes'MTT_leaf_node' of the multi-type tree. When the multi-type tree node'MTT_node' is divided into a plurality of rectangular nodes (that is, when the value of'mtt_split_flag' is 1),'mtt_split_vertical_flag' and'mtt_split_binary_flag' for the node'MTT_node' will be additionally signaled. I can. When the value of'mtt_split_vertical_flag' is 1, vertical division of the node'MTT_node' is indicated, and when the value of'mtt_split_vertical_flag' is 0, horizontal division of the node'MTT_node' is indicated. In addition, when the value of'mtt_split_binary_flag' is 1, the node'MTT_node' is divided into two rectangular nodes, and when the value of'mtt_split_binary_flag' is 0, the node'MTT_node' is divided into three rectangular nodes.

본 발명은 비디오 코덱에서 행렬 기반 인트라 예측 방법으로 생성된 잔차 신호에 대해 적용하는 다중 주 변환 커널 적용 방법 (Multiple Transform Selection)에 관한 것이다. The present invention relates to a multiple transform kernel application method applied to a residual signal generated by a matrix-based intra prediction method in a video codec.

MIP는 행렬 기반 인트라 예측 방법으로 기존의 주변 블록의 픽셀로부터 방향성을 가지는 예측 방법과 달리 주변 블록의 픽셀을 미리 정의된 행렬과 오프셋 값을 이용하여 예측 신호를 구하여 잔차 신호를 발생하는 화면 내 예측 방법을 말한다. MIP is a matrix-based intra prediction method. Unlike conventional prediction methods that have directionality from pixels of neighboring blocks, MIP is an intra-prediction method that generates a residual signal by obtaining a prediction signal from a pixel of a neighboring block using a predefined matrix and an offset value. Say.

Figure pat00001
Figure pat00001

도 5. 일반적인 방향성 인트라 예측 방법 Figure 5. General Directional Intra Prediction Method

Figure pat00002
Figure pat00002

도 6. 행렬 기반 인트라 예측 방법Figure 6. Matrix-based intra prediction method

도 5와 도 6은 행렬 기반 일반 방향성 인트라 예측 방향과 행렬 기반 인트라 예측 방법을 각각 보여준다. 도 6에서 보는 것처럼 현재 블록에서 예측 신호를 생성하기 위해서 주변블록의 픽셀로 구성된 행렬 B와 미리 정의된 행렬

Figure pat00003
과 오프셋 값
Figure pat00004
을 이용하여 예측한다. MIP를 통한 예측 방법을 통해 얻은 잔차 신호는 예측 방법이 기존의 방향성 예측 방법에 비해 잔차의 방향성이 약하고 신호의 특징이 균일한 성질을 가진다. 방향성 인트라 예측에 강한 압축 성능을 보이는 DST-7과 DCT-8의 커널을 이용하는 것 보다 DCT-2와 같이 입력 신호가 균일할 때 보다 높은 에너지 압축 성능을 보이는 커널이 매우 유리하다. 5 and 6 show a matrix-based general directional intra prediction direction and a matrix-based intra prediction method, respectively. As shown in Fig. 6, a matrix B composed of pixels of neighboring blocks and a predefined matrix in order to generate a prediction signal in the current block
Figure pat00003
And offset values
Figure pat00004
Use to make predictions. The residual signal obtained through the prediction method through MIP has a property that the prediction method has a weaker direction of the residual and the signal characteristics are uniform compared to the conventional directional prediction method. A kernel that shows higher energy compression performance when the input signal is uniform, such as DCT-2, is much more advantageous than using the kernels of DST-7 and DCT-8, which have strong compression performance for directional intra prediction.

따라서 본 발명에서는 행렬 기반 인트라 예측 방법으로 발생한 잔차 신호에 대하여 주 변환 커널을 적용하는 방법과 조건을 제안한다. Accordingly, the present invention proposes a method and condition for applying a main transform kernel to a residual signal generated by a matrix-based intra prediction method.

먼저 비디오 코덱에서 주 변환은 예측을 통해 얻은 잔차 신호에 대하여 변환 커널인 DCT-2, DST-7, DCT-8 등 다수의 변환 커널을 이용하여 변환을 수행하고 이 것을 다중 커널 변환(Multiple Transform Selection, MTS) 방법이라고 한다. 이 때 어떤 다중 변환 커널을 사용할 것인지를 명시적인 식별자로 표현하여 전송하는 것을 명시적 다중 변환 커널 선택 (Explicit Multiple Transform Selection)이라고 한다. 이 변환 커널은 블록의 가로 및 세로 방향에 분리가능한 형태의 변환 커널을 적용할 수 있으며, 가로와 세로에 대하여 서로 다른 변환 커널을 적용할 수 있다. 먼저 MTS 식별 ID (MTS_ID)가 0 일 때는 가로 및 세로 방향에 대하여 DST-2, DCT-2 변환 커널 쌍을 적용하여 변환을 수행한다. 이 때 잔차 신호의 특성은 블록 내에서 균일할 때 유리할 수 있다. 반면 MTS_ID가 0이 아닐 때는 블록의 가로 방향 및 세로 방향에 대하여 (DST-7, DST-7), (DST-7, DCT-8), (DCT-8, DST-7), (DCT-8, DCT-8) 변환 쌍을 적용할 수 있으며 각각에 대하여 식별자가 부여될 수 있다. DCT-2 변환 쌍과 달리 DST-7, DCT-8 변환 커널은 인트라 예측과 같이 방향성 예측을 통해 얻은 잔차 신호에 매우 유리하며 실제로 인트라 예측에서 많은 부호화 성능을 얻고 있다. First, in the video codec, the main transform is transformed using a number of transform kernels such as DCT-2, DST-7, and DCT-8, which are transform kernels, on the residual signal obtained through prediction. , MTS) method. In this case, expressing which multi-transformation kernel to use with an explicit identifier and transmitting it is called Explicit Multiple Transform Selection. This transform kernel can apply a separable transform kernel to the horizontal and vertical directions of a block, and different transform kernels may be applied to the horizontal and vertical directions. First, when the MTS identification ID (MTS_ID) is 0, conversion is performed by applying a pair of DST-2 and DCT-2 conversion kernels in the horizontal and vertical directions. In this case, the characteristics of the residual signal may be advantageous when it is uniform within the block. On the other hand, when MTS_ID is not 0, (DST-7, DST-7), (DST-7, DCT-8), (DCT-8, DST-7), (DCT-8) are used for the horizontal and vertical directions of the block. , DCT-8) Transformation pair can be applied and an identifier can be assigned to each. Unlike the DCT-2 transform pair, the DST-7 and DCT-8 transform kernels are very advantageous for residual signals obtained through directional prediction, such as intra prediction, and have actually obtained a lot of coding performance in intra prediction.

변환 커널 식별자 MTS_ID는 부호화기에서 복호화기로 전송할 수 있고 복호화기는 이를 파싱하여 역변환 시 어떤 변환 커널이 사용되는지 인식할 수 있다. The transform kernel identifier MTS_ID can be transmitted from the encoder to the decoder, and the decoder can parse it to recognize which transform kernel is used during inverse transform.

앞서 기술한 바와 같이 MIP는 기존 인트라 예측에서 사용하였던 방향성 예측과는 달리 미리 정의된 행렬(

Figure pat00005
)과 오프셋 값(
Figure pat00006
)을 이용하여 잔차 신호를 예측하므로 생성된 예측 잔차 신호는 방향성 신호를 갖기 보다는 균일한 성분을 갖는 잔차 신호를 갖는 경향이 크다. 이러한 성질에 기반하여 본 발명에서는 MTS_ID를 부호화기에서 복호화기로 전송하여 예측 타입과 모드에 따라서 어떤 커널을 사용할지 명시적으로 나타내는 명시적 MTS의 경우, MIP로 생성한 예측 잔차에 대하여 DST-7 및 DCT-8 주 변환 커널을 제한하고 DCT-2 변환 커널을 사용하여 부호화 효율을 향상시키는 방법을 제안한다. 도 7은 명시적 MTS의 경우, 현재 블록이 MIP 여부에 따라 다중 변환 커널의 사용여부와 다중 변환 커널 ID 파싱에 관한 조건을 나타낸다. As described above, MIP is a predefined matrix (
Figure pat00005
) And the offset value (
Figure pat00006
) Is used to predict the residual signal, so the generated prediction residual signal tends to have a residual signal having a uniform component rather than a directional signal. Based on this property, in the present invention, in the case of an explicit MTS that explicitly indicates which kernel to use according to the prediction type and mode by transmitting the MTS_ID from the encoder to the decoder, DST-7 and DCT for the prediction residual generated by MIP. We propose a method of limiting the -8 main transform kernel and improving the coding efficiency by using the DCT-2 transform kernel. 7 shows whether a multi-transform kernel is used and a condition for parsing a multi-transform kernel ID according to whether the current block is MIP in the case of explicit MTS.

Figure pat00007
Figure pat00007

도 7. Explicit MTS의 경우, MTS 인트라 예측 시 다중 변환 커널 이용 및 명시적 변환 식별자 파싱 조건 Fig. 7. In the case of Explicit MTS, conditions for using multiple transformation kernels and parsing explicit transformation identifiers in MTS intra prediction

도 7에서 isMIP는 CU에서 정의되는 intra_mip_flag를 나타낸다. isMIP=1 (intra_mip_flag=1) 이면 현재 블록이 MIP 인트라 예측 블록이고 그렇지 않으면 MIP 인트라 예측 블록이 아님을 나타낸다. 현재 블록이 MIP 블록일 때는 예측 잔차에 대하여 DCT-2 변환 커널 만을 사용하며, MTS_ID는 파싱하지 않고 0으로 추론한다. 여기서 MTS_ID는 TU에서 정의되는 다중 변환 커널의 식별자 (tu_mts_idx)이고 MTS_ID=0은 DCT-2 변환 커널 쌍을 나타낸다. 표 1은 intra_mip_flag와 다른 조건 들과의 조합에서 MTS_ID를 파싱하는 조건을 나타낸다. In FIG. 7, isMIP represents intra_mip_flag defined in the CU. If isMIP=1 (intra_mip_flag=1), it indicates that the current block is a MIP intra prediction block, otherwise, it is not a MIP intra prediction block. When the current block is a MIP block, only the DCT-2 transform kernel is used for the prediction residual, and the MTS_ID is inferred as 0 without parsing. Here, MTS_ID is an identifier (tu_mts_idx) of a multi-transformation kernel defined in the TU, and MTS_ID=0 indicates a DCT-2 transform kernel pair. Table 1 shows conditions for parsing MTS_ID in combination with intra_mip_flag and other conditions.

다중 변환 커널을 나타내는 식별자 MTS_ID를 파싱하는 조건Conditions for parsing the identifier MTS_ID representing the multi-transformation kernel if( ( ( CuPredMode[ chType ][ x0 ][ y0 ] = = MODE_INTER && sps_explicit_mts_inter_enabled_flag )
| | ( CuPredMode[ chType ][ x0 ][ y0 ] = = MODE_INTRA && sps_explicit_mts_intra_enabled_flag ) ) && ( !transform_skip_flag[ x0 ][ y0 ] ) && !intra_mip_flag )
if( ((CuPredMode[ chType ][ x0 ][ y0] = = MODE_INTER && sps_explicit_mts_inter_enabled_flag)
| | (CuPredMode[ chType ][ x0 ][ y0] = = MODE_INTRA && sps_explicit_mts_intra_enabled_flag)) && (!transform_skip_flag[ x0 ][ y0]) && !intra_mip_flag)
tu_mts_idx[ x0 ][ y0 ] tu_mts_idx [x0 ][ y0]

표 1에서 보는 것처럼 명시적 MTS가 사용되는 경우 경우, MIP가 사용하지 않는 경우에만 tu_mts_id, 즉 MTS_ID를 파싱하고 MTS_ID에 해당하는 커널을 사용한다. 그렇지 않은 경우에는 tu_mts_idx를 0으로 추론하고, DCT-2 커널 쌍만을 사용한다. As shown in Table 1, when explicit MTS is used, tu_mts_id, that is, MTS_ID, is parsed only when MIP is not used, and the kernel corresponding to MTS_ID is used. Otherwise, tu_mts_idx is inferred as 0, and only the DCT-2 kernel pair is used.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.In the case of hardware implementation, the method according to embodiments of the present invention includes one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), and Programmable Logic Devices (PLDs). , Field Programmable Gate Arrays (FPGAs), processors, controllers, microcontrollers, microprocessors, and the like.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 프로세서의 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고받을 수 있다.In the case of implementation by firmware or software, the method according to the embodiments of the present invention may be implemented in the form of a module, procedure, or function that performs the functions or operations described above. The software code can be stored in a memory and driven by a processor. The memory may be located inside or outside the processor, and may exchange data with the processor through various known means.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예 들은 모든 면에서 예시적인 것이며 한정적인 것이 아는 것으로 해석해야 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustrative purposes only, and those of ordinary skill in the art to which the present invention pertains will be able to understand that other specific forms can be easily modified without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be construed that the above-described embodiments are illustrative and limiting in all respects. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as being distributed may also be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the claims to be described later rather than the detailed description, and all changes or modified forms derived from the meaning and scope of the claims and their equivalent concepts should be construed as being included in the scope of the present invention. do.

Claims (1)

비디오 신호의 처리 방법.How to process video signals.
KR1020190117169A 2019-09-24 2019-09-24 Explicit peripheral kernel application to matrix-based intra prediction in video codecs KR20210035413A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190117169A KR20210035413A (en) 2019-09-24 2019-09-24 Explicit peripheral kernel application to matrix-based intra prediction in video codecs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190117169A KR20210035413A (en) 2019-09-24 2019-09-24 Explicit peripheral kernel application to matrix-based intra prediction in video codecs

Publications (1)

Publication Number Publication Date
KR20210035413A true KR20210035413A (en) 2021-04-01

Family

ID=75441510

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190117169A KR20210035413A (en) 2019-09-24 2019-09-24 Explicit peripheral kernel application to matrix-based intra prediction in video codecs

Country Status (1)

Country Link
KR (1) KR20210035413A (en)

Similar Documents

Publication Publication Date Title
JP7351973B2 (en) Video signal processing method and device using quadratic transformation
KR101825262B1 (en) Restriction of prediction units in b slices to uni-directional inter prediction
US11539973B2 (en) Method and device for processing video signal using multiple transform kernels
US11863760B2 (en) Video signal processing method and device
KR20190055113A (en) Variable number of intra modes for video coding
WO2018132475A1 (en) Intra prediction techniques for video coding
US11949916B2 (en) Method and apparatus for encoding and decoding video signals using multiple transform kernels
KR20170107452A (en) Enhanced multiple transforms for prediction residual
US20160080753A1 (en) Method and apparatus for processing video signal
EP3985970A1 (en) Video signal processing method and device using block dpcm prediction method
KR102625145B1 (en) Video signal processing method and apparatus for signaling prediction mode
US20210051319A1 (en) Video signal processing method and device using reference sample
US20160088305A1 (en) Method and apparatus for processing video signal
CN114830673A (en) Shared decoder picture buffer for multiple layers
KR20200057991A (en) Method and apparatus for deriving and generating dst-7, dct-8 transform kernel for video signal
KR20210033858A (en) Derivation and mapping method of secondary transform kernel according to intra prediction in video codec
KR20210035413A (en) Explicit peripheral kernel application to matrix-based intra prediction in video codecs
KR20210035602A (en) Quadratic transform application according to intra prediction based on matrix transform in video codec
KR20210036479A (en) Quadratic transformation block size restriction according to prediction condition based on matrix transform in video codec
KR20210034790A (en) Secondary transform coding method in video codec
KR20220055101A (en) Method for applying in loop filter in video codec
KR20210000829A (en) Intra prediction method in video codecs
KR20220055105A (en) Filter application method using neural network in video codec
KR20210000828A (en) Method and apparatus for processing video signal using secondary transform
KR20200096385A (en) A method and an apparatus for processing a video signal using intra mode unification between coding block and transform block