KR102617469B1 - Sao 필터링을 위한 방법 및 장치 - Google Patents

Abstract

본 발명은 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 대한 것으로, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭(band width)을 결정하는 단계; 상기 총 밴드 개수 또는 상기 밴드 폭을 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계; 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 비트스트림으로부터 획득하는 단계; 및 상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계를 포함한다.

Description

SAO 필터링을 위한 방법 및 장치 {Method and Apparatus for Sample Adaptive Offset Filtering}

본 발명은 영상의 부호화 및 복호화에 관한 것으로, 한 측면으로서 SAO (Sample Adaptive Offset)와 관련된다.

동영상 데이터는 음성 데이터나 정지 영상 데이터 등에 비하여 데이터량이 많기 때문에, 압축을 위한 처리 없이 그 자체를 저장하거나 전송하기 위해서는 메모리를 포함하여 많은 하드웨어 자원을 필요로 한다. 따라서, 통상적으로 동영상 데이터를 저장하거나 전송할 때에는 부호화기를 사용하여 동영상 데이터를 압축하여 저장하거나 전송하며, 복호화기에서는 압축된 동영상 데이터를 수신하여 압축을 해제하고 재생한다. 이러한 동영상 압축 기술로는 H.264/AVC를 비롯하여, H.264/AVC 약 40% 정도의 부호화 효율을 향상시킨 2013년 초에 제정된 HEVC(High Efficiency Video Coding)가 존재한다.

그러나, 영상의 크기 및 해상도, 프레임율이 점차 증가하고 있고, 이에 따라 부호화해야 하는 데이터량도 증가하고 있다. 따라서, 기존의 압축 기술보다 더 부호화 효율이 좋고 화질 개선 효과도 높은 압축 기술이 요구된다.

이러한 요구에 부응하기 위해 본 발명은 개선된 영상 부호화 및 복호화 기술을 제공하는 것을 목적으로 하며, 특히, 본 발명의 일 측면은 원본 픽셀과 부호화/복호화 이후의 복원된 픽셀 간의 왜곡(distortion)을 보상하기 위한 SAO (Sample Adaptive Offset) 기술과 관련된다.

본 발명의 일 측면은, 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 있어서, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭(band width)을 결정하는 단계; 상기 총 밴드 개수 또는 상기 밴드 폭을 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계; 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 비트스트림으로부터 획득하는 단계; 및 상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계를 포함하는 필터링 방법을 제공한다.

본 발명의 다른 측면은, 영상 복호화 장치에 있어서, 비트스트림을 복호화함으로써 타겟 영역 내의 픽셀들을 복원하는 영상 복원기; 상기 타겟 영역 내의 복원된 픽셀들을 필터링하는 필터를 포함하되, 상기 필터는, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수 또는 밴드 폭을 결정하고, 상기 총 밴드 개수 또는 밴드 폭에 근거하여 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하며, 상기 복호화된 비트스트림으로부터 상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 획득하고, 상기 타겟 영역 내의 복원된 픽셀 중에서 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 것을 특징을 하는 영상 복호화 장치를 제공한다.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도,
도 2는 QTBT 구조를 이용한 블록 분할의 예시도,
도 3은 복수의 인트라 예측 모드들에 대한 예시도,
도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도,
도 5는 SAO 타입 중 에지 오프셋(EO, edge offset)의 네 가지의 클래스를 설명하기 위한 도면,
도 6은 도 5의 네 가지의 클래스 각각에 대해 대상 픽셀을 네 가지 카테고리로 분류하는 방법을 설명하기 위한 예시도,
도 7은 SAO 타입 중 밴드 오프셋(BO, edge offset)을 설명하기 위한 예시도,
도 8은 본 개시가 기술하는 개선된 BO의 프로세스를 설명하기 위한 순서도이다.

이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성 요소들에 식별 부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다.

영상 부호화 장치는 블록 분할부(110), 예측부(120), 감산기(130), 변환부(140), 양자화부(145), 부호화부(150), 역양자화부(160), 역변환부(165), 가산기(170), 필터부(180) 및 메모리(190)를 포함한다. 영상 부호화 장치는 각 구성요소가 하드웨어 칩으로 구현될 수 있으며, 또는 소프트웨어로 구현되고 하나 이상의 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.

하나의 영상(비디오)는 복수의 픽처들로 구성된다. 각 픽처들은 복수의 영역으로 분할되고 각 영역마다 부호화가 수행된다. 예를 들어, 하나의 픽처는 하나 이상의 슬라이스(slice) 또는/및 타일(Tile)로 분할되고, 각 슬라이스 또는 타일은 하나 이상의 CTU(Coding Tree Unit)로 분할된다. 그리고 각 CTU는 트리 구조에 의해 하나 이상의 CU(Coding Unit)들로 분할된다. 각 CU에 적용되는 정보들은 CU의 신택스로서 부호화되고, 하나의 CTU에 포함된 CU들에 공통적으로 적용되는 정보는 CTU의 신택스로서 부호화된다. 또한, 하나의 슬라이스 내의 모든 블록들에 공통적으로 적용되는 정보는 슬라이스의 신택스로서 부호화되며, 하나의 픽처들을 구성하는 모든 블록들에 적용되는 정보는 픽처 파라미터 셋(PPS, Picture Parameter Set)에 부호화된다. 나아가, 복수의 픽처가 공통으로 참조하는 정보들은 시퀀스 파라미터 셋(SPS, Sequence Parameter Set)에 부호화된다. 그리고 하나 이상의 SPS가 공통으로 참조하는 정보들은 비디오 파라미터 셋(VPS, Video Parameter Set)에 부호화된다.

블록 분할부(110)는 CTU(Coding Tree Unit)의 크기를 결정한다. CTU의 크기에 대한 정보(CTU size)는 SPS 또는 PPS 의 신택스로서 부호화되어 영상 복호화 장치로 전달된다. 블록 분할부(110)는 영상을 구성하는 각 픽처(picture)를 결정된 크기의 복수의 CTU(Coding Tree Unit)로 분할한 이후에, CTU를 트리 구조(tree structure)를 이용하여 반복적으로(recursively) 분할한다. 트리 구조에서의 리프 노드(leaf node)가 부호화의 기본 단위인 CU (coding unit)가 된다. 트리 구조로는 상위 노드(혹은 부모 노드)가 동일한 크기의 네 개의 하위 노드(혹은 자식 노드)로 분할되는 쿼드트리(QuadTree, QT), 또는 상위 노드가 두 개의 하위 노드로 분할되는 바이너리트리(BinaryTree, BT), 또는 상위 노드가 1:2:1 비율로 세 개의 하위 노드로 분할되는 터너리트리(TernaryTree, TT), 또는 이러한 QT 구조, BT 구조 및 TT 구조 중 하나 이상을 혼용한 구조일 수 있다. 예컨대, QTBT (QuadTree plus BinaryTree) 구조가 사용될 수 있고, 또는 QTBTTT (QuadTree plus BinaryTree TernaryTree) 구조가 사용될 수 있다.

도 2는 QTBT 구조를 이용한 블록 분할의 예시도이다. 도 2의 (a)는 QTBT 구조에 의해 블록이 분할되는 예시이고, (b)는 이를 트리구조로 표현한 것이다. 도 2에서 실선은 QT 구조에 의한 분할을, 점선은 BT 구조에 의한 분할을 나타낸다. 또한, 도 2의 (b)에서 layer 표기와 관련하여, 괄호가 없는 것은 QT의 레이어를, 괄호가 있는 것은 BT의 레이어를 나타낸다. 점선으로 표현된 BT 구조에서 숫자는 분할 타입 정보를 나타낸다.

도 2에서 보는 바와 같이, CTU는 먼저 QT 구조로 분할될 수 있다. 쿼드트리 분할은 분할 블록(splitting block)의 크기가 QT에서 허용되는 리프 노드의 최소 블록 크기(MinQTSize)에 도달할 때까지 반복될 수 있다. QT 구조의 각 노드가 하위 레이어의 4개의 노드들로 분할되는지 여부를 지시하는 제1 플래그(QT_split_flag)는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 시그널링된다.

QT의 리프 노드가 BT에서 허용되는 루트 노드의 최대 블록 크기(MaxBTSize)보다 크지 않은 경우, BT 구조로 더 파티셔닝될 수 있다. BT에서는 복수의 분할 타입이 존재할 수 있다. 예컨대, 일부 예시에서, 해당 노드의 블록을 동일 크기의 두 개 블록으로 가로로 분할하는 타입(즉, symmetric horizontal splitting)과 세로로 분할하는 타입(즉, symmetric vertical splitting) 두 가지가 존재할 수 있다. BT 구조의 각 노드가 하위 레이어의 블록으로 분할되는지 여부를 지시하는 제2 플래그(BT_split_flag) 및 분할되는 타입을 지시하는 분할 타입 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다. 한편, 해당 노드의 블록을 서로 비대칭 형태의 두 개의 블록으로 분할하는 타입이 추가로 더 존재할 수도 있다. 비대칭 형태로는 해당 노드의 블록을 1:3의 크기 비율을 가지는 두 개의 직사각형 블록으로 분할하는 형태를 포함할 수 있고, 혹은 해당 노드의 블록을 대각선 방향으로 분할하는 형태를 포함할 수도 있다.

트리 구조의 다른 예시로서 QTBTTT가 사용되는 경우, CTU는 먼저 QT 구조로 분할된 이후에, QT의 리프노드들은 BT 구조 또는 TT 구조 중 어느 하나 이상으로 분할될 수 있다. TT 구조도 복수의 분할 타입이 존재할 수 있다. 예컨대, 분할되는 경우, 해당 노드의 블록을 1:2:1 비율로 세 개 블록으로 가로로 분할하는 타입(즉, symmetric horizontal splitting)과 세로로 분할하는 타입(즉, symmetric vertical splitting) 두 가지가 존재할 수 있다. QTBTTT의 경우, 각 노드가 하위 레이어의 블록으로 분할되는지 여부를 지시하는 플래그 및 분할되는 타입(또는 분할되는 방향)을 지시하는 분할 타입 정보 (또는 분할 방향 정보) 이외에, BT 구조 인지 TT 구조인지를 구분하는 추가 정보가 영상 복호화 장치로 시그널링될 수 있다.

CU는 CTU로부터의 QTBT 또는 QTBTTT 분할에 따라 다양한 크기를 가질 수 있다. 이하에서는, 부호화 또는 복호화하고자 하는 CU(즉, QTBTTT의 리프 노드)에 해당하는 블록을 '현재블록'이라 칭한다.

예측부(120)는 현재블록을 예측하여 예측블록을 생성한다. 예측부(120)는 인트라 예측부(122)와 인터 예측부(124)를 포함한다.

일반적으로, 픽처 내 현재블록들은 각각 예측적으로 코딩될 수 있다. 현재블록의 예측은 (현재블록을 포함하는 픽처로부터의 데이터를 사용하는) 인트라 예측 기술 또는 (현재블록을 포함하는 픽처 이전에 코딩된 픽처로부터의 데이터를 사용하는) 인터 예측 기술을 사용하여 일반적으로 수행될 수 있다. 인터 예측은 단방향 예측과 양방향 예측 모두를 포함한다.

인트라 예측부(122)는 현재블록이 포함된 현재 픽처 내에서 현재블록의 주변에 위치한 픽셀(참조 픽셀)들을 이용하여 현재블록 내의 픽셀들을 예측한다. 예측 방향에 따라 복수의 인트라 예측모드가 존재한다. 예컨대, 도 3에서 보는 바와 같이, 복수의 인트라 예측모드는 planar 모드와 DC 모드를 포함하는 비방향성 모드와 65 개의 방향성 모드를 포함할 수 있다. 각 예측모드에 따라 사용할 주변 픽셀과 연산식이 다르게 정의된다.

인트라 예측부(122)는 현재블록을 부호화하는데 사용할 인트라 예측 모드를 결정할 수 있다. 일부 예들에서, 인트라 예측부(122)는 여러 인트라 예측 모드들을 사용하여 현재블록을 인코딩하고, 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측부(122)는 여러 테스트된 인트라 예측 모드들에 대한 레이트 왜곡(rate-distortion) 분석을 사용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중 최선의 레이트 왜곡 특징들을 갖는 인트라 예측 모드를 선택할 수도 있다.

인트라 예측부(122)는 복수의 인트라 예측 모드 중에서 하나의 인트라 예측 모드를 선택하고, 선택된 인트라 예측 모드에 따라 결정되는 주변 픽셀(참조 픽셀)과 연산식을 사용하여 현재블록을 예측한다. 선택된 인트라 예측 모드에 대한 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.

인터 예측부(124)는 움직임 보상 과정을 통해 현재블록에 대한 예측블록을 생성한다. 현재 픽처보다 먼저 부호화 및 복호화된 참조픽처 내에서 현재블록과 가장 유사한 블록을 탐색하고, 그 탐색된 블록을 이용하여 현재블록에 대한 예측블록을 생성한다. 그리고, 현재 픽처 내의 현재블록과 참조픽처 내의 예측블록 간의 변위(displacement)에 해당하는 움직임벡터(motion vector)를 생성한다. 일반적으로, 움직임 추정은 루마(luma) 성분에 대해 수행되고, 루마 성분에 기초하여 계산된 모션 벡터는 루마 성분 및 크로마 성분 모두에 대해 사용된다. 현재블록을 예측하기 위해 사용된 참조픽처에 대한 정보 및 움직임벡터에 대한 정보를 포함하는 움직임 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.

감산기(130)는 현재블록으로부터 인트라 예측부(122) 또는 인터 예측부(124)에 의해 생성된 예측블록을 감산하여 잔차 블록을 생성한다.

변환부(140)는 공간 영역의 픽셀 값들을 가지는 잔차 블록 내의 잔차 신호를 주파수 도메인의 변환 계수로 변환한다. 변환부(140)는 잔차 블록 내의 잔차 신호들을 현재블록의 크기를 변환 단위로 사용하여 변환할 수 있으며, 또는 잔차 블록을 더 작은 복수의 서브블록을 분할하고 서브블록 크기의 변환 단위로 잔차 신호들을 변환할 수도 있다. 잔차 블록을 더 작은 서브블록으로 분할하는 방법은 다양하게 존재할 수 있다. 예컨대, 기정의된 동일한 크기의 서브블록으로 분할할 수도 있으며, 또는 잔차 블록을 루트 노드로 하는 QT(quadtree) 방식의 분할을 사용할 수도 있다.

양자화부(145)는 변환부(140)로부터 출력되는 변환 계수들을 양자화하고, 양자화된 변환 계수들을 부호화부(150)로 출력한다.

부호화부(150)는 양자화된 변환 계수들을 CABAC 등의 부호화 방식을 사용하여 부호화하여 비트스트림을 생성한다. 또한, 부호화부(150)는 블록 분할과 관련된 CTU size, QT 분할 플래그, BT 분할 플래그, 분할 타입 등의 정보를 부호화하여, 영상 복호화 장치가 영상 부호화 장치와 동일하게 블록을 분할할 수 있도록 한다.

부호화부(150)는 현재블록이 인트라 예측에 의해 부호화되었는지 아니면 인터 예측에 의해 부호화되었는지 여부를 지시하는 예측 타입에 대한 정보를 부호화하고, 예측 타입에 따라 인트라 예측정보(즉, 인트라 예측 모드에 대한 정보) 또는 인터 예측정보(참조픽처 및 움직임벡터에 대한 정보)를 부호화한다.

역양자화부(160)는 양자화부(145)로부터 출력되는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 생성한다. 역변환부(165)는 역양자화부(160)로부터 출력되는 변환 계수들을 주파수 도메인으로부터 공간 도메인으로 변환하여 잔차블록을 복원한다.

가산부(170)는 복원된 잔차블록과 예측부(120)에 의해 생성된 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 다음 순서의 블록을 인트라 예측할 때 참조 픽셀로서 사용된다.

필터부(180)는 블록 기반의 예측 및 변환/양자화로 인해 발생하는 블록킹 아티팩트(blocking artifacts), 링잉 아티팩트(ringing artifacts), 블러링 아티팩트(blurring artifacts) 등을 줄이기 위해 복원된 픽셀들에 대한 필터링을 수행한다. 필터부(180)는 디블록킹 필터(182)와 SAO 필터(184)를 포함할 수 있다.

디블록킹 필터(180)는 블록 단위의 부호화/복호화로 인해 발생하는 블록킹 현상(blocking artifact)을 제거하기 위해 복원된 블록 간의 경계를 필터링하고, SAO 필터(184)는 디블록킹 필터링된 영상에 대해 추가적인 필터링을 수행한다. SAO 필터(184)는 손실 부호화(lossy coding)로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해 사용되는 필터이다. SAO 프로세스에 대해서는 도 5 이하의 도면을 참조하여 후술한다.

디블록킹 필터(182) 및 SAO 필터(184)를 통해 필터링된 복원 블록은 메모리(190)에 저장한다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.

도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.

영상 복호화 장치는 복호화부(410), 역양자화부(420), 역변환부(430), 예측부(440), 가산기(450) 등을 포함하는 영상 복원기(4000)와, 필터부(460) 및 메모리(470)를 포함한다. 도 2의 영상 부호화 장치와 마찬가지로, 영상 복호화 장치는 각 구성요소가 하드웨어 칩으로 구현될 수 있으며, 또는 소프트웨어로 구현되고 마이크로프로세서가 각 구성요소에 대응하는 소프트웨어의 기능을 실행하도록 구현될 수도 있다.

복호화부(410)는 영상 부호화 장치로부터 수신한 비트스트림을 복호화하여 블록 분할과 관련된 정보를 추출하여 복호화하고자 하는 현재블록을 결정하고, 현재블록을 복원하기 위해 필요한 예측 정보와 잔차신호에 대한 정보 등을 추출한다.

복호화부(410)는 SPS (Sequence Parameter Set) 또는 PPS (Picture Parameter Set)로부터 CTU size에 대한 정보를 추출하여 CTU의 크기를 결정하고, 픽처를 결정된 크기의 CTU로 분할한다. 그리고 CTU를 트리 구조의 최상위 레이어, 즉, 루트 노드로 결정하고, CTU에 대한 분할 정보를 추출함으로써 CTU를 트리 구조를 이용하여 분할한다. 예컨대, QTBT 구조를 사용하여 CTU를 분할하는 경우, 먼저 QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 BT의 분할과 관련된 제2 플래그(BT_split_flag) 및 분할 타입(분할 방향) 정보를 추출하여 해당 리프 노드를 BT 구조로 분할한다. 다른 예로서, QTBTTT 구조를 사용하여 CTU를 분할하는 경우, QT의 분할과 관련된 제1 플래그(QT_split_flag)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할한다. 그리고, QT의 리프 노드에 해당하는 노드에 대해서는 BT 또는 TT로 더 분할되는지 여부를 지시하는 분할 플래그(split_flag) 및 분할 타입(또는 분할 방향) 정보, BT 구조 인지 TT 구조 인지를 구별하는 추가 정보를 추출한다. 이를 통해 QT의 리프 노드 이하의 각 노드들을 BT 또는 TT 구조로 반복적으로(recursively) 분할한다.

한편, 복호화부(410)는 트리 구조의 분할을 통해 복호화하고자 하는 현재블록을 결정하게 되면, 현재블록이 인트라 예측되었는지 아니면 인터 예측되었는지를 지시하는 예측 타입에 대한 정보를 추출한다.

예측 타입 정보가 인트라 예측을 지시하는 경우, 복호화부(410)는 현재블록의 인트라 예측정보(인트라 예측 모드)에 대한 신택스 요소를 추출한다.

예측 타입 정보가 인터 예측을 지시하는 경우, 복호화부(410)는 인터 예측정보에 대한 신택스 요소, 즉, 움직임벡터 및 그 움직임벡터가 참조하는 참조픽처를 나타내는 정보를 추출한다.

한편, 복호화부(410)는 잔차신호에 대한 정보로서 현재블록의 양자화된 변환계수들에 대한 정보를 추출한다.

역양자화부(420)는 양자화된 변환계수들을 역양자화하고 역변환부(430)는 역양자화된 변환계수들을 주파수 도메인으로부터 공간 도메인으로 역변환하여 잔차신호들을 복원함으로써 현재블록에 대한 잔차블록을 생성한다.

예측부(440)는 인트라 예측부(442) 및 인터 예측부(444)를 포함한다. 인트라 예측부(342)는 현재블록의 예측 타입인 인트라 예측일 때 활성화되고, 인터 예측부(344)는 현재블록의 예측 타입인 인트라 예측일 때 활성화된다.

인트라 예측부(442)는 복호화부(410)로부터 추출된 인트라 예측 모드에 대한 신택스 요소로부터 복수의 인트라 예측 모드 중 현재블록의 인트라 예측 모드를 결정하고, 인트라 예측 모드에 따라 현재블록 주변의 참조 픽셀들을 이용하여 현재블록을 예측한다.

인터 예측부(444)는 복호화부(410)로부터 추출된 인트라 예측 모드에 대한 신택스 요소를 이용하여 현재블록의 움직임 벡터와 그 움직임벡터가 참조하는 참조픽처를 결정하고, 움직임벡터와 참조픽처를 현재블록을 예측한다.

가산기(450)는 역변환부로부터 출력되는 잔차블록과 인터 예측부 또는 인트라 예측부로부터 출력되는 예측블록을 가산하여 현재블록을 복원한다. 복원된 현재블록 내의 픽셀들은 이후에 복호화할 블록을 인트라 예측할 때의 참조픽셀로서 활용된다.

영상 복원기(4000)에 의해 CU들에 해당하는 현재블록들을 순차적으로 복원함으로써, CU들로 구성된 CTU, CTU들로 구성된 픽처가 복원된다.

필터부(460)는 디블록킹 필터(462) 및 SAO 필터(464)를 포함한다. 디블록킹 필터(462)는 블록 단위의 복호화로 인해 발생하는 블록킹 현상(blocking artifact)를 제거하기 위해 복원된 블록 간의 경계를 디블록킹 필터링한다. SAO 필터(464)는, 손실 부호화(lossy coding)으로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해, 디블록킹 필터링 이후의 복원된 블록에 대해 추가적인 필터링을 수행한다. 디블록킹 필터(462) 및 SAO 필터(464)를 통해 필터링된 복원 블록은 메모리(470)에 저장한다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.

이하에서는 SAO 프로세스에 대해 상세히 설명한다. 영상 부호화 장치의 SAO 필터(184)와 영상 복호화 장치의 SAO 필터(464)에 의해 수행되는 SAO 프로세스는 서로 동일하다. 이를 위해 영상 부호화 장치의 부호화부(150)는 SAO와 관련된 신택스 요소들을 부호화하여 영상 복호화 장치로 전달하며, 영상 복호화 장치의 복호화부(410)는 SAO와 관련된 신택스 요소들을 복호화한 이후에 이를 SAO 필터(464)로 전달한다. SAO 필터(464)는 SAO와 관련된 신택스 요소들을 이용하여 영상 부호화 장치의 SAO 필터(184)와 동일한 프로세스를 수행한다.

SAO 프로세스는 영역 단위로 수행되는데, 본 개시에서는 SAO 프로세스가 수행되는 단위를 "타겟 영역"으로서 언급한다. 타겟 영역은 픽처, 슬라이스, CTU, CU 등이 될 수 있다. 이하에서는 타겟 영역인 CTU인 것으로 설명하나 본 발명이 이에 한정되지 않음은 자명하다.

SAO는 두 가지 타입이 존재하는데, 하나는 에지 오프셋(EO, edge offset)이고 다른 하나는 밴드 오프셋(BO, band offset)이다. 영상 부호화 장치는 타겟 영역에 대해 EO와 BO 중 하나를 선택하여 수행하고, SAO 타입을 지시하는 신택스를 영상 복호화 장치로 전달된다. 영상 복호화 장치는 SAO 타입을 지시하는 신택스로부터 SAO를 적용할지, 적용하는 경우 에지 오프셋을 적용할지 아니면 밴드 오프셋을 적용할지 여부를 결정한다. 예를 들어, SAO 타입을 지시하는 신택스가 0이면 SAO를 적용하지 않으며, 1인 경우에는 BO를, 2인 경우에는 EO를 적용한다.

EO에서 복원된 대상픽셀의 분류는 그 대상픽셀과 인접 픽셀들 간의 차이에 근거한다. 도 5에서 알 수 있는 바와 같이, EO는 수평, 수직, 135도, 45도 네 가지 클래스가 존재하며, 클래스에 따라 사용되는 인접 픽셀들이 달라진다. 예컨대, 수평 클래스의 경우 대상픽셀("c")의 좌우에 인접한 두 픽셀(a, b)가 선택되고, 수직 클래스의 경우에는 대상픽셀("c")의 상하에 인접한 두 픽셀(a, b)가 선택된다. 어떤 클래스가 적용되는지는 타겟 영역(예컨대, CTU) 단위로 시그널링된다. 즉, 영상 부호화 장치는 EO의 클래스들 중 하나의 클래스를 선택하여 CTU에 적용하고, 그 CTU에 적용된 EO의 클래스를 지시하기 위한 정보를 영상 복호화 장치로 전달한다. 영상 복호화 장치는 EO의 클래스를 지시하기 위한 정보를 복호화하여 CTU에 적용할 클래스를 선택한다.

선택된 EO 클래스에 대해, CTU 내의 각 픽셀들은 다섯 가지 카테고리 중 하나로 분류된다.

도 6을 참조하면 설명하면,“c”로 표시된 대상픽셀은 두 개의 인접픽셀(a, b)과 비교되며, 그 결과에 따라 다섯 가지의 카테고리 중 하나로 분류된다. 분류 기준은 아래 표와 같다.

카테고리 1은 대상픽셀 c가 두 인접픽셀 a와 b보다 작은 경우로 local valley와 관련되고, 카테고리 4는 대상픽셀 c가 두 인접픽셀 a와 b보다 작은 경우로 local peak과 관련된다. 카테고리 2는 대상픽셀 c가 두 인접픽셀 중 어느 하나보다 작고 나머지 하나와는 같은 경우로서 concave corner와 관련되고, 카테고리 3은 대상픽셀 c가 두 인접픽셀 중 어느 하나보다 크고 나머지 하나와는 같은 경우로서 convex corner와 관련된다. 카테고리 1 내지 4 중 어디에도 속하지 않는 대상픽셀은 카테고리 0으로 분류되며 필터링을 수행하지 않는다. 영상 부호화 장치는 각 카테고리마다 적용할 오프셋을 결정한다. 그리고 CTU 내의 각각의 픽셀(대상픽셀)에 대해 인접한 두 개의 픽셀과의 크기를 비교하여 대상 픽셀이 속하는 카테고리를 선택한 이후에 선택된 카테고리에 대응하는 오프셋을 대상픽셀에 가산한다.

각 카테고리에 대한 오프셋 정보는 영상 복호화 장치로 시그널링된다. 여기서, 영상 부호화 장치는 오프셋의 절대값(absolute value)만을 부호화하고 오프셋의 부호(sign)은 부호화되지 않는다. 오프셋의 부호는 카테고리 1과 2는 (+)로, 카테고리 3과 4는 (-)로 자동으로 결정된다.

영상 복호화 장치는, 각 카테고리에 대한 오프셋 정보를 복호화한 이후에, 복원된 CTU 내의 대상픽셀이 어느 카테고리에 속하는지를 판단한다. 그리고, 대상픽셀이 속하는 카테고리에 대응하는 오프셋을 대상픽셀에 가산한다.

SAO 타입 중 다른 하나인 BO에서 대상픽셀의 분류는 픽셀 값 자체에 근거한다. 픽셀값의 범위는 총 32개의 밴드로 균등하게 분할된다. 예컨대, bitdepth가 8인 경우, 픽셀 값은 0에서 255의 값을 가지며, 하나의 밴드의 폭은 8이다. 즉, 8k 부터 8k+7의 값을 가지는 픽셀들이 밴드 k (k = 0 ~ 31)에 속한다. 영상 부호화 장치는 모든 밴드들에 오프셋을 적용하는 것이 아니라 연속된 네 개의 밴드들에만 오프셋을 적용한다.

예를 들어, 도 7을 참조하여 설명하면, 영상 부호화 장치는 연속된 네 개의 밴드들에 적용할 오프셋을 산출한 이후에, CTU 내의 픽셀 중 그 연속된 네 개의 밴드에 속하는 픽셀들에 각 픽셀이 속하는 밴드에 대응하는 오프셋을 가산한다. 그리고, 연속된 네 개의 밴드들 각각의 오프셋들에 대한 정보와 그 연속된 밴드 중 첫 번째 밴드(시작 밴드)의 위치를 영상 복호화 장치로 전송한다. 연속된 네 개의 밴드 각각의 오프셋은 오프셋의 절대값과 오프셋의 부호가 별도의 신택스로 부호화될 수도 있고, 절대값과 부호가 하나의 신택스로서 부호화될 수도 있다.

영상 복호화 장치는 BO가 적용되는 첫 번째 밴드의 위치를 지시하는 정보를 복호화한 이후에, 그 정보가 지시하는 위치로부터 연속된 네 개의 밴드를 BO를 적용할 밴드로 결정한다. 그리고, 복원된 CTU 내의 픽셀들 중 그 연속된 네 개의 밴드에 속하는 픽셀들에 각 픽셀이 속하는 밴드에 대응하는 오프셋을 가산한다.

이상에서 설명한 SAO의 BO에서는 총 밴드의 개수가 32개로 고정되어 있다. bitdepth가 고정된 값을 가지는 경우 총 밴드의 개수가 고정된다는 것은 밴드 폭이 고정되어 있다는 것을 의미한다. 예를 들어, bitdepth가 8인 경우 픽셀 값은 0에서 255의 값을 가진다. 이 경우, 총 밴드의 개수가 32개로 고정되면 하나의 밴드의 폭은 8로 고정된다. 즉, 총 밴드의 개수가 32개로 고정되어 있다는 것은 밴드의 폭이 8로 고정되어 있다는 것과 동일하다. 그러나, 픽셀값을 표현하는 비트수를 나타내는 bitdepth가 다르게 설정되는 경우나 또는 타겟 영역(예: CTU)마다 그 내부의 픽셀들의 픽셀값의 범위가 다른 경우에도 총 밴드 개수 또는 밴드의 폭을 고정하는 것은 충분한 화질 개선 효과를 보기 어렵다. 따라서, 본 개시는 보다 개선된 BO 프로세스를 소개한다. 개선된 BO 프로세스는 (A) 총 밴드의 개수(또는 밴드의 폭)를 적응적으로 결정하고, (B) 나아가 BO 오프셋을 적용하는 밴드의 개수 또는 위치도 적응적으로 결정한다. 개선된 BO 프로세스는 위 (A)와 (B) 이외에는 전술한 BO 프로세스와 동일하므로 이하에서는 (A)와 (B)에 대해 설명한다.

A. 총 밴드 개수(또는 밴드 폭) 결정

영상 부호화 장치는 bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 BO의 총 밴드의 개수 또는 밴드 폭을 적응적으로 결정한다. 통상적으로 bitdepth와 QP는 영상 부호화 장치로부터 영상 복호화 장치로 시그널링된다. 타겟 영역 내의 복원된 픽셀들의 분포나 복원된 픽셀들의 최대값과 최소값은 영상 복호화 장치가 타겟 영역(예: CTU)을 복원하면 알 수 있다. 따라서, 영상 부호화 장치가 영상 복호화 장치로 BO의 총 밴드의 개수 또는 밴드 폭의 개수를 지시하기 위한 정보가 추가적으로 시널링되지 않아도, 영상 복호화 장치는 영상 부호화 장치와 동일한 방식으로 BO의 총 밴드의 개수 또는 밴드 폭을 적응적으로 결정한다.

또는, 영상 부호화 장치가 BO의 총 밴드의 개수 또는 밴드 폭을 결정한 이후에, 결정된 총 밴드의 개수 또는 밴드 폭을 지시하기 위한 정보를 영상 복호화 장치로 시그널링할 수도 있다. 영상 복호화 장치는 그 정보를 복호화하여 BO의 총 밴드의 개수 또는 밴드 폭을 결정한다.

실시예 A-1

본 실시예에서 영상 부호화 장치와 영상 복호화 장치가 bitdepth에 근거하여 BO을 위한 총 밴드의 개수를 상수 개로 지정한다. 즉, 영상 부호화 장치 및 영상 복호화 장치는 부호화하려는 영상의 bitdepth에 근거하여 해당 영상의 BO의 총 밴드 개수(k)를 결정하는 것이다. 여기서, bitdepth 정보는 VPS, SPS, PPS, slice header 중 어느 하나에 위치할 수 있으며, 휘도(luma)와 색차(chroma)의 bitdepth를 별도로 지정할 수 있다.

Luma 와 chroma의 bitdepth가 다른 경우에는 각기 다른 BO의 밴드 개수를 가질 수 있다. 혹은 Luma 와 chroma의 bitdepth가 동일한 경우에도 luma 블록의 픽셀 분포가 chroma 블록의 픽셀 분포보다 변동 폭이 클 수 있으므로, luma 블록을 위한 BO의 밴드 개수와 chroma 블록을 위한 BO의 밴드 개수에 차별을 두어 설정할 수도 있다. 예컨대, luma 및 chroma가 동일 bitdepth를 가진다 해도, luma 블록을 위한 BO의 밴드 개수를 chroma 블록을 위한 BO의 밴드 개수보다 더 많게 설정할 수 있다.

bitdepth에 따라 BO의 총 밴드 개수를 구하는 방법은 다양하게 존재할 수 있으며, 일례로서 수학식 1을 사용할 수 있다.

수학식 1에서 BD는 bitdepth를 나타내고, "<<"은 왼쪽으로의 시프트(shift) 연산을 의미한다. 예를 들어, 어떤 영상의 luma에 대한 bitdepth가 8인 경우, 수학식 1에 의해 luma 블록을 위한 32개의 BO 밴드를 가질 수 있다. 다른 예로, 어떤 영상의 luma에 대한 bitdepth가 10인 경우, 수학식 1에 의해 luma 블록을 위한 128개의 BO 밴드를 가질 수 있다. 영상 부호화 장치와 영상 복호화 장치는 bitdepth를 이용하여 동일하게 BO의 총 밴드 개수를 구할 수 있다.

실시예 A-2

본 실시예에서, BO을 위한 총 밴드의 개수를 bitdepth에 근거하여 영상 부호화 장치가 결정하고, 총 밴드의 개수를 지시하기 위한 정보를 VPS, SPS, PPS, slice header, CTU header 중 어느 하나의 위치에 포함시켜 영상 복호화 장치로 전송할 수 있다. 여기서, 총 밴드의 개수를 지시하기 위한 정보는 밴드의 개수를 의미할 수도 있고, 밴드 개수를 결정하는데 필요한 특정 값일 수도 있다. 영상 복호화 장치는 해당 영상을 위한 BO의 총 밴드 개수 정보를 상기 헤더 정보를 통해 인식할 수 있다. 일례로서, 영상 부호화 장치는 수학식 1과 같은 방법으로 총 밴드 개수를 결정하고, 이에 대한 총 밴드 개수를 헤더 정보에 실어서 영상 복호화 장치로 전달한다. 다른 예로, 영상 부호화 장치는 BO의 총 밴드 개수를 정하는데 필요한 특정 값을 영상 복호화 장치로 전달할 수도 있다. 영상 복호화 장치로 전달하는 그 특정 값은 BO의 밴드 개수를 결정하는데 필요한 파라미터 혹은 offset 값 등을 의미한다. 예를 들어, 밴드 개수를 결정하는 수학식 2의 t 값이 이에 속한다.

여기서, t는 구간 개수를 결정하는 파라미터를 의미한다.

실시예 A-3

본 실시예에서는 BO의 총 밴드 개수를 타겟 영역(픽처, 슬라이스, CTU 또는 CU) 단위로 적응적으로 결정하는 방법을 소개한다.

영상 부호화 장치는 타겟 영역 내의 복원된 픽셀 값의 분포도에 따라 BO의 총 밴드 개수를 적응적으로 결정하고, 총 밴드 개수를 지시하기 위한 정보를 타겟 영역 단위로 시그널링한다. 예컨대, 타겟 영역이 픽처인 경우 PPS 내의 신택스로서, 타겟 영역이 슬라이스인 경우 슬라이스 헤더의 신택스로서, 타겟 영역이 CTU인 경우 CTU의 신택스로서 시그널링된다. 전술한 바와 같이, 총 밴드 개수를 지시하기 위한 정보는 총 밴드 개수 그 자체를 의미할 수도 있고 또는 그 밴드 개수를 결정하는데 필요한 특정 값일 수도 있다. 영상 복호화 장치는 타겟 영역에 대한 BO의 총 밴드 개수를 지시하기 위한 정보를 획득하여 BO의 총 밴드 개수를 결정할 수 있다. 예를 들어, 타겟 영역인 하나의 CTU 내의 복원된 픽셀값이 두 그룹으로 나누어 진다면, BO의 전체 구간 개수는 2가 되고, 영상 부호화 장치는 CTU의 신택스로서 총 밴드 개수인 “2”를 결정할 수 있는 특정값을 시그널링한다. 영상 복호화 장치는 해당 CTU의 신택스로서 포함된 총 밴드 개수를 지시하기 위한 정보를 복호화하여 해당 CTU에 대한 BO의 전체 구간 개수를 2로 결정한다.

본 실시예의 또 다른 예로서, 타겟 영역보다 상위 레벨인 제1 영역의 신택스로서 기준 밴드 개수를 부호화하고, 제1 영역보다 하위 레벨이고 타겟 영역과 동일 또는 상위 레벨인 제2 영역의 신택스로서 차분 밴드 개수를 부호화할 수도 있다. 예를 들어, 타겟 영역이 CTU인 경우 CTU보다 상위 레벨인 슬라이스, 픽처, 또는 시퀀스, 비디오 단위로 기준 밴드 개수를 부호화하고, CTU 단위로 차분 밴드 개수를 부호화할 수 있다. 영상 복호화 장치는 상위 레벨의 신택스를 복호화하여 획득한 기준 밴드 개수와 CTU의 신택스들을 복호화하여 획득한 차분 밴드 개수를 가산하여 총 밴드 개수를 구할 수 있다.

실시예 A-4

본 실시예는 타겟 영역에 존재하는 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 타겟 영역의 총 밴드 개수를 적응적으로 설정한다.

예컨대, 영상 부호화 장치는 복원된 타겟 영역인 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 총 밴드의 개수를 결정한다. 영상 복호화 장치 또한 CTU를 복원한 이후에 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 타겟 영역에 대한 총 밴드 개수를 영상 부호화 장치와 동일하게 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 영상 부호화 장치가 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 총 밴드 개수를 지시하는 정보를 영상 복호화 장치로 시그널링하고, 영상 복호화 장치는 그 정보를 복호화하여 타겟 영역에 대한 총 밴드 개수를 결정할 수도 있다.

예를 들어, 하나의 타켓 영역의 복원된 픽셀값의 최소값이 32이고, 최대값이 70이며, 하나의 밴드의 폭은 고정 값 8 인 경우, 해당 타켓 영역의 총 밴드의 개수를 5개로 설정할 수 있다. 밴드의 구간은 최소값 및 최대값을 포함하는 (32 - 39), (40 - 47), (48 - 55), (56 - 63), (64 - 71)이 된다. 여기서, 총 밴드의 개수에 대한 최소값을 미리 설정할 수도 있다.

본 실시예의 다른 예시로서, 타겟 영역에 존재하는 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 타겟 영역의 밴드의 폭을 적응적으로 설정하는 것도 가능하다.

예컨대, 영상 부호화 장치는 복원된 타겟 영역인 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 밴드의 폭을 결정한다. 영상 복호화 장치 또한 CTU를 복원한 이후에 CTU 내의 픽셀들 중 최대값과 최소값을 기반으로 하여 타겟 영역에 대한 밴드의 폭을 영상 부호화 장치와 동일하게 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 영상 부호화 장치가 복원된 픽셀들의 픽셀값의 최소값 및 최대값을 기반으로 밴드의 폭을 지시하는 정보를 영상 복호화 장치로 시그널링하고, 영상 복호화 장치는 그 정보를 복호화하여 타겟 영역에 대한 밴드의 폭을 결정할 수도 있다.

예를 들어, 하나의 타켓 영역의 복원된 픽셀값의 최소값이 32이고, 최대값이 70이며, 총 밴드의 개수가 고정 값 32 인 경우, 해당 타켓 영역의 한 밴드의 폭을 1 및/또는 2개로 설정할 수 있다. 밴드의 구간은 최소값 및 최대값을 포함하는 (32 - 33), (34 - 35), (36 - 37), (38 - 39), … , (70 - 71), (72 - 73), … , (94 - 95)이 된다. 여기서, 한 밴드의 폭에 대한 최소값을 미리 설정할 수도 있다.

실시예 A-5

본 실시예는 QP (quantization parameter)를 이용하여 타겟 영역에 대한 총 밴드 개수를 결정한다.

QP가 클수록 복원된 픽셀값의 분포가 단순해 지므로 총 밴드의 개수를 줄여도 될 수 있다. 그러므로 QP가 클수록 총 밴드의 개수를 줄이고, QP가 작을수록 총 밴드의 개수를 증가시킨다. 또는 반대로, QP 값이 증가할수록 복원된 픽셀값과 원본 픽셀값과의 왜곡이 심해질 수 있으므로 총 밴드 개수를 늘리고, QP 값이 감소할수록 왜곡이 사라질 가능성이 높으므로 총 밴드 개수를 줄일 수도 있다.

영상 부호화 장치와 영상 복호화 장치는 서로 공유하는 기준에 따라 QP를 이용하여 총 밴드 개수를 결정할 수 있다. 또는 영상 부호화 장치가 QP를 이용하여 총 밴드 개수를 결정하고, 영상 복호화 장치로 총 밴드 개수를 지시하기 위한 정보를 시그널링할 수도 있다.

이상에서 설명한 실시예 A-1 내지 A-5는, bitdepth, 타겟 영역 내의 복원된 픽셀값들의 분포, 타겟 영역 내의 복원된 픽셀값들의 최대값과 최소값, QP 중 어느 하나를 요인(factor)을 이용하여 BO의 총 밴드 개수를 결정한다. 그러나 본 발명이 이에 한정되는 것은 아니며, 복수의 요인들을 이용하여 총 밴드 개수를 결정하는 것도 본 발명에 포함된다. 예컨대, 영상 부호화 장치는 bitdepth에 기초하여 기준이 되는 밴드 개수를 결정하고 QP에 따라 그 기준 밴드의 개수를 조절하여 BO의 총 밴드 개수를 결정할 수도 있다. 또는, bitdepth에 기초하여 기준이 되는 밴드 개수를 결정하고 타겟 영역 내의 복원된 픽셀값들의 최대값과 최소값에 따라 그 기준이 되는 밴드 개수를 조절하여 BO의 총 밴드 개수를 결정할 수도 있다. 영상 복호화 장치도 영상 부호화 장치와 마찬가지 방법으로 BO의 총 밴드 개수를 결정할 수 있고, 또는 총 밴드 개수를 지시하기 위한 정보를 영상 부호화 장치로부터 수신하여 총 밴드 개수를 결정할 수도 있다.

이상에서 설명한 실시예 A-1 내지 A-5는 총 밴드 개수를 결정하는 것으로 설명하였으나, 동일한 하나 이상의 요인들을 이용하여 밴드 폭을 결정하는 것도 가능하다.

한편, 총 밴드 개수를 지시하는 정보를 부호화하기 위해 다양한 방법이 적용될 수 있다. 예컨대, bitdepth에 따라 총 밴드 개수를 결정하는 실시예 A-2는 bitdepth가 시그널링되는 단위와 동일한 단위에서 총 밴드 개수를 지시하는 정보를 부호화할 수 있다. 만약, bitdepth가 SPS의 신택스로서 부호화된다면 총 밴드 개수를 지시하는 정보도 SPS의 신택스로서 부호화된다. 타겟 영역 내의 복원된 픽셀값들의 분포를 이용하는 실시예 A-3, 타겟 영역 내의 복원된 픽셀값의 최대값/최소값을 이용하는 실시예 A-4 및 QP를 이용하는 A-5는 타겟 영역 단위로 총 밴드 개수에 대한 정보를 부호화할 수 있다. 예컨대, 타겟 영역이 CTU인 경우, 실시예 A-3 내지 A-5는 CTU의 신택스로서 총 밴드 개수에 대한 정보를 부호화한다. 다른 예로서, 실시예 A-3에서 설명한 것과 마찬가지로, 실시예 A-4 및 A-5도 타겟 영역보다 상위 레벨인 제1 영역의 신택스로서 기준 밴드 개수에 대한 정보를 부호화하고, 제1 영역보다 하위 레벨이고 타겟 영역과 동일하거나 상위 레벨인 제2 영역의 신택스로서 차분 밴드 개수에 대한 정보를 부호화하는 방법을 사용할 수도 있다. 이 경우 영상 복호화 장치는 제1 영역의 신택스인 기준 밴드 개수를 복호화하여 기준 밴드 개수를 결정하고, 제2 영역의 신택스인 차분 밴드 개수를 복호화하여 차분 밴드 개수를 결정한다. 제2 영역 내의 모든 타겟 영역에 대한 총 밴드 개수는 기준 밴드 개수와 차분 밴드 개수를 가산하여 얻는다.

또한, 총 밴드 개수를 지시하는 정보는 luma 블록과 chroma 블록에 공통으로 적용되는 하나의 신택스로서 부호화될 수도 있고, luma 블록과 chroma 블록 각각에 적용되는 별개의 신택스로서 부호화될 수도 있다.

또한, 영상 부호화 장치는 VPS, SPS, PPS 등의 위치에 적응적 BO 밴드 개수 결정 방법을 인에이블(enable)하기 위한 플래그를 부호화하고, 영상 복호화 장치는 플래그가 on 인 경우에만 적응적 BO 밴드 개수 결정 방법을 적용하도록 할 수 있다. 플래그가 off인 경우에는 적응적 BO 밴드 개수 결정 방법이 사용되지 않고 전술한 고정된 BO 밴드 개수를 사용한다. 대안적으로, 타겟 영역 단위로 해당 플래그를 부호화하여 플래그가 on인 타겟 영역만 적응적 BO 밴드 개수 결정 방법을 적용할 수도 있다.

B. BO을 적용할 밴드 결정

BO의 총 밴드 개수 또는 밴드 폭이 결정된 후, 픽셀값의 범위는 서로 중첩되지 않는 복수의 밴드로 분할된다. 여기서, 픽셀값의 범위는 bitdepth에 의해 표현 가능한 값의 범위일 수 있다. 예컨대, 총 밴드 개수 또는 밴드 폭이 bitdepth에 의해 결정되는 경우 픽셀값의 범위는 bitdepth에 의해 표현 가능한 값의 범위일 수 있다. 다른 예로서, 픽셀값의 범위는 타겟 영역 내의 복원된 픽셀들이 가지는 픽셀값의 최소값과 최대값에 의해 정의될 수도 있다. 즉, 픽셀값의 범위는 최소값 이상 최대값 이하의 범위일 수 있다. 예컨대, 총 밴드 개수 또는 밴드 폭이 타겟 영역 내의 복원된 픽셀들의 최대값과 최소값에 의해 결정되는 경우, 타겟 영역 내의 복원된 픽셀들이 가지는 픽셀값의 최소값과 최대값에 의해 정의될 수도 있다.

BO 필터링은 복수의 밴드들 중에서 일정 개수의 밴드에 적용한다. 따라서, 영상 부호화 장치는 BO를 적용할 밴드들을 식별하기 위한 식별 정보를 부호화하여, 타겟 영역 단위로 부호화한다. 여기서, 영상 복호화 장치는 그 식별 정보를 복호화하여 전체 밴드들 중에서 BO를 적용할 밴드들을 식별한다. 이하에서는 BO를 적용할 밴드를 결정하고 밴드들의 위치를 식별하기 위한 식별 정보를 부호화/복호화하는 방법을 개시한다.

실시예 B-1

본 실시예는 전체 밴드들 중에서 일정 개수의 연속된 밴드들에 BO를 적용한다. 영상 부호화 장치는 일정 개수(n, n은 1 이상의 자연수)의 연속된 밴드를 결정하고, 결정된 연속된 밴드 중에서 첫 번째 밴드를 식별하기 위한 식별 정보, 다시 말해, 시작 밴드의 위치를 지시하는 위치 정보를 타겟 영역 단위로 시그널링한다. 예를 들어, 전체 밴드들 각각에 픽셀값이 낮은 밴드로부터 오름차순으로 인덱스를 부여한 경우, BO를 적용할 연속된 밴드 중에서 첫 번째 밴드에 해당하는 인덱스를 부호화한다. 영상 복호화 장치는 그 위치 정보를 복호화하여 그 위치 정보가 지시하는 밴드로부터 연속된 n개의 밴드를 BO를 적용할 밴드로 결정한다.

만약, 타켓 영역의 복원한 픽셀들 중 최대값과 최소값을 기반으로 총 밴드의 개수 또는 밴드의 폭을 설정하는 경우, 본 실시예는 해당 타켓 영역에 대한 총 밴드의 개수가 특정 임계값보다 작으면, BO를 적용할 밴드에 대한 별도 정보를 시그널링 하지 않을 수 있다. 즉, 해당 타켓 영역의 총 밴드에 대해 BO를 적용할 수도 있다. 예를 들어, BO를 적용할 밴드의 개수 n이 4로 설정되어 있는 경우, 총 밴드의 개수가 4보다 작으면 모든 밴드에 BO를 적용하게 된다. 따라서, BO를 적용할 밴드를 식별하기 위한 식별정보에 대한 추가적인 시그널링은 요구되지 않는다. 영상 복호화 장치도 총 밴드의 개수가 4보다 작으면, 모든 밴드에 BO를 적용한다.

실시예 B-2

본 실시예는 BO를 적용할 밴드를 연속하여 결정하는 것이 요구되지 않는 경우에 적합하다.

본 실시예에서 영상 부호화 장치는 전체 밴드들 중에서 BO를 적용할 n개의 밴드를 결정하고 그 결정된 밴드들 각각의 위치를 나타내는 위치 정보를 부호화한다. 각 밴드의 위치 정보는 그 밴드들에 해당하는 인덱스들일 수 있다. 각 밴드의 위치 정보는 타겟 영역 단위로 영상 복호화 장치로 시그널링된다.

대안적으로, 영상 부호화 장치는 n개의 밴드들 중에서 첫 번째 밴드의 인덱스 그 자체를 부호화하고, 나머지 밴드들에 대해서는 n개의 밴드들 사이에서 서로 이웃하는 밴드들 간의 인덱스 차이인 차분 인덱스를 부호화할 수도 있다. 영상 복호화 장치는 첫 번째 밴드의 인덱스를 복호화하여 n개의 밴드들 중 첫 번째 밴드를 식별한다. 두 번째 밴드의 인덱스는 그 두 번째 밴드에 해당하는 차분 인덱스와 첫 번째 밴드의 인덱스를 가산하여 구한다. 세 번째 밴드의 인덱스는 그 세 번째 밴드에 해당하는 차분 인덱스와 두 번째 밴드의 인덱스를 가산하여 구한다. 이렇게 이전 밴드의 인덱스와 차분 인덱스를 가산하는 방식으로 영상 복호화 장치는 BO를 적용할 n개의 밴드들을 식별할 수 있다. 예를 들어 n의 값이 4이고 4개의 밴드에 해당하는 인덱스가 4, 13, 15 및 35 인 경우, 영상 부호화 장치는 4, 9, 2, 및 20을 부호화한다, 영상 복호화 장치는 이 값들을 복호화한 후, 4로부터 첫 번째 밴드를 식별하고, 첫 번째 밴드의 인덱스 4와 차분 인덱스 9를 더하여 두 번째 밴드의 인덱스 13을 구하고, 마찬가지로 13+2 연산과 15+20 연산을 통해 세 번째 밴드와 네 변째 밴드의 인덱스를 구한다.

이상에서 설명한 실시예에서 BO를 적용한 밴드의 개수 n은 영상 부호화 장치와 영상 복호화 장치가 공유하는 고정된 값일 수도 있지만, 가변하는 값일 수도 있다. 이 경우, 영상 부호화 장치는 BO를 적용할 연속된 밴드의 개수 n에 대한 정보를 영상 복호화 장치로 시그널링한다. n에 대한 정보는 타겟 영역 단위로 시그널링되어 타겟 영역마다 BO를 적용할 연속된 밴드의 개수를 가변적으로 결정할 수 있다. 또는, 타겟 영역보다 상위 레벨의 신택스, 예컨대, 슬라이스, PPS 또는 SPS의 신택스로서 시그널링할 수도 있다. 이 경우 그 상위 레벨마다 n의 값이 가변적으로 결정된다. 즉, 상위 레벨에 포함되는 모든 타겟 영역들은 상위 레벨의 신택스로서 시그널링된 n의 값을 공유한다.

한편, 본 개시에서 기술하는 개선된 BO 프로세스는 실시예 B-1과 B-2를 선택적으로 적용할 수도 있다. 예를 들어, 영상 부호화 장치는 BO를 적용할 밴드들을 결정한 이후에, 그 결정된 밴드들이 연속적인지 아니면 불연속적인지 여부를 지시하는 플래그를 부호화할 수 있다. 그리고 BO를 적용할 밴드들이 연속적인 경우에는 실시예 B-1의 방법을 사용하고 불연속적인 경우에는 실시예 B-2를 사용하여 BO를 적용할 밴드들의 위치를 부호화할 수 있다. 영상 복호화 장치는 플래그를 복호화하여 BO를 적용할 밴드들이 연속적인지 아니면 불연속적인지 여부를 판단한다. 플래그가 '연속'을 지시하면 실시예 B-1의 방법을 사용하여 BO를 적용할 밴드들의 위치를 식별하고, 플래그가 '불연속'을 지시하면 실시예 B-2의 방법을 사용하여 BO를 적용할 밴드들의 위치를 식별한다.

도 8은 본 개시가 기술하는 개선된 BO 프로세스를 설명하는 예시적인 순서도이다.

영상 부호화 장치는 BO의 총 밴드 개수 또는 밴드 폭을 결정한다(S802). "A. 총 밴드 개수(또는 밴드 폭) 결정"에서 설명한 바와 같이, 총 밴드 개수 또는 밴드 폭은 bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 결정될 수 있다.

영상 부호화 장치는, 총 밴드 개수 또는 밴드 폭을 이용하여 픽셀값의 전체 범위를 서로 중첩되지 않는 복수의 밴드로 분할하고, 그 복수의 전체 밴드들 중에서 BO를 적용할 대상 밴드들을 결정한다(S804). "B. BO을 적용할 밴드 결정"에서 설명한 바와 같이, 대상 밴드의 개수(n)는 영상 부호화 장치와 영상 복호화 장치가 서로 공유하는 고정된 값일 수도 있고, 또는 가변하는 값일 수도 있다. 가변하는 값일 경우, 영상 부호화 장치가 부호화하는 BO 관련 신택스 요소들에는 대상 밴드의 개수에 대한 정보가 포함된다.

영상 부호화 장치는 결정된 대상밴드 각각에 대응하는 오프셋을 결정하고(S806), 타겟 영역 내의 복원된 픽셀들 중에서 각 대상밴드에 속하는 픽셀들에 그 픽셀들이 속하는 대상밴드의 오프셋을 가산한다(S808).

그리고, 영상 부호화 장치는, 영상 복호화 장치가 자신과 동일하게 BO 프로세스를 수행할 수 있도록, BO 관련 신택스 요소들을 부호화하여 영상 복호화 장치로 전송한다(S810). BO 관련 신택스 요소들은 전체 밴드들 중에서 BO를 적용할 대상 밴드들의 위치를 나타내는 위치 정보, 각 대상 밴드에 대응하는 오프셋에 대한 정보를 포함한다. BO를 적용할 대상 밴드들의 위치를 나타내는 위치 정보를 부호화하는 방법은 "B. BO을 적용할 밴드 결정"에서 이미 설명하였으므로, 더 상세한 설명은 생략한다. 만약, 영상 부호화 장치와 영상 복호화 장치가 총 밴드 개수 또는 밴드 폭을 결정하는 방법을 공유할 수 없는 경우에는, BO 관련 신택스 요소들은 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보를 추가로 더 포함할 수 있다. 또한, BO를 적용할 대상 밴드의 개수(n)가 가변적인 경우에는 n에 대한 정보를 추가로 더 포함할 수 있다.

부호화된 BO 관련 신택스 요소들은 영상 복호화 장치로 시그널링된다.

영상 복호화 장치는 영상 부호화 장치로부터 수신한 BO 관련 신택스 요소들을 복호화한다(S902). 그리고, BO의 총 밴드 개수 또는 밴드 폭을 결정한다(S904). 영상 복호화 장치는, 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보가 시그널링되지 않는 경우, 영상 부호화 장치와 동일한 방식으로 총 밴드 개수 또는 밴드 폭을 결정한다. 즉, bitdepth, 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 분포(Distribution), 타겟 영역 내에 복원된 픽셀들의 픽셀값들의 최대값과 최소값, 양자화 파라미터(QP, Quantization Parameter) 중 적어도 하나 이상을 이용하여 총 밴드 개수 또는 밴드 폭을 결정한다. 반면 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보가 시그널링되는 다른 경우, 영상 복호화 장치는 복호화된 BO 관련 신택스 요소들로부터 총 밴드 개수 또는 밴드 폭을 지시하기 위한 정보를 획득하고, 그 정보에 의해 총 밴드 개수 또는 밴드 폭을 결정한다. 총 밴드 개수 또는 밴드 폭을 결정하는 다양한 방법에 대해서는 이미 "A. 총 밴드 개수(또는 밴드 폭) 결정"에서 설명하였으므로, 더 이상의 설명은 생략한다.

영상 복호화 장치는, 그 결정된 총 밴드 개수 또는 밴드 폭을 사용하여 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할한다. 그리고 BO 관련 신택스 요소들로부터 BO를 적용한 대상밴드들의 위치를 식별하기 위한 위치 정보를 획득하고, 그 위치 정보를 이용하여 그 복수의 전체 밴드들 중에서 BO를 적용할 대상밴드들을 결정한다(S906). BO를 적용할 대상밴드의 결정에 대해서는 "B. BO을 적용할 밴드 결정"에서 이미 설명하였으므로, 더 상세한 설명은 생략한다.

영상 복호화 장치는 BO 관련 신택스 요소들로부터 대상 밴드 각각에 대응하는 오프셋을 획득하고(S908), 타겟 영역 내의 복원된 픽셀들 중 대상 밴드들 각각에 속하는 픽셀들에 그 픽셀들이 속하는 대상 밴드들의 오프셋을 가산한다(S910).

이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (16)

1. 영상 복호화 장치에서 타겟 영역 내의 복원된 픽셀들을 필터링하는 방법에 있어서,
   비트스트림으로부터 비트뎁스(bitdepth)에 대한 정보 또는 양자화 파라미터(quantization parameter)에 대한 정보 중 적어도 하나를 복호화하는 단계; 및
   상기 비트뎁스에 대한 정보 또는 상기 양자화 파라미터에 대한 정보 중 적어도 하나에 근거하여, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수를 결정하는 단계;
   상기 총 밴드 개수를 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계;
   상기 선택된 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 상기 비트스트림으로부터 획득하는 단계; 및
   상기 타겟 영역 내의 복원된 픽셀들 중 상기 선택된 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계
   를 포함하는 필터링 방법.
2. 삭제
3. 제1항에 있어서,
   상기 비트스트림으로부터 상기 총 밴드 개수를 연산하기 위한 정보를 복호화하는 단계를 더 포함하고,
   상기 총 밴드 개수를 연산하기 위한 정보는 밴드 폭을 나타내는 정보이고,
   상기 총 밴드의 개수는 상기 총 밴드 개수를 연산하기 위한 정보를 추가로 더 이용하여 적응적으로 결정되는 것을 특징으로 하는 필터링 방법.
4. 제3항에 있어서,
   상기 총 밴드 개수를 연산하기 위한 정보를 복호화하는 단계는,
   상기 타겟 영역의 상위 레벨인 제1 영역에 대응하는 신택스들을 복호화하여 기준 밴드 개수를 획득하는 단계; 및
   상기 제1 영역보다 하위 레벨이고 상기 타겟 영역과 동일 또는 상위 레벨인 제2 영역에 대응하는 신택스들을 복호화하여 차분 밴드 개수를 획득하는 단계를 포함하고,
   상기 총 밴드 개수는 상기 기준 밴드 개수와 상기 차분 밴드 개수를 가산하여 결정되는 것을 특징으로 하는 필터링 방법.
5. 삭제
6. 제1항에 있어서,
   상기 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계는,
   상기 비트스트림으로부터 필터링을 수행할 밴드의 개수에 대한 정보를 복호화하는 단계;
   상기 비트스트림으로부터 상기 복수의 밴드들 중에서 필터링을 수행할 첫 번째 밴드를 식별하기 위한 식별 정보를 복호화하는 단계; 및
   상기 식별 정보에 의해 지시되는 밴드로부터 상기 필터링을 수행할 밴드의 개수에 대한 정보에 의해 지시되는 개수만큼의 연속된 밴드들(consecutive bands)을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 단계
   를 포함하는 필터링 방법.
7. 제1항에 있어서,
   상기 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계는,
   상기 복수의 밴드들 중에서 필터링을 수행할 밴드들 각각을 식별하기 위한 식별 정보를 복호화하는 단계;
   상기 식별 정보에 의해 식별되는 밴드들을 상기 필터링을 수행할 하나 이상의 대상 밴드로서 선택하는 단계
   를 포함하는 필터링 방법.
8. 제7항에 있어서,
   상기 식별 정보는,
   상기 필터링을 수행할 밴드들 중 첫 번째 밴드의 위치를 지시하는 인덱스, 및
   상기 필터링을 수행할 밴드들 중 서로 이웃하는 밴드들 간의 인덱스의 차이인 차분 인덱스를 포함하는 것을 특징으로 하는 필터링 방법.
9. 제1항에 있어서,
   상기 픽셀값의 범위는 비트뎁스에 의해 표현 가능한 픽셀값의 범위, 또는 상기 타겟 영역 내의 복원된 픽셀들의 최소값 및 최대값에 의해 정의되는 것을 특징으로 하는 필터링 방법.
10. 타겟 영역 내의 복원된 픽셀들을 필터링하기 위한 영상 부호화 방법에 있어서,
    비트뎁스(bitdepth)에 대한 정보 또는 양자화 파라미터(quantization parameter)에 대한 정보 중 적어도 하나를 부호화하는 단계;
    상기 비트뎁스에 대한 정보와 관련된 비트뎁스 또는 상기 양자화 파라미터에 대한 정보와 관련된 양자화 파라미터 중 적어도 하나에 근거하여, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수를 결정하는 단계;
    상기 총 밴드 개수를 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계;
    상기 하나 이상의 대상 밴드 각각에 대응하는 오프셋을 결정하는 단계;
    상기 타겟 영역 내의 복원된 픽셀들 중 상기 하나 이상의 대상 밴드에 속하는 픽셀들과 대응하는 오프셋들을 가산하는 단계; 및
    상기 하나 이상의 대상 밴드 각각에 대응하는 오프셋에 대한 정보를 부호화하는 단계
    를 포함하는 것을 특징으로 하는 영상 부호화 방법.
11. 타겟 영역 내의 복원된 픽셀들을 필터링하기 위한 영상 부호화 방법에 의해 생성된 비트스트림을 저장하는, 디코더에 의해 판독 가능한, 기록 매체에 있어서,
    상기 영상 부호화 방법은,
    비트뎁스(bitdepth)에 대한 정보 또는 양자화 파라미터(quantization parameter)에 대한 정보 중 적어도 하나를 부호화하는 단계;
    상기 비트뎁스에 대한 정보와 관련된 비트뎁스 또는 상기 양자화 파라미터에 대한 정보와 관련된 양자화 파라미터 중 적어도 하나에 근거하여, 픽셀값의 범위를 서로 중첩되지 않는 복수의 밴드로 분할하기 위한 총 밴드 개수를 결정하는 단계;
    상기 총 밴드 개수를 토대로 분할된 상기 복수의 밴드 중에서 필터링을 수행할 하나 이상의 대상 밴드를 선택하는 단계;
    상기 타겟 영역 내의 복원된 픽셀들 중 상기 하나 이상의 대상 밴드에 속하는 픽셀들과의 가산을 위해 사용될, 상기 하나 이상의 대상 밴드 각각에 대응하는, 오프셋을 결정하는 단계; 및
    상기 하나 이상의 대상 밴드 각각에 대응하는 오프셋에 대한 정보를 부호화하는 단계
    를 포함하는 것을 특징으로 하는, 기록 매체.
12. 삭제
13. 삭제
14. 삭제
15. 삭제
16. 삭제

Images