KR20230155387A

KR20230155387A - 레벨 설정 방법 및 이를 이용한 영상 복호화 장치

Info

Publication number: KR20230155387A
Application number: KR1020230147493A
Authority: KR
Inventors: 임정연; 신재섭; 이선영; 손세훈
Original assignee: 에스케이텔레콤 주식회사
Priority date: 2018-04-10
Filing date: 2023-10-31
Publication date: 2023-11-10
Also published as: KR102711340B1; KR102711418B1; KR102711408B1; KR20230155386A; KR20230156005A

Abstract

레벨 설정 방법 및 이를 이용한 영상 복호화 장치를 개시한다.
본 발명의 일 실시예에 의하면, 레벨(level)을 하나 이상의 영역 별로 설정하는 방법으로서, 레벨 정의와 관련된 정의 신택스 요소(syntax element)와 대상 지정과 관련된 지정 신택스 요소를 비트스트림으로부터 복호화하는 단계; 상기 정의 신택스 요소를 기초로 하나 이상의 레벨을 정의하는 단계; 및 상기 정의된 레벨 중 상기 지정 신택스 요소가 지정하는 대상 레벨을 상기 지정 신택스 요소가 지정하는 대상 영역에 설정하는 단계를 포함하는 것을 특징으로 하는 레벨 설정 방법을 제공한다.

Description

레벨 설정 방법 및 이를 이용한 영상 복호화 장치{LEVEL SETTING METHOD AND APPARATUS USING THE SAME}

본 발명은 영상의 부호화 및 복호화에 관한 것으로서, 더욱 구체적으로는 영역 별로 서로 다른 레벨 또는 티어를 설정하여 부호화 및 복호화의 효율을 향상시킨 레벨 설정 방법 및 이를 이용한 영상 복호화 장치에 관한 것이다.

동영상 데이터는 음성 데이터나 정지 영상 데이터 등에 비하여 많은 데이터량을 가지기 때문에, 압축을 위한 처리 없이 그 자체를 저장하거나 전송하기 위해서는 메모리를 포함하여 많은 하드웨어 자원을 필요로 한다.

따라서, 통상적으로 동영상 데이터를 저장하거나 전송할 때에는 부호화기를 사용하여 동영상 데이터를 압축하여 저장하거나 전송하며, 복호화기에서는 압축된 동영상 데이터를 수신하여 압축을 해제하고 재생한다. 이러한 동영상 압축 기술로는 H.264/AVC를 비롯하여, H.264/AVC에 비해 약 40% 정도의 부호화 효율을 향상시킨 HEVC(High Efficiency Video Coding)가 존재한다.

그러나, 영상의 크기 및 해상도, 프레임율이 점차 증가하고 있고, 이에 따라 부호화해야 하는 데이터량도 증가하고 있으므로 기존의 압축 기술보다 더 부호화 효율이 좋고 화질 개선 효과도 높은 새로운 압축 기술이 요구된다.

이러한 요구에 부응하기 위해 본 발명은 개선된 영상 부호화 및 복호화 기술을 제공하는 것을 목적으로 하며, 특히, 본 발명의 일 측면은 하나 이상의 레벨 또는 티어를 미리 정의하고, 대상 영역 별로 서로 다른 레벨 또는 티어를 설정함으로써 부호화 및 복호화의 효율을 향상시키는 기술과 관련된다.

본 발명의 일 측면은, 레벨(level)을 하나 이상의 영역 별로 설정하는 방법으로서, 레벨 정의와 관련된 정의 신택스 요소(syntax element)와 대상 지정과 관련된 지정 신택스 요소를 비트스트림으로부터 복호화하는 단계; 상기 정의 신택스 요소를 기초로 하나 이상의 레벨을 정의하는 단계; 및 상기 정의된 레벨 중 상기 지정 신택스 요소가 지정하는 대상 레벨을 상기 지정 신택스 요소가 지정하는 대상 영역에 설정하는 단계를 포함하는 것을 특징으로 하는 레벨 설정 방법을 제공한다.

본 발명의 다른 일 측면은, 레벨을 하나 이상의 영역 별로 설정하는 영상 복호화 장치로서, 레벨(level) 정의와 관련된 정의 신택스 요소(syntax element)와 대상 지정과 관련된 지정 신택스 요소를 비트스트림으로부터 복호화하는 복호화부; 및 상기 정의 신택스 요소를 기초로 하나 이상의 레벨을 정의하며, 상기 정의된 레벨 중 상기 지정 신택스 요소가 지정하는 대상 레벨을 상기 지정 신택스 요소가 지정하는 대상 영역에 설정하는 제어수단을 포함하는 것을 특징으로 하는 영상 복호화 장치를 제공한다.

이상에서 설명한 바와 같이 본 발명의 일 실시예에 의하면, 대상 영역 별로 서로 다른 레벨 또는 티어를 설정함으로써 대상 영역의 화질 특성에 최적화된 부호화 및 복호화를 구현할 수 있게 된다.

또한, 본 발명의 다른 일 실시예에 의하면, 대상 영역 별로 레벨 또는 티어를 달리 설정하여 실제 화상 표시 대상에 해당하는 뷰포트(viewport) 영역을 다른 영역과 구별할 수 있게 됨으로써 선택적 디코딩을 구현할 수 있게 된다.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다.
도 2는 QTBTTT 구조를 이용하여 블록을 분할하는 방법을 설명하기 위한 도면이다.
도 3은 복수의 인트라 예측 모드들을 설명하기 위한 도면이다.
도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다.
도 5 및 도 6은 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 레벨 또는 티어 설정 방법에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다.
도 7은 대상 영역 별로 서로 다른 레벨 또는 티어를 설정함으로써 영역 별로 선택적인 디코딩을 구현하는 본 발명의 일 실시예를 설명하기 위한 도면이다.
도 8 및 도 9는 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 대상 레벨 또는 대상 티어 지정에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다.
도 10 및 도 11은 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 레벨 또는 티어 정의에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다.

이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성 요소들에 식별 부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.

도 1은 본 개시의 기술들을 구현할 수 있는 영상 부호화 장치에 대한 예시적인 블록도이다. 이하에서는 도 1을 참조하여 영상 부호화 장치와 이 장치의 하위 구성들에 대하여 설명하도록 한다.

도 1에 도시된 바와 같이, 영상 부호화 장치는 블록 분할부(110), 예측부(120), 감산기(130), 변환부(140), 양자화부(145), 부호화부(150), 역양자화부(160), 역변환부(165), 가산기(170), 필터부(180) 및 메모리(190)를 포함하여 구성될 수 있다.

영상 부호화 장치의 각 구성요소는 하드웨어 또는 소프트웨어로 구현되거나, 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 각 구성요소의 기능이 소프트웨어로 구현되고 마이크로프로세서가 각 소프트웨어(구성요소)의 각 기능을 실행하는 형태로 구현될 수도 있다.

하나의 영상(비디오)은 복수의 픽처들로 구성된다. 각 픽처들은 복수의 영역으로 분할되고 각 영역마다 부호화가 수행된다. 예를 들어, 하나의 픽처는 하나 이상의 슬라이스(slice) 또는/및 타일(Tile)로 분할되고, 하나 이상의 타일을 타일 그룹(Tile Group)으로 정의할 수 있다. 각 슬라이스 또는 타일은 하나 이상의 CTU(Coding Tree Unit)로 분할된다. 그리고 각 CTU는 트리 구조에 의해 하나 이상의 CU(Coding Unit)들로 분할된다.

각 CU에 적용되는 정보들은 CU의 신택스(Syntax)로 부호화되고, 하나의 CTU에 포함된 CU들에 공통적으로 적용되는 정보는 CTU의 신택스로 부호화된다. 또한, 하나의 타일 내의 모든 블록들에 공통적으로 적용되는 정보들은 타일의 신택스로 부호화되거나 해당 타일이 속한 타일 그룹의 신택스로 부호화되며, 하나의 픽처들을 구성하는 모든 블록들에 적용되는 정보들은 픽처 파라미터 셋(PPS, Picture Parameter Set) 또는 픽처 헤더에 부호화된다.

나아가, 복수의 픽처가 공통으로 참조하는 정보들은 시퀀스 파라미터 셋(SPS, Sequence Parameter Set)에 부호화되며, 하나 이상의 SPS가 공통으로 참조하는 정보들은 비디오 파라미터 셋(VPS, Video Parameter Set)에 부호화된다.

블록 분할부(110)는 CTU(Coding Tree Unit)의 크기를 결정한다. CTU의 크기에 대한 정보(CTU size)는 SPS 또는 PPS의 신택스로 부호화되어 영상 복호화 장치로 전달된다.

블록 분할부(110)는 영상을 구성하는 각 픽처(picture)를 미리 결정된 크기를 가지는 복수의 CTU(Coding Tree Unit)로 분할한 이후에, 분할된 CTU를 트리 구조(tree structure)를 이용하여 반복적으로(recursively) 분할한다. 트리 구조에서의 리프 노드(leaf node)가 부호화의 기본 단위인 CU(coding unit)가 된다.

트리 구조에는 상위 노드(혹은 부모 노드)가 동일한 크기를 가지는 네 개의 하위 노드(혹은 자식 노드)로 분할되는 쿼드트리(Quad Tree, QT), 상위 노드가 두 개의 하위 노드로 분할되는 바이너리트리(Binary Tree, BT), 상위 노드가 1:2:1 비율로 세 개의 하위 노드로 분할되는 터너리트리(Ternary Tree, TT) 등이 포함될 수 있다.

또한, QT 구조, BT 구조 및 TT 구조 중 둘 이상이 혼용된 구조 등이 포함될 수 있다. 예컨대, QTBT(Quad Tree plus Binary Tree) 구조가 사용될 수 있고, QTBTTT(Quad Tree plus Binary Tree Ternary Tree) 구조가 사용될 수 있다.

도 2는 QTBTTT 구조를 이용하여 블록을 분할하는 방법을 설명하기 위한 도면이다. 도 2에서 보는 바와 같이, CTU는 먼저 QT 구조로 분할될 수 있다. 쿼드트리 분할은 분할 블록(splitting block)의 크기가 QT에서 허용되는 리프 노드의 최소 블록 크기(MinQTSize)에 도달할 때까지 반복될 수 있다.

QT의 리프 노드가 BT에서 허용되는 루트 노드의 최대 블록 크기(MaxBTSize)보다 크지 않은 경우, BT 구조 또는 TT 구조 중 하나 이상으로 더 분할될 수 있다. BT 구조 및/또는 TT 구조에서는 복수의 분할 방향이 존재할 수 있다.

예컨대, 일부 예시에서, 해당 노드의 블록을 가로로 분할하는 타입(즉, horizontal splitting)과 세로로 분할하는 타입(즉, vertical splitting) 두 가지가 존재할 수 있다.

도 2에 표현된 바와 같이, BTTT 분할이 수행되면, 노드들이 분할되었는지 여부를 지시하는 플래그, 분할 방향(vertical 또는 horizontal)을 나타내는 플래그 및/또는 분할 타입(Binary 또는 Ternary)을 나타내는 플래그가 영상 복호화 장치로 시그널링될 수 있다.

한편, 해당 노드의 블록을 서로 비대칭 형태의 두 개의 블록으로 분할하는 타입이 추가로 더 존재할 수도 있다. 비대칭 형태에는 해당 노드의 블록을 1:3의 크기 비율을 가지는 두 개의 직사각형 블록으로 분할하는 형태, 해당 노드의 블록을 대각선 방향으로 분할하는 형태 등이 포함될 수 있다.

트리 구조의 다른 예시로서 QTBT가 사용되는 경우, CTU는 먼저 QT 구조로 분할된 이후에, QT의 리프 노드들은 BT 구조로 더 분할될 수 있다.

CU는 CTU로부터의 QTBT 또는 QTBTTT 분할에 따라 다양한 크기를 가질 수 있다. 이하에서는, 부호화 또는 복호화하고자 하는 CU(즉, QTBTTT의 리프 노드)에 해당하는 블록을 '현재 블록'이라 지칭한다.

예측부(120)는 현재 블록을 예측하여 예측 블록을 생성한다. 예측부(120)는 인트라 예측부(122)와 인터 예측부(124)를 포함하여 구성될 수 있다. 일반적으로, 픽처 내 현재 블록들은 각각 예측적으로 코딩될 수 있다. 현재 블록의 예측은 현재 블록을 포함하는 픽처의 데이터를 사용하는 인트라 예측 기술 또는 현재 블록을 포함하는 픽처 이전에 코딩된 픽처의 데이터를 사용하는 인터 예측 기술을 사용하여 수행될 수 있다.

인트라 예측부(122)는 현재 블록이 포함된 현재 픽처 내에서 현재 블록의 주변에 위치한 픽셀(참조 픽셀)들을 이용하여 현재 블록 내의 픽셀들을 예측한다. 예측 방향에 따라 복수의 인트라 예측모드가 존재한다. 예컨대, 도 3에서 보는 바와 같이, 복수의 인트라 예측모드는 planar 모드와 DC 모드를 포함하는 비방향성 모드와 65개의 방향성 모드를 포함할 수 있다. 각 예측모드에 따라 사용할 주변 픽셀과 연산식이 다르게 정의된다.

인트라 예측부(122)는 현재 블록을 부호화하는데 사용할 인트라 예측 모드를 결정할 수 있다. 일부 예들에서, 인트라 예측부(122)는 여러 인트라 예측 모드들을 사용하여 현재 블록을 인코딩하고, 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다.

예를 들어, 인트라 예측부(122)는 여러 테스트된 인트라 예측 모드들에 대한 레이트 왜곡(rate-distortion) 분석을 사용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중 최선의 레이트 왜곡 특징들을 갖는 인트라 예측 모드를 선택할 수도 있다.

인트라 예측부(122)는 복수의 인트라 예측 모드 중에서 하나의 인트라 예측 모드를 선택하고, 선택된 인트라 예측 모드에 따라 결정되는 주변 픽셀(참조 픽셀)과 연산식을 사용하여 현재 블록을 예측한다. 선택된 인트라 예측 모드에 대한 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.

인터 예측부(124)는 움직임 추정(motion estimation) 과정을 통해 현재 픽처보다 먼저 부호화 및 복호화된 참조 픽처 내에서 현재 블록과 가장 유사한 블록을 탐색하고, 움직임 보상 과정을 통해 탐색된 블록을 이용하여 현재 블록에 대한 예측 블록을 생성한다. 인터 예측은 일반적으로 예측 방향에 따라 단방향 예측(Uni-directional prediction)과 양방향 예측(Bi-directional prediction)으로 구별될 수 있다.

인터 예측부(124)는 현재 픽처 내의 현재 블록과 참조 픽처 내의 예측 블록 간의 변위(displacement)에 해당하는 움직임벡터(motion vector)를 생성한다. 일반적으로, 움직임 추정은 루마(luma) 성분에 대해 수행되고, 루마 성분에 기초하여 계산된 모션 벡터는 루마 성분 및 크로마 성분 모두에 대해 사용된다.

현재 블록을 예측하기 위해 사용된 참조 픽처에 대한 정보 및 움직임벡터에 대한 정보를 포함하는 움직임 정보는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 전달된다.

움직임 정보를 부호화하는 데 소요되는 비트량을 감소 또는 최소화시키기 위해 다양한 방법이 사용될 수 있다. 이 다양한 방법들 중 대표적인 예로 Skip 모드, Merge 모드 및 AMVP(Adaptive(Advanced) motion vector predictor) 모드를 들 수 있다.

Skip 모드에서는 주변 블록들로부터 미리 설정된 개수의 후보 블록들이 선별되고, 선별된 후보 블록들의 움직임 정보들 중 현재 블록의 움직임 정보로 사용될 하나가 선택된 후, 선택된 움직임 정보의 index 값이 부호화되어 영상 복호화 장치로 시그널링된다. HEVC 표준에서, Skip 모드에 대한 index 값은 merge_idx syntax를 통해 표현된다.

Merge 모드에서는 먼저, 주변 블록들로부터 미리 설정된 개수의 후보 블록들이 선별된다. 후보 블록들이 선별되면, 인터 예측부(124)는 후보 블록들이 포함된 머지 리스트(merge list)를 구성하고, 리스트에 포함된 후보 블록의 움직임 정보들 중에서 현재 블록의 움직임 정보로 사용될 움직임 정보를 선택하며, 선택된 움직임 정보(선택된 후보 블록)를 식별하기 위한 merge index 값을 생성한다.

선택된 움직임 정보의 index 값 즉, merge index 값은 부호화되어 영상 복호화 장치로 시그널링된다. HEVC 표준에서, Merge 모드에 대한 index 값은 merge_idx syntax를 통해 표현된다.

AMVP 모드에서는 먼저, 현재 블록의 주변 블록들을 이용하여 현재 블록의 움직임 벡터에 대한 예측 움직임 벡터(motion vector predictor, MVP) 후보들이 유도된다. 예측 움직임 벡터 후보들이 유도되면, 인터 예측부(124)는 현재 블록의 움직임 벡터에 대한 예측 움직임 벡터(mvp)를 결정하고, 현재 블록의 움직임 벡터에서 결정된 예측 움직임 벡터를 감산하여 차분 움직임 벡터(motion vector difference, mvd)를 산출한다. 산출된 차분 움직임 벡터는 부호화되어 영상 복호화 장치로 시그널링된다.

예측 움직임 벡터 후보들로부터 예측 움직임 벡터를 결정하는 과정은 미리 정의된 함수(예를 들어, 중앙 값 연산, 평균 값 연산 등)를 통해 구현될 수 있다. 이 경우, 영상 복호화 장치는 미리 정의된 함수를 적용하도록 설정되어 있다.

예측 움직임 벡터 후보들을 유도하기 위해 이용되는 주변 블록들은 이미 부호화 및 복호화가 완료된 블록에 해당하므로, 영상 복호화 장치도 이 주변 블록들에 대한 움직임 벡터를 이미 인지하고 있다. 따라서, 예측 움직임 벡터 후보들을 식별하기 위한 정보들은 부호화될 필요가 없으므로, 영상 부호화 장치는 차분 움직임 벡터에 대한 정보와 현재 블록을 예측하기 위해 사용된 참조 픽처에 대한 정보만을 부호화한다.

예측 움직임 벡터 후보들로부터 예측 움직임 벡터를 결정하는 과정은 예측 움직임 벡터 후보들 중 어느 하나를 선택하는 방식으로 구현될 수도 있다. 이와 같은 경우, 차분 움직임 벡터에 대한 정보, 현재 블록을 예측하기 위해 사용된 참조 픽처에 대한 정보와 함께, 결정된 예측 움직임 벡터를 식별하기 위한 정보가 추가적으로 부호화된다.

감산기(130)는 인트라 예측부(122) 또는 인터 예측부(124)에 의해 생성된 예측 블록과 현재 블록을 감산하여 잔차 블록을 생성하고, 변환부(140)는 공간 영역의 픽셀 값들을 가지는 잔차 블록 내의 잔차 신호를 주파수 도메인의 변환 계수로 변환한다.

변환부(140)는 잔차 블록 내의 잔차 신호들을 현재 블록의 크기를 변환 단위로 사용하여 변환할 수 있으며, 잔차 블록을 더 작은 복수의 서브 블록으로 분할하고 서브 블록 크기의 변환 단위로 잔차 신호들을 변환할 수도 있다.

잔차 블록을 더 작은 서브 블록으로 분할하는 방법은 다양하게 존재할 수 있다. 예컨대, 기 정의된 동일한 크기의 서브 블록으로 분할할 수도 있으며, 잔차 블록을 루트 노드로 하는 QT(Quad Tree) 방식의 분할을 사용할 수도 있다.

양자화부(145)는 변환부(140)로부터 출력되는 변환 계수들을 양자화하고, 양자화된 변환 계수들을 부호화부(150)로 출력한다.

부호화부(150)는 양자화된 변환 계수들을 CABAC 등의 부호화 방식을 사용하여 부호화함으로써 비트스트림을 생성한다. 또한, 부호화부(150)는 블록 분할과 관련된 CTU size, QT 분할 플래그, BTTT 분할 플래그, 분할 방향 및 분할 타입 등의 정보를 부호화 및 시그널링하여 영상 복호화 장치가 영상 부호화 장치와 동일하게 블록을 분할할 수 있도록 한다.

나아가 부호화부(150)는 현재 블록이 인트라 예측에 의해 부호화되었는지 아니면 인터 예측에 의해 부호화되었는지 여부를 지시하는 예측 타입에 대한 정보를 부호화하고, 예측 타입에 따라 인트라 예측정보(즉, 인트라 예측 모드에 대한 정보) 또는 인터 예측정보(참조 픽처 및 움직임벡터에 대한 정보)를 부호화한다.

역양자화부(160)는 양자화부(145)로부터 출력되는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 생성한다. 역변환부(165)는 역양자화부(160)로부터 출력되는 변환 계수들을 주파수 도메인으로부터 공간 도메인으로 변환하여 잔차 블록을 복원한다.

가산부(170)는 복원된 잔차 블록과 예측부(120)에 의해 생성된 예측 블록을 가산하여 현재 블록을 복원한다. 복원된 현재 블록 내의 픽셀들은 다음 순서 블록의 인트라 예측을 위한 참조 픽셀로 사용된다.

필터부(180)는 블록 기반의 예측 및 변환/양자화로 인해 발생하는 블록킹 아티팩트(blocking artifacts), 링잉 아티팩트(ringing artifacts), 블러링 아티팩트(blurring artifacts) 등을 감소시키기 위해, 복원된 픽셀들에 대한 필터링을 수행한다. 필터부(180)는 디블록킹 필터(182)와 SAO 필터(184)를 포함할 수 있다.

디블록킹 필터(180)는 복원된 블록 간의 경계를 필터링하여 블록 단위의 부호화/복호화로 인해 발생하는 블록킹 현상(blocking artifact)을 제거하고, SAO 필터(184)는 디블록킹 필터링된 영상에 대해 추가적인 필터링을 수행한다.

SAO 필터(184)는 손실 부호화(lossy coding)로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해 사용되는 필터에 해당한다. 디블록킹 필터(182) 및 SAO 필터(184)를 통해 필터링된 복원 블록은 메모리(190)에 저장된다. 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.

도 1에는 표현하지 않았으나, 영상 부호화 장치는 서로 다르거나 동일한 레벨 또는 티어를 영역 별로 설정하는 제어수단을 더 포함하여 구성될 수 있다. 이 제어수단은 도 1에 표현된 하위 구성들과 함께 동일한 물리적 구성(프로세서 등)에서 구현되거나, 도 1에 표현된 하위 구성들과는 다른 물리적 구성에서 구현될 수 있다. 제어수단에 대한 상세한 내용은 후술하도록 한다.

도 4는 본 개시의 기술들을 구현할 수 있는 영상 복호화 장치의 예시적인 블록도이다. 이하에서는 도 4를 참조하여 영상 복호화 장치와 이 장치의 하위 구성들에 대하여 설명하도록 한다.

도 4에 도시된 바와 같이, 영상 복호화 장치는 복호화부(410), 역양자화부(420), 역변환부(430), 예측부(440), 가산기(450), 필터부(460) 및 메모리(470)를 포함하여 구성될 수 있다.

영상 복호화 장치는 도 1에 표현된 영상 부호화 장치와 마찬가지로, 각 구성요소가 하드웨어 칩으로 구현될 수 있으며, 각 구성요소의 기능이 소프트웨어로 구현되고 마이크로프로세서가 각 소프트웨어의 기능을 실행하도록 구성될 수도 있다.

복호화부(410)는 영상 부호화 장치로부터 수신된 비트스트림을 복호화하여 블록 분할과 관련된 정보(루마 블록의 분할정보 및/또는 크로마 블록의 분할정보)를 추출하고, 이를 이용하여 복호화하고자 하는 현재 블록을 결정하며, 현재 블록을 복원하기 위해 필요한 예측 정보와 잔차 신호에 대한 정보 등을 추출한다.

복호화부(410)는 SPS(Sequence Parameter Set) 또는 PPS(Picture Parameter Set)로부터 CTU size에 대한 정보를 추출하여 CTU의 크기를 결정하고, 픽처를 결정된 크기의 CTU로 분할한다. 또한, 복호화부(410)는 CTU를 트리 구조의 최상위 레이어, 즉, 루트 노드로 결정하고, 비트스트림으로부터 분할 정보를 추출한 후, 이를 이용하여 블록을 분할 또는 복원한다.

또한, 복호화부(410)는 QT 분할의 리프 노드에 해당하는 노드에 대해서는 블록의 BT 분할 여부 및 분할 타입(분할 방향)에 대한 정보를 추출하여 해당 리프 노드를 BT 구조로 분할한다.

다른 예로서, QTBTTT 구조를 사용하여 블록을 분할 또는 복원하는 경우, 복호화부(410)는 QT 분할 여부에 대한 정보(플래그)를 추출하여 각 노드를 하위 레이어의 네 개의 노드로 분할하고, QT 분할의 리프 노드(QT 분할이 더 이상 발생하지 않는 노드)에 해당하는 노드에 대해서는 BT 또는 TT로 더 분할되는지 여부, 분할 방향에 대한 정보 및 BT 구조인지 TT 구조인지를 구별하는 분할 타입 정보를 추출하여 BT 또는 TT 구조로 반복적으로(recursively) 분할한다.

이와 같이, 분할정보를 이용하여 복호화하고자 하는 현재 블록이 결정되면, 복호화부(410)는 현재 블록이 인트라 예측되었는지 아니면, 인터 예측되었는지를 지시하는 예측 타입에 대한 정보를 추출한다.

예측 타입 정보가 인트라 예측을 지시하는 경우, 복호화부(410)는 현재 블록의 인트라 예측정보(인트라 예측 모드)에 대한 신택스 요소를 추출한다. 예측 타입 정보가 인터 예측을 지시하는 경우, 복호화부(410)는 인터 예측정보에 대한 신택스 요소 즉, 움직임벡터 및 그 움직임벡터가 참조하는 참조 픽처를 나타내는 정보(현재 블록의 움직임 정보)를 추출한다.

한편, 복호화부(410)는 잔차 신호에 대한 정보로서 현재 블록의 양자화된 변환계수들에 대한 정보를 추출한다.

역양자화부(420)는 양자화된 변환계수들을 역양자화하고, 역변환부(430)는 역양자화된 변환계수들을 주파수 도메인으로부터 공간 도메인으로 역변환하여 잔차 신호들을 복원함으로써 현재 블록에 대한 잔차 블록을 생성한다.

예측부(440)는 인트라 예측부(442) 및 인터 예측부(444)를 포함하여 구성될 수 있는 데, 인트라 예측부(342)는 현재 블록의 예측 타입이 인트라 예측일 때 활성화되고, 인터 예측부(344)는 현재 블록의 예측 타입이 인트라 예측일 때 활성화된다.

인트라 예측부(442)는 복호화부(410)로부터 추출된 인트라 예측 모드에 대한 신택스 요소를 이용하여 복수의 인트라 예측 모드 중 현재 블록의 인트라 예측 모드를 결정하고, 결정된 인트라 예측 모드에 따라 현재 블록 주변의 참조 픽셀들을 이용하여 현재 블록을 예측한다.

인터 예측부(444)는 복호화부(410)로부터 추출된 인터 예측 모드에 대한 신택스 요소를 이용하여 현재 블록의 움직임 벡터와 이 움직임 벡터가 참조하는 참조 픽처를 결정하고, 움직임 벡터와 참조 픽처를 통해 현재 블록을 예측한다.

가산기(450)는 역변환부(430)로부터 출력되는 잔차 블록과 인터 예측부(444) 또는 인트라 예측부(442)로부터 출력되는 예측 블록을 가산하여 현재 블록을 복원한다. 복원된 현재 블록 내의 픽셀들은 이후에 복호화할 블록의 인트라 예측을 위한 참조 픽셀로 활용된다.

필터부(460)는 디블록킹 필터(462) 및 SAO 필터(464)를 포함한다. 디블록킹 필터(462)는 복원된 블록 간의 경계를 디블록킹 필터링하여 블록 단위의 복호화로 인해 발생하는 블록킹 현상(blocking artifact)을 제거한다.

SAO 필터(464)는, 손실 부호화(lossy coding)으로 인해 발생하는 복원된 픽셀과 원본 픽셀 간의 차이를 보상하기 위해, 디블록킹 필터링 이후의 복원된 블록에 대해 추가적인 필터링을 수행한다.

디블록킹 필터(462) 및 SAO 필터(464)를 통해 필터링된 복원 블록은 메모리(470)에 저장되고, 한 픽처 내의 모든 블록들이 복원되면, 복원된 픽처는 이후에 부호화하고자 하는 픽처 내의 블록을 인터 예측하기 위한 참조 픽처로 사용된다.

도 4에는 표현하지 않았으나, 영상 복호화 장치는 서로 다르거나 동일한 레벨 또는 티어를 영역 별로 설정하는 제어수단을 더 포함하여 구성될 수 있다. 이 제어수단은 도 4에 표현된 하위 구성들과 함께 동일한 물리적 구성(프로세서 등)에서 구현되거나, 도 4에 표현된 하위 구성들과는 다른 물리적 구성에서 구현될 수 있다. 제어수단에 대한 상세한 내용은 후술하도록 한다.

한편, 영상 복호화 장치에 포함되는 제어수단은 영상 부호화 장치에 포함되는 전술된 제어수단과 그 기능 측면에서 대응되는 구성에 해당한다. 이하에서는, 영상 복호화 장치에 포함되는 제어수단과 영상 부호화 장치에 포함되는 제어수단을 용이하게 구별하기 위하여, 영상 복호화 장치에 포함되는 제어수단을 복호화 제어수단으로 지칭하며, 영상 부호화 장치에 포함되는 제어수단을 부호화 제어수단으로 지칭하도록 한다.

본 발명에 대한 상세한 설명에 앞서, 본 명세서에서 지칭되는 용어들에 대해 정의한다.

본 명세서에서 지칭되는 '영역'은 레벨 또는 티어를 설정하는 대상을 의미하며, 이 영역에는 타일, 슬라이스, 타일 그룹, 슬라이스 세그먼트(segment) 등이 포함될 수 있다.

본 명세서에서 지칭되는 '영역 헤더'는 상기 '영역'과 관련되어 정의되는 개념으로서, 영역이 타일에 해당하는 경우에 영역 헤더는 타일 헤더에 해당하며, 영역이 슬라이스에 해당하는 경우에 영역 헤더는 슬라이스 헤더에 해당하고, 영역이 타일 그룹에 해당하는 경우에 영역 헤더는 타일 그룹 헤더에 해당한다.

또한, 영역이 픽처에 해당하는 경우에 영역 헤더는 픽처 파라미터 셋(PPS, Picture Parameter Set) 또는 픽처 헤더에 해당하며, 영역이 복수의 픽처에 해당하는 경우에 영역 헤더는 시퀀스 파라미터 셋(SPS, Sequence Parameter Set)에 해당하고, 하나 이상의 SPS가 공통으로 참조하는 영역에 대한 영역 헤더는 비디오 파라미터 셋(VPS, Video Parameter Set)에 해당한다.

HEVC 등과 같은 종래 표준은 표준 기술이 적용되는 분야(application), 영상 복호화 장치(복호화기)의 성능 등을 고려하여 프로파일(profile), 레벨(level) 및 티어(tier) 등과 같은 개념을 사용하였다.

프로파일이란 표준 기술이 적용되는 다양한 애플리케이션에 맞추어 미리 설정된 명세(specification)를 의미하며, HEVC에서는 'Main profile',' Main10 profile', 'Main still picture profile' 등의 프로파일들이 제정되어 있다.

레벨이란 프로파일이 동일하더라도 영상 복호화 장치의 특성에 따라 처리할 수 있는 성능의 차이가 발생하는 것을 고려하여 사용하는 개념으로서,　레벨　값에 따라 처리 가능한 영상의 최대 해상도와 프레임률이 결정될 수 있다.

티어란 최대 비트율에 대한 제약에 관한 것으로서, 동일 프로파일과 동일　레벨이라 할지라도 애플리케이션에 따라서 고해상도, 고화질로 영상을 압축하는 경우와 그렇지 않은 경우가 존재하기 때문에 사용하는 개념이다. 즉, 티어란 영상 복호화 장치의 메모리(470)와 관련된 규정이다.

프로파일, 레벨, 티어 등의 설정에 대한 종래 방법은 하나 이상의 영상(픽처)이 포함된 시퀀스(sequence)에 대하여 레벨, 티어, 프로파일을 단일의 값으로 설정하였다. 즉, 종래 방법은 하나 이상의 시퀀스 단위로 레벨, 티어, 프로파일을 적용 또는 설정하였다.

이러한 종래 방법과 달리, 본 발명은 픽처 이하의 크기를 가지는 영역을 레벨 및/또는 티어가 설정되는 기준 단위로 사용함으로써 부호화 및 복호화에 대한 효율성을 더욱 향상시키는 발명에 해당한다. 이하에서는, 레벨과 티어 중 레벨을 영역 별로 설정하는 실시예를 중심으로 하여 본 발명에 대해 설명하나, 티어를 영역 별로 설정하는 실시예와 레벨과 티어 모두를 영역 별로 설정하는 실시예도 본 발명에서 제안하는 방법을 통해 구현될 수 있다.

도 5 및 도 6은 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 레벨 또는 티어 설정 방법에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다. 이하에서는, 도 5 및 도 6을 참조하여 레벨 설정 방법에 대한 본 발명의 기본적인 실시예에 대해 설명하도록 한다.

도 5에 도시된 바와 같이, 영상 부호화 장치에 포함되는 제어수단 즉, 부호화 제어수단은 레벨을 정의하는 신택스 요소(syntax element)인 정의 신택스 요소를 이용하여 하나 이상의 레벨을 정의한다(S510). 정의 신택스 요소에 대한 일 예가 아래 표 1에 표현되어 있다.

pic_parameter_set_rbsp(　) {	Descriptor
…	…
num_base_tier_level_set_minus1
for( i = 0; i <= num_base_tier_level_set_minus1; i++ ) {
base_tier_level_set_id[ i ]
base_tier_flag[　i　]
base_level_idc[　i　]
}
…
}

위 표 1에서, num_base_tier_level_set_minus1은 정의하려는 레벨 또는 티어의 개수에서 1을 뺀(차감한) 값을 나타내며(즉, 정의하려는 레벨의 개수를 나타냄), base_tier_level_set_id[i]는 레벨 및 티어 세트의 id를 나타내고, base_tier_flag[i]는 i번째 티어의 값을 나타내며, base_level_idc[i]는 i번째 레벨의 값을 나타낸다.

표 1에는, 정의될 레벨 또는 티어의 세트를 id 형태로 나타내는 일 예만이 표현되어 있으나, 실시형태에 따라 정의될 레벨 또는 티어의 세트는 인덱스(idx) 형태로 나타낼 수도 있다(base_tier_level_set_idx). 정의 신택스 요소는 표 1에 표현된 바와 같이 PPS 위치에서 정의되거나, PPS, SPS, VPS, SEI 중 하나 이상의 위치에서 정의될 수도 있다.

하나 이상의 레벨이 정의되면, 부호화 제어수단은 지정 신택스 요소를 이용하여 레벨 설정의 대상에 해당하는 대상 영역과 이 대상 영역에 설정될 레벨인 대상 레벨을 지정한다(S520).

지정 신택스 요소에는 대상 영역을 지정하는 신택스 요소와 대상 레벨을 지정하는 신택스 요소가 포함될 수 있다. 대상 영역을 지정하는 지정 신택스 요소는 '영역 지정 신택스 요소'로 지칭될 수 있으며, 대상 레벨을 지정하는 지정 신택스 요소는 '레벨 지정 신택스 요소'로 지칭될 수 있다.

지정 신택스 요소(영역 지정 신택스 요소 및 레벨 지정 신택스 요소)에 대한 일 예가 아래 표 2에 표현되어 있다.

tile_header(　) {	Descriptor
tile_idx
base_tier_level_set_id
…
}

위 표 2에서, tile_idx는 타일로 구현된 대상 영역의 인덱스를 지정하는 영역 지정 신택스 요소를 나타내며, base_tier_level_set_id는 미리 정의된 레벨과 티어 중 tile_idx가 지시하는 대상 영역에 적용 또는 지정될 레벨과 티어를 나타내는 레벨 및 티어 지정 신택스 요소를 나타낸다.

표 2는 대상 영역이 타일에 해당함을 전제로 영역 지정 신택스 요소와 레벨 및 티어 지정 신택스 요소를 나타낸다. 다만, 전술된 바와 같이, 대상 영역은 타일뿐만 아니라 슬라이스, 타일 그룹, 슬라이스 세그먼트 등에 해당할 수 있으므로, 영역 지정 신택스 요소와 레벨 및 티어 지정 신택스 요소는 대상 영역이 해당하는 단위의 헤더에 정의 또는 지정될 수 있다. 예를 들어, 대상 영역이 타일 그룹에 해당하는 경우, 이 타일 그룹 헤더에 영역 지정 신택스 요소와 레벨 및 티어 지정 신택스 요소가 정의 또는 지정될 수 있다. 이와 같은 점은 이하에서 제시되는 다른 표들에도 동일하게 적용된다.

대상 영역과 대상 레벨의 지정이 완료되면, 부호화부(150)는 정의 신택스 요소와 지정 신택스 요소를 부호화한다(S530). 부호화된 신택스 요소들은 비트스트림에 포함되어 영상 복호화 장치로 시그널링된다(S540).

도 6에 도시된 바와 같이, 복호화부(410)는 먼저, 영상 부호화장치로부터 시그널링된 비트스트림에서 정의 신택스 요소와 지정 신택스 요소를 파싱(parsing)하고, 이를 복호화한다(S610). 전술된 바와 같이, 지정 신택스 요소에는 대상 영역을 지정하는 영역 지정 신택스 요소와 대상 레벨을 지정하는 레벨 지정 신택스 요소가 포함될 수 있다.

영상 복호화 장치의 제어수단 즉, 복호화 제어수단은 정의 신택스 요소를 기초로 하나 이상의 레벨을 정의한다(S620). 하나 이상의 레벨이 정의되면, 복호화 제어수단은 정의된 레벨 중 레벨 지정 신택스 요소가 지정하는 대상 레벨을 영역 지정 신택스 요소가 지시하는 대상 영역에 설정한다(S630).

레벨의 설정이 완료되면, 영상 복호화 장치는 각 영역에 설정된 레벨을 기초로 해당 영역들을 디코딩한다(S640).

이와 같이, 본 발명은 하나 이상의 픽처로 구성되는 시퀀스에 단일의 레벨 또는 티어를 설정하는 것이 아닌, 영역 별로 레벨 또는 티어를 설정하도록 구성되므로, 영역마다의 서로 다른 화질 특성에 최적화된 부호화 및 복호화를 구현할 수 있게 된다.

또한, 본 발명은 360 비디오와 같이 전 방향의 영상을 모두 기록하고, 이 중 특정 위치(viewport)의 영상과 다른 위치의 영상을 차등적인 품질로 디코딩 및 재생하고자 하는 경우 또는 뷰포트 영상만을 디코딩 및 재생하고자 하는 경우 등에 더욱 유용하게 활용될 수 있다. 이러한 활용 예를 설명하기 위한 도면이 도 7에 표현되어 있다.

도 7에서, 360 비디오의 전체 영역(700)은 복수 개의 영역들(710)로 구성될 수 있으며, 이 복수 개의 영역들(710) 중 #1, #2, #25, #26, #29 및 #30의 영역들이 뷰포트 영역을 나타낸다.

부호화 또는 복호화 제어수단은 뷰포트 영역(#1, #2, #25, #26, #29 및 #30)과 다른 영역들에 서로 다른 레벨 또는 티어를 설정하여 뷰포트 영역에 상대적인 고화질 또는 저화질의 부호화 및 복호화가 적용되도록 함으로써 차별적인 품질의 부호화 및 복호화를 구현할 수 있다.

또한, 부호화 또는 복호화 제어수단은 디코딩하려는 뷰포트 영역(#1, #2, #25, #26, #29 및 #30)을 별도의 레벨 또는 티어로 설정하여 전체 영역(700)에서 뷰포트 영역(#1, #2, #25, #26, #29 및 #30)만이 디코딩 및 재생되도록 할 수 있다.

예를 들어, 영상 복호화 장치가 MPEG-4 AVC Main profile, Level 3(L3)를 지원하여 L3 이하의 디코딩 및 재생이 가능한 상태에서 360 비디오의 뷰포트 영역이 L3 레벨이고 다른 영역이 L5 레벨인 경우, 뷰포트 영역에 대한 레벨을 L3로 설정하여 뷰포트 영역만의 디코딩 및 재생을 구현할 수 있다.

도 8 및 도 9는 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 대상 레벨 또는 대상 티어 지정에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다. 이하에서는, 도 8 및 도 9를 참조하여 레벨 지정에 대한 본 발명의 일 실시예에 대해 설명하도록 한다.

정의 신택스 요소에는 디폴트(default) 레벨을 정의하는 신택스 요소(디폴트 정의 신택스 요소)와 하나 이상의 엑스트라(extra) 레벨을 정의하는 신택스 요소(엑스트라 정의 신택스 요소)가 포함될 수 있다. 여기서, 디폴트 레벨은 대상 영역에 지정될 수 있는 레벨들 중 기본 레벨에 해당하며, 엑스트라 레벨은 디폴트 레벨을 제외한 레벨에 해당한다.

디폴트 정의 신택스 요소에 대한 일 예가 아래 표 3에 표현되어 있다.

seq_parameter_set_rbsp(　) {	Descriptor
…	…
default_tier_flag
default_level_idc
…
}

위 표 3에서, default_tier_flag는 정의할 디폴트 티어의 값을 나타내는 디폴트 티어 신택스 요소에 해당하며, default_level_idc는 정의할 디폴트 레벨의 값을 나타내는 디폴트 레벨 신택스 요소에 해당한다.

엑스트라 정의 신택스 요소에 대한 일 예가 아래 표 4에 표현되어 있다.

pic_parameter_set_rbsp(　) {	Descriptor
…	…
num_extra_tier_level_set
for( i = 0; i < num_extra_tier_level_set; i++ ) {
extra_tier_level_set_id[ i ]
extra_tier_flag[　i　]
extra_level_idc[　i　]
}
…
}

위 표 4에서, num_extra_tier_level_set는 추가로 정의하려는 엑스트라 레벨 및 엑스트라 티어의 개수를 나타내며, extra_tier_level_set_id[i]는 추가로 정의할 엑스트라 레벨과 엑스트라 티어의 id를 나타내고, extra_tier_flag[i]는 추가로 정의할 엑스트라 티어의 값을 나타내며, extra_level_idc[i]는 추가로 정의할 엑스트라 레벨의 값을 나타낸다.

표 4에는 추가로 정의될 레벨 또는 티어의 세트를 id 형태로 나타내는 일 예만이 표현되어 있으나, 실시형태에 따라, 추가로 정의될 레벨 또는 티어의 세트는 인덱스(idx) 형태(extra_tier_level_set_idx)로 나타낼 수 있다. 이러한 점은 이하에서 제시되는 다른 표들에도 동일하게 적용된다.

부호화 제어수단은 디폴트 정의 신택스 요소를 이용하여 디폴트 레벨을 정의하고, 엑스트라 정의 신택스 요소를 이용하여 하나 이상의 엑스트라 레벨을 정의한다(S810).

정의된 디폴트 레벨과 엑스트라 레벨 중 어느 레벨을 대상 레벨로 이용할 것인지 여부가 결정되어야 하는데, 부호화 제어수단은 디폴트 레벨의 사용 여부를 지시하는 디폴트 사용 신택스 요소를 지정 신택스 요소에 포함시켜 이를 결정한다(S820).

지정 신택스 요소에 포함되는 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하는 경우(S830), 영상 복호화 장치에서는 디폴트 사용 신택스 요소의 지시에 따라 디폴트 레벨을 대상 레벨로 사용 가능하므로, 부호화 제어수단은 대상 레벨 결정을 위한 별도의 신택스 요소 또는 정보를 추가하지 않는다.

이와 달리, 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 않는 경우(S830), 하나 이상의 엑스트라 레벨 중 대상 레벨로 사용할 레벨을 선택하는 과정이 영상 복호화 장치에서 수행되어야 하므로, 이를 위해 부호화 제어수단은 대상 레벨 결정을 위한 별도의 신택스 요소(레벨 지정 신택스 요소)를 지정 신택스 요소에 추가한다(S840).

디폴트 사용 신택스 요소와 레벨 지정 신택스 요소에 대한 일 예가 표 5에 표현되어 있다.

tile_header(　) {	Descriptor
tile_idx
default_tier_level_flag
if ( !default_tier_level_flag )
extra_tier_level_set_id
…
}

위 표 5에서, default_tier_level_flag는 플래그 형태로 구현된 디폴트 사용 신택스 요소를 나타내며, extra_tier_level_set_id는 레벨(티어) 지정 신택스 요소를 나타낸다. 이와 같은 과정들을 통해 결정된 정의 신택스 요소와 지정 신택스 요소는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 시그널링된다(S850).

표 5는 타일 그룹에 대한 일 예이며, 슬라이스, 타일 그룹, 슬라이스 세그먼트 각각에 해당하는 헤더에서도 디폴트 사용 신택스 요소 및/또는 레벨(티어) 지정 신택스 요소를 나타낼 수 있다.

도 9에 도시된 바와 같이, 복호화부(410)는 영상 부호화장치로부터 시그널링된 비트스트림에서 정의 신택스 요소와 지정 신택스 요소를 파싱하고, 이를 복호화한다(S910).

복호화 제어수단은 정의 신택스 요소에 포함된 디폴트 정의 신택스 요소를 기초로 디폴트 레벨을 정의하며, 정의 신택스 요소에 포함된 엑스트라 정의 신택스 요소를 기초로 하나 이상의 엑스트라 레벨을 정의한다(S920).

복호화 제어수단은 지정 신택스 요소에 포함된 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 여부를 판단하고(S930), 그 판단 결과를 기초로 디폴트 레벨 또는 엑스트라 레벨 중 어느 하나를 대상 레벨로 결정한다.

구체적으로, 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하는 경우, 복호화 제어수단은 미리 정의된 디폴트 레벨을 대상 레벨로 결정하고(S940), 대상 영역에 상기 대상 레벨(디폴트 레벨)을 설정한다(S970).

이와 달리, 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 않는 경우, 복호화 제어수단은 미리 정의된 엑스트라 레벨 중 레벨 지정 신택스 요소가 지시하는 레벨을 대상 레벨로 결정하며(S960), 대상 영역에 상기 대상 레벨(엑스트라 레벨 중 지시된 레벨)을 설정한다(S970). 여기서, 레벨 지정 신택스 요소는 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 않는 경우에 한하여 영상 부호화 장치로부터 시그널링된다.

도 10 및 도 11은 영상 부호화 장치 및 영상 복호화 장치에서 구현되는 레벨 또는 티어의 정의에 대한 본 발명의 일 실시예를 설명하기 위한 순서도이다. 이하에서는, 도 10 및 도 11을 참조하여 레벨 또는 티어의 정의에 대한 본 발명의 일 실시예에 대해 설명하도록 한다.

도 8 및 도 9를 통해 설명된 실시예는 디폴트 레벨과 엑스트라 레벨이 별도로 정의됨을 전제로 두 개의 레벨 중 어느 레벨을 대상 영역에 지정할 것인지에 대한 실시예에 해당하는 반면, 도 10 및 도 11을 통해 설명되는 실시예들은 엑스트라 레벨을 선택적으로 정의하는 실시예에 해당한다.

이 실시예에서, 정의 신택스 요소에는 디폴트 레벨을 정의하는 신택스 요소(디폴트 정의 신택스 요소)와 엑스트라 레벨의 정의 여부를 지시하는 추가 정의 신택스 요소가 포함될 수 있다. 디폴트 정의 신택스 요소와 추가 정의 신택스 요소에 대한 일 예가 아래 표 6에 표현되어 있다.

seq_parameter_set_rbsp(　) {	Descriptor
…	…
default_tier_flag
default_level_idc
extra_tier_level_flag
…
}

위 표 6에서, default_tier_flag와 default_level_flag 각각은 전술된 바와 동일하게 디폴트 티어의 값을 나타내는 신택스 요소와 디폴트 레벨의 값을 나타내는 신택스 요소에 해당한다. extra_tier_level_flag는 엑스트라 레벨의 정의 여부를 나타내는 추가 정의 신택스 요소에 해당한다.

도 10에 도시된 바와 같이, 부호화 제어수단은 디폴트 정의 신택스 요소를 이용하여 디폴트 레벨을 정의하고(S1010), 엑스트라 레벨의 정의 여부를 결정하기 위해 추가 정의 신택스 요소를 정의 신택스 요소에 더 포함시킨다(S1020).

추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하는 경우(S1030), 부호화 제어수단은 엑스트라 정의 신택스 요소를 정의 신택스 요소에 더 포함시켜 하나 이상의 엑스트라 레벨을 정의한다(S1040).

이와 달리, 추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하지 않는 경우(S1030), 부호화 제어수단은 엑스트라 레벨을 추가적으로 정의하지 않는다. 즉, 부호화 제어수단은 엑스트라 정의 신택스 요소를 정의 신택스 요소에 포함시키지 않는다.

추가 정의 신택스 요소와 엑스트라 정의 신택스 요소에 대한 일 예가 아래 표 7에 표현되어 있다.

pic_parameter_set_rbsp(　) {	Descriptor
…	…
if ( extra_tier_level_flag ) {
num_extra_tier_level_set_minus1
for( i = 0; i <= num_extra_tier_level_set_minus1; i++ ) {
extra_tier_level_set_id[ i ]
extra_tier_flag[　i　]
extra_level_idc[　i　]
}
}
…
}

표 7에 나타낸 바와 같이, 추가 정의 신택스 요소(extra_tier_level_flag)가 엑스트라 레벨 또는 티어의 정의를 지시하는 경우에 한하여, 엑스트라 레벨(extra_level_flag) 또는 엑스트라 티어(extra_tier_flag)가 추가적으로 정의된다.

표 7에는 추가로 정의될 레벨 또는 티어의 세트를 id 형태로 나타내는 일 예만이 표현되어 있으나, 실시형태에 따라, 추가로 정의될 레벨 또는 티어의 세트는 인덱스(idx) 형태(extra_tier_level_set_idx)로 나타낼 수 있다.

표 7에는 추가 정의 신택스 요소가 플래그 형태로 구현되어 엑스트라 레벨의 정의 여부를 이분법적으로 지시하는 예가 표현되어 있으나, 실시형태에 따라 추가 정의 신택스 요소는 정의될 엑스트라 레벨의 개수(n, n은 0 이상의 정수)를 지시하는 정보 형태로 구현될 수도 있다.

추가 정의 신택스 요소가 엑스트라 레벨의 개수를 지시하는 실시예의 경우, 부호화 제어수단은 0개(n=0)를 지시하는 추가 정의 신택스 요소에 대해 엑스트라 레벨을 정의하지 않고, 1개 이상(n≥1)을 지시하는 추가 정의 신택스 요소에 대해 대응하는 개수(추가 정의 신택스 요소가 지시하는 개수)만큼의 엑스트라 레벨을 정의할 수 있다.

전술된 과정들을 통해 결정된 정의 신택스 요소와 지정 신택스 요소는 부호화부(150)에 의해 부호화되어 영상 복호화 장치로 시그널링된다(S1050).

도 11에 도시된 바와 같이, 복호화부(410)는 영상 부호화 장치로부터 시그널링된 비트스트림에서 정의 신택스 요소와 지정 신택스 요소를 파싱하고, 이를 복호화한다(S1110).

복호화 제어수단은 정의 신택스 요소에 포함된 디폴트 정의 신택스 요소를 기초로 디폴트 레벨을 정의하고(S1120), 정의 신택스 요소에 포함된 추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하는 지 판단한다(S1130).

추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하는 경우, 복호화 제어수단은 엑스트라 정의 신택스 요소를 기초로 하나 이상의 엑스트라 레벨을 정의한다(S1140). 여기서, 엑스트라 정의 신택스 요소는 추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하는 경우에 한하여 영상 부호화 장치로부터 시그널링된다.

추가 정의 신택스 요소가 엑스트라 레벨의 개수를 지시하는 형태로 구현된 경우, 복호화 제어수단은 추가 정의 신택스 요소가 지시하는 개수와 동일한 개수로 엑스트라 레벨을 정의하며, 디폴트 사용 신택스 요소의 지시에 따라 디폴트 레벨 또는 엑스트라 레벨 중 어느 하나를 대상 레벨로 이용하는 전술된 실시예가 수행될 수 있다.

이와 반대로, 추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하지 않는 경우, 복호화 제어수단은 (엑스트라 정의 신택스 요소가 시그널링되지 않으므로) 엑스트라 레벨에 대한 정의 없이 레벨 정의 과정을 종료하며, 디폴트 레벨의 사용 여부를 판단하는 전술된 과정 없이 디폴트 레벨을 대상 영역에 설정할 수 있다. 여기서, 디폴트 레벨은 대상 레벨에 해당한다.

실시형태에 따라, 추가 정의 신택스 요소가 엑스트라 레벨의 정의를 지시하지 않아 엑스트라 레벨이 정의되지 않는 경우에도 디폴트 레벨의 사용 여부를 판단하는 전술된 과정이 수행될 수 있다. 예를 들어, 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 않는 경우, 부호화 제어수단은 대상 영역에 실제 적용된 레벨을 지정 신택스 요소에 포함하여 시그널링하며, 복호화 제어수단은 이 실제 적용된 레벨(시그널링된 실제 레벨, 적용 레벨)을 대상 레벨로하여 대상 영역에 설정할 수 있다.

대상 영역에 실제 적용된 레벨 즉, 적용 레벨을 대상 레벨로 결정하는 실시예는 추가 정의 신택스 요소에 대한 판단 없이 구현될 수 있다. 즉, 부호화 제어수단은 추가 정의 신택스 요소 없이 디폴트 정의 신택스 요소만을 시그널링하고, 복호화 제어수단은 시그널링된 디폴트 정의 신택스 요소를 기초로 디폴트 레벨을 정의한 후, 디폴트 사용 신택스 요소를 판단한다.

복호화 제어수단은 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하는 경우 미리 정의된 디폴트 레벨을 대상 영역에 설정하고, 디폴트 사용 신택스 요소가 디폴트 레벨의 사용을 지시하지 않는 경우 시그널링된 적용 레벨을 대상 영역에 설정할 수 있다.

이와 같은 실시예에서 이용되는 신택스 요소들에 대한 일 예가 아래 표 8 및 표 9에 표현되어 있다.

표 8에 표현된 바와 같이, 디폴트 정의 신택스 요소(default_tier_flag, default_level_idc)를 이용하여 디폴트 레벨 및/또는 디폴트 티어가 정의될 수 있다.

tile_header(　) {	Descriptor
tile_idx
default_tier_level_flag
if ( !default_tier_level_flag ) {
tier_flag
level_idc
}
…
}

표 9에 표현된 바와 같이, 디폴트 레벨 및/또는 티어의 사용 여부가 디폴트 사용 신택스 요소(default_tier_level_flag)에 의해 결정될 수 있다. 디폴트 사용 신택스 요소가 디폴트 레벨 및/또는 티어의 사용을 지시하는 경우, 미리 정의된 디폴트 레벨 및/또는 디폴트 티어가 대상 영역에 설정될 수 있다. 이와 달리, 디폴트 사용 신택스 요소가 디폴트 레벨 및/또는 티어의 사용을 지시하지 않는 경우, 레벨 및/또는 티어의 설정을 위해 적용 레벨(level_idc) 및/또는 적용 티어(tier_flag)가 대상 영역에 설정될 수 있다.

이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

410: 복호화부 420: 역양자화부
430: 역변환부 440: 예측부
442: 인트라 예측부 444: 인터 예측부
450: 가산기 460: 필터

Claims

비디오 시퀀스에 포함된 픽처들 각각으로부터 분할된 복수의 영역 각각에 대한 레벨(level) 정보를 비트스트림으로부터 복호화하기 위한 장치에 있어서,
상기 레벨 정보는 상기 장치가 처리할 수 있는 최대 해상도를 포함하여 상기 장치의 복호화 능력의 레벨을 정의하기 위한 정보이고,
상기 장치는 적어도 하나의 프로세서를 포함하고,
상기 프로세서는,
적어도 하나의 디폴트(default) 레벨을 정의하기 위한 디폴트 레벨 정보를 복호화하고,
하나 이상의 추가 레벨(extra level)을 정의하는 추가 정보(extra information)를 복호화하며,
상기 디폴트 레벨 정보와 상기 추가 정보를 사용하여 상기 영역에 대응하는 레벨을 설정하되,
상기 추가 정보는 SEI(supplemental enhancement information) 메시지 내에 포함된 것을 특징으로 하는, 장치.
제1항에 있어서,
상기 디폴트 레벨 정보는 상기 비디오 시퀀스에 포함된 픽처들에 적용 가능한 적어도 하나의 디폴트 레벨을 나타내고,
상기 추가 정보는 상기 영역에 적용 가능한 상기 하나 이상의 추가 레벨들을 정의하되,
상기 추가 정보는,
상기 하나 이상의 추가 레벨들의 개수를 나타내기 위한 개수 정보, 및
상기 추가 레벨들의 개수만큼의 추가 레벨 신택스 요소를 포함하되, 상기 추가 레벨 신택스 요소들은 각각 상기 영역에 사용 가능한 추가 레벨을 나타내는 것을 특징으로 하는, 장치.
제2항에 있어서,
상기 프로세서는,
상기 영역과 관련된 신택스 요소들이 포함되는 헤더로부터 상기 적어도 하나의 디폴트 레벨과 상기 추가 레벨들 중 하나를 선택하기 위한 하나 이상의 지정 신택스 요소들을 복호화하고,
상기 하나 이상의 지정 신택스 요소들을 이용하여 상기 적어도 하나의 디폴트 레벨과 상기 추가 레벨들 중에서 상기 영역에 대응하는 레벨을 설정하는 것을 특징으로 하는, 장치.
제3항에 있어서,
상기 하나 이상의 지정 신택스 요소들은,
상기 적어도 하나의 디폴트 레벨이 상기 영역에 적용되는지 여부를 지시하기 위한 제2 플래그, 및
상기 적어도 하나의 디폴트 레벨이 적용되지 않음이 상기 제2 플래그에 의해 지시될 때 복호화되고 상기 추가 레벨들 중 하나를 지시하는 지시자
를 포함하는 것을 특징으로 하는, 장치.
제4항에 있어서,
상기 프로세서는,
상기 제2 플래그가 상기 적어도 하나의 디폴트 레벨이 적용되지 않음을 지시할 때, 상기 추가 레벨들 중 상기 지시자에 의해 지시되는 추가 레벨을 상기 영역에 대응하는 레벨로 설정하고,
상기 제2 플래그가 상기 적어도 하나의 디폴트 레벨이 적용됨을 지시할 때, 상기 적어도 하나의 디폴트 레벨을 상기 영역에 대응하는 레벨로 설정하는 것을 특징으로 하는, 장치.
제2항에 있어서,
싱기 디폴트 레벨 정보는 상기 비디오 시퀀스의 헤더로부터 복호화되고, 상기 추가 정보는 픽처 레벨의 헤더로부터 복호화되는 것을 특징으로 하는 장치.
비디오 시퀀스에 포함된 픽처들 각각으로부터 분할된 복수의 영역 각각에 대한 레벨(level) 정보를 비트스트림으로 부호화하기 위한 영상 부호화 장치에 있어서,
상기 레벨 정보는 영상 복호화 장치가 처리할 수 있는 최대 해상도를 포함하여 상기 영상 복호화 장치의 복호화 능력의 레벨을 정의하기 위한 정보이고,
상기 영상 부호화 장치는 적어도 하나의 프로세서를 포함하고,
상기 프로세서는,
적어도 하나의 디폴트(default) 레벨을 정의하기 위한 디폴트 레벨 정보를 부호화하고,
하나 이상의 추가 레벨(extra level)을 정의하는 추가 정보(extra information)를, 상기 영상 복호화 장치가 상기 디폴트 레벨 정보와 상기 추가 정보를 사용하여 상기 영역에 대응하는 레벨을 설정하도록, 부호화하되,
상기 추가 정보는 SEI(supplemental enhancement information) 메시지 내에 포함되는 것을 특징으로 하는, 영상 부호화 장치.
비디오 시퀀스에 포함된 픽처들 각각으로부터 분할된 복수의 영역 각각에 대한 레벨(level) 정보를 부호함으로써 생성된 비트스트림을 저장하는, 디코더에 의해 판독 가능한, 비일시적 기록 매체에 있어서,
상기 레벨 정보는 영상 복호화 장치가 처리할 수 있는 최대 해상도를 포함하여 상기 영상 복호화 장치의 복호화 능력의 레벨을 정의하기 위한 정보이고,
상기 레벨 정보를 부호화하는 것은,
적어도 하나의 디폴트(default) 레벨을 정의하기 위한 디폴트 레벨 정보를 부호화하고,
하나 이상의 추가 레벨(extra level)을 정의하는 추가 정보(extra information)를, 상기 영상 복호화 장치가 상기 디폴트 레벨 정보와 상기 추가 정보를 사용하여 상기 영역에 대응하는 레벨을 설정하도록, 부호화하되,
상기 추가 정보는 SEI(supplemental enhancement information) 메시지 내에 포함되는 것을 특징으로 하는, 기록 매체.