KR20150043972A - 영상의 부호화/복호화 방법 및 이를 이용하는 장치 - Google Patents

Abstract

본 발명에 따른 복수의 계층을 지원하는 영상의 복호화 방법은 복호화에 필요한 파라미터들을 초기화하는 단계와; 복호 대상 픽처의 식별자인 POC를 계산하는 단계와; 상기 대상 복호 픽처의 화면 간 예측을 위하여 참조 픽처 집합을 구성하고 참조 픽처 형태를 표시하는 단계와; 상기 대상 복호 픽처의 출력 여부를 결정하는 단계와; 상기 참조 픽처 집합에 기초하여 생성된 참조 픽처 리스트 내의 참조 픽처를 이용하여 상기 대상 복화 픽처에 대한 움직임 예측 및 움직임 보상을 수행하는 단계를 포함하고, 상기 POC를 계산하는 단계는 동일한 억세스 유닛의 기본 계층의 픽처가 IDR 픽처인 경우 상기 복호 대상 픽처의 POC는 0으로 설정하고, 상기 기본 계층의 픽처가 BLA 픽처 또는 CRA 픽처인 경우, 상기 복호 대상 픽처의 MSB는 0으로 설정될 수 있다.

Description

영상의 부호화/복호화 방법 및 이를 이용하는 장치{VIDEO ENCODING AND DECODING METHOD AND APPARATUS USING THE SAME}

본 발명은 영상의 부호화 및 복호화 처리에 관한 것으로서, 보다 상세하게는 비트스트림 임의 접근을 지원하는 영상의 부/복호화 방법 및 그 장치에 관한 것이다.

최근 HD(High Definition) 해상도를 가지는 방송 서비스가 국내뿐만 아니라 세계적으로 확대되면서, 많은 사용자들이 고해상도, 고화질의 영상에 익숙해지고 있으며 이에 따라 많은 기관들이 차세대 영상기기에 대한 개발에 박차를 가하고 있다. 또한 HDTV와 더불어 HDTV의 4배 이상의 해상도를 갖는 UHD(Ultra High Definition)에 대한 관심이 증대되면서 보다 높은 해상도, 고화질의 영상에 대한 압축기술이 요구되고 있다.

영상 압축을 위해, 시간적으로 이전 및/또는 이후의 픽쳐로부터 현재 픽쳐에 포함된 화소값을 예측하는 인터(inter) 예측 기술, 현재 픽쳐 내의 화소 정보를 이용하여 현재 픽쳐에 포함된 화소값을 예측하는 인트라(intra) 예측 기술, 출현 빈도가 높은 심볼(symbol)에 짧은 부호를 할당하고 출현 빈도가 낮은 심볼에 긴 부호를 할당하는 엔트로피 부호화 기술 등이 사용될 수 있다.

영상 압축 기술에는 유동적인 네트워크 환경을 고려하지 않고 하드웨어의 제한적인 동작 환경하에서 일정한 네트워크 대역폭을 제공하는 기술이 있다. 그러나 수시로 대역폭이 변화하는 네트워크 환경에 적용되는 영상 데이터를 압축하기 위해서는 새로운 압축 기술이 요구되고, 이를 위해 스케일러블(scalable) 비디오 부호화/복호화 방법이 사용될 수 있다.

본 발명은 비트스트림의 임의 시점부터 복호화가 가능하도록 하는 방법 및 이를 이용하는 장치를 제공한다.

구체적으로, 본 발명의 일 실시예는 임의 접근 시점의 AU(access unit) 내에 IRAP(intra random access point) 픽처와 IRAP가 아닌 픽처(non- intra random access point picture)가 존재하거나, IRAP 픽처만 존재하지만 NAL 유닛 타입이 두 개 이상인 경우에 해당 AU 내의 픽처들의 POC 값을 설정하는 방법 및 이를 이용하는 장치를 제공한다.

본 발명의 일 실시예는 임의 시점부터 비트스트림을 복호화할 때, 해당 시점에 포함된 픽처가 임의 접근이 불가능한 픽처가 포함된 경우에도 동일 AU 내의 POC 값을 동일하게 설정함으로써 복호 픽처 버퍼 내 픽처 관리를 용이하게 하는 방법 및 이를 이용하는 장치를 제공한다.

본 발명의 일 실시예에 따른 복수의 계층을 지원하는 영상의 복호화 방법은 복호화에 필요한 파라미터들을 초기화하는 단계와; 복호 대상 픽처의 식별자인 POC를 계산하는 단계와; 상기 대상 복호 픽처의 화면 간 예측을 위하여 참조 픽처 집합을 구성하고 참조 픽처 형태를 표시하는 단계와; 상기 참조 픽처 집합에 포함되지만, 복호 픽처 버퍼 내에 존재하지 않는 픽처를 위한 가상 참조 픽처를 생성하는 단계와; 상기 대상 복호 픽처의 출력 여부를 결정하는 단계와; 상기 참조 픽처 집합에 기초하여 생성된 참조 픽처 리스트 내의 참조 픽처를 이용하여 상기 대상 복화 픽처에 대한 움직임 예측 및 움직임 보상을 수행하는 단계를 포함할 수 있고, 상기 POC를 계산하는 단계는 동일한 억세스 유닛의 기본 계층의 픽처가 IDR 픽처인 경우 상기 복호 대상 픽처의 POC는 0으로 설정하고, 상기 기본 계층의 픽처가 BLA 픽처 또는 CRA 픽처인 경우, 상기 복호 대상 픽처의 MSB는 0으로 설정될 수 있다.

본 발명의 일 실시예에 따르면, 비트스트림의 임의 시점부터 복호화가 가능하도록 하는 방법 및 이를 이용하는 장치가 제공된다.

구체적으로, 본 발명의 일 실시예에 따르면, 임의 접근 시점의 AU(access unit) 내에 IRAP(intra random access point) 픽처와 IRAP가 아닌 픽처(non- intra random access point picture)가 존재하거나, IRAP 픽처만 존재하지만 NAL 유닛 타입이 두 개 이상인 경우에 해당 AU 내의 픽처들의 POC 값을 설정하는 방법 및 이를 이용하는 장치가 제공된다.

본 발명의 일 실시예에 따르면, 임의 시점부터 비트스트림을 복호화함할 때, 해당 시점에 포함된 픽처가 임의 접근이 불가능한 픽처가 포함된 경우에도 동일 AU 내의 POC 값을 동일하게 설정함으로써 복호 픽처 버퍼 내 픽처 관리를 용이하게 하는 방법 및 이를 이용하는 장치가 제공된다.

도 1은 영상 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 영상 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 본 발명이 적용될 수 있는, 복수 계층을 이용한 스케일러블 비디오 코딩 구조의 일 실시예를 개략적으로 나타내는 개념도이다.
도 4는 본 발명의 일 실시예에 따른 영상의 복호화 방법을 설명하기 위한 제어 흐름도이다.
도 5는 본 발명에 따라 픽처의 POC를 계산하는 것을 설명하기 위한 도면이다.

이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.

어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 중간에 다른 구성 요소가 존재할 수도 있다고 이해되어야 할 것이다. 아울러, 본 발명에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.

또한 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.

또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.

도 1은 영상 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다. 스케일러블(scalable) 비디오 부호화/복호화 방법 또는 장치는 스케일러빌리티(scalability)를 제공하지 않는 일반적인 영상 부호화/복호화 방법 또는 장치의 확장(extension)에 의해 구현될 수 있으며, 도 1의 블록도는 스케일러블 비디오 부호화 장치의 기초가 될 수 있는 영상 부호화 장치의 일 실시예를 나타낸다.

도 1을 참조하면, 상기 영상 부호화 장치(100)는 움직임 예측부(111), 움직임 보상부(112), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조영상 버퍼(190)를 포함한다.

영상 부호화 장치(100)는 입력 영상에 대해 인트라(intra) 모드 또는 인터(inter) 모드로 부호화를 수행하고 비트스트림(bit stream)을 출력할 수 있다. 인트라 예측은 화면 내 예측, 인터 예측은 화면 간 예측을 의미한다. 인트라 모드인 경우 스위치(115)가 인트라로 전환되고, 인터 모드인 경우 스위치(115)가 인터로 전환된다. 영상 부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성한 후, 입력 블록과 예측 블록의 차분을 부호화할 수 있다.

인트라 모드인 경우, 인트라 예측부(120)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 예측을 수행하여 예측 블록을 생성할 수 있다.

인터 모드인 경우, 움직임 예측부(111)는, 움직임 예측 과정에서 참조 영상 버퍼(190)에 저장되어 있는 참조 영상에서 입력 블록과 가장 매치가 잘 되는 영역을 찾아 움직임 벡터를 구할 수 있다. 움직임 보상부(112)는 움직임 벡터와 참조 영상 버퍼(190)에 저장되어 있는 참조 영상을 이용하여 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다.

감산기(125)는 입력 블록과 생성된 예측 블록의 차분에 의해 잔여 블록(residual block)을 생성할 수 있다. 변환부(130)는 잔여 블록에 대해 변환(transform)을 수행하여 변환 계수(transform coefficient)를 출력할 수 있다. 그리고 양자화부(140)는 입력된 변환 계수를 양자화 파라미터에 따라 양자화하여 양자화된 계수(quantized coefficient)를 출력할 수 있다.

엔트로피 부호화부(150)는, 양자화부(140)에서 산출된 값들 또는 부호화 과정에서 산출된 부호화 파라미터 값 등을 기초로, 심볼(symbol)을 확률 분포에 따라 엔트로피 부호화하여 비트스트림(bit stream)을 출력할 수 있다. 엔트로피 부호화 방법은 다양한 값을 갖는 심볼을 입력 받아, 통계적 중복성을 제거하면서, 복호 가능한 2진수의 열로 표현하는 방법이다.

여기서, 심볼이란 부호화/복호화 대상 구문 요소(syntax element) 및 부호화 파라미터(coding parameter), 잔여 신호(residual signal)의 값 등을 의미한다. 부호화 파라미터는 부호화 및 복호화에 필요한 매개변수로서, 구문 요소와 같이 부호화 장치에서 부호화되어 복호화 장치로 전달되는 정보뿐만 아니라, 부호화 혹은 복호화 과정에서 유추될 수 있는 정보를 포함할 수 있으며 영상을 부호화하거나 복호화할 때 필요한 정보를 의미한다. 부호화 파라미터는 예를 들어 인트라/인터 예측모드, 이동/움직임 벡터, 참조 영상 색인, 부호화 블록 패턴, 잔여 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할 정보 등의 값 또는 통계를 포함할 수 있다. 또한 잔여 신호는 원신호와 예측 신호의 차이를 의미할 수 있고, 또한 원신호와 예측 신호의 차이가 변환(transform)된 형태의 신호 또는 원신호와 예측 신호의 차이가 변환되고 양자화된 형태의 신호를 의미할 수도 있다. 잔여 신호는 블록 단위에서는 잔여 블록이라 할 수 있다.

엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당되고 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 부호화 대상 심볼들에 대한 비트열의 크기가 감소될 수 있다. 따라서 엔트로피 부호화를 통해서 영상 부호화의 압축 성능이 높아질 수 있다.

엔트로피 부호화를 위해 지수 골룸(exponential golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 부호화 방법이 사용될 수 있다. 예를 들어, 엔트로피 부호화부(150)에는 가변 길이 부호화(VLC: Variable Lenghth Coding/Code) 테이블과 같은 엔트로피 부호화를 수행하기 위한 테이블이 저장될 수 있고, 엔트로피 부호화부(150)는 저장된 가변 길이 부호화(VLC) 테이블을 사용하여 엔트로피 부호화를 수행할 수 있다. 또한 엔트로피 부호화부(150)는 대상 심볼의 이진화(binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출한 후, 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 부호화를 수행할 수도 있다.

양자화된 계수는 역양자화부(160)에서 역양자화되고 역변환부(170)에서 역변환될 수 있다. 역양자화, 역변환된 계수는 가산기(175)를 통해 예측 블록과 더해지고 복원 블록이 생성될 수 있다.

복원 블록은 필터부(180)를 거치고, 필터부(180)는 디블록킹 필터(deblocking filter), SAO(Sample Adaptive Offset), ALF(Adaptive Loop Filter) 중 적어도 하나 이상을 복원 블록 또는 복원 픽쳐에 적용할 수 있다. 필터부(180)를 거친 복원 블록은 참조 영상 버퍼(190)에 저장될 수 있다.

도 2는 영상 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다. 도 1에서 상술한 바와 같이 스케일러블 비디오 부호화/복호화 방법 또는 장치는 스케일러빌리티를 제공하지 않는 일반적인 영상 부호화/복호화 방법 또는 장치의 확장에 의해 구현될 수 있으며, 도 2의 블록도는 스케일러블 비디오 복호화 장치의 기초가 될 수 있는 영상 복호화 장치의 일 실시예를 나타낸다.

도 2를 참조하면, 상기 영상 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 필터부(260) 및 참조 영상 버퍼(270)를 포함한다.

영상 복호화 장치(200)는 부호화 장치에서 출력된 비트스트림을 입력 받아 인트라 모드 또는 인터 모드로 복호화를 수행하고 재구성된 영상, 즉 복원 영상을 출력할 수 있다. 인트라 모드인 경우 스위치가 인트라로 전환되고, 인터 모드인 경우 스위치가 인터로 전환될 수 있다. 영상 복호화 장치(200)는 입력 받은 비트스트림으로부터 복원된 잔여 블록(residual block)을 얻고 예측 블록을 생성한 후 복원된 잔여 블록과 예측 블록을 더하여 재구성된 블록, 즉 복원 블록을 생성할 수 있다.

엔트로피 복호화부(210)는, 입력된 비트스트림을 확률 분포에 따라 엔트로피 복호화하여, 양자화된 계수(quantized coefficient) 형태의 심볼을 포함한 심볼들을 생성할 수 있다. 엔트로피 복호화 방법은 2진수의 열을 입력 받아 각 심볼들을 생성하는 방법이다. 엔트로피 복호화 방법은 상술한 엔트로피 부호화 방법과 유사하다.

양자화된 계수는 역양자화부(220)에서 역양자화되고 역변환부(230)에서 역변환되며, 양자화된 계수가 역양자화/역변환 된 결과, 복원된 잔여 블록(residual block)이 생성될 수 있다.

인트라 모드인 경우, 인트라 예측부(240)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 예측을 수행하여 예측 블록을 생성할 수 있다. 인터 모드인 경우, 움직임 보상부(250)는 움직임 벡터 및 참조 영상 버퍼(270)에 저장되어 있는 참조 영상을 이용하여 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다.

복원된 잔여 블록과 예측 블록은 가산기(255)를 통해 더해지고, 더해진 블록은 필터부(260)를 거친다. 필터부(260)는 디블록킹 필터, SAO, ALF 중 적어도 하나 이상을 복원 블록 또는 복원 픽쳐에 적용할 수 있다. 필터부(260)는 재구성된 영상, 즉 복원 영상을 출력한다. 복원 영상은 참조 영상 버퍼(270)에 저장되어 화면 간 예측에 사용될 수 있다.

상기 영상 복호화 장치(200)에 포함되어 있는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 필터부(260) 및 참조 영상 버퍼(270) 중 영상의 복호화에 직접적으로 관련된 구성요소들, 예컨대, 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 필터부(260) 등을 다른 구성요소와 구분하여 복호화부 또는 디코딩부로 표현할 수 있다.

또한, 영상 복호화 장치(200)는 비트스트림에 포함되어 있는 인코딩된 영상에 관련된 정보를 파싱하는 도시하지 않은 파싱부를 더 포함할 수 있다. 파싱부는 엔트로피 복호화부(210)를 포함할 수도 있고, 엔트로피 복호화부(210)에 포함될 수도 있다. 이러한 파싱부는 또한 디코딩부의 하나의 구성요소로 구현될 수도 있다.

도 3은 본 발명이 적용될 수 있는, 복수 계층을 이용한 스케일러블 비디오 코딩 구조의 일 실시예를 개략적으로 나타내는 개념도이다. 도 3에서 GOP(Group of Picture)는 픽쳐군 즉, 픽쳐의 그룹을 나타낸다.

영상 데이터를 전송하기 위해서는 전송 매체가 필요하며, 그 성능은 다양한 네트워크 환경에 따라 전송 매체별로 차이가 있다. 이러한 다양한 전송 매체 또는 네트워크 환경에의 적용을 위해 스케일러블 비디오 코딩 방법이 제공될 수 있다.

스케일러블 비디오 코딩 방법은 계층(layer) 간의 텍스쳐 정보, 움직임 정보, 잔여 신호 등을 활용하여 계층간 중복성을 제거하여 부호화/복호화 성능을 높이는 코딩 방법이다. 스케일러블 비디오 코딩 방법은, 전송 비트율, 전송 에러율, 시스템 자원 등의 주변 조건에 따라, 공간적, 시간적, 화질적 관점에서 다양한 스케일러빌리티를 제공할 수 있다.

스케일러블 비디오 코딩은, 다양한 네트워크 상황에 적용 가능한 비트스트림을 제공할 수 있도록, 복수 계층(multiple layers) 구조를 사용하여 수행될 수 있다. 예를 들어 스케일러블 비디오 코딩 구조는, 일반적인 영상 부호화 방법을 이용하여 영상 데이터를 압축하여 처리하는 기본 계층을 포함할 수 있고, 기본 계층의 부호화 정보 및 일반적인 영상 부호화 방법을 함께 사용하여 영상 데이터를 압축 처리하는 향상 계층을 포함할 수 있다.

여기서, 계층(layer)은 공간(spatial, 예를 들어, 영상 크기), 시간(temporal, 예를 들어, 부호화 순서, 영상 출력 순서, 프레임 레이트), 화질, 복잡도 등을 기준으로 구분되는 영상 및 비트스트림(bitstream)의 집합을 의미한다. 또한 기본 계층은 하위 계층, 참조 계층 또는 Base layer, 향상 계층은 상위 계층, Enhancement layer를 의미할 수 있다. 또한 복수의 계층들은 서로 간에 종속성을 가질 수도 있다.

도 3을 참조하면, 예를 들어 기본 계층은 SD(standard definition), 15Hz의 프레임율, 1Mbps 비트율로 정의될 수 있고, 제1 향상 계층은 HD(high definition), 30Hz의 프레임율, 3.9Mbps 비트율로 정의될 수 있으며, 제2 향상 계층은 4K-UHD(ultra high definition), 60Hz의 프레임율, 27.2Mbps 비트율로 정의될 수 있다. 상기 포맷(format), 프레임율, 비트율 등은 하나의 실시예로서, 필요에 따라 달리 정해질 수 있다. 또한 사용되는 계층의 수도 본 실시예에 한정되지 않고 상황에 따라 달리 정해질 수 있다.

예를 들어, 전송 대역폭이 4Mbps라면 상기 제1향상계층 HD의 프레임 레이트를 줄여서 15Hz이하로 전송할 수 있다. 스케일러블 비디오 코딩 방법은 상기 도 3의 실시예에서 상술한 방법에 의해 시간적, 공간적, 화질적 스케일러빌리티를 제공할 수 있다.

비트스트림 내 복수의 계층을 지원하는 비디오의 부호화 및 복호화, 즉 스케일러블 코딩(scalable coding)의 경우, 복수의 계층간에는 강한 연관성(correlation)이 존재하기 때문에 이런 연관성을 이용하여 예측을 수행하면 데이터의 중복 요소를 제거할 수 있고 영상의 부호화 성능을 향상시킬 수 있다. 다른 계층의 정보를 이용하여 예측의 대상이 되는 현재 레이어의 예측을 수행하는 것을 이하에서는 계층간 예측(inter-layer prediction)이라고 표현한다. 스케일러블 비디오 코딩은 이하 부호화 관점에서는 스케일러블 비디오 부호화, 복호화 관점에서는 스케일러블 비디오 복호화와 동일한 의미를 가진다.

복수의 계층들은 해상도, 프레임 레이트, 컬러 포맷 중 적어도 하나가 서로 다를 수 있으며, 계층간 예측 시 해상도의 조절을 위하여 레이어의 업샘플링 또는 다운샘플링이 수행될 수 있다.

스케일러블 영상 부/복호화(SVC: scalable video coding)에서의 임의 접근에 대하여 설명하기 위하여 하기와 같은 점이 고려될 수 있다.

비트스트림은 적어도 하나 이상의 스케일러빌리티, 예를 들어, 공간, 화질, 시점 스케일러빌리티를 지원할 수 있으며, 이와 같이 적어도 하나 이상의 계층 구조를 갖는 비디오가 임의 접근이 가능하도록 부/복호화될 수 있다.

계층의 개수는 하나 이상의 복수 개일 수 있으며, 최하위 계층을 기본 계층이라고 할 수 있다. 이하에서는, 예시적으로 계층의 개수가 3개 인 경우에 대하여 설명한다. 물론 본 발명은 계층의 개수에 한정되지 않고 적용될 수 있다.

상위 계층 및 하위 계층은 단일 루프(single loop) 또는 다중 루프(multiple loop)의 방법으로 부/복호화될 수 있다.

부호화 장치에서 비트스트림의 임의 접근 가능 시점(random access point)이 생성되는 경우, 복호화 장치는 부호화 장치에서 생성된 임의 접금 가능 시점부터 비트스트림의 복호화를 수행할 수 있다.

임의 접근 가능 시점의 억세스 유닛(access unit, AU) 내에 포함된 기본 계층은 IRAP(intra random access point) 픽처로 부호화되고 상위 계층들은 IRAP 픽처가 아닌 픽처(이하, non-IRAP 픽처) 혹은 IRAP 픽처들로 부호화될 수 있다. 억세스 유닛은 동일 시점에 디스플레이될 수 있는(having same output time) NAL 유닛들 또는 픽처들의 집합을 의미한다.

한편, 임의 접근 시점에 해당하는 계층의 모든 픽처들이 임의 접근이 가능한 방식으로 부호화된 경우에만 해당 시점부터 비트스트림의 복호화가 가능하였다. 다시 말해 임의 접근 가능 시점에 해당하는 계층들 가운데 임의 접근이 불가능한 픽처가 포함된 경우에는 동일 억세스 유닛 내의 POC 값이 동일하지 않으므로 복호 픽처 버퍼(decoded picture buffer, 이하 DPB) 내에서 픽처 관리가 어렵게 되는 문제가 발생할 수 있다.

본 발명은 이러한 문제점을 해결하기 위하여 임의 시점부터 비트스트림을 복호화함에 있어, 해당 시점에 포함된 픽처가 임의 접근이 불가능한 픽처가 포함된 경우에도 동일 억세스 유닛 내의 POC 값을 동일하게 설정함으로써 DPB 내 용이한 픽처 관리가 가능하도록 한다. POC 값을 동일하게 설정함으로써 해당 임의 접근 시점부터 비트스트림을 복호할 수 있게 된다.

도 4는 본 발명의 일 실시예에 따른 영상의 복호화 방법을 설명하기 위한 제어 흐름도이다. 도 4를 통해 설명되는 발명의 내용은 영상의 복호화 방법뿐만 아니라 영상의 부호화 방법에도 동일하게 적용될 수 있다.

우선, 영상의 복호화 장치는 복호화에 필요한 파라미터들을 초기화 할 수 있다(S410).

임의 접근 가능 시점부터 비트스트림을 복호화하는 경우에 다음과 같은 순서로 복호화에 필요한 파라미터들을 초기화 할 수 있다.

임의 접근 가능 시점의 AU에 포함되는 기본 계층이 IRAP 픽처, 즉, IDR(instantaneous decoding refresh) 픽처, BLA(broken link access) 픽처 또는 CRA(clean random access) 픽처인 경우 임의 접근 가능 시점의 AU에 포함되는 모든 픽처가 비트스트림 내에 포함된 각 계층의 첫 번째 픽처임을 알리는 플래그, 예를 들어, FirstPicInLayerDecodedFlag와 같은 플래그를 다음과 같이 초기화 할 수 있다.

현재 부/복호화 대상 픽처가 IRAP 픽처이며 임의 접근 가능 시점의 AU에 포함되어 있는 기본 계층(nuh_layer_id =0)의 픽처인 경우에 가능한 모든 상위 계층의 상기 플래그 값을 ‘0’으로 초기화할 수 있다.

즉, 예를 들어, 최대 가능한 상위 계층의 수가 63인 경우, 즉nuh_layer_id=63인 경우에 0<i<=63에 대해 FirstPicInLayerDecodedFlag[i]는 0으로 설정될 수 있다.

현재 부/복호하고자하는 픽처의 식별자인 POC를 출력 순서에 따라 값이 증가하도록 계산한다(S420).

픽처 오더 카운터(Picture Order Count, POC)는 부호화된 비디오 비트스트림(coded video stream)에서 동일한 nuh_layer_id를 가지는 계층 내의 픽처들을 식별하기 위한 식별자로, DPB에서 출력되는 순서가 늦을 수록 그 값이 증가할 수 있다. 즉, POC는 픽처가 DPB로부터 출력되어 디스플레이될 수 있는 디스플레이 순서(display order)며, IDR 픽처의 POC는 그 값이 ‘0’이 될 수 있다.

POC 값은 POC_MSB(most significatn bit)와 POC_LSB(least significatn bit)로 구성되며, 전체 POC는 MSB와 LSB의 합으로 계산될 수 있다(POC = POC_MSB + POC_LSB). 이 때 POC_LSB 값은 해당 픽처의 슬라이스 헤더에서 시그널링되며, 최대 LSB를 나타내는 MaxPOCLSB 값은 시퀀스 파라미터 세트(sequence parameter set)에서 시그널링 될 수 있다.

Non-IRAP 픽처의 경우 POC_MSB는 이전에 부호화/복호화된 시간적 서브 레이어의 식별자를 나타내는 temporal_id가 ‘0’인 픽처들 가운데 현재 픽처와 가까운 픽처의 POC_MSB(이하, prevPOCMSB라고 표현함), POC_LSB(이하, prevPOCLSB라고 표현함)와 현재 부/복호화하고자 하는 픽처의 POC_LSB값으로 계산될 수 있다.

IDR 픽처의 POC 값은 항상 ‘0’으로 가정될 수 있으며, CRA 픽처가 비트스트림의 가장 처음 픽처인 경우 혹은 BLA 픽처의 경우, 픽처의 POC_MSB 값은 ‘0’으로 가정되고 POC_LSB 값은 슬라이스 헤더에서 시그널링될 수 있다. CRA 픽처가 비트스트림의 가장 처음 픽처가 아닌 경우는 non-IRAP 픽처와 동일하게 POC값이 계산될 수 있다.

동일한 AU 내의 모든 픽처들은 동일한 POC 값을 가질 수 있다.

동일한 AU 내에 IRAP 픽처와 Non-IRAP 픽처가 동시에 존재하거나, IRAP 픽처만 존재하지만 IRAP 픽처들의 NAL 유닛 타입이 두 개 이상인 경우에는 POC값을 동일하게 할 수 있다. 이를 위하여 슬라이스 헤더에 poc_reset_flag과 같은 플래그 정보를 시그널링할 수 있고, 복호화 장치는 poc_reset_flag 값이 ‘1’인 경우에는 해당 픽처의 POC 값을 ‘0’ 혹은 POC_MSB값을 ‘0’으로 리셋할 수 있다.

도 5는 본 발명에 따라 픽처의 POC를 계산하는 것을 설명하기 위한 도면이다. 도 5는 단계 S420을 설명하기 위한 도면으로 임의 접근 가능 시점인 AU (AU A)내에서 기본 계층은 IRAP 픽처이고, 상위 계층들은 non-IRAP 픽처들로 부호화된 경우의 실시예를 나타낸다. 픽처의 POC를 계산은 다음 두 경우로 구분하여 설명될 수 있다.

제1 경우

해당 AU가 절체되지 않고, 즉 임의 접근 시점으로 사용되지 않아 이전에 부호화된 AU들을 포함하는 비트스트림이 복호화되는 경우, 해당 AU에 포함되는 픽처들의 복호화 과정은 다음과 같은 순서로 진행될 수 있다.

(a) 현재 부/복호화하고자 하는 대상 픽처의 초기 POC 값은 다음과 같이 설정될 수 있다.

해당 픽처가 IDR 픽처인 경우 POC값은 ‘0’로 설정될수 있다.

해당 픽처가 BLA 픽처이거나, 비트스트림의 해당 계층의 첫 번째 픽처로서 CRA 픽처인 경우, POC_MSB 값은 0 이고 POC 값은 해당 슬라이스 헤더에서 시그널링되는 POC_LSB 값으로 설정될 수 있다.

해당 픽처가 CRA 픽처이거나 Non-IRAP 픽처인 경우, 슬라이스 헤더에 시그널링된 POC_LSB 값을 이용하여 일반적인 POC 설정 방식(상술한 바와 같이, 이전에 부호화/복호화된 temporal_id가 ‘0’인 픽처들 가운데 현재 픽처와 가까운 픽처의 POC_MSB(prevPOCMSB라고 명명)와 POC_LSB(prevPOCLSB라고 명명), 그리고 현재 부/복호화하고자 하는 픽처의 POC_LSB값으로 계산할 수 있다)에 따라 POC값(‘POC1’)이 설정될 수 있다.

(b) poc_reset_flag가 ‘1’인 슬라이스를 포함하는 픽처에 대하여, DPB 내에 픽처들이 존재하는 경우 DPB 내의 모든 픽처들의 POC 값은 ‘POC1’값 만큼 감소시킬 수 있다.

(c) poc_reset_flag가 ‘1’인 슬라이스를 포함하는 픽처의 POC 값은 ‘0’으로 설정될 수 있다.

제2 경우

해당 AU가 절체되어 임의 접근 시점으로 사용되는 경우, 즉, 비트스트림의 첫 번째 AU로써 복호되는 경우 예를 들어, 기본 계층(layer 0)의 픽처가 IRAP 픽처이고 부호화된 비트스트림의 첫 번째 픽처인 경우이거나, BLA 픽처인 경우, 해당 AU에 포함되는 픽처들의 복호화 과정은 다음과 같은 순서로 진행될 수 있다.

(a) 현재 부/복호화하고자 하는 대상 픽처의 초기 POC값은 다음과 같이 설정될 수 있다.

해당 픽처가 IDR 픽처인 경우 POC값은 ‘0’로 설정될 수 있다.

해당 픽처가 BLA 픽처이거나, 비트스트림의 해당 계층의 첫 번째 픽처이며 CRA 픽처인 경우, POC_MSB 값은 0 이고 POC 값은 해당 슬라이스 헤더에서 시그널링되는 POC_LSB 값으로 설정될 수 있다.

해당 픽처가 Non-IRAP 픽처인 경우(예를 들어, 현재 계층의 nuh_layer_id=i 이며, FirstPicInLayerDecodedFlag[i]=0인 경우), POC값(‘POC1’)은 아래의 방법 중 하나를 이용하여 설정될 수 있다.

(a-1) 슬라이스 헤더에 시그널링 된 POC_LSB 값을 이용하여 상술된 통상적인 POC 설정 방식에 따라 POC값(‘POC1’)이 설정될 수 있다. 이때, 현재 AU가 임의 접근 시점으로 사용됨에 따라, 이전에 부호화/복호화된 temporal_id가 ‘0’인 픽처들이 존재하지 않으므로 prevPOCMSB와 prevPOCLSB 값은 모두 ‘0’으로 설정될 수 있다.

(a-2) 동일 AU의 기본 계층에 BLA 혹은 CRA 픽처가 존재하는 경우, 현재 복호화 대상 픽처의 POC_MSB 값은 ‘0’으로 설정될 수 있다. 이 경우, 현재 복호화하고자 하는 픽처의 POC 값(‘POC1’)은 현재 픽처의 슬라이스 헤더에서 시그널링되는 POC_LSB값으로 설정된다.

(a-3) 현재 복호 대상픽처의 POC 값은 계산되지 않을 수 있다.

(a-4) 동일 AU의 기본 계층에 IDR 픽처가 존재하는 경우, 현재 복호 대상 픽처의 POC 값은 계산되지 않고 ‘0’으로 설정될 수 있다.

(b) 현재 복호 대상 픽처의 POC 값이 계산된 경우, poc_reset_flag가 ‘1’인 슬라이스를 포함하는 픽처에 대하여, DPB 내에 픽처들이 존재하는 경우 DPB 내의 모든 픽처들의 POC 값은 ‘POC1’값 만큼 감소시킬 수 있다.

(c) poc_reset_flag가 ‘1’인 슬라이스를 포함하는 픽처의 POC 값은 ‘0’으로 설정될 수 있다.

다음으로, 영상의 복호화 장치는 현재 부/복호화 대상 픽처의 화면 간 예측을 위하여 참조 픽처 집합(reference picture set)을 구성하고 참조 픽처 형태 표시(reference picture marking)를 수행한다(S430).

POC를 초기화 하는 poc_reset_flag가 ‘0’인 경우, 해당 픽처의 슬라이스 참조 픽처들의 POC 값 혹은 POC_LSB 값은 다음과 같이 계산될 수 있다.

(1) 단기 참조 픽처(short-term reference picture)들의 경우 해당 슬라이스 헤더에 시그널링 되는 각 단기 참조 픽처를 나타내는 delta_POC 값과 현재 픽처의 POC 값인 ‘POC1’값을 이용하여 단기 참조 픽처들의 POC 값이 계산된다.

이때 delta_POC 값은 현재 픽처와 i번째 단기 참조 픽처의 POC 차이 값이거나, (i+1)번째 단기 참조 픽처와 i번째 단기 참조 픽처의 차이값일 수 있다.

(2) 장기 참조 픽처(long-term reference picture)들의 경우, 각 장기 참조 픽처에 대한 POC_LSB 값 및 POC_MSB 값을 계산하기 위한 값(delta_poc_msb_cycle_lt)과 현재 픽처의 POC 값인 ‘POC1’값을 이용하여 장기 참조 픽처들의 POC_LSB 혹은 POC 값이 계산된다. delta_poc_msb_cycle_lt는 해당 슬라이스 헤더에서 시그널링 될 수 있다.

장기 참조 픽처에 대하여는 기본적으로 POC_LSB만 시그널링되고, 시그널링되는 POC_LSB 값만 가지고 장기 POC를 식별한다. 다만, 복수의 참조 픽처 중 해당 장기 참조 픽처의 POC_LSB와 동일한 POC를 갖는 참조 픽처가 존재하는 경우 POC_MSB값을 계산하기 위한 값(delta_poc_msb_cycle_lt)이 추가로 시그널링되며, 이를 통하여 각 참조 픽처들의 POC를 식별할 수 있도록 한다.

한편, poc_reset_flag가 ‘1’인 경우, 해당 픽처의 슬라이스 참조 픽처들의 POC 값 혹은 POC_LSB 값은 다음과 같이 계산할 수 있다.

(1) 단기 참조 픽처(short-term reference picture)들의 경우 해당 슬라이스 헤더에 시그널링 되는 각 단기 참조 픽처를 나타내는 delta_POC 값과 현재 픽처의 POC 값인 ‘0’값을 이용하여 단기 참조 픽처들의 POC 값을 계산한다.

이때 delta_POC 값은 현재 픽처와 i번째 단기 참조 픽처의 POC 차이 값이거나, (i+1)번째 단기 참조 픽처와 i번째 단기 참조 픽처의 차이값일 수 있다.

(2) 장기 참조 픽처(long-term reference picture)들의 경우 각 장기 참조 픽처에 대한 POC_LSB 값 및 POC_MSB 값을 계산하기 위한 값(delta_poc_msb_cycle_lt)과 현재 픽처의 POC 값인 ‘0’값과 현재 픽처의 슬라이스 헤더에서 시그널링되는 POC_LSB값을 이용하여 장기 참조 픽처들의 POC_LSB값 혹은 POC 값을 계산한다. delta_poc_msb_cycle_lt는 해당 장기 참조 픽처의 슬라이스 헤더에서 시그널링 될 수 있다.

장기 참조 픽처에 대하여는 기본적으로 POC_LSB만 시그널링되고, 시그널링되는 POC_LSB 값만 가지고 장기 POC를 식별한다. 다만, 복수의 참조 픽처 중 해당 장기 참조 픽처의 POC_LSB와 동일한 POC를 갖는 참조 픽처가 존재하는 경우 POC_MSB값을 계산하기 위한 값(delta_poc_msb_cycle_lt)이 추가로 시그널링되며, 이를 통하여 각 참조 픽처들의 POC를 식별할 수 있도록 한다.

이와 같이, poc_reset_flag가 ‘1’이면, poc_reset_flag가 ‘1’인 슬라이스를 포함하는 픽처의 슬라이스 헤더에 시그널링되는 참조 픽처들의 POC값 혹은 POC_LSB 값을, DPB에 존재하는 픽처들의 POC 값을 감소시킨 것과 일치하도록 현재 픽처의 ‘POC1’값을 사용하여 조정할 수 있다.

참조 픽처의 POC가 계산되면, 참조 픽처 집합이 구성되고 DPB 내의 참조 픽쳐의 존재 여부에 따라 참조 픽처의 형태가 표시될 수 있다.

영상 복호화 장치는 참조 픽처 집합에 포함되지만, DPB 내에 존재하지 않는 픽처를 위한 가상 참조 픽처를 생성할 수 있다(S440).

현재 픽처가 참조하거나 현재 픽처 이후에 부/복호되는 픽처들이 참조하기 위하여 단계 S430에서 구성된 단기 참조 픽처들과 장기 참조 픽처들 가운데 현재 DPB 내에 존재하지 않는 픽처들은 가상으로 생성되어 DPB에 저장될 수 있다.

생성되는 가상 픽처들의 POC 값은 단계 S430에서 계산된 각 참조 픽처들의 POC값을 가진다. 가상 참조 픽처에 대하여 DPB에서 출력되는지 여부를 알려주는 PicOutputFlag 값은 ‘0’으로 설정되고, 이로 인하여 생성된 가상 참조픽처는 출력되지 않는다.

다음으로, 영상 복호화 장치는 현재 부/복호화 대상 픽처의 출력 여부를 결정할 수 있다(S450).

해당 AU가 절체되지 않고, 즉 임의 접근 시점으로 사용되지 않아 이전에 부호화된 AU들을 포함하여 인코딩된 비트스트림 그대로 복호화되는 경우, 해당 AU에 포함되는 픽처들은 모두 정상 복호화가 가능하다. 따라서 원래 출력하고자 했던 계층(output layer)들의 PicOutputFlag는 ‘1’로 설정된다.

한편, 해당 AU가 절체되어 임의 접근 시점으로 사용되는 경우, 예를 들어, 기본 계층(layer 0)의 픽처가 IRAP 픽처이고 부호화된 비트스트림의 첫 번째 픽처인 경우이거나, BLA 픽처인 경우와 같이 즉, 해당 AU가 비트스트림의 첫 번째 AU로써 복호되는 경우 다음과 같이 출력 여부가 결정된다.

(1) 해당 AU에 포함되는 픽처들 가운데 기본 계층만 IRAP 픽처이고 첫 번째 상위 계층(Layer 1)의 픽처가 non-IRAP 픽처인 경우, 기본 계층의 복호화된 픽처의 PicOutputFlag는 ‘1’로 설정되고 나머지 계층들의 복호화된 픽처들의 PicOutputFlag는 ‘0’으로 설정될 수 있다.

(2) 해당 AU에 포함되는 픽처들 가운데 기본 계층과 첫 번째 상위 계층(Layer 1)이 IRAP 픽처이고 두 번째 상위 계층(Layer 2)이 non-IRAP 픽처인 경우, 첫 번째 상위 계층의 복호화된 픽처의 PicOutputFlag는 ‘1’으로 설정되고, 만약 기본 계층이 출력 계층인 경우에는 기본 계층의 복호화된 픽처의 PicOutputFlag 역시 ‘1’로 설정된다.

즉, 영상 복호화 장치는 기본 계층부터 n번째 계층까지 IRAP 픽처들로 이루어진 경우 원래 출력하고자 했던 계층이 기본 계층부터 n번째 계층에 포함되어 있는 경우에는 해당 출력 계층들에 해당하는 복호화된 픽처의 PicOutputFlag를 ‘1’로 설정하고, 만약 n+1번째 계층 내지 최상위 계층에 원래 출력하고자 했던 출력 계층이 포함되어 있는 경우에는 n번째 계층의 복호화된 픽처의 PicOutputFlag를 ‘1’로 설정할 수 있다.

픽처의 출력 여부가 결정되면, 영상 복호화 장치는 참조 픽처 리스트 내의 참조 픽처를 이용하여 현재 부/복호화 대상 영상에 대한 움직임 예측 및 움직임 보상을 수행한다(S460).

본 단계에서는 통상적인 화면 간 예측 방법으로 참조 픽처 리스트 내의 참조픽처를 이용하여 현재 부/복호화 대상 영상에 대한 움직임 예측 및 움직임 보상이 수행될 수 있다.

참조 픽처를 이용항 화면 간 예측이 수행되면, 복호화에 필요한 파라미터가 재설정될 수 있다(S470).

영상 복호화 장치는 현재 부/복호화 대상 픽처가 포함된 계층, 예를 들어, nuh_layer_id = i인 계층의 FirstPicInLayerDecodedFlag[i]가 0인 경우, FirstPicInLayerDecodedFlag[i]를 1로 설정할 수 있다.

이와 같이, 본 발명에 따를 경우, 임의 접근 시점의 AU(access unit) 내에 IRAP(intra random access point) 픽처와 IRAP가 아닌 픽처(non- intra random access point picture)가 존재하거나 IRAP 픽처만 존재하고, NAL 유닛 타입이 두 개 이상인 경우에 해당 AU 내의 픽처들의 POC 값을 설정하는 방법 및 이를 이용하는 장치가 제공된다.

상술한 실시예에서, 방법들은 일련의 단계 또는 블록으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.

상술한 실시예는 다양한 양태의 예시들을 포함한다. 다양한 양태들을 나타내기 위한 모든 가능한 조합을 기술할 수는 없지만, 해당 기술 분야의 통상의 지식을 가진 자는 다른 조합이 가능함을 인식할 수 있을 것이다. 따라서, 본 발명은 이하의 특허청구범위 내에 속하는 모든 다른 교체, 수정 및 변경을 포함한다고 할 것이다.

100 : 영상 부호화 장치 111: 움직임 예측부
112: 움직임 보상부 120 : 인트라 예측부
115 : 스위치 125 : 감산기
130 : 변환부 140 : 양자화부
150 : 엔트로피 부호화부 160 : 역양자화부
170 : 역변환부 180 : 필터부

Claims (1)

1. 복수의 계층을 지원하는 영상의 복호화 방법에 있어서,
   복호화에 필요한 파라미터들을 초기화하는 단계와;
   복호 대상 픽처의 식별자인 POC를 계산하는 단계와;
   상기 대상 복호 픽처의 화면 간 예측을 위하여 참조 픽처 집합을 구성하고 참조 픽처 형태를 표시하는 단계와;
   상기 대상 복호 픽처의 출력 여부를 결정하는 단계와;
   상기 참조 픽처 집합에 기초하여 생성된 참조 픽처 리스트 내의 참조 픽처를 이용하여 상기 대상 복화 픽처에 대한 움직임 예측 및 움직임 보상을 수행하는 단계를 포함하고,
   상기 POC를 계산하는 단계는 동일한 억세스 유닛의 기본 계층의 픽처가 IDR (instantaneous decoding refresh) 픽처인 경우 상기 복호 대상 픽처의 POC는 0으로 설정하고, 상기 기본 계층의 픽처가 BLA(broken link access) 픽처 또는 비트스트림의 첫 번째 CRA(clean random access) 픽처인 경우, 상기 복호 대상 픽처의 MSB는 0으로 설정되는 것을 특징으로 하는 영상의 복호화 방법.
   

Images