KR101569305B1

KR101569305B1 - 참조 화상 세트들의 효율적인 시그널링

Info

Publication number: KR101569305B1
Application number: KR1020147012508A
Authority: KR
Inventors: 예-쿠이 왕; 잉 천
Original assignee: 퀄컴 인코포레이티드
Priority date: 2011-10-10
Filing date: 2012-10-09
Publication date: 2015-11-13
Also published as: US20130089134A1; US9451284B2; KR20140093229A; US20130089154A1; WO2013055806A1; WO2013055681A1; JP2014532374A; WO2013055808A1; EP2767088A1; US20130089135A1; JP5972984B2; CN103959793A

Abstract

비디오 코더가 어떤 참조 화상들이 화상 파라미터 세트 (PPS) 와 같은 파라미터 세트에서 시그널링되어야 하는지와 어떤 참조 화상들이 슬라이스 헤더에서 시그널링되어야 하는지를 선택할 수 있어서, 비디오 디코더가 참조 화상 세트를 구축하는 경우, 비디오 디코더는 비디오 데이터의 슬라이스에 대한 초기 참조 화상 리스트를 구축하기 위해 참조 화상 세트를 재순서화할 필요가 없다.

Description

참조 화상 세트들의 효율적인 시그널링{EFFICIENT SIGNALING OF REFERENCE PICTURE SETS}

본 출원은 2011년 10월 10일자로 출원된 미국 가출원 제61/545,525호; 및, 2011년 10월 21일자로 출원된 미국 가출원 제61/550,276호의 이점을 주장함, 이 출원들의 각각의 전체 내용은 참조로 본원에 통합된다.

기술 분야

본 개시물은 비디오 코딩에 관한 것이고, 더 상세하게는, 비디오 데이터를 코딩하는 기법들에 관한 것이다.

디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인휴대 정보단말들 (PDAs), 랩톱 또는 데스크톱 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 이른바 "스마트 폰들", 비디오 원격회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함하는 넓은 범위의 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263 또는 ITU-T H.264/MPEG-4, 파트 10, 고급 비디오 코딩 (AVC) 에 의해 규정된 표준들, 현재 개발중인 고 효율 비디오 코딩 (High Efficiency Video Coding, HEVC) 표준, 및 이러한 표준들의 확장들에 기재된 것들과 같은 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 그런 비디오 압축 기법들을 구현하는 것에 의해 디지털 비디오 정보를 더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 압축 기법들은 공간적 (화상 내) 예측 및/또는 시간적 (화상 간) 예측을 수행하여 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 제거한다. 블록 기반 비디오 코딩을 위해, 비디오 슬라이스 (즉, 비디오 화상 또는 비디오 화상의 일 부분) 는 비디오 블록들로 구획될 수도 있으며, 그 비디오 블록들은 또한 트리블록들 (treeblocks), 코딩 트리 블록들 (CTBs), 코딩 트리 단위들 (CTUs), 코딩 단위들 (CUs) 및/또는 코딩 노드들이라고 지칭될 수도 있다. 화상의 인트라 코딩된 (intra-coded; I) 슬라이스에서의 비디오 블록들은 동일한 화상의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측을 이용하여 인코딩된다. 화상의 인터 코딩된 (inter-coded; P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 화상의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측 또는 다른 참조 화상들에서의 참조 샘플들에 관한 시간적 예측을 이용할 수도 있다. 화상들은 프레임들이라고 지칭될 수도 있고, 참조 화상들은 참조 프레임들이라고 말해질 수도 있다.

공간적 또는 시간적 예측은 코딩될 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩될 원본 블록과 예측 블록 사이의 화소 차이들을 나타낸다. 인터 코딩된 블록은 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터와, 코딩된 블록 및 예측 블록 사이의 차이를 나타내는 잔차 데이터에 따라 인코딩된다. 인트라 코딩된 블록은 인트라 코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 화소 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 결과적으로 잔차 변환 계수들이 생겨나며, 그 계수들은 그 다음에 양자화될 수도 있다. 처음에는 2차원 어레이로 배열되는 양자화된 변환 계수들은, 변환 계수들의 1차원 벡터를 생성하기 위하여 스캐닝될 수도 있고, 엔트로피 코딩이 더 많은 압축을 달성하기 위해 적용될 수도 있다.

본 개시물의 기법들은 대체로 디비오 코딩 프로세스에서 인터 예측을 위해 사용되는 참조 화상들의 관리를 지향하고 있다. 더 구체적으로는, 본 개시물의 기법들은, 비디오 디코더가 참조 화상 세트를 구축하는 경우, 비디오 디코더는 비디오 데이터의 슬라이스에 대한 초기 참조 화상 리스트를 구축하기 위해 참조 화상 세트를 재순서화할 필요가 없도록, 어떤 참조 화상들이 화상 파라미터 세트 (PPS) 와 같은 파라미터 세트에서 시그널링되어야 하는지와 어떤 참조 화상들이 슬라이스 헤더에서 시그널링되어야 하는지를 선택하는 것을 지향한다.

하나의 예에서, 비디오 데이터를 코딩하는 방법은, 현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 및 슬라이스 헤더에서 식별된 참조 화상들로부터 구축될 것이라고 결정하는 단계로서, 현재 화상 및 슬라이스 헤더에서 식별된 참조 화상들 중 임의의 것 사이의 출력 순서의 측면에서의 거리가 현재 화상 및 파라미터 세트에서 식별된 참조 화상들 중 임의의 것 사이의 거리보다 큰, 상기 결정하는 단계; 및 파라미터 세트 및 슬라이스 헤더에서 식별된 참조 화상들에 기초하여 참조 화상 세트를 구축하는 단계를 포함한다.

다른 예에서, 비디오 데이터를 코딩하는 디바이스는, 현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 및 슬라이스 헤더에서 식별된 참조 화상들로부터 구축될 것이라고 결정하며, 현재 화상 및 슬라이스 헤더에서 식별된 참조 화상들 중 임의의 것 사이의 출력 순서의 측면에서의 거리가 현재 화상 및 파라미터 세트에서 식별된 참조 화상들 중 임의의 것 사이의 거리보다 크며; 및 파라미터 세트 및 슬라이스 헤더에서 식별된 참조 화상들에 기초하여 참조 화상 세트를 구축하도록 구성된 비디오 코더를 포함한다.

다른 예에서, 비디오 데이터를 코딩하는 디바이스는, 현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 및 슬라이스 헤더에서 식별된 참조 화상들로부터 구축될 것이라고 결정하는 수단으로서, 현재 화상 및 슬라이스 헤더에서 식별된 참조 화상들 중 임의의 것 사이의 출력 순서의 측면에서의 거리가 현재 화상 및 파라미터 세트에서 식별된 참조 화상들 중 임의의 것 사이의 거리보다 큰, 상기 결정하는 수단; 및 파라미터 세트 및 슬라이스 헤더에서 식별된 참조 화상들에 기초하여 참조 화상 세트를 구축하는 수단을 포함한다.

다른 예에서, 비일시적 컴퓨터 판독가능 저장 매체는, 하나 이상의 프로세서들에 의해 실행되는 경우, 하나 이상의 프로세서들로 하여금, 현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 및 슬라이스 헤더에서 식별된 참조 화상들로부터 구축될 것이라고 결정하며, 현재 화상 및 슬라이스 헤더에서 식별된 참조 화상들 중 임의의 것 사이의 출력 순서의 측면에서의 거리가 현재 화상 및 파라미터 세트에서 식별된 참조 화상들 중 임의의 것 사이의 거리보다 크며; 및 파라미터 세트 및 슬라이스 헤더에서 식별된 참조 화상들에 기초하여 참조 화상 세트를 구축하도록 하는 명령을 저장하고 있다.

하나 이상의 예들의 세부사항들은 첨부 도면들 및 다음의 설명에서 언급된다. 다른 특징들, 목적들, 및 이점들은 상세한 설명 및 도면들로부터, 그리고 청구항들로부터 명확하게 될 것이다.

도 1은 본 개시물에서 설명되는 기법들을 활용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 인코딩되고 송신되는 복수의 화상들을 포함하는 일 예의 비디오 시퀀스를 예시하는 개념도이다.
도 3은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더를 도시하는 블록도이다.
도 4는 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 디코더를 도시하는 블록도이다.
도 5는 참조 화상 세트를 도출하는 일 예의 동작을 도시하는 흐름도이다.
도 6은 참조 화상 리스트를 구축하는 일 예의 동작을 도시하는 흐름도이다.
도 7은 참조 화상 리스트를 구축하는 일 예의 동작을 도시하는 흐름도이다.

본 개시물의 기법들은 대체로 비디오 코딩 프로세스에서 인터 예측을 위해 사용되는 참조 화상들의 관리에 관한 것이다. 더 구체적으로는, 본 개시물의 기법들은, 비디오 디코더가 참조 화상 세트를 구축하는 경우, 비디오 디코더가 비디오 데이터의 슬라이스에 대한 초기 참조 화상 리스트를 구축하기 위해 참조 화상 세트를 재순서화할 필요가 없도록, 어떤 참조 화상들이 화상 파라미터 세트 (PPS) 와 같은 파라미터 세트에서 시그널링되어야 하는지와 어떤 참조 화상들이 슬라이스 헤더에서 시그널링되어야 하는지를 선택하는 것에 관한 것이다.

비디오 코더 (예컨대, 비디오 인코더 또는 비디오 디코더) 는 통상 디코딩된 화상 버퍼 (decoded picture buffer; DPB) 를 구비한다. 그 DPB는 참조 화상들을 포함하는 디코딩된 화상들을 저장한다. 참조 화상들은 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 화상들이다. 따라서, 비디오 코더는 DPB에 저장된 참조 화상들의 하나 이상의 블록들에 기초하여 현재 코딩되고 있는 화상의 블록을 예측할 수 있다.

DPB를 효율적으로 활용하기 위해, DPB 관리 프로세스는 어떤 참조 화상들이 비디오 디코더에 이용가능할 지를 비디오 인코더가 아는 방식으로 특정될 수도 있다. 특정될 수도 있는 DPB 관리의 양태들은, 예를 들어, 디코딩된 화상들의 DPB에의 저장 프로세스, 참조 화상들의 마킹 프로세스, DPB로부터의 디코딩된 화상들의 출력 및 제거 프로세스 등을 포함한다. 일반적으로, 일부 현재 및 개발하고 있는 비디오 코딩 표준들에서, DPB 관리는 다음의 양태들: 화상 식별 및 참조 화상 식별, 참조 화상 리스트 구축, 참조 화상 마킹, DPB로부터의 화상 출력, DPB로의 화상 삽입, 및 DPB로부터의 화상 제거 중 하나 이상을 포함할 수도 있다.

이해를 돕기 위해, 다음의 설명은 일부 비디오 코딩 표준들에 따라 참조 화상 마킹 및 참조 화상 리스트 구축이 일어날 수도 있는 방법의 간략한 개요를 제공한다. 참조 화상 마킹의 경우, 인터 예측을 위해 사용되는 참조 화상들의, M (num_ref_frames) 이라고 지칭되는, 최대 수가 액티브 시퀀스 파라미터 세트에서 나타내어진다. 참조 화상이 디코딩되는 경우, 그것은 "참조를 위해 사용됨 (used for reference)"으로 마킹된다. 참조 화상의 디코딩이 M 개를 초과하는 화상들이 "참조를 위해 사용됨"으로 마킹되게 하면, 적어도 하나의 화상은 "참조를 위해 사용되지 않음 (unused for reference)"으로 마킹되어야만 한다. 그 다음, DPB 제거 프로세스는 마찬가지로 "참조를 위해 사용되지 않음"으로 마킹된 화상들을, 그것들이 출력을 위해서 필요하지 않으면 DPB로부터 제거할 것이다.

화상이 디코딩되는 경우, 그것은 비-참조 화상 또는 참조 화상 중 어느 하나일 수도 있다. 참조 화상은 장기 참조 화상 또는 단기 참조 화상일 수도 있으며, 참조 화상이 "참조를 위해 사용되지 않음"으로 마킹된 경우, 그것은 더 이상 참조를 위해 필요하지 않게 될 수도 있다. 일부 비디오 코딩 표준들에서, 참조 화상들의 스테이터스를 변화시키는 참조 화상 마킹 동작들이 있을 수도 있다.

슬라이딩 윈도우 제어 및 적응적 메모리 제어라고 일반적으로 지칭되는, 참조 화상 마킹을 위한 제어 동작들의 2 가지 유형들이 있을 수도 있다. 참조 화상 마킹을 위한 동작 모드는 화상 단위 기반으로 선택될 수도 있다. 슬라이딩 윈도우 동작은 고정된 수의 단기 참조 화상들을 갖는 선입선출 큐로서 작용할 수도 있다. 다르게 말하면, 슬라이딩 윈도우 동작에서, 가장 앞선 디코딩 시간들을 갖는 단기 참조 화상들은 내재적 방식으로, 제거될 (참조를 위해 사용되지 않는 화상으로 마킹될) 처음 것들이 될 수도 있다.

반면, 적응적 메모리 제어 동작은 단기 또는 장기 화상들을 명시적으로 제거한다. 그것은 또한 단기 및 장기 참조 화상들의 스테이터스를 전환하는 것 등을 가능하게 한다. 예를 들어, 적응적 메모리 제어 동작에서, 비디오 인코더는 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 특정하는 신택스 엘리먼트들을 시그널링할 수도 있다. 비디오 디코더는 그 신택스 엘리먼트들을 수신하고 화상들을 특정된 것으로서 마킹할 수도 있다. 적응적 메모리 제어 동작과는 달리, 슬라이딩 윈도우 동작에서, 비디오 인코더는 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 시그널링하는 것을 필요로 하지 않을 수도 있다. 오히려, 비디오 디코더는 어떤 화상들이 슬라이딩 윈도우 내에 있는지에 기초하여 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 암묵적으로 (즉, 신택스 엘리먼트들을 수신하는 일 없이) 결정할 수도 있다.

비디오 코더에서는 또한 어떤 참조 화상들이 인터 예측 목적으로 사용될 수도 있는지를 나타내는 참조 화상 리스트들을 구축하는 것이, 비디오의 각각의 슬라이스에 대해, 수행될 수도 있다. 이들 참조 화상 리스트들 중 2 개는 리스트 0 및 리스트 1이라고 각각 지칭된다. 비디오 코더는 먼저, 비디오의 슬라이스에 대해 리스트 0 및 리스트 1을 구축하는 디폴트 구축 기법들 (예컨대, 리스트 0 및 리스트 1을 구축하기 위한 사전구성된 구축 체제들) 을 채용한다. 선택사항으로, 초기 리스트 0 및 리스트 1이 구축된 후, 비디오 디코더는, 비디오 디코더에게 초기 리스트 0 및 리스트 1을 수정할 것을 명령하는 신택스 엘리먼트들을, 존재하는 경우, 디코딩할 수도 있다.

비디오 인코더는 DPB에서의 참조 화상들의 식별자(들)를 나타내는 신택스 엘리먼트들을 시그널링할 수도 있고, 비디오 인코더는 또한, 어떤 참조 화상 또는 화상들을 현재 화상의 코딩된 블록을 디코딩하는데 사용할 것인지를 나타내는 인덱스들을, 리스트 0, 리스트 1, 또는 리스트 0 및 리스트 1 양쪽 모두 내에 포함하는 신택스 엘리먼트들을 시그널링할 수도 있다. 그러면, 비디오 디코더는, 리스트 0, 리스트 1, 또는 리스트 0 및 리스트 1 양쪽 모두에 열거된 참조 화상 또는 참조 화상들에 대한 인덱스 값 또는 값들을 식별하기 위해 수신된 식별자를 사용한다. 참조 화상 또는 참조 화상들의 인덱스 값(들) 뿐만 아니라 식별자(들)로부터, 비디오 디코더는 DPB로부터 참조 화상 또는 참조 화상들, 또는 그것의 부분(들)을 취출하고, 취출된 참조 화상 또는 화상들 및 코딩된 블록을 디코딩하기 위해 사용되는 참조 화상 또는 화상들 내의 블록들을 식별하는 하나 이상의 모션 벡터들에 기초하여 현재 화상의 코딩된 블록을 디코딩한다.

양방향 예측된 화상의 제 1 또는 제 2 참조 화상 리스트에 대한 참조 화상 리스트 구축은 2 개의 단계들, 즉 참조 화상 리스트 초기화 및 참조 화상 리스트 수정 (또한 참조 화상 리스트 재순서화라고 지칭됨) 을 포함할 수 있다. 참조 화상 리스트 초기화는 POC (Picture Order Count) (화상의 디스플레이 순서로 정렬됨) 값들의 순서에 기초하여 참조 화상 메모리 (또한 디코딩된 화상 버퍼로 알려짐) 내의 참조 화상들을 리스트 속에 넣는 내재적 메커니즘 (implicit mechanism) 일 수도 있다. 참조 화상 리스트 재순서화 메커니즘은, 참조 화상 리스트 초기화 동안에 리스트 속에 넣었던 화상의 포지션을 임의의 새로운 포지션으로 수정하거나, 또는 심지어 임의의 화상이 초기화된 리스트에 속하지 않을지라도 그 참조 화상을 참조 화상 메모리에서 임의의 포지션에 넣을 수도 있다. 참조 화상 리스트 재순서화 (수정) 후의 일부 화상들은, 리스트에서 추가의 포지션에도 놓일 수도 있다. 그러나, 화상의 포지션이 리스트의 액티브 참조 화상들의 수를 초과하면, 그 화상은 최종 참조 화상 리스트의 엔트리로서 간주되지 않을 수도 있다. 액티브 참조 화상들의 수는 각각의 리스트에 대해 슬라이스 헤더에서 시그널링될 수도 있다.

본 개시물에서 설명되는 기법들은 다양한 비디오 코딩 표준들에 적용가능할 수도 있다. 비디오 코딩 표준들의 예들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 을 포함한다. 덧붙여서, ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 동 화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 개발되어 있는 새로운 비디오 코딩 표준, 즉 고 효율 비디오 코딩 (HEVC) 이 있다.

예시만을 목적으로, 기법들은 HEVC 표준의 측면에서 설명된다. HEVC의 최근의 작업 초안 (WD) (이후, HEVC WD8이라고 지칭됨) 은, 2012년 10월 8일 현재로, http://phenix.int-evry.fr/jct/doc_end_user/documents/10_Stockholm/wg11/JCTVC-J1003-v8.zip에서 입수가능하다.

본 개시물에서 설명되는 기법들에 따라, 참조 화상 리스트들은 참조 화상 세트로부터 구축된다. 참조 화상 세트는 일반적으로 디코딩 순서에서 연관된 화상에 선행하는 모든 참조 화상들로 구성되며 연관된 화상 또는 디코딩 순서에서, 예를 들어, 다음 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지 연관된 화상에 후행하는 임의의 화상에서 블록들의 인터 예측을 위해 사용될 수도 있는, 화상에 연관된 참조 화상들의 세트로서 정의된다. 다르게 말하면, 참조 화상 세트에서의 참조 화상들은 다음의 특성들을 필요로 할 수도 있다: (1) 그것들은 모두가 디코딩 순서에서 현재 화상에 선행하고, (2) 그것들은 현재 화상을 인터 예측하기 위해 및/또는 디코딩 순서에서 현재 화상에 후행하는 임의의 화상과, 일부 예들에서, 디코딩 순서에서 다음의 IDR 화상 또는 BLA 화상까지 현재 화상에 후행하는 임의의 화상을 인터 예측하기 위해 사용될 수도 있다. 아래에서 제공되는 참조 화상 세트의 다른 대체 정의들이 있을 수도 있다.

본 개시물에서 설명되는 예의 기법들에서, 비디오 코더 (이를테면 비디오 인코더 또는 비디오 디코더) 는 참조 화상 세트를 도출할 수도 있고, 이러한 도출 후, 비디오 코더는 비디오 데이터의 슬라이스들에 대한 참조 화상 리스트들을 구축할 수도 있다. 예를 들면, 참조 화상 세트에서의 참조 화상들만이 그 슬라이스들에 대한 참조 화상 리스트들을 구축하는데 사용되는 후보 참조 화상들일 수도 있다.

참조 화상 세트를 구축하기 위해, 비디오 코더는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 참조 화상 서브세트들의 조합은 함께 참조 화상 세트를 형성할 수도 있다. 예를 들어, 비디오 인코더는 비디오 디코더가 참조 화상 세트에 포함되는 참조 화상들에 대한 식별자들을 결정하는 것을 허용하는 값들을 코딩된 비트스트림으로 명시적으로 시그널링할 수도 있다. 예를 들면, 참조 화상들의 식별자들은 화상 순서 카운트들일 수도 있다. 각각의 화상은 PicOrderCnt라고 지칭되는 하나의 화상 순서 카운트와 연관된다. PicOrderCnt는 디코딩 순서에서 이전의 IDR 화상에 대해 대응하는 화상의 출력 순서 또는 디스플레이 순서를 나타내고, 일부 다른 대체예들에서, 동일한 코딩된 비디오 시퀀스에서 다른 화상들의 출력 순서 포지션들을 기준에 대해 출력 순서에서 연관된 화상의 포지션을 나타낸다.

PicOrderCnt는 화상 순서 카운트 (POC) 값이라고 지칭될 수도 있다. POC 값은 화상의 출력 또는 디스플레이 순서를 나타낼 수도 있고, 화상을 식별하는데 사용될 수도 있다. 예를 들어, 코딩된 비디오 시퀀스 내에서, 보다 작은 POC 값을 갖는 화상은 보다 큰 POC 값을 갖는 화상에 선행하여 출력되거나 또는 디스플레이된다.

비디오 디코더는 참조 화상들에 대한 식별자들을 결정할 수도 있고, 이들 식별자들로부터, 비디오 디코더는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 이들 참조 화상 서브세트들로부터, 비디오 디코더는, 아래에서 더 상세히 설명되는 바와 같이, 참조 화상 세트를 도출할 수도 있다. 일부 예들에서, 참조 화상 서브세트들의 각각은 상이한 참조 화상들을 포함하며, 이는 참조 화상 서브세트들에서는 참조 화상들의 중복이 없음을 의미한다. 이런 식으로, 참조 화상들의 각각은 참조 화상 서브세트들 중 하나에만 있고, 다른 참조 화상 서브세트에는 없을 수도 있다. 그러나, 본 개시물의 양태들은 그렇게 제한되는 것으로 간주되지 않아야 한다.

참조 화상 세트 또는 그것의 서브세트들에서 참조 화상들의 식별자들 (예컨대, POC 값들) 을 결정한 후, 비디오 디코더는 참조 화상 서브세트들을 구축할 수도 있다. 아래에서 더 상세히 설명되는 바와 같이, 비디오 디코더는 6 개의 참조 화상 서브세트들을 구축할 수도 있지만, 비디오 디코더가 더 많거나 또는 더 적은 참조 화상 서브세트들을 구축하는 것이 가능할 수도 있다.

이들 6 개의 참조 화상 서브세트들은 다음으로 명명된다: RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll. RefPicSetStCurr0 참조 화상 서브세트는 RefPicSetStCurrBefore 참조 화상 서브세트라고 지칭될 수도 있고, RefPicSetStCurr1 참조 화상 서브세트는 RefPicSetStCurrAfter 참조 화상 서브세트라고 지칭될 수도 있다.

RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 참조 화상 서브세트들은 단기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은, 단기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 선행하는지 또는 디스플레이 순서에서 후행하는지, 뿐만 아니라 그 단기 참조 화상들이 현재 화상 및 디코딩 순서에서 현재 화상에 후행하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는지, 또는 디코딩 순서에서 현재 화상에 후행하는 화상들만을 인터 예측하기 위해 잠재적으로 사용될 수 있는지에 기초하여, 단기 참조 화상들을 식별할 수도 있다.

예를 들어, RefPicSetStCurr0 참조 화상 서브세트는, 현재 화상에 선행하는 출력 또는 디스플레이 순서를 갖고 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의, POC 값들과 같은 식별 정보를 포함할 수도 있고, 그 식별정보만을 포함할 수도 있다. RefPicSetStCurr1 참조 화상 서브세트는, 현재 화상에 후행하는 출력 또는 디스플레이 순서를 갖고 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별정보만을 포함할 수도 있다.

RefPicSetStFoll0 참조 화상 서브세트는, 현재 화상에 선행하는 출력 또는 디스플레이 순서를 갖고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다. RefPicSetStFoll1 참조 화상 서브세트는, 현재 화상에 후행하는 출력 또는 디스플레이 순서를 갖고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다.

RefPicSetLtCurr 및 RefPicSetLtFoll 참조 화상 서브세트들은 장기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은 장기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 선행하는지 또는 디스플레이 순서에서 후행하는지에 기초하여 장기 참조 화상들을 식별할 수도 있다.

예를 들어, RefPicSetLtCurr 참조 화상 서브세트는, 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 장기 참조 화상들의 식별 정보를 포함할 수도 있고 그 식별 정보들만을 포함할 수도 있다. RefPicSetLtFoll 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 장기 참조 화상들의 식별 정보를 포함할 수도 있고 그 식별 정보들만을 포함할 수도 있다.

참조 화상 서브세트들을 구축한 후, 비디오 디코더는 참조 화상 세트를 도출하기 위해 상이한 순서로 참조 화상 서브세트들을 순서화할 수도 있다. 하나의 예로서, 참조 화상 세트의 순서는 RefPicSetStCurr0, RefPicSetSetCurr1, RefPicSetFoll0, RefPicSetFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll일 수도 있다. 그러나, 서브세트들의 다른 순서화가 참조 화상 세트를 도출하기 위해 가능해질 수도 있다. 예를 들면, 다른 예로서, 참조 화상 세트의 순서는 RefPicSetStCurr0 참조 화상 서브세트, 그 다음의 RefPicSetStCurr1 참조 화상 세트, 그 다음의 RefPicSetLtCurr 참조 화상 서브세트, 그 다음의 RefPicSetStFoll0 참조 화상 서브세트, 그 다음의 RefPicSetFoll1 참조 화상 서브세트, 및 그 다음의 RefPicSetLtFoll 참조 화상 서브세트일 수도 있다.

본 개시물에서 설명되는 기법들에 따라, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 서브세트들은, 현재 화상에서 블록의 인터 예측에 사용될 수도 있고 디코딩 순서에서 현재 화상에 후행하는 화상들 중 하나 이상의 화상의 인터 예측에 사용될 수도 있는 모든 참조 화상들을 포함한다. RefPicSetStFoll0, RefPicSetStFoll1, 및 RefPicSetLtFoll 서브세트들은, 현재 화상에서 블록의 인터 예측에 사용되지 않지만 디코딩 순서에서 현재 화상에 후행하는 화상들 중 하나 이상의 화상의 인터 예측에 사용될 수도 있는 모든 참조 화상들을 포함한다.

6 개의 참조 화상 서브세트들이 예시만을 목적으로 설명되고 제한하는 것으로 간주되지 않아야 한다는 것이 이해되어야 한다. 대체 예들에서, 더 많거나 또는 더 적은 참조 화상 서브세트들이 있을 수도 있다. 이들 대체 예들에서의 이러한 참조 화상 서브세트들은, 아래에서 더 상세히 설명된다.

본 개시물에서 설명되는 일부 기법들에서, 비디오 디코더는 디코딩된 화상들을 "참조를 위해 사용됨", "참조를 위해 사용되지 않음", "단기 참조를 위해 사용됨", 또는 "장기 참조를 위해 사용됨"으로 마킹하는 것을 필요로 하지 않을 수도 있다. 오히려, DPB에 저장된 디코딩된 화상이 인터 예측을 위해 필요한지의 여부는 그 디코딩된 화상이 현재 화상의 참조 화상 세트에 포함되는지의 여부에 의해 나타내어진다. 대체 예들에서, 비디오 디코더가 디코딩된 화상들을 "참조를 위해 사용됨", "참조를 위해 사용되지 않음", "단기 참조를 위해 사용됨", 또는 "장기 참조를 위해 사용됨"으로 마킹하는 것이 가능할 수도 있다. 이들 예들에서, 비디오 디코더가 화상을 디코딩한 후, 그 화상은 참조 화상이고 "참조를 위해 사용됨"으로 마킹된다. 그러면, 참조 화상 세트 도출을 위한 프로세스의 호출 후, DPB에 저장되지만 현재 화상의 참조 화상 세트에 포함되지 않는 모든 참조 화상들은, DPB로부터의 디코딩된 화상들의 가능한 제거 전에 "참조를 위해 사용되지 않음"으로 마킹된다. 따라서, DPB에 저장된 디코딩된 화상이 인터 예측을 위해 필요한지의 여부는 그 디코딩된 화상이 "참조를 위해 사용됨"으로 마킹되는지의 여부에 의해 나타내어질 수도 있다.

일단 비디오 디코더가 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출하면, 비디오 디코더는 참조 화상 세트로부터 참조 화상 리스트들 (예컨대, 리스트 0 및 리스트 1) 을 구축할 수도 있다. 예를 들어, 참조 화상 리스트들의 구축은 초기화 단계 및 가능하게는 수정 단계를 포함할 수도 있다. 참조 화상 세트를 위에서 설명된 방식으로 도출하는 것에 의해, 비디오 디코더는 참조 화상 리스트 초기화 및 참조 화상 리스트 수정에 대한 효율을 개선하고 복잡도를 감소시킬 수도 있다.

비디오 디코더가 참조 화상 리스트들을 구축할 수도 있는 다양한 방법들이 있을 수도 있다. 본 개시물에서 설명되는 기법들은, 비디오 디코더가 (초기) 참조 화상 리스트에 포함될 참조 화상들을 재순서화할 필요 없이 참조 화상 리스트들을 구축할 수도 있는 메커니즘을 제공한다. 예를 들어, 비디오 디코더는 비디오 디코더가 초기 참조 화상 리스트들을 구축하기 위해 참조 화상 서브세트들을 활용하는 디폴트 참조 리스트 구축 기법을 구현하도록 구성될 수도 있다. 그 다음에, 참조 화상 리스트 수정이 필요하지 않으면, 최종 참조 화상 리스트들은 참조 화상 리스트들의 임의의 부가적인 재순서화가 필요없는 초기 참조 화상 리스트들과 동일한 것일 수도 있다.

전술된 바와 같이, 참조 화상 세트의 일부 참조 화상들은 화상 파라미터 세트 (PPS) 에서 시그널링될 수도 있고 참조 화상 세트의 다른 참조 화상들은 슬라이스 헤더에서 시그널링될 수도 있다. 그러면 비디오 디코더는 PPS 및 슬라이스 헤더 양쪽 모두에서의 참조 화상들을 사용하여 참조 화상 세트를 구축할 수 있다. 그러나, 이들 기법들은, 비디오 디코더가 비디오의 슬라이스에 대한 초기 참조 화상 리스트를 구축할 수 있기 전에, 구축된 참조 화상 세트를 재순서화할 것을 비디오 디코더에 요구할 수도 있다. 이 중간의 재순서화 단계는 프로세싱 사이클들을 낭비할 수도 있고, 이에 의해 비디오 디코더가 현재 화상을 디코딩하는 데 걸리는 시간의 양을 증가시킬 수도 있다.

이를 해결하기 위해, 하나의 예로서, 본 개시물은 참조 화상 세트를 구축하기 위해 비디오 디코더가 PPS로부터 어떤 참조 화상들을 사용해야 하는지를 나타내는 "combine_with_reference_flag" 신택스 엘리먼트, "ref_pic_set_combination_idx" 신택스 엘리먼트, "ref_pic_set_offset0" 신택스 엘리먼트, 및 "ref_pic_set_offset1" 신택스 엘리먼트를 설명한다. 그 기법들은 또한 어떤 화상들이 슬라이스 헤더에 포함될 수 있는지에 대해 적용되는 제한을 설명한다. 이런 식으로, 비디오 디코더는 초기 참조 화상 리스트를 구축하기 전에 비디오 디코더가 참조 화상 세트를 재순서화할 필요가 없도록 하는 방식으로 참조 화상 세트를 구축할 수도 있다.

본 개시물의 기법들에서, "combine_with_reference_flag" 신택스 엘리먼트가 참 (true) 으로 설정되는 (예컨대, 1의 값을 가지는) 경우, 비디오 디코더는, 현재 화상에 대한 참조 화상 세트가 PPS 및 현재 화상의 슬라이스 헤더 양쪽 모두에서의 참조 화상들로부터 구축될 것이라고 결정한다. "ref_pic_set_combination_idx" 신택스 엘리먼트는 PPS 내의 참조 화상들의 후보 세트를 식별하는 신택스 엘리먼트이다. 하나의 예시적인 예로서, 참조 화상들의 5 개의 후보들이 있을 수도 있고, 각각의 후보는 10 개의 참조 화상들을 포함할 수도 있다. "ref_pic_set_combination_idx" 신택스 엘리먼트의 값은, 이 예에서, 5 개의 후보들 중 하나를 말할 수도 있다.

후보들의 각각에서의 참조 화상들은 그것들의 델타 POC 값들에 따라 순서화될 수도 있다. POC 값들은 화상들의 출력 순서를 나타내고, 델타 POC 값들은 현재 화상의 POC 값 및 참조 화상의 POC 값 사이의 차이일 수도 있다. 하나의 예로서, 하나의 후보 세트에서의 10 개의 참조 화상들은 -5 내지 -1 및 1 내지 5의 델타 POC 값들을 가질 수도 있지만, 다른 값들이 가능하다. 이 예에서, -5의 델타 POC 값은 참조 화상의 POC 값 빼기 현재 화상의 POC 값이 -5임을 의미한다. POC 값들이 출력 순서를 나타내기 때문에, 음의 델타 POC 값은 참조 화상이 현재 화상에 선행하여 출력됨 (예컨대, 디스플레이됨) 을 나타낼 수도 있고, 양의 델타 POC 값은 참조 화상이 현재 화상에 후행하여 출력됨을 나타낼 수도 있다.

ref_pic_set_offset0 신택스 엘리먼트의 값은, 출력 순서에서 현재 화상에 선행하는 얼마나 많은 참조 화상들이 식별된 후보로부터 제거되어야 하는지를 나타낸다. ref_pic_set_offset1 신택스 엘리먼트의 값은, 출력 순서에서 현재 화상에 후행하는 얼마나 많은 참조 화상들이 식별된 후보 세트로부터 제거되어야 하는지를 나타낸다. 일부 예들에서, 비디오 디코더가 제거하는 화상들은 출력 순서에서 현재 화상으로부터 가장 멀리 떨어져 있는 것들이다.

예를 들면, ref_pic_set_offset0 및 ref_pic_set_offset1의 값들이 양쪽 모두 2와 동일하다고 가정한다. 이 예에서, 비디오 디코더는 ref_pic_set_combination_idx 값에 의해 식별된 후보의 참조 화상들로부터 2 개의 화상들을 제거할 수도 있다. 이전의 예에서, 참조 화상들은 델타 POC 값들 -5 내지 -1 및 1 내지 5에 대응하는 참조 화상들일 수도 있다. 이 예에서, 비디오 디코더는 -5 내지 -1의 델타 POC 값들을 갖는 참조 화상들에 대응하는 참조 화상들 중 2 개와, 델타 POC 값들 1 내지 5를 갖는 참조 화상들에 대응하는 참조 화상들 중 2 개를 제거할 수도 있다. 게다가, 어떤 경우들에서는, 비디오 디코더가 제거하는 참조 화상들은, 이것들이 출력 순서에서 현재 화상으로부터 가장 멀리 떨어진 참조 화상들이기 때문에 -5, -4, 4, 및 5의 델타 POC 값들에 대응하는 참조 화상들일 수도 있다.

따라서, 이 예에서, 비디오 디코더는 비디오 디코더가 PPS 내의 식별된 후보에서의 참조 화상들 중 6 개를 사용해야 한다고 결정할 수도 있다. 특히, 이 예에서, 참조 화상들은 델타 POC 값들 -3 내지 -1 및 1 내지 3에 대응하는 것들일 것이다.

비디오 디코더는 그 다음에 슬라이스의 슬라이스 헤더로부터 참조 화상 세트의 나머지 화상들을 식별할 수도 있다. 그러나, 비디오 디코더가 참조 화상 세트를 재순서화하는 것을 필요로 하지 않을 수도 있다는 것을 보장하기 위해, 어떤 참조 화상들이 슬라이스 헤더에 포함될 수 있는지에 대해 가해지는 특정한 제한들이 있을 수도 있다.

일부 예들에서, 슬라이스 헤더에서 식별된 참조 화상들은 PPS에서 식별된 참조 화상들 중 임의의 것보다 출력 순서에서 거리적으로 더 멀리 있을 수도 있다. 예를 들면, 이전의 예를 유지하면, -6 또는 +6의 델타 POC 값을 갖는 참조 화상은 슬라이스 헤더에 포함될 수 있는 참조 화상으로서 자격을 얻을 수도 있는데, 이 참조 화상이 PPS에서 참조 화상들 중 임의의 것보다 더 멀리 있기 때문이다.

비디오 디코더는 그러면 2 개의 서브 세트들의 조합으로서 참조 화상 세트를 구축할 수도 있다. 제 1 서브 세트는 현재 화상보다 시간적으로 먼저 발생하는 참조 화상들을 포함할 수도 있고, 제 2 서브 세트는 현재 화상보다 시간적으로 뒤에 발생하는 참조 화상들을 포함할 수도 있다. 비디오 디코더는, PPS에서 델타 POC 값으로 식별되는 바와 같이 현재 화상에 가장 가까운 참조 화상으로부터 시작하여 슬라이스 헤더에서 델타 POC 값으로 식별되는 바와 같이 현재 화상으로부터 가장 멀리 떨어진 참조 화상으로의 내림차순의 POC 순서로 제 1 서브 세트의 참조 화상들을 순서화할 수도 있다. 비디오 디코더는, PPS에서 델타 POC 값으로 식별되는 바와 같이 현재 화상에 가장 가까운 참조 화상으로부터 시작하여 슬라이스 헤더에서 델타 POC 값으로 식별되는 바와 같이 현재 화상으로부터 가장 멀리 떨어진 참조 화상으로의 오름차순의 POC 순서로 제 2 서브 세트의 참조 화상들을 순서화할 수도 있다. 이런 방식으로, 비디오 디코더는 비디오 디코더가 초기 참조 화상 리스트를 구축하는 경우에 비디오 디코더가 참조 화상 세트를 재순서화하는 것을 필요로 하지 않을 수도 있도록 하는 방식으로 참조 화상 세트를 구축할 수도 있다.

도 1은 본 개시물에서 설명되는 기법들을 활용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템 (10) 을 도시하는 블록도이다. 전반적으로, 참조 화상 세트는 화상에 연관된 참조 화상들의 세트로서 정의된다. 참조 화상 세트는, 디코딩 순서에서 연관된 화상에 선행하고 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는 모든 참조 화상들로 구성된다. 일부 예들에서, 연관된 화상에 선행하는 참조 화상들은 다음의 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지의 참조 화상들일 수도 있다. 다르게 말하면, 참조 화상 세트에서의 참조 화상들은 모두가 디코딩 순서에서 현재 화상에 선행할 수도 있다. 또한, 참조 화상 세트에서의 참조 화상들은 현재 화상을 인터 예측하기 위해 및/또는 디코딩 순서에서 다음의 IDR 화상 또는 BLA 화상까지 현재 화상에 후행하는 임의의 화상을 인터 예측하기 위해 사용될 수도 있다.

참조 화상 세트의 다른 대체 정의들이 있을 수도 있다. 예를 들어, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있고 연관된 화상의 것보다 작거나 같은 temporal_id를 갖는, 연관된 화상 자체를 제외한, 모든 참조 화상들로 구성되는 화상에 연관된 참조 화상들의 세트일 수도 있다. temporal_id는 시간적 식별 값일 수도 있다. 그 시간적 식별 값은 어떤 화상들이 현재 화상을 코딩하기 위해 사용될 수 있는지를 나타내는 계층 값일 수도 있다. 일반적으로, 특정 temporal_id 값을 갖는 화상은 가능하게는 동일하거나 큰 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 그 반대는 아니다. 예를 들어, 1의 temporal_id 값을 갖는 화상은 가능하게는 1, 2, 3,...의 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 0의 temporal_id 값을 갖는 화상에 대해서는 아닐 수 있다.

최저 temporal_id 값은 또한 최저 디스플레이 레이트를 나타낼 수도 있다. 예를 들어, 비디오 디코더가 0의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 7.5 개 화상일 수도 있다. 비디오 디코더가 0 및 1의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 15 개 화상 등일 수도 있는 등등이다.

다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 연관된 화상 자체를 제외한, 모든 참조 화상들로 구성되는 화상에 연관된 참조 화상들의 세트일 수도 있다. 또 다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는 가능하게는 연관된 화상 자체를 포함한 모든 참조 화상들로 구성되는, 화상에 연관된 참조 화상들의 세트로서 정의될 수도 있다. 다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있고 연관된 화상의 것보다 작거나 또는 그와 같은 temporal_id를 갖는, 가능하게는 연관된 화상 자체를 포함한 모든 참조 화상들로 구성되는, 화상에 연관된 참조 화상들의 세트로서 정의될 수도 있다.

또 다른 예로서, 참조 화상 세트의 위의 정의들에서, 어구 "인터 예측을 위해 사용될 수도 있다"는 "인터 예측을 위해 사용된다"로 대체된다. 비록 참조 화상 세트의 대체 정의들이 있을 수도 있지만, 본 개시물에서, 그 예들은 디코딩 순서에서 연관된 화상에 선행하는 모든 참조 화상들로 구성되며 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후행하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 화상에 연관된 참조 화상들의 세트인 참조 화상 세트의 정의로 설명된다.

예를 들어, 참조 화상 세트에서의 참조 화상들의 일부는 디코딩 순서에서 현재 화상에 후행하는 화상들은 아니고 현재 화상의 블록을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들이다. 참조 화상 세트에서의 참조 화상들의 일부는 현재 화상의 블록 및 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들에서의 블록을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들이다. 참조 화상 세트에서의 참조 화상들의 일부는, 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들에서의 블록들을 인터 예측하기 위해 잠재적으로 사용될 수 있고 현재 화상에서의 블록을 인터 예측하기 위해 사용될 수 없는 참조 화상들이다.

본 개시물에서 사용되는 바와 같이, 인터 예측을 위해 잠재적으로 사용될 수 있는 참조 화상들은, 인터 예측을 위해 사용될 수 있지만 인터 예측을 위해 반드시 사용되어야 하는 것은 아닌 참조 화상들을 말한다. 예를 들어, 참조 화상 세트는 인터 예측을 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 그러나, 이는 식별된 참조 화상들의 모두가 인터 예측을 위해 사용되어야 하는 것을 의미하지는 않는다. 오히려, 이들 식별된 참조 화상들 중 하나 이상은 인터 예측을 위해 사용될 수 있지만, 모두가 인터 예측을 위해 반드시 사용되어야 하는 것은 아니다.

도 1에 도시된 바와 같이, 시스템 (10) 은 목적지 디바이스 (14) 에 의한 디코딩을 위해 인코딩된 비디오를 생성하는 소스 디바이스 (12) 를 포함한다. 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 각각이 비디오 코딩 디바이스의 일 예일 수도 있다. 소스 디바이스 (12) 는 인코딩된 비디오를 통신 채널 (16) 을 통해 목적지 디바이스 (14) 로 송신할 수도 있고, 또는 인코딩된 비디오를 저장 매체 (17) 또는 파일 서버 (19) 상에 저장할 수도 있어서, 인코딩된 비디오는 목적지 디바이스 (14) 에 의해 원하는 대로 액세스될 수도 있다.

소스 디바이스 (12) 와 목적지 디바이스 (14) 는, 이른바 "스마트" 폰들, 이른바 "스마트" 패드들과 같은 무선 핸드셋, 또는 무선 통신을 위해 장착된 다른 이러한 무선 디바이스들을 포함한 넓은 범위의 디바이스들 중 임의의 것을 포함할 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 의 부가적인 예들은, 디지털 텔레비전, 디지털 직접 브로드캐스트 시스템 내 디바이스, 무선 브로드캐스트 시스템 내 디바이스, 개인휴대 정보단말들 (PDA), 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿 컴퓨터, e-북 리더, 디지털 카메라, 디지털 레코딩 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 디바이스, 비디오 게임 콘솔, 셀룰러 무선 전화기, 위성 무선 전화기, 비디오 원격회의 디바이스, 및 비디오 스트리밍 디바이스, 무선 통신 디바이스 등을 포함하지만 그것들로 제한되는 것은 아니다.

위에서 나타낸 바와 같이, 많은 경우들에서, 소스 디바이스 (12) 및/또는 목적지 디바이스 (14) 는 무선 통신을 위해 장착될 수도 있다. 그런고로, 통신 채널 (16) 은 무선 채널, 유선 채널, 또는 인코딩된 비디오 데이터의 송신에 적합한 무선 및 유선 채널들의 조합을 포함할 수도 있다. 마찬가지로, 파일 서버 (19) 는 목적지 디바이스 (14) 에 의해 인터넷 접속을 포함한 임의의 표준 데이터 접속을 통해 액세스될 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다.

그러나, 본 개시물의 기법들은 다양한 멀티미디어 애플리케이션들, 이를테면 OTA (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들 중 임의의 것의 지원 시의 비디오 코딩, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들에 적용될 수도 있다. 일부 예들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

도 1의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 변조기/복조기 (MODEM) (22) 및 출력 인터페이스 (24) 를 포함한다. 소스 디바이스 (12) 에서, 비디오 소스 (18) 는 비디오 캡처 디바이스, 이를테면 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 및/또는 컴퓨터 그래픽스 데이터를 소스 비디오로서 생성하는 컴퓨터 그래픽 시스템과 같은 소스, 또는 그런 소스들의 조합을 포함할 수도 있다. 하나의 예로서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 이른바 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 본 개시물에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다.

캡처된, 사전-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 모뎀 (22) 에 의해 변조될 수도 있고, 출력 인터페이스 (24) 를 통해 목적지 디바이스 (14) 로 송신될 수도 있다. 모뎀 (22) 은 다양한 믹서들, 필터들, 증폭기들 또는 신호 변조를 위해 설계된 다른 컴포넌트들을 포함할 수도 있다. 출력 인터페이스 (24) 는 증폭기들, 필터들, 및 하나 이상의 안테나들을 포함하여, 데이터를 송신하기 위해 설계된 회로들을 구비할 수도 있다.

비디오 인코더 (20) 에 의해 인코딩되는 캡처된, 사전-캡처된, 또는 컴퓨터-생성된 비디오는 또한 나중의 소비를 위해 저장 매체 (17) 또는 파일 서버 (19) 상에 저장될 수도 있다. 저장 매체 (17) 는 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 또는 인코딩된 비디오를 저장하는 임의의 다른 적합한 디지털 저장 매체들을 포함할 수도 있다. 저장 매체 (17) 상에 저장된 인코딩된 비디오는 그 다음에 디코딩 및 플레이백을 위해 목적지 디바이스 (14) 에 의해 액세스될 수도 있다.

파일 서버 (19) 는, 인코딩된 비디오를 저장하고 그 인코딩된 비디오를 목적지 디바이스 (14) 에 송신하는 것이 가능한 임의의 유형의 서버일 수도 있다. 예의 파일 서버들은 웹 서버 (예컨대, 웹사이트 용), FTP 서버, 네트워크 접속 스토리지 (network attached storage; NAS) 디바이스들, 로컬 디스크 드라이브, 또는 인코딩된 비디오 데이터를 저장하고 그것을 목적지 디바이스에 송신하는 것이 가능한 임의의 다른 유형의 디바이스를 포함한다. 파일 서버 (19) 로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 양쪽 모두의 조합일 수도 있다. 파일 서버 (19) 는 목적지 디바이스 (14) 에 의해 인터넷 접속을 포함한 임의의 표준 데이터 접속을 통해 액세스될 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀, 이더넷, USB 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다.

목적지 디바이스 (14) 는, 도 1의 예에서, 입력 인터페이스 (26), 모뎀 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 목적지 디바이스 (14) 의 입력 인터페이스 (26) 는, 하나의 예로서 채널 (16) 을 통해, 또는 대체 예들로서 저장 매체 (17) 또는 파일 서버 (17) 로부터 정보를 수신하고, 모뎀 (28) 은 그 정보를 복조하여 비디오 디코더 (30) 를 위한 복조된 비트스트림을 생성한다. 복조된 비트스트림은 비디오 데이터 디코딩 시에 비디오 디코더 (30) 에 의한 사용을 위해 비디오 인코더 (20) 에 의해 생성된 다양한 신택스 정보를 포함할 수도 있다. 이러한 신택스는 또한 저장 매체 (17) 또는 파일 서버 (19) 상에 저장되는 인코딩된 비디오 데이터에 포함될 수도 있다. 하나의 예로서, 그 신택스에는 인코딩된 비디오 데이터가 삽입될 수도 있지만, 본 개시물의 양태들은 이러한 요건으로 제한되는 것으로 간주되지 않아야 한다. 비디오 디코더 (30) 에 의해 또한 사용되는, 비디오 디코더 (20) 에 의해 정의된 신택스 정보는, 비디오 블록들, 이를테면 코딩 트리 단위 (coding tree unit; CTU) 들, 코딩 트리 블록 (coding tree block; CTB) 들, 예측 단위 (prediction unit; PU) 들, 코딩 단위 (coding unit; CU) 들 또는 코딩된 비디오의 다른 단위들, 예컨대, 비디오 슬라이스들, 비디오 화상들, 비디오 시퀀스들 또는 GOP (group of pictures) 들의 특성들 및/또는 프로세싱을 서술하는 신택스 엘리먼트들을 포함할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 비디오 데이터를 인코딩 또는 디코딩하는 것이 가능한 개별 인코더-디코더 (CODEC) 의 부분을 형성할 수도 있다.

디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나, 또는 그것 외부에 있을 수도 있다. 일부 예들에서, 목적지 디바이스 (14) 는 통합형 디스플레이 디바이스를 포함할 수도 있고 또한 외부 디스플레이 디바이스와 인터페이싱하도록 구성될 수도 있다. 다른 예들에서, 목적지 디바이스 (14) 는 디스플레이 디바이스일 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다.

도 1의 예에서, 통신 채널 (16) 은 임의의 무선 또는 유선 통신 매체, 이를테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들, 또는 무선 및 유선 매체들의 임의의 조합을 포함할 수도 있다. 통신 채널 (16) 은 패킷 기반 네트워크, 이를테면 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 부분을 형성할 수도 있다. 통신 채널 (16) 은, 유선 또는 무선 매체들의 임의의 적합한 조합을 포함하여, 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 비디오 데이터를 송신하기 위한 임의의 적합한 통신 매체, 또는 상이한 통신 매체들의 컬렉션을 일반적으로 나타낸다. 통신 채널 (16) 은 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는, 이를테면 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 을 포함한 비디오 압축 표준에 따라 동작할 수도 있다. 덧붙여서, 전술된 바와 같이, 비디오 인코더 (20) 와 비디오 인코더 (30) 는 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 동 화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 현재 개발 중인 새로운 비디오 코딩 표준, 즉 고 효율 비디오 코딩 (HEVC) 표준에 따라 동작할 수도 있다. 그러나, 본 개시물의 기법들은, 임의의 특정 코딩 표준으로 제한되지 않는다. 예시만을 목적으로, 그 기법들은 HEVC 표준에 따라 설명된다.

비록 도 1에 도시되지 않았지만, 일부 양태들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각이 오디오 인코더 및 디코더와 통합될 수도 있고, 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함하여, 공통 데이터 스트림 또는 개별 데이터 스트림들에서의 오디오 및 비디오 양쪽 모두의 인코딩을 핸들링할 수도 있다. 적용가능하다면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜 (UDP) 과 같은 다른 프로토콜들을 준수할 수도 있다.

비디오 인코더 (20) 와 비디오 디코더 (30) 각각은 다양한 적합한 인코더 회로, 이를테면 마이크로프로세서들을 포함한 하나 이상의 프로세서들, 디지털 신호 프로세서들 (DSPs), 주문형 집적회로들 (ASICs), 필드 프로그램가능 게이트 어레이들 (FPGAs), 개별 로직, 소프트웨어, 하드웨어, 펌웨어 또는 그것들의 임의의 조합 중 임의의 것으로서 구현될 수도 있다. 그 기법들이 소프트웨어에서 부분적으로 구현되는 경우, 디바이스는 본 개시물의 기법들을 수행하기 위해, 적합한 비일시적 컴퓨터 판독가능 매체 내에 소프트웨어에 대한 명령을 저장하고 하나 이상의 프로세서들을 사용하여 하드웨어에서 그 명령들을 실행할 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들 내에 구비될 수도 있고, 그것들 중 어느 하나는 결합형 인코더/디코더 (CODEC) 의 부분으로서 개별 디바이스 내에 통합될 수도 있다. 일부 경우들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 정보 (예컨대, 화상들 및 신택스 엘리먼트들) 를 코딩하는 비디오 코더라고 일반적으로 지칭될 수도 있다. 정보의 코딩은 비디오 코더가 비디오 인코더 (20) 에 해당하는 경우에 인코딩을 말할 수도 있다. 정보의 코딩은 비디오 코더가 비디오 디코더 (30) 에 해당하는 경우에 디코딩을 말할 수도 있다.

더욱이, 본 개시물에서 설명되는 기법들은 정보를 시그널링하는 비디오 인코더 (20) 를 말할 수도 있다. 비디오 인코더 (20) 가 정보를 시그널링하는 경우, 본 개시물의 기법들은 일반적으로 비디오 인코더 (20) 가 정보를 제공하는 임의의 방식을 말한다. 예를 들어, 비디오 인코더 (20) 가 신택스 엘리먼트들을 비디오 디코더 (30) 로 시그널링하는 경우, 그것은 비디오 인코더 (20) 가 신택스 엘리먼트들을 출력 인터페이스 (24) 및 통신 채널 (16) 을 통해 비디오 디코더 (30) 로 전송했다는 것, 또는 비디오 인코더 (20) 가 신택스 엘리먼트들을 비디오 디코더 (30) 에 의한 최종적인 수신을 위해 출력 인터페이스 (24) 를 통해 저장 매체 (17) 및/또는 파일 서버 (19) 상에 저장했다는 것을 의미할 수도 있다. 이런 식으로, 비디오 인코더 (20) 로부터 비디오 디코더 (30) 로의 시그널링은, 비록 이것이 가능할 수도 있지만, 비디오 디코더 (30) 에 의해 즉시 수신되는 비디오 인코더 (20) 로부터의 요청하는 송신으로 해석되지 않아야 한다. 오히려, 비디오 인코더 (20) 로부터 비디오 디코더 (30) 로의 시그널링은, 직접 또는 중간 스토리지를 통해 (예컨대, 저장 매체 (17) 및/또는 파일 서버 (19) 로) 중 어느 하나로 비디오 인코더 (20) 가 비디오 디코더 (30) 에 의한 최종적인 수신을 위해 정보를 제공하게 하는 임의의 기법으로서 해석되어야 한다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 본 개시물에서 설명되는 예의 기법들을 구현하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 는 화상 당 한 번 참조 화상 세트를 도출하기 위해 프로세스를 호출할 수도 있다. 비디오 디코더 (30) 는 슬라이스 헤더의 디코딩 후이지만, 임의의 코딩 단위의 디코딩 전에 그리고 슬라이스의 참조 화상 리스트 구축을 위한 디코딩 프로세스 전에 참조 화상 세트를 도출하기 위해 프로세스를 호출할 수도 있다.

위에서 설명된 바와 같이, 참조 화상 세트는, 현재 화상 및 디코딩 순서에서 다음의 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지 미래에 디코딩되는 화상들의 디코딩 프로세스에서 사용되는 참조 화상들의 절대 서술 (absolute description) 이다. 본 개시물에서 설명되는 예들에서, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들을 결정할 수 있게 하는 값들을 명시적으로 시그널링할 수도 있다. 참조 화상 세트 시그널링은, IDR 화상들과 같은 특정한 화상들을 제외하고, 참조 화상 세트에 포함되는 모든 참조 화상들이 명시적으로 열거된다는 의미로 명시적이다. 참조 화상 세트가 없을 경우 신택스 엘리먼트들은 슬라이스 헤더에 포함되고 참조 화상 세트는 비어있는 것으로 해석된다.

비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트를 도출하기 위해 활용할 수도 있는 코딩된 비트스트림으로 신택스 엘리먼트들을 시그널링할 수도 있는 다양한 방법들이 있을 수도 있다. 예를 들어, 비디오 인코더 (20) 는 화상 파라미터 세트 (PPS), 시퀀스 파라미터 세트 (SPS), 화상 헤더 (만약 있다면), 슬라이스 헤더, 또는 그것들의 임의의 조합으로 신택스 엘리먼트들을 시그널링할 수도 있다. 예시만을 목적으로, 비디오 인코더 (20) 는, 더 상세히 설명되는 바와 같이, SPS, PPS, 및 슬라이스 헤더를 사용하여 신택스 엘리먼트들을 시그널링할 수도 있다. 본 개시물의 기법들은, 비디오 디코더가 참조 화상 세트를 구축하는 경우, 비디오 디코더는 비디오 데이터의 슬라이스에 대한 초기 참조 화상 리스트를 구축하기 위해 참조 화상 세트를 재순서화할 필요가 없도록, 어떤 참조 화상들이 화상 파라미터 세트와 같은 파라미터 세트에서 시그널링되어야 하는지와 어떤 참조 화상들이 슬라이스 헤더에서 시그널링되어야 하는지를 선택하는 것을 지향한다.

참조 화상 세트를 도출하기 위해, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 화상들에 대한 식별자들을 결정하기 위해 디코딩 프로세스를 이행할 수도 있다. 비디오 디코더 (30) 는 그 다음에 서브세트들의 각각이 참조 화상 세트에 속하는 0 개 이상의 참조 화상들을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 비디오 디코더 (30) 는 구축된 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 특정 순서로 복수의 참조 화상 서브세트들을 열거할 수도 있다.

비디오 디코더 (30) 가 참조 화상 세트에 속하는 화상들에 대한 식별자들을 결정할 수도 있는 다양한 방법들이 있을 수도 있다. 대체로, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트에 속하는 화상들을 포함한, 화상들에 대한 식별자들을 결정할 수도 있게 하는 값들을 시그널링할 수도 있다. 그 화상들의 식별자들은 PicOrderCnt (즉, 화상 순서 카운트 (POC) 값들) 일 수도 있다. 위에서 설명된 바와 같이, POC 값은, 작은 POC 값들을 갖는 화상들이 큰 POC 값들을 갖는 화상들에 선행하여 디스플레이되는 화상의 디스플레이 또는 출력 순서를 나타낼 수도 있다. 주어진 화상의 POC 값은 이전의 IDR (instantaneous decoding refresh) 화상을 기준으로 할 수도 있다. 예를 들어, IDR 화상에 대한 PicOrderCnt (즉, POC 값) 는 0일 수도 있으며, 디스플레이 또는 출력 순서에서 IDR 화상 뒤의 화상에 대한 POC 값은 1일 수도 있으며, 디스플레이 또는 출력 순서에서 POC 값 1을 갖는 화상 뒤의 그것에 대한 POC 값은 2일 수도 있다는 등등이다.

본 개시물에서 설명되는 기법들에 따라, 현재 화상이 IDR 화상이 아닌 경우, 다음이 현재 화상의 POC 값을 도출하기 위해 적용될 수도 있다. 다음은 이해를 돕기 위한 의미이고 제한하는 것으로서 간주되지 않아야 한다.

예를 들어, 다음의 모두를 포함하는 화상들의 리스트에 연관된 PicOrderCnt 값들 (POC 값들) 을 엘리먼트들로서 포함하는 리스트 변수 listD를 고려한다: (1) 리스트에서의 제 1 화상은 디코딩 순서에서 이전의 IDR 화상이고, (2) 모든 다른 화상들은 디코딩 순서에서 리스트에서의 제 1 화상 뒤를 따르고 디코딩 순서에서 현재 화상에 선행하거나 또는 현재 화상이다. 이 예에서, 현재 화상은 참조 화상 세트에 대한 도출 프로세스의 호출 전에 listD에 포함된다. 또한, POC 값들의 오름 차순으로 소트된 listD의 엘리먼트들을 포함하는 리스트 변수 listO를 고려한다. 이 예에서, listO는 다른 화상의 POC 값과 동일한 값을 가지는 POC 값을 포함하지 않을 수도 있다.

일부 예들에서, POC 값들은 -2^pocLen ^-1 내지 2^pocLen ^-1 - 1의 범위로 제한될 수도 있다. 이 예에서, pocLen은 long_term_ref_pic_id_len_delta + long_term_ref_pic_id_delta_len_minus4 + 4와 동일할 수도 있다. long_term_ref_pic_id_len_delta, 및 long_term_ref_pic_id_delta_len_minus4는 아래에서 더 상세히 설명되는 바와 같이, 비디오 디코더 (30) 가 코딩된 비트스트림에서 화상 파라미터 세트 신택스의 부분으로서 수신하는 신택스 엘리먼트들일 수도 있다. 다른 예로서, POC 값들은 -2³¹ 내지 2³¹ - 1의 범위로 제한될 수도 있다.

하나의 예로서, 비디오 디코더 (30) 는 코딩된 비트스트림 (즉, 비디오 인코더 (20) 에 의해 시그널링된 비트스트림) 에서, pic_order_cnt_lsb 신택스 엘리먼트를 수신할 수도 있다. pic_order_cnt_lsb 신택스 엘리먼트는 코딩된 화상에 대한 화상 순서 카운트 모듈로 (modulo) MaxPicOrderCntLsb를 특정할 수도 있다. pic_order_cnt_lsb 신택스 엘리먼트의 길이는 log2_max_pic_order_cnt_lsb_minus4 + 4 비트일 수도 있다. pic_order_cnt_lsb의 값은 0 내지 MaxPicOrderCntLsb - 1의 범위에 있을 수도 있다. 비디오 디코더 (30) 는 디코딩될 현재 화상에 대한 슬라이스 헤더 신택스에서 pic_order_cnt_lsb 신택스 엘리먼트를 수신할 수도 있다.

비디오 디코더 (30) 는 또한 비디오 인코더 (20) 에 의해 시그널링된 코딩된 비트스트림에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. 비디오 디코더 (30) 는 시퀀스 파라미터 세트에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. log2_max_pic_order_cnt_lsb_minu4의 값은 0 내지 12의 범위에 있을 수도 있다. log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트는 비디오 디코더 (30) 가 POC 값들을 결정하기 위해 디코딩 프로세스에서 사용하는 변수 MaxPicOrderCntLsb의 값을 특정할 수도 있다. 예를 들면 다음과 같다:

MaxPicOrderCntLsb = 2⁽ ^log2 ^_ ^max ^_ ^pic ^_ ^order ^_ ^cnt ^_ ^lsb ^_ ^minus4 ^{+ 4)}.

이들 수신된 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 현재 화상의 POC 값을 다음과 같이 결정할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 현재 화상에 대한 PicOrderCntMsb를 결정할 수도 있다. 현재 화상에 대한 POC 값은 현재 화상에 대한 결정된 PicOrderCntMsb 더하기 현재 화상에 대한 수신된 pic_order_cnt_lsb일 수도 있다.

다음에서, 함수 PicOrderCnt(picX) 는 화상 X에 대한 POC 값과 동일하다. 함수 DiffPicOrderCnt(picA, picB) 는 PicOrderCnt(picA) 빼기 PicOrderCnt(picB) 와 동일하다. 일부 예들에서, 코딩된 비트스트림은 -2¹⁵ 내지 2¹⁵ - 1의 범위를 초과하는, 디코딩 프로세스에서 사용되는 DiffPicOrderCnt(picA, picB) 의 값들이 되는 데이터를 포함하지 않을 수도 있다. 더욱이, DiffPicOrderCnt(X, Y) 및 DiffPicOrderCnt(X, Z) 양쪽 모두가 양이거나 또는 양쪽 모두가 음인 경우에 Y 및 Z는 X로부터의 동일한 출력 순서 방향이라고 간주하여, X는 현재 화상이고 Y 및 Z는 동일한 시퀀스에서의 2 개의 다른 화상들이라고 하자. 또한, 일부 예들에서, 비디오 인코더 (20) 는 이전의 IDR 화상의 샘플링 시간을 기준으로 대응하는 화상의 샘플링 시간에 비례하는 PicOrderCnt를 할당할 수도 있다.

현재 화상에 대한 POC 값을 결정하는 프로세스의 부분으로서, 비디오 디코더 (30) 는 변수들 prevPicOrderCntMsb 및 prevPicOrderCntLsb를 결정할 수도 있다. 예를 들어, 현재 화상이 IDR 화상이면, 비디오 디코더 (30) 는 prevPicOrderCntMsb를 0과 동일하게 설정하고, prevPicOrderCntLsb를 0과 동일하게 설정할 수도 있다. 그렇지 않으면 (즉, 현재 화상이 IDR 화상이 아닌 경우), 비디오 디코더 (30) 는 prevPicOrderCntMsb를 디코딩 순서에서 현재 화상보다 작거나 같은 temporal_id를 갖는 이전의 참조 화상의 PicOrderCntMsb와 동일하게 설정하고, prevPicOrderCntLsb를 디코딩 순서에서 현재 화상보다 작거나 같은 temporal_id를 갖는 이전의 참조 화상의 pic_order_cnt_lsb의 값과 동일하게 설정할 수도 있다.

이들 변수 값들 및 신택스 엘리먼트들의 값들 (예컨대, prevPicOrderCntMsb, prevPicOrderCntLsb, pic_order_cnt_lsb, 및 MaxPicOrderCntLsb의 값들) 로, 비디오 디코더 (30) 는 다음의 의사 코드에서 언급된 단계들에 기초하여 PicOrderCntMsb의 값을 결정할 수도 있다. 비디오 디코더 (30) 는 다음의 의사 코드에서 언급된 단계들을 이행하여, 현재 화상의 POC 값을 도출하는데 사용되는 각각의 현재 화상에 대한 PicOrderCntMsb를 결정할 수도 있다는 것이 이해되어야 한다.

if((pic_order_cnt_lsb < prevPicOrderCntLsb) && ((prevPicOrderCntLsb -pic_order_cnt_lsb) >= (MaxPicOrderCntLsb/2)))

PicOrderCntMsb = prevPicOrderCntMsb + MaxPicOrderCntLsb

else if((pic_order_cnt_lsb > prevPicOrderCntLsb) && ((pic_order_cnt_lsb - prevPicOrderCntLsb) > (MaxPicOrderCntLsb/2)))

PicOrderCntMsb = prevPicOrderCntMsb - MaxPicOrderCntLsb

else

PicOrderCntMsb = prevPicOrderCntMsb

현재 화상에 대한 PicOrderCntMsb를 결정한 후, 비디오 디코더 (30) 는 현재 화상에 대한 PicOrderCntMsb 및 현재 화상에 대한 pic_order_cnt_lsb에 기초하여 현재 화상에 대한 POC 값을 결정할 수도 있다. 비디오 디코더 (30) 는 현재 화상에 대한 POC 값을 다음과 같이 결정할 수도 있다:

PicOrderCnt = PicOrderCntMsb + pic_order_cnt_lsb.

화상의 디코딩 후, 비디오 디코더 (30) 는, 참조 화상 세트에 속하는 참조 화상들의 각각을 포함하여 그 화상에 대한 PicOrderCntMsb 값, pic_order_cnt_lsb 값, 및 POC 값을 비디오 디코더 (30) 의 디코딩된 화상 버퍼 (DPB) 에 저장할 수도 있다. 이런 식으로, DPB에서의 각각의 화상은 POC 값, PicOrderCntMsb 값, 및 pic_order_cnt_lsb 값과 연관된다.

현재 화상의 참조 화상 세트에 포함된 참조 화상들의 POC 값들을 결정하는 방법들은 아래에서 더 상세히 설명된다. 결정된 POC 값들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 대한 도출 프로세스를 이행할 수도 있다. 그러나, 비디오 디코더 (30) 가 참조 화상 세트에 대한 도출 프로세스를 이행하는 방식을 설명하기 전에, 다음에서는 비디오 디코더 (30) 가 비디오 인코더 (20) 에 의해 시그널링된 코딩된 비트스트림으로 수신할 수도 있는 신택스 엘리먼트들의 표들이 제공된다. 예를 들어, 비디오 인코더 (20) 는 다음의 표들에서의 신택스 엘리먼트들을 비디오 디코더 (30) 가 수신하는 코딩된 비트스트림으로 시그널링할 수도 있다. 이들 신택스 엘리먼트들의 일부는 위에서 설명되어 있다. 그 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 포함된 참조 화상들의 POC 값들을 결정하고 추가로 참조 화상 세트를 도출할 수도 있다.

예를 들어, 본 개시물에서 설명된 기법들에서, 다음의 신택스 구조들은 이전의 비디오 코딩 표준들과 비교하여 수정된다: 시퀀스 파라미터 세트 (SPS) 원시 바이트 시퀀스 패이로드 (RBSP) 신택스, seq_paramater_set_rbsq( ), 화상 파라미터 세트 (PPS) RBSP 신택스, pic_parameter_set_rbsp( ), 슬라이스 헤더 신택스, slice_header( ), 및 참조 화상 리스트 수정 신택스, ref_pic_list_modification( ). 참조 화상 리스트 수정은, 참조 화상 세트를 도출하고 하나 이상의 참조 화상 리스트들을 초기화하는 다음의 설명을 따라 더 상세히 설명된다.

또한, 본 개시물에서 설명되는 기법들에 따라, 다음의 신택스 구조들이 코딩된 비트스트림에 추가된다: 단기 참조 화상 세트 신택스, short_term_ref_pic_set( ), 및 장기 참조 화상 세트 신택스, long_term_ref_pic_set( ). 비디오 디코더 (30) 는 비디오 디코더 (30) 가 참조 화상 세트를 도출하는 참조 화상 서브세트들을 구축하는 목적으로 단기 참조 화상 세트 신택스 및 장기 참조 화상 세트 신택스를 활용할 수도 있다.

예를 들면, 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정하는 비디오 디코더 (30) 를 위해, 비디오 인코더 (20) 는 참조 화상 식별 정보를 시그널링할 수도 있으며, 그 참조 화상 식별 정보를 비디오 디코더 (30) 가 사용하여 POC 값들을 화상 파라미터 세트에서 결정하고 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있다. 그러나, 이는 비디오 인코더 (20) 가 이러한 참조 화상 식별 정보를 시그널링할 수도 있는 하나의 예의 방식이다.

하나의 대체 예에서, 비디오 인코더 (20) 는 참조 화상 정보를 시퀀스 파라미터 세트로 시그널링할 수도 있고 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있으며, 이는 오버헤드 시그널링을 감소시킬 수도 있다. 다른 대체 예에서, 비디오 코더는 참조 화상 정보를 새로운 유형의 파라미터 세트 (예컨대, 참조 화상 세트 파라미터 세트 (RPSPS)) 로 시그널링할 수도 있고, RPSPS id 뿐만 아니라 참조 화상 식별 정보의 리스트에 대한 인덱스 양쪽 모두가 슬라이스 헤더에서 참조될 수도 있다. 이는 시그널링 오버헤드를 감소시킬 뿐만 아니라 화상 파라미터 세트들 또는 시퀀스 파라미터 세트들의 수에 대한 필요를 증가시키지 않을 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 이들 예의 기법들의 임의의 조합을 활용하여 참조 화상 식별 정보를 시그널링할 수도 있다.

아래의 표 1이 SPS RBSP 신택스의 일례를 도시한다.

표 1: 시퀀스 파라미터 세트 RBSP 신택스

seq_parameter_set_rbsp( ) {	서술자
profile _ idc	u(8)
reserved _ zero _8 bits /* equal to　0 */	u(8)
level _ idc	u(8)
seq _ parameter _ set _ id	ue(v)
max _ temporal _ layers _ minus1	u(3)
pic _ width _ in _ luma _ samples	u(16)
pic _ height _ in _ luma _ samples	u(16)
bit _ depth _ luma _ minus8	ue(v)
bit _ depth _ chroma _ minus8	ue(v)
pcm _ bit _ depth _ luma _ minus1	u(4)
pcm _ bit _ depth _ chroma _ minus1	u(4)
log2 _ max _ pic _ order _ cnt _ lsb _ minus4	ue(v)
max _ num _ ref _ frames	ue(v)
log2 _ min _ coding _ block _ size _ minus3	ue(v)
log2 _ diff _ max _ min _ coding _ block _ size	ue(v)
log2 _ min _ transform _ block _ size _ minus2	ue(v)
log2 _ diff _ max _ min _ transform _ block _ size	ue(v)
log2 _ min _ pcm _ coding _ block _ size _ minus3	ue(v)
max _ transform _ hierarchy _ depth _ inter	ue(v)
max _ transform _ hierarchy _ depth _ intra	ue(v)
chroma _ pred _ from _ luma _ enabled _ flag	u(1)
loop _ filter _ across _ slice _ flag	u(1)
sample _ adaptive _ offset _ enabled _ flag	u(1)
adaptive _ loop _ filter _ enabled _ flag	u(1)
pcm _ loop _ filter _ disable _ flag	u(1)
cu _ qp _ delta _ enabled _ flag	u(1)
temporal _ id _ nesting _ flag	u(1)
inter _4x4_ enabled _ flag	u(1)
rbsp_trailing_bits( )
}

pic _ width _ in _ luma _ samples는 루마 샘플들에서 각각의 디코딩된 화상의 폭을 특정할 수도 있다. pic_width_in_luma_samples의 값은 0 내지 2¹⁶-1의 범위에 있을 수도 있다.

pic _ height _ in _ luma _ samples는 루마 샘플들에서 각각의 디코딩된 화상의 높이를 특정할 수도 있다. pic_height_in_luma_samples의 값은 0 내지 2¹⁶-1의 범위에 있을 수도 있다.

표 1에 나타낸 바와 같이, 비디오 디코더 (30) 는 시퀀스 파라미터 세트 (SPS) 에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. 위에서 설명된 바와 같이, log2_max_pic_order_cnt_lsb_minu4의 값은 비디오 디코더 (30) 가 POC 값들을 결정하는 디코딩 프로세스에서 사용하는 변수 MaxPicOrderCntLsb의 값을 특정할 수도 있으며, 여기서 MaxPicOrderCntLsb = 2^{(log2_max_pic_order_cnt_lsb_minus4 + 4)}이다.

아래의 표 2는 PPS RBSP 신택스의 일례를 도시한다.

표 2: 화상 파라미터 세트 RBSP 신택스

pic_parameter_set_rbsp( ) {	서술자
pic _ parameter _ set _ id	ue(v)
seq _ parameter _ set _ id	ue(v)
entropy _ coding _ mode _ flag	u(1)
num _ short _ term _ ref _ pic _ sets _ pps	ue(v)
for(i = 0; i < num_short_term_ref_pic_sets_pps; i++)
short_term_ref_pic_set( )
long _ term _ ref _ pics _ present _ flag	u(1)
if(long_term_ref_pics_present_flag) {
long _ term _ ref _ pic _ id _ delta _ len _ minus4	ue(v)
long _ term _ ref _ pic _ id _ len _ delta	ue(v)
num _ long _ term _ ref _ pics _ pps	ue(v)
for(i = 0; i < num_long_term_ref_pics_pps; i++)
long _ term _ ref _ pic _ id _ pps[i]	i(v)
}
num _ temporal _ layer _ switching _ point _ flags	ue(v)
for(i = 0; i < num_temporal_layer_switching_point_flags; i++)
temporal _ layer _ switching _ point _ flag[i]	u(1)
num _ ref _ idx _ l0 _ default _ active _ minus1	ue(v)
num _ ref _ idx _ l1 _ default _ active _ minus1	ue(v)
pic _ init _ qp _ minus26 /* relative to　26 */	se(v)
constrained _ intra _ pred _ flag	u(1)
slice _ granularity	u(2)
shared _ pps _ info _ enabled _ flag	u(1)
if(shared_pps_info_enabled_flag)
if(adaptive_loop_filter_enabled_flag)
alf_param( )
if(cu_qp_delta_enabled_flag)
max _ cu _ qp _ delta _ depth	u(4)
rbsp_trailing_bits( )
}

신택스 엘리먼트 "num_short_term_ref_pic_sets_pps"는 화상 파라미터 세트에 포함되는 short_term_ref_pic_set( ) 신택스 구조들의 수를 특정한다. 신택스 엘리먼트 "num_short_term_ref_pic_sets_pps"의 값은 0 내지 32의 범위에 있을 수 있다.

0과 동일한 long _ term _ ref _ pics _ present _ flag는, 장기 참조 화상이 화상 파라미터 세트를 참조하는 임의의 코딩된 화상의 인터 예측을 위해 사용되지 않고 신택스 엘리먼트들 long_term_ref_pic_id_delta_len_minus4, long_term_ref_pic_id_len_delta 및 num_long_term_ref_pics_pps은 존재하지 않는다는 것을 특정한다. 1과 동일한 long_term_ref_pics_present_flag는 장기 참조 화상들이 화상 파라미터 세트를 참조하는 하나 이상의 코딩된 화상의 인터 예측을 위해 사용될 수도 있고 신택스 엘리먼트들 long_term_ref_pic_id_delta_len_minus4, long_term_ref_pic_id_len_delta 및 num_long_term_ref_pics_pps이 존재한다는 것을 특정한다.

long _ term _ ref _ pic _ id _ delta _ len _ minus4 더하기 4는 long_term_ref_pic_id_delta_add_foll[i] 신택스 엘리먼트들의 비트 길이를 특정한다. long_term_ref_pic_id_delta_len_minus4의 값은 0 내지 12의 범위에 있을 수 있다.

long _ term _ ref _ pic _ id _ len _ delta 더하기 long_term_ref_pic_id_delta_len_minus4 더하기 4는 long_term_ref_pic_id_pps[i] 신택스 엘리먼트의 비트 길이를 특정한다. long_term_ref_pic_id_len_delta의 값은 0 내지 28 - long_term_ref_pic_id_delta_len_minus4의 범위에 있을 수도 있다. 하나의 특정 시퀀스 파라미터 세트를 참조하는 모든 화상 파라미터 세트들에서의 long_term_ref_pic_id_len_delta + long_term_ref_pic_id_delta_len_minus4 + 4 의 값은 동일할 수도 있다.

num _ long _ term _ ref _ pics _ pps는 화상 파라미터 세트에 포함되는 장기 참조 화상들의 식별ID들의 수를 특정한다. num_long_term_ref_pics_pps의 값은 0 내지 32의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ id _ pps[i]는 화상 파라미터 세트에 포함되는 i-번째 장기 참조 화상 식별 정보를 특정한다. long_term_ref_pic_id_pps[i]를 표현하는데 사용된 비트들의 수는 long_term_ref_pic_id_len_delta + long_term_pic_id_len_minus4 + 4와 동일할 수도 있다.

아래의 표 3은 단기 참조 화상 세트 신택스를 도시한다.

표 3: 단기 참조 화상 세트 신택스

short_term_ref_pic_set( ) {	서술자
num _ short _ term _ curr0	ue(v)
num _ short _ term _ curr1	ue(v)
num _ short _ term _ foll0	ue(v)
num _ short _ term _ foll1	ue(v)
NumShortTerm = num_short_term_curr0 + num_short_term_curr1 + num_short_term_foll0 + num_short_term_foll1
for(i = 0; i < NumShortTerm; i++)
short _ term _ ref _ pic _ id _ delta _ minus1[i]	ue(v)
}

단기 참조 화상 세트 신택스는 단기 화상을 위한 것일 수도 있다. 단기 화상은, 식별 정보가 슬라이스 헤더(들)에 포함되거나 또는 참조된 화상 파라미터 세트에 포함되고 슬라이스 헤더(들)에서의 short_term_ref_pic_set_idx 신택스 엘리먼트에 의해 참조되는 코딩된 화상에 대한 short_term_ref_pic_set( ) 신택스 구조에 포함되는 참조 화상으로서 정의될 수도 있다. 슬라이스 헤더 신택스 엘리먼트들은 아래의 표 4에서 제공된다.

num _ short _ term _ curr0은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStCurr0에서의 단기 참조 화상들의 수를 특정한다. num_short_term_curr0의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ short _ term _ curr1은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStCurr1에서의 단기 참조 화상들의 수를 특정한다. num_short_term_curr1의 값은 0 내지 max_num_ref_frames - num_short_term_curr0의 범위에 있을 수도 있다.

num _ short _ term _ foll0은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStFoll0에서의 단기 참조 화상들의 수를 특정한다. num_short_term_foll0의 값은 0 내지 max_num_ref_frames - num_short_term_curr0 - num_short_term_curr1의 범위에 있을 수도 있다.

num _ short _ term _ foll1은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStFoll1에서의 단기 참조 화상들의 수를 특정한다. num_short_term_foll1의 값은 0 내지 max_num_ref_frames - num_short_term_curr0 - num_short_term_curr1 - num_short_term_foll0의 범위에 있을 수 있다.

short _ term _ ref _ pic _ id _ delta _ minus1[i]은 short_term_ref_pic_set( ) 신택스 구조에 포함되는 i-번째 단기 참조 화상의 식별 정보를 특정한다.

아래의 표 4는 슬라이스 헤더 신택스의 일례를 도시한다.

표 4: 슬라이스 헤더 신택스

slice_header( ) {	서술자
lightweight _ slice _ flag	u(1)
if(!lightweight_slice_flag) {
slice _ type	ue(v)
pic _ parameter _ set _ id	ue(v)
if(IdrPicFlag) {
idr _ pic _ id	ue(v)
no _ output _ of _ prior _ pics _ flag	u(1)
}
pic _ order _ cnt _ lsb	u(v)
if(!IdrPicFlag) {
short _ term _ ref _ pic _ set _ pps _ flag	u(1)
if(short_term_ref_pic_set_pps_flag)
short _ term _ ref _ pic _ set _ idx	ue(v)
Else
short_term_ref_pic_set(　)
if(long_term_ref_pics_present_flag)
long_term_ref_pic_set(　)
}
if(slice_type == P \|\| slice_type == B) {
num _ ref _ idx _ active _ override _ flag	u(1)
if(num_ref_idx_active_override_flag) {
num _ ref _ idx _ l0 _ active _ minus1	ue(v)
if(slice_type == B)
num _ ref _ idx _ l1 _ active _ minus1	ue(v)
}
}
ref_pic_list_modification( )
ref_pic_list_combination( )
}
if(entropy_coding_mode_flag && slice_type != I)
cabac _ init _ idc	ue(v)
first _ slice _ in _ pic _ flag	u(1)
if(first_slice_in_pic_flag == 0)
slice _ address	u(v)
if(!lightweight_slice_flag) {
slice _ qp _ delta	se(v)
if(sample_adaptive_offset_enabled_flag)
sao_param()
if(deblocking_filter_control_present_flag) {
disable _ deblocking _ filter _ idc
if(disable_deblocking_filter_idc != 1) {
slice _ alpha _ c0 _ offset _ div2
slice _ beta _ offset _ div2
}
}
if(slice_type == B)
collocated _ from _ l0 _ flag	u(1)
if(adaptive_loop_filter_enabled_flag) {
if(!shared_pps_info_enabled_flag)
alf_param(　)
alf_cu_control_param(　)
}
}
}

no _ output _ of _ prior _ pics _ flag는 디코딩된 화상 버퍼에서의 이전에 디코딩된 화상들이 IDR 화상의 디코딩 후에 처리되는 방법을 특정한다. IDR 화상이 비트스트림에서의 제 1 IDR 화상인 경우, no_output_of_prior_pics_flag의 값은 디코딩 프로세스에 아무런 영향을 미칠 수도 없다. IDR 화상이 비트스트림에서의 제 1 IDR 화상이 아니고 액티브 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값이 선행하는 화상에 대해 액티브한 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값과 상이할 수도 있는 경우, 1과 동일한 no_output_of_prior_pics_flag는, no_output_of_prior_pics_flag의 실제 값과 무관하게, 디코더에 의해 반드시 그런 것은 아니지만 유추될 수도 있다.

1과 동일한 short _ term _ ref _ pic _ set _ pps _ flag 는 현재 화상에 대한 참조 화상 세트에 포함되는 단기 참조 화상들의 세트의 식별 정보가 참조된 화상 파라미터 세트에 존재한다는 것을 특정한다. 0과 동일한 short_term_ref_pic_set_pps_flag 는 현재 화상에 대한 참조 화상 세트에 포함되는 단기 참조 화상들의 세트의 식별 정보가 참조된 화상 파라미터 세트에 존재하지 않는다는 것을 특정한다.

short _ term _ ref _ pic _ set _ idx는, 현재 화상에 대한 참조 화상 세트에서 단기 참조 화상들의 세트의 식별 정보를 포함하는, 참조된 화상 파라미터 세트에 포함되는 short_term_ref_pic_set( ) 신택스 구조의 인덱스를 특정한다.

변수 NumShortTermCurr0 및 NumShortTermCurr1은 다음으로 특정된다:

NumShortTermCurr0 = num_short_term_curr0

NumShortTermCurr1 = num_short_term_curr1

여기서 num_short_term_curr0 및 num_short_term_curr0은, 참조된 화상 파라미터 세트에 존재하고 short_term_ref_pic_set_idx에 의해 참조되거나, 또는 슬라이스 헤더에 직접 존재하는, short_term_ref_pic_set( ) 신택스 구조에서의 각각 동일한 이름들의 신택스 엘리먼트들이다.

num _ ref _ idx _ l0 _ active _ minus1 는 슬라이스를 디코딩하는데 사용될 수 있는 참조 화상 리스트 0에 대한 최대 참조 인덱스를 특정한다.

현재 슬라이스가 P 또는 B 슬라이스이고 num_ref_idx_l0_active_minus1이 존재하지 않는 경우, num_ref_idx_l0_active_minus1은 num_ref_idx_l0_default_active_minus1과 동일한 것으로 유추될 수도 있다.

num_ref_idx_l0_active_minus1의 값은 0 내지 15의 범위에 있을 수도 있다.

num _ ref _ idx _ l1 _ active _ minus1 은 슬라이스를 디코딩하는데 사용될 수 있는 참조 화상 리스트 1에 대한 최대 참조 인덱스를 특정한다.

현재 슬라이스가 P 또는 B 슬라이스이고 num_ref_idx_l1_active_minus1이 존재하지 않는 경우, num_ref_idx_l1_active_minus1은 num_ref_idx_l1_default_active_minus1과 동일한 것으로 유추될 수도 있다.

num_ref_idx_l1_active_minus1의 값은 0 내지 15의 범위에 있을 수도 있다. 아래의 표 5는 장기 참조 화상 신택스의 일례를 도시한다.

표 5: 장기 참조 화상 세트 신택스

long_term_ref_pic_set(　) {	서술자
num _ long _ term _ pps _ curr	ue(v)
num _ long _ term _ add _ curr	ue(v)
num _ long _ term _ pps _ foll	ue(v)
num _ long _ term _ add _ foll	ue(v)
for(i = 0; i < num_long_term_pps_curr + num_long_term_pps_foll; i++)
long _ term _ ref _ pic _ set _ idx _ pps[i]	ue(v)
for(i = 0; i < num_long_term_add_curr + num_long_term_add_foll; i++)
long _ term _ ref _ pic _ id _ delta _ add[i]	i(v)
}

장기 참조 화상 세트 신택스는 장기 화상들을 위한 것일 수도 있다. 장기 화상은 식별 정보가 코딩된 화상에 대한 long_term_ref_pic_set( ) 신택스 구조에 포함되는 참조 화상으로서 정의될 수도 있다.

num _ long _ term _ pps _ curr는 식별 정보가 참조된 화상 파라미터 세트에 포함되고 현재 화상의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_pps_curr가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_pps_curr의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ long _ term _ add _ curr는 식별 정보가 참조된 화상 파라미터 세트에 포함되지 않고 현재 화상의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_add_curr가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_add_curr의 값은 0 내지 max_num_ref_frames - num_long_term_pps_curr의 범위에 있을 수도 있다.

변수 NumLongTermCurr는 다음과 같이 특정된다:

NumLongTermCurr = num_long_term_pps_curr + num_long_term_add_curr

num _ long _ term _ pps _ foll은, 식별 정보가 참조된 화상 파라미터 세트에 포함되며 현재 화상의 인터 예측을 위해 사용되지 않고 디코딩 순서에서 현재 화상에 후행하는 화상들 중 임의의 것의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_pps_foll이 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_pps_foll의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ long _ term _ add _ foll 은, 식별 정보가 참조된 화상 파라미터 세트에 포함되지 않으며 현재 화상의 인터 예측을 위해 사용되지 않고 디코딩 순서에서 후행하는 화상들 중 임의의 것의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_add_foll이 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_add_foll의 값은 0 내지 max_num_ref_frames - num_long_term_pps_foll의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ set _ idx _ pps[i]는, 참조된 화상 파라미터 세트에 포함되는 장기 참조 화상 식별 정보의 리스트에 대한, 참조된 화상 파라미터 세트로부터 현재 화상의 참조 화상 세트로 상속된 i번째 장기 참조 화상의 인덱스를 특정한다. long_term_ref_pic_set_idx_pps[i]의 값은 0 내지 31의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ id _ delta _ add[i] 는, 참조된 화상 파라미터 세트로부터 상속되지 않았지만 현재 화상의 참조 화상 세트에 포함되는 i-번째 장기 참조 화상의 장기 참조 화상 식별 정보를 특정한다. long_term_ref_pic_id_add_curr[i]를 표현하는데 사용된 비트들의 수는 long_term_pic_id_len_minus4 + 4와 동일할 수도 있다.

위의 시그널링된 또는 도출된 값들 (즉, 표 1 내지 표 5에서의 값들) 로, 비디오 디코더 (30) 는 참조 화상 세트를 도출할 수도 있다. 위에서 설명된 바와 같이, 도출된 참조 화상 세트는, 현재 화상 (즉, 현재 디코딩되고 있는 화상) 및 디코딩 순서에서 현재 화상에 후행하는 화상들을 코딩/예측하는데 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 본 개시물에서 설명되는 기법들에 따라, 도출된 참조 화상 세트에서 참조 화상들의 모두의 디코딩 순서는 현재 화상의 디코딩 순서에 선행한다.

그 도출 프로세스는 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 구축하는 것을 포함할 수도 있다. 이 프로세스는, 슬라이스 헤더의 디코딩 후이지만 임의의 코딩 단위의 디코딩 전 및 슬라이스의 참조 화상 리스트 구축을 위한 디코딩 프로세스 전에, 화상 당 한 번 호출될 수도 있다. 예를 들어, 도출된 값들 및 시그널링된 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정할 수도 있다. 결정된 POC 값들로부터, 비디오 디코더 (30) 는 참조 화상 세트를 함께 형성하는 참조 화상 서브세트들을 구축할 수도 있다. 이런 식으로, 참조 화상 서브세트들 구축하는 것에 의해, 비디오 디코더 (30) 는 참조 화상 세트를 구축할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 특정 방식으로 참조 화상 서브세트들을 순서화할 수도 있다. 순서화는 비디오 디코더 (30) 가 참조 화상 세트를 도출하기 위해 참조 화상 서브세트들을 열거하는 방식을 말할 수도 있다.

위에서 설명된 바와 같이, 참조 화상 세트를 도출하기 위해, 비디오 디코더 (30) 는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 6 개의 참조 화상 서브세트들을 구축할 수도 있다. 6 개의 참조 화상 서브세트들은 다음으로 지명될 수도 있다: RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll. RefPicSetStCurr0은 RefPicSetStCurrBefore라고 지칭될 수도 있고, RefPicSetStCurr1은 RefPicSetStCurrAfter라고 지칭될 수도 있다.

6 개의 참조 화상 서브세트들이 예시의 목적으로 설명되고, 제한하는 것으로 해석되지 않아야 한다는 것이 이해되어야 한다. 하나의 예로서, 비디오 디코더 (30) 는, 예컨대, 서브세트들의 일부를 조합하는 것에 의해 6 개의 참조 화상 서브세트들보다 적은 참조 화상 서브세트들을 구축할 수도 있다. 비디오 디코더 (30) 가 6 개 미만의 참조 화상 서브세트들을 구축하는 이들 예들의 일부는 아래에서 설명된다. 그러나, 예시의 목적을 위해, 그 기법들은 비디오 디코더 (30) 가 6 개의 참조 화상 서브세트들을 구축하는 예들로 설명된다.

RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 참조 화상 서브세트들은 단기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은, 단기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 선행하는지 또는 디스플레이 순서에서 후행하는지, 뿐만 아니라 그 단기 참조 화상들이 현재 화상 및 디코딩 순서에서 현재 화상에 후행하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는지의 여부, 또는 디코딩 순서에서 현재 화상에 후행하는 화상들만을 인터 예측하기 위해 잠재적으로 사용될 수 있는지의 여부에 기초하여, 단기 참조 화상들을 식별할 수도 있다.

예를 들어, RefPicSetStCurr0 참조 화상 서브세트는, 현재 화상에 선행하는 출력 또는 디스플레이 순서를 갖고 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의 POC 값들과 같은 식별 정보를 포함할 수도 있고, 그 식별정보만을 포함할 수도 있다. RefPicSetStCurr1 참조 화상 서브세트는, 현재 화상에 후행하는 출력 또는 디스플레이 순서를 갖고 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별정보만을 포함할 수도 있다.

디코딩될 현재 화상이 IDR 화상이면, 비디오 디코더 (30) 는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들을 비어있도록 설정할 수도 있다. 이는 IDR 화상이 인터 예측되지 않을 수도 있고 디코딩 순서에서 IDR 화상 뒤에 있는 화상이 디코딩 시에 참조를 위해 IDR 화상에 선행하는 임의의 화상을 사용할 수 없기 때문일 수도 있다. 그렇지 않으면 (예컨대, 현재 화상이 비-IDR 화상인 경우), 비디오 디코더 (30) 는 다음의 의사 코드를 이행하는 것에 의해 단기 참조 화상 서브세트들 및 장기 참조 화상 서브세트들을 구축할 수도 있다.

예를 들어, 비디오 디코더 (30) 가 슬라이스 헤더에서 또는 참조된 화상 파라미터 세트에 대한 참조에 의해 short_term_ref_pic_set( ) 신택스 구조의 인스턴스를 디코딩하는 경우, 비디오 디코더 (30) 는 다음의 의사 코드를 이행하여 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 참조 화상 서브세트들을 구축할 수도 있다.

cIdx = 0

for(i = 0, pocPred = PicOrderCnt(CurrPic); i < num_short_term_curr0; pocPred = RefPicSetStCurr0[i], i++, cIdx++)

RefPicSetStCurr0[i] = pocPred - short_term_ref_pic_id_delta_minus1[cIdx] - 1

for(i = 0, pocPred = PicOrderCnt(CurrPic); i < num_short_term_curr1; pocPred = RefPicSetStCurr1[i], i++, cIdx++)

RefPicSetStCurr1[i] = short_term_ref_pic_id_delta_minus1[cIdx] + 1 - pocPred

for(i = 0, pocPred = PicOrderCnt(CurrPic); i < num_short_term_foll0; pocPred = RefPicSetStFoll[i], i++, cIdx++)

RefPicSetStFoll0[i] = pocPred - short_term_ref_pic_id_delta_minus1[cIdx] - 1

for(i = 0, pocPred = PicOrderCnt(CurrPic); i < num_short_term_foll1; pocPred = RefPicSetStFoll[i], i++, cIdx++)

RefPicSetStFoll1[i] = short_term_ref_pic_id_delta_minus1[cIdx] + 1 - pocPred

비디오 디코더 (30) 가 long_term_ref_pics_present_flag가 0과 동일하다고 결정하면, 이 경우 장기 참조 화상들이 없기 때문에, 비디오 디코더 (30) 는 RefPicSetLtCurr 및 RefPicSetLtFoll을 비어있도록 설정할 수도 있다. 그렇지 않고, 비디오 디코더 (30) 가 슬라이스 헤더에서의 long_term_ref_pic_set( ) 신택스 구조의 인스턴스를 디코딩하면, 비디오 디코더 (30) 는 다음의 의사 코드를 이행하여 RefPicSetLtCurr 및 RefPicSetLtFoll 참조 화상 서브세트들을 구축할 수도 있다.

cIdx = 0

for(i = 0; i < num_long_term_pps_curr; i++, cIdx++)

{

pIdx = long_term_ref_pic_idx_pps[i]

RefPicSetLtCurr[cIdx] = long_term_ref_pic_id_pps[pIdx]

}

for(i = 0; i < num_long_term_add_curr; i++, cIdx++)

{

picIdDelta = long_term_ref_pic_id_delta_add[i]

RefPicSetLtCurr[cIdx] = PicOrderCnt(CurrPic) - picIdDelta

}

cIdx = 0

for(i = 0; i < num_long_term_pps_foll; i++, cIdx++)

{

pIdx = long_term_ref_pic_idx_pps[i + num_long_term_pps_curr]

RefPicSetLtFoll[cIdx] = long_term_ref_pic_id_pps[pIdx]

}

for(i = 0;i < num_long_term_add_foll; i++, cIdx++)

{

picIdDelta = long_term_ref_pic_id_delta_add[i + num_long_term_add_curr]

RefPicSetLtFoll[cIdx] = PicOrderCnt(CurrPic) - picIdDelta

}

본 개시물에서 설명되는 기법들에 따라, PicOrderCnt의 특정 값 (POC 값) 을 갖는 참조 화상은, 그 참조 화상이 코딩된 화상의 참조 화상 세트의 6 개의 서브세트들 중 임의의 것에 포함되면, 그 코딩된 화상의 참조 화상 세트에 포함된 것이라고 지칭될 수도 있다. PicOrderCnt의 특정 값을 갖는 참조 화상은, PicOrderCnt의 특정 값 (POC 값) 이 참조 화상 세트의 특정 서브세트에 포함된 PicOrderCnt 값들 중 하나와 동일하면, 그 특정 서브세트에 포함된 것이라고 지칭된다.

참조 화상 서브세트들을 구축한 후, 비디오 디코더 (30) 는 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 서브세트들을 순서화하여 참조 화상 세트를 도출할 수도 있다. 하나의 예로서, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트, 그 다음의 RefPicSetStCurr1 참조 화상 서브세트, 그 다음의 RefPicSetStFoll0 참조 화상 서브세트, 그 다음의 RefPicSetStFoll1 참조 화상 서브세트, 그 다음의 RefPicSetLtCurr 참조 화상 서브세트, 및 그 다음의 RefPicSetLtFoll 참조 화상 서브세트를 열거할 수도 있다. 다른 예로서, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트, 그 다음의 RefPicSetStCurr1 참조 화상 서브세트, 그 다음의 RefPicSetLtCurr 참조 화상 서브세트, 그 다음의 RefPicSetStFoll0 참조 화상 서브세트, 그 다음의 RefPicSetStFoll1 참조 화상 서브세트, 및 그 다음의 RefPicSetLtFoll 참조 화상 서브세트를 열거할 수도 있다.

비디오 디코더 (30) 가 참조 화상 서브세트들을 순서화하는 방법의 다른 순열들이 참조 화상 세트를 도출하기 위해 가능할 수도 있다. 일부 예들에서, 참조 화상 서브세트들의 구축 및 참조 화상 세트의 도출은 함께 조합될 수도 있다. 예를 들어, 참조 화상 서브세트들의 구축은 자동으로 비디오 디코더 (30) 가 참조 화상 세트를 도출하게 할 수도 있다. 다르게 말하면, 비디오 디코더 (30) 는 참조 화상 서브세트들을 구축하고 및 참조 화상 세트를 도출하는 상이한 단계들을 수행하는 것을 필요로 하지 않을 수도 있지만, 비디오 디코더 (30) 가 먼저 참조 화상 서브세트들을 구축한 다음 참조 화상 세트를 도출하는 것이 가능할 수도 있다.

또한, 본 개시물에서 설명되는 기법들에 따라, 위에서 설명된 방식으로 참조 화상 세트를 구축하는 것은 비디오 디코더 (30) 가 다음의 제한들을 충족하게 할 수도 있다. 예를 들어, PicOrderCnt의 특정 값을 갖는 특정 참조 화상이 현재 화상의 참조 화상 세트의 하나를 초과하는 참조 화상 서브세트들에 포함되지 않을 수도 있다. 다르게 말하면, 참조 화상 서브세트들 중 하나의 참조 화상 서브세트에서 식별된 참조 화상이 다른 참조 화상 서브세트들의 임의의 것에서 식별되지 않을 수도 있다. 다른 예로서, 도출된 참조 화상 세트에는, 참조 화상 세트를 형성하는 참조 화상 서브세트들 중 임의의 것에 포함되는 현재 화상보다 큰 temporal_id를 갖는 참조 화상이 없을 수도 있다.

위에서 설명된 바와 같이, 시간적 식별 값 (temporal_id) 은 어떤 화상들이 현재 화상을 코딩/예측하기 위해 사용될 수 있는지를 나타내는 계층 값일 수도 있다. 일반적으로, 특정 temporal_id 값을 갖는 화상은 아마도 동일하거나 큰 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 그 반대는 아니다. 예를 들어, 1의 temporal_id 값을 갖는 화상은 아마도 1, 2, 3,...의 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 0의 temporal_ID 값을 갖는 화상에 대해서는 아닐 수 있다.

최저 temporal_id 값은 또한 최저 디스플레이 레이트를 나타낼 수도 있다. 예를 들어, 비디오 디코더 (30) 가 0의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 7.5 개 화상들일 수도 있다. 비디오 디코더 (30) 가 0 및 1의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 15 개 화상들일 수도 있다는 등등이다.

일부 예들에서, 현재 화상의 temporal_id 이하의 temporal_id 값들을 갖는 화상들만이 현재 화상의 참조 화상 세트에 포함될 수도 있다. 위에서 설명된 바와 같이, 현재 화상의 temporal_id 이하의 temporal_id 값들을 갖는 화상들만이 참조 화상들로서 사용될 수 있다. 따라서, 낮거나 또는 같은 temporal_id 값들을 갖는 모든 참조 화상들은 인터 예측을 위해 현재 화상에 의해 사용될 수도 있고 참조 화상 세트에 포함될 수도 있다. 또한, 현재 화상보다 큰 temporal_id 값들을 갖고 디코딩 순서에서 현재 화상에 후행하며 현재 화상보다 큰 temporal_id 값들을 갖는 화상들에 의해 사용될 것인 일부 참조 화상들은 참조 화상 세트로부터 제외된다.

이들 기법들로, 참조 화상 세트의 도출을 위한 화상 식별 이외의 temporal_id의 시그널링은 필요하지 않으며; 그런고로, 참조 화상 세트 시그너링은 더 효율적이 된다. 예를 들어, 비디오 인코더 (20) 는 참조 화상 세트에 속하는 참조 화상들의 temporal_id 값들을 시그널링하지 않을 수도 있고, 비디오 디코더 (30) 는 참조 화상 세트를 도출하는 목적으로 참조 화상 세트에 속하는 참조 화상들의 temporal_id 값들을 수신하는 것을 필요로 하지 않을 수도 있다.

더욱이, 이런 방식으로, 구축된 참조 화상 서브세트들은 현재 화상의 그것보다 큰 temporal_id 값들을 갖는 참조 화상들을 식별하지 않을 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 서브세트들을 구축할 수 있고, temporal_id 값들이 비디오 인코더 (20) 에 의해 시그널링되고 비디오 디코더 (30) 에 의해 수신된 비트스트림에 포함되지 않는 것을 비트스트림 적합성 (conformance) 이 요구할 수도 있기 때문에, 참조 화상 서브세트들 중 임의의 것에서 식별된 참조 화상이 현재 화상의 그것보다 큰 temporal_id 값을 가지지 않는 것을 보장할 수도 있다. 이런 방식으로, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 참조 화상들에 대한 임시 식별 값들을 수신하는 일 없이 참조 화상 세트를 도출할 수도 있다.

위의 예들에서, 비디오 디코더 (30) 는 6 개의 참조 화상 서브세트들, 즉 단기 참조 화상들을 위한 4 개 (즉, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1), 및 장기 참조 화상들을 위한 2 개 (즉, RefPicSetLtCurr 및 RefPicSetLtFoll) 를 구축할 수도 있다. 그러나, 본 개시물의 양태들은 그렇게 제한되지 않는다. 다른 예들에서, 둘 이상의 이들 참조 화상 서브세트들은 하나의 참조 화상 서브세트로 결합되어, 비디오 디코더 (30) 가 구축하는 참조 화상 서브세트들이 적은 수가 되게 할 수도 있다. 다음은 비디오 디코더 (30) 가 적은 참조 화상 서브세트들을 구축할 수도 있는 일부 비제한적 예들을 설명한다. 비디오 디코더 (30) 가 적은 참조 화상 서브세트들을 구축할 수도 있는 다른 방법들이 있을 수도 있다.

예를 들면, 일부 예들에서, 현재 화상에 대한 서브세트 및 디코딩 순서에서 다음의 화상들에 대한 서브세트의 분리가 없을 수도 있다. 따라서, RefPicSetSt0 및 RefPicSetSt1로 지칭되는 단기 참조 화상들에 대한 2 개의 서브세트들이 있을 수도 있고, RefPicSetLt로 지칭되는 장기 참조 화상들에 대해 하나의 서브세트만이 있을 수도 있다. 이 예에서, RefPicSetSt0 참조 화상 서브세트는 RefPicSetStCurr0가 연접 (concatenation) 결과의 시작부분에 있는 RefPicSetStCurr0 및 RefPicSetStFoll0의 연접일 수도 있다. 이 예에서, RefPicSetSt1 참조 화상 서브세트는 RefPicSetStCurr1이 연접 결과의 시작부분에 있는 RefPicSetStCurr1 및 RefPicSetStFoll1의 연접일 수도 있다. RefPicSetLt 참조 화상 서브세트는 RefPicSetLtCurr이 연접 결과의 시작부분에 있는 RefPicSetLtCurr 및 RefPicSetLtFoll의 연접일 수도 있다.

다른 예로서, 현재 화상에 선행하거나 또는 후행하는 출력 순서를 갖는 서브세트의 분리가 없을 수도 있다. 이는 단기 참조 화상들에만 적용할 수도 있다. 따라서, RefPicSetStCurr 및 RefPicSetStFoll이라고 지칭되는 단기 참조 화상들에 대한 2 개의 서브세트들이 있을 수도 있다. RefPicSetStCurr 참조 화상 서브세트는 RefPicSetStCurr0이 연접 결과의 시작부분에 있는 RefPicSetStCurr0 및 RefPicSetStCurr1의 연접일 수도 있다. RefPicSetStFoll 참조 화상 서브세트는 RefPicSetStFoll0이 연접 결과의 시작부분에 있는 RefPicSetStFoll0 및 RefPicSetStFoll1의 연접일 수도 있다.

다른 예로서, 위에서 언급된 분리들의 양쪽 유형들이 적용되지 않을 수도 있다. 따라서, RefPicSetSt라고 지칭되는 단기 참조 화상들에 대한 하나의 서브세트만, 그리고 RefPicSetLt라고 지칭되는 장기 참조 화상들에 대한 하나의 서브세트만이 있을 수도 있다. RefPicSetSt 참조 화상 서브세트는 열거된 순서 (또는 임의의 다른 순서) 로 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1의 연접일 수도 있고, RefPicSetLt는 위와 동일할 수도 있다.

위의 기법들은 비디오 디코더 (30) 가 참조 화상 세트를 도출할 수도 있는 일 예의 방식을 설명한다. 인코딩 프로세스 동안, 비디오 인코더 (20) 는 복원 프로세스라고 지칭되는 것에, 후속하는 화상들을 인코딩하는 목적으로 인코딩된 화상들을 디코딩하는 것을 또한 필요로 할 수도 있다. 따라서, 일부 예들에서, 비디오 인코더 (20) 는 또한 참조 화상 세트를 도출하도록 구성될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트을 도출하기 위해 이행했던 동일한 기법들을 이행할 수도 있다. 그러나, 비디오 인코더 (20) 에 의한 참조 화상 세트의 도출은 모든 예들에서 요구되지 않을 수도 있고, 비디오 디코더 (30) 는 참조 화상 세트를 도출하는 코더만일 수도 있다.

따라서, 일부 예들에서, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 개별적으로 인코딩 또는 디코딩) 할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정하는 값들을 포함하는 인코딩된 비트스트림을 시그널링할 수도 있다. 마찬가지로, 비디오 디코더 (30) 는 그 비트스트림을 디코딩하여 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정할 수도 있다.

그 비디오 코더는 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예를 들어, 비디오 코더는 6 개의 참조 화상 서브세트들 (즉, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들) 을 구축할 수도 있으며, 여기서 서브세트들의 각각은 0 개 이상의 참조 화상들을 식별한다. 일부 예들에서, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩할 수도 있다.

예를 들면, 비디오 코더는 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 코더는 참조 화상 세트를 도출하기 위해 임의의 순서로 참조 화상 서브세트들을 순서화할 수도 있거나, 또는 참조 화상 서브세트들의 구축의 부분으로서 참조 화상 세트를 도출할 수도 있다. 일부 예들에서, 도출된 참조 화상 세트로부터, 비디오 코더는 현재 화상을 코딩할 수도 있다. 참조 화상 세트가 복수의 참조 화상 서브세트들로부터 도출되기 때문에, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 것으로서 간주될 수도 있다.

일부 예들에서, 참조 화상 서브세트들을 순서화하기 위해, 비디오 코더는 참조 화상 서브세트가 참조 화상 세트에서 열거될 순서로 참조 화상 서브세트들을 구축할 수도 있다. 예를 들어, 비디오 코더는 먼저 RefPicSetLtCurr 참조 화상 서브세트를 구축하며, 그 후 RefPicSetLtFoll 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStCurr0 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStCurr1 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStFoll0 참조 화상 서브세트를 구축하고, 그 후 RefPicSetStFoll1 참조 화상 서브세트를 구축할 수도 있다. 이 구체적인 예에서, 참조 화상 세트에서의 참조 화상 서브세트들의 순서는 RefPicSetLtCurr, RefPicSetLtFoll, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 순서대로 될 수도 있지만, 다른 순서들이 가능하다.

본 개시물에서 설명되는 예의 기법들에 따라, 참조 화상 세트를 도출한 후, 비디오 디코더 (30) 는 현재 화상 내의 슬라이스들을 디코딩하는 것을 시작할 수도 있다. 디코딩 프로세스의 부분은 하나 또는 2 개의 참조 화상 리스트들의 구축을 수반한다. 참조 화상 리스트는 P 또는 B 슬라이스의 예측을 위해 사용되는 참조 화상들의 리스트이다. P 슬라이스의 디코딩 프로세스의 경우, 하나의 참조 화상 리스트 (리스트 0) 가 있다. B 슬라이스의 디코딩 프로세스의 경우, 2 개의 참조 화상 리스트들 (리스트 0 및 리스트 1) 이 있다. 때때로 참조 화상 리스트 0 또는 RefPicList0이라고 지칭되는 리스트 0은, P 또는 B 슬라이스의 인터 예측을 위해 사용되는 참조 화상 리스트이다. P 슬라이스들을 위해 사용되는 모든 인터 예측은 리스트 0을 사용한다. 참조 화상 리스트 0은 B 슬라이스에 대한 양방향 예측을 위해 사용되는 2 개의 참조 화상 리스트들 중 하나이며, 나머지는 참조 화상 리스트 1이다. 때때로 참조 화상 리스트 1 또는 RefPicList1이라고 지칭되는 리스트 1은, B 슬라이스의 예측을 위해 사용되는 참조 화상 리스트이다. 참조 화상 리스트 1은 B 슬라이스에 대한 예측을 위해 사용되는 2 개의 참조 화상 리스트들 중 하나이며, 나머지는 참조 화상 리스트 0이다. B 슬라이스에서의 일부 블록들은 리스트 0 및 리스트 1 양쪽 모두를 사용하여 양방향 예측될 수도 있고, B 슬라이스에서의 일부 블록들은 리스트 0 또는 리스트 1 중 어느 하나를 사용하여 단방향 예측될 수도 있다.

참조 화상 리스트들을 구축하기 위해, 비디오 디코더 (30) 는 디폴트 구축 기법을 이행하여 초기 리스트 0과, B 슬라이스들에 대한 초기 리스트 1을 구축할 수도 있다. 초기 리스트 0 및 초기 리스트 1의 구축은 초기화 프로세스라고 지칭될 수도 있다. 일부 예들에서, 코딩된 비트스트림은 비디오 디코더 (30) 가 최종 리스트 0 및 최종 리스트 1을 생성하기 위해 초기 리스트 0 및/또는 초기 리스트 1을 수정해야한다는 것을 나타낼 수도 있다. 초기 리스트 0 및/또는 초기 리스트 1의 수정은 수정 프로세스라고 지칭될 수도 있다. 수정 프로세스는 모든 예에서 요구되지 않을 수도 있고, 비디오 디코더 (30) 가 수정 프로세스를 이행할 수도 있는 방식은 아래에서 더 상세히 설명된다. 본 개시물에서 설명되는 기법들에 따라, 초기 리스트 0 또는 초기 리스트 1의 수정이 필요하지 않은 경우, 최종 리스트 0 또는 최종 리스트 1 (즉, 현재 화상의 슬라이스를 디코딩하는데 사용되는 참조 화상 리스트 0 또는 1) 은 초기 리스트 0 또는 초기 리스트 1과 동일하게 될 수도 있다. 이런 식으로, 참조 화상 리스트 재순서화는 필요하지 않을 수도 있다.

본 개시물에서 설명되는 기법들에서, 비디오 디코더 (30) 는, 수정 프로세스가 필요한지의 여부에 무관하게, 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1에 포함될 참조 화상들의 재순서화를 수행하는 것을 필요로 하지 않을 수도 있는 그러한 방식으로 초기 리스트 0 또는 초기 리스트 1을 구축할 수도 있는데, 참조 화상 서브세트들의 각각에서의 참조 화상들이 이미 적절한 순서로 있기 때문이다. 예를 들어, 일부 다른 기법들에서, 수정 프로세스가 필요한지의 여부에 무관하게, 참조 화상들을 초기 리스트 0 또는 초기 리스트 1에 추가하거나 또는 올리는 경우에 그 참조 화상들의 POC 값들에 따라 초기 리스트 0 또는 초기 리스트 1에 포함될 참조 화상들의 재순서화는 필요하다.

초기화 프로세스에서, 비디오 디코더 (30) 는 디폴트 구축 기법을 이행하여 초기 리스트 0 및 초기 리스트 1을 구축할 수도 있다. 디폴트 구축 기법은, 비디오 디코더 (30) 가 초기 참조 화상 리스트들을 구축해야 하는 방식, 또는 어떤 참조 화상들이 초기 참조 화상 리스트들에서 식별되어야하는지에 관해 비디오 인코더 (20) 로부터 신택스 엘리먼트들을 수신하는 일 없이 비디오 디코더 (30) 가 초기 참조 화상 리스트들을 구축한다는 것을 의미할 수도 있다.

비디오 디코더 (30) 는 P 또는 B 슬라이스 헤더를 디코딩하는 경우에 참조 화상 리스트 구축 프로세스를 호출할 수도 있다. 예를 들어, P 슬라이스를 디코딩하는 경우, 비디오 디코더 (30) 는 초기 리스트 0을 구축하는 프로세스를 호출할 수도 있지만, P 슬라이스에서의 블록이 리스트 0에서 식별된 참조 화상에 대해 단방향 예측만되기 때문에 초기 리스트 1을 구축하는 프로세스를 호출하지 못할 수도 있다. B 슬라이스를 디코딩하는 경우, 비디오 디코더 (30) 는, B 슬라이스에서의 블록이 리스트 0 및 리스트 1의 각각에서 식별된 참조 화상들에 대해 양방향 예측될 수도 있기 때문에, 초기 리스트 0을 구축하고 초기 리스트 1을 구축하는 프로세스를 호출할 수도 있다.

본 개시물에서 설명되는 예의 기법들에 따라, 비디오 디코더 (30) 는 초기 리스트 0 및 초기 리스트 1을 구축하기 위해 참조 화상 서브세트들을 활용할 수도 있다. 예를 들어, 초기 리스트 0 및 초기 리스트 1은 RefPicSetStCurr0, RefPicSetStCurr1, 또는 RefPicSetLtCurr에서 식별되는 0 개 이상의 참조 화상들을 열거할 수도 있다. 이 예에서, 참조 화상 리스트 구축 프로세스가 호출되는 경우, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr에는 적어도 하나의 참조 화상이 있을 수도 있다. 비록 초기 리스트 0 및 초기 리스트 1이 동일한 참조 화상 서브세트들로부터의 하나 이상의 참조 화상들을 식별할 수도 있지만, 비디오 디코더 (30) 가 참조 화상들을 초기 리스트 0에 추가하는 순서는 비디오 디코더 (30) 가 참조 화상들을 초기 리스트 1에 추가하는 순서와 상이할 수도 있다.

본 개시물에서, 비디오 디코더 (30) 가 참조 화상 서브세트들 중 하나 이상의 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 0 또는 초기 리스트 1에 추가하는 (예컨대, 올리는) 경우, 본 개시물은 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1에서 참조 화상들을 식별하고 있다고 말한다. 예를 들어, 복수의 참조 화상 서브세트들은 각각 0 개 이상의 참조 화상들을 식별할 수도 있다. 초기 리스트 0 및 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 참조 화상 서브세트들에서 식별되는 참조 화상들 중 하나 이상을 초기 리스트 0 또는 초기 리스트 1 속으로 식별할 수도 있다.

혼동을 피하고 명료함을 돕기 위해, 본 개시물은 비디오 디코더 (30) 가 참조 화상 서브세트들에서 식별되는 0 개 이상의 참조 화상들을 초기 리스트 0 및 초기 리스트 1에 올리거나 또는 추가하여 초기 리스트 0 및 초기 리스트 1을 구축한다고 말할 수도 있다. 이런 방식으로, 비디오 디코더 (30) 가 참조 화상들을 추가하거나 올리는 것은 비디오 디코더 (30) 가 참조 화상 서브세트에서 식별된 참조 화상의 식별자를 추가하거나 또는 올리는 것을 의미한다. 따라서, 결과적인 초기 리스트 0 및 초기 리스트 1은 현재 화상의 블록 또는 슬라이스를 코딩하기 위해 잠재적으로 사용될 수 있는 참조 화상들에 대한 복수의 식별자들을 포함한다. 이들 참조 화상들은 비디오 디코더 (30) 및 비디오 인코더 (20) 의 개별 디코딩된 화상 버퍼들에 저장된다.

예를 들어, 초기 리스트 0을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr0에서 식별된 참조 화상들을 초기 리스트 0에, 그 다음의 RefPicSetStCurr1에서 식별된 참조 화상들을 초기 리스트 0에, 그 다음의 RefPicSetLtCurr에서 식별된 참조 화상들을 초기 리스트 0에 올릴 (예컨대, 추가할) 수도 있다. 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1에서 식별된 참조 화상들을 초기 리스트 1에, 그 다음의 RefPicSetStCurr0에서 식별된 참조 화상들을 초기 리스트 1에, 그 다음의 RefPicSetLtCurr에서 식별된 참조 화상들을 초기 리스트 1에 올릴 (예컨대, 추가할) 수도 있다.

더구나, 참조 화상들을 참조 화상 서브세트들에 상이한 순서로 추가하는 것 외에도, 비디오 디코더 (30) 는 리스트 0 및 리스트 1을 구축하는 경우 참조 화상 서브세트들의 각각으로부터의 상이한 수의 참조 화상들을 활용할 수도 있다. 예를 들어, 리스트 0과 리스트 1은 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr로부터의 참조 화상들의 모두를 포함할 필요가 없다. 오히려, 초기 리스트 0 및 초기 리스트 1을 구축하기 위해 이들 예의 참조 화상 서브세트들로부터 열거되는 참조 화상들의 수는 초기 리스트 0 및 초기 리스트 1의 각각 내의 참조 화상들의 최대 수를 나타내는 신택스 엘리먼트들에 기초할 수도 있다.

예를 들어, 초기 리스트 0에 대해, 비디오 인코더 (20) 는 슬라이스 헤더에서 P 및 B 슬라이스들에 대한 num_ref_idx_l0_active_minus1 신택스 엘리먼트, 및 양방향 예측되는 B 슬라이스들에 대한 num_ref_idx_l1_active_minus1 신택스 엘리먼트를 시그널링할 수도 있다. 위에서 설명된 바와 같이, num_ref_idx_l0_active_minus1은 초기 리스트 0에 있을 수 있는 참조 화상들의 최대 수를 정의할 수도 있고, num_ref_idx_l1_active_minus1은 초기 리스트 1에 있을 수 있는 참조 화상들의 최대 수를 정의할 수도 있다. 일부 예들에서, num_ref_idx_l0_active_minus1의 값이 num_ref_idx_l1_active_minus1의 값과 상이한 것이 가능할 수도 있지만, 이는 모든 예에서 필요하지 않을 수도 있다. 일부 예들에서, num_ref_idx_l0_active_minus1의 값은 num_ref_idx_l1_active_minus1의 값과 동일할 수도 있다.

위에서 설명된 바와 같이, 비디오 디코더 (30) 는 코딩된 비트스트림에서 num_short_term_curr0 및 num_short_term_curr1에 대한 값들을 수신할 수도 있다. 비디오 디코더 (30) 는 num_short_term_curr0과 동일한 변수 NumShortTermCurr0을 정의하고 num_short_term_curr1과 동일한 변수 NumShortTermCurr1을 정의할 수도 있다. NumShortTermCurr0은 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있고, NumShortTermCurr1은 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다.

비디오 디코더 (30) 는 또한 코딩된 비트스트림에서 num_long_term_pps_curr 및 num_long_term_add_curr에 대한 값들을 수신할 수도 있다. 비디오 디코더 (30) 는 변수 NumLongTermCurr를 num_long_term_pps_curr 더하기 num_long_term_add_curr와 동일한 것으로 정의할 수도 있다. NumLongTermCurr는 RefPicSetLtCurr에서의 참조 화상들의 수를 나타낼 수도 있다.

초기 리스트 0을 구축하기 위해, 비디오 디코더 (30) 는 먼저, 비디오 디코더 (30) 가 RefPicSetStCurr0에서의 모든 참조 화상들을 초기 리스트 0에 추가했기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, RefPicSetStCurr0에서의 참조 화상들을 초기 리스트 0에 추가할 수도 있다. 예를 들어, NumShortTermCurr0은 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는, RefPicSetStCurr0로부터 열거된 참조 화상들의 수가 NumShortTermCurr0과 동일하기까지, RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 (예컨대, 추가할) 수도 있다. 그러나, RefPicSetStCurr0의 참조 화상들을 초기 리스트 0에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 비디오 디코더 (30) 는, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr0에 있더라도, RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올렸고 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1 미만인 후, 비디오 디코더 (30) 가 RefPicSetStCurr1에서의 모든 참조 화상들을 식별했기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetStCurr1에서의 참조 화상들을 추가할 수도 있다. 예를 들어, 위와 유사하게, NumShortTermCurr1은 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는, RefPicSetStCurr1로부터 열거된 참조 화상들의 수가 NumShortTermCurr1과 동일하기까지, RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 수도 있다. 그러나, RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr1에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올리고 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1 미만인 후, 비디오 디코더 (30) 가 RefPicSetLtCurr에서의 모든 참조 화상들을 리스트에 올리기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumLongTermCurr는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는 RefPicSetLtCurr로부터 리스트에 올린 참조 화상들의 수가 NumLongTermCurr와 동일하기까지 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 수도 있다. 그러나, RefPicSetLtCurr로부터의 참조 화상들을 초기 리스트 0에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetLtCurr에 있더라도, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

다음의 의사 코드는 비디오 디코더 (30) 가 초기 리스트 0을 구축할 수도 있는 방식을 예시한다.

cIdx = 0

while(cIdx <= num_ref_idx_l0_active_minus1)

{

for(i=0; i < NumShortTermCurr0 && cIdx <= num_ref_idx_l0_active_minus1; cIdx++, i++)

RefPicList0[cIdx] = RefPicSetStCurr0[i]

for(i=0; i < NumShortTermCurr1 && cIdx <= num_ref_idx_l0_active_minus1; cIdx++, i++)

RefPicList0[cIdx] = RefPicSetStCurr1[i]

for(i=0; i < NumLongTermCurr && cIdx <= num_ref_idx_l0_active_minus1; cIdx++, i++)

RefPicList0[cIdx] = RefPicSetLtCurr[i]

}

위의 의사 코드에서, RefPicList0은 초기 리스트 0일 수도 있다. 리스트 0의 수정이 필요하지 않은 예들에서, 최종 리스트 0은 초기 리스트 0과 동일할 수도 있다. 그러므로, 리스트 0의 수정이 필요하지 않은 예들에서, 위의 의사 코드에서의 RefPicList0은 최종 리스트 0일 수도 있다.

비디오 디코더 (30) 는 초기 리스트 1을 유사하게 구축할 수도 있다. 그러나, 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1 참조 화상 서브세트로부터 초기 리스트 1에, 뒤이어 RefPicSetStCurr0 참조 화상 서브세트로부터 초기 리스트 1에, 및 뒤이어 RefPicSetLtCurr 참조 화상 서브세트로부터 초기 리스트 1에 참조 화상들을 추가할 수도 있다. 또한, 위와 유사하게, RefPicSetStCurr1, RefPicSetStCurr0, 및 RefPicSetLtCurr 참조 화상 서브세트들 중 어느 하나로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 이들 참조 화상 서브세트들에 부가적인 참조 화상들이 있더라도, 비디오 디코더 (30) 는 참조 화상들을 추가하는 것을 중단할 수도 있다.

예를 들어, 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 가 RefPicSetStCurr1에서의 모든 참조 화상들을 식별하기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, NumShortTermCurr1의 값은 비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr1에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올리고 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1 미만인 후, 비디오 디코더 (30) 가 RefPicSetLtCurr0에서의 모든 참조 화상들을 리스트에 올렸기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr0에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumShortTermCurr0의 값은 비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetStCurr0으로부터의 참조 화상들을 초기 리스트 1에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr0에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올리고 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1 미만인 후, 비디오 디코더 (30) 가 RefPicSetLtCurr에서의 모든 참조 화상들을 리스트에 올리기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumLongTermCurr의 값은 비디오 디코더 (30) 가 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetLtCurr로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetLtCurr에 있더라도, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

다음의 의사 코드는 비디오 디코더 (30) 가 초기 리스트 1을 구축할 수도 있는 방식을 예시한다.

cIdx = 0

while(cIdx <= num_ref_idx_l1_active_minus1)

{

for(i=0; i < NumShortTermCurr1 && cIdx <= num_ref_idx_l1_active_minus1; cIdx++, i++)

RefPicList1[cIdx] = RefPicSetStCurr1[i]

for(i=0; i < NumShortTermCurr0 && cIdx <= num_ref_idx_l1_active_minus1; cIdx++, i++)

RefPicList1[cIdx] = RefPicSetStCurr0[i]

for(i=0; i < NumLongTermCurr && cIdx <= num_ref_idx_l1_active_minus1; cIdx++, i++)

RefPicList1[cIdx] = RefPicSetLtCurr[i]

}

위의 의사 코드에서, RefPicList1은 초기 리스트 1일 수도 있다. 리스트 1의 수정이 필요하지 않은 예들에서, 최종 리스트 1은 초기 리스트 1과 동일할 수도 있다. 그러므로, 리스트 1의 수정이 필요하지 않은 예들에서, 위의 의사 코드에서의 RefPicList1은 최종 리스트 1일 수도 있다.

선행하는 것은 참조 화상 리스트 수정이 필요하지 않은 경우에 비디오 디코더 (30) 가 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있는 하나의 예의 방법이다. 다른 예들에서, 비디오 디코더 (30) 는 참조 화상 서브세트들을 위에서 설명된 것들과는 상이한 순서로 추가할 수도 있다. 또 일부 다른 예들에서, 비디오 디코더 (30) 는 위에서 설명된 것들과는 상이한 참조 화상 서브세트들을 추가할 수도 있다.

비록 선행하는 예들이 비디오 디코더 (30) 에 의해 수행되고 있는 참조 화상 리스트 구축에 대한 기법들을 설명했지만, 본 개시물의 양태들은 그렇게 제한되지는 않고, 비디오 인코더 (20) 는 참조 화상 리스트들을 구축하는 유사한 기법들을 이행할 수도 있다. 그러나, 비디오 디코더 (30) 가 참조 화상 리스트들을 구축하는 동일한 방식으로 비디오 인코더 (20) 가 참조 화상 리스트들을 구축하는 것이 필요하지 않을 수도 있다.

따라서, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 인코딩 또는 디코딩) 하도록 구성될 수도 있다. 위에서 설명된 바와 같이, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다.

그 비디오 코더는 또한 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하도록 구성될 수도 있다. 예를 들어, 비디오 코더는 적어도 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들을 구축할 수도 있다. 비디오 코더는 부가적인 참조 화상 서브세트들, 이를테면 위에서 설명된 것들을 구축할 수도 있다.

비디오 코더는 그 다음에, 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수보다 크지 않은 한, 제 1 참조 화상 서브세트로부터의 참조 화상들, 뒤이어 제 2 참조 화상 서브세트로부터의 참조 화상들, 및 뒤이어 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 예를 들어, 비디오 코더는, 초기 리스트 0에서의 엔트리들의 수가 num_ref_idx_l0_active_minus1보다 크지 않은 한, RefPicSetStCurr0 참조 화상 서브세트, 뒤이어 RefPicSetStCurr1 참조 화상 서브세트, 및 뒤이어 RefPicSetLtCurr 서브세트로부터의 참조 화상들을 초기 리스트 0에 올릴 수도 있다. 다시, num_ref_idx_l0_active_minus1의 값은 리스트 0에 대한 허용가능 참조 화상 리스트 엔트리들의 최대 수를 나타낼 수도 있다.

일부 예들에서, 비디오 코더는, 제 1 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 제 1 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수 미만인 경우, 및 제 1 참조 화상 서브세트로부터의 참조 화상들을 추가한 후, 제 2 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 비디오 코더는 제 2 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수 미만인 경우, 및 제 2 참조 화상 서브세트로부터의 참조 화상들을 추가한 후, 제 3 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 비디오 코더는 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다.

비디오 코더는 초기 리스트 1을 유사하게 구축할 수도 있다. 예를 들어, 비디오 코더는, 초기 리스트 1 에서의 초기 참조 화상 리스트 엔트리들의 수가 num_ref_idx_l1_active_minus1보다 크지 않은 한, 제 2 참조 화상 서브세트로부터의 참조 화상들, 뒤이어 제 1 참조 화상 서브세트로부터의 참조 화상들, 및 뒤이어 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 1에 추가할 수도 있다. num_ref_idx_l1_active_minus1 신택스 엘리먼트는 리스트 1에서 허용가능 엔트리들의 최대 수를 정의할 수도 있다.

일부 예들에서, 이를테면 수정이 필요하지 않은 경우, 초기 리스트 0 및 초기 리스트 1은 최종 리스트 0 및 최종 리스트 1과 동일할 수도 있다. 다르게 말하면, 비디오 코더는 수정이 필요하지 않은 경우에 초기 리스트 0 및 초기 리스트 1의 수정 없이 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있다. 이들 경우들에서, 초기 리스트 0 및 초기 리스트 1을 구축한 후, 비디오 코더는 최종 리스트 0 및 최종 리스트 1 (즉, 비디오 코더가 현재 화상의 블록을 코딩하기 위해 사용하는 참조 화상 리스트들) 을 구축하기 위해 부가적인 단계들을 수행하는 것을 필요로 하지 않을 수도 있다.

위의 의사 코드에서 나타낸 바와 같이, 비디오 디코더 (30) 는 cIdx가 num_ref_idx_l0_active_minus1 이하인 동안 초기 리스트 0을 구축할 수도 있고, cIdx가 num_ref_idx_l1_active_minus1 이하인 동안 초기 리스트 1을 구축할 수도 있다. 이는 비디오 디코더 (30) 가 참조 화상 리스트들에서 임의의 완료되지 않은 엔트리 없이 초기 리스트 0 및 초기 리스트 1을 구축하게 할 수도 있다. 예를 들어, 일부 다른 비디오 코딩 기법들에서, 이들 다른 비디오 기법들을 위한 비디오 디코더는 본 개시물에서 설명되는 것들과는 다른 기법들을 활용하여 초기 리스트 0 및 리스트 1을 구축할 것이다. 이들 다른 비디오 코딩 기법들의 경우, 초기 리스트 0 및 초기 리스트 1에서의 엔트리들의 수가 엔트리들의 최대 허용가능 수 미만이었다면, 이들 다른 비디오 코딩 기법들을 위한 비디오 디코더는, 완료되지 않은 엔트리들에 대해 "참조 화상 아님"으로 리스트 0 및 리스트 1에서의 남아있는 엔트리들을 채울 것이다. 완료되지 않은 엔트리들은 참조 화상을 식별하는 마지막 엔트리 뒤 및 마지막 가능한 엔트리까지의 리스트 0 및 리스트 1에서의 엔트리들을 말한다.

이해를 돕는 구체적인 예로서, 이들 다른 비디오 코딩 기법들을 위한 비디오 디코더는 5 개의 엔트리들을 갖는 리스트 0을 구축할 수도 있으며, 여기서 허용가능 엔트리들의 최대 수는 10 개의 엔트리들이다. 이 예에서, 이들 다른 비디오 코딩 기법들을 위한 비디오 디코더는 제 6 내지 제 10 엔트리들을 "참조 화상 아님"으로 채울 것이다. 이 예에서, 완료되지 않은 엔트리들은 제 10 엔트리 (예컨대, 허용가능 엔트리들의 최대 수에 의해 정의된 바와 같은 마지막 가능한 엔트리) 까지의 제 6 엔트리 (예컨대, 참조 화상을 식별하는 마지막 엔트리 후의 엔트리) 일 것이다.

본 개시물은 참조 화상 세트들의 효율적인 시그널링을 위한 다양한 기법들을 서술하여서, PPS에서 시그널링된 참조 화상 세트들 및 슬라이스 헤더 또는 AP들에서 시그널링된 참조 화상 세트들의 조합이 조합되는 경우, 구축된 단기 참조 화상 세트는 그것들의 POC 값들에 따라 참조 화상들의 재순서화 없이 단기 참조 화상 세트의 서브 세트들의 생성에 또는 초기 참조 화상 리스트들의 생성에 사용될 수 있다. 더욱이, 개시된 기법들은, 어떤 참조 화상들이 PPS로부터 상속될 것인지 및 어떤 것들이 슬라이스 헤더 또는 AP들에서 직접 시그널링될 것인지의 정확한 제어를 허용한다.

위에서 소개된 바와 같이, 참조 화상 세트의 일부 참조 화상들은 화상 파라미터 세트 (PPS) 에서 시그널링될 수도 있고 참조 화상 세트의 다른 참조 화상들은 슬라이스 헤더에서 시그널링될 수도 있다. 그러면 비디오 디코더는 PPS 및 슬라이스 헤더 양쪽 모두에서의 참조 화상들을 사용하여 참조 화상 세트를 구축할 수 있다. 그러나, 이들 기법들은 비디오 디코더가 비디오의 슬라이스에 대한 초기 참조 화상 리스트를 구축할 수 있기 전에 구축된 참조 화상 세트를 재순서화할 것을 비디오 디코더에 요구할 수도 있다. 이 중간의 재순서화 단계는 프로세싱 사이클들을 낭비하고, 이에 의해 현재 화상을 디코딩하기 위해 비디오 디코더를 붙들고 있는 시간의 양을 증가시킬 수도 있다.

이를 해결하기 위해, 하나의 예로서, 본 개시물은 참조 화상 세트를 구축하기 위해 비디오 디코더가 PPS로부터 어떤 참조 화상들을 사용해야하는지를 나타내는 "combine_with_reference_flag" 신택스 엘리먼트, "ref_pic_set_combination_idx" 신택스 엘리먼트, "ref_pic_set_offset0" 신택스 엘리먼트, 및 "ref_pic_set_offset1" 신택스 엘리먼트를 설명한다. 그 기법들은 또한 어떤 화상들이 슬라이스 헤더에 포함될 수 있는지에 대한 제한을 설명한다. 이런 식으로, 비디오 디코더는 초기 참조 화상 리스트를 구축하기 전에 비디오 디코더가 참조 화상 세트를 재순서화할 필요가 없는 그런 방식으로 참조 화상 세트를 구축할 수도 있다.

본 개시물의 기법들에서, "combine_with_reference_flag" 신택스 엘리먼트가 참 (true) 으로 설정되는 (예컨대, 1의 값을 가지는) 경우, 비디오 디코더는, 현재 화상에 대한 참조 화상 세트가 PPS 및 현재 화상의 슬라이스 헤더 양쪽 모두에서의 참조 화상들로부터 구축될 것이라고 결정한다. "ref_pic_set_combination_idx" 신택스 엘리먼트는 PPS 내의 참조 화상들의 후보를 식별하는 신택스 엘리먼트이다. 하나의 구체적인 예로서, 참조 화상들의 5 개의 후보들이 있을 수도 있고, 각각의 후보는 10 개의 참조 화상들을 포함할 수도 있다. "ref_pic_set_combination_idx" 신택스 엘리먼트의 값은, 이 예에서, 5 개의 후보들 중 하나를 말할 수도 있다.

후보들의 각각에서의 참조 화상들은 그것들의 델타 POC 값들에 따라 순서화될 수도 있다. POC 값들은 화상들의 출력 순서를 나타내고, 델타 POC 값들은 현재 화상의 POC 값 및 참조 화상의 POC 값 사이의 차이일 수도 있다. 하나의 예로서, 하나의 후보에서의 10 개의 참조 화상들은 -5 부터 -1까지 및 1 내지 5의 델타 POC 값들을 가질 수도 있지만, 다른 값들이 가능하다. 이 예에서, -5의 델타 POC 값은 참조 화상의 POC 값 빼기 현재 화상의 POC 값이 -5임을 의미한다. POC 값들이 출력 순서를 나타내기 때문에, 음의 델타 POC 값은 참조 화상이 현재 화상에 선행하여 출력됨 (예컨대, 디스플레이됨) 을 나타낼 수도 있고, 양의 델타 POC 값은 참조 화상이 현재 화상에 후행하여 출력됨을 나타낼 수도 있다.

ref_pic_set_offset0 신택스 엘리먼트의 값은, 출력 순서에서 현재 화상에 선행하는 얼마나 많은 참조 화상들이 식별된 후보로부터 제거되어야 하는지를 나타낸다. ref_pic_set_offset1 신택스 엘리먼트의 값은, 출력 순서에서 현재 화상에 후행하는 얼마나 많은 참조 화상들이 식별된 후보로부터 제거되어야 하는지를 나타낸다. 일부 예들에서, 비디오 디코더가 제거하는 화상들은 출력 순서에서 현재 화상으로부터 가장 멀리 떨어져 있는 것들이다.

비디오 디코더는 그러면 2 개의 서브 세트들의 조합으로서 참조 화상 세트를 구축할 수도 있다. 제 1 서브 세트는 현재 화상보다 시간적으로 앞서 발생하는 참조 화상들을 포함할 수도 있고, 제 2 서브 세트는 현재 화상보다 시간적으로 뒤에 발생하는 참조 화상들을 포함할 수도 있다. 비디오 디코더는, PPS에서 델타 POC 값으로 식별되는 현재 화상에 가장 가까운 참조 화상으로부터 시작하여 슬라이스 헤더에서 델타 POC 값으로 식별되는 현재 화상으로부터 가장 멀리 떨어진 참조 화상까지 내림차순의 POC 순서로 제 1 서브 세트의 참조 화상들을 순서화할 수도 있다. 비디오 디코더는, PPS에서 델타 POC 값으로 식별되는 현재 화상에 가장 가까운 참조 화상으로부터 시작하여 슬라이스 헤더에서 델타 POC 값으로 식별되는 현재 화상으로부터 가장 멀리 떨어진 참조 화상까지 오름차순의 POC 순서로 제 2 서브 세트의 참조 화상들을 순서화할 수도 있다. 이런 방식으로, 비디오 디코더는 비디오 디코더가 초기 참조 화상 리스트를 구축하는 경우에 비디오 디코더가 참조 화상 세트를 재순서화하는 것을 필요로 하지 않을 수도 있는 그런 방식으로 참조 화상 세트를 구축할 수도 있다.

표 6은 개시된 기법들을 구현하는 예의 신택스 및 세멘틱스를 도시한다.

표 6: 참조 화상 세트 신택스

ref_pic_set(　) {	???
ref _ pic _ set _ pps _ flag	u(1)
if(ref_pic_set_pps_flag)
ref _ pic _ set _ idx	u(v)
else {
combine _ with _ reference _ flag	u(1)
if(combine_with_reference_flag) {
ref _ pic _ set _ combination _ idx	u(v)
ref _ pic _ set _ offset0	ue(v)
ref _ pic _ set _ offset1	ue(v)
}
num _ negative _ pics	ue(v)
for(i = 0; i < num_negative_pics; i++) {
negative _ delta _ poc _ minus1[i]	ue(v)
used _ by _ curr _ pic _ flag0[i]	u(1)
}
if(positive_pics_in_ref_pic_set_flag){
num _ positive _ pics	ue(v)
for(i = 0; i < num_positive_pics; i++) {
delta _ poc _ minus1[i]	ue(v)
used _ by _ curr _ pic _ flag1[i]	u(1)
}
}
}
if(long_term_ref_pics_present_flag) {
num _ long _ term _ pps	ue(v)
num _ long _ term _ add	ue(v)
for(i = 0; i < num_long_term_pps; i++)
long _ term _ ref _ pic _ set _ idx _ pps[i]	ue(v)
for(i = 0; i < num_long_term_add; i++) {
long _ term _ ref _ pic _ poc _ delta _ add[i]	i(v)
used _ by _ curr _ pic _ flag _ add[i]	u(1)
}
}
}

참조 화상 세트 신택스 구조의 콘텐츠는 화상의 모든 슬라이스 헤더들에서 동일할 수 있다.

1과 동일하게 설정된 신택스 엘리먼트 "ref_pic_set_pps_flag"는 현재 화상의 단기 참조 화상 세트가 액티브 화상 파라미터 세트에서만 신택스 엘리먼트들을 사용하여 생성될 수 있다는 것을 특정할 수 있다. 0과 동일하게 설정된 신택스 엘리먼트 "ref_pic_set_pps_flag"는, ref_pic_set( ) 신택스 구조로 명시적으로 시그널링된 0 개 이상의 단기 참조 화상들을, 어쩌면 액티브 화상 파라미터 세트에서의 신택스 엘리먼트들에 의해 나타내어진 단기 참조 화상들과 조합하여, 사용하여 현재 화상의 단기 참조 화상 세트가 생성될 수 있다는 것을 특정할 수 있다.

신택스 엘리먼트 "ref_pic_set_idx"는 현재 화상의 참조 화상 세트의 생성을 위해 사용될 수 있는 액티브 화상 파라미터 세트에서 특정된 단기 참조 화상 세트들의 리스트에 대한 인덱스를 특정할 수 있다. 신택스 엘리먼트 "ref_pic_set_idx"는 ceil (log2 (num_ref_pic_sets)) 비트들에 의해 표현될 수 있고, 신택스 엘리먼트 "ref_pic_set_idx"의 값은 0 내지 num_ref_pic_sets - 1의 범위에 있을 수 있다.

num_negative_pics_pps[idx] + num_positive_pics_pps[idx]의 범위의 모든 i 값들에 대한 변수들 RpsPoc[i] 및 RpsByCurrPic[i]과, 변수들 Offset, 및 RpsNumRefPics는 다음과 같이 도출될 수 있으며:

idx = ref_pic_set_idx

Offset = num_negative_pics_pps[idx]

RpsNumRefPics =Offset + num_positive_pics_pps[idx]

for(i = 0; i < RpsNumRefPics; i++)

{

RpsPoc[i] = PicOrderCnt + DeltaPocPps[idx][i]

RpsByCurrPic[i] = ByCurrPicPps[idx][i]

}

여기서 PicOrderCnt는 현재 화상의 화상 순서 카운트이다.

1과 동일하게 설정된 신택스 엘리먼트 "combine_with_reference_flag"는 액티브 화상 파라미터 세트로부터의 신택스 엘리먼트들이 ref_pic_set( ) 신택스 구조에서의 명시적 시그널링과 조합하여 리스트들 RpsPoc 및 RpsByCurrPic에서의 값들을 할당하는데 사용된다는 것을 특정할 수 있다. 0과 동일하게 설정된 신택스 엘리먼트 "combine_with_reference_flag"는 액티브 화상 파라미터 세트로부터의 신택스 엘리먼트들이 ref_pic_set( ) 신택스 구조에서의 명시적 시그널링과 조합하여 리스트들 RpsPoc 및 RpsByCurrPic에서의 값들을 할당하는데 사용되지 않는다는 것을 특정할 수 있다.

신택스 엘리먼트 "ref_pic_set_combination_idx"는 명시적 시그널링과 조합하여 현재 화상의 참조 화상 세트의 생성을 위해 사용될 수 있는 리스트들 RpsPoc 및 RpsbyCurrPic에 대한 인덱스를 특정할 수 있다. 신택스 엘리먼트 "ref_pic_set_combination_idx"는 ceil(log2 (num_ref_pic_sets)) 비트들에 의해 나타내어질 수 있고, 신택스 엘리먼트 "ref_pic_set_combination_idx"의 값은 0 내지 num_ref_pic_sets - 1의 범위에 있을 수 있다.

신택스 엘리먼트들 "ref_pic_set_offset0" 및 "ref_pic_set_offset1"은 리스트들 RpsPoc 및 RpsbyCurrPic의 도출 시에 사용되는 변수들 Offset0 및 Offset1의 값들을 각각 다음과 같이 특정할 수 있다. idx는 ref_pic_set_combination_idx와 동일하다고 하자. ref_pic_set_offset0의 값은 0 내지 num_negative_pics_pps[idx]의 범위에 있을 수 있다. ref_pic_set_offset1의 값은 0 내지 num_positive_pics_pps[idx]의 범위에 있을 수 있다.

변수들 Offset0 및 Offset1은 다음과 같이 도출된다:

idx = ref_pic_set_combination_idx

Offset0 = num_negative_pics_pps[idx] - ref_pic_set_offset0

Offset1 = num_positive_pics_pps[idx] - ref_pic_set_offset1

신택스 엘리먼트 "combine_with_reference_flag"가 0과 동일하게 설정되면, 변수들 Offset0 및 Offset1 양쪽 모두는 0과 동일한 것으로 유추될 수 있다.

신택스 엘리먼트 "num_negative_pics"는 다음의 negative_delta_poc_minus1[i] 및 used_by_curr_pic_flag0[i] 신택스 엘리먼트들의 수를 특정할 수 있다. num_negative_pics의 값은 0 내지 max_num_ref_frames의 범위에 있을 수 있다.

변수 Offset은 다음과 같이 도출될 수 있다:

Offset = Offset0 + num_negative_pics

0 내지 Offset0의 범위에서의 모든 i 값들에 대한 변수들 RpsPoc[i] 및 RpsByCurrPic[i]는 다음과 같이 도출될 수 있다:

idx = ref_pic_set_combination_idx

for(i = 0; i < Offset0; i++) {

RpsPoc[i] = PicOrderCnt + DeltaPocPps[idx][i]

RpsByCurrPic[i] = ByCurrPicPps[idx][i]

}

여기서 PicOrdercCnt는 현재 화상의 화상 순서 카운트이다.

신택스 엘리먼트 "negative_delta_poc_minus1[i]" 더하기 1은 2 개의 화상 순서 카운트 값들 사이의 절대 차이를 특정할 수 있다. negative_delta_poc_minus1[i]의 값은 0 내지 MaxPicOrderCntLsb - 1의 범위에 있을 수 있다.

변수 RpsPoc[i + Offset0]은 다음과 같이 도출될 수 있다:

if(i = = 0)

RpsPoc[i + Offset0] = PicOrderCnt -

(negative_delta_poc_minus1[i] + 1)

Else

RpsPoc[i + Offset0] = RpsPoc[i + Offset0 - 1] -

(negative_delta_poc_minus1[i] + 1)

여기서 PicOrderCnt는 현재 화상의 화상 순서 카운트이다.

Offset0이 0보다 큰 경우, RpsPoc[Offset0]의 값은 RpsPoc[Offset0 - 1]의 값 미만일 수 있다. 이는 combine_with_reference_flag가 1과 동일한 경우에 다음의 제약을 나타낸다. 현재 화상의 화상 순서 카운트 미만인 화상 순서 카운트를 갖는 현재 화상의 단기 참조 화상 세트에 포함될 참조 화상들의 경우, 슬라이스 헤더에서 직접 시그널링되는 임의의 화상은 PPS로부터 상속되는 임의의 화상의 화상 순서 카운트 미만의 화상 순서 카운트를 가질 수 있다.

1과 동일한 신택스 엘리먼트 "used_by_curr_pic_flag0[i]"는 현재 화상의 화상 순서 카운트 미만인 화상 순서 카운트를 갖는 i번째 단기 참조 화상이 현재 화상의 인터 예측에 사용되지 않음을 특정할 수 있다.

이용가능한 RpsByCurrPic[i + Offset0]은 다음과 같이 도출될 수 있다:

RpsByCurrPic[i + Offset0] = used_by_curr_pic_flag0[i]

신택스 엘리먼트 "num_positive_pics"은 다음의 positive_delta_poc_minus1[i] 및 used_by_curr_pic_flag1[i] 신택스 엘리먼트들의 수를 특정할 수 있다. num_positive_pics의 값은 0 내지 max_num_ref_frames - Offset의 범위에 있을 수 있다. 존재하지 않는 경우, num_positive_pics의 값은 0과 동일한 것으로 유추될 수 있다.

변수 RpsNumRefPics은 다음과 같이 도출될 수 있다:

RpsNumRefPics = num_negative_pics + Offset0 + num_positive_pics + Offset1

Offset 내지 Offset0 + Offset - 1의 범위에서의 모든 i 값들에 대한 변수들 RpsPoc[i] 및 RpsByCurrPic[i]는 다음과 같이 도출될 수 있다:

idx = ref_pic_set_combination_idx

offsetPps = num_negative_pics_pps[idx]

for(i = 0; i < Offset1; i++) {

RpsPoc[i + Offset] = PicOrderCnt + DeltaPocPps[idx][i + offsetPps]

RpsByCurrPic[i + Offset] = ByCurrPicPps[idx][i + offsetPps]

}

위에서, PicOrdercCnt는 현재 화상의 화상 순서 카운트이다.

신택스 엘리먼트 "delta_poc_minus1[i]"는 2 개의 화상 순서 카운트 값들 사이의 절대 차이를 특정할 수 있다. delta_poc_minus1[i]의 값은 0 내지 MaxPicOrderCntLsb - 1의 범위에 있을 수 있다.

변수 RpsPoc[i + Offset + Offset1]은 다음과 같이 도출될 수 있다:

if(i = = 0)

RpsPoc[i + Offset + Offset1] = PicOrderCnt + delta_poc_minus1[i] + 1

Else

RpsPoc[i + Offset + Offset1] = RpsPoc[i + Offset + Offset1 - 1] +

(delta_poc_minus1[i] + 1)

위에서, PicOrdercCnt는 현재 화상의 화상 순서 카운트이다.

Offset1이 0보다 큰 경우, RpsPoc[Offset + Offset1]의 값은 RpsPoc[Offset + Offset1 - 1]의 값보다 클 수 있다. 이는 combine_with_reference_flag가 1과 동일한 경우에 다음의 제약을 나타낸다. 현재 화상의 화상 순서 카운트보다 큰 화상 순서 카운트를 갖는 현재 화상의 단기 참조 화상 세트에 포함될 참조 화상들의 경우, 슬라이스 헤더에서 직접 시그널링되는 임의의 화상은 PPS로부터 상속되는 임의의 화상의 화상 순서 카운트보다 큰 화상 순서 카운트를 가질 수 있다.

0과 동일하게 설정된 신택스 엘리먼트 "used_by_curr_pic_flag1[i]"는 현재 화상의 화상 순서 카운트보다 큰 화상 순서 카운트를 갖는 i번째 단기 참조 화상이 현재 화상의 인터 예측에 사용되지 않음을 특정할 수 있다.

변수 RpsbyCurrPic[i + Offset + Offset1]]은 다음과 같이 도출될 수 있다:

RpsByCurrPic[i + Offset + Offset1] = used_by_curr_pic_flag1[i]

신택스 엘리먼트 "num_long_term_pps"는, 참조된 화상 파라미터 세트에서 특정되고 현재 화상의 장기 참조 화상 세트에 포함되는 것들인 장기 참조 화상들의 수를 특정한다. num_long_term_pps가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_pps의 값은 0 내지 max_num_ref_frames의 범위에 있을 수 있다.

변수 LtOffset는 다음과 같이 도출된다:

LtOffset = num_long_term_pps

신택스 엘리먼트 "num_long_term_add"는, 참조된 화상 파라미터 세트에서 특정되지 않고 현재 화상의 장기 참조 화상 세트에 포함되는 것들인 장기 참조 화상들의 수를 특정한다. num_long_term_add가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_add의 값은 0 내지 max_num_ref_frames - num_long_term_pps의 범위에 있을 수 있다.

변수 LtRpsNumRefPics는 다음과 같이 도출된다:

LtRpsNumRefPics = LtOffset + num_long_term_add

신택스 엘리먼트 "long_term_ref_pic_set_idx_pps[i]"는 참조된 화상 파라미터 세트에서 특정된 장기 참조 화상들의 리스트에 대한, 참조된 화상 파라미터 세트로부터 현재 화상의 장기 참조 화상 세트로 상속된 i-번째 장기 참조 화상의 인덱스를 특정할 수 있다. long_term_ref_pic_set_idx_pps[i]의 값은 0 내지 31의 범위에 있을 수 있다.

변수들 LtRpsPoc[i] 및 LtRpsByCurrPic[i]은 다음과 같이 도출될 수 있다.

LtRpsPoc[i] = LtPocPps[long_term_ref_pic_set_idx_pps[i]]

LtRpsByCurrPic[i] = LtByCurrPicPps[long_term_ref_pic_set_idx_pps[i]]

"long_term_ref_pic_poc_delta_add[i]"는 참조된 화상 파라미터 세트로부터 상속되지 않았지만 현재 화상의 장기 참조 화상 세트에 포함되는 i번째 장기 참조 화상의 화상 순서 카운트를 특정할 수 있다. 신택스 엘리먼트 "long_term_ref_pic_poc_delta_add[i]"를 표현하는데 사용된 비트들의 수는 long_term_ref_pic_poc_len_minus4 + 4와 동일할 수 있다.

변수들 LtRpsPoc[i + LtOffset]은 다음과 같이 도출된다:

LtRpsPoc[i+ LtOffset] = PicOrderCnt - long_term_ref_pic_poc_delta_add[i]

여기서 PicOrderCnt는 현재 화상의 화상 순서 카운트이다.

0과 동일하게 설정된 신택스 엘리먼트 "used_by_curr_pic_flag_add[i]"는 참조된 화상 파라미터 세트로부터 상속되지 않지만 현재 화상의 장기 참조 화상 세트에 포함되는 i번째 장기 참조 화상이 현재 화상의 예측에 사용되지 않음을 특정할 수 있다.

변수 LtRpsbyCurrPic[i + LtOffset]는 다음과 같이 도출된다:

LtRpsByCurrPic[i + LtOffset] = used_by_curr_pic_flag_add[i]

위에서 설명된 바와 같이, 본 개시물에서 설명된 기법들은 HEVC 표준에 따라 수행될 수도 있다. 다음은 이해를 돕기 위한 HEVC 표준의 간략한 설명이다. 더욱이, 비록 기법들이 HEVC 표준의 맥락에서 설명되었지만, 그 기법들은 독점 표준들을 포함하여, 다른 표준들로 확장가능할 수도 있다.

JCT-VC는 HEVC 표준의 개발에 노력하고 있다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 이라고 지칭되는 비디오 코딩 디바이스의 진화 모델에 기초하고 있다. HM은 비디오 코딩 디바이스들의 몇몇 부가적인 능력들이 예컨대, ITU-T H.264/AVC에 따른 현존하는 디바이스들을 뛰어 넘는다고 추정한다. 예를 들어, H.264가 9 개의 인트라 예측 인코딩 모드들을 제공하는 반면, HM은 33 개 정도의 인트라 예측 인코딩 모드들을 제공할 수도 있다.

일반적으로, HM의 작업 모델은 비디오 프레임 또는 화상이 루마 및 크로마 샘플들 양쪽 모두를 포함하는 트리블록들 또는 최대 코딩 단위들 (LCU) 의 시퀀스로 분할될 수도 있다는 것을 설명한다. 트리블록은 H.264 표준의 매크로블록과 유사한 목적을 가진다. 슬라이스는 디코딩 순서에서 연속적인 다수의 트리블록들을 포함한다. 비디오 프레임 또는 화상은 하나 이상의 슬라이스들로 구획될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 단위들 (CUs) 로 분할될 수도 있다. 예를 들어, 쿼드트리의 루트 노트인 트리블록은 4 개의 자식 노드들로 분할될 수도 있고, 각각의 자식 노드는 다시 부모 노드가 될 수도 있고 다른 4 개의 자식 노드들로 분할될 수도 있다. 쿼드트리의 리프 노드인, 최종의 분할되지 않는 자식 노드는 코딩 노드, 즉 코딩된 비디오 블록을 포함한다. 코딩된 비트스트림에 연관된 신택스 데이터는 트리블록이 분할될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 코딩 노드들의 최소 사이즈를 정의할 수도 있다. 트리블록들은 일부 예들에서 LCU들이라고 지칭될 수도 있다.

CU는 코딩 노드와 그 코딩 노드에 연관된 예측 단위들 (PUs) 및 변환 단위들 (TUs) 을 포함한다. CU의 사이즈는 코딩 노드의 사이즈에 대응하고 형상이 정사각형이어야만 한다. CU의 사이즈는 8x8 화소들로부터 최대 64x64 화소들 또는 그 이상을 갖는 트리블록의 사이즈까지의 범위일 수도 있다. 각각의 CU는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, 하나 이상의 PU들로의 CU의 구획화를 서술할 수도 있다. 구획화 모드들은 CU가 스킵되는지 또는 직접 모드 인코딩되는지, 인트라 예측 모드 인코딩되는지, 또는 인터 예측 모드 인코딩되는지의 사이에서 상이할 수도 있다. PU들은 형상이 정사각형이 아니도록 구획될 수도 있다. CU에 연관된 신택스 데이터는 또한, 예를 들어 쿼드트리에 따른 하나 이상의 TU들로의 CU의 구획화를 서술할 수도 있다. TU는 형상이 정사각형 또는 정사각형이 아닐 수 있다.

HEVC 표준은 상이한 CU들에 대해 상이할 수도 있는, TU들에 따른 변환들을 허용한다. TU들은, 항상 그런 것은 아닐 수도 있지만, 구획된 LCU에 대해 정의된 주어진 CU 내의 PU들의 사이즈에 기초하여 통상 사이즈가 정해진다. TU들은 통상 PU들과 동일한 사이즈이거나 또는 그것들보다 작다. 일부 예들에서, CU에 대응하는 잔차 샘플들은 "잔차 쿼드 트리 (residual quad tree)" (RQT) 로서 알려진 쿼드트리 구조를 이용하여 작은 단위들로 세분될 수도 있다. RQT의 리프 노드들은 변환 단위들 (TUs) 이라고 지칭될 수도 있다. TU들에 연관된 화소 차이 값들은 양자화될 수도 있는 변환 계수들을 생성하기 위해 변환될 수도 있다.

일반적으로, PU는 예측 프로세스에 관련된 데이터를 포함한다. 예를 들어, PU가 인트라 모드 인코딩되는 경우, PU는 PU에 대한 인트라 예측 모드를 설명하는 데이터를 포함할 수도 있다. 다른 예로서, PU가 인터 모드 인코딩되는 경우, PU는 PU에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU에 대한 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 분해능 (예컨대, 1/4 화소 정밀도 또는 1/8 화소 정밀도), 모션 벡터가 가리키는 참조 화상, 및/또는 모션 벡터에 대한 참조 화상 리스트 (예컨대, 리스트 0, 리스트 1, 또는 리스트 C) 를 서술할 수도 있다.

대체로, TU는 변환 및 양자화 프로세스들을 위해 사용된다. 하나 이상의 PU들을 갖는 주어진 CU는 또한 하나 이상의 변환 단위들 (TUs) 을 포함할 수도 있다. 예측을 뒤따라, 비디오 인코더 (20) 는 PU에 대응하는 잔차 값들을 계산할 수도 있다. 그 잔차 값들은 엔트로피 코딩을 위한 직렬화된 (serialized) 변환 계수들을 생성하기 위해 TU들을 이용하여 변환 계수들로 변환되며, 양자화되고, 스캐닝될 수도 있는 화소 차이 값들에 해당한다. 본 개시물은 통상 용어 "비디오 블록"을 CU의 코딩 노드를 지칭하기 위해 사용한다. 일부 특정한 경우들에서, 본 개시물은 또한 용어 "비디오 블록"을 코딩 노드 및 PU들 및 TU들을 포함하는 트리블록, 즉, LCU, 또는 CU를 지칭하기 위해 사용할 수도 있다.

비디오 시퀀스는 통상 일련의 비디오 프레임들 또는 화상들을 포함한다. 화상들의 그룹 (GOP) 은 일반적으로 일련의 하나 이상의 비디오 화상들을 포함한다. GOP는 신택스 데이터를 GOP의 헤더, GOP의 화상들 중 하나 이상의 화상들의 헤더, 또는 GOP에 포함된 다수의 화상들을 서술하는 다른 곳에 포함할 수도 있다. 화상의 각각의 슬라이스는 개별 슬라이스에 대한 인코딩 모드를 서술하는 슬라이스 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 비디오 데이터를 인코딩하기 위하여 개개의 비디오 슬라이스들 내의 비디오 블록들에 대해 통상 동작한다. 비디오 블록은 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정된 또는 가변하는 사이즈들을 가질 수도 있고, 특정된 코딩 표준에 따라 사이즈를 달리할 수도 있다.

일 예로서, HM은 다양한 PU 사이즈들에서의 예측을 지원한다. 특정 CU의 사이즈가 2Nx2N이라고 가정하면, HM은 2Nx2N 또는 NxN의 PU 사이즈들에서의 인트라 예측과, 2Nx2N, 2NxN, Nx2N, 또는 NxN의 대칭적 PU 사이즈들에서의 인터 예측을 지원한다. HM은 또한 2NxnU, 2NxnD, nLx2N, 및 nRx2N의 PU 사이즈들에서의 인터 예측을 위한 비대칭 구획화를 지원한다. 비대칭 구획화 시, CU의 하나의 방향은 구획되지 않는 반면, 다른 방향은 25% 및 75%로 구획된다. 25% 구획에 대응하는 CU의 부분은 "상", "하", "좌", 또는 "우"의 표시가 뒤따르는 "n"에 의해 나타내어진다. 따라서, 예를 들어, "2NxnU"는 상부의 2Nx0.5N PU 및 하부의 2Nx1.5N PU로 수평으로 구획되는 2Nx2N CU를 의미한다.

본 개시물에서, "NxN" 및 "N 바이 N"은, 수직 및 수평 치수들의 측면에서의 블록의 화소 치수들, 예컨대, 16x16 화소들 또는 16 바이 16 화소들을 상호교환적으로 말하는데 이용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향의 16 개 화소들 (y = 16) 및 수평 방향의 16 개 화소들 (x = 16) 을 가질 것이다. 비슷하게, NxN 블록은 일반적으로 수직 방향의 N 개 화소들 및 수평 방향의 N 개 화소들을 가지며, 여기서 N은 음이 아닌 정수 값을 나타낸다. 블록에서의 화소들은 행들 및 열들로 배열될 수도 있다. 더구나, 블록들은 수직 방향에서와 동일한 수의 화소들을 수평 방향에서 반드시 가질 필요는 없다. 예를 들어, 블록들은 M이 N과 반드시 동일하지는 않은 NxM 개 화소들을 포함할 수도 있다.

CU의 PU들을 이용하는 인트라 예측 또는 인터 예측 코딩에 뒤따라, 비디오 인코더 (20) 는 CU의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (또한 화소 도메인이라고 지칭됨) 에서의 화소 데이터를 포함할 수도 있고 TU들은, 잔차 비디오 데이터에 대한 변환, 예컨대, 이산 코사인 변환 (DCT), 정수 변환, 웨이브릿 변환, 또는 개념적으로 유사한 변환의 적용에 뒤따르는 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는 인코딩되지 않은 화상의 화소들 및 PU들에 대응하는 예측 값들 사이의 화소 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU에 대한 잔차 데이터를 포함하는 TU들을 형성한 다음 CU에 대한 변환 계수들을 생성하기 위해 TU들을 변환할 수도 있다.

변환 계수들을 생성하는 임의의 변환들에 뒤따라, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 변환 계수들이 그 계수들을 나타내는데 이용된 데이터의 양을 가능한 한 줄이도록 양자화되어서, 추가의 압축을 제공하는 프로세스를 일반적으로 말한다. 양자화 프로세스는 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안에 m-비트 값으로 버림될 (rounded down) 수도 있으며, 여기서 n 은 m보다 크다.

일부 예들에서, 비디오 인코더 (20) 는 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 활용하여 양자화된 변환 계수들을 스캔할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 1차원 벡터를 형성하기 위해 양자화된 변환 계수들을 스캔한 후, 비디오 인코더 (20) 는, 예컨대, 콘텍스트 적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 콘텍스트 적응 이진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 또는 확률 간격 구획화 엔트로피 (Probability Interval Partitioning Entropy; PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론에 따라, 1차원 벡터를 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터에 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

CABAC를 수행하기 위해, 비디오 인코더 (20) 는 콘텍스트 모델 내의 콘텍스트를 송신될 심볼에 할당할 수도 있다. 그 콘텍스트는, 예를 들어, 심볼의 이웃 값들이 영이 아닌지의 여부에 관련될 수도 있다. CAVLC를 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC에서의 코드워드들은 상대적으로 더 짧은 코드들이 더 있음직한 (probable) 심볼들에 대응하는 반면, 더 긴 코드들은 덜 있음직한 심볼들에 대응하도록 구성될 수도 있다. 이런 식으로, VLC의 사용은, 예를 들어, 송신될 각각의 심볼에 대해 동일 길이 코드워드들을 이용하여, 비트 절약을 달성할 수도 있다. 확률 결정은 심볼에 할당된 콘텍스트에 기초할 수도 있다.

도 2는 인코딩되고 송신되는 복수의 화상들을 포함하는 일 예의 비디오 시퀀스 (33) 를 도시하는 개념도이다. 일부 경우들에서, 비디오 시퀀스 (33) 는 화상들의 그룹 (GOP) 이라고 지칭될 수도 있다. 비디오 시퀀스 (33) 는, 예시된 바와 같이, 화상들 (35A, 36A, 38A, 35B, 36B, 38B, 및 35C), 및 최종 화상 (39) 을 디스플레이 순서로 포함한다. 화상 (34) 은 시퀀스 (33) 전에 발생하는 시퀀스에 대한 디스플레이 순서의 최종 화상이다. 도 2는 일반적으로 비디오 시퀀스에 대한 예시적인 예측 구조를 나타내고, 상이한 슬라이스 또는 화상 유형들 (예컨대, P 화상 또는 슬라이스, 또는 B 화상 또는 슬라이스) 의 비디오 블록들을 예측하기 위해 사용된 화상 참조들만을 예시하기 위해 의도된다. 실제 비디오 시퀀스는 상이한 화상 유형들의 더 많거나 또는 더 적은 비디오 화상들을 그리고 상이한 디스플레이 순서로 포함할 수도 있다. 비디오 시퀀스 (33) 는 도 2에 예시된 것들보다 더 많거나 또는 더 적은 화상들을 포함할 수도 있고, 비디오 시퀀스 (33) 내에 예시된 화상들은 이해의 목적을 위해 그리고 예들로서 예시된다.

블록 기반 비디오 코딩의 경우, 시퀀스 (33) 에 포함된 비디오 화상들의 각각은 비디오 블록들, 이를테면 코딩 단위들 (CUs) 또는 예측 단위들 (PUs) 로 구획될 수도 있다. 예를 들면, 비디오 화상의 각각의 CU는 하나 이상의 PU들을 포함할 수도 있다. 인트라 코딩되는 (I) 화상에서의 비디오 블록들은 동일한 화상에서의 이웃 블록들에 대한 공간적 예측을 이용하여 예측된다. 인터 코딩되는 (P 또는 B) 화상에서의 비디오 블록들은 동일한 화상에서의 이웃 블록들에 대한 공간적 예측 또는 다른 참조 화상들에 대한 시간적 예측을 이용할 수도 있다.

B 화상에서의 비디오 블록들은 2 개의 상이한 참조 화상 리스트들 (예컨대, 리스트 0 및 리스트 1이라고 지칭되는 참조 화상 리스트들 1 및 2) 로부터 2 개의 모션 벡터들을 계산하기 위해 양방향 예측을 이용하여 예측될 수도 있다. 일부 경우들에서, B 화상에서의 비디오 블록들은 2 개의 상이한 참조 화상 리스트들 중 하나로부터 단방향 예측을 이용하여 예측될 (예컨대, 단방향 B-코딩될) 수도 있다. P 화상에서의 비디오 블록들은 단일 참조 화상 리스트로부터 단일 모션 벡터를 계산하기 위해 단방향 예측을 이용하여 인코딩될 수도 있다. 신흥 HEVC 표준에 따라, 비디오 블록들은 2 개의 참조 화상 리스트들 중 하나로부터 단일 모션 벡터를 계산하기 위한 단방향 예측 또는 2 개의 참조 화상 리스트들로부터 2 개의 모션 벡터들을 계산하기 위한 양방향 예측 중 어느 하나를 이용하여 인코딩될 수도 있다. 2 개의 참조 화상 리스트들은, 예를 들어, 과거 참조 화상들 또는 미래 참조 화상들 또는 과거 및 미래 참조 화상들 양쪽 모두를 디스플레이 또는 출력 순서로, 및 항상 과거 참조 화상들을 디코딩 순서로 포함할 수도 있다.

도 2의 예에서, 최종 화상 (39) 은 인트라 모드 코딩을 위해 I 화상으로서 지정된다. 다른 예들에서, 최종 화상 (39) 은, 예컨대, I 화상일 수도 있는, 선행하는 시퀀스의 최종 화상 (34) 을 참조하는 P 화상으로서 인터 모드 코딩으로 코딩될 수도 있다. 비디오 화상들 (35A 내지 35C) (총칭하여 "비디오 화상들 (35)") 은 과거 화상 및 미래 화상에 대한 양방향 예측을 이용하는 B 화상들로서 코딩을 위해 지정된다. 도시된 예에서, 화상 (35A) 은, 화상 (34) 및 화상 (36A) 에서부터 비디오 화상 (35A) 로의 화살표들에 의해 나타내어진 바와 같이, 최종 화상 (34) 및 화상 (36A) 을 참조하는 B 화상으로서 인코딩된다. 화상들 (35B 및 35C) 은 유사하게 인코딩된다.

비디오 화상들 (36A 내지 36B) (총칭하여 "비디오 화상들 (36)") 은 과거 화상을 참조하는 단방향 예측을 이용하는 화상들로서 코딩을 위해 지정될 수도 있다. 도시된 예에서, 화상 (36A) 은, 화상 (34) 에서부터 비디오 화상 (36A) 까지의 화살표에 의해 나타내어진 바와 같이, 최종 화상 (34) 을 참조하는 P 화상으로서 인코딩된다. 화상 (36B) 은 유사하게 인코딩된다.

본 개시물에서 설명되는 기법들에 따라, 비디오 인코더 (20) 는 시퀀스 (33) 에서 화상들의 각각에 대한 참조 화상 세트를 시그널링할 수도 있다. 예를 들어, 화상 (35A) 에 대해, 이 참조 화상 세트는, 화상 (35A) 을 인터 예측하기 위해 사용될 수 있는 모든 참조 화상들, 뿐만 아니라 디코딩 순서에서 화상 (35A) 에 후행하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 모든 참조 화상들을 식별할 수도 있다. 예를 들어, 화상 (35A) 에 대한 참조 화상 세트는 화상 (34) 및 화상 (36A) 에 대한 POC 값, 뿐만 아니라 디코딩 순서에서 화상 (35A) 에 후행하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 것들과 같은 부가적인 참조 화상들에 대한 POC 값들을 포함할 수도 있다. 화상 (35A) 에 후행하는 화상들은, 이 예에서, 디코딩 순서에서 화상 (35A) 에 후행하는 및 비디오 시퀀스 (33) 내에 있는 그들 화상들일 수도 있다.

비디오 디코더 (30) 는 그 다음에 위에서 설명된 방식으로 화상 (35A) 에 대한 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는, 위에서 설명된 바와 같이, 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정할 수도 있다. 비디오 디코더 (30) 는 적어도 4 개의 또는 적어도 5 개의 참조 화상 서브세트들을, 그리고 일부 예들에서, 위에서 설명된 6 개까지의 참조 화상 서브세트들을 추가로 구축할 수도 있다. 비디오 디코더 (30) 는 화상 (35A) 에 대한 참조 화상 세트를 도출하기 위해 특정 순서로 6 개의 참조 화상 세트들을 배열할 수도 있다.

비디오 디코더 (30) 는 초기 참조 화상 리스트들에 포함될 화상들의 재순서화가 필요하지 않은 위에서 설명된 방식으로 초기 참조 화상 리스트들을 추가로 구축할 수도 있다.

도 3은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더 (20) 를 도시하는 블록도이다. 비디오 인코더 (20) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라 및 인터 코딩을 수행할 수도 있다. 인트라 코딩은 공간적 예측에 의존하여, 주어진 비디오 프레임 또는 화상 내의 비디오에서의 공간적 리던던시를 감소시키거나 또는 제거한다. 인터 코딩은 시간적 예측에 의존하여, 비디오 시퀀스의 인접한 프레임들 또는 화상들 내의 비디오에서의 시간적 리던던시를 감소시키거나 또는 제거한다. 인트라 모드 (I 모드) 는 여러 공간 기반 압축 모드들 중 임의의 것을 나타낼 수도 있다. 단방향 예측 (P 모드) 및 양방향 예측 (B 모드) 과 같은 인터 모드들은 여러 시간 기반 압축 모드들 중 임의의 것을 나타낼 수도 있다.

도 3의 예에서, 비디오 인코더 (20) 는 구획 유닛 (35), 예측 모듈 (41), 디코딩된 화상 버퍼 (DPB) (64), 합산기 (50), 변환 모듈 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 구비한다. 예측 모듈 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 모듈 (46) 을 구비한다. 비디오 블록 복원을 위해, 비디오 인코더 (20) 는 또한 역 양자화 유닛 (58), 역 변환 모듈 (60), 및 합산기 (62) 를 구비한다. 블록화제거 (deblocking) 필터 (도 3에는 미도시) 가 또한 블록 경계들을 필터링하여 복원된 비디오로부터 블록형 (blockiness) 아티팩트들을 제거하기 위해 포함될 수도 있다. 원한다면, 블록화제거 필터는 통상 합산기 (62) 의 출력을 필터링할 것이다. 부가적인 루프 필터들 (인 루프 또는 포스트 루프) 이 또한 블록화제거 필터에 부가적으로 사용될 수도 있다.

도 3에 도시된 바와 같이, 비디오 인코더 (20) 는 비디오 데이터를 수신하고, 구획화 유닛 (35) 은 데이터를 비디오 블록들로 구획화한다. 이 구획화는 또한 슬라이스들, 타일들, 또는 다른 큰 단위들로의 구획화, 뿐만 아니라, 예컨대, LCU들 및 CU들의 쿼드트리 구조에 따른 비디오 블록 구획화를 포함할 수도 있다. 비디오 인코더 (20) 는 일반적으로 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 예시한다. 슬라이스는 다수의 비디오 블록들로 (및 아마도 타일들이라고 지칭된 비디오 블록들의 세트들로) 나누어질 수도 있다. 예측 모듈 (41) 은 복수의 가능한 코딩 모드들 중 하나, 이를테면 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 코딩 모드들 중 하나를 에러 결과들 (예컨대, 현재 비디오 블록, 코딩 레이트 및 왜곡의 레벨) 에 기초하여 선택할 수도 있다. 예측 모듈 (41) 은 결과적인 인트라 코딩된 블록 또는 인터 코딩된 블록을 잔차 블록 데이터를 생성하는 합산기 (50) 및 참조 화상로서 사용하기 위해 인코딩된 블록을 복원하는 합산기 (62) 에 제공할 수도 있다.

예측 모듈 (41) 내의 인트라 예측 모듈 (46) 은 코딩될 현재 블록과 동일한 화상 또는 슬라이스에서의 하나 이상의 이웃 블록들을 기준으로 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 압축을 제공할 수도 있다. 예측 모듈 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 화상들에서의 하나 이상의 예측 블록들을 기준으로 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다.

모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터 예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들 또는 B 슬라이스들이라고 지정할 수도 있다. 모션 추정 유닛 (42) 과 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만 개념상의 목적들을 위해 별개로 예시된다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 참조 화상 내의 예측 블록에 대한 현재 비디오 화상 내의 PU 또는 비디오 블록의 변위 (displacement) 를 나타낼 수도 있다.

예측 블록은 차의 절대값 합 (SAD), 차의 제곱 합 (SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 화소 차이의 관점에서 코딩될 비디오 블록의 PU에 밀접하게 매칭된다고 생각되는 블록이다. 일부 예들에서, 비디오 인코더 (20) 는 디코딩된 화상 버퍼 (64) 에 저장된 참조 화상들의 부 정수 (sub-integer) 화소 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 화상의 1/4 화소 위치들, 1/8 화소 위치들, 또는 다른 분수 화소 위치들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 풀 (full) 화소 위치들 및 분수 화소 위치들에 대한 모션 검색을 수행하고 분수 화소 정밀도를 갖는 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU의 위치와 참조 화상의 예측 블록의 위치를 비교함으로써 인터 코딩된 슬라이스에서의 비디오 블록의 PU에 대한 모션 벡터를 계산한다. 참조 화상은 디코딩된 화상 버퍼 (64) 에 저장된 하나 이상의 참조 화상들을 각각 식별하는 제 1 참조 화상 리스트 (리스트 0) 또는 제 2 참조 화상 리스트 (리스트 1) 로부터 선택될 수도 있다. 모션 추정 유닛 (42) 은 계산된 모션 벡터 및 다른 신택스 엘리먼트들을 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 에 전송한다.

모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치하는 것 또는 생성하는 것, 아마도 부 화소 (sub-pixel) 정밀도로의 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU에 대한 모션 벡터를 수신 시, 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾을 수도 있다. 비디오 인코더 (20) 는, 코딩되고 있는 현재 비디오 블록의 화소 값들로부터 예측 블록의 화소 값들을 감산하여 화소 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 화소 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 성분들 양쪽 모두를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 또한 비디오 슬라이스의 비디오 블록들의 디코딩 시에 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스에 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라 예측 모듈 (46) 은, 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터 예측에 대한 대안으로서 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라 예측 모듈 (46) 은 현재 블록을 인코딩하는데 사용하기 위한 인트라 예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 모듈 (46) 은 예컨대, 개별 인코딩 패스들 동안에 다양한 인트라 예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 모듈 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 모듈 (46) 은 다양한 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 이용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록 및 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양, 뿐만 아니라 인코딩된 블록을 생성하는데 사용되는 비트 레이트 (다시 말하면, 비트들의 수) 를 결정한다. 인트라 예측 모듈 (46) 은 어떤 인트라 예측 모드가 그 블록에 대한 최선의 레이트 왜곡 값을 나타내는지를 결정하기 위해 여러 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 결정할 수도 있다.

블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 모듈 (46) 은 그 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 본 개시물의 기법들에 따라 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신되는 비트스트림에 구성 데이터를 포함시킬 수도 있으며, 그 구성 데이터는 복수의 인트라 예측 모드 인덱스 표들 및 복수의 수정된 인트라 예측 모드 인덱스 표들 (또한 코드워드 매핑 표들이라고 지칭됨), 다양한 블록들에 대한 콘텍스트들을 인코딩하는 정의들, 및 가장 있음직한 인트라 예측 모드의 표시들, 인트라 예측 모드 인덱스 표, 및 콘텍스트들의 각각에 대한 사용을 위한 수정된 인트라 예측 모드 인덱스 표를 포함할 수도 있다.

예측 모듈 (41) 이 인터 예측 또는 인트라 예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 인코더 (20) 는 현재 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU들에 포함되고 변환 모듈 (52) 에 인가될 수도 있다. 변환 모듈 (52) 은 변환, 이를테면 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환을 사용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환시킨다. 변환 모듈 (52) 은 잔차 비디오 데이터를 화소 도메인으로부터 변환 도메인, 이를테면 주파수 도메인으로 변환할 수도 있다.

변환 모듈 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 에 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더욱 감소시킨다. 양자화 프로세스는 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 양자화 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 은 그 후 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안으로, 엔트로피 인코딩 유닛 (56) 이 스캔을 수행할 수도 있다.

양자화를 뒤따라, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트 적응 가변 길이 코딩 (CAVLC), 콘텍스트 적응 이진 산술 코딩 (CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (SBAC), 확률 간격 구획화 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기법을 수행할 수도 있다. 엔트로피 코딩 유닛 (56) 에 의한 엔트로피 코딩에 뒤이어, 인코딩된 비트스트림은 비디오 디코더 (30) 로 송신되거나 또는 비디오 디코더 (30) 에 의한 나중의 송신 또는 취출을 위해 보관될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

역 양자화 유닛 (58) 과 역 변환 모듈 (60) 은 역 양자화 및 역 변환을 각각 적용하여, 참조 화상의 참조 블록으로서 나중에 사용하기 위해 화소 도메인에서 잔차 블록을 복원한다. 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나의 참조 화상의 예측 블록에 잔차 블록을 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여 모션 추정에서 사용하기 위한 부 정수 화소 값들을 계산할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여, 디코딩된 화상 버퍼 (64) 에 저장하기 위한 참조 블록을 생성한다. 참조 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 후속 비디오 프레임 또는 화상에서 블록을 인터 예측하기 위한 참조 블록으로서 사용될 수도 있다.

본 개시물에 따라, 예측 모듈 (41) 은 위에서 설명된 예의 함수들을 수행하는 하나의 예의 유닛을 나타낸다. 예를 들어, 예측 모듈 (41) 은 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정하고, 비디오 인코더 (20) 가 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 할 수도 있다. 또한, 복원 프로세스 (예컨대, 참조 화상으로서의 사용 및 디코딩된 화상 버퍼 (64) 에의 저장을 위해 화상을 복원하는데 사용되는 프로세스) 동안, 예측 모듈 (41) 은 각각이 참조 화상들 중 하나 이상을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예측 모듈 (41) 은 또한 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 또한, 예측 모듈 (41) 은 본 개시물에서 설명되는 하나 이상의 예의 기법들을 이행하기 위해 위에서 설명된 예의 의사 코드의 세트들 중 임의의 하나 이상의 의사 코드 세트를 이행할 수도 있다.

일부 예들에서, 예측 모듈 (41) 은 위에서 설명된 방식으로 초기 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 단기 참조 화상 세트 또는 초기 참조 화상 리스트들에 포함될 화상들의 재순서화는 필요하지 않다. 다른 예들에서, 예측 모듈 (41) 이 아닌 유닛이 위에서 설명된 예들을 이행할 수도 있다. 일부 다른 예들에서, 예측 모듈 (41) 은 비디오 인코더 (20) 의 하나 이상의 다른 유닛들과 연계하여 위에서 설명된 예들을 이행할 수도 있다. 또 일부 다른 예들에서, 비디오 인코더 (20) 의 프로세서 또는 유닛 (도 3에서 미도시) 은, 단독으로 또는 비디오 인코더 (20) 의 다른 유닛들과 연계하여, 위에서 설명된 예들을 이행할 수도 있다.

도 4는 본 개시물에서 설명되는 기법들을 이행할 수도 있는 일 예의 비디오 디코더 (30) 를 도시하는 블록도이다. 도 4의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (80), 예측 모듈 (81), 역 양자화 유닛 (86), 역 변환 유닛 (88), 합산기 (90), 및 디코딩된 화상 버퍼 (92) 를 구비한다. 예측 모듈 (81) 은 모션 보상 유닛 (82) 과 인트라 예측 모듈 (84) 을 구비한다. 비디오 디코더 (30) 는, 일부 예들에서, 도 3으로부터 비디오 인코더 (20) 에 관해 설명된 인코딩 패스 (pass) 에 일반적으로 역인 디코딩 패스를 수행할 수도 있다.

디코딩 프로세스 동안, 비디오 디코더 (30) 는 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 비디오 인코더 (20) 로부터 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (80) 은 그 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 모듈 (81) 에 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.

비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩되는 경우, 예측 모듈 (81) 의 인트라 예측 모듈 (84) 은 현재 비디오 슬라이스의 비디오 블록을 위한 예측 데이터를 화상의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라 예측 모드에 기초하여 생성할 수도 있다. 비디오 화상이 인터-코딩된 (즉, B 또는 P) 슬라이스로서 코딩되는 경우, 예측 모듈 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록을 생성한다. 그 예측 블록들은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 디코딩된 화상 버퍼 (92) 에 저장된 참조 화상들에 기초하여 디폴트 구축 기법들을 이용하여, 참조 프레임 리스트들, 리스트 0 및 리스트 1을 구축할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 도출된 참조 화상 세트에서 식별된 참조 화상들로부터 리스트 0 및 리스트 1을 구축할 수도 있다.

모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 이용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들의 일부를 이용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라 또는 인터 예측), 인터 예측 슬라이스 유형 (예컨대, B 슬라이스 또는 P 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구축 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 스테이터스, 및 현재 비디오 슬라이스 내의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.

모션 보상 유닛 (82) 은 또한 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안에 비디오 인코더 (20) 에 의해 사용된 것과 같은 보간 필터들을 사용하여 참조 블록들의 부 정수 화소들에 대한 보간된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 비디오 인코더 (20) 에 의해 사용된 보간 필터들을 수신된 신택스 엘리먼트들로부터 결정하고 그 보간 필터들을 사용하여 예측 블록들을 생성할 수도 있다.

역 양자화 유닛 (86) 은 비트스트림으로 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉, 디퀀타이즈 (dequantize) 한다. 역 양자화 프로세스는 양자화 정도와, 마찬가지로 적용되어야 할 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스 내의 각각의 비디오 블록에 대해 비디오 인코더 (20) 에 의해 계산된 양자화 파라미터의 사용을 포함할 수도 있다. 역 변환 모듈 (88) 은 잔차 블록들을 화소 도메인에서 생성하기 위하여 역 변환, 예컨대, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 변환 계수들에 적용한다.

예 모듈 (81) 이 현재 비디오 블록에 대한 예측 블록을 인터 예측 또는 인트라 중 어느 하나에 기초하여 생성한 후, 비디오 디코더 (30) 는 역 변환 모듈 (88) 로부터의 잔차 블록들을 예측 모듈 (81) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원한다면, 블록화제거 필터가 또한 블록형 아티팩트들을 제거하기 위하여 디코딩된 블록들을 필터링하는데 적용될 수도 있다. 다른 루프 필터들이 (코딩 루프 내 또는 코딩 루프 후 중 어느 하나에서) 또한 화소 전환들을 부드럽게 하기 위해, 또는 그렇지 않으면 비디오 품질을 개선하기 위해 사용될 수도 있다. 주어진 화상에서의 디코딩된 비디오 블록들은 그러면 디코딩된 화상 버퍼 (92) 에 저장되며, 그 디코딩된 화상 버퍼는 후속 모션 보상을 위해 사용되는 참조 화상들을 저장한다. 디코딩된 화상 버퍼 (92) 는 또한 디스플레이 디바이스, 이를테면 도 1의 디스플레이 디바이스 (32) 상의 나중의 프레젠테이션을 위해 디코딩된 비디오를 저장한다.

본 개시물에 따라, 예측 모듈 (81) 은 위에서 설명된 예의 함수들을 수행하는 하나의 예의 유닛을 나타낸다. 예를 들어, 예측 모듈 (81) 은 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정할 수도 있다. 또한, 예측 모듈 (81) 은 각각이 참조 화상들 중 하나 이상을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예측 모듈 (81) 은 또한 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 또한, 예측 모듈 (81) 은 본 개시물에서 설명되는 하나 이상의 예의 기법들을 이행하기 위해 위에서 설명된 예의 의사 코드의 세트들 중 임의의 하나 이상의 의사 코드 세트를 이행할 수도 있다.

일부 예들에서, 예측 모듈 (81) 은 위에서 설명된 방식으로 초기 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 단기 참조 화상 세트 또는 초기 참조 화상 리스트들에 포함될 화상들의 재순서화는 필요하지 않다. 다른 예들에서, 예측 모듈 (81) 이 아닌 유닛이 위에서 설명된 예들을 이행할 수도 있다. 일부 다른 예들에서, 예측 모듈 (81) 은 비디오 디코더 (30) 의 하나 이상의 다른 유닛들과 연계하여 위에서 설명된 예들을 이행할 수도 있다. 또 일부 다른 예들에서, 비디오 디코더 (30) 의 프로세서 또는 유닛 (도 4에서 미도시) 은, 단독으로 또는 비디오 디코더 (30) 의 다른 유닛들과 연계하여, 위에서 설명된 예들을 이행할 수도 있다.

도 5는 참조 화상 세트를 도출하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 5의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 예를 들어, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있다 (94). 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 및 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다.

예를 들어, 비디오 인코더 (20) 가 단계 94를 수행하는 경우, 비디오 인코더 (20) 는 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들을 나타내는 값들을 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 비트스트림에서 pic_order_cnt_lsb 신택스 엘리먼트, 및 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 시그널링할 수도 있다. 비디오 디코더 (30) 가 단계 94를 수행하는 경우, log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트로부터, 비디오 디코더 (30) 는 MaxPicOrderCntLsb의 값을 결정할 수도 있다. 비디오 디코더 (30) 는 그 다음에 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들 (예컨대, POC 값들) 을 결정할 수도 있다.

비디오 코더는 복수의 참조 화상 서브 세트들을 구축할 수도 있다. 각각의 참조 화상 서브 세트는 0 개의 참조 화상들을 식별할 수도 있거나 또는 참조 화상들 중 하나 이상을 식별할 수도 있다 (96). 예를 들어, 비디오 코더는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들을 구축할 수도 있다. 그러나, 본 개시물의 양태들은 그렇게 제한되지 않는다. 일부 예들에서, 비디오 코더는 5 개의 참조 화상 서브세트들을 구축할 수도 있으며, 그 중 4 개는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들 중 4 개일 수도 있고, 그 중 제 5의 것은 남아있는 6 개의 참조 화상 서브세트들 중 2 개의 조합 (예컨대, RefPicSetFoll0 및 RefPicSetFoll1 참조 화상 서브세트들의 조합) 일 수도 있다.

일부 예들에서, 비디오 코더는 다음의 4 개의 참조 화상 서브세트들 중 적어도 2 개를 구축할 수도 있다. 다른 예들에서, 비디오 코더는 적어도 다음의 4 개의 참조 화상 서브세트들을 구축할 수도 있다. 제 1 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 선행하고 출력 순서에서 현재 화상에 선행하고 현재 화상 및 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별할 수도 있다. 제 2 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 선행하고 출력 순서에서 현재 화상에 후속하고 현재 화상 및 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별할 수도 있다.

제 3 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 선행하고 현재 화상 및 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별할 수도 있다. 제 4 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 선행하고 현재 화상을 인터 예측하기 위해 사용될 수 없고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별할 수도 있다.

비디오 코더는 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다 (98). 예를 들어, 비디오 코더는 참조 화상 세트를 도출하기 위해 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들 중 적어도 2 개를 특정 순서로 순서화할 수도 있다.

일부 예들에서, 비디오 코드에 의해 수행된 순서화는 참조 화상 서브세트들의 각각에서의 화상들이 참조 화상 세트 내에서 순차적으로 식별될 수도 있다는 것을 의미할 수도 있다. 이들 예들에서, 비디오 코더는 참조 화상 세트에서의 참조 화상들을 참조 화상 세트로의 인덱스 값에 의해 참조할 수도 있다.

비디오 코더는 도출된 참조 화상 세트에 기초하여 현재 화상을 코딩할 수도 있다 (100). 비디오 코더가 참조 화상 서브세트들로부터 참조 화상 세트를 도출하기 때문에, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 것으로서 간주될 수도 있다는 것이 이해되어야 한다. 예를 들어, 비디오 코더는 (예컨대, 복수의 참조 화상 서브세트들로부터 도출되는 도출된 참조 화상 세트로부터의) 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축할 수도 있다. 비디오 코더는 그 다음에 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 현재 화상을 코딩할 수도 있다.

도 6은 참조 화상 리스트를 구축하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 6의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 도 5와 유사하게, 비디오 코더는 참조 화상들을 나타내는 정보를 코딩하고 (102), 복수의 참조 화상 서브세트들을 구축할 수도 있다 (104).

비디오 코더는 그 다음에 참조 화상 서브세트들로부터의 참조 화상들을 초기 참조 화상 리스트에 추가하여, 초기 참조 화상 리스트를 구축할 수도 있다 (106). 일부 예들에서, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 양쪽 모두는 초기 참조 화상 리스트를 구축할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 DPB (64) 에 저장하기 위한 복원된 비디오 블록들을 생성하기 위해 초기 참조 화상 리스트를 구축할 수도 있다. 비디오 디코더 (30) 는 초기 참조 화상 리스트를 그것의 디코딩 프로세스의 부분으로서 구축할 수도 있고, 비디오 디코더 (30) 가 초기 참조 화상 리스트를 구축하는 방식에 관한 비디오 인코더 (20) 로부터의 정보를 수신하는 것을 필요로 하지 않는 디폴트 구축 기법을 이행할 수도 있다. 비디오 디코더 (30) 는, 예를 들어, 그 초기 참조 화상 리스트를 DPB (92) 에 저장할 수도 있다.

일부 예들에서, 초기 참조 화상 리스트를 구축하기 위해, 비디오 코더는, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에, 뒤이어 제 2 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에, 및 그 후 뒤이어 제 3 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 비디오 코더는 초기 참조 화상 리스트에 열거된 참조 화상들의 총 수가 초기 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수보다 크지 않은 한 이들 참조 화상 서브세트들로부터의 참조 화상들을 추가할 수도 있다. 예를 들어, 참조 화상 리스트에 참조 화상들을 추가하는 동안의 임의의 시간에, 초기 참조 화상 리스트에서의 엔트리들의 수가 허용가능 초기 참조 리스트 엔트리들의 최대 수와 동일하게 되면, 비디오 코더는 임의의 부가적인 화상들을 초기 참조 화상 리스트에 추가하는 것을 중단할 수도 있다.

비디오 코더는, 이를테면 현재 화상의 비디오 블록이 양방향 예측되는 예들에서, 다른 초기 참조 화상 리스트를 유사하게 구축할 수도 있다. 이 예에서, 이 다른 초기 참조 화상 리스트를 구축하기 위해, 비디오 코더는, 이 다른 초기 참조 화상 리스트에서의 엔트리들의 총 수가 엔트리들의 허용가능한 수보다 크지 않는 한, 제 2 서브세트로부터의 참조 화상들을 상기 다른 초기 참조 화상 리스트에, 뒤이어 제 1 서브세트로부터의 참조 화상들을 상기 다른 초기 참조 화상 리스트에, 및 그 후에 뒤이어 제 3 서브세트로부터의 참조 화상들을 상기 다른 초기 참조 화상 리스트에 추가할 수도 있다. 이들 예들에서, 제 1 서브세트는 RefPicSetStCurr0 참조 화상 서브세트일 수도 있으며, 제 2 서브세트는 RefPicSetStCurr1 참조 화상 서브세트일 수도 있고, 제 3 서브세트는 RefPicSetLtCurr 참조 화상 서브세트일 수도 있다.

어떤 예에서, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들에서 식별된 참조 화상들을 추가하기 위해, 비디오 코더는 비디오 코더가 이들 참조 화상 서브세트들의 각각에서의 참조 화상들의 수를 결정할 수 있게 하는 신택스 엘리먼트들을 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있다. 예를 들어, 비디오 코더는 num_short_term_curr0 신택스 엘리먼트 및 num_short_term_curr1 신택스 엘리먼트를 코딩할 수도 있다. num_short_term_curr0 신택스 엘리먼트 및 num_short_term_curr1 신택스 엘리먼트는 각각 RefPicSetStCurr0 참조 화상 서브세트 및 RefPicSetStCurr1 참조 화상 서브세트에서 식별된 참조 화상들의 수를 나타낼 수도 있다.

비디오 코더는 또한 num_long_term_pps_curr 신택스 엘리먼트, 및 num_long_term_add_curr 신택스 엘리먼트를 코딩할 수도 있다. num_long_term_pps_curr 신택스 엘리먼트는 식별이 화상 파라미터 세트 (PPS) 에 포함되어 있는 장기 참조 화상들의 수를 나타낼 수도 있고, num_long_term_add_curr 신택스 엘리먼트는 식별 정보가 PPS에 포함되어 있지 않은 장기 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 이들 장기 참조 화상들은 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후행하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있다.

비디오 코더는 num_long_term_pps_curr 신택스 엘리먼트 및 num_long_term_add_curr 신택스 엘리먼트에 기초하여 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 결정할 수도 있다. 예를 들어, 비디오 코더는 num_long_term_pps_curr 신택스 엘리먼트 및 num_long_term_add_curr 신택스 엘리먼트의 값들을 합산하여 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 결정할 수도 있다.

비디오 코더는 참조 화상 리스트 또는 리스트들에 기초하여 현재 화상을 코딩할 수도 있다 (108). 예를 들면, 비디오 코더는 도출된 참조 화상 세트에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축할 수도 있다. 비디오 코더는 그 다음에 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 현재 화상을 코딩할 수도 있다.

도 7은 참조 화상 세트를 도출하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 7의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다.

그 비디오 코더는 현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 및 슬라이스 헤더에서 식별된 참조 화상들로부터 구축되는 것이라고 결정한다 (112). 파라미터 세트에 포함된 화상들 및 슬라이스 헤더에 포함된 화상들은, 현재 화상 및 슬라이스 헤더에서 식별된 참조 화상들 중 임의의 것 사이의 거리가 현재 화상 및 파라미터 세트에서 식별된 참조 화상들 중 임의의 것 사이의 거리보다 크도록 파라미터 세트 및 슬라이스 헤더에의 포함을 위해 선택될 수 있다. 파라미터 세트 및 슬라이스 헤더에서 식별된 참조 화상들에 기초하여, 비디오 코더는 참조 화상 세트를 구축할 수 있다 (114). 구축된 참조 화상 세트로부터, 비디오 코더는 구축된 참조 화상 세트를 재순서화하는 일 없이 초기 참조 화상 리스트를 구축할 수 있다 (116). 파라미터 세트는, 예를 들어, PPS를 포함할 수 있다. 현재 화상 및 참조 화상 사이의 거리는 위에서 설명된 바와 같이 델타 화상 순서 카운트 값에 기초하여 결정될 수 있다.

하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그것들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상에 저장되거나 또는 그것을 통해 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체들은, 데이터 저장 매체들과 같은 유형의 (tangible) 매체에 대응하는 컴퓨터 판독가능 저장 매체, 또는 예컨대 통신 프로토콜에 따라 한 장소에서 다른 장소로 컴퓨터 프로그램의 전달을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이런 방식으로, 컴퓨터 판독가능 매체들은 일반적으로 (1) 비일시적 (non-transitory) 인 유형의 (tangible) 컴퓨터 판독가능 저장 매체들 또는 (2) 신호 또는 반송파와 같은 통신 매체에 해당할 수도 있다. 데이터 저장 매체들은 본 개시물에서 설명된 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다.

비제한적인 예로, 그러한 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 소망의 프로그램 코드를 컴퓨터에 의해 액세스될 수 있는 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다. 예를 들어, 명령들이 웹사이트, 서버, 또는 다른 원격 자원으로부터 동축 케이블, 광섬유 케이블, 연선 (twisted pair), 디지털 가입자 회선 (DSL), 또는 무선 기술들 이를테면 적외선, 라디오, 및/또는 마이크로파를 이용하여 송신된다면, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술은 매체의 정의에 포함된다. 그러나, 컴퓨터 판독가능 저장 매체들 및 데이터 저장 매체들은 커넥션들, 반송파들, 신호들, 또는 다른 일시적인 매체들을 포함하지 않지만, 대신 비일시적 (non-transient), 유형의 저장 매체들을 지향하고 있음이 이해되어야 한다. 디스크 (disk 및 disc) 는 본원에서 사용되는 바와 같이, 콤팩트 디스크 (compact disc, CD), 레이저 디스크, 광 디스크, 디지털 다용도 디스크 (DVD), 플로피 디스크 (floppy disk) 및 블루레이 디스크를 포함하는데, disk들은 보통 데이터를 자기적으로 재생하지만, disc들은 레이저들로써 광적으로 데이터를 재생한다. 상기한 것들의 조합들은 또한 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.

명령들은 하나 이상의 프로세서들, 이를테면 하나 이상의 디지털 신호 프로세서들 (DSPs), 범용 마이크로프로세서들, 주문형 집적회로들 (ASICs), 필드 프로그램가능 로직 어레이들 (FPGAs), 또는 다른 동등한 집적 또는 개별 로직 회로에 의해 실행될 수도 있다. 따라서, 본원에서 사용되는 바와 같은 용어 "프로세서"는 앞서의 구조 또는 본원에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 중 임의의 것을 말할 수도 있다. 덧붙여서, 일부 양태들에서, 본원에서 설명된 기능성은 인코딩 및 디코딩을 위해 구성되는, 또는 결합형 코덱 (codec) 으로 통합되는 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공될 수도 있다. 또한, 본 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들 내에 완전히 구현될 수 있다.

본 개시내용의 기법들은 무선 핸드셋, 집적회로 (IC) 또는 한 세트의 IC들 (예컨대, 칩 셋) 을 포함하여, 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 다양한 컴포넌트들, 모듈들, 또는 유닛들은 개시된 기법들을 수행하도록 구성된 디바이스들의 기능적 양태들을 강조하기 위해 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 약간 더 언급하면, 위에서 설명된 바와 같이, 다양한 유닛들은 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명된 바와 같은 하나 이상의 프로세서들을 포함하는, 상호운용적 하드웨어 유닛들의 컬렉션에 의해 제공될 수도 있다.

다양한 예들이 설명되어 있다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims

비디오 데이터를 코딩하는 방법으로서,
현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트, 및 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트로부터 구축될 것이라고 결정하는 단계;
상기 현재 화상과, 상기 슬라이스 헤더에서 식별된 참조 화상들 중 상기 제 2 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 하나의 값보다 크다고 결정하는 단계;
상기 현재 화상과, 상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 상기 값보다 작거나 같다고 결정하는 단계; 및
상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트에 기초한 순서에 따라 상기 참조 화상 세트를 구축하는 단계를 포함하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
구축된 상기 참조 화상 세트로부터 초기 참조 화상 리스트를 구축하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
제 2 항에 있어서,
상기 초기 참조 화상 리스트를 구축하는 단계는, 상기 구축된 참조 화상 세트의 순서를 재순서화하는 일 없이 상기 초기 참조 화상 리스트를 구축하는 단계를 포함하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
상기 파라미터 세트는 화상 파라미터 세트 (PPS) 를 포함하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
상기 현재 화상과 상기 제 1 서브세트 및 제 2 서브세트의 각각의 참조 화상 사이의 상기 각각의 거리를 결정하는 것은, 각각의 델타 화상 순서 카운트 값에 기초하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
상기 현재 화상에 대한 상기 참조 화상 세트가 상기 파라미터 세트에서 식별된 상기 참조 화상들 중 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 상기 참조 화상들 중 제 2 서브세트로부터 구축될 것임을 나타내는 신택스 엘리먼트를 코딩하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
상기 코딩은 디코딩을 포함하고,
상기 방법은,
상기 파라미터 세트를 수신하는 단계; 및
상기 슬라이스 헤더를 수신하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
제 1 항에 있어서,
상기 코딩은 인코딩을 포함하고,
상기 방법은,
상기 파라미터 세트를 생성하는 단계; 및
상기 슬라이스 헤더를 생성하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
비디오 데이터를 코딩하는 디바이스로서,
상기 비디오 데이터의 적어도 일 부분을 저장하도록 구성된 메모리; 및
하나 이상의 프로세서들을 포함하는 비디오 코더를 포함하고,
상기 하나 이상의 프로세서들은:
현재 화상에 대한 참조 화상 세트가, 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트 및 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트로부터 구축될 것이라고 결정하고,
상기 현재 화상과, 상기 슬라이스 헤더에서 식별된 참조 화상들 중 상기 제 2 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 하나의 값보다 크다고 결정하고,
상기 현재 화상과, 상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 상기 값보다 작거나 같다고 결정하고, 그리고
상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트에 기초한 순서에 따라 상기 참조 화상 세트를 구축하도록 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 비디오 코더의 하나 이상의 프로세서들은 구축된 상기 참조 화상 세트로부터 초기 참조 화상 리스트를 구축하도록 추가로 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 10 항에 있어서,
상기 비디오 코더는, 상기 구축된 참조 화상 세트의 순서를 재순서화하는 일 없이 상기 초기 참조 화상 리스트를 구축하는 것에 의해 상기 초기 참조 화상 리스트를 구축하는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 파라미터 세트는 화상 파라미터 세트 (PPS) 를 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 비디오 코더의 하나 이상의 프로세서들은, 상기 현재 화상과 상기 제 1 서브세트 및 제 2 서브세트의 각각의 참조 화상 사이의 상기 거리를 델타 화상 순서 카운트 값에 기초하여 결정하도록 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 비디오 코더의 하나 이상의 프로세서들은, 상기 현재 화상에 대한 상기 참조 화상 세트가 상기 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트로부터 구축될 것임을 나타내는 신택스 엘리먼트를 코딩하도록 추가로 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 비디오 코더는 비디오 디코더를 포함하고,
상기 비디오 디코더는, 상기 파라미터 세트를 수신하고 상기 슬라이스 헤더를 수신하도록 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 비디오 코더는 비디오 인코더를 포함하고,
상기 비디오 인코더는, 상기 파라미터 세트를 생성하고 상기 슬라이스 헤더를 생성하도록 구성되는, 비디오 데이터를 코딩하는 디바이스.
제 9 항에 있어서,
상기 디바이스는,
집적 회로;
마이크로프로세서; 및
상기 비디오 코더를 포함하는 무선 통신 디바이스
중 적어도 하나를 포함하는, 비디오 데이터를 코딩하는 디바이스.
비디오 코딩을 위한 디바이스로서,
현재 화상에 대한 참조 화상 세트가 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트, 및 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트로부터 구축될 것이라고 결정하는 수단;
상기 현재 화상과, 상기 슬라이스 헤더에서 식별된 참조 화상들 중 상기 제 2 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 하나의 값보다 크다고 결정하는 수단;
상기 현재 화상과, 상기 파라미터 세트에서 식별된 상기 참조 화상들 중 상기 제 1 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 상기 값보다 작거나 같다고 결정하는 수단; 및
상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트에 기초한 순서에 따라 상기 참조 화상 세트를 구축하는 수단을 포함하는, 비디오 코딩을 위한 디바이스.
제 18 항에 있어서,
구축된 상기 참조 화상 세트로부터 초기 참조 화상 리스트를 구축하는 수단을 더 포함하는, 비디오 코딩을 위한 디바이스.
제 19 항에 있어서,
상기 초기 참조 화상 리스트를 구축하는 수단은, 상기 구축된 참조 화상 세트의 순서를 재순서화하는 일 없이 상기 초기 참조 화상 리스트를 구축하는, 비디오 코딩을 위한 디바이스.
제 18 항에 있어서,
상기 파라미터 세트는 화상 파라미터 세트 (PPS) 를 포함하는, 비디오 코딩을 위한 디바이스.
제 18 항에 있어서,
상기 현재 화상과 상기 제 1 서브세트 및 제 2 서브세트의 각각의 참조 화상 사이의 상기 거리는 각각의 델타 화상 순서 카운트 값에 기초하는, 비디오 코딩을 위한 디바이스.
제 18 항에 있어서,
상기 현재 화상에 대한 상기 참조 화상 세트가 상기 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 상기 참조 화상들 중 제 2 서브세트로부터 구축될 것임을 나타내는 신택스 엘리먼트를 코딩하는 수단을 더 포함하는, 비디오 코딩을 위한 디바이스.
제 23 항에 있어서,
상기 코딩하는 수단은 디코딩하는 수단을 포함하고,
상기 디바이스는, 상기 파라미터 세트를 수신하는 수단 및 상기 슬라이스 헤더를 수신하는 수단을 더 포함하는, 비디오 코딩을 위한 디바이스.
제 23 항에 있어서,
상기 코딩하는 수단은 인코딩하는 수단을 포함하고,
상기 디바이스는, 상기 파라미터 세트를 생성하는 수단 및 상기 슬라이스 헤더를 생성하는 수단을 더 포함하는, 비디오 코딩을 위한 디바이스.
명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서,
상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금,
현재 화상에 대한 참조 화상 세트가, 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트 및 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트로부터 구축될 것이라고 결정하게 하고,
상기 현재 화상과, 상기 슬라이스 헤더에서 식별된 참조 화상들 중 상기 제 2 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 하나의 값보다 크다고 결정하게 하고,
상기 현재 화상과, 상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트의 각각의 참조 화상 사이의 출력 순서의 측면에서의 각각의 거리가 상기 값보다 작거나 같다고 결정하게 하고, 그리고
상기 파라미터 세트에서 식별된 참조 화상들 중 상기 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 참조 화상들 중 제 2 서브세트에 기초한 순서에 따라 상기 참조 화상 세트를 구축하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 26 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금,
구축된 상기 참조 화상 세트로부터 초기 참조 화상 리스트를 구축하게 하는 명령들을 더 저장하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금, 상기 구축된 참조 화상 세트의 순서를 재순서화하는 일 없이 상기 초기 참조 화상 리스트를 구축하는 것에 의해 상기 초기 참조 화상 리스트를 구축하게 하는 명령들을 추가로 저장하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 파라미터 세트는 화상 파라미터 세트 (PPS) 를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 현재 화상과 상기 제 1 서브세트 및 제 2 서브세트의 각각의 참조 화상 사이의 상기 각각의 거리는, 각각의 델타 화상 순서 카운트 값에 기초하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금, 상기 현재 화상에 대한 상기 참조 화상 세트가 상기 파라미터 세트에서 식별된 참조 화상들 중 제 1 서브세트 및 상기 슬라이스 헤더에서 식별된 상기 참조 화상들 중 제 2 서브세트로부터 구축될 것임을 나타내는 신택스 엘리먼트를 코딩하게 하는 명령들을 추가로 저장하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 하나 이상의 프로세서들은 비디오 디코더를 포함하고,
상기 비일시적 컴퓨터 판독가능 저장 매체는, 상기 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금, 상기 파라미터 세트를 수신하고 상기 슬라이스 헤더를 수신하게 하는 명령들을 추가로 저장하는, 비일시적 컴퓨터 판독가능 저장 매체.
제 27 항에 있어서,
상기 하나 이상의 프로세서들은 비디오 디코더를 포함하고,
상기 비일시적 컴퓨터 판독가능 저장 매체는, 상기 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금, 상기 파라미터 세트를 생성하고 상기 슬라이스 헤더를 생성하게 하는 명령들을 추가로 저장하는, 비일시적 컴퓨터 판독가능 저장 매체.