KR20140066251A

KR20140066251A - 참조 화상 세트의 서브세트들에 의한 비디오 코딩

Info

Publication number: KR20140066251A
Application number: KR1020147010771A
Authority: KR
Inventors: 예-쿠이 왕; 잉 천
Original assignee: 퀄컴 인코포레이티드
Priority date: 2011-09-23
Filing date: 2012-09-20
Publication date: 2014-05-30
Also published as: BR112014006839A2; WO2013043913A1; JP2014530570A; IL256349B; AU2012312344A1; AU2012312324B2; JP2014530569A; BR112014006867A2; WO2013043892A3; CA2849283A1; RU2014116245A; CN108513128A; CN103828375B; US10542285B2; ZA201402900B; EP2759130B1; CN103814574B; CA2849501A1; HK1243571A1; RU2584510C2

Abstract

참조 화상 리스트들을 도출하는 것에 관련된 기법들이 설명된다. 참조 화상 세트는 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 몇몇 예들에서, 참조 화상 세트를 도출하는 것은, 참조 화상 세트를 함께 형성하는 복수이 참조 화상 서브세트들을 구축하는 것을 포함할 수도 있다.

Description

참조 화상 세트의 서브세트들에 의한 비디오 코딩{VIDEO CODING WITH SUBSETS OF A REFERENCE PICTURE SET}

본 출원은, 2011년 9월 23일자로 출원된 미국 가출원 제61/538,787호; 2011년 9월 26일자로 출원된 미국 특허 가출원 제61/539,433호; 및 2011년 9월 30일자로 출원된 미국 특허 가출원 제61/542,034호의 우선권을 주장하며, 그것들의 각각의 전체 내용들은 전부가 참조로 통합된다.

기술 분야

본 개시는 비디오 코딩에 관한 것이고, 더 상세하게는, 비디오 데이터를 코딩하는 기법들에 관한 것이다.

디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인휴대 정보단말들 (PDAs), 랩톱 또는 데스크톱 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 이른바 "스마트 폰들", 비디오 원격회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함하는 넓은 범위의 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, 고급 비디오 코딩 (AVC) 에 의해 규정된 표준들, 현재 개발중인 고효율 비디오 코딩 (High Efficiency Video Coding, HEVC) 표준, 및 이러한 표준들의 확장안들에 기재된 것들과 같은 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 그런 비디오 압축 기법들을 구현하는 것에 의해 디지털 비디오 정보를 더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 압축 기법들은 공간적 (화상 내) 예측 및/또는 시간적 (화상 간) 예측을 수행하여 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 제거한다. 블록 기반 비디오 코딩을 위해, 비디오 슬라이스 (즉, 비디오 화상 또는 비디오 화상의 일 부분) 는 비디오 블록들로 구획될 수도 있으며, 그 비디오 블록들은 또한 트리블록들 (treeblocks), 코딩 트리 블록들 (CTBs), 코딩 트리 단위들 (CTUs), 코딩 단위들 (CUs) 및/또는 코딩 노드들이라고 지칭될 수도 있다. 화상의 인트라 코딩식 (intra-coded; I) 슬라이스에서의 비디오 블록들은 동일한 화상의 인접 블록들에서의 참조 샘플들에 관한 공간적 예측을 이용하여 인코딩된다. 화상의 인터 코딩식 (inter-coded; P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 화상의 인접 블록들에서의 참조 샘플들에 관한 공간적 예측 또는 다른 참조 화상들에서의 참조 샘플들에 관한 시간적 예측을 이용할 수도 있다. 화상들은 프레임들이라고 지칭될 수도 있고, 참조 화상들은 참조 프레임들이라고 말해질 수도 있다.

공간적 또는 시간적 예측은 코딩될 블록에 대한 예측 블록으로 나타나게 된다. 잔차 데이터는 코딩될 원본 블록과 예측 블록 사이의 화소 차이들을 나타낸다. 인터 코딩식 블록은 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터와, 코딩된 블록 및 예측 블록 사이의 차이를 나타내는 잔차 데이터에 따라 인코딩된다. 인트라 코딩식 블록은 인트라 코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 화소 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 결과적으로 잔차 변환 계수들이 생겨나며, 그 계수들은 그 다음에 양자화될 수도 있다. 처음에는 2차원 어레이로 배열된 양자화된 변환 계수들은, 변환 계수들의 1차원 벡터를 생성하기 위하여 스캐닝될 수도 있고, 엔트로피 코딩이 더 많은 압축을 달성하기 위해 적용될 수도 있다.

대체로, 본 개시는 비디오 코딩에서 사용하기 위한 참조 화상 세트를 도출하는 것에 관련된 기법들을 설명한다. 예를 들어, 참조 화상 세트는 복수의 참조 화상 서브세트들의 조합을 구성할 수도 있다. 참조 화상 서브세트들의 각각은 복수의 잠재적 참조 화상들을 식별하지만, 모든 잠재적 참조 화상들보다 적을 수도 있다. 본 개시에서 설명되는 예의 기법들에서, 비디오 코더 (인코더 또는 디코더) 는 잠재적 참조 화상들의 서브세트의 식별자들을 각각 포함하는 다수의 리스트들을 구축할 수도 있다. 이들 다수의 리스트들로부터, 비디오 코더는 복수의 참조 화상 서브세트들을 구축할 수도 있으며, 이는 비디오 코더가 참조 화상 세트를 도출하게 한다.

참조 화상 세트를 도출하는 것에 관련된 기법들 외에도, 본 개시는 단순화된 참조 화상 리스트 초기화 기법들을 설명한다. 이러한 참조 화상 리스트 초기화는 참조 화상들을 재순서화할 필요성을 제거할 수도 있다. 예를 들어, 참조 화상 리스트 수정이 필요하지 않으면, 초기 참조 화상 리스트들은 최종 참조 화상 리스트들을 형성할 수도 있고, 임의의 추가의 재순서화를 필요로 하지 않을 수도 있다. 그 기법들은 또한 참조 화상 리스트의 엔트리들이 엔트리들의 최대 허용가능 수와 동일하기까지 비디오 코더가 참조 화상들을 참조 화상 리스트에 반복적으로 추가하는 방식으로 참조 화상 리스트를 구축하는 것을 지향할 수도 있다.

일부 예들에서, 기법들은 참조 화상 리스트 수정을 지향하고 있다. 예를 들어, 비디오 코더는, 초기 참조 화상 리스트의 구축 후에 참조 화상 서브세트들 중 하나 이상의 참조 화상 서브세트들을 참조하고 그 참조 화상 서브세트들에서의 하나 이상의 화상들을 참조 화상 리스트에 포함시키는 것에 의해 초기 참조 화상 리스트를 수정할 수도 있다.

일부 예들에서, 비디오 코더는 디코딩된 화상 버퍼 (decoded picture buffer; DPB) 관리를 수행할 수도 있다. 이들 예들에서, 비디오 코더는, 디코딩된 화상이 참조 화상 세트에 속하지 않으면, DPB로부터 디코딩된 화상들을 제거할 수도 있다. 어떤 경우들에서, 비디오 코더는 현재 화상의 코딩 전에 디코딩된 화상을 제거할 수도 있다.

하나의 예에서, 본 개시는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계를 포함하는 비디오 데이터를 코딩하는 방법을 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 단계, 및 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 단계를 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하고 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하도록 구성된다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 하는 명령을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한 그 프로세서로 하여금, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하고 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하게 한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단을 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 수단, 및 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 수단을 구비한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 방법을 설명하며, 그 방법은 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계를 포함한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 단계, 참조 화상 리스트 엔트리들의 수가 허용가능 참조 리스트 엔트리들의 최대 수보다 크지 않는 한, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들, 후속하여 복수의 참조 화상 서브세트들 중 제 2 서브세트로부터의 참조 화상들, 및 후속하여 복수의 참조 화상 서브세트들 중 제 3 서브세트로부터의 참조 화상들을 참조 화상 리스트에 추가하는 단계, 및 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 단계를 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하며, 참조 화상 리스트 엔트리들의 수가 허용가능 참조 리스트 엔트리들의 최대 수보다 크지 않는 한, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들, 후속하여 복수의 참조 화상 서브세트들 중 제 2 서브세트로부터의 참조 화상들, 및 후속하여 복수의 참조 화상 서브세트들 중 제 3 서브세트로부터의 참조 화상들을 참조 화상 리스트에 추가하고, 참조 화상 리스트에 기초하여 현재 화상을 코딩하도록 구성된다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 하는 명령을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한, 프로세서로 하여금, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하게 하며, 참조 화상 리스트 엔트리들의 수가 허용가능 참조 리스트 엔트리들의 최대 수보다 크지 않는 한, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들, 후속하여 복수의 참조 화상 서브세트들 중 제 2 서브세트로부터의 참조 화상들, 및 후속하여 복수의 참조 화상 서브세트들 중 제 3 서브세트로부터의 참조 화상들을 참조 화상 리스트에 추가하게 하고, 참조 화상 리스트에 기초하여 현재 화상을 코딩하게 한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단을 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 수단, 참조 화상 리스트 엔트리들의 수가 허용가능 참조 리스트 엔트리들의 최대 수보다 크지 않는 한, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들, 후속하여 복수의 참조 화상 서브세트들 중 제 2 서브세트로부터의 참조 화상들, 및 후속하여 복수의 참조 화상 서브세트들 중 제 3 서브세트로부터의 참조 화상들을 참조 화상 리스트에 추가하는 수단, 및 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 수단을 구비한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 방법을 설명하며, 그 방법은 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계를 포함한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 단계, 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트에서의 엔트리들의 제 1 세트에 추가하는 단계, 그 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정하는 단계, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 재추가하는 단계, 및 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 단계를 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하며, 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트에서의 엔트리들의 제 1 세트에 추가하며, 그 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정하며, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 재추가하고, 참조 화상 리스트에 기초하여 현재 화상을 코딩하도록 구성된다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 하는 명령들을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한, 프로세서로 하여금, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하게 하며, 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트에서의 엔트리들의 제 1 세트에 추가하게 하며, 그 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정하게 하며, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 재추가하게 하고, 참조 화상 리스트에 기초하여 현재 화상을 코딩하게 한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단을 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 수단, 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트에서의 엔트리들의 제 1 세트에 추가하는 수단, 그 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정하는 수단, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 그 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 재추가하는 수단, 및 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 수단을 구비한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 방법을 설명하며, 그 방법은 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계를 포함한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 단계, 구축된 참조 화상 서브세트들에 기초하여 초기 참조 화상 리스트를 구축하는 단계, 및 참조 화상 수정이 필요한 경우 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별하는 단계, 및 수정된 참조 화상 리스트를 구축하기 위해 식별된 참조 화상을 초기 참조 화상의 현재 엔트리에 추가하는 단계를 포함한다. 그 방법은 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 단계를 더 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하며, 구축된 참조 화상 서브세트들에 기초하여 초기 참조 화상 리스트를 구축하며, 및 참조 화상 수정이 필요한 경우 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별하고, 수정된 참조 화상 리스트를 구축하기 위해 식별된 참조 화상을 초기 참조 화상의 현재 엔트리에 추가하도록 구성된다. 그 비디오 코더는 또한 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩하도록 구성된다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 하는 명령들을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한 프로세서로 하여금, 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하게 하며, 구축된 참조 화상 서브세트들에 기초하여 초기 참조 화상 리스트를 구축하게 하며, 및 참조 화상 수정이 필요한 경우 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별하게 하고, 수정된 참조 화상 리스트를 구축하기 위해 식별된 참조 화상을 초기 참조 화상의 현재 엔트리에 추가하게 한다. 그 명령들은 또한 프로세서로 하여금, 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩하게 한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단을 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한 참조 화상 세트의 참조 화상들 중 0 개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 수단, 구축된 참조 화상 서브세트들에 기초하여 초기 참조 화상 리스트를 구축하는 수단, 및 참조 화상 수정이 필요한 경우 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별하는 수단, 및 수정된 참조 화상 리스트를 구축하기 위해 식별된 참조 화상을 초기 참조 화상의 현재 엔트리에 추가하는 수단을 포함한다. 그 디바이스는 또한 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩하는 수단을 더 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 방법을 설명하며, 그 방법은 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계를 포함한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 코딩된 정보에 기초하여 참조 화상 세트를 도출하는 단계, 디코딩된 화상 버퍼 (DPB) 에 저장된 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는지의 여부를 결정하는 단계, 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는 경우 DPB로부터 디코딩된 화상을 제거하는 단계, 및 디코딩된 화상의 제거에 후속하여, 현재 화상을 코딩하는 단계를 포함한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한 코딩된 정보에 기초하여 참조 화상 세트를 도출하며, 디코딩된 화상 버퍼 (DPB) 에 저장된 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는지의 여부를 결정하며, 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는 경우 DPB로부터 디코딩된 화상을 제거하고, 디코딩된 화상의 제거에 후속하여, 현재 화상을 코딩하도록 구성된다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 하는 명령들을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한 프로세서로 하여금, 코딩된 정보에 기초하여 참조 화상 세트를 도출하게 하며, 디코딩된 화상 버퍼 (DPB) 에 저장된 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는지의 여부를 결정하게 하며며, 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는 경우 DPB로부터 디코딩된 화상을 제거하게 하고, 디코딩된 화상의 제거에 후속하여, 현재 화상을 코딩하게 한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단을 구비한다. 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한 코딩된 정보에 기초하여 참조 화상 세트를 도출하는 수단, 디코딩된 화상 버퍼 (DPB) 에 저장된 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는지의 여부를 결정하는 수단, 디코딩된 화상이 출력을 위해 필요하지 않고 참조 화상 세트에서 식별되지 않는 경우 DPB로부터 디코딩된 화상을 제거하는 수단, 및 디코딩된 화상의 제거에 후속하여, 현재 화상을 코딩하는 수단을 구비한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 방법을 설명하며, 그 방법은 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩하는 단계를 포함한다. 이 예에서, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상들은 현재 화상의 참조 화상 세트에 속한다. 또한, 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 방법은 또한 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 코딩하는 단계, 및 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지의 표시에 기초하여 복수의 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트를 구축하는 단계를 포함한다. 이 예에서, 복수의 참조 화상 서브세트들은 참조 화상 세트를 형성한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩하도록 구성된 비디오 코더를 구비한다. 이 예에서, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상은 현재 화상의 참조 화상 세트에 속한다. 또한, 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 비디오 코더는 또한 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 코딩하고, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지의 표시에 기초하여 복수의 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트를 구축하도록 구성된다. 이 예에서, 복수의 참조 화상 서브세트들은 참조 화상 세트를 형성한다.

하나의 예에서, 본 개시는, 실행되는 경우, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩하게 하는 명령들을 저장하고 있는 컴퓨터 판독가능 저장 매체를 설명한다. 이 예에서, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상은 현재 화상의 참조 화상 세트에 속한다. 또한, 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 명령들은 또한 프로세서로 하여금, 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 코딩하고, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지의 표시에 기초하여 복수의 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트를 구축하게 한다. 이 예에서, 복수의 참조 화상 서브세트들은 참조 화상 세트를 형성한다.

하나의 예에서, 본 개시는 비디오 데이터를 코딩하는 디바이스를 설명한다. 그 디바이스는 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩하는 수단을 구비한다. 이 예에서, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상은 현재 화상의 참조 화상 세트에 속한다. 또한, 이 예에서, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다. 그 디바이스는 또한 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 코딩하는 수단, 및 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지의 표시에 기초하여 복수의 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트를 구축하는 수단을 포함한다. 이 예에서, 복수의 참조 화상 서브세트들은 참조 화상 세트를 형성한다.

하나 이상의 예들의 세부사항들은 첨부 도면들 및 다음의 설명에서 언급된다. 다른 특징들, 목적들, 및 이점들은 상세한 설명 및 도면들로부터, 그리고 청구항들로부터 명확하게 될 것이다.

도 1은 본 개시에서 설명되는 기법들을 활용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 인코딩되고 송신되는 복수의 화상들을 포함하는 일 예의 비디오 시퀀스를 예시하는 개념도이다.
도 3은 본 개시에서 설명되는 기법들을 이행할 수도 있는 일 예의 비디오 인코더를 도시하는 블록도이다.
도 4는 본 개시에서 설명되는 기법들을 이행할 수도 있는 일 예의 비디오 디코더를 도시하는 블록도이다.
도 5는 참조 화상 세트를 도출하는 일 예의 동작을 도시하는 흐름도이다.
도 6은 참조 화상 리스트를 구축하는 일 예의 동작을 도시하는 흐름도이다.
도 7은 참조 화상 리스트를 구축하는 다른 예의 동작을 도시하는 흐름도이다.
도 8은 초기 참조 화상 리스트를 수정하는 일 예의 동작을 도시하는 흐름도이다.
도 9는 디코딩된 화상 제거의 일 예의 동작을 도시하는 흐름도이다.
도 10은 어떤 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 결정하는 일 예의 동작을 도시하는 흐름도이다.

본 개시의 기법들은 대체로 인터 예측을 위해 사용되는 참조 화상들의 관리를 지향하고 있다. 예를 들어, 비디오 코더 (예컨대, 비디오 인코더 또는 비디오 디코더) 는 디코딩된 화상 버퍼 (DPB) 를 구비한다. 그 DPB는 참조 화상들을 포함하여, 디코딩된 화상들을 저장한다. 참조 화상들은 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 화상들이다. 다르게 말하면, 비디오 코더는, 화상의 코딩 (인코딩 또는 디코딩) 동안, DPB에 저장된 하나 이상의 참조 화상들에 기초하여 그 화상을 예측할 수도 있다.

DPB를 효율적으로 활용하기 위해, DPB 관리 프로세스, 이를테면 디코딩된 화상들의 DPB에의 저장 프로세스, 참조 화상들의 마킹 프로세스, DPB로부터의 디코딩된 화상들의 출력 및 제거 프로세스 등이 특정될 수도 있다. 일반적으로, 일부 현재 및 개발하고 있는 비디오 코딩 표준들에서, DPB 관리는 다음의 양태들: 화상 식별 및 참조 화상 식별, 참조 화상 리스트 구축, 참조 화상 마킹, DPB로부터의 화상 출력, DPB로의 화상 삽입, 및 DPB로부터의 화상 제거 중 하나 이상을 포함할 수도 있다.

이해를 돕기 위해, 다음에서는 일부 비디오 코딩 표준들에 따라 참조 화상 마킹 및 참조 화상 리스트 구축이 일어날 수도 있는 방법의 간략한 설명을 제공한다. 본 개시에서 설명된 기법들 중 일부는, 참조 화상 마킹, 참조 화상 리스트 구축, 및 DPB 화상 제거 및 출력에서 존재할 수도 있는 문제점들을 해결하여 DPB의 활용 효율을 향상시킨다.

참조 화상 마킹의 경우, 인터 예측을 위해 사용되는 참조 화상들의, M (num_ref_frames) 라고 지칭되는, 최대 수가 액티브 시퀀스 파라미터 세트에서 나타내어진다. 참조 화상이 디코딩된 경우, 그것은 "참조를 위해 사용됨 (used for reference)"으로 마킹된다. 참조 화상의 디코딩이 M 개를 초과하는 화상들이 "참조를 위해 사용됨"으로 마킹되게 하면, 적어도 하나의 화상은 "참조를 위해 사용되지 않음 (unused for reference)"으로 마킹되어야만 한다. DPB 제거 프로세스는 그 다음에 "참조를 위해 사용되지 않음"으로 마킹된 화상들을 그것들이 출력을 위해서도 필요하지 않으면 DPB로부터 제거할 것이다.

화상이 디코딩된 경우, 그것은 비-참조 화상 또는 참조 화상 중 어느 하나일 수도 있다. 참조 화상이 장기 참조 화상 또는 단기 참조 화상일 수도 있고, 그것이 "참조를 위해 사용되지 않음"으로 마킹된 경우, 그것은 더 이상 참조를 위해 사용되지 않을 수도 있다. 일부 비디오 코딩 표준들에서, 참조 화상들의 스테이터스를 변화시키는 참조 화상 마킹 동작들이 있을 수도 있다.

참조 화상 마킹을 위한 동작들의 2 개의 유형들 즉, 슬라이딩 윈도우 및 적응적 메모리 제어가 있을 수도 있다. 참조 화상 마킹을 위한 동작 모드는 화상 기반으로 선택될 수도 있는 반면, 슬라이딩 윈도우 동작은 고정된 수의 단기 참조 화상들을 갖는 선입선출 큐로서 작동할 수도 있다. 다르게 말하면, 가장 앞선 디코딩 시간을 갖는 단기 참조 화상들은 암시적 방식에서, 제거될 (참조를 위해 사용되지 않는 화상으로 마킹될) 처음 것들이 될 수도 있다.

적응적 메모리 제어는 그러나 단기 또는 장기 화상들을 명시적으로 제거한다. 그것은 또한 단기 및 장기 화상들의 스테이터스를 전환하는 것 등을 가능하게 한다. 예를 들어, 적응적 메모리 제어에서, 비디오 인코더는 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 특정하는 신택스 엘리먼트들을 시그널링할 수도 있다. 비디오 디코더는 그 신택스 엘리먼트들을 수신하고 화상들을 특정된 것으로서 마킹할 수도 있다. 슬라이딩 윈도우에서, 비디오 인코더는 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 시그널링하는 것을 필요로 하지 않을 수도 있다. 오히려, 비디오 디코더는 어떤 화상들이 슬라이딩 윈도우 내에 있는지에 기초하여 어떤 화상들이 참조를 위해 사용됨으로 마킹되어야 하는지를 암묵적으로 (즉, 신택스 엘리먼트들을 수신하는 일 없이) 결정할 수도 있다.

비디오 코더에서는 또한 어떤 참조 화상들이 인터 예측 목적으로 사용될 수도 있는지를 나타내는 참조 화상 리스트들을 구축하는 것이 수행될 수도 있다. 이들 참조 화상 리스트들 중 2 개는 리스트 0 및 리스트 1이라고 각각 지칭될 수도 있다. 비디오 코더는 먼저, 리스트 0 및 리스트 1을 구축하는 디폴트 구축 기법들 (예컨대, 리스트 0 및 리스트 1을 구축하기 위한 사전구성된 구축 체제들) 을 채용한다. 선택사항으로, 초기 리스트 0 및 리스트 1이 구축된 후, 비디오 디코더는, 비디오 디코더에게 초기 리스트 0 및 리스트 1을 수정할 것을 명령하는 신택스 엘리먼트들을, 존재하는 경우, 디코딩할 수도 있다.

비디오 인코더는 DPB에서의 참조 화상들의 식별자(들)를 나타내는 신택스 엘리먼트들을 시그널링할 수도 있고, 비디오 인코더는 또한, 어떤 참조 화상 또는 화상들을 현재 화상의 코딩된 블록을 디코딩하는 데 사용할 것인지를 나타내는 인덱스들을, 리스트 0, 리스트 1, 또는 리스트 0 및 리스트 1 양쪽 모두 내에 포함하는 신택스 엘리먼트들을 시그널링할 수도 있다. 다음에, 비디오 디코더는, 리스트 0, 리스트 1, 또는 리스트 0 및 리스트 1 양쪽 모두에 열거된 참조 화상 또는 참조 화상들에 대한 인덱스 값 또는 값들을 식별하기 위해 수신된 식별자를 사용한다. 참조 화상 또는 참조 화상들의 인덱스 값(들) 뿐만 아니라 식별자(들)로부터, 비디오 디코더는 DPB로부터 참조 화상 또는 참조 화상들, 또는 그것의 부분(들)을 취출하고, 취출된 참조 화상 또는 화상들 및 코딩된 블록을 디코딩하기 위해 사용되는 참조 화상 또는 화상들 내의 블록들을 식별하는 하나 이상의 모션 벡터들에 기초하여 현재 화상의 코딩된 블록을 디코딩한다.

예를 들어, 양방향 예측된 화상의 제 1 또는 제 2 참조 화상 리스트에 대한 참조 화상 리스트 구축은 2 개의 단계들, 즉 참조 화상 리스트 초기화 및 참조 화상 리스트 수정 (또한 참조 화상 리스트 재순서화라고 지칭됨) 을 포함한다. 참조 화상 리스트 초기화는 POC (Picture Order Count) (화상의 디스플레이 순서로 정렬됨) 값들의 순서에 기초하여 참조 화상 메모리 (또한 디코딩된 화상 버퍼로 알려짐) 내의 참조 화상들을 리스트 속에 넣는 암시 메커니즘 (implicit mechanism) 일 수도 있다. 참조 화상 리스트 재순서화 메커니즘은, 참조 화상 리스트 초기화 동안에 리스트 속에 넣었던 화상의 포지션을 임의의 새로운 포지션으로 수정하거나, 또는 심지어 임의의 참조 화상이 초기화된 리스트에 속하지 않을지라도 그 참조 화상을 참조 화상 메모리에서 임의의 포지션에 넣을 수도 있다. 참조 화상 리스트 재순서화 (수정) 후의 일부 화상들은, 리스트에서 아주 먼 포지션에도 놓일 수도 있다. 그러나, 화상의 포지션이 리스트의 액티브 참조 화상들의 수를 초과하면, 그 화상은 최종 참조 화상 리스트의 엔트리로서 간주될 수 없다. 리스트의 액티브 참조 화상들의 수는 각각의 리스트에 대한 슬라이스 헤더에서 시그널링될 수도 있다.

본 개시에서 설명된 기법들은 다양한 비디오 코딩 표준들에 적용가능할 수도 있다. 비디오 코딩 표준들의 예들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 자신의 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장안들을 포함하는 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 을 포함한다. 덧붙여서, ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group; VCEG) 및 ISO/IEC 동화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 개발되고 있는 새로운 비디오 코딩 표준, 즉 고효율 비디오 코딩 (High-Efficiency Video Coding; HEVC) 이 있다.

예시만을 목적으로, 그 기법들은 HEVC 표준의 측면에서 설명된다. HEVC의 최근의 작업 초안 (WD) 이고 이후로 HEVC WD8이라고 지칭하는 것은, 2012년 7월 20일 현재로, http://phenix.int-evry.fr/jct/doc_end_user/documnets/10_Stockholm/wg11/JCTVC-J1003-v8.zip에서 입수가능하다.

위에서 설명된 바와 같이, 본 개시에서 설명된 기법들은 디코딩된 화상 버퍼 (DPB) 관리를 위한 현존 술루션들에서 존재할 수도 있는 문제들을 해결할 수도 있다. 하나의 예로서, 본 개시에서 설명되는 일부 예의 기법들에서, "참조를 위해 사용되지 않음"으로서 참조 화상들을 마킹하는 것은 필요하지 않을 수도 있다. 예를 들어, 본 개시에서 설명된 기법들은, 시간적 확장성에 잘 맞지 않을 수도 있는 DPB 관리 기법들에 관련된 문제들, 장기 참조 화상들의 시그널링 오버헤드에 관련된 문제들, 참조 화상 리스트 초기화 및 수정과의 효율 및 복잡도에 관련된 문제들을 해결할 수도 있다. 본 개시에서 설명된 기법들은 또한, 참조 화상 리스트 초기화 동안에 참조 화상 리스트에서의 완료되지 않은 엔트리들에 대한 "참조 화상 없음"의 마킹에 관련된 문제들, 디코딩된 화상 출력, DPB로의 삽입, 및 그 DPB로부터의 제거에 관련된 문제들, 뿐만 아니라 화상 순서 카운트 (POC) 값들에 대한 가능한 값들에 관련된 문제들을 해결할 수도 있다.

본 개시에서 설명되는 기법들에 따르면, 참조 화상 리스트들은 참조 화상 세트로부터 구축된다. 참조 화상 세트는, 디코딩 순서에서 연관된 화상보다 선행하는 모든 참조 화상들로 구성되며 연관된 화상 또는 디코딩 순서에서, 예를 들어, 다음 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지 연관된 화상에 후속하는 임의의 화상에서 블록들의 인터 예측을 위해 사용될 수도 있는, 화상에 연관된 참조 화상들의 세트로서 정의된다. 다르게 말하면, 참조 화상 세트에서의 참조 화상들은 다음의 특성들을 필요로 할 수도 있다: (1) 그것들은 모두가 디코딩 순서에서 현재 화상보다 선행하고, (2) 그것들은 현재 화상을 인터 예측하기 위해 및/또는 디코딩 순서에서 현재 화상에 후속하고 일부 예들에서 다음의 IDR 화상 또는 BLA 화상까지 임의의 화상을 인터 예측하기 위해 사용될 수도 있다. 아래에서 제공되는 참조 화상 세트의 다른 대체 정의들이 있을 수도 있다.

본 개시에서 설명되는 예의 기법들에서, 비디오 코더는 참조 화상 세트를 도출할 수도 있고, 이러한 도출 후, 비디오 코더는 참조 화상 리스트들을 구축할 수도 있다. 예를 들면, 참조 화상 세트에서의 참조 화상들만이 참조 화상 리스트들을 구축하는 데 사용되는 후보 참조 화상들일 수도 있다.

참조 화상 세트를 구축하기 위해, 비디오 코더는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 참조 화상 서브세트들의 조합은 함께 참조 화상 세트를 형성할 수도 있다. 예를 들어, 비디오 인코더는 비디오 디코더가 참조 화상 세트에 포함되는 참조 화상들에 대한 식별자들을 결정하는 것을 허용하는 값들을 코딩된 비트스트림에서 명시적으로 시그널링할 수도 있다. 예를 들면, 참조 화상들의 식별자들은 화상 순서 카운트들일 수도 있다. 각각의 화상은 PicOrderCnt라고 지칭되는 하나의 화상 순서 카운트와 연관된다. PicOrderCnt는 디코딩 순서에서의 이전의 IDR 화상을 기준으로 한 대응하는 화상의 출력 순서 또는 디스플레이 순서를 나타내고, 일부 다른 대체예들에서, 동일한 코딩된 비디오 시퀀스에서 다른 화상들의 출력 순서 포지션들을 기준으로 한 출력 순서에서의 연관된 화상의 포지션을 나타낸다.

PicOrderCnt는 화상 순서 카운트 (POC) 값이라고 지칭될 수도 있다. POC 값은 화상의 출력 또는 디스플레이 순서를 나타낼 수도 있고, 화상을 식별하는 데 사용될 수도 있다. 예를 들어, 코딩된 비디오 시퀀스 내에서, 작은 POC 값을 갖는 화상은 큰 POC 값을 갖는 화상보다 앞서 출력되거나 또는 디스플레이된다.

비디오 디코더는 참조 화상들에 대한 식별자들을 결정하고, 이들 식별자들로부터 복수의 참조 화상 서브세트들을 구축할 수도 있다. 이들 참조 화상 서브세트들로부터, 비디오 디코더는, 아래에서 더 상세히 설명되는 바와 같이, 참조 화상 세트를 도출할 수도 있다. 일부 예들에서, 참조 화상 서브세트들의 각각은 참조 화상 서브세트들에서는 참조 화상들의 중복이 없다는 점에서 상이한 참조 화상들을 포함한다. 이런 식으로, 참조 화상들의 각각은 참조 화상 서브세트들 중 하나에만 있고, 다른 참조 화상 서브세트에는 없을 수도 있다. 그러나, 본 개시의 양태들은 그렇게 제한되는 것으로 간주되지 않아야 한다.

참조 화상 세트 또는 그것의 서브세트들에서의 참조 화상들의 식별자들 (예컨대, POC 값들) 을 결정한 후, 비디오 디코더는 참조 화상 서브세트들을 구축할 수도 있다. 아래에서 더 상세히 설명되는 바와 같이, 비디오 디코더는 6 개의 참조 화상 서브세트들을 구축할 수도 있지만, 비디오 디코더가 더 많거나 더 적은 참조 화상 서브세트들을 구축하는 것이 가능할 수도 있다.

이들 6 개의 참조 화상 서브세트들은 다음으로 명명된다: RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll. RefPicSetStCurr0 참조 화상 서브세트는 RefPicSetStCurrBefore 참조 화상 서브세트라고 지칭될 수도 있고, RefPicSetStCurr1 참조 화상 서브세트는 RefPicSetStCurrAfter 참조 화상 서브세트라고 지칭될 수도 있다.

RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 참조 화상 서브세트들은 단기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은, 단기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 앞서는지 또는 디스플레이 순서에서 나중인지, 뿐만 아니라 그 단기 참조 화상들이 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는지, 또는 디코딩 순서에서 현재 화상에 후속하는 화상들만을 인터 예측하기 위해 잠재적으로 사용될 수 있는지에 기초하여, 단기 참조 화상들을 식별할 수도 있다.

예를 들어, RefPicSetStCurr0 참조 화상 서브세트는, 현재 화상보다 앞선 출력 또는 디스플레이 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의, POC 값들과 같은, 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다. RefPicSetStCurr1 참조 화상 서브세트는, 현재 화상보다 나중의 출력 또는 디스플레이 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다.

RefPicSetStFoll0 참조 화상 서브세트는, 현재 화상보다 앞선 출력 또는 디스플레이 순서를 가지며 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다. RefPicSetStFoll1 참조 화상 서브세트는, 현재 화상보다 나중의 출력 또는 디스플레이 순서를 가지며 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 단기 참조 화상들의 식별 정보를 포함할 수도 있고, 그 식별 정보만을 포함할 수도 있다.

RefPicSetLtCurr 및 RefPicSetLtFoll 참조 화상 서브세트들 장기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은 장기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 앞서는지 또는 디스플레이 순서에서 나중인지에 기초하여 장기 참조 화상들을 식별할 수도 있다.

예를 들어, RefPicSetLtCurr 참조 화상 서브세트는, 현재 화상의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있는 모든 장기 참조 화상들의 식별 정보를 포함할 수도 있고 그 식별 정보들만을 포함할 수도 있다. RefPicSetLtFoll 참조 화상 서브세트는, 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측에서 참조를 위해 잠재적으로 사용될 수 있고 현재 화상의 인터 예측에서 참조를 위해 사용될 수 없는 모든 장기 참조 화상들의 식별 정보를 포함할 수도 있고 그 식별 정보들만을 포함할 수도 있다.

참조 화상 서브세트들을 구축한 후, 비디오 디코더는 참조 화상 세트를 도출하기 위해 상이한 순서로 참조 화상 서브세트들을 순서화할 수도 있다. 하나의 예로서, 참조 화상 세트의 순서는 RefPicSetStCurr0, RefPicSetSetCurr1, RefPicSetFoll0, RefPicSetFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll일 수도 있다. 그러나, 서브세트들의 다른 순서화가 참조 화상 세트를 도출하기 위해 가능해질 수도 있다. 예를 들면, 다른 예로서, 참조 화상 세트의 순서는 RefPicSetStCurr0 참조 화상 서브세트, 후속하여 RefPicSetStCurr1 참조 화상 세트, 후속하여 RefPicSetLtCurr 참조 화상 서브세트, 후속하여 RefPicSetStFoll0 참조 화상 서브세트, 후속하여 RefPicSetFoll1 참조 화상 서브세트, 및 후속하여 RefPicSetLtFoll 참조 화상 서브세트일 수도 있다.

본 개시에서 설명되는 기법들에 따르면, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 서브세트들은, 현재 화상에서의 블록의 인터 예측에 사용될 수도 있고 디코딩 순서에서 현재 화상에 후속하는 화상들 중 하나 이상의 화상의 인터 예측에 사용될 수도 있는 모든 참조 화상들을 포함한다. RefPicSetStFoll0, RefPicSetStFoll1, 및 RefPicSetLtFoll 서브세트들은, 현재 화상에서의 블록의 인터 예측에 사용되지 않지만 디코딩 순서에서 현재 화상에 후속하는 화상들 중 하나 이상의 화상의 인터 예측에 사용될 수도 있는 모든 참조 화상들을 포함한다.

6 개의 참조 화상 서브세트들은 예시의 목적으로만 설명된 것으로, 제한하는 것으로 간주되지 않아야 한다는 것이 이해되어야 한다. 대체 예들에서, 더 많거나 더 적은 참조 화상 서브세트들이 있을 수도 있다. 이들 대체 예들에서의 이러한 참조 화상 서브세트들은, 아래에서 더 상세히 설명된다.

이들 개시들에서 설명되는 일부 기법들에서, 비디오 디코더는 디코딩된 화상들이 "참조를 위해 사용됨", "참조를 위해 사용되지 않음", "단기 참조를 위해 사용됨", 또는 "장기 참조를 위해 사용됨"으로 마킹하는 것을 필요로 하지 않을 수도 있다. 오히려, DPB에 저장된 디코딩된 화상이 인터 예측을 위해 필요한지의 여부는 그 디코딩된 화상이 현재 화상의 참조 화상 세트에 포함되는지의 여부에 의해 나타내어진다. 대체 예들에서, 비디오 디코더가 디코딩된 화상들을 "참조를 위해 사용됨", "참조를 위해 사용되지 않음", "단기 참조를 위해 사용됨", 또는 "장기 참조를 위해 사용됨"으로 마킹하는 것이 가능할 수도 있다. 이들 예들에서, 비디오 디코더가 화상을 디코딩한 후, 그 화상은 참조 화상이고 "참조를 위해 사용됨"으로 마킹된다. 그러면, 참조 화상 세트 도출을 위한 프로세스의 호출 후, DPB에 저장되었지만 현재 화상의 참조 화상 세트에 포함되지 않은 모든 참조 화상들은, DPB로부터의 디코딩된 화상들의 가능한 제거 전에 "참조를 위해 사용되지 않음"으로 마킹된다. 따라서, DPB에 저장된 디코딩된 화상이 인터 예측을 위해 필요한지의 여부는 그 디코딩된 화상이 "참조를 위해 사용됨"으로 마킹되는지의 여부에 의해 나타내어질 수도 있다.

일단 비디오 디코더가 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출하면, 비디오 디코더는 참조 화상 세트로부터 참조 화상 리스트들 (예컨대, 리스트 0 및 리스트 1) 을 구축할 수도 있다. 예를 들어, 참조 화상 리스트들의 구축은 초기화 단계 및 가능하게는 수정 단계를 포함할 수도 있다. 참조 화상 세트를 위에서 설명된 방식으로 도출하는 것에 의해, 비디오 디코더는 참조 화상 리스트 초기화 및 참조 화상 리스트 수정에 대한 효율을 개선하고 복잡도를 감소시킬 수도 있다.

비디오 디코더가 참조 화상 리스트들을 구축할 수도 있는 다양한 방법들이 있을 수도 있다. 본 개시에서 설명되는 기법들은, 비디오 디코더가 (초기) 참조 화상 리스트에 포함될 참조 화상들을 재순서화할 필요 없이 참조 화상 리스트들을 구축할 수도 있는 메커니즘을 제공한다. 예를 들어, 비디오 디코더는 비디오 디코더가 초기 참조 화상 리스트들을 구축하기 위해 참조 화상 서브세트들을 활용하는 디폴트 참조 리스트 구축 기법을 구현하도록 구성될 수도 있다. 그 다음에, 참조 화상 리스트 수정이 필요하지 않으면, 최종 참조 화상 리스트들은, 참조 화상 리스트들의 임의의 부가적인 재순서화의 필요 없이, 초기 참조 화상 리스트들과 동일하게 될 수도 있다.

일부 예들에서, 본 개시에서 설명된 기법들은 완료되지 않은 엔트리들이 없는 그런 방식으로 참조 화상 리스트들을 구축하는 것에 관련될 수도 있다. 예를 들면, 그 기법들은 참조 화상 서브세트들 중 하나 이상의 참조 화상 서브세트로부터의 참조 화상 리스트에 참조 화상들을 반복적으로 추가할 수도 있다. 예를 들어, 비디오 디코더가 초기 참조 화상 리스트를 구축하기 위해 참조 화상 서브세트들 중 하나 이상의 참조 화상 서브세트로부터의 참조 화상들을 추가한 후, 비디오 디코더는 그 참조 화상 리스트에서의 엔트리들의 수가 엔트리들의 최대 허용가능 수 미만인지의 여부를 결정할 수도 있다. 그 참조 화상 리스트에서의 엔트리들의 수가 엔트리들의 허용가능한 수의 최대 수 미만이면, 비디오 디코더는 참조 화상 리스트를 구축하기 위해 사용되는 참조 화상 서브세트들 중 하나의 참조 화상 서브세트로부터의 참조 화상들 중 적어도 하나의 참조 화상을 참조 화상 리스트에 재추가할 수도 있다. 참조 화상의 이 재추가 (또한 재리스팅이라고 지칭됨) 는 참조 화상이 비디오 디코더에 의해 먼저 추가되었던 로케이션과 비교하여, 참조 화상 리스트들 내의 상이한 로케이션에서 발생할 수도 있다.

본 개시에서 사용된 바와 같이, 리스트에 다시 올리는 것 또는 재추가는 초기 참조 화상 리스트에 이전에 추가되었던 (예컨대, 식별되었던) 참조 화상을 다시 추가하는 것 (예컨대, 다시 식별하는 것) 을 말한다. 그러나, 참조 화상을 재추가하는 경우, 그 참조 화상은 초기 참조 화상 리스트에서의 2 개의 상이한 엔트리들에 위치될 수도 있다. 다르게 말하면, 참조 화상을 재추가하는 경우, 동일한 참조 화상을 식별하는 초기 참조 화상 리스트로의 2 개의 인덱스 값들이 있을 수도 있다.

일부 예들에서, 본 개시에서 설명된 기법들은 초기 참조 화상 리스트를 수정하는 것에 관련될 수도 있다. 예를 들어, 비디오 디코더는 초기 참조 화상 리스트를 구축할 수도 있다. 비디오 디코더는 비디오 인코더에 의해 코딩된 비트스트림에서 시그널링된 신택스 엘리먼트들에 기초하여 참조 화상 리스트 수정이 필요하다고 결정할 수도 있다. 참조 화상 리스트 수정이 필요한 경우, 비디오 디코더는 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별할 수도 있다. 비디오 디코더는 수정된 참조 화상 리스트를 구축하기 위해 초기 참조 화상 리스트의 현재 엔트리에 식별된 참조 화상을 올릴 (예컨대, 추가할) 수도 있다. 비디오 디코더는 그 다음에 수정된 참조 화상 리스트에 기초하여 현재 화상을 디코딩할 수도 있다.

일부 예들에서, 본 개시에서 설명되는 기법들은 디코딩된 화상 버퍼 (DPB) 로부터의 디코딩된 화상들의 출력 및 제거에 관련될 수도 있다. 예의 기법들은 현재 화상을 코딩하기 전에 DPB로부터 디코딩된 화상을 제거할 수도 있다. 예를 들면, 예의 기법들은 디코딩된 화상이 현재 화상의 참조 화상 세트에서 식별되지 않으면 그리고 그 디코딩된 화상이 출력을 위해 필요하지 않으면 (즉, 그것이 출력을 위해 의도되지 않았거나 또는 그것이 출력을 위해 의도되었지만 이미 출력되었다면) 그 디코딩된 화상을 제거할 수도 있다.

도 1은 본 개시에서 설명되는 기법들을 활용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템 (10) 을 도시하는 블록도이다. 대체로, 참조 화상 세트는, 디코딩 순서에서 연관된 화상보다 선행하는 모든 참조 화상들로 구성되며 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 화상에 연관된 참조 화상들의 세트로서 정의된다. 일부 예들에서, 연관된 화상보다 선행하는 참조 화상들은 다음의 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지의 참조 화상들일 수도 있다. 다르게 말하면, 참조 화상 세트에서의 참조 화상들은 모두가 디코딩 순서에서 현재 화상보다 선행할 수도 있다. 또한, 참조 화상 세트에서의 참조 화상들은 현재 화상을 인터 예측하기 위해 및/또는 디코딩 순서에서 다음의 IDR 화상 또는 BLA 화상까지 현재 화상에 후속하는 임의의 화상을 인터 예측하기 위해 사용될 수도 있다.

참조 화상 세트의 다른 대체 정의들이 있을 수도 있다. 예를 들어, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있고 연관된 화상의 temporal_id 이하인 temporal_id를 갖는, 연관된 화상 자체를 제외한, 모든 참조 화상들로 구성되는, 화상에 연관된 참조 화상들의 세트일 수도 있다. temporal_id는 시간적 식별 값일 수도 있다. 그 시간적 식별 값은 어떤 화상들이 현재 화상을 코딩하기 위해 사용될 수 있는지를 나타내는 계층 값일 수도 있다. 일반적으로, 특정 temporal_id 값을 갖는 화상은 아마도 동일하거나 큰 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있거나, 그 반대의 경우는 아니다. 예를 들어, 1의 temporal_id 값을 갖는 화상은 아마도 1, 2, 3,...의 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 0의 temporal_id 값을 갖는 화상에 대해서는 아닐 수 있다.

최저 temporal_id 값은 또한 최저 디스플레이 레이트를 나타낼 수도 있다. 예를 들어, 비디오 디코더가 0의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 7.5 개 화상들일 수도 있다. 비디오 디코더가 0 및 1의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 15 개 화상들일 수도 있는 등등이다.

다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 연관된 화상 자체를 제외한, 모든 참조 화상들로 구성되는 화상에 연관된 참조 화상들의 세트일 수도 있다. 또 다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 아마도 연관된 화상 자체를 포함하는, 모든 참조 화상들로 구성되는, 화상에 연관된 참조 화상들의 세트로서 정의될 수도 있다. 다른 예로서, 참조 화상 세트는, 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있고 연관된 화상의 temporal_id 이하인 temporal_id를 갖는, 아마도 연관된 화상 자체를 포함하는, 모든 참조 화상들로 구성되는, 화상에 연관된 참조 화상들의 세트로서 정의될 수도 있다.

또 다른 예로서, 참조 화상 세트의 위의 정의들에서, 어구 "인터 예측을 위해 사용될 수도 있는"은 "인터 예측을 위해 사용되는"으로 대체된다. 비록 참조 화상 세트의 대체 정의들이 있을 수도 있지만, 본 개시에서, 그 예들은 디코딩 순서에서 연관된 화상보다 선행하는 모든 참조 화상들로 구성되며 연관된 화상 또는 디코딩 순서에서 연관된 화상에 후속하는 임의의 화상의 인터 예측을 위해 사용될 수도 있는, 화상에 연관된 참조 화상들의 세트인 참조 화상 세트의 정의로 설명된다.

예를 들어, 참조 화상 세트에서의 참조 화상들의 일부는 디코딩 순서에서 현재 화상에 후속하는 화상들은 아니고 현재 화상의 블록들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들이다. 참조 화상 세트에서의 참조 화상들의 일부는 현재 화상의 블록 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들에서의 블록을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들이다. 참조 화상 세트에서의 참조 화상들의 일부는, 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들에서의 블록을 인터 예측하기 위해 잠재적으로 사용될 수 있고 현재 화상에서의 블록을 인터 예측하기 위해 사용될 수 없는 참조 화상들이다.

본 개시에서 사용되는 바와 같이, 인터 예측을 위해 잠재적으로 사용될 수 있는 참조 화상들은, 인터 예측을 위해 사용될 수 있지만 인터 예측을 위해 반드시 사용되어야만 하는 것은 아닌 참조 화상들을 말한다. 예를 들어, 참조 화상 세트는 인터 예측을 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 그러나, 이는 식별된 참조 화상들의 모두가 인터 예측을 위해 사용되어야만 하는 것을 의미하지는 않는다. 오히려, 이들 식별된 참조 화상들 중 하나 이상은 인터 예측을 위해 사용될 수 있지만, 모두가 인터 예측을 위해 반드시 사용되어야만 하는 것은 아니다.

도 1에 도시된 바와 같이, 시스템 (10) 은 목적지 디바이스 (14) 에 의한 디코딩을 위해 인코딩된 비디오를 생성하는 소스 디바이스 (12) 를 구비한다. 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 각각이 비디오 코딩 디바이스의 일 예일 수도 있다. 소스 디바이스 (12) 는 인코딩된 비디오를 통신 채널 (16) 을 통해 목적지 디바이스 (14) 로 송신할 수도 있거나 또는 인코딩된 비디오를 저장 매체 (17) 또는 파일 서버 (19) 상에 저장할 수도 있어서, 인코딩된 비디오는 목적지 디바이스 (14) 에 의해 원하는 대로 액세스될 수도 있다.

소스 디바이스 (12) 와 목적지 디바이스 (14) 는, 무선 핸드셋 이를테면 이른바 "스마트" 폰들, 이른바 "스마트" 패드들, 또는 무선 통신을 위해 장비된 다른 이러한 무선 디바이스들을 포함하는 넓은 범위의 디바이스들 중 임의의 것을 포함할 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 의 부가적인 예들은, 디지털 텔레비전, 디지털 직접 브로드캐스트 시스템 내 디바이스, 무선 브로드캐스트 시스템 내 디바이스, 개인휴대 정보단말들 (PDA), 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿 컴퓨터, 이-북 리더, 디지털 카메라, 디지털 레코딩 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 디바이스, 비디오 게임 콘솔, 셀룰러 무선 전화기, 위성 무선 전화기, 비디오 원격회의 디바이스, 및 비디오 스트리밍 디바이스, 무선 통신 디바이스 등을 포함하지만 그것들로 제한되지 않는다.

위에서 나타낸 바와 같이, 많은 경우들에서, 소스 디바이스 (12) 및/또는 목적지 디바이스 (14) 는 무선 통신을 위해 장비될 수도 있다. 그런고로, 통신 채널 (16) 은 무선 채널, 유선 채널, 또는 인코딩된 비디오 데이터의 송신에 적합한 무선 및 유선 채널들의 조합을 포함할 수도 있다. 마찬가지로, 파일 서버 (19) 는 목적지 디바이스 (14) 에 의해 인터넷 접속을 포함한 임의의 표준 데이터 접속을 통해 액세스될 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다.

본 개시의 기법들은, 그러나, 다양한 멀티미디어 애플리케이션들, 이를테면 OTA (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들 중 임의의 것의 지원 하의 비디오 코딩, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들에 적용될 수도 있다. 일부 예들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단-방향 또는 양-방향 비디오 송신을 지원하도록 구성될 수도 있다.

도 1의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 변조기/복조기 (MODEM) (22) 및 출력 인터페이스 (24) 를 구비한다. 소스 디바이스 (12) 에서, 비디오 소스 (18) 는 비디오 캡처 디바이스, 이를테면 비디오 카메라, 이전에 캡처된 비디오를 담고 있는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 및/또는 컴퓨터 그래픽스 데이터를 소스 비디오로서 생성하는 컴퓨터 그래픽스 시스템과 같은 소스, 또는 그런 소스들의 조합을 포함할 수도 있다. 하나의 예로서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 이른바 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 본 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다.

캡처된, 사전-캡처된 (pre-captured), 또는 컴퓨터-생성 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 모뎀 (22) 에 의해 변조되고, 출력 인터페이스 (24) 를 통해 목적지 디바이스 (14) 로 송신될 수도 있다. 모뎀 (22) 은 다양한 믹서들, 필터들, 증폭기들 또는 신호 변조를 위해 설계된 다른 컴포넌트들을 구비할 수도 있다. 출력 인터페이스 (24) 는 증폭기들, 필터들, 및 하나 이상의 안테나들을 포함하는, 데이터를 송신하기 위해 설계된 회로들을 구비할 수도 있다.

비디오 인코더 (20) 에 의해 인코딩되는 캡처된, 사전-캡처된, 또는 컴퓨터-생성 비디오는 또한 나중의 소비를 위해 저장 매체 (17) 또는 파일 서버 (19) 상에 저장될 수도 있다. 저장 매체 (17) 는 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 또는 인코딩된 비디오를 저장하는 임의의 다른 적합한 디지털 저장 매체들을 포함할 수도 있다. 저장 매체 (17) 상에 저장된 인코딩된 비디오는 그 다음에 디코딩 및 플레이백을 위해 목적지 디바이스 (14) 에 의해 액세스될 수도 있다.

파일 서버 (19) 는 인코딩된 비디오를 저장하고 그 인코딩된 비디오를 목적지 디바이스 (14) 에 송신하는 것이 가능한 임의의 유형의 서버일 수도 있다. 예의 파일 서버들은 웹 서버 (예컨대, 웹사이트 용), FTP 서버, 네트워크 접속 스토리지 (network attached storage; NAS) 디바이스들, 로컬 디스크 드라이브, 또는 인코딩된 비디오 데이터를 저장하고 그것을 목적지 디바이스에 송신하는 것이 가능한 임의의 다른 유형의 디바이스를 포함한다. 파일 서버 (19) 로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 양쪽 모두의 조합일 수도 있다. 파일 서버 (19) 는 목적지 디바이스 (14) 에 의해 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 액세스될 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀, 이더넷, USB 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다.

목적지 디바이스 (14) 는, 도 1의 예에서, 입력 인터페이스 (26), 모뎀 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 구비한다. 목적지 디바이스 (14) 의 입력 인터페이스 (26) 는, 하나의 예로서 채널 (16) 을 통해, 또는 대체 예들로서 저장 매체 (17) 또는 파일 서버 (19) 로부터 정보를 수신하고, 모뎀 (28) 은 그 정보를 복조하여 비디오 디코더 (30) 를 위한 복조된 비트스트림을 생성한다. 복조된 비트스트림은 비디오 데이터 디코딩 시에 비디오 디코더 (30) 에 의한 사용을 위해 비디오 인코더 (20) 에 의해 생성된 다양한 신택스 정보를 포함할 수도 있다. 이러한 신택스는 또한 저장 매체 (17) 또는 파일 서버 (19) 상에 저장되는 인코딩된 비디오 데이터와 함께 포함될 수도 있다. 하나의 예로서, 그 신택스는 인코딩된 비디오 데이터와 함께 삽입될 수도 있지만, 본 개시의 양태들은 이러한 요건으로 제한되는 것으로 간주되지 않아야 한다. 비디오 디코더 (30) 에 의해 또한 사용되는, 비디오 디코더 (20) 에 의해 정의된 신택스 정보는, 비디오 블록들, 이를테면 코딩 트리 단위 (coding tree unit; CTU) 들, 코딩 트리 블록 (coding tree block; CTB) 들, 예측 단위 (prediction unit; PU) 들, 코딩 단위 (coding unit; CU) 들 또는 코딩된 비디오의 다른 단위들, 예컨대, 비디오 슬라이스들, 비디오 화상들, 비디오 시퀀스들 또는 GOP (group of pictures) 들의 특성들 및/또는 프로세싱을 서술하는 신택스 엘리먼트들을 포함할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 비디오 데이터를 인코딩 또는 디코딩하는 것이 가능한 개별 인코더-디코더 (CODEC) 의 부분을 형성할 수도 있다.

디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나, 또는 그것 외부에 있을 수도 있다. 일부 예들에서, 목적지 디바이스 (14) 는 통합형 디스플레이 디바이스를 포함할 수도 있고 또한 외부 디스플레이 디바이스와 인터페이싱하도록 구성될 수도 있다. 다른 예들에서, 목적지 디바이스 (14) 는 디스플레이 디바이스일 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다.

도 1의 예에서, 통신 채널 (16) 은 임의의 무선 또는 유선 통신 매체, 이를테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들, 또는 무선 및 유선 매체들의 임의의 조합을 포함할 수도 있다. 통신 채널 (16) 은 패킷 기반 네트워크, 이를테면 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 부분을 형성할 수도 있다. 통신 채널 (16) 은, 유선 또는 무선 매체들의 임의의 적합한 조합을 포함하는, 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 비디오 데이터를 송신하기 위한 임의의 적합한 통신 매체, 또는 상이한 통신 매체들의 컬렉션을 일반적으로 나타낸다. 통신 채널 (16) 은 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장안들을 포함하는 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 와 같은 비디오 압축 표준에 따라 동작할 수도 있다. 덧붙여서, ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 동 화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 현재 개발 중인 새로운 비디오 코딩 표준, 즉 고효율 비디오 코딩 (HEVC) 이 있다. HEVC의 최근의 작업 초안 (WD) (이하, HEVC WD8이라고 지칭됨) 은, 2012년 7월 20일 현재로, http://phenix.int-evry.fr/jct/doc_end_user/documents/10_Stockholm/wg11/JCTVC-J1003-v8.zip에서 입수가능하다.

본 개시의 기법들은, 그러나, 임의의 특정 코딩 표준으로 제한되지 않는다. 예시만을 목적으로, 그 기법들은 HEVC 표준에 따라 설명된다.

비록 도 1에 도시되지 않았지만, 일부 양태들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각이 오디오 인코더 및 디코더와 통합될 수도 있고, 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함하여, 공통 데이터 스트림 또는 개별 데이터 스트림들에서의 오디오 및 비디오 양쪽 모두의 인코딩을 핸들링할 수도 있다. 적용가능하다면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜 (UDP) 과 같은 다른 프로토콜들을 준수할 수도 있다.

비디오 인코더 (20) 와 비디오 디코더 (30) 각각은 다양한 적합한 인코더 회로, 이를테면 마이크로프로세서들을 포함하는 하나 이상의 프로세서들, 디지털 신호 프로세서들 (DSPs), 주문형 집적회로들 (ASICs), 필드 프로그램가능 게이트 어레이들 (FPGAs), 개별 로직, 소프트웨어, 하드웨어, 펌웨어 또는 그것들의 임의의 조합 중 임의의 것으로서 구현될 수도 있다. 그 기법들이 소프트웨어에서 부분적으로 구현되는 경우, 디바이스는 본 개시의 기법들을 수행하기 위해, 적합한 비일시적 컴퓨터 판독가능 매체 내에 소프트웨어에 대한 명령을 저장하고 하나 이상의 프로세서들을 사용하여 하드웨어에서 그 명령들을 실행할 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들 내에 구비될 수도 있고, 그것들 중 어느 하나는 결합형 인코더/디코더 (CODEC) 의 부분으로서 개별 디바이스 내에 통합될 수도 있다. 일부 경우들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 정보 (예컨대, 화상들 및 신택스 엘리먼트들) 를 코딩하는 비디오 코더라고 일반적으로 지칭될 수도 있다. 정보의 코딩은 비디오 코더가 비디오 인코더 (20) 에 해당하는 경우에 인코딩을 말할 수도 있다. 정보의 코딩은 비디오 코더가 비디오 디코더 (30) 에 해당하는 경우에 디코딩을 말할 수도 있다.

더욱이, 본 개시에서 설명되는 기법들은 정보를 시그널링하는 비디오 인코더 (20) 를 말할 수도 있다. 비디오 인코더 (20) 가 정보를 시그널링하는 경우, 본 개시의 기법들은 일반적으로 비디오 인코더 (20) 가 정보를 제공하는 임의의 방식을 말한다. 예를 들어, 비디오 인코더 (20) 가 신택스 엘리먼트들을 비디오 디코더 (30) 로 시그널링하는 경우, 그것은 비디오 인코더 (20) 가 신택스 엘리먼트들을 출력 인터페이스 (24) 및 통신 채널 (16) 을 통해 비디오 디코더 (30) 로 전송했다는 것, 또는 비디오 인코더 (20) 가 신택스 엘리먼트들을 비디오 디코더 (30) 에 의한 최종적인 수신을 위해 출력 인터페이스 (24) 를 통해 저장 매체 (17) 및/또는 파일 서버 (19) 상에 저장했다는 것을 의미할 수도 있다. 이런 식으로, 비디오 인코더 (20) 로부터 비디오 디코더 (30) 로의 시그널링은, 비디오 디코더 (30) 에 의해 즉시 수신되는 비디오 인코더 (20) 로부터의 송신을 필요로 하는 것으로 해석되지 않아야 하지만, 이것이 가능할 수도 있다. 오히려, 비디오 인코더 (20) 로부터 비디오 디코더 (30) 로의 시그널링은, 직접 또는 중간 스토리지를 통해 (예컨대, 저장 매체 (17) 및/또는 파일 서버 (19) 에서), 비디오 인코더 (20) 가 비디오 디코더 (30) 에 의한 최종적인 수신을 위해 정보를 제공하게 하는 임의의 기법으로서 해석되어야 한다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 본 개시에서 설명되는 예의 기법들을 구현하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 는 화상 당 한 번 참조 화상 세트를 도출하기 위해 프로세스를 호출할 수도 있다. 비디오 디코더 (30) 는 슬라이스 헤더의 디코딩 후이지만, 임의의 코딩 단위의 디코딩 전에 그리고 슬라이스의 참조 화상 리스트 구축을 위한 디코딩 프로세스 전에 참조 화상 세트를 도출하기 위해 프로세스를 호출할 수도 있다.

위에서 설명된 바와 같이, 참조 화상 세트는, 현재 화상 및 디코딩 순서에서 다음의 IDR (instantaneous decoding refresh) 화상, 또는 BLA (broken link access) 화상까지 미래에 코딩되는 화상들의 디코딩 프로세스에서 사용되는 참조 화상들의 절대 서술 (absolute description) 이다. 본 개시에서 설명되는 예들에서, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들을 결정할 수 있게 하는 값들을 명시적으로 시그널링할 수도 있다. 그 참조 화상 세트 시그널링은, 특정한 화상들, 예컨대, IDR 화상들을 제외하면, 참조 화상 세트에 포함된 모든 참조 화상들이 명시적으로 열거되며, 어떤 참조 화상 세트 신택스 엘리먼트들도 슬라이스 헤더에 포함되지 않고 참조 화상 세트는 비워지도록 유도된다는 의미에서 명시적이다.

비디오 디코더 (30) 가 참조 화상 세트를 도출하기 위해 활용할 수도 있는 코딩된 비트스트림으로 비디오 인코더 (20) 가 신택스 엘리먼트들을 시그널링할 수도 있는 다양한 방법들이 있을 수도 있다. 예를 들어, 비디오 인코더 (20) 는 화상 파라미터 세트 (PPS), 시퀀스 파라미터 세트 (SPS), 화상 헤더 (만약 있다면), 슬라이스 헤더, 또는 그것들의 임의의 조합으로 신택스 엘리먼트들을 시그널링할 수도 있다. 예시만을 목적으로, 비디오 인코더 (20) 는, 더 상세히 설명되는 바와 같이, SPS, PPS, 및 슬라이스 헤더를 사용하여 신택스 엘리먼트들을 시그널링할 수도 있다.

참조 화상 세트를 도출하기 위해, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 화상들에 대한 식별자들을 결정하기 위해 디코딩 프로세스를 이행할 수도 있다. 비디오 디코더 (30) 는 그 다음에 서브세트들의 각각이 참조 화상 세트에 속하는 0 개 이상의 참조 화상들을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 비디오 디코더 (30) 는 구축된 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 특정 순서로 복수의 참조 화상 서브세트들을 열거할 수도 있다.

비디오 디코더 (30) 가 참조 화상 세트에 속하는 화상들에 대한 식별자들을 결정할 수도 있는 다양한 방법들이 있을 수도 있다. 대체로, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트에 속하는 화상들을 포함하는 화상들에 대한 식별자들을 결정할 수도 있게 하는 값들을 시그널링할 수도 있다. 그 화상들의 식별자들은 PicOrderCnt (즉, 화상 순서 카운트 (POC) 값들) 일 수도 있다. 위에서 설명된 바와 같이, POC 값은, 작은 POC 값들을 갖는 화상들이 큰 POC 값들을 갖는 화상들보다 앞서 디스플레이되는 화상의 디스플레이 또는 출력 순서를 나타낼 수도 있다. 주어진 화상의 POC 값은 이전의 IDR (instantaneous decoding refresh) 화상을 기준으로 할 수도 있다. 예를 들어, IDR 화상에 대한 PicOrderCnt (즉, POC 값) 는 0일 수도 있으며, 디스플레이 또는 출력 순서에서 IDR 화상 뒤의 화상에 대한 POC 값은 1일 수도 있으며, 디스플레이 또는 출력 순서에서 POC 값 1을 갖는 화상 뒤의 화상에 대한 POC 값은 2일 수도 있다는 등등이다.

본 개시에서 설명되는 기법들에 따르면, 현재 화상이 IDR 화상이 아닌 경우, 다음이 현재 화상의 POC 값을 도출하기 위해 적용될 수도 있다. 다음은 이해를 돕기 위한 것이며 제한하는 것으로서 간주되지 않아야 한다.

예를 들어, 다음의 모두를 포함하는 화상들의 리스트에 연관된 PicOrderCnt 값들 (POC 값들) 을 엘리먼트들로서 포함하는 리스트 변수 listD를 고려한다: (1) 리스트에서의 제 1 화상은 디코딩 순서에서 이전의 IDR 화상이고, (2) 모든 다른 화상들은 디코딩 순서에서 리스트에서의 제 1 화상 뒤를 따르고 디코딩 순서에서 현재 화상에 선행하거나 또는 현재 화상이다. 이 예에서, 현재 화상은 참조 화상 세트에 대한 도출 프로세스의 호출 전에 listD에 포함된다. 또한, POC 값들의 오름 차순으로 소트된 listD의 엘리먼트들을 포함하는 리스트 변수 listO를 고려한다. 이 예에서, listO는 다른 화상의 POC 값과 동일한 값을 가지는 POC 값을 포함하지 않을 수도 있다.

일부 예들에서, POC 값들은 -2^pocLen ^-1 내지 2^pocLen ^-1 - 1의 범위로 제한될 수도 있다. 이 예에서, pocLen은 long_term_ref_pic_id_len_delta + long_term_ref_pic_id_delta_len_minus4 + 4와 동일할 수도 있다. long_term_ref_pic_id_len_delta, 및 long_term_ref_pic_id_delta_len_minus4는, 아래에서 더 상세히 설명되는 바와 같이, 비디오 디코더 (30) 가 코딩된 비트스트림에서 화상 파라미터 세트 신택스의 부분으로서 수신하는 신택스 엘리먼트들일 수도 있다. 다른 예로서, POC 값들은 -2³¹ 내지 2³¹ - 1의 범위로 제한될 수도 있다.

하나의 예로서, 비디오 디코더 (30) 는 코딩된 비트스트림 (즉, 비디오 인코더 (20) 에 의해 시그널링된 비트스트림) 에서, pic_order_cnt_lsb 신택스 엘리먼트를 수신할 수도 있다. pic_order_cnt_lsb 신택스 엘리먼트는 코딩된 화상에 대한 화상 순서 카운트 모듈로 MaxPicOrderCntLsb를 특정할 수도 있다. pic_order_cnt_lsb 신택스 엘리먼트의 길이는 log2_max_pic_order_cnt_lsb_minus4 + 4 비트일 수도 있다. pic_order_cnt_lsb의 값은 0 내지 MaxPicOrderCntLsb - 1의 범위에 있을 수도 있다. 비디오 디코더 (30) 는 디코딩될 현재 화상에 대한 슬라이스 헤더 신택스에서 pic_order_cnt_lsb 신택스 엘리먼트를 수신할 수도 있다.

비디오 디코더 (30) 는 또한 비디오 인코더 (20) 에 의해 시그널링된 코딩된 비트스트림에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. 비디오 디코더 (30) 는 시퀀스 파라미터 세트에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. log2_max_pic_order_cnt_lsb_minu4의 값은 0 내지 12의 범위에 있을 수도 있다. log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트는 비디오 디코더 (30) 가 POC 값들을 결정하기 위해 디코딩 프로세스에서 사용하는 변수 MaxPicOrderCntLsb의 값을 특정할 수도 있다. 예를 들면 다음과 같다:

MaxPicOrderCntLsb = 2⁽ ^log2 ^_ ^max ^_ ^pic ^_ ^order ^_ ^cnt ^_ ^lsb ^_ ^minus4 ^{+ 4)} _.

이들 수신된 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 현재 화상의 POC 값을 다음과 같이 결정할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 현재 화상에 대한 PicOrderCntMsb를 결정할 수도 있다. 현재 화상에 대한 POC 값은 현재 화상에 대한 결정된 PicOrderCntMsb 더하기 현재 화상에 대한 수신된 pic_order_cnt_lsb일 수도 있다.

다음에서, 함수 PicOrderCnt(picX) 은 화상 X에 대한 POC 값과 동일하다. 함수 DiffPicOrderCnt(picA, picB) 는 PicOrderCnt(picA) 빼기 PicOrderCnt(picB) 와 동일하다. 일부 예들에서, 코딩된 비트스트림은 -2¹⁵ 내지 2¹⁵ - 1의 범위를 초과하는 디코딩 프로세스에서 사용되는 DiffPicOrderCnt(picA, picB) 의 값들이 되는 데이터를 포함하지 않을 수도 있다. 더욱이, DiffPicOrderCnt(X, Y) 및 DiffPicOrderCnt(X, Z) 양쪽 모두가 양이거나 또는 양쪽 모두가 음인 경우에 Y 및 Z는 X로부터의 동일한 출력 순서 방향이라고 간주하고, X는 현재 화상이고 Y 및 Z는 동일한 시퀀스에서의 2 개의 다른 화상들이라고 하자. 또한, 일부 예들에서, 비디오 인코더 (20) 는 이전의 IDR 화상의 샘플링 시간을 기준으로 대응하는 화상의 샘플링 시간에 비례하는 PicOrderCnt를 할당할 수도 있다.

현재 화상에 대한 POC 값을 결정하는 프로세스의 부분으로서, 비디오 디코더 (30) 는 변수들 prevPicOrderCntMsb 및 prevPicOrderCntLsb를 결정할 수도 있다. 예를 들어, 현재 화상이 IDR 화상이면, 비디오 디코더 (30) 는 prevPicOrderCntMsb를 0과 동일하게 설정하고, prevPicOrderCntLsb를 0과 동일하게 설정할 수도 있다. 그렇지 않으면 (즉, 현재 화상이 IDR 화상이 아닌 경우), 비디오 디코더 (30) 는 prevPicOrderCntMsb를 디코딩 순서에서 현재 화상보다 작거나 같은 temporal_id를 갖는 이전의 참조 화상의 PicOrderCntMsb와 동일하게 설정하고, prevPicOrderCntLsb를 디코딩 순서에서 현재 화상보다 작거나 같은 temporal_id를 갖는 이전의 참조 화상의 pic_order_cnt_lsb의 값과 동일하게 설정할 수도 있다.

이들 변수 값들 및 신택스 엘리먼트들의 값들 (예컨대, prevPicOrderCntMsb, prevPicOrderCntLsb, pic_order_cnt_lsb, 및 MaxPicOrderCntLsb의 값들) 로, 비디오 디코더 (30) 는 다음의 의사 코드에서 언급된 단계들에 기초하여 PicOrderCntMsb의 값을 결정할 수도 있다. 비디오 디코더 (30) 는 다음의 의사 코드에서 언급된 단계들을 이행하여, 현재 화상의 POC 값을 도출하는데 사용되는 각각의 현재 화상에 대한 PicOrderCntMsb를 결정할 수도 있다는 것이 이해되어야 한다.

현재 화상에 대한 PicOrderCntMsb를 결정한 후, 비디오 디코더 (30) 는 현재 화상에 대한 PicOrderCntMsb 및 현재 화상에 대한 pic_order_cnt_lsb에 기초하여 현재 화상에 대한 POC 값을 결정할 수도 있다. 비디오 디코더 (30) 는 현재 화상에 대한 POC 값을 다음과 같이 결정할 수도 있다:

화상의 디코딩 후, 비디오 디코더 (30) 는, 참조 화상 세트에 속하는 참조 화상들의 각각을 포함하여 그 화상에 대한 PicOrderCntMsb 값, pic_order_cnt_lsb 값, 및 POC 값을 비디오 디코더 (30) 의 디코딩된 화상 버퍼 (DPB) 에 저장할 수도 있다. 이런 식으로, DPB에서의 각각의 화상은 POC 값, PicOrderCntMsb 값, 및 pic_order_cnt_lsb 값과 연관된다.

현재 화상의 참조 화상 세트에 포함된 참조 화상들의 POC 값들을 결정하는 방법들은 아래에서 더 상세히 설명된다. 결정된 POC 값들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 대한 도출 프로세스를 이행할 수도 있다. 그러나, 비디오 디코더 (30) 가 참조 화상 세트에 대한 도출 프로세스를 이행하는 방식을 설명하기 전에, 다음에서는 비디오 디코더 (30) 가 비디오 인코더 (20) 에 의해 시그널링된 코딩된 비트스트림에서 수신할 수도 있는 신택스 엘리먼트들의 표들이 제공된다. 예를 들어, 비디오 인코더 (20) 는 다음의 표들에서의 신택스 엘리먼트들을 비디오 디코더 (30) 가 수신하는 코딩된 비트스트림에서 시그널링할 수도 있다. 이들 신택스 엘리먼트들의 일부는 위에서 설명되어 있다. 그 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 포함된 참조 화상들의 POC 값들을 결정하고 추가로 참조 화상 세트를 도출할 수도 있다.

예를 들어, 본 개시에서 설명된 기법들에서, 다음의 신택스 구조들은 이전의 비디오 코딩 표준들과 비교하여 수정된다: 시퀀스 파라미터 세트 (SPS) 원시 바이트 시퀀스 패이로드 (RBSP) 신택스, seq_paramater_set_rbsq(), 화상 파라미터 세트 (PPS) RBSP 신택스, pic_parameter_set_rbsp(), 슬라이스 헤더 신택스, slice_header(), 및 참조 화상 리스트 수정 신택스, ref_pic_list_modification(). 참조 화상 리스트 수정은 참조 화상 세트를 도출하고 하나 이상의 참조 화상 리스트들을 초기화하는 설명에 후속하여 더 상세히 설명된다.

또한, 본 개시에서 설명되는 기법들에 따르면, 다음의 신택스 구조들이 코딩된 비트스트림에 추가된다: 단기 참조 화상 세트 신택스, short_term_ref_pic_set(), 및 장기 참조 화상 세트 신택스, long_term_ref_pic_set(). 비디오 디코더 (30) 는 참조 화상 서브세트들을 구축하는 목적으로 단기 참조 화상 세트 신택스 및 장기 참조 화상 세트 신택스를 활용할 수도 있고, 비디오 디코더 (30) 는 참조 화상 서브세트들로부터 참조 화상 세트를 도출한다.

예를 들면, 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정하는 비디오 디코더 (30) 를 위해, 비디오 인코더 (20) 는 참조 화상 식별 정보를 시그널링할 수도 있으며, 그 참조 화상 식별 정보를 비디오 디코더 (30) 가 사용하여 POC 값들을 화상 파라미터 세트에서 결정하고 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있다. 그러나, 이는 비디오 인코더 (20) 가 이러한 참조 화상 식별 정보를 시그널링할 수도 있는 하나의 예의 방식이다.

하나의 대체 예에서, 비디오 인코더 (20) 는 참조 화상 정보를 시퀀스 파라미터 세트에서 시그널링할 수도 있고 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있으며, 이는 시그널링 오버헤드를 감소시킬 수도 있다. 다른 대체 예에서, 비디오 코더는 참조 화상 정보를 새로운 유형의 파라미터 세트 (예컨대, 참조 화상 세트 파라미터 세트 (RPSPS)) 에서 시그널링할 수도 있고, RPSPS id 뿐만 아니라 참조 화상 식별 정보의 리스트에 대한 인덱스 양쪽 모두가 슬라이스 헤더에서 참조될 수도 있다. 이는 시그널링 오버헤드를 감소시킬 뿐만 아니라 화상 파라미터 세트들 또는 시퀀스 파라미터 세트들의 수에 대한 필요를 증가시키지 않을 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 이들 예의 기법들의 임의의 조합을 활용하여 참조 화상 식별 정보를 시그널링할 수도 있다.

표 1. 시퀀스 파라미터 세트 RBSP 신택스

pic _ width _ in _ luma _ samples는 루마 샘플들에서 각각의 디코딩된 화상의 폭을 특정할 수도 있다. pic_width_in_luma_samples의 값은 0 내지 2¹⁶-1의 범위에 있을 수도 있다.

pic _ height _ in _ luma _ samples는 루마 샘플들에서 각각의 디코딩된 화상의 높이를 특정할 수도 있다. pic_height_in_luma_samples의 값은 0 내지 2¹⁶-1의 범위에 있을 수도 있다.

표 1에 나타낸 바와 같이, 비디오 디코더 (30) 는 시퀀스 파라미터 세트 (SPS) 에서 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 수신할 수도 있다. 위에서 설명된 바와 같이, log2_max_pic_order_cnt_lsb_minu4의 값은 비디오 디코더 (30) 가 POC 값들을 결정하는 디코딩 프로세스에서 사용하는 변수 MaxPicOrderCntLsb의 값을 특정할 수도 있으며, 여기서 MaxPicOrderCntLsb = 2^{(log2_max_pic_order_cnt_lsb_minus4 + 4)}이다_.

표 2. 화상 파라미터 세트 RBSP 신택스

num _ short _ term _ ref _ pic _ sets _ pps는 화상 파라미터 세트에 포함되는 short_term_ref_pic_set( ) 신택스 구조들의 수를 특정한다. num_short_term_ref_pic_sets_pps의 값은 0 내지 32의 범위에 있을 것이다.

0과 동일한 long _ term _ ref _ pics _ present _ flag는, 어떤 장기 참조 화상도 화상 파라미터 세트를 참조하는 임의의 코딩된 화상의 인터 예측을 위해 사용되지 않고 신택스 엘리먼트들 long_term_ref_pic_id_delta_len_minus4, long_term_ref_pic_id_len_delta 및 num_long_term_ref_pics_pps은 존재하지 않는다는 것을 특정한다. 1과 동일한 long_term_ref_pics_present_flag는 장기 참조 화상들이 화상 파라미터 세트를 참조하는 하나 이상의 코딩된 화상의 인터 예측을 위해 사용될 수도 있고 신택스 엘리먼트들 long_term_ref_pic_id_delta_len_minus4, long_term_ref_pic_id_len_delta 및 num_long_term_ref_pics_pps가 존재한다는 것을 특정한다.

long _ term _ ref _ pic _ id _ delta _ len _ minus4 더하기 4는 long_term_ref_pic_id_delta_add_foll[i] 신택스 엘리먼트들의 비트 길이를 특정한다. long_term_ref_pic_id_delta_len_minus4의 값은 0 내지 12의 범위에 있을 것이다.

long _ term _ ref _ pic _ id _ len _ delta 더하기 long_term_ref_pic_id_delta_len_minus4 더하기 4는 long_term_ref_pic_id_pps[i] 신택스 엘리먼트의 비트 길이를 특정한다. long_term_ref_pic_id_len_delta의 값은 0 내지 28 - long_term_ref_pic_id_delta_len_minus4의 범위에 있을 수도 있다. 하나의 특정한 시퀀스 파라미터 세트를 참조하는 모든 화상 파라미터 세트들에서의 long_term_ref_pic_id_len_delta + long_term_ref_pic_id_delta_len_minus4 + 4 의 값은 동일할 수도 있다.

num _ long _ term _ ref _ pics _ pps는 화상 파라미터 세트에 포함되는 장기 참조 화상들의 식별ID들의 번호를 특정한다. num_long_term_ref_pics_pps의 값은 0 내지 32의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ id _ pps[i]는 화상 파라미터 세트에 포함되는 i-번째 장기 참조 화상 식별 정보를 특정한다. long_term_ref_pic_id_pps[i]를 표현하는 데 사용된 비트들의 수는 long_term_ref_pic_id_len_delta + long_term_pic_id_len_minus4 + 4와 동일할 수도 있다.

표 3. 단기 참조 화상 세트 신택스

단기 참조 화상 세트 신택스는 단기 화상을 위한 것일 수도 있다. 단기 화상은, 식별 정보가 슬라이스 헤더(들)에 포함되거나 또는 참조된 화상 파라미터 세트에 포함되고 슬라이스 헤더(들)에서의 short_term_ref_pic_set_idx 신택스 엘리먼트에 의해 참조되는 코딩된 화상에 대한 short_term_ref_pic_set() 신택스 구조에 포함되는 참조 화상으로서 정의될 수도 있다. 슬라이스 헤더 신택스 엘리먼트들은 아래의 표 4에서 제공된다.

num _ short _ term _ curr0은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStCurr0에서의 단기 참조 화상들의 수를 특정한다. num_short_term_curr0의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ short _ term _ curr1은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStCurr1에서의 단기 참조 화상들의 수를 특정한다. num_short_term_curr1의 값은 0 내지 max_num_ref_frames - num_short_term_curr0의 범위에 있을 수도 있다.

num _ short _ term _ foll0은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStFoll0에서의 단기 참조 화상들의 수를 특정한다. num_short_term_foll0의 값은 0 내지 max_num_ref_frames - num_short_term_curr0 - num_short_term_curr1의 범위에 있을 수도 있다.

num _ short _ term _ foll1은, 아래에서 설명되는 바와 같이, short_term_ref_pic_set( ) 신택스 구조가 코딩된 화상의 참조 화상 세트의 도출을 위해 사용되는 경우에 RefPicSetStFoll1에서의 단기 참조 화상들의 수를 특정한다. num_short_term_foll1의 값은 0 내지 max_num_ref_frames - num_short_term_curr0 - num_short_term_curr1 - num_short_term_foll0의 범위에 있을 것이다.

short _ term _ ref _ pic _ id _ delta _ minus1[i]은 short_term_ref_pic_set( ) 신택스 구조에 포함되는 i-번째 단기 참조 화상의 식별 정보를 특정한다.

표 4. 슬라이스 헤더 신택스

no _ output _ of _ prior _ pics _ flag는 디코딩된 화상 버퍼에서의 이전에 디코딩된 화상들이 IDR 화상의 디코딩 후에 처리되는 방법을 특정한다. IDR 화상이 비트스트림에서의 제 1 IDR 화상인 경우, no_output_of_prior_pics_flag의 값은 디코딩 프로세스에 아무런 영향을 미칠 수도 없다. IDR 화상이 비트스트림에서의 제 1 IDR 화상이 아니고 액티브 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값이 선행하는 화상에 대해 액티브한 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값과 상이할 수도 있는 경우, 1과 동일한 no_output_of_prior_pics_flag는, no_output_of_prior_pics_flag의 실제 값과 무관하게, 디코더에 의해 반드시 그런 것은 아니지만 유추될 수도 있다.

1과 동일한 short _ term _ ref _ pic _ set _ pps _ flag 는 현재 화상에 대한 참조 화상 세트에 포함되는 단기 참조 화상들의 세트의 식별 정보가 참조된 화상 파라미터 세트에 존재한다는 것을 특정한다. 0과 동일한 short_term_ref_pic_set_pps_flag 는 현재 화상에 대한 참조 화상 세트에 포함되는 단기 참조 화상들의 세트의 식별 정보가 참조된 화상 파라미터 세트에 존재하지 않는다는 것을 특정한다.

short _ term _ ref _ pic _ set _ idx는, 현재 화상에 대한 참조 화상 세트에서 단기 참조 화상들의 세트의 식별 정보를 포함하는, 참조된 화상 파라미터 세트에 포함되는 short_term_ref_pic_set( ) 신택스 구조의 인덱스를 특정한다.

변수 NumShortTermCurr0 및 NumShortTermCurr1은 다음과 같이 특정된다:

NumShortTermCurr0 = num_short_term_curr0

NumShortTermCurr1 = num_short_term_curr1

여기서 num_short_term_curr0 및 num_short_term_curr0은, 각각, 참조된 화상 파라미터 세트에 존재하고 short_term_ref_pic_set_idx에 의해 참조되거나, 또는 슬라이스 헤더에 직접 존재하는, short_term_ref_pic_set( ) 신택스 구조에서의 동일한 이름들의 신택스 엘리먼트들이다.

num _ ref _ idx _ l0 _ active _ minus1 은 슬라이스를 디코딩하는 데 사용될 참조 화상 리스트 0에 대한 최대 참조 인덱스를 특정한다.

현재 슬라이스가 P 또는 B 슬라이스이고 num_ref_idx_l0_active_minus1이 존재하지 않는 경우, num_ref_idx_l0_active_minus1은 num_ref_idx_l0_default_active_minus1과 동일하다고 유추될 수도 있다.

num_ref_idx_l0_active_minus1의 값은 0 내지 15의 범위에 있을 수도 있다.

num _ ref _ idx _ l1 _ active _ minus1 은 슬라이스를 디코딩하는 데 사용될 참조 화상 리스트 1에 대한 최대 참조 인덱스를 특정한다.

현재 슬라이스가 P 또는 B 슬라이스이고 num_ref_idx_l1_active_minus1이 존재하지 않는 경우, num_ref_idx_l1_active_minus1은 num_ref_idx_l1_default_active_minus1과 동일하다고 유추될 수도 있다.

num_ref_idx_l1_active_minus1의 값은 0 내지 15의 범위에 있을 수도 있다.

표 5. 장기 참조 화상 세트 신택스

장기 참조 화상 세트 신택스는 장기 화상들을 위한 것일 수도 있다. 장기 화상은 식별 정보가 코딩된 화상에 대한 long_term_ref_pic_set() 신택스 구조에 포함되는 참조 화상으로서 정의될 수도 있다.

num _ long _ term _ pps _ curr는 식별 정보가 참조된 화상 파라미터 세트에 포함되고 현재 화상의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_pps_curr가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_pps_curr의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ long _ term _ add _ curr는 식별 정보가 참조된 화상 파라미터 세트에 포함되지 않고 현재 화상의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_add_curr가 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_add_curr의 값은 0 내지 max_num_ref_frames - num_long_term_pps_curr의 범위에 있을 수도 있다.

변수 NumLongTermCurr는 다음과 같이 특정된다:

NumLongTermCurr = num_long_term_pps_curr + num_long_term_add_curr

num _ long _ term _ pps _ foll은, 식별 정보가 참조된 화상 파라미터 세트에 포함되며 현재 화상의 인터 예측을 위해 사용되지 않고 디코딩 순서에서 현재 화상에 후속하는 화상들 중 임의의 것의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_pps_foll이 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_pps_foll의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

num _ long _ term _ add _ foll 은 식별 정보가 참조된 화상 파라미터 세트에 포함되지 않으며 현재 화상의 인터 예측을 위해 사용되지 않고 디코딩 순서에서 후속하는 화상들 중 임의의 것의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 특정한다. num_long_term_add_foll이 존재하지 않으면, 그 값은 0과 동일한 것으로 도출될 수도 있다. num_long_term_add_foll의 값은 0 내지 max_num_ref_frames - num_long_term_pps_foll의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ set _ idx _ pps[i]는 참조된 화상 파라미터 세트에 포함되는 장기 참조 화상 식별 정보의 리스트에 대한, 참조된 화상 파라미터 세트로부터 현재 화상의 참조 화상 세트로 상속된 i-번째 장기 참조 화상의 인덱스를 특정한다. long_term_ref_pic_set_idx_pps[i]의 값은 0 내지 31의 범위에 있을 수도 있다.

long _ term _ ref _ pic _ id _ delta _ add[i] 는 참조된 화상 파라미터 세트로부터 상속되지 않았지만 현재 화상의 참조 화상 세트에 포함되는 i-번째 장기 참조 화상의 장기 참조 화상 식별 정보를 특정한다. long_term_ref_pic_id_add_curr[i]를 표현하는데 사용된 비트들의 수는 long_term_pic_id_len_minus4 + 4와 동일할 수도 있다.

위의 시그널링된 또는 도출된 값들 (즉, 표 1 내지 표 5에서의 값들) 로, 비디오 디코더 (30) 는 참조 화상 세트를 도출할 수도 있다. 위에서 설명된 바와 같이, 도출된 참조 화상 세트는, 현재 화상 (즉, 현재 디코딩되고 있는 화상) 및 디코딩 순서에서 현재 화상에 후속하는 화상들을 코딩/예측하는 데 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 본 개시에서 설명되는 기법들에 따르면, 도출된 참조 화상 세트에서 참조 화상들의 모두의 디코딩 순서는 현재 화상의 디코딩 순서보다 앞선다.

그 도출 프로세스는 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 구축하는 것을 포함할 수도 있다. 이 프로세스는, 슬라이스 헤더의 디코딩 후이지만 임의의 코딩 단위의 디코딩 전 및 슬라이스의 참조 화상 리스트 구축을 위한 디코딩 프로세스 전에, 화상 당 한 번 호출될 수도 있다. 예를 들어, 도출된 값들 및 시그널링된 신택스 엘리먼트들로부터, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정할 수도 있다. 결정된 POC 값들로부터, 비디오 디코더 (30) 는 참조 화상 세트를 함께 형성하는 참조 화상 서브세트들을 구축할 수도 있다. 이런 식으로, 참조 화상 서브세트들 구축하는 것에 의해, 비디오 디코더 (30) 는 참조 화상 세트를 구축할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 세트를 도출하기 위해 특정 방식으로 참조 화상 서브세트들을 순서화할 수도 있다. 순서화는 비디오 디코더 (30) 가 참조 화상 세트를 도출하기 위해 참조 화상 서브세트들을 열거하는 방식을 말할 수도 있다.

위에서 설명된 바와 같이, 참조 화상 세트를 도출하기 위해, 비디오 디코더 (30) 는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 6 개의 참조 화상 서브세트들을 구축할 수도 있다. 6 개의 참조 화상 서브세트들은 다음으로 명명될 수도 있다: RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll. RefPicSetStCurr0은 RefPicSetStCurrBefore라고 지칭될 수도 있고, RefPicSetStCurr1은 RefPicSetStCurrAfter라고 지칭될 수도 있다.

6 개의 참조 화상 서브세트들이 예시의 목적으로 설명된 것으로, 제한하는 것으로 해석되지 않아야 한다는 것이 이해되어야 한다. 하나의 예로서, 비디오 디코더 (30) 는, 예컨대, 서브세트들의 일부를 조합하는 것에 의해 6 개의 참조 화상 서브세트들보다 적은 참조 화상 서브세트들을 구축할 수도 있다. 비디오 디코더 (30) 가 6 개 미만의 참조 화상 서브세트들을 구축하는 이들 예들의 일부는 아래에서 설명된다. 그러나, 예시의 목적을 위해, 그 기법들은 비디오 디코더 (30) 가 6 개의 참조 화상 서브세트들을 구축하는 예들로 설명된다.

RefPicSetLtCurr 및 RefPicSetLtFoll 참조 화상 서브세트들은 장기 참조 화상들을 식별할 수도 있다. 일부 예들에서, 이들 참조 화상 서브세트들은 장기 참조 화상들이 코딩되고 있는 현재 화상보다 디스플레이 순서에서 앞서는지 또는 디스플레이 순서에서 나중인지에 기초하여 장기 참조 화상들을 식별할 수도 있다.

디코딩될 현재 화상이 IDR 화상이면, 비디오 디코더 (30) 는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들을 비어있도록 설정할 수도 있다. 이는 IDR 화상이 인터 예측되지 않을 수도 있고 디코딩 순서에서 IDR 화상 뒤에 있는 어떤 화상도 참조를 위해 디코딩 시에 IDR 화상보다 선행하는 임의의 화상을 사용할 수 없기 때문일 수도 있다. 그렇지 않으면 (예컨대, 현재 화상이 비-IDR 화상인 경우), 비디오 디코더 (30) 는 다음의 의사 코드를 이행하는 것에 의해 단기 참조 화상 서브세트들 및 장기 참조 화상 서브세트들을 구축할 수도 있다.

예를 들어, 비디오 디코더 (30) 가 슬라이스 헤더에서 또는 참조된 화상 파라미터 세트에 대한 참조에 의해 short_term_ref_pic_set() 신택스 구조의 인스턴스를 디코딩하는 경우, 비디오 디코더 (30) 는 다음의 의사 코드를 이행하여 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 참조 화상 서브세트들을 구축할 수도 있다.

비디오 디코더 (30) 가 long_term_ref_pics_present_flag가 0과 동일하다고 결정하면, 이 경우 장기 참조 화상들이 없기 때문에, 비디오 디코더 (30) 는 RefPicSetLtCurr 및 RefPicSetLtFoll을 비어있도록 설정할 수도 있다. 그렇지 않고, 비디오 디코더 (30) 가 슬라이스 헤더에서의 long_term_ref_pic_set() 신택스 구조의 인스턴스를 디코딩하면, 비디오 디코더 (30) 는 다음의 의사 코드를 이행하여 RefPicSetLtCurr 및 RefPicSetLtFoll 참조 화상 서브세트들을 구축할 수도 있다.

본 개시에서 설명되는 기법들에 따르면, PicOrderCnt의 특정 값 (POC 값) 을 갖는 참조 화상은, 참조 화상이 코딩된 화상의 참조 화상 세트의 6 개의 서브세트들 중 임의의 것에 포함되면, 그 코딩된 화상의 참조 화상 세트에 포함된 것이라고 지칭될 수도 있다. PicOrderCnt의 특정 값을 갖는 참조 화상은, PicOrderCnt의 특정 값 (POC 값) 이 참조 화상 세트의 특정 서브세트에 포함된 PicOrderCnt 값들 중 하나와 동일하면, 그 특정 서브세트에 포함된 것이라고 지칭된다.

참조 화상 서브세트들을 구축한 후, 비디오 디코더 (30) 는 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 서브세트들을 순서화하여 참조 화상 세트를 도출할 수도 있다. 하나의 예로서, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트, 후속하여 RefPicSetStCurr1 참조 화상 서브세트, 후속하여 RefPicSetStFoll0 참조 화상 서브세트, 후속하여 RefPicSetStFoll1 참조 화상 서브세트, 후속하여 RefPicSetLtCurr 참조 화상 서브세트, 및 그 다음의 RefPicSetLtFoll 참조 화상 서브세트를 열거할 수도 있다. 다른 예로서, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트, 후속하여 RefPicSetStCurr1 참조 화상 서브세트, 후속하여 RefPicSetLtCurr 참조 화상 서브세트, 후속하여 RefPicSetStFoll0 참조 화상 서브세트, 후속하여 RefPicSetStFoll1 참조 화상 서브세트, 및 그 다음의 RefPicSetLtFoll 참조 화상 서브세트를 열거할 수도 있다.

비디오 디코더 (30) 가 참조 화상 서브세트들을 순서화하는 방법의 다른 순열들이 참조 화상 세트를 도출하기 위해 가능할 수도 있다. 일부 예들에서, 참조 화상 서브세트들의 구축 및 참조 화상 세트의 도출은 함께 조합될 수도 있다. 예를 들어, 참조 화상 서브세트들의 구축은 자동으로 비디오 디코더 (30) 가 참조 화상 세트를 도출하게 할 수도 있다. 다르게 말하면, 비디오 디코더 (30) 는 참조 화상 서브세트들을 구축하고 및 참조 화상 세트를 도출하는 상이한 단계들을 수행하는 것을 필요로 하지 않을 수도 있지만, 비디오 디코더 (30) 가 먼저 참조 화상 서브세트들을 구축한 다음 참조 화상 세트를 도출하는 것이 가능할 수도 있다.

또한, 본 개시에서 설명되는 기법들에 따르면, 위에서 설명된 방식으로 참조 화상 세트를 구축하는 것은 비디오 디코더 (30) 가 다음의 제한들을 충족하게 할 수도 있다. 예를 들어, PicOrderCnt의 특정 값을 갖는 특정 참조 화상이 현재 화상의 참조 화상 세트의 하나를 초과하는 참조 화상 서브세트들에 포함되지 않을 수도 있다. 다르게 말하면, 참조 화상 서브세트들 중 하나의 참조 화상 서브세트에서 식별된 참조 화상이 다른 참조 화상 서브세트들의 임의의 것에서 식별되지 않을 수도 있다. 다른 예로서, 도출된 참조 화상 세트에는, 참조 화상 세트를 형성하는 참조 화상 서브세트들 중 임의의 것에 포함되는 현재 화상보다 큰 temporal_id를 갖는 참조 화상이 없을 수도 있다.

위에서 설명된 바와 같이, 시간적 식별 값 (temporal_id) 은 어떤 화상들이 현재 화상을 코딩/예측하기 위해 사용될 수 있는지를 나타내는 계층 값일 수도 있다. 일반적으로, 특정 temporal_id 값을 갖는 화상은 아마도 동일하거나 큰 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 그 반대의 경우는 아니다. 예를 들어, 1의 temporal_id 값을 갖는 화상은 아마도 1, 2, 3,...의 temporal_id 값들을 갖는 화상들에 대한 참조 화상일 수 있지만, 0의 temporal_id 값을 갖는 화상에 대해서는 아닐 수 있다.

최저 temporal_id 값은 또한 최저 디스플레이 레이트를 나타낼 수도 있다. 예를 들어, 비디오 디코더 (30) 가 0의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 7.5 개 화상들일 수도 있다. 비디오 디코더 (30) 가 0 및 1의 temporal_id 값들을 갖는 화상들만을 디코딩했다면, 디스플레이 레이트는 초 당 15 개 화상들일 수도 있다는 등등이다.

일부 예들에서, 현재 화상의 temporal_id 이하의 temporal_id 값들을 갖는 화상들만이 현재 화상의 참조 화상 세트에 포함될 수도 있다. 위에서 설명된 바와 같이, 현재 화상의 temporal_id 이하의 temporal_id 값들을 갖는 화상들만이 참조 화상들로서 사용될 수 있다. 따라서, 낮거나 또는 같은 temporal_id 값들을 갖는 모든 참조 화상들은 인터 예측을 위해 현재 화상에 의해 사용될 수도 있고 참조 화상 세트에 포함될 수도 있다. 또한, 현재 화상보다 큰 temporal_id 값들을 갖고 디코딩 순서에서 현재 화상에 후속하며 현재 화상보다 큰 temporal_id 값들을 갖는 화상들에 의해 사용될 일부 참조 화상들은 참조 화상 세트로부터 제외된다.

이들 기법들로, 참조 화상 세트의 도출을 위한 화상 식별 외에도 temporal_id의 시그널링은 필요하지 않으며; 그런고로, 참조 화상 세트 시그널링은 더 효율적이 된다. 예를 들어, 비디오 인코더 (20) 는 참조 화상 세트에 속하는 참조 화상들의 temporal_id 값들을 시그널링하지 않을 수도 있고, 비디오 디코더 (30) 는 참조 화상 세트를 도출하는 목적으로 참조 화상 세트에 속하는 참조 화상들의 temporal_id 값들을 수신하는 것을 필요로 하지 않을 수도 있다.

더욱이, 이런 방식으로, 구축된 참조 화상 서브세트들은 현재 화상의 temporal_id 보다 큰 temporal_id 값들을 갖는 참조 화상들을 식별하지 않을 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 서브세트들을 구축할 수 있고, temporal_id 값들이 비디오 인코더 (20) 에 의해 시그널링되고 비디오 디코더 (30) 에 의해 수신된 비트스트림에 포함되지 않는 것을 비트스트림 적합성 (conformance) 이 요구할 수도 있기 때문에, 참조 화상 서브세트들 중 임의의 것에서 식별된 어떤 참조 화상도 현재 화상의 temporal_id 보다 큰 temporal_id 값을 가지지 않는 것을 보장할 수도 있다. 이런 방식으로, 비디오 디코더 (30) 는 참조 화상 세트에 속하는 참조 화상들에 대한 임시 식별 값들을 수신하는 일 없이 참조 화상 세트를 도출할 수도 있다.

위의 예들에서, 비디오 디코더 (30) 는 6 개의 참조 화상 서브세트들, 즉 단기 참조 화상들을 위한 4 개 (즉, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1), 및 장기 참조 화상들을 위한 2 개 (즉, RefPicSetLtCurr 및 RefPicSetLtFoll) 를 구축할 수도 있다. 그러나, 본 개시의 양태들은 그렇게 제한되지 않는다. 다른 예들에서, 둘 이상의 이들 참조 화상 서브세트들은 하나의 참조 화상 서브세트로 결합되어, 비디오 디코더 (30) 가 구축하는 참조 화상 서브세트들이 적은 수가 되게 할 수도 있다. 다음은 비디오 디코더 (30) 가 적은 참조 화상 서브세트들을 구축할 수도 있는 일부 비제한적 예들을 설명한다. 비디오 디코더 (30) 가 적은 참조 화상 서브세트들을 구축할 수도 있는 다른 방법들이 있을 수도 있다.

예를 들면, 일부 예들에서, 현재 화상에 대한 서브세트 및 디코딩 순서에서 다음의 화상들에 대한 서브세트의 분리가 없을 수도 있다. 따라서, RefPicSetSt0 및 RefPicSetSt1로 지칭되는 단기 참조 화상들에 대해 2 개의 서브세트들이 있을 수도 있고, RefPicSetLt로 지칭되는 장기 참조 화상들에 대해 하나의 서브세트만이 있을 수도 있다. 이 예에서, RefPicSetSt0 참조 화상 서브세트는 RefPicSetStCurr0가 연접 (concatenation) 결과의 시작부분에 있는 RefPicSetStCurr0 및 RefPicSetStFoll0의 연접일 수도 있다. 이 예에서, RefPicSetSt1 참조 화상 서브세트는 RefPicSetStCurr1이 연접 결과의 시작부분에 있는 RefPicSetStCurr1 및 RefPicSetStFoll1의 연접일 수도 있다. RefPicSetLt 참조 화상 서브세트는 RefPicSetLtCurr이 연접 결과의 시작부분에 있는 RefPicSetLtCurr 및 RefPicSetLtFoll의 연접일 수도 있다.

다른 예로서, 현재 화상보다 앞서거나 또는 나중의 출력 순서를 갖는 서브세트의 분리가 없을 수도 있다. 이는 단기 참조 화상들에만 적용될 수도 있다. 따라서, RefPicSetStCurr 및 RefPicSetStFoll이라고 지칭되는 단기 참조 화상들에 대한 2 개의 서브세트들이 있을 수도 있다. RefPicSetStCurr 참조 화상 서브세트는 RefPicSetStCurr0이 연접 결과의 시작부분에 있는 RefPicSetStCurr0 및 RefPicSetStCurr1의 연접일 수도 있다. RefPicSetStFoll 참조 화상 서브세트는 RefPicSetStFoll0이 연접 결과의 시작부분에 있는 RefPicSetStFoll0 및 RefPicSetStFoll1의 연접일 수도 있다.

다른 예로서, 위에서 언급된 분리들의 양자의 유형들이 적용되지 않을 수도 있다. 따라서, RefPicSetSt라고 지칭되는 단기 참조 화상들에 대한 하나의 서브세트만, 그리고 RefPicSetLt라고 지칭되는 장기 참조 화상들에 대한 하나의 서브세트만이 있을 수도 있다. RefPicSetSt 참조 화상 서브세트는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1의, 열거된 순서 (또는 임의의 다른 순서) 의, 연접일 수도 있고, RefPicSetLt는 위와 동일할 수도 있다.

위의 기법들은 비디오 디코더 (30) 가 참조 화상 세트를 도출할 수도 있는 일 예의 방식을 설명한다. 인코딩 프로세스 동안, 비디오 인코더 (20) 는 복원 프로세스라고 지칭되는 것에, 후속하는 화상들을 인코딩하는 목적으로 인코딩된 화상들을 디코딩하는 것을 또한 필요로 할 수도 있다. 따라서, 일부 예들에서, 비디오 인코더 (20) 는 또한 참조 화상 세트를 도출하도록 구성될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 비디오 디코더 (30) 가 참조 화상 세트을 도출하기 위해 이행했던 동일한 기법들을 이행할 수도 있다. 그러나, 비디오 인코더 (20) 에 의한 참조 화상 세트의 도출은 모든 예들에서 요구되지 않을 수도 있고, 비디오 디코더 (30) 는 참조 화상 세트를 도출하는 유일한 코더일 수도 있다.

따라서, 일부 예들에서, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 개별적으로 인코딩 또는 디코딩) 할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정하는 값들을 포함하는 인코딩된 비트스트림을 시그널링할 수도 있다. 마찬가지로, 비디오 디코더 (30) 는 그 비트스트림을 디코딩하여 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정할 수도 있다.

그 비디오 코더는 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예를 들어, 비디오 코더는 6 개의 참조 화상 서브세트들 (즉, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들) 을 구축할 수도 있으며, 여기서 서브세트들의 각각은 0 개 이상의 참조 화상들을 식별한다. 일부 예들에서, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩할 수도 있다.

예를 들면, 비디오 코더는 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 코더는 참조 화상 세트를 도출하기 위해 임의의 순서로 참조 화상 서브세트들을 재순서화할 수도 있거나, 또는 참조 화상 서브세트들의 구축의 부분으로서 참조 화상 세트를 도출할 수도 있다. 일부 예들에서, 도출된 참조 화상 세트로부터, 비디오 코더는 현재 화상을 코딩할 수도 있다. 참조 화상 세트가 복수의 참조 화상 서브세트들로부터 도출되기 때문에, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 것으로서 간주될 수도 있다.

일부 예들에서, 참조 화상 서브세트들을 순서화하기 위해, 비디오 코더는 참조 화상 서브세트가 참조 화상 세트에서 열거될 순서로 참조 화상 서브세트들을 구축할 수도 있다. 예를 들어, 비디오 코더는 먼저 RefPicSetLtCurr 참조 화상 서브세트를 구축하며, 그 후 RefPicSetLtFoll 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStCurr0 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStCurr1 참조 화상 서브세트를 구축하며, 그 후 RefPicSetStFoll0 참조 화상 서브세트를 구축하고, 그 후 RefPicSetStFoll1 참조 화상 서브세트를 구축할 수도 있다. 이 구체적인 예에서, 참조 화상 세트에서의 참조 화상 서브세트들의 순서는, 다른 순서들이 가능하지만, RefPicSetLtCurr, RefPicSetLtFoll, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, 및 RefPicSetStFoll1 순서대로 될 수도 있다.

본 개시에서 설명되는 예의 기법들에 따르면, 참조 화상 세트를 도출한 후, 비디오 디코더 (30) 는 현재 화상 내의 슬라이스들의 디코딩을 시작할 수도 있다. 디코딩 프로세스의 부분은 하나 또는 2 개의 참조 화상 리스트들의 구축을 수반한다. 참조 화상 리스트는 P 또는 B 슬라이스의 예측을 위해 사용되는 참조 화상들의 리스트이다. P 슬라이스의 디코딩 프로세스의 경우, 하나의 참조 화상 리스트 (리스트 0) 가 있다. B 슬라이스의 디코딩 프로세스의 경우, 2 개의 참조 화상 리스트들 (리스트 0 및 리스트 1) 이 있다. 때때로 참조 화상 리스트 0 또는 RefPicList0라고 지칭되는 리스트 0은, P 또는 B 슬라이스의 인터 예측을 위해 사용되는 참조 화상 리스트이다. P 슬라이스들을 위해 사용되는 모든 인터 예측은 리스트 0을 사용한다. 참조 화상 리스트 0은 B 슬라이스에 대한 양방향 예측을 위해 사용되는 2 개의 참조 화상 리스트들 중 하나이며, 나머지는 참조 화상 리스트 1이다. 때때로 참조 화상 리스트 1 또는 RefPicList1이라고 지칭되는 리스트 1은, B 슬라이스의 예측을 위해 사용되는 참조 화상 리스트이다. 참조 화상 리스트 1은 B 슬라이스에 대한 예측을 위해 사용되는 2 개의 참조 화상 리스트들 중 하나이며, 나머지는 참조 화상 리스트 0이다. B 슬라이스에서의 일부 블록들은 리스트 0 및 리스트 1 양쪽 모두를 사용하여 양방향 예측될 수도 있고, B 슬라이스에서의 일부 블록들은 리스트 0 또는 리스트 1 중 어느 하나를 사용하여 단방향 예측될 수도 있다.

참조 화상 리스트들을 구축하기 위해, 비디오 디코더 (30) 는 디폴트 구축 기법을 이행하여 초기 리스트 0과, B 슬라이스들에 대한 초기 리스트 1을 구축할 수도 있다. 초기 리스트 0 및 초기 리스트 1의 구축은 초기화 프로세스라고 지칭될 수도 있다. 일부 예들에서, 코딩된 비트스트림은 비디오 디코더 (30) 가 최종 리스트 0 및 최종 리스트 1을 생성하기 위해 초기 리스트 0 및/또는 초기 리스트 1을 수정해야한다는 것을 나타낼 수도 있다. 초기 리스트 0 및/또는 초기 리스트 1의 수정은 수정 프로세스라고 지칭될 수도 있다. 수정 프로세스는 모든 예에서 요구되지 않을 수도 있고, 비디오 디코더 (30) 가 수정 프로세스를 이행할 수도 있는 방식은 아래에서 더 상세히 설명된다. 본 개시에서 설명되는 기법들에 따르면, 초기 리스트 0 또는 초기 리스트 1의 수정이 필요하지 않은 경우, 최종 리스트 0 또는 최종 리스트 1 (즉, 현재 화상의 슬라이스를 디코딩하는 데 사용되는 참조 화상 리스트 0 또는 1) 은 초기 리스트 0 또는 초기 리스트 1과 동일할 수도 있다. 이런 식으로, 참조 화상 리스트 재순서화는 필요하지 않을 수도 있다.

본 개시에서 설명되는 기법들에서, 비디오 디코더 (30) 는, 수정 프로세스가 필요한지의 여부에 무관하게, 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1에 포함될 참조 화상들의 재순서화를 수행하는 것을 필요로 하지 않을 수도 있는 그러한 방식으로 초기 리스트 0 또는 초기 리스트 1을 구축할 수도 있는데, 참조 화상 서브세트들의 각각에서의 참조 화상들이 이미 적절한 순서로 있기 때문이다. 예를 들어, 일부 다른 기법들에서, 수정 프로세스가 필요한지의 여부에 무관하게, 참조 화상들을 초기 리스트 0 또는 초기 리스트 1에 추가하거나 또는 올리는 (listing) 경우에 그 참조화상들의 POC 값들에 따라 초기 리스트 0 또는 초기 리스트 1에 포함될 참조 화상들의 재순서화는 필요하다.

초기화 프로세스에서, 비디오 디코더 (30) 는 디폴트 구축 기법을 이행하여 초기 리스트 0 및 초기 리스트 1을 구축할 수도 있다. 디폴트 구축 기법은, 비디오 디코더 (30) 가 초기 참조 화상 리스트들을 구축해야 하는 방식, 또는 어떤 참조 화상들이 초기 참조 화상 리스트들에서 식별되어야하는지에 관해 비디오 인코더 (20) 로부터 신택스 엘리먼트들을 수신하는 일 없이 비디오 디코더 (30) 가 초기 참조 화상 리스트들을 구축한다는 것을 의미할 수도 있다.

비디오 디코더 (30) 는 P 또는 B 슬라이스 헤더를 디코딩하는 경우에 참조 화상 리스트 구축 프로세스를 호출할 수도 있다. 예를 들어, P 슬라이스를 디코딩하는 경우, 비디오 디코더 (30) 는 초기 리스트 0을 구축하는 프로세스를 호출할 수도 있지만, P 슬라이스에서의 블록이 리스트 0에서 식별된 참조 화상에 대해 단방향 예측만되기 때문에 초기 리스트 1을 구축하는 프로세스를 호출하지 못할 수도 있다. B 슬라이스를 디코딩하는 경우, 비디오 디코더 (30) 는, B 슬라이스에서의 블록이 리스트 0 및 리스트 1의 각각에서 식별된 참조 화상들에 대해 양방향 예측될 수도 있기 때문에, 초기 리스트 0을 구축하고 초기 리스트 1을 구축하는 프로세스를 호출할 수도 있다.

본 개시에서 설명되는 예의 기법들에 따르면, 비디오 디코더 (30) 는 초기 리스트 0 및 초기 리스트 1을 구축하기 위해 참조 화상 서브세트들을 활용할 수도 있다. 예를 들어, 초기 리스트 0 및 초기 리스트 1은 RefPicSetStCurr0, RefPicSetStCurr1, 또는 RefPicSetLtCurr에서 식별되는 0 개 이상의 참조 화상들을 열거할 수도 있다. 이 예에서, 참조 화상 리스트 구축 프로세스가 호출되는 경우, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr에는 적어도 하나의 참조 화상이 있을 수도 있다. 비록 초기 리스트 0 및 초기 리스트 1이 동일한 참조 화상 서브세트들로부터의 하나 이상의 참조 화상들을 식별할 수도있지만, 비디오 디코더 (30) 가 참조 화상들을 초기 리스트 0에 추가하는 순서는 비디오 디코더 (30) 가 참조 화상들을 초기 리스트 1에 추가하는 순서와 상이할 수도 있다.

본 개시에서, 비디오 디코더 (30) 가 참조 화상 서브세트들 중 하나 이상의 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 0 또는 초기 리스트 1에 추가하는 (예컨대, 올리는) 경우, 본 개시는 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1에서 참조 화상들을 식별한다고 말한다. 예를 들어, 복수의 참조 화상 서브세트들은 각각 0 개 이상의 참조 화상들을 식별할 수도 있다. 초기 리스트 0 및 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 참조 화상 서브세트들에서 식별되는 참조 화상들 중 하나 이상을 초기 리스트 0 또는 초기 리스트 1 에 식별시킬 수도 있다.

혼동을 피하고 명료함을 돕기 위해, 본 개시는 비디오 디코더 (30) 가 참조 화상 서브세트들에서 식별되는 0 개 이상의 참조 화상들을 초기 리스트 0 및 초기 리스트 1에 올리거나 또는 추가하여 초기 리스트 0 및 초기 리스트 1을 구축한다고 말할 수도 있다. 이런 방식으로, 비디오 디코더 (30) 가 참조 화상들을 추가하거나 올리는 것은 비디오 디코더 (30) 가 참조 화상 서브세트에서 식별된 참조 화상의 식별자를 추가하거나 또는 올리는 것을 의미한다. 따라서, 결과적인 초기 리스트 0 및 초기 리스트 1은 현재 화상의 블록 또는 슬라이스를 코딩하기 위해 잠재적으로 사용될 수 있는 참조 화상들에 대한 복수의 식별자들을 포함한다. 이들 참조 화상들은 비디오 디코더 (30) 및 비디오 인코더 (20) 의 개별 디코딩된 화상 버퍼들에 저장된다.

예를 들어, 초기 리스트 0을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr0에서 식별된 참조 화상들을 초기 리스트 0에, 후속하여 RefPicSetStCurr1에서 식별된 참조 화상들을 초기 리스트 0에, 그리고 그 후 RefPicSetLtCurr에서 식별된 참조 화상들을 초기 리스트 0에 올릴 (예컨대, 추가할) 수도 있다. 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1에서 식별된 참조 화상들을 초기 리스트 1에, 후속하여 RefPicSetStCurr0에서 식별된 참조 화상들을 초기 리스트 1에, 그리고 그 후 RefPicSetLtCurr에서 식별된 참조 화상들을 초기 리스트 1에 올릴 (예컨대, 추가할) 수도 있다.

더구나, 참조 화상들을 참조 화상 서브세트들에 상이한 순서로 추가하는 것 외에도, 비디오 디코더 (30) 는 리스트 0 및 리스트 1을 구축하는 경우 참조 화상 서브세트들의 각각으로부터의 상이한 수의 참조 화상들을 활용할 수도 있다. 예를 들어, 리스트 0과 리스트 1은 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr로부터의 참조 화상들의 모두를 포함할 필요가 없다. 오히려, 초기 리스트 0 및 초기 리스트 1을 구축하기 위해 이들 예의 참조 화상 서브세트들로터 열거되는 참조 화상들의 수는 초기 리스트 0 및 초기 리스트 1의 각각 내의 참조 화상들의 최대 수를 나타내는 신택스 엘리먼트들에 기초할 수도 있다.

예를 들어, 초기 리스트 0에 대해, 비디오 인코더 (20) 는 슬라이스 헤더에서 P 및 B 슬라이스들에 대한 num_ref_idx_l0_active_minus1 신택스 엘리먼트, 및 양방향 예측되는 B 슬라이스들에 대한 num_ref_idx_l1_active_minus1 신택스 엘리먼트를 시그널링할 수도 있다. 위에서 설명된 바와 같이, num_ref_idx_l0_active_minus1은 초기 리스트 0에 있을 수 있는 참조 화상들의 최대 수를 정의할 수도 있고, num_ref_idx_l1_active_minus1은 초기 리스트 1에 있을 수 있는 참조 화상들의 최대 수를 정의할 수도 있다. 일부 예들에서, num_ref_idx_l0_active_minus1의 값이 num_ref_idx_l1_active_minus1의 값과 상이한 것이 가능할 수도 있지만, 이는 모든 예에서 필요하지 않을 수도 있다. 일부 예들에서, num_ref_idx_l0_active_minus1의 값은 num_ref_idx_l1_active_minus1의 값과 동일할 수도 있다.

위에서 설명된 바와 같이, 비디오 디코더 (30) 는 코딩된 비트스트림에서 num_short_term_curr0 및 num_short_term_curr1에 대한 값들을 수신할 수도 있다. 비디오 디코더 (30) 는 num_short_term_curr0과 동일한 변수 NumShortTermCurr0을 정의하고 num_short_term_curr1과 동일한 변수 NumShortTermCurr1을 정의할 수도 있다. NumShortTermCurr0은 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있고, NumShortTermCurr1은 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다.

비디오 디코더 (30) 는 또한 코딩된 비트스트림에서 num_long_term_pps_curr 및 num_long_term_add_curr에 대한 값들을 수신할 수도 있다. 비디오 디코더 (30) 는 변수 NumLongTermCurr를 num_long_term_pps_curr 더하기 num_long_term_add_curr와 동일한 것으로 정의할 수도 있다. NumLongTermCurr는 RefPicSetLtCurr에서의 참조 화상들의 수를 나타낼 수도 있다.

초기 리스트 0을 구축하기 위해, 비디오 디코더 (30) 는, 비디오 디코더 (30) 가 RefPicSetStCurr0에서의 모든 참조 화상들을 초기 리스트 0에 추가하기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, RefPicSetStCurr0에서의 참조 화상들을 초기 리스트 0에 먼저 추가할 수도 있다. 예를 들어, NumShortTermCurr0은 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는, RefPicSetStCurr0로부터 열거된 참조 화상들의 수가 NumShortTermCurr0과 동일하기까지, RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 (예컨대, 추가할) 수도 있다. 그러나, RefPicSetStCurr0의 참조 화상들을 초기 리스트 0에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 비디오 디코더 (30) 는, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr0에 있더라도, RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올린 후 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetStCurr1에서의 모든 참조 화상들을 식별하기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetStCurr1에서의 참조 화상들을 추가할 수도 있다. 예를 들어, 위와 유사하게, NumShortTermCurr1은 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는, RefPicSetStCurr1로부터 열거된 참조 화상들의 수가 NumShortTermCurr1과 동일하기까지, RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 수도 있다. 그러나, RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr1에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올린 후 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetLtCurr에서의 모든 참조 화상들을 리스트에 올리기까지, 및 초기 리스트 0에서의 엔트리들의 수 (예컨대, 리스트 0에서 식별된 참조 화상들의 수) 가 num_ref_idx_l0_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumLongTermCurr는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 비디오 디코더 (30) 는 RefPicSetLtCurr로부터 리스트에 올린 참조 화상들의 수가 NumLongTermCurr와 동일하기까지 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 리스트에 올릴 수도 있다. 그러나, RefPicSetLtCurr로부터의 참조 화상들을 초기 리스트 0에 올리는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 심지어 초기 리스트 0에 열거되어 있지 않은 부가적인 화상들이 RefPicSetLtCurr에 있더라도, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있다.

다음의 의사 코드는 비디오 디코더 (30) 가 초기 리스트 0을 구축할 수도 있는 방식을 예시한다.

위의 의사 코드에서, RefPicList0은 초기 리스트 0일 수도 있다. 리스트 0의 수정이 필요하지 않은 예들에서, 최종 리스트 0은 초기 리스트 0과 동일할 수도 있다. 그러므로, 리스트 0의 수정이 필요하지 않은 예들에서, 위의 의사 코드에서의 RefPicList0은 최종 리스트 0일 수도 있다.

비디오 디코더 (30) 는 초기 리스트 1을 유사하게 구축할 수도 있다. 그러나, 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 1에, 후속하여 RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 1에, 및 후속하여 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 1에 참조 화상들을 추가할 수도 있다. 또한, 위와 유사하게, RefPicSetStCurr1, RefPicSetStCurr0, 및 RefPicSetLtCurr 참조 화상 서브세트들 중 어느 하나로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 이들 참조 화상 서브세트들에 부가적인 참조 화상들이 있더라도, 비디오 디코더 (30) 는 참조 화상들을 추가하는 것을 중단할 수도 있다.

예를 들어, 초기 리스트 1을 구축하기 위해, 비디오 디코더 (30) 가 RefPicSetStCurr1에서의 모든 참조 화상들을 식별하기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 먼저 RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, NumShortTermCurr1의 값은 비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetStCurr1로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr1에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr1 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr1 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올린 후 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetLtCurr0에서의 모든 참조 화상들을 리스트에 올리기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr0에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumShortTermCurr0의 값은 비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetStCurr0으로부터의 참조 화상들을 초기 리스트 1에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetStCurr0에 있더라도, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트에서의 모든 참조 화상들을 리스트에 올린 후 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetLtCurr에서의 모든 참조 화상들을 리스트에 올리기까지, 및 초기 리스트 1에서의 엔트리들의 수 (예컨대, 리스트 1에서 식별된 참조 화상들의 수) 가 num_ref_idx_l1_active_minus1 이하인 한, 비디오 디코더 (30) 는 RefPicSetLtCurr에서의 참조 화상들을 리스트에 올릴 수도 있다. 예를 들어, 위와 유사하게, NumLongTermCurr의 값은 비디오 디코더 (30) 가 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 모두를 리스트에 올리는 것을 완료한 때를 나타낼 수도 있다. 그러나, RefPicSetLtCurr로부터의 참조 화상들을 리스트에 올리는 동안, 초기 리스트 1에서의 엔트리들의 총 수가 num_ref_idx_l1_active_minus1과 동일하면, 심지어 초기 리스트 1에 열거되어 있지 않은 부가적인 화상들이 RefPicSetLtCurr에 있더라도, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들을 추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 1의 구축을 완료했을 수도 있다.

다음의 의사 코드는 비디오 디코더 (30) 가 초기 리스트 1을 구축할 수도 있는 방식을 예시한다.

위의 의사 코드에서, RefPicList1은 초기 리스트 1일 수도 있다. 리스트 1의 수정이 필요하지 않은 예들에서, 최종 리스트 1은 초기 리스트 1과 동일할 수도 있다. 그러므로, 리스트 1의 수정이 필요하지 않은 예들에서, 위의 의사 코드에서의 RefPicList1은 최종 리스트 1일 수도 있다.

선행하는 것은 참조 화상 리스트 수정이 필요하지 않은 경우에 비디오 디코더 (30) 가 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있는 하나의 예의 방법이다. 다른 예들에서, 비디오 디코더 (30) 는 참조 화상 서브세트들을 위에서 설명된 것들과는 상이한 순서로 추가할 수도 있다. 또 일부 다른 예들에서, 비디오 디코더 (30) 는 위에서 설명된 것들과는 상이한 참조 화상 서브세트들을 추가할 수도 있다.

비록 선행하는 예들이 비디오 디코더 (30) 에 의해 수행되고 있는 참조 화상 리스트 구축에 대한 기법들을 설명했지만, 본 개시의 양태들은 그렇게 제한되지는 않고, 비디오 인코더 (20) 가 참조 화상 리스트들을 구축하는 유사한 기법들을 이행할 수도 있다. 그러나, 비디오 디코더 (30) 가 참조 화상 리스트들을 구축하는 동일한 방식으로 비디오 인코더 (20) 가 참조 화상 리스트들을 구축하는 것이 필요하지 않을 수도 있다.

따라서, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 인코딩 또는 디코딩) 하도록 구성될 수도 있다. 위에서 설명된 바와 같이, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별한다.

그 비디오 코더는 또한 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하도록 구성될 수도 있다. 예를 들어, 비디오 코더는 적어도 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들을 구축할 수도 있다. 비디오 코더는 부가적인 참조 화상 서브세트들, 이를테면 위에서 설명된 것들을 구축할 수도 있다.

비디오 코더는 그 다음에, 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수보다 크지 않는 한, 제 1 참조 화상 서브세트로부터의 참조 화상들, 후속하여 제 2 참조 화상 서브세트로부터의 참조 화상들, 및 후속하여 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 예를 들어, 비디오 코더는, 초기 리스트 0에서의 엔트리들의 수가 num_ref_idx_l0_active_minus1보다 크지 않는 한, RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들, 후속하여 RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들 및 후속하여 RefPicSetLtCurr 서브세트로부터의 참조 화상들을 초기 리스트 0에 올릴 수도 있다. 다시, num_ref_idx_l0_active_minus1의 값은 리스트 0에 대한 허용가능 참조 화상 리스트 엔트리들의 최대 수를 나타낼 수도 있다.

일부 예들에서, 비디오 코더는, 제 1 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 제 1 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수 미만인 경우, 및 제 1 참조 화상 서브세트로부터의 참조 화상들을 추가한 후, 제 2 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 비디오 코더는 제 2 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수 미만인 경우, 및 제 2 참조 화상 서브세트로부터의 참조 화상들을 추가한 후, 제 3 참조 화상 서브세트에서의 모든 참조 화상들이 초기 참조 화상 리스트에 열거되거나 또는 초기 참조 화상 리스트 엔트리들의 수가 허용가능 참조 화상 리스트 엔트리들의 최대 수와 동일하기까지, 비디오 코더는 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다.

비디오 코더는 초기 리스트 1을 유사하게 구축할 수도 있다. 예를 들어, 비디오 코더는, 초기 리스트 1 에서의 초기 참조 화상 리스트 엔트리들의 수가 num_ref_idx_l1_active_minus1보다 크지 않는 한, 제 2 참조 화상 서브세트로부터의 참조 화상들, 후속하여 제 1 참조 화상 서브세트로부터의 참조 화상들, 및 후속하여 제 3 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 1에 추가할 수도 있다. num_ref_idx_l1_active_minus1 신택스 엘리먼트는 리스트 1에서의 허용가능 엔트리들의 최대 수를 정의할 수도 있다.

일부 예들에서, 이를테면 수정이 필요하지 않은 경우, 초기 리스트 0 및 초기 리스트 1은 최종 리스트 0 및 최종 리스트 1과 동일할 수도 있다. 다르게 말하면, 비디오 코더는 수정이 필요하지 않은 경우에 초기 리스트 0 및 초기 리스트 1의 수정 없이 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있다. 이들 경우들에서, 초기 리스트 0 및 초기 리스트 1을 구축한 후, 비디오 코더는 최종 리스트 0 및 최종 리스트 1 (즉, 비디오 코더가 현재 화상의 블록을 코딩하기 위해 사용하는 참조 화상 리스트들) 을 구축하기 위해 부가적인 단계들을 수행하는 것을 필요로 하지 않을 수도 있다.

위의 의사 코드에서 나타낸 바와 같이, 비디오 디코더 (30) 는 cIdx가 num_ref_idx_l0_active_minus1 이하인 동안 초기 리스트 0을 구축할 수도 있고, cIdx가 num_ref_idx_l1_active_minus1 이하인 동안 초기 리스트 1을 구축할 수도 있다. 이는 비디오 디코더 (30) 가 참조 화상 리스트들에서 임의의 완료되지 않은 엔트리 없이 초기 리스트 0 및 초기 리스트 1을 구축하게 할 수도 있다. 예를 들어, 일부 다른 비디오 코딩 기법들에서, 이들 다른 비디오 기법들을 위한 비디오 디코더는 본 개시에서 설명되는 것들과는 다른 기법들을 활용하여 초기 리스트 0 및 리스트 1을 구축할 것이다. 이들 다른 비디오 코딩 기법들의 경우, 초기 리스트 0 및 초기 리스트 1에서의 엔트리들의 수가 엔트리들의 최대 허용가능 수 미만이었다면, 이들 다른 비디오 코딩 기법들에 대한 비디오 디코더는, 완료되지 않은 엔트리들에 대해 "참조 화상 없음"으로 리스트 0 및 리스트 1에서의 남아있는 엔트리들을 채울 것이다. 완료되지 않은 엔트리들은 참조 화상을 식별하는 마지막 엔트리 이후 및 마지막 가능한 엔트리까지의 리스트 0 및 리스트 1에서의 엔트리들을 말한다.

이해를 돕는 구체적인 예로서, 이들 다른 비디오 코딩 기법들을 위한 비디오 디코더는 5 개의 엔트리들을 갖는 리스트 0을 구축할 수도 있으며, 여기서 허용가능 엔트리들의 최대 수는 10 개의 엔트리들이다. 이 예에서, 이들 다른 비디오 코딩 기법들을 위한 비디오 디코더는 제 6 내지 제 10 엔트리들을 "참조 화상 없음"으로 채울 것이다. 이 예에서, 완료되지 않은 엔트리들은 제 10 엔트리 (예컨대, 허용가능 엔트리들의 최대 수에 의해 정의된 바와 같은 마지막 가능한 엔트리) 까지의 제 6 엔트리 (예컨대, 참조 화상을 식별하는 마지막 엔트리 이후의 엔트리) 일 것이다.

본 개시의 기법들에 따르면, 비디오 디코더 (30) 는 완료되지 않은 엔트리들이 없도록 초기 리스트 0 및 초기 리스트 1을 구축할 수도 있다. 또한, 어떤 참조 화상 리스트 수정도 요구되지 않는 예들에서, 최종 리스트 0 및 최종 리스트 1은 초기 리스트 0 및 초기 리스트 1과 동일할 수도 있다. 그러므로, 어떤 참조 화상 리스트 수정도 요구되지 않는 예들에서, 비디오 디코더 (30) 는 완료되지 않은 엔트리들이 없도록 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있다. 심지어 참조 화상 리스트 수정이 요구되는 경우에도, 수정은 임의의 완료되지 않은 엔트리들이 없게 할 수도 있다. 그러므로, 심지어 참조 화상 리스트 수정이 요구되는 예들에서도, 비디오 디코더 (30) 는 완료되지 않은 엔트리들이 없도록 최종 리스트 0 및 최종 리스트 1을 구축할 수도 있다.

예를 들어, 리스트 0 및 리스트 1은 엔트리들을 갖는 리스트들로서 간주될 수도 있고, 각각의 엔트리는 참조 화상을 (예컨대, 그것의 POC 값에 의해) 식별할 수도 있다. 다르게 말하면, 비디오 디코더 (30) 는 참조 화상을 리스트 0 및 리스트 1의 각각의 엔트리에서의 그것의 POC 값에 의해 식별할 수도 있다. 리스트 0 및 리스트 1에서의 엔트리들의 수는 num_ref_idx_l0_active_minus1 및 num_ref_idx_l1_active_minus1 신택스 엘리먼트들에 의해 각각 정의될 수도 있다.

완료되지 않은 엔트리들이 없는 것을 보장하기 위해, 비디오 디코더 (30) 가 어떤 참조 화상이 초기 리스트 0 및 초기 리스트 1의 각각의 가능한 엔트리에서 식별되어야 하는지를 결정하기까지, 비디오 디코더 (30) 는 참조 화상 서브세트들로부터의 참조 화상들을 초기 리스트 0 및 초기 리스트 1에 반복적으로 올릴 (예컨대, 추가할 또는 식별할) 수도 있다. 예를 들어, 위에서 설명된 바와 같이, 초기 리스트 0을 구축하는 경우, RefPicSetStCurr0 및 RefPicSetStCurr1 참조 화상 서브세트들로부터의 참조 화상들을 초기 리스트 0에 추가한 후, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 0에 추가할 수도 있다.

일부 예들에서, 비디오 디코더 (30) 가 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 초기 리스트 0에 추가한 이후 초기 리스트 0에서의 엔트리들의 총 수가 리스트 0에서의 허용가능 엔트리들의 최대 수 미만인 것이 가능할 수도 있다. 예를 들면, 초기 리스트 0을 구축하기 위한 의사 코드에서, cIdx는 리스트 0에서의 엔트리들의 수를 나타낼 수도 있다. 일부 예들에서, 비디오 디코더 (30) 가 RefPicSetLtCurr에서의 참조 화상들을 초기 리스트 0에서 식별한 후, cIdx의 값은 num_ref_idx_l0_active_minus1 미만일 수도 있으며, 여기서 num_ref_idx_l0_active_minus1은 리스트 0에서의 허용가능 엔트리들의 최대 수를 특정한다.

본 개시에서 설명되는 기법들에 따르면, 복수의 참조 화상 서브세트들 중 3 개의 참조 화상 서브세트들로부터의 참조 화상들을 리스트에 올린 후, 초기 리스트 0에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수 미만이면, 비디오 디코더 (30) 는 리스트 0에서의 모든 엔트리들이 가득차기까지 3 개의 참조 화상 서브세트들로부터의 참조 화상들을 반복적으로 추가할 수도 있다. 예를 들어, 비디오 디코더 (30) 가 RefPicSetLtCurr 참조 화상 세트로부터의 참조 화상들을 추가한 후 초기 리스트 0에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수 미만이면, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 리스트에 다시 올릴 (예컨대, 재추가할 또는 재식별할) 수도 있다.

본 개시에서 설명되는 양태들에서, 비디오 디코더 (30) 가 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들로부터의 참조 화상들을 리스트에 올리는 경우, 비디오 디코더 (30) 는 이들 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트 (예컨대, 리스트 0) 에서의 엔트리들의 제 1 세트에 추가하는 것으로서 간주될 수도 있다. 예를 들면, 엔트리들의 제 1 세트는 비디오 디코더 (30) 가 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들로부터의 참조 화상들을 식별했던 참조 화상 리스트에서의 엔트리들일 수도 있다. 그 다음에, 그 참조 화상 리스트에서의 엔트리들의 수가 엔트리들의 최대 허용가능 수 미만이면, 비디오 디코더 (30) 는 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들 중 적어도 하나로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 다시 올릴 (예컨대, 재추가할 또는 재식별할) 수도 있다. 엔트리들의 제 1 세트에 후속하는 엔트리들은, 아래에서 설명되는 바와 같이, 비디오 디코더 (30) 가 하나 이상의 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들로부터의 이미 리스트에 올려진 참조 화상들을 추가하는, 엔트리들의 제 1 세트를 후속하는 엔트리들일 수도 있다.

RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 재추가하는 동안, 초기 리스트 0에서의 엔트리들의 총 수가 num_ref_idx_l0_active_minus1과 동일하면, 비디오 디코더 (30) 는 참조 화상들을 초기 리스트 0에 재추가하는 것을 중단할 수도 있다. 이 경우, 비디오 디코더 (30) 는 초기 리스트 0의 구축을 완료했을 수도 있고, 완료되지 않은 엔트리들이 없을 수도 있다. 그렇지 않으면, 비디오 디코더 (30) 는 RefPicSetStCurr0 참조 화상 서브세트로부터의 모든 참조 화상들이 리스트에 다시 올려지기까지 RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 재추가할 수도 있다.

RefPicSetStCurr0 참조 화상 서브세트에서의 모든 참조 화상들을 재추가한 후, 초기 리스트 0에서의 엔트리들의 수가 num_ref_idx_l0_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetStCurr0 참조 화상 서브세트로부터의 참조 화상들을 리스트에 다시 올린 방식과 유사한 방식으로, 비디오 디코더 (30) 는 RefPicSetStCurr1 참조 화상 서브세트로부터의 참조 화상들을 재추가할 수도 있다. RefPicSetStCurr1 참조 화상 서브세트에서의 모든 참조 화상들을 재추가한 후, 초기 리스트 0에서의 엔트리들의 수가 num_ref_idx_l0_active_minus1 미만이면, 비디오 디코더 (30) 가 RefPicSetStCurr0 및 RefPicSetStCurr1 참조 화상 서브세트들로부터의 참조 화상들을 리스트에 다시 올린 방식과 유사한 방식으로, 비디오 디코더 (30) 는 RefPicSetLtCurr 참조 화상 서브세트로부터의 참조 화상들을 재추가할 수도 있다. 비디오 디코더 (30) 는 초기 리스트 0에서의 엔트리들의 수가 리스트 0에 대한 허용가능 엔트리들의 최대 수와 동일 (즉, num_ref_idx_l0_active_minus1과 동일) 하기까지 그 참조 화상 서브세트들로부터의 참조 화상들을 반복적으로 추가한다.

예를 들면, 하나의 참조 화상이 RefPicSetStCurr0에, 하나의 참조 화상이 RefPicSetCurr1에, 그리고 하나의 참조 화상이 RefPicSetLtCurr에 있다고 가정한다. 또한, num_ref_idx_l0_active_minus1이 5라고 가정한다. 이 예에서, 비디오 디코더 (30) 는 RefPicSetStCurr0에서의 참조 화상을 초기 리스트 0에서의 2 개의 엔트리들에서 식별할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 RefPicSetStCurr0에서의 참조 화상을 초기 리스트 0의 제 1 엔트리에서 식별하고, RefPicSetStCurr0에서의 참조 화상을 초기 리스트 0의 제 4 엔트리에서 재식별할 수도 있다. 이 예에서, RefPicSetStCurr0에서의 참조 화상에 대한 인덱스 값은 초기 리스트 0에서의 제 1 엔트리에 대한 인덱스 [0], 및 초기 리스트 0에서의 제 4 엔트리에 대한 인덱스 [3]일 수도 있다. 따라서, 일부 예들에서, 참조 화상 서브세트들 중 하나의 참조 화상 서브세트로부터의 하나의 참조 화상은 초기 참조 화상 리스트들에 한 번을 넘게 올려질 (예컨대, 식별될) 수도 있다.

비디오 디코더 (30) 는 초기 리스트 1에는 완료되지 않은 엔트리들이 없도록 초기 리스트 1을 유사하게 구축할 수도 있다. 예를 들어, 비디오 디코더 (30) 는, 초기 리스트 1에서의 엔트리들의 수가 리스트 1에서의 허용가능 엔트리들의 최대 수와 동일 (즉, num_ref_idx_l1_active_minus1과 동일) 하기까지, RefPicSetStCurr1, RefPicSetStCurr0, 및 RefPicSetLtCurr 참조 화상 서브세트들로부터의 참조 화상들을 그 순서로 반복적으로 추가할 수도 있다.

이런 방식으로, "for" 루프들이 "while" 루프 내에 내포 (nest) 되기 때문에, 초기 리스트 0 및 초기 리스트 1을 구축하는 위의 의사 코드에서, 비디오 디코더 (30) 는 초기 리스트 0 및 초기 리스트 1에 완료되지 않은 엔트리들이 없도록 (즉, 초기화 프로세스 후에 완료되지 않은 엔트리들이 없도록) 초기 리스트 0 및 초기 리스트 1을 구축할 수도 있다. 일부 예들에서, 초기 리스트 0 및 초기 리스트 1에서의 엔트리들의 각각은 참조 화상 서브세트들 중 하나의 참조 화상 서브세트로부터 참조 화상을 식별할 수도 있다. 일부 예들에서, 참조 화상 서브세트들 중 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들이, 최종 참조 화상 리스트들에서 그러나 상이한 인덱스 값들을 갖는 상이한 엔트리들에서 한 번 넘게 식별되는 것이 가능할 수도 있다.

비록 선행하는 예들이 완료되지 않은 엔트리들이 없는 참조 화상 리스트 구축에 대한 기법들을, 비디오 디코더 (30) 에 의해 수행되고 있는 것으로서 설명했지만, 본 개시의 양태들은 그렇게 제한되지는 않고, 비디오 인코더 (20) 는 완료되지 않은 엔트리들이 없는 참조 화상 리스트들을 구축하는 유사한 기법들을 이행할 수도 있다. 그러나, 비디오 디코더 (30) 가 참조 화상 리스트들을 구축하는 동일한 방식으로 비디오 인코더 (20) 가 참조 화상 리스트들을 구축하는 것이 필요하지 않을 수도 있다.

그 비디오 코더는 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들 (예컨대, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들) 을 구축할 수도 있다. 비디오 코더는 복수의 참조 화상 서브세트들로부터의 참조 화상들을 참조 화상 리스트에서의 엔트리들의 제 1 세트에 올릴 (예컨대, 식별할 또는 추가할) 수도 있다. 비디오 코더는 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정할 수도 있다.

참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 비디오 코더는, 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상들 중 적어도 하나의 참조 화상으로부터의 하나 이상의 참조 화상들을, 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 재추가 (예컨대, 재식별) 할 수도 있다. 비디오 코더는 그 다음에 구축된 참조 화상 리스트에 기초하여 현재 화상을 코딩할 수도 있다.

위에서 설명된 바와 같이, 일부 예들에서, 비디오 인코더 (20) 는 비디오 디코더 (30) 에게 초기 참조 화상 리스트 또는 리스트들을 수정할 것을 지시하는 신택스 엘리먼트들을 시그널링할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 위에서 설명된 방식으로 초기 참조 화상 리스트 또는 리스트들을 구축할 수도 있다. 그 다음에, 일부 경우들에서, 비디오 디코더 (30) 는 비디오 디코더 (30) 에게 초기 참조 화상 리스트 또는 리스트들을 수정할 것을 지시하는 코딩된 비트스트림으로부터의 신택스 엘리먼트들을 디코딩하여 최종 참조 화상 리스트 또는 리스트들을 구축할 수도 있다. 대체로, 수정 시, 비디오 디코더 (30) 는 참조 화상 리스트의 초기화 후 복수의 참조 화상 서브세트들 중 하나 이상에서 식별된 화상들 중 하나 이상의 화상들을 참조 화상 리스트들 중 하나의 참조 화상 리스트의 엔트리에서 매핑할 수도 있다.

예를 들어, 비디오 디코더 (30) 가 초기 참조 화상 리스트 또는 리스트들을 위에서 설명된 방식으로 구축한 후, 비디오 디코더 (30) 는 초기 참조 화상 리스트들 중 하나에서의 엔트리들 중 적어도 하나의 엔트리를 코딩된 비트스트림에 의해 지시된 방식으로 수정할 수도 있다. 예를 들면, 비디오 인코더 (20) 는, 비록 참조 화상 리스트의 엔트리가 초기화 프로세스의 부분으로서 참조 화상을 이미 식별할 수도 있지만, 복수의 참조 화상 서브세트들 중 하나의 참조 화상 서브세트로부터의 어떤 화상이 참조 화상 리스트의 엔트리에서 식별되어야 하는지를 수정 신택스 엘리먼트들의 부분으로서 나타낼 수도 있다. 일부 예들에서, 본 개시에서 설명되는 참조 화상 리스트 수정 기법들은 유연하게 수정을 허용할 수도 있다. 예를 들면, 비디오 디코더 (30) 가 참조 화상 리스트들 중 하나 또는 양쪽 모두에서 초기 참조 화상 리스트들에 있지 않은 참조 화상을 식별하는 것이 가능할 수도 있다.

본 개시에서 사용되는 바와 같이, 어구 "수정된 참조 화상 리스트"는 초기 참조 화상 리스트의 수정 후의 참조 화상 리스트를 말한다. 수정된 참조 화상 리스트는 최종 참조 화상 리스트일 수도 있다. 수정된 참조 화상 리스트에서의 엔트리들의 수는 리스트 0에 대해 num_ref_idx_l0_active_minus1 + 1 이고, 리스트 1에 대해 num_ref_idx_l1_active_minus1 + 1 이다. 참조 화상이 리스트 0 및 리스트 1에 대한 수정된 참조 리스트들에서의 하나를 초과하는 인덱스 (예컨대, 엔트리) 에 나타날 수도 있다.

참조 화상 리스트 수정을 위해, 비디오 인코더 (20) 는 표 6의 신택스 엘리먼트들을 시그널링할 수도 있다.

표 6. 참조 화상 리스트 수정 신택스

신택스 엘리먼트들 modification_of_ref_pic_idc, short_term_ref_pic_set_idx 및 long_term_ref_pic_set_idx는 초기 참조 화상 리스트들로부터 참조 화상 리스트들로의 변경을 슬라이스를 디코딩하기 위해 사용된다고 특정할 수도 있다.

1과 동일한 ref _ pic _ list _ modification _ flag _ l0은 신택스 엘리먼트 modification_of_ref_pic_idc가 참조 화상 리스트 0을 특정하기 위해 존재한다는 것을 특정할 수도 있다. 0과 동일한 ref_pic_list_modification_flag_l0은 이 신택스 엘리먼트가 존재하지 않는다는 것을 특정한다.

ref_pic_list_modification_flag_l0 이 1과 동일한 경우, ref_pic_list_modification_flag_l0에 후속하는 modification_of_ref_pic_idc가 3과 동일하지 않은 횟수는 num_ref_idx_l0_active_minus1 + 1 을 초과하지 않을 수도 있다.

1과 동일한 ref _ pic _ list _ modification _ flag _ l1은 신택스 modification_of_ref_pic_idc가 참조 화상 리스트 1을 특정하기 위해 존재한다는 것을 특정할 수도 있다. 0과 동일한 ref_pic_list_modification_flag_l1은 이 신택스 엘리먼트가 존재하지 않는다는 것을 특정할 수도 있다.

ref_pic_list_modification_flag_l1 이 1과 동일한 경우, ref_pic_list_modification_flag_l1에 후속하는 modification_of_ref_pic_idc가 3과 동일하지 않은 횟수는 num_ref_idx_l1_active_minus1 + 1 을 초과하지 않을 수도 있다.

short_term_ref_pic_set_idx 또는 long_term_ref_pic_set_idx와 함께 modification_of_ref_pic_idc는 참조 화상들 중 어떤 것이 재 매핑되는지를 특정할 수도 있다. modification_of_ref_pic_idc의 값들은 표 7에서 특정된다. ref_pic_list_modification_flag_l0 또는 ref_pic_list_modification_flag_l1 바로 뒤를 후속하는 제 1 modification_of_ref_pic_idc의 값은 3이 아닐 수도 있다.

ref _ pic _ set _ idx는 RefPicSetStCurr0, RefPicSetStCurr1 또는 RefPicSetLtCurr에 대해, 참조 화상 리스트에서 현재 인덱스로 이동되고 있는 참조 화상의 인덱스를 특정한다. ref_pic_set_idx의 값은 0 내지 max_num_ref_frames의 범위에 있을 수도 있다.

표 7. 참조 화상 리스트들의 수정을 위한 modification_of_ref_pic_idc 동작들

참조 화상 리스트 수정에 대해, ref_pic_list_modification_flag_l0 이 1과 동일한 경우, 비디오 디코더 (30) 는 초기 참조 화상 리스트 0 (즉, 초기 리스트 0) 을 수정할 수도 있고, ref_pic_list_modification_flag_l1 이 1과 동일한 경우, 비디오 디코더 (30) 는 초기 참조 화상 리스트 1 (즉, 초기 리스트 1) 을 수정할 수도 있다. 참조 화상 리스트 수정의 이해를 돕기 위해, 변수 refIdxL0이 초기 리스트 0으로의 인덱스이고, 변수 refIdxL1이 초기 리스트 1로의 인덱스라고 가정한다. 다르게 말하면, refIdxL0은 초기 리스트 0의 엔트리를 식별할 수도 있고 (즉, 초기 리스트 0에 대한 인덱스는 초기 리스트 0의 엔트리를 식별하고), refIdxL1은 초기 리스트 1의 엔트리를 식별할 수도 있다. refIdxL0 및 refIdxL1 변수들은 초기에는 0과 동일하게 설정될 수도 있다.

비디오 디코더 (30) 는 신택스 엘리먼트들이 비트스트림에서 발생하는 프로세스에서 modification_of_ref_pic_idc에 대한 신택스 엘리먼트들을 프로세싱할 수도 있다. 예를 들어, 비디오 인코더 (20) 가 참조 화상 리스트 수정이 초기 리스트 0에 대해 필요하다고 시그널링하면, 비디오 디코더 (30) 는 비디오 인코더 (20) 가 초기 리스트 0을 수정하기 위해 modification_of_ref_pic_idc 신택스 엘리먼트들을 시그널링했던 순서를 프로세싱할 수도 있다. 마찬가지로, 비디오 인코더 (20) 가 참조 화상 리스트 수정이 초기 리스트 1에 대해 필요하다고 시그널링하면, 비디오 디코더 (30) 는 비디오 인코더 (20) 가 초기 리스트 1을 수정하기 위해 modification_of_ref_pic_idc 신택스 엘리먼트들을 시그널링했던 순서를 프로세싱할 수도 있다.

modification_of_ref_pic_idc 신택스 엘리먼트의 값은, 표 7에 나타낸 바와 같이, 0, 1, 2, 또는 3일 수도 있다. modification_of_ref_pic_idc 신택스 엘리먼트의 값이 3이면, 비디오 디코더 (30) 는 초기 참조 화상 리스트의 수정을 중단할 수도 있다. 그렇지 않으면, 비디오 디코더 (30) 는 modification_of_ref_pic_idc 신택스 엘리먼트의 값이 3이 되기까지 초기 참조 화상 리스트를 수정하는 것을 유지할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 modification_of_ref_pic_idc 신택스 엘리먼트에 대해 복수의 값들을 시그널링할 수도 있고, 비디오 디코더 (30) 는 값들이 코딩된 비트스트림에 존재하는 순서로 그 값들의 각각을 프로세싱할 수도 있다. 비디오 디코더 (30) 가 modification_of_ref_pic_idc 신택스 엘리먼트의 값이 3이 되도록 프로세싱한 경우, 비디오 디코더 (30) 는 추가의 수정이 필요하지 않다고 결정할 수도 있다.

3 이외의 어떤 것 (즉, 0, 1, 또는 2) 이 되는 modification_of_ref_pic_idc 신택스 엘리먼트의 값은, 비디오 데이터 (30) 가 참조 화상 리스트의 현재 엔트리에 올려져야 하는 (예컨대 추가되어야 하는) 참조 화상을 어떤 참조 화상 서브세트로부터 식별해야 하는 지를 나타낼 수도 있다. 위에서 설명된 바와 같이, 참조 화상 리스트의 현재 엔트리는 refIdxLX의 값에 의해 식별될 수도 있으며, 여기서 LX는 리스트 0 또는 리스트 1 중 어느 하나이다. 예를 들어, 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있고 modification_of_ref_pic_idc가 0이면, 표 7에 따라, 비디오 디코더 (30) 는 ref_pic_set_idx의 값에 기초하여 RefPicSetStCurr0으로부터의 어떤 참조 화상이 참조 화상 리스트의 현재 엔트리에서 식별될 것인지를 결정할 수도 있다. 비디오 디코더 (30) 가 초기 리스트 1을 수정하고 있고 modification_of_ref_pic_idc가 0이면, 표 7에 따라, 비디오 디코더 (30) 는 ref_pic_set_idx의 값에 기초하여 RefPicSetStCurr1로부터의 어떤 참조 화상이 참조 화상 리스트의 현재 엔트리에서 식별될 것인지를 결정할 수도 있다. 예를 들어, 변수 curRefPicSet은 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1을 수정하기 위해 어떤 참조 화상 서브세트를 사용해야하는 지를 정의할 수도 있다.

예를 들면, modification_of_ref_pic_idc가 0과 동일하고 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있다면, curRefPicSet은 RefPicSetStCurr0 참조 화상 서브세트와 동일하다. modification_of_ref_pic_idx가 0과 동일하고 비디오 디코더 (30) 가 초기 리스트 1을 수정하고 있다면, curRefPicSet은 RefPicSetStCurr1 참조 화상 서브세트와 동일하다.

비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있고 modification_of_ref_pic_idc가 1이면, 표 7에 따라, 비디오 디코더 (30) 는 ref_pic_set_idx의 값에 기초하여 RefPicSetStCurr1로부터의 어떤 참조 화상이 참조 화상 리스트의 현재 엔트리에서 식별될 것인지를 결정할 수도 있다. 비디오 디코더 (30) 가 초기 리스트 1을 수정하고 있고 modification_of_ref_pic_idc가 1이면, 표 7에 따라, 비디오 디코더 (30) 는 ref_pic_set_idx의 값에 기초하여 RefPicSetStCurr0으로부터의 어떤 참조 화상이 참조 화상 리스트의 현재 엔트리에서 식별될 것인지를 결정할 수도 있다.

이 경우, modification_of_ref_pic_idc가 1과 동일하고 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있다면, curRefPicSet은 RefPicSetStCurr1 참조 화상 서브세트와 동일하다. modification_of_ref_pic_idx가 1과 동일하고 비디오 디코더 (30) 가 초기 리스트 1을 수정하고 있다면, curRefPicSet은 RefPicSetStCurr0 참조 화상 서브세트와 동일하다.

비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있고 modification_of_ref_pic_idc가 2이면, 표 7에 따라, 비디오 디코더 (30) 는 ref_pic_set_idx의 값에 기초하여 RefPicSetLtCurr로부터의 어떤 참조 화상이 참조 화상 리스트의 현재 엔트리에서 식별될 것인지를 결정할 수도 있다. 이 예에서, modification_of_ref_pic_idc가 2와 동일하고 비디오 디코더 (30) 가 초기 리스트 0 또는 초기 리스트 1을 수정하고 있다면, curRefPicSet은 RefPicSetLtCurr 참조 화상 서브세트와 동일하다.

위에서 설명된 바와 같이, ref_pic_set_idx 신택스 엘리먼트는 복수의 참조 화상 서브세트들 중 하나로의 인덱스를 나타낼 수도 있다. 다르게 말하면, ref_pic_set_idx 신택스 엘리먼트는 복수의 참조 화상 서브세트들 중 하나로부터의 엔트리를 비디오 디코더 (30) 에 나타낼 수도 있다. 비디오 디코더 (30) 는 복수의 참조 화상 서브세트들 중 하나의 참조 화상 서브세트의 엔트리에서 식별된 참조 화상을 초기 리스트 0 또는 초기 리스트 1의 현재 인덱스에서 식별될 참조 화상이라고 결정할 수도 있다.

변수 curRefPicPoc는 PicOrderCnt (curRefPicSet[ref_pic_set_idx]) 와 동일할 수도 있다. 이런 식으로, curRefPicPoc의 값은 curRefPicSet의 ref_pic_set_idx 엔트리에서 식별된 참조 화상의 POC 값일 수도 있다. 위에서 설명된 바와 같이, curRefPicSet은, modification_of_ref_pic_idc 신택스 엘리먼트의 값에 기초하여 및 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있는지 또는 초기 리스트 1을 수정하고 있는지에 기초하여 RefPicSetStCurr0, RefPicSetStCurr1, 또는 RefPicSetLtCurr와 동일할 수도 있다.

비디오 디코더 (30) 는 참조 화상 리스트 수정을 위해 다음의 의사 코드를 이행할 수도 있다. 예를 들어, 다음의 의사 코드에서, 비디오 디코더 (30) 는 초기 참조 화상 리스트의 엔트리에서 curRefPicPoc와 동일한 POC 값을 갖는 화상을 식별할 수도 있다. refIdxLX 변수는 초기 참조 화상 리스트에서의 엔트리에 대한 인덱스 포지션을 나타낸다. 예를 들어, 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있는 경우, refIdxLX는 refIdxL0일 수도 있고, 비디오 디코더 (30) 가 초기 리스트 1을 수정하고 있는 경우, refIdxLX는 refIdxL1일 수도 있다.

비디오 디코더 (30) 가 초기 참조 화상 리스트 (즉, 초기 리스트 0 또는 초기 리스트 1) 에서 curRefPicPOC와 동일한 POC 값을 갖는 참조 화상을 식별한 후, 비디오 디코더 (30) 는 다른 남아있는 화상들의 포지션을 리스트에서의 뒤로 시프트시킬 수도 있다. 예를 들어, 비디오 디코더 (30) 는 수정된 참조 화상 리스트를 구축하기 위해 현재 엔트리에 후속하는 엔트리들에서 초기 참조 화상 리스트에서 식별된 참조 화상들을 다음의 엔트리로 이동시킬 수도 있다. 구체적인 예로서, 초기 참조 화상 리스트에서의 현재 엔트리가 인덱스 [2]를 갖는 제 3 엔트리라고 가정한다. 비디오 디코더 (30) 는 인덱스 [2]를 갖는 제 3 엔트리에서 현재 식별된 참조 화상을 다음의 엔트리 (예컨대, 인덱스 [3]을 갖는 제 4 엔트리) 로 이동시킬 수도 있다. 비디오 디코더 (30) 는 인덱스 [3]을 갖는 제 4 엔트리에서 현재 식별된 참조 화상을 인덱스 [4]를 갖는 제 5 엔트리로 이동시킬 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 초기 참조 화상 리스트에서의 마지막 엔트리로부터 시작하고, 그 엔트리에서 식별된 참조 화상을 임시 새 엔트리로 이동시킬 수도 있다. 그 다음에 비디오 디코더 (30) 가 현재 엔트리에 도달하기까지 제 2 내지 마지막 엔트리에서 식별된 참조 화상을 마지막 엔트리로 이동시키는 등을 한다.

비디오 디코더 (30) 는 그 다음에 refIdxLX 변수의 값을 증가시킬 수도 있다. 이 의사 코드에서, RefPicListX (즉, RefPicList0 또는 RefPicList1) 의 길이는 최종 참조 화상 리스트를 위해 필요한 길이보다 일시적으로 하나의 엘리먼트 더 길게 된다. 예를 들면, 위에서 설명된 바와 같이, 비디오 디코더 (30) 는 초기 참조 화상 리스트에서의 마지막 엔트리로부터 시작하며, 그 마지막 엔트리를 임시 엔트리로 이동시키며, 제 2 내지 마지막 엔트리를 마지막 엔트리로 이동시키는 등등으로 초기 참조 화상 리스트를 수정할 수도 있다. 의사 코드의 실행 후, 비디오 디코더 (30) 는 인덱스 0 내지 num_ref_idx_lX_active_minus1의 엔트리들만을 가지고 있을 수도 있으며, 여기서 num_ref_idx_lX_active_minus1은 리스트 0에 대해 num_ref_idx_lX_active_minus1이고, 리스트 1에 대해 num_ref_idx_l1_active_minus1이다.

위의 의사 코드에서, RefPicListX는 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있는지 또는 초기 리스트 1을 수정하고 있는지에 기초하여 RefPicList0 (즉, 최종 리스트 0) 또는 RefPicList1 (즉, 최종 리스트 1) 중 어느 하나를 의미한다. num_ref_idx_lX_active_minus1은 비디오 디코더 (30) 가 초기 리스트 0을 수정하고 있는지 또는 초기 리스트 1을 수정하고 있는지에 기초하여 num_ref_idx_l0_active_minus1 또는 ref_idx_l1_active_minus1 중 어느 하나를 의미한다.

위의 기법들은 비디오 디코더 (30) 가 초기 참조 화상 리스트를 수정할 수도 있는 일 예의 방식을 설명한다. 인코딩 프로세스 동안, 비디오 인코더 (20) 는 후속하는 화상들을 인코딩하는 목적으로 인코딩된 화상들을 디코딩하는 것을 또한 필요로 할 수도 있다. 따라서, 일부 예들에서, 비디오 인코더 (20) 는 또한 초기 참조 화상 리스트들을 구축하고, 위에서 설명된 방식으로, 초기 참조 화상 리스트들을 수정하도록 구성될 수도 있다. 그러나, 비디오 인코더 (20) 는 모든 예에서 초기 참조 화상 리스트 또는 리스트들을 수정하는 것을 필요로 하지 않을 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 위에서 설명된 기법들을 활용하여 초기 참조 화상을 수정하는 코더일 뿐일 수도 있다.

따라서, 일부 예들에서, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 위에서 설명된 기법들을 활용하여 초기 참조 화상 리스트 (예컨대, 초기 리스트 0 또는 초기 리스트 1) 를 구축할 수도 있다. 비디오 코더는 코딩된 비트스트림에서의 코딩된 신택스 엘리먼트들에 기초하여 참조 화상 리스트 수정이 필요한지의 여부를 결정할 수도 있다. 참조 화상 리스트 수정이 필요한 경우, 비디오 코더는 초기 참조 화상 리스트를 수정할 수도 있다.

예를 들어, 참조 화상 리스트 수정이 필요한 경우, 비디오 코더는 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상을 식별할 수도 있다. 비디오 코더는 수정된 참조 화상 리스트를 구축하기 위해 초기 참조 화상 리스트의 현재 엔트리에 식별된 참조 화상을 올릴 (예컨대, 추가할) 수도 있다. 비디오 코더는 그 다음에 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있다.

하나의 예로서, 비디오 코더는 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들을 구축할 수도 있다. 이들 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트에서 참조 화상을 식별하기 위해, 비디오 코더는 이들 참조 화상 서브세트들 중 적어도 하나로의 인덱스를 결정할 수도 있다. 비디오 코더는 그 다음에 결정된 인덱스에 기초하여 이들 참조 화상 서브세트들의 적어도 하나의 참조 화상 서브세트의 엔트리에서 식별된 참조 화상을 결정할 수도 있다.

예를 들어, 비디오 코더는 제 1 신택스 엘리먼트, 이를테면 modification_of_ref_pic_idc 신택스 엘리먼트를 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있으며, 그 제 1 신택스 엘리먼트로 비디오 코더는 참조 화상 서브세트들 중 하나 (예컨대, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들 중 하나) 를 식별한다. 비디오 코더는 식별된 참조 화상 서브세트 (예컨대, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들 중 하나) 로의 인덱스를 나타내는 제 2 신택스 엘리먼트, 이를테면 ref_pic_set_idx 신택스 엘리먼트를 코딩할 수도 있다.

일부 예들에서, 비디오 코더는 초기 참조 화상 리스트에서 참조 화상들을 이동시키도록 추가로 구성될 수도 있다. 예를 들어, 비디오 코더는 현재 엔트리에 후속하는 엔트리들에서 초기 참조 화상 리스트에서 식별된 참조 화상들을 수정된 참조 화상 리스트에서의 다음의 엔트리로 이동시킬 수도 있다.

이전의 예들은 비디오 인코더 (20) 및 비디오 디코더 (30) 가 참조 화상 세트를 도출할 수도 있는 방식, 뿐만 아니라 수정이 필요하지 않는 경우 및 수정이 필요한 경우에 참조 화상 리스트들을 구축하는 예의 기법들을 설명했다. 그러나, 본 개시에서 설명된 기법들은 그렇게 제한되지 않는다. 일부 예들에서, 본 개시에서 설명된 기법들은 디코딩된 화상 버퍼 (DPB) 관리를 지향하고 있을 수도 있다. 그 DPB는 디코딩된 화상들을 저장하는 버퍼일 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 개별 DPB들을 구비할 수도 있다. 예를 들어, 인코딩 프로세스의 부분으로서, 비디오 인코더 (20) 는 현재 화상을 디코딩하며, 디코딩된 화상을 비디오 인코더 (20) 의 DPB에 저장하고, DPB에 저장된 디코딩된 화상을 후속 화상을 인터 예측하기 위해 활용할 수도 있다. 마찬가지로, 디코딩 프로세스의 부분으로서, 비디오 디코더 (30) 는 현재 화상을 디코딩하고 디코딩된 화상을 비디오 디코더 (30) 의 DPB에 저장할 수도 있다. 비디오 디코더 (30) 는 그 다음에 후속 화상을 인터 예측하기 위해 디코딩된 화상을 활용할 수도 있다.

일부 예들에서, 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나를 위한 DPB는 출력 재순서화 또는 출력 지연을 위해 디코딩된 화상들을 저장할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 디코딩된 화상들이 출력을 위해 재순서화되어야 한다고 또는 디코딩된 화상의 출력이 지연되어야 한다고 결정할 수도 있다. 이들 예들에서, 비디오 디코더 (30) 의 DPB는 출력 재순서화 또는 출력 지연을 위해 디코딩된 화상들을 저장할 수도 있다.

본 개시에서 설명되는 DPB 관리 기법들은 DPB가 디코딩된 화상들을 출력하고 제거하는 방식을 지향하고 있을 수도 있다. output_flag 신택스 엘리먼트는 디코딩된 화상 출력 및 제거 프로세스에 영향을 미칠 수도 있고, 네트워크 추상화 계층 (NAL) 단위 시맨틱스의 부분으로서 정의될 수도 있다. NAL 단위는, 추종하는 데이터의 유형의 표시 및 에뮬레이션 방지 바이트들로 필요에 따라 점재된 (interspersed) RBSP (raw byte sequence payload) 의 형태로 그 데이터를 포함하는 바이트들을 포함하는 신택스 구조로서 정의될 수도 있다. RBSP는 NAL 단위로 캡슐화되는 정수 수의 바이트들을 포함하는 신택스 구조일 수도 있다. RBSP는 비어있을 수도 있거나 또는 신택스 엘리먼트들과 후속하는 RBSP 정지 비트 및 후속하는 0과 동일한 0 개 이상의 후속 비트들을 포함하는 데이터 비트들의 스트링의 형태를 가질 수도 있다. 표 8은 NAL 단위 신택스를 정의한다.

표 8. NAL 단위 신택스

표 8에서, output_flag는 아래에서 더 상세히 설명되는 바와 같은 디코딩된 화상 출력 및 제거 프로세스에 영향을 미칠 수도 있다. 임의의 화상에 대해, output_flag가 1과 동일하면, 그 화상은 출력을 위해 의도된 것이다. 그렇지 않으면, 그 화상은 결코 출력되지 않는다. 본 개시에서 설명된 기법들에서, 변수 OutputFlag는 output_flag 신택스 엘리먼트와 동일하다.

일부 예들에서, 현재 액세스 단위의 코딩된 화상의 임의의 코딩된 슬라이스 NAL 단위는 다음의 방법들 중 하나 이상에서 이전의 액세스 단위의 코딩된 화상의 임의의 코딩된 슬라이스 NAL 단위와는 상이할 수도 있다. 예를 들어, pic_parameter_set_id 값들은 상이할 수도 있으며, nal_ref_idc 값들은 상이할 수도 있으며, nal_ref_idc 값들 중 하나는 0과 동일하다. pic_order_cnt_lsb 값들은 상이할 수도 있다. IdrPicFlag 값들은 상이할 수도 있다. IdrPicFlag는 양쪽 모두에 대해 1과 동일할 수도 있고, idr_pic_id 값들은 상이할 수도 있다.

본 개시에서 설명된 기법들에서, 액세스 단위는 디코딩 순서에서 연속적이고 하나의 코딩된 화상을 포함하는 NAL 단위들의 세트로서 정의될 수도 있다. 코딩된 화상 외에도 하나의 보조 코딩된 화상, 또는 다른 NAL 단위들이 코딩된 화상의 슬라이스들을 포함하지 않을 수도 있다. 일부 예들에서, 액세스 단위의 디코딩은 디코딩된 화상이 될 수도 있다. 코딩된 화상은 디코딩 프로세스에 의해 사용될 화상의 코딩된 표현일 수도 있다.

표 4에 나타낸 바와 같이, 슬라이스 헤더 신택스는 pic_parameter_set_id 신택스 엘리먼트, pic_order_cnt_lsb 신택스 엘리먼트, IdrPicFlag 신택스 엘리먼트, 및 idr_pic_id 신택스 엘리먼트을 포함할 수도 있다. 표 8에 나타낸 바와 같이, NAL 단위 신택스는 nal_ref_idc 신택스 엘리먼트를 포함할 수도 있다.

예시의 목적으로, DPB 관리 기법들은 HRD (hypothetical reference decoder) 의 관점에서 설명된다. HRD은 인코딩 프로세스가 생산할 수도 있는 순응하는 NAL 단위 스트림들 또는 순응하는 바이트 스트림들의 변동성 (variability) 에 대한 제약조건들을 특정하는 가상 디코더 모델로서 정의될 수도 있다. 그러나, 본 개시에서 설명되는 기법들에 따르면, 비디오 디코더 (30) 는 DPB 관리 기법들을 이행할 수도 있고, 일부 예들에서, 비디오 인코더 (20) 가 DPB 관리 기법들 또한 이행하는 것이 가능할 수도 있다.

HDR 모델은 코딩된 화상 버퍼 (coded picture buffer; CPB), 순간 디코딩 프로세스, 및 디코딩된 화상 버퍼 (DPB) 를 정의할 수도 있다. CPB는 다른 이전의 표준들에서 정의된 HDR 모델들의 CPB와 유사할 수도 있다 (즉, CPB는 코딩된 화상들을 저장할 수도 있다). 본 개시에서 설명된 기법들은 다른 표준들에서의 동작들과는 상이한 DPB 동작들을 지향하고 있다. 다시, 비디오 디코더 (30) 와 아마도 비디오 인코더 (20) 가 아래에서 설명되는 바와 같은 DPB 동작들을 이행할 수도 있다는 것이 이해되어야 한다.

대체로, 본 개시에서 설명되는 기법들에서는 DPB에서의 디코딩된 화상들의 출력 및 제거를 지향하고 있다. 디코딩된 화상의 출력은, 이 상황에서, 디스플레이, 저장 또는 다른 목적들을 위한 디코딩 화상의 출력을 의미한다. 그러나, 출력되는 디코딩된 화상은 DPB로부터 반드시 제거될 필요는 없다. 예를 들어, 비디오 디코더 (30) 가 DPB로부터 출력되는 디코딩된 화상을 후속 화상을 인터 에측하기 위한 참조 화상으로서 활용하는 것을 필요로 할 수도 있기 때문에 비디오 디코더 (30) 는 그 디코딩된 화상을 제거하지 않을 수도 있다. 디코딩된 화상의 제거는, 이 상황에서, DPB로부터 디코딩된 화상의 제거를 의미한다.

예를 들면, 비디오 디코더 (30) 는 디코딩된 화상들을 비디오 디코더 (30) 의 DPB에 화상이 디코딩되는 순서대로 저장할 수도 있다. 그러나, 화상들의 디코딩 순서는 화상들의 출력 순서와 동일하지 않을 수도 있다. 예를 들어, 디코딩 순서에서 현재 화상에 후속하며 현재 화상보다 앞서 출력될 화상들이 있을 수도 있다. 따라서, 일부 예들에서, 비디오 디코더 (30) 는 비디오 디코더 (30) 가 디코딩 순서로 순서화된 DPB에서의 화상들을 출력 순서로 재순서화하는 재순서화를 수행할 수도 있다. 비디오 디코더 (30) 는 그 다음에 디코딩된 화상들을 그것들의 출력 순서대로 출력할 수도 있다. 비디오 디코더 (30) 는 또한 화상이 출력을 위해 필요하지 않고 (즉, 그것이 출력되었거나 또는 출력을 위해 의도된 것이 아니고) 인터 예측을 위해 필요하지 않으면 (즉, 인터 예측을 위한 참조 화상으로서 사용되는 것이 필요하지 않으면) 디코딩된 화상으로부터 화상들을 제거할 수도 있다.

본 개시에서 설명된 기법들에서, 비디오 디코더 (30) 는, 디코딩된 화상이 출력되었거나 또는 출력을 위해 의도된 것이 아니면, 그리고 디코딩된 화상이 도출된 참조 화상 세트에서 식별되지 않으면 (이것은, 인터 예측 참조를 위해 더 이상 필요하지 않게 되는 것 (즉, 인터 예측을 위한 참조 화상으로서 사용될 것이 더 이상 필요하지 않게 되는 것) 과 같다), DPB로부터 디코딩된 화상을 제거할 수도 있다. 다시, 위에서 설명된 바와 같이, 참조 화상 세트는, 현재 화상을 인터 예측하는 데 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하는 데 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다. 본 개시에서 설명되는 기법들에 따르면, 디코딩된 화상이 도출된 참조 화상 세트에서 식별되지 않으면, 그 디코딩된 화상은 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측 (예컨대, 디코딩) 하기 위한 참조 화상으로서 필요하지 않을 수도 있다. 그러므로, 디코딩된 화상이 인터 예측을 위해 사용되지 않을 것을 감안하면 이러한 디코딩된 화상을 DPB에 유지할 필요가 없을 수도 있기 때문에 디코딩된 화상이 출력을 위해 필요하지 않으면, 이러한 디코딩된 화상은 DPB로부터 제거될 수 있다.

더욱이, 본 개시에서 설명된 기법들에서, 비디오 디코더 (30) 는 현재 화상의 디코딩 전에 디코딩된 화상을 제거할 수도 있다. 예를 들어, 위에서 설명된 바와 같이, 비디오 디코더 (30) 는 참조 화상 세트를 도출하고, 현재 화상의 디코딩 전에 참조 화상 리스트(들)를 구축할 수도 있다. 비디오 디코더 (30) 가 현재 화상을 디코딩하기 전에 참조 화상 세트를 도출할 수도 있기 때문에, 비디오 디코더 (30) 는 출력을 위해 필요되지 않는 디코딩된 화상이 현재 화상을 디코딩하기 전에 제거되어야하는지의 여부를 결정하도록 구성될 수도 있다. 예를 들어, 참조 화상 세트를 도출한 후 및 현재 화상을 디코딩하기 전에, 비디오 디코더 (30) 는 출력된 디코딩된 화상 또는 출력이 의도되지 않은 디코딩된 화상이 참조 화상 세트에서 식별되지 않는지의 여부를 결정할 수도 있다. 그 다음에, 현재 화상을 디코딩하기 전, 비디오 디코더 (30) 는, 디코딩된 화상이 참조 화상 세트에서 식별되지 않으면, 출력이 필요하지 않은 (즉, 이미 출력된 또는 출력이 의도되지 않은) 디코딩된 화상을 제거할 수도 있다.

일부 예들에서, 비디오 디코더 (30) 는 현재 화상을 디코딩하기 전에 디코딩된 화상을 제거할 수도 있다. 그러나, 비디오 디코더 (30) 는 참조 화상 리스트(들)를 구축한 후 디코딩된 화상을 제거할 수도 있다. 예를 들면, 비디오 디코더 (30) 는 참조 화상 세트를 도출할 수도 있고, 참조 화상 세트에 기초하여 참조 화상 리스트들을 구축할 수도 있다. 그 다음에, 현재 화상을 디코딩하기 전, 비디오 디코더 (30) 는 디코딩된 화상을 제거할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 또한 참조 화상 리스트(들)를 구축한 후 디코딩된 화상을 출력할 수도 있다.

본 개시는 적어도 2 가지 관점들에서 DPB에서의 디코딩된 화상들의 제거 기법들을 설명한다. 제 1 관점에서, 비디오 디코더 (30) 는 화상들이 출력을 위해 의도되면 출력 시간에 기초하여 디코딩된 화상들을 제거할 수도 있다. 제 2 관점에서, 비디오 디코더 (30) 는 화상들이 출력을 위해 의도되면 POC 값들에 기초하여 디코딩된 화상들을 제거할 수도 있다. 관점들 증 어느 것에서나, 비디오 디코더 (30) 는 디코딩된 화상이 참조 화상 세트에 있지 않는 경우, 및 현재 화상을 디코딩하기 전에, 출력이 필요하지 않은 (즉, 이미 출력된 또는 출력이 의도되지 않은) 디코딩된 화상들을 제거할 수도 있다.

DPB는 복수의 버퍼들을 포함할 수도 있고, 각각의 버퍼는 참조 화상으로서 사용될 또는 미래의 출력을 위해 유지되는 디코딩된 화상을 저장할 수도 있다. 처음에, DPB는 비어 있다 (즉, DPB 충만도는 0으로 설정된다). 설명되는 예의 기법들에서, DPB로부터의 디코딩된 화상들의 제거는, 현재 화상의 디코딩 이전에 그러나 비디오 디코더 (30) 가 현재 화상의 제 1 슬라이스의 슬라이스 헤더를 파싱한 이후에 일어날 수도 있다.

제 1 관점에서, 다음의 기법들은 시간 t_r(n) 에 다음의 시퀀스에서 순간적으로 일어날 수도 있다. 이 예에서, t_r(n) 은 현재 화상을 포함하는 액세스 단위 n의 CPB 제거 시간 (즉, 디코딩 시간) 이다. 본 개시에서 설명되는 바와 같이, 순간적으로 발생하는 기법들은 HDR 모델에서 화상의 디코딩이 0과 동일한 화상을 디코딩하는 기간으로 순간적이다 (즉, 무한정 빠르다) 고 가정됨을 의미할 수도 있다.

현재 화상이 IDR 화상이면, 및 IDR 화상이 제 1 IDR 화상이 아니고 액티브 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값이 선행하는 화상에 대해 액티브였던 시퀀스 파라미터 세트로부터 도출된 pic_width_in_luma_samples 또는 pic_height_in_luma_samples 또는 max_dec_frame_buffering의 값과는 각각 상이한 경우, 비디오 디코더 (30) 는, no_output_of_prior_pics_flag의 실제 값과 무관하게, no_output_of_prior_pics_flag 신택스 엘리먼트가 1과 동일하다고 유추할 수도 있다. 현재 화상이 IDR 화상이면, 및 no_output_of_prior_pics_flag가 1과 동일하거나 또는 1이라고 유추되는 경우, 비디오 디코더 (30) 는 DPB에서의 화상들을 출력하는 일 없이 DPB의 모든 버퍼들을 비울 수도 있고, DPB 충만도를 0으로 설정할 수도 있다.

표 1에서 나타낸 바와 같이, 시퀀스 파라미터 세트는 pic_width_in_luma_samples, 및 pic_height_in_luma_samples 신택스 엘리먼트들을 포함할 수도 있다. 시퀀스 파라미터 세트는 max_dec_frame_buffering 신택스 엘리먼트를 또한 포함할 수도 있다. 표 4 에서 나타낸 바와 같이, 슬라이스 헤더 신택스는 no_output_of_prior_pics_flag 신택스 엘리먼트를 포함할 수도 있다.

현재 화상이 IDR 화상이 아닌 경우, 비디오 디코더 (30) 는 다음의 조건들이 참인 경우 DPB에서 모든 화상들 (m) 을 제거할 수도 있다. 제 1 조건은 화상이 현재 화상의 참조 화상 세트에 포함되지 않는다는 것일 수도 있다. 제 2 조건은 화상이 0과 동일한 OutputFlag를 가지거나 또는 그것의 DPB 출력 시간이 현재 화상의 CPB 제거 시간 이하라는 것일 수도 있다. 이 예에서, CPB 제거 시간은 t_r(n) 이며, 이는 제거 프로세스가 발생하는 경우 (예컨대, 현재 화상의 디코딩 전의 시간) 이다. 디코딩된 화상 (m) 의 DPB 출력 시간은 변수 t_o _, _dpb(m) 에 의해 정의될 수도 있다. 그러므로, CPB 제거 시간 이하인 DPB 출력 시간은 t_o _, _dpb(m) < t_r(n) 으로서 표현될 수도 있다. DPB 출력 시간 (t_o _, _dpb) 의 도출은 아래에서 더 상세히 정의된다.

이런 방식으로, 비디오 디코더 (30) 는, 화상을 디코딩하기 전에, 디코딩된 화상의 출력 시간에 기초하여, 및 디코딩된 화상이 참조 화상 세트에서 식별되지 않는 경우, DPB로부터 디코딩된 화상들을 제거할 수도 있다. 비디오 디코더 (30) 가 DPB로부터 디코딩된 화상을 제거하는 경우, 비디오 디코더 (30) 는 DPB 충만도를 1만큼 감소시킬 수도 있다.

다음은 비디오 디코더 (30) 가 디코딩된 화상을 출력하는 시간 (예컨대, 디코딩된 화상의 DPB 출력 시간) 을 결정할 수도 있는 방식을 설명하고, 또한 비디오 디코더 (30) 가 디코딩된 화상을 DPB에 저장할 수도 있는 경우를 설명한다. 위에서 설명된 바와 같이, 화상의 DPB 출력 시간은 그 화상이 DPB로부터 제거되는지의 여부를 결정함에 있어서 팩터가 될 수도 있다.

비디오 디코더 (30) 가 화상을 디코딩하는 경우, 비디오 디코더 (30) 는 그 화상을 DPB에 저장하고, DPB 충만도를 1만큼 증가시킨다. 화상이 1과 동일한 OutputFlag를 가지는 경우, 비디오 디코더 (30) 는 다음의 수학식에 기초하여 화상에 대한 DPB 출력 시간을 도출할 수도 있다.

수학식에서, dpb_output_delay(n) 는 화상을 포함하는 액세스 단위에 연관된 화상 타이밍 SEI 메시지에서 특정될 수도 있다. SEI 메시지는 H.264/AVC 표준과 같은 일부 표준들에서 정의될 수도 있다.

t_o _, _dpb(n) 값은 화상이 출력되어야 하는 경우를 정의할 수도 있다. 예를 들어, OutputFlag가 1과 동일하고 t_o _, _dpb(n) 이 t_r(n) 과 동일하면, 비디오 디코더 (30) 는 화상을 출력할 수도 있다. 그렇지 않고, OutputFlag가 0과 동일하면, 비디오 디코더 (30) 는 화상을 출력하지 않을 수도 있다. OutputFlag가 1과 동일하고 t_o _, _dpb(n) 이 t_r(n) 보다 큰 경우들에서, 비디오 디코더 (30) 는 나중의 시간에 (예컨대, 시간 t_o _, _dpb(n) 에) 화상을 출력할 수도 있다.

일부 예들에서, 비디오 디코더 (30) 가 화상을 출력하는 경우, 비디오 디코더 (30) 는 화상을 크로핑 (cropping) 할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 화상에 대한 액티브 시퀀스 파라미터 세트에서 특정된 크로핑 직사각형을 활용할 수도 있다. 화상을 크로핑하는 기법들은 일반적으로 H.264/AVC 표준과 같은 표준들에서 잘 확립되고 설명된다.

일부 예들에서, 비디오 디코더 (30) 는 화상에 대한 DPB 출력 시간 및 출력 순서에서 그 화상에 후속하는 화상에 대한 DPB 출력 시간 사이의 차이를 결정할 수도 있다. 예를 들어, 화상(n) 이 비디오 디코더 (30) 가 출력하는 화상이고 비트스트림의 출력되는 마지막 화상인 경우, 비디오 디코더 (30) 는 Δt_o _, _dpb(n) 의 값이 다음과 같이 정의된다고 결정할 수도 있다:

위의 수학식에서, n_n 은 출력 순서에서 화상(n) 에 후속하고 1과 동일한 OutputFlag를 갖는 화상을 나타낸다. 또한, 위의 수학식에서,Δt_o _, _dpb(n) 은 화상 및 출력 순서에서의 다음 화상 사이의 DPB 출력 시간들에서의 차이를 나타낸다.

디코딩된 화상들을 제거하는 제 2 관점에서, HDR은 액세스 단위가 CPB로부터 제거되는 경우 그 기법들을 순간적으로 이행할 수도 있다. 다시, 비디오 디코더 (30) 는 DPB로부터 디코딩된 화상들의 제거를 이행할 수도 있고, 비디오 디코더 (30) 는 CPB를 반드시 포함하지 않을 수도 있다. 대체로, 본 개시에서, 디코딩된 화상들의 제거는 비디오 디코더 (30) 에 의해 수행되고, 또한 비디오 인코더 (20) 에 의해 수행될 수도 있다. 이들 예들에서, 비디오 디코더 (30) 및 비디오 인코더 (20) 는 CPB를 필요로 하지 않을 수도 있다. 오히려, CPB는 예시만을 목적으로 HDR 모델의 부분으로서 설명된다.

위에서처럼, 디코딩된 화상들을 제거하는 제 2 관점에서, 비디오 디코더 (30) 는 현재 화상의 디코딩 이전에 그러나 현재 화상의 제 1 슬라이스의 슬라이스 헤더를 파싱한 이후 DPB로부터 화상들을 제거할 수도 있다. 또한, 디코딩된 화상들을 제거하는 제 1 관점과 유사하게, 제 2 관점에서, 비디오 디코더 (30) 는 현재 화상이 IDR 화상인 경우에 제 1 관점에 대해 위에서 설명된 것들과 유사한 기능들을 수행할 수도 있다.

그렇지 않고, 현재 화상이 IDR 화상이 아니면, 비디오 디코더 (30) 는 "출력을 위해 필요하지 않음"으로 마킹된 화상을 저장하고 현재 화상의 참조 화상 세트에 포함되지 않는 화상들을 저장하는 DPB의 버퍼들을, 출력 없이, 비울 수도 있다. 비디오 디코더 (30) 는 또한 DPB 충만도를 비디오 디코더 (30) 가 비웠던 버퍼들의 수만큼 감소시킬 수도 있다. 빈 버퍼가 없는 (즉, DPB 충만도가 DPB 사이즈와 동일한) 경우, 비디오 디코더 (30) 는 아래에서 설명되는 범핑 (bumping)" 프로세스를 이행할 수도 있다. 일부 예들에서, 빈 버퍼가 없는 경우, 비디오 디코더 (30) 는 비디오 디코더 (30) 가 현재 디코딩된 화상을 저장할 수 있는 빈 버퍼가 있기까지 범핑 프로세스를 반복적으로 이행할 수도 있다.

현재 화상이, no_output_of_prior_pics_flag가 1과 동일하지 않고 1과 동일하다고 유추되지 않는 IDR 화상인 경우, 비디오 디코더 (30) 는 다음을 수행할 수도 있다. 비디오 디코더 (30) 는, "출력을 위해 필요하지 않음"으로 마킹되고 현재 화상의 참조 화상 세트에 포함되지 않는 화상을 저장하는 DPB의 버퍼들을, 출력 없이, 비울 수도 있다. 비디오 디코더 (30) 는 "범핑" 프로세스를 반복적으로 호출하는 것에 의해 DPB에서의 모든 비어있지 않은 버퍼들을 비울 수도 있고, DPB 충만도를 0으로 설정할 수도 있다.

다르게 말하면, 현재 화상이 IDR 화상인 경우, 비디오 디코더 (30) 는 DPB에서의 모든 버퍼들을 비우는 기법들을 이행할 수도 있다. 현재 화상이 IDR 화상이 아닌 경우, 비디오 디코더 (30) 는 디코딩된 화상들을 제거하여 현재 디코딩된 화상을 저장하는 버퍼들이 비어 있게 하는 기법들을 이행할 수도 있다.

예를 들어, 비디오 디코더 (30) 가 현재 화상을 디코딩한 후, 비디오 디코더 (30) 는 현재 화상을 DPB에 저장하고, DPB 충만도를 1만큼 증가시킬 수도 있다. 일부 예들에서, 현재 화상의 OutputFlag가 1과 동일하면, 비디오 디코더 (30) 는 현재 화상을 "출력을 위해 필요함"으로 마킹할 수도 있다. 그렇지 않고, 현재 화상의 OutputFlag가 0과 동일하면, 비디오 디코더 (30) 는 현재 화상을 "출력을 위해 필요하지 않음"으로 마킹할 수도 있다.

위에서 설명된 바와 같이, 일부 예들에서, 비디오 디코더 (30) 는 범핑 프로세스를 이행할 수도 있다. 대체로, 범핑 프로세스는 디코딩된 화상들을 출력하는 것을 수반한다. 예를 들면, 비디오 디코더 (30) 는 현재 화상이 IDR 화상이고 no_output_of_prior_pics_flag가 1과 동일하지 않고 1과 동일한 것으로 유추되지 않는 경우에 대해 범핑 프로세스를 이행할 수도 있다. 비디오 디코더 (30) 는 또한, 빈 버퍼가 DPB에 없고 (즉, DPB 충만도가 DPB의 사이즈와 동일하고) 빈 버퍼가 디코딩된 (비-IDR) 화상의 저장을 위해 필요하면, 범핑 프로세스를 이행할 수도 있다.

대체로, 비디오 디코더 (30) 는 범핑 프로세스를 이행하기 위해 다음의 단계들을 이행할 수도 있다. 비디오 디코더 (30) 는 먼저 출력될 화상을 결정할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 "출력을 위해 필요함"으로 마킹된 모든 화상들 중 작은 PicOrderCnt (POC) 값을 갖는 화상을 DPB에서 선택할 수도 있다. 비디오 디코더 (30) 는 선택된 화상을 그 화상에 대한 액티브 시퀀스 파라미터 세트에서 특정된 크로핑 직사각형을 이용하여 크로핑할 수도 있다. 비디오 디코더 (30) 는 크로핑된 화상을 출력할 수도 있고, 그 화상을 "출력을 위해 필요하지 않음"으로 마킹할 수도 있다. 비디오 디코더 (30) 는 크로핑되고 출력된 화상을 저장했던 DPB의 버퍼를 체크할 수도 있다. 화상이 참조 화상 세트에 포함되지 않으면, 비디오 디코더 (30) 는 그 버퍼를 비울 수도 있고 DPB 충만도를 1만큼 감소시킬 수도 있다.

비록 DPB 관리에 대한 위의 기법들이 비디오 디코더 (30) 의 맥락에서 설명되었지만, 일부 예들에서, 비디오 인코더 (20) 가 유사한 기법들을 이행할 수도 있다. 그러나, 유사한 기법들을 이행하는 비디오 인코더 (20) 는 모든 예에서 필요하지 않다. 일부 예들에서, 비디오 디코더 (30) 는 이들 기법들을 이행할 수도 있고, 비디오 인코더 (20) 는 이들 기법들을 이행하지 않을 수도 있다.

이런 방식으로, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩할 수도 있다. 다시, 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다.

비디오 코더는 위에서 설명된 예의 기법들을 포함하는 임의의 방식으로 참조 화상 세트를 도출할 수도 있다. 비디오 코더는 디코딩된 화상 버퍼에 저장된 디코딩된 화상이 출력을 위해 필요하지 않는지의 여부와 참조 화상 세트에서 식별되지 않는지의 여부를 결정할 수도 있다. 디코딩된 화상이 출력되었고 참조 화상 세트에서 식별되지 않은 경우, 비디오 코더는 디코딩된 화상 버퍼로부터 디코딩된 화상을 제거할 수도 있다. 디코딩된 화상을 제거하는 것에 후속하여, 비디오 코더는 현재 화상을 코딩할 수도 있다. 예를 들어, 비디오 코더는 참조 화상 리스트(들)를 위에서 설명된 바와 같이 구축하고, 그 참조 화상 리스트(들)에 기초하여 현재 화상을 코딩할 수도 있다.

이전의 예들은, 비디오 인코더 (20) 및 비디오 디코더 (30) 가 참조 화상 세트를 도출하며, 수정이 필요하지 않은 경우 및 수정이 필요한 경우에 참조 화상 리스트들로부터 참조 화상 리스트들을 구축하기 위해 채용할 수 있는 기법들, 뿐만 아니라 디코딩된 화상 버퍼 (DPB) 관리를 위한 기법들을 설명하였다. 그러나, 본 개시의 양태들은 그렇게 제한되지 않는다. 일부 예들에서, 본 개시에서 설명된 기법들은 어떤 화상들이 참조 화상 세트에 속하고 장기 참조 화상들인지 (또는 다르게 말하면, 어떤 화상이 장기 참조 화상 세트에 속하는지) 를 비디오 인코더 (20) 가 시그널링하는 방식, 및 어떤 화상이 장기 참조 화상 세트에 속하는지를 비디오 디코더 (30) 가 결정하는 방식에 관련될 수도 있다.

예를 들어, 표 2는 num_long_term_ref_pics_pps, 및 long_term_ref_pic_id_pps[i] 신택스 엘리먼트들을 화상 파라미터 세트의 부분인 것으로서 포함한다. 그러나, 본 개시의 양태들은 그렇게 제한되지 않는다. 일부 다른 예들에서, 시퀀스 파라미터 세트 (예컨대, 표 1) 는 num_long_term_ref_pics_pps 및 long_term_ref_pic_id_pps[i] 신택스 엘리먼트들을 포함할 수도 있다. 시퀀스 파라미터 세트가 이들 신택스 엘리먼트들을 포함하는 예들에서, 본 개시는 혼동을 피하기 위해 신택스 엘리먼트들을 num_long_term_ref_pics_sps 및 long_term_ref_pic_id_sps[i]로 지칭할 수도 있다. 예시의 목적을 위해, 그 기법들은 시퀀스 파라미터 세트가 이들 신택스 엘리먼트들을 포함하는 예들로 설명되고 있다.

num_long_term_ref_pics_pps의 정의와 유사하게, num_long_term_ref_pics_sps 신택스 엘리먼트는 시퀀스 파라미터 세트에 포함되는 후보 장기 참조 화상들의 수를 특정할 수도 있다. num_long_term_ref_pics_sps의 값은 0 내지 32의 범위에 있을 수도 있다. long_term_ref_pic_id_pps[i] 신택스 엘리먼트의 정의와 유사하게, long_term_ref_pic_id_sps[i] 신택스 엘리먼트는 시퀀스 파라미터 세트에 포함된 i-번째 장기 참조 화상 식별 정보를 특정할 수도 있다.

일부 예들에서, long_term_ref_pic_id_sps[i] 신택스 엘리먼트는 현재 화상의 참조 화상 세트에 속하는 후보 장기 참조 화상들을 나타낼 수도 있다. 후보 장기 참조 화상들은, 비디오 디코더 (30) 가 현재 화상 또는 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상을 인터 예측하는 데 활용할 수도 있는 장기 참조 화상들일 수도 있는, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상이다. 다르게 말하면, 후보 장기 참조 화상들은, 장기 참조 화상들이고 현재 화상을 인터 예측하기 위해 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 아마도 사용될 수 있는 화상들을 나타낼 수도 있다. 일부 예들에서, long_term_ref_pic_id_sps[i] 신택스 엘리먼트는 후보 장기 참조 화상들에 대한 POC 값들을 포함할 수도 있다.

그러나, 모든 후보 장기 참조 화상들이 인터 예측을 위해 반드시 필요한 것은 아니다. 예를 들어, 모든 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는 것은 아니다. 오히려, 0 개 이상의 후보 장기 참조 화상들이 참조 화상 세트에 속한다.

본 개시에서 설명된 기법들에서, 비디오 인코더 (20) 는 long_term_ref_pic_id 신택스 엘리먼트를 파라미터 세트에서 (예컨대, long_term_ref_pic_id_sps 신택스 엘리먼트를 시퀀스 파라미터 세트에서, 또는 long_term_ref_pic_id_pps 신택스 엘리먼트를 화상 파라미터 세트에서) 시그널링할 수도 있다. 비디오 디코더 (30) 는 long_term_ref_pic_id 신택스 엘리먼트를 수신하고 후보 장기 참조 화상들을 식별할 수도 있다. 본 개시에서 설명되는 기법들에 따르면, 비디오 디코더 (30) 는 후보 장기 참조 화상들 중 어떤 것들이 참조 화상 세트에 속하는지를 추가로 결정할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 코딩된 비트스트림에서 비디오 인코더 (20) 에 의해 시그널링된 부가적인 신택스 엘리먼트들에 기초하여 이 결정을 수행하도록 구성될 수도 있다.

표 4에 나타낸 바와 같이, 비디오 인코더 (20) 는 long_term_ref_pic_set() 신택스 구조를 현재 화상의 슬라이스 헤더에서 시그널링할 수도 있다. 표 5는 long_term_ref_pic_set() 신택스 구조를 설명한다. 예를 들면, long_term_ref_pic_set() 신택스 구조는 num_long_term_pps_curr 및 num_long_term_pps_foll 신택스 엘리먼트들을 포함할 수도 있다. 다시, 비록 num_long_term_pps_curr 및 num_long_term_pps_foll 신택스 엘리먼트들이 화상 파라미터 세트에 포함된 장기 참조 화상들의 수로서 정의되었지만, 후보 장기 참조 화상들이 시퀀스 파라미터 세트에 포함되는 예들에서, 이들 신택스 엘리먼트들은 시퀀스 파라미터 세트에 포함된 후보 장기 참조 화상들의 수를 정의할 수도 있다는 것에 주의해야 한다. 예를 들어, 혼동을 피하기 위해, num_long_term_pps_curr 신택스 엘리먼트는 num_long_term_sps_curr 신택스 엘리먼트라고 지칭될 수도 있고, num_long_term_pps_foll 신택스 엘리먼트는 num_long_term_sps_curr 신택스 엘리먼트라고 지칭될 수도 있다.

num_long_term_pps_curr 신택스 엘리먼트와 유사하게, num_long_term_sps_curr 신택스 엘리먼트는, 후보 장기 참조 화상들로서, 참조된 시퀀스 파라미터 세트에 식별 정보가 포함되며, 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 정의할 수도 있다. num_long_term_pps_foll 신택스 엘리먼트와 유사하게, num_long_term_sps_foll 신택스 엘리먼트는, 후보 장기 참조 화상들로서, 시퀀스 파라미터 세트에 식별 정보가 포함되며, 현재 화상의 인터 예측을 위해 사용되지 않으며 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 정의할 수도 있다.

또한, 슬라이스 헤더에서 시그널링된 long_term_ref_pic_set() 신택스 구조는 long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트를 포함할 수도 있다. 다시, 후보 장기 참조 화상들이 시퀀스 파라미터 세트에서 시그널링되는 예들에서, long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트는 long_term_ref_pic_set_idx_sps[i] 신택스 엘리먼트로서 간주될 수도 있다. long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트와 유사하게, long_term_ref_pic_set_idx_sps[i] 신택스 엘리먼트는, 참조된 시퀀스 파라미터 세트에 포함된 후보 장기 참조 화상 식별 정보의 리스트로의, 참조 화상 파라미터 세트로부터 현재 화상의 참조 화상 세트로 상속된 i-번째 장기 참조 화상의 인덱스를 정의할 수도 있다. 다르게 말하면, long_term_ref_pic_set_idx_sps[i] 신택스 엘리먼트는 시퀀스 파라미터 세트에서 후보 장기 참조 화상들의 리스트로의 인덱스를 식별할 수도 있다. 인덱스로부터, 비디오 디코더 (30) 는 후보 장기 참조 화상들에서 장기 참조 화상을 식별할 수도 있고, 식별된 장기 참조 화상이 현재 화상의 참조 화상 세트에 속한다고 결정할 수도 있다.

예를 들어, 비디오 디코더 (30) 는 표 5에서의 그것과 유사한 다음의 의사 코드를 이행하여, 후보 장기 참조 화상들 중 어떤 것들이 현재 화상의 참조 화상 세트에 속하는지를 결정할 수도 있다.

for(i = 0; i < num_long_term_sps_curr + num_long_term_sps_foll; i++)

long_term_ref_pic_set_idx_sps[i]

이런 방식으로, 비디오 디코더 (30) 는 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 디코딩할 수도 있다. 예를 들면, 파라미터 세트가 시퀀스 파라미터 세트이면, 비디오 디코더 (30) 는 시퀀스 파라미터 세트에서 식별되는 후보 장기 참조 화상들을 나타내는 long_term_ref_pic_id_sps[i] 신택스 엘리먼트들을 디코딩할 수도 있다. 파라미터 세트가 화상 파라미터 세트이면, 비디오 디코더 (30) 는 화상 파라미터 세트에서 식별되는 후보 장기 참조 화상들을 나타내는 long_term_ref_pic_id_pps[i] 신택스 엘리먼트들을 디코딩할 수도 있다.

비디오 디코더 (30) 는 또한 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 디코딩할 수도 있다. 예를 들어, 파라미터 세트가 시퀀스 파라미터 세트이면, 비디오 디코더 (30) 는 num_long_term_sps_curr, num_long_term_sps_foll, 및 long_term_ref_pic_set_idx_sps[i] 신택스 엘리먼트들을 디코딩할 수도 있고, 파라미터 세트가 화상 파라미터 세트이면, 비디오 디코더 (30) 는 num_long_term_pps_curr, num_long_term_pps_foll, 및 long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트들을 디코딩할 수도 있다. 어느 하나의 예에서, 비디오 디코더 (30) 는 현재 화상의 슬라이스 헤더로부터 이들 신택스 엘리먼트들을 디코딩할 수도 있다.

본 개시에서 설명되는 기법들에 따르면, long_term_ref_pic_id_sps[i] 및 long_term_ref_pic_id_pps[i] 신택스 엘리먼트들은 참조 화상 세트에 속하는 후보 장기 참조 화상들에 대한 화상 순서 카운트 (POC) 값들의 리스트로서 간주될 수도 있고, 파라미터 세트의 부분 (예컨대, 화상 파라미터 세트 및 시퀀스 파라미터 세트) 으로서 코딩될 (즉, 인코딩될 또는 디코딩될) 수도 있다. long_term_ref_pic_set_idx_sps[i] 또는 long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트는 후보 장기 참조 화상들에 대한 POC 값들의 리스트로의 인덱스 값 (예컨대, long_term_ref_pic_id_sps[i] 또는 long_term_ref_pic_id_pps[i]로의 인덱스) 를 제공하는 것으로서 간주될 수도 있다. 일부 예들에서, long_term_ref_pic_set_idx_sps[i] 또는 long_term_ref_pic_set_idx_pps[i] 신택스 엘리먼트는 현재 화상의 슬라이스 헤더의 부분으로서 코딩될 수도 있다.

전술한 바는 어떤 화상들이 현재 화상의 장기 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 비디오 인코더 (20) 및 비디오 디코더 (30) 가 각각 인코딩 또는 디코딩할 수도 있는 하나의 방식을 설명한다. 그 신택스 엘리먼트들로부터, 비디오 디코더 (30) 및 비디오 인코더 (20) 는 어떤 화상들이 현재 화상의 장기 참조 화상 세트에 속하는지를 결정할 수도 있다. 비디오 디코더 (30) 및 비디오 인코더 (20) 가 어떤 화상들이 장기 참조 화상 세트에 속하는지를 결정한 후, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 복수의 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트를 구축하고, 위에서 설명된 방식으로 참조 화상 세트를 도출할 수도 있다. 예를 들어, 어떤 화상들이 장기 참조 화상 세트에 속하는지에 관한 결정에 기초하여, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 비디오 인코더 (20) 및 비디오 디코더 (30) 가 참조 화상 세트를 도출하기 위해 활용할 수도 있는 RefPicSetLtCurr 참조 화상 서브세트를 구축할 수도 있다.

일부 예들에서, 후보 장기 참조 화상들에 속하지 않는 장기 참조 화상 세트에 속하는 화상들이 있을 수도 있다. 따라서, 어떤 화상들이 현재 화상의 장기 참조 화상 세트에 속하는지를 비디오 인코더 (20) 및 비디오 디코더 (30) 가 결정할 수도 있는 부가적인 방식들이 있을 수도 있다.

예를 들어, 표 5에 나타낸 바와 같이, 슬라이스 헤더의 long_term_ref_pic_set() 신택스 구조는 long_term_ref_pic_id_delta_add[i] 신택스 엘리먼트를 포함한다. 이 신택스 엘리먼트는 참조 화상 파라미터 세트로부터 상속되지 않았지만 현재 화상의 참조 화상 세트에 속하는 i-번째 장기 참조 화상의 장기 참조 화상 식별 정보, 이를테면 POC 값들을 특정할 수도 있다. 다시, 후보 장기 참조 화상들이 시퀀스 파라미터 세트에서 식별되는 예들에서, long_term_ref_pic_id_delta_add[i] 신택스 엘리먼트는 시퀀스 파라미터 세트로부터 상속되지 않지만 현재 화상의 참조 화상 세트에 포함되는 i-번째 장기 참조 화상의 장기 참조 화상 식별 정보를 특정할 수도 있다.

다르게 말하면, long_term_ref_pic_id_pps[i] 또는 long_term_ref_pic_id_sps[i] 신택스 엘리먼트는 후보 장기 참조 화상들을 식별할 수도 있지만, 현재 화상의 참조 화상 세트에서 장기 참조 화상들의 모두를 반드시 식별한다고 할 수도 없다. 예를 들어, 현재 화상 및 후보 장기 참조 화상들의 리스팅에 속하지 않는 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 사용될 장기 참조 화상들이 있을 수도 있다. 이러한 장기 참조 화상들에 대해, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 현재 화상의 참조 화상 세트에 속하는 장기 참조 화상들을 식별하는 식별 정보를 각각 인코딩 또는 디코딩할 수도 있다.

예를 들면, 표 5에 나타낸 바와 같이, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 num_long_term_add_curr 및 num_long_term_add_foll 신택스 엘리먼트들을 각각 인코딩 또는 디코딩할 수도 있다. num_long_term_add_curr 신택스 엘리먼트는, 참조된 화상 파라미터 세트 또는 (해당되는 경우) 시퀀스 파라미터 세트에 식별 정보가 포함되지 않으며 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 정의할 수도 있다. num_long_term_add_foll 신택스 엘리먼트는, 참조된 화상 파라미터 세트 또는 (해당되는 경우) 시퀀스 파라미터 세트에 식별 정보가 포함되지 않으며 현재 화상의 인터 예측을 위해 사용되지 않을 수도 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들의 인터 예측을 위해 사용될 수도 있는 모든 장기 참조 화상들의 수를 정의할 수도 있다.

비디오 디코더 (30) 는 다음의 의사 코드를 이행하여 어떤 장기 참조 화상들이 참조 화상 세트에 속하는지를 결정할 수도 있다. 이 예에서, 장기 참조 화상들은 후보 장기 참조 화상들에 포함되지 않을 수도 있다.

for(i = 0; i < num_long_term_add_curr + num_long_term_add_foll; i++)

long_term_ref_pic_id_delta_add[i]

위에서 설명된 바와 같이, 본 개시에서 설명된 기법들은 HEVC 표준에 따라 수행될 수도 있다. 다음은 이해를 돕기 위한 HEVC 표준의 간략한 설명이다. 더욱이, 비록 기법들이 HEVC 표준의 맥락에서 설명되었지만, 그 기법들은 독점 표준들을 포함하여, 다른 표준들로 확장가능할 수도 있다.

JCT-VC는 HEVC 표준의 개발에 노력하고 있다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 이라고 지칭되는 비디오 코딩 디바이스의 진화 모델에 기초하고 있다. HM은, 예컨대, ITU-T H.264/AVC에 따른 현존하는 디바이스들에 비해 비디오 코딩 디바이스들의 몇몇 부가적인 능력들을 상정한다. 예를 들어, H.264가 9 개의 인트라 예측 인코딩 모드들을 제공하는 반면, HM은 33 개 정도의 인트라 예측 인코딩 모드들을 제공할 수도 있다.

일반적으로, HM의 작업 모델은 비디오 프레임 또는 화상이 루마 및 크로마 샘플들 양쪽 모두를 포함하는 트리블록들 또는 최대 코딩 단위들 (LCU) 의 시퀀스로 분할될 수도 있다는 것을 설명한다. 트리블록은 H.264 표준의 매크로블록과 유사한 목적을 가진다. 슬라이스는 디코딩 순서에서 연속적인 다수의 트리블록들을 포함한다. 비디오 프레임 또는 화상은 하나 이상의 슬라이스들로 구획될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 단위들 (CUs) 로 분할될 수도 있다. 예를 들어, 쿼드트리의 루트 노트인 트리블록은 4 개의 자식 노드들로 분할될 수도 있고, 각각의 자식 노드는 다시 부모 노드가 될 수도 있고 다른 4 개의 자식 노드들로 분할될 수도 있다. 쿼드트리의 리프 노드인, 최종의 분할되지 않는 자식 노드는 코딩 노드, 즉 코딩된 비디오 블록을 포함한다. 코딩된 비트스트림에 연관된 신택스 데이터는 트리블록이 분할될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 코딩 노드들의 최소 사이즈를 정의할 수도 있다. 트리블록들은 일부 예들에서 LCU들이라고 지칭될 수도 있다.

CU는 코딩 노드와 그 코딩 노드에 연관된 변환 단위들 (TUs) 및 예측 단위들 (PUs) 을 포함한다. CU의 사이즈는 코딩 노드의 사이즈에 대응하고 형상이 정사각형이어야만 한다. CU의 사이즈는 8x8 화소들로부터 최대 64x64 화소들 또는 그 이상을 갖는 트리블록의 사이즈까지의 범위일 수도 있다. 각각의 CU는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, 하나 이상의 PU들로의 CU의 구획화 (partitioning) 를 서술할 수도 있다. 구획화 모드들은 CU가 스킵되는지 또는 직접 모드 인코딩되는지, 인트라 예측 모드 인코딩되는지, 또는 인터 예측 모드 인코딩되는지의 사이에서 상이할 수도 있다. PU들은 형상이 정사각형이 아니도록 구획될 수도 있다. CU에 연관된 신택스 데이터는 또한, 예를 들어 쿼드트리에 따른 하나 이상의 TU들로의 CU의 구획화를 서술할 수도 있다. TU는 형상이 정사각형 또는 정사각형이 아닐 수 있다.

HEVC 표준은 상이한 CU들에 대해 상이할 수도 있는, TU들에 따른 변환들을 허용한다. TU들은, 항상 그런 것은 아닐 수도 있지만, 구획된 LCU에 대해 정의된 주어진 CU 내의 PU들의 사이즈에 기초하여 통상 사이즈가 정해진다. TU들은 통상 PU들과 동일한 사이즈이거나 또는 그것들보다 작다. 일부 예들에서, CU에 대응하는 잔차 샘플들은 "잔차 쿼드 트리 (residual quad tree)" (RQT) 로서 알려진 쿼드트리 구조를 이용하여 작은 단위들로 세분될 수도 있다. RQT의 리프 노드들은 변환 단위들 (TUs) 이라고 지칭될 수도 있다. TU들에 연관된 화소 차이 값들은 양자화될 수도 있는 변환 계수들을 생성하기 위해 변환될 수도 있다.

일반적으로, PU는 예측 프로세스에 관련된 데이터를 포함한다. 예를 들어, PU가 인트라 모드 인코딩되는 경우, PU는 PU에 대한 인트라 예측 모드를 설명하는 데이터를 포함할 수도 있다. 다른 예로서, PU가 인터 모드 인코딩되는 경우, PU는 PU에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU에 대한 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 분해능 (예컨대, 1/4 화소 정밀도 또는 1/8 화소 정밀도), 모션 벡터가 가리키는 참조 화상, 및/또는 모션 벡터에 대한 참조 화상 리스트 (예컨대, 리스트 0, 리스트 1, 또는 리스트 C) 를 서술할 수도 있다.

대체로, TU는 변환 및 양자화 프로세스들을 위해 사용된다. 하나 이상의 PU들을 갖는 주어진 CU는 또한 하나 이상의 변환 단위들 (TUs) 을 포함할 수도 있다. 예측에 후속하여, 비디오 인코더 (20) 는 PU에 대응하는 잔차 값들을 계산할 수도 있다. 그 잔차 값들은 엔트로피 코딩을 위한 직렬화된 (serialized) 변환 계수들을 생성하기 위해 TU들을 이용하여 변환 계수들로 변환되며, 양자화되고, 스캐닝될 수도 있는 화소 차이 값들을 포함한다. 본 개시는 통상 용어 "비디오 블록"을 CU의 코딩 노드를 지칭하기 위해 사용한다. 일부 특정한 경우들에서, 본 개시는 또한 용어 "비디오 블록"을 코딩 노드 및 PU들 및 TU들을 포함하는 트리블록, 즉, LCU, 또는 CU를 지칭하기 위해 사용할 수도 있다.

비디오 시퀀스는 통상 일련의 비디오 프레임들 또는 화상들을 포함한다. 화상들의 그룹 (GOP) 은 일반적으로 일련의 하나 이상의 비디오 화상들을 포함한다. GOP는 신택스 데이터를 GOP의 헤더, 화상들 중 하나 이상의 화상들의 헤더, 또는 GOP에 포함된 다수의 화상들을 서술하는 다른 곳에 포함할 수도 있다. 화상의 각각의 슬라이스는 개별 슬라이스에 대한 인코딩 모드를 서술하는 슬라이스 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 비디오 데이터를 인코딩하기 위하여 개개의 비디오 슬라이스들 내의 비디오 블록들에 대해 통상 동작한다. 비디오 블록은 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정된 또는 가변하는 사이즈들을 가질 수도 있고, 특정된 코딩 표준에 따라 사이즈를 달리할 수도 있다.

일 예로서, HM은 다양한 PU 사이즈들에서의 예측을 지원한다. 특정 CU의 사이즈가 2Nx2N이라고 가정하면, HM은 2Nx2N 또는 NxN의 PU 사이즈들에서의 인트라 예측과, 2Nx2N, 2NxN, Nx2N, 또는 NxN의 대칭적 PU 사이즈들에서의 인터 예측을 지원한다. HM은 또한 2NxnU, 2NxnD, nLx2N, 및 nRx2N의 PU 사이즈들에서의 인터 예측을 위한 비대칭 구획화를 지원한다. 비대칭 구획화 시, CU의 하나의 방향은 구획되지 않는 반면, 다른 방향은 25% 및 75%로 구획된다. 25% 구획에 대응하는 CU의 부분은 "Up", "Down", "Left", 또는 "Right"의 표시가 후속하는 "n"에 의해 나타내어진다. 따라서, 예를 들어, "2NxnU"는 상부의 2Nx0.5N PU 및 하부의 2Nx1.5N PU로 수평으로 구획되는 2Nx2N CU를 의미한다.

본 개시에서, "NxN" 및 "N 바이 N", 예컨대, 16x16 화소들 또는 16 바이 16 화소들은 수직 및 수평 치수들의 측면에서의 블록의 화소 치수들을 상호교환적으로 말하는 데 이용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향의 16 개 화소들 (y = 16) 및 수평 방향의 16 개 화소들 (x = 16) 을 가질 것이다. 비슷하게, NxN 블록은 일반적으로 수직 방향의 N 개 화소들 및 수평 방향의 N 개 화소들을 가지며, 여기서 N은 음이 아닌 정수 값을 나타낸다. 블록에서의 화소들은 행들 및 열들로 배열될 수도 있다. 더구나, 블록들은 수직 방향에서와 동일한 수의 화소들을 수평 방향에서 반드시 가질 필요는 없다. 예를 들어, 블록들은 M이 N과 반드시 동일하지는 않은 NxM 개 화소들을 포함할 수도 있다.

CU의 PU들을 이용하는 인트라 예측 또는 인터 예측 코딩에 후속하여, 비디오 인코더 (20) 는 CU의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (또한 화소 도메인이라고 지칭됨) 에서의 화소 데이터를 포함할 수도 있고 TU들은, 잔차 비디오 데이터에 대한 변환, 예컨대, 이산 코사인 변환 (DCT), 정수 변환, 웨이브릿 변환, 또는 개념적으로 유사한 변환의 적용에 후속하는 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는 인코딩되지 않은 화상의 화소들 및 PU들에 대응하는 예측 값들 사이의 화소 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU에 대한 잔차 데이터를 포함하는 TU들을 형성한 다음 CU에 대한 변환 계수들을 생성하기 위해 TU들을 변환할 수도 있다.

변환 계수들을 생성하는 임의의 변환들에 후속하여, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 변환 계수들이 그 계수들을 나타내는 데 이용된 데이터의 양을 가능한 한 줄이도록 양자화되어서, 추가의 압축을 제공하는 프로세스를 일반적으로 말한다. 양자화 프로세스는 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안에 m-비트 값으로 내림 (round down) 될 수도 있으며, 여기서 n 은 m보다 크다.

일부 예들에서, 비디오 인코더 (20) 는 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 활용하여 양자화된 변환 계수들을 스캔할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 1차원 벡터를 형성하기 위해 양자화된 변환 계수들을 스캔한 후, 비디오 인코더 (20) 는, 예컨대, 콘텍스트 적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 콘텍스트 적응 이진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 또는 확률 간격 구획화 엔트로피 (Probability Interval Partitioning Entropy; PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론에 따라, 1차원 벡터를 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터에 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

CABAC를 수행하기 위해, 비디오 인코더 (20) 는 콘텍스트 모델 내의 콘텍스트를 송신될 심볼에 할당할 수도 있다. 그 콘텍스트는, 예를 들어, 심볼의 인접 값들이 영이 아닌지의 여부에 관련될 수도 있다. CAVLC를 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC에서의 코드워드들은 상대적으로 더 짧은 코드들이 고확률 (more probable) 심볼들에 대응하는 반면, 더 긴 코드들은 저확률 (less probable) 심볼들에 대응하도록 구성될 수도 있다. 이런 식으로, VLC의 사용은, 예를 들어, 송신될 각각의 심볼에 대해 동일 길이 코드워드들을 이용하는 것보다 비트 절약을 달성할 수도 있다. 확률 결정은 심볼에 할당된 콘텍스트에 기초할 수도 있다.

도 2는 인코딩되고 송신되는 복수의 화상들을 포함하는 일 예의 비디오 시퀀스 (33) 를 예시하는 개념도이다. 일부 경우들에서, 비디오 시퀀스 (33) 는 화상들의 그룹 (GOP) 이라고 지칭될 수도 있다. 비디오 시퀀스 (33) 는, 예시된 바와 같이, 화상들 (35A, 36A, 38A, 35B, 36B, 38B, 및 35C), 및 최종 화상 (39) 을 디스플레이 순서대로 포함한다. 화상 (34) 은 시퀀스 (33) 전에 발생하는 시퀀스에 대한 디스플레이 순서의 최종 화상이다. 도 2는 일반적으로 비디오 시퀀스에 대한 예시적인 예측 구조를 나타내고, 상이한 슬라이스 또는 화상 유형들 (예컨대, P 화상 또는 슬라이스, 또는 B 화상 또는 슬라이스) 의 비디오 블록들을 예측하기 위해 사용된 화상 참조들만을 예시하기 위해 의도된다. 실제 비디오 시퀀스는 상이한 화상 유형들의 더 많거나 더 적은 비디오 화상들을 그리고 상이한 디스플레이 순서로 포함할 수도 있다. 비디오 시퀀스 (33) 는 도 2에 예시된 것들보다 더 많거나 더 적은 화상들을 포함할 수도 있고, 비디오 시퀀스 (33) 내에 예시된 화상들은 이해의 목적을 위해 그리고 예들로서 예시된다.

블록 기반 비디오 코딩의 경우, 시퀀스 (33) 에 포함된 비디오 화상들의 각각은 비디오 블록들, 이를테면 또코딩 단위들 (CUs) 또는 예측 단위들 (PUs) 로 구획될 수도 있다. 예를 들면, 비디오 화상의 각각의 CU는 하나 이상의 PU들을 포함할 수도 있다. 인트라 코딩된 (I) 화상에서의 비디오 블록들은 동일한 화상에서의 인접 블록들에 대한 공간적 예측을 이용하여 예측된다. 인터 코딩된 (P 또는 B) 화상에서의 비디오 블록들은 동일한 화상에서의 인접 블록들에 대한 공간적 예측 또는 다른 참조 화상들에 대한 시간적 예측을 이용할 수도 있다.

B 화상에서의 비디오 블록들은 2 개의 상이한 참조 화상 리스트들 (예컨대, 리스트 0 및 리스트 1이라고 지칭되는 참조 화상 리스트들 0 및 1) 로부터 2 개의 모션 벡터들을 계산하기 위해 양방향 예측을 이용하여 예측될 수도 있다. 일부 경우들에서, B 화상에서의 비디오 블록들은 2 개의 상이한 참조 화상 리스트들 중 하나로부터 단방향 예측을 이용하여 예측될 (예컨대, 단방향 B-코딩될) 수도 있다. P 화상에서의 비디오 블록들은 단일 참조 화상 리스트로부터 단일 모션 벡터를 계산하기 위해 단방향 예측을 이용하여 인코딩될 수도 있다. 신흥 HEVC 표준에 따르면, 비디오 블록들은 2 개의 참조 화상 리스트들 중 하나로부터 단일 모션 벡터를 계산하기 위한 단방향 예측 또는 2 개의 참조 화상 리스트들로부터 2 개의 모션 벡터들을 계산하기 위한 양방향 예측 중 어느 하나를 이용하여 인코딩될 수도 있다. 2 개의 참조 화상 리스트들은, 예를 들어, 과거 참조 화상들 또는 미래 참조 화상들 또는 과거 및 미래 참조 화상들 양쪽 모두를 디스플레이 또는 출력 순서로 포함할 수도 있고, 그리고 항상 과거 참조 화상들을 디코딩 순서로 포함할 수도 있다.

도 2의 예에서, 최종 화상 (39) 은 인트라 모드 코딩을 위해 I 화상으로서 지정된다. 다른 예들에서, 최종 화상 (39) 은, 예컨대, I 화상일 수도 있는, 선행하는 시퀀스의 최종 화상 (34) 을 참조하여 (예를 들면, P 화상으로서) 인터 모드 코딩으로 코딩될 수도 있다. 비디오 화상들 (35A 내지 35C) (총칭하여 "비디오 화상들 (35)") 은 과거 화상 및 미래 화상에 대한 양방향 예측을 이용하는 B 화상들로서 코딩을 위해 지정된다. 도시된 예에서, 화상 (35A) 은, 화상들 (34 및 36A) 에서부터 비디오 화상 (35A) 으로의 화살표들에 의해 나타내어진 바와 같이, 최종 화상 (34) 및 화상 (36A) 을 참조하여 B 화상으로서 인코딩된다. 화상들 (35B 및 35C) 은 유사하게 인코딩된다.

비디오 화상들 (36A 내지 36B) (총칭하여 "비디오 화상들 (36)") 은 과거 화상을 참조하는 단방향 예측을 이용하는 화상들로서 코딩을 위해 지정될 수도 있다. 도시된 예에서, 화상 (36A) 은, 화상 (34) 에서부터 비디오 화상 (36A) 까지의 화살표에 의해 나타내어진 바와 같이, 최종 화상 (34) 을 참조하는 P 화상으로서 인코딩된다. 화상 (36B) 은 유사하게 인코딩된다.

비디오 화상들 (38A 및 38B) (총칭하여 "비디오 화상들 (38)") 은 동일한 과거 화상을 참조하는 양방향 예측을 이용하는 코딩을 위해 지정될 수도 있다. 다른 예들에서, 비디오 화상들 (38) 은 참조 화상 리스트들에 포함된 실질적으로 유사한 과거 화상들을 참조하는 양방향 예측을 이용하여 인코딩될 수도 있다. 도시된 예에서, 화상 (38A) 은, 화상 (36A) 에서부터 비디오 화상 (38A) 까지의 2 개의 화살표들에 의해 나타낸 바와 같이, 화상 (36A) 에 대한 2 개의 참조들을 통해 인코딩된다. 화상 (38B) 은 유사하게 인코딩된다.

본 개시에서 설명되는 기법들에 따르면, 비디오 인코더 (20) 는 시퀀스 (33) 에서 화상들의 각각에 대한 참조 화상 세트를 시그널링할 수도 있다. 예를 들어, 화상 (35A) 에 대해, 이 참조 화상 세트는, 화상 (35A) 을 인터 예측하기 위해 사용될 수 있는 모든 참조 화상들, 뿐만 아니라 디코딩 순서에서 화상 (35A) 에 후속하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 모든 참조 화상들을 식별할 수도 있다. 예를 들어, 화상 (35A) 에 대한 참조 화상 세트는 화상 (34) 및 화상 (36A) 에 대한 POC 값, 뿐만 아니라 디코딩 순서에서 화상 (35A) 에 후속하는 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 것들과 같은 부가적인 참조 화상들에 대한 POC 값들을 포함할 수도 있다. 화상 (35A) 에 후속하는 화상들은, 이 예에서, 디코딩 순서에서 화상 (35A) 에 후속하는 그리고 비디오 시퀀스 (33) 내에 있는 그들 화상들일 수도 있다.

비디오 디코더 (30) 는 그 다음에 위에서 설명된 방식으로 화상 (35A) 에 대한 참조 화상 세트를 도출할 수도 있다. 예를 들어, 비디오 디코더 (30) 는, 위에서 설명된 바와 같이, 참조 화상 세트에 속하는 참조 화상들에 대한 POC 값들을 결정할 수도 있다. 비디오 디코더 (30) 는 적어도 4 개의 또는 적어도 5 개의 참조 화상 서브세트들을, 그리고 일부 예들에서, 위에서 설명된 6 개까지의 참조 화상 서브세트들을 추가로 구축할 수도 있다. 비디오 디코더 (30) 는 화상 (35A) 에 대한 참조 화상 세트를 도출하기 위해 특정 순서로 6 개의 참조 화상 세트들을 배열할 수도 있다.

비디오 디코더 (30) 는 초기 참조 화상 리스트들에 포함될 화상들의 어떠한 재순서화도 필요하지 않는 위에서 설명된 방식으로 초기 참조 화상 리스트들을 추가로 구축할 수도 있다. 참조 화상 리스트 수정이 가능하지 않게 되는 경우, 비디오 디코더 (30) 는 초기 참조 화상 리스트들과 동등하게 최종 참조 화상 리스트들을 설정할 수도 있다. 또한, 비디오 디코더 (30) 는 참조 화상 리스트들에는 완료되지 않은 엔트리들이 없는 그런 방식으로 참조 화상 리스트들을 구축할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트들의 허용가능 엔트리들의 최대 수와 동일하기까지 참조 화상 서브세트들로부터의 참조 화상들을 반복적으로 리스트에 올릴 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 위에서 설명된 방식으로 (예컨대, 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서의 참조 화상들에 기초하여) 초기 참조 화상 리스트들을 수정할 수도 있다. 더욱이, 일부 예들에서, 비디오 디코더 (30) 는 본 개시에서 설명되는 예의 기법들, 이를테면 디코딩될 현재 화상의 참조 화상 세트에서 식별되지 않고 출력을 위해 필요하지 않은 디코딩된 화상들의 제거를 활용하여, 비디오 디코더 (30) 의 DPB로부터 디코딩된 화상들을 제거할 수도 있다. 또한, 일부 예들에서, 비디오 디코더 (30) 는 어떤 장기 참조 화상들이 참조 화상 세트에 속하는지를, 후보 장기 참조 화상들의 리스트의 식별 정보가 파라미터 세트에 포함될 수도 있는 위에서 설명된 방식으로 결정할 수도 있다.

도 3은 본 개시에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더 (20) 를 도시하는 블록도이다. 비디오 인코더 (20) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라 및 인터 코딩을 수행할 수도 있다. 인트라 코딩은 공간적 예측에 의존하여, 주어진 비디오 프레임 또는 화상 내의 비디오에서의 공간적 리던던시를 감소시키거나 또는 제거한다. 인터 코딩은 시간적 예측에 의존하여, 비디오 시퀀스의 인접한 프레임들 또는 화상들 내의 비디오에서의 시간적 리던던시를 감소시키거나 또는 제거한다. 인트라 모드 (I 모드) 는 여러 공간 기반 압축 모드들 중 임의의 것을 나타낼 수도 있다. 단방향 예측 (P 모드) 및 양방향 예측 (B 모드) 과 같은 인터 모드들은 여러 시간 기반 압축 모드들 중 임의의 것을 나타낼 수도 있다.

도 3의 예에서, 비디오 인코더 (20) 는 구획화 유닛 (35), 예측 모듈 (41), 디코딩된 화상 버퍼 (DPB) (64), 합산기 (50), 변환 모듈 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 구비한다. 예측 모듈 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 모듈 (46) 을 구비한다. 비디오 블록 복원을 위해, 비디오 인코더 (20) 는 또한 역양자화 유닛 (58), 역변환 모듈 (60), 및 합산기 (62) 를 구비한다. 블록화제거 (deblocking) 필터 (도 3에는 미도시) 가 또한 블록 경계들을 필터링하여 복원된 비디오로부터 블록형 (blockiness) 아티팩트들을 제거하기 위해 포함될 수도 있다. 원한다면, 블록화제거 필터는 통상 합산기 (62) 의 출력을 필터링할 것이다. 부가적인 루프 필터들 (인 루프 또는 포스트 루프) 은 또한 블록화제거 필터에 부가적으로 사용될 수도 있다.

도 3에 도시된 바와 같이, 비디오 인코더 (20) 는 비디오 데이터를 수신하고, 구획화 유닛 (35) 은 데이터를 비디오 블록들로 구획화한다. 이 구획화는 또한 슬라이스들, 타일들, 또는 다른 큰 단위들로의 구획화, 뿐만 아니라, 예컨대, LCU들 및 CU들의 쿼드트리 구조에 따른 비디오 블록 구획화를 포함할 수도 있다. 비디오 인코더 (20) 는 일반적으로 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 예시한다. 슬라이스는 다수의 비디오 블록들로 (및 아마도 타일들이라고 지칭된 비디오 블록들의 세트들로) 나누어질 수도 있다. 예측 모듈 (41) 은 복수의 가능한 코딩 모드들 중 하나, 이를테면 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 코딩 모드들 중 하나를, 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨) 에 기초하여 현재 비디오 블록에 대해 선택할 수도 있다. 예측 모듈 (41) 은 결과적인 인트라- 또는 인터 코딩된 블록을 잔차 블록 데이터를 생성하는 합산기 (50) 및 참조 화상로서 사용하기 위해 인코딩된 블록을 복원하는 합산기 (62) 에 제공할 수도 있다.

예측 모듈 (41) 내의 인트라 예측 모듈 (46) 은 코딩될 현재 블록과 동일한 화상 또는 슬라이스에서의 하나 이상의 인접 블록들을 기준으로 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 압축을 제공할 수도 있다. 예측 모듈 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 화상들에서의 하나 이상의 예측 블록들을 기준으로 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다.

모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터 예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들 또는 B 슬라이스들이라고 지정할 수도 있다. 모션 추정 유닛 (42) 과 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만 개념상의 목적들을 위해 별개로 예시된다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 참조 화상 내의 예측 블록에 대한 현재 비디오 화상 내의 비디오 블록의 PU의 변위 (displacement) 를 나타낼 수도 있다.

예측 블록은 차의 절대값 합 (sum of absolute difference; SAD), 차의 제곱 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 화소 차이의 관점에서 코딩될 비디오 블록의 PU에 밀접하게 매칭된다고 생각되는 블록이다. 일부 예들에서, 비디오 인코더 (20) 는 디코딩된 화상 버퍼 (64) 에 저장된 참조 화상들의 부 정수 (sub-integer) 화소 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 화상의 1/4 화소 위치들, 1/8 화소 위치들, 또는 다른 분수 화소 위치들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 풀 (full) 화소 위치들 및 분수 화소 위치들에 대한 모션 검색을 수행하고 분수 화소 정밀도를 갖는 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU의 위치와 참조 화상의 예측 블록의 위치를 비교함으로써 인터 코딩된 슬라이스에서의 비디오 블록의 PU에 대한 모션 벡터를 계산한다. 참조 화상은 디코딩된 화상 버퍼 (64) 에 저장된 하나 이상의 참조 화상들을 각각 식별하는 제 1 참조 화상 리스트 (리스트 0) 또는 제 2 참조 화상 리스트 (리스트 1) 로부터 선택될 수도 있다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 에 전송한다.

모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치하는 것 또는 생성하는 것, 어쩌면 부 화소 정밀도로의 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU에 대한 모션 벡터의 수신 시, 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾을 수도 있다. 비디오 인코더 (20) 는, 코딩되고 있는 현재 비디오 블록의 화소 값들로부터 예측 블록의 화소 값들을 감산하여 화소 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 화소 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 성분들 양쪽 모두를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 또한 비디오 슬라이스의 비디오 블록들의 디코딩 시에 비디오 디코더 (30) 에 의한 사용을 위해 비디오 슬라이스 및 비디오 블록들에 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라 예측 모듈 (46) 은, 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터 예측에 대한 대안으로서 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라 예측 모듈 (46) 은 현재 블록을 인코딩하는 데 사용하기 위한 인트라 예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 모듈 (46) 은 예컨대, 개별 인코딩 패스들 동안에 다양한 인트라 예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 모듈 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 모듈 (46) 은 다양한 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 이용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중에서 최선의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록 및 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양, 뿐만 아니라 인코딩된 블록을 생성하는 데 사용되는 비트 레이트 (다시 말하면, 비트들의 수) 를 결정한다. 인트라 예측 모듈 (46) 은 어떤 인트라 예측 모드가 그 블록에 대한 최선의 레이트 왜곡 값을 나타내는지를 결정하기 위해 여러 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 결정할 수도 있다.

블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 모듈 (46) 은 그 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은, 본 개시의 기법들에 따라, 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신되는 비트스트림에 구성 데이터를 포함시킬 수도 있으며, 그 구성 데이터는 복수의 인트라 예측 모드 인덱스 표들 및 복수의 수정된 인트라 예측 모드 인덱스 표들 (또한 코드워드 매핑 표들이라고 지칭됨), 다양한 블록들에 대한 콘텍스트들을 인코딩하는 정의들, 및 가장 있음직한 인트라 예측 모드의 표시들, 인트라 예측 모드 인덱스 표, 및 콘텍스트들의 각각에 대해 사용할 수정된 인트라 예측 모드 인덱스 표를 포함할 수도 있다.

예측 모듈 (41) 이 인터 예측 또는 인트라 예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 인코더 (20) 는 현재 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU들에 포함되고 변환 모듈 (52) 에 인가될 수도 있다. 변환 모듈 (52) 은 변환, 이를테면 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환을 사용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환시킨다. 변환 모듈 (52) 은 잔차 비디오 데이터를 화소 도메인으로부터 변환 도메인, 이를테면 주파수 도메인으로 변환할 수도 있다.

변환 모듈 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 에 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더욱 감소시킨다. 양자화 프로세스는 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 양자화 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 은 그 후 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안으로, 엔트로피 인코딩 유닛 (56) 이 스캔을 수행할 수도 있다.

양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트 적응 가변 길이 코딩 (CAVLC), 콘텍스트 적응 이진 산술 코딩 (CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (SBAC), 확률 간격 구획화 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기법을 수행할 수도 있다. 엔트로피 코딩 유닛 (56) 에 의한 엔트로피 코딩에 후속하여, 인코딩된 비트스트림은 비디오 디코더 (30) 로 송신되거나 또는 비디오 디코더 (30) 에 의한 나중의 송신 또는 취출을 위해 보관될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

역양자화 유닛 (58) 과 역변환 모듈 (60) 은 역양자화 및 역변환을 각각 적용하여, 참조 화상의 참조 블록으로서 나중에 사용하기 위해 화소 도메인에서 잔차 블록을 복원한다. 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나의 참조 화상의 예측 블록에 잔차 블록을 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여 모션 추정에서 사용하기 위한 부 정수 화소 값들을 계산할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여, 디코딩된 화상 버퍼 (64) 에 저장하기 위한 참조 블록을 생성한다. 참조 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 후속 비디오 프레임 또는 화상에서 블록을 인터 예측하기 위한 참조 블록으로서 사용될 수도 있다.

본 개시에 따르면, 예측 모듈 (41) 은 위에서 설명된 예의 함수들을 수행하는 하나의 예의 유닛을 나타낸다. 예를 들어, 예측 모듈 (41) 은 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정하고, 비디오 인코더 (20) 가 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하게 할 수도 있다. 또한, 복원 프로세스 (예컨대, 참조 화상으로서의 사용 및 디코딩된 화상 버퍼 (64) 에의 저장을 위해 화상을 복원하는데 사용되는 프로세스) 동안, 예측 모듈 (41) 은 각각이 참조 화상들 중 하나 이상을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예측 모듈 (41) 은 또한 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 또한, 예측 모듈 (41) 은 본 개시에서 설명되는 하나 이상의 예의 기법들을 이행하기 위해 위에서 설명된 예의 의사 코드의 세트들 중 임의의 하나 이상의 의사 코드의 세트를 이행할 수도 있다.

일부 예들에서, 예측 모듈 (41) 은 위에서 설명된 방식으로 초기 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 초기 참조 화상 리스트들에 포함될 화상들의 어떤 재순서화도 필요하지 않다. 또한, 예측 모듈 (41) 은 참조 화상 리스트들에는 완료되지 않은 엔트리들이 없는 그런 방식으로 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 예측 모듈 (41) 은 또한 초기 참조 화상 리스트들을 위에서 설명된 방식으로 수정하여 수정된 참조 화상 리스트를 구축할 수도 있다. 더욱이, 일부 예들에서, 예측 모듈 (41) 은 위에서 설명된 방식으로 DPB (64) 로부터의 디코딩된 화상들의 제거를 이행할 수도 있다. 더구나, 일부 예들에서, 예측 모듈 (41) 은 어떤 장기 참조 화상들이 현재 화상에 대한 참조 화상 세트에 속하는지를 위에서 설명된 방식으로 결정하도록 구성될 수도 있다.

다른 예들에서, 예측 모듈 (41) 이 아닌 유닛이 위에서 설명된 예들을 이행할 수도 있다. 일부 다른 예들에서, 예측 모듈 (41) 은 비디오 인코더 (20) 의 하나 이상의 다른 유닛들과 연계하여 위에서 설명된 예들을 이행할 수도 있다. 또 일부 다른 예들에서, 비디오 인코더 (20) 의 프로세서 또는 유닛 (도 3에서 미도시) 은, 단독으로 또는 비디오 인코더 (20) 의 다른 유닛들과 연계하여, 위에서 설명된 예들을 이행할 수도 있다.

도 4는 본 개시에서 설명되는 기법들을 이행할 수도 있는 일 예의 비디오 디코더 (30) 를 도시하는 블록도이다. 도 4의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (80), 예측 모듈 (81), 역양자화 유닛 (86), 역변환 유닛 (88), 합산기 (90), 및 디코딩된 화상 버퍼 (92) 를 구비한다. 예측 모듈 (81) 은 모션 보상 유닛 (82) 과 인트라 예측 모듈 (84) 을 구비한다. 비디오 디코더 (30) 는, 일부 예들에서, 도 3으로부터 비디오 인코더 (20) 에 관해 설명된 인코딩 패스 (pass) 에 일반적으로 역인 디코딩 패스를 수행할 수도 있다.

디코딩 프로세스 동안, 비디오 디코더 (30) 는 비디오 인코더 (20) 로부터의 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (80) 은 그 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 모듈 (81) 에 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.

비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩되는 경우, 예측 모듈 (81) 의 인트라 예측 모듈 (84) 은 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를, 현재 화상의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라 예측 모드에 기초하여 생성할 수도 있다. 비디오 화상이 인터-코딩된 (즉, B 또는 P) 슬라이스로서 코딩되는 경우, 예측 모듈 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록을 생성한다. 그 예측 블록들은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 디코딩된 화상 버퍼 (92) 에 저장된 참조 화상들에 기초한 디폴트 구축 기법들을 이용하여, 참조 프레임 리스트들, 리스트 0 및 리스트 1을 구축할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 도출된 참조 화상 세트에서 식별된 참조 화상들로부터 리스트 0 및 리스트 1을 구축할 수도 있다.

모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 이용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들의 일부를 이용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라 또는 인터 예측), 인터 예측 슬라이스 유형 (예컨대, B 슬라이스 또는 P 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구축 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 스테이터스, 및 현재 비디오 슬라이스 내의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.

모션 보상 유닛 (82) 은 또한 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안에 비디오 인코더 (20) 에 의해 사용된 것과 같은 보간 필터들을 사용하여 참조 블록들의 부 정수 화소들에 대한 보간된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 비디오 인코더 (20) 에 의해 사용된 보간 필터들을 수신된 신택스 엘리먼트들로부터 결정하고 그 보간 필터들을 사용하여 예측 블록들을 생성할 수도 있다.

역양자화 유닛 (86) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화, 즉, 탈양자화한다(dequantize). 역양자화 프로세스는 양자화 정도와, 마찬가지로 적용되어야 할 역양자화의 정도를 결정하기 위해, 비디오 슬라이스 내의 각각의 비디오 블록에 대해 비디오 인코더 (20) 에 의해 계산된 양자화 파라미터의 사용을 포함할 수도 있다. 역변환 모듈 (88) 은 잔차 블록들을 화소 도메인에서 생성하기 위하여 역변환, 예컨대, 역DCT, 역정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.

모션 보상 모듈 (81) 이 현재 비디오 블록에 대한 예측 블록을 인터 예측 또는 인트라 예측 중 어느 하나에 기초하여 생성한 후, 비디오 디코더 (30) 는 역변환 모듈 (88) 로부터의 잔차 블록들을 예측 모듈 (81) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원한다면, 블록화제거 필터가 또한 블록형 아티팩트들을 제거하기 위하여 디코딩된 블록들을 필터링하도록 적용될 수도 있다. 다른 루프 필터들이 (코딩 루프 내 또는 코딩 루프 후 중 어느 하나에서) 또한 화소 전환들을 부드럽게 하기 위해, 또는 그렇지 않으면 비디오 품질을 개선하기 위해 사용될 수도 있다. 그 다음, 주어진 화상에서의 디코딩된 비디오 블록들은 디코딩된 화상 버퍼 (92) 에 저장되며, 그 디코딩된 화상 버퍼는 후속 모션 보상을 위해 사용되는 참조 화상들을 저장한다. 디코딩된 화상 버퍼 (92) 는 또한 디스플레이 디바이스, 이를테면 도 1의 디스플레이 디바이스 (32) 상에서의 나중의 프레젠테이션을 위해 디코딩된 비디오를 저장한다.

본 개시에 따르면, 예측 모듈 (81) 은 위에서 설명된 예의 기능들을 수행하는 하나의 예의 유닛을 나타낸다. 예를 들어, 예측 모듈 (81) 은 어떤 참조 화상들이 참조 화상 세트에 속하는지를 결정할 수도 있다. 또한, 예측 모듈 (81) 은 각각이 참조 화상들 중 하나 이상을 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다. 예측 모듈 (81) 은 또한 구축된 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다. 또한, 예측 모듈 (81) 은 본 개시에서 설명되는 하나 이상의 예의 기법들을 이행하기 위해 위에서 설명된 예의 의사 코드의 세트들 중 임의의 하나 이상의 의사 코드의 세트를 이행할 수도 있다.

일부 예들에서, 예측 모듈 (81) 은 위에서 설명된 방식으로 초기 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 초기 참조 화상 리스트들에 포함될 화상들의 어떤 재순서화도 필요하지 않다. 또한, 예측 모듈 (81) 은 참조 화상 리스트들에는 완료되지 않은 엔트리들이 없는 그런 방식으로 참조 화상 리스트들을 구축할 수도 있다. 일부 예들에서, 예측 모듈 (81) 은 또한 초기 참조 화상 리스트들을 위에서 설명된 방식으로 수정하여 수정된 참조 화상 리스트를 구축할 수도 있다. 더욱이, 일부 예들에서, 예측 모듈 (81) 은 위에서 설명된 방식으로 DPB (94) 로부터의 디코딩된 화상들의 제거를 이행할 수도 있다. 더구나, 일부 예들에서, 예측 모듈 (81) 은 어떤 장기 참조 화상들이 현재 화상에 대한 참조 화상 세트에 속하는지를 위에서 설명된 방식으로 결정하도록 구성될 수도 있다.

다른 예들에서, 예측 모듈 (81) 이 아닌 유닛이 위에서 설명된 예들을 이행할 수도 있다. 일부 다른 예들에서, 예측 모듈 (81) 은 비디오 디코더 (30) 의 하나 이상의 다른 유닛들과 연계하여 위에서 설명된 예들을 이행할 수도 있다. 또 일부 다른 예들에서, 비디오 디코더 (30) 의 프로세서 또는 유닛 (도 4에서 미도시) 은, 단독으로 또는 비디오 디코더 (30) 의 다른 유닛들과 연계하여, 위에서 설명된 예들을 이행할 수도 있다.

도 5는 참조 화상 세트를 도출하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 5의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 예를 들어, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있다 (94). 참조 화상 세트는, 현재 화상을 인터 예측하기 위해 그리고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 예측하기 위해 잠재적으로 사용될 수 있는 참조 화상들을 식별할 수도 있다.

예를 들어, 비디오 인코더 (20) 가 단계 94를 수행하는 경우, 비디오 인코더 (20) 는 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들을 나타내는 값들을 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 비트스트림에서 pic_order_cnt_lsb 신택스 엘리먼트, 및 log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트를 시그널링할 수도 있다. 비디오 디코더 (30) 가 단계 94를 수행하는 경우, log2_max_pic_order_cnt_lsb_minus4 신택스 엘리먼트로부터, 비디오 디코더 (30) 는 MaxPicOrderCntLsb의 값을 결정할 수도 있다. 비디오 디코더 (30) 는 그 다음에 참조 화상 세트에 속하는 참조 화상들에 대한 식별자들 (예컨대, POC 값들) 을 결정할 수도 있다.

그 비디오 코더는 0 개 이상의 참조 화상들을 각각 식별하는 복수의 참조 화상 서브세트들을 구축할 수도 있다 (96). 예를 들어, 비디오 코더는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들을 구축할 수도 있다. 그러나, 본 개시의 양태들은 그렇게 제한되지 않는다. 일부 예들에서, 비디오 코더는 5 개의 참조 화상 서브세트들을 구축할 수도 있으며, 그 중 4 개는 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들 중 4 개일 수도 있고, 제 5의 것은 남아있는 6 개의 참조 화상 서브세트들 중 2 개의 조합 (예컨대, RefPicSetFoll0 및 RefPicSetFoll1 참조 화상 서브세트들의 조합) 일 수도 있다.

일부 예들에서, 비디오 코더는 다음의 4 개의 참조 화상 서브세트들 중 적어도 2 개를 구축할 수도 있다. 다른 예들에서, 비디오 코더는 적어도 다음의 4 개의 참조 화상 서브세트들을 구축할 수도 있다. 제 1 참조 화상 서브세트는, 디코딩 순서에서 현재 화상보다 선행하고 출력 순서에서 현재 화상보다 선행하고 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별할 수도 있다. 제 2 참조 화상 서브세트는, 디코딩 순서에서 현재 화상보다 선행하고 출력 순서에서 현재 화상에 후속하고 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별할 수도 있다.

제 3 참조 화상 서브세트는, 디코딩 순서에서 현재 화상보다 선행하고 현재 화상 및 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별할 수도 있다. 제 4 참조 화상 서브세트는, 디코딩 순서에서 현재 화상보다 선행하고 현재 화상을 인터 예측하기 위해 사용될 수 없고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별할 수도 있다.

비디오 코더는 복수의 참조 화상 서브세트들로부터 참조 화상 세트를 도출할 수도 있다 (98). 예를 들어, 비디오 코더는 참조 화상 세트를 도출하기 위해 RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr, 및 RefPicSetLtFoll 참조 화상 서브세트들 중 적어도 2 개를 특정 순서로 순서화할 수도 있다.

일부 예들에서, 비디오 코더에 의해 수행된 순서화는 참조 화상 서브세트들의 각각에서의 화상들이 참조 화상 세트 내에서 순차적으로 식별될 수도 있다는 것을 의미할 수도 있다. 이들 예들에서, 비디오 코더는 참조 화상 세트에서의 참조 화상들을 참조 화상 세트로의 인덱스 값에 의해 참조할 수도 있다.

비디오 코더는 도출된 참조 화상 세트에 기초하여 현재 화상을 코딩할 수도 있다 (100). 비디오 코더가 참조 화상 서브세트들로부터 참조 화상 세트를 도출하기 때문에, 비디오 코더는 복수의 참조 화상 서브세트들에 기초하여 현재 화상을 코딩하는 것으로서 간주될 수도 있다는 것이 이해되어야 한다. 예를 들어, 비디오 코더는 (예컨대, 복수의 참조 화상 서브세트들로부터 도출되는 도출된 참조 화상 세트로부터의) 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축할 수도 있다. 비디오 코더는 그 다음에 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 현재 화상을 코딩할 수도 있다.

도 6은 참조 화상 리스트를 구축하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 6의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 도 5와 유사하게, 비디오 코더는 참조 화상들을 나타내는 정보를 코딩하고 (102), 복수의 참조 화상 서브세트들을 구축할 수도 있다 (104).

비디오 코더는 그 다음에 참조 화상 서브세트들로부터의 참조 화상들을 초기 참조 화상 리스트에 추가하여, 초기 참조 화상 리스트를 구축할 수도 있다 (106). 일부 예들에서, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 초기 참조 화상 리스트를 구축할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 DPB (64) 에 저장하기 위한 복원된 비디오 블록들을 생성하기 위해 초기 참조 화상 리스트를 구축할 수도 있다. 비디오 디코더 (30) 는 초기 참조 화상 리스트를 그것의 디코딩 프로세스의 부분으로서 구축할 수도 있고, 비디오 디코더 (30) 가 초기 참조 화상 리스트를 구축하는 방식에 관한 비디오 인코더 (20) 로부터의 정보를 수신하는 것을 필요로 하지 않는 디폴트 구축 기법을 이행할 수도 있다.

일부 예들에서, 초기 참조 화상 리스트를 구축하기 위해, 비디오 코더는, 복수의 참조 화상 서브세트들 중 제 1 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에, 후속하여 제 2 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에, 및 그 후 후속하여 제 3 서브세트로부터의 참조 화상들을 초기 참조 화상 리스트에 추가할 수도 있다. 비디오 코더는 초기 참조 화상 리스트에 열거된 참조 화상들의 총 수가 초기 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수보다 크지 않는 한 이들 참조 화상 서브세트들로부터의 참조 화상들을 추가할 수도 있다. 예를 들어, 참조 화상 리스트에 참조 화상들을 추가하는 동안의 임의의 시간에, 초기 참조 화상 리스트에서의 엔트리들의 수가 허용가능 초기 참조 리스트 엔트리들의 최대 수와 동일하게 되면, 비디오 코더는 임의의 부가적인 화상들을 초기 참조 화상 리스트에 추가하는 것을 중단할 수도 있다.

비디오 코더는, 현재 화상의 비디오 블록이 양방향 예측되는 예들에서와 같이, 다른 초기 참조 화상 리스트를 유사하게 구축할 수도 있다. 이 예에서, 이 다른 초기 참조 화상 리스트를 구축하기 위해, 비디오 코더는, 이 다른 초기 참조 화상 리스트에서의 엔트리들의 총 수가 엔트리들의 허용가능한 수보다 크지 않는 한, 제 2 서브세트로부터의 참조 화상들을 다른 초기 참조 화상 리스트에, 후속하여 제 1 서브세트로부터의 참조 화상들을 다른 초기 참조 화상 리스트에, 및 그 후에 후속하여 제 3 서브세트로부터의 참조 화상들을 다른 초기 참조 화상 리스트에 추가할 수도 있다. 이들 예들에서, 제 1 서브세트는 RefPicSetStCurr0 참조 화상 서브세트일 수도 있으며, 제 2 서브세트는 RefPicSetStCurr1 참조 화상 서브세트일 수도 있고, 제 3 서브세트는 RefPicSetLtCurr 참조 화상 서브세트일 수도 있다.

어떤 예에서, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들에서 식별된 참조 화상들을 추가하기 위해, 비디오 코더는 비디오 코더가 이들 참조 화상 서브세트들의 각각에서의 참조 화상들의 수를 결정할 수 있게 하는 신택스 엘리먼트들을 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있다. 예를 들어, 비디오 코더는 num_short_term_curr0 신택스 엘리먼트 및 num_short_term_curr1 신택스 엘리먼트를 코딩할 수도 있다. num_short_term_curr0 신택스 엘리먼트 및 num_short_term_curr1 신택스 엘리먼트는 각각 RefPicSetStCurr0 참조 화상 서브세트 및 RefPicSetStCurr1 참조 화상 서브세트에서 식별된 참조 화상들의 수를 나타낼 수도 있다.

비디오 코더는 또한 num_long_term_pps_curr 신택스 엘리먼트, 및 num_long_term_add_curr 신택스 엘리먼트를 코딩할 수도 있다. num_long_term_pps_curr 신택스 엘리먼트는 식별 정보가 화상 파라미터 세트 (PPS) 에 포함되어 있는 장기 참조 화상들의 수를 나타낼 수도 있고, num_long_term_add_curr 신택스 엘리먼트는 식별 정보가 PPS에 포함되어 있지 않는 장기 참조 화상들의 수를 나타낼 수도 있다. 이 예에서, 이들 장기 참조 화상들은 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있다.

비디오 코더는 num_long_term_pps_curr 신택스 엘리먼트 및 num_long_term_add_curr 신택스 엘리먼트에 기초하여 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 결정할 수도 있다. 예를 들어, 비디오 코더는 num_long_term_pps_curr 신택스 엘리먼트 및 num_long_term_add_curr 신택스 엘리먼트의 값들을 합산하여 RefPicSetLtCurr 참조 화상 서브세트에서의 참조 화상들의 수를 결정할 수도 있다.

비디오 코더는 참조 화상 리스트 또는 리스트들에 기초하여 현재 화상을 코딩할 수도 있다 (108). 예를 들면, 비디오 코더는 도출된 참조 화상 세트에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축할 수도 있다. 비디오 코더는 그 다음에 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 현재 화상을 코딩할 수도 있다.

도 7은 참조 화상 리스트를 구축하는 다른 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 7의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 도 5와 유사하게, 비디오 코더는 참조 화상들을 나타내는 정보를 코딩하고 (110), 복수의 참조 화상 서브세트들을 구축할 수도 있다 (112). 비디오 코더는 참조 화상들을 참조 화상 리스트의 엔트리들의 제 1 세트에 추가할 수도 있다 (114). 예를 들어, 참조 화상 리스트에서의 엔트리들의 수는 num_ref_idx_l0_active_minus1 또는 num_ref_idx_l1_active_minus1 신택스 엘리먼트들에 의해 정의된 바와 같은 허용가능 엔트리들의 최대 수와 동일할 수도 있다.

이 예에서, 비디오 코더는 엔트리들의 제 1 세트에, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들에서 식별된 참조 화상들을 올릴 (예컨대, 추가할) 수도 있다. 예를 들어, 리스트 0에 대해, 비디오 코더는 리스트 0의 엔트리들의 제 1 세트에, 순서대로, RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들에서 식별된 참조 화상들을 추가할 수도 있다. 리스트 1에 대해, 비디오 코더는 리스트 1의 엔트리들의 제 1 세트에, 순서대로, RefPicSetStCurr1, RefPicSetStCurr0, 및 RefPicSetLtCurr 참조 화상 서브세트들에서 식별된 참조 화상들을 추가할 수도 있다.

비디오 코더는 그 다음에 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정할 수도 있다 (116). 그 참조 화상 리스트에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수보다 작지 않으면 (116의 "아니오"), 비디오 코더는 참조 화상 리스트에 기초하여 현재 화상을 코딩할 수도 있다 (118).

그렇지 않고, 참조 화상 리스트에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수보다 작으면 (116의 "예"), 비디오 코더는 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 다시 올릴 (예컨대, 재식별할 도는 재추가할) 수도 있다 (120). 예를 들어, 비디오 코더는, RefPicSetStCurr0 참조 화상 서브세트에서 식별된 하나 이상의 참조 화상들을 리스트 0에서의 엔트리들의 제 1 세트에 후속하는 엔트리들에서의 리스트 0에, 또는 RefPicSetStCurr1 참조 화상 서브세트에서 식별된 하나 이상의 참조 화상들을 리스트 1에서의 엔트리들의 제 1 세트에 후속하는 엔트리들에서의 리스트 1에 추가할 수도 있다. 이런 방식으로, 비디오 코더는 제 1 참조 화상 서브세트의 적어도 하나의 참조 화상을 참조 화상 리스트에서의 하나를 초과하는 엔트리에서 식별할 수도 있다.

비디오 코더는 그 다음에 참조 화상 리스트에서의 엔트리들의 수가 그 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일한지의 여부를 결정할 수도 있다 (122). 그 참조 화상 리스트에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수보다 작지 않으면 (122의 "아니오"), 비디오 코더는 참조 화상 리스트에 기초하여 현재 화상을 코딩할 수도 있다 (124).

그렇지 않고, 참조 화상 리스트에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수보다 작으면 (122의 "예"), 비디오 코더는 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 다시 올릴 (예컨대, 재식별할 도는 재추가할) 수도 있다 (120). 예를 들어, 이 상황에서, 비디오 코더는 제 1 참조 화상 서브세트에서 식별된 부가적인 참조 화상들을 재추가할 수도 있다. 비디오 코더가 제 1 참조 화상 서브세트에서의 참조 화상들의 모두를 이미 재추가하였다면, 비디오 코더는 제 2 참조 화상 서브세트 (예컨대, 리스트 0에 대한 RefPicSetStCurr0 참조 화상 서브세트, 또는 리스트 1에 대한 RefPicSetStCurr1 참조 화상 서브세트) 로부터의 하나 이상의 참조 화상들을 재추가할 수도 있다. 이 프로세스는 그 참조 화상 리스트에서의 엔트리들의 수가 허용가능 엔트리들의 최대 수보다 작지 않을 때까지 (122의 "아니오") 반복할 수도 있다.

이런 방식으로, 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하지 않은 경우, 비디오 코더는, 참조 화상 리스트에서의 엔트리들의 수가 참조 화상 리스트에서의 허용가능 엔트리들의 최대 수와 동일하기까지, 참조 화상 서브세트들 중 적어도 하나의 참조 화상 서브세트로부터의 하나 이상의 참조 화상들을 엔트리들의 제 1 세트에 후속하는 참조 화상 리스트에서의 엔트리들에 반복적으로 다시 올릴 (예컨대, 재식별할 또는 재추가할) 수도 있다. 이는 참조 화상 리스트의 각각의 엔트리가 참조 화상들 중 하나를 식별하도록, 및 참조 화상 리스트의 적어도 2 개의 엔트리들이 참조 화상들 중 동일한 참조 화상을 식별하도록 비디오 코더가 참조 화상 리스트의 엔트리들에 참조 화상들을 올리게 할 수도 있다.

도 8은 초기 참조 화상 리스트를 수정하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 8의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 도 6과 유사하게, 비디오 코더는 참조 화상들을 나타내는 정보를 코딩하고 (126), 복수의 참조 화상 서브세트들을 구축할 수도 있다 (128). 복수의 참조 화상 서브세트들은 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들을 포함할 수도 있다. 비디오 코더는 RefPicSetStCurr0, RefPicSetStCurr1, 및 RefPicSetLtCurr 참조 화상 서브세트들에 기초하여 위에서 설명된 방식으로 초기 참조 화상 리스트를 구축할 수도 있다 (130).

비디오 코더는 참조 화상 리스트 수정이 필요한지의 여부를 결정할 수도 있다 (132). 예를 들어, 비디오 코더는 초기 리스트 0 또는 초기 리스트 1이 수정될 필요가 있는지의 여부를 나타내는 ref_pic_list_modification_flag_l0 및 ref_pic_list_modification_flag_l1과 같은 신택스 엘리먼트들을 코딩할 수도 있다. 초기 참조 화상 리스트의 수정이 필요하지 않으면 (132의 "아니오"), 비디오 코더는 초기 참조 화상 리스트에 기초하여 현재 화상을 코딩할 수도 있다 (134).

수정이 필요하면 (132의 "예"), 비디오 코더는 구축된 참조 화상 서브세트들 중 적어도 하나의 구축된 참조 화상 서브세트에서 참조 화상을 식별할 수도 있다 (136). 예를 들어, 비디오 코더는 modification_of_ref_pic_idc 신택스 엘리먼트를 코딩할 수도 있다. modification_of_ref_pic_idc 신택스 엘리먼트의 값은 비디오 코더가 참조 화상을 식별하기 위해 어떤 참조 화상 서브세트를 활용하는지를 나타낼 수도 있다. 비디오 코더는 또한 비디오 코더가 참조 화상을 식별하기 위해 활용하는 참조 화상 서브세트로의 인덱스를 나타내는 ref_pic_set_idx 신택스 엘리먼트를 코딩할 수도 있다.

비디오 코더는 식별된 참조 화상을 초기 참조 화상 리스트에서의 현재 엔트리에 올려 (예컨대, 추가하여 또는 식별하여) 수정된 참조 화상 리스트를 구축할 수도 있다 (138). 현재 엔트리는 처음에는 인덱스 0에 의해 정의된 초기 참조 화상 리스트에서의 엔트리일 수도 있다. modification_of_ref_pic_idc 신택스 엘리먼트의 값이 3이 아닌 코딩된 비트스트림에서의 modification_of_ref_pic_idc 신택스 엘리먼트의 각각의 인스턴스에 대해, 비디오 코더는 초기 엔트리의 값을 1만큼 증가시킬 수도 있다 (예컨대, 엔트리의 다음의 값은 인덱스 1에 의해 정의될 것이다). 비디오 코더는 수정된 참조 화상 리스트에 기초하여 현재 화상을 코딩할 수도 있다 (140).

도 9는 디코딩된 화상 제거의 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로, 도 9의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 대응하는 비디오 코더에 의해 수행될 수도 있다. 도 5와 유사하게, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 참조 화상 세트의 참조 화상들을 나타내는 정보를 코딩 (예컨대, 인코딩 또는 디코딩) 할 수도 있고 (142), 코딩된 (예컨대, 인코딩된 또는 디코딩된) 정보로부터 참조 화상 세트를 도출할 수도 있다 (144).

비디오 코더는 디코딩된 화상 버퍼 (DPB) 에 저장된 디코딩된 화상이 출력을 위해 필요하지 않는지 (즉, 이미 출력되었는지 또는 출력될 것이 의도되지 않았는지) 의 여부와 참조 화상 세트에서 식별되지 않는지의 여부를 결정할 수도 있다 (146). 디코딩된 화상이 출력을 위해 필요하거나 또는 참조 화상 세트에서 식별되면 (146의 "아니오"), 비디오 코더는 DPB로부터 디코딩된 화상을 제거하지 않을 수도 있고, DPB에 저장된 디코딩된 화상을 유지할 수도 있다 (148).

디코딩된 화상이 출력되었고 참조 화상 세트에서 식별되지 않은 경우 (146의 "예")), 비디오 코더는 DPB로부터 디코딩된 화상을 제거할 수도 있다 (150). 비디오 코더는 그 다음에 디코딩된 화상을 제거한 후 현재 화상을 코딩할 수도 있다 (152).

위에서 설명된 바와 같이, 비디오 코더는 현재 화상을 코당하기 위해 참조 화상 세트에 기초하여 참조 화상 리스트를 구축할 수도 있다. 일부 예들에서, 비디오 코더는 참조 화상 리스트를 구축한 후 DPB로부터 디코딩된 화상을 제거할 수도 있다. 더구나, 출력되는 디코딩된 화상에 대해, 비디오 코더는 디코딩된 화상을 출력할 시간을 결정할 수도 있고, 결정된 시간에 기초하여 현재 화상을 코딩하기 전에 디코딩된 화상을 출력할 수도 있다.

일부 예들에서, 비디오 코더는 코딩된 (예컨대, 디코딩된) 화상을 DPB에 저장할 수도 있다. 일부 예들에서, 비디오 코더는 DPB가 저장 전에 풀 (full) 이라고 결정할 수도 있다. 이들 예들에서, 비디오 코더는, "출력을 위해 필요함"으로 마킹된 DPB에 현재 저장되고 DPB에 저장된 모든 디코딩된 화상들 중 최소 화상 순서 카운트 (POC) 값을 갖는 디코딩된 화상을 선택할 수도 있다. 비디오 코더는 그 다음에 선택된 화상을 출력할 수도 있다. 더욱이, 비디오 코더는 출력된 화상이 현재 화상의 참조 화상 세트에 포함되지 않는다고 결정할 수도 있다. 이 경우, 비디오 코더는 DPB 내에서 출력된 화상을 저장했던 버퍼를 비울 수도 있고, 코딩된 화상을 DPB 내의 그 버퍼에 저장할 수도 있다.

도 10은 어떤 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 결정하는 일 예의 동작을 도시하는 흐름도이다. 예시만을 목적으로,도 10의 방법은 비디오 인코더 (20) 또는 비디오 디코더 (30) 중 어느 하나에 해당하는 비디오 코더에 의해 수행될 수도 있다.

비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 파라미터 세트에서 식별된, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩할 수도 있다 (154). 일부 예들에서, 후보 장기 참조 화상들 중 하나 이상의 후보 장기 참조 화상들은 현재 화상의 참조 화상 세트에 속한다. 본 개시에서 설명되는 기법들에 따르면, 파라미터 세트는 시퀀스 파라미터 세트 또는 화상 파라미터 세트일 수도 있다. 일부 예들에서, 후보 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 코딩하기 위해, 비디오 코더는 파라미터 세트에 후보 장기 참조 화상들에 대한 POC 값들의 리스트를 코딩하고, 현재 화상의 슬라이스 헤더에 리스트에 대한 인덱스 값을 코딩할 수도 있다.

비디오 코더는 파라미터 세트에서 식별된, 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 코딩할 수도 있다 (156). 예를 들어, 비디오 코더는 어떤 후보 장기 참조 화상들이 참조 화상 세트에 속하는지를 나타내는 신택스 엘리먼트들을 현재 화상의 슬라이스 헤더에 코딩할 수도 있다.

일부 예들에서, 참조 화상 세트에 속하는 모든 장기 참조 화상들이 후보 장기 참조 화상들에 포함되는 것은 아니다. 이들 예들에서, 비디오 코더는 참조 화상 세트에 속하는 장기 참조 화상들을 나타내는 신택스 엘리먼트들을 추가로 코딩할 수도 있다 (158). 비디오 코더는 그 다음에 어떤 후보 장기 참조 화상들이 현재 화상의 참조 화상 세트에 속하는지의 표시에 기초하여 복수의 참조 화상 서브세트들 중 적어도 하나를 구축할 수도 있다 (160).

위의 예들에서, 다양한 예들이 그 예들에 대한 가능한 대안들과 함께 설명되어 있다. 다음은 그 예들에 대한 일부 부가적인 대안들을 설명하며, 그 대안들은 위에서 설명된 예들 중 하나 이상에 대한 대체 예들로서 간주될 수도 있다. 더욱이, 이들 대체 예들은 위에서 설명된 예들과 연계하여, 또는 위에서 설명된 예들과 별개로 사용될 수도 있다.

예를 들어, 위에서 이미 설명된 것들은 참조 화상 세트 개념에 대한 대체 예들, 파라미터 세트들에서의 참조 화상 세트의 시그널링에 대한 대체 예들, 참조 화상 세트의 서브세트들의 대체 예들, 및 참조 화상 마킹에 대한 대체 예들이다. 다음은 부가적인 대체 예들을 제공한다.

예를 들면, NAL 단위 헤더에 대해, 위의 예들에서, NAL 단위 헤더 신택스는 nal_ref_idc, temporal_id, 및 output_flag 신택스 엘리먼트들을 포함할 수도 있다. 하나의 대체 예에서, nal_ref_idc (2 비트) 는 nal_ref_flag (1 비트) 로 대체된다. 이 예에서, 1과 동일한 nal_ref_flag는 0보다 큰 nal_ref_idc로서의 시맨틱스를 가지고, 0과 동일한 nal_ref_flag는 0과 동일한 nal_ref_idc와 동일한 시맨틱스를 가진다. 하나의 대체 예에서, nal_ref_idc (2 비트) 는 제거된다. 참조 화상의 정의는 다음으로 변경될 수도 있다: 디코딩 순서에서 후속하는 화상들의 디코딩 프로세스에서 인터 예측을 위해 사용될 수도 있는 샘플들을 포함하는 화상. 하나의 대체 예에서, temporal_id는 NAL 단위 헤더 신택스에 존재하지 않고, 그 값은 모든 화상들에 대해 동일하도록 도출된다. 하나의 대체 예에서, output_flag는 NAL 단위 헤더 신택스에 존재하지 않고, 그 값은 모든 화상들에 대해 1과 동일하도록 도출된다.

화상 순서 카운트 시그널링 및 계산을 위해, 위의 기법들은 AVC에서의 화상 순서 카운트 유형 0과 유사할 수도 있는 화상 순서 카운트의 시그널링 및 계산의 하나의 방법을 채용할 수도 있다. AVC에서의 화상 순서 카운트 유형들 1 및 2와 각각 동일한, 화상 순서 카운트의 시그널링 및 계산을 위한 2 개의 대체 방식들이 적용될 수도 있다. 3 개의 방식들 중 2 개의 임의의 조합, 또는 모든 3 개의 방식들의 조합이 또한 적용될 수도 있다.

화상 식별을 위해, 위의 기법들은 화상 식별에 대한 화상 순서 카운트 (POC) 값을 활용할 수도 있다. 하나의 대체 예에서, 임시 참조 (temporal reference; TR) 가 화상 식별로서 사용된다. TR을 정의하는 하나의 방식은 임의의 2 개의 화상들 사이의 POC 차이가 프레젠테이션 시간 또는 샘플링 시간 차이에 비례하도록 POC가 제한되는 경우의 POC와 그것이 동일한 것이다. 하나의 대체 예에서, 디코딩 순서를 나타내는 frame_num (반면 POC는 출력 또는 디스플레이 순서를 나타냄), 또는 frame_num으로부터 도출된 32-비트의 부호없는 정수 값들 중 임의의 값일 수도 있는 변수 (예컨대, UnWrappedFrameNum으로 명명됨) 는 화상 식별로서 사용될 수도 있다. 기본적으로, UnWrappedFrameNum은 frame_num의 래핑되지 않은 (un-wrapped) 버전일 수도 있다. 예를 들어, frame_num이 8 개 비트들로 표현되면, frame_num의 최대 값은 255이다. frame_num에 대한 255 뒤의 다음 값은 0이다. UnWrappedFrameNum의 값은 frame_num이 0으로 래핑되는 포지션들에서 계속 증가한다.

장기 참조 화상들을 파라미터 세트들에서 시그널링하기 위해, 위의 예들에서, 비디오 인코더 (20) 는 절대 장기 참조 화상 식별 정보의 리스트를 화상 파라미터 세트에서 시그널링할 수도 있으며, 절대 장기 참조 화상 식별 정보의 비트 단위의 길이에 대한 정보를 시그널링할 수도 있고, 그 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있으며, 따라서 시그널링 오버헤드를 감소시킨다. 하나의 대체 예에서, 차분 (differential) 장기 참조 화상 식별 정보의 리스트가 시퀀스 파라미터 세트에서 시그널링될 수도 있고 그 리스트에 대한 인덱스는 슬라이스 헤더에서 참조될 수도 있고, 따라서 시그널링 오버헤드를 감소시킨다. 하나의 대체 예에서, 절대 장기 참조 화상 식별 정보의 비트 단위의 길이에 대한 정보가 시그널링될 수도 있지만, 그 길이는 상수, 예컨대, 32로 간주될 수도 있다. 다양한 예들에서, 위의 예들 중 임의의 것들의 조합이 적용된다.

단기 참조 화상들의 시그널링의 경우, 위의 예들에서, 코딩된 화상의 참조 화상 세트에서의 단기 참조 화상들에 대해, 모두가 참조된 화상 파라미터 세트에서 시그널링되거나, 또는 모두가 슬라이스 헤더에서 시그널링된다. 하나의 대체 예에서, 코딩된 화상의 참조 화상 세트에서의 단기 참조 화상들에 대해, 일부는 참조된 화상 파라미터 세트에서 시그널링되고, 다른 것들은 슬라이스 헤더에서 시그널링된다.

참조 화상 리스트 초기화의 경우, 하나의 대체 예에서, 참조 화상 리스트 초기화 프로세스에서, 첫째로 단기 참조 화상들이 리스트에 추가될 수도 있고, 둘째로, 선택사항으로, 장기 참조 화상들이 리스트에 추가될 수도 있다. 그 후, 참조 화상 리스트 (RefPicList0 또는 RefPicList1 중 어느 하나) 에서의 엔트리들의 수가 num_ref_idx_lx_active_minus1+1 (lx는 l0 또는 l1임) 의 값보다 여전히 작으면, 남아있는 엔트리들은 "참조 화상 없음"으로 마킹될 수도 있다. 하나의 대체 예에서, RefPicSetStCurr0 및 RefPicSetStCurr1 및 아마도 장기 참조 화상들에 엔트리들을 추가한 후에 참조 화상 리스트가 여전히 완료되지 않으면, RefPicSetStFoll0 및/또는 RefPicSetStFoll1에서의 화상들이 추가될 수도 있다는 것이 또한 가능할 수도 있다. 하나의 대체 예에서, 참조 화상 리스트 초기화 프로세스는 참조 화상 리스트에 단기 참조 화상들을 추가하기만 할 수도 있다. 이러한 경우에, 장기 참조 화상은 참조 화상 리스트 수정 (Reference Picture List Modification; RPLM) 신택스 표에서 시그널링된 참조 화상 리스트 수정 커맨드들을 사용하여 참조 화상 리스트에 추가되기만 할 수도 있다.

참조 화상 리스트 수정의 경우, 하나의 대체 예에서, 참조 화상 리스트 수정은 또한 이전의 인덱스가 현재 인덱스의 예측변수 (predictor) 로서 사용되는 차분 방식으로 ref_pic_set_idx를 시그널링할 수도 있다. 이 예에서, 상이한 modification_of_ref_pic_idc 값들은, 각각이 상이한 예측변수를 유지하는 상이한 인덱싱 카테고리들 (RefPicListx에 대한 RefPicSetStCurrx, RefPicList(1-x) 에 대한 RefPicSetStCurrx, 또는 RefPicSetLtCurr) 에 대응할 수도 있다. 예측변수는 동일한 카테고리에 속하는 신택스 엘리먼트가 파싱되자마자 업데이트될 수도 있다. 하나의 대체 예에서, 참조 화상 리스트 수정들은 화상 수 차이에 기초할 수도 있다. 하나의 대체 예에서, 참조 화상 리스트 수정들은 POC 값들 차이에 기초할 수도 있다.

디코딩된 화상 버퍼 (DPB) 동작들에 대해, 위의 예에서, 현재 화상의 디코딩 후 및 디코딩 순서에서 다음의 코딩된 화상의 슬라이스 헤더를 파싱하기 전, 현재 디코딩된 화상은 DPB에 저장된다. 하나의 대체 예에서, 현재 화상의 디코딩 후 및 디코딩 순서에서 다음의 코딩된 화상의 슬라이스 헤더를 파싱하기 전, 현재 디코딩된 화상은 (DPB 내가 아니라) 임시 메모리에 저장된다. 참조를 위해 또는 출력을 위해 여전히 필요하면, 그것은 디코딩 순서에서 다음의 코딩된 화상의 슬라이스 헤더의 파싱 및 그 화상의 참조 화상 세트의 구축 후에 DPB에 저장된다. 이 시점에, 참조를 위해서도 출력을 위해서 필요하지 않으면, 디코딩된 화상은 (임시 버퍼로부터) 단순히 버려질 수도 있다.

또한, 위의 예들에서, DPB로부터의 디코딩된 화상의 제거는 현재 화상의 슬라이스 헤더의 파싱 후 및 현재 화상의 임의의 슬라이스의 디코딩 전에 즉시 발생한다. 하나의 대체 예에서, DPB로부터의 디코딩된 화상의, 존재하는 경우의, 마킹 및 제거는 현재 화상이 완전히 디코딩된 후에 발생한다.

위의 예들에서, 현재 화상에 대한 참조 화상 세트의 서브세트들 RefPicSetStCurr0 및 RefPicSetStCurr1은 모든 디코딩된 화상들에 대해 도출된다. 그러나, 이는 인트라 화상에 대해 필요하지 않을 수도 있다. 인트라 화상 참조 화상 세트 도출을 위해, 하나의 대체 예에서, 인트라 코딩된 비-IDR 화상 (즉, 코딩된 화상의 모든 슬라이스는 I 슬라이스들임) 에 대해, RefPicSetStCurr0 및 RefPicSetStCurr1은 도출되지 않으며, 그것들이 도출된 후에 비어있지 않아도, 그것들은 코딩된 화상의 디코딩에 필요하지 않다. 비-IDR 인트라 화상에 대해 비어있지 않은 RefPicSetStCurr0 또는 RefPicSetStCurr1을 허용하면, RefPicSetStCurr0 및 RefPicSetStCurr1이 양쪽 모두가 비워지게 하지 않을 수도 있는 하나 이상의 인터 코딩된 화상들의 인스턴스 short_term_ref_pic_set( ) 신택스 구조의 공유를 허용할 수도 있다.

손실 검출을 위해, 참조 화상의 손실의 검출 또는 현재 화상이 올바르게 디코딩될 수 있는지의 여부의 조기 검출을 위한 다음의 상이한 방법들이 가능할 수도 있다. 다양한 예들에서, 참조 화상 세트의 도출 후, 비디오 디코더 (30) (예컨대, 디코더 측) 는 RefPicSetStCurr0, RefPicSetStCurr1 및 RefPicSetLtCurr에 포함된 참조 화상들의 존재를 체크할 수도 있다. RefPicSetStCurr0, RefPicSetStCurr1 및 RefPicSetLtCurr에 포함된 참조 화상들 중 임의의 것이 DPB에 존재하지 않으면, 디코더 측에서는 그 참조 화상이 소실되었다는 것, 및 현재 화상이 올바르게 디코딩되지 않을 것이라는 것을 유추할 수도 있고, 예컨대, 인코더 측 (예컨대, 비디오 인코더 (20)) 에 화상 손실(들)을 통지하는 것에 의해 상황을 개선하는 일부 액션을 취할 수도 있고, 인코더는 인터 예측 참조를 위해 디코더 측에서 올바르다고 알려진 그들 참조 화상들만을 사용하여 손실된 참조 화상(들) 또는 인코딩된 다음 화상(들)을 재송신할 수도 있다.

다양한 예들에서, 참조 화상 세트의 도출 후, 디코더 측에서는 RefPicSetStFoll0, RefPicSetStFoll1 및 RefPicSetLtFoll에 포함된 참조 화상들의 존재를 체크할 수도 있다. RefPicSetStFoll0, RefPicSetStFoll1 및 RefPicSetLtFoll에 포함된 참조 화상들 중 임의의 것이 DPB에 존재하지 않으면, 그 참조 화상이 소실되었다는 것, 및 디코더 측에서는 일부 액션들이 취해지지 않는 한 디코딩 순서에서의 다음 화상들의 일부가 올바르게 디코딩되지 않을 것이라는 것을 유추할 수도 있고, 예컨대, 인코더 측에 화상 손실(들)을 통지하는 것에 의해 그 상황을 바로잡을 일부 액션을 취할 수 있고, 인코더는 인터 예측 참조를 위해 디코더 측에서 올바르다고 알려진 그들 참조 화상들만을 사용하여 손실된 참조 화상(들) 또는 인코딩된 다음 화상(들)을 재송신할 수도 있다.

인코더 측 (예컨대, 비디오 인코더 (20)) 참조 화상 세트 조성에 대해, 위의 예들로, 인코더 측에서 참조 화상 세트 조성에 대한 다음의 상이한 방법들이 가능할 수도 있다. 예를 들면, 다양한 예들에서, 인코더는 현재 화상에 대한 디코더 측에서의 참조 화상 세트 도출 후 다음이 되도록 참조 화상 세트 관련 신택스 구조들을 구성한다: (1) RefPicSetStCurr0은, 현재 화상보다 앞선 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 단기 참조 화상들의 식별 정보를 포함하고 그것만을 포함하며, (2) RefPicSetStCurr1은, 현재 화상보다 나중의 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 단기 참조 화상들의 식별 정보를 포함하고 그것만을 포함하고, (3) RefPicSetLtCurr은 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 장기 참조 화상들의 식별 정보를 포함하고 그것만을 포함한다.

다양한 예들에서, 인코더 (예컨대, 비디오 인코더 (20)) 는 현재 화상에 대한 디코더 측에서의 참조 화상 세트 도출 후 다음이 되도록 참조 화상 세트 관련 신택스 구조들을 구성할 수도 있다; (1) RefPicSetStCurr0은, 1) 현재 화상보다 앞선 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 단기 참조 화상들, 뿐만 아니라 2) 현재 화상보다 앞선 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되지 않는 하나 이상의 단기 참조 화상들의 식별 정보를 포함하고 그것만을 포함하며, (2) RefPicSetStCurr1은 1) 현재 화상보다 나중의 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 단기 참조 화상들, 뿐만 아니라 2) 현재 화상보다 나중의 출력 순서를 가지며 현재 화상의 인터 예측에서 참조를 위해 사용되지 않는 하나 이상의 단기 참조 화상들의 식별 정보를 포함하고 그것만을 포함하고, RefPicSetLtCurr은 1) 현재 화상의 인터 예측에서 참조를 위해 사용되는 모든 장기 참조 화상들, 뿐만 아니라 2) 현재 화상의 인터 예측에서 참조를 위해 사용되지 않는 하나 이상의 장기 참조 화상들의 식별 정보를 포함하고 그것만을 포함한다.

이런 방식으로, 대체 예들의 임의의 조합을 포함하는 위의 개개의 기법들 또는 그것들의 임의의 조합은 다음에 관련된 기법들을 제공할 수도 있다. 그러나, 아래의 리스트는 이해의 용이함을 위해 제공되며, 제한하는 것으로 간주되지 않아야 한다. 위의 기법들 중 하나 이상은 함께 또는 별개로 이행될 수도 있다. 더욱이, 위의 기법들은 예들이고, 그들 특정 예의 기법들로의 제한으로서 간주되지 않아야 한다.

참조 화상을 위한 temporal_id에 대한 제한들은, DPB 관리 방법들이 시간적 확장성에 꽤 적합하며, 시그널링 오버헤드가 감소될 수도 있고, 및 깔끔하게 추출된 비트스트림 서브세트들에 대한 간단한 비트스트림 추출 프로세스가 가능하게 될 수도 있도록 설정된다.

화상 파라미터 세트 및 인덱스에서 시그널링되는 장기 참조 화상 서브세트들은 슬라이스 헤더에 포함될 수도 있다. 이는 장기 화상들의 효율적인 시그널링을 제공할 수도 있다.

현재 화상에 대한 또는 디코딩 순서에서 다음 화상들에 대한 분리를 포함하여, 참조 화상 세트의 다양한 서브세트들로의 분리는, 현재 화상보다 앞서거나 또는 나중의 출력 순서를 갖는 것들에 대한 분리이다. 이것들은 참조 리스트 초기화 및 참조 화상 리스트 수정에 대해 개선된 효율 및 감소된 복잡도를 제공할 수도 있다.

단기 화상 식별 시그널링에서의 이중 차분 코딩은 개선된 효율을 제공할 수도 있다. 확장된 및 제한된 장기 화상 식별은 개선된 효율 및 유연성을 제공할 수도 있다. 단순화된 참조 화상 리스트 초기화는 참조 화상 리스트에서의 완료되지 않은 엔트리들에 대한 "참조 화상 없음"의 마킹의 필요성을 제거할 수도 있지만, 이는 모든 예들에서 요구되지 않을 수도 있다.

디코딩된 화상 출력, DPB로의 삽입, 및 그 DPB로부터의 제거에 대한 단순화된 프로세스들. 화상 순서 카운트 (POC) 는 음수일 수도 있다. 이는 POC가 음수가 될 수 없다면 허용되지 않을 수도 있었던 일부 중요한 사용 사례들을 가능하게 할 수도 있다. 디코딩 프로세스에서 필요하지 않은 화상이 참조 화상인지의 여부의 시그널링은 필요하지 않을 수도 있지만, 그것은 어쩌면 여전히 시그널링될 수도 있다. 참조 화상들을 "참조를 위해 사용되지 않음"으로 마킹하는 것은 더 이상 필요하지 않을 수도 있다.

하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그것들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상에 저장되거나 또는 그것을 통해 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체들은, 데이터 저장 매체들과 같은 유형의 (tangible) 매체에 대응하는 컴퓨터 판독가능 저장 매체, 또는 예컨대 통신 프로토콜에 따라 한 장소에서 다른 장소로 컴퓨터 프로그램의 전달을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이런 방식으로, 컴퓨터 판독가능 매체들은 일반적으로 (1) 비일시적 (non-transitory) 인 유형의 (tangible) 컴퓨터 판독가능 저장 매체들 또는 (2) 신호 또는 반송파와 같은 통신 매체에 해당할 수도 있다. 데이터 저장 매체들은 본 개시에서 설명된 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다.

비제한적인 예로, 그런 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 소망의 프로그램 코드를 컴퓨터에 의해 액세스될 수 있는 명령들 또는 데이터 구조들의 형태로 저장하는 데 사용될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다. 예를 들어, 명령들이 웹사이트, 서버, 또는 다른 원격 자원으로부터 동축 케이블, 광섬유 케이블, 연선 (twisted pair), 디지털 가입자 회선 (DSL), 또는 무선 기술들 이를테면 적외선, 라디오, 및/또는 마이크로파를 이용하여 송신된다면, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술은 매체의 정의에 포함된다. 그러나, 컴퓨터 판독가능 저장 매체들 및 데이터 저장 매체들은 커넥션들, 반송파들, 신호들, 또는 다른 일시적인 매체들을 포함하지 않지만, 대신 비-일시적 (non-transient), 유형의 저장 매체들을 지향하고 있음이 이해되어야 한다. 디스크 (disk 및 disc) 는 본원에서 사용되는 바와 같이, 콤팩트 디스크 (compact disc, CD), 레이저 디스크, 광 디스크, 디지털 다용도 디스크 (DVD), 플로피 디스크 (floppy disk) 및 블루레이 디스크를 포함하는데, disk들은 보통 데이터를 자기적으로 재생하지만, disc들은 레이저들로써 광적으로 데이터를 재생한다. 상기한 것들의 조합들은 또한 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.

명령들은 하나 이상의 프로세서들, 이를테면 하나 이상의 디지털 신호 프로세서들 (DSPs), 범용 마이크로프로세서들, 주문형 집적회로들 (ASICs), 필드 프로그램가능 로직 어레이들 (FPGAs), 또는 다른 동등한 집적 또는 개별 로직 회로에 의해 실행될 수도 있다. 따라서, 본원에서 사용되는 바와 같은 용어 "프로세서"는 앞서의 구조 또는 본원에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 중 임의의 것을 말할 수도 있다. 덧붙여서, 일부 양태들에서, 본원에서 설명된 기능성은 인코딩 및 디코딩을 위해 구성되는, 또는 결합형 코덱 (codec) 으로 통합되는 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공될 수도 있다. 또한, 본 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들 내에 완전히 구현될 수 있다.

본 개시내용의 기법들은 무선 핸드셋, 집적회로 (IC) 또는 한 세트의 IC들 (예컨대, 칩 셋) 을 포함하여, 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 다양한 컴포넌트들, 모듈들, 또는 유닛들은 개시된 기법들을 수행하도록 구성된 디바이스들의 기능적 양태들을 강조하도록 본 개시에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 대신, 위에서 설명된 바와 같이, 다양한 유닛들은 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명된 바와 같은 하나 이상의 프로세서들을 포함하는, 상호운용적 하드웨어 유닛들의 컬렉션에 의해 제공될 수도 있다.

다양한 예들이 설명되어 있다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims

비디오 데이터 코딩 방법으로서,
참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 단계로서, 상기 참조 화상 세트는 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 코딩하는 단계;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 단계; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들로부터 상기 참조 화상 세트를 도출하는 단계를 더 포함하고,
상기 현재 화상을 코딩하는 단계는, 도출된 상기 참조 화상 세트에 기초하여 상기 현재 화상을 코딩하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 단계는, 적어도 5개의 참조 화상 서브세트들을 구축하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 단계는:
디코딩 순서에서 상기 현재 화상보다 선행하고 출력 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 1 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 출력 순서에서 상기 현재 화상보다 후속하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 2 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 3 참조 화상 서브세트; 및
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 현재 화상을 인터 예측하기 위해 사용될 수 없으며, 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 4 참조 화상 서브세트
중 적어도 2개를 구축하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 4항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 단계는, 적어도 상기 제 1 참조 화상 서브세트, 상기 제 2 참조 화상 서브세트, 상기 제 3 참조 화상 서브세트, 및 상기 제 4 참조 화상 서브세트를 구축하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들 중 하나 이상에서의 참조 화상들의 수를 나타내는 신택스 엘리먼트들을 코딩하는 단계를 더 포함하고,
상기 복수의 참조 화상 서브세트들을 구축하는 단계는, 상기 복수의 참조 화상 서브세트들의 각각에서의 참조 화상들의 수를 나타내는 코딩된 상기 신택스 엘리먼트들에 기초하여 상기 복수의 참조 화상 서브세트들 중 하나 이상을 구축하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 단계는, 상기 참조 화상 서브세트들 중 하나에서 식별된 참조 화상이 임의의 다른 참조 화상 서브세트에서 식별되지 않도록 상기 복수의 참조 화상 서브세트들을 구축하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축하는 단계를 더 포함하고,
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 단계는, 상기 제 1 참조 화상 리스트 및 상기 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 상기 현재 화상을 코딩하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 정보를 코딩하는 단계는, 상기 참조 화상 세트에 속하는 상기 참조 화상들을 나타내는 상기 정보를, 비디오 디코더로 디코딩하는 단계를 포함하고, 상기 참조 화상 세트는, 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하며,
상기 구축하는 단계는, 상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 상기 복수의 참조 화상 서브세트들을 상기 비디오 디코더로 구축하는 단계를 포함하며, 그리고
상기 현재 화상을 코딩하는 단계는, 상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 상기 비디오 디코더로 디코딩하는 단계를 포함하는, 비디오 데이터 코딩 방법.
제 1항에 있어서,
상기 정보를 코딩하는 단계는, 상기 참조 화상 세트에 속하는 상기 참조 화상들을 나타내는 상기 정보를, 비디오 인코더로 인코딩하는 단계를 포함하고, 상기 참조 화상 세트는, 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하며,
상기 구축하는 단계는, 상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 상기 복수의 참조 화상 서브세트들을 상기 비디오 인코더로 구축하는 단계를 포함하며, 그리고
상기 현재 화상을 코딩하는 단계는, 상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 인코딩하는 단계를 포함하는, 비디오 데이터 코딩 방법.
비디오 데이터 코딩 디바이스로서,
상기 디바이스는 비디오 코더를 포함하고, 상기 비디오 코더는:
참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 것으로서, 상기 참조 화상 세트는 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 코딩하는 것;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 것; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 것을 하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는:
상기 복수의 참조 화상 서브세트들로부터 상기 참조 화상 세트를 도출하도록 구성되고,
상기 현재 화상을 코딩하기 위해, 상기 비디오 코더는 도출된 상기 참조 화상 세트에 기초하여 상기 현재 화상을 코딩하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는 적어도 5개의 참조 화상 서브세트들을 구축하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는:
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 출력 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 1 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 출력 순서에서 상기 현재 화상보다 후속하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 2 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 3 참조 화상 서브세트; 및
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 현재 화상을 인터 예측하기 위해 사용될 수 없으며, 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 4 참조 화상 서브세트
중 적어도 2개를 구축하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 14항에 있어서,
상기 비디오 코더는, 적어도 상기 제 1 참조 화상 서브세트, 상기 제 2 참조 화상 서브세트, 상기 제 3 참조 화상 서브세트, 및 상기 제 4 참조 화상 서브세트를 구축하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는, 상기 복수의 참조 화상 서브세트들 중 하나 이상에서의 참조 화상들의 수를 나타내는 신택스 엘리먼트들을 코딩하도록 구성되고,
상기 복수의 참조 화상 서브세트들 중 하나 이상을 구축하기 위해, 상기 비디오 코더는 상기 복수의 참조 화상 서브세트들의 각각에서의 참조 화상들의 수를 나타내는 코딩된 상기 신택스 엘리먼트들에 기초하여 상기 복수의 참조 화상 서브세트들 중 하나 이상을 구축하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는, 상기 참조 화상 서브세트들 중 하나에서 식별된 참조 화상이 임의의 다른 참조 화상 서브세트에서 식별되지 않게 상기 복수의 참조 화상 서브세트들을 구축하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는, 상기 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축하도록 구성되고,
상기 현재 화상을 코딩하기 위해, 상기 비디오 코더는 상기 제 1 참조 화상 리스트 및 상기 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 상기 현재 화상을 코딩하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는 비디오 디코더를 포함하고,
상기 비디오 디코더는:
상기 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 디코딩하는 것으로서, 상기 참조 화상 세트는 상기 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 상기 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 디코딩하는 것;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 상기 복수의 참조 화상 서브세트들을 구축하는 것; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 디코딩하는 것을 하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 비디오 코더는 비디오 인코더를 포함하고,
상기 비디오 인코더는:
상기 참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 인코딩하는 것으로서, 상기 참조 화상 세트는 상기 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 상기 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 인코딩하는 것;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 상기 복수의 참조 화상 서브세트들을 구축하는 것; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 인코딩하는 것을 하도록 구성되는, 비디오 데이터 코딩 디바이스.
제 11항에 있어서,
상기 디바이스는:
무선 통신 디바이스;
마이크로프로세서; 및
집적 회로 중 하나를 포함하는, 비디오 데이터 코딩 디바이스.
명령이 저장된 컴퓨터 판독가능 저장 매체로서,
상기 명령은 실행시 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금:
참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 것으로서, 상기 참조 화상 세트는 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 코딩하는 것;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 것; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 것을 하게 하는, 명령이 저장된 컴퓨터 판독가능 저장 매체.
제 22항에 있어서,
상기 프로세서로 하여금, 상기 복수의 참조 화상 서브세트들로부터 상기 참조 화상 세트를 도출하는 것을 하게 하는 명령들을 더 포함하고,
상기 프로세서로 하여금 상기 현재 화상을 코딩하는 것을 하게 하는 상기 명령들은, 상기 프로세서로 하여금 도출된 상기 참조 화상 세트에 기초하여 상기 현재 화상을 코딩하는 것을 하게 하는 명령들을 포함하는, 명령이 저장된 컴퓨터 판독가능 저장 매체.
제 22항에 있어서,
상기 프로세서로 하여금 상기 복수의 참조 화상 서브세트들을 구축하는 것을 하게 하는 상기 명령들은, 상기 프로세서로 하여금:
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 출력 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 1 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 출력 순서에서 상기 현재 화상보다 후속하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 2 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 3 참조 화상 서브세트; 및
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 현재 화상을 인터 예측하기 위해 사용될 수 없으며, 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 4 참조 화상 서브세트
중 적어도 2개를 구축하는 것을 하게 하는 명령들을 포함하는, 명령이 저장된 컴퓨터 판독가능 저장 매체.
제 22항에 있어서,
상기 프로세서로 하여금, 상기 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축하는 것을 하게 하는 명령들을 더 포함하고,
상기 프로세서로 하여금 상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 것을 하게 하는 상기 명령들은, 상기 프로세서로 하여금 상기 제 1 참조 화상 리스트 및 상기 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 상기 현재 화상을 코딩하는 것을 하게 하는 명령들을 포함하는, 명령이 저장된 컴퓨터 판독가능 저장 매체.
비디오 데이터를 코딩하는 디바이스로서,
참조 화상 세트에 속하는 참조 화상들을 나타내는 정보를 코딩하는 수단으로서, 상기 참조 화상 세트는 현재 화상을 인터 예측하기 위해 잠재적으로 사용될 수 있고 디코딩 순서에서 상기 현재 화상에 후속하는 하나 이상의 화상들을 인터 예측하기 위해 잠재적으로 사용될 수 있는 상기 참조 화상들을 식별하는, 상기 참조 화상들을 나타내는 정보를 코딩하는 수단;
상기 참조 화상 세트의 상기 참조 화상들 중 0개 이상의 참조 화상을 각각 식별하는 복수의 참조 화상 서브세트들을 구축하는 수단; 및
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들로부터 상기 참조 화상 세트를 도출하는 수단을 더 포함하고,
상기 현재 화상을 코딩하는 수단은, 도출된 상기 참조 화상 세트에 기초하여 상기 현재 화상을 코딩하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 수단은, 적어도 5개의 참조 화상 서브세트들을 구축하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 수단은,
디코딩 순서에서 상기 현재 화상보다 선행하고 출력 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 1 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 출력 순서에서 상기 현재 화상보다 후속하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 단기 참조 화상들을 식별하는 제 2 참조 화상 서브세트;
상기 디코딩 순서에서 상기 현재 화상보다 선행하며 상기 현재 화상 및 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 3 참조 화상 서브세트; 및
상기 디코딩 순서에서 상기 현재 화상보다 선행하고 상기 현재 화상을 인터 예측하기 위해 사용될 수 없으며, 상기 디코딩 순서에서 상기 현재 화상에 후속하는 상기 하나 이상의 화상들 중 하나 이상을 인터 예측하기 위해 잠재적으로 사용될 수 있는 장기 참조 화상들을 식별하는 제 4 참조 화상 서브세트
중 적어도 2개를 구축하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들 중 하나 이상에서의 참조 화상들의 수를 나타내는 신택스 엘리먼트들을 코딩하는 수단을 더 포함하고,
상기 복수의 참조 화상 서브세트들을 구축하는 수단은, 상기 복수의 참조 화상 서브세트들의 각각에서의 참조 화상들의 수를 나타내는 코딩된 상기 신택스 엘리먼트들에 기초하여 상기 복수의 참조 화상 서브세트들 중 하나 이상을 구축하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들을 구축하는 수단은, 상기 참조 화상 서브세트들 중 하나에서 식별된 참조 화상이 임의의 다른 참조 화상 서브세트에서 식별되지 않도록 상기 복수의 참조 화상 서브세트들을 구축하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.
제 26항에 있어서,
상기 복수의 참조 화상 서브세트들에 기초하여 제 1 참조 화상 리스트 및 제 2 참조 화상 리스트 중 적어도 하나를 구축하는 수단을 더 포함하고,
상기 복수의 참조 화상 서브세트들에 기초하여 상기 현재 화상을 코딩하는 수단은, 상기 제 1 참조 화상 리스트 및 상기 제 2 참조 화상 리스트 중 적어도 하나에 기초하여 상기 현재 화상을 코딩하는 수단을 포함하는, 비디오 데이터를 코딩하는 디바이스.