KR20150031468A - 비디오 코딩을 위한 타이밍 정보의 코딩 - Google Patents

Abstract

하나의 예에서, 비디오 데이터를 표출하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는 비디오 데이터에 대한 정수 값을 결정하고, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 것으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하고, 결정된 상기 차이 값에 따라 제 1 화상과 제 2 화상을 표출하도록 구성된다.

Description

비디오 코딩을 위한 타이밍 정보의 코딩{CODING TIMING INFORMATION FOR VIDEO CODING}

본원은 2012년 7월 10일자로 출원된 U.S. 가출원 번호 61/670,066 의 혜택을 주장하고, 이는 이로써 참조에 의해 전부 원용된다.

본 개시는 일반적으로, 비디오 데이터의 프로세싱에 관한 것이고, 보다 구체적으로 비디오 데이터에서 사용되는 랜덤 액세스 화상들에 관한 것이다.

디지털 비디오 능력들은 디지털 텔레비전들, 디지털 다이렉트 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대정보 단말기 (PDA) 들, 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, 전자책 단말기, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트 폰", 원격 화상회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 포함될 수 있다. 디지털 비디오 디바이스들은, ITU-T H.261, ISO/IEC MPEG-1 Visual, ITU-T H.262, ISO/IEC MPEG-2 Visual, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, AVC (Advanced Video Coding)에 의해 정의되는 표준들, 그리고 현재 개발 중인 HEVC (High Efficiency Video Coding) 표준, 및 그러한 표준들의 확장들에서 설명된 것들과 같은 비디오 코딩 기법들을 구현한다. 비디오 디바이스들은, 그러한 비디오 코딩기법들을 구현함으로써 보다 효율적으로 디지털 비디오 정보를 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 코딩 기법들은, 비디오 시퀀스들에 내재하는 중복성 (redundancy) 을 감소시키거나 또는 제거하기 위해 공간 (인트라-화상) 예측 및/또는 시간 (인터-화상) 예측을 포함한다. 블록 기반 예측 비디오 코딩을 위해, 비디오 슬라이스 (예를 들어, 비디오 프레임, 또는 비디오 프레임의 일부) 가 비디오 블록들로 파티션될 수도 있고, 이 비디오 블록들은 매크로블록들, 트리블록들, 코딩 트리 유닛 (CTU) 들, 코딩 트리 블록 (CTB) 들, 코딩 유닛 (CU) 들 및/또는 코딩 노드들로도 지칭될 수도 있다. 화상의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일한 화상에서 이웃 블록들에 있는 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 화상의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오블록들은 동일한 화상에서 이웃 블록들에 있는 참조 샘플들에 대한 공간 예측, 또는 다른 참조 화상들에서 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 화상들은 프레임들로 지칭될 수도 있고, 참조 화상들은 참조 프레임들로 지칭될 수도 있다.

공간 예측 또는 시간 예측은 코딩될 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩될 원래 블록과 예측 블록 사이의 픽셀 차이들을 나타낸다. 픽셀들은 또한 화소 (picture element), 펠 (pel), 또는 샘플들로도 지칭될 수도 있다. 인터-코딩된 블록은, 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터, 및 코딩된 블록과 예측 블록 사이의 차이를 표시하는 잔차 데이터에 따라 인코딩된다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 픽셀 도메인에서 변환 도메인으로 변환되어, 잔차 변환 계수들을 초래할 수도 있으며, 다음으로 이들은 양자화될 수도 있다. 초기에 2 차원 어레이로 배열된, 양자화된 변환 계수들은, 변환 계수들의 1 차원 벡터를 생성하기 위하여 스캐닝될 수도 있고, 엔트로피 코딩이 적용되어 훨신 더 많은 압축을 달성할 수도 있다.

일반적으로, 본 개시는, 비디오 데이터의 프로세싱을 위한 기법들을 설명한다. 특히, 본 개시는, 대화 어플리케이션 (conversational application) 들과 같은 비디오 어플리케이션들에서 지연을 감소시키고, 코딩된 비디오 시퀀스의 랜덤 액세스에서 향상들을 제공하고, 고정된 화상 레이트이며 시간 확장성 (temporal scalability) 을 지원하는 비디오 콘텐츠를 위한 정보를 제공하는데 사용될 수도 있는 기법들을 설명한다.

일 예에서, 비디오 데이터를 디코딩하는 방법은, 네트워크 추상 계층 (NAL) 유닛으로부터 비트스트림의 랜덤 액세스 포인트 (RAP) 화상의 슬라이스를 디캡슐화하는 단계로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상 (leading picture) 들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (instantaneous decoder refresh; IDR) 화상 또는 클린 랜덤 액세스 (clean random access; CRA) 화상인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 디캡슐화하는 단계, 상기 RAP 화상이 상기 NAL 유닛 타입 값에 기초하여 연관된 리딩 화상들을 가질 수 있는지 여부를 결정하는 단계; 및 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는지 여부의 결정에 기초하여 상기 RAP 화상에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 디코딩하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는, 네트워크 추상 계층 (NAL) 유닛으로부터 비트스트림의 랜덤 액세스 포인트 (RAP) 화상의 슬라이스를 디캡슐화하는 것으로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 디캡슐화하고, 상기 RAP 화상이 상기 NAL 유닛 타입 값에 기초하여 연관된 리딩 화상들을 가질 수 있는지 여부를 결정하고, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는지 여부의 결정에 기초하여 상기 RAP 화상에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하도록 구성된다.

또 다른 예에서, 비디오 데이터를 디코딩하기 위한 디바이스는, 네트워크 추상 계층 (NAL) 유닛으로부터 비트스트림의 랜덤 액세스 포인트 (RAP) 화상의 슬라이스를 디캡슐화하는 수단으로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 디캡슐화하는 수단, 상기 RAP 화상이 상기 NAL 유닛 타입 값에 기초하여 연관된 리딩 화상들을 가질 수 있는지 여부를 결정하는 수단, 및 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는지 여부의 결정에 기초하여 상기 RAP 화상에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때 프로세서로 하여금, 네트워크 추상 계층 (NAL) 유닛으로부터 비트스트림의 랜덤 액세스 포인트 (RAP) 화상의 슬라이스를 디캡슐화하게 하는 것으로서, 상기 NAL 유닛은, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 디캡슐화하게 하고, 상기 RAP 화상이 상기 NAL 유닛 타입 값에 기초하여 연관된 리딩 화상들을 가질 수 있는지 여부를 결정하게 하고, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는지 여부의 결정에 기초하여 상기 RAP 화상에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하게 하는 명령들을 저장한다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하는 방법은, 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하는 단계, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하는 단계로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하는 단계, 및 상기 NAL 유닛을 포함하는 비트스트림을 생성하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스는 프로세서를 포함하고, 상기 프로세서는 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하고, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하는 것으로서, 상기 NAL 유닛은, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하고, 상기 NAL 유닛을 포함하는 비트스트림을 생성하도록 구성된다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스는, 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하는 수단, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하는 수단으로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하는 수단, 및 상기 NAL 유닛을 포함하는 비트스트림을 생성하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때, 프로세서로 하여금 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하게 하고, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하게 하는 것으로서, 상기 NAL 유닛은 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하게 하고, 상기 NAL 유닛을 포함하는 비트스트림을 생성하게 하는 명령들을 저장한다.

또 다른 예에서, 비디오 데이터를 디코딩하는 방법은, 비트스트림의 SEI (supplemental enhancement information) 네트워크 추상 계층 (NAL) 유닛에 대해, 상기 SEI NAL 유닛에 대한 NAL 유닛 타입 값은 상기 NAL 유닛이 프레픽스 (prefix) SEI 메시지를 포함하는 프레픽스 SEI NAL 유닛 또는 서픽스 (suffix) SEI 메시지를 포함하는 서픽스 SEI NAL 유닛을 포함하는 것을 나타내는지를 결정하는 단계, 및 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI NAL 유닛의 데이터에 기초하여 SEI NAL 유닛에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 디코딩하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는 비트스트림의 SEI (supplemental enhancement information) 네트워크 추상 계층 (NAL) 유닛에 대해, 상기 SEI NAL 유닛에 대한 NAL 유닛 타입 값이 상기 NAL 유닛이 프레픽스 SEI 메시지를 포함하는 프레픽스 SEI NAL 유닛 또는 서픽스 SEI 메시지를 포함하는 서픽스 SEI NAL 유닛을 포함하는 것을 나타내는지를 결정하고, 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI NAL 유닛의 데이터에 기초하여 SEI NAL 유닛에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하도록 구성된다.

또 다른 예에서, 비디오 데이터를 디코딩하기 위한 디바이스는, 비트스트림의 SEI (supplemental enhancement information) 네트워크 추상 계층 (NAL) 유닛에 대해, 상기 SEI NAL 유닛에 대한 NAL 유닛 타입 값이 상기 NAL 유닛이 프레픽스 SEI 메시지를 포함하는 프레픽스 SEI NAL 유닛 또는 서픽스 SEI 메시지를 포함하는 서픽스 SEI NAL 유닛을 포함하는 것을 나타내는지를 결정하는 수단, 및 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI NAL 유닛의 데이터에 기초하여 SEI NAL 유닛에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때, 프로세서로 하여금, 비트스트림의 SEI (supplemental enhancement information) 네트워크 추상 계층 (NAL) 유닛에 대해, 상기 SEI NAL 유닛에 대한 NAL 유닛 타입 값이 상기 NAL 유닛이 프레픽스 SEI 메시지를 포함하는 프레픽스 SEI NAL 유닛 또는 서픽스 SEI 메시지를 포함하는 서픽스 SEI NAL 유닛을 포함하는 것을 나타내는지를 결정하게 하고, 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI NAL 유닛의 데이터에 기초하여 SEI NAL 유닛에 후속하는 상기 비트스트림의 비디오 데이터를 디코딩하게 하는 명령들을 저장한다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하는 방법은, SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하는 단계로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하는 단계, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하는 단계로서, 상기 SEI NAL 유닛은 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하는 단계, 및 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하는 단계를 포함한다.

또 다른 예에서, 비디오를 포함하는 비트스트림을 생성하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는, SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하는 것으로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하고, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하는 것으로서, 상기 SEI NAL 유닛은, 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하고, 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하도록 구성된다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스는, SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하는 수단으로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하는 수단, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하는 수단으로서, 상기 SEI NAL 유닛은, 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하는 수단, 및 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때 프로세서로 하여금, SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하게 하는 것으로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하게 하고, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하게 하는 것으로서, 상기 SEI NAL 유닛은 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하게 하고, 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하게 하는 명령들을 저장한다.

또 다른 예에서, 비디오 데이터를 표출 (presenting) 하는 방법은, 비디오 데이터에 대한 정수 값을 결정하는 단계, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 단계로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값 (clock tick value) 과 동일한, 상기 차이 값을 결정하는 단계, 및 결정된 상기 차이 값에 따라 제 1 화상과 제 2 화상을 표출하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 표출하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는 비디오 데이터에 대한 정수 값을 결정하고, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 것으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하고, 결정된 상기 차이 값에 따라 제 1 화상과 제 2 화상을 표출하도록 구성된다.

또 다른 예에서, 비디오 데이터를 표출하기 위한 디바이스는, 비디오 데이터에 대한 정수 값을 결정하는 수단, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 수단으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하는 수단, 및 결정된 상기 차이 값에 따라 제 1 화상과 제 2 화상을 표출하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때 프로세서로 하여금, 비디오 데이터에 대한 정수 값을 결정하게 하고, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하게 하는 것으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하게 하고, 결정된 상기 차이 값에 따라 제 1 화상과 제 2 화상을 표출하게 하는 명령들을 저장한다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하는 방법은, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하는 단계, 및 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스는 프로세서를 포함하고 상기 프로세서는 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하고, 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하도록 구성된다.

또 다른 예에서, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스는, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하는 수단, 및 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하는 수단을 포함한다.

또 다른 예에서, 컴퓨터 판독가능 저장 매체는, 실행될 때 프로세서로 하여금, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하게 하고; 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하게 하는 명령들을 저장한다.

하나 이상의 예들의 상세는 첨부 도면 및 아래의 설명에 제시되어 있다. 다른 특징, 목적 및 이점들은 상세한 설명 및 도면, 그리고 청구항들로부터 분명해질 것이다.

도 1은 예측 비디오 코딩 기법들에 따라 코딩된 비디오 시퀀스를 예시하는 개념도이다.
도 2는 코딩된 비디오 시퀀스의 예를 예시하는 개념도이다.
도 3은 본 개시에 기재된 기법들을 이용할 수도 있는 일 예시적인 비디오 인코딩 및 디코딩 시스템을 예시하는 블록도이다.
도 4는 본 개시에 기재된 기법들을 구현할 수도 있는 예시적인 캡슐화 유닛을 예시하는 블록도이다.
도 5는 본 개시의 기법들에 따라 VCL NAL 유닛들을 생성하는 예를 예시하는 플로우차트이다.
도 6은 본 개시의 기법들에 따라 비-VCL NAL (non-VCL NAL) 유닛들을 생성하는 예를 예시하는 플로우차트이다.
도 7은 프리젠테이션 시간 델타 값을 시그널링하는 예를 예시하는 플로우차트이다.
도 8은 본 개시에 기재된 기법들을 구현할 수도 있는 예시적인 비디오 인코더를 예시하는 블록도이다.
도 9는 프리젠테이션 시간 델타 값을 결정하는 예를 예시하는 플로우차트이다.
도 10은 본 개시에 기재된 기법들을 구현할 수도 있는 예시적인 비디오 디코더를 예시하는 블록도이다.

본 개시는 다양한 향상된 비디오 코딩 설계들을 설명한다. 특히, 본 개시는, 대화 어플리케이션들과 같은 비디오 어플리케이션들에서 지연을 감소시키고, 코딩된 비디오 시퀀스의 랜덤 액세스에서 향상들을 제공하는데 사용될 수도 있는 기법들을 설명한다.

디지털 비디오 디바이스들은, 디지털 비디오 정보를 보다 효율적으로 인코딩 및 디코딩하기 위하여 비디오 압축 기법들을 구현한다. 비디오 압축 기법들은 AVC 또는 HEVC 와 같은 비디오 코딩 표준에 따라 정의될 수도 있다. ITU-T H.264/MPEG-4 (AVC) 표준은, JVT (Joint Video Team) 로서 알려진 집합적인 파트너쉽의 결과물로서 ISO/IEC MPEG (Moving Picture Experts Group) 과 함께 ITU-T VCEG (Video Coding Experts Group) 에 의해 공식화되었다. H.264 표준은 ITU-T 연구 그룹에 의한 2005년 3월자의, ITU-T Recommendation H.264, Advanced Video Coding for generic audiovisual services 에 기술되어 있는데, 이는 여기서 H.264 표준 또는 H.264 사양 (specification), 또는 H.264/AVC 표준 또는 사양으로 지칭될 수도 있다. JVT (Joint Video Team) 는 H.264/MPEG-4 AVC 에 대한 확장들에 대해 계속 작업하고 있다.

HEVC 의 최근의 작업 초안 (Working Draft; WD) 은 “HEVC 작업 초안 7” 또는 “WD7” 으로 지칭되며, ITU-T SG16 WP3 및 ISO/IEC JTC1/SC29/WG11의 JCT-VC (Joint Collaborative Team on Video Coding), 9차 미팅: 2012년 4월 27일부터 2012년 5월 7일까지, 스위스, 제네바, Bross 등의, “WD7: Working Draft 7 of High-Efficiency Video Coding (HEVC),” 문헌 JCTVC-I1003_d5에 기재되어 있다. 또한, HEVC 의 또 다른 최근의 작업 초안, 작업 초안 9가 ITU-T SG16 WP3 및 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 11차 미팅: 2012년 10월, 중국, 상하이, Bross 등의 “High Efficiency Video Coding (HEVC) Text Specification Draft 9”, 문헌 HCTVC-K1003_d7에 기재되어 있다. 곧있을 HEVC 표준은, HEVC의 배포 버전을 위한 표준 넘버인 것으로 의도된, ISO/IEC 23008-HEVC 로도 지칭될 수도 있다. 일부 양태들에서, 본 개시에 설명된 기법들은 일반적으로 H.264 표준 및/또는 곧있을 HEVC 표준을 따르는 디바이스들에 적용될 수도 있다. 본 개시의 기법들은, H.264 표준 및 곧있을 HEVC 표준에 대해 설명되었지만, 본 개시의 기법들은 일반적으로 임의의 비디오 코딩 표준에 적용가능하다.

비디오 시퀀스는 통상적으로, 화상들로도 지칭되는, 일련의 비디오 프레임들을 포함한다. 비디오 시퀀스가 인코딩되거나 및/또는 디코딩되는 비디오 어플리케이션들의 예들은 로컬 플레이백, 스트리밍, 브로드캐스트, 멀티캐스트 및 대화 어플리케이션들을 포함한다. 대화 어플리케이션들은, 비디오폰 통화 및 화상 회의를 포함하고 또한 저 지연 (low-delay) 어플리케이션들로도 지칭된다. 대화 어플리케이션들은 전체 시스템들의 상대적으로 낮은 엔드-투-엔드 지연, 즉 비디오 프레임이 제 1 디지털 비디오 디바이스에서 캡쳐된 시간과 비디오 프레임이 제 2 디지털 비디오 디바이스에서 디스플레이된 시간 사이의 지연을 필요로 한다. 대화 어플리케이션들을 위한 통상적으로 수용가능한 엔드-투-엔드 지연은 400 ms 미만이어야 하고, 약 150 ms 의 엔드-투-엔드 지연은 매우 좋은 것으로 고려된다.

비디오 시퀀스를 프로세싱하는 것과 연관된 각 스텝은 전체 엔드-투-엔드 지연에 기여할 수도 있다. 비디오 시퀀스를 프로세싱하는 것과 연관된 지연들의 예들은, 캡쳐링 지연, 프리-프로세싱 지연, 인코딩 지연, 송신 지연, (디지터링을 위한) 수신 버퍼 지연, 디코딩 지연, 디코딩된 화상 출력 지연, 포스트 프로세싱 지연 및 디스플레이 지연을 포함한다. 특정 비디오 코딩 표준에 따른 비디오 시퀀스를 코딩하는 것과 연관된 지연은 코덱 지연으로 지칭될 수도 있고, 인코딩 지연, 디코딩 지연, 및 디코딩된 화상 출력 지연을 포함할 수도 있다. 코덱 지연은 대화 어플리케이션들에서 최소화되야 한다. 특히, 비디오 시퀀스의 코딩 구조는 비디오 시퀀스에서 화상들의 출력 순서가 비디오 시퀀스에서 화상들의 디코딩 순서와 동일하여, 디코딩된 화상 출력 지연이 0과 같도록 보장해야 한다. 비디오 시퀀스의 코딩 구조는, 부분적으로 비디오 시퀀스를 인코딩하는데 사용된 화상 타입들의 할당을 지칭한다.

화상들의 그룹 (GOP) 은 일반적으로, 디스플레이 순서에 따라 배열된 하나 이상의 화상들의 시퀀스를 포함한다. HEVC에 따르면, 비디오 인코더는 비디오 프레임 또는 화상을 일련의 동일 크기 비디오 블록들로 분할할 수도 있다. 비디오 블록은 루미넌스 성분 (Y로 표기됨) 및 2개의 크로마 성분들 (U 및 V 또는 Cb 및 Cr 로 표기됨) 을 가질 수도 있다. 이들 비디오 블록들은 또한, 최대 코딩 유닛 (LCU), 트리블록, 또는 코딩 트리블록 유닛 (CTU) 들로 지칭될 수도 있다. HEVC 의 LCU 들은 넓게, H.264/AVC 와 같은 이전 표준들의 매크로블록들에 유사할 수도 있다. 하지만, LCU 가 반드시 특정 크기에 한정될 필요는 없다. HEVC에 따르면, 비트스트림 내의 신택스 데이터는 수평 및/또는 수직 루마 샘플들의 수에 따라 LCU 를 정의할 수도 있다. 예를 들어, LCU 는 64x64 또는 32x32 루마 샘플들을 포함하는 것으로서 정의될 수도 있다. 또한, LCU 는 쿼드트리 파티셔닝 스킴에 따라 다수의 코딩 유닛 (CU) 들로 파티셔닝될 수도 있다. 일반적으로, 쿼드트리 파티셔닝은 CU 들을 4개의 서브 CU 들로 회귀적으로 (recursively) 으로 스플리팅하는 것을 지칭한다. 코딩된 비트스트림과 연관된 신택스 데이터는, 최대 CU 깊이로도 지칭되는, LCU 가 스플리팅될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 CU의 최소 크기를 정의할 수도 있다. 따라서, 비트스트림은 최소 코딩 유닛 (smallest coding unit; SCU) 을 또한 정의할 수도 있다. 예를 들어, SCU 는 8x8 루마 샘플들을 포함하는 것으로서 정의될 수도 있다.

또한, HEVC에 따르면, 비디오 인코더는 화상을 복수의 슬라이스들로 파티셔닝할 수도 있고, 여기서 슬라이스들의 각각은 LCU 들의 정수 넘버를 포함한다. 슬라이스들은 I 슬라이스들, P 슬라이스들, 또는 B 슬라이스들일 수도 있고, I, P, 및 B 는 어떻게 다른 비디오 블록들이 CU 들을 예측하는데 사용되는지를 정의한다. I 슬라이스는 (예를 들어, 동일 프레임 내의 비디오 블록들로부터) 인트라 예측 모드를 사용하여 예측된다. 인트라 코딩은, 주어진 비디오 프레임 또는 화상 내의 비디오에서 공간적 중복성을 감소 또는 제거하기 위하여 공간적 예측에 의존한다. P 슬라이스는 (예를 들어, 이전 프레임에 있는 비디오 블록으로부터) 단방향 인터 예측 모드를 사용하여 예측된다. B 슬라이스는 (예를 들어, 이전 프레임과 후속 프레임 내의 비디오 블록들로부터) 양방향 인터 예측 모드를 사용하여 예측된다. 인터 코딩은 비디오 시퀀스의 인접하는 프레임들 또는 화상들 내의 비디오에서 시간 중복성을 감소 또는 제거하기 위하여 시간 예측에 의존한다.

도 1은 예측 비디오 코딩 기법들에 따라 코딩된 비디오 시퀀스를 예시하는 개념도이다. 도 1에 예시된 바처럼, 비디오 시퀀스 (100) 는 화상들 (Pic₁-Pic₁₀) 을 포함한다. 도 1의 개념도에서, 화상들 (Pic₁-Pic₁₀) 은 그것들이 디스플레이될 순서에 따라 배열 및 순차적으로 넘버링된다. 아래에 더 자세히 설명된 바처럼, 디스플레이 순서는 반드시 디코딩 순서에 대응할 필요는 없다. 도 1에 예시된 바처럼, 비디오 시퀀스 (100) 는 GOP₁ 및 GOP₂를 포함하고, 화상들 (Pic₁-Pic₅) 이 GOP₁에 포함되고 화상들 (Pic₆-Pic₁₀) 이 GOP₂에 포함된다. 도 1은, Pic₅ 가 slice₁ 및 slice₂ 으로 파티셔닝되고,여기서 slice₁ 및 slice₂ 의 각각은 좌에서 우 상단에서 하단으로의 래스터 스캔에 따라 연속적인 LCU들을 포함한다. 비록 도시되지는 않았지만, 도 1에 도시된 다른 화상들이 유사한 방식으로 하나 이상의 슬라이스들로 파티셔닝될 수도 있다. 도 1은 또한, GOP₂에 대한 I 슬라이스들, P 슬라이스들, 또는 B 슬라이스들의 개념을 예시한다. GOP₂ 에서 Pic₆-Pic₁₀ 의 각각과 연관된 화살표들은 화상이 화살표들에 의해 나타낸 참조된 화상에 기초하여 I 슬라이스들, P 슬라이스들 또는 B 슬라이스들을 포함하는지를 나타낸다. 도 1에서, 화상들 Pic₆ 및 Pic₉ 는 I 슬라이스들을 포함하는 화상들을 나타내고 (즉, 참조들은 그 화상 자체에 관한 것이다), 화상들 Pic₇ 및 Pic₁₀ 는 P 슬라이스들을 포함하는 화상들을 나타내고 (즉, 각각은 이전 화상을 참조한다) 그리고 Pic₈ 는 B 슬라이스들을 포함하는 화상을 나타낸다 (즉, 이전 그리고 후속 화상을 참조한다).

HEVC 에서, 비디오 시퀀스, GOP, 화상, 슬라이스, 그리고 CU 의 각각은, 비디오 코딩 특성을 설명하는 신택스 데이터와 연관될 수도 있다. 예를 들어, 슬라이스는, 슬라이스가 I 슬라이스, P 슬라이스, 또는 B 슬라이스인지를 나타내는 신택스 엘리먼트를 포함하는 헤더를 포함한다. 또한, HEVC 는 파라미터 세트들의 개념을 포함한다. 파라미터 세트는, 비디오 디코더로 하여금 비디오 시퀀스를 재구성하는 것을 허용하는 신택스 엘리먼트들을 포함하는 신택스 구조이다. HEVC 는, 계층적 파라미터 세트 메카니즘을 채용하고, 여기서 신택스 엘리먼트들은 신택스 엘리먼트들이 변화될 것으로 예상되는 프리퀀시 (frequency) 에 기초하여 파라미터 세트의 타입에 포함된다. HEVC 에서 파라미터 세트 메카니즘은 코딩된 블록 데이터의 송신으로부터 드물게 변화하는 정보의 송신을 디커플링한다. 또한, 일부 어플리케이션들에서 파라미터 세트들은 "대역외" 로, 즉 코딩된 비디오 데이터를 포함하는 유닛들과 함께 전송되지 않는 상태로, 전달될 수도 있다. 대역외 송신은 통상 신뢰성이 있다.

HEVC WD7 에서, 특정 파라미터 세트는 파라미터 세트 ID 를 이용하여 식별된다. HEVC WD7 에서, 파라미터 세트 ID 는, 좌측 비트가 첫번째인 무부호 정수 Exp-Golomb-코딩된 신택스 엘리먼트이다. HEVC WD7 는 다음의 파라미터 세트들을 정의한다:

비디오 파라미터 세트 (VPS): VPS 는, 0 이상의 전체 코딩된 비디오 시퀀스들에 적용되는 신택스 엘리먼트들을 포함하는 신택스 구조이다. 즉, VPS 는, 프레임들의 시퀀스 (예를 들어, 화상 순서, 참조 프레임들의 수, 그리고 화상 크기) 에 대해 변화되지 않게 남을 것으로 예상되는 신택스 엘리먼트들을 포함한다. VPS 는 VPS ID 를 이용하여 식별된다. 시퀀스 파라미터 세트는 VPS ID 를 포함한다.

시퀀스 파라미터 세트 (SPS) - SPS 는, 0 이상의 전체 코딩된 비디오 시퀀스들에 적용되는 신택스 엘리먼트들을 포함하는 신택스 구조이다. 즉, SPS 는, 프레임들의 시퀀스 (예를 들어, 화상 순서, 참조 프레임들의 수, 그리고 화상 크기) 에 대해 변화되지 않게 남을 것으로 예상되는 신택스 엘리먼트들을 포함한다. SPS 는 SPS ID 를 이용하여 식별된다. 화상 파라미터 세트는 SPS ID 를 포함한다.

화상 파라미터 세트 (PPS) - PPS 는, 하나 이상의 화상들에 적용되는 신택스 엘리먼트들을 포함하는 신택스 구조이다. 즉, PPS 는, 시퀀스 내에서 화상간에 변화될 수도 있는 신택스 엘리먼트들을 포함한다 (예를 들어, 엔트로피 코딩 모드, 양자화 파라미터들, 그리고 비트 깊이). PPS 파라미터 세트는 PPS ID 를 이용하여 식별된다. 슬라이스 헤더는 PPS ID 를 포함한다.

적응적 파라미터 세트 (APS) - APS 는, 하나 이상의 화상들에 적용되는 신택스 엘리먼트들을 포함하는 신택스 구조이다. APS 는 시퀀스의 화상들 내에서 변화될 것으로 예상되는 신택스 엘리먼트들을 포함한다 (예를 들어, 블록 크기, 및 디블록 필터링). APS 세트는 APS ID 를 이용하여 식별된다. 슬라이스 헤더는 APS ID 를 포함할 수도 있다.

HEVC WD7 에서 정의된 파라미터 세트 타입들에 따르면, 각 SPS 는 VPS ID 를 참조하고, 각 PPS 는 SPS ID 를 참조하고, 각 슬라이스 헤더는 PPS ID 그리고 가능하게는 APS ID 를 참조한다. 일부 경우들에서, SPS 에서 VPS ID 그리고 PPS 에서 SPS ID 를 포함한 선형 참조 관계는 비효율적일 수도 있다는 것에 유의해야 한다. 예를 들어, 비록 VPS 가 HEVC WD7 에서 지원되지만, 대부분의 시퀀스 레벨 정보 파라미터들은 여전히 SPS 에서만 존재한다. 파라미터 세트들의 개념에 추가하여, HEVC 는, 코딩된 비디오 시퀀스들 및 액세스 유닛들의 개념을 포함한다. HEVC WD7 에 따르면, 코딩된 비디오 시퀀스 그리고 액세스 유닛은 다음과 같이 정의된다:

코딩된 비디오 시퀀스: 디코딩 순서에서, 비트스트림에 있는 제 1 액세스 유닛인 CRA 액세스 유닛, IDR 액세스 유닛 또는 BLA 액세스 유닛, 다음으로 모든 후속 액세스 유닛들을 포함하지만 임의의 후속 IDR 또는 BLA 액세스 유닛을 포함하지 않는 0 이상의 비-IDR 및 비-BLA 액세스 유닛들로 이루어지는 액세스 유닛들의 시퀀스 [CRA, IDR, 및 BLA 액세스 유닛들은 이하에 설명된다].

액세스 유닛: 디코딩 순서에서 연속적이고 하나의 코딩된 화상을 포함하는 NAL 유닛들의 세트. 코딩된 화상의 코딩된 슬라이스 NAL 유닛들에 추가로, 액세스 유닛은 또한, 코딩된 화상의 슬라이스들을 포함하지 않는 다른 NAL 유닛들을 포함할 수도 있다. 액세스 유닛의 디코딩은 항상 디코딩된 화상을 초래한다.

NAL 유닛은 네트워크 추상 계층 (Network Abstraction Layer) 유닛을 지칭한다. 따라서, HEVC 에 따라, 코딩된 비디오 데이터의 비트스트림은 NAL 유닛들의 시퀀스를 포함한다. 액세스 유닛은, 디코딩 순서에서 연속적으로 배열되고 정확히 하나의 코딩된 화상을 포함하는 NAL 유닛들의 세트이고, 코딩된 비디오 시퀀스는 디코딩 순서에서 배열된 액세스 유닛들의 시퀀스를 포함한다. 도 2는 코딩된 비디오 시퀀스의 예를 예시하는 개념도이다. 도 2는 도 1에 예시된 GOP₂ 에 대응할 수도 있는 코딩된 비디오 시퀀스 (200) 의 예를 나타낸다. 도 2에 예시된 바처럼, 코딩된 비디오 시퀀스 (200) 는 Pic₆-Pic₁₀ 의 각각에 대응하는 액세스 유닛을 포함한다. 코딩된 비디오 시퀀스 (200) 의 액세스 유닛들은 디코딩 순서에 따라 순차적으로 배열된다. Pic₉ 에 대응하는 액세스 유닛이 Pic₈ 에 대응하는 액세스 유닛 전에 위치된다는 것에 유의해야 한다. 따라서, 디코딩 순서는 도 1에 예시된 디스플레이 순서에 대응하지 않는다. 이 예에서, 이것은 Pic₈ 이 Pic₉ 를 참조한다는 사실에 기인한다. 따라서, Pic₉ 는, Pic₈ 가 디코딩될 수 있기 전에 디코딩되야 한다. 도 2는 Pic₉ 에 대응하는 액세스 유닛이 NAL 유닛들 : AU 디리미터 NAL 유닛 (202), PPS NAL 유닛 (204), slice₁ NAL 유닛 (206), 및 slice₂ NAL 유닛 (208) 을 포함하는 경우를 예시한다. 각 NAL 유닛은, NAL 유닛 타입을 식별하는 헤더를 포함할 수도 있다.

HEVC 는 2개의 NAL 유닛 타입 클래스들: 코딩된 슬라이스 NAL 유닛들 (VCL) 및 비-VCL NAL 유닛들을 정의한다. 코딩된 슬라이스 NAL 유닛은 비디오 데이터의 슬라이스를 포함한다. 도 2에 예시된 예에서, slice₁ NAL 유닛 (206), 및 slice₂ NAL 유닛 (208) 은 각각 비디오 데이터의 슬라이스를 포함하고 VCL NAL 유닛들의 예이다. 도 2의 예에서, slice₁ NAL 유닛 (206), 및 slice₂ NAL 유닛 (208) 의 각각은 I-슬라이스들일 수도 있다. 비-VCL 은 비디오 데이터의 슬라이스 외의 정보를 포함한다. 예를 들어, 비-VCL 은 디리미터 데이터 또는 파라미터 세트를 포함할 수도 있다. 도 2에 예시된 예에서 AU 디리미터 NAL 유닛 (202) 은 Pic₇ 에 대응하는 액세스 유닛으로부터 Pic₉ 에 대응하는 액세스 유닛을 구분 (delimit) 하기 위한 정보를 포함한다. 또한, PPS NAL 유닛 (204) 은 화상 파라미터 세트를 포함한다. 따라서, AU 디리미터 NAL 유닛 (202), 및 PPS NAL 유닛 (204) 은 비-VCL NAL 유닛들의 예들이다.

HEVC 에서 비-VCL NAL 유닛의 또 다른 예는 SEI (supplemental enhancement information) NAL 유닛이다. AVC 및 HEVC 양자 모두에서 지원되는 SEI 메카니즘은 인코더들로 하여금 출력 화상들의 샘플 값들의 올바른 디코딩을 위해 필요하지 않는 비트스트림에서 메타데이터를 포함하는 것을 가능하게 하지만, 다양한 다른 목적들, 이를테면 화상 출력 타이밍, 디스플레잉, 그리고 손실 검출 및 은닉 (concealment) 에 사용될 수 있다. 예를 들어, SEI NAL 유닛들은, 비트스트림을 디코딩할 때 비디오 디코더에 의해 사용되는 화상 타이밍 메시지들을 포함할 수도 있다. 화상 타이밍 메시지들은, 언제 비디오 디코더가 VCL NAL 유닛을 디코딩하기 시작해야 하는지를 나타내는 정보를 포함할 수도 있다. 인코더들은, 액세스 유닛에서 임의의 수의 SEI NAL 유닛들을 포함할 수 있고, 각 SEI NAL 유닛은 하나 이상의 SEI 메시지들을 포함할 수도 있다. 초안 HEVC 표준은 여러 SEI 메시지들을 위한 신택스 및 시멘틱스 (semantics) 를 포함하지만, SEI 메시지들의 취급은 명시되어 있지 않는데, 왜냐하면 그것들은 규범적 디코딩 프로세스 (normative decoding process) 에 영향을 미치지 않기 때문이다. 초안 HEVC 표준에서 SEI 메시지들을 갖는 하나의 이유는 HEVC 를 사용하는 상이한 시스템들에서 보충적 데이터가 동일하게 해석되는 것을 가능하게 한다는 것이다. HEVC 를 사용하는 사양 및 시스템들은 인코더로 하여금 일정한 SEI 메시지들을 생성할 것을 요구할 수도 있거나 또는 특정 타입의 수신된 SEI 메시지들의 특별한 취급을 정의할 수도 있다. 표 1은 HEVC 에서 명시된 SEI 메시지들을 열거하고 간단히 그들의 목적들을 설명한다.

랜덤 액세스는 비트스트림에서 제 1 코딩된 화상이 아닌 코딩된 화상으로부터 시작되는 비디오 비트스트림의 디코딩을 지칭한다. 비트스트림에 대한 랜덤 액세스는, 많은 비디오 어플리케이션들에서, 이를테면, 브로드캐스팅 및 스트리밍에서, 예를 들어 사용자들이 상이한 채널들간에 스위칭하거나, 비디오의 특정 부분들로 점프하거나, 또는 스트림 적응을 위한 (예를 들어, 비트 레이트, 프레임 레이트, 또는 공간 해상도 확장성을 위한) 상이한 비트스트림으로 스위칭하기 위해 필요하다. 랜덤 액세스는, 비디오 시퀀스에 대해, 규칙적 인터벌들에서, 다수회, 랜덤 액세스 포인트 (Random Access Point; RAP) 화상들 또는 액세스 유닛들을 포함하는 코딩 구조를 가짐으로써 가능해진다. 순시 디코더 리프레쉬 (IDR) 화상들, 클린 랜덤 액세스 (CRA) 화상들 그리고 BLA (broken link access) 화상들은 HEVC WD7 에 정의된 RAP 화상들의 타입이다. IDR 화상들, CRA 화상들 및 BLA 화상들의 각각은 I 슬라이스들만을 포함한다. 하지만, IDR 화상들, CRA 화상들 및 BLA 화상들의 각각은 정의된 참조 제약 (referencing constraint) 들에 기초하여 상이하다.

IDR 화상들은 AVC 에서 명시되고 HEVC WD7 에 따라 정의된다. IDR 화상들이 랜덤 액세스에 사용될 수 있지만, IDR 화상들은 디코딩 순서에서 IDR 화상에 후속하는 화상들이 참조로서 IDR 화상 전에 디코딩된 화상들을 사용할 수 없다는 점에서 제한된다. 도 1 및 도 2에 예시된 예에서, 전술된 바처럼, 비디오 시퀀스 (100) 에 있는 Pic₆ 는 IDR 화상일 수도 있다. IDR 화상들과 연관된 제약들에 기인하여, 랜덤 액세스를 위한 IDR 화상들에 의거하는 비트스트림들은 현저히 더 낮은 코딩 효율을 가질 수도 있다.

코딩 효율을 향상시키기 위하여, CRA 화상들의 개념이 HEVC 에 도입되었다. HEVC WD7 에 따르면, IDR 화상과 같이, CRA 화상은 I 슬라이스들만 포함한다. 하지만, 디코딩 순서에서 CRA 화상에 후속하지만, 출력 순서에서 CRA 화상들에 선행하는 화상들은, 참조로서 CRA 화상 전에 디코딩된 화상들을 사용하는 것이 허용된다. 디코딩 순서에서 CRA 화상에 후속하지만 출력 순서에서 CRA 화상에 선행하는 화상들은, CRA 화상과 연관된 리딩 화상들 (또는 CRA 화상의 리딩 화상들) 로 지칭된다. 디코딩이 현재 CRA 화상 전에 IDR 또는 CRA 화상으로부터 시작되면 CRA 화상의 리딩 화상들은 올바르게 디코딩가능하다. 하지만, CRA 화상으로부터의 랜덤 액세스가 일어날 때 CRA 화상의 리딩 화상들은 올바르게 디코딩가능하지 않을 수도 있다. 도 1 및 도 2에 예시된 예를 참조하면, Pic₉ 는 CRA 화상일 수도 있고 Pic₈ 는 Pic₉ 의 리딩 화상일 수도 있다. Pic₈ 는 GOP₂ 가 Pic₆ 에서 액세스되면 올바르게 디코딩가능하지만, GOP₂ 가 Pic₉로서 액세스되면 올바르게 디코딩가능하지 않을 수도 있다. 이것은, GOP₂ 가 Pic₉로서 액세스되면 Pic₇ 이 이용가능하지 않을 수도 있다는 사실에 기인한다. 디코딩이 어디에서 시작되는지에 따라 이용가능하지 않을 수도 있는 참조 화상들로부터 에러 전파 (error propagation) 를 방지하기 위하여, HEVC WD7 에 따르면, 디코딩 순서 및 출력 순서 양자 모두에서 CRA 화상에 후속하는 모든 화상들은, 참조로서 (리딩 화상들을 포함하는) 디코딩 순서 또는 출력 순서 중 어느 하나에서 CRA 화상에 선행하는 임의의 화상을 사용하지 않도록 제한된다. 또한, 리딩 화상들은 통상적으로 랜덤 액세스 디코딩 동안 폐기된다.

비트스트림 스플라이싱 (bitstream splicing) 은 2 이상의 비트스트림들 또는 이의 부분들의 연결 (concatenation) 을 지칭한다. 예를 들어, 제 1 비트스트림은, 가능하게는 스플라이싱된 비트스트림을 생성하기 위하여 비트스트림들의 하나 또는 양자 모두에 대한 일부 수정들로, 제 2 비트스트림에 의해 첨부 (append) 될 수도 있다. 제 2 비트스트림에서 제 1 코딩된 화상은 또한 스플라이싱 포인트로 지칭된다. 그러므로, 스플라이싱된 비트스트림에서 스플라이싱 포인트 후의 화상들은 제 2 비트스트림으로부터 비롯된 한편, 스플라이싱된 비트스트림에서 스플라이싱 포인트에 선행하는 화상들은 제 1 비트스트림으로부터 비롯되었다. 비트스트림들의 스플라이싱은 통상 비트스트림 스플라이서들에 의해 수행된다. 비트스트림 스플라이서들은 종종 경량이고 비디오 인코더들보다 훨씬 덜 지능적이다. 예를 들어, 비트스트림 스플라이서는 엔트로피 디코딩 및 인코딩 능력이 구비되지 않을 수도 있다. 시간 확장성 (temporal scalability) 은, 비트스트림 스플라이싱을 사용할 수도 있는 어플리케이션이다. 시간 확장성은 하나 이상의 프레임 레이트들에서 비디오 시퀀스를 디코딩하는 것을 지칭할 수도 있다. 예를 들어, 비디오 시퀀스는 시스템 능력에 기초하여 30 fps (frames-per-second) 또는 60 fps 로 디코딩 가능할 수도 있다. 시간 확장성을 달성하기 위하여 비디오 시퀀스는 복수의 시간 계층들을 포함할 수도 있다. 여기서 각 시간 계층은 프레임 레이트와 연관된 코딩된 비디오 시퀀스이다. 최고 프레임 레이트를 갖는 시간 계층은 최고 시간 계층으로 지칭될 수도 있다. 복수의 시간 계층들은 함께 스플라이싱되어 최고 프레임 레이트에서 비디오 시퀀스를 생성할 수도 있다, 예를 들어 30 fps 를 갖는 코딩된 비디오 시퀀스는 60 fps 를 가능하게 하는 코딩된 비디오 시퀀스로 스플라이싱된다.

비트스트림 스위칭은 적응적 스트리밍 환경에서 사용될 수도 있다. 스위치-투 비트스트림 (switch-to bitstream) 에 있는 소정 화상에서의 비트스트림 스위칭 동작은 효과적으로 비트스트림 스플라이싱 동작이고 여기서 스플라이싱 포인트는 비트스트림 스위칭 포인트, 즉 스위치-투 비트스트림으로부터 제 1 화상이다. 비트스트림 스위칭은 보통 동일한 코딩 구조를 갖는 2개의 스트림들에 대해 수행된다는 것에 유의해야 한다. 즉, 2개의 스트림들은 동일한 예측 구조, 그리고 IDR 화상들, CRA 화상들, P 화상들 그리고 B 화상들 등의 동일한 할당을 갖는다.

BLA (broken link access) 화상의 개념은 또한 CRA 화상들의 도입 후에 HEVC WD7 에 도입되었고 CRA 화상들의 개념에 기초한다. BLA 화상은 통상 CRA 화상의 위치에서 비트스트림 스플라이싱으로부터 비롯되고 스플라이싱된 비트스트림에서 스플라이싱 포인트 CRA 화상은 BLA 화상으로 변경된다. BLA 화상들과 CRA 화상들 사이의 가장 본질적인 차이는 다음과 같다: CRA 화상에 대해, 디코딩이 디코딩 순서에서 CRA 화상 전에 RAP 화상으로부터 시작되면 연관된 리딩 화상들이 올바르게 디코딩가능하고, 랜덤 액세스가 CRA 화상으로부터 시작될 때 올바르게 디코딩가능하지 않을 수도 있고; BLA 화상에 대해, 연관된 리딩 화상들은 모든 경우에, 심지어 디코딩 순서에서 BLA 화상 전에 RAP 화상으로부터 디코딩이 시작될 때에도, 올바르게 디코딩가능하지 않을 수도 있다. 특정 CRA 또는 BLA 화상에 대해, 연관된 리딩 화상들 중 일부는, CRA 또는 BLA 화상이 비트스트림에서 제 1 화상일 때에도 올바르게 디코딩가능하다는 것에 유의해야 한다. 이들 리딩 화상들은 DLP (decodable leading picture) 로 지칭되고, 다른 리딩 화상들은 NLP (non-decodable leading picture) 으로 지칭된다. NLP 들은 또한, HEVC WD9 에서 TFD (tagged for discard) 화상들로 지칭된다. IDR 화상과 연관된 모든 리딩 화상들은 DLP 화상들이라는 것에 유의해야 한다. 표 2는 HEVC WD7 에 따라 정의된 NAL 유닛들을 명시하는 HEVC WD7 에 포함된 표이다. 표 2에 예시된 바처럼, HEVC WD7에서의 NAL 유닛 타입들은 CRA 화상, BLA 화상, IDR 화상, VPS, SPS, PPS, 및 APS NAL 유닛 타입들을 포함하고, 이들은 전술된 화상들 및 파라미터들에 대응한다.

NAL 유닛 할당들을 단순화하기 위하여, 참조에 의해 본원에 전부 원용된 S. Kanumuri, G. Sullivan, “Refinement of Random Access Point Support,” 10번째 미팅, 스웨덴, 스톡홀름, 2012 년 7월, Doc. JCTVC-J0344 (이하 “Kanumuri) 는 (1) 임의의 IDR 화상과 연관된 리딩 화상들이 없도록 (즉, 디코딩 순서에서 IDR 화상에 후속하고 출력 순서에서 IDR 화상에 선행하지 않도록) IDR 화상들에 대한 제약, 그리고 (2) RAP 화상들에 대한 위 표 2에 따라 정의된 수정된 할당 NAL 유닛 타입들 4 내지 7 을 다음과 같이 제안한다:

표 3에서, SAP 타입들은, 참조에 의해 본원에 원용된, ISO/IEC 14496-12 4th Edition, “Information technology - Coding of audio-visual objects - Part 12: ISO base media file format,” w12640, 100번째 MPEG 미팅, 제네바, 2012년 4월 에 정의된 Stream Access Point 타입들을 지칭한다. 전술된 바처럼, IDR 화상들 및 BLA/CRA 화상들은 비트스트림 스위칭에 대해 기능적으로 상이하지만, 그것들은 랜덤 액세스 (예를 들어, 탐색 어플리케이션) 에 대해서는 기능적으로 동일하다. IDR 화상들에서의 비트스트림 스위칭에 대해, 비디오 코딩 시스템은, 프리젠테이션이 글리치 (glitch) 없이 (예를 들어, 화상들의 미싱이 표출됨이 없이) 연속적일 수 있다는 것을 알거나 또는 추정할 수도 있다. 이것은 디코딩 순서에서 IDR 화상에 후속하는 화상들이 참조로서 IDR 화상 전에 디코딩된 화상들을 사용할 수 없기 때문이다 (즉, IDR 화상과 연관된 리딩 화상들은 DLP 이다). 하지만, BLA 화상들에서의 비트스트림 스위칭에 대해, 양자 모두의 스트림들로부터 하나 이상의 화상들의 일부 오버랩 디코딩은 프리젠테이션이 연속이도록 보장하기 위하여 필요할 수도 있다. 이 오버랩 디코딩은, 추가적인 능력 없이 HEVC WD7 준수 디코더들에 대해 현재 가능하지 않을 수도 있다. 추가적인 능력이 없으면, 폐기되었을 수도 있으므로 표출될 연관된 TFD 화상 위치들에서의 임의의 화상들이 없을 수도 있다. 이것은 프리젠테이션이 반드시 연속적이지는 않다는 것을 초래할 수 있다. 또한, 심지어 BLA 화상이 연관된 TFD 화상들을 갖지 않는 BLA 화상인 경우에도, 문제는 동일한데, 원래 비트스트림에서 존재했던 TFD 화상들이 폐기될 수도 있기 때문이다. 또한, 원래 비트스트림에서 TFD 화상들이 없으면, (나중에 비트스트림 스플라이싱/스위칭 등에 기인하여 BLA 화상으로 변경된) CRA 화상은 IDR 화상으로서 인코딩되었을 수 있다. 그러므로, Kanumuri 에 의해 제안된 바처럼, IDR 화상들로서 리딩 화상들을 갖는 IDR 화상들을 마킹하지 않는 것 (즉, IDR 화상들이 리딩 화상들을 갖는 것을 허용하지 않는 것) 은 IDR 화상들을 비트스트림 스위칭을 위한 시스템에 덜 친화적으로 만든다.

예를 들어, DASH (dynamic streaming over HTTP), 스트리밍 시스템들의 관점에서, 어느 화상이 RAP 화상인지 그리고 RAP 화상으로부터 디코딩이 시작되면 가장 빠른 프리젠테이션 시간 (예를 들어, 가장 빠른 POC (picture order count) 값) 이 무엇인지 용이하게 식별가능한 것이 유익하다. 그러므로, NAL 유닛 타입들의 상이한 RAP 화상들 그리고 DLP 화상들 및 TFD 화상들로의 할당의 기존 설계는 또한 스트리밍 시스템들에 더 친화적으로 향상될 수 있다. 기존 설계들에 따르면, 각 RAP 화상 마다 시스템들은, 디코딩이 RAP 화상으로부터 시작될 때 RAP 화상 자체의 프리젠테이션 시간이 가장 빠른 프리젠테이션 시간인지 알기 위하여 연관된 DLP 화상들이 있는지를 체크해야 한다. 또한, 시스템은 가장 빠른 프리젠테이션 시간의 값을 산출하기 위하여 모든 DLP 화상들의 프리젠테이션 시간을 체크 및 비교해야 한다.

비디오 코딩 표준들은 비디오 버퍼링 모델의 사양을 포함한다. AVC 및 HEVC 에서, 버퍼링 모델은 HRD (hypothetical reference decoder) 로 지칭되고, 이는 CPB (coded picture buffer) 및 DPB (decoded picture buffer) 양자 모두의 버퍼링 모델을 포함한다. HEVC WD7 에 따르면, HRD 은, 인코딩 프로세스가 생성할 수도 있는 적합한 (conforming) NAL 유닛 스트림들 또는 적합한 비트스트림들의 가변성에 대한 제약들을 명시하는 가정적 디코더 모델로서 정의된다. 따라서, AVC 및 HEVC 에서, 비트스트림 적합성 및 디코더 적합성은 HRD 사양의 부분들로서 명시되어 있다. HEVC WD7 에 따르면, CPB 는 디코딩 순서에서 액세스 유닛들을 포함하는 선입선출 버퍼 (first-in first-out buffer) 이고, DPB 는 참조를 위해 디코딩된 화상들을 유지하는 버퍼이다. CPB 및 DPB 거동들은 HRD 에 따라 수학적으로 명시된다. HRD 은 직접적으로, 타이밍, 버퍼 크기, 및 비트 레이트에 대해 제약들을 부과하고, 간접적으로 비트스트림 특성 및 통계에 대한 제약들을 부과한다. HRD 파라미터들의 완전한 세트는 다음 5개의 기본 파리미터들을 포함한다: 초기 CPB 제거 지연, CPB 크기, 비트레이트, 초기 DPB 출력 지연, 및 DPB 크기. HEVC WD7 에 따르면, HRD 파라미터들은 VUI (video usability information) 파라미터들에 포함될 수도 있고 VUI 파라미터들은 SPS 에 포함될 수도 있다. HRD 이 디코더로 지칭되지만, HRD 는 통상 인코더 측에서 비트스트림 적합성을 보장하기 위해 필요하고, 통상 디코더 측에서는 필요하지 않다는 것에 유의해야 한다. HEVC WD7 는 HRD 적합성에 대한 비트스트림들의 2개 타입들, 즉 타입 I 및 타입 II 를 명시한다. HEVC WD7 는 또한 2개 타입들의 디코더 적합성, 즉, 출력 타이밍 디코더 적합성 및 출력 순서 디코더 적합성을 명시한다.

AVC 및 HEVC HRD 모델들에서, 디코딩 또는 CPB 제거는 액세스 유닛 기반하고, 화상 디코딩은 순시적이라고 상정된다. 실세계 어플리케이션들에서 화상을 디코딩하기 위해 필요한 시간은 0과 같을 수 없다. 따라서, 실제 어플리케이션들에서, 적합한 디코더는 엄밀하게, 예를 들어, 화상 타이밍 SEI 메시지들에서, 시그널링된 디코딩 시간들을 뒤따라서, 액세스 유닛들의 디코딩을 시작하면, 특정 디코딩된 화상이 출력될 수 있는 가장 빠른 가능한 시간은 그 특정 화상의 디코딩 시간 더하기 그 특정 화상을 디코딩하기 위해 필요한 시간과 동일하다.

Ye-Kui Wang, 등의, “Sub-picture based CPB operation,” 9차 미팅: 스위스, 제네바, 2012년 5월, JCTVC-I0588 (이하 “Wang”) 에 기재된 CPB 거동에 유사한 서브 화상 기반 CPB 거동은 HEVC WD7 에 포함되었다. Wang 서브 화상 기반 CPB 는 CPB 제거가 AU (access unit) 레벨 또는 서브 화상 레벨 중 어느 하나에서 수행되는 것을 허용한다. AU-레벨 또는 서브-화상 레벨 CPB 제거 중 어느 하나의 허용은 상호운용가능한 방식으로 감소된 코덱 지연을 달성하는 것을 돕는다. CPB 제거가 액세스 유닛 레벨에서 일어날 때, 액세스 유닛은, 제거 동작이 일어날 때마다 CPB 로부터 제거된다. CPB 제거가 서브화상 레벨에서 일어날 때, 하나 이상의 슬라이스들을 포함하는 디코딩 유닛 (DU) 은, 제거 동작이 일어날 때마다 CPB 로부터 제거된다.

서브화상 레벨 CPB 제거 타이밍 정보는, AU-레벨 CPB 제거 타이밍 정보에 더하여 시그널링될 수도 있다. CPB 제거 타이밍 정보가 AU-레벨 및 서브화상 레벨 제거 양자 모두에 대해 존재할 때, 디코더는 AU 레벨 또는 서브화상 레벨 중 어느 하나에서 CPB 를 동작시키는 것을 선택할 수도 있다. 현재 화상 타이밍 SEI 메시지 및 메카니즘이, 동시에 AU-레벨 및 DU-레벨 HRD CPB 제거 양자 모두를 가능하게 하여 서브화상 지연을 달성하기 위하여, DU 들은 전체 AU 가 인코딩되기 전에 내보내져야 하고, AU-레벨 SEI 메시지들은 전체 AU 가 인코딩되기 전에 아직 내보내질 수 없다는 것에 유의해야 한다.

HEVC WD7 에 따르면 타이밍 정보는 2개의 연속적인 화상들의 HRD 출력 시간들간의 시간 거리를 정의하는 정보를 포함할 수도 있다. HEVC WD7 는 다음의 타이밍 정보 신택스 엘리먼트들을 정의한다:

time_scale 은 1 초에 지나가는 시간 유닛들의 수이다. 예를 들어, 27 MHz 클록을 이용하여 시간을 측정하는 시간 좌표 시스템은 27,000,000 의 time_scale 을 갖는다. time_scale 는 0 보다 커야한다.

num_units_in_tick 은 클록 틱 카운터의 (클록 틱으로 불리는) 1 증분에 대응하는 주파수 time_scale Hz에서 동작하는 클록의 시간 유닛들의 수이다. num_units_in_tick 는 0 보다 커야한다.

따라서, time_scale 및 num_units_in_tick 의 값들에 기초하여, 소위 클록 틱 변수, t_c, 는 다음과 같이 도출될 수 있다:

HEVC WD7 에 따르면, 클록 틱 변수는 HRD 출력 시간들을 제한하는데 사용될 수도 있다. 즉, 일부 경우들에서, 출력 순서에서 연속적인 2개의 화상들 (즉, 제 1 및 제 2 화상) 의 프리젠테이션 시간들 사이의 차이가 클록 틱과 동일한 것이 요구될 수도 있다. HEVC WD7 는 fixed_pic_rate_flag 신택스 엘리먼트를 포함하고, 이는 출력 순서에서 연속적인 2개의 화상들의 프리젠테이션 시간들이 클록 틱과 동일한지를 나타낸다. fixed_pic_rate_flag 신택스 엘리먼트는, SPS 에 포함될 수도 있는, VUI 파라미터들의 세트에 포함될 수도 있다. HEVC WD7 에서, fixed_pic_rate_flag 신텍스 엘리먼트가 1 과 동일할 때, 출력 순서에서 임의의 2개의 연속하는 화상들의 HRD 출력 시간들 사이의 시간 거리는 다음의 조건들 중 어느 하나가 참인 것을 조건으로 결정된 클록 틱과 동일하게 제한된다: (1) 제 2 화상이 제 1 화상과 동일한 코딩된 비디오 시퀀스에 있거나; 또는 (2) 제 2 화상이 제 1 화상과는 상이한 코딩된 비디오 시퀀스에 있고 fixed_pic_rate_flag 는 제 2 화상을 포함하는 코딩된 비디오 시퀀스에서 1 과 동일하고 num_units_in_tick ÷ time_scale 의 값은 코딩된 비디오 시퀀스들 양자 모두에 대해 동일하다. fixed_pic_rate_flag 신택스 엘리먼트가 0 과 동일할 때, 그러한 제한들은 출력 순서에서 임의의 2개의 연속하는 화상들 (즉, 제 1 및 제 2 화상) 의 HRD 출력 시간들 사이의 시간 거리에 적용되지 않는다. fixed_pic_rate_flag 가 존재하지 않을 때, 0과 동일한 것으로 추론된다는 것에 유의해야 한다. HEVC WD7에 따르면, fixed_pic_rate_flag 가 1 과 같을 때, 시간 확장성에 기반한 스트리밍 적응은, 일부 최고 시간 계층들이 폐기되는 경우에, time_scale 또는 num_units_in_tick 중 어느 하나의 값의 변화를 필요로 한다는 것에 유의해야 한다. HEVC WD7 는 fixed_pic_rate_flag 에 대한 다음의 시멘틱스들을 제공한다는 것에 유의해야 한다:

fixed_pic_rate_flag 가, 화상 n을 포함하는 코딩된 비디오 시퀀스에 대해 1 과 같을 때, 등식 C-13 에서 명시된 바처럼 Δt_o,dpb(n) 에 대해 계산된 값은, 다음 조건들 중 하나 이상이 등식 C-13 에서의 사용을 위해 명시된 다음의 화상 n_n 에 대해 참일 때 (화상 n을 포함하는 코딩된 비디오 시퀀스에 대해 t_c 의 값을 사용하여) 등식 C-1 에 명시된 바처럼 t_c 와 동일해야 한다 :

- 화상 n_n 은 화상 n 과 동일한 코딩된 비디오 시퀀스에 있다.

- 화상 n_n 은 상이한 코딩된 비디오 시퀀스에 있고 fixed_pic_rate_flag 는 화상 n_n 을 포함하는 코딩된 비디오 시퀀스에서 1과 동일하고 num_units_in_tick ÷ time_scale 의 값은 코딩된 비디오 시퀀스들 양자 모두에 대해 같다.

등식 C-1 은 등식 (1) 에 대응하고 등식 C-13 는 다음과 같이 HEVC WD7 에 정의되어 있다:

HEVC WD7 와 연관된 위에 언급된 타이밍 및 랜덤 액세스 특성들의 관점에서, 본 개시는, 대화 어플리케이션들과 같은 비디오 어플리케이션들에서 지연을 감소시키고, 코딩된 비디오 시퀀스에 대한 랜덤 액세스의 향상들을 제공하는데 사용될 수도 있는 기법들을 설명한다. 하나의 예에서, 본 개시는 NAL 유닛 타입들을 할당하기 위한 기법들을 설명한다. 또 다른 예에서, 본 개시는 서브화상 레벨 또는 디코딩 유닛 레벨 HRD 거동을 설명한다. 또 다른 예에서, 본 개시는 파라미터 세트 ID 들의 레퍼런싱을 위한 기법들을 설명한다. 또 다른 예에서, 본 개시는 fixed_pic_rate_flag 신택스 엘리먼트를 위한 향상된 시멘틱스들을 제공하기 위한 기법들을 설명한다. 여기에 기재된 이들 기법들 그리고 다른 기법들의 임의의 그리고 모든 조합들이 비디오 인코딩 및 디코딩 시스템내에 포함될 수도 있다는 것에 유의해야 한다.

도 3은 여기에 설명된 기법들을 이용할 수도 있는 일 예시적인 비디오 인코딩 및 디코딩 시스템 (10) 을 예시하는 블록도이다. 특히, 비디오 인코딩 및 디코딩 시스템은 (1) NAL 유닛 타입들의 할당, (2) 서브화상 레벨 또는 디코딩 유닛 레벨 HRD 거동, (3) 파라미터 세트 ID 들의 레퍼런싱, (4) fixed_pic_rate_flag 를 위한 향상된 시멘틱스에 관련된 여기에 기재된 기법들, 또는 이들 기법들의 임의의 그리고 모든 조합들을 이용할 수도 있다. 비디오 인코딩 및 디코딩 시스템 (10) 은, 다음 비디오 어플리케이션들의 임의 것에 사용될 수도 있는 비디오 시스템의 예이다: 로컬 플레이백, 스트리밍, 브로드캐스트, 멀티캐스트 및/또는 대화 어플리케이션들. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 소스 디바이스 (12) 가 목적지 디바이스 (14) 로의 송신을 위해 인코딩된 비디오 데이터를 생성하는 코딩 디바이스들의 예들이다. 일부 예들에서, 소스 디바이스들 (12) 및 목적지 디바이스 (14) 는, 소스 디바이스 (12) 및 목적지 디바이스 (14) 의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭 방식으로 동작할 수도 있다. 그러므로, 시스템 (10) 은, 소스 디바이스 (12) 와 목적지 디바이스 (14) 사이의 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

여기에 기재된 기법들은 소스 디바이스 (12) 및 목적지 디바이스 (14) 와 함께 설명되었지만, 그 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 본 개시의 기법들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 또한, 본 개시의 기법들은 비디오 인코딩 디바이스 및 비디오 디코딩 디바이스에 의해 수행되는 것으로 일반적으로 설명되었지만, 그 기법들은 또한 "코덱 (CODEC)" 으로서 통상적으로 지칭되는, 비디오 인코더/디코더에 의해 수행될 수도 있다. 따라서, 도 3에서 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있는데, 이들 중 어느 일방은 각각의 디바이스에서 결합된 인코더/디코더 (CODEC) 의 부분으로서 통합될 수도 있다. 또한, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 를 포함하는 디바이스는 집적 회로, 마이크로프로세서, 및/또는 무선 통신 디바이스, 이를테면 셀룰러 전화기를 포함할 수도 있다. 비록 도 3에 도시되지는 않았지만, 일부 양태들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 적절한 MUX-DEMUX 유닛들 또는 다른 하드웨어 및 소프트웨어를 포함하여, 공통 데이터 스트림 또는 분리된 데이터 스트림들에서 오디오 및 비디오 양자 모두의 인코딩을 다룰 (handling) 수도 있다. 적용가능하면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜 또는 다른 프로토콜들 이를테면 사용자 데이터그램 프로토콜 (UDP) 을 따를 수도 있다.

도 3에 예시된 바처럼, 시스템 (10) 은, 목적지 디바이스 (14) 에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스 (12) 를 포함한다. 특히, 소스 디바이스 (12) 는, 컴퓨터 판독가능 매체 (16) 를 통해 목적지 디바이스 (14) 로 인코딩된 비디오 데이터를 제공한다. 목적지 디바이스 (14) 는, 컴퓨터 판독가능 매체 (16) 를 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 데스크탑 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 전화기 핸드셋 이를테면 소위 "스마트" 폰들, 소위 "스마트" 패드, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 재생기들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스 등을 포함한, 광범위한 디바이스들 중 어느 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 갖추어질 수도 있다.

컴퓨터 판독가능 매체 (16) 는, 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 컴퓨터 판독가능 매체 (16) 는, 무선 브로드캐스트 또는 유선 네트워크 송신 등의 일시적 매체, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루레이 디스크 또는 다른 컴퓨터 판독가능 매체 등의 저장 매체 (즉, 비일시적 저장 매체) 를 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (미도시) 는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로, 예를 들어, 네트워크 송신을 통해 제공할 수도 있다. 유사하게, 디스크 스탬핑 설비 등의 매체 제조 설비의 컴퓨팅 디바이스는, 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함하는 디스크를 제조할 수도 있다.

일 예에서, 컴퓨터 판독가능 매체 (16) 는, 소스 디바이스 (12) 로 하여금 실시간으로 목적지 디바이스 (14) 로 직접, 인코딩된 비디오 데이터를 송신할 수 있게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는, 무선 통신 프로토콜 등의 통신 표준에 따라 변조되고, 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를테면, 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는, 로컬 영역 네트워크, 와이드 영역 네트워크, 또는 인터넷과 같은 글로벌 네트워크 등의 패킷 기반 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터, 스위치, 기지국, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

저장 디바이스는, 하드 드라이브, 블루레이 디스크, DVD, CD-ROM, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체 등의 다양한 분산형 또는 로컬적으로 액세스되는 데이터 저장 매체 중 어느 것을 포함할 수도 있다. 다른 예에서, 저장 디바이스는, 소스 디바이스 (12) 에 의해 생성되는 인코딩된 비디오를 저장할 수도 있는, 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는, 스트리밍 또는 다운로드를 통해 저장 디바이스로부터 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는, 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은, (예를 들어, 웹사이트용) 웹 서버, FTP 서버, NAS (network attached storage) 디바이스, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는, 인터넷 접속을 포함하는, 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은, 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하는데 적합한 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 양자 모두의 조합을 포함할 수도 있다. 저장 디바이스로부터 인코딩된 비디오 데이터의 송신은, 스트리밍 송신, 다운로드 송신 또는 이들의 조합일 수도 있다.

본 개시의 기법들은 무선 어플리케이션들 또는 세팅들에 반드시 한정되는 것은 아니다. 그 기법들은, 공중 경유 (over-the-air) 텔레비전 브로드캐스트, 케이블 텔레비전 송신, 위성 텔레비전 송신, DASH (dynamic adaptive streaming over HTTP) 와 같은 인터넷 스트리밍 비디오 송신, 데이터 저장 매체 상에 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 어플리케이션 등의 다양한 멀티미디어 어플리케이션들 중 어느 것을 지원하는 비디오 코딩에 적용될 수도 있다.

도 3의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 코딩 구조 유닛 (19), 비디오 인코더 (20), 캡슐화 유닛 (21), 및 출력 인터페이스 (22) 를 포함한다. 목적지 디바이스 (14) 는, 입력 인터페이스 (28), 캡슐화 유닛 (29), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 다른 예들에서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 다른 컴포넌트들 또는 장치 (arrangement) 들을 포함할 수도 있다. 예를 들어, 소스 디바이스 (12) 는 외부 카메라와 같은 외부 비디오 소스 (18) 로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함하기 보다는, 외부 디스플레이 디바이스와 인터페이스 접속할 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 의 컴포넌트들은 각각 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (DSP) 들, 주문형 반도체 (ASIC), 필드 프로그램가능 게이트 어레이 (FPGA), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합과 같은 임의의 다양한 적합한 회로로서 구현될 수도 있다. 여기에 기재된 기법들이 부분적으로 소프트웨어로 구현될 때, 디바이스는 적합한 비일시적 컴퓨터 판독가능 매체에 그 소프트웨어를 위한 명령들을 저장하고 그 기법들을 수행하기 위하여 하나 이상의 프로세서들을 이용하여 하드웨어에서 그 명령들을 실행할 수도 있다.

소스 디바이스 (12) 의 비디오 소스 (18) 는 비디오 카메라와 같은 비디오 캡쳐 디바이스, 이전에 캡쳐된 비디오를 포함하는 비디오 아카이브 (video archive), 및/또는 비디오 콘텐트 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스 (video feed interface) 를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스 (18) 는 라이브 비디오, 보관된 비디오 및 컴퓨터 생성된 비디오의 조합, 또는 소스 비디오로서 컴퓨터 그래픽 기반 데이터를 생성할 수도 있다. 일부 경우들에서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 하지만, 위에서 언급된 바처럼, 본 개시에 설명된 기법들은, 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각 경우에서, 캡쳐되거나, 미리 캡쳐되거나 또는 컴퓨터 생성된 비디오는 비디오 인코더 (20) 에 의해 수신될 수도 있다. 출력 인터페이스 (22) 는 컴퓨터 판독가능 매체 (16) 상에 코딩된 비디오 시퀀스와 같은 인코딩된 비디오 데이터를 출력하도록 구성될 수도 있다. 일부 예들에서, 코딩된 비디오 시퀀스는 출력 인터페이스 (22) 로부터 저장 디바이스로 출력될 수도 있다. 목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 컴퓨터 판독가능 매체 (16) 로부터 인코딩된 비디오 데이터를 수신한다. 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 어느 것을 포함할 수도 있다.

코딩 구조 유닛 (19), 비디오 인코더 (20), 캡슐화 유닛 (21), 디캡슐화 유닛 (29), 및 비디오 디코더 (30) 는 위에서 설명된 곧있을 HEVC와 같은 비디오 코딩 표준에 따라 동작될 수도 있고 일반적으로 HEVC 테스트 모델 (HM) 에 적합할 수도 있다. 다르게는, 비디오 인코더 (20) 및 비디오 디코더 (30) 는, 다르게는 MPEG4, Part 10, AVC (Advanced Video Coding) 으로도 지칭되는, ITU-T H.264 표준과 같은 다른 사유 (proprietary) 또는 산업 표준들 또는 그러한 표준들의 확장들에 따라 동작할 수도 있다. 코딩 구조 유닛 (19), 비디오 인코더 (20), 캡슐화 유닛 (21), 디캡슐화 유닛 (29), 및 비디오 디코더 (30) 는 또한 비디오 코딩 표준의 수정된 버전에 따라 동작할 수도 있고, 비디오 코딩 표준의 수정된 버전은 여기에 설명된 기법들의 임의의 그리고 모든 조합들을 포함하도록 수정된다.

비디오 인코더 (20) 는 HEVC WD7 에 기재된 CU 와 같은 일련의 동일한 크기의 비디오 블록들로 비디오 프레임 또는 화상을 분할될 수도 있다. CU 는 코딩 노드 그리고 그 코딩 노드와 연관된 예측 유닛 (PU) 들 및 변환 유닛 (TU) 들을 포함한다. CU 의 크기는 코딩 노드의 크기에 대응하고 형상이 정사각형이어야 한다. CU 의 크기는 8x8 픽셀들로부터, 최대 64x64 픽셀들 이상인 트리블록의 크기에 이르기까지의 범위일 수도 있다. 각 CU 는 하나 이상의 PU 들 및 하나 이상의 TU 들을 포함할 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어, CU 를 하나 이상의 PU 들로 파티셔닝하는 것을 기술할 수도 있다. 파티셔닝 모드들은, CU 가 스킵 또는 직접 모드 인코딩되는지, 인트라 예측 모드 인코딩되는지, 또는 인터 예측 모드 인코딩되는지간에 달라질 수도 있다. PU 들은 형상이 비정사각형으로 파티션될 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어, 쿼드트리에 따라 CU 를 하나 이상의 TU 들로 파티션하는 것을 기술할 수도 있다. TU 는 형상이 정사각형 또는 비정사각형 (예를 들어, 직사각형) 일 수 있다.

HEVC 표준은, TU들에 따른 변환을 허용하고, 이는 상이한 CU들에 대해서 상이할 수도 있다. TU 들은 통상적으로, 파티션된 LCU에 대해 정의된 주어진 CU 내에 PU 들의 크기에 기초하여 사이징되지만, 이는 항상 그렇지 않을 수도 있다. TU 들은 통상적으로 동일한 크기이거나 또는 PU 들보다 더 작다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 "잔차 쿼드트리 (residual quad tree)" (RQT) 로 알려진, 쿼드트리 구조를 이용하여 더 작은 유닛들로 세분될 수도 있다. RQT 의 리프 노드들은 변환 유닛 (TU) 들로 지칭될 수도 있다. TU 들과 연관된 픽셀 차이 값들이 변환되어 변환 계수들을 생성하고, 이는 양자화될 수도 있다.

리프-CU 는 하나 이상의 예측 유닛 (PU) 들을 포함할 수도 있다. 일반적으로, PU 는, 대응하는 CU 의 전부 또는 일부에 대응하는 공간 영역을 나타내고, PU 에 대한 참조 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 더욱이, PU 는 예측에 관한 데이터를 포함한다. 예를 들어, PU 가 인트라 모드 인코딩될 때, PU 를 위한 데이터는 잔차 쿼드트리 (RQT) 에 포함될 수도 있고, 이는, PU에 대응하는 TU 를 위한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터 모드 인코딩될 때, PU 는 PU 에 대해 하나 이상의 모션 벡터들을 정의하는 데이터를 포함할 수도 있다. PU 에 대해 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 해상도 (예를 들어, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 가리키는 참조 화상, 및/또는 모션 벡터에 대한 참조 화상 리스트 (예를 들어, 리스트 0, 리스트 1, 또는 리스트 C) 를 기술할 수도 있다.

하나 이상의 PU 들을 갖는 리프 CU 는 하나 이상의 변환 유닛 (TU) 들을 또한 포함할 수도 있다. 변환 유닛들은, 전술된 바처럼, (TU 쿼드트리 구조로도 지칭되는) RQT를 사용하여 명시될 수도 있다. 예를 들어, 스플릿 플래그는 리프-CU 가 4개의 변환 유닛들로 스플릿되는지를 나타낼 수도 있다. 다음으로, 각 변환 유닛은, 추가 서브TU들로 더 스플릿될 수도 있다. TU가 더 스플릿되지 않을 때, 그것은 리프-TU 로 지칭될 수도 있다. 일반적으로, 인트라 코딩을 위해, 리프-CU 에 속하는 모든 리프-TU 들은 동일한 인트라 예측 모드를 공유한다. 즉, 동일한 인트라 예측 모드가 일반적으로, 리프-CU 의 모든 TU들을 위한 예측된 값들을 계산하기 위해 적용된다. 인트라 코딩에 대해, 비디오 인코더는, TU 에 대응하는 CU 의 부분과 원래 블록간의 차이로서, 인트라 예측 모드를 사용하여 각 리프-TU 에 대해 잔차 값을 계산할 수도 있다. TU 는 반드시 PU 의 크기로 제한되는 것은 아니다. 따라서, TU 는 PU 보다 더 크거나 더 작을 수도 있다. 인트라 코딩에 대해, PU 는 동일한 CU 에 대해 대응하는 리프-TU 와 함께 코로케이트 (collocate) 될 수도 있다. 일부 예들에서, 리프-TU 의 최대 크기는, 대응하는 리프-CU 의 크기에 대응할 수도 있다.

또한, 리프-CU 들의 TU 들은 또한, 레지듀얼 쿼드트리 (RQT) 들로 지칭되는, 각각의 쿼드트리 데이터 구조들과 연관될 수도 있다. 즉, 리프-CU 는, 리프-CU가 TU 들로 어떻게 파티션되는지를 나타내는 쿼드트리를 포함할 수도 있다. TU 쿼드트리의 루트 노드는 일반적으로 리프-CU 에 대응하는 한편, CU 쿼드트리의 루트 노드는 일반적으로 트리블록 (또는 LCU) 에 대응한다. 스플릿되지 않는 RQT의 TU들은 리프-TU들로 지칭된다. 일반적으로, 본 개시는, 다르게 언급되지 않는 한, 리프-CU 및 리프-TU 를 각각 지칭하기 위하여 용어 CU 및 TU 를 사용한다. 본 개시는, 용어 "블록" 을 사용하여, HEVC 의 콘텍스트에서, CU, PU, 또는 TU 중 어느 것을 지칭하거나, 또는 다른 표준들의 콘텍스트에서 유사한 데이터 구조들 (예를 들어, H.264/AVC 에서 매크로블록들 및 이들의 서브블록들) 을 지칭한다.

예로서, HM 은 다양한 PU 크기들에서의 예측을 지원한다. 특정 CU 의 크기가 2Nx2N 이라고 가정하면, HM 는 2Nx2N 또는 NxN 의 PU 크기들에서 인트라 예측, 그리고 2Nx2N, 2NxN, Nx2N, 또는 NxN 의 대칭적 PU 크기들에서 인터 예측을 지원한다. HM 은 또한, 2NxnU, 2NxnD, nLx2N, 및 nRx2N 의 PU 크기들에서의 인터 예측을 위한 비대칭적 파티셔닝을 지원한다. 비대칭적 파티셔닝에서, CU 의 하나의 방향은 파티션되지 않는 반면, 다른 방향은 25% 및 75% 으로 파티션된다. 25% 파티션에 대응하는 CU 의 부분은 “n” 다음에 “Up”, “Down,” “Left,” 또는 “Right” 의 표시에 의해 표시된다. 따라서, 예를 들어, 2NxnU” 는, 상단의 2Nx0.5N PU 및 하단의 2Nx1.5N PU 와 수평적으로 파티션되는 2Nx2N CU 를 지칭한다.

본 개시에서, “NxN” 그리고 “N 바이 N” 은, 수직 및 수평 차원들의 면에서 비디오 블록의 픽셀 차원들, 예를 들면, 16x16 픽셀들 또는 16 바이 16 픽셀들을 지칭하는데 상호교환가능하게 사용될 수도 있다. 일반적으로, 16x16 블록은, 수직 방향에서 16 픽셀들 (y = 16) 그리고 수평 방향에서 16 픽셀들 (x = 16) 을 가질 것이다. 마찬가지로, NxN 블록은 일반적으로 수직 방향에서 N 픽셀들 그리고 수평 방향에서 N 픽셀들을 갖고, 여기서 N 은 음이 아닌 정수 값을 나타낸다. 블록에서 픽셀들은 행과 열들로 배열될 수도 있다. 더욱이, 블록들은 수직 방향에서와 동일한 수평 방향에서의 수의 픽셀들을 반드시 가질 필요는 없다. 예를 들면, 블록들은 NxM 픽셀들을 포함할 수도 있고, 여기서 M은 N과 반드시 동일할 필요는 없다.

CU 의 PU 들을 이용한 인트라 예측 또는 인터 예측 코딩 다음에, 비디오 인코더 (20) 는 CU 의 TU 들을 위한 잔차 데이터를 계산할 수도 있다. PU 들은, (픽셀 도메인으로도 지칭되는) 공간 도메인에서 예측 픽셀 데이터를 생성하는 방법 또는 모드를 기술하는 신택스 데이터를 포함할 수도 있고, TU들은, 변환, 예를 들어, 이산 코사인 변환 (DCT), 정수 변환, 웨이블릿 변환, 또는 개념적으로 유사한 변환을, 잔차 비디오 데이터에 적용한 다음에 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는, PU 들에 대응하는 예측 값들과 인코딩되지 않은 화상의 픽셀들 사이의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는, CU 를 위한 잔차 데이터를 포함한 TU 들을 형성할 수도 있고, 다음으로 그 TU 들을 변환하여 CU 를 위한 변환 계수들을 생성할 수도 있다.

변환 계수들을 생성하기 위한 임의의 변환 다음에, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 일반적으로 양자화는, 변환 계수들이 양자화되어 그 계수들을 나타내는데 사용된 데이터의 양을 감소시킬 수 있는 프로세스를 지칭하며, 추가 압축을 제공한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들면, n 비트 값은 양자화 동안 m 비트 값으로 절사 (round down) 될 수도 있고, 여기서 n은 m보다 더 크다.

양자화 다음에, 비디오 인코더는 변환 계수들을 스캔하여, 양자화된 변환 계수들을 포함하는 2차원 매트릭스로부터 1차원 벡터를 생성할 수도 있다. 그 스캔은 더 높은 에너지 (그리고 따라서 더 낮은 주파수) 계수들을 어레이의 전방에 두고 더 낮은 에너지 (그리고 따라서 더 높은 주파수) 계수들을 어레이의 후방에 두도록 설계될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는, 미리정의된 스캔 순서를 이용하여 양자화된 변환 계수들을 스캔함으로써 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 양자화된 변환 계수들을 스캔하여 1차원 벡터를 형성한 후에, 비디오 인코더 (20) 는 1차원 벡터를, 예를 들어, CAVLC (context-adaptive variable length coding), CABAC (context-adaptive binary arithmetic coding), SBAC (syntax-based context-adaptive binary arithmetic coding), PIPE (Probability Interval Partitioning Entropy) 코딩 또는 또 다른 엔트로피 인코딩 방법론에 따라, 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한, 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터와 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

CABAC 을 수행하기 위하여, 비디오 인코더 (20) 는, 송신될 심볼에 콘텍스트 모델 내의 콘텍스트를 할당할 수도 있다. 콘텍스트는, 예를 들어, 심볼의 이웃 값들이 비제로 (non-zero) 인지 여부에 관한 것일 수도 있다. CAVLC 을 수행하기 위하여, 비디오 인코더 (20) 는, 송신될 심볼에 대해 가변 길이 코드를 선택할 수도 있다. VLC 에서의 코드워드들은, 상대적으로 더 짧은 코드들이 더 높은 확률 심볼들에 대응하는 한편, 더 긴 코드들이 더 낮은 확률 심볼들에 대응하도록 구성될 수도 있다. 이런 식으로, VLC 의 사용은, 예를 들어, 송신될 각 심볼에 동일 길이 코드워드들을 이용하는 것에 비해, 비트 절약 (bit savings) 을 달성할 수도 있다. 확률 결정은, 심볼에 할당된 콘텍스트에 기초할 수도 있다.

전술된 바처럼, 비디오 시퀀스는 결정된 비디오 코딩 구조에 따라 코딩될 수도 있고, 여기서 코딩 구조는 비디오 시퀀스를 인코딩하는데 사용된 화상 타입들 (예를 들어, RAP 및 비-RAP 화상들) 의 할당을 정의한다. 예를 들어, 비디오 시퀀스는 비디오 시퀀스의 랜덤 액세스를 용이하게 하기 위하여 예정 인터벌들에서 포함된 RAP 화상들로 인코딩될 수도 있다. 그러한 코딩 구조는 브로드캐스트 어플리케이션들에 유용할 수도 있다. 또한, 비디오 시퀀스는, 저지연 어플리케이션들을 위해 지연을 최소화하는 코딩 구조에 따라 인코딩될 수도 있다. 코딩 구조 유닛 (19) 은, 비디오 소스 (18) 로부터 수신된 비디오 시퀀스를 인코딩하기 위해 비디오 인코더 (20) 에 의해 사용될 코딩 구조를 결정하도록 구성될 수도 있다. 하나의 예에서, 코딩 구조 유닛 (19) 는 각각의 비디오 어플리케이션들에 대응하는 미리정의된 코딩 구조들을 저장할 수도 있다. 코딩 구조 유닛 (19) 은 비디오 인코더 (20) 및 캡슐화 유닛 (21) 의 각각에 특정 코딩 구조를 나타내는 정보를 출력하도록 구성될 수도 있다. 비디오 인코더 (20) 는 비디오 소스 (18) 로부터 비디오 시퀀스 그리고 코딩 구조 유닛 (19) 으로부터 코딩 구조 정보를 수신하고 인코딩된 비디오 데이터를 생성한다. 캡슐화 유닛 (21) 은 비디오 인코더 (20) 로부터 인코딩된 비디오 데이터 그리고 특정 코딩 구조를 나타내는 정보를 수신하고 액세스 유닛을 포함하는 코딩된 비디오 시퀀스를 생성한다. 캡슐화 유닛 (29) 은 코딩된 비디오 시퀀스를 수신하고 액세스 유닛들 및 NAL 유닛들을 파싱 (parsing) 하도록 구성될 수도 있다. 비디오 디코더 (30) 는 NAL 유닛들을 수신하고 수신된 NAL 유닛들에 포함된 정보에 기초하여 비디오 데이터를 재구성하도록 구성될 수도 있다.

코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는 파라미터 세트에 포함된 신택스 엘리먼트들을 생성하도록 구성될 수도 있다는 것에 유의해야 한다. 일부 예들에서, 코딩 구조 유닛 (19) 은 SPS 와 같은 하이 레벨 파라미터 세트들에 포함된 신택스 엘리먼트들을 생성하도록 구성될 수도 있고, 비디오 인코더 (20) 는, 코딩 유닛 구조로부터 수신된 신택스 엘리먼트들, 그리고 인코딩된 비디오 데이터의 부분으로서 출력된 엔트로피 인코딩된 신택스 엘리먼트들에 기초하여 비디오 인코딩을 수행하도록 구성될 수도 있다.

본 개시의 기법들에 따라, NAL 유닛 타입들의 할당은, 목적지 디바이스 (14) 와 같은 디바이스가 RAP 화상 및 연관된 타이밍 정보를 용이하게 식별할 수 있도록 하는 방식으로 수행될 수도 있다. 하나의 예에서, 연관된 리딩 화상들을 갖지 않는 IDR 화상들은, 연관된 리딩 화상들을 가질 수도 있는 IDR 화상들과는 구별되는 NAL 유닛 타입을 갖는다. 예를 들어, 도 4에 예시된 바처럼, 연관된 리딩 화상들을 갖지 않는 IDR 화상들은 NAL 유닛 타입 M 을 갖는 한편, 연관된 리딩 화상들을 가질 수도 있는 IDR 화상들은 NAL 유닛 타입 N을 가질 수도 있고, 여기서 M 은 N 과 동일하지 않다. 표 4에 예시된 예에서, IDR 화상과 연관된 리딩 화상들은 DLP 화상들일 수도 있다는 것에 유의해야 한다. 하나의 예에서, 표 4에 예시된 NAL 유닛 타입들은 표 2에 예시되어 있는 HEVC WD7 NAL 유닛 타입 코드들 및 NAL 유닛 타입 클래스들에 포함될 수도 있다. 예를 들어, 표 2에서 뒤바꾸어진 NAL 유닛 타입 값들이 표 4에 있는 NAL 유닛 타입들 M 및 N 에 사용될 수도 있다.

또 다른 예에서, 연관된 리딩 화상들을 갖지 않는 CRA 화상들은, 연관된 리딩 화상들을 가질 수도 있는 CRA 화상들과는 상이한 구별되는 NAL 유닛 타입을 갖는다. 또한, 연관된 TFD 화상들을 갖지 않는 CRA 화상들은, 연관된 TFD 화상들을 가질 수도 있는 CRA 화상들과는 상이한 구별되는 NAL 유닛을 갖는다. 따라서, 3개의 상이한 NAL 유닛 타입들이, 표 5에 예시된 바처럼, 상이한 타입들의 CRA 화상들에 사용될 수도 있다. 하나의 예에서, 표 5에 예시된 NAL 유닛 타입들은 표 2에 예시되어 있는 HEVC WD7 NAL 유닛 타입 코드들 및 NAL 유닛 타입 클래스들에 포함될 수도 있다. 예를 들어, 표 1에서 뒤바꾸어진 NAL 유닛 타입 값들이 표 5에 있는 NAL 유닛 타입들 X, Y 및 Z 에 사용될 수도 있다.

또 다른 예에서, 연관된 리딩 화상들을 갖지 않는 BLA 화상들은, 연관된 리딩 화상들을 가질 수도 있는 BLA 화상들과는 상이한 구별되는 NAL 유닛 타입을 가질 수도 있다. 또한, 연관된 TFD 화상들을 갖지 않는 BLA 화상들은, 연관된 TFD 화상들을 가질 수도 있는 BLA 화상들과는 상이한 구별되는 NAL 유닛을 가질 수도 있다. 따라서, 3개의 상이한 NAL 유닛 타입들이, 표 6에 예시된 바처럼, 상이한 타입들의 BLA 에 사용될 수도 있다. 하나의 예에서, 표 6에 예시된 NAL 유닛 타입들은 표 2에 예시되어 있는 HEVC WD7 NAL 유닛 타입 코드들 및 NAL 유닛 타입 클래스들에 포함될 수도 있다. 예를 들어, 표 2에서 뒤바꾸어진 NAL 유닛 타입 값들이 표 6에 있는 NAL 유닛 타입들 A, B 및 C 에 사용될 수도 있다.

표 4 내지 표 6에 대해 설명된 NAL 유닛 타입들의 임의의 그리고 모든 조합들이 NAL 유닛 타입들의 할당에 사용될 수도 있다. 하나의 예에서, 표 4 내지 표 6에 대해 설명된 모든 NAL 유닛 타입들이 NAL 유닛 타입들의 할당에 사용될 수도 있다. 표 7은 표 4 내지 표 6에서 예시된 모든 NAL 타입들이 NAL 유닛 타입들의 할당에 사용되는 예를 예시한다. 표 7에 예시된 바처럼, NAL 유닛 타입들은 표 4 내지 표 6에 대해 설명된 CRA 화상, BLA 화상, 및 IDR 화상 NAL 유닛 타입들, 그리고 전술된 VPS, SPS, PPS, 및 APS NAL 유닛 타입들을 포함한다. 표 7은, 표 7에 제공된 NAL 유닛 타입들의 할당이 IDR, CRA 및 BLA 화상들에 대해 다수의 NAL 유닛 타입들을 포함하는 반면, 표 1에 제공된 NAL 유닛 타입들의 할당이 IDR, CRA 및 BLA 화상들의 각각에 대해 단일 NAL 유닛 타입을 포함한다는 점에서 위의 표 2와는 대비될 수 있다.

캡슐화 유닛 (21) 은 비디오 인코더 (20) 로부터 인코딩된 비디오 데이터 그리고 특정 코딩 구조를 나타내는 정보를 수신하고 표 2 내지 표 7에 예시된 NAL 유닛 할당들의 임의의 그리고 모든 조합들에 예시된 NAL 유닛 타입들의 할당에 기초하여 액세스 유닛들을 포함하는 코딩된 비디오 시퀀스를 생성하도록 구성될 수도 있다. 또한, 디캡슐화 유닛 (29) 은, 코딩된 비디오 시퀀스를 수신하고 액세스 유닛들 및 NAL 유닛들을 파싱하도록 구성될 수도 있고, 여기서 NAL 유닛들은 표 2 내지 표 7에 예시된 NAL 유닛 할당들의 임의의 그리고 모든 조합들에 기초하여 할당된다.

전술한 바처럼, HEVC WD7에 따르면, 현재 화상 타이밍 SEI 메시지 및 메카니즘이 동시에 AU-레벨 및 DU-레벨 HRD CPB 제거 양자 모두를 가능하게 하여 서브화상 지연을 달성하기 위하여, DU 들은 전체 AU 가 인코딩되기 전에 내보내져야 하고, AU-레벨 SEI 메시지들은 전체 AU 가 인코딩되기 전에 아직 내보내질 수 없다. 본 개시의 기법들에 따르면, 캡슐화 유닛 (21) 및 디캡슐화 유닛 (29) 은, 서브 화상 레벨 또는 디코딩 유닛 레벨 HRD 거동이 HEVC WD7 과 비교해 수정될 수 있도록 구성될 수도 있다.

예를 들어, 캡슐화 유닛 (21) 은, AU-레벨 SEI 메시지들이 전체 AU 가 인코딩된 후에 보내지도록 구성될 수도 있다. 그러한 AU-레벨 SEI 메시지는, 구별되는 NAL 유닛 타입을 갖는 SEI NAL 유닛에 포함될 수도 있다. 예를 들어, HEVC WD7 에 정의된 바처럼, 그러한 SEI NAL 유닛과 SEI NAL 유닛들의 기존 정의들 사이의 하나의 차이는, 이 구별되는 SEI NAL 유닛 타입이 디코딩 순서에서 동일한 AU 에 있는 마지막 VCL NAL 유닛의 뒤에 오는 것이 허용될 수도 있고, 디코딩 순서에서 동일한 AU 에 있는 첫번째 VCL NAL 유닛에 선행하지 않도록 제한될 수도 있다는 것이다. 종래 SEI NAL 유닛들 및 SEI 메시지들은 각각 프레픽스 SEI NAL 유닛들 및 프레픽스 SEI 메시지들로서 지칭될 수도 있지만, 여기에 설명된 구별되는 SEI NAL 유닛 및 SEI 메시지는 각각 서픽스 SEI NAL 유닛들 및 서픽스 SEI 메시지들로서 지칭될 수도 있다.

표 2 내지 표 7에 예시된 NAL 유닛 할당들의 임의의 그리고 모든 조합들에 기초하여 코딩된 비디오 시퀀스를 생성하도록 구성된 것에 추가하여, 캡슐화 유닛 (21) 은 프리픽스 및 서픽스 SEI NAL 유닛들을 포함하는 코딩된 비디오 시퀀스를 생성하도록 구성될 수도 있다. 마찬가지로, 디캡슐화 유닛 (29) 은 코딩된 비디오 시퀀스를 수신하고 액세스 유닛들 및 NAL 유닛들을 파싱하도록 구성될 수도 있고, 여기서 NAL 유닛들은 프레픽스 및 서픽스 SEI NAL 유닛 타입들을 포함한다. 즉, 디캡슐화 유닛 (29) 은 액세스 유닛들로부터 서픽스 SEI NAL 유닛들을 추출하도록 구성될 수도 있다. 표 8은 표 4 내지 표 6에서 예시된 모든 NAL 타입들이 NAL 유닛 타입들, 그리고 프레픽스 및 서픽스 SEI NAL 유닛들의 할당에 사용되는 예를 예시한다.

전술된 바처럼, SEI NAL 유닛들에 더하여 비-VCL NAL 유닛 타입들은, VPS, SPS, PPS, 및 APS NAL 유닛들을 포함한다. HEVC WD7 에서 정의된 파라미터 세트 타입들에 따르면, 각 SPS 는 VPS ID 를 참조하고, 각 PPS 는 SPS ID 를 참조하고, 각 슬라이스 헤더는 PPS ID 그리고 가능하게는 APS ID 를 참조한다. 비디오 인코더 (20) 및/또는 코딩 구조 유닛 (19) 은, HEVC WD7 에서 정의된 파라미터 세트들에 따라 파라미터 세트들을 생성하도록 구성될 수도 있다. 또한, 비디오 인코더 (20) 및/또는 코딩 구조 유닛 (19) 은 파라미터 세트들을 생성하도록 구성될 수도 있고, 여기서 VPS ID 및 SPS ID (예를 들어, VPS ID 는 SPS ID 에 선행한다) 는 슬라이스 헤더들에서 선택적으로 시그널링될 수도 있다. VPS ID 및 SPS ID 가 슬라이스 헤더에서 시그널링되는 하나의 예에서, VPS ID 가 SPS 에 위치되지 않을 것이고 SPS ID 는 PPS 에 위치되지 않을 것이다. 또한, 하나의 예에서, VPS ID 및 SPS ID 는 각 RAP 화상의 슬라이스 헤더들에 존재할 수도 있고 각 화상은 복구 포인트 SEI 메시지와 연관될 수도 있다. 또한, 다른 예들에서, VPS ID 및 SPS ID 는 다른 화상들에 대해 슬라이스 헤더에 존재할 수도 있다.

도 4는 본 개시에 기재된 기법들을 구현할 수도 있는 예시적인 캡슐화 유닛을 예시하는 블록도이다. 도 4에 예시된 예에서, 캡슐화 유닛 (21) 은 VCL NAL 유닛 생성자 (402), 비-VCL NAL 유닛 생성자 (404), 액세스 유닛 생성자 (406), 및 비트스트림 출력 인터페이스 (408) 를 포함한다. 캡슐화 유닛 (21) 은 인코딩된 비디오 데이터 및 하이 레벨 신택스를 수신하고 인코딩된 비디오 스트림을 출력한다. 인코딩된 비디오 데이터는 슬라이스와 연관된 신택스 데이터 및 잔차 비디오 데이터를 포함할 수도 있다. 하이 레벨 신택스 데이터는, 예를 들어, 파라미터 세트, SEI 메시지들에 포함된 신택스 엘리먼트들, 또는 곧있을 HEVC 표준과 같은 비디오 코딩 표준에 의해 정의된 다른 신택스 엘리먼트들을 포함할 수도 있다. 인코딩된 비디오 비트스트림은, 하나 이상의 코딩된 비디오 시퀀스들을 포함할 수도 있고, 일반적으로, 곧있을 HEVC 표준과 같은 비디오 코딩 표준에 적합할 수도 있다. 전술된 바처럼, VCL NAL 유닛들은 비디오 데이터의 슬라이스를 포함한다. VCL NAL 유닛 생성자 (402) 는 인코딩된 비디오 데이터의 슬라이스들을 수신하고 슬라이스를 포함하는 화상의 타입에 기초하여 VCL NAL 유닛들을 생성하도록 구성될 수도 있다. VCL NAL 유닛 생성자 (402) 는 표 2 내지 표 8에 대해 전술된 NAL 할당들의 임의의 그리고 모든 조합들에 따라 VCL NAL 유닛들을 생성하도록 구성될 수도 있다. VCL NAL 유닛 생성자 (402) 는 VCL NAL 유닛에 헤더를 포함하도록 구성될 수도 있고 헤더는 VCL NAL 유닛의 타입을 식별한다.

예를 들어, VCL NAL 유닛 생성자 (402) 는, IDR 화상에 포함된 비디오 데이터의 슬라이스를 수신하고 (1) IDR 화상이 연관된 리딩 화상들을 포함하지 않으면, IDR 화상이 리딩 화상들을 갖지 않는다는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하거나, 또는 (2) IDR 화상이 연관된 리딩 화상들을 가지면, IDR 화상이 리딩 화상들을 갖는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다. VCL NAL 유닛 생성자 (402) 는, CRA 화상에 포함된 비디오 데이터의 슬라이스를 수신하고 (1) CRA 화상이 연관된 리딩 화상들을 포함하지 않으면, CRA 화상이 리딩 화상들을 갖지 않는다는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하거나, 또는 (2) CRA 화상이 연관된 리딩 화상들을 가지면, CRA 화상이 리딩 화상들을 갖는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다. 또한, CRA 화상과 연관된 리딩 화상들이 TFD 화상들이면, VCL NAL 유닛 생성자 (402) 는, CRA 과 연관된 리딩 화상이 TFD 이라는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다.

또한, CRA 화상과 연관된 리딩 화상들이 TFD 화상들이 아니면, VCL NAL 유닛 생성자 (402) 는, CRA 화상들과 연관된 리딩 화상이 TFD 이 아니라는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다. 또한, VCL NAL 유닛 생성자 (402) 는, BLA 화상에 포함된 비디오 데이터의 슬라이스를 수신하고 (1) BLA 화상이 연관된 리딩 화상들을 포함하지 않으면, BLA 화상이 리딩 화상들을 갖지 않는다는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하거나, 또는 (2) BLA 화상이 연관된 리딩 화상들을 가지면, BLA 화상이 리딩 화상들을 갖는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다. 또한, BLA 화상과 연관된 리딩 화상들이 TFD 화상들이면, VCL NAL 유닛 생성자 (402) 는, BLA 과 연관된 리딩 화상이 TFD 이라는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다. 또한, BLA 화상과 연관된 리딩 화상들이 TFD 화상들이 아니면, VCL NAL 유닛 생성자 (402) 는, BLA 과 연관된 리딩 화상이 TFD 이 아니라는 것을 나타내는 타입을 갖는 NAL 유닛에서 비디오 데이터의 슬라이스를 캡슐화하도록 구성될 수도 있다.

도 5는 본 개시의 기법들에 따라 VCL NAL 유닛들을 생성하는 예를 예시하는 플로우차트이다. 도 5에 예시된 VCL NAL 유닛들을 생성하는 예는 VCL NAL 유닛 생성자 (402) 에 의해 수행되는 것으로서 설명되었지만, 소스 디바이스 (12), 비디오 인코더 (20), 캡슐화 유닛 (21) 의 임의의 조합 및 이의 컴포넌트들의 조합들이 도 5에 예시된 VCL NAL 유닛들을 생성하는 예를 수행할 수도 있다. 도 5에 예시된 바처럼, VCL NAL 유닛 생성자 (402) 는 비디오 데이터의 슬라이스를 수신한다 (502). 비디오 데이터의 슬라이스는 여기에 기재된 인코딩 기법들 중 임의의 것에 따라 인코딩되는 인코딩된 비디오 데이터일 수도 있다. 비디오 데이터의 슬라이스는 여기에 기재된 화상 타입들 중 하나에 포함될 수도 있다. VCL NAL 유닛 생성자 (402) 는 비디오 데이터의 슬라이스가 IDR 또는 CRA 화상에 포함되는지를 결정한다 (504).

비디오 데이터의 슬라이스가 IDR 화상에 포함되면 (504 의 “IDR” 분기), VCL NAL 유닛 생성자 (402) 는 IDR 화상이 연관된 리딩 화상들을 갖는지 여부를 결정한다 (506). IDR 화상이 연관된 리딩 화상들을 갖지 않으면 (506 의 "아니오" 분기), VCL NAL 유닛 생성자 (402) 는, IDR 화상이 연관된 리딩 화상들을 갖지 않는 것을 나타내는 VCL NAL 유닛을 생성한다 (508). IDR 화상이 연관된 리딩 화상들을 가지면 (506 의 "예" 분기), VCL NAL 유닛 생성자 (402) 는, IDR 화상이 연관된 리딩 화상들을 갖는 것을 나타내는 VCL NAL 유닛을 생성한다 (510).

비디오 데이터의 슬라이스가 CRA 화상에 포함되면, VCL NAL 유닛 생성자 (402) 는 CRA 화상이 연관된 리딩 화상들을 갖는지 여부를 결정한다 (512). CRA 화상이 연관된 리딩 화상들을 갖지 않으면 (512 의 "아니오" 분기), VCL NAL 유닛 생성자 (402) 는, CRA 화상이 연관된 리딩 화상들을 갖지 않는 것을 나타내는 VCL NAL 유닛을 생성한다 (514). CRA 화상이 연관된 리딩 화상들을 가지면 (512 의 "예" 분기), VCL NAL 유닛 생성자 (402) 는 연관된 리딩 화상들이 TFD 화상들인지 여부를 결정한다 (516).

CRA 화상의 연관된 리딩 화상들이 TFD 화상들이면 (516 의 "예" 분기), VCL NAL 유닛 생성자 (402) 는, CRA 의 연관된 리딩 화상이 TFD 화상들이라는 것을 나타내는 VCL NAL 유닛을 생성한다 (518). BLA 화상의 연관된 리딩 화상들이 TFD 화상들이 아니면 (516 의 "아니오" 분기), VCL NAL 유닛 생성자 (402) 는, 연관된 리딩 화상들이 TFD 화상들이 아니라는 것을 나타내는 VCL NAL 유닛을 생성한다 (520).

VCL NAL 유닛 생성자 (402) 는, NAL 유닛에 슬라이스 데이터를 캡슐화하고 NAL 유닛 헤더에 NAL 유닛 타입 값을 포함시키는 것에 의해 NAL 유닛들을 생성할 수도 있다. 각 NAL 유닛 타입 값은 각각의 NAL 유닛 타입에 대응할 수도 있다. 하나의 예에서, NAL 유닛 타입 값들은 표 7에 따라 정의될 수도 있다. 생성된 NAL 유닛들은 액세스 유닛에 포함을 위해 액세스 유닛 생성자 (406) 로 NAL 유닛 생성자 (402) 에 의해 출력될 수도 있다 (522).

이런 식으로, 캡슐화 유닛 (21) 은, 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스의 예를 나타내고, 그 디바이스는 프로세서를 포함하고, 상기 프로세서는 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하고, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하는 것으로서, 상기 NAL 유닛은, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하고, 상기 NAL 유닛을 포함하는 비트스트림을 생성하도록 구성된다.

마찬가지로, 도 5의 방법은, 비디오 데이터를 포함하는 비트스트림을 생성하는 방법의 예를 나타내고, 그 방법은, 랜덤 액세스 포인트 (RAP) 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부 그리고 상기 RAP 화상이 순시 디코더 리프레쉬 (IDR) 화상 또는 클린 랜덤 액세스 (CRA) 화상을 포함하는지를 결정하는 단계, 네트워크 추상 계층 (NAL) 유닛에서 상기 RAP 화상의 슬라이스를 캡슐화하는 단계로서, 상기 NAL 유닛은, 상기 RAP 화상이 연관된 리딩 화상들을 가질 수 있는 타입인지 여부를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 슬라이스를 캡슐화하는 단계, 및 상기 NAL 유닛을 포함하는 비트스트림을 생성하는 단계를 포함한다.

다시 도 4를 참조하면, 비-VCL NAL 유닛 생성자 (404) 는 하이레벨 신택스 엘리먼트들, 이를테면 전술된 바처럼, 파라미터 세트들 및 SEI 메시지들에 포함된 신택스 엘리먼트들을 수신하고 표 2 내지 표 8에 대해 전술된 NAL 유닛 할당들의 임의의 그리고 모든 조합들에 기초하여 비-VCL NAL 유닛들을 생성하도록 구성될 수도 있다. 비-VCL NAL 유닛 생성자 (404) 는, NAL 유닛에 신택스 데이터를 캡슐화하고NAL 유닛 헤더에 NAL 유닛 타입 값을 포함시키는 것에 의해 비-VCL NAL 유닛들을 생성하도록 구성될 수도 있다. 예를 들어, 비-VCL NAL 생성자는 파라미터 세트에 포함하는 신택스 엘리먼트들을 수신하고 NAL 유닛 헤더에서 파라미터 세트 타입을 나타내는 NAL 유닛 타입 값을 포함하도록 구성될 수도 있다.

또한, 비-VCL NAL 유닛 생성자 (404) 는, AU-레벨 SEI 메시지들을 수신하고 SEI 메시지 NAL 유닛들을 생성하도록 구성될 수도 있다. 하나의 예에서, 비-VCL NAL 유닛 생성자 (404) 는 2개 타입들의 SEI 메시지 NAL 유닛들을 생성하도록 구성될 수도 있고, 여기서 제 1 타입의 SEI NAL 유닛은 그러한 SEI NAL 유닛이 디코딩 순서에서 액세스 유닛에 있는 마지막 VCL NAL 유닛 뒤에 올 수도 있다는 것을 나타내고 제 2 타입의 SEI NAL 유닛들은 그러한 SEI NAL 유닛이 디코딩 순서에서 액세스 유닛에 있는 마지막 VCL NAL 유닛 뒤에 오지 않을 수도 있다는 것을 나타낸다. 또한, 제 1 타입의 SEI NAL 은, 디코딩 순서에서 동일한 액세스 유닛에 있는 첫번째 VCL NAL 유닛에 선행하는 것이 허용되지 않도록 제한될 수도 있다. 제 1 타입의 NAL 유닛은 서픽스 SEI NAL 유닛들로 지칭될 수도 있고 제 2 타입의 NAL 유닛들은 프레픽스 SEI NAL 유닛들로 지칭될 수도 있다. 비-VCL NAL 유닛 생성자 (404) 는, 비-VCL NAL 유닛들을 액세스 유닛 생성자 (406) 로 출력한다.

액세스 유닛 생성자 (406) 는 VCL NAL 유닛들 및 비-VCL NAL 유닛들을 수신하고 액세스 유닛들을 생성하도록 구성될 수도 있다. 액세스 유닛 생성자 (406) 는 표 2 내지 표 8에 정의된 임의의 타입의 NAL 유닛을 수신할 수도 있다. VCL- 액세스 유닛 생성자 (406) 는 여기에 기재된 NAL 유닛 타입들의 임의의 그리고 모든 조합들에 기초하여 액세스 유닛들을 생성하도록 구성될 수도 있다. 전술된 바처럼, HEVC WD7 에 따르면, 액세스 유닛은, 디코딩 순서에서 연속되고 하나의 코딩된 화상을 포함하는 NAL 유닛들의 세트이다. 따라서, 액세스 유닛 생성자 (406) 는 복수의 NAL 유닛들을 수신하고 그 복수의 NAL 유닛들을 디코딩 순서에 따라 배열하도록 구성될 수도 있다. 또한, 액세스 유닛 생성자 (406) 는, 전술된 바처럼, 액세스 유닛에 있는 마지막 VCL NAL 유닛 뒤에 오도록 및/또는 동일한 액세스 유닛에 있는 첫번째 VCL NAL 유닛에 선행하지 않도록 서픽스 SEI NAL 유닛을 배열하도록 구성될 수도 있다.

도 6은 본 개시의 기법들에 따라 비-VCL NAL (non-VCL NAL) 유닛들을 생성하는 예를 예시하는 플로우차트이다. 도 6에 예시된 비-VCL NAL 유닛들을 생성하는 예는 비-VCL NAL 유닛 생성자 (404) 및 액세스 유닛 생성자 (406) 에 의해 수행되는 것으로서 설명되었지만, 소스 디바이스 (12), 비디오 인코더 (20), 캡슐화 유닛 (21), 및 이의 컴포넌트들의 조합들의 임의의 조합이 도 6에 예시된 비-VCL NAL 유닛들을 생성하는 예를 수행할 수도 있다.

도 6에 도시된 바처럼, 비-VCL NAL 유닛 생성자 (404) 는 SEI 메시지를 수신한다 (602). SEI 메시지는 표 1에 대해 전술된 임의의 타입의 SEI 메시지일 수도 있다. 비-VCL NAL 유닛 생성자 (404) 는 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지 여부를 결정한다 (604).

SEI 메시지가 서픽스 SEI 메시지이면 (604의 "서픽스" 분기), 비-VCL NAL 유닛 생성자 (404) 는 SEI NAL 유닛이 서픽스 SEI 메시지라는 것을 나타내는 SEI NAL 유닛에 대한 타입 값을 생성한다 (606). SEI 메시지가 프레픽스 SEI 메시지이면 (604의 "프레픽스" 분기), 비-VCL NAL 유닛 생성자 (404) 는 SEI NAL 유닛이 종래 SEI 메시지라는 것을 나타내는 SEI NAL 유닛에 대한 타입 값을 생성한다 (608).

액세스 유닛 생성자 (406) 는 생성된 NAL 유닛들을 수신하고, 이들은 표 2 내지 8 에 대해 전술된 NAL 유닛들의 타입의 임의의 조합을 포함할 수도 있다 (610). 액세스 유닛 생성자 (406) 는 수신된 NAL 유닛들을 포함한 액세스 유닛들을 생성한다 (612). 생성된 액세스 유닛이 서픽스 SEI NAL 유닛을 포함하면, 액세스 유닛의 NAL 유닛들은, 서픽스 SEI NAL 이 동일한 액세스 유닛에 있는 첫번째 VCL NAL 유닛에 선행하지 않지만, 디코딩 순서에서 액세스 유닛에 있는 마지막 VCL NAL 유닛 뒤에 올 수 있도록 배열될 수도 있다.

이런 식으로, 캡슐화 유닛 (21) 은 프로세서의 예를 나타내고, 상기 프로세서는, SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하는 것으로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하고, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하는 것으로서, 상기 SEI NAL 유닛은 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하고, 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하도록 구성된다.

마찬가지로, 도 6의 방법은, 비디오 데이터를 포함하는 비트스트림을 생성하는 방법의 예를 나타내고, 상기 방법은 SEI (supplemental enhancement information) 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 결정하는 단계로서, 상기 SEI 메시지는 인코딩된 비디오 데이터에 관련된 데이터를 포함하는, 상기 결정하는 단계, SEI NAL 유닛에서 상기 SEI 메시지를 캡슐화하는 단계로서, 상기 SEI NAL 유닛은 상기 SEI NAL 유닛이 프레픽스 SEI NAL 유닛 또는 서픽스 SEI NAL 유닛인지 그리고 상기 SEI 메시지가 프레픽스 SEI 메시지 또는 서픽스 SEI 메시지인지를 나타내는 NAL 유닛 타입 값을 포함하는, 상기 SEI 메시지를 캡슐화하는 단계, 및 적어도 상기 SEI NAL 유닛을 포함하는 비트스트림을 생성하는 단계를 포함한다.

다시 도 4를 참조하면, 비트스트림 출력 인터페이스 (408) 는, 액세스 유닛들을 수신하고 코딩된 비디오 시퀀스를 생성하도록 구성될 수도 있다. 비트스트림 출력 인터페이스 (408) 는 또한, 인코딩된 비디오 비트스트림의 부분으로서 코딩된 비디오 시퀀스를 출력하도록 구성될 수도 있고, 인코딩된 비디오 비트스트림은 여기에 기재된 NAL 유닛 타입들의 임의의 그리고 모든 조합들에 기초하여 하나 이상의 코딩된 비디오 시퀀스를 포함한다. 전술된 바처럼, HEVC WD7 에 따르면, 코딩된 비디오 시퀀스는, 디코딩 순서에서 연속된 액세스 유닛들의 세트이다. 따라서, 비트스트림 출력 인터페이스 (408) 는 복수의 액세스 유닛들을 수신하고 그 복수의 액세스 유닛들을 디코딩 순서에 따라 배열하도록 구성될 수도 있다.

전술된 바처럼, 코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는, HEVC WD7 에 제공되는 바처럼, SPS 에 포함될 수도 있는 VUI 파라미터들의 세트에 포함될 수도 있는 fixed_pic_rate_flag 신택스 엘리먼트를 포함한 파라미터 세트에 포함된 신택스 엘리먼트들을 생성하도록 구성될 수도 있다. 또한, 코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는 fixed_pic_rate_flag 신택스 엘리먼트를 생성하도록 구성될 수도 있고, 여기서 fixed_pic_rate_flag 신택스 엘리먼트는 HEVC WD7에 제공된 것들로부터 수정된 시멘틱스들을 포함한다. 예를 들어, HEVC WD7 에서의 fixed_pic_rate_flag의 현재 시멘틱스에 따르면, fixed_pic_rate_flag 가 1과 동일할 때, 출력 순서에서 연속적인 2개의 화상들의 프리젠테이션 시간들 사이의 차이는 클록 틱과 동일할 것이 요구된다. 하지만, 이것은, 일부 최고 시간 계층들이 시간 확장성에 기초하여 스트림 적응을 위해 폐기될 때, time_scale 또는 num_units_in_tick 중 하나의 값의 변화를 필요로 한다.

하나의 예에서, 델타 (즉, 출력 순서에서 연속적인 2개의 화상들의 프리젠테이션 시간들 사이의 차이) 가 클록 틱과 정확히 동일할 것을 요구하는 대신에, 델타는 클록 틱(들) 정수 넘버일 것이 요구될 수도 있다. 이런 식으로, 코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는 fixed_pic_rate_flag 신택스 엘리먼트를 생성하여 fixed_pic_rate_flag 이 1과 동일할 때, 출력 순서에서 연속적인 2개 화상들의 프리젠테이션 시간들 사이의 차이가 클록 틱의 정수와 동일할 것이 요구되도록 구성될 수도 있다.

또 다른 예에서, 코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는 각 시간 계층에 대해 fixed_pic_rate_flag 를 시그널링하는 것이 요구될 수도 있다. 또한, 이 예에서, 특정 시간 계층에 대한 fixed_pic_rate_flag 가 1 과 동일하면, 즉, 시간 계층 표현이 일정한 화상 레이트를 가지면, 값 N 이 시그널링될 수도 있고, 시간 계층 표현에 대한 (출력 순서에서 연속적인 2개의 화상들의 프리젠테이션 시간들 사이의) 델타는 N 클록 틱들과 동일할 수도 있다.

또 다른 예에서, 코딩 구조 유닛 (19) 및/또는 비디오 인코더 (20) 는 선택적으로, 각 시간 계층에 대해 fixed_pic_rate_flag 를 시그널링하도록 구성될 수도 있다. 이 예에서, 특정 시간 계층에 대한 fixed_pic_rate_flag 가 존재하고 1 과 동일하면, 즉, 시간 계층 표현이 일정한 화상 레이트를 가지면, 값 N 이 시그널링될 수도 있고, 시간 계층 표현에 대한 (출력 순서에서 연속적인 2개의 화상들의 프리젠테이션 시간들 사이의) 델타는 N 클록 틱들과 동일하다. fixed_pic_rate_flag 가 각 시간 계층에 대해 선택적으로 시그널링되는 경우에, fixed_pic_rate_flag 가 최고 시간 계층에 대해 시그널링되고 그 값이 1과 같다고 가정하면, 시그널링된 fixed_pic_rate_flag 를 갖지 않는 각 특정 시간 계층에 대해, fixed_pic_rate_flag 의 값은 최고 시간 계층에 대해 시그널링된 fixed_pic_rate_flag 과 같게 도출될 수도 있고, N 의 값은 2^{max_Tid - currTid} 와 같게 도출되고, 여기서 max_Tid 는 최고 temporal_id 값과 같고, currTid는 특정 시간 계층의 temporal_id 과 같다.

도 7은 프리젠테이션 시간 델타 값을 시그널링하는 예를 예시하는 플로우차트이다. 도 7에 예시된 프리젠테이션 시간 델타 값을 시그널링하는 예가 캡슐화 유닛 (21) 에 의해 수행되는 것으로서 설명되었지만, 소스 디바이스 (12), 비디오 인코더 (20), 캡슐화 유닛 (21) 및 이의 컴포넌트들의 조합들의 임의의 조합이 도 7에 예시된 프리젠테이션 시간 델타 값을 시그널링하는 예를 수행할 수도 있다.

도 7의 예에 예시된 바처럼, 캡슐화 유닛 (21) 은 제 1 화상의 프리젠테이션 시간 (예를 들어, POC 값) 과 제 2 화상의 프리젠테이션 시간 사이의 델타가 클록 틱 값의 정수인지를 나타내는 플래그를 생성한다 (702). 즉, 캡슐화 유닛 (21) 은 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 (예를 들어, 델타) 가 클록 틱 값의 정수배인지를 나타내는 데이터를 생성할 수도 있다. 도 7에 기재된 플래그는 그러한 생성된 데이터의 예를 나타낸다. 일부 경우들에서, 캡슐화 유닛 (21) 은, 코딩 구조 유닛 (19) 또는 비디오 인코더 (20) 로부터 플래그를 위한 값을 수신할 수도 있다. 플래그는 전술된 fixed_pic_rate_flag 신택스 엘리먼트들 중 임의의 것일 수도 있다.

하나의 예에서, 캡슐화 유닛 (21) 은, 플래그에 대한 값이 델타가 클록 틱 값의 정수임을 나타낼 수도 있는지 여부를 결정한다 (704). 플래그가 델타는 클록 틱의 정수 값임을 나타낼 때 (704 의 "예" 분기), 캡슐화 유닛 (21) 은 클록 틱 값의 정수배를 나타내는 정수 값 N (706) 을 생성할 수도 있다. 정수 값 N은, 델타가 클록 틱 값의 정수 배인 델타 값을 결정하기 위하여, 목적지 디바이스 (14) 와 같은, 디코딩 디바이스에 의해, 사용될 수도 있다. 하나의 예에서, 정수 값 N 은 0 내지 2047 의 값을 가질 수도 있고 델타가 동일한 클록들의 정수보다 작은 1의 값을 나타낼 수도 있다. 다음으로, 캡슐화 유닛 (21) 은 플래그 및 정수 값 N을 비트스트림의 부분으로서 출력할 수도 있다 (708).

한편, 캡슐화 유닛 (21) 은 플래그가 델타 값이 클록 틱의 정수 배가 아님을 나타낸다고 결정할 때 (704 의 "아니오" 분기), 캡슐화 유닛 (21) 은 단순히 플래그를 출력할 수도 있다 (710).

이런 식으로, 소스 디바이스 (12) 는, 프로세서의 예를 나타내고 상기 프로세서는 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하고, 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하도록 구성된다.

마찬가지로, 도 7의 방법은 비디오 데이터를 포함하는 비트스트림을 생성하는 방법의 예를 나타내고, 상기 방법은 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지를 나타내는 데이터를 생성하는 단계, 및 상기 데이터가 상기 차이는 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하는 단계를 포함한다.

전술된 바처럼, 캡슐화 유닛 (21) 은 인코딩된 비디오 데이터를 수신한다. 도 8은 인코딩된 비디오 데이터를 생성할 수도 있는 비디오 인코더 (20) 의 예를 예시하는 블록도이다. 도 8에 도시된 바처럼, 비디오 인코더 (20) 는 비디오 데이터 및 하이 레벨 신택스 데이터를 수신한다. 비디오 인코더 (20) 는 통상적으로 비디오 데이터를 인코딩하기 위하여 개개의 비디오 슬라이스들 내의 비디오 블록들에 대해 동작한다. 비디오 블록은 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정되거나 또는 변화하는 크기를 가질 수도 있고, 지정된 코딩 표준에 따라 크기가 다를 수도 있다. 비디오 인코더 (20) 는 또한, 신택스 데이터, 이를테면 블록 기반 신택스 데이터, 프레임 기반 신택스 데이터, 및 GOP 기반 신택스 데이터를, 예를 들어, 프레임 헤더, 블록 헤더, 슬라이스 헤더, 또는 GOP 헤더에서 생성할 수도 있다. GOP 신택스 데이터는, 각각의 GOP 에서 프레임들의 수를 기술할 수도 있고, 프레임 신택스 데이터는 대응하는 프레임을 인코딩하는데 사용된 인코딩/예측 모드를 나타낼 수도 있다.

도 8 의 예에서, 비디오 인코더 (20) 는, 모드 선택 유닛 (40), 참조 화상 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 모드 선택 유닛 (40) 은, 차례로, 모션 보상 유닛 (44), 모션 추정 유닛 (42), 인트라 예측 유닛 (46), 및 파티션 유닛 (48) 을 포함한다. 비디오 블록 재구성을 위해, 비디오 인코더 (20) 는 또한 역 양자화 유닛 (58), 역 변환 유닛 (60), 및 합산기 (62) 를 포함한다. 디블록킹 필터 (도 8에 미도시) 가 또한 포함되어, 재구성된 비디오로부터 블록키니스 아티팩트 (blockiness artifact) 를 제거하기 위해 블록 경계들을 필터링할 수도 있다. 원하는 경우, 디블록킹 필터는 통상적으로 합산기 (62) 의 출력을 필터링한다. (루프 또는 포스트 루프에 있는) 추가적인 필터들이 또한, 디블록킹 필터에 추가하여 사용될 수도 있다. 그러한 필터들은 간결성을 위해 도시되지는 않았지만, 원한다면, (인루프 필터로서) 합산기 (50) 의 출력을 필터링할 수도 있다.

인코딩 프로세스 동안, 비디오 인코더 (20) 는 코딩될 비디오 프레임 또는 슬라이스를 수신한다. 프레임 또는 슬라이스는 다수의 비디오 블록들로 분할될 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 프레임들에서의 하나 이상의 블록들에 대해 그 수신된 비디오 블록의 인터 예측 코딩을 수행해 시간 예측을 제공한다. 인트라 예측 유닛 (46) 은 대안적으로, 코딩될 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃 블록들에 상대적으로 수신된 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 예측을 제공할 수도 있다. 비디오 인코더 (20) 는, 예를 들어, 비디오 데이터의 각 블록에 대해 적절한 코딩 모드를 선택하기 위하여, 다중 코딩 패스들을 수행할 수도 있다.

또한, 파티션 유닛 (48) 은, 이전 코딩 패스들에서 이전 파티셔닝 스킴들의 평가에 기초하여, 비디오 데이터의 블록들을 서브블록들로 파티션할 수도 있다. 예를 들어, 파티션 유닛 (48) 은, 초기에 프레임 또는 슬라이스를 LCU 들로 파티션할 수도 있고, 레이트 왜곡 분석 (예를 들어, 레이트 왜곡 최적화) 에 기초하여, LCU 들의 각각을 서브 CU들로 파티션할 수도 있다. 모드 선택 유닛 (40) 은 LCU 의 서브 CU들로의 파티셔닝을 나타내는 쿼드트리 데이터 구조를 생성할 수도 있다. 쿼드트리의 리프 노드 CU 들은 하나 이상의 PU 들 및 하나 이상의 TU 들을 포함할 수도 있다.

모드 선택 유닛 (40) 은, 예를 들면, 오류 결과들에 기초하여 코딩 모드들 중 하나, 인트라 또는 인터 모드를 선택할 수도 있고, 결과적인 인트라 또는 인터 코딩된 블록을 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고 합산기 (62) 에 제공하여 참조 프레임으로서 이용을 위해 인코딩된 블록을 재구성한다. 모드 선택 유닛 (40) 은 또한, 신택스 엘리먼트들, 이를테면 모션 벡터들, 인트라 모드 표시자, 파티션 정보, 및 다른 그러한 신택스 정보를 엔트로피 인코딩 유닛 (56) 에 제공한다.

모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적을 위해 따로따로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행되는, 모션 추정은, 비디오 블록들을 위한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 현재 비디오 프레임 (또는 다른 코딩된 유닛) 내의 코딩되는 현재 블록에 대해 참조 프레임 (또는 다른 코딩된 유닛) 내의 예측 블록에 대한 현재 비디오 프레임 또는 화상 내의 비디오 블록의 PU 의 변위를 나타낼 수도 있다. 예측 블록은, 절대 차이의 합 (sum of absolute difference; SAD), 제곱 차이의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 픽셀 차이에 관하여, 코딩될 블록과 밀접하게 매치하는 것으로 구해진 블록이다. 일부 예들에서, 비디오 인코더 (20) 는 참조 화상 메모리 (64) 에 저장된 참조 화상들의 서브 정수 픽셀 위치 (sub-integer pixel position) 들을 위한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 화상의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치 (fractional pixel position) 들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은, 전 픽셀 위치들 그리고 분수 픽셀 위치들에 대해 모션 검색을 수행하고 분수 픽셀 정밀도로 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은, 인터 코딩된 슬라이스에서 비디오 블록의 PU를 위한 모션 벡터를, PU 의 위치와 참조 화상의 예측 블록의 위치를 비교함으로써, 계산한다. 참조 화상은, 제 1 참조 화상 리스트 (리스트 0) 또는 제 2 참조 화상 리스트 (리스트 1) 로부터 선택될 수도 있고, 이들의 각각은 참조 화상 메모리 (64) 에 저장된 하나 이상의 참조 화상들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행된 모션 보상은, 모션 추정 유닛 (42) 에 의해 결정된 모션 벡터에 기초한 예측 블록의 페칭 (fetching) 또는 생성을 수반할 수도 있다. 또, 일부 예들에서, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 기능적으로 통합될 수도 있다. 현재 비디오 블록의 PU를 위한 모션 벡터의 수신시에, 모션 보상 유닛 (44) 은, 모션 벡터가 참조 화상 리스트들 중 하나에서 가리키는 예측 블록을 로케이팅할 수도 있다. 합산기 (50) 는, 코딩되는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산함으로써 잔차 비디오 블록을 형성하여, 후술되는 바처럼, 픽셀 차이 값들을 형성한다. 일반적으로, 모션 추정 유닛 (42) 은 루마 컴포넌트들에 대해 모션 추정을 수행하고, 모션 보상 유닛 (44) 은 크로마 컴포넌트들 및 루마 컴포넌트들 양자 모두를 위해 루마 컴포넌트들에 기초하여 계산된 모션 벡터들을 사용한다. 모드 선택 유닛 (40) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라-예측 유닛 (46) 은, 상술된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행되는 인터 예측에 대한 대안으로서, 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라-예측 유닛 (46) 은 현재 블록을 인코딩하는데 이용할 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 유닛 (46) 은, 예를 들어, 별도의 인코딩 패스들 동안에, 다양한 인트라 예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (46) (또는, 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 이용할 적절한 인트라 예측 모드를 선택할 수도 있다.

예를 들어, 인트라-예측 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트 왜곡 분석을 이용하여 레이트 왜곡 값들을 산출하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록을 생성하는데 이용된 비트레이트 (즉, 비트들의 수) 뿐만 아니라, 인코딩된 블록을 생성하기 위해 인코딩되었던 원래 인코딩되지 않은 블록과 인코딩된 블록 사이의 왜곡 (또는 에러) 의 양을 결정한다. 인트라 예측 유닛 (46) 은 그 왜곡들로부터 비 (ratio) 및 여러 인코딩된 블록들에 대한 레이트들을 산출하여 어느 인트라 예측 모드가 블록에 대한 최상의 레이트 왜곡 값을 나타내는지를 결정할 수도 있다.

블록에 대한 인트라 예측 모드를 선택한 후에, 인트라 예측 유닛 (46) 은 엔트로피 인코딩 유닛 (56) 에 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신된 비트스트림에서 구성 데이터를 포함할 수도 있고, 이는 복수의 인트라 예측 모드 인덱스 테이블들 및 복수의 수정된 인트라 예측 모드 인덱스 테이블들 (코드워드 맵핑 테이블이라고도 한다), 다양한 블록들을 위한 인코딩 콘텍스트들의 정의들, 그리고 최고 확률 인트라 예측 모드의 표시들, 인트라 예측 모드 인덱스 테이블, 및 콘텍스트들의 각각을 위해 사용할 수정된 인트라 예측 모드 인덱스 테이블을 포함할 수도 있다.

비디오 인코더 (20) 는, 코딩되는 원래 비디오 블록으로부터 모드 선택 유닛 (40) 으로부터의 예측 데이터를 감산함으로써 잔차 비디오 블록을 형성한다. 합산기 (50) 는 이 감산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 변환 프로세싱 유닛 (52) 은 변환, 이를테면 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환을 잔차 블록에 적용하며, 잔차 변환 계수 값들을 포함하는 비디오 블록을 생성한다. 변환 프로세싱 유닛 (52) 은, DCT 와 개념적으로 유사한 다른 변환들을 수행할 수도 있다. 웨이브릿 변환 (wavelet transform), 정수 변환, 서브밴드 변환 또는 다른 타입들의 변환들이 또한 사용될 수 있다. 어느 경우든, 변환 프로세싱 유닛 (52) 은 변환을 잔차 블록에 적용하며, 잔차 변환 계수들의 블록을 생성한다. 변환은 잔차 정보를 픽셀 값 도메인으로부터 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다. 변환 프로세싱 유닛 (52) 은 양자화 유닛 (54) 에 결과적인 변환 계수들을 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더 감소시킨다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 변경될 수도 있다. 다음으로, 일부 예들에서, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.

양자화 다음에, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 CAVLC (context adaptive variable length coding), CABAC (context adaptive binary arithmetic coding), SBAC (syntax-based context-adaptive binary arithmetic coding), PIPE (probability interval partitioning entropy) 코딩 또는 또 다른 엔트로피 코딩 기법을 수행할 수도 있다. 콘텍스트 기반 엔트로피 코딩의 경우에, 콘텍스트는 이웃 블록들에 기초할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 코딩 다음에, 엔코딩된 비트스트림은 다른 디바이스 (예를 들어, 비디오 디코더 (30)) 로 송신되거나 또는 나중의 송신 또는 취출을 위해 보관될 수도 있다.

역 양자화 유닛 (58) 및 역 변환 유닛 (60) 은 역 양자화 및 역 변환을 각각 적용하여 예를 들면 참조 블록으로서 나중에 사용을 위해 픽셀 도메인에서 잔차 블록을 재구성한다. 모션 보상 유닛 (44) 은, 참조 화상 메모리 (64) 의 프레임들 중 하나의 예측 블록에 잔차 블록을 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 그 재구성된 잔차 블록에 적용하여, 모션 추정에 사용하기 위한 서브 정수 픽셀 값들을 산출할 수도 있다. 합산기 (62) 는 재구성된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성되는 모션 보상된 예측 블록에 가산하여 참조 화상 메모리 (64) 에 저장하기 위해 재구성된 비디오 블록을 생성한다. 재구성된 비디오 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 사용되어 후속 비디오 프레임에서 블록을 인터 코딩할 수도 있다.

상술된 바처럼, 디캡슐화 유닛 (29) 은, 코딩된 비디오 시퀀스를 수신하고 액세스 유닛들 및 NAL 유닛들을 파싱하도록 구성될 수도 있고, 여기서 NAL 유닛들은 표 2 내지 표 7에 예시된 NAL 유닛 할당들의 임의의 그리고 모든 조합들에 기초하여 할당된다. 또한, 디캡슐화 유닛 (29) 및 비디오 디코더 (30) 는 NAL 유닛 타입 할당에 기초하여 비디오 데이터를 재구성할 수도 있다. 하나의 예에서, 디캡슐화 유닛 (29) 은, NAL 유닛을 수신하는 것으로서, 상기 NAL 유닛은 NAL 타입 값을 포함하는, 상기 수신하고, NAL 유닛이 NAL 타입 값에 기초하여 리딩 화상과 연관된 RAP 화상에 포함된 비디오 데이터의 인코딩된 슬라이스를 캡슐화하는지 여부를 결정하도록 구성될 수도 있고, 비디오 디코더 (30) 는, NAL 유닛이 연관된 리딩 화상과 RAP 화상에 포함된 비디오 데이터의 인코딩된 슬라이스를 캡슐화하는지 여부에 기초하여 비디오 데이터를 재구성하도록 구성될 수도 있다. 또 다른 예에서, 디캡슐화 유닛 (29) 은, NAL 유닛을 수신하는 것으로서, 상기 NAL 유닛은 NAL 타입 값을 포함하는, 상기 수신하고, 상기 NAL 유닛이 NAL 타입 값에 기초하여 AU-레벨 SEI 메시지를 캡슐화하는지 여부를 결정하도록 구성될 수도 있고, 비디오 디코더 (30) 는, 상기 NAL 유닛이 AU-레벨 SEI 메시지를 캡슐화하는지에 기초하여 비디오 데이터를 재구성하도록 구성될 수도 있다. 일부 경우들에서, 비디오 데이터를 재구성하는 것은, 전술된 바처럼, 스플라이싱된 비트스트림을 생성하는 것을 포함할 수도 있고, 비디오 디코더 (30) 는 NAL 유닛 타입 결정들에 기초하여 스플라이싱된 비디오 스트림에서 화상들의 프리젠테이션 시간들을 결정할 수도 있다.

또한 전술된 바처럼, 소스 디바이스, 이를테면 소스 디바이스 (12) 는, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 델타를 시그널링하도록 구성될 수도 있고, 여기서 시그널링은 전술된 fixed_pic_rate_flag 신택스 엘리먼트들의 어느 것을 사용할 수도 있다. 따라서, 목적지 디바이스 (14), 디캡슐화 유닛 (29) 및 비디오 디코더 (30) 는 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간을 결정하고 이에 따라 화상들을 표출하도록 구성될 수도 있다.

도 9는 프리젠테이션 시간 델타 값을 결정하는 예시적인 방법을 예시하는 플로우차트이다. 도 9에 예시된 프리젠테이션 시간 델타 값을 시그널링하는 예가 디캡슐화 유닛 (29) 에 의해 수행되는 것으로서 설명되었지만, 목적지 디바이스 (14), 비디오 디코더 (30), 디캡슐화 유닛 (29) 및 이의 컴포넌트들의 조합들의 임의의 조합이 도 9에 예시된 프리젠테이션 시간 델타 값을 결정하는 예를 수행할 수도 있다. 도 9에 예시된 바처럼, 디캡슐화 유닛 (29) 은 제 1 화상을 획득한다 (902). 제 1 화상은 액세스 유닛에 대응하는 인코딩된 화상일 수도 있다. 디캡슐화 유닛 (29) 은 제 2 화상을 획득한다 (904). 제 2 화상은 액세스 유닛에 대응하는 인코딩된 화상일 수도 있다. 제 2 화상은 제 1 화상과 동일한 시간 계층에 포함될 수도 있다. 또한, 제 1 및 제 2 화상은 비디오 데이터의 최고 시간 계층에 포함될 수도 있다.

다음으로, 디캡슐화 유닛 (29) 은 정수 값 N 을 획득할 수도 있다 (906). 이것은 디캡슐화 유닛 (29) 이, 정수 값 N 이 SPS에 포함될 수도 있는 VUI 파라미터들의 세트에 포함될 수도 있다는 것을 나타내는, 플래그를 위한 값과 같은 데이터를 이전에 획득한 것을 가정한다. 디캡슐화 유닛 (29) 은 클록 틱 값을 결정한다 (908). 디캡슐화 유닛 (29) 은 전술된 등식 (1) 에 따른 time_scale 및 num_units_in_tick 신택스 엘리먼트들에 기초하여 클록 틱 값을 결정할 수도 있다.

다음으로, 디캡슐화 유닛 (29) 은 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 델타를 결정할 수도 있다 (910). 델타는 정수 값 N에 기초하여 클록 틱 값의 정수와 동일할 수도 있다. 예를 들어, 델타는 (N+1)* 클록 틱과 동일할 수도 있다.

다음으로, 디캡슐화 유닛 (29) 및 비디오 디코더 (30) 는 결정된 델타에 따라 제 1 화상과 제 2 화상을 표출할 수도 있다 (912). 하나의 예에서, 디캡슐화 유닛 (29) 은 비디오 디코더 (30) 에 델타 값을 시그널링할 수도 있고 비디오 디코더 (30) 는 델타 값에 기초하여 디코딩 프로세스를 수행할 수도 있다. 이런 식으로, 목적지 디바이스 (14) 는 프로세서를 포함하는 디바이스의 예를 나타내고, 프로세서는 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 것으로서, 상기 차이 값은 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하고, 및 결정된 차이 값에 따라 제 1 화상과 제 2 화상을 표출하도록 구성된다.

마찬가지로, 도 9의 방법은, 방법의 예를 나타내고, 그 방법은 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 단계로서, 상기 차이 값은 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하는 단계, 및 결정된 차이 값에 따라 제 1 화상과 제 2 화상을 표출하는 단계를 포함한다.

도 10은 비디오 디코더 (30) 의 예를 예시하는 블록도이고, 상기 비디오 디코더 (30) 는, (1) NAL 유닛 타입들을 포함하는 데이터를 수신하는 것, (2) 수신된 서브화상 레벨 또는 디코딩 유닛 레벨 HRD 거동을 프로세싱하는 것, (3) 파라미터 세트 ID 들로 참조를 포함하는 데이터를 프로세싱하는 것, (4) fixed_pic_rate_flag 를 위한 향상된 시멕틱스들을 포함하는 수신된 데이터를 프로세싱하는 것, 또는 이들의 임의의 그리고 모든 조합을 위한 기법들을 구현할 수도 있다. 도 10 의 예에서, 비디오 디코더 (30) 는, 엔트로피 디코딩 유닛 (70), 모션 보상 유닛 (72), 인트라 예측 유닛 (74), 역 양자화 유닛 (76), 역 변환 유닛 (78), 참조 화상 메모리 (82) 및 합산기 (80) 를 포함한다. 비디오 디코더 (30) 는, 일부 예들에서, 비디오 인코더 (20) (도 2) 에 대해 설명된 인코딩 패스에 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다. 모션 보상 유닛 (72) 은, 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들에 기초하여 예측 데이터를 생성할 수도 있는 한편, 인트라 예측 유닛 (74) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 인트라 예측 모드 표시자들에 기초하여 예측 데이터를 생성할 수도 있다.

디코딩 프로세스 동안, 비디오 디코더 (30) 는, 비디오 인코더 (20) 로부터 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (70) 은 양자화된 계수들, 모션 벡터들 또는 인트라 예측 모드 표시자들, 및 다른 신텍스 엘리먼트들을 생성하기 위하여 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 모션 보상 유닛 (72) 에 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.

비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 인트라 예측 유닛 (74) 은, 현재 프레임 또는 화상의 이전에 디코딩된 블록들로부터 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩될 때, 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 블록들을 생성한다. 예측 블록들은 참조 화상 리스트들의 하나 내의 참조 화상들의 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 참조 화상 메모리 (82) 에 저장된 참조 화상들에 기초하여 디폴트 (default) 구성 기법들을 이용하여 참조 프레임 리스트들, 리스트 0 및 리스트 1 을 구성할 수도 있다. 모션 보상 유닛 (72) 은, 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱 (parsing) 하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 정보를 결정하고, 그 예측 정보를 사용하여 디코딩되는 현재 비디오 블록을 위한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들의 일부를 사용하여 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예를 들어, 인트라 또는 인터 예측), 인터 예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스를 위한 참조 화상 리스트들의 하나 이상을 위한 구성 정보, 슬라이스의 각 인터 인코딩된 비디오 블록을 위한 모션 벡터들, 슬라이스의 각 인터 코딩된 비디오 블록을 위한 인터 예측 상태, 및 현재 비디오 슬라이스에서 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.

모션 보상 유닛 (72) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 이용되는 보간 필터들을 이용하여 참조 블록들의 서브 정수 픽셀들에 대한 보간된 값들을 계산할 수도 있다. 이 경우에, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 이용된 보간 필터들을 결정하고, 그 보간 필터들을 이용하여 예측 블록들을 생성할 수도 있다.

역 양자화 유닛 (76) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (70) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉 탈양자화한다. 역 양자화 프로세스는, 양자화의 정도, 그리고, 마찬가지로, 적용되어야 하는 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스에서 각 비디오 블록에 대해 비디오 디코더 (30) 에 의해 계산된 양자화 파라미터 QP_Y 의 이용을 포함할 수도 있다.

역 변환 유닛 (78) 은, 픽셀 도메인에서 잔차 블록들을 생성하기 위해 변환 계수들에, 역 변환, 예를 들어, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 적용한다.

모션 보상 유닛 (72) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 블록을 위한 예측 블록을 생성한 후에, 비디오 디코더 (30) 는 역 변환 유닛 (78) 으로부터의 잔차 블록들과 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들을 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (80) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원하는 경우, 블로키니스 아티팩트 (blockiness artifact) 들을 제거하기 위하여 디코딩된 블록들을 필터링하기 위하여 디블록킹 필터가 또한 적용될 수도 있다. (코딩 루프내 또는 코딩 루프 후의) 다른 루프 필터들이 또한 픽셀 천이들을 매끄럽게 하거나 또는 다른 방법으로 비디오 품질을 향상시키는데 사용될 수도 있다. 다음으로, 주어진 프레임 또는 화상에서 디코딩된 비디오 블록들은 참조 화상 메모리 (82) 에 저장되고, 이는 후속 모션 보상을 위해 사용된 참조 화상들을 저장한다. 참조 화상 메모리 (82) 는 또한, 도 3의 디스플레이 디바이스 (32) 등의 디스플레이 디바이스 상에 나중에 표시하기 위해 디코딩된 비디오를 저장한다.

예에 따라, 여기에 기재된 기법들 중 어느 것의 특정 행위들 또는 이벤트들이 상이한 시퀀스에서 수행될 수 있거나, 추가될 수 있거나, 병합될 수 있거나, 또는 전부 생략될 수 있다 (예를 들어, 모든 설명된 행위들 또는 이벤트들이 그 기법들의 실시를 위해 필요한 것은 아니다) 는 것이 인식되야 한다. 또한, 특정 예들에서, 행위들 또는 이벤트들은, 예를 들어, 순차적으로 보다는 멀티스레드 프로세싱, 인터럽트 프로세싱 또는 멀티플 프로세서들을 통해, 동시적으로 수행될 수도 있다.

하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되면, 그 기능들은 컴퓨터 판독가능 매체 상의 하나 이상의 명령 또는 코드로서 저장되거나 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체는, 예를 들면, 통신 프로토콜에 따라, 일 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체 또는 데이터 저장 매체와 같은 유형의 매체에 대응하는 컴퓨터 판독가능 저장 매체를 포함할 수도 있다. 이런 방식으로, 컴퓨터 판독가능 매체는 일반적으로, (1) 비일시적인 유형의 컴퓨터 판독가능 저장 매체 또는 (2) 신호 또는 캐리어 파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는, 본 개시에서 설명된 기술들의 구현을 위해 명령들, 코드 및/또는 데이터 구조들을 취출하기 위하여 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수 있다.

비한정적 예로서, 이러한 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 저장, 자기 디스크 저장 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 명령 또는 데이터 구조의 형태로 원하는 프로그램 코드를 저장하는데 사용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다. 예를 들어, 명령들이 동축 케이블, 광섬유 케이블, 연선 (twisted pair), 디지털 가입자 라인 (DSL), 또는 적외선, 전파 (radio), 및 마이크로파와 같은 무선 기술을 사용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되면, 그 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 전파, 및 마이크로파와 같은 무선 기술은 매체의 정의 내에 포함된다. 하지만, 컴퓨터 판독가능 저장 매체 및 데이터 저장 매체는 접속, 캐리어 파, 신호 또는 다른 일시적 매체를 포함하는 것이 아니라, 대신에 비일시적, 유형의 저장 매체에 관한 것이 이해되야 한다. 여기에 사용된 바와 같이, 디스크 (disk) 및 디스크 (disc) 는 콤팩트 디스크 (CD), 레이저 디스크, 광 디스크, DVD (digital versatile disc), 플로피 디스크 및 블루레이 디스크를 포함하며, 여기서, 디스크 (disk) 는 보통 데이터를 자기적으로 재생하지만, 디스크 (disc) 는 레이저를 이용하여 광학적으로 데이터를 재생한다. 또한, 상기의 조합은 컴퓨터 판독가능 매체의 범위 내에 포함되어야 한다.

명령들은 하나 이상의 프로세서, 이를테면 하나 이상의 DSP (digital signal processor), 범용 마이크로프로세서, ASIC (application specific integrated circuit), FPGA (field programmable logic array), 또는 다른 동등한 집적 또는 이산 로직 회로에 의해 실행될 수도 있다. 따라서, 본원에 사용된 용어 "프로세서" 는 이전 구조 중 임의의 것 또는 본원에 설명된 기술들의 구현에 적합한 임의의 다른 구조를 지칭할 수도 있다. 추가로, 일부 양태들에서, 여기서 설명된 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공되거나 또는 결합된 코덱에 포함될 수도 있다. 또한, 그 기법들은 하나 이상의 회로 또는 로직 엘리먼트들에서 완전히 구현될 수 있다.

본 개시의 기법들은 무선 핸드셋, 집적 회로 (IC) 또는 IC 들의 세트 (예를 들면, 칩 세트) 를 포함하여, 폭넓게 다양한 디바이스들 또는 장치들에서 구현될 수도 있다. 다양한 컴포넌트들, 모듈들 또는 유닛들이, 개시된 기술들을 수행하도록 구성된 디바이스들의 기능적인 양태들을 강조하기 위하여 본 개시에 설명되었지만, 다른 하드웨어 유닛들에 의한 실현을 반드시 필요로 하는 것은 아니다. 오히려, 전술된 바처럼, 다양한 유닛들이 코덱 하드웨어 유닛에 결합될 수도 있거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 전술된 하나 이상의 프로세서들을 포함하는 연동적인 (interoperative) 하드웨어 유닛들의 집합에 의해 제공될 수도 있다.

다양한 예들이 설명되었다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims (49)

1. 비디오 데이터를 표출하는 방법으로서,
   상기 비디오 데이터에 대한 정수 값을 결정하는 단계;
   제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 단계로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하는 단계; 및
   결정된 상기 차이 값에 따라 상기 제 1 화상 및 상기 제 2 화상을 표출하는 단계
   를 포함하는, 비디오 데이터를 표출하는 방법.
2. 제 1 항에 있어서,
   상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하는 단계를 더 포함하고, 상기 정수 값을 결정하는 단계는 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여, 상기 정수 값을 정의하는 데이터를 디코딩하는 단계를 포함하는, 비디오 데이터를 표출하는 방법.
3. 제 2 항에 있어서,
   상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 것을 결정하는 단계는, fixed_pic_rate_flag 가 상기 시간 계층은 상기 일정한 화상 레이트를 갖는 것을 나타내는 값을 갖는다는 것을 결정하는 단계를 포함하는, 비디오 데이터를 표출하는 방법.
4. 제 2 항에 있어서,
   각각의 일정한 화상 레이트를 갖는 각 시간 계층에 대해, 개별적으로 시그널링된 정수 값을 결정하는 단계; 및
   각각의 일정한 화상 레이트를 갖는 상기 시간 계층들의 각각의 화상들을, 각각의 정수 값 곱하기 상기 클록 틱 값 및 상기 화상들의 프리젠테이션 시간들 사이의 차이에 따라, 표출하는 단계를 더 포함하는, 비디오 데이터를 표출하는 방법.
5. 제 1 항에 있어서,
   상기 클록 틱 값을 결정하는 단계는 시간 스케일 값을 결정하는 단계를 포함하는, 비디오 데이터를 표출하는 방법.
6. 제 1 항에 있어서,
   상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고, 상기 방법은:
   보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하는 단계; 및
   상기 제 2 차이 값에 기초하여 상기 보다 낮은 시간 계층의 화상들을 표출하는 단계를 더 포함하는, 비디오 데이터를 표출하는 방법.
7. 제 1 항에 있어서,
   상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비디오 데이터를 표출하는 방법.
8. 비디오 데이터를 표출하기 위한 디바이스로서,
   프로세서를 포함하고 상기 프로세서는 상기 비디오 데이터에 대한 정수 값을 결정하고, 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 것으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하고, 결정된 상기 차이 값에 따라 상기 제 1 화상과 상기 제 2 화상을 표출하도록 구성되는, 비디오 데이터를 표출하기 위한 디바이스.
9. 제 8 항에 있어서,
   상기 정수 값을 결정하기 위하여, 상기 프로세서는 상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하고, 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여, 상기 정수 값을 정의하는 데이터를 디코딩하도록 구성되는, 비디오 데이터를 표출하기 위한 디바이스.
10. 제 9 항에 있어서,
    상기 프로세서는, fixed_pic_rate_flag 가 상기 시간 계층은 상기 일정한 화상 레이트를 갖는 것을 나타내는 값을 갖는다는 것을 결정하도록 구성되는, 비디오 데이터를 표출하기 위한 디바이스.
11. 제 9 항에 있어서,
    상기 프로세서는 또한, 각각의 일정한 화상 레이트를 갖는 각 시간 계층에 대해, 개별적으로 시그널링된 정수 값을 결정하고, 각각의 일정한 화상 레이트를 갖는 상기 시간 계층들의 각각의 화상들을, 각각의 정수 값 곱하기 상기 클록 틱 값 및 상기 화상들의 프리젠테이션 시간들 사이의 차이에 따라, 표출하도록 구성되는, 비디오 데이터를 표출하기 위한 디바이스.
12. 제 8 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 상기 최고 시간 계층에 포함되고, 상기 프로세서는 또한, 보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 및 상기 클록 틱 값에 따라, 결정하고, 상기 제 2 차이 값에 기초하여 상기 보다 낮은 시간 계층의 화상들을 표출하도록 구성되는, 비디오 데이터를 표출하기 위한 디바이스.
13. 제 8 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
14. 비디오 데이터를 표출하기 위한 디바이스로서,
    상기 비디오 데이터에 대한 정수 값을 결정하는 수단;
    제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하는 수단으로서, 상기 차이 값은 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하는 수단; 및
    결정된 상기 차이 값에 따라 상기 제 1 화상 및 상기 제 2 화상을 표출하는 수단
    을 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
15. 제 14 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하는 수단을 더 포함하고, 상기 정수 값을 결정하는 수단은 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여, 상기 정수 값을 정의하는 데이터를 디코딩하는 수단을 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
16. 제 15 항에 있어서,
    상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 것을 결정하는 수단은, fixed_pic_rate_flag 가 상기 시간 계층은 상기 일정한 화상 레이트를 갖는 것을 나타내는 값을 갖는다는 것을 결정하는 수단을 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
17. 제 15 항에 있어서,
    각각의 일정한 화상 레이트를 갖는 각 시간 계층에 대해, 개별적으로 시그널링된 정수 값을 결정하는 수단; 및
    각각의 일정한 화상 레이트를 갖는 상기 시간 계층들의 각각의 화상들을, 각각의 정수 값 곱하기 상기 클록 틱 값 및 상기 화상들의 프리젠테이션 시간들 사이의 차이에 따라, 표출하는 수단을 더 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
18. 제 14 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고, 상기 디바이스는:
    보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하는 수단; 및
    상기 제 2 차이 값에 기초하여 상기 보다 낮은 시간 계층의 화상들을 표출하는 수단을 더 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
19. 제 14 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비디오 데이터를 표출하기 위한 디바이스.
20. 실행될 때 프로세서로 하여금
    비디오 데이터에 대한 정수 값을 결정하게 하고;
    제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이 값을 결정하게 하는 것으로서, 상기 차이 값은 상기 정수 값 곱하기 클록 틱 값과 동일한, 상기 차이 값을 결정하게 하고;
    결정된 상기 차이 값에 따라 상기 제 1 화상 및 상기 제 2 화상을 표출하게 하는 명령들이 저장된, 컴퓨터 판독가능 저장 매체.
21. 제 20 항에 있어서,
    상기 프로세서로 하여금 상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하게 하는 명령들을 더 포함하고, 상기 프로세서로 하여금 상기 정수 값을 결정하게 하는 명령들은 상기 프로세서로 하여금 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여, 상기 정수 값을 정의하는 데이터를 디코딩하게 하는 명령들을 포함하는, 컴퓨터 판독가능 저장 매체.
22. 제 21 항에 있어서,
    상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 것을 결정하는 것은, fixed_pic_rate_flag 가 상기 시간 계층은 상기 일정한 화상 레이트를 갖는 것을 나타내는 값을 갖는다는 것을 결정하는 것을 포함하는, 컴퓨터 판독가능 저장 매체.
23. 제 21 항에 있어서,
    상기 프로세서로 하여금,
    각각의 일정한 화상 레이트를 갖는 각 시간 계층에 대해, 개별적으로 시그널링된 정수 값을 결정하게 하고;
    각각의 일정한 화상 레이트를 갖는 상기 시간 계층들의 각각의 화상들을, 각각의 정수 값 곱하기 상기 클록 틱 값 및 상기 화상들의 프리젠테이션 시간들 사이의 차이에 따라, 표출하게 하는 명령들을 더 포함하는, 컴퓨터 판독가능 저장 매체.
24. 제 20 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고, 상기 프로세서로 하여금,
    보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하게 하고;
    상기 제 2 차이 값에 기초하여 상기 보다 낮은 시간 계층의 화상들을 표출하게 하는 명령들을 더 포함하는, 컴퓨터 판독가능 저장 매체.
25. 제 20 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 컴퓨터 판독가능 저장 매체.
26. 비디오 데이터를 포함하는 비트스트림을 생성하는 방법으로서,
    제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수배인지 여부를 나타내는 데이터를 생성하는 단계; 및
    상기 데이터가 상기 차이는 상기 클록 틱 값의 정수배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하는 단계
    를 포함하는, 비트스트림을 생성하는 방법.
27. 제 26 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하는 단계를 더 포함하고, 상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하는 단계는 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여 상기 차이가 상기 정수 배인 것을 나타내기 위해 상기 데이터를 생성하는 단계를 포함하는, 비트스트림을 생성하는 방법.
28. 제 27 항에 있어서,
    상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하는 단계는 fixed_pic_rate_flag 신택스 엘리먼트를 생성하는 단계를 포함하는, 비트스트림을 생성하는 방법.
29. 제 27 항에 있어서,
    다양한 시간 계층들에 대해 각각의 일정한 화상 레이트를 결정하는 단계; 및
    상기 시간 계층들의 각각에 대해, 상기 각각의 일정한 화상 레이트를 나타내는 데이터를 시그널링하는 단계를 더 포함하는, 비트스트림을 생성하는 방법.
30. 제 26 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고, 상기 방법은:
    보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하는 단계; 및
    상기 제 2 정수 값을 나타내는 데이터를 생성하는 단계를 더 포함하는, 비트스트림을 생성하는 방법.
31. 제 26 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비트스트림을 생성하는 방법.
32. 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스로서,
    프로세서를 포함하고
    상기 프로세서는 제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수 배인지 여부를 나타내는 데이터를 생성하고, 상기 데이터는 상기 차이가 상기 클록 틱 값의 상기 정수 배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하도록 구성되는, 비트스트림을 생성하기 위한 디바이스.
33. 제 32 항에 있어서,
    상기 프로세서는 또한 상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하도록 구성되고, 상기 프로세서는 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여 상기 차이가 상기 정수 배인 것을 나타내기 위해 상기 데이터를 생성하도록 구성되는, 비트스트림을 생성하기 위한 디바이스.
34. 제 33 항에 있어서,
    상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하기 위하여, 상기 프로세서는 fixed_pic_rate_flag 신택스 엘리먼트에 대한 값을 생성하도록 구성되는, 비트스트림을 생성하기 위한 디바이스.
35. 제 33 항에 있어서,
    상기 프로세서는 또한, 다양한 시간 계층들에 대해 각각의 일정한 화상 레이트를 결정하고, 상기 시간 계층들의 각각에 대해, 상기 각각의 일정한 화상 레이트를 나타내는 데이터를 시그널링하도록 구성되는, 비트스트림을 생성하기 위한 디바이스.
36. 제 32 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고, 상기 프로세서는 또한, 보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 및 상기 클록 틱 값에 따라, 결정하고, 상기 제 2 정수 값을 나타내는 데이터를 생성하도록 구성되는, 비트스트림을 생성하기 위한 디바이스.
37. 제 32 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비트스트림을 생성하기 위한 디바이스.
38. 비디오 데이터를 포함하는 비트스트림을 생성하기 위한 디바이스로서,
    제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수배인지 여부를 나타내는 데이터를 생성하는 수단; 및
    상기 데이터가 상기 차이는 상기 클록 틱 값의 정수배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하는 수단
    을 포함하는, 비트스트림을 생성하기 위한 디바이스.
39. 제 38 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하는 수단을 더 포함하고, 상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하는 것은 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여 상기 차이가 상기 정수 배인 것을 나타내기 위해 상기 데이터를 생성하는 것을 포함하는, 비트스트림을 생성하기 위한 디바이스.
40. 제 39 항에 있어서,
    상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하는 수단은 fixed_pic_rate_flag 신택스 엘리먼트를 생성하는 수단을 포함하는, 비트스트림을 생성하기 위한 디바이스.
41. 제 39 항에 있어서,
    다양한 시간 계층들에 대해 각각의 일정한 화상 레이트를 결정하는 수단; 및
    상기 시간 계층들의 각각에 대해, 상기 각각의 일정한 화상 레이트를 나타내는 데이터를 시그널링하는 수단을 더 포함하는, 비트스트림을 생성하기 위한 디바이스.
42. 제 38 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고,
    보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하는 수단; 및
    상기 제 2 정수 값을 나타내는 데이터를 생성하는 수단을 더 포함하는, 비트스트림을 생성하기 위한 디바이스.
43. 제 38 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 비트스트림을 생성하기 위한 디바이스.
44. 실행될 때 프로세서로 하여금,
    제 1 화상의 프리젠테이션 시간과 제 2 화상의 프리젠테이션 시간 사이의 차이가 클록 틱 값의 정수배인지 여부를 나타내는 데이터를 생성하게 하고;
    상기 데이터가 상기 차이는 상기 클록 틱 값의 정수배인 것을 나타낼 때, 상기 정수 배를 나타내는 데이터를 생성하게 하는 명령들이 저장된, 컴퓨터 판독가능 저장 매체.
45. 제 44 항에 있어서,
    상기 프로세서로 하여금 상기 제 1 화상 및 상기 제 2 화상을 포함하는 시간 계층이 일정한 화상 레이트를 갖는다는 것을 결정하게 하는 명령들을 더 포함하고, 상기 프로세서로 하여금 상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하게 하는 명령들은 상기 프로세서로 하여금 상기 시간 계층이 상기 일정한 화상 레이트를 갖는다는 결정에 기초하여 상기 차이가 상기 정수 배인 것을 나타내기 위해 상기 데이터를 생성하게 하는 명령들을 포함하는, 컴퓨터 판독가능 저장 매체.
46. 제 45 항에 있어서,
    상기 프로세서로 하여금 상기 데이터는 상기 차이가 상기 정수 배인지 여부를 나타내는 상기 데이터를 생성하게 하는 명령들은 상기 프로세서로 하여금 fixed_pic_rate_flag 신택스 엘리먼트를 생성하게 하는 명령들을 포함하는, 컴퓨터 판독가능 저장 매체.
47. 제 45 항에 있어서,
    상기 프로세서로 하여금,
    다양한 시간 계층들에 대해 각각의 일정한 화상 레이트를 결정하게 하고;
    상기 시간 계층들의 각각에 대해, 상기 각각의 일정한 화상 레이트를 나타내는 데이터를 시그널링하게 하는 명령들을 더 포함하는, 컴퓨터 판독가능 저장 매체.
48. 제 44 항에 있어서,
    상기 제 1 화상 및 상기 제 2 화상은 최고 시간 계층에 포함되고,
    상기 프로세서로 하여금,
    보다 낮은 시간 계층에서의 제 3 화상의 프리젠테이션 시간과 제 4 화상의 프리젠테이션 시간 사이의 제 2 차이 값을, 상기 최고 시간 계층과 연관된 시간 계층 식별 값, 상기 보다 낮은 시간 계층에 대한 제 2 정수 값, 그리고 상기 클록 틱 값에 기초하여, 결정하게 하고;
    상기 제 2 정수 값을 나타내는 데이터를 생성하게 하는 명령들을 더 포함한, 컴퓨터 판독가능 저장 매체.
49. 제 44 항에 있어서,
    상기 제 1 화상에 대한 상기 프리젠테이션 시간은 제 1 POC (picture order count) 값을 포함하고, 상기 제 2 화상에 대한 상기 프리젠테이션 시간은 제 2 POC 값을 포함하는, 컴퓨터 판독가능 저장 매체.

Images