KR101951615B1 - 멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬 - Google Patents

멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬 Download PDF

Info

Publication number
KR101951615B1
KR101951615B1 KR1020187010288A KR20187010288A KR101951615B1 KR 101951615 B1 KR101951615 B1 KR 101951615B1 KR 1020187010288 A KR1020187010288 A KR 1020187010288A KR 20187010288 A KR20187010288 A KR 20187010288A KR 101951615 B1 KR101951615 B1 KR 101951615B1
Authority
KR
South Korea
Prior art keywords
samples
operating point
sample
file
track
Prior art date
Application number
KR1020187010288A
Other languages
English (en)
Other versions
KR20180068979A (ko
Inventor
프누 헨드리
예-쿠이 왕
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20180068979A publication Critical patent/KR20180068979A/ko
Application granted granted Critical
Publication of KR101951615B1 publication Critical patent/KR101951615B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Abstract

장치는 파일에서 동작 지점 참조 트랙을 그리고 파일에서 하나 이상의 추가적인 트랙들을 획득한다. 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 장치는 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정한다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다.

Description

멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬
본 출원은 2015년 10월 14일에 출원된 미국 가특허 출원번호 제 62/241,691호의 이익을 주장하며, 이의 전체 내용이 본원에 참고로 포함된다.
기술 분야
본 개시물은 비디오 인코딩 및 디코딩에 관한 것이다.
디지털 비디오 능력들은, 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대정보 단말기들 (PDAs), 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 리코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트폰들", 원격 화상회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, AVC (Advanced Video Coding), HEVC (High Efficiency Video Coding) 표준, 및 이런 표준들의 확장판들에 의해 정의된 표준들에서 설명되는 비디오 코딩 기법들과 같은, 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 이런 비디오 압축 기법들을 구현함으로써, 디지털 비디오 정보를 좀더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.
비디오 압축 기법들은 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 또는 제거하기 위해 공간 (인트라-픽처) 예측 및/또는 시간 (인터-픽처) 예측을 수행한다. 블록-기반 비디오 코딩에 있어, 비디오 슬라이스 (즉, 비디오 프레임 또는 비디오 프레임의 일부) 는 비디오 블록들로 파티셔닝될 수도 있다. 픽처의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 픽처의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측, 또는 다른 참조 픽처들에서의 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 픽처들은 프레임들로서 지칭될 수도 있다.
공간 또는 시간 예측은 코딩될 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩될 원래 블록과 예측 블록 사이의 픽셀 차이들을 나타낸다. 인터-코딩된 블록은 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터에 따라서 인코딩되며, 잔차 데이터는 코딩된 블록과 예측 블록 사이의 차이를 나타낸다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라서 인코딩된다. 추가적인 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 그 결과 잔차 계수들이 되고, 그후 양자화될 수도 있다.
일반적으로, 본 개시물은 ISO 기반의 미디어 파일 포맷들 및 이에 기초하여 파생된 파일 포맷들에서의 비디오 콘텐츠의 저장에 관한 것이다. 좀더 구체적으로, 본 개시물은 파일 내 트랙들의 샘플들이 정렬되지 않을 때 동작 지점 샘플 그룹을 정의하는 기법들을 설명한다. 용어들 "동작 지점" 및 "동작하는 지점" 은 본 문서에서 상호교환가능하게 사용된다는 점에 유의한다.
일 예에서, 본 개시물은 파일을 프로세싱하는 방법을 설명하며, 상기 방법은 파일에서 동작 지점 참조 트랙을 획득하는 단계로서, 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하는 단계; 파일에서 하나 이상의 추가적인 트랙들을 획득하는 단계로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하는 단계; 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 단계로서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 결정하는 단계; 및 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하는 단계를 포함한다.
다른 예에서, 본 개시물은 파일을 발생시키는 방법을 설명하며, 상기 방법은 파일에서 동작 지점 참조 트랙을 발생시키는 단계로서, 동작 지점 참조 트랙을 발생시키는 단계는 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 단계를 포함하는, 상기 동작 지점 참조 트랙을 발생시키는 단계; 및 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 단계로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키는 단계를 포함한다.
다른 예에서, 본 개시물은 파일을 프로세싱하는 장치를 설명하며, 상기 장치는 파일을 저장하도록 구성된 메모리; 및 메모리에 커플링된 하나 이상의 프로세서들을 포함하며, 하나 이상의 프로세서들은, 파일에서 동작 지점 참조 트랙을 획득하는 것으로서, 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하고; 파일에서 하나 이상의 추가적인 트랙들을 획득하는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하고; 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 것으로서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 결정하고; 그리고 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하도록 구성된다.
다른 예에서, 본 개시물은 파일을 발생시키는 장치를 설명하며, 상기 장치는 파일을 저장하도록 구성된 메모리; 및 메모리에 커플링된 하나 이상의 프로세서들을 포함하며, 하나 이상의 프로세서들은, 파일에서 동작 지점 참조 트랙을 발생시키는 것으로서, 동작 지점 참조 트랙을 발생시키는 것은 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 것을 포함하는, 상기 동작 지점 참조 트랙을 발생시키고; 그리고 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며, 동작 지점 정보 샘플 그룹은, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키도록 구성된다.
다른 예에서, 본 개시물은 파일을 프로세싱하는 장치를 설명하며, 상기 장치는 파일에서 동작 지점 참조 트랙을 획득하는 수단으로서, 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하는 수단; 파일에서 하나 이상의 추가적인 트랙들을 획득하는 수단으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하는 수단; 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 수단으로서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 결정하는 수단; 및 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하는 수단을 포함한다.
다른 예에서, 본 개시물은 파일을 발생시키는 장치를 설명하며, 상기 장치는, 파일에서 동작 지점 참조 트랙을 발생시키는 수단으로서, 동작 지점 참조 트랙을 발생시키는 것은 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 것을 포함하는, 상기 동작 지점 참조 트랙을 발생시키는 수단; 및 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 수단으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키는 수단을 포함한다.
다른 예에서, 본 개시물은 명령들을 저장하는 컴퓨터-판독가능 저장 매체를 설명하며, 상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금, 파일에서 동작 지점 참조 트랙을 획득하는 것으로서, 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하고; 파일에서 하나 이상의 추가적인 트랙들을 획득하는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하고; 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 것으로서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 결정하고; 그리고 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하게 한다.
다른 예에서, 본 개시물은 명령들을 저장하는 컴퓨터-판독가능 저장 매체를 설명하며, 상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금, 파일에서 동작 지점 참조 트랙을 발생시키는 것으로서, 동작 지점 참조 트랙을 발생시키는 것이 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 것을 포함하는, 상기 동작 지점 참조 트랙을 발생시키고; 그리고 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며, 동작 지점 정보 샘플 그룹은, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플이 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키게 한다.
본 개시물의 하나 이상의 예들의 세부 사항들은 첨부도면 및 아래의 설명에서 개시된다. 다른 특징들, 목적들, 및 이점들은 상세한 설명, 도면들, 및 청구범위로부터 명백할 것이다.
도 1 은 본 개시물에서 설명하는 기법들을 이용할 수도 있는 예시적인 비디오 코딩 시스템을 예시하는 블록도이다.
도 2 는 'oinf' 샘플 그룹들의 커버리지의 일 예를 예시하는 개념도이다.
도 3 은 상이한 프레임 레이트의 트랙들을 처리할 때 예시적인 'oinf' 샘플 그룹 문제를 예시하는 개념도이다.
도 4 는 어떤 시간 기간 동안 'sbas' 에서 어떤 샘플도 처리하지 않을 때 예시적인 'oinf' 샘플 그룹 문제를 예시하는 개념도이다.
도 5 는 예시적인 비디오 인코더를 예시하는 블록도이다.
도 6 은 예시적인 비디오 디코더를 예시하는 블록도이다.
도 7 은 본 개시물의 하나 이상의 기법들에 따른, 예시적인 파일의 구조들을 예시하는 블록도이다.
도 8 은 본 개시물의 하나 이상의 기법들에 따른, 예시적인 파일의 구조들을 예시하는 개념도이다.
도 9 는 본 개시물의 하나 이상의 기법들에 따른, 더미 샘플 엔트리를 포함하는 예시적인 파일의 구조들을 예시하는 블록도이다.
도 10 은 본 개시물의 하나 이상의 기법들에 따른, 샘플 엔트리들이 동작 지점 인덱스들을 포함하는 예시적인 파일의 구조들을 예시하는 블록도이다.
도 11 은 본 개시물의 기법에 따른, 파일을 프로세싱하는 디바이스의 예시적인 동작을 예시하는 플로우차트이다.
도 12 는 본 개시물의 기법에 따른, 파일을 프로세싱하는 디바이스의 예시적인 동작을 예시하는 플로우차트이다.
일반적으로, 본 개시물은 L-HEVC (Layered High Efficiency Video Coding) 비트스트림들과 같은, 인코딩된 비디오 데이터의 멀티-계층 비트스트림들을 저장하기 위해 파일들을 발생시키고 프로세싱하는 기법들에 관한 것이다. 멀티-계층 비트스트림은 다수의 계층들을 포함한다. 각각의 계층은 상이한 출력 시간들에서 발생하는 인코딩된 픽처들의 시퀀스를 포함한다. 스케일러블 비디오 코딩의 경우에, 멀티-계층 비트스트림의 계층들은 기초 계층 및 하나 이상의 향상 계층들을 포함할 수도 있다. 기초 계층은 향상 계층들 중 임의의 향상 계층을 참조함이 없이 디코딩가능하다. 향상 계층들은 기초 계층의 픽처들을 공간적으로 또는 시간적으로 향상시킬 수도 있다. 예를 들어, 향상 계층은 기초 계층보다 더 높은 프레임 레이트를 가질 수도 있다. 따라서, 향상 계층은 출력 시간에 대한 인코딩된 픽처를 포함할 수도 있으며, 기초 계층은 그 출력 시간에 대한 인코딩된 픽처를 포함하지 않는다. 멀티-계층 비트스트림의 제 1 계층이 출력 시간에서의 인코딩된 픽처를 포함하고 멀티-계층 비트스트림의 제 2 계층이 출력 시간에 대한 인코딩된 픽처를 포함하지 않는 경우에, 제 1 계층에서의 인코딩된 픽처가 제 2 계층에서의 인코딩된 픽처와 정렬되지 않는다고 한다. 멀티-뷰 비디오 코딩에서, 멀티-계층 비트스트림의 계층들은 상이한 뷰들에서의 인코딩된 픽처들에 대응할 수도 있다.
멀티-계층 비트스트림의 동작 지점은 멀티-계층 비트스트림에서의 하나 이상의 계층들의 세트 및 최대 시간 식별자에 의해 정의될 수도 있다. 예를 들어, 특정의 동작 지점은 멀티-계층 비트스트림에서의 계층들의 전체 세트의 특정의 서브세트 및 멀티-계층 비트스트림에서의 최대 시간 식별자보다 작거나 또는 같은 최대 시간 식별자로서 정의될 수도 있다. 멀티-계층 비트스트림의 동작 지점에서의 인코딩된 픽처들은 동작 지점에 있지 않은 멀티-계층 비트스트림의 인코딩된 픽처들을 디코딩함이 없이 디코딩될 수도 있다.
동작 지점들은 다양한 이유들로 유용하다. 예를 들어, 디바이스는 동작 지점에 있지 않은 멀티-계층 비트스트림의 부분들을 포워딩하지 않으면서 멀티-계층 비트스트림의 특정의 동작 지점을 클라이언트 디바이스로 포워딩하도록 선택할 수도 있다. 그 결과, 포워딩되는 데이터의 양이 감소될 수도 있다. 이것은 대역폭 구속 환경들에서 바람직할 수도 있다. 더욱이, 동일한 멀티-계층 비트스트림의 상이한 동작 지점들은 상이한 디코더 능력들이 수행될 것을 요구할 수도 있다. 따라서, 디코더가 동일한 멀티-계층 비트스트림의 제 2 동작 지점이 아닌, 멀티-계층 비트스트림의 제 1 동작 지점을 디코딩하는 것이 가능하면, 제 1 동작 지점에 있지 않은 제 2 동작 지점에서의 멀티-계층 비트스트림의 데이터를 전송하는 것은 낭비적일 수도 있다.
국제 표준 기구 (ISO) 기본 미디어 파일 포맷은 오디오 및 비디오 데이터와 같은, 미디어 데이터의 저장을 위한 파일 포맷이다. ISO 기본 미디어 파일 포맷은 특정의 시나리오들에 대해 확장되었다. 예를 들어, L-HEVC 비트스트림들의 저장을 위해 ISO 기본 미디어 파일 포맷을 확장하려는 노력이 진행 중에 있다. ISO 기본 미디어 파일 포맷에서, 미디어 데이터는 하나 이상의 트랙들로 편성될 수 있다. 더욱이, ISO 기본 미디어 파일 포맷 및 그 확장판들에서, 용어 "샘플" 은 비디오 액세스 유닛 또는 오디오 액세스 유닛과 같은, 미디어 액세스 유닛에 적용된다. 그러나, 코덱 레벨에서, 용어 "샘플" 은 픽셀의 칼라 성분의 값에 적용될 수도 있다. 비디오 액세스 유닛은 동일한 출력 시간을 가지는 하나 이상의 인코딩된 픽처들을 포함할 수도 있다. 상이한 트랙들은 멀티-계층 비트스트림의 상이한 계층들의 인코딩된 픽처들을 포함하는 샘플들을 포함할 수도 있다. 일부의 경우, 트랙은 멀티-계층 비트스트림의 2개 이상의 계층들의 인코딩된 픽처들을 포함하는 샘플들을 포함할 수도 있다. 다른 경우, 트랙은 단지 멀티-계층 비트스트림의 단일 계층의 코딩된 픽처들만을 포함하는 샘플들을 포함할 수도 있다.
ISO 기본 미디어 파일 포맷은 샘플들을 "샘플 그룹들" 로 그룹화하는 메커니즘을 제공한다. 예를 들어, ISO 기본 미디어 파일 포맷은 서로 안에 네스트될 수도 있는 "박스들" 로서 지칭되는 데이터 구조들로 구조화된다. 파일의 박스들은 파일의 트랙들에 대한 트랙 박스들을 포함할 수도 있다. 트랙에 대한 트랙 박스는 트랙에 관한 메타데이터를 포함한다. 예를 들어, 트랙 박스는 샘플 그룹의 설명을 각각 포함하는 샘플 그룹 설명 엔트리들의 세트를 포함하는 샘플 설명 박스를 포함할 수도 있다. 추가적으로, 트랙에 대한 트랙 박스는 트랙에서의 샘플들의 세트를 표시하고 샘플 그룹 설명 엔트리 박스에서의 샘플 그룹 설명 엔트리의 인덱스를 규정함으로써 그 표시된 샘플들이 속하는 샘플 그룹을 규정하는 샘플-대-그룹 박스를 포함할 수도 있다.
L-HEVC 에 대한 ISO 기본 미디어 파일 포맷의 확장판의 초안은 동작 지점 정보 샘플 그룹을 제공한다. 동작 지점 정보 샘플 그룹에 속하는 샘플들은 동작 지점의 인코딩된 픽처들을 포함하는 샘플들을 포함한다. 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리는 동작 지점의 출력 계층 세트, 동작 지점의 최대 시간 식별자, 및 동작 지점에 대한 프로파일, 티어, 및 레벨 정보의 임의의 조합과 같은, 동작 지점에 대한 정보를 규정할 수도 있다. 파일에 동작 지점 정보 샘플 그룹을 규정하는 것은 디바이스로 하여금, L-HEVC 데이터와 같은, 하부의 인코딩된 비디오 데이터를 해석할 필요 없이 파일로부터 동작 지점을 추출가능하게 할 수도 있다. 이와 같이, 전술한 것은 디바이스를 단순화하고 반응성을 증가시킬 수도 있다.
L-HEVC 에 대한 ISO 기본 미디어 파일 포맷의 확장판의 초안은 파일에서의 샘플-대-그룹 박스들 및 샘플 그룹 설명 박스들이 파일의 오직 하나의 트랙 (즉, 동작 지점 참조 트랙) 에 대한 메타데이터에 포함되도록 규정한다. 위에서 언급한 바와 같이, 트랙에 대한 트랙 박스에서의 샘플-대-그룹 박스는 트랙에서의 샘플들을 규정한다. 그러나, 또한 위에서 언급한 바와 같이, 멀티-계층 비트스트림의 계층들은 상이한 트랙들에 포함될 수도 있으며, 계층들은 비-정렬된 인코딩된 픽처들을 포함할 수도 있다. 따라서, 동작 지점 참조 트랙에 대한 트랙 박스 내 샘플-대-그룹 박스는 추가적인 트랙들의 특정의 샘플들이 동작 지점 정보 샘플 그룹에 있다는 것을 표시불가능할 수도 있다. 예를 들어, 동작 지점 참조 트랙이 출력 시간들 1, 3, 및 5 에서의 샘플들을 포함하고 추가적인 트랙이 출력 시간들 1, 2, 3, 4, 5, 및 6 에서의 샘플들을 포함할 때, 샘플-대-그룹 박스는 출력 시간 6 에서의 추가적인 트랙의 샘플 내의 인코딩된 픽처들이 적절하게 동작 지점 샘플 그룹이 대응하는 동작 지점의 부분임에도 불구하고, 출력 시간 6 에서의 추가적인 트랙의 샘플이 동작 지점 샘플 그룹의 부분이라고 규정할 수 없을 수도 있다. 그 결과, 디바이스는 파일로부터 동작 지점을 적절하게 추출할 수 없을 수도 있다. 본 개시물에서, 트랙이 샘플 그룹에 속하는 샘플들을 포함할 때 트랙이 샘플 그룹을 포함한다고 할 수도 있다.
본 개시물은 이 문제를 해결하는 다양한 기법들을 설명한다. 예를 들어, 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 디바이스는 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정할 수도 있다. 이 예에서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 더욱이, 이 예에서, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 따라서, 이전 단락의 예에서, 출력 시간 6 에서의 추가적인 트랙의 샘플은 동작 지점 샘플 그룹의 부분으로 고려될 것이다.
도 1 은 본 개시물의 기법들을 이용할 수도 있는 예시적인 비디오 코딩 시스템 (10) 을 예시하는 블록도이다. 본원에서 사용될 때, 용어 "비디오 코더" 는 비디오 인코더들 및 비디오 디코더들 양쪽을 포괄적으로 지칭한다. 본 개시물에서, 용어들 "비디오 코딩" 또는 "코딩" 은 비디오 인코딩 또는 비디오 디코딩을 포괄적으로 지칭할 수도 있다.
도 1 에 나타낸 바와 같이, 비디오 코딩 시스템 (10) 은 소스 디바이스 (12) 및 목적지 디바이스 (14) 를 포함한다. 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 발생한다. 따라서, 소스 디바이스 (12) 는 비디오 인코딩 디바이스 또는 비디오 인코딩 장치로서 지칭될 수도 있다. 목적지 디바이스 (14) 는 소스 디바이스 (12) 에 의해 발생된 인코딩된 비디오 데이터를 디코딩할 수도 있다. 따라서, 목적지 디바이스 (14) 는 비디오 디코딩 디바이스 또는 비디오 디코딩 장치로서 지칭될 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 비디오 코딩 디바이스들 또는 비디오 코딩 장치들의 예들일 수도 있다. 본 개시물은 비디오 데이터를 프로세싱하는 디바이스를 지칭하기 위해 "비디오 프로세싱 디바이스" 를 사용한다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 비디오 프로세싱 디바이스의 예들이다. 다른 유형들의 비디오 프로세싱 디바이스들은 MPEG-2 데이터 스트림들과 같은, 미디어 데이터를 멀티플렉싱하고 디멀티플렉싱하는 디바이스들을 포함한다.
소스 디바이스 (12) 및 목적지 디바이스 (14) 는 데스크탑 컴퓨터들, 모바일 컴퓨팅 디바이스들, 노트북 (예컨대, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋-탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 자동차용 컴퓨터들, 또는 기타 등등을 포함한, 광범위한 디바이스들을 포함할 수도 있다.
목적지 디바이스 (14) 는 소스 디바이스 (12) 로부터 채널 (16) 을 통해서 인코딩된 비디오 데이터를 수신할 수도 있다. 채널 (16) 은 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시키는 것이 가능한 하나 이상의 매체들 또는 디바이스들을 포함할 수도 있다. 일 예에서, 채널 (16) 은 소스 디바이스 (12) 로 하여금, 인코딩된 비디오 데이터를 직접 목적지 디바이스 (14) 로 실시간으로 송신가능하게 하는 하나 이상의 통신 매체들을 포함할 수도 있다. 이 예에서, 소스 디바이스 (12) 는 무선 통신 프로토콜과 같은 통신 표준에 따라서, 인코딩된 비디오 데이터를 변조할 수도 있으며, 변조된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수도 있다. 하나 이상의 통신 매체들은 무선 및/또는 유선 통신 매체들, 예컨대 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적인 송신 라인들을 포함할 수도 있다. 하나 이상의 통신 매체들은 근거리 네트워크, 광역 네트워크, 또는 글로벌 네트워크 (예컨대, 인터넷) 와 같은, 패킷-기반 네트워크의 일부를 형성할 수도 있다. 하나 이상의 통신 매체들은 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는 다른 장비를 포함할 수도 있다.
또 다른 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 발생되는 인코딩된 비디오 데이터를 저장하는 저장 매체를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 저장 매체에, 예컨대, 디스크 액세스 또는 카드 액세스를 통해서, 액세스할 수도 있다. 저장 매체는 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 다른 적합한 디지털 저장 매체들과 같은 다양한 로컬-액세스되는 데이터 저장 매체들을 포함할 수도 있다.
추가 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 발생된 인코딩된 비디오 데이터를 저장하는 파일 서버 또는 다른 중간 저장 디바이스를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해서 파일 서버 또는 다른 중간 저장 디바이스에 저장된 인코딩된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신가능한 서버의 유형일 수도 있다. 예시적인 파일 서버들은 (예컨대, 웹사이트용) 웹 서버들, 파일 전송 프로토콜 (FTP) 서버들, NAS (network attached storage) 디바이스들, 및 로컬 디스크 드라이브들을 포함한다. 파일 서버는 본 개시물의 기법에 따라서 파생된 파일에 저장된 인코딩된 비디오 데이터를 스트리밍할 수도 있다.
목적지 디바이스 (14) 는 인코딩된 비디오 데이터에 인터넷 접속과 같은 표준 데이터 접속을 통해서 액세스할 수도 있다. 데이터 접속들의 예시적인 유형들은 무선 채널들 (예컨대, Wi-Fi 접속들), 유선 접속들 (예컨대, DSL, 케이블 모뎀, 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하는데 적합한 양쪽의 조합들을 포함할 수도 있다. 파일 서버로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이 양쪽의 조합일 수도 있다.
본 개시물의 기법들은 무선 애플리케이션들 또는 환경들에 한정되지 않는다. 이 기법들은 다양한 멀티미디어 애플리케이션들, 예컨대, 오버-디-에어 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 예컨대, 인터넷을 통한 위성 텔레비전 송신들, 데이터 저장 매체 상의 저장을 위한 비디오 데이터의 인코딩, 데이터 저장 매체 상에 저장된 비디오 데이터의 디코딩, 또는 다른 애플리케이션들의 지원 하에, 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 비디오 코딩 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 전화 통신과 같은, 애플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 1 에 예시된 비디오 코딩 시스템 (10) 은 단지 일 예이며, 본 개시물의 기법들은 인코딩 디바이스와 디코딩 디바이스 사이의 임의의 데이터 통신을 반드시 포함하지 않는 비디오 코딩 환경들 (예컨대, 비디오 인코딩 또는 비디오 디코딩) 에 적용할 수도 있다. 다른 예들에서, 데이터는 로컬 메모리로부터 취출되어, 네트워크 등을 통해서 스트리밍된다. 비디오 인코딩 디바이스는 데이터를 인코딩하여 메모리에 저장할 수도 있거나, 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 취출하여 디코딩할 수도 있다. 많은 예들에서, 인코딩 및 디코딩은 서로 통신하지 않지만 간단히 데이터를 메모리로 인코딩하거나 및/또는 메모리로부터 데이터를 취출하여 디코딩하는 디바이스들에 의해 수행된다.
도 1 의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 일부 예들에서, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 포함할 수도 있다. 비디오 소스 (18) 는 비디오 캡쳐 디바이스, 예컨대, 비디오 카메라, 이전에-캡쳐된 비디오 데이터를 포함하는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오 데이터를 수신하는 비디오 공급 인터페이스, 및/또는 비디오 데이터를 생성하기 위한 컴퓨터 그래픽스 시스템, 또는 이런 비디오 데이터의 소스들의 조합을 포함할 수도 있다.
비디오 인코더 (20) 는 비디오 소스 (18) 로부터의 비디오 데이터를 인코딩할 수도 있다. 일부 예들에서, 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 출력 인터페이스 (22) 를 통해서 목적지 디바이스 (14) 로 직접 송신한다. 다른 예들에서, 인코딩된 비디오 데이터는 또한 디코딩 및/또는 플레이백을 위해 목적지 디바이스 (14) 에 의한 추후 액세스를 위해 저장 매체 또는 파일 서버 상으로 저장될 수도 있다.
도 1 의 예에서, 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 일부 예들에서, 입력 인터페이스 (28) 는 수신기 및/또는 모뎀을 포함한다. 입력 인터페이스 (28) 는 인코딩된 비디오 데이터를 채널 (16) 을 통해서 수신할 수도 있다. 디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나 또는 그 외부에 있을 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 디스플레이한다. 디스플레이 디바이스 (32) 는 다양한 디스플레이 디바이스들, 예컨대 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 또 다른 유형의 디스플레이 디바이스를 포함할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSPs), 주문형 집적 회로들 (ASICs), 필드-프로그래밍가능 게이트 어레이들 (FPGA들), 이산 로직, 하드웨어, 또는 임의의 이들의 조합들과 같은, 다양한 적합한 회로 중 임의의 회로로서 구현될 수도 있다. 기법들이 소프트웨어로 부분적으로 구현되면, 디바이스는 소프트웨어용 명령들을 적합한 비일시성 컴퓨터-판독가능 저장 매체에 저장할 수도 있으며, 본 개시물의 기법들을 수행하기 위해 그 명령들을 하드웨어에서 하나 이상의 프로세서들을 이용하여 실행할 수도 있다. (하드웨어, 소프트웨어, 하드웨어와 소프트웨어의 조합 등을 포함한) 전술한 것 중 임의의 것이 하나 이상의 프로세서들로 간주될 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있으며, 이들 중 어느 쪽이든 개별 디바이스에서 결합된 인코더/디코더 (CODEC) 의 일부분으로서 통합될 수도 있다.
본 개시물은 일반적으로 어떤 정보를 비디오 디코더 (30) 와 같은 또 다른 디바이스로 "시그널링하는" 또는 "송신하는" 비디오 인코더 (20) 를 참조할 수도 있다. 용어 "시그널링하는" 또는 "송신하는" 은 일반적으로, 압축된 비디오 데이터를 디코딩하는데 사용되는 신택스 엘리먼트들 및/또는 다른 데이터의 통신을 지칭할 수도 있다. 이런 통신은 실시간 또는 거의-실시간으로 일어날 수도 있다. 대안적으로, 이런 통신은 어떤 기간에 걸쳐서 일어날 수도 있으며, 예컨대 인코딩 시에 신택스 엘리먼트들을 컴퓨터-판독가능 저장 매체에 인코딩된 비트스트림으로 저장할 때에 발생할지도 모르며, 이 신택스 엘리먼트들은 그후 이 매체에 저장되어진 후 언제라도 디코딩 디바이스에 의해 취출될 수도 있다.
더욱이, 도 1 의 예에서, 비디오 코딩 시스템 (10) 은 파일 발생 디바이스 (34) 를 포함한다. 파일 발생 디바이스 (34) 는 소스 디바이스 (12) 에 의해 발생되는 인코딩된 비디오 데이터를 수신할 수도 있다. 파일 발생 디바이스 (34) 는 인코딩된 비디오 데이터를 포함하는 파일을 발생시킬 수도 있다. 목적지 디바이스 (14) 는 파일 발생 디바이스 (34) 에 의해 발생된 파일을 수신할 수도 있다. 다양한 예들에서, 소스 디바이스 (12) 및/또는 파일 발생 디바이스 (34) 는 다양한 유형들의 컴퓨팅 디바이스들을 포함할 수도 있다. 예를 들어, 소스 디바이스 (12) 및/또는 파일 발생 디바이스 (34) 는 비디오 인코딩 디바이스, 미디어 인지 네트워크 엘리먼트 (MANE), 서버 컴퓨팅 디바이스, 개인 컴퓨팅 디바이스, 특수-목적 컴퓨팅 디바이스, 상용 컴퓨팅 디바이스, 또는 다른 유형의 컴퓨팅 디바이스를 포함할 수도 있다. 일부 예들에서, 파일 발생 디바이스 (34) 는 콘텐츠 전달 네트워크의 부분이다. 소스 디바이스 (12) 및/또는 파일 발생 디바이스 (34) 는 소스 디바이스 (12) 로부터, 링크 (16) 와 같은 채널을 통해서 인코딩된 비디오 데이터를 수신할 수도 있다. 더욱이, 목적지 디바이스 (14) 는 파일 발생 디바이스 (34) 로부터, 링크 (16) 와 같은 채널을 통해서 파일을 수신할 수도 있다. 파일 발생 디바이스 (34) 는 비디오 디바이스로서 간주될 수도 있다. 도 1 의 예에 나타낸 바와 같이, 파일 발생 디바이스 (34) 는 인코딩된 비디오 콘텐츠를 포함하는 파일을 저장하도록 구성된 메모리 (31) 를 포함할 수도 있다.
일부 예들에서, 소스 디바이스 (12) 또는 다른 컴퓨팅 디바이스는 인코딩된 비디오 데이터를 포함하는 파일을 발생시킬 수도 있다. 설명의 용이성을 위해, 본 개시물은 소스 디바이스 (12) 또는 파일 발생 디바이스 (34) 가 파일을 발생시키는 것으로 설명할 수도 있다. 그럼에도 불구하고, 이러한 설명들은 컴퓨팅 디바이스들에 일반적으로 적용가능한 것으로 이해되어야 한다.
본 개시물에서 설명하는 기법들은 특정의 비디오 코딩 표준에 관련되지 않는 비디오 코딩 기법들을 포함한, 여러 비디오 코딩 표준들과 함께 사용가능할 수도 있다. 비디오 코딩 표준들의 예들은 ITU-T H.261, ISO/IEC MPEG-1 Visual, ITU-T H.262 또는 ISO/IEC MPEG-2 Visual, ITU-T H.263, ISO/IEC MPEG-4 Visual 및 그의 스케일러블 비디오 코딩 (SVC) 및 멀티뷰 비디오 코딩 (MVC) 확장판들을 포함한, (또한, ISO/IEC MPEG-4 AVC 로서 알려진) ITU-T H.264 를 포함한다. 일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 HEVC 표준과 같은, 비디오 압축 표준에 따라서 동작한다. 기본 HEVC 표준에 더해서, HEVC 에 대한 스케일러블 비디오 코딩, 멀티-뷰 비디오 코딩, 및 3D 코딩 확장판들을 만들어 내려는 노력들이 진행중이다. HEVC, MV-HEVC 로 불리는, HEVC 에 대한 멀티-뷰 확장판, 및 SHVC 로 불리는, HEVC 에 대한 스케일러블 확장판의 설계가 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 와 ISO/IEC 동화상 전문가 그룹 (MPEG) 의 비디오 코딩에 관한 합동 연구팀 (JCT-VC) 에 의해 최근에 완결되었다. HEVC 표준은 또한 권고안 ITU-T H.265 | ISO/IEC 23008-2 로서 지칭될 수도 있다.
2014년 6월 30일 - 7월 9일, 일본, 사뽀로, ITU-T SG 16 WP 3 및 ISO/IEC JTC 1/SC 29/WG 11 의 JCT-VC 18차 회의를 위한 "Draft high efficiency video coding (HEVC) version 2, combined format range extensions (RExt), scalability (SHVC), and multi-view (MV-HEVC) extensions" 란 제목으로 된 HEVC 초안 사양 (JCTVC-R1013_v6) (이하, "JCTVC-R1013" 또는 "권고안 ITU-T H.265 | ISO/IEC 23008 2" 로서 지칭됨) 은 http://phenix.int-evry.fr/jct/doc_end_user/documents/18_Sapporo/wg11/JCTVC-R1013-v6.zip 으로부터 입수가능하다. MV-HEVC 는 권고안 ITU-T H.265 | ISO/IEC 23008-2 의 부속서 G 로서 포함된다. SHVC 는 권고안 ITU-T H.265 | ISO/IEC 23008-2 의 부속서 H 로서 포함된다.
HEVC 및 다른 비디오 코딩 표준들에서, 비디오 시퀀스는 일반적으로 일련의 픽처들을 포함한다. 픽처들은 또한 "프레임들" 로서 지칭될 수도 있다. 픽처는 하나 이상의 샘플 어레이들을 포함할 수도 있다. 예를 들어, 픽처는 SL, SCb 및 SCr 로 표기되는, 3개의 샘플 어레이들을 포함할 수도 있다. SL 은 루마 샘플들의 2차원 어레이 (즉, 블록) 이다. SCb 는 Cb 색차 샘플들의 2차원 어레이이다. SCr 은 Cr 색차 샘플들의 2차원 어레이이다. 색차 샘플들은 또한 본원에서 "크로마" 샘플들로서 지칭될 수도 있다. 다른 경우, 픽처는 단색일 수도 있으며 단지 루마 샘플들의 어레이를 포함할 수도 있다.
픽처의 인코딩된 표현을 발생하기 위해, 비디오 인코더 (20) 는 코딩 트리 유닛들 (CTUs) 의 세트를 발생할 수도 있다. CTU들의 각각은 루마 샘플들의 코딩 트리 블록, 크로마 샘플들의 2개의 대응하는 코딩 트리 블록들, 및 코딩 트리 블록들의 샘플들을 코딩하는데 사용되는 신택스 구조들일 수도 있다. 코딩 트리 블록은 샘플들의 NxN 블록일 수도 있다. CTU 는 또한 "트리 블록" 또는 "최대 코딩 유닛" (LCU) 으로서 지칭될 수도 있다. HEVC 의 CTU들은 H.264/AVC 와 같은, 다른 표준들의 매크로블록들과 대략 유사할 수도 있다. 그러나, CTU 는 특정의 사이즈에 반드시 제한되지 않으며, 하나 이상의 코딩 유닛들 (CUs) 을 포함할 수도 있다. 슬라이스는 래스터 스캐닝 순서와 같은, 스캐닝 순서로 연속적으로 순서화된 정수의 CTU들을 포함할 수도 있다. 본 개시물에서, 용어 "코딩된 픽처" 또는 "인코딩된 픽처" 는 픽처의 모든 코딩 트리 유닛들을 포함하는 픽처의 코딩된 표현을 지칭할 수도 있다.
코딩된 CTU 를 발생시키기 위해, 비디오 인코더 (20) 는 코딩 트리 블록들을 코딩 블록들, 따라서 이름 "코딩 트리 유닛들" 로 분할하기 위해 CTU 의 코딩 트리 블록들에 관해 쿼드-트리 파티셔닝을 회귀적으로 수행할 수도 있다. 코딩 블록은 샘플들의 NxN 블록이다. CU 는 루마 샘플 어레이, Cb 샘플 어레이 및 Cr 샘플 어레이를 갖는 픽처의 루마 샘플들의 코딩 블록 및 크로마 샘플들의 2개의 대응하는 코딩 블록들, 및 코딩 블록들의 샘플들을 코딩하는데 사용되는 신택스 구조들일 수도 있다. 단색 픽처들 또는 3개의 별개의 칼라 평면들을 가지는 픽처들에서, CU 는 단일 코딩 블록 및 코딩 블록의 샘플들을 코딩하는데 사용되는 신택스 구조들을 포함할 수도 있다.
비디오 인코더 (20) 는 CU 의 코딩 블록을 하나 이상의 예측 블록들로 파티셔닝할 수도 있다. 예측 블록은 동일한 예측이 적용되는 샘플들의 직사각형 (즉, 정사각형 또는 비-정사각형) 블록일 수도 있다. CU 의 예측 유닛 (PU) 은 루마 샘플들의 예측 블록, 픽처의 크로마 샘플들의 2개의 대응하는 예측 블록들, 및 예측 블록 샘플들을 예측하는데 사용되는 신택스 구조들일 수도 있다. 비디오 인코더 (20) 는 CU 의 각각의 PU 의 루마, Cb 및 Cr 예측 블록들에 대한 예측 루마, Cb 및 Cr 블록들을 발생시킬 수도 있다. 단색 픽처들 또는 3개의 별개의 칼라 평면들을 가지는 픽처들에서, PU 는 단일 예측 블록 및 예측 블록을 예측하는데 사용되는 신택스 구조들을 포함할 수도 있다.
비디오 인코더 (20) 는 PU 에 대한 예측 블록들을 발생시키기 위해 인트라 예측 또는 인터 예측을 이용할 수도 있다. 비디오 인코더 (20) 가 PU 의 예측 블록들을 발생시키기 위해 인트라 예측을 이용하면, 비디오 인코더 (20) 는 PU 와 연관되는 픽처의 디코딩된 샘플들에 기초하여 PU 의 예측 블록들을 발생시킬 수도 있다. 비디오 인코더 (20) 가 PU 의 예측 블록들을 발생하기 위해 인터 예측을 이용하면, 비디오 인코더 (20) 는 PU 와 연관되는 화상 이외의 하나 이상의 화상들의 디코딩된 샘플들에 기초하여, PU 의 예측 블록들을 발생시킬 수도 있다.
비디오 인코더 (20) 가 CU 의 하나 이상의 PU들에 대한 예측 블록들을 발생시킨 후, 비디오 인코더 (20) 는 CU 의 잔차 블록을 발생시킬 수도 있다. CU 의 잔차 블록에서의 각각의 샘플은 CU 의 PU 에 대한 예측 블록에서의 샘플과 CU 의 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낸다. 예를 들어, 비디오 인코더 (20) 는 CU 의 루마 잔차 블록을 발생시킬 수도 있다. CU 의 루마 잔차 블록에서의 각각의 샘플은 CU 의 PU 의 예측 루마 블록에서의 루마 샘플과 CU 의 루마 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낸다. 게다가, 비디오 인코더 (20) 는 CU 의 Cb 잔차 블록을 발생시킬 수도 있다. CU 의 Cb 잔차 블록에서의 각각의 샘플은 CU 의 PU 의 예측 Cb 블록에서의 Cb 샘플과 CU 의 Cb 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낼 수도 있다. 비디오 인코더 (20) 는 또한 CU 의 Cr 잔차 블록을 발생시킬 수도 있다. CU 의 Cr 잔차 블록의 각각의 샘플은 CU 의 PU 에 대한 예측 Cr 블록에서의 Cr 샘플과 CU 의 Cr 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낼 수도 있다.
더욱이, 비디오 인코더 (20) 는 쿼드-트리 파티셔닝을 이용하여, CU 의 잔차 블록들을 하나 이상의 변환 블록들로 분해할 수도 있다. 변환 블록은 동일한 변환이 적용되는 샘플들의 직사각형의 블록일 수도 있다. CU 의 변환 유닛 (TU) 은 루마 샘플들의 변환 블록, 크로마 샘플들의 2개의 대응하는 변환 블록들, 및 변환 블록 샘플들을 변환하는데 사용되는 신택스 구조들일 수도 있다. 따라서, CU 의 각각의 TU 는 루마 변환 블록, Cb 변환 블록, 및 Cr 변환 블록과 연관될 수도 있다. TU 와 연관되는 루마 변환 블록은 CU 의 루마 잔차 블록의 서브-블록일 수도 있다. Cb 는 CU 의 Cb 잔차 블록의 서브-블록일 수도 있다. Cr 은 CU 의 Cr 잔차 블록의 서브-블록일 수도 있다. 단색 픽처들 또는 3개의 별개의 칼라 평면들을 가지는 픽처들에서, TU 는 단일 변환 블록 및 변환 블록의 샘플들을 변환하는데 사용되는 신택스 구조들을 포함할 수도 있다.
비디오 인코더 (20) 는 하나 이상의 변환들을 TU 에 대한 변환 블록에 적용하여, TU 에 대한 계수 블록을 발생시킬 수도 있다. 예를 들어, 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 에 대한 루마 변환 블록에 적용하여, TU 에 대한 루마 계수 블록을 발생시킬 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 의 Cb 변환 블록에 적용하여, TU 에 대한 Cb 계수 블록을 발생시킬 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 의 Cr 변환 블록에 적용하여, TU 에 대한 Cr 계수 블록을 발생시킬 수도 있다. 계수 블록은 변환 계수들의 2차원 어레이일 수도 있다. 변환 계수는 스칼라 양일 수도 있다.
계수 블록을 발생시킨 후, 비디오 인코더 (20) 는 계수 블록을 양자화할 수도 있다. 양자화는 일반적으로 변환 계수들이 변환 계수들을 나타내는데 사용되는 데이터의 양을 가능한 한 감소시키도록 양자화되어 추가적인 압축을 제공하는 프로세스를 지칭한다. 비디오 인코더 (20) 가 계수 블록을 양자화한 후, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들에 관해 컨텍스트-적응 2진 산술 코딩 (CABAC) 을 수행할 수도 있다. 비디오 인코더 (20) 는 엔트로피-인코딩된 신택스 엘리먼트들을 비트스트림으로 출력할 수도 있다.
비디오 인코더 (20) 는 코딩된 픽처들 및 연관되는 데이터의 표현을 형성하는 비트들의 시퀀스를 포함하는 비트스트림을 출력할 수도 있다. 비트스트림은 네트워크 추상화 계층 (NAL) 유닛들의 시퀀스를 포함할 수도 있다. NAL 유닛들의 각각은 NAL 유닛 헤더를 포함하며, 미가공 바이트 시퀀스 페이로드 (RBSP; raw byte sequence payload) 를 캡슐화한다. NAL 유닛 헤더는 NAL 유닛 유형 코드를 나타내는 신택스 엘리먼트를 포함할 수도 있다. NAL 유닛의 NAL 유닛 헤더에 의해 규정된 NAL 유닛 유형 코드는 NAL 유닛의 유형을 나타낸다. RBSP 는 NAL 유닛 내에 캡슐화된 정수의 바이트들을 포함하는 신택스 구조일 수도 있다. 일부의 경우, RBSP 는 제로 비트들을 포함한다.
상이한 유형들의 NAL 유닛들이 상이한 유형들의 RBSP들을 캡슐화할 수도 있다. 예를 들어, 상이한 유형들의 NAL 유닛은 비디오 파라미터 세트들 (VPSs), 시퀀스 파라미터 세트들 (SPSs), 픽처 파라미터 세트들 (PPSs), 코딩된 슬라이스들, 보충 강화 정보 (SEI) 등에 대해 상이한 RBSP들을 캡슐화할 수도 있다. 예를 들어, NAL 유닛의 제 1 유형은 PPS 에 대한 RBSP 를 캡슐화할 수도 있으며, NAL 유닛의 제 2 유형은 코딩된 슬라이스에 대한 RBSP 를 캡슐화할 수도 있으며, NAL 유닛의 제 3 유형은 보충 강화 정보 (SEI) 에 대한 RBSP 를 캡슐화할 수도 있으며, 기타 등등을 캡슐화할 수도 있다. (파라미터 세트들 및 SEI 메시지들에 대한 RBSP들과는 반대로) 비디오 코딩 데이터에 대한 RBSP들을 캡슐화하는 NAL 유닛들은 비디오 코딩 계층 (VCL) NAL 유닛들로서 지칭될 수도 있다. 예를 들어, JCTVC-R1013 는 용어 VCL NAL 유닛이 코딩된 슬라이스 세그먼트 NAL 유닛들 및 JCTVC-R1013 에서 VCL NAL 유닛들로서 분류되는 nal_unit_type 의 예약된 값들을 가지는 NAL 유닛들의 서브세트에 대한 공통 용어라고 정의한다. SEI 는 VCL NAL 유닛들로부터의 코딩된 픽처들의 샘플들을 디코딩하는데 필요하지 않은 정보를 포함한다.
도 1 의 예에서, 비디오 디코더 (30) 는 비디오 인코더 (20) 에 의해 발생되는 비트스트림을 수신한다. 일부 예들에서, 비디오 디코더 (30) 는 목적지 디바이스 (14) 또는 다른 디바이스가 파일로부터 비트스트림을 획득한 후 비트스트림을 수신한다. 게다가, 비디오 디코더 (30) 는 비트스트림을 파싱하여, 비트스트림으로부터 신택스 엘리먼트들을 획득할 수도 있다. 비디오 디코더 (30) 는 비트스트림으로부터 획득된 신택스 엘리먼트들에 적어도 부분적으로 기초하여 비디오 데이터의 픽처들을 복원할 수도 있다. 비디오 데이터를 복원하는 프로세스는 일반적으로 비디오 인코더 (20) 에 의해 수행되는 프로세스와 반대일 수도 있다. 예를 들어, 비디오 디코더 (30) 는 현재의 CU 의 PU들에 대한 예측 블록들을 결정하기 위해 인트라 예측 또는 인터 예측을 이용할 수도 있다. 게다가, 비디오 디코더 (30) 는 현재의 CU 의 TU들에 대한 계수 블록들을 역양자화할 수도 있다. 비디오 디코더 (30) 는 계수 블록들에 대해 역변환들을 수행하여, 현재의 CU 의 TU들에 대한 변환 블록들을 복원할 수도 있다. 비디오 디코더 (30) 는 현재의 CU 의 PU들에 대한 예측 블록들의 샘플들을 현재의 CU 의 TU들에 대한 변환 블록들의 대응하는 샘플들에 가산함으로써, 현재의 CU 의 코딩 블록들을 복원할 수도 있다. 픽처의 각각의 CU 에 대해 코딩 블록들을 복원함으로써, 비디오 디코더 (30) 는 그 픽처를 복원할 수도 있다.
위에서 간략히 나타낸 바와 같이, NAL 유닛들은 비디오 파라미터 세트들 (VPSs), 시퀀스 파라미터 세트들 (SPSs), 픽처 파라미터 세트들 (PPSs) 에 대해 RBSP들을 캡슐화할 수도 있다. VPS 는 0개 이상의 전체 코딩된 비디오 시퀀스들 (CVSs) 에 적용하는 신택스 엘리먼트들을 포함하는 신택스 구조이다. SPS 는 또한 0개 이상의 전체 CVS들에 적용하는 신택스 엘리먼트들을 포함하는 신택스 구조이다. SPS 는 SPS 가 활성일 때 활성인 VPS 를 식별하는 신택스 엘리먼트를 포함할 수도 있다. 따라서, VPS 의 신택스 엘리먼트들은 일반적으로 SPS 의 신택스 엘리먼트들보다 더 많이 적용가능할 수도 있다. PPS 는 0개 이상의 코딩된 픽처들에 적용하는 신택스 엘리먼트들을 포함하는 신택스 구조이다. PPS 는 PPS 가 활성일 때 활성인 SPS 를 식별하는 신택스 엘리먼트를 포함할 수도 있다. 슬라이스의 슬라이스 헤더는 슬라이스가 코딩되고 있을 때 활성인 PPS 를 나타내는 신택스 엘리먼트를 포함할 수도 있다.
용어 "액세스 유닛" 은 동일한 시간 인스턴스에 대응하는 픽처들의 세트를 지칭하기 위해 사용될 수도 있다. 따라서, 비디오 데이터는 시간 경과에 따라 발생하는 액세스 유닛들의 시리즈로서 개념화될 수도 있다. "뷰 성분" 은 단일 액세스 유닛에서의 뷰의 코딩된 표현일 수도 있다. 본 개시물에서, "뷰" 는 동일한 뷰 식별자와 연관되는 뷰 성분들의 시퀀스를 지칭할 수도 있다. 일부 예들에서, 뷰 성분은 텍스쳐 뷰 성분 (즉, 텍스쳐 픽처) 또는 심도 뷰 성분 (즉, 심도 픽처) 일 수도 있다.
MV-HEVC 및 SHVC 에서, 비디오 인코더는 일련의 NAL 유닛들을 포함하는 비트스트림을 발생시킬 수도 있다. 비트스트림의 상이한 NAL 유닛들은 비트스트림의 상이한 계층들과 연관될 수도 있다. 계층은 동일한 계층 식별자를 가지는 VCL NAL 유닛들 및 연관된 비-VCL NAL 유닛들의 세트로서 정의될 수도 있다. 계층은 멀티-뷰 비디오 코딩에서의 뷰와 상응할 수도 있다. 멀티-뷰 비디오 코딩에서, 계층은 상이한 시간 인스턴스들을 가지는 동일한 계층의 모든 뷰 성분들을 포함할 수 있다. 각각의 뷰 성분은 특정의 시간 인스턴스에서 특정의 뷰에 속하는 비디오 장면의 코딩된 픽처일 수도 있다. 멀티-뷰 또는 3-차원 비디오 코딩의 일부 예들에서, 계층은 특정의 뷰의 모든 코딩된 심도 픽처들 또는 특정의 뷰의 코딩된 텍스쳐 픽처들을 포함할 수도 있다. 3D 비디오 코딩의 다른 예들에서, 계층은 특정의 뷰의 텍스쳐 뷰 성분들 및 심도 뷰 성분들 양쪽을 포함할 수도 있다. 이와 유사하게, 스케일러블 비디오 코딩의 상황에서, 계층은 다른 계층들에서의 코딩된 픽처들과는 상이한 비디오 특성들을 가지는 코딩된 픽처들에 일반적으로 대응한다. 이러한 비디오 특성들은 공간 해상도 및 품질 레벨 (예컨대, 신호-대-잡음비) 을 일반적으로 포함한다. HEVC 및 그의 확장판들에서, 시간 스케일러빌리티는 특정의 시간 레벨을 가지는 픽처들의 그룹을 서브-계층으로서 정의함으로써 하나의 계층 내에서 얻어질 수도 있다.
비트스트림의 각각의 개개의 계층에 대해, 하부 계층에서의 데이터는 임의의 상부 계층에서의 데이터에 대한 참조 없이 디코딩될 수도 있다. 스케일러블 비디오 코딩에서, 예를 들어, 기초 계층에서의 데이터는 향상 계층에서의 데이터에 대한 참조 없이 디코딩될 수도 있다. 일반적으로, NAL 유닛들은 단지 단일 계층의 데이터를 캡슐화할 수도 있다. 따라서, 비트스트림의 최고 나머지 계층의 데이터를 캡슐화하는 NAL 유닛들은 비트스트림의 나머지 계층들에서의 데이터의 디코딩성 (decodability) 에 영향을 미침이 없이 비트스트림으로부터 제거될 수도 있다. 멀티-뷰 코딩에서, 더 높은 계층들은 추가적인 뷰 성분들을 포함할 수도 있다. SHVC 에서, 상부 계층들은 신호 대 잡음 비 (SNR) 향상 데이터, 공간 향상 데이터, 및/또는 시간 향상 데이터를 포함할 수도 있다. MV-HEVC 및 SHVC 에서, 계층은 비디오 디코더가 임의의 다른 계층의 데이터에 대한 참조 없이 그 계층에서의 픽처들을 디코딩할 수 있으면 "기초 계층" 으로서 지칭될 수도 있다. 기초 계층은 HEVC 베이스 사양 (예컨대, 권고안 ITU-T H.265 | ISO/IEC 23008-2) 을 따를 수도 있다.
스케일러블 비디오 코딩에서, 기초 계층 이외의 계층들은 "향상 계층들" 로서 지칭될 수도 있으며, 비트스트림으로부터 디코딩되는 비디오 데이터의 시각적 품질을 향상시키는 정보를 제공할 수도 있다. 스케일러블 비디오 코딩은 공간 해상도, 신호-대-잡음비 (즉, 품질) 또는 시간 레이트를 향상시킬 수 있다. 스케일러블 비디오 코딩 (예컨대, SHVC) 에서, "계층 표현" 은 단일 액세스 유닛에서의 공간 계층의 코딩된 표현일 수도 있다. 설명의 용이성을 위해, 본 개시물은 뷰 성분들 및/또는 계층 표현들을 "뷰 성분들/계층 표현들" 또는 간단히 "픽처들" 로서 지칭할 수도 있다.
멀티-뷰 코딩은 뷰간 예측을 지원한다. 뷰간 예측은 HEVC 에 사용되는 인터 예측과 유사하며, 동일한 신택스 엘리먼트들을 이용할 수도 있다. 그러나, 비디오 코더가 (PU 와 같은) 현재의 비디오 유닛에 대해 뷰간 예측을 수행할 때, 비디오 인코더 (20) 는 참조 픽처로서, 현재의 비디오 유닛과 동일한 액세스 유닛에 있지만 상이한 뷰에 있는 픽처를 이용할 수도 있다. 이에 반해, 종래의 인터 예측은 단지 상이한 액세스 유닛들에서의 픽처들을 참조 픽처들로서 이용한다.
멀티-뷰 코딩에서, 뷰는 비디오 디코더 (예컨대, 비디오 디코더 (30)) 가 임의의 다른 뷰에서의 픽처들에 대한 참조 없이 뷰에서의 픽처들을 디코딩할 수 있으면, "베이스 뷰" 로서 지칭될 수도 있다. 비-베이스 뷰들 중 하나에서의 픽처를 코딩할 때, (비디오 인코더 (20) 또는 비디오 디코더 (30) 와 같은) 비디오 코더는 그 픽처가 상이한 뷰에 있지만 비디오 코더가 현재 코딩하고 있는 픽처와 동일한 시간 인스턴스 (즉, 액세스 유닛) 내에 있으면, 픽처를 참조 픽처 리스트에 추가할 수도 있다. 다른 인터 예측 참조 픽처들과 유사하게, 비디오 코더는 뷰간 예측 참조 픽처를 참조 픽처 리스트의 임의의 위치에 삽입할 수도 있다.
예를 들어, NAL 유닛들은 헤더들 (즉, NAL 유닛 헤더들) 및 페이로드들 (예컨대, RBSP들) 을 포함할 수도 있다. NAL 유닛 헤더들은 nuh_layer_id 신택스 엘리먼트들로서 또한 지칭될 수도 있는, nuh_reserved_zero_6bits 신택스 엘리먼트들을 포함할 수도 있다. 상이한 값들을 규정하는 nuh_layer_id 신택스 엘리먼트들을 가지는 NAL 유닛들은 비트스트림의 상이한 "계층들"에 속한다. 따라서, 멀티-뷰 코딩, MV-HEVC, SVC, 또는 SVC 에서, NAL 유닛의 nuh_layer_id 신택스 엘리먼트는 NAL 유닛의 계층 식별자 (즉, 계층 ID) 를 규정한다. NAL 유닛의 nuh_layer_id 신택스 엘리먼트는, NAL 유닛이 멀티-뷰 코딩, MV-HEVC 또는 SHVC 에서의 기초 계층에 관련되면 0 과 동일하다. 비트스트림의 기초 계층에서의 데이터는 비트스트림의 임의의 다른 계층에서의 데이터에 대한 참조 없이 디코딩될 수도 있다. NAL 유닛이 멀티-뷰 코딩, MV-HEVC 또는 SHVC 에서의 기초 계층에 관련되지 않으면, nuh_layer_id 신택스 엘리먼트는 비-제로 값을 가질 수도 있다. 멀티-뷰 코딩에서, 비트스트림의 상이한 계층들은 상이한 뷰들에 대응할 수도 있다. SVC 또는 SHVC 에서, 기초 계층 이외의 계층들은 "향상 계층들" 로서 지칭될 수도 있으며, 비트스트림으로부터 디코딩되는 비디오 데이터의 시각적 품질을 향상시키는 정보를 제공할 수도 있다.
더욱이, 계층 내 일부 픽처들은 동일한 계층 내 다른 픽처들에 대한 참조 없이 디코딩될 수도 있다. 따라서, 계층의 어떤 픽처들의 데이터를 캡슐화하는 NAL 유닛들은 그 계층에서의 다른 픽처들의 디코딩성 (decodability) 에 영향을 미침이 없이 비트스트림으로부터 제거될 수도 있다. 이러한 픽처들의 데이터를 캡슐화하는 NAL 유닛들을 제거하는 것은 비트스트림의 프레임 레이트를 감소시킬 수도 있다. 계층 내 다른 픽처들에 대한 참조 없이 디코딩될 수도 있는 계층 내 픽처들의 서브세트는 본원에서 "서브-계층" 또는 "시간 서브-계층" 으로서 지칭될 수도 있다.
NAL 유닛들은 temporal_id 신택스 엘리먼트들을 포함할 수도 있다. NAL 유닛의 temporal_id 신택스 엘리먼트는 NAL 유닛의 시간 식별자를 규정한다. NAL 유닛의 시간 식별자는 NAL 유닛이 연관되는 시간 서브-계층을 식별한다. 따라서, 비트스트림의 각각의 시간 서브-계층은 상이한 시간 식별자와 연관될 수도 있다. 제 1 NAL 유닛의 시간 식별자가 제 2 NAL 유닛의 시간 식별자 미만이면, 제 1 NAL 유닛에 의해 캡슐화된 데이터는 제 2 NAL 유닛에 의해 캡슐화된 데이터에 대한 참조없이 디코딩될 수도 있다.
비트스트림은 복수의 동작 지점들과 연관될 수도 있다. 일부 예들에서, 비트스트림의 각각의 동작 지점은 계층 식별자들의 세트 (즉, nuh_reserved_zero_6bits 값들의 세트) 및 시간 식별자와 연관될 수도 있다. 계층 식별자들의 세트는 OpLayerIdSet 로서 표시될 수도 있으며, 시간 식별자는 TemporalID 로서 표시될 수도 있다. NAL 유닛의 계층 식별자가 계층 식별자들의 동작 지점의 세트 내에 있고 NAL 유닛의 시간 식별자가 동작 지점의 시간 식별자보다 작거나 같으면, NAL 유닛은 동작 지점과 연관된다. 따라서, 동작 지점은, 서브-비트스트림 추출 프로세스에의 입력들로서, 다른 비트스트림과의 서브-비트스트림 추출 프로세스의 동작에 의해 다른 비트스트림으로부터 생성된 비트스트림, 목표 최고 TemporalId, 및 목표 계층 식별자 리스트일 수도 있다. 동작 지점은 그 동작 지점과 연관되는 각각의 NAL 유닛을 포함할 수도 있다. 동작 지점은 그 동작 지점과 연관되지 않는 VCL NAL 유닛들을 포함하지 않는다.
출력 계층 세트 (OLS) 는 VPS 에 규정된 계층 세트들 중 하나의 계층들로 이루어지는 계층들의 세트이며, 계층들의 세트에서 하나 이상의 계층들은 출력 계층들인 것으로 표시된다. 특히, layer_set_idx_for_ols_minus1[i] 신택스 엘리먼트, 플러스 1 은, i-번째 출력 계층 세트의 인덱스를 규정한다. 1 과 동일한 output_layer_flag[i][j] 신택스 엘리먼트는 i-번째 OLS 에서의 j-번째 계층이 출력 계층이라는 것을 규정한다. 0 과 동일한 output_layer_flag[i][j] 신택스 엘리먼트는 i-번째 OLS 에서의 j-번째 계층이 출력 계층이 아니라는 것을 규정한다.
HEVC 및 다른 비디오 코딩 표준들은 프로파일들, 티어들, 및 레벨들을 규정한다. 프로파일들, 티어들, 및 레벨들은 비트스트림들에 대한 제한 사항들을 규정하며, 따라서 비트스트림들을 디코딩하는데 필요로 하는 능력들을 제한한다. 프로파일들, 티어들, 및 레벨들은 또한 개개의 디코더 구현들 사이의 상호운용 지점들 (interoperability points) 을 나타내는데 이용될 수도 있다. 각각의 프로파일은 그 프로파일을 따르는 모든 디코더들에 의해 지원되는 알고리즘적 특성들 및 한계들의 서브세트를 규정한다. 비디오 인코더들은 프로파일에서 지원되는 모든 특징들을 이용하도록 요구되지 않는다.
티어의 각각의 레벨은 신택스 엘리먼트들 및 변수들이 가질 수도 있는 값들에 관한 한계들의 세트를 규정할 수도 있다. 동일한 티어 및 레벨 정의들의 세트가 모든 프로파일들과 함께 사용될 수도 있지만, 개개의 구현예들이 각각의 지원되는 프로파일에 대해 상이한 티어 및 상이한 레벨을 지원할 수도 있다. 임의의 주어진 프로파일에 대해, 티어의 레벨은 일반적으로 특정의 디코더 프로세싱 부하 및 메모리 능력에 대응한다. 비디오 디코더들의 능력들은 특정의 프로파일들, 티어들, 및 레벨들의 제약들을 따르는 비디오 스트림들을 디코딩하는 능력의 관점에서 규정될 수도 있다. 각각의 이러한 프로파일에 대해, 그 프로파일에 대해 지원되는 티어, 및 레벨이 또한 표현될 수도 있다. 일부 비디오 디코더들은 특정의 프로파일들, 티어들, 또는 레벨들을 디코딩불가능할 수도 있다.
HEVC 에서, 프로파일들, 티어들, 및 레벨들은 신택스 구조 profile_tier_level( ) 신택스 구조에 의해 시그널링될 수도 있다. profile_tier_level( ) 신택스 구조는 VPS 및/또는 SPS 에 포함될 수도 있다. profile_tier_level( ) 신택스 구조는 general_profile_idc 신택스 엘리먼트, general_tier_flag 신택스 엘리먼트, 및 general_level_idc 신택스 엘리먼트를 포함할 수도 있다. general_profile_idc 신택스 엘리먼트는 CVS 가 따르는 프로파일을 나타낼 수도 있다. general_tier_flag 신택스 엘리먼트는 general_level_idc 신택스 엘리먼트의 해석을 위한 티어 컨텍스트를 나타낼 수도 있다. general_level_idc 신택스 엘리먼트는 CVS 가 따르는 레벨을 나타낼 수도 있다. 이들 신택스 엘리먼트들에 대한 다른 값들이 예약될 수도 있다.
비디오 디코더들의 능력들은 프로파일들, 티어들, 및 레벨들의 제약들을 따르는 비디오 스트림들을 디코딩하는 능력의 관점에서 규정될 수도 있다. 각각의 이러한 프로파일에 대해, 그 프로파일에 대해 지원되는 티어 및 레벨이 또한 표현될 수도 있다. 일부 예들에서, 비디오 디코더들은 HEVC 에 규정된 값들 사이의 general_profile_idc 신택스 엘리먼트의 예약된 값이 규정된 프로파일들 사이의 중재하는 능력들을 나타낸다고 추론하지 않는다. 그러나, 비디오 디코더들은 HEVC 에 규정된 값들 사이의 general_tier_flag 신택스 엘리먼트의 특정의 값과 연관된 general_level_idc 신택스 엘리먼트의 예약된 값이 티어의 규정된 레벨들 사이의 매개하는 능력들을 나타낸다고 추론할 수도 있다.
파일 포맷 표준들은 ISO 기본 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12), 및 MPEG-4 파일 포맷 (ISO/IEC 14496-15), 3GPP 파일 포맷 (3GPP TS 26.244) 및 AVC 파일 포맷 (ISO/IEC 14496-15) 을 포함한, ISOBMFF 로부터 파생된 다른 포맷들을 포함한다. ISO/IEC 14496-12 및 14496-15 에 대한 새로운 버전들에 대한 초안 텍스트들은 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/111_Geneva/wg11/w15177-v6-w15177.zip 및 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/112_Warsaw/wg11/w15479-v2-w15479.zip 으로부터 각각 입수가능하다.
ISOBMFF 는 AVC 파일 포맷과 같은 다수의 코덱 캡슐화 포맷들 뿐만 아니라, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GPP), 및 DVB 파일 포맷과 같은, 다수의 멀티미디어 컨테이너 포맷들에 대한 기초로서 사용된다. 저장을 위해 원래 설계되었지만, ISOBMFF 는 스트리밍, 예컨대 프로그레시브 다운로드 또는 DASH 에 매우 유용한 것으로 입증되었다. 스트리밍 목적들을 위해, ISOBMFF 에서 정의된 영화 단편들이 사용될 수 있다.
오디오 및 비디오와 같은 연속적인 미디어에 더해서, 이미지들과 같은 정적 미디어 뿐만 아니라 메타데이터가 ISOBMFF 를 준수하는 파일에 저장될 수 있다. ISOBMFF 에 따라서 구조화된 파일들은 로컬 미디어 파일 플레이백, 원격 파일의 프로그레시브 다운로딩, HTTP 를 통한 동적 적응 스트리밍 (DASH) 을 위한 세그먼트들, 스트리밍될 콘텐츠 및 그의 패킷화 명령들에 대한 컨테이너들, 및 수신된 실시간 미디어 스트림들의 리코딩을 포함한, 다수의 목적들에 사용될 수도 있다.
박스는 ISOBMFF 에서 기본 신택스 구조이다. 박스는 4-문자로 코딩된 박스 유형, 박스의 바이트 카운트, 및 페이로드를 포함한다. ISOBMFF 파일은 일련의 박스들로 이루어지며, 박스들은 다른 박스들을 포함할 수도 있다. 영화 박스 ("moov") 는 파일에서 트랙으로서 각각 표현되는, 파일에 존재하는 연속적인 미디어 스트림들에 대한 메타데이터를 포함한다. 트랙에 대한 메타데이터는 트랙 박스 ("trak") 에 넣어지는 반면, 트랙의 미디어 콘텐츠는 미디어 데이터 박스 ("mdat") 에 또는 직접 별개의 파일에 넣어진다. 트랙들에 대한 미디어 콘텐츠는 오디오 또는 비디오 액세스 유닛들과 같은 샘플들의 시퀀스를 포함하거나 또는 이로 이루어질 수도 있다.
ISOBMFF 는 다음 트랙들의 유형들: 기본 미디어 스트림을 포함하는 미디어 트랙, 미디어 송신 명령들을 포함하거나 또는 수신된 패킷 스트림을 표현하는 힌트 트랙, 및 시간-동기화된 메타데이터를 포함하는 타이밍된 메타데이터 트랙을 규정한다. 각각의 트랙에 대한 메타데이터는 트랙에 사용되는 코딩 또는 캡슐화 포맷 및 그 포맷을 프로세싱하는데 필요한 초기화 데이터를 각각 제공하는 샘플 설명 엔트리들의 리스트를 포함한다. 각각의 샘플은 트랙의 샘플 설명 엔트리들 중 하나와 연관된다.
ISOBMFF 는 다양한 메커니즘들로 샘플-특정의 메타데이터를 규정하는 것을 가능하게 한다. 예를 들어, 트랙 박스는 샘플 테이블 ('stbl') 박스를 포함한다. 트랙의 샘플 테이블 박스는 트랙의 미디어 샘플들의 모든 시간 및 데이터 인덱싱을 포함하는 샘플 테이블을 포함한다. 샘플 테이블은 트랙의 특정의 샘플들에 대한 샘플 엔트리들을 포함한다. 트랙의 샘플은 샘플에 적용가능한 샘플 엔트리를 식별하는 신택스 엘리먼트를 포함할 수도 있다. 따라서, 디바이스가 샘플을 프로세싱하고 (예컨대, 샘플의 인코딩된 픽처들을 디코딩하거나, 샘플을 포워딩하거나, 샘플을 추출하거나, 등등을 행하는 것을 준비하고) 있을 때, 디바이스는 샘플 테이블 박스에서의 샘플 엔트리를 다시 참조하여 샘플을 프로세싱할 방법을 결정할 수도 있다.
좀더 구체적으로, 샘플 테이블 박스는 샘플 설명 ('stbl') 박스를 포함할 수도 있다. 샘플 설명 박스는 사용되는 코딩 유형에 관한 상세한 정보, 및 그 디코딩에 필요한 임의의 초기화 정보를 포함할 수도 있다. 이를 달성하기 위해, 샘플 설명 박스는 샘플 엔트리 박스의 세트 (즉, 샘플 엔트리들) 를 포함한다. 다음 코드는 ISOBMFF 에서의 박스들의 샘플 엔트리 및 샘플 설명 박스 클래스들을 정의한다.
aligned(8) abstract class SampleEntry (unsigned int(32) format)
extends Box(format){
const unsigned int(8)[6] reserved = 0;
unsigned int(16) data_reference_index;
}
aligned(8) class SampleDescriptionBox (unsigned int(32) handler_type)
extends FullBox('stsd', version, 0){
int i ;
unsigned int(32) entry_count;
for (i = 1 ; i <= entry_count ; i++){
SampleEntry(); // SampleEntry 로부터 파생된 클래스의 인스턴스
}
}
ISOBMFF 에서, 샘플 엔트리 클래스는 특정의 미디어 유형들에 대해 확장된 추상 클래스이다. 예를 들어, VisualSampleEntry 클래스는 SampleEntry 클래스를 확장하며 비디오 데이터에 대한 정보를 포함한다. 이와 유사하게, AudioSampleEntry 클래스는 SampleEntry 클래스를 확장하며 오디오 데이터에 대한 정보를 포함한다. 다음 코드는 ISOBMFF 에서의 AudioSampleEntry 클래스를 정의한다.
class VisualSampleEntry(codingname) extends SampleEntry (codingname){
unsigned int(16) pre_defined = 0;
const unsigned int(16) reserved = 0;
unsigned int(32)[3] pre_defined = 0;
unsigned int(16) width;
unsigned int(16) height;
template unsigned int(32) horizresolution = 0x00480000; // 72 dpi
template unsigned int(32) vertresolution = 0x00480000; // 72 dpi
const unsigned int(32) reserved = 0;
template unsigned int(16) frame_count = 1;
string[32] compressorname;
template unsigned int(16) depth = 0x0018;
int(16) pre_defined = -1;
// 사양들로부터 파생된 다른 박스들
CleanApertureBox clap; // 옵션적임
PixelAspectRatioBox pasp; // 옵션적임
}
더욱이, VisualSampleEntry 클래스는 특정의 코덱들에 대한 데이터를 정의하는 것과 같은, 보다 더 특정의 목적들을 위해 확장될 수 있다. 예를 들어, 다음 코드는 VisualSampleEntry 클래스를 확장하고 HEVC 에 특정적인 정보를 포함하는 HEVCSampleEntry 클래스를 정의한다.
class HEVCSampleEntry() extends VisualSampleEntry ('hvc1' or 'hev1'){
HEVCConfigurationBox config;
MPEG4BitRateBox (); // 옵션적임
MPEG4ExtensionDescriptorsBox (); // 옵션적임
Box extra_boxes[]; // 옵션적임
}
상기 코드에서 나타낸 바와 같이, HEVCSampleEntry 클래스는 HEVCConfigurationBox 클래스의 인스턴스를 포함한다. HEVCConfigurationBox 는 HEVCDecoderConfigurationRecord 클래스의 인스턴스를 포함한다. HEVCDecoderConfigurationRecord 클래스의 인스턴스들은 디코더가 HEVCDecoderConfigurationRecord 의 인스턴스를 포함하는 샘플 엔트리가 적용되는 샘플에서의 코딩된 픽처들을 디코딩하는데 사용할 수도 있는 정보를 규정하는 신택스 엘리먼트들을 포함할 수도 있다.
더욱이, LHEVCSampleEntry 클래스는 VisualSampleEntry 클래스를 확장하며 L-HEVC 에 특정적인 정보를 포함하도록 정의되었다. LHEVCSampleEntry 는 HEVC 와 호환불가능한 트랙들에서 사용될 수도 있다. 예를 들어, 파일의 트랙이 단지 멀티-계층 비트스트림의 기초 계층만을 포함하면, 트랙은 HEVCSampleEntry 클래스의 인스턴스들을 포함할 수도 있다. 그러나, 이 예에서, 멀티-계층 비트스트림의 다른 계층들을 운반하는 파일의 다른 트랙들은 LHEVCSampleEntry 클래스의 인스턴스들을 포함할 수도 있다. 다음 코드에 나타낸 바와 같이, LHEVCSampleEntry 클래스는 LHEVCConfigurationBox 의 인스턴스를 포함하며, LHEVCConfigurationBox 는 LHEVCDecoderConfigurationRecord 박스를 포함한다.
class LHEVCConfigurationBox extends Box('lhvC') {
LHEVCDecoderConfigurationRecord() LHEVCConfig;
}
class HEVCLHVCSampleEntry() extends HEVCSampleEntry() {
LHEVCConfigurationBox lhvcconfig;
}
// 트랙이 HEVC 와 호환불가능하면 이것을 이용한다
class LHEVCSampleEntry() extends VisualSampleEntry ('lhv1', or 'lhe1') {
LHEVCConfigurationBox lhvcconfig;
MPEG4ExtensionDescriptorsBox (); // 옵션적임
}
샘플 테이블 박스 ("stbl") 내 특정의 박스들은 공통 요구들에 대응하기 위해 표준화되었다. 예를 들어, Sync 샘플 박스 ("stss") 는 트랙의 무작위 액세스 샘플들을 리스트하는데 사용된다. 샘플 그룹화 메커니즘은 4-문자 그룹화 유형에 따라서, 파일에서의 샘플 그룹 설명 엔트리와 동일한 규정된 속성을 공유하는 샘플들의 그룹들로의 샘플들의 맵핑을 가능하게 한다. ISOBMFF 에 여러 그룹화 유형들이 규정되어 있다.
다른 예시적인 샘플 그룹은 계층 정보 ("linf") 샘플 그룹이다. 계층 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리는 트랙이 포함하는 계층들 및 서브-계층들의 리스트를 포함한다. 계층의 코딩된 픽처를 포함하는 트랙의 각각의 샘플은 트랙의 'linf' 샘플 그룹의 부분일 수도 있다. 트랙에 대한 샘플 그룹 설명 박스에 하나 이상의 'linf' 샘플 그룹 엔트리들이 있을 수도 있다. 그러나, L-HEVC 데이터를 포함하는 각각의 트랙에 대해 하나의 'linf' 샘플 그룹 설명 엔트리가 있어야 한다는 요건이 있을 수도 있다. 다음은 'linf' 샘플 그룹에 대한 샘플 그룹 설명 엔트리에 대한 신택스 및 의미들을 제공한다.
9.8.2.2 신택스
class LayerInfoGroupEntry extends VisualSampleGroupEntry ('linf')) {
unsigned int (2) reserved;
unsigned int (6) num_layers_in_track;
for (i=0; i<num_layers_in_track; i++) {
unsigned int (4) reserved;
unsigned int (6) layer_id;
unsigned int (3) min_sub_layer_id;
unsigned int (3) max_sub_layer_id;
}
}
9.8.2.3 의미들
num_layers_in_track: 이 샘플 그룹과 연관된 이 트랙의 임의의 샘플에서 운반되는 계층들의 수.
layer_id: 연관된 샘플들과 연관된 계층들에 대한 계층 ID들. 이 필드의 인스턴스들은 루프에서 오름 차순이어야 한다.
min_sub_layer_id: 트랙 내 계층에서의 서브-계층들에 대한 최소 TemporalId 값.
1. max_sub_layer_id: 트랙 내 계층에서의 서브-계층들에 대한 최대 TemporalId 값.
2. layerList 를, 이 트랙에서 운반되는 계층들의 계층 ID들 및 다른 트랙들에서 운반되며 이 트랙에서 직접 또는 간접적으로 운반되는 계층들에 의해 참조되는 계층들의 계층 ID들의 리스트라 하자. layerList 에서의 계층 ID들은 계층 ID 값들의 오름 차순으로 순서정렬된다. 예를 들어, 이 트랙이 계층 ID들 4 및 5 를 가지는 계층들을 운반하고 이들이 0 및 1 과 동일한 계층 ID 를 가지는 계층들을 참조한다고 가정하면, 이 트랙과 연관된 layerList 는 {0, 1, 4, 5} 이다.
ISOBMFF 사양은 DASH 와 함께 사용하기 위한 스트림 액세스 지점들 (SAPs) 의 6개의 유형들을 규정한다. 제 1 의 2개의 SAP 유형들 (유형들 1 및 2) 은 H.264/AVC 및 HEVC 에서의 동시 디코딩 리프레시 (IDR) 픽처들에 대응한다. 제 3 SAP 유형 (유형 3) 은 개방된-픽처들의 그룹 (GOP) 무작위 액세스 지점들, 따라서 HEVC 에서의 BLA (Broken Link Access) 또는 CRA (Clean Random Access) 픽처들에 대응한다. 제 4 SAP 유형 (유형 4) 은 GDR 무작위 액세스 지점들에 대응한다.
파일 포맷에서의 L-HEVC 계층들의 저장을 위한 14496-15 에 대한 현재의 초안 사양에서, 파일에서의 비트스트림에 이용가능한 동작 지점들의 리스트는 비트스트림을 운반하는 트랙들 중 하나에서 시그널링되는 동작 지점 ('oinf') 샘플 그룹을 이용하여 설명된다. 동작 지점 샘플 그룹은 또한 본원에서 "동작 지점 정보 샘플 그룹" 으로서 지칭될 수도 있다. 애플리케이션은 'oref' 트랙 참조를 따름으로써 그 트랙을 발견할 수 있다. 간결성을 위해, 'oinf' 샘플 그룹을 포함하는 트랙은 또한 'oref' 트랙으로서 지칭된다. 'oinf' 샘플 그룹이 단지 하나의 트랙에서만 시그널링되지만, L-HEVC 계층들의 저장을 위한 14496-15 에 대한 현재의 초안 사양에서, 'oinf' 샘플 그룹의 범위는 L-HEVC 코딩된 데이터를 운반하는 모든 트랙들을 커버한다. 샘플 그룹을 이용하여 동작 지점들의 리스트를 시그널링하는 것은 동작 지점들의 리스트가 시간 차원 (temporal dimension) 에서 전체 비트스트림을 커버하지 못할 수도 있다는 결과를 낳는다. 하나 보다 많은 'oinf' 샘플 그룹이 존재할 수도 있으며, 각각의 샘플 그룹은 샘플들의 상이한 세트를 포함한다.
도 2 는 'oinf' 샘플 그룹들의 커버리지의 일 예를 예시하는 개념도이다. 도 2 는 L-HEVC 계층들의 저장을 위한 14496-15 에 대한 현재의 초안 사양에 따른 2개의 'oinf' 샘플 그룹들 (40 및 42) 의 커버리지를 예시한다. 도 2 의 예에 나타낸 바와 같이, 샘플 그룹 (40) 및 샘플 그룹 (42) 각각은 트랙 01, 트랙 02, 및 트랙 03 에서의 샘플들을 포함한다. 도 2 의 예에서, 트랙 01 은 기초 계층 (BL) 을 포함한다. 트랙 02 는 하나 이상의 계층들을 포함할 수도 있는 기본 스트림 EL1 을 포함한다. 트랙 03 은 하나 이상의 추가적인 계층들을 포함할 수도 있는 기본 스트림 EL2 를 포함한다. 도 2 의 예에서, 각각의 개별 음영처리된 직사각형은 단일 개별 샘플에 대응한다. 트랙 01 은 도 2 에서의 'oref' 트랙이다. 다른 예들에서, 기초 계층을 운반하는 트랙과는 상이한 트랙은 'oref' 트랙일 수 있다. 동작 지점 참조 트랙의 각각의 개별 샘플 및 추가적인 트랙들의 각각의 개별 샘플은 동일한 시간 인스턴스에 대응하는 하나 이상의 인코딩된 픽처들을 포함하는 개별 액세스 유닛을 포함한다.
동작 지점들을 시그널링하는 상기 기법들은, 일부 액세스 유닛들 (또는, 일부 디코딩 시간 인스턴스들) 에 대해 일부 트랙들에는 NAL 유닛들이 있지만 다른 트랙들에는 NAL 유닛들이 없다는 의미에서, 상이한 트랙들에서의 샘플들이 정렬되지 않을 때 문제들을 가질 수도 있다. 동작 지점이 샘플 그룹을 이용하여 파일 레벨에서 시그널링되기 때문에, 시간 차원에서, 샘플 그룹은 단지 샘플 그룹을 포함하는 트랙에 존재하는 샘플들만, 또는 많아 봐야, 어떤 범위들 내에서 디코딩 시간들을 가지는 샘플들을 포함할 수 있다. 따라서, 특정의 트랙에서의 샘플 그룹들에 의해 명확히 규정될 수 있는 범위들 외의 디코딩 시간들을 가지는 다른 트랙들에 샘플들이 있을 수 있다. 문제들의 세부 사항들은 아래 텍스트에서 설명된다.
예를 들어, 비트스트림에서의 계층들의 프레임 또는 픽처 레이트들이 상이하고 EL 이 BL 과는 상이한 트랙에서 운반될 때, 임의의 'oinf' 샘플 그룹들에 의해 커버되지 않는 EL 을 운반하는 트랙에 샘플들이 있으며, 'oinf' 샘플 그룹들 중 임의의 샘플 그룹의 디코딩 시간 범위 내에 있지 않는 EL 을 운반하는 트랙에 샘플들이 있을 수도 있다. 예를 들어, EL 의 프레임 레이트가 BL 의 프레임 레이트의 2배일 때, 임의의 'oinf' 샘플 그룹들에 의해 커버되지 않는 EL 을 운반하는 트랙에 샘플들이 있다.
도 3 은 트랙들이 상이한 프레임 또는 픽처 레이트들을 갖는 계층들을 포함할 때 발생하는 예시적인 문제를 예시한다. 도 3 의 예에서, 비트스트림은 기초 계층 및 하나 이상의 향상 계층들을 포함한다. 동작 지점 참조 트랙 (즉, 'oref' 트랙) 은 기초 계층을 포함하며, 하나 이상의 추가적인 트랙들의 각각의 개별 트랙은 하나 이상의 향상 계층들의 개별 향상 계층을 포함한다. 특히, 도 3 에서, 트랙 01 은 기초 계층을 포함하며, 트랙 02 는 향상 계층 (도 3 에 EL1 로 표시됨) 을 포함한다.
도 3 의 예에서, 파일은 제 1 'oinf' 샘플 그룹 (46) 및 제 2 'oinf' 샘플 그룹 (48) 을 포함한다. 하나의 'oinf' 로부터 다른 'oinf' 샘플 그룹으로의 그룹화 전이 지점에서, 제 1 'oinf' 샘플 그룹의 최종 샘플과 제 2 'oinf' 샘플 그룹의 제 1 샘플 사이의 디코딩 시간을 가지는 트랙 02 에서의 샘플 (50) 은 트랙 01 에서 시간적으로 병치된 샘플을 가지지 않으며 임의의 'oinf' 샘플 그룹에 속하지 않는다.
따라서, 도 3 의 예 및 다른 예들에서, 파일에서의 비트스트림에 이용가능한 동작 지점이 동작 지점 참조 트랙 (예컨대, 도 3 에서의 트랙 01) 에서 시그널링되는 제 1 동작 지점 정보 샘플 그룹 (예컨대, 도 3 에서의 'oinf' 샘플 그룹 (46)) 을 이용하여 파일에서 설명된다. 제 1 동작 지점 정보 샘플 그룹은 동작 지점 참조 트랙에서의 샘플들의 제 1 세트를 포함한다. 더욱이, 동작 지점 참조 트랙은 동작 지점 참조 트랙에서의 샘플들의 제 2 세트를 포함하는 제 2 동작 지점 샘플 그룹을 포함한다. 이 예에서, 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플 (예컨대, 도 3 에서의 샘플 (52)) 과 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플 (예컨대, 도 3 에서의 샘플 (54)) 의 디코딩 시간 사이의 디코딩 시간에서 발생하는 동작 지점 참조 트랙에 어떤 샘플도 없다. 더욱이, 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플과 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간들을 가지는 하나 이상의 추가적인 트랙들의 특정의 추가적인 트랙 (예컨대, 도 3 에서의 트랙 02) 에 하나 이상의 샘플들 (예컨대, 도 3 에서의 샘플 (50)) 이 있다. 일부의 경우, 특정의 추가적인 트랙 (예컨대, 도 3 에서의 트랙 02) 은 동작 지점 참조 트랙보다 더 높은 프레임 레이트를 갖는다.
'oinf' 샘플 그룹들을 포함하는 지정된 'oref' 트랙이 'oref' 트랙 참조를 따라서 발견된다는 사실은, 일단 트랙 참조가 트랙 헤더에 규정되면 트랙 참조가 변경될 수 없기 때문에, 'oinf' 샘플 그룹들을 포함할 수 있는 전체 비트스트림에 대해 오직 하나의 트랙만일 수 있다는 결과를 갖는다. 'oinf' 샘플 그룹을 포함할 수 있는 트랙의 이러한 고정된 지정, 및 'oinf' 샘플 그룹이 단지 'oinf' 샘플 그룹을 포함하는 트랙에 존재하는 샘플들만을 포함할 수 있다는 사실로 인해, 'oref' 트랙 이외의 트랙들에서의 일부 샘플들은 'oref' 트랙에 어떤 시간 기간에서 어떤 샘플도 없으면 임의의 'oinf' 샘플 그룹에 속할 수도 있다.
도 4 는 'oref' 트랙이 어떤 시간 기간 동안 어떤 샘플도 갖지 않을 때 발생하는 예시적인 문제를 예시한다. 도 4 의 예에서, 파일은 제 1 'oinf' 샘플 그룹 (56) 및 제 2 'oinf' 샘플 그룹 (58) 을 포함한다. 도 4 의 예에 나타낸 바와 같이, 'oref' 트랙에서 어떤 샘플도 없는 시간 기간에서 'oref' 트랙 이외의 트랙에서의 모든 샘플들 (60) 은 임의의 'oinf' 샘플 그룹에 속하지 않는다. 추가적으로, 도 4 에 나타낸 바와 같이, 일단 'oref' 트랙이 트랙 헤더에 'oref' 트랙 참조에 의해 규정되면 'oref' 트랙이 변경될 수 없기 때문에, 트랙 02 에서 'oinf' 샘플 그룹을 가질 가능성이 없다.
본 개시물은 상기 문제들을 해결하기 위한 여러 기법들을 제안한다. 기법들 중 일부는 독립적으로 적용될 수도 있으며, 이들 중 일부는 조합하여 적용될 수도 있다. 본 기법들은 상기 설명된 문제들을 해결하는 것에 추가하여, 여러가지 이유들로 유용할 수도 있다.
본 개시물의 제 1 기법에 따르면, 'oref' 트랙이 아닌 트랙들에서의 샘플들에 대해 다음이 적용될 수도 있다:
a. 'oref' 트랙이 아닌 트랙에서의 샘플은 'oref' 트랙에서의 그의 시간적으로 병치된 샘플과 동일한 'oinf' 샘플 그룹의 부분이다. 트랙에서의 특정의 샘플에 대해, 다른 트랙에서의 시간적으로 병치된 샘플은 이 특정의 샘플의 디코딩 시간과 동일한 디코딩 시간을 가지는 샘플이다.
b. 'oref' 트랙이 아닌 트랙에서의 샘플 spA 가 'oref' 트랙에서 어떤 시간적으로 병치된 샘플도 가지지 않으면, 샘플은 spA 이전 'oref' 트랙에서의 최종 샘플의 'oinf' 샘플 그룹의 부분으로서 고려된다. 이 프로세스는 회귀적으로 적용될 수 있다. 대안적으로 또는 추가적으로, 이 경우, 샘플은 spA 이후 'oref' 트랙에서의 제 1 샘플의 'oinf' 샘플 그룹의 부분으로서 고려된다.
상기 스테이트먼트들을 적용함으로써, 도 3 의 샘플 (50) 은 샘플 (50) 이 'oref' 트랙 (즉, 트랙 01) 이외의 트랙 (즉, 트랙 02) 에 있고 'oref' 트랙에서 어떤 시간적으로 병치된 샘플도 가지지 않기 때문에, 'oinf' 샘플 그룹 (46) 에 포함된다. 그러므로, 샘플 (50) 은 샘플 (50) 이전 최종 샘플 (즉, 샘플 (52)) 의 'oinf' 샘플 그룹의 부분으로서 고려된다. 이와 유사하게, 도 4 의 샘플에서, 샘플들 (60) 은 'oref' 트랙 (즉, 트랙 01) 이외의 트랙 (즉, 트랙 02) 에 있으며 'oref' 트랙에서 어떤 시간적으로 병치된 샘플들을 가지지 않는다. 그러므로, 샘플들 (60) 은 샘플들 (60) 이전 'oref' 트랙의 최종 샘플의 'oinf' 샘플 그룹의 부분으로서 고려된다.
따라서, 제 1 기법의 일 예에서, 소스 디바이스 (12), 파일 발생 디바이스 (34), 또는 다른 디바이스와 같은, 디바이스는 파일에서 동작 지점 참조 트랙을 발생시킬 수도 있다. 일반적으로, 트랙을 발생시키는 것은 트랙의 샘플들 및/또는 트랙의 메타데이터와 같은, 데이터를 파일에 저장하는 것을 포함할 수도 있다. 동작 지점 참조 트랙을 발생시키는 것의 부분으로서, 디바이스는 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링할 수도 있다. 일반적으로, 샘플 그룹을 시그널링하는 것은 파일에, 샘플 그룹의 샘플들을 표시하는 샘플-대-그룹 박스 및 샘플 그룹을 설명하는 샘플 그룹 설명 엔트리를 저장하는 것을 포함할 수도 있다. 더욱이, 디바이스는 파일에서 하나 이상의 추가적인 트랙들을 발생시킬 수도 있다. 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다.
이와 유사하게, 제 1 기법의 일 예에서, 목적지 디바이스 (14), MANE, 또는 다른 디바이스와 같은, 디바이스는 파일에서 동작 지점 참조 트랙을 획득할 수도 있다. 동작 지점 참조 트랙과 같은, 데이터를 획득하는 것은 데이터를 판독하거나, 데이터를 파싱하거나, 또는 아니면 데이터를 취하거나, 획득하거나, 또는 소유하기 위한 일부 액션을 수행하는 것을 포함할 수도 있다. 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명된다. 더욱이, 디바이스는 파일에서 하나 이상의 추가적인 트랙들을 획득할 수도 있다. 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 디바이스는 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정할 수도 있다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 더욱이, 일부 예들에서, 디바이스는 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행할 수도 있다.
이 다음 텍스트는 제 1 기법의 예시적인 구현예를 설명한다. 본 개시물 전반에 걸쳐서, 현재의 L-HEVC 파일 포맷 (예컨대, 14496-15 에 대한 현재의 초안 사양) 에의 삽입들은 <ins> … </ins> 태그들로 둘러싸이며 (예컨대, <ins>추가된 텍스트</ins>), 제거된 텍스트는 <dlt>…</dlt> 태그들로 둘러싸인다 (예컨대, <dlt>삭제된 텍스트</dlt>).
9.8.1 동작하는 지점들 정보 샘플 그룹
9.8.1.1 정의
박스 유형: 'oinf'
컨테이너: 'oref' 유형 참조된 트랙의 SampleGroupDescriptionBox ('sgpd')
필수적: L-HEVC 비트 스트림의 하나 및 오직 하나의 트랙에서만 예
양: 하나 이상의 'oinf' 샘플 그룹 엔트리들
애플리케이션들은 동작하는 지점들 정보 샘플 그룹 ('oinf') 을 이용함으로써 주어진 샘플 및 이들의 구성에 관련된 상이한 동작하는 지점들에 관해 통지를 받는다. 각각의 동작하는 지점은 출력 계층 세트, 최대 T-ID 값, 및 프로파일, 레벨 및 티어 시그널링에 관련된다. 모든 이들 정보는 'oinf' 샘플 그룹에 의해 캡쳐된다. 이들 정보 외에도, 이 샘플 그룹은 또한 계층들 간 의존성 정보, L-HEVC 비트 스트림에서 코딩된 스케일러빌리티들의 유형, 및 주어진 스케일러빌리티 유형에 대한 임의의 특정의 계층에 관련된 차원 식별자들을 제공한다.
L-HEVC 비트스트림의 모든 트랙들에 대해, 'oinf' 샘플 그룹을 운반하는 이 세트 중에서 오직 하나의 트랙만이 있어야 한다. L-HEVC 비트스트림의 모든 트랙들은 'oinf' 샘플 그룹을 운반하는 트랙에 대한 유형 'oref' 의 트랙 참조를 가져야 한다.
여러 VPS 가 L-HEVC 비트스트림에 존재할 때, 여러 동작하는 지점들 정보 샘플 그룹들을 선언하는 것이 요구될 수도 있다. 단일 VPS 가 존재하는 더 일반적인 경우들에 대해, 각각의 트랙 단편에 그것을 선언하는 대신, ISO/IEC 14496-12 에서 정의된 디폴트 샘플 그룹 메커니즘을 이용하고 동작하는 지점들 정보 샘플 그룹을 트랙 샘플 테이블에 포함시키는 것이 권장된다.
<ins>트랙에서의 특정의 샘플에 대해, 다른 트랙에서의 시간적으로 병치된 샘플은 이 특정의 샘플의 디코딩 시간과 동일한 디코딩 시간을 가지는 샘플이다.
'oref' 트랙 이외의 트랙들에 대해, 다음이 적용된다:
- 'oref' 트랙이 아닌 트랙에서의 샘플은 'oref' 트랙에서의 그의 시간적으로 병치된 샘플과 동일한 'oinf' 샘플 그룹의 부분이다.
- 'oref' 트랙이 아닌 트랙에서의 샘플 spA 가 'oref' 트랙에서 어떤 시간적으로 병치된 샘플도 가지지 않으면, 샘플은 spA 이전 'oref' 트랙에서의 최종 샘플의 'oinf' 샘플 그룹의 부분으로서 고려된다. 이 프로세스는 회귀적으로 적용될 수 있다.</ins>
본 개시물의 제 2 기법에 따르면, 'oinf' 샘플 그룹들을 포함하는 트랙을 결정 (resolve) 하기 위해 'oref' 트랙 참조를 이용하는 대신, 'oinf' 샘플 그룹을 포함하는 트랙은 계층 정보 ('linf') 샘플 그룹에 표시된다. 이것은 'oinf' 샘플 그룹이 상이한 시간 기간들 동안 상이한 트랙들에 존재가능하게 할 수도 있다.
예를 들어, 도 4 를 참조하면, 트랙 01 및 트랙 02 에 대한 샘플 그룹 설명 박스들은 트랙 01 및 트랙 02 와 연관된 'oinf' 샘플 그룹들을 포함하는 트랙들의 개별 트랙 식별자들을 규정하는 개별 'oinf' 트랙 식별자 엘리먼트들을 포함하는 개별 'linf' 샘플 그룹 설명 엔트리들을 각각 포함할 수도 있다. 더욱이, 도 4 에서, 트랙 02 에 대한 'linf' 샘플 그룹 설명 엔트리에서의 'oinf' 트랙 식별자 엘리먼트는 트랙 02 가 'oinf' 샘플 그룹을 포함한다는 것을 표시할 수도 있다. 따라서, 트랙 02 의 'oinf' 샘플 그룹은 샘플들 (56) 을 포함할 수도 있다. 그러나, 제 1 트랙에서의 각각의 샘플이 제 2 트랙에서의 개별 샘플과 정렬되고 'oinf' 샘플 그룹이 제 2 트랙에 대해 정의되면, 'oinf' 샘플 그룹이 제 1 트랙에 직접 정의되기 보다는, 제 1 트랙이 제 2 트랙의 'oinf' 샘플 그룹을 참조하는 것이 더 효율적일 수도 있다.
따라서, 제 2 기법의 일 예에서, 소스 디바이스 (12) 또는 다른 디바이스와 같은, 디바이스는 파일에서 제 1 트랙을 발생시킬 수도 있다. 이 예에서, 제 1 트랙은 계층 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 추가적으로, 이 예에서, 디바이스는 파일에서 제 2 트랙을 발생시킨다. 제 2 트랙은 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 이 예에서, 디바이스는 제 1 트랙에 표시된 데이터를 이용하여, 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함하는 것으로 제 2 트랙을 식별할 수도 있다.
제 2 기법의 다른 예에서, 목적지 디바이스 (14) 또는 다른 디바이스와 같은, 디바이스는 파일에서 제 1 트랙을 획득한다. 제 1 트랙은 계층 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 추가적으로, 디바이스는 파일에서 제 2 트랙을 획득한다. 이 예에서, 제 2 트랙은 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 더욱이, 이 예에서, 디바이스는 제 1 트랙에 표시된 데이터를 이용하여, 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함하는 것으로 제 2 트랙을 식별할 수도 있다.
제 3 기법에서, 'oinf' 샘플 그룹 및 'linf' 샘플 그룹은 동일한 'oinf' 샘플 그룹에 속하는 샘플들이 또한 동일한 'linf' 샘플 그룹에 속하도록 시간적으로 정렬된다. 예를 들어, 위에서 설명된 제 2 기법에 기반하여, 'linf' 샘플 그룹 lA 에 속하는 트랙 tA 에서의 샘플 sA 및 'linf' 샘플 그룹 lB 에 속하는 트랙 tB 에서의 샘플 sB 각각에 대해, 샘플 sD 는 'linf' 샘플 그룹 lB 에 속해야 한다는 파일 포맷에 관한 요건 또는 제한이 있을 수도 있으며, 여기서, sA 및 sB 는 시간적으로 병치되며, 트랙 tA 에 있고 또한 'linf' 샘플 그룹 lA 에 속하는 샘플 sC 는 트랙 tB 에 있는 샘플 sD 와 시간적으로 병치된다. 더욱이, 'oref' 샘플 그룹 oA 에 속하는 트랙 tA 에서의 샘플 sA 및 'oref' 샘플 그룹 oB 에 속하는 트랙 tB 에서의 샘플 sB 각각에 대해, 샘플 sD 는 'oref' 샘플 그룹 oB 에 속해야 한다는 파일 포맷에 관한 요건 또는 제한이 있을 수도 있으며, 여기서, sA 및 sB 는 시간적으로 병치되며, 트랙 tA 에 있고 또한 'oref' 샘플 그룹 oA 에 속하는 샘플 sC 는 트랙 tB 에 있는 샘플 sD 와 시간적으로 병치된다.
따라서, 제 3 기법의 일 예에서, 소스 디바이스 (12) 또는 다른 디바이스와 같은, 디바이스는 파일에서 제 1 트랙을 발생시킬 수도 있다. 이 예에서, 제 1 트랙은 계층 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 추가적으로, 이 예에서, 디바이스는 파일에서 제 2 트랙을 발생시킨다. 이 예에서, 제 2 트랙은 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 이 예에서, 계층 정보 샘플 그룹 및 동작 지점 정보 샘플 그룹은 동작 지점 정보 샘플 그룹에 속하는 샘플들이 또한 동일한 계층 정보 샘플 그룹에 속하도록 시간적으로 정렬된다.
이와 유사하게, 제 3 기법의 일 예에서, 목적지 디바이스 (14) 또는 다른 디바이스와 같은, 디바이스는 파일에서 제 1 트랙을 획득한다. 이 예에서, 제 1 트랙은 계층 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 추가적으로, 이 예에서, 디바이스는 파일에서 제 2 트랙을 획득한다. 이 예에서, 제 2 트랙은 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함한다. 이 예에서, 계층 정보 샘플 그룹 및 동작 지점 정보 샘플 그룹은 동작 지점 정보 샘플 그룹에 속하는 샘플들이 또한 동일한 계층 정보 샘플 그룹에 속하도록 시간적으로 정렬된다.
아래 텍스트는 위에서 설명된 제 2 및 제 3 기법들에 대한 구현을 위한 14496-15 에 대한 현재의 초안 사양에 대한 변화들을 나타낸다.
9.8.1 동작하는 지점들 정보 샘플 그룹
9.8.1.1 정의
박스 유형: 'oinf'
컨테이너: 'oref' 유형 참조된 트랙의 SampleGroupDescriptionBox ('sgpd')
필수적: L-HEVC 비트 스트림의 하나 및 오직 하나의 트랙에서만 예
양: 하나 이상의 'oinf' 샘플 그룹 엔트리들
애플리케이션들은 동작하는 지점들 정보 샘플 그룹 ('oinf') 을 이용함으로써 주어진 샘플 및 이들의 구성에 관련된 상이한 동작하는 지점들에 관해 통지를 받는다. 각각의 동작하는 지점은 출력 계층 세트, 최대 T-ID 값, 및 프로파일, 레벨 및 티어 시그널링에 관련된다. 모든 이들 정보는 'oinf' 샘플 그룹에 의해 캡쳐된다. 이들 정보 외에도, 이 샘플 그룹은 또한 계층들 간 의존성 정보, L-HEVC 비트 스트림에서 코딩된 스케일러빌리티들의 유형, 및 주어진 스케일러빌리티 유형에 대한 임의의 특정의 계층에 관련된 차원 식별자들을 제공한다.
<dlt>L-HEVC 비트스트림의 모든 트랙들에 대해, 'oinf' 샘플 그룹을 운반하는 이 세트 중에서 오직 하나의 트랙만이 있어야 한다. L-HEVC 비트스트림의 모든 트랙들은 샘플 그룹을 운반하는 'oinf' 트랙에 대한 유형 'oref' 의 트랙 참조를 가져야 한다.</dlt>
<ins>'oinf' 샘플 그룹을 운반하는 트랙은 계층 정보 ('linf') 샘플 그룹에서 시그널링된 oinf_track_id 필드에 의해 식별된다. 'linf' 샘플 그룹 및 'oinf' 샘플 그룹은 동일한 'oinf' 샘플 그룹에 속하는 샘플들이 또한 동일한 'linf' 샘플 그룹에 속하도록 시간적으로 정렬된다.</ins>
여러 VPS 가 L-HEVC 비트스트림에 존재할 때, 여러 동작하는 지점들 정보 샘플 그룹들을 선언하는 것이 요구될 수도 있다. 단일 VPS 가 존재하는 더 일반적인 경우들에 대해, 각각의 트랙 단편에 그것을 선언하는 대신, ISO/IEC 14496-12 에서 정의된 디폴트 샘플 그룹 메커니즘을 이용하고 동작하는 지점들 정보 샘플 그룹을 트랙 샘플 테이블에 포함시키는 것이 권장된다.
9.8.2 계층 정보 샘플 그룹
9.8.2.1 정의
박스 유형: 'linf'
컨테이너: SampleGroupDescriptionBox ('sgpd')
필수적: 모든 L-HEVC 트랙들에서 예
양: 하나 이상의 'linf' 샘플 그룹 엔트리들
트랙이 운반하는 계층들 및 서브 계층들의 리스트는 계층 정보 샘플 그룹에서 시그널링된다. 모든 L-HEVC 트랙은 'linf' 샘플 그룹을 운반해야 한다.
9.8.2.2 신택스
class LayerInfoGroupEntry extends VisualSampleGroupEntry ('linf')) {
unsigned int (2) reserved;
unsigned int (6) num_layers_in_track;
for (i=0; i<num_layers_in_track; i++) {
unsigned int (4) reserved;
unsigned int (6) layer_id;
unsigned int (3) min_sub_layer_id;
unsigned int (3) max_sub_layer_id;
}
<ins>unsigned int (32) oinf_track_id;</ins>
}
9.8.2.3 의미들
num_layers_in_track: 이 샘플 그룹과 연관된 이 트랙의 임의의 샘플에서 운반되는 계층들의 수.
layer_id: 연관된 샘플들에서 운반되는 계층들에 대한 계층 ID들. 이 필드의 인스턴스들은 루프에서 오름 차순이어야 한다.
min_sub_layer_id: 트랙 내 계층에서의 서브-계층들에 대한 최소 TemporalId 값.
max_sub_layer_id: 트랙 내 계층에서의 서브-계층들에 대한 최대 TemporalId 값.
<ins>oinf_track_id: 연관된 'oinf' 샘플 그룹을 포함하는 트랙의 트랙 ID.</ins>
제 4 기법에서, "더미" 샘플 엔트리가 트랙에 대해 발생될 수도 있다. "더미" 샘플 엔트리는 트랙에서의 임의의 샘플에 적용불가능하며, 이 트랙에서의 계층들에 의존하는 계층들을 포함하는 어떤 다른 트랙들에 의해서만 단지 사용될 수도 있는 파라미터 세트들을 포함할 수도 있다. 일부 예들에서, "더미" 샘플 엔트리는 'oinf' 박스에서 시그널링된 동작 지점들을 가리키는 인덱스 값들 또는 동작 지점들을 설명하는 정보를 포함한다. 따라서, 도 4 의 예에서, 트랙 01 에 대한 샘플 테이블 박스는 "더미" 샘플 엔트리를 포함할 수도 있으며, 파일을 해석하는 디바이스는 트랙 02 를 해석할 때 트랙 01 의 "더미" 샘플 엔트리를 참조할 수도 있다.
제 4 기법의 일 예에서, 소스 디바이스 (12) 또는 다른 디바이스와 같은, 디바이스는 파일에서 하나 이상의 트랙들을 발생시킨다. 추가적으로, 이 예에서, 디바이스는 파일에서 추가적인 트랙을 발생시킨다. 이 예에서, 추가적인 트랙은 추가적인 트랙에서의 임의의 샘플에 적용불가능한 특정의 샘플 엔트리를 포함한다. 이 예에서, 특정의 샘플 엔트리는 추가적인 트랙에서의 계층들에 의존하는 계층들을 포함하는 하나 이상의 트랙들에 의해서만 단지 사용될 수도 있는 파라미터 세트를 포함한다.
이와 유사하게, 제 4 기법의 일 예에서, 목적지 디바이스 (14) 또는 다른 디바이스와 같은, 디바이스는 파일에서 하나 이상의 트랙들을 획득한다. 추가적으로, 이 예에서, 디바이스는 파일에서 추가적인 트랙을 획득한다. 이 예에서, 추가적인 트랙은 추가적인 트랙에서의 임의의 샘플에 적용불가능한 특정의 샘플 엔트리를 포함한다. 더욱이, 이 예에서, 특정의 샘플 엔트리는 추가적인 트랙에서의 계층들에 의존하는 계층들을 포함하는 하나 이상의 트랙들에 의해서만 단지 사용될 수도 있는 파라미터 세트를 포함한다.
제 5 기법에서, 동작 지점들의 리스트는 샘플 그룹을 통해서 시그널링되지 않는다. 대신, 동작 지점들의 리스트는 'oref' 트랙 내 그 자신의 박스 (예컨대, 'oinf' 박스) 에서 시그널링된다. 예를 들어, 위에서 언급한 바와 같이, 트랙의 샘플 테이블 박스는 트랙의 개별 샘플들에 관한 정보를 포함하는 샘플 엔트리들을 포함할 수도 있다. L-HEVC 에 대한 ISO 기본 미디어 파일 포맷의 확장판의 초안에서, 샘플 엔트리는 LHEVCDecoderConfigurationRecord 클래스의 인스턴스를 포함할 수도 있다. 제 5 기법의 일 예에 따르면, 각각의 트랙의 샘플 엔트리는 'oinf' 박스에서 시그널링된 동작 지점들의 리스트로의 인덱스들의 리스트를 포함할 수도 있다. 샘플 엔트리에서의 동작 지점들의 리스트는 샘플 엔트리가 적용되는 샘플들에 적용되는 동작 지점들의 리스트이다.
따라서, 제 5 기법의 일 예에서, 파일을 발생시키는 것의 부분으로서, 디바이스 (예컨대, 소스 디바이스 (12) 또는 다른 디바이스) 는 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹을 규정하는 샘플 그룹 설명 엔트리를 포함하는 트랙 내 박스에서 동작 지점들의 리스트를 시그널링할 수도 있다. 이 예에서, 그 박스가 속하는 유형의 박스들은 동작 지점 정보 샘플 그룹들을 규정하는 샘플 그룹 설명 엔트리들을 포함하기 위해서만 지정된다. 이와 유사하게, 제 5 기법의 다른 예에서, 파일을 발생시키는 것의 부분으로서, 디바이스 (예컨대, 목적지 디바이스 (14) 또는 다른 디바이스) 는 파일에서의 비트스트림에 이용가능한 동작 지점들을 리스트하는 동작 지점 정보 샘플 그룹을 규정하는 샘플 그룹 설명 엔트리를 포함하는 트랙 내 박스에서 동작 지점들의 리스트를 획득할 수도 있다. 이 예에서, 그 박스가 속하는 유형의 박스들은 단지 동작 지점 샘플 그룹들을 규정하는 샘플 그룹 설명 엔트리들을 포함하기 위해서만 지정된다.
아래 텍스트는 제 5 기법을 구현하기 위한, 14496-15 에 대한 현재의 초안 사양에 대한 예시적인 변화들을 나타낸다.
9.6.3 디코더 구성 레코드
조항 8.3.3.1 에 정의된 디코더 구성 레코드가 L-HEVC 또는 HEVC 스트림으로서 해석될 수 있는 스트림에 대해 사용될 때, HEVC 디코더 구성 레코드는 HEVC 호환가능한 기초 계층에 적용되어야 하며, HEVC 기초 계층을 디코딩하는데 필요한 단지 파라미터 세트들만을 포함해야 한다.
LHEVCDecoderConfigurationRecord 의 신택스는 다음과 같다:
aligned(8) class LHEVCDecoderConfigurationRecord {
unsigned int(8) configurationVersion = 1; bit(4) reserved = '1111'b;
unsigned int(12) min_spatial_segmentation_idc;
bit(6) reserved = '111111'b;
unsigned int(2) parallelismType;
bit(2) reserved = '11'b;
bit(3) numTemporalLayers;
bit(1) temporalIdNested;
unsigned int(2) lengthSizeMinusOne;
unsigned int(8) numOfArrays;
for (j=0; j < numOfArrays; j++) {
bit(1) array_completeness;
unsigned int(1) reserved = 0;
unsigned int(6) NAL_unit_type;
unsigned int(16) numNalus;
for (i=0; i< numNalus; i++) {
unsigned int(16) nalUnitLength;
bit(8*nalUnitLength) nalUnit;
}
}
<ins>unsigned int(16) numOfAvailableOPs;
for (j=0; j < numOfAvailableOPs; j++) {
unsigned int(16) op_idx;</ins>
}
}
LHEVCDecoderConfigurationRecord 및 HEVCDecoderConfigurationRecord 에 공통적인 필드들의 의미들은 변경되지 않고 유지된다.
주 트랙은 하나 보다 많은 출력 계층 세트를 나타낼 수도 있다.
주 트랙에 포함된 각각의 보조 픽처 계층에 대해, nalUnit 내에, 보조 픽처 계층의 특성들을 규정하는, 심도 보조 픽처 계층들에 대한 심도 표현 정보 SEI 메시지와 같은, 선언적 SEI 메시지를 포함하는 SEI NAL 유닛을 포함시키는 것이 권장된다.
<ins>num_operating_points: 이 샘플 엔트리가 적용되는 샘플들에 적용되는 동작하는 지점들의 수를 제공한다.
Op_idx: 'oinf' 박스에서 시그널링된 동작 지점들의 리스트로의 인덱스를 제공한다.</ins>
본 개시물은 여러 기법들을 제안한다. 이들 기법들 중 일부는 독립적으로 적용될 수도 있으며, 그들 중 일부는 조합하여 적용될 수도 있다.
파일을 발생시키거나 또는 프로세싱하는 본 개시물의 기법들은 소스 디바이스 (12), 목적지 디바이스 (14), 또는 다른 디바이스에 의해 수행될 수도 있다. 예를 들어, 디바이스는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 인코딩된 비디오 데이터에 기초하여 파일을 발생시킬 수도 있다. 이와 유사하게, 디바이스는 파일을 수신하여 프로세싱할 수도 있다. 이 디바이스는 파일로부터의 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 제공할 수도 있다.
도 5 는 예시적인 비디오 인코더 (20) 를 예시하는 블록도이다. 도 5 는 설명의 목적들을 위해 제공되며 본 개시물에서 넓게 예시되고 설명된 바와 같은 기법들의 한정으로 간주되지 않아야 한다. 설명의 목적을 위해, 본 개시물은 HEVC 코딩의 상황에서 비디오 인코더 (20) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에도 적용가능할 수도 있다.
도 5 의 예에서, 비디오 인코더 (20) 는 예측 프로세싱 유닛 (100), 비디오 데이터 메모리 (101), 잔차 발생 유닛 (102), 변환 프로세싱 유닛 (104), 양자화 유닛 (106), 역양자화 유닛 (108), 역변환 프로세싱 유닛 (110), 복원 유닛 (112), 필터 유닛 (114), 디코딩된 픽처 버퍼 (116), 및 엔트로피 인코딩 유닛 (118) 을 포함한다. 예측 프로세싱 유닛 (100) 은 인터-예측 프로세싱 유닛 (120) 및 인트라-예측 프로세싱 유닛 (126) 을 포함한다. 인터-예측 프로세싱 유닛 (120) 은 모션 추정 유닛 및 모션 보상 유닛 (미도시) 을 포함한다. 다른 예들에서, 비디오 인코더 (20) 는 더 많거나, 더 적거나, 또는 상이한 기능적 컴포넌트들을 포함할 수도 있다.
비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 컴포넌트들에 의해 인코딩될 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (101) 에 저장된 비디오 데이터는 예를 들어, 비디오 소스 (18) 로부터 획득될 수도 있다. 디코딩된 픽처 버퍼 (116) 는 예컨대, 인트라- 또는 인터-코딩 모드들에서 비디오 인코더 (20) 에 의해 비디오 데이터를 인코딩할 때에 사용하기 위해 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다. 비디오 데이터 메모리 (101) 및 디코딩된 픽처 버퍼 (116) 는 동기 DRAM (SDRAM) 을 포함한 동적 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은, 다양한 메모리 디바이스들 중 임의의 메모리 디바이스에 의해 형성될 수도 있다. 비디오 데이터 메모리 (101) 및 디코딩된 픽처 버퍼 (116) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 다양한 예들에서, 비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 다른 컴포넌트들과의 온칩, 또는 그들 컴포넌트들에 대한 오프-칩일 수도 있다.
비디오 인코더 (20) 는 비디오 데이터를 수신한다. 비디오 인코더 (20) 는 비디오 데이터의 픽처의 슬라이스에서의 각각의 CTU 를 인코딩할 수도 있다. CTU들의 각각은 픽처의 동일-사이즈의 루마 코딩 트리 블록들 (CTB들) 및 대응하는 CTB들과 연관될 수도 있다. CTU 를 인코딩하는 것의 부분으로서, 예측 프로세싱 유닛 (100) 은 쿼드-트리 파티셔닝을 수행하여, CTU 의 CTB들을 점차적으로-더 작은 블록들로 분할할 수도 있다. 더 작은 블록은 CU들의 코딩 블록들일 수도 있다. 예를 들어, 예측 프로세싱 유닛 (100) 은 CTU 와 연관되는 CTB 를 4개의 동일-사이즈의 서브-블록들로 파티셔닝하고, 서브-블록들 중 하나 이상을 4개의 동일-사이즈의 서브-서브-블록들로, 그리고 기타 등등으로 파티셔닝할 수도 있다.
비디오 인코더 (20) 는 CU들의 인코딩된 표현들 (즉, 코딩된 CU들) 을 발생하기 위해 CTU 의 CU들을 인코딩할 수도 있다. CU 를 인코딩하는 것의 부분으로서, 예측 프로세싱 유닛 (100) 은 CU 의 하나 이상의 PU들 중에서 CU 와 연관되는 코딩 블록들을 파티셔닝할 수도 있다. 따라서, 각각의 PU 는 루마 예측 블록 및 대응하는 크로마 예측 블록들과 연관될 수도 있다. 인터-예측 프로세싱 유닛 (120) 은 CU 의 각각의 PU 에 대해 인터 예측을 수행함으로써, PU 에 대한 예측 데이터를 발생시킬 수도 있다. PU 에 대한 예측 데이터는 PU 의 예측 블록들 및 PU 에 대한 모션 정보를 포함할 수도 있다. 인트라-예측 프로세싱 유닛 (126) 은 PU 에 대해 인트라 예측을 수행함으로써, PU 에 대한 예측 데이터를 발생시킬 수도 있다. PU 에 대한 예측 데이터는 PU 의 예측 블록들 및 여러 신택스 엘리먼트들을 포함할 수도 있다. 인트라-예측 프로세싱 유닛 (126) 은 I 슬라이스들, P 슬라이스들, 및 B 슬라이스들에서의 PU들에 대해 인트라 예측을 수행할 수도 있다.
예측 프로세싱 유닛 (100) 은 PU들에 대해 인터-예측 프로세싱 유닛 (120) 에 의해 발생된 예측 데이터, 또는 PU들에 대해 인트라-예측 프로세싱 유닛 (126) 에 의해 발생된 예측 데이터 중에서, CU 의 PU들에 대한 예측 데이터를 선택할 수도 있다. 일부 예들에서, 예측 프로세싱 유닛 (100) 은 예측 데이터의 세트들의 레이트/왜곡 메트릭들에 기초하여, CU 의 PU들에 대한 예측 데이터를 선택한다. 선택된 예측 데이터의 예측 블록들은 본원에서 선택된 예측 블록들로서 지칭될 수도 있다. 잔차 발생 유닛 (102) 은 CU 에 대한 코딩 블록들 및 CU 의 PU들에 대한 선택된 예측 블록들에 기초하여, CU 에 대한 잔차 블록들을 발생시킬 수도 있다.
변환 프로세싱 유닛 (104) 은 쿼드-트리 파티셔닝을 수행하여, CU 와 연관되는 잔차 블록들을 CU 의 TU들과 연관되는 변환 블록들로 파티셔닝할 수도 있다. TU 는 루마 변환 블록 및 2개의 크로마 변환 블록들과 연관될 수도 있다. CU 의 TU들의 루마 및 크로마 변환 블록들의 사이즈들 및 위치들은 CU 의 PU들의 예측 블록들의 사이즈들 및 위치들에 기초하거나 또는 기초하지 않을 수도 있다.
변환 프로세싱 유닛 (104) 은 하나 이상의 변환들을 TU 의 변환 블록들에 적용함으로써, CU 의 각각의 TU 에 대한 변환 계수 블록들을 발생시킬 수도 있다. 변환 프로세싱 유닛 (104) 은 다양한 변환들을 TU 와 연관되는 변환 블록에 적용할 수도 있다. 예를 들어, 변환 프로세싱 유닛 (104) 은 변환 블록에 이산 코사인 변환 (DCT), 방향성 변환, 또는 개념적으로 유사한 변환을 적용할 수도 있다. 일부 예들에서, 변환 프로세싱 유닛 (104) 은 변환 블록에 변환들을 적용하지 않는다. 이러한 예들에서, 변환 블록은 변환 계수 블록으로서 취급될 수도 있다.
양자화 유닛 (106) 은 계수 블록에서의 변환 계수들을 양자화할 수도 있다. 양자화 프로세스는 그 변환 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다.
역양자화 유닛 (108) 및 역변환 프로세싱 유닛 (110) 은 역양자화 및 역변환들을 계수 블록에 각각 적용하여, 계수 블록으로부터 잔차 블록을 복원할 수도 있다. 복원 유닛 (112) 은 그 복원된 잔차 블록을 예측 프로세싱 유닛 (100) 에 의해 발생되는 하나 이상의 예측 블록들로부터의 대응하는 샘플들에 가산하여, TU 와 연관되는 복원된 변환 블록을 생성할 수도 있다. 이 방법으로 CU 의 각각의 TU 에 대한 변환 블록들을 복원함으로써, 비디오 인코더 (20) 는 CU 의 코딩 블록들을 복원할 수도 있다.
필터 유닛 (114) 은 CU 와 연관되는 코딩 블록들에서 블록킹 아티팩트들을 감소시키기 위해, 하나 이상의 디블록킹 동작들을 수행할 수도 있다. 디코딩된 픽처 버퍼 (116) 은 필터 유닛 (114) 이 복원된 코딩 블록들에 관해 하나 이상의 디블록킹 동작들을 수행한 후 그 복원된 코딩 블록들을 저장할 수도 있다. 인터-예측 프로세싱 유닛 (120) 은 그 복원된 코딩 블록들을 포함하는 참조 픽처를 이용하여, 다른 픽처들의 PU들에 대해 인터 예측을 수행할 수도 있다. 게다가, 인트라-예측 프로세싱 유닛 (126) 은 디코딩된 픽처 버퍼 (116) 에서의 복원된 코딩 블록들을 이용하여, CU 와 동일한 픽처에서의 다른 PU들에 대해 인트라 예측을 수행할 수도 있다.
엔트로피 인코딩 유닛 (118) 은 비디오 인코더 (20) 의 다른 기능적 컴포넌트들로부터 데이터를 수신할 수도 있다. 예를 들어, 엔트로피 인코딩 유닛 (118) 은 양자화 유닛 (106) 으로부터 계수 블록들을 수신할 수도 있으며 예측 프로세싱 유닛 (100) 으로부터 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 인코딩 유닛 (118) 은 데이터에 대해 하나 이상의 엔트로피 인코딩 동작들을 수행하여, 엔트로피-인코딩된 데이터를 발생시킬 수도 있다. 예를 들어, 엔트로피 인코딩 유닛 (118) 은 CABAC 동작, 컨텍스트-적응 가변 길이 코딩 (CAVLC) 동작, V2V (variable-to-variable) 길이 코딩 동작, 신택스-기반 컨텍스트-적응 2진 산술 코딩 (SBAC) 동작, 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 동작, 지수-Golomb 인코딩 동작, 또는 또다른 유형의 엔트로피 인코딩 동작을 데이터에 대해 수행할 수도 있다. 비디오 인코더 (20) 는 엔트로피 인코딩 유닛 (118) 에 의해 발생된 엔트로피-인코딩된 데이터를 포함하는 비트스트림을 출력할 수도 있다. 예를 들어, 비트스트림은 CU 에 대한 RQT 를 나타내는 데이터를 포함할 수도 있다.
더욱이, 도 5 의 예에서, 파일 프로세싱 유닛 (128) 은 비디오 인코더 (20) 에 의해 발생된 비트스트림을 획득할 수도 있다. 파일 프로세싱 유닛 (128) 은 소스 디바이스 (12), 파일 발생 디바이스 (34), 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형의 디바이스와 같은, 디바이스의 하나 이상의 프로세서들에 의해 구현될 수도 있다. 파일 프로세싱 유닛 (128) 은 비디오 인코더 (20) 에 의해 발생된 비트스트림을 저장하는 파일을 발생시킬 수도 있다. 컴퓨터 판독가능 매체 (130) 는 파일 프로세싱 유닛 (128) 에 의해 발생된 파일을 수신할 수도 있다. 일부 예들에서, 컴퓨터 판독가능 매체 (130) 는 메모리, 광 디스크, 자기 디스크, 또는 컴퓨팅 디바이스가 데이터를 판독할 수 있는 다른 유형의 비일시성 저장 매체와 같은, 컴퓨터 판독가능 저장 매체를 포함한다. 컴퓨터 판독가능 매체 (130) 가 컴퓨터 판독가능 저장 매체를 포함하는 일부 예들에서, 컴퓨터 판독가능 저장 매체는 소스 디바이스 (12), 파일 발생 디바이스 (34), 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형의 디바이스와 같은, 디바이스의 부분을 형성할 수도 있다. 일부 예들에서, 컴퓨터 판독가능 매체 (130) 는 광 섬유, 통신 케이블, 전자기파, 또는 컴퓨팅 디바이스가 데이터를 판독할 수 있는 다른 유형들의 매체들과 같은, 컴퓨터-판독가능 통신 매체를 포함한다.
본 개시물의 기법에 따르면, 파일 프로세싱 유닛 (128) 은 파일에서 동작 지점 참조 트랙을 발생시킬 수도 있다. 동작 지점 참조 트랙을 발생시키는 것의 부분으로서, 파일 프로세싱 유닛 (128) 은 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링할 수도 있다. 추가적으로, 파일을 발생시키는 것의 부분으로서, 파일 프로세싱 유닛 (128) 은 파일에서 하나 이상의 추가적인 트랙들을 발생시킬 수도 있다. 이 예에서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 파일 프로세싱 유닛 (128) 은 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 파일 프로세싱 유닛 (128) 은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다.
도 6 은 예시적인 비디오 디코더 (30) 를 예시하는 블록도이다. 도 6 은 설명의 목적들을 위해 제공되며 본 개시물에 넓게 예시되고 설명된 것과 같은 기법들에 한정하는 것이 아니다. 설명의 목적을 위해, 본 개시물은 HEVC 코딩의 컨텍스트에서의 비디오 디코더 (30) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에도 적용가능할 수도 있다.
도 6 의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (150), 비디오 데이터 메모리 (151), 예측 프로세싱 유닛 (152), 역양자화 유닛 (154), 역변환 프로세싱 유닛 (156), 복원 유닛 (158), 필터 유닛 (160), 및 디코딩된 픽처 버퍼 (162) 를 포함한다. 예측 프로세싱 유닛 (152) 은 모션 보상 유닛 (164) 및 인트라-예측 프로세싱 유닛 (166) 을 포함한다. 다른 예들에서, 비디오 디코더 (30) 는 더 많거나, 더 적거나, 또는 상이한 기능적 컴포넌트들을 포함할 수도 있다.
비디오 데이터 메모리 (151) 는 비디오 디코더 (30) 의 컴포넌트들에 의해 디코딩될, 인코딩된 비디오 비트스트림과 같은, 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (151) 에 저장된 비디오 데이터는 예를 들어, 채널 (16) 로부터, 예컨대, 카메라와 같은 로컬 비디오 소스로부터, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통해서, 또는 물리적인 데이터 저장 매체들에 액세스함으로써 획득될 수도 있다. 비디오 데이터 메모리 (151) 는 인코딩된 비디오 비트스트림으로부터 인코딩된 비디오 데이터를 저장하는 코딩된 픽처 버퍼 (CPB) 를 형성할 수도 있다. 디코딩된 픽처 버퍼 (162) 는 예컨대, 인트라- 또는 인터-코딩 모드들에서 비디오 디코더 (30) 에 의해 비디오 데이터를 디코딩할 때에 사용하기 위해 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다. 비디오 데이터 메모리 (151) 및 디코딩된 픽처 버퍼 (162) 는 동기 DRAM (SDRAM) 을 포함한 동적 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은, 다양한 메모리 디바이스들 중 임의의 메모리 디바이스에 의해 형성될 수도 있다. 비디오 데이터 메모리 (151) 및 디코딩된 픽처 버퍼 (162) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 여러 예들에서, 비디오 데이터 메모리 (151) 는 비디오 디코더 (30) 의 다른 컴포넌트들과의 온칩, 또는 그들 컴포넌트들에 대한 오프-칩일 수도 있다.
비디오 데이터 메모리 (151) 는 비트스트림의 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 을 수신하여 저장한다. 엔트로피 디코딩 유닛 (150) 은 CPB 로부터 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 를 수신하고 NAL 유닛들을 파싱하여, 신택스 엘리먼트들을 획득할 수도 있다. 엔트로피 디코딩 유닛 (150) 은 NAL 유닛들에서의 엔트로피-인코딩된 신택스 엘리먼트들을 엔트로피 디코딩할 수도 있다. 예측 프로세싱 유닛 (152), 역양자화 유닛 (154), 역변환 프로세싱 유닛 (156), 복원 유닛 (158), 및 필터 유닛 (160) 은 비트스트림으로부터 추출된 신택스 엘리먼트들에 기초하여, 디코딩된 비디오 데이터를 발생시킬 수도 있다. 엔트로피 디코딩 유닛 (150) 은 엔트로피 인코딩 유닛 (118) 의 프로세스와는 일반적으로 반대인 프로세스를 수행할 수도 있다.
비트스트림으로부터 신택스 엘리먼트들을 획득하는 것에 더해서, 비디오 디코더 (30) 는 비파티셔닝된 CU 에 대해 복원 동작을 수행할 수도 있다. CU 에 대해 복원 동작을 수행하기 위해, 비디오 디코더 (30) 는 CU 의 각각의 TU 에 대해 복원 동작을 수행할 수도 있다. CU 의 각각의 TU 에 대해 복원 동작을 수행함으로써, 비디오 디코더 (30) 는 CU 의 잔차 블록들을 복원할 수도 있다.
CU 의 TU 에 대해 복원 동작을 수행하는 것의 부분으로서, 역양자화 유닛 (154) 은 TU 와 연관되는 계수 블록들을 역양자화할 수도 있다, 즉, 양자화 해제할 수도 있다. 역양자화 유닛 (154) 이 계수 블록을 역양자화한 후, 역변환 프로세싱 유닛 (156) 은 TU 와 연관되는 잔차 블록을 발생하기 위해, 하나 이상의 역변환들을 계수 블록에 적용할 수도 있다. 예를 들어, 역변환 프로세싱 유닛 (156) 은 역 DCT, 역 정수 변환, 역 Karhunen-Loeve 변환 (KLT), 역 회전 변환, 역 방향 변환, 또는 또 다른 역변환을 계수 블록에 적용할 수도 있다.
PU 가 인트라 예측을 이용하여 인코딩되면, 인트라-예측 프로세싱 유닛 (166) 은 인트라 예측을 수행하여, PU 의 예측 블록들을 발생시킬 수도 있다. 인트라-예측 프로세싱 유닛 (166) 은 인트라 예측 모드를 이용하여, 샘플들 공간적으로-이웃하는 블록들에 기초하여 PU 의 예측 블록들을 발생시킬 수도 있다. 인트라-예측 프로세싱 유닛 (166) 은 비트스트림으로부터 획득된 하나 이상의 신택스 엘리먼트들에 기초하여, PU 에 대한 인트라 예측 모드를 결정할 수도 있다.
PU 가 인터 예측을 이용하여 인코딩되면, 엔트로피 디코딩 유닛 (150) 은 PU 에 대한 모션 정보를 결정할 수도 있다. 모션 보상 유닛 (164) 은 PU 의 모션 정보에 기초하여, 하나 이상의 참조 블록들을 결정할 수도 있다. 모션 보상 유닛 (164) 은 하나 이상의 참조 블록들에 기초하여, PU 에 대한 예측 블록들 (예컨대, 예측 루마, Cb 및 Cr 블록들) 을 발생시킬 수도 있다.
복원 유닛 (158) 은 적용가능한 경우, CU 의 TU들에 대한 변환 블록들 (예컨대, 루마, Cb 및 Cr 변환 블록들) 및 CU 의 PU들의 예측 블록들 (예컨대, 루마, Cb 및 Cr 블록들), 즉, 인트라-예측 데이터 또는 인터-예측 데이터를 이용하여, CU 에 대한 코딩 블록들 (예컨대, 루마, Cb 및 Cr 코딩 블록들) 을 복원할 수도 있다. 예를 들어, 복원 유닛 (158) 은 변환 블록들 (예컨대, 루마, Cb 및 Cr 변환 블록들) 의 샘플들을 예측 블록들 (예컨대, 루마, Cb 및 Cr 예측 블록들) 의 대응하는 샘플들에 추가하여, CU 의 코딩 블록들 (예컨대, 루마, Cb 및 Cr 코딩 블록들) 을 복원할 수도 있다.
필터 유닛 (160) 은 CU 의 코딩 블록들과 연관되는 블록킹 아티팩트들을 감소시키기 위해 디블록킹 동작을 수행할 수도 있다. 비디오 디코더 (30) 는 CU 의 코딩 블록들을 디코딩된 픽처 버퍼 (162) 에 저장할 수도 있다. 디코딩된 픽처 버퍼 (162) 는 후속 모션 보상, 인트라 예측, 및 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상에의 프리젠테이션을 위해, 참조 픽처들을 제공할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 디코딩된 픽처 버퍼 (162) 에서의 블록들에 기초하여, 다른 CU들의 PU들에 대해 인트라 예측 또는 인터 예측 동작들을 수행할 수도 있다.
도 6 의 예에서, 컴퓨터 판독가능 매체 (148) 는 메모리, 광 디스크, 자기 디스크, 또는 컴퓨팅 디바이스가 데이터를 판독할 수 있는 다른 유형의 비일시성 저장 매체와 같은, 컴퓨터 판독가능 저장 매체를 포함한다. 컴퓨터 판독가능 매체 (148) 가 컴퓨터 판독가능 저장 매체를 포함하는 일부 예들에서, 컴퓨터 판독가능 저장 매체는 소스 디바이스 (12), 파일 발생 디바이스 (34), 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형의 디바이스과 같은, 디바이스의 부분을 형성할 수도 있다. 일부 예들에서, 컴퓨터 판독가능 매체 (148) 는 광 섬유, 통신 케이블, 전자기파, 또는 컴퓨팅 디바이스가 데이터를 판독할 수 있는 다른 유형들의 매체들과 같은, 컴퓨터-판독가능 통신 매체를 포함한다.
더욱이, 도 6 의 예에서, 파일 프로세싱 유닛 (149) 은 컴퓨터 판독가능 매체 (148) 로부터 파일 또는 파일의 부분들을 수신한다. 파일 프로세싱 유닛 (149) 은 목적지 디바이스 (14), MANE, 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형의 디바이스와 같은, 디바이스의 하나 이상의 프로세서들에 의해 구현될 수도 있다.
파일 프로세싱 유닛 (149) 은 파일을 프로세싱할 수도 있다. 예를 들어, 파일 프로세싱 유닛 (149) 은 파일로부터 NAL 유닛들을 획득할 수도 있다. 도 6 의 예에서, 비디오 디코더 (30) 에 의해 수신된 인코딩된 비디오 비트스트림은 파일로부터 획득된 NAL 유닛들을 포함할 수도 있다.
본 개시물의 기법에 따르면, 파일 프로세싱 유닛 (149) 은 파일에서 동작 지점 참조 트랙을 획득할 수도 있다. 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명된다. 더욱이, 파일 프로세싱 유닛 (149) 은 파일에서 하나 이상의 추가적인 트랙들을 획득할 수도 있다. 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 더욱이, 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 파일 프로세싱 유닛 (149) 은 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정할 수도 있다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 파일 프로세싱 유닛 (149) 은 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 파일 프로세싱 유닛 (149) 은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다. 더욱이, 파일 프로세싱 유닛 (149) 은 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행할 수도 있다.
도 7 은 본 개시물의 하나 이상의 기법들에 따른, 예시적인 파일 (300) 의 구조들을 예시하는 블록도이다. 파일 (300) 은 소스 디바이스 (12) (도 1), 파일 발생 디바이스 (34) (도 1), 목적지 디바이스 (14) (도 1), 파일 프로세싱 유닛 (128) (도 5), MANE, 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형들의 디바이스들 또는 유닛들과 같은, 다양한 디바이스들에 의해 발생되어 프로세싱될 수도 있다. 도 7 의 예에서, 파일 (300) 은 영화 박스 (302) 및 복수의 미디어 데이터 박스들 (304) 을 포함한다. 도 7 의 예에서는 동일한 파일에 있는 것으로 예시되지만, 다른 예들에서, 영화 박스 (302) 및 미디어 데이터 박스들 (304) 은 별개의 파일들에 있을 수도 있다. 위에서 나타낸 바와 같이, 박스는 고유한 유형 식별자 및 길이로 정의된 객체지향 빌딩 블록 (building block) 일 수도 있다. 예를 들어, 박스는 4-문자 코딩된 박스 유형, 박스의 바이트 카운트, 및 페이로드를 포함한, ISOBMFF 에서의 기본 신택스 구조일 수도 있다.
영화 박스 (302) 는 파일 (300) 의 트랙들에 대한 메타데이터를 포함할 수도 있다. 파일 (300) 의 각각의 트랙은 미디어 데이터의 연속적인 스트림을 포함할 수도 있다. 미디어 데이터 박스들 (304) 의 각각은 하나 이상의 샘플들 (305) 을 포함할 수도 있다. 샘플들 (305) 의 각각은 오디오 또는 비디오 액세스 유닛을 포함할 수도 있다. 본 개시물에서 다른 어딘가에서 설명된 바와 같이, 각각의 액세스 유닛은 멀티-뷰 코딩 (예컨대, MV-HEVC 및 3D-HEVC) 및 스케일러블 비디오 코딩 (예컨대, SHVC) 에서의 다수의 코딩된 픽처들을 포함할 수도 있다. 예를 들어, 액세스 유닛은 각각의 계층에 대한 하나 이상의 코딩된 픽처들을 포함할 수도 있다.
더욱이, 도 7 의 예에서, 영화 박스 (302) 는 트랙 박스 (306) 를 포함한다. 트랙 박스 (306) 는 파일 (300) 의 트랙에 대한 메타데이터를 포함할 수도 있다. 다른 예들에서, 영화 박스 (302) 는 파일 (300) 의 상이한 트랙들에 대한 다수의 트랙 박스들을 포함할 수도 있다. 트랙 박스 (306) 는 미디어 박스 (307) 를 포함한다. 미디어 박스 (307) 는 트랙 내 미디어 데이터에 관한 정보를 선언하는 모든 오브젝트들을 포함할 수도 있다. 미디어 박스 (307) 는 미디어 정보 박스 (308) 를 포함한다. 미디어 정보 박스 (308) 는 트랙의 미디어의 특성 정보를 선언하는 모든 오브젝트들을 포함할 수도 있다. 미디어 정보 박스 (308) 는 샘플 테이블 박스 (309) 를 포함한다. 샘플 테이블 박스 (309) 는 샘플-특정의 메타데이터를 규정할 수도 있다. 샘플 테이블 박스 (309) 는 0 개 이상의 SampleToGroup 박스들 및 0 개 이상의 SampleGroupDescription 박스들을 포함할 수도 있다.
도 7 의 예에서, 샘플 테이블 박스 (309) 는 샘플 설명 박스 (310) 를 포함할 수도 있다. 추가적으로, 샘플 테이블 박스 (309) 는 0 개 이상의 SampleToGroup 박스들 및 0 개 이상의 SampleGroupDescription 박스들을 포함할 수도 있다. 특히, 도 7 의 예에서, 샘플 테이블 박스 (309) 는 SampleToGroup 박스 (311) 및 SampleGroupDescription 박스 (312) 를 포함한다. 다른 예들에서, 샘플 테이블 박스 (309) 는 샘플 설명 박스 (310), SampleToGroup 박스 (311), 및 SampleGroupDescription 박스 (312) 에 더해서, 다른 박스들을 포함할 수도 있거나, 및/또는 다수의 SampleToGroup 박스들 및 SampleGroupDescription 박스들을 포함할 수도 있다. SampleToGroup 박스 (311) 는 샘플들 (예컨대, 샘플들 (305) 중 특정의 샘플들) 을 샘플들의 그룹에 맵핑할 수도 있다. SampleGroupDescription 박스 (312) 는 샘플들의 그룹 (즉, 샘플 그룹) 에서의 샘플들에 의해 공유되는 속성을 규정할 수도 있다. 샘플 설명 박스 (310) 는 트랙에 대한 샘플 엔트리들 (315) 의 세트를 포함한다. 샘플 (예컨대, 샘플들 (305) 중 하나) 은 샘플에 적용가능한 것으로 샘플 엔트리들 (315) 중 하나를 표시하는 신택스 엘리먼트를 포함할 수도 있다.
더욱이, 도 7 의 예에서, SampleToGroup 박스 (311) 는 grouping_type 신택스 엘리먼트 (313) (즉, 그룹화 유형 신택스 엘리먼트), entry_count 신택스 엘리먼트 (316) (즉, 엔트리 카운트 신택스 엘리먼트), 및 하나 이상의 샘플 그룹 엔트리들 (318) 을 포함한다. grouping_type 신택스 엘리먼트 (313) 는 샘플 그룹화의 유형 (즉, 샘플 그룹들을 형성하는데 사용된 기준) 을 식별하고 그것을 그룹화 유형에 대해 동일한 값을 가지는 그의 샘플 그룹 설명 테이블에 링크하는 정수이다. 일부 예들에서, grouping_type 신택스 엘리먼트 (313) 에 대한 동일한 값을 가지는 SampleToGroup 박스 (311) 의 발생이 트랙에 대해 많아 봐야 한번 존재해야 한다.
entry_count 신택스 엘리먼트 (316) 는 샘플 그룹 엔트리들 (318) 의 수를 표시한다. 샘플 그룹 엔트리들 (318) 의 각각은 sample_count 신택스 엘리먼트 (324) (즉, 샘플 카운트 신택스 엘리먼트) 및 group_description_index 신택스 엘리먼트 (326) (즉, 그룹 설명 인덱스 신택스 엘리먼트) 를 포함한다. sample_count 신택스 엘리먼트 (324) 는 sample_count 신택스 엘리먼트 (324) 를 포함하는 샘플 그룹 엔트리와 연관된 샘플들의 수를 표시할 수도 있다. group_description_index 신택스 엘리먼트 (326) 는 SampleGroupDescription 박스 (예컨대, SampleGroupDescription 박스 (312)) 내에서, group_description_index 신택스 엘리먼트 (326) 를 포함하는 샘플 그룹 엔트리와 연관된 샘플들의 설명을 포함하는 그룹 설명 엔트리를 식별할 수도 있다. group_description_index 신택스 엘리먼트 (326) 는 1 내지 SampleGroupDescription 박스 (312) 내 샘플 그룹 엔트리들의 수의 범위일 수도 있다. 값 0 을 가지는 group_description_index 신택스 엘리먼트 (326) 는 샘플이 grouping_type 신택스 엘리먼트 (313) 에 의해 표시되는 유형의 그룹의 멤버가 아니라는 것을 표시한다.
추가적으로, 도 7 의 예에서, SampleGroupDescription 박스 (312) 는 grouping_type 신택스 엘리먼트 (328), entry_count 신택스 엘리먼트 (330), 및 하나 이상의 그룹 설명 엔트리들 (332) 을 포함한다. grouping_type 신택스 엘리먼트 (328) 는 SampleGroupDescription 박스 (312) 와 연관되는 SampleToGroup 박스 (예컨대, SampleToGroup 박스 (311)) 를 식별하는 정수이다. entry_count 신택스 엘리먼트 (330) 는 SampleGroupDescription 박스에서의 그룹 설명 엔트리들 (332) 의 수를 표시한다. 그룹 설명 엔트리들 (332) 의 각각은 샘플 그룹의 설명을 포함할 수도 있다. 예를 들어, 그룹 설명 엔트리들 (332) 은 'oinf' 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함할 수도 있다.
본 개시물의 제 1 기법에 따르면, 파일 (300) 의 동작 지점 참조 트랙이 파일 (300) 의 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 파일 (300) 을 해석하는 디바이스는 개별 추가적인 트랙에서의 개별 샘플을, SampleGroupDescription 박스 (312) 에서의 그룹 설명 엔트리들 (332) 중 샘플 그룹 설명 엔트리에 의해 설명된 동작 지점 정보 샘플 그룹의 부분으로 고려할 수도 있다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 디바이스는 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다.
도 8 은 본 개시물의 하나 이상의 기법들에 따른, 예시적인 파일 (450) 의 구조들을 예시하는 개념도이다. 파일 (450) 은 소스 디바이스 (12) (도 1), 파일 발생 디바이스 (34) (도 1), 목적지 디바이스 (14) (도 1), 파일 프로세싱 유닛 (149) (도 6), MANE, 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형들의 디바이스들 또는 유닛들과 같은, 다양한 디바이스들에 의해 발생되어 프로세싱될 수도 있다. 도 8 의 예에서, 파일 (450) 은 하나 이상의 영화 단편 박스들 (452) 및 복수의 미디어 데이터 박스들 (454) 을 포함한다. 도 8 의 예에서는 동일한 파일에 있는 것으로 예시되지만, 다른 예들에서 영화 단편 박스들 (452) 및 미디어 데이터 박스들 (454) 은 별개의 파일들에 있을 수도 있다. 미디어 데이터 박스들 (454) 의 각각은 하나 이상의 샘플들 (456) 을 포함할 수도 있다. 영화 단편 박스들의 각각은 영화 단편에 대응한다. 각각의 영화 단편은 트랙 단편들의 세트를 포함할 수도 있다. 트랙 당 0 개 이상의 트랙 단편들이 있을 수도 있다.
도 8 의 예에서, 영화 단편 박스 (452) 는 대응하는 영화 단편에 관한 정보를 제공한다. 이러한 정보는 이전에 영화 박스 (302) 와 같은, 영화 박스에 있었을 것이다. 영화 단편 박스 (452) 는 트랙 단편 박스 (458) 를 포함할 수도 있다. 트랙 단편 박스 (458) 는 트랙 단편에 대응하며 트랙 단편에 관한 정보를 제공한다.
예를 들어, 도 8 의 예에서, 트랙 단편 박스 (458) 는 트랙 단편 박스 (458) 에 대응하는 트랙 단편에 관한 정보를 포함하는 하나 이상의 SampleGroupDescription 박스들 (464) 및 하나 이상의 SampleToGroup 박스들 (462) 을 포함할 수도 있다.
더욱이, 도 8 의 예에서, 트랙 단편 박스 (458) 는 샘플 설명 박스 (460), 0 개 이상의 SampleToGroup 박스들, 및 0 개 이상의 SampleGroupDescription 박스들을 포함할 수도 있다. 도 8 의 예에서, 트랙 단편 박스 (458) 는 트랙 단편 박스 (458) 에 대응하는 트랙 단편에 관한 정보를 포함하는 SampleGroupDescription 박스 (464) 및 SampleToGroup 박스 (462) 를 포함한다.
샘플 설명 박스 (460) 는 트랙 단편에 대한 샘플 엔트리들 (466) 의 세트를 포함한다. 샘플 엔트리들 (466) 의 각각의 개별 샘플 엔트리는 트랙의 하나 이상의 샘플들에 적용된다. 도 8 의 예에서, 샘플 엔트리들 (466) 의 세트는 샘플 엔트리 (466A) 를 포함한다.
SampleToGroup 박스 (462) 는 grouping_type 신택스 엘리먼트 (470) (즉, 그룹화 유형 신택스 엘리먼트), entry_count 신택스 엘리먼트 (474) (즉, 엔트리 카운트 신택스 엘리먼트), 및 하나 이상의 샘플 그룹 엔트리들 (476) 을 포함한다. 샘플 그룹 엔트리들 (476) 의 각각은 sample_count 신택스 엘리먼트 (482) (즉, 샘플 카운트 신택스 엘리먼트) 및 group_description_index 신택스 엘리먼트 (484) (즉, 그룹 설명 인덱스 신택스 엘리먼트) 를 포함한다. grouping_type 신택스 엘리먼트 (470), entry_count 신택스 엘리먼트 (474), sample_count 신택스 엘리먼트 (482), 및 group_description_index (484) 는 도 7 의 예와 관련하여 설명된 대응하는 신택스 엘리먼트들과 동일한 의미들을 가질 수도 있다.
추가적으로, 도 8 의 예에서, SampleGroupDescription 박스 (464) 는 grouping_type 신택스 엘리먼트 (486), entry_count 신택스 엘리먼트 (488), 및 하나 이상의 그룹 설명 엔트리들 (490) 을 포함한다. grouping_type 신택스 엘리먼트 (486), entry_count 신택스 엘리먼트 (488), 및 그룹 설명 엔트리들 (490) 은 도 7 의 예와 관련하여 설명된 대응하는 신택스 엘리먼트들 및 구조들과 동일한 의미들을 가질 수도 있다. 예를 들어, 그룹 설명 엔트리들 (332) 은 'oinf' 샘플 그룹에 대한 샘플 그룹 설명 엔트리를 포함할 수도 있다.
본 개시물의 제 1 기법에 따르면, 파일 (450) 의 동작 지점 참조 트랙이 파일 (450) 의 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 파일 (450) 을 해석하는 디바이스는 개별 추가적인 트랙에서의 개별 샘플을, SampleGroupDescription 박스 (464) 에서의 그룹 설명 엔트리들 (490) 중 샘플 그룹 설명 엔트리에 의해 설명된 동작 지점 정보 샘플 그룹의 부분으로 고려할 수도 있다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 디바이스는 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 개별 추가적인 트랙 부분에서의 개별 샘플을 고려할 수도 있다.
도 9 는 본 개시물의 하나 이상의 기법들에 따른, 더미 샘플 엔트리를 포함하는 예시적인 파일 (500) 의 구조들을 예시하는 블록도이다. 파일 (500) 은 소스 디바이스 (12) (도 1), 파일 발생 디바이스 (34) (도 1), 목적지 디바이스 (14) (도 1), 파일 프로세싱 유닛 (128) (도 5), MANE, 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형들의 디바이스들 또는 유닛들과 같은, 다양한 디바이스들에 의해 발생되어 프로세싱될 수도 있다. 도 9 의 예에서, 파일 (500) 은 영화 박스 (502), 샘플들 (505) 을 포함하는 미디어 데이터 박스 (504), 트랙 박스 (506), 미디어 박스 (507), 미디어 정보 박스 (508), 및 샘플 설명 박스 (510), SampleToGroup 박스 (511) 및 SampleGroupDescription 박스 (512) 를 포함하는 샘플 테이블 박스 (509) 를 포함할 수도 있다. 더욱이, 도 9 의 예에서, 샘플 설명 박스 (510) 는 샘플 엔트리들 (515A 내지 515N) (일괄하여, "샘플 엔트리들 (515)") 을 포함할 수도 있다. 이들 박스들은 도 7 의 예와 관련하여 위에서 설명된 대응하는 박스들과 유사한 구조들 및 의미들을 가질 수도 있다. 그러나, 본 개시물의 예시적인 제 4 기법에 따르면, 샘플 설명 박스 (510) 는 더미 샘플 엔트리 (518) 를 포함할 수도 있다. 더미 샘플 엔트리 (518) 는 트랙 박스 (506) 에 대응하는 트랙의 임의의 샘플들에 적용불가능하지만, 트랙 박스 (506) 에 대응하는 트랙에서의 계층들에 의존하는 계층들을 포함하는 다른 트랙들에 의해서만 단지 사용되는 파라미터 세트들을 포함할 수도 있다. 예를 들어, 더미 샘플 엔트리 (518) 는 동작 지점들을 설명하는 정보를 포함할 수도 있다. 샘플 설명 박스 (460) 가 더미 샘플 엔트리를 포함하는 경우에 도 8 에서 제공되는 것과 유사한 예가 발생할 수도 있다.
도 10 은 본 개시물의 하나 이상의 기법들에 따른, 샘플 엔트리들이 동작 지점 인덱스들을 포함하는 파일 (550) 의 예시적인 구조들을 예시하는 블록도이다. 파일 (550) 은 소스 디바이스 (12) (도 1), 파일 발생 디바이스 (34) (도 1), 목적지 디바이스 (14) (도 1), 파일 프로세싱 유닛 (128) (도 5), MANE, 콘텐츠 전달 네트워크 디바이스, 또는 다른 유형들의 디바이스들 또는 유닛들과 같은, 다양한 디바이스들에 의해 발생되어 프로세싱될 수도 있다. 도 10 의 예에서, 파일 (550) 은 영화 박스 (552), 샘플들 (555) 을 포함하는 미디어 데이터 박스 (554), 트랙 박스 (556), 미디어 박스 (557), 미디어 정보 박스 (558), 및 샘플 설명 박스 (560), SampleToGroup 박스 (561) 및 SampleGroupDescription 박스 (562) 를 포함하는 샘플 테이블 박스 (559) 를 포함할 수도 있다. 더욱이, 도 10 의 예에서, 샘플 설명 박스 (560) 는 샘플 엔트리들 (555A 내지 555N) (일괄하여, "샘플 엔트리들 (555)") 을 포함할 수도 있다. 이들 박스들은 도 7 의 예와 관련하여 위에서 설명된 대응하는 박스들과 유사한 구조들 및 의미들을 가질 수도 있다.
더욱이, 일부 예들에서, 샘플 엔트리들 (565) 은 LHEVCDecoderConfigurationRecord 클래스의 인스턴스들을 포함할 수도 있다. 예를 들어, 도 10 의 예에서, 샘플 엔트리 (565A) 는 LHEVCDecoderConfigurationRecord (568) 를 포함할 수도 있다. 위에서 설명된 본 개시물의 예시적인 제 5 기법에 따르면, LHEVCDecoderConfigurationRecord (568) 는 하나 이상의 동작 지점 인덱스 신택스 엘리먼트들 (570) (예컨대, op_idx) 을 포함할 수도 있다. 각각의 개별 동작 지점 인덱스 신택스 엘리먼트는 'oinf' 박스에서 시그널링된 동작 지점들의 리스트로의 인덱스를 제공한다. 따라서, 디바이스는 샘플의 샘플 엔트리에 기초하여, 샘플에 의해 포함된 인코딩된 픽처들의 동작 지점들을 결정가능할 수도 있다. 샘플 엔트리들 (446) 이 동작 지점 인덱스들을 포함하는 경우에 도 8 에서 제공되는 것과 유사한 예가 발생할 수도 있다.
도 11 은 본 개시물의 기법에 따른, 파일을 프로세싱하는 디바이스의 예시적인 동작을 예시하는 플로우차트이다. 본 개시물의 플로우차트들은 예들로서 제공된다. 다른 예들에서, 상이한 액션들이 수행될 수도 있거나 또는 액션들은 상이한 순서들로, 또는 병렬로 수행될 수도 있다. 도 11 의 예는 소스 디바이스 (12) (도 1), 파일 발생 디바이스 (34) (도 1), 파일 프로세싱 유닛 (128) (도 5), 파일 서버, 스트리밍 디바이스, MANE, 또는 다른 유형의 디바이스 또는 유닛과 같은, 다양한 유형들의 디바이스들에 의해 수행될 수도 있다.
도 11 의 예에서, 디바이스는 파일에서 동작 지점 참조 트랙을 발생시킨다 (600). 트랙을 발생시키는 것은 트랙에 속하는 샘플들을 표시하는 데이터를 포함하는 트랙 박스를 발생시키는 것을 포함할 수도 있다. 부분 동작 지점 참조 트랙을 발생시키는 것의 부분으로서, 디바이스는 동작 지점 참조 트랙에서, 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링할 수도 있다 (602). 일부 예들에서, 디바이스는 비디오 데이터를 인코딩하여 비트스트림을 발생시킬 수도 있다. 추가적으로, 도 11 의 예에서, 디바이스는 파일에서 하나 이상의 추가적인 트랙들을 발생시킬 수도 있다 (604). 도 11 의 예에서, 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다. 더욱이, 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다.
더욱이, 도 11 의 예에 나타낸 바와 같이, 일부 예들에서, 동작 지점 정보 샘플 그룹을 시그널링하는 것의 부분으로서, 디바이스는 파일에서, SampleGroupDescription 박스 (312) 또는 SampleGroupDescription 박스 (464) 와 같은, 샘플 그룹 설명 박스를 발생시킬 수도 있다 (606). 샘플 그룹 설명 박스는 동작 지점에 대한 출력 계층 세트, 동작 지점에 대한 최대 시간 식별자, 및 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리 (예컨대, 그룹 설명 엔트리들 (332 또는 490) 중 하나) 를 포함한다. 더욱이, 디바이스는 파일에서, 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 샘플 그룹 설명 박스에서의 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스 (예컨대, SampleToGroup 박스 (311, 462)) 를 발생시킬 수도 있다 (608).
도 12 는 본 개시물의 기법에 따른, 파일을 프로세싱하는 디바이스의 예시적인 동작을 예시하는 플로우차트이다. 도 12 의 예는 목적지 디바이스 (14), 파일 발생 디바이스, 파일 서버, 스트리밍 디바이스, MANE, 또는 다른 유형의 디바이스과 같은, 다양한 유형들의 디바이스들에 의해 수행될 수도 있다.
도 12 의 예에서, 디바이스는 파일에서 동작 지점 참조 트랙을 획득할 수도 있다 (650). 파일에서의 비트스트림에 이용가능한 동작 지점은 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 파일에서 설명된다. 더욱이, 도 12 의 예에서, 디바이스는 파일에서 하나 이상의 추가적인 트랙들을 획득할 수도 있다 (652). 어떤 동작 지점 정보 샘플 그룹도 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는다.
하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 디바이스는 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정할 수도 있다 (654). 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 동작 지점 정보 샘플 그룹의 부분으로서 고려된다. 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치된 샘플을 포함하지 않는 것에 기초하여, 개별 추가적인 트랙에서의 개별 샘플은 개별 추가적인 트랙의 개별 샘플 이전 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려된다.
더욱이, 도 12 의 예에서, 디바이스는 비트스트림으로부터 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행할 수도 있다 (656). 일부 예들에서, 디바이스는 추출된 동작 지점의 인코딩된 픽처들을 포함하지 않는 비트스트림의 샘플들을 송신함이 없이, 추출된 동작 지점의 인코딩된 픽처들을 포함하는 샘플들을 송신할 수도 있다. 일부 예들에서, 디바이스는 추출된 동작 지점의 인코딩된 픽처들을 포함하는 파일 샘플에 저장함이 없이, 추출된 동작 지점의 인코딩된 픽처들을 포함하는 샘플들을 저장하는 새로운 파일을 발생시킬 수도 있다. 일부 예들에서, 디바이스는 동작 지점의 비디오 데이터를 디코딩할 수도 있다. 예를 들어, 디바이스는 L-HEVC 와 같은 비디오 코덱을 이용하여 동작 지점의 인코딩된 픽처들을 디코딩할 수도 있다.
더욱이, 도 12 의 예에서 예시된 바와 같이, 일부 예들에서, 동작 지점 참조 트랙을 획득하는 것의 부분으로서, 디바이스는 파일로부터, SampleGroupDescription 박스 (312) 또는 SampleGroupDescription 박스 (464) 와 같은, 샘플 그룹 설명 박스를 획득할 수도 있다 (658). 샘플 그룹 설명 박스는 동작 지점에 대한 출력 계층 세트, 동작 지점에 대한 최대 시간 식별자, 및 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리 (예컨대, 그룹 설명 엔트리들 (332 또는 490) 중 하나) 를 포함한다. 추가적으로, 디바이스는 파일로부터, 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 샘플 그룹 설명 박스에서의 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스 (예컨대, SampleToGroup 박스 (311, 462)) 를 획득할 수도 있다 (660).
본원에서 설명되는 기법들 모두는 개별적으로 또는 조합하여 사용될 수도 있는 것으로 이해되어야 한다. 그 예에 따라서, 본원에서 설명되는 기법들 중 임의의 기법의 어떤 행위들 또는 이벤트들이 상이한 시퀀스로 수행될 수 있으며, 추가되거나, 병합되거나, 또는 모두 제외시킬 수도 있는 (예컨대, 모든 설명되는 행위들 또는 이벤트들이 기법들의 실시에 필수적인 것은 아닌) 것으로 인식되어야 한다. 더욱이, 어떤 예들에서, 행위들 또는 이벤트들은 순차적으로 보다는, 동시에, 예컨대, 멀티-쓰레드된 프로세싱, 인터럽트 프로세싱, 또는 다수의 프로세서들을 통해서 수행될 수도 있다. 게다가, 본 개시물의 어떤 양태들이 명료성의 목적들을 위해 단일 모듈 또는 유닛에 의해 수행되는 것으로 설명되지만, 본 개시물의 기법들은 비디오 코더와 연관되는 유닛들 또는 모듈들의 결합에 의해 수행될 수도 있는 것으로 이해되어야 한다. 프로세싱 회로들은 데이터 저장 매체에 다양한 방법들로 커플링될 수도 있다. 예를 들어, 프로세싱 회로는 내부 디바이스 상호접속, 유선 또는 무선 네트워크 접속, 또는 다른 통신 매체를 통해서 데이터 저장 매체에 커플링될 수도 있다.
본 개시물의 어떤 양태들은 예시의 목적을 위해 HEVC 표준에 대해서 설명되었다. 그러나, 본 개시물에서 설명하는 기법들은 아직 개발되지 않은 다른 표준 또는 독점 비디오 코딩 프로세스들을 포함한, 다른 비디오 코딩 프로세스들에 유용할 수도 있다.
비디오 인코더 (20) (도 1 및 도 5) 및/또는 비디오 디코더 (30) (도 1 및 도 6) 는 비디오 코더로서 일반적으로 지칭될 수도 있다. 이와 유사하게, 비디오 코딩은 적용가능한 경우, 비디오 인코딩 또는 비디오 디코딩을 지칭할 수도 있다.
본 기법들의 여러 양태들의 특정의 조합들이 위에서 설명되지만, 이들 조합들은 단지 본 개시물에서 설명하는 기법들의 예들을 예시하기 위해 제공된다. 따라서, 본 개시물의 기법들은 이들 예시적인 조합들에 한정되지 않아야 하며 본 개시물에서 설명하는 기법들의 여러 양태들의 임의의 상상가능한 조합을 포괄할 수도 있다.
하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되는 경우, 그 기능들은 하나 이상의 명령들 또는 코드로서, 컴퓨터-판독가능 매체 상에 저장되거나 또는 컴퓨터-판독가능 매체를 통해서 송신될 수도 있으며, 하드웨어-기반의 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터-판독가능 매체는 데이터 저장 매체들과 같은 유형의 매체에 대응하는 컴퓨터-판독가능 저장 매체들, 또는 예를 들어, 통신 프로토콜에 따라서 한 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이런 방법으로, 컴퓨터-판독가능 매체들은 일반적으로 (1) 비일시성 유형의 컴퓨터-판독가능 저장 매체, 또는 (2) 신호 또는 캐리어 파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는 본 개시물에서 설명하는 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능 매체를 포함할 수도 있다.
일 예로서, 이에 한정하지 않고, 이런 컴퓨터-판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광디스크 스토리지, 자기디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 원하는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터-판독가능 매체로 적절히 지칭된다. 예를 들어, 동축 케이블, 광섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 무선 기술들, 예컨대 적외선, 라디오, 및 마이크로파를 이용하여 명령들이 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 무선 기술들 예컨대 적외선, 라디오, 및 마이크로파가 그 매체의 정의에 포함된다. 그러나, 컴퓨터-판독가능 저장 매체 및 데이터 저장 매체는 접속부들, 반송파들, 신호들, 또는 다른 일시성 매체를 포함하지 않고, 그 대신, 비-일시성 유형의 저장 매체로 송신되는 것으로 해석되어야 한다. 디스크 (disk) 및 디스크 (disc) 는, 본원에서 사용할 때, 컴팩트 디스크 (CD), 레이저 디스크, 광 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크 및 블루-레이 디스크를 포함하며, 디스크들 (disks) 은 데이터를 자기적으로 보통 재생하지만, 디스크들 (discs) 은 레이저로 데이터를 광학적으로 재생한다. 앞에서 언급한 것들의 결합들이 또한 컴퓨터-판독가능 매체들의 범위 내에 포함되어야 한다.
명령들은 하나 이상의 디지털 신호 프로세서들 (DSPs), 범용 마이크로프로세서들, 주문형 집적회로들 (ASICs), 필드 프로그래밍가능 로직 어레이들 (FPGA들), 또는 다른 등가의 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서들에 의해 실행될 수도 있다. 따라서, 용어 "프로세서" 는, 본원에서 사용될 때 전술한 구조 중 임의의 구조 또는 본원에서 설명하는 기법들의 구현에 적합한 임의의 다른 구조를 지칭할 수도 있다. 게다가, 일부 양태들에서, 본원에서 설명하는 기능은 전용 하드웨어 및/또는 인코딩 및 디코딩을 위해 구성되는 소프트웨어 모듈들 내에 제공되거나, 또는 결합된 코덱에 포함될 수도 있다. 또한, 이 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들로 전적으로 구현될 수 있다.
본 개시물의 기법들은 무선 핸드셋, 집적 회로 (IC) 또는 IC들의 세트 (예컨대, 칩 세트) 를 포함한, 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 개시한 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해서 다양한 컴포넌트들, 모듈들, 또는 유닛들이 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 필요로 하지는 않는다. 대신, 위에서 설명한 바와 같이, 다양한 유닛들이 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명한 바와 같은 하나 이상의 프로세서들을 포함한, 상호작용하는 하드웨어 유닛들의 컬렉션으로 제공될 수도 있다.
다양한 예들이 설명되었다. 이들 및 다른 예들은 다음 청구항들의 범위 이내이다.

Claims (32)

  1. 파일을 프로세싱하는 방법으로서,
    상기 파일에서 동작 지점 참조 트랙을 획득하는 단계로서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점은 상기 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 상기 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하는 단계;
    상기 파일에서 하나 이상의 추가적인 트랙들을 획득하는 단계로서, 어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하는 단계;
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 단계로서,
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 단계; 및
    상기 비트스트림으로부터 상기 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하는 단계를 포함하는, 파일을 프로세싱하는 방법.
  2. 제 1 항에 있어서,
    상기 동작 지점 참조 트랙을 획득하는 단계는,
    상기 파일로부터, 샘플 그룹 설명 박스를 획득하는 단계로서, 상기 샘플 그룹 설명 박스는 상기 동작 지점에 대한 출력 계층 세트, 상기 동작 지점에 대한 최대 시간 식별자, 및 상기 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리를 포함하는, 상기 샘플 그룹 설명 박스를 획득하는 단계; 및
    상기 파일로부터, 상기 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 상기 샘플 그룹 설명 박스에서의 상기 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스를 획득하는 단계를 포함하는, 파일을 프로세싱하는 방법.
  3. 제 1 항에 있어서,
    상기 동작 지점 정보 샘플 그룹은 제 1 동작 지점 정보 샘플 그룹이며,
    상기 제 1 동작 지점 정보 샘플 그룹은 상기 동작 지점 참조 트랙에서의 샘플들의 제 1 세트를 포함하며,
    상기 동작 지점 참조 트랙은 상기 동작 지점 참조 트랙에서의 샘플들의 제 2 세트를 포함하는 제 2 동작 지점 샘플 그룹을 포함하며,
    상기 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간에서 발생하는 상기 동작 지점 참조 트랙에 어떤 샘플도 없으며, 그리고
    상기 샘플들의 제 1 세트 중 상기 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 상기 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간들을 가지는 상기 하나 이상의 추가적인 트랙들의 특정의 추가적인 트랙에 하나 이상의 샘플들이 있는, 파일을 프로세싱하는 방법.
  4. 제 3 항에 있어서,
    상기 특정의 추가적인 트랙은 상기 동작 지점 참조 트랙보다 더 높은 프레임 레이트를 가지는, 파일을 프로세싱하는 방법.
  5. 제 1 항에 있어서,
    상기 비트스트림은 기초 계층 및 하나 이상의 향상 계층들을 포함하며,
    상기 동작 지점 참조 트랙은 상기 기초 계층을 포함하며, 그리고
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 트랙은 상기 하나 이상의 향상 계층들의 개별 향상 계층을 포함하는, 파일을 프로세싱하는 방법.
  6. 제 1 항에 있어서,
    상기 동작 지점을 추출한 후, 상기 동작 지점의 비디오 데이터를 디코딩하는 단계, 또는
    상기 동작 지점의 인코딩된 픽처들을 포함하지 않는 상기 파일의 샘플들을 송신함이 없이, 상기 동작 지점의 인코딩된 픽처들을 포함하는 상기 파일의 샘플들을 송신하는 단계
    중 적어도 하나를 더 포함하는, 파일을 프로세싱하는 방법.
  7. 제 1 항에 있어서,
    상기 동작 지점 참조 트랙의 각각의 개별 샘플 및 상기 추가적인 트랙들의 각각의 개별 샘플은, 동일한 시간 인스턴스에 대응하는 하나 이상의 인코딩된 픽처들을 포함하는 개별 액세스 유닛을 포함하는, 파일을 프로세싱하는 방법.
  8. 파일을 발생시키는 방법으로서,
    상기 파일에서 동작 지점 참조 트랙을 발생시키는 단계로서, 상기 동작 지점 참조 트랙을 발생시키는 단계는 상기 동작 지점 참조 트랙에서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 단계를 포함하는, 상기 동작 지점 참조 트랙을 발생시키는 단계; 및
    상기 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 단계로서,
    어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며,
    상기 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키는 단계를 포함하는, 파일을 발생시키는 방법.
  9. 제 8 항에 있어서,
    상기 동작 지점 참조 트랙을 발생시키는 단계는,
    상기 파일에서, 샘플 그룹 설명 박스를 발생시키는 단계로서, 상기 샘플 그룹 설명 박스는 상기 동작 지점에 대한 출력 계층 세트, 상기 동작 지점에 대한 최대 시간 식별자, 및 상기 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리를 포함하는, 상기 샘플 그룹 설명 박스를 발생시키는 단계; 및
    상기 파일에서, 상기 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 상기 샘플 그룹 설명 박스에서의 상기 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스를 발생시키는 단계를 포함하는, 파일을 발생시키는 방법.
  10. 제 8 항에 있어서,
    상기 동작 지점 정보 샘플 그룹은 제 1 동작 지점 정보 샘플 그룹이며,
    상기 제 1 동작 지점 정보 샘플 그룹은 상기 동작 지점 참조 트랙에서의 샘플들의 제 1 세트를 포함하며,
    상기 동작 지점 참조 트랙은 상기 동작 지점 참조 트랙에서의 샘플들의 제 2 세트를 포함하는 제 2 동작 지점 샘플 그룹을 포함하며,
    상기 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간에서 발생하는 상기 동작 지점 참조 트랙에 어떤 샘플도 없으며, 그리고
    상기 샘플들의 제 1 세트 중 상기 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 상기 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간들을 가지는 상기 하나 이상의 추가적인 트랙들의 특정의 추가적인 트랙에 하나 이상의 샘플들이 있는, 파일을 발생시키는 방법.
  11. 제 10 항에 있어서,
    상기 특정의 추가적인 트랙은 상기 동작 지점 참조 트랙보다 더 높은 프레임 레이트를 가지는, 파일을 발생시키는 방법.
  12. 제 8 항에 있어서,
    상기 비트스트림은 기초 계층 및 하나 이상의 향상 계층들을 포함하며,
    상기 동작 지점 참조 트랙은 상기 기초 계층을 포함하며, 그리고
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 트랙은 상기 하나 이상의 향상 계층들의 개별 향상 계층을 포함하는, 파일을 발생시키는 방법.
  13. 제 8 항에 있어서,
    상기 비트스트림을 발생시키기 위해 비디오 데이터를 인코딩하는 단계를 더 포함하는, 파일을 발생시키는 방법.
  14. 제 8 항에 있어서,
    상기 동작 지점 참조 트랙의 각각의 개별 샘플 및 상기 추가적인 트랙들의 각각의 개별 샘플은, 동일한 시간 인스턴스에 대응하는 하나 이상의 인코딩된 픽처들을 포함하는 개별 액세스 유닛을 포함하는, 파일을 발생시키는 방법.
  15. 파일을 프로세싱하는 장치로서,
    상기 파일을 저장하도록 구성된 메모리; 및
    상기 메모리에 커플링된 하나 이상의 프로세서들을 포함하며,
    상기 하나 이상의 프로세서들은,
    상기 파일에서 동작 지점 참조 트랙을 획득하는 것으로서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점은 상기 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 상기 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하고;
    상기 파일에서 하나 이상의 추가적인 트랙들을 획득하는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하고;
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하는 것으로서,
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하고; 그리고
    상기 비트스트림으로부터 상기 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하도록
    구성되는, 파일을 프로세싱하는 장치.
  16. 제 15 항에 있어서,
    상기 하나 이상의 프로세서들은, 상기 동작 지점 참조 트랙을 획득하는 것의 부분으로서, 상기 하나 이상의 프로세서들이:
    상기 파일로부터, 샘플 그룹 설명 박스를 획득하는 것으로서, 상기 샘플 그룹 설명 박스는 상기 동작 지점에 대한 출력 계층 세트, 상기 동작 지점에 대한 최대 시간 식별자, 및 상기 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리를 포함하는, 상기 샘플 그룹 설명 박스를 획득하고; 그리고
    상기 파일로부터, 상기 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 상기 샘플 그룹 설명 박스에서의 상기 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스를 획득하도록
    구성되는, 파일을 프로세싱하는 장치.
  17. 제 15 항에 있어서,
    상기 동작 지점 정보 샘플 그룹은 제 1 동작 지점 정보 샘플 그룹이며,
    상기 제 1 동작 지점 정보 샘플 그룹은 상기 동작 지점 참조 트랙에서의 샘플들의 제 1 세트를 포함하며,
    상기 동작 지점 참조 트랙은 상기 동작 지점 참조 트랙에서의 샘플들의 제 2 세트를 포함하는 제 2 동작 지점 샘플 그룹을 포함하며,
    상기 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간에서 발생하는 상기 동작 지점 참조 트랙에 어떤 샘플도 없으며, 그리고
    상기 샘플들의 제 1 세트 중 상기 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 상기 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간들을 가지는 상기 하나 이상의 추가적인 트랙들의 특정의 추가적인 트랙에 하나 이상의 샘플들이 있는, 파일을 프로세싱하는 장치.
  18. 제 17 항에 있어서,
    상기 특정의 추가적인 트랙은 상기 동작 지점 참조 트랙보다 더 높은 프레임 레이트를 가지는, 파일을 프로세싱하는 장치.
  19. 제 15 항에 있어서,
    상기 비트스트림은 기초 계층 및 하나 이상의 향상 계층들을 포함하며,
    상기 동작 지점 참조 트랙은 상기 기초 계층을 포함하며, 그리고
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 트랙은 상기 하나 이상의 향상 계층들의 개별 향상 계층을 포함하는, 파일을 프로세싱하는 장치.
  20. 제 15 항에 있어서,
    상기 하나 이상의 프로세서들은,
    상기 동작 지점을 추출한 후, 상기 동작 지점의 비디오 데이터를 디코딩하는 것, 또는
    상기 비트스트림의 비-추출된 동작 지점들을 포워딩함이 없이 상기 동작 지점을 포워딩하는 것
    중 적어도 하나를 수행하도록 더 구성되는, 파일을 프로세싱하는 장치.
  21. 제 15 항에 있어서,
    상기 동작 지점 참조 트랙의 각각의 개별 샘플 및 상기 추가적인 트랙들의 각각의 개별 샘플은, 동일한 시간 인스턴스에 대응하는 하나 이상의 인코딩된 픽처들을 포함하는 개별 액세스 유닛을 포함하는, 파일을 프로세싱하는 장치.
  22. 파일을 발생시키는 장치로서,
    상기 파일을 저장하도록 구성된 메모리; 및
    상기 메모리에 커플링된 하나 이상의 프로세서들을 포함하며,
    상기 하나 이상의 프로세서들은,
    상기 파일에서 동작 지점 참조 트랙을 발생시키는 것으로서, 상기 하나 이상의 프로세서들은 상기 동작 지점 참조 트랙을 발생시키는 것의 부분으로서, 상기 하나 이상의 프로세서들이 상기 동작 지점 참조 트랙에서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하도록 구성되는, 상기 동작 지점 참조 트랙을 발생시키고; 그리고
    상기 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 것으로서,
    어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며,
    상기 동작 지점 정보 샘플 그룹은,
    상기 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키도록
    구성되는, 파일을 발생시키는 장치.
  23. 제 22 항에 있어서,
    상기 하나 이상의 프로세서들은, 상기 동작 지점 참조 트랙을 발생시키는 것의 부분으로서, 상기 하나 이상의 프로세서들이:
    상기 파일에서, 샘플 그룹 설명 박스를 발생시키는 것으로서, 상기 샘플 그룹 설명 박스는 상기 동작 지점에 대한 출력 계층 세트, 상기 동작 지점에 대한 최대 시간 식별자, 및 상기 동작 지점에 대한 프로파일, 레벨, 및 티어 시그널링을 규정하는 샘플 그룹 설명 엔트리를 포함하는, 상기 샘플 그룹 설명 박스를 발생시키고; 그리고
    상기 파일에서, 상기 동작 지점 정보 샘플 그룹에서의 샘플들의 세트를 규정하고 상기 샘플 그룹 설명 박스에서의 상기 샘플 그룹 설명 엔트리의 인덱스를 규정하는 샘플-대-그룹 박스를 발생시키도록
    구성되는, 파일을 발생시키는 장치.
  24. 제 22 항에 있어서,
    상기 동작 지점 정보 샘플 그룹은 제 1 동작 지점 정보 샘플 그룹이며,
    상기 제 1 동작 지점 정보 샘플 그룹은 상기 동작 지점 참조 트랙에서의 샘플들의 제 1 세트를 포함하며,
    상기 동작 지점 참조 트랙은 상기 동작 지점 참조 트랙에서의 샘플들의 제 2 세트를 포함하는 제 2 동작 지점 샘플 그룹을 포함하며,
    상기 샘플들의 제 1 세트 중 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간에서 발생하는 상기 동작 지점 참조 트랙에 어떤 샘플도 없으며, 그리고
    상기 샘플들의 제 1 세트 중 상기 가장 나중의 디코딩 시간을 가지는 샘플과 상기 샘플들의 제 2 세트 중 상기 가장 앞선 디코딩 시간을 가지는 샘플의 디코딩 시간 사이의 디코딩 시간들을 가지는 상기 하나 이상의 추가적인 트랙들의 특정의 추가적인 트랙에 하나 이상의 샘플들이 있는, 파일을 발생시키는 장치.
  25. 제 24 항에 있어서,
    상기 특정의 추가적인 트랙은 상기 동작 지점 참조 트랙보다 더 높은 프레임 레이트를 가지는, 파일을 발생시키는 장치.
  26. 제 22 항에 있어서,
    상기 비트스트림은 기초 계층 및 하나 이상의 향상 계층들을 포함하며,
    상기 동작 지점 참조 트랙은 상기 기초 계층을 포함하며, 그리고
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 트랙은 상기 하나 이상의 향상 계층들의 개별 향상 계층을 포함하는, 파일을 발생시키는 장치.
  27. 제 22 항에 있어서,
    상기 하나 이상의 프로세서들은 상기 비트스트림을 발생시키기 위해 비디오 데이터를 인코딩하도록 더 구성되는, 파일을 발생시키는 장치.
  28. 제 22 항에 있어서,
    상기 동작 지점 참조 트랙의 각각의 개별 샘플 및 상기 추가적인 트랙들의 각각의 개별 샘플은, 동일한 시간 인스턴스에 대응하는 하나 이상의 인코딩된 픽처들을 포함하는 개별 액세스 유닛을 포함하는, 파일을 발생시키는 장치.
  29. 파일을 프로세싱하는 장치로서,
    상기 파일에서 동작 지점 참조 트랙을 획득하는 수단으로서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점은 상기 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 상기 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하는 수단;
    상기 파일에서 하나 이상의 추가적인 트랙들을 획득하는 수단으로서, 어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하는 수단;
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하도록 구성된 하나 이상의 프로세서들로서,
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하도록 구성된 하나 이상의 프로세서들; 및
    상기 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하는 수단을 포함하는, 파일을 프로세싱하는 장치.
  30. 파일을 발생시키는 장치로서,
    상기 파일에서 동작 지점 참조 트랙을 발생시키는 수단으로서, 상기 동작 지점 참조 트랙을 발생시키는 수단은 상기 동작 지점 참조 트랙에서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 수단을 포함하는, 상기 동작 지점 참조 트랙을 발생시키는 수단; 및
    상기 파일에서 하나 이상의 추가적인 트랙들을 발생시키는 수단으로서,
    어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며,
    상기 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키는 수단을 포함하는, 파일을 발생시키는 장치.
  31. 명령들을 저장하는 비일시적인 컴퓨터-판독가능 저장 매체로서,
    상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금,
    파일에서 동작 지점 참조 트랙을 획득하게 하는 것으로서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점은 상기 동작 지점 참조 트랙에서 시그널링되는 동작 지점 정보 샘플 그룹을 이용하여 상기 파일에서 설명되는, 상기 동작 지점 참조 트랙을 획득하게 하고;
    상기 파일에서 하나 이상의 추가적인 트랙들을 획득하게 하는 것으로서, 어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않는, 상기 하나 이상의 추가적인 트랙들을 획득하게 하고;
    상기 하나 이상의 추가적인 트랙들의 각각의 개별 추가적인 트랙의 각각의 개별 샘플에 대해, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하게 하는 것으로서,
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 동작 지점 정보 샘플 그룹의 개별 샘플 부분을 고려할지 여부를 결정하게 하고; 그리고
    상기 비트스트림으로부터 상기 동작 지점을 추출하는 서브-비트스트림 추출 프로세스를 수행하게 하는, 비일시적인 컴퓨터-판독가능 저장 매체.
  32. 명령들을 저장하는 비일시적인 컴퓨터-판독가능 저장 매체로서,
    상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금,
    파일에서 동작 지점 참조 트랙을 발생시키게 하는 것으로서, 상기 동작 지점 참조 트랙을 발생시키는 것은 상기 동작 지점 참조 트랙에서, 상기 파일에서의 비트스트림에 이용가능한 동작 지점을 설명하는 동작 지점 정보 샘플 그룹을 시그널링하는 것을 포함하는, 상기 동작 지점 참조 트랙을 발생시키게 하고; 그리고
    상기 파일에서 하나 이상의 추가적인 트랙들을 발생시키게 하는 것으로서,
    어떤 동작 지점 정보 샘플 그룹도 상기 추가적인 트랙들 중 임의의 트랙에서 시그널링되지 않으며,
    상기 동작 지점 정보 샘플 그룹은,
    상기 동작 지점 참조 트랙이 개별 추가적인 트랙에서의 개별 샘플과 시간적으로 병치되는 샘플을 포함하는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 동작 지점 정보 샘플 그룹의 부분으로서 고려되며, 그리고
    상기 동작 지점 참조 트랙이 상기 개별 추가적인 트랙에서의 상기 개별 샘플과 시간적으로 병치되는 샘플을 포함하지 않는 것에 기초하여, 상기 개별 추가적인 트랙에서의 상기 개별 샘플이 상기 개별 추가적인 트랙의 상기 개별 샘플 이전 상기 동작 지점 참조 트랙에서의 최종 샘플의 동작 지점 정보 샘플 그룹의 부분으로서 고려되는, 상기 하나 이상의 추가적인 트랙들을 발생시키게 하는, 비일시적인 컴퓨터-판독가능 저장 매체.
KR1020187010288A 2015-10-14 2016-10-14 멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬 KR101951615B1 (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201562241691P 2015-10-14 2015-10-14
US62/241,691 2015-10-14
US15/293,092 2016-10-13
US15/293,092 US10034010B2 (en) 2015-10-14 2016-10-13 Alignment of operation point sample group in multi-layer bitstreams file format
PCT/US2016/057109 WO2017066617A1 (en) 2015-10-14 2016-10-14 Alignment of operation point sample group in multi-layer bitstreams file format

Publications (2)

Publication Number Publication Date
KR20180068979A KR20180068979A (ko) 2018-06-22
KR101951615B1 true KR101951615B1 (ko) 2019-02-22

Family

ID=57227101

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020187010288A KR101951615B1 (ko) 2015-10-14 2016-10-14 멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬

Country Status (10)

Country Link
US (1) US10034010B2 (ko)
EP (1) EP3363205B1 (ko)
JP (1) JP6506474B2 (ko)
KR (1) KR101951615B1 (ko)
CN (1) CN108141617B (ko)
AU (1) AU2016340116B2 (ko)
BR (1) BR112018007529B1 (ko)
ES (1) ES2813908T3 (ko)
TW (1) TWI651961B (ko)
WO (1) WO2017066617A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022139261A1 (ko) * 2020-12-21 2022-06-30 엘지전자 주식회사 미디어 파일 처리 방법 및 장치
WO2022139331A1 (ko) * 2020-12-21 2022-06-30 엘지전자 주식회사 미디어 파일 처리 방법 및 그 장치

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10291923B2 (en) * 2016-05-24 2019-05-14 Qualcomm Incorporated Mapping of tile grouping and samples in HEVC and L-HEVC file formats
US11197040B2 (en) * 2016-10-17 2021-12-07 Mediatek Inc. Deriving and signaling a region or viewport in streaming media
KR102465188B1 (ko) * 2018-04-05 2022-11-10 캐논 가부시끼가이샤 이미지를 파일에 캡슐화하기 위한 방법 및 장치
CN113196771B (zh) 2018-12-21 2023-12-22 北京字节跳动网络技术有限公司 基于运动矢量精度的运动矢量范围
KR20220065060A (ko) * 2019-09-24 2022-05-19 후아웨이 테크놀러지 컴퍼니 리미티드 다계층 비디오 비트스트림에서 사용되지 않는 계층 금지
KR20220163474A (ko) * 2020-04-03 2022-12-09 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 비디오 코딩을 위한 파일 포맷 개념
GB2597642B (en) * 2020-06-16 2023-08-02 Canon Kk Method, device, and computer program for encapsulating media data into a media file
JP7203172B2 (ja) * 2020-09-17 2023-01-12 レモン インコーポレイテッド デコーダコンフィギュレーションレコードにおけるピクチャ寸法インジケーション
US11711518B2 (en) 2020-09-17 2023-07-25 Lemon Inc. Decoding capability information storage in video coding
US11758195B2 (en) 2020-09-17 2023-09-12 Lemon Inc. Dependency information signaling in coded video
US20230336751A1 (en) * 2020-09-17 2023-10-19 Lg Electronics Inc. Method and apparatus for generating/receiving media file which signals output layer set information, and computer-readable recording medium storing media file
US20230379481A1 (en) * 2020-09-22 2023-11-23 Lg Electronics Inc. Media file generation/reception method and device for signaling operating point information and output layer set information, and computer-readable recording medium in which media file is stored
WO2022071754A1 (ko) * 2020-09-29 2022-04-07 엘지전자 주식회사 출력 계층 세트 정보를 포함하는 미디어 파일 생성/수신 방법, 장치 및 미디어 파일 전송 방법
US11611752B2 (en) 2020-10-07 2023-03-21 Lemon Inc. Adaptation parameter set storage in video coding

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008023328A2 (en) 2006-08-24 2008-02-28 Nokia Corporation System and method for indicating track relationships in media files

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070022215A1 (en) * 2005-07-19 2007-01-25 Singer David W Method and apparatus for media data transmission
AU2012203922A1 (en) 2005-07-19 2012-07-26 Apple Inc. Method and apparatus for media data transmission
JP5462259B2 (ja) * 2008-07-16 2014-04-02 シズベル インターナショナル エス．アー． トラックおよびトラックサブセットグループ化の方法および装置
GB2469563B (en) 2009-04-14 2011-11-16 Apple Inc Method and apparatus for media data transmission
US8719309B2 (en) * 2009-04-14 2014-05-06 Apple Inc. Method and apparatus for media data transmission
US20130097334A1 (en) * 2010-06-14 2013-04-18 Thomson Licensing Method and apparatus for encapsulating coded multi-component video
US8930562B2 (en) * 2010-07-20 2015-01-06 Qualcomm Incorporated Arranging sub-track fragments for streaming video data
US20160119639A1 (en) * 2012-04-20 2016-04-28 Sony Corporation Image processing apparatus and image processing method
US9451256B2 (en) * 2012-07-20 2016-09-20 Qualcomm Incorporated Reusing parameter sets for video coding
CN109587573B (zh) * 2013-01-18 2022-03-18 佳能株式会社 生成设备和方法、显示设备和方法以及存储介质
GB2512829B (en) * 2013-04-05 2015-05-27 Canon Kk Method and apparatus for encoding or decoding an image with inter layer motion information prediction according to motion information compression scheme
US10595031B2 (en) 2013-07-12 2020-03-17 Qualcomm Incorporated Selection of target output layers in high efficiency video coding extensions
GB2516825B (en) * 2013-07-23 2015-11-25 Canon Kk Method, device, and computer program for encapsulating partitioned timed media data using a generic signaling for coding dependencies
GB2519746B (en) 2013-10-22 2016-12-14 Canon Kk Method, device and computer program for encapsulating scalable partitioned timed media data
US9648348B2 (en) * 2013-10-23 2017-05-09 Qualcomm Incorporated Multi-layer video file format designs

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008023328A2 (en) 2006-08-24 2008-02-28 Nokia Corporation System and method for indicating track relationships in media files

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022139261A1 (ko) * 2020-12-21 2022-06-30 엘지전자 주식회사 미디어 파일 처리 방법 및 장치
WO2022139331A1 (ko) * 2020-12-21 2022-06-30 엘지전자 주식회사 미디어 파일 처리 방법 및 그 장치

Also Published As

Publication number Publication date
WO2017066617A1 (en) 2017-04-20
TWI651961B (zh) 2019-02-21
JP2018530967A (ja) 2018-10-18
TW201720148A (zh) 2017-06-01
BR112018007529A2 (pt) 2018-10-23
EP3363205B1 (en) 2020-05-27
EP3363205A1 (en) 2018-08-22
CN108141617B (zh) 2019-07-16
KR20180068979A (ko) 2018-06-22
BR112018007529B1 (pt) 2023-12-26
CN108141617A (zh) 2018-06-08
ES2813908T3 (es) 2021-03-25
AU2016340116B2 (en) 2019-07-18
US10034010B2 (en) 2018-07-24
US20170111650A1 (en) 2017-04-20
JP6506474B2 (ja) 2019-04-24
AU2016340116A1 (en) 2018-04-12

Similar Documents

Publication Publication Date Title
KR101951615B1 (ko) 멀티-계층 비트스트림들 파일 포맷에서의 동작 지점 샘플 그룹의 정렬
JP6690010B2 (ja) Ｈｅｖｃおよびｌ−ｈｅｖｃファイルフォーマットにおけるタイルグループ化に対する改善
EP3363203B1 (en) Signaling of parameter sets in files of multi-layer bitstreams
TWI645721B (zh) 多層視訊檔案格式設計
EP3363204B1 (en) Support of random access and switching of layers and sub-layers in multi-layer video files
US10284858B2 (en) Support of multi-mode extraction for multi-layer video codecs
US10038899B2 (en) File format for video data
TW201515440A (zh) 多層內容脈絡中之影像塊及波前處理
US20160021398A1 (en) Transport stream for carriage of video coding extensions
US9930378B2 (en) Signaling of operation points for carriage of HEVC extensions

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant