KR20230013052A

KR20230013052A - 코딩된 비디오의 시퀀스 끝 표시

Info

Publication number: KR20230013052A
Application number: KR1020227043516A
Authority: KR
Inventors: 예-쿠이 왕
Original assignee: 바이트댄스 아이엔씨
Priority date: 2020-05-22
Filing date: 2021-05-21
Publication date: 2023-01-26
Also published as: CN115699724A; BR112022023536A2; WO2021237132A1; US20230075261A1; EP4136831A1; WO2021237129A1; CN115668933A; JP2023526657A; EP4136831A4; US20240089484A1; US20230077806A1; EP4136847A1; US11973967B2; JP2023526658A; EP4136847A4; KR20230013051A; US11949899B2

Abstract

비디오 인코딩 방법 및 장치의 예 및 비디오 디코딩 방법 및 장치가 설명된다. 비디오 처리의 하나의 예시적 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함한다. 비트스트림은 포맷 규칙을 따른다. 비트스트림은 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함한다. 포맷 규칙은 디코딩 순서에서 계층의 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛을 뒤따르는 비트스트림의 계층의 제1 PU에 응답하여, 제1 PU의 변수가 특정 값으로 설정되도록 지정하고, 변수는 제1 PU가 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU인지의 여부를 나타낸다.

Description

코딩된 비디오의 시퀀스 끝 표시

관련 출원에 대한 상호 참조

파리협약에 따른 대응하는 특허법 및/또는 규칙에 따라, 이 출원은 2020년 5월 22일에 출원된 미국 가특허출원 제63/029,334호에 대한 우선권과 이익을 적시에 주장하기 위해 이루어진다. 법에 따른 모든 목적을 위해, 상기 출원의 전체 개시는 본 출원의 개시의 일부로 참조에 의해 통합된다.

기술 분야

이 특허 문서는 이미지 및 비디오 코딩(video coding) 및 디코딩(decoding)에 관한 것이다.

디지털 비디오는 인터넷 및 다른 디지털 통신 네트워크에서 가장 많은 대역폭을 사용한다. 비디오(video)를 수신하고 나타낼 수 있는 연결된 사용자 장치(connected user device)의 수가 증가함에 따라, 디지털 비디오 사용에 대한 대역폭 수요가 계속 증가할 것으로 예상된다.

본 문서는 비디오 인코딩 또는 디코딩을 수행하기 위해 비디오 인코더 및 디코더에 의해 사용될 수 있는 기술을 개시한다.

하나의 예시적인 측면에서, 비디오 처리 방법(video processing method)이 개시된다. 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고, 여기서 비트스트림은 포맷 규칙을 따르고, 비트스트림은 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층를 포함하고, 포맷 규칙은 디코딩 순서에서 계층의 시퀀스 네트워크 추상화 계층(EOS NAL) 유닛의 끝을 뒤따르는 비트스트림의 계층의 제1 PU에 응답하여, 제1 PU의 변수는 특정 값으로 설정되며, 여기서 변수는 제1 PU가 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU인지의 여부를 나타낸다.

다른 예시적인 측면에서, 다른 비디오 처리 방법이 개시된다. 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하며, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층를 포함하고; 여기서 포맷 규칙은 특정 계층의 시퀀스 네트워크 추상화 계층(EOS NAL) 유닛의 끝 이후에 특정 계층의 PU가 특정 유형의 PU임을 지정한다. 일부 실시예에서, PU의 특정 유형은 인트라 랜덤 액세스 포인트(IRAP) 유형 또는 점진적 디코딩 리프레시(GDR) 유형 중 하나이다. 일부 실시예에서, 특정 유형의 PU는 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU이다.

다른 예시적인 측면에서, 다른 비디오 처리 방법이 개시된다. 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층를 포함하고, 포맷 규칙은 존재하는 경우, 시퀀스 끝(EOS) 원시 바이트 시퀀스 페이로드(RBSP) 신택스 구조가 디코딩 순서에서 비트스트림의 시퀀스의 끝 네트워크 추상화 계층(NAL) 유닛와 동일한 계층에 속하는 다음 후속 PU가 인트라 랜덤 액세스 포인트(IRAP) PU 유형 또는 점진적 디코딩 리프레시(GDR) PU 유형 중 하나의 특정 PU 유형임을 지정한다. 일부 실시예에서, 특정 PU 유형은 IRAP PU 유형이다. 일부 실시예에서, 특정 PU 유형은 GDR PU 유형이다.

다른 예시적인 측면에서, 다른 비디오 처리 방법이 개시된다. 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 네트워크 추상화 계층(NAL) 유닛을 포함하는 하나 이상의 계층을 포함하고, 여기서 포맷 규칙은 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛의 헤더의 제1 계층 식별자가 비트스트림의 하나 이상의 계층 중 하나의 제2 계층 식별자와 동일하도록 요구됨을 지정한다. 일부 실시예에서, 포맷 규칙은 픽처 유닛(PU)에 하나보다 많은 EOS NAL 유닛을 포함하는 것을 추가로 허용한다. 일부 실시예에서, 포맷 규칙은 EOS NAL 유닛의 제1 계층 식별자가 EOS NAL 유닛과 연관된 비디오 코딩 계층(VCL) NAL 유닛의 제3 계층 식별자보다 작거나 같도록 요구된다는 것을 지정한다.

다른 예시적인 측면에서, 다른 비디오 처리 방법이 개시된다. 방법은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 네트워크 추상화 계층(NAL) 유닛을 포함하는 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고, 포맷 규칙은 PU에서 시퀀스의 끝을 나타내는 제1 NAL 유닛에 응답하여, 제1 NAL 유닛이 존재한다면, 시퀀스의 다른 끝을 나타내거나 존재한다면, 비트스트림의 끝을 나타내는, 다른 NAL 유닛이 아닌 PU 내의 모든 NAL 유닛 중 마지막 NAL 유닛임을 지정한다. 일부 실시예에서, 다른 NAL 유닛은 시퀀스의 끝(EOS) NAL 유닛이다. 일부 실시예에서, 다른 NAL 유닛은 EOB(End of Bitstream) NAL 유닛이다.

또 다른 예시적인 측면에서, 비디오 인코더 장치(video encoder apparatus)가 개시된다. 비디오 인코더는 전술한 방법을 구현하도록 구성된 프로세서(processor)를 포함한다.

또 다른 예시적인 측면에서, 비디오 디코더 장치(video decoder apparatus)가 개시된다. 비디오 디코더는 전술한 방법을 구현하도록 구성된 프로세서를 포함한다.

또 다른 실시예 측면에서, 코드(code)가 저장된 컴퓨터 판독 가능 매체(computer readable medium)가 개시된다. 코드는 프로세서 실행 가능 코드의 형태로 여기에 설명된 방법 중 하나를 구현한다.

또 다른 예시적인 양태에서, 컴퓨터 판독가능 매체에 비트스트림을 저장하는 방법이 개시된다. 비트스트림은 상술한 방법을 사용하여 생성된다.

이러한 기능 및 기타 기능은 본 문서 전체에 걸쳐 설명되어 있다.

도 1은 본 개시의 일부 실시예에 따른 비디오 코딩 시스템을 예시하는 블록도이다.
도 2는 비디오 처리에 사용되는 예시적인 하드웨어 플랫폼의 블록도이다.
도 3은 비디오 처리 방법의 하나의 예의 방법에 대한 순서도이다.
도 4는 예시적인 비디오 코딩 시스템을 예시하는 블록도이다.
도 5는 본 개시의 일부 실시예에 따른 인코더를 예시하는 블록도이다.
도 6은 본 개시의 일부 실시예에 따른 디코더를 예시하는 블록도이다.
도 7 내지 도 11은 다양한 영상 처리 방법에 대한 흐름도를 도시한다.

섹션 제목은 이해의 편의를 위해 본 문서에서 사용되며 각 섹션에 개시된 기술 및 실시예의 적용 가능성을 해당 섹션에만 제한하지 않는다. 또한, H.266 용어는 일부 설명에서 이해의 편의를 위해서만 사용되며 개시된 기술의 범위를 제한하기 위한 것이 아니다. 이와 같이, 여기에 설명된 기술은 다른 비디오 코덱 프로토콜 및 설계에도 적용할 수 있다.

1. 소개

이 문서는 비디오 코딩 기술(video coding technologies)과 관련이 있다. 구체적으로, 비디오 코딩, 특히 다중 계층 및 다중 하위 계층 컨텍스트에서 EOS NAL 유닛의 처리에 관한 것이다. 아이디어는 다층 비디오 코딩(multi-layer video coding), 예를 들어 개발 중인 범용 비디오 코딩(Versatile Video Coding)(VVC)을 지원하는 임의의 비디오 코딩 표준 또는 비표준 비디오 코덱에 개별적으로 또는 다양한 조합으로 적용될 수 있다.

2. 약어

APS 적응형 파라미터 세트(Adaptation Parameter Set)

AU 액세스 유닛(Access Unit)

AUD 액세스 유닛 구분 기호(Access Unit Delimiter)

AVC 고급 비디오 코딩(Advanced Video Coding)

CLVS 코딩된 계층 비디오 시퀀스(Coded Layer Video Sequence)

CPB 코딩된 픽처 버퍼(Coded Picture Buffer)

CRA 클린 랜덤 액세스(Clean Random Access)

CTU 코딩 트리 유닛(Coding Tree Unit)

CVS 코딩된 비디오 시퀀스(Coded Video Sequence)

DCI 디코딩 기능 정보(Decoding Capability Information)

DPB 디코딩된 픽처 버퍼(Decoded Picture Buffer)

EOB 비트스트림 끝(End Of Bitstream)

EOS 시퀀스의 끝(End Of Sequence)

GDR 점진적 디코딩 리프레시(Gradual Decoding Refresh)

HEVC 고효율 비디오 코딩(High Efficiency Video Coding)

HRD 가상 레퍼런스 디코더(Hypothetical Reference Decoder)

IDR 순시 디코딩 리프레시(Instantaneous Decoding Refresh)

ILP 계층간 예측(Inter-Layer Prediction)

ILRP 계층간 레퍼런스 픽처(Inter-Layer Reference Picture)

JEM 공동 연구 모델(Joint Exploration Model)

LTRP 장기 레퍼런스 픽처(Long-Term Reference Picture)

MCTS 모션 제약 타일 세트(Motion-Constrained Tile Set)

NAL 네트워크 추상화 계층(Network Abstraction Layer)

OLS 출력 계층 세트(Output Layer Set)

PH 픽처 헤더(Picture Header)

PPS 픽처 파라미터 세트(Picture Parameter Set)

PTL 프로필, 티어 및 레벨(Profile, Tier and Level)

PU 픽처 유닛(Picture Unit)

RAP 랜덤 액세스 포인트(Random Access Point)

RBSP 원시 바이트 시퀀스 페이로드(Raw Byte Sequence Payload)

SEI 추가 개선 정보(Supplemental Enhancement Information)

SPS 시퀀스 파라미터 세트(Sequence Parameter Set)

TRP 단기 레퍼런스 픽처

SVC 스케일러블 비디오 코딩(Scalable Video Coding)

VCL 비디오 코딩 계층(Video Coding Layer)

VPS 비디오 파라미터 세트(Video Parameter Set)

VTM VVC 테스트 모델(VVC Test Model)

VUI 비디오 사용성 정보(Video Usability Information)

VVC 다목적 비디오 코딩(Versatile Video Coding)

3. 초기 논의

비디오 코딩 표준은 주로 잘 알려진 ITU-T 및 ISO/IEC 표준의 개발을 통해 발전해 왔다. ITU-T는 H.261및 H.263을 제작했으며, ISO/IEC는 MPEG-1 및 MPEG-4 비주얼을 제작했으며, 두 조직은 H.262/MPEG-2 비디오 및 H.264/MPEG-4 고급 비디오 코딩(AVC) 및 H.265/HEVC 기준을 공동으로 제작했다. H.262 이후, 비디오 코딩 표준은 시간적 예측(temporal prediction)과 트랜스폼 코딩(transform coding)이 사용되는 하이브리드 비디오 코딩 구조에 기초한다. HEVC를 넘어 미래의 비디오 코딩 기술을 연구하기 위해, 공동 비디오 연구팀(JVET: Joint Video Exploration Team)이 2015년에 VCEG와 MPEG의 공동으로 설립되었다. 그 이후로, 많은 새로운 방법이 JVET에 의해 채택되었고 공동 연구 모델(JEM) [3,4]라는 참조 소프트웨어에 넣어졌다. JVET 회의는 분기마다 한번 동시 개최되며, 새로운 코딩 표준은 HEVC 대비 비트레이트 50% 감소를 목표로 하고 있다. 새로운 비디오 코딩 표준은 2018년 4월 JVET 회의에서 공식적으로 다목적 비디오 코딩(Versatile Video Coding; VVC)로 명명되었으며, 당시 VVC 테스트 모델(VVC test model)(VTM)의 제1 버전이 출시되었다. VVC 표준화에 기여하는 지속적인 노력이 있기 때문에 모든 JVET 회의에서 새로운 코딩 기술이 VVC 표준에 채택되고 있다. VVC 작업 드래프트와 테스트 모델 VTM은 모든 회의 후에 업데이트된다. VVC 프로젝트는 현재 2020년 7월 회의에서 기술 완료(FDIS)를 목표로 하고 있다.

3.1. 레퍼런스 픽처 관리(Reference picture management) 및 레퍼런스 픽처 목록(reference picture list)(RPL)

레퍼런스 픽처 관리는 인터 예측을 사용하는 모든 비디오 코딩 체계에 필요한 핵심 기능이다. 디코딩된 픽처 버퍼(decoded picture buffer)(DPB)로 또는 디코딩된 픽처 버퍼에서 레퍼런스 픽처의 저장 및 제거를 관리하고 RPL에서 레퍼런스 픽처를 적절한 순서에서 배치한다.

레퍼런스 픽처 마킹 및 디코딩된 픽처 버퍼(DPB)에서의 제거 및 레퍼런스 픽처 목록 구성(RPLC)을 포함하는 HEVC의 레퍼런스 픽처 관리는 AVC의 레퍼런스 픽처 관리와 상이하다. AVC에서 슬라이딩 윈도우와 적응형 메모리 관리 제어 작업(MMCO)에 기초하는 레퍼런스 픽처 마킹 메커니즘(reference picture management) 대신에, HEVC는 소위 레퍼런스 픽처 세트(reference picture set)(RPS)에 기초하는 레퍼런스 픽처 관리 및 마킹 메커니즘을 지정하고, 결과적으로 RPLC는 RPS 메커니즘에 기초한다. RPS는, 디코딩 순서에서 연관된 픽처에 앞서 있는 모든 레퍼런스 픽처들로 구성된, 디코딩 순서에서 연관된 픽처들 또는 연관된 픽처 다음에 오는 임의의 픽처의 인터 예측에 사용될 수 있는 픽처와 연관된 픽처의 세트로 구성된다. 레퍼런스 픽처 세트는 다섯 개의 레퍼런스 픽처 목록으로 구성된다. 처음 세 개의 목록은 현재 픽처의 인터 예측에 사용될 수 있고 디코딩 순서에서 현재 픽처 다음에 오는 하나 이상의 픽처들의 인터 예측에 사용될 수 있는 모든 레퍼런스 픽처들을 포함한다. 다른 두 목록은 현재 픽처의 인터 예측에 사용되지 않는 모든 레퍼런스 픽처들로 구성되지만, 디코딩 순서에서 현재 픽처들 다음에 있는 픽처들 중 하나 이상의 인터 예측에 사용될 수 있다. RPS는 주로 개선된 오류 복원력(improved error resilience)을 위해 AVC에서와 같이 "인터 코딩된" 시그널링 대신, DPB 상태의 "인트라 코딩된" 시그널링을 제공한다. HEVC에서의 RPLC 프로세스는 RPS에 기초하여, 각각의 레퍼런스 인덱스에 대한 RPS 서브세트에 인덱스를 시그널링함으로써; 이 프로세스는 AVC의 RPLC 프로세스보다 간단한다.

VVC의 레퍼런스 픽처 관리는 AVC보다 HEVC와 더 유사하지만 다소 간단하고 강력하다. 이러한 표준에서와 마찬가지로, 목록 0(List 0)과 목록 1(List 1)의 두 RPL이 유도되지만 HEVC 또는 AVC에서 사용되는 자동 슬라이딩 윈도우 프로세스에 사용되는 레퍼런스 픽처 세트 개념을 기반으로하지 않으며; 대신 그들은 더 직접적으로 시그널링된다. RPL에 대한 레퍼런스 픽처가 활성 항목과 비활성 항목 중 하나로 나열되며, 현재 픽처의 CTU 간 예측에서 활성 항목만 레퍼런스 인덱스로 사용될 수 있다. 비활성 항목은 비트스트림에 나중에 도착하는 다른 픽처를 참조하기 위해 DPB에 보유할 다른 픽처를 지시한다.

3.2. HEVC 및 VVC에서의 랜덤 액세스 및 지원

랜덤 액세스는 디코딩 순서에서 비트스트림의 제1 픽처가 아닌 픽처에서 비트스트림의 액세스 및 디코딩을 시작하는 것을 말한다. 로컬 재생 및 스트리밍뿐만 아니라 스트리밍에서 스트림 적응을 요구하는, 브로드캐스트/멀티캐스트 및 다자간 비디오 컨퍼런스에서 튜닝 및 채널 전환을 지원하려면, 비트스트림은 빈번한 랜덤 액세스 포인트를 포함해야 하는데, 이는 일반적으로 인트라 코딩된 픽처이지만 인터 코딩된(inter-coded) 픽처일 수도 있다(예를 들어, 점진적 디코딩 리프레시의 경우).

HEVC는 NAL 유닛 유형을 통해 NAL 유닛 헤더에 인트라 랜덤 액세스 포인트(IRAP) 픽처의 시그널링을 포함한다. 순시 디코더 리프레시(instantaneous decoder refresh)(IDR), 클린 랜덤 액세스(clean random access)(CRA) 및 끊어진 링크 액세스(broken link access)(BLA) 픽처의 세 가지 유형의 IRAP 픽처가 지원된다. IDR 픽처는 일반적으로 폐쇄 GOP 랜덤 액세스 포인트라고 하는 현재 픽처의 그룹(Group of Picture)(GOP) 이전의 픽처를 참조하지 않도록 인터-픽처 예측 구조(inter-picture prediction structure)를 제한한다. CRA 픽처는 특정 픽처가 현재 GOP 이전의 픽처를 참조하도록 허용함으로써 덜 제한적이며, 랜덤 액세스의 경우 모두 삭제된다. CRA 픽처는 일반적으로 개방형 GOP 랜덤 액세스 포인트라고 한다. BLA 픽처는 일반적으로 스트림 스위칭 중에 CRA 픽처에서 두 비트스트림 또는 그 일부를 스플라이싱(splicing)하여 발생한다. 시스템에서 IRAP 픽처를 더 잘 사용할 수 있도록 하려면, IRAP 픽처의 속성을 시그널링하기 위해 총 6개의 상이한 NAL 유닛이 정의되며, 이는 ISO 기본 미디어 파일 포맷(ISO base media file format)(ISOBMFF)에 정의된 스트림 액세스 포인트 유형들을 더 잘 매칭하는데 사용될 수 있으며, 이는 HTTP(DASH)를 통한 동적 적응적 스트리밍에서 랜덤 액세스 지원에 활용된다.

VVC는 세 가지 유형의 IRAP 픽처, 두 가지 유형의 IDR 픽처(연관된 RADL 픽처가 있거나 없는 다른 유형) 과 한 유형의 CRA 픽처를 지원한다. 이는 기본적으로 HEVC와 동일하다. HEVC의 BLA 픽처 유형은 주로 다음 두 가지 이유로 인해 VVC에 포함되지 않는다: i) BLA 픽처의 기본 기능은 CRA 픽처와 시퀀스 NAL 유닛의 끝으로 실현될 수 있고, 이의 존재는 후속 픽처가 단일 계층 비트스트림의 새로운 CVS를 시작함을 나타낸다. ii) NAL 유닛 헤더의 NAL 유닛 유형 필드에 대해 6비트 대신 5비트를 사용하는 것으로 표시된 바와 같이, VVC의 개발 동안 HEVC보다 적은 NAL 유닛 유형을 지정하려는 요구가 있었다.

VVC와 HEVC 사이의 랜덤 액세스 지원의 또 다른 주요 차이점은 VVC에서 보다 규범적인 방식으로 GDR을 지원한다는 것이다. GDR에서, 비트스트림의 디코딩은 인터 코딩 된 픽처에서 시작할 수 있으며 처음에는 전체 픽처 영역을 올바르게 디코딩 할 수는 없지만 여러 픽처 후에 전체 픽처 영역이 올바르게 된다. AVC 및 HEVC는, GDR 랜덤 액세스 포인트 및 복구 포인트(recovery point)의 시그널링에 대한 복구 포인트 SEI 메시지를 사용하여, GDR을 지원한다. VVC에서, GDR 픽처를 표시하기 위해 새로운 NAL 유닛 유형이 지정되고 복구 포인트은 픽처 헤더 신택스 구조에서 시그널링 된다. CVS 및 비트스트림은 GDR 픽처로 시작할 수 있다. 즉, 전체 비트스트림에 인트라 코딩된 단일 픽처 없이 인터-코딩된 픽처만 포함할 수 있다. 이러한 방식으로 GDR 지원을 지정할 때의 주요 이점은 GDR에 적합한 행동을 제공하는 것이다. GDR을 사용하면 인코더가 전체 픽처를 인트라 코딩하는 것과는 대조적으로 인트라 코딩 된 슬라이스 또는 블록을 여러 픽처에 배포하여 비트스트림의 비트 전송률을 부드럽게 할 수 있으며, 따라서 엔드-투-엔드 지연을 크게 줄일 수 있고, 이는 무선 디스플레이, 온라인 게임, 드론 기반 애플리케이션(application)과 같은 초저 지연 애플리케이션이 대중화됨에 따라 요즘은 이전보다 더 중요하다고 간주된다.

VVC의 또 다른 GDR 관련 기능은 가상 경계 시그널링이다. GDR 픽처와 그 복구 포인트 사이의 픽처에서 리프레쉬된 영역(즉, 올바르게 디코딩된 영역)과 리프레쉬 되지 않은 영역 사이의 경계는 가상 경계로서 시그널링될 수 있으며, 시그널링될 때, 경계를 가로지르는 인루프 필터링이 적용되지 않으므로, 경계 또는 경계 근처에서 일부 샘플에 대해 디코딩 미스매치가 발생하지 않는다. 이는 애플리케이션이 GDR 프로세스 중에 올바르게 디코딩된 영역을 표시하기로 결정할 때 유용할 수 있다.

IRAP 픽처 및 GDR 픽처를 총칭하여 RAP(랜덤 액세스 포인트) 픽처라고 할 수 있다.

3.3. 시퀀스 내에서 픽처 해상도 변경

AVC 및 HEVC에서, IRAP 픽처와 함께 새로운 SPS를 사용하는 새로운 시퀀스가 시작되지 않는 한 픽처의 공간 해상도(spatial resolution)는 변경할 수 없다. VVC는 항상 인트라 코딩되는(intra-coded) IRAP 픽처를 인코딩하지 않고 위치에서 시퀀스 내에서 픽처 해상도를 변경할 수 있다. 이 기능은 때로는 레퍼런스 픽처 리샘플링(reference picture resampling)(RPR)이라고도 하는데, 이는 해당 레퍼런스 픽처가 디코딩되는 현재 픽처와 해상도가 다른 경우 인터 예측을 위해 사용되는 레퍼런스 픽처의 리샘플링이 필요하기 때문이다.

스케일링 비율은 1/2(레퍼런스 픽처에서 현재 픽처로의 2배의 다운샘플링)보다 크거나 동일하고, 8(8배의 업샘플링)보다 작거나 동일하도록 제한된다. 주파수 컷오프가 상이한 세 개의 세트의 리샘플링 필터는 레퍼런스 픽처와 현재 픽처 사이의 다양한 스케일링 비율을 처리하도록 지정된다. 세 개의 세트의 리샘플링 필터는 1/2에서 1/1.75까지, 1/1.75에서 1/1.25까지, 그리고 1/1.25에서 8까지의 스케일링 비율이 각각 적용된다. 리샘플링 필터의 각 세트는 루마(luma)에 대해 16개의 위상이 있고 모션 보정 보간 필터(motion compensation interpolation filter)의 경우와 동일한 크로마(chroma)에 대해 32개의 위상이 있다. 실제로 일반 MC 보간 프로세스(interpolation process)는 스케일링 비율이 1/1.25에서 8 사이인 리샘플링 프로세스의 특별한 경우이다. 가로 및 세로 스케일링 비율은 픽처 너비와 높이, 및 레퍼런스 픽처 및 현재 픽처에 대해 지정된 왼쪽, 오른쪽, 위쪽 및 아래쪽 스케일링 오프셋에 기초하여 유도된다.

HEVC와 다른 이 기능을 지원하기 위한 VVC 설계의 다른 양태는 다음을 포함한다: i) 픽처 해상도 및 해당 적합성 창은 SPS 대신 PPS에서 신호를 보내는 반면 SPS에서는 최대 픽처 해상도가 신호를 받는다. ii) 단일 계층 비트스트림의 경우, 각 픽처 저장소(하나의 디코딩된 픽처를 저장하기 위한 DPB의 슬롯)는 최대 픽처 해상도를 갖는 디코딩된 픽처를 저장하기 위해 필요한 버퍼 크기를 차지한다.

3.4. 일반 및 VVC에서 스케일러블 비디오 코딩(Scalable video coding)(SVC)

스케일러블 비디오 코딩(Scalable video coding)(SVC, 때로는 비디오 코딩에서 스케일러빌리티(scalability)라고도 함)은 레퍼런스 계층(RL)이라고도 하는 기본 계층(base layer)(BL)과 하나 이상의 스케일러블 강화 계층(scalable enhancement layer)(ELs)이 사용되는 비디오 코딩을 말한다. SVC에서 기본 계층은 기본 레벨(base level)의 품질로 비디오 데이터를 전달할 수 있다. 하나 이상의 강화 계층은 예를 들어 더 높은 공간, 시간 및/또는 신호 대 잡음(SNR) 레벨을 지원하기 위해 부가적인 비디오 데이터를 전달할 수 있다. 강화 계층은 이전에 인코딩된 계층에 대해 정의될 수 있다. 예를 들어, 하부 계층(bottom layer)은 BL의 역할을 할 수 있고 상부 계층(top layer)은 EL의 역할을 할 수 있다. 중간 계층(middle layer)은 ELs 또는 RL 또는 둘 다로 사용될 수 있다. 예를 들어, 중간 계층(예를 들어, 최저 최하위 계층도 아니고 최상위 계층도 아닌 계층) 은 기본 계층 또는 임의의 중간 강화 계층과 같은 중간 계층 아래의 계층에 대한 EL일 수 있으며, 동시에 중간 계층 위의 하나 이상의 강화 계층에 대한 RL로서 기능한다. 유사하게, HEVC 표준의 멀티뷰 또는 3D 확장에서, 다수의 뷰가 존재할 수 있고, 하나의 뷰의 정보는 다른 뷰의 정보(예를 들어, 모션 추정, 모션 벡터 예측 및/또는 다른 리던던시)를 코딩(예를 들어, 인코딩 또는 디코딩) 하는데 이용될 수 있다.

SVC에서, 인코더 또는 디코더에 의해 사용되는 파라미터들은 이들이 이용될 수 있는 코딩 레벨(예를 들어, 비디오-레벨, 시퀀스-레벨, 픽처-레벨, 슬라이스 레벨 등)에 기초하여 파라미터 세트로 그룹화된다. 예를 들어, 비트스트림의 상이한 계층들의 하나 이상의 코딩된 비디오 시퀀스에 의해 이용될 수 있는 파라미터들은 비디오 파라미터 세트(VPS)에 포함될 수 있고, 코딩된 비디오 시퀀스에서 하나 이상의 픽처들에 의해 이용되는 파라미터들은 시퀀스 파라미터 세트(SPS)에 포함될 수 있다. 유사하게, 픽처에서 하나 이상의 슬라이스에 의해 사용되는 파라미터가 픽처 파라미터 세트(PPS)에 포함될 수 있고, 단일 슬라이스에 특정되는 다른 파라미터가 슬라이스 헤더에 포함될 수 있다. 유사하게, 특정 계층이 주어진 시간에 어느 파라미터 세트(들) 를 사용하고 있는지의 표시는 다양한 코딩 레벨에서 제공될 수 있다.

VVC에서 레퍼런스 픽처 리샘플링(RPR) 지원 덕분에, 다중 계층, 예를 들어, WC에서 SD 및 HD 해상도의 두 계층을 포함하는 비트스트림의 지원을 업 샘플링과 같은 추가 신호 처리 레벨 코딩 툴 없이도 설계될 수 있으며, 공간 스케일러빌리티 지원에 필요한 업샘플링은 RPR 업샘플링 필터만 사용할 수 있다. 그럼에도 불구하고 스케일러빌리티 지원을 위해서는 높은 레벨의 신택스 변경(스케일러빌리티을 지원하지 않는 것과 비교) 이 필요하다. 스케일러빌리티 지원은 VVC 버전 1에 지정되어 있다. AVC 및 HEVC의 확장성(extension)을 포함하여 이전 비디오 코딩 표준의 스케일러빌리티 지원과는 달리 VVC 스케일러빌리티 설계는 가능한 한 단층 디코더 설계에 친숙하게 만들어졌다. 다층 비트스트림에 대한 디코딩 기능은 비트스트림에 단일 계층에만 있는 것처럼 지정된다. 예를 들어, DPB 크기와 같은 디코딩 기능은 디코딩될 비트스트림의 계층들의 수에 독립적인 방식으로 지정된다. 기본적으로 단층 비트스트림용으로 설계된 디코더는 다층 비트스트림을 디코딩하기 위해 많은 변경이 필요하지 않다. AVC 및 HEVC의 다층 확장 설계와 비교할 때 HLS 측면은 일부 유연성을 희생하면서 크게 단순화되었다. 예를 들어, CVS에 있는 각 계층에 대한 픽처를 포함하려면 IRAP AU가 필요하다.

3.5. 파라미터 세트(Parameter sets)

AVC, HEVC 및 VVC는 파라미터 세트을 지정한다. 파라미터 세트의 유형은 SPS, PPS, APS 및 VPS를 포함한다. SPS 및 PPS는 모든 AVC, HEVC 및 VVC에서 지원된다. VPS는 HEVC 이후 도입되었으며 HEVC와 VVC에 모두 포함되어 있다. APS는 AVC 또는 HEVC에 포함되지 않았지만 최신 VVC 초안 텍스트에 포함되었다.

SPS는 시퀀스 레벨 헤더 정보를 전달하도록 설계되었으며 PPS는 자주 변경되지 않는 픽처 레벨 헤더 정보를 전달하도록 설계되었다. SPS 및 PPS를 사용하면 각 시퀀스 또는 픽처에 대해 드물게 변경되는 정보를 반복할 필요가 없으므로 이 정보의 중복 시그널링을 피할 수 있다. 또한 SPS 및 PPS를 사용하면 중요한 헤더 정보의 대역 외 전송이 가능하므로 중복 전송의 필요성을 피할 뿐만 아니라 오류 복원력(error resilience)도 개선된다.

VPS는 다층 비트스트림의 모든 계층에 공통적인 시퀀스 레벨 헤더 정보를 전달하기 위해 도입되었다.

APS는 코딩하는 데 상당한 비트가 필요하고 여러 픽처에서 공유할 수 있으며 순서대로 매우 다양한 변형이 있을 수 있는 픽처 레벨 또는 슬라이스 레벨 정보를 전달하기 위해 도입되었다.

4. 개시된 기술 솔루션으로 해결된 기술적 문제의 예

최신 VVC 텍스트(JVET-R2001-vA/v10)에서 EOS NAL 유닛을 처리하기 위한 기존 설계에는 다음과 같은 문제가 있다.

1) 3절(정의)에서, CLVS 픽처 정의의 일부로서, "디코딩 순서에서 EOS NAL 유닛을 따르는 비트스트림 계층의 제1 PU"라는 문구에 문제가 있는데, 이는 EOS NAL 유닛이 계층 특정이고 EOS NAL 유닛은 nuh_layer_id가 EOS NAL 유닛의 nuh_layer_id와 동일한 계층에만 적용되기 때문이다. 이것은 따라서 혼동과 상호 운용성 문제를 야기할 것이다.

2) 7.4.2.2절에서, (NAL 유닛 헤더 의미론), nal_unit_type이 PH_NUT, EOS_NUT, 또는 FD_NUT와 같을 때, nuh_layer_id가 연관된 VCL NAL 유닛의 nuh_layer_id와 같아야 함을 지정한다. 그러나, 이는 시간적 확장성, 예를 들어 추출 출력에서 각 계층에 대한 EOS NAL 유닛을 유지하면서 시간적으로 확장 가능한 비트스트림의 시간적 서브세트를 추출하는 동작을 완전히 가능하게 하지 않는다. 예를 들어, nuh_layer_id가 0과 1인 두 개의 계층이 존재하고, 각 계층에 TemporalId가 0과 1인 두 개의 하위 계층을 갖는다고 가정한다. n이 0보다 크고 TemporalId가 1인 AU n에서 각 PU에는 EOS NAL 유닛이 있고 두 EOS NAL 유닛은 0과 1과 동일한 nuh_layer_id를 갖는다. 그리고 모든 EOS NAL 유닛은 TemporalId가 0이어야 함에 유의한다. 각 계층에서 가장 낮은 하위 계층만 유지하는 추출 프로세스를 통해, TemporalId가 1인 NAL 유닛이 제거될 것이고, 따라서 결과적으로 AU n에 있던 EOS NAL 유닛이 모두 AU n - 1에서 nuh_layer_id가 1인 PU의 일부가 될 것이다. 이것은 그 다음, EOS NAL 유닛의 nuh_layer_id가 연관된 VCL NAL 유닛의 nuh_layer_id와 같아야 한다는 규칙을 위반하게 될 것이다. 따라서, EOS NAL 유닛의 nuh_layer_id가 연관된 VCL NAL 유닛의 nuh_layer_id와 다른 것을 허용해야 하며, 이는 또한, 하나의 PU가 하나보다 많은 EOS NAL 유닛을 포함하도록 허용해야 한다.

3) 7.4.2.4.3절에서 (PU의 순서 및 AU와의 이의 연관), 동일한 계층에 속하고 EOS NAL 유닛을 포함하는 PU 이후의 특정 계층의 다음 PU가 존재하는 경우 CLVSS PU가 되도록 지정된다. 그러나 위에서 설명한 바와 같이 EOS NAL 유닛의 nuh_layer_id가 연관된 VCL NAL 유닛의 nuh_layer_id와 다른 것이 허용되어야 한다. 따라서 여기에 대한 제약 조건도 그에 따라 변경될 필요가 있다.

4) 7.4.2.4.4절(NAL 유닛 및 코딩된 픽처의 순서 및 PU에 대한 이의 연관)에서, EOS NAL 유닛이 PU에 존재할 때, 이것이 EOB NAL 유닛 이외의 PU(존재하는 경우) 내에 있는 모든 NAL 유닛 중 마지막 NAL 유닛이 되어야 한다고 지정되어 있다. 그러나 위에서 설명한 것처럼 하나의 PU가 하나보다 많은 EOS NAL 유닛을 포함하도록 허용해야 한다. 따라서 여기에 대한 제약 조건도 그에 따라 변경될 필요가 있다.

5) 7.4.3.10절(시퀀스 RBSP 의미론의 끝)에서, 존재할 때, EOS RBSP가 현재 PU가 디코딩 순서에서 CLVS에서 마지막 PU이고 디코딩 순서에서 비트스트림에서 다음 후속 PU가 (있는 경우) IRAP 또는 GDR PU임을 지정하도록 지정된다. 그러나, 위에서 설명한 바와 같이 PU는 다른 계층의 EOS NAL 유닛을 포함할 수 있으므로 이 제약 조건은 그에 따라 변경될 필요가 있다.

5. 기술 솔루션 및 구현 목록

상기와 같은 문제점을 해결하기 위해, 아래와 같이 정리한 방법을 개시한다. 아이템은 일반적인 개념을 설명하기 위한 예시로 간주되어야 하고 좁은 의미로 해석되어서는 안된다. 또한, 이들 아이템은 개별적으로 또는 임의의 방식으로 조합하여 적용될 수 있다.

1) 문제 1을 해결하기 위해, 3절(정의)에서, CLVS 픽처 정의의 일부로 주석에서, "디코딩 순서에서 EOS NAL 유닛을 따르는 비트스트림 계층의 제1 PU"라는 문구를 "디코딩 순서에서 계층의 EOS NAL 유닛 다음에 오는 비트스트림의 계층에서 제1 PU"로 변경한다.

2) 문제 2를 해결하기 위해, EOS NAL 유닛의 nuh_layer_id가 연관 VCL NAL 유닛의 nuh_layer_id와 동일하도록 요구하는 대신 EOS NAL 유닛의 nuh_layer_id가 CVS에 존재하는 계층의 nuh_layer_id 값 중 하나와 같아야 한다고 지정된다.

a. 하나의 예에서, 또한 하나의 PU가 하나보다 많은 EOS NAL 유닛을 포함하는 것이 허용된다.

b. 하나의 예에서, 또한, EOS NAL 유닛의 nuh_layer_id의 값은 연관된 VCL NAL 유닛의 nuh_layer_id보다 작거나 같도록 요구된다.

3) 문제 3을 해결하기 위해, 존재할 때, 동일한 계층에 속한 EOS NAL 유닛 다음의 특정 계층의 다음 PU가 IRAP 또는 GDR PU가 되도록 지정된다.

a. 대안적으로, 존재할 때, 동일한 계층에 속하는 EOS NAL 유닛 이후의 특정 계층의 다음 PU가 CLVSS PU가 되도록 지정된다.

4) 문제 4를 해결하기 위해, EOS NAL 유닛이 PU에 존재할 때, 이는 다른 EOS NAL 유닛(존재하는 경우) 또는 EOB NAL 유닛(존재하는 경우)을 제외한 PU 내의 모든 NAL 유닛 중 마지막 NAL 유닛이어야 함을 명시한다.

5) 문제 4를 해결하기 위해, 존재할 때, EOS RBSP는 디코딩 순서에서 (존재한다면) 비트스트림의 EOS NAL 유닛와 동일한 계층에 속하는 다음 후속 PU가 IRAP 또는 GDR PU임을 지정한다.

6. 실시예

다음은, VVC 사양에 적용될 수 있는, 위의 섹션 5에서 요약된 발명 측면 중 일부에 대한 몇 가지 예시적인 실시예이다. 변경된 텍스트는 JVET-Q2001-vA/v10의 최신 VVC 텍스트를 기반으로 한다. 추가되거나 수정된 대부분의 관련 부분은 굵은 밑줄로 강조 표시되고 일부 삭제된 부분은 [[ 굵은 이탤릭체 이중 사각 괄호 ]]로 강조 표시된다. 본질적으로 편집적이므로 강조되지 않은 몇 가지 다른 변경 사항이 있다.

6.1. 제1 실시예

이 실시예는 항목 1, 2, 2a, 2b, 3, 4 및 5에 대한 것이다.

3 정의

. . .

코딩된 계층 비디오 시퀀스(Coded Layer Video Sequence) 디코딩 순서에서 CLVSS PU 로 구성된 동일한 nuh_layer_id 값을 갖는 PU 시퀀스, 그 다음에 모든 후속 PU까지 포함하지만 CLVSS 인 임의의 후속 PU는 포함하지 않는 CLVSS PU 가 아닌 제로 또는 그 이상의 PU가 이어진다.

참고 - CLVSS PU는 IDR PU, CRA PU 또는 GDR PU일 수 있다. NoOutputBeforeRecoveryFlag의 값은 각 IDR PU에 대해 1과 같고 HandleCraAsClvsStartFlag를 갖는 각 CRA PU는 1과 동일하며, 각 CRA 또는 GDR PU는 디코딩 순서에서 비트스트림의 계층에서 제1 PU이거나 디코딩 순서에서 계층에서 EOS NAL 유닛을 따르는 비트스트림의 계층의 제1 PU이다.

. . .

7.4.2.2 7.4.2.2 NAL 유닛 헤더 시맨틱

. . .

nuh_layer_id는 VCL NAL 유닛이 속한 계층의 식별자 또는 비-VCL NAL 유닛이 적용되는 계층의 식별자를 지정한다. nuh_layer_id의 값은 0에서 55까지의 범위여야 한다. nuh_layer_id에 대한 다른 값은 ITU-T |ISO/IEC에서 나중에 사용할 수 있도록 예약되어 있다.

nuh_layer_id의 값은 코딩된 픽처의 모든 VCL NAL 유닛에 대해 동일해야 한다. 코딩된 픽처 또는 PU의 nuh_layer_id의 값은 코딩된 픽처 또는 PU의 VCL NAL 유닛들의 nuh_layer_id의 값이다.

그렇지 않으면, nal_unit_type가 PH_NUT, EOS_NUT 또는 FD_NUT와 동일할 때, nuh_layer_id는 연관된 VCL NAL 유닛의 nuh_layer_id과 동일하여야 한다.

nal_unit_type이 EOS_NUT와 같을 때, nuh_layer_id는 CVS에 있는 계층의 nuh_layer_id 값 중 하나와 동일해야 한다.

참고1 - DCI, VPS 및 EOB NAL 유닛의 nuh_layer_id 값은 제한되지 않는다.

. . .

7.4.2.4.3

7.4.2.4.3 PU 순서 및 Aus와의 연관성

. . .

존재하는 경우, 동일한 계층에 속하고 [[EOS NAL 유닛을 포함하는]] [[PU]] EOS NAL unit 이후 특정 계층의 다음 PU는 IRAP 또는 GDR PU이어야 한다는 것이 비트스트림 적합성의 요구사항이다[[CLVSS P는 1과 동일한 NoOutputBeforeRecoveryFlag를 갖는 IRAP PU 또는 1과 동일한 NoOutputBeforeRecoveryFlag를 갖는 GDR PU이다]].

. . .

7.4.2.4.4

NAL 유닛의 순서 및 코딩된 픽처와 PU와의 이의 연관성

PU는 0 또는 하나의 PH NAL 유닛, 하나 이상의 VCL NAL 유닛으로 구성된 하나의 코딩된 픽처, 및 0 이상의 다른 비-VCL NAL 유닛으로 구성된다. 코딩된 화면에 대한 VCL NAL 유닛의 연관은 절 7.4.2.4.5에 설명되어 있다.

픽처가 하나 이상의 VCL NAL 유닛으로 구성되면 PH NAL 유닛이 PU에 있어야 한다.

VCL NAL 유닛이 1과 동일한 sh_picture_header_in_slice_header_flag를 가지거나 PH NAL 유닛을 뒤따르는 제1 VCL NAL 유닛일 때, VCL NAL 유닛은 픽처의 제1 VCL NAL 유닛이다.

PU 내의 비 VCL NAL 유닛(AUD 및 EOB NAL 유닛 제외)의 순서는 다음 제약 조건을 준수해야 한다.

- PH NAL 유닛이 PU에 있는 경우 PU의 제1 VCL NAL 유닛에 선행될 것이다.

- 임의의 DCI NAL 유닛, VPS NAL 유닛, SPS NAL 유닛, PPS NAL 유닛, 접두사 SEI NAL 유닛, RSV_NVCL_26과 동일한 nal_unit_type을 갖는 NAL 유닛, 또는 UNSPEC_28..UNSPEC_29 범위의 nal_unit_type을 갖는 NAL 유닛이 PU에 존재할 때, 그들은 PU의 마지막 VCL NAL 유닛을 따르지 않아야 한다.

- DCI NAL 유닛, VPS NAL 유닛, SPS NAL 유닛, 또는 PPS NAL 유닛이 PU에 존재할 때, 그것들은 PU의 PH NAL 유닛(존재하는 경우)보다 선행되어야 하고 PU의 제1 VCL NAL 유닛보다 선행되어야 한다.

- PU에서 SUFFIX_SEI_NUT, FD_NUT, 또는 RSV_NVCL_27과 같거나 UNSPEC_30..UNSPEC_31 범위에 있는 nal_unit_type을 갖는 NAL 유닛은 PU의 제1 VCL NAL 유닛보다 선행하지 않아야 한다.

- 어떤 접두사 APS NAL 유닛이 PU에 있는 경우 그들은 PU의 제1 VCL 유닛보다 선행해야 한다.

- 접미사 APS NAL 유닛이 PU에 있는 경우 그들은 PU의 마지막 VCL 유닛을 따라야 한다.

- PU에 EOS NAL 유닛이 존재할 때, 이는 다른 EOS NAL 유닛(존재하는 경우) 또는 EOB NAL 유닛(존재하는 경우) 이외의 PU 내의 모든 NAL 유닛 중 마지막 NAL 유닛이어야 한다.

7.4.3.10 시퀀스 RBSP 의미론의 끝

비트스트림에 존재할 때, EOS NAL 유닛은 EOS NAL 유닛의 nuh_layer_id와 동일한 nuh_layer_id를 갖는 계층에 속하거나 존재하는 것으로 간주된다.

존재하는 경우, EOS RBSP는 [[ 현재 PU는 디코딩 순서에서 CLVS의 마지막 PU이고 ]] 디코딩 순서에서 비트스트림 의 EOS NAL 유닛과 동일한 계층에 속하는 다음 후속 PU(있는 경우)은 IRAP 또는 GDR PU이다.

EOS RBSP에 대한 SODB 및 RBSP의 신택스 내용이 비어 있다.

도 1은 여기에 개시된 다양한 기술들이 구현될 수 있는 예시적인 비디오 처리 시스템(video processing system)(1900)을 도시하는 블록도이다. 다양한 구현은 시스템(system)(1900)의 컴포넌트 중 일부 또는 전부를 포함할 수 있다. 시스템(1900)은 비디오 컨텐츠를 수신하기 위한 입력(input)(1902)을 포함할 수 있다. 비디오 컨텐츠는 원시 또는 압축되지 않은 포맷, 예를 들어, 8 또는 10비트 다중 컴포넌트 픽셀 값으로 수신될 수 있거나 압축 또는 인코딩된 포맷일 수 있다. 입력(1902)은 네트워크 인터페이스, 주변 버스 인터페이스, 또는 저장 인터페이스를 표현할 수 있다. 네트워크 인터페이스의 예로는 이더넷, 수동 광 네트워크(PON) 등과 동일한 유선 인터페이스와 Wi-Fi 또는 셀룰러 인터페이스와 같은 무선 인터페이스가 있다.

시스템(1900)은 본 문서에 설명된 다양한 코딩 또는 인코딩 방법을 구현할 수 있는 코딩 컴포넌트(coding component)(1904)를 포함할 수 있다. 코딩 컴포넌트(1904)는 비디오의 코딩된 표현을 생성하기 위해 입력(1902)으로부터 코딩 컴포넌트(1904)의 출력으로 비디오의 평균 비트레이트를 감소시킬 수 있다. 따라서 코딩 기술은 비디오 압축 또는 비디오 트랜스코딩 기술이라고도 한다. 코딩 컴포넌트(1904)의 출력은 컴포넌트(component)(1906)에 의해 표현되는 바와 같이, 연결된 통신을 통해 저장되거나 전송될 수 있다. 입력(1902)에서 수신된 비디오의 저장되거나 통신된 비트스트림(또는 코딩된) 표현은 디스플레이 인터페이스(1910)로 전송되는 픽셀 값 또는 디스플레이 가능한 비디오를 생성하기 위해 컴포넌트(1908)에 의해 사용될 수 있다. 비트스트림 표현(bitstream representation)에서 사용자가 볼 수 있는 비디오를 생성하는 프로세스를 비디오 압축 해제(decompression)라고도 한다. 또한, 특정 비디오 처리 동작을 "코딩" 동작(coding operation) 또는 툴(tools)로 지칭하지만, 코딩 툴 또는 동작이 인코더에서 사용되고 코딩 결과를 되돌리는 대응하는 디코딩 툴 또는 동작이 디코더에 의해 수행된다는 점을 이해할 것이다.

주변 버스 인터페이스 또는 디스플레이 인터페이스의 예로는 범용 직렬 버스(USB) 또는 고화질 멀티미디어 인터페이스(HDMI) 또는 디스플레이포트 등이 포함될 수 있다. 스토리지 인터페이스의 예로는 SATA(직렬 첨단 기술 첨부 파일), PCI, IDE 인터페이스 등이 있다. 본 문서에 기재된 기술은 휴대전화, 노트북, 스마트폰 또는 디지털 데이터 처리 및/또는 비디오 디스플레이를 수행할 수 있는 기타 장치와 같은 다양한 전자 기기에 구현될 수 있다.

도 2는 비디오 처리 장치(3600)의 블록도이다. 장치(apparatus)(3600)는 여기에 설명된 방법 중 하나 이상을 구현하는 데 사용될 수 있다. 장치(3600)는 스마트폰, 태블릿, 컴퓨터, 사물 인터넷(IoT) 수신기 등으로 구현될 수 있다. 장치(3600)는 하나 이상의 프로세서(processor)(3602), 하나 이상의 메모리(memory)(3604) 및 비디오 처리 하드웨어(video processing hardware)(3606)를 포함할 수 있다. 프로세서(들)(3602)는 본 문서에 설명된 하나 이상의 방법을 구현하도록 구성될 수 있다. 메모리(메모리들)(3604)는 여기에 설명된 방법 및 기술을 구현하는 데 사용되는 데이터 및 코드를 저장하는 데 사용될 수 있다. 비디오 처리 하드웨어(video processing hardware)(3606)는 하드웨어 회로에서 본 문서에 설명된 일부 기술을 구현하는 데 사용될 수 있다.

도 4는 본 개시의 기술을 활용할 수 있는 예제 비디오 코딩 시스템(100)을 예시하는 블록도이다.

도 4의 도시된 바와 같이, 비디오 코딩 시스템(100)은 소스 장치(source device)(110) 및 목적 장치(destination device)(120)를 포함할 수 있다. 소스 장치(110)는 인코딩된 비디오 데이터를 생성하고, 비디오 인코딩 장치로 참조될 수 있다. 목적 장치(120)는 소스 장치(110)에 의해 생성된 인코딩된 비디오 데이터를 디코딩할 수 있고, 비디오 디코딩 장치로 참조될 수 있다.

소스 장치(110)에는 비디오 소스(112), 비디오 인코더(114) 및 입력/출력(I/O) 인터페이스(116)가 포함될 수 있다.

비디오 소스(112)에는 비디오 캡처 장치, 비디오 컴텐츠 공급자로부터 비디오 데이터를 수신하는 인터페이스, 비디오 데이터를 생성하기 위한 컴퓨터 그래픽 시스템 또는 이러한 소스의 조합을 포함할 수 있다. 비디오 데이터는 하나 이상의 픽처를 포함할 수 있다. 비디오 인코더(114)는 비디오 소스(112)의 비디오 데이터를 인코딩하여 비트스트림을 생성한다. 비트스트림에는 비디오 데이터의 코딩된 표현을 형성하는 비트들의 시퀀스가 포함될 수 있다. 비트스트림에는 코딩된 픽처 및 관련 데이터가 포함될 수 있다. 코딩된 픽처는 픽처의 코딩된 표현(representation)이다. 관련 데이터에는 시퀀스 파라미터 세트, 픽처 파라미터 세트 및 기타 신택스 구조가 포함될 수 있다. I/O 인터페이스(116)는 변조기/복조기(모뎀) 및/또는 송신기(transmitter)를 포함할 수 있다. 인코딩된 비디오 데이터는 네트워크(130a)를 거쳐, I/O 인터페이스(116)를 통해 목적 장치(120)로 직접 전송될 수 있다. 인코딩된 비디오 데이터는 목적 장치(120)에 의한 액세스를 위해 저장 매체/서버(130b)에 저장될 수도 있다.

목적 장치(120)는 I/O 인터페이스(126), 비디오 디코더(124) 및 디스플레이 장치(122)를 포함할 수 있다.

I/O 인터페이스(126)는 수신기 및/또는 모뎀을 포함할 수 있다. I/O 인터페이스(126)는 소스 장치(110) 또는 저장 매체/서버(130b)로부터 인코딩된 비디오 데이터를 획득할 수 있다. 비디오 디코더(124)는 인코딩된 비디오 데이터를 디코딩할 수 있다. 디스플레이 장치(122)는 디코딩된 비디오 데이터를 사용자에게 디스플레이 할 수 있다. 디스플레이 장치(122)는 목적 장치(120)와 통합될 수 있거나, 외부 디스플레이 장치와 인터페이스 하도록 구성된 목적 장치(120)의 외부에 위치할 수 있다.

비디오 인코더(114) 및 비디오 디코더(124)는 고효율 비디오 코딩(HEVC) 표준, 다목적 비디오 코딩(VVC) 표준 및 기타 현재 및/또는 추가 표준과 동일한 비디오 압축 표준에 따라 동작할 수 있다.

도 5는 도 4에 예시된 시스템(100)의 비디오 인코더(video encoder)(114)일 수 있는 비디오 인코더(video encoder)(200)의 예를 도시하는 블록도이다.

비디오 인코더(200)는 본 개시의 기술 중 어느 또는 전부를 수행하도록 구성될 수 있다. 도 5의 예에서, 비디오 인코더(200)는 복수의 기능적 컴포넌트들을 포함한다. 본 개시에 기재된 기술은 비디오 인코더(200)의 다양한 컴포넌트들 간에 공유될 수 있다. 일부 예에서, 프로세서는 본 개시에 기재된 임의 또는 전부를 수행하기 위해 구성될 수 있다.

비디오 인코더(video encoder)(200)의 기능적 컴포넌트는 파티션 유닛(partition unit)(201)와, 모드 선택 유닛(mode select unit)(203), 모션 추정 유닛(motion estimation unit)(204), 모션 보상 유닛(motion compensation unit)(205) 및 인트라 예측 유닛(intra prediction unit)(206)을 포함할 수 있는 예측 유닛(predication unit)(202)과, 잔차 생생 유닛(residual generation unit)(207), 트랜스폼 유닛(transform unit)(208), 양자화 유닛(quantization unit)(209), 역양자화 유닛(inverse quantization unit)(210), 역트랜스폼 유닛(inverse transform unit)(211), 재구성 유닛(reconstruction unit)(212), 버퍼(buffer)(213), 및 엔트로피 인코딩 유닛(entropy encoding unit)(214)를 포함할 수 있다.

다른 예에서, 비디오 인코더(200)에는 더 많거나, 적거나, 다른 기능적 컴포넌트가 포함될 수 있다. 예를 들어, 예측 유닛(202)는 인트라 블록 카피(IBC) 유닛을 포함할 수 있다. IBC 유닛은 IBC 모드에서 적어도 하나의 레퍼런스 픽처가 현재 비디오 블록이 있는 픽처인 경우, 예측을 수행할 수 있다.

더욱이, 모션 추정부(204) 및 모션 보정부(205)와 같은 일부 컴포넌트는 고도로(highly) 통합될 수 있으나, 도 5의 예에서는 설명의 목적을 위해 분리된 것으로 표현되었다.

파티션 장치(201)는 픽처를 하나 이상의 비디오 블록으로 분할할 수 있다. 비디오 인코더(200) 및 비디오 디코더(300)는 다양한 비디오 블록 크기를 지원할 수 있다.

모드 선택 유닛(203)는 오류 결과에 기초하여 코딩 모드, 예를 들면, 인트라 또는 인터 등을 선택하고, 결과인 인트라 또는 인터 코딩된 블록을, 잔차 생성 유닛(207)에 제공하여 잔차 블록 데이터를 생성하고, 재구성 유닛(212)으로 제공하여 레퍼런스 픽처로 사용하기 위한 인커딩된 블록을 재구성한다. 일부 예에서, 모드 선택 유닛(203)는 인트라 및 인터 예측(CIIP) 모드의 조합을 선택할 수 있고, 이 모드에서 예측은 인터 예측 시그널 및 인트라 예측 시그널에 기초한다. 모드 선택 유닛(203)는 또한, 인터 예측의 경우, 블록에 대한 모션 벡터의 해상도(예를 들어, 서브 픽셀 또는 정수 픽셀 정밀도)를 선택할 수 있다.

현재 비디오 블록에서 인터 예측을 수행하기 위해, 모션 추정 유닛(204)는 버퍼(213)에서 현재 비디오 블록에 하나 이상의 레퍼런스 프레임을 비교하여 현재 비디오 블록에 대한 모션 정보를 생성할 수 있다. 모션 보상 유닛(205)는 현재 비디오 블록과 연관된 픽처 이외의 버퍼(213)로부터의 모션 정보 및 디코딩된 픽처 샘플에 기초하여 현재 비디오 블록에 대한 예측 비디오 블록을 결정할 수 있다.

모션 추정 유닛(204) 및 모션 보상 유닛(205)는 현재 비디오 블록이 I 슬라이스, P 슬라이스 또는 B 슬라이스에 있는지 여부에 따라 현재 비디오 블록에 대해 서로 다른 동작을 수행할 수 있다.

일부 예에서, 모션 추정 유닛(204)은 현재 비디오 블록에 대한 유니-디렉셔널(uni-directional) 예측을 수행할 수 있고, 모션 추정 유닛(204)은 현재 비디오 블록에 대한 레퍼런스 비디오 블록에 대한 list 0 또는 list 1의 레퍼런스 픽처를 검색할 수 있다. 그런 다음, 모션 추정 유닛(204)는 현재 비디오 블록과 레퍼런스 비디오 블록 사이의 공간적 변위(spatial displacement)를 나타내는 레퍼런스 비디오 블록 및 모션 벡터를 포함하는 목록 0 또는 목록 1에서 레퍼런스 픽처를 나타내는 레퍼런스 인덱스(reference index)를 생성할 수 있다. 모션 추정 유닛(204)는 레퍼런스 인덱스, 예측 디렉션 표시자 및 모션 벡터를 현재 비디오 블록의 모션 정보로 출력할 수 있다. 모션 보상 유닛(205)는 현재 비디오 블록의 동작 정보에 의해 표시된 레퍼런스 비디오 블록에 기초하여 현재 블록의 예측된 비디오 블록을 생성할 수 있다.

다른 예에서, 모션 추정 유닛(204)는 현재 비디오 블록에 대한 바이-디렉셔널(bi-directional) 예측을 수행할 수 있고, 모션 추정 유닛(204)는 현재 비디오 블록에 대한 레퍼런스 비디오 블록에 대한 목록 0에서 레퍼런스 픽처를 검색할 수 있으며, 또한 현재 비디오 블록에 대한 다른 레퍼런스 비디오 블록에 대한 목록 1에서 레퍼런스 픽처를 검색할 수 있다. 그런 다음, 모션 추정 유닛(204)는 레퍼런스 비디오 블록과 현재 비디오 블록 사이의 공간적 변위를 나타내는 레퍼런스 비디오 블록 및 모션 벡터를 포함하는 목록 0 및 목록 1에서 레퍼런스 픽처를 나타내는 레퍼런스 인덱스를 생성할 수 있다. 모션 추정 유닛(204)는 현재 비디오 블록의 모션 정보로서 현재 비디오 블록의 레퍼런스 인덱스 및 모션 벡터를 출력할 수 있다. 모션 보상 유닛(205)은 현재 비디오 블록의 동작 정보에 의해 표시된 레퍼런스 비디오 블록에 기초하여 현재 비디오 블록의 예측 비디오 블록을 생성할 수 있다.

일부 예에서, 모션 추정 유닛(204)는 디코더의 디코딩 처리를 위한 전체 모션 정보 세트를 출력할 수 있다.

일부 예에서, 모션 추정 유닛(204)는 현재 비디오에 대한 전체 모션 정보 세트를 출력하지 않을 수 있다. 오히려, 모션 추정 유닛(204)는 다른 비디오 블록의 동작 정보를 참조하여 현재 비디오 블록의 모션 정보를 시그널링할 수 있다. 예를 들어, 모션 추정 유닛(motion estimation unit)(204)는 현재 비디오 블록의 모션 정보가 이웃 비디오 블록의 동작 정보와 충분히 유사하다고 결정할 수 있다.

하나의 예에서, 모션 추정 유닛(204)는 현재 비디오 블록과 연결된 신택스 구조에서 현재 비디오 블록이 다른 비디오 블록과 동일한 모션 정보를 가지고 있음을 비디오 디코더(300)에 나타내는 값을 나타낼 수 있다.

또 다른 예에서, 모션 추정 유닛(204)는 현재 비디오 블록과 연관된 신택스 구조에서, 다른 비디오 블록 및 모션 벡터 차(motion vector difference; MVD)를 식별할 수 있다. 모션 벡터 차는 현재 비디오 블록의 모션 벡터와 표시된 비디오 블록의 모션 벡터 사이의 차를 나타낸다. 비디오 디코더(300)는 현재 비디오 블록의 모션 벡터를 결정하기 위해 표시된 비디오 블록의 모션 벡터 및 모션 벡터 차를 사용할 수 있다.

위에서 설명한 바와 같이, 비디오 인코더(200)는 모션 벡터를 예측적으로 시그널링할 수 있다. 비디오 인코더(200)에 의해 구현될 수 있는 예측 시그널링 기술의 두 가지 예는, 어드밴스드 모션 벡터 예측(AMVP) 및 병합 모드 시그널링을 포함한다.

인트라 예측 유닛(206)은 현재 비디오 블록에 대한 인트라 예측을 수행할 수 있다. 인트라 예측 유닛(206)이 현재 비디오 블록에 대한 인트라 예측을 수행하는 경우, 인트라 예측 유닛(206)는 동일 픽처에서 다른 비디오 블록의 디코딩된 샘플에 기초하여 현재 비디오 블록에 대한 예측 데이터를 생성할 수 있다. 현재 비디오 블록에 대한 예측 데이터에는 예측된 비디오 블록 및 다양한 신택스 요소가 포함될 수 있다.

잔차 생성 유닛(207)는 현재 비디오 블록으로부터 예측된 비디오 블록의 예측 비디오 블록(예를 들어, 마이너스 기호로 표시)을 빼서 현재 비디오 블록에 대한 잔차 데이터를 생성할 수 있다. 현재 비디오 블록의 잔차 데이터는 현재 비디오 블록에서 샘플의 상이한 샘플 컴포넌트에 대응하는 잔차 비디오 블록을 포함할 수 있다.

다른 예에서, 현재 비디오 블록에 대한 현재 비디오 블록에 대한 잔차 데이터가 없을 수 있고, 예를 들어 스킵(skip) 모드에서, 잔차 생성 유닛(207)는 빼기 동작을 수행하지 않을 수 있다.

트랜스폼 처리 유닛(208)는 현재 비디오 블록과 연결된 잔차 비디오 블록에 하나 이상의 트랜스폼을 적용하여 현재 비디오 블록에 대해 하나 이상의 트랜스폼 계수 비디오 블록을 생성할 수 있다.

트랜스폼 처리 유닛(208)는 현재 비디오 블록과 연관된 트랜스폼 계수 비디오 블록을 생성한 후, 양자화 유닛(209)는 현재 비디오 블록과 연관된 하나 이상의 양자화 파라미터(QP) 값에 기초하여 현재 비디오 블록과 연관된 트랜스폼 계수 비디오 블록을 양자화할 수 있다.

역양자화 유닛(210)와 역트랜스폼부 유닛(211)는 트랜스폼 계수 비디오 블록으로부터 잔차 비디오 블록을 재구성하기 위해, 트랜스폼 계수 비디오 블록에 역양자화 유닛 및 역트랜스폼 유닛을 각각 적용할 수 있다. 재구성 유닛(212)는 예측 유닛(202)에 의해 생성된 하나 이상의 예측된 비디오 블록으로부터 대응하는 샘플에 재구성된 잔차 비디오 블록을 추가하여 버퍼(213)에 저장하기 위한 현재 블록과 연관된 재구성된 비디오 블록을 생성할 수 있다.

재구성 유닛(212)가 비디오 블록을 재구성한 후, 비디오 블록에서 비디오 차단 아티팩트를 줄이기 위해 루프 필터링 동작이 수행된다.

엔트로피 인코딩 유닛(214)은 비디오 인코더(200)의 다른 함수 컴포넌트로부터 데이터를 수신할 수 있다. 엔트로피 인코딩 유닛(214)가 데이터를 수신하는 경우, 엔트로피 인코딩 유닛(214)는 엔트로피 인코딩된 데이터를 생성하고 엔트로피 인코딩된 데이터를 포함하는 비트스트림을 출력하기 위해 하나 이상의 엔트로피 인코딩 동작을 수행할 수 있다.

도 6은 도 4에 예시된 시스템(100)의 비디오 디코더(114)일 수 있는 비디오 디코더(300)의 예를 도시하는 블록도이다.

비디오 디코더(300)는 본 개시의 기술 중 어느 또는 전부를 수행하도록 구성될 수 있다. 도 5의 예에서, 비디오 디코더(300)는 복수의 기능성 컴포넌트를 포함한다. 본 개시에 기재된 기술은 비디오 디코더(300)의 다양한 컴포넌트들 간에 공유될 수 있다. 일부 예에서, 프로세서는 본 개시에 기재된 임의 또는 전부를 수행하기 위해 구성될 수 있다.

도 6의 예에서, 비디오 디코더(video decoder)(300)는 엔트로피 디코딩 유닛(entropy decoding unit)(301), 모션 보상 유닛(motion compensation unit)(302), 인트라 예측 유닛(intra prediction unit)(303), 역양자화 유닛(inverse quantization unit)(304), 역트랜스폼 유닛(inverse transformation uni)(305), 및 재구성 유닛(reconstruction unit)(306) 및 버퍼(buffer)(307)를 포함한다. 비디오 디코더(300)는, 일부 예에서, 비디오 인코더(200)에 대하여 기술된 인코딩 패스(pass)와 일반적으로 서로 주고 받는(reciprocal) 디코딩 패스를 수행할 수 있다(도 5).

엔트로피 디코딩 유닛(301)는 인코딩된 비트스트림을 검색할 수 있다. 인코딩된 비트스트림에는 엔트로피 코딩된 비디오 데이터(예를 들어, 비디오 데이터의 인코딩된 블록)가 포함될 수 있다. 엔트로피 디코딩 유닛(301)는 엔트로피 코딩된 비디오 데이터를 디코딩할 수 있고, 엔트로피 디코딩된 비디오 데이터로부터 모션 보상 유닛(302)는 모션 벡터, 모션 벡터 정밀도, 레퍼런스 픽처 목록 인덱스 및 기타 모션 정보를 포함하는 모션 정보를 결정할 수 있다. 모션 보상 유닛(302)는, 예를 들어 AMVP 및 병합 모드를 수행하여 이러한 정보를 결정할 수 있다.

모션 보상 유닛(302)는 보간 필터에 기초하여 보간(interpolation)을 수행하여 모션 보정 블록을 생성할 수 있다. 서브 픽셀 정밀도와 함께 사용되는 보간 필터에 대한 식별자가 신택스 요소에 포함될 수 있다.

모션 보상 유닛(302)는 비디오 블록을 인코딩하는 동안 비디오 인코더(20)에서 사용하는 보간 필터를 사용하여 레퍼런스 블록의 서브 정수 픽셀에 대한 보간 값을 계산할 수 있다. 모션 보상 유닛(302)는 수신된 신택스 정보에 따라 비디오 인코더(200)에서 사용하는 보간 필터를 결정하고 보간 필터를 사용하여 예측 블록을 생성할 수 있다.

모션 보상 유닛(302)는 인코딩된 비디오 시퀀스의 프레임 및/또는 슬라이스를 인코딩하는 데 사용되는 블록의 크기, 인코딩된 비디오 시퀀스의 각 매크로 블록이 분할되는 방식을 설명하는 파티션 정보, 각 파티션이 인코딩된 방법, 각 파티션이 인코딩되는 방식을 나타내는 모드, 각 인터-인코딩된 블록에 대한 하나 이상의 레퍼런스 프레임(및 레퍼런스 프레임 목록) 및 인코딩된 비디오 시퀀스를 디코딩하는 다른 정보들을 결정하기 위해 일부 신택스 정보를 사용할 수 있다.

인트라 예측 유닛(303)는, 공간적으로 인접한 블록(adjacent block)으로부터 예측 블록을 형성하기 위해 예를 들어 비트스트림에서 수신된 인트라 예측 모드를 사용할 수 있다. 역양자화 유닛(303)는 비트스트림에서 제공되고 엔트로피 디코딩 유닛(301)에서 디코딩된 양자화된 비디오 블록 계수를 역양자화(예를 들어, 비양자화(de-quantize))한다. 역트랜스폼 유닛(Inverse transform unit)(303)은 역트랜스폼을 적용한다.

재구성 유닛(Reconstruction unit)(306)은 모션 보상 유닛(202) 또는 인트라 예측 유닛(303)에 의해 생성된 대응하는 예측 블록과 잔차 블록을 합산하여 디코딩된 블록을 형성할 수 있다. 원하는 경우, 디블로킹 필터(deblocking filter)를 적용하여 차단 아티팩트를 제거하기 위해 디코딩된 블록을 필터링할 수도 있다. 디코딩된 비디오 블록은 버퍼(307)에 저장되고, 이는 이후의 모션 보상/인트라 예측에 대한 레퍼런스 블록을 제공하고, 디스플레이 장치에서 재생하기 위한 디코딩된 비디오를 생성한다.

일부 실시예에서, 선호하는 솔루션 목록이 다음에 제공된다.

다음 솔루션은 이전 섹션(예를 들어, 항목 1)에서 논의된 기술의 예시적인 실시예를 보여준다.

1. 비디오 처리 방법(예를 들어, 도 3의 방법(600))으로서, 하나 이상의 비디오 픽처를 포함하는 비디오와 비디오의 비트스트림 표현 사이의 변환을 수행하는 단계(602)를 포함하며, 여기서 코딩된 표현은 포맷 규칙을 따르며, 여기서 포맷 규칙은 디코딩 순서에서 계층의 EOS NAL(시퀀스 네트워크 추상화 계층) 유닛의 끝을 뒤따르는 비트스트림의 계층에서 제1 픽처 유닛(PU)을 지정한다.

다음 솔루션은 이전 섹션(예를 들어, 항목 2)에서 논의된 기술의 예시적인 실시예를 보여준다.

2. 비디오 처리 방법으로서, 하나 이상의 비디오 픽처를 포함하는 비디오와 비디오의 비트스트림 표현 사이의 변환을 수행하는 단계를 포함하고, 비트스트림 표현은 하나 이상의 비디오 계층를 갖는 코딩된 비디오 시퀀스를 포함하고, 비트스트림 표현은 시퀀스의 끝 네트워크 추상화 계층(End of Sequence Network Abstraction Layer)(EOS NAL) 유닛의 계층 ID가 코딩된 비디오 시퀀스의 비디오 계층 중 하나의 다른 계층 ID와 동일함을 지정하는 포맷 규칙을 따른다.

3. 솔루션 1의 방법에서, 포맷 규칙은 픽처 유닛(PU)에 하나보다 많은 EOS NAL 유닛의 포함을 추가로 허용한다.

4. 비디오 처리 방법으로서, 하나 이상의 비디오 픽처를 포함하는 비디오와 비디오의 비트스트림 표현 사이의 변환을 수행하는 단계를 포함하고, 비트스트림 표현은 하나 이상의 비디오 계층을 갖는 코딩된 비디오 시퀀스를 포함하고, 비트스트림 표현은 동일한 계층에 속하는 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛 이후에 특정 계층의 다음 픽처 유닛이 인트라 랜덤 액세스 포인트 또는 점진적 디코딩 리프레시 픽처 유닛임을 지정하는 포맷 규칙을 따른다.

다음 솔루션은 이전 섹션(예를 들어, 항목 4)에서 논의된 기술의 예시적인 실시예를 보여준다.

5. 비디오 처리 방법으로서, 하나 이상의 비디오 픽처를 포함하는 비디오와 비디오의 비트스트림 표현 사이의 변환을 수행하는 단계를 포함하고, 비트스트림 표현은 하나 이상의 비디오 계층를 갖는 코딩된 비디오 시퀀스를 포함하고, 상기 비트스트림 표현은 픽처 유닛의 EOS NAL 유닛이 다른 EOS NAL 유닛 또는 EOB NAL 유닛을 제외한 PU 내의 모든 NAL 유닛 중 마지막 NAL 유닛임을 지정하는 포맷 규칙을 따른다.

다음 솔루션은 이전 섹션(예를 들어, 항목 5)에서 논의된 기술의 예시적인 실시예를 보여준다.

6. 비디오 처리 방법으로서, 하나 이상의 비디오 픽처를 포함하는 비디오와 비디오의 비트스트림 표현 사이의 변환을 수행하는 단계를 포함하고, 비트스트림 표현은 하나 이상의 비디오 계층을 갖는 코딩된 비디오 시퀀스를 포함하고, 비트스트림 표현은 EOS RBSP가 디코딩 순서에서 비트스트림의 EOS NAL 유닛와 동일한 계층에 속하는 다음 후속 PU가 IRAP 또는 GDR PU여야 함을 지정하는 포맷 규칙을 따른다.

7. 솔루션 1 내지 6 중 어느 하나의 방법에서, 변환을 수행하는 단계는 비디오를 코딩된 표현으로 인코딩하는 단계를 포함한다.

8. 솔루션 1 내지 6 중 어느 하나의 방법에서, 변환을 수행하는 단계는 비디오를 생성하기 위해 코딩된 표현을 파싱 및 디코딩하는 단계를 포함한다.

9. 솔루션 1 내지 8 중 하나 이상에 인용된 방법을 구현하도록 구성된 프로세서를 포함하는 비디오 디코딩 장치.

10. 솔루션 1 내지 8의 하나 이상에 인용된 방법을 구현하도록 구성된 프로세서를 포함하는 비디오 인코딩 장치.

11. 컴퓨터 코드가 저장되어 있는 컴퓨터 프로그램에서, 코드는, 프로세서에 의해 실행 시, 프로세서로 하여금 솔루션 1 내지 8 중 어느 하나 이상에 인용된 방법을 구현하도록 한다.

12. 본 문서에 기술된 방법, 장치 및 시스템.

일부 바람직한 실시예가 아래에 설명되어 있다.

일부 실시예에서(예를 들어, 섹션 5의 항목 1 참조), 비디오 처리 방법(예를 들어, 도 7에 도시된 방법(700))은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계(702)를 포함하며, 여기서 비트스트림은 포맷 규칙을 따르며, 비트스트림은 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고, 포맷 규칙은 디코딩 순서에서 계층의 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛을 따르는 비트스트림의 계층에서 제1 PU에 응답하여, 제1 PU의 변수는 특정 값으로 설정되는 것으로 지정되고, 변수는 제1 PU가 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU인지 여부를 나타낸다. 일부 실시예에서, 제1 PU는 순시 디코딩 리프레시 PU이다. 일부 실시예에서, 제1 PU는 클린 랜덤 액세스 PU이고, 클린 랜덤 액세스 PU의 다른 변수는 클린 랜덤 액세스 PU가 CLVSS PU로서 처리됨을 나타내도록 설정된다. 일부 실시예에서, 제1 PU는 클린 랜덤 액세스 PU이다. 일부 실시예에서, 제1 PU는 점진적 디코딩 리프레시 PU이다. 일부 실시예에서, 제1 PU는 디코딩 순서에서 계층의 제1 PU이다. 일부 실시예에서, 변수는 NoOutputBeforeRecoveryFlag에 대응한다.

일부 실시예에서(예를 들어, 섹션 5의 항목 3 참조), 비디오 프로세싱의 방법(예를 들어, 도 8에 도시된 방법(800))은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계(802)를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고; 여기서 포맷 규칙은 특정 계층의 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛 이후에 특정 계층의 PU가 특정 유형의 PU임을 지정한다. 일부 실시예에서, PU의 특정 유형은 인트라 랜덤 액세스 포인트(IRAP) 유형 또는 점진적 디코딩 리프레시(GDR) 유형 중 하나이다. 일부 실시예에서, 특정 유형의 PU는 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU이다.

일부 실시예(예를 들어, 섹션 5의 항목 5 참조)에서, 비디오 프로세싱의 방법(예를 들어, 도 9에 도시된 방법(900))은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계(902)를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고, 포맷 규칙은 존재하는 경우 시퀀스의 끝(EOS) 원시 바이트 시퀀스 페이로드(RBSP) 신택스 구조가 디코딩 순서에서 비트스트림에서 EOS 네트워크 추상화 계층(NAL)과 동일한 계층에 속하는 다음 후속적 PU가 인트라 랜덤 액세스 포인트(IRAP) PU 유형 또는 점진적 디코딩 리프레시(GDR) 중 특정 PU 유형임을 지정하는 것을 지정한다. 일부 실시예에서, 특정 PU 유형은 IRAP PU 유형이다. 일부 실시예에서, 특정 PU 유형은 GDR PU 유형이다.

일부 실시예(예를 들어, 섹션 5의 항목 2 참조)에서, 비디오 프로세싱의 방법(예를 들어, 도 10에 도시된 방법(1000))은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계(1002)를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 네트워크 추상화 계층(NAL) 유닛을 포함하는 하나 이상의 계층을 포함하고, 여기서 포맷 규칙은 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛의 헤더의 제1 계층 식별자가 비트스트림의 하나 이상의 계층 중 하나의 제2 계층 식별자와 동일해야 함을 지정한다. 일부 실시예에서, 포맷 규칙은 픽처 유닛(PU)에 하나보다 많은 EOS NAL 유닛을 포함하는 것을 추가로 허용한다. 일부 실시예에서, 포맷 규칙은 EOS NAL 유닛의 제1 계층 식별자가 EOS NAL 유닛과 연관된 비디오 코딩 계층(VCL) NAL 유닛의 제3 계층 식별자보다 작거나 같도록 요구된다는 것을 지정한다.

일부 실시예(예를 들어, 섹션 5의 항목 4 참조)에서, 비디오 프로세싱의 방법(예를 들어, 도 11에 도시된 방법(1100))은 비디오와 비디오의 비트스트림 사이의 변환을 수행하는 단계(1102)를 포함하고, 여기서 비트스트림은 포맷 규칙에 따라 하나 이상의 네트워크 추상화 계층(NAL) 유닛을 포함하는 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고, 여기서 포맷 규칙은 PU에서 시퀀스의 끝을 나타내는 제1 NAL 유닛에 응답하여, 제1 NAL 유닛이 존재하는 경우 시퀀스의 다른 끝을 나타내거나 존재하는 경우 비트스트림의 끝을 나타내는, 다른 NAL 유닛이 아닌 다른 PU 내의 모든 NAL 유닛 중에서 마지막 NAL 유닛이다. 일부 실시예에서, 다른 NAL 유닛은 시퀀스의 끝(EOS) NAL 유닛이다. 일부 실시예에서, 다른 NAL 유닛은 EOB(End of Bitstream) NAL 유닛이다.

전술한 실시예에서, PU는 픽처 헤더 NAL 유닛, 하나 이상의 비디오 코딩 계층 NAL 유닛 및 0 이상의 비-비디오 코딩 계층 NAL 유닛을 포함하는 코딩된 픽처를 포함하는 포맷을 가질 수도 있다.

전술한 실시예에서, 변환을 수행하는 단계는 비디오를 비트스트림으로 인코딩하는 단계를 포함한다.

상기 개시된 실시예에서, 변환을 수행하는 단계는 비트스트림으로부터 비디오를 디코딩하는 단계를 포함한다.

일부 실시예에서, 프로세서를 포함하는 비디오 디코딩 장치는 위에 개시된 실시예 중 임의의 것에서 설명된 방법을 구현하도록 구성될 수 있다.

일부 실시예에서, 프로세서를 포함하는 비디오 인코딩 장치는 전술한 방법을 구현하도록 구성될 수 있다.

일부 실시예에서, 컴퓨터 프로그램 제품은 그 위에 저장된 컴퓨터 코드를 가질 수 있으며, 코드는 프로세서에 의해 실행될 때 프로세서로 하여금 위에 개시된 방법을 구현하게 한다.

일부 실시예에서, 비트스트림 생성 방법은 상기 청구항 중 어느 하나 이상에서 인용된 방법에 따라 비트스트림을 생성하는 단계; 및 컴퓨터 판독가능 프로그램 매체에 비트스트림을 저장하는 단계를 포함한다.

일부 실시예에서, 컴퓨터로 판독가능 기록 매체는 비디오 처리 장치에 의해 수행되는 방법에 의해 생성된 비디오의 비트스트림을 저장할 수 있으며, 상기 방법은 본 명세서에 개시된 방법에 따라 비트스트림을 생성하는 단계를 포함한다.

본 문서에 기재된 개시 및 기타 솔루션, 예, 실시예, 모듈 및 기능적 동작(operation)은 디지털 전자 회로, 또는 컴퓨터 소프트웨어, 펌웨어 또는 하드웨어에서 구현될 수 있으며, 여기에는 이 문서 및 그 구조적 등가물 또는 그 중 하나 이상의 조합으로 구현될 수 있다. 개시된 및 기타 실시예는 하나 이상의 컴퓨터 프로그램 제품으로 구현될 수 있고, 즉, 컴퓨터 프로그램 지침의 하나 이상의 모듈을 컴퓨터 판독 가능한 매체에 인코딩 하여 실행하거나, 데이터 처리 장치의 작동을 제어할 수 있다. 컴퓨터 판독 가능 매체는 기계 판독 가능 저장 장치, 기계 판독 가능 저장 기판, 메모리 장치, 기계 판독 가능 전파 신호에 영향을 미치는 물질의 조성 또는 하나 이상의 조합일 수 있다. 용어 "데이터 처리 장치"는 예를 들어, 프로그래밍 가능한 프로세서, 컴퓨터 또는 다중 프로세서 또는 컴퓨터를 포함하여 데이터를 처리하기 위한 모든 장치, 장치 및 컴퓨터를 포함한다. 장치는 하드웨어에 추가하여 대응 컴퓨터 프로그램에 대한 실행 환경을 생성하는 코드, 예를 들어 프로세서 펌웨어, 프로토콜 스택, 데이터베이스 관리 시스템, 운영 체제, 또는 이들 중 하나 이상의 조합을 구성하는 코드를 포함할 수 있다. 전파된 신호는 인위적으로 생성된 신호, 예를 들어, 기계에서 생성된 전기, 광학 또는 전자기 신호이고, 이는 적합한 수신기 장치로 전송하기 위한 정보를 인코딩 하기 위해 생성된다.

컴퓨터 프로그램(프로그램, 소프트웨어, 소프트웨어 애플리케이션, 스크립트 또는 코드라고도 함)은 컴파일 된 언어를 비롯한 모든 형태의 프로그래밍 언어로 작성할 수 있으며 독립 실행형 프로그램 또는 컴퓨팅 환경에서 사용하기에 적합한 모듈, 컴포넌트, 서브루틴 또는 기타 유닛으로 모든 형태로 배포할 수 있다. 컴퓨터 프로그램이 파일 시스템의 파일에 반드시 대응하는 것은 아니다. 프로그램은 다른 프로그램이나 데이터(예를 들어, 마크업 언어 문서에 저장된 하나 이상의 스크립트), 대응하는 프로그램에 전용되는 단일 파일 또는 여러 조정된 파일들(예를 들어, 하나 이상의 모듈, 서브 프로그램 또는 코드 일부를 저장하는 파일)에 저장할 수 있다. 컴퓨터 프로그램은 한 컴퓨터 또는 한 사이트에 위치하거나 여러 사이트에 분산되고 통신 네트워크에 의해 상호 연결된 여러 컴퓨터에서 실행하도록 배포할 수 있다.

이 문서에 설명된 프로세스 및 논리 흐름은 하나 이상의 프로그래밍 가능한 프로세서가 하나 이상의 프로그래밍 가능한 프로세서에서 수행하여 입력 데이터에서 작동하고 출력을 생성하여 기능을 수행할 수 있다. 프로세스 및 로직 흐름도 수행될 수 있으며, 장치는 특수 목적 논리 회로, 예를 들어, FPGA(필드 프로그래밍 가능한 게이트 어레이) 또는 ASIC(애플리케이션 별 집적 회로)로 구현될 수 있다.

컴퓨터 프로그램의 실행에 적합한 프로세서에는 예를 들어, 일반 및 특수 목적 마이크로프로세서와 모든 종류의 디지털 컴퓨터의 하나 이상의 프로세서가 포함된다. 일반적으로 프로세서는 읽기 전용 메모리 또는 랜덤 액세스 메모리 또는 둘 다에서 지침과 데이터를 받게 된다. 컴퓨터의 필수 요소는 지침과 데이터를 저장하기 위한 하나 이상의 메모리 장치를 수행하기 위한 프로세서이다. 일반적으로, 컴퓨터는 또한 데이터를 저장하기 위한 하나 이상의 대용량 저장 장치, 예를 들어, 자기, 광자기 디스크, 또는 광 디스크로부터 데이터를 수신하거나 이들로 데이터를 전송하거나 둘 전체를 포함하거나 작동 가능하게 연결된다. 그러나, 컴퓨터에 이러한 장치가 필요하지 않다. 컴퓨터 프로그램 지침 및 데이터를 저장하는 데 적합한 컴퓨터 판독 가능한 미디어에는 반도체 메모리 장치, 예를 들어, EPROM, EEPROM 및 플래시 메모리 장치, 자기 디스크, 예를 들어, 내부 하드 디스크 또는 이동식 디스크; 마그네토 광학 디스크; 및 CD ROM 및 DVD-ROM 디스크를 비롯한 모든 형태의 비휘발성 메모리, 미디어 및 메모리 장치가 포함된다. 프로세서와 메모리는 특수 목적 논리 회로에 의해 보충되거나 통합될 수 있다.

이 특허 문서에는 많은 세부 사항이 포함되어 있지만, 이는 어떤 주제의 범위 나 청구 될 수 있는 것에 대한 제한으로 해석되어서는 안되고, 오히려 특정 기술의 특정 구현예에 특정할 수 있는 특징에 대한 설명으로 해석되어서는 안 된다. 이 특허 문서에 기재된 특정 특징은 별도의 실시예의 맥락에서 또한 단일 실시예에서 조합하여 구현될 수 있다. 역으로, 단일 실시예의 맥락에서 설명된 다양한 특징은 또한 개별적으로 또는 임의의 적절한 서브 조합으로 다중 실시예들에서도 구현될 수 있다. 더욱이, 앞서와 같이 특징들은 특정 조합으로 작용하는 것으로 설명될 수 있고 심지어 처음에 그렇게 주장될 수도 있지만, 청구된 조합으로부터 하나 이상의 특징은 어떤 경우에는 조합으로부터 제외될 수 있고, 주장된 조합은 서브 조합 또는 서브 조합의 변형에 관한 것일 수 있다.

마찬가지로, 동작은 특정 순서로 도면에 묘사되어 있지만, 바람직한 결과를 달성하기 위하여, 이러한 동작이 표시된 특정 순서 또는 순차적인 순서로 수행되거나, 모든 예시된 동작들이 수행되는 것을 요구하는 것으로 이해되어서는 안 된다. 더욱이, 본 특허 문서에 기재된 실시예들에서, 다양한 시스템 컴포넌트들의 분리가 모든 실시예들에서 이러한 분리를 요구하는 것으로 이해되어서는 안 된다.

단지 몇 가지 구현 및 예제만 설명되며, 이 특허 문서에서 기술되고 예시되는 내용에 기초하여 다른 구현들, 개선 및 변형들을 만들 수 있다.

Claims

비디오 처리 방법에 있어서,
비디오의 비디오 블록과 상기 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고,
상기 비트스트림은 포맷 규칙을 따르고,
상기 비트스트림은 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고,
상기 포맷 규칙은 디코딩 순서에서 계층의 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛을 뒤따르는 상기 비트스트림의 계층의 제1 PU에 응답하여, 상기 제1 PU의 변수가 특정 값으로 설정되도록 지정하고, 변수는 상기 제1 PU가 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU인지 여부를 나타내는, 비디오 처리 방법.
제1항에 있어서, 상기 제1 PU는 순시 디코딩 리프레시 PU인, 비디오 처리 방법.
제1항에 있어서, 상기 제1 PU는 클린 랜덤 액세스 PU이고, 상기 클린 랜덤 액세스 PU의 다른 변수는 상기 클린 랜덤 액세스 PU가 상기 CLVSS PU로 취급됨을 나타내도록 설정되는, 비디오 처리 방법.
제1항에 있어서, 상기 제1 PU는 클린 랜덤 액세스 PU인, 비디오 처리 방법.
제1항에 있어서, 상기 제1 PU는 점진적 디코딩 리프레시 PU인, 비디오 처리 방법.
제4항 또는 제5항에 있어서, 상기 제1 PU는 상기 디코딩 순서에서 상기 계층의 제1 PU인, 비디오 처리 방법.
제1항 내지 제6항 중 어느 한 항에 있어서, 상기 변수는 NoOutputBeforeRecoveryFlag에 대응하는, 비디오 처리 방법.
비디오 처리 방법에 있어서,
비디오의 비디오 블록과 상기 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고,
상기 비트스트림은 포맷 규칙에 따른 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고;
상기 포맷 규칙은 특정 계층의 시퀀스의 끝 네트워크 추상화 계층(EOS NAL) 유닛 이후에 상기 특정 계층의 PU가 특정 유형의 PU임을 지정하는, 비디오 처리 방법.
제8항에 있어서, 상기 특정 유형의 PU는 인트라 랜덤 액세스 포인트(IRAP) 유형 또는 점진적 디코딩 리프레시(GDR) 유형 중 하나인, 비디오 처리 방법.
제8항에 있어서, 상기 특정 유형의 PU는 코딩된 계층 비디오 시퀀스 시작(CLVSS) PU인, 비디오 처리 방법.
비디오 처리 방법에 있어서,
비디오의 비디오 블록과 상기 비디오의 비트스트림 사이의 변환을 수행하는 단계를 포함하고,
상기 비트스트림은 포맷 규칙에 따라 하나 이상의 픽처 유닛(PU)을 포함하는 하나 이상의 계층을 포함하고,
상기 포맷 규칙은 존재할 때, 시퀀스의 끝(EOS) 원시 바이트 시퀀스 페이로드(RBSP) 신택스 구조가 디코딩 순서에서 상기 비트스트림의 EOS 네트워크 추상화 계층(NAL) 유닛과 동일한 계층에 속하는 다음 후속 PU가 인트라 랜덤 액세스 포인트(IRAP) PU 유형 또는 점진적 디코딩 리프레시(GDR) PU 유형으로부터의 특정 PU 유형임을 지정하는, 비디오 처리 방법.
제11항에 있어서, 상기 특정 PU 유형은 IRAP PU 유형인, 비디오 처리 방법.
제11항에 있어서, 상기 특정 PU 타입은 GDR PU 타입인, 비디오 처리 방법.
제1항 내지 제13항 중 어느 한 항에 있어서, 상기 PU는 픽처 헤더 NAL 유닛, 하나 이상의 비디오 코딩 계층 NAL 유닛 및 0 이상의 비-비디오 코딩 계층 NAL 유닛을 포함하는 코딩된 픽처를 포함하는, 비디오 처리 방법.
제1항 내지 제14항 중 어느 한 항에 있어서, 상기 변환을 수행하는 단계는 상기 비디오를 상기 비트스트림으로 인코딩하는 단계를 포함하는, 비디오 처리 방법.
제1항 내지 제14항 중 어느 한 항에 있어서, 상기 변환을 수행하는 단계는 상기 비트스트림으로부터 상기 비디오를 디코딩하는 단계를 포함하는, 비디오 처리 방법.
제1항 내지 제14항 중 하나 이상에 인용된 방법을 구현하도록 구성된 프로세서를 포함하는 비디오 디코딩 장치.
제1항 내지 제16항 중 하나 이상에 인용된 방법을 구현하도록 구성된 프로세서를 포함하는 비디오 인코딩 장치.
컴퓨터 코드가 저장되어 있는 컴퓨터 프로그램 제품에 있어서, 상기 코드는 프로세서에 의해 실행될 때, 상기 프로세서로 하여금 제1항 내지 제16항 중 어느 한 항에서 인용된 방법을 구현하게 하는 컴퓨터 프로그램 제품.
비트스트림 생성 방법에 있어서,
제1항 내지 제16항 중 어느 하나 이상의 항에 인용된 방법에 따라 비트스트림을 생성하는 단계; 및
컴퓨터 판독 가능 프로그램 매체에 상기 비트스트림을 저장하는 단계를 포함하는, 비트스트림 생성 방법.
비디오 처리 장치에 의해 수행되는 방법에 의해 생성되는 비디오의 비트스트림을 저장하는 비일시적 컴퓨터 판독 가능 기록 매체에 있어서,
상기 방법은:
제1항 내지 제16항 중 어느 한 항에 인용된 방법에 따라 상기 비트스트림을 생성하는 단계를 포함하는, 비일시적 컴퓨터 판독 가능 기록 매체.
본 문서에 기술된 방법, 장치 및 시스템.