KR20150036299A - 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램 - Google Patents

비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램 Download PDF

Info

Publication number
KR20150036299A
KR20150036299A KR1020157002621A KR20157002621A KR20150036299A KR 20150036299 A KR20150036299 A KR 20150036299A KR 1020157002621 A KR1020157002621 A KR 1020157002621A KR 20157002621 A KR20157002621 A KR 20157002621A KR 20150036299 A KR20150036299 A KR 20150036299A
Authority
KR
South Korea
Prior art keywords
enhancement layer
picture
subpictures
base layer
enhancement
Prior art date
Application number
KR1020157002621A
Other languages
English (en)
Other versions
KR101713005B1 (ko
Inventor
케말 우구르
자니 라이네마
미스카 마티아스 하누크셀라
Original Assignee
노키아 코포레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 노키아 코포레이션 filed Critical 노키아 코포레이션
Publication of KR20150036299A publication Critical patent/KR20150036299A/ko
Application granted granted Critical
Publication of KR101713005B1 publication Critical patent/KR101713005B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36—Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

스케일링 가능한 비디오 인코딩 및 디코딩을 위한 방법, 장치 및 컴퓨터 프로그램 제품이 제공된다. 일부 실시예들에서, 향상 계층 픽처들의 인코딩/디코딩의 개선된 방법을 도입하여, 향상 계층 픽처 내의 영역을 증가된 품질 및/또는 공간 해상도로 그리고 높은 코딩 효율로 인코딩하는 것을 가능하게 한다. 향상 계층 서브픽처들은 대응하는 향상 계층 픽처들보다 작은 크기를 갖는다. 그들은 이전에 코딩된 기본 계층 픽처들 또는 향상 계층 픽처들에 대해 코딩된다. 향상 정보는 크로마의 충실도를 증가시키거나, 비트 깊이를 증가시키거나, 영역의 품질을 증가시키거나, 영역의 공간 해상도를 증가시키는 형태를 가질 수 있다.

Description

비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램{AN APPARATUS, A METHOD AND A COMPUTER PROGRAM FOR VIDEO CODING AND DECODING}
본 발명은 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램에 관한 것이다.
비디오 코덱은 입력 비디오를 저장 및/또는 전송에 적합한 압축된 표현으로 변환하는 인코더 및 압축된 비디오 표현을 시청 가능 형태로 다시 압축 해제할 수 있는 디코더, 또는 그들 중 어느 하나를 포함할 수 있다. 통상적으로, 인코더는 비디오를 더 간결한 형태, 예를 들어 더 낮은 비트 레이트로 표현하기 위해 오리지널 비디오 시퀀스 내의 일부 정보를 폐기한다.
스케일링 가능 비디오 코딩은 하나의 비트스트림이 상이한 비트 레이트들, 해상도들 또는 프레임 레이트들에서의 콘텐츠의 다수의 표현을 포함할 수 있는 코딩 구조를 지칭한다. 통상적으로 스케일링 가능 비트스트림은 이용 가능한 최저 품질의 비디오를 제공하는 "기본 계층", 및 하위 계층들과 함께 수신 및 디코딩될 때 비디오 품질을 향상시키는 하나 이상의 향상 계층으로 구성된다. 향상 계층들에 대한 코딩 효율을 개선하기 위해, 그러한 계층의 코딩된 표현은 통상적으로 하위 계층들에 의존한다.
(신호 대 잡음비, 즉 SNR로도 알려진) 품질 스케일링 가능성(scalability) 및/또는 공간 스케일링 가능성을 위한 스케일링 가능 비디오 코덱은 다음과 같이 구현될 수 있다. 기본 계층에 대해, 전통적인 스케일링 불가 비디오 인코더 및 디코더가 사용된다. 기본 계층의 재구성된/디코딩된 픽처들은 향상 계층에 대한 기준 픽처 버퍼 내에 포함된다. 인터 예측(inter prediction)을 위해 기준 픽처 리스트(들)를 사용하는 코덱들에서, 기본 계층의 디코딩된 픽처들은 향상 계층의 디코딩된 기준 픽처들과 유사하게 향상 계층 픽처의 코딩/디코딩을 위해 기준 픽처 리스트(들) 내에 삽입될 수 있다. 결과적으로, 인코더는 기본 계층 기준 픽처를 인터 예측 기준으로 선택하고, 그것의 사용을 코딩된 비트스트림 내의 기준 픽처 인덱스를 이용하여 지시할 수 있다. 디코더는 비트스트림으로부터, 예를 들어 기준 픽처 인덱스로부터, 기본 계층 픽처가 향상 계층에 대한 인터 예측 기준으로 사용된다는 것을 디코딩한다.
품질 스케일링 가능성에 더하여, 기본 계층 픽처들이 향상 계층 픽처들보다 높은 해상도로 코딩되는 공간 스케일링 가능성, 기본 계층 픽처들이 향상 계층 픽처들(예로서, 10 또는 12 비트)보다 낮은 비트 깊이(예로서, 8 비트)로 코딩되는 비트-깊이 스케일링 가능성, 및 기본 계층 픽처들이 향상 계층 픽처들(예로서, 4:2:0 포맷)보다 높은 크로마 충실도(예로서, 4:4:4 크로마 포맷으로 코딩됨)를 제공하는 크로마 포맷 스케일링 가능성을 통해 스케일링 가능성이 달성될 수 있다.
소정의 예들에서는 전체 향상 계층 픽처 대신에 픽처 내의 소정 영역만을 향상시키는 것이 바람직할 것이다. 그러나, 현재의 스케일링 가능 비디오 코딩 솔루션들에서 구현되는 경우에, 그러한 스케일링 가능성은 너무 많은 복잡성 오버헤드를 갖거나 코딩 효율이 저하될 것이다. 예를 들어, 비트 깊이 스케일링 가능성을 고려하면, 비디오 픽처 내의 소정 영역만을 더 높은 비트 깊이로 코딩하는 것을 목표로 하는 경우에도, 현재의 스케일링 가능 코딩 솔루션들은 전체 픽처가 높은 비트 깊이로 코딩되는 것을 필요로 하며, 따라서 복잡성을 크게 증가시킨다. 크로마 포맷 스케일링 가능성의 경우, 전체 픽처의 기준 메모리는 이미지의 소정 영역만이 향상되는 경우에도 4:4:4 포맷을 가져야 하며, 따라서 메모리 요구를 증가시킨다. 유사하게, 공간 스케일링 가능성이 선택된 영역에만 적용되어야 하는 경우, 전통적인 방법들은 전체 향상 계층 이미지를 최대 해상도로 저장하고 유지하는 것을 필요로 한다.
본 발명은 향상 계층 픽처 내의 영역을 향상된 품질 및/또는 공간 해상도로 그리고 높은 코딩 효율로 인코딩하는 것을 가능하게 하기 위해 향상 계층 서브픽처의 새로운 개념을 도입하는 것을 고려함에 의해 시작된다.
제1 실시예에 따른 방법은 주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩하기 위한 방법을 포함하며, 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 갖고, 방법은
상기 기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 포함하고, 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
일 실시예에 따르면, 방법은 기본 계층 픽처에 대해 상기 하나 이상의 향상 계층 서브픽처를 예측 인코딩하는 단계를 더 포함한다.
일 실시예에 따르면, 향상 계층 서브픽처들은 이전에 코딩된 향상 계층 픽처들에 대해 예측 코딩되는 것이 허용된다.
일 실시예에 따르면, 향상 계층 서브픽처들은 이전에 코딩된 향상 계층 서브픽처들에 대해 예측 코딩되는 것이 허용된다.
일 실시예에 따르면, 향상 계층 서브픽처들은 대응하는 기본 계층 픽처에 대한 향상 정보를 포함하고, 향상 정보는
대응하는 기본 계층 픽처의 크로마에 대해 상기 하나 이상의 향상 계층 서브픽처의 크로마의 충실도를 증가시키는 것,
대응하는 기본 계층 픽처의 비트 깊이에 대해 상기 하나 이상의 향상 계층 서브픽처의 비트 깊이를 증가시키는 것,
대응하는 기본 계층 픽처의 품질에 대해 상기 하나 이상의 향상 계층 서브픽처의 품질을 증가시키는 것, 또는
대응하는 기본 계층 픽처의 공간 해상도에 대해 상기 하나 이상의 향상 계층 서브픽처의 공간 해상도를 증가시키는 것
중 적어도 하나를 포함한다.
일 실시예에 따르면, 서브픽처에 대한 향상 정보는 향상 계층 픽처에 대해 코딩될 때와 동일한 신택스를 이용하여 코딩된다.
일 실시예에 따르면, 향상 계층 서브픽처의 좌상 코너는 픽처의 최대 코딩 유닛(LCU)의 좌상 코너에 정렬될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처의 크기는 최대 코딩 유닛(LCU)의 크기 또는 예측 유닛(PU)의 크기 또는 코딩 유닛(CU)의 크기의 정수배(1, 2, 3, 4 등)로 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 기본 계층 픽처의 공동 배치 영역 내의 픽셀들만이 사용될 수 있도록 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 수는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 상이한 이미지 처리 동작들을 포함할 수 있다.
일 실시예에 따르면, 제1 향상 계층 서브픽처는 제2 향상 계층 서브픽처와 다른 이미지의 특성들을 향상시킬 수 있다.
일 실시예에 따르면, 단일 향상 계층 서브픽처가 이미지의 다수의 특성을 향상시킬 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 위치 및 크기는 기본 계층 픽처에서 사용되는 타일들 또는 슬라이스들과 동일할 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되지 않도록 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되는 것이 허용될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처 개념은 보완 향상 정보(SEI) 메시지의 형태로 구현될 수 있다.
일 실시예에 따르면, 하나 이상의 향상 계층 서브픽처는 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들에서 사용된 동일 포맷으로 변환되며, 변환된 향상 계층 픽처는 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 병합된다.
제2 실시예에 따른 장치는
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더를 포함하고,
상기 비디오 인코더는
기본 계층 픽처를 인코딩 및 재구성하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제3 실시예에 따르면, 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체가 제공되며, 코드는 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계,
기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 수행하게 하며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제4 실시예에 따르면, 적어도 하나의 프로세서 및 적어도 하나의 메모리가 제공되며, 상기 적어도 하나의 메모리는 코드를 저장하며, 코드는 상기 적어도 하나의 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계,
기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 수행하게 하며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제5 실시예에 따른 방법은 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하기 위한 방법을 포함하며,
방법은
기본 계층 픽처를 디코딩하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
를 포함하고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
일 실시예에 따르면, 디코딩된 향상 계층 서브픽처들은 디코딩된 향상 계층 픽처들과 분리되어 기준 프레임 버퍼 내에 배치된다.
일 실시예에 따르면, 디코딩된 향상 계층 픽처들은 기준 프레임 버퍼 내에 배치되지 않는 반면, 디코딩된 향상 계층 서브픽처들은 기준 프레임 버퍼 내에 배치된다.
일 실시예에 따르면, 공간 스케일링 가능성이 사용되는 경우, 향상 계층 서브픽처 영역 밖의 샘플들은 업샘플링된 기본 계층 픽처로부터 복사된다.
일 실시예에 따르면, 상기 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계는 기본 계층으로부터의 정보를 이용한다.
일 실시예에 따르면, 하나 이상의 향상 계층 서브픽처는 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된 상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들에서 사용된 동일 포맷으로 변환되며, 변환된 향상 계층 픽처는 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 병합된다.
제6 실시예에 따른 장치는 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하기 위한 비디오 디코더를 포함하고,
상기 비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되며,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제7 실시예에 따르면, 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체가 제공되며, 코드는 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계,
기본 계층 픽처를 디코딩하는 단계,
주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
를 수행하게 하고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제8 실시예에 따르면, 적어도 하나의 프로세서 및 적어도 하나의 메모리가 제공되며, 상기 적어도 하나의 메모리는 코드를 저장하고, 코드는 상기 적어도 하나의 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계를 수행하게 하고,
비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되며,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제9 실시예에 따르면, 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더가 제공되며, 상기 비디오 인코더는
기본 계층 픽처를 인코딩 및 재구성하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제10 실시예에 따르면, 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하도록 구성되는 비디오 디코더가 제공되며, 비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되며,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
본 발명의 더 나은 이해를 위해, 첨부 도면들이 예로서 참조된다. 도면들에서:
도 1은 본 발명의 일부 실시예들을 이용하는 전자 디바이스를 개략적으로 나타낸다.
도 2는 본 발명의 일부 실시예들을 이용하는 데 적합한 사용자 장비를 개략적으로 나타낸다.
도 3은 또한 무선 및 유선 네트워크 접속들을 이용하여 접속된 본 발명의 실시예들을 이용하는 전자 디바이스들을 개략적으로 나타낸다.
도 4는 본 발명의 일부 실시예들을 구현하는 데 적합한 인코더를 개략적으로 나타낸다.
도 5는 본 발명의 일 실시예에 따른 향상 계층 서브픽처의 개념을 나타낸다.
도 6은 본 발명의 다른 실시예에 따른 향상 계층 서브픽처의 개념을 나타낸다.
도 7은 기본 계층 픽처로부터 향상 계층 서브픽처로의 참조를 제한하기 위한 실시예를 나타낸다.
도 8은 본 발명의 일부 실시예들에 따른, 3d 및 멀티뷰 비디오 인코딩에 향상 계층 서브픽처를 적용하는 예들을 나타낸다.
도 9는 본 발명의 일부 실시예들에 따른 디코더의 개략도를 나타낸다.
아래에서는 코딩 효율의 큰 희생 없이 향상 계층 서브픽처를 인코딩하기 위한 적절한 장치들 및 가능한 메커니즘들이 더 상세히 설명된다. 이와 관련하여, 본 발명의 일 실시예에 따른 코덱을 포함할 수 있는 예시적인 장치 또는 전자 디바이스(50)의 개략 블록도를 나타내는 도 1이 먼저 참조된다.
전자 디바이스(50)는 예를 들어 무선 통신 시스템의 이동 단말기 또는 사용자 장비일 수 있다. 그러나, 본 발명의 실시예들은 비디오 이미지들의 인코딩 및 디코딩 또는 인코딩 또는 디코딩을 필요로 할 수 있는 임의의 전자 디바이스 또는 장치 내에서 구현될 수 있다는 것을 알 것이다.
장치(50)는 디바이스를 통합하고 보호하기 위한 하우징(30)을 포함할 수 있다. 장치(50)는 액정 디스플레이 형태의 디스플레이(32)를 더 포함할 수 있다. 본 발명의 다른 실시예에서, 디스플레이는 이미지 또는 비디오를 표시하는 데 적합한 임의의 적절한 디스플레이 기술일 수 있다. 장치(50)는 키보드(34)를 더 포함할 수 있다. 본 발명의 다른 실시예들에서는, 임의의 적절한 데이터 또는 사용자 인터페이스 메커니즘이 사용될 수 있다. 예를 들어, 사용자 인터페이스는 터치 감지 디스플레이의 일부인 가상 키보드 또는 데이터 입력 시스템으로서 구현될 수 있다. 장치는 마이크(36) 또는 디지털 또는 아날로그 신호 입력일 수 있는 임의의 적절한 오디오 입력을 포함할 수 있다. 장치(50)는 본 발명의 실시예들에서 이어피스(38), 스피커 또는 아날로그 오디오 또는 디지털 오디오 출력 접속 중 어느 하나일 수 있는 오디오 출력 디바이스를 더 포함할 수 있다. 장치(50)는 배터리(40)도 포함할 수 있다(또는 본 발명의 다른 실시예들에서 디바이스는 태양 전지, 연료 전지 또는 태엽 발전기와 같은 임의의 적절한 이동 에너지 디바이스에 의해 급전될 수 있다). 장치는 다른 디바이스들과의 단거리 시선 통신을 위한 적외선 포트(42)를 더 포함할 수 있다. 다른 실시예들에서, 장치(50)는 예를 들어 블루투스 무선 접속 또는 USB/파이어와이어 유선 접속과 같은 임의의 적절한 단거리 통신 솔루션을 더 포함할 수 있다.
장치(50)는 장치(50)를 제어하기 위한 제어기(56) 또는 프로세서를 포함할 수 있다. 제어기(56)는 본 발명의 실시예들에서 이미지 형태의 데이터 및 오디오 데이터 양자를 저장할 수 있고 제어기(56) 상에서 구현하기 위한 명령어들도 저장할 수 있는 메모리(58)에 접속될 수 있다. 제어기(56)는 오디오 및/또는 비디오 데이터의 코딩 및 디코딩을 수행하거나 제어기(56)에 의해 수행되는 코딩 및 디코딩을 지원하는 데 적합한 코덱 회로(54)에 더 접속될 수 있다.
장치(50)는 카드 판독기(48) 및 스마트 카드(46), 예를 들어 사용자 정보를 제공하고 네트워크에서 사용자의 인증 및 허가를 위한 인증 정보를 제공하는 데 적합한 UICC 및 UICC 판독기를 더 포함할 수 있다.
장치(50)는 무선 인터페이스 회로(52)를 포함할 수 있고, 이 회로는 제어기에 접속되며, 예를 들어 셀룰러 통신 네트워크, 무선 통신 시스템 또는 무선 근거리 네트워크와의 통신을 위해 무선 통신 신호들을 생성하는 데 적합하다. 장치(50)는 무선 인터페이스 회로(52)에서 생성되는 무선 주파수 신호들을 다른 장치(들)로 전송하기 위해 그리고 다른 장치(들)로부터 무선 주파수 신호들을 수신하기 위해 무선 인터페이스 회로(52)에 접속되는 안테나(44)를 더 포함할 수 있다.
본 발명의 일부 실시예들에서, 장치(50)는 처리를 위해 코덱(54) 또는 제어기로 전송될 개별 프레임들을 기록 또는 검출할 수 있는 카메라를 포함한다. 본 발명의 다른 실시예들에서, 장치는 전송 및/또는 저장 전에 다른 디바이스로부터 처리할 비디오 이미지 데이터를 수신할 수 있다. 본 발명의 다른 실시예들에서, 장치(50)는 코딩/디코딩할 이미지를 무선으로 또는 유선 접속을 통해 수신할 수 있다.
도 3과 관련하여, 본 발명의 실시예들을 이용할 수 있는 시스템의 일례가 도시된다. 시스템(10)은 하나 이상의 네트워크를 통해 통신할 수 있는 다수의 통신 디바이스를 포함한다. 시스템(10)은 (GSM, UMTS, CDMA 네트워크 등과 같은) 무선 셀룰러 전화 네트워크, 임의의 IEEE 802.x 표준에 의해 정의되는 바와 같은 무선 근거리 네트워크(WLAN), 블루투스 개인 영역 네트워크, 이더넷 근거리 네트워크, 토큰 링 근거리 네트워크, 광역 네트워크 및 인터넷을 포함하지만 이에 한정되지 않는 유선 또는 무선 네트워크들의 임의 조합을 포함할 수 있다.
시스템(10)은 본 발명의 실시예들을 구현하는 데 적합한 유선 및 무선 통신 디바이스들 또는 장치(50) 양자를 포함할 수 있다.
예를 들어, 도 3에 도시된 시스템은 이동 전화 네트워크(11), 및 인터넷(28)의 표현을 나타낸다. 인터넷(28)에 대한 접속은 장거리 무선 접속, 단거리 무선 접속, 및 전화 라인, 케이블 라인, 전력 라인 및 유사한 통신 경로를 포함하지만 이에 한정되지 않는 다양한 유선 접속을 포함할 수 있지만, 이에 한정되지 않는다.
시스템(10) 내에 도시된 예시적인 통신 디바이스들은 전자 디바이스 또는 장치(50), 개인 휴대 단말기(PDA)와 이동 전화의 결합(14), PDA(16), 통합 메시징 디바이스(IMD)(18), 데스크탑 컴퓨터(20), 노트북 컴퓨터(22)를 포함할 수 있지만, 이에 한정되지 않는다. 장치(50)는 정지하거나, 이동하고 있는 개인에 의해 운반될 때 이동할 수 있다. 장치(50)는 자동차, 트럭, 택시, 버스, 기차, 보트, 항공기, 자전거, 모터사이클 또는 임의의 유사한 적절한 운송 모드를 포함하지만 이에 한정되지 않는 운송 모드에 배치될 수도 있다.
일부 또는 추가 디바이스는 호출들 및 메시지들을 송신 및 수신하고, 기지국(24)에 대한 무선 접속(25)을 통해 서비스 제공자들과 통신할 수 있다. 기지국(24)은 이동 전화 네트워크(11)와 인터넷(28) 간의 통신을 가능하게 하는 네트워크 서버(26)에 접속될 수 있다. 시스템은 추가 통신 디바이스들 및 다양한 타입의 통신 디바이스들을 포함할 수 있다.
통신 디바이스들은 CDMA(code division multiple access), GSM(global systems for mobile communications), UMTS(universal mobile telecommunications system), TDMA(time divisional multiple access), FDMA(frequency division multiple access), TCP-IP(transmission control protocol-internet protocol), SMS(short messaging service), MMS(multimedia messaging service), 이메일, IMS(instant messaging service), 블루투스, IEEE 802.11 및 임의의 유사한 무선 통신 기술을 포함하지만 이에 한정되지 않는 다양한 송신 기술들을 이용하여 통신할 수 있다. 본 발명의 다양한 실시예들의 구현에 수반되는 통신 디바이스는 무선, 적외선, 레이저, 케이블 접속 및 임의의 적절한 접속을 포함하지만 이에 한정되지 않는 다양한 매체를 이용하여 통신할 수 있다.
비디오 코덱은 입력 비디오를 저장/전송에 적합한 압축 표현으로 변환하는 인코더 및 압축 비디오 표현을 다시 시청 가능 형태로 압축 해제할 수 있는 디코더로 구성된다. 통상적으로, 인코더는 오리지널 비디오 시퀀스 내의 일부 정보를 폐기하여 비디오를 더 간결한 형태로(즉, 더 낮은 비트 레이트로) 표현한다.
통상적인 하이브리드 비디오 코덱들, 예를 들어 ITU-T, H.263 및 H.264는 비디오 정보를 2개의 단계에서 인코딩한다. 먼저, 소정 픽처 영역(또는 "블록") 내의 픽셀 값들이 예를 들어 (코딩되는 블록에 밀접하게 대응하는, 이전에 코딩된 비디오 프레임들 중 하나 내의 영역을 발견하고 지시하는) 모션 보상 수단에 의해 또는 (지정된 방식으로 코딩될 블록 주위의 픽셀 값들을 이용하는) 공간 수단에 의해 예측된다. 이어서, 예측 에러, 즉 픽셀들의 예측 블록과 픽셀들의 오리지널 블록 간의 차이가 코딩된다. 이것은 통상적으로, 지정된 변환(예로서, 이산 코사인 변환(DCT) 또는 그의 변형)을 이용하여 픽셀 값들의 차이를 변환하고, 계수들을 양자화하고, 양자화된 계수들을 엔트로피 코딩함으로써 수행된다. 양자화 프로세스의 충실도를 변경함으로써, 인코더는 픽셀 표현(픽처 품질)의 정밀도와 결과적인 코딩된 비디오 표현의 크기(파일 크기 또는 전송 비트 레이트) 간의 균형을 제어할 수 있다.
비디오 코딩은 통상적으로 2 단계 프로세스이며, 제1 단계에서, 이전에 코딩된 데이터에 기초하여 비디오 신호의 예측이 생성된다. 제2 단계에서, 예측 신호와 소스 신호 간의 오차가 코딩된다. 시간 예측, 모션 보상 또는 모션 보상 예측으로도 지칭될 수 있는 인터 예측이 시간 중복성을 줄인다. 인터 예측에서, 예측의 소스들은 이전에 디코딩된 픽처들이다. 인트라 예측은 동일 픽처 내의 인접 픽셀들이 상관될 가능성이 있다는 사실을 이용한다. 인트라 예측은 공간 또는 변환 도메인에서 수행될 수 있으며, 즉 샘플 값들 또는 변환 계수들이 예측될 수 있다. 인트라 예측은 통상적으로 인터 예측이 적용되지 않는 인트라 코딩에서 이용된다.
코딩 절차의 하나의 결과는 모션 벡터들 및 양자화된 변환 계수들과 같은 코딩 파라미터들의 세트이다. 많은 파라미터들은 공간적으로 또는 시간적으로 이웃하는 파라미터들로부터 먼저 예측되는 경우에 더 효율적으로 엔트로피 코딩될 수 있다. 예를 들어, 모션 벡터가 공간적으로 인접하는 모션 벡터들로부터 예측될 수 있고, 모션 벡터 예측기에 대한 차이만이 코딩될 수 있다. 코딩 파라미터들의 예측 및 인트라 예측은 공동으로 인-픽처 예측으로 지칭될 수 있다.
도 4와 관련하여, 본 발명의 실시예들을 수행하는 데 적합한 비디오 인코더의 블록도가 도시된다. 도 4는 인코더를 픽셀 예측기(302), 예측 에러 인코더(303) 및 예측 에러 디코더(304)를 포함하는 것으로서 도시한다. 도 4는 또한 픽셀 예측기(302)의 일 실시예를 인터 예측기(306), 인트라 예측기(308), 모드 선택기(310), 필터(316) 및 기준 프레임 메모리(318)를 포함하는 것으로서 도시한다. 픽셀 예측기(302)는 (이미지와 모션 보상 기준 프레임(318) 간의 차이를 결정하는) 인터 예측기(306) 및 (현재 프레임 또는 픽처의 이미 처리된 부분들에만 기초하여 이미지 블록에 대한 예측을 결정하는) 인트라 예측기(308) 양자에서 인코딩될 이미지(300)를 수신한다. 인터 예측기 및 인트라 예측기 양자의 출력이 모드 선택기(310)로 전송된다. 인트라 예측기(308)는 둘 이상의 인트라 예측 모드를 가질 수 있다. 따라서, 각각의 모드는 인트라 예측을 수행하여, 예측된 신호를 모드 선택기(310)에 제공할 수 있다. 모드 선택기(310)는 이미지(300)의 사본도 수신한다.
현재 블록을 인코딩하기 위해 어느 인코딩 모드가 선택되는지에 따라, 인터 예측기(306)의 출력 또는 옵션인 인트라 예측기 모드들 중 하나의 출력 또는 모드 선택기 내의 표면 인코더의 출력이 모드 선택기(310)의 출력으로 전송된다. 모드 선택기의 출력은 제1 합산 디바이스(321)로 전송된다. 제1 합산 디바이스는 이미지(300)로부터 픽셀 예측기(302)의 출력을 감하여, 예측 에러 인코더(303)에 입력되는 제1 예측 에러 신호(320)를 생성할 수 있다.
픽셀 예측기(302)는 예비 재구성기(339)로부터 이미지 블록(312)의 예측 표현과 예측 에러 디코더(304)의 출력(338)의 결합을 더 수신한다. 예비 재구성 이미지(314)가 인트라 예측기(308) 및 필터(316)로 전송될 수 있다. 예비 표현을 수신하는 필터(316)는 예비 표현을 필터링하여, 기준 프레임 메모리(318)에 저장될 수 있는 최종 재구성 이미지(340)를 출력할 수 있다. 기준 프레임 메모리(318)는 인터 예측기(306)에 접속되어, 인터 예측 동작들에서 미래의 이미지(300)와 비교되는 기준 이미지로서 사용될 수 있다.
픽셀 예측기(302)의 동작은 이 분야에 공지된 임의의 공지된 픽셀 예측 알고리즘을 수행하도록 구성될 수 있다.
예측 에러 인코더(303)는 변환 유닛(342) 및 양자화기(344)를 포함한다. 변환 유닛(342)은 제1 예측 에러 신호(320)를 변환 도메인으로 변환한다. 변환은 예를 들어 DCT 변환이다. 양자화기(344)는 변환 도메인 신호, 예를 들어 DCT 계수들을 양자화하여, 양자화된 계수들을 형성한다.
예측 에러 디코더(304)는 예측 에러 인코더(303)로부터 출력을 수신하고, 예측 에러 인코더(303)의 반대 프로세스를 수행하여, 디코딩된 예측 에러 신호(338)를 생성하며, 이 신호는 제2 합산 디바이스(338)에서 이미지 블록(312)의 예측 표현과 결합될 때 예비 재구성 이미지(314)를 생성한다. 예측 에러 디코더는 양자화된 계수 값들, 예를 들어 DCT 계수들을 역양자화하여 변환 신호를 재구성하는 역양자화기(361) 및 재구성된 변환 신호에 대해 역변환을 수행하는 역변환 유닛(363)을 포함하는 것으로 간주될 수 있으며, 역변환 유닛(363)의 출력은 재구성 블록(들)을 포함한다. 예측 에러 디코더는 추가 디코딩된 정보 및 필터 파라미터들에 따라 재구성 매크로블록을 필터링할 수 있는 매크로블록 필터도 포함할 수 있다.
엔트로피 인코더(330)는 예측 에러 인코더(303)의 출력을 수신하고, 신호에 대해 적절한 엔트로피 인코딩/가변 길이 인코딩을 수행하여 에러 검출 및 교정 능력을 제공할 수 있다.
H.264/AVC 표준은 ITU-T(Telecommunications Standardization Sector of International Telecommunication Union)의 통신 표준화 부문의 VCEG(Video Coding Experts Group)와 IS0(International Organisation for Standardization)/IEC(International Electrotechnical Commission)의 MEPG(Moving Picture Experts Group)의 JVT(Joint Video Team)에 의해 개발되었다. H.264/AVC 표준은 부모 표준화 장치들 양자에 의해 발표되었고, MPEG-4 파트 10 AVC(Advanced Video Coding)로도 알려진 ITU-T 권고 H.264 및 IS0/IEC 국제 표준 14496-10으로 지칭된다. H.264/AVC 표준의 다수의 버전이 존재하며, 이들 각각은 사양에 새로운 확장들 또는 특징들을 통합한다. 이러한 확장들은 스케일링 가능 비디오 코딩(SVC) 및 멀티뷰 비디오 코딩(MVC)을 포함한다. VCEG와 MPEG의 JCT-VC(Joint Collaborative Team - Video Coding)에 의해 고효율 비디오 코딩(HEVC)의 표준화 프로젝트가 현재 진행중이다.
이 섹션에서는 H.264/AVC 및 HEVC의 일부 중요한 정의들, 비트스트림 및 코딩 구조들 및 개념들이 실시예들을 구현할 수 있는 비디오 인코더, 디코더, 인코딩 방법, 디코딩 방법 및 비트스트림 구조의 일례로서 설명된다. H.264/AVC의 중요한 정의들, 비트스트림 및 코딩 구조들 및 개념들 중 일부는 초안 HEVC 표준에서와 동일하며, 따라서 그들은 아래에서 공동으로 설명된다. 본 발명의 양태들은 H.264/AVC 또는 HEVC로 한정되는 것이 아니라, 오히려 설명은 본 발명을 부분적으로 또는 완전히 실현할 수 있는 하나의 가능한 근거로 제공된다.
많은 이전의 비디오 코딩 표준들과 유사하게, 비트스트림 신택스 및 시맨틱은 물론, 에러 없는 비트스트림들에 대한 디코딩 프로세스들도 H.264/AVC 및 HEVC에서 지정된다. 인코딩 프로세스는 지정되지 않지만, 인코더들은 적합한 비트스트림들을 생성해야 한다. 비트스트림 및 디코더 적합성은 가설 기준 디코더(HRD)를 이용하여 검증될 수 있다. 표준들은 송신 에러들 및 손실들에 대처하는 것을 돕는 코딩 도구들을 포함하지만, 인코딩에서의 도구들의 사용은 옵션이며, 에러 비트스트림들에 대해서는 디코딩 프로세스가 지정되지 않았다.
기존 표준들의 설명에서는 물론, 예시적인 실시예들의 설명에서도, 신택스 요소가 비트스트림 내에 표현된 데이터의 요소로서 정의될 수 있다. 신택스 구조는 지정된 순서로 비트스트림 내에 함께 존재하는 0개 이상의 신택스 요소로서 정의될 수 있다.
프로파일은 디코딩/코딩 표준 또는 사양에 의해 지정되는 전체 비트스트림 신택스의 서브세트로서 정의될 수 있다. 주어진 프로파일의 신택스에 의해 부과되는 한계 내에서, 디코딩된 픽처들의 지정된 크기와 같은 비트스트림 내의 신택스 요소들에 의해 취해지는 값들에 따라 인코더들 및 디코더들의 성능의 매우 큰 변화를 요구하는 것이 여전히 가능하다. 많은 응용에서, 특정 프로파일 내에서 신택스의 모든 가설적 사용들을 처리할 수 있는 디코더를 구현하는 것은 실용적이지도 경제적이지도 못할 수 있다. 이러한 문제를 해결하기 위해, 레벨들이 사용될 수 있다. 레벨은 비트스트림 내의 신택스 요소들의 값들 및 디코딩/코딩 표준 또는 사양에서 지정된 변수들에 대해 부과되는 제약들의 지정된 세트로서 정의될 수 있다. 이러한 제약들은 값들에 대한 간단한 제한일 수 있다. 대안으로서 또는 추가로, 이들은 값들의 산술 조합들(예로서, 픽처 폭과 픽처 높이와 초당 디코딩된 픽처들의 수를 곱한 값)에 대한 제약들의 형태를 취할 수 있다. 레벨들에 대한 제약들을 지정하기 위한 다른 수단들도 사용될 수 있다. 레벨에서 지정되는 제약들 중 일부는 예를 들어 1초와 같은 기간에 대해 매크로블록들과 같은 코딩 유닛들과 관련된 최대 픽처 크기, 최대 비트 레이트 및 최대 데이터 레이트와 관련될 수 있다. 레벨들의 동일 세트가 모든 프로파일들에 대해 정의될 수 있다. 예를 들어 각각의 레벨의 정의의 대부분의 또는 모든 양태들이 상이한 프로파일들에 대해 공통일 수 있도록 상이한 프로파일들을 구현하는 단말기들의 연동성을 증가시키는 것이 바람직할 수 있다.
H.264/AVC 또는 HEVC 인코더로의 입력 및 H.264/AVC 또는 HEVC 디코더의 출력 각각을 위한 기본 유닛은 픽처이다. H.264/AVC 및 HEVC에서, 픽처는 프레임 또는 필드일 수 있다. 프레임은 루마 샘플들 및 대응하는 크로마 샘플들의 행렬이다. 필드는 프레임의 교대 샘플 행들의 세트이며, 소스 신호가 인터레이싱(interlacing)될 때 인코더 입력으로 사용될 수 있다. 크로마 픽처들은 루마 픽처들에 비해 서브샘플링될 수 있다. 예를 들어, 4:2:0 샘플링 패턴에서, 크로마 픽처들의 공간 해상도는 양 좌표축을 따라 루마 픽처의 공간 해상도의 절반이다.
H.264/AVC에서, 매크로블록은 루마 샘플들 및 대응하는 크로마 샘플들의 블록들의 16x16 블록이다. 예를 들어, 4:2:0 샘플링 패턴에서, 매크로블록은 각각의 크로마 컴포넌트마다 크로마 샘플들의 하나의 8x8 블록을 포함한다. H.264/AVC에서, 픽처는 하나 이상의 슬라이스 그룹으로 분할되며, 슬라이스 그룹은 하나 이상의 슬라이스를 포함한다. H.264/AVC에서, 슬라이스는 특정 슬라이스 그룹 내에 래스터 스캔에서 연속 배열된 정수 개의 매크로블록으로 구성된다.
고효율 비디오 코딩(HEVC) 코덱과 같은 일부 비디오 코덱들에서, 비디오 픽처들은 픽처의 영역을 커버하는 코딩 유닛들(CU)로 분할된다. CU는 CU 내의 샘플들에 대한 예측 프로세스를 정의하는 하나 이상의 예측 유닛(PU) 및 상기 CU 내의 샘플들에 대한 예측 에러 코딩 프로세스를 정의하는 하나 이상의 변환 유닛(TU)으로 구성된다. 통상적으로, CU는 가능한 CU 크기들의 사전 정의된 세트로부터 선택 가능한 크기를 갖는 샘플들의 정사각 블록으로 구성된다. 최대 허용 크기를 갖는 CU는 통상적으로 LCU(최대 코딩 유닛)로 지칭되며, 비디오 픽처는 중복되지 않는 LCU들로 분할된다. LCU는 예를 들어 LCU 및 결과적인 CU들을 반복적으로 분할함으로써 더 작은 CU들의 조합으로 더 분할될 수 있다. 각각의 결과적인 CU는 통상적으로 그와 관련된 적어도 하나의 PU 및 적어도 하나의 TU를 갖는다. 각각의 PU 및 TU는 예측 및 예측 에러 코딩 프로세스들 각각의 입도를 증가시키기 위해 더 작은 PU들 및 TU들로 더 분할될 수 있다. 각각의 예는 그 PU 내의 픽셀들에 대해 어떤 종류의 예측이 적용되어야 하는지를 정의하는 그와 관련된 예측 정보(예를 들어, 인터 예측된 PU들에 대한 모션 벡터 정보 및 인트라 예측된 PU들에 대한 인트라 예측 지향성 정보)를 갖는다. 유사하게, 각각의 CU는 (예를 들어, DCT 계수 정보를 포함하는) 상기 TU 내의 샘플들에 대한 예측 에러 디코딩 프로세스를 설명하는 정보와 관련된다. 이것은 통상적으로 각각의 CU에 대해 예측 에러 코딩이 적용되는지의 여부에 관계없이 CU 레벨에서 시그널링된다. CU와 관련된 예측 에러 나머지가 존재하지 않는 경우, 상기 CU에 대한 TU가 존재하지 않는 것으로 간주될 수 있다. 이미지의 CU들로의 분할 및 CU들의 PU들 및 TU들로의 분할은 통상적으로 비트스트림 내에서 시그널링되며, 이는 디코더가 이러한 유닛들의 의도된 구조를 재생성하는 것을 가능하게 한다.
초안 HEVC 표준에서, 픽처는 타일들로 분할될 수 있으며, 타일들은 직사각형이고, 정수 개의 LCU를 포함한다. 초안 HEVC 표준에서, 타일들로의 분할은 직사각 그리드를 형성하며, 타일들의 높이들 및 폭들은 최대 1 LCU만큼 서로 다르다. 초안 HEVC에서, 슬라이스는 정수 개의 CU로 구성된다. CU들은 타일들 내에서 또는 타일들이 사용되지 않는 경우에는 픽처 내에서 LCU들의 래스터 스캔 순서로 스캐닝된다. LCU 내에서, CU들은 특정 스캔 순서를 갖는다.
디코더는 (인코더에 의해 생성되고, 압축 표현으로 저장된 모션 또는 공간 정보를 이용하여) 픽셀 블록들의 예측 표현을 형성하기 위한 인코더와 유사한 예측 수단 및 예측 에러 디코딩(공간 픽셀 도메인 내의 양자화된 예측 에러 신호를 복구하는 예측 에러 코딩의 역동작)을 적용함으로써 출력 비디오를 재구성한다. 예측 및 예측 에러 디코딩 수단을 적용한 후, 디코더는 예측 및 예측 에러 신호들(픽셀 값들)을 합산하여 출력 비디오 프레임을 형성한다. 디코더(및 인코더)는 출력 비디오를 표시를 위해 전송하고/하거나 비디오 시퀀스 내에 곧 나타날 프레임들에 대한 예측 기준으로서 저장하기 전에 출력 비디오의 품질을 개선하기 위해 추가 필터링 수단을 적용할 수도 있다.
통상적인 비디오 코덱들에서, 모션 정보는 각각의 모션 보상 이미지 블록과 관련된 모션 벡터들을 이용하여 지시된다. 이러한 모션 벡터들 각각은 (인코더 측에서) 코딩되거나 (디코더 측에서) 디코딩될 픽처 내의 이미지 블록 및 이전에 코딩 또는 디코딩된 픽처들 중 하나 내의 예측 소스 블록의 변위를 나타낸다. 모션 벡터들을 효율적으로 표현하기 위해, 그들은 통상적으로 블록 고유 예측 모션 벡터들과 관련하여 차별적으로 코딩된다. 통상적인 비디오 코덱들에서, 예측 모션 벡터들은 예를 들어 인접 블록들의 인코딩된 또는 디코딩된 모션 벡터들의 중앙값을 계산하는 사전 정의된 방식으로 생성된다. 모션 벡터 예측들을 생성하는 다른 하나의 방법은 시간 기준 픽처들 내의 인접하는 블록들 및/또는 공동 배치된 블록들로부터 후보 예측들의 리스트를 생성하고, 선택된 후보를 모션 벡터 예측기로서 시그널링하는 것이다. 모션 벡터 값들을 예측하는 것에 더하여, 이전에 코딩/디코딩된 픽처의 기준 인덱스가 예측될 수 있다. 기준 인덱스는 통상적으로 시간 기준 픽처 내의 인접 블록들 및/또는 공동 배치된 블록들로부터 예측된다. 더욱이, 통상적인 고효율 비디오 코덱들은 종종 병합/병합 모드로 지칭되는 추가적인 모션 정보 코딩/디코딩 메커니즘을 이용하며, 이 경우에 각각의 이용 가능한 기준 픽처 리스트에 대한 모션 벡터 및 대응하는 기준 픽처 인덱스를 포함하는 모든 모션 필드 정보가 예측되고, 어떠한 변경/교정도 없이 사용된다. 유사하게, 모션 필드 정보의 예측은 시간 기준 픽처들 내의 인접 블록들 및/또는 공동 배치된 블록들의 모션 필드 정보를 이용하여 수행되며, 사용된 모션 필드 정보는 이용 가능한 인접/공동 배치 블록들의 모션 필드 정보로 채워진 모션 필드 후보 리스트 사이에서 시그널링된다.
통상적인 비디오 코덱들에서, 모션 보상 후의 예측 오차는 먼저 (DCT와 같은) 변환 커널을 이용하여 변환된 후에 코딩된다. 그 이유는, 종종 오차 사이에 소정의 상관성이 여전히 존재하고, 많은 경우에 변환이 이러한 상관성을 줄이고 더 효율적인 코딩을 제공하는 것을 도울 수 있기 때문이다.
통상적인 비디오 인코더들은 라그랑지안 비용 함수를 이용하여, 최적의 코딩 모드들, 예를 들어 원하는 매크로블록 모드 및 관련 모션 벡터들을 발견한다. 이러한 종류의 비용 함수는 가중 팩터 λ를 이용하여, 다손실 코딩 방법들로 인한 (정확한 또는 추정된) 이미지 왜곡과 이미지 영역 내의 픽셀 값들을 표현하는 데 필요한 (정확한 또는 추정된) 정보의 양을 함께 결합한다.
Figure pct00001
여기서, C는 최소화될 라그랑지안 비용이고, D는 모드 및 모션 벡터들을 고려한 이미지 왜곡(예로서, 제곱 평균 에러)이고, R은 디코더에서 이미지 블록을 재구성하기 위해 필요한 데이터를 표현하는 데 필요한 비트들의 수(후보 모션 벡터를 표현하기 위한 데이터의 양을 포함함)이다.
비디오 코딩 표준들 및 사양들은 인코더들이 코딩된 픽처를 코딩된 슬라이스들 등으로 분할하는 것을 허락할 수 있다. 인-픽처 예측은 통상적으로 슬라이스 경계들에 대해 디스에이블된다. 따라서, 슬라이스들은 코딩된 픽처를 독립적으로 디코딩 가능한 부분들로 분할하기 위한 방법으로서 간주될 수 있다. H.264/AVC 및 HEVC에서, 인-픽처 예측은 슬라이스 경계들에 대해 디스에이블될 수 있다. 따라서, 슬라이스들은 코딩된 픽처를 독립적으로 디코딩 가능한 부분들로 분할하기 위한 방법으로서 간주될 수 있으며, 따라서 슬라이스들은 종종 전송을 위한 기본 유닛들로서 간주된다. 많은 경우에, 인코더들은 어떤 타입의 인-픽처 예측이 슬라이스 경계들에 대해 턴오프되는지를 비트스트림 내에서 지시할 수 있으며, 디코더 동작은 예를 들어 어떤 예측 소스들이 이용 가능한지를 결론지을 때 이러한 정보를 고려한다. 예를 들어, 이웃 매크로블록 또는 CU로부터의 샘플들은 이웃 매크로블록 또는 CU가 상이한 슬라이스 내에 존재하는 경우에는 인트라 예측에 이용될 수 없는 것으로 간주될 수 있다.
코딩된 슬라이스들은 3개의 클래스, 즉 래스터 스캔 순서 슬라이스들, 직사각 슬라이스들 및 유연한 슬라이스들로 분류될 수 있다.
래스터 스캔 순서 슬라이스는 래스터 스캔 순서의 연속 매크로블록들 등으로 구성되는 코딩된 세그먼트이다. 예를 들어, MPEG-4 파트 2의 비디오 패킷들 및 H.263에서 공백이 아닌 GOB 헤더로 시작되는 매크로블록들의 그룹들(GOB들)은 래스터 스캔 순서 슬라이스들의 예들이다.
직사각 슬라이스는 매크로블록들 등의 직사각 영역으로 구성되는 코딩된 세그먼트이다. 직사각 슬라이스는 하나의 매크로블록 등의 행보다 높을 수 있고, 전체 픽처 폭보다 좁을 수 있다. H.263은 옵션인 직사각 슬라이스 서브모드를 포함하며, H.261 GOB들은 직사각 슬라이스들로도 간주될 수 있다.
유연한 슬라이스는 임의의 사전 정의된 매크로블록(또는 기타 등등) 위치들을 포함할 수 있다. H.264/AVC 코덱은 매크로블록들의 둘 이상의 슬라이스 그룹으로의 그룹화를 허용한다. 슬라이스 그룹은 인접하지 않는 매크로블록 위치들을 포함하는 임의의 매크로블록 위치들을 포함할 수 있다. H.264/AVC의 일부 프로파일들 내의 슬라이스는 래스터 스캔 순서의 특정 슬라이스 그룹 내의 적어도 하나의 매크로블록으로 구성된다.
H.264/AVC 또는 HEVC 인코더의 출력 및 H.264/AVC 또는 HEVC 디코더의 입력 각각을 위한 기본 유닛은 네트워크 추상화 계층(NAL) 유닛이다. 패킷 지향 네트워크들을 통한 전송 또는 구조화된 파일들 내의 저장을 위해, NAL 유닛들은 패킷들 또는 유사한 구조들 내에 캡슐화될 수 있다. H.264/AVC 및 HEVC에서는 프레임화 구조들을 제공하지 않는 전송 또는 저장 환경들을 위해 바이트스트림 포맷이 지정되었다. 바이트스트림 포맷은 각각의 NAL 유닛의 정면에 시작 코드를 첨부함으로써 NAL 유닛들을 서로 분리한다. NAL 유닛 경계들의 거짓 검출을 방지하기 위해, 인코더들은 시작 코드가 다른 방식으로 발생할 경우에 NAL 유닛 페이로드에 에뮬레이션 방지 바이트를 부가하는 바이트 지향 시작 코드 에뮬레이션 방지 알고리즘을 실행한다. 패킷 및 스트림 지향 시스템들 간의 간단한 게이트웨이 동작을 가능하게 하기 위해, 바이트스트림 포맷이 사용되는지의 여부에 관계없이 시작 코드 에뮬레이션 방지가 항상 수행될 수 있다. NAL 유닛은 뒤따를 데이터의 타입의 지시, 및 필요에 따라 에뮬레이션 방지 바이트들과 함께 산재되는 RBSP의 형태로 그러한 데이터를 포함하는 바이트들을 포함하는 신택스 구조로서 정의될 수 있다. 원시 바이트 시퀀스 페이로드(RBSP)는 NAL 유닛 내에 캡슐화되는 정수 개의 바이트를 포함하는 신택스 구조로서 정의될 수 있다. RBSP는 공백이거나, 신택스 요소들에 이어서 RBSP 스톱 비트에 이어서 0개 이상의 0과 동일한 후속 비트들을 포함하는 데이터 비트들의 스트링의 형태를 갖는다. NAL 유닛들은 헤더 및 페이로드로 구성된다. H.264/AVC 및 HEVC에서, NAL 유닛 헤더는 NAL 유닛의 타입, 및 NAL 유닛에 포함된 코딩된 슬라이스가 기준 픽처 또는 비기준 픽처의 일부인지를 지시한다.
H.264/AVC NAL 유닛 헤더는 2비트 nal_ref_idc 신택스 요소를 포함하며, 이 요소는 0일 때에는 NAL 유닛에 포함된 코딩된 슬라이스가 비기준 픽처의 일부인 것을 지시하고, 0보다 클 때에는 NAL 유닛에 포함된 코딩된 슬라이스가 기준 픽처의 일부인 것을 지시한다. 초안 HEVC 표준은 nal_ref_flag로도 알려진 1비트 nal_ref_idc 신택스 요소를 포함하며, 이 요소는 0일 때에는 NAL 유닛에 포함된 코딩된 슬라이스가 비기준 픽처의 일부인 것을 지시하고, 1일 때에는 NAL 유닛에 포함된 코딩된 슬라이스가 기준 픽처의 일부인 것을 지시한다. SVC 및 MVC NAL 유닛들의 헤더는 스케일링 가능성 및 멀티뷰 계층구조와 관련된 다양한 지시들을 더 포함할 수 있다.
초안 HEVC 표준에서는, 모든 지정된 NAL 유닛 타입들에 대해 2바이트 NAL 유닛 헤더가 사용된다. NAL 유닛 헤더의 제1 바이트는 하나의 예약 비트, 이 액세스 유닛 내에서 운반되는 픽처가 기준 픽처인지 또는 비기준 픽처인지를 주로 지시하는 1비트 지시 nal_ref_flag, 및 6비트의 NAL 유닛 타입 지시를 포함한다. NAL 유닛 헤더의 제2 바이트는 시간 레벨에 대한 3비트의 temporal_id 지시 및 초안 HEVC 표준에서 1과 동일한 값을 갖는 데 필요한 (reserved_one_5bits로 지칭되는) 5비트의 예약 필드를 포함한다. temporal_id 신택스 요소는 NAL 유닛에 대한 시간 식별자로서 간주될 수 있다.
5비트 예약 필드는 미래의 스케일링 가능 및 3D 비디오 확장과 같은 확장들에 의해 사용될 것으로 예상된다. 이러한 5개 비트는 quality_id 등, dependency_id 등, 임의의 다른 타입의 계층 식별자, 시청 순서 인덱스 등, 시청 식별자, 특정 식별자 값보다 큰 모든 NAL 유닛들이 비트스트림으로부터 제거되는 경우에 유효한 서브비트스트림 추출을 지시하는 SVC의 priority_id와 유사한 식별자와 같은 스케일링 가능성 계층구조에 대한 정보를 운반할 것으로 예상된다. 일반성의 손실 없이, 일부 실시예들에서는, reserved_one_5bits의 값으로부터 변수 LayerId가 도출되며, 이는 예를 들어 Layerid = reserved_one_5bits - 1 과 같이, layer_id_plus1로도 지칭될 수 있다.
NAL 유닛들은 비디오 코딩 계층(VCL) NAL 유닛들 및 논-VCL(non-VCL) NAL 유닛들로 분류될 수 있다. VCL NAL 유닛들은 통상적으로 코딩된 슬라이스 NAL 유닛들이다. H.264/AVC에서, 코딩된 슬라이스 NAL 유닛들은 하나 이상의 코딩된 매크로블록을 표현하는 신택스 요소들을 포함하며, 이들 각각은 압축되지 않은 픽처 내의 샘플들의 블록에 대응한다. HEVC에서, 코딩된 슬라이스 NAL 유닛들은 하나 이상의 CU를 표현하는 신택스 요소들을 포함한다. H.264/AVC 및 HEVC에서, 코딩된 슬라이스 NAL 유닛은 순간 디코딩 리프레시(IDR) 픽처 내의 코딩된 슬라이스 또는 논-IDR 픽처 내의 코딩된 슬라이스인 것으로 지시될 수 있다. HEVC에서, 코딩된 슬라이스 NAL 유닛은 (클린 랜덤 액세스 픽처 또는 CRA 픽처로도 지칭될 수 있는) 클린 디코딩 리프레시(CDR) 픽처 내의 코딩된 슬라이스인 것으로 지칭될 수 있다.
논-VCL NAL 유닛은 예를 들어 다음 타입들 중 하나, 즉 시퀀스 파라미터 세트, 픽처 파라미터 세트, 보완 향상 정보(SEI) NAL 유닛, 액세스 유닛 디리미터(delimiter), 시퀀스 NAL 유닛의 끝, 스트림 NAL 유닛의 끝 또는 필러(filler) 데이터 NAL 유닛일 수 있다. 파라미터 세트들은 디코딩된 픽처들의 재구성을 위해 필요할 수 있는 반면, 다른 논-VCL NAL 유닛들 중 다수는 디코딩된 샘플 값들의 재구성을 위해 필요하지 않다.
코딩된 비디오 시퀀스를 통해 변경 없이 유지되는 파라미터들은 시퀀스 파라미터 세트 내에 포함될 수 있다. 디코딩 프로세스에 의해 요구될 수 있는 파라미터들에 더하여, 시퀀스 파라미터 세트는 옵션으로서 비디오 유용성 정보(VUI)를 포함할 수 있으며, 이 정보는 버퍼링, 픽처 출력 타이밍, 렌더링 및 자원 예약에 중요할 수 있는 파라미터들을 포함한다. 시퀀스 파라미터 세트들을 운반하기 위해 H.264/AVC에서 지정된 3개의 NAL 유닛, 즉 시퀀스 내의 H.264/AVC VCL NAL 유닛들에 대한 모든 데이터를 포함하는 시퀀스 파라미터 세트 NAL 유닛, 보조적인 코딩된 픽처들에 대한 데이터를 포함하는 시퀀스 파라미터 세트 확장 NAL 유닛, 및 MVC 및 SVC VCL NAL 유닛들에 대한 서브세트 시퀀스 파라미터 세트가 존재한다. 초안 HEVC 표준에서, 시퀀스 파라미터 세트 RBSP는 하나 이상의 픽처 파라미터 세트 RBSP 또는 버퍼링 주기 SEI 메시지를 포함하는 하나 이상의 SEI NAL 유닛에 의해 참조될 수 있는 파라미터들을 포함한다. 픽처 파라미터 세트는 여러 개의 코딩된 픽처에서 변경되지 않을 가능성이 있는 파라미터들을 포함한다. 픽처 파라미터 세트 RBSP는 하나 이상의 코딩된 픽처의 코딩된 슬라이스 NAL 유닛들에 의해 참조될 수 있는 파라미터들을 포함할 수 있다.
초안 HEVC에서는, 본 명세서에서 적응 파라미터 세트(APS)로서 지칭되는 제3 타입의 파라미터 세트들도 존재하며, 이는 여러 개의 코딩된 슬라이스에서 변경되지 않을 가능성이 있지만, 예를 들어 각각의 픽처 또는 각각의 소수의 픽처에 대해 변할 수 있는 파라미터들을 포함한다. 초안 HEVC에서, APS 신택스 구조는 양자화 행렬들(QM), 적응성 샘플 오프셋(SAO), 적응성 루프 필터링(ALF) 및 디블록킹 필터링과 관련된 파라미터들 또는 신택스 요소들을 포함한다. 초안 HEVC에서, APS는 NAL 유닛이며, 임의의 다른 NAL 유닛으로부터의 참조 또는 예측 없이 디코딩된다. aps_id 신택스 요소로서 참조되는 식별자가 APS NAL 유닛 내에 포함되고, 특정 APS를 참조하기 위해 슬라이스 헤더 내에 포함되고 사용된다. 다른 초안 HEVC 표준에서, APS 신택스 구조는 ALF 파라미터들만을 포함한다. 초안 HEVC 표준에서, 적응 파라미터 세트 RBSP는 sample_adaptive_offset_enabled_flag 또는 adaptive_loop_filter_enabled_flag 중 적어도 하나가 1일 때 하나 이상의 코딩된 픽처의 코딩된 슬라이스 NAL 유닛들에 의해 참조될 수 있는 파라미터들을 포함한다.
초안 HEVC 표준은 예를 들어 문헌 JCTVC-H033(http://phenix.int-evry.fr/jct/doc_end_user/documents/8_San%20Jose/wg11/JCTVC-H0388-v4.zip)에서 제안된 비디오 파라미터 세트(VPS)라고 하는 제4 타입의 파라미터 세트도 포함한다. 비디오 파라미터 세트 RBSP는 하나 이상의 시퀀스 파라미터 세트 RBSP에 의해 참조될 수 있는 파라미터들을 포함할 수 있다.
비디오 파라미터 세트(VPS), 시퀀스 파라미터 세트(SPS) 및 픽처 파라미터 세트(PPS) 간의 관계 및 계층구조는 다음과 같이 설명될 수 있다. VPS는 파라미터 세트 계층 구조에서 그리고 스케일링 가능성 및/또는 3DV와 관련하여 SPS보다 한 레벨 위에 위치한다. VPS는 전체적인 코딩된 비디오 시퀀스 내의 모든 (스케일링 가능성 또는 시청) 계층들에 걸치는 모든 슬라이스들에 대해 공통인 파라미터들을 포함할 수 있다. SPS는 전체적인 코딩된 비디오 시퀀스 내의 특정 (스케일링 가능성 또는 시청) 계층 내의 모든 슬라이스들에 대해 공통이고 다수의 (스케일링 가능성 또는 시청) 계층들에 의해 공유될 수 있는 파라미터들을 포함한다. PPS는 특정 계층 표현(하나의 액세스 유닛 내의 하나의 스케일링 가능성 또는 시청 계층의 표현) 내의 모든 슬라이스들에 대해 공통이고 다수의 계층 표현 내의 모든 슬라이스들에 의해 공유될 가능성이 있는 파라미터들을 포함한다.
VPS는 비트스트림 내의 계층들의 종속 관계들에 대한 정보는 물론, 전체적인 코딩된 비디오 시퀀스 내의 모든 (스케일링 가능성 또는 시청) 계층들에 걸치는 모든 슬라이스들에 적용될 수 있는 많은 다른 정보도 제공할 수 있다. HEVC의 스케일링 가능 확장에서, VPS는 예를 들어 NAL 유닛 헤더로부터 도출된 LayerId 값의 하나 이상의 스케일링 가능성 차원 값, 예를 들어 SVC 및 MVC와 유사하게 정의된 계층에 대한 dependency_id, quality_id, view_id 및 depth_flag에 대응하는 값으로의 맵핑을 포함할 수 있다. VPS는 하나 이상의 계층에 대한 프로파일 및 레벨 정보는 물론, 계층 표현의 (소정의 temporal_id 값들에서의 그리고 그 아래에서의 VCL NAL 유닛들로 구성되는) 하나 이상의 시간 하위 계층에 대한 프로파일 및/또는 레벨도 포함할 수 있다.
H.264/AVC 및 HEVC 신택스는 파라미터 세트들의 많은 사례를 허용하며, 각각의 사례는 고유 식별자를 이용하여 식별된다. 파라미터 세트들에 대해 필요한 메모리 사용을 제한하기 위해, 파라미터 세트 식별자들에 대한 값 범위가 제한되었다. H.264/AVC 및 초안 HEVC 표준에서, 각각의 슬라이스 헤더는 슬라이스를 포함하는 픽처의 디코딩을 위해 활성인 픽처 파라미터 세트의 식별자를 포함하며, 각각의 픽처 파라미터 세트는 활성 시퀀스 파라미터 세트의 식별자를 포함한다. HEVC 표준에서, 슬라이스 헤더는 APS 식별자를 더 포함한다. 결과적으로, 픽처 및 시퀀스 파라미터 세트들의 전송은 슬라이스들의 전송과 정밀하게 동기화될 필요가 없다. 대신, 활성 시퀀스 및 픽처 파라미터 세트들은 그들이 참조되기 전의 임의의 순간에 수신되는 것으로 충분하며, 이는 슬라이스 데이터에 대해 사용되는 프로토콜들에 비해 더 신뢰성 있는 전송 메커니즘을 이용하여 파라미터 세트들을 "대역외" 전송하는 것을 가능하게 한다. 예를 들어, 파라미터 세트들은 실시간 전송 프로토콜(RTP) 세션들에 대한 세션 설명 내에 파라미터로서 포함될 수 있다. 파라미터 세트들이 대역내 전송되는 경우, 그들은 에러 강건성을 개선하도록 반복될 수 있다.
파라미터 세트들은 슬라이스로부터의 또는 다른 활성 파라미터 세트로부터의 또는 일부 예들에서는 버퍼링 주기 SEI 메시지와 같은 다른 신택스 구조로부터의 참조에 의해 활성화될 수 있다.
SEI NAL 유닛은 하나 이상의 SEI 메시지를 포함할 수 있으며, 이들은 출력 픽처들의 디코딩에는 필요하지 않지만, 픽처 출력 타이밍, 렌더링, 에러 검출, 에러 은닉 및 자원 예약과 같은 관련 프로세스들을 지원할 수 있다. 여러 개의 SEI 메시지가 H.264/AVC 및 HEVC에서 지정되며, 사용자 데이터 SEI 메시지들은 조직들 및 회사들이 그들 자신의 사용을 위해 SEI 메시지들을 지정하는 것을 가능하게 한다. H.264/AVC 및 HEVC는 지정된 SEI 메시지들에 대한 신택스 및 시맨틱을 포함하지만, 수신 측에서 메시지들을 처리하기 위한 프로세스는 정의되지 않는다. 결과적으로, 인코더들은 SEI 메시지들을 생성할 때 H.264/AVC 표준 또는 HEVC 표준을 따르는 것이 필요하며, H.264/AVC 표준 또는 HEVC 표준을 각각 따르는 디코더들은 출력 순서 추종을 위해 SEI 메시지들을 처리할 필요가 없다. H.264/AVC 및 HEVC에서 SEI 메시지들의 신택스 및 시맨틱을 포함하는 이유들 중 하나는 상이한 시스템 사양들이 보완 정보를 동일하게 해석하고, 따라서 연동하는 것을 가능하게 하기 위함이다. 시스템 사양들은 코딩 단에서뿐만 아니라 디코딩 단에서도 특정 SEI 메시지들의 사용을 필요로 할 수 있고, 게다가 수신 측에서 특정 SEI 메시지들을 처리하기 위한 프로세스가 지정될 수 있는 것이 의도된다.
코딩된 픽처는 픽처의 코딩된 표현이다. H.264/AVC에서의 코딩된 픽처는 픽처의 디코딩에 필요한 VCL NAL 유닛들을 포함한다. H.264/AVC에서, 코딩된 픽처는 주요한 코딩된 픽처 또는 중복적인 코딩된 픽처일 수 있다. 주요한 코딩된 픽처는 유효 비트스트림들의 디코딩 프로세스에서 사용되는 반면, 중복적인 코딩된 픽처는 주요한 코딩된 픽처가 성공적으로 디코딩되지 못할 때에만 디코딩되어야 하는 중복 표현이다. 초안 HEVC에서는 중복적인 코딩된 픽처가 지정되지 않았다.
H.264/AVC 및 HEVC에서, 액세스 유닛은 주요한 코딩된 픽처 및 그와 관련된 NAL 유닛들을 포함한다. H.264/AVC에서, 액세스 유닛 내의 NAL 유닛들의 출현 순서는 다음과 같이 강제된다. 옵션인 액세스 유닛 디리미터 NAL 유닛은 액세스 유닛의 시작을 지시할 수 있다. 그 뒤에 0개 이상의 SEI NAL 유닛이 이어진다. 주요한 코딩된 픽처의 코딩된 슬라이스들이 다음에 나타난다. H.264/AVC에서, 주요한 코딩된 픽처의 코딩된 슬라이스 뒤에는 0개 이상의 중복적인 코딩된 픽처에 대한 코딩된 슬라이스들이 이어질 수 있다. 중복적인 코딩된 픽처는 픽처 또는 픽처의 일부의 코딩된 표현이다. 중복적인 코딩된 픽처는 주요한 코딩된 픽처가 예를 들어 전송에서의 손실 또는 물리 저장 매체에서의 손상으로 인해 디코더에 의해 수신되지 못하는 경우에 디코딩될 수 있다.
H.264/AVC에서, 액세스 유닛은, 주요한 코딩된 픽처를 보완하고, 예를 들어 표시 프로세스에서 사용될 수 있는 픽처인 보조적인 코딩된 픽처도 포함할 수 있다. 보조적인 코딩된 픽처는 예를 들어 디코딩된 픽처들 내의 샘플들의 투명 레벨을 지정하는 알파 채널 또는 알파 평면으로 사용될 수 있다. 알파 채널 또는 평면은 계층화된 구성 또는 렌더링 시스템에서 사용될 수 있으며, 이 경우에 출력 픽처는 적어도 부분적으로 투명한 픽처들을 서로의 위에 배치함으로써 형성된다. 보조적인 코딩된 픽처는 단색의 중복적인 코딩된 픽처와 동일한 신택스 및 시맨틱 제한들을 갖는다. H.264/AVC에서, 보조적인 코딩된 픽처는 주요한 코딩된 픽처와 동일한 수의 매크로블록을 포함한다.
코딩된 비디오 시퀀스는 디코딩 순서에서 자신을 포함하는 IDR 액세스 유닛으로부터, 어느 것이 먼저 나타나는지에 관계없이, 자신을 배제하는 다음 IDR 액세스 유닛까지의 또는 비트스트림의 끝까지의 연속적인 액세스 유닛들의 시퀀스로서 정의된다.
픽처들의 그룹(GOP) 및 그의 특성들이 다음과 같이 정의될 수 있다. GOP는 임의의 이전 픽처들이 디코딩되었는지에 관계없이 디코딩될 수 있다. 개방 GOP는 개방 GOP의 최초 인트라 픽처로부터 디코딩이 시작될 때 출력 순서에서 최초 인트라 픽처에 선행하는 픽처들이 올바르게 디코딩되지 못할 수 있는 픽처들의 그룹이다. 즉, 개방 GOP의 픽처들은 이전의 GOP에 속하는 픽처들을 (인터 예측에서) 참조할 수 있다. H.264/AVC 디코더는 H.264/AVC 비트스트림 내의 복구 포인트 SEI 메시지로부터 개방 GOP를 시작하는 인트라 픽처를 인식할 수 있다. HEVC 디코더는 개방 GOP를 시작하는 인트라 픽처를 인식할 수 있는데, 그 이유는 고유 NAL 유닛 타입인 CRA NAL 유닛 타입이 그의 코딩된 슬라이스들에 대해 사용되기 때문이다. 폐쇄 GOP는 폐쇄 GOP의 최초 인트라 픽처로부터 디코딩이 시작될 때 모든 픽처들이 올바르게 디코딩될 수 있는 픽처들의 그룹이다. 즉, 폐쇄 GOP 내의 픽처는 이전 GOP들 내의 픽처를 참조하지 않는다. H.264/AVC 및 HEVC에서, 폐쇄 GOP는 IDR 액세스 유닛으로부터 시작된다. 결과적으로, 폐쇄 GOP 구조는 개방 GOP 구조에 비해 더 큰 에러 회복 잠재력을 갖지만, 압축 효율이 감소할 가능성을 갖는다. 개방 GOP 코딩 구조는 기준 픽처들의 선택에 있어서의 더 큰 유연성으로 인해 압축에 있어서 더 효율적일 수 있다.
H.264/AVC 및 HEVC의 비트스트림 신택스는 특정 픽처가 임의의 다른 픽처의 인터 예측을 위한 기준 픽처인지를 지시한다. 임의의 코딩 타입(I, P, B)의 픽처들은 H.264/AVC 및 HEVC에서 기준 픽처들 또는 비기준 픽처들일 수 있다. NAL 유닛 헤더는 NAL 유닛의 타입, 및 NAL 유닛 내에 포함된 코딩된 슬라이스가 기준 픽처 또는 비기준 픽처의 일부인지를 지시한다.
H.264/AVC는 디코더에서의 메모리 소비를 제어하기 위해, 디코딩된 기준 픽처 마킹을 위한 프로세스를 지정한다. 인터 예측에 사용되는 기준 픽처들의, M으로 지칭되는 최대 수는 시퀀스 파라미터 세트에서 결정된다. 기준 픽처가 디코딩될 때, 이것은 "기준으로 사용됨"으로 마킹된다. 기준 픽처의 디코딩이 M개보다 많은 픽처로 하여금 "기준으로 사용됨"으로 마킹되게 한 경우, 적어도 하나의 픽처가 "기준으로 사용되지 않음"으로 마킹된다. 디코딩된 기준 픽처 마킹을 위한 두 가지 타입의 동작, 즉 적응성 메모리 제어 및 슬라이딩 윈도가 존재한다. 디코딩된 기준 픽처 마킹을 위한 동작 모드는 픽처에 기초하여 선택된다. 적응성 메모리 제어는 어느 픽처들이 "기준으로 사용되지 않음"으로 마킹되는지를 명확히 시그널링하는 것을 가능하게 하며, 또한 단기 기준 픽처들에 장기 인덱스들을 할당할 수 있다. 적응성 메모리 제어는 비트스트림 내의 메모리 관리 제어 동작(MMCO) 파라미터들의 존재를 필요로 할 수 있다. MMCO 파라미터들은 디코딩된 기준 픽처 마킹 신택스 구조 내에 포함될 수 있다. 슬라이딩 윈도 동작 모드가 사용되고, M개의 픽처가 "기준으로 사용됨"으로 마킹되는 경우, "기준으로 사용됨"으로 마킹되는 단기 기준 픽처들 중 제1의 디코딩된 픽처인 단기 기준 픽처는 "기준으로 사용되지 않음"으로 마킹된다. 즉, 슬라이딩 윈도 동작 모드는 단기 기준 픽처들 사이에서 선입선출 버퍼링 동작을 유발한다.
H.264/AVC에서의 메모리 관리 제어 동작들 중 하나는 현재 픽처를 제외한 모든 기준 픽처들이 "기준으로 사용되지 않음"으로 마킹되게 한다. 순간 디코딩 리프레시(IDR) 픽처는 인트라 코딩된 슬라이스들만을 포함하며, 기준 픽처들의 유사한 "리셋"을 유발한다.
초안 HEVC 표준에서는, 기준 픽처 마킹 신택스 구조들 및 관련 디코딩 프로세스들이 사용되지 않는 대신, 기준 픽처 세트(RPS) 신택스 구조 및 디코딩 프로세스가 유사한 목적을 위해 사용된다. 픽처에 대해 유효하거나 활성인 기준 픽처 세트는 픽처에 대해 기준으로 사용되는 모든 기준 픽처들 및 디코딩 순서에서 임의의 후속하는 픽처들에 대해 "기준으로 사용됨"으로 마킹된 상태로 유지되는 모든 기준 픽처들을 포함한다. 기준 픽처 세트의 6개의 서브세트가 존재하며, 이들은 RefPicSetStCurrO, RefPicSetStCurr1, RefPicSetStFollO, RefPicSetStFoll1, RefPicSetLtCurr 및 RefPicSetLtFoll로 지칭된다. 6개의 서브세트의 주해는 다음과 같다. "Curr"은 현재 픽처의 기준 픽처 리스트들에 포함되어 현재 픽처에 대한 인터 예측 기준으로 사용될 수 있는 기준 픽처들을 지칭한다. "Foll"은 현재 픽처의 기준 픽처 리스트들 내에 포함되지 않지만 디코딩 순서에서 후속하는 픽처들에서 기준 픽처들로서 사용될 수 있는 기준 픽처들을 지칭한다. "St"는 단기 기준 픽처들을 지칭하며, 그들은 일반적으로 그들의 POC 값의 소정 수의 최하위 비트를 통해 식별될 수 있다. "Lt"는 장기 기준 픽처들을 지칭하며, 그들은 고유하게 식별되고, 일반적으로 전술한 소정 수의 최하위 비트에 의해 표현될 수 있는 것보다 현재 픽처에 대해 더 큰 POC 값 차이를 갖는다. "0"은 현재 픽처보다 작은 POC 값을 갖는 기준 픽처들을 지칭한다. "1"은 현재 픽처보다 큰 POC 값을 갖는 기준 픽처들을 지칭한다. RefPicSetStCurrO, RefPicSetStCurr1, RefPicSetStFollO 및 RefPicSetStFoll1은 공동으로 기준 픽처 세트의 단기 서브세트로서 지칭된다. RefPicSetLtCurr 및 RefPicSetLtFoll은 공동으로 기준 픽처 세트의 장기 서브세트로서 지칭된다.
초안 HEVC 표준에서는, 기준 픽처 세트가 시퀀스 파라미터 세트 내에서 지정될 수 있고, 기준 픽처 세트에 대한 인덱스를 통해 슬라이스 헤더에서 사용될 수 있다. 기준 픽처 세트는 또한 슬라이스 헤더 내에서 지정될 수 있다. 기준 픽처 세트의 장기 서브세트는 일반적으로 슬라이스 헤더 내에서만 지정되는 반면, 동일 기준 픽처 세트의 단기 서브세트들은 픽처 파라미터 세트 또는 슬라이스 헤더 내에서 지정될 수 있다. 기준 픽처 세트는 독립적으로 코딩될 수 있거나, 다른 기준 픽처 세트로부터 예측될 수 있다(이는 인터 RPS 예측으로 알려져 있다). 기준 픽처 세트가 독립적으로 코딩될 때, 신택스 구조는 상이한 타입의 기준 픽처들, 현재 픽처보다 낮은 POC 값을 갖는 단기 기준 픽처들, 현재 픽처보다 높은 POC 값을 갖는 단기 기준 픽처들 및 장기 기준 픽처들에 걸쳐 반복되는 최대 3개의 루프를 포함한다. 각각의 루프 엔트리는 "기준으로 사용됨"으로 마킹될 픽처를 지정한다. 일반적으로, 픽처는 차분 POC 값을 이용하여 지정된다. 인터 RPS 예측은 현재 픽처의 기준 픽처 세트가 이전에 디코딩된 픽처의 기준 픽처 세트로부터 예측될 수 있다는 사실을 이용한다. 이것은 현재 픽처의 모든 기준 픽처들이 이전 픽처의 기준 픽처들 또는 이전에 디코딩된 픽처 자체이기 때문이다. 이러한 픽처들 중 어느 것이 기준 픽처들이어야 하고, 현재 픽처의 예측에 사용되어야 하는지를 지시하는 것만이 필요하다. 양 타입의 기준 픽처 세트 코딩에서는, 기준 픽처가 현재 픽처에 의해 기준으로 사용되는지의 여부(*Curr 리스트 내에 포함되는지 또는 *Foll 리스트 내에 포함되는지)를 지시하는 플래그(used_by_curr_pic_X_flag)가 각각의 기준 픽처에 대해 추가로 전송된다. 현재 슬라이스에 의해 사용되는 기준 픽처 세트에 포함되는 픽처들은 "기준으로 사용됨"으로 마킹되며, 현재 슬라이스에 의해 사용되는 기준 픽처 세트 내에 없는 픽처들은 "기준으로 사용되지 않음"으로 마킹된다. 현재 픽처가 IDR 픽처인 경우, RefPicSetStCurr0, RefPicSetStCurr1, RefPicSetStFoll0, RefPicSetStFoll1, RefPicSetLtCurr 및 RefPicSetLtFoll 모두가 공백으로 설정된다.
디코딩된 픽처 버퍼(Decoded Picture Buffer: DPB)가 인코더에서 그리고/또는 디코더에서 사용될 수 있다. 디코딩된 픽처들을 버퍼링하는 두 가지 이유가 존재하는데, 이는 인터 예측에서 기준으로 사용하는 것과, 디코딩된 픽처들을 출력순으로 재배열하는 것이다. H.264/AVC 및 HEVC는 기준 픽처 마킹 및 출력 재배열 양자를 위해 상당한 유연성을 제공하므로, 기준 픽처 버퍼링 및 출력 픽처 버퍼링을 위한 별개의 버퍼들은 메모리 자원들을 낭비할 수 있다. 따라서, DPB는 기준 픽처들 및 출력 재배열을 위한 통합형의 디코딩된 픽처 버퍼링 프로세스를 포함할 수 있다. 디코딩된 픽처는 기준으로 더 이상 사용되지 않고 출력을 위해 필요하지 않을 때 DPB로부터 제거될 수 있다.
H.264/AVC 및 HEVC의 많은 코딩 모드에서, 인터 예측을 위한 기준 픽처는 기준 픽처 세트에 대한 인덱스를 이용하여 지시된다. 인덱스는 가변 길이 코딩을 이용하여 코딩될 수 있으며, 이는 통상적으로 더 작은 인덱스가 대응하는 신택스 요소에 대해 더 짧은 값을 갖게 한다. H.264/AVC 및 HEVC에서는, 각각의 이중 예측(B) 슬라이스에 대해 2개의 기준 픽처 리스트(기준 픽처 리스트 0 및 기준 픽처 리스트 1)가 생성되며, 각각의 인터 코딩된(P) 슬라이스에 대해 하나의 기준 픽처 리스트(기준 픽처 리스트 0)가 형성된다. 게다가, 초안 HEVC 표준에서의 B 슬라이스에 대해서는, 최종 기준 픽처 리스트들(리스트 0 및 리스트 1)이 구성된 후에 결합 리스트(리스트 C)가 구성된다. 결합 리스트는 B 슬라이스들 내에서 (단방향 예측으로도 알려진) 단일 예측을 위해 사용될 수 있다.
통상적으로 기준 픽처 리스트 0 및 기준 픽처 리스트 1과 같은 기준 픽처 리스트는 2개의 단계에서 구성되며, 제1 단계에서 초기 기준 픽처 리스트가 생성된다. 초기 기준 픽처 리스트는 예를 들어 frame_num, POC, temporal_id, 또는 GOP 구조와 같은 예측 계층구조에 관한 정보, 또는 이들의 임의 조합에 기초하여 생성될 수 있다. 제2 단계에서, 초기 기준 픽처 리스트는 슬라이스 헤더들 내에 포함될 수 있는 기준 픽처 리스트 변경 신택스 구조로도 알려진 기준 픽처 리스트 재배열(RPLR) 명령들에 의해 재배열될 수 있다. RPLR 명령들은 각각의 기준 픽처 리스트의 선두에 재배열되는 픽처들을 지시한다. 이러한 제2 단계는 기준 픽처 리스트 변경 프로세스로도 지칭될 수 있으며, RPLR 명령들은 기준 픽처 리스트 변경 신택스 구조 내에 포함될 수 있다. 기준 픽처 세트들이 사용되는 경우, 기준 픽처 리스트 0은 먼저 RefPicSetStCurr0, 이어서 RefPicSetStCurr1, 이어서 RefPicSetLtCurr을 포함하도록 초기화될 수 있다. 기준 픽처 리스트 1은 먼저 RefPicSetStCurr1, 이어서 RefPicSetStCurr0을 포함하도록 초기화될 수 있다. 초기 기준 픽처 리스트들은 기준 픽처 리스트 변경 신택스 구조를 통해 변경될 수 있으며, 이 경우에 초기 기준 픽처 리스트들 내의 픽처들은 리스트에 대한 엔트리 인덱스를 통해 식별될 수 있다.
격리 영역들로 알려진 코딩 기술은 인-픽처(in-picture) 예측 및 인터 예측을 공동으로 강제하는 것에 기초한다. 픽처 내의 격리 영역은 임의의 매크로블록 (또는 유사한) 위치들을 포함할 수 있으며, 픽처는 중복되지 않는 0개 이상의 격리 영역을 포함할 수 있다. 존재할 경우에 나머지 영역은 픽처의 임의의 격리 영역에 의해 커버되지 않는 픽처의 영역이다. 격리 영역을 코딩할 때, 그의 경계들에 걸쳐 적어도 일부 타입의 인-픽처 예측이 디스에이블된다. 동일 픽처의 격리 영역들로부터 나머지 영역이 예측될 수 있다.
코딩된 격리 영역은 동일한 코딩된 픽처의 임의의 다른 격리 또는 나머지 영역의 존재 없이도 디코딩될 수 있다. 픽처의 모든 격리 영역들을 나머지 영역에 앞서 디코딩하는 것이 필요할 수 있다. 일부 구현들에서, 격리 영역 또는 나머지 영역은 적어도 하나의 슬라이스를 포함한다.
격리 영역들이 서로로부터 예측되는 픽처들은 격리 영역 픽처 그룹으로 그룹화될 수 있다. 격리 영역은 동일 격리 영역 픽처 그룹 내의 다른 픽처들 내의 대응하는 격리 영역으로부터 인터 예측될 수 있는 반면, 다른 격리 영역들로부터의 또는 격리 영역 픽처 그룹 밖에서의 인터 예측은 허용되지 않을 수 있다. 임의의 격리 영역으로부터 나머지 영역이 인터 예측될 수 있다. 결합된 격리 영역들의 형상, 위치 및 크기는 격리 영역 픽처 그룹 내의 픽처마다 변할 수 있다.
H.264/AVC 코덱에서의 격리 영역들의 코딩은 슬라이스 그룹들에 기초할 수 있다. 매크로블록 위치들의 슬라이스 그룹들로의 맵핑은 픽처 파라미터 세트 내에서 지정될 수 있다. H.264/AVC 신택스는 두 가지 타입, 즉 정적 타입 및 변화 타입으로 분류될 수 있는 소정의 슬라이스 그룹 패턴들을 코딩하기 위한 신택스를 포함한다. 정적 슬라이스 그룹들은 픽처 파라미터 세트가 유효한 한은 변하지 않는 반면, 변화 슬라이스 그룹들은 픽처 파라미터 세트 내의 대응 파라미터들 및 슬라이스 헤더 내의 슬라이스 그룹 변화 사이클 파라미터에 따라 픽처마다 변할 수 있다. 정적 슬라이스 그룹 패턴들은 인터리빙된 패턴, 체커보드 패턴, 직사각 배향 패턴 및 자유형 패턴을 포함한다. 변화 슬라이스 그룹 패턴들은 수평 와이프(wipe) 패턴, 수직 와이프 패턴, 박스-인(box-in) 패턴 및 박스-아웃(box-out) 패턴을 포함한다. 직사각 배향 패턴 및 변화 패턴들은 격리 영역들의 코딩에 특히 적합하며, 아래에서 더 면밀하게 설명된다.
직사각 배향 슬라이스 그룹 패턴에 대해, 원하는 수의 직사각형이 픽처 영역 내에 지정된다. 전경 슬라이스 그룹은 대응하는 직사각형 내에 있는 매크로블록 위치들을 포함하지만, 이전에 지정된 슬라이스 그룹들에 의해 이미 할당된 매크로블록 위치들을 배제한다. 나머지 슬라이스 그룹은 전경 슬라이스 그룹들에 의해 커버되지 않는 매크로블록들을 포함한다.
변화 슬라이스 그룹은 매크로블록 위치들의 스캔 순서 및 픽처당 매크로블록들의 수에 있어서의 슬라이스 그룹의 크기의 변화율을 지시함으로써 지정된다. 각각의 코딩된 픽처는 (슬라이스 헤더 내에 유지되는) 슬라이스 그룹 변화 사이클 파라미터와 관련된다. 변화 사이클과 변화율을 곱한 값은 제1 슬라이스 그룹 내의 매크로블록들의 수를 지시한다. 제2 슬라이스 그룹은 매크로블록 위치들의 나머지를 포함한다.
H.264/AVC에서는 슬라이스 그룹 경계들에 걸쳐 인-픽처 예측이 디스에이블되는데, 그 이유는 슬라이스 그룹 경계들이 슬라이스 경계들 내에 있기 때문이다. 따라서, 각각의 슬라이스 그룹은 격리 영역 또는 나머지 영역이다.
각각의 슬라이스 그룹은 픽처 내에 식별 번호를 갖는다. 인코더들은 모션 벡터들이 인코딩될 슬라이스 그룹과 동일한 식별 번호를 갖는 슬라이스 그룹들에 속하는 디코딩된 매크로블록들만을 참조하도록 모션 벡터들을 제한할 수 있다. 인코더들은 소정 범위의 소스 샘플들이 단편 픽셀 보간(fractional pixel interpolation)에서 필요하고, 모든 소스 샘플들이 특정 슬라이스 그룹 내에 있어야 한다는 사실을 고려해야 한다.
H.264/AVC 코덱은 디블록킹 루프 필터를 포함한다. 루프 필터링이 각각의 4x4 블록 경계에 적용되지만, 슬라이스 경계들에서는 인코더에 의해 루프 필터링이 턴오프될 수 있다. 루프 필터링이 슬라이스 경계들에서 턴오프되는 경우, 점진적 랜덤 액세스를 수행할 때 디코더에서의 완전한 재구성된 픽처들이 획득될 수 있다. 그렇지 않은 경우, 재구성된 픽처들은 복구 포인트 후에도 콘텐츠에 있어서 불완전할 수 있다.
H.264/AVC 표준의 복구 포인트 SEI 메시지 및 모션 강제 슬라이스 그룹 세트 SEI 메시지는 일부 슬라이스 그룹들이 제한된 모션 벡터들을 갖는 격리 영역들로서 코딩된다는 것을 지시하는 데 사용될 수 있다. 디코더들은 예를 들어 이 정보를 이용하여 더 빠른 랜덤 액세스를 달성하거나 나머지 영역을 무시함으로써 처리 시간을 줄일 수 있다.
예를 들어 문헌 JCTVC-I0356 <http://phenix.int-evry.fr/jct/doc_end_user/documents/9_Geneva/wg11/JCTVC-I0356-vl.zip>에서 HEVC를 위해 서브픽처 개념이 제안되었으며, 이는 H.264/AVC의 직사각 격리 영역들 또는 직사각 모션 강제 슬라이스 그룹 세트들과 유사하다. JCTVC-I0356에서 제안된 서브픽처 개념은 아래에서 설명되지만, 서브픽처들은 후술하는 것과 유사하지만 동일하지 않게 정의될 수도 있다는 것을 이해해야 한다. 서브픽처 개념에서, 픽처는 사전 정의된 직사각 영역들로 분할된다. 픽처를 구성하는 모든 서브픽처들이 SPS, PPS 및 기준 픽처 세트들과 같은 동일한 전역적 정보를 공유한다는 점을 제외하고는, 각각의 서브픽처가 독립 픽처로서 처리될 것이다. 서브픽처들은 기하학적으로 타일들과 유사하다. 그들의 특성들은 다음과 같다. 그들은 시퀀스 레벨에서 지정되는 LCU 정렬 직사각 영역들이다. 픽처 내의 서브픽처들은 픽처의 서브픽처 래스터 스캔에서 스캐닝될 수 있다. 각각의 서브픽처는 새로운 슬라이스를 시작한다. 다수의 타일이 픽처 내에 존재하는 경우, 서브픽처 경계들과 타일 경계들이 정렬될 수 있다. 서브픽처들에 대해서는 루프 필터링이 존재하지 않을 수 있다. 서브픽처 밖에서의 샘플 값 및 모션 정보의 예측이 존재하지 않을 수 있으며, 서브픽처 밖에서 하나 이상의 샘플 값을 이용하여 도출되는 단편 샘플 위치에서의 샘플 값은 서브픽처 내에서 임의의 샘플을 인터 예측하는 데 사용되지 않을 수 있다. 모션 벡터들이 서브픽처 밖의 영역들을 가리키는 경우, 픽처 경계들에 대해 정의된 패딩 프로세스가 적용될 수 있다. LCU들은 서브픽처가 둘 이상의 타일을 포함하지 않는 한은 서브픽처들 내에서 래스터 순서로 스캐닝된다. 서브픽처 내의 타일들은 서브픽처의 타일 래스터 스캔에서 스캐닝된다. 타일들은 디폴트인 픽처당 1 타일 예를 제외하고는 서브픽처 경계들과 교차할 수 없다. 픽처 레벨에서 이용 가능한 모든 코딩 메커니즘들이 서브픽셀 레벨에서 지원된다.
스케일링 가능 비디오 코딩은 하나의 비트스트림이 상이한 비트 레이트들, 해상도들 또는 프레임 레이트들에서의 콘텐츠의 다수의 표현을 포함할 수 있는 코딩 구조를 지칭한다. 이러한 예들에서, 수신기는 원하는 표현을 그의 특성들(예로서, 디스플레이 디바이스와 최상으로 매칭되는 해상도)에 따라 추출할 수 있다. 대안으로서, 서버 또는 네트워크 요소는 예를 들어 수신기의 네트워크 특성들 또는 처리 능력들에 따라 수신기로 전송할 비트스트림의 부분들을 추출할 수 있다. 통상적으로 스케일링 가능 비트스트림은 이용 가능한 최저 품질 비디오를 제공하는 "기본 계층" 및 하위 계층들과 함께 수신 및 디코딩될 때 비디오 품질을 향상시키는 하나 이상의 향상 계층으로 구성된다. 향상 계층들에 대한 코딩 효율을 개선하기 위해, 그러한 계층의 코딩된 표현은 통상적으로 하위 계층들에 의존한다. 예를 들어, 향상 계층의 모션 및 모드 정보가 하위 계층들로부터 예측될 수 있다. 유사하게, 하위 계층들의 픽셀 데이터를 이용하여 향상 계층에 대한 예측을 생성할 수 있다.
일부 스케일링 가능 비디오 코딩 스킴들에서는 비디오 신호가 기본 계층 및 하나 이상의 향상 계층으로 인코딩될 수 있다. 향상 계층은 시간 해상도(즉, 프레임 레이트), 공간 해상도, 또는 단순히, 다른 계층 또는 그의 일부에 의해 표현되는 비디오 콘텐츠의 품질을 향상시킬 수 있다. 각각의 계층은 모든 그의 종속 계층들과 함께 소정의 공간 해상도, 시간 해상도 및 품질 레벨에서의 비디오 신호의 하나의 표현이다. 본 명세서에서는 스케일링 가능 계층과 모든 그의 종속 계층들을 함께 "스케일링 가능 계층 표현"으로 지칭한다. 스케일링 가능 계층 표현에 대응하는 스케일링 가능 비트스트림의 부분을 추출하고 디코딩하여, 오리지널 신호의 표현을 소정의 충실도로 생성할 수 있다.
일부 코딩 표준들은 스케일링 가능 비트스트림들의 생성을 허락한다. 스케일링 가능 비트스트림의 소정 부분들만을 디코딩함으로써 의미 있는 디코딩된 표현이 생성될 수 있다. 스케일링 가능 비트스트림들은 예를 들어 스트리밍 서버에서 사전 인코딩된 유니캐스트 스트림들의 레이트 적응을 위해 그리고 상이한 능력들 및/또는 상이한 네트워크 조건들을 갖는 단말기들로의 단일 비트스트림의 전송을 위해 사용될 수 있다. 스케일링 가능 비디오 코딩의 일부 다른 사용 예들의 리스트가 ISO/IEC JTC1 SC29 WG11 (MPEG) output document N5540, "Applications and Requirements for Scalable Video Coding", the 64th　MPEG meeting, March 10 to 14, 2003, Pattaya, Thailand에서 발견될 수 있다.
일부 예들에서, 향상 계층 내의 데이터는 소정의 위치 뒤에서 또는 심지어 임의의 위치들에서 절단(truncation)될 수 있으며, 각각의 절단 위치는 더욱 향상된 시각 품질을 표현하는 추가 데이터를 포함할 수 있다. 그러한 스케일링 가능성은 미세 입자(입도) 스케일링 가능성(FGS)으로 지칭된다.
SVC는 현재 재구성되는 계층 또는 다음 하위 계층과 다른 계층들로부터 소정의 정보를 예측할 수 있는 인터-계층(inter-layer) 예측 메커니즘을 이용한다. 인터 계층 예측될 수 있는 정보는 인트라 텍스처, 모션 및 나머지 데이터를 포함한다. 인터 계층 모션 예측은 블록 코딩 모드, 헤더 정보 등의 예측을 포함하며, 하위 계층으로부터의 모션이 상위 계층의 예측을 위해 사용될 수 있다. 인트라 코딩의 경우, 주변 매크로블록들로부터의 또는 하위 계층들의 공동 배치된 매크로블록들로부터의 예측이 가능하다. 이러한 예측 기술들은 이전에 코딩된 액세스 유닛들로부터의 정보를 이용하지 않으며, 따라서 인트라 예측 기술들로 지칭된다. 더구나, 하위 계층들로부터의 나머지 데이터도 현재 계층의 예측을 위해 사용될 수 있다.
SVC는 단일 루프 디코딩으로 알려진 개념을 지정한다. 이것은 강제 인트라 텍스처 예측 모드를 이용함으로써 가능해지며, 따라서 인터 계층 인트라 텍스처 예측은 기본 계층의 대응하는 블록이 인트라 매크로블록들(MB들) 내에 위치하는 MB들에 적용될 수 있다. 이와 동시에, 기본 계층 내의 그러한 인트라 MB들은 (예로서, 1과 동일한 신택스 요소 "constrained_intra_pred_flag"를 갖는) 강제 인트라 예측을 이용한다. 단일 루프 디코딩에서, 디코더는 ("요망 계층" 또는 "타겟 계층"으로 지칭되는) 재생을 위해 요망되는 스케일링 가능 계층에 대해서만 모션 보상 및 완전 픽처 재구성을 수행하며, 따라서 디코딩 복잡성을 크게 줄인다. 요망 계층 외의 모든 계층들은 완전히 디코딩될 필요가 없는데, 그 이유는 인터 계층 예측(예로서, 인터 계층 인트라 텍스처 예측, 인터 계층 모션 예측 또는 인터 계층 나머지 예측)에 사용되지 않는 MB들의 데이터의 전부 또는 일부가 요망 계층의 재구성에 필요하지 않기 때문이다.
단일 디코딩 루프가 대부분의 픽처들의 디코딩을 위해 필요한 반면, 출력 또는 표시를 위해서가 아니라 예측 기준들로서 필요하고, ("store_ref_base_pic_flag"가 1인) 소위 키 픽처들에 대해서만 재구성되는 기본 표현들을 재구성하기 위해 제2 디코딩 루프가 선택적으로 적용된다.
FGS는 SVC 표준의 일부 초안 버전들에 포함되었지만, 결국에는 최종 SVC 표준으로부터 제외되었다. FGS는 SVC 표준의 일부 초안 버전들과 관련하여 뒤에서 설명된다. 절단될 수 없는 향상 계층들에 의해 제공되는 스케일링 가능성은 거친 입자(입도) 스케일링 가능성(CGS)으로 지칭된다. 이것은 공동으로 전통적인 품질(SNR) 스케일링 가능성 및 공간 스케일링 가능성을 포함한다. SVC 표준은 소위 중간 입자 스케일링 가능성(MGS)을 지원하며, 이 경우에 품질 향상 픽처들은 SNR 스케일링 가능 계층 픽처들과 유사하게 코딩되지만, 0보다 큰 quality_id 신택스 요소를 가짐으로써 FGS 계층 픽처들과 유사하게 고레벨 신택스 요소들에 의해 지시된다.
SVC 초안에서의 스케일링 가능성 구조는 3개의 신택스 요소, 즉 "temporal_id", "dependency_id" 및 "quality_id"에 의해 특성화될 수 있다. 신택스 요소 "temporal_id"는 시간 스케일링 가능성 계층구조 또는 간접적으로는 프레임 레이트를 지시하는 데 사용된다. 더 작은 최대 "temporal_id" 값의 픽처들을 포함하는 스케일링 가능 계층 표현은 더 큰 최대 "temporal_id" 값의 픽처들을 포함하는 스케일링 가능 계층 표현보다 작은 프레임 레이트를 갖는다. 주어진 시간 계층은 통상적으로 하위 시간 계층(즉, 더 작은 "temporal_id" 값들을 갖는 시간 계층들)에 의존하지만, 상위 시간 계층에는 의존하지 않는다. 신택스 요소 "dependency_id"는 (전술한 바와 같이, SNR 및 공간 스케일링 가능성 양자를 포함하는) CGS 인터 계층 코딩 종속 계층구조를 지시하는 데 사용된다. 임의의 시간 레벨 위치에서, 더 작은 "dependency_id" 값의 픽처는 더 큰 "dependency_id" 값을 갖는 픽처의 코딩을 위한 인터 계층 예측에 사용될 수 있다. 신택스 요소 "quality_id"는 FGS 또는 MGS 계층의 품질 레벨 계층구조를 지시하는 데 사용된다. 임의의 시간 위치에서 그리고 동일한 "dependency_id" 값과 관련하여, QL과 동일한 "quality_id"를 갖는 픽처는 인터 계층 예측을 위해 QL-1과 동일한 "quality_id"를 갖는 픽처를 사용한다. 0보다 큰 "quality_id"를 갖는 코딩된 슬라이스는 절단 가능 FGS 슬라이스 또는 절단 불가 MGS 슬라이스로서 코딩될 수 있다.
간소화를 위해, 동일한 값의 "dependency_id"를 갖는 하나의 액세스 유닛 내의 모든 데이터 유닛들(예로서, SVC 상황에서의 네트워크 추상화 계층 유닛들 또는 NAL 유닛들)은 종속 유닛 또는 종속 표현으로 지칭된다. 하나의 종속 유닛 내에서, 동일한 값의 "quality_id"를 갖는 모든 데이터 유닛들은 품질 유닛 또는 계층 표현으로 지칭된다.
디코딩된 기본 픽처로도 알려진 기본 표현은 0과 동일한 "quality_id"를 갖는 종속 유닛의 비디오 코딩 계층(VCL) NAL 유닛들의 디코딩으로부터 생성되고 "store_ref_base_pic_flag"가 1로 설정되는 디코딩된 픽처이다. 디코딩된 픽처로도 지칭되는 향상 표현은 최고 종속 표현에 대해 존재하는 모든 계층 표현들을 디코딩하는 정규 디코딩 프로세스로부터 생성된다.
전술한 바와 같이, CGS는 공간 스케일링 가능성 및 SNR 스케일링 가능성 양자를 포함한다. 공간 스케일링 가능성은 처음에 상이한 해상도들을 갖는 비디오의 표현들을 지원하도록 설계된다. 각각의 시간 사례에 대해, VCL NAL 유닛들은 동일한 액세스 유닛 내에 코딩되며, 이러한 VCL NAL 유닛들은 상이한 해상도들에 대응할 수 있다. 디코딩 동안, 저해상도 VCL NAL 유닛은 모션 필드 및 나머지를 제공하며, 이들은 옵션으로서 고해상도 픽처의 최종 디코딩 및 재구성에 의해 상속될 수 있다. 더 오래된 비디오 압축 표현들에 비해, SVC의 공간 스케일링 가능성은 기본 계층으로 하여금 향상 계층의 절단 및 줌잉된 버전이 되는 것을 가능하게 하도록 일반화되었다.
MGS 품질 계층들은 FGS 품질 계층들과 유사하게 "quality_id"를 이용하여 지시된다. (동일한 "dependency_id"를 갖는) 각각의 종속 유닛에 대해, 0과 동일한 "quality_id"를 갖는 계층이 존재하며, 0보다 큰 "quality_id"를 갖는 다른 계층들이 존재할 수 있다. 0보다 큰 "quality_id"를 갖는 이러한 계층들은 슬라이스들이 절단 가능 슬라이스들로서 코딩되는지의 여부에 따라 MGS 계층들 또는 FGS 계층들이다.
기본 형태의 FGS 향상 계층들에서는 인터 계층 예측만이 사용된다. 따라서, FGS 향상 계층들은 디코딩된 시퀀스에서의 어떠한 에러 전파도 유발하지 않고서 자유롭게 절단될 수 있다. 그러나, 기본 형태의 FGS는 낮은 압축 효율을 갖는다. 이러한 문제가 발생하는 이유는 저품질 픽처들만이 인터 예측 기준들을 위해 사용되기 때문이다. 따라서, FGS 향상 픽처들이 인터 예측 기준들로 사용되는 것이 제안되었다. 그러나, 이것은 일부 FGS 데이터가 폐기될 때 드리프트라고도 하는 인코딩-디코딩 미스매치를 유발할 수 있다.
초안 SVC 표준의 한 가지 특징은 FGS NAL 유닛들이 자유롭게 폐기되거나 절단될 수 있다는 점이며, SVCV 표준의 특징은 MGS NAL 유닛들이 비트스트림의 적합성에 영향을 주지 않고서 자유롭게 폐기될 수 있다(그러나 절단될 수 없다)는 점이다. 전술한 바와 같이, 그러한 FGS 또는 MGS 데이터가 인코딩 동안 인터 예측 기준으로 사용된 때, 데이터의 폐기 또는 절단은 디코더 측에서 그리고 인코더 측에서 디코딩된 픽처들 간의 미스매치를 유발할 것이다. 이러한 미스매치도 드리프트로 지칭된다.
FGS 또는 MGS 데이터의 폐기 또는 절단으로 인한 드리프트를 제어하기 위해, SVC는 다음의 솔루션을 이용하였다. 소정의 종속 유닛에서, 기본 표현은 (단지 0과 동일한 "quality_id"를 갖는 CGS 픽처 및 모든 종속 하위 계층 데이터를 디코딩함으로써) 디코딩된 픽처 버퍼 내에 저장된다. 동일 값의 "dependency_id"를 갖는 후속 종속 유닛을 디코딩할 때, FGS 또는 MGS NAL 유닛들을 포함하는 모든 NAL 유닛들은 인터 예측 기준을 위해 기본 표현을 사용한다. 결과적으로, 이전의 액세스 유닛 내의 FGS 또는 MGS NAL 유닛들의 폐기 또는 절단으로 인한 모든 드리프트가 이 액세스 유닛에서 중단된다. 동일한 값의 "dependency_id"를 갖는 다른 종속 유닛들에 대해, 모든 NAL 유닛들은 높은 코딩 효율을 위해, 인터 예측 기준을 위해, 디코딩된 픽처들을 사용한다.
각각의 NAL 유닛은 NAL 유닛 헤더 내에 신택스 요소 "use_ref_base_pic_flag"를 포함한다. 이 요소의 값이 1일 때, NAL 유닛의 디코딩은 인터 예측 프로세스 동안 기준 픽처들의 기본 표현을 사용한다. 신택스 요소 "store_ref_base_pic_flag"는 인터 예측을 위해 사용할 미래의 픽처들을 위해 현재 픽처의 기본 표현을 저장할지(1일 때) 또는 저장하지 않을지(0일 때)를 지정한다.
0보다 큰 "quality_id"를 갖는 NAL 유닛들은 기준 픽처 리스트 구성 및 가중 예측과 관련된 신택스 요소들, 즉 신택스 요소들 "num_ref_active_lx_minus1"(x=0 또는 1)을 포함하지 않으며, 기준 픽처 리스트는 신택스 테이블을 재배열하고, 가중 예측 신택스 테이블은 존재하지 않는다. 결과적으로, MGS 또는 FGS 계층들은 필요시에 동일 종속 유닛의 0과 동일한 "quality_id"를 갖는 NAL 유닛들로부터 이러한 신택스 유닛들을 상속해야 한다.
SVC에서, 기준 픽처 리스트는 ("use_ref_base_pic_flag"가 1일 때) 기본 표현들만으로 또는 ("use_ref_base_pic_flag"가 0일 때) "기본 표현"으로 마킹되지 않은 디코딩된 픽처들만으로 구성되지만, 결코 그들 양자로 동시에 구성되지는 않는다.
스케일링 가능한 포개는 SEI 메시지가 SVC에서 지정되었다. 스케일링 가능한 포개는 SEI 메시지는 SEI 메시지들과 비트스트림의 서브세트들, 예를 들어 지시된 종속 표현들 또는 다른 스케일링 가능 계층들을 연관시키기 위한 메커니즘을 제공한다. 스케일링 가능한 포개는 SEI 메시지는 스케일링 가능한 포개는 SEI 메시지들 자체가 아닌 하나 이상의 SEI 메시지를 포함한다. 스케일링 가능한 포개는 SEI 메시지에 포함된 SEI 메시지는 포개진 SEI 메시지로 지칭된다. 스케일링 가능한 포개는 SEI 메시지에 포함되지 않은 SEI 이미지는 포개지지 않은 SEI 메시지로 지칭된다.
(신호 대 잡음비 또는 SNR로도 알려진) 품질 스케일링 가능성 및/또는 공간 스케일링 가능성을 위한 스케일링 가능 비디오 코덱은 다음과 같이 구현될 수 있다. 기본 계층에 대해, 통상적인 스케일링 불가 비디오 인코더 및 디코더가 사용된다. 기본 계층의 재구성/디코딩된 픽처들은 향상 계층에 대한 기준 픽처 버퍼에 포함된다. 인터 예측을 위해 기준 픽처 리스트(들)를 이용하는 H.264/AVC, HEVC 및 유사한 코덱들에서, 기본 계층 디코딩 픽처들은 향상 계층의 디코딩된 기준 픽처들과 유사하게 향상 계층 픽처의 코딩/디코딩을 위해 기준 픽처 리스트(들) 내에 삽입될 수 있다. 결과적으로, 인코더는 기본 계층 기준 픽처를 인터 예측 기준으로 선택하고, 통상적으로 그의 사용을 코딩된 비트스트림 내의 기준 픽처 인덱스를 이용하여 지시할 수 있다. 디코더는 비트스트림으로부터, 예를 들어 기준 픽처 인덱스로부터, 기본 계층 픽처가 향상 계층에 대한 인터 예측 기준으로 사용된다는 것을 디코딩한다. 디코딩된 기본 계층 픽처가 향상 계층에 대한 예측 기준으로 사용될 때, 이것은 인터 계층 기준 픽처로 지칭된다.
품질 스케일링 가능성에 더하여, 아래의 스케일링 가능성 모드들이 존재한다.
- 공간 스케일링 가능성: 기본 계층 픽처들은 향상 계층 픽처들보다 낮은 해상도로 코딩된다.
- 비트 깊이 스케일링 가능성: 기본 계층 픽처들은 향상 계층 픽처들(예를 들어, 10 또는 12 비트)보다 낮은 비트 깊이(예로서, 8 비트)로 코딩된다.
- 크로마 포맷 스케일링 가능성: 기본 계층 픽처들은 향상 계층 픽처들(예로서, 4:4:4 포맷)보다 낮은 (예로서, 4:2:0 크로마 포맷으로 코딩된) 크로마 충실도를 갖는다.
모든 전술한 스케일링 가능성 예들에서, 기본 계층 정보는 추가 비트 레이트 오버헤드를 최소화하기 위해 향상 계층을 코딩하는 데 사용될 수 있다.
(전체 픽처가 아니라) 픽처 내의 영역만의 향상이 필요한 경우에, 현재의 스케일링 가능 비디오 코딩 솔루션들은 너무 큰 복잡성 오버헤드를 갖거나, 열악한 코딩 효율을 갖는다.
예를 들어, 비디오 픽처 내의 영역만을 더 높은 비트 깊이로 코딩하는 것을 목표로 하는 경우에도, 현재의 스케일링 가능 코딩 솔루션들은 전체 픽처가 높은 비트 깊이로 코딩되는 것을 필요로 하며, 이는 복잡성을 크게 증가시킨다. 이것은 모든 모션 블록들이 더 높은 비트 깊이의 기준 픽셀 샘플들에 액세스하는 것을 필요로 함에 따라 모션 보상 예측이 더 큰 메모리 대역폭을 요구하는 것과 같은 많은 팩터에 기인한다. 또한, 보간 및 역변환은 더 높은 비트 깊이의 샘플들로 인해 32비트 처리를 필요로 한다.
크로마 포맷 스케일링 가능성의 경우, 이미지의 소정 영역이 향상되는 경우에, 동일한 문제가 발생한다. 전체 픽처의 기준 메모리는 4:4:4 포맷을 가져야 하며, 이 또한 메모리 요구를 증가시킨다. 유사하게, 공간 스케일링 가능성이 선택된 영역(예로서, 스포츠 방송의 경우에 플레이어들 및 볼)에만 적용되어야 하는 경우, 전통적인 방법들은 전체 향상 계층 이미지를 최대 해상도로 저장 및 유지하는 것을 필요로 한다.
SNR 스케일링 가능성의 경우, 픽처의 소정 부분만이 관심 영역 밖의 픽처의 나머지에 대한 어떠한 향상 정보도 전송하지 않음으로써 향상되는 경우에, 블록들 각각이 임의의 향상 정보를 포함하는지의 여부를 지시하기 위해 상당한 양의 제어 정보가 시그널링되어야 한다. 이러한 오버헤드는 비디오 시퀀스 내의 모든 픽처에 대해 시그널링되어야 하며, 따라서 비디오 코더의 코딩 효율을 저하시킨다.
이제, 향상 계층 픽처를 향상된 품질 및/또는 공간 해상도로 그리고 높은 코딩 효율로 인코딩하는 것을 가능하게 하기 위해, 본 발명에서는 향상 계층 서브픽처의 개념이 도입된다. 본 발명의 일 양태는 주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩하기 위한 방법을 포함하며, 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 갖고, 방법은
상기 기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 포함하고, 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
서브픽처라는 용어가 다양한 실시예들을 설명하는 데 사용되지만, 다양한 실시예들에서의 서브픽처는 HEVC 표준을 위해 제안되는 서브픽처들과 동일한 특징들을 갖지 않을 수 있지만, 일부 특징들은 동일하거나 유사할 수 있다는 것을 이해해야 한다.
일 실시예에 따르면, 방법은 기본 계층 픽처에 대해 상기 하나 이상의 향상 계층 서브픽처를 예측 인코딩하는 단계를 더 포함한다.
일 실시예에 따르면, 향상 계층 서브픽처들은 이전에 코딩된 향상 계층 픽처들에 대해 예측 코딩되는 것이 허용된다.
일 실시예에 따르면, 향상 계층 서브픽처들은 대응하는 기본 계층 픽처에 대한 향상 정보를 포함하고, 향상 정보는
- 대응하는 기본 계층 픽처의 크로마에 대해 상기 하나 이상의 향상 계층 서브픽처의 크로마의 충실도를 증가시키는 것,
- 대응하는 기본 계층 픽처의 비트 깊이에 대해 상기 하나 이상의 향상 계층 서브픽처의 비트 깊이를 증가시키는 것,
- 대응하는 기본 계층 픽처의 품질에 대해 상기 하나 이상의 향상 계층 서브픽처의 품질을 증가시키는 것, 또는
- 대응하는 기본 계층 픽처의 공간 해상도에 대해 상기 하나 이상의 향상 계층 서브픽처의 공간 해상도를 증가시키는 것
중 적어도 하나를 포함한다.
크로마의 충실도를 증가시키는 것은 예를 들어, 향상 계층 서브픽처에 대해서는 크로마 포맷이 4:2:2 또는 4:4:4일 수 있는 반면, 기본 계층 픽처에 대해서는 크로마 포맷이 4:2:0인 것을 의미한다. 4:2:0 샘플링에서, 2개의 크로마 어레이 또는 픽처 각각은 루마 또는 픽처 어레이의 높이의 절반 및 폭의 절반을 갖는다. 4:2:2 샘플링에서, 2개의 크로마 어레이 각각은 루마 어레이의 동일 높이 및 절반 폭을 갖는다. 4:4:4: 샘플링에서, 2개의 크로마 어레이 각각은 루마 어레이의 동일 높이 및 폭을 갖는다.
비트 폭을 증가시키는 것은 예를 들어, 향상 계층 서브픽처에 대해서는 샘플들의 비트 깊이가 10 또는 12 비트일 수 있는 반면, 기본 계층 픽처에 대해서는 비트 폭이 8 비트인 것을 의미한다.
일 실시예에 따르면, 서브픽처에 대한 향상 정보는 향상 계층 픽처에 대해 코딩될 때와 동일한 신택스를 이용하여 코딩된다. 게다가, 예를 들어 기본 계층 픽처의 샘플링 그리드 또는 향상 계층의 해상도와 매칭되도록 업샘플링된 기본 계층 픽처에 대한 서브픽처의 위치를 지시하는 시퀀스 파라미터 세트에 추가되는 신택스 요소들과 같은 추가 신택스가 존재할 수 있다.
본 발명의 다른 양태는 주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하기 위한 방법을 포함하며, 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 갖고, 방법은
상기 기본 계층 픽처를 디코딩하는 단계,
상기 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계, 및
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
를 포함하고, 상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
일 실시예에 따르면, 공간 스케일링 가능성이 사용되는 경우, 향상 계층 서브픽처 영역 밖의 샘플들은 업샘플링된 기본 계층 픽처로부터 복사된다.
일 실시예에 따르면, 상기 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계는 기본 계층으로부터의 정보를 이용한다.
대안으로서, 재구성 프로세스는 기본 계층 및 향상 계층 서브픽처들에 대해 개별적으로 정의될 수 있고, 향상 계층(기본 계층 + 향상 계층 서브픽처)은 어떠한 사전 정의된 방법도 사용하지 않고서 다양한 수단에 의해 생성될 수 있다. 그러한 경우에, 향상 계층은 기준 픽처 버퍼 내에 배치되지 않으며, 후속 픽처들은 재구성된 향상 계층으로부터의 정보를 이용하지 않는다.
인코딩 및 디코딩 프로세스들의 실시예들이 도 5 및 6에 도시된다.
도 5에서, 비디오 픽처의 영역은 기본 계층 픽처(500) 내의 공동 배치된 영역에 비해 향상된 인코딩 파라미터 값들을 갖는 향상 계층 서브픽처(502)로서 인코딩된다. 향상 계층 서브픽처(502)는 기본 계층 픽처(500)로부터 그리고 아마도 하나 이상의 이전에 코딩된 향상 계층 서브픽처로부터 예측 인코딩될 수 있다. 인코딩된 기본 계층 픽처(500) 및 향상 계층 서브픽처(502)를 포함하는 비트스트림이 디코더로 전송되며, 디코더는 인코딩된 기본 계층 픽처를 디코딩된 기본 계층 픽처(504)로서 디코딩한다. 디코더는 인코딩된 향상 계층 서브픽처도 디코딩하며, 이어서 향상 계층 픽처(506)는 향상 계층 서브픽처 영역 밖의 샘플들을 디코딩된 기본 계층 픽처로부터 향상 계층 픽처로 복사하고, 향상 계층 서브픽처 영역 내의 샘플들을 디코딩된 향상 계층 서브픽처로부터 향상 계층 픽처로 복사함으로써 구성된다.
도 6에서, 비디오 픽처의 2개의 영역이 기본 계층 픽처(600) 내의 공동 배치된 영역들에 비해 향상된 인코딩 파라미터 값들을 갖는 향상 계층 서브픽처들(602, 604)로서 코딩된다. 다시, 향상 계층 서브픽처들(602, 604) 중 하나 또는 양자가 기본 계층 픽처(500)로부터 그리고 아마도 하나 이상의 이전에 코딩된 향상 계층 서브픽처로부터 예측 인코딩될 수 있다.
인코딩된 기본 계층 픽처(600) 및 향상 계층 서브픽처들(602, 604)을 포함하는 비트스트림이 디코더로 전송되며, 디코더는 인코딩된 기본 계층 픽처를 디코딩된 기본 계층 픽처(606)로서 디코딩한다. 디코더는 인코딩된 향상 계층 서브픽처들 양자를 디코딩하고, 이어서 향상 계층 픽처(608)는 향상 계층 서브픽처 영역 밖의 샘플들을 디코딩된 기본 계층 픽처로부터 향상 계층 픽처로 복사하고, 향상 계층 서브픽처 영역 내의 샘플들을 디코딩된 향상 계층 서브픽처로부터 향상 계층 픽처로 복사함으로써 구성된다.
향상 계층 서브픽처들은 다양한 구현 대안들에서 이용될 수 있으며, 이들 중 일부가 아래에서 특정 실시예들로서 설명된다.
일 실시예에 따르면, 향상 계층 서브픽처의 좌상 코너는 픽처의 최대 코딩 유닛(LCU)의 좌상 코너에 정렬될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처의 크기는 최대 코딩 유닛(LCU)의 크기 또는 예측 유닛(PU)의 크기 또는 코딩 유닛(CU)의 크기의 정수배(1, 2, 3, 4 등)로 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 기본 계층 픽처의 공동 배치 영역 내의 픽셀들만이 사용될 수 있도록 제한될 수 있다. 이것은 도 7에 도시되며, 여기서는 향상 계층 서브픽처(704)를 정의할 때 기본 계층 픽처(700)의 공동 배치 영역(702)으로부터의 기준 샘플들만의 사용이 허가된다. 일부 실시예들에서, 기본 계층은 향상 계층 서브픽처와 공동 배치되는 격리 영역과 같은 서브픽처도 포함할 수 있다. 일부 실시예들에서, 향상 계층의 서브픽처는 인코딩 및/또는 디코딩에서 기본 계층으로부터의 예측을 이용할 수 있지만, 예측은 기본 계층의 서브픽처 내의 샘플들만을 이용하도록 제한된다.
일 실시예에 따르면, 향상 계층 서브픽처들의 수는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 상이한 이미지 처리 동작들을 포함할 수 있다. 예를 들어, 하나의 컬러 공간으로부터(예로서, YUV 컬러 공간으로부터) 다른 컬러 공간으로의(예로서, RGB 컬러 공간으로의) 변환 동작들이 이용될 수 있다.
일 실시예에 따르면, 제1 향상 계층 서브픽처는 제2 향상 계층 서브픽처와 다른 이미지의 특성들을 향상시킬 수 있다. 예를 들어, 도 6에서, 향상 계층 서브픽처(602)는 크로마 포맷 향상을 제공할 수 있는 반면, 향상 계층 서브픽처(604)는 비트 깊이 향상을 제공할 수 있다.
일 실시예에 따르면, 단일 향상 계층 서브픽처가 이미지의 다수의 특성을 향상시킬 수 있다. 예를 들어, 도 5에서, 향상 계층 서브픽처(502)는 크로마 포맷 향상 및 비트 깊이 향상을 제공할 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 위치 및 크기는 기본 계층 픽처에서 사용되는 타일들 또는 슬라이스들과 동일할 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되지 않도록 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되는 것이 허용될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처 개념은 보완 향상 정보(SEI) 메시지의 형태로 구현될 수 있다. 예를 들어, 모션 강제 타일 세트 SEI 메시지는 격리 영역 픽처 그룹을 형성하는 지시된 또는 추정된 픽처들의 그룹 내의, 예를 들어 코딩된 비디오 시퀀스 내의 인덱스들 또는 주소들 등의 세트를 지시할 수 있다. 모션 강제 타일 세트 SEI 메시지는 예를 들어 이를 스케일링 가능한 포개는 SEI 메시지 등 내에 동봉함으로써 스케일링 가능 계층에 고유하도록 지시될 수 있다. 모션 강제 타일 세트 SEI 메시지가 비기본 계층에 고유하도록 지시될 때, 이것은 인터 계층 예측에 사용되는 기본 계층 또는 다른 계층 상의 서브픽처 영역 밖의 영역들로부터의 인터 계층 예측을 방지하도록 더 지시되거나 추정될 수 있다. 이것은 자신 밖의 영역들이 0의 예측 에러를 갖거나 예측 에러가 존재하지 않도록 인터 계층 예측되는 향상 계층 서브픽처에 대해 더 지시될 수 있다. 추가로 또는 대안으로서, 향상 계층 서브픽처 내의 양자화 파라미터와 같은 일부 픽처 특성들은 향상 계층 서브픽처 밖의 그것들과 다를 수 있다. 추가로 또는 대안으로서, 일부 픽처 특성들은 인코딩을 위한 사전 처리로서 변경될 수 있으며, 예를 들어 향상 계층 서브픽처 밖의 영역들은 인코딩 전에 저역 통과 필터링될 수 있으며, 따라서 서브픽처 내의 영역은 본질적으로 더 큰 공간 충실도를 갖는다. 유사하게, 더 높은 비트 깊이(예로서, 10 비트)가 전체 픽처의 인코딩을 위해 사용된 경우에도, 향상 계층 서브픽처 밖의 영역들은 인코딩 전에 전처리되거나, 인코딩 동안 8 비트 컬러 깊이를 유효하게 갖도록 강제될 수 있다.
프레임 팩킹(packing)은 인코더 측에서 인코딩을 위한 전처리 단계로서 둘 이상의 프레임을 단일 프레임으로 팩킹한 후에 프레임 팩킹된 프레임들을 통상의 2D 비디오 코딩 스킴을 이용하여 인코딩하는 방법을 지칭한다. 따라서, 디코더에 의해 생성되는 출력 프레임들은 인코더 측에서 하나의 프레임으로 공간 팩킹된 입력 프레임들에 대응하는 구성 프레임들을 포함한다. 프레임 팩킹은 입체 비디오에 사용될 수 있으며, 이 경우에 한 쌍의 프레임, 즉 좌측 눈/카메라/뷰에 대응하는 하나의 프레임 및 우측 눈/카메라/뷰에 대응하는 다른 하나의 프레임은 단일 프레임으로 팩킹된다. 프레임 팩킹은 또한 또는 대안으로서 깊이 또는 불균형이 향상된 비디오에 사용될 수 있으며, 구성 프레임들 중 하나는 정규 컬러 정보(루마 및 크로마 정보)를 포함하는 다른 구성 프레임에 대응하는 깊이 또는 불균형 정보를 나타낸다. 프레임 팩킹의 사용은 예를 들어 H.264/AVC 등의 프레임 팩킹 배열 SEI 메시지를 이용하여 비디오 비트스트림 내에서 시그널링될 수 있다. 프레임 팩킹의 사용은 또한 또는 대안으로서 고화질 멀티미디어 인터페이스(HDMI)와 같은 비디오 인터페이스들을 통해 지시될 수 있다. 프레임 팩킹의 사용은 또한 또는 대안으로서 세션 설명 프로토콜(SDP)과 같은 다양한 능력 교환 및 모드 협상 프로토콜들을 이용하여 지시 및/또는 협상될 수 있다.
깊이 향상된 비디오는 하나 이상의 깊이 뷰들을 갖는 깊이 비디오와 관련된 하나 이상의 뷰를 갖는 텍스처 비디오를 지칭한다. 비디오 플러스 깊이(V+D), 멀티뷰 비디오 플러스 깊이(MVD) 및 계층화된 깊이 비디오(LDV)의 사용을 포함하는 다양한 접근법들이 깊이 향상된 비디오의 표현을 위해 사용될 수 있다. 비디오 플러스 깊이(V+D) 표현에서, 텍스처의 단일 뷰 및 깊이의 각각의 뷰가 각각 텍스처 픽처 및 깊이 픽처들의 시퀀스들로서 표현된다. MVD 표현은 다수의 텍스처 뷰 및 각각의 깊이 뷰를 포함한다. LDV 표현에서, 중앙 뷰의 텍스처 및 깊이는 통상적으로 표현되는 반면, 다른 뷰들의 텍스처 및 깊이는 부분적으로 표현되며, 중간 뷰들의 올바른 뷰 합성에 필요한 폐쇄되지 않은 영역들만을 커버한다.
일 실시예에 따르면, 본 발명은 예를 들어 병렬 프레임 팩킹 배열에서 비디오 플러스 깊이 표현, 즉 텍스처 프레임 및 깊이 프레임을 포함하는 프레임 팩킹된 비디오에 적용될 수 있다. 프레임 팩킹된 프레임의 기본 계층은 동일한 크로마 포맷을 가질 수 있거나, 구성 프레임들은 텍스처 구성 프레임에 대해 4:2:0과 같은 상이한 크로마 포맷을 그리고 깊이 구성 프레임에 대해 루마 전용 포맷을 가질 수 있다. 프레임 팩킹된 프레임의 향상 계층은 기본 계층 프레임 팩킹된 프레임의 구성 프레임들 중 하나의 구성 프레임에만 관련될 수 있다. 예컨대, 향상 계층은
- 텍스처 구성 프레임에 대한 크로마 포맷 향상
- 텍스처 구성 프레임 또는 깊이 구성 프레임에 대한 비트 깊이 향상
- 텍스처 구성 프레임 또는 깊이 구성 프레임에 대한 공간 향상
중 하나 이상을 포함할 수 있다.
입체 비디오에서 압축 개선을 획득하기 위한 추가적인 연구 부문은 2개의 코딩된 뷰들 간에 품질 차이가 존재하는 비대칭 입체 비디오 코딩으로 알려져 있다. 이것은 사람 시각 시스템(HVS)이 입체 이미지 쌍을 융합하여 인식 품질이 더 높은 품질의 뷰의 품질에 가깝게 된다는 광범위하게 믿어지는 가정에 기인한다. 따라서, 2개의 코딩된 뷰 간의 품질 차이를 제공함으로써 압축 개선이 획득될 수 있다.
2개의 뷰 간의 비대칭은 예를 들어 아래의 방법들 중 하나 이상에 의해 달성될 수 있다.
a) 뷰들이 상이한 공간 해상도 및/또는 상이한 주파수 도메인 특성들을 갖는 해상도 비대칭 입체 비디오 코딩으로도 지칭되는 혼합 해상도(MR) 입체 비디오 코딩. 통상적으로, 뷰들 중 하나는 저역 통과 필터링되며, 따라서 더 적은 양의 공간 상세 또는 더 낮은 공간 해상도를 갖는다. 더구나, 저역 통과 필터링된 뷰는 통상적으로 더 적은 픽셀들에 의해 표현되는 더 거친 샘플링 그리드를 이용하여 샘플링된다.
b) 혼합 해상도 크로마 샘플링. 하나의 뷰의 크로마 픽처들은 다른 뷰의 각각의 크로마 픽처보다 적은 샘플들에 의해 표현된다.
c) 비대칭 샘플 도메인 양자화. 2개의 뷰의 샘플 값들은 상이한 단계 크기를 이용하여 양자화된다. 예를 들어, 하나의 뷰의 루마 샘플들은 0 내지 255(즉, 샘플당 8 비트)의 범위를 이용하여 표현될 수 있으며, 범위는 제2 뷰에 대해 0 내지 159의 범위로 스케일링될 수 있다. 더 적은 양자화 단계들로 인해, 제2 뷰는 제1 뷰에 비해 더 높은 비율로 압축될 수 있다. 상이한 양자화 단계 크기들은 루마 및 크로마 샘플들에 사용될 수 있다. 비대칭 샘플 도메인 양자화의 특정 예로서, 각각의 뷰 내의 양자화 단계들의 수가 2개의 제곱과 매칭될 때 비트 깊이 비대칭 입체 비디오를 참조할 수 있다.
d) 비대칭 변환 도메인 양자화. 2개의 뷰의 변환 계수들은 상이한 단계 크기를 이용하여 양자화된다. 결과적으로, 뷰들 중 하나는 더 낮은 충실도를 가지며, 블록킹 및 링잉과 같은 더 많은 양의 가시적인 코딩 아티팩트들을 겪을 수 있다.
e) 전술한 상이한 인코딩 기술들의 조합.
비대칭 입체 비디오 코딩의 전술한 타입들이 도 8에 도시된다. 제1 행은 단지 변환 코딩된 더 높은 품질의 뷰를 제공한다. 나머지 행들은 상이한 단계들, 즉 다운샘플링, 샘플 도메인 양자화 및 변환 기반 코딩을 이용하여 더 낮은 품질의 뷰를 생성하기 위해 연구된 여러 개의 인코딩 조합을 제공한다. 도 8로부터, 처리 체인 내의 다른 단계들이 어떻게 적용되는지에 관계없이 다운샘플링 또는 샘플 도메인 양자화가 적용 또는 생략될 수 있다는 것을 알 수 있다. 또한, 변환 도메인 코딩 단계 내의 양자화 단계는 다른 단계들과 무관하게 선택될 수 있다. 따라서, 비대칭 입체 비디오 코딩의 실질적인 실현은 도 8의 행 e)에 도시된 바와 같은 조합 방식으로 비대칭을 달성하기 위한 적절한 기술들을 이용할 수 있다.
일 실시예에 따르면, 본 발명은 예를 들어 병렬 프레임 팩킹 배열에서 입체 또는 멀티뷰 비디오 표현을 포함하는 프레임 팩킹된 비디오에 적용될 수 있다.
프레임 팩킹된 프레임의 기본 계층은 양 뷰가 대략 동일한 시각적 품질을 갖는 대칭 입체 비디오를 표현할 수 있거나, 프레임 팩킹된 프레임의 기본 계층은 비대칭 입체 비디오를 표현할 수 있다. 프레임 팩킹된 프레임의 향상 계층은 기본 계층 프레임 팩킹된 프레임의 구성 프레임들 중 하나의 구성 프레임에만 관련될 수 있다. 향상 계층은 비대칭 입체 비디오 코딩을 이용하도록 코딩될 수 있거나, 기본 계층이 비대칭 입체 비디오로서 코딩된 경우에는 대칭 입체 비디오 표현을 제공하도록 코딩될 수 있다. 예를 들어, 향상 계층은
- 구성 프레임들 중 하나에 대한 공간 향상
- 구성 프레임들 중 하나에 대한 품질 향상
- 구성 프레임들 중 하나에 대한 크로마 포맷 향상
- 구성 프레임들 중 하나에 대한 비트 깊이 향상
중 하나 이상을 포함할 수 있다.
본 발명의 다른 양태는 디코더가 기본 계층 픽처 및 적어도 하나의 향상 계층 서브픽처를 수신할 때의 디코더의 동작이다. 도 9는 본 발명의 실시예들을 이용하는 데 적합한 비디오 디코더의 블록도를 나타낸다.
디코더는 전술한 인코더의 엔트로피 인코더(330)에 대한 역동작으로서 수신 신호에 대해 엔트로피 디코딩을 수행하는 엔트로피 디코더(600)를 포함한다. 엔트로피 디코더(600)는 엔트로피 디코딩의 결과들을 예측 에러 디코더(602) 및 픽셀 예측기(604)로 출력한다.
픽셀 예측기(604)는 엔트로피 디코더(600)의 출력을 수신한다. 픽셀 예측기(604) 내의 예측기 선택기(614)는 인트라 예측, 인터 예측 또는 보간 동작을 수행할지를 결정한다. 더구나, 예측기 선택기는 이미지 블록(616)의 예측 표현을 제1 결합기(613)로 출력할 수 있다. 이미지 블록(616)의 예측 표현은 예비 재구성 이미지(618)를 생성하기 위해 재구성 예측 에러 신호(612)와 함께 사용된다. 예비 재구성 이미지(618)는 예측기(614)에서 사용될 수 있거나, 필터(620)로 전송될 수 있다. 필터(620)는 최종 재구성 신호(622)를 출력하는 필터링을 적용한다. 최종 재구성 신호(622)는 기준 프레임 메모리(624)에 저장될 수 있으며, 기준 프레임 메모리(624)는 또한 예측 동작들을 위한 예측기(614)에 접속될 수 있다.
예측 에러 디코더(602)는 엔트로피 디코더(600)의 출력을 수신한다. 예측 에러 디코더(602)의 역양자화기(692)는 엔트로피 디코더(600)의 출력을 역양자화할 수 있고, 역변환 블록(693)은 역양자화기(692)에 의해 출력된 역양자화 신호에 대해 역변환 동작을 수행할 수 있다. 엔트로피 디코더(600)의 출력은 또한 예측 에러 신호가 적용되지 않아야 한다는 것을 지시할 수 있고, 이 경우에 예측 에러 디코더는 모두 0인 출력 신호를 생성한다.
따라서, 위의 프로세스에서, 디코더는 먼저 기본 계층 픽처를 디코딩할 수 있고, 이어서 이를 향상 계층 서브픽처의 인터 예측을 위한 기준 픽처로서 사용할 수 있다. 이어서, 디코더는 향상 계층 서브픽처 영역 밖의 샘플들을 디코딩된 기본 계층 픽처로부터 향상 계층 픽처로 복사하고, 향상 계층 서브픽처 영역 내의 샘플들을 디코딩된 향상 계층 서브픽처로부터 향상 계층 픽처로 복사함으로써 향상 계층 픽처를 구성한다.
디코딩된 픽처들은 모션 보상 예측을 이용하여 후속 프레임들을 디코딩하는 데 사용될 수 있으므로, 기준 프레임 버퍼 내에 배치될 수 있다. 예시적인 구현에서, 인코더 및/또는 디코더는 디코딩된 향상 계층 픽처 및 기본 계층 픽처를 기준 프레임 버퍼 내에 개별적으로 배치한다. 대안으로서, 인코더 및/또는 디코더는 기준 프레임 버퍼 내에 향상 계층 서브픽처만을 배치하고, 스케일링 가능한 비디오 코딩을 위한 SVC 또는 다른 단일 루프 디코딩 스킴들과 유사하게, 디코딩된 향상 계층 픽처를 기본 계층 픽처들에 대한 기준으로 사용할 수 있다. 다른 대안은 인코더 및/또는 디코더가 향상 계층 서브픽처 및 기본 계층 픽처를 기준 프레임 버퍼 내에 배치할 수 있다는 것이다. 다른 대안은 인코더 및/또는 디코더가 기본 계층 기준 픽처들을 위해 사용된 기준 프레임 버퍼와 개념적으로 분리된 기준 프레임 버퍼 내에 향상 계층 서브픽처를 배치할 수 있다는 것이다.
게다가, 프로세스는 인코딩 및 디코딩에서 향상 계층 서브픽처를 향상 계층의 나머지 부분들에 사용되는 포맷으로, 예로서 동일 비트 깊이 또는 동일 크로마 포맷으로 "하향 변환"하는 데 사용될 수 있다. 이어서, 하향 변환된 향상 계층 서브픽처와 동일 픽처의 나머지 부분들은 향상 계층 서브픽처 인코딩/디코딩에 사용된 것과 개념적으로 분리될 수 있는 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 병합될 수 있다. 결과적으로, 향상 계층 서브픽처 밖의 예측 유닛들의 모션 벡터들은 서브픽처 밖의 샘플들을 사용하도록 제한될 필요가 없다. 기준 프레임 버퍼 내에 배치된 향상 계층 서브픽처의 특성들은 향상 계층 픽처 또는 기본 계층 픽처와 다를 수 있다. 예를 들어, 향상 계층 서브픽처의 비트 깊이는 10 비트일 수 있는 반면, 기본 계층 픽처의 비트 깊이는 8 비트이다.
전술한 본 발명의 실시예들은 관련 프로세스들의 이해를 돕기 위해 개별 인코더 및 디코더 장치와 관련된 코덱을 설명한다. 그러나, 장치들, 구조들 및 동작들은 단일 인코더-디코더 장치/구조/동작으로서 구현될 수 있다는 것을 알 것이다. 더구나, 본 발명의 일부 실시예들에서, 코더 및 디코더는 일부 또는 모든 공통 요소들을 공유할 수 있다.
위의 예들은 전자 디바이스 내의 코덱 내에서 동작하는 본 발명의 실시예들을 설명하지만, 후술하는 바와 같은 본 발명은 임의의 비디오 코덱의 일부로서 구현될 수 있다는 것을 알 것이다. 따라서, 예를 들어, 본 발명의 실시예들은 고정 또는 유선 통신 경로들을 통해 비디오 코딩을 구현할 수 있는 비디오 코덱에서 구현될 수 있다.
따라서, 사용자 장비는 위의 본 발명의 실시예들에서 설명된 것들과 같은 비디오 코덱을 포함할 수 있다. 사용자 장비라는 용어는 이동 전화, 휴대용 데이터 처리 디바이스 또는 휴대용 웹 브라우저와 같은 임의의 적절한 타입의 무선 사용자 장비를 포함하는 것을 의도한다는 것을 알아야 한다.
더구나, 공개 육상 이동 네트워크(PLMN)의 요소들도 전술한 바와 같은 비디오 코덱들을 포함할 수 있다.
일반적으로, 본 발명의 다양한 실시예들은 하드웨어 또는 특수 목적 회로들, 소프트웨어, 논리 또는 이들의 임의 조합에서 구현될 수 있다. 예를 들어, 일부 양태들은 하드웨어에서 구현될 수 있는 반면, 다른 양태들은 제어기, 마이크로프로세서 또는 다른 컴퓨팅 디바이스에 의해 실행될 수 있는 펌웨어 또는 소프트웨어에서 구현될 수 있지만, 본 발명에 그에 한정되지 않는다. 본 발명의 다양한 양태들은 블록도들, 흐름도들로서 또는 소정의 다른 그림 표현들을 이용하여 도시되고 설명될 수 있지만, 본 명세서에서 설명되는 이러한 블록들, 장치들, 시스템들, 기술들 또는 방법들은 비한정적인 예들로서 하드웨어, 소프트웨어, 펌웨어, 특수 목적 회로 또는 논리, 범용 하드웨어 또는 제어기 또는 다른 컴퓨팅 디바이스 또는 이들의 소정 조합으로서 구현될 수 있다는 것을 잘 이해한다.
본 발명의 실시예들은 이동 디바이스의 데이터 프로서세에 의해, 예로서 프로세서 엔티티에서 실행될 수 있는 컴퓨터 소프트웨어에 의해 또는 하드웨어에 의해 또는 소프트웨어와 하드웨어의 조합에 의해 구현될 수 있다. 또한, 이와 관련하여, 도면들에서와 같은 논리 흐름의 임의의 블록들은 프로그램 단계들, 또는 상호접속된 논리 회로들, 블록들 및 기능들, 또는 프로그램 단계들과 논리 회로들, 블록들 및 기능들의 조합을 나타낼 수 있다는 점에 유의해야 한다. 소프트웨어는 메모리 칩들, 또는 프로세서 내에 구현된 메모리 블록들과 같은 물리 매체들, 하드 디스크 또는 플로피 디스크들과 같은 자기 매체들, 및 예를 들어 DVD 및 그의 데이터 변형들, CD와 같은 광학 매체들 상에 저장될 수 있다.
메모리는 국지적 기술 환경에 적합한 임의 타입일 수 있으며, 반도체 기반 메모리 디바이스, 자기 메모리 디바이스 및 시스템, 광학 메모리 디바이스 및 시스템, 고정식 메모리 및 이동식 메모리와 같은 임의의 적절한 데이터 저장 기술을 이용하여 구현될 수 있다. 데이터 프로세서들은 국지적 기술 환경에 적합한 임의 타입일 수 있으며, 비한정적인 예로서 범용 컴퓨터, 특수 목적 컴퓨터, 마이크로프로세서, 디지털 신호 프로세서(DSP) 및 멀티코어 프로세서 아키텍처 기반 프로세서 중 하나 이상을 포함할 수 있다.
본 발명의 실시예들은 집적 회로 모듈들과 같은 다양한 컴포넌트들에서 실시될 수 있다. 집적 회로들의 설계는 일반적으로 고도로 자동화된 프로세스이다. 복잡하고 강력한 소프트웨어 도구들이 논리 레벨 설계를 반도체 기판 상에 에칭 및 형성될 준비가 된 반도체 회로 설계로 변환하는 데 이용될 수 있다.
캘리포니아, 마운틴뷰의 시놉스사 및 캘리포니아, 산호세의 카덴스 디자인에 의해 제공되는 것들과 같은 프로그램들은 명확하게 설정된 규칙들은 물론, 사전 저장된 설계 모듈들의 라이브러리들을 이용하여 도체들을 자동으로 라우팅하고, 컴포넌트들을 반도체 칩 상에 배치한다. 반도체 회로에 대한 설계가 완료되면, 표준화된 전자 포맷(예로서, Opus, GDSII 등)의 결과적인 설계가 제조를 위해 반도체 제조 설비 또는 "팹(fab)"으로 전송될 수 있다.
위의 설명은 예시적이고 비한정적인 예들로서 본 발명의 실시예의 완전하고 유익한 설명을 제공하였다. 그러나, 첨부 도면들 및 첨부된 청구항들과 관련하여 고찰될 때 위의 설명에 비추어 다양한 변경들 및 적응들이 관련 분야의 기술자들에게 명백해질 것이다. 그러나, 본 발명의 가르침들의 모든 그러한 그리고 유사한 변경들은 본 발명의 범위 내에 여전히 속할 것이다.
제1 실시예에 따른 방법은 주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩하기 위한 방법을 포함하며, 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 갖고, 방법은
상기 기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 포함하고, 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
일 실시예에 따르면, 방법은 기본 계층 픽처에 대해 상기 하나 이상의 향상 계층 서브픽처를 예측 인코딩하는 단계를 더 포함한다.
일 실시예에 따르면, 향상 계층 서브픽처들은 이전에 코딩된 향상 계층 픽처들에 대해 예측 코딩되는 것이 허용된다.
일 실시예에 따르면, 향상 계층 서브픽처들은 이전에 코딩된 향상 계층 서브픽처들에 대해 예측 코딩되는 것이 허용된다.
일 실시예에 따르면, 향상 계층 서브픽처들은 대응하는 기본 계층 픽처에 대한 향상 정보를 포함하고, 향상 정보는
대응하는 기본 계층 픽처의 크로마에 대해 상기 하나 이상의 향상 계층 서브픽처의 크로마의 충실도를 증가시키는 것,
대응하는 기본 계층 픽처의 비트 깊이에 대해 상기 하나 이상의 향상 계층 서브픽처의 비트 깊이를 증가시키는 것,
대응하는 기본 계층 픽처의 품질에 대해 상기 하나 이상의 향상 계층 서브픽처의 품질을 증가시키는 것, 또는
대응하는 기본 계층 픽처의 공간 해상도에 대해 상기 하나 이상의 향상 계층 서브픽처의 공간 해상도를 증가시키는 것
중 적어도 하나를 포함한다.
일 실시예에 따르면, 서브픽처에 대한 향상 정보는 향상 계층 픽처에 대해 코딩될 때와 동일한 신택스를 이용하여 코딩된다.
일 실시예에 따르면, 향상 계층 서브픽처의 좌상 코너는 픽처의 최대 코딩 유닛(LCU)의 좌상 코너에 정렬될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처의 크기는 최대 코딩 유닛(LCU)의 크기 또는 예측 유닛(PU)의 크기 또는 코딩 유닛(CU)의 크기의 정수배(1, 2, 3, 4 등)로 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 기본 계층 픽처의 공동 배치 영역 내의 픽셀들만이 사용될 수 있도록 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 수는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 예측 프로세스는 상이한 이미지 처리 동작들을 포함할 수 있다.
일 실시예에 따르면, 제1 향상 계층 서브픽처는 제2 향상 계층 서브픽처와 다른 이미지의 특성들을 향상시킬 수 있다.
일 실시예에 따르면, 단일 향상 계층 서브픽처가 이미지의 다수의 특성을 향상시킬 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 상이한 픽처들에 대해 변하거나, 일정하게 유지될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 위치 및 크기는 기본 계층 픽처에서 사용되는 타일들 또는 슬라이스들과 동일할 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되지 않도록 제한될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처들의 크기 및 위치는 공간적으로 중복되는 것이 허용될 수 있다.
일 실시예에 따르면, 향상 계층 서브픽처 개념은 보완 향상 정보(SEI) 메시지의 형태로 구현될 수 있다.
일 실시예에 따르면, 하나 이상의 향상 계층 서브픽처는 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들에서 사용된 동일 포맷으로 변환되며, 변환된 향상 계층 픽처는 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 병합된다.
제2 실시예에 따른 장치는
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더를 포함하고,
상기 비디오 인코더는
기본 계층 픽처를 인코딩 및 재구성하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제3 실시예에 따르면, 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체가 제공되며, 코드는 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계,
기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 수행하게 하며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제4 실시예에 따르면, 적어도 하나의 프로세서 및 적어도 하나의 메모리가 제공되며, 상기 적어도 하나의 메모리는 코드를 저장하며, 코드는 상기 적어도 하나의 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계,
기본 계층 픽처를 인코딩 및 재구성하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
를 수행하게 하며,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제5 실시예에 따른 방법은 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하기 위한 방법을 포함하며,
방법은
기본 계층 픽처를 디코딩하는 단계,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
를 포함하고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
일 실시예에 따르면, 디코딩된 향상 계층 서브픽처들은 디코딩된 향상 계층 픽처들과 분리되어 기준 프레임 버퍼 내에 배치된다.
일 실시예에 따르면, 디코딩된 향상 계층 픽처들은 기준 프레임 버퍼 내에 배치되지 않는 반면, 디코딩된 향상 계층 서브픽처들은 기준 프레임 버퍼 내에 배치된다.
일 실시예에 따르면, 공간 스케일링 가능성이 사용되는 경우, 향상 계층 서브픽처 영역 밖의 샘플들은 업샘플링된 기본 계층 픽처로부터 복사된다.
일 실시예에 따르면, 상기 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계는 기본 계층으로부터의 정보를 이용한다.
일 실시예에 따르면, 하나 이상의 향상 계층 서브픽처는 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된 상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들에서 사용된 동일 포맷으로 변환되며, 변환된 향상 계층 픽처는 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 병합된다.
제6 실시예에 따른 장치는 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하기 위한 비디오 디코더를 포함하고,
상기 비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되며,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제7 실시예에 따르면, 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체가 제공되며, 코드는 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계,
기본 계층 픽처를 디코딩하는 단계,
주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -, 및
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
를 수행하게 하고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제8 실시예에 따르면, 적어도 하나의 프로세서 및 적어도 하나의 메모리가 제공되며, 상기 적어도 하나의 메모리는 코드를 저장하고, 코드는 상기 적어도 하나의 프로세서에 의해 실행될 때 장치로 하여금,
기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계를 수행하게 하고,
비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제9 실시예에 따르면, 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더가 제공되며, 상기 비디오 인코더는
기본 계층 픽처를 인코딩 및 재구성하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되고,
상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 재구성된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.
제10 실시예에 따르면, 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하도록 구성되는 비디오 디코더가 제공되며, 비디오 디코더는
기본 계층 픽처를 디코딩하고,
상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되고,
상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플들은 디코딩된 기본 계층 픽처로부터 재구성된 향상 계층 픽처로 복사된다.

Claims (52)

  1. 기본 계층 픽처를 인코딩 및 재구성하는 단계와,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 - 와,
    상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
    를 포함하고,
    상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    방법.
  2. 제1항에 있어서,
    상기 기본 계층 픽처에 대해 상기 하나 이상의 향상 계층 서브픽처를 예측 인코딩하는 단계를 더 포함하는
    방법.
  3. 제1항 또는 제2항에 있어서,
    상기 향상 계층 서브픽처는 이전에 코딩된 향상 계층 픽처에 대해 예측 코딩되는 것이 허용되는
    방법.
  4. 제1항 내지 제3항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처는 이전에 코딩된 향상 계층 서브픽처에 대해 예측 코딩되는 것이 허용되는
    방법.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처는 대응하는 기본 계층 픽처에 대한 향상 정보를 포함하고,
    상기 향상 정보는
    상기 대응하는 기본 계층 픽처의 크로마에 대해 상기 하나 이상의 향상 계층 서브픽처의 크로마의 충실도를 증가시키는 것,
    상기 대응하는 기본 계층 픽처의 비트 깊이에 대해 상기 하나 이상의 향상 계층 서브픽처의 비트 깊이를 증가시키는 것,
    상기 대응하는 기본 계층 픽처의 품질에 대해 상기 하나 이상의 향상 계층 서브픽처의 품질을 증가시키는 것, 또는
    상기 대응하는 기본 계층 픽처의 공간 해상도에 대해 상기 하나 이상의 향상 계층 서브픽처의 공간 해상도를 증가시키는 것
    중 적어도 하나를 포함하는
    방법.
  6. 제5항에 있어서,
    서브픽처에 대한 상기 향상 정보를 향상 계층 픽처에 대해 코딩되는 경우와 동일한 신택스를 이용하여 코딩하는 단계를 더 포함하는
    방법.
  7. 제1항 내지 제6항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 좌상 코너를 상기 픽처의 최대 코딩 유닛(LCU)의 좌상 코너에 정렬하는 단계를 더 포함하는
    방법.
  8. 제5항에 있어서,
    상기 향상 계층 서브픽처의 크기를 최대 코딩 유닛(LCU)의 크기 또는 예측 유닛(PU)의 크기 또는 코딩 유닛(CU)의 크기의 정수배로 제한하는 단계를 더 포함하는
    방법.
  9. 제2항 내지 제8항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 기본 계층 픽처의 공동 배치 영역 내의 픽셀만이 사용될 수 있도록 예측 프로세스를 제한하는 단계를 더 포함하는
    방법.
  10. 제2항 내지 제9항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 상기 예측 프로세스 내에 상이한 이미지 처리 동작을 포함시키는 단계를 더 포함하는
    방법.
  11. 제1항 내지 제10항 중 어느 한 항에 있어서,
    제1 향상 계층 서브픽처가 제2 향상 계층 서브픽처와 다른 상기 이미지의 특성을 향상시키는
    방법.
  12. 제1항 내지 제11항 중 어느 한 항에 있어서,
    단일 향상 계층 서브픽처가 상기 이미지의 다수의 특성을 향상시키는
    방법.
  13. 제1항 내지 제12항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 상기 기본 계층 픽처에서 사용되는 타일 또는 슬라이스와 동일한
    방법.
  14. 제1항 내지 제13항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 공간적으로 중복되지 않도록 제한되는
    방법.
  15. 제1항 내지 제13항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 공간적으로 중복되는 것이 허용되는
    방법.
  16. 제1항 내지 제15항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처 개념은 보완 향상 정보(SEI) 메시지의 형태로 구현되는
    방법.
  17. 제1항 내지 제16항 중 어느 한 항에 있어서,
    상기 하나 이상의 향상 계층 서브픽처를 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사된 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플에서 사용된 동일 포맷으로 변환하는 단계와,
    상기 변환된 향상 계층 픽처를 병합하여 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하는 단계
    를 더 포함하는 방법.
  18. 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더를 포함하고,
    상기 비디오 인코더는
    기본 계층 픽처를 인코딩 및 재구성하고,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
    상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되고,
    상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    장치.
  19. 제18항에 있어서,
    상기 비디오 인코더는 상기 기본 계층 픽처에 대해 상기 하나 이상의 향상 계층 서브픽처를 예측 인코딩하도록 더 구성되는
    장치.
  20. 제18항 또는 제19항에 있어서,
    상기 향상 계층 서브픽처는 이전에 코딩된 향상 계층 픽처에 대해 예측 코딩되는 것이 허용되는
    장치.
  21. 제18항 내지 제20항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처는 이전에 코딩된 향상 계층 서브픽처에 대해 예측 코딩되는 것이 허용되는
    장치.
  22. 제18항 내지 제21항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처는 대응하는 기본 계층 픽처에 대한 향상 정보를 포함하고,
    상기 향상 정보는
    상기 대응하는 기본 계층 픽처의 크로마에 대해 상기 하나 이상의 향상 계층 서브픽처의 크로마의 충실도를 증가시키는 것,
    상기 대응하는 기본 계층 픽처의 비트 깊이에 대해 상기 하나 이상의 향상 계층 서브픽처의 비트 깊이를 증가시키는 것,
    상기 대응하는 기본 계층 픽처의 품질에 대해 상기 하나 이상의 향상 계층 서브픽처의 품질을 증가시키는 것, 또는
    상기 대응하는 기본 계층 픽처의 공간 해상도에 대해 상기 하나 이상의 향상 계층 서브픽처의 공간 해상도를 증가시키는 것
    중 적어도 하나를 포함하는 장치.
  23. 제22항에 있어서,
    상기 비디오 인코더는 서브픽처에 대한 상기 향상 정보를 향상 계층 픽처에 대해 코딩되는 경우와 동일한 신택스를 이용하여 코딩하도록 더 구성되는
    장치.
  24. 제18항 내지 제23항 중 어느 한 항에 있어서,
    상기 비디오 인코더는 상기 향상 계층 서브픽처의 좌상 코너를 상기 픽처의 최대 코딩 유닛(LCU)의 좌상 코너에 정렬하도록 더 구성되는
    장치.
  25. 제22항에 있어서,
    상기 비디오 인코더는 상기 향상 계층 서브픽처의 크기를 최대 코딩 유닛(LCU)의 크기 또는 예측 유닛(PU)의 크기 또는 코딩 유닛(CU)의 크기의 정수배로 제한하도록 더 구성되는
    장치.
  26. 제19항 내지 제25항 중 어느 한 항에 있어서,
    상기 비디오 인코더는 상기 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 기본 계층 픽처의 공동 배치 영역 내의 픽셀만이 사용될 수 있도록 예측 프로세스를 제한하도록 더 구성되는
    장치.
  27. 제19항 내지 제26항 중 어느 한 항에 있어서,
    상기 비디오 인코더는 상기 향상 계층 서브픽처가 기본 계층에 대해 예측 코딩되는 경우, 상기 예측 프로세스 내에 상이한 이미지 처리 동작을 포함시키도록 더 구성되는
    장치.
  28. 제18항 내지 제27항 중 어느 한 항에 있어서,
    제1 향상 계층 서브픽처가 제2 향상 계층 서브픽처와 다른 상기 이미지의 특성을 향상시키도록 구성되는
    장치.
  29. 제18항 내지 제28항 중 어느 한 항에 있어서,
    단일 향상 계층 서브픽처가 상기 이미지의 다수의 특성을 향상시키도록 구성되는
    장치.
  30. 제18항 내지 제29항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 상기 기본 계층 픽처에서 사용되는 타일 또는 슬라이스와 동일한
    장치.
  31. 제18항 내지 제30항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 공간적으로 중복되지 않도록 제한되는
    장치.
  32. 제18항 내지 제30항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처의 크기 및 위치는 공간적으로 중복되는 것이 허용되는
    장치.
  33. 제18항 내지 제32항 중 어느 한 항에 있어서,
    상기 향상 계층 서브픽처 개념은 보완 향상 정보(SEI) 메시지의 형태로 구현되는
    장치.
  34. 제18항 내지 제33항 중 어느 한 항에 있어서,
    상기 비디오 인코더는
    상기 하나 이상의 향상 계층 서브픽처를 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사된 상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플에서 사용된 동일 포맷으로 변환하고,
    상기 변환된 향상 계층 픽처를 병합하여 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 더 구성되는
    장치.
  35. 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체로서,
    상기 코드는 프로세서에 의해 실행될 때 상기 장치로 하여금,
    기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계와,
    기본 계층 픽처를 인코딩 및 재구성하는 단계와,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계와 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
    상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
    를 수행하게 하고,
    상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    컴퓨터 판독 가능 저장 매체.
  36. 프로세서 및 적어도 하나의 메모리로서,
    상기 적어도 하나의 메모리는 코드를 저장하고,
    상기 코드는 상기 프로세서에 의해 실행될 때 장치로 하여금,
    기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하는 단계와,
    기본 계층 픽처를 인코딩 및 재구성하는 단계와,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 - 와,
    상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하는 단계
    를 수행하게 하고,
    상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    프로세서 및 적어도 하나의 메모리.
  37. 스케일링 가능 비트스트림으로부터 기본 계층 픽처를 디코딩하는 단계와,
    상기 스케일링 가능 비트스트림으로부터, 상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 - 와,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
    를 포함하고,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    방법.
  38. 제37항에 있어서,
    상기 디코딩된 향상 계층 서브픽처를 상기 디코딩된 향상 계층 픽처와 분리하여 기준 프레임 버퍼 내에 배치하는 단계를 더 포함하는
    방법.
  39. 제37항에 있어서,
    상기 디코딩된 향상 계층 픽처가 아니라, 상기 디코딩된 향상 계층 서브픽처를 상기 기준 프레임 버퍼 내에 배치하는 단계를 더 포함하는
    방법.
  40. 제37항 내지 제39항 중 어느 한 항에 있어서,
    공간 스케일링 가능성이 사용되는 것에 응답하여, 상기 향상 계층 서브픽처 영역 밖의 샘플을 업샘플링된 기본 계층 픽처로부터 복사하는 단계를 더 포함하는
    방법.
  41. 제37항 내지 제40항 중 어느 한 항에 있어서,
    상기 하나 이상의 향상 계층 서브픽처를 디코딩할 때 상기 기본 계층으로부터의 정보를 이용하는 단계를 더 포함하는
    방법.
  42. 제37항 내지 제41항 중 어느 한 항에 있어서,
    상기 하나 이상의 향상 계층 서브픽처를 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사된 상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플에서 사용된 동일 포맷으로 변환하는 단계와,
    상기 변환된 향상 계층 픽처를 병합하여 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하는 단계
    를 더 포함하는 방법.
  43. 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하도록 구성되는 비디오 디코더를 포함하고,
    상기 비디오 디코더는
    기본 계층 픽처를 디코딩하고,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되고,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    장치.
  44. 제43항에 있어서,
    상기 비디오 디코더는 상기 디코딩된 향상 계층 서브픽처를 상기 디코딩된 향상 계층 픽처와 분리하여 기준 프레임 버퍼 내에 배치하도록 구성되는
    장치.
  45. 제43항에 있어서,
    상기 비디오 디코더는 상기 디코딩된 향상 계층 픽처가 아니라, 상기 디코딩된 향상 계층 서브픽처를 상기 기준 프레임 버퍼 내에 배치하도록 구성되는
    장치.
  46. 제43항 내지 제45항 중 어느 한 항에 있어서,
    상기 비디오 디코더는 공간 스케일링 가능성이 사용되는 것에 응답하여, 상기 향상 계층 서브픽처 영역 밖의 샘플을 업샘플링된 기본 계층 픽처로부터 복사하도록 구성되는
    장치.
  47. 제43항 내지 제46항 중 어느 한 항에 있어서,
    상기 비디오 디코더는 상기 하나 이상의 향상 계층 서브픽처를 디코딩할 때 상기 기본 계층으로부터의 정보를 이용하도록 구성되는
    장치.
  48. 제43항 내지 제47항 중 어느 한 항에 있어서,
    상기 비디오 디코더는
    상기 하나 이상의 향상 계층 서브픽처를 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사된 상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플에서 사용된 동일 포맷으로 변환하고,
    상기 변환된 향상 계층 픽처를 병합하여 기준 프레임 버퍼 내에 단일 향상 계층 픽처를 형성하도록 구성되는
    장치.
  49. 장치에 의한 사용을 위해 코드를 저장한 컴퓨터 판독 가능 저장 매체로서,
    상기 코드는 프로세서에 의해 실행될 때 상기 장치로 하여금,
    기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계와,
    기본 계층 픽처를 디코딩하는 단계와,
    주어진 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 - 와,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
    를 수행하게 하고,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    컴퓨터 판독 가능 저장 매체.
  50. 프로세서 및 적어도 하나의 메모리로서,
    상기 적어도 하나의 메모리는 코드를 저장하고,
    상기 코드는 상기 적어도 하나의 프로세서에 의해 실행될 때 장치로 하여금,
    기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하는 단계와,
    기본 계층 픽처를 디코딩하는 단계와,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하는 단계 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 - 와,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하는 단계
    를 수행하게 하고,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    프로세서 및 적어도 하나의 메모리.
  51. 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 인코딩하도록 구성되는 비디오 인코더로서,
    기본 계층 픽처를 인코딩 및 재구성하고,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 인코딩 및 재구성하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
    상기 재구성된 하나 이상의 향상 계층 서브픽처로부터 향상 계층 픽처를 재구성하도록 더 구성되고,
    상기 재구성된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 재구성된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    비디오 인코더.
  52. 기본 계층 및 적어도 하나의 향상 계층을 포함하는 스케일링 가능 비트스트림을 디코딩하도록 구성되는 비디오 디코더로서,
    기본 계층 픽처를 디코딩하고,
    상기 기본 계층 픽처에 대해 하나 이상의 향상 계층 서브픽처를 디코딩하고 - 상기 하나 이상의 향상 계층 서브픽처는 대응하는 향상 계층 재구성 픽처보다 작은 크기를 가짐 -,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처로부터 디코딩된 향상 계층 픽처를 재구성하도록 구성되고,
    상기 디코딩된 하나 이상의 향상 계층 서브픽처의 영역 밖의 샘플은 상기 디코딩된 기본 계층 픽처로부터 상기 재구성된 향상 계층 픽처로 복사되는
    비디오 디코더.
KR1020157002621A 2012-07-02 2013-06-25 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램 KR101713005B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261667368P 2012-07-02 2012-07-02
US61/667,368 2012-07-02
PCT/FI2013/050695 WO2014006267A1 (en) 2012-07-02 2013-06-25 An apparatus, a method and a computer program for video coding and decoding

Publications (2)

Publication Number Publication Date
KR20150036299A true KR20150036299A (ko) 2015-04-07
KR101713005B1 KR101713005B1 (ko) 2017-03-07

Family

ID=49778138

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157002621A KR101713005B1 (ko) 2012-07-02 2013-06-25 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램

Country Status (6)

Country Link
US (1) US20140003504A1 (ko)
EP (1) EP2868091A4 (ko)
KR (1) KR101713005B1 (ko)
CN (1) CN104604223A (ko)
RU (1) RU2014153258A (ko)
WO (1) WO2014006267A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180018662A (ko) * 2015-06-16 2018-02-21 캐논 가부시끼가이샤 동작 포인트 디스크립터가 동적으로 설정될 수 있는 캡슐화된 비트-스트림으로부터 미디어 데이터 및 메타데이터를 획득하는 방법, 디바이스, 및 컴퓨터 프로그램

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG11201500129UA (en) * 2012-07-09 2015-02-27 Vid Scale Inc Codec architecture for multiple layer video coding
US9992490B2 (en) 2012-09-26 2018-06-05 Sony Corporation Video parameter set (VPS) syntax re-ordering for easy access of extension parameters
US9584808B2 (en) * 2013-02-22 2017-02-28 Qualcomm Incorporated Device and method for scalable coding of video information
US9467707B2 (en) 2013-03-05 2016-10-11 Qualcomm Incorporated Parallel processing for video coding
CN105230017B (zh) * 2013-03-21 2019-08-06 索尼公司 图像编码装置和方法以及图像解码装置和方法
GB2513303B (en) * 2013-04-16 2017-06-07 Canon Kk Method and device for partitioning an image
GB2516224A (en) 2013-07-11 2015-01-21 Nokia Corp An apparatus, a method and a computer program for video coding and decoding
JP6202912B2 (ja) * 2013-07-12 2017-09-27 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP6261215B2 (ja) * 2013-07-12 2018-01-17 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
GB2516824A (en) 2013-07-23 2015-02-11 Nokia Corp An apparatus, a method and a computer program for video coding and decoding
MY178305A (en) * 2013-10-11 2020-10-07 Vid Scale Inc High level syntax for hevc extensions
CN105723712B (zh) * 2013-10-14 2019-06-28 韩国电子通信研究院 基于多层的图像编码/解码方法和设备
US9860540B2 (en) * 2014-01-03 2018-01-02 Qualcomm Incorporated Inference of nooutputofpriorpicsflag in video coding
CN110636238B (zh) * 2014-06-30 2022-01-28 索尼公司 信息处理装置和方法
US9813654B2 (en) * 2014-08-19 2017-11-07 Sony Corporation Method and system for transmitting data
US10547860B2 (en) * 2015-09-09 2020-01-28 Avago Technologies International Sales Pte. Limited Video coding with trade-off between frame rate and chroma fidelity
US10616583B2 (en) * 2016-06-30 2020-04-07 Sony Interactive Entertainment Inc. Encoding/decoding digital frames by down-sampling/up-sampling with enhancement information
US10412390B2 (en) * 2016-07-12 2019-09-10 Mediatek Inc. Video processing system using low-cost video encoding/decoding architecture
WO2018204330A1 (en) * 2017-05-01 2018-11-08 Realnetworks, Inc. Multi-layered video streaming systems and methods
CN111837396B (zh) * 2018-04-03 2023-05-09 华为技术有限公司 基于子图像码流视角相关视频编码中的误差抑制
EP4325849A3 (en) 2018-11-22 2024-04-17 Beijing Bytedance Network Technology Co., Ltd. Coordination method for sub-block based inter prediction
MX2021008347A (es) * 2019-01-09 2021-10-13 Huawei Tech Co Ltd Un codificador de video, un decodificador de video y metodos correspondientes.
MX2021011032A (es) * 2019-03-11 2021-12-15 Huawei Tech Co Ltd Un codificador, un decodificador y métodos correspondientes.
US11317104B2 (en) * 2019-05-15 2022-04-26 Tencent America LLC Method and apparatus for video coding
NZ784074A (en) 2019-07-05 2024-02-23 Huawei Tech Co Ltd Video coding bitstream extraction with identifier signaling
EP3997868A4 (en) * 2019-08-10 2023-02-22 Beijing Bytedance Network Technology Co., Ltd. BUFFER MANAGEMENT DURING SUBPICTURE DECODING
JP7481430B2 (ja) 2019-08-13 2024-05-10 北京字節跳動網絡技術有限公司 サブブロックに基づくインター予測における動き精度
WO2021052507A1 (en) * 2019-09-22 2021-03-25 Beijing Bytedance Network Technology Co., Ltd. Sub-picture coding and decoding of video
JP7482220B2 (ja) 2019-10-18 2024-05-13 北京字節跳動網絡技術有限公司 サブピクチャのパラメータセットシグナリングにおける構文制約
US11477450B2 (en) * 2019-12-20 2022-10-18 Zte (Uk) Limited Indication of video slice height in video subpictures
CN114902684A (zh) * 2019-12-27 2022-08-12 字节跳动有限公司 控制视频编解码中的跨边界滤波
CN115176462A (zh) * 2019-12-27 2022-10-11 抖音视界有限公司 视频编解码中限制片宽度
US11582463B2 (en) 2019-12-30 2023-02-14 Tencent America LLC Method for alignment across layers in coded video stream
KR20220156829A (ko) 2020-03-20 2022-11-28 바이트댄스 아이엔씨 이웃 서브픽처의 코딩
CN115462070A (zh) * 2020-04-20 2022-12-09 字节跳动有限公司 对参考图片列表的约束
WO2023015520A1 (zh) * 2021-08-12 2023-02-16 华为技术有限公司 图像编解码方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004015997A1 (en) * 2002-07-31 2004-02-19 Motorola Inc Object-based scalable video transmissions
US20090296808A1 (en) * 2008-06-03 2009-12-03 Microsoft Corporation Adaptive quantization for enhancement layer video coding
US20100020867A1 (en) * 2007-01-18 2010-01-28 Thomas Wiegand Quality Scalable Video Data Stream
US20110013700A1 (en) * 2009-07-20 2011-01-20 Samsung Electronics Co., Ltd. Method and apparatus for coding and decoding color channels in layered video coding and decoding

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4903317A (en) * 1986-06-24 1990-02-20 Kabushiki Kaisha Toshiba Image processing apparatus
US20020118743A1 (en) * 2001-02-28 2002-08-29 Hong Jiang Method, apparatus and system for multiple-layer scalable video coding
US9578345B2 (en) * 2005-03-31 2017-02-21 Euclid Discoveries, Llc Model-based video encoding and decoding
MY152568A (en) * 2005-10-12 2014-10-31 Thomson Licensing Region of interest h.264 scalable video coding
US7535383B2 (en) * 2006-07-10 2009-05-19 Sharp Laboratories Of America Inc. Methods and systems for signaling multi-layer bitstream data
FI119342B (fi) * 2006-08-17 2008-10-15 Polyadaptive Ipr Oy Parannettu laite ja menetelmä, jotka käyttää matriisitietovarastoa
US20080095228A1 (en) * 2006-10-20 2008-04-24 Nokia Corporation System and method for providing picture output indications in video coding
US8019167B2 (en) * 2007-01-03 2011-09-13 Human Monitoring Ltd. Compressing high resolution images in a low resolution video
US8243797B2 (en) * 2007-03-30 2012-08-14 Microsoft Corporation Regions of interest for quality adjustments
US8432968B2 (en) * 2007-10-15 2013-04-30 Qualcomm Incorporated Scalable video coding techniques for scalable bitdepths
CN101742324A (zh) * 2008-11-14 2010-06-16 北京中星微电子有限公司 视频编解码方法、视频编解码系统及编解码器
US8345749B2 (en) * 2009-08-31 2013-01-01 IAD Gesellschaft für Informatik, Automatisierung und Datenverarbeitung mbH Method and system for transcoding regions of interests in video surveillance
CN102098519B (zh) * 2009-12-09 2013-04-17 浙江大学 视频编码方法、解码方法、编码及解码装置
US8611414B2 (en) * 2010-02-17 2013-12-17 University-Industry Cooperation Group Of Kyung Hee University Video signal processing and encoding
JP5663093B2 (ja) * 2010-10-01 2015-02-04 ドルビー ラボラトリーズ ライセンシング コーポレイション 参照ピクチャー処理のための最適化されたフィルタ選択
US8705890B2 (en) * 2011-05-02 2014-04-22 Los Alamos National Security, Llc Image alignment
US9451284B2 (en) * 2011-10-10 2016-09-20 Qualcomm Incorporated Efficient signaling of reference picture sets
US9204156B2 (en) * 2011-11-03 2015-12-01 Microsoft Technology Licensing, Llc Adding temporal scalability to a non-scalable bitstream

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004015997A1 (en) * 2002-07-31 2004-02-19 Motorola Inc Object-based scalable video transmissions
US20100020867A1 (en) * 2007-01-18 2010-01-28 Thomas Wiegand Quality Scalable Video Data Stream
US20090296808A1 (en) * 2008-06-03 2009-12-03 Microsoft Corporation Adaptive quantization for enhancement layer video coding
US20110013700A1 (en) * 2009-07-20 2011-01-20 Samsung Electronics Co., Ltd. Method and apparatus for coding and decoding color channels in layered video coding and decoding

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180018662A (ko) * 2015-06-16 2018-02-21 캐논 가부시끼가이샤 동작 포인트 디스크립터가 동적으로 설정될 수 있는 캡슐화된 비트-스트림으로부터 미디어 데이터 및 메타데이터를 획득하는 방법, 디바이스, 및 컴퓨터 프로그램
US10575004B2 (en) 2015-06-16 2020-02-25 Canon Kabushiki Kaisha Method, device, and computer program for obtaining media data and metadata from encapsulated bit-streams wherein operating point descriptors can be dynamically set

Also Published As

Publication number Publication date
CN104604223A (zh) 2015-05-06
EP2868091A4 (en) 2016-02-24
RU2014153258A (ru) 2016-08-20
WO2014006267A1 (en) 2014-01-09
KR101713005B1 (ko) 2017-03-07
US20140003504A1 (en) 2014-01-02
EP2868091A1 (en) 2015-05-06

Similar Documents

Publication Publication Date Title
KR101713005B1 (ko) 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램
KR101881677B1 (ko) 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램
US11800131B2 (en) Apparatus, a method and a computer program for video coding and decoding
KR101715784B1 (ko) 비디오 코딩 방법 및 장치
KR101630564B1 (ko) 비디오 코딩을 위한 방법 및 장치
KR101790156B1 (ko) 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램
KR102077900B1 (ko) 비디오 코딩 및 디코딩을 위한 장치, 방법 및 컴퓨터 프로그램
US10547867B2 (en) Method, an apparatus and a computer program product for video coding and decoding
KR102474636B1 (ko) 크로스-채널 잔차 인코딩 및 디코딩을 위한 양자화 파라미터 도출
US20140254681A1 (en) Apparatus, a method and a computer program for video coding and decoding
EP3497932A1 (en) Video encoding and decoding
US20140085415A1 (en) Method and apparatus for video coding

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
N231 Notification of change of applicant
E701 Decision to grant or registration of patent right